JP2017198943A - 撮像装置および撮像装置の制御方法 - Google Patents
撮像装置および撮像装置の制御方法 Download PDFInfo
- Publication number
- JP2017198943A JP2017198943A JP2016091585A JP2016091585A JP2017198943A JP 2017198943 A JP2017198943 A JP 2017198943A JP 2016091585 A JP2016091585 A JP 2016091585A JP 2016091585 A JP2016091585 A JP 2016091585A JP 2017198943 A JP2017198943 A JP 2017198943A
- Authority
- JP
- Japan
- Prior art keywords
- area
- focus detection
- signal
- region
- focus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】 焦点検出が可能な領域が限られている場合に、被写体の移動が発生したとしても、被写体領域に対して安定した焦点検出を可能にする。【解決手段】 撮像装置は、第1の領域に含まれる画素部から第1の信号を読み出す第1の読み出し制御と、第2の領域に含まれる画素部から第2の信号を読み出す第2の読み出し制御とが可能な撮像素子と、少なくとも第2の信号を用いて第1の周期で焦点検出する焦点検出手段と、第1の信号から検出された所定の被写体領域の情報を第2の周期で取得する取得手段と、所定の被写体領域の情報に基づいて、第2の領域を設定する設定手段とを有する。第2の領域は、第1の領域に含まれる領域であって、第1の周期が第2の周期よりも短い場合、設定手段は、取得手段により所定の被写体領域の情報が取得されるタイミングに応じて、第2の領域の設定を変更する。【選択図】 図3
Description
本発明は、焦点検出に用いる信号を取得可能な撮像素子を備えた撮像装置に関するものである。
デジタルカメラなどの撮像装置で用いられる焦点検出の1つとして、撮像素子から取得された信号により位相差検出方式の焦点検出を行う撮像面位相差検出方式の焦点検出がある。撮像面位相差検出方式の焦点検出が可能な撮像素子の一例として、各画素部において1つのマイクロレンズに対応して複数のフォトダイオードを備えることにより、各フォトダイオードにおいて撮影光学系の異なる瞳領域を通過した光を受光する構成が知られている。この構成により、各フォトダイオードからの信号を用いて相関演算を行うことで焦点検出が可能となるとともに、複数のフォトダイオードの信号を合成して撮像信号を取得することができる。
上述のように各画素部が複数のフォトダイオードを有する場合には、全ての信号を読み出すのに長い時間を要してしまう。一方、近年の4Kや8Kカメラなどのように高解像度化や、高速撮影が可能なハイスピードカメラなどのようにフレームレートの高速化が進むにつれて、焦点検出信号を読み出す時間や、読み出した焦点検出信号の演算処理時間に対する制限が大きくなる。
このような課題に対して、特許文献1では、焦点検出に用いる信号を読み出す領域を、画面内の一部の領域に限定する構成が開示されている。
人物の顔など特定の被写体にピントが合うように焦点調節制御を行う場合には、通常、取得された被写体領域の情報に基づいて焦点検出領域が設定され、焦点検出領域から取得された信号を用いて焦点検出が行われる。
しかしながら、特許文献1のように焦点検出用の信号を読み出す領域を限定すると、特に被写体の移動が発生した場合、被写体情報が取得されるタイミングによっては、焦点検出信号が読み出された領域に必ずしも被写体が含まれていないおそれがある。
上記課題に鑑みて、本発明は、焦点検出が可能な領域が限られている場合に、被写体の移動が発生したとしても、被写体領域に対して安定した焦点検出を可能にすることを目的とする。
上記目的を達成するために、本発明に係る撮像装置は、二次元状に配置された複数の画素部を備え、第1の領域に含まれる画素部から第1の信号を読み出す第1の読み出し制御と、第2の領域に含まれる画素部から第2の信号を読み出す第2の読み出し制御とが可能な撮像素子と、少なくとも前記第2の信号を用いて第1の周期で焦点検出する焦点検出手段と、前記第1の信号から検出された所定の被写体領域の情報を第2の周期で取得する取得手段と、前記所定の被写体領域の情報に基づいて、前記第2の領域を設定する設定手段と、を有し、前記第2の領域は、前記第1の領域に含まれる領域であって、前記第1の周期が前記第2の周期よりも短い場合、前記設定手段は、前記取得手段により前記所定の被写体領域の情報が取得されるタイミングに応じて、前記第2の領域の設定を変更することを特徴とする。
本発明によれば、焦点検出が可能な領域が限られている場合に、被写体の移動が発生したとしても、被写体領域に対して安定した焦点検出が可能になる。
以下、添付図面を参照して本発明の実施形態を詳細に説明する。なお、以下に説明する実施形態は、本発明の実現手段としての一例であり、本発明は以下の実施形態に限定されるものではない。
図1は、本実施形態に係る撮像装置の一例としてのレンズ交換式カメラの機能構成例を示すブロック図である。図1に示すように、本実施形態に係る撮像装置は、交換可能なレンズユニット10及びカメラ本体20から構成されている。レンズユニット全体の動作を統括制御するレンズ制御部106と、カメラシステム全体の動作を統括するカメラ制御部212とは、レンズマウントに設けられた端子を介して相互に情報を通信可能である。
まず、レンズユニット10の構成について説明する。ズームレンズ101、絞り102、フォーカスレンズ103は撮影光学系を構成する。ズームレンズ101は、光軸方向に移動されることによって焦点距離が変更され、像の倍率を変更する(変倍)機能を有する。ズームレンズ101は不図示の操作部材を用いて手動で移動される構成としてもよいし、駆動部を設けて電動ズームを行う構成としてもよい。絞り102は、絞り駆動部104によって駆動され、後述する撮像素子201への入射光量を制御する。フォーカスレンズ103は、フォーカスレンズ駆動部105によって駆動され、後述する撮像素子201に結像する焦点位置の調節を行う。絞り駆動部104とフォーカスレンズ駆動部105は、レンズ制御部106によって制御され、絞り102の開口量や、フォーカスレンズ103の位置が決定される。
レンズ操作部107は、ユーザがレンズユニット10の動作に関する設定を行うための入力デバイス群である。レンズ操作部107がユーザによって操作された場合、レンズ制御部106が操作に応じた制御を行う。レンズ制御部106は、後述するカメラ制御部212から受信した制御命令や制御情報に応じて絞り駆動部104やフォーカスレンズ駆動部105の制御を行い、また、レンズ制御情報をカメラ制御部212に送信する。
次に、カメラ本体20の構成について説明する。カメラ本体20は、レンズユニット10の撮影光学系を通過した光束から撮像信号を取得できるように構成されている。撮像素子201は、CCDやCMOSセンサを備えて構成される。レンズユニット10の撮影光学系を通過した光束は撮像素子201の受光面上に結像し、撮像素子201の画素部に設けられたフォトダイオードによって入射光量に応じた信号電荷に変換される。各フォトダイオードに蓄積された信号電荷は、カメラ制御部212の指令に従ってタイミングジェネレータ215から与えられる駆動パルスにより、信号電荷に応じた電圧信号として撮像素子201から順次読み出される。
本実施形態の撮像素子201は、二次元状に複数の画素部が配置され、1つの画素部に複数のフォトダイオードが設けられており、撮像面位相差検出方式による自動焦点調節(以下、撮像面位相差AF)に用いる像信号を生成可能である。図2(a)は、撮像面位相差AFに対応していない画素部の配列、図2(b)は、撮像面位相差AFに対応した画素部の配列を模式的に示している。なお、ここではいずれの場合もベイヤ配列の原色カラーフィルタが設けられているものとする。撮像面位相差AFに対応した図2(b)の画素部の配列では、図2(a)における1つの画素部が紙面水平方向に2分割されており、1つのマイクロレンズ(不図示)に対してAB2つのフォトダイオードが設けられている。なお、図2(b)に示した分割方法は一例であり、他の方法を用いたり、画素部によって異なる分割方法が適用されてもよい。
各画素部に入射する光束をマイクロレンズで分離し、画素部に設けられた2つのフォトダイオードで受光することで、1つの画素部で撮像用とAF用(焦点検出用)の2つの信号が取得できる。つまり、画素部内の2つのフォトダイオードの信号を合成した信号(A+B)が撮像信号であり、個々のフォトダイオードで得られる信号(A、B)がAF用の2つの像信号である。撮像面位相差AFで用いる1対の像信号は、複数のA画素部と複数のB画素部の出力から得られる。AF用信号を基に、後述するAF信号処理部204で2つの像信号に対して相関演算を行い、像ずれ量や各種信頼性情報を算出する。
なお、撮像信号及び2つのAF用像信号の計3信号を撮像素子201から読み出してもよいが、本実施形態はこのような方法に限定されない。撮像素子201の負荷を考慮し、撮像信号と1つのAF用像信号(例えばA画素部の信号)を読み出し、撮像信号とAF用信号の差分をもう1つのAF用像信号として用いてもよい。
CDS/AGC/ADコンバータ202は、撮像素子201から読み出された撮像信号及びAF用信号に対し、リセットノイズを除去する為の相関二重サンプリング、ゲインの調節、信号のデジタル化を行う。CDS/AGC/ADコンバータ202は、撮像信号を画像入力コントローラ203に、撮像面位相差AF用の信号をAF信号処理部204にそれぞれ出力する。
画像入力コントローラ203は、CDS/AGC/ADコンバータ202から出力された撮像信号をバス21を介してSDRAM209に格納する。SDRAM209に格納された画像信号は、バス21を介して表示制御部205によって読み出され、表示部206に表示される。また、撮像信号の記録を行うモードでは、SDRAM209に格納された画像信号は、記録媒体制御部207によって記録媒体208に記録される。
ROM210には、カメラ制御部212が実行する制御プログラム及び制御に必要な各種データ等が格納されており、フラッシュROM211には、ユーザ設定情報等のカメラ本体20の動作に関する各種設定情報等が格納されている。
AF信号処理部204は、CDS/AGC/ADコンバータ202から出力されたAF用の2つの像信号に対して相関演算を行い、像ずれ量、信頼性情報(二像一致度、二像急峻度、コントラスト情報、飽和情報、キズ情報等)を算出する。AF信号処理部204は、算出した像ずれ量および信頼性情報をカメラ制御部212へ出力する。
カメラ制御部212は、AF信号処理部204が求めた像ずれ量や信頼性情報を基に、必要に応じてAF信号処理部204の設定を変更する。例えば、像ずれ量が大きい場合に相関演算を行う領域を広く設定したり、コントラスト情報に応じてバンドパスフィルタの種類を変更したりする。相関演算の詳細については、図9から図12を用いて後述する。
顔検出部216は、撮像信号に対して公知の顔検出処理を施して、撮影画面内の人物の顔を検出し、検出結果をカメラ制御部212に送信する。カメラ制御部212は、顔検出部216の検出結果に基づき、撮影画面内の顔を含む領域にAF領域を設定するようにAF信号処理部204へ情報を送信する。ここで、顔検出部216が複数の人物の顔を検出した場合には、不図示の主顔判定処理部によって最も優先と判断された顔を主顔とする。主顔を判断するための優先順位は、例えば顔の位置や顔のサイズ等に基づいて決定されるが、撮影者の指示によって優先順位を決めてもよい。例えば、撮影者の指示によって選択された顔の優先度を最も高く、続いて顔の位置が画面中央に近い程、顔のサイズが大きい程優先度が高くなるように判定を行う。但し、優先順位の決め方はこの限りではない。
なお、顔検出処理としては、例えば、画像データで表される各画素の階調色から肌色領域を抽出し、予め用意する顔の輪郭プレートとのマッチング度で顔を検出する方法がある。あるいは、周知のパターン認識技術を用いて、目、鼻、口等の顔の特徴点を抽出することで顔検出を行う方法がある。本実施形態では、顔検出処理の方法については上述した方法に限られず、どのような方法であってもよい。
追尾処理部217は、CDS/AGC/ADコンバータ202から出力された撮像信号から時刻の異なる画像を取得して画像の特徴量を抽出し、特徴量が類似する領域を探索する追尾処理を行う。基準画像が登録されていない初期動作時には、後述するカメラ操作部214の操作に基づく情報や顔検出部216の検出結果に基づく画像内の部分領域を基準画像とする。そして、追尾処理部217は、基準画像から色情報を抽出し、追尾する被写体の特徴量として登録する。追尾処理部217は、抽出した追尾対象被写体の特徴量を基に、現在のフレームにおける撮像信号の画像と基準画像とのマッチング処理を行う。追尾処理部217は、マッチング処理により、現在のフレームで取得された撮像信号に基づく画像において、基準画像と最も相関度が高い領域を目的とする特定の領域として抽出する。そして、追尾処理部217は、相関度に応じて追尾を継続するかどうかを判定する。また、追尾処理部217は、相関度に基づく追尾の状態を信頼度(追尾処理の信頼度)として算出してカメラ制御部212に送る。追尾状態の信頼度は、AF制御(フォーカス制御)のパラメータとして使用される。
カメラ制御部212は、カメラ本体20内の各ブロックと情報をやり取りして制御を行う。カメラ制御部212は、カメラ本体20内の処理だけでなく、カメラ操作部214からの入力に応じて、電源のON/OFF、設定の変更、記録の開始、AF制御の開始、記録映像の確認等の、ユーザが操作した様々なカメラ機能を実行する。また、カメラ制御部212は、レンズユニット10内のレンズ制御部106と情報を通信し、撮影光学系の制御命令や制御情報を送ったり、レンズユニット10の情報を取得する。
次に、本実施形態の概要とその効果について、図3及び図4を用いて説明する。本実施形態では、撮像面位相差AFを行う際に、撮像素子201で生成される信号の読み出しに制限があり、1フレーム期間に焦点検出に用いる信号(AF用像信号)を読み出すことが可能な領域が制限される場合を想定している。これは、高解像度化や高速撮影が可能なハイスピードカメラなどのようにフレームレートの高速化が進むにつれて、所定時間で読み出せるAF用像信号に限りがあったり、読み出したAF用像信号を用いた位相差方式の演算処理時間にも限りがあるためである。上述したように、撮像信号及び2つのAF用像信号の計3信号を読み出す場合には、2つのAF用像信号を読み出す領域が制限される。あるいは、撮像信号と1つのAF用像信号を読み出し、これらの差分をもう1つのAF用像信号とする場合には、1つのAF用像信号を読み出す領域が制限される。なお、複数の異なるフレームレートが設定可能で、第1のフレームレートでは上記の制限が発生せず、第1のフレームレートよりも高い第2のフレームレートでは上記の制限が発生するような場合も本実施形態の範囲内である。
図3(a)〜(c)では、顔検出部216によって検出された顔の領域と、焦点検出に使用する像データ(以下、単に像データとも言う)の読み出し領域を示している。図3(a)では、画面301の中に、顔検出部216によって検出された顔302がある。一般的なAFの場合、顔302の領域に基づいてAF領域が設定されるが、上述したような制限があり、画面内の一部の領域(ここでは例として画面全体の約20%とする)の像データしか読み出せないという制約がある。
そこで、図3(b)に示すように、顔302に対応する領域303の像データを読み出してAF領域312を設定する。あるいは、図3(c)に示すように、画面全体に対して4%の領域を5本間引いて配置し、合計で20%になるような領域305の像データを読み出す。この場合、AF領域312よりも大きいAF領域313を設定することができる。図3(b)の例では隙間なく像データを得ることができるので、高い精度の焦点検出結果が得られるが、検出領域が小さくなるため、大きなAF領域が設定できない。一方、図3(c)の例では、読み出し領域の間に隙間が空いてしまうことにより、焦点検出精度は低下するが、より広範囲の焦点検出結果を取得できるというメリットがある。
ここで、焦点検出に使用する像データの読み出しに制限がある場合の課題と本実施形態による効果について、図4を用いて説明する。図4では、焦点検出が行われる周期が、顔検出結果が取得される周期よりも短い場合を想定している。ここでは撮像周期で焦点検出の演算が行われる場合を例に説明するが、この限りではない。以下では、撮像周期を60Hz(焦点検出もこの周期で行われる)、顔検出結果が取得される周期を30Hzとして説明する。
図4(a)は、顔検出を行う場合における、画像の読み出し、焦点検出演算、顔領域の取得のそれぞれのタイミングを示した図である。破線401は周期的に発生する垂直同期信号を示し、それに応じて1フレームの画像402が読み出される。また、顔検出部216により画像から検出された顔領域404が示されている。1フレーム期間において、上述した合成信号(A+B)の読み出しと、信号(A)と信号(B)のうち少なくとも一方の読み出しが行われる。
まず、第一の顔403が含まれる画像を1フレーム目とすると、顔検出部216による検出結果(顔の位置とサイズ)は4フレーム目で第一の顔領域404として取得される。第一の顔領域404が取得された後、カメラ制御部212は、AF領域を決定するため、撮像素子201に対して領域405の像データを読み出すように設定し、5フレーム目において像データが読み出される。ここでは、図3(b)で説明したように、像データを読み出す領域を間引かないように設定することとする。AF信号処理部204は、5フレーム目で読み出された像データを用いて演算処理406を行い、焦点検出結果が得られる。
ここで、第一の顔403が画面下のほうに移動した場合(移動後の顔を第二の顔408とする)、第二の顔408が含まれる画像を3フレーム目とすると、顔検出部216による検出結果として第二の顔領域409が取得されるのは6フレーム目である。この場合、第二の顔領域409と像データが読み出される領域405の範囲が異なる。そのため、6フレーム目で読み出される像データを用いた演算処理407においては、移動後の顔領域が取得されていながら、顔領域と異なる領域の焦点検出結果を算出することになり、適切な焦点検出結果を用いてAFすることができない。
これは、顔検出結果が取得される周期が焦点検出演算の周期より長いことと、像データを読み出す範囲を顔領域が取得された後に設定する必要があることに起因する。そのため、顔検出結果が更新されないタイミングで顔が移動した場合、最新の顔検出結果に対応して像データを読み出すべき領域と実際に設定される読み出し領域とでズレが生じてしまう可能性がある。
そこで、本実施形態では、顔検出結果が更新されないタイミングでは、次のフレームで、像データの読み出し領域を図3(c)で説明したように拡大した領域(間引かれた領域)に設定し、顔の移動に対応できるようにする。図4(b)では、6フレーム目において、拡大した読み出し領域413が設定される例を示している。この場合、移動後の第二の顔408の検出結果である第二の顔領域409に読み出し領域413の像データが含まれるので、6フレーム目で読み出された像信号を用いた演算処理414において、第二の顔領域409に対応する焦点検出結果が得られる。すなわち、顔領域が更新されないタイミングで、カメラ制御部212は、次のフレームで顔の移動に備えて像データを読み出す範囲を拡大して(間引いて)設定する。これにより、顔領域が更新されないタイミングで顔が移動した場合でも、焦点検出精度は落ちるものの、より確実に最新の顔領域に対応した焦点検出結果を取得することができる。
また、顔検出結果が更新されるタイミングで、カメラ制御部212は、次のフレームで、図4(a)と同様に、検出された顔領域に基づいて間引かずに像データの読み出し領域を設定する。これにより、最新の顔領域に基づいて、高い精度で焦点検出を行うことができる。
像データの読み出し領域は、さらに顔の移動量や顔のサイズ変化に応じて設定される。例えば、図3(d)のように顔302が移動量307だけ移動して顔306になった場合、カメラ制御部212は、顔302の位置から移動量307分だけオフセットした位置に後述する仮AF領域314を設定する。そして、カメラ制御部212は、仮AF領域314に基づいて像データの読み出し領域308を設定する。これにより、移動後の顔302の領域に対応する領域の焦点検出結果を使用してAFすることができる。
また、図3(f)のように顔302が顔309のように拡大した場合、カメラ制御部212は、顔302のサイズを拡大率310だけ拡大したサイズの仮AF領域315を設定する。そして、カメラ制御部212は、仮AF領域315に基づいて像データの読み出し領域311を設定する。これにより、拡大後の顔309に対応する領域の焦点検出結果を使用してAFすることができる。
以上説明したように、顔検出結果の取得タイミングに応じて像データの読み出し領域を変更することにより、像データの読み出し領域に制限があっても、最新の顔検出結果に基づくAF制御が可能になる。なお、像データの読み出しが制限される場合を想定して説明を行ったが、演算処理に制限がある場合には、顔検出結果の取得に応じて焦点検出演算処理に使用する範囲を変更してもよい。これにより、本実施形態と同様の効果が得られる。
次に、本実施形態におけるカメラ本体20の動作について説明する。
図5は、カメラ本体20の撮影処理の手順を示すフローチャートである。S501でカメラ制御部212は、カメラの初期化処理を行い、S502へ処理を進める。初期化処理の詳細については図6で後述する。S502でカメラ制御部212は、カメラ本体20の撮影モードが動画撮影モードか静止画撮影モードかを判定し、動画撮影モードである場合はS503へ、静止画撮影モードである場合はS504へ処理を進める。S503でカメラ制御部212は、動画撮影処理を行い、S505へ処理を進める。S503の動画撮影処理の詳細については図7で後述する。S502で静止画撮影モードであれば、S504でカメラ制御部212は、静止画撮影処理を行いS505へ処理を進める。S504の静止画撮影処理の詳細については省略する。
S503で動画撮影処理、若しくはS504で静止画撮影処理を行った後に進むS505でカメラ制御部212は、撮影処理が停止されたかどうかを判断し、停止されていない場合はS506へ処理を進め、停止された場合は撮影処理を終了する。撮影処理が停止されたときとは、カメラの電源が切断されたときや、カメラのユーザ設定処理、撮影画像・動画の確認のための再生処理等、撮影以外の動作が行われたときである。S505で撮影処理が停止されていないと判断した後に進むS506でカメラ制御部212は、撮影モードが変更されたかどうかを判断し、変更されている場合はS501へ、変更されていない場合はS502へ、処理を戻す。撮影モードが変更されていなければ、カメラ制御部212は現在の撮影モードの処理を継続して行い、撮影モードが変更された場合は、カメラ制御部212はS501で初期化処理を行った上で変更された撮影モードの処理を行う。
次に、図5のS501の初期化処理について図6のフローチャートを用いて説明する。S601でカメラ制御部212は、カメラの各種初期値設定を行いS602へ処理を進める。撮影処理を開始または撮影モードが変更された時点におけるユーザ設定や撮影モード等の情報を基に、カメラ制御部212は初期値を設定する。
S602でカメラ制御部212は、合焦停止フラグをオフにしてS603に処理を進める。S603でカメラ制御部212は、サーチ駆動フラグをオフにしてS604に処理を進める。S604でカメラ制御部212は、予測AF領域使用許可フラグをオフにしてS605に処理を進める。S605でカメラ制御部212は、AF駆動許可フラグをオフにして処理を終了する。
S602でカメラ制御部212が初期化する合焦停止フラグは、動画撮影中に合焦したと判定しフォーカスレンズを停止している場合はオン、未だ合焦していないと判定しフォーカスレンズを駆動している場合はオフとなる。合焦停止フラグのオン/オフを切り替えることで、現在フォーカスレンズを駆動している状態なのか、停止している状態なのかを判別することが可能である。
S603で初期化するサーチ駆動フラグは、フォーカスレンズを駆動する際、撮像面位相差検出方式で検出したデフォーカス量が信頼できる場合にはオフ、信頼できない場合にはオンとなる。デフォーカス量が信頼できる場合とは、デフォーカス量の精度が確かである場合、またはデフォーカス方向は確かである場合、すなわち信頼性がある程度より高い状態である。例えば、主被写体に対して合焦近傍と判断される状態や、すでに合焦している状態である。このような状態ではデフォーカス量を信頼してフォーカスレンズの駆動を行う。デフォーカス量が信頼できない場合とは、デフォーカス量及び方向がいずれも確かであると判定できない場合、すなわち信頼性がある程度より低い状態である。例えば、主被写体に対して大きくボケている状態のようにデフォーカス量が正しく算出できないような状態である。この場合には、デフォーカス量を信頼してフォーカスレンズを駆動すると適切な焦点調節ができないおそれがあるため、サーチ駆動(デフォーカス量を用いずにフォーカスレンズを一定方向に駆動して被写体を探す駆動)を行う。
S604で初期化する予測AF領域使用許可フラグは、通常のAF領域を使用するか、後述する予測したAF領域(予測AF領域)を使用するかを切り替えるフラグである。通常、AF領域は、カメラのAF枠設定に従い、固定枠、顔枠、追尾枠などが設定される。固定枠の場合は、予め決められた範囲、あるいはユーザが指定した任意の範囲を含むようにAF枠が設定される。顔枠/追尾枠の場合は、画像から検出された顔領域の少なくとも一部を含むようにAF領域が自動設定され、逐次更新される。予測AF領域の設定については、図17を用いて後述する。
S605で初期化するAF駆動許可フラグは、AF制御を行うか否かを判定するフラグである。検出された顔領域/追尾領域と予測AF領域が一致していた場合にAF駆動許可フラグがオンとなって、予測AF領域を使用してAF制御が行われる。領域の一致の判断については、図19を用いて後述する。
次に、図5のS503における動画撮影処理について、図7を用いて説明する。S701からS704でカメラ制御部212は、動画記録に関する制御を行う。S701でカメラ制御部212は、動画記録スイッチがオンされているかどうかを判断し、オンされている場合はS702へ処理を進め、オンされていない場合はS705へ処理を進める。S702でカメラ制御部212は、現在動画記録中かどうかを判断し、動画記録中でない場合はS703で動画記録を開始してS705へ処理を進め、動画記録中である場合はS704で動画記録を停止してS705へ処理を進める。本実施形態においては動画記録スイッチを押下するごとに動画の記録開始と停止を行うが、記録開始と停止とで異なるボタンを用いたり、切り替えスイッチを設ける等の他の方式によって記録開始と停止を行っても構わない。
S705でカメラ制御部212は、AF領域算出処理を行い、S706へ処理を進める。AF領域算出処理は、AF領域を決定するための処理であり、詳細は図17を用いて後述する。
S706でカメラ制御部212は、焦点検出処理を行い、S707へ処理を進める。焦点検出処理は、カメラ制御部212及びAF信号処理部204による、撮像面位相差AFを行うためのデフォーカス情報及び信頼性情報を取得する処理であり、詳細は図8を用いて後述する。
S707でカメラ制御部212は、AF領域一致度算出処理を行い、S708へ処理を進める。AF領域一致度算出処理は、検出された顔領域/追尾領域が、予測したAF領域と一致するかを判断する処理であり、詳細は図19を用いて後述する。
S708でカメラ制御部212は、S707において設定されるAF駆動許可フラグのオン/オフを監視し、オンである場合はAF領域が一致しているのでS709に処理を進め、オフである場合はAF領域が一致していないのでS712に処理を進める。S712でカメラ制御部212は、AF処理を行わずに、前回取得されたデフォーカス量に基づいてフォーカスレンズを駆動している場合はその処理を継続させる。
S709でカメラ制御部212は、現在合焦停止中かどうかを判断し、合焦停止中でない場合はS710へ処理を進め、合焦停止中である場合はS711へ処理を進める。合焦停止中かどうかは、先述した合焦停止フラグのオン/オフによって判断することができる。S710はS706で検出した情報を基にAF制御を行うもので、詳細は図13を用いて後述する。S709で合焦停止中だと判断した場合に進むS711でカメラ制御部212は、AF再起動判定処理を行い、動画撮影処理を終了する。AF再起動判定処理は、合焦停止中から主被写体が移動したり変わったとして再度AF制御を開始するかどうかの判定を行うもので、詳細は図16を用いて後述する。
次に、図7のS706における焦点検出処理について、図8を用いて説明する。まず、S801でカメラ制御部212は、AF領域設定処理を行う。AF領域設定処理は、後述する撮像処理前に、像データを取得する領域を予め設定する処理である。これは、上述したように、本実施形態では撮像領域に対して一部の限られた領域のみでしか焦点検出ができないという制約があるためである。よって、全画素に対して焦点検出の処理を行うのではなく、予め焦点検出に必要な部分のみを設定し、効率よくAF制御を行うためにS801の処理を行う。AF領域設定処理の詳細については、図18を用いて後述する。
S802でカメラ制御部212は、撮像処理を行う。これは、タイミングジェネレータ215に命令を送り、撮像素子201に信号電荷を蓄積させる処理である。S803でAF信号処理部204は、S801で設定されたAF領域に含まれる画素部から焦点検出用の像信号を取得する。次に、S804でAF信号処理部204は、S803で取得した像信号間の相関量を算出する。続いて、S805でAF信号処理部204は、S804で算出した相関量から相関変化量を算出する。続いて、S806でAF信号処理部204は、S805で算出した相関変化量からピントずれ量を算出する。続いて、S807でAF信号処理部204は、S806で算出したピントずれ量がどれだけ信頼できるのかを表す信頼性を算出する。これらの処理を、AF領域内に存在する焦点検出領域の数だけ行う。そして、S808でAF信号処理部204は、焦点検出領域毎にピントずれ量をデフォーカス量に変換し、焦点検出処理を終了する。
図9から図12を用いて、図8で説明した焦点検出処理をさらに詳細に説明する。図9は、焦点検出処理で取り扱う焦点検出範囲と焦点検出領域の一例を模式的に表した図である。図9(a)は、撮像素子201の画素アレイ901における焦点検出範囲902の例を示している。シフト領域903は、相関演算に必要な領域である。したがって、焦点検出範囲902とシフト領域903を合わせた領域904が相関演算に必要な画素部の領域である。図中のp、q、s、tはそれぞれx軸方向の座標を表し、pおよびqは領域904の始点及び終点のx座標を、sおよびtは焦点検出範囲902の始点及び終点のx座標を表す。
図9(b)は、焦点検出範囲902を5つの焦点検出領域905〜909に分割した例を示す図である。本実施形態ではこのように焦点検出範囲を分割した焦点検出領域毎にピントずれ量を算出し、最も信頼できる領域のピントずれ量を用いて焦点調節を行う。
図9(c)は、図9(b)の焦点検出領域905〜909を連結した仮の焦点検出領域910を示す図である。このように、焦点検出領域を連結した領域から算出したピントずれ量を用いても良い。焦点検出領域の配置の仕方、領域の広さ等は、ここで例示した構成に限られるものではなく、他の構成を用いても良い。
図10は、図9で設定した焦点検出領域905〜909に含まれる画素部から取得したAF用の像信号の例を示している。実線が像信号A1001、破線が像信号B1002を示している。xからyは、分割した1つ分の焦点検出領域を示している。
図10(a)は、シフト前の像信号を波形で表した例を示している。図10(b)は、図10(a)のシフト前の像波形に対しプラス方向にシフトした状態を、図10(c)は、図10(a)のシフト前の像波形に対しマイナス方向にシフトした状態を示している。相関量を算出する際には、像信号A1001及び像信号B1002の両方を、矢印の方向に1ビットずつシフトする。続いて相関量CORの算出法について説明する。
まず、図10(b)および(c)に示したように、像信号A1001と像信号B1002を1ビットずつシフトし、その時の像信号Aと像信号Bの差の絶対値の和を算出する。この時、シフト量をiで表し、最小シフト数は図10中のp−s、最大シフト数は図10中のq−tである。またxは焦点検出領域の開始座標、yは焦点検出領域の終了座標である。これらを用い、相関量CORは以下の式(1)によって算出することができる。
図11(a)は、シフト量と相関量との関係例を示した図である。横軸はシフト量を示し、縦軸は相関量を示す。相関量波形1101における極値周辺1102、1103のうち、相関量が小さい方ほど、像信号Aと像信号Bの一致度が高い。続いて相関変化量ΔCORの算出法について説明する。
まず、図11(a)の相関量波形から、1シフト飛ばしの相関量の差から相関変化量を算出する。この時、シフト量をiで表し、最小シフト数は図10中のp−s、最大シフト数は図10中のq−tである。これらを用い、相関変化量ΔCORは以下の式(2)によって算出することができる。
図11(b)は、シフト量と相関変化量ΔCORの関係例を示した図である。横軸はシフト量を示し、縦軸は相関変化量を示す。相関変化量波形1104において、領域1105、1106は相関変化量がプラスからマイナスになる周辺である。この領域1105より相関変化量が0となる状態をゼロクロスと呼び、像信号間の一致度が最も高く、ゼロクロス時のシフト量がピントずれ量となる。
図12(a)は、図11(b)の領域1105を拡大したもので、相関変化量波形1104の一部分1201を示している。図12(a)を用いてピントずれ量PRDの算出法について説明する。
ここで、ピントずれ量は整数部分βと小数部分αに分けられる。小数部分αは、図中の三角形ABCと三角形ADEの相似の関係から、以下の式(3)によって算出することができる。
続いて整数部分βは、図12(a)中より以下の式(4)によって算出することができる。
αとβの和からピントずれ量PRDを算出することができる。
また、図11(b)のように複数のゼロクロスが存在する場合は、ゼロクロスでの相関量変化の急峻性maxderが大きいところを第1のゼロクロスとする。この急峻性はAFのし易さを示す指標で、値が大きいほどAFし易い点であることを示す。急峻性maxderは以下の式(5)によって算出することができる。
以上のように、ゼロクロスが複数存在する場合は、急峻性によって第1のゼロクロスを決定する。続いてピントずれ量の信頼性(像信号の信頼性)の算出法について説明する。
信頼性は、上述した急峻性や、像信号A、Bの2像の一致度fnclvl(以下、2像一致度と呼ぶ)によって定義することができる。2像一致度はピントずれ量の精度を表す指標で、値が小さいほど精度が良い。
図12(b)は、図11(a)の1102の部分を拡大したもので、相関量波形1101の一部分1202を示している。図12(b)を用いて、急峻性と2像一致度を算出する方法について説明する。
2像一致度fnclvlは以下の式(6)によって算出できる。
次に、図7のS710のAF処理について、図13のフローチャートを用いて説明する。AF処理は、合焦停止していない状態でのフォーカスレンズの駆動及び、合焦停止の判定を行う処理である。
S1301でカメラ制御部212は、デフォーカス量の大きさが深度内であり、かつ像信号の信頼性が所定より良い値を示しているかどうかを判断する。この条件に該当する場合はS1302へ処理を進め、そうでない場合はS1303へ処理を進める。本実施の形態では、S1301で用いる閾値を深度の1倍とするが、必要に応じて大きく設定したり、小さく設定したりしても構わない。
S1302でカメラ制御部212は、合焦停止フラグをオンにして処理を終了する。上述したように、被写体に合焦したと判断した場合は、フォーカスレンズを駆動している状態から停止している状態に移行した後、S711で再度フォーカスレンズを駆動するか否かの再起動判定を行う。
S1303でカメラ制御部212は、レンズ駆動速度や駆動方法の設定を行い、S1304へ処理を進める。S1303のレンズ駆動設定処理の詳細は図14を用いて後述する。S1304でカメラ制御部212は、レンズ駆動処理を行い処理を終了する。S1304のレンズ駆動処理の詳細は図15を用いて後述する。
次に、図13のS1303のレンズ駆動設定処理について、図14のフローチャートを用いて説明する。S1401でカメラ制御部212は、信頼性が所定値αより良い値かどうかを判断し、所定値αより良い値の場合はS1402へ処理を進め、そうでない場合はS1404へ処理を進める。S1402でカメラ制御部212は、サーチ駆動カウンタをリセットしてS1403へ処理を進める。S1403でカメラ制御部212は、レンズ駆動速度をAに設定して、処理をS1408へ進める。
S1401で信頼性が所定値αより良い値でない場合に進むS1404でカメラ制御部212は、サーチ駆動移行カウンタを加算してS1405へ処理を進める。S1405でカメラ制御部212は、サーチ駆動移行カウンタが所定値以上かどうかを判断し、所定値以上である場合はS1406へ処理を進め、所定値より小さい場合はS1407へ処理を進める。S1406でカメラ制御部212は、サーチ駆動フラグをオンにしてS1408へ処理を進める。一方、S1407でカメラ制御部212は、レンズ駆動速度をZに設定してS1408へ処理を進める。
S1403、S1406、S1407の処理の後に行うS1408でカメラ制御部212は、サーチ駆動フラグがオンかどうかを判断する。サーチ駆動フラグがオンである場合はS1409へ進み、オフである場合はレンズ駆動設定処理を終了する。S1409でカメラ制御部212は、レンズ駆動速度をSに設定して、レンズ駆動設定処理を終了する。
S1401における信頼性の閾値αは、少なくともデフォーカス方向が信頼できる値を設定する。デフォーカス方向が信頼できる場合は、設定したレンズ駆動速度Aでデフォーカス量を基にフォーカスレンズを駆動するようにする。
デフォーカス量の方向が信頼できない信頼性の状態が継続している場合は、サーチ駆動を行う。サーチ駆動とはデフォーカス量に関係なく、デフォーカス方向を設定してその方向に設定した速度でフォーカスレンズを駆動するものである。
S1401で、デフォーカス量の方向が信頼できない信頼性である場合、カメラ制御部212はS1404でサーチ駆動移行カウンタを加算する。S1405でカメラ制御部212サーチ駆動移行カウンタが所定値以上かどうかを判定することで、継続して信頼性が低く被写体がボケている可能性があると判断できる場合にのみサーチ駆動を行うようにする。サーチ駆動は、デフォーカス量を使用しない駆動であるため、一時的に大きくボケてしまうような品位の悪いフォーカス動作を行ってしまうことがある。そこで、信頼性が低くなってもすぐにサーチ駆動に移行させないようにすることで、ノイズ等の影響で不用意にサーチ駆動を行わないようにする。
カメラ制御部212は、S1405でサーチ駆動に移行すると判断した場合、S1406でサーチ駆動フラグをオンにし、S1408の判定によってS1409でサーチ駆動用のレンズ駆動速度Sを設定する。サーチ駆動速度Sは、駆動速度Aよりも速い値である。S1405でサーチ駆動へ移行するか否かを判定している途中で、信頼性が所定値αより良い値になった場合は、S1402でカメラ制御部212はサーチ駆動移行カウンタをリセットする。また、S1405でサーチ駆動への移行を判定している途中で、未だサーチ駆動移行カウンタが所定閾値以上でない場合に進むS1407で設定するレンズ駆動速度Zは、極めて遅い値若しくはゼロを設定する。
図14におけるレンズ駆動速度には以下の関係がある。
Z<A<S(Zが最も遅く、Sが最も速い)
Z<A<S(Zが最も遅く、Sが最も速い)
サーチ駆動中は被写体が大きくボケている状態であることが想定されるため、いち早く被写体にピントを合わせるために、S1409で設定する駆動速度SはS1403で設定する駆動速度Aよりも速い値を設定する。また、信頼性がαよりも悪くS1405でサーチ駆動移行を判断している途中の状態の場合は、デフォーカス検出精度が悪いため、不用意にレンズを駆動してしまうと品位が悪いフォーカス動作を行ってしまう。そこでS1407で設定する駆動速度Zには、極めて遅い値、若しくはゼロを設定することで、信頼性が悪い状態でも品位が悪いフォーカス動作が行われることを防ぐ。
次に、図13のS1304におけるレンズ駆動処理について、図15のフローチャートを用いて説明する。レンズ駆動処理は、図14のレンズ駆動設定処理で設定したレンズ駆動速度やサーチ駆動フラグの設定などをもとにフォーカスレンズ103を駆動する処理である。
S1501でカメラ制御部212は、サーチ駆動フラグがオフかどうかを判断し、オフの場合はS1502へ処理を進め、オンの場合はS1503へ処理を進める。S1502でカメラ制御部212は、デフォーカス量を基に、レンズ駆動設定処理で設定した駆動速度でフォーカスレンズの駆動を行い、レンズ駆動処理を終了する。一方、サーチ駆動フラグがオンの場合、カメラ制御部212は、S1503〜S1512のサーチ駆動処理を行う。サーチ駆動処理は、図14のS1406でサーチ駆動フラグがオンされた場合に行う処理である。
S1503でカメラ制御部212は、サーチ駆動が初回かどうかを判断し、初回である場合はS1504へ処理を進め、初回でない場合はS1507へ処理を進める。S1504〜S1506は駆動方向設定処理であり、サーチ駆動が初回である場合に、どちらにフォーカスレンズ103を駆動するかを決定する処理である。
S1504でカメラ制御部212は、現在のフォーカスレンズ103の位置が無限遠端よりも至近端に近いかどうかを判断し、至近端に近い場合はS1505へ処理を進め、無限遠端に近い場合はS1506へ処理を進める。S1505でカメラ制御部212は、サーチ駆動開始時のフォーカスレンズ103の駆動方向を至近方向に設定して駆動方向設定処理を終了する。S1506でカメラ制御部212は、サーチ駆動開始時のレンズの駆動方向を無限遠方向に設定して駆動方向設定処理を終了する。このように駆動方向を設定することで、フォーカスレンズ103の駆動領域全体をサーチ駆動する時間を短縮することができ、サーチ駆動によって被写体を発見するために要する最大の時間を短くできる。
S1507でカメラ制御部212は、レンズ制御部106を介して、設定した駆動方向及び駆動速度Sでフォーカスレンズ103を駆動し、S1508へ処理を進める。S1508でカメラ制御部212は、フォーカスレンズ103が至近端若しくは無限遠端に到達したかどうかを判断し、到達した場合はS1509へ処理を進め、到達していない場合はS1510へ処理を進める。S1509でカメラ制御部212は、フォーカスレンズ103の駆動方向を反転させてS1510へ進む。
S1510でカメラ制御部212は、像信号の信頼性が所定値αより良い値かどうかを判断し、所定値αより良い値の場合はS1511へ処理を進め、そうでない場合はS1512へ処理を進める。S1512でカメラ制御部212は、フォーカスレンズ103が至近端、無限遠端の両方に到達したかどうかを判断し、到達した場合はS1511へ処理を進め、到達していない場合はサーチ駆動処理を終了する。S1511でカメラ制御部212は、サーチ駆動フラグをオフにしてサーチ駆動処理を終了する。
サーチ駆動を終了する条件は、S1510で信頼性が所定値αより良い値になった場合、若しくはS1512でフォーカスレンズ103が至近端、無限遠端の両方に到達した場合である。S1510で設定する信頼性の閾値αは、図14のS1401で設定した閾値αと同じであり、少なくともデフォーカス量の方向が信頼できる値である。信頼性が閾値αより良い値になったのであれば、被写体が合焦に近づいてきたと判断できるため、サーチ駆動をやめて再度デフォーカス量を基に駆動する制御に切り替える。また、S1512で至近端、無限遠端の両方に到達したと判断された場合とは、フォーカス駆動範囲の全域を駆動した場合であり、つまりは被写体が特定できなかった場合である。この場合はサーチ駆動フラグをオフにし、最初の処理の状態に戻す。なお、被写体が特定できない場合にはサーチ駆動フラグをオフにせずにサーチ駆動を継続させるようにしても良い。
次に、図7のS711におけるAF再起動判定処理について、図16のフローチャートを用いて説明する。AF再起動判定処理は、合焦していると判断してフォーカスレンズ103を停止している際に、再度フォーカスレンズ103を駆動するかどうかの判定をする処理である。
S1601でカメラ制御部212は、AF信号処理部204が算出したデフォーカス量が焦点深度の所定倍より小さいかどうかを判断し、小さい場合はS1602へ、小さくない場合はS1604へ処理を進める。S1602でカメラ制御部212は、AF信号処理部204が算出した信頼性が所定値より良い値かどうかを判断し、良い値を示す場合はS1603へ処理を進め、そうでない場合はS1604へ処理を進める。S1603でカメラ制御部212は、AF再起動カウンタをリセットし、S1605へ処理を進める。一方、S1604でカメラ制御部212は、AF再起動カウンタを加算しS1605へ処理を進める。
上述したように、デフォーカス量が所定量以上、または信頼性が所定値より悪い場合、撮影している主被写体が変化している可能性があるため、カメラ制御部212は、S1604でAF再起動カウンタを加算してAF再起動をする準備を行う。一方、デフォーカス量が所定値より小さく、信頼性も高い状態を維持している場合は、継続してフォーカスレンズを停止させておくために、カメラ制御部212は、S1603でAF再起動カウンタをリセットする。
S1601で設定するデフォーカス量の閾値は、主被写体が変わったときにはAF再起動が行われやすく、主被写体が変わっていないときには再起動が不用意にされにくくなるよう、経験的もしくは実験的に設定する。一例として、主被写体のボケが見えるようになる焦点深度の1倍を設定する。また、S1602で設定する信頼性の閾値は、例えばデフォーカス方向を信頼するのが困難なほど低い信頼性の場合にAF再起動されるように設定する。このようにS1601、S1602の判定は、主被写体が変わったかどうかの判定処理とも言える。したがって、同様の判定が可能な任意の処理に置き換えることができ、処理の方法に応じて用いる閾値の種類や値を設定する。
S1605でカメラ制御部212は、AF再起動閾値を設定してS1606へ処理を進める。S1605のAF再起動閾値設定処理は、応答性を重視する場合はAF再起動しやすくなるように閾値を低く設定し、安定性を重視する場合はAF再起動しにくくなるように閾値を高く設定する。閾値は任意の値を設定することが可能で、撮影モードなどに応じて可変にしてもよい。
S1606でカメラ制御部212は、AF再起動カウンタがAF再起動閾値以上かどうかを判断し、AF再起動閾値以上の場合はS1607へ処理を進め、そうでない場合は処理を終了する。S1607でカメラ制御部212は、合焦停止フラグをオフにしてAF再起動を行い、フォーカスレンズの駆動を再開するようにして処理を終了する。S1606でAF再起動を決定するにあたってカメラ制御部212は、S1604で加算したAF再起動カウンタの値がS1605で設定した閾値以上かどうかを判断する。本実施形態では、主被写体のピント面が実際に変わったかどうかを一定時間の間確認するように制御する。また、S1605で設定するAF再起動閾値を条件に応じて可変することで、再起動判定する時間の長さを変えてもよい。
続いて、図7のS705のAF領域算出処理について、図17を用いて説明する。図17の処理は、焦点検出の周期ごとに行われる。
S1700でカメラ制御部212は、AF領域を設定するために、撮影モードが顔AFモードまたは追尾AFモードであるかの確認を行う。ここでは上記二つのモードか否かの判定を行っているが、判定の条件は、AF領域が自動的に更新されるか否かであればこの方法に限定されない。AF領域が自動的に更新される場合はS1702に処理を進め、画面中央などへの固定枠の設定(AF領域が移動しない設定)の場合はS1701に処理を進める。
S1701でカメラ制御部212は、固定枠の情報(位置とサイズ)を取得し、S1703に処理を進める。
S1702でカメラ制御部212は、顔検出部216または追尾処理部217により自動で検出された特定被写体の領域の情報(位置とサイズ)を取得し、S1706に処理を進める。
S1706でカメラ制御部212は、焦点検出周期が、顔/追尾領域検出の周期(顔/追尾領域の情報が取得される周期)よりも短いか否かを判定する。焦点検出周期が顔/追尾領域の検出周期よりも短い場合は、顔/追尾領域が更新されない期間に被写体が移動している可能性があるので、移動した顔/追尾領域を予測する必要がある。そこで、焦点検出周期が顔/追尾領域検出の周期よりも短い場合は、カメラ制御部212はS1707に遷移し、AF領域を予測する処理に進む。一方、焦点検出周期が顔/追尾領域の検出周期よりも短くない場合はS1703に遷移し、カメラ制御部212は、S1702で取得した検出領域に基づいてAF領域を設定する。
なお、顔/追尾領域の検出には、数msの検出時間を要するため、取得された顔/追尾領域の位置と現在の顔/追尾領域の位置は必ずしも一致するものではない。そのため、焦点検出周期と顔/追尾領域の検出周期が一致している場合であっても、S1707に遷移して、予測AF枠を使用することに効果がないわけではない。また、顔/追尾領域の検出時間にはバラつきがあり、必ずしも一定の周期で行われるとは限らない。そのため、顔/追尾領域の検出周期は、検出時間の平均を取ったときの平均値としてもよい。
S1707でカメラ制御部212は、顔/追尾領域の検出結果が更新されたか否かを判定する。前述の通り、顔/追尾検出周期と焦点検出周期が異なるため、顔/追尾検出結果が更新されないタイミングがある。S1707はそれを判定する処理であり、検出結果が更新されている場合はS1703に処理を進め、検出結果が更新されていない場合はS1708に処理を進める。
S1708でカメラ制御部212は、AF領域の移動を判定する。ここでカメラ制御部212は、後述するS1720にて過去複数回記憶したAF領域のサイズと位置の変化量を監視し、変化がある場合はS1709に処理を進め、そうでない場合はS1703に処理を進める。判定の方法としては、例えば変化量が所定値を超えたら変化があると判定するものとする。AF領域に変化がある場合はAF領域を予測する必要があるが、変化がない場合(例えば、人物が同じ位置で静止しているなど)はAF領域の予測を行わない方が安定したAF制御を行うことができる。
S1703に進む場合、固定枠でのAF、焦点検出周期が顔/追尾領域の検出周期よりも短くない、被写体の検出直後である、AF領域(被写体)の移動がない、のいずれかの場合である。そのため、カメラ制御部212は、AF領域の予測を行わず、検出された領域のサイズを通常通りのAF領域(通常AF領域)のサイズとして記憶し、S1704に処理を進める。S1704でも同様に、カメラ制御部212は、検出された領域の中心位置を通常AF領域の中心位置として記憶し、S1705に処理を進める。なお、S1708でAF領域(被写体)の移動がないと判定されてS1703及びS1704に進んだ場合、前回の顔/追尾領域に基づくAF領域の位置とサイズが記憶されることとなる。S1705でカメラ制御部212は、予測AF領域許可フラグをオフにする処理を行い、S1720に処理を進める。
S1709〜1716において、カメラ制御部212は、AF領域の予測を行う。AF領域の予測においてカメラ制御部212は、前回のAF領域に対する拡大率とオフセット量の算出を行い、AF領域を変更する。ここで、拡大率とは、被写体の動きを予測してAF領域を拡大する割合を意味している。例えば、図3(f)の顔302が拡大して顔309となった場合の拡大率を算出し、顔302に対応した像データの領域305に対して拡大率を乗算し、像データの領域311を算出して設定する。
S1709でカメラ制御部212は、ズームイン操作があるか否かの判定を行い、ズームイン操作がある場合はS1710に処理を進め、ない場合はS1711に処理を進める。ズームイン操作の判断方法としては、ズームレンズ101の位置を検出する方法や、ズームレンズ101の移動を指示する操作部材の操作を検出する方法などがあり、特定の方法に限定されない。S1710でカメラ制御部212は、ズームイン時の拡大率を算出する処理を行う。ここでは、式(7)を用いて、前回の焦点距離を基準として今回の焦点距離から拡大率Aを予測し算出する。
拡大率A=今回の焦点距離÷前回の焦点距離 (7)
拡大率A=今回の焦点距離÷前回の焦点距離 (7)
S1711でカメラ制御部212は、近づき被写体か否かの判定を行い、近づき被写体である場合はS1712に処理を進め、そうでない場合はS1713に処理を進める。近づき被写体の判定方法については省略するが、例えば、顔/追尾領域のサイズが大きくなるように変化した場合に近づき被写体であると判定しても良い。あるいは、顔/追尾領域の焦点検出結果が徐々に小さくなっている(撮像装置に対する被写体までの距離が小さくなっている)場合に近づき被写体と判定しても良い。
S1712でカメラ制御部212は、近づき被写体の拡大率を算出する処理を行う。式(8)を用いて、前回の被写体サイズを基準として、今回の被写体サイズから拡大率Bを算出する。
拡大率B=今回の被写体サイズ[pixel]÷前回の被写体サイズ[pixel] (8)
拡大率B=今回の被写体サイズ[pixel]÷前回の被写体サイズ[pixel] (8)
S1713でカメラ制御部212は、追尾AFモードか否かの判定を行い、追尾AFモードである場合はS1714に処理を進め、そうでない場合はS1715に処理を進める。
S1714でカメラ制御部212は、追尾AFモードにおける拡大率を算出する処理を行う。この処理では、追尾の信頼度に応じて拡大率を算出する。追尾の信頼度が低い場合は、被写体が画面内を大きく動いた場合や、他の被写体で隠れてしまった場合などが考えられる。そこで、追尾の信頼度が低い場合は、信頼度が高い場合と比較して拡大したAF領域を設定する必要がある。例えば信頼度Kが10段階(10→高い/1→低い)で取得できるシステムの場合の例として、式(9)を用いて拡大率Cを算出する。式(9)では、信頼度が1の場合の拡大率Cが、信頼度が10の場合の拡大率Cの2倍程度になるように設定される。
拡大率C=(20−K)÷10 (9)
拡大率C=(20−K)÷10 (9)
なお、追尾被写体を見失った場合には、画面全体をAF領域とするように拡大率を設定し、追尾被写体を確実にカバーする設定としても良い。さらに、追尾のマッチングを行う範囲が追尾の状態に応じて変化する場合は、マッチングを行う範囲に合わせて拡大率を変更するような設定としても良い。
S1715でカメラ制御部212は、画面の上下方向(Y方向)における被写体の移動があるか否かの判定を行い、上下方向の移動がある場合はS1716に処理を進め、そうでない場合はS1717に処理を進める。カメラ制御部212は、検出された被写体領域の位置を監視し、上下方向の移動があるか否かによって判定を行う。なお、画面の左右方向(X方向)に配置された画素部のラインがX方向に読み出されるため、被写体の左右方向の移動に対しては、読み出された像データに対してAF領域をX方向にずらすことで対応できる。しかしながら、被写体がY方向(像データを読み出す方向と直交する方向)に移動した場合には、像データを読み出す領域の位置を予め設定しておかないと、Y方向にAF領域を移動することが不可能になる。そのため、S1715の処理において、被写体の上下の方向の移動の有無を判定する。
S1716でカメラ制御部212は、前回検出された顔/追尾領域の位置からの今回の顔/追尾領域の位置の変化量を算出して、式(10)を用いて、オフセット量を算出する。
オフセット量=今回の検出領域の位置(Y座標)−前回の検出領域の位置(Y座標) (10)
オフセット量=今回の検出領域の位置(Y座標)−前回の検出領域の位置(Y座標) (10)
続いてS1717においてカメラ制御部212は、予測AF領域のサイズを計算する。予測AF領域のサイズは、上述の拡大率A、B、Cを乗算した拡大率Dを使用し、式(11)を用いて算出する。
予測AF領域のサイズ=前回AF領域のサイズ×拡大率D (11)
予測AF領域のサイズ=前回AF領域のサイズ×拡大率D (11)
なお、拡大率Dの上限値の処理については省略するが、拡大率Dによって予測AF領域のサイズが画面全体を超えるような場合は拡大率を制限することとする。
S1718においてカメラ制御部212は、予測AF領域の位置を計算する。予測AF領域の中心位置は、上述のオフセット量を使用し、式(12)を用いて算出する。
予測AF領域の中心位置=前回AF領域の中心位置+オフセット量 (12)
予測AF領域の中心位置=前回AF領域の中心位置+オフセット量 (12)
S1719でカメラ制御部212は、予測AF領域許可フラグをオンにする処理を行い、S1720に処理を進める。
S1720においてカメラ制御部212は、被写体の移動判定や近づき判定のために、S1703とS1704、あるいはS1717とS1718で算出したAF領域の位置とサイズを記憶し、処理を終了する。
続いて、図8のS801におけるAF領域設定処理について、図18を用いて説明する。
S1801は、上述した予測AF領域を使用するか否かの判定である。カメラ制御部212は、S1705またはS1719において設定された予測AF領域使用許可フラグを参照する。予測AF領域使用許可フラグがオンである場合はS1803に処理を進め、オフである場合はS1802に処理を進める。
S1802でカメラ制御部212は、S1703及びS1704で算出した通常AF領域のサイズと位置を取得し、S1804に処理を進める。S1803でカメラ制御部212は、S1717及びS1718で算出した予測AF領域のサイズと位置を取得し、S1804に処理を進める。
S1804でカメラ制御部212は、像データの取得領域を設定し、処理を終了する。ここでは、S1802またはS1803で取得されたAF領域のサイズと位置に基づいて、AF領域を含むように像データの取得領域を設定するものとする。
続いて、図7のS707におけるAF領域一致度算出処理について、図19を用いて説明する。S1901でカメラ制御部212は、顔/追尾領域の検出結果が更新されているか否かを判定する。検出結果が更新されている場合はS1904に遷移し、そうでない場合はS1902に遷移する。
S1902でカメラ制御部212は、顔/追尾領域の検出結果が更新されていないため、S808で算出された焦点検出結果のうち、通常AF領域に対応する結果を取得して、S1903に処理を進める。S1903でカメラ制御部212は、AF駆動許可フラグをオンに設定して、処理を終了する。
一方、S1904でカメラ制御部212は、予測AF領域の情報を取得し、さらにS1905で更新された最新の顔/追尾領域の情報を取得し、S1906に処理を進める。S1906でカメラ制御部212は、予測AF領域と更新された顔/追尾領域の一致度(重なり度合い)を判定する。すなわち、顔/追尾領域が更新されていないタイミングで設定された予測AF領域と、予測AF領域の設定後に更新された顔/追尾領域との一致度を判定する。一致度が閾値以上の場合はS1907に処理を進め、そうでない場合はS1908に処理を進める。S1906における一致度判定は、例えば閾値を50%とした場合、2つの領域の半分以上が一致していないとAFに使用するには十分な焦点検出結果が得られていないことを意味する。なお、一致度の判定方法は、面積に限定されず、像データを取得する信号ラインの本数でも良い。ここでの信号ラインとは、垂直方向に所定数加算されたラインでも良い。例えば、図3(c)のように、画面全体の画素数の4%から成る信号ライン5本を離散的に配置する場合、拡大された予測AF領域に配置された信号ライン5本のうち3本以上が顔/追尾領域に含まれる場合に、両者が一致していると判定しても良い。また、安定したAFを行う場合には一致度の閾値を高く設定し、応答性を重視する場合は一致度の閾値を低く設定してフォーカス駆動をしやすくするように、AFモードに応じて閾値を変更しても良い。
S1907でカメラ制御部212は、検出された顔/追尾領域と予測したAF領域の一致している部分の焦点検出結果をS808で算出された焦点検出結果から取得し、S1903に遷移してAF駆動許可フラグをオンに設定し、処理を終了する。
S1908でカメラ制御部212は、検出された顔/追尾領域と一致する予測AF領域がなく、AF制御を行うことができないため、AF駆動許可フラグをオフに設定して処理を終了する。
以上説明したように、本実施形態では、焦点検出が可能な領域が限られている構成において、被写体情報が取得される周期よりも焦点検出周期が短い場合に、被写体情報が取得されるタイミングに応じて、焦点検出に用いる信号を取得する領域の設定を変更する。例えば、被写体情報が取得されないタイミングにおいては、被写体領域を確実に含むように拡大した領域に、焦点検出に用いる信号を取得する領域を設定しておく。これにより、被写体情報が更新されないタイミングで被写体の移動が発生したとしても、被写体領域に対して安定した焦点検出が可能になる。
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明は特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。
20 カメラ本体
201 撮像素子
204 AF信号処理部
212 カメラ制御部
216 顔検出部
217 追尾処理部
201 撮像素子
204 AF信号処理部
212 カメラ制御部
216 顔検出部
217 追尾処理部
Claims (18)
- 二次元状に配置された複数の画素部を備え、第1の領域に含まれる画素部から第1の信号を読み出す第1の読み出し制御と、第2の領域に含まれる画素部から第2の信号を読み出す第2の読み出し制御とが可能な撮像素子と、
少なくとも前記第2の信号を用いて第1の周期で焦点検出する焦点検出手段と、
前記第1の信号から検出された所定の被写体領域の情報を第2の周期で取得する取得手段と、
前記所定の被写体領域の情報に基づいて、前記第2の領域を設定する設定手段と、を有し、
前記第2の領域は、前記第1の領域に含まれる領域であって、
前記第1の周期が前記第2の周期よりも短い場合、前記設定手段は、前記取得手段により前記所定の被写体領域の情報が取得されるタイミングに応じて、前記第2の領域の設定を変更することを特徴とする撮像装置。 - 前記設定手段は、第1のタイミングにおいて、前記所定の被写体領域の位置とサイズに基づいて前記第2の領域を設定し、前記第1のタイミングよりも後で、前記取得手段により前記所定の被写体領域の情報が更新されていない第2のタイミングにおいて、前記第1のタイミングで設定した前記第2の領域よりも拡大した前記第2の領域を設定することを特徴とする請求項1に記載の撮像装置。
- 前記設定手段は、前記所定の被写体領域の情報に基づいて焦点検出領域を設定し、当該焦点検出領域を含むように前記第2の領域を設定することを特徴とする請求項1または2に記載の撮像装置。
- 前記設定手段は、第1のタイミングにおいて、前記所定の被写体領域の位置とサイズに基づいて前記焦点検出領域を設定し、前記第1のタイミングよりも後の第2のタイミングにおいて、前記取得手段により前記所定の被写体領域の情報が更新されていない場合、前記第1のタイミングにおいて設定した前記焦点検出領域よりも拡大した前記焦点検出領域を設定することを特徴とする請求項3に記載の撮像装置。
- 前記取得手段により前記所定の被写体領域の情報が更新されていない場合、前記設定手段は、前回の前記所定の被写体領域の情報に基づいて設定された前記焦点検出領域の位置とサイズの少なくとも一方を変更して新しい前記焦点検出領域を設定し、当該焦点検出領域に基づいて前記第2の領域を設定することを特徴とする請求項3または4に記載の撮像装置。
- ズームイン操作が行われた場合、前記設定手段は、前記ズームイン操作が行われていない場合と比較して、前記焦点検出領域のサイズが大きくなるように前記焦点検出領域を設定することを特徴とする請求項5に記載の撮像装置。
- 過去に検出された前記所定の被写体領域の情報に基づいて、前記所定の被写体が近づいていることが判定された場合、前記設定手段は、前記所定の被写体が近づいていることが判定されていない場合と比較して、前記焦点検出領域のサイズが大きくなるように前記焦点検出領域を設定することを特徴とする請求項5または6に記載の撮像装置。
- 前記取得手段は、基準画像から抽出された特徴量に基づいて前記第1の信号から前記基準画像と相関度が高い領域を検出する追尾処理によって前記所定の被写体領域の情報を取得し、
前記設定手段は、前記追尾処理の信頼度が低いほど前記焦点検出領域のサイズが大きくなるように前記焦点検出領域を設定することを特徴とする請求項5乃至7のいずれか1項に記載の撮像装置。 - 前記撮像素子から信号を読み出す方向と直交する方向において前記所定の被写体領域が移動している場合、前記設定手段は、当該直交する方向における前記所定の被写体領域の移動量に応じて、前記焦点検出領域の位置を変更することを特徴とする請求項5乃至8のいずれか1項に記載の撮像装置。
- 前記所定の被写体領域が移動していない場合、前記設定手段は、前回の前記所定の被写体領域の情報に基づいて設定された前記焦点検出領域の位置とサイズを変更せずに、当該焦点検出領域に基づいて前記第2の領域を設定することを特徴とする請求項5乃至9のいずれか1項に記載の撮像装置。
- 前記取得手段により前記所定の被写体領域の情報が更新された場合、前記設定手段は、更新された前記所定の被写体領域の位置とサイズに基づいて前記焦点検出領域を設定し、当該焦点検出領域に基づいて前記第2の領域を設定することを特徴とする請求項5乃至10のいずれか1項に記載の撮像装置。
- 前記焦点検出手段による焦点検出結果に基づいてフォーカス制御を行うフォーカス制御手段を有し、
前記取得手段により前記所定の被写体領域の情報が更新されていない場合に設定された前記焦点検出領域と、当該焦点検出領域の設定後に更新された前記所定の被写体領域との重なり度合いが閾値以上の場合に、前記フォーカス制御手段は、重なっている領域の焦点検出結果に基づいてフォーカス制御を行うことを特徴とする請求項5乃至11のいずれか1項に記載の撮像装置。 - 前記取得手段により前記所定の被写体領域の情報が更新されていない場合に設定された前記焦点検出領域と、当該焦点検出領域の設定後に更新された前記所定の被写体領域との重なり度合いが前記閾値よりも小さい場合に、前記フォーカス制御手段は、焦点検出結果に基づいてフォーカス制御を行わないことを特徴とする請求項12に記載の撮像装置。
- 1フレーム期間において前記第2の読み出し制御により前記第2の信号が読み出される画素部の数は、所定の数に制限されており、
前記設定手段によって設定された前記第2の領域に含まれる画素部の数が前記所定の数を超える場合、前記第2の信号が読み出される画素部の数が前記所定の数に収まるように、前記焦点検出信号が読み出される領域が前記第2の領域内に間引かれて配置されることを特徴とする請求項1乃至13のいずれか1項に記載の撮像装置。 - 1フレーム期間において、前記第2の読み出し制御により前記第2の信号が読み出される画素部の数は、前記第1の読み出し制御により前記第1の信号が読み出される画素部の数よりも少ないことを特徴とする請求項1乃至14のいずれか1項に記載の撮像装置。
- 前記画素部はそれぞれ複数のフォトダイオードを有し、前記第1の読み出し制御において前記複数のフォトダイオードの信号を合成した信号である前記第1の信号が読み出され、前記第2の読み出し制御においていずれかのフォトダイオードの信号である前記第2の信号が読み出されることを特徴とする請求項1乃至15のいずれか1項に記載の撮像装置。
- 前記焦点検出手段は、前記第2の読み出し制御において読み出された前記第2の信号と、当該第2の信号と前記第1の読み出し制御において読み出された前記第1の信号との差分として取得される第3の信号とを用いて相関演算を行うことにより、焦点検出を行うことを特徴とする請求項16に記載の撮像装置。
- 二次元状に配置された複数の画素部を備えた撮像素子を有する撮像装置の制御方法であって、
第1の領域に含まれる画素部から第1の信号を読み出す第1の読み出し制御と、第2の領域に含まれる画素部から第2の信号を読み出す第2の読み出し制御とが可能で、
前記撮像素子から信号を読み出す読み出し工程と、
少なくとも前記第2の信号を用いて第1の周期で焦点検出する焦点検出工程と、
前記第1の信号から検出された所定の被写体領域の情報を第2の周期で取得する取得工程と、
前記所定の被写体領域の情報に基づいて、前記第2の領域を設定する設定工程と、を有し、
前記第2の領域は、前記第1の領域に含まれる領域であって、
前記第1の周期が前記第2の周期よりも短い場合、前記設定工程において、前記取得工程により前記所定の被写体領域の情報が取得されるタイミングに応じて、前記第2の領域の設定を変更することを特徴とする撮像装置の制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016091585A JP2017198943A (ja) | 2016-04-28 | 2016-04-28 | 撮像装置および撮像装置の制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016091585A JP2017198943A (ja) | 2016-04-28 | 2016-04-28 | 撮像装置および撮像装置の制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017198943A true JP2017198943A (ja) | 2017-11-02 |
Family
ID=60239222
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016091585A Pending JP2017198943A (ja) | 2016-04-28 | 2016-04-28 | 撮像装置および撮像装置の制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017198943A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109600554A (zh) * | 2019-01-22 | 2019-04-09 | 成都品果科技有限公司 | 一种人脸自动聚焦的方法及装置 |
JP2019212952A (ja) * | 2018-05-31 | 2019-12-12 | キヤノン株式会社 | 撮像装置およびその制御方法 |
JP2020198561A (ja) * | 2019-06-04 | 2020-12-10 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 制御装置、撮像装置、撮像システム、制御方法、及びプログラム |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6366519A (ja) * | 1986-09-09 | 1988-03-25 | Matsushita Electric Ind Co Ltd | 自動焦点調節装置 |
JP2008176152A (ja) * | 2007-01-19 | 2008-07-31 | Canon Inc | 撮像装置 |
JP2013068759A (ja) * | 2011-09-22 | 2013-04-18 | Canon Inc | 撮像装置およびその制御方法 |
JP2014056260A (ja) * | 2013-11-06 | 2014-03-27 | Nikon Corp | カメラ |
JP2015152830A (ja) * | 2014-02-17 | 2015-08-24 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
JP2016014729A (ja) * | 2014-07-01 | 2016-01-28 | キヤノン株式会社 | 撮像装置及びその駆動方法 |
JP2016021052A (ja) * | 2014-06-18 | 2016-02-04 | キヤノン株式会社 | 撮像装置及びその制御方法 |
-
2016
- 2016-04-28 JP JP2016091585A patent/JP2017198943A/ja active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6366519A (ja) * | 1986-09-09 | 1988-03-25 | Matsushita Electric Ind Co Ltd | 自動焦点調節装置 |
JP2008176152A (ja) * | 2007-01-19 | 2008-07-31 | Canon Inc | 撮像装置 |
JP2013068759A (ja) * | 2011-09-22 | 2013-04-18 | Canon Inc | 撮像装置およびその制御方法 |
JP2014056260A (ja) * | 2013-11-06 | 2014-03-27 | Nikon Corp | カメラ |
JP2015152830A (ja) * | 2014-02-17 | 2015-08-24 | キヤノン株式会社 | 撮像装置及びその制御方法、プログラム、記憶媒体 |
JP2016021052A (ja) * | 2014-06-18 | 2016-02-04 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP2016014729A (ja) * | 2014-07-01 | 2016-01-28 | キヤノン株式会社 | 撮像装置及びその駆動方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019212952A (ja) * | 2018-05-31 | 2019-12-12 | キヤノン株式会社 | 撮像装置およびその制御方法 |
JP7175635B2 (ja) | 2018-05-31 | 2022-11-21 | キヤノン株式会社 | 撮像装置およびその制御方法 |
CN109600554A (zh) * | 2019-01-22 | 2019-04-09 | 成都品果科技有限公司 | 一种人脸自动聚焦的方法及装置 |
JP2020198561A (ja) * | 2019-06-04 | 2020-12-10 | エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd | 制御装置、撮像装置、撮像システム、制御方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6735583B2 (ja) | ズーム制御装置、撮像装置及びそれらの制御方法、プログラム並びに記憶媒体 | |
US20180109737A1 (en) | Moving image generation system that generates one moving image by coupling a plurality of moving images | |
JP6539015B2 (ja) | 撮像装置及びその制御方法 | |
EP2672698B1 (en) | Imaging apparatus, imaging apparatus control method, lens apparatus, and lens apparatus control method | |
JP6204644B2 (ja) | 撮像装置およびその制御方法 | |
US20130057655A1 (en) | Image processing system and automatic focusing method | |
CN108337429B (zh) | 图像处理设备和图像处理方法 | |
CN109391768B (zh) | 调焦控制设备、调焦控制方法及存储介质 | |
JP2013068671A (ja) | 撮像装置及びその制御方法、プログラム、並びに記憶媒体 | |
JP2010015024A (ja) | 撮像装置、その制御方法、プログラム及び記憶媒体 | |
JP2010021943A (ja) | 撮像装置 | |
US8648960B2 (en) | Digital photographing apparatus and control method thereof | |
CN107277312B (zh) | 配件设备及其控制方法、摄像设备及其控制方法 | |
JP2010139666A (ja) | 撮像装置 | |
JP2016206352A (ja) | 焦点調節装置およびその制御方法、そのプログラム、その記録媒体ならびに撮像装置 | |
JP2017198943A (ja) | 撮像装置および撮像装置の制御方法 | |
JP6139960B2 (ja) | 撮像装置およびその制御方法 | |
US9357124B2 (en) | Focusing control device and controlling method of the same | |
JP6602081B2 (ja) | 撮像装置およびその制御方法 | |
JP2017181797A (ja) | 焦点検出装置およびその方法、撮像装置、プログラム、記憶媒体 | |
JP6087714B2 (ja) | 撮像装置およびその制御方法 | |
JP7289714B2 (ja) | 焦点調整装置、撮像装置、焦点調整方法、およびプログラム | |
JP2020088810A (ja) | 撮像装置及び撮像装置の制御方法 | |
JP2015194648A (ja) | 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体 | |
WO2021161959A1 (ja) | 情報処理装置、情報処理方法、情報処理プログラム、撮像装置、撮像装置の制御方法、制御プログラムおよび撮像システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190425 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190823 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190903 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200324 |