JP7022575B2 - 焦点検出装置および方法、および撮像装置 - Google Patents

焦点検出装置および方法、および撮像装置 Download PDF

Info

Publication number
JP7022575B2
JP7022575B2 JP2017236295A JP2017236295A JP7022575B2 JP 7022575 B2 JP7022575 B2 JP 7022575B2 JP 2017236295 A JP2017236295 A JP 2017236295A JP 2017236295 A JP2017236295 A JP 2017236295A JP 7022575 B2 JP7022575 B2 JP 7022575B2
Authority
JP
Japan
Prior art keywords
focus detection
optical system
imaging optical
signals
magnification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017236295A
Other languages
English (en)
Other versions
JP2018116267A (ja
JP2018116267A5 (ja
Inventor
信貴 水野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to US15/862,813 priority Critical patent/US10326926B2/en
Publication of JP2018116267A publication Critical patent/JP2018116267A/ja
Publication of JP2018116267A5 publication Critical patent/JP2018116267A5/ja
Application granted granted Critical
Publication of JP7022575B2 publication Critical patent/JP7022575B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、焦点検出装置および方法、および撮像装置に関するものである。
撮像装置で用いられる自動焦点検出(AF)方式として、位相差焦点検出方式(位相差AF)が知られている。位相差AFは、デジタルスチルカメラで多く用いられるAFであり、撮像素子が焦点検出用センサとして用いられるものも存在する。特許文献1には、瞳分割方式の焦点検出を行うために、撮像素子を構成する各画素の光電変換部が複数に分割されており、分割された光電変換部がマイクロレンズを介して撮影レンズの瞳の異なる領域を通過した光束を受光するように構成されている。
位相差AFは、撮像素子に形成された焦点検出画素から得られた対の信号に基づいて、焦点検出方向と焦点検出量を同時に検出することが可能であり、高速に焦点調節を行うことができる。一方、位相差AFは光学像の位相差を利用して焦点検出を行うため、光学像を結像する光学系の収差が焦点検出結果に誤差を与える場合があり、このような誤差を低減するための方法が提案されている。
特許文献2には、合焦状態において一対の焦点検出用の光束が形成する一対の光学像の形状が、光学系の収差に起因して一致しなくなることによる焦点検出誤差を補正する方法が開示されている。
また、特許文献3には焦点検出誤差を補正する方法として、撮影レンズの状態に関する情報と、撮像素子の状態に関する情報と、像高との組み合わせに応じた補正値で補正することが開示されている。
特開2008-52009号公報 特開2013-171251公報 特開2014-222291公報
しかしながら、位相差AFにおいて、倍率色収差が及ぼす焦点検出誤差は、結像光学系の色収差と、撮像素子の色シェーディングが絡む複雑なメカニズムからなっており、製造ばらつきも含め、適切な補正を行うのが難しい場合がある。
本発明は上記問題点を鑑みてなされたものであり、互いに分光感度の異なる複数の焦点検出画素から得られる信号に基づいて位相差検出方式による自動焦点検出を行う撮像装置において、倍率色収差が及ぼす焦点検出誤差を抑制し、高精度な焦点検出を行うことを目的とする。
上記目的を達成するために、複数のマイクロレンズそれぞれに対して複数の光電変換部を備え、結像光学系を介して入射する光を光電変換して電気信号を出力する、複数色のカラーフィルタに覆われた撮像素子から得られる複数色の信号に基づいて、位相差検出方式による焦点検出を行う本発明の焦点検出装置は、前記結像光学系の倍率色収差の特性に応じて、前記複数色の信号に適用する重み付けを示す複数の加算係数を予め記憶し、前記結像光学系の情報に応じて、前記複数の加算係数の1つを選択する取得手段と、前記選択した加算係数により、前記複数色の信号の重み付け加算を行って、一対の焦点検出信号を生成する生成手段と、前記一対の焦点検出信号間の像ずれ量を検出する検出手段とを有する。
本発明によれば、互いに分光感度の異なる複数の焦点検出画素から得られる信号に基づいて位相差検出方式による自動焦点検出を行う撮像装置において、結像光学系の倍率収差が焦点検出結果に与える影響を抑制し、高精度な焦点検出を行うことができる。
本発明の実施の形態に係る撮像装置の概略構成図。 実施形態における画素配列の概略図。 実施形態における画素の概略平面図と概略断面図。 実施形態における画素構造と瞳分割の概略説明図。 実施形態における撮像素子と瞳分割の概略説明図。 実施形態における第1焦点検出信号と第2焦点検出信号のデフォーカス量と像ずれ量との概略関係図。 実施形態における合焦時の第1焦点検出画素の受光信号および第2焦点検出画素の受光信号による各色線像を示す図。 第1の実施形態における焦点検出処理と撮像処理の流れを示すフローチャート。 第3の実施形態における加算係数セットを変えた場合の、設定デフォーカス量と検出デフォーカス量との関係の一例を示す図。
以下、添付図面を参照して本発明を実施するための形態を詳細に説明する。なお、実施形態は発明の理解と説明を容易にするため、具体的かつ特定の構成を有するが、本発明はそのような特定の構成に限定されない。例えば、以下では本発明をレンズ交換可能な一眼レフタイプのデジタルカメラに適用した実施形態について説明するが、本発明はレンズ交換できないタイプのデジタルカメラや、ビデオカメラに対しても適用可能である。また、カメラを備えた任意の電子機器、例えば携帯電話機、パーソナルコンピュータ(ラップトップ、タブレット、デスクトップ型など)、ゲーム機などで実施することもできる。
<第1の実施形態>
[全体構成]
図1は本発明の実施の形態における撮像素子を有する撮像装置であるカメラの概略構成を示したものである。図1において、第1レンズ群101は結像光学系の先端に配置され、光軸方向に進退可能に保持される。絞り兼用シャッタ102は、その開口径を調節することで撮影時の光量調節を行うほか、静止画撮影時には露光秒時調節用シャッタとしての機能も備える。第2レンズ群103は、絞り兼用シャッタ102と一体となって光軸方向に進退し、第1レンズ群101の進退動作との連動により、変倍作用(ズーム機能)を実現することができる。
第3レンズ群105(フォーカスレンズ)は、光軸方向の進退により焦点調節を行う。光学的ローパスフィルタ106は、撮影画像の偽色やモアレを軽減するための光学素子である。撮像素子107は2次元CMOSフォトセンサとその周辺回路からなり、結像光学系の結像面に配置され、結像光学系を介して入射する光を光電変換して、電気信号を出力する。
ズームアクチュエータ111は、不図示のカム筒を回動することで、第1レンズ群101ないし第2レンズ群103を光軸方向に進退駆動し、変倍操作を行う。絞りシャッタアクチュエータ112は、絞り兼用シャッタ102の開口径を制御して撮影光量を調節すると共に、静止画撮影時の露光時間制御を行う。フォーカスアクチュエータ114は、第3レンズ群105を光軸方向に進退駆動して焦点調節を行う。
撮影時の被写体照明用電子フラッシュ115は、キセノン管を用いた閃光照明装置が好適だが、連続発光するLEDを備えた照明装置を用いても良い。AF補助光発光部116は、所定の開口パターンを有したマスクの像を、投光レンズを介して被写界に投影し、暗い被写体あるいは低コントラスト被写体に対する焦点検出能力を向上させる。
カメラ内CPU121は、カメラ本体の種々の制御を司り、演算部、ROM、RAM、A/Dコンバータ、D/Aコンバータ、通信インターフェイス回路等を有する。CPU121は、ROMに記憶された所定のプログラムに基づいて、カメラが有する各種回路を駆動し、AF、撮影、画像処理と記録等の一連の動作を実行する。
また、CPU121には、撮像素子107の出力信号を用いた焦点調節で必要となる、補正値算出係数が記憶されている。この補正値算出係数は、第3レンズ群105の位置に対応したフォーカス状態、第1レンズ群101ないし第2レンズ群103の位置に対応したズーム状態、結像光学系のF値、撮像素子107の設定瞳距離、画素サイズ毎に複数用意されている。焦点調節を行う際は、結像光学系の焦点調節状態(フォーカス状態、ズーム状態)と絞り値、撮像素子107の設定瞳距離、画素サイズの組み合わせに応じて最適な補正値算出係数が選択される。そして、選択された補正値算出係数と撮像素子107の像高から、補正値が算出される構成となっている。
また、補正値算出係数は、RGB信号を重み付け加算するための加算係数セットを含む。この加算係数セットは、第1の実施形態においては、結像光学系のレンズID(レンズ識別情報)に応じて選択可能に記憶されている。そして、選択された加算係数セットを用いて、焦点検出信号を生成する。なお、加算係数セットおよび焦点検出信号の生成方法については、詳細に後述する。
また、本実施形態では、補正値算出係数をCPU121に記憶するものとして説明するが、記憶する場所はこれに限らない。例えば、交換レンズ式の撮像装置においては、結像光学系を有する交換レンズが不揮発性メモリを有し、そのメモリに補正値算出係数を記憶してもよい。この場合には、例えば、交換レンズが撮像装置に装着されたときや、撮像装置からのリクエストに応じて、補正値算出係数を撮像装置に送信すればよい。
電子フラッシュ制御回路122は、撮影動作に同期して電子フラッシュ115を点灯制御する。補助光回路123は、焦点検出動作に同期してAF補助光発光部116を点灯制御する。撮像素子駆動回路124は、撮像素子107の撮像動作を制御するとともに、取得した画像信号をA/D変換してCPU121に送信する。画像処理回路125は、撮像素子107が取得した画像のγ変換、カラー補間、JPEG圧縮等の処理を行う。
フォーカス駆動回路126は、焦点検出結果に基づいてフォーカスアクチュエータ114を駆動制御し、第3レンズ群105を光軸方向に進退駆動して焦点調節を行う。絞りシャッタ駆動回路128は、絞りシャッタアクチュエータ112を駆動制御して絞り兼用シャッタ102の開口を制御する。ズーム駆動回路129は、撮影者のズーム操作に応じてズームアクチュエータ111を駆動する。
LCD等の表示器131は、カメラの撮影モードに関する情報、撮影前のプレビュー画像と撮影後の確認用画像、焦点検出時の焦点検出領域の枠や合焦状態表示画像等を表示する。操作スイッチ群132は、電源スイッチ、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、撮影モード選択スイッチ等で構成される。着脱可能なフラッシュメモリ133は、撮影済み画像を記録する。
[撮像素子]
次に、本実施形態における撮像素子107の撮像画素と焦点検出画素の配列の概略を図2参照して説明する。図2は、本実施形態の2次元CMOSセンサー(撮像素子)の画素(撮像画素)配列を4列×4行の範囲で、焦点検出画素配列を8列×4行の範囲で示したものである。
画素群200は、複数色のカラーフィルタに覆われた2行×2列の画素からなり、R(赤)の分光感度を有する画素200Rが左上に、G(緑)の分光感度を有する画素200Gが右上と左下に、B(青)の分光感度を有する画素200Bが右下に配置されている。さらに、各画素は2列×1行に配列された第1焦点検出画素201と第2焦点検出画素202により構成されている。
図2に示した4列×4行の画素(8列×4行の焦点検出画素)を面上に多数配置し、撮像画像(焦点検出信号)の取得を可能としている。
図2に示した撮像素子107の1つの画素200Gを、撮像素子107の受光面側(+z側)から見た平面図を図3(a)に示し、図3(a)のa-a断面を-y側から見た断面図を図3(b)に示す。図3に示すように、本実施形態の画素200Gでは、各画素の受光側に入射光を集光するためのマイクロレンズ305が形成され、x方向にNH分割(2分割)、y方向にNV分割(1分割)された光電変換部301と光電変換部302が形成される。光電変換部301および302が、それぞれ、第1焦点検出画素201と第2焦点検出画素202に対応する。
光電変換部301および302は、p型層とn型層の間にイントリンシック層を挟んだpin構造フォトダイオードとしても良いし、必要に応じて、イントリンシック層を省略し、pn接合フォトダイオードとしても良い。
各画素には、マイクロレンズ305と、光電変換部301および302との間に、カラーフィルタ306が形成される。本実施形態においては上述したR(赤)の分光感度を有するカラーフィルタ、G(緑)の分光感度を有するカラーフィルタ、B(青)の分光感度を有するカラーフィルタのいずれかが配置される。ただし、カラーフィルタの分光感度特性はRGBに限定されるものではない。
図3に示した画素200Gに入射した光は、マイクロレンズ305により集光され、カラーフィルタ306で分光されたのち、光電変換部301および302で受光される。光電変換部301および302では、受光量に応じて電子とホールが対生成し、空乏層で分離された後、負電荷の電子はn型層(不図示)に蓄積され、一方、ホールは定電圧源(不図示)に接続されたp型層を通じて撮像素子107の外部へ排出される。光電変換部301および302のn型層(不図示)に蓄積された電子は、転送ゲートを介して、静電容量部(FD)に転送され、電圧信号に変換されて出力される。
なお、図2に示す画素200R,200Bも、画素200Gと同様の構成を有し、画素200Gと同様にして、カラーフィルタ306により各色に分光された光に応じた電圧信号を出力する。
図3に示した本実施形態における画素構造と瞳分割との対応関係を図4を参照して説明する。図4は、図3(a)に示した本実施形態の画素構造のa-a断面を+y側から見た断面図と結像光学系の射出瞳面をに示す図である。なお、図4では、射出瞳面の座標軸と対応を取るために、断面図のx軸とy軸を図3に対して反転させている。
第1瞳部分領域501は光電変換部301に対応し、重心が-x方向に偏心している光電変換部301の受光面と、マイクロレンズ305によって概ね共役関係になっており、光電変換部301で受光可能な瞳領域を表している。第1瞳部分領域501は、瞳面上で+X側に重心が偏心している。
また、第2瞳部分領域502は光電変換部302に対応し、重心が+x方向に偏心している光電変換部302の受光面と、マイクロレンズ305によって概ね共役関係になっており、光電変換部302で受光可能な瞳領域を表している。第2瞳部分領域502は、瞳面上で-X側に重心が偏心している。
また、瞳領域500は、光電変換部301および302を全て合わせた際に画素200G全体で受光可能な瞳領域である。400は、絞り兼用シャッタ102の開口を表している。
撮像面位相差AFでは、撮像素子107のマイクロレンズ305を利用して瞳分割するため、回折の影響を受ける。射出瞳面までの瞳距離が数10mmであるのに対し、マイクロレンズの直径は数μmであるため、マイクロレンズ305の絞り値が数万となり、数10mmレベルの回折ボケが生じる。そのため、光電変換部301,302の受光面の像は、明瞭な瞳領域や瞳部分領域とはならずに、瞳強度分布(受光率の入射角分布)となる。
図5は、本実施の形態の撮像素子107と瞳分割との対応関係を示した概略図である。撮像素子の入射瞳距離Zsにおいて、撮像素子107の面上の各位置に配置された各画素の光電変換部301の受光領域に、対応する第1瞳部分領域501が、概ね、一致するように構成されている。同様に、光電変換部302の受光領域に、対応する第2瞳部分領域502が、概ね、一致するように構成されている。つまり、撮像素子107の入射瞳距離Zsにおいて、撮像素子107の各画素の分割位置と、第1瞳部分領域501と第2瞳部分領域502との瞳分割位置が、概ね、一致するように構成されている。第1瞳部分領域501と第2瞳部分領域502の結像光学系の異なる瞳部分領域を通過した一対の光束は、撮像素子107の各画素にそれぞれ異なる角度で入射し、2×1分割された光電変換部301,302で受光される。なお、本実施形態では、瞳領域が水平方向に2つに瞳分割されている例を示しているが、必要に応じて、垂直方向に瞳分割を行っても良い。
また、本実施形態の撮像素子107は、それぞれの撮像画素が第1焦点検出画素201と第2焦点検出画素202とから構成されているが、本発明はこれに限るものではない。必要に応じて、結像光学系の第1瞳部分領域501と第2瞳部分領域502とを合わせた瞳領域500を通過した光束を受光する撮像画素と、第1焦点検出画素201および第2焦点検出画素202を個別の画素構成としてもよい。その場合、撮像画素による配列の一部に、第1焦点検出画素201と第2焦点検出画素202を部分的に配置する構成としても良い。
上述した構成を有する撮像素子107の各画素の第1焦点検出画素201の受光信号を集めて第1焦点検出信号を生成し、各画素の第2焦点検出画素202の受光信号を集めて第2焦点検出信号を生成して焦点検出を行う。なお、本実施形態における各画素は、図2に示すように緑(G)、赤(R)、青(B)、緑(G)のいずれかの色のカラーフィルタにより覆われている。そのため、緑(G)、赤(R)、青(B)、緑(G)の4画素からなる画素群200毎に、第1焦点検出画素201の受光信号、第2焦点検出画素202の受光信号をそれぞれ加算して算出した信号Yを第1焦点検出信号、第2焦点検出信号として用いる。
また、撮像素子107の各マイクロレンズ305に対応する画素毎に、第1焦点検出画素201と第2焦点検出画素202の受光信号を加算することで、有効画素数Nの解像度の画像信号(加算信号)を生成することができる。
[デフォーカス量と像ずれ量の関係]
次に、本実施形態の撮像素子107により取得される第1焦点検出信号と第2焦点検出信号の像ずれ量とデフォーカス量との関係について説明する。図6は、第1焦点検出信号と第2焦点検出信号のデフォーカス量と第1焦点検出信号と第2焦点検出信号間の像ずれ量との関係を示す図である。撮像面800に本実施形態の撮像素子107が配置され、図4、図5と同様に、結像光学系の瞳領域500が、第1瞳部分領域501と第2瞳部分領域502に2分割される。
デフォーカス量dは、被写体の結像位置から撮像面800までの距離を大きさ|d|としたとき、被写体の結像位置が撮像面より被写体側にある前ピン状態を負(d<0)、撮像面800より被写体の反対側にある後ピン状態を正(d>0)として定義される。被写体の結像位置が撮像面800(合焦位置)にある焦点状態はd=0である。図6で、被写体801は合焦状態(d=0)の例を示しており、被写体802は前ピン状態(d<0)の例を示している。前ピン状態(d<0)と後ピン状態(d>0)を合わせて、デフォーカス状態(|d|>0)と呼ぶ。
前ピン状態(d<0)では、被写体802からの光束のうち、第1瞳部分領域501を通過した被写体光は、一度、集光した後、光束の重心位置G1を中心として幅Γ1に広がり、撮像面800でボケた像となる。第2瞳部分領域502を通過した被写体光についても同様であり、重心位置G2を中心として幅Γ2に広がったボケた像を形成する。ボケた像は、撮像素子107に配列された各画素を構成する第1焦点検出画素201および第2焦点検出画素202により受光され、得られた受光信号から第1焦点検出信号および第2焦点検出信号が生成される。よって、第1焦点検出信号および第2焦点検出信号は、撮像面800上の重心位置G1およびG2に、被写体802が幅Γ1およびΓ2にボケた被写体像として記録される。被写体像のボケ幅Γ1,Γ2は、デフォーカス量dの大きさ|d|が増加するのに伴い、概ね、比例して増加していく。同様に、第1焦点検出信号と第2焦点検出信号間の被写体像の像ずれ量p(=光束の重心位置の差G1-G2)の大きさ|p|も、デフォーカス量dの大きさ|d|が増加するのに伴い、概ね、比例して増加していく。後ピン状態(d>0)でも、第1焦点検出信号と第2焦点検出信号間の被写体像の像ずれ方向が前ピン状態と反対となるが、同様である。
したがって、事前に求めておいた、像ずれ量pをデフォーカス量dへ換算するための換算係数Kと、第1焦点検出信号と第2焦点検出信号間の被写体像の像ずれ量pとから、デフォーカス量dを算出することができる。
[合焦精度]
上述した通常の位相差検出方式による自動焦点検出(位相差AF)で求められる合焦位置はデフォーカス量d=0となる位置である。しかしながら、結像光学系の収差により、本来の合焦位置においてデフォーカス量d=0とならない検出誤差が発生する。検出誤差の抑制方法としては補正値を組み込む手法がある。しかしながら、倍率色収差が及ぼす焦点検出誤差は、撮像素子107の色シェーディングが絡む複雑なメカニズムからなっており、製造ばらつきも含め、焦点検出誤差に対して適切な補正を行うのが難しいという場合がある。
ここで、倍率色収差が及ぼす焦点検出誤差に関して説明をする。位相差AFでは、第1焦点検出信号と第2焦点検出信号の像ずれ量pよりデフォーカス量dを検出する。つまり、位相差AFにおける合焦位置は、第1焦点検出信号の重心位置G1と第2焦点検出信号の重心位置G2が一致したときに合焦と判断することになる。
図7を用いて、第1および第2の焦点検出信号(信号Y)の重心位置G1,G2を算出する手順について説明する。図7は、フォーカスレンズ104が合焦位置にある場合における、第1焦点検出画素201の受光信号および第2焦点検出画素202の受光信号による各色線像の一例を示す図である。図7において、縦軸は信号強度で、第1焦点検出画素201の受光信号および第2焦点検出画素202の受光信号それぞれにおいて、G信号の信号強度で規格化してある。横軸は、焦点検出領域の水平方向の中央座標を0とした画素位置を表している。
まず、図7の横軸におけるRGB各色線像の重心位置をそれぞれ、Xr、Xg、Xb[mm]とする。また、図7の縦軸おけるRGB各色の信号強度を、Sr、Sg、Sbとする。なお、第1焦点検出信号の値には(1)、第2焦点検出信号の値には(2)を付す。第1および第2の焦点検出信号の作成時のRGBの重み付けにより、重心算出時の各色の寄与率Pr、Pg、Pbは
Pr(1)=Sr(1)/(Sr(1)+2Sg(1)+Sb(1))
Pg(1)=2Sg(1)/(Sr(1)+2Sg(1)+Sb(1))
Pb(1)=Sb(1)/(Sr(1)+2Sg(1)+Sb(1))
Pr(2)=Sr(2)/(Sr(2)+2Sg(2)+Sb(2))
Pg(2)=2Sg(2)/(Sr(2)+2Sg(2)+Sb(2))
Pb(2)=Sb(2)/(Sr(2)+2Sg(2)+Sb(2))
となる。Sgの係数のみ2になっているのは、画素群200に緑(G)が2画素含まれるためである。ここで、RGB毎の線像の重心差は倍率色収差に相当し、各色寄与率は、第1焦点検出画素201と第2焦点検出画素202との色シェーディングの差に相当する。
ここで、重心位置G1と重心位置G2は、RGB各色線像の重心位置Xr、Xg、Xbと、各色寄与率Pr、Pg、Pbとの積和によって求められ、
G1=ΣXi(1)Pi(1),(i=r,g,b)
G2=ΣXi(2)Pi(2),(i=r,g,b)
ΔG=G1-G2 [mm]
となる。ΔGは、第1焦点検出信号と第2焦点検出信号を用いて位相差AFにより求めた焦点検出合焦位置における、第1焦点検出信号と第2焦点検出信号の重心差である。
同一色における第1焦点検出画素201の受光信号および第2焦点検出画素202の受光信号の線像重心位置は、焦点検出合焦位置においてほぼ同等であるため、
Xi(1)=Xi(2) (i=r,g,b)
として考えられる。
従って、ΔG=0の場合、焦点検出合焦位置における第1焦点検出信号と第2焦点検出信号との重心が等しいことを意味するため、倍率色収差による焦点検出誤差は無いことになる。一方、倍率色収差が大きく、第1焦点検出画素201と第2焦点検出画素202との色シェーディングの差が大きいと、ΔGは大きくなるため、倍率色収差による焦点検出誤差も大きくなる。
一般的に、結像光学系における倍率色収差は少なからず存在し、2つの焦点検出画素における色シェーディング差は中央像高から離れるほど大きくなる傾向にある。さらに、倍率色収差や色シェーディング差は製造ばらつきに影響されるため、適切な補正が難しい場合がある。
[重み付け]
そこで、本実施形態では、結像光学系のレンズ情報に基づき、互いに分光感度の異なる複数の焦点検出画素の受光信号から焦点検出信号を生成する際に、受光信号にかける重み付け(加算係数セット)を変更することで、倍率色収差が及ぼす焦点検出誤差を抑制する。本実施形態における結像光学系のレンズ情報は、結像光学系を構成するレンズIDとする。また、互いに分光感度の異なる複数の焦点検出画素は、本実施形態においては、赤(R)、緑(G)、青(B)の3種4画素である。通常、4画素の出力を加算して信号Y(焦点検出信号)を作成する際の受光信号の重み付けは、Gは2画素あることを考慮して、R:G:B=1:2:1である。これに対し、本実施形態においては、レンズIDに基づいて受光信号の重み付け(加算係数セット)を変更することを特徴とする。
[焦点検出処理の流れ]
図8は、第1の実施形態における焦点検出処理の流れの概略を示すフローチャートである。なお、図8の動作は、CPU121によりカメラの各構成を制御することにより実行される。
まず、S10で、結像光学系を構成するレンズのレンズIDを取得する。次いで、S11で、撮像素子107の有効画素領域内に、焦点調節を行う焦点検出領域を設定する。そして、S12において、設定された焦点検出領域の第1焦点検出画素201および第2焦点検出画素202から、受光信号を取得する。
S13において、S10で取得したレンズIDに基づき、第1焦点検出画素201および第2焦点検出画素202から取得したRGBからなる受光信号に対して、加算係数セットを用いて重み付け調整を実施する。レンズIDと受光信号の加算係数セットはCPU121に記憶されており、例えば表1のようにレンズID=Aの場合の加算係数セットはR:G:B=1:2:1であるが、レンズID=Bの場合の加算係数セットはR:G:B=0:2:0となる。レンズID=Bの場合は緑(G)の受光信号のみを用いて焦点検出を行うことになる。
Figure 0007022575000001
S14において、S13で重み付け調整された受光信号に対し、画素群200毎に加算処理を行って、第1焦点検出信号と第2焦点検出信号を生成する。なお、信号データ量を抑制するために、列方向に、例えば3つの画素群200ずつ加算処理を行ってもよい。
S15では、第1焦点検出信号と第2焦点検出信号に、強度を揃えるための、シェーディング補正処理(光学補正処理)を行う。
S16では、相関(信号の一致度)を良くして焦点検出精度を向上するために、第1焦点検出信号と第2焦点検出信号に、特定の通過周波数帯域を有するバンドパスフィルタ処理を行う。バンドパスフィルタの例としては、DC成分をカットしてエッジ抽出を行う{1、4、4、4、0、-4、-4、-4、-1}などの差分型フィルタや、高周波ノイズ成分を抑制する{1、2、1}などの加算型フィルタがある。
次に、S17において、フィルタ処理後の第1焦点検出信号と第2焦点検出信号を相対的に瞳分割方向にシフトさせるシフト処理を行い、信号の一致度を表す相関量を算出する。
フィルタ処理後のk番目の第1焦点検出信号をA(k)、第2焦点検出信号をB(k)、焦点検出領域に対応する番号kの範囲をWとする。シフト処理によるシフト量をs、シフト量sのシフト範囲をΓとすると、相関量CORは、式(1)により算出される。
Figure 0007022575000002
シフト量sのシフト処理により、k番目の第1焦点検出信号A(k)とk-s番目の第2焦点検出信号B(k-s)を対応させて減算し、シフト減算信号を生成する。生成されたシフト減算信号の絶対値を計算し、焦点検出領域に対応する範囲W内で番号kの和を取り、相関量COR(s)を算出する。必要に応じて、各行毎に算出された相関量を、各シフト量毎に、複数行に渡って加算しても良い。
S18では、相関量から、サブピクセル演算により、相関量が最小値となる実数値のシフト量を算出して像ずれ量pとする。そして、像ずれ量pに変換係数Kをかけて、デフォーカス量dを検出する。そして、S19において、検出したデフォーカス量dに基づいてレンズ駆動を行う。
倍率色収差が及ぼす焦点検出誤差は、倍率色収差が大きく、第1焦点検出画素と第2焦点検出画素との色シェーディングの差が大きい結像光学系において、互いに分光感度の異なる複数の焦点検出画素の検出信号を合算すると生じる課題である。したがって、倍率色収差が及ぼす焦点検出誤差が大きくなる結像光学系においては、例えば表1のレンズID=Bのように緑(G)のみで焦点検出を行えば、焦点検出誤差は抑制できる。また、B(青)の倍率色収差が特に大きいレンズの場合は、レンズID=Cのように赤(R)と緑(G)を加算した検出信号を用いてもよい。さらには、レンズID=Dのように赤(R)と青(B)の重み付けを半分にしたうえで、赤(R)緑(G)青(B)を加算した検出信号を用いてもよい。
なお、第1の実施形態においてはレンズIDと加算係数セットとの関係を撮像装置側のCPU121が記憶しておく構成としたが、本発明はこれに限定されない。例えば、レンズIDの代わりに、加算係数セットを指定するグループ別IDを定義し、グループ別ID=Aのレンズの加算係数セットをR:G:B=1:2:1、グループ別ID=Bのレンズの加算係数セットをR:G:B=0:2:0といったように構成してもよい。交換レンズ式の撮像装置においては、結像光学系を有する交換レンズが、不揮発性メモリを有し、そのメモリに上述のグループ別IDを記憶させる。交換レンズ側からグループ別IDを撮像装置に送信し、受信したグループ別IDに対応した加算係数セットを用いて重み付けを行う構成としてもよい。
上記の通り第1の実施形態によれば、結像光学系の倍率収差が焦点検出結果に与える影響を抑制し、高精度な焦点検出を行うことが可能となる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。第1の実施形態においては、結像光学系のレンズIDもしくはグループ別IDを結像光学系のレンズ情報とし、互いに分光感度の異なる複数の焦点検出画素から出力された信号を加算する際の重み付け(加算係数セット)をレンズ情報に応じて変更した。これに対し、第2の実施形態においては、結像光学系のレンズ情報として倍率色収差情報により、互いに分光感度の異なる複数の焦点検出画素の信号を加算する際の重み付け(加算係数セット)を変更する。なお、検出信号の重み付けを変更する点以外は第1の実施形態と同様であるため、相違点について説明し、カメラの構成等、共通点についての説明は省略する。
倍率色収差が及ぼす焦点検出誤差は、倍率色収差が大きいほど大きくなるため、倍率色収差が大きい焦点検出画素の受光信号の重みを低下させることで、検出誤差を抑制することができる。そこで第2の実施形態においては、倍率色収差情報と受光信号との関係を撮像装置側のCPU121に記憶しておく。Gを基準色として、RとG、BとGの倍率色収差量に応じて表2のように受光信号の加算係数セットを変更する。ここで、xRはRとGの倍率色収差の判断閾値であり、RとGの倍率色収差量がxR未満(閾値未満)であればRの検出信号を用い、xR以上(閾値以上)であればRの検出信号を用いない。同様に、xBはBとGの倍率色収差の判断閾値であり、BとGの倍率色収差量がxB未満であればBの検出信号を用い、xB以上であればBの検出信号を用いない。
Figure 0007022575000003
結像光学系を有する交換レンズの不揮発性メモリにレンズ固有の倍率色収差情報を記憶させておく。そして、交換レンズ側から倍率色収差情報を撮像装置に送信し、受信した倍率色収差情報に対応した加算係数セットを用いて、重み付け加算を行う。なお、倍率色収差量は結像光学系の状態によって異なる値であるため、例えばズーム状態や焦点状態に応じた倍率色収差情報を交換レンズの不揮発性メモリに記憶してもよい。その場合、結像光学系の状態に応じた倍率色収差情報を撮像装置に送信し、受信した倍率色収差情報に対応した加算係数セットを用いて重み付けを行う構成となる。
第2の実施形態においては結像光学系のレンズ情報として倍率色収差情報を用いて、加算係数セットを変更する調整方法について説明した。結像光学系のレンズ情報としては、倍率色収差による検出誤差を見積もる変数を用いることが好適であり、倍率色収差量以外にも射出瞳距離や、像ずれ量pをデフォーカス量dへ換算するための換算係数Kを用いることができる。一般的に射出瞳距離が短い結像光学系は、第1焦点検出画素201と第2焦点検出画素202との色シェーディングの差が大きくなりやすいため、倍率色収差による検出誤差を見積もる際に有用である。また、換算係数Kが大きい結像光学系は、倍率色収差による検出誤差を拡大することになるため、換算係数Kを結像光学系の情報として用いて、加算係数セットを変更する調整方法も有効である。射出瞳距離や換算係数Kを用いる場合、Gを基準色として、例えば、基準色以外の色(R、B)の加算係数セットを小さくする。
上記の通り第2の実施形態によれば、結像光学系の倍率収差が焦点検出結果に与える影響を抑制し、高精度な焦点検出を行うことが可能となる。
<第3の実施形態>
次に、本発明の第3の実施形態について説明する。交換レンズ式の撮像装置において、交換レンズと撮像装置の組み合わせが決定した状態において校正を行うことが知られている。そこで、本第3の実施形態では、交換レンズと撮像装置の組み合わせが決定した状態において、校正時に適切な検出信号の重み付け(加算係数セット)を設定する。なお、検出信号の重み付けを変更する点以外は第1の実施形態と同様であるため、相違点について説明し、カメラの構成等、共通点についての説明は省略する。
加算係数セットにはいくつかのパターンが考えられるが、第3の実施形態では、表3に示すようなパターンとする。また、第3の実施形態の撮像素子107の画素レイアウトは、図2に示すようにRGBからなるベイヤ配列であるが、本実施形態においてはR画素に隣接するG画素をGr、B画素に隣接するG画素をGbとして区別する。区別する理由としては、隣接画素からの光学的漏れこみを考慮すると、Gr画素とGb画素は分光感度が異なると考えられるためである。
Figure 0007022575000004
図9は、第3の実施形態において、それぞれの加算係数セットを用いた場合の、設定デフォーカス量と検出デフォーカス量との関係の一例を示す図である。設定デフォーカス量は正しいデフォーカス量であり、検出デフォーカス量は、検出したデフォーカス量に、表3に示す組み合わせ1~3のいずれかの加算係数セットを用いて重み付け加算して得られたデフォーカス量である。
設定デフォーカス量が0の時に検出デフォーカス量として0と返す場合が、最も合焦精度が高いと言える。したがって、図9より、最も合焦精度が高い加算係数セットは組み合わせ3となり、本実施形態の交換レンズと撮像装置の組み合わせでは、組み合わせ3の加算係数セットを用いて焦点検出を行うことが最適となる。したがって、この場合の交換レンズと撮像装置の組み合わせで焦点検出を行う場合は、組み合わせ3の加算係数セットを用いて焦点検出を行うように関連づけて撮像装置に記憶し、使用するとよい。
なお、適切な加算係数セットを決定する方法としては、設定デフォーカス量と検出デフォーカス量とを比較する以外にも、コントラストが最も高くなるピント位置に対して、最も近い検出結果を返す加算係数セットを選択してもよい。また、最も検出精度が高いと考えられる単色における焦点検出結果を正解とし、他の加算係数セットの組み合わせを用いた場合と比較をしてもよい。ただし、単色での焦点検出結果は受光量が少ないためS/N比が悪くなるという課題が発生する。同等な結果が得られる加算係数セットの組み合わせ同士の比較においては、S/N比の観点から受光量が最も高くなる組み合わせがよい。
なお、倍率色収差による焦点検出精度への影響はレンズの状態によって異なるため、絞り値毎に適切な加算係数セットを設定してもよい。また、ズームレンズの場合はズーム位置毎に適切な加算係数セットを設定してもよい。また、加算係数セットによっては、焦点検出結果を算出するのに必要なパラメータが大きく変わることがある。前述した換算係数Kやシェーディング補正値が焦点検出信号の加算係数によって変わる場合は、校正時に適切な値を算出し、撮像装置に記憶することで焦点検出時に使用するとよい。
上記の通り第3の実施形態によれば、結像光学系の倍率収差が焦点検出結果に与える影響を抑制し、高精度な焦点検出を行うことが可能となる。
また、本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101:第1レンズ群、102:絞り兼用シャッタ、103:第2レンズ群、105:第3レンズ群、107:撮像素子、121:CPU、124:撮像素子駆動回路、125:画像処理回路、126:フォーカス駆動回路、129:ズーム駆動回路

Claims (16)

  1. 複数のマイクロレンズそれぞれに対して複数の光電変換部を備え、結像光学系を介して入射する光を光電変換して電気信号を出力する、複数色のカラーフィルタに覆われた撮像素子から得られる複数色の信号に基づいて、位相差検出方式による焦点検出を行う焦点検出装置であって、
    前記結像光学系の倍率色収差の特性に応じて、前記複数色の信号に適用する重み付けを示す複数の加算係数を予め記憶し、前記結像光学系の情報に応じて、前記複数の加算係数の1つを選択する取得手段と、
    前記選択した加算係数により、前記複数色の信号の重み付け加算を行って、一対の焦点検出信号を生成する生成手段と、
    前記一対の焦点検出信号間の像ずれ量を検出する検出手段と
    を有することを特徴とする焦点検出装置。
  2. 前記結像光学系の情報は、前記結像光学系のレンズ識別情報であることを特徴とする請求項に記載の焦点検出装置。
  3. 前記結像光学系の情報は、前記結像光学系の倍率色収差の特性に応じて前記複数の加算係数のいずれかを指定する情報であることを特徴とする請求項1に記載の焦点検出装置。
  4. 前記結像光学系の倍率色収差の特性は、前記結像光学系の倍率色収差の大きさを示す情報であることを特徴とする請求項1に記載の焦点検出装置。
  5. 前記倍率色収差の大きさを示す情報は、前記複数色のうち基準となる色と、その他の色との間の倍率色収差量であって、前記取得手段は、前記倍率色収差量が予め決められた閾値以上の場合に、前記倍率色収差が前記閾値未満である場合よりも、より小さい加算係数を選択することを特徴とする請求項に記載の焦点検出装置。
  6. 前記倍率色収差の大きさを示す情報は、前記撮像素子から前記結像光学系までの射出瞳距離であって、前記取得手段は、前記射出瞳距離が予め決められた閾値以上の場合に、前記射出瞳距離が前記閾値未満である場合よりも、前記複数色のうち基準色以外の色の加算係数小さい加算係数を選択することを特徴とする請求項に記載の焦点検出装置。
  7. 前記倍率色収差の大きさを示す情報は、前記像ずれ量を、前記結像光学系のデフォーカス量に変換する変換係数であって、前記取得手段は、前記変換係数が予め決められた閾値以上の場合に、前記変換係数が前記閾値未満である場合よりも、前記複数色のうち基準色以外の色の加算係数小さい加算係数を選択することを特徴とする請求項に記載の焦点検出装置。
  8. 前記結像光学系は、前記撮像素子を含む撮像装置に対して着脱可能であって、
    前記取得手段は、前記複数の加算係数を用いて前記複数色の信号の重み付け加算をそれぞれ行って得られた像ずれ量のうち、予め決められた像ずれ量に最も近い像ずれ量となる加算係数を選択し、前記結像光学系と前記撮像装置の組み合わせと、選択した加算係数とを関連づけて記憶することを特徴とする請求項1に記載の焦点検出装置。
  9. 前記取得手段は、さらに、前記複数の加算係数のうち、前記結像光学系の状態に応じて、加算係数を選択し、前記結像光学系の状態に関連づけて記憶することを特徴とする請求項に記載の焦点検出装置。
  10. 複数のマイクロレンズそれぞれに対して複数の光電変換部を備え、結像光学系を介して入射する光を光電変換して電気信号を出力する、複数色のカラーフィルタに覆われた撮像素子から得られる複数色の信号に基づいて、位相差検出方式による焦点検出を行う焦点検出装置であって、
    前記結像光学系の倍率色収差の特性に応じて、前記結像光学系から、前記複数色の信号に適用する重み付けを示す加算係数を取得する取得手段と、
    前記加算係数により、前記複数色の信号の重み付け加算を行って、一対の焦点検出信号を生成する生成手段と、
    前記一対の焦点検出信号間の像ずれ量を検出する検出手段と
    を有することを特徴とする焦点検出装置。
  11. 請求項1乃至10のいずれか1項に記載の焦点検出装置と、
    前記撮像素子と、
    前記像ずれ量に基づいて、前記結像光学系を制御する制御手段と
    を有することを特徴とする撮像装置。
  12. 前記結像光学系を更に有することを特徴とする請求項11に記載の撮像装置。
  13. 複数のマイクロレンズそれぞれに対して複数の光電変換部を備え、結像光学系を介して入射する光を光電変換して電気信号を出力する、複数色のカラーフィルタに覆われた撮像素子から得られる複数色の信号に基づいて、位相差検出方式による焦点検出を行う焦点検出方法であって、
    取得手段が、前記結像光学系の倍率色収差の特性に応じて、前記複数色の信号に適用する重み付けを示す複数の加算係数を予め記憶し、前記結像光学系の情報に応じて、前記複数の加算係数の1つを選択する取得工程と、
    生成手段が、前記選択した加算係数により、前記複数色の信号の重み付け加算を行って、一対の焦点検出信号を生成する生成工程と、
    検出手段が、前記一対の焦点検出信号間の像ずれ量を検出する検出工程と
    を有することを特徴とする焦点検出方法。
  14. 複数のマイクロレンズそれぞれに対して複数の光電変換部を備え、結像光学系を介して入射する光を光電変換して電気信号を出力する、複数色のカラーフィルタに覆われた撮像素子から得られる複数色の信号に基づいて、位相差検出方式による焦点検出を行う焦点検出方法であって、
    取得手段が、前記結像光学系の倍率色収差の特性に応じて、前記結像光学系から、前記複数色の信号に適用する重み付けを示す加算係数を取得する取得工程と、
    生成手段が、前記加算係数により、前記複数色の信号の重み付け加算を行って、一対の焦点検出信号を生成する生成工程と、
    検出手段が、前記一対の焦点検出信号間の像ずれ量を検出する検出工程と
    ことを特徴とする焦点検出方法。
  15. コンピュータを、請求項1乃至10のいずれか1項に記載の焦点検出装置の各手段として機能させるためのプログラム。
  16. 請求項15に記載のプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
JP2017236295A 2017-01-13 2017-12-08 焦点検出装置および方法、および撮像装置 Active JP7022575B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US15/862,813 US10326926B2 (en) 2017-01-13 2018-01-05 Focus detection apparatus and method, and image capturing apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2017004603 2017-01-13
JP2017004603 2017-01-13

Publications (3)

Publication Number Publication Date
JP2018116267A JP2018116267A (ja) 2018-07-26
JP2018116267A5 JP2018116267A5 (ja) 2021-01-28
JP7022575B2 true JP7022575B2 (ja) 2022-02-18

Family

ID=62984203

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017236295A Active JP7022575B2 (ja) 2017-01-13 2017-12-08 焦点検出装置および方法、および撮像装置

Country Status (1)

Country Link
JP (1) JP7022575B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7405678B2 (ja) 2020-04-01 2023-12-26 株式会社Screenホールディングス 合焦位置検出方法、合焦位置検出装置および合焦位置検出用プログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008052009A (ja) 2006-08-24 2008-03-06 Nikon Corp 焦点検出装置、焦点検出方法および撮像装置
JP2013171251A (ja) 2012-02-22 2013-09-02 Nikon Corp 焦点検出装置
JP2014072541A (ja) 2012-09-27 2014-04-21 Nikon Corp 撮像素子および撮像装置
JP2014215436A (ja) 2013-04-25 2014-11-17 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム
JP2014222291A (ja) 2013-05-13 2014-11-27 キヤノン株式会社 撮像装置およびその制御方法
WO2016111175A1 (ja) 2015-01-07 2016-07-14 ソニー株式会社 画像処理装置、画像処理方法、及び、プログラム
JP2016180999A (ja) 2016-05-26 2016-10-13 株式会社ニコン 焦点検出装置および撮像装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008052009A (ja) 2006-08-24 2008-03-06 Nikon Corp 焦点検出装置、焦点検出方法および撮像装置
JP2013171251A (ja) 2012-02-22 2013-09-02 Nikon Corp 焦点検出装置
JP2014072541A (ja) 2012-09-27 2014-04-21 Nikon Corp 撮像素子および撮像装置
JP2014215436A (ja) 2013-04-25 2014-11-17 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム
JP2014222291A (ja) 2013-05-13 2014-11-27 キヤノン株式会社 撮像装置およびその制御方法
WO2016111175A1 (ja) 2015-01-07 2016-07-14 ソニー株式会社 画像処理装置、画像処理方法、及び、プログラム
JP2016180999A (ja) 2016-05-26 2016-10-13 株式会社ニコン 焦点検出装置および撮像装置

Also Published As

Publication number Publication date
JP2018116267A (ja) 2018-07-26

Similar Documents

Publication Publication Date Title
US10545312B2 (en) Focus detection apparatus, control method thereof, and storage medium storing program
JP6239857B2 (ja) 撮像装置およびその制御方法
JP6249825B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP6532119B2 (ja) 撮像装置及びその制御方法
JP6376974B2 (ja) 撮像装置及び撮像システム
JP2018107654A (ja) 画像処理装置および画像処理方法、プログラム、記憶媒体
JP6381266B2 (ja) 撮像装置、制御装置、制御方法、プログラム、および、記憶媒体
CN107431755B (zh) 图像处理设备、摄像设备、图像处理方法和存储介质
JP2015194736A (ja) 撮像装置およびその制御方法
US10326926B2 (en) Focus detection apparatus and method, and image capturing apparatus
JP7022575B2 (ja) 焦点検出装置および方法、および撮像装置
JP6254843B2 (ja) 画像処理装置およびその制御方法
JP6285683B2 (ja) 撮像装置及びその制御方法
JP2015210285A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP6862102B2 (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP2015145970A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2018151508A (ja) 撮像装置
JP2017054052A (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP2015225310A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP6938719B2 (ja) 撮像装置及び撮像システム
JP7005209B2 (ja) 撮像装置、及びその制御方法
JP6968650B2 (ja) 撮像装置およびその制御方法
JP2016009024A (ja) 焦点検出装置およびその制御方法、並びに撮像装置
JP2021131513A (ja) 制御装置、撮像装置、制御方法、および、プログラム
JP2016133595A (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201207

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211022

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220207

R151 Written notification of patent or utility model registration

Ref document number: 7022575

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151