JP2014215606A - 撮像装置及びその制御方法 - Google Patents

撮像装置及びその制御方法 Download PDF

Info

Publication number
JP2014215606A
JP2014215606A JP2013095959A JP2013095959A JP2014215606A JP 2014215606 A JP2014215606 A JP 2014215606A JP 2013095959 A JP2013095959 A JP 2013095959A JP 2013095959 A JP2013095959 A JP 2013095959A JP 2014215606 A JP2014215606 A JP 2014215606A
Authority
JP
Japan
Prior art keywords
focus detection
line
amount
addition
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013095959A
Other languages
English (en)
Other versions
JP6532119B2 (ja
JP2014215606A5 (ja
Inventor
福田 浩一
Koichi Fukuda
浩一 福田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2013095959A priority Critical patent/JP6532119B2/ja
Priority to KR1020140048537A priority patent/KR101886059B1/ko
Priority to US14/260,225 priority patent/US9106827B2/en
Publication of JP2014215606A publication Critical patent/JP2014215606A/ja
Priority to US14/795,964 priority patent/US9386217B2/en
Publication of JP2014215606A5 publication Critical patent/JP2014215606A5/ja
Application granted granted Critical
Publication of JP6532119B2 publication Critical patent/JP6532119B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements

Abstract

【課題】 焦点検出領域に相関量の検出に適さないラインが含まれる場合でも、演算回路規模や演算負荷を抑制し、高精度な焦点検出を可能とすること。【解決手段】 焦点検出用の一対の像信号をそれぞれ出力することが可能な光電変換部を有する焦点検出画素を含む撮像素子を含む撮像装置において、撮像素子の画素の各ラインが、相関量の検出に適さない像信号を出力する非加算ラインかどうかを判断し、非加算ラインではないと判断された加算ラインに含まれる前記焦点検出画素から出力される一対の像信号に基づいて、加算ライン毎に相関量を求め、求めた加算ラインの相関量を加算し、加算ラインの数を計数し、加算された相関量に基づいて、デフォーカス量を求め、該デフォーカス量の信頼性を示す評価値と標準加算数との積が、加算ラインの数と標準評価値との積よりも小さい場合に、デフォーカス量に基づいてフォーカスレンズを駆動する。【選択図】 図7

Description

本発明は、撮像装置及びその制御方法に関するものである。
撮像装置で行われる焦点検出方法の1つに、撮像素子に形成された焦点検出画素により位相差方式の焦点検出を行う撮像面位相差方式がある。
特許文献1では、1つの画素に対して、1つのマイクロレンズと複数に分割された光電変換部が形成されている2次元撮像素子を用いた撮像装置が開示されている。分割された光電変換部は、1つのマイクロレンズを介して撮影レンズの射出瞳の異なる領域を透過した光を受光するように構成され、瞳分割を行っている。こういった分割された光電変換部を有する画素(焦点検出画素)から出力されたそれぞれの焦点検出信号から相関量を算出し、相関量から像ずれ量を求めることで、位相差方式の焦点検出を行うことができる。また、特許文献2では、分割された光電変換部から出力された焦点検出信号を画素毎に加算することにより撮像信号を生成することが開示されている。
また、特許文献3では、複数の撮像画素からなる2次元撮像素子に、部分的に対の焦点検出画素が配置された撮像装置が開示されている。対の焦点検出画素は、開口部を有する遮光層により、撮影レンズの射出瞳の異なる領域を受光するように構成され、瞳分割を行っている。2次元撮像素子の大部分に配置された撮像画素で撮像信号を取得し、一部に配置された焦点検出画素の焦点検出信号から相関量を算出し、相関量から像ずれ量を求めて、位相差方式の焦点検出を行うことが開示されている。
撮像面位相差方式の焦点検出においては、撮像素子に形成された焦点検出画素によりデフォーカス方向とデフォーカス量を同時に検出することが可能であり、高速に焦点調節を行うことができる。
また、焦点検出の低輝度限界を向上させるために、焦点検出領域内の複数の焦点検出ラインの焦点検出信号から、それぞれ、算出された複数の相関量を加算し、ノイズが低減された加算相関量(加算後の相関量)から像ずれ量を求める方法が提案されている。この方法の場合、像ずれ量の信頼性判定のための評価値なども加算相関量から算出される。
米国特許4410804号 特開2001−083407号公報 特開2000−156823号公報
焦点検出領域内の複数の焦点検出ラインには、飽和信号の割合が大きい飽和ラインや、何らかの欠陥を有する画素を含むキズライン等、相関量の検出に適さないラインが含まれることがある。焦点検出領域に含まれる複数の焦点検出ラインの加算相関量を算出して焦点検出を行う場合、そのようなラインの相関量を、加算相関量への加算処理から除外する必要がある。そのため、加算相関量を得るために加算される相関量の加算数は一定ではなく変化することになるが、この変化に伴い、加算相関量や加算相関量から算出される信頼性判定のための評価値なども変化するため、加算相関量の規格化が必要となる。
しかしながら、FPGAなどの演算回路で処理を行う場合、各シフト量毎に加算相関量の割り算を行う規格化処理は、足し算、掛け算、ビットシフト演算などと比較して、演算回路規模や演算負荷が大きくなってしまうという課題がある。
本発明は上記問題点を鑑みてなされたものであり、焦点検出領域に飽和信号の割合が大きい飽和ラインやキズライン等、相関量の検出に適さないラインが含まれる場合でも、演算回路規模や演算負荷を抑制し、高精度な焦点検出を可能とすることを目的とする。
上記目的を達成するために、本発明の撮像装置は、結像光学系の異なる射出瞳領域を通過した一対の光束をそれぞれ受光して得られた一対の像信号をそれぞれ出力することが可能な光電変換部を有する焦点検出画素を含む、2次元に配置された複数の画素を有する撮像素子と、前記撮像素子の画素の各ラインが、相関量の検出に適さない像信号を出力する非加算ラインかどうかを判断する判断手段と、前記判断手段により前記非加算ラインではないと判断された加算ラインに含まれる前記焦点検出画素から出力される一対の像信号に基づいて、前記加算ライン毎に相関量を求め、求めた前記加算ラインの相関量を加算する算出手段と、前記算出手段により加算された前記加算ラインの数を計数する計数手段と、前記算出手段により加算された相関量に基づいて、デフォーカス量を求める演算手段と、前記演算手段により求めたデフォーカス量の信頼性を示す評価値と、予め決められた標準加算数との積が、前記計数手段により計数された前記加算ラインの数と、予め決められた評価値を示す標準評価値との積よりも小さい場合に、前記デフォーカス量に基づいて前記結像光学系に含まれるフォーカスレンズを駆動する焦点調節手段とを有する。
本発明によれば、焦点検出領域に飽和信号の割合が大きい飽和ラインやキズライン等、相関量の検出に適さないラインが含まれる場合でも、演算回路規模や演算負荷を抑制し、高精度な焦点検出を可能となる。
本発明の実施の形態に係る撮像装置の概略構成図。 実施の形態における画素配列の概略図。 実施の形態における画素の概略平面図と概略断面図。 実施の形態における画素構造と瞳分割の概略説明図。 実施の形態における撮像素子と瞳分割の概略説明図。 実施の形態における第1焦点検出信号と第2焦点検出信号のデフォーカス量と像ずれ量との概略関係図。 実施の形態における焦点検出処理のフローチャート。
以下、添付図面を参照して本発明を実施するための最良の形態を詳細に説明する。ただし、本形態において例示される構成部品の寸法、形状、それらの相対配置などは、本発明が適用される装置の構成や各種条件により適宜変更されるべきものであり、本発明がそれらの例示に限定されるものではない。
[全体構成]
図1は本発明の実施の形態における撮像素子を有する撮像装置であるカメラの概略構成を示したものである。図1において、第1レンズ群101は結像光学系の先端に配置され、光軸方向に進退可能に保持される。絞り兼用シャッタ102は、その開口径を調節することで撮影時の光量調節を行うほか、静止画撮影時には露光秒時調節用シャッタとしての機能も備える。第2レンズ群103は、絞り兼用シャッタ102と一体となって光軸方向に進退し、第1レンズ群101の進退動作との連動により、変倍作用(ズーム機能)を実現することができる。
第3レンズ群105(フォーカスレンズ)は、光軸方向の進退により焦点調節を行う。光学的ローパスフィルタ106は、撮影画像の偽色やモアレを軽減するための光学素子である。撮像素子107は2次元CMOSフォトセンサとその周辺回路からなり、結像光学系の結像面に配置される。
ズームアクチュエータ111は、不図示のカム筒を回動することで、第1レンズ群101ないし第3レンズ群103を光軸方向に進退駆動し、変倍操作を行う。絞りシャッタアクチュエータ112は、絞り兼用シャッタ102の開口径を制御して撮影光量を調節すると共に、静止画撮影時の露光時間制御を行う。フォーカスアクチュエータ114は、第3レンズ群105を光軸方向に進退駆動して焦点調節を行う。
撮影時の被写体照明用電子フラッシュ115で、キセノン管を用いた閃光照明装置が好適だが、連続発光するLEDを備えた照明装置を用いても良い。AF補助光発光部116は、所定の開口パターンを有したマスクの像を、投光レンズを介して被写界に投影し、暗い被写体あるいは低コントラスト被写体に対する焦点検出能力を向上させる。
121は、カメラ本体の種々の制御を司るカメラ内CPUで、演算部、ROM、RAM、A/Dコンバータ、D/Aコンバータ、通信インターフェイス回路等を有する。CPU121は、ROMに記憶された所定のプログラムに基づいて、カメラが有する各種回路を駆動し、AF、撮影、画像処理と記録等の一連の動作を実行する。
電子フラッシュ制御回路122は、撮影動作に同期して電子フラッシュ115を点灯制御する。補助光駆動回路123は、焦点検出動作に同期してAF補助光発光部116を点灯制御する。撮像素子駆動回路124は、撮像素子107の撮像動作を制御するとともに、取得した画像信号をA/D変換してCPU121に送信する。画像処理回路125は、撮像素子107が取得した画像のγ変換、カラー補間、JPEG圧縮等の処理を行う。
フォーカス駆動回路126は、焦点検出結果に基づいてフォーカスアクチュエータ114を駆動制御し、第3レンズ群105を光軸方向に進退駆動して焦点調節を行う。絞りシャッタ駆動回路128は、絞りシャッタアクチュエータ112を駆動制御して絞り兼用シャッタ102の開口を制御する。ズーム駆動回路129は、撮影者のズーム操作に応じてズームアクチュエータ111を駆動する。
LCD等の表示器131は、カメラの撮影モードに関する情報、撮影前のプレビュー画像と撮影後の確認用画像、焦点検出時の合焦状態表示画像等を表示する。操作スイッチ群132は、電源スイッチ、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、撮影モード選択スイッチ等で構成される。着脱可能なフラッシュメモリ133は、撮影済み画像を記録する。
[撮像素子]
次に、本実施の形態における撮像素子107の撮像画素と焦点検出画素の配列の概略を図2に示す。図2は、本実施の形態の2次元CMOSセンサー(撮像素子)の画素(撮像画素)配列を4列×4行の範囲で、焦点検出画素配列を8列×4行の範囲で示したものである。
画素群200は2行×2列の画素からなり、R(赤)の分光感度を有する画素200Rが左上に、G(緑)の分光感度を有する画素200Gが右上と左下に、B(青)の分光感度を有する画素200Bが右下に配置されている。さらに、各画素は2列×1行に配列された第1焦点検出画素201と第2焦点検出画素202により構成されている。
図2に示した4列×4行の画素(8列×4行の焦点検出画素)を面上に多数配置し、撮像画像(焦点検出信号)の取得を可能としている。実施の形態では、画素の周期Pが4μm、画素数Nが横5575列×縦3725行=約2075万画素、焦点検出画素の列方向周期PAFが2μm、焦点検出画素数NAFが横11150列×縦3725行=約4150万画素の撮像素子として説明を行う。
図2に示した撮像素子の1つの画素200Gを、撮像素子107の受光面側(+z側)から見た平面図を図3(a)に示し、図3(a)のa−a断面を−y側から見た断面図を図3(b)に示す。図3に示すように、本実施の形態の画素200Gでは、各画素の受光側に入射光を集光するためのマイクロレンズ305が形成され、x方向にNH分割(2分割)、y方向にNV分割(1分割)された光電変換部301と光電変換部302が形成される。光電変換部301及び302が、それぞれ、第1焦点検出画素201と第2焦点検出画素202に対応する。光電変換部301及び302は、p型層とn型層の間にイントリンシック層を挟んだpin構造フォトダイオードとしても良いし、必要に応じて、イントリンシック層を省略し、pn接合フォトダイオードとしても良い。
各画素には、マイクロレンズ305と、光電変換部301及び302との間に、カラーフィルタ306が形成される。また、必要に応じて、各焦点検出画素毎にカラーフィルタの分光透過率を変えても良いし、カラーフィルタを省略しても良い。
図3に示した画素200Gに入射した光は、マイクロレンズ305により集光され、カラーフィルタ306で分光されたのち、光電変換部301及び302で受光される。光電変換部301及び302では、受光量に応じて電子とホールが対生成し、空乏層で分離された後、負電荷の電子はn型層(不図示)に蓄積され、一方、ホールは定電圧源(不図示)に接続されたp型層を通じて撮像素子107の外部へ排出される。光電変換部301及び302のn型層(不図示)に蓄積された電子は、転送ゲートを介して、静電容量部(FD)に転送され、電圧信号に変換されて出力される。
図3に示した本実施の形態の画素構造と瞳分割との対応関係を図4を参照して説明する。図4は、図3(a)に示した本実施の形態の画素構造のa−a断面を+y側から見た断面図と結像光学系の射出瞳面をに示す図である。なお、図4では、射出瞳面の座標軸と対応を取るために、断面図のx軸とy軸を図3に対して反転させている。
第1焦点検出画素201の第1瞳部分領域501は、重心が−x方向に偏心している光電変換部301の受光面と、マイクロレンズ305によって概ね共役関係になっており、第1焦点検出画素201で受光可能な瞳領域を表している。第1焦点検出画素201の第1瞳部分領域501は、瞳面上で+X側に重心が偏心している。
また、第2焦点検出画素202の第2瞳部分領域502は、重心が+x方向に偏心している光電変換部302の受光面と、マイクロレンズ305によって概ね共役関係になっており、第2焦点検出画素202で受光可能な瞳領域を表している。第2焦点検出画素202の第2瞳部分領域502は、瞳面上で−X側に重心が偏心している。
また、瞳領域500は、光電変換部301及び302(第1焦点検出画素201と第2焦点検出画素202)を全て合わせた際の画素200G全体で受光可能な瞳領域である。
図5は、本実施の形態の撮像素子と瞳分割との対応関係を示した概略図である。第1瞳部分領域501と第2瞳部分領域502の結像光学系の異なる射出瞳領域を通過した一対の光束は、撮像素子107の各画素にそれぞれ異なる角度で入射し、2×1に分割された第1焦点検出画素201と第2焦点検出画素202で受光される。本実施の形態は、瞳領域が水平方向に2つに瞳分割されている例である。必要に応じて、垂直方向に瞳分割を行っても良い。
なお、上述した例では第1焦点検出画素と第2焦点検出画素から構成された撮像画素が複数配列されているが、本発明はこれに限られるものではない。必要に応じて、撮像画素と、第1焦点検出画素、第2焦点検出画素を個別の画素構成とし、撮像画素配列の一部に、第1焦点検出画素と第2焦点検出画素を部分的に配置する構成としても良い。
本実施の形態では、撮像素子の各画素の第1焦点検出画素201の受光信号を集めて第1焦点検出信号を生成し、各画素の第2焦点検出画素202の受光信号を集めて第2焦点検出信号を生成して焦点検出を行う。また、撮像素子の各画素毎に、第1焦点検出画素201と第2焦点検出画素202の信号を加算することで、有効画素数Nの解像度の撮像信号(撮像画像)を生成する。
[デフォーカス量と像ずれ量の関係]
以下、本実施の形態の撮像素子により取得される第1焦点検出信号と第2焦点検出信号のデフォーカス量と、像ずれ量との関係について説明する。図6は、第1焦点検出信号と第2焦点検出信号のデフォーカス量と第1焦点検出信号と第2焦点検出信号間の像ずれ量の概略関係図である。撮像面800に本実施の形態の撮像素子107が配置され、図4、図5を参照して説明したように、結像光学系の射出瞳が、第1瞳部分領域501と第2瞳部分領域502に2分割される。
デフォーカス量dは、被写体の結像位置から撮像面までの距離を大きさ|d|とし、被写体の結像位置が撮像面より被写体側にある前ピン状態を負符号(d<0)、被写体の結像位置が撮像面より被写体の反対側にある後ピン状態を正符号(d>0)として定義される。被写体の結像位置が撮像面(合焦位置)にある合焦状態はd=0である。図6で、被写体801は合焦状態(d=0)の例を示しており、被写体802は前ピン状態(d<0)の例を示している。前ピン状態(d<0)と後ピン状態(d>0)を合わせて、デフォーカス状態(|d|>0)とする。
前ピン状態(d<0)では、被写体802からの光束のうち、第1瞳部分領域501(第2瞳部分領域502)を通過した光束は、一度、集光した後、光束の重心位置G1(G2)を中心として幅Γ1(Γ2)に広がり、撮像面800でボケた像となる。ボケた像は、撮像素子107に配列された各画素を構成する第1焦点検出画素201(第2焦点検出画素202)により受光され、第1焦点検出信号(第2焦点検出信号)が生成される。よって、第1焦点検出信号(第2焦点検出信号)は、撮像面800上の重心位置G1(G2)に、被写体802が幅Γ1(Γ2)にボケた被写体像として記録される。被写体像のボケ幅Γ1(Γ2)は、デフォーカス量dの大きさ|d|が増加するのに伴い、概ね、比例して増加していく。同様に、第1焦点検出信号と第2焦点検出信号間の被写体像の像ずれ量p(=光束の重心位置の差G1−G2)の大きさ|p|も、デフォーカス量dの大きさ|d|が増加するのに伴い、概ね、比例して増加していく。後ピン状態(d>0)でも、第1焦点検出信号と第2焦点検出信号間の被写体像の像ずれ方向が前ピン状態と反対となるが、同様である。
このように、第1焦点検出信号と第2焦点検出信号、もしくは、第1焦点検出信号と第2焦点検出信号を加算した撮像信号のデフォーカス量の大きさが増加するのに伴い、第1焦点検出信号と第2焦点検出信号間の像ずれ量の大きさが増加する。
[焦点検出]
本実施の形態では、第1焦点検出信号と第2焦点検出信号のデフォーカス量と像ずれ量の関係性を用いて、位相差方式の焦点検出を行う。位相差方式の焦点検出では、第1焦点検出信号と第2焦点検出信号を相対的にシフトさせて信号の一致度を表す相関量を計算し、相関(信号の一致度)が良くなるシフト量から像ずれ量を検出する。上述したように、撮像信号のデフォーカス量の大きさが増加するのに伴い、第1焦点検出信号と第2焦点検出信号間の像ずれ量の大きさが増加する関係性から、像ずれ量を検出デフォーカス量に変換して焦点検出を行う。
図7は、本実施の形態の焦点検出処理のフローチャートである。なお、図7に示す処理は、画像処理回路125とCPU121によって実行される。
まずS101で、撮像素子107の有効画素領域の中から焦点調節を行う焦点検出領域を設定する。焦点検出領域の設定により、焦点検出領域の瞳分割方向の範囲Wと、第1焦点検出信号と第2焦点検出信号を瞳分割方向に相対的にシフトさせて相関量を算出する際のシフト量sのシフト範囲Γを設定する。次に、焦点検出領域の瞳分割方向と直交する方向の範囲Lを設定し、焦点検出領域に含まれる複数の焦点検出ラインを選択する。本実施の形態では、撮像素子107の水平方向が瞳分割方向であり、撮像素子107の垂直方向が瞳分割方向と直交する方向である。
S102で、加算相関量COR(s)の記憶領域を確保し、加算相関量COR(s)の全ての成分を0に初期化する。S103で、加算数Naを0に初期化する。
次に、S101で設定された焦点検出領域の瞳分割方向と直交する方向の範囲Lに含まれるl番目(l∈L)の焦点検出ラインを選択する。以下、S201からS206の処理は、範囲Lに含まれる全ての焦点検出ラインに対して行われる。
S201で、l番目の焦点検出ラインが相関量の検出に適さない何らかの欠陥を有する画素を含むキズライン(非加算ライン)かどうかの判定を行う。キズラインと判定された場合は、l番目の焦点検出ラインの相関量を算出しないと判定してS207に進み、キズラインではないと判定された場合は、S202に進む。
撮像素子107の回路構成や駆動方式により、撮像信号は正常で撮像画像への影響はないが、第1焦点検出信号または第2焦点検出信号のいずれかにキズ信号が含まれ、焦点検出ラインとしては相関量の検出に適さないキズラインとなる場合がある。従って、S201では、量産工程等で検査されたキズライン情報を、画像処理回路125等に事前に記録し、記録されたキズライン情報を用いてキズライン判定を行っても良い。また、必要に応じて、第1焦点検出信号と第2焦点検出信号をリアルタイムに検査してキズライン判定を行っても良い。
S202で、l番目の焦点検出ラインの第1焦点検出画素の受光信号から第1焦点検出信号を生成し、焦点検出領域の第2焦点検出画素の受光信号から第2焦点検出信号を生成する。ここで、垂直方向(瞳分割方向と直交する方向)にl番目(l∈L)、水平方向(瞳分割方向)にk番目(k∈W)の第1焦点検出信号をA(l、k)、第2焦点検出信号をB(l、k)とする。なお、必要に応じて、第1焦点検出信号と第2焦点検出信号に、それぞれ、信号データ量を抑制するために、水平方向の3画素加算処理や、RGB信号を輝度Y信号にするためのベイヤー(RGB)加算処理などの信号加算処理を行っても良い。
S203で、l番目の焦点検出ラインが相関量の検出に適さない飽和ライン(非加算ライン)かどうかの判定を行う。本実施の形態では、l番目の第1焦点検出信号{A(l、k):k∈W}及び第2焦点検出信号{B(l、k):k∈W}の少なくとも一方の所定割合以上(例えば、75%以上)が飽和信号である場合に、l番目の焦点検出ラインを飽和ラインと判定する。飽和ラインと判定された場合は、l番目の焦点検出ラインは相関量を算出しないと判定してS207に進み、飽和ラインではない(加算ライン)と判定された場合は、S204に進む。
飽和信号が連続している部分は、信号が最大値で一定となり像ずれ量の情報が欠落してしまう。一方、飽和信号と非飽和信号との境界部分は、像ずれ量の情報が残る。必要に応じて、飽和信号が連続している部分の影響を排除して、飽和信号と非飽和信号との境界部分の像ずれ量の情報を抽出するために、第1焦点検出信号と第2焦点検出信号に、エッジ抽出を行うためのバンドパスフィルタ処理を行っても良い。この処理により、焦点検出ラインに飽和信号が含まれる場合でも、飽和信号と非飽和信号との境界部分が存在すれば焦点検出情報として利用できるため、飽和ライン判定で除外される焦点検出ラインの数を抑制することができる。
S204で、l番目の焦点検出ライン毎(加算ライン毎)に、第1焦点検出信号{A(l、k):k∈W}と第2焦点検出信号{B(l、k):k∈W}から、l番目の焦点検出ラインの相関量COR(l、s)を、次式(1)により算出する。
Figure 2014215606
シフト量sの瞳分割方向へのシフト処理により、k番目の第1焦点検出信号A(l、k)とk−s番目の第2焦点検出信号B(l、k−s)を対応させ減算し、シフト減算信号を生成する。生成されたシフト減算信号の絶対値を計算し、焦点検出領域の瞳分割方向の範囲W内で番号kの和を取り、l番目の焦点検出ラインの相関量COR(l、s)を算出する。
S205では、S204で求めたl番目の焦点検出ラインの相関量COR(l、s)を、各シフト量s毎に、加算相関量COR(s)に加算し、S206に進む。S206では加算数Naに1を加算して、加算したライン数を計数する。S207では、焦点検出領域に含まれる全ての焦点検出ラインについて処理を終了したかを判断し、終了していなければ次の焦点検出ラインに対して処理を行うためにS201に戻る。全ての焦点検出ラインの処理を終了していれば、S301に進む。
なお、上述した説明では、焦点検出領域に含まれる焦点検出ラインに対して、順次S201〜S207の処理を行う場合について説明したが、2つ以上の焦点検出ライン以上に対して並行して処理を行う並列処理としても構わない。
上記のように、本実施の形態では、相関量の検出に適さないキズラインや飽和ライン等の相関量の加算を除外し、加算相関量への誤った像ずれ量情報の混入を防ぐことにより、高精度な焦点検出を行うことが可能となる。
次に、図7のS301で、デフォーカス量を算出する。まず、加算相関量からサブピクセル演算により、加算相関量が最小値となる実数値のシフト量を算出して像ずれ量pを算出する。次に、算出された像ずれ量pに、焦点検出領域の像高と、撮像レンズ(結像光学系)のF値、射出瞳距離に応じた変換係数Kをかけて、検出デフォーカス量を算出し、S302に進む。
S302では、デフォーカス量の信頼性を判定するための評価値を算出する。本実施の形態では、加算相関量からサブピクセル演算により計算された加算相関量の最小値(像一致度)を評価値として算出する。第1焦点検出信号と第2焦点検出信号の形状一致度が良くなるほど、加算相関量の最小値(像一致度)が小さくなり、焦点検出結果の信頼性が高くなる。必要に応じて、算出された像ずれ量pの位置での加算相関量の傾き(加算相関量の1階微分)を評価値としても良い。
次に、S303で、デフォーカス量の信頼性の判定を行う。本実施の形態では、予め、加算数が標準加算数の場合の信頼性を示す標準評価値を保持しておき、標準加算数と評価値の積が、加算数と標準評価値の積より小さい場合に、検出デフォーカス量の信頼性が高いと判定してS304に進む。標準加算数と評価値の積が加算数と標準評価値の積以上の場合は、検出デフォーカス量の信頼性が低いと判定して、焦点検出を終了する。S304では、検出デフォーカス量に応じて、レンズ駆動を行う。
本実施の形態では、キズラインや飽和ラインの相関量を加算しないため、加算相関量に加算される相関量の加算数が一定ではなく変化する。加算数の変化に伴い、加算相関量や加算相関量から算出される信頼性の判定のための評価値(加算相関量の最小値や傾きなど)も変化するため、適切な評価値を得るためには、通常、シフト量毎に加算相関量を加算数で割る規格化が必要となる。しかし、FPGAなどの演算回路でデジタル処理を行う場合、各シフト量毎の加算相関量の割り算による規格化処理は、足し算、掛け算、ビットシフト演算などと比較して、演算回路規模や演算負荷が大きくなってしまう。
これに対し、本実施の形態では、加算相関量の規格化を行う代わりに、検出デフォーカス量の信頼性の判定を、標準加算数と評価値の積と、加算数と標準評価値の積とを比較することにより判定する。
なお、信頼性判定式をより簡略化するために、標準加算数が1の場合の標準所定量を保持しておくと、検出デフォーカス量の信頼性の判定を、評価値(1と評価値の積)と、加算数と標準評価値の積とを比較することにより判定することができる。
以上の構成により、飽和信号の割合が大きい飽和ラインや、何らかの欠陥を有する画素を含むキズライン等、相関量の検出に適さないライン(非加算ライン)が含まれる場合でも、演算回路規模や演算負荷を抑制し、高精度な焦点検出が可能となる。

Claims (7)

  1. 結像光学系の異なる射出瞳領域を通過した一対の光束をそれぞれ受光して得られた一対の像信号をそれぞれ出力することが可能な光電変換部を有する焦点検出画素を含む、2次元に配置された複数の画素を有する撮像素子と、
    前記撮像素子の画素の各ラインが、相関量の検出に適さない像信号を出力する非加算ラインかどうかを判断する判断手段と、
    前記判断手段により前記非加算ラインではないと判断された加算ラインに含まれる前記焦点検出画素から出力される一対の像信号に基づいて、前記加算ライン毎に相関量を求め、求めた前記加算ラインの相関量を加算する算出手段と、
    前記算出手段により加算された前記加算ラインの数を計数する計数手段と、
    前記算出手段により加算された相関量に基づいて、デフォーカス量を求める演算手段と、
    前記演算手段により求めたデフォーカス量の信頼性を示す評価値と、予め決められた標準加算数との積が、前記計数手段により計数された前記加算ラインの数と、予め決められた評価値を示す標準評価値との積よりも小さい場合に、前記デフォーカス量に基づいて前記結像光学系に含まれるフォーカスレンズを駆動する焦点調節手段と
    を有することを特徴とする撮像装置。
  2. 前記算出手段は、
    前記一対の像信号を予め決められた量ずつ互いにシフトながら、各シフト量における相関量を算出し、
    前記シフト量毎に前記加算ラインの相関量を加算することを特徴とする請求項1に記載の撮像装置。
  3. 前記デフォーカス量の評価値は、前記シフト量毎に加算した前記加算ラインの相関量の最小値であることを特徴とする請求項2に記載の撮像装置。
  4. 前記非加算ラインは、キズを含むライン、及び、前記一対の像信号の少なくともいずれか一方の予め決められた割合以上が飽和した像信号であるラインの少なくともいずれか一方を含むことを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記撮像素子の領域から、焦点を検出する焦点検出領域を設定する設定手段を更に有し、
    前記判断手段は、前記焦点検出領域に含まれる画素のラインの判断を行うことを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記標準加算数を1としたことを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 結像光学系の異なる射出瞳領域を通過した一対の光束をそれぞれ受光して得られた一対の像信号をそれぞれ出力することが可能な光電変換部を有する焦点検出画素を含む、2次元に配置された複数の画素を有する撮像素子を含む撮像装置の制御方法であって、
    判断手段が、前記撮像素子の画素の各ラインが、相関量の検出に適さない像信号を出力する非加算ラインかどうかを判断する判断工程と、
    算出手段が、前記判断工程で前記非加算ラインではないと判断された加算ラインに含まれる前記焦点検出画素から出力される一対の像信号に基づいて、前記加算ライン毎に相関量を求め、求めた前記加算ラインの相関量を加算する算出工程と、
    計数手段が、前記算出工程で加算された前記加算ラインの数を計数する計数工程と、
    演算手段が、前記算出工程で加算された相関量に基づいて、デフォーカス量を求める演算工程と、
    焦点調節手段が、前記演算工程で求めたデフォーカス量の信頼性を示す評価値と、予め決められた標準加算数との積が、前記計数工程で計数された前記加算ラインの数と、予め決められた評価値を示す標準評価値との積よりも小さい場合に、前記デフォーカス量に基づいて前記結像光学系に含まれるフォーカスレンズを駆動する焦点調節工程と
    を有することを特徴とする制御方法。
JP2013095959A 2013-04-30 2013-04-30 撮像装置及びその制御方法 Active JP6532119B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013095959A JP6532119B2 (ja) 2013-04-30 2013-04-30 撮像装置及びその制御方法
KR1020140048537A KR101886059B1 (ko) 2013-04-30 2014-04-23 촬상장치 및 그 제어 방법
US14/260,225 US9106827B2 (en) 2013-04-30 2014-04-23 Image capturing apparatus and method of controlling the same
US14/795,964 US9386217B2 (en) 2013-04-30 2015-07-10 Image capturing apparatus and method of controlling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013095959A JP6532119B2 (ja) 2013-04-30 2013-04-30 撮像装置及びその制御方法

Publications (3)

Publication Number Publication Date
JP2014215606A true JP2014215606A (ja) 2014-11-17
JP2014215606A5 JP2014215606A5 (ja) 2016-04-14
JP6532119B2 JP6532119B2 (ja) 2019-06-19

Family

ID=51788961

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013095959A Active JP6532119B2 (ja) 2013-04-30 2013-04-30 撮像装置及びその制御方法

Country Status (3)

Country Link
US (2) US9106827B2 (ja)
JP (1) JP6532119B2 (ja)
KR (1) KR101886059B1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6000520B2 (ja) * 2011-07-25 2016-09-28 キヤノン株式会社 撮像装置およびその制御方法およびプログラム
WO2014155806A1 (ja) * 2013-03-29 2014-10-02 富士フイルム株式会社 撮像装置及び合焦制御方法
JP6532119B2 (ja) * 2013-04-30 2019-06-19 キヤノン株式会社 撮像装置及びその制御方法
JP2015129846A (ja) * 2014-01-07 2015-07-16 キヤノン株式会社 撮像装置およびその制御方法
JP6381266B2 (ja) * 2014-04-15 2018-08-29 キヤノン株式会社 撮像装置、制御装置、制御方法、プログラム、および、記憶媒体
CN107003500B (zh) * 2014-11-18 2019-11-12 富士胶片株式会社 对焦控制装置、对焦控制方法、镜头装置、摄像装置
US20160269662A1 (en) * 2015-03-12 2016-09-15 Semiconductor Components Industries, Llc Image sensors with increased stack height for phase detection pixels
JP2018010245A (ja) * 2016-07-15 2018-01-18 キヤノン株式会社 信号処理装置、その制御方法
JP6851755B2 (ja) * 2016-09-14 2021-03-31 キヤノン株式会社 焦点調節装置、焦点調節方法、プログラム
JP7023701B2 (ja) * 2017-12-18 2022-02-22 キヤノン株式会社 撮像装置およびプログラム
EP3732876B1 (en) * 2017-12-28 2023-04-19 Sony Semiconductor Solutions Corporation Imaging device and diagnosis method
US11825196B2 (en) * 2020-08-07 2023-11-21 Canon Kabushiki Kaisha Image sensor and image capturing apparatus

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02123313A (ja) * 1988-11-01 1990-05-10 Nikon Corp 焦点検出装置
US20100073527A1 (en) * 2008-09-25 2010-03-25 Canon Kabushiki Kaisha Imaging apparatus
US20120026372A1 (en) * 2010-07-27 2012-02-02 Toshiyuki Noguchi Image pickup apparatus
WO2012133427A1 (ja) * 2011-03-30 2012-10-04 富士フイルム株式会社 撮像装置及びそのオートフォーカス制御方法
US20130076970A1 (en) * 2011-09-27 2013-03-28 Canon Kabushiki Kaisha Image pickup apparatus and focus detection method

Family Cites Families (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4410804A (en) 1981-07-13 1983-10-18 Honeywell Inc. Two dimensional image panel with range measurement capability
JP3592147B2 (ja) 1998-08-20 2004-11-24 キヤノン株式会社 固体撮像装置
JP3774597B2 (ja) 1999-09-13 2006-05-17 キヤノン株式会社 撮像装置
JP4324402B2 (ja) * 2003-04-08 2009-09-02 Hoya株式会社 カメラの自動焦点調節装置
JP4586534B2 (ja) * 2004-12-28 2010-11-24 セイコーエプソン株式会社 撮像装置、手ブレ補正装置、携帯電話機および手ブレ補正方法
JP5012236B2 (ja) * 2007-06-12 2012-08-29 株式会社ニコン デジタルカメラ
JP5028154B2 (ja) * 2007-06-20 2012-09-19 キヤノン株式会社 撮像装置及びその制御方法
JP5029274B2 (ja) * 2007-10-10 2012-09-19 株式会社ニコン 撮像装置
JP5092685B2 (ja) * 2007-10-23 2012-12-05 株式会社ニコン 撮像素子および撮像装置
JP5298638B2 (ja) * 2008-02-14 2013-09-25 株式会社ニコン 画像処理装置、撮像装置、補正係数算出方法及び画像処理プログラム
JP2010020015A (ja) * 2008-07-09 2010-01-28 Canon Inc 撮像装置
JP5276371B2 (ja) * 2008-07-09 2013-08-28 キヤノン株式会社 撮像装置
JP5230388B2 (ja) * 2008-12-10 2013-07-10 キヤノン株式会社 焦点検出装置及びその制御方法
JP5464934B2 (ja) * 2009-07-23 2014-04-09 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP5520038B2 (ja) * 2009-12-25 2014-06-11 キヤノン株式会社 映像処理装置及び映像処理方法
JP2011145559A (ja) * 2010-01-15 2011-07-28 Canon Inc 撮像装置
JP5606208B2 (ja) * 2010-08-03 2014-10-15 キヤノン株式会社 焦点検出装置および撮像装置
JP5780756B2 (ja) * 2010-12-24 2015-09-16 キヤノン株式会社 焦点調節装置及び方法
CN103430073B (zh) * 2011-03-31 2014-12-31 富士胶片株式会社 摄像装置及摄像装置的控制方法
WO2012147515A1 (ja) * 2011-04-28 2012-11-01 富士フイルム株式会社 撮像装置及び撮像方法
JP2013008018A (ja) * 2011-05-25 2013-01-10 Canon Inc 撮像装置およびその制御方法
JP5853594B2 (ja) * 2011-10-31 2016-02-09 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
JP5603506B2 (ja) * 2011-10-31 2014-10-08 富士フイルム株式会社 撮像装置及び画像処理方法
JP6019692B2 (ja) * 2012-04-16 2016-11-02 ソニー株式会社 撮像素子、撮像素子の制御方法、および、撮像装置
JP6144878B2 (ja) * 2012-04-27 2017-06-07 キヤノン株式会社 画像処理装置およびそれを備える撮像装置、ならびに画像処理方法およびそのプログラム
JP2013258675A (ja) * 2012-05-16 2013-12-26 Canon Inc 画像処理装置、画像処理方法およびプログラム、並びに撮像装置
JP5747124B2 (ja) * 2012-06-01 2015-07-08 富士フイルム株式会社 撮像装置
JP5942757B2 (ja) * 2012-09-28 2016-06-29 株式会社ニコン 焦点検出装置および撮像装置
JP2014106476A (ja) * 2012-11-29 2014-06-09 Canon Inc 焦点検出装置、撮像装置、撮像システム、焦点検出方法、プログラム、および、記憶媒体
JP6346439B2 (ja) * 2013-01-07 2018-06-20 キヤノン株式会社 撮像装置及びその制御方法
JP6045362B2 (ja) * 2013-01-17 2016-12-14 オリンパス株式会社 撮像装置および焦点検出方法
JP2014137468A (ja) * 2013-01-17 2014-07-28 Sony Corp 撮像装置および撮像方法
JP5946421B2 (ja) * 2013-03-19 2016-07-06 キヤノン株式会社 撮像装置及びその制御方法
JP6202860B2 (ja) * 2013-04-05 2017-09-27 キヤノン株式会社 撮像装置及び撮像方法
JP2014206893A (ja) * 2013-04-15 2014-10-30 ソニー株式会社 画像処理装置と画像処理方法およびプログラム
JP6532119B2 (ja) * 2013-04-30 2019-06-19 キヤノン株式会社 撮像装置及びその制御方法
JP6184276B2 (ja) * 2013-09-27 2017-08-23 オリンパス株式会社 焦点調節装置
JP6383251B2 (ja) * 2013-12-27 2018-08-29 キヤノン株式会社 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP5970012B2 (ja) * 2014-02-27 2016-08-17 キヤノン株式会社 画像処理装置およびその制御方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02123313A (ja) * 1988-11-01 1990-05-10 Nikon Corp 焦点検出装置
US20100073527A1 (en) * 2008-09-25 2010-03-25 Canon Kabushiki Kaisha Imaging apparatus
JP2010078856A (ja) * 2008-09-25 2010-04-08 Canon Inc 撮像装置
US20120026372A1 (en) * 2010-07-27 2012-02-02 Toshiyuki Noguchi Image pickup apparatus
JP2012027390A (ja) * 2010-07-27 2012-02-09 Olympus Corp 撮像装置
WO2012133427A1 (ja) * 2011-03-30 2012-10-04 富士フイルム株式会社 撮像装置及びそのオートフォーカス制御方法
US20130076970A1 (en) * 2011-09-27 2013-03-28 Canon Kabushiki Kaisha Image pickup apparatus and focus detection method
JP2013072906A (ja) * 2011-09-27 2013-04-22 Canon Inc 撮像装置

Also Published As

Publication number Publication date
US9106827B2 (en) 2015-08-11
JP6532119B2 (ja) 2019-06-19
KR101886059B1 (ko) 2018-08-07
US9386217B2 (en) 2016-07-05
KR20140130030A (ko) 2014-11-07
US20150319359A1 (en) 2015-11-05
US20140320711A1 (en) 2014-10-30

Similar Documents

Publication Publication Date Title
JP6532119B2 (ja) 撮像装置及びその制御方法
JP6249825B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP6239857B2 (ja) 撮像装置およびその制御方法
JP6174940B2 (ja) 撮像素子及び撮像装置
JP6239855B2 (ja) 焦点調節装置、焦点調節方法およびプログラム、並びに撮像装置
JP2015011283A (ja) 撮像装置及びその制御方法ならびにプログラム
JP6381266B2 (ja) 撮像装置、制御装置、制御方法、プログラム、および、記憶媒体
JP6746359B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
JP6700986B2 (ja) 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2017158018A (ja) 画像処理装置およびその制御方法、撮像装置
JP6671130B2 (ja) 撮像素子、撮像装置、焦点検出装置ならびに画像処理装置およびその制御方法
JP2015194736A (ja) 撮像装置およびその制御方法
JP2017032646A (ja) 撮像装置及びその制御方法
JP6285683B2 (ja) 撮像装置及びその制御方法
JP2015145970A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2015210285A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP6639326B2 (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP7309383B2 (ja) 撮像装置
JP7005236B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2015225310A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2015225311A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2020057017A (ja) 撮像装置及びその制御方法
JP2018116267A (ja) 焦点検出装置および方法、および撮像装置
JP6968650B2 (ja) 撮像装置およびその制御方法
JP2016009024A (ja) 焦点検出装置およびその制御方法、並びに撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160225

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170106

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170922

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170929

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20171124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190517

R151 Written notification of patent or utility model registration

Ref document number: 6532119

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151