JP2013211770A - 撮像装置および信号処理方法 - Google Patents

撮像装置および信号処理方法 Download PDF

Info

Publication number
JP2013211770A
JP2013211770A JP2012081787A JP2012081787A JP2013211770A JP 2013211770 A JP2013211770 A JP 2013211770A JP 2012081787 A JP2012081787 A JP 2012081787A JP 2012081787 A JP2012081787 A JP 2012081787A JP 2013211770 A JP2013211770 A JP 2013211770A
Authority
JP
Japan
Prior art keywords
pixel
focus detection
pixels
data
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012081787A
Other languages
English (en)
Other versions
JP6016412B2 (ja
Inventor
Toshiharu Ueda
敏治 上田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012081787A priority Critical patent/JP6016412B2/ja
Priority to US13/793,279 priority patent/US9065988B2/en
Priority to CN201310108941.2A priority patent/CN103369241B/zh
Publication of JP2013211770A publication Critical patent/JP2013211770A/ja
Priority to US14/713,057 priority patent/US9432606B2/en
Application granted granted Critical
Publication of JP6016412B2 publication Critical patent/JP6016412B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B13/00Optical objectives specially designed for the purposes specified below
    • G02B13/001Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras
    • G02B13/0015Miniaturised objectives for electronic devices, e.g. portable telephones, webcams, PDAs, small digital cameras characterised by the lens design
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/745Circuitry for generating timing or clock signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/21Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】撮像画素および焦点検出画素を有する撮像素子からの画素出力に対して適正なシェーディング補正を行うことにより、画質の劣化を低減する撮像装置を提供する。
【解決手段】撮像装置100は、撮像光学系からの光束により形成された像を光電変換する複数の撮像画素、および、撮像光学系からの光束のうち分割された光束により形成された像を光電変換する複数の焦点検出画素を有する撮像素子101と、撮像素子101からの画素信号に対してシェーディング補正を行うDSP103とを有し、撮像素子101は、複数の撮像画素からの信号を加算して第1の画素信号を生成し、複数の焦点検出画素からの信号を加算することなく第2の画素信号を生成し、DSP103は、第1の画素信号と第2の画素信号に対して互いに異なる補正データを用いてシェーディング補正を行う。
【選択図】図10

Description

本発明は、撮像画素および焦点検出画素を有する撮像素子を備えた撮像装置に関する。
従来から、CMOSセンサ等の撮像素子を用いた撮像装置において、撮影時に発生するダーク時のシェーディング(オフセット量)については、所定の補正処理を行って低減している。特許文献1には、ダーク撮影時の画像を射影演算して得られた1次元補正データを用いて、現像処理時に水平ダークシェーディング補正を行うことが開示されている。
また、撮像装置の性能を向上させるため、撮像素子に位相差検出機能を付与することで専用のAFセンサを不要とし、高速の位相差AFを実現する構成が知られている。特許文献2には、通常画素(撮像画素)および焦点検出画素を有する撮像素子を備えた撮像装置が開示されている。この撮像装置は、電子ビューファインダモードや動画撮影モードなど、複数の撮像画素の出力を加算して読み出す加算読み出しモードを有する。また特許文献2には、撮像画素に対しては加算処理を行い、焦点検出画素が含まれる場合には加算処理を行わずに(非加算で)焦点検出画素のみを読み出すモードを有する撮像装置が開示されている。
特開2003−333434号公報 特開2010−20055号公報
しかしながら、撮像画素(加算画素)と焦点検出画素(非加算画素)のように、1フレーム中に異なる駆動パターンを用いて読み出される画素が混在する場合、回路構成などの影響によって特性に違いが生じる。例えば、撮像素子の内部に加算処理を行うための電気回路が存在する場合、加算対象画素の間にトランジスタなどのスイッチ素子が介在する。一方、焦点検出画素の出力に対しては加算処理が行われない(非加算)ため、焦点検出画素にはスイッチ素子が介在しない。このため、スイッチ個々の閾値ばらつきなどの影響により、加算時と非加算時のシェーディング(オフセット量)が異なる。また焦点検出画素は、瞳分割を行うため、配線層による開口が通常画素と異なる。このため、配線容量に差が生じ、通常画素と焦点検出画素でオフセット量が異なる。したがって、通常画素(撮像画素)の出力に対してシェーディング補正(オフセット補正)を行っても、焦点検出画素の出力に対しては適正な補正とならず、画質が劣化する場合がある。
そこで本発明は、撮像画素および焦点検出画素を有する撮像素子からの画素出力に対して適正なシェーディング補正を行うことにより、画質の劣化を低減する撮像装置および信号処理方法を提供する。
本発明の一側面としての撮像装置は、撮像光学系からの光束により形成された像を光電変換する複数の撮像画素、及び、該撮像光学系からの光束のうち分割された光束により形成された像を光電変換する複数の焦点検出画素を有する撮像素子と、前記撮像素子からの画素信号に対してシェーディング補正を行う信号処理手段とを有し、前記撮像素子は、前記複数の撮像画素からの信号を加算して第1の画素信号を生成し、前記複数の焦点検出画素からの信号を加算することなく第2の画素信号を生成し、前記信号処理手段は、前記第1の画素信号と前記第2の画素信号に対して互いに異なる補正データを用いて前記シェーディング補正を行う。
本発明の他の側面としての信号処理方法は、撮像光学系からの光束により形成された像を光電変換する複数の撮像画素、及び、該撮像光学系からの光束のうち分割された光束により形成された像を光電変換する複数の焦点検出画素を有する撮像素子からの画素信号を処理する信号処理方法であって、前記複数の撮像画素からの信号を加算して第1の画素信号を生成し、前記複数の焦点検出画素からの信号を加算することなく第2の画素信号を生成するステップと、前記第1の画素信号と前記第2の画素信号に対して互いに異なる補正データを用いてシェーディング補正を行うステップとを有する。
本発明の他の目的及び特徴は、以下の実施例において説明される。
本発明によれば、撮像画素および焦点検出画素を有する撮像素子からの画素出力に対して適正なシェーディング補正を行うことにより、画質の劣化を低減する撮像装置および信号処理方法を提供することができる。
実施例1における撮像装置のブロック図である。 実施例1における撮像素子のブロック図である。 実施例1における撮像素子の画素配置図である。 実施例1における撮像素子の開口領域における画素配置図である。 実施例1における撮像素子の加算読み出しの説明図である。 実施例1における撮像装置の動画表示駆動を示すフローチャートである。 実施例1における撮像装置の動画駆動を示すフローチャートである。 実施例1におけるDSPのシェーディング補正部の回路構成図である。 実施例1におけるシェーディング補正を示すフローチャートである。 実施例1における撮像素子の画像出力(補正前後の画像出力)である。 実施例2における撮像素子の画素配置図である。 実施例2における撮像素子の画像出力(補正前後の画像出力)である。 実施例2におけるシェーディング補正を示すフローチャートである。 実施例2におけるダーク時の焦点検出画像の出力(補正前後の画像出力)である。 実施例1におけるDSPの動作を示すブロック図である。 実施例2におけるDSPの動作を示すブロック図である。 実施例3におけるDSPの動作を示すブロック図である。 実施例3におけるダーク時の焦点検出画像の出力(補正前後の画像出力)である。
以下、本発明の実施例について、図面を参照しながら詳細に説明する。各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
まず、図1を参照して、本発明の実施例1における撮像装置(カメラ)の構成および動作について説明する。図1は、本実施例における撮像装置のブロック図である。101は、CMOSセンサ等の撮像素子である。撮像素子101は、撮像光学系(レンズ装置)からの光束により形成された像を光電変換する複数の撮像画素、および、撮像光学系からの光束のうち分割された光束により形成された像を光電変換する複数の焦点検出画素を有する撮像素子を有する。また撮像素子101は、後述のように、複数の撮像画素からの信号を加算して第1の画素信号を生成し、焦点検出画素からの信号を加算することなく第2の画素信号を生成する。102は、撮像素子101から出力された信号(アナログ信号)をデジタル信号に変更するA/D変換器である。
103は、DSP(Digital Signal Processor)であり、A/D変換器102から出力されたデータに対して各種の補正処理および現像処理を行う信号処理手段である。またDSP103は、ROM106およびRAM107等の各種メモリの制御や、記録媒体108への画像データの書き込み処理を行う。特に本実施例において、DSP103は、撮像素子101からの画素信号に対して後述のシェーディング補正を行う。このときDSP103は、第1の画素信号と第2の画素信号に対して互いに異なる補正データを用いてシェーディング補正を行う。
104は、撮像素子101、A/D変換器102、DSP103に制御信号を供給するタイミング発生回路であり、CPU105により制御される。105は、DSP103、タイミング発生回路104の制御、および、不図示の各部によるカメラ機能の制御を行うCPUである。CPU105には、電源スイッチ109(電源SW)、シャッタースイッチ110(SW1)、シャッタースイッチ111(SW2)、および、モードダイアル112等が接続され、CPU105は、それぞれの状態に応じた処理を実行する。106は、撮像装置100の制御プログラムや各種補正データを記憶するROM(メモリ)である。107は、DSP103で処理される画像データや補正データを一時的に記憶するRAM(メモリ)である。本実施例の工程で取得される各種補正データはROM106に予め記憶されており、撮影時にRAM107に展開されて画像データの補正に用いられる。108は、撮影画像を保存する記録媒体であり、不図示のコネクタを介して撮像装置100と接続される。
109は、撮像装置100を起動させるための電源スイッチ(電源SW)である。110は、撮像動作開始を指示するシャッタースイッチ(SW1)である。111は、撮像素子101から読み出された信号をA/D変換器102およびDSP103を介して記録媒体108に書き込む一連の撮像動作の開始を指示するシャッタースイッチ(SW2)である。112は、撮像装置100の動作モードを選択するモードダイアルである。
次に、図2を参照して、撮像素子101の構成および動作について説明する。図2は、撮像素子101のブロック図であり、後述の読み出し動作を説明するために必要な最低限の構成を示し、画素リセット信号等を省略している。
図2において、201は、光電変換部(以下、「PDmn」という場合がある。ここで、mはX方向アドレスであり、m=0、1、…、m−1、nはY方向アドレスであり、n=0、1、…、n−1である。)である。光電変換部201は、フォトダイオード、画素アンプ、および、リセット用のスイッチ等を備えている。撮像素子101は、m×nの光電変換部201を二次元的に配置して構成される。図2において、光電変換部201を示す符号は、煩雑さを避けるため、左上の光電変換部PD00〜PD03のみに付されている。また、光電変換部201に付されたR、G、Bはカラーフィルタを示しており、本実施例のカラーフィルタは、いわゆるベイヤー配列で配置されている。
202は、光電変換部201の出力を選択するスイッチであり、垂直走査回路210により、一行ごとに選択される。203は、光電変換部201の画素アンプ(不図示)の負荷となる定電流源であり、各垂直出力線に配置される。204は、光電変換部201の出力を一時的に記憶するラインメモリであり、垂直走査回路210により選択された一行分の光電変換部201の出力を記憶する。ラインメモリ204としては、通常、コンデンサが用いられる。
205は、水平方向に複数の画素の信号電荷を加算する加算部である。加算部205は、ADD端子およびAF端子に入力される二つの制御信号により制御され、後述の加算読み出し時に水平方向の画素の信号電荷を加算する。加算部205のADD端子は、加算/非加算を切り替える信号の入力端子である。ADD端子にLレベルの制御信号が入力された場合には非加算が選択される。一方、ADD端子にHレベルの制御信号が入力された場合には加算が選択される。加算部205のAF端子は、撮像素子101に含まれる焦点検出画素(焦点検出画素群)を非加算で選択的に読み出す場合に用いられる入力端子である。加算部205は、水平走査回路208と同様に、出力される画素の信号電荷を選択する選択部として機能する。
206は、ラインメモリ204に記憶された光電変換部201の出力を水平出力線HOLに順次出力するスイッチ(H〜Hm−1)である。水平走査回路208がH〜Hm−1のスイッチ206を順次走査することにより、一行分の光電変換の出力が読み出される。207は、水平出力線HOLに接続されて、水平出力線HOLを電位VHRSTにリセットするスイッチであり、信号HRSTにより制御される。208は、水平走査回路であり、ラインメモリ204に記憶された光電変換部201の出力を順次走査して水平出力線HOLに出力する。水平走査回路208は、CPU121の制御によって必要な画素を選択する選択部としても機能する。
水平走査回路208において、PHST端子は、水平走査回路208のデータ入力端子である。PH1端子およびPH2端子は、シフトクロック入力端子である。PHST端子に入力されるデータは、PH1端子がHレベルになることによりセットされる。そして、PHST端子に入力されるデータは、PH2端子がHレベルになることによりラッチされる。PH1端子およびPH2端子にシフトクロックを入力することにより、PHST端子の入力信号を順次シフトさせて水平走査回路208を駆動し、H〜Hm−1のスイッチ206を順次オンさせることができる。
水平走査回路208のSKIP端子は、後述の間引き読み出しおよび加算読み出し時に水平走査回路208の設定を行うための制御入力端子である。SKIP端子をHレベルに設定することにより、水平走査回路208を所定間隔で(例えば、H2、H5、H8、…のように)水平走査回路208の走査をスキップさせ、水平方向に画素出力を間引いて読み出すことができる。また、AF端子をSKIP端子と併用して設定することにより、スキップの周期を異ならせて画素出力の読み出しを行うことができる。なお、読み出し動作の詳細については後述する。209は、水平出力線HOLから順次出力される画素信号のバッファアンプである。
210は、垂直走査回路である。垂直走査回路210は、順次走査して信号V〜Vn−1を出力することにより、光電変換部201のスイッチ202を選択する。垂直走査回路210は、水平走査回路208と同様に、データ入力端子PVST(不図示)、シフトクロック入力端子PV1、PV2(不図示)、および、間引き読み出し設定用のSKIP端子(不図示)により制御される。なお、垂直走査回路210の動作については水平走査回路208と同様であるため、その詳細な説明は省略する。また説明の簡略化のため、垂直方向の加算機能の説明は省略する。
次に、図3および図4を参照して、撮像素子101の画素配置について説明する。図3は、撮像素子101の画素配置図である。図3において、灰色で示される領域は遮光領域であり、基準領域として用いられるオプティカルブラック領域である。他の領域は、開口領域(補正領域)である。オプティカルブラック領域において、画面上部を垂直基準領域であるVOB部(垂直オプティカルブラック領域)、画面左側をHOB部(水平オプティカルブラック領域)とそれぞれ呼ぶ。
VOB部(垂直オプティカルブラック領域)の垂直方向の一部は、水平シェーディングデータを算出するための演算領域を構成する。本実施例では、この演算領域の出力を参照して撮像素子101の出力が読み出されるとともに、水平シェーディング補正量が算出される。なお、この演算領域は、後述の加算動作に対応できるように、通常画素(撮像画素)のみの行に対応する第1の駆動パターン、および、焦点検出画素を含む行に対応する第2、第3の駆動パターンで駆動される領域に分かれている。その後、開口領域から開始する補正領域を読み出す際には、水平シェーディング補正演算が行われ、その結果が出力される。この間、撮像素子101の読み出し動作は、演算領域または補正領域に関わらず、連続的に行われる。開口領域には、全ての画素が通常画素(撮像画素)で構成された開口領域(a)、および、焦点検出画素がその一部に配置された開口領域(b)が存在する。
図4は、撮像素子101の開口領域における画素配置図である。本実施例の画素配置は、2×2のベイヤー配列を基本としている。また本実施例の画素配置において、12×6の画素パターンが基本単位であり、その画素パターンに一対の焦点検出用画素SHA、SHBが配置されている。ただし、本実施例はこれに限定されるものではなく、他の基本単位を有する画素パターンにも適用可能である。図4(a)は、図3の開口領域(a)を示し、通常画素(撮像画素)のみで構成された領域である。一方、図4(b)は、図3の開口領域(b)を示している。開口領域(b)において、アドレス(0,10)に位相差検出方式による焦点検出用の基準画素であるSHA画素(焦点検出画素)、アドレス(9,3)に位相差検出方式による焦点検出用の参照画素であるSHB画素(焦点検出画素)がそれぞれ配置されている。
位相差検出方式による焦点検出は、基準画素と参照画素の二つの焦点検出画素を必要とする。本実施例の撮像素子101は、12×6の画素パターン(基本単位)が繰り返し配置されて全体でm×nの画素を有するように構成されている。また本実施例の撮像素子101では、12×6の画素パターンに対して一対の基準画素(SHA画素)および参照画素(SHB画素)が互いに離れるように配置されている。このように、本実施例の撮像素子101には、12×6の画素パターン(基本単位)に対して最小限の数の焦点検出画素が配置されている。このため、撮像画素の分布密度が高くなり、画質の劣化を防止することができる。
次に、図5を参照して、本実施例における加算読み出しについて説明する。図5は、加算読み出しの説明図であり、図4に示される画素配置において最初に読み出されるV0、V3行の2行分の読み出しを模式的に示している。それぞれ上段の配置が画素部、下段が読み出し画素出力対応している。
まず、加算読み出しを行うため、画素信号の読み出し前に、水平走査回路208のSKIP端子および加算部205のADD端子をHレベルに、AF端子をHレベルにそれぞれ設定する。次に、垂直走査回路210がV0行を選択し、V0行の画素出力である画素信号H〜Hm−1をラインメモリ204に転送する。そして加算部205は、ADD端子およびAF端子の設定に従って画素信号を加算する。このときの加算は、基本的に3画素単位で同色の画素信号が加算される。
図5(a)は、図4(a)の領域AのV0、V3行を示している。領域Aは、全て通常画素(撮像画素)からなる領域であり、全ての画素に対して同色の3画素を加算して得られた信号を撮像素子101の外部に出力する。本実施例において、この場合の駆動パターンを第1の駆動パターンという。一方、図5(b)は、図4(b)の領域B中のV0行を示している。領域Bは、通常画素だけでなく焦点検出画素SHAを含み、加算対象が全て通常画素である場合には3画素を加算して信号を取得し、3画素に焦点検出画素SHAが含まれる場合には、これらの画素を加算せずに信号を出力する。図5(b)では、H6、H8、H10列のうちH6およびH8列が通常画素、H10が焦点検出画素SHAである。このため、これらの画素から得られる信号は加算されない。
その後、水平走査回路208のPHST端子に入力されたデータをPH1端子およびPH2端子の転送パルスで順次走査し、水平走査回路208を駆動する。このとき水平走査回路208は、SKIP端子およびAF端子の設定により、スイッチ206をH3、H4、H9、H10、…の順に走査する。そして加算対象画素が全て通常画素である場合には、バッファアンプ209を介して、加算された通常画素の信号を出力する。一方、加算対象画素に焦点検出画素が含まれる場合には、バッファアンプ209を介して、これらの画素からの信号を加算することなく焦点検出画素の信号のみを出力する。このときの駆動パターンを第2の駆動パターンという。
V0行の読み出しを終了すると、垂直走査回路210は飛び越し走査を行ってV3行を選択し、V3行の画素出力であるH〜Hm−1の画素信号をラインメモリ204に転送する。このとき、加算部205のADD端子およびAF端子の設定により、加算部205は所定の画素信号を加算する。
同様に、図5(c)は、図4(b)の領域C中のV3行を示している。領域Cは、通常画素だけでなく焦点検出画素SHBを含み、加算対象が全て通常画素である場合には3画素を加算して信号を取得し、3画素に焦点検出画素SHBが含まれる場合には、これらの画素を加算せずに信号を出力する。図5(c)では、H7、H9、H11列のうちH7およびH11列が通常画素、H9が焦点検出画素SHBである。このため、H7、H9、H11列の画素から得られる信号は加算されない。
その後、水平走査回路208のPHST端子に入力されたデータをPH1端子およびPH2端子の転送パルスで順次走査して、水平走査回路208を駆動する。このとき水平走査回路208は、SKIP端子およびAF端子の設定により、スイッチ206をH3、H4、H9、H10の順に走査する。そして加算対象画素が全て通常画素(撮像画素)である場合には、バッファアンプ209を介して、加算された通常画素の信号を出力する。一方、加算対象画素に焦点検出画素が含まれる場合には、バッファアンプ209を介して、これらの画素からの信号を加算することなく焦点検出画素の信号のみを出力する。このときの駆動パターンを第3の駆動パターンという。
以下、同様に、垂直走査回路210、水平走査回路208で飛び越し走査を行いながら、撮像素子101の加算読み出しが行われる。また本実施例において、焦点検出画素は欠陥画素として補正することにより、画像を生成する際の画質劣化を低減することができる。すなわちCPU121は、加算読み出しモードにおいて、焦点検出画素に対応する通常画素(撮像画素)を補完する。このように本実施例では、図4(b)に示される開口領域(b)において、V0行についてはH10列の焦点検出画素を、V3行についてはH9列の焦点検出画素をそれぞれ読み出す。この結果、本実施例の構成によれば、加算読み出し時に位相差AFを行うことができる。なお、図3に示されるVOB部の演算領域(a)は図5(a)と同様の第1の駆動パターンにて駆動し、演算領域(b)は図5(b)と同様の第2の駆動パターンにて駆動し、演算領域(c)は図5(c)と同様の第3の駆動パターンにて駆動する。
次に、図6を参照して、撮像装置100による電子ビューファインダ駆動について説明する。図6は、電子ビューファインダ駆動(動画表示駆動)を示すフローチャートである。本実施例の動画表示駆動は、撮像と焦点検出を同時に行い、図3乃至図5を参照して説明した加算モードで行われる駆動である。なお、図6に示される各工程は、撮像装置100のCPU105の指令に基づいて行われる。
まず図6のステップS201において、CPU105は、撮像装置100を起動する電源スイッチ109(電源SW)がONになっているか否かを判定する。電源スイッチ109がOFFである場合には、電源スイッチ109がONになるまで待機する。一方、電源スイッチ109がONである場合には、ステップS202へ移行する。ステップS202において、CPU105は、モードダイアル112が動画表示モードに設定されているか否かを判定する。モードダイアル112が動画表示モードに設定されている場合には、ステップS204へ移行する。一方、モードダイアル112がその他のモードに設定されている場合には、ステップS203に進む。ステップS203において、CPU105は、選択されているモードに応じた処理(選択された処理)を行い、ステップS201へ戻る。
ステップS202で動画表示モードが選択された場合、ステップS204において、CPU105は動画駆動を実行する。なお、この動画駆動の詳細については後述する。続いてステップS205において、CPU105は、動画駆動で取得した画像を不図示のTFTなどの表示装置に表示する。続いてステップS206において、CPU105はフォーカス動作を行う。すなわちCPU105は、動画駆動中に取得した焦点検出画素からの画素出力に基づいて演算した測距情報を用いて、不図示のレンズ(撮影レンズ)を駆動する。レンズの駆動が完了した後、ステップS201へ戻る。
次に、図7を参照して、図6のステップS204における動画駆動の詳細動作について説明する。なお、実際のシーケンスは各動作を並行して行われる場合があるが、説明の便宜上、時系列での動作としている。図7の各工程は、CPU105の指令に基づいて行われる。
まずステップS301において、撮像素子101に蓄積された電荷を除去する(電荷クリア動作)。続いてステップS302において、撮像素子101の電荷蓄積を開始する。電荷蓄積を開始した後、ステップS303に進み、CPU105は露光(露出)が終了したか否かを判定する。露光が終了していない場合には、露光が終了するまで待機する。一方、露光が終了した場合には、ステップS304に進む。ステップS304においては、CPU105は撮像素子101の像信号読み出しを開始する。像信号を読み出す際には、図3乃至図5を参照して説明した駆動モードにより、通常画素の加算画素出力および焦点検出画素の非加算(間引き)画素出力がなされるように駆動する。またCPU105は、信号読み出しの開始と同時に、ステップS305においてシェーディング補正(ダークシェーディング補正)を実行する。ダークシェーディング補正の詳細については後述する。
続いてステップS306において、CPU105(DSP103)は、ダークシェーディング補正がなされた焦点検出画素SHA、HBの出力に基づいて、位相差焦点検出(焦点検出演算)を行う。このときCPU105(DSP103)は、全体の画像処理と並行して、焦点検出画素SHA、HBの出力のみを選択した焦点検出画像(A像、B像)を生成し、周知の位相差焦点検出を行う。続いてステップS307において、CPU105は、撮像素子101からの像信号の読み出しが完了したか否かを判定する。像信号の読み出しが完了していない場合には、像信号の読み出しが完了するまで待機する。一方、撮像素子101からの像信号の読み出しが完了した場合には、図7の一連の処理を終了してメインの処理(図6)へ復帰する。
本実施例では、撮像素子101が持つ水平方向の一次元のダークシェーディング補正が行われる。すなわち、本撮影時の画像自身で補正データの算出および補正を行うため、撮像素子101のVOB部(垂直オプティカルブラック部)の出力に基づいて水平方向の一次元のダークシェーディング補正値を算出する。そして、この算出結果を補正データとして用いる。
次に、図15を参照して、本実施例におけるDSP103の動作について説明する。図15は、DSP103の動作を示すブロック図である。図15において、1301は、撮像素子101から読み出された像信号に対してシェーディング補正を行うシェーディング補正部である。1032は、シェーディング補正を行った後に焦点検出画素からの出力のみを集めて、周知の位相差方式による焦点検出演算を行う焦点検出演算部である。焦点検出演算部1032で演算された結果は、CPU105に出力される。
1033は、シェーディング補正後の画素出力(撮像画素および焦点検出画素の出力)に対して欠陥補正などの各種補正を行う撮像補正部である。1034は、撮像補正部1033で各種補正が行われた後の像信号の現像処理を行う現像処理部である。現像処理部1034の出力は、画像データとして、記録媒体108に書き込まれる。なお、撮像補正部1033にて焦点検出画素の欠陥補正が行われるため、焦点検出画素による画質の劣化を低減することができる。
次に、図8を参照して、DSP103のシェーディング補正部1031を実現するための回路構成について説明する。図8は、シェーディング補正部1031の回路構成図である。501は、シェーディング補正部1031の入力端子であり、A/D変換器102にて変換されたデジタル信号(画素出力)が入力される。502は、各列に対応した補正値を記憶するSRAMであり、撮像素子101の画素の列数以上の記憶容量を備えている。なお本実施例では、複数の駆動モードが存在するため、モード毎に撮像素子101の画素の列数以上の記憶容量を備えている。
503はメモリコントローラであり、演算対象および補正対象となる画素出力のタイミングに応じてSRAM502に記憶されたアドレスを選択し、データの読み出しおよび書き込み(R/W制御)を行う。メモリコントローラ503の動作は、撮像素子101を制御する水平同期信号および垂直同期信号を基準タイミングとして、撮像素子101の読み出しタイミング中の演算領域および補正領域の設定に従って行われる。
504は加算器であり、現在読み出されている画素の出力に対応したSRAM502内のアドレスに記憶されたデータに、現在の撮像素子101の出力値を加算し、演算領域の列ごとの積分演算を行う。505は1/N乗算器であり、演算領域の列ごとの垂直方向の全画素の積分結果を、設定された平均画素数(=SRAM502の特定アドレスに記憶された積分画素数)で除算し、列ごとの平均値を算出する。回路を簡略化するため、列ごとの積分行数を2のべき乗に限定することで、ビットシフトにより代用することも可能である。
506は、撮像素子101の開口領域の出力に対して、画素ごとに減算処理を行う減算回路である。減算回路506は、撮像素子101から出力されるデータに対し、水平同期信号に同期し、1/N乗算器505より出力される各列に対応した水平シェーディング補正データを正しく減算する。これにより、シェーディング補正部1031の出力データは、ダーク部分の出力が略0、かつ、水平方向にフラットな出力となり、出力端子507から補正出力として出力される。この補正出力は、DSP103の他のブロックに転送される。
次に、図9を参照して、シェーディング補正部1031の動作について説明する。図9は、図7のステップS305におけるシェーディング補正を示すフローチャートである。本フローは、実際には図7のステップS304における像信号の読み出し開始と同時に開始する。
図7のステップS304が開始すると、図9のステップS401において、像信号の読み出し前にSRAM502に記憶された全ての内容をリセットする。そして、各部で設定すべき演算領域および補正領域の座標等のデータをROM106、RAM107等から読み出して各レジスタに設定する(領域設定)。領域設定が完了した後、撮像素子101の上部左側から像信号の読み出しを開始する。
続いてステップS402において、シェーディング補正部1031は、読み出された画素データ(像信号)が図3の演算領域(a)の画素データであるか否かを判定する。この画素データが演算領域(a)の画素データである場合、ステップS403において、シェーディング補正部1031は列ごとの積分処理を行う。なお、積分処理においては、読み出された画素データの水平方向の位置に対応してSRAM502に記憶されたアドレスの内容を読み出した後に加算処理を行い、この加算結果をSRAM502内の同一アドレスに記憶データ1として記憶する。このときのアドレスは、第1の駆動パターンデータに対応するデータ(記憶データ1)を記憶するために予め定められたアドレスである。まず、演算領域の先頭行では、SRAM502の内容をリセットした状態であるため、加算される値は「0」であり、読み出された画素データがそのままSRAM502に記憶される。このように、演算領域の先頭行の画素データの読み出しが完了すると、SRAM502にはこの先頭行のデータがそのまま記憶されていることになる。
続いてステップS404において、シェーディング補正部1031は、読み出された画素データが図3の演算領域(b)の画素データであるか否かを判定する。この画素データが演算領域(b)の画素データでない場合、ステップS403に戻り、演算領域(a)における次行の画素データの読み出しを行う。先行と同様に、読み出された水平方向の位置に対応してアドレスのSRAM502に記憶された値を読み出し、読み出された画素データを加算し、加算結果をSRAM502に再度記憶する。同様に繰り返すことにより、ステップS404で演算領域(b)に移行する段階で、演算領域(a)の読み出しを終了する。このとき、SRAM502に記憶されたアドレスには、演算領域(a)の各列の全行の画素出力の加算結果が記憶されている。
一方、ステップS404で読み出された画素データが図3における演算領域(b)の画素データである場合、ステップS405に移行し、ステップS403と同様に、列ごとの積分処理を行い、その結果を記憶データ2として記憶する。このとき、SRAM502内のアドレスは、第2の駆動パターンデータに対応するデータ(記憶データ2)を記憶するために予め定められたアドレスである。
続いてステップS406において、シェーディング補正部1031は、読み出された画素データが図3の演算領域(c)の画素データであるか否かを判定する。この画素データが演算領域(c)の画素データでない場合、ステップS405に戻り、演算領域(b)における次行の画素データの読み出しを行う。先行と同様に、読み出された水平方向の位置に対応してアドレスのSRAM502に記憶された値を読み出し、読み出された画素データを加算し、加算結果をSRAM502に再度記憶する。同様に繰り返すことにより、ステップS406で演算領域(c)に移行する段階で、演算領域(b)の読み出しを終了する。このとき、SRAM502に記憶されたアドレスには、演算領域(b)の各列の全行の画素出力の加算結果が記憶されている。
一方、ステップS406で読み出された画素データが図3における演算領域(c)の画素データであると判定された場合、ステップS407に移行する。ステップS407では、ステップS403またはステップS405と同様に、列ごとの積分処理が行われ、その結果が記憶データ3として記憶される。この際に、SRAM502内のアドレスは、第3の駆動パターンデータに対応するデータ(記憶データ3)を記憶するために予め定められたアドレスである。
続いてステップS408において、シェーディング補正部1031は、演算領域の画素データの読み出しを終了したか否かを判定する。演算領域の画素データの読み出しが終了していない場合、ステップS407に戻り、演算領域(c)における次行の画素データの読み出しを行う。先行の画素データと同様に、読み出された水平方向の位置に対応するアドレスのSRAM502に記憶された値を読み出し、読み出された画素データを加算し、加算結果をSRAM502に再度記憶する。同様に繰り返すことにより、ステップS408において演算領域を終了する段階で、演算領域(c)の読み出しを終え、SRAM502に記憶されたアドレスには、演算領域(c)の各列の全行の画素出力の加算結果が記憶されている。
一方、ステップS408において、演算領域の画素データの読み出しが終了した場合、ステップS409に移行し、シェーディング補正部1031は、開口領域(a)の領域Aにおける画素データの読み出しであるか否かを判定する。領域Aにおける画素データの読み出しである場合には、ステップS410に移行する。ステップS410において、シェーディング補正部1031は、ステップS403で読み出された各画素データの水平方向の位置に対応するアドレスのSRAM502に記憶されたデータ(記憶データ1)を読み出す。そして、1/N乗算器505にて列ごとの平均値に変換し、減算回路506にて減算処理を行う。シェーディング補正部1031は、その結果を補正出力として出力する。このように、シェーディング補正部1031は、記憶データ1を用いて領域Aの画素データを補正する。
一方、ステップS409において領域Aの画素データの読み出しでない場合には、ステップS411において、開口領域(b)の領域Bにおける画素データの読み出しであるか否かを判定する。領域Bの画素データの読み出しである場合には、ステップS412に移行し、ステップS405で読み出された各画素データの水平方向の位置に対応するアドレスのSRAM502に記憶されたデータ(記憶データ2)を読み出す。そして、1/N乗算器505にて列ごとの平均値に変換し、減算回路506にて減算処理を行う。シェーディング補正部1031は、その結果を補正出力として出力する。このように、シェーディング補正部1031は、記憶データ2を用いて領域Bの画素データを補正する。
一方、ステップS411において領域Bの画素データの読み出しでない場合には、ステップS413において、開口領域(b)の領域Cにおける画素データの読み出しであるか否かを判定する。領域Cの画素データの読み出しである場合には、ステップS414に移行し、ステップS407で読み出された各画素データの水平方向の位置に対応するアドレスのSRAM502に記憶されたデータ(記憶データ3)を読み出す。そして、1/N乗算器505にて列ごとの平均値に変換し、減算回路506にて減算処理を行う。シェーディング補正部1031は、その結果を補正出力として出力する。このように、シェーディング補正部1031は、記憶データ3を用いて領域Cの画素データを補正する。
一方、ステップS413において領域Cの画素データの読み出しでない場合には、ステップS415において、画素データの読み出しが終了したか否かを判定する。この判定の結果、画素データの読み出しが終了していない場合には、ステップS409に戻る。すなわち、演算領域の読み出しは終了しているため、読み出された画素データが補正領域である限り、記憶データ1乃至記憶データ3のいずれかの補正を繰り返し実行する。そして、ステップS415の判定の結果、画素データの読み出しが終了している場合には、図9のシェーディング補正処理を終了する。本実施例のシェーディング補正処理(信号処理方法)によれば、VOB部内の演算領域における駆動モードの違いに応じて生じる列ごとの平均値のばらつきを効果的に補正することができる。
このように、本実施例の撮像素子101は、遮光された基準領域(演算領域)と開口領域とを有する。そして、基準領域には複数の撮像画素および複数の焦点検出画素のそれぞれの一部が含まれている。また、DSP103は、基準領域において、撮像画素からの信号(第1の画素信号)に対する第1の補正データ(記憶データ1)および焦点検出画素からの信号(第2の画素信号)に対する第2の補正データ(記憶データ2、3)を算出する。そして、第1の補正データを用いて開口領域からの第1の画素信号に対してシェーディング補正を行い、第2の補正データを用いて開口領域からの第2の画素信号に対してシェーディング補正を行う。DSP103の焦点検出演算部1032は、第2の画素信号にシェーディング補正を行って得られた信号を用いて焦点検出を行う。
次に、図10を参照して、本実施例におけるシェーディング補正処理の効果について説明する。図10は、シェーディング補正処理の効果の説明図であり、図10(a)はダーク時のシェーディング補正前の画像出力、図10(b)は領域A、B、Cのシェーディングイメージ、図10(c)はダーク時のシェーディング補正後の画像出力をそれぞれ示す。
図10(a)に示される画像出力は、図11の画素配置に対応しており、演算領域(a)〜(c)、および、開口領域(a)、(b)が設けられている。また、図10(a)に示される画像出力は、水平方向にシェーディングを有する。そして、VOB部内の演算領域(a)〜(c)において水平方向の補正データ(シェーディング補正値)を算出する。図10(b)は、演算領域(a)〜(c)で算出されたデータであり、それぞれ、領域A、領域B、領域Cのシェーディング補正データとして用いられる。
図10(a)に示される画像出力に対して、図10(b)のシェーディング補正データを用いてシェーディング補正処理を行うと、図10(c)に示される画像データを得ることができる。すなわち、演算領域(a)〜(c)で得られた補正データを用いて、補正領域である開口領域(a)、(b)にて減算処理を行うことにより、補正領域内において水平方向のシェーディングが補正されたフラットな画像出力を得ることができる。
本実施例の撮像装置は、1フレーム内に複数パターンの駆動モードで動作し、撮像素子の垂直基準領域(VOB部)に第1の駆動パターンで駆動する領域(演算領域(a))と、第2、第3の駆動パターンで駆動する領域(演算領域(b)、(c))を備える。そして、各々の駆動パターンで駆動する際に、シェーディング補正用のデータを取得して補正領域(開口領域)のデータを補正する。これにより、補正領域(開口領域)を互いに異なる駆動モードで動作させた場合でも、適正なシェーディング補正を行い、画質の劣化を防止することができる。
次に、本発明の実施例2における撮像装置について説明する。実施例1の撮像装置は、垂直基準領域(VOB部)に複数の駆動モードで駆動する領域を備えている。そして、複数の駆動モードのそれぞれに対応する補正データを取得している。ただし、実施例1のような構成を採用する場合、SRAM502において、各駆動モードでのデータを各列分以上保持する領域を確保する必要がある。このため、メモリ領域が増加してしまう。そこで本実施例は、少ないメモリ領域で画質の劣化を低減する撮像装置を提供する。
本実施例の撮像装置は、第1の駆動パターンにより得られた補正データを備え(または、実施例1のように取得し)、第2、第3の駆動パターンで駆動する領域については、第1の駆動パターンにより取得されるデータとの差分データを予め備えておく。なお、本実施例の撮像装置の基本構成は、実施例1の撮像装置と同様である。
まず、図11を参照して、本実施例の撮像素子101の画素配置について説明する。図11は、撮像素子101の画素配置図である。図11に示される画素配置では、VOB部(垂直オプティカルブラック領域)には、通常画素(撮像画素)のみが存在する行に用いられる第1の駆動パターンで駆動される領域(演算領域(a))のみが設けられている。その他の構成は、図3を参照して説明した実施例1の画素配置と同様であり、それらの詳細の説明は省略する。本実施例の構成によれば、VOB部に第1の駆動パターンで駆動される演算領域(a)のみを設けることで、実施例1の撮像素子よりもチップ面積を削減することもできる。
次に、図16を参照して、本実施例におけるDSP103aの動作について説明する。図16は、DSP103aの動作を示すブロック図である。図16において、2031は、撮像素子101から読み出された像信号に対してシェーディング補正を行うシェーディング補正部(第1のシェーディング補正部)である。シェーディング補正部2031の基本動作は、図15におけるシェーディング補正部1031と同様である。ただし本実施例において、補正データの取得に用いられる領域は、図11に示されるように演算領域(a)のみである。シェーディング補正部2031は、シェーディング補正後、焦点検出画素と通常画素(撮像画素)の信号を並行して出力する。
2032は、焦点検出画素差分オフセット部(第2のシェーディング補正部)である。焦点検出画素差分オフセット部2032は、シェーディング補正部2031によるシェーディング補正後に焦点検出画素からの出力のみを集める。そして、シェーディング補正部2031による補正で生じた通常画素と焦点検出画素との差分データをオフセット量として補正画像を得る。本実施例において、この差分データは、ROM106に予め記憶されている。2033は、焦点検出画素差分オフセット部2032を経てシェーディング(オフセット)が補正された焦点検出画素の出力を用いて、位相差方式による焦点検出演算を行う焦点検出演算部である。焦点検出演算部2033で演算された結果は、CPU105に出力される。
2034は、シェーディング補正後の画素出力(撮像画素および焦点検出画素の出力)に対して欠陥補正などの各種補正を行う撮像補正部である。2035は、撮像補正部2034で各種補正が行われた後の像信号の現像処理を行う現像処理部である。現像処理部2035の出力は、画像データとして、記録媒体108に書き込まれる。なお、撮像補正部2034にて焦点検出画素の欠陥補正が行われるため、焦点検出画素による画質の劣化を低減することができる。
次に、図12を参照して、本実施例におけるシェーディング補正処理の効果について説明する。図12は、シェーディング補正処理の効果の説明図である。図12(a)はダーク時のシェーディング補正前の画像出力、図12(b)は領域A、B、Cのシェーディングイメージ、図12(c)はダーク時のシェーディング補正後の画像出力をそれぞれ示す。また、図12(d)は、領域Bと領域Aとのシェーディングの差分(領域B−A)、および、領域Cと領域Aとのシェーディングの差分(領域C−A)を示す。図12(e)は、差分データとして取得されたA像データおよびB像データを示す。
図12(a)に示されるように、水平方向にシェーディングを有する画像出力に対し、VOB部内の演算領域(a)にて水平方向の補正値を算出する。図12(b)において、領域Aのシェーディングは、演算領域(a)における算出結果と等価である。領域Aのデータは、開口領域(領域A、領域B、領域C)の画像用シェーディング補正データとして用いられる。
図12(c)は、領域Aのシェーディングデータ(演算領域(a)の算出結果)による開口部の減算処理を行い、補正処理を行って得られたイメージである。図12(c)に示されるように、開口領域(補正領域)内を全て領域Aの水平方向のシェーディングが補正されることによって、第1の駆動パターンと同じ動作(加算動作)を行う領域に関してはフラットなダーク画像としての出力が可能である。ただし、領域B、Cにおける焦点検出画素の出力に関しては、シェーディングの補正残りが発生している。なお、シェーディングの補正残りに関しては、図5を参照して説明したとおり、後段にて、焦点検出画素を欠陥画素として補正を行うため、画質劣化への影響はない。
図12(d)は、領域Aのシェーディングデータ(演算領域(a)の算出結果)によるシェーディング補正を行った場合における、領域B、Cで発生する補正残りを示している。また図12(e)は、図12(d)中の領域B−A、領域C−Aにおける非加算画素(焦点検出画素)に相当する位置の差分データをまとめて得られたイメージ(A像データ、B像データ)を示している。なお後述のように、図12(e)のA像データは領域Bの焦点検出画素のみの補正値、図12(e)のB像データは領域Bの焦点検出画素のみの補正値として用いられる。
本実施例では、図12(e)のA像データは、焦点検出画素SHAをまとめた焦点検出画像A(A像)用補正データ(記憶データ21)として、予めROM106に記憶される。また、図12(e)のB像データは、焦点検出画素SHBをまとめた焦点検出画像B(B像)用補正データ(記憶データ22)として、予めROM106に記憶される。本実施例では、領域B、領域Cにおいても、領域Aと同様の駆動で動作する領域のデータを除外することで、データ量を低減することができる。
本実施例の動作は、図6および図7を参照して説明したシーケンスと比べて、図7のステップS305を除いて同様である。このため、図7のステップS305に対応するステップS305aとして、図13を参照して、本実施例におけるシェーディング補正について説明する。図13は、本実施例におけるシェーディング補正のフローチャートである。なお、図13の動作シーケンスは、実際には図7のステップS304の撮像信号の読み出しと同時に開始する。
まず図7のステップS304において、撮像素子101の読み出しが開始する。同時に、図13のステップS501において、撮像素子101の読み出し前に、SRAM502に記憶された全ての内容をリセットする。また、各部で設定すべき演算領域、補正領域の座標等のデータをROM106、RAM107等から読み出して各レジスタに設定する。そして、撮像素子101の上部左側から読み出しを開始する。
続いてステップS502において、シェーディング補正部2031は、読み出された画素データが図11における演算領域(a)のデータである否かを判定する。読み出されたデータが演算領域(a)のデータである場合、ステップS503において列ごとの積分処理を行う。なお積分処理においては、読み出された画素データの水平方向の位置に対応するSRAM502に記憶されたアドレスの内容を読み出した後に加算処理を行い、この加算結果を同じSRAM502内のアドレスに再度記憶する。この際のアドレスは、第1の駆動パターンデータに対応するデータ(記憶データ1)として予め定められたアドレスである。
まず、演算領域の先頭行では、SRAM502内の内容はリセットされた状態であるため加算される値は「0」であり、読み出された画素データがそのままSRAM502に記憶される。このように、演算領域の先頭行の画素データの読み出しが完了すると、SRAM502にはこの先頭行のデータがそのまま記憶される。
続いてステップS504において、シェーディング補正部2031は、演算領域の画素データの読み出しを終了したか否かを判定する。演算領域の画素データの読み出しが終了していない場合、ステップS502に戻り、演算領域(a)における次行の画素データの読み出しを行う。先行の画素データと同様に、読み出された水平方向の位置に対応するアドレスのSRAM502に記憶された値を読み出し、この値に読み出された画素データを加算し、その加算結果をSRAM502に記憶する。同様に繰り返すことにより、ステップS504で演算領域を終了する段階で、演算領域(a)の読み出しを終了する。このとき、SRAM502に記憶されたアドレスには、演算領域(a)の各列の全行の画素出力の加算結果が記憶されている。
一方、ステップS504において、演算領域の画素データの読み出しが終了していない場合、ステップS505に移行し、シェーディング補正部2031は、開口領域(補正領域)の画素データの読み出しであるか否かを判定する。開口領域の読み出しの場合、ステップS506に移行し、シェーディング補正部2031は、ステップS503で読み出された各画素データの水平方向の位置に対応するアドレスのSRAM502に記憶されたデータ(記憶データ1)を読み出す。そして、1/N乗算器505にて列ごとの平均値に変換し、減算回路506にて減算処理が行われる。このようにして得られた信号は、出力端子507から補正出力として出力される。
一方、ステップS505において、開口領域の画素データの読み出しでない場合、ステップS507に進み、シェーディング補正部2031は、画素データの読み出しが終了したか否かを判定する。画素データの読み出しが終了していない場合には、ステップS505に戻る。すなわち、演算領域の読み出しは終了しているため、読み出された画素データが開口領域(補正領域)である限り、記憶データ1による補正が繰り返し実行される。一方、ステップS507において画素データの読み出しが終了している場合には、シェーディング補正処理を終了する。
本実施例において、開口領域は領域A〜Cの全てが第1の駆動パターンによる補正データ(記憶データ1)によって補正されている。このため、図13を参照して説明したシェーディング補正が終了した段階では、図12(c)に示されるように、領域B、Cにおいて駆動パターンが異なる箇所(具体的には、非加算画素である焦点検出画素SHA,HBの出力)が補正しきれていない。しかし画像生成に関しては、図5を参照して説明したとおり、焦点検出画素に対しては欠陥画素として周知の補正が行われるため、画質劣化への影響はない。
一方、図7のステップS306に移行した際に、図13のシェーディング補正が行われた画像に基づいて、焦点検出画素の出力を集めた焦点検出画像(A像、B像)が生成される。そして図7のステップS306では、生成された焦点検出画像(A像、B像)に対して、図12を参照して説明したように予め記憶されたシェーディング差分データ(記憶データ21、22)をそれぞれ用いて差分処理を行う。その後、位相差焦点検出演算が行われる。
次に、図14を参照して、本実施例におけるダーク時の焦点検出画像の出力について説明する。図14は、ダーク時の焦点検出画像の出力を示す。図14(a)は、焦点検出画素SHAをまとめた焦点検出画像A(A像)であり、左側に、領域Aでのシェーディング補正後に、シェーディング差分データ(記憶データ21)による補正(減算処理)を行う前の画像出力が示されている。また図14(a)の右側に、シェーディング差分データ(記憶データ21)による補正(減算処理)を行った後の画像出力が示されている。同様に、図14(b)は、焦点検出画素SHBをまとめた焦点検出画像B(B像)であり、左側に、領域Aでのシェーディング補正後に、シェーディング差分データ(記憶データ22)による補正(減算処理)を行う前の画像出力が示されている。また図14(b)の右側に、シェーディング差分データ(記憶データ22)による補正(減算処理)を行った後の画像出力が示されている。これにより、焦点検出画像(A像、B像)のシェーディングもフラットな状態にすることが可能となる。
このように、本実施例の撮像素子101は、遮光された基準領域(演算領域)と開口領域とを有し、基準領域には複数の撮像画素の一部のみが含まれている。DSP103a(信号処理手段)は、基準領域において撮像画素からの信号(第1の画素信号)に対する第1の補正データ(記憶データ1)を算出する。そして、DSP103aのシェーディング補正部2031(第1のシェーディング補正部)は、第1の補正データを用いて開口領域からの第1の画素信号および第2の画素信号に対してシェーディング補正を行う。また、DSP103aの焦点検出画素差分オフセット部2032(第2のシェーディング補正部)は、予め記憶された差分データ(記憶データ21、22)を用いて焦点検出画素からの信号(第2の画素信号)に対するシェーディング補正残りを補正する。以上の補正処理を行うことにより、VOB部内の演算領域に存在する駆動モードの相違に応じて生じる列ごとの平均値のばらつきを補正することができる。
本実施例によれば、基準領域(VOB部)の構成を簡素化し、さらに、SRAMなどのメモリ領域を低減しつつ、通常画素(撮像画素)および焦点検出画素から得られた画素データを適正に補正することができる。なお本実施例では、焦点検出画素の配置が行により異なる場合について説明しているため、第1〜第3の駆動パターンの3種類の駆動パターンを用いているが、本実施例はこれに限定されるものではない。例えば、焦点検出画素SHA,HBが同行に配置されているなどの構成を有する場合、駆動パターンは、通常画素用の第1の駆動パターンと、焦点検出画素が含まれる場合に用いられる第2の駆動パターンの2種類の駆動パターンが用いられる。この場合でも、本実施例によれば適正な補正を行うことが可能である。また、本実施例において、通常画素に対する駆動パターンと駆動パターンが用いられる場合として、焦点検出画素を例として説明しているが、本実施例はこれに限定されるものではない。例えば、温度検出用などの特殊画素などにより、複数の駆動パターンが1フレーム内に存在する場合にも本実施例は効果的である。
次に、本発明の実施例3における撮像装置について説明する。実施例1、2では、通常画素のシェーディングと同様に、焦点検出画素も水平方向に一次元化して補正が行われる。これにより、シェーディング(オフセット)が全画面内で略一定となるが、1画素単位で細かく見ると、画素ごとの特性ずれにより、僅かにオフセットずれが残る。焦点検出を行う観点では、1画素単位の僅かなずれ(オフセットずれ)も小さくするように、精度を向上させることが望まれる。そこで本実施例では、通常画素と焦点検出画素のシェーディング補正(オフセット補正)をそれぞれ別に行うことで、特に、焦点検出画素の1画素ごとの補正性能を向上させる。本実施例における撮像装置の構成や動作は、基本的に、実施例2の構成と同様であるため、それらの説明については省略する。
図17を参照して、本実施例におけるDSP103bの動作について説明する。図17は、DSP103bの動作を示すブロック図である。DSP103bは、DSP103b内に画像が入力された段階で、全画像(通常画素および焦点検出画素)と焦点検出画素のみの画像出力に分離する。そしてDSP103bは、これらの画像出力に対して並行処理を行う。具体的には、全画素(通常画素および焦点検出画素)の画素出力に対しては、通常画素シェーディング補正部3031(第1のシェーディング補正部)、撮像補正部3032、および、現像処理部3033により画像生成処理が行われる。一方、焦点検出画素のみの画像出力に対しては、焦点検出画素オフセット補正部3034(第2のシェーディング補正部)および焦点検出演算部3035により焦点検出処理が行われる。
3031は、撮像素子101から読み出された信号に対して、シェーディング補正を行う通常画素シェーディング補正部である。基本動作は、図16のシェーディング補正部2031と同様である。3032は、シェーディング補正後の画像出力(通常画素および焦点検出画素の出力)に対して、欠陥補正などの各種補正を行う撮像補正部である。撮像補正部3032は、焦点検出画素の欠陥補正を行うことで、焦点検出画素による画質の劣化を防ぐ。3033は、撮像補正部3032による補正が行われた後に現像処理を行う現像処理部である。現像処理部3033の出力は、画像データとして記録媒体108へ書き込まれる。
3034は、予め定められた座標に存在する焦点検出画素のみを選択入力し、ROM106に予め記憶された焦点検出画素の画素単位のオフセットデータを読み出し、オフセットデータによる補正処理を行う焦点検出画素オフセット補正部である。これにより、各画素のオフセット(シェーディング)を補正することができ、実施例1、2のように列ごとの補正と比較して、焦点検出画素の出力を高精度に取得することが可能となる。3035は、焦点検出画素オフセット補正部3034でオフセット補正された焦点検出画素の出力を用いて、周知の位相差焦点検出演算を行う焦点検出演算部である。焦点検出演算部3035で得られた結果は、CPU105に出力される。
次に、図18を参照して、本実施例におけるダーク時の焦点検出画像の出力について説明する。図18は、ダーク時の焦点検出画像の出力を示す。図18の左側は、焦点検出画素SHAをまとめた焦点検出画像(A像)であり、補正(減算処理)を行う前の画像出力である。この画像出力は、ROM106に、予め画素単位のオフセットデータ(記憶データ31)として記憶されている。また図18の右側は、オフセットデータ(記憶データ31)により補正(減算処理)を行った後の画像出力である。これにより、焦点検出画像(A像、B像)のシェーディングもフラットな状態にすることが可能となる。なお、焦点検出画素SHBをまとめた焦点検出画像(B像)に対しての処理は、A像の場合と同様であるため、その説明は省略する。なお、焦点検出画像(B像)のオフセットデータ(記憶データ32)も専用に記憶されており、B像の補正時には記憶データ32が用いられる。
このように本実施例の撮像素子101は、遮光された基準領域(演算領域)と開口領域とを有し、基準領域には複数の撮像画素の一部のみが含まれている。DSP103b(信号処理手段)は、基準領域において撮像画素からの信号(第1の画素信号)に対する第1の補正データ(記憶データ1)を算出する。そして、DSP103bの通常画素シェーディング補正部3031(第1のシェーディング補正部)は、第1の補正データを用いて開口領域からの第1の画素信号に対してシェーディング補正を行う。また、DSP103bの焦点検出画素オフセット補正部3034(第2のシェーディング補正部)は、複数の焦点検出画素の各々に対して予め記憶された補正データ(記憶データ31、32)を用いて第2の画素信号に対するシェーディング補正を行う。
本実施例によれば、通常画素(撮像画素)と特殊画素(焦点検出画素)の出力に対して、各々、別のオフセットデータを用いた補正を行うことにより、焦点検出画素の信号成分の抽出の精度を向上させることができる。なお本実施例では、焦点検出画素の基準ずれを画素単位で低減することができるため、複数の駆動パターンを用いる必要はない。また本実施例では、説明の便宜上、ダーク時のシェーディング(オフセット)について説明されているが、本実施例はこれに限定されるものではない。例えば、光により発生するシェーディングなどの補正についても適用可能である。
上記各実施例によれば、撮像画素および焦点検出画素を有する撮像素子からの画素出力に対して適正なシェーディング補正を行うことにより、画質の劣化を低減する撮像装置および信号処理方法を提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
例えば、上記各実施例において、特殊画素としての焦点検出画素について説明したが、各実施例は、通常画素である撮像画素と異なる用途(温度検出、光源検出など)に用いられる他の特殊画素についても適用可能である。
100:撮像装置
101:撮像素子
103:DSP

Claims (6)

  1. 撮像光学系からの光束により形成された像を光電変換する複数の撮像画素、および、該撮像光学系からの光束のうち分割された光束により形成された像を光電変換する複数の焦点検出画素を有する撮像素子と、
    前記撮像素子からの画素信号に対してシェーディング補正を行う信号処理手段と、を有し、
    前記撮像素子は、前記複数の撮像画素からの信号を加算して第1の画素信号を生成し、前記焦点検出画素からの信号を加算することなく第2の画素信号を生成し、
    前記信号処理手段は、前記第1の画素信号と前記第2の画素信号に対して互いに異なる補正データを用いて前記シェーディング補正を行うことを特徴とする撮像装置。
  2. 前記撮像素子は、遮光された基準領域と開口領域とを有し、該基準領域には前記複数の撮像画素および前記複数の焦点検出画素のそれぞれの一部が含まれており、
    前記信号処理手段は、
    前記基準領域において、前記第1の画素信号に対する第1の補正データおよび前記第2の画素信号に対する第2の補正データを算出し、
    前記第1の補正データを用いて前記開口領域からの前記第1の画素信号に対して前記シェーディング補正を行い、前記第2の補正データを用いて該開口領域からの前記第2の画素信号に対して該シェーディング補正を行うことを特徴とする請求項1に記載の撮像装置。
  3. 前記撮像素子は、遮光された基準領域と開口領域とを有し、該基準領域には前記複数の撮像画素の一部のみが含まれており、
    前記信号処理手段は、
    前記基準領域において前記第1の画素信号に対する第1の補正データを算出し、該第1の補正データを用いて前記開口領域からの前記第1の画素信号および前記第2の画素信号に対して前記シェーディング補正を行う第1のシェーディング補正部と、
    予め記憶された差分データを用いて前記第2の画素信号に対するシェーディング補正残りを補正する第2のシェーディング補正部と、
    を有することを特徴とする請求項1に記載の撮像装置。
  4. 前記撮像素子は、遮光された基準領域と開口領域とを有し、該基準領域には前記複数の撮像画素の一部のみが含まれており、
    前記信号処理手段は、
    前記基準領域において前記第1の画素信号に対する第1の補正データを算出し、該第1の補正データを用いて前記開口領域からの前記第1の画素信号に対して前記シェーディング補正を行う第1のシェーディング補正部と、
    前記複数の焦点検出画素の各々に対して予め記憶された補正データを用いて前記第2の画素信号に対する前記シェーディング補正を行う第2のシェーディング補正部と、
    を有することを特徴とする請求項1に記載の撮像装置。
  5. 前記信号処理手段は、前記第2の画素信号に前記シェーディング補正を行って得られた信号を用いて焦点検出を行うことを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 撮像光学系からの光束により形成された像を光電変換する複数の撮像画素、及び、該撮像光学系からの光束のうち分割された光束により形成された像を光電変換する複数の焦点検出画素を有する撮像素子からの画素信号を処理する信号処理方法であって、
    前記複数の撮像画素からの信号を加算して第1の画素信号を生成し、前記焦点検出画素からの信号を加算することなく第2の画素信号を生成するステップと、
    前記第1の画素信号と前記第2の画素信号に対して互いに異なる補正データを用いてシェーディング補正を行うステップと、を有することを特徴とする信号処理方法。
JP2012081787A 2012-03-30 2012-03-30 撮像装置および信号処理方法 Active JP6016412B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2012081787A JP6016412B2 (ja) 2012-03-30 2012-03-30 撮像装置および信号処理方法
US13/793,279 US9065988B2 (en) 2012-03-30 2013-03-11 Image pickup apparatus including image pickup element having image pickup pixel and focus detection pixel and signal processing method
CN201310108941.2A CN103369241B (zh) 2012-03-30 2013-03-29 摄像设备和信号处理方法
US14/713,057 US9432606B2 (en) 2012-03-30 2015-05-15 Image pickup apparatus including image pickup element having image pickup pixel and focus detection pixel and signal processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012081787A JP6016412B2 (ja) 2012-03-30 2012-03-30 撮像装置および信号処理方法

Publications (2)

Publication Number Publication Date
JP2013211770A true JP2013211770A (ja) 2013-10-10
JP6016412B2 JP6016412B2 (ja) 2016-10-26

Family

ID=49234492

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012081787A Active JP6016412B2 (ja) 2012-03-30 2012-03-30 撮像装置および信号処理方法

Country Status (3)

Country Link
US (2) US9065988B2 (ja)
JP (1) JP6016412B2 (ja)
CN (1) CN103369241B (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016015590A (ja) * 2014-07-01 2016-01-28 キヤノン株式会社 撮像装置およびその制御方法ならびにプログラム
JP2016100879A (ja) * 2014-11-26 2016-05-30 オリンパス株式会社 撮像装置、画像処理方法
JP2017147700A (ja) * 2016-02-19 2017-08-24 キヤノン株式会社 撮像装置、撮像システム、撮像装置の駆動方法
JP2017195542A (ja) * 2016-04-21 2017-10-26 キヤノン株式会社 撮像装置及びその制御方法、及び、画像処理装置及び画像処理方法

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6016412B2 (ja) * 2012-03-30 2016-10-26 キヤノン株式会社 撮像装置および信号処理方法
US9826174B2 (en) * 2013-03-26 2017-11-21 Samsung Electronics Co., Ltd Image processing apparatus and method
US9160942B2 (en) 2013-07-11 2015-10-13 Canon Kabushiki Kaisha Solid-state imaging sensor, ranging device, and imaging apparatus
CN104683653B (zh) * 2013-11-30 2018-12-14 南宁富桂精密工业有限公司 时钟信号产生电路及视频信号处理电路
KR102121531B1 (ko) * 2013-12-10 2020-06-10 삼성전자주식회사 초점검출 가능한 이미지 센서 제어장치 및 방법.
JP6483354B2 (ja) * 2014-06-05 2019-03-13 オリンパス株式会社 撮像装置および撮像方法
JP6380974B2 (ja) * 2014-06-18 2018-08-29 オリンパス株式会社 撮像素子、撮像装置
RU2679011C1 (ru) * 2015-09-16 2019-02-05 Кэнон Кабусики Кайся Датчик изображения и устройство захвата изображения
US20160373664A1 (en) * 2015-10-27 2016-12-22 Mediatek Inc. Methods And Apparatus of Processing Image And Additional Information From Image Sensor
JP6947590B2 (ja) * 2017-09-08 2021-10-13 オリンパス株式会社 撮像装置、撮像装置の制御方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005277618A (ja) * 2004-03-24 2005-10-06 Casio Comput Co Ltd 撮像装置、シェーディング補正装置、及びシェーディング補正方法
JP2007189312A (ja) * 2006-01-11 2007-07-26 Nikon Corp 撮像装置、撮像方法およびカメラ
JP2009244858A (ja) * 2008-03-11 2009-10-22 Canon Inc 撮像装置及び画像処理方法
JP2010020055A (ja) * 2008-07-10 2010-01-28 Canon Inc 撮像装置とその制御方法
JP2011124712A (ja) * 2009-12-09 2011-06-23 Fujifilm Corp 画像処理装置、方法およびプログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6236431B1 (en) * 1993-05-27 2001-05-22 Canon Kabushiki Kaisha Video camera apparatus with distance measurement area adjusted based on electronic magnification
JP2003333434A (ja) 2002-05-17 2003-11-21 Canon Inc 撮像装置、撮像方法、プログラムおよび記憶媒体
JP2004191629A (ja) * 2002-12-11 2004-07-08 Canon Inc 焦点検出装置
JP5317562B2 (ja) * 2008-07-17 2013-10-16 キヤノン株式会社 位相差検出装置、撮像装置、位相差検出方法、位相差検出プログラム
JP5161702B2 (ja) * 2008-08-25 2013-03-13 キヤノン株式会社 撮像装置、撮像システム、及び焦点検出方法
JP5322561B2 (ja) * 2008-09-25 2013-10-23 キヤノン株式会社 撮像装置及びその制御方法
JP2010091943A (ja) * 2008-10-10 2010-04-22 Canon Inc 撮像装置
JP2011017800A (ja) * 2009-07-07 2011-01-27 Canon Inc 焦点検出装置
JP2011223562A (ja) * 2010-03-23 2011-11-04 Fujifilm Corp 撮像装置
JP5589760B2 (ja) * 2010-10-27 2014-09-17 ソニー株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP5901246B2 (ja) * 2010-12-13 2016-04-06 キヤノン株式会社 撮像装置
JP5664270B2 (ja) * 2011-01-21 2015-02-04 ソニー株式会社 撮像素子および撮像装置
KR101853817B1 (ko) * 2011-07-20 2018-05-02 삼성전자주식회사 촬상 소자
JP6016412B2 (ja) * 2012-03-30 2016-10-26 キヤノン株式会社 撮像装置および信号処理方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005277618A (ja) * 2004-03-24 2005-10-06 Casio Comput Co Ltd 撮像装置、シェーディング補正装置、及びシェーディング補正方法
JP2007189312A (ja) * 2006-01-11 2007-07-26 Nikon Corp 撮像装置、撮像方法およびカメラ
JP2009244858A (ja) * 2008-03-11 2009-10-22 Canon Inc 撮像装置及び画像処理方法
JP2010020055A (ja) * 2008-07-10 2010-01-28 Canon Inc 撮像装置とその制御方法
JP2011124712A (ja) * 2009-12-09 2011-06-23 Fujifilm Corp 画像処理装置、方法およびプログラム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016015590A (ja) * 2014-07-01 2016-01-28 キヤノン株式会社 撮像装置およびその制御方法ならびにプログラム
JP2016100879A (ja) * 2014-11-26 2016-05-30 オリンパス株式会社 撮像装置、画像処理方法
JP2017147700A (ja) * 2016-02-19 2017-08-24 キヤノン株式会社 撮像装置、撮像システム、撮像装置の駆動方法
JP2017195542A (ja) * 2016-04-21 2017-10-26 キヤノン株式会社 撮像装置及びその制御方法、及び、画像処理装置及び画像処理方法

Also Published As

Publication number Publication date
CN103369241B (zh) 2016-12-28
US9065988B2 (en) 2015-06-23
US20130258155A1 (en) 2013-10-03
US9432606B2 (en) 2016-08-30
US20150249799A1 (en) 2015-09-03
CN103369241A (zh) 2013-10-23
JP6016412B2 (ja) 2016-10-26

Similar Documents

Publication Publication Date Title
JP6016412B2 (ja) 撮像装置および信号処理方法
JP5739640B2 (ja) 撮像素子及び撮像装置
JP4208904B2 (ja) 撮像装置及びその制御方法並びに撮像システム
JP5959834B2 (ja) 撮像装置
JP5746521B2 (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
JP5523065B2 (ja) 撮像装置及びその制御方法
JP5222068B2 (ja) 撮像装置
JP6579782B2 (ja) 撮像装置
JP2007174590A (ja) 信号処理装置及び撮像装置
JP2010062639A (ja) 撮像装置
JP2007312076A (ja) 画像データのノイズ低減装置およびその制御方法
JP2010016630A (ja) 撮像装置
JP5127510B2 (ja) 撮像装置、及び撮像装置の制御方法
JP5720213B2 (ja) 撮像装置
JP2017103568A (ja) 撮像装置、撮像装置の制御方法およびプログラム
JP5271201B2 (ja) 画像信号処理装置及び撮像装置
JP2008053812A (ja) 撮像装置
JP4804259B2 (ja) 撮像装置
JP7020463B2 (ja) 撮像装置
JP6590055B2 (ja) 撮像装置
JP2018101896A (ja) 撮像装置とその制御方法及びプログラム
JP2010166479A (ja) 撮像装置及び撮像画像の補正方法
JP5094313B2 (ja) 撮像装置及びその駆動方法
JP5311927B2 (ja) 撮像装置、撮像方法
JP6402807B2 (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150313

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160627

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160927

R151 Written notification of patent or utility model registration

Ref document number: 6016412

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151