JP2017046253A - 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 - Google Patents

制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 Download PDF

Info

Publication number
JP2017046253A
JP2017046253A JP2015168509A JP2015168509A JP2017046253A JP 2017046253 A JP2017046253 A JP 2017046253A JP 2015168509 A JP2015168509 A JP 2015168509A JP 2015168509 A JP2015168509 A JP 2015168509A JP 2017046253 A JP2017046253 A JP 2017046253A
Authority
JP
Japan
Prior art keywords
signal
imaging signal
mode
imaging
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015168509A
Other languages
English (en)
Other versions
JP6602109B2 (ja
Inventor
石井 美絵
Mie Ishii
美絵 石井
小林 寛和
Hirokazu Kobayashi
寛和 小林
大嶋 孝治
Koji Oshima
孝治 大嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015168509A priority Critical patent/JP6602109B2/ja
Priority to US15/245,705 priority patent/US10638072B2/en
Publication of JP2017046253A publication Critical patent/JP2017046253A/ja
Application granted granted Critical
Publication of JP6602109B2 publication Critical patent/JP6602109B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • G02B7/346Systems for automatic generation of focusing signals using different areas in a pupil plane using horizontal and vertical areas in the pupil plane, i.e. wide area autofocusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】撮影画像の取得および焦点検出を高速化しつつ、撮影画像の劣化を低減可能な制御装置を提供する。
【解決手段】撮像装置100の制御装置106は、撮像素子103の第1画素領域から第1モードで読み出された第1撮像用信号と、撮像素子の第2画素領域から第2モードで読み出された第2撮像用信号と、を取得する取得手段106aと、第1撮像用信号および第2撮像用信号に関して互いに異なる基準を用いて、第1撮像用信号および第2撮像用信号に対してノイズ低減処理を行う画像処理手段106bとを有する。
【選択図】図1

Description

本発明は、撮像用信号のノイズ補正を行う撮像装置に関する。
近年、CMOSセンサなどの撮像素子を用いた撮像装置において、様々なニーズに対応するべく多機能化が進んでいる。例えば、光の強度分布のみならず、光の入射方向や距離情報をも取得可能な撮像装置が提案されている。
特許文献1には、撮像素子から得られた信号により焦点検出が可能な撮像素子が開示されている。1つのマイクロレンズに対応するフォトダイオード(以下、「「PD」という。)を2つに分割し、各PDが撮像レンズの互いに異なる瞳面の光を受光するように構成されている。そして、2つのPDの出力を比較して、焦点検出を行う。また、単位画素を構成する2つのPDからの出力信号を加算して、通常の撮像画像を得ることもできる。
特許文献2には、第1の動作で瞳分割されたPD(2画素)のうち第1画素信号を読み出し、第2の動作でリセットせずに第2画素を加算して読み出し、加算信号から第1画素信号を減算して第2画素信号を求める方法が開示されている。焦点検出の必要がない場合、第2の動作のみで信号読み出しを行うことが可能であり、読み出し時間を短縮することができる。
特許第3774597号 特開2013−106194号公報
ところで、特許文献1のように各単位画素が複数のPDを有する場合、全PDの信号を読み出すのに必要な時間が長くなり、フレームレートが下がってしまう。特許文献2の方法では、読み出し時間を短縮することができるが、撮像素子の高画素化やフレームレートの向上のため、更なる読み出し時間の短縮が望まれる。
1フレームの読み出し時間の短縮方法としては、焦点検出に使用する画素を限定する方法がある。例えば、焦点検出処理に使用する行のみ単位画素内の分割PDの信号をそれぞれ読み出し、焦点検出処理に使用しない行に関しては、分割PDの信号を加算して画像生成用の信号のみを読み出すことで、読み出し時間を短縮することが可能である。この場合、焦点検出用として読み出された分割PDの個々の出力信号を加算して、撮像画像用の画素信号として使用することが可能である。しかし、信号の読み出し方法や分割PDの出力信号の加算方法が焦点検出処理に使用する行としない行とで互いに異なると、ノイズレベルなどに差が生じ、その結果得られる撮像画像が劣化してしまう。
そこで本発明は、撮影画像の取得および焦点検出を高速化しつつ、撮影画像の劣化を低減可能な制御装置、撮像装置、制御方法、プログラム、および、記憶媒体を提供する。
本発明の一側面としての制御装置は、撮像素子の第1画素領域から第1モードで読み出された第1撮像用信号と、該撮像素子の第2画素領域から第2モードで読み出された第2撮像用信号と、を取得する取得手段と、前記第1撮像用信号および前記第2撮像用信号に関して互いに異なる基準を用いて、該第1撮像用信号および該第2撮像用信号に対してノイズ低減処理を行う画像処理手段とを有し、前記第1画素領域および前記第2画素領域はそれぞれ、所定の割合で行ごとに決定されており、前記取得手段は、各フレームにおいて、前記第1画素領域から前記第1撮像用信号を取得し、前記第2画素領域から前記第2撮像用信号と所定の信号とを取得し、前記第1モードは、前記撮像素子の一つのマイクロレンズに対応する複数の光電変換部のそれぞれの画素信号を合わせて前記第1撮像用信号を読み出すモードであり、前記第2モードは、前記複数の光電変換部のうち少なくとも一つの光電変換部の画素信号を前記所定の信号として独立して読み出すモードである。
本発明の他の側面としての撮像装置は、撮像光学系を介して形成された光学像を光電変換する撮像素子と、前記撮像素子の第1画素領域から第1モードで読み出された第1撮像用信号と、該撮像素子の第2画素領域から第2モードで読み出された第2撮像用信号と、を取得する取得手段と、前記第1撮像用信号および前記第2撮像用信号に関して互いに異なる基準を用いて、該第1撮像用信号および該第2撮像用信号に対してノイズ低減処理を行う画像処理手段とを有し、前記第1画素領域および前記第2画素領域はそれぞれ、所定の割合で行ごとに決定されており、前記取得手段は、各フレームにおいて、前記第1画素領域から前記第1撮像用信号を取得し、前記第2画素領域から前記第2撮像用信号と所定の信号とを取得し、前記第1モードは、前記撮像素子の一つのマイクロレンズに対応する複数の光電変換部のそれぞれの画素信号を合わせて前記第1撮像用信号を読み出すモードであり、前記第2モードは、前記複数の光電変換部のうち少なくとも一つの光電変換部の画素信号を前記所定の信号として独立して読み出すモードである。
本発明の他の側面としての制御方法は、撮像素子の第1画素領域から第1モードで読み出された第1撮像用信号と、該撮像素子の第2画素領域から第2モードで読み出された第2撮像用信号と、を取得する取得ステップと、前記第1撮像用信号および前記第2撮像用信号に関して互いに異なる基準を用いて、該第1撮像用信号および該第2撮像用信号に対してノイズ低減処理を行う処理ステップとを有し、前記第1画素領域および前記第2画素領域はそれぞれ、所定の割合で行ごとに決定されており、前記取得ステップは、各フレームにおいて、前記第1画素領域から前記第1撮像用信号を取得し、前記第2画素領域から前記第2撮像用信号と所定の信号とを取得し、前記第1モードは、前記撮像素子の一つのマイクロレンズに対応する複数の光電変換部のそれぞれの画素信号を合わせて前記第1撮像用信号を読み出すモードであり、前記第2モードは、前記複数の光電変換部のうち少なくとも一つの光電変換部の画素信号を前記所定の信号として独立して読み出すモードである。
本発明の他の側面としてのプログラムは、撮像素子の第1画素領域から第1モードで読み出された第1撮像用信号と、該撮像素子の第2画素領域から第2モードで読み出された第2撮像用信号と、を取得する取得ステップと、前記第1撮像用信号および前記第2撮像用信号に関して互いに異なる基準を用いて、該第1撮像用信号および該第2撮像用信号に対してノイズ低減処理を行う処理ステップと、をコンピュータに実行させることを特徴とするプログラムであって、前記第1画素領域および前記第2画素領域はそれぞれ、所定の割合で行ごとに決定されており、前記取得ステップは、各フレームにおいて、前記第1画素領域から前記第1撮像用信号を取得し、前記第2画素領域から前記第2撮像用信号と所定の信号とを取得し、前記第1モードは、前記撮像素子の一つのマイクロレンズに対応する複数の光電変換部のそれぞれの画素信号を合わせて前記第1撮像用信号を読み出すモードであり、前記第2モードは、前記複数の光電変換部のうち少なくとも一つの光電変換部の画素信号を前記所定の信号として独立して読み出すモードである。
本発明の他の側面としての記憶媒体は、前記プログラムを記憶している。
本発明の他の目的及び特徴は、以下の実施形態において説明される。
本発明によれば、撮影画像の取得および焦点検出を高速化しつつ、撮影画像の劣化を低減可能な制御装置、撮像装置、制御方法、プログラム、および、記憶媒体を提供することができる。
各実施形態における撮像装置のブロック図である。 各実施形態における撮像素子の画素配列図である。 各実施形態において、撮像レンズの射出瞳から出射した光束が単位画素に入射する概念図である。 各実施形態における撮像素子の構成を示すブロック図である。 第1の実施形態における撮像素子の画素回路および列回路の説明図である。 第1の実施形態において、通常撮影モードでの信号読み出し動作を示すタイミングチャートである。 第1の実施形態において、撮像面位相差AFモードでの信号読み出し動作を示すタイミングチャートである。 第1の実施形態において、行選択的撮像面位相差AFモードでの信号読み出しの説明図である。 第1の実施形態において、撮像装置のメモリに格納されたキズ補正用データの一例である。 第1の実施形態において、補正対象画素を決定する処理を示すフローチャートである。 第1の実施形態において、撮像装置のメモリに格納されたキズ補正用データの一例である。 第1の実施形態の変形例として、S信号読み出し期間T1、T2における画像のヒストグラムを示す図である。 第2の実施形態において、撮像面位相差AFモードでの信号読み出し動作を示すタイミングチャートである。 第2の実施形態におけるノイズ低減処理を示すフローチャートである。 第2の実施形態の変形例1における撮像素子の画素回路の説明図である。 第2の実施形態の変形例1において、撮像面位相差AFモードでの信号読み出し動作を示すタイミングチャートである。 第2の実施形態の変形例1において、行選択的撮像面位相差AFモードでの信号読み出しの説明図である。 第2の実施形態の変形例2における撮像素子の画素回路の路図である。 第2の実施形態の変形例2において、通常撮影モードでの信号読み出し動作を示すタイミングチャートである。 第2の実施形態の変形例2において、撮像面位相差AFモードでの信号読み出し動作を示すタイミングチャートである。 第2の実施形態の変形例2において、行選択的撮像面位相差AFモードでの信号読み出しの説明図である。
以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
(第1の実施形態)
まず、本発明の第1の実施形態における撮像装置について説明する。図1は、本実施形態における撮像装置100のブロック図である。撮像装置100において、撮像光学系は、撮像レンズ101、および、絞り102(レンズ絞り)を備える。撮像光学系により形成された被写体像(光学像)は、マイクロレンズアレイ111を有する撮像素子103で受光される。撮像レンズ101を通過した光は、撮像レンズ101の焦点位置の近傍に結像する。マイクロレンズアレイ111は、複数のマイクロレンズ112から構成されている。そしてマイクロレンズアレイ111は、撮像レンズ101の焦点位置の近傍に配置されることにより、撮像レンズ101の互いに異なる瞳領域を通過した光を瞳領域ごとに分割して出射する。
撮像素子103は、CMOSセンサなどの光電変換素子を有し、撮像光学系(撮像レンズ101)を介して形成された光学像を光電変換して画像信号を出力する。本実施形態において、撮像素子103は、1つのマイクロレンズ112に対して複数の画素が対応するように配置される。このような構成により、撮像素子103は、マイクロレンズ112で瞳領域(分割瞳領域)ごとに分割して出射された光を、分割情報を保ったまま受光し、データ処理可能な画像信号に変換する。信号処理回路104は、撮像素子103から出力される画像信号に対して、信号増幅や基準レベル調整などの各種の補正や、データの並べ替えなどを行う。タイミング発生回路105は、撮像素子103および信号処理回路104に駆動タイミング信号を出力する。
制御装置106(全体制御・演算回路)は、撮像素子103や信号処理回路104などの撮像装置100全体の統括的な駆動および制御を行う。また制御装置106は、信号処理回路104から出力された画像信号に対して、後述するA像およびB像の相関演算や焦点検出、また、所定の画像処理や欠陥補正などを施す。制御装置106は、後述するノイズ低減処理を行うため、取得回路106a(取得手段)および画像処理回路106b(画像処理手段)を有する。これらの具体的な動作については後述する。メモリ回路107および記録回路108は、制御装置106から出力された画像信号などを記録保持する不揮発性メモリまたはメモリカードなどの記録媒体である。操作回路109は、撮像装置100の操作部材からの信号を受け付け、制御装置106に対してユーザの命令を反映する。表示回路110は、撮影後の画像やライブビュー画像、または、各種設定画面などを表示する。
なお本実施形態において、撮像装置100は、撮像レンズ101を含む撮像光学系と、撮像素子103を含む撮像装置本体とが一体的に構成されている。ただし本実施形態は、これに限定されるものではなく、撮像光学系(交換レンズ)が撮像装置本体に着脱可能に構成されていてもよい。
次に、図2および図3を参照して、本実施形態の撮像装置100における撮像レンズ101、マイクロレンズアレイ111、および、撮像素子103の関係と、画素の定義、および、瞳分割方式による焦点検出の原理について説明する。
図2は、撮像素子103の画素配列図であり、撮像素子103およびマイクロレンズアレイ111を図1の光軸Zの方向(光軸方向)から見た図を示している。本実施形態において、マイクロレンズアレイ111を形成する個々のマイクロレンズ112に対応する1つの画素を単位画素200と定義する。また、1つのマイクロレンズ112に対して複数の分割画素(複数の副画素201または複数の光電変換部)が光軸方向と直交するX軸方向に2個並んで配置されている。本実施形態において、1つのマイクロレンズ112に対して配置された(すなわち、1つのマイクロレンズ112を共有する)2つの分割画素をそれぞれ、副画素201A、201Bと定義する。なお本実施形態では、2つの分割画素を有するものとして説明するが、例えば4つの分割画素など、2つ以外の複数の分割画素を有する構成であっても本実施形態は適用可能である。
図3は、撮像レンズ101の射出瞳から出射した光束が単位画素200に入射する概念図であり、撮像レンズ101からの光束が1つのマイクロレンズ112を通過して単位画素200で受光される様子を光軸Zに対して垂直方向(Y軸方向)から見た図である。
図3において、302、303は撮像レンズ101の瞳領域(射出瞳または分割瞳領域)である。102は絞り(レンズ絞り)である。瞳領域302、303を通過した光は、光軸Zを中心として単位画素200に入射する。図3に示されるように、瞳領域302を通過する光束はマイクロレンズ112を介して副画素201Aで受光され、瞳領域303を通過する光束はマイクロレンズ112を介して副画素201Bで受光される。このように、副画素201A、201Bはそれぞれ、撮像レンズ101の射出瞳の異なる領域(分割瞳領域)の光を受光している。
撮像レンズ101からの光を瞳分割する副画素201A(分割画素)からの出力信号(出力信号群)を、X軸方向に配列された複数の単位画素200から取得し、これらの出力信号群で構成された被写体像をA像(A像信号、焦点検出用信号)とする。同様に、副画素201Bからの出力信号(出力信号群)を、X軸方向に配列された複数の単位画素200から取得し、これらの出力信号群で構成された被写体像をB像(B像信号、焦点検出用信号)とする。なお、A像信号およびB像信号は、焦点検出用信号としてだけでなく、例えばリフォーカス用または距離マップ作成用などの信号(所定の信号)としても利用可能である。
そして、A像信号とB像信号とに対して相関演算を実施し、像のずれ量(瞳分割位相差)を検出する。また、像のずれ量に対して撮像レンズ101の焦点位置と光学系とに応じて決定される変換係数を乗じることにより、画面内の任意の被写体位置に対応する焦点位置を算出することができる。ここで算出された焦点位置情報に基づいて撮像レンズ101のフォーカス制御を行うことにより、撮像面位相差AFが可能となる。また、A像信号とB像信号とを合わせて(加算して)A+B像信号を生成し、A+B像信号を通常の撮影画像として用いることができる。
次に、図4および図5を参照して、撮像素子103の構成について説明する。図4は、本実施形態における撮像素子103の構成を示すブロック図である。撮像素子103には、複数の単位画素200が行列状(二次元状)に配置されている。図4においては、単位画素200を4行4列の計16個として示しているが、実際には数百万または数千万の単位画素200を備えて構成される。単位画素200には、赤(R)、緑(G)、青(B)のベイヤー配列のカラーフィルタが設けられている。図4において、単位画素200のそれぞれに記載されている文字および数字は、画素の色(R、G、B)およびアドレス(00〜33)をそれぞれ示している。例えば、G01は、0行1列目のG(緑)画素を示す。各単位画素200は、画素信号を垂直出力線401に出力する。各垂直出力線401には、電流源402が接続されている。
列回路403には、垂直出力線の画素信号が入力される。列回路403は、その画像信号に対してアナログ/デジタル変換(A/D変換)を行う。スロープ電圧発生回路404は、列回路403によるA/D変換のために用いられるスロープ電圧を生成する。列回路403によりA/D変換された信号は、水平走査回路405の駆動により、水平出力線406、407、および、デジタル出力処理回路410を介して、撮像素子103の外部に順次出力される。垂直走査回路408は、行ごとに接続される信号線409を介して制御信号PRES、PTX、PSELに基づき、行を選択および駆動する。なお図4において、信号線409は、0行目に対してのみ記載しているが、実際には各行に配線されている。
図5は、撮像素子103における単位画素200の画素回路および列回路403の説明図である。単位画素200において、PD201A(副画素)には転送スイッチ502Aが接続され、PD201B(副画素)には転送スイッチ502Bが接続される。副画素201A、201Bで発生した電荷はそれぞれ、転送スイッチ502A、502Bを介して共通のFD504(フローティングディフュージョン)に転送され、一時的に保存される。FD504に転送された電荷は、選択スイッチ506がオンされると、ソースフォロワアンプを形成するSF505(増幅MOSトランジスタ)を介して、電荷に対応した電圧として垂直出力線401に出力される。なお、選択スイッチ1006は行単位で制御され、選択された行の画素信号が一括して垂直出力線401に出力される。リセットスイッチ503は、FD504の電位、および、転送スイッチ502A、502Bを介して、PD201A、201Bの電位をそれぞれVDDにリセットする。転送スイッチ502A、502B、リセットスイッチ503、および、選択スイッチ506は、それぞれ、垂直走査回路408に接続されている信号線を介して、制御信号PTXA、PTXB、PRES、PSELにより制御される。
次に、列回路403の回路構成について説明する。アンプ510は、垂直出力線401の信号を増幅し、容量512は信号電圧を保持するために用いられる。容量512への書き込みは、制御信号PSHによりオン、オフされるスイッチ511により制御される。比較器513の一方の入力には、図4に示されるスロープ電圧発生回路404から供給された参照電圧Vslopeが入力され、他方の入力には、容量512に書き込まれたアンプ510の出力が入力される。比較器513は、アンプ510の出力と参照電圧Vslopeとを比較し、その大小関係に応じて、ローレベルまたはハイレベルの2値のいずれかを出力する。具体的には、参照電圧Vslopeがアンプ510の出力よりも小さい場合にはローレベル、大きい場合にはハイレベルを出力する。参照電圧Vslopeの遷移開始と同時にクロックCLKが動き出す。そしてカウンタ514は、比較器513の出力がハイレベルの場合にクロックCLKに対応してカウントアップする。またカウンタ514は、比較器513の出力がローレベルに反転すると同時に、カウント信号を停止する。
メモリ515には、FD504のリセットレベルの信号(以下、「N信号」という。)をA/D変換したデジタル信号が保持されている。メモリ516、517には、PD201A、PD201Bの信号をFD504のN信号に重畳した信号(以下、「S信号」という。)をA/D変換したデジタル信号が保持される。メモリ516、517に保持されるS信号(S1、S2信号)に関する詳細は、後述する。メモリ515、516、517に保持された信号は、水平走査回路405からの制御信号により、水平出力線406、407を介して、デジタル出力処理回路410へ出力される。そして、デジタル出力処理回路410にてS信号からN信号の差分が算出され、ノイズの要因となるFD504のリセットノイズ成分が除去された信号が出力される。
次に、図6および図7を参照して、撮像素子103の通常撮影モードおよび撮像面位相差AFモードのそれぞれにおける信号読み出し動作について説明する。本実施形態において、撮像素子103は、通常撮影モード(第1モードまたは第1駆動モード)と撮像面位相差AFモード(第2モードまたは第2駆動モード)とを有する。図6は、通常撮影モードにおける信号読み出し動作を示すタイミングチャートである。図7は、撮像面位相差AFモードにおける信号読み出し動作を示すタイミングチャートである。図6および図7は、それぞれ、図5に示される回路構成を有する撮像素子103の1行分の単位画素200からの電荷読み出し動作の一例を示している。なお、図6および図7では、各駆動パルス(制御信号)のタイミング、参照電圧Vslope、クロックCLK、水平走査信号(水平同期信号)を模式的に示している。また、各タイミングにおける、垂直出力線の電位Vlを併せて示している。
まず、図6を参照して、通常撮影モードにおける電荷読み出しについて説明する。PD201(分割画素)からの信号の読み出しに先立って、リセットスイッチ503の制御信号PRESがHiとなる(t600)。これにより、SF505のゲートがリセット電源電圧にリセットされる。時刻t601で制御信号PSELをHiとし、SF505を動作状態とする。そして、t602で制御信号PRESをLoとすることで、FD504のリセットを解除する。このときのFD504の電位を垂直出力線401にリセット信号レベル(N信号)として読み出し、列回路403に入力する。続いて時刻t603、t604において、制御信号PSHをHi、Loとしてスイッチ511をオン、オフすることにより、垂直出力線401に読み出されたN信号は、アンプ510で所望のゲインで増幅されて容量512に保持される。容量512に保持されたN信号の電位は、比較器513の一方に入力される。時刻t604においてスイッチ511がオフされた後、時刻t605からt607まで、スロープ電圧発生回路404により、参照電圧Vslopeを時刻とともに初期値から減少させていく。参照電圧Vslopeの遷移開始とともに、クロックCLKをカウンタ514に供給する。クロックCLKの数に応じてカウンタ514の値は増加する。そして、比較器513に入力した参照電圧VslopeがN信号と同じレベルになると、比較器513の出力COMPはローレベルとなり、同時にカウンタ514の動作も停止する(時刻t606)。カウンタ514の動作が停止した時の値が、N信号がAD変換された値となり、N信号用メモリ515に保持される。
続いて、デジタル化されたN信号をN信号メモリ515に保持した後の時刻t607、t608において、制御信号PTXA、PTXBを順次Hi、Loとして、PD201A、PD201Bに蓄積された光電荷をFD504に転送する。このとき、電荷量に応じたFD504の電位変動が垂直出力線401にS信号レベル(光成分+リセットノイズ成分(N信号))として読み出され、列回路403に入力される。S信号は、アンプ510で所望のゲインで増幅され、時刻t609、t610で制御信号PSHを順次Hi、Loとしてスイッチ511をオン、オフされるタイミングで容量512に保持される。容量512に保持された電位は、比較器513の一方に入力される。時刻t610でスイッチ511がオフされた後、時刻t611からt613まで、スロープ電圧発生回路404により、参照電圧Vslopeを時刻とともに初期値から減少させていく。参照電圧Vslopeの遷移開始とともに、クロックCLKをカウンタ514に供給する。クロックCLKの数に応じてカウンタ514の値は増加する。そして、比較器513に入力した参照電圧VslopeがS信号と同じレベルになると、比較器513の出力COMPはローレベルとなり、同時にカウンタ514の動作も停止する(時刻t612)。カウンタ514の動作が停止した時の値が、S信号がAD変換された値となり、S信号用のメモリの1つであるメモリ516に保持される。なお、ここでのS信号は、PD201AとPD201Bに蓄積された光電荷がFD504で合されて(加算されて)読み出された信号であり、以下、S(A+B)信号という。
続いて、水平走査回路405は、メモリ515、516に保持された信号を読み出す。時刻t613より、列回路403ごとに順次動作させることで、メモリ515、516に保持された信号は水平出力線406、407を通り、デジタル出力処理回路410に送られ、差動信号レベル(光成分)が算出される。
このように、制御信号PTXA、PTXBを同時にオンすることにより、PD201A、PD201Bに蓄積された電荷を同時にFD504に転送して撮像用信号を読み出すことができる。ここで、N信号が容量512に保持されてからS信号が容量512に保持されるまでの時間をS信号読み出し期間とする。通常撮影モードでは、時刻t604からt610までの期間T1がS(A+B)信号読み出し期間となる。
次に、図7を参照して、撮像面位相差AFモードにおける電荷読み出しについて説明する。撮像面位相差AFモードでは、AF用の情報と撮像用の情報の両方を取得することができる。撮像面位相差AFモードにおいて、時刻t707まで、すなわちA/D変換されたN信号がメモリ515に保持されるまでは、通常撮影モードにおける時刻t607までの駆動と同様であるため、それらの説明は省略する。
N信号読み出し期間が終了した後の時刻t707、t708において、制御信号PTXAをHi、Loとして、PD201Aに蓄積された光電荷をFD504に転送する。このとき、電荷量に応じたFD504の電位変動が垂直出力線401にS(A)信号レベル(光成分+リセットノイズ成分(N信号))として読み出され、列回路403に入力される。S(A)信号は、アンプ510で所望のゲインで増幅され、時刻t709、t710において制御信号PSHを順次Hi、Loとして、スイッチ511をオン、オフされるタイミングで容量512に保持される。容量512に保持された電位は、比較器513の一方に入力される。時刻t710においてスイッチ511がオフされると、時刻t711からt713まで、スロープ電圧発生回路404により、参照電圧Vslopeを時刻とともに初期値から減少させていく。参照電圧Vslopeの遷移開始とともに、クロックCLKをカウンタ514に供給する。クロックCLKの数に応じて、カウンタ514の値は増加する。そして、比較器513に入力した参照電圧VslopeがS(A)信号と同じレベルになると、比較器513の出力COMPはローレベルとなり、同時にカウンタ514の動作も停止する(時刻t712)。カウンタ514の動作が停止した時の値が、S(A)信号がA/D変換された値となり、メモリ516に保持される。
続いて、時刻t713、t714において、制御信号PTXA、PTXBを順次Hi、Loとして、PD201A、PD201Bに蓄積された光電荷をFD504に転送する。このとき、電荷量に応じたFD504の電位変動が垂直出力線401にS(A+B)信号レベル(光成分+リセットノイズ成分(N信号))として読み出され、列回路403に入力される。S(A+B)信号は、アンプ510で所望のゲインで増幅され、時刻t715、t716において制御信号PSHを順次Hi、Loとして、スイッチ511をオン、オフされるタイミングで容量512に保持される。容量512に保持された電位は、比較器513の一方に入力される。時刻t716においてスイッチ511がオフされた後、時刻t717からt719まで、スロープ電圧発生回路404により、参照電圧Vslopeを時刻とともに初期値から減少させていく。参照電圧Vslopeの遷移開始とともに、クロックCLKをカウンタ514に供給する。クロックCLKの数に応じて、カウンタ514の値は増加する。そして、比較器513に入力した参照電圧VslopeがS(A)信号と同じレベルになると、比較器513の出力COMPはローレベルとなり、同時にカウンタ514の動作も停止する(時刻t718)。カウンタ514の動作が停止した時の値が、S(A+B)信号がA/D変換された値となり、S信号用メモリの他の1つであるメモリ517に保持される。ここで、時刻t1204からt1216までの時間T2は、N信号が容量512に保持されてから、S(A+B)信号が容量512に保持される時間であり、S(A+B)信号読み出し期間となる。
次に、メモリ515、516、517に保持された信号を水平走査回路205により読み出す工程について説明する。S(A)信号が読み出された後の時刻t713より、列回路403ごとに順次動作させることで、メモリ515、516に保持された信号は水平出力線406、407を通り、デジタル出力処理回路410に送られ、差動信号レベル(A像の光成分)が算出される。また、S(A+B)信号が読み出された後の時刻t719より、列回路403ごとに順次動作させる。これにより、メモリ515、517に保持された信号は、水平出力線406、407を通ってデジタル出力処理回路410に送られ、差動信号レベル(撮像画像の光成分)が算出される。
このように、最初に制御信号PTXAのみオンしてA像信号を読み出し、その後、制御信号PTXAとPTXBを同時にオンして撮像用信号(A+B像信号)を読み出すことにより、AF用の情報と撮像用の情報の両方を取得することができる。なお、AF用のB像信号はA+B像信号からA像信号を減算することにより算出することができる。この処理は、信号処理回路104、または、制御装置106により実行される。
なお、図6に示されるように、垂直出力線Vlの電位は、画素によってFD容量やスイッチなどによるリーク電流の影響を受けて、時刻とともに低下する。通常、S信号からN信号の差分を算出することで、ノイズの要因となるFD504のリセットノイズ成分の除去を行うが、N信号を読み出した時刻からS信号を読み出すまでの期間が長いほど、リーク電流の影響により電位のずれ生じてしまう。その結果、実際のS信号−N信号によるノイズ除去を高精度に実行することが困難になり、図6の例で言えば、光信号レベルより出力値が高くなって読み出され(垂直出力線Vlの破線)、ノイズとなって画像に影響が生じる。なお、リーク電流の量は画素によって異なり、またリークの場所によっては電位が上昇する場合もあるため、各画素個別に補正することが好ましい。
以上、図6および図7を参照して、撮像素子103の駆動方法について、2つのモードを説明した。撮像装置100は、シーンや用途に応じて通常撮影モードと撮像面位相差AFモードを使い分けることができる。ところで、撮像面位相差AFモードでは、撮像面位相差AF用の情報と撮像用の情報の両方を取得可能であるが、通常撮影モードに比べて1枚の画像取得に必要な読み出し時間が長くなり、フレームレートが低下する。そこで、1フレームにおいて、撮像面位相差AFモードで読み出す行と通常撮影モードで読み出す行を混在させることにより、フレームレートを低下することなく(または、フレームレートの低下を抑制しつつ)AF用情報を得ることが可能である。以下、このモードを行選択的撮像面位相差AFモードという。
図8は、撮像素子103の画素領域における、行選択的撮像面位相差AFモードでの信号読み出しの説明図である。図8は、画素領域の各行における読み出しモードを示している。ここでは、最も上の4行の画素(第1画素領域)に関しては第1モード(通常撮影モード)で読み出し、続く2行の画素(第2画素領域)に関しては第2モード(撮像面位相差AFモード)で読み出すように駆動する。このように、行単位で所定の割合で通常撮影モードと撮像面位相差AFモードとによる読み出しを交互に行う。第1モードおよび第2モードはそれぞれ、図6および図7のタイミングチャートに従うことにより実施可能である。
このとき、N信号(リセット信号)を読み出した時刻から撮像用信号(A+B像信号)が読み出されるまでの時間は、通常撮影モード(期間T1)と撮像面位相差AFモード(期間T2)とで異なる。期間T2は、A像信号の読み出しを行っている分だけ、期間T1よりも長い。このように行選択的撮像面位相差AFモードの場合、1フレーム内で、行によってS信号読み出し期間の長さが異なる。すなわち行選択的撮像面位相差AFモードでは、リーク電流の影響により、行によってノイズ差が生じる。このノイズ差が大きい場合、横縞ノイズとなって画質劣化の要因となる。そこで本実施形態では、リーク電流の量が大きく、精度良くS信号―N信号によるノイズ除去を行うことのできないキズ画素を判別し、判別したキズ画素の信号を補正する。特に、行選択的撮像面位相差AFモードにおいて、適切に補正する方法について説明する。
撮像素子103からは、例えばその出荷の際に、所定の駆動、所定の電荷蓄積時間、および、所定の環境温度にて得られた画像データに基づいて、各種のキズ画素(欠陥画素)が抽出される。主な欠陥としては、温度や蓄積時間に依存する暗電流に起因する欠陥があるが、それ以外に、リーク電流に起因する欠陥もある。これらのキズ画素の抽出を通常撮影モードで行い、図9に示されるように、アドレス、キズレベル、キズの種類からなるキズ画素データ(欠陥画素に関する情報)を作成し、撮像装置100内のメモリ(例えば、メモリ回路107)に格納する。図9は、撮像装置100のメモリに格納されたキズ画素データ(キズ補正用データ)の一例である。なお、キズ画素抽出処理は、撮像装置100の外部装置が行ってもよく、または、撮影の際に、撮像装置100が撮影した画像データに基づいて行ってもよい。すなわち、撮像素子103が単体の状態で行ってもよく、または、撮像素子103が撮像装置100に組み込まれた状態で行ってもよい。各種のキズのうち、白キズに関しては、電荷蓄積時間、温度、設定されたISO感度に応じて変わるため、撮影条件に応じて補正レベルを変更することが好ましい。これは、公知のキズ画素補正方法により実施可能である。一方、リークキズは、前述のようにリーク電流に起因したキズである。
次に、図10を参照して、補正対象となるリークキズを有するリークキズ画素を決定する処理について説明する。図10は、補正対象画素(リークキズ画素)を決定する処理を示すフローチャートである。図10の各ステップは、制御装置106(取得回路106aおよび画像処理回路106b)により実行され、その結果に応じて制御装置106(画像処理回路106b)は補正対象のリークキズ画素を補正する。
まず、ステップS1001において、制御装置106は、撮影の際に設定された駆動モード情報を取得する。すなわち、行選択的撮像面位相差AFモードにおいて、各行における読み出し方法が第1モード(通常撮影モード)であるか、第2モード(撮像面位相差AFモード)であるかの情報を取得する。そしてステップS1002において、制御装置106は、撮影の際の感度を取得する。続いてステップS1003において、制御装置106は、図9に示されるキズ画素データに基づいて、キズの種類が「リーク」であるリークキズ画素のデータを1つ抽出する。図9のキズ画素データの例では、No.3、4、5がリークキズを有する画素である。
続いてステップS1004において、制御装置106は、抽出したキズ画素のアドレスが第1モードで読み出されたか、または、第2モードで読み出されたかを判定する。抽出したキズ画素が第1モードで読み出された場合、ステップS1006に進む。そしてステップS1006において、制御装置106は、図11に示されるテーブルに従って、ステップS1003にて抽出したキズレベルが、ステップS1002にて取得した感度における補正レベル以上(所定の閾値以上)であるか否かを判定する。図11は、撮像装置100のメモリに格納されたキズ補正用データ(感度に応じた補正レベルの閾値データ)の一例である。
抽出したキズレベルが図11に示される補正レベル以上である場合、ステップS1007に進む。そしてステップS1007において、制御装置106は、抽出したリークキズ画素は補正対象であると決定し、この情報を信号処理回路104に送信し、ステップS1008に進む。一方、抽出したキズレベルが補正レベル未満(所定の閾値未満)である場合、ステップS1007をスキップし、直接ステップS1008に進む。
ステップS1008において、制御装置106は、全てのリークキズ画素のデータに対して決定処理(データ処理)を行ったか否かを判定する。決定処理を行っていないリークキズ画素がある場合、ステップS1003に戻り、制御装置106は、次のリークキズ画素のデータを1つ抽出する。そしてステップS1004〜S1008を繰り返す。一方、全てのリークキズ画素のデータに対して決定処理が終了した場合、処理を終了する。例えば、ISO400での撮影の場合、キズレベルの絶対値が32mV以上のキズ画素を補正する。すなわち、図9に示されるキズ画素データにおいては、No.3とNo.4のリークキズ画素が補正対象となり、No.5のリークキズ画素は補正対象とならない。
ステップS1004にて抽出したキズ画素のアドレスが第2モードで読み出されていた場合、ステップS1005に進む。ステップS1005において、制御装置106は、ステップS1003にて抽出したキズレベルをS信号読み出し期間に応じて調整する。ここで、第1モードでのS信号読み出し期間をT1、第2モードでのS信号読み出し期間をT2(T1<T2)、第1モードで抽出されたリークキズのキズレベルをL1とする。この場合、第2モードで抽出されたリークキズのキズレベルL2は、以下の式(1)のように表される。
L2=(T2/T1)×L1×α …(1)
式(1)において、αは(T2/T1)×α>1を満たす任意の係数である。
このように、式(1)により算出されたキズレベルL2が、第2モードでのリークキズのキズレベルとなる。キズレベルL2の算出後、ステップS1006において、図11のテーブルに従って、算出されたキズレベルL2が、ステップS1002にて取得した感度における補正レベル以上であるか否かを判定する。以降、制御装置106は、前述のステップS1007、S1008の処理を行う。
このように制御装置106は、S信号読み出し期間の長さに応じてキズレベルを換算して、リークキズ補正を行うか否かを決定する。これにより、過不足なくリークキズ画素の補正を行うことができる。また、それぞれの駆動モード(第1モードまたは第2モード)に対応したキズ画素情報をメモリに格納する必要がないため、キズ画素の抽出時間の短縮および撮像装置100のメモリ削減を達成することができる。なお、制御装置106におけるキズ画素の補正は、公知の補間方法を用いて実施可能である。
以上のように、1フレーム内で行に応じてS信号読み出し期間が互いに異なる駆動となる行選択的撮像面位相差AFモードにおいて、S信号読み出し期間の長さに応じて、キズ補正やノイズ低減処理のレベルを変更する。これにより、高精度に適切なノイズ低減処理を実施することが可能となる。なお本実施形態において、S信号読み出し期間が互いに異なる駆動モードは一例に過ぎず、これに限定されるものではない。
<変形例>
次に、本実施形態における変形例について説明する。画像のキズおよびノイズ補正として、撮影画像からキズ画素を検出して補正を行うリアルタイムキズ補正方法がある。リアルタイムキズ補正も公知の技術であり、様々な手法が開示されているが、基本的には得られた画素の出力が周辺画素の信号に対して予め設定した閾値以上のレベル差がある場合、その画素は欠陥画素であると判定してキズ補正を実施する。
図12は、S信号読み出し期間T1、T2における画像(ダーク画像)のヒストグラムを示す図であり、横軸は画素信号の出力、縦軸は累積頻度をそれぞれ示している。S信号読み出し期間T2に対応する第2モードは、S信号読み出し期間T1に対応する第1モードに比べて、ヒストグラムの分布が横に広がっており、画像としてノイズの多い状態となっている。これは、前述のとおり、S信号−N信号処理の誤差がS信号読み出し期間T2のほうがS信号読み出し期間T1よりも大きいためである。
そこで本変形例では、このノイズの差を考慮して、キズ判定閾値(レベル)を、読み出しモード、すなわちS信号読み出し期間の長さに応じて変えて、リアルタイムキズ検出および補正を行う。例えば、S信号読み出し期間T2に対応する第2モードでのキズ判定に用いる閾値を、S信号読み出し期間T1に対応する第1モードでのキズ判定に用いる閾値よりも低く設定する。これにより、補正後のノイズ量を同等にする(すなわち、補正後のノイズ量の差を小さくする)ことができる。
また、リアルタイムキズ補正だけでなく、その他のノイズ低減処理に関しても、処理の強さをS信号読み出し期間の長さに応じて変えることが好ましい。また本実施形態は、FHDなどの動画モードにおいて、画像の画素数を低画素化して読み出すモードに対しても好適である。低画素化方法には、3画素のうち1画素を読み出す間引き方法、3画素のうち2画素を合わせる合算方法、または、3画素のうち3画素を合わせる合算方法がある。この際、ノイズ低減処理のレベルは、同じ合算数の処理を行った場合において、S信号読み出し期間の長さに応じて変えることが好ましい。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。撮像装置100の全体構成および撮像素子103の構成は、第1の実施形態と同様である。本実施形態において、撮像面位相差AFモードにおける画素信号の読み出し方法が第1の実施形態とは異なる。
図13を参照して、本実施形態における撮像面位相差AFモード(第2モードまたは第3駆動モード)での電荷読み出し動作について説明する。第3駆動モード(第2モード)では、分割画素からそれぞれA像信号およびB像信号を個々に読み出し、焦点検出用の画素信号として出力する。図13は、撮像面位相差AFモード(第2モード)での信号読み出し動作を示すタイミングチャートである。なお、時刻t1313まで、すなわちA/D変換されたS(A)信号がメモリ515に保持されるまでは、図7に示される第1の実施形態の撮像面位相差AFモード(第2駆動モード)における時刻t713までの駆動と同様であるため、これらの説明は省略する。
時刻t1313までは、A像信号の読み出し動作であり、時刻t1313から同様の駆動でB像信号の読み出しを行う。時刻t1313でリセットスイッチ503の制御信号PRESがHiとなり、SF505のゲートがリセット電源電圧にリセットされる。そして、時刻t1314で制御信号PRESをLoとすることにより、FD504のリセットを解除する。このときのFD504の電位を垂直出力線401にリセット信号レベル(N信号)として読み出し、列回路403に入力する。時刻t1315、t1316で制御信号PSHをHi、Loとして、スイッチ511をオン、オフする。これにより、垂直出力線401に読み出されたN信号は、アンプ510で所望のゲインで増幅され、容量512に保持される。容量512に保持されたN信号の電位は、比較器513の一方に入力される。
時刻t1316でスイッチ511がオフされた後、時刻t1317からt1319まで、スロープ電圧発生回路404により、参照電圧Vslopeを時刻とともに初期値から減少させていく。参照電圧Vslopeの遷移開始とともに、クロックCLKをカウンタ514に供給する。クロックCLKの数に応じて、カウンタ514の値は増加する。そして、比較器513に入力した参照電圧VslopeがN信号と同じレベルになると、比較器513の出力COMPはローレベルとなり、同時にカウンタ514の動作も停止する(時刻t1318)。カウンタ514の動作が停止した時の値が、N信号がAD変換された値となり、N信号用メモリ515に保持される。
続いて、デジタル化されたN信号をN信号メモリ515に保持した後の時刻t1319、t1320において、制御信号PTXBを順次Hi、Loとして、PD201Bに蓄積された光電荷をFD504に転送する。このとき、電荷量に応じたFD504の電位変動が垂直出力線401にS信号レベル(光成分+リセットノイズ成分(N信号))として読み出され、列回路403に入力される。S信号は、アンプ510で所望のゲインで増幅され、時刻t1321、t1322において、制御信号PSHを順次Hi、Loとして、スイッチ511をオン、オフされるタイミングで容量512に保持される。容量512に保持された電位は、比較器513の一方に入力される。時刻t1322でスイッチ511がオフされた後、時刻t1323からt1325まで、スロープ電圧発生回路404により、参照電圧Vslopeを時刻とともに初期値から減少させていく。参照電圧Vslopeの遷移開始とともに、クロックCLKをカウンタ514に供給する。クロックCLKの数に応じて、カウンタ514の値は増加する。そして、比較器513に入力した参照電圧VslopeがS信号と同じレベルになると、比較器513の出力COMPはローレベルとなり、同時にカウンタ514の動作も停止する(時刻t1324)。カウンタ514の動作が停止した時の値が、S信号がAD変換された値となり、S信号用のメモリの1つであるメモリ516に保持される。S信号はPD201Bに蓄積された光電荷がFD504で合されて(加算されて)読み出された信号であり、以下、S(B)信号という。なお、メモリ515、516に保持された信号を水平走査回路205により読み出す工程は、第1の実施形態にて説明した動作であるため、その説明は省略する。
以上、最初に制御信号PTXAのみオンしてA像信号を読み出し、その後、制御信号PTXBオンしてB像信号を読み出すことにより、AF用の情報を取得することができる。また、このように読み出されたA像信号およびB像信号は、制御装置106の画像処理回路106b(合成処理回路)にて合成処理することにより、1画素分の画素信号として撮影画像用として利用することができる。
第2モード(第3駆動モード)と第1モード(第1駆動モード)とを切り替えることにより、図8に示されるような行選択的撮像面位相差AFモードを実現することもできる。ただし、第2モード(第3駆動モード)において、A像信号とB像信号とを個別に読み出した後、A+B像信号を合成する場合、第1モードにより得られたA+B像信号に比べてノイズが増加することが知られている。その結果、行によってノイズ差が生じ、ノイズ差が大きい場合には横縞ノイズとなって画質劣化の要因となる。そこで、図14を参照して、本実施形態におけるノイズ低減処理について説明する。
図14は、行選択的撮像面位相差AFモードにおけるノイズ低減処理を示すフローチャートである。図14の各ステップは、撮像画像を作成するために、撮像装置100における制御装置106内の画像処理回路106b(ノイズ低減処理回路)により実行される。
まずステップS1401において、制御装置106は、行選択的撮像面位相差AFモード、すなわち撮像素子103の各行に対して撮像面位相差AFモード(第2モードまたは第3駆動モード)と、通常撮影モード(第1モード)とが混在する駆動が行う。これにより、撮像素子103から第1モードで読み出された画素信号と第2モードで読み出された画像信号とが読み出され、制御装置106に入力される。制御装置106(画像処理回路106b)は、第1モードで読み出された行のA+B像信号に関してはそのまま撮影画像信号とする。また制御装置106は、第2モードで読み出された行のA像信号およびB像信号に関しては、A像信号とB像信号とを合成した後、撮影画像信号として一時的に記憶する。
続いてステップS1402において、制御装置106は、画像信号が撮像面位相差AFモードで読み出された画像信号であるか否かを判定する。撮像面位相差AFモードで読み出された画像信号でない場合、すなわち通常撮影モードで読み出された画像信号である場合、ステップS1405に進み、撮影画像を記録する。一方、撮像面位相差AFモードで読み出された画像信号である場合、ステップS1403に進む。このように制御装置106は、一時的に記憶されている画像信号(撮影画像信号)を読み出すとともに、撮像面位相差AFモードにて読み出されて信号生成されたA+B像の画像信号については、以降のステップでノイズ低減処理の判定およびその処理が開始される。
なお、ノイズ低減処理については、撮像面位相差AFモードの駆動により得られた画素信号を対象とし、通常撮影モードの駆動により得られた画素信号を対象としない。これは、撮像面位相差AFモードの画素信号は、合成により撮像画像用の画素信号と同じ1画素の信号となるが、合成により撮像素子に発生したノイズも足し合されて増加してしまうからである。
ステップS1403において、制御装置106は、撮像面位相差AFモードで読み出された画素信号から生成されたA+B像の画像信号の出力値が所定値以下であるか否かを判定する。画像信号の出力値が所定値以下である場合、ステップS1404に進み、制御装置106(画像処理回路106b)はノイズ低減処理を行う。ノイズの影響による画像の劣化は、光信号が少ない低光量側で目立つ。このため制御装置106は、ノイズが画像に支配的となる目立つ条件下において、ノイズ低減処理を行う。例えば、撮像装置100における露光量の適正レベルとなる出力値に対して、1/4以下となるレベルの出力値においてノイズ低減処理が行われる。
続いてステップS1404において、制御装置106は、ノイズ低減処理を行う。例えば、制御装置106は、ノイズ低減処理対象の画像信号に対し、上下方向にて同色隣接画素および通常の撮影画像用の駆動が行われる画素の出力値を用いて、メディアンフィルタ処理によるノイズ低減処理を行う。メディアンフィルタ処理によるノイズ低減処理は、駆動の選択が行単位にて行われることから、同様に行単位にて行われる。これにより、行単位でのライン上として目立つノイズの低減化が実現可能である。通常の撮影画素用の駆動による画素出力を含めたメディアンフィルタ処理とする理由は、ノイズが増えていない画素出力を含めることで、よりノイズの影響を排他したノイズ低減処理となるからである。
以上のように、1フレーム内で行によって互いに異なる駆動となる行選択的撮像面位相差AFモード駆動において、撮像面位相差AFモードが分割画素を別々に読み出してから、信号を合成して撮像画像用に用いる場合、適切なノイズ低減処理の実施が可能となる。なお、本実施形態で説明したノイズ低減処理方法は一例であり、本発明はこれに限定されるものではない。また、第1モードで得られた撮像画像信号に対してノイズ低減処理を実施してもよい。この場合、第2モード(第3駆動モード)で得られた信号から合成された撮像画像信号に対するノイズ低減処理を第1モードに比べて強めることができる。
<変形例1>
次に、図15乃至図17を参照して、本実施形態の変形例1について説明する。図15は、本変形例における撮像素子103の単位画素200の画素回路図である。
単位画素200において、PD201A(副画素)には転送スイッチ1502A−1、1502A−2が接続され、PD201B(副画素)には転送スイッチ1502B−1、1502B−2が接続される。転送スイッチ1502A−1、1502B−1には、FD1504−1が接続されている。一方、転送スイッチ1502A−2、1502B−2には、FD1504−2が接続されている。PD201Aで蓄積された電荷は、転送スイッチ1502A−1を介してFD1504−1に転送することができ、また、転送スイッチ1502A−2を介してFD1504−2に転送することもできる。同様に、PD201Bで蓄積された電荷は、転送スイッチ1502B−1を介してFD1504−1に転送することができ、転送スイッチ1502B−2を介してFD1504−2に転送することもできる。
FD1504−1、1504−2はそれぞれ、リセットスイッチ1503−1、1503−2とSF1505−1、1505−2と接続されている。更に、SF1505−1、1505−2は、選択スイッチ1506−1、1506−2とそれぞれ接続されている。FD1504−1、1504−2に転送された電荷は、一時的に保持されるとともに電圧に変換され、SF1505−1、1505−2から出力される。なお、リセットスイッチ1503−1、1503−2およびSF1505−1、1505−2のドレインは基準電位VDDを共有している。リセットスイッチ1503−1は、FD1504−1の電位、および、転送スイッチ1502A−1、1502B−1を介してPD201A、201Bの電位をVDDにリセットする。リセットスイッチ1503−2は、FD1504−2の電位、および、転送スイッチ1502A−2、1502B−2を介してPD201A、201Bの電位をVDDにリセットする。
選択スイッチ1506−1、1506−2は、SF1505−1、1505−2から出力された画素信号を垂直出力線1507−1、1507−2にそれぞれ出力する。なお本変形例では、単位画素を2つに分割して分割画素としているため、垂直出力線を2本としているが、単位画素を4つ以上に分割する場合には、それに応じて複数本の垂直出力線を配置してもよい。転送スイッチ、リセットスイッチ、および、選択スイッチはそれぞれ、垂直走査回路408に接続される不図示の信号線を介して、制御信号PTX、PRES、PSELにより制御される。
図15に示される回路構成を有する撮像素子においても、通常撮影モードおよび撮像面位相差AFモードで信号を読み出すことができる。通常撮影モードによる信号読み出しは、図6に示されるタイミングチャートに従って、いずれか一方の転送スイッチ、リセットスイッチ、および、選択スイッチを駆動することにより実現可能であるため、その説明は省略する。なお、ある行を垂直出力線1507−1から信号を読み出し、他の行を同時に垂直出力線1507−2から信号を読み出すことも可能である。この場合、2行分の画素信号を同時に読み出すことができるため、高速読み出しが可能となり、通常撮影において効率的な読み出しができる。
次に、図16を参照して、本実施形態における撮像面位相差AFモード(第2モードまたは第4駆動モード)での電荷読み出し動作について説明する。図16は、撮像面位相差AFモード(第4駆動モード)での信号読み出し動作を示すタイミングチャートである。ここでは、通常撮影モード(第1モード)と異なる動作のみについて説明する。
時刻t1607、t1608において、制御信号PTXA1、PTXB2をHi、Loとして、PD201A、PD201Bに蓄積された光電荷をそれぞれFD1504−1、1504−2に転送する。このとき、電荷量に応じたFD1504−1、1504−2の電位変動が垂直出力線1507−1、1507−2にS信号レベル(光成分+リセットノイズ成分(N信号))として読み出され、それぞれ列回路403に入力される。
以上のように駆動することにより、垂直出力線1507−1からA像信号、垂直出力線1507−2からB像信号をそれぞれ読み出すことができる。そして、図6および図15のタイミングチャートに示されるように、1回の水平読み出しにかかる時間、すなわち垂直転送時間HBLKと水平転送時間HSRとの和は、通常撮影モードと撮像面位相差AFモードとで互いに等しくすることができる。
図17は、行選択的撮像面位相差AFモードでの信号読み出しの説明図である。図8における6行目から8行目に相当する、撮像面位相差AFモード(第2モードまたは第4駆動モード)で読み出す1行と通常撮影モード(第1モード)で読み出す2行の例に相当する。図17では、隣接行の画素(列方向に隣接する画素)とFDを共有する構成としている。
図17における1行目における撮像面位相差AFモード(第2モードまたは第4駆動モード)での読み出し動作例について説明する。単位画素のPD_A(1701A−1)に蓄積された電荷は転送スイッチTX_A2をONすることにより、FD1704−2を介して垂直出力線1707−1に出力される。一方、PD_B(1701B−1)に蓄積された電荷は、転送スイッチTX_B1をONすることにより、FD1704−1を介して垂直出力線1707−2に出力される。なお、別々の垂直出力線を介して読み出されたPD_AとPD_Bの出力は、後段の制御装置106などにより合されて(加算されて)撮像画像として使用可能である。
次に、図17の2、3行目における通常撮影モード(第1モード)での読み出し動作例について説明する。単位画素のPD_A(1701A−2)、PD_B(1701B−2)に蓄積された電荷は転送スイッチTX_A2、TX_B2をONすることによりFD1704−3を介して垂直出力線1707−2に出力される。そして同時に、単位画素のPD_A(1701A−3)、PD_B(1701B−3)に蓄積された電荷は転送スイッチTX_A2、TX_B2をONすることにより、FD1704−4を介して垂直出力線1707−1に出力される。
このように、1フレーム内で行によって通常撮影モードと撮像面位相差AFモードを混在させた読み出し方が実現可能である。なお、通常撮影モードと撮像面位相差AFモードにおける1回の水平読み出しに要する時間は、前述したように等しくなる。すなわち、通常撮影モードと撮像面位相差AFモードが混在する行選択的位相差AFモードにおいても、行によって蓄積時間、すなわち露光量が異なることなくスリットローリング動作を実現することができる。
そして、撮像面位相差AFモードで読み出したA像信号とB像信号は、合わせて(加算して)1画素分の画素信号として撮像画像に用いることができるが、第2の実施形態で述べたように、ここでも通常撮影モードで読み出された信号に比べてノイズ増加が発生する。このため、本変形例においても実施形態2で説明したように図14のフローチャートに従ってノイズ低減処理を行うことで適切な撮像画像を取得することができる。
<変形例2>
次に、図18乃至図21を参照して、本実施形態の変形例2について説明する。図18は、本変形例における撮像素子103の単位画素200の画素回路図である。
単位画素200において、PD201A(副画素)には転送スイッチ1802Aが接続され、PD201Bには転送スイッチ1802Bが接続される。転送スイッチ1802Aには、FD1804Aが接続されている。一方、転送スイッチ1802Bには、FD1804Bが接続されている。PD201Aで蓄積された電荷は、転送スイッチ1802Aを介してFD1804Aに転送され、PD201Bで蓄積された電荷は、転送スイッチ1802Bを介してFD1804Bに転送される。FD1804Aは、リセットスイッチ1803AとSF1805Aと接続されている。そして、SF1805Aは、選択スイッチ1806A−1、1806A−2と接続されており、選択スイッチ1806A−1、1806A−2の制御により、PD201Aで蓄積された電荷を垂直出力線1807−1または垂直出力線1807−2に出力する。同様に、FD1804Bは、リセットスイッチ1803BとSF1805Bと接続されている。そして、SF1805Bは、選択スイッチ1806B−1、1806B−2と接続されている。PD201Bで蓄積された電荷は、選択スイッチ1806B−1、1806B−2の制御により、垂直出力線1807−1または垂直出力線1807−2に出力する。また、加算スイッチ1808をオンすることにより、FD1804A、FD1804Bの電荷を合わせる(加算する)こともできる。転送スイッチ、リセットスイッチ、選択スイッチはそれぞれ、垂直走査回路408に接続されている不図示の信号線を介して、制御信号PTX、PRES、PSELにより制御される。
図18に示される回路構成を有する撮像素子においても、通常撮影モードおよび撮像面位相差AFモードで信号を読み出すことができる。ここで図19および図20を参照して、読み出し動作の一例を説明する。
図19は、通常撮影モードでの読み出し動作を示すタイミングチャートである。通常撮影モードにおいては、PD201Aからの信号とPD201Bからの信号とを同一の垂直出力線1807−1に出力し、各垂直出力線上で出力を平均化する。ここで、他の一方の垂直出力線1807−2が余剰になるため、別の読み出し行からPD201A、PD201Bの信号を出力するように制御する。このように読み出すことで、2行分の画素信号を同時に読むことができるため、高速読み出しが可能となり、通常撮影において効率的な読み出しが実現できる。
ここでは、図6で示したタイミングチャートに対して、異なる部分のみ説明する。時刻t1901において、制御信号PSELA1、PSELB1をHiとし、SF1805A、1805Bを動作状態とする。以下、図6を参照して説明したとおりであるが、制御信号PRESを駆動することでリセットスイッチ1803A、1803Bがともに制御される。同様に、制御信号PTXを駆動することにより、転送スイッチ1802A、1802Bがともに制御される。図19のタイミングチャートでは、制御信号PSELA1、PSELB1をHiとすることにより、選択スイッチ1806A−1、1806B−1がオンとなり、PD201A、PD201Bに蓄積された電荷は、垂直出力線1807−1で平均化されて出力する。なお、他の行では、制御信号PSELA2、PSELB1をHiとすることで、2行同時読み出しが可能となる。また、図19のタイミングチャートには記載されていないが、読み出し駆動中に加算スイッチ1808をオンすることにより、FD上で電荷を合わせて(加算して)垂直出力線より出力することも可能である。
図20は、撮像面位相差AFモード(第2モードまたは第5駆動モード)における読み出し動作を示すタイミングチャートである。ここでは、通常撮影モードと異なる動作のみ説明する。
時刻t2001において、制御信号PSELA1、PSELB2をHiとし、SF1805A、1805Bを動作状態とする。以下、図6を参照して説明したとおりであるが、制御信号PRESを駆動することにより、リセットスイッチ1803A、1803Bがともに制御される。制御信号PSELA1、PSELB2をHiとすることにより、選択スイッチ1806A−1、1806B−2がオンとなる。その結果、PD201Aに蓄積された電荷は垂直出力線1807−1より出力され、PD201Bに蓄積された電荷は垂直出力線1807−2より出力される。
以上のように駆動することにより、垂直出力線1807−1からA像信号、垂直出力線1807−2からB像信号をそれぞれ読み出すことができる。そして、図19および図20のタイミングチャートに示されるように、1回の水平読み出しに要する時間、すなわち垂直転送時間HBLKと水平転送時間HSRとの和は、通常撮影モードと撮像面位相差AFモードとで互いに等しくすることができる。
図21は、行選択的撮像面位相差AFモードにおける信号読み出し動作の説明図である。図8における6行目から8行目に相当する、撮像面位相差AFモード(第2モードまたは第5駆動モード)で読み出す1行と通常撮影モードで読み出す2行の例に相当する。
図21の1行目における撮像面位相差AFモード(第2モードまたは第5駆動モード)での読み出し動作例について説明する。単位画素のPD_A(2101A−1)に蓄積された電荷は、転送スイッチTX_AをONすることによりFD2104Aに転送され、選択スイッチ2106A−1をONすることにより垂直出力線2107−1に出力される。一方、PD_B(2101B−1)に蓄積された電荷は、転送スイッチTX_BをONすることによりFD2104Bに転送され、選択スイッチ2106B−2をONすることにより垂直出力線2107−2に出力される。なお、別々の垂直出力線を介して読み出されたPD_AとPD_Bの出力は、後段の制御装置106などにより合算または平均化して撮像画像として使用可能である。
続いて、図21の2、3行目における通常撮影モードでの読み出し動作について説明する。単位画素のPD_A(2101A)、PD_B(2101B)に蓄積された電荷は、選択スイッチの制御により、2行目は垂直出力線2107−1に、3行目は垂直出力線2017−2より出力される。このように、1フレーム内で、行によって通常撮影モードと撮像面位相差AFモードを混在させた読み出し方が実現可能である。なお、通常撮影モードと撮像面位相差AFモードにおける1回の水平読み出しに要する時間は、前述したように互いに等しくなる。すなわち、通常撮影モードと撮像面位相差AFモードとが混在する行選択的位相差AFモードにおいても、行によって蓄積時間、すなわち露光量が異なることなくスリットローリング動作を実現することができる。
そして、撮像面位相差AFモードで読み出したA像信号およびB像信号は、合算または平均化することで1画素分の画素信号として撮像画像に用いることができる。合算処理するか、平均化処理するかは、通常撮影モードでのA+B像信号読み出し方法に応じて決定される。通常撮影モードにおいて、垂直出力線上で平均化してA+B像信号を得た場合、A像信号とB像信号とを平均化処理して撮像画像に用いる。この場合、通常撮影モードにより得られたA+B像信号と撮像面位相差AFモードにより得られたA+B像信号のノイズは略同一である。一方、通常撮影モードにおいて、FD上で合算してA+B像信号を得た場合、A像信号とB像信号を合算処理して撮像画像に用いる。なお、PD201AとPD201Bの電荷量の差が大きい場合、垂直出力線上で平均化すると理論上の平均電位に対してずれが生じることが知られている。そこで、電荷量の多い低ISO設定では垂直出力線上での平均化を行い、電荷量の少ない高ISO設定ではFD上で合算するように駆動の切り替えを行ってもよい。
通常撮影モードにおいてFD上でA+B像信号を得た場合、撮像面位相差AFモードにより得られたA+B像信号のノイズは通常撮影モードのA+B像信号のノイズよりも増加する。このため本変形例においても、前述したように、図14のフローチャートに従ってノイズ低減処理を行うことで適切な撮像画像を取得することができる。
このように各実施形態において、制御装置106は、取得手段(取得回路106a)および画像処理手段(画像処理回路106b)を有する。取得手段は、撮像素子103の第1画素領域から第1モードで読み出された第1撮像用信号と、撮像素子103の第2画素領域から第2モードで読み出された第2撮像用信号とを取得する。なお、第1撮像用画像と第2撮像用画像とを合わせて1枚(各フレーム)の撮影画像が生成される。画像処理手段は、第1撮像用信号および第2撮像用信号に関して互いに異なる基準を用いて、第1撮像用信号および第2撮像用信号に対してノイズ低減処理を行う。第1画素領域および第2画素領域はそれぞれ、所定の割合で行ごとに決定されている(図8)。取得手段は、各フレームにおいて、第1画素領域から第1撮像用信号を取得し、第2画素領域から第2撮像用信号と所定の信号とを取得する。第1モードは、撮像素子の一つのマイクロレンズに対応する複数の光電変換部のそれぞれの画素信号を合わせて第1撮像用信号(A+B像信号)を読み出すモード(通常撮影モード、第1駆動モード)である。第2モードは、複数の光電変換部のうち少なくとも一つの光電変換部の画素信号(A像信号およびB像信号の少なくとも一つ)を所定の信号として独立して読み出すモード(撮像面位相差AFモード、第2〜第5駆動モード)である。
好ましくは、所定の信号は、焦点検出用信号である。また好ましくは、画像処理手段は、第1撮像用信号および第2撮像用信号に関して互いに異なる基準を用いて、第1撮像用信号および第2撮像用信号に対してノイズ低減処理を行うか否かを判定する(図10:S1004〜S1007)。より好ましくは、画像処理手段は、前記基準として第1基準を用いて、第1撮像用信号に対してノイズ低減処理を行うか否かを判定する。また画像処理手段は、前記基準として、第1基準よりも低い第2基準を用いて、第2撮像用信号に対してノイズ低減処理を行うか否かを判定する(S1004〜S1007)。また好ましくは、画像処理手段は、撮影ごとに、前記基準に応じて第1撮像用信号および第2撮像用信号のそれぞれに関する欠陥画素を検出し、欠陥画素を補正することによりノイズ低減処理を行う。また好ましくは、制御装置は、第1撮像用信号および第2撮像用信号のそれぞれに関する欠陥画素に関する情報を記憶する記憶手段(制御装置106の内部メモリ、または、メモリ回路107)を有する。そして画像処理手段は、欠陥画素に関する情報と、前記基準とを比較して、欠陥画素を補正することによりノイズ低減処理を行う。より好ましくは、取得手段は、撮像素子の感度を取得する。そして画像処理手段は、感度に応じた補正レベルに基づいて欠陥画素を補正することにより、ノイズ低減処理を行う(図10:S1002、S1006、図11)。
好ましくは、第1撮像用信号を撮像素子のメモリに保持するために要する第1期間(T1)と、第2撮像用信号をメモリに保持するために要する第2期間(T2)とは、互いに異なる。そして画像処理手段は、第1期間と第2期間との関係に応じて、第1撮像用信号および第2撮像用信号に関して互いに異なる基準を設定する(式(1):L1、L2)。より好ましくは、第2撮像用信号に関する第2期間は、第1撮像用信号に関する第1期間よりも長い(図6、図7)。
好ましくは、取得手段は、第2画素領域から第2モードで読み出された一対の焦点検出用信号を合わせて第2撮像用信号を取得する。そして画像処理手段は、第2撮像用信号が所定値よりも小さい場合、第2撮像用信号に対してノイズ低減処理を行う。一方、第2撮像用信号が所定値よりも大きい場合、第2撮像用信号に対してノイズ低減処理を行わない(図14:S1403、S1404)。より好ましくは、画像処理手段は、第2撮像用信号が所定値よりも小さい場合、第1撮像用信号を用いたフィルタ処理により、ノイズ低減処理を行う。より好ましくは、画像処理手段は、メディアンフィルタ処理によりフィルタ処理を行う。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
各実施形態によれば、撮影画像の取得および焦点検出を高速化しつつ、撮影画像の劣化を低減可能な制御装置、撮像装置、制御方法、プログラム、および、記憶媒体を提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
106 制御装置
106a 取得回路(取得手段)
106b 画像処理回路(画像処理手段)

Claims (17)

  1. 撮像素子の第1画素領域から第1モードで読み出された第1撮像用信号と、該撮像素子の第2画素領域から第2モードで読み出された第2撮像用信号と、を取得する取得手段と、
    前記第1撮像用信号および前記第2撮像用信号に関して互いに異なる基準を用いて、該第1撮像用信号および該第2撮像用信号に対してノイズ低減処理を行う画像処理手段と、を有し、
    前記第1画素領域および前記第2画素領域はそれぞれ、所定の割合で行ごとに決定されており、
    前記取得手段は、各フレームにおいて、
    前記第1画素領域から前記第1撮像用信号を取得し、
    前記第2画素領域から前記第2撮像用信号と所定の信号とを取得し、
    前記第1モードは、前記撮像素子の一つのマイクロレンズに対応する複数の光電変換部のそれぞれの画素信号を合わせて前記第1撮像用信号を読み出すモードであり、
    前記第2モードは、前記複数の光電変換部のうち少なくとも一つの光電変換部の画素信号を前記所定の信号として独立して読み出すモードである、ことを特徴とする制御装置。
  2. 前記所定の信号は、焦点検出用信号であることを特徴とする請求項1に記載の制御装置。
  3. 前記画像処理手段は、前記第1撮像用信号および前記第2撮像用信号に関して互いに異なる前記基準を用いて、該第1撮像用信号および該第2撮像用信号に対して前記ノイズ低減処理を行うか否かを判定する、ことを特徴とする請求項1または2に記載の制御装置。
  4. 前記画像処理手段は、
    前記基準として第1基準を用いて、前記第1撮像用信号に対して前記ノイズ低減処理を行うか否かを判定し、
    前記基準として、前記第1基準よりも低い第2基準を用いて、前記第2撮像用信号に対して前記ノイズ低減処理を行うか否かを判定する、ことを特徴とする請求項3に記載の制御装置。
  5. 前記画像処理手段は、
    撮影ごとに、前記基準に応じて前記第1撮像用信号および前記第2撮像用信号のそれぞれに関する欠陥画素を検出し、
    前記欠陥画素を補正することにより前記ノイズ低減処理を行う、ことを特徴とする請求項1乃至4のいずれか1項に記載の制御装置。
  6. 前記第1撮像用信号および前記第2撮像用信号のそれぞれに関する欠陥画素に関する情報を記憶する記憶手段を更に有し、
    前記画像処理手段は、前記欠陥画素に関する情報と前記基準とに基づいて前記欠陥画素を補正することにより前記ノイズ低減処理を行う、ことを特徴とする請求項1乃至4のいずれか1項に記載の制御装置。
  7. 前記取得手段は、前記撮像素子の感度を取得し、
    前記画像処理手段は、前記感度に応じた補正レベルに基づいて前記欠陥画素を補正することにより前記ノイズ低減処理を行う、ことを特徴とする請求項5または6に記載の制御装置。
  8. 前記第1撮像用信号を前記撮像素子のメモリに保持するために要する第1期間と、前記第2撮像用信号を該メモリに保持するために要する第2期間とは、互いに異なり、
    前記画像処理手段は、前記第1期間と前記第2期間との関係に応じて、前記第1撮像用信号および前記第2撮像用信号に関して互いに異なる前記基準を設定する、ことを特徴とする請求項1乃至7のいずれか1項に記載の制御装置。
  9. 前記第2撮像用信号に関する前記第2期間は、前記第1撮像用信号に関する前記第1期間よりも長いことを特徴とする請求項8に記載の制御装置。
  10. 前記取得手段は、前記第2画素領域から前記第2モードで読み出された一対の所定の信号を合わせて前記第2撮像用信号を取得し、
    前記画像処理手段は、
    前記第2撮像用信号が所定値よりも小さい場合、該第2撮像用信号に対して前記ノイズ低減処理を行い、
    前記第2撮像用信号が前記所定値よりも大きい場合、該第2撮像用信号に対して前記ノイズ低減処理を行わない、ことを特徴とする請求項1乃至9のいずれか1項に記載の制御装置。
  11. 前記画像処理手段は、前記第2撮像用信号が前記所定値よりも小さい場合、前記第1撮像用信号を用いたフィルタ処理により、前記ノイズ低減処理を行うことを特徴とする請求項10に記載の制御装置。
  12. 前記画像処理手段は、メディアンフィルタ処理により前記フィルタ処理を行うことを特徴とする請求項11に記載の制御装置。
  13. 撮像光学系を介して形成された光学像を光電変換する撮像素子と、
    前記撮像素子の第1画素領域から第1モードで読み出された第1撮像用信号と、該撮像素子の第2画素領域から第2モードで読み出された第2撮像用信号と、を取得する取得手段と、
    前記第1撮像用信号および前記第2撮像用信号に関して互いに異なる基準を用いて、該第1撮像用信号および該第2撮像用信号に対してノイズ低減処理を行う画像処理手段と、を有し、
    前記第1画素領域および前記第2画素領域はそれぞれ、所定の割合で行ごとに決定されており、
    前記取得手段は、各フレームにおいて、
    前記第1画素領域から前記第1撮像用信号を取得し、
    前記第2画素領域から前記第2撮像用信号と所定の信号とを取得し、
    前記第1モードは、前記撮像素子の一つのマイクロレンズに対応する複数の光電変換部のそれぞれの画素信号を合わせて前記第1撮像用信号を読み出すモードであり、
    前記第2モードは、前記複数の光電変換部のうち少なくとも一つの光電変換部の画素信号を前記所定の信号として独立して読み出すモードである、ことを特徴とする撮像装置。
  14. 前記撮像素子は、
    一つのマイクロレンズに対応する複数の光電変換部を有し、該マイクロレンズが二次元状に配列されており、
    各フレームにおいて、前記第1モードで前記第1画素領域から前記第1撮像用信号を読み出し、前記第2モードで前記第2画素領域から前記第2撮像用信号を読み出し可能に構成されている、ことを特徴とする請求項13に記載の撮像装置。
  15. 撮像素子の第1画素領域から第1モードで読み出された第1撮像用信号と、該撮像素子の第2画素領域から第2モードで読み出された第2撮像用信号と、を取得する取得ステップと、
    前記第1撮像用信号および前記第2撮像用信号に関して互いに異なる基準を用いて、該第1撮像用信号および該第2撮像用信号に対してノイズ低減処理を行う処理ステップと、を有し、
    前記第1画素領域および前記第2画素領域はそれぞれ、所定の割合で行ごとに決定されており、
    前記取得ステップは、各フレームにおいて、
    前記第1画素領域から前記第1撮像用信号を取得し、
    前記第2画素領域から前記第2撮像用信号と所定の信号とを取得し、
    前記第1モードは、前記撮像素子の一つのマイクロレンズに対応する複数の光電変換部のそれぞれの画素信号を合わせて前記第1撮像用信号を読み出すモードであり、
    前記第2モードは、前記複数の光電変換部のうち少なくとも一つの光電変換部の画素信号を前記所定の信号として独立して読み出すモードである、ことを特徴とする制御方法。
  16. 撮像素子の第1画素領域から第1モードで読み出された第1撮像用信号と、該撮像素子の第2画素領域から第2モードで読み出された第2撮像用信号と、を取得する取得ステップと、
    前記第1撮像用信号および前記第2撮像用信号に関して互いに異なる基準を用いて、該第1撮像用信号および該第2撮像用信号に対してノイズ低減処理を行う処理ステップと、をコンピュータに実行させることを特徴とするプログラムであって、
    前記第1画素領域および前記第2画素領域はそれぞれ、所定の割合で行ごとに決定されており、
    前記取得ステップは、各フレームにおいて、
    前記第1画素領域から前記第1撮像用信号を取得し、
    前記第2画素領域から前記第2撮像用信号と所定の信号とを取得し、
    前記第1モードは、前記撮像素子の一つのマイクロレンズに対応する複数の光電変換部のそれぞれの画素信号を合わせて前記第1撮像用信号を読み出すモードであり、
    前記第2モードは、前記複数の光電変換部のうち少なくとも一つの光電変換部の画素信号を前記所定の信号として独立して読み出すモードである、ことを特徴とするプログラム。
  17. 請求項16に記載のプログラムを記憶していることを特徴とする記憶媒体。
JP2015168509A 2015-08-28 2015-08-28 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 Active JP6602109B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015168509A JP6602109B2 (ja) 2015-08-28 2015-08-28 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
US15/245,705 US10638072B2 (en) 2015-08-28 2016-08-24 Control apparatus, image pickup apparatus, and control method for performing noise correction of imaging signal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015168509A JP6602109B2 (ja) 2015-08-28 2015-08-28 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体

Publications (2)

Publication Number Publication Date
JP2017046253A true JP2017046253A (ja) 2017-03-02
JP6602109B2 JP6602109B2 (ja) 2019-11-06

Family

ID=58104456

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015168509A Active JP6602109B2 (ja) 2015-08-28 2015-08-28 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体

Country Status (2)

Country Link
US (1) US10638072B2 (ja)
JP (1) JP6602109B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020202420A (ja) * 2019-06-06 2020-12-17 キヤノン株式会社 撮像装置およびその制御方法
JPWO2020246060A1 (ja) * 2019-06-07 2021-10-28 パナソニックIpマネジメント株式会社 画像生成方法、撮像装置、及び、プログラム

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102390836B1 (ko) * 2015-10-05 2022-04-26 삼성전자주식회사 이미지 데이터를 생성하는 전자 장치 및 방법
JP6739272B2 (ja) * 2016-07-29 2020-08-12 キヤノン株式会社 撮像装置、その制御方法、及びプログラム
JP6765953B2 (ja) * 2016-12-22 2020-10-07 キヤノン株式会社 撮像装置及びその制御方法
JP2018113521A (ja) * 2017-01-10 2018-07-19 キヤノン株式会社 固体撮像装置及び撮像システム
JP6929117B2 (ja) * 2017-04-26 2021-09-01 キヤノン株式会社 撮像装置および制御方法
JP2020027957A (ja) * 2018-08-09 2020-02-20 オリンパス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP7408620B2 (ja) * 2021-12-24 2024-01-05 キヤノン株式会社 光電変換装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011044820A (ja) * 2009-08-19 2011-03-03 Nikon Corp 撮像装置
JP2012213137A (ja) * 2011-03-24 2012-11-01 Canon Inc 撮像装置及び欠陥画素の検出方法
JP2013211833A (ja) * 2012-03-01 2013-10-10 Canon Inc 撮像装置、撮像システム、撮像装置の駆動方法、撮像システムの駆動方法
JP2013225772A (ja) * 2012-04-20 2013-10-31 Canon Inc 画像処理装置及び方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3774597B2 (ja) 1999-09-13 2006-05-17 キヤノン株式会社 撮像装置
WO2011108193A1 (ja) * 2010-03-05 2011-09-09 日本電気株式会社 プログラム作成支援装置、プログラム、および、情報システム
JP5675215B2 (ja) * 2010-08-20 2015-02-25 オリンパス株式会社 デジタルカメラ
JP2012145664A (ja) * 2011-01-11 2012-08-02 Sony Corp 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP5755111B2 (ja) 2011-11-14 2015-07-29 キヤノン株式会社 撮像装置の駆動方法
JP6116301B2 (ja) * 2013-03-21 2017-04-19 キヤノン株式会社 撮像装置及びその制御方法
KR102037840B1 (ko) * 2013-04-11 2019-10-29 삼성전자주식회사 반도체 장치의 연결구조 및 제조 방법
JP6426890B2 (ja) * 2013-06-11 2018-11-21 キヤノン株式会社 焦点検出装置及び方法、及び撮像装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011044820A (ja) * 2009-08-19 2011-03-03 Nikon Corp 撮像装置
JP2012213137A (ja) * 2011-03-24 2012-11-01 Canon Inc 撮像装置及び欠陥画素の検出方法
JP2013211833A (ja) * 2012-03-01 2013-10-10 Canon Inc 撮像装置、撮像システム、撮像装置の駆動方法、撮像システムの駆動方法
JP2013225772A (ja) * 2012-04-20 2013-10-31 Canon Inc 画像処理装置及び方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020202420A (ja) * 2019-06-06 2020-12-17 キヤノン株式会社 撮像装置およびその制御方法
JP7346090B2 (ja) 2019-06-06 2023-09-19 キヤノン株式会社 撮像装置およびその制御方法
JPWO2020246060A1 (ja) * 2019-06-07 2021-10-28 パナソニックIpマネジメント株式会社 画像生成方法、撮像装置、及び、プログラム
JP7065417B2 (ja) 2019-06-07 2022-05-12 パナソニックIpマネジメント株式会社 画像生成方法、撮像装置、及び、プログラム

Also Published As

Publication number Publication date
US10638072B2 (en) 2020-04-28
JP6602109B2 (ja) 2019-11-06
US20170064226A1 (en) 2017-03-02

Similar Documents

Publication Publication Date Title
JP6602109B2 (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
US11719908B2 (en) Image sensor and image capturing apparatus
US11493729B2 (en) Image sensor capable of reducing readout time and image capturing apparatus
JP5784426B2 (ja) 撮像装置
JP6765860B2 (ja) 撮像素子、撮像装置、および撮像信号処理方法
CN102843526B (zh) 摄像设备及其控制方法
US20170353679A1 (en) Imaging element, imaging apparatus, and imaging signal processing method
JP7232291B2 (ja) 撮像素子及び撮像装置
US10033951B2 (en) Image sensor that performs different readout operations and image capturing apparatus including image sensor
JP2016127454A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2016220078A (ja) 画像処理装置及び方法、及び撮像装置
US10225494B2 (en) Image capturing apparatus and control method thereof
JP6355459B2 (ja) 撮像装置及びその制御方法
US20210042949A1 (en) Depth information generating apparatus, image capturing apparatus, depth information generating method, image processing apparatus, and image processing method
JP2016092792A (ja) 撮像装置
JP2016184868A (ja) 撮像装置及び撮像装置の駆動方法
JP2017216649A (ja) 撮像素子、撮像装置、および撮像信号処理方法
JP6759088B2 (ja) 撮像装置とその制御方法及びプログラム
JP2017060000A (ja) 撮像素子及び撮像装置
JP2017034508A (ja) 撮像素子及びその制御方法、及び、撮像装置
JP2016092692A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2016092594A (ja) 撮像装置及び固体撮像素子の駆動方法
JP2023057134A (ja) 撮像素子及び撮像装置
JP2018191020A (ja) 撮像装置
JP2018042157A (ja) 撮像装置および焦点検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180821

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190625

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190822

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190910

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191008

R151 Written notification of patent or utility model registration

Ref document number: 6602109

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151