JP6739404B2 - 撮像素子 - Google Patents

撮像素子 Download PDF

Info

Publication number
JP6739404B2
JP6739404B2 JP2017127219A JP2017127219A JP6739404B2 JP 6739404 B2 JP6739404 B2 JP 6739404B2 JP 2017127219 A JP2017127219 A JP 2017127219A JP 2017127219 A JP2017127219 A JP 2017127219A JP 6739404 B2 JP6739404 B2 JP 6739404B2
Authority
JP
Japan
Prior art keywords
pixel
data
calibration
circuit
pixel circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017127219A
Other languages
English (en)
Other versions
JP2019012883A (ja
Inventor
大数 清水
大数 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2017127219A priority Critical patent/JP6739404B2/ja
Priority to US15/984,589 priority patent/US10455172B2/en
Publication of JP2019012883A publication Critical patent/JP2019012883A/ja
Application granted granted Critical
Publication of JP6739404B2 publication Critical patent/JP6739404B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • H01L27/14645Colour imagers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • H04N25/677Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction for reducing the column or line fixed pattern noise
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • H04N25/589Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • H04N25/633Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current by using optical black pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • H04N25/683Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/709Circuitry for control of the power supply
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/745Circuitry for generating timing or clock signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は撮像素子に関し、例えば格子状に配置された画素回路から読み出される撮像信号に対して行毎に生成される補正値を用いて補正を行う撮像素子に関する。
撮像素子では、画素回路内に設けられる光電変換素子の露光量に応じた電圧レベルを有する撮像信号を生成し、この撮像信号に対してアナログデジタル変換処理等の処理を施すことで画素データを生成する。このとき、撮像信号は、行毎に独立したアナログデジタル変換処理経路を通して画素データに変換される。
しかしながら、アナログデジタル変換処理経路を校正する回路には、入力オフセットばらつき、ゲインばらつき等の回路特性のばらつきがある。そして、この回路特性のばらつきは、特定の行の画素の色にずれが生じる固定パターンノイズとなる。この固定パターンノイズを除去する方法の一例が特許文献1に開示されている。
特許文献1に記載の固体撮像装置では、画素アレイ部の上部側の光学的黒画素領域の第1の画素行をゲイン1倍の第1の補正用画素行として、第2の画素行をゲイン8倍の第2の補正用画素行としてそれぞれ用い、これら第1及び第2の補正用画素行の各画素から取得した画素信号を、カラム処理部を通すことによってP相とD相との間のゲイン誤差を補正するためのゲイン1倍の第1の補正値とゲイン8倍の第2の補正値として得る一方、これら補正値を用いてマルチプレクサにおいてゲイン誤差の補正処理を行うようにする。
特開2008−252605号公報
第1の補正値及び第2の補正値による補正の精度を高めるためには、多くの補正値生成用データを用いて第1の補正値及び第2の補正値を生成する必要がある。しかしながら、特許文献1に記載の固体撮像装置では、補正値生成用データを光学的黒画素領域に配置される画素からしか取得することができず、精度の高い補正値を生成するために多くの時間を要するという問題がある。
その他の課題と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
一実施の形態によれば、撮像素子は、キャリブレーション動作において、有効画素領域に格子状に配置される複数の前記画素回路を、行単位で撮像画素回路群と校正画素回路群とに分類し、撮像画素回路群に属する画素回路に撮像信号を出力させ、校正画素回路群に属する画素回路に対する読み出し動作を行うタイミングでは、校正画素回路群に属する画素回路を垂直読み出し線から電気的に切り離すと共に垂直読み出し線に校正電圧を供給し、垂直読み出し線を介して入力される撮像信号の電圧レベルに応じた撮像データ及び校正電圧の電圧レベルに応じた校正データを生成し、撮像データに対して補正値を適用して画素データを生成すると共に校正データを蓄積し、所定の個数の校正データに基づき生成した更新用補正値により補正値を更新する。
前記一実施の形態によれば、短時間で精度の高い補正値を生成することができる。
アナログCDS方式とデジタルCDS方式の処理の違いを説明する表である。 アナログCDS方式とデジタルCDS方式の読み出し動作の違いを説明する図である。 実施の形態1にかかる撮像素子のブロック図である。 実施の形態1にかかる撮像素子の画素配置領域及びカラム処理回路のブロック図である。 実施の形態1にかかる撮像素子の画素処理回路のブロック図である。 実施の形態1にかかる撮像素子の補正値生成部及び画素データ生成部のブロック図である。 実施の形態1にかかる撮像素子の補完画素データの生成に用いる画素データを説明する図である。 実施の形態1にかかる撮像素子の行間補完処理部の通常動作時の動作を説明するタイミングチャートである。 実施の形態1にかかる撮像素子の行間補完処理部のキャリブレーション動作時の動作を説明するタイミングチャートである。 実施の形態1にかかる撮像素子の行間補完処理部のブロック図である。 実施の形態1にかかる撮像素子の有効画素領域と光学的黒画素領域とを説明する図である。 実施の形態1にかかる撮像素子の動作を説明するタイミングチャートである。 実施の形態1にかかる撮像素子のキャリブレーション動作時の読み出し処理を説明するタイミングチャートである。 実施の形態1にかかる撮像素子の動作を説明するフローチャートである。 実施の形態1にかかる撮像素子のキャリブレーション動作を説明するフローチャートである。 実施の形態1にかかる撮像素子の補正値生成処理の動作を説明するフローチャートである。 実施の形態2にかかる撮像素子の動作を説明するタイミングチャートである。 実施の形態2にかかる撮像素子の通常動作時の読み出し処理を説明するタイミングチャートである。 実施の形態2にかかる撮像素子のキャリブレーション動作時の読み出し処理を説明するタイミングチャートである。
説明の明確化のため、以下の記載及び図面は、適宜、省略、及び簡略化がなされている。また、様々な処理を行う機能ブロックとして図面に記載される各要素は、ハードウェア的には、CPU、メモリ、その他の回路で構成することができ、ソフトウェア的には、メモリにロードされたプログラムなどによって実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。なお、各図面において、同一の要素には同一の符号が付されており、必要に応じて重複説明は省略されている。
また、上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non−transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD−ROM(Read Only Memory)CD−R、CD−R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
実施の形態1
まず、撮像素子では、画素回路から光電変換素子(例えば、フォトダイオード)の露光量に応じた電圧レベルを有する撮像信号を読み出す。この撮像信号の読み出し処理では、フローティングディフュージョン、増幅トランジスタ、プログラマブルゲインアンプ、アナログデジタル変換回路等の様々な素子及び回路を通して撮像信号の電圧レベルに応じたデジタル値を有する撮像データを得る。そのため、撮像データには、画素信号の伝達経路で生じる誤差が多く含まれる。そのため、撮像素子では、撮像データに重畳されるノイズを除去するノイズキャンセル値を用いて撮像データに重畳されるノイズを除去することで最終的な出力データとなる画素データを得る。
このノイズキャンセル値には、補正値とダークレベル値とがある。補正値は、格子状に配置される複数の画素回路のうち同一列に並べられる複数の画素回路に共通に適用される値である。ダークレベル値は、格子状に配置される複数の画素回路のそれぞれについて個別に適用される値である。以下の説明では、補正値を用いたノイズ除去処理を行う読み出し処理の方式をアナログCDS(Correlated Double Sampling:相間2重サンプリング)方式と称し、ダークレベル値を用いたノイズ除去処理を行う読み出し処理を行う方式をデジタルCDS方式と称す。アナログCDS方式とデジタルCDS方式は、ノイズキャンセル値が生成される過程が異なる。また、いずれのノイズキャンセル値を利用するかにより画素回路から撮像信号を読み出す読み出し処理の動作が異なる。そこで、アナログCDS方式とデジタルCDS方式の違いについて詳細に説明する。
図1にアナログCDS方式とデジタルCDS方式の処理の違いを説明する表を示す。図1に示すように、アナログCDS方式とデジタルCDS方式との違いは、補正値を生成するキャリブレーション動作の有無と、ダークレベル信号(画素回路内のフローティングディフュージョンのリセットレベルに応じた電圧レベルを有する信号)に対するアナログデジタル変換処理の有無と、ノイズ除去処理で用いる値の違いがある。
具体的には、アナログCDS方式では、ノイズ除去処理で利用する補正値をキャリブレーション動作により生成する。また、アナログCDS方式では、ダークレベル値をノイズ除去処理で利用しないためダークレベル信号に対するアナログデジタル変換処理は行わない。また、アナログCDS方式では、キャリブレーション動作によって生成した補正値を用いてデジタル値に変換した撮像信号の値から補正値を減算することで撮像信号に重畳したノイズを除去する。一方、デジタルCDS方式では、撮像信号の読み出し処理の度にダークレベル信号に対するアナログデジタル変換処理を行う。そして、デジタルCDS方式では、デジタル値に変換した撮像信号の値から直前に生成したダークレベル値を減算することで撮像信号に重畳したノイズを除去する。
また、図2にアナログCDS方式とデジタルCDS方式の読み出し動作の違いを説明する図を示す。図2では、上段に画像信号の読み出しの流れを示すブロック図を示し、中段にアナログCDS方式における画素信号読み出し処理のタイミングチャートを示し、下段にデジタルCDS方式における画素信号読み出し処理のタイミングチャートを示した。
図2に示すように、画素回路は、光電変換素子(例えば、フォトダイオードPD)、転送トランジスタTr_tx、リセットトランジスタTr_rst、増幅トランジスタTr_ami、選択トランジスタTr_selを有する。
フォトダイオードPDのカソードには接地電圧が供給される。フォトダイオードPDのアノードは転送トランジスタTr_txのソースに接続される。転送トランジスタTr_txのゲートには転送制御信号TXが与えられる。転送トランジスタTr_txのドレインは増幅トランジスタTr_amiのゲートに接続される。また、転送トランジスタTr_txのドレイン及び増幅トランジスタTr_amiのゲートには、リセットトランジスタTr_rstのソースが接続される。また、転送トランジスタTr_txのドレイン及びリセットトランジスタTr_rstのソースとなる領域はフローティングディフュージョンFDとなる。リセットトランジスタTr_rstのゲートにはリセット制御信号RSTが与えられる。リセットトランジスタTr_rstのドレイン及び増幅トランジスタTr_amiのドレインには画素電源電圧VDD_PXが与えられる。増幅トランジスタTr_amiのソースは、選択トランジスタTr_selのドレインに接続される。選択トランジスタTr_selのゲートには選択信号SELが与えられる。選択トランジスタTr_selのソースは垂直読み出し線VRLに接続される。
また、垂直読み出し線VRLの一端にはアナログデジタル変換回路(図2中のADC)が設けられる。また、アナログデジタル変換回路は、ノイズ除去処理部に出力信号を与える。アナログデジタル変換回路は、垂直読み出し線VRLを介して入力される信号の電圧レベルに応じたデジタル値を出力する。また、アナログデジタル変換回路にはオートゼロ制御信号AZが与えられ、変換処理を行う前に回路の状態をリセットする。ノイズ除去処理部は、補正値或いはダークレベル値を用いて撮像データに重畳したノイズを除去して画素データDoを出力する。
続いて、図2の上段のブロック図で示した回路を用いた画素信号Sigの読み出し動作を説明する。まず、図2の中段に示したアナログCDS方式における画素信号Sigの読み出し処理のタイミングチャートを参照してアナログCDS方式における画素信号Sigの読み出し動作を説明する。
図2の中段に示したように、アナログCDS方式では、タイミングT11においてリセット信号RSTをロウレベルからハイレベルに切り替えることで、フローティングディフュージョンFDをリセット電圧にリセットする。また、タイミングT11では選択信号SELをロウレベルからハイレベルに切り替える。タイミングT12では、オートゼロ制御信号AZに基づきアナログデジタル変換回路をリセットする。続いて、タイミングT13で転送制御信号TXをロウレベルからハイレベルに切り替える。これにより、転送トランジスタTr_txが導通状態となり、フォトダイオードPDに蓄積された電荷がフローティングディフュージョンFDに読み出される。そして、画素回路は、フローティングディフュージョンFDの電圧レベルに基づき画素信号Sigを出力する。そして、撮像素子では、この撮像信号Sigに対してアナログデジタル変換処理を施す。
続いて、図2の下段に示したデジタルCDS方式における画素信号Sigの読み出し処理のタイミングチャートを参照してデジタルCDS方式における画素信号Sigの読み出し動作を説明する。
図2の下段に示したように、デジタルCDS方式では、タイミングT21においてリセット信号RSTをロウレベルからハイレベルに切り替えることで、フローティングディフュージョンFDをリセット電圧にリセットする。また、タイミングT21では選択信号SELをロウレベルからハイレベルに切り替える。タイミングT22では、オートゼロ制御信号AZに基づきアナログデジタル変換回路をリセットする。続いて、オートゼロ処理が完了したタイミングT23からダークレベル信号Darkに対するアナログデジタル変換処理が開始される。このダークレベル信号は、フローティングディフュージョンFDに与えられるリセット電圧に基づき画素回路が出力するものである。続いて、タイミングT24で転送制御信号TXをロウレベルからハイレベルに切り替える。これにより、転送トランジスタTr_txが導通状態となり、フォトダイオードPDに蓄積された電荷がフローティングディフュージョンFDに読み出される。そして、画素回路は、フローティングディフュージョンFDの電圧レベルに基づき画素信号Sigを出力する。そして、撮像素子では、この撮像信号Sigに対してアナログデジタル変換処理を施す。
実施の形態1にかかる撮像素子1では、アナログCDS方式のノイズ除去処理を行う。上述したように、アナログCDS方式では、画素回路毎にノイズキャンセル値となるダークレベル信号Darkのアナログデジタル変換処理を行う必要がないため、1つの画素回路から撮像信号を読み出すのに必要な時間をデジタルCDS方式よりも短くすることができる。近年、1枚の画像を構成するために必要な画素数が増加している傾向がある。また、動画であれば高いフレームレートが求められる傾向がある。そのため、1つの画素回路からの撮像信号の読み出し時間の短縮は大きな課題となっている事情があり、アナログCDS方式によるノイズ除去処理のメリットが大きくなってきている。
一方、アナログCDS方式では、補正値が同一列に配置される画素回路に対して共通して用いられるため、補正値と画素信号の読み出し経路で生じるノイズ成分との誤差が大きくなると画像中に筋状のノイズが固定的に生じる固定パターンノイズが発生する。そのため、画素信号の読み出し経路で生じるノイズ成分との誤差に対する補正値の精度を高める必要がある。補正値の精度を向上させる1つの方法として、より多くの校正データから補正値を生成する方法がある。この校正データは、例えば、垂直読み出し線VRLをダークレベルにした状態でアナログデジタル変換回路が出力する画素データである。
実施の形態1にかかる撮像素子1では、補正値の精度を充分に高めるために必要な校正データをより短時間で取得するための構成及びキャリブレーション動作を採用する。そこで、以下では、実施の形態1にかかる撮像素子1の構成及びキャリブレーション動作について詳細に説明する。
なお、以下の説明では、図示が省略される場合であっても、撮像信号の符号をSig、校正電圧の符号をVCAL、撮像データの符号をDsig、校正データの符号をDsig、画素データの符号をDpc、補完画素データの符号をDpx_LIC、補正値の符号をCVとして表す。
図3に実施の形態1にかかる撮像素子1のブロック図を示す。図2に示すブロック図は、実施の形態1にかかる撮像素子1の動作の説明に必要な部分を中心に示したもので有り、その他の回路ブロックが含まれていても良い。
図3に示すように、実施の形態1にかかる撮像素子1は、メインタイミング制御回路10、ピクセルタイミング生成回路11、ロウスキャン回路12、画素配置領域13、ADCタイミング生成回路14、変換処理シーケンス回路15s、15n、アナログデジタル変換回路群16s、16n、水平転送回路17s、17n、カラム選択回路18s、18n、画素処理回路19s、19n、画像合成回路20、入出力インタフェース回路21を有する。また、変換処理シーケンス回路15s、アナログデジタル変換回路群16s及び水平転送回路17sは、サウスカラム処理回路SCを構成し、変換処理シーケンス回路15n、アナログデジタル変換回路群16n及び水平転送回路17nは、ノースカラム処理回路NCを構成する。
実施の形態1にかかる撮像素子1では、画素配置領域13に格子状に複数の画素回路を配置する。そして、実施の形態1にかかる撮像素子1は、奇数列と偶数列の一方に配置される画素回路から出力される撮像信号Sigと、奇数列と偶数列の他方に配置される画素回路から出力される撮像信号Sigと、をそれぞれ画素配置領域13の上下に配置される処理回路群で処理する。図3では、画素配置領域13の下側に配置される回路群に付した符号の末尾にsの文字を付し、画素配置領域13の下側に配置される回路群に付した符号の末尾にnの文字を付した。つまり、s又はnが付された回路ブロックは同じ構成の回路であり、同じ動作を行う。そこで、以下の説明では、s又はnの文字は付さずに各回路ブロックの説明を行う。
メインタイミング制御回路10は、実施の形態1にかかる撮像素子1の全体の動作シーケンスを制御するシーケンス制御信号をピクセルタイミング生成回路11及びADCタイミング生成回路14に出力する。ピクセルタイミング生成回路11は、シーケンス制御信号に基づき画素配置領域13に配置される画素回路の動作シーケンスを制御するピクセルタイミング信号を生成する。ロウスキャン回路12は、ピクセルタイミング信号に基づき画素配置領域13内の回路又は素子に与える具体的な制御信号を生成する。
画素配置領域13は格子状に複数の画素回路が配置される。画素配置領域13には、複数の画素回路の列毎に垂直読み出し線が設けられる。複数の画素回路は、それぞれ対応する垂直読み出し線に接続される。また、画素配置領域13には、垂直読み出し線毎に画素クランプ回路と画素電流源が接続される。
ADCタイミング生成回路14は、シーケンス制御信号に基づきアナログデジタル変換回路を含む変換処理に用いられる回路群の動作シーケンスを制御するカラム制御信号を出力する。なお、カラム制御信号には複数の信号が含まれており、その1つに時間と共にランプ波形を構成するように電圧値が遷移するランプ電圧Vrampがある。
変換処理シーケンス回路15は、グローバルカウンタGCと、バッファ回路BUFとが含まれる。グローバルカウンタGCは、ランプ電圧Vrampの電圧遷移に合わせてカウント値が進むグローバルカウント値を生成する。そして、水平転送回路17内のシフトレジスタの動作を制御する。バッファ回路BUFは、ADCタイミング生成回路14から与えられるランプ電圧Vrampを増幅してアナログデジタル変換回路群16内のアナログデジタル変換回路に与える。
アナログデジタル変換回路群16は、列毎に独立して垂直読み出し線から信号が入力され、それぞれが入力された信号を処理する複数のマルチプレクサMUX及び複数のアナログデジタル変換回路ADCを有する。水平転送回路17は、アナログデジタル変換回路ADCが列毎に出力するデータを列毎に読み取って後段のカラム選択回路18に転送する。そして、カラム選択回路18は、水平転送回路17を介して列順にアナログデジタル変換回路ADCが出力したデータを読み出して後段の画素処理回路19に与える。
画素処理回路19は、アナログデジタル変換回路群16によりデジタル値に変換されたデータに対してノイズ除去処理等を施して画素データを生成し、当該画素データを画像合成回路20に出力する。この画素処理回路19内の処理及び回路ブロックの詳細な説明は後述する。画像合成回路20は、画素処理回路19s及び画素処理回路19nから入力された画素データを合成してフレーム毎に1枚の画像データDoを生成する。入出力インタフェース回路21は、画像合成回路20で生成された画像データDoを外部の他の回路又は装置に出力する。
ここで、実施の形態1にかかる撮像素子1は、通常動作とキャリブレーション動作とを切り替えて行う。通常動作では、実施の形態1にかかる撮像素子1は、格子状に配置される複数の画素回路から画素回路内の光電変換素子(例えば、フォトダイオード)の露光量に応じた電圧レベルを有する撮像信号Sigを読み出す。キャリブレーション動作では、実施の形態1にかかる撮像素子1は、同一行に配置される複数の画素回路から出力される撮像信号Sigに共通して適用される補正値を生成する。特に、キャリブレーション動作では、画素回路からの撮像信号Sigの読み出しと、補正値の演算に用いる校正電圧VCALとの読み出しとを所定の感覚で繰り返し行うことで、1フレーム分の画素信号を読み出す期間内での校正電圧VCALの読み出し回数を多くする。このような動作を実現するために、実施の形態1にかかる撮像素子1では、画素回路から画素処理回路19に至る経路の回路構成及び動作に特徴の1つを有する。そこで、以下では、画素配置領域13、アナログデジタル変換回路群16、水平転送回路17、画素処理回路19について詳細に説明する。
図4に実施の形態1にかかる撮像素子の画素配置領域及びカラム処理回路のブロック図を示す。図4に示すように、カラム処理回路には、アナログデジタル変換回路群16(図4中のMUX及びADC)及び水平転送回路17(図4中のCRD)が含まれる。
図4に示すように、画素配置領域13には、格子状に複数の画素回路が配置される。この画素回路は、それぞれ赤(R)、青(B)、緑(Gb、Gr)のフィルターがベイヤー配置されたカラーフィルタの1色が対応する。図4に示す例では、画素回路に対応するカラーフィルタの色に対応する文字を付している。画素配置領域13には、複数の垂直読み出し線VRLが設けられる。垂直読み出し線VRLには、それぞれ、同一の列に配置される複数の画素回路が接続される。
また、画素配置領域13は、画素電流源PCS及び画素クランプ回路PCLが設けられる。画素電流源PCSは、垂直読み出し線VRLの両端部に近い部分であってのカラム処理回路に近い部分にそれぞれ設けられる。画素電流源PCSは、垂直読み出し線VRLを介して画素回路内の増幅トランジスタに負荷電流を供給する。画素クランプ回路PCLは、垂直読み出し線VRLに校正電圧VCALを与える。画素クランプ回路PCLは、垂直読み出し線VRLの両端部に近い部分であってのカラム処理回路に近い部分にそれぞれ設けられる。
画素電流源PCSには、校正電圧VCALとキャリブレーション通知信号CSCALが入力される。実施の形態1にかかる撮像素子1では、ピクセルタイミング生成回路11及びロウスキャン回路12によりタイミングジェネレータを構成する。そして、校正電圧VCALとキャリブレーション通知信号CSCALは、ロウスキャン回路12内の回路により生成される。画素電流源PCSは、キャリブレーション通知信号CSCALがイネーブル状態(例えば、ハイレベル)になっている期間に垂直読み出し線VRLに校正電圧VCALを与える。校正電圧VCALは、例えば、ダークレベル信号の信号レベルとして想定される電圧を有する。
サウスカラム処理回路SCとノースカラム処理回路NCは同じ回路構成であるため、図4では、サウスカラム処理回路SCのみ詳細なブロック図を示した。図4に示すように、サウスカラム処理回路SCには、マルチプレクサMUX、アナログデジタル変換回路ADC、水平転送回路CRDを有する。
マルチプレクサMUXには、2行分の垂直読み出し線VRL毎に1つの選択回路が設けられる。サウスカラム処理回路SC内のマルチプレクサMUXが奇数列と偶数列の一方を選択している場合、ノースカラム処理回路NC内のマルチプレクサMUXは奇数列と偶数列の他方を選択する。
アナログデジタル変換回路は、1つの選択回路に対して1つ設けられる。図4に示す例では、アナログデジタル変換回路は、ランプ信号Vrampを増幅するアンプATTと、垂直読み出し線VRLから選択回路を介して入力される信号を増幅するアンプATTと、2つのアンプATTから出力される信号の大小関係に応じて出力信号をハイレベルとロウレベルとのいずれか一方に切り替えるコンパレータCMPと、を有する。アナログデジタル変換回路ADCの回路ゲインを変更する場合は、2つのアンプATTのゲインを変更する。
ここで、実施の形態1にかかる撮像素子1では、画素回路から撮像信号Sigを読み出す場合は、垂直読み出し線VRLを介してアナログデジタル変換回路ADCに撮像信号Sigが入力される。一方、実施の形態1にかかる撮像素子1においてキャリブレーション動作を行う場合、垂直読み出し線VRLを介してアナログデジタル変換回路ADCに撮像信号Sigに校正電圧VCALが入力される、つまり、実施の形態1にかかる撮像素子1のアナログデジタル変換回路ADCは、それぞれが対応する垂直読み出し線VRLを介して入力される前記撮像信号Sigの電圧レベルに応じたデジタル値を有する撮像データDsig及び校正電圧VCALの電圧レベルに応じたデジタル値を有する校正データDCALを生成する。
水平転送回路CRDには、アナログデジタル変換回路ADC毎に複数のラッチ回路LATにより構成されるシフトレジスタを有する。また、水平転送回路内の複数のシフトレジスタの出力は、転送配線に接続される。シフトレジスタ内の値をこの転送配線を介して後段の画素処理回路19に転送される。カラム選択回路18は、転送配線を介して画素処理回路19に転送するデータを選択する。また、シフトレジスタは、グローバルカウント値CNTのカウント値に応じてアナログデジタル変換回路ADCから出力される値を順次後段のラッチ回路にシフトさせる。
続いて、画素処理回路19について詳細に説明する。そこで、図5に実施の形態1にかかる撮像素子の画素処理回路19のブロック図を示す。図5に示すように、画素処理回路19は、補正値生成部31、画素データ生成部32、行間補完処理部33が設けられる。
補正値生成部31は、校正データDCALを蓄積し、所定の個数の校正データDCALに基づき生成した更新用補正値により補正値CVを更新する。画素データ生成部32は、撮像データDsigに対して補正値CVを適用して画素データDpxを生成する。行間補完処理部33は、補完処理により補完画素データDsig_LICを生成し、校正データDCALを取得する行から取得できない撮像データDpxを補完画素データDpx_LICにより補完する。以下では、補正値生成部31、画素データ生成部32、行間補完処理部33についてより詳細に説明する。
図6に実施の形態1にかかる撮像素子の補正値生成部31及び画素データ生成部32のブロック図を示す。図6に示すように、補正値生成部31は、上限リミッタ40、積算処理部41、平滑処理部42を有する。上限リミッタ40は、校正データDCALのビット数を所定のビット数に制限することで、後段回路での処理を軽減する。積算処理部41は、上限リミッタ40で処理された校正データを積算して積算値を生成する。平滑処理部42は、積算値を積算数で除算することで、積算された校正データを平滑化する。この平滑処理部42で平滑化処理がなされた校正データDCALが更新用補正値となる。平滑処理部42は校正用補正値により画素データ生成部32内の補正値保持部43に保持されている補正値CVを更新する。このような平滑化処理を行うことで、校正データDCALを取得する際に校正データDCALに重畳されるノイズ成分を低減することができる。
画素データ生成部32は、補正値保持部43及び補正処理部44を有する。補正処理部44は、撮像データDsigから補正値保持部43に保持されている補正値CVを引くことで画素データDpxを生成する。
続いて、行間補完処理部33について詳細に説明する。行間補完処理部33は、通常動作時においては、入力される画素データDpxをそのまま出力する。一方、行間補完処理部33は、キャリブレーション動作時には校正データDCALを取得するために撮像データDsigの読み出し処理を行わなかった画素回路の撮像データDsigに対応する補完画素データDpx_LICを生成して、生成した補完画素データDpx_LICを出力することで読み出せなかった撮像データDsigを補完する。
そこで、まず、行間補完処理部33における補完画素データDpx_LICの生成方法について説明する。図7に実施の形態1にかかる撮像素子の補完画素データの生成に用いる画素データを説明する図を示す。なお、図7では、mを行番号、nを列番号として示した。また、図7に示した補完画素データの生成方法は一例であり、補完画素データの生成に用いる画素データの数は採用する補完画素データの生成方法により適宜異なる数となる。
図7では、キャリブレーション動作時の撮像信号Sig読み出し対象の行の画素回路と、校正電圧VCALの読み出し時に読み出し対象となっている行の画素回路を示した。図7に示すように、キャリブレーション動作時には、実施の形態1にかかる撮像素子1は、カラーフィルタの組み合わせが同じになる行を1つの組として、連続する2つ組のうち一方の組を撮像信号Sigの読み出し対象の行とした場合、他方の組を校正電圧VCALの読み出し対象の行とする。
より具体的には、実施の形態1にかかる撮像素子1では、タイミングチャート(例えば、ピクセルタイミング生成回路11、ロウスキャン回路12)が、キャリブレーション動作において、複数の画素回路を行単位で撮像画素回路群(図7のSig読み出し行)と校正画素回路群(図7のVCAL読み出し行)とに分類する。そして、タイミングジェネレータは、撮像画素回路群に属する画素回路にはキャリブレーション動作中であっても撮像信号を出力させる。一方、タイミングジェネレータは、校正画素回路群に属する画素回路に対する読み出し動作を行うタイミングでは、校正画素回路群に属する画素回路を垂直読み出し線から電気的に切り離すと共に垂直読み出し線に画素クリップ回路PCLから校正電圧VCALを供給する。このとき、実施の形態1にかかる撮像素子1が、2行毎に同じカラーパターンを繰り返すカラーフィルタを備えている。そのため、実施の形態1にかかる撮像素子1は、連続する2行を1組として撮像画素回路群及び校正画素回路群のいずれかに分類し、撮像画素回路群と校正画素回路群が交互に配置されるように定義する。
上記定義により、実施の形態1にかかる撮像素子1では、撮像画素回路群と校正画素回路群には、それぞれ同一列で連続した行に配置される少なくとも2つの画素回路が含まれる。また、撮像画素回路群と校正画素回路群は、交互に配置される。さらに、撮像画素回路群に属する画素回路に対応するカラーフィルタのカラーパターンと、校正画素回路群に属する画素回路に対応するカラーフィルタのカラーパターンとは、同一のパターンとなる。
そして、行間補完処理部33では、撮像画素回路群に属する画素回路のうち補完画素データに対応する画素回路と同じ色のフィルタに対応する画素回路であって、かつ、補完画素データに対応する画素回路からの距離が近い順に6つの画素回路に対応する画素データを用いて補完画素データを生成する。図7に示す例では、m行n列目の赤のフィルタに対応する画素回路の補完画素データDpx_LICを生成するために、m+2行n−2列目、m+2行n列目、m+2行n+2列目、m−2行n−2列目、m−2行n列目、m−2行n+2列目の6つの画素データDpxを用いる。
また、詳しくは後述するが、行間補完処理部33は、補完画素データDpx_LICの生成に用いる画素データに対して、校正画素回路群に属する画素回路からの距離が遠くなるほど小さくなる重み係数を適用する。図7に示す例では、m+2行n列目及びm−2行n列目の画素回路は、補完画素データDpx_LICに対応する画素回路との距離が他の画素回路よりも近い。そのため、m+2行n列目及びm−1行n列目の画素回路には重み2を適用する。一方、m+2行n−2列目、m+2行n+2列目、m−2行n−2列目、m−2行n+2列目の画素回路は、m+2行n列目及びm−1行n列目の画素回路よりも補完画素データDpx_LICに対応する画素回路からの距離が遠い。そのため、m+2行n−2列目、m+2行n+2列目、m−2行n−2列目、m−2行n+2列目の画素回路から出力される画素データDpxには重み1を適用する。
続いて、行間補完処理部33のデータの入出力タイミングについて説明する。図8に、実施の形態1にかかる撮像素子の行間補完処理部の通常動作時の動作を説明するタイミングチャートを示す。図8に示すように、行間補完処理部33は、通常動作時は、データが入力されてから2画素のデータの入力が完了した後に、入力された順にデータを出力する。
一方、図9に実施の形態1にかかる撮像素子の行間補完処理部のキャリブレーション動作時の動作を説明するタイミングチャートを示す。図9に示すように、行間補完処理部33は、キャリブレーション動作中においても、データが入力されてから2画素のデータの入力が完了した後に、入力された順にデータを出力する。しかしながら、キャリブレーション動作中には、校正データDCALを取得する行においては画素データDpxが入力されない。そこで、行間補完処理部33では、画素データDpxが入力されない期間には、補完画素データDpx_LIC(図9中のLIC)を生成して、画素データDpxが欠落するタイミングにこの補完画素データDpx_LICを出力する。
続いて、行間補完処理部33の回路構成について説明する。そこで、図10に実施の形態1にかかる撮像素子の行間補完処理部のブロック図を示す。図10に示すように、行間補完処理部33は、補完データ生成部51、セレクタ52を有する。補完データ生成部51は、校正画素回路群(例えば、図7のVCAL読み出し行)に属する画素回路に対応する画素データを、校正画素回路群に属する画素回路の周辺に配置される撮像画素回路群(例えば、図7のSig読み出し行)に属する画素回路に対応する画素データを合成して生成し、生成したデータを補完画素データDpx_LICとして出力する。セレクタ52は、撮像画素回路群に属する画素回路に対応するデータ出力タイミングに合わせて画素データDpxを出力し、校正画素回路群に属する画素回路に対応するデータ出力タイミングに合わせて補完画素データDpx_LICを出力する。
補完データ生成部51は、重み付け処理部60、加算処理部61、加算処理部62、前行画素データ保持部63、重み付け処理部64、加算処理部65、加算処理部66、加算処理部67、ビットシフト処理部68を有する。この補完データ生成部51は、m行n列目の補完画素データDpx_LICを生成する。
重み付け処理部60は、m+2行n列目の画素データDpxに対して重み2を乗算する。加算処理部61は、m+2行n−2列目の画素データDpxとm+2行n+2列の画素データDpxとを加算する。前行画素データ保持部63は、補完画素データDpx_LICを生成する画素回路が含まれる校正画素回路群の前に読み出し対象となっている撮像画素回路群から出力された画素データDpxを保持する。重み付け処理部64は、m−2行n列目の画素データDpxに対して重み2を乗算する。加算処理部65は、m−2行n−2列目の画素データDpxとm−2行n+2列の画素データDpxとを加算する。
加算処理部66は、重み付け処理部60で生成された第1の中間画素データと加算処理部61で生成された第2の中間画素データとを加算して第3の中間画素データを生成する。加算処理部67は、重み付け処理部64で生成された第4の中間画素データと加算処理部65で生成された第5の中間画素データとを加算して第6の中間画素データを生成する。加算処理部67は、第3の中間画素データと第6の中間画素データとを加算して第7の中間画素データを生成する。
第7の中間画素データは複数の画素データを加算して生成された値を有しているため、画素データDpxに比べてビット数が大きくっている。そこで、ビットシフト処理部68が、ビットシフト処理により、第7の中間画素データのビット数を画素データDpxに合わせることで、補完画素データDpx_LICを生成する。
続いて、実施の形態1にかかる撮像素子1の動作について説明する。そこで、まず、画素配置領域13に配置される画素回路について説明する。図11に実施の形態1にかかる撮像素子の有効画素領域と光学的黒画素領域とを説明する図を示す。画素配置領域13には、レンズを通して入射する光が当たる有効画素領域に配置される画素回路と、遮光される光学的黒画素領域(OB画素)に配置される画素回路とがある。光学的黒画素領域は有効画素領域の外周の2辺に沿って設けられる。そして、実施の形態1にかかる撮像素子1では、通常動作時においては、光学的黒画素領域に配置される画素回路を用いて校正データDCALを得ると共に有効画素領域に配置される画素回路から撮像データDsigを得る。一方、実施の形態1にかかる撮像素子1は、キャリブレーション動作時においては、光学的黒画素領域に配置される画素回路と有効画素領域に配置される画素回路を用いて校正データDCALを得ると共に有効画素領域に配置される画素回路から撮像データDsigを得る。
続いて、図12に実施の形態1にかかる撮像素子の動作を説明するタイミングチャートを示す。図12に示すように、実施の形態1にかかる撮像素子1では、画素回路に対してリセット(図12中のRESET)、露光(図12中のEXP)、読み出し(図12中のREAD)の3つの指示を与えることで各画素回路から撮像信号Sigを得る。また、実施の形態1にかかる撮像素子1では、画素配置領域13に格子状に複数の画素回路が配置されるが、これらの画素回路に対しては、行順に順次前述の3つの動作を開始させる。これにより、読み出しに動作に要する3つの処理を時系列に並べると、全画素の読み出し動作は台形形状の図形で表される。
また、図12では、i番目のフレームに関する読み出し処理を行っている期間に制御命令としてアナログデジタル変換回路ADCの回路ゲインをゲインAからゲインBに変更する命令が与えられる。そして、図12で示した動作を行う実施の形態1にかかる撮像素子1は、ゲイン変更命令が与えられた次のi+1番目のフレームに関する読み出し処理中にアナログデジタル変換回路の回路ゲインをゲインBとした際に適用する補正値を得るキャリブレーション動作を実施する。図12中では、ゲインAに対応する補正値をCV_Aとし、ゲインBに対応する補正値をCV_Bとした。
なお、図12に示したキャリブレーション動作の実施タイミングは一例であり、キャリブレーション動作は、例えば、実施の形態1にかかる撮像素子1の起動時に実施する、所定期間毎に周期的に実施する等、様々なタイミングで実施できる。
また、図12に示す例では、i+1番目のフレームに関する読み出し期間中に、アナログデジタル変換回路の回路ゲインを切り替えながら読み出し動作を実施する。具体的には、キャリブレーション動作中は、撮像信号Sigを読み出す際にはアナログデジタル変換回路のゲインをゲインAとし、校正電圧VCALを読み出す際にはアナログデジタル変換回路のゲインをゲインBとする。また、キャリブレーション動作中は、実施の形態1にかかる撮像素子1が出力する出力画素データに対しては補正値CV_Aを適用する。そして、キャリブレーション動作中は、校正データDCALに基づき補正値CV_Bの生成を行う。
そして、i+1番目のフレームに関する読み出し処理中に補正値CV_Bの生成が完了する。その後、補正値CV_Aは、i+1番目のフレームに関する読み出し処理からi+2番目のフレームに関する読み出し処理に処理を切り替える際に補正値CV_Bにより更新される。そして、i+2番目のフレームに関する読み出し処理は、アナログデジタル変換回路の回路ゲインをゲインBに切り替えると共に、補正値CV_Bを適用して出力画素データを生成する。
ここで、キャリブレーション動作中の読み出し処理についてより詳細に説明する。そこで、図13に実施の形態1にかかる撮像素子のキャリブレーション動作時の読み出し処理を説明するタイミングチャートを示す。
図13に示すように、キャリブレーション動作では、撮像信号Sigの読み出し対象とならない光学的黒画素領域に配置された画素回路からは、校正電圧VCALを読み出すキャリブレーション読み出し処理CALを行う。一方、撮像信号Sigの読み出し対象となる有効画素領域に配置された画素回路に対しては、交互に配置された撮像画素回路群と校正画素回路群とに対して行順に順次読み出し処理を行うことで、画素信号Sig読み出し処理READとキャリブレーション読み出し処理CALとが所定の間隔(例えば、2行毎)で繰り返し行われる。また、キャリブレーション動作では、画素信号Sig読み出し処理READからキャリブレーション読み出し処理CALに切り替わる際にアナログデジタル変換回路の回路ゲインがゲインAからゲインBに変更される。また、キャリブレーション読み出し処理CALから画素信号Sig読み出し処理READに切り替わる際にアナログデジタル変換回路の回路ゲインがゲインBからゲインAに変更される。
続いて、実施の形態1にかかる撮像素子1の動作をフローチャートを用いて説明する。図14に実施の形態1にかかる撮像素子の動作を説明するタイミングチャートを示す。図14に示すように、実施の形態1にかかる撮像素子1では、補正値の更新が指示されているか否かを先ず判断する。この補正値の更新指示は、例えば、アナログデジタル変換回路の回路ゲイン変更、アナログデジタル変換回路の回路ゲイン変更とは独立したタイミングで与えられる補正値更新指示等がある。
そして、補正値更新指示がない場合は、光学的黒画素領域に配置される画素回路からの信号読み出しを行わないブランク処理を行い、有効画素領域に配置される画素回路に対しては、撮像データDsigを読み出す画素値変換処理と撮像データDsigに補正値CVを適用して画素データDpxを生成する画素データ生成処理と、を行毎に順次行う。
一方、補正値更新指示があった場合は、キャリブレーション動作により新たな補正値を生成する補正値生成処理を行う。そこで、図15に実施の形態1にかかる撮像素子のキャリブレーション動作を説明するフローチャートを示す。図15に示すように、光学的黒画素領域に配置される画素回路についての信号読み出し処理として校正データDCALを読み出す補正値変換用変換処理を行う。また、有効画素領域に配置される画素回路に対しては、撮像データDsigを読み出す画素値変換処理と、校正データDCALを読み出す補正値変換用変換処理と、を所定の周期で繰り返し行う。また、画素変換処理にタオouして撮像データDsigに現在の補正値CVを適用して、画素データDpxを生成する画素データ生成処理と、校正データDCALの取得により欠落する画素データDpxを補完する補完データ生成処理と、を行毎に順次行う。また、補正値更新用変換処理に対応して更新用補正値生成処理を行う。この補正値更新用変換処理のフローチャートを図16に示す。
図16に示すように、補正値更新用変換処理では、校正データDCALのデータ入力と入力された校正データDCALの積算処理とを、校正データDCALの積算数が規定値以上になるまで繰り返す。そして、校正データDCALの積算数が規定数よりも多くなったことに応じて校正データDCALに対する平滑化処理(例えば、除算処理)を行う。この平滑化処理により、更新用補正値が生成され、更新用補正値により現在の補正値が更新される。
上記説明より、実施の形態1にかかる撮像素子1では、1フレームの撮像データDsigを得る読み出し処理中に校正データDCALの読み出し処理と撮像データDsigの読み出し処理とを交互に行うことで、光学的黒画素領域に配置された画素回路に対する読み出し期間のみで校正データDCALを得る場合に比べて、短い時間でより多くの校正データDCALを取得する。
アナログCDS方式において、補正値の精度を高めるためには多くの校正データDCALが必要になる。この補正値は、実施の形態1にかかる撮像素子1の起動時、或いは、アナログデジタル変換回路のゲイン変更時に、撮像信号Sigの読み出し経路のオフセット等のノイズ量が変化するため、更新する必要がある。ここで、実施の形態1にかかる撮像素子1では、校正データDCALを短時間に多く集めることで、精度の高い補正値を早期に生成することができる。実施の形態1にかかる撮像素子1は、短時間で高い精度の補正値を取得できるため、ゲイン切り替えや、起動時の初期化処理を短時間で行うことができる。
例えば、実施の形態1にかかる撮像素子1を用いることで、1024行で1フレームの画像が構成される2k画像であれば、1フレーム期間中に512個以上の校正データDCALを取得することができる。また、実施の形態1にかかる撮像素子1を用いることで、2048行で1フレームの画像が構成される4k画像であれば、1フレーム期間中に1024個以上の校正データDCALを取得することができる。このように、実施の形態1にかかる撮像素子1を用いることで、十分な精度を得られる校正データDCALを1フレーム期間中に取得できるため、実施の形態1にかかる実施の形態1にかかる撮像素子1では、ゲイン変更をゲイン変更命令から2フレーム後に反映できることもある。参考例として、1024個の校正データDCALを光学的黒画素領域に配置された画素回路のみから得ようとした場合、ゲイン変更までに32フレームを要する。このようなことからも、実施の形態1にかかる撮像素子1がいかに高速に補正値を更新可能かが分かる。
また、実施の形態1にかかる撮像素子1では、校正データDCALを取得する際に欠落する画素データDpxを行間補完処理により補完する。これにより、実施の形態1にかかる撮像素子1では、キャリブレーション動作中においてもフレームを途切れさせることなく連続して生成することができる。
実施の形態2
実施の形態2では、露出期間の異なる2回の露光処理で得られる2つの画素データを校正してダイナミックレンジの広い画像データを得るHDR(High Dynamic Range)処理を行う撮像素子に、実施の形態1で説明したキャリブレーション動作を適用する例について説明する。
まず、HDR処理を行う場合の画素信号Sigの読み出し動作について説明する。そこで、図17に実施の形態2にかかる撮像素子の動作を説明するタイミングを示す。図17に示すタイミングチャートは、1フレーム分の撮像データを得るために行われる処理である。図17に示すように、HDR処理を行う撮像素子では、異なる長さの露光期間により1フレーム2つの画素データDpxを取得する。図17に示す例では、長秒露光(図17のEXPa)に基づき生成された画素信号Sigを最初に得て、長秒露光に基づく画素信号Sigを得た画素から順次短秒露光を行い、短秒露光により得られた画素信号Sigを露光完了後に順次読み出す。
このような2回露光を行う場合、長秒露光又は短秒露光で得られた画素信号Sigを行順に順次読み出す順次読み出し期間と、長秒露光で得られた画素信号Sigと短秒露光で得られた画素信号Sigを交互に読み出す交互読み出し期間とが生じる。
順次読み出し期間の動作は、通常動作とキャリブレーション動作のいずれも実施の形態1で説明した読み出しシーケンスと同じ処理で撮像信号Sigの読み出しが行われる。一方、交互読み出し期間においては、実施の形態1にかかる読み出し処理とは異なる処理シーケンスとなる。そこで、以下では、実施の形態2にかかる読み出し処理の処理シーケンスについて説明する。
図18に実施の形態2にかかる撮像素子の通常動作時の読み出し処理を説明するタイミングチャートを示す。図18に示すように、交互読み出し期間における通常動作においては、長秒露光により生成された画素信号Sigを出力する画素回路と、短秒露光により生成された画素信号Sigを出力する画素回路と、に対する読み出し処理(図18のREAD)が交互に行われる。また、通常動作では、アナログデジタル変換回路のゲイン切り替えは行わない。
図19に実施の形態2にかかる撮像素子のキャリブレーション動作時の読み出し処理を説明するタイミングチャートを示す。図19に示すように、交互読み出し期間におけるキャリブレーション動作においては、長秒露光により生成された画素信号Sigを出力する画素回路と、短秒露光により生成された画素信号Sigを出力する画素回路と、に対する読み出し処理(図19のREAD、及び、CAL)が交互に行われる。また、長秒露光画素と短秒露光画素とを個別に見た場合、画素信号Sigの読み出し処理(図19のREAD)と校正データDCALを読み出すキャリブレーション用読み出し(図19のCAL)とが所定の間隔で繰り返される。また、図19に示すように、交互読み出し期間では、短秒露光画素に対する撮像信号Sig読み出し処理READと長秒露光画素に対する撮像信号Sig読み出し処理READとの両方が終わってから、短秒露光画素に対するキャリブレーション読み出し処理CALと長秒露光画素に対するキャリブレーション読み出し処理CALとが実施される。
このような読み出しシーケンスを実行することで、行間補完処理部33で行われる補完処理を適用した補完画素データDpx_LICの生成を行うことができる。
上記説明より、実施の形態1で説明したキャリブレーション動作は、複数回の露光によりHDR処理を行う撮像素子においても適用可能である。
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は既に述べた実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において種々の変更が可能であることはいうまでもない。
1 実施の形態1にかかる撮像素子
10 メインタイミング制御回路
11 ピクセルタイミング生成回路
12 ロウスキャン回路
13 画素配置領域
14 ADCタイミング生成回路
15 変換処理シーケンス回路
16 アナログデジタル変換回路群
17 水平転送回路
18 カラム選択回路
19 画素処理回路
20 画像合成回路
21 入出力インタフェース回路
31 補正値生成部
32 画素データ生成部
33 行間補完処理部
40 上限リミッタ
41 積算処理部
42 平滑処理部
43 補正値保持部
44 補正処理部
51 補完データ生成部
52 セレクタ
60 重み付け処理部
61 加算処理部
62 加算処理部
63 前行画素データ保持部
64 重み付け処理部
65 加算処理部
66 加算処理部
67 加算処理部
68 ビットシフト処理部
VRL 垂直読み出し線
SC サウスカラム処理回路
NC ノースカラム処理回路
ATT アンプ
CMP コンパレータ
LAT ラッチ回路
PCL 画素クランプ回路
PCS 画素電流源
CSCAL キャリブレーション通知信号
VCAL 校正電圧
RST リセット信号
TX 転送制御信号
SEL 選択信号
Vramp ランプ信号
CNT グローバルカウント値
CV 補正値
Sig 撮像信号
Dark ダークレベル信号
Dsig 撮像データ
Dpx 画素データ
Dpx_LIC 補完画素データ
DCAL 校正データ

Claims (7)

  1. 格子状に配置される複数の画素回路から前記画素回路内の光電変換素子の露光量に応じた電圧レベルを有する撮像信号を読み出す通常動作と、同一行に配置される複数の前記画素回路から出力される撮像信号に共通して適用される補正値を生成するキャリブレーション動作と、を行う撮像素子であって、
    それぞれが同一の列に配置される複数の前記画素回路が接続される複数の垂直読み出し線と、
    前記複数の垂直読み出し線のそれぞれに対応して設けられ、対応する前記垂直読み出し線に校正電圧を与える画素クリップ回路と、
    前記画素クリップ回路と複数の前記画素回路を制御して、行番号順に複数の前記画素回路に前記撮像信号を出力させるタイミングジェネレータと、
    それぞれが対応する前記垂直読み出し線を介して入力される前記撮像信号の電圧レベルに応じたデジタル値を有する撮像データ及び前記校正電圧の電圧レベルに応じたデジタル値を有する校正データを生成する複数のアナログデジタル変換回路と、
    前記撮像データに対して前記補正値を適用して画素データを生成する画素データ生成部と、
    前記校正データを蓄積し、所定の個数の前記校正データに基づき生成した更新用補正値により前記補正値を更新する補正値生成部と、を有し、
    前記複数の画素回路は、レンズを介して入射される光に晒される有効画素領域に配置され、
    前記タイミングジェネレータは、前記キャリブレーション動作において、
    複数の前記画素回路を行単位で撮像画素回路群と校正画素回路群とに分類し、前記撮像画素回路群に属する前記画素回路に前記撮像信号を出力させ、
    前記校正画素回路群に属する前記画素回路に対する読み出し動作を行うタイミングでは、前記校正画素回路群に属する前記画素回路を前記垂直読み出し線から電気的に切り離すと共に前記垂直読み出し線に前記画素クリップ回路から前記校正電圧を供給する撮像素子。
  2. 前記撮像画素回路群と前記校正画素回路群には、それぞれ同一列で連続した行に配置される少なくとも2つの前記画素回路が含まれ、
    前記撮像画素回路群と前記校正画素回路群は、交互に配置される請求項1に記載の撮像素子。
  3. 前記撮像画素回路群に属する前記画素回路に対応するカラーフィルタのカラーパターンと、 前記校正画素回路群に属する前記画素回路に対応するカラーフィルタのカラーパターンとは、同一のパターンである請求項2に記載の撮像素子。
  4. 前記校正画素回路群に属する前記画素回路に対応する前記画素データを、前記校正画素回路群に属する前記画素回路の周辺に配置される前記撮像画素回路群に属する前記画素回路に対応する前記画素データを合成して生成し、生成したデータを補完画素データとして出力する補完画素データ生成部と、
    前記撮像画素回路群に属する前記画素回路に対応するデータ出力タイミングに合わせて前記画素データを出力し、前記校正画素回路群に属する前記画素回路に対応するデータ出力タイミングに合わせて前記補完画素データを出力するセレクタと、
    を有する請求項1に記載の撮像素子。
  5. 前記補完画素データ生成部は、前記撮像画素回路群に属する前記画素回路のうち前記補完画素データに対応する前記画素回路と同じ色のフィルタに対応する複数の前記画素回路から出力される複数の前記画素データを用いて前記補完画素データを生成する請求項4に記載の撮像素子。
  6. 前記補完画素データ生成部は、前記補完画素データの生成に用いる前記画素データに対して、前記校正画素回路群に属する前記画素回路からの距離が遠くなるほど小さくなる重み係数を適用する請求項5に記載の撮像素子。
  7. 前記キャリブレーション動作は、前記アナログデジタル変換回路の回路ゲインを第1のゲインから第2のゲインに変更する指示に基づき開始され、
    前記アナログデジタル変換回路は、前記撮像データを出力する際には前記第1のゲインで動作し、前記校正データを出力する際には前記第2のゲインで動作するように制御され、
    前記更新用補正値により前記補正値が上書きされた後に前記アナログデジタル変換回路は前記第2のゲインで前記撮像データに対するアナログデジタル変換処理を実施する請求項1に記載の撮像素子。
JP2017127219A 2017-06-29 2017-06-29 撮像素子 Active JP6739404B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017127219A JP6739404B2 (ja) 2017-06-29 2017-06-29 撮像素子
US15/984,589 US10455172B2 (en) 2017-06-29 2018-05-21 Image sensor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017127219A JP6739404B2 (ja) 2017-06-29 2017-06-29 撮像素子

Publications (2)

Publication Number Publication Date
JP2019012883A JP2019012883A (ja) 2019-01-24
JP6739404B2 true JP6739404B2 (ja) 2020-08-12

Family

ID=64734484

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017127219A Active JP6739404B2 (ja) 2017-06-29 2017-06-29 撮像素子

Country Status (2)

Country Link
US (1) US10455172B2 (ja)
JP (1) JP6739404B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3697081B1 (en) * 2019-02-12 2023-09-27 ams Sensors Belgium BVBA Image sensor system, electronic device and method for operating an image sensor
US10785436B1 (en) * 2019-09-11 2020-09-22 Pixart Imaging Incorporation Image sensor and transfer circuit and transfer method thereof
CN111709402A (zh) * 2019-12-17 2020-09-25 神盾股份有限公司 指纹感测装置
CN117596499B (zh) * 2024-01-18 2024-04-30 珠海燧景科技有限公司 图像传感器及成像系统

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6774942B1 (en) * 2000-08-17 2004-08-10 Exar Corporation Black level offset calibration system for CCD image digitizer
US7817197B2 (en) * 2006-09-21 2010-10-19 Mediatek Singapore Pte Ltd Optical black calibration
JP5034610B2 (ja) 2007-03-30 2012-09-26 ソニー株式会社 固体撮像装置、固体撮像装置の信号処理方法および撮像装置
US8115835B2 (en) * 2008-05-28 2012-02-14 Mediatek Singapore Pte Ltd. Programmable digital black level calibration with feedback control
JP2010114487A (ja) * 2008-11-04 2010-05-20 Sony Corp 固体撮像装置、撮像装置
JP2011091487A (ja) * 2009-10-20 2011-05-06 Panasonic Corp 固体撮像装置
TWI449425B (zh) * 2011-07-11 2014-08-11 Novatek Microelectronics Corp 影像感測器及其黑階校正方法
JP2013240006A (ja) * 2012-05-17 2013-11-28 Renesas Electronics Corp Adc内蔵型cmosイメージセンサ
US8749670B1 (en) * 2013-02-27 2014-06-10 Himax Imaging Limited Digital camera and image sensor readout method with black level calibration
US10104321B1 (en) * 2017-08-15 2018-10-16 Himax Imaging Limited Image processing system and method for an image sensor

Also Published As

Publication number Publication date
US20190007634A1 (en) 2019-01-03
US10455172B2 (en) 2019-10-22
JP2019012883A (ja) 2019-01-24

Similar Documents

Publication Publication Date Title
JP6739404B2 (ja) 撮像素子
US10104326B2 (en) Imaging apparatus including analog-to-digital conversion circuits to convert analog signals into digital signals, imaging system including analog-to-digital conversion circuits to convert analog signals into digital signals, and imaging apparatus driving method
JP5034610B2 (ja) 固体撮像装置、固体撮像装置の信号処理方法および撮像装置
JP5218309B2 (ja) 固体撮像素子およびその制御方法、並びにカメラシステム
US7244921B2 (en) Solid-state imaging device, driving method therefor, and imaging apparatus
US9420208B2 (en) Driving method for image pickup apparatus and driving method for image pickup system
KR101177140B1 (ko) 고체 촬상 장치, 고체 촬상 장치의 구동 방법 및 촬상 장치
US10511791B2 (en) Image capturing apparatus capable of performing readout from a plurality of divided areas of a pixel area and control method therefor
US9191636B2 (en) Solid-state imaging device having varying pixel exposure times
JP2008042298A (ja) 固体撮像装置
JP2015106908A (ja) カラム読出し回路および固体撮像装置
WO2017212075A2 (en) Cmos image sensors with reduced power consumption
JP5446717B2 (ja) 撮像装置
JP2017079464A (ja) 固体撮像装置、その制御方法、撮像システム及びカメラ
JP2004165992A (ja) 固体撮像装置
JP2016213740A (ja) 撮像装置及び撮像システム
JP6579782B2 (ja) 撮像装置
JP5921092B2 (ja) 撮像装置、その制御方法、および制御プログラム
US20130087686A1 (en) Solid-state imaging apparatus
WO2017119331A1 (ja) 固体撮像装置、固体撮像装置の駆動方法、および電子機器
US11843891B2 (en) Ad conversion device, imaging device, endoscope system, and ad conversion method
JP5578008B2 (ja) 固体撮像装置、固体撮像装置の駆動方法および撮像装置
JP2007267431A (ja) 固体撮像装置及びその駆動方法
JP2006217658A (ja) 固体撮像装置及びその駆動方法
JP2011139181A (ja) 固体撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200616

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200707

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200721

R150 Certificate of patent or registration of utility model

Ref document number: 6739404

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150