JP2023548016A - 適応ノイズ低減を用いたデジタル画素センサー - Google Patents

適応ノイズ低減を用いたデジタル画素センサー Download PDF

Info

Publication number
JP2023548016A
JP2023548016A JP2023522348A JP2023522348A JP2023548016A JP 2023548016 A JP2023548016 A JP 2023548016A JP 2023522348 A JP2023522348 A JP 2023522348A JP 2023522348 A JP2023522348 A JP 2023522348A JP 2023548016 A JP2023548016 A JP 2023548016A
Authority
JP
Japan
Prior art keywords
pixel value
digital
pixel
voltage
digital pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023522348A
Other languages
English (en)
Inventor
ライル デビッド ベインブリッジ,
ツン-シュン ツァイ,
シンチャオ リュウ,
ソン チェン,
アンドリュー サミュエル ベルコビッチ,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Meta Platforms Technologies LLC
Original Assignee
Meta Platforms Technologies LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Meta Platforms Technologies LLC filed Critical Meta Platforms Technologies LLC
Publication of JP2023548016A publication Critical patent/JP2023548016A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/616Noise processing, e.g. detecting, correcting, reducing or removing noise involving a correlated sampling function, e.g. correlated double sampling [CDS] or triple sampling
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/59Control of the dynamic range by controlling the amount of charge storable in the pixel, e.g. modification of the charge conversion ratio of the floating node capacitance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14609Pixel-elements with integrated switching, control, storage or amplification elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Analogue/Digital Conversion (AREA)

Abstract

センサー装置は、電圧を生成するように構成された画素セルであって、画素セルは、光に応答して電荷を生成するように構成された1つまたは複数のフォトダイオードと、電荷を電圧に変換するための電荷蓄積デバイスとを含む、画素セルと、複数の集積メモリ回路を含む集積回路であって、画素セルの電荷蓄積デバイスから得られる第1の電圧に基づいて、第1の期間中に第1の電圧値を生成し、画素セルおよび集積回路からの固定パターンノイズによって生成される第2の電圧に基づいて、第2の期間発生する第2の電圧値を生成するように構成された集積回路と、第1の電圧値を第1のデジタル画素値に変換し、第2の電圧値を第2のデジタル画素値に変換するように構成された1つまたは複数のアナログ-デジタル変換器(ADC)と、第2のデジタル値が閾値の値未満である場合に、第1のデジタル画素値および第2のデジタル画素値に基づいて第1の変更されたデジタル画素値を生成するように構成されたプロセッサとを備える。【選択図】図8

Description

関連出願の相互参照
本出願は、2020年11月4日に出願された「DPS WITH TTS AND SINGLE DIGITAL DOUBLE SAMPLING(DDS)QUANTIZATION」という名称の米国仮特許出願第63/109,661号の優先権を主張し、その全体が参照により本明細書に明確に組み込まれる。
一般的な画像センサーは、ピクセルセルのアレイを含む。各ピクセルセルは、光子を電荷(例えば、電子または正孔)に変換することによって光を検知するためのフォトダイオードを含み得る。画像センサーはまた、生成された電荷を蓄積し、電荷を増幅し、増幅された電荷をアナログ-デジタル変換器(ADC)に送信するように構成された集積回路を含むことができる。ADCは、デジタル画像生成のためのプロセスの一部として、蓄積された電荷をデジタル値に変換する(例えば、電荷を「量子化」する)。画素セルのアレイの各画素セルは、その画素に固有の電荷を記憶および量子化するための画素固有集積回路を含むことができる。
本開示は、画像センサーに関する。より具体的には、限定ではなく、本開示は、画素固有のFPN低減のためにデジタル二重サンプリング(DDS)を有する二重量子化回路を組み込むように構成された集積回路を含む、個々の画素セルを組み込むデジタルイメージセンサーに関する。画像センサーは、オフセンサーでエクスポートされるデジタル画像を生成する前に、画素セルのアレイの個々の画素セルごとにFPNを低減するためのオンセンサー処理動作を実行することができる。
いくつかの例では、装置が提供される。装置は、以下を含む:1.電圧を生成するように構成された画素セルであって、画素セルは、光に応答して電荷を生成するように構成された1つまたは複数のフォトダイオードと、電荷を電圧に変換するための電荷蓄積デバイスとを含む、画素セルと、複数の集積メモリ回路を含む集積回路であって、画素セルの電荷蓄積デバイスから得られる第1の電圧に基づいて、第1の期間中に第1の電圧値を生成し、画素セルおよび集積回路からの固定パターンノイズによって生成される第2の電圧に基づいて、第2の期間発生する第2の電圧値を生成するように構成された集積回路と、第1の電圧値を第1のデジタル画素値に変換し、第2の電圧値を第2のデジタル画素値に変換するように構成された1つまたは複数のアナログ-デジタル変換器(ADC)と、第1のデジタル画素値および第2のデジタル画素値に基づいて第3のデジタル画素値を生成するように構成されたプロセッサとを備えるセンサー装置。
いくつかの態様では、プロセッサは、閾値画素値を決定し、第1のデジタル画素値を閾値画素値と比較するようにさらに構成され、プロセッサは、比較に基づいて第3のデジタル画素値を生成するように構成される。いくつかのさらなる態様では、第1のデジタル画素値を閾値画素値と比較することは、第1のデジタル画素値が閾値画素値以上であると決定することを含み、第3のデジタル画素値は第1のデジタル画素値である。
いくつかの代替態様では、第1のデジタル画素値を閾値画素値と比較することは、第1のデジタル画素値が閾値画素値未満であると決定することを含み、第3のデジタル画素値は第1のデジタル画素値と第2のデジタル画素値との間の差に基づいて生成される。いくつかのさらなる態様では、第1のデジタル画素値と第2のデジタル画素値との間の差に基づいて第3のデジタル画素値を生成することは、第1のデジタル画素値を表す2進数から第2のデジタル画素値を表す2進数を減算して、第3のデジタル画素値を表す2進数を生成することを含む。
いくつかの態様では、閾値画素値は、第1の期間および画素セルの構成に基づいて決定される。いくつかの態様では、閾値画素値は、センサー装置に通信可能に結合されたコンピューティングデバイス上で実行されている外部アプリケーションから受信される。
いくつかの態様では、第1のデジタル画素値はセンサー装置の第1のスタティックランダムアクセスメモリに記憶され、第2のデジタル画素値はセンサー装置の第2のスタティックランダムアクセスメモリに記憶され、第3のデジタル画素値を生成することは、第1のスタティックランダムアクセスメモリおよび第2のスタティックランダムアクセスメモリから、第1のデジタル画素値および第2のデジタル画素値にアクセスすることを含む。いくつかのさらなる態様では、集積回路は、第1の期間中に第1の電圧値を第1のスタティックランダムアクセスメモリに転送するように構成された第1のメモリスイッチと、第1の期間中に第2の電圧値を第1のスタティックランダムアクセスメモリに転送するように構成された第2のメモリスイッチと、第1および第2の期間中に第1のメモリスイッチおよび第2のメモリスイッチを開閉するように構成されたラッチとを備える。
いくつかの態様では、電荷蓄積デバイスは、第1の期間中に1つまたは複数のフォトダイオードからの電荷を電圧に変換し、第2の期間中に1つまたは複数のフォトダイオードからの電荷を変換しない。いくつかのさらなる態様では、画素セルは、第1の期間中に電荷蓄積デバイスを1つまたは複数のフォトダイオードに接続し、第1の期間後に電荷蓄積デバイスを1つまたは複数のフォトダイオードから切断するためのスイッチを備える。
いくつかの態様では、画素セルは、適応レンジゲートをさらに備え、画素セルは、適応レンジゲートが開かれるときに高利得フォーマットで、適応レンジゲートが閉じられるときに中利得フォーマットで、電荷を生成するように構成される。いくつかのさらなる態様では、電荷蓄積デバイスは第1の電荷蓄積デバイスであり、画素セルは第2の電荷蓄積デバイスをさらに備え、適応レンジゲートは1つまたは複数のフォトダイオードを第2の電荷蓄積デバイスに接続し、画素セルは、適応レンジゲートが閉じられて第2の電荷蓄積デバイスに1つまたは複数のフォトダイオードからの電荷を電圧に変換させるときに低利得フォーマットで電荷を生成するように構成される。
いくつかの態様では、電荷蓄積デバイスは第1の電荷蓄積デバイスであり、集積回路は、第1の電荷蓄積デバイスからの電荷を第3の電圧に変換するように構成された第2の電荷蓄積デバイスをさらに備え、第2の電圧値を生成することは、第2の電荷蓄積デバイスによって変換された第3の電圧に少なくとも基づいて生成される。
いくつかの態様では、センサー装置は、第3のデジタル画素値に基づいて増幅デジタル画素値を生成するように構成されたセンス増幅器をさらに備える。いくつかのさらなる態様では、センサー装置は、センス増幅器およびプロセッサを備える周辺処理システムをさらに備え、プロセッサは、増幅デジタル画素値を外部処理システムにエクスポートするようにさらに構成される。いくつかのさらなる態様では、プロセッサは、第1のデジタル画素値、第2の電圧値、および第3のデジタル画素値を外部処理システムにエクスポートするようにさらに構成され、外部処理システムは、第1のデジタル画素値、第1の電圧値、第2の電圧値、および第3のデジタル画素値に基づいて、第4のデジタル画素値を生成するようにさらに構成される。
いくつかの態様では、周辺処理システムは、1つまたは複数の追加のプロセッサから1つまたは複数の追加のデジタル画素値を受信し、増幅デジタル画素値および1つまたは複数の追加のデジタル画素値を使用してデジタル画像データを生成するように構成される。いくつかのさらなる態様では、周辺処理システムは、外部処理システム上で実行されている外部アプリケーションにデジタル画像データをエクスポートするようにさらに構成され、外部処理システムは、周辺処理システムから受信されたデジタル画像データに基づいて、外部アプリケーションによって生成されたデジタル画像を表示するように構成されたデジタルディスプレイを備える。
いくつかの例では、方法は、1つまたは複数のフォトダイオードで受信された光の電荷を変換することによって第1の電圧を生成することと、第1のメモリ回路を使用して、第1の電圧に基づいて、第1の期間中に第1の電圧値を生成することと、1つまたは複数のフォトダイオードを含む回路に存在する固定パターンノイズに基づいて第2の電圧を生成することと、第2のメモリ回路を使用して、第1の電圧に基づいて、第2の期間発生する第2の電圧値を生成することと、第1の電圧値を第1のデジタル画素値に変換し、第2の電圧値を第2のデジタル画素値に変換することと、第1のデジタル画素値および第2のデジタル画素値に基づいて第1の変更されたデジタル画素値を生成することとを含む。
以下の図を参照しながら、例示的な実施形態が説明される。
ニアアイディスプレイを含むシステムの一実施形態のブロック図である。 画像センサーおよびその動作の例を示す図である。 画像センサーおよびその動作の例を示す図である。 画像センサーおよびその動作の例を示す図である。 画像センサーおよびその動作の例を示す図である。 画像センサーおよびその動作の例を示す図である。 画像センサーおよびその動作の例を示す図である。 画素アレイの画素セルの例示的な内部構成要素を示す図である。 画像センサーの周辺回路および画素セルアレイの例示的な構成要素を示す図である。 画像センサーの周辺回路および画素セルアレイの例示的な構成要素を示す図である。 画像センサーの周辺回路および画素セルアレイの例示的な構成要素を示す図である。 画素固有の固定パターンノイズ低減のための画素セルおよび集積回路の一例を示す図である。 電荷捕捉期間中の構成要素活動の時系列を示すタイミング図である。 光を入力として受信し、デジタルデータを出力するためのデジタル画素センサーおよびフロー図を示す図である。 ノイズ補正閾値を利用する画素固有の固定パターンノイズ低減のための例示的なプロセスを示す図である。
これらの図は、例示のみを目的として本開示の実施形態を示している。本開示の原理またはうたわれている利点から逸脱することなく、示されている構造および方法の代替実施形態が採用されることが可能であるということを当業者なら以降の記述から容易に認識するであろう。
添付の図においては、同様の構成要素どうしおよび/または機能どうしが、同じ参照ラベルを有する場合がある。さらに、ダッシュと、同様の構成要素どうしの間を区別する第2のラベルとを参照ラベルの後に付けることによって、同じタイプの様々な構成要素が区別される場合がある。本明細書において第1の参照ラベルのみが使用されている場合には、その記述は、第2の参照ラベルとは関わりなく、同じ第1の参照ラベルを有する同様の構成要素のうちのいずれの構成要素にも適用可能である。
以下の説明では、説明の目的で、いくつかの発明の実施形態の完全な理解を提供するために、具体的な詳細が記載される。ただし、様々な実施形態がこれらの具体的な詳細なしに実践され得ることは明らかであろう。図および記述は、限定的であることを意図されているものではない。
デジタル画像センサーは、画素セルのアレイを含む。各ピクセルセルは、光子を電荷(例えば、電子または正孔)に変換することによって入射光を検知するためのフォトダイオードを含む。ピクセルセルのアレイのフォトダイオードによって生成された電荷は、次いで、アナログデジタル変換器(ADC)によってデジタル値に量子化され得る。ADCは、例えば、比較器を使用して、電荷を表す電圧を1つまたは複数の量子化レベルと比較することによって、電荷を量子化することができ、比較結果に基づいてデジタル値が生成され得る。デジタル値は、次いで、デジタル画像を生成するためにメモリに記憶され得る。
デジタル画像データは、物体認識および追跡、ロケーション追跡、拡張現実(AR)、仮想現実(VR)などの様々なウェアラブルアプリケーションをサポートすることができる。これらおよび他のアプリケーションは、抽出技術を利用して、デジタル画像の画素のサブセットから、デジタル画像の態様(例えば、光レベル、風景、意味領域)および/またはデジタル画像の特徴(例えば、デジタル画像に表された物体およびエンティティ)を抽出することができる。例えば、アプリケーションは、反射された構造化光のピクセル(例えば、ドット)を識別し、ピクセルから抽出されたパターンを透過された構造化光と比較し、比較に基づいて深度算出を実施することができる。
アプリケーションはまた、2D検知と3D検知との融合を実施するために、構造化光の抽出されたパターンを提供する同じピクセルセルから2Dピクセルデータを識別することができる。オブジェクト認識および追跡を実施するために、アプリケーションはまた、オブジェクトの画像特徴のピクセルを識別し、ピクセルから画像特徴を抽出し、抽出結果に基づいて認識および追跡を実施することができる。これらのアプリケーションは、一般に、ホストプロセッサ上で実行され、ホストプロセッサは、画像センサーと電気的に接続され、相互接続を介してピクセルデータを受け取ることができる。ホストプロセッサ、画像センサー、および相互接続は、ウェアラブルデバイスの一部であり得る。
デジタル画像センサーは、光をデジタル画像データに変換する複雑な装置である。デジタル画像センサーの電力および精度は、様々なデバイスおよびアプリケーションにおいてデジタル画像センサーをどのように統合および実装するかについての重要な要因である。ARなどのいくつかのアプリケーションは、現実世界の環境をより良く表すために、表示のためのより広い範囲のデジタル画素値から利益を得る。ハイダイナミックレンジ(HDR)デジタル画像センサー(例えば、捕捉された光からより広い範囲のデジタル画素値を生成することができる画像センサー)は、明るい環境または暗い環境で特に有用である。HDRデジタル画像センサーは、環境内の光強度をより正確に表すために、電荷を捕捉してより広い範囲のデジタル画素値に変換するために特に敏感な画素セルを利用する。
HDRセンサーなどの強力なデジタル画素センサーはまた、デジタル画像の各画素に対してより正確なデジタル画素値を生成するための画素固有の集積回路を特徴とすることができる。例えば、HDRデジタル画像センサーは、個々の画素セルのアレイを含むことができ、アレイの個々の画素セルの各々は、光ベースの電荷を捕捉するためのシステムオンチップ(SOC回路)を含むことができる。個々のSOC回路は、個々の画素のSOC回路によって変換された電荷を処理するように構成された対応する画素固有集積回路(特定用途向け集積回路、またはASICとも呼ばれる)に結合されてもよい。HDRを犠牲にすることなく、センサーをより容易にデバイスに統合するために、デジタル画像センサー上で個々の画素セルのフットプリントを可能な限り小さくすることが有利である。
HDRデジタル画像センサーを含む強力なセンサーは、固定パターンノイズ(FPN)の影響を非常に受けやすい。FPNは、デジタル画素センサーの構成要素間の干渉および相対差によって生成される1つまたは複数の信号である。例えば、フォトダイオードに捕捉された光に起因しない残留電圧電荷が電荷蓄積デバイスに蓄積されると、固定パターンノイズが発生する可能性がある。したがって、電荷蓄積デバイスに蓄積された電荷、および電荷から生成された量子化デジタル画素値は、個々の画素セル内のフォトダイオードによって捕捉された光の強度を正確に反映しない。
FPNは、環境または内部ソースに由来し得る。例えば、デジタル画素センサーが光を捕捉する環境は、他のソースからの電磁放射など、光以外の追加の信号をも投射し得る。この放射は、電荷蓄積デバイスによって捕捉され、フォトダイオードから受信される信号を汚染し得る。近位構成要素などの内部ソースもまた、蓄積電荷をさらに汚染する信号を生成し得る。例えば、上述したように、非常にコンパクトな回路は、非常に多くの構成要素を極めて近接して含む。画素セルまたは集積回路内の構成要素からの放射は、ある構成要素から他の構成要素にドリフトし、測定される電荷の精度を変化させる可能性がある。残留信号はまた、構成要素が放電およびリセットされた後に構成要素内に残り、次の蓄積電荷が蓄積し始める前であっても歪む可能性がある。
HDRデジタル画素センサーを構成する高感度構成要素は、多くの場合、個々の画素ドメイン(例えば、画素セルおよび関連する集積回路)間の微小な差を含む。例えば、HDR画素セル内の高感度フォトダイオードは、他の画素ドメインの他のフォトダイオードとはわずかに異なる速度で光に応答して電荷を生成し得る。したがって、2つの異なるフォトダイオードによって捕捉される同じ量の光であっても、2つの異なる生成電荷をもたらし得る。したがって、各個々の画素ドメインは、基礎となる成分の差に基づいて異なる固定パターンノイズを生成し得る。
固定パターンノイズを低減する方法は、ADCによる多重量子化動作を利用して、捕捉された低密度電荷に対する高電荷密度の差を決定することを含む。しかしながら、量子化動作は時間および電力を消費する動作であり、電池式電子機器などの限られた電力デバイスには特に不利である。さらに、多重量子化動作はFPN信号に対して明示的に実行されないため、回路内に捕捉されたFPNの適切な近似を正確に反映しないことが多い。
デジタルダブルサンプリング(DDS)は、異なる期間に画素アレイの複数の捕捉された状態を利用して、アレイ状態間の差を決定する。状態の違いに基づいて、外部構成要素は、FPNを識別し、表示前にデジタル画素画像の画素値を変更しようと試みることができる。しかしながら、ユニバーサルDDS動作は、画像全体にわたって一様に固定パターンノイズを除去するには十分ではない。例えば、デジタル画像のデジタル画素値のアレイにユニバーサルDDSマスク値を適用すると、いくつかのデジタル画素値の適切なノイズ補正が得られる場合があるが、他のデジタル画素値のFPNを過剰にまたは過少に補正する場合がある。静的DDS「マップ」は、外部構成要素によって生成されてもよく、表示前に個々の画素レベルでデジタル画像のデジタル画素値を変更する。しかしながら、この静的DDSマップは、特にデジタル画像センサーが環境全体を移動する可能性があるデバイスに組み込まれている場合、環境内のFPNの変化する発生源を反映しない。さらに、外部構成要素によるマスク/マップの適用は、アレイが既にセンサーからエクスポートされた後にデジタル画素値のアレイを変更するために追加の電力消費を必要とする場合がある。
本明細書に記載の実施形態は、センサー上二重量子化プロセスを実施するデジタル画素センサーに関する。より具体的には、個々の画素ドメインのアレイを実装するデジタル画素センサーが説明され、各ドメインは画素セルおよび対応するASICを含む。個々の画素ドメインは、光への曝露中に信号電荷を捕捉し、これが増幅および量子化され、次いで回路がリセットされる。その後、「リセット電荷」(または「ノイズ電荷」)が捕捉されて量子化され、曝露期間後の回路内の潜在ノイズを表す。電荷閾値が決定されることができ、量子化信号電荷が電荷閾値を満たさない場合、プロセッサはリセット電荷に基づいて以前に量子化された信号電荷を変更することができる。
いくつかの例では、センサー装置は、電圧を生成するように構成された画素セルであって、光に応答して電荷を生成するように構成された1つまたは複数のフォトダイオードと、電荷を電圧に変換するための電荷蓄積デバイスとを含む画素セルを備える。画素セルは、システムオンチップ(SOC)画素の一部として構成されてもよく、画素セルのアレイ内の1つの画素セルであってもよい。画素セルは、光を受信したことに応答して電荷を生成する1つまたは複数のフォトダイオードを有するそれ自体の個別回路を含む。個々の画素セルおよび対応する個々の回路は、画素固有ドメインまたは画素ドメインと呼ばれることがある。生成および蓄積される電荷の量は、入射光の強度およびフォトダイオードが光に曝露される時間に基づいて変化し得る。後述するように、キャパシタなどの電荷蓄積デバイスは、1つまたは複数のフォトダイオードで生成された電荷を、画素値を生成するために使用され得るアナログ電圧信号に変換する。
いくつかの例では、センサー装置は、SOC画素に結合された特定用途向け集積回路(ASIC)層に組み込まれた集積回路をさらに備える。集積回路は、電荷蓄積デバイスによって捕捉されたアナログ電圧信号と相互作用して処理するためのコンパレータおよび論理状態ラッチなどの構成要素を含む。例えば、集積回路は、画素セルの電荷蓄積デバイスから得られる第1の電圧に基づいて、第1の期間中に第1の電圧値を生成し、画素セルおよび集積回路からの固定パターンノイズによって生成される第2の電圧に基づいて、第2の期間生じる第2の電圧値を生成するように構成されてもよい。第1の期間中に捕捉される第1の電圧値は、電荷蓄積デバイスのための曝露期間中に電荷蓄積デバイスにおいて捕捉され変換される信号電圧であってもよい。例えば、第1の期間は、「曝露期間」と呼ばれる、電荷蓄積デバイスがSOC画素のフォトダイオードに結合されている期間であってもよい。
第1の期間は、電荷蓄積デバイスに電圧信号の変換を開始させるために電荷蓄積デバイスとフォトダイオードとの間の回路を閉じるためにスイッチが係合された時点で開始し得る。第1の期間は、電荷蓄積デバイスによる電圧信号のさらなる変換を防止するために、スイッチが後に係合されて電荷蓄積デバイスとフォトダイオードとの間の回路を開く時点で終了し得る。あるいは、第1の期間は、ASICに埋め込まれたスタティックランダムアクセスメモリ(SRAM)が電荷蓄積デバイスによって変換された蓄積電荷を完了した時点で終了し得る。第1の期間中に生成された第1の電圧値は、第1の期間中に電荷蓄積デバイス内で生成された統合電圧値を表し得る。この統合電圧値は、フォトダイオードが電荷蓄積デバイスに接続されている間にフォトダイオードの光取り込みから変換された電荷値、ならびに画素ドメインおよび/またはその環境によって本質的に生成される任意の追加の固定パターンノイズを含む。例えば、第1の電圧値は、電荷蓄積デバイスから得られる第1の電圧、ならびに画素ドメインに潜在する固定パターンノイズ信号に基づいて生成され得る。
第2の期間中に捕捉される第2の電圧値は、画素ドメインのリセットに続く期間中に電荷蓄積デバイスにおいて捕捉され変換されるリセット電圧であってもよい。例えば、第2の期間は、電荷蓄積デバイスがフォトダイオードに結合されていないが、電荷蓄積デバイスおよび/または画素ドメインの他の構成要素によって捕捉された潜在的な固定パターンノイズに起因して電圧信号ベースの電荷を生成している期間であり得る。例えば、第2の電圧値は、ASICのリセットパルスに追従して電荷蓄積デバイスおよびコンパレータによって生成される電圧値であり得る。したがって、第2の電圧値は、第1の期間中に発生するフォトダイオードからの電荷の変換なしに画素ドメインによって自然に生成される第2の電圧に基づいて生成することができる。
第2の期間は、第1の期間の後で、画素ドメイン内の回路のリセットパルスの後の時点で開始し得る。画素ドメイン内の回路のリセットは、第1の期間中に以前に捕捉された信号の画素ドメインをパージし、他の後続の曝露期間のために画素ドメインを準備するために開始され得る。この第2の期間中、電荷蓄積デバイスはフォトダイオードに接続されず、したがって、フォトダイオードによって捕捉された光から電荷を蓄積および変換しない。したがって、第2の期間中に捕捉された電荷は、曝露期間が発生していない間、画素ドメイン内の潜在電圧を表す。これらの潜在電圧は、環境に固有の固定パターンノイズおよびそれらが測定される画素固有ドメインに関連付けられる。第2の期間は、潜在電圧信号がSRAMによって適切に記憶されると、その後すぐに終了し得る。
いくつかの例では、センサー装置は、捕捉された電圧を1つまたは複数のデジタル画素値を含むデジタル画素データに変換するように構成された1つまたは複数のアナログ-デジタル変換器(ADC)をさらに備える。具体的には、ADCは、電荷蓄積デバイスに記憶されたアナログ電圧信号を、画素セルにおける入射光の捕捉強度を表すデジタル画素値を含むデジタルデータに変換する(アナログ電圧信号を「量子化する」と呼ばれる)ことができる。例えば、ADCは、第1の電圧値を第1のデジタル画素値に変換し、第2の電圧値を第2のデジタル画素値に変換することができる。いくつかの実施形態では、第1の電圧値および第2の電圧値は、電圧値が受信される期間(したがって、電圧信号が送信されるSRAM)に応じてADCによって異なるように変換されてもよい。例えば、第1の電荷(信号電荷)は、第1のSRAMに送信され、曝露期間中に捕捉された光およびFPNの強度を表すのに十分な第1の捕捉期間中に9ビットのデジタル値に変換され得る。第2の電圧値は、捕捉されたFPNの強度を正確に表しながら消費電力を低減するために異なるように変換されてもよい。例えば、第2の電荷(リセット電荷)は、第2の期間中に第2のSRAMに送信され、曝露期間中に捕捉されたFPNの強度を表すのに十分な6ビットデジタル値に変換され得る。第1および第2のSRAMは、第1および第2のSRAMの異なる変換構成に基づいて、異なるサイズ、異なるサイズであり、異なる構成要素を含み、異なる材料などで作られることが理解されよう。
いくつかの例では、センサー装置は、ADCによって変換されたデジタル画素値を変更し、および/または新しいデジタル画素値を生成するように構成された1つまたは複数のプロセッサをさらに備える。例えば、プロセッサは、ADCによって量子化された第1のデジタル画素値および第2のデジタル画素値に基づいて第3のデジタル画素値を生成するように構成されてもよい。第3のデジタル画素値の生成は、センサーが、画素セルのアレイの画素セルによって捕捉され、オフセンサーエクスポートの前に第1のデジタル画素値からFPNを低減することによって対応するASICで処理される光をより正確に表すことを可能にする。例えば、特定の画素ドメインで生成された潜在電圧信号から6ビットの数値に変換されている可能性のある第2のデジタル画素値は、曝露期間中に特定の画素ドメインで生成された電圧信号に基づいて9ビットの数値に変換されている可能性のある第1のデジタル画素値から減算されてもよい。結果として得られる第3のデジタル画素値(第1のデジタル画素値と第2のデジタル画素値との間の差を表す)は、特定の画素ドメインによって本質的に生成されるFPNがない場合にフォトダイオードによって捕捉される電荷を近似することができる。
いくつかの例では、電荷蓄積デバイスは、第1の期間中に1つまたは複数のフォトダイオードからの電荷を電圧に変換し、第2の期間中に1つまたは複数のフォトダイオードからの電荷を変換しない。例えば、画素セルは、第1の期間中に電荷蓄積デバイスを1つまたは複数のフォトダイオードに接続し、第2の期間中に電荷蓄積デバイスを1つまたは複数のフォトダイオードから切断するためのスイッチを含み得る。スイッチは、電荷蓄積デバイスをフォトダイオードから分離し、SOC画素の一部であってもよく、またはSOC画素を、捕捉および蓄積された電荷を処理するための対応する集積回路に接続するためのSOC画素の周辺のスイッチであってもよい。
場合によっては、画素ドメインによって生成されるFPNは、曝露期間中に生成される全信号電荷と比較して比較的小さい。例えば、高強度(例えば、非常に明るい)光では、光を捕捉するセンサーおよび対応する画素ドメインは、画素ドメインによって本質的に生成されるFPNよりも著しく大きい電荷値を生成し得る。第1および第2のデジタル画素値から変更されたデジタル画素値を生成することは、センサーのプロセッサが変更および任意の関連する計算を実行している間にエネルギーを消費する。場合によっては、第1のデジタル画素値からの固定パターンノイズの除去は、デジタル画像センサーによって生成されたデジタル画像をわずかに改善するだけであり得る。このわずかに有益な動作は依然としてエネルギーを消費し、エネルギーの損失の不利益は、固定パターンノイズの除去の利点を上回る。
いくつかの例では、集積回路は、閾値画素値を決定するようにさらに構成され、閾値画素値は、ADCによって量子化された第1のデジタル画素値に対応する閾値である。閾値画素値より大きい(または場合によっては閾値画素値に等しい)デジタル画素値は、デジタル画素値オフセンサーのエクスポートの前に変更操作を受けなくてもよい。これは、捕捉された光が非常に強い(例えば、非常に明るい光)場合、捕捉された電荷の比較的高い強度が固定パターンノイズを「かき消す」ためである。したがって、閾値画素値よりも小さい(または場合によっては閾値画素値に等しい)任意のデジタル画素値は、デジタル画素値オフセンサーのエクスポートの前に変更操作を受けてもよい。これは、信号電荷の強度がFPNに近いほど、相対的に低い電荷の強度が固定パターンノイズで「汚染」されるためである。本質的に、捕捉された信号電荷の強度が低いほど、固定パターンノイズからなる電荷の割合が高くなる。これは、変換された第1のデジタル画素値と閾値画素値との比較によって決定されてもよい。
いくつかの例では、閾値画素値は、第1の期間および画素セルの構成に基づいて決定される。例えば、変更のための閾値画素値は、電荷蓄積デバイスが電荷を変換する期間(例えば、曝露期間)および画素セルの構成の種類に基づくことができ、蓄積された電圧を閾値電圧と比較することによって確立され得る。例えば、より長い曝露期間およびより高感度のフォトダイオードは、画素セルで捕捉されるより高い電圧信号をもたらすことが多い。閾値画素値は、デジタル画像センサーまたはデジタル画像センサーと通信する外部アプリケーションによって、これらの要因に基づいて決定および/または修正され得る。いくつかの実施形態では、閾値画素値は、1つまたは複数の画素ドメインで検出されたFPNのレベルに基づいて設定される。例えば、閾値画素値は、デジタル画素センサーの前のフレームキャプチャで量子化されたFPNの平均値、中央値、または最頻値に比例して設定されてもよい。いくつかの例では、閾値画素値は、センサー装置に通信可能に結合されたコンピューティングデバイス上で実行されている外部アプリケーションから受信されたデータに基づいて決定される。例えば、本明細書に記載のデジタル画素センサーは、デジタル画素センサーによって生成されたデジタル画像を利用して、デジタル画素センサーによって捕捉された環境をユーザに表示するためにVRまたはAR表示デバイスに結合されてもよい。環境は、実行中のアプリケーションに基づいて生成されたデジタル画像の多かれ少なかれ精度を必要とする場合がある(例えば、ARアプリケーションは、ディスプレイの「パススルー」の性質のためにより低い分解能のアーチファクトを生成する場合があるが、VRアプリケーションは、環境の「没入」を改善するためにより高い分解能の画像を必要とする場合がある。アプリケーションの性質上、閾値は、電力を節約するために、またはリソース集約的な通信を低減するために、適宜設定され得る。
いくつかの例では、第1の変更されたデジタル画素値を生成することは、第1のデジタル画素値および第2のデジタル画素値に基づいて差分値を決定することと、差分値に基づいて第1のデジタル画素値を変更することとを含む。これは、第1のデジタル画素値の総信号電荷から画素ドメインの量子化固定パターンノイズを表す第2のデジタル画素値を減算することを含むことができる。結果として生じる差は、画素ドメインによって生成されたFPNを伴わずにフォトダイオードによって光から捕捉された信号を表す。
上記のように、いくつかの例では、第1のデジタル画素値はセンサー装置の第1のスタティックランダムアクセスメモリに記憶され、第2のデジタル画素値はセンサー装置の第2のスタティックランダムアクセスメモリに記憶され、第3のデジタル画素値を生成することは、第1のスタティックランダムアクセスメモリおよび第2のスタティックランダムアクセスメモリから、第1のデジタル画素値および第2のデジタル画素値にアクセスすることを含む。例えば、第1のデジタル画素値を記憶するために使用される第1のSRAMおよび第2のデジタル画素値を記憶するために使用される第2のSRAMは、両方の値をオンセンサープロセッサに送信して、FPN低減に関連する計算を実行することができる。いくつかの例では、第1および第2のSRAMの両方は、対応する期間に画素ドメインによって生成されたそれぞれの電圧値をSRAMに転送するように構成されたスイッチを介してASICの残りの部分に結合される。ASIC内のラッチは、電圧をデジタル画素値に変換するために、これらの期間においてスイッチを開閉するように構成されてもよい。
いくつかの例では、スイッチを利用してSRAMをASICの残りの部分に接続する代わりに、集積回路はADCデジタルカウンタを利用して曝露期間を追跡し、各期間中にそれぞれSRAMをリセットし、SRAMに信号を送信することができる。例えば、集積回路は、第1の期間および第2の期間中に、デジタル画素センサーによるフレームキャプチャの現在の期間を示す一連のADCカウント信号を受信するようにさらに構成されてもよい。したがって、第1の電圧値および第2の電圧値を生成することは、一連のADCカウント信号に基づいており、第1および第2の電圧信号を対応する第1および第2のSRAMに送信するときに物理構成要素スイッチの使用を必要としない。
いくつかの例では、適応レンジゲートおよび追加の電荷蓄積デバイスを画素セルに統合して、画素ドメインによって変換され得る光強度のダイナミックレンジを増加させることができる。例えば、適応レンジゲートおよび/または適応レンジゲートを介してフォトダイオードに接続された追加のキャパシタは、画素セルが高、中、または低利得の光強度キャプチャ、またはその間の任意のレンジを生成することを可能にし得る。いくつかの例では、ASICは、画素セルとASICとの間に追加の電荷蓄積デバイスを含むことができる。追加の画素セルは、画素ドメインが第1の電圧値および/または第2の電圧値のいずれかに関してDDS動作を実行することを可能にするように構成され得る。例えば、第1および第2の電圧を生成するときの電圧サンプリング精度を改善するために、画素セルとASICとの間に追加の容量を含めることができる。
いくつかの例では、デジタル画素センサーの周辺処理システムにセンス増幅器が含まれてもよい。センス増幅器は、デジタル画素値オフセンサーのエクスポートの前に量子化デジタル画素値の信号を増幅するように構成されてもよい。
いくつかの例では、プロセッサは、第1の変更されたデジタル画素値を周辺処理システムにエクスポートするようにさらに構成される。周辺処理システムは、オフセンサーアプリケーションまたはプロセスの一部として使用されるデジタル画像を生成するように構成されたオンセンサー処理システムであってもよい。例えば、デジタル画素センサーの周辺部は、デジタル画像を作成するためにデジタル画素値のアレイをコンパイルするために利用されるいくつかのデジタル画素値を、デジタル画像センサーの各画素ドメインから受信することができる。デジタル画像は、変更されたデジタル画素値のアレイを使用してデジタル画像を表示するように構成されたオフセンサー表示モジュールにエクスポートされてもよい。
いくつかの例では、プロセッサは、第3のデジタル画素値、第1の電圧値、および第2の電圧値に基づいて、第4のデジタル画素値を生成するように構成された外部処理システムに第1の電圧値および第2の電圧値をエクスポートするようにさらに構成される。外部処理システムは、センサーから外れて生じる補足的なノイズ低減動作の一部として第3のデジタル画素値をさらに変更して、新しい第4のデジタル画素値を生成することができる。例えば、オンセンサープロセッサによって実行されるFPNを除去するための変更に加えて、第2のオフセンサープロセッサは、ARまたはVRアプリケーションなどのアプリケーションの一部としての表示および対話のためにデジタル画像のデジタル画素値をさらに変更することができる。これに関して生成されたデジタル画像は、外部処理システム、例えばアプリケーションを組み込んだデジタル表示システムによって利用されて、画素ドメインによって生成された第3のデジタル画素値を部分として含む画像を表示することができる。したがって、デジタル画像は、フレーム捕捉中に多くの画素ドメインによって生成された多くのデジタル画素値で構成され得る。
いくつかの例では、方法は、アプリケーションシステムおよびセンサー装置に関して上述したプロセスを含む。開示される技法は、人工現実システムを含むか、または人工現実システムに関連して実装され得る。人工現実は、例えば、仮想現実(VR)、拡張現実(AR)、複合現実(MR)、ハイブリッド現実、またはそれらの何らかの組合せおよび/もしくは派生物を含み得る、ユーザへの提示前に何らかの様式で調節されている現実の形態である。人工現実コンテンツは、完全に生成されたコンテンツ、またはキャプチャされた(例えば、現実世界の)コンテンツと組み合わせられた生成されたコンテンツを含み得る。人工現実コンテンツは、ビデオ、オーディオ、触覚フィードバック、またはそれらの何らかの組合せを含み得、それらのいずれも、単一のチャネルまたは複数のチャネルにおいて提示され得る(観察者に3次元効果をもたらすステレオビデオなど)。加えて、いくつかの実施形態においては、人工現実はまた、例えば、人工現実におけるコンテンツを作り出すために使用される、および/または、さもなければ、人工現実において使用される(例えば、人工現実における活動を実施する)、アプリケーション、製品、アクセサリ、サービス、またはそのいくつかの組合せに関連付けられることが可能である。人工現実コンテンツを提供する人工現実システムは、ホストコンピュータシステムに接続されたヘッドマウントディスプレイ(HMD)、スタンドアロンHMD、モバイルデバイスまたはコンピューティングシステム、あるいは、1人または複数の観察者に人工現実コンテンツを提供することが可能な任意の他のハードウェアプラットフォームを含む、様々なプラットフォーム上に実装され得る。
図1は、ニアアイディスプレイ100を含むシステムの一実施形態のブロック図である。システムは、制御回路170に各々接続された、ニアアイディスプレイ100と、撮像デバイス160と、入出力インターフェース180と、画像センサー120a~120dおよび150a~150bとを含む。システム100は、ヘッドマウントデバイス、ウェアラブルデバイスなどとして構成され得る。
ニアアイディスプレイ100は、ユーザにメディアを提示するディスプレイである。ニアアイディスプレイ100によって提示されるメディアの例は、1つまたは複数の画像、ビデオ、および/またはオーディオを含む。いくつかの実施形態では、オーディオは、外部デバイス(例えば、スピーカおよび/またはヘッドフォン)を介して提示され、この外部デバイスは、ニアアイディスプレイ100および/または制御回路170からオーディオ情報を受信し、そのオーディオ情報に基づいてオーディオデータをユーザに提示する。いくつかの実施形態では、ニアアイディスプレイ100はまた、ARアイウェアグラスとして働き得る。いくつかの実施形態では、ニアアイディスプレイ100は、コンピュータ生成された要素(例えば、画像、ビデオ、音)を用いて、物理的現実世界の環境のビューを増強する。
ニアアイディスプレイ100は、導波路ディスプレイアセンブリ110、1つまたは複数の位置センサー130、および/または慣性測定ユニット(IMU)140を含む。導波路ディスプレイアセンブリ110は、ソースアセンブリと、出力導波路と、コントローラとを含み得る。
IMU140は、位置センサー130のうちの1つまたは複数から受信された測定信号に基づいて、ニアアイディスプレイ100の初期位置に対するニアアイディスプレイ100の推定位置を指示する高速較正データを生成する電子デバイスである。
撮像デバイス160は、様々なアプリケーションのための画像データを生成し得る。例えば、撮像デバイス160は、制御回路170から受信された較正パラメータに従って低速較正データを提供するために画像データを生成し得る。撮像デバイス160は、例えば、ユーザのロケーション追跡を実施するために、ユーザが位置する物理的環境の画像データを生成するための画像センサー120a~120dを含み得る。撮像デバイス160は、例えば、ユーザの関心オブジェクトを識別するために、ユーザの注視点を決定するための画像データを生成するための画像センサー150a~150bをさらに含み得る。
入出力インターフェース180は、ユーザが制御回路170にアクション要求を送信することを可能にするデバイスである。アクション要求は、特定のアクションを実行するための要求である。例えば、アクション要求は、アプリケーションを開始もしくは終了すること、または特定のアクションをアプリケーション内で実行することであってよい。
制御回路170は、撮像デバイス160、ニアアイディスプレイ100、および入出力インターフェース180のうちの1つまたは複数から受信された情報に従って、ユーザへの提示のためのメディアをニアアイディスプレイ100に提供する。いくつかの例では、制御回路170は、ヘッドマウントデバイスとして構成されたシステム100内に収容され得る。いくつかの例では、制御回路170は、システム100の他の構成要素と通信可能に結合されたスタンドアロンコンソールデバイスであり得る。図1に示される例では、制御回路170は、アプリケーションストア172と、追跡モジュール174と、エンジン176とを含む。
アプリケーションストア172は、制御回路170によって実行するための1つまたは複数のアプリケーションを記憶する。アプリケーションは、プロセッサによって実行されたとき、ユーザへの提示のためのコンテンツを生成する命令のグループである。アプリケーションの例は、ゲームアプリケーション、会議アプリケーション、ビデオ再生アプリケーション、または他の好適なアプリケーションを含む。
追跡モジュール174は、1つまたは複数の較正パラメータを使用してシステム100を較正し、ニアアイディスプレイ100の位置の決定における誤差を低減するために、1つまたは複数の較正パラメータを調整し得る。
追跡モジュール174は、撮像デバイス160からの低速較正情報を使用して、ニアアイディスプレイ100の移動を追跡する。追跡モジュール174はまた、高速較正情報からの位置情報を使用して、ニアアイディスプレイ100の基準点の位置を決定する。
エンジン176は、システム100内でアプリケーションを実行し、追跡モジュール174から、ニアアイディスプレイ100の位置情報、加速度情報、速さ情報、および/または予測された将来の位置を受信する。いくつかの実施形態では、エンジン176によって受信された情報は、ユーザに提示されるコンテンツのタイプを決定する導波路ディスプレイアセンブリ110への信号(例えば、ディスプレイ命令)をもたらすために使用され得る。例えば、インタラクティブ体験を提供するために、エンジン176は、(例えば、追跡モジュール174によって提供される)ユーザのロケーション、または(例えば、撮像デバイス160によって提供される画像データに基づく)ユーザの注視点、(例えば、撮像デバイス160によって提供される画像データに基づく)物体とユーザとの間の距離に基づいて、ユーザに提示されるべきコンテンツを決定し得る。
図2A、図2B、図2C、図2D、図2E、および図2Fは、画像センサー200(例えば、デジタル画像センサー)およびその動作の例を示す。図2Aに示されるように、画像センサー200は、画素セル201を含む画素セルのアレイを含むことができ、画像の画素に対応するデジタル強度データを生成することができる。画素セル201は、画像センサー200内の画素セルのアレイの一部であってもよい。図2Aに示されるように、画素セル201は、1つまたは複数のフォトダイオード202と、電子シャッタスイッチ203と、転送スイッチ204と、リセットスイッチ205と、電荷蓄積デバイス206と、量子化器207とを含み得る。量子化器207は、画素セル201によってのみアクセス可能な画素レベルADCとすることができる。フォトダイオード202は、例えば、P-Nダイオード、P-I-Nダイオード、またはピン止めダイオードを含み得るが、電荷蓄積デバイス206は、転送スイッチ204の浮遊拡散ノードであり得る。フォトダイオード202は、曝露期間内に光を受光すると電荷を生成および蓄積することができ、曝露期間内に生成される電荷の量は、光の強度に比例することができる。
曝露期間は、イネーブルされたときにフォトダイオード202によって生成された電荷を遠ざけることができる、AB信号が電子シャッタスイッチ203を制御するタイミングと、イネーブルされたときにフォトダイオード202によって生成された電荷を電荷蓄積デバイス206に転送することができる、TX信号が転送スイッチ204を制御するタイミングとに基づいて定義され得る。例えば、図2Bを参照すると、AB信号は、時刻T0においてアサート停止されて、フォトダイオード202が電荷を生成し、フォトダイオード202が飽和するまで電荷の少なくとも一部を残留電荷として蓄積することを可能にすることができる。T0は、露光期間の開始をマークすることができる。TX信号は、転送スイッチ204を部分的オン状態に設定して、飽和後にフォトダイオード202によって生成された追加の電荷(例えば、オーバーフロー電荷)を電荷蓄積デバイス206に転送することができる。時刻T1において、TG信号をアサートして、電荷蓄積デバイス206に残留電荷を転送することができるので、時刻T0における曝露期間の開始から、電荷蓄積デバイス206は、フォトダイオード202が生成した電荷をすべて蓄積することができる。
時刻T2において、TX信号は、フォトダイオード202から電荷蓄積デバイス206を隔離するためにアサート解除され得るが、AB信号は、フォトダイオード202によって生成された電荷を遠くへ誘導するためにアサートされ得る。時刻T2は、曝露期間の終了をマークすることができる。時刻T2における電荷蓄積デバイス206の両端のアナログ電圧は、電荷蓄積デバイス206に蓄積された電荷の総量を表すことができ、これは、曝露期間内にフォトダイオード202によって生成された電荷の総量に対応し得る。TX信号およびAB信号の両方は、画素セル201の一部とすることができるコントローラ(図2Aには図示せず)によって生成され得る。アナログ電圧が量子化された後、リセットスイッチ205は、RST信号によってイネーブルされて、電荷蓄積デバイス206内の電荷を除去して、次の測定に備えることができる。
図2Cは、画素セル201の追加の構成要素を示す。図2Cに示されるように、画素セル201は、電荷蓄積デバイス206における電圧をバッファーし、その電圧を量子化器207に出力することができるソースフォロワ210を含むことができる。電荷蓄積デバイス206およびソースフォロワ210は、電荷測定回路212を形成することができる。ソースフォロワ210は、ソースフォロワ210を流れる電流を設定するバイアス電圧VBIASによって制御される電流源211を含むことができる。量子化器207は、コンパレータを含むことができる。電荷測定回路212および量子化器207はともに処理回路214を形成することができる。コンパレータは、量子化出力を画素値208として記憶するためにメモリ216とさらに結合される。メモリ216は、スタティックランダムアクセスメモリ(SRAM)デバイスなどのメモリデバイスのバンクを含むことができ、各メモリデバイスはビットセルとして構成される。バンク内のメモリデバイスの数は、量子化出力の分解能に基づくことができる。例えば、量子化出力が10ビット分解能を有する場合、メモリ216は、10個のSRAMビットセルのバンクを含むことができる。画素セル201が、異なる波長チャネルの光を検出するために複数のフォトダイオードを含む場合、メモリ216は、SRAMビットセルの複数のバンクを含むことができる。
量子化器207は、時刻T2後にアナログ電圧を量子化して画素値208を生成するようにコントローラによって制御することができる。図2Dは、量子化器207によって実行される例示的な量子化動作を示す。図2Dに示されるように、量子化器207は、比較決定(図2Cおよび図2Dにおいて「ラッチ」とラベル付けされている)を生成するために、ソースフォロワ210によって出力されたアナログ電圧を傾斜基準電圧(図2Cおよび図2Dにおいて「VREF」とラベル付けされている)と比較することができる。決定が作動するためにかかる時間は、アナログ電圧の量子化の結果を表すためにカウンタによって測定され得る。いくつかの例では、時間は、傾斜基準電圧が開始点にあるときにカウントを開始する自走カウンタによって測定することができる。自走カウンタは、クロック信号(図2Dでは「クロック」とラベル付けされている)に基づいて、かつ傾斜基準電圧が上昇(または下降)するにつれて、そのカウント値を周期的に更新することができる。コンパレータ出力は、傾斜基準電圧がアナログ電圧に一致するときに作動する。コンパレータ出力の作動は、カウント値をメモリ216に記憶させることができる。カウント値は、アナログ電圧の量子化出力を表すことができる。再び図2Cを参照すると、メモリ216に記憶されたカウント値は、画素値208として読み出され得る。
図2Aおよび図2Cにおいて、画素セル201は、処理回路214(電荷測定回路212および量子化器207を含む)およびメモリ216を含むものとして示されている。いくつかの例では、処理回路214およびメモリ216は、画素セル201の外部にあってもよい。例えば、画素セルのブロックが、各画素セルのフォトダイオード(複数可)によって生成された電荷を量子化し、量子化結果を記憶するために、処理回路214およびメモリ216を共有し、交代でアクセスすることができる。
図2Eは、画像センサー200の追加の構成要素を示す。図2Eに示すように、画像センサー200は、画素セル201a0~a3、201a4~a7、201b0~b3、または201b4~b7などの行および列に配置された画素セル201を含む。各画素セルは、1つまたは複数のフォトダイオード202を含み得る。画像センサー200は、処理回路214(例えば、電荷測定回路212およびコンパレータ/量子化器207)およびメモリ216を備える量子化回路220(例えば、量子化回路220a0、a1、b0、b1)をさらに含む。図2Eの例では、4つの画素セルのブロックは、ブロックレベルADC(例えば、コンパレータ/量子化器207)と、マルチプレクサ(図2Eには図示せず)を介したブロックレベルメモリ216とを含むことができるブロックレベル量子化回路220を共有することができ、各画素セルは、電荷を量子化するために量子化回路220に交代でアクセスする。例えば、画素セル201a0~a3は量子化回路220a0を共有し、画素セル201a4~a7は量子化回路221a1を共有し、画素セル201b0~b3は量子化回路220b0を共有し、画素セル201b4~b7は量子化回路220b1を共有する。いくつかの例では、各画素セルは、その専用量子化回路を含むか、または有し得る。
さらに、画像センサー200は、カウンタ240およびデジタル-アナログ変換器(DAC)242などの他の回路をさらに含む。カウンタ240は、カウント値をメモリ216に供給するためのデジタルランプ回路として構成することができる。カウント値はまた、図2Cおよび図2DのVREFなどのアナログランプを生成するためにDAC242に供給されることができ、アナログランプは、量子化動作を実行するために量子化器207に供給され得る。画像センサー200は、カウンタ値を表すデジタルランプ信号、およびアナログランプ信号を画素セルの異なるブロックの処理回路214に分配するためのバッファー230a、230b、230c、230dなどを含むバッファーネットワーク230をさらに含み、それにより、任意の所与の時点で、各処理回路214は同じアナログランプ電圧および同じデジタルランプカウンタ値を受信する。これは、異なる画素セルによって出力されるデジタル値の差が、画素セルによって受信されるデジタルランプ信号/カウンタ値およびアナログランプ信号の不一致によるのではなく、画素セルによって受信される光の強度の差によるものであることを保証するためである。
画像センサー200からの画像データは、ホストプロセッサ(図2A~図2Eには図示せず)に送信されて、物体252を識別および追跡すること、または図2Fに示す画像センサー200に関して物体252の深度検知を実行することなどの異なるアプリケーションをサポートすることができる。すべてのこれらの用途について、画素セルのサブセットのみが、関連情報(例えば、物体252の画素データ)を提供するが、画素セルの残りは、関連情報を提供しない。例えば、図2Fを参照すると、時刻T0において、画像センサー200の画素セル250のグループが、物体252によって反射された光を受信するが、時刻T6において、物体252は、(例えば、物体252の移動、画像センサー200の移動、またはその両方により)位置を変えていることがあり、画像センサー200の画素セル270のグループが、物体252によって反射された光を受信する。時刻T0およびT6の両方において、画像センサー200は、送信される画素データの量を減らすために、疎画像フレームとして、画素セル260および270のグループからの画素データのみをホストプロセッサに送信することができる。そのような構成は、より高いフレームレートでより高い分解能の画像の送信を可能にすることができる。例えば、より多くの画素セルを含むより大きい画素セルアレイが、画像分解能を改善するために、物体252を撮像するために使用され得るが、改善された画像分解能を提供するために必要とされる帯域幅および電力は、物体252の画素データを提供する画素セルを含む画素セルのサブセットのみが、画素データをホストプロセッサに送信するとき、低減され得る。同様に、画像センサー200は、より高いフレームレートで画像を生成するように動作することができるが、各画像が画素セルのサブセットによって出力される画素値のみを含む場合、帯域幅および電力の増加は低減され得る。同様の技術は、3D検知の場合に画像センサー200によって使用され得る。
ピクセルデータ送信のボリュームはまた、3D検知の場合、低減され得る。例えば、照明器が、物体上に構造化光のパターンを投影することができる。構造化光は、物体の表面上で反射され得、反射された光のパターンが、画像を生成するために画像センサー200によって捕捉され得る。ホストプロセッサは、パターンを物体パターンと照合し、画像における物体パターンの構成に基づいて、画像センサー200に対する物体の深度を決定することができる。3D検知について、画素セルのグループのみが、関連情報(例えば、パターン252の画素データ)を含む。送信される画素データの量を減らすために、画像センサー200は、画素セルのグループからの画素データまたは画像内のパターンの画像位置のみをホストプロセッサに送信するように構成され得る。
図3は、図2Aの画素セル201の構成要素のうちの少なくともいくつかを含むことができる、画素セルアレイの画素セル300の例示的な内部構成要素を示す。画素セル300は、フォトダイオード310a、310bなどを含む、1つまたは複数のフォトダイオードを含むことができ、各々は、異なる周波数範囲の光を検出するように構成され得る。例えば、フォトダイオード310aは、可視光(例えば、単色、あるいは、赤色、緑色、または青色のうちの1つ)を検出することができるが、フォトダイオード310bは、赤外光を検出することができる。画素セル300は、どのフォトダイオードが画素データ生成のために電荷を出力するかを制御するために、スイッチ320(例えば、トランジスタ、コントローラバリア層)をさらに含む。
さらに、画素セル300は、図2Aに示される、電子シャッタスイッチ203、転送スイッチ204、電荷蓄積デバイス205、バッファー206、量子化器207と、メモリ380とをさらに含む。電荷蓄積デバイス205は、電荷-電圧変換利得を設定するために、構成可能なキャパシタンスを有することができる。いくつかの例では、電荷蓄積デバイス205のキャパシタンスは、電荷蓄積デバイス205がオーバーフロー電荷によって飽和される可能性を低減するために、中光強度のためのFD ADC動作についてオーバーフロー電荷を蓄積するために増加され得る。電荷蓄積デバイス205のキャパシタンスはまた、低光強度のためのPD ADC動作について電荷-電圧変換利得を増加させるために減少され得る。電荷-電圧変換利得の増加は、量子化誤差を低減し、量子化分解能を増加させることができる。いくつかの例では、電荷蓄積デバイス205のキャパシタンスはまた、量子化分解能を増加させるためにFD ADC動作中に減少され得る。バッファー206は、バイアス信号BIAS1によって電流が設定され得る電流源340、ならびにバッファー206をオン/オフするためにPWR_GATE信号によって制御され得る電力ゲート330を含む。バッファー206は、画素セル300を無効化することの一部としてオフにされ得る。
さらに、量子化器207は、コンパレータ360と出力ロジック370とを含む。コンパレータ207は、出力を生成するためにバッファーの出力を基準電圧(VREF)と比較することができる。量子化動作(例えば、飽和時間(TTS)動作、FD ADC動作、およびPD ADC動作)に応じて、コンパレータ360は、出力を生成するために、バッファーされた電圧を、異なるVREF電圧と比較することができ、出力は、さらに、メモリ380に自走カウンタからの値を画素出力として記憶させるために出力ロジック370によって処理される。コンパレータ360のバイアス電流は、コンパレータ360の帯域幅を設定することができるバイアス信号BIAS2によって制御されることができ、これは、画素セル300によってサポートされるべきフレームレートに基づいて設定され得る。その上、コンパレータ360の利得は、利得制御信号GAINによって制御され得る。コンパレータ360の利得は、画素セル300によってサポートされるべき量子化分解能に基づいて設定され得る。コンパレータ360は、コンパレータ360をオン/オフするために、PWR_GATE信号によっても制御され得る電力スイッチ350をさらに含む。コンパレータ360は、画素セル300を無効化することの一部としてオフにされ得る。
さらに、出力ロジック370は、TTS動作、FD ADC動作、またはPD ADC動作のうちの1つの出力を選択し、その選択に基づいて、カウンタからの値を記憶するためにメモリ380にコンパレータ360の出力をフォワードすべきかどうかを決定することができる。出力ロジック370は、コンパレータ360の出力に基づいて、フォトダイオード310(例えば、フォトダイオード310a)が残留電荷によって飽和されたかどうかの指示と、電荷蓄積デバイス205がオーバーフロー電荷によって飽和されたかどうかの指示とを記憶するための内部メモリを含むことができる。電荷蓄積デバイス205がオーバーフロー電荷によって飽和された場合、出力ロジック370は、メモリ380に記憶されるべきTTS出力を選択し、メモリ380がFD ADC/PD ADC出力によってTTS出力を上書きするのを防ぐことができる。電荷蓄積デバイス205は飽和されないが、フォトダイオード310が飽和された場合、出力ロジック370は、メモリ380に記憶されるべきFD ADC出力を選択することができ、他の場合、出力ロジック370は、メモリ380に記憶されるべきPD ADC出力を選択することができる。いくつかの例では、カウンタ値の代わりに、フォトダイオード310が残留電荷によって飽和されたかどうかの指示と、電荷蓄積デバイス205がオーバーフロー電荷によって飽和されたかどうかの指示とが、最も低い精度の画素データを提供するためにメモリ380に記憶され得る。
さらに、画素セル300は、AB、TG、BIAS1、BIAS2、GAIN、VREF、PWR_GATEなど、制御信号を生成するための論理回路を含むことができる、画素セルコントローラ390を含み得る。画素セルコントローラ390はまた、画素レベルプログラミング信号395によってプログラムされ得る。例えば、画素セル300を無効化するために、画素セルコントローラ390は、バッファー206およびコンパレータ360をオフにするために、PWR_GATEをアサート解除するように画素レベルプログラミング信号395によってプログラムされ得る。さらに、量子化分解能を増大させるために、画素セルコントローラ390は、画素レベルプログラミング信号395によって、電荷蓄積デバイス205のキャパシタンスを低減するように、GAIN信号を介してコンパレータ360の利得を増大させるようにプログラムされ得る。フレームレートを増大させるために、画素セルコントローラ390は、画素レベルプログラミング信号395によって、バッファー206およびコンパレータ360の帯域幅をそれぞれ増大させるためにBIAS1信号およびBIAS2信号を増大させるようにプログラムされ得る。さらに、画素セル300によって出力される画素データの精度を制御するために、画素セルコントローラ390は、例えば、メモリ380がビットのサブセット(例えば、最上位ビット)のみを記憶するようにカウンタのビットのサブセットのみをメモリ380に接続すること、または出力ロジック370に記憶された指示を画素データとしてメモリ380に記憶することを行うように、画素レベルプログラミング信号395によってプログラムされ得る。さらに、画素セルコントローラ390は、例えば、上記で説明されたように、曝露期間を調整すること、および/または、特定の量子化動作(例えば、TTS、FD ADC、またはPD ADCのうちの1つ)を、動作条件に基づいて他のものをスキップしながら選択することを行うために、AB信号およびTG信号のシーケンスおよびタイミングを制御するように画素レベルプログラミング信号395によってプログラムされ得る。
図4A、図4B、および図4Cは、画像センサー200などの画像センサーの周辺回路および画素セルアレイの例示的な構成要素を示す。図4Aに示されるように、画像センサーは、プログラミングマップパーサ402、列制御回路404、行制御回路406、および画素データ出力回路407を含むことができる。プログラミングマップパーサ402は、各画素セル(または画素セルのブロック)のための画素レベルプログラミングデータを識別するために、シリアルデータストリーム中にあり得る、画素アレイプログラミングマップ400をパースすることができる。プログラミングデータの識別は、例えば、2次元画素アレイプログラミングマップがシリアルフォーマットに変換される所定のスキャンパターン、ならびにプログラミングデータがシリアルデータストリームからプログラミングマップパーサ402によって受信される順序に基づき得る。プログラミングマップパーサ402は、画素セルを対象とするプログラミングデータに基づいて、画素セルの行アドレス、画素セルの列アドレス、および1つまたは複数の構成信号の間のマッピングを作成することができる。マッピングに基づいて、プログラミングマップパーサ402は、列アドレスおよび構成信号を含む制御信号408を列制御回路404に送信することができ、列アドレスにマッピングされた行アドレスおよび構成信号を含む制御信号410を行制御回路406に送信することができる。いくつかの例では、構成信号はまた、制御信号408と制御信号410との間で分割され得るか、または制御信号410の一部として行制御回路406に送信され得る。
列制御回路404および行制御回路406は、プログラミングマップパーサ402から受信された構成信号を画素セルアレイ318の各画素セルの構成メモリにフォワードするように構成される。図4Aにおいて、Pijとラベル付けされた各ボックス(例えば、P00、P01、P10、P11)は、画素セルまたは画素セルのブロック(例えば、画素セルの2×2アレイ、画素セルの4×4アレイ)を表すことができ、処理回路214およびメモリ216を備える図2Eの量子化回路220を含むことができ、またはそれに関連付けられ得る。図4Aに示されるように、列制御回路404は、列バスC0、C1、...Ciの複数のセットを駆動する。列バスの各セットは、1つまたは複数のバスを含み、列選択信号および/または他の構成信号を含むことができる制御信号を画素セルの列に送信するために使用され得る。例えば、列バスC0は、画素セルの列(または画素セルのブロックの列)p00、p01、...p0jを選択するために列選択信号408aを送信することができ、列バスC1は、画素セル(または画素セルのブロック)の列p10、p11、...p1jを選択するために列選択信号408bを送信することができ、などである。
さらに、行制御回路406は、R0、R1、...Rjとラベル付けされた行バスの複数のセットを駆動する。行バスの各セットもまた、1つまたは複数のバスを含み、行選択信号および/または他の構成信号を含むことができる制御信号を画素セルの行、または画素セルのブロックの行に送信するために使用され得る。例えば、行バスR0は、画素セル(または画素セルのブロック)の行p00、p10、...pi0を選択するために行選択信号410aを送信することができ、行バスR1は、画素セル(または画素セルのブロック)の行p01、p11、...p1iなどを選択するために行選択信号410bを送信することができる。画素セルアレイ318内の任意の画素セル(または画素セルのブロック)は、構成信号を受信するために行選択信号と列信号との組合せに基づいて選択され得る。行選択信号、列選択信号、および構成信号(もしあれば)は、上述したように、プログラミングマップパーサ402からの制御信号408および410に基づいて同期される。画素セルの各列は、画素データを画素データ出力回路407に送信するために出力バスのセットを共有することができる。例えば、画素セル(または画素セルのブロック)の列p00、p01、...p0jは出力バスDを共有することができ、画素セル(または画素セルのブロック)の列p10、p11、...p1jは出力バスDを共有することができ、などである。
画素データ出力回路407は、バスから画素データを受信し、画素データを1つまたは複数のシリアルデータストリームに(例えば、シフトレジスタを使用して)変換し、データストリームをMIPIなどの所定のプロトコルの下でホストデバイス435に送信することができる。データストリームは、疎画像フレームの一部として各画素セル(または画素セルのブロック)に関連付けられた量子化回路220(例えば、処理回路214およびメモリ216)から到来し得る。加えて、画素データ出力回路407はまた、例えば、どの画素セルが画素データを出力しないか、または各画素セルによって出力される画素データのビット幅を決定するために、プログラミングマップパーサ402から制御信号408および410を受信し、それに応じて、シリアルデータストリームの生成を調整することもできる。例えば、画素データ出力回路407は、例えば、画素セル間の出力画素データの可変ビット幅、または特定の画素セルにおける画素データ出力の無効化を考慮して、シリアルデータストリームを生成する際にいくつかのビットをスキップするようにシフトレジスタを制御することができる。
加えて、画素セルアレイ制御回路は、階層電力状態制御回路を形成する各画素セルまたは画素セルの各ブロック(図4Aには図示せず)において、グローバル電力状態制御回路420、列電力状態制御回路422、行電力状態制御回路424、およびローカル電力状態制御回路430などのグローバル電力状態制御回路をさらに含む。グローバル電力状態制御回路420は、階層内の最高レベルのものとすることができ、これに行/列電力状態制御回路422/424が続き、ローカル電力状態制御回路430は、階層内の最低レベルにある。
階層電力状態制御回路は、画像センサー200などの画像センサーの電力状態を制御する際に異なる粒度を提供することができる。例えば、グローバル電力状態制御回路420は、すべての画素セルの処理回路214およびメモリ216、図2EのDAC242およびカウンタ240などを含む、画像センサーのすべての回路のグローバル電力状態を制御することができる。行電力状態制御回路424は、画素セル(または画素セルのブロック)の各行の処理回路214およびメモリ216の電力状態を別々に制御することができるのに対して、列電力状態制御回路422は、画素セル(または画素セルのブロック)の各列の処理回路214およびメモリ216の電力状態を別々に制御することができる。いくつかの例は、行電力状態制御回路424を含むが列電力状態制御回路422を含まなくてもよく、またはその逆であってもよい。加えて、ローカル電力状態制御回路430は、画素セルまたは画素セルのブロックの一部とすることができ、画素セルまたは画素セルのブロックの処理回路214およびメモリ216の電力状態を制御することができる。
図4Bは、階層電力状態制御回路の内部構成要素およびそれらの動作の例を示す。具体的には、グローバル電力状態制御回路420は、画像センサーのグローバル電力状態を設定する、バイアス電圧、バイアス電流、供給電圧、またはプログラミングデータの形態とすることができるグローバル電力状態信号432を出力することができる。さらに、列電力状態制御回路422(または行電力状態制御回路424)は、画像センサーの画素セル(または画素セルのブロック)の列/行の電力状態を設定する列/行電力状態信号434を出力することができる。列/行電力状態信号434は、行信号410および列信号408として画素セルに送信され得る。さらに、ローカル電力状態制御回路430は、関連する処理回路214およびメモリ216を含む画素セル(または画素セルのブロック)の電力状態を設定するローカル電力状態信号436を出力することができる。ローカル電力状態信号436は、画素セルの処理回路214およびメモリ216に、それらの電力状態を制御するために出力され得る。
階層電力状態制御回路では、上位レベルの電力状態信号は、下位レベルの電力状態信号の上限を設定することができる。例えば、グローバル電力状態信号432は、列/行電力状態信号434の上位レベルの電力状態信号とすることができ、列/行電力状態信号434の上限を設定することができる。さらに、列/行電力状態信号434は、ローカル電力状態信号436の上位レベルの電力状態信号とすることができ、ローカル電力状態信号436の上限を設定することができる。例えば、グローバル電力状態信号432が低電力状態を示す場合、列/行電力状態信号434およびローカル電力状態信号436はまた、低電力状態を示すことができる。
グローバル電力状態制御回路420、列/行電力状態制御回路422/424、およびローカル電力状態制御回路430の各々は電力状態信号生成器を含むことができ、列/行電力状態制御回路422/424、およびローカル電力状態制御回路430は、上位レベルの電力状態信号によって課される上限を強制するゲーティングロジックを含むことができる。具体的には、グローバル電力状態制御回路420は、グローバル電力状態信号432を生成するためのグローバル電力状態信号生成器421を含むことができる。グローバル電力状態信号生成器421は、例えば、(例えば、ホストデバイスからの)外部構成信号440またはグローバル電力状態の所定の時間シーケンスに基づいてグローバル電力状態信号432を生成することができる。
さらに、列/行電力状態制御回路422/424は、列/行電力状態信号生成器423およびゲーティングロジック425を含むことができる。列/行電力状態信号生成器423は、例えば、(例えば、ホストデバイスからの)外部構成信号442または行/列電力状態の所定の時間シーケンスに基づいて中間列/行電力状態信号433を生成することができる。ゲーティングロジック425は、グローバル電力状態信号432またはより低い電力状態を表す中間列/行電力状態信号433の一方を列/行電力状態信号434として選択することができる。
さらに、ローカル電力状態制御回路430は、ローカル電力状態信号生成器427およびゲーティングロジック429を含むことができる。低電力状態信号生成器427は、例えば、画素アレイプログラミングマップ、行/列電力状態の所定の時間シーケンスなどからであり得る外部構成信号444に基づく中間ローカル電力状態信号435を生成する。ゲーティングロジック429は、中間ローカル電力状態信号435または低電力状態を表す列/行電力状態信号434のうちの一方をローカル電力状態信号436として選択することができる。
図4Cは、各画素セル(または画素セルの各ブロック)のローカル電力状態制御回路430(例えば、図4Cにおいて「PWR」とラベル付けされている430a、430b、430c、および430d)および構成メモリ450(例えば、図4Cにおいて「Config」とラベル付けされている450a、450b、450c、および450d)を含む画素セルアレイの追加的な詳細を示す。構成メモリ450は、画素セル(または画素セルのブロック)の光測定動作(例えば、曝露期間の長さ、量子化分解能)を制御するための第1のプログラミングデータを記憶することができる。さらに、構成メモリ450はまた、ローカル電力状態制御回路430が処理回路214およびメモリ216の電力状態を設定するために使用することができる第2のプログラミングデータを記憶することもできる。構成メモリ450は、スタティックランダムアクセスメモリ(SRAM)として実装され得る。図4Cは、ローカル電力状態制御回路430および構成メモリ450が各画素セルの内部にあることを示しているが、ローカル電力状態制御回路430および構成メモリ450が画素セルのブロック用である場合など、構成メモリ450は各画素セルの外部にあってもよいことが理解される。
図4Cに示されるように、各画素セルの構成メモリ450は、S00、S10、S10、S11などのトランジスタSを介して列バスCおよび行バスRと結合される。いくつかの例では、列バス(例えば、C0、C1)および行バス(例えば、R0、R1)の各セットは、複数のビットを含むことができる。例えば、図4Cでは、列バスおよび行バスの各セットはN+1ビットを搬送することができる。いくつかの例では、列バスおよび行バスの各セットは単一のデータビットを搬送することもできることが理解される。各画素セルはまた、画素セル(または画素セルのブロック)への構成信号の伝送を制御するために、T00、T10、T10、またはT11などのトランジスタTと電気的に接続される。各画素セルのトランジスタSは、対応するトランジスタTが画素セルに構成信号を送信することを可能にする(または無効にする)ために行および列選択信号によって駆動され得る。いくつかの例では、列制御回路404および行制御回路406は、(例えば、ホストデバイスからの)単一の書き込み命令によって、複数の画素セルの構成メモリ450に同時に書き込むようにプログラムされ得る。その場合、列制御回路404および行制御回路406は、画素セルの構成メモリに書き込むように行バスおよび列バスを制御することができる。
いくつかの例では、ローカル電力状態制御回路430はまた、構成信号を構成メモリ450に記憶することなく、トランジスタTから構成信号を直接受信することもできる。例えば、上述したように、ローカル電力状態制御回路430は、画素セルならびに画素セルによって使用される処理回路および/またはメモリの電力状態を制御するために、電圧バイアス信号または供給電圧などのアナログ信号とすることができる行/列電力状態信号434を受信することができる。
さらに、各画素セルは、画素セルの列間の出力バスDの共有を制御するために、O00、O10、O10、またはO11などのトランジスタOも含む。各行のトランジスタOは、画素セルの1つの行が出力バスD0、D1、...Diを通して画素データを出力し、その後に画素セルの次の行が続くように、画素データの行ごとの読み出しを可能にするための読み出し信号(例えば、read_R0、read_R1)によって制御され得る。
いくつかの例では、処理回路214およびメモリ216、カウンタ240、DAC242、バッファー230を含むバッファーネットワークなどを含む画素セルアレイの回路構成要素は、階層電力状態制御回路によって管理される階層電力ドメインに編成され得る。階層電力ドメインは、複数の電力ドメインおよび電力サブドメインの階層を含むことができる。階層電力状態制御回路は、各電力ドメイン、および各電力ドメインの下の各電力サブドメインの電力状態を個別に設定することができる。このような構成は、画像センサー304による電力消費の細かい粒度制御を可能にし、画像センサーの電力効率をさらに改善するために様々な空間的および時間的な電力状態制御動作をサポートする。
疎画像検知動作は電力および帯域幅要件を低減することができるが、疎画像検知動作のための量子化動作を実行するために(例えば、図6Cに示されるような)画素レベルADCまたは(例えば、図2Eに示されるような)ブロックレベルADCを有することは、依然として電力の非効率的な使用につながる可能性がある。具体的には、画素レベルまたはブロックレベルのADCのいくつかがディセーブルされている間、クロック、アナログランプ信号、またはデジタルランプ信号などの高速制御信号は、依然としてバッファーネットワーク630を介して各画素レベルまたはブロックレベルのADCに送信される可能性があり、これは、かなりの量の電力を消費し、各画素の生成のための平均電力消費を増加させ得る。画像フレームの疎らさが増加すると(例えば、より少ない画素を含む)、非効率性がさらに悪化する可能性があるが、高速制御信号は依然として各画素セルに送信され、その結果、高速制御信号を送信する際の消費電力は同じままであり、生成される画素が少なくなるため、各画素の生成のための平均消費電力が増加する。
図5は、画素固有の固定パターンノイズ低減のための画素セルおよび集積回路の一例を示す。具体的には、図5は、本明細書に記載の実施形態を実行するためのデジタル画像センサー装置の一例を示す。SOC画素500は、図2Aおよび図2Cに示される画素セル201と同様に、フォトダイオードにおいて電荷を生成するように構成される画素セルであってもよい。例えば、SOC画素500は、構成要素201~206などの画素セル201の構成要素を含んでいた。
図5に示される画素セルは、画素ドメインの一部としてともに結合されるSOC画素500およびASIC510を含む。SOC画素500およびASIC510は、捕捉された光およびFPNによって生成された電荷を複数のデジタル画素値に変換するために連携して動作するように構成されてもよい。例えば、フォトダイオード(PDとして示されている)は、最初に光を受信し、生成された電荷を出力し、生成された電荷は、1つまたは複数のキャパシタまたは他の電荷蓄積デバイスに蓄積される。そして、キャパシタにより蓄積された電荷は、ASIC510により画素値に変換され、ASIC510内の複数のSRAMに蓄積される。
図5に示される構成は、画素ドメインが、フォトダイオードにおける光の捕捉によって生成される信号を変更する画素ドメインによって生成される画素パターンノイズを低減することを可能にする。例えば、キャパシタによって捕捉された電荷は、コンパレータに渡され、コンパレータは、対応するデジタル画素値を決定する基準電圧と電荷を比較する。デジタル画素値は、ASIC510内の第1のSRAMに送信される。捕捉された電圧値は、環境、SOC画素500、ASIC510、および構成要素内の任意の他の構成要素/潜在的な欠陥によって生成されたFPNを本質的に含むので、SRAMに記憶された第1のデジタル画素値は、フォトダイオードによって生成された電荷およびFPNの両方に対応する。
第1のデジタル画素値が決定されると、リセット信号が画素ドメインで「パルス動作」し、以前に蓄積された電荷の回路をパージすることができる。例えば、SOC画素500およびASIC510内の電荷蓄積デバイス、ならびにASIC510内のコンパレータを元の状態にリセットすることができる。リセットは画素ドメインの電荷の大部分をパージしたが、環境ノイズ、残留電荷、および個々の構成要素の欠陥に起因して、回路内に潜在電圧信号が存在し続ける。そこで、この潜在的なFPNノイズを捕捉し、第2のデジタル画素値として第2のSRAMに記憶することができる。第1のデジタル画素値と第2のデジタル画素値との間の差は、FPNがないフォトダイオードによって生成された電荷を厳密に表すことになる。
SOC画素500などの画素セルは、画素セルにおける低利得電荷変換を可能にするために、追加の電荷蓄積デバイスを含むことができる。例えば、図5に示されるように、SOC画素500は、CEXTキャパシタ502を含む。CEXTキャパシタ502は、二重変換ゲート(DCG)504などの追加のゲートと連携して動作することができる。CEXTキャパシタ502は、高利得(DCGゲート504が開いているとき)および低利得(DCGゲート504が閉じているとき)の電荷生成動作構成の間でSOC画素が切り替わることを可能にするようにSOC画素内に構成されたキャパシタまたは他の電荷蓄積デバイスであってもよい。例えば、高利得電荷生成動作構成では、DCGゲート504は開いており、フォトダイオードからCEXTキャパシタ502への信号を遮断することができる。この構成では、SOC画素500は、画素セル201と同様に動作する。DCGゲート504が閉じているとき、フォトダイオードからの信号は閉回路を介してCEXTキャパシタ502に到達し、CEXTキャパシタ502は低変換利得構成で電荷を蓄積することができる。
CEXTキャパシタ502は、高光(または低利得光)収集を改善するが、追加のキャパシタは、圧縮された回路上の貴重な空間を占有し、回路のFPNを増加させるノイズを生成する可能性がある。いくつかの実施形態では、CEXTキャパシタ502はSOC画素500から除去され、DCGゲート504はSOC画素内に残る。この構成では、DCGゲート504は、開閉状態を切り替え続けることができるが、低電力動作のために電荷を変換して蓄積するキャパシタは存在しない。これにより、SOC画素は、高利得(DCGゲート504が開いているとき)および中利得(DCGゲート504が閉じているとき)の電荷生成動作構成を切り替えることができる。したがって、DCGゲート504が開いているとき、SOC画素は以前のように高利得モードで動作し続けるが、DCGゲート504が閉じているとき、SOC画素500は、中利得構成を使用して電荷を変換および蓄積する。
CEXT502と同様に、DCGゲート504は、SOC画素500から除去されて、圧縮回路に利用可能な空間量を増加させ、DCGゲート504によって生成されるノイズを低減することができる。この構成では、SOC画素500は、高利得電荷生成動作構成においてのみ電荷を生成する。しかしながら、SOC画素が利用可能な空間量が増加し、SOC画素500の構成要素によって生成されるFPNの量が減少する。画素アレイ内の画素の任意のサブセットは、デジタル画像センサーの必要性に適合するために上記の構成のいずれかを使用することができることが理解されよう。
ASIC510は、デジタル画像センサーの画素に対応する画素ドメインを形成するためにSOC画素500に結合された特定用途向け集積回路である。図5に示すように、ASIC510は、相関二重サンプリングを実行するためのキャパシタなどの二次電荷蓄積デバイスと、SOC画素(および/または二次電荷蓄積デバイス)からの蓄積電荷を基準電圧ランプと比較するように構成されたコンパレータとを含むことができる。コンパレータは、コンパレータをリセットするためのスイッチを含み、1ビット状態メモリ512に結合される。1ビット状態メモリ512は、コンパレータからの出力信号を取り込み、蓄積電荷をASIC510内の1つまたは複数のSRAMまたは他のメモリ回路にフォワードするかどうかを決定するように構成された論理回路であってもよい。例えば、図5に示すように、1ビット状態メモリ512は、コンパレータの出力を取り込み、1つまたは複数のメモリスイッチを制御するための状態信号を出力することができる。
図5に示されるように、第1のSRAM、信号SRAM514は、信号スイッチを介してASIC510の残りの部分に結合される。信号スイッチは、1ビット状態メモリ512の出力状態に応じて活性化されてもよい。例えば、1ビット状態メモリ512は、SOC画素が現在曝露期間中であることを示す状態を出力してもよい。1ビット状態メモリ512は、信号スイッチを閉じ、信号SRAM514とASIC510の残りの部分との間の回路を閉じるための信号を送信することができる。したがって、画素ドメインによって蓄積および変換されている電荷は、信号SRAM514に送信されて、蓄積された電荷をデジタル画素値として後に出力するように蓄積することができる。
図5にさらに示されるように、第2のSRAMであるリセットSRAM516は、リセットスイッチを介してASIC510の残りの部分に結合される。リセットスイッチは、1ビット状態メモリ512の出力状態に応じて活性化されてもよい。例えば、1ビット状態メモリ512は、SOC画素がリセットされ、画素ドメインが潜在的な固定パターンノイズから電荷を生成していることを示す状態を出力することができる。1ビット状態メモリ512は、リセットスイッチを閉じ、リセットSRAM516とASIC510の残りの部分との間の回路を閉じるための信号を送信することができる。したがって、FPNとして画素ドメインによって潜在的に生成されている電荷は、リセットSRAM516に送信されて、デジタル画素値として蓄積し後に出力することができる。
図6は、電荷捕捉期間中の構成要素活動の時系列を示すタイミング図を示す。具体的には、図6は、本明細書に記載の適応ノイズ低減技術の間のデジタル画像センサーにおける画素ドメインの構成要素のタイミング信号を示す。図6に示されるタイミング図は、個々の画素ドメインにおける回路のタイミング、フレーム捕捉期間全体を示す。
図6に示されるように、タイミング図の開始は、新たなフレーム捕捉のためにSOC画素500およびASIC510を準備するために画素ドメインにおいてトリガされるリセット状態に続くことができる。このため、SOC画素500のゲートのリセットは現在ハイ状態である。リセットゲートは、電荷蓄積デバイス(図6にTEXPとして示される)の曝露期間の直後にロー状態に入る。曝露期間が終了した後、リセットゲートは、画素ドメインに固有のFPNに対応する電荷を生成および蓄積するために、画素ドメインをリセットするためにパルス動作してもよい。その後、リセットゲートは、次のフレーム捕捉のためにハイにリセットされてもよい(図6には図示せず)。曝露期間に先立って、電子シャッタスイッチ(電子シャッタスイッチ203など)と転送スイッチ(転送スイッチ204など)とがハイ状態で作動し、曝露期間中にロー状態に遷移する。転送スイッチは、曝露期間の終了直前にパルス動作し、期間の終了を知らせる。
DCGゲート504などのDCGゲートを実装する実施形態では、曝露期間中にゲートはハイ状態またはロー状態のいずれかに設定され得る。例えば、中利得(またはCEXTキャパシタ502をさらに実装する実施形態では低利得)の電荷蓄積構成が望まれる実施形態では、電荷がDCGゲート504を通過して低利得構成を可能にすることができるように、DCGゲート504は閉構成状態に設定され得る。
曝露期間の開始直後に、信号SRAM514への信号切り替えは高電力状態に入り、電荷がSRAMに流れ始めることを可能にする。SRAMは、アナログ電圧を基準ランプ電圧値と比較した後のコンパレータによってこの期間中に信号SRAM514に送られる電荷を記憶するための回路を含むことができる。スイッチは、曝露期間が終了した直後に低電力状態に再び入る。
図6に示されるように、第1の期間中、画素セルは、光を捕捉し、例えばTTS動作の一部として電荷に変換することができる。第1の期間中、SOC画素は、電荷(Texpによって表される)を生成および量子化するために光に曝露されてもよい。例えば、1023~512のDRAMP-SIG値は、TTS演算を量子化するための1フラグビットを有する9ビット分解能のアナログ-デジタル変換を表す。曝露期間の終わりに、TGゲートはパルス動作して、フォトダイオード内の電荷を電荷蓄積デバイス(例えば、CEXT502、FD、CCなど)に転送し、信号変換を開始することができる。例えば、0~511のDRAMP-SIG値は、蓄積電荷の標準的な9ビットアナログ-デジタル変換を表す。
曝露期間が終了して信号スイッチが開かれた直後に、リセットゲートはパルス動作し、リセットSRAM516のリセットスイッチに、高電力状態に入るように通知する。この期間中、リセットSRAM516は、環境および画素ドメインによって潜在的に生成されたFPNによって変換および蓄積された電荷を受信する。この間、電荷蓄積デバイスはフォトダイオードに結合されず、光からの電荷は変換されて蓄積されない。これは、基準ランプ電圧に基づいてコンパレータによって量子化された分離FPN信号をリセットSRAM516に提供する。例えば、0~63のDRAMP-RST値は、FPN信号のデジタル画素値への標準的な6ビットアナログ-デジタル変換を表す。この値は、画素ドメインによって潜在的に生成されたデジタルFPNを表すデジタル画素値としてリセットSRAM516に記憶される。
図6に示されるように、ASIC510のコンパレータへ供給されるVRAMP電圧は、曝露期間中に高電力状態から中電力状態へ切り換わり、ADCによるアナログ電圧値の変換中にパルス動作および下降してもよい。FPNを測定するためにコンパレータをリセットするために、リセットゲートパルスとともにコンパレータリセットが発生する場合がある。コンパレータはしばしばASIC内のFPNのソースであり、第2の期間中にコンパレータをリセットすることは、信頼できるFPN信号を生成するために重要である。
発生した電荷値を変換するADCは、曝露期間中は非アクティブである。第1の曝露期間の後、ADCは、生成された信号電圧値をデジタル値に変換し始める。デジタル値は、値を9ビット数に変換するDRAMP信号構成に基づくことができる。生成された信号ボリューム値がADCによってデジタル値に変換された後、ADCは、生成されたリセット電圧値をデジタル値に変換する。デジタル値は、値を6ビット数に変換するDRAMPリセット構成に基づくことができる。これらの動作に続いて、画素セルが再びリセットされ、新しいフレーム捕捉が開始される。
図7は、光を入力として受信し、デジタルデータを出力するためのデジタル画素センサーおよびフロー図を示す。より具体的には、図7は、光の入力からデジタルデータの出力までのデジタル画素センサー700の構成要素を通るデータ信号の流れを示す。デジタル画素センサーは、SOC画素500およびASIC510を含む。ASIC510は、信号SRAM514およびリセットSRAM516に接続されるか、またはこれらを含む。SOC画素500、ASIC510およびSRAMメモリ514~516は、デジタル画素センサー700の画素ドメイン710を構成する。
流れの最初に、光720が、例えばフォトダイオード202などのフォトダイオードを通ってSOC画素500に入射する。フォトダイオードは、光に応答して電荷を生成するように構成され、電荷蓄積デバイス206などの電荷蓄積デバイスは、生成された電荷に基づいて電荷を変換および蓄積するように構成される。電荷蓄積デバイスは、この電荷を、例えば電荷730の一部としてASIC510に送信することができる。ASIC510は、電荷730を受信し、電荷を量子化することができ、電荷は、電荷が受信される期間に従って信号SRAM514またはリセットSRAM516のいずれかに記憶することができる。例えば、曝露期間中に電荷730が受信される場合、電荷730は受信され、量子化され、次いで信号SRAM514によって記憶される。(潜在的なFPNが測定される)リセット期間中に電荷730が受信される場合、電荷は受信され、量子化され、次いでリセットSRAM516によって記憶される。
信号SRAM514およびリセットSRAM516の出力は、それぞれデジタル画素値信号デジタル画素値740およびリセットデジタル画素値750である。信号デジタル画素値740は、例えば、コンパレータによって決定され、曝露期間中に信号SRAM514のメモリ回路に記憶されるデジタル画素値であってもよく、光720の受信から変換された電荷および画素ドメイン710によって生成された追加のFPNを表す。リセット電圧750は、例えば、コンパレータによって決定され、リセット期間中にリセットSRAM516のメモリ回路に記憶されるデジタル画素値であってもよく、リセット期間中に回路内の潜在信号によって生成されるFPN電圧値を表す。
信号デジタル画素値740およびリセットデジタル画素値750の各々は、量子化および記憶後のデジタル画素値をさらに処理するためにプロセッサ760に送信される。プロセッサは、例えば、画素ドメイン710から受信された値が初期TTSまたは同様の動作の一部として、または後続の期間中に生成されたかどうかを決定するように構成された論理命令を含むことができる。例えば、プロセッサ760は、(例えば、TGゲートのパルス動作の前に)TTS動作の一部として生成された場合、信号デジタル画素値740をフォワードすることができる。しかしながら、本明細書で説明されるように、TTS動作からの量子化デジタル画素値は、下流の用途で利用されるときに画素ドメイン710から潜在FPNを十分に「打ち消す」ほど強くない場合がある。したがって、プロセッサ760は、TTS動作を実行した後に受信された別個の信号およびリセットデジタル画素値に基づいてデジタル画素値変換を実行することを決定することができる。例えば、プロセッサ760は、信号デジタル画素値740がTTSベースの値(例えば、TGゲートをパルス動作させた後、RSTゲートにパルス動作させる前に量子化された値)ではないと決定し、それに応答して信号値に対してデジタル画素値変換を実行する(例えば、量子化信号値と量子化リセット値との間の差に基づいて第3のデジタル画素値を生成する)ことができる。したがって、デジタルデータ770は、画素ドメイン710内の潜在FPNを補正する量子化されたTTS動作または量子化された変換値を示すことができる。
いくつかの実施形態では、プロセッサ760によって実行される比較は、画素セル500またはASIC510内の論理回路によって実行されてもよいことが理解されよう。様々な実施形態において、プロセッサ760は、十分な電荷捕捉および量子化の閾値に基づいてデジタル画素値の変換を実行することを決定することができる。本明細書で説明するように、閾値画素値は、量子化信号値が画素ドメイン内で生成される画素パターンノイズを十分に上回る値(例えば、TTS動作からの量子化デジタル画素値が潜在FPNを十分に「打ち消す」かどうか)を表すことができる。様々なさらなる実施形態において、デジタル画素値の変換は、量子化信号デジタル画素値740(例えば、TTSベースの値)が閾値を満たさないと決定されたときに実行される。これは、デジタル画素値変換を使用してデジタル画素データからFPNを除去するのに必要な電力の損失が、最終的なデジタルデータにおけるFPNの相対補正の値の価値がない状況に対応し得る(例えば、TTS動作中の捕捉された光強度は、FPNの減少がエクスポートされた最終デジタルデータにおいて無視できるほど強い)。いくつかの実施形態では、TTS信号のデジタル画素値が閾値電圧を満たしたか超えたとプロセッサ760が決定した場合(例えば、SW_RSTが閉じられていない場合)、ADCはリセット電圧電荷を量子化しない。いくつかの実施形態では、ADCは、閾値電圧がTTS動作によって満たされないというプロセッサ760からの信号に応答してリセット電圧信号を量子化する。したがって、ADCは、TTS動作中に生成された潜在的に破損した値を補正するために必要なときにリセット電圧信号を量子化するために電力を消費する。いくつかの実施形態では、プロセッサ760は、いくつかの画素ドメインによって実行される様々なTTS演算からのデジタル画素値を使用してデジタル画像データをコンパイルすることができる。次いで、プロセッサは、閾値を満たさないデジタル画素値を信号およびリセット動作からの変換されたデジタル画素値と置き換えることによってデジタル画素データを再生成することができる。プロセッサ760による処理の結果得られるデジタルデータ770は、デジタル画素センサー700によって出力される。したがって、プロセッサ760は、生成されたすべてのTTSベースのデジタル画素値を置き換えるために普遍的に画素変換を実行するのとは対照的に、デジタル画像を改善して電力を節約するために必要に応じて画素変換を実行することができる。より具体的には、プロセッサ760は、生成されたデジタル画像を改善しながら電力を節約するために、閾値を満たさなかったTTSベースの値のみを置き換えることができる。
図7に描かれていないいくつかの実施形態では、デジタル画素センサー700は、センサーからのエクスポートの前にデジタルデータ770を変更するように構成された周辺サブシステムまたはプロセッサを含むことができる。例えば、周辺部は、センサーから離れたデジタルデータ770のエクスポートの前に、1つまたは複数の追加のデジタル画素値の変更を実行することができる。1つまたは複数の追加の変更は、例えば、デジタル画像データへのマスキング機能の汎用適用(例えば、スカラ輝度低減動作)、汎用画素値変換マッピング(例えば、データのグレースケールへの変換)、追加のFPN除去動作(例えば、ARアプリケーションのオーバーレイなどのソフトウェア固有のマッピング変換のアプリケーション)などを含むことができる。
図8は、ノイズ補正閾値を利用する画素固有の固定パターンノイズ低減のための例示的なプロセスを示す。具体的には、図8は、本明細書に記載されるように、画素ドメインによってFPN出力を低減するために信号電圧値およびリセット電圧値を生成するフローチャートを示す。プロセス800は、802において開始することができ、画素セルの電荷蓄積デバイスから第1の電圧信号が生成される。例えば、電荷蓄積デバイス206などの電荷蓄積デバイスは、光に応答してフォトダイオード202によって生成された電荷を受信することができる。電荷は、電荷蓄積デバイス、信号SRAM、およびフォトダイオードが完全な閉回路で接続されている第1の期間中に生成される電圧信号であってもよい。
804において、第1の電圧は、例えばADCによって量子化される。例えば、ADCは、電荷蓄積デバイスによって蓄積された信号電圧を受信し、信号電圧を量子化してデジタル画素値を生成することができる。量子化動作によって生成されるデジタル画素値は、信号SRAM514内のデジタルビットベースの変換方式に基づくことができる。例えば、図6に示すように、ADCは、第1の電圧信号を9ビットデジタル値に変換するためにDRAMP信号を使用することができる。結果として得られるデジタル画素値は、曝露期間中にフォトダイオードによって捕捉された光の強度のデジタル表現であるが、曝露中に画素ドメインによって生成された潜在FPN信号も含み得る。
806において、リセット動作後に第2の電圧信号が生成される。例えば、リセットSRAM516などのリセットSRAMは、画素ドメインのリセット後に802において第1の電圧信号を生成するために使用された画素ドメインから潜在電圧信号を受信することができる。リセット動作後の生成された第2の電圧信号は、画素ドメインおよびデジタル画像センサーが動作している環境によって本質的に生成されたFPNの信号を表すことができる。例えば、リセットゲートおよびコンパレータリセットスイッチがトリガされ、第1の電圧信号を生成するために使用された電荷の画素ドメイン回路をパージすることができる。パージ後、次の曝露期間の前に生成された結果として生じる信号は、画素ドメイン内の潜在FPNに対応し得る。
808において、第2の電圧は、例えばADCによって量子化される。例えば、ADCは、画素ドメインによって潜在的に生成されたリセット電圧を受信し、リセット電圧を量子化してデジタル画素値を生成することができる。量子化動作によって生成されるデジタル画素値は、リセットSRAM516内のデジタルビットベースの変換方式に基づくことができる。例えば、図6に示すように、ADCは、第2の電圧信号を6ビットデジタル値に変換するためにDRAMP信号を使用することができる。結果として得られるデジタル画素値は、画素ドメインによって生成された潜在FPNのデジタル表現である。
810において、量子化された第1の電圧信号がノイズ補正閾値より大きいかどうかの決定が行われる。決定は、プロセッサ760などのデジタル画素センサーの処理回路またはサブシステムによって実行されてもよい。例えば、プロセッサ760は、ADCから、806においてADCによって量子化されたデジタル画素データを受信することができる。プロセッサ760はまた、ノイズ補正閾値(閾値画素値)を受信するか、または記憶することができる。閾値は、804において生成された第2の電圧信号の量子化によって消費される電力と、2つのデジタル画素値の差を決定することによってFPNを除去するための変更動作とを考慮すると、FPNの補正が好ましくない捕捉された電荷の強度を表すデジタル画素値に対応することができる。例えば、非常に強い光は、対応するデジタル画素値にごくわずかな割合のFPNしか含まず、信号からFPNを除去すると、一定量の電力を消費しながら、結果として生じる画素にごくわずかな変化しか生じない。したがって、量子化された第1の電圧信号が設定されたノイズ補正閾値より大きい場合、オフセンサーにエクスポートする前にFPNをデジタル画素値から除去する必要はない。
様々な実施形態において、プロセッサ780またはデジタル画素センサー700の相関構成要素は、ノイズ補正閾値を受信、決定、または生成することができる。ノイズ補正閾値は、環境の状態およびデジタル画像センサー内の画素セルのアレイ内の画素セルの構成に基づいて生成することができる。例えば、明るい環境(センサーによって測定される)および高感度デジタル画素センサーは、プロセッサに、量子化動作の回数およびデジタル画素値の変更の回数を減らして電力を節約するために、比較的低いノイズ補正閾値を生成させることができる。いくつかの実施形態では、ノイズ補正閾値は、デジタル画素センサーの構成要素によって決定された平均、中央値、モード、または他の値に基づいて決定されてもよい。例えば、プロセッサは、リセット期間後に生成された量子化された第2の電圧信号を使用したデジタル画素値を使用して、前のフレーム中のFPNの平均値を決定することができる。
量子化信号がノイズ補正閾値を超える場合、方法はブロック814に進み、そうでない場合、方法はブロック812に進む。
814において、量子化された第1の電圧信号がノイズ補正閾値よりも大きいと決定された場合、量子化された第1の電圧信号が出力される。この場合、量子化されたデジタル画素値の変更は変換に値するよりも多くの電力を消費するので、プロセッサまたはデジタル画素センサーの別の構成要素は、量子化された第1の電圧信号をデジタル画素データとしていかなる改変もなしに出力してよい。
代替的に、812において、量子化された第1の電圧信号がノイズ補正閾値以下であると決定された場合、量子化された第2の電圧信号は、第1の電圧値を変更するために第1の電圧信号から減算される。第2の電圧信号(例えば、画素ドメインに固有のFPN信号)を表すデジタル画素値を減算すると、第1の電圧信号(例えば、捕捉された光電荷とFPN)を表すデジタル画素値は、ノイズ干渉なしに捕捉された光電荷をより厳密に近似する。量子化された第1の電圧信号から量子化された第2の電圧信号を減算した後、814で第1の電圧信号が出力される。次いで、プロセス800は、新しい画素フレームの処理を開始するために、画素ドメイン回路の他のリセットに続いて802から再び繰り返すことができる。
本説明の一部分は、本開示の実施形態を、情報に対する操作のアルゴリズムおよび記号的な表現の観点から説明している。これらのアルゴリズム説明および表現は、データ処理技術分野の当業者が、他の当業者に自身の仕事の本質を効果的に伝えるために通常使用される。これらの動作は、機能的に、算出量的に、または論理的に説明されるが、コンピュータプログラムまたは等価な電気回路、マイクロコードなどによって実装されることが理解される。さらに、それはまた、一般性を失うことなく、動作のこれらの配置をモジュールとして参照するために、時には便利であることが証明されている。説明される動作およびそれらの関連するモジュールは、ソフトウェア、ファームウェア、および/またはハードウェアにおいて具現され得る。
説明されるステップ、動作、またはプロセスは、1つまたは複数のハードウェアまたはソフトウェアモジュールで、単独でまたは他のデバイスとの組合せで実施または実装され得る。いくつかの実施形態では、ソフトウェアモジュールは、説明されたステップ、動作、またはプロセスのうちのいずれかまたはすべてを実施するためにコンピュータプロセッサによって実行され得る、コンピュータプログラムコードを含んでいるコンピュータ可読媒体を備えるコンピュータプログラム製品を用いて実装される。
本開示の実施形態はまた、説明される動作を実施するための装置に関し得る。本装置は、必要とされる目的のために特別に構築されることができ、および/あるいは、本装置は、コンピュータに記憶されたコンピュータプログラムによって選択的にアクティブ化または再構成される汎用コンピューティングデバイスを備え得る。そのようなコンピュータプログラムは、非一時的有形コンピュータ可読記憶媒体、または電子命令を記憶するのに好適な任意のタイプの媒体に記憶されることができ、それらの媒体はコンピュータシステムバスに結合され得る。さらに、本明細書で言及される任意のコンピューティングシステムは、単一のプロセッサを含み得るか、または増加された算出能力のために複数のプロセッサ設計を採用するアーキテクチャであり得る。
本開示の実施形態はまた、本明細書において説明される計算プロセスによって作り出される製品に関連する場合がある。そのような製品は、コンピューティングプロセスから生じる情報を備えることができ、その情報は、非一時的有形コンピュータ可読記憶媒体に記憶され、本明細書で説明されるコンピュータプログラム製品または他のデータ組合せの任意の実施形態を含み得る。
本明細書で使用される言い回しは、主に読みやすさおよび教授の目的で選択されており、その言い回しは、本発明の主題を画定または制限するために選択されていないことがある。したがって、本開示の範囲は、この詳細な説明によって限定されることは意図されておらず、これに基づく出願に対して発行されるあらゆる特許請求によって限定されることが意図されている。したがって、実施形態の開示は、本開示の範囲を限定するのではなく、例示的であることが意図されており、これを以下の特許請求の範囲において述べる。

Claims (20)

  1. 電圧を生成するように構成された画素セルであって、光に応答して電荷を生成するように構成された1つまたは複数のフォトダイオードと、前記電荷を電圧に変換するための電荷蓄積デバイスとを含む、画素セルと、
    複数の集積メモリ回路を含む集積回路であって、
    前記画素セルの前記電荷蓄積デバイスから得られる第1の電圧に基づいて、第1の期間中に第1の電圧値を生成し、
    前記画素セルおよび前記集積回路からの固定パターンノイズによって生成される第2の電圧に基づいて、第2の期間発生する第2の電圧値を生成する
    ように構成された集積回路と、
    前記第1の電圧値を第1のデジタル画素値に変換し、前記第2の電圧値を第2のデジタル画素値に変換するように構成された1つまたは複数のアナログ-デジタル変換器(ADC)と、
    前記第1のデジタル画素値および前記第2のデジタル画素値に基づいて第3のデジタル画素値を生成するように構成されたプロセッサと
    を備えるセンサー装置。
  2. 前記プロセッサは、
    閾値画素値を決定し、
    前記第1のデジタル画素値を前記閾値画素値と比較する
    ようにさらに構成され、前記プロセッサは、前記比較に基づいて前記第3のデジタル画素値を生成するように構成される、請求項1に記載の装置。
  3. 前記第1のデジタル画素値を前記閾値画素値と比較することは、前記第1のデジタル画素値が前記閾値画素値以上であると決定することを含み、
    前記第3のデジタル画素値は前記第1のデジタル画素値である、
    請求項2に記載の装置。
  4. 前記第1のデジタル画素値を前記閾値画素値と比較することは、前記第1のデジタル画素値が前記閾値画素値未満であると決定することを含み、
    前記第3のデジタル画素値は前記第1のデジタル画素値と前記第2のデジタル画素値との間の差に基づいて生成される、
    請求項2に記載の装置。
  5. 前記第1のデジタル画素値と前記第2のデジタル画素値との間の差に基づいて前記第3のデジタル画素値を生成することは、前記第1のデジタル画素値を表す2進数から前記第2のデジタル画素値を表す2進数を減算して、前記第3のデジタル画素値を表す2進数を生成することを含む、請求項4に記載の装置。
  6. 前記閾値画素値は、前記第1の期間および前記画素セルの構成に基づいて決定される、請求項2に記載の装置。
  7. 前記閾値画素値は、前記センサー装置に通信可能に結合されたコンピューティングデバイス上で実行されている外部アプリケーションから受信される、請求項2に記載の装置。
  8. 前記第1のデジタル画素値は前記センサー装置の第1のスタティックランダムアクセスメモリに記憶され、
    前記第2のデジタル画素値は前記センサー装置の第2のスタティックランダムアクセスメモリに記憶され、
    前記第3のデジタル画素値を生成することは、前記第1のスタティックランダムアクセスメモリおよび前記第2のスタティックランダムアクセスメモリから、前記第1のデジタル画素値および前記第2のデジタル画素値にアクセスすることを含む、
    請求項1に記載の装置。
  9. 前記集積回路は、
    前記第1の期間中に前記第1の電圧値を前記第1のスタティックランダムアクセスメモリに転送するように構成された第1のメモリスイッチと、
    前記第1の期間中に前記第2の電圧値を前記第1のスタティックランダムアクセスメモリに転送するように構成された第2のメモリスイッチと、
    前記第1および第2の期間中に前記第1のメモリスイッチおよび前記第2のメモリスイッチを開閉するように構成されたラッチと
    を備える、請求項8に記載の装置。
  10. 前記電荷蓄積デバイスは、前記第1の期間中に前記1つまたは複数のフォトダイオードからの前記電荷を電圧に変換し、前記第2の期間中に前記1つまたは複数のフォトダイオードからの前記電荷を変換しない、請求項1に記載の装置。
  11. 前記画素セルは、前記第1の期間中に前記電荷蓄積デバイスを前記1つまたは複数のフォトダイオードに接続し、前記第1の期間後に前記電荷蓄積デバイスを前記1つまたは複数のフォトダイオードから切断するためのスイッチを備える、請求項10に記載の装置。
  12. 前記画素セルは、適応レンジゲートをさらに備え、
    前記画素セルは、前記適応レンジゲートが開かれるときに高利得フォーマットで、前記適応レンジゲートが閉じられるときに中利得フォーマットで、電荷を生成するように構成される、
    請求項1に記載の装置。
  13. 前記電荷蓄積デバイスは第1の電荷蓄積デバイスであり、
    前記画素セルは第2の電荷蓄積デバイスをさらに備え、前記適応レンジゲートは前記1つまたは複数のフォトダイオードを前記第2の電荷蓄積デバイスに接続し、
    前記画素セルは、前記適応レンジゲートが閉じられて前記第2の電荷蓄積デバイスに前記1つまたは複数のフォトダイオードからの前記電荷を電圧に変換させるときに低利得フォーマットで電荷を生成するように構成される、
    請求項12に記載の装置。
  14. 前記電荷蓄積デバイスは第1の電荷蓄積デバイスであり、
    前記集積回路は、前記第1の電荷蓄積デバイスからの電荷を第3の電圧に変換するように構成された第2の電荷蓄積デバイスをさらに備え、
    前記第2の電圧値を生成することは、前記第2の電荷蓄積デバイスによって変換された前記第3の電圧に少なくとも基づいて生成される、
    請求項1に記載の装置。
  15. 前記センサー装置は、前記第3のデジタル画素値に基づいて増幅デジタル画素値を生成するように構成されたセンス増幅器をさらに備える、請求項1に記載の装置。
  16. 前記センサー装置は、前記センス増幅器および前記プロセッサを備える周辺処理システムをさらに備え、
    前記プロセッサは、前記増幅デジタル画素値を外部処理システムにエクスポートするようにさらに構成される、
    請求項15に記載の装置。
  17. 前記プロセッサは、前記第1のデジタル画素値、前記第2の電圧値、および前記第3のデジタル画素値を前記外部処理システムにエクスポートするようにさらに構成され、
    前記外部処理システムは、前記第1のデジタル画素値、前記第1の電圧値、前記第2の電圧値、および前記第3のデジタル画素値に基づいて、第4のデジタル画素値を生成するようにさらに構成される、
    請求項16に記載の装置。
  18. 前記周辺処理システムは、
    1つまたは複数の追加のプロセッサから1つまたは複数の追加のデジタル画素値を受信し、
    前記増幅デジタル画素値および前記1つまたは複数の追加のデジタル画素値を使用してデジタル画像データを生成する
    ように構成される、請求項16に記載の装置。
  19. 前記周辺処理システムは、前記外部処理システム上で実行されている外部アプリケーションに前記デジタル画像データをエクスポートするようにさらに構成され、
    前記外部処理システムは、前記周辺処理システムから受信された前記デジタル画像データに基づいて、前記外部アプリケーションによって生成されたデジタル画像を表示するように構成されたデジタルディスプレイを備える、
    請求項18に記載の装置。
  20. 1つまたは複数のフォトダイオードで受信された光の電荷を変換することによって第1の電圧を生成することと、
    第1のメモリ回路を使用して、前記第1の電圧に基づいて、第1の期間中に第1の電圧値を生成することと、
    前記1つまたは複数のフォトダイオードを含む回路に存在する固定パターンノイズに基づいて第2の電圧を生成することと、
    第2のメモリ回路を使用して、前記第1の電圧に基づいて、第2の期間発生する第2の電圧値を生成することと、
    前記第1の電圧値を第1のデジタル画素値に変換し、前記第2の電圧値を第2のデジタル画素値に変換することと、
    前記第1のデジタル画素値および前記第2のデジタル画素値に基づいて第1の変更されたデジタル画素値を生成することと
    を含む方法。
JP2023522348A 2020-11-04 2021-11-04 適応ノイズ低減を用いたデジタル画素センサー Pending JP2023548016A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202063109661P 2020-11-04 2020-11-04
US63/109,661 2020-11-04
US17/517,964 2021-11-03
US17/517,964 US20220141405A1 (en) 2020-11-04 2021-11-03 Digital pixel sensor with adaptive noise reduction
PCT/US2021/057966 WO2022098805A1 (en) 2020-11-04 2021-11-04 Digital pixel sensor with adaptive noise reduction

Publications (1)

Publication Number Publication Date
JP2023548016A true JP2023548016A (ja) 2023-11-15

Family

ID=81379345

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023522348A Pending JP2023548016A (ja) 2020-11-04 2021-11-04 適応ノイズ低減を用いたデジタル画素センサー

Country Status (6)

Country Link
US (1) US20220141405A1 (ja)
EP (1) EP4241440A1 (ja)
JP (1) JP2023548016A (ja)
CN (1) CN116508327A (ja)
TW (1) TW202224414A (ja)
WO (1) WO2022098805A1 (ja)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6963369B1 (en) * 2002-04-01 2005-11-08 Pixim, Inc. Method for capturing and storing image information for multiple sampling operations in a digital pixel sensor
US7456879B2 (en) * 2003-08-29 2008-11-25 Aptina Imaging Corporation Digital correlated double sampling using dual analog path
JP4589131B2 (ja) * 2005-01-24 2010-12-01 株式会社フォトロン 画像センサおよびその画像読み出し方法
EP3439039B1 (en) * 2016-03-31 2023-08-02 Nikon Corporation Imaging element and imaging device
US10070081B2 (en) * 2017-02-03 2018-09-04 SmartSens Technology (U.S.), Inc. Stacked image sensor pixel cell with dynamic range enhancement and selectable shutter modes and in-pixel CDS
US10419701B2 (en) * 2017-06-26 2019-09-17 Facebook Technologies, Llc Digital pixel image sensor
US10834344B2 (en) * 2018-06-09 2020-11-10 Facebook Technologies, Llc Digital pixel with extended dynamic range
JP7319780B2 (ja) * 2019-01-11 2023-08-02 ブリルニクス シンガポール プライベート リミテッド 固体撮像装置、固体撮像装置の駆動方法、および電子機器

Also Published As

Publication number Publication date
WO2022098805A1 (en) 2022-05-12
US20220141405A1 (en) 2022-05-05
EP4241440A1 (en) 2023-09-13
TW202224414A (zh) 2022-06-16
CN116508327A (zh) 2023-07-28

Similar Documents

Publication Publication Date Title
US9344649B2 (en) Floating point image sensors with different integration times
US8823850B2 (en) Image processing system with on-chip test mode for column ADCs
US8854244B2 (en) Imagers with improved analog-to-digital converters
US7952630B2 (en) Data processor, solid-state imaging device, imaging device, and electronic apparatus
CN110999278A (zh) 数字像素图像传感器
JP2020526104A (ja) 拡張ダイナミックレンジを有するデジタルピクセル
Young et al. A data-compressive 1.5/2.75-bit log-gradient QVGA image sensor with multi-scale readout for always-on object detection
US9307172B2 (en) Floating point image sensors with tile-based memory
Guo et al. A time-to-first-spike CMOS image sensor
US20110267522A1 (en) Solid-state imaging device, drive method thereof and camera system
US20150062102A1 (en) Driving method of imaging device and driving method of imaging system
JP2010520707A (ja) 画像センサのダイナミックレンジを向上及び制御する方法及び装置
JP2023506277A (ja) 錐体及び桿体のバイモーダル生体模倣視覚センサ
CN110493546B (zh) Cmos图像传感器、像素单元及其控制方法
KR20120088602A (ko) 모바일 어플리케이션용의 cmos 이미지 센서에 대한 다이나믹 레인지 확장
US9445028B2 (en) Image sensors for generating floating point numbers
CN113438435B (zh) 一种实时视频图像采集处理系统
JP2023545370A (ja) 量子化動作を低減したデジタル画素センサ
JP2023548016A (ja) 適応ノイズ低減を用いたデジタル画素センサー
US11765474B2 (en) Pixel arrangement, image sensor and method of operating a pixel arrangement
US9029753B2 (en) Optical recognition system and method thereof
US7372492B2 (en) Image sensor having reset compensation block
US20230105527A1 (en) Noise-reduction circuit for an image sensor
US20230209226A1 (en) Image Sensors with On-Chip ADC Data Compression for Multi-Bit Electron-Number Outputs
TW201734947A (zh) 用於在具有管道架構之影像感測器中實施動態接地共享之方法及系統