JP2021526326A - 構成可能な画像センサー - Google Patents

構成可能な画像センサー Download PDF

Info

Publication number
JP2021526326A
JP2021526326A JP2020563778A JP2020563778A JP2021526326A JP 2021526326 A JP2021526326 A JP 2021526326A JP 2020563778 A JP2020563778 A JP 2020563778A JP 2020563778 A JP2020563778 A JP 2020563778A JP 2021526326 A JP2021526326 A JP 2021526326A
Authority
JP
Japan
Prior art keywords
charge
storage unit
photodiode
charge storage
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020563778A
Other languages
English (en)
Inventor
アンドリュー サミュエル ベルコビッチ,
アンドリュー サミュエル ベルコビッチ,
シンチャオ リュウ,
シンチャオ リュウ,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Meta Platforms Technologies LLC
Original Assignee
Facebook Technologies LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Facebook Technologies LLC filed Critical Facebook Technologies LLC
Publication of JP2021526326A publication Critical patent/JP2021526326A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/63Noise processing, e.g. detecting, correcting, reducing or removing noise applied to dark current
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/59Control of the dynamic range by controlling the amount of charge storable in the pixel, e.g. modification of the charge conversion ratio of the floating node capacitance

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Abstract

一例では、方法が、プログラミングデータを受け取ることと、プログラミングデータに基づいて、フローティングドレインを含む電荷貯蔵ユニットがフォトダイオードから受け取られた電荷を蓄積する積分期間、または電荷をサンプリングする回数のうちの少なくとも1つを決定することと、フォトダイオードが、残留電荷を蓄積し、フォトダイオードが飽和した後に電荷貯蔵ユニットにオーバーフロー電荷を送ることを可能にすることと、積分期間内にフォトダイオードから受け取られたオーバーフロー電荷の少なくとも一部を蓄積するように電荷貯蔵ユニットを制御することと、上記回数、オーバーフロー電荷の少なくとも一部または残留電荷をサンプリングして上記数のサンプルを取得するように量子化器を制御することと、上記数のサンプルを量子化して上記数の量子化結果を生成するように量子化器を制御することとを含む。【選択図】図17

Description

関連出願
本特許出願は、その全体がすべての目的のために参照により本明細書に組み込まれる、2018年6月11日に出願された、「SINGLE FRAME MULTIPLE SAMPLING WITH MULTI−MODE DIGITAL PIXEL SENSOR」と題する米国仮特許出願第62/683,563号、および2019年6月10日に出願された、「CONFIGURABLE IMAGE SENSOR」と題する米国特許出願第16/436,137号の優先権を主張する。
本開示は、一般に画像センサーに関し、より詳細には、画像生成のために光強度を決定するためのインターフェース回路要素を含むピクセルセル構造に関する。
一般的な画像センサーは、光子を電荷(たとえば、電子または正孔)に変換することによって入射光を検知するためのフォトダイオードを含む。画像センサーは、フォトダイオードによって生成された電荷を電圧に変換するための電荷貯蔵ユニットをさらに含む。電圧は、入射光の強度を表すために、アナログデジタル変換器(ADC)によってデジタル値に量子化され得る。しかしながら、電圧と入射光強度との間の相関は、そのすべてが画像センサーのダイナミックレンジを低減し得る、雑音、電荷貯蔵ユニットの飽和など、様々なソースによって低下され得る。
本開示は、画像センサーに関する。より詳細には、限定はしないが、本開示は、ピクセルセルに関する。
本開示は、入射光の強度を測定するための装置を提供する。一例では、本装置は、フォトダイオードと、フローティングドレインを含む電荷貯蔵ユニットと、量子化器と、コントローラとを備える。コントローラは、プログラミングデータを受け取ることと、プログラミングデータに基づいて、フローティングドレインを含む電荷貯蔵ユニットがフォトダイオードから受け取られた電荷を蓄積する積分期間(integration period)、またはフォトダイオードから受け取られた電荷をサンプリングする回数のうちの少なくとも1つを決定することと、フォトダイオードが、残留電荷を蓄積し、フォトダイオードが飽和した後に電荷貯蔵ユニットにオーバーフロー電荷を送ることを可能にすることと、積分期間内にフォトダイオードから受け取られたオーバーフロー電荷の少なくとも一部を蓄積するように電荷貯蔵ユニットを制御することとを行うように構成される。コントローラはまた、上記回数、オーバーフロー電荷の少なくとも一部または残留電荷をサンプリングして上記回数の数のサンプルを取得することと、上記数のサンプルを量子化して上記数の量子化結果を生成することとを行うように量子化器を制御することができる。
いくつかの態様では、コントローラは、第1の時間において、フォトダイオードが残留電荷を蓄積することを開始することを可能にすることと、リセット状態から電荷貯蔵ユニットを解放することを第1の時間の後の第2の時間において開始することと、第2の時間の後の第3の時間において電荷貯蔵ユニットをリセットすることとを行うように構成される。コントローラは、プログラミングデータに基づいて第2の時間または第3の時間のうちの少なくとも1つを設定するように構成される。
いくつかの態様では、積分期間は、第1の積分期間であり、第2の時間において開始する。フォトダイオードの第2の積分期間が第1の時間において開始する。
いくつかの態様では、本装置は、フォトダイオードと第1の電荷シンクとの間に結合されたシャッタースイッチと、電荷貯蔵ユニットと第2の電荷シンクとの間に結合されたリセットスイッチとをさらに備える。
いくつかの態様では、コントローラは、第1の時間において、第2の積分期間を開始するためにシャッタースイッチを無効化することと、第2の時間において、第1の積分期間を開始するためにリセットスイッチを無効化することと、第3の時間において、第1の積分期間を停止するためにリセットスイッチを有効化することとを行うように構成される。
いくつかの態様では、本装置は、フォトダイオードと電荷貯蔵ユニットとの間に結合された転送スイッチをさらに備え、転送スイッチは、ゲートと、電荷貯蔵ユニットのフローティングドレイン領域とを備える。コントローラは、フォトダイオードが残留電荷を貯蔵することを可能にするために、第1の積分期間および第2の積分期間内に、転送スイッチのゲートに第1の制御信号を送ることと、第1の積分期間内に、電荷貯蔵ユニットにおいて蓄積されたオーバーフロー電荷の少なくとも一部の第1の数のサンプルを量子化するように量子化器を制御することとを行うように構成される。
いくつかの態様では、コントローラは、第3の時間の後に、リセットスイッチを無効化することと、残留電荷をフォトダイオードから電荷貯蔵ユニットに転送するために、転送スイッチのゲートに第2の制御信号を送ることと、第1の積分期間と第2の積分期間の両方を停止するために、シャッタースイッチを有効化することと、第1の積分期間および第2の積分期間が終了した後に、電荷貯蔵ユニットにおいて蓄積された残留電荷を量子化するように量子化器を制御することとを行うように構成される。
いくつかの態様では、量子化器は、比較器と、カウンタと、メモリとを備える。コントローラは、開始カウント値からカウントすることを開始するようにカウンタを制御することと、電荷貯蔵ユニットにおける電圧を1つまたは複数のしきい値と比較して、比較結果を生成するように比較器を制御することと、比較結果に基づいて、電圧のサンプルの量子化結果としてカウンタからのカウント値を記憶するようにメモリを制御することとを含む量子化動作を実施するように構成される。
いくつかの態様では、コントローラは、上記数の量子化結果を生成するためにプログラミングデータに基づいて上記数の量子化動作を実施するように構成される。
いくつかの態様では、コントローラは、上記数の量子化動作の各々において、電圧をランピングしきい値と比較して、電荷貯蔵ユニットにおいて貯蔵されたオーバーフロー電荷の量または残留電荷の量を決定するように比較器を制御するように構成される。
いくつかの態様では、コントローラは、上記数の量子化結果の間の変化レートに基づいて、フォトダイオードによって受け取られた入射光の強度を表す出力を生成するように構成される。
いくつかの態様では、コントローラは、上記数の量子化結果の第1のサブセットの間の第1の変化レートを決定することと、上記数の量子化結果の第2のサブセットの間の第2の変化レートを決定することと、第1の変化レートと第2の変化レートとの間の関係に基づいて、第1の変化レートに基づく出力を生成することとを行うように構成される。
いくつかの態様では、コントローラは、関係に基づいて、上記数の量子化結果の第2のサブセットによって表された電圧のサンプルが取得されたとき、電荷貯蔵ユニットが飽和されたと決定することと、電荷貯蔵ユニットが飽和されたという決定に基づいて、第1の変化レートに基づく出力を生成することとを行うように構成される。
いくつかの態様では、コントローラは、上記数の量子化動作の各々において、電荷貯蔵ユニットをリセットすることと、上記数の量子化結果の平均に基づいて、フォトダイオードによって受け取られた入射光の強度を表す出力を生成することとを行うように構成される。
いくつかの態様では、コントローラは、上記数の量子化動作の各々において、電圧を静的しきい値と比較するように比較器を制御するように構成される。上記数の量子化結果の各々は、電荷貯蔵ユニットがオーバーフロー電荷によって飽和される時間を表す。
いくつかの態様では、コントローラは、オーバーフロー電荷の少なくとも一部を量子化するために第1の積分期間内に上記数の量子化動作を実施するように構成される。
いくつかの態様では、コントローラは、残留電荷を量子化するために第2の積分期間内に上記数の量子化動作を実施するように構成される。
一例では、方法が、プログラミングデータを受け取ることと、プログラミングデータに基づいて、フローティングドレインを含む電荷貯蔵ユニットがフォトダイオードから受け取られた電荷を蓄積する積分期間、または電荷をサンプリングする回数のうちの少なくとも1つを決定することと、フォトダイオードが、残留電荷を蓄積し、フォトダイオードが飽和した後に電荷貯蔵ユニットにオーバーフロー電荷を送ることを可能にすることと、積分期間内にフォトダイオードから受け取られたオーバーフロー電荷の少なくとも一部を蓄積するように電荷貯蔵ユニットを制御することと、上記回数、オーバーフロー電荷の少なくとも一部または残留電荷をサンプリングして上記回数の数のサンプルを取得するように量子化器を制御することと、上記数のサンプルを量子化して上記数の量子化結果を生成するように量子化器を制御することとを含む。
いくつかの態様では、本方法は、第1の時間において、フォトダイオードがオーバーフロー電荷を蓄積することを開始することを可能にすることと、リセット状態から電荷貯蔵ユニットを解放することを第1の時間の後の第2の時間において開始することと、第2の時間の後の第3の時間において電荷貯蔵ユニットをリセットすることとをさらに含む。積分期間の持続時間は、第2の時間または第3の時間のうちの少なくとも1つに基づいて設定される。
いくつかの態様では、本方法は、上記数の量子化プロセスを実施することであって、量子化プロセスの各々が、開始カウント値からカウントすることを開始するようにカウンタを制御することと、電荷貯蔵ユニットにおける電圧を1つまたは複数のしきい値と比較して、比較結果を生成するように比較器を制御することと、比較結果に基づいて、電圧のサンプルの量子化結果としてカウンタからのカウント値を記憶するようにメモリを制御することとを含む、上記数の量子化プロセスを実施することをさらに含む。
以下の図を参照しながら、例示的な例が説明される。
ニアアイディスプレイ(near−eye display)の一例の図である。 ニアアイディスプレイ(near−eye display)の一例の図である。 ニアアイディスプレイの断面の一例の図である。 単一のソースアセンブリ(source assembly)をもつ導波路ディスプレイ(waveguide display)の一例の等角図である。 導波路ディスプレイの一例の断面を示す図である。 ニアアイディスプレイを含むシステムの一例のブロック図である。 ピクセルセルの例のブロック図である。 図6の例による、異なる範囲の光強度を決定するための動作の態様を示す図である。 図6の例による、異なる範囲の光強度を決定するための動作の態様を示す図である。 図6の例による、異なる範囲の光強度を決定するための動作の態様を示す図である。 図6のピクセルセルの内部構成要素の例を示す図である。 光強度を決定するための例示的な方法を示す図である。 量子化を実施するための技法を示す図である。 ピクセルセルの一例のブロック図である。 光強度測定を実施するための制御信号の例示的なシーケンスを示す図である。 光強度測定を実施するための制御信号の別の例示的なシーケンスを示す図である。 光強度測定を実施するための制御信号の別の例示的なシーケンスを示す図である。 光強度測定を実施するための制御信号の別の例示的なシーケンス、および例示的な結果を示す図である。 光強度測定を実施するための制御信号の別の例示的なシーケンス、および例示的な結果を示す図である。 光強度測定を実施するための制御信号の別の例示的なシーケンス、および例示的な結果を示す図である。 光強度測定を実施するための制御信号の別の例示的なシーケンスを示す図である。 光強度測定を実施するための制御信号の別の例示的なシーケンスを示す図である。 光強度を測定するための例示的なプロセスのフローチャートである。
図は、単に説明の目的で本開示の例を示す。本開示の原理またはうたわれている利益から逸脱することなく、示される構造および方法の代替例が採用され得ることを、当業者は以下の説明から容易に認識されよう。
添付の図において、同様の構成要素および/または特徴は、同じ参照ラベルを有し得る。さらに、同じタイプの様々な構成要素は、同様の構成要素間を区別するダッシュおよび第2のラベルを参照ラベルの後に続けることによって区別され得る。第1の参照ラベルのみが明細書において使用される場合、説明は、第2の参照ラベルには関係なく同じ第1の参照ラベルを有する同様の構成要素のいずれか1つに適用可能である。
以下の説明では、説明の目的で、いくつかの発明の例の完全な理解を提供するために、具体的な詳細が記載される。ただし、様々な例がこれらの具体的な詳細なしに実践され得ることは明らかであろう。図および説明は、限定するものではない。
一般的な画像センサーは、光子を電荷(たとえば、電子または正孔)に変換することによって入射光を検知するためのフォトダイオードを含む。画像センサーは、積分期間中にフォトダイオードによって生成された電荷を収集するためのキャパシタとして構成されたフローティングノードをさらに含む。収集された電荷は、キャパシタにおいて電圧を生じさせることができる。電圧は、バッファされ、アナログデジタル変換器(ADC)に与えられ得、ADCは、電圧を、入射光の強度を表すデジタル値に変換することができる。
ある期間内にフローティングノードにおいて貯蔵された電荷の量を反映する、ADCによって生成されたデジタル値は、入射光の強度に相関し得る。しかしながら、相関の程度は、異なる要因によって影響を及ぼされ得る。第1に、フローティングノードに貯蔵された電荷の量は、フローティングノードが飽和限界に達するまで、入射光の強度に直接関係し得る。飽和限界を超えると、フローティングノードは、フォトダイオードによって生成された追加の電荷を受け付けることができないことがあり、追加の電荷は、漏洩され、貯蔵されないことがある。その結果、フローティングノードにおいて貯蔵された電荷の量は、フォトダイオードによって実際に生成された電荷の量よりも少なくなり得る。飽和限界は、画像センサーの測定可能な光強度の上限を決定し得る。
また、様々な要因が、画像センサーの測定可能な光強度の下限を設定することがある。たとえば、フローティングノードにおいて収集された電荷は、入射光の強度に関係しない雑音電荷、ならびに暗電流によってもたらされる暗電荷を含み得る。暗電流は、結晶欠陥により、フォトダイオードのpn接合においておよびキャパシタに接続された他の半導体デバイスのpn接合において生成される、漏洩電流を含むことがある。暗電流は、キャパシタ中に流れ、入射光の強度に相関されない電荷を追加することがある。フォトダイオードにおいて生成される暗電流は、一般的に、他の半導体デバイスにおいて生成される暗電流よりも小さい。雑音電荷の別のソースは、他の回路要素との容量結合であり得る。たとえば、ADC回路要素が、フローティングノードに貯蔵された電荷の量を決定するための読取り動作を実施するとき、ADC回路要素は、容量結合を通してフローティングノードに雑音電荷を導入することがある。
雑音電荷のほかに、ADCは、電荷の量を決定する際の測定誤差をも導入することがある。測定誤差は、デジタル出力と入射光の強度との間の相関の程度を低下させることがある。測定誤差の1つのソースは量子化誤差である。量子化プロセスにおいて、電荷の量の連続セットを表すために、量レベルの離散セットが使用され、各量レベルは、電荷の所定の量を表すことができる。ADCは、電荷の入力量を量レベルと比較し、入力量に最も近い量レベルを決定し、決定された量レベルを(たとえば、量レベルを表すデジタルコードの形式で)出力することができる。量子化誤差は、量レベルによって表される電荷の量と、量レベルにマッピングされる電荷の入力量との間に不一致があるとき、発生することがある。量子化誤差は、(たとえば、2つの隣接する量レベル間の電荷量の差を低減することによって)より小さい量子化ステップサイズを伴って低減され得る。測定誤差の他のソースは、たとえば、電荷の量の測定における不確実性を増やす、(たとえば、ADC回路要素の)デバイス雑音と比較器オフセットとをも含み得る。雑音電荷、暗電荷、ならびにADC測定誤差は、画像センサーの測定可能な光強度の下限を定義することがあるが、飽和限界は、画像センサーの測定可能な光強度の上限を決定し得る。上限と下限との間の比がダイナミックレンジを定義し、ダイナミックレンジは、画像センサーのための動作光強度の範囲を設定し得る。
画像センサーは、多くの異なるアプリケーションにおいて見られ得る。一例として、画像センサーは、デジタル撮像を提供するためのデジタル撮像デバイス(たとえば、デジタルカメラ、スマートフォンなど)中に含まれる。別の例として、画像センサーは、ウェアラブル仮想現実(VR)システムならびに/あるいは拡張現実(AR)および/または複合現実(MR)システム中のニアアイディスプレイのディスプレイコンテンツを制御するかまたはそのディスプレイコンテンツに影響を与えることなど、デバイスの動作を制御するかまたはデバイスの動作に影響を与えるための入力デバイスとして構成され得る。たとえば、画像センサーは、ユーザが位置する物理的環境の物理的画像データを生成するために使用され得る。物理的画像データは、たとえば、物理的環境におけるユーザのロケーション、ユーザの向き、および/またはユーザの移動の経路を追跡するための同時位置特定およびマッピング(SLAM:simultaneous localization and mapping)アルゴリズムを動作させるロケーション追跡システムに提供され得る。画像センサーは、物理的環境におけるユーザと物体との間の距離を測定するためのステレオ深度情報を含む、物理的画像データを生成するためにも使用され得る。画像センサーはまた、近赤外(NIR:near−infrared)センサーとして構成され得る。照明器が、ユーザの眼球にNIR光のパターンを投影し得る。眼球の内部構造(たとえば、瞳孔)が、NIR光から反射パターンを生成し得る。画像センサーは、反射パターンの画像をキャプチャし、その画像を、ユーザの眼球の移動を追跡してユーザの注視点を決定するためのシステムに提供することができる。この物理的画像データに基づいて、VR/AR/MRシステムは、ユーザにインタラクティブ体験を提供するために、ニアアイディスプレイを介してユーザに表示するための仮想画像データを生成および更新し得る。たとえば、VR/AR/MRシステムは、(物体に対するユーザの関心をシグナリングし得る)ユーザの注視する方向、ユーザのロケーションなどに基づいて仮想画像データを更新し得る。
ウェアラブルVR/AR/MRシステムは、極めて広範囲の光強度を伴う環境において動作し得る。たとえば、ウェアラブルVR/AR/MRシステムは、屋内環境または屋外環境において、および/あるいは1日の異なる時間において動作することが可能であり得、ウェアラブルVR/AR/MRシステムの動作環境の光強度は大幅に変動し得る。その上、ウェアラブルVR/AR/MRシステムはまた、上述のNIR眼球追跡システムを含み得、これは、眼球に損傷を与えることを防ぐために、ユーザの眼球に極めて低い強度の光を投影することを必要とし得る。その結果、ウェアラブルVR/AR/MRシステムの画像センサーは、異なる動作環境に関連する極めて広範囲の光強度にわたって適切に動作すること(たとえば、入射光の強度と相関する出力を生成すること)が可能であるために、広いダイナミックレンジを有する必要があり得る。ウェアラブルVR/AR/MRシステムの画像センサーは、ユーザのロケーション、向き、注視点などの追跡を可能にするために十分高速で画像を生成する必要もあり得る。
固定ダイナミックレンジを提供し、高速で画像データを生成する画像センサーは、一般的に、極めて高い電力を必要とし、これは、そのような画像センサーを、一般的に極めて低い電力で動作するウェアラブルデバイスにとって好適でないものにする。その上、画像センサーは、利用可能なダイナミックレンジの小さい部分のみを使用し得るが、異なるアプリケーションについて、利用可能なダイナミックレンジの異なる部分を使用し得る。たとえば、眼球を追跡するアプリケーションは、センサーが、眼の角膜によって反射される高強度光、ならびに、瞳孔によって反射される低強度光を検出するが、それらの間の中強度をもつ光を検出しないことを必要とし得る。別の例として、画像センサーのアレイがシーンの異なるスポットから光を受け取り得、アレイ内の異なる画像センサーは、非常に異なる強度の光を受け取り得る。画一的な(one−size−fit−all)手法は、すべてのこれらのアプリケーションのためのターゲット強度範囲をカバーするために極めて広いダイナミックレンジを有する画像センサーを提供することであり得るが、そのような手法は、極めて高い電力を必要とするだけでなく、画像センサーの広いダイナミックレンジが、これらのアプリケーションの各々においてめったに十分に利用されないので、電力のかなりの浪費にもつながる。
本開示は、拡張されたダイナミックレンジを提供することができる構成可能なピクセルセルに関する。ピクセルセルは、フォトダイオード、電荷貯蔵ユニット、フォトダイオードと電荷貯蔵ユニットとの間の転送ゲートとして構成されたトランジスタ、ならびに、コントローラと比較器とを含む処理回路を含み得る。ピクセルセルは、シャッタースイッチとリセットスイッチとをさらに含み、その両方は、コントローラによって制御され得る。コントローラは、フォトダイオードが、入射光に応答して電荷を生成し、フォトダイオードが飽和するまで、電荷の少なくとも一部を残留電荷として貯蔵することを可能にされる、フォトダイオードの積分期間を設定するように、シャッタースイッチを制御することができる。電荷貯蔵ユニットは、トランジスタのフローティングドレイン、金属キャパシタ、金属酸化物半導体(MOS)キャパシタ、またはそれらの任意の組合せであり得、リセットスイッチによってリセットされ得る。コントローラは、電荷貯蔵ユニットが、第1の電圧を生じさせるために、フォトダイオードが飽和し、追加の電荷を貯蔵することができないとき、フォトダイオードから転送される電荷である、オーバーフロー電荷を蓄積することができる、電荷貯蔵ユニットの積分期間を設定するように、リセットスイッチを制御することができる。コントローラはまた、第2の電圧を生じさせるために、残留電荷をフォトダイオードから電荷貯蔵ユニットに転送するように転送ゲートを制御することができる。第1の電圧および第2の電圧は、入射光の強度を測定するために量子化され得る。
処理回路は、異なる強度範囲について複数の測定モードを実施することができる。測定の第1のモードにおいて、コントローラは、第1の電圧を第1のランピングしきい値電圧と比較して、第1の判定を生成するように比較器を制御することができる。第1の判定が、第1の電圧が第1のランピングしきい値電圧を越えることを指示するとき、第1のカウント値が、カウンタからキャプチャされ、メモリに記憶され得る。第1のカウント値は、第1のランピングしきい値電圧が第1の電圧を越えるのにかかった時間の測定値を表すことができ、これは、電荷貯蔵ユニットに貯蔵されたオーバーフロー電荷を量子化した結果をも表すことができる。オーバーフロー電荷の量は、入射光の強度に比例し得る。本開示の残部では、測定の第1のモードは「FD ADC」動作と呼ばれることがある。FD ADC動作は、フォトダイオードが残留電荷によって飽和される中強度範囲の入射光をターゲットとし得るが、電荷貯蔵ユニットはオーバーフロー電荷によって飽和されない。
コントローラは、測定の第2のモードについて第2の電圧を生じさせるために、残留電荷をフォトダイオードから電荷貯蔵ユニットに転送するように転送ゲートを制御することができる。測定の第2のモードにおいて、コントローラは、第2の電圧を第2のランピングしきい値電圧と比較して、第2の判定を生成するように比較器を制御することができる。第2の判定が、第2の電圧が第2のランピング参照電圧を越えることを指示するとき、第2のカウント値が、カウンタからキャプチャされ、メモリに記憶され得る。第2のカウント値は、第2のランピングしきい値電圧が第2の電圧を越えるのにかかった時間の測定値を表すことができ、これは、電荷貯蔵ユニットに貯蔵された残留電荷を量子化した結果をも表す。残留電荷の量は、入射光の強度に比例し得る。本開示の残部では、測定の第2のモードは「PD ADC」動作と呼ばれることがある。PD ADC動作は、フォトダイオードが残留電荷によって飽和されない低強度範囲の入射光をターゲットにすることができる。
いくつかの例では、処理回路は、測定の第3のモードをも実施することができる。測定の第3のモードにおいて、コントローラは、第1の電圧を、電荷貯蔵ユニットの飽和限界を表す静的しきい値電圧と比較して、第3の判定を生成するように比較器を制御することができる。第3の判定が、電荷貯蔵ユニットが飽和限界に達するかまたは飽和限界を超えることを指示するとき、第3のカウント値が、カウンタからキャプチャされ、メモリに記憶され得る。第3のカウント値は、電荷貯蔵ユニットが飽和されるのにかかった時間の測定値を表すことができ、持続時間は、入射光の強度に反比例し得る。本開示の残部では、測定の第3のモードは、飽和までの時間(TTS:time−to−saturation)動作と呼ばれることがある。TTS動作は、フォトダイオードがオーバーフロー電荷によって飽和される高強度範囲の入射光をターゲットにすることができる
コントローラは、画像フレームを生成するために、連続的に測定の異なるモードを実施することができる。フレーム開始(SoF:start of frame)において、コントローラは、それぞれ、フォトダイオードの積分期間および電荷貯蔵ユニットの積分期間を開始するために、シャッタースイッチおよびリセットスイッチを解放することができる。コントローラはまた、フォトダイオードが残留電荷を貯蔵することを可能にするように転送ゲートを制御することができる。電荷貯蔵ユニットの積分期間は、フォトダイオードの積分期間が開始した後に開始することができる。フォトダイオードが光を受け取ると、フォトダイオードは、フォトダイオードの積分期間内に、および電荷貯蔵ユニットの積分期間内に電荷を生成し続けることができる。もしフォトダイオードが飽和したときは、オーバーフロー電荷が電荷貯蔵ユニット中に蓄積し得る。電荷貯蔵ユニットの積分期間が開始した後に(リセットスイッチが無効化されたとき)、コントローラは、電荷貯蔵ユニットがオーバーフロー電荷によって飽和されたかどうかを決定するために、および飽和までの時間を決定するために、TTS動作を実施することができる。コントローラは、次いで、電荷貯蔵ユニットに貯蔵されたオーバーフロー電荷の量を決定するために、FD ADC動作を実施することができる。FD ADC動作の終了に続いて、コントローラは、電荷貯蔵ユニットに貯蔵されたオーバーフロー電荷を除去するためにリセットスイッチをアクティブ化することができ、これにより、電荷貯蔵ユニットの積分期間が終了する。コントローラは、次いで、リセットスイッチを解放し、残留電荷をフォトダイオードから電荷貯蔵ユニットに転送するように転送ゲートを制御することができ、その間に、フォトダイオードは追加の電荷を生成し続け得る。残留電荷の転送が終了した後に、コントローラは、フォトダイオードの積分期間を終了するためにシャッタースイッチをアクティブ化し、次いで、電荷貯蔵ユニットに貯蔵された残留電荷の量を決定するためにPD ADC動作を実施することができる。PD ADC動作の終了は、フレーム終了(EoF:end of frame)をマークすることができる。SoFとEoFとの間の時間はフレーム期間に対応することができ、フレーム期間において、TTS動作、FD ADC動作およびPD ADC動作のうちの1つの出力に基づいて、画像フレームが生成され得る。測定の異なるモードは、後続の画像フレームを生成するために、後続のフレーム期間において繰り返され得る。
上記で説明されたマルチモード測定動作は、ピクセルセルによる光強度測定のダイナミックレンジを拡張することができる。詳細には、TTS測定動作は、電荷貯蔵ユニットを飽和させる強度レベルを超える高光強度の測定を可能にし、これは、ダイナミックレンジの上限を拡張することができる。その上、PD ADC動作は、低光強度について、フォトダイオードに貯蔵された残留電荷を測定する。フォトダイオードは、一般的に、ごくわずかな暗電流を受け取るので、暗電流によって引き起こされる暗電荷の大きさは、入射光によって引き起こされる実信号に対して小さいままであり得、これは、検出可能な入射光強度を低減し、ダイナミックレンジの下限を押し下げることができる。
本開示によるピクセルセルはまた、光強度測定動作の様々な態様のための構成可能性を提供することができ、これは、ピクセルセルが異なるアプリケーションについて最適化され、ダイナミックレンジをさらに拡張することを可能にする。詳細には、いくつかの例では、TTS動作、FD ADC動作、および/またはPD ADC動作の持続時間は、構成可能である。各測定動作の持続時間は、それぞれの測定動作のターゲット強度範囲を設定することができる。たとえば、ピクセルセルが極めて高い強度の光または極めて低い強度の光のいずれかを検出することを必要とするアプリケーション(たとえば、視線追跡動作)では、コントローラは、フレーム期間を増加させることができる。増加されたフレーム期間は、フォトダイオードが残留電荷を生成および蓄積するフォトダイオード積分期間の増加を可能にする。そのような仕組みは、極めて低い強度の光の光子の、電荷への変換のために提供される時間を増加させることができ、その結果、極めて低い強度の光について、より多くの電荷が蓄積され得、これは、低強度光測定のための信号対雑音比を増加させ、ダイナミックレンジの下限を押し下げることができる。
さらに、電荷貯蔵ユニットがオーバーフロー電荷を蓄積する第2の積分期間の持続時間は、低減され得る。そのような仕組みは、様々な利益を提供することができる。第1に、低減された第2の積分期間は、量子化器の様々なアナログ構成要素(たとえば、比較器)のオン時間を低減することができ、これは、TTS動作およびFD ADC動作の全体的な電力消費量を低減することができる。第2に、第2の積分期間の低減された持続時間は、暗電流によりフローティングドレインによって蓄積された暗電荷の量をも低減することができ、これは、TTS動作およびFD ADC動作の正確さをさらに改善することができる。電荷貯蔵ユニットは、ピクセルセルが極めて高い強度の光を受け取ったときに極めて短い持続時間内に飽和し得るので、低減された第2の積分期間はまた、ダイナミックレンジの上限を下げず、TTS動作は、依然として光強度の正確な表現を提供することができる。
コントローラは、様々な技法に基づいて第2の積分期間を調整することができる。一例では、コントローラは、第2の積分期間の開始時間を設定するために、TTS動作およびFD ADC動作より前に、シャッタースイッチの解放に対する(電荷貯蔵ユニットをリセットする)リセットスイッチの解放の間の遅延を設定することができる。別の例では、コントローラは、第2の積分期間の終了時間を設定するために、(PD ADC動作より前に)リセットスイッチのアクティブ化とシャッタースイッチのアクティブ化との間の遅延を設定することができる。両方の例では、コントローラは、第2の積分期間の持続時間を設定するために外部プログラミングデータに基づいて遅延を設定することができる。
いくつかの例では、フレーム期間内のTTS測定動作、PD ADC測定動作、およびFD ADC測定動作の数も構成可能である。各TTS測定動作、PD ADC測定動作、およびFD ADC測定動作は、サンプルの量子化結果を生成することができ、測定動作は、複数のサンプルの複数の量子化結果を生成するために、フォトダイオードの積分期間内に繰り返され(たとえば、複数のPD ADC動作)、および/または電荷貯蔵ユニットの積分期間内に繰り返され得る(複数のTTS動作、複数のFD ADC動作など)。各サンプルは、(FD ADC動作およびPD ADC動作についての)電圧または飽和までの時間(TTS)を含むことができる。コントローラは、様々な技法を使用して複数の量子化結果に基づいて各測定動作についての強度出力を生成することができる。
いくつかの例では、サンプリングされた電圧は、複数のFD ADC測定動作またはPD ADC測定動作にわたる、フォトダイオードからの、電荷貯蔵ユニットにおけるオーバーフロー電荷/残留電荷の連続蓄積に基づき得る。コントローラは、フレーム期間内のおよび/または複数のフレーム期間にわたるサンプリングされた電圧の変化レートに基づいて強度出力を生成することができ、変化レートは電荷の蓄積のレートを反映し、電荷の蓄積のレートは入射光強度を反映する。強度測定のそのような仕組みは、多数の利益を提供することができる。たとえば、サンプルは、高いサンプリング周波数において取得され、量子化され得、これは、1/f雑音を低減し、強度測定動作の正確さを改善することができる。その上、強度測定は、ランプまたはクロック信号の遅延のような不一致のソースに対してより弾力的になり得、これは、これらの雑音ソースの較正の必要を低減するかまたはなくすことができる。
さらに、コントローラはまた、電荷貯蔵ユニットの飽和を検出するために、サンプリングされた電圧の変化レートの変化があるかどうかを決定することができ、飽和より前に変化レートに基づいて強度出力を決定することができる。そのような仕組みは、FD ADC動作のための光強度範囲の上限を拡大することができ、これは、TTS動作が一層高い強度範囲のために使用されることを可能にし、その結果、全体的なダイナミックレンジの上限が増加され得る。
いくつかの例では、電荷貯蔵ユニットは、第1の/第2の積分期間を複数の積分期間に分割するために、各繰り返されるTTS/FD ADC/PD ADC動作においてサンプリングおよび量子化動作より前にリセットされ得る。たとえば、電荷貯蔵ユニットは、複数の積分期間において取得された複数の飽和までの時間測定値を表す複数のサンプルカウント値を取得するために、各TTS動作の始まりにおいてリセットされ得る。電荷貯蔵ユニットは、各々が短縮積分期間における蓄積された電荷の量を表す複数のサンプル電圧を取得するために、各FD ADC/PD ADC動作の始まりにおいてもリセットされ得る。どちらの場合も、サンプルは、強度出力を生成するために平均化され得る。そのような仕組みは、リセット雑音および量子化雑音など、雑音ソースを低減することができ、これは、強度測定動作の正確さを改善することができる。
本開示の例は、人工現実システムを含むか、または人工現実システムに関連して実装され得る。人工現実は、ユーザへの提示の前に何らかの様式で調整された形式の現実であり、これは、たとえば、仮想現実(VR)、拡張現実(AR)、複合現実(MR)、ハイブリッド現実、あるいはそれらの何らかの組合せおよび/または派生物を含み得る。人工現実コンテンツは、完全に生成されたコンテンツ、またはキャプチャされた(たとえば、現実世界の)コンテンツと組み合わせられた生成されたコンテンツを含み得る。人工現実コンテンツは、ビデオ、オーディオ、触覚フィードバック、またはそれらの何らかの組合せを含み得、それらのいずれも、単一のチャネルまたは複数のチャネルにおいて提示され得る(観察者に3次元効果をもたらすステレオビデオなど)。加えて、いくつかの例では、人工現実は、たとえば、人工現実におけるコンテンツを作り出すために使用される、および/または人工現実において別様に使用される(たとえば、人工現実におけるアクティビティを実施する)アプリケーション、製品、アクセサリ、サービス、またはそれらの何らかの組合せにも関連付けられ得る。人工現実コンテンツを提供する人工現実システムは、ホストコンピュータシステムに接続されたヘッドマウントディスプレイ(HMD)、独立型HMD、モバイルデバイスまたはコンピューティングシステム、あるいは、1人または複数の観察者に人工現実コンテンツを提供することが可能な任意の他のハードウェアプラットフォームを含む、様々なプラットフォーム上に実装され得る。
図1Aは、ニアアイディスプレイ100の一例の図である。ニアアイディスプレイ100は、ユーザにメディアを提示する。ニアアイディスプレイ100によって提示されるメディアの例は、1つまたは複数の画像、ビデオ、および/またはオーディオを含む。いくつかの例では、オーディオは、外部デバイス(たとえば、スピーカーおよび/またはヘッドフォン)を介して提示され、この外部デバイスは、ニアアイディスプレイ100、コンソール、またはその両方からオーディオ情報を受け取り、そのオーディオ情報に基づいてオーディオデータを提示する。ニアアイディスプレイ100は、概して、仮想現実(VR)ディスプレイとして動作するように構成される。いくつかの例では、ニアアイディスプレイ100は、拡張現実(AR)ディスプレイおよび/または複合現実(MR)ディスプレイとして動作するように変更される。
ニアアイディスプレイ100は、フレーム105とディスプレイ110とを含む。フレーム105は、1つまたは複数の光学要素に結合される。ディスプレイ110は、ユーザがニアアイディスプレイ100によって提示されたコンテンツを見るように構成される。いくつかの例では、ディスプレイ110は、1つまたは複数の画像からの光をユーザの眼に向けるための導波路ディスプレイアセンブリを備える。
ニアアイディスプレイ100は、画像センサー120a、120b、120c、および120dをさらに含む。画像センサー120a、120b、120c、および120dの各々は、異なる方向に沿った異なる視野を表す画像データを生成するように構成されたピクセルアレイを含み得る。たとえば、センサー120aおよび120bは、Z軸に沿った方向Aに向かう2つの視野を表す画像データを提供するように構成され得、センサー120cは、X軸に沿った方向Bに向かう視野を表す画像データを提供するように構成され得、センサー120dは、X軸に沿った方向Cに向かう視野を表す画像データを提供するように構成され得る。
いくつかの例では、センサー120a〜120dは、ニアアイディスプレイ100を装着したユーザにインタラクティブVR/AR/MR体験を提供するために、ニアアイディスプレイ100のディスプレイコンテンツを制御するかまたはニアアイディスプレイ100のディスプレイコンテンツに影響を与えるための入力デバイスとして構成され得る。たとえば、センサー120a〜120dは、ユーザが位置する物理的環境の物理的画像データを生成することができる。物理的画像データは、物理的環境におけるユーザのロケーションおよび/または移動の経路を追跡するためのロケーション追跡システムに提供され得る。システムは、次いで、インタラクティブ体験を提供するために、たとえば、ユーザのロケーションおよび向きに基づいて、ディスプレイ110に提供された画像データを更新することができる。いくつかの例では、ロケーション追跡システムは、ユーザが物理的環境内を移動するにつれて、物理的環境におけるおよびユーザの視野内の物体のセットを追跡するために、SLAMアルゴリズムを動作させ得る。ロケーション追跡システムは、物体のセットに基づいて物理的環境のマップを構築および更新し、マップ内のユーザのロケーションを追跡することができる。複数の視野に対応する画像データを提供することによって、センサー120a〜120dは、ロケーション追跡システムに物理的環境のより全体的なビューを提供することができ、これは、より多くの物体がマップの構築および更新に含まれることにつながり得る。そのような仕組みにより、物理的環境内のユーザのロケーションを追跡することの正確さおよびロバストネスが改善され得る。
いくつかの例では、ニアアイディスプレイ100は、物理的環境に光を投影するための1つまたは複数のアクティブ照明器130をさらに含み得る。投影された光は、異なる周波数スペクトル(たとえば、可視光、赤外光、紫外光など)に関連付けられ得、様々な目的を果たすことができる。たとえば、照明器130は、たとえば、ユーザのロケーション追跡を可能にするために、センサー120a〜120dが暗い環境内の異なる物体の画像をキャプチャするのを支援するために、暗い環境において(または、低い強度の赤外光、紫外光などを伴う環境において)光を投影し得る。照明器130は、ロケーション追跡システムがマップ構築/更新のために物体を識別するのを支援するために、環境内の物体上にいくつかのマーカーを投影し得る。
いくつかの例では、照明器130は、立体撮像をも可能にし得る。たとえば、センサー120aまたは120bのうちの1つまたは複数は、可視光検知のための第1のピクセルアレイと赤外(IR)光検知のための第2のピクセルアレイの両方を含むことができる。第1のピクセルアレイは、カラーフィルタ(たとえば、バイエルフィルタ)で覆われ得、第1のピクセルアレイの各ピクセルが、特定の色(たとえば、赤色、緑色または青色のうちの1つ)に関連付けられた光の強度を測定するように構成される。また、(IR光検知のための)第2のピクセルアレイは、IR光の通過のみを可能にするフィルタで覆われ得、第2のピクセルアレイの各ピクセルが、IR光の強度を測定するように構成される。ピクセルアレイは、物体のRGB画像およびIR画像を生成することができ、IR画像の各ピクセルが、RGB画像の各ピクセルにマッピングされる。照明器130は、物体上にIRマーカーのセットを投影し得、その画像は、IRピクセルアレイによってキャプチャされ得る。画像に示されている物体のIRマーカーの分布に基づいて、システムは、IRピクセルアレイからの物体の異なる部分の距離を推定し、その距離に基づいて物体の立体画像を生成することができる。物体の立体画像に基づいて、システムは、たとえば、ユーザに対する物体の相対位置を決定することができ、インタラクティブ体験を提供するために、相対位置情報に基づいて、ディスプレイ100に提供された画像データを更新することができる。
上記で説明されたように、ニアアイディスプレイ100は、極めて広範囲の光強度に関連する環境において動作され得る。たとえば、ニアアイディスプレイ100は、屋内環境または屋外環境において、および/あるいは1日の異なる時間において動作され得る。ニアアイディスプレイ100はまた、アクティブ照明器130がオンにされていてもいなくても動作し得る。その結果、画像センサー120a〜120dは、ニアアイディスプレイ100のための異なる動作環境に関連する極めて広範囲の光強度にわたって適切に動作すること(たとえば、入射光の強度と相関する出力を生成すること)が可能であるために、広いダイナミックレンジを有する必要があり得る。
図1Bは、ニアアイディスプレイ100の別の例の図である。図1Bは、ニアアイディスプレイ100を装着したユーザの(1つまたは複数の)眼球135に面するニアアイディスプレイ100の側面を示す。図1Bに示されているように、ニアアイディスプレイ100は、複数の照明器140a、140b、140c、140d、140e、および140fをさらに含み得る。ニアアイディスプレイ100は、複数の画像センサー150aおよび150bをさらに含む。照明器140a、140b、および140cは、(図1Aの方向Aと反対である)方向Dに向かってある周波数範囲(たとえば、NIR)の光を放出し得る。放出された光は、あるパターンに関連付けられ得、ユーザの左眼球によって反射され得る。センサー150aは、反射光を受け取り、反射パターンの画像を生成するためのピクセルアレイを含み得る。同様に、照明器140d、140e、および140fは、パターンを搬送するNIR光を放出し得る。NIR光は、ユーザの右眼球によって反射され得、センサー150bによって受け取られ得る。センサー150bも、反射パターンの画像を生成するためのピクセルアレイを含み得る。センサー150aおよび150bからの反射パターンの画像に基づいて、システムは、ユーザの注視点を決定し、ユーザにインタラクティブ体験を提供するために、決定された注視点に基づいて、ディスプレイ100に提供された画像データを更新することができる。
上記で説明されたように、ユーザの眼球に損傷を与えることを回避するために、照明器140a、140b、140c、140d、140e、および140fは、一般的に、極めて低い強度の光を出力するように構成される。画像センサー150aおよび150bが図1Aの画像センサー120a〜120dと同じセンサーデバイスを備える場合、画像センサー120a〜120dは、入射光の強度が極めて低いときに入射光の強度と相関する出力を生成することが可能である必要があり得、これは、画像センサーのダイナミックレンジ要件をさらに増加させ得る。
その上、画像センサー120a〜120dは、眼球の移動を追跡するために高速で出力を生成することが可能である必要があり得る。たとえば、ユーザの眼球は、ある眼球位置から別の眼球位置への素早いジャンプがあり得る極めて急速な移動(たとえば、サッカード運動(saccade movement))を実施することができる。ユーザの眼球の急速な移動を追跡するために、画像センサー120a〜120dは、高速で眼球の画像を生成する必要がある。たとえば、画像センサーが画像フレームを生成するレート(フレームレート)は、少なくとも、眼球の移動の速度に一致する必要がある。高いフレームレートは、画像フレームを生成することに関与するピクセルセルのすべてについての短い総露光時間、ならびに、画像生成のためにセンサー出力をデジタル値に変換するための高い速度を必要とする。その上、上記で説明されたように、画像センサーは、低光強度を伴う環境において動作することが可能である必要もある。
図2は、図1に示されているニアアイディスプレイ100の断面200の一例である。ディスプレイ110が、少なくとも1つの導波路ディスプレイアセンブリ210を含む。射出瞳230は、ユーザがニアアイディスプレイ100を装着したときにユーザの単一の眼球220がアイボックス(eyebox)領域中に配置されるロケーションである。説明の目的で、図2は、眼球220と単一の導波路ディスプレイアセンブリ210に関連する断面200を示すが、第2の導波路ディスプレイがユーザの第2の眼のために使用される。
導波路ディスプレイアセンブリ210は、画像光を、射出瞳230に位置するアイボックスに、および眼球220に向けるように構成される。導波路ディスプレイアセンブリ210は、1つまたは複数の屈折率をもつ1つまたは複数の材料(たとえば、プラスチック、ガラスなど)から構成され得る。いくつかの例では、ニアアイディスプレイ100は、導波路ディスプレイアセンブリ210と眼球220との間に1つまたは複数の光学要素を含む。
いくつかの例では、導波路ディスプレイアセンブリ210は、制限はしないが、積層導波路ディスプレイ、可変焦点導波路ディスプレイなどを含む、1つまたは複数の導波路ディスプレイのスタックを含む。積層導波路ディスプレイは、それぞれの単色ソースが異なる色のものである導波路ディスプレイを積層することによって作り出された多色ディスプレイ(たとえば、赤緑青(RGB)ディスプレイ)である。積層導波路ディスプレイは、複数の平面上に投影され得る多色ディスプレイ(たとえば、多平面カラーディスプレイ)でもある。いくつかの構成では、積層導波路ディスプレイは、複数の平面上に投影され得る単色ディスプレイ(たとえば、多平面単色ディスプレイ)である。可変焦点導波路ディスプレイは、導波路ディスプレイから放出された画像光の焦点位置を調整することができるディスプレイである。代替例では、導波路ディスプレイアセンブリ210は、積層導波路ディスプレイと可変焦点導波路ディスプレイとを含み得る。
図3は、導波路ディスプレイ300の一例の等角図を示す。いくつかの例では、導波路ディスプレイ300は、ニアアイディスプレイ100の構成要素(たとえば、導波路ディスプレイアセンブリ210)である。いくつかの例では、導波路ディスプレイ300は、画像光を特定のロケーションに向ける何らかの他のニアアイディスプレイまたは他のシステムの一部である。
導波路ディスプレイ300は、ソースアセンブリ310と、出力導波路320と、コントローラ330とを含む。説明の目的で、図3は、単一の眼球220に関連付けられた導波路ディスプレイ300を示すが、いくつかの例では、導波路ディスプレイ300とは別個の、または部分的に別個の別の導波路ディスプレイが、ユーザの別の眼に画像光を提供する。
ソースアセンブリ310は、画像光355を生成する。ソースアセンブリ310は、画像光355を生成し、出力導波路320の第1の側面370−1上に位置する結合要素350に出力する。出力導波路320は、拡大された画像光340をユーザの眼球220に出力する光導波路である。出力導波路320は、第1の側面370−1上に位置する1つまたは複数の結合要素350において画像光355を受け取り、受け取られた入力画像光355を方向付け要素360に導く。いくつかの例では、結合要素350は、ソースアセンブリ310からの画像光355を出力導波路320に結合する。結合要素350は、たとえば、回折格子、ホログラフィック格子、1つまたは複数のカスケード型反射器、1つまたは複数のプリズム表面要素、および/またはホログラフィック反射器のアレイであり得る。
方向付け要素360は、受け取られた入力画像光355が分離要素365を介して出力導波路320から分離されるように、受け取られた入力画像光355を分離要素365に向け直す。方向付け要素360は、出力導波路320の第1の側面370−1の一部であるか、または出力導波路320の第1の側面370−1に取り付けられる。分離要素365は、方向付け要素360が分離要素365に対向するように、出力導波路320の第2の側面370−2の一部であるか、または出力導波路320の第2の側面370−2に取り付けられる。方向付け要素360および/または分離要素365は、たとえば、回折格子、ホログラフィック格子、1つまたは複数のカスケード型反射器、1つまたは複数のプリズム表面要素、および/またはホログラフィック反射器のアレイであり得る。
第2の側面370−2は、x次元およびy次元に沿った平面を表す。出力導波路320は、画像光355の内部全反射を促進する1つまたは複数の材料から構成され得る。出力導波路320は、たとえば、シリコン、プラスチック、ガラス、および/またはポリマーから構成され得る。出力導波路320は、比較的小さいフォームファクタを有する。たとえば、出力導波路320は、x次元に沿って幅約50mm、y次元に沿って長さ約30mm、およびz次元に沿って厚さ約0.5〜1mmであり得る。
コントローラ330は、ソースアセンブリ310のスキャン動作を制御する。コントローラ330は、ソースアセンブリ310のためのスキャン命令を決定する。いくつかの例では、出力導波路320は、拡大された画像光340を大きい視野(FOV)でユーザの眼球220に出力する。たとえば、拡大された画像光340は、60度のおよび/またはそれよりも大きい、ならびに/あるいは150度のおよび/またはそれよりも小さい(xおよびyにおける)対角FOVでユーザの眼球220に提供される。出力導波路320は、20mm以上および/または50mm以下の長さ、ならびに/あるいは10mm以上および/または50mm以下の幅をもつアイボックスを提供するように構成される。
その上、コントローラ330は、画像センサー370によって提供される画像データに基づいて、ソースアセンブリ310によって生成される画像光355をも制御する。画像センサー370は、第1の側面370−1上に位置し得、たとえば、(たとえば、ロケーション決定のための)ユーザの前にある物理的環境の画像データを生成するために図1Aの画像センサー120a〜120dを含み得る。画像センサー370はまた、第2の側面370−2上に位置し得、ユーザの(たとえば、注視点決定のための)眼球220の画像データを生成するために図1Bの画像センサー150aおよび150bを含み得る。画像センサー370は、導波路ディスプレイ300内に位置しないリモートコンソールとインターフェースし得る。画像センサー370は、画像データをリモートコンソールに提供し得、リモートコンソールは、たとえば、ユーザのロケーション、ユーザの注視点などを決定し、ユーザに表示されるべき画像のコンテンツを決定し得る。リモートコンソールは、決定されたコンテンツに関係する命令をコントローラ330に送ることができる。命令に基づいて、コントローラ330は、ソースアセンブリ310による画像光355の生成および出力を制御することができる。
図4は、導波路ディスプレイ300の断面400の一例を示す。断面400は、ソースアセンブリ310と、出力導波路320と、画像センサー370とを含む。図4の例では、画像センサー370は、ユーザの前にある物理的環境の画像を生成するために、第1の側面370−1上に位置するピクセルセル402のセットを含み得る。いくつかの例では、ピクセルセル402のセットの露光を制御するために、ピクセルセル402のセットと物理的環境との間に挿入された機械的シャッター404があり得る。いくつかの例では、機械的シャッター404は、以下で説明されるように、電子シャッターゲートと置き換えられ得る。ピクセルセル402の各々は、画像の1つのピクセルに対応し得る。図4には示されていないが、ピクセルセルによって検知されるべき光の周波数範囲を制御するために、ピクセルセル402の各々もフィルタで覆われ得ることを理解されたい。
リモートコンソールから命令を受け取った後に、機械的シャッター404は、積分期間において開き、ピクセルセル402のセットを露光することができる。積分期間中に、画像センサー370は、ピクセルセル402のセットに入射した光のサンプルを取得し、ピクセルセル402のセットによって検出された入射光サンプルの強度分布に基づいて画像データを生成することができる。画像センサー370は、次いで、画像データを、ディスプレイコンテンツを決定するリモートコンソールに提供し、ディスプレイコンテンツ情報をコントローラ330に提供することができる。コントローラ330は、次いで、ディスプレイコンテンツ情報に基づいて画像光355を決定することができる。
ソースアセンブリ310は、コントローラ330からの命令に従って画像光355を生成する。ソースアセンブリ310は、ソース410と光学システム415とを含む。ソース410は、コヒーレント光または部分的にコヒーレントな光を生成する光源である。ソース410は、たとえば、レーザーダイオード、垂直キャビティ面発光レーザー、および/または発光ダイオードであり得る。
光学システム415は、ソース410からの光を調節する1つまたは複数の光学的構成要素を含む。ソース410からの光を調節することは、たとえば、コントローラ330からの命令に従って拡大し、コリメートし、および/または向きを調整することを含み得る。1つまたは複数の光学的構成要素は、1つまたは複数のレンズ、液体レンズ、ミラー、開口、および/または格子を含み得る。いくつかの例では、光学システム415は、光ビームを液体レンズ外の領域にシフトするためにしきい値のスキャン角度を伴う光ビームのスキャンを可能にする複数の電極をもつ液体レンズを含む。光学システム415(同じくソースアセンブリ310)から放出される光は、画像光355と呼ばれる。
出力導波路320は、画像光355を受け取る。結合要素350は、ソースアセンブリ310からの画像光355を出力導波路320に結合する。結合要素350が回折格子である例では、内部全反射が出力導波路320中で発生し、画像光355が、分離要素365に向かって、(たとえば、内部全反射によって)出力導波路320中を内部的に伝搬するように、回折格子のピッチが選定される。
方向付け要素360は、出力導波路320から分離するために、画像光355を分離要素365のほうへ向け直す。方向付け要素360が回折格子である例では、回折格子のピッチは、入射画像光355が、分離要素365の表面に対して(1つまたは複数の)傾斜角において出力導波路320を出ることを引き起こすように選定される。
いくつかの例では、方向付け要素360および/または分離要素365は、構造的に同様である。出力導波路320を出た拡大された画像光340は、1つまたは複数の次元に沿って拡大される(たとえば、x次元に沿って延長され得る)。いくつかの例では、導波路ディスプレイ300は、複数のソースアセンブリ310と複数の出力導波路320とを含む。ソースアセンブリ310の各々は、原色(たとえば、赤、緑、または青)に対応する、波長の特定の帯域の単色画像光を放出する。出力導波路320の各々は、多色である拡大された画像光340を出力するために、離間距離を伴って一緒に積層され得る。
図5は、ニアアイディスプレイ100を含むシステム500の一例のブロック図である。システム500は、各々制御回路要素510に結合された、ニアアイディスプレイ100と、撮像デバイス535と、入出力インターフェース540と、画像センサー120a〜120dおよび150a〜150bとを備える。システム500は、ヘッドマウントデバイス、ウェアラブルデバイスなどとして構成され得る。
ニアアイディスプレイ100は、ユーザにメディアを提示するディスプレイである。ニアアイディスプレイ100によって提示されるメディアの例は、1つまたは複数の画像、ビデオ、および/またはオーディオを含む。いくつかの例では、オーディオは、外部デバイス(たとえば、スピーカーおよび/またはヘッドフォン)を介して提示され、この外部デバイスは、ニアアイディスプレイ100および/または制御回路要素510からオーディオ情報を受け取り、そのオーディオ情報に基づいてオーディオデータをユーザに提示する。いくつかの例では、ニアアイディスプレイ100はまた、ARアイウェアグラスとして働き得る。いくつかの例では、ニアアイディスプレイ100は、コンピュータ生成された要素(たとえば、画像、ビデオ、音など)を用いて、物理的現実世界の環境のビューを増強する。
ニアアイディスプレイ100は、導波路ディスプレイアセンブリ210、1つまたは複数の位置センサー525、および/または慣性測定ユニット(IMU)530を含む。導波路ディスプレイアセンブリ210は、ソースアセンブリ310と、出力導波路320と、コントローラ330とを含む。
IMU530は、位置センサー525のうちの1つまたは複数から受け取られた測定信号に基づいて、ニアアイディスプレイ100の初期位置に対するニアアイディスプレイ100の推定位置を指示する高速較正データを生成する電子デバイスである。
撮像デバイス535は、様々なアプリケーションのための画像データを生成し得る。たとえば、撮像デバイス535は、制御回路要素510から受け取られた較正パラメータに従って低速較正データを提供するために画像データを生成し得る。撮像デバイス535は、たとえば、ユーザのロケーション追跡を実施するために、ユーザが位置する物理的環境の画像データを生成するために図1Aの画像センサー120a〜120dを含み得る。撮像デバイス535は、たとえば、ユーザの関心物体を識別するために、ユーザの注視点を決定するための画像データを生成するために、図1Bの画像センサー150a〜150bをさらに含み得る。
入出力インターフェース540は、ユーザが制御回路要素510にアクション要求を送信することを可能にするデバイスである。アクション要求は、特定のアクションを実施するための要求である。たとえば、アクション要求は、アプリケーションを開始または終了するためのものであるか、あるいはアプリケーション内で特定のアクションを実施するためのものであり得る。
制御回路要素510は、撮像デバイス535、ニアアイディスプレイ100、および入出力インターフェース540のうちの1つまたは複数から受け取られた情報に従って、ユーザへの提示のためのメディアをニアアイディスプレイ100に提供する。いくつかの例では、制御回路要素510は、ヘッドマウントデバイスとして構成されたシステム500内に収容され得る。いくつかの例では、制御回路要素510は、システム500の他の構成要素と通信可能に結合された独立型コンソールデバイスであり得る。図5に示されている例では、制御回路要素510は、アプリケーションストア545と、追跡モジュール550と、エンジン555とを含む。
アプリケーションストア545は、制御回路要素510が実行するための1つまたは複数のアプリケーションを記憶する。アプリケーションは、プロセッサによって実行されたとき、ユーザへの提示のためのコンテンツを生成する命令のグループである。アプリケーションの例は、ゲームアプリケーション、会議アプリケーション、ビデオ再生アプリケーション、または他の好適なアプリケーションを含む。
追跡モジュール550は、1つまたは複数の較正パラメータを使用してシステム500を較正し、ニアアイディスプレイ100の位置の決定における誤差を低減するために、1つまたは複数の較正パラメータを調整し得る。
追跡モジュール550は、撮像デバイス535からの低速較正情報を使用して、ニアアイディスプレイ100の移動を追跡する。追跡モジュール550はまた、高速較正情報からの位置情報を使用して、ニアアイディスプレイ100の基準点の位置を決定する。
エンジン555は、システム500内でアプリケーションを実行し、追跡モジュール550から、ニアアイディスプレイ100の位置情報、加速度情報、速度情報、および/または予測された将来の位置を受け取る。いくつかの例では、エンジン555によって受け取られた情報は、ユーザに提示されるコンテンツのタイプを決定する導波路ディスプレイアセンブリ210への信号(たとえば、ディスプレイ命令)をもたらすために使用され得る。たとえば、インタラクティブ体験を提供するために、エンジン555は、(たとえば、追跡モジュール550によって提供される)ユーザのロケーション、または(たとえば、撮像デバイス535によって提供される画像データに基づく)ユーザの注視点、(たとえば、撮像デバイス535によって提供される画像データに基づく)物体とユーザとの間の距離に基づいて、ユーザに提示されるべきコンテンツを決定し得る。
図6は、ピクセルセル600の一例を示す。ピクセルセル600は、ピクセルアレイの一部であり得、画像のピクセルに対応するデジタル強度データを生成することができる。たとえば、ピクセルセル600は、図4のピクセルセル402の一部であり得る。図6に示されているように、ピクセルセル600は、フォトダイオード602、ならびに、シャッタースイッチ604と、転送ゲート606と、リセットスイッチ607と、電荷貯蔵ユニット608aおよびバッファ608bを備える電荷検知ユニット608と、ピクセルADC610とを含む処理回路を含み得る。
いくつかの例では、フォトダイオード602は、たとえば、P−Nダイオード、P−I−Nダイオード、ピン止め(pinned)ダイオードなどを含み得る。フォトダイオード602は、光を受け取ると電荷を生成することができ、生成される電荷の量は、光の強度に比例し得る。フォトダイオード602はまた、フォトダイオードのウェル容量(well capacity)に達したときに発生する、フォトダイオードの飽和まで、生成された電荷の一部を貯蔵することができる。その上、シャッタースイッチ604、転送ゲート606、およびリセットスイッチ607の各々は、トランジスタを含むことができる。トランジスタは、たとえば、金属酸化物半導体電界効果トランジスタ(MOSFET)、バイポーラ接合トランジスタ(BJT)などを含み得る。シャッタースイッチ604は、ピクセルセル600の積分期間を制御するための電子シャッターゲートとして(図4の機械的シャッター404の代わりに、または機械的シャッター404と組み合わせて)働くことができる。積分期間中に、シャッタースイッチ604は、露光イネーブル信号611によって無効化され(オフにされ)得、これは、フォトダイオード602が生成された電荷を貯蔵することを可能にし、フォトダイオード602が飽和したとき、オーバーフロー電荷が電荷貯蔵ユニット608aに流れることを可能にする。積分期間の終了時に、シャッタースイッチ604は有効化されて、フォトダイオード602によって生成された電荷をフォトダイオード電流シンク617に誘導する(steer)ことができる。その上、リセットスイッチ607がリセット信号618によって同じく無効化され(オフにされ)得、これは、電荷貯蔵ユニット608aが電荷を蓄積することを可能にする。電荷貯蔵ユニット608aは、転送ゲート606のフローティング端子におけるデバイスキャパシタ、金属キャパシタ、MOSキャパシタ、またはそれらの任意の組合せであり得る。電荷貯蔵ユニット608aは電荷の量をアナログ電圧に変換することができ、アナログ電圧は、入射光強度を表すデジタル出力を提供するためにピクセルADC610によって測定され得る。測定のモードが完了した後に、リセットスイッチ607は有効化されて、電荷貯蔵ユニット608aにおいて貯蔵された電荷を空にして電荷シンク620に移して、電荷貯蔵ユニット608aを次の測定のために利用可能にすることができる。
次に図7Aを参照すると、図7Aは、異なる光強度範囲についての時間に対する蓄積された電荷の量を示す。特定の時点において蓄積された電荷の総量は、積分期間中にフォトダイオード602に入射する光の強度を反映することができる。上記量は、積分期間が終了したときに測定され得る。入射光の強度についての低光強度範囲706、中光強度範囲708、および高光強度範囲710を定義する電荷のしきい値の量について、しきい値702およびしきい値704が定義され得る。たとえば、総蓄積電荷(total accumulated charge)がしきい値702未満である場合(たとえば、Q1)、入射光強度は低光強度範囲706内にある。総蓄積電荷がしきい値704としきい値702との間にある場合(たとえば、Q2)、入射光強度は中光強度範囲708内にある。総蓄積電荷がしきい値704を超える場合、入射光強度は高光強度範囲710内にある。低光強度範囲および中光強度範囲についての、蓄積された電荷の量は、フォトダイオードが低光強度範囲706全体内で飽和せず、測定キャパシタが中光強度範囲708全体内で飽和しない場合、入射光の強度と相関することができる。
低光強度範囲706および中光強度範囲708、ならびにしきい値702および704の定義は、フォトダイオード602および電荷貯蔵ユニット608aの貯蔵容量に基づき得る。たとえば、低光強度範囲706は、積分期間の終了時の、フォトダイオード602に貯蔵された電荷の総量が、フォトダイオードの貯蔵容量を下回るかまたはそれに等しくなるように定義され得、しきい値702は、フォトダイオード602の貯蔵容量に基づき得る。以下で説明されるように、しきい値702は、フォトダイオード602の潜在的容量変動を考慮するために、フォトダイオードのスケーリングされた貯蔵容量に基づいて設定され得る。そのような仕組みは、フォトダイオード602に貯蔵された電荷の量が強度決定のために測定されたとき、フォトダイオードが飽和せず、測定された量が入射光強度に関係することを保証することができる。その上、中光強度範囲708は、積分期間の終了時の、電荷貯蔵ユニット608aに貯蔵された電荷の総量が、測定キャパシタの貯蔵容量を下回るかまたはそれに等しくなるように定義され得、しきい値704は、電荷貯蔵ユニット608aの貯蔵容量に基づき得る。一般的に、しきい値704も、電荷貯蔵ユニット608aに貯蔵された電荷の量が強度決定のために測定されたとき、測定キャパシタが飽和せず、測定された量が同じく入射光強度に関係することを保証するために、電荷貯蔵ユニット608aのスケーリングされた貯蔵容量に基づくように設定される。以下で説明されるように、しきい値702および704は、フォトダイオード602および電荷貯蔵ユニット608aが飽和したかどうかを検出するために使用され得、これは、出力されるべき入射光の強度範囲および測定結果を決定することができる。
さらに、入射光強度が高光強度範囲710内にある場合、電荷貯蔵ユニット608aにおいて蓄積された総オーバーフロー電荷は、積分期間が終了する前にしきい値704を超え得る。追加の電荷が蓄積されるにつれて、電荷貯蔵ユニット608aは、積分期間の終了の前に全容量に達し得、電荷漏洩が発生し得る。電荷貯蔵ユニット608aが全容量に達したことにより引き起こされる測定誤差を回避するために、電荷貯蔵ユニット608aにおいて蓄積された総オーバーフロー電荷がしきい値704に達するのにかかる持続時間を測定するために、飽和までの時間測定が実施され得る。電荷貯蔵ユニット608aにおける電荷蓄積のレートは、しきい値704と飽和までの時間との間の比に基づいて決定され得、(キャパシタが無限の容量を有する場合に)積分期間の終了時に電荷貯蔵ユニット608aにおいて蓄積され得る電荷の仮定量(Q3)は、電荷蓄積のレートに従って外挿法によって決定され得る。電荷の仮定量(Q3)は、高光強度範囲710内の入射光強度の合理的に正確な表現を提供することができる。
アプリケーションに応じて、ピクセルセル600は、特定の強度範囲の光を主に検出し得る。たとえば、図7Bを参照すると、夜間に屋外環境のシーンをキャプチャするために、ピクセルセル600を含むピクセルセルアレイ700が動作され得、屋外環境は、光源720と、物体730とを備える。ピクセルセルアレイ700によってキャプチャされた画像740は、たとえば、(たとえば、光源720の画像に対応する)高光強度の画像領域742と、(たとえば、物体730の画像に対応する)中光強度の画像領域744と、(たとえば、夜間背景に対応する)低光強度の画像領域746とを含み得る。画像領域742に対応するピクセルセルアレイ700の領域中のピクセルセル600は、高光強度範囲710の光を主に測定することができる。その上、画像領域744に対応するピクセルセルアレイ700の領域中のピクセルセル600は、中光強度範囲708の光を主に測定することができる。さらに、画像領域746に対応するピクセルセルアレイ700の領域中のピクセルセル600は、低強度範囲706の光を主に測定することができる。
さらに、いくつかのアプリケーションは、図7Aの強度範囲のサブセットのみを使用し得る。一例は、注視点決定である。図7Cに示されているように、眼球の画像750をキャプチャするために、ピクセルセル600を含むピクセルセルアレイが使用され得、画像750は、グリントパッチ(glint patch)752と、瞳孔パッチ754とを含み得る。グリントパッチ752は、眼球の角膜表面から反射される極めて高い強度の光の検出に基づいて生成され得る。角膜表面から反射される光の強度は、高強度範囲710の上端にあり得る。その上、瞳孔パッチ754は、眼球の瞳孔から反射される低強度光の検出に基づいて生成され得る。眼球の瞳孔から反射される光の強度は、低強度範囲706の下端にあり得る。画像750内のグリントパッチ752および瞳孔パッチ754の画像ロケーションに基づいて、ユーザの注視方向が決定され得る。注視方向の追跡を改善する、グリントパッチおよび瞳孔パッチの検出の正確さを改善するために、ピクセルセル600は、高忠実度で、極めて高い強度の光と極めて低い強度の光の両方を測定することが可能である必要があるが、中光強度範囲708を含む、それらの中間の光はその必要はない。
再び図6を参照すると、転送ゲート606は、上記で説明されたように、異なる光強度範囲について、残留電荷キャパシタ603および電荷貯蔵ユニット608aにおける電荷蓄積を制御するために測定制御信号612によって制御され得る。高光強度範囲710と中光強度範囲708とを測定するために、転送ゲート606は、部分的にオンにされた状態において動作するように制御され得る。たとえば、転送ゲート606のゲート電圧は、フォトダイオード602の電荷貯蔵容量に対応する、フォトダイオードにおいて生じた電圧に基づいて設定され得る。そのような仕組みにより、(高光強度範囲710について)飽和までの時間、および(中光強度範囲708について)電荷貯蔵ユニット608aに貯蔵された電荷の量を測定するために、オーバーフロー電荷(たとえば、フォトダイオードが飽和した後にフォトダイオードによって生成された電荷)のみが、転送ゲート606を通って移って電荷貯蔵ユニット608aに達する。その上、低光強度範囲706を測定するために、転送ゲート606は、フォトダイオード602に貯蔵された電荷の量を測定するために、フォトダイオード602に貯蔵された電荷を電荷貯蔵ユニット608aに転送するように、完全にオンにされた状態において制御され得る。
電荷の蓄積により電荷貯蔵ユニット608aにおいて生じたアナログ電圧は、バッファ608bによってバッファされて、アナログ出力ノード614におけるアナログ電圧の複製(ただし、より大きい駆動の強さをもつ)が生成され得る。アナログ出力ノード614におけるアナログ電圧は、ピクセルADC610によって(たとえば、論理1および0を備える)デジタル出力に変換され得る。電荷貯蔵ユニット608aにおいて生じたアナログ電圧がサンプリングされ得、デジタル出力が、(たとえば、中光強度範囲708および高光強度範囲710について)積分期間の終了の前に、または(低光強度範囲706について)積分期間の後に生成され得る。デジタル出力は、積分期間中の光強度を表すために、たとえば、図5の制御回路要素510に送られ得る。
いくつかの例では、電荷貯蔵ユニット608aのキャパシタンスは、低光強度範囲についての光強度決定の正確さを改善するように構成可能であり得る。たとえば、残留電荷キャパシタ603において貯蔵された残留電荷を測定するために電荷貯蔵ユニット608aが使用されるとき、電荷貯蔵ユニット608aのキャパシタンスは低減され得る。電荷貯蔵ユニット608aのキャパシタンスの低減は、ある量の貯蔵された電荷についてより高い電圧を生じさせることができるように、電荷貯蔵ユニット608aにおける電荷−電圧変換比を増加させることができる。より高い電荷−電圧変換比は、低光強度決定の正確さに対するピクセルADC610によって導入される測定誤差(たとえば、量子化誤差、比較器オフセットなど)の効果を低減することができる。測定誤差は、ピクセルADC610によって検出および/または弁別され得る最小電圧差に対する限界を設定することができる。電荷−電圧変換比を増加させることによって、最小電圧差に対応する電荷の量は低減され得、これは、ピクセルセル600による測定可能な光強度の下限を低減し、ダイナミックレンジを拡張する。一方、中光強度では、電荷貯蔵ユニット608aのキャパシタンスは、電荷貯蔵ユニット608aが、たとえば、しきい値704によって定義される量までの電荷の量を貯蔵するのに十分な容量を有することを保証するために、増加され得る。
図8は、ピクセルADC610の内部構成要素の一例を示す。図8に示されているように、ピクセルADC610は、しきい値生成器802と、比較器804と、デジタル出力生成器806とを含む。デジタル出力生成器806は、カウンタ808とメモリ810とをさらに含み得る。カウンタ808は、自走クロック信号812に基づいてカウント値のセットを生成することができ、メモリ810は、カウンタ808によって生成されたカウント値のうちの少なくともいくつか(たとえば、最新のカウント値)を記憶することができる。いくつかの例では、メモリ810は、カウンタ808の一部であり得る。メモリ810は、たとえば、以下で説明されるように、ローカルピクセル値に基づいてカウンタ値を記憶するためのラッチ回路であり得る。しきい値生成器802は、デジタル値のセットを受け付け、デジタル値のセットを表す基準電圧(VREF)815を出力することができる、デジタルアナログ変換器(DAC)813を含む。以下でより詳細に説明されるように、しきい値生成器802は、静的デジタル値を受け付けて、固定しきい値を生成するか、またはカウンタ808の出力814を受け付けて、ランピングしきい値を生成し得る。
図8は、DAC813(およびしきい値生成器802)がピクセルADC610の一部であることを示しているが、DAC813(およびしきい値生成器802)は異なるピクセルセルからの複数のデジタル出力生成器806と結合され得ることを理解されたい。その上、カウンタ808など、デジタル出力生成器806の少なくとも一部は、デジタル値を生成するために複数のピクセルセルの間で共有され得る。
比較器804は、アナログ出力ノード614において生じたアナログ電圧をしきい値生成器802によって提供されたしきい値と比較し、比較結果に基づいて判定816を生成することができる。たとえば、比較器804は、アナログ出力ノード614におけるアナログ電圧がしきい値生成器802によって生成されたしきい値に等しいかまたはそのしきい値を超える場合、判定816について論理1を生成することができる。比較器804はまた、アナログ電圧がしきい値を下回る場合、判定816について論理0を生成することができる。判定816は、アナログ出力ノード614におけるランピングアナログ電圧の上述の飽和の時間(time−of−saturation)測定、ならびに入射光強度決定のためのアナログ出力ノード614におけるアナログ電圧の量子化処理を実施するために、カウンタ808のカウンティング動作および/またはメモリ810に記憶されたカウント値を制御することができる。
図9Aは、ピクセルADC610による飽和までの時間測定の一例を示す。飽和までの時間測定を実施するために、しきい値生成器802は、固定VREF815を生成するようにDAC813を制御することができる。固定VREF815は、電荷貯蔵ユニット608aの飽和についての電荷量しきい値(たとえば、図7のしきい値704)に対応する電圧に設定され得る。カウンタ808は、積分期間が開始した直後に(たとえば、シャッタースイッチ604が無効化された直後に)カウントすることを開始することができる。アナログ出力ノード614におけるアナログ電圧がランプダウンする(または実装形態に応じてランプアップする)とき、クロック信号812は、カウンタ808におけるカウント値を更新するようにトグルし続ける。アナログ電圧は、ある時点において固定しきい値に達し得、これは、比較器804による判定816が反転することを引き起こす。判定816の反転はカウンタ808のカウンティングを停止し得、カウンタ808におけるカウント値は飽和までの時間を表し得る。以下でより詳細に説明されるように、持続時間に基づいて電荷貯蔵ユニット608aにおける電荷蓄積のレートも決定され得、電荷蓄積のレートに基づいて入射光強度が決定され得る。
図9Bは、ピクセルADC610によってアナログ電圧を量子化することの一例を示す。測定が開始した後に、DAC813は、(図9Bの例において)ランプアップするかまたは実装形態に応じてランプダウンすることができるランピングVREF815を生成するように、カウンタ出力814によってプログラムされ得る。ランピングVREF815の電圧範囲は、しきい値704(電荷貯蔵ユニット608aの飽和についての電荷量しきい値)としきい値702(フォトダイオード602の飽和についての電荷量しきい値)との間にあり得、これは、中光強度範囲を定義することができる。図9Bの例では、量子化プロセスは、VREF815がクロック信号812の各クロックサイクルについて同じ量だけ増加(または減少)する、一様量子化ステップで実施され得る。VREF815の増加(または減少)の量は量子化ステップに対応する。VREF815がアナログ出力ノード614におけるアナログ電圧の1つの量子化ステップ内に達したとき、比較器804による判定816が、負から正に反転する。判定816の反転は、カウンタ808のカウンティングを停止し得、カウント値は、1つの量子化ステップ内でアナログ電圧に一致するように蓄積された量子化ステップの総数に対応することができる。カウント値は、VREF815がアナログ電圧に達するのにかかった時間の測定値に対応し、電荷貯蔵ユニット608aにおいて貯蔵された電荷の量のデジタル表現、ならびに入射光強度のデジタル表現であり得る。上記で説明されたように、アナログ電圧の量子化は、(たとえば、中光強度範囲708について)積分期間中に、および(たとえば、低光強度範囲706について)積分期間の後に行われ得る。
上記で説明されたように、ADC610は、(たとえば、量子化ステップの総数によって表される)ADC610によって出力された量レベルによって表される電荷の量と、ADC610による量レベルにマッピングされる電荷の実際の入力量との間に不一致があるとき、量子化誤差を導入することがある。量子化誤差は、より小さい量子化ステップサイズを使用することによって低減され得る。図9Bの例では、量子化ステップサイズは、たとえば、(しきい値702としきい値704との間の)量子化動作の入力範囲902を低減すること、カウンタ808によって測定されるべき時間の対応する範囲を低減すること、クロック信号812のクロック周波数を増加させること、または、それらの任意の組合せに基づいて、クロックサイクルごとにVREF815の増加(または減少)の量だけ低減され得る。
量子化誤差は、より小さい量子化ステップサイズを使用することによって低減され得るが、エリアおよび実施速度は、量子化ステップがどの程度低減され得るかを限定し得る。たとえば、クロック信号812のクロック周波数が増加され、入力範囲902が同じままである場合、電荷量(および光強度)の特定の範囲を表すために必要とされる量子化ステップの総数は、増加し得る。増加された数の量子化ステップを表すためにより多数のデータビット(たとえば、255個のステップを表すために8ビット、127個のステップを表すために7ビットなど)が必要とされ得る。より多数のデータビットは、追加のバスがピクセル出力バス616に追加されることを必要とし得、これは、ピクセルセル600が、ヘッドマウントデバイスまたはごく限られたスペースをもつ他のウェアラブルデバイス上で使用される場合、実現可能でないことがある。その上、より多数の量子化ステップサイズの場合、ADC610は、(1つの量子化ステップと)一致する量レベルを見つける前により多数の量子化ステップを循環する必要があり得、これは、処理電力消費量および時間の増加、ならびに画像データを生成するレートの低減につながる。レートの低減は、高いフレームレートを必要とするいくつかのアプリケーション(たとえば、眼球の移動を追跡するアプリケーション)にとって許容できないことがある。
量子化誤差を低減するための1つのやり方は、量子化ステップが入力範囲にわたって一様でない非一様量子化方式を採用することによるものである。図10Aは、非一様量子化プロセスおよび一様量子化プロセスについてのADCコード(量子化プロセスの出力)と入力電荷量レベルとの間のマッピングの一例を示す。点線は、非一様量子化プロセスについてのマッピングを示し、実線は、一様量子化プロセスについてのマッピングを示す。一様量子化プロセスでは、(Δによって示される)量子化ステップサイズは、入力電荷量の範囲全体について同等である。対照的に、非一様量子化プロセスでは、量子化ステップサイズは、入力電荷量に応じて異なる。たとえば、(Δによって示される)低入力電荷量についての量子化ステップサイズは、(Δによって示される)大きい入力電荷量についての量子化ステップサイズよりも小さい。その上、同じ低入力電荷量について、非一様量子化プロセスについての量子化ステップサイズ(Δ)は、一様量子化プロセスについての量子化ステップサイズ(Δ)よりも小さくされ得る。
非一様量子化方式を採用することの1つの利点は、低入力電荷量を量子化するための量子化ステップが低減され得、これが、低入力電荷量を量子化する際の量子化誤差を低減し、ADC610によって弁別され得る最小入力電荷量が低減され得ることである。したがって、低減された量子化誤差は、画像センサーの測定可能な光強度の下限を押し下げることができ、ダイナミックレンジが増加され得る。その上、量子化誤差は高入力電荷量について増加されるが、量子化誤差は、高入力電荷量と比較して小さいままであり得る。したがって、電荷の測定に導入される全体的な量子化誤差は低減され得る。一方、入力電荷量の範囲全体をカバーする量子化ステップの総数は、同じ(さらには低減された)ままであり得、量子化ステップの数を増加させることに関連する上述の潜在的問題(たとえば、エリアの増加、処理速度の低減など)は、回避され得る。
図10Bは、非一様量子化プロセスを使用してピクセルADC610によってアナログ電圧を量子化することの一例を示す。(一様量子化プロセスを採用する)図9Bと比較して、VREF815は、最初により緩やかな傾きで、および後でより急な傾きで、各クロックサイクルに関して非線形様式で増加する。傾きの差は、不均一な量子化ステップサイズに起因する。(より低い入力量範囲に対応する)より低いカウンタカウント値では、量子化ステップはより小さくされ、したがって、VREF815は、より遅いレートで増加する。(より高い入力量範囲に対応する)より高いカウンタカウント値では、量子化ステップはより大きくされ、したがって、VREF815は、より高いレートで増加する。VREF815における不均一な量子化ステップは、異なる方式を使用して導入され得る。たとえば、上記で説明されたように、DAC813は、(カウンタ808からの)異なるカウンタカウント値について電圧を出力するように構成される。DAC813は、(量子化ステップサイズを定義する)2つの隣接するカウンタカウント値間の出力電圧の差が、異なるカウンタカウント値について異なるように構成され得る。別の例として、カウンタ808はまた、同じカウントステップだけ増加または減少する代わりに、カウンタカウント値の跳びを生成して、不均一な量子化ステップを生成するように構成され得る。いくつかの例では、図10Bの非一様量子化プロセスは、低光強度範囲706および中光強度範囲708についての光強度決定のために採用され得る。
次に図11を参照すると、図11は、ピクセルセル1100の一例を示し、ピクセルセル1100は、図6のピクセルセル600の一例であり得る。図11の例では、PDがフォトダイオード602に対応することができ、トランジスタM0がシャッタースイッチ604に対応することができ、トランジスタM1が転送ゲート606に対応することができ、トランジスタM2がリセットスイッチ607に対応することができる。その上、COFキャパシタとCEXTキャパシタとの組合せが電荷貯蔵ユニット608aに対応することができる。COFキャパシタは、フローティングドレインノード(floating drain node)の寄生キャパシタであり得る。電荷貯蔵ユニット608aのキャパシタンスは、信号LGによって構成可能である。LGが有効化されたとき、電荷貯蔵ユニット608aは、COFキャパシタとCEXTキャパシタとの組み合わせられた容量を提供する。LGが無効化されたとき、CEXTキャパシタは、並列の組合せから切断され得、電荷貯蔵ユニット608aは、COFキャパシタのみ(および他の寄生キャパシタンス)を備える。上記で説明されたように、電荷貯蔵ユニット608aのキャパシタンスは、低光強度決定のための電荷−電圧変換比を増加させるために低減され得、中光強度決定のための必須の容量を提供するために増加され得る。
ピクセルセル1100は、バッファ608bの一例と、ピクセルADC610の一例とをさらに含む。たとえば、トランジスタM3およびM4は、COFキャパシタにおいて(またはCOFキャパシタおよびCEXTキャパシタにおいて)貯蔵された電荷の量を表す、OFノードにおいて生じたアナログ電圧をバッファするための、図6のバッファ608bであり得るソースフォロワを形成する。さらに、CCキャパシタ、比較器1102、トランジスタM5、NORゲート1116が、メモリ810とともに、OFノードにおけるアナログ電圧を表すデジタル出力を生成するためのピクセルADC610の一部であり得る。上記で説明されたように、量子化は、OFノードにおいて生じたアナログ電圧とVREFと間の、比較器1102によって生成された比較結果(VOUT)に基づき得る。ここで、CCキャパシタは、バッファ608bの出力を追跡する(比較器1102の1つの入力における)VIN電圧を生成するように構成され、VIN電圧を比較器1102に提供して、VREFと比較する。VREFは、(高光強度範囲についての)飽和の時間測定のための静的電圧または(低光強度範囲および中光強度範囲についての)アナログ電圧の量子化のためのランピング電圧であり得る。ADCコードは自走カウンタ(たとえば、カウンタ808)によって生成され得、比較器1102によって生成された比較結果は、メモリ810に記憶され、入射光強度のデジタル表現として出力されるべき、ADCコードを決定することができる。いくつかの例では、低光強度決定および中光強度決定のためのVREFの生成は、図10Aおよび図10Bで説明されたように、非一様量子化方式に基づき得る。
ピクセルセル1100は、上記で開示された技法に加えて、入射光強度決定の正確さをさらに改善することができる技法を含む。たとえば、CCキャパシタとトランジスタM5との組合せは、比較器1102の正確さが改善され得るように、比較器1102によって導入される測定誤差(たとえば、比較器オフセット)、ならびに比較器1102に導入される他の誤差信号を補償するために使用され得る。雑音信号は、たとえば、リセットスイッチ607によって導入されるリセット雑音電荷、ソースフォロワしきい値不一致によるバッファ608bの出力における雑音信号などを含み得る。比較器オフセットならびに誤差信号を反映する電荷の量は、トランジスタM2とトランジスタM5の両方が有効化されたとき、リセット段階中にCCキャパシタにおいて貯蔵され得る。貯蔵された電荷により、リセット段階中にCCキャパシタにわたる電圧差も生じ得る。測定段階中に、CCキャパシタにわたる電圧差は残っており、CCキャパシタは、VINを生成するために、電圧差を減算(または加算)することによってバッファ608bの出力電圧を追跡することができる。その結果、VIN電圧は、測定誤差および誤差信号について補償され得、これは、VINとVREFとの間の比較と、その後の量子化との正確さを改善する。
加えて、ピクセルセル1100は、コントローラ1110をさらに含む。コントローラ1110は、図7Aの3つの光強度範囲(たとえば、低光強度範囲706、中光強度範囲708、および高光強度範囲710)に対応する3段階測定動作を実施するようにピクセルセル1100を動作させるために、シャッター、TX、RST1、RST2など、制御信号のシーケンスを生成することができる。各段階において、ピクセルセル1100は、対応する光強度範囲を対象とする測定モードにおいて動作され、比較器1102の判定出力(VOUT)に基づいて、入射光強度が、対応する光強度範囲内に入るかどうかを決定することができる。ピクセルセル1100は、段階のうちのいくつかの判定出力をFLAG_1信号およびFLAG_2信号として記憶するためのレジスタのセットをさらに含む。FLAG_1信号およびFLAG_2信号に基づいて、コントローラ1110は、入射光強度を表すために、3つの段階のうちの1つからADCコードを選択することができる。選択されたADCコードはメモリ810に記憶され得、メモリ810は、後続の測定段階がメモリ810中の選択されたADCコード出力を上書きするのを防ぐために、NORゲート1116によってFLAG_1信号とFLAG_2信号との組合せに基づいてロックされ得る。3段階測定プロセスの終了時に、コントローラ1110は、メモリ810に記憶されたADCコードを取り出すことができる。メモリ810は、ピクセルセル1100の一部であるか、またはピクセルセル1100の外部にあり得る。
さらに、コントローラ1110は、制御信号のシーケンスを構成するためにプログラミングデータ1120を受け取ることができる。プログラミングデータ1120は、ピクセルセル1100によって生成された画像データを消費するアプリケーションを動作させるホストデバイスから受け取られ得る。以下で説明されるように、構成は、電荷貯蔵ユニット608aにおいて電荷の積分期間の持続時間を設定すること、3段階測定プロセスのうちの1つまたは複数を省略すること、入射光強度の複数のサンプルを量子化するために3段階測定プロセスのうちの1つまたは複数を繰り返すことなどを含むことができ、ホストデバイスにおいて動作するアプリケーションに基づき得る。いくつかの例では、コントローラ1110は、サンプルに基づいて出力を生成するための強度出力モジュール1124をさらに含む。いくつかの例では、強度出力モジュール1124もピクセルセル1100の外部にあり得る。
次に図12を参照すると、図12は、フレーム期間内の3段階測定動作についてのピクセルセル1100の制御信号のシーケンスを示す。図12を参照すると、T0’とT0との間の時間は第1のリセット段階に対応する。時間T0は、フレーム開始(SoF)に対応することができ、これは、フォトダイオードPDの積分期間1204ならびに電荷貯蔵ユニット608aの積分期間1202を開始する。T0とT1との間の時間期間において飽和までの時間(TTS)測定動作が実施され、その後に、T1とT2との間の時間期間においてFD ADC測定動作が続き得、その両方が、電荷貯蔵ユニット608aに貯蔵されたオーバーフロー電荷を測定するためのものである。さらに、T2とT3との間の時間期間は第2のリセット段階を含み、その後に、フローティングドレインへのフォトダイオード602に貯蔵された電荷の転送が続く。その上、T3とT4との間の時間期間において、残留電荷が電荷貯蔵ユニット608aに転送され、測定され得る。T4とT5との間の時間期間において、電荷貯蔵ユニット608aに貯蔵された残留電荷を測定するためにPD ADC測定動作が実施され得る。ピクセルセル1100は、時間T5において画像フレームを生成するために入射光強度を表すデジタル出力を提供することができる。時間T5は、フレーム終了時間(EoF)に対応することができる。次いで、3段階測定動作は、後続の画像フレームを生成するために次のフレーム期間について繰り返され得る。
図12に示されているように、T0の前に、RST1信号およびRST2信号と、LG信号と、シャッター信号とはアサートされるが、TX信号は電圧VLOWにおいてバイアスされる。VLOWは、(もしあれば)オーバーフロー電荷のみがフォトダイオードPDからトランジスタM1を介してCEXTキャパシタおよびCOFキャパシタに流れることを可能にするために、フォトダイオードPDの電荷容量に対応することができる。そのような仕組みにより、フォトダイオードPD、ならびにCEXTキャパシタおよびCOFキャパシタの両方が、リセットされ得る。その上、フォトダイオードPDによって生成された電荷はトランジスタM0によって迂回されるので、電荷はキャパシタに追加されない。フォトダイオードPD、ならびにOFノードにわたる電圧は、フォトダイオードPDとCEXTキャパシタとCOFキャパシタとが電荷を貯蔵しない状態を表すことができる、VRESETに等しい電圧に設定され得る。さらに、比較器1102もリセット段階にあり、CCキャパシタは、M2によって導入されたリセット雑音、比較器オフセット、バッファ608bのしきい値不一致などを反映する、電荷を貯蔵することができる。さらに、VREFも、VRESETに等しい値に設定され得る。いくつかの例では、VRESETは、ピクセルセル1100への電源電圧(たとえば、VDD)に等しくなり得る。その上、カウンタ808はリセット状態にあり得る。
時間T0において、カウンタ808は、初期値(たとえば、0)からカウントすることを開始することができる。T0とT1との間の時間期間中に、シャッター信号はアサート解除されるが、LG信号はアサートされたままであり、TX信号はVLOWのままである。VREFは、CEXTキャパシタとCOFキャパシタの両方の容量がいっぱいであるときのOFノードの電圧に対応することができる、VFDSATに等しい値に設定され得る。VFDSATとVRESETとの間の差は、たとえば、図7のしきい値704に対応することができる。T0とT1との間の時間期間中に、飽和までの時間(TTS)測定が実施され得、この測定において、オーバーフロー電荷が、フォトダイオードPDからトランジスタM1を介してCOFキャパシタおよびCEXTキャパシタに流れて、OFノードにおいてランピング電圧を生じさせる。OFノードにおけるアナログ電圧(VIN)のバッファされ、誤差補償されたバージョンは、カウンタ808が自走している間、VFDSATと比較され得る。COFキャパシタおよびCEXTキャパシタにおいて貯蔵された総電荷が(OFノード電圧に基づく)しきい値704を超える場合、比較器1102の出力は反転することができ、これは、入射光が高強度範囲中にあり、TTS測定結果が、入射光の強度を表すために使用され得ることを指示する。したがって、反転の時間においてカウンタ808によって生成されたカウント値は、メモリ810に記憶され得る。比較器1102の出力の検査1212が時間T1において行われ得、比較器1102の反転はまた、コントローラ1110がレジスタ1112中のFLAG_1信号をアサートすることを引き起こす。非0FLAG_1信号値は、NORゲート1116の出力が、NORゲートへの他の入力にかかわらず低いままであることを引き起こすことができ、メモリをロックし、後続の測定段階がカウント値を上書きするのを防ぐことができる。一方、比較器1102がT1とT2との間の時間期間中に決して反転しない場合、これは、入射光強度が高光強度範囲よりも低いことを指示し、FLAG_1信号は0にとどまる。コントローラ1110は、時間期間T0〜T1の間にレジスタ1114に記憶されたFLAG_2値を更新せず、FLAG_2値は0のままであり得る。
時間T1において、カウンタ808は、その初期値(たとえば、0)からカウントすることを再開することができる。T1とT2との間の時間期間中に、FD ADC動作が実施され得、OFノードにおけるアナログ電圧は、CEXTキャパシタおよびCOFキャパシタに貯蔵されたオーバーフロー電荷の量を測定するために、ADC610によって量子化され得る。いくつかの例では、時間期間T1〜T2中に、フォトダイオードPDは、CEXTキャパシタおよびCOFキャパシタに貯蔵された総オーバーフロー電荷と、OFノードにおけるアナログ電圧とが一定のままであるように、(たとえば、機械的シャッター404によって)入射光から遮蔽され得る。(図12で「第1のランピングVREF」と標示された)第1のランピングしきい値電圧が、OFノードにおけるアナログ電圧(VIN)のバッファされ、誤差補償されたバージョンと比較されるように、比較器1102に供給され得る。いくつかの例では、第1のランピングVREFは、自走カウンタからのカウント値に基づいてDACによって生成され得る。ランピングVREFが(1つの量子化ステップ内で)VINに一致する場合、比較器1102の出力は反転することができ、(FLAG_1信号の0値によって指示されるように)測定の第1の段階によってメモリがロックされない場合、反転の時間においてカウンタ808によって生成されたカウント値は、メモリ810に記憶され得る。メモリがロックされる場合、カウント値はメモリ810に記憶されない。
いくつかの例では、図12に示されているように、第1のランピングVREFの電圧範囲は、VFDSATとVRESETとの間にあり得る。VFDSATは、(CEXTキャパシタおよびCOFキャパシタが飽和状態に近いときの)CEXTキャパシタおよびCOFキャパシタに貯蔵される総オーバーフロー電荷の上限を定義することができ、VRESETは、(オーバーフロー電荷がなく、したがって、OFノードの電圧がVRESETのままであるときの)キャパシタに貯蔵される総オーバーフロー電荷の下限を定義することができる。FD ADC段階における比較器1102の反転は、OFノード電圧がVRESETよりも低いことを指示することができ、これは、キャパシタに貯蔵された総オーバーフロー電荷が下限を超えることを意味し得る。したがって、FD ADC段階における比較器1102の反転は、フォトダイオードPDが飽和し、したがって、キャパシタに貯蔵されたオーバーフロー電荷があり、オーバーフロー電荷の量子化結果が入射光の強度を表すことができることを、指示することができる。比較器1102の出力の検査1214が、FD ADC段階の後に時間T2において行われ得、コントローラ1110は、比較器1102の反転に基づいてレジスタ1114中のFLAG_2信号をアサートして、メモリ810に記憶されたカウント値をロックすることができ、これは、後続の段階がメモリ810に別のカウント値を記憶するのを防ぐ。
T2とT3との間の時間期間の始まりにおいて、RST1信号とRST2信号の両方が第2のリセット段階のために再びアサートされ得る。第2のリセット段階の目的は、CEXTキャパシタとCOFキャパシタとをリセットすること、および(低光強度範囲についての)測定の第3の段階においてPDCAPキャパシタから転送された電荷を貯蔵するためにCOFキャパシタを準備することである。第2のリセット段階は、電荷貯蔵ユニット608aの積分期間1202を終了することができる。また、LG信号は、COFキャパシタからCEXTキャパシタを切断し、測定キャパシタのキャパシタンスを低減するために、アサート解除され得る。キャパシタンスの低減は、上記で説明されたように、電荷−電圧変換比を増加させて、低光強度決定を改善することになる。比較器1102もリセット状態に入れられ、ここで、CEXTキャパシタおよびCOFキャパシタをリセットすることによって生成された雑音電荷を貯蔵するためにCCキャパシタが使用され得る。
T3とT4との間の時間期間中に、RST1信号とRST2信号とはアサート解除されるが、バイアスTXはVHIGHまで増加して、トランジスタM1を完全にオンにすることができる。フォトダイオードPDに貯蔵された電荷は、次いで、M1を介してCOFキャパシタに移動することができる。T3とT4との間に、フォトダイオードPDはまた、新しい電荷を生成し、新しい電荷を、M1を介してCOFキャパシタに転送することができる。
時間T4において、シャッター信号はアサートされるが、TX信号は、アサート解除される(たとえば、0への設定)かまたはVLOWに設定されて、COFキャパシタにおいて貯蔵された電荷がM1を介して漏洩するのを防ぐ。フォトダイオードPDの積分期間1204は、時間T4において終了する。PD ADC動作は時間T4において開始することができ、(図12で「第2のランピングVREF」と標示された)第2のランピングしきい値電圧が、OFノードにおけるアナログ電圧(VIN)のバッファされ、誤差補償されたバージョンと比較されるように、比較器1102に供給され得る。第2のランピングVREFは、フォトダイオードPDを飽和させる残留電荷の量をCOFキャパシタが貯蔵するときのCOFキャパシタにおける電圧を表すVPDSATと、VRESETとの間の電圧範囲を有することができる。第2のランピングVREFが(1つの量子化ステップ内で)VINに一致する場合、比較器1102の出力は反転し得、(FLAG_1信号の0値によって指示されるように)測定の第1の段階によってまたは(FLAG_2信号の0値によって指示されるように)測定の第2の段階によってメモリがロックされない場合、反転の時間においてカウンタ808によって生成されたカウント値は、メモリ810に記憶され得る。PD ADC動作は時間T5において終了し、これは、フレーム終了(EoF)に対応することができる。
上記で説明されたように、コントローラ1110は、制御信号のシーケンスを構成するためにプログラミングデータ1120を受け取ることができる。1つの例示的な構成は、フレーム期間を増加させることを含むことができ、これは、フォトダイオードが残留電荷を生成および蓄積するフォトダイオード積分時間の持続時間をも増加させることができる。そのような仕組みは、極めて低い強度の光の光子の、電荷への変換を提供される時間を増加させることができ、その結果、極めて低い強度の光について、より多くの電荷が蓄積され得、これは、低強度光測定のための信号対雑音比を増加させ、ダイナミックレンジの下限を押し下げることができる。そのような構成は、瞳孔パッチを生成するために、および/または、図7Bの画像領域746など、低強度光を伴うシーンの部分のための画像データを生成するために、低強度光の正確な検出を必要とする、図7Cに示されているような注視点決定を実施するアプリケーションのために提供され得る。いくつかの例では、プログラミングデータ1120は、フレーム期間の持続時間を指定することができ、コントローラ1110は、フレーム期間に基づいて制御信号(たとえば、RST1、RST2、TX、LG、VREFなど)のタイミングを制御し、フレーム期間に従ってフォトダイオードの積分期間1204をスケーリングすることができる。
さらに、別の例示的な構成は、(図12におけるT0とT2との間の)電荷貯蔵ユニット608aの積分期間1202の持続時間を低減することを含むことができ、これは、フレーム期間および(図12におけるT0とT3との間の)フォトダイオードPDの積分期間1204の増加をオフセットするために実施され得る。そのような仕組みは、様々な利益を提供することができる。第1に、比較器1102が、オンにされ、TTS動作とFD ADC動作の両方のために電荷貯蔵ユニット608aの積分期間1202中に電力を消耗する。比較器1102は一般的に多くの電力を使用するので、電荷貯蔵ユニット608aの積分期間1202を低減することは、比較器1102のオン時間を低減し、TTS動作およびFD ADC動作の全体的な電力消費量を実質的に低減することができる。第2に、電荷貯蔵ユニット608aと、特にフローティングドレインとは、一般的に、大量の暗電流を受け取る。積分期間1202の低減された持続時間は、暗電流によりフローティングドレインによって蓄積された暗電荷の量を低減することができ、これは、TTS動作およびFD ADC動作の正確さをさらに改善することができる。電荷貯蔵ユニットは、ピクセルセルが極めて高い強度の光を受け取ったときに極めて短い持続時間内に飽和し得るので、低減された第2の積分時間はまた、ダイナミックレンジの上限を下げず、TTS動作は、依然として光強度の正確な表現を提供することができ、これは、ピクセルセル1100が、図7Cのグリントパッチ752および図7Bの画像領域742のための正確な出力を生成することを可能にする。
図13Aおよび図13Bは、電荷貯蔵ユニット608aの積分期間1202の持続時間を低減するための例示的な技法を示す。図13Aに示されているように、時間T0において図12の場合のようにシャッター信号のデアサーションと第1のリセット段階の終了とを整合させる代わりに、第1のリセット段階が、シャッター信号がアサート解除された後に継続することができる。フォトダイオードPDの積分期間1204は、シャッター信号がアサート解除されるとき、SoFにおいて依然として開始し、電荷貯蔵ユニット608aの積分期間1202の開始は、SoFに対して、図13Aにおいて露光開始(SoE:start of exposure)として標示される後の時点まで遅延され得る。図13Bは、電荷貯蔵ユニット608aの積分期間1202の持続時間を低減するための別の例示的な技法を示す。図13Bに示されているように、第2のリセット段階の開始時間はまた、(フォトダイオードPDの積分期間1204を終了する)シャッタースイッチのアサーションおよびEoFに対して前倒しされ得る。図13Aと図13Bの両方において、コントローラは、第1のリセット段階が終了した後に、TTS動作を開始し、次いで、FD ADC動作を開始することができ、第2のリセット段階が開始したときにFD ADC動作を終了する。第1のリセット段階および第2のリセット段階の持続時間は、プログラミングデータ1120において指定され得、プログラミングデータ1120に基づいて、コントローラ1110は、RST1信号およびRST2信号のタイミングを制御することができる。いくつかの例では、プログラミングデータ1120はまた、電荷貯蔵ユニット608aの低減された積分期間1202に適応するために(たとえば、静的VREF電圧またはランピングVREF電圧を提供しないことによって)TTS/FD ADC測定動作のうちの1つをスキップするように、コントローラ1110を構成することができる。
図14A〜図14Cは、ピクセルセル1100の動作の他の例示的な構成を示す。図14Aに示されているように、単一のFD ADC動作の代わりに、複数のFD ADC動作が、電荷貯蔵ユニット608aの積分期間1202内にOFノード電圧を量子化するために実施され得る。たとえば、コントローラ1110は、時間T1においてカウンタ808を再開することができ、(図14Aで「FD ADC 0」と標示された)第1のFD ADC動作が時間T1と時間T1aとの間に実施され得、比較器1102は、OFノード電圧を、VFDSATからVRESETにランプする第1のランピングVREFと比較し、OFノード電圧が第1のランピングVREFを越えることを比較器1102の出力が指示するとき、カウンタ808からの第1のカウントがメモリ810に記憶され得る。第1のカウントは、OFノード電圧の第1のサンプル、ならびに、時間T1aにおいて、または時間T1aの前に電荷貯蔵ユニット608aにおいて蓄積されたオーバーフロー電荷の第1の量を表すことができる。カウンタ808は、次いで、時間T1aにおいて再開することができ、(図14Aで「FD ADC 1」と標示された)第2のFD ADC動作が時間T1aと時間T1bとの間に実施され得、比較器1102は、OFノード電圧を、VFDSATからVRESETにランプする第1のランピングVREFと比較し、OFノード電圧が第1のランピングVREFを越えることを比較器1102の出力が指示するとき、カウンタ808からの第2のカウントがメモリ810に記憶され得る。第2のカウントは、OFノード電圧の第2のサンプル、ならびに、時間T1bにおいて、または時間T1bの前に電荷貯蔵ユニット608aにおいて蓄積されたオーバーフロー電荷の第2の量を表すことができる。追加のサンプルを生成するために追加のFD ADC動作(たとえば、FD ADC n)が実施され得る。FD ADC動作の数は、プログラミングデータ1120において指定され得、プログラミングデータ1120に基づいて、コントローラ1110は、複数のサンプルを生成するために、カウンタ808の再開のタイミングならびに第1のランピングVREFの生成のタイミングを制御することができる。
複数の電圧サンプルは、メモリ810に記憶され、入射光の強度を決定するために強度出力モジュール1124に提供され得る。複数のサンプリング/量子化動作をサポートするために、メモリ810は、複数の量子化結果を記憶するための複数のメモリバンク/デバイスを含むことができ、これらは、次いで、強度出力モジュール1124を提供され得る。複数のメモリバンク/デバイスはまた、たとえば、後続の段(たとえば、FD ADC、PD ADCなど)の量子化結果でTTSの量子化結果を上書きする代わりに、TTS動作、FD ADC動作、およびPD ADC動作からの量子化結果を別々に記憶するために使用され得る。したがって、いくつかの例では、前の段からのメモリ810に記憶された量子化結果が後続の段の出力と置き換えられ得るかどうかの指示を提供する、図12における検査1212および1214は、省略され得る。
図14Bは、複数のFD ADC動作から取得された電圧サンプルの例示的なパターンを示す。グラフ1402は、時間に対する電圧サンプルの例示的なパターンを示す。グラフ1402に示されている例示的なパターンでは、電圧サンプル値は、時間に対して一定のレートで減少し、これは、電荷貯蔵ユニット608aが一定のレートでオーバーフロー電荷を蓄積することを反映することができる。オーバーフロー電荷の蓄積のレート、ならびに電圧サンプルの変化レートは、入射光強度と相関することができ、より高い強度が電圧サンプルのより高い変化レートにつながり、より低い強度についてはその逆である。したがって、強度出力モジュール1124は、電圧サンプル値の変化レートに基づいて入射光強度を決定することができる。グラフ1402の例では、強度出力モジュール1124は、異なるサンプル間の(たとえば、v0とv1との間の、v1とv2との間の、v2とv3との間のなど)サンプリングされた電圧の変化レートを決定し、平均変化レートを決定することができる。強度出力モジュール1124は、次いで、サンプリングされた電圧の平均変化レートに基づいて入射光の強度を決定することができる。いくつかの例では、強度出力モジュール1124はまた、複数の画像フレームにわたるサンプリングされた電圧の平均変化レートに基づいて入射光の強度を決定することができる。
FDSAT(またはVRESET)と、(ランピングVREFを越えるときの)特定のサンプリングされた電圧との間の差に基づくこととは対照的に、変化レートに基づいて入射光強度を決定することは、様々な利益を提供することができる。たとえば、リセット雑音と量子化雑音とは、平均化によって低減され得る。その上、電圧サンプルは、高いサンプリング周波数において取得され、量子化され得、これは、1/f雑音を低減し、FD ADC動作の正確さを改善することができる。その上、強度測定は、ランプまたはクロック信号の遅延のような不一致のソースに対してより弾力的になり得、これは、これらの雑音ソースの較正の必要を低減するかまたはなくすことができる。
グラフ1404は、時間に対する電圧サンプルの別の例示的なパターンを示す。グラフ1404に示されている例示的なパターンでは、電圧サンプル値は、時間t0と時間t3との間の時間に対して第1のレートで減少し、次いで、時間t3と時間t7との間の時間に対して、はるかに小さい第2のレートで減少する(または一定にとどまる)。はるかに遅い第2のレートは、電荷貯蔵ユニット608aがオーバーフロー電荷で飽和されることを指示することができる。強度出力モジュール1124は、時間t3において開始する電圧サンプルの変化レートの大幅な減少を検出し、入射光強度を決定するために時間t0と時間t3との間の電圧サンプルの第1の変化レートを使用することができる。そのような仕組みはまた、(たとえば、電荷貯蔵ユニット608aの低減された積分期間1202に適応するように)TTS動作をスキップすること、および/または、はるかに高い強度範囲についてTTS動作を指定する一方でFD ADC動作の強度上限を図7Aの飽和しきい値704を超えて拡張することなどを可能にすることができ、これはピクセルセル1100のダイナミックレンジを拡張することができる。
図14Cは、ピクセルセル1100の動作の別の例示的な構成を示す。図14Cでは、OFノード電圧を量子化するために複数のFD ADC動作が実施され得るが、電荷貯蔵ユニット608aと比較器1102とは、各FD ADC動作の終了時にリセットされ、これは、積分期間1202を、積分期間P0、P1、Pnなどを含む複数のサブ期間に分割することができる。図14Cの例では、強度出力モジュール1124は、サンプリングされた電圧を平均化することに基づいて入射光強度を決定することができる。図14Cにおける仕組みも、FD ADC動作の正確さを改善するために、リセット雑音、量子化雑音、および1/f雑音できる。その上、強度測定は、ランプまたはクロック信号の遅延のような不一致のソースに対してより弾力的になり得、これは、これらの雑音ソースの較正の必要を低減するかまたはなくすことができる。
図15は、ピクセルセル1100の動作の他の例示的な構成を示す。図15に示されているように、単一のPD ADC動作の代わりに、複数のPD ADC動作が、T3とT5との間の期間において実施され得る。複数のPD ADC動作を実施するために、コントローラ1110は、フォトダイオードPDが、電荷を生成し、その電荷を電荷貯蔵ユニット608aに転送することを可能にするために、シャッタースイッチを無効化された状態に保ちながら、T3とT5との間の期間においてトランジスタM1を完全にオンにするためにバイアスTXをVHIGHに設定することができる。コントローラ1110は、時間T3においてカウンタ808を再開することができ、(図15で「PD ADC 0」と標示された)第1のPD ADC動作が時間T3と時間T3aとの間に実施され得、比較器1102は、OFノード電圧を、VPDSATからVRESETにランプする第2のランピングVREFと比較し、OFノード電圧が第2のランピングVREFを越えることを比較器1102の出力が指示するとき、カウンタ808からの第1のカウントがメモリ810に記憶され得る。第1のカウントは、OFノード電圧の第1のサンプル、ならびに、時間T3aにおいて、または時間T3aの前にフォトダイオードPDによって生成された(および電荷貯蔵ユニット608aに転送された)電荷の第1の量を表すことができる。カウンタ808は、次いで、時間T3aにおいて再開することができ、(図15で「PD ADC 1」と標示された)第2のPD ADC動作が時間T1aと時間T1bとの間に実施され得、比較器1102は、OFノード電圧を、VFDSATからVRESETにランプする第1のランピングVREFと比較し、OFノード電圧が第2のランピングVREFを越えることを比較器1102の出力が指示するとき、カウンタ808からの第2のカウントがメモリ810に記憶され得る。第2のカウントは、OFノード電圧の第2のサンプル、ならびに、時間T3bにおいて、または時間T3bの前にフォトダイオードPDによって生成された電荷の第2の量を表すことができる。追加のサンプルを生成するために追加のPD ADC動作(たとえば、PD ADC n)が実施され得る。PD ADC動作の数は、プログラミングデータ1120において指定され得、プログラミングデータ1120に基づいて、コントローラ1110は、複数のサンプルを生成するために、カウンタ808の再開のタイミングならびに第2のランピングVREFの生成のタイミングを制御することができる。複数の電圧サンプルは、メモリ810に記憶され得る。強度出力モジュール1124は、たとえば、サンプリングされた電圧の変化レートを決定することに基づいて入射光の強度を決定することができる。
図16は、ピクセルセル1100の動作の他の例示的な構成を示す。図16に示されているように、単一のTTS動作の代わりに、複数のTTS動作が、T0とT1との間の期間において実施され得る。複数のTTS動作を実施するために、コントローラ1110は、時間T0においてカウンタ808を再開して、(図16で「TTS 0」と標示された)第1のTTS動作を時間T0と時間T0aとの間に実施することができ、比較器1102は、OFノード電圧を静的しきい値電圧VFDSATと比較し、OFノード電圧が第2のランピングVREFを越えることを比較器1102の出力が指示するとき、カウンタ808からの第1のカウントがメモリ810に記憶され得る。第1のカウントは、OFノード電圧の飽和までの時間の第1のサンプルを表すことができる。コントローラ1110は、次いで、RST1とRST2とをアサートして、それぞれ、電荷貯蔵ユニット608aと比較器1102とをリセットし、時間T0aにおいてカウンタ808を再開することができ、(図16で「TTS 1」と標示された)第2のPD ADC動作が時間T0aと時間T0bとの間に実施され得、(図16で「TTS 2」と標示された)第3のPD ADC動作が時間T0bと時間T0cとの間に実施され得る。追加のサンプルを生成するために追加のTTS動作(たとえば、TTS n)が実施され得る。TTS動作の数は、プログラミングデータ1120において指定され得、プログラミングデータ1120に基づいて、コントローラ1110は、複数の飽和までの時間サンプルを生成するために、カウンタ808の再開のタイミングならびにRST1およびRST2の生成のタイミングを制御することができる。複数の飽和までの時間サンプルは、メモリ810に記憶され、強度出力モジュール1124に提供され得る。
強度出力モジュール1124は、様々な技法に基づいて、複数の飽和までの時間サンプルに基づいて入射光強度を決定することができる。いくつかの例では、強度出力モジュール1124は、飽和までの時間サンプルの数をカウントし、その数に基づいて強度を決定することができる。たとえば、より高い数がより高い光強度を指示することができる。いくつかの例では、固定数の飽和までの時間サンプルが収集され得、最後の飽和までの時間サンプルが、入射光強度を決定するために使用され得る。いくつかの例では、強度出力モジュール1124はまた、飽和までの時間サンプルの平均に基づいて入射光強度を決定することができる。
図17は、光強度を測定するための例示的な方法1700のフローチャートを示す。方法1700は、たとえば、図11のピクセルセル1100のコントローラ1110によって実施され得る。
方法1700は、ステップ1702から開始し、コントローラ1110は、アプリケーションを動作させるホストデバイスからプログラミングデータ(たとえば、プログラミングデータ1120)を受け取る。プログラミングデータは、ピクセルセル1100における光強度測定動作を構成することができる。構成は、たとえば、電荷貯蔵ユニット608aにおいて電荷の積分期間の持続時間を設定すること、3段階測定プロセスのうちの1つまたは複数を省略すること、入射光強度の複数のサンプルを量子化するために3段階測定プロセスのうちの1つまたは複数を繰り返すことなどを含むことができ、ホストデバイスにおいて動作するアプリケーションに基づき得る。
ステップ1704において、コントローラ1110は、プログラミングデータに基づいて、フローティングドレインを含む電荷貯蔵ユニット(たとえば、電荷貯蔵ユニット608a)がフォトダイオードから受け取られた電荷を蓄積する積分期間の持続時間、または電荷をサンプリングする回数のうちの少なくとも1つを決定することができる。電荷貯蔵ユニット608aの積分期間は、TTS測定動作および/またはFD ADC測定動作のためのオーバーフロー電荷の蓄積のために提供された時間期間の持続時間を指示することができ、電荷をサンプリングする回数は、TTS測定動作、FD ADC測定動作、およびPD ADC測定動作のうちの1つまたは複数が光強度を測定するために繰り返される回数を指示することができる。
ステップ1706において、コントローラ1110は、フォトダイオードが、残留電荷を蓄積し、フォトダイオードが飽和した後に電荷貯蔵ユニットにオーバーフロー電荷を送ることを可能にすることができる。コントローラは、たとえば、シャッタースイッチを解放してフォトダイオードの積分期間を開始することによって、フォトダイオードが電荷を蓄積することを可能にすることができる。フォトダイオードの積分期間の開始は、フレーム開始(SoF)に対応することができる。
ステップ1708において、コントローラ1110は、電荷貯蔵ユニットの積分期間内にフォトダイオードから受け取られたオーバーフロー電荷の少なくとも一部を蓄積するように電荷貯蔵ユニットを制御することができる。電荷貯蔵ユニットの積分期間の持続時間は、プログラミングデータに基づいて構成され得る。いくつかの例では、コントローラ1110は、(図13Aに示されているように)SoFを超える電荷貯蔵ユニットの第1のリセット段階のタイミングを制御することに基づいて、および/または(図13Bに示されているように)PD ADCの前の電荷貯蔵ユニットの第2のリセット段階のタイミングを制御することに基づいて、電荷貯蔵ユニットの積分期間の持続時間を設定することができる。
ステップ1710において、コントローラ1110は、上記回数、オーバーフロー電荷の少なくとも一部または残留電荷をサンプリングして上記回数の数のサンプルを取得することと、上記数のサンプルを量子化して上記数の量子化結果を生成することとを行うように量子化器(たとえば、ピクセルADC610)を制御することができる。サンプルの数は、プログラミングデータに基づいて構成され得る。いくつかの例では、電荷貯蔵ユニットが(たとえば、FD ADC動作において)オーバーフロー電荷または(たとえば、PD ADC動作において)残留電荷を蓄積し続けるにつれて、電圧サンプルが取得され得、各電圧は、ランピングしきい値と比較することと、比較結果に基づいてメモリにカウント値を記憶することとに基づいて量子化され得る。時間に対する電圧サンプルの変化レートが決定され得、変化レートに基づいて入射光の強度が決定され得る。いくつかの例では、電荷貯蔵ユニットは、量子化器が各サンプル(たとえば、電圧サンプル、飽和までの時間サンプルなど)を取得し、そのサンプルを量子化するより前に、リセットされ得、入射光の強度は、量子化結果の平均に基づいて決定され得る。
本開示の例の上記の説明は、説明の目的で提示されており、網羅的であること、または開示される正確な形態に本開示を限定することは意図されない。当業者は、上記の開示に照らして多くの修正および変形が可能であることを諒解することができる。
本明細書のいくつかの部分は、情報に関する動作のアルゴリズムおよび記号表現に関して本開示の例について説明する。これらのアルゴリズム説明および表現は、データ処理技術分野の当業者が、他の当業者に自身の仕事の本質を効果的に伝えるために通常使用される。これらの動作は、機能的に、計算量的に、または論理的に説明されるが、コンピュータプログラムまたは等価な電気回路、マイクロコードなどによって実装されることが理解される。さらに、一般性の喪失なしに、動作のこれらの仕組みをモジュールと呼ぶことが時々好都合であることも証明された。説明される動作およびそれらの関連するモジュールは、ソフトウェア、ファームウェア、および/またはハードウェアにおいて具現され得る。
説明されるステップ、動作、またはプロセスは、1つまたは複数のハードウェアまたはソフトウェアモジュールで、単独でまたは他のデバイスとの組合せで実施または実装され得る。いくつかの例では、ソフトウェアモジュールは、コンピュータプログラムコードを含んでいるコンピュータ可読媒体を備えるコンピュータプログラム製品で実装され、コンピュータプログラムコードは、説明されるステップ、動作、またはプロセスのいずれかまたはすべてを実施するためにコンピュータプロセッサによって実行され得る。
本開示の例はまた、説明される動作を実施するための装置に関し得る。本装置は、必要とされる目的のために特別に構築され得、および/あるいは、本装置は、コンピュータに記憶されたコンピュータプログラムによって選択的にアクティブ化または再構成される汎用コンピューティングデバイスを備え得る。そのようなコンピュータプログラムは、非一時的有形コンピュータ可読記憶媒体、または、コンピュータシステムバスに結合され得る、電子命令を記憶するのに好適な任意のタイプのメディアに記憶され得る。さらに、本明細書で言及される任意のコンピューティングシステムは、単一のプロセッサを含み得るか、または、増加された計算能力のために複数のプロセッサ設計を採用するアーキテクチャであり得る。
本開示の例はまた、本明細書で説明されるコンピューティングプロセスによって製造される製品に関し得る。そのような製品は、コンピューティングプロセスから生じる情報を備え得、その情報は、非一時的有形コンピュータ可読記憶媒体に記憶され、本明細書で説明されるコンピュータプログラム製品または他のデータ組合せの任意の例を含み得る。
本明細書で使用される言い回しは、主に読みやすさおよび教授の目的で選択されており、その言い回しは、本発明の主題を画定または制限するために選択されていないことがある。したがって、本開示の範囲はこの詳細な説明によって限定されるのではなく、むしろ、本明細書に基づく出願に関して生じる請求項によって限定されることが意図される。したがって、例の開示は、以下の特許請求の範囲に記載される本開示の範囲を例示するものであり、限定するものではない。

Claims (20)

  1. フォトダイオードと、
    フローティングドレインを含む電荷貯蔵ユニットと、
    量子化器と、
    コントローラと
    を備える装置であって、前記コントローラは、
    プログラミングデータを受け取ることと、
    前記プログラミングデータに基づいて、フローティングドレインを含む前記電荷貯蔵ユニットが前記フォトダイオードから受け取られた電荷を蓄積する積分期間、または前記フォトダイオードから受け取られた前記電荷をサンプリングする回数のうちの少なくとも1つを決定することと、
    前記フォトダイオードが、残留電荷を蓄積し、前記フォトダイオードが飽和した後に前記電荷貯蔵ユニットにオーバーフロー電荷を送ることを可能にすることと、
    前記積分期間内に前記フォトダイオードから受け取られた前記オーバーフロー電荷の少なくとも一部を蓄積するように前記電荷貯蔵ユニットを制御することと、
    前記量子化器を制御することであって、
    前記回数、前記オーバーフロー電荷の前記少なくとも一部または前記残留電荷をサンプリングして前記回数の数のサンプルを取得することと、
    前記数のサンプルを量子化して前記数の量子化結果を生成することと
    を行うように、前記量子化器を制御することと
    を行うように構成された、
    装置。
  2. 前記コントローラは、
    第1の時間において、前記フォトダイオードが前記残留電荷を蓄積することを開始することを可能にすることと、
    リセット状態から前記電荷貯蔵ユニットを解放することを前記第1の時間の後の第2の時間において開始することと、
    前記第2の時間の後の第3の時間において前記電荷貯蔵ユニットをリセットすることと
    を行うように構成され、
    前記コントローラが、前記プログラミングデータに基づいて前記第2の時間または前記第3の時間のうちの少なくとも1つを設定するように構成された、
    請求項1に記載の装置。
  3. 前記積分期間が、第1の積分期間であり、前記第2の時間において開始し、
    前記フォトダイオードの第2の積分期間が前記第1の時間において開始する、
    請求項2に記載の装置。
  4. 前記フォトダイオードと第1の電荷シンクとの間に結合されたシャッタースイッチと、
    前記電荷貯蔵ユニットと第2の電荷シンクとの間に結合されたリセットスイッチと
    をさらに備える、請求項3に記載の装置。
  5. 前記コントローラが、
    前記第1の時間において、前記第2の積分期間を開始するために前記シャッタースイッチを無効化することと、
    前記第2の時間において、前記第1の積分期間を開始するために前記リセットスイッチを無効化することと、
    前記第3の時間において、前記第1の積分期間を停止するために前記リセットスイッチを有効化することと
    を行うように構成された、
    請求項4に記載の装置。
  6. 前記フォトダイオードと前記電荷貯蔵ユニットとの間に結合された転送スイッチをさらに備え、前記転送スイッチが、ゲートと、前記電荷貯蔵ユニットのフローティングドレイン領域とを備え、
    前記コントローラは、前記フォトダイオードが前記残留電荷を貯蔵することを可能にするために、前記第1の積分期間および前記第2の積分期間内に、前記転送スイッチのゲートに第1の制御信号を送ることと、
    前記第1の積分期間内に、前記電荷貯蔵ユニットにおいて蓄積された前記オーバーフロー電荷の前記少なくとも一部の第1の数のサンプルを量子化するように前記量子化器を制御することとを行うように構成された、
    請求項5に記載の装置。
  7. 前記コントローラは、前記第3の時間の後に、
    前記リセットスイッチを無効化することと、
    前記残留電荷を前記フォトダイオードから前記電荷貯蔵ユニットに転送するために、前記転送スイッチの前記ゲートに第2の制御信号を送ることと、
    前記第1の積分期間と前記第2の積分期間の両方を停止するために、前記シャッタースイッチを有効化することと、
    前記第1の積分期間および前記第2の積分期間が終了した後に、前記電荷貯蔵ユニットにおいて蓄積された前記残留電荷を量子化するように前記量子化器を制御することと
    を行うように構成された、請求項6に記載の装置。
  8. 前記量子化器が、比較器と、カウンタと、メモリとを備え、
    前記コントローラが、
    開始カウント値からカウントすることを開始するように前記カウンタを制御することと、
    前記電荷貯蔵ユニットにおける電圧を1つまたは複数のしきい値と比較して、比較結果を生成するように前記比較器を制御することと、
    前記比較結果に基づいて、前記電圧のサンプルの量子化結果として前記カウンタからのカウント値を記憶するように前記メモリを制御することと
    を含む量子化動作を実施するように構成された、請求項1に記載の装置。
  9. 前記コントローラが、前記数の前記量子化結果を生成するために前記プログラミングデータに基づいて前記数の量子化動作を実施するように構成された、請求項8に記載の装置。
  10. 前記コントローラが、前記数の量子化動作の各々において、前記電圧をランピングしきい値と比較して、前記電荷貯蔵ユニットにおいて貯蔵された前記オーバーフロー電荷の量または前記残留電荷の量を決定するように前記比較器を制御するように構成された、請求項9に記載の装置。
  11. 前記コントローラが、前記数の量子化結果の間の変化レートに基づいて、前記フォトダイオードによって受け取られた入射光の強度を表す出力を生成するように構成された、請求項10に記載の装置。
  12. 前記コントローラが、
    前記数の量子化結果の第1のサブセットの間の第1の変化レートを決定することと、
    前記数の量子化結果の第2のサブセットの間の第2の変化レートを決定することと、
    前記第1の変化レートと前記第2の変化レートとの間の関係に基づいて、前記第1の変化レートに基づく前記出力を生成することと
    を行うように構成された、請求項11に記載の装置。
  13. 前記コントローラは、
    前記関係に基づいて、前記数の量子化結果の前記第2のサブセットによって表された前記電圧の前記サンプルが取得されたとき、前記電荷貯蔵ユニットが飽和されたと決定することと、
    前記決定に基づいて、前記第1の変化レートに基づく前記出力を生成することと
    を行うように構成された、請求項12に記載の装置。
  14. 前記コントローラが、
    前記数の量子化動作の各々において、前記電荷貯蔵ユニットをリセットすることと、
    前記数の量子化結果の平均に基づいて、前記フォトダイオードによって受け取られた入射光の強度を表す出力を生成することと
    を行うように構成された、請求項10に記載の装置。
  15. 前記コントローラが、前記数の量子化動作の各々において、前記電圧を静的しきい値と比較するように前記比較器を制御するように構成され、
    前記数の量子化結果の各々は、前記電荷貯蔵ユニットが前記オーバーフロー電荷によって飽和される時間を表す、請求項14に記載の装置。
  16. 前記コントローラが、前記オーバーフロー電荷の前記少なくとも一部を量子化するために前記第1の積分期間内に前記数の量子化動作を実施するように構成された、請求項10に記載の装置。
  17. 前記コントローラが、前記残留電荷を量子化するために前記第2の積分期間内に前記数の量子化動作を実施するように構成された、請求項10に記載の装置。
  18. プログラミングデータを受け取ることと、
    前記プログラミングデータに基づいて、フローティングドレインを含む電荷貯蔵ユニットがフォトダイオードから受け取られた電荷を蓄積する積分期間、または前記電荷をサンプリングする回数のうちの少なくとも1つを決定することと、
    前記フォトダイオードが、残留電荷を蓄積し、前記フォトダイオードが飽和した後に前記電荷貯蔵ユニットにオーバーフロー電荷を送ることを可能にすることと、
    前記積分期間内に前記フォトダイオードから受け取られた前記オーバーフロー電荷の少なくとも一部を蓄積するように前記電荷貯蔵ユニットを制御することと、
    前記回数、前記オーバーフロー電荷の前記少なくとも一部または前記残留電荷をサンプリングして前記回数の数のサンプルを取得するように量子化器を制御することと、
    前記数のサンプルを量子化して前記数の量子化結果を生成するように前記量子化器を制御することと
    を含む、方法。
  19. 第1の時間において、前記フォトダイオードが前記オーバーフロー電荷を蓄積することを開始することを可能にすることと、
    リセット状態から前記電荷貯蔵ユニットを解放することを前記第1の時間の後の第2の時間において開始することと、
    前記第2の時間の後の第3の時間において前記電荷貯蔵ユニットをリセットすることと
    をさらに含み、
    前記積分期間の持続時間が、前記第2の時間または前記第3の時間のうちの少なくとも1つに基づいて設定される、
    請求項18に記載の方法。
  20. 前記数の量子化プロセスを実施することであって、前記量子化プロセスの各々が、
    開始カウント値からカウントすることを開始するようにカウンタを制御することと、
    前記電荷貯蔵ユニットにおける電圧を1つまたは複数のしきい値と比較して、比較結果を生成するように比較器を制御することと、
    前記比較結果に基づいて、前記電圧のサンプルの量子化結果として前記カウンタからのカウント値を記憶するようにメモリを制御することと
    を含む、前記数の量子化プロセスを実施すること
    をさらに含む、請求項18に記載の方法。
JP2020563778A 2018-06-11 2019-06-11 構成可能な画像センサー Pending JP2021526326A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201862683563P 2018-06-11 2018-06-11
US62/683,563 2018-06-11
US16/436,137 2019-06-10
US16/436,137 US11089210B2 (en) 2018-06-11 2019-06-10 Configurable image sensor
PCT/US2019/036575 WO2019241267A1 (en) 2018-06-11 2019-06-11 Configurable image sensor

Publications (1)

Publication Number Publication Date
JP2021526326A true JP2021526326A (ja) 2021-09-30

Family

ID=68764454

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020563778A Pending JP2021526326A (ja) 2018-06-11 2019-06-11 構成可能な画像センサー

Country Status (7)

Country Link
US (1) US11089210B2 (ja)
EP (1) EP3804300A1 (ja)
JP (1) JP2021526326A (ja)
KR (1) KR20210019079A (ja)
CN (1) CN112640434A (ja)
TW (1) TWI794508B (ja)
WO (1) WO2019241267A1 (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10686996B2 (en) 2017-06-26 2020-06-16 Facebook Technologies, Llc Digital pixel with extended dynamic range
US10419701B2 (en) 2017-06-26 2019-09-17 Facebook Technologies, Llc Digital pixel image sensor
US10917589B2 (en) 2017-06-26 2021-02-09 Facebook Technologies, Llc Digital pixel with extended dynamic range
US10598546B2 (en) 2017-08-17 2020-03-24 Facebook Technologies, Llc Detecting high intensity light in photo sensor
US11393867B2 (en) 2017-12-06 2022-07-19 Facebook Technologies, Llc Multi-photodiode pixel cell
US10969273B2 (en) 2018-03-19 2021-04-06 Facebook Technologies, Llc Analog-to-digital converter having programmable quantization resolution
US11004881B2 (en) 2018-04-03 2021-05-11 Facebook Technologies, Llc Global shutter image sensor
US10834344B2 (en) 2018-06-09 2020-11-10 Facebook Technologies, Llc Digital pixel with extended dynamic range
US10903260B2 (en) 2018-06-11 2021-01-26 Facebook Technologies, Llc Multi-photodiode pixel cell
US11906353B2 (en) 2018-06-11 2024-02-20 Meta Platforms Technologies, Llc Digital pixel with extended dynamic range
US11089241B2 (en) 2018-06-11 2021-08-10 Facebook Technologies, Llc Pixel cell with multiple photodiodes
US11089210B2 (en) 2018-06-11 2021-08-10 Facebook Technologies, Llc Configurable image sensor
US11463636B2 (en) 2018-06-27 2022-10-04 Facebook Technologies, Llc Pixel sensor having multiple photodiodes
US10897586B2 (en) * 2018-06-28 2021-01-19 Facebook Technologies, Llc Global shutter image sensor
JP7210172B2 (ja) * 2018-07-06 2023-01-23 キヤノン株式会社 撮像装置およびその制御方法
US10931884B2 (en) 2018-08-20 2021-02-23 Facebook Technologies, Llc Pixel sensor having adaptive exposure time
US11956413B2 (en) 2018-08-27 2024-04-09 Meta Platforms Technologies, Llc Pixel sensor having multiple photodiodes and shared comparator
US11595602B2 (en) 2018-11-05 2023-02-28 Meta Platforms Technologies, Llc Image sensor post processing
US11102430B2 (en) 2018-12-10 2021-08-24 Facebook Technologies, Llc Pixel sensor having multiple photodiodes
US11218660B1 (en) 2019-03-26 2022-01-04 Facebook Technologies, Llc Pixel sensor having shared readout structure
US11943561B2 (en) 2019-06-13 2024-03-26 Meta Platforms Technologies, Llc Non-linear quantization at pixel sensor
JP7460345B2 (ja) * 2019-09-30 2024-04-02 ブリルニクス シンガポール プライベート リミテッド 固体撮像装置、固体撮像装置の駆動方法、および電子機器
US11936998B1 (en) 2019-10-17 2024-03-19 Meta Platforms Technologies, Llc Digital pixel sensor having extended dynamic range
US11902685B1 (en) 2020-04-28 2024-02-13 Meta Platforms Technologies, Llc Pixel sensor having hierarchical memory
US11910114B2 (en) 2020-07-17 2024-02-20 Meta Platforms Technologies, Llc Multi-mode image sensor
US11956560B2 (en) 2020-10-09 2024-04-09 Meta Platforms Technologies, Llc Digital pixel sensor having reduced quantization operation
CN115866426B (zh) * 2022-11-30 2024-05-03 天津大学 基于横向溢流集成电容的多模式复用像素结构

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006217410A (ja) * 2005-02-04 2006-08-17 Tohoku Univ 光センサおよび固体撮像装置
JP2010283525A (ja) * 2009-06-03 2010-12-16 Toshiba Corp 撮像装置
JP2013157933A (ja) * 2012-01-31 2013-08-15 Hamamatsu Photonics Kk 撮像装置
US20140152884A1 (en) * 2011-04-13 2014-06-05 Lg Innotek Co., Ltd. Wdr pixel array, wdr imaging apparatus including the same and method for operating the same
JP2014175692A (ja) * 2013-03-06 2014-09-22 Sony Corp 信号処理装置、固体撮像装置、電子機器、信号処理方法、およびプログラム
JP2016061666A (ja) * 2014-09-18 2016-04-25 株式会社島津製作所 イメージセンサの信号処理装置及び信号読出方法
JP2018011272A (ja) * 2016-07-15 2018-01-18 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、及び、固体撮像素子の駆動方法、並びに、電子機器

Family Cites Families (182)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4596977A (en) 1984-12-03 1986-06-24 Honeywell Inc. Dual slope analog to digital converter with out-of-range reset
US5053771A (en) 1990-07-16 1991-10-01 Eastman Kodak Company Adaptive dual range analog to digital converter
JP2953297B2 (ja) 1994-03-30 1999-09-27 日本電気株式会社 受光素子およびその駆動方法
US6529241B1 (en) 1998-02-27 2003-03-04 Intel Corporation Photodetecting device supporting saturation detection and electronic shutter
US6522395B1 (en) 1999-04-30 2003-02-18 Canesta, Inc. Noise reduction techniques suitable for three-dimensional information acquirable with CMOS-compatible image sensor ICS
US6486504B1 (en) 1999-10-26 2002-11-26 Eastman Kodak Company CMOS image sensor with extended dynamic range
US6545624B2 (en) 2000-02-11 2003-04-08 Hyundai Electronics Industries Co., Ltd. Image sensor with analog-to-digital converter that generates a variable slope ramp signal
JP4949573B2 (ja) 2001-07-13 2012-06-13 浜松ホトニクス株式会社 光検出装置
US20030049925A1 (en) 2001-09-10 2003-03-13 Layman Paul Arthur High-density inter-die interconnect structure
JP4938221B2 (ja) 2002-02-01 2012-05-23 ピコメトリックス インコーポレイテッド プレーナ・アバランシェ・フォトダイオード
CN1234234C (zh) 2002-09-30 2005-12-28 松下电器产业株式会社 固体摄像器件及使用该固体摄像器件的设备
US7280143B2 (en) 2003-04-14 2007-10-09 Micron Technology, Inc. CMOS image sensor with active reset and 4-transistor pixels
US6885331B2 (en) 2003-09-15 2005-04-26 Micron Technology, Inc. Ramp generation with capacitors
EP1530363B1 (en) 2003-11-04 2010-08-11 STMicroelectronics (Research & Development) Limited Improvements in or relating to image sensors
KR100574959B1 (ko) 2003-11-24 2006-04-28 삼성전자주식회사 자동 노출 조절 기능을 갖는 시모스 이미지 센서
KR101105617B1 (ko) 2004-02-27 2012-01-18 고쿠리츠다이가쿠호진 도호쿠다이가쿠 고체 촬상 장치, 라인 센서, 광 센서 및 고체 촬상 장치의동작 방법
JP4317115B2 (ja) 2004-04-12 2009-08-19 国立大学法人東北大学 固体撮像装置、光センサおよび固体撮像装置の動作方法
GB0412296D0 (en) 2004-06-02 2004-07-07 Council Cent Lab Res Councils Imaging device
US7508431B2 (en) 2004-06-17 2009-03-24 Hoya Corporation Solid state imaging device
JP4349232B2 (ja) 2004-07-30 2009-10-21 ソニー株式会社 半導体モジュール及びmos型固体撮像装置
JP4816457B2 (ja) 2004-09-02 2011-11-16 ソニー株式会社 撮像装置及び撮像結果の出力方法
JP4835856B2 (ja) 2005-01-06 2011-12-14 日本電気株式会社 半導体集積回路装置
JP2006197393A (ja) 2005-01-14 2006-07-27 Canon Inc 固体撮像装置、カメラ、及び固体撮像装置の駆動方法
JP4459064B2 (ja) 2005-01-14 2010-04-28 キヤノン株式会社 固体撮像装置、その制御方法及びカメラ
TW201101476A (en) 2005-06-02 2011-01-01 Sony Corp Semiconductor image sensor module and method of manufacturing the same
US20070013983A1 (en) 2005-07-04 2007-01-18 Dai Nippon Printing Co., Ltd. Holographic viewing device, and holographic viewing card incorporating it
KR100775058B1 (ko) 2005-09-29 2007-11-08 삼성전자주식회사 픽셀 및 이를 이용한 이미지 센서, 그리고 상기 이미지센서를 포함하는 이미지 처리 시스템
US7608823B2 (en) 2005-10-03 2009-10-27 Teledyne Scientific & Imaging, Llc Multimode focal plane array with electrically isolated commons for independent sub-array biasing
US7546026B2 (en) 2005-10-25 2009-06-09 Zoran Corporation Camera exposure optimization techniques that take camera and scene motion into account
US7652313B2 (en) 2005-11-10 2010-01-26 International Business Machines Corporation Deep trench contact and isolation of buried photodetectors
WO2007097287A1 (ja) 2006-02-20 2007-08-30 Matsushita Electric Industrial Co., Ltd. 撮像装置及びレンズ鏡筒
US7609079B2 (en) 2006-03-02 2009-10-27 Dialog Semiconductor Gmbh Probeless DC testing of CMOS I/O circuits
US7326903B2 (en) 2006-06-29 2008-02-05 Noble Peak Vision Corp. Mixed analog and digital pixel for high dynamic range readout
JP4855192B2 (ja) 2006-09-14 2012-01-18 富士フイルム株式会社 イメージセンサ及びデジタルカメラ
US7361989B1 (en) 2006-09-26 2008-04-22 International Business Machines Corporation Stacked imager package
US8107751B2 (en) 2007-03-16 2012-01-31 Sharp Laboratories Of America, Inc. DPCM with adaptive range and PCM escape mode
US7839703B2 (en) 2007-06-15 2010-11-23 Micron Technology, Inc. Subtraction circuits and digital-to-analog converters for semiconductor devices
US7825966B2 (en) 2007-06-29 2010-11-02 Omnivision Technologies, Inc. High dynamic range sensor with blooming drain
US7940311B2 (en) 2007-10-03 2011-05-10 Nokia Corporation Multi-exposure pattern for enhancing dynamic range of images
US8426793B1 (en) 2007-10-04 2013-04-23 Geoffrey L. Barrows Vision sensor
EP2063632A1 (en) * 2007-11-20 2009-05-27 St Microelectronics S.A. Image sensor with multiple integration periods
EP2063630A1 (en) 2007-11-26 2009-05-27 Thomson Licensing Video capture device with variable shutter integration time
US8369458B2 (en) 2007-12-20 2013-02-05 Ralink Technology Corporation Wireless receiving system with an adaptively configurable analog to digital converter
US20090224139A1 (en) 2008-03-04 2009-09-10 Mesa Imaging Ag Drift Field Demodulation Pixel with Pinned Photo Diode
EP2104234B1 (en) 2008-03-21 2011-08-31 STMicroelectronics Limited Analog-to-digital conversion in image sensors
US8089035B2 (en) 2008-04-16 2012-01-03 Tower Semiconductor Ltd. CMOS image sensor with high sensitivity wide dynamic range pixel for high resolution applications
JP4661912B2 (ja) 2008-07-18 2011-03-30 ソニー株式会社 固体撮像素子およびカメラシステム
US7795650B2 (en) 2008-12-09 2010-09-14 Teledyne Scientific & Imaging Llc Method and apparatus for backside illuminated image sensors using capacitively coupled readout integrated circuits
KR101575851B1 (ko) 2009-03-13 2015-12-10 삼성전자주식회사 불 휘발성 메모리 장치 및 그것의 프로그램 방법
ATE543215T1 (de) 2009-03-24 2012-02-15 Sony Corp Festkörper-abbildungsvorrichtung, ansteuerverfahren für festkörper- abbildungsvorrichtung und elektronische vorrichtung
JP5306269B2 (ja) 2009-06-25 2013-10-02 キヤノン株式会社 光干渉断層法を用いる撮像装置及び撮像方法
US8569807B2 (en) 2009-09-01 2013-10-29 Taiwan Semiconductor Manufacturing Company, Ltd. Backside illuminated image sensor having capacitor on pixel region
JP5330520B2 (ja) 2009-09-11 2013-10-30 パナソニック株式会社 アナログ・デジタル変換器、イメージセンサシステム、カメラ装置
KR101727270B1 (ko) 2009-11-06 2017-04-17 삼성전자주식회사 이미지 센서
US8384800B2 (en) 2009-11-23 2013-02-26 Samsung Electronics Co., Ltd. Methods of acquiring images
KR101111946B1 (ko) 2009-12-17 2012-02-14 엠텍비젼 주식회사 촬상 장치, 이미지 시그널 프로세서 칩 및 칩 간의 메모리 공유 방법
US8606051B2 (en) 2010-08-16 2013-12-10 SK Hynix Inc. Frame-wise calibration of column-parallel ADCs for image sensor array applications
KR20120029840A (ko) 2010-09-17 2012-03-27 삼성전자주식회사 이미지 센서의 구동 방법
CN103119928B (zh) 2010-09-30 2016-05-25 佳能株式会社 固态成像装置
US8576276B2 (en) 2010-11-18 2013-11-05 Microsoft Corporation Head-mounted display device which provides surround video
TWI462265B (zh) 2010-11-30 2014-11-21 Ind Tech Res Inst 影像擷取裝置
KR101754131B1 (ko) 2010-12-01 2017-07-06 삼성전자주식회사 샘플링 회로와 광감지 장치
US8294077B2 (en) 2010-12-17 2012-10-23 Omnivision Technologies, Inc. Image sensor having supplemental capacitive coupling node
US8847136B2 (en) 2011-01-02 2014-09-30 Pixim, Inc. Conversion gain modulation using charge sharing pixel
US8717467B2 (en) 2011-01-25 2014-05-06 Aptina Imaging Corporation Imaging systems with array cameras for depth sensing
US8674282B2 (en) 2011-03-25 2014-03-18 Aptina Imaging Corporation Pumped pinned photodiode pixel array
KR101251744B1 (ko) 2011-04-13 2013-04-05 엘지이노텍 주식회사 Wdr 픽셀 어레이, 이를 포함하는 wdr 이미징 장치 및 그 구동방법
KR101241704B1 (ko) 2011-04-14 2013-03-19 엘지이노텍 주식회사 픽셀, 픽셀 어레이, 이를 포함하는 이미지센서 및 그 구동방법
US8637800B2 (en) 2011-04-19 2014-01-28 Altasens, Inc. Image sensor with hybrid heterostructure
US8575531B2 (en) 2011-04-26 2013-11-05 Aptina Imaging Corporation Image sensor array for back side illumination with global shutter using a junction gate photodiode
JP5808162B2 (ja) 2011-06-23 2015-11-10 キヤノン株式会社 撮像素子、撮像装置及び撮像素子の駆動方法
JP5868065B2 (ja) 2011-08-05 2016-02-24 キヤノン株式会社 撮像装置
JP5901186B2 (ja) 2011-09-05 2016-04-06 キヤノン株式会社 固体撮像装置及びその駆動方法
US20130056809A1 (en) 2011-09-07 2013-03-07 Duli Mao Image Sensor with Reduced Noiseby Blocking Nitridation Over Selected Areas
US8461660B2 (en) 2011-09-30 2013-06-11 Omnivision Technologies, Inc. CMOS image sensor with reset shield line
JP2013084785A (ja) 2011-10-11 2013-05-09 Sony Corp 固体撮像装置、撮像装置
US8804021B2 (en) 2011-11-03 2014-08-12 Omnivision Technologies, Inc. Method, apparatus and system for providing improved full well capacity in an image sensor pixel
JP5963421B2 (ja) 2011-11-17 2016-08-03 オリンパス株式会社 固体撮像装置および撮像装置
KR20130062188A (ko) 2011-12-02 2013-06-12 삼성전자주식회사 이미지 센서 및 이를 포함하는 이미지 처리 장치
KR101801339B1 (ko) 2011-12-07 2017-11-27 한국전자통신연구원 고속 광대역 주파수 비교 장치
US8754798B2 (en) 2011-12-21 2014-06-17 Realtek Semiconductor Corp. High-speed successive-approximation-register analog-to-digital converter and method thereof
US9531990B1 (en) 2012-01-21 2016-12-27 Google Inc. Compound prediction using multiple sources or prediction modes
CN103258829A (zh) 2012-02-16 2013-08-21 索尼公司 固态成像装置、图像传感器及其制造方法以及电子设备
JP6164846B2 (ja) 2012-03-01 2017-07-19 キヤノン株式会社 撮像装置、撮像システム、撮像装置の駆動方法
JP5965674B2 (ja) 2012-03-05 2016-08-10 オリンパス株式会社 固体撮像装置および撮像装置
US8569700B2 (en) 2012-03-06 2013-10-29 Omnivision Technologies, Inc. Image sensor for two-dimensional and three-dimensional image capture
TW201340708A (zh) 2012-03-19 2013-10-01 Sony Corp 固體攝像裝置及電子機器
WO2013145753A1 (ja) 2012-03-30 2013-10-03 株式会社ニコン 撮像素子および撮像装置
US8957358B2 (en) 2012-04-27 2015-02-17 Taiwan Semiconductor Manufacturing Company, Ltd. CMOS image sensor chips with stacked scheme and methods for forming the same
US9270906B2 (en) 2012-05-02 2016-02-23 Semiconductor Components Industries, Llc Exposure time selection using stacked-chip image sensors
US8779346B2 (en) 2012-05-14 2014-07-15 BAE Systems Imaging Solutions Inc. Digital pixel sensor with reduced noise
JP5885608B2 (ja) 2012-07-23 2016-03-15 株式会社東芝 固体撮像装置
JP6071315B2 (ja) 2012-08-08 2017-02-01 オリンパス株式会社 固体撮像装置および撮像装置
US9531961B2 (en) 2015-05-01 2016-12-27 Duelight Llc Systems and methods for generating a digital image using separate color and intensity data
US9185273B2 (en) 2012-09-19 2015-11-10 Semiconductor Components Industries, Llc Imaging pixels with improved dynamic range
US9343497B2 (en) 2012-09-20 2016-05-17 Semiconductor Components Industries, Llc Imagers with stacked integrated circuit dies
US9094612B2 (en) 2012-09-25 2015-07-28 Semiconductor Components Industries, Llc Back side illuminated global shutter image sensors with back side charge storage
US9478579B2 (en) 2012-10-16 2016-10-25 Omnivision Technologies, Inc. Stacked chip image sensor with light-sensitive circuit elements on the bottom chip
ES2476115B1 (es) 2012-12-11 2015-04-20 Consejo Superior De Investigaciones Científicas (Csic) Metodo y dispositivo para la deteccion de la variacion temporal de la intensidad luminosa en una matriz de fotosensores
US9153616B2 (en) 2012-12-26 2015-10-06 Olympus Corporation Solid-state imaging device and imaging device with circuit elements distributed on multiple substrates, method of controlling solid-state imaging device, and imaging device with circuit elements distributed on multiple substrates
US8773562B1 (en) 2013-01-31 2014-07-08 Apple Inc. Vertically stacked image sensor
KR20140104169A (ko) 2013-02-20 2014-08-28 삼성전자주식회사 이미지 센서 및 이를 포함하는 컴퓨팅 시스템
JP2014236183A (ja) 2013-06-05 2014-12-15 株式会社東芝 イメージセンサ装置及びその製造方法
JP6188451B2 (ja) 2013-06-27 2017-08-30 オリンパス株式会社 アナログデジタル変換器および固体撮像装置
TWI659652B (zh) 2013-08-05 2019-05-11 新力股份有限公司 攝像裝置、電子機器
JP5604703B1 (ja) 2013-09-10 2014-10-15 弘一 関根 固体撮像装置
US10043843B2 (en) 2013-10-01 2018-08-07 Forza Silicon Corporation Stacked photodiodes for extended dynamic range and low light color discrimination
JP6394056B2 (ja) 2013-11-27 2018-09-26 ソニー株式会社 A/d変換装置、グレイコード生成装置、撮像素子、並びに、電子機器
KR102210539B1 (ko) 2013-12-26 2021-02-01 삼성전자주식회사 상관 이중 샘플링 회로, 이를 포함하는 아날로그-디지털 컨버터, 및 이미지 센서
KR102159261B1 (ko) 2014-01-21 2020-09-23 삼성전자 주식회사 출력신호를 보정할 수 있는 이미지 센서
JP2015146364A (ja) 2014-02-03 2015-08-13 ソニー株式会社 固体撮像素子、固体撮像素子の駆動方法、固体撮像素子の製造方法および電子機器
JP6501403B2 (ja) 2014-02-07 2019-04-17 国立大学法人静岡大学 イメージセンサ
WO2015120328A1 (en) 2014-02-07 2015-08-13 Rambus Inc. Feedthrough-compensated image sensor
KR102245973B1 (ko) 2014-02-17 2021-04-29 삼성전자주식회사 상관 이중 샘플링 회로 및 이를 포함하는 이미지 센서
JP6278730B2 (ja) 2014-02-20 2018-02-14 オリンパス株式会社 固体撮像装置および撮像システム
EP2924979B1 (en) 2014-03-25 2023-01-18 IMEC vzw Improvements in or relating to imaging sensors
TWI656631B (zh) 2014-03-28 2019-04-11 日商半導體能源研究所股份有限公司 攝像裝置
US20150287766A1 (en) 2014-04-02 2015-10-08 Tae-Chan Kim Unit pixel of an image sensor and image sensor including the same
US9531976B2 (en) 2014-05-29 2016-12-27 Semiconductor Components Industries, Llc Systems and methods for operating image sensor pixels having different sensitivities and shared charge storage regions
JP2015230355A (ja) 2014-06-04 2015-12-21 リコーイメージング株式会社 撮像装置および撮像素子
JP2015231046A (ja) 2014-06-09 2015-12-21 株式会社東芝 固体撮像装置
JP6406888B2 (ja) 2014-06-17 2018-10-17 キヤノン株式会社 アナログデジタル変換回路の駆動方法、アナログデジタル変換回路、撮像装置、撮像システム、アナログデジタル変換回路の検査方法
US9699393B2 (en) 2014-06-26 2017-07-04 Semiconductor Components Industries, Llc Imaging systems for infrared and visible imaging with patterned infrared cutoff filters
KR102134636B1 (ko) 2014-07-14 2020-07-16 삼성전자주식회사 이미지 센서의 단위 픽셀 및 이를 포함하는 이미지 센서
US9432597B2 (en) 2014-07-25 2016-08-30 Rambus Inc. Low-noise, high dynamic-range image sensor
CN111952325A (zh) 2014-07-25 2020-11-17 株式会社半导体能源研究所 成像装置
US9344658B2 (en) 2014-07-31 2016-05-17 Omnivision Technologies, Inc. Negative biased substrate for pixels in stacked image sensors
JP6522919B2 (ja) 2014-10-15 2019-05-29 オリンパス株式会社 撮像素子、撮像装置
US9325335B1 (en) 2014-10-24 2016-04-26 Teledyne Scientific & Imaging, Llc Comparator circuits with local ramp buffering for a column-parallel single slope ADC
US9332200B1 (en) * 2014-12-05 2016-05-03 Qualcomm Incorporated Pixel readout architecture for full well capacity extension
KR102410019B1 (ko) 2015-01-08 2022-06-16 삼성전자주식회사 이미지 센서
US9515105B2 (en) 2015-02-18 2016-12-06 Semiconductor Components Industries, Llc Dual photodiode image pixels with preferential blooming path
US9524994B2 (en) 2015-04-14 2016-12-20 Semiconductor Components Industries, Llc Image sensor pixels with multiple compartments
US9819882B2 (en) 2015-06-05 2017-11-14 Caeleste Cvba Global shutter high dynamic range sensor
US9848142B2 (en) 2015-07-10 2017-12-19 Semiconductor Components Industries, Llc Methods for clocking an image sensor
TWI704811B (zh) 2015-07-27 2020-09-11 日商新力股份有限公司 固體攝像裝置及其控制方法、以及電子機器
KR102460175B1 (ko) 2015-08-21 2022-10-28 삼성전자주식회사 쉐어드 픽셀 및 이를 포함하는 이미지 센서
US10014333B2 (en) 2015-08-26 2018-07-03 Semiconductor Components Industries, Llc Back-side illuminated pixels with interconnect layers
US9909922B2 (en) 2015-09-03 2018-03-06 Johnson & Johnson Vision Care, Inc. Anti-aliasing photodetector system
US9948875B2 (en) 2015-10-01 2018-04-17 Semiconductor Components Industries, Llc High dynamic range imaging pixels with improved readout
US11297258B2 (en) * 2015-10-01 2022-04-05 Qualcomm Incorporated High dynamic range solid state image sensor and camera system
US9654712B2 (en) 2015-10-07 2017-05-16 Semiconductor Components Industries, Llc Pixels with a global shutter and high dynamic range
KR102433575B1 (ko) 2015-10-12 2022-08-19 삼성전자주식회사 이미지 센서
US9936151B2 (en) 2015-10-16 2018-04-03 Capsovision Inc Single image sensor for capturing mixed structured-light images and regular images
CN108391450B (zh) 2015-10-21 2022-07-01 赫普塔冈微光有限公司 解调像素元件、像素元件阵列以及结合它们的光电元件
US9818777B2 (en) 2015-11-12 2017-11-14 Stmicroelectronics (Research & Development) Limited Hybrid analog-digital pixel implemented in a stacked configuration
US9991306B2 (en) 2015-12-10 2018-06-05 Semiconductor Components Industries, Llc Hybrid bonded image sensor and method of operating such image sensor
US11189520B2 (en) 2016-03-31 2021-11-30 Sony Corporation Imaging device, method of manufacturing imaging device, and electronic device
US10063796B2 (en) * 2016-04-01 2018-08-28 Stmicroelectronics (Grenoble 2) Sas Sensing pixel having sampling circuitry to sample photodiode signal multiple times before reset of photodiode
US10015416B2 (en) 2016-05-24 2018-07-03 Semiconductor Components Industries, Llc Imaging systems with high dynamic range and phase detection pixels
US9900117B2 (en) 2016-05-27 2018-02-20 Nxp Usa, Inc. Communication unit receiver, integrated circuit and method for ADC dynamic range selection
EP3414777B1 (en) 2016-06-08 2021-01-06 Invisage Technologies, Inc. Image sensors with electronic shutter
EP3258683A1 (en) 2016-06-13 2017-12-20 ams AG Image sensor and method for operating an image sensor
US20170366766A1 (en) 2016-06-16 2017-12-21 Semiconductor Components Industries, Llc Image sensors having high dynamic range functionalities
US9967496B2 (en) 2016-06-30 2018-05-08 Sony Corporation Active reset circuit for reset spread reduction in single-slope ADC
EP3483938B1 (en) 2016-07-06 2020-11-25 Sony Semiconductor Solutions Corporation Imaging element, method for producing imaging element, and electronic device
IL246796B (en) 2016-07-14 2020-05-31 Semi Conductor Devices An Elbit Systems Rafael Partnership Two-color light sensor and method
US9979912B2 (en) 2016-09-12 2018-05-22 Semiconductor Components Industries, Llc Image sensors with power supply noise rejection capabilities
US9800260B1 (en) 2016-11-04 2017-10-24 Analog Devices Global Method and apparatus to increase dynamic range in delta-sigma ADC using internal feedback across all integrators in loop-filter
KR20180072134A (ko) 2016-12-21 2018-06-29 에스케이하이닉스 주식회사 아날로그-디지털 변환 장치 및 그에 따른 씨모스 이미지 센서
WO2018140012A1 (en) 2017-01-25 2018-08-02 BAE Systems Imaging Solutions Inc. Imaging array with extended dynamic range
US20180220093A1 (en) 2017-02-01 2018-08-02 Renesas Electronics Corporation Image sensor
US10917589B2 (en) 2017-06-26 2021-02-09 Facebook Technologies, Llc Digital pixel with extended dynamic range
US10686996B2 (en) 2017-06-26 2020-06-16 Facebook Technologies, Llc Digital pixel with extended dynamic range
US10419701B2 (en) 2017-06-26 2019-09-17 Facebook Technologies, Llc Digital pixel image sensor
US10750097B2 (en) 2017-08-14 2020-08-18 Facebooke Technologies, Llc Varying exposure time of pixels in photo sensor using motion prediction
US10608101B2 (en) 2017-08-16 2020-03-31 Facebook Technologies, Llc Detection circuit for photo sensor with stacked substrates
US10825854B2 (en) 2017-08-16 2020-11-03 Facebook Technologies, Llc Stacked photo sensor assembly with pixel level interconnect
US10598546B2 (en) 2017-08-17 2020-03-24 Facebook Technologies, Llc Detecting high intensity light in photo sensor
JP2019040897A (ja) 2017-08-22 2019-03-14 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子及び電子機器
JP6929750B2 (ja) 2017-09-29 2021-09-01 キヤノン株式会社 撮像装置、撮像システム、移動体
JP7039236B2 (ja) 2017-09-29 2022-03-22 キヤノン株式会社 逐次比較型ad変換器、撮像装置、撮像システム、移動体
JP7100439B2 (ja) 2017-10-20 2022-07-13 ブリルニクス シンガポール プライベート リミテッド 固体撮像装置、固体撮像装置の駆動方法、および電子機器
JP7018293B2 (ja) 2017-11-06 2022-02-10 ブリルニクス シンガポール プライベート リミテッド 固体撮像装置、固体撮像装置の駆動方法、および電子機器
US11393867B2 (en) 2017-12-06 2022-07-19 Facebook Technologies, Llc Multi-photodiode pixel cell
US10827142B2 (en) 2018-03-02 2020-11-03 Facebook Technologies, Llc Digital pixel array with adaptive exposure
US11233085B2 (en) 2018-05-09 2022-01-25 Facebook Technologies, Llc Multi-photo pixel cell having vertical gate structure
US11089210B2 (en) 2018-06-11 2021-08-10 Facebook Technologies, Llc Configurable image sensor
US11463636B2 (en) 2018-06-27 2022-10-04 Facebook Technologies, Llc Pixel sensor having multiple photodiodes
US10897586B2 (en) 2018-06-28 2021-01-19 Facebook Technologies, Llc Global shutter image sensor
US11956413B2 (en) 2018-08-27 2024-04-09 Meta Platforms Technologies, Llc Pixel sensor having multiple photodiodes and shared comparator
JP7460345B2 (ja) 2019-09-30 2024-04-02 ブリルニクス シンガポール プライベート リミテッド 固体撮像装置、固体撮像装置の駆動方法、および電子機器

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006217410A (ja) * 2005-02-04 2006-08-17 Tohoku Univ 光センサおよび固体撮像装置
JP2010283525A (ja) * 2009-06-03 2010-12-16 Toshiba Corp 撮像装置
US20140152884A1 (en) * 2011-04-13 2014-06-05 Lg Innotek Co., Ltd. Wdr pixel array, wdr imaging apparatus including the same and method for operating the same
JP2013157933A (ja) * 2012-01-31 2013-08-15 Hamamatsu Photonics Kk 撮像装置
JP2014175692A (ja) * 2013-03-06 2014-09-22 Sony Corp 信号処理装置、固体撮像装置、電子機器、信号処理方法、およびプログラム
JP2016061666A (ja) * 2014-09-18 2016-04-25 株式会社島津製作所 イメージセンサの信号処理装置及び信号読出方法
JP2018011272A (ja) * 2016-07-15 2018-01-18 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、及び、固体撮像素子の駆動方法、並びに、電子機器

Also Published As

Publication number Publication date
US11089210B2 (en) 2021-08-10
EP3804300A1 (en) 2021-04-14
TW202002616A (zh) 2020-01-01
KR20210019079A (ko) 2021-02-19
WO2019241267A1 (en) 2019-12-19
CN112640434A (zh) 2021-04-09
US20190379827A1 (en) 2019-12-12
TWI794508B (zh) 2023-03-01

Similar Documents

Publication Publication Date Title
JP2021526326A (ja) 構成可能な画像センサー
US11910119B2 (en) Digital pixel with extended dynamic range
TWI815918B (zh) 用於操作影像感測器之設備及方法
US10827142B2 (en) Digital pixel array with adaptive exposure
JP7279082B2 (ja) 拡張されたダイナミックレンジをもつデジタルピクセル
US11595602B2 (en) Image sensor post processing
JP2021519013A (ja) 拡張ダイナミックレンジを有するデジタルピクセル
JP2021526327A (ja) 拡張されたダイナミックレンジをもつデジタルピクセル
US11363221B2 (en) Image sensor post processing
TWI773791B (zh) 具有擴展動態範圍的數位像素

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230418

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230919

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231114