JP2023503766A - ダイナミックビジョンセンサと撮像機能とを組み合わせた、固体撮像デバイス及び撮像デバイス - Google Patents

ダイナミックビジョンセンサと撮像機能とを組み合わせた、固体撮像デバイス及び撮像デバイス Download PDF

Info

Publication number
JP2023503766A
JP2023503766A JP2022514485A JP2022514485A JP2023503766A JP 2023503766 A JP2023503766 A JP 2023503766A JP 2022514485 A JP2022514485 A JP 2022514485A JP 2022514485 A JP2022514485 A JP 2022514485A JP 2023503766 A JP2023503766 A JP 2023503766A
Authority
JP
Japan
Prior art keywords
pixel
event detection
photoelectric conversion
image sensing
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022514485A
Other languages
English (en)
Inventor
プーリア モスタファル
ギリ メータ
フレデリック ブラディ
ピン ワー ウォン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Publication of JP2023503766A publication Critical patent/JP2023503766A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/702SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14603Special geometry or disposition of pixel-elements, address-lines or gate-electrodes
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14609Pixel-elements with integrated switching, control, storage or amplification elements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1463Pixel isolation structures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14641Electronic components shared by two or more pixel-elements, e.g. one amplifier shared by two pixel elements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • H01L27/14645Colour imagers
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14683Processes or apparatus peculiar to the manufacture or treatment of these devices or parts thereof
    • H01L27/14689MOS based technologies
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/707Pixels for event detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

複数の画像センシング画素と複数のイベント検出画素とを有する撮像デバイスが提供される。各画像センシング画素は、光電変換素子と、撮像信号生成読み出し回路とを含む。画像センシング読み出し回路は、複数の光電変換素子で共有することができる。各イベント検出画素は、光電変換素子と、イベント検出読み出し回路とを含む。イベント検出読み出し回路は、複数の光電変換素子で共有することができる。さらに、イベント検出画素の光電変換素子は、共有する撮像信号生成読み出し回路に選択的に接続され得る。画像センシング画素の数は、イベント検出画素の数よりも多い。さらに、イベント検出画素の光電変換素子の面積は、画像センシング画素の光電変換素子の面積よりも大きくすることができる。

Description

本開示は、ダイナミックビジョンセンサ及び撮像機能の両方を有する撮像デバイスに関する。
関連技術において、撮像デバイスなどでは、垂直同期信号などの同期信号に同期して、画像データを収集する同期型固体撮像デバイスが用いられている。典型的な同期型固体撮像デバイスでは、同期信号の周期ごと(例えば1/60秒ごと)に画像データを取得することが困難であるため、自律走行車やロボットなどの高速(例えば、リアルタイム)処理が要求される分野などの、比較的高速な処理が要求される場合に即応することが困難である。この点において、画素ごとに検出回路を設け、受光量が閾値を超えた状況をアドレスイベントとしてリアルタイムに検出する非同期型固体撮像デバイスが提案される。画素ごとにアドレスイベントを検出する非同期型固体撮像デバイスは、ダイナミックビジョンセンサ(DVS)とも称される。
DVS及び通常のフレームベースの撮像を組み合わせたセンサは、様々な方法を使用して達成することができる。その中には、非同期時間ベース画像センサ(ATIS)として知られている、追加のフォトダイオードを使用した時間ベースの読み出しを特徴とするデバイスが含まれる。しかし、ATISシステムは、画像センサ信号及びDVS信号を提供するために、画素あたり2つのフォトダイオードを必要とするため、追加のフォトダイオードを必要としない構成と比較して、解像度や画質が低下してしまう。他のデバイスは、ダイナミック及びアクティブ画素視覚センサ(DAVIS)システムとして知られる、共通のフォトダイオードを使用した、画像センサ信号及びダイナミックビジョンセンサ(DVS)イベント信号を提供する画素を特徴とする。しかし、DAVISシステムでは、画像機能とイベント検出機能とがアイソレートされていないため、それらの干渉を抑制する必要があり、感度が低下してしまうおそれがある。さらに、DVSやアクティブ画像センサ信号の読み出しが困難なため、DAVISセンサのダイナミックレンジが低下するおそれがある。
そこで、本開示では、他の構成と比較して、イベント検出能力及び受光効率が向上した、撮像機能及びイベント検出機能の両方を提供可能な固体撮像デバイス及び撮像デバイスを提供する。
本開示の実施形態及び態様によれば、画素アレイに配置された複数の光電変換領域又は画素(本明細書では単位画素とも称される)を備える撮像デバイスが提供される。画素の少なくともいくつかは、イベント検出画素として構成され、一方、画素の他のものは、画像センシング又は収集画素として構成される。一般的に、イベント検出画素は、画素アレイ内の画像収集画素の中に散在する。動作において、1つ又は複数のイベント検出画素によってイベントが検出されると、画像センシング画素の動作がトリガされる。
各画素は、1つの光電変換領域と、関連する読み出し回路を含む。より詳細には、各画像センシング画素は、光電変換領域と第1の読み出し回路とを含み、本明細書では、撮像生成ユニット又は回路とも称される。各イベント検出画素は、光電変換領域と第2の読み出し回路とを含み、本明細書ではイベント検出回路とも称される。
本開示の少なくともいくつかの実施形態及び態様によれば、各イベント検出画素は、任意の1つの画像センシング画素よりも大きな画素アレイの面積を占める。一例として、限定されることなく、各イベント検出画素は、各画像センシング画素の面積の4倍の面積を占め得る。本開示の他の実施形態及び態様によれば、各イベント検出画素は、各画像センシング画素の面積と等しい面積を占め得る。本開示のさらなる実施形態によると、画素アレイ内には、異なる比の画像センシング画素及びイベント検出画素が含まれ得る。例として、限定されることなく、比は、3:1、4:1、12:1、15:1、32:1、又は35:1とすることができる。本開示の少なくともいくつかの実施形態及び態様によれば、各イベント検出画素の光電変換領域の任意の面積の比は、画素アレイの平面内でより大きな面積を占める。
本開示のさらなる実施形態及び態様によれば、単位画素の少なくともいくつかを、他の単位画素からアイソレートするためのアイソレーション構造が提供される。例えば、全厚誘電トレンチ(RFTI)アイソレーション構造は、それぞれのイベント検出画素の周りに形成することができる。さらなる例として、リヤディープトレンチアイソレーション(RDTI)アイソレーション構造を、画像センシング画素の少なくとも一部の周りに形成して、隣接する画像センシング画素間のアイソレーションを提供することができる。本開示のさらなる他の実施形態及び態様によれば、少なくとも一部の読み出し回路素子を、複数の光電変換領域で共有することができる。例えば、画像センシング画素グループは、読み出し回路素子を共有することができる。一例として、限定されることなく、画像センシング画素グループは、ベイヤーアレイの形態であり得る。本開示のさらに他の実施形態によれば、イベント検出画素の一部又はすべてが、追加的に画像センシング画素として機能し得る。さらに、このような実施形態では、イベント検出画素グループ内の、画像センサ読み出し回路素子及びイベント検出回路素子を共有することができる。一例として、限定されることなく、イベント検出画素のこのようなグループは、ベイヤーアレイの形態であり得る。
本開示は、受光効率の向上が可能なダイナミックビジョンセンシング及び撮像能力を有する撮像デバイスを提供することができる。
図1は、本開示の実施形態による固体撮像デバイスの概略構成例を示すブロック図である。 図2は、本開示の実施形態による固体撮像デバイスの積層構造例を示す図である。 図3は、本開示の実施形態による固体撮像デバイスの機能的構成例を示すブロック図である。 図4は、カラーフィルタアレイにベイヤーアレイを採用した場合の、本開示の実施形態による単位画素の配列例を示す概略図である。 図5Aは、本開示の実施形態による、イベント検出機能と画像センサ機能とを組み合わせた単位画素の概略構成例を示す回路図である。 図5Bは、本開示の実施形態による画像センシング画素グループの概略構成例を示す回路図である。 図5Cは、本開示の実施形態によるイベント検出画素の概略構成例を示す回路図である。 図6は、本開示の実施形態によるアドレスイベント検出ユニットの概略構成例を示すブロック図である。 図7は、本開示の実施形態による減算器及び量子化器の概略構成例を示す回路図である。 図8は、本開示の実施形態による列ADCの概略構成例を示すブロック図である。 図9Aは、本開示の実施形態による固体撮像デバイスの動作の一例を示すタイミングチャートである。 図9Bは、本開示の他の実施形態による固体撮像デバイスの動作の一例を示すタイミングチャートである。 図10は、本開示の実施形態による固体撮像デバイスの動作例を示すフローチャートである。 図11Aは、第1の例示的実施形態のように構成された画素グループを含む画素アレイの一部を示す平面図である。 図11Bは、第1の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す平面図である。 図11Cは、第1の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す平面図である。 図12Aは、第1の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す横断面図である。 図12Bは、第1の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す横断面図である。 図13は、第1の例示的実施形態による画像センシング画素グループの構成を示す平面図である。 図14は、第1の例示的実施形態のように構成されたイベント検出画素の構成の平面図である。 図15は、本開示の他の実施形態による、複合イベント検出/画像センシング画素グループの概略構成例を示す回路図である。 図16Aは、第2の例示的実施形態のように構成された画素グループを含む画素アレイの一部を示す平面図である。 図16Bは、第2の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す平面図である。 図16Cは、第2の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す平面図である。 図17Aは、本開示の第2の例示的実施形態による画素アレイの一部の断面図である。 図17Bは、本開示の第2の例示的実施形態による別の画素アレイの一部の断面図である。 図18は、第2の例示的実施形態による画像センシング画素グループの構成を示す平面図である。 図19は、第2の例示的実施形態による複合イベント検出/画像センシング画素グループの構成を示す平面図である。 図20は、本開示の実施形態による、複合イベント検出/画像センシング画素の概略構成例を示す回路図である。 図21Aは、第3の例示的実施形態のように構成された画素グループを含む画素アレイの一部を示す平面図である。 図21Bは、第3の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す平面図である。 図21Cは、第3の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す平面図である。 図22Aは、第3の例示的実施形態による画素アレイの一部の断面図である。 図22Bは、第3の例示的実施形態による別の画素アレイの一部の断面図である。 図23は、第3の例示的実施形態による画像センシング画素グループの構成を示す平面図である。 図24は、第3の例示的実施形態による複合イベント検出/画像センシング画素の平面図である。 図25は、本開示の実施形態による、画像センシング画素グループの概略構成例を示す回路図である。 図26Aは、第4の例示的実施形態のように構成された画素グループを含む画素アレイの一部を示す平面図である。 図26Bは、第4の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す平面図である。 図26Cは、第4の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す平面図である。 図27Aは、本開示の第4の例示的実施形態による画素アレイの一部の横断面図である。 図27Bは、本開示の第4の例示的実施形態による別の画素アレイの一部の横断面図である。 図28Aは、第5の例示的実施形態のように構成された画素グループを含む画素アレイの一部を示す平面図である。 図28Bは、第5の例示的実施形態のように構成された画素グループを含む別の画素アレイの一部を示す平面図である。 図29Aは第5の例示的実施形態による画素アレイの一部の横断面図である。 図29Bは第5の例示的実施形態による別の画素アレイの一部の横断面図である。 図30は、第5の例示的実施形態による画像センシング画素グループの構成を示す平面図である。 図31は車両制御システムの概略構成例を示すブロック図である。 図32は車外情報検出ユニット及び撮像ユニットの設置位置の一例を示す図である。
以下、本開示の実施形態を、添付図面に基づいて詳細に説明する。さらに、以下の実施形態では、同一の部分には同一の参照番号を付し、重複した説明は省略する。
典型的なダイナミックビジョンセンサ(DVS)は、単位画素ごとにアドレスイベントの発火(ignition)の有無を検出し、アドレスイベントの発火が検出された単位画素から画素信号を読み出す、いわゆるイベント駆動型駆動方法を採用している。
さらに、本説明における単位画素は、1つの光電変換素子(「受光素子」とも称される)を含む画素又は単位画素の最小単位を表しており、一例として画像センサから読み出される画像データの各ドットに対応し得る。さらに、アドレスイベントとは、2次元格子状に配置された複数の単位画素のそれぞれに割り当て可能なアドレスごとに発生するイベントを表す。イベント検出センサは、強度の変化に非同期に応答する。強度変化は光電流の変化と相関し、この変化が一定の閾値を超えた場合に、イベントとして検出され得る。
図1は、本開示の少なくともいくつかの実施形態による、撮像デバイスの概略構成例を示すブロック図である。図1に示すように、例えば、撮像デバイス100は、撮像レンズ110、固体撮像デバイス200、記録ユニット120、及び制御ユニット130を含む。例として、撮像デバイス100は、産業用ロボットに実装されるカメラや車載カメラとして、若しくはそれらの一部として、又は他のデバイスや機器の一部として若しくはこれらと接続して、提供され得る。
撮像レンズ110は、入射光を導き(例えば集光し)、固体撮像デバイス200(本明細書では単に撮像デバイス200とも称される)の受光面に入射光の画像を撮像させる光学系を含むことができる。受光面とは、固体撮像デバイス200の光電変換素子が配置される基板の面である。固体撮像デバイス200は、入射光を光電変換して画像データを生成する。さらに、固体撮像デバイス200は、生成した画像データに対して、ノイズ除去やホワイトバランス調整などの所定の信号処理を実行することができる。信号処理によって得られた結果及びアドレスイベントの発火の有無を示す検出信号は、信号線209を介して記録ユニット120に出力される。さらに、アドレスイベントの発火の有無を示す検出信号の生成方法については後述する。
記録ユニット120は、例えば、フラッシュメモリ、ダイナミック・ランダム・アクセスメモリ(DRAM)、スタティック・ランダム・アクセスメモリ(SRAM)などで構成され、固体撮像デバイス200から入力されたデータを記録する。
制御ユニット130は、例えば、中央処理装置(CPU)などで構成され、信号線139を介して様々な命令を出力し、撮像デバイス100内の固体撮像デバイス200などのそれぞれのユニットを制御する。
次に、固体撮像デバイス200の構成例について、添付図面を参照して詳細に説明する。
図2は、本開示の少なくともいくつかの実施形態による、固体撮像デバイス200の積層構造例を示す図である。図2に示すように、固体撮像デバイス200は、受光チップ201と論理チップ202とが垂直に積層された構造を有することができる。受光チップ201と論理チップ202との接合には、例えば、チップの接合面を平坦化し、電子間力でチップを積層する、いわゆる直接接合を用いることができる。しかし、これに限定されるものではなく、例えば、接合面に形成された銅(Cu)電極パッドを接合する、いわゆるCu-Cu接合や、バンプ接合なども用いることができる。
さらに、受光チップ201と論理チップ202とは、例えば、半導体基板を貫通するシリコン貫通ビア(TSV)などの接続部を介して、互いに電気的に接続される。TSVを用いた接続では、例えば、受光チップ201に形成されるTSVと受光チップ201から論理チップ202に形成されるTSVとを含む2つのTSVをチップ外面で互いに接続する、いわゆるツインTSV方式や、受光チップ201と論理チップ202とを両チップを貫通するTSVで接続する、いわゆるシェアードTSV方式などを採用することができる。
しかし、受光チップ201と論理チップ202との接合にCu-Cu接合又はバンプ接合を用いる場合、受光チップ201と論理チップ202との両方が、Cu-Cu接合又はバンプ接合を介して互いに電気的に接続される。
図3は、本開示の少なくともいくつかの実施形態による、固体撮像デバイスの機能的構成例を示すブロック図である。図3に示すように、固体撮像デバイス200は、駆動回路211と、信号処理ユニット212と、アービタ213と、列ADC220と、画素アレイ300とを含む。
画素アレイ300には、本明細書では単に画素310とも称される複数の単位セル又は画素310が、2次元格子状に配置されている。単位画素310の詳細については後述する。例えば、単位画素310のそれぞれは、フォトダイオードなどの光電変換素子と、光電変換素子で生成された電荷量に対応した電圧値の画素信号を生成する回路(以下、画素回路と称する)とを含む。さらに、本明細書でより詳細に説明するように、画素回路は、第1の信号生成回路つまり撮像信号生成回路と、第2の信号生成回路つまりアドレスイベント検出読み出し回路のいずれか一方又は両方を含むことができる。各光電変換素子がそれぞれの画素回路に関連付けられてもよく、又は複数の光電変換素子が共通の画素回路に関連付けられてもよい。
複数の単位画素310は、画素アレイ300に2次元格子状に配置される。複数の単位画素310は、それぞれが所定数の単位画素を含む複数の画素ブロック又はグループにグループ化され得る。以下では、水平方向に配置された単位画素の集合体を「行」と称し、行に対して直交する方向に配置された単位画素の集合体を「列」と称する。
単位画素310のそれぞれは、それぞれの光電変換素子で受光した光量に対応した電荷を生成する。さらに、単位画素310の少なくともいくつかを動作させて、光電変換素子で発生した電荷又はその変動量によって生じる電流(以下、光電流と称する)の値が所定の閾値を超えるか否かに基づいて、アドレスイベントの発火の有無を検出することができる。さらに、アドレスイベントが発火すると、光電変換素子の受光量に対応した電圧値の画素信号の読み出し要求がアービタ213に出力される。
駆動回路211は、各単位画素310を駆動して、各単位画素310から列ADC220に画素信号を出力させる。
アービタ213は、単位画素310からの要求をアービトレーションして、当該アービトレーション結果に基づいて、要求を発行した単位画素310に所定の応答を送信する。応答を受信した単位画素310は、アドレスイベントの発火の有無を示す検出信号(以下、単に「アドレスイベント検出信号」と称する)を、駆動回路211及び信号処理ユニット212に供給する。
列ADC220は、単位画素310の列ごとに、当該列からのアナログ画素信号をデジタル信号に変換する。さらに、列ADC220は、変換により生成されたデジタル信号を、信号処理ユニット212に供給する。
信号処理ユニット212は、列ADC220から送信されたデジタル信号に対して、相関二重サンプリング(CDS)処理(ノイズ除去)及びホワイトバランス調整などの所定の信号処理を実行する。さらに、信号処理ユニット212は、信号処理結果及びアドレスイベント検出信号を、信号線209を介して記録ユニット120に供給する。
画素アレイユニット300内の単位画素310は、画素グループ314に配設されてもよい。図3に示す構成では、例えば、画素アレイユニット300は、色の再構成に必要な波長成分を受光する単位画素310の集合体を含む画素グループ314によって構成される。例えば、RGBの3原色に基づいて色を再構成する場合、画素アレイユニット300では、赤(R)色の光を受光する単位画素310と、緑(G)色の光を受光する単位画素310と、青(B)色の光を受光する単位画素310とが、所定のカラーフィルタアレイによるグループ314aに配置される。
カラーフィルタアレイ構成の例としては、2×2画素のベイヤーアレイ、X-Trans(登録商標)CMOSセンサに採用されている3×3画素のカラーフィルタアレイ(以下、「X-Trans(登録商標)型アレイ」と称する)、4×4画素のクアッドベイヤーアレイ(以下、「クアッドアレイ」とも称する)、ベイヤーアレイにホワイトRGBカラーフィルタを組み合わせた4×4画素のカラーフィルタ(以下、「ホワイトRGBアレイ」とも称する)などの様々なアレイ又は画素グループが挙げられる。さらに、本明細書の別の場所でより詳細に説明するように、イベント検出画素は、画素アレイ300内に散在又は含まれ得る。また、本明細書の別の場所でより詳細に説明するように、イベント検出画素は、イベント検出機能のみを行う専用イベント検出画素として、又はイベント検出機能と画像センサ機能との両方を行う、複合イベント検出/画像センシング画素として、提供され得る。
図4は、複数のベイヤーアレイ310Aを形成するように構成されたカラーフィルタアレイにおいて、単位画素310と関連するカラーフィルタとを配置した画素グループ314を採用した場合の単位画素310の配列例を示す概略図である。図4に示すように、カラーフィルタアレイ構成としてベイヤーアレイを採用した場合、画素アレイ300には、2×2画素の計4個の単位画素310を含む基本パターン310Aが、列方向及び行方向に繰り返し配置される。例えば、基本パターン310Aは、赤(R)色のカラーフィルタ401を含む単位画素310Rと、緑(Gr)色のカラーフィルタ401を含む単位画素310Grと、緑(Gb)色のカラーフィルタ401を含む単位画素310Gbと、青(B)色のカラーフィルタ401を含む単位画素310Bと、によって構成される。
次に、単位画素310の構成例を説明する。図5Aは、本開示の少なくともいくつかの実施形態による、単位画素310の概略構成例を示す回路図であり、特に、イベント検出機能と画像センサ機能との両方を行う、複合された又は共有されたイベント検出(DVS)及び画像センサ(IS)画素501として構成された画素310を含む実施形態によるものである。図5Aに示すように、単位画素310は、例えば、画素撮像信号生成ユニット(又は読み出し回路)320と、受光ユニット330と、アドレスイベント検出ユニット(又は読み出し回路)400とを含む。少なくとも1つの実施形態例によれば、読み出し回路400は、光電変換素子(又は光電変換領域)333で生成された電荷に基づいて、読み出し回路320を制御するように構成される。さらに、図5Aの論理回路210は、例えば、図3の駆動回路211、信号処理ユニット212、及びアービタ213を含む論理回路である。
例えば、受光ユニット330は、第1の又は撮像送信トランジスタ若しくはゲート(第1のトランジスタ)331と、第2の又はアドレスイベント検出送信トランジスタ若しくはゲート(第2のトランジスタ)332と、光電変換素子333とを含む。受光ユニット330の第1の送信トランジスタ331のゲートには、駆動回路211から送信された第1の送信信号TG1が選択的に供給され、第2の送信トランジスタ332のゲートには、駆動回路211から送信された第2の送信信号TG2が選択的に供給される。受光ユニット330の第1の送信トランジスタ331による出力は、画素撮像信号生成ユニット320に接続され、第2の送信トランジスタ332による出力は、アドレスイベント検出ユニット400に接続される。
例えば、画素撮像信号生成ユニット320は、リセットトランジスタ(第3のトランジスタ)321と、増幅トランジスタ(第4のトランジスタ)322と、選択トランジスタ(第5のトランジスタ)323と、フローティングディフュージョン層(FD)324とを含む。
本開示の少なくともいくつかの実施形態によると、受光ユニット330の第1の送信トランジスタ331及び第2の送信トランジスタ332は、例えば、N型金属酸化膜半導体(MOS)トランジスタ(以下、単に「NMOSトランジスタ」と称する)を用いて構成される。同様に、画素撮像信号生成ユニット320のリセットトランジスタ321、増幅トランジスタ322、及び選択トランジスタ323は、それぞれ、例えば、NMOSトランジスタを用いて構成される。
アドレスイベント検出ユニット400は、例えば、電流-電圧変換ユニット410と減算器430とを含む。しかし、アドレスイベント検出ユニット400には、バッファ、量子化器、及び送信ユニットがさらに設けられている。アドレスイベント検出ユニット400の詳細は、図6などを用いて以下で説明する。
図示の構成において、受光ユニット330の光電変換素子333は、入射光を光電変換して電荷を生成する。第1の送信トランジスタ331は、光電変換素子333に生成された電荷を、第1の送信信号TG1に従ってフローティングディフュージョン層324に送信する。第2の送信トランジスタ332は、制御信号TG2に従って、光電変換素子333に生成された電荷に基づく電気信号(光電流)をアドレスイベント検出ユニット400に供給する。
制御ユニット130から画像センシング命令が与えられると、論理回路210の駆動回路211は、制御信号を出力し、画素アレイ300の受光ユニット330の第1の送信トランジスタ331をオン状態に設定する。これにより、受光ユニット330の光電変換素子333で発生した光電流が、第1の送信トランジスタ331を介して、画素撮像信号生成読み出し回路320に供給される。より詳細には、フローティングディフュージョン層324は、第1の送信トランジスタ331を介して光電変換素子333から送信された電荷を蓄積する。リセットトランジスタ321は、駆動回路211から送信されたリセット信号に従って、フローティングディフュージョン層324に蓄積された電荷を放電(初期化)する。増幅トランジスタ322は、フローティングディフュージョン層324に蓄積された電荷量に対応した電圧値の画素信号を垂直信号線VSLに出現させる。選択トランジスタ323は、駆動回路211から送信された選択信号SELに従って、増幅トランジスタ322及び垂直信号線VSLの接続を切り替える。さらに、垂直信号線VSLに出現したアナログ画素信号は、列ADC220によって読み出され、デジタル画素信号に変換される。
制御ユニット130からアドレスイベント検出開始命令が与えられると、論理回路210の駆動回路211は、制御信号を出力し、画素アレイユニット300の受光ユニット330の第2の送信トランジスタ332をオン状態に設定する。これにより、受光ユニット330の光電変換素子333で生成された光電流が、第2の送信トランジスタ332を介して各単位画素310のアドレスイベント検出ユニット400に供給される。
受光ユニット330からの光電流に基づいてアドレスイベントの発火を検出すると、各単位画素310のアドレスイベント検出ユニット400は、アービタ213に要求を出力する。これに対して、アービタ213は、単位画素310のそれぞれから送信された要求をアービトレーションして、そのアービトレーション結果に基づいて、要求を発行した単位画素310に所定の応答を送信する。応答を受信した単位画素310は、アドレスイベントの発火の有無を示す検出信号(以下、「アドレスイベント検出信号」と称する)を、駆動回路211及び論理回路210の信号処理ユニット212に供給する。
駆動回路211は、アドレスイベント検出信号の供給源である単位画素310の第2の送信トランジスタ332をオフ状態に設定する。これにより、受光ユニット330から、単位画素310のアドレスイベント検出ユニット400への光電流の供給が停止される。
次に、駆動回路211は、送信信号TG1によって、単位画素310の受光ユニット330の第1の送信トランジスタ331をオン状態に設定する。これにより、受光ユニット330の光電変換素子333に生成された電荷は、第1の送信トランジスタ331を介してフローティングディフュージョン層324に送信される。さらに、画素撮像信号生成ユニット320の選択トランジスタ323に接続された垂直信号線VSLに、フローティングディフュージョン層324に蓄積された電荷量に対応した電圧値の画素信号が出現する。
上述のように、固体撮像デバイス200において、アドレスイベントの発火が検出された単位画素310から、列ADC220に画素信号SIGが出力される。本開示のさらなる実施形態によれば、アドレスイベント検出信号が提供された単位画素310のアドレスに関連する単位画素310のグループ又はサブアレイ内の単位画素310から、画素信号が出力される。
さらに、例えば、受光ユニット330、画素撮像信号生成ユニット320、並びにアドレスイベント検出ユニット400の電流-電圧変換ユニット410内の、2つのログ(LG)トランジスタ(第6、第7のトランジスタ)411、414及び2つの増幅トランジスタ(第8、第9のトランジスタ)412、413は、例えば、図2に示す受光チップ201に配設され、その他の構成要素は、例えば、Cu-Cu接合によって受光チップ201に接合された論理チップ202に配設され得る。そこで、以下の説明では、単位画素310において、受光チップ201に配設された構成を「上層回路」と称する。
本開示の少なくともいくつかの実施形態による、共有画素撮像信号生成読み出し回路320を有する画像センシング画素502として構成された単位画素310のグループの構成例が、図5Bに図示されている。この例では、各光電変換素子333は、それぞれの転送ゲート331を介して、フローティングディフュージョン324に選択的に接続される。さらに、画素撮像信号読み出し回路320の構成要素は、光電変換ユニット333で共有されている。この例では、3つの光電変換ユニット333a~333dと、対応する3つの転送ゲート331a~331dとが示されている。しかし、任意の数の光電変換ユニット333とそれぞれの転送ゲート331とが、共有画素撮像信号読み出し回路320と接続して含まれてもよい。
単一の機能のアドレスイベント検出画素503として構成された単位画素310及び、関連するアドレスイベント検出読み出し回路400素子の構成例が図5Cに図示されている。図示のように、この例は、他の光電変換素子333とは関連付けられていないアドレスイベント検出読み出し回路400の構成要素に、転送ゲート332によって選択的に接続された単一の光電変換素子333を含む。イベントスキャン制御ブロック415は、アドレスイベント検出読み出し回路400の動作を制御する。回路400がアクティブである間にアドレスイベント検出読み出し回路400によってイベントが検出されたことに応答して、関連する画像センシング画素又は画素310のグループの画像センサ収集が開始される417。
図6は、本開示の少なくともいくつかの実施形態による、アドレスイベント検出ユニット400の概略構成例を示すブロック図である。図6に示すように、アドレスイベント検出ユニット400は、電流-電圧変換ユニット410と、バッファ420と、減算器430と、量子化器440と、送信ユニット450とを含む。
電流-電圧変換ユニット410は、受光ユニット330からの光電流をその対数電圧信号に変換し、当該変換により生成された電圧信号をバッファ420に供給する。
バッファ420は、電流-電圧変換ユニット410から送信された電圧信号を補正し、補正後の電圧信号を減算器430に出力する。
減算器430は、駆動回路211から送信された行駆動信号に従って、バッファ420から送信された電圧信号の電圧レベルを低下させ、その低下した電圧信号を量子化器440に供給する。
量子化器440は、減算器430から送信された電圧信号をデジタル信号に量子化し、量子化によって生成されたデジタル信号を検出信号として送信ユニット450に出力する。
送信ユニット450は、量子化器440から送信された検出信号を、信号処理ユニット212などに送信する。例えば、アドレスイベントの発火が検出されると、送信ユニット450は、送信ユニット450から駆動回路211及び信号処理ユニット212へのアドレスイベント検出信号の送信要求を、アービタ213に供給する。さらに、送信ユニット450は、アービタ213から要求に対する応答を受信すると、検出信号を駆動回路211及び信号処理ユニット212に供給する。
例えば、図6に示した構成の電流-電圧変換ユニット410は、図5Aに示すように、2つのLGトランジスタ411、414と、2つの増幅トランジスタ412、413と、定電流回路415とを含み得る。
例えば、LGトランジスタ411のソース及び増幅トランジスタ413のゲートは、受光ユニット330の第2の送信トランジスタ332のドレインに接続される。さらに、例えば、LGトランジスタ411のドレインは、LGトランジスタ414のソース及び増幅トランジスタ412のゲートに接続される。例えば、LGトランジスタ414のドレインは、電源端子VDDに接続される。
さらに、例えば、増幅トランジスタ413のソースは接地され、そのドレインはLGトランジスタ411のゲート及び増幅トランジスタ412のソースに接続される。例えば、増幅トランジスタ412のドレインは、定電流回路415を介して電源端子VDDに接続される。例えば、定電流回路415は、p型MOSトランジスタなどの負荷MOSトランジスタによって構成される。
この接続関係において、ループ状ソースフォロワ回路が構成される。これにより、受光ユニット330からの光電流は、その電荷量に対応した対数値電圧信号に変換される。さらに、LGトランジスタ411、414、及び増幅トランジスタ412、413は、それぞれ例えばNMOSトランジスタによって構成され得る。
図7は、本開示の少なくともいくつかの実施形態による、減算器430及び量子化器440の概略構成例を示す回路図である。図7に示すように、減算器430は、キャパシタ431及び433と、インバータ432と、スイッチ434とを含む。さらに、量子化器440は、コンパレータ441を含む。
キャパシタ431の一端は、バッファ420の出力端子に接続されており、他端は、インバータ432の入力端子に接続される。キャパシタ433は、インバータ432に並列に接続される。スイッチ434は、行駆動信号に従って、キャパシタ433の両端を接続する経路を開閉する。
インバータ432は、キャパシタ431を介して入力された電圧信号を反転させる。インバータ432は、反転した信号を、コンパレータ441の非反転入力端子(+)に出力する。
スイッチ434がオンになると、電圧信号Vinitが、キャパシタ431のバッファ420側に入力される。さらに、その反対側は、仮想接地端子となる。この仮想接地端子の電位を便宜上、ゼロとする。このとき、キャパシタ431の容量をC1とすると、キャパシタ431に蓄積される電位Qinitは、次式(1)で表される。一方、キャパシタ433の両端は短絡され、その蓄積電荷はゼロとなる。
Qinit=C1×Vinit (1)
次に、スイッチ434がオフになり、バッファ420側のキャパシタ431の電圧が変動してVafterに到達した場合を考えると、キャパシタ431に蓄積される電荷Qafterは、次式(2)で表される。
Qafter=C1×Vafter (2)
一方、出力電圧をVoutとした場合、キャパシタ433に蓄積される電荷Q2は、次式(3)で表される。
Q2=-C2×Vout (3)
このとき、キャパシタ431及び433の総電荷量は変動しないので、次式(4)が成立する。
Qinit=Qafter+Q2 (4)
式(1)~式(3)を式(4)に代入すると、次式(5)が得られる。
Vout=-(C1/C2)×(Vafter-Vinit) (5)
式(5)は電圧信号の減算動作を表しており、減算結果の利得はC1/C2となる。典型的には、この利得を最大にする(あるいは向上させる)ことが所望されるので、C1が大きく、C2が小さくなるように設計することが好ましい。一方、C2が過度に小さくなると、kTCノイズが増大し、ノイズ特性の悪化が懸念される。したがって、C2の容量の低減は、ノイズを許容できる範囲に限定される。さらに、減算器430を含むアドレスイベント検出ユニット400は、単位画素310ごとに実装されるので、容量C1、C2には面積の制約がある。容量C1、C2の値は、その制約を考慮して決定される。
コンパレータ441は、減算器430から送信される電圧信号と、反転入力端子(-)に印加される所定の閾値電圧Vthとを比較する。コンパレータ441は、比較結果を示す信号を、検出信号として送信ユニット450に出力する。
さらに、電流-電圧変換ユニット410による変換利得をCGlogとし、バッファ420の利得を「1」とすると、アドレスイベント検出ユニット400の全体の利得Aは、次式(6)で表される。
Figure 2023503766000002
式(6)において、iphoto_nは、n番目の単位画素310の光電流を表し、その単位は、例えば、アンペア(A)である。Nは、画素ブロック内の単位画素310の数を表し、本実施形態では「1」である。
図8は、本開示の少なくともいくつかの実施形態による、列ADCの概略構成例を示すブロック図である。列ADC220は、単位画素310の列ごとに設けられた複数のADC230を含む。
ADC230のそれぞれは、垂直信号線VSLに出現するアナログ画素信号をデジタル信号に変換する。例えば、画素信号は、ビット長が検出信号のビット長よりも長いデジタル信号に変換される。例えば、検出信号を2ビットとすると、画素信号は、3ビット以上(16ビットなど)のデジタル信号に変換される。ADC230は、生成されたデジタル信号を、信号処理ユニット212に供給する。
次に、本開示の少なくとも実施形態による、固体撮像デバイス200の動作について、添付図面を参照して詳細に説明する。
最初に、固体撮像デバイス200の動作の一例を、タイミングチャートを用いて説明する。図9Aは、本開示の実施形態による固体撮像デバイスの動作の一例を示すタイミングチャートである。
図9Aに示すように、タイミングT0において、制御ユニット130によってアドレスイベント検出開始命令が与えられると、駆動回路211は、画素アレイユニット300のすべての受光ユニット330の第2の送信トランジスタ332のゲートに印加される制御信号TG2をハイレベルに立ち上げる。これにより、すべての受光ユニット330の第2の送信トランジスタ332がオン状態となり、受光ユニット330のそれぞれの光電変換素子333に生成された電荷に基づく光電流が、各受光ユニット330から複数のアドレスイベント検出ユニット400のそれぞれに供給される。
さらに、制御信号TG2がハイレベルである期間は、受光ユニット330のそれぞれの第1の送信トランジスタ331のゲートに印加される送信信号TG1のすべてがローレベルに維持される。したがって、この期間は、すべての受光ユニット330における複数の送信トランジスタ331がオフ状態になる。
次に、イベント検出を行うように構成された任意の単位画素310のアドレスイベント検出ユニット400が、制御信号TG2がハイレベルである期間にアドレスイベントの発火を検出する場合を想定する。この場合、アドレスイベントの発火を検出したアドレスイベント検出ユニット400は、アービタ213に要求を送信する。これに対して、アービタ213は、要求をアービトレーションして、要求を発行したアドレスイベント検出ユニット400に、要求に対する応答を返す。
応答を受信したアドレスイベント検出ユニット400は、駆動回路211及び信号処理ユニット212に入力される検出信号を、例えば、タイミングT1からタイミングT2の期間において、ハイレベルに立ち上げる。さらに、本説明では、検出信号が1ビットの信号であることを想定している。
タイミングT1でアドレスイベント検出ユニット400からハイレベルの検出信号が入力された駆動回路211は、次のタイミングT2ですべての制御信号TG2をローレベルに下げる。これにより、画素アレイユニット300のすべての受光ユニット330から、アドレスイベント検出ユニット400への光電流の供給が停止される。
さらに、タイミングT2において、駆動回路211は、アドレスイベントの発火が検出された単位画素310(以下、「読み出し対象単位画素」と称する)の画素撮像信号生成ユニット320の選択トランジスタ323のゲートに印加される選択信号SELをハイレベルに立ち上げ、さらに同一画素撮像信号生成ユニット320のリセットトランジスタ321のゲートに印加されるリセット信号RSTを、一定パルス期間ハイレベルに立ち上げることによって、画素撮像信号生成ユニット320のフローティングディフュージョン層324に蓄積された電荷を放電(初期化)する。このようにして、フローティングディフュージョン層324が初期化された状態で垂直信号線VSLに出現する電圧が、列ADC220の垂直信号線VSLに接続されたADC230によって、リセットレベル画素信号(以下、単に「リセットレベル」と称する)として読み出され、デジタル信号に変換される。
次に、リセットレベルの読み出し後のタイミングT3において、駆動回路211は、読み出し対象単位画素310の受光ユニット330の第1の送信トランジスタ331のゲートに、一定パルス期間の送信信号TRGを印加する。これにより、受光ユニット330の光電変換素子333に生成された電荷が、画素撮像信号生成ユニット320のフローティングディフュージョン層324に送信され、フローティングディフュージョン層324に蓄積された電荷に対応した電圧が、垂直信号線VSLに出現する。このようにして、垂直信号線VSLに出現した電圧は、列ADC220で垂直信号線VSLに接続されたADC230によって、受光ユニット330の信号レベルの画素信号(以下、単に「信号レベル」と称する)として読み出され、デジタル値に変換される。
信号処理ユニット212は、リセットレベルと上述のようにして読み出された信号レベルとの差異を、光電変換素子333の受光量に対応したネット画素信号として得られるCDS処理を実行する。
次に、タイミングT4において、駆動回路211は、読み出し対象単位画素310の画素撮像信号生成読み出し回路320の選択トランジスタ323のゲートに印加される選択信号SELを、ローレベルに低下させ、画素アレイユニット300のすべての受光ユニット330の第2の送信トランジスタ332のゲートに印加される制御信号TG2を、ハイレベルに立ち上げる。これにより、画素アレイユニット300のすべての受光ユニット330のアドレスイベントの発火検出が再開される。
図9Bは、本開示の他の実施形態による固体撮像デバイスの動作の一例を示すタイミングチャートである。タイミングT0において、制御ユニット130によってアドレスイベント検出開始命令が与えられると、駆動回路211は、選択的にアクティブにされたアドレスイベント検出ユニット400の光電変換素子333に関連する送信トランジスタ332のゲートに印加される制御信号TG2を立ち上げる。より詳細には、アドレスイベント検出ユニット400のいくつか又は全部がアクティブにされてもよい。
さらに、第1の送信トランジスタ331のゲートに印加される送信信号TG1は、ローレベルに維持される。したがって、関連する送信トランジスタ331は、オフ状態となる。
この例では、任意のアドレスイベント検出ユニット400は、制御信号TG2がハイレベルであり、関連する送信トランジスタ332がオン状態である間の時間T1で、アドレスイベントの発火を検出する。イベントトリガに応答して、画像フレーム収集が開始される。画像フレーム収集は、画素アレイ300に含まれる画像センシング画素502のすべてを含むフルフレーム画像収集であってもよい。あるいは、特定のイベント検出ユニット400によるイベント検出は、イベント検出ユニット400の周辺、又はイベント検出ユニット400に関連する一組の画像センシング画素502による画像収集のためのトリガとして動作してもよい。次に、画像センシング画素によって得られた信号の読み出しを行うことができる。
次に、固体撮像デバイス200の動作の一例を、フローチャートを用いて説明する。図10は、本開示の少なくともいくつかの実施形態による、固体撮像デバイスの動作の一例を示すフローチャートである。例えば、本動作は、アドレスイベントを検出するための所定のアプリケーションが実行されたときに開始される。
図10に示すように、本動作では、最初に、画素アレイユニット300の単位画素310のそれぞれが、アドレスイベントの発火の有無を検出する(ステップS901)。さらに、駆動回路211は、いずれか1つの単位画素310でアドレスイベントの発火が検出されたか否かを判断する(ステップS902)。
アドレスイベントの発火が検出されない場合(ステップS902でNO)、本動作はステップS904に進む。一方、アドレスイベントの発火が検出された場合(ステップS902でYES)、駆動回路211は、アドレスイベントの発火が検出された単位画素310に対して、画素信号の読み出しを実行し(ステップS903)、ステップS904へ進む。
ステップS904では、本動作を終了するか否かを判断する。本動作を終了しない場合(ステップS904でNO)、本動作はステップS901に戻り、次の動作を繰り返す。一方、本動作を終了する場合(ステップS904でYES)は、本操作を終了する。
図11A~11Cは、第1の例示的実施形態のように構成された画素1101のサブアレイ又はサブセットを含む画素アレイの一部の平面図である。画素アレイ300は、任意の数のサブアレイ1101を含むことができる。より詳細には、この第1の例示的実施形態では、各画像センシング画素502の面積は、各イベント検出画素503の面積より小さい。さらに、画像センシング画素502とイベント検出画素503との比は、様々な例で異なる。具体的には、図11Aに示された例では、図示されたサブアレイ1101a内の、画像センシング画素502とイベント検出画素503との比は4:1である。この同じ比を、画素アレイ300全体に適用することができる。図11Bに示された例では、画像センシング画素502とイベント検出画素503との比は12:1である。図11Cに示された例では、画像センシング画素502とイベント検出画素503との比は32:1である。他の比も可能である。さらに、画像センシング画素502は、ベイヤーアレイを含むグループを含むがこれらに限定されない、グループ314に配置することができる。1つ又は複数のアイソレーション構造1210を含み、隣接する単位画素310間のアイソレーションを提供することができる。例えば、限定されることなく、RFTI1208構造を各イベント検出画素503の周りに形成することができる。同様に、RFTI1208及び/又はRDTI1212構造を、個々の画像センシング画素502の周りに形成することができる。
図12Aは、第1の例示的実施形態のように構成された画像センシング画素502のグループ314を含む画素アレイ300の一部の横断面図である。図示のように、RDTI構造1212の形態のアイソレーション構造1210は、隣接する単位画素310を分離するために提供され得る。さらに、各画像センシング画素502は、光電変換素子333が形成された基板1216の光入射面に形成されたアイソレーション層又は平坦化層1236を含み得る。カラーフィルタ1240を各画像センシング画素502に設けてもよい。この例では、赤色のカラーフィルタ1240Rが、図示された画像センシング画素502の第1のものの一部として設けられ、緑色のカラーフィルタ1240Grが、図示された画像センシング画素502の第2のものの一部として設けられている。さらに、1つ又は複数のフローティングディフュージョン324が、画像センシング画素502のグループ314に関連付けられ得る。この例では、RDTIアイソレーション構造1212が使用される場合、1つ又は複数のフローティングディフュージョン324は、基板1216の第2の表面上又はその近くに位置し、RDTI構造1212の端部に隣接していてもよい。
図12Bは、第1の例示的実施形態のように構成された画像センシング画素502のグループ314を含む別の画素アレイの一部の横断面図である。この例は、個々の画像センシング画素502の間にRFTIアイソレーション構造1208が設けられていることを除いて、先の例と同様である。その結果、フローティングディフュージョン324は、平面図においてアイソレーション構造1210と重なり得ない。
図13は、第1の例示的実施形態による画像センシング画素502のグループ314の構成を示す平面図である。この図示の例では、画像センシング画素502のグループ314は、RDTI構造1212によって互いに分離される。さらに、図12Aの例でも示されているように、個々の画像センシング画素502は、RDTI構造によって互いに分離される。各画像センシング画素502は、光電変換素子333と、関連する転送ゲート331とを含む。さらに、この例では、グループ314内の画像センシング画素502は、画素撮像信号生成ユニット若しくは読み出し回路320、又はその一部を共有する。例えば、画像センシング画素502のグループは、図5Bに図示されるような回路構成を有し得る。
図14は、第1の例示的実施形態のように構成されたイベント検出画素503の構成の平面図である。より詳細には、本実施形態の各イベント検出画素503は、1つの光電変換素子333と、その光電変換素子333に対して設けられたアドレスイベント検出読み出し回路400の構成要素とを含む。すなわち、アドレスイベント検出読み出し回路400の構成要素は、複数の光電変換素子333間で共有されない。さらに、イベント検出画素503は、RFTIアイソレーション構造1208によって、隣接する単位画素310からアイソレートされる。
図15は、本開示の他の実施形態による、回路素子を共有し、複合イベント検出/画像センシング画素501のグループの概略構成例を示す回路図である。このような実施形態で、各光電変換素子333は、第1の転送トランジスタ331と第2の転送トランジスタ332とに関連付けられる。より詳細には、第1の転送トランジスタ331は、関連する光電変換素子333を共有画素撮像信号生成読み出し回路320素子に選択的に接続し、第2の転送トランジスタ332は、関連する光電変換素子333を共有アドレスイベント検出読み出し回路400の構成要素に選択的に接続する。本開示の少なくともいくつかの実施形態によれば、複合イベント検出/画像センシング画素501のグループ314内の複数の光電変換ユニット333に関連する第2の転送トランジスタ332は、同時にオン状態にすることができる。この例では、4つの光電変換素子333a~333dが、関連する画素撮像信号生成読み出し回路320とアドレスイベント検出読み出し回路400とを共有している。しかし、任意の数の単位画素310及び関連する光電変換素子333が、関連する回路320及び400を共有してもよい。
図16A~16Cは、画素アレイの一部、特に、第2の例示的実施形態のように構成された画素1601のサブアレイ又はサブセットの平面図である。より詳細には、この第2の例示的実施形態では、複合イベント検出/画像センシング画素501のグループは、画像センシング画素502のグループと一緒に画素アレイ300に散在する。この例では、画像センシング画素502の各グループ314は、4つの画像センシング画素502を含み、一方、複合イベント検出/画像センシング画素501のグループ314は、4つの複合イベント検出/画像センシング画素501を含む。画像センシング画素502は、図5Bに図示されるように、画像センシング画素のグループ314内の各画像センシング画素502が読み出し回路320素子を共有する読み出し回路に関連し得る。複合イベント検出/画像センシング画素501は、図15に図示されるように、共有画素撮像信号生成読み出し回路320及び共有アドレスイベント検出読み出し回路400構成要素に関連付けられてもよい。さらに、画像センシング画素502のグループ314と複合イベント検出/画像センシング画素501のグループ314との比は、変化し得る。例えば、図16Aに示された例示的なサブアレイ1601aでは、画像センシング画素502と複合イベント検出/画像センシング画素501との比は1:1である。図16Bに示された例示的なサブアレイ1601bでは、画像センシング画素502と複合イベント検出/画像センシング画素501との比は3:1である。図16Cに示された例示的なサブアレイ1601cでは、画像センシング画素502と複合イベント検出/画像センシング画素501との比は8:1である。さらに、他の比も可能である。少なくともいくつかの実施形態では、例えば、カラーフィルタをグループ内の単位画素310に関連付け、ベイヤーアレイを形成することができる。隣接する単位画素310間のアイソレーションは、RFTI1208及び/又はRDTI1212の動作構造1210によって提供される。例えば、RDTI1212アイソレーション構造は、複合イベント検出/画像センシング画素501のグループの周りに形成することができ、一方、RFTI1208アイソレーション構造は、個々の単位画素310の周りに形成することができる。
図17Aは、本開示の第2の例示的実施形態による画素アレイの一部の断面図である。図示のように、この例では、RDTI構造1212の形態のアイソレーション構造1210は、隣接する単位画素310を分離するために提供され得る。RDTIアイソレーション構造1212を使用する場合、フローティングディフュージョン324又は増幅トランジスタ322や412などの回路素子若しくは回路素子の一部を、RDTI構造1212の端部に隣接して形成することができる。図17Bは、本開示の第2の例示的実施形態による別の画素アレイの一部の断面図である。この追加の例では、RFTIアイソレーション構造1208の形態のアイソレーション構造1210は、隣接する単位画素310を分離するために提供される。
図18は、第2の例示的実施形態による画像センシング画素502のグループの構成を示す平面図である。この例では、画像センシング画素502のグループ314は、RDTI構造1212によって互いに分離される。さらに、図17Aの例にも示されているように、個々の画像センシング画素502は、RDTI構造によって互いに分離される。各画像センシング画素502は、光電変換素子333と、関連する転送ゲート331とを含む。さらに、この例では、グループ314内の画像センシング画素502は、画素撮像信号生成ユニット若しくは読み出し回路320、又はその一部を共有する。例えば、画像センシング画素502のグループは、図5Bに図示されるような回路構成を有し得る。RDTIアイソレーション構造1212を使用する場合、フローティングディフュージョン324又は増幅トランジスタ322などの回路素子若しくは回路素子の一部を、RDTI構造1212の端部に隣接して形成することができる。
図19は、第2の例示的実施形態による複合イベント検出/画像センシング画素グループの構成を示す平面図である。この例では、各複合イベント検出/画像センシング画素503は、第1の送信トランジスタ331によって共有画素撮像信号生成読み出し回路320に選択的に接続され、第2の送信トランジスタ332によって共有イベント検出読み出し回路400に選択的に接続された光電変換素子333を含む。RDTI構造1212は、グループ内の複合イベント検出/画像センシング画素501間のアイソレーションを提供し、一方、グループは、RFTI構造1208によって単位画素310及び他のグループからアイソレートされる。RDTIアイソレーション構造1212を使用する場合、増幅トランジスタ322若しくは413、LGトランジスタ411などの回路素子又は回路素子の一部を、RDTI構造1212の端部に隣接して形成することができる。
図20は、本開示の実施形態による、複合イベント検出/画像センシング画素503の概略構成例を示す回路図である。この例では、複合イベント検出/画像センシング画素503の光電変換素子333は、第1の転送トランジスタ331によって専用の画素撮像信号生成読み出し回路320に選択的に接続され、第2の転送トランジスタ332によって専用のアドレスイベント検出読み出し回路400に選択的に接続される。すなわち、画素撮像信号生成読み出し回路320及びアドレスイベント検出読み出し回路400は、他の光電変換ユニット333と共有されない。
図21A~21Cは、画素アレイの一部、特に、第3の例示的実施形態のように構成された画素2101のサブアレイ又はサブセットの平面図である。より詳細には、この第3の例示的実施形態では、複合イベント検出/画像センシング画素501のグループは、画像センシング画素502のグループと共に画素アレイ300に散在する。複合イベント検出/画像センシング画素501のグループはそれぞれ、4つの複合イベント検出/画像センシング画素501を含む。しかし、回路素子は共有される。したがって、複合イベント検出/画像センシング画素501は、図20に示すように、読み出し回路と関連付けることができる。画像センシング画素502のグループはそれぞれ、4つの画像センシング画素502を含む。画像センシング画素502は、回路素子を共有することができ、図5Bに図示されるように構成され得る。図21Aに示された例示的なサブアレイ2101aでは、画像センシング画素502と複合イベント検出/画像センシング画素との比は1:1である。図21Bに示された例示的なサブアレイ2101bでは、画像センシング画素502と複合イベント検出/画像センシング画素501との比は3:1である。図21Cに示された例示的なサブアレイ2101cでは、画像センシング画素502と複合イベント検出/画像センシング画素501との比は8:1である。さらに、他の比も可能である。RFTI1208アイソレーション構造は、複合イベント検出/画像センシング画素501のグループの周りに提供され、RFTI1208アイソレーション構造は、そのような画素の各グループ内の隣接する複合イベント検出/画像センシング画素501間のアイソレーションを提供する。RDTI1212アイソレーション構造は、隣接する画像センシング画素502間のアイソレーションを提供する。
図22Aは、本開示の第2の例示的実施形態による画素アレイの一部の断面図である。図示のように、この例では、RDTI構造1212の形態のアイソレーション構造1210は、隣接する単位画素310を分離するために提供され得る。RDTIアイソレーション構造1212を使用する場合、フローティングディフュージョン324又は増幅トランジスタ322などの回路素子若しくは回路素子の一部を、RDTI構造1212の端部に隣接して形成することができる。図22Bは、本開示の第2の例示的実施形態による別の画素アレイの一部の断面図である。この追加の例では、RFTIアイソレーション構造1208の形態のアイソレーション構造1210は、隣接する単位画素310を分離するために提供される。
図23は、第3の例示的実施形態による画像センシング画素502のグループの構成を示す平面図である。この例では、画像センシング画素502のグループ314は、RDTI構造1212によって互いに分離される。さらに、図21B及び21Cの例にも示されるように、個々の画像センシング画素502は、RDTI構造によって互いに分離される。各画像センシング画素502は、光電変換素子333と、関連する転送ゲート331とを含む。さらに、この例では、グループ314内の画像センシング画素502は、画素撮像信号生成ユニット若しくは読み出し回路320、又はその一部を共有する。例えば、画像センシング画素502のグループは、図5Bに図示されるような回路構成を有し得る。
図24は、第3の例示的実施形態による複合イベント検出/画像センシング画素501の構成の平面図である。この例では、各複合イベント検出/画像センシング画素503は、第1の送信トランジスタ331によって画素撮像信号生成読み出し回路320に選択的に接続され、第2の送信トランジスタ332によってイベント検出読み出し回路400に選択的に接続される光電変換素子333を含む。さらに、各複合イベント検出/画像センシング画素503の電気変換素子333は、その撮像信号生成読み出し回路320又はそのイベント検出読み出し回路400を他の光電変換素子333と共有しない。RDTI構造1212は、各複合イベント検出/画像センシング画素501の周りにアイソレーションを提供する。例えば、各複合イベント検出/画像センシング画素501は、図5Aに図示されるような回路構成を有し得る。
図25は、本開示の実施形態による、画像センシング画素502のグループの概略構成例を示す回路図である。この例では、3つの画像センシング画素502のグループの光電変換素子333は、画素撮像信号生成読み出し回路320を共有している。グループの光電変換素子333a~cのそれぞれは、それぞれの第1の転送ゲート331a~cによって、画素撮像信号生成読み出し回路320の素子に選択的に接続されている。
図26A~26Cは、第4の例示的実施形態のように構成された画素2601のサブセットを含む画素アレイの一部の平面図である。この第4の例示的実施形態では、各撮像センシング画素502のサイズ又は面積は、各イベント検出画素503のサイズと同じ又はほぼ同じである。さらに、画像センシング画素502とイベント検出画素503との比は、様々な例で異なる。例えば、図26Aに示された例では、画像センシング画素502とイベント検出画素503との比は3:1である。さらに、画像センシング画素502は3つのグループ2601で配設され、一方、イベント検出画素503は単独で配設される。図26Bに示された例では、画像センシング画素502とイベント検出画素503との比は15:1である。図26Cに示された例では、画像センシング画素502とイベント検出画素503との比は35:1である。さらに、図26B及び26Cの例では、いくつかの画像センシング画素502は、3つの画素2601のグループに配設され、他は4つの画素2602のグループに配設される。
図27Aは、本開示の第4の例示的実施形態による画素アレイの一部の横断面図である。図示のように、この例では、RDTI構造1212は、隣接する単位画素310を分離するために提供され得る。図27Bは、本開示の第4の例示的実施形態による別の画素アレイの一部の横断面図であり、ここでは、発明者らのFTI構造1208が隣接する単位画素310を分離している。RDTIアイソレーション構造1212を使用する場合、回路素子又は回路素子の一部を、RDTI構造1212の端部に隣接して形成することができる。
平面図において、第4の例示的実施形態による3つの画像センシング画素グループの構成は、図13に示すように、3つの画像センシング画素502のグループ2601について、グループが、光電変換素子333を共有画素撮像信号生成読み出し回路320素子に選択的に接続するための関連する第1の送信トランジスタ331を有する3つの光電変換素子333だけを含むことを除いて、第1の実施形態の構成と同じであり得る。さらに、画像センシング画素502のグループ314は、RDTI構造1212によって互いに分離される。さらに、図28A及び28Bの例にも示されるように、個々の画像センシング画素502は、RDTI構造によって互いに分離される。各画像センシング画素502は、光電変換素子333と、関連する転送ゲート331とを含む。さらに、グループ314内の画像センシング画素502は、画素撮像信号生成ユニット若しくは読み出し回路320、又はその一部を共有する。例えば、画像センシング画素502のグループは、図5Bに図示されるような回路構成を有し得る。
先に述べたように、第4の実施形態のイベント検出画素503は、画像センシング画素502と同じサイズである。第3の例示的実施形態による複合イベント検出/画像センシング画素501の構成は、図14に示すように、第1の例示的実施形態の構成と同じ又は同様であり得る。したがって、本実施形態の各イベント検出画素503は、単一の光電変換素子333と、その光電変換素子333に対応して設けられたアドレスイベント検出読み出し回路400の構成要素を含む。すなわち、アドレスイベント検出読み出し回路400の構成要素は、複数の光電変換素子333間で共有されない。さらに、イベント検出画素503は、RFTIアイソレーション構造1208によって、隣接する単位画素310からアイソレートされる。
図28A~28Bは、第5の例示的実施形態のように構成された画素2801のサブセットを含む画素アレイの一部の平面図である。この第5の例示的実施形態では、各撮像センシング画素502のサイズ又は面積は、各イベント検出画素503のサイズと同じ又はほぼ同じである。さらなる態様において、画像センシング画素502は、グループ2802又は2803に配設され、グループ内の各画素は、同一色感度を有する。例えば、画像センシング画素502は、図28Aに示すように、3つの単位画素2802のグループに配設され得る。別の例として、画像センシング画素は、4つのイベント検出画素503のグループを囲む面積を除いて、4つの単位画素2803のグループに配設することができ、ここで、画像センシング画素502の各周囲のグループは、図28Bに示すように、3つの単位画素2802で構成される。イベント検出画素503のすべてが4つのグループに配設されてもよい。図示のように、画像センシング画素502のグループは、緑色画像センシング画素502の2つのグループ、赤色画像センシング画素502の1つのグループ、及び青色画像センシング画素の1つのグループを含む画素サブセットによって形成される全体的なベイヤーパターンと組み合わせて、クワッドベイヤーフィルタモードを形成するように配列されてもよい。イベント検出画素503のグループの一部又はすべては、共に全体的なベイヤーパターンを形成する画像センシング画素502のグループによって囲まれてもよい。さらに、画像センシング画素502とイベント検出画素503との比は、様々な例で異なる。例えば、図28Aに示された例では、画像センシング画素502とイベント検出画素503との比は3:1である。図28Bに示された例では、画像センシング画素502とイベント検出画素503との比は15:1である。図28Bに示された例では、画像センシング画素502とイベント検出画素503との比は35:1である。
図29Aは、本開示の第4の例示的実施形態による画素アレイの一部の横断面図である。図示のように、この例では、RDTI構造1212は、隣接する単位画素310を分離するために提供され得る。図29Bは、本開示の第4の例示的実施形態による別の画素アレイの一部の横断面図であり、ここでは、RFTI構造1208が隣接する単位画素310を分離している。
図30は、第5の例示的実施形態による画像センシング画素502のグループの構成を示す平面図である。グループ内の各光電変換素子333は、同一色に高感度である。例えば、画像センシング画素502のグループ内の各光電変換素子333は、同一色のフィルタと関連付けることができる。さらに、画像センシング画素502のグループ314は、RDTI構造1212によって互いに分離され、一方、個々の画像センシング画素502は、RDTI構造によって互いに分離される。さらに、この例では、グループ314内の画像センシング画素502は、画素撮像信号生成ユニット若しくは読み出し回路320、又はその一部を共有する。例えば、画像センシング画素502のグループは、図5Bに図示されるような回路構成を有し得る。RDTIアイソレーション構造1212を使用する場合、フローティングディフュージョン324又は増幅トランジスタ322などの回路素子若しくは回路素子の一部を、RDTI構造1212の端部に隣接して形成することができる。
したがって、本開示の実施形態は、イベント検出と撮像動作との両方を行うことが可能な画素アレイ300を有する撮像デバイス100を提供する。さらに、任意の1つの単位画素310の回路素子は、画像センシング又はイベント検出のいずれかに最適化することができる。本開示のさらなる実施形態によれば、画素アレイ300は、画像センシングとイベント検出との両方を行う画素と組み合わせて、画像センシングに最適化された画素を含み得る。本開示のさらなる実施形態によれば、画素アレイ300は、画像センシング画素よりも大きな面積を有するイベント検出画素を含み得る。さらに、本開示の実施形態は、画像センシング画素及びイベント検出画素の異なる数及び比を含み得る。例えば、撮像デバイス100は、イベント検出画素503よりも多い数の画像センシング画素502、画像センシング画素502よりも多い数のイベント検出画素503、又は同じ数の画像センシング画素502及びイベント検出画素503を有する本開示の実施形態による画素アレイ300を組み込むことができる。さらに、本開示の実施形態による画素アレイは、任意の数及び比の画像センシング画素502、イベント検出画素503、及び複合イベント検出/画像センシング画素501を含むことができる。
図31は、本開示による技術が適用可能な移動体制御システムの一例である車両制御システムの概略構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して互いに接続される複数の電子制御ユニットを含む。図31に示した例では、車両制御システム12000は、駆動系制御ユニット12010、車体系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を含む。さらに、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051と、音声画像出力ユニット12052と、車載ネットワークI/F(インタフェース)12053とが図面に示されている。
駆動系制御ユニット12010は、様々なプログラムに従って、車両の駆動系に関するデバイスの動作を制御する。例えば、駆動系制御ユニット12010は、車両の駆動力を発生する内燃機関や駆動モータなどの駆動力発生デバイス、駆動力を車輪に伝達する駆動力伝達機構、車両の操舵角を調整する操舵機構、車両の制動力を発生する制動デバイスなどの制御デバイスとして機能する。
車体系制御ユニット12020は、車体に実装される様々なデバイスの動作を、様々なプログラムに従って制御する。例えば、車体系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウデバイス、及びヘッドランプ、バックランプ、ブレーキランプ、ウィンカーやフォグランプなどの様々なランプの制御デバイスとして機能する。この場合、キーの代わりとなるポータブルデバイスから送信される電波や、様々なスイッチの信号を、車体系制御ユニット12020に入力することができる。車体系制御ユニット12020は、電波や信号の入力を受信して、車両のドアロックデバイス、パワーウィンドウデバイス、ランプなどを制御する。
車外情報検出ユニット12030は、車両制御システム12000が実装されている車両の外部に関する情報を検出する。例えば、車外情報検出ユニット12030には、撮像ユニット12031が接続される。車外情報検出ユニット12030は、撮像ユニット12031に車外の画像を収集させ、収集された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車両、障害物、標識、路上の文字などの物体検出処理、又は距離検出処理を行うことができる。
撮像ユニット12031は、光を受光し、受光量に対応した電気信号を出力する光学センサである。撮像ユニット12031は、画像又は距離測定情報として、電気信号を出力することができる。さらに、撮像ユニット12031が受光する光は、可視光であっても、又は赤外線などの非可視光であってもよい。さらに、撮像ユニット12031は、本開示の実施形態によって、単位画素310が構成され、画素アレイユニット300内の他の単位画素310からアイソレートされた画素アレイユニット300を組み込んだ固体撮像デバイス200を含むことができる。
車内情報検出ユニット12040は、車内情報を検出する。例えば、車内情報検出ユニット12040には、運転者の状態を検出する運転者状態検出ユニット12041が接続される。例えば、運転者状態検出ユニット12041は、運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出ユニット12041から入力される検出情報に基づいて、運転者の疲労度や集中度を計算したり、運転者が居眠りをしているか否かを判断したりすることができる。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040によって取得された車両内外の情報に基づいて、駆動力発生デバイス、操舵機構、又は制動デバイスの制御目標値を計算し、駆動系制御ユニット12010に制御指令を出力することができる。例えば、マイクロコンピュータ12051は、協調制御を行い、車両の衝突回避や衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両衝突警報、車線逸脱警報などを含む先進運転支援システム(ADAS)の機能を実現することができる。
さらに、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040によって取得された車両周辺の情報に基づいて、駆動力発生デバイス、操舵機構、制動デバイスなどを制御することによって、運転者の操作を伴わずに、車両が自律的に走行する自動運転などの協調制御を行うことができる。
マイクロコンピュータ12051は、車外情報検出ユニット12030によって取得された車外情報に基づいて、車体系制御ユニット12020に制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030によって検出された先行車両や対向車両の位置に応じてヘッドランプを制御することによって、ハイビームをロービームへ切り替えるなどのまぶしさ防止を実現するための協調制御を行うことができる。
音声画像出力ユニット12052は、音声及び画像間の少なくとも1つの出力信号を、車内の乗員や車外に情報を視覚的又は聴覚的に通知可能な出力デバイスに送信する。図31の例では、出力デバイスとして、音声スピーカ12061、ディスプレイユニット12062、及びインストルメントパネル12063が例示されている。例えば、ディスプレイユニット12062は、車載ディスプレイやヘッドアップディスプレイの少なくとも1つを含み得る。
図32は、撮像ユニット12031の設置位置の一例を示す図である。
図32では、撮像ユニット12031として、撮像ユニット12101、12102、12103、12104及び12105が設けられている。
例えば、撮像ユニット12101、12102、12103、12104及び12105は、車両12100の、フロントノーズ、サイドミラー、リヤバンパ、バックドア、車内のフロントガラスの上側などの位置に設置される。フロントノーズに設けられた撮像ユニット12101と、車内のフロントガラスの上側に設けられた撮像ユニット12105とは、主に車両12100の前方側の画像を取得する。サイドミラーに設けられた撮像ユニット12102及び12103は、主に車両12100の側面の画像を取得する。リヤバンパ又はバックドアに設けられた撮像ユニット12104は、主に車両12100の後方側の画像を取得する。車内のフロントガラスの上側に設けられた撮像ユニット12105は、主に先行車両、歩行者、障害物、信号機、交通標識、車線などを検出するために使用できる。
さらに、図32は、撮像ユニット12101~12104の撮影範囲の一例を示す図である。撮像範囲12111は、フロントノーズに設けられた撮像ユニット12101の撮像範囲を表し、撮像範囲12112及び12113は、サイドミラーに設けられた撮像ユニット12102及び12103の撮像範囲をそれぞれ表し、撮像範囲12114は、リヤバンパ又はバックドアに設けられた撮像ユニット12104の撮像範囲を表す。例えば、撮像ユニット12101~12104によって収集された複数の画像データを互いに重ね合わせると、車両12100を上側から見たときの俯瞰画像を得ることができる。
撮像ユニット12101~12104の少なくとも1つは、距離情報を取得する機能を有し得る。例えば、撮像ユニット12101~12104の少なくとも1つは、複数の撮像素子を含むステレオカメラであってもよく、位相差検出用の画素を含む撮像素子であってもよい。
例えば、撮像ユニット12101~12104から得た距離情報に基づいて、撮像範囲12111~12114のそれぞれの3次元物体までの距離と時間経過に伴う距離の変動(車両12100に対する相対速度)とを得ることにより、マイクロコンピュータ12051は、特に、車両12100の進行経路上にあり、所定速度(例えば、0km/h以上)で走行する車両12100とほぼ同一方向に走行する最も近接した3次元物体を、先行車両として抽出することができる。さらに、マイクロコンピュータ12051は、先行車両の手前に予め確保すべき車間距離を設定して、自動ブレーキ制御(追従停止制御も含む)、自動加速制御(追従加速制御も含む)などを行うことができる。上述のように、運転者の操作を伴わずに、車両が自律的に走行する自動運転のための協調制御などを行うことができる。
例えば、マイクロコンピュータ12051は、撮像ユニット12101~12104から得た距離情報に基づいて、複数の3次元物体データを、二輪車両のデータ、一般的な車両のデータ、大型車両のデータ、歩行者のデータ、及び電柱などの他の3次元物体のデータに分類することにより、3次元物体に関する3次元物体データを抽出することができ、3次元物体データを自動障害物回避に使用することができる。例えば、マイクロコンピュータ12051は、車両12100の周囲にある障害物を、車両12100の運転者が視覚的に認識できる障害物と、運転者が視覚的に認識することが困難な障害物とに区別する。さらに、マイクロコンピュータ12051は、障害物のそれぞれとの衝突の危険度を示す衝突リスクを判断する。衝突リスクが設定値以上であり、衝突が発生するおそれがある状況では、マイクロコンピュータ12051は、音声スピーカ12061やディスプレイユニット12062を介して運転者に警報を出力したり、駆動系制御ユニット12010を介して強制減速や回避操舵を行ったりすることによって、衝突回避のために運転を支援することができる。
撮像ユニット12101~12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像ユニット12101~12104によって収集された画像に歩行者が存在するか否かを判断することで、歩行者を認識することができる。例えば、歩行者認識は、赤外線カメラとしての撮像ユニット12101~12104によって収集された画像中の特定点を抽出する手順と、物体の輪郭線を示す一連の特定点に対してパターンマッチング処理を行い、物体が歩行者であるか否かを判断する手順とによって行われる。マイクロコンピュータ12051が、撮像ユニット12101~12104によって収集された画像上に歩行者が存在すると判断して、歩行者を認識すると、音声画像出力ユニット12052は、ディスプレイユニット12062を制御して、認識された歩行者を強調するために四角形輪郭線を重ねて表示する。さらに、音声画像出力ユニット12052は、ディスプレイユニット12062を制御して、歩行者を示すアイコンなどを所望の位置に表示させてもよい。
以上、本開示による技術が適用可能な車両制御システムの一例について説明してきた。本開示による技術は、上述した構成のうち、撮像ユニット12031、運転者状態検出ユニット12041などに適用可能である。
以上、本開示の実施形態について説明してきたが、本開示の技術的範囲は上述した実施形態に限定されるものではなく、本開示の要旨を逸脱しない範囲で様々な変更を加えることができる。さらに、他の実施形態や変更例における構成要素を、適宜組み合わせることができる。
さらに、本明細書に記載されている実施形態の効果は例示的なものに過ぎず、他の効果が限定されることなく存在する可能性がある。
さらに、本技術は、以下の構成を含むことができる。
(1)
画素アレイユニットであって、
第1の光電変換領域と、
第1の光電変換領域に結合された増幅トランジスタと
を含む第1の画素を含む複数のイベント検出画素と、
第2の光電変換領域と、
第3の光電変換領域と、
第2及び第3の光電変換領域に結合された増幅トランジスタと
を含む複数の画像センシング画素と、
第1の画素及び第2の画素の間に配設された第1のアイソレーション領域と、
第2及び第3の光電変換領域の間に配設された第2のアイソレーション領域と、を含む画素アレイユニット
を備えるセンサ。
(2)
第1のアイソレーション領域が、断面図において第2のアイソレーション領域より深い、(1)に記載のセンサ。
(3)
複数の画像信号生成読み出し回路をさらに備え、各画像センシング画素の各光電変換領域に対して、関連する転送トランジスタが、光電変換領域を画像信号生成読み出し回路の1つに選択的に結合する、
(1)又は(2)に記載のセンサ。
(4)
各画像信号生成読み出し回路が、複数の画像センシング画素によって共有された、(3)に記載のセンサ。
(5)
複数のイベント検出読み出し回路をさらに備え、各イベント検出画素の各光電変換領域が、イベント検出読み出し回路の1つに結合された、
(4)に記載のセンサ。
(6)
複数の第2の画像信号生成読み出し回路をさらに備え
各イベント検出画素が転送トランジスタをさらに含み、各イベント検出画素の各光電変換領域に対して、関連する転送トランジスタが、光電変換領域を第2のイベント検出読み出し回路の1つに選択的に結合する、
(5)に記載のセンサ。
(7)
各第2の画像信号生成読み出し回路が、複数のイベント検出画素によって共有された、(6)に記載のセンサ。
(8)
各イベント検出読み出し回路が、複数のイベント検出画素によって共有された、請求項(7)に記載のセンサ。
(9)
複数の画像センシング画素が第1の数の画像センシング画素を含み、複数のイベント検出画素が、第2の数のイベント検出画素を含み、第1の数が第2の数もより大きい、(1)~(8)のいずれかに記載のセンサ。
(10)
各イベント検出画素の光電変換領域の面積が、各画像センシング画素の光電変換領域の面積よりも大きい、(1)~(9)のいずれかに記載のセンサ。
(11)
第1の数が第2の数よりも少なくとも3倍大きい、(9)又は(10)に記載のセンサ。
(12)
各イベント検出画素の面積が各画像センシング画素の面積よりも大きい、(1)~(11)のいずれかに記載のセンサ。
(13)
各イベント検出画素が全厚トレンチアイソレーション構造によって囲まれた、(1)~(12)のいずれかに記載のセンサ。
(14)
各画像センシング画素が、隣接する画像センシング画素からデープトレンチアイソレーション構造によって分離された、(1)~(13)のいずれかに記載のセンサ。
(15)
各イベント検出画素が、隣接するイベント検出画素からデープトレンチアイソレーション構造によって分離された、(1)~(12)のいずれかに記載のセンサ。
(16)
各イベント検出画素が、隣接する画像センシング画素から全厚トレンチアイソレーション構造によって分離された、(15)に記載のセンサ。
(17)
各画像センシング画素が、隣接する画像センシング画素からデープトレンチアイソレーション構造によって分離された、(15)又は(16)に記載のセンサ。
(18)
撮像レンズと、
固体撮像デバイスであって、
少なくとも1つの画素アレイユニットであって、
第1の光電変換領域と、
増幅トランジスタと、
を含む複数のイベント検出画素と、
第2の光電変換領域と、
第3の光電変換領域と、
第2及び第3の光電変換領域に結合された増幅トランジスタと、
を含む複数の画像センシング画素と、
第1の画素及び第2の画素の間に配設された第1のアイソレーション領域と、
第2及び第3の光電変換領域の間に配設された第2のアイソレーション領域と
を含む少なくとも1つの画素アレイユニットと、
固体撮像デバイスの動作を制御する制御ユニットとを含む、
固体撮像デバイスと、を備える電子装置。
(19)
画素アレイユニットを提供するステップを含む方法であって、画素アレイユニットが、
第1の光電変換領域と、
増幅トランジスタと
を含む複数のイベント検出画素と、
第2の光電変換領域と、
第3の光電変換領域と、
第2及び第3の光電変換領域に結合された増幅トランジスタと
を含む複数の画像センシング画素と、
第1の画素及び第2の画素の間に配設された第1のアイソレーション領域と、
第2及び第3の光電変換領域の間に配設された第2のアイソレーション領域と
を含む方法。
添付特許請求の範囲又はその等価物の範囲内にある限り、設計要件及び他の要因に応じて、様々な修正、組み合わせ、サブ組み合わせ及び変更が発生し得ることが、当業者によって理解されるべきである。

Claims (21)

  1. 画素アレイユニットであって、
    第1の光電変換領域と、
    前記第1の光電変換領域に結合された増幅トランジスタと
    を含む第1の画素を含む複数のイベント検出画素と、
    第2の光電変換領域と、
    第3の光電変換領域と、
    前記第2及び第3の光電変換領域に結合された増幅トランジスタと
    を含む複数の画像センシング画素と、
    前記第1の画素及び前記第2の画素の間に配設された第1のアイソレーション領域と、
    前記第2及び第3の光電変換領域の間に配設された第2のアイソレーション領域と、を含む画素アレイユニット
    を備えるセンサ。
  2. 前記第1のアイソレーション領域が、断面図において前記第2のアイソレーション領域より深い、請求項1に記載のセンサ。
  3. 複数の画像信号生成読み出し回路をさらに備え、各画像センシング画素の各光電変換領域に対して、関連する転送トランジスタが、前記光電変換領域を前記画像信号生成読み出し回路の1つに選択的に結合する、
    請求項1に記載のセンサ。
  4. 各画像信号生成読み出し回路が、複数の画像センシング画素によって共有された、請求項3に記載のセンサ。
  5. 複数のイベント検出読み出し回路をさらに備え、各イベント検出画素の各光電変換領域が、前記イベント検出読み出し回路の1つに結合された、
    請求項4に記載のセンサ。
  6. 複数の第2の画像信号生成読み出し回路をさらに備え、
    各イベント検出画素が転送トランジスタをさらに含み、
    各イベント検出画素の各光電変換領域に対して、前記関連する転送トランジスタが、前記光電変換領域を前記第2のイベント検出読み出し回路の1つに選択的に結合する、
    請求項5に記載のセンサ。
  7. 各第2の画像信号生成読み出し回路が、複数のイベント検出画素によって共有された、請求項6に記載のセンサ。
  8. 各イベント検出読み出し回路が、複数のイベント検出画素によって共有された、請求項7に記載のセンサ。
  9. 前記複数の画像センシング画素が第1の数の画像センシング画素を含み、前記複数のイベント検出画素が、第2の数のイベント検出画素を含み、前記第1の数が前記第2の数もより大きい、請求項8に記載のセンサ。
  10. 各イベント検出画素の前記光電変換領域の面積が、各画像センシング画素の前記光電変換領域の面積よりも大きい、請求項9に記載のセンサ。
  11. 前記第1の数が前記第2の数よりも少なくとも3倍大きい、請求項9に記載のセンサ。
  12. 前記複数の画像センシング画素が第1の数の画像センシング画素を含み、前記複数のイベント検出画素が、第2の数のイベント検出画素を含み、前記第1の数が前記第2の数もより大きい、請求項1に記載のセンサ。
  13. 各イベント検出画素の面積が各画像センシング画素の面積よりも大きい、請求項12に記載のセンサ。
  14. 各イベント検出画素の前記光電変換領域の面積が、各画像センシング画素の前記光電変換領域の面積よりも大きい、請求項12に記載のセンサ。
  15. 前記第1の数が前記第2の数よりも少なくとも3倍大きい、請求項12に記載のセンサ。
  16. 各イベント検出画素が全厚トレンチアイソレーション構造によって囲まれた、請求項1に記載のセンサ。
  17. 各画像センシング画素が、隣接する画像センシング画素からデープトレンチアイソレーション構造によって分離された、請求項1に記載のセンサ。
  18. 各イベント検出画素が、隣接するイベント検出画素からデープトレンチアイソレーション構造によって分離された、請求項17に記載のセンサ。
  19. 各イベント検出画素が、隣接する画像センシング画素から全厚トレンチアイソレーション構造によって分離された、請求項18に記載のセンサ。
  20. 撮像レンズと、
    固体撮像デバイスであって、
    少なくとも1つの画素アレイユニットであって、
    第1の光電変換領域と、
    増幅トランジスタと、
    を含む複数のイベント検出画素と、
    第2の光電変換領域と、
    第3の光電変換領域と、
    前記第2及び第3の光電変換領域に結合された増幅トランジスタと、
    を含む複数の画像センシング画素と、
    前記第1の画素及び前記第2の画素の間に配設された第1のアイソレーション領域と、
    前記第2及び第3の光電変換領域の間に配設された第2のアイソレーション領域と
    を含む少なくとも1つの画素アレイユニットと、
    前記固体撮像デバイスの動作を制御する制御ユニットとを含む、固体撮像デバイスと、
    を備える電子装置。
  21. 画素アレイユニットを提供するステップを含む方法であって、前記画素アレイユニットが、
    第1の光電変換領域と、
    増幅トランジスタと
    を含む複数のイベント検出画素と、
    第2の光電変換領域と、
    第3の光電変換領域と、
    前記第2及び第3の光電変換領域に結合された増幅トランジスタと
    を含む複数の画像センシング画素と、
    前記第1の画素及び前記第2の画素の間に配設された第1のアイソレーション領域と、
    前記第2及び第3の光電変換領域の間に配設された第2のアイソレーション領域と
    を含む方法。
JP2022514485A 2019-12-02 2020-12-02 ダイナミックビジョンセンサと撮像機能とを組み合わせた、固体撮像デバイス及び撮像デバイス Pending JP2023503766A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/700,281 2019-12-02
US16/700,281 US11330211B2 (en) 2019-12-02 2019-12-02 Solid-state imaging device and imaging device with combined dynamic vision sensor and imaging functions
PCT/JP2020/044942 WO2021112151A1 (en) 2019-12-02 2020-12-02 Solid-state imaging device and imaging device with combined dynamic vision sensor and imaging functions

Publications (1)

Publication Number Publication Date
JP2023503766A true JP2023503766A (ja) 2023-02-01

Family

ID=73856251

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022514485A Pending JP2023503766A (ja) 2019-12-02 2020-12-02 ダイナミックビジョンセンサと撮像機能とを組み合わせた、固体撮像デバイス及び撮像デバイス

Country Status (8)

Country Link
US (2) US11330211B2 (ja)
EP (1) EP4070381A1 (ja)
JP (1) JP2023503766A (ja)
KR (1) KR20220106968A (ja)
CN (1) CN114747012A (ja)
DE (1) DE112020005923T5 (ja)
TW (1) TW202139444A (ja)
WO (1) WO2021112151A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11195869B2 (en) * 2019-09-05 2021-12-07 Sony Semiconductor Solutions Corporation Solid-state imaging device and imaging device with shared circuit elements
CN113612942B (zh) * 2021-07-19 2022-09-20 华中科技大学 一种卷积视觉图像传感器
US11929383B2 (en) * 2022-03-23 2024-03-12 Sony Semiconductor Solutions Corporation Intra-pixel crosstalk reduction for a multi-mode image sensor
US12003870B2 (en) * 2022-04-15 2024-06-04 Sony Semiconductor Solutions Corporation Binning in hybrid pixel structure of image pixels and event vision sensor (EVS) pixels
US11979675B2 (en) * 2022-04-25 2024-05-07 Sony Semiconductor Solutions Corporation Image sensing device with event based vision sensor pixels and imaging pixels
CN116546340B (zh) * 2023-07-05 2023-09-19 华中师范大学 一种高速cmos像素探测器

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007526453A (ja) * 2004-01-28 2007-09-13 カネスタ インコーポレイテッド 単一チップの赤、緑、青、距離(rgb−z)センサー
US20070201859A1 (en) * 2006-02-24 2007-08-30 Logitech Europe S.A. Method and system for use of 3D sensors in an image capture device
JP5708025B2 (ja) * 2011-02-24 2015-04-30 ソニー株式会社 固体撮像装置、および、その製造方法、電子機器
US8767108B2 (en) * 2011-03-14 2014-07-01 Sony Corporation Solid-state imaging device, method of manufacturing solid-state imaging device, and electronic apparatus
JP2015012127A (ja) * 2013-06-28 2015-01-19 ソニー株式会社 固体撮像素子および電子機器
KR20150120124A (ko) 2014-04-17 2015-10-27 삼성전자주식회사 다이내믹 비전 센서 및 이를 포함하는 모션 인식 장치
US9406718B2 (en) * 2014-09-29 2016-08-02 Omnivision Technologies, Inc. Image sensor pixel cell with non-destructive readout
JP2019033195A (ja) 2017-08-09 2019-02-28 キヤノン株式会社 撮像装置の製造方法
KR102531355B1 (ko) 2018-03-20 2023-05-10 삼성전자주식회사 이미지 센서

Also Published As

Publication number Publication date
US11330211B2 (en) 2022-05-10
EP4070381A1 (en) 2022-10-12
TW202139444A (zh) 2021-10-16
CN114747012A (zh) 2022-07-12
US20210168314A1 (en) 2021-06-03
WO2021112151A1 (en) 2021-06-10
KR20220106968A (ko) 2022-08-01
US20230062826A1 (en) 2023-03-02
DE112020005923T5 (de) 2022-09-22

Similar Documents

Publication Publication Date Title
JP2023503766A (ja) ダイナミックビジョンセンサと撮像機能とを組み合わせた、固体撮像デバイス及び撮像デバイス
WO2021054183A1 (en) Solid-state imaging device and imaging device with combined dynamic vision sensor and imaging functions
US11968463B2 (en) Solid-state imaging device and imaging device including a dynamic vision sensor (DVS)
JP7277106B2 (ja) 固体撮像装置及び撮像装置
JP7500618B2 (ja) 固体撮像デバイス及び共有回路要素を備えた撮像デバイス
CN213213585U (zh) 成像元件
WO2023181657A1 (ja) 光検出装置及び電子機器
JP2023503765A (ja) 撮像デバイス及び撮像装置、並びにそれらの方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231016

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240521