JP7374174B2 - 受光装置 - Google Patents

受光装置 Download PDF

Info

Publication number
JP7374174B2
JP7374174B2 JP2021503676A JP2021503676A JP7374174B2 JP 7374174 B2 JP7374174 B2 JP 7374174B2 JP 2021503676 A JP2021503676 A JP 2021503676A JP 2021503676 A JP2021503676 A JP 2021503676A JP 7374174 B2 JP7374174 B2 JP 7374174B2
Authority
JP
Japan
Prior art keywords
time
light receiving
value
exposure period
counter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021503676A
Other languages
English (en)
Other versions
JPWO2020179928A1 (ja
Inventor
弘博 朱
和樹 比津
挙文 高塚
祐輔 大池
純 小木
睦聡 田代
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Publication of JPWO2020179928A1 publication Critical patent/JPWO2020179928A1/ja
Application granted granted Critical
Publication of JP7374174B2 publication Critical patent/JP7374174B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L31/00Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof
    • H01L31/02Details
    • H01L31/02016Circuit arrangements of general character for the devices
    • H01L31/02019Circuit arrangements of general character for the devices for devices characterised by at least one potential jump barrier or surface barrier
    • H01L31/02027Circuit arrangements of general character for the devices for devices characterised by at least one potential jump barrier or surface barrier for devices working in avalanche mode
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00Photometry, e.g. photographic exposure meter
    • G01J1/42Photometry, e.g. photographic exposure meter using electric radiation detectors
    • G01J1/44Electric circuits
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J11/00Measuring the characteristics of individual optical pulses or of optical pulse trains
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14609Pixel-elements with integrated switching, control, storage or amplification elements
    • H01L27/1461Pixel-elements with integrated switching, control, storage or amplification elements characterised by the photosensitive area
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1463Pixel isolation structures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L31/00Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof
    • H01L31/02Details
    • H01L31/0216Coatings
    • H01L31/02161Coatings for devices characterised by at least one potential jump barrier or surface barrier
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L31/00Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof
    • H01L31/02Details
    • H01L31/0232Optical elements or arrangements associated with the device
    • H01L31/02327Optical elements or arrangements associated with the device the optical elements being integrated or being directly associated to the device, e.g. back reflectors
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L31/00Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof
    • H01L31/0248Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof characterised by their semiconductor bodies
    • H01L31/0352Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof characterised by their semiconductor bodies characterised by their shape or by the shapes, relative sizes or disposition of the semiconductor regions
    • H01L31/035272Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof characterised by their semiconductor bodies characterised by their shape or by the shapes, relative sizes or disposition of the semiconductor regions characterised by at least one potential jump barrier or surface barrier
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L31/00Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof
    • H01L31/08Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof in which radiation controls flow of current through the device, e.g. photoresistors
    • H01L31/10Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof in which radiation controls flow of current through the device, e.g. photoresistors characterised by potential barriers, e.g. phototransistors
    • H01L31/101Devices sensitive to infrared, visible or ultraviolet radiation
    • H01L31/102Devices sensitive to infrared, visible or ultraviolet radiation characterised by only one potential barrier
    • H01L31/107Devices sensitive to infrared, visible or ultraviolet radiation characterised by only one potential barrier the potential barrier working in avalanche mode, e.g. avalanche photodiodes
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03KPULSE TECHNIQUE
    • H03K23/00Pulse counters comprising counting chains; Frequency dividers comprising counting chains
    • H03K23/58Gating or clocking signals not applied to all stages, i.e. asynchronous counters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00Photometry, e.g. photographic exposure meter
    • G01J1/42Photometry, e.g. photographic exposure meter using electric radiation detectors
    • G01J1/44Electric circuits
    • G01J2001/4446Type of detector
    • G01J2001/448Array [CCD]
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4816Constructional features, e.g. arrangements of optical elements of receivers alone
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14623Optical shielding
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1464Back illuminated imager structures

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、受光装置に関する。
光電変換素子に入射したフォトンのカウントを行うフォトン計測センサが知られている。また、フォトン計測センサにおいて、入射したフォトン毎にカウントを行う構成が知られている。このようなフォトン計測センサのダイナミックレンジを拡大する手法として、カウント数が閾値に達した時間を用いて輝度値を換算する手法が効果的であり、時間情報を利用した輝度値予測が提案されている。
米国特許出願公開第2012/0057059号明細書 米国特許出願公開第2015/0163429号明細書
しかしながら、フォトンのカウント数が閾値に達した時間に基づき予測を行う方法では、暗時における計測を可能とするためにシャッタ時間を長く取る必要がある。そのため、時間情報を保存するためのメモリのビット数が増加し、それに伴い回路面積が増大してしまう。
本開示は、フォトン計測を行う際のビット数の削減が可能な受光装置を提供することを目的とする。
本開示に係る受光装置は、露光期間内で受光素子への光子の入射を検知した回数である検知回数を計数して計数値を出力する計数部と、時間情報を更新する周期を露光期間における経過時間に応じて設定する設定部と、露光期間が経過する前に計数値が閾値に到達した時間を示す時間情報を取得する取得部と、を備える。
第1の実施形態に係る受光装置の概略的な構成例を示す図である。 第1の実施形態に適用可能な、フォトン数の予測について説明するための図である。 第1の実施形態に適用可能な、フォトン数の予測について説明するための図である。 第1の実施形態に係るタイムコード生成部によるタイムコードTcの生成を概略的に説明するための図である。 第1の実施形態に係る受光装置が適用された電子機器の一例の構成を概略的に示すブロック図である。 第1の実施形態に係る受光装置に適用可能なデバイスの構成の例を示す模式図である。 第1の実施形態に適用可能な受光チップの一例の構成を示す平面図である。 第1の実施形態に適用可能なロジックチップの一例の構成を示すブロック図である。 第1の実施形態に係る画素アレイ部および垂直制御部の一例の構成を示すブロック図である。 第1の実施形態に適用可能な信号処理部の一例の構成を示す図である。 第1の実施形態に適用可能な、SPADとしての光電変換素子の構成の例を示す図である。 第1の実施形態に適用可能な、フォトダイオードとしての光電変換素子の構成の例を示す図である。 第1の実施形態に係るTC生成部の一例の構成を示すブロック図である。 第1の実施形態に係るTC生成部の動作を説明するための一例のタイミングチャートである。 第1の実施形態に係る、時間カウンタを駆動する周波数を可変とした場合のTC生成部の動作を説明するための一例のタイミングチャートである。 第1の実施形態に適用可能な、単純増加あるいは単純減少以外の値の例としてグレイコードをタイムコードTcに適用した例を示すタイミングチャートである。 第1の実施形態に適用可能な、PLLを用いてタイムコードTcを生成する構成の例を示すブロック図である。 第1の実施形態に適用可能な第1の例のカウンタの一例の構成を示すブロック図である。 第1の実施形態に適用可能な第1の例のカウンタの一例の構成を示すブロック図である。 第1の実施形態に適用可能な第2の例のカウンタの一例の構成を示すブロック図である。 第1の実施形態に適用可能な第3の例のカウンタの一例の構成を示すブロック図である。 第1の実施形態に適用可能な第4の例のカウンタの一例の構成を示すブロック図である。 第1の実施形態に適用可能な第4の例のカウンタの一例の構成を示すブロック図である。 第1の実施形態に適用可能な第5の例のカウンタの一例の構成を示すブロック図である。 第1の実施形態に適用可能な第6の例のカウンタの一例の構成を示す図である。 第1の実施形態に適用可能な第7の例のカウンタの一例の構成を示す図である。 第1の実施形態に適用可能なカウンタの一例の構成を示すブロック図である。 第1の実施形態に適用可能な第8の例のカウンタの一例の構成を示すブロック図である。 第1の実施形態に適用可能な第9の例のカウンタの一例の構成を示すブロック図である。 第1の実施形態に適用可能な第10の例のカウンタの一例の構成を示すブロック図である。 第1の実施形態に係る第1の配置例に係るTC生成部および画素回路の配置例を示す図である。 第1の実施形態に係る第2の配置例に係るTC生成部および画素回路の配置例を示す図である。 第1の実施形態に係る第3の配置例に係るTC生成部および画素回路の配置例を示す図である。 第1の実施形態に係る第3の配置例を画素アレイ部に注目して示す図である。 第1の実施形態に係る第4の配置例に係るTC生成部および画素回路の配置例を示す図である。 第1の実施形態に係る第5の配置例に係るTC生成部および画素回路の配置例を示す図である。 第1の実施形態に係る第6の配置例に係るTC生成部および画素回路の配置例を示す図である。 第1の実施形態の第1の変形例に係る画素アレイ部および垂直制御部の一例の構成を示すブロック図である。 第1の実施形態の第2の変形例に係る画素アレイ部および垂直制御部の一例の構成を示すブロック図である。 第1の実施形態の第3の変形例に係る画素アレイ部および垂直制御部の一例の構成を示すブロック図である。 第1の実施形態の第3の変形例に適用可能なデュアルモードカウンタの動作を説明するための図である。 第1の実施形態の第3の変形例に適用可能なデュアルモードカウンタの動作を説明するための図である。 第1の実施形態の第3の変形例に適用可能なデュアルモードカウンタの動作を説明するための図である。 第2の実施形態に係る受光装置の概略的な構成例を示す図である。 第2の実施形態に係る、フォトン数Pnが閾値Nthを達成する時間Tthと、予測輝度値Lpreとの一例の関係を示す図である。 第2の実施形態に係る輝度値コード生成部による予測輝度値Lpreの生成を概略的に説明するための図である。 第2の実施形態に係る画素アレイ部および垂直制御部の一例の構成を示すブロック図である。 第2の実施形態に適用可能なLC生成部の一例の構成を示すブロック図である。 第2の実施形態に係る第1の配置例に係るLC生成部および画素回路の配置例を示す図である。 第2の実施形態に係る第2の配置例に係るLC生成部および画素回路の配置例を示す図である。 第2の実施形態に係る第3の配置例に係るLC生成部および画素回路の配置例を示す図である。 第2の実施形態に係る第4の配置例に係るLC生成部および画素回路の配置例を示す図である。 第2の実施形態に係る第5の配置例に係る、LC生成部と、それぞれR、GおよびBのカラーフィルタが設けられた光電変換素子を含む画素回路と、の配置例を示す図である。 第2の実施形態に係る第6の配置例に係るLC生成部および画素回路の配置例を示す図である。 第2の実施形態の第1の変形例に係る画素アレイ部および垂直制御部の一例の構成を示すブロック図である。 第2の実施形態の第2の変形例に係る画素アレイ部および垂直制御部の一例の構成を示すブロック図である。 第2の実施形態の第3の変形例に係る画素アレイ部および垂直制御部の一例の構成を示すブロック図である。 第2の実施形態の第4の変形例に係る輝度値コード生成部による予測輝度値Lpreの生成を概略的に説明するための図である。 第3の実施形態に係る受光装置の概略的な構成例を示す図である。 第3の実施形態に適用可能な輝度値分解能と時間分解能との一例の関係を示す図である。 第3の実施形態に係る、高照度および中照度の場合の輝度値コードLc生成について説明するための図である。 第3の実施形態に係る、低照度の場合の輝度値コードLc生成について説明するための図である。 第4の実施形態に係る第1の例の分割露光を説明するための図である。 第4の実施形態に係る第2の例の分割露光を説明するための図である。 第4の実施形態の第2の例に適用可能な画素回路の一例の構成を示すブロック図である。 第4の実施形態に係る第3の例の分割露光を説明するための図である。 第4の実施形態に係る第4の例の分割露光を説明するための図である。 第4の実施形態に係る第5の例の分割露光を説明するための図である。 第4の実施形態に係る第6の例の分割露光を説明するための図である。 第5の実施形態に係る受光装置の概略的な構成例を示す図である。 第5の実施形態に係る計数部の構成の例を概略的に示すブロック図である。 第5の実施形態に適用可能な、フォトン数の予測について説明するための図である。 第5の実施形態に係る画素回路の一例の構成を示すブロック図である。 第5の実施形態に適用可能なカウンタの一例の構成を示すブロック図である。 第5の実施形態の第1の変形例に係る計数部の構成の例を概略的に示すブロック図である。 第5の実施形態の第1の変形例に適用可能な1ビットカウンタの動作例を示すシーケンス図である。 第5の実施形態の第2の変形例に係る計数部の構成の例を概略的に示すブロック図である。 第5の実施形態の第2の変形例に適用可能な、フォトン数の予測について説明するための図である。 負パルスを出力する光電変換素子の接続方法を説明するための図である。 正パルスを出力する光電変換素子の接続方法を説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第1の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第1の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第2の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第2の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第3の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第3の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第4の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第4の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第5の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第5の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第6の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第7の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第7の例について説明するための図である。 第5の実施形態の第2の変形例に適用可能な合成部の構成の第8の例について説明するための図である。 第6の実施形態に係る測距装置の一例の構成を示すブロック図である。 第6の実施形態に適用可能なToF型センサの一例の動作タイミングを示すタイミングチャートである。 第7の実施形態による、第1~第5の実施形態およびその各変形例に係る受光装置を使用する使用例を示す図である。 本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。 撮像部の設置位置の例を示す図である。
以下、本開示の実施形態について、図面に基づいて詳細に説明する。なお、以下の実施形態において、同一の部位には同一の符号を付することにより、重複する説明を省略する。
以下、本開示の実施形態について、下記の順序に従って説明する。
1.第1の実施形態
1-1.第1の実施形態の概略
1-2.第1の実施形態に適用可能な構成
1-3.第1の実施形態に係るタイムコードTc生成処理
1-4.第1の実施形態に適用可能なカウンタの構成例
1-4-1.カウンタの第1の例
1-4-2.カウンタの第2の例
1-4-3.カウンタの第3の例
1-4-4.カウンタの第4の例
1-4-5.カウンタの第5の例
1-4-6.カウンタの第6の例
1-4-7.カウンタの第7の例
1-4-8.カウンタの第8の例
1-4-9.カウンタの第9の例
1-4-10.カウンタの第10の例
1-5.第1の実施形態に適用可能なTC生成部および画素回路の配置
1-5-1.第1の実施形態に係る第1の配置例
1-5-2.第1の実施形態に係る第2の配置例
1-5-3.第1の実施形態に係る第3の配置例
1-5-4.第1の実施形態に係る第4の配置例
1-5-5.第1の実施形態に係る第5の配置例
1-5-6.第1の実施形態に係る第6の配置例
1-6.第1の実施形態の第1の変形例
1-7.第1の実施形態の第2の変形例
1-8.第1の実施形態の第3の変形例
1-9.第1の実施形態および各変形例に適用可能なデータ処理
2.第2の実施形態
2-1.第2の実施形態に適用可能な構成の概略
2-2.第2の実施形態の原理的な説明
2-3.第2の実施形態に適用可能なLC生成部および画素回路の配置
2-3-1.第2の実施形態に係る第1の配置例
2-3-2.第2の実施形態に係る第2の配置例
2-3-3.第2の実施形態に係る第3の配置例
2-3-4.第2の実施形態に係る第4の配置例
2-3-5.第2の実施形態に係る第5の配置例
2-3-6.第2の実施形態に係る第6の配置例
2-4.第2の実施形態の第1の変形例
2-5.第2の実施形態の第2の変形例
2-6.第2の実施形態の第3の変形例
2-7.第2の実施形態の第4の変形例
3.第3の実施形態
4.第4の実施形態
4-1.第4の実施形態に係る第1の例
4-2.第4の実施形態に係る第2の例
4-3.第4の実施形態に係る第3の例
4-4.第4の実施形態に係る第4の例
4-5.第4の実施形態に係る第5の例
4-6.第4の実施形態に係る第6の例
5.第5の実施形態
5-1.第5の実施形態の第1の変形例
5-2.第5の実施形態の第2の変形例
5-2-1.光電変換素子の出力について
5-2-2.合成部の構成の第1の例
5-2-3.合成部の構成の第2の例
5-2-4.合成部の構成の第3の例
5-2-5.合成部の構成の第4の例
5-2-6.合成部の構成の第5の例
5-2-7.合成部の構成の第6の例
5-2-8.合成部の構成の第7の例
5-2-9.合成部の構成の第8の例
6.第6の実施形態
7.第7の実施形態
[1.第1の実施形態]
(1-1.第1の実施形態の概略)
本開示の第1の実施形態について説明する。図1は、第1の実施形態に係る受光装置の概略的な構成例を示す図である。図1において、第1の実施形態に係る受光装置1aは、画素10と、計数部11と、タイムコード生成部12と、取得部13と、を含む。受光装置1aは、指定された露光期間Tsh(例えばシャッタ期間)内に画素10に入射されたフォトン(光子)の数を計数する。計数されたフォトン数に基づき、露光期間Tshにおける照度を求めることが可能である。
画素10は、入射された光を光電変換により電気信号に変換して出力する。より具体的には、画素10は、光電変換により光を電荷に変換する光電変換素子と、光電変換素子から電荷を読み出して電気信号として出力する信号処理回路と、を含む。本開示においては、画素10は、光電変換素子に入射されたフォトン(光子)を電気信号に変換し、フォトンの入射に応じたパルスVplsを出力する。本開示では、画素10が含む光電変換素子として、単一光子アバランシェダイオードを用いる。以下、単一光子アバランシェダイオードを、SPAD(Single Photon Avalanche Diode)と呼ぶ。SPADは、カソードにアバランシ増倍が発生する大きな負電圧を加えておくと、1フォトンの入射に応じて発生した電子がアバランシ増倍を生じ、大電流が流れる特性を有する。SPADのこの特性を利用することで、1フォトンの入射を高感度で検知することができる。
なお、以下では、特に記載の無い限り、「画素10が含む光電変換素子にフォトンが入射する」ことを、「画素10にフォトンが入射する」のように記述する。
計数部11は、画素10から出力されたパルスVplsを、指定された露光期間Tsh内において計数する。計数部11は、例えば露光期間Tshの開始時点でパルスVplsの計数を開始する。計数部11は、計測されたパルスVplsの数Ncntの書き込みを指示する書き込み信号WRenを、所定のタイミングで出力する。例えば、計数部11は、当該数Ncntが露光期間Tshの終了する前に閾値Nthを超えた場合に、書き込みを指示する書き込み信号WRenを出力する。また例えば、計数部11は、当該数Ncntが露光期間Tshを終了しても閾値Nthを超えない場合に、当該露光期間Tshの終了時点において、書き込みを指示する書き込み信号WRenを出力する。
以下では、書き込みを指示する書き込み信号WRenを、書き込み信号WRen(W)として説明を行う。
書き込み信号WRenは、取得部13に供給される。例えば、書き込み信号WRenは、デフォルトがロー(Low)状態であり、ロー状態からハイ(High)状態に移行することで、取得部13に対して書き込みを指示する。
一方、タイムコード生成部12は、露光期間Tshの開始タイミングで初期化され、指定されるサンプリング周波数の周期で値が変化するタイムコードTcを生成する。例えば、タイムコード生成部12は、値「0」を初期値として、当該周期毎に1ずつ値が増加するタイムコードTcを生成する。タイムコード生成部12で生成されたタイムコードTcは、取得部13に供給される。
タイムコードTcが生成される、指定されるサンプリング周波数の周期は、換言すれば、タイムコードTcが更新される周期である。以下では、この周期を、更新周期と呼ぶ。
取得部13は、例えばメモリを含み、書き込み信号WRenがロー状態からハイ状態に移行したタイミングで、タイムコード生成部12から供給されたタイムコードTcを取得し、取得したタイムコードTcをメモリに書き込む。
このタイムコードTcと、閾値Nthとに基づき、画素10に対して露光期間Tshに入射されるフォトンの数を予測できる。図2Aおよび図2Bは、第1の実施形態に適用可能な、フォトン数の予測について説明するための図である。図2Aは、フォトン数のカウント値と時間との関係の例を示す図である。露光期間Tsh内での照度が一定の場合、カウント値は、時間に対して一次関数の関係で変化する。図2Aにおいて、中程度の照度(中照度)の場合のカウント値の時間推移を示す直線Ct_mを考える。照度が中照度よりも高い場合(高照度)のカウント値の時間推移を示す直線Ct_hは、傾きが直線Ct_mより大きくなる。一方、照度が中照度よりも低い場合(低照度)のカウント値の時間推移を示す直線Ct_lは、傾きが直線Ct_mより小さくなる。
図2Bは、上述した図2Aに対して閾値Nthを追加した場合の例を示す図である。図2Bにおいて、高照度および中照度において、カウント値が閾値Nthに達した時間が、それぞれ時間Tth_hおよび時間Tth_mとなる。カウント値は、時間に対して一次関数の関係にあるので、閾値Nthと、時間Tth_hおよび時間Tth_mと、に基づき、露光期間Tshにおける高照度および中照度のカウント値を予測することができる。以下では、高照度および中照度に対して予測されたカウント値を、それぞれ予測カウント値Npre_hおよびNpre_mとする。
原理として、カウント値が、露光期間Tshの開始時点から時間Tth後に閾値Nthに達した場合の予測カウント値Npreは、下記の式(1)にて算出できる。
Npre=Nth×(Tsh/Tth) …(1)
したがって、上述した高照度および中照度の場合の予測カウント値Npre_hおよびNpre_mは、下記の式(2)および(3)にて算出できる。
Npre_h=Nth×(Tsh/Tth_h) …(2)
Npre_m=Nth×(Tsh/Tth_m) …(3)
一方、図2Bの例では、直線Ct_lは、露光期間Tsh内において閾値Nthに到達していない。この場合、露光期間Tshの終了時点におけるカウント値を、直線Ct_lに基づく予測カウント値Npre_lと見做すことができる。
また、図2Bの状態において、カウント値が閾値Nthに到達した時点で、計数部11によるカウントを中止することができる。図2Bの例では、直線Ct_h’およびCt_m’において点線で示されるように、それぞれカウント値が閾値Nthに達した時間以降の計数部11によるカウントを中止する。
なお、図2Aおよび図2Bにおいて、Y軸(カウント値の軸)と直線Ct_hとの間の領域(直線Ct_hを含む)の照度を高照度、直線Ct_hと直線Ct_mとの間の領域(直線Ct_mを含む)の照度を中照度、直線Ct_mとX軸(時間の軸)との間の領域の照度を低照度とする。
この場合、図2Aにおける直線Ct_h、および、図2Bにおける時間Tth_hは、高照度と中照度の境界を示し、図2Aにおける直線Ct_m、および、図2Bにおける時間Tth_mは、中照度と低照度との境界を示す。上述および以下では、高照度を直線Ct_hまたは時間Tth_hにより代表して示し、中照度を直線Ct_mおよび時間Tth_mにより代表して示すものとする。また同様に、予測カウント値Npre_hおよびNpre_mは、それぞれ高照度および中照度における予測カウント値Npreを代表して示している。
すなわち、図2Bにおいて、露光期間Tshの開始時点から時間Tth_h以内にカウント値が閾値Nthに達した場合、高照度であるとする。露光期間Tshの開始時点から時間Tth_hが経過した後、時間Tth_hを超え時間Tth_m以内にカウント値が閾値Nthに達した場合、中照度であるとする。また、露光期間Tshの開始時点から時間Tth_mが経過した後、時間Tth_mを超え露光期間Tshの終了時点までにカウント値が閾値Nthに達したか、または、露光期間Tshの終了時点になってもカウント値が閾値Nthに達しない場合、低照度であるとする。
取得部13は、タイムコード生成部12から、時間Tth_hや時間Tth_mをタイムコードTcとして取得しメモリに書き込んでおく。閾値Nthおよび露光期間Tshは、例えば指定された値であり、固定値であるので、メモリから時間Tth_hや時間Tth_mを読み出して、上述の式(1)に従い計算を実行することで、予測カウント値Npre_hや予測カウント値Npre_mを算出することができる。
ここで、高照度では、画素10に入射するフォトンの単位時間当たりの数が、低照度の場合に比べて多い。したがって、タイムコード生成部12において、高照度の場合に画素10に入射するフォトンの単位時間当たりの数に応じて更新周期を決めることが考えられる。これにより、高照度の場合のフォトン数の計数を高精度に実行することができる。
ところで、図2Bに示されるように、低照度の場合は露光期間Tshが終了するまでフォトン数の計数を行う必要がある。一方、高照度の場合は、露光期間Tshが終了する前の時間Tth_hで、計数されたフォトン数が閾値Nthに達するため、時間Tth_h以降の計数を中止させることができる。したがって、露光期間Tshを通して低照度と高照度とで同一の更新周期に従いフォトン数の計数を行うと、特に低照度の場合に無駄な計数を行うことになる。例えば取得部13が有する、タイムコードTcを書き込むためのメモリのビット数が大きくなってしまう。
そこで、第1の実施形態では、タイムコード生成部12がタイムコードTcを生成するための更新周期を可変とし、露光期間Tshにおける経過時間に応じて更新周期を変化させる。より具体的には、タイムコード生成部12は、露光期間Tshの開始時点において最も短い更新周期を設定し、当該開始時点から露光期間Tshの終了時点に向けて、時間の経過に伴い更新周期を長くする。これにより、タイムコードTcが変化する時間間隔を、露光期間Tshにおける時間の経過に連れて長くすることができる。
図3は、第1の実施形態に係るタイムコード生成部12によるタイムコードTcの生成を概略的に説明するための図である。図3において、上段から、時間の経過、低照度の場合のカウント値の例、高照度の場合のカウント値の例、等間隔の場合のタイムコードTcの例、および、可変間隔の場合のタイムコードTcの例、をそれぞれ示している。なお、ここでは、説明のため、計数部11が有するカウンタが3ビットカウンタであって、閾値Nth=8であるものとする。すなわち、画素10に検知されるフォトン数が8個に達すると、計数部11のカウンタがオーバーフローする。
低照度の場合、カウント値は、露光期間Tsh内に閾値Nthを超えない可能性がある。図3の例では、低照度において、露光期間Tsh内に4個のフォトンPh(1)~Ph(4)、がカウントされ、カウント値が閾値Nthに達していない。
一方、図3において、高照度の場合、露光期間Tsh内に、7個のフォトンPh(11)、Ph(12)、…、Ph(17)がカウントされ、次に8個目のフォトンPh(18)が検知された時点で、カウンタがオーバーフローしている。したがって、8個目のフォトンPh(18)が検知されたタイミングが、カウント値が閾値Nthを超えた時間Tthとなる。計数部11は、カウンタがオーバーフローすると、書き込み信号WRenにより、取得部13に対してタイムコード生成部12で生成されたタイムコードTcの書き込みを指示する。
ここで、タイムコード生成部12が一定の更新周期に従い等間隔でタイムコードTcを生成する場合について考える。図3の例では、露光期間Tshの開始時点でタイムコードTcがリセットされ、露光期間Tshの経過に伴い等間隔でタイムコードTcが生成され、露光期間Tshの終了時点で値「2047」のタイムコードTcが生成されている。すなわち、計数部11は、11ビットを計数可能なカウンタを有する。
この場合において、高照度の場合、時間Tthに対応するタイムコードTcが値「11」となっており、この値「11」が取得部13によりメモリに書き込まれる。一方、露光期間Tsh内にカウント値が閾値Nthに達しない低照度の場合には、露光期間Tshの終了時点までカウントを継続する必要がある。この場合、露光期間Tshの終了時点のタイムコードTcの値「2047」が取得部13によりメモリに書き込まれることになる。したがって、図3の例においてタイムコード生成部12が等間隔でタイムコードTcを生成する場合、取得部13は、11ビットのビット幅を持つメモリが必要となる。
これに対して、第1の実施形態では、タイムコード生成部12は、露光期間Tshの経過に伴い更新周期を変化させて、可変間隔でタイムコードTcを生成する。このとき、タイムコード生成部12は、露光期間Tshの開始時点において、露光期間Tsh内で最も短い更新周期によりタイムコードTcを生成する。露光期間Tshの経過に伴い更新周期を長くし、露光期間Tshの終了時点で、露光期間Tsh内で最も長い更新周期によりタイムコードTcを生成する。
より具体的には、第1の実施形態に係るタイムコード生成部12は、照度を例えば高照度、中照度および低照度の3段階に分類し、それぞれ異なる更新周期に従った間隔でタイムコードTcを生成する。すなわち、高照度、中照度および低照度に対応する更新周期をそれぞれ更新周期fh、fmおよびflとすると、これら更新周期fh、fmおよびflの関係は、fh>fm>flとなる。
タイムコード生成部12は、高照度の更新周期fhに従った間隔のタイムコードTcを、露光期間Tshの開始時点から、露光期間Tshの第1の時点まで生成する。タイムコード生成部12は、中照度の更新周期fmに従った間隔のタイムコードTcを、当該第1の時点から所定時間が経過した第2の時点まで生成する。さらに、タイムコード生成部12は、低照度の更新周期flに従った間隔のタイムコードTcを、当該第2の時点から露光期間Tshの終了時点まで生成する。
図3の例では、第1の実施形態に係るタイムコード生成部12は、露光期間Tshの開始時点でタイムコードTcをリセットし、タイムコードTcの値「1」~「8」を高照度、値「9」~「16」を中照度、値「17」~「31」を低照度に割り当てている。このように、タイムコードTcを生成するための更新周期fを可変とすることで、取得部13が有するメモリは、例えば5ビットのビット幅を持っていればよい。
すなわち、図3の例では、高照度の場合、時間Tthに対するタイムコードTcが値「8」となっており、この値「8」が取得部13によりメモリに書き込まれる。一方、低照度の場合には、露光期間Tshの終了時点までカウントが継続されるが、タイムコードTcの間隔が高照度の場合に比べて長くなっているため、露光期間Tshの終了時点のタイムコードTcの値「31」が取得部13のメモリに書き込まれる。
ここで、上述の式(1)によれば、予測カウント値Npreは、露光期間Tshの開始時点からの経過時間である時間Tthが0に近付くに連れ急激に増大し、さらに時間Tthが0の場合には無限大となる。したがって、時間Tthが極めて短い期間では、予測カウント値Npreが極めて大きな値となり、当該期間内の予測カウント値Npreは、現実的に意味をなさない値となる。これは、当該期間におけるタイムコードTcが不要であることを意味している。そのため、タイムコード生成部12は、露光期間Tshの開始時点から所定時間が経過した時点において最も短い更新周期を設定し、当該時点から露光期間Tshの終了時点に向けて、時間の経過に伴い更新周期を長くすると、好ましい。更新周期を設定するための所定時間は、例えば、露光期間Tshの開始後、所定の照度(例えば所望する最大照度)に対応する予測カウント値Npreが得られると推測される時間とすることができる。
図3の例では、例えばタイムコード生成部12は、最下段に示される可変間隔のタイムコードTcにおいて、タイムコードTc=「5」より小さい値のタイムコードTcを無視している。これに限らず、タイムコード生成部12は、このタイムコードTc=「5」の位置からタイムコードTcの生成を開始してもよい。例えば、タイムコード生成部12は、露光期間Tshの開始時点から上述した所定時間が経過した時点において最も短い更新周期を設定し、当該時点から露光期間Tshの終了時点に向けて、時間の経過に伴い更新周期を長くする。
このように、第1の実施形態に係る受光装置1aでは、露光期間Tsh内において画素10にて検知されたフォトン数が閾値Nthに達した場合に取得するタイムコードTcを、露光期間Tshの経過に伴い変化する更新周期に従った間隔で生成する。そのため、タイムコードTcを書き込むメモリのビット幅を小さく抑えることができる。これにより、回路面積を削減することが可能である。
(1-2.第1の実施形態に適用可能な構成)
次に、第1の実施形態に係る受光装置1aに適用可能な構成の例について説明する。図4は、第1の実施形態に係る受光装置1aが適用された電子機器の一例の構成を概略的に示すブロック図である。図4において、電子機器1000は、レンズ1001を含む光学系と、受光装置1aと、記憶部1002と、制御部1003と、を含む。光学系は、レンズ1001に入射した光を受光装置1aにおける画素10の受光面に導く。
記憶部1002は、メモリなどデータを記憶する記憶媒体と、記憶媒体に対する読み書きを制御する制御部とを含む。記憶部1002は、受光装置1aから出力される出力データを記憶する。
制御部1003は、受光装置1aを制御して、受光装置1aに対して上述の出力データを出力させる動作を実行させる。例えば、制御部1003は、露光期間Tshの開始時点と終了時点(露光期間Tshの長さ)とを、受光装置1aに指示することができる。また例えば、制御部1003は、受光装置1aに対して、タイムコードTcを生成するための更新周期に対する基準信号を出力することができる。さらに例えば、制御部1003は、タイムコードTcの間隔を高照度、中照度および低照度で切り替えるためのタイミングを、受光装置1aに対して指示することができる。
図5は、第1の実施形態に係る受光装置1aに適用可能なデバイスの構成の例を示す模式図である。図5において、受光装置1aは、それぞれ半導体チップからなる受光チップ2000と、ロジックチップ2010とが積層されて構成される。なお、図5では、説明のため、受光チップ2000とロジックチップ2010とを分離した状態で示している。
受光チップ2000は、複数の画素10に1対1に含まれる複数の光電変換素子110が例えば2次元格子状に配置されてなる画素アレイ部2001を含む。ロジックチップ2010は、光電変換素子110によって取得された信号を処理する信号処理部を含むロジックアレイ部2011が設けられる。受光チップ2000に含まれる各回路と、ロジックチップ2010に含まれる各回路と、は、CCC(Copper-Copper Connection)などにより電気的に接続される。ロジックチップ2010に対して、さらに、当該ロジックアレイ部2011と近接して、光電変換素子110によって取得された信号を記憶する記憶部2012と、受光装置1aとしての動作を制御する素子制御部2013と、を設けることができる。
ここで、CCCは、受光チップ2000の配線層に含まれる一部の配線と、ロジックチップ2010の配線層に含まれる一部の配線と、が直接接合されることにより、受光チップ2000とロジックチップ2010とが電気的に接続される接続形態である。この場合の配線は、銅を一例として、金属などの導電材料で形成することができる。
受光チップ2000とロジックチップ2010との接続形態は、CCCに限定されない。例えば、受光チップ2000とロジックチップ2010とを、バンプ接続や貫通電極などにより接続することも可能である。
この受光チップ2000とロジックチップ2010との間の電気的な接続は、例えば、受光チップ2000で生成された画素信号のロジックチップ2010への伝送や、外部から印加された電源の受光チップ2000内、ロジックチップ2010内への供給などを目的とする。
一例として、外部から印加された電源は、例えば受光チップ2000において画素アレイ部2001の外部に設けられるボンディングパッド(引き出し電極)を介して受光チップ2000の配線層に供給される。受光チップ2000の配線層と、ロジックチップ2010の配線層とを、上述したCCCなどの接続部により直接接続し、電源を受光チップ2000からロジックチップ2010に供給する。
また、上述では、この受光チップ2000とロジックチップ2010との間で電気的な接続を行う接続部が、1つの画素10に対して1つ、設けられるように説明したが、これはこの例に限定されない。例えば、複数の画素10に対して1つの接続部が設けられる構成や、1つの画素10に対して複数の接続部が設けられる構成であってもよい。
なお、素子制御部2013は、ロジックアレイ部2011の制御以外にも、例えば光電変換素子110の近傍に、他の駆動や制御の目的で配置することができる。素子制御部2013は、図5に示した配置以外にも、受光チップ2000およびロジックチップ2010の任意の領域に、任意の機能を有するように設けることができる。
なお、上述では、画素10に含まれる各要素のうち光電変換素子110のみが受光チップ2000に配置されるように説明したが、これはこの例に限定されない。すなわち、受光チップ2000に対して、光電変換素子110から読み出した電荷を電気信号に変換する信号処理回路をさらに配置してもよい。さらにまた、受光チップ2000に対して、当該信号処理回路から出力された電気信号に対して他の信号処理を施す回路を配置してもよい。
次に、図6および図7を用いて、受光チップ2000およびロジックチップ2010のより具体的な構成例について説明する。図6は、第1の実施形態に適用可能な受光チップ2000の一例の構成を示す平面図である。この受光チップ2000には、画素アレイ部2001が設けられ、画素アレイ部2001には、2次元格子状に複数の光電変換素子110が設けられる。光電変換素子110の詳細については後述する。
図7は、第1の実施形態に適用可能なロジックチップ2010の一例の構成を示すブロック図である。図7の例では、ロジックチップ2010には、垂直制御部2013a、ロジックアレイ部2011、水平制御部2013b、信号処理部2013cおよび記憶部2012が配置される。これらのうち、垂直制御部2013a、水平制御部2013bおよび信号処理部2013cは、素子制御部2013に含まれる構成とすることができる。また、ロジックアレイ部2011には、光電変換素子110毎に、論理回路2014が配列される。これらの論理回路2014のそれぞれは、対応する光電変換素子110と信号線を介して接続されている。光電変換素子110と、当該光電変換素子110に対応する論理回路2014とからなる回路は、1つの画素10による画素信号を生成する画素回路として機能する。
例えば制御部1003から出力された垂直同期信号および水平同期信号が、垂直制御部2013aおよび水平制御部2013bにそれぞれ供給される。また、制御部1003から出力された露光制御信号が、ロジックアレイ部2011および信号処理部2013cにそれぞれ供給される。
ここで、2次元格子の所定方向(例えば図6および図7における横方向)を行方向とし、行に垂直の方向を列方向とする。すなわち、画素回路(光電変換素子110および論理回路2014)は、画素アレイ部2001およびロジックアレイ部2011に対して、行方向および列方向それぞれに整列されて配置される。以下では、特に記載の無い限り、画素回路の行方向の集合を「行」と呼び、画素回路の列方向の集合を「列」と呼ぶ。
垂直制御部2013aは、垂直同期信号に同期して行を順に選択する。論理回路2014は、図1を用いて説明した計数部11および取得部13を含み、取得部13のメモリに記憶されたタイムコードTcを出力することができる。各論理回路2014から出力されたタイムコードTcは、信号処理部2013cに供給される。水平制御部2013bは、水平同期信号に同期して列を順に選択して画素信号を出力させる。
信号処理部2013cは、さらに、制御部1003から、露光期間Tshを示す情報(露光開始タイミング、露光時間など)が入力される。信号処理部2013cは、各論理回路2014から供給された各タイムコードTcに基づき、例えば上述した式(1)に従い予測カウント値Npreを算出する。信号処理部2013cは、算出した各予測カウント値Npreを出力する。信号処理部2013cから出力された各予測カウント値Npreは、記憶部2012に供給され、記憶される。
図8は、第1の実施形態に係る画素アレイ部2001および垂直制御部2013aの一例の構成を示すブロック図である。また、図8において、画素アレイ部2001に対して、画素回路のより具体的な構成が示されている。
図8に例示されるように、画素アレイ部2001は、複数の画素回路100aを含む。なお、図8では、画素アレイ部2001に2次元格子状に配列される各画素回路100aのうち、1行に含まれる各画素回路100aを抜粋して示している。
図8において、画素回路100aは、光電変換素子110と、信号処理部111aと、カウンタ112と、閾値判定部113aと、メモリ114と、を含む。
光電変換素子110は、フォトンの入射に応じて信号Vphを出力する。上述した図5の構成の場合、信号Vphは、例えばCCCによる結合部を介して受光チップ2000からロジックチップ2010に伝送され、ロジックチップ2010に配される信号処理部111aに供給される。信号処理部111aは、光電変換素子110から出力された信号Vphを整形し、フォトンの入射に応じたパルスVplsとして出力する。パルスVplsの出力タイミングは、後述するTC生成部120から供給される信号SH_ONに従い制御される。カウンタ112は、信号処理部111aから出力されたパルスVplsの数をカウントし、カウント結果をフォトン情報PhInfoとして出力する。
閾値判定部113aは、カウンタ112から出力されたフォトン情報PhInfoに対して、閾値Nthに基づく判定を行う。閾値判定部113aは、フォトン情報PhInfoに基づき、光電変換素子110に入射されたフォトン数が閾値Nthを超えたと判定した場合、書き込み信号WRen(W)を出力する。カウンタ112および閾値判定部113aにより、図1の計数部11が構成される。
メモリ114は、図1の取得部13に対応するもので、書き込み信号WRenに応じて、後述するTC生成部120から信号線142を介して供給されるタイムコードTcを記憶する。なお、メモリ114は、メモリ114自身へのデータの書き込みと、メモリ114からのデータの読み出しを制御するメモリ制御部を含む。
一方、図8において、垂直制御部2013aは、行毎に、TC(タイムコード)生成部120を含む。TC生成部120は、図1に示したタイムコード生成部12と対応するものである。TC生成部120は、制御部1003の制御に従い、露光期間Tshの経過に伴い変化する更新周期を生成し、この更新周期に基づきタイムコードTcを生成する。例えば、制御部1003は、基準のタイミング信号を生成してTC生成部120に供給する。TC生成部120は、この基準タイミング信号に基づき、所定の更新周期でタイムコードTcを生成する。図8の例では、TC生成部120で生成されたタイムコードTcは、信号線142を介して各画素回路100a、100a、…に入力され、各画素回路100a、100a、…が有するメモリ114にそれぞれ供給され記憶される。
各画素回路100a、100a、…がそれぞれ有するメモリ114に記憶された各タイムコードTcは、信号線142を介して、各メモリ114から読み出される。
なお、制御部1003は、例えば、露光期間Tshの開始タイミングをTC生成部120に指示すると共に、露光期間Tshの長さを示す情報をTC生成部120に供給する。
また、TC生成部120は、信号処理部111aがパルスVplsを出力するタイミングを指示する信号SH_ONを生成する。TC生成部120は、例えば、所定のクロック信号に基づき信号SH_ONを生成する。図8の例では、TC生成部120で生成された信号SH_ONは、信号線141を介して各画素回路100a、100a、…に入力され、信号処理部111aに供給される。
図9は、第1の実施形態に適用可能な信号処理部111aの一例の構成を示す図である。図9において、信号処理部111aは、抵抗1101と、インバータ1102と、アンプ1103と、スイッチ1104と、を含む。
図9において、例えばSPADである光電変換素子110は、カソードが抵抗1101を介して電源電位VDDの端子に接続され、アノードが電源電位VDDよりも電位が低い電位GND(1)の端子に接続される。電位GND(1)の端子は、例えば接地端子である。これにより、光電変換素子110には、逆バイアスが印加される。また、光電流は、光電変換素子110のカソードからアノードに向けた方向に流れる。
なお、光電変換素子110は、SPADに限定されない。光電変換素子110としてアバランシェフォトダイオード(APD)や、通常のフォトダイオードを適用することも可能である。
抵抗1101の一端が電源電位VDDに接続され、他端が光電変換素子110のカソードに接続される。光電変換素子110においてフォトンの入射が検出される毎に抵抗1101に光電流が流れ、光電変換素子110のカソード電位が、電源電位VDDより低い初期状態の値に降下する(クエンチング動作)。
抵抗1101と光電変換素子110のカソードとの接続点から取り出された信号が、インバータ1102に入力される。インバータ1102は、入力された、光電変換素子110のカソード電位の信号を反転し、反転出力信号Vsigをスイッチ1104を介してアンプ1103に供給する。アンプ1103は、反転出力信号Vsigを整形して、パルスVplsとして出力する。また、インバータ1102およびアンプ1103が接続される接地側の電位GND(2)は、光電変換素子110のアノードが接続される接地側の電位GND(1)と異なる。
なお、図9において、光電変換素子110は、受光チップ2000上に形成される。また、抵抗1101、インバータ1102、アンプ1103およびスイッチ1104は、ロジックチップ2010上に形成される。光電変換素子110のカソードが、例えばCCCによる結合部1105aを介して、抵抗1101とインバータ1102の入力端とが接続される接続点に接続される。また、光電変換素子110のアノードが、例えばCCCによる結合部1105bを介して、ロジックチップ2010上に配される接地側の電位(1)を供給する供給線に接続される。
図10Aおよび図10Bを用いて、第1の実施形態に適用可能な光電変換素子110の構成の例について説明する。図10Aは、第1の実施形態に適用可能な、SPADとしての光電変換素子110の構成の例を示す図である。図10において、光電変換素子110は、SPADを用いたSPAD画素としての増倍領域と光電変換を行う光電変換部(N-領域)840を備え、光電変換部840の裏面側の最表面は、光が照射される光照射部とされている。
図10Aにおいて、図示されないアノード電極がP型半導体領域760と電気的に接続されている。P型半導体領域760は、下層ほど不純物濃度が低くなるように構成されている。また、P型半導体領域760から、金属層830を含む画素分離部831に沿ってP型半導体領域700、P-型半導体領域710が形成され、P型半導体領域760からアバランシュ部720までが電気的に接続されている。アバランシュ部720はP+型半導体領域730とN+型半導体領域740が接合されて構成されている。P型半導体領域700は、アバランシュ部720で読み出したい電荷(電子)が通過するように、逆の電荷(ホール)を蓄積させることで構成されている。P-型半導体領域710は、アバランシュ部720に電荷が通過するよう、中央の電位を高くするため、低濃度の領域とすることが望ましい。
N+型半導体領域740は、N+型半導体領域750を介して電極801と接続されている。また、P+型半導体領域730とN+型半導体領域740の側面には、N-型半導体領域780が形成されている。また、N+型半導体領域740およびN-型半導体領域780と電気的に接続されるP+型半導体領域790が設けられ、P+型半導体領域790は電極800を介して接地(GND)されている。
画素分離部831の側面とP型半導体領域760の上層には、固定電荷膜810が設けられている。P型半導体領域760の上層において、固定電荷膜810上に、絶縁膜821を介してカラーフィルタ822が設けられる。カラーフィルタ822のさらに上に、オンチップレンズ820が設けられる。なお、カラーフィルタ822は、用途に応じて設けられる。
図10Bは、第1の実施形態に適用可能な、フォトダイオードとしての光電変換素子110を含む受光部20010の構成の例を示す図である。図10Bにおいて、フォトダイオードである光電変換素子110が、半導体基板20018の裏面(図10Bでは上面)側から入射する入射光20001を受光する。光電変換素子110の上方には、平坦化膜20013、カラーフィルタ20012、マイクロレンズ20011が設けられており、各部を順次介して入射した入射光20001を、受光面20017で受光して光電変換が行われる。
例えば、光電変換素子110は、N型半導体領域20020が、電荷(電子)を蓄積する電荷蓄積領域として形成されている。光電変換素子110においては、N型半導体領域20020は、半導体基板20018のP型半導体領域20016、20041の内部に設けられている。N型半導体領域20020の、半導体基板20018の表面(下面)側には、裏面(上面)側よりも不純物濃度が高いP型半導体領域20041が設けられている。つまり、光電変換素子110は、HAD(Hole-Accumulation Diode)構造になっており、N型半導体領域20020の上面側と下面側との各界面において、暗電流が発生することを抑制するように、P型半導体領域20016、20041が形成されている。
半導体基板20018の内部には、複数の受光部20010の間を電気的に分離する画素分離部20030が設けられており、この画素分離部20030で区画された領域に、光電変換素子110が設けられている。図中、上面側から、固体撮像装置を見た場合、画素分離部20030は、例えば、複数の受光部20010の間に介在するように格子状に形成されており、光電変換素子110は、この画素分離部20030で区画された領域内に形成されている。
各光電変換素子110では、アノードが接地されており、受光部20010において、光電変換素子110が蓄積した信号電荷(例えば、電子)は、例えば、MOSFET(Metal Oxide Semiconductor Field Effect Transistor)による図示せぬ転送トランジスタなどを介して読み出され、電気信号として、図示せぬVSL(垂直信号線)へ出力される。
配線層20050は、半導体基板20018のうち、遮光膜20014、カラーフィルタ20012、マイクロレンズ20011等の各部が設けられた裏面(上面)とは反対側の表面(下面)に設けられている。
配線層20050は、配線20051と絶縁層20052とを含み、絶縁層20052内において、配線20051が各素子に電気的に接続するように形成されている。配線層20050は、いわゆる多層配線の層になっており、絶縁層20052を構成する層間絶縁膜と配線20051とが交互に複数回積層されて形成されている。ここでは、配線20051としては、転送Tr等の光電変換素子110から電荷を読み出すためのトランジスタへの配線や、VSLなどの各配線が、絶縁層20052を介して積層されている。
配線層20050の、光電変換素子110が設けられている側に対して反対側の面には、支持基板20061が設けられている。例えば、厚みが数百μmのシリコン半導体からなる基板が、支持基板20061として設けられている。
遮光膜20014は、半導体基板20018の裏面(図では上面)の側に設けられている。遮光膜20014は、半導体基板20018の上方から半導体基板20018の裏面へ向かう入射光20001の一部を、遮光するように構成されている。
遮光膜20014は、半導体基板20018の内部に設けられた画素分離部20030の上方に設けられている。ここでは、遮光膜20014は、半導体基板20018の裏面(上面)上において、シリコン酸化膜などによる絶縁膜20015を介して、凸形状に突き出るように設けられている。これに対して、半導体基板20018の内部に設けられた光電変換素子110の上方においては、光電変換素子110に入射光20001が入射するように、遮光膜20014は、設けられておらず、開口している。
つまり、図10B中、上面側から受光部20010を見た場合、遮光膜20014の平面形状は、複数の受光部20010を区画する格子状になっており、入射光20001が受光面20017へ通過する開口が形成されている。
遮光膜20014は、光を遮光する遮光材料で形成されている。例えば、チタン(Ti)膜とタングステン(W)膜とを、順次、積層することで、遮光膜20014が形成されている。この他に、遮光膜20014は、例えば、窒化チタン(TiN)膜とタングステン(W)膜とを、順次、積層することで形成することができる。遮光膜20014は、平坦化膜20013によって被覆されている。平坦化膜20013は、光を透過する絶縁材料を用いて形成されている。
画素分離部20030は、溝部20031、固定電荷膜20032および絶縁膜20033を有する。
固定電荷膜20032は、半導体基板20018の裏面(上面)の側において、複数の受光部20010の間を区画している溝部20031を覆うように形成されている。具体的には、固定電荷膜20032は、半導体基板20018において裏面(上面)側に形成された溝部20031の内側の面を一定の厚みで被覆するように設けられている。そして、その固定電荷膜20032で被覆された溝部20031の内部を埋め込むように、絶縁膜20033が設けられている(充填されている)。
ここでは、固定電荷膜20032は、半導体基板20018との界面部分において正電荷(ホール)蓄積領域が形成されて暗電流の発生が抑制されるように、負の固定電荷を有する高誘電体を用いて形成されている。固定電荷膜20032が負の固定電荷を有するように形成されていることで、その負の固定電荷によって、半導体基板20018との界面に電界が加わり、正電荷(ホール)蓄積領域が形成される。
固定電荷膜20032は、例えば、ハフニウム酸化膜(HfO2膜)で形成することができる。また、固定電荷膜20032は、その他、例えば、ハフニウム、ジルコニウム、アルミニウム、タンタル、チタン、マグネシウム、イットリウム、ランタノイド元素等の酸化物の少なくとも1つを含むように形成することができる。
(1-3.第1の実施形態に係るタイムコードTc生成処理)
図11および図12を用いて、第1の実施形態に係るTC生成部120の動作について説明する。図11は、第1の実施形態に係るTC生成部120の一例の構成を示すブロック図である。また、図12は、第1の実施形態に係るTC生成部120の動作を説明するための一例のタイミングチャートである。
図11において、第1の実施形態に係るTC生成部120は、時間カウンタ121と、分周設定値記憶部122と、周波数判定部123と、コード生成部124と、を含む。
時間カウンタ121は、一定周波数で駆動され、例えば制御部1003から供給される基準クロック信号のカウントを行う。時間カウンタ121は、例えば露光期間Tshの開始時点でカウント値が「0」に初期化され、基準クロック信号の立ち上がりまたは立ち下がりでカウント値を「1」ずつ増加させ、基準クロック信号のカウントを行う。ここでは、説明のため、露光期間Tshは、基準クロック信号の128カウント分の長さを有するものとする。この場合、時間カウンタ121のカウント値は、露光期間Tshの開始時点で「0」、終了時点で「127」となる。
分周設定値記憶部122は、複数の周波数分周値が予め記憶され、周波数判定部123の要求に応じて、記憶される複数の周波数分周値から要求される周波数分周値を出力する。一例として、分周設定値記憶部122は、周波数分周値として値「31」、「63」および「127」を記憶する。
周波数判定部123は、時間カウンタ121のカウント値と、分周設定値記憶部122から出力された周波数分周値とが入力される。周波数判定部123は、入力されたカウント値および周波数分周値に基づき、周波数情報を出力する。ここでは、周波数情報の初期値を「1」とする。
より具体的には、周波数判定部123は、入力されたカウント値と周波数分周値とが一致するか否かを判定する。若し、カウント値と周波数分周値とが一致し、且つ、現在入力されている周波数分周値が最大値ではないと判定された場合、周波数判定部123は、周波数情報に1を加算して出力する。それと共に、周波数判定部123は、分周設定値記憶部122に対して、現在入力されている周波数分周値より1つ大きい値の周波数分周値を要求する。
コード生成部124は、基準クロック信号と、周波数判定部123から出力された周波数情報とに基づき、タイムコードTcを出力する。このとき、コード生成部124は、周波数情報に応じた回数で基準クロック信号を分周して更新周期を変更し、タイムコードTcの時間間隔を制御する。例えば、コード生成部124は、周波数情報の値が「1」で基準クロック信号を1回分周し、基準クロック信号の1/2の更新周期に応じてタイムコードTcを生成する。また例えば、コード生成部124は、周波数情報の値が「2」で基準クロック信号を2回分周し、基準クロック信号の1/4の更新周期に応じてタイムコードTcを生成する。
図12のタイミングチャートを用いて、TC生成部120の動作について、より具体的に説明する。図12において、クロックは、時間カウンタ121により基準クロック信号をカウントしたカウント値を示す。図12の例では、クロックの値は、露光期間Tshの開始時点で「0」、終了時点で「127」とされている。露光期間Tshの開始時点において、周波数判定部123は、分周設定値記憶部122から周波数分周値の初期値である値「31」を取得すると共に、周波数情報の初期値である値「1」を出力する。
コード生成部124は、値「1」の周波数情報に基づき基準クロック信号を1回分周し、基準クロック信号の1/2の周波数(更新周期)に応じて1ずつ値が増加するタイムコードTcを生成する。
周波数判定部123は、クロックの値が周波数分数値「31」と一致したと判定した場合、分周設定値記憶部122に対して、現在の周波数分数値「31」より1つ大きい値の周波数分周値「63」を要求する。それと共に、周波数判定部123は、周波数情報の値「1」に「1」を加算して値「2」とする。コード生成部124は、周波数情報の値「2」に応じて基準クロック信号を2回分周し、基準クロック信号の1/4の周波数に応じて1ずつ値が増加するタイムコードTcを生成する。
図12の例では、コード生成部124は、周波数情報が値「1」の期間(クロックの値「0」~「31」)に、基準クロック信号の1/2の周波数に従い、値「0」から値「15」まで1ずつ増加するタイムコードTcを順次に生成する。コード生成部124は、周波数情報が値「1」から値「2」に切り替わると、基準クロック信号の1/4の周波数に従い、次の値「16」から1ずつ増加するタイムコードTcを生成する。
このように、第1の実施形態に係るTC生成部120によれば、クロックの値が周波数分周値と一致する毎に、基準クロック信号を分周する分周比を大きくすると共に、周波数分周値を更新している。そのため、露光期間Tshにおける時間の経過に応じて更新周期が順次に長くなり、タイムコードTcの時間間隔が順次に長くなる。
ここで、露光期間Tsh内において時間間隔が固定の時間間隔で生成されたタイムコードTc’を用いた場合について考える。ここでは、タイムコードTc’は、基準クロック信号の周波数の1/2の周波数に従い生成されるものとする。この場合、露光期間Tshの終了時点でのタイムコードTc’は、値「63」となり、6ビットのデータとなる。これに対して、第1の実施形態では、タイムコードTcの時間間隔を時間の経過に伴い長くすることで、露光期間Tshの終了時点でのタイムコードTcは、値「31」となり、5ビットのデータとなる。
このように、タイムコードTcの時間間隔を可変とすることで、タイムコードTcのビット数を少なくすることができ、タイムコードTcにより取得される時間Tthを格納するメモリのサイズの削減が可能となる。
基準クロック信号に対する分周比が最も小さい(1/2)期間は、タイムコードTcが最も短い更新周期に応じて生成される期間であり、入射されたフォトン数が閾値Nthに達した時間Tthを、最も高い精度で取得できる。一方、当該分周比が大きくなるに連れ、タイムコードTcを生成するための更新周期が長くなり、時間Tthの取得精度が低くなる。
高照度の場合は、露光期間Tshの開始時点から短時間に多数のフォトンが入射されると考えられる。この場合、フォトン入射の平均時間間隔Taが短くなるため、時間Tthの取得に高い精度が要求される。一方、低照度の場合は、露光期間Tshの開始時点から長時間にわたり少数のフォトンが入射されと考えられる。この場合、フォトン入射の平均時間間隔Taが長くなる。そのため、時間Tthの取得に高い精度は要求されないと考えられる。
したがって、露光期間Tshの開始時点においてタイムコードTcの時間間隔を最も短くし、露光期間Tshの経過に伴いタイムコードTcの時間間隔を順次長くしていくことで、時間Tthを効率良く取得可能となる。また、高照度、中照度および低照度において、それぞれ適切なタイムコードTcの時間間隔を設定できるため、量子化ノイズを抑制することも可能である。
図12の例では、時間カウンタ121が一定周波数で駆動されて基準クロック信号をカウントしているが、これはこの例に限定されない。例えば、時間カウンタ121を駆動する周波数を可変としてもよい。図13は、第1の実施形態に係る、時間カウンタ121を駆動する周波数を可変とした場合のTC生成部120の動作を説明するための一例のタイミングチャートである。なお、図13のタイミングチャートの各部の意味は、上述した図12のタイミングチャートと同様であるので、ここでの説明を省略する。
図13の例では、時間カウンタ121を、クロックの値が「32」以降で、それ以前の1/2の周波数で駆動している。これに伴い、分周設定値記憶部122に記憶される周波数分周値を、値「31」、「47」および「63」としている。周波数判定部123およびコード生成部124の動作は、上述した図12の例と同様である。この場合であっても、タイムコードTcの時間間隔を周波数分周値および周波数情報に基づき可変にでき、タイムコードTcのビット数を少なくすることが可能となる。
また、上述では、タイムコードTcとして1ずつ増加する数値を適用しているが、これはこの例に限定されない。すなわち、タイムコードTcの増加幅は1に限定されない。さらには、値が重複しなければ、単純増加あるいは単純減少以外の値をタイムコードTcに用いてもよい。
図14は、第1の実施形態に適用可能な、単純増加あるいは単純減少以外の値の例としてグレイコードをタイムコードTcに適用した例を示すタイミングチャートである。なお、図14のタイミングチャートの各部の意味は、上述した図12のタイミングチャートと同様であるので、ここでの説明を省略する。また、図14では、図12における周波数分周値が値「31」の期間を抜粋して示している。
グレイコードは、前後に隣接する符号間のハミング距離が必ず1であるコードであって、ある値から隣接する値に変化する際に、常に1ビットしか変化しない特性を持つ。このように、タイムコードTcにグレイコードを適用することで、TC生成部120におけるタイムコードTcの発行に要する電力を、例えば一般的なバイナリを用いた場合に比べて削減することが可能である。また、グレイコードは、値が隣接する値に変化する際のビットの変化が一般的なバイナリを用いた場合に比べて小さいので、フォトン数の予測に係る不安定要素を抑制することも可能である。例えば、タイムコードTcとしてグレイコードを用いることで、TC生成部120における周波数設計を緩和できる効果も有する。
図11に示したTC生成部120は、周波数判定部123が周波数分周値と時間カウンタ121のカウント値とに基づき、コード生成部124がタイムコードTcを生成するための周波数情報を生成しているが、これはこの例に限定されない。例えば、PLL(Phase Locked Loop)を用いて周波数情報を生成してもよい。
図15は、第1の実施形態に適用可能な、PLLを用いてタイムコードTcを生成する構成の例を示すブロック図である。図15において、TC生成部120’は、分周設定値記憶部122と、クロック生成部125と、PLL回路126と、コード生成部127と、を含む。分周設定値記憶部122は、図11に示したTC生成部120と同様に、複数の周波数分周値(例えば値「31」、「63」および「127」)が予め記憶される。
クロック生成部125は、例えば制御部1003から供給される基準クロック信号に基づき、周波数が安定的とされたクロック信号を生成する。PLL回路126は、クロック生成部125で生成されたクロック信号と、PLL回路126の要求に応じて分周設定値記憶部122から出力された周波数分周値とが入力される。PLL回路126は、入力されたクロック信号に基づき周波数分周値に応じた周波数のクロック信号を生成する。PLL回路126で生成されたクロック信号は、コード生成部127に供給される。
コード生成部127は、例えばカウンタと比較部とを含む。カウンタは、PLL回路126から供給されたクロック信号をカウントする。比較部は、カウンタによりカウントされたカウント値と閾値Nthとを比較する。コード生成部127は、カウント値が閾値Nth以上になったと判定した場合、当該カウント値をタイムコードTcとして出力する。
また、コード生成部127は、カウント値が閾値Nth以上になり、且つ、現在入力されている周波数分周値が最大値ではないと判定した場合、分周設定値記憶部122に対して、現在入力されている周波数分周値より1つ大きい周波数分周値を要求する。これにより、PLL回路126が生成するクロック信号の周波数を下げることができる。このとき、タイムコードTcを生成するためのクロック信号をPLL回路126により制御することで、タイムコードTcのより細かな制御が可能となる。
(1-4.第1の実施形態に適用可能なカウンタの構成例)
次に、第1の実施形態に適用可能なカウンタ112(図8参照)の構成例について説明する。
(1-4-1.カウンタの第1の例)
まず、第1の実施形態に適用可能なカウンタ112の第1の例について説明する。図16Aおよび図16Bは、第1の実施形態に適用可能な第1の例のカウンタ112aの一例の構成を示すブロック図である。なお、以下では、特に記載の無い限り、閾値Nthを10進数表記で値「31」、2進数表記で値「0b11111」とする。なお、2進数表記において、先頭の文字列「0b」は、後続する文字列(この例では「11111」)が2進数表記による値であることを示している。
図16Aにおいて、第1の例に係るカウンタ112aは、それぞれ1ビットのカウントを行う複数のカウンタ1120、1120、…を含む。カウンタ1120、1120、…は、図16Bに例示されるように、T(トグル)フリップフロップ(以下、T-FFと略称する)が直列接続された構成となっている。
T-FFは、入力端子Tに立ち下がりエッジが入力される毎に、出力端子Qの値が反転する。したがって、各カウンタ1120を、カウンタ1120の出力端子Qと次段のカウンタ1120の入力端子Tとを接続した直列接続とすることで、各カウンタ1120がビットをカウントするカウンタ112aを構成できる。図16Aの例では、カウンタ112aにおいて、5個のカウンタ1120が直列接続されているので、カウンタ112aは、ビット「0」(Bit(0))~ビット「4」(Bit(4))までの5ビットのカウンタとして動作する。
各カウンタ1120が値「1」の状態でパルスVplsの立ち下がりエッジが入力されると、カウンタ112aがオーバーフローして、MSB(Most Significant Bit)のカウンタ1120から値「1」が出力される。この値「1」は、フォトン情報PhInfoとして、図8の閾値判定部113aに対応する閾値判定部113a(a)に入力される。閾値判定部113a(a)は、例えば1ビットのカウンタ1130を含み、カウンタ112aから値「1」が入力されると、カウンタ1130において1ビットが出力され、入射されたフォトン数が閾値Nthに達したとして、メモリ114への書き込み信号WRen(W)を出力する。
(1-4-2.カウンタの第2の例)
次に、第1の実施形態に適用可能なカウンタ112の第2の例について説明する。図17は、第1の実施形態に適用可能な第2の例のカウンタ112bの一例の構成を示すブロック図である。
図17において、第2の例に係るカウンタ112bは、それぞれT-FFによるカウンタ1120、1120、…が直列に接続される。カウンタ112bは、各カウンタ1120、1120、…の出力端子Qから出力が取り出され、取り出された各ビットがビット列として出力される。図17の例では、カウンタ112bが5個のカウンタ1120を含むため、5ビットのビット列として出力される。カウンタ112b出力されたビット列は、フォトン情報PhInfoとして閾値判定部113a(b)に供給される。
閾値判定部113a(b)は、図8の閾値判定部113aに対応するもので、比較回路1131を含む。閾値判定部113a(b)に供給されたフォトン情報PhInfoは、比較回路1131に入力される。比較回路1131は、入力されたフォトン情報PhInfoと、閾値Nthとを比較して、フォトン情報PhInfoが示す値と、閾値Nthとが一致した場合に、メモリ114への書き込み信号WRen(W)を出力する。
この第2の例のカウンタ112bおよび閾値判定部113a(b)によれば、閾値Nthとして、カウンタ1120の数に対応するビット数の範囲内の任意の値を設定することが可能である。
(1-4-3.カウンタの第3の例)
次に、第1の実施形態に適用可能なカウンタ112の第3の例について説明する。図18は、第1の実施形態に適用可能な第3の例のカウンタ112cの一例の構成を示すブロック図である。
図18において、第3の例に係るカウンタ112cは、それぞれT-FFによるカウンタ1120、1120、…が直列に接続される。カウンタ112cは、MSBに対応するカウンタ1120の入力および出力と、カウンタ112cに入力されるパルスVplsとの、3つの信号がフォトン情報PhInfoとして出力される。カウンタ112cから出力されたフォトン情報PhInfoは、図8の閾値判定部113aに対応する閾値判定部113a(c)に供給される。
閾値判定部113a(c)は、3入力のAND回路1132を含む。閾値判定部113a(c)に入力されたフォトン情報PhInfoに含まれる3つの信号は、それぞれAND回路1132の3つの入力端に入力される。閾値判定部113a(c)は、フォトン情報PhInfoに含まれる3つの値が「1」になった場合に、メモリ114への書き込み信号WRen(W)を出力する。カウンタ112cに入力されるパルスVplsを論理積による判定条件に用いているため、パルスVplsの入力に同期して、書き込み信号WRenを出力できる。
(1-4-4.カウンタの第4の例)
次に、第1の実施形態に適用可能なカウンタ112の第4の例について説明する。図19Aおよび図19Bは、第1の実施形態に適用可能な第4の例のカウンタ112dの一例の構成を示すブロック図である。
図19Aにおいて、カウンタ112dは、それぞれ非同期型T-FF(以下、SRT-FF)であるカウンタ1120’、1120’、…が直列に接続される。SRT-FFは、外部からの制御信号で初期状態を決定できるようにしたものである。それぞれSRT-FFである各カウンタ1120’は、図19Bに示されるように、入力端子Tに加え、端子Sおよび端子Rを有する。図19Bの例では、例えば信号SETが端子Rに入力されると共に、反転されて端子Sに入力される。この接続の場合、信号SET=0で値「1」が書き込まれ(Q=1)、信号SET=1で値「0」が書き込まれる(Q=0)。
図19Aの例では、LSB(Least Significant Bit)側の3つのカウンタ1120’(Bit(0)、Bit(1)およびBit(2))に対して、信号RST_CNTが上述の信号SETとして入力される。また、MSB側の2つのカウンタ1120’(Bit(3)およびBit(4))に対して、信号SET_CNTが上述の信号SETとして入力される。例えば、カウンタ112dに含まれる各カウンタ1120’、1120’、…をリセットする際に、初期化処理として、信号RST_CNTを値「0」とし、信号SET_CNTを値「1」とする。これにより、LSB側の3つのカウンタ1120’(Bit(0)、Bit(1)およびBit(2))にそれぞれ「0」が書き込まれ、MSB側の2つのカウンタ1120’(Bit(3)およびBit(4))に値「1」が書き込まれる。
このように各カウンタ1120’、1120’、…を初期化することで、閾値Nthを制御することができる。上述の例では、MSB側の2つのカウンタ1120’(Bit(3)およびBit(4))の値が既に「1」とされているので、パルスVplsが8個入力されることで、カウンタ112dがオーバーフローして、値「1」のフォトン情報PhInfoが出力される。すなわち、この場合、閾値Nthが値「8」に制御される。
(1-4-5.カウンタの第5の例)
次に、第1の実施形態に適用可能なカウンタ112の第5の例について説明する。図20は、第1の実施形態に適用可能な第5の例のカウンタ112eの一例の構成を示すブロック図である。
図20において、カウンタ112eは、それぞれ非同期型T-FF(以下、SRT-FF)であるカウンタ1120’、1120’、…が直列に接続される。各カウンタ1120’、1120’、…に対して、5ビットの信号INIT_CNT_DATAの各ビットが、それぞれ図19Bを用いて説明した信号SETとして、それぞれスイッチ1121、1121、…を介して入力される。各スイッチ1121は、1ビットの信号INIT_CNTによりオン(閉)およびオフ(開)を同時に制御される。
信号INIT_CNT_DATAの各ビットを例えば値「0」とし、信号INIT_CNTにより所定のタイミングで各スイッチ1121をオンとすることで、各カウンタ1120’、1120’、…に値「0」が書き込まれ、各カウンタ1120’、1120’、…をリセットすることができる。
(1-4-6.カウンタの第6の例)
次に、第1の実施形態に適用可能なカウンタ112の第6の例について説明する。カウンタ112の第6の例は、カウンタ112を構成する各カウンタ1120、1120、…(または1120’、1120’、…)の配置を工夫した例である。図21は、第1の実施形態に適用可能な第6の例のカウンタ112f1、112f2および112f3の一例の構成を示す図である。なお、これらカウンタ112f1、112f2および112f3は、上述したカウンタ112a~112eの何れを適用してもよい。
図21の例では、3つの光電変換素子1101、1102および1103が示されている。なお、図21では、煩雑さを避けるため、図10に示した構成のうち、画素分離部831および光電変換部840を抜粋して示している。
図5を参照し、これら光電変換素子1101、1102および1103は、受光チップ2000上に配置される。一方、各カウンタ112f1、112f2および112f3は、ロジックチップ2010上に配置される。受光チップ2000上の光電変換素子1101、1102および1103は、電極801’を介して受光チップ2000における接続部850aに接続される。接続部850aは、例えばCCCによりロジックチップ2010における接続部850bと接続される。一方、各カウンタ112f1、112f2および112f3は、それぞれ対応する電極851を介して各接続部850bに接続される。すなわち、光電変換素子1101、1102および1103がフォトンの入射に応じて出力した各信号Vphは、電極801’と、接続部850aおよび850bと、電極851と、を介して、各カウンタ112f1、112f2および112f3に供給される。
ここで、説明のため、各カウンタ112f1、112f2および112f3として図16Aに示したカウンタ112aが適用されるものとする。また、カウンタ112f1、112f2および112f3は、それぞれ6個のカウンタ1120(Bit(0))~1120(Bit(5))を含む6ビットカウンタであるものとする。
また、以下では、特に記載の無い限り、各カウンタ112f1、112f2および112f3に含まれる6個のカウンタ1120(Bit(0))~1120(Bit(5))のうち、LSB側の各カウンタ1120(Bit(0))、1120(Bit(1))、1120(Bit(2))および1120(Bit(3))をそれぞれ纏めてカウンタ1120a1、1120a2および1120a3と記述する。同様に、各カウンタ112f1、112f2および112f3に含まれる6個のカウンタ1120(Bit(0))~1120(Bit(5))のうち、MSB側の各カウンタ1120(Bit(4))および1120(Bit(5))をそれぞれ纏めてカウンタ1120b1、1120b2および1120b3と記述する。
例えばカウンタ112f1が含むLSB側の各カウンタ1120a1は、MSB側の各カウンタ1120b1と比較して、高速にカウントが行われる。そこで、カウンタ112f1に含まれるLSB側の各カウンタ1120a1を、ロジックチップ2010上の、対応する光電変換素子1101の直下に対応する位置に配置する。カウンタ112f2および112f3についても同様に、各カウンタ112f2および112f3に含まれるLSB側のカウンタ1120a2および1120a3を、ロジックチップ2010上の、それぞれ対応する光電変換素子1102および1103の直下に対応する位置に配置する。
一方、各カウンタ112f1、112f2および112f3が含むMSB側の各カウンタ1120b1、1120b2および1120b3は、ロジックチップ2010上に位置を纏めて配置する。このとき、図21に示されるように、各カウンタ1120b1、1120b2および1120b3は、対応するLSB側の各カウンタ1120a1、1120a2および1120a3と近接していなくても構わない。
このように、入射フォトン数の平均時間間隔Taが長く、カウントの速度が遅い各カウンタ1120b1~1120b3を纏めて配置すると、カウント速度と回路面積とのトレードオフができる。これにより、カウンタ112f1~112f3の性能を維持しつつ、回路面積を削減することが可能となる。
なお、図21では、3つの光電変換素子1101~1103について、MSB側のカウンタ1120b1~1120b3を纏めているが、これはこの例に限定されず、2つの光電変換素子110や、4以上の光電変換素子110について、MSB側のカウンタ1120を纏めて配置してもよい。
(1-4-7.カウンタの第7の例)
次に、第1の実施形態に適用可能なカウンタ112の第7の例について説明する。カウンタ112の第7の例は、上述した第6の例において、MSB側の各カウンタ1120b1~1120b3を共有化した例である。図22は、第1の実施形態に適用可能な第7の例のカウンタ112g1、112g2および112g3の一例の構成を示す図である。なお、これらカウンタ112g1、112g2および112g3は、上述したカウンタ112a~112eの何れを適用してもよい。
図22に示されるように、各カウンタ112g1~112g3において、LSB側の各カウンタ1120a1~1120a3は、上述した第6の例と同様に、ロジックチップ2010上の、それぞれ対応する光電変換素子1101~1103の直下に対応する位置に配置される。一方、各カウンタ112g1~112g3に含まれるMSB側の各カウンタ1120(Bit(4))および1120(Bit(5))は、各カウンタ112g1~112g3で纏められて、カウンタ1120cとしてロジックチップ2010上に配置される。
図23は、第1の実施形態に適用可能なカウンタ1120cの一例の構成を示すブロック図である。図23において、カウンタ1120cは、メモリ11221、11222および11223と、加算回路1123と、結果メモリ1124と、を含む。
例えばメモリ11221は、光電変換素子1101に対応するLSB側のカウンタ1120a1の出力が供給される。メモリ11221は、カウンタ1120a1から供給された出力値をそれぞれ記憶する。すなわち、メモリ11221は、カウンタ1120a1においてオーバーフローした値をそれぞれ記憶する。これにより、メモリ11221は、MSB側のビットをカウントするカウンタとして機能する。
メモリ11222および11223も同様に、それぞれ光電変換素子1102および1103に対応するLSB側のカウンタ1120a2および1120a3においてオーバーフローした値をそれぞれ記憶する。
メモリ11221、11222および11223に記憶された値は、加算回路1123により加算され、結果メモリ1124に記憶される。結果メモリ1124から読み出された値は、フォトン情報PhInfoとして出力され、例えば閾値判定部113aに供給される。
(1-4-8.カウンタの第8の例)
次に、第1の実施形態に適用可能なカウンタ112の第8の例について説明する。上述したカウンタ112の第1~第7の例では、光電変換素子110に対するフォトンの入射に応じたパルスVplsを、値「0」および「1」の2値でカウントするデジタルカウンタを用いてカウントしていた。この第8の例では、アナログカウンタを用いてパルスVplsをカウントする。
図24は、第1の実施形態に適用可能な第8の例のカウンタ112hの一例の構成を示すブロック図である。図24において、カウンタ112hは、アナログカウンタ1125aを含む。アナログカウンタ1125aは、例えばキャパシタを有し、入力されたパルスVplsの電圧に応じた電荷をキャパシタに蓄積する。キャパシタの容量Cと、蓄積される電荷Qと、キャパシタから取り出される電圧Vとの間には、V=Q/Cの関係があるので、アナログカウンタ1125aは、入力されたパルスVplsの数に応じた電圧を取り出すことができる。アナログカウンタ1125aにおいて取り出された電圧は、フォトン情報PhInfoとして、図8の閾値判定部113aに対応する閾値判定部113a(d)に供給される。
閾値判定部113a(d)は、比較器1133を含み、比較器1133により、カウンタ112hから供給されたフォトン情報PhInfoと、電圧値として供給される閾値Nthとを比較する。比較器1133は、例えば、フォトン情報PhInfoの電圧値が閾値Nthの電圧値よりも高い場合に、書き込み信号WRen(W)を出力する。
(1-4-9.カウンタの第9の例)
次に、第1の実施形態に適用可能なカウンタ112の第9の例について説明する。この第9の例では、アナログカウンタと、値「0」および「1」の2値でカウントするデジタルカウンタと、を用いてパルスVplsをカウントする例である。
図25は、第1の実施形態に適用可能な第9の例のカウンタ112iの一例の構成を示すブロック図である。図25において、カウンタ112iは、アナログカウンタ1125bと、当該アナログカウンタ1125bに直列に接続されるデジタルカウンタ112jと、を含む。デジタルカウンタ112jは、上述したカウンタ112a~112eの何れを適用してもよい。
第9の例に適用されるアナログカウンタ1125bは、例えば、上述したアナログカウンタ1125aと同様にキャパシタを有し、入力されたパルスVplsの電圧に応じた電荷をキャパシタに蓄積する。第9の例に係るアナログカウンタ1125bは、さらに、キャパシタに蓄積される電荷量を監視し、キャパシタに所定量以上の電荷が蓄積された場合にパルスを出力するように構成されている。例えば、アナログカウンタ1125bは、キャパシタに蓄積される電荷量を所定階調(例えば16階調)で検出し、階調毎にパルスを出力する。例えば、アナログカウンタ1125bにおいて、1つのパルスVplsの入力に応じて1階調が検出される。アナログカウンタ1125bは、キャパシタに蓄積された電荷量が所定階調に達すると、カウンタをリセットする。
デジタルカウンタ112jは、アナログカウンタ1125bから出力されるパルスをカウントし、カウント値をフォトン情報PhInfoとして出力する。フォトン情報PhInfoは、例えばデジタルカウンタ112jが上述したカウンタ112aに対応する場合、閾値判定部113aに供給される。
(1-4-10.カウンタの第10の例)
次に、第1の実施形態に適用可能なカウンタ112の第10の例について説明する。この第9の例では、デジタルカウンタと、アナログカウンタと、メモリと加算器とで構成されるカウンタと、を用いてパルスVplsをカウントする例である。
図26は、第1の実施形態に適用可能な第10の例のカウンタ112kの一例の構成を示すブロック図である。図26において、カウンタ112kは、デジタルカウンタ1126と、当該デジタルカウンタ1126に直列に接続されるアナログカウンタ1125cと、メモリ1127と、加算器1128と、を含む。デジタルカウンタ1126は、例えば1ビットカウンタであって、1個のT-FFを用いて構成できる。また、アナログカウンタ1125cは、上述したアナログカウンタ1125bを適用するものとする。
デジタルカウンタ1126は、パルスVplsの入力に応じて値「1」を示す電圧を出力する。この電圧は、アナログカウンタ1125cに供給され、キャパシタに蓄積される。アナログカウンタ1125cは、キャパシタに蓄積される電荷量を所定階調(例えば16階調)で検出し、階調毎にパルスを出力する。
加算器1128は、第1および第2の入力端を有し、第1の入力端に入力された信号と第2の入力端に入力された信号とを加算して出力する。加算器1128の出力は、メモリ1127に入力され、記憶される。メモリ1127から読み出された信号は、フォトン情報PhInfoとして出力されると共に、加算器1128の第2の入力端に供給される。このように、加算器1128およびメモリ1127により、カウンタを構成することができる。なお、この第10の例の場合、メモリ1127はキャパシタを用いて構成することが可能である。
メモリ1127から出力されたフォトン情報PhInfoは、図8の閾値判定部113aに対応する閾値判定部113a(d)に供給される。閾値判定部113a(d)は、例えば図24を用いて説明した閾値判定部113a(d)と同様の構成を適用できる。すなわち、閾値判定部113a(d)は、比較器1133により、カウンタ112kから供給されたフォトン情報PhInfoと、電圧値として供給される閾値Nthとを比較し、比較結果に応じて書き込み信号WRen(W)を出力する。
(1-5.第1の実施形態に適用可能なTC生成部および画素回路の配置)
次に、第1の実施形態に係るTC生成部120および画素回路100aの配置の例について説明する。なお、以下では、便宜上、画素回路100aを画素回路100として説明を行う。また、以下の図27~図33において、TC生成部120から出力される信号SH_ONの記載を省略している。
(1-5-1.第1の実施形態に係る第1の配置例)
まず、第1の実施形態に係るTC生成部120および画素回路100の第1の実施形態に係る第1の配置例について説明する。図27は、第1の実施形態に係る第1の配置例に係るTC生成部120および画素回路100の配置例を示す図である。
第1の実施形態に係る第1の配置例では、図27に示すように、TC生成部120が画素回路100毎に設けられている。すなわち、垂直制御部2013aは、画素アレイ部2001に含まれる画素回路100の数に対応する数のTC生成部120を含む。各TC生成部120は、対応する画素回路100に対してそれぞれ信号SH_ONおよびタイムコードTcを供給する。
この第1の実施形態に係る第1の配置例によれば、タイムコードTcの発行速度(時間間隔)を画素回路100毎に制御できる。そのため、画素回路100毎のバラツキを抑制可能である。例えば、各画素回路100がライン上に配置されるラインセンサにこの第1の実施形態に係る第1の配置例による配置を適用し、各画素回路100の特性を均一化することが考えられる。
(1-5-2.第1の実施形態に係る第2の配置例)
次に、第1の実施形態に係るTC生成部120および画素回路100の第1の実施形態に係る第2の配置例について説明する。図28は、第1の実施形態に係る第2の配置例に係るTC生成部120および画素回路100の配置例を示す図である。第1の実施形態に係る第2の配置例では、図28に示すように、画素アレイ部2001に2次元格子状に配列される各画素回路100の行毎にTC生成部120を設けている。すなわち、第1の実施形態に係る第2の配置例は、上述した図8に対応する構成を有する。TC生成部120は、2次元格子の対応する行に配置される各画素回路100に対して共通してタイムコードTcおよび信号SH_ONを供給する。
この第1の実施形態に係る第2の配置例による構成は、既存のセンサとの相性が良い。また、上述した第1の実施形態に係る第1の配置例による構成と比較して配線を削減することが可能である。
(1-5-3.第1の実施形態に係る第3の配置例)
次に、第1の実施形態に係るTC生成部120および画素回路100の第1の実施形態に係る第3の配置例について説明する。図29は、第1の実施形態に係る第3の配置例に係るTC生成部120および画素回路100の配置例を示す図である。第1の実施形態に係る第3の配置例では、図29に示すように、画素アレイ部2001に2次元格子状に配列される各画素回路100の2行毎にTC生成部120を設けている。TC生成部120は、2次元格子の対応する2行に配置される各画素回路100に対して共通してタイムコードTcおよび信号SH_ONを供給する。
図30は、第1の実施形態に係る第3の配置例を画素アレイ部2001に注目して示す図である。図30に示されるように、画素アレイ部2001において2次元格子状に配列される各画素回路100は、2次元格子の2行毎に纏められたグループ150を単位に扱うことができる。すなわち、TC生成部120がグループ150毎に設けられ、グループ150に含まれる各画素回路100に対して、対応するTC生成部120からのタイムコードTcおよび信号SH_ONが供給される。
この第1の実施形態に係る第3の配置例による構成は、上述した第1の実施形態に係る第2の配置例による構成と比較して配線を削減することが可能である。
(1-5-4.第1の実施形態に係る第4の配置例)
次に、第1の実施形態に係るTC生成部120および画素回路100の第1の実施形態に係る第4の配置例について説明する。図31は、第1の実施形態に係る第4の配置例に係るTC生成部120および画素回路100の配置例を示す図である。
第1の実施形態に係る第4の配置例では、図31に示すように、画素アレイ部2001内の領域毎にTC生成部120が設けられる例である。各領域に含まれる各画素回路100に対して、当該領域に対応するTC生成部120から共通してタイムコードTcおよび信号SH_ONが供給される。換言すれば、第1の実施形態に係る第4の配置例では、画素アレイ部2001に設けた領域に含まれる各画素回路100によるグループ150に対して、1つのTC生成部120からタイムコードTcおよび信号SH_ONが供給される。
この第1の実施形態に係る第4の配置例によれば、例えば各画素回路100のバイアス条件などを領域毎に制御することができる。一例として、光電変換素子110に入射されるフォトン数が閾値Nthに達した時間Tthに基づき予測カウント値Npreを求める際のバイアス条件を、画素アレイ部2001の領域毎に補正したい場合がある。この場合において、第1の実施形態に係る第4の配置例を適用することで、当該バイアス条件を補正する機能を、各TC生成部120に持たせることが可能である。
(1-5-5.第1の実施形態に係る第5の配置例)
次に、第1の実施形態に係るTC生成部120および画素回路100の第1の実施形態に係る第5の配置例について説明する。この第1の実施形態に係る第5の配置例は、各画素回路100に含まれる光電変換素子110にカラーフィルタが設けられる場合の例である。第1の実施形態に係る第5の配置例では、画素アレイ部2001の各行において、同色のカラーフィルタが設けられる光電変換素子110を含む画素回路100を纏めてグループとし、このグループ毎にTC生成部120を設ける。
図32は、第1の実施形態に係る第5の配置例に係るTC生成部120および画素回路100R、100Gおよび100Bの配置例を示す図である。なお、画素回路100R、100Gおよび100Bは、それぞれ、R(赤色)、G(緑色)およびB(青色)のカラーフィルタが設けられた光電変換素子110を含んでいる。ここでは、各画素回路100R、100Gおよび100Bは、ベイヤ配列に従い配置される。すなわち、各画素回路100R、100Gおよび100Bは、2×2の配列に、それぞれ1個の画素回路100Rおよび100Bと、2個の画素回路100Gとが、同色の画素回路が互いに隣接しないように配置される。
図32において、例えば上から第1行目に、画素回路100Rおよび100Gが交互に配置される。この第1行目に配置される各画素回路100Rを含むグループ150R1に対して、TC生成部120R1からタイムコードTcR1および信号SH_ONR1(図示しない)が供給される。また、当該第1行目に配置される各画素回路100Gを含むグループ150G11に対して、TC生成部120G11からタイムコードTcG11および信号SH_ONG11(図示しない)が供給される。
第2行目に配置される各画素回路100Gを含むグループ150G12に対して、TC生成部120G12からタイムコードTcG12および信号SH_ONG12(図示しない)が供給される。また、当該第2行目に配置される各画素回路100Bを含むグループ150B1に対して、TC生成部120B1からタイムコードTcB1および信号SH_ONB1(図示しない)が供給される。
同様に、ベイヤ配列に従い、例えば第3行目および第4行目において、第3行目に配置される各画素回路100Rを含むグループ150R2に対して、TC生成部120R2からタイムコードTcR2および信号SH_ONR2(図示しない)が供給される。また、当該第3行目に配置される各画素回路100Gを含むグループ150G21に対して、TC生成部120G21からタイムコードTcG21および信号SH_ONG21(図示しない)が供給される。
第4行目に配置される各画素回路100Gを含むグループ150G22に対して、TC生成部120G22からタイムコードTcG22および信号SH_ONG22(図示しない)が供給される。また、当該第4行目に配置される各画素回路100Bを含むグループ150B2に対して、TC生成部120B2からタイムコードTcB2および信号SH_ONB2(図示しない)が供給される。
以下同様に、それぞれベイヤ配列に従い、第5行目および第6行目、第7行目および第8行目、…について、各行毎に、同色のカラーフィルタが設けられる画素回路が同一のグループに纏められて、共通のTC生成部からタイムコードTcおよび信号SH_ONを供給される。
R色、G色およびB色のカラーフィルタが設けられた各光電変換素子110は、入射されるフォトンに対する感度が異なる。この第5の配置によれば、各画素回路100R、100Gおよび100Bに対して、カラーフィルタの色毎に纏めてTC生成部120を設けている。そのため、光電変換素子110の、カラーフィルタの色に応じて異なる感度を、予測カウント値Npreに基づくフォトン数予測の制御により補正することが可能である。
(1-5-6.第1の実施形態に係る第6の配置例)
次に、第1の実施形態に係るTC生成部120および画素回路100の第1の実施形態に係る第6の配置例について説明する。この第1の実施形態に係る第6の配置例は、各画素回路100に含まれる光電変換素子110にカラーフィルタが設けられ、且つ、1つのTC生成部120を、画素アレイ部2001に含まれる全ての画素回路100に共通して設ける例である。
図33は、第1の実施形態に係る第6の配置例に係るTC生成部120、ならびに、画素回路100R、100G1、100G2および100Bの配置例を示す図である。なお、画素回路100G1および100G2は、ベイヤ配列に含まれる2つのG画素にそれぞれ対応する。図33において、画素アレイ部2001に含まれる全ての画素回路100R、100G1、100G2および100Bが1つのグループ150RGBに含まれる。グループ150RGBに含まれる全ての画素回路100R、100G1、100G2および100Bに対して、1つのTC生成部120RGBにより、タイムコードTcRGBおよび信号SH_ONRGB(図示しない)が共通して供給される。
このように、画素アレイ部2001に含まれる全ての画素回路100R、100G1、100G2および100Bに対して共通のTC生成部120RGBを設けることで、グローバルシャッタに対応することが容易となる。
なお、第1の実施形態の第6および第7の配置例において、各画素回路100R、100Gおよび100B、ならびに、各画素回路100R、100G1、100G2および100Bの配置は、ベイヤ型に限定されない。また、画素回路100に設けるカラーフィルタは、R、G、Bの3色による原色系フィルタに限らず、例えばC(シアン)、M(マゼンタ)、Y(イエロー)およびGの4色による、補色系フィルタであってもよい。
さらに、各画素回路100に対して、R、Gおよび色、あるいは、C、M、YおよびGの補色系フィルタに加え、さらに他の種類の光学フィルタを設けてもよい。
例えば、各画素回路100に対して、R、GおよびBのカラーフィルタに加え、赤外領域の光を選択的に透過するためIRフィルタを設けてもよい。一例として、ベイヤ配列におけるGのカラーフィルタが設けられた画素回路100のうち一方の画素回路100に対してIRフィルタを設けることが考えられる。
また、各画素回路100に対して、R、GおよびBのカラーフィルタに加え、例えばR、GおよびBそれぞれの波長帯域を含む広い波長帯域の光を透過させる透明フィルタを設けてもよい。この場合においても、上述のIRフィルタと同様に、ベイヤ配列におけるGのカラーフィルタが設けられた画素回路100のうち一方の画素回路100に対して透明フィルタを設けることが考えられる。
さらに、ベイヤ型配列と異なるカラーフィルタ配列の例として、4分割ベイヤ型RGB配列がある。4分割ベイヤ型RGB配列は、それぞれ2×2に配列され光電変換素子110が1対1に設けられる4つずつのRのカラーフィルタ、Gのカラーフィルタ、Bのカラーフィルタを、当該2×2の単位でベイヤ配列に倣って配列したものである。R、GおよびBのカラーフィルタがそれぞれ設けられた各画素回路100の配列を、この4分割ベイヤ型RGB配列としてもよい。
(1-6.第1の実施形態の第1の変形例)
次に、第1の実施形態の第1の変形例について説明する。図34は、第1の実施形態の第1の変形例に係る画素アレイ部2001および垂直制御部2013aの一例の構成を示すブロック図である。
図34において、垂直制御部2013aは、上述した図8における垂直制御部2013aと共通の構成であるので、ここでの説明を省略する。
画素アレイ部2001において、画素回路100bは、図8に示した画素回路100aと同様に、光電変換素子110と、信号処理部111bと、カウンタ112と、閾値判定部113a-1と、メモリ114と、を含む。画素回路100bにおいて、閾値判定部113から出力される書き込み信号WRenは、メモリ114に供給されると共に、信号処理部111bに供給される。
信号処理部111bは、カウントされたフォトン数が露光期間Tsh内に閾値Nthを超え、書き込み信号WRenがタイムコードTcの書き込みを指示する状態となった場合に、光電変換素子110の動作を制限する。例えば、信号処理部111bは、書き込み信号WRen(W)に応じて、光電変換素子110に対する電源電位VDDへの接続を切断し、露光期間Tshの開始時点で、光電変換素子110に対する電源電位VDDへの接続を回復させることが考えられる。
書き込み信号WRenに応じて光電変換素子110の動作を制限することで、画素回路100bにおける消費電力を削減することができる。
(1-7.第1の実施形態の第2の変形例)
次に、第1の実施形態の第2の変形例について説明する。図35は、第1の実施形態の第2の変形例に係る画素アレイ部2001および垂直制御部2013aの一例の構成を示すブロック図である。
図35において、垂直制御部2013aは、上述した図8における垂直制御部2013aと共通の構成であるので、ここでの説明を省略する。また、画素アレイ部2001において、画素回路100cは、図34の画素回路100bと比較して、信号処理部111b’および閾値判定部113a-2の機能が変更されている。
第1の実施形態の第2の変形例では、上述した第1の実施形態の第1の変形例と同様に、閾値判定部113a-2による閾値Nthの検出に応じて、光電変換素子110の動作を制限する。このとき、第1の実施形態の第2の変形例に係る閾値判定部113a-2は、書き込み信号WRenとは別に、光電変換素子110の動作を制限するための信号PhGatingを生成し、生成した信号PhGatingを信号処理部111b’に供給する。
信号処理部111b’は、信号PhGatingに応じて光電変換素子110の動作を制限する。例えば、信号処理部111b’は、信号PhGatingに応じて、光電変換素子110に対する電源電位VDDへの接続を切断し、露光期間Tshの開始時点で、光電変換素子110に対する電源電位VDDへの接続を回復させることが考えられる。
信号PhGatingに応じて光電変換素子110の動作を制限することで、画素回路100cにおける消費電力を削減することができる。
(1-8.第1の実施形態の第3の変形例)
次に、第1の実施形態の第3の変形例について説明する。第1の実施形態の第3の変形例では、光電変換素子110に対するフォトンの入射に応じたパルスVplsをカウントするカウンタとして、カウント動作と記憶動作とを切り替え可能とされたデュアルモードカウンタを用いる。デュアルモードカウンタを用いることで、例えば図8に示した画素回路100aにおけるメモリ114を省略することができ、回路面積を削減することが可能となる。
図36は、第1の実施形態の第3の変形例に係る画素アレイ部2001および垂直制御部2013aの一例の構成を示すブロック図である。
図36において、垂直制御部2013aは、上述した図8における垂直制御部2013aと共通の構成であるので、ここでの説明を省略する。また、画素アレイ部2001において、画素回路100dは、図8の画素回路100aと比較して、閾値判定部113a-3の機能が変更されると共に、メモリ114が省略され、カウンタ112の代わりにデュアルモードカウンタ115が設けられている。
図36において、光電変換素子110に対するフォトンの入射に応じたパルスVplsがデュアルモードカウンタ115に入力される。また、TC生成部120から出力されたタイムコードTcがデュアルモードカウンタ115に入力される。
デュアルモードカウンタ115は、動作モードとしてカウント動作モードと、記憶動作モードとを有する。また、記憶動作モードは、書き込み動作モードと、保持動作モードとを含む。デュアルモードカウンタ115は、これらの動作モードが、閾値判定部113”から供給される信号WRen_CNTに応じて切り替えられる。デュアルモードカウンタ115は、信号WRen_CNTがカウント動作を示している場合、動作モードをカウント動作モードに切り替えて、信号処理部111aから供給されるパルスVplsをカウントし、カウント結果を示すフォトン情報PhInfoを出力する。また、デュアルモードカウンタ115は、信号WRen_CNTが記憶動作を示している場合、動作モードを記憶動作モードに切り替えて、入力されたタイムコードTcを記憶する。
例えば、閾値判定部113a-3は、露光期間Tshの開始時点で、カウント動作を示す信号WRen_CNTを出力する。この信号WRen_CNTに応じて、デュアルモードカウンタ115は、動作モードがカウント動作モードに切り替わる。デュアルモードカウンタ115は、カウント動作モードにおいて、信号処理部111aから供給されるパルスVplsをカウントし、カウント結果をフォトン情報PhInfoとして出力する。
閾値判定部113a-3は、デュアルモードカウンタ115から出力されたフォトン情報PhInfoに基づき、例えば露光期間Tsh内に光電変換素子110に入射されたフォトン数が閾値Nthに達したと判定した場合、記憶動作を示す信号WRen_CNTを出力する。デュアルモードカウンタ115は、この信号WRen_CNTに従い動作モードを記憶動作モードに切り替えて、パルスVplsのカウントを中止すると共に、タイムコードTcを記憶する。
図37A~図37Cは、第1の実施形態の第3の変形例に適用可能なデュアルモードカウンタ115の動作を説明するための図である。図37Aは、カウント動作モード時のデュアルモードカウンタ115の状態を示す図である。図37Bは、記憶動作モードにおける書き込み動作モード時の、デュアルモードカウンタ115の状態を示す図である。図37Cは、記憶動作モードにおける保持動作モード時の、デュアルモードカウンタ115の状態を示す図である。
以下では、デュアルモードカウンタ115は、5ビットのカウンタであるものとする。
図37Aを用いて、デュアルモードカウンタ115の構成例について説明する。第1の実施形態の第3の変形例に適用可能なデュアルモードカウンタ115は、カウントするビット数に対応する5個のD-FF(Dフリップフロップ)11400、11401、11402、11403および11404を含む。各D-FF114011400、11401、11402、11403および11404は、タイムコードTcの各ビットが、それぞれ信号WRen_CNTに従い制御される各スイッチ11410、11411、11412、11413および11414を介して、端子Dに入力される。
また、例えばD-FF11400は、端子Dと端子QBとが、信号WRen_CNTに従い制御されるスイッチ11420を介して接続される。なお、端子QBは、図において「Q」上にオーバーラインが付されている端子を示している。他のD-FF11401、11402、11403および11404においても同様に、端子Dと端子QBとが、それぞれ信号WRen_CNTに従い制御される各スイッチ11421、11422、11423および11424を介して接続される。
さらに、例えばD-FF11400の端子CKに対して、信号WRen_CNTに従い制御されるスイッチ11430の共通選択端が接続される。スイッチ11430の第1選択端にパルスVplsが入力され、第2および第3選択端に、それぞれロー(Low)レベルの電位と、ハイ(High)レベルの電位とが接続される。他のD-FF11401、11402、11403および11404は、各端子CKに対し、それぞれ、第1選択端に前段の端子QBが接続され、第2および第3選択端にそれぞれローレベルの電位とハイレベルの電位とが接続される、信号WRen_CNTに従い制御されるスイッチ11431、11432、11433および11434の共通選択端が接続される。
また、各D-FF11400、11401、11402、11403および11404は、それぞれ出力端子Qから各ビット(Bit(0)、Bit(1)、Bit(2)、Bit(3)およびBit(4))が出力される。また、最終段のD-FF11404の出力端子QBから、フォトン情報PhInfoが出力される。
デュアルモードカウンタ115の動作モードがカウント動作モード、書き込み動作モードおよび保持動作モードの場合の動作例について説明する。なお、各D-FF11400~11404、各スイッチ11410~11414、各スイッチ11420~11424、および、各スイッチ11430~11434は、各動作モードにおいてそれぞれ同一の状態に制御される。そのため、以下では、特に記載の無い限り、D-FF11400と、当該D-FF11400に接続されるスイッチ11410、11420および11430を例にとって説明を行う。
デュアルモードカウンタ115の動作モードがカウント動作モードの場合、図37Aに示されるように、スイッチ11410がオフ(開)状態、スイッチ11420がオン(閉)状態に制御され、スイッチ11430が共通選択端を第1選択端に接続するように制御される。これにより、D-FF11400は、出力端子QBと端子Dとが接続されると共に、端子CKにパルスVplsが入力され、出力端子QおよびQBから、入力されたパルスVplsの立ち下がり毎に反転する出力が取り出される。
D-FF11400の端子QBの出力は、次段のD-FF11401の端子CKに入力される。D-FF11401は、上述と同様にして、出力端子QおよびQBから、D-FF11400の端子QBの出力の立ち下がり毎に反転する出力が取り出される。次段のD-FF11402以降も同様である。このような動作により、デュアルモードカウンタ115は、カウント動作モードにおいて、パルスVplsをカウントするカウンタとして動作する。
デュアルモードカウンタ115の動作が書き込み動作モードの場合、図37Bに示されるように、スイッチ11410がオン状態、スイッチ11420がオフ状態に制御され、スイッチ11430が共通選択端を第3選択端に接続するように制御される。これにより、タイムコードTcの所定のビットがスイッチ11410を介してD-FF11400の端子Dに入力されると共に、端子CKがハイ状態とされ、D-FF11400の端子Dに当該タイムコードTcの所定のビットの値が書き込まれる。
その後、デュアルモードカウンタ115の動作が保持動作モードに移行され、図37Cに示されるように、各スイッチ11410および11420がオフ状態に制御され、スイッチ11430が共通選択端を第2選択端に接続するように制御される。これにより、端子CKがロー状態とされ、D-FF11400において、端子Dに書き込まれた値が保持される。また、この保持動作モードでは、各D-FF11400~11404の出力端子Qそれぞれから、各D-FF11400~11404の端子Dに書き込まれ保持された値を取り出すことができる。
(1-9.第1の実施形態および各変形例に適用可能なデータ処理)
次に、第1の実施形態およびその各変形例に適用可能な、予測カウント値Npreに対するデータ処理について説明する。先ず、予測カウント値Npreに対するデータ処理の第1の例として、予測カウント値Npreに対する圧縮処理について説明する。図2Bを用いて説明したように、第1の実施形態および各変形例では、フォトン数のカウント値が閾値Nthに到達した時間Tthに対応するタイムコードTcに基づき、予測カウント値Npreを算出する。
ここで、カウント値が閾値Nthに達した時間Tthに基づき予測された予測カウント値Npreが15ビットの値であり、閾値Nthが9ビットの値であるものとする。この場合、予測カウント値Npreの有効数字は、9ビットの値となる。すなわち、予測カウント値Npreの15ビットのうち、6ビット分は、無効数字となる。また、この場合、予測カウント値NpreのLSB側のビットは、重要度が低いと考えられる。そのため、予測カウント値Npreの15ビットの値を、LSB側の所定ビットを無視することで、予測カウント値Npreのビット数を削減することができる。
一例として、15ビットの予測カウント値Npreを、8ビットの有効数字と3ビットのシフト量と、で表すことが考えられる。具体的な数値として、露光期間Tsh=1000、カウント値が閾値Nthを達成した時間Tth=25とした場合、予測カウント値Npreは、上述した式(1)を参照し、次式(4)として求められる。
Npre=Nth×(Tsh/Tth)=512×(1000/25)=20480 …(4)
10進数表記の値「20480」は、2進数表記では、15ビットの値「0b101000000000000」となる。この15ビットの値に3ビットのシフト量「0b111」を適用すると、次式(5)のようになる。
0b101000000000000=0b10100000×2^(0b111) …(5)
したがって、15ビットの予測カウント値Npreを、8ビットの値「0b10100000」と、3ビットのシフト量「0b111」とを用いて、例えば11ビットの値「0b11110100000」のように表現できる。ここで、先頭の3ビットは、シフト量を示している。このように、予測カウント値Npreのビット数を、15ビットから11ビットに削減可能である。
受光装置1aにおいて、信号処理部2013c(図7参照)は、例えば各画素回路100aのメモリ114から読み出したタイムコードTcに基づき予測カウント値Npreを算出する際に、上述の式(5)を適用し、算出される予測カウント値Npreのビット数を削減する。これにより、例えば、信号処理部2013c内での処理およびメモリ容量や、算出された予測カウント値Npreを外部に出力する際のトラフィックの削減が可能となる。
次に、予測カウント値Npreに対するデータ処理の第2の例として、予測カウント値Npreを、当該予測カウント値Npreに相関する値(相関予測カウント値Npre_relatedと呼ぶ)に変換する処理について説明する。次式(6)は、予測カウント値Npreにオフセット値Noffsetを加算して相関予測カウント値Npre_relatedを算出する例である。
Npre_related=Npre+Noffset …(6)
次式(7)に示すように、式(4)および(5)を用いて説明した、ビット数を削減された予測カウント値Npre_reduceに基づき相関予測カウント値Npre_relatedを算出することもできる。
Npre_related=Npre_reduce+Noffset …(7)
受光装置1aにおいて、信号処理部2013cは、例えば各画素回路100aのメモリ114から読み出したタイムコードTcに基づき予測カウント値Npreを算出する際に、上述の式(6)を適用し、算出される予測カウント値Npreに対応する相関予測カウント値Npre_relatedを算出する。これにより、例えば、信号処理部2013c内での処理や、外部における予測カウント値Npreに対する処理の負荷を低減可能である。
なお、ここでは、予測カウント値Npreに対する変換処理を、オフセット値を加算する処理であるように説明したが、これはこの例に限定されない。すなわち、例えば信号処理部2013cにおいて、予測カウント値Npreに対して、その用途などに応じて様々な変換処理を施すことが可能である。この変換処理には、例えばグレイコードのような、データの形式を変換する処理も含むことができる。
[2.第2の実施形態]
(2-1.第2の実施形態に適用可能な構成の概略)
次に、本開示の第2の実施形態について説明する。第2の実施形態は、光電変換素子110に入射されたフォトン数を輝度値に変換するようにした例である。図38は、第2の実施形態に係る受光装置の概略的な構成例を示す図である。図38において、第2の実施形態に係る受光装置1bは、画素10と、計数部11と、輝度値コード生成部20と、取得部13と、を含む。画素10は、図1の説明と同様に、光電変換により光を電荷に変換する光電変換素子と、光電変換素子から電荷を読み出して電気信号として出力する信号処理回路と、を含む。画素10が含む光電変換素子としては、上述した第1の実施形態と同様に、SPADを適用できる。受光装置1bは、指定された露光期間Tsh内に画素10に入射されたフォトンの数に応じて輝度値を予測し、予測した輝度値に対応する、輝度値コード生成部20により生成された輝度値コードLcを、取得部13により取得する。
計数部11は、画素10から出力されたパルスVplsを、指定された露光期間Tsh内において計数し、計数されたパルスVplsの数Ncntが露光期間Tshの終了する前に閾値Nthを超えた場合に、書き込み信号WRen(W)を出力する。書き込み信号WRenは、取得部13に供給される。
一方、輝度値コード生成部20は、露光期間Tshの開始時点から書き込み信号WRen(W)により書き込みが指示された時点までの経過時間に応じて、露光期間Tshの終了時点での輝度値を予測し、予測した輝度値を示す輝度値コードLcを生成する。輝度値コード生成部20で生成された輝度値コードLcは、取得部13に供給される。
取得部13は、例えばメモリを含み、書き込み信号WRen(W)により書き込みが指示されたタイミング、すなわち、書き込み信号WRenがロー状態からハイ状態に移行したタイミングで、輝度値コード生成部20から供給された輝度値コードLcを取得し、取得した輝度値コードLcをメモリに書き込む。
この第2の実施形態に係る受光装置1bは、上述した第1の実施形態に係る受光装置1aと同様に、図5を用いて説明した、それぞれ半導体チップからなる受光チップ2000と、ロジックチップ2010とを積層した構成を適用することができる。
(2-2.第2の実施形態の原理的な説明)
ここで、第2の実施形態に係るフォトン数の輝度値への変換について、原理的な説明を行う。ある画素(光電変換素子110)に対する輝度(輝度値)と、その画素に入射するフォトンの平均の入射間隔である平均フォトン到達間隔Taと、は反比例の関係にある。
例えば、光電変換素子110に入射されるフォトン数Pnと輝度値Lxとが、所定の係数kを用いて、Lx=Pn×kの関係にあるものとする。また、ある時間T(例えば露光期間Tsh)を考え、この時間T内に平均フォトン到達間隔Taで入射されるフォトン数Pnは、Pn=T/Taで表される。したがって、平均フォトン到達間隔Taと輝度値Lxとは、次式(8)に示されるように、反比例の関係を有する。
Lx=(T×k)/Ta …(8)
この平均フォトン到達間隔Taを用いると、入射されるフォトン数Pnが閾値Nth(図2B参照)を達成するために期待される期待時間Tthevは、次式(9)で表される。
Tthev=Nth×Ta …(9)
式(8)および式(9)から、光電変換素子110に入射されるフォトン数Pnが閾値Nthを達成することが期待される期待時間Tthevと、閾値Nthを達成した際に期待される輝度値Lxとが、次式(10)に示されるように、反比例の関係にあることが分かる。
Tthev={Nth×(T×k)}/Lx …(10)
この式(10)における輝度値Lxは、上述のように、光電変換素子110に入射されるフォトン数Pnが閾値Nthを達成した際に期待される値であって、閾値Nthにおいて予測される予測輝度値Lpreである。
図39は、第2の実施形態に係る、フォトン数Pnが閾値Nthを達成する時間Tthと、予測輝度値Lpreとの一例の関係を示す図である。図39において、上述した式(10)における輝度値Lxを予測輝度値Lpreとして示している。ここで、期待時間Tthevは、光電変換素子110に入射したフォトン数Pnが閾値Nthを達成した時間Tthを用いることができる。図39において、例えば式(10)に従った曲線LTを時間Tth0に基づき参照することで、露光期間Tshにおける予測輝度値Lpreを求めることができる。
なお、上述の式(10)において、閾値Nth、時間T(露光期間Tsh)および係数kは、予め与えられる定数である。例えば、輝度値コード生成部20は、曲線LTを、予測輝度値Lpreと時間Tthとが関連付けられたテーブルとして予め記憶しておくことができる。この場合、当該テーブルは、予測輝度値Lpreを、離散的な値である輝度値コードLcとして、対応する時間Tthと対応付けて記憶する。
これに限らず、輝度値コード生成部20は、これら計測された時間Tthに基づき、これら閾値Nth、時間T(露光期間Tsh)および係数kを用いて予測輝度値Lpreを算出してもよい。この場合においても、算出された予測輝度値Lpreは、離散的な値に処理されて輝度値コードLcとされる。
図40は、第2の実施形態に係る輝度値コード生成部20による予測輝度値Lpreの生成を概略的に説明するための図である。図40において、上段から、時間の経過、低照度の場合のカウント値の例、高照度の場合のカウント値の例、等間隔のタイムコードTcの例、および、予測輝度値Lpreの例、をそれぞれ示している。これらのうち、時間の経過、低照度の場合のカウント値の例、高照度の場合のカウント値の例、等間隔のタイムコードTcの例、は、上述した図3における対応部分と同様であるので、ここでの説明を省略する。また、図40では、説明のため、高照度の場合のカウント値の例、および、等間隔のタイムコードTcの例において、図3と比べて時間のスケールを長く取っている。
図40の最下段には、予測輝度値Lpreが、時間の経過と共に。時間Tthと反比例の関係で減少していく様子を模式的に示している。より具体的には、図40の例では、予測輝度値Lpreは、露光期間Tshの開始時点t0に近い側では、短い間隔で値が「22」、「17」、「14」、…と、値が急速に減少していく。一方、露光期間Tshの終了時点の近くでは、時間に対する予測輝度値Lpreの変化が小さくなり、変化の間隔も長くなる。
図40において、高照度の場合、露光期間Tsh内にPh(21)、Ph(22)、…、Ph(27)がカウントされ、次に8個目のフォトンPh(28)が検知された時点で、カウンタがオーバーフローしている。したがって、8個目のフォトンPh(28)が検知されたタイミングが、カウント値が閾値Nthを超えた時間Tthとなる。図40の例では、この時間Tthに対応するタイムコードTcの値「11」となっている。これに対して、予測輝度値Lpreは、値が「10」となっている。
なお、上述の式(10)によれば、予測輝度値Lpreは、時間Tthが0に近付くに連れ急激に増大し、さらに時間Tthが0の場合には無限大となる。したがって、時間Tthが極めて短い期間では、予測輝度値Lpreが極めて大きな値となり、当該期間内の予測輝度値Lpreは、現実的に意味をなさない値となる。これは、当該期間における予測輝度値Lpreが不要であることを意味している。そのため、例えば、予測輝度値Lpreと時間Tthとが関連付けられたテーブルにおいて、時間Tthは、露光期間Tshの開始時点から所定時間が経過した時点以降の時間のみを対象とし、当該時点以前の予測輝度値Lpreをテーブルにおいて定義しないことができる。
図40の例では、例えば輝度値コード生成部20は、最下段に示される予測輝度値において、予測輝度値Lpre=「22」以前の時間における値、すなわち予測輝度値Lpre=「22」を超える値を無視している。例えば、輝度値コード生成部20は、予測輝度値Lpre=「22」に対応する時間Tthより前の時間Tthおよび予測輝度値Lpreを、テーブルにおいて定義しない。
このように、第2の実施形態では、露光期間Tshにおいて予測される予測輝度値Lpreを、光電変換素子110に入射するフォトン数Pnが閾値Nthを達成した時間Tthに基づき、直接的に求めることができる。これにより、第2の実施形態に係る受光装置1bは、第1の実施形態に係る受光装置1aと比較して、タイムコードTcを輝度値に変換する処理の負荷を軽減することが可能である。
例えば、第1の実施形態に係る受光装置1aでは、例えば信号処理部2013c(図7参照)が、ロジックアレイ部2011(図7参照)に含まれる各論理回路2014から読み出された各タイムコードTcを、それぞれ輝度値に変換する処理を実行する。すなわち、第1の実施形態に係る受光装置1aにおいて、信号処理部2013cは、例えば、少なくとも、ロジックアレイ部2011に含まれる1行分の論理回路2014から読み出されるタイムコードTcそれぞれを輝度値に変換する処理を、1水平同期期間内に終了させる必要がある。
これに対して、第2の実施形態に係る受光装置1bは、ロジックアレイ部2011に含まれる各論理回路2014それぞれにおいて、入射フォトン数が閾値Nthを達成した時間Tthを輝度値に変換する処理を実行している。時間情報の輝度値への変換処理が、各論理回路2014に分散して実行されるため、それぞれの変換処理が小さい処理で済むと共に、信号処理部2013cにおける処理を軽減することが可能である。
図41は、第2の実施形態に係る画素アレイ部2001および垂直制御部2013aの一例の構成を示すブロック図である。また、図41において、画素アレイ部2001に対して、画素回路のより具体的な構成が示されている。なお、図41において、上述した図8と共通する部分には同一の符号を付して、詳細な説明を省略する。
図41に例示されるように、画素アレイ部2001は、図8を用いて説明した画素アレイ部2001と対応する構成を有し、それぞれ図8の画素回路100aに対応する複数の画素回路100a’を含む。なお、図41では、画素アレイ部2001に2次元格子状に配列される各画素回路100a’のうち、1行に含まれる各画素回路100a’を抜粋して示している。
図41において、画素回路100a’は、光電変換素子110と、信号処理部111aと、カウンタ112と、閾値判定部113bと、メモリ114と、を含む。これらのうち、光電変換素子110、信号処理部111a、カウンタ112および閾値判定部113bは、図8における光電変換素子110、信号処理部111a、カウンタ112および閾値判定部113aと同様の機能を有するため、ここでの説明を省略する。例えば、図41における光電変換素子110は、上述した第1の実施形態と同様に、SPADを適用できる。メモリ114は、閾値判定部113bから供給される書き込み信号WRen(W)に応じて、後述するLC生成部200から供給される、予測輝度値Lpreとしての輝度値コードLcを記憶する。
一方、図41において、垂直制御部2013a’は、図8の垂直制御部2013aと対応するもので、行毎に、LC(輝度値コード)生成部200を含む。また、各行に共通して、タイマ210を含む。LC生成部200は、上述した輝度値コード生成部20と対応するものである。LC生成部200は、例えばタイマ210から供給される時間情報に基づき、図39および図40を用いて説明した、露光期間Tshの開始時点からの経過時間に対して反比例の関係で変化する輝度値コードLcを生成する。
タイマ210は、例えば、クロック信号に基づき、図40を用いて説明した予測輝度値Lpreの変化毎に、当該変化のタイミングを示す時間情報を生成する。
図42は、第2の実施形態に適用可能なLC生成部200の一例の構成を示すブロック図である。ここでは、輝度値コードLcは、時間Tthと関連付けられたテーブルとして記憶されるものとする。LC生成部200は、ROM(Read Only Memory)201と、コード生成制御部202と、を含む。ROM201は、輝度値コードLcと時間Tthとが関連付けられたテーブルを予め記憶する。
コード生成制御部202は、外部、例えばタイマ210から供給される時間情報に対応する輝度値コードLcを、ROM201から読み出す。図41の例では、コード生成制御部202によりROM201から読み出された輝度値コードLcは、画素アレイ部2001に含まれる各画素回路100a’、100a’、…に入力され、各メモリ114に供給される。
なお、制御部1003(図7参照)は、例えば、露光期間Tshの開始タイミングをLC生成部200に指示すると共に、露光期間Tshの長さを示す情報をLC生成部200に供給する。
また、LC生成部200は、信号処理部111aがパルスVplsを出力するタイミングを指示する信号SH_ONを生成する。LC生成部200は、例えば、所定のクロック信号に基づき信号SH_ONを生成する。図41の例では、LC生成部200で生成された信号SH_ONは、各画素回路100a’、100a’、…に入力され、信号処理部111aに供給される。
なお、図16Aおよび図16B、図17、図18、図19Aおよび図19B、図20~図26を用いて説明した各カウンタ112a~112iおよびデジタルカウンタ112jは、上述した画素回路100aと同様に、第2の実施形態に係る画素回路100a’にも適用可能である。
(2-3.第2の実施形態に適用可能なLC生成部および画素回路の配置)
次に、第1の実施形態に係るLC生成部200および画素回路100a’の配置の例について説明する。なお、以下では、便宜上、画素回路100a’を画素回路100’として説明を行う。また、以下の図43~図48において、タイマ210の記載、および、LC生成部200から出力される信号SH_ONの記載を省略している。
(2-3-1.第2の実施形態に係る第1の配置例)
まず、第2の実施形態に係るLC生成部200および画素回路100’の第2の実施形態に係る第1の配置例について説明する。図43は、第2の実施形態に係る第1の配置例に係るLC生成部200および画素回路100’の配置例を示す図である。
第2の実施形態に係る第1の配置例は、図27を用いて説明した第1の実施形態に係る第1の配置例に対応するもので、図43に示すように、LC生成部200が画素回路100’毎に設けられている。すなわち、垂直制御部2013a’は、画素アレイ部2001に含まれる画素回路100’の数に対応する数のLC生成部200を含む。各LC生成部200は、対応する画素回路100’に対してそれぞれ信号SH_ONおよび輝度値コードLcを供給する。
この第2の実施形態に係る第1の配置例によれば、輝度値コードLcの発行速度(時間間隔)を画素回路100’毎に制御できる。そのため、画素回路100’毎のバラツキを抑制可能である。例えば、各画素回路100’がライン上に配置されるラインセンサにこの第2の実施形態に係る第1の配置例による配置を適用し、各画素回路100’の特性を均一化することが考えられる。
(2-3-2.第2の実施形態に係る第2の配置例)
次に、第2の実施形態に係るLC生成部200および画素回路100’の第2の実施形態に係る第2の配置例について説明する。図44は、第2の実施形態に係る第2の配置例に係るLC生成部200および画素回路100’の配置例を示す図である。第2の実施形態に係る第2の配置例は、図28を用いて説明した第1の実施形態に係る第2の配置例に対応するもので、図44に示すように、垂直制御部2013a”に対し、画素アレイ部2001に2次元格子状に配列される各画素回路100’の行毎にLC生成部200を設けている。すなわち、第2の実施形態に係る第2の配置例は、上述した図41に対応する構成を有する。LC生成部200は、2次元格子の対応する行に配置される各画素回路100’に対して共通して輝度値コードLcおよび信号SH_ONを供給する。
この第2の実施形態に係る第2の配置例による構成は、既存のセンサとの相性が良い。また、上述した第2の実施形態に係る第1の配置例による構成と比較して配線を削減することが可能である。
(2-3-3.第2の実施形態に係る第3の配置例)
次に、第2の実施形態に係るLC生成部200および画素回路100’の第2の実施形態に係る第3の配置例について説明する。図45は、第2の実施形態に係る第3の配置例に係るLC生成部200および画素回路100’の配置例を示す図である。第2の実施形態に係る第3の配置例は、図29を用いて説明した第1の実施形態に係る第3の配置例に対応するもので、図45に示すように、画素アレイ部2001に2次元格子状に配列される各画素回路100’の2行毎にLC生成部200を設けている。LC生成部200は、2次元格子の対応する2行に配置される各画素回路100’に対して共通して輝度値コードLcおよび信号SH_ONを供給する。
この第2の実施形態に係る第3の配置例による構成は、上述した第2の実施形態に係る第2の配置例による構成と比較して配線を削減することが可能である。
(2-3-4.第2の実施形態に係る第4の配置例)
次に、第2の実施形態に係るLC生成部200および画素回路100’の第2の実施形態に係る第4の配置例について説明する。図46は、第2の実施形態に係る第4の配置例に係るLC生成部200および画素回路100’の配置例を示す図である。
第2の実施形態に係る第4の配置例は、図31を用いて説明した第1の実施形態に係る第4の配置例に対応するもので、図46に示すように、画素アレイ部2001内の領域毎にLC生成部200が設けられる例である。各領域に含まれる各画素回路100’に対して、当該領域に対応するLC生成部200から共通して輝度値コードLcおよび信号SH_ON(図示しない)が供給される。換言すれば、第2の実施形態に係る第4の配置例では、画素アレイ部2001に設けた領域に含まれる各画素回路100’によるグループ150’に対して、1つのLC生成部200から輝度値コードLcおよび信号SH_ONが供給される。
この第2の実施形態に係る第4の配置例によれば、例えば各画素回路100’のバイアス条件などを領域毎に制御することができる。
(2-3-5.第2の実施形態に係る第5の配置例)
次に、第2の実施形態に係るLC生成部200および画素回路100’の第2の実施形態に係る第5の配置例について説明する。この第2の実施形態に係る第5の配置例は、図32を用いて説明した第1の実施形態に係る第5の配置例に対応するもので、各画素回路100’に含まれる光電変換素子110にカラーフィルタが設けられる場合の例である。第2の実施形態に係る第5の配置例では、画素アレイ部2001の各行において、同色のカラーフィルタが設けられる光電変換素子110を含む画素回路100’を纏めてグループとし、このグループ毎にLC生成部200を設ける。
図47は、第2の実施形態に係る第5の配置例に係る、LC生成部200と、それぞれ、R(赤色)、G(緑色)およびB(青色)のカラーフィルタが設けられた光電変換素子110を含む画素回路100R’、100G’および100B’と、の配置例を示す図である。
図47において、例えば上から第1行目に配置される各画素回路100R’を含むグループ150R1’に対して、LC生成部200R1から輝度値コードLcR1および信号SH_ONR1(図示しない)が供給される。また、当該第1行目に配置される各画素回路100G’を含むグループ150G11’に対して、LC生成部200G11から輝度値コードLcG11および信号SH_ONG11(図示しない)が供給される。
第2行目に配置される各画素回路100G’を含むグループ150G12’に対して、LC生成部200G12から輝度値コードLcG12および信号SH_ONG12(図示しない)が供給される。また、当該第2行目に配置される各画素回路100B’を含むグループ150B1’に対して、LC生成部200B1から輝度値コードLcB1および信号SH_ONB1(図示しない)が供給される。
同様に、ベイヤ配列に従い、例えば第3行目および第4行目において、第3行目に配置される各画素回路100R’を含むグループ150R2’に対して、LC生成部200R2から輝度値コードLcR2および信号SH_ONR2(図示しない)が供給される。また、当該第3行目に配置される各画素回路100G’を含むグループ150G21’に対して、LC生成部200G21から輝度値コードLcG21および信号SH_ONG21(図示しない)が供給される。
第4行目に配置される各画素回路100G’を含むグループ150G22’に対して、LC生成部200G22から輝度値コードLcG22および信号SH_ONG22(図示しない)が供給される。また、当該第4行目に配置される各画素回路100B’を含むグループ150B2’に対して、LC生成部200B2から輝度値コードLcB2および信号SH_ONB2(図示しない)が供給される。
以下同様に、それぞれベイヤ配列に従い、第5行目および第6行目、第7行目および第8行目、…について、各行毎に、同色のカラーフィルタが設けられる画素回路が同一のグループに纏められて、共通のTC生成部から輝度値コードLcおよび信号SH_ONを供給される。
R色、G色およびB色のカラーフィルタが設けられた各光電変換素子110は、入射されるフォトンに対する感度が異なる。この第5の配置によれば、各画素回路100R’、100G’および100B’に対して、カラーフィルタの色毎に纏めてLC生成部200を設けている。そのため、光電変換素子110の、カラーフィルタの色に応じて異なる感度を、閾値Nthの達成の時間Tthに基づく予測輝度値Lpreの制御(例えばROM201に記憶されるテーブル値の調整)により補正することが可能である。
なお、この第2の実施形態の第5および第6の配置例においても、上述した第1の実施形態の第6および第7の配置例と同様に、各画素回路100R’、100G’および100B’、ならびに、各画素回路100R’、100G1’、100G2’および100B’の配置は、ベイヤ型に限定されない。また、画素回路100’に設けるカラーフィルタは、R、G、Bの3色による原色系フィルタに限らず、例えばC(シアン)、M(マゼンタ)、Y(イエロー)およびGの4色による、補色系フィルタであってもよい。
さらに、各画素回路100に対して、R、Gおよび色、あるいは、C、M、YおよびGの補色系フィルタに加え、IRフィルタや透明フィルタといった他の種類の光学フィルタを設けてもよい。さらにまた、R、GおよびBのカラーフィルタがそれぞれ設けられた各画素回路100’の配列を、上述した4分割ベイヤ型RGB配列としてもよい。
(2-3-6.第2の実施形態に係る第6の配置例)
次に、第2の実施形態に係るLC生成部200および画素回路100’の第2の実施形態に係る第6の配置例について説明する。この第2の実施形態に係る第6の配置例は、図33を用いて説明した第1の実施形態に係る第6の配置例に対応するもので、各画素回路100’に含まれる光電変換素子110にカラーフィルタが設けられ、且つ、1つのLC生成部200を、画素アレイ部2001に含まれる全ての画素回路100’に共通して設ける例である。
図48は、第2の実施形態に係る第6の配置例に係るLC生成部200、ならびに、画素回路100R’、100G1’、100G2’および100B’の配置例を示す図である。図48において、画素アレイ部2001に含まれる全ての画素回路100R’、100G1’、100G2’および100B’が1つのグループ150RGB’に含まれる。グループ150RGBに含まれる全ての画素回路100R’、100G1’、100G2’および100B’に対して、1つのLC生成部200RGBにより、輝度値コードLcRGBおよび信号SH_ONRGB(図示しない)が共通して供給される。
このように、画素アレイ部2001に含まれる全ての画素回路100R’、100G1’、100G2’および100B’に対して共通のLC生成部200RGBを設けることで、グローバルシャッタに対応することが容易となる。
(2-4.第2の実施形態の第1の変形例)
次に、第2の実施形態の第1の変形例について説明する。図49は、第2の実施形態の第1の変形例に係る画素アレイ部2001および垂直制御部2013a’の一例の構成を示すブロック図である。
図49において、垂直制御部2013a’は、上述した図41における垂直制御部2013aと共通の構成であるので、ここでの説明を省略する。
画素アレイ部2001において、画素回路100b’は、図34を用いて説明した第1の実施形態の第1の変形例に係る画素回路100bに対応するもので、光電変換素子110と、信号処理部111bと、カウンタ112と、閾値判定部113b-1と、メモリ114と、を含む。画素回路100b’において、閾値判定部113b-1から出力される、書き込み信号WRen(W)は、メモリ114および信号処理部111bに供給される。
信号処理部111bは、カウントされたフォトン数が露光期間Tsh内に閾値Nthを超え、書き込み信号WRenが輝度値コードLcの書き込みを指示する状態となった場合に、光電変換素子110の動作を制限する。光電変換素子110の動作の制限は、上述した第1の実施形態の第1の変形例と同様の手法が適用できるので、ここでの説明を省略する。
書き込み指示の書き込み信号WRenに応じて光電変換素子110の動作を制限することで、画素回路100b’における消費電力を削減することができる。
(2-5.第2の実施形態の第2の変形例)
次に、第2の実施形態の第2の変形例について説明する。図50は、第2の実施形態の第2の変形例に係る画素アレイ部2001および垂直制御部2013a’の一例の構成を示すブロック図である。
図50において、垂直制御部2013a’は、上述した図41における垂直制御部2013a’と共通の構成であるので、ここでの説明を省略する。また、画素アレイ部2001において、画素回路100c’は、図49の画素回路100b’’と比較して、信号処理部111b’および閾値判定部113b-2の機能が変更されている。
第2の実施形態の第2の変形例は、図35を用いて説明した第1の実施形態の第2の変形例に係る画素回路100cに対応するもので、閾値判定部113b-2による閾値Nthの検出に応じて、光電変換素子110の動作を制限する。光電変換素子110の動作の制限は、上述した第1の実施形態の第2の変形例と同様の手法が適用できるので、ここでの説明を省略する。
信号PhGatingに応じて光電変換素子110の動作を制限することで、画素回路100c’における消費電力を削減することができる。
(2-6.第2の実施形態の第3の変形例)
次に、第2の実施形態の第3の変形例について説明する。第2の実施形態の第3の変形例は、図36を用いて説明した第1の実施形態の第3の変形例に係る画素回路100dに対応するもので、光電変換素子110に対するフォトンの入射に応じたパルスVplsをカウントするカウンタとして、デュアルモードカウンタを用いることで、例えば図41に示した画素回路100aにおけるメモリ114を省略することができ、回路面積を削減することが可能となる。
図51は、第2の実施形態の第3の変形例に係る画素アレイ部2001および垂直制御部2013a’の一例の構成を示すブロック図である。図51において、垂直制御部2013a’は、上述した図41における垂直制御部2013a’と共通の構成であるので、ここでの説明を省略する。また、画素アレイ部2001において、画素回路100d’は、図41の画素回路100aと比較して、閾値判定部113b-3の機能が変更されると共に、メモリ114が省略され、カウンタ112の代わりにデュアルモードカウンタ115が設けられている。
図51において、光電変換素子110に対するフォトンの入射に応じたパルスVplsがデュアルモードカウンタ115に入力される。また、TC生成部120から出力された輝度値コードLcがデュアルモードカウンタ115に入力される。デュアルモードカウンタ115の構成および動作は、図37A~図37Cを用いて説明したデュアルモードカウンタ115の構成および動作と同様であるので、ここでの説明を省略する。
上述したように、デュアルモードカウンタ115は、動作モードを、閾値判定部113b-3から供給される信号WRen_CNTに応じてカウント動作モードと、記憶動作モードとで切り替える。また、記憶動作モードは、書き込み動作モードと、保持動作モードとを含む。デュアルモードカウンタ115は、信号WRen_CNTがカウント動作を示している場合、動作モードをカウント動作モードに切り替えて、信号処理部111a’から供給されるパルスVplsをカウントし、カウント結果を示すフォトン情報PhInfoを出力する。また、デュアルモードカウンタ115は、信号WRen_CNTが記憶動作を示している場合、動作モードを記憶動作モードに切り替えて、入力された輝度値コードLcを記憶する。
デュアルモードカウンタ115に係る詳細な動作は、上述した第1の実施形態の第1の変形例と同様であるので、ここでの説明を省略する。
なお、式(5)および式(6)を用いて説明した、予測カウント値Npreに対する圧縮処理、および、式(7)を用いて説明した、予測カウント値Npreに対する相関値への変換処理は、この第2の実施形態および各変形例にも適用可能である。この場合、式(5)、(6)および(7)における予測カウント値Npreを、予測輝度値Lpreに読み替える。
(2-7.第2の実施形態の第4の変形例)
次に、第2の実施形態の第4の変形例について説明する。上述した第2の実施形態では、図40に示されるように、予測輝度値Lpreの更新周期を可変としていた。すなわち、図40の例では、露光期間Tshの開始時点t0に近い側では、更新周期を短くし、開始時点t0から時間が経過するに連れ、更新周期を長くしている。これに対して、第2の実施形態の第4の変形例では、予測輝度値Lpreの更新周期を固定的とする。
図52は、第2の実施形態の第4の変形例に係る輝度値コード生成部20による予測輝度値Lpreの生成を概略的に説明するための図である。図52において、上段から、時間の経過、低照度の場合のカウント値の例、高照度の場合のカウント値の例、等間隔のタイムコードTcの例、および、予測輝度値Lpreの例、をそれぞれ示している。これらのうち、時間の経過、低照度の場合のカウント値の例、高照度の場合のカウント値の例、等間隔のタイムコードTcの例、は、上述した図40における対応部分と同様であるので、ここでの説明を省略する。
図52の最下段に示されるように、例えば輝度値コード生成部20は、同じ時間間隔で予測輝度値Lpreを更新している。より具体的には、図52の例では、輝度値コード生成部20は、上述した図40において更新周期が最短の予測輝度値Lpre=「22」の周期に従い、予測輝度値Lpreを更新している。この場合、開始時点t0からの時間の経過に伴い、時間に対する予測輝度値Lpreの変化が小さくなる。そのため、輝度値コード生成部20は、開始時点t0からの時間の経過に伴い、連続する複数回の更新を同じ予測輝度値Lpreを用いて行う。図52の例では、輝度値コード生成部20は、予測輝度値Lpre=「11」、「10」、「9」、…により、それぞれ、2回連続、3回連続、5回連続、…のように、同じ値を複数回連続して用いて、一定周期で予測輝度値Lpreの更新を行っている。
このように、一定周期で予測輝度値Lpreを更新することで、輝度値コード生成部20による予測輝度値Lpreの更新処理をより容易とすることが可能となる。
[3.第3の実施形態]
次に、本開示の第3の実施形態について説明する。第3の実施形態は、光電変換素子110に対して入射されるフォトン数に基づき予測輝度値Lpreを求めると共に、予測輝度値Lpreを取得するための更新周期を可変とする。また、取得された予測輝度値Lpreを示す輝度値コードLcの変化も、可変とする。
図53は、第3の実施形態に係る受光装置の概略的な構成例を示す図である。図53において、第3の実施形態に係る受光装置1cは、画素10と、計数部11と、輝度値コード生成部20’と、取得部13と、を含む。画素10は、図1の説明と同様に、光電変換により光を電荷に変換する光電変換素子と、光電変換素子から電荷を読み出して電気信号として出力する信号処理回路と、を含む。受光装置1cは、指定された露光期間Tsh内に画素10に入射されたフォトンの数に応じて輝度値を予測し、予測した輝度値に対応する、輝度値コード生成部20’により生成された輝度値コードLcを、取得部13により取得する。
第3の実施形態についてより具体的に説明する。第2の実施形態において説明したように、予測輝度値Lpreは、フォトン数Pnが閾値Nthを達成する時間Tthに対して反比例の関係で変化する(図39参照)。この場合、単位時間当たりの予測輝度値Lpreの変化量は、露光期間Tshの開始時点からの時間の経過に連れて小さくなる。ここで、単位時間が時間に対する分解能を示しているものとすると、単位時間当たりの予測輝度値Lpreの変化量は、予測輝度値Lpreの分解能を示すことになる。
図54は、第3の実施形態に適用可能な、予測輝度値Lpreの分解能(輝度値分解能)と、時間の分解能(時間分解能)との一例の関係を示す図である。図54から、時間分解能を一定とした場合、輝度値分解能は、露光期間Tshの開始時点からの時間の経過に従い低くなることが分かる。換言すれば、輝度値分解能を一定とした場合、時間分解能は、露光期間Tshの開始時点からの時間の経過に従い低くなる、ともいえる。例えば、時間分解能は、例えば露光期間Tshの開始時点の近傍における時間分解能に対して、当該開始時点からの時間の経過に従いより低い時間分解能で足りることになる。
そこで、第3の実施形態に係る受光装置1cは、輝度値コード生成部20’が輝度値コードLcを生成する時間間隔を、露光期間Tshの開始時点からの時間の経過に従い変化させる。それと共に、受光装置1cは、輝度値コード生成部20’が生成する輝度値コードLcの変化を、露光期間Tshの開始時点からの時間の経過に従い制御する。
図55および図56を用いて、第3の実施形態に係る輝度値コード生成部20’による輝度値コードLcの生成について説明する。図55は、第3の実施形態に係る、高照度および中照度の場合の輝度値コードLc生成について説明するための図である。図55において、上段から、時間の経過、中照度の場合のカウント値の例、高照度の場合のカウント値の例、時間値、および、輝度値コードLcの例、をそれぞれ示している。
なお、ここでは、説明のため、計数部11が有するカウンタが3ビットカウンタであって、閾値Nth=8であるものとする。すなわち、画素10に検知されるフォトン数が8個に達すると、計数部11のカウンタがオーバーフローする。
図55において、時間値は、所定の時間毎にインクリメントされる値であり、例えばタイマから供給される。一方、輝度値コードLcは、照度を例えば高照度、中照度および低照度の3段階に分類し、それぞれ異なる更新周期に従った間隔で、輝度値コード生成部20’により生成される。ここで、露光期間Tshに対して、高照度の期間と、中照度の期間と、低照度の期間と、を割り当てる。例えば、高照度の期間は、露光期間Tshの開始時点から所定時間までとし、当該所定時間から別の所定時間までを中照度の期間とする。さらに、当該別の所定期間から露光期間Tshの終了時点までを、低照度の期間とする。
輝度値コード生成部20’は、これら高照度、中照度および低照度の各期間のうち、高照度の期間に対して、最も高い更新周期に従った間隔で輝度値コードLcを生成する。また、輝度値コード生成部20’は、高照度の期間において、不連続な値で輝度値コードLcを生成する。例えば、輝度値コード生成部20’は、高照度の期間において、露光期間Tshの開始時点に最も近い位置から遠い位置に向けて、段階的に値を小さくした輝度値コードLcを生成する(図55の例では、値「28」、「22」、「17」、「13」)。
この第3の実施形態においても、上述した第2の実施形態と同様に、時間Tthが極めて短い期間では、予測輝度値Lpreが極めて大きな値となり、当該期間内の予測輝度値Lpreは、現実的に意味をなさない値となる。これは、当該期間における輝度値コードLcが不要であることを意味している。そのため、輝度値コード生成部20’は、例えば、高照度の期間において、当該期間の開始時点から所定時間が経過した時点おいて最も大きな値の輝度値コードLcを設定し、当該時点以前の期間においては、輝度値コードLcを設定しないことができる。図55の例では、例えば輝度値コード生成部20’は、最下段に示される輝度値コードLcにおいて、輝度値コードLc=「28」以前の時間における値、すなわち、値「28」を超える輝度値コードLcを設定していない。
輝度値コード生成部20’は、中照度および低照度の期間において、連続的な値で輝度値コードLcを生成する。例えば、輝度値コード生成部20’は、中照度の期間において、露光期間Tshの開始時点に最も近い位置から遠い位置に向けて、「1」ずつ値を小さくした輝度値コードLcを生成する(図55の例では、値「11」、「10」、「9」)。具体例は後述するが、低照度の期間においても中照度の期間と同様に、連続的な値で輝度値コードLcを生成する。
また、この例では、中照度の期間において、各輝度値コードLcに対応する期間は、上述の第2の実施形態において式(6)などを用いて説明した、期待時間Tthevと輝度値Lxとの反比例の関係に従い、露光期間Tshの開始時点から遠ざかるに連れ長くなるように設定される。これは、高照度および低照度の期間においても同様に適用できる。なお、高照度の期間においては、各輝度値コードLcの値が段階的に変化しているので、各輝度値コードLcに対応する期間を同じ長さとすることもできる。
図55において、中照度の場合、露光期間Tsh内に、7個のフォトンPh(31)、Ph(32)、…、Ph(37)がカウントされ、次に8個目のフォトンPh(38)が検知された時点で、カウンタがオーバーフローしている。したがって、8個目のフォトンPh(38)が検知されたタイミングが、カウント値が閾値Nthを超えた時間Tth_mとなる。計数部11は、カウンタがオーバーフローすると、書き込み信号WRenにより、取得部13に対して、輝度値コード生成部20’で生成された輝度値コードLcの書き込みを指示する。図55の例では、時間Tth_mに対応する輝度値コードLcの値「9」が、書き込み信号WRenに従い取得部13に取得されメモリに書き込まれる。
高照度の場合も同様に、露光期間Tsh内に、7個のフォトンPh(41)、Ph(42)、…、Ph(47)がカウントされ、次に8個目のフォトンPh(48)が検知された時点で、カウンタがオーバーフローしている。したがって、8個目のフォトンPh(38)が検知されたタイミングが、カウント値が閾値Nthを超えた時間Tth_hとなる。計数部11は、カウンタがオーバーフローすると、書き込み信号WRenにより、取得部13に対して、輝度値コード生成部20’で生成された輝度値コードLcの書き込みを指示する。図55の例では、時間Tth_hに対応する輝度値コードLcの値「13」が、書き込み信号WRenに従い取得部13に取得されメモリに書き込まれる。
なお、高照度の場合の時間Tth_h、および、中照度の場合の時間Tth_mに対応する時間値は、それぞれ値「11」および「127」であるものとする。
図56は、第3の実施形態に係る、低照度の場合の輝度値コードLc生成について説明するための図である。図56において、上段から、時間の経過、低照度の場合のカウント値の例、時間値、および、輝度値コードLcの例、をそれぞれ示している。
図56において、露光期間Tsh内に、7個のフォトンPh(51)、Ph(52)、…、Ph(57)がカウントされ、次に8個目のフォトンPh(58)が検知された時点で、カウンタがオーバーフローしている。したがって、8個目のフォトンPh(58)が検知されたタイミングが、カウント値が閾値Nthを超えた時間Tth_lとなる。計数部11は、カウンタがオーバーフローすると、書き込み信号WRenにより、取得部13に対して、輝度値コード生成部20’で生成された輝度値コードLcの書き込みを指示する。図56の例では、時間Tth_lに対応する輝度値コードLcの値「7」が、書き込み信号WRenに従い取得部13に取得されメモリに書き込まれる。
ここで、低照度の場合、平均フォトン到達間隔Taが例えば上述の高照度や中照度の場合と比べて非常に長く、8個目のフォトンPh(38)が検知されカウンタがオーバーフローする時点における時間値が非常に大きな値となる。図56の例では、当該時間値が11ビットを要する値「1234」となっている。さらに、低照度の場合、露光期間Tshの終了時点までフォトン数が閾値Nthに達しない場合もあり、この場合、時間値は、露光期間Tshの終了時点までカウントした、さらに大きな値となる。すなわち、一定の周波数で時間をカウントし、このカウント値を取得部13が取得する場合、低照度に対応するためには、取得部13は、非常に大きなビット幅のメモリを持つ必要があり、メモリ回路に大きな面積を要する。
これに対して、予測輝度値Lpreに基づく輝度値コードLcは、露光期間Tshの開始時点から時間を経過するほど、小さな値となる。そのため、露光期間Tshの終了時点において輝度値コードLcを取得した場合であっても、取得した輝度値コードLcの値が大きな値にはならず、メモリのビット幅を抑えることができ、メモリ回路の面積を削減可能である。
また、第3の実施形態でも、上述した第2の実施形態と同様に、露光期間Tshにおいて予測される予測輝度値Lpreを、光電変換素子110に入射するフォトン数Pnが閾値Nthを達成した時間Tthに基づき、直接的に求めることができる。これにより、第3の実施形態に係る受光装置1cは、第1の実施形態に係る受光装置1aと比較して、タイムコードTcを輝度値に変換する処理の負荷を軽減することが可能である。
なお、この第3の実施形態は、上述した第2の実施形態およびその各変形例に係る各画素回路100a’~100d’の構成や、図43~図48を用いて説明した各配置例を適用することができる。
[4.第4の実施形態]
次に、本開示の第4の実施形態について説明する。第4の実施形態は、フォトン数のカウントを、上述した第1乃至第3の実施形態とは異なる期間において実行するようにしている。
なお、第4の実施形態は、上述した第1乃至第3の実施形態の何れにも適用可能なものである。以下では、説明のため、第1の実施形態に係る受光装置1aに対して、第4の実施形態を適用させたものとする。また、この場合において、受光装置1aは、図8に示す画素回路100aを含むものとする。
上述した第1乃至第3の実施形態、例えば、第1の実施形態では、図2Aおよび図2B、ならびに、図3を用いて説明したように、露光期間Tshの開始時点からのフォトン数のカウント値が閾値Nthに到達した時間Tthに基づき、露光期間Tsh内におけるフォトン数の予測値である予測カウント値Npreを求める。このように、照度に応じてフォトン数をカウントする時間が異なるため、例えば高速に移動する物体に対しては、予測カウント値Npreを正しく求めることが困難となるおそれがある。
一例として、高速に移動する物体において、高照度の部分と低照度の部分とが存在する場合、高照度の部分は短時間(時間Tth_h)にカウント値が閾値Nthに達する一方で、低照度の部分では、例えば露光期間Tshの終了時点までフォトン数のカウントが行われる。したがって、高照度の部分においてカウント値が閾値Nthに達した時間Tth_hから、露光期間Tshの終了時点までの間に物体が大きく移動すると、当該物体内の各部における計測結果に大きな差が生じてしまう。これは、当該物体に対して適切な計測結果が得られないおそれがあることを意味する。
そこで、第4の実施形態では、フォトン数のカウントを、上述した第1乃至第3の実施形態とは異なる期間において実行するようにしている。より具体的には、上述した第1乃至第3の実施形態では、フォトン数のカウントを1つの露光期間Tshに基づき行っていた。これに対して、第4の実施形態では、露光期間Tshを分割した分割露光期間Tsh_divに基づきフォトン数のカウントを実行する。
露光期間Tshの分割などの処理は、例えば、制御部1003の指示に応じた垂直制御部2013aの制御に従い実行することができる。
(4-1.第4の実施形態に係る第1の例)
第4の実施形態に係る第1の例について説明する。図57は、第4の実施形態に係る第1の例の分割露光を説明するための図である。図57において、露光期間Tshを1フレーム(Frame)とし、露光期間Tshを5等分に分割し、分割されたそれぞれを分割露光期間Tsh_divとする。閾値判定部113aは、各分割露光期間Tsh_divにおいて、露光期間Tshに対する閾値Nthの1/5の値の閾値Nth_divに基づきフォトン情報PhInfoに対する判定を行う。
したがって、中照度の場合に入射フォトン数が閾値Nth_divを達成する時間は、露光期間Tshにおける時間Tth_mの1/5の、時間Tth_m/5となる。同様に、高照度の場合に入射フォトン数が閾値Nth_divを達成する時間は、露光期間Tshにおける時間Tth_hの1/5の、時間Tth_h/5となる。閾値判定部113aは、各分割露光期間Tsh_divにおいて、これら時間Tth_m/5、時間Tth_h/5で書き込み信号WRen(W)を出力し、メモリ114にタイムコードTcを書き込む。
また、例えば低照度の状態など、各分割露光期間Tsh_divにおいて光電変換素子110に入射されたフォトン数が閾値Nth_divに達しない場合も生じうる。この場合には、閾値判定部113aは、各分割露光期間Tsh_divの終了時点Tread1、Tread2、Tread3、Tread4およびTread5において、書き込み信号WRen(W)を出力し、メモリ114に対してタイムコードTcを書き込む。
すなわち、第4の実施形態に係る第1の例では、画素回路100aは、露光期間Tshにおいて、露光期間Tshの1/5の時間の分割露光期間Tsh_divで露光を5回行う。
上述したように、画素回路100aから信号線142を介して読み出されたタイムコードTcは、信号処理部2013cに供給される。信号処理部2013cは、画素回路100aから供給されたタイムコードTcに基づき、予測カウント値Npreを算出する。このとき、信号処理部2013cは、各分割露光期間Tsh_divでそれぞれ読み出されたタイムコードTc1、Tc2、Tc3、Tc4およびTc5に対して、例えば式(1)に基づき、それぞれ予測カウント値Npre1、Npre2、Npre3、Npre4およびNpre5を算出する。
信号処理部2013cは、次式(11)に従い、予測カウント値Npre1、Npre2、Npre3、Npre4およびNpre5に基づき露光期間Tsh全体での予測カウント値Npreを算出する。
Npre=Npre1+Npre2+Npre3+Npre4+Npre5 …(11)
このように、露光期間Tshを分割した各分割露光期間Tsh_div毎に露光を行いタイムコードTcを読み出すことで、露光期間Tsh内に移動する物体内の各部において発生する計測結果の差を抑制することが可能となる。
(4-2.第4の実施形態に係る第2の例)
次に、第4の実施形態に係る第2の例について説明する。第4の実施形態に係る第2の例は、光電変換素子110に入射するフォトン数による照度に応じて分割露光を行うか否かを判定する例である。
図58は、第4の実施形態に係る第2の例の分割露光を説明するための図である。図58において、図57を用いて説明した第1の例と同様に、露光期間Tshを5等分に分割する。このとき、画素回路100aは、照度が所定より低い場合は、露光期間Tshの分割を行わずに、露光期間Tsh内に入射されたフォトン数によるタイムコードTcを取得する。
図58の例では、照度が低照度であれば、露光期間Tshの分割を行わず、照度が中照度および高照度の場合に、露光期間Tshを5つの分割露光期間Tsh_divに分割している。
換言すれば、第4の実施形態に係る第2の例では、画素回路100aは、光電変換素子110に対して入射するフォトンの平均時間間隔Taが所定以下の場合に、露光期間Tshを複数に分割した各分割露光期間Tsh_div毎にタイムコードTcの取得を行う、ということができる。
図59は、第4の実施形態の第2の例に適用可能な画素回路の一例の構成を示すブロック図である。図59において、画素回路100c’は、図35を用いて説明した画素回路100cに対応するもので、閾値判定部113a(c)の判定結果に従い信号処理部111cを制御して、光電変換素子110の動作を制限する。
画素回路100c’において、閾値判定部113a(c)から出力される書き込み信号WRenがメモリ114に供給されると共に、AND回路117の一方の入力端に入力される。AND回路117の他方の入力端には、信号READOUT_enが供給される。また、タイムコードTcが伝送される信号線142は、スイッチ116を介してメモリ114に接続される。スイッチ116は、AND回路117の出力に従いオン(閉)およびオン(開)状態を制御される。
ここで、書き込み信号WRenは、ハイ状態で書き込み指示を示すものとする。また、スイッチ116は、AND回路117からの出力が「1」(ハイ)でオン、「0」(ロー)でオフに制御されるものとする。信号READOUT_enは、例えば、信号処理部2013c(図7参照)による予測カウント値Npreに基づく制御部1003からの指示に従い、垂直制御部2013aから供給される。
一例として、例えば制御部1003は、垂直制御部2013aに対して、信号READOUT_enをデフォルトでハイ状態とするよう指示する。これにより、閾値判定部113aから書き込み信号WRen(W)が出力されることで、スイッチ116がオン状態とされて、信号線142から供給されるタイムコードTcがメモリ114に書き込まれる。
一方、制御部1003は、露光期間Tshの開始時点から例えば最初の分割露光期間Tsh_divまでの間に光電変換素子110に入射されたフォトン数が閾値Nth_divに達しない場合、低照度であるとして、信号READOUT_enをロー状態に移行させるよう、垂直制御部2013aに指示する。そして、制御部1003は、例えば、露光期間Tshの最後の分割点である、分割露光期間Tsh_div4の終了時点Tread4において、信号READOUT_enをロー状態からハイ状態に移行させるよう、垂直制御部2013aに指示する。これにより、低照度の場合のタイムコードTcをメモリ114に書き込むことが可能となる。
(4-3.第4の実施形態に係る第3の例)
次に、第4の実施形態に係る第3の例について説明する。第4の実施形態に係る第3の例は、露光期間Tshを複数の分割露光期間Tsh_divに分割する際に、異なる長さの分割露光期間Tsh_divを含ませる例である。
図60は、第4の実施形態に係る第3の例の分割露光を説明するための図である。図60の例では、露光期間Tshを、第1の時間T1を有する2つの分割露光期間Tsh_div3001および3002と、第1の時間T1より短い第2の時間T2を有する1つの分割露光期間Tsh_div301と、に分割している。
各分割露光期間Tsh_div3001、3002および301の長さは、特に限定されないが、例えば、各分割露光期間Tsh_div3001および3002の長さを、分割露光期間Tsh_div301の2倍とすることが考えられる。
図60の例では、フォトン数を予測する予測カウント値Npreの算出回数と、メモリ114からのタイムコードTcの読み出し回数がそれぞれ3回となり、例えば当該各回数が5回の上述した第4の実施形態の第1の例に対して各処理の回数を減らすことができる。このように、露光期間Tshを複数の分割露光期間Tsh_divに分割する際に、異なる長さの分割露光期間Tsh_divを含ませることで、予測カウント値Npreの算出処理や、メモリ114からの読み出し処理に係る消費電力の削減が可能である。
(4-4.第4の実施形態に係る第4の例)
次に、第4の実施形態に係る第4の例について説明する。第4の実施形態に係る第4の例は、露光期間Tshを長さが等しい複数の分割露光期間Tsh_divに分割し、各分割露光期間Tsh_divにおける閾値Nthの値を異ならせる例である。
図61は、第4の実施形態に係る第4の例の分割露光を説明するための図である。図61の例では、露光期間Tshを、それぞれ長さが等しい5つの分割露光期間Tsh_div3021、3022、3023、3024および3025に分割している。そして、分割露光期間Tsh_div3021、3023および3025に対して閾値Nth1を設定し、分割露光期間Tsh_div3022および3024に対して、閾値Nth1より小さい値の閾値Nth2を設定する。
上述したように、画素回路100aから信号線142を介して読み出されたタイムコードTcは、信号処理部2013cに供給される。信号処理部2013cは、画素回路100aから供給されたタイムコードTcに基づき、予測カウント値Npreを算出する。このとき、信号処理部2013cは、各分割露光期間Tsh_div3021~3025でそれぞれ読み出されたタイムコードTc11、Tc12、Tc13、Tc14およびTc15に対して、例えば式(1)に基づき、それぞれ予測カウント値Npre11、Npre12、Npre13、Npre14およびNpre15を算出する。
ここで、予測カウント値Npre11、Npre13およびNpre15は、閾値Nth1による判定結果に基づき算出された値である。一方、予測カウント値Npre12およびNpre14は、閾値Nth1と異なる値の閾値Nth2による判定結果に基づき算出された値である。閾値Nth1と閾値Nth2とが、所定の係数kを用いてNth1=k×Nth2の関係にある場合、信号処理部2103cは、露光期間Tsh全体での予測カウント値Npreを、次式(12)に従い算出する。
Npre=Npre11+k×Npre12+Npre13+k×Npre14+Npre15 …(12)
このように、露光期間Tshを分割した各分割露光期間Tsh_div3021~3025に対して、異なる値の閾値Nth1およびNth2を設定することで、異なる露光条件による多重露光を実現できる。
(4-5.第4の実施形態に係る第5の例)
次に、第4の実施形態に係る第5の例について説明する。第4の実施形態に係る第5の例は、露光期間Tshを複数の分割露光期間Tsh_divに分割する際に、異なる長さの分割露光期間Tsh_divを含ませる例である。このとき、第4の実施形態に係る第5の例では、各分割露光期間Tsh_divの長さが露光期間Tshの開始時点から終了時点に向けて順次所定倍(例えば2倍)になるように、露光期間Tshを分割する。
図62は、第4の実施形態に係る第5の例の分割露光を説明するための図である。図62の例では、露光期間Tshを、露光期間Tshの開始時点から順に、3つの分割露光期間Tsh_div3031、3032および3033に分割している。これら3つの分割露光期間Tsh_div3031~3033は、先頭の分割露光期間Tsh_div3031の長さを時間Tsとしたとき、次の分割露光期間Tsh_div3032の長さを時間Ts×2とする。また、露光期間Tshの終了時点側の分割露光期間Tsh_div3033の長さを時間Ts×4とする。
この第4の実施形態に係る第5の例による露光期間Tshの分割方法は、照度差の大きな環境化において明瞭に映像を得ることを可能とするハイダイナミックレンジ(HDR)機能を実現する方式の一つである、デジタルオーバーラップに適用することができる。デジタルオーバーラップは、撮像の場合、例えば電荷の蓄積時間(露光時間)の異なる複数フレームの情報を用いて、ダイナミックレンジの拡大を図る技術である。
3つの分割露光期間Tsh_div3031、3032および3033において、画素アレイ部2001(およびロジックアレイ部2011)に2次元格子状に配列される複数の画素回路100aから読み出したタイムコードTcに基づき、露光時間Tsに基づく予測カウント値NpreTsを算出する。同様に、当該複数の画素回路100aから読み出したタイムコードTcに基づき、露光時間Ts×2に基づく予測カウント値NpreTs2と、露光時間Ts×4に基づく予測カウント値NpreTs4と、を算出する。これら予測カウント値NpreTs、NpreTs2およびNpreTs4に対してデジタルオーバーラップの技術による処理を適用することで、入射フォトン検出に係るダイナミックレンジの拡大を図ることが可能である。
(4-6.第4の実施形態に係る第6の例)
次に、第4の実施形態に係る第6の例について説明する。第4の実施形態に係る第6の例は、上述した第4の実施形態に係る第5の例における各分割露光期間Tsh_div3031、3032および3033の順序を変更した例である。
図63は、第4の実施形態に係る第6の例の分割露光を説明するための図である。図62を用いて説明した第4の実施形態に係る第5の例では、露光期間Tshの開始時点から、各分割露光期間Tsh_div3031~3033が長さの単調増加の順に並べられていた。
これに対して、図63に示す第4の実施形態に係る第6の例では、長さの単調増加または単調減少の順とは異なる順序で、各分割露光期間Tsh_div3031~3033が並べられている。すなわち、図63の例では、それぞれ長さが時間Ts、時間Ts×2、時間Ts×4の3つの分割露光期間Tsh_div3031~3033が、露光期間Tshの開始時点から、分割露光期間Tsh_div3032、分割露光期間Tsh_div3031、分割露光期間Tsh_div3033、の順に並べられている。
このように、第4の実施形態の第6の例では、それぞれ長さが時間Ts、時間Ts×2、時間Ts×4の3つの分割露光期間Tsh_div3031~3033が長さの単調増加または単調減少の順とは異なる順序で並べられている。この場合であっても、分割露光期間Tsh_div3031~3033において算出された予測カウント値NpreTs、NpreTs2およびNpreTs4に対してデジタルオーバーラップの技術による処理を適用することができ、これにより、入射フォトン検出に係るダイナミックレンジの拡大を図ることが可能である。
[5.第5の実施形態]
次に、本開示の第5の実施形態について説明する。図64は、第5の実施形態に係る受光装置の概略的な構成例を示す図である。図64において、受光装置1dは、画素10と、計数部11と、タイムコード生成部12と、を含む。
受光装置1dにおいて、計数部11は、露光期間Tshが開始されると、画素10から出力されたパルスVplsを計数する。計数部11は、計数されたパルスVplsの数が例えば時間txにて閾値Nthに達すると、係数の対象をパルスVplsからタイムコードTcに切り替える。計数部11は、露光期間Tshが終了すると、時間txから計数されたタイムコードの数であるタイムコード数Cnt_Tc(tx)を出力する。
タイムコード生成部12が生成するタイムコードTcの更新周期は既知であるので、このタイムコード数Cnt_Tc(tx)から時間txを求めることができ、求めた時間txに基づき、露光期間Tsh内に入射されるフォトン数を予測することができる。
この第5の実施形態の構成によれば、タイムコードTcそのものを記憶する必要が無く、したがって、タイムコードTcを書き込むメモリを省略できる。図64の例では、受光装置1dは、上述した受光装置1a~1cが有する、当該メモリを含む取得部13が省略されている。また、第5の実施形態の構成によれば、タイムコードTcも、時系列に沿って変化する値を含む必要が無く、例えばタイムコードTcとして更新周期毎のパルスを用いることができる。この場合、タイムコード数Cnt_Tc(tx)は、当該パルス数を計数した計数値となる。
以下、特に記載の無い限り、タイムコードTcが更新周期毎のパルスであるものとして説明を行う。
なお、タイムコード数Cnt_Tc(tx)に基づくフォトン数の予測は、後段の回路、例えば信号処理部2013c(図7参照)にて行われる。これに限らず、フォトン数の予測を受光装置1dの内部で行ってもよいし、受光装置1dの外部で行ってもよい。
図65は、第5の実施形態に係る計数部11の構成の例を概略的に示すブロック図である。図65において、計数部11は、カウンタ112と、閾値判定部113cと、セレクタ400と、を含む。
セレクタ400は、一方の入力端に画素10から出力されたパルスVplsが入力され、他方の入力単にタイムコード生成部12により生成されたタイムコードTcが入力される。セレクタ400は、閾値判定部113cから出力される選択信号SELに従い、入力されたパルスVplsおよびタイムコードTcから一方を選択して出力する。セレクタ400の出力は、カウンタ112に入力される。カウンタ112は、セレクタ400から入力されたパルスVplsまたはタイムコードTcの数をカウントし、カウント結果をフォトン情報PhInfoとして出力する。
閾値判定部113cは、カウンタ112から出力されたフォトン情報PhInfoに対して、閾値Nthに基づく判定を行う。より具体的には、閾値判定部113cは、フォトン情報PhInfoに含まれるカウント結果、すなわちパルスVplsまたはタイムコードTcの数が閾値Nthに達したか否かを判定する。
なお、閾値NthおよびタイムコードTcの値は、例えば露光期間Tshの開始から終了まで通してタイムコードTcをカウントした場合であっても、カウントされたタイムコードTcの数が閾値Nth未満となるように設定される。したがって、閾値判定部113cは、パルスVplsまたはタイムコードTcのうちパルスVplsの数に対して閾値Nthに対する判定を行うことになる。
閾値判定部113cは、セレクタ選択信号SELおよびイネーブル信号ENを出力する。閾値判定部113cは、カウント数が閾値Nthに達したと判定した場合、選択信号SELおよびイネーブル信号ENを、それぞれ所定の状態に遷移させる。
以下、カウント数が閾値Nthに達した場合の選択信号SELおよびイネーブル信号ENを、それぞれ選択信号SEL(Nth)、イネーブル信号EN(Nth)とし、選択信号SELおよびイネーブル信号ENをそれぞれ選択信号SEL(Nth)、イネーブル信号EN(Nth)に遷移させることを、選択信号SEL(Nth)、イネーブル信号EN(Nth)を出力する、などと記述する。
セレクタ400は、選択信号SEL(Nth)に応じて、入力されたパルスVplsおよびタイムコードTcのうちタイムコードTcを選択する。すなわち、閾値判定部113cによりパルスVplsのカウント数が閾値Nthに達すると、セレクタ400からカウンタ112に入力される情報がパルスVplsからタイムコードTcに切り替わる。カウンタ112は、入力されたタイムコードTcの数をカウントする。
また、画素10は、イネーブル信号EN(Nth)に応じて、光電変換素子110の動作を停止させる。例えば、図9を参照し、抵抗1101の少なくとも一方の端の側に、イネーブル信号ENにより開閉を制御されるスイッチを挿入する。より具体的には、抵抗1101と電源電位VDDとの間、および、抵抗1101と光電変換素子110およびインバータ1102とが接続される接続点との間、とのうち少なくとも一方に、当該スイッチを挿入する。これに限らず、当該スイッチを、光電変換素子110の少なくとも一方の端の側に挿入してもよい、
画素10は、イネーブル信号EN(Nth)に応じてこのスイッチを開状態として、光電変換素子110に対する電源電位VDDの電圧の印加を停止させる。画素10は、次の露光期間Tshの開始時にイネーブル信号ENを出力し、このスイッチを閉状態とし、光電変換素子110に対する電源電位VDDの印加を開始する。これにより、光電変換素子110の消費電力を削減することが可能である。
図66は、第5の実施形態に適用可能な、フォトン数の予測について説明するための図である。図66において、横軸は露光期間Tshの開始からの時間の経過を示す。縦軸は、直線Ct1~Ct3に対しては、フォトン数すなわちパルスVplsの数を示し、折れ線Tcについては、タイムコードTcの変化を示している。
なお、タイムコード生成部120は、一例として、図12に示した更新周期でタイムコードTcの更新を行うものとする。すなわち、露光期間Tshを128クロック分(0クロック~127クロック)の長さとし、露光期間Tshの開始から32クロック分の期間(0クロック~31クロック)は、2クロックを更新周期としてタイムコードTcを更新する。次の32クロック分の期間(32クロック~63クロック)は、4クロックを更新周期、さらに次の64クロック分の期間(64クロック~127クロック)は、8クロックを更新周期として、それぞれタイムコードTcを更新する。
図66の例では、露光期間Tshの開始から時間t10までが2クロックを更新周期とし、時間t10~t11の間が4クロックを、時間t11~露光期間Tshの終了までが8クロックを、それぞれ更新周期としている。
図66において、直線Ct1は、カウントされたフォトン数が時間t1で閾値Nthを達成したことを示している。また、直線Ct2は、カウントされたフォトン数が時間t1より後の時間t2で閾値Nthを達成したことを示している。ここで、露光期間Tshの終了時における、露光期間Tshの開始時点からのタイムコードTcの更新回数は既知であり、タイムコードTcの各時点における更新周期も既知であるため、各時間t1およびt2からそれぞれカウントされたタイムコード数Cnt_Tc(t1)およびCnt_Tc(t2)に基づき、逆算により、時間t1およびt2それぞれを求めることができる。
ここで、時間txから露光期間Tshの終了時点(時間Tshとする)までの時間を時間ΔTc_sh(tx)とする。この場合、時間txは、下記の式(13)により表される。
x=Tsh-ΔTc_sh(tx) …(13)
時間ΔTc_sh(tx)は、時間txからカウントされたタイムコード数Cnt_Tc(tx)に基づき求める。すなわち、タイムコードTcの更新周期が図12に示すものである場合、時間ΔTc_sh(tx)は、タイムコード数Cnt_Tc(tx)の値に基づき、下記の各式(14)~(16)にて求められる。なお、各式において、「:(コロン)」は、その前の記述がタイムコード数Cnt_Tc(tx)に対する条件であることを表している。また、[Ck]は、直前の数値がクロック数であることを表している。
Cnt_Tc(tx)≦8:ΔTc_sh(tx)=Cnt_Tc(tx)×8[Ck] …(14)
8<Cnt_Tc(tx)≦16:ΔTc_sh(tx)=64[Ck]+(Cnt_Tc(tx)-8[Tc])×4[Ck] …(15)
Cnt_Tc(tx)>16:ΔTc_sh(tx)=96[Ck]+(Cnt_Tc(tx)-16[Tc])×2[Ck] …(16)
例えば信号処理部2013cは、カウンタ112から出力されたタイムコード数Cnt_Tc(tx)に基づき上述した式(13)~(16)の計算を実行し、フォトン数が閾値Nthに達した時間txを求める。そして、上述した式(1)に従い、時間txを式(1)の時間Tthとして用いて、予測カウント値Npreを求める。
なお、図66に直線Ct3として示されるように、低照度であり、露光期間Tshが経過してもフォトン数が閾値Nthに達しない場合、選択信号SEL(Nth)が出力されず、セレクタ400においてタイムコードTcが入力として選択されない。したがって、タイムコード数Cnt_Tc(tx)のカウントが行われず、タイムコード数Cnt_Tc(tx)=0となる。この場合には、露光期間Tshが経過した時点でカウントされたフォトン数を、予測カウント値Npreとして用いることができる。
図67は、第5の実施形態に係る画素回路の一例の構成を示すブロック図である。なお、図67において、垂直制御部2013aは、図8を用いて説明した垂直制御部2013aと同等の構成を適用できるので、ここでの説明を省略する。図67において、画素アレイ部2001は、複数の画素回路100eを含む。なお、図67では、図8の例と同様に、画素アレイ部2001に2次元格子状に配列される各画素回路100eのうち、1行に含まれる各画素回路100eを抜粋して示している。
画素回路100eは、光電変換素子110と、信号処理部111aと、セレクタ400と、カウンタ112と、閾値判定部113cと、を含む。なお、以下では、上述した図8と異なる部分に注目して説明を行う。
光電変換素子110は、閾値判定部113cから出力されるイネーブル信号ENに従い、動作を制御される。光電変換素子110は、フォトンの入射に応じて信号Vphを出力し、信号処理部111aは、光電変換素子110から出力された信号Vphを整形してパルスVplsとして出力する。パルスVplsは、セレクタ400の一方の入力端に入力される。セレクタ400の他方の入力端には、タイムコード生成部120で生成されたタイムコードTcが入力される。
セレクタ400は、閾値判定部113cから出力される選択信号SELに従い、一方の入力端に入力されたパルスVplsと、他方の入力端に入力されたタイムコードTcのうち一方を出力する。セレクタ400の出力は、カウンタ112に入力される。
カウンタ112は、露光期間Tshを示す信号、例えば露光期間Tshにおいてハイ状態とされ、その他の期間においてロー状態とされる信号が入力される。カウンタ112は、セレクタ400から出力されたパルスVplsまたはタイムコードTcを、露光期間Tshにおいてカウントし、カウント値(フォトン数またはタイムコード数Cnt_Tc(tx)を、フォトン情報PhInfoとして出力する。
閾値判定部113cは、カウンタ112から出力されたフォトン情報PhInfoに基づき閾値判定を行う。また、閾値判定部113cは、選択信号SELおよびイネーブル信号ENを出力する。閾値判定部13cは、フォトン情報PhInfoに基づきフォトン数が閾値Nthに達したと判定した場合、選択信号SELを選択信号SEL(Nth)に遷移させると共に、イネーブル信号ENをイネーブル信号EN(Nth)に遷移させる。さらに、閾値判定部113cは、露光期間Tshの終了時に、カウンタ112から供給されたカウント値(例えばタイムコード数Cnt_Tc(tx))を出力し、例えば信号処理部2013cに供給する。
図68は、第5の実施形態に適用可能なカウンタ112および閾値判定部113cの一例の構成を示すブロック図である。ここでは、カウンタ112として、図17を用いて説明した、ビット列を出力可能なカウンタ112bを適用している。なお、カウンタ112bにおける基本的なカウント動作は、図17を用いて説明したカウンタ112bと同様であるので、ここでの説明を省略する。
カウンタ112から出力されたフォトン情報PhInfoは、閾値判定部113cに入力される。閾値判定部113cは、比較回路1131’を含むと共に、選択信号SELおよびイネーブル信号ENを出力する。比較回路1131’は、フォトン情報PhInfoと、閾値Nthとを比較し、フォトン情報PhInfoが示す値と閾値Nthとが一致した場合に、選択信号SELおよびイネーブル信号ENを、それぞれ選択信号SEL(Nth)およびイネーブル信号EN(Nth)の状態に遷移させる。
閾値判定部113cに含まれるスイッチ401は、一端が、カウンタ112からビット列が入力される入力経路に接続され、他端が外部(例えば垂直信号線)に接続される。ここで、垂直信号線は、画素アレイ部2001に2次元格子状に配列される各画素回路100eのうち、列方向に整列される各画素回路100eに接続される信号線であって、例えば水平制御部2013bを介して信号処理部2013cに接続される。
スイッチ401は、露光期間Tshを示す信号により開閉が制御される。例えば、スイッチ401は、当該信号により露光期間Tsh内では開状態に制御され、露光期間Tshが終了するタイミングで開状態から閉状態に制御される。これにより、カウンタ112から閾値判定部113cに入力されるカウント値(例えばタイムコード数Cnt_Tc(tx)が、閾値判定部113cから外部に出力される。
このように、第5の実施形態に係る受光装置1dは、カウントしたフォトン数が閾値Nthに達した場合に、カウントの対象をフォトン数からタイムコードTcに切り替える。そして、露光期間Tshの終了時点でのタイムコード数Cnt_Tc(tx)に基づき、予測カウント値Npreを求めるようにしている。そのため、タイムコードTcを記憶するためのメモリを省略できる。
なお、当該受光装置1dは、閾値判定部113cから出力されるタイムコード数Cnt_Tc(tx)に基づき、フォトン数が閾値Nthに達した時間txを求めている。したがって、タイムコード数Cnt_Tc(tx)は、フォトン数が閾値Nthに達した時間txに到達した時間を示す時間情報であり、閾値判定部113cは、当該時間情報を取得する取得部として機能する。
(5-1.第5の実施形態の第1の変形例)
次に、第5の実施形態の第1の変形例について説明する。第5の実施形態の第1の変形例は、第5の実施形態のセレクタ400の、パルスVplsが入力される一方の入力端に1ビットカウンタを設けた例である。図69Aおよび図69Bを用いて、第5の実施形態の第1の変形例に係る計数部11について説明する。
図69Aは、第5の実施形態の第1の変形例に係る計数部11の構成の例を概略的に示すブロック図である。図69Aの例では、図65の構成に対して画素10とセレクタ400の一方の入力端との間に1ビットカウンタ402(図では1bカウンタ402と表記)が挿入されている。この構成において、画素10から出力されたパルスVplsが1ビットカウンタ402に入力され、1ビットカウンタ402の出力がセレクタ400の一方の入力端に入力される。セレクタ400の他方の入力端には、タイムコードTcが入力される。
図69Aの例では、1ビットカウンタ402は、1つの入力端を有し、当該入力端に入力される入力信号の立ち上がり毎に、出力信号の状態を反転させる。図69Bは、第5の実施形態の第1の変形例に適用可能な1ビットカウンタの動作例を示すシーケンス図である。図69Bの例では、パルスVplsの立ち上がり毎に、1ビットカウンタ402の出力(図では1bカウンタ出力と表記)がハイ状態およびロー状態の間で遷移している。すなわち、1ビットカウンタ402は、パルスVplsの2パルス毎に1カウントを行う。また、1ビットカウンタ402の出力は、初期状態と同一の状態で偶数のカウント値、初期状態に対して反転された状態で奇数のカウント値をそれぞれ示す。そのため、パルスVplsのカウント値の解像度は、1ビットカウンタ402を用いない場合と変わらない。
このような1ビットカウンタ402は、例えばフリップフロップ回路を用いて構成することができる。
このように、パルスVplsを1ビットカウンタ402でカウントした出力をカウンタ112に入力することで、カウンタ112におけるパルスVplsのカウント動作が、1ビットカウンタ402を用いない場合に比べて1/2となり、カウンタ112における消費電力を削減することが可能である。また、1ビットカウンタ402を用いることによる解像度の低下も生じない。
なお、第5の実施形態の第1の変形例におけるフォトン数の予測は、図66を用いて説明した第5の実施形態による予測方法を適用することができるため、ここでの説明を省略する。
(5-2.第5の実施形態の第2の変形例)
次に、第5の実施形態の第2の変形例について説明する。第5の実施形態の第2の変形例では、画素10から出力されたパルスVplsと、タイムコード生成部120から供給されるタイムコードTcとを合成した合成パルスSynPlsを、カウンタ112で計数する。なお、ここでは、上述したように、タイムコードTcを、更新周期毎のパルスであるものとして説明を行う。露光期間Tsh内におけるタイムコードTcの数および更新周期は既知なので、カウンタ112が合成パルスSynPlsを計数したカウント値から、カウント期間内に含まれるタイムコードTcの数を減算することで、当該カウント期間内のパルスVpls数を得ることができる。
図70は、第5の実施形態の第2の変形例に係る計数部11の構成の例を概略的に示すブロック図である。図70において、計数部11は、合成部410と、カウンタ112と、閾値判定部113dと、を含む。このように、第5の実施形態の第2の変形例に係る計数部11は、上述した第5の実施形態および第5の実施形態の第1の変形例と異なり、セレクタ400を含まない。
また、第5の実施形態の第2の変形例に係る閾値判定部113dは、基準クロックに基づくクロックCkが供給されると共に、カウンタ112にカウントされたカウント値が閾値Nthを達成した際に、イネーブル信号EN(Nth)を出力する。また、閾値判定部113dは、カウント値が閾値Nthを達成した時間txを示す情報が出力される。この時間txを示す情報は、例えば基準クロックに基づくクロックCkを単位として表すことができる。
画素10から出力されたパルスVplsと、タイムコード生成部120により生成されたタイムコードTcと、が合成部410に入力される。合成部410は、これらパルスVplsとタイムコードTcを合成し、合成パルスSynPlsを出力する。カウンタ112は、この合成パルスSynPlsを計数し、計数された合成パルス数CntSpをフォトン情報PhInfoとして出力する。
閾値判定部113dは、フォトン情報PhInfoすなわち合成パルス数CntSpが閾値Nthに達したか否かを判定する。閾値判定部113dは、合成パルス数CntSpが閾値Nthを達成したと判定した場合、イネーブル信号EN(Nth)を出力して光電変換素子110の動作を停止させる。また、閾値判定部113dは、合成パルス数CntSpが閾値Nthを達成した時間txを示す情報を出力する。この時間txを示す情報は、閾値判定部113dから例えば信号処理部2013cに供給される。
なお、この第5の実施形態の第2の変形例において、合成部410に対して、パルスVplsを、第5の実施形態の第1の変形例で説明した1ビットカウンタ402を介して入力するように構成してもよい。
図71は、第5の実施形態の第2の変形例に適用可能な、フォトン数の予測について説明するための図である。なお、図71の各部の意味は、上述した図66と同様であるので、ここでの説明を省略する。
図71において、直線Ct4は、時間t4で閾値Nthを達成した合成パルス数CntSp(t4)を示している。この合成パルス数CntSp(t4)は、パルスVplsの数であるパルス数CntVpls(tx)の他に、時間t4までのタイムコード数CntTc(t4)を含んでいる。そのため、正しくフォトン数の予測を行うためには、図71中に矢印にて示されるように、この合成パルス数CntSp(t4)すなわち閾値Nthからタイムコード数CntTc(t4)を減じて、パルス数CntVpls(tx)を求める必要がある。
第5の実施形態の第2の変形例では、次式(17)に従い、この閾値Nthを達成した合成パルス数CntSp(tx)からタイムコード数CntTc(tx)を減じた値Nth’を式(1)の閾値Nthとして用いる。また、時間txを式(1)の時間Tthとして用いる。これにより、予測カウント値Npreを求める。なお、時間txは、露光期間Tsh内において合成パルス数CntSpが閾値Nthを達成した時間を示している。
Npre=Nth’×(Tsh/tx) …(17)
ここで、時間txにおけるタイムコード数CntTc(tx)は、下記の各式(18)~(20)にて求めることができる。なお、ここでは、上述した式(14)~(16)と同様に、タイムコードTcの更新周期が図12に示すものであり、時間txが露光期間Tshの開始時点からクロック(Ckとする)単位で計測されるものとする。式(18)~(20)において、Cnt(tx)は、時間txを示す情報であって、時間txにおけるクロックCkのカウント数とする。なお、各式(18)~(20)において、小数点以下は切り捨て処理を行うものとする。
0[Ck]<Cnt(tx)≦31[Ck]:CntTc(tx)=Cnt(tx)/2 …(18)
31[Ck]<Cnt(tx)≦63[Ck]:CntTc(tx)=32[Ck]/2+(Cnt(tx)-32[Ck])/4 …(19)
63[Ck]<Cnt(tx)≦127[Ck]:CntTc(tx)=32[Ck]/2+32[Ck]/4+(Cnt(tx)-64[Ck])/8 …(20)
例えば信号処理部2013cは、閾値判定部113dから供給された時間txに基づき上述した式(18)~(20)によりタイムコード数CntTc(tx)を算出する。信号処理部2013cは、さらに、このようにして算出されたタイムコード数CntTc(tx)を、次式(21)にように閾値Nthから減じて、値Nth’を求める。
Nth’=Nth-CntTc(tx) …(21)
信号処理部2013cは、式(21)により求めた値Nth’を上述の式(17)に適用して、予測カウント値を求める。
このように、第5の実施形態の第2の変形例では、タイムコードTcそのものを記憶する必要が無く、したがって、タイムコードTcを書き込むメモリを省略できる。
(5-2-1.光電変換素子の出力について)
次に、第5の実施形態の第2の変形例に適用可能な合成部410の構成例について説明する。第5の実施形態の第2の変形例に係る合成部410は、論理回路を用いて構成することが可能である。
ここで、画素10は、画素10に含まれる光電変換素子110の接続方法により、正パルスおよび負パルスの何れかによるパルスVplsを出力する。図72Aおよび図72Bは、負パルスおよび正パルスとしてのパルスVplsを出力する光電変換素子110の接続方法を説明するための図である。なお、図72Aおよび図72Bでは、光電変換素子110と、クエンチング動作のための抵抗1101の接続に注目し、信号処理部111aの記載が省略されている。
図72Aは、上述した図9と対応する図であって、負パルスとしてのパルスVplsを出力する光電変換素子110の接続方法の例を示している。図72Aに示されるように、光電変換素子110のカソードが抵抗1101を介して電源電位VDDに接続され、アノードが例えば接地電位である電位GND(1)に接続されている。光電変換素子110のカソードと抵抗1101との接続点から出力を取り出すことで、パルス部分がロー状態、非パルス部分がハイ状態である負パルスとしてのパルスVplsが出力される。
一方、図72Bは、正パルスとしてのパルスVplsを出力する光電変換素子110の接続方法の例を示している。図72Bに観されるように、光電変換素子110のカソードが電源電位VDDに接続され、アノードが抵抗1101を介して例えば接地電位である電位GND(1)に接続されている、光電変換素子110のアノードと抵抗1101との接続点から出力を取り出すことで、パルス部分がハイ状態、非パルス部分がロー状態である正パルスとしてのパルスVplsが出力される。
なお、タイムコードTcは、画素10の外部のタイムコード生成部120により生成される。そのため、正パルスおよび負パルスの何れによりタイムコードTcを生成するかは、タイムコード生成部120の設計により選択することが可能である。
(5-2-2.合成部の構成の第1の例)
図73Aおよび図73Bは、第5の実施形態の第2の変形例に適用可能な合成部410の構成の第1の例について説明するための図である。なお、図73Aおよび図73B、ならびに、以下の同様の図において、各信号に付与される記号(+)は、その信号が正パルスによる信号であることを示し、記号(-)は、その信号が負パルスによる信号であることを示している。
図73Aに示されるように、第1の例による合成部410aは、AND回路4100を用いて構成される。AND回路4100の一方の入力端に、負パルスによるタイムコードTc(-)が入力され、他方の入力端に、負パルスによるパルスVpls(-)が入力される。AND回路4100は、図73Bに示されるように、タイムコードTc(-)とパルスVpls(-)とで非パルス部分が一致する期間が負パルスとなる合成パルスSynPls(-)を出力する。カウンタ112は、この負パルスをカウントする。
(5-2-3.合成部の構成の第2の例)
図74Aおよび図74Bは、第5の実施形態の第2の変形例に適用可能な合成部410の構成の第2の例について説明するための図である。図74Aに示されるように、第2の例による合成部410bは、XNOR(eXclusive NOR)回路4101を用いて構成される。図74Bは、XNOR回路4101の真理値表を示す。図74Bに示されるように、XNOR回路4101は、2つの入力InputAおよびInputBの入力値が一致する場合に出力Outputが「1」となり、InputAおよびInputBの入力値が一致しない場合に、出力Outputが「0」となる。
このXNOR回路4101の入力InputAおよびInputBの一方にタイムコードTc(-)を入力し、他方にパルスVpls(-)を入力する。これにより、合成部410bは、図73Aおよび図73Bを用いて説明した、第1の例によるAND回路4100を用いた合成部410aとほぼ同様の、負パルスによる合成パルスSynPls(-)を得ることができる。
(5-2-4.合成部の構成の第3の例)
図75Aおよび図75Bは、第5の実施形態の第2の変形例に適用可能な合成部410の構成の第3の例について説明するための図である。図75Aに示されるように、第3の例による合成部410cは、NAND回路4102を用いて構成される。NAND回路4102の一方の入力端に、負パルスによるタイムコードTc(-)が入力され、他方の入力端に、負パルスによるパルスVpls(-)が入力される。NAND回路4102は、図75Bに示されるように、タイムコードTc(-)とパルスVpls(-)とで非パルス部分とパルス部分とが重なる期間が正パルスとなる合成パルスSynPls(+)を出力する。カウンタ112は、この正パルスをカウントする。
(5-2-5.合成部の構成の第4の例)
図76Aおよび図76Bは、第5の実施形態の第2の変形例に適用可能な合成部410の構成の第4の例について説明するための図である。図76Aに示されるように、第4の例による合成部410dは、XOR(eXclusive OR)回路4103を用いて構成される。図76Bは、XOR回路4103の真理値表を示す。図76Bに示されるように、XOR回路4103は、2つの入力InputAおよびInputBの入力値が一致する場合に出力Outputが「0」となり、InputAおよびInputBの入力値が一致しない場合に、出力Outputが「1」となる。
このXOR回路4103の入力InputAおよびInputBの一方にタイムコードTc(-)を入力し、他方にパルスVpls(-)を入力する。これにより、合成部410dは、図75Aおよび図75Bを用いて説明した、第3の例によるNAND回路4102を用いた合成部410cとほぼ同様の、正パルスによる合成パルスSynPls(+)を得ることができる。
(5-2-6.合成部の構成の第5の例)
図77Aおよび図77Bは、第5の実施形態の第2の変形例に適用可能な合成部410の構成の第5の例について説明するための図である。図77Aに示されるように、第5の例による合成部410eは、OR回路4104を用いて構成される。OR回路4104の一方の入力端に、正パルスによるタイムコードTc(+)が入力され、他方の入力端に、正パルスによるパルスVpls(+)が入力される。OR回路4104は、図77Bに示されるように、タイムコードTc(+)およびパルスVpls(+)の少なくとも一方が正パルスになる期間が正パルスとなる合成パルスSynPls(+)を出力する。カウンタ112は、この正パルスをカウントする。
(5-2-7.合成部の構成の第6の例)
図78は、第5の実施形態の第2の変形例に適用可能な合成部410の構成の第6の例について説明するための図である。図78に示されるように、第6の例による合成部410fは、XOR回路4103を用いて構成される。合成部410fにおいて、XOR回路4103の入力InputAおよびInputBの一方にタイムコードTc(+)を入力し、他方にパルスVpls(+)を入力する。これにより、合成部410fは、図77Aおよび図77Bを用いて説明した、第5の例によるOR回路4104を用いた合成部410eとほぼ同様の、正パルスによる合成パルスSynPls(+)を得ることができる。
(5-2-8.合成部の構成の第7の例)
図79Aおよび図79Bは、第5の実施形態の第2の変形例に適用可能な合成部410の構成の第7の例について説明するための図である。図79Aに示されるように、第7の例による合成部410gは、NOR回路4105を用いて構成される。NOR回路4105の一方の入力端に、正パルスによるタイムコードTc(+)が入力され、他方の入力端に、正パルスによるパルスVpls(+)が入力される。NOR回路4105は、図79Bに示されるように、タイムコードTc(+)およびパルスVpls(+)の少なくとも一方が正パルスなる期間が負パルスとなる合成パルスSynPls(-)を出力する。カウンタ112は、この負パルスをカウントする。
(5-2-9.合成部の構成の第8の例)
図80は、第5の実施形態の第2の変形例に適用可能な合成部410の構成の第8の例について説明するための図である。図80に示されるように、第8の例による合成部410hは、XNOR回路4101を用いて構成される。合成部410hにおいて、XNOR回路4101の入力InputAおよびInputBの一方にタイムコードTc(+)を入力し、他方にパルスVpls(+)を入力する。これにより、合成部410hは、図79Aおよび図79Bを用いて説明した、NOR回路4105を用いた第7の例による合成部410gとほぼ同様の、負パルスによる合成パルスSynPls(-)を得ることができる。
このように、第5の実施形態の第2の変形例では、論理回路により構成される合成部410によりタイムコードTcとパルスVplsとを合成した合成パルスSynPlsに基づき予測カウント値を求めている。そのため、第5の実施形態の第2の変形例に係る計数部11は、上述した第5の実施形態および第5の実施形態の第1の変形例における計数部11に含まれるセレクタ400を省略でき、回路面積を削減可能である。
[6.第6の実施形態]
次に、本開示の第6の実施形態について説明する。第6の実施形態は、上述した第1~第4の実施形態に係る各受光装置1a~1dを、距離を測定する装置(測距装置)に適用した場合の例である。
図81は、第6の実施形態に係る測距装置の一例の構成を示すブロック図である。図81において、測距装置3000は、光パルス送信機3010と、光パルス受信機3011と、RSフリップフロップ3012と、を含む。
距離を測定する方法として、ToF(Time of Flight)方式を用いた場合を例に挙げて説明する。ToF型センサは、当該ToF型センサに近接する位置から発せられた光が対象物3020に照射され、当該光が対象物3020により反射して帰って来るまでの時間を計測することで、対象物3020までの距離を計測する。
図82は、第6の実施形態に適用可能なToF型センサの一例の動作タイミングを示すタイミングチャートである。図82を参照して、測距装置3000の動作について説明する。
光パルス送信機3010は、供給されるトリガパルスに基づき、光を発光する(光送信パルス)。光パルス受信機3011は、この発光された光が対象物3020に照射され、当該光が対象物3020により反射されてきた反射光を受信する。光パルス受信機3011として、上述した受光装置1a、1bおよび1cの何れかを適用することができる。ここでは、便宜上、光パルス受信機3011として受光装置1aを適用するものとして説明を行う。
送信光パルスが発光された時刻と、受信光パルスが受光された時刻との差分が、対象物との距離に応じた時間、すなわち光飛行時間ToFに相当する。
トリガパルスは、光パルス送信機3010とRSフリップフロップ3012とに供給される。トリガパルスが光パルス送信機3010に供給されることで、短時間、光パルスが送信される。また、RSフリップフロップ3012は、トリガパルスによりリセットされる。
光パルス受信機3011に受光装置1aを適用した場合、受光装置1aが有する光電変換素子110に受信光パルスが受信(入射)されると、光電変換素子110においてフォトンが発生する。その発生したフォトンに基づく例えばパルスVplsにより、RSフリップフロップ3012がリセットされる。
このような動作により、RSフリップフロップ3012において、光飛行時間ToFに相当するパルス幅を持ったゲート信号を生成することができる。この生成されるゲート信号を、クロック信号などを用いてカウントすることで、光飛行時間ToFを算出することができる。算出された光飛行時間ToFは、距離を示す距離情報のデジタル信号として、測距装置300から出力される。
[7.第7の実施形態]
次に、本開示の第7の実施形態として、本開示の第1~4の実施形態および各変形例に係る受光装置の適用例について説明する。図83は、第7の実施形態による、上述の第1~第4の実施形態およびその各変形例に係る受光装置1a、1bおよび1cを使用する使用例を示す図である。
上述した受光装置1a、1bおよび1cは、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々なケースに使用することができる。
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する装置。
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される装置。
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される装置。
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される装置。
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される装置。
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される装置。
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される装置。
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される装置。
[本開示に係る技術のさらなる適用例]
(移動体への適用例)
本開示に係る技術は、さらに、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボットといった各種の移動体に搭載される装置に対して適用されてもよい。
図84は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図84に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、および統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、および車載ネットワークI/F(インタフェース)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、および、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット12030は、例えば、受信した画像に対して画像処理を施し、画像処理の結果に基づき物体検出処理や距離検出処理を行う。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声および画像のうちの少なくとも一方の出力信号を送信する。図84の例では、出力装置として、オーディオスピーカ12061、表示部12062およびインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイおよびヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図85は、撮像部12031の設置位置の例を示す図である。図85では、車両12100は、撮像部12031として、撮像部12101、12102、12103、12104および12105を有する。
撮像部12101、12102、12103、12104および12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドアおよび車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101および車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102、12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101および12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図85には、撮像部12101~12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112および12113は、それぞれサイドミラーに設けられた撮像部12102および12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101~12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101~12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101~12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101~12104から得られた距離情報を基に、撮像範囲12111~12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101~12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101~12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101~12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101~12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101~12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部12031に適用され得る。具体的には、上述した本開示の第1~4の実施形態および各変形例に係る受光装置1a~1cを撮像部12031に適用することができる。撮像部12031に本開示に係る技術を適用することにより、走行する車両からの測距をより高精度に実行することが可能となる。
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
なお、本技術は以下のような構成も取ることができる。
(1)
露光期間内で受光素子への光子の入射を検知した回数である検知回数を計数して計数値を出力する計数部と、
時間情報を更新する周期を前記露光期間における経過時間に応じて設定する設定部と、
前記露光期間が経過する前に前記計数値が閾値に到達した時間を示す前記時間情報を取得する取得部と、
を備える
受光装置。
(2)
前記設定部は、
前記周期の設定を前記露光期間の開始時から所定時間が経過した時点から開始し、当該時点での該周期を、該露光期間内において最も短い周期に設定する
前記(1)に記載の受光装置。
(3)
前記設定部は、
前記周期に応じて変化するコードを前記時間情報として出力する
前記(1)または(2)に記載の受光装置。
(4)
前記取得部は、
前記計数値が前記閾値に到達した場合に、前記時間情報を取得する、
前記(1)乃至(3)の何れかに記載の受光装置。
(5)
前記取得部は、
前記計数値が前記閾値に到達した時点から前記露光期間の終了の時点までの時間に基づき、前記計数値が前記閾値に到達した時間を示す前記時間情報を取得する、
前記(1)乃至(3)の何れかに記載の受光装置。
(6)
前記計数部は、
前記計数値が前記閾値に到達した時点から前記露光時間の終了の時点までの間、前記時間情報が更新される回数である更新回数を計数し、
前記取得部は、
前記更新回数に基づき前記計数値が閾値に到達した時間を示す前記時間情報を取得する、
前記(5)に記載の受光装置。
(7)
前記計数部は、
前記時間情報が更新される回数である更新回数と前記検知回数と、を合成部により合成した回数を計数した合成計数値を出力し、
前記取得部は、
前記合成計数値が前記閾値に到達した時間に基づき、前記合成計数値から前記更新回数を減じて、該時間における前記検知回数を求める、
前記(5)に記載の受光装置。
(8)
前記計数部は、
1つの入力端に入力される複数のパルス入力毎に計数を行うカウンタにより前記検知回数を計数された値に基づき前記計数値を出力する、
前記(5)乃至(7)の何れかに記載の受光装置。
(9)
前記合成部は、
論理回路を用いて前記更新回数と前記検知回数とを合成する、
前記(7)に記載の受光装置。
(10)
前記計数部は、
前記露光期間を分割した分割露光期間毎に前記計数を行い、
前記取得部は、
前記分割露光期間それぞれにおいて前記計数値が前記閾値に到達した場合に、前記閾値に到達した各時間を、該分割露光期間毎の前記時間情報としてそれぞれ取得する
前記(1)乃至(9)の何れかに記載の受光装置。
(11)
前記計数部は、
前記露光期間を長さが異なる期間を含んで分割した前記分割露光期間毎に前記計数を行う
前記(10)に記載の受光装置。
(12)
前記計数部は、
前記受光素子への前記光子が入射する平均時間間隔が所定以下の場合に、前記分割露光期間毎の前記計数を行う
前記(10)または(11)に記載の受光装置。
(13)
前記取得部は、
前記分割露光期間のうち少なくとも2つの前記分割露光期間で異なる前記閾値を用いて前記時間情報を取得する
前記(10)乃至(12)の何れかに記載の受光装置。
(14)
前記取得部は、
前記露光期間が経過する前に前記計数値が前記閾値に到達した場合に、前記受光素子による前記検知の動作を停止させる
前記(1)乃至(13)の何れかに記載の受光装置。
(15)
前記計数部は、
前記取得部による前記時間情報の取得の機能を含み、前記計数の機能と、該取得の機能と、を切り替えて実行する
前記(1)乃至(4)の何れかに記載の受光装置。
(16)
前記受光素子は、2次元格子状に配列され、
前記設定部は、
前記2次元格子状に配列された前記受光素子毎に設けられる
前記(1)乃至(15)の何れかに記載の受光装置。
(17)
前記受光素子は、2次元格子状に配列され、
前記設定部は、
前記2次元格子状の配列において複数の前記受光素子を含むグループ毎に設けられる
前記(1)乃至(15)の何れかに記載の受光装置。
(18)
前記設定部は、
前記配列の行単位の前記グループ毎に設けられる
前記(17)に記載の受光装置。
(18)
前記設定部は、
前記配列の複数の行を含む前記グループ毎に設けられる
前記(17)に記載の受光装置。
(19)
前記設定部は、
前記配列の行方向に複数に分割された領域による前記グループ毎に設けられる
前記(17)に記載の受光装置。
(20)
前記受光素子は、カラーフィルタが設けられ、
前記設定部は、
同色の前記カラーフィルタが設けられた前記受光素子を含む前記グループ毎に設けられる
前記(17)に記載の受光装置。
(21)
前記設定部は、
前記2次元格子状に配列された全ての前記受光素子を含む前記グループに対して設けられる
前記(17)に記載の受光装置。
(22)
前記受光素子は、単一光子アバランシェダイオードである
前記(1)乃至(21)の何れかに記載の受光装置。
(23)
前記計数部は、
それぞれ各ビットの計数を行う複数のカウンタを有し、
該複数のカウンタのうち所定ビット以上の各ビットの計数を行う各カウンタを、複数の前記受光素子で共有する
前記(1)乃至(22)の何れかに受光装置。
(24)
第1の基板と、該第1の基板に積層される第2の基板とを含み、
前記第1の基板に前記受光素子が配置され、
前記第2の基板に、少なくとも前記計数部が配置され、
前記計数部は、
前記複数のカウンタのうち所定ビット未満の各ビットの計数を行う各カウンタが、前記第2の基板における前記受光素子と対応する位置に配置される
前記(23)に記載の受光装置。
(25)
前記設定部は、
前記時間情報をグレイコード用いて表現する
前記(1)乃至(4)の何れかに記載の受光装置。
(26)
露光期間内で受光素子への光子の入射を検知した回数を計数して計数値を出力する計数部と、
輝度値を更新する輝度値更新部と、
前記露光期間が経過する前に前記計数値が閾値に到達した場合に、該閾値に到達した到達時間に対応する前記輝度値を取得する取得部と、
を備える
受光装置。
(27)
前記取得部は、
前記露光期間開始時から所定時間が経過した時点から、該露光期間の終了時までに入射される前記光子による輝度を前記到達時間に基づき予測した値を前記輝度値として取得する
前記(26)に記載の受光装置。
(28)
前記輝度値更新部は、
前記露光期間における照度および前記露光期間の開始時からの経過時間に応じて前記輝度値を更新する
前記(26)または(27)に記載の受光装置。
(29)
前記輝度値更新部は、
前記輝度値の更新を周期毎に行うと共に、前記露光期間の開始時から所定時間が経過した時点で開始し、該時点において該露光期間内で最も短い周期で前記輝度値の更新を行う
前記(28)に記載の受光装置。
(30)
前記計数部は、
前記露光期間を分割した分割露光期間毎に前記計数を行い、
前記取得部は、
前記分割露光期間それぞれにおいて前記計数値が前記閾値に到達した場合に、該分割露光期間それぞれにおける前記到達時間に対応する前記輝度値それぞれを、該分割露光期間毎の前記時間情報としてそれぞれ取得する
前記(26)乃至(29)の何れかに記載の受光装置。
(31)
前記計数部は、
前記露光期間を長さが異なる期間を含んで分割した前記分割露光期間毎に前記計数を行う
前記(30)に記載の受光装置。
(32)
前記計数部は、
前記受光素子への前記光子が入射する平均時間間隔が所定以下の場合に、前記分割露光期間毎の前記計数を行う
前記(30)に記載の受光装置。
(33)
前記取得部は、
前記分割露光期間のうち少なくとも2つの前記分割露光期間で異なる前記閾値を用いて前記時間情報を取得する
前記(30)乃至(32)の何れかに記載の受光装置。
(34)
前記取得部は、
前記露光期間が経過する前に前記計数値が前記閾値に到達した場合に、前記受光素子による前記検知の動作を停止させる
前記(26)乃至(33)の何れかに記載の受光装置。
(35)
前記計数部は、
前記取得部による前記輝度値の取得の機能を含み、前記計数の機能と、該取得の機能と、を切り替えて実行する
前記(26)乃至(34)の何れかに記載の受光装置。
(36)
前記受光素子は、2次元格子状に配列され、
前記輝度値更新部は、
前記2次元格子状に配列された前記受光素子毎に設けられる
前記(26)乃至(35)の何れかに記載の受光装置。
(37)
前記受光素子は、2次元格子状に配列され、
前記輝度値更新部は、
前記2次元格子状の配列において複数の前記受光素子を含むグループ毎に設けられる
前記(26)乃至(35)の何れかに記載の受光装置。
(38)
前記輝度値更新部は、
前記配列の行単位の前記グループ毎に設けられる
前記(37)に記載の受光装置。
(39)
前記輝度値更新部は、
前記配列の複数の行を含む前記グループ毎に設けられる
前記(37)に記載の受光装置。
(40)
前記輝度値更新部は、
前記配列の行方向に複数に分割された領域による前記グループ毎に設けられる
前記(37)に記載の受光装置。
(41)
前記受光素子は、カラーフィルタが設けられ、
前記輝度値更新部は、
同色の前記カラーフィルタが設けられた前記受光素子を含む前記グループ毎に設けられる
前記(37)に記載の受光装置。
(42)
前記輝度値更新部は、
前記2次元格子状に配列された全ての前記受光素子を含む前記グループに対して設けられる
前記(37)に記載の受光装置。
(43)
前記受光素子は、単一光子アバランシェダイオードである
前記(26)乃至(42)の何れかに記載の受光装置。
(44)
前記計数部は、
それぞれ各ビットの計数を行う複数のカウンタを有し、
該複数のカウンタのうち所定ビット以上の各ビットの計数を行う各カウンタを、複数の前記受光素子で共有する
前記(26)乃至(43)の何れかに受光装置。
(45)
第1の基板と、該第1の基板に積層される第2の基板とを含み、
前記第1の基板に前記受光素子が配置され、
前記第2の基板に、少なくとも前記計数部が配置され、
前記計数部は、
前記複数のカウンタのうち所定ビット未満の各ビットの計数を行う各カウンタが、前記第2の基板における前記受光素子と対応する位置に配置される
前記(44)に記載の受光装置。
1a,1b,1c,1d 受光装置
10 画素
11 計数部
12 タイムコード生成部
13 取得部
20,20’ 輝度値コード生成部
100,100a,100b,100c,100d,100a’,100b’,100c’,100d’,100R,100G,100G1,100G2,100B,100’,100R’,100G’,100G1’,100G2’,100B’ 画素回路
110 光電変換素子
111a,111b,111b’,111c 信号処理部
112,112a,112b,112c,112d,112e,112f1,112f2,112f3,112g,112h,112i,112k,1120,1120’,1120a1,1120a2,1120a3,1120b1,1120b2,1130 カウンタ
112j デジタルカウンタ
113a,113a-1,113a-2,113a-3,113a(a),113a(b),113a(c),113a(d),113b,113b-1,113b-2,113b-3,113c 閾値判定部
114 メモリ
120,120’ TC生成部
121 時間カウンタ
122 分周設定値記憶部
123 周波数判定部
124,127 コード生成部
125 クロック生成部
126 PLL回路
141,142 信号線
150,150’,150R1,150G11,150G12,150G21,150G22,150B1,150B2,150R1’,150G11’,150G12’,150G21’,150G22’,150B1’,150B2’ グループ
200 LC生成部
3001,3002,301,3021,3022,3023,3024,3025,3031,3032,3033 分割露光期間Tsh_div
400 セレクタ
402 1ビットカウンタ
410,410a,410b,410c,410d,410e,410f,410g,410h 合成部
1003 制御部
1125a,1125b アナログカウンタ
1126 デジタルカウンタ
1131,1131’ 比較回路
1132 AND回路
2000 受光チップ
2001 画素アレイ部
2010 ロジックチップ
2011 ロジックアレイ部
2013 素子制御部
2013a,2013a’,2013a” 垂直制御部
2013b 水平制御部
2013c 信号処理部
2014 論理回路

Claims (26)

  1. 露光期間内で受光素子への光子の入射を検知した回数である検知回数を計数して計数値を出力する計数部と、
    時間情報を更新する周期を前記露光期間における経過時間に応じて設定する設定部と、
    前記露光期間が経過する前に前記計数値が閾値に到達した時間を示す前記時間情報を取得する取得部と、
    を備える
    受光装置。
  2. 前記設定部は、
    前記周期の設定を前記露光期間の開始時から所定時間が経過した時点から開始し、当該時点での該周期を、該露光期間内において最も短い周期に設定する
    請求項1に記載の受光装置。
  3. 前記設定部は、
    前記周期に応じて変化するコードを前記時間情報として出力する
    請求項1に記載の受光装置。
  4. 前記取得部は、
    前記計数値が前記閾値に到達した場合に、前記時間情報を取得する、
    請求項1に記載の受光装置。
  5. 前記取得部は、
    前記計数値が前記閾値に到達した時点から前記露光期間の終了の時点までの時間に基づき、前記計数値が前記閾値に到達した時間を示す前記時間情報を取得する、
    請求項1に記載の受光装置。
  6. 前記計数部は、
    前記計数値が前記閾値に到達した時点から前記露光期間の終了の時点までの間、前記時間情報が更新される回数である更新回数を計数し、
    前記取得部は、
    前記更新回数に基づき前記計数値が閾値に到達した時間を示す前記時間情報を取得する、
    請求項5に記載の受光装置。
  7. 前記計数部は、
    前記時間情報が更新される回数である更新回数と前記検知回数と、を合成部により合成した回数を計数した合成計数値を出力し、
    前記取得部は、
    前記合成計数値が前記閾値に到達した時間に基づき、前記合成計数値から前記更新回数を減じて、該時間における前記検知回数を求める、
    請求項5に記載の受光装置。
  8. 前記計数部は、
    1つの入力端に入力される複数のパルス入力毎に計数を行うカウンタにより前記検知回数を計数された値に基づき前記計数値を出力する、
    請求項5に記載の受光装置。
  9. 前記合成部は、
    論理回路を用いて前記更新回数と前記検知回数とを合成する、
    請求項7に記載の受光装置。
  10. 前記計数部は、
    前記露光期間を分割した分割露光期間毎に前記計数を行い、
    前記取得部は、
    前記分割露光期間それぞれにおいて前記計数値が前記閾値に到達した場合に、前記閾値に到達した各時間を、該分割露光期間毎の前記時間情報としてそれぞれ取得する
    請求項1に記載の受光装置。
  11. 前記計数部は、
    前記露光期間を長さが異なる期間を含んで分割した前記分割露光期間毎に前記計数を行う
    請求項10に記載の受光装置。
  12. 前記取得部は、
    前記露光期間が経過する前に前記計数値が前記閾値に到達した場合に、前記受光素子による前記検知の動作を停止させる
    請求項1に記載の受光装置。
  13. 前記計数部は、
    前記取得部による前記時間情報の取得の機能を含み、前記計数の機能と、該取得の機能と、を切り替えて実行する
    請求項1に記載の受光装置。
  14. 前記受光素子は、2次元格子状に配列され、
    前記設定部は、
    前記2次元格子状の配列において複数の前記受光素子を含むグループ毎に設けられる
    請求項1に記載の受光装置。
  15. 前記受光素子は、カラーフィルタが設けられ、
    前記設定部は、
    同色の前記カラーフィルタが設けられた前記受光素子を含む前記グループ毎に設けられる
    請求項14に記載の受光装置。
  16. 前記設定部は、
    前記2次元格子状に配列された全ての前記受光素子を含む前記グループに対して設けられる
    請求項14に記載の受光装置。
  17. 前記受光素子は、単一光子アバランシェダイオードである
    請求項1に記載の受光装置。
  18. 露光期間内で受光素子への光子の入射を検知した回数を計数して計数値を出力する計数部と、
    輝度値を更新する輝度値更新部と、
    前記露光期間が経過する前に前記計数値が閾値に到達した場合に、該閾値に到達した到達時間に対応する前記輝度値を取得する取得部と、
    を備える
    受光装置。
  19. 前記取得部は、
    前記露光期間の開始時から所定時間が経過した時点から、該露光期間の終了時までに入射される前記光子による輝度を前記到達時間に基づき予測した値を前記輝度値として取得する
    請求項18に記載の受光装置。
  20. 前記輝度値更新部は、
    前記露光期間における照度および前記露光期間の開始時からの経過時間に応じて前記輝度値を更新する
    請求項18に記載の受光装置。
  21. 前記輝度値更新部は、
    前記輝度値の更新を周期毎に行うと共に、前記露光期間の開始時から所定時間が経過した時点で開始し、該時点において該露光期間内で最も短い周期で前記輝度値の更新を行う
    請求項20に記載の受光装置。
  22. 前記計数部は、
    前記露光期間を分割した分割露光期間毎に前記計数を行い、
    前記取得部は、
    前記分割露光期間それぞれにおいて前記計数値が前記閾値に到達した場合に、該分割露光期間それぞれにおける前記到達時間に対応する前記輝度値それぞれを、該分割露光期間毎の前記輝度値としてそれぞれ取得する
    請求項18に記載の受光装置。
  23. 前記取得部は、
    前記露光期間が経過する前に前記計数値が前記閾値に到達した場合に、前記受光素子による前記検知の動作を停止させる
    請求項18に記載の受光装置。
  24. 前記受光素子は、2次元格子状に配列され、
    前記輝度値更新部は、
    前記2次元格子状の配列において複数の前記受光素子を含むグループ毎に設けられる
    請求項18に記載の受光装置。
  25. 前記輝度値更新部は、
    前記2次元格子状に配列された全ての前記受光素子を含む前記グループに対して設けられる
    請求項24に記載の受光装置。
  26. 前記受光素子は、単一光子アバランシェダイオードである
    請求項18に記載の受光装置。
JP2021503676A 2019-03-07 2020-03-06 受光装置 Active JP7374174B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2019041786 2019-03-07
JP2019041786 2019-03-07
JP2020038225 2020-03-05
JP2020038225 2020-03-05
PCT/JP2020/009871 WO2020179928A1 (ja) 2019-03-07 2020-03-06 受光装置

Publications (2)

Publication Number Publication Date
JPWO2020179928A1 JPWO2020179928A1 (ja) 2020-09-10
JP7374174B2 true JP7374174B2 (ja) 2023-11-06

Family

ID=72337480

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021503676A Active JP7374174B2 (ja) 2019-03-07 2020-03-06 受光装置

Country Status (6)

Country Link
US (2) US11754442B2 (ja)
EP (1) EP3936840A4 (ja)
JP (1) JP7374174B2 (ja)
CN (1) CN113424027B (ja)
TW (1) TW202104854A (ja)
WO (1) WO2020179928A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3989535A1 (en) * 2020-10-20 2022-04-27 Canon Kabushiki Kaisha Photoelectric conversion device, method of controlling photoelectric conversion device, and information processing apparatus
US20230065063A1 (en) * 2021-08-24 2023-03-02 Globalfoundries Singapore Pte. Ltd. Single-photon avalanche diodes with deep trench isolation
JP2023032283A (ja) * 2021-08-26 2023-03-09 キヤノン株式会社 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
JP2023046662A (ja) * 2021-09-24 2023-04-05 キヤノン株式会社 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
CN116559841B (zh) * 2023-07-07 2023-10-27 苏州识光芯科技术有限公司 光子计数方法、装置、芯片及设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120057152A1 (en) 2010-09-06 2012-03-08 King Abdulaziz City Science And Technology High-speed analog photon counter and method
US20150163429A1 (en) 2013-12-09 2015-06-11 Omnivision Technologies, Inc. Low power imaging system with single photon avalanche diode photon counters and ghost image reduction
WO2017042993A1 (ja) 2015-09-10 2017-03-16 ソニー株式会社 補正装置、補正方法および測距装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2650066A1 (en) * 2009-01-16 2010-07-16 Karim S. Karim Photon counting and integrating pixel readout architecture with dynamic switching operation
EP2446301B1 (en) * 2009-06-22 2018-08-01 Toyota Motor Europe Pulsed light optical rangefinder
JP5521721B2 (ja) 2009-08-28 2014-06-18 ソニー株式会社 撮像素子およびカメラシステム
US8716643B2 (en) 2010-09-06 2014-05-06 King Abdulaziz City Science And Technology Single photon counting image sensor and method
JP6017916B2 (ja) * 2012-10-16 2016-11-02 株式会社豊田中央研究所 光検出器
JP6823815B2 (ja) 2015-12-08 2021-02-03 パナソニックIpマネジメント株式会社 固体撮像装置、距離測定装置および距離測定方法
JP7129182B2 (ja) * 2017-06-23 2022-09-01 キヤノン株式会社 固体撮像素子、撮像装置及び撮像方法
US11330202B2 (en) * 2018-02-02 2022-05-10 Sony Semiconductor Solutions Corporation Solid-state image sensor, imaging device, and method of controlling solid-state image sensor
US10616512B2 (en) * 2018-07-27 2020-04-07 Wisconsin Alumni Research Foundation Systems, methods, and media for high dynamic range imaging using dead-time-limited single photon detectors

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120057152A1 (en) 2010-09-06 2012-03-08 King Abdulaziz City Science And Technology High-speed analog photon counter and method
US20150163429A1 (en) 2013-12-09 2015-06-11 Omnivision Technologies, Inc. Low power imaging system with single photon avalanche diode photon counters and ghost image reduction
WO2017042993A1 (ja) 2015-09-10 2017-03-16 ソニー株式会社 補正装置、補正方法および測距装置

Also Published As

Publication number Publication date
US11754442B2 (en) 2023-09-12
JPWO2020179928A1 (ja) 2020-09-10
CN113424027B (zh) 2024-04-12
EP3936840A4 (en) 2022-06-08
CN113424027A (zh) 2021-09-21
US20230358608A1 (en) 2023-11-09
US20220155153A1 (en) 2022-05-19
WO2020179928A1 (ja) 2020-09-10
EP3936840A1 (en) 2022-01-12
TW202104854A (zh) 2021-02-01

Similar Documents

Publication Publication Date Title
JP7374174B2 (ja) 受光装置
CN109906512B (zh) 摄像元件和电子设备
JP7029890B2 (ja) 撮像素子、撮像素子の制御方法、及び、電子機器
US11509840B2 (en) Solid-state imaging device, signal processing chip, and electronic apparatus
WO2018216477A1 (ja) 固体撮像素子および電子機器
WO2018163873A1 (ja) 固体撮像装置および電子機器
US20220244046A1 (en) Solid-state imaging device and distance measurement device
JP2020072471A (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
US11240449B2 (en) Solid-state imaging device and imaging device with combined dynamic vision sensor and imaging functions
US20210168314A1 (en) Solid-state imaging device and imaging device with combined dynamic vision sensor and imaging functions
CN110603458A (zh) 光学传感器和电子设备
CN116348737A (zh) 光接收装置、光接收装置的控制方法以及测距系统
US20210385394A1 (en) Solid-state imaging apparatus and electronic
JP2022078127A (ja) 撮像素子及び電子機器
WO2022181215A1 (ja) 固体撮像装置及び撮像システム
US11902686B2 (en) Photodetection device and electronic apparatus
WO2020090459A1 (ja) 固体撮像装置、及び電子機器
JP7309713B2 (ja) コンパレータ及び撮像装置
WO2020090311A1 (ja) 固体撮像素子
CN114008783A (zh) 摄像装置
WO2023243222A1 (ja) 撮像装置
WO2022091755A1 (ja) 撮像装置及び電子機器
WO2024042896A1 (ja) 光検出素子および電子機器
WO2023132151A1 (ja) 撮像素子および電子機器
WO2024009343A1 (ja) 光検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231024

R150 Certificate of patent or registration of utility model

Ref document number: 7374174

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150