JP6887129B2 - 撮像装置、撮像システムおよび光検出方法 - Google Patents

撮像装置、撮像システムおよび光検出方法 Download PDF

Info

Publication number
JP6887129B2
JP6887129B2 JP2017089431A JP2017089431A JP6887129B2 JP 6887129 B2 JP6887129 B2 JP 6887129B2 JP 2017089431 A JP2017089431 A JP 2017089431A JP 2017089431 A JP2017089431 A JP 2017089431A JP 6887129 B2 JP6887129 B2 JP 6887129B2
Authority
JP
Japan
Prior art keywords
imaging
sensitivity control
cell
sensitivity
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017089431A
Other languages
English (en)
Other versions
JP2017208812A (ja
JP2017208812A5 (ja
Inventor
克弥 能澤
克弥 能澤
康夫 三宅
康夫 三宅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JP2017208812A publication Critical patent/JP2017208812A/ja
Publication of JP2017208812A5 publication Critical patent/JP2017208812A5/ja
Priority to JP2021075283A priority Critical patent/JP7108888B2/ja
Application granted granted Critical
Publication of JP6887129B2 publication Critical patent/JP6887129B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/1446Devices controlled by radiation in a repetitive configuration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/32Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
    • G01S17/36Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated with phase comparison between the received signal and the contemporaneously transmitted signal
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/491Details of non-pulse systems
    • G01S7/4912Receivers
    • G01S7/4913Circuits for detection, sampling, integration or read-out
    • G01S7/4914Circuits for detection, sampling, integration or read-out of detector arrays, e.g. charge-transfer gates
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14665Imagers using a photoconductor layer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/585Control of the dynamic range involving two or more exposures acquired simultaneously with pixels having different sensitivities within the sensor, e.g. fast or slow pixels or pixels having different sizes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Description

本開示は、撮像装置、撮像システムおよび光検出方法に関する。
従来、CCD(Charge Coupled Device)センサおよびCMOS(Complementary MOS)センサが広く用いられている。よく知られているように、これらの光センサは、半導体基板に形成されたフォトダイオードを有し、照度に応じた信号を生成する。近年では、読み出し回路の形成された半導体基板を覆う層間絶縁層上に光電変換層を配置した、いわゆる積層型の構造も提案されている。
CMOSイメージセンサに代表されるデジタルイメージセンサの撮像セルの各々は、一般に、フォトダイオードなどの光電変換素子と、電荷蓄積領域(「フローティングディフュージョン」とも呼ばれる)と、電荷蓄積領域に電気的に接続された読み出し回路とを有する。電荷蓄積領域は、光電変換素子によって生成された信号電荷を蓄積し、読み出し回路は、電荷蓄積領域に蓄積された信号電荷量に応じた信号(典型的には電圧信号)を読み出す。
各撮像セルの電荷蓄積領域に蓄積される信号電荷量は、撮像セルに対する照度および撮影時の感度の積の、露光期間にわたる積分値に比例した大きさを有する。一般に、撮影においては、シーンに応じた感度が設定され、その感度は、1フレームの画像の取得の間、固定される。換言すれば、フレーム期間の全体にわたって、各撮像セルの感度は、一定である。したがって、各撮像セルから最終的に読み出される信号は、露光期間中の各瞬間において発生した信号電荷を時間的に累積した結果に対応する。
このことは、例えば露光期間中に被写体の位置が変化すると、ある瞬間における被写体の像と、他のある瞬間における被写体の像とが重畳された画像が得られることを意味する。つまり、画像中の被写体の像にブレが発生する。下記の特許文献1は、露光期間中の各瞬間の被写体(例えば車両)の像から、露光期間中に位置が変化する被写体の移動速度を検出して、露光開始時における被写体の像を構築する画像形成方法を開示している。
特開2006−050343号公報
上述したように、従来のイメージセンサにおいて各撮像セルから出力される信号は、露光期間中に生成された信号電荷の総量に対応する信号である。したがって、被写体の輝度が露光期間中に変化しても、各撮像セルの出力からはその輝度変化を知ることはできない。換言すれば、従来のイメージセンサによっては、露光期間よりも短い時間における被写体の輝度の変化に関する情報を取得することはできない。特許文献1に記載の技術は、露光期間中に位置が空間的に変化する被写体の撮影におけるブレの除去には有効であるものの、露光期間における被写体自体の輝度の変化は考慮されていない。特許文献1に記載の技術によって最終的に得られる画像データは、露光開始時の被写体の画像データであり、この画像データには、露光期間中の被写体の輝度変化に関する情報は含まれていない。
原理的には、露光期間を短縮すれば、比較的短い時間に変化する輝度情報を取得可能である。しかしながら、露光期間を短縮すると、露光期間に撮像セルに到達する光子数が減少することにより、光電変換によって生成される電荷量(信号電荷量)が減少する。光センサでは、光の照射以外の原因により発生する偽の信号電荷(ノイズ)が不可避であるので、信号電荷量の減少によって信号ノイズ比(いわゆるS/N)が悪化してしまう。
光検出素子としてのイメージセンサは、記念としての動画または静止画の撮影だけでなく、測定または分析の場面においても用いられる。また、イメージセンサは、マシンビジョンとしても有用である。そのため、光検出素子を利用して、被写体からより多くの情報を取得できると有益である。
本開示の限定的ではないある例示的な実施形態によれば、以下が提供される。
強度が時間的に変化する光を被写体に放射する少なくとも1つの照明装置と、前記被写体からの光を検出する少なくとも1つの撮像装置とを備え、前記少なくとも1つの撮像装置は、それぞれが感度を変更可能な少なくとも1つの撮像セルと、前記少なくとも1つの撮像セルに電気的に接続された少なくとも1つの感度制御線とを有し、前記少なくとも1つの撮像セルは、前記被写体からの光を受けて信号電荷を生成する光電変換部と、前記信号電荷を検出する信号検出回路とを有し、前記少なくとも1つの感度制御線は、前記少なくとも1つの撮像セルのリセットから、露光によって前記少なくとも1つの撮像セルに蓄積される前記信号電荷の読み出しまでの露光期間において、直交系をなす関数系の基底のうちの1つに定数を加えた、正の値をとる関数によって表される波形を有する感度制御信号を前記少なくとも1つの撮像セルに供給する、撮像システム。
包括的または具体的な態様は、素子、デバイス、装置、システム、集積回路または方法で実現されてもよい。また、包括的または具体的な態様は、素子、デバイス、装置、システム、集積回路および方法の任意の組み合わせによって実現されてもよい。
開示された実施形態の追加的な効果および利点は、明細書および図面から明らかになる。効果および/または利点は、明細書および図面に開示の様々な実施形態または特徴によって個々に提供され、これらの1つ以上を得るために全てを必要とはしない。
本開示の一態様によれば、露光期間内における、被写体の輝度の時間的変化に関する情報を取得することが可能である。
図1は、本開示の第1の実施形態による撮像装置の例示的な構成を模式的に示す図である。 図2は、撮像セル10の例示的な回路構成を示す模式的な図である。 図3は、撮像セル10の例示的なデバイス構造を示す模式的な断面図である。 図4は、光電変換層に印加するバイアス電圧の変化に対する外部量子効率の変化の例を示すグラフである。 図5は、従来のイメージセンサにおいて露光期間に電荷蓄積領域に蓄積される信号電荷の総量を説明するための模式図である。 図6は、照度Lの露光期間中の時間変化からの特定の振動数成分の抽出を説明するための模式図である。 図7は、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが一致しており、かつ、被写体の輝度の周期的な変化における位相と、撮像セル10の感度の周期的な変化における位相とが一致しているときに得られる画像の例を示す図である。 図8は、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが一致しており、かつ、被写体の輝度の周期的な変化における位相と、撮像セル10の感度の周期的な変化における位相との間に半周期の差があるときに得られる画像の例を示す図である。 図9は、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが異なっており、かつ、被写体の輝度の周期的な変化における位相と、撮像セル10の感度の周期的な変化における位相とが一致しているときに得られる画像の例を示す図である。 図10は、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが異なっており、かつ、被写体の輝度の周期的な変化における位相と、撮像セル10の感度の周期的な変化における位相との間に半周期の差があるときに得られる画像の例を示す図である。 図11は、被写体の輝度の周期的な変化および撮像セル10の感度の周期的な変化の間の位相差Δθと、電荷蓄積領域に蓄積された平均電荷数Nとの間の関係の例を示すグラフである。 図12は、平均電荷数Nにおける位相差Δθに関する依存性と、露光期間Tの長さとの間の関係の典型例を示すグラフである。 図13は、複数の撮像セル10の間で異なる感度制御信号を印加可能な構成の例を示す模式的な平面図である。 図14は、図13に示す複数の撮像セル10のうちの一部を示す模式的な断面図である。 図15は、複数の撮像セル10の間で異なる感度制御信号を印加可能な構成の他の例を示す模式的な平面図である。 図16は、複数の撮像セル10の間で異なる感度制御信号を印加可能な構成のさらに他の例を示す模式的な平面図である。 図17は、感度の変調が可能な撮像セルの回路構成の例を示す図である。 図18は、感度の変調が可能な撮像セルの回路構成の他の例を示す図である。 図19は、光電変換部12にアバランシェフォトダイオードが適用された回路の例を示す図である。 図20は、従来のフーリエ変換型赤外分光光度計の構成を示す概略図である。 図21は、本開示の実施形態による撮像システムを用いた分光イメージングシステムの例を示す模式的な図である。 図22は、移動鏡248の物理的な振幅の2倍に等しい波長を有する光から形成される干渉光の波形を示すグラフである。 図23は、移動鏡248の物理的な振幅の4倍の波長を有する光から形成される干渉光の波形を示すグラフである。 図24は、複数の単色性の光源が適用された照明装置250Pを有する分光イメージングシステム200Pの構成の例を示す図である。 図25は、本開示の実施形態による撮像システムを腫瘍観察システムに適用した例を示す図である。 図26は、本開示の実施形態による撮像システムを物標検出システムに適用した例を示す図である。 図27は、W16,13(0,τ)のグラフである。 図28は、W16,14(0,τ)のグラフである。 図29は、長さの等しい2つのウォルシュ関数の積の一周期にわたる積分値の、位相差に対する依存性を説明するための図である。 図30は、燐光の強度の変化と、周囲の酸素濃度との間の関係の一例を示すグラフである。 図31は、本開示の実施形態による撮像システムを燐光観察システムに適用した例を示す模式的な図である。 図32は、BTPから発せられる燐光の撮影に本開示の撮像システムを適用したときの動作例を説明するための図である。
本開示の一態様の概要は以下のとおりである。
[項目1]
強度が時間的に変化する光を被写体に放射する少なくとも1つの照明装置と、
被写体からの光を検出する少なくとも1つの撮像装置と、
を備え、
少なくとも1つの撮像装置は、
それぞれが感度を変更可能な少なくとも1つの撮像セルと、
少なくとも1つの撮像セルに電気的に接続された少なくとも1つの感度制御線と、
を有し、
少なくとも1つの撮像セルは、
被写体からの光を受けて信号電荷を生成する光電変換部と、
信号電荷を検出する信号検出回路と、
を有し、
少なくとも1つの感度制御線は、少なくとも1つの撮像セルのリセットから、露光によって少なくとも1つの撮像セルに蓄積される信号電荷の読み出しまでの露光期間において、直交系をなす関数系の基底のうちの1つに定数を加えた、正の値をとる関数によって表される波形を有する感度制御信号を少なくとも1つの撮像セルに供給する、撮像システム。
項目1の構成によれば、被写体に輝度の変化を生じさせて、被写体の輝度の時間的な変化のうち、特定の成分に対応する情報を抽出し得る。
[項目2]
照明装置は、光の強度を周期的に変化させる、項目1に記載の撮像システム。
[項目3]
少なくとも1つの撮像装置は、感度制御信号を光の強度の時間的変化に同期させる同期化回路を有する、項目1または2に記載の撮像システム。
項目3の構成によれば、被写体の輝度の時間的変化における位相と、撮像セルの感度の時間的変化における位相とを揃えることが可能である。
[項目4]
少なくとも1つの照明装置および少なくとも1つの撮像装置は、
第1照明装置および第1撮像装置の組と、第2照明装置および第2撮像装置の組と、
を含み、
第1撮像装置における感度制御信号の波形は、基底のうちの1つに第1定数を加えた、正の値をとる第1関数によって表される波形を有し、
第2撮像装置における感度制御信号の波形は、基底のうちの他の1つに第2定数を加えた、正の値をとる第2関数によって表される波形を有する、項目1から3のいずれかに記載の撮像システム。
項目4の構成によれば、複数の撮像システムを同時に使用した場合であっても、これらの間における混信を防止し得る。
[項目5]
基底のうちの1つは、三角関数である、項目1から4のいずれかに記載の撮像システム。
項目5の構成によれば、露光期間中の照度の変化を構成する成分のうちから、振幅が特定の振動数で変化する成分に関する情報を抽出し得る。
[項目6]
基底のうちの1つは、定数関数ではないウォルシュ関数である、項目1から4のいずれかに記載の撮像システム。
[項目7]
少なくとも1つの感度制御線は、
露光期間において、正の値をとる関数によって表される波形を有する第1感度制御信号を少なくとも1つの撮像セルに供給し、
露光期間よりも後の第2の露光期間において、正の値をとる関数を時間的にシフトさせた関数によって表される波形を有する第2感度制御信号を少なくとも1つの撮像セルに供給する、項目1から6のいずれかに記載の撮像システム。
項目7の構成によれば、明度における余分なオフセットをキャンセルするための画像信号をより高速に取得し得る。
[項目8]
少なくとも1つの感度制御線は、
露光期間において、正の値をとる関数によって表される波形を有する第1感度制御信号を少なくとも1つの撮像セルに供給し、
露光期間よりも後の第2の露光期間において、定数関数によって表される波形を有する第2感度制御信号を少なくとも1つの撮像セルに供給する、項目1から6のいずれかに記載の撮像システム。
項目8の構成によれば、明度における余分なオフセットがキャンセルされた画像を形成し得る。
[項目9]
少なくとも1つの撮像セルは、第1撮像セルおよび第2撮像セルを含み、
少なくとも1つの感度制御線は、第1撮像セルに電気的に接続された第1感度制御線および第2撮像セルに電気的に接続された第2感度制御線を含み、
第1感度制御線は、露光期間において、正の値をとる関数によって表される波形を有する第1感度制御信号を第1撮像セルに供給し、
第2感度制御線は、露光期間において、正の値をとる関数を時間的にシフトさせた関数によって表される波形を有する第2感度制御信号を第2撮像セルに供給する、項目1から6のいずれかに記載の撮像システム。
項目9の構成によれば、明度における余分なオフセットがキャンセルされた画像を形成し得る。
[項目10]
少なくとも1つの撮像セルは、第1撮像セルおよび第2撮像セルを含み、
少なくとも1つの感度制御線は、第1撮像セルに電気的に接続された第1感度制御線および第2撮像セルに電気的に接続された第2感度制御線を含み、
第1感度制御線は、露光期間において、正の値をとる関数によって表される波形を有する第1感度制御信号を第1撮像セルに供給し、
第2感度制御線は、露光期間において、定数関数によって表される波形を有する第2感度制御信号を第2撮像セルに供給する、項目1から6のいずれかに記載の撮像システム。
項目10の構成によれば、明度における余分なオフセットをキャンセルするための画像信号をより高速に取得し得る。
[項目11]
直交系は、完全直交系である、項目1から10のいずれかに記載の撮像システム。
項目11の構成によれば、被写体の輝度の時間的変化が周期的でない場合であっても、被写体の輝度の時間的変化から、特定の成分に関する情報を抽出し得る。
[項目12]
強度がパルス状に変化する光を被写体に放射する少なくとも1つの照明装置と、
被写体からの光を検出する少なくとも1つの撮像装置と、
を備え、
少なくとも1つの撮像装置は、
それぞれが感度を変更可能な少なくとも1つの撮像セルと、
少なくとも1つの撮像セルに電気的に接続された少なくとも1つの感度制御線と、
を有し、
少なくとも1つの撮像セルは、
被写体からの光を受けて信号電荷を生成する光電変換部と、
信号電荷を検出する信号検出回路と、
を有し、
少なくとも1つの感度制御線は、少なくとも1つの撮像セルのリセットから、露光によって少なくとも1つの撮像セルに蓄積される信号電荷の読み出しまでの露光期間において、パルス波形を有する感度制御信号を少なくとも1つの撮像セルに供給する、撮像システム。
項目12の構成によれば、撮像セルの感度をパルス的に変化させることが可能である。
[項目13]
少なくとも1つの撮像装置は、感度制御信号を光の強度の時間的変化に同期させる同期化回路を有する、項目12に記載の撮像システム。
項目13の構成によれば、照明装置からの光の出射から特定の時間遅らせたタイミングにおいて感度を増大させる撮像を実行することが可能である。
[項目14]
少なくとも1つの撮像セルは、複数の撮像セルである、項目12または13に記載の撮像システム。
項目14の構成によれば、特定の成分に関する2次元または1次元の画像を取得し得る。
[項目15]
少なくとも1つの感度制御線は、複数の撮像セルに共通の感度制御信号を供給する、項目14に記載の撮像システム。
項目15の構成によれば、複数の撮像セルの間で同期をとりながら、これらの撮像セルの感度に共通の変調を与えることが可能である。
[項目16]
それぞれが感度を変更可能な少なくとも1つの撮像セルと、
少なくとも1つの撮像セルに電気的に接続された少なくとも1つの感度制御線と、
を備え、
少なくとも1つの撮像セルは、
光の入射によって信号電荷を生成する光電変換部と、
信号電荷を検出する信号検出回路と、
を有し、
少なくとも1つの感度制御線は、少なくとも1つの撮像セルのリセットから、露光によって少なくとも1つの撮像セルに蓄積される信号電荷の読み出しまでの露光期間において、直交系をなす関数系の基底のうちの1つに定数を加えた、正の値をとる関数によって表される波形を有する感度制御信号を少なくとも1つの撮像セルに供給する、撮像装置。
項目16の構成によれば、被写体の輝度の時間的な変化のうち、特定の成分に対応する情報を抽出し得る。
[項目17]
信号検出回路は、少なくとも1つの感度制御線に接続された増幅器を有し、
増幅器の露光期間における増幅率は、正の値をとる関数によって表される変化を示す、項目16に記載の撮像装置。
項目17の構成によれば、感度制御信号を用いて撮像セルの感度に変調を与えることが可能である。
[項目18]
信号検出回路は、
信号検出トランジスタと、
信号検出トランジスタの入力に接続された電荷蓄積領域と、
電荷排出領域と、
光電変換部と電荷蓄積領域および電荷排出領域との間に接続された切り替え回路であって、少なくとも1つの感度制御線に接続された切り替え回路と、
を有し、
切り替え回路は、感度制御信号に基づいて、露光期間の一部において光電変換部を電荷蓄積領域に接続し、露光期間の残余の期間において光電変換部を電荷排出領域に接続する、項目16に記載の撮像装置。
項目18の構成によれば、感度制御信号を用いて撮像セルの感度に変調を与えることが可能である。
[項目19]
光電変換部は、少なくとも1つの感度制御信号線に接続された電極を有するアバランシェフォトダイオードを含む、項目16に記載の撮像装置。
項目19の構成によれば、感度制御信号を用いて撮像セルの感度に変調を与えることが可能である。
[項目20]
光電変換部は、
第1電極と、
少なくとも1つの感度制御線に接続された、透光性の第2電極と、
第1電極および第2電極の間に配置された光電変換層と、
を有する、項目16から18のいずれかに記載の撮像装置。
項目20の構成によれば、感度制御信号によって感度を比較的容易に変調し得る。
[項目21]
少なくとも1つの撮像セルは、複数の撮像セルである、項目16から20のいずれかに記載の撮像装置。
項目21の構成によれば、特定の成分に関する2次元または1次元の画像を取得し得る。
[項目22]
少なくとも1つの感度制御線は、複数の撮像セルに共通の感度制御信号を供給する、項目21に記載の撮像装置。
項目22の構成によれば、複数の撮像セルの間で同期をとりながら、これらの撮像セルの感度に共通の変調を与えることが可能である。
[項目23]
輝度が時間的に変化する被写体に、1以上の撮像セルを有する撮像装置の撮像面を向ける工程(a)と、
1以上の撮像セルのリセット後、1以上の撮像セルのうちの少なくとも一部の撮像セルにおける第1感度を変化させながら露光を実行する工程(b)と、
を含み、
工程(b)において、第1感度の変化を表す波形は、直交系をなす関数系の基底のうちの1つに第1定数を加えた、正の値をとる第1関数によって表される形状を有する、光検出方法。
項目23の構成によれば、被写体の輝度の時間的な変化のうち、特定の成分に対応する情報を抽出し得る。
[項目24]
工程(a)は、
強度が時間的に変化する光で被写体を照射する工程(a1)
を含む、項目23に記載の光検出方法。
項目24の構成によれば、被写体に所望の輝度の変化を生じさせることができる。
[項目25]
工程(b)は、
第1感度の変化を光の時間的な強度の変化に同期させる工程(b1)
を含む、項目24に記載の光検出方法。
項目25の構成によれば、比較的明度の高い画像を取得し得る。
[項目26]
1以上の撮像セルのリセット後、1以上の撮像セルのうちの他の一部の撮像セルにおける第2感度を変化させながら露光を実行する工程(c)
をさらに含み、
第1関数は、周期関数であり、
第2感度の変化を示す波形は、第1感度の変化を表す波形に対して位相および/または周期が異なる、項目23から25のいずれかに記載の光検出方法。
項目26の構成によれば、明度における余分なオフセットをキャンセルするための画像信号を取得し得る。
[項目27]
1以上の撮像セルのリセット後、1以上の撮像セルのうちの他の一部の撮像セルにおける第2感度を固定して露光を実行する工程(c)
をさらに含む、項目23から25のいずれかに記載の光検出方法。
項目27の構成によれば、明度における余分なオフセットをキャンセルするための画像信号を取得し得る。
[項目28]
工程(c)は、工程(b)の後に実行される、項目26または27に記載の光検出方法。
[項目29]
工程(b)および工程(c)は、同時に実行される、項目26または27に記載の光検出方法。
項目29の構成によれば、明度における余分なオフセットをキャンセルするための画像信号をより高速に取得し得る。
[項目30]
工程(b)において取得される画像信号と、工程(c)において取得される画像信号との間の差分に基づいて画像を形成する工程(d)をさらに含む、項目26から29のいずれかに記載の光検出方法。
項目30の構成によれば、明度における余分なオフセットがキャンセルされた画像を形成し得る。
[項目31]
輝度が時間的に変化する被写体に、1以上の撮像セルを有する撮像装置の撮像面を向ける工程(a)と、
1以上の撮像セルのリセット後、1以上の撮像セルのうちの少なくとも一部の撮像セルにおける第1感度を変化させながら露光を実行する工程(b)と、
を含み、
工程(b)において、第1感度の変化を表す波形は、パルス形状を有する、光検出方法。
項目31の構成によれば、撮像セルの感度をパルス的に変化させることが可能である。
[項目32]
工程(a)は、
強度がパルス状に変化する光で被写体を照射する工程(a1)
を含む、項目31に記載の光検出方法。
[項目33]
工程(b)は、
第1感度の変化を光の時間的な強度の変化に同期させる工程(b1)
を含む、項目32に記載の光検出方法。
項目33の構成によれば、照明装置からの光の出射から特定の時間遅らせたタイミングにおいて感度を増大させる撮像を実行することが可能である。
[項目34]
それぞれが第1光電変換部を有する1以上の第1撮像セルと、
第1信号線と、
それぞれが第2光電変換部を有する1以上の第2撮像セルと、
第2信号線と、
を備え、
第1光電変換部は、
第1電極と、
第1信号線に電気的に接続された、透光性の第2電極と、
第1電極および第2電極の間に配置された第1光電変換層と、
を含み、
第2光電変換部は、
第3電極と、
第2信号線に電気的に接続された、透光性の第4電極と、
第3電極および第4電極の間に配置された第2光電変換層と、
を含み、
第1信号線は、1以上の第1撮像セルのリセットから、露光によって1以上の第1撮像セルに蓄積される信号電荷の読み出しまでの露光期間において、直交系をなす関数系の基底のうちの1つに定数を加えた、正の値をとる関数によって表される波形を有する第1信号を1以上の第1撮像セルに供給し、
第2信号線は、露光期間において、第1信号とは異なる時間変化を示す波形を有する第2信号を1以上の第2撮像セルに供給する、撮像装置。
項目34の構成によれば、第1撮像セルおよび第2撮像セルに、異なる波形を有する感度調整信号を独立して印加することができる。
[項目35]
第1信号線に第1信号を供給する第1信号源と、
第2信号線に第2信号を供給する第2信号源と、
をさらに備える、項目34に記載の撮像装置。
[項目36]
第1信号線に接続された信号源と、
第2信号線および信号源との間に接続された移相器と、
をさらに備える、項目34に記載の撮像装置。
項目36の構成によれば、信号源の数を低減できる。
[項目37]
第1信号および第2信号は、露光期間において周期的な変化を示す信号であり、
第1信号および第2信号の周期および位相の少なくとも一方は、互いに異なる、項目34から36のいずれかに記載の撮像装置。
項目37の構成によれば、オフセット除去のための画像信号を得ることができる。
[項目38]
第2信号源は、直流信号源である、項目35に記載の撮像装置。
項目38の構成によれば、オフセット除去のための画像信号を得ることができる。
[項目39]
第1光電変換層および第2光電変換層は、連続した単一の層である、項目34から38のいずれかに記載の撮像装置。
項目39の構成によれば、製造工程の複雑化を回避し得る。
[項目40]
1以上の第1撮像セルは、複数の第1撮像セルであり、
1以上の第2撮像セルは、複数の第2撮像セルである、項目34から39のいずれかに記載の撮像装置。
項目40の構成によれば、特定の成分に関する2次元または1次元の画像を取得し得る。
[項目41]
第1信号線は、複数の第1撮像セルに共通の第1信号を供給し、
第2信号線は、複数の第2撮像セルに共通の第2信号を供給する、項目40に記載の撮像装置。
項目41の構成によれば、複数の第1撮像セルの間および複数の第2撮像セルの間でそれぞれ同期をとりながら、複数の第1撮像セルの感度および複数の第2撮像セルの感度にそれぞれ共通の変調を与えることが可能である。
以下、図面を参照しながら、本開示の実施形態を詳細に説明する。なお、以下で説明する実施形態は、いずれも包括的または具体的な例を示す。以下の実施形態で示される数値、形状、材料、構成要素、構成要素の配置および接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。本明細書において説明される種々の態様は、矛盾が生じない限り互いに組み合わせることが可能である。また、以下の実施形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。以下の説明において、実質的に同じ機能を有する構成要素は共通の参照符号で示し、説明を省略することがある。
(第1の実施形態)
図1は、本開示の第1の実施形態による撮像装置の例示的な構成を模式的に示す。図1に示す撮像装置100は、1以上の撮像セル10を有する。ここでは、撮像装置100が複数の撮像セル10を含む構成を例示する。撮像セル10の数は、特定の数に限定されない。例えば撮像セル10の数が1つであれば、撮像装置100を光検出素子として利用し得るし、撮像セル10の数が複数、かつ、それらの撮像セル10が1次元または2次元に配列されていれば、撮像装置100をイメージセンサとして利用し得る。後述するように、撮像セル10の各々は、感度を変更可能な構成を有する。
この例では、撮像セル10は、m行n列のマトリクス状に配置されることにより、撮像領域を形成している(m、nは、2以上の整数)。撮像セル10は、例えば半導体基板に2次元に配列される。ここでは、各撮像セル10の中心が、正方格子の格子点上に位置している。もちろん、撮像セル10の配置は、図示する例に限定されず、例えば、各中心が、三角格子、六角格子などの格子点上に位置するように複数の撮像セル10を配置してもよい。
撮像装置100は、複数の撮像セル10を含む画素アレイ、および、これらの撮像セル10を駆動するための周辺回路を有する。図1に例示する構成において、撮像装置100の周辺回路は、行走査回路90、電圧供給回路92、列回路94、信号処理回路96、出力回路98および制御回路99を含んでいる。周辺回路を構成する各要素は、画素アレイPAが形成される半導体基板上に配置されてもよいし、その一部が他の基板上に配置されてもよい。
図1において模式的に示すように、電圧供給回路92および撮像セル10は、感度制御線82を介して電気的に接続される。なお、図1では、1本の感度制御線82が描かれている。しかしながら、感度制御線82の本数は、2本以上であり得る。例えば、撮像セル10に対応して撮像セル10と同数の感度制御線82が設けられてもよいし、全ての撮像セル10に共通して1本の感度制御線82が接続されてもよい。
電圧供給回路92は、少なくとも2つの電圧レベルを供給可能に構成された信号発生回路であり、所望の波形の感度制御信号を生成する。電圧供給回路92としては、公知の信号源を用いることができる。電圧供給回路92は、特定の電源回路に限定されず、所定の電圧を生成する回路であってもよいし、他の電源から供給された電圧を所定の電圧に変換する回路であってもよい。図1において模式的に示すように、電圧供給回路92の動作は、制御回路99から供給される制御信号によって制御され得る。
電圧供給回路92は、撮影時、感度制御線82を介して撮像セル10に所定の波形の感度制御信号を印加する。感度制御信号としては、アナログ信号およびデジタル信号のいずれも用い得る。感度制御線82を介して供給される感度制御信号に基づき、撮像セル10における感度が電気的に制御される。本開示の典型的な実施形態においては、少なくとも一部の撮像セル10に関して、リセットから信号電荷の読み出しまでの期間として定義される露光期間において感度を変化させながら撮影を実行する。被写体の輝度の時間的な変化における特定の成分との関連を有する波形の感度制御信号を用いて感度を変調しながら撮影を実行することにより、被写体の輝度の時間的な変化のうち、特定の成分に対応する情報を抽出することができる。例えば、強度が第1の振動数で変化する第1の光と、強度が第2の振動数で変化する第2の光とによって被写体が照射されている場合において、一方の光のみで照射された状態に相当する被写体像を得ることが可能である。撮像セル10の構成の具体例、および、感度の変調による特定成分の抽出の原理は、後述する。
行走査回路90は、複数の撮像セル10の各行に対応して設けられたアドレス制御線84およびリセット制御線86との接続を有する。各アドレス制御線84および各リセット制御線86は、対応する行の撮像セル10に接続される。行走査回路90は、アドレス制御線84に所定の電圧を印加することにより、撮像セル10を行単位で選択し、信号電圧の読み出しを行うことができる。行走査回路90を垂直走査回路と呼んでもよい。また、行走査回路90は、リセット制御線86に所定の電圧を印加することにより、選択された撮像セル10に対してリセット動作を実行することが可能である。
列回路94は、複数の撮像セル10の各列に対応して設けられた出力信号線88との接続を有する。同一列に属する撮像セル10は、複数の出力信号線88のうちの対応する1つに共通して接続される。行走査回路90によって行単位で選択された撮像セル10の出力信号は、出力信号線88を介して列回路94に読み出される。列回路94は、撮像セル10から読み出された出力信号に対し、相関二重サンプリングに代表される雑音抑圧信号処理、アナログ−デジタル変換(AD変換)などを行う。
信号処理回路96は、撮像セル10から取得された画像信号に各種の処理を施す。後に詳しく説明するように、本開示の典型的な実施形態においては、感度制御信号の波形を変えて第1および第2の撮影を実行し、これらの撮影によって取得された画像データ間の差分を求める。また、本開示の実施形態においては、画像データ間の差分に基づいて撮像面から被写体までの距離を算出することがある。このような計算処理が信号処理回路96によって実行されてもよい。信号処理回路96の出力は、出力回路98を介して撮像装置100の外部に読み出される。
制御回路99は、撮像装置100の例えば外部から与えられる指令データ、クロックなどを受け取り、撮像装置100全体を制御する。制御回路99は、典型的にはタイミングジェネレータを有し、行走査回路90、列回路94などに駆動信号を供給する。典型的に
は、制御回路99は、感度制御信号の波形が所望の波形となるように、生成すべき感度制御信号の波形に応じた駆動信号を電圧供給回路92に供給する。生成すべき感度制御信号の波形に対応した波形を有する制御信号が外部から制御回路99または電圧供給回路92に与えられてもよい。制御回路99により、撮像面から被写体までの距離の算出などの上述の計算処理が実行されてもよい。
図2は、撮像セル10の例示的な回路構成を示す。図面が過度に複雑となることを避けるために、ここでは、マトリクス状に配置された複数の撮像セル10のうちの4つを取り出して示している。図2において模式的に示すように、各撮像セル10は、概略的には、光電変換部12と、信号検出回路14とを含む。
光電変換部12は、入射光を受けて照度に応じた信号電荷を生成する。信号電荷の極性は、正および負のいずれであってもよい。ここでは、撮像装置100として、積層型の撮像装置を例示する。すなわち、ここでは、光電変換部12は、有機材料またはアモルファスシリコンなどの無機材料から形成された光電変換層をその一部に含む。光電変換層は、例えば、半導体基板を覆う層間絶縁層上に配置される。もちろん、光電変換部12としてフォトダイオードを用いることも可能である。
図示するように、積層型の構造が適用される場合には、上述の感度制御線82は、光電変換部12に電気的に接続される。この例では、感度制御線82が、図2に示された4つの撮像セル10の光電変換部12に共通して接続されている。したがって、撮像装置100の動作時、これらの4つの撮像セル10には、共通の感度制御信号が印加される。
各撮像セル10は、光電変換部12によって生成された信号電荷を検出する信号検出回路14を有する。ここでは、信号検出回路14は、信号検出トランジスタ22およびアドレストランジスタ24を含む。信号検出トランジスタ22およびアドレストランジスタ24は、典型的には、半導体基板に形成された電界効果トランジスタ(FET)である。以下では、特に断りの無い限り、トランジスタとしてNチャンネルMOSを用いる例を説明する。
図示するように、信号検出トランジスタ22の入力であるゲートは、光電変換部12に電気的に接続される。光電変換部12によって生成された信号電荷は、光電変換部12と信号検出トランジスタ22との間のノードに一時的に蓄積される。以下では、光電変換部12と信号検出トランジスタ22との間のノードを「電荷蓄積ノードFD」と呼ぶ。電荷蓄積ノードFDは、信号電荷を蓄積する電荷蓄積領域の一部を構成する。信号検出トランジスタ22のソースは、アドレストランジスタ24を介して、出力信号線88に接続される。アドレストランジスタ24のゲートには、アドレス制御線84が接続される。アドレス制御線84を介して、行走査回路90によってアドレストランジスタ24のオンおよびオフが制御される。
出力信号線88は、上述の列回路94(図1参照)などから構成される定電流源89をその一端に有する。信号検出トランジスタ22のドレインは、電源配線(ソースフォロア電源)81に接続されており、信号検出トランジスタ22および定電流源89によってソースフォロア回路が形成される。撮像装置100の動作時、信号検出トランジスタ22は、ドレインに電源電圧VDDの供給を受けることにより、ゲートに印加された電圧、すなわち、電荷蓄積ノードFDの電圧を増幅して出力する。信号検出トランジスタ22によって増幅された信号は、出力信号線88を介して信号電圧として選択的に読み出される。
図2に例示する構成において、撮像セル10の各々は、ソースおよびドレインの一方がリセット電圧線85に接続されたリセットトランジスタ26を含む。リセット電圧線85には、リセット電圧源95が接続されている。リセット電圧源95は、撮像装置100の動作時、リセット電圧線85に所定のリセット電圧Vrを印加する。リセット電圧源95は、撮像装置100の動作時にリセット電圧線85に所定のリセット電圧Vrを供給可能な構成を有していればよく、上述の電圧供給回路92と同様に、特定の電源回路に限定されない。リセット電圧Vrとして、信号検出回路14の電源電圧VDDを用いることも可能である。この場合、各撮像セル10に電源電圧を供給する電圧供給回路(図1において不図示)と、リセット電圧源95とを共通化し得る。
リセットトランジスタ26のソースおよびドレインの他方は、電荷蓄積ノードFDに接続され、リセットトランジスタ26のゲートには、リセット制御線86が接続される。すなわち、この例では、リセットトランジスタ26のオンおよびオフが行走査回路90によって制御される。リセットトランジスタ26をオンとすることにより、所定のリセット電圧Vrが電荷蓄積ノードFDに印加され、電荷蓄積ノードFDの電位がリセットされる。すなわち、リセットトランジスタ26のオンにより、撮像セル10がリセットされる。
撮影においては、まず、リセットトランジスタ26をオンとすることにより、撮像セル10をリセットする。リセットトランジスタ26のオフ後、電荷蓄積ノードFDへの信号電荷の蓄積を開始する。光電変換部12は、光の入射を受けて信号電荷を生成する(露光)。生成された信号電荷は、電荷蓄積ノードFDをその一部に含む電荷蓄積領域に蓄積される。そして、所望のタイミングにおいてアドレストランジスタ24をオンとし、電荷蓄積領域に蓄積された信号電荷量に対応する画像信号を読み出す。本明細書では、ある撮像セルに着目したとき、その撮像セルのリセットから、露光によって生成され、電荷蓄積領域に蓄積された信号電荷の総量に対応する信号の読み出しまでの期間を「露光期間」と呼ぶ。図2に例示する回路構成を有する撮像装置100においては、ある撮像セル10に着目したとき、その撮像セル10のリセットトランジスタ26をオンからオフに切り替えた時点から、アドレストランジスタ24をオンとする時点までの期間が、その撮像セル10の露光期間に相当する。なお、電荷蓄積領域への信号電荷の蓄積の期間が露光期間の全てにわたっている必要はない。例えば、露光期間中の一部の期間において信号電荷が電荷蓄積領域に蓄積されるような動作が実行されてもよい。すなわち、本開示の実施形態においては、露光期間と信号電荷の蓄積期間とは、必ずしも一致しない。
(撮像セル10の例示的なデバイス構造)
図3は、撮像セル10の例示的なデバイス構造を模式的に示す。図3に例示する構成では、上述の信号検出トランジスタ22、アドレストランジスタ24およびリセットトランジスタ26が、半導体基板20に形成されている。半導体基板20は、その全体が半導体である基板に限定されない。半導体基板20は、撮像領域が形成される側の表面に半導体層が設けられた絶縁基板などであってもよい。ここでは、半導体基板20としてP型シリコン(Si)基板を用いる例を説明する。
半導体基板20は、不純物領域(ここではN型領域)24s、22s、22d、26dおよび26sと、撮像セル10間の電気的な分離のための素子分離領域20tとを有する。ここでは、素子分離領域20tは、不純物領域22dと不純物領域26dとの間にも設けられている。素子分離領域20tは、例えば所定の注入条件のもとでアクセプタのイオン注入を行うことによって形成される。
不純物領域24s、22s、22d、26dおよび26sは、典型的には、半導体基板20内に形成された拡散層である。図3に模式的に示すように、信号検出トランジスタ22は、不純物領域22sおよび22dと、ゲート電極22g(典型的にはポリシリコン電極)とを含む。不純物領域22sおよび22dは、それぞれ、信号検出トランジスタ22の例えばソース領域およびドレイン領域として機能する。不純物領域22sと22dとの間に、信号検出トランジスタ22のチャネル領域が形成される。
同様に、アドレストランジスタ24は、不純物領域24sおよび22sと、アドレス制御線84(図2参照)に接続されたゲート電極24g(典型的にはポリシリコン電極)とを含む。この例では、信号検出トランジスタ22およびアドレストランジスタ24は、不純物領域22sを共有することによって互いに電気的に接続されている。不純物領域24sは、アドレストランジスタ24の例えばソース領域として機能する。不純物領域24sは、図3において不図示の出力信号線88(図2参照)との接続を有する。
リセットトランジスタ26は、不純物領域26dおよび26sと、リセット制御線86(図2参照)に接続されたゲート電極26g(典型的にはポリシリコン電極)とを含む。不純物領域26sは、リセットトランジスタ26の例えばソース領域として機能する。不純物領域26sは、図3において不図示のリセット電圧線85(図2参照)との接続を有する。
半導体基板20上には、信号検出トランジスタ22、アドレストランジスタ24およびリセットトランジスタ26を覆う層間絶縁層30(典型的には二酸化シリコン層)が配置される。この例では、層間絶縁層30上に、光電変換部12が配置されている。光電変換部12は、画素電極12aと、透明電極12cと、これらの間に配置された光電変換層12bとを含む。画素電極12aは、撮像セル10ごとに設けられ、隣接する他の撮像セル10の画素電極12aから空間的に分離されることによって、他の撮像セル10の画素電極12aから電気的に分離される。他方、透明電極12cおよび光電変換層12bは、複数の撮像セル10にわたって形成され得る。
透明電極12cは、典型的には、透明な導電性材料から形成される。透明電極12cを構成する材料の典型例は、ITO、IZO、AZO、FTO、SnO2、TiO2、ZnO2などの透明導電性酸化物(Transparent Conducting Oxide(TCO))である。透明電極12cは、光電変換層12bにおいて光が入射される側に配置される。したがって、光電変換層12bには、透明電極12cを透過した光が入射する。透明電極12c上には、保護層、カラーフィルタなどが配置され得る。なお、撮像装置100によって検出される光は、可視光の波長範囲(例えば、380nm以上780nm以下)内の光に限定されない。本明細書における「透明」および「透光性」の用語は、検出しようとする波長範囲の光の少なくとも一部を透過することを意味し、可視光の波長範囲全体にわたって光を透過することは必須ではない。本明細書では、赤外線および紫外線を含めた電磁波全般を、便宜上「光」と表現する。
透明電極12cは、上述の感度制御線82との接続を有する(図2参照)。複数の撮像セル10の間において、連続した単一の電極の形で透明電極12cを形成することにより、感度制御線82を介して、複数の撮像セル10に一括して所望の波形の感度制御信号を印加し得る。
光電変換層12bは、典型的には、半導体性を有する有機材料から形成され、入射する光を受けて正および負の電荷の対(例えば正孔−電子対)を発生させる。光電変換層12bは、典型的には、複数の撮像セル10にわたって形成される。換言すれば、光電変換層12bは、複数の撮像セル10において、連続した単一の層であり得る。もちろん、光電変換層12bが、撮像セル10ごとに分離して設けられていてもよい。
画素電極12aは、アルミニウム、銅などの金属、金属窒化物、または、不純物がドープされることにより導電性が付与されたポリシリコンなどから形成される。画素電極12aの電位に対する透明電極12cの電位を制御することにより、光電変換によって光電変換層12b内に生じた正および負の電荷のうちの一方を、画素電極12aによって収集することができる。例えば信号電荷として正の電荷(典型的には正孔)を利用する場合、感度制御信号を用いて、画素電極12aよりも透明電極12cの電位を高くすればよい。これにより、画素電極12aによって正の電荷を選択的に収集することが可能である。以下では、信号電荷として正の電荷を利用する場合を例示する。もちろん、信号電荷として負の電荷(例えば電子)を利用することも可能である。
図3において模式的に示すように、画素電極12aは、プラグ32、配線33およびコンタクトプラグ34を介して、信号検出トランジスタ22のゲート電極22gに接続されている。言い換えれば、信号検出トランジスタ22のゲートは、画素電極12aとの電気的な接続を有する。プラグ32、配線33は、例えば銅などの金属から形成される。プラグ32、配線33およびコンタクトプラグ34は、信号検出トランジスタ22と光電変換部12との間の電荷蓄積ノードFD(図2参照)の少なくとも一部を構成する。画素電極12aは、さらに、プラグ32、配線33およびコンタクトプラグ35を介して、不純物領域26dにも接続されている。図3に例示する構成において、信号検出トランジスタ22のゲート電極22g、プラグ32、配線33、コンタクトプラグ34および35、ならびに、リセットトランジスタ26のソース領域およびドレイン領域の一方である不純物領域26dは、画素電極12aによって収集された信号電荷を蓄積する電荷蓄積領域の少なくとも一部として機能する。
撮像装置100における画素アレイPAは、一般的な半導体製造プロセスを用いて製造することができる。特に、半導体基板20としてシリコン基板を用いる場合には、種々のシリコン半導体プロセスを利用することによって撮像装置100を製造することができる。
積層型の構造の採用は、2つの電極(ここでは透明電極12cおよび画素電極12a)に光電変換層12bを挟んだ構造(以下では、説明の便宜のために、「サンドイッチ構造」と呼ぶことがある)の光電変換部12への適用を容易にする。単結晶シリコンなどを用いた無機半導体フォトダイオードにおいては、光電変換によって生成された、フォトダイオード内部の正および負の電荷は、アノードおよびカソード間にバイアス電圧を印加しなくてもカソードおよびアノードにそれぞれ移動する。これに対し、図3に例示されるようなサンドイッチ構造を有する光電変換素子では、光電変換層にバイアス電圧が印加されていない状態では、光電変換によって生成された正および負の電荷は、光電変換層内においてあまり移動しない。したがって、アノードまたはカソードに到達する前に再結合によって消失する割合が高い。バイアス電圧が増大するに従い、アノードまたはカソードに到達する電荷の割合、換言すれば、光電変換層に単位時間に吸収された光子数に対する、電荷蓄積領域に蓄積される単位時間当たりの信号電荷数の割合(以下、「外部量子効率」と呼ぶことがある)が増加する。
図4は、光電変換層に印加するバイアス電圧の変化に対する外部量子効率の変化の例を示す。図4中、横軸は、光電変換層を挟む2つの電極の一方の電位を基準としたときの他方の電極に印加されるバイアス電圧の大きさを示し、縦軸は、バイアス電圧が10Vのときを基準にして正規化した外部量子効率を示している。図4から、サンドイッチ構造を有する光電変換素子における外部量子効率は、印加するバイアス電圧に依存して変化することがわかる。このことは、光電変換素子の外部からの印加電圧によって光電変換素子の外部量子効率(感度といってもよい)を電気的に制御可能であることを意味する。
図4に示した例においては、量子効率はバイアス電圧に対して一価の連続関数である。したがって、設定可能な量子効率の範囲において、逆関数が存在し、所望の量子効率を与えるバイアス電圧の関数を求めることができる。
この量子効率のバイアス電圧への依存性を与える関数は、光電変換素子の構造、材料などにより定まる値で、基本的に光電変換素子製造時に定まる。そのため、あらかじめ量子効率のバイアス電圧への依存性を与える関数を調べておけば、所望の量子効率を与えるバイアス電圧の関数を求めることができる。この関数が既知であれば、量子効率を所望の時間変化をさせる場合、どのようなバイアス電圧の時間変化が必要であるかを定めることができる。
感度制御信号がバイアス電圧そのものであれば、上記手順により求めたバイアス電圧の時間変化を感度制御信号とすればよい。
また、感度制御信号がバイアス電圧そのものでなくても、同様に感度制御信号に対する量子効率の値をあらかじめ確認しておけば、所望の量子効率の時間変化を得ることができる。
図4に示した例において、バイアス電圧が1Vから3Vの範囲において、量子効率はバイアス電圧に対して一次関数である。そのため逆関数も一次関数である。この場合はバイアス電圧を1Vから3Vの範囲に限定して正弦波+定数の形で変化させれば、量子効率も正弦波+定数の形になる。よって、感度制御信号は単純なものとなる。
図4に示した例において、バイアス電圧を3V以上の範囲を含んで使用する場合には、量子効率はバイアス電圧に対して一次関数ではない。そのため、量子効率を正弦波+定数の形にするには、バイアス電圧は単純な正弦波+定数ではない非線形な形で変化させなければならない。ただし、上記手順により所望のバイアス電圧の時間変化が求められること、およびそのような制御が可能であることは自明である。
無機半導体フォトダイオードなどの光電変換素子では、外部量子効率が、その素子を構成する材料および構造に依存するので、素子の製造後に外部量子効率を変化させることが一般に困難である。これに対し、図3を参照して説明したような構成によれば、アノードまたはカソードの一方を電荷蓄積領域に電気的に接続して信号電荷の蓄積に利用しながら、他方にバイアス電圧を印加することが容易である。例えば、透明電極12cに感度制御線82を接続し、バイアス電圧として感度制御信号を透明電極12cに印加することにより、感度制御信号によって撮像セル10の感度を電気的に変調し得る。本発明者の検討によれば、外部量子効率は、バイアス電圧の変化に追従して高速に変化する。そのため、特定の関数によって表される波形を有する感度制御信号を用いることによって、撮像セル10の感度を、その関数の波形に従って比較的容易に時間的に変化させ得る。
特に、複数の撮像セル10の間で透明電極12cを電気的に接続することにより、複数の撮像セル10の透明電極12cに一括して共通の感度制御信号を印加することができる。すなわち、複数の撮像セル10の間で同期をとりながら、これらの撮像セル10の感度に共通の変調を与えることができる。このように複数の撮像セル10における感度の変調を同期させることが可能な構成は、複数の撮像セル10を含む撮像装置、または、複数の撮像セル10と他の回路(例えば周辺回路)とが集積された構成を有する撮像装置などに特に有効である。なお、後述するように、このような感度の変調は、光電変換部12として無機半導体フォトダイオードなどの光電変換素子を用いた構成においても可能である。光電変換層に単位時間に吸収された光子数に対する、電荷蓄積領域に蓄積される単位時間当たりの信号電荷数の割合を露光期間中に変化させることが可能な他の構成の例は、後述する。
(特定の振動数成分の抽出)
次に、露光期間中の照度の変化から特定の成分を抽出する原理を説明する。理解を容易にするために、以下では、まず、具体例として、露光期間中の照度の変化から、特定の振動数で変動する振幅を有する成分を抽出する方法を説明する。
図5は、従来のイメージセンサにおいて露光期間に電荷蓄積領域に蓄積される信号電荷の総量を説明するための模式図である。図5中、一番上のグラフは、撮像セルの光電変換素子に対する照度Lの時間的な変化の例を示し、中央のグラフは、撮像セルにおける感度Sを示している。一番下のグラフは、電荷蓄積領域に蓄積される信号電荷量Qの時間的な変化を示している。図5に示す各グラフの横軸は、時間τを表し、図5中の両矢印EXPは、露光期間を模式的に示している。この例では、露光期間の開始および終了は、それぞれ、時刻τ=0およびτ=Tである。
まず、図5中の一番上のグラフに注目する。一般に、撮像セルに対する照度Lは、露光期間において時間的な変動を有する。換言すれば、露光期間中に撮像セルの光電変換素子に入射する光子数は、露光期間において一定ではなく、一般に時間的に変化している。そのため、光電変換素子に対する照度Lの時間変化を示すL(τ)のグラフは、図5において一番上に模式的に示すように、一般に不規則な波形を有する。
露光期間中のある瞬間τ=t1に着目する。時刻t1において、電荷蓄積領域には、時刻t1において光電変換素子に入射した光子数と、時刻t1における撮像セルの感度との積に応じた量の信号電荷が蓄積される。上述したように、従来の撮像装置では、露光期間において感度Sが一定に固定される。この例では、撮像セルの感度がある値Sfに固定されているので、時刻t1において電荷蓄積領域には、結局、時刻t1における照度L1と感度Sfとの積に比例した量の信号電荷Q1が蓄積される。ここでは、露光期間における感度Sが一定であることから、電荷蓄積領域に蓄積される信号電荷量Q(τ)は、図5において一番下に模式的に示すように、撮像セルに対する照度L(τ)の時間変化に対応した変化を示す。
露光期間の終了後、撮像セルから読み出される画像信号は、露光期間全体において電荷蓄積領域に蓄積された信号電荷の総量に対応する信号である。典型的には、画像信号として、電荷蓄積領域に蓄積された信号電荷の総量に対応した大きさの電圧が画像信号として読み出される。露光期間に電荷蓄積領域に蓄積される信号電荷の総量Qtは、下記の式(1)に示すように、露光期間中の各時刻における感度S(τ)および照度L(τ)の積の、時刻τ=0からτ=Tまでの積分として表される。
Figure 0006887129
式(1)中のCは、撮像光学系におけるレンズの構成、絞り、被写体の反射率、撮影時の倍率などにより定まる比例定数である。感度S(τ)は、光電変換素子に単位時間に入射する光子数に対する、電荷蓄積領域に蓄積される単位時間当たりの信号電荷数の割合に相当する。ここでは、S(τ)=Sfで一定であるので、露光期間に電荷蓄積領域に蓄積される信号電荷の総量Qtは、下記の式(2)のように表される。
Figure 0006887129
ここで、光電変換素子に対する照度L(τ)が、振幅がωmの振動数で振動する光の重ねあわせによって表現可能であると仮定する。すなわち、照度L(τ)が下記の式(3)のように展開可能であると仮定する。
Figure 0006887129
式(3)中、ωm=m(2π/T)であり(mは1以上の整数)、θmは、位相を表す。式(3)は、照度L(τ)の時間変化を、振動数ωmごとに分解したことに相当する。式(3)に示す展開が、光電変換素子に入射する光の振動数(波長といってもよい)ごとの展開ではなく、光電変換素子に入射する光の強度における振動数ごとの展開であることに注意されたい。なお、式(3)中、正弦関数に1を加えているのは、各瞬間のL(τ)≧0であることから和の各項が負とならないようにするためである。
式(3)を上述の式(2)に代入することにより、下記の式(4)が得られる。
Figure 0006887129
式(4)は、露光期間が長くなるに従って、電荷蓄積領域に蓄積される信号電荷の総量Qtが単調に増加することを示している。式(4)からわかるように、信号電荷の総量Qtは、照度Lの時間変化に関する情報を含んでいない。つまり、従来の撮像によっては、照度Lに関して、露光期間中の時間変化の情報を得ることはできない。
これに対し、本開示の少なくともいずれかの実施形態によれば、以下に詳細に説明するように、例えば、照度Lの露光期間中の時間変化のうち、特定の振動数成分を抽出することが可能である。
図6は、照度Lの露光期間中の時間変化からの特定の振動数成分の抽出を説明するための模式図である。図6中、一番上のグラフは、撮像セル10の光電変換部12に入射する光量の時間的な変化の例を示し、中央のグラフは、撮像セル10における感度の変調の一例を示している。一番下のグラフは、撮像セル10の電荷蓄積領域に蓄積される信号電荷の時間的な変化を模式的に示している。
上述したように、撮像装置100においては、感度制御線82に印加される感度制御信号を用いて、露光期間中の各撮像セル10の感度を制御することが可能である。したがって、例えば、周期的に変動する電圧を感度制御信号として感度制御線82に印加することにより、各撮像セル10の感度を所望の周期で変化させることが可能である。例えば、振動数ωjで振動する電圧信号を感度制御線82に印加することにより、下記の式(5)に示すように、撮像セル10における感度Sを周期的に変化させることが可能である。
Figure 0006887129
式(5)中、第1項のS0は、感度における振幅を表し、第2項のSgは、感度が負とならないように(S(τ)≧0の条件を満たすように)付加した定数項である。この式(5)と、上述の式(3)とを式(1)に適用することより、露光期間に電荷蓄積領域に蓄積される信号電荷の総量Qtを表す式として、下記の式(6)が得られる。
Figure 0006887129
式(6)において、被積分関数中のcos(ωm+ωs)τ、sin(ωm+ωs)τ、cosωmτ、sinωmτ、cosωsτおよびsinωsτに比例する各項に関しては、積分を行っても正弦関数または余弦関数となり、露光期間の長さであるTを増大させても一定範囲で振動するだけであり、増大を示さない。また、cos(ωm−ωs)τに比例する項およびsin(ωm−ωs)τに比例する項のうち、ωm≠ωsである項に関しても同様であり、露光期間を増大させても一定範囲で振動するだけである。これに対し、cos(ωm−ωs)τに比例する項のうち、ωm=ωs(すなわち、m=s)の項、ならびに、Lmgに比例する項のτに関する積分値は、露光期間の増大に対して単調に増加する。したがって、露光期間が十分に長ければ、Tに比例する項の影響が支配的となり、結局、信号電荷の総量Qtを表す式として、下記の式(7)を得る。
Figure 0006887129
式(7)に示すように、Qtの表式の第1項は、振動数ωsに対応する振幅Lsを含んでいる。すなわち、露光期間中の照度の変化を示すL(τ)を構成する成分のうちから、特定の振動数(ここではωs)で変動する振幅を有する成分に関する情報が得られている。換言すれば、撮像セル10における感度Sを特定の振動数で周期的に変化させることにより、被写体の輝度の変化のうち、特定の振動数に対応した量の信号電荷を電荷蓄積領域に蓄積することが可能である。
(オフセットのキャンセル)
式(7)中の第2項は、照度Lおよび感度Sが負の値をとらないことに起因してオフセットが生じることを示している。このオフセットは、式(7)で示される信号電荷量に対応する画像信号から、第2項に示される信号電荷量に対応する画像信号を減算することによってキャンセルすることができる。
例えば、露光期間において感度Sを変化させながら第1の撮影を行い、第1の撮影とは感度Sの位相を変えて第2の撮影を行い、第1の撮影によって得られる画像信号と、第2の撮影によって得られる画像信号との差分を取得してもよい。式(7)を参照すればわかるように、この例では、信号電荷量Qtは、照度L(τ)のs番目の振動成分における位相θsと、感度S(τ)における位相θとが等しいときに最大値QtMをとり、位相θsとθとの差がπ(または−π)であるときに最小値Qtmをとる。最大値QtMおよび最小値Qtmは、それぞれ、下記の式(8)および式(9)によって表される。
Figure 0006887129
Figure 0006887129
最大値QtMおよび最小値Qtmの差分を求めることにより、オフセットの項CSgΣLm・Tをキャンセルすることができる。なお、オフセットの項のキャンセルにおいて、最大値QtMおよび最小値Qtmを用いることは必須ではなく、互いに位相の異なる感度S(τ)を用いれば、同様にしてオフセットの項をキャンセルすることが可能である。
図7〜図10は、撮像セル10の感度を周期的に変化させながら、輝度に周期的な変化
を有する被写体を撮影することによって得られた画像の例を示す。ここでは、駆動電圧が正弦関数的に変化させられたLEDから発せられた光で被写体を照射することにより、被写体の輝度に周期的な変化を与え、透明電極12cに印加するバイアス電圧(感度調整信号)を3kHzの周期で正弦関数的に変化させることにより、撮像セル10の感度を3kHzの周期で変化させている。いずれも、撮影における露光期間は、およそ20m秒(ミリ秒)としている。
図7および図8に示す画像は、LEDに供給する駆動電圧を3kHzの周期で変化させたときの画像である。換言すれば、輝度が3kHzの周期で変化する被写体を、感度が3kHzの周期で変化する撮像セル10を用いて撮影することによって得られた画像である。図7は、LEDの駆動電圧の周期的な変化における位相と、透明電極12cに印加されるバイアス電圧の周期的な変化における位相とを一致させたときの画像を示す。図7から、LEDによる照明の周期的な変化における位相、すなわち、被写体の輝度の周期的な変化における位相と、撮像セル10の感度の周期的な変化における位相とが一致している場合には、明瞭な画像が得られることがわかる。
図8は、LEDの駆動電圧の周期的な変化における位相と、透明電極に印加されるバイアス電圧の周期的な変化における位相との間に半周期の差を与えたときの画像を示す。図8に示すように、LEDの駆動電圧の周期的な変化と、透明電極12cに印加されるバイアス電圧の周期的な変化との間の位相差がπである場合、全体的に明度の低い画像が得られる。
このように、LEDによる照明の周期、すなわち、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが一致している場合には、被写体の輝度の周期的な変化と、撮像セル10の感度の周期的な変化との間の位相差に応じて、得られる画像の明度に明確な変化が現れる。理想的には、位相差がπの場合、画像の明度が0となるはずである。しかしながら、図8からわかるように、位相差がπであっても、不明瞭ではあるものの被写体の像が確認できる。これは、上述のオフセットの影響である。
このオフセットは、LEDの駆動電圧の周期的な変化における位相と、透明電極12cに印加されるバイアス電圧の周期的な変化における位相とを一致させた場合に得られる画像(図7参照)にも含まれている。したがって、図7に示す画像に対応する画像信号から、図8に示す画像に対応する画像信号を減算すれば、このオフセットをキャンセルすることができる。つまり、例えば以下の手順によって、明度における余分なオフセットをキャンセルし得る。
まず、撮像装置100における撮像面を被写体に向ける。換言すれば、撮像セル10における光電変換層12bの透明電極12c側の表面を被写体に向ける。撮像セル10のリセット後、露光期間において、正の値をとる関数によって表される波形を有する感度制御信号を感度制御線82を介して撮像セル10に印加することによって撮像セル10における感度を変化させながら第1の撮影を実行して第1の画像信号を取得する。感度制御信号の波形を表す関数は、例えば周期関数であり得る。この場合、撮像セル10の感度は、周期的に変化する。なお、撮像セル10のリセットの実行は、撮像装置100の撮像面を被写体に向ける前であってもよい。
さらに、第1の撮影における波形とは異なる波形の感度制御信号を感度制御線82を介して撮像セル10に印加して撮像セル10における感度を変化させながら第2の撮影を実行し、第2の画像信号を取得する。第2の撮影に用いる感度制御信号の波形を表す関数は、例えば、第1の撮影に用いる感度制御信号の波形を表す関数を時間的にシフトさせた関数である。第1の撮影に用いる感度制御信号の波形を表す関数が周期関数であれば、第2の撮影に用いる感度制御信号の波形を表す関数は、第1の撮影に用いる感度制御信号の波形を表す関数の位相を変えた関数である。後述するように、これらの関数の間の位相差は、πに限定されない。
第1の画像信号および第2の画像信号の差分を算出し、この差分に基づいて画像を形成することにより、明度における余分なオフセットがキャンセルされた画像が得られる。第2の撮影は、例えば、第1の撮影の後に実行される。すなわち、第1の撮影後に再び撮像セル10をリセットし、その後、第2の撮影を実行してもよい。後述するように、第1の撮影と第2の撮影とが同時に実行されてもよい。
ここで、図11を参照する。図11は、被写体の輝度の周期的な変化および撮像セル10の感度の周期的な変化の間の位相差Δθと、電荷蓄積領域に蓄積された平均電荷数Nとの間の関係の例を示す。図11中、黒丸「●」のプロットは、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが一致している場合の計測結果を示しており、図7および図8を参照して説明した撮影に対応する。図7を参照して説明した例は、LEDの駆動電圧の周期的な変化における位相と、透明電極12cに印加されるバイアス電圧の周期的な変化における位相とを一致させたときの画像であるから、Δθ=0におけるプロットに対応する。他方、図8を参照して説明した例は、LEDの駆動電圧の周期的な変化における位相と、透明電極に印加されるバイアス電圧の周期的な変化における位相との間に半周期の差を与えたときの画像であるから、Δθ=−πまたはΔθ=πにおけるプロットに対応する。
図11から、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが一致している場合、平均電荷数Nは、位相差Δθに関して強い依存性を示すことがわかる。このとき、画像信号のレベルは、オフセットに対応するあるレベルよりも常に高く、この例では、Δθ=0のときに最も高い信号レベルが得られている。位相差Δθを変えた撮影数は、2回に限定されず、3回以上の撮影を行ってもよい。例えば、位相差Δθを変えて3回以上の撮影を行い、平均電荷数Nが最大となるような位相差ΔθMおよび平均電荷数Nが最小となるような位相差Δθmを回帰分析などによって求め、位相差ΔθMおよびΔθmに対応する画像信号に基づいて、オフセットのキャンセルされた画像を形成してもよい。
明度の高い画像を得る観点からは、第1の撮影における感度の変化を、被写体の輝度の変化の周期に同期させるとよい。しかしながら、被写体の輝度の周期的な変化における位相と、撮像セル10の感度の周期的な変化における位相とを必ずしも一致させる必要はない。オフセットに対応するレベルよりも有意に高い信号レベルが得られれば、その信号レベルに基づいて画像を形成することが可能である。つまり、第1の撮影における感度の変化を、被写体の輝度の変化の周期に同期させた場合には、第2の撮影を省略し得る。
図12は、平均電荷数Nにおける位相差Δθに関する依存性と、露光期間Tの長さとの間の関係の典型例を示す。図12中の各プロットは、露光期間Tを1msec、2msec、5msec、10msec、20msec、50msecおよび100msecとしたときの、平均電荷数Nと位相差Δθとの間の関係を示している。図12に示すように、露光期間Tが長くなるほど、平均電荷数Nにおいて、位相差Δθに関する依存性がより強く現れることがわかる。これは、露光期間が長くなるほど、感度の変化を示す波形および照度の変化を示す波形におけるサイクルが露光期間により多く含まれるようになり、信号電荷の総量Qtを表す式中のTに比例する項の影響が大きくなるからである。図12からわかるように、オフセットに対応するレベルよりも有意に高い信号レベルを得る観点からは、露光期間が長い方が有利である。例えば、十分に長い露光期間を適用することにより、第2の撮影を省略し得る。ただし、位相を変えて第1および第2の撮影を行うことにより、第1の撮影において十分に高い信号レベルが得られなかった場合に、位相差Δθが偶然πに近かったために画像が暗かったのか、あるいは、撮像セル10に対する照度が低かったのかを区別することが可能である。
本開示の実施形態による撮像装置によれば、感度変調における位相(θ、式(5)参照)を電気的に容易に変更可能であるので、位相差Δθを容易に調整し得る。撮影に先立ち、キャリブレーションの一部として位相差Δθの調整を実行してもよい。
図9および図10を参照する。図9および図10に示す画像は、LEDに供給する駆動電圧を2kHzの周期で変化させたときの画像である。つまり、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが一致していないときに得られる画像の例である。図9は、LEDの駆動電圧の周期的な変化における位相と、透明電極12cに印加されるバイアス電圧の周期的な変化における位相とを一致させたときの画像であり(Δθ=0)、図10は、LEDの駆動電圧の周期的な変化における位相と、透明電極12cに印加されるバイアス電圧の周期的な変化における位相との間に半周期の差を与えたときの画像である(Δθ=−πまたはΔθ=π)。いずれも、オフセットに相当する明度が現れている。図9および図10から、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが一致していない場合には、これらにおける周期的な変化の間の位相差によらずに、全体的に明度の低い画像が得られることがわかる。
再び図11を参照する。図11中、黒い矩形「■」のプロットは、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期との間にずれが存在する場合の計測結果を示しており、図9および図10を参照して説明した撮影に対応する。被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが一致していない場合には、平均電荷数Nは、位相差Δθを変化させてもほとんど変化しない。すなわち、被写体の輝度の変化の周期と、撮像セル10の感度の変化の周期とが一致していない場合には、平均電荷数Nにおける、位相差Δθに関する依存性が弱いことがわかる。位相差Δθの変化に対する平均電荷数Nの変化が完全に一定にならない理由は、LEDの駆動電圧に対する出力の非線形性、透明電極12cへのバイアス電圧に対する、光電変換部12における外部量子効率の非線形性などの影響であると推測される。
図11において、黒丸「●」のプロットは、黒い矩形「■」のプロットが並ぶ、N=2800(ele)の付近よりも高い値を示していることから、被写体の輝度の変化の周期と異なる周期で撮像セル10の感度を変化させながら取得した画像信号を減算することによっても、上述のオフセットをキャンセルし得ることがわかる。すなわち、第1の撮影に用いる感度制御信号の波形を表す関数が周期関数である場合、第2の撮影に用いる感度制御信号の波形を表す関数として、第1の撮影に用いる感度制御信号の波形を表す関数の周期を変えた関数を用いることができる。
あるいは、感度Sを変化させながら第1の撮像を行い、感度Sを固定して第2の撮像を行ってもよい。すなわち、第2の撮像において感度制御線82を介して撮像セル10に供給する感度制御信号として、定数関数によって表される波形を有する信号を用いてもよい。上述した式(4)と、式(7)の第2項とを比較すればわかるように、第1の撮像におけるSgと同じ大きさの感度Sfを用いて第2の撮像を実行すれば、第2の撮像により、第1の撮像におけるオフセット分に相当する画像信号、換言すれば、明度における余分なオフセットをキャンセルするための画像信号が得られる。したがって、第1の撮像によって得られる画像信号と、第2の撮像によって得られる画像信号との差分を取得することにより、このようなオフセットの影響を除去することができる。
なお、位相差Δθを固定して考えた場合、被写体の輝度の変化における振動数と、撮像セル10の感度の変化における振動数との間の差Δωを横軸にとったときの平均電荷数Nのグラフは、複数のピークを示す。そのため、オフセットをキャンセルせずとも、平均電荷数Nのグラフが極大となるような感度変調の振動数を探すことは可能である。複数のピークのうち、最大のピークは、Δω=0におけるピークであり、露光期間を長くするほど、このピークは、鋭くなる。したがって、他の振動数成分の影響を低減しながら、特定の振動数成分に関する情報を選択的に取得したいといった場合には、露光期間を長くとることによってオフセットの影響を低減することが可能である。
上述の第1の撮影および第2の撮影は、例えば時間的に順次に実行される。第1の撮影および第2の撮影は、連続して実行される必要はなく、例えば、第1の撮影および第2の撮影の間に、第3の撮影を実行してもよい。第1の撮影および第2の撮影は、同時であってもよい。第1の撮影および第2の撮影を同時に実行すれば、明度における余分なオフセットをキャンセルするための画像信号をより高速に取得できる。例えば、撮像領域中の一部の撮像セル10を用いて第1の画像信号を取得し、第1の画像信号の取得と並行して、他の一部の撮像セル10を用いて第2の画像信号を取得してもよい。
図13は、複数の撮像セル10の間で異なる感度制御信号を印加可能な構成の例を示す。図13は、撮像領域を構成する複数の撮像セル10のうち、12個の撮像セル10を取り出して示している。ここでは、12個の撮像セル10は、3行4列のマトリクス状に配置されている。
図13に例示する構成において、撮像領域は、透明電極12cAを有する1以上の撮像セル10Aと、透明電極12cBを有する1以上の撮像セル10Bとを含む。この例では、透明電極12cAおよび透明電極12cBは、櫛歯状の形状を有しており、撮像セル10Aおよび撮像セル10Bは、それぞれ、マトリクス状の配置の偶数列および奇数列に位置している。図13において模式的に示すように、透明電極12cAおよび透明電極12cBには、電圧供給回路92Aに接続された感度制御線82Aおよび電圧供給回路92Bに接続された感度制御線82Bがそれぞれ接続されている。したがって、撮像セル10Aおよび撮像セル10Bに、異なる波形を有する感度調整信号を独立して印加することができる。
電圧供給回路92Aは、例えば、周期的な変化を示す第1の感度制御信号を生成する信号源である。感度制御線82Aは、撮像セル10Aの露光期間において、電圧供給回路92Aから供給される、周期的な変化を示す第1の感度制御信号を透明電極12cAに印加する。電圧供給回路92Bは、第1の感度制御信号とは異なる時間変化を示す波形を有する第2の感度制御信号を生成する信号源である。第2の感度制御信号も、第1の感度制御信号と同様に、周期的な変化を示す信号であり得る。このとき、感度制御線82Bは、電圧供給回路92Bから供給される、周期的な変化を示す第2の感度制御信号を透明電極12cBに印加する。第1の感度制御信号における振動数および位相がそれぞれω1、θ1、第2の感度制御信号における振動数および位相がそれぞれω2、θ2であるとすれば、ω1≠ω2またはθ1≠θ2である。例えば、第2の感度制御信号は、第1の感度制御信号の波形を時間的にシフトさせた波形を有する。
図13に例示する構成によれば、電圧供給回路92Aに接続された感度制御線82Aと、電圧供給回路92Bに接続された感度制御線82Bとが互いに独立しているので、互いに異なる感度制御信号を並行して撮像セル10Aおよび撮像セル10Bに印加することができる。換言すれば、共通の露光期間において、撮像セル10Aおよび撮像セル10Bの間で互いに異なる感度変調を適用することができる。
図13に例示する構成では、複数の撮像セル10の透明電極(透明電極12cAまたは透明電極12cB)に対向するようにして、カラーフィルタのアレイが配置されている。ここでは、複数の撮像セル10の1行目に、赤の波長域の光を透過するカラーフィルタ36Rが配置されており、2行目に、緑の波長域の光を透過するカラーフィルタ36Gが配置されている。3行目には、青の波長域の光を透過するカラーフィルタ36Bが配置されている。つまり、この例では、透過する波長域が共通するカラーフィルタを有する撮像セル10Aおよび撮像セル10Bが、複数の撮像セル10の行の延びる方向(行方向)に沿って隣接している。
図14は、図13に示す複数の撮像セル10のうちの一部の模式的な断面を示す。図14は、行方向に沿って互いに隣接する撮像セル10Aおよび撮像セル10Bの組のうち、カラーフィルタ36Rを有する撮像セル10Aおよび撮像セル10Bの組を取り出して示している。典型的には、互いに隣接するカラーフィルタ間には、ブラックマスク(グリッド状の遮光層)が配置される。ただし、透過する波長域が共通であれば、図14に示すように、カラーフィルタ間のブラックマスクを省略し得る。
図14に例示する構成では、撮像セル10Aは、画素電極12aA、光電変換層12bAおよび透明電極12cAを含む光電変換部12Aを有する。同様に、撮像セル10Bは、画素電極12aB、光電変換層12bBおよび透明電極12cBを含む光電変換部12Bを有する。ここでは、感度制御線82Aとの接続を有する透明電極12cAおよび感度制御線82Bとの接続を有する透明電極12cBは、空間的に分離されることにより、電気的に分離されている。なお、この例では、光電変換部12Aの光電変換層12bAおよび光電変換部12Bの光電変換層12bBは、連続した単一の層である。撮像セル10Aおよび撮像セル10Bの間において連続した単一の層の形で光電変換層を形成することにより、製造工程の複雑化を回避し得る。
図14において模式的に示すように、撮像セル10Aの画素電極12aAおよび撮像セル10Bの画素電極12aBの各々は、対応する信号検出トランジスタ22のゲートに電気的に接続されている。つまり、撮像領域を構成する撮像セル10は、各々が信号検出トランジスタ22を含む単位構造ということができる。典型的には、撮像領域は、複数の撮像セル10の繰り返し構造を有する。
画像の取得においては、撮像セル10Aによって得られる画像信号および撮像セル10Bによって得られる画像信号のいずれか一方を、オフセット除去のための信号として利用する。例えば、撮像セル10Aおよび撮像セル10Bのリセットの実行後、第1の感度制御信号を用いて、感度を時間的に変化させながら撮像セル10Aにおける信号電荷の蓄積を実行する(第1の撮影)。撮像セル10Aにおける信号電荷の蓄積と並行して、第1の感度制御信号とは波形の異なる第2の感度制御信号を用いて、感度を時間的に変化させながら撮像セル10Bにおける信号電荷の蓄積を実行する(第2の撮影)。撮像セル10Aおよび撮像セル10Bの出力の差分を算出することにより、オフセットの影響が除去された画像信号が得られる。すなわち、第1の撮影と第2の撮影とを時間順次で実行する場合と比較して、より短い時間でオフセット除去のための画像信号を得ることができる。
このように、画素アレイPA中の一部の撮像セル(ここでは撮像セル10A)における第1の感度を変えながら露光を行い、他の撮像セル(ここでは撮像セル10B)において、第1の感度の変調とは異なる感度変調のもとで露光を行ってもよい。例えば、複数の撮像セル10Aの間で透明電極12cAを電気的に接続しておくことにより、共通の第1の感度制御信号を用いて、これらの撮像セル10Aの感度を一括して変調できる。露光期間における感度の変調が共通とされた撮像セル10Aは、いずれも、被写体の輝度の時間的な変化のうち、特定の成分に関する情報を抽出する。すなわち、撮像セル10Aの出力信号に基づいて、特定の成分に関する2次元(または1次元)の画像を構築することができる。
図13および図14に示す構成では、行方向に沿って隣接する撮像セル10Aおよび撮像セル10Bの組の出力が、最終的に得られる画像中のある画素の輝度値の決定に利用される。したがって、最終的に得られる画像の行方向における画素数は、撮像領域において行方向に沿って配置された撮像セル10の数の半分である。カラーフィルタの配置、各撮像セルの受光領域の形状は、図13に示す例に限定されず、任意に設定可能である。
図15および図16は、複数の撮像セル10の間で異なる感度制御信号を印加可能な構成の他の例を示す。信号源としての電圧供給回路92Cを共通とし、電圧供給回路92Cと感度制御線82Aとの間、または、電圧供給回路92Cと感度制御線82Bとの間のいずれかに移相器を接続してもよい。図15に示す例では、電圧供給回路92Cと感度制御線82Bとの間に移相器93が接続されている。移相器93は、電圧供給回路92Cから供給される信号の位相をシフトさせる。このような構成によれば、信号源の数を低減できる。
図16に示すように、電圧供給回路92Aおよび電圧供給回路92Bの一方を直流信号源92Dに置き換えてもよい。このような構成によっても同様に、オフセット除去のための画像信号を得ることが可能である。このように、複数の撮像セル10を互いに電気的に分離された透明電極ごとにグルーピングした構成を採用してもよい。
(一般化)
上述の例では、照度L(τ)が、振幅がωmの振動数で変化する光の重ねあわせによって表現可能であると仮定している。厳密には、光電変換部12に入射する光が、振動数ωmで振幅が変化するような光の重ねあわせであるとは限らない。しかしながら、後述するように、被写体に向けて光を照射することによって、被写体に積極的に輝度の変化を生じさせることが可能であり、例えば周期的に強度が変化するような光を被写体に照射すれば、被写体表面で反射した光に周期的な変化を生じさせ得る。すなわち、周期Tの周期関数によって表現されるような照度の変化を実現し得る。
露光期間において照度L(τ)が周期関数で表現される場合、L(τ)をフーリエ級数展開することが可能である。すなわち、閉区間[0,T]においてL(τ)を関数系{1,cosω1τ,sinω1τ,cosω2τ,sinω2τ,…,cosωmτ,sinωmτ,…}によって展開することができる。このとき、感度S(τ)の波形として、任意の振動数の正弦関数または余弦関数に定数を加えた、正の値をとる関数を選択すれば、照度L(τ)のうち、振幅がその振動数で振動する成分を抽出することができる。これは、複数の原因によって被写体の輝度に時間的な変化が生じている場合であっても、複数の原因のうちの1つに起因する、露光時間内の輝度変化を選択的に抽出できることを意味する。
例えば、強度が3kHzの振動数で正弦的に変化する第1の光源と、強度が2kHzの振動数で正弦的に変化する第2の光源とによって被写体が照明されている場合、被写体の輝度の変化は、3kHzの振動数で変化する第1の成分と、2kHzの振動数で変化する第2の成分とを含む。感度制御信号における振動数は、撮像装置100のユーザが任意に選択することが可能であり、例えば、感度制御信号の信号レベルを3kHzの振動数で正弦的に変化させれば、被写体を第1の光源だけで照明したときに得られる画像と同様の画像が得られる。感度制御信号の信号レベルの変化における振動数を2kHzとすれば、被写体を第2の光源だけで照明したときに得られる画像と同様の画像が得られる。つまり、例えば空間的に離れた位置に配置された複数の光源によって被写体が照明されている場合であっても、各光源から放射される光の強度の変調における振動数を互いに異ならせておけば、ある特定の光源だけで被写体を照明したときに得られる画像と同様の画像が得られる。このように、本開示の実施形態によれば、複数の光源によって被写体が照明されている場合であっても、輝度の時間的な変化における各振動数成分を分離して抽出することができる。これは、露光期間を単純に短縮することによっては得られない効果である。
照度の時間的変化からの、特定の振動数で振幅が振動する成分の抽出は、フーリエ級数展開におけるフーリエ係数の算出に対応する。上述の式(6)の被積分関数において、cos(ωm−ωs)τに比例する項のうち、ωm=ωsの項は、露光時間の増大に対して単調に増加する。これに対し、cos(ωm−ωs)τに比例する項およびsin(ωm−ωs)τに比例する項のうち、ωm≠ωsである項は、露光時間を増大させても一定範囲で振動するだけである。これは、三角関数の直交性の一側面の現れである。このことから、三角関数に代えて、直交関数を用いても同様の結果が得られるといえる。すなわち、露光期間において撮像セル10に供給する感度制御信号として、直交系をなす関数系の基底のうちの1つに定数を加えた、正の値をとる関数によって表される波形を有する信号を適用し得る。なお、本明細書における「基底」は、直交系をなす関数系の各要素を指す。本明細書における「直交系」には、直交多項式系も含まれる。
すなわち、上述の議論は、周期関数以外の関数にも一般化し得る。特に、閉区間を適切に選べば、任意の関数を、完全系をなす関数系{ψn(τ)}によって展開可能であることが知られている(nは0以上の整数)。完全系をなす関数系であれば、適当な線形結合により、互いに直交する基底を選び、完全直交系{φn(τ)}を構成することができる。つまり、完全直交系をなす関数系の基底のうちの1つに定数を加えた、正の値をとる関数によって表される波形を有する信号を感度制御信号として用い得る。上述の関数系{1,cosω1τ,sinω1τ,cosω2τ,sinω2τ,…}は、完全直交系の一例である。
図5および図6を参照して説明したように、照度L(τ)の波形は一般に不規則な形状を有している。しかしながら、区間[0,T]において、照度L(τ)を何らかの完全直交系によって記述できると考えられる。すなわち、以下の式(10)に示すように、関数系{φn(τ)}を用いてL(τ)を展開し得る。式(10)中、a0,a1,a2,…は、展開の係数である。
Figure 0006887129
式(10)に示す展開を、信号電荷の総量Qtの式(1)に代入すると、以下の式(1
1)を得る。
Figure 0006887129
ここで、完全直交系{φn(τ)}の基底のいずれか、例えばφs(τ)と同様の波形を有する感度制御信号を用いて、露光期間中の撮像セル10の感度を変調した場合を想定する。つまり、式(11)中の感度S(τ)として、φs(τ)を用いる場合を想定する。式(1)の右辺が、関数L(τ)およびS(τ)の内積<L,S>の形となっていることに着目すれば、各基底の直交性から、φs(τ)同士の内積だけが残り、結局、以下の式(12)を得る。
Figure 0006887129
すなわち、s番目の展開係数asを抽出することができる。このことは、感度S(τ)として、完全直交系をなす関数系の基底を用いることにより、露光期間内の照度L(τ)の変化から、その基底に対応した成分に関する情報を抽出できることを意味している。換言すれば、被写体の輝度の時間的変化が周期的でない場合であっても、被写体の輝度の時間的変化から、特定の成分に関する情報を抽出することが可能である。
ただし、現実には、完全直交系{φn(τ)}の基底が閉区間[0,T]において負の値をとり得ることに対し、感度S(τ)が負の値をとらないことから、S(τ)として完全直交系{φn(τ)}の基底をそのまま適用することはできない。そのため、閉区間[0,T]においてS(τ)≧0の条件を満たすように、関数χn(τ)=φn(τ)+χ0を定義し、このχn(τ)をS(τ)として用いる。ここで、χ0は、閉区間[0,T]においてχn(τ)≧0となるように選んだ適当な定数である。
新たに定義した関数χn(τ)を式(11)のS(τ)に適用すれば、下記の式(13)が得られる。
Figure 0006887129
上記の式(13)中のQ0は、下記の式(14)によって計算される定数であり、上述のオフセットに相当する。
Figure 0006887129
既に説明したように、このオフセットは、例えば、露光期間において感度S(τ)を一定とした第2の撮影によって得られる画像信号を差し引くことによってキャンセルすることができる。あるいは、S(τ)が周期関数であれば、S(τ)の位相または周期を変えて2種類の画像信号を取得し、これらの差分を求めてもよい。
このように、露光期間において撮像セル10に供給する感度制御信号を表す関数は、三角関数に定数を加えた、正の値をとる関数に限定されず、直交系をなす関数系の基底のうちの1つに定数を加えた、正の値をとる関数であればよい。後述するように、直交系をなす関数系として、例えばウォルシュ関数系などを用いることも可能である。特に、直交系をなす関数系として完全直交系を選択すれば、照度の時間的変化を表す関数L(τ)が周期関数であるか否かによらずに、L(τ)を構成する成分のうちから、特定の成分に関する情報を抽出することができる。関数L(τ)が周期関数であれば、式(5)を用いて説明したように、例えば、正弦関数(または余弦関数)に定数を加えた、正の値をとる関数を用いればよい。この場合は、露光期間中の照度の変化を示すL(τ)を構成する成分のうちから、振幅が特定の振動数で変化する成分に関する情報が抽出される。
(撮像セルの変形例)
撮像セルの感度に変調を与える構成は、上述した例に限定されない。図17は、感度の変調が可能な撮像セルの回路構成の例を示す。図17に示す撮像セル50は、感度制御線82に接続された増幅器52を含む信号検出回路14Gを有する。図17に例示する構成において、増幅器52は、光電変換部12と信号検出トランジスタ22の入力との間に接続されている。増幅器52は、例えば可変ゲインアンプであり、感度制御線82は、可変ゲインアンプのゲイン制御端子に接続される。なお、この例では、光電変換部12に電圧線81が接続されている。電圧線81は、透明電極12c(図17において不図示)に接続されており、撮像装置100の動作時、透明電極12cに所定のバイアス電圧を供給する。このバイアス電圧は、典型的には、固定された電圧である。
このような構成によれば、増幅器52における増幅率を、感度調整信号の波形に応じて時間的に変化させ得る。換言すれば、撮像セル50の感度を露光期間において変化させることが可能である。増幅器52の増幅率の露光期間における変化の波形は、例えば、直交系をなす関数系の基底のうちの1つに定数を加えた、正の値をとる関数によって表される。
図18は、感度の変調が可能な撮像セルの回路構成の他の例を示す。図18に示す撮像セル60は、感度制御線82に接続された切り替え回路62と、電荷排出領域DPとを含む信号検出回路14Dを有する。図示するように、切り替え回路62は、光電変換部12と、電荷蓄積ノードFDおよび電荷排出領域DPとの間に接続されている。切り替え回路62は、例えば電界効果トランジスタなどのスイッチング素子を含み、感度制御線82に印加される感度制御信号に基づいて、光電変換部12を電荷蓄積ノードFDおよび電荷排出領域DPのいずれに接続するかを切り替える。
電荷排出領域DPは、例えば半導体基板20に形成された不純物領域であり、その電位は、典型的には接地電位である。光電変換部12が電荷排出領域DPに接続されると、光電変換部12によって生成された信号電荷は、切り替え回路62を介して電荷排出領域DPに排出される。したがって、感度制御信号を用いて、例えば露光期間の一部において光電変換部12を電荷蓄積ノードFDに接続して信号電荷の蓄積を行い、露光期間の残余の期間において光電変換部12を電荷排出領域DPに接続し、信号電荷を排出してもよい。図17および図18に示す構成例では、光電変換部12として、一般的なフォトダイオードも用いることが可能である。
あるいは、光電変換部12として、アバランシェフォトダイオードを用いてもよい。図19は、光電変換部12にアバランシェフォトダイオードが適用された回路の例を示す。図19に示す撮像セル70の光電変換部12Pは、感度制御線82に接続された電極を有するアバランシェフォトダイオード72を含んでいる。
アバランシェフォトダイオード72におけるアバランシェ増倍の程度は、アバランシェフォトダイオード72に印加されるバイアス電圧に依存する。したがって、感度制御線82を介してアバランシェフォトダイオード72に印加するバイアス電圧を変化させることにより、撮像セル70における感度を電気的に制御することが可能である。
図17〜図19を参照して説明した構成によっても、感度制御信号を用いて撮像セルの感度に変調を与えることが可能である。このように、露光期間において撮像セルの感度を時間的に変化させる方法および機構は、特定の方法および機構に限定されない。ただし、配線の寄生容量に起因する信号遅延の影響などを考慮すると、複数の撮像セルにおける感度を一括して変化させる観点からは、図3を参照して説明したような、サンドイッチ構造を有する光電変換部12の方が有利である。
(第2の実施形態)
以上に説明したように、被写体の輝度がある規則に従って変化するような場合、その規則に関連を有する規則に従って撮像セルの感度を露光期間において変化させることにより、被写体の輝度の時間的変化から、特定の成分に関する情報を抽出することが可能である。例えば、被写体の輝度の変化が、ある振動数で変化する成分を含むとき、撮像セルの感度の変調における振動数をその振動数に一致させることにより、その振動数で強度が変化する光で選択的に被写体を照射したときと同様の画像が得られる。
さらに、以下に説明するように、照明装置を用いて被写体を光で照射することにより、被写体の輝度に積極的に変化を生じさせてもよい。照明装置を用いた撮像システムを構築することにより、種々の応用が可能である。
(分光イメージングシステム)
例えば、撮像装置100と、強度が時間的に変化する光を発する照明装置とを用いて、分光イメージングシステムを実現し得る。本開示の撮像システムの有利な点の理解を容易とするために、まず、従来のフーリエ変換型赤外分光光度計の構成および動作を説明する。
図20は、従来のフーリエ変換型赤外分光光度計の構成の概略を示す。図20に示す赤外分光光度計500は、その一部に干渉計240を含む。具体的には、赤外分光光度計500は、赤外光源552と、ビームスプリッタ244と、固定鏡246と、移動鏡248と、検出器560とを有する。赤外光源552から発せられた光の一部は、固定鏡246において反射され、他の一部は、移動鏡248によって反射される。固定鏡246によって反射された光および移動鏡248によって反射された光は、ビームスプリッタ244によって合成され、干渉光が形成される。干渉光は、ビームスプリッタ244および検出器560の間に配置された測定対象SPに入射する。測定対象SPからの透過光が検出器560に入射する。
図20において両矢印MVで示すように移動鏡248を図中の左右に移動させることにより、固定鏡246からの反射光と、移動鏡248からの反射光との間に周期的に変化する位相差を生じさせることができる。位相差が時間的に変化する干渉光を測定対象SPに照射し、透過光を検出器560によって検出することにより、インターフェログラムが得られる。コンピュータにより、このインターフェログラムにフーリエ変換処理を施すことにより、横軸に波数をとった、透過光の赤外スペクトルが得られる。
図21は、本開示の実施形態による撮像システムを用いた分光イメージングシステムの例を模式的に示す。図21に示す分光イメージングシステム200は、概略的には、図20に示す赤外分光光度計における赤外光源552および検出器560を、それぞれ、光源252および上述の撮像装置100に置き換えた構成を有する。
光源252としては、例えば白色光源を用いることができる。光源252から出射された光から干渉光を形成する点は、上述の赤外分光光度計500と同様である。ここでは、移動鏡248の位置を正弦的に振動させる。移動鏡248の位置を正弦的に変化させることにより、強度において正弦的な波形を有する干渉光を形成することができる。つまり、測定対象SPには、強度が時間的に変化する光が入射する。したがって、図21に例示する構成において、光源252および干渉計240の全体を、強度が時間的に変化する光を被写体(ここでは測定対象SP)に放射する照明装置250とみなすことができる。
光源252からの出射光が様々な波長の光を含むことから、干渉光は、強度の変化における振動数が異なる光の重ね合わせとなる。つまり、移動鏡248の物理的振動によって、波長ごとに、異なる振動数で強度に変調を与えることができる。図22は、移動鏡248の物理的な振幅の2倍に等しい波長を有する光から形成される干渉光の波形を示し、図23は、移動鏡248の物理的な振幅の4倍の波長を有する光から形成される干渉光の波形を示す。図22および図23に示すグラフの横軸および縦軸は、いずれも、時間tおよび干渉光の強度Iをそれぞれ示している。図22および図23からわかるように、この例では、照明装置250から照射される光の強度の変化は、周期的である。
干渉計240によって形成された干渉光が、測定対象SPに入射する。測定対象SPと撮像装置100との間に配置された光学系254は、測定対象SPを透過した光による像を撮像装置100の撮像面上に形成する。撮像装置100は、測定対象SPからの光を検出する。換言すれば、撮像装置100における光電変換部12は、測定対象SPからの光(ここでは透過光)を受けて信号電荷を生成する。
ここで、撮像装置100の撮像セル10の感度を正弦的に変化させて撮像を実行する。上述した原理から、撮像セル10の感度を正弦的に変化させることにより、透過光から、感度変調における振動数と同じ振動数を有する成分が抽出される。換言すれば、感度変調における振動数と同じ振動数成分に対応した画像信号を取得することができる。感度変調における振動数を変更すれば、変更後の振動数と同じ振動数成分に対応した画像信号を取得することができる。ここでは、透過光の強度の変化における振動数と透過光の波長とが1対1に対応しているので、感度変調における振動数を切り替えることにより、振動数に対応した波長に関する画像信号を取得することができる。
これは、分光イメージングシステム200によれば、撮像セル10に供給する感度制御信号の波形を変えることによって、コンピュータによる計算を行うことなく、フーリエ変換によって得られるデータと同様のデータが得られることを意味している。分光イメージングシステム200によれば、アナログ的な変調により、フーリエ変換を実行したことと同様の結果が各撮像セル10から自動的に出力される。つまり、コンピュータによる計算処理が不要であり、フーリエ変換によって得られるデータと同様のデータをリアルタイムで取得することができる。
しかも、分光イメージングシステム200によれば、感度変調における振動数と同じ振動数成分に対応した画像信号を複数の撮像セル10において一括して取得することが可能である。つまり、波長ごとに2次元の画像を取得することができる。撮像装置100における撮像セル10の数は、数10万から数百万以上とすることも可能である。このように、分光イメージングシステム200によれば、感度変調における振動数を変更することにより、特定波長に関する画像を容易に得ることが可能である。分光イメージングシステム200では、測定を行いたい波長の画像を選択的に得られるので、あらゆる波長に関して撮影を実行する必要がなく、分析に要する時間を短縮することが可能である。仮に、従来の赤外分光光度計500を用いた分析と同様の数の波長に関して画像を取得するとしても、必要な画像データの数は、たかだか数百程度であり、従来と比較して分析に要する時間を短縮することが可能である。なお、各画像の取得においては、各撮像セル10の間で信号電荷の蓄積の開始のタイミングと、蓄積の終了のタイミングとを揃える、いわゆるグローバルシャッタを適用すればよい。
分光イメージングシステム200によれば、アナログ的な変調により、フーリエ変換を実行したことと同様の結果が各撮像セル10から自動的に出力されるので、同時に測定できる点の数が1つであり、かつ、1回の測定に数十秒の時間を要する従来の赤外分光光度計500と比較して試料の分析に有利である。また、コンピュータによる計算処理が不要であるので、従来の赤外分光光度計500ではインターフェログラムを保持可能なメモリを要することに対し、分光イメージングシステム200では一般的なデジタルカメラと同様のメモリを使用できるので、大きなメモリ量は必要とされない。さらに、従来の赤外分光光度計500と異なり、動画の撮影も可能である。
上述の説明から明らかなように、分光イメージングシステム200では、撮像セル10における感度変調を事後的に電気的に制御できるので、カラーフィルタも分光器も不要としながら、測定を行いたい波長に応じた撮影が可能である。カラーフィルタが不要であるので、測定を行いたい波長が増えても解像度を低下させる必要がない。また、撮像装置100の製造の時点でカラーフィルタの特性を決定する必要もない。分光イメージングシステム200では、回折格子、プリズムなどを含む分光器が不要であるので、小型化が比較的容易であり、例えば、顕微鏡に取り付け可能なアタッチメントの形で分光イメージングシステム200を実現することも不可能ではない。
図21に例示するように、分光イメージングシステム200は、被写体に向けて放射される光の強度の変化と、撮像装置100の各撮像セル10に供給される感度制御信号とを同期させる同期化回路256を有し得る。同期化回路256は、例えば、照明装置の光源に供給される駆動信号と、撮像装置100の各撮像セル10に供給される感度制御信号とを同期させる。この例では、同期化回路256は、移動鏡248の駆動機構および撮像装置100に対して制御信号を供給することにより、感度制御信号を光の強度の時間的変化に同期させる。これにより、被写体の輝度の時間的変化における位相と、撮像セル10の感度の時間的変化における位相とを揃えることが可能である。同期化回路256は、撮像装置100または照明装置250の一部であってもよい。撮像装置100と照明装置250との間で撮像セル10の駆動信号および照明装置250の駆動信号(この例では移動鏡248の駆動機構に対する駆動信号)を共有するような構成も採用可能である。撮像セル10の駆動信号および照明装置250の駆動信号を同期させるための信号を撮像装置100および照明装置250の一方で生成し、他方に供給してもよい。
図21においては、干渉計240としてマイケルソン型干渉計を例示したが、ファブリペロ型、マッハチェンダー型などの干渉計を用いてもよい。また、光源252に代えて、複数の単色性の光源(発光ダイオード(LED)など)を用いてもよい。図24は、複数の単色性の光源が適用された照明装置250Pを有する分光イメージングシステム200Pの構成の例を示す。図24に示す分光イメージングシステム200Pは、単色性の光源252Pおよび252Qを有する。光源252Pおよび252Qとしては、出射光の波長が互いに異なる光源を選択すればよい。照明装置250P中の光源の数は、測定を行いたい波長の数に応じて適宜変更すればよい。
このように、撮影に先立ち、強度が時間的に変化する光で被写体を照射してもよい。図21〜図24を参照して説明した例では、波長が互いに異なる光に対して互いに異なる振動数の変調が与えられる。しかしながら、この例に限定されず、例えば互いに異なる偏光に対して互いに異なる振動数の変調を与えてもよい。互いに異なる偏光に対して互いに異なる振動数の変調を与えることにより、偏光に対する被写体の反射特性に関する情報を取得可能な観察システムを構築することが可能である。
(腫瘍観察システム)
腫瘍に特異的に蓄積される蛍光色素分子を利用して腫瘍の位置を特定する蛍光診断が知られている。蛍光診断においては、患者に5−アミノレブリン酸(5-ALA)を投与し、施術を行うとする部位を励起光で照射する。5−アミノレブリン酸は、腫瘍に特異的に蓄積されるので、5−アミノレブリン酸から発せられる蛍光を標識として、腫瘍の形状および位置を特定することができる。しかしながら、この蛍光があまり強くないために、蛍光を観察するには、周囲の照明を落とす必要がある。
図25は、本開示の実施形態による撮像システムを腫瘍観察システムに適用した例を示す。図25に示す腫瘍観察システム200Eは、励起光を放射する照明装置250Eと、腫瘍から発せられる蛍光を検出する撮像装置100とを含んでいる。この例では、腫瘍観察システム200Eは、同期化回路256をさらに含んでいる。
照明装置250Eは、対象部位に向けて、ある振動数で強度変調された励起光を照射する。強度変調された励起光の照射により、腫瘍に蓄積された蛍光色素分子から、励起光の強度変調の振動数に同調した振動数で強度が変化する蛍光が発せられる。励起光の強度変調の振動数と同じ振動数で撮像装置100の撮像セル10における感度を変調しながらこの蛍光を捉えることにより、強度の変調する蛍光が選択的に強く映し出された画像(静止画または動画)を得ることができる。
この例では、同期化回路256は、照明装置250Eから放射される励起光の変調における位相と、撮像セル10の感度の変調における位相とを調整する制御信号を照明装置250Eおよび撮像装置100に供給する。撮像セル10の感度の周期的な変化における位相を調整することにより、蛍光が発せられている部位をより強調することができる。したがって、周囲の照明を落とすことなく、腫瘍の形状および位置を特定することが可能である。
(物標検出システム)
図26は、本開示の実施形態による撮像システムを物標検出システムに適用した例を示す。図26に示す撮像システム200Aおよび200Bは、それぞれ、照明装置250Aと撮像装置100Aとの組、および、照明装置250Bと撮像装置100Bとの組を含む。撮像装置100Aおよび100Bとしては、上述の撮像装置100と同様の構成を適用し得る。撮像システム200Aおよび200Bは、例えば乗用車などの車両に搭載され得る物標検出システムであり得る。撮像システム200Aおよび200Bは、位置が固定された定点撮像システムであってもよい。
撮像システム200Aの照明装置250Aは、強度が変調された光を出射する。照明装置250Aから出射された光は、照明装置250Aの例えば前方の物標(障害物、他の車両などであり、ここでは歩行者)TGによって反射される。物標TGからの反射光の強度は、照明装置250Aから出射された光の強度と同様の時間的変化を示す。照明装置250Aが例えば周期的に強度の変化する光を物標TGに向けて出射する場合、物標TGからの反射光の強度は、照明装置250Aからの出射光と同じ周期の変化を示す。ただし、照明装置250Aから出射される光と物標TGからの反射光との間には、照明装置250Aから物標TGまでの距離に応じた位相差が生じる。
撮像システム200Aの撮像装置100Aは、物標TGから反射された光を受ける。ここでは、撮像装置100Aの各撮像セル10の感度が、照明装置250Aから出射される光の強度の変調を示す波形と同様の波形を有する第1の感度制御信号によって変調される。第1の感度制御信号としては、直交系をなす関数系の基底の1つに第1の定数を加えた、正の値をとる第1の関数によって表される波形を有する信号を用いることができる。
上述したように、照明装置250Aからの出射光と、物標TGからの反射光との間には、照明装置250Aから物標TGまでの距離に応じた位相のずれが生じる。反射光に生じた位相差に基づき、物標TGまでの距離を算出することが可能である。このような測距の手法は、TOF(Time of Flight)法と呼ばれる。
図26に例示する構成において、撮像システム200Bも、撮像システム200Aと同様の動作を実行する。ただし、ここでは、撮像装置100Bの各撮像セル10に供給される第2の感度制御信号として、第1の関数とは異なる第2の関数によって表される波形を有する信号を用いる。第2の関数は、上述の関数系の基底の他の1つに定数を加えた、正の値をとる関数である。つまり、ここでは、同一の直交関数系から選択した互いに異なる基底に基づいて、第1の関数によって表される波形を有する第1の感度制御信号と、第2の関数によって表される波形を有する第2の感度制御信号とが生成される。
図26に示すように、複数の撮像システム(ここでは物標検出システムとしての撮像システム200Aおよび200B)が同時に使用されることは、十分に考えられる。このとき、撮像システム200Aの撮像装置100Aは、照明装置250Aから出射されて物標TGから反射された光に加えて、撮像システム200Bの照明装置250Bから出射されて物標TGから反射された光を受ける。以下に説明するように、撮像システム200Aおよび200Bに、それぞれ、同一の直交関数系から選択した互いに異なる基底に基づいて生成された第1の感度制御信号および第2の感度制御信号を適用することにより、撮像システム200Aおよび200Bの間における混信を回避し得る。このような観点から、撮像システム200Aおよび200Bを含む複数の撮像システムの全体が、物標検出システム300を構成しているといってもよい。
ここでは、直交関数系として、ウォルシュ関数系を照明光および感度の変調に利用する例を説明する。まず、ウォルシュ関数系を簡単に説明する。ウォルシュ関数系の基底であるウォルシュ関数は、ウォルシュ行列の各行における要素の値によって決定される周期関数である。nを自然数とすれば、長さが2nのウォルシュ関数は、次元が2nのウォルシュ行列の各行における要素の値によって決定される。ウォルシュ行列は、アダマール行列における行を、ゼロ交差に関する順序性(sequency)に基づいて入れ替えることによって得られる行列である。次元が2nのアダマール行列は、以下の式(15)および式(16)によって再帰的に与えられ、例えば次元が16のウォルシュ行列W(16)は、以下の式(17)の形に表される。
Figure 0006887129
Figure 0006887129
Figure 0006887129
式(17)からわかるように、W(16)の各行における1および−1の配列は、行ごとに異なっており、ある行のゼロ交差の回数は、その行の1つ上の行のゼロ交差の回数より1つ多い。長さが2nのウォルシュ関数は、2n個存在し、そのうちの1つは、定数関数である。本明細書においては、時間τに関する、長さがdのk番目(kは自然数)のウォルシュ関数をWd,k(α,τ)と表記する。ここで、αは、位相を表す定数である。以下では、0≦α≦1とし、位相αを周期に対する割合で指定する。
例えば、W16,13(0,τ)は、式(17)に示すW(16)の第13行における1および−1の配列{1,−1,1,−1,−1,1,−1,1,1,−1,1,−1,−1,1,−1,1}によって決まる。同様に、W16,14(0,τ)は、W(16)の第14行における1および−1の配列{1,−1,1,−1,−1,1,−1,1,−1,1,−1,1,1,−1,1,−1}によって決まる。図27および図28は、それぞれ、W16,13(0,τ)およびW16,14(0,τ)の具体的なグラフを示す。図27および図28における横軸は、時間τを表し、周期をTとしている。図27および図28からわかるように、各ウォルシュ関数は、各点でとり得る値が1または−1のいずれかの区分的に連続な関数である。定数関数でない(すなわち、k≠1)ウォルシュ関数の一周期にわたる積分値は、0である。
図29は、長さの等しい2つのウォルシュ関数の積の一周期にわたる積分値(以下、「一周期平均」と呼ぶことがある)の、位相差に対する依存性を説明するための図である。図29中の横軸は、2つのウォルシュ関数の位相差Δαを表し、縦軸は、2つのウォルシュ関数の積の一周期平均を表す。図29中、グラフG1は、W16,13(αa,τ)およびW16,13(αb,τ)同士の積の一周期平均を示し、グラフG2は、W16,14(αa,τ)およびW16,14(αb,τ)同士の一周期平均を示す。すなわち、Δα=|αaーαb|である。図29中、グラフG3は、W16,13(αa,τ)およびW16,14(αb,τ)同士の積の一周期平均を示す。
図29のグラフG1およびG2から、同じウォルシュ関数同士の積の一周期平均は、被積分関数が何番目のウォルシュ関数同士の積であるかによらず、位相差Δαに応じて変化し、Δα=0、すなわち、同位相のときに極大または極小となることがわかる。他方、グラフG3から、互いに異なる2つのウォルシュ関数同士の積の一周期平均は、位相差Δαによらず0となることがわかる。
図26に示す物標検出システム300においては、ウォルシュ関数が有するこのような性質を利用する。すなわち、撮像システム200Aおよび200Bにおける、照明装置から放射する光の強度の変調および撮像装置の撮像セルの感度の変調に、長さが等しく、かつ、互いに異なる、定数関数ではないウォルシュ関数を適用する。例えば、撮像システム200Aの照明装置250Aの光源に供給する駆動信号として、第1のウォルシュ関数に第1の定数を加えた、正の値をとる第1の関数によって表される波形を有する信号を用いる。また、撮像システム200Bの照明装置250Bの光源に供給する駆動信号として、第2のウォルシュ関数に第2の定数を加えた、正の値をとる第2の関数によって表される波形を有する信号を用いる。第1のウォルシュ関数および第2のウォルシュ関数は、同じ長さのウォルシュ関数の群から選択された、定数関数ではない互いに異なるウォルシュ関数である。
このとき、撮像システム200Aの照明装置250Aから出射される光の強度I1(τ)および撮像システム200Bの照明装置250Bから出射される光の強度I2(τ)は、それぞれ、下記の式(18)および式(19)のように表される。式(18)および式(19)中、A1およびA2は、正の定数であり、C1およびC2は、1よりも大きな定数である。
Figure 0006887129
Figure 0006887129
撮像システム200Aの照明装置250Aから出射された光および撮像システム200Bの照明装置250Bから出射された光を受けた物標TGの輝度は、時間的な変化を示す。ここで、撮像システム200Aの撮像装置100Aに着目すると、物標TGの輝度が時間的に変化していることから、物標TGによって反射され、撮像装置100Aの撮像セル10に到達する光の強度、換言すれば、撮像セル10に対する照度L(τ)も時間的な変化を示す。この照度L(τ)の時間的な変化は、照明装置250Aから出射された光の強度の時間的変化に対応した成分であるL1(τ)と、照明装置250Bから出射された光の強度の時間的変化に対応した成分であるL2(τ)とを含んでいる。したがって、照度L(τ)を下記の式(20)のように書ける。
Figure 0006887129
式(20)中、B1は、物標TGおよび撮像システム200Aの間の相対的な位置関係、ならびに、物標TGの反射率により決まる定数である。B2は、物標TG、撮像システム200Bの照明装置250Bおよび撮像システム200Aの撮像装置100Aの間の相対的な位置関係、および、物標TGの反射率により決まる定数である。位相β1は、撮像システム200Aと物標TGとの間の距離に応じて決まる。撮像システム200Aと物標TGとの間の距離をD、光の速度をcとすれば、β1=α1+(2D/c)である。距離Dが仮に0であるとすれば、β1=α1であり、照明装置250Aから出射される光の変調における位相と、撮像セル10が検出する照度の変化のうち、照明装置250Aから出射される光に対応する成分の位相とは、一致する。なお、位相β1は、距離Dの増大に従って周期的な変化を示す。以下では、説明が過度に複雑となることを避けるために、2D<cTとする。このように仮定しても一般性は失われない。
撮像装置100Aの撮像セル10における感度の時間的変化をS1(τ)とすれば、露光期間に撮像セル10の電荷蓄積領域に蓄積される信号電荷の総量Qtは、下記の式(21)のように書ける。露光期間の長さは、ウォルシュ関数の周期Tの自然数倍と等しくなるように設定する。式(21)中のFは、比例定数である。
Figure 0006887129
ここでは、第1のウォルシュ関数に第1の定数を加えた、正の値をとる第1の関数によって表される波形を有する感度制御信号を供給することにより、撮像装置100Aの撮像セル10の感度を変調する。すなわち、S1(τ)として、下記の式(22)で表される第1の関数を適用する。
Figure 0006887129
式(22)中、D1は、正の定数であり、E1は、1よりも大きな定数である。γ1は、位相を表す。式(22)および上述の式(18)からわかるように、撮像装置100Aの撮像セル10の感度の変調においては、照明装置250Aから出射される光の変調に適用したウォルシュ関数と同じウォルシュ関数を適用する。撮像システム200Aが撮像装置100Aおよび照明装置250Aの組を含むことから、撮像システム200A内において、撮像セル10の感度変調と、照明装置250Aからの出射光の変調とに同一のウォルシュ関数を適用することは、容易である。必要に応じて、同期化回路により、撮像セル10の感度変調における位相と、照明装置250Aからの出射光の変調における位相とを一致させてもよい。
上述の式(21)および(22)から、下記の式(23)を得る。
Figure 0006887129
式(23)において、被積分関数中の第2項は、共通のウォルシュ関数系から選択された互いに異なるウォルシュ関数の積であるので、図29を参照して説明したように、位相差|β2−γ1|の値によらず、区間[0,T]における積分の結果(すなわち、一周期平均)は、0である。被積分関数中の第3項、第4項および第5項は、ウォルシュ関数(定数関数ではない)を1つしか含まないので、一周期平均は、0である。なお、露光期間とウォルシュ関数の周期とが一致していない場合には、これらのいずれも、露光期間の増大に従って単調に増加する。ウォルシュ関数を含まない、被積分関数中の第6項は、露光期間の増大に対して単調に増加する。
一方、被積分関数中の第1項は、同じウォルシュ関数同士の積である。そのため、図29を参照して説明したように、積分の結果である一周期平均は、照度の時間的変化のうち、照明装置250Aから出射される光の強度変調に起因する成分における位相β1と、撮像セル10の感度変調における位相γ1との間の差に応じて変化し、かつ、露光期間に比例して大きくなる。第1項の一周期平均は、例えば、ある長さの露光期間のもとでは、位相β1と、位相γ1とが一致したときに極大値または極小値をとる。
したがって、例えば、撮像セル10の感度変調における位相γ1を変えて複数回の撮影を行い、電荷蓄積領域に蓄積される信号電荷の総量Qtが極大または極小となるようなγ1の値を調べれば、β1=α1+(2D/c)の関係に基づき、撮像システム200Aと物標TGとの間の距離を算出することが可能である。なお、図13を参照して説明したように、複数の撮像セル10をグルーピングし、そのグループごとに、感度変調における位相を変えて撮影すれば、電荷蓄積領域に蓄積される信号電荷の総量Qtが極大または極小となるような位相をより高速に算出し得る。
撮像システム200Bにおいても、同様の原理により、撮像システム200Bと物標TGとの間の距離を算出することが可能である。このように、複数の物標検出システムの間において、長さが等しく、かつ、互いに異なるウォルシュ関数を用いることにより、各撮像システムの撮像装置は、他の撮像システムからの出射光の影響を受けることなく、対応する照明装置(撮像装置100Aであれば同一のシステム内の照明装置250A)からの出射光により物標TGに生じた輝度の変化に関する情報を選択的に取得することができる。すなわち、複数の撮像システムの間で変調に使用する関数を、ある直交関数系から選択した互いに異なる基底に定数を加えた、正の値をとる関数とすることにより、複数の撮像システムを同時に使用した場合であっても、これらの間における混信を防ぐことが可能である。
上述の物標検出システム300において、物標TGに照射される光の波長は、複数の照明装置の間で異なっていてもよいし、同じであってもよい。上述の物標検出システム300によれば、可視域にある波長を有する光を使用することも可能であり、したがって、波長の選択の幅が広い。本開示の実施形態によれば、撮像装置(例えば撮像装置100Aおよび100B)において撮像セル10をアレイとすることも容易であり、したがって、混信を抑制しながら距離画像を取得することも可能である。
撮像システム200Aおよび200Bにおいて変調に使用する関数が初めから固定されている必要はない。物標TGから到来する光の強度の変調を検出して、照明装置および撮像装置における変調に適用する関数を動的に変更してもよい。例えば、物標TGから到来する光の強度が、ある直交関数系のある基底で表される変化を示していることが検出された場合、照明装置および撮像装置における変調に適用する関数を、その直交関数系の他のある基底に動的に変更してもよい。
上述の物標検出システム300を、さらに多くの数の撮像システムを含むシステムに拡張可能であることは容易に理解される。同時に使用され得る撮像システムの数の増加に従って、より長さの大きいウォルシュ関数の系を適用すればよい。異なる撮像システムの間で、互いに異なる、定数関数以外のウォルシュ関数を変調に利用すれば、3以上の照明装置から同時に同一の物標に強度変調された光を照射した場合であっても、それら撮像システム間の混信を回避し得る。
なお、互いに異なる撮像システムの間で互いに異なる直交関数を用いた変調を適用すれば、照明装置からの出射光の変調と一致する感度変調が適用された撮像装置によってのみ情報の取得が可能な通信を行い得る。例えば、上述したように、互いに異なる撮像システムの間で互いに異なる直交関数を用いた変調を適用した場合、可視域にある波長を有する光を使用することも可能であるので、可視光通信が可能である。照明装置の強度変調に使用した基底を、共通鍵として情報の送信者と受信者との間で共有しておいてもよい。受信者は、共通鍵としての基底を適用して撮像セルの感度が変調された撮像装置により、送信者側の照明装置からの出射光、または、何らかの物体によって反射された光を受ける。共通鍵を有する受信者は、その撮像装置により、送信者の意図する画像を取得することができる。これに対し、共通鍵を有しない第三者は、送信者側の照明装置から送信された情報を復元することができない。すなわち、暗号通信が可能である。暗号通信には、可視光を使用することも可能である。
(燐光の撮影)
感度の変調に有用な関数としてデルタ関数も例示できる。以下に説明するように、パルス波形を有する感度制御信号を用いることにより、例えば、生体組織内の酸素濃度のマッピングが可能である。以下では、生体組織に取り込まれた発光プローブからの燐光を撮像装置100を用いて撮影する例を説明する。
ここでは、発光プローブとしてイリジウム錯体(BTP)を用いる。下記の式(c1)は、BTPの構造を示す。
Figure 0006887129
生体組織に取り込まれたBTPは、励起光の照射を受けて燐光を発する。燐光は、蛍光と比較して発光寿命が長い。蛍光がナノ秒のオーダで減衰することに対し、燐光は、マイクロ秒〜ミリ秒のオーダで減衰する。ただし、燐光の発光強度および発光寿命は、燐光を発する分子の周囲の酸素濃度に依存して変化する。
図30は、燐光の強度の変化と、周囲の酸素濃度との間の関係の一例を示す。図30中、横軸は、励起光の照射からの経過時間を示し、縦軸は、単位時間に検出された光子数を対数スケールで示している。グラフF1およびグラフF2は、それぞれ、BTPの周囲の酸素濃度が100%のときおよび0%のときの燐光の強度変化の一例を示している。なお、図30中のグラフF3は、通気時における燐光の強度変化を示す。図30に示す例において、BTPの周囲の酸素濃度が100%のとき、および、0%のときの燐光の発光寿命は、それぞれ、95(ns)および5.3(μs)程度である。
図31は、本開示の実施形態による撮像システムを燐光観察システムに適用した例を示す。図31に示す燐光観察システム200Fは、被写体に向けて励起光を放射する照明装置250Fと、撮像装置100とを有する。この例では、燐光観察システム200Fは、同期化回路256をさらに有している。照明装置250Fは、強度がパルス状に変化する光を被写体に放射する。
図32は、BTPから発せられる燐光の撮影に本開示の撮像システムを適用したときの動作例を説明するための図である。図32中、一番上のチャートは、照明装置250における光源の駆動パルスの典型例を示し、上から2番目および3番目のチャートは、照明装置250からの励起光の照射によって生体組織内のBTPから発せられる蛍光および燐光の強度変化をそれぞれ模式的に示している。ここでは、励起光の照射時間は、マイクロ秒未満である。励起光の照射により、蛍光および燐光が生じる。上述したように、蛍光がナノ秒のオーダで減衰することに対し、燐光は、マイクロ秒〜ミリ秒のオーダで減衰する。
図32中、一番下のチャートは、撮像装置100の撮像セル10に供給する感度調整信号の波形の典型例を示す。ここでは、感度制御線82は、デルタ関数の波形に相当するパルス波形を有する感度制御信号を各撮像セル10に供給する。ただし、厳密な意味では感度制御信号においてデルタ関数の波形を実現することは不可能なので、露光期間に対して十分に短い期間(例えば100n秒(ナノ秒)程度)においてハイレベルとなる波形を有する矩形パルスの感度制御信号によって、デルタ関数の波形を近似する。感度制御信号がデルタ関数の波形に相当するパルス波形を有するので、この例では、各撮像セル10の感度の変化を示す波形もパルス形状を有する。
図32において模式的に示すように、この例では、感度制御信号のパルス波形の立ち上がりは、光源の駆動パルスにおける立ち上がりに対してΔτの遅延を有する。すなわち、励起光の照射からある一定の時間Δτ遅らせて、撮像セル10における感度をパルス状に変化させる。蛍光の発光と異なるタイミングにおいて感度を有するように感度制御信号の信号レベルを変化させることにより、燐光を選択的に捉え、蛍光の影響が抑制された画像を取得することができる。光源の駆動パルスにおける立ち上がりに対する感度制御信号のパルス波形の立ち上がりのタイミングは、同期化回路256によって任意に変更することが可能である。例えば同期化回路256から照明装置250Fおよび撮像装置100に制御信号を供給することにより、撮像セル10における度の変化と、照明装置250Fから放射される光(この例では励起光)の強度の変化とを同期させ得る。本明細書における「同期」は、信号の立ち上がりまたは立ち下がりを一致させることに限定されず、この例のように、複数の信号の間において立ち上がりまたは立ち下がりのタイミングを調整することも含まれる。
図32に示すように、このような撮影のサイクルを複数回繰り返すことにより、信号電荷を累積して十分に高いレベルの画像信号を得ることができる。すなわち、各撮像セルのリセット後、パルス状の励起光を被写体に照射し、励起光の照射から所望の時間遅らせて、撮像セル10の感度をパルス状に変化させ、信号電荷の蓄積を実行する。間隔をあけて、励起光の照射および信号電荷の蓄積のサイクルを所望の回数実行する。その後、電荷蓄積領域に最終的に蓄積された信号電荷量を読み出す。この例では、露光期間に複数回の信号電荷の蓄積の期間が含まれる。
サンドイッチ構造を有する光電変換素子では、光電変換層にバイアス電圧が印加されていない状態では、光電変換層と電極との間における電荷の移動は、ほとんど生じない。そのため、感度制御線82から供給する信号レベルが低下した状態においては、電荷蓄積領域から光電変換部12への信号電荷の移動はほとんど生じない。したがって、図32に示すような間隔をあけたパルス状の感度制御電圧の複数回の印加によって、比較的容易に信号電荷の累積を実現可能である。なお、各サイクルの撮影においては、グローバルシャッタによる撮影を実行する。
図30に示すように、燐光の発光寿命は、BTPの周囲の酸素濃度によって異なる。そのため、励起光の照射から撮像セル10における感度の立ち上がりまでの時間Δτを変えた撮像を行うことにより、BTPの周囲の酸素濃度に応じた異なる画像を取得することができる。つまり、生体組織内における酸素濃度に関する情報を得ることができる。このように、本開示の実施形態によれば、非侵襲での酸素濃度の計測が可能である。酸素濃度に関するマッピングは、癌の位置の特定にも有用である。癌組織中の酸素濃度は、正常組織中における酸素濃度よりも低い。したがって、酸素濃度に関するマッピング画像を取得し、酸素濃度が特異的に低い部位を特定することにより、癌組織の位置を特定することが可能である。なお、デルタ関数状の波形を有する感度制御信号を用いて、照明装置からの光の出射から特定の時間遅らせたタイミングにおいて感度を増大させる上述の撮像は、蛍光寿命測定法(Fluorescence Lifetime Imaging Microscopy:FLIM)にも適用が可能である。蛍光におけるスペクトルは、周囲のpHによって異なり得る。したがって、例えば、生体組織内のpHのマッピングが可能である。照明装置からの光の出射から特定の時間遅らせたタイミングにおいて感度を増大させる上述の撮像は、TOF法を利用した測距にも適用が可能である。このように、本開示の実施形態によれば、酸素濃度に関するマッピング、pHのマッピングなどを実現し得る。特に、サンドイッチ構造を有する光電変換素子を光電変換部12に適用することにより、比較的簡易な構成でありながら、酸素濃度、pHなどに関するマッピングが可能になる。
以上に説明したように、本開示の実施形態によれば、被写体の輝度の時間的変化から、特定の成分に関する情報を抽出することが可能である。照明装置を用いて被写体の輝度に積極的に時間的な変化を生じさせることにより、被写体までの距離など、被写体に関する有用な情報を取得し得る。特に、撮像セル10の感度における変調を照明装置からの出射光の変調に同期させることによって幅広い応用が可能である。
このように、本開示の実施形態によれば、露光期間中に時間的に変化する被写体の輝度に関する情報を得ることができる。なお、上述の各態様では、信号検出トランジスタ22、アドレストランジスタ24およびリセットトランジスタ26の各々がNチャンネルMOSである例を説明した。しかしながら、本開示の実施形態におけるトランジスタは、NチャンネルMOSに限定されず、PチャンネルMOSであってもよい。また、これらがNチャンネルMOSまたはPチャンネルMOSのいずれかに統一されている必要もない。これらのトランジスタとして、FETのほか、バイポーラトランジスタも用い得る。
本開示の撮像装置は、理化学用、医療用などの分析装置、撮影装置などに広く応用が可能である。また、例えば、セキュリティカメラ、車両に搭載されて使用されるカメラなどに用いることもできる。車両搭載用カメラは、例えば、車両が安全に走行するための、制御装置に対する入力として利用され得る。あるいは、車両が安全に走行するための、オペレータの支援に利用され得る。
10、10A、10B 撮像セル
50、60、70 撮像セル
12、12A、12B、12P 光電変換部
12a、12aA、12aB 画素電極
12b、12bA、12bB 光電変換層
12c、12cA、12cB 透明電極
14、14D、14G 信号検出回路
22 信号検出トランジスタ
52 増幅器
62 切り替え回路
72 アバランシェフォトダイオード
82、82A、82B 感度制御線
92、92A〜92C 電圧供給回路
92D 直流信号源
93 移相器
99 制御回路
100、100A、100B 撮像装置
200A、200B 撮像システム(物標検出システム)
200E 腫瘍観察システム
200F 燐光観察システム
200P 分光イメージングシステム
250、250A、250B 照明装置
250E、250F、250P 照明装置
256 同期化回路
300 物標検出システム

Claims (12)

  1. 強度が時間的に変化する光を被写体に放射する少なくとも1つの照明装置と、
    前記被写体からの光を検出する少なくとも1つの撮像装置と、
    を備え、
    前記少なくとも1つの撮像装置は、
    それぞれが感度を変更可能な少なくとも1つの撮像セルと、
    前記少なくとも1つの撮像セルに電気的に接続された少なくとも1つの感度制御線と、
    を有し、
    前記少なくとも1つの撮像セルは、
    前記被写体からの光を受けて信号電荷を生成する光電変換部と、
    前記信号電荷を検出する信号検出回路と、
    を有し、
    前記少なくとも1つの感度制御線は、前記少なくとも1つの撮像セルのリセットから、露光によって前記少なくとも1つの撮像セルに蓄積される前記信号電荷の読み出しまでの露光期間において、第1感度制御信号を前記少なくとも1つの撮像セルに供給し、
    前記露光期間よりも後の第2の露光期間において、定数関数によって表される波形を有する第2感度制御信号を前記少なくとも1つの撮像セルに供給する、撮像システム。
  2. 前記少なくとも1つの照明装置は、前記光の強度を周期的に変化させる、請求項1に記載の撮像システム。
  3. 前記少なくとも1つの撮像装置は、前記第1感度制御信号を前記光の強度の時間的変化に同期させる同期化回路を有する、請求項1または2に記載の撮像システム。
  4. 前記第1感度制御信号の波形は、三角関数で表される波形である、請求項1から3のいずれかに記載の撮像システム。
  5. 前記第1感度制御信号の波形は、定数関数ではないウォルシュ関数で表される波形である、請求項1から4のいずれかに記載の撮像システム。
  6. 強度が時間的に変化する光を被写体に放射する少なくとも1つの照明装置と、
    前記被写体からの光を検出する少なくとも1つの撮像装置と、
    を備え、
    前記少なくとも1つの撮像装置は、
    それぞれが感度を変更可能な少なくとも1つの撮像セルと、
    前記少なくとも1つの撮像セルに電気的に接続された少なくとも1つの感度制御線と、
    を有し、
    前記少なくとも1つの撮像セルは、
    前記被写体からの光を受けて信号電荷を生成する光電変換部と、
    前記信号電荷を検出する信号検出回路と、
    を有し、
    前記少なくとも1つの感度制御線は、前記少なくとも1つの撮像セルのリセットから、露光によって前記少なくとも1つの撮像セルに蓄積される前記信号電荷の読み出しまでの露光期間において、感度制御信号を前記少なくとも1つの撮像セルに供給し、
    前記少なくとも1つの照明装置および前記少なくとも1つの撮像装置は、
    第1照明装置および第1撮像装置の組と、第2照明装置および第2撮像装置の組と、
    を含み、
    前記第1撮像装置における前記感度制御信号の波形は、第1関数によって表される波形を有し、
    前記第2撮像装置における前記感度制御信号の波形は、前記第1関数とは異なる第2関数によって表される波形を有する、撮像システム。
  7. 前記感度制御信号の波形は、三角関数で表される波形である、請求項に記載の撮像システム。
  8. 前記感度制御信号の波形は、定数関数ではないウォルシュ関数で表される波形である、請求項に記載の撮像システム。
  9. 前記少なくとも1つの感度制御線は、
    前記露光期間において、第1感度制御信号を前記少なくとも1つの撮像セルに供給し、
    前記露光期間よりも後の第2の露光期間において、前記第1感度制御信号の波形を時間的にシフトさせた波形を有する第2感度制御信号を前記少なくとも1つの撮像セルに供給する、請求項6から8のいずれかに記載の撮像システム。
  10. 強度が時間的に変化する光を被写体に放射する少なくとも1つの照明装置と、
    前記被写体からの光を検出する少なくとも1つの撮像装置と、
    を備え、
    前記少なくとも1つの撮像装置は、
    それぞれが感度を変更可能な少なくとも1つの撮像セルと、
    前記少なくとも1つの撮像セルに電気的に接続された少なくとも1つの感度制御線と、
    を有し、
    前記少なくとも1つの撮像セルは、
    前記被写体からの光を受けて信号電荷を生成する光電変換部と、
    前記信号電荷を検出する信号検出回路と、
    を有し、
    前記少なくとも1つの感度制御線は、前記少なくとも1つの撮像セルのリセットから、露光によって前記少なくとも1つの撮像セルに蓄積される前記信号電荷の読み出しまでの露光期間において、感度制御信号を前記少なくとも1つの撮像セルに供給し、
    前記少なくとも1つの撮像セルは、第1撮像セルおよび第2撮像セルを含み、
    前記少なくとも1つの感度制御線は、前記第1撮像セルに電気的に接続された第1感度制御線および前記第2撮像セルに電気的に接続された第2感度制御線を含み、
    前記第1感度制御線は、前記露光期間において、第1感度制御信号を前記第1撮像セルに供給し、
    前記第2感度制御線は、前記露光期間において、前記第1感度制御信号の波形を時間的にシフトさせた波形を有する第2感度制御信号を前記第2撮像セルに供給する、撮像システム。
  11. 強度が時間的に変化する光を被写体に放射する少なくとも1つの照明装置と、
    前記被写体からの光を検出する少なくとも1つの撮像装置と、
    を備え、
    前記少なくとも1つの撮像装置は、
    それぞれが感度を変更可能な少なくとも1つの撮像セルと、
    前記少なくとも1つの撮像セルに電気的に接続された少なくとも1つの感度制御線と、
    を有し、
    前記少なくとも1つの撮像セルは、
    前記被写体からの光を受けて信号電荷を生成する光電変換部と、
    前記信号電荷を検出する信号検出回路と、
    を有し、
    前記少なくとも1つの感度制御線は、前記少なくとも1つの撮像セルのリセットから、露光によって前記少なくとも1つの撮像セルに蓄積される前記信号電荷の読み出しまでの露光期間において、感度制御信号を前記少なくとも1つの撮像セルに供給し、
    前記少なくとも1つの撮像セルは、第1撮像セルおよび第2撮像セルを含み、
    前記少なくとも1つの感度制御線は、前記第1撮像セルに電気的に接続された第1感度制御線および前記第2撮像セルに電気的に接続された第2感度制御線を含み、
    前記第1感度制御線は、前記露光期間において、第1感度制御信号を前記第1撮像セルに供給し、
    前記第2感度制御線は、前記露光期間において、定数関数によって表される波形を有する第2感度制御信号を前記第2撮像セルに供給する、撮像システム。
  12. 強度が時間的に変化する光を被写体に放射する少なくとも1つの照明装置と、
    前記被写体からの光を検出する少なくとも1つの撮像装置と、
    を備え、
    前記少なくとも1つの撮像装置は、
    それぞれが感度を変更可能な少なくとも1つの撮像セルと、
    前記少なくとも1つの撮像セルに電気的に接続された少なくとも1つの感度制御線と、
    を有し、
    前記少なくとも1つの撮像セルは、
    前記被写体からの光を受けて信号電荷を生成する光電変換部と、
    前記信号電荷を検出する信号検出回路と、
    を有し、
    前記少なくとも1つの感度制御線は、前記少なくとも1つの撮像セルのリセットから、露光によって前記少なくとも1つの撮像セルに蓄積される前記信号電荷の読み出しまでの露光期間において、感度制御信号を前記少なくとも1つの撮像セルに供給し、
    前記感度制御信号は、直交系をなす関数系の基底のうちの1つに定数を加えた、正の値をとる関数によって表される波形を有し、
    前記直交系は、完全直交系である、撮像システム。
JP2017089431A 2016-05-11 2017-04-28 撮像装置、撮像システムおよび光検出方法 Active JP6887129B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021075283A JP7108888B2 (ja) 2016-05-11 2021-04-27 撮像装置、撮像システムおよび光検出方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2016095056 2016-05-11
JP2016095055 2016-05-11
JP2016095055 2016-05-11
JP2016095056 2016-05-11

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021075283A Division JP7108888B2 (ja) 2016-05-11 2021-04-27 撮像装置、撮像システムおよび光検出方法

Publications (3)

Publication Number Publication Date
JP2017208812A JP2017208812A (ja) 2017-11-24
JP2017208812A5 JP2017208812A5 (ja) 2020-01-09
JP6887129B2 true JP6887129B2 (ja) 2021-06-16

Family

ID=58714905

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017089431A Active JP6887129B2 (ja) 2016-05-11 2017-04-28 撮像装置、撮像システムおよび光検出方法
JP2021075283A Active JP7108888B2 (ja) 2016-05-11 2021-04-27 撮像装置、撮像システムおよび光検出方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021075283A Active JP7108888B2 (ja) 2016-05-11 2021-04-27 撮像装置、撮像システムおよび光検出方法

Country Status (4)

Country Link
US (3) US10542228B2 (ja)
EP (1) EP3253046B1 (ja)
JP (2) JP6887129B2 (ja)
CN (1) CN107370913B (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11230241B2 (en) 2013-04-10 2022-01-25 Holt Sales and Service, Inc. Quick release grill guard and associated systems and methods
CA2848790C (en) 2013-04-10 2016-01-26 Excel Concepts Quick release grill guard
CN107370913B (zh) * 2016-05-11 2021-03-16 松下知识产权经营株式会社 摄像装置、摄像系统以及光检测方法
JP6797568B2 (ja) * 2016-06-10 2020-12-09 キヤノン株式会社 撮像装置、撮像システム
US11337660B2 (en) 2017-10-19 2022-05-24 Spectrum Dynamics Medical Limited Safety mechanisms for close range tomographic scanning machine and methods of use
WO2019077548A2 (en) * 2017-10-19 2019-04-25 Spectrum Dynamics Medical Limited COOLING A TOMOGRAPHY SYSTEM OF NUCLEAR MEDICINE
EP3698326A4 (en) 2017-10-19 2021-08-11 Spectrum Dynamics Medical Limited CALIBRATION AND QUALITY CONTROL OF A RADIO IMAGING SYSTEM FOR NUCLEAR MEDICINE (N-M)
EP3698176B1 (en) 2017-10-19 2023-10-11 Spectrum Dynamics Medical Limited Moving parts in a nuclear medicine (n-m) imaging system
CN110139047B (zh) * 2018-02-08 2023-06-20 松下知识产权经营株式会社 摄像装置及相机系统、以及摄像装置的驱动方法
JP7019471B2 (ja) * 2018-03-19 2022-02-15 キヤノン株式会社 固体撮像装置及び撮像システム
US10893222B2 (en) 2018-03-29 2021-01-12 Panasonic Intellectual Property Management Co., Ltd. Imaging device and camera system, and driving method of imaging device
CN110471402A (zh) * 2018-05-09 2019-11-19 陕西外号信息技术有限公司 对能够自主移动的机器进行导引的系统和方法
JP7310098B2 (ja) * 2018-07-10 2023-07-19 富士通株式会社 赤外線検出器の制御回路及び制御方法、撮像装置
KR102553314B1 (ko) 2018-08-29 2023-07-10 삼성전자주식회사 이미지 센서
WO2020105361A1 (ja) * 2018-11-19 2020-05-28 パナソニックIpマネジメント株式会社 撮像装置及び撮像システム
WO2021065367A1 (ja) 2019-10-03 2021-04-08 パナソニックIpマネジメント株式会社 撮像装置、撮像システムおよび撮像方法
JP7510815B2 (ja) 2020-02-20 2024-07-04 浜松ホトニクス株式会社 光干渉断層撮影装置
WO2021166544A1 (ja) * 2020-02-20 2021-08-26 浜松ホトニクス株式会社 光干渉断層撮影装置
JP7471871B2 (ja) * 2020-03-10 2024-04-22 キヤノン株式会社 電子デバイス、システム及び電子デバイスの制御方法
JPWO2021220656A1 (ja) * 2020-04-27 2021-11-04
TWI734499B (zh) * 2020-05-28 2021-07-21 長庚大學 顯微鏡之結構
CN114323313A (zh) * 2021-12-24 2022-04-12 北京深测科技有限公司 一种基于iccd相机的成像方法和系统

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0695739B2 (ja) * 1986-02-19 1994-11-24 株式会社東芝 固体撮像装置の駆動方法
US5218558A (en) * 1989-11-10 1993-06-08 Ricoh Company, Ltd. Output circuit of a charge-coupled device
JP3305083B2 (ja) * 1993-12-22 2002-07-22 キヤノン株式会社 光レーダ
JPH08313215A (ja) * 1995-05-23 1996-11-29 Olympus Optical Co Ltd 2次元距離センサ
JP3631325B2 (ja) 1996-06-19 2005-03-23 オリンパス株式会社 3次元画像入力装置
JP3607074B2 (ja) * 1998-05-01 2005-01-05 株式会社ルネサステクノロジ 画像感知および処理のための装置
US6691297B1 (en) * 1999-03-04 2004-02-10 Matsushita Electric Industrial Co., Ltd. Method for planning layout for LSI pattern, method for forming LSI pattern and method for generating mask data for LSI
JP3554224B2 (ja) * 1999-06-02 2004-08-18 キヤノン株式会社 光電変換装置
JP2001153612A (ja) 1999-11-25 2001-06-08 Olympus Optical Co Ltd 3次元撮像装置及び方法並びに干渉光生成装置
US6906793B2 (en) * 2000-12-11 2005-06-14 Canesta, Inc. Methods and devices for charge management for three-dimensional sensing
JP4031306B2 (ja) 2002-07-12 2008-01-09 日本放送協会 3次元情報検出システム
US20050015612A1 (en) * 2003-07-14 2005-01-20 Jing-Lung You Parent-children interactive intelligent management system
US7321111B2 (en) * 2004-04-12 2008-01-22 Canesta, Inc. Method and system to enhance differential dynamic range and signal/noise in CMOS range finding systems using differential sensors
JP4452825B2 (ja) 2004-08-05 2010-04-21 国立大学法人電気通信大学 静止画像形成方法及びその記録装置
US20070285155A1 (en) * 2004-08-18 2007-12-13 Shinji Yano Discrimination Circuit, Gain Adjustment Circuit, Signal Processing Circuit, and Electric Device
JP4543904B2 (ja) 2004-11-30 2010-09-15 パナソニック電工株式会社 距離画像センサ
JP4511442B2 (ja) 2005-09-30 2010-07-28 富士フイルム株式会社 感度可変型撮像素子及びこれを搭載した撮像装置
JP5019117B2 (ja) 2007-11-14 2012-09-05 スタンレー電気株式会社 距離画像生成装置
JP5355026B2 (ja) * 2008-10-09 2013-11-27 キヤノン株式会社 撮像装置
JP5146499B2 (ja) * 2009-08-08 2013-02-20 株式会社ニコン 固体撮像素子
US8320621B2 (en) * 2009-12-21 2012-11-27 Microsoft Corporation Depth projector system with integrated VCSEL array
FR2998666B1 (fr) 2012-11-27 2022-01-07 E2V Semiconductors Procede de production d'images avec information de profondeur et capteur d'image
JP6090060B2 (ja) * 2013-08-23 2017-03-08 株式会社豊田中央研究所 シングルフォトンアバランシェダイオード
US10141354B2 (en) * 2014-10-23 2018-11-27 Panasonic Intellectual Property Management Co., Ltd. Imaging device and image acquisition device
CN107370913B (zh) * 2016-05-11 2021-03-16 松下知识产权经营株式会社 摄像装置、摄像系统以及光检测方法

Also Published As

Publication number Publication date
US11438539B2 (en) 2022-09-06
JP7108888B2 (ja) 2022-07-29
EP3253046A2 (en) 2017-12-06
JP2017208812A (ja) 2017-11-24
US20210266481A1 (en) 2021-08-26
US20170332025A1 (en) 2017-11-16
JP2021121120A (ja) 2021-08-19
US10542228B2 (en) 2020-01-21
EP3253046B1 (en) 2023-11-15
EP3253046A3 (en) 2021-01-06
US11025847B2 (en) 2021-06-01
CN107370913B (zh) 2021-03-16
CN107370913A (zh) 2017-11-21
US20200106978A1 (en) 2020-04-02

Similar Documents

Publication Publication Date Title
JP6887129B2 (ja) 撮像装置、撮像システムおよび光検出方法
US7794394B2 (en) Device for wavelength-selective imaging
CN104081528B (zh) 多光谱传感器
CN108291969B (zh) 具有共享像素读出电路系统的成像传感器
US10397552B2 (en) Time-of-flight camera system
CN105705962B (zh) 具有主动照明的传感器系统
US10924692B2 (en) Depth and multi-spectral camera
US10578739B2 (en) Optoelectronic modules for the acquisition of spectral and distance data
JP3906818B2 (ja) 受光素子の感度制御方法、強度変調光を用いた空間情報の検出装置
JP2018531374A (ja) 物体までの距離を測定するためのシステムおよび方法
JP2018531374A6 (ja) 物体までの距離を測定するためのシステムおよび方法
US20140198183A1 (en) Sensing pixel and image sensor including same
US10708511B2 (en) Three-dimensional motion obtaining apparatus and three-dimensional motion obtaining method
JP2019529957A (ja) 物体までの距離を測定するためのシステム
TWI837107B (zh) 像素結構、具像素結構之影像感測器裝置和系統、及操作該像素結構之方法
US11108957B1 (en) Low power operation of differential image sensor pixels
WO2021019973A1 (ja) 撮像装置
US10418410B2 (en) Optoelectronic modules operable to collect spectral data and distance data
EP3579021B1 (en) Three-dimensional motion acquisition device and three-dimensional motion acquisition method
US8487274B2 (en) Stroboscopic optical image mapping system
US11742370B2 (en) Time-of-flight pixel with vertical photogates
Yang et al. Fixed pattern noise pixel-wise linear correction for crime scene imaging CMOS sensor
US20240222404A1 (en) Image capture apparatus and methods using color co-site sampling
Lioe A Study on CMOS Image Sensors for Stimulated Raman Scattering Using High-Speed Lateral Electric Field Charge Modulators

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191121

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210330

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210427

R151 Written notification of patent or utility model registration

Ref document number: 6887129

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151