JP2010032425A - 距離画像センサ、及び撮像信号を飛行時間法により生成する方法 - Google Patents

距離画像センサ、及び撮像信号を飛行時間法により生成する方法 Download PDF

Info

Publication number
JP2010032425A
JP2010032425A JP2008196616A JP2008196616A JP2010032425A JP 2010032425 A JP2010032425 A JP 2010032425A JP 2008196616 A JP2008196616 A JP 2008196616A JP 2008196616 A JP2008196616 A JP 2008196616A JP 2010032425 A JP2010032425 A JP 2010032425A
Authority
JP
Japan
Prior art keywords
imaging
window
time
distance
nth
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008196616A
Other languages
English (en)
Other versions
JP5585903B2 (ja
Inventor
Shoji Kawahito
祥二 川人
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shizuoka University NUC
Original Assignee
Shizuoka University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shizuoka University NUC filed Critical Shizuoka University NUC
Priority to JP2008196616A priority Critical patent/JP5585903B2/ja
Priority to US13/056,697 priority patent/US8537218B2/en
Priority to PCT/JP2009/063582 priority patent/WO2010013779A1/ja
Priority to EP09803021A priority patent/EP2322953B1/en
Priority to KR1020117002911A priority patent/KR101508410B1/ko
Publication of JP2010032425A publication Critical patent/JP2010032425A/ja
Application granted granted Critical
Publication of JP5585903B2 publication Critical patent/JP5585903B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/10Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4861Circuits for detection, sampling, integration or read-out
    • G01S7/4863Detector arrays, e.g. charge-transfer gates
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10FINORGANIC SEMICONDUCTOR DEVICES SENSITIVE TO INFRARED RADIATION, LIGHT, ELECTROMAGNETIC RADIATION OF SHORTER WAVELENGTH OR CORPUSCULAR RADIATION
    • H10F39/00Integrated devices, or assemblies of multiple devices, comprising at least one element covered by group H10F30/00, e.g. radiation detectors comprising photodiode arrays
    • H10F39/80Constructional details of image sensors
    • H10F39/802Geometry or disposition of elements in pixels, e.g. address-lines or gate electrodes
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10FINORGANIC SEMICONDUCTOR DEVICES SENSITIVE TO INFRARED RADIATION, LIGHT, ELECTROMAGNETIC RADIATION OF SHORTER WAVELENGTH OR CORPUSCULAR RADIATION
    • H10F77/00Constructional details of devices covered by this subclass
    • H10F77/95Circuit arrangements
    • H10F77/953Circuit arrangements for devices having potential barriers
    • H10F77/957Circuit arrangements for devices having potential barriers for position-sensitive photodetectors, e.g. lateral-effect photodiodes or quadrant photodiodes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】距離分解能の低下なしに距離計測範囲を拡大可能な距離画像センサを提供する。
【解決手段】放射源13は、時間軸上に順に配列された第1〜第5のフレームにおいて対象物に照射される第1〜第5のパルスPT1〜PT5の列を放射パルスとして提供する。フレームの各々では、撮像時刻TPU1〜TPU5は各フレームの始点から所定の時間△TPDの位置に規定され、またパルスPT1〜PT5が、それぞれ、第1〜第5のフレームの始点から、互いに異なるシフト量でシフトされる。5つのフレームの各々における撮像ウインドウA、Bを用いて、ピクセルアレイ23は、互いに異なる距離範囲の対象物の距離情報を有する要素画像信号SE1〜SE5を生成する。処理装置17は、これらを合成して画像信号SIMAGEを生成する。5回の飛行時間測定のを用いるので、広い距離範囲の対象物の距離情報を得るために、放射パルスの幅を広げる必要がなく、距離分解能が低下しない。
【選択図】図10

Description

本発明は、距離画像センサ、及び撮像信号を飛行時間法により生成する方法に関する。
特許文献1には、全画素同時電子シャッタ動作が可能な固体撮像装置が記載されている。この固体撮像装置は、全フォトダイオードをリセットした後に、第1転送ゲートを一斉に閉じ、各フォトダイオードに電荷の蓄積を行う。シャッタ時間が経過した後に、第1転送ゲートを一斉に開き、蓄積された電荷をそれぞれの電荷蓄積領域に転送する。特許文献2には、電子シャッタ作用を備えた能動ピクセルセンサアレイが記載されている。特許文献3には、距離画像センサのための画素回路が記載されている。シリコン基板上に酸化膜が設けられており、この酸化膜上に、2つの電荷転送用フォトゲート電極が設けられる。酸化膜の縁部には、電荷取り出し用の浮遊拡散層が設けられている。特許文献4には、強度変調された放射フィールドを検出と復調のための方法及び装置が記載されている。この方法及び装置では、センサ素子のアレイの光感応部に生成された信号電荷を、光源によって生成された変調信号に同期してメモリセルに転送するように、センサ素子の電子スイッチを制御すると共に、メモリセルに格納された信号電荷を評価ユニットに転送するように、メモリセルを制御する。特許文献5には、アクティブピクセルセンサが記載されている。アクティブピクセルセンサは、信号電荷として集められるフォト電荷を入力光から発生する光検出領域と、ピクセル内に増幅器の入力に接続されたセンスノードに光検出領域から信号電荷を転送するトランジスタとを備える。ピクセルの設計では、光検出領域が中心軸に関して二次元対称性を有するように設けられている。特許文献6では、TOF法を用いる三次元撮像システムが記載されている。三次元撮像システムのピクセルは、ピクセル検出器、電荷コレクタ及び電子シャッタを含み、電子シャッタは、ピクセル検出器と電荷コレクタとの間に介在している。非特許文献1は、CCDを用いた距離測定センサが記載されている。反射光の遅延時間は、2つの検知期間によって位相シフト量として測定される。
特開平11−177076号公報 特表2000−504489号公報 特開2005−235893号公報 USP5856667号公報 USP5986297号公報 USP6323942号公報 Ryohei Miyagawa, Takeo Kanade, "CCD-based range-finding sensor,"IEEE Trans. Electron Devices, vol. 44, no. 10, pp.1648-1652 (1997).
光の飛行時間を用いた従来の距離画像センサでは、距離計測範囲を広げるためには、以下の事項が必要であった:(a1)光の変調周波数を高める;(a2)光のパルスの幅を広げる。一方、距離分解能を高めるためには、以下の事項が必要であった:(b1)光の変調周波数を高める;(b2)光のパルス幅を短くする。上記のように、距離計測範囲を広げるためには光のパルスの幅を広げることが求められる一方で、距離分解能を高めるためには光のパルス幅を短くすることが求められる。故に、計測可能な距離範囲を拡大することは、距離分解能を向上させることとトレードオフの関係にある。
本発明は、このような事情を鑑みて為されたものであり、距離分解能を低下させることなく、距離計測範囲を拡大可能な距離画像センサ、及び撮像信号を飛行時間法により生成する方法を提供することを目的とする。
本発明の一側面は、飛行時間法を用いる距離画像センサである。距離画像センサは、(a)飛行時間を計測するために対象物に照射する放射パルスを発生する放射源と、(b)互いに異なる第1〜第nの飛行時間(n>1)に対応する第1〜第nの撮像タイミングを示す制御信号を生成する制御装置と、入射放射線に感応して電荷を生成する検出素子を含む複数のピクセルのピクセルアレイと、第1〜第nの撮像タイミングにそれぞれ対応する第1〜第nの要素画像信号を制御信号に応答して生成する信号生成装置とを有する画像生成装置と、(c)第1〜第nの要素画像信号を合成して、対象物に関する距離情報を含む画像信号を生成する処理装置とを備える。各ピクセルの検出素子は、第1〜第nの撮像タイミングの各々における第1及び第2の撮像ウインドウにおいて該検出素子に入射する入射放射線に応じてそれぞれ第1及び第2の電荷を生成する。各ピクセルは、第1及び第2の撮像ウインドウに対応してそれぞれ第1及び第2の電荷から第1及び第2の要素信号を提供する。第1の撮像ウインドウは、基準時刻から規定された撮像時刻の直前にあり所定の時間幅を有している。第2の撮像ウインドウは、撮像時刻の直後にあり所定の時間幅を有している。第iの要素画像信号(1≦i≦n)は、第iの撮像タイミングにおける各ピクセルの第1及び第2の要素信号を含む。
この距離画像センサによれば、第1〜第nの飛行時間(n>1)は互いに異なるので、それぞれの飛行時間は、互いに異なる測距範囲をカバーする。また、第1〜第nの飛行時間に対応する第1〜第nの撮像タイミングで第1〜第nの要素画像信号を生成するので、第1〜第nの要素画像信号の各々は、互いに異なる距離範囲の対象物の距離情報を有している。これらの第1〜第nの要素画像信号を合成して画像信号を生成するので、広い距離範囲における対象物の距離情報を得ることができる。
また、対象物の距離情報を得るために、第1〜第nの撮像タイミングの各々では、第1及び第2の撮像ウインドウでピクセルの検出素子に入射する入射放射線に対応する第1及び第2の要素信号を生成しているので、複数回の飛行時間法の測定により、広い距離範囲において対象物に関する距離範囲の情報を得ている。故に、広い距離範囲における対象物の距離情報を得るために、放射パルスの幅を広げる必要がない。したがって、個々の飛行時間の測定において、距離分解能を低下されない。
本発明に係る距離画像センサでは、放射源は、時間軸に関して順に配列された第1〜第nのフレームそれぞれにおいて対象物に照射される第1〜第nのパルスの列を放射パルスとして提供する。第1〜第nのパルスは、それぞれ、第1〜第nのフレームの始点から、互いに異なるシフト量でシフトされている。第1〜第nのフレームの各々において、撮像時刻は各フレームの始点から所定の時間で規定されている。第1〜第nのフレームの各々は、第1及び第2の撮像ウインドウを含む。第1〜第nのパルスの各々の持続時間は、第1の撮像ウインドウの期間以下である。第1〜第nのパルスの各々の持続時間は、第2の撮像ウインドウの期間以下である。
この距離画像センサによれば、第1〜第nの飛行時間の測定には、互いに異なるシフト量でシフトされた第1〜第nのパルスを用いる。第1〜第nのパルスは、それぞれ、時間軸に関して順に配列された第1〜第nのフレームにおいて対象物に照射される。第1〜第nのパルスを、それぞれ、第1〜第nのフレームにおける第1及び第2の撮像ウインドウに対応づけて、複数回の飛行時間の測定を行うことができる。
本発明に係る距離画像センサでは、第1〜第nのフレームの各々は、第1及び第2の撮像ウインドウと、第1及び第2の撮像ウインドウと異なる電荷廃棄ウインドウとを含む。ピクセルは、電荷廃棄ウインドウにおいて、検出素子の電荷を廃棄する。この距離画像センサによれば、電荷廃棄ウインドウにおいて検出素子の電荷が廃棄されるので、検出素子が受ける背景ノイズを除外できる。
本発明に係る距離画像センサでは、ピクセルは、第1〜第nの撮像タイミングにおける第1の撮像ウインドウ及び第2の撮像ウインドウにそれぞれ導通し検出素子に接続され第1及び第2の転送ゲートと、検出素子に接続され電荷廃棄ウインドウに導通する第1及び第2の廃棄ゲートとを含む。検出素子は第1の転送ゲートと第2の転送ゲートとの間に位置する。検出素子は第1の廃棄ゲートと第2の廃棄ゲートとの間に位置する。この距離画像センサのピクセルアレイは、上記の構造のピクセルのアレイを含むことができる。
本発明に係る距離画像センサでは、第1〜第nのパルスのパルス幅は、線形応答領域を用いて距離情報を含む画像信号を生成可能なように規定されることができる。この距離画像センサによれば、線形応答領域を用いるので、飛行時間の測定の全範囲において、距離精度を確保できる。
本発明に係る距離画像センサでは、放射源は、単一のフレームに単一のパルスを放射パルスとして提供する。第1〜第nの撮像タイミングは、単一のフレーム内に位置する。第1〜第nの撮像タイミングの撮像時刻は、互いに異なるシフト量で単一のフレームの始点からシフトされている。第1の撮像タイミングの撮像時刻の直前には第1の撮像ウインドウが設けられると共に、第nの撮像タイミングの撮像時刻の直後には第2の撮像ウインドウが設けられる。第1〜第nの撮像タイミングのうちの第iの撮像タイミング(1≦i<n−1)と第i+1の撮像タイミングとの間には、検出素子に入射する入射放射線に応じた電荷を取り込むためのウインドウが規定されている。ウインドウは、第1及び第2の撮像ウインドウのために兼用されている。単一のパルスの持続時間は第1及び第2の撮像ウインドウの期間以下である。
この距離画像センサによれば、第1〜第nの撮像タイミングの各々における撮像時刻の前後にそれぞれ第1及び第2の撮像ウインドウが設けられる。故に、第1及び複数の第2の撮像ウインドウが交互に配列されて、撮像ウインドウの列を構成する。撮像ウインドウの列の最初には単独の第1の撮像ウインドウがあり、最後には単独の第2の撮像ウインドウがある。撮像ウインドウの列において、単独の第1の撮像ウインドウと単独の第2の撮像ウインドウとの間に一又は複数の撮像兼用ウインドウがある。撮像兼用ウインドウは第1の撮像ウインドウ及び第2の撮像ウインドウの両方のために設けられている。撮像ウインドウの列におけるn個の撮像時刻において、第1〜第nの要素画像信号が生成される。
本発明に係る距離画像センサでは、単一のフレームは、第1及び第2の撮像ウインドウと、第1の撮像ウインドウ及び第2の撮像ウインドウと異なる電荷廃棄ウインドウとを含む。ピクセルは、電荷廃棄ウインドウにおいて、検出素子の電荷を廃棄する。この距離画像センサによれば、電荷廃棄ウインドウにおいて検出素子の電荷が廃棄されるので、検出素子が受ける背景ノイズを除外できる。
本発明に係る距離画像センサでは、ピクセルは、検出素子の一方の側に配置された第1の群の第1〜第jの転送ゲートと、検出素子の他方の側に配置された第2の群の第j+1〜第n+1の転送ゲートと、検出素子に接続され電荷廃棄ウインドウに導通する第1及び第2の廃棄ゲートとを含む。第1〜第n+1の転送ゲートは、第1〜第nの撮像タイミングのいずれかにおいて導通する。検出素子は第1の廃棄ゲートと第2の廃棄ゲートとの間に位置する。この距離画像センサのピクセルアレイは、上記の構造のピクセルのアレイを含むことができる。
本発明の別の側面は、複数のピクセルを含むピクセルアレイと飛行時間を計測するための放射源とを用いて対象物に関する距離情報を含む撮像信号を飛行時間法により生成する方法である。この方法は、(a)ピクセルアレイの検出素子を用いて、互いに異なる第1〜第nの飛行時間(n>1)で複数の撮像を行って、第1〜第nの要素画像信号を生成するステップと、(b)第1〜第nの要素画像信号を合成して、対象物に関する距離情報を含む画像信号を生成するステップとを備える。各ピクセルは、第1〜第nの撮像タイミングにおける第1及び第2の撮像ウインドウにおいてそれぞれ第1及び第2の電荷を生成する。第1の撮像ウインドウは、基準時刻から規定された撮像時刻の直前にあり、また所定の時間幅を有している。第2の撮像ウインドウは、撮像時刻の直後にあり、また所定の時間幅を有している。各ピクセルは、第1及び第2の電荷の量にそれぞれ対応する第1及び第2の要素信号を提供する。第iの要素画像信号(1≦i≦n)は、第iの撮像タイミングにおける複数のピクセルの第1及び第2の要素信号を含む。
この方法によれば、第1〜第nの飛行時間(n>1)は互いに異なるので、それぞれの飛行時間は、互いに異なる測距範囲をカバーする。また、第1〜第nの飛行時間に対応する第1〜第nの撮像タイミングで第1〜第nの要素画像信号を生成するので、第1〜第nの要素画像信号の各々は、互いに異なる距離範囲の対象物の距離情報を有している。これらの第1〜第nの要素画像信号を合成して画像信号を生成するので、広い距離範囲における対象物の距離情報を得ることができる。
また、対象物の距離情報を得るために、第1〜第nの撮像タイミングの各々では、第1の撮像ウインドウ及び第2の撮像ウインドウでピクセルの検出素子に入射する入射放射線に対応する第1及び第2の要素信号を生成しているので、複数回の飛行時間により、広い距離範囲において対象物に関する距離範囲の情報を得ている。故に、広い距離範囲における対象物の距離情報を得るために、放射パルスの幅を広げる必要がない。したがって、個々の飛行時間の測定において、距離分解能を低下されない。
本発明に係る方法では、第1〜第nの要素画像信号を生成するステップは、飛行時間を計測するための放射パルスを対象物に照射するステップを含む。放射パルスの照射では、時間軸に関して順に配列された第1〜第nのフレームそれぞれにおいて対象物に照射するための第1〜第nのパルスが出射される。第1〜第nのパルスは、それぞれ、第1〜第nのフレームの始点から、互いに異なるシフト量でシフトされている。第1〜第nのフレームの各々において、基準時刻は各フレームの始点である。第1〜第nのフレームの各々は、第1及び第2の撮像ウインドウを含む。第1〜第nのパルスの各々の持続時間は、第1の撮像ウインドウの期間以下である。第1〜第nのパルスの各々の持続時間は、第2の撮像ウインドウの期間以下である。
この方法によれば、第1〜第nの飛行時間の測定には、互いに異なるシフト量でシフトされた第1〜第nのパルスを用いる。第1〜第nのパルスは、それぞれ、時間軸に関して順に配列された第1〜第nのフレームにおいて対象物に照射される。第1〜第nのパルスを、それぞれ、第1〜第nのフレームにおいて第1及び第2の撮像ウインドウを用いて、複数回の飛行時間の測定を行うことができる。
本発明に係る方法では、第1〜第nの要素画像信号を生成するステップは、飛行時間を計測するための放射パルスを対象物に照射するステップを含む。放射パルス、または、単一のフレームに単一のパルスが出射される。第1〜第nの撮像タイミングは、単一のフレーム内に位置する。第1〜第nの撮像タイミングは、単一のフレームの始点から、互いに異なるシフト量でシフトされている。第1及び第2の撮像ウインドウの各々は、第1〜第nの撮像タイミングのうち隣接する撮像タイミングの間に設けられている。
この方法によれば、第1〜第nの撮像タイミングの各々における撮像時刻の前後に第1及び第2の撮像ウインドウが設けられる。故に、複数の第1の撮像ウインドウ及び複数の第2の撮像ウインドウが交互に配列されて、撮像ウインドウの列を構成する。撮像ウインドウの列の最初には単独の第1の撮像ウインドウがあり、最後には単独の第2の撮像ウインドウがある。撮像ウインドウの列において、単独の第1の撮像ウインドウと単独の第2の撮像ウインドウとの間に一又は複数の撮像兼用ウインドウがある。撮像兼用ウインドウは第1の撮像ウインドウ及び第2の撮像ウインドウの両方のために設けられている。
本発明によれば、距離分解能を低下させることなく距離計測範囲を拡大可能な距離画像センサ、及び撮像信号を飛行時間法により生成する方法が提供される。
本発明の知見は、例示として示された添付図面を参照して以下の詳細な記述を考慮することによって容易に理解できる。引き続いて、添付図面を参照しながら、本発明の距離画像センサ、及び撮像信号を飛行時間法により生成する方法に係る実施の形態を説明する。可能な場合には、同一の部分には同一の符号を付する。
図1は、本実施の形態に係る、飛行時間法を用いる距離画像センサを示す図面である。距離画像センサ11は、放射源13と、画像生成装置15と、処理装置17とを備える。放射源13は、飛行時間を計測するために対象物に照射する放射パルスLを発生する。放射源13は、例えば、半導体発光素子13aと、この発光素子13aの駆動回路13bとを含み、駆動回路13bはタイミング信号に応答して発光素子を駆動する。半導体発光素子13aとしては、発光ダイオード及びレーザダイオードが用いられる。放射源13は、近赤外領域、可視光等の波長範囲の放射線を用いることができる。近赤外領域、可視光等を提供する光源から、TOF測定のための光パルスが出射される。画像生成装置15は、制御装置21、ピクセルアレイ23、及び信号生成装置25を有する。画像生成装置15の制御装置21は、互いに異なる第1〜第nの飛行時間(n>1)TOF1〜TOFnに対応する第1〜第nの撮像タイミングを示す制御信号を生成する。ピクセルアレイ23は複数のピクセル27を含み、これらのピクセル27は、例えば行及び列に配列されている。各ピクセル27は、入射放射線Lに感応して電荷を生成する検出素子を含む。この検出素子として、例えばフォトゲート等を用いることができる。信号生成装置17は、第1〜第nの撮像タイミングにおける撮像にそれぞれ対応する第1〜第nの要素画像信号SE1〜SEnを制御信号に応答して生成する。処理装置17は、第1〜第nの要素画像信号SE1〜SEnを合成して、対象物に関する距離情報を含む画像信号SIMAGEを生成する。
各ピクセル27の検出素子は、各撮像タイミングにおける第1及び第2の撮像ウインドウWPU1、WPU2において該検出素子に入射する入射放射線に応じてそれぞれ第1及び第2の電荷を生成する。各ピクセル27は、第1及び第2の撮像ウインドウWPU1、WPU2における第1及び第2の電荷にそれぞれ対応した第1及び第2の出力信号S1、S2を提供する。第1の撮像ウインドウWPU1は、基準時刻から規定された撮像時刻TPUの直前にあり、第2の撮像ウインドウWPU2は、撮像時刻TPUの直後にある。故に、n回の撮像における第1及び第2の電荷の比率からn回の飛行時間(TOF)を測定できる。第1及び第2の撮像ウインドウWPU1、WPU2は、所定の時間幅PWINを有している。第iの要素画像信号(1≦i≦n)は、第iの撮像タイミングにおける各ピクセル27の第1及び第2の要素信号S1、S2を含む。
この距離画像センサ11によれば、第1〜第nの飛行時間TOF1〜TOFnは互いに異なるので、それぞれの飛行時間TOF1〜TOFnの測定は、互いに異なる測距範囲をカバーする。また、第1〜第nの飛行時間TOF1〜TOFnに対応する第1〜第nの撮像タイミングで第1〜第nの要素画像信号SE1〜SEnを生成するので、第1〜第nの要素画像信号SE1〜SEnの各々は、互いに異なる距離範囲の対象物の距離情報を有している。これらの第1〜第nの要素画像信号SE1〜SEnを合成して画像信号SIMAGEを生成するので、広い距離範囲における対象物の距離情報を得ることができる。
また、対象物の距離情報を得るために、第1〜第nの撮像タイミングの各々では、第1及び第2の撮像ウインドウWPU1、WPU2を介してピクセル27の検出素子に入射する入射放射線Lに対応する第1及び第2の出力信号S1、S2を生成するので、複数回の飛行時間法の測定により所望の距離範囲において対象物に関する距離範囲の情報を得ている。広い距離範囲における対象物の距離情報を得るために、放射パルスLの幅を広げる必要がないので、飛行時間TOF1〜TOFnの測定において、距離分解能を低下されない。
図1を参照すると、距離画像センサシステム31が示されており、このシステム31は、距離画像センサ11及び外部装置33を含む。外部装置33は、例えば表示装置、出力デバイス等であることができる。出力デバイスは例えばインタフェース装置である。
また、信号生成装置25は、各ピクセル27から提供された第1及び第2の要素信号S1、S2から、第1〜第nの要素画像信号SE1〜SEnを生成するための手段25a、25b、25cを含む。第1〜第nの要素画像信号SE1〜SEnは、それぞれ、第1〜第nの撮像タイミングにおいて撮像された対象物の画像情報及び距離情報を含んでいる。第1〜第nの撮像タイミングの各々が、所定の間隔で配置されているので、第1〜第nの撮像タイミングを用いて所望の測距範囲の撮像を可能にしている。一方、距離分解能は、第1〜第nの飛行時間TOF1〜TOFnの各々の測定において規定される。
図2は、画像信号SIMAGEを表示装置33によって表示した画像を示している。図2(a)を参照すると、撮像の対象物が示されている。図2(b)を参照すると、第1〜第nの要素画像信号SE1〜SEnを処理して作成された明暗画像が示される。図2(c)を参照すると、画像信号SIMAGEを表示装置に出力された画像が表示されている。図2(c)の表示では、距離画像センサ11と対象物との距離に応じて表示のトーンが変更されている。なお、実際のシステムでは、表示された画像は、距離画像センサ11と対象物との距離に応じて色分けされることができる。
図3は、本実施の形態における距離画像センサのためのピクセルの一構造を示す図面である。図3(a)を参照すると、ピクセル27の主要部を示す平面図である。図3(b)及び図3(c)には、それぞれ、図3(a)に示されたI−I線及びII−II線に沿って取られた断面を示す。ピクセル27は、シリコン基板といった半導体基板P−sub上に形成されている。ピクセル27は、フォトゲートPGと、第1及び第2の転送ゲートTX、TXと、第1及び第2の廃棄ゲートTXBCDとを含む。フォトゲートPGは、入射放射線Lに感応して電荷を生成する。フォトゲートPGは、それぞれ、第1及び第2の転送ゲートTX、TXを介して第1及び第2の浮遊半導体領域FD、FDに接続されている。また、フォトゲートPGは、それぞれ、第1及び第2の廃棄ゲートTXBCDを介して第1及び第2の半導体領域FDBCDに接続されている。第1及び第2の半導体領域FDBCDは、電荷廃棄ライン、例えばVDDに接続されている。フォトゲートPGは、第1及び第2の転送ゲートTX、TXの間に設けられており、また第1及び第2の廃棄ゲートTXBCDの間に設けられている。第1及び第2の浮遊半導体領域FD1、FD2及び第1及び第2の半導体領域FDBCDは、例えばp型半導体領域p−well、p−epiに設けられたn型半導体領域である。第1及び第2の浮遊半導体領域FD1、FD2は、リセットゲートResetを介して第1及び第2のn型半導体領域FDRに接続されており、これらの半導体領域FDRには、リセット電圧が印加されている。リセットゲートResetは、薄いMIS(好ましくはMOS)構造を有しており、リセットゲートResetとp型半導体領域p−wellとの間には、ゲート絶縁膜が設けられており、この薄い絶縁膜は例えば薄いSiOからなる。フォトゲートPG、第1及び第2の転送ゲートTX、TX及び第1及び第2の廃棄ゲートTXBCDは、厚いMIS(好ましくはMOS)構造を有しており、フォトゲートPG、第1及び第2の転送ゲートTX、TX及び第1及び第2の廃棄ゲートTXBCDとn型半導体埋込領域n−buriedとの間には、ゲート絶縁膜が設けられており、厚い絶縁膜は例えば薄いSiOからなる。第1及び第2の浮遊半導体領域FD、FD及び第1及び第2の浮遊半導体領域FDBCDは、n型半導体埋込領域n−buriedのエッジに接触している。
ピクセル27は、第1及び第2の浮遊半導体領域FD1、FD2にそれぞれ接続された増幅器Amp1、Amp2を含む。増幅器Amp1、Amp2の各々は、ソースフォロアアンプを含む。例えば、増幅器Amp1、Amp2の各々は増幅用トランジスタを含み、これらのトランジスタのゲートは、それぞれ、第1及び第2の浮遊半導体領域FD、FDに接続される。増幅用トランジスタのソースは、ピクセルアレイ23のカラム線に接続される。増幅用トランジスタの導通は、選択用トランジスタによって行われる。選択用トランジスタ及び増幅用トランジスタは、電源線とカラム線との間に接続され、選択用トランジスタは増幅用トランジスタに直列に接続される。
図4及び図5を参照しながら、ピクセルの動作を説明する。代表的なフレームFrameが示されている。撮像ウインドウAの開始時刻は、フレームFrameの始点から規定され所定の期間Tの期間であり、また撮像ウインドウBの開始時刻は、撮像ウインドウAの終了点から規定され所定の期間Tの期間である。フレームFrameは、撮像ウインドウA、Bと異なる電荷廃棄ウインドウCを含む。測距に先だって、ピクセルアレイの第1及び第2の浮遊半導体領域FD1、FD2はリセットされる。
第1及び第2の撮像ウインドウA、Bでは、それぞれ、転送ゲートTX1、TX2が導通する。第1の撮像ウインドウAの幅は第2の撮像ウインドウBの幅と等しい。動作の説明を容易にするために、放射パルスPは、第1の撮像ウインドウの立ち上がりに同期して出射される。ピクセルアレイは、距離画像センサと対象物との距離に応じた遅延時間(TOF)で遅延した受信パルスPを受ける。フォトゲートPGは、受信パルスPに応答して電荷を生成する。電荷は、第1及び第2の撮像ウインドウA、Bにおいてそれぞれ第1及び第2の浮遊半導体領域FD1、FD2に転送される。図5から理解されるように、パルスPRの遅延時間は、距離画像センサと対象物との間の光の往復時間に等しい。
図5(a)に示されるように、第1の転送ゲートTX1の導通に応答して、第1の撮像ウインドウA内で生成された電荷△Q1が第1の転送ゲートTX1を介して第1の浮遊半導体領域FD1に転送される。第1の撮像ウインドウA内では、図5(b)に示されるように、廃棄ゲートTXBCDは非道通である。
図5(c)に示されるように、第2の転送ゲートTX2の導通に応答して、第2の撮像ウインドウB内で生成された電荷△Q2が第2の転送ゲートTX2を介して第2の浮遊半導体領域FD2に転送される。第2の撮像ウインドウB内では、図5(d)に示されるように、廃棄ゲートTXBCDは非道通である。
図5(e)に示されるように、廃棄ゲートTXBCDの導通に応答して、電荷廃棄ウインドウC内で生成された電荷(背景電荷)△Q3が廃棄ゲートTXBCDを介して半導体領域FDBCDに転送される。電荷廃棄ウインドウC内では、図5(f)に示されるように、第1及び第2の転送ゲートTX1、TX2は非道通である。
図6は、画像生成装置の構成を示す図面である。図4及び図5を参照しながら行われたピクセル動作の制御は、図6の画像生成装置の各回路によって行われる。図6を参照すると、ピクセルアレイ23が示されている。ピクセルアレイ23の一辺には、PGドライバ21aが設けられている。PGドライバ21aは、各ピクセル27のフォトゲートPGに接続され、また各ピクセル27を駆動している。PGDクロック発生器21bは、PGドライバ21aに接続されており、またPGドライバ21aのためのタイミングクロックを生成する。PGDクロック発生器21bは、タイミング発生器21cに接続されており、また画像生成装置15の動作タイミングを規定するクロックを生成する。信号生成装置25が、ピクセルアレイ23によって生成された信号を垂直スキャナ25dからの制御信号に応じて順に読み出す。この信号は、ピクセル27のソースフォロア型増幅器の負荷となる電流源25aを用いてカラム線上の電圧信号に変換される。電圧信号は、ノイズキャンセル回路25bによって処理されて、ノイズキャンセル回路25b内の記憶回路に格納される。ノイズキャンセル回路25bにおける処理によって、ピクセルにリセットノイズが除去される。ノイズキャンセル回路25b内の記憶回路の内容は、水平スキャナ25cからの制御信号に応答して出力駆動回路25eに順に送られる。出力駆動回路25eは、第1〜第nの要素画像信号SE1〜SEnを提供する。処理装置17は、n個の要素画像信号SE1〜SEnを合成して、対象物に関する距離情報を含む画像信号SIMAGEを生成する。
図7は、ピクセル分配特性を示す図面である。分配特性の測定は、図7(a)に示されるタイミングで行われる。一フレームにおいて、第1及び第2の撮像ウインドウA、Bのタイミングを規定する。第1及び第2の撮像ウインドウA、Bの幅は、例えば100ナノ秒(ns)である。第1及び第2の撮像ウインドウA、Bによって規定される撮像時間に対して、放射パルスの出射タイミングを変化させて遅延時間を調整した。放射パルスの幅は、例えば100ナノ秒である。図7(b)を参照すると、ピクセルの出力信号の信号V1、V2は、遅延時間に対してほぼ線形に変化している。また、信号V1−V2もほぼ線形に変化している。信号V1+V2が、撮像ウインドウの期間幅においてほぼ一定であるので、遅延時間に応じた電荷の振り分けが適切に行われている。第1及び第2の撮像ウインドウA、Bと放射パルスとの重なり期間を除いて、出力値がゼロであるので、電荷廃棄ゲートの動作が確認される。図7(b)を参照すると、信号V1は、遅延時間Td=−100ns、+100nsの付近において非線形に変化しており、信号V2は、遅延時間Td=0ns、+200nsの付近において非線形に変化している。この非線形な振る舞いは、放射パルスが、理想的な矩形から変形していることに起因すると考えられる。
図8は、短パルスを用いたピクセル分配特性を示す図面である。分配特性の測定は、図8(a)に示されるタイミングで行われる。一フレームにおいて、第1及び第2の撮像ウインドウA、Bのタイミングを規定する。第1及び第2の撮像ウインドウA、Bの幅は、例えば100ナノ秒(ns)である。第1及び第2の撮像ウインドウA、Bによって規定される撮像時間に対して、放射パルスの出射タイミングを変化させて遅延時間を調整した。放射パルスの幅は、第1及び第2の撮像ウインドウA、Bの幅より短く、例えば10ナノ秒である。遅延時間は、投射パルスの立ち下がりが第1及び第2の撮像ウインドウA、Bの撮像時間に一致するときを基準にしている。図8(b)を参照すると、ピクセルの出力信号V1、V2は、遅延時間に対してほぼ線形に変化している。また、信号V1−V2もほぼ線形に変化している。信号V1+V2が、撮像ウインドウの期間幅においてほぼ一定であるので、遅延時間に応じた電荷の振り分けが行われている。第1及び第2の撮像ウインドウA、Bと放射パルスとの重なり期間を除いて、出力値がゼロであるので、電荷廃棄ゲートの動作が確認される。
図9は、放射パルス幅及び撮像ウインドウ幅との距離分可能との関係を示す図面である。図9(a)を参照すると、毎秒30フレームの繰り返しで行われた測距における、放射パルス強度と距離分解能との関係を示す。この測定において、放射パルス幅は、100ns及び0nsが用いられた。図9(b)を参照すると、毎秒3フレームの繰り返しで行われた測距における、放射パルス強度と距離分解能との関係を示す。この測定において、放射パルス幅は、100ns及び10nsが用いられた。
まず、放射パルスの強度は大きくなるにつれて、距離分可能が向上している。また、放射パルスの幅を100nsから10nsに変更すると、距離分解能が1/10に小さく成っている。故に、距離分解能が放射パルス幅に比例する、故に、距離分解能は、放射源からの放射パルス幅に線形に変化すると共に、この放射パルス幅と共に小さくなる。
発明者の実験例により得られた分解能の値を示す:
測定方式、 放射パルス100ns、放射パルス10ns
毎秒30フレーム、29mm、 2.3mm、(平均化処理無し)
毎秒3フレーム、 9.1mm、 1.3mm、(平均化処理有り)。
(実施例1)
図10は、一実施例の測距タイミングを示す図面である。図10(a)を参照すると、放射源13は、時間軸に関して順に配列された第1〜第nのフレーム(図10では5フレーム)それぞれにおいて対象物に照射される第1〜第nのパルス(図10では5パルス)PT1〜PT5の列を放射パルスとして提供する。第1〜第nのフレームは、制御信号によって規定される。該フレームの各々において、撮像時刻TPU1〜TPU5は各フレームの始点から所定の時間△TPDの位置に規定される。各フレームは、撮像ウインドウA、Bを含む。パルスPT1〜PT5の幅は、第1及び第2の撮像ウインドウの幅より小さい。或いは、パルスPT1〜PT5の幅は、第1及び第2の撮像ウインドウの幅以下であってもよい。図10(b)は、各フレームの始点を基準にして表示する時間軸(以下「還元された時間軸」と呼ぶ)の原点に合わせて、時間軸に関して順に配列された5つのフレームの始点を示す図面である。図10(b)を参照すると、第1〜第nのパルスPT1〜PT5が、それぞれ、第1〜第5のフレームの始点から互いに異なるシフト量でシフトされることが理解される。
この距離画像センサによれば、第1〜第nの飛行時間TOF1〜TOF5の測定には、互いに異なるシフト量でシフトされた第1〜第nのパルスPT1〜PT5を用いる。第1〜第nのパルスPT1〜PT5は、それぞれ、時間軸に関して順に配列された第1〜第nのフレームFrame1〜Frame5において対象物に照射される。第1〜第nのパルスPT1〜PT5を、それぞれ、第1〜第nのフレームFrame1〜Frame5における第1及び第2の撮像ウインドウA、Bに対応づけて、複数回の飛行時間TOF1〜TOF5の測定を行うことができる。
第1〜第nのフレームFrame1〜Frame5の各々は、撮像ウインドウA、Bと異なる電荷廃棄ウインドウCを含む。ピクセル27は、電荷廃棄ウインドウCにおいて、検出素子の電荷を廃棄するので、検出素子に入射する背景ノイズを除外できる。また、電荷廃棄ウインドウCの期間は、撮像ウインドウA、Bにおいて各ピクセルによって生成された出力信号S1、S2を読み出すために用いられる。
図11は、ピクセルアレイ23と放射源13とを用いて撮像信号SIMAGEを飛行時間法により生成する方法における主要な工程を示す図面である。工程S101では、ピクセルアレイ23の検出素子を用いて、互いに異なる第1〜第nの飛行時間TOF1〜TOFnで第1〜第nの撮像を行って、第1〜第nの要素画像信号SE1〜SEnを生成する。
工程S107では、第1〜第nの要素画像信号SE1〜SEnを合成して、対象物に関する距離情報を含む画像信号SIMAGEを生成する。
具体的には、工程S101は以下の手順による。工程S102では、時間軸に関して順に配列された第1〜第nのフレームの内の第1のフレームおいて第1のパルスを放射して、第1のフレームにおける撮像ウインドウA、Bを用いて第1の撮像を行う。工程S103では、工程S102で得られた第1の撮像をピクセルアレイから読み出して、第1の要素画像信号SE1を生成する。工程S104では、時間軸に関して順に配列された第2〜第nのフレームの内の第iのフレームおいて第iのパルスを放射して、第iのフレームにおける撮像ウインドウA、Bを用いて第iの撮像を行う。工程S105では、工程S104で得られた第iの撮像をピクセルアレイから読み出して、第iの要素画像信号SEiを生成する。工程S106では、第iの撮像及び第iの要素画像信号SEiの生成を繰り返す。
上記のように、第1〜第nの飛行時間TOF1〜TOFnの測定には、互いに異なるシフト量でシフトされた第1〜第nのパルスを用いる。これらのパルスは、それぞれ、時間軸に関して順に配列された第1〜第nのフレームにおいて対象物に照射される。第1〜第nのパルスを、それぞれ、第1〜第nのフレームにおける第1及び第2の撮像ウインドウに対応づけて、複数回の飛行時間TOF1〜TOFnの測定を行うことができる。
この方法によれば、第1〜第nの飛行時間TOF1〜TOFnは互いに異なるので、それぞれの飛行時間は、互いに異なる測距範囲をカバーする。また、飛行時間TOF1〜TOFnに対応するn個の撮像タイミングでそれぞれ要素画像信号SE1〜SEnを生成するので、要素画像信号SE1〜SEnの各々は、互いに異なる距離範囲の対象物の距離情報を有する。これらの要素画像信号SE1〜SEnを合成して画像信号SIMAGEを生成するので、広い距離範囲にわたる対象物の距離情報を得ることができる。また、対象物の距離情報を得るために、撮像タイミングの各々では、撮像ウインドウA、Bでピクセルの検出素子に入射する入射放射線に対応する第1及び第2の信号S1、S2を生成すると共に、複数回の飛行時間の測定により、所望の距離範囲において対象物に関する距離範囲の情報を得ている。故に、広い距離範囲における対象物の距離情報を得るために、放射パルスの幅を広げる必要がない。したがって、個々の飛行時間の測定において、距離分解能が低下しない。
(実施例2)
実施例2の距離画像センサでは、放射源13は、単一のフレームFrame0に単一のパルスPT0を放射パルスとして提供する。図12(a)は、単一のフレームを用いるタイミングを示す。このフレームは、制御信号によって規定される。第1〜第nのフレーム第1〜第nの撮像タイミング(この例では、TPU1、TPU2、TPU3)は、単一のフレームFrame0内に位置する。撮像タイミングの撮像時刻TPU1PU2、TPU3は、互いに異なるシフト量で単一のフレームFrame0の始点からシフトされている。n個の撮像タイミングのうちの第iの撮像タイミング(1≦i<n−1)と第i+1の撮像タイミングとの間に、検出素子に入射する入射放射線に応じた電荷を浮遊半導体領域に取り込むためのウインドウが規定される。撮像時刻TPU1PU2、TPU3の各々の直前には撮像ウインドウAが設けられ、この撮像時刻の直後には撮像ウインドウBが設けられるので、撮像ウインドウ間のウインドウは撮像ウインドウA、Bとして兼用される。
この距離画像センサによれば、撮像ウインドウA、Bが交互に配列されて、撮像ウインドウの列を構成する。撮像ウインドウの列の最初には単独の撮像ウインドウAがあり、最後には単独の撮像ウインドウBがある。撮像ウインドウの列において、単独の第1の撮像ウインドウと単独の第2の撮像ウインドウとの間に一又は複数の撮像兼用ウインドウがある。撮像兼用ウインドウは第1の撮像ウインドウ及び第2の撮像ウインドウの両方のために設けられている。故に、第1〜第nの撮像タイミングの各々における撮像時刻の前後にそれぞれ第1及び第2の撮像ウインドウが設けられる。撮像ウインドウの列における複数の撮像時刻において、それぞれ、複数の要素画像信号が生成される。
一例では、単一のパルスPT0の持続時間は、第1の撮像ウインドウAの期間と等しく、単一のパルスPT0の持続時間は、第2の撮像ウインドウBの期間と等しい。単一のパルスPT0の持続時間は、フレームFrame0の始点から規定される。単一のパルスPT0の終了時点から所定の数のウインドウの列が規定される。ウインドウ列内のウインドウは、互いに異なる転送ゲートTXiの導通によって規定される。単一のフレームFrame0は、ウインドウの列の期間と異なる電荷廃棄ウインドウとを含む。ピクセル27は、この電荷廃棄ウインドウにおいて、検出素子の電荷を廃棄する。これによって、検出素子が受ける背景ノイズを除外できる。
図13は、本実施例に適用可能なピクセルの構造の平面図を示す図面である。図13のピクセルを図3(a)のピクセルと比較すると、転送ゲートの構造を除いて、図13のピクセルの構造は図3(a)のピクセル構造と同じである。図13のピクセルは、フォトゲートPGの一方の側に配置された第1の群の第1〜第jの転送ゲート(図13ではTX1、TX3)と、フォトゲートPGの他方の側に配置された第2の群の第j+1〜第n+1の転送ゲート(図13ではTX2、TX4)を含む。第1〜第n+1の転送ゲート(図13ではTX1〜TX4)は、第1〜第nの撮像タイミングのいずれかにおいて導通する。第1〜第n+1の転送ゲート(図13ではTX1〜TX4)は、それぞれ、第1〜第n+1の浮遊半導体領域(図13ではFD1〜FD4)に接続されている。なお、フォトゲートPGは廃棄ゲートTXBCDの間に位置する。
図12(b)は、パルスの遅延に応じて、選択ゲートTX1〜TX4に生成される信号を示す。遅延時間の基準は、放射パルスの立ち上がり時刻に規定される。選択ゲートTX1〜TX4は、飛行時間によって遅延したパルスを取り込んで、図12(b)に示される信号VTX1、VTX2、VTX3、VTX4を生成する。図12(b)は、遅延時間に応じて転送ゲートTX1〜TX4が、互いに異なる信号を生成することを示している。図12(b)は、図7(b)及び図8(b)に対応する特性を示す。3個以上の撮像ウインドウの列の使用によって、単一のパルスTP0を用いるけれども、複数回の飛行時間の測定を行うことができる。撮像期間においては、転送ゲートTX1〜TX4のいずれかが導通している。
図14は、ピクセルアレイ23と放射源13とを用いて撮像信号SIMAGEを飛行時間法により生成する方法における主要な工程を示す図面である。工程S201では、ピクセルアレイ23の検出素子を用いて、互いに異なる飛行時間TOF1〜TOFnでn回の撮像を行って、要素画像信号SE1〜SEnを生成する。工程S208では、要素画像信号SE1〜SEnを合成して、画像信号SIMAGEを生成する。
具体的には、工程S201は以下の手順による。工程S202では、飛行時間を計測するための放射パルスを対象物に照射する。工程S203では、複数のウインドウ列内の第1の撮像ウインドウにおいて第1の撮像を行う。工程S204では、工程S203で得られた第1の撮像をピクセルアレイから読み出して、第1の要素画像信号SE1を生成する。工程S205では、第i−1のウインドウの直後の第iの撮像ウインドウにおいて第iの撮像を行う。工程S206では、工程S205で得られた第iの撮像をピクセルアレイから読み出して、第1の要素画像信号SEiを生成する。工程S207では、第iの撮像及び第iの要素画像信号SEiの生成を繰り返す。
上記のように、単一の放射パルス及び3個以上の撮像ウインドウを用いて複数回の撮像を行う。この方法によれば、飛行時間TOF1〜TOFnは互いに異なるので、それぞれの飛行時間は、互いに異なる測距範囲をカバーする。また、飛行時間TOF1〜TOFnに対応するn個の撮像タイミングで要素画像信号SE1〜SEnを生成するので、これらの要素画像信号SE1〜SEnの各々は、互いに異なる距離範囲の対象物の距離情報を有する。これらの要素画像信号SE1〜SEnを合成して画像信号SIMAGEを生成するので、広い距離範囲における対象物の距離情報を得ることができる。また、対象物の距離情報を得るために、第1〜第nの撮像タイミングの各々では、撮像ウインドウA及び撮像ウインドウBでピクセルの検出素子に入射する入射放射線に対応する第1及び第2の出力信号S1、S2を生成するので、複数回の飛行時間の測定により、所望の範囲の対象物に関する距離範囲の情報を得ている。故に、広い距離範囲における対象物の距離情報を得るために、放射パルスの幅を広げる必要がない。したがって、個々の飛行時間の測定において、距離分解能を低下されない。
引き続き、いくつかの測定装置の例を説明する。
(例1):レンジシフトタイミング
図15を参照しながら、距離画像センサの一例を説明する。この距離画像センサでは、時間軸に沿ってフレームFrame1〜Frame4が配置されている。フレームFrame1〜Frame4の各々には、撮像ウインドウA、Bが設けられている。図15(a)を参照すると、撮像ウインドウA、Bの幅は100ナノ秒であり、撮像ウインドウAはフレームの始点に合わせて配置されており、撮像ウインドウBは撮像ウインドウAの直後に配置される。フレームFrame1〜Frame4には、それぞれ、パルスPT1〜PT4が設けられている。飛行時間のためのパルスPの幅は25ナノ秒である。パルスPT1はフレームFrame1の始点から75ナノ秒のシフト量でシフトされ、パルスPT2はフレームFrame2の始点から50ナノ秒のシフト量でシフトされ、パルスPT3はフレームFrame3の始点から25ナノ秒のシフト量でシフトされ、パルスPT4はフレームFrame4の始点に設けられている。
25ナノ秒幅のパルスPを用いるとき、計測範囲は3.75メートルである。フレームFrame1を用いてセンサから3.75メートルの範囲を測定可能であり、フレームFrame2を用いて3.75メートルから7.5メートルの範囲を測定可能であり、フレームFrame3を用いて7.5メートルから11.25メートルの範囲を測定可能であり、フレームFrame4を用いて11.25メートルから15メートルの範囲を測定可能である。4パルスを用いた測定範囲は15メートルであり、これは、パルス幅100ナノ秒を用いた測定範囲と同じである。一方、本距離画像センサによれば、パルス幅を短くできるので、パルス幅100ナノ秒を用いた測距に比べて、距離分解能は改善される。
発明者は、図15(b)に示されるように、測距における分解能を見積もった。パルスPの幅は100ナノ秒(比較例)であると共に背景光に応答してフォトゲートが生成する電子(N)は10、10であるとき、それぞれ、距離分解能σは0.040メートル、0.045メートルである。一方、本実施例では、パルスPの幅は25ナノ秒であると共に背景光に応答してフォトゲートが生成する電子(N)は10、10であるとき、それぞれ、距離分解能σは0.010メートル、0.011メートルであった。パルス幅を短くすることによって、距離分解能を小さくできる。
(例2):デューティ比
図16を参照しながら、距離画像センサの一例を説明する。この距離画像センサでは、時間軸に沿ってフレームFrame1〜Frame4が配置されている。フレームFrame1〜Frame4の各々には、撮像ウインドウA、Bが設けられている。撮像ウインドウA、Bの幅は25ナノ秒であり、撮像ウインドウAはフレームの始点から75ナノ秒でシフトされた時刻に合わせて配置されており、撮像ウインドウBは撮像ウインドウAの直後に配置されている。フレームFrame1〜Frame4には、それぞれ、例1と同様に、パルスPT1〜PT4が設けられている。
フレームの幅に対する撮像ウインドウの幅の比率(デューティ比)を小さくして、TOF測定期間における背景光のノイズの影響を低減できる。この低減によって距離分解能を改善できる。例2では、撮像ウインドウの幅が、例1における値に比べて1/4の25ナノ秒であるので、撮像ウインドウにおいて不可避的に取り込まれる背景光を少なくなる。
発明者は、図16(b)に示されるように、測距における分解能を見積もった。読み出し回路のランダムノイズによる電子数(N)及び背景光に応答してフォトゲートによって生成される電子(N)がそれぞれ100、10であり、また光源のパルスのデューティ比が0.1であるとき、100ナノ秒(比較例)のパルスPの距離画像センサの距離分解能を見積もった。距離分解能σは15メートルの測距範囲に対して、約4.5センチメートル以下であった。
また、読み出し回路のランダムノイズによる電子数(N)及び背景光に応答してフォトゲートによって生成され電子(N)がそれぞれ100、10であるとき、25ナノ秒のパルスPの距離画像センサの距離分解能を見積もった。光源パルスのデューティ比が0.1、0.025であるとき、距離分解能σは、それぞれ、15メートルの測距範囲に対して、約1.1センチメートル以下、1センチメートル以下であった。光源パルスのデューティ比を小さくすることによって、距離分解能を小さくできる。
(例3):線形応答領域
図17を参照しながら、距離画像センサの一例を説明する。この距離画像センサでは、時間軸に沿ってフレームFrame1〜Frame7が配置されている。フレームFrame1〜Frame7の各々には、撮像ウインドウA、Bが設けられている。撮像ウインドウA、Bの幅は100ナノ秒であり、撮像ウインドウAはフレームの始点に合わせて配置されており、撮像ウインドウBは撮像ウインドウAの直後に配置されている。フレームFrame1〜Frame7には、例1と同様に、パルスPT1〜PT7が設けられている。撮像ウインドウA、Bの幅は100ナノ秒であり、飛行時間のためのパルスPT1〜PT7の幅は25ナノ秒である。
図17(b)に示されるように、遅れ時間がゼロ秒と10ナノ秒の付近で、ピクセルからの信号が遅れ時間に対する線形な変化から外れている、この非線形性は距離精度を低下させている。遅れ時間の線形応答領域を測距に用いることによって、距離精度を所定の値に維持することができる。パルスPT1〜PT7の幅とシフト量を調整して、パルスPT1〜PT7の各々における線形領域を利用して、遅延時間と距離との関係から距離の決定を行うことができる。
フレームFrame1では、パルスPT1は撮像ウインドウA及び撮像ウインドウBの切り替わり時刻を横切って設けられている。この時刻を基準にして、パルスPT2の立ち下がりは+3ナノ秒でシフトしている。フレームFrame2では、パルスPT2のシフト量は、パルスPT1のシフト量に対して−4ナノ秒でシフトされている。フレームFrame3は、パルスPT3のシフト量は、パルスPT2のシフト量に対して−4ナノ秒でシフトされている。同様に、パルスPT4〜PT7も、それぞれ、隣接フレーム内のパルスPT3〜PT6のシフト量を基準にして所定の調整量(−4ナノ秒)でシフトされている。故に、あるフレーム内の放射パルスのシフト量と隣接フレーム内の放射パルスのシフト量との差は、該放射パルス幅未満である。
この距離画像センサによれば、線形応答領域を用いるので、飛行時間の測定の全範囲において、距離精度を確保できる。
好適な実施の形態において本発明の原理を図示し説明してきたが、本発明は、そのような原理から逸脱することなく配置および詳細において変更され得ることは、当業者によって認識される。本発明は、本実施の形態に開示された特定の構成に限定されるものではない。したがって、特許請求の範囲およびその精神の範囲から来る全ての修正および変更に権利を請求する。
以上説明したように、本実施の形態は、レンジシフト動作に基づくTOF距離画像センサ及び方法に関しており、以下のように構成される。デューティ比の小さい、すなわち、短時間のパルス光を用い、検出する撮像ウインドウの期間以外の期間では電荷を蓄積せずに生成電荷を排出する。この構造に基づき、光パルスの発光タイミングと撮像ウインドウとの関係を相対的にずらして複数回の撮像を行って、複数の要素画像信号を生成する。これらの要素画像信号を合成することによって、所望の距離分解能を保つと共に、距離計測の範囲を広げることができる。また、本実施の形態に係る方法と装置によれば、電荷排出構造をもつ距離画像センサでは、短時間光パルスの発光タイミングを、撮像のための撮像ウインドウに対して、相対的にずらして撮像を行う。これらの画像を合成すると共に、これらの画像により距離を計測する。これによって、高い距離分解能をもちながら、距離計測範囲を広くできる。さらに、本実施の形態に係る距離画像センサ及び方法によれば、複数の撮像タイミングの各々において規定された撮像ウインドウを用いて、撮像タイミング毎の信号をピクセルから取り出す。これによって、1フレーム内の信号として、異なる値でレンジシフトされた複数の要素画像信号を取り出す。さらに、本実施の形態に係る距離画像センサ及び方法によれば、小さいパルス幅の測距パルスと使用するとき、1つの測距パルスでは線形に検出される範囲が狭くなる。これによる距離精度の低下を避けるために、互いのシフト量が異なるようにシフトした複数の測距パルスを用いると共に、測距範囲を互いに重ね合わせるように配列された測距パルスを用いて距離の計測を行う。これは、パルス毎を用いる測距に異なる測距範囲を割り付けると共に、測距パルスのシフト量差が測距パルスのパルス幅未満になるようにパルスを配列する。これによって、広い計測範囲で線形の計測を行うことができる。
図1は本実施の形態に係る飛行時間法による距離画像センサを示す図面である。 図2は、画像信号SIMAGEを表示装置によって表示した画像を示す図面である。 図3は本実施の形態における距離画像センサのピクセル構造を示す図面である。 図4は、ピクセルの動作タイミングを示す図面である。 図5は、ピクセルの動作を概略的に示す図面である。 図6は、画像生成装置の構成を示す図面である。 図7は、ピクセル分配特性を示す図面である。 図8は、短パルスを用いたピクセル分配特性を示す図面である。 図9は放射パルス幅及び撮像ウインドウ幅と距離分解能との関係の図面である。 図10は、一実施例の測距タイミングを示す図面である。 図11は、ピクセルアレイと放射源とを用いて対象物に関する距離情報を含む撮像信号を飛行時間法により生成する方法の主要な工程を示す図面である。 図12は、単一のフレームを用いる測距タイミング、及びパルスの遅延に応じて選択ゲートTX1〜TX4の各々に生成される信号波形を示す図面である。 図13は、本実施例に適用可能なピクセルの構造の平面図を示す図面である。 図14は、複数のピクセルを含むピクセルアレイと飛行時間を計測するための放射源とを用いて対象物に関する距離情報を含む撮像信号を飛行時間法により生成する方法における主要な工程を示す図面である。 図15は、距離画像センサの一例におけるタイミングを示す図面である。 図16は、距離画像センサの一例におけるタイミングを示す図面である。 図17は、距離画像センサの一例におけるタイミングを示す図面である。
符号の説明
11…距離画像センサ、13…放射源、15…画像生成装置、17…処理装置、13a…半導体発光素子、13b…駆動回路、21…制御装置、23…ピクセルアレイ、25…信号生成装置、27…ピクセル、SE1〜SEn…要素画像信号、SIMAGE…画像信号、WPU1、WPU2…第1及び第2の撮像ウインドウ、

Claims (11)

  1. 飛行時間法を用いる距離画像センサであって、
    飛行時間を計測するために対象物に照射する放射パルスを発生する放射源と、
    互いに異なる第1〜第nの飛行時間(n>1)に対応する第1〜第nの撮像タイミングを示す制御信号を生成する制御装置と、入射放射線に感応して電荷を生成する検出素子を含む複数のピクセルのピクセルアレイと、前記第1〜第nの撮像タイミングにそれぞれ対応する第1〜第nの要素画像信号を前記制御信号に応答して生成する信号生成装置とを有する画像生成装置と、
    前記第1〜第nの要素画像信号を合成して、前記対象物に関する距離情報を含む画像信号を生成する処理装置と
    を備え、
    各ピクセルの前記検出素子は、前記第1〜第nの撮像タイミングの各々における第1及び第2の撮像ウインドウにおいて該検出素子に入射する入射放射線に応じてそれぞれ第1及び第2の電荷を生成し、
    各ピクセルは、前記第1及び第2の撮像ウインドウに対応してそれぞれ前記第1及び第2の電荷から第1及び第2の要素信号を提供し、
    前記第1の撮像ウインドウは、基準時刻から規定された撮像時刻の直前にあり所定の時間幅を有しており、
    前記第2の撮像ウインドウは、前記撮像時刻の直後にあり所定の時間幅を有しており、
    前記第iの要素画像信号(1≦i≦n)は、前記第iの撮像タイミングにおける各ピクセルの前記第1及び第2の要素信号を含む、ことを特徴とする距離画像センサ。
  2. 前記放射源は、時間軸に関して順に配列された第1〜第nのフレームそれぞれにおいて対象物に照射される第1〜第nのパルスの列を前記放射パルスとして提供し、
    前記第1〜第nのパルスは、それぞれ、前記第1〜第nのフレームの始点から、互いに異なるシフト量でシフトされており、
    前記第1〜第nのフレームの各々において、前記撮像時刻は各フレームの始点から所定の時間で規定され、
    前記第1〜第nのフレームの各々は、前記第1及び第2の撮像ウインドウを含み、
    前記第1〜第nのパルスの各々の持続時間は、前記第1の撮像ウインドウの期間以下であり、
    前記第1〜第nのパルスの各々の持続時間は、前記第2の撮像ウインドウの期間以下である、ことを特徴とする請求項1に記載された距離画像センサ。
  3. 前記第1〜第nのフレームの各々は、前記第1及び第2の撮像ウインドウと、前記第1及び第2の撮像ウインドウと異なる電荷廃棄ウインドウとを含み、
    前記ピクセルは、前記電荷廃棄ウインドウにおいて、前記検出素子の電荷を廃棄する、ことを特徴とする請求項2に記載された距離画像センサ。
  4. 前記ピクセルは、前記第1〜第nの撮像タイミングにおける前記第1及び第2の撮像ウインドウにおいてそれぞれ導通し前記検出素子に接続された第1及び第2の転送ゲートと、前記検出素子に接続され前記電荷廃棄ウインドウに導通する第1及び第2の廃棄ゲートとを含み、
    前記検出素子は前記第1の転送ゲートと前記第2の転送ゲートとの間に位置し、
    前記検出素子は前記第1の廃棄ゲートと前記第2の廃棄ゲートとの間に位置する、ことを特徴とする請求項3に記載された距離画像センサ。
  5. 前記第1〜第nのパルスのパルス幅は、線形応答領域を用いて前記距離情報を含む画像信号を生成可能なように規定されている、ことを特徴とする請求項2〜請求項4のいずれか一項に記載された距離画像センサ。
  6. 前記放射源は、単一のフレームに単一のパルスを前記放射パルスとして提供し、
    前記第1〜第nの撮像タイミングは、前記フレーム内に位置し、
    前記第1〜第nの撮像タイミングの前記撮像時刻は、互いに異なるシフト量で前記単一のフレームの始点からシフトされており、
    前記第1の撮像タイミングの前記撮像時刻の直前には前記第1の撮像ウインドウが設けられ、
    前記第nの撮像タイミングの前記撮像時刻の直後には前記第2の撮像ウインドウが設けられ、
    前記第1〜第nの撮像タイミングのうちの第iの撮像タイミング(1≦i<n−1)と第i+1の撮像タイミングとの間には、前記検出素子に入射する入射放射線に応じた電荷を取り込むためのウインドウが規定されており、
    前記ウインドウは、前記第1及び第2の撮像ウインドウのために兼用され、
    前記パルスの持続時間は、前記第1の撮像ウインドウの期間以下であり、
    前記パルスの各々の持続時間は、前記第2の撮像ウインドウの期間以下である、ことを特徴とする請求項1に記載された距離画像センサ。
  7. 前記単一のフレームは、前記第1及び第2の撮像ウインドウと、前記第1の撮像ウインドウ及び前記第2の撮像ウインドウと異なる電荷廃棄ウインドウとを含み、
    前記ピクセルは、前記電荷廃棄ウインドウにおいて、前記検出素子の電荷を廃棄する、ことを特徴とする請求項6に記載された距離画像センサ。
  8. 前記ピクセルは、前記検出素子の一方の側に配置された第1の群の第1〜第jの転送ゲートと、前記検出素子の他方の側に配置された第2の群の第j+1〜第n+1の転送ゲートと、前記検出素子に接続され前記電荷廃棄ウインドウに導通する第1及び第2の廃棄ゲートとを含み、
    前記第1〜第n+1の転送ゲートは、前記第1〜第nの撮像タイミングのいずれかにおいて導通し、
    前記検出素子は前記第1の廃棄ゲートと前記第2の廃棄ゲートとの間に位置する、ことを特徴とする請求項7に記載された距離画像センサ。
  9. 複数のピクセルを含むピクセルアレイと飛行時間を計測するための放射源とを用いて対象物に関する距離情報を含む撮像信号を飛行時間法により生成する方法であって、
    前記ピクセルアレイの検出素子を用いて、互いに異なる第1〜第nの飛行時間(n>1)で複数の撮像を行って、第1〜第nの要素画像信号を生成するステップと、
    前記第1〜第nの要素画像信号を合成して、前記対象物に関する距離情報を含む画像信号を生成するステップと
    を備え、
    各ピクセルは、前記第1〜第nの撮像タイミングにおける第1及び第2の撮像ウインドウにおいてそれぞれ第1及び第2の電荷を生成し、
    前記第1の撮像ウインドウは、基準時刻から規定された撮像時刻の直前にあり所定の時間幅を有しており、
    前記第2の撮像ウインドウは、前記撮像時刻の直後にあり所定の時間幅を有しており、
    各ピクセルは、前記第1及び第2の電荷の量にそれぞれ対応する第1及び第2の要素信号を提供し、
    前記第iの要素画像信号(1≦i≦n)は、前記第iの撮像タイミングにおける前記複数のピクセルの前記第1及び第2の要素信号を含む、ことを特徴とする方法。
  10. 前記第1〜第nの要素画像信号を生成する前記ステップは、飛行時間を計測するための放射パルスを対象物に照射するステップを含み、
    前記放射パルスの照射では、時間軸に関して順に配列された第1〜第nのフレームそれぞれにおいて対象物に照射するための第1〜第nのパルスが出射され、
    前記第1〜第nのパルスは、それぞれ、前記第1〜第nのフレームの始点から、互いに異なるシフト量でシフトされており、
    前記第1〜第nのフレームの各々において、前記基準時刻は各フレームの始点であり、
    前記第1〜第nのフレームの各々は、前記第1及び前記第2の撮像ウインドウを含み、
    前記第1〜第nのパルスの各々の持続時間は、前記第1の撮像ウインドウの期間以下であり、
    前記第1〜第nのパルスの各々の持続時間は、前記第2の撮像ウインドウの期間以下である、ことを特徴とする請求項9に記載された方法。
  11. 前記第1〜第nの要素画像信号を生成する前記ステップは、飛行時間を計測するための放射パルスを対象物に照射するステップを含み、
    前記放射パルス照射では、単一のフレームに単一のパルスが出射され、
    前記第1〜第nの撮像タイミングは、前記単一のフレーム内に位置し、
    前記第1〜第nの撮像タイミングは、前記単一のフレームの始点から、互いに異なるシフト量でシフトされており、
    前記第1及び第2の撮像ウインドウの各々は、前記第1〜第nの撮像タイミングのうち隣接する撮像タイミングの間に設けられている、ことを特徴とする請求項9に記載された方法。
JP2008196616A 2008-07-30 2008-07-30 距離画像センサ、及び撮像信号を飛行時間法により生成する方法 Active JP5585903B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2008196616A JP5585903B2 (ja) 2008-07-30 2008-07-30 距離画像センサ、及び撮像信号を飛行時間法により生成する方法
US13/056,697 US8537218B2 (en) 2008-07-30 2009-07-30 Distance image sensor and method for generating image signal by time-of-flight method
PCT/JP2009/063582 WO2010013779A1 (ja) 2008-07-30 2009-07-30 距離画像センサ、及び撮像信号を飛行時間法により生成する方法
EP09803021A EP2322953B1 (en) 2008-07-30 2009-07-30 Distance image sensor and method for generating image signal by time-of-flight method
KR1020117002911A KR101508410B1 (ko) 2008-07-30 2009-07-30 거리 화상 센서, 및 촬상 신호를 비행시간법에 의해 생성하는 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008196616A JP5585903B2 (ja) 2008-07-30 2008-07-30 距離画像センサ、及び撮像信号を飛行時間法により生成する方法

Publications (2)

Publication Number Publication Date
JP2010032425A true JP2010032425A (ja) 2010-02-12
JP5585903B2 JP5585903B2 (ja) 2014-09-10

Family

ID=41610477

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008196616A Active JP5585903B2 (ja) 2008-07-30 2008-07-30 距離画像センサ、及び撮像信号を飛行時間法により生成する方法

Country Status (5)

Country Link
US (1) US8537218B2 (ja)
EP (1) EP2322953B1 (ja)
JP (1) JP5585903B2 (ja)
KR (1) KR101508410B1 (ja)
WO (1) WO2010013779A1 (ja)

Cited By (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012084697A (ja) * 2010-10-12 2012-04-26 Hamamatsu Photonics Kk 距離センサ及び距離画像センサ
JP2012216692A (ja) * 2011-03-31 2012-11-08 Honda Motor Co Ltd 単位画素及び固体撮像装置並びに単位画素の信号加算方法
JP2013076645A (ja) * 2011-09-30 2013-04-25 Stanley Electric Co Ltd 距離画像生成装置および距離画像生成方法
US8569804B2 (en) 2011-03-31 2013-10-29 Honda Motor Co., Ltd. Light receiving device
US8748951B2 (en) 2011-03-31 2014-06-10 Honda Motor Co., Ltd. Solid-state image sensing device
WO2014132767A1 (ja) * 2013-02-28 2014-09-04 株式会社テクノロジーハブ 距離画像センサ
JP2014185995A (ja) * 2013-03-25 2014-10-02 National Univ Corp Shizuoka Univ 画素回路及び撮像素子
JP2015043488A (ja) * 2013-08-26 2015-03-05 清水建設株式会社 遠隔操作装置及びそれを用いた遠隔施工方法
US9018573B2 (en) 2011-03-31 2015-04-28 Honda Motor Co., Ltd. Solid-state image sensing device with a change-over switch
WO2015118884A1 (ja) * 2014-02-07 2015-08-13 国立大学法人静岡大学 電荷変調素子及び固体撮像装置
JP2015210176A (ja) * 2014-04-25 2015-11-24 キヤノン株式会社 撮像装置及び撮像装置の駆動方法
US9204143B2 (en) 2013-03-15 2015-12-01 Samsung Electronics Co., Ltd. Image sensor, operation method thereof, and system including the same
JP2016090435A (ja) * 2014-11-06 2016-05-23 株式会社デンソー 光飛行型測距装置
JP2016095234A (ja) * 2014-11-14 2016-05-26 株式会社デンソー 光飛行型測距装置
JP2016099233A (ja) * 2014-11-21 2016-05-30 株式会社デンソー 光飛行型測距装置
KR101666020B1 (ko) 2010-06-25 2016-10-25 삼성전자주식회사 깊이 영상 생성 장치 및 그 방법
WO2016208214A1 (ja) * 2015-06-24 2016-12-29 株式会社村田製作所 距離センサ
JP2017022259A (ja) * 2015-07-10 2017-01-26 株式会社ニコン 撮像素子および撮像装置
KR20170121241A (ko) * 2015-03-31 2017-11-01 구글 엘엘씨 비행 시간 측정의 프레임 레이트를 증가시키기 위한 방법 및 장치
WO2019078366A1 (ja) * 2017-10-20 2019-04-25 国立大学法人静岡大学 距離画像測定装置及び距離画像測定方法
JP2019109240A (ja) * 2017-12-19 2019-07-04 三星電子株式会社Samsung Electronics Co.,Ltd. ピクセル及びイメージセンサーの動作方法並びにシステム
WO2020021590A1 (ja) * 2018-07-23 2020-01-30 オリンパス株式会社 内視鏡装置
CN110779459A (zh) * 2018-07-24 2020-02-11 三星电子株式会社 图像传感器、成像单元和生成灰阶图像的方法
WO2020116035A1 (ja) * 2018-12-06 2020-06-11 パナソニックIpマネジメント株式会社 距離情報取得装置、距離情報取得方法、およびプログラム
WO2020116036A1 (ja) * 2018-12-06 2020-06-11 パナソニックIpマネジメント株式会社 物体認識装置、物体認識方法、およびプログラム
US10838066B2 (en) 2015-12-08 2020-11-17 Panasonic Intellectual Property Management Co., Ltd. Solid-state imaging device, distance measurement device, and distance measurement method
WO2020262476A1 (ja) 2019-06-25 2020-12-30 国立大学法人静岡大学 距離画像測定装置
US11169270B2 (en) 2017-03-29 2021-11-09 Panasonic Intellectual Property Management Co., Ltd. Solid-state imaging device
JP2022019558A (ja) * 2020-07-15 2022-01-27 三星電子株式会社 マルチタブ構造を有する距離ピクセル及びこれを含むタイムオブフライトセンサ
US11294039B2 (en) * 2018-07-24 2022-04-05 Samsung Electronics Co., Ltd. Time-resolving image sensor for range measurement and 2D greyscale imaging
US11442169B2 (en) 2017-08-08 2022-09-13 National University Corporation Shizuoka University Distance-image-measuring apparatus and distance-image-measuring method
WO2023199979A1 (ja) * 2022-04-13 2023-10-19 凸版印刷株式会社 距離画像撮像装置、及び距離画像撮像方法
JP2023156731A (ja) * 2022-04-13 2023-10-25 Toppanホールディングス株式会社 距離画像撮像装置、及び距離画像撮像方法
US12422530B2 (en) 2019-11-01 2025-09-23 Miraxia Edge Technology Corporation Ranging device and ranging method

Families Citing this family (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102009037596B4 (de) 2009-08-14 2014-07-24 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Pixelstruktur, System und Verfahren zur optischen Abstandsmessung sowie Steuerschaltung für die Pixelstruktur
GB2486208A (en) 2010-12-06 2012-06-13 Melexis Tessenderlo Nv Demodulation sensor and method for detection and demodulation of temporarily modulated electromagnetic fields for use in Time of Flight applications.
GB2492848A (en) * 2011-07-15 2013-01-16 Softkinetic Sensors Nv Optical distance measurement
KR101863626B1 (ko) 2011-11-02 2018-07-06 삼성전자주식회사 영상 처리 장치 및 방법
US8642938B2 (en) 2012-01-13 2014-02-04 Omnivision Technologies, Inc. Shared time of flight pixel
US8686367B2 (en) 2012-03-01 2014-04-01 Omnivision Technologies, Inc. Circuit configuration and method for time of flight sensor
US20130235160A1 (en) * 2012-03-06 2013-09-12 Microsoft Corporation Optical pulse shaping
US10324033B2 (en) 2012-07-20 2019-06-18 Samsung Electronics Co., Ltd. Image processing apparatus and method for correcting an error in depth
US9786252B2 (en) 2012-09-10 2017-10-10 Samsung Electronics Co., Ltd. Method and apparatus for suppressing background light in time of flight sensor
FR2998683B1 (fr) * 2012-11-27 2016-01-15 Saint Louis Inst Procede d imagerie 3d
KR102007277B1 (ko) 2013-03-11 2019-08-05 삼성전자주식회사 3차원 이미지 센서의 거리 픽셀 및 이를 포함하는 3차원 이미지 센서
US9134114B2 (en) 2013-03-11 2015-09-15 Texas Instruments Incorporated Time of flight sensor binning
US10216266B2 (en) * 2013-03-14 2019-02-26 Qualcomm Incorporated Systems and methods for device interaction based on a detected gaze
KR102061699B1 (ko) 2013-06-19 2020-01-02 삼성전자주식회사 이미지 센서, 이를 포함하는 이미지 처리 시스템 및 이의 동작 방법
CN103412314B (zh) * 2013-08-01 2015-07-29 清华大学 一种基于天体辐射信号相干性的成像方法
US9182490B2 (en) 2013-11-27 2015-11-10 Semiconductor Components Industries, Llc Video and 3D time-of-flight image sensors
US9523765B2 (en) * 2014-07-14 2016-12-20 Omnivision Technologies, Inc. Pixel-level oversampling for a time of flight 3D image sensor with dual range measurements
US10422879B2 (en) 2014-11-14 2019-09-24 Denso Corporation Time-of-flight distance measuring device
CN104914446B (zh) * 2015-06-19 2017-06-27 南京理工大学 基于光子计数的三维距离图像时域实时去噪方法
US10620300B2 (en) 2015-08-20 2020-04-14 Apple Inc. SPAD array with gated histogram construction
EP3159711A1 (en) * 2015-10-23 2017-04-26 Xenomatix NV System and method for determining a distance to an object
JPWO2017085916A1 (ja) * 2015-11-16 2018-09-06 パナソニックIpマネジメント株式会社 撮像装置、及びそれに用いられる固体撮像素子
FR3043796A1 (ja) 2015-11-16 2017-05-19 Stmicroelectronics (Grenoble 2) Sas
FR3043797A1 (ja) * 2015-11-16 2017-05-19 Stmicroelectronics (Grenoble 2) Sas
KR102512729B1 (ko) * 2015-12-24 2023-03-22 엘지전자 주식회사 야간 영상표시 장치 및 그 영상처리 방법
WO2017138032A1 (en) 2016-02-08 2017-08-17 Denso Corporation Time-of-flight distance measuring device and method for detecting multipath error
JP6631718B2 (ja) 2016-02-08 2020-01-15 株式会社デンソー マルチパス誤差を検出するための飛行時間型距離測定装置及び方法
WO2017141957A1 (ja) 2016-02-17 2017-08-24 パナソニックIpマネジメント株式会社 距離測定装置
US12146960B2 (en) * 2016-03-01 2024-11-19 Brightway Vision Ltd. Gated imaging apparatus, system and method
EP3301477A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System for determining a distance to an object
EP3301478A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System for determining a distance to an object
EP3301480A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System and method for determining a distance to an object
EP3301479A1 (en) 2016-10-03 2018-04-04 Xenomatix NV Method for subtracting background light from an exposure value of a pixel in an imaging array, and pixel for use in same
US10291895B2 (en) 2016-10-25 2019-05-14 Omnivision Technologies, Inc. Time of flight photosensor
EP3343246A1 (en) 2016-12-30 2018-07-04 Xenomatix NV System for characterizing surroundings of a vehicle
EP3392674A1 (en) * 2017-04-23 2018-10-24 Xenomatix NV A pixel structure
JP2018185179A (ja) * 2017-04-25 2018-11-22 株式会社リコー 測距装置、監視装置、3次元計測装置、移動体、ロボット及び測距方法
EP3646057A1 (en) 2017-06-29 2020-05-06 Apple Inc. Time-of-flight depth mapping with parallax compensation
EP3550329A1 (en) 2018-04-04 2019-10-09 Xenomatix NV System and method for determining a distance to an object
JP7253556B2 (ja) 2017-12-15 2023-04-06 ゼノマティクス・ナムローゼ・フエンノートシャップ 物体までの距離を測定するためのシステムおよび方法
WO2019125349A1 (en) 2017-12-18 2019-06-27 Montrose Laboratories Llc Time-of-flight sensing using an addressable array of emitters
CN113330328B (zh) 2019-02-11 2024-06-14 苹果公司 深度感测方法及装置
KR102646902B1 (ko) * 2019-02-12 2024-03-12 삼성전자주식회사 거리 측정을 위한 이미지 센서
US11500094B2 (en) 2019-06-10 2022-11-15 Apple Inc. Selection of pulse repetition intervals for sensing time of flight
CN110276286B (zh) * 2019-06-13 2022-03-04 中国电子科技集团公司第二十八研究所 一种基于tx2的嵌入式全景视频拼接系统
US11555900B1 (en) 2019-07-17 2023-01-17 Apple Inc. LiDAR system with enhanced area coverage
KR102887078B1 (ko) 2019-11-07 2025-11-18 삼성전자주식회사 깊이의 측정 범위에 기초하여 동작하는 센서 및 이를 포함하는 센싱 시스템
US11733359B2 (en) * 2019-12-03 2023-08-22 Apple Inc. Configurable array of single-photon detectors
KR20220018215A (ko) * 2020-08-06 2022-02-15 삼성전자주식회사 비행 거리 센서 및 비행 거리 센서의 거리 측정 방법
DE102020132868A1 (de) * 2020-12-09 2022-06-09 Ifm Electronic Gmbh Lichtlaufzeitpixel mit Ladungsspeicher
US12442926B2 (en) 2021-02-04 2025-10-14 Apple Inc. Time-of-flight depth sensing with improved linearity
US12196860B2 (en) 2021-03-02 2025-01-14 Apple Inc. Depth sensor calibration using internal reflections
US11681028B2 (en) 2021-07-18 2023-06-20 Apple Inc. Close-range measurement of time of flight using parallax shift

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09178853A (ja) * 1995-12-25 1997-07-11 Hitachi Ltd イメージングレーザー測距装置
JP2004538491A (ja) * 2001-08-06 2004-12-24 シーメンス アクチエンゲゼルシヤフト 三次元距離画像を記録するための方法及び装置
WO2007026779A1 (ja) * 2005-08-30 2007-03-08 National University Corporation Shizuoka University 半導体測距素子及び固体撮像装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR900019510A (ko) * 1989-05-31 1990-12-24 강진구 디지탈 화상처리장치에 있어서 신호지연 조정방식
DE4440613C1 (de) 1994-11-14 1996-07-25 Leica Ag Vorrichtung und Verfahren zur Detektion und Demodulation eines intensitätsmodulierten Strahlungsfeldes
WO1997028641A1 (en) 1996-01-22 1997-08-07 California Institute Of Technology Active pixel sensor array with multiresolution readout
US5986297A (en) 1996-05-22 1999-11-16 Eastman Kodak Company Color active pixel sensor with electronic shuttering, anti-blooming and low cross-talk
JP3874135B2 (ja) 1997-12-05 2007-01-31 株式会社ニコン 固体撮像素子
US6323942B1 (en) 1999-04-30 2001-11-27 Canesta, Inc. CMOS-compatible three-dimensional image sensor IC
JP4530571B2 (ja) * 2001-04-16 2010-08-25 Hoya株式会社 3次元画像検出装置
CA2554955C (en) * 2004-02-04 2010-09-14 Elbit Systems Ltd. Gated imaging
JP4280822B2 (ja) 2004-02-18 2009-06-17 国立大学法人静岡大学 光飛行時間型距離センサ
WO2008152647A2 (en) * 2007-06-15 2008-12-18 Ben Gurion University Of The Negev Research And Development Authority Three-dimensional imaging method and apparatus

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09178853A (ja) * 1995-12-25 1997-07-11 Hitachi Ltd イメージングレーザー測距装置
JP2004538491A (ja) * 2001-08-06 2004-12-24 シーメンス アクチエンゲゼルシヤフト 三次元距離画像を記録するための方法及び装置
WO2007026779A1 (ja) * 2005-08-30 2007-03-08 National University Corporation Shizuoka University 半導体測距素子及び固体撮像装置

Cited By (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101666020B1 (ko) 2010-06-25 2016-10-25 삼성전자주식회사 깊이 영상 생성 장치 및 그 방법
US8976338B2 (en) 2010-10-12 2015-03-10 Hamamatsu Photonics K.K. Range sensor and range image sensor
JP2012084697A (ja) * 2010-10-12 2012-04-26 Hamamatsu Photonics Kk 距離センサ及び距離画像センサ
KR102052753B1 (ko) 2010-10-12 2019-12-05 하마마츠 포토닉스 가부시키가이샤 거리 센서 및 거리 화상 센서
KR20130121691A (ko) * 2010-10-12 2013-11-06 하마마츠 포토닉스 가부시키가이샤 거리 센서 및 거리 화상 센서
US9018573B2 (en) 2011-03-31 2015-04-28 Honda Motor Co., Ltd. Solid-state image sensing device with a change-over switch
US8569804B2 (en) 2011-03-31 2013-10-29 Honda Motor Co., Ltd. Light receiving device
US8748951B2 (en) 2011-03-31 2014-06-10 Honda Motor Co., Ltd. Solid-state image sensing device
US9054014B2 (en) 2011-03-31 2015-06-09 Honda Motor Co., Ltd. Unit pixel for accurately removing reset noise, solid-state image sensing device, and method for summing unit pixel signals
JP2012216692A (ja) * 2011-03-31 2012-11-08 Honda Motor Co Ltd 単位画素及び固体撮像装置並びに単位画素の信号加算方法
JP2013076645A (ja) * 2011-09-30 2013-04-25 Stanley Electric Co Ltd 距離画像生成装置および距離画像生成方法
JPWO2014132767A1 (ja) * 2013-02-28 2017-02-02 株式会社テクノロジーハブ 距離画像センサ
WO2014132767A1 (ja) * 2013-02-28 2014-09-04 株式会社テクノロジーハブ 距離画像センサ
US9204143B2 (en) 2013-03-15 2015-12-01 Samsung Electronics Co., Ltd. Image sensor, operation method thereof, and system including the same
JP2014185995A (ja) * 2013-03-25 2014-10-02 National Univ Corp Shizuoka Univ 画素回路及び撮像素子
JP2015043488A (ja) * 2013-08-26 2015-03-05 清水建設株式会社 遠隔操作装置及びそれを用いた遠隔施工方法
WO2015118884A1 (ja) * 2014-02-07 2015-08-13 国立大学法人静岡大学 電荷変調素子及び固体撮像装置
US10230914B2 (en) 2014-02-07 2019-03-12 National University Corporation Shizuoka University Charge modulation element and solid-state imaging device
JPWO2015118884A1 (ja) * 2014-02-07 2017-03-23 国立大学法人静岡大学 電荷変調素子及び固体撮像装置
JP2015210176A (ja) * 2014-04-25 2015-11-24 キヤノン株式会社 撮像装置及び撮像装置の駆動方法
JP2016090435A (ja) * 2014-11-06 2016-05-23 株式会社デンソー 光飛行型測距装置
JP2016095234A (ja) * 2014-11-14 2016-05-26 株式会社デンソー 光飛行型測距装置
JP2016099233A (ja) * 2014-11-21 2016-05-30 株式会社デンソー 光飛行型測距装置
KR20170121241A (ko) * 2015-03-31 2017-11-01 구글 엘엘씨 비행 시간 측정의 프레임 레이트를 증가시키기 위한 방법 및 장치
JPWO2016208214A1 (ja) * 2015-06-24 2017-10-26 株式会社村田製作所 距離センサ
WO2016208214A1 (ja) * 2015-06-24 2016-12-29 株式会社村田製作所 距離センサ
US10794695B2 (en) 2015-06-24 2020-10-06 Murata Manufacturing Co., Ltd. Range sensor
JP2017022259A (ja) * 2015-07-10 2017-01-26 株式会社ニコン 撮像素子および撮像装置
US10838066B2 (en) 2015-12-08 2020-11-17 Panasonic Intellectual Property Management Co., Ltd. Solid-state imaging device, distance measurement device, and distance measurement method
US11169270B2 (en) 2017-03-29 2021-11-09 Panasonic Intellectual Property Management Co., Ltd. Solid-state imaging device
US11442169B2 (en) 2017-08-08 2022-09-13 National University Corporation Shizuoka University Distance-image-measuring apparatus and distance-image-measuring method
JPWO2019078366A1 (ja) * 2017-10-20 2020-12-03 国立大学法人静岡大学 距離画像測定装置及び距離画像測定方法
US11405577B2 (en) 2017-10-20 2022-08-02 National University Corporation Shizuoka University Distance image measurement device and distance image measurement method
JP7194443B2 (ja) 2017-10-20 2022-12-22 国立大学法人静岡大学 距離画像測定装置及び距離画像測定方法
WO2019078366A1 (ja) * 2017-10-20 2019-04-25 国立大学法人静岡大学 距離画像測定装置及び距離画像測定方法
JP2019109240A (ja) * 2017-12-19 2019-07-04 三星電子株式会社Samsung Electronics Co.,Ltd. ピクセル及びイメージセンサーの動作方法並びにシステム
WO2020021590A1 (ja) * 2018-07-23 2020-01-30 オリンパス株式会社 内視鏡装置
JPWO2020021590A1 (ja) * 2018-07-23 2021-08-02 オリンパス株式会社 内視鏡装置
US11992192B2 (en) 2018-07-23 2024-05-28 Olympus Corporation Endoscope apparatus
US11988777B2 (en) * 2018-07-24 2024-05-21 Samsung Electronics Co., Ltd. Time-resolving image sensor for range measurement and 2D greyscale imaging
CN110779459B (zh) * 2018-07-24 2022-08-05 三星电子株式会社 图像传感器、成像单元和生成灰阶图像的方法
TWI801572B (zh) * 2018-07-24 2023-05-11 南韓商三星電子股份有限公司 影像感測器、成像單元及生成灰階影像的方法
US11294039B2 (en) * 2018-07-24 2022-04-05 Samsung Electronics Co., Ltd. Time-resolving image sensor for range measurement and 2D greyscale imaging
US20220146683A1 (en) * 2018-07-24 2022-05-12 Samsung Electronics Co., Ltd. Time-resolving image sensor for range measurement and 2d greyscale imaging
CN110779459A (zh) * 2018-07-24 2020-02-11 三星电子株式会社 图像传感器、成像单元和生成灰阶图像的方法
WO2020116035A1 (ja) * 2018-12-06 2020-06-11 パナソニックIpマネジメント株式会社 距離情報取得装置、距離情報取得方法、およびプログラム
US12222421B2 (en) 2018-12-06 2025-02-11 Panasonic Intellectual Property Management Co., Ltd. Object recognition apparatus, object recognition method, and non-transitory computer readable medium
WO2020116036A1 (ja) * 2018-12-06 2020-06-11 パナソニックIpマネジメント株式会社 物体認識装置、物体認識方法、およびプログラム
US12146955B2 (en) 2018-12-06 2024-11-19 Panasonic Intellectual Property Management Co., Ltd. Range-information acquiring apparatus, range-information acquiring method, and non-transitory computer-readable medium
JP7531140B2 (ja) 2018-12-06 2024-08-09 パナソニックIpマネジメント株式会社 距離情報取得装置、距離情報取得方法、およびプログラム
JPWO2020116035A1 (ja) * 2018-12-06 2021-10-28 パナソニックIpマネジメント株式会社 距離情報取得装置、距離情報取得方法、およびプログラム
WO2020262476A1 (ja) 2019-06-25 2020-12-30 国立大学法人静岡大学 距離画像測定装置
US12429585B2 (en) 2019-06-25 2025-09-30 National University Corporation Shizuoka University Distance image measuring device
US12422530B2 (en) 2019-11-01 2025-09-23 Miraxia Edge Technology Corporation Ranging device and ranging method
CN114019527A (zh) * 2020-07-15 2022-02-08 三星电子株式会社 具有多抽头结构的深度像素和包括深度像素的飞行时间传感器
JP2022019558A (ja) * 2020-07-15 2022-01-27 三星電子株式会社 マルチタブ構造を有する距離ピクセル及びこれを含むタイムオブフライトセンサ
JP2023156731A (ja) * 2022-04-13 2023-10-25 Toppanホールディングス株式会社 距離画像撮像装置、及び距離画像撮像方法
WO2023199979A1 (ja) * 2022-04-13 2023-10-19 凸版印刷株式会社 距離画像撮像装置、及び距離画像撮像方法
JP7790260B2 (ja) 2022-04-13 2025-12-23 Toppanホールディングス株式会社 距離画像撮像装置、及び距離画像撮像方法

Also Published As

Publication number Publication date
US8537218B2 (en) 2013-09-17
US20110157354A1 (en) 2011-06-30
KR20110044862A (ko) 2011-05-02
EP2322953A1 (en) 2011-05-18
JP5585903B2 (ja) 2014-09-10
EP2322953B1 (en) 2013-01-30
KR101508410B1 (ko) 2015-04-07
EP2322953A4 (en) 2012-01-25
WO2010013779A1 (ja) 2010-02-04

Similar Documents

Publication Publication Date Title
JP5585903B2 (ja) 距離画像センサ、及び撮像信号を飛行時間法により生成する方法
JP7657885B2 (ja) 光検出装置および光検出システム
JP6501403B2 (ja) イメージセンサ
US11543501B2 (en) Method for subtracting background light from an exposure value of a pixel in an imaging array, and pixel for use in same
US9025139B2 (en) Photoelectric conversion element, light receiving device, light receiving system, and distance measuring device
JP6265346B2 (ja) 距離計測装置
JP7242234B2 (ja) 光検出装置、光検出システム
US8947645B2 (en) Photoelectric conversion element, light receiving device, light receiving system, and distance measuring device
US10498991B2 (en) High dynamic range pixel and a method for operating it
US8947646B2 (en) Photoelectric conversion element, light receiving device, light receiving system, and distance measuring device
CN103155150B (zh) 距离传感器以及距离图像传感器
JP7114244B2 (ja) 光検出装置、光検出システム、及び移動体
JP2020150128A (ja) センサ及び距離計測装置
JP2022049838A (ja) 光検出器及び距離測定装置
JP7182978B2 (ja) 光検出装置、光検出システム
CN112868108B (zh) 光检测元件和光检测装置
JP6953595B1 (ja) 距離画像取得装置及び距離画像取得方法
WO2013128723A1 (ja) 距離センサ及び距離画像センサ
Halin et al. A review on solid state time of flight TOF range image sensors
WO2023161529A1 (en) Depth scanning image sensor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140708

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140711

R150 Certificate of patent or registration of utility model

Ref document number: 5585903

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250