JP2023037863A - 距離画像撮像装置及び距離画像撮像方法 - Google Patents

距離画像撮像装置及び距離画像撮像方法 Download PDF

Info

Publication number
JP2023037863A
JP2023037863A JP2021144666A JP2021144666A JP2023037863A JP 2023037863 A JP2023037863 A JP 2023037863A JP 2021144666 A JP2021144666 A JP 2021144666A JP 2021144666 A JP2021144666 A JP 2021144666A JP 2023037863 A JP2023037863 A JP 2023037863A
Authority
JP
Japan
Prior art keywords
distance
charge
pulse width
light
pulse
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021144666A
Other languages
English (en)
Inventor
邦広 畠山
Kunihiro Hatakeyama
弘光 針生
Hiromitsu Hario
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toppan Inc
Original Assignee
Toppan Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toppan Printing Co Ltd filed Critical Toppan Printing Co Ltd
Priority to JP2021144666A priority Critical patent/JP2023037863A/ja
Priority to PCT/JP2022/033259 priority patent/WO2023033170A1/ja
Priority to CN202280060326.6A priority patent/CN117916623A/zh
Publication of JP2023037863A publication Critical patent/JP2023037863A/ja
Priority to US18/596,019 priority patent/US20240210535A1/en
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4861Circuits for detection, sampling, integration or read-out
    • G01S7/4863Detector arrays, e.g. charge-transfer gates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/484Transmitters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

【課題】光パルスの波形が鈍ってパルス幅が短く変形しても、2個の電荷蓄積部のいずれかのみに電荷が蓄積される状態を防止し、電荷蓄積部の電荷量の比から得る距離と、実際の距離との誤差を低減する距離画像撮像装置を提供する。【解決手段】本発明は、光パルスを照射する光源部と、入射光に応じた電荷を発生する光電変換素子と、電荷を蓄積する電荷蓄積部を備える複数の画素回路と、光パルスに同期したタイミングで電荷蓄積部に転送トランジスタを介し、光電変換素子で発生した電荷を振分ける画素駆動回路とを有する受光部と、反射光で生成されて光電変換素子から転送トランジスタで振分けられて電荷蓄積部に蓄積される電荷量の電荷比から被写体と受光部との距離の計算を行う距離演算部とを備え、転送トランジスタのうち、特定の転送トランジスタの立上がりとその次に立ち上がる転送トランジスタの立上がりの期間に比較し、光パルスの幅が長く設定されている。【選択図】図1

Description

本発明は、距離画像撮像装置及び距離画像撮像方法に関する。
従来から、光の速度が既知であることを利用し、光の飛行時間に基づいて被写体との距離を測定するタイム・オブ・フライト(Time of Fright、以下「ToF」と記す)方式の距離画像撮像装置がある(例えば、特許文献1参照)。
ToF方式距離画像撮像装置は、光を照射する光源部と、距離を測定するための光を検出する画素回路が二次元の行列状(アレイ状)に複数配置された画素アレイを含む撮像部を備えている。上記画素回路の各々は、光の強度に対応する電荷を発生する光電変換素子(例えば、フォトダイオード)を構成要素として有している。
この構成により、ToF方式距離画像撮像装置は、測定空間(三次元空間)において、自身と被写体との間の距離の情報や、被写体の画像を取得(撮像)することができる。
特開2015-29054号公報
上述した距離画像撮像装置においては、放射した光パルスが被写体から反射した反射光を画素が受光して、受光した反射光を光電変換素子で光電変換し、光電変換により得られる電荷を電荷蓄積部に所定の時間毎に振分ける。
そして、距離画像撮像装置においては、電荷蓄積部の各々に電荷を蓄積させ、2個の電荷蓄積部の各々に蓄積された電荷量の比(電荷比)により、被写体と画素の各々との距離を求めている。
しかしながら、光パルスは理想的な矩形波の形状ではなく、光パルスの立ち上がりや立ち下がりが鈍った形状となっている。
このため、光電変換素子から電荷蓄積部に電荷を振り分ける時間(後述する蓄積駆動信号TXのパルス幅)と、光パルスの幅とが同一の場合、光パルスの波形が鈍ったことにより、光パルスのパルス幅が電荷を振り分ける時間より狭く(短く)なり、2個の電荷蓄積部のいずれか一方にしか電荷が振り分けられない状態が存在する。
特に、複数の電荷蓄積部における、反射光が振分けられる2個の電荷蓄積部の組合せが切り替わるタイミングにおいて、振り分けられる電荷の偏りが特に大きくなる。
そして、光パルスの波形が鈍ることにより、光パルスのパルス幅が電荷の振り分け時間に比較して狭くなった場合、いずれかの電荷蓄積部にのみしか電荷が蓄積されない状態が発生し易い。
この結果、電荷蓄積部の組合せが切り替わるタイミングにおいて、実際の距離変化に対して電荷比の変化が鈍感となり、ノイズ等による電荷比のずれに対して距離が変動してしまい、計測される距離の時間分解能と空間分解能とが低下してしまう。
本発明は、このような状況に鑑みてなされたもので、2個の電荷蓄積部のいずれか一方のみに電荷が蓄積される状態を防止し、電荷蓄積部の電荷量の比により得られる距離と、画素及び被写体間における実際の距離との誤差を低減させる距離画像撮像装置及び距離画像撮像方法を提供することを目的としている。
上述した課題を解決するために、本発明の距離画像撮像装置は、測定空間に光パルスを照射する光源部と、前記測定空間から入射した光に応じた電荷を発生する光電変換素子と、フレーム周期において前記電荷を蓄積する複数の電荷蓄積部を備える複数の画素回路と、前記光パルスの照射に同期した所定の蓄積タイミングで、前記電荷蓄積部の各々に転送トランジスタそれぞれを介して、前記光電変換素子で発生した前記電荷を振分けて蓄積させる画素駆動回路とを有する受光部と、前記測定空間における反射光により生成されて前記光電変換素子から前記転送トランジスタにより振分けられて前記電荷蓄積部の各々に蓄積される電荷量のそれぞれの電荷比から被写体と前記受光部との距離の計算を行う距離演算部とを備え、前記転送トランジスタのうち、特定の転送トランジスタの立上がりとその次に立ち上がる転送トランジスタの立上がりの期間に比較して、前記光パルスのパルス幅が長く設定されていることを特徴とする。
本発明の距離画像撮像装置は、前記パルス幅が、前記光パルスが照射されてから前記反射光が入射されるまでの遅延時間の変化に対応した前記電荷比の変化率のバラツキによって設定されていることを特徴とする。
本発明の距離画像撮像装置は、前記パルス幅を順次変更させつつ、当該パルス幅毎に前記遅延時間の各々の変化における前記電荷比の変化率の前記バラツキを求め、当該バラツキが最小となる前記パルス幅を抽出し、当該パルス幅を前記光パルスのパルス幅として設定することを特徴とする。
本発明の距離画像撮像装置は、前記距離演算部が、前記被写体と画素との距離に対応する対応距離と、前記電荷蓄積部の各々に蓄積された電荷量のそれぞれから計算される電荷比との関係を示すテーブル情報に基づいて前記距離を求めることを特徴とする。
本発明の距離画像撮像装置は、前記距離演算部が、前記電荷比を用いて求められた前記距離を、既知の距離である既知距離との距離ずれを近似する多項式を予め求め、当該多項式を用いて前記距離ずれを補正した前記距離を求めることを特徴とする。
本発明の距離画像撮像方法は、光源部と光電変換素子と複数の電荷蓄積部と転送トランジスタとからなる複数の画素回路の各々と、画素駆動回路と、距離演算部とを備える距離画像撮像装置を制御する距離画像撮像方法であり、前記画素駆動回路が、前記光源部からの光パルスの照射に同期した所定の蓄積周期で、測定空間から入射光に応じて前記光電変換素子が発生した電荷を、フレーム周期において電荷蓄積部の各々に、前記光電変換素子から前記電荷蓄積部に前記電荷を転送させる前記転送トランジスタそれぞれを介して、前記光電変換素子で発生した前記電荷を蓄積させる過程と、距離演算部が、前記測定空間における反射光により生成されて前記光電変換素子から前記転送トランジスタにより振分けられて前記電荷蓄積部の各々に蓄積される電荷量のそれぞれの電荷比から被写体と前記距離画像撮像装置との距離の計算を行う過程とを含み、前記転送トランジスタのうち、特定の転送トランジスタの立上がりとその次に立ち上がる転送トランジスタの立上がりの期間に比較して、前記光パルスのパルス幅が長く設定されていることを特徴とする。
以上説明したように、本発明によれば、光パルスの波形が鈍ってパルス幅が短くなり、2個の電荷蓄積部のいずれか一方のみに電荷が蓄積される状態を防止し、電荷蓄積部の電荷量の比により得られる距離と、画素及び被写体間における実際の距離との誤差を低減させる距離画像撮像装置及び距離画像撮像方法を提供することができる。
本発明の第1の実施形態の距離画像撮像装置の概略構成を示したブロック図である。 光源装置21から照射される光パルスPOのパルス形状の一例を示す図である。 本発明の第1の実施形態の距離画像撮像装置における距離画像センサ32に配置された画素回路321の構成の一例を示した回路図である。 光電変換素子PDで生成された電荷を電荷蓄積部CSの各々に転送するタイミングチャートを示す図である。 電荷蓄積部CSの各々の電荷比と、距離画像撮像装置1と被写体Sとの距離との対応関係を示す図である。 蓄積駆動信号TXの幅と同一なパルス幅と、当該蓄積駆動信号TXの幅より広いパルス幅との場合における電荷比傾きSLを示す図である。 本実施形態における電荷比Rと遅延時間TDとの対応関係を示すグラフである。 距離画像撮像装置1により計測した被写体との距離の分解能を示す図である。 本実施形態によるパルス幅設定モードにおける、測距離で用いる光パルスPOのパルス幅の抽出を行う処理の動作を示すフローチャートである。 第2の実施形態における電荷比Rと推定距離との関係を示す対応テーブルを説明する図である。
<第1の実施形態>
以下、本発明の第1の実施形態について、図面を参照して説明する。
図1は、本発明の第1の実施形態の距離画像撮像装置の概略構成を示したブロック図である。図1に示した構成の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。なお、図1には、距離画像撮像装置1において距離を測定する対象物である被写体Sも併せて示している。距離画像撮像素子は、例えば、受光部3における距離画像センサ32(後述)である。
光源部2は、距離画像処理部4からの制御に従って、距離画像撮像装置1において距離を測定する対象の被写体Sが存在する撮影対象の空間に光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
光源装置21は、被写体Sに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。
拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、被写体Sに照射する面の広さに拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体Sに照射される。
受光部3は、距離画像撮像装置1において距離を測定する対象の被写体Sによって反射された光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。
レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えた画素回路に受光(入射)させる。
距離画像センサ32は、距離画像撮像装置1に用いられる撮像素子である。距離画像センサ32は、二次元の受光領域に複数の画素回路321、画素回路321の各々を制御する画素駆動回路322とを備える。
上記画素回路321は、1つの光電変換素子(例えば、後述する光電変換素子PD)と、この1つの光電変換素子に対応する複数の電荷蓄積部(例えば、後述する電荷蓄積部CS1からCS4)と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられている。
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素回路が二次元の行列状に配置されており、それぞれの画素回路の対応する1フレーム分の画素信号を出力する。
距離画像処理部4は、距離画像撮像装置1を制御し、被写体Sまでの距離を演算する。
距離画像処理部4は、タイミング制御部41と、パルス幅調整部42、距離演算部43と、測定制御部44とを備える。
タイミング制御部41は、測定制御部44の制御に応じて、距離の測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号や、反射光RLを複数の電荷蓄積部に振り分ける信号(後述する転送トランジスタGを稼働する蓄積駆動信号TX)、1フレームあたりの振り分け回数を制御する信号などである。振り分け回数とは、電荷蓄積部CS(図5参照)に、転送トランジスタGを介して、光電変換素子PDから入射光により発生した電荷を振り分ける処理を繰返す回数である。
パルス幅調整部42は、光源部2の光源装置21から照射する光パルスPOのパルス幅を調整する。
すなわち、光源装置21は、タイミング制御部41により、電荷蓄積部CSに電荷を振り分ける転送トランジスタGを駆動する蓄積駆動信号TX(後述)に同期させて、光源部2に対して光パルスPOを照射させる。
このとき、パルス幅調整部42は、光パルスPOのパルス幅TPPを、蓄積駆動信号TXのパルス幅TP1(転送トランジスタGをオン状態とし、電荷蓄積部CSに電荷を振り分ける振分時間、すなわち電荷を振分けるために転送トランジスタGをオンとしているオン期間)と同一ではなく、光パルスPOの鈍りの程度に対応して調整したパルス幅TPP(>TP1)として、光源装置21に照射させる(詳細は後述)。
なお、ここで述べる光パルスのパルス幅は、レジスタによるパルス幅設定値を想定している。
また、光パルスの立上りタイミングと立上り期間、または立上りタイミングから立下りタイミングの期間によって定義される制御信号であってもよい。
また、光パルスのパルス幅は光パルスの出力ピークを100%として10%以上の強度の期間、または90%以上の強度の期間として定義されてもよい。
すなわち、本実施形態においては、転送トランジスタGの各々において、特定の(先に立ち上がってHレベルとなる)転送トランジスタGの立上がりの期間(Hレベルとなっている期間)と、その次に立ち上がる転送トランジスタGの立上がりの期間に比較して、光パルスPOのパルス幅が長く設定されている。
距離演算部43は、測定制御部44の制御に応じて、距離画像センサ32から出力された画素信号(後述する蓄積電荷量Qに対応する電圧値)に基づいて、距離画像撮像装置1(各画素)から被写体Sまでの距離を演算した距離情報(諧調度として量子化されている)を出力する。
距離演算部43は、複数の電荷蓄積部CSに蓄積された電荷量に基づいて、光パルスPOを照射してから反射光RLを受光するまでの遅延時間Tdを算出する。距離演算部43は、算出した遅延時間Tdに応じて、距離画像撮像装置1から被写体Sまでの距離を演算する。
測定制御部44は、フレーム周期で繰返されるフレームの各々のモードを、光パルスPOのパルス幅TPPを調整する、当該パルス幅を任意に変更して決定するパルス幅設定モードと、設定したパルス幅の光パルスPOを用いて測距離を行う通常のフレームとする測距電荷量取得モードとを選択する。
そして、測定制御部44は、パルス幅設定モードと測距離電荷量取得モードとの各々のモードに対応して、タイミング制御部41におけるタイミングの制御、距離演算部43における演算の制御を行う(後に詳述する)。
図2は、光源装置21から照射される光パルスPOのパルス形状の一例を示す図である。図2(a)は、例えば、転送トランジスタGを駆動する蓄積駆動信号TXと同一のパルス幅TPP(=TP1)の光パルスPOの波形を示している。図2(a)において、横軸は時間(time)であり、縦軸は強度(フォトディテクターで計測した電圧)である。光パルスPOは、理想的には点線K1で示される矩形の波形の蓄積駆動信号TXと同一な形状の波形で照射される。
しかしながら、実際には、光パルスPOの波形の立ち上がりと立下りの形状が鈍る(照射の時定数による波形の鈍りが発生する)ことにより、光パルスPOのパルス幅TPPが設定された数値である蓄積駆動信号TXの幅より実際には狭くなってしまう。
これにより、課題において述べたように、光電変換素子PDから電荷蓄積部CSの各々に電荷を振り分けるが、波形が鈍ることにより光パルスPOのパルス幅TPPが蓄積駆動信号TXのパルス幅TP1より短くなる。
そして、2個の電荷蓄積部CSに蓄積される蓄積電荷量Qの比により距離が求める際、いずれか一個のみに振り分けられる状態が所定の時間幅存在したり、2個の電荷蓄積部CSの一方に振り分けられる電荷が微小となってノイズの影響を受けやすくなる。
このため、2個の電荷蓄積部CSに蓄積される電荷量の比(後述する電荷比R)により求めた距離が、実際の距離を異なっている場合がある。
図2(b)は、蓄積駆動信号TXの幅より広く設定されたパルス幅の光パルスPOの波形を示している。図2(b)において、横軸は時間(time)であり、縦軸は強度(例えば、フォトディテクター等で光パルスの波形を計測した電圧)である。
これにより、光パルスPOの波形が鈍っても、光パルスPOのパルス幅TPPは、点線K1で示される蓄積駆動信号TXと同様のパルス幅TP1を確保できることが判る。
このため、2個の電荷蓄積部CSに蓄積される蓄積電荷量Qの比により距離を求める際、いずれか一個のみに振り分けられる状態が所定の時間幅の間で存在したり、2個の電荷蓄積部CSの一方に振り分けられる電荷が微小となる(すなわち、反射光により光電変換素子PDで生成された電荷が一方の電荷蓄積部CSに大きく偏って蓄積される)ことを抑制できる。
このため、2個の電荷蓄積部CSに蓄積される電荷量の比により求めた距離が、実際の距離画像センサ32と被写体Sとの距離に近い数値として求められる。
このような構成によって、距離画像撮像装置1では、光源部2が被写体Sに照射した近赤外の波長帯域の光パルスPOが被写体Sによって反射された反射光RLを受光部3が受光し(反射光RLと背景光とが混合された入射光として受光し)、距離画像処理部4が、被写体Sと距離画像撮像装置1との距離を測定した距離情報を出力する。
なお、図1においては、距離画像処理部4を内部に備えた構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
ここで、距離画像センサ32における画素回路321の構成について説明する。図3は、本発明の第1の実施形態の距離画像撮像装置における距離画像センサ32に配置された画素回路321の構成の一例を示した回路図である。図3の画素回路321は、4つの画素信号読み出し部RU1からRU4を備えた構成例である。
画素回路321は、1つの光電変換素子PDと、電荷排出トランジスタGD(後述するGD1、GD2)と、対応する出力端子Oから電圧信号を出力する4つの画素信号読み出し部RU(RU1からRU4)とを備える。画素信号読み出し部RUのそれぞれは、転送トランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットトランジスタRTと、ソースフォロアトランジスタSFと、選択トランジスタSLとを備える。フローティングディフュージョンFDと電荷蓄積容量Cとは、電荷蓄積部CSを構成している。
図3に示した画素回路321において、出力端子O1から電圧信号を出力する画素信号読み出し部RU1は、転送トランジスタG1(転送MOSトランジスタ)と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットトランジスタRT1と、ソースフォロアトランジスタSF1と、選択トランジスタSL1とを備える。画素信号読み出し部RU1では、フローティングディフュージョンFD1と電荷蓄積容量C1とによって電荷蓄積部CS1が構成されている。画素信号読み出し部RU2、RU3及びRU4も同様の構成である。
光電変換素子PDは、入射した光を光電変換して、入射した光(入射光)に応じた電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。本実施形態においては、入射光は測定対象の空間から入射される。
画素回路321では、光電変換素子PDが入射光を光電変換して発生させた電荷を4つの電荷蓄積部CS(CS1からCS4)のそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、距離画像処理部4に出力する。
また、距離画像センサ32に配置される画素回路の構成は、図3に示したような、4つの画素信号読み出し部RU(RU1からRU4)を備えた構成に限定されるものではなく、画素信号読み出し部RUが1個以上の複数の画素信号読み出し部RUを備えた構成の画素回路でもよい。
上記距離画像撮像装置1の画素回路321の駆動において、光パルスPOが照射時間Toで照射され、遅延時間Td遅れて反射光RLが距離画像センサ32に受光される。画素駆動回路322は、タイミング制御部41に制御により、光パルスPOの照射に同期させて、光電変換素子PDに発生する電荷を、転送トランジスタG1、G2、G3、G4に対して、蓄積駆動信号TX1からTX4をそれぞれのタイミングにより供給して振り替えて、電荷蓄積部CS1、CS2、CS3、CS4の順に蓄積させる。
そして、画素駆動回路322は、リセットトランジスタRT及び選択トランジスタSLの各々を、駆動信号RST、SELそれぞれにより制御し、電荷蓄積部CSに蓄積された電荷を、ソースフォロアトランジスタSFにより電気信号に変換し、生成された電気信号を端子Oを介して距離演算部43に出力する。
また、画素駆動回路322は、タイミング制御部41に制御により、駆動信号RSTDにより、光電変換素子PDにおいて発生された電荷を電源VDDに流して放電する(電荷を消去する)。
図4は、光電変換素子PDで生成された電荷を電荷蓄積部CSの各々に転送するタイミングチャートを示す図である。
図4のタイミングチャートにおいて、縦軸はパルスのレベルを示し、横軸は時間を示している。光パルスPO及び反射光RLの時間軸における相対関係と、転送トランジスタG1からG4の各々に供給する蓄積駆動信号TX1からTX4それぞれのタイミングと、電荷排出トランジスタGDに供給する駆動信号RSTDのタイミングとを示している。
タイミング制御部41は、光源部2に対して光パルスPOを測定空間に対して照射させる。これにより、光パルスPOが被写体に反射し、反射光RLとして受光部3に受光される。そして、光電変換素子PDは、背景光及び反射光RLの各々に対応した電荷を発生する。画素駆動回路322は、光電変換素子PDの発生した電荷を、電荷蓄積部CS1からCS4の各々に対して転送するため、転送トランジスタG1からG4の各々のオンオフを制御する。
すなわち、画素駆動回路322は、蓄積駆動信号TX1からTX4の各々を、所定の時間幅(照射時間Toと同一の幅)の「H」レベルの信号として、転送トランジスタG1からG4それぞれに供給する。
画素駆動回路322は、例えば、光電変換素子PDから電荷を電荷蓄積部CS1に転送する転送経路上に設けられた転送トランジスタG1をオン状態にする。これにより、光電変換素子PDにより光電変換された電荷が、転送トランジスタG1を介して電荷蓄積部CS1に蓄積される。その後、画素駆動回路322は、転送トランジスタG1をオフ状態にする。これにより、電荷蓄積部CS1への電荷の転送が停止される。このようにして、画素駆動回路322は、電荷蓄積部CS1に電荷を蓄積させる。他の電荷蓄積部CS2、CS3及びCS4においても同様である。
このとき、電荷蓄積部CSに電荷の振り分けを行なう電荷蓄積期間(フレームにおける電荷蓄積部CSの各々に電荷を蓄積する期間)において、蓄積駆動信号TX1、TX2、TX3、TX4の各々が、転送トランジスタG1、G2、G3、G4それぞれに供給される蓄積周期(転送トランジスタGを駆動する蓄積駆動信号TXのパルス幅TP1に対応)が繰返される。
そして、転送トランジスタG1、G2、G3及びG4の各々を介して、電荷蓄積部CS1、CS2、CS3、CS4それぞれに、光電変換素子PDから入射光に対応した電荷が転送される。電荷蓄積期間に複数の蓄積周期が繰返される。
これにより、電荷蓄積期間における電荷蓄積部CS1、CS2、CS3及びCS4の各々の蓄積周期毎に、電荷蓄積部CS1、CS2、CS3、CS4それぞれに電荷が蓄積される。
また、画素駆動回路322は、電荷蓄積部CS1、CS2、CS3及びCS4の各々の蓄積周期を繰返す際、電荷蓄積部CS4に対する電荷の転送(振替)が終了した後、光電変換素子PDから電荷を排出する排出経路上に設けられた電荷排出トランジスタGDに対して、「H」レベルの駆動信号RSTDを供給してオンさせる。
これにより、電荷排出トランジスタGDは、電荷蓄積部CS1に対する蓄積周期が開始される前に、直前の電荷蓄積部CS4の蓄積周期の後に光電変換素子PDに発生した電荷を破棄する(すなわち、光電変換素子PDをリセットさせる)。すなわち、電荷排出トランジスタGDは、一個あるいは複数個(一個以上)設けられ、電荷蓄積部CS1、CS2、CS3及びCS4の各々に、光電変換素子PDから、入射光により発生した電荷を振分けて蓄積させる期間以外おいて、光電変換素子PDから電荷を排出する。
そして、画素駆動回路322は、受光部3内に配置された全ての画素回路321の各々から、それぞれ電圧信号を画素回路321の行(横方向の配列)単位で、順次A/D変換処理などの信号処理を行なう。
その後、画素駆動回路322は、信号処理を行った後の電圧信号を、受光部3において配置された列の順番に、順次、距離演算部43に対して出力させる。
上述したような、画素駆動回路322による電荷蓄積部CSへ電荷の蓄積と光電変換素子PDが光電変換した電荷の破棄とが、1フレームに渡って繰り返し行われる。これにより、所定の時間区間に距離画像撮像装置1に受光された光量に相当する電荷が、電荷蓄積部CSのそれぞれに蓄積される。画素駆動回路322は、電荷蓄積部CSのそれぞれに蓄積された、1フレーム分の電荷量に相当する電気信号を、距離演算部43に出力する。
光パルスPOを照射するタイミングと、電荷蓄積部CS(CS1からCS4)のそれぞれに電荷を蓄積させるタイミングとの関係から、電荷蓄積部CS1には、光パルスPOを照射する前の背景光などの外光成分に相当する電荷量が保持される。また、電荷蓄積部CS2、CS3及びCS4には、反射光RL、及び外光成分に相当する電荷量が振り分けられて保持される。電荷蓄積部CS2及びCS3、あるいは電荷蓄積部CS3及びCS4に振り分けられる電荷量の配分(振り分け比率)は、光パルスPOが被写体Sに反射して距離画像撮像装置1に入射されるまでの遅延時間Tdに応じた比率となる。
上述したように、本実施形態においては、例えば、電荷蓄積部CS1、CS2及びCS3のうち、電荷蓄積部CS1及びCS2と、電荷蓄積部CS2及びCS3との、2個の電荷蓄積部CSの組合せに蓄積される電荷量の比により、距離画像撮像装置1と被写体Sとの距離が求められる。
この2個の電荷蓄積部CSの組合せに蓄積される電荷量の比と、距離とが線形に変化する(所定の変化率により変化する)ことにより、高い精度で距離の計測が行われる。
しかしながら、光パルスPOの波形が鈍って変形することにより、電荷量の比である電荷比と距離との関係は線形ではなくなる。
図5は、電荷蓄積部CSの各々の電荷比と、距離画像撮像装置1と被写体Sとの距離との対応関係を示す図である。
図5において、破線が線形(リニア)の関係を示し、実線が光パルスPOのパルス幅TPPが蓄積駆動信号TXと同一の場合の関係を示している。
実線は、2m及び4mの近傍における電荷比と距離との関係が線形な破線からずれている。ここで用いている電荷比Rは、電荷蓄積部CS1、CS2、CS3及びCS4の各々に蓄積され、距離画像センサ32から供給される蓄積電荷量Q1、Q2、Q3、Q4のそれぞれにより、以下のように設定されている。以下の計算は、パルス幅調整部42により行われる。
R1=1-Q1-3/Q …(1)
R2=2-Q2-4/Q …(2)
上記(1)式及び(2)式において、
1-3=|Q1-Q3| …(3)
2-4=|Q2-Q4| …(4)
=|Q1-Q3|+|Q2-Q4| …(5)
である。
電荷比R1は、電荷蓄積部CS1及びCS2の組合せに反射光RLの電荷が蓄積される状態(図4のタイムウインドウTw1)における電荷の比を示している。
また、電荷比R2は、電荷蓄積部CS2及びCS3の組合せに反射光RLの電荷が蓄積される状態(図4のタイムウインドウTw2)における電荷の比を示している。
図5における距離2m近傍がタイムウィンドウTw1からTw2に切り替わる範囲に対応している。
このタイムウィンドウの切り替わりにおいて、すでに説明した光パルスPOの実際に照射されたパルス幅TPPが蓄積駆動信号TXのパルス幅TP1より狭くなることにより、実際の距離との誤差が発生する。
したがって、電荷比R1及び電荷比R2が計測する距離に対して線形に変化する光パルスPOのパルス幅TPPを求め、計測に使用することにより、計測する精度を向上させることができる。ここで、電荷比R1が予め設定した閾値ThWを超えた場合、電荷比R2に切り替えて、電荷比Rを求めている。この閾値ThWは、タイムウィンドウTw1とタイムウィンドウTw2の切り変わるタイミング近傍のタイムウィンドウTw1における電荷比R1、すなわちタイムウィンドウTw1で計測できる距離に対応する電荷比R1の上限値として設定される。
このため、本実施形態において、電荷比が線形となる光パルスPOのパルス幅TPP(≧TP1)を、以下の処理により求めている。
測定制御部44は、パルス幅設定モードにおいて、パルス幅TPPを任意に設定し、蓄積駆動信号TX1に対して同期するタイミングから、所定の単位遅延時間ΔTDずつ増加させて、光源装置21に光パルスPOを照射させる。
このとき、被写体Sは距離画像撮像装置1の所定の位置に固定されている。蓄積駆動信号TX1の立ち上がりのタイミングから遅延時間TDをずらして光パルスPOを照射させることにより、距離画像撮像装置1から被写体Sの距離を仮想的に変化させている。
そして、パルス幅調整部42は、取得した電荷比Rを所定の遅延時間TD毎に抽出し、隣接した遅延時間TDの各々の電荷比Rの差分ΔRと、単位遅延時間ΔTDとから電荷比傾きSL(=ΔR/ΔTD)を求める。
また、パルス幅調整部42は、光パルスPOのパルス幅TPPにおける全ての遅延時間TDにおける電荷比傾きSLを求めた後、このパルス幅TPPにおける電荷比傾きSLの標準偏差(すなわち、変化率のバラツキ)を求める。本実施形態において標準偏差を用いて変化率のバラツキを求めているが、分散、偏差値や平均二乗誤差などのバラツキを評価する指標であれば、パルス幅TPPにおける電荷比傾きSLを評価する指標として用いることができる。
パルス幅調整部42は、上述した光パルスPOのパルス幅TPPの標準偏差を求める処理を、設定した光パルスPOのパルス幅TPPの全てに対して行い、最小の標準偏差を抽出する。
これにより、パルス幅調整部42は、最小の標準偏差の電荷比傾きSLに対応する光パルスPOのパルス幅を取得し、使用するパルス幅TPPとして設定する。
そして、距離演算部43は、測距電荷量取得モードにおいて、画素回路321における電荷蓄積部CS1、CS2、CS3及びCS4の各々の蓄積電荷量Q1、Q2、Q3、Q4のそれぞれから、(1)式から(5)式の各々から求めた比R1あるは比R2により、下記の(6)式あるいは(7)式により得られる遅延時間Tdに基づき、各画素回路321と被写体Sとの距離を求める。
すなわち、距離演算部43は、上述した原理を利用して、以下の(6)あるいは(7)式により、遅延時間Tdを算出する。
Td=To×R1 …(6)
Td=To×R2 …(7)
ここで、Toは光パルスPOが照射された期間である。R1は、後述する、図4のタイムウィンドウTw1における電荷蓄積部CS1と電荷蓄積部CS2とに蓄積された蓄積電荷量の比である。また、R2は、タイムウィンドウTw2における電荷蓄積部CS2と、電荷蓄積部CS3に蓄積された蓄積電荷量の比である。
(6)式においては、電荷蓄積部CS1及びCS2には反射光により発生された電荷が蓄積されるが、電荷蓄積部CS3及びCS4には蓄積されない。一方、(7)式においては、電荷蓄積部CS2及びCS3には反射光により発生された電荷が蓄積されるが、電荷蓄積部CS1及びCS4には蓄積されない。
なお、(6)式あるいは(7)式では、電荷蓄積部CS1、CS2及びCS3に蓄積される電荷量のうち、外光成分に相当する成分が、電荷蓄積部CS4に蓄積された電荷量と同量であることを前提とする。
距離演算部43は、(6)式あるいは(7)式で求めた遅延時間Tdに、光速(速度)を乗算させることにより、被写体Sまでの往復の距離を算出する。
そして、距離演算部43は、上記で算出した往復の距離を1/2とする(遅延時間Td×c(光速度)/2)ことにより、距離画像センサ32(すなわち、距離画像撮像装置1)から被写体Sまでの距離を求める。
図6は、蓄積駆動信号TXのパルス幅TP1と同一なパルス幅TPP(=TP1)と、当該蓄積駆動信号TXの幅より広いパルス幅TPP(>TP1)との場合における電荷比傾きSLを示す図である。
図6において、横軸が遅延時間TDを示し、縦軸が電荷比傾きSLを示している。また、破線が蓄積駆動信号TXのパルス幅TP1と同一なパルス幅TPP(=TP1)の光パルスPOを用いた場合の電荷比傾きSLであり、実線が蓄積駆動信号TXの幅より長いパルス幅TPP(>TP1)の光パルスPOを用いた場合の電荷比傾きSLである。
そして、蓄積駆動信号TXのパルス幅TP1と同一なパルス幅TPP(破線)に比較して、蓄積駆動信号TXの幅より長いパルス幅TPPの光パルスPOが電荷比傾きSL(実線)のばらつきが少ないことが、図6から分かる。
図7は、本実施形態における電荷比Rと遅延時間TDとの対応関係を示すグラフである。図7(a)は、遅延時間TDと、蓄積駆動信号TXのパルス幅TP1と同一なパルス幅の光パルスPOを用いた場合の電荷比Rとの対応関係を示している。図7(a)において、縦軸が電荷比Rを示し、横軸が遅延時間TDを示している。
また、破線が遅延時間TDと電荷比Rとの理想的な線形な線分を示し、丸点が実際の計測された遅延時間TDに対応する電荷比Rの値を示している。
図7(a)から判るように、遅延時間TDと電荷比Rとの線形関係(破線)から、計測された丸点がタイムウィンドウTw1からタイムウィンドウTw2に切り替わる遅延時間近傍(20ns近傍)で外れている。
遅延時間は、計測距離に対応しているため、蓄積駆動信号TXの幅と同一なパルス幅TPPの光パルスPOを用いた場合、実際の距離とから外れた数値が求められることが判る。
図7(b)は、遅延時間TDと、蓄積駆動信号TXのパルス幅TP1と同一なパルス幅TPPの光パルスPOではなく、電荷比傾きSLの標準偏差から用いたパルス幅TPPの光パルスPOを用いた場合の電荷比Rとの対応関係を示している。図7(b)において、縦軸が電荷比Rを示し、横軸が遅延時間TDを示している。
また、破線が遅延時間TDと電荷比Rとの理想的な線形な線分を示し、丸点が実際の計測された遅延時間TDに対応する電荷比Rの値を示している。
図7(b)から判るように、遅延時間TDと電荷比Rとの線形関係(破線)から、計測された丸点がタイムウィンドウTw1からタイムウィンドウTw2に切り替わる遅延時間近傍(20ns近傍)で、図7(b)と同様に外れている。
しかしながら、蓄積駆動信号TXのパルス幅TP1と同一なパルス幅TPP(=TP1)の光パルスPOを用いた図7(a)に比較して、電荷比傾きSLの標準偏差から用いたパルス幅TPPの光パルスPOを用いた場合、遅延時間TDと電荷比Rとの線形関係(破線)から外れる距離が大幅に改善している。
これにより、電荷比傾きSLの標準偏差から用いたパルス幅TPPの光パルスPOを用いることにより、蓄積駆動信号TXのパルス幅TP1と同一なパルス幅TPPの光パルスPOを用いた場合に比較して、より実際の距離に近い数値が得られ、距離の計測の制御の精度を向上させることができる。
また、図8は、距離画像撮像装置1により計測した被写体との距離の分解能を示す図である。
図8(a)は、距離画像撮像装置1により計測した被写体との距離の測定における時間分解能を示している。図8(a)において、縦軸が時間分解能を示し、横軸が距離画像撮像装置1と被写体Sとの実際の距離(実距離)を示している。
また、破線が蓄積駆動信号TXのパルス幅TP1と同一なパルス幅TPPの光パルスPOを用いた場合の時間分解能と実距離との関係を示している。
一方、実線が電荷比傾きSLの標準偏差から用いたパルス幅TPPの光パルスPOを用いた場合の時間分解能と実距離との関係を示している。
図8(a)から判るように、本実施形態によれば、電荷比傾きSLの標準偏差から用いたパルス幅TPPの光パルスPOを用いて距離の計測を行うことにより、蓄積駆動信号TXの幅と同一なパルス幅TPPの光パルスPOを用いた場合に比較して、計測する距離の時間分解能を向上させることができる。
図8(b)は、距離画像撮像装置1により計測した被写体との距離の測定における空間分解能を示している。図8(b)において、縦軸が空間分解能を示し、横軸が距離画像撮像装置1と被写体Sとの実際の距離(実距離)を示している。
また、破線が蓄積駆動信号TXのパルス幅TP1と同一なパルス幅TPPの光パルスPOを用いた場合の距離分解能と実距離との関係を示している。
一方、実線が電荷比傾きSLの標準偏差から用いたパルス幅TPPの光パルスPOを用いた場合の距離分解能と実距離との関係を示している。
図8(b)から判るように、本実施形態によれば、電荷比傾きSLの標準偏差から用いたパルス幅TPPの光パルスPOを用いて距離の計測を行うことにより、蓄積駆動信号TXのパルス幅TP1と同一なパルス幅TPPの光パルスPOを用いた場合に比較して、計測する距離の空間分解能を向上させることができる。
図9は、本実施形態によるパルス幅設定モードにおける、測距離で用いる光パルスPOのパルス幅TPPの抽出を行う処理の動作を示すフローチャートである。
ステップS101:
測定制御部44は、タイミング制御部41を制御して、パルス幅設定モードの実行を開始する。
ステップS102:
そして、パルス幅調整部42は、光パルスPOのパルス幅を蓄積駆動信号TXの幅(パルス幅TP1)と同一の数値とし、タイミング制御部41に設定する(光パルスPOのパルス幅TPPの初期化)。
ステップS103:
パルス幅調整部42は、光パルスPOのパルス幅TPPが予め設定されている上限値(パルス幅規定値)を超えているか否かの判定を行う。
このとき、パルス幅調整部42は、光パルスPOのパルス幅TPPが予め設定されている上限値であるパルス幅規定値を超えていない(以下の)場合、処理をステップS104へ進める。
一方、パルス幅調整部42は、光パルスPOのパルス幅TPPが予め設定されている上記パルス幅規定値を超えている場合、処理をステップS112へ進める。
ステップS104:
パルス幅調整部42は、光パルスPOの照射するタイミングを、蓄積駆動信号TX1の立ち上がりに同期させるようにタイミング制御部41の制御を行う(光パルスPOの遅延時間TDの初期化、すなわち遅延時間TDを「0」とする)。
ステップS105:
パルス幅調整部42は、蓄積駆動信号TX1の立ち上がりからの、光パルスPOの照射するタイミングの遅延時間TDが、予め設定されている上限値(遅延規定値)を超えているか否かの判定を行う。
このとき、光パルスPOのパルス幅が予め設定されている上記遅延規定値を超えていない(以下の)場合、処理をステップS106へ進める。
一方、パルス幅調整部42は、光パルスPOのパルス幅TPP(≧TP1)が予め設定されている上限値である遅延規定値を超えている場合、処理をステップS109へ進める。
ステップS106:
フレーム期間における蓄積期間において、光源装置21は、蓄積周期毎に、設定されているパルス幅TPPにより、蓄積駆動信号TX1の立ち上がりから遅延時間TDだけ遅らせて、光パルスPOを照射する。
そして、画素駆動回路322は、上記蓄積周期毎に、光電変換素子PDで入射光により生成された電荷を、電荷蓄積部CS1、CS2、CS3及びCS4の各々に、転送トランジスタG1、G2、G3、G4により振分けて蓄積させる。
ここで、転送トランジスタG1、G2、G3及びG4の各々に対する、蓄積駆動信号TX1、TX2、TX3、TX4は、等しいパルス幅TP1である。
また、上記電荷蓄積部CS1、CS2、CS3及びCS4の各々に対する電荷の振り分けは、予め設定された蓄積周期数(振分回数)行われる。
ステップS107:
画素駆動回路322は、各画素回路321における電荷蓄積部CS1、CS2、CS3及びCS4の各々から、蓄積電荷量Q1、Q2、Q3、Q4それぞれを、距離画像処理部4に対して供給する。
パルス幅調整部42は、各画素回路321から供給される蓄積電荷量Q1、Q2、Q3及びQ4の各々により、画素回路321毎に(3)式及び(4)式を用いて電荷比Rの算出を行う。
ステップS108:
パルス幅調整部42は、遅延時間TDに対して単位遅延時間ΔTDを加算し、加算結果を新たな遅延時間TDとする(遅延時間TDの変更)。
そして、パルス幅調整部42は、光パルスPOの照射するタイミングを、蓄積駆動信号TX1の立ち上がりに対して、遅延時間TD分を遅延させるようにタイミング制御部41の制御を行う。
ステップS109:
パルス幅調整部42は、処理対象の遅延時間TD及び直前の遅延時間TDの各々における電荷比Rの差分ΔRを、計測した全ての遅延時間TDにおいて算出する。
また、パルス幅調整部42は、画素回路321(すなわち、画素)毎に、求めた各遅延時間TDにおける差分ΔRを単位遅延時間ΔTDにより除算し、遅延時間TDの各々の間における電荷比傾きSLをそれぞれ求める。
ステップS110:
そして、パルス幅調整部42は、各遅延時間TDの電荷比傾きSLから、この時点のパルス幅TPPにおける電荷比傾きSLの標準偏差sを、画素回路321毎に算出する。
また、パルス幅調整部42は、全ての画素回路321における標準偏差sの平均値を算出し、標準偏差s_avとする。
ステップS111:
パルス幅調整部42は、光パルスPOのパルス幅TPPに対して単位幅時間ΔTPPを加算し、加算結果を新たなパルス幅TPPとする(パルス幅TPPの変更)。
そして、パルス幅調整部42は、照射する光パルスPOのパルス幅TPPを、新たに設定した単位幅時間ΔTPPを加算したパルス幅TPPとするように、タイミング制御部41の制御を行う。
ステップS112:
パルス幅調整部42は、光パルスPOのパルス幅TPPの各々から、標準偏差s_avが最小値であるパルス幅TPPを抽出する。
ステップS113:
パルス幅調整部42は、抽出したパルス幅TPPを画素回路321の各々において、最も電荷比傾きSLのバラツキ(変動)が少なく、距離画像撮像装置1と被写体Sとの距離の計測における精度を最も高くするパルス幅TPPとして設定する。
上述したプローチャートのステップS109及びステップS110における処理では、距離画像センサ32における全ての画素回路321における標準偏差sを求めて、この標準偏差sの平均値として標準偏差s_avを算出する。
しかしながら、距離画像センサ32における全ての画素回路321の標準偏差sの平均値ではなく、予め設定された領域、例えば距離画像センサ32の中央部分の領域の画素回路321の標準偏差sの平均値を、標準偏差s_avとして用いる構成としてもよい。
この構成の場合、パルス幅調整部42は、距離画像センサ32の中央部分の領域の設定された画素回路321の各々に対してのみ標準偏差sを算出する処理を行う。
また、距離画像センサ32における、それぞれが位置的に離間した所定の位置の画素回路321を予め設定しておき、これら画素回路321の複数個の標準偏差sの平均値を、標準偏差s_avとして用いる構成としてもよい。
この構成の場合、パルス幅調整部42は、距離画像センサ32において設定された所定の位置の画素回路321の各々に対してのみ標準偏差sを算出する処理を行う。
また、ステップS107において、パルス幅調整部42は、全ての画素回路321から求めた電荷比Rの平均値を求め、この平均値を距離画像センサ32の電荷比Rとして、遅延時間TDの各々における電荷比Rの差分ΔRを算出する構成としてもよい。
この構成の場合、ステップS109及びステップS110において、パルス幅調整部42は、差分ΔRの各々と単位遅延時間ΔTDとから求めた電荷非傾きSLの標準偏差sを求めて、標準偏差a_avとして用いる。
また、ステップS107において、パルス幅調整部42は、全ての画素回路321から求めた電荷比Rの平均値を求めるのではなく、予め設定された領域、例えば距離画像センサ32の中央部分の領域の画素回路321の電荷比Rの平均値を用いて、遅延時間TDの各々における電荷比Rの差分ΔRを算出する構成としてもよい。
この構成の場合、ステップS109及びステップS110において、パルス幅調整部42は、上記中央部分の領域の画素回路321の電荷比Rから求めた差分ΔRの各々と、単位遅延時間ΔTDとから求めた電荷非傾きSLの標準偏差sを求めて、標準偏差a_avとして用いる。
また、ステップS107において、パルス幅調整部42は、全ての画素回路321から求めた電荷比Rの平均値を求めるのではなく、予め設定された領域、例えば距離画像センサ32において、それぞれが離間した所定の位置の画素回路321の電荷比Rの平均値を用いて、遅延時間TDの各々における電荷比Rの差分ΔRを算出する構成としてもよい。
この構成の場合、ステップS109及びステップS110において、パルス幅調整部42は、上記離間した所定の位置の画素回路321の電荷比Rから求めた差分ΔRの各々と、単位遅延時間ΔTDとから求めた電荷非傾きSLの標準偏差sを求めて、標準偏差s_avとして用いる。
また、本実施形態においては、(1)式から(7)により、タイムウィンドウTw1またはTw2で各電荷蓄積部CSに蓄積される蓄積電荷量Qにより、遅延時間Tdを求めて、当該遅延時間Tdを用いて、距離画像撮像装置1と被写体Sとの距離を求めている。
しかしながら、電荷蓄積部CS2及びCS3、あるいは電荷蓄積部CS3及びCS4に振り分けられる電荷量の配分(振り分け比率)は、光パルスPOが被写体Sに反射して距離画像撮像装置1に入射されるまでの遅延時間Tdに応じた比率となるという原理を利用して、距離演算部43は、以下の(8)あるいは(9)式により、遅延時間Tdを算出し、距離画像撮像装置1と被写体Sとの距離を求める構成としてもよい。
Td=To×(Q2-Q1)/(Q1+Q2-2×Q4) …(8)
Td=To+To×(Q3-Q2)/(Q2+Q3-2×Q4) …(9)
ここで、Toは光パルスPOが照射された期間である。Q1は、電荷蓄積部CS1に蓄積された蓄積電荷量である。また、Q2は、電荷蓄積部CS2に蓄積された蓄積電荷量である。Q3は、電荷蓄積部CS3に蓄積された蓄積電荷量である。Q4は、電荷蓄積部CS4に蓄積された蓄積電荷量である。
(8)式においては、電荷蓄積部CS1及びCS2には反射光により発生された電荷が蓄積されるが、電荷蓄積部CS3及びCS4には蓄積されない(タイムウィンドウTw1)。一方、(9)式においては、電荷蓄積部CS2及びCS3には反射光により発生された電荷が蓄積されるが、電荷蓄積部CS1及びCS4には蓄積されない(タイムウィンドウTw2)。
なお、(8)式あるいは(9)式では、電荷蓄積部CS1、CS2及びCS3に蓄積される電荷量のうち、外光成分に相当する成分が、電荷蓄積部CS4に蓄積された電荷量と同量であることを前提とする。
<第2の実施形態>
以下、本発明の第2の実施形態について、図面を参照して説明する。第2の実施形態は、図1に示す第1の実施形態における距離画像撮像装置1と同様の構成である。
以下、第2の実施形態による距離画像撮像装置1について、第1の実施形態と異なる動作について説明する。
計測に用いる光パルスPOのパルス幅TPPを求める処理については、第1の実施形態と同様である。
第1の実施形態においては、画素回路321の各々の電荷蓄積部CS1、CS2、CS3、CS4から、それぞれ蓄積電荷量Q1、Q2、Q3、Q4を取得し、(1)式から(7)式により求めた遅延時間Tdにより、距離画像センサ32の画素回路321と被写体Sとの距離を算出している。
第2の実施形態においては、電荷比R(第1の実施形態における電荷比R1及び電荷比R2の各々と閾値ThWから求められる)と推定距離(画素回路321と被写体Sとの距離に対応)との関係を示す対応テーブルにより、画素回路321と被写体Sとの距離を算出(推定)している。
本実施形態においては、まず、第1の実施形態において求めた光パルスPOのパルス幅TPPにより、距離画像撮像装置1から被写体Sとの距離を、所定の単位距離ずつ変化させ、距離画像を撮像して電荷比Rを取得する。すなわち、測距離の実験を行って、既知の距離を用い、当該距離における電荷比Rを求め、図10(a)の変化曲線を取得する。
そして、電荷比Rと距離との変化曲線を求めて、当該変化曲線において、距離に対して電荷比Rが線形に変化する線形領域を抽出する。
図10は、第2の実施形態における電荷比Rと推定距離との関係を示す対応テーブルを説明する図である。
図10(a)は、電荷比Rと推定距離との対応を示すグラフであり、縦軸が電荷比Rを示し、横軸が距離(推定距離)を示している。
例えば、図10(a)のグラフは、タイムウィンドウTw1に対応した電荷比Rと推定距離との対応を示している。タイムウィンドウTw2においても同様のグラフが取得される。
図10(a)において、電荷比R_1と電荷比R_2との間、電荷比R_2と電荷比R_3との間、…、電荷比R_8と電荷比R_9との間、…は、距離に対して電荷比Rが線形に変化している線形領域である(と見なしている)。
第1の実施形態において求めた、蓄積駆動信号TXのパルス幅TP1より長いパルス幅TPP(>TP1)の光パルスPOを用いることにより、図6に示すように、蓄積駆動信号TXのパルス幅TP1と同一のパルス幅TPP(=TP1)を用いた場合に比較して、電荷比傾きSLの変動が抑制される。
すなわち、図10(a)の変化曲線において、電荷比Rが距離に対して線形に変化する領域(テーブル間隔TK)が長くなる。
このため、蓄積駆動信号TXのパルス幅TP1より長いパルス幅TPP(>TP1)の光パルスPOを用いることにより、変化曲線を表す電荷比Rの数を、蓄積駆動信号TXのパルス幅TP1と同一のパルス幅TPP(=TP1)を用いた場合に比較して、低減することができる。
図10(b)は、電荷比Rと推定距離との関係を示す対応テーブルの構成例を示す図である。この対応テーブルは、タイムウィンドウ毎に設けられ、図10(b)の場合、タイムウィンドウTw1に対応している。
電荷比R_5が電荷比傾きSLの変化する距離間隔が短くなる閾値を示している。電荷比R_5未満の場合、電荷比Rの間隔がテーブル間隔TK1であるが、電荷比R_5以上の場合(タイムウィンドウの境界近傍の場合)、電荷比Rの間隔がテーブル間隔TK1より短いテーブル間隔TK2(<TK1)となる。
図10(b)においては、電荷比Rの各々に対応して、それぞれ距離が対応付けられている。例えば、電荷比R_1に対して距離D1、電荷比R_2に対して距離D2などとして対応付けて、不図示の記憶部に図10(b)の対応テーブルがタイムウィンドウ毎に予め書き込まれて記憶されている。距離画像センサ32の全ての画素回路321毎、あるいは距離画像センサ32を複数に分割した領域毎として、上記記憶部に対応テーブルは書き込まれて記憶されている。
距離演算部43は、各画素回路321の電荷蓄積部CS1、CS2、CS3及びCS4の各々から供給される蓄積電荷量Q1、Q2、Q3、Q4のそれぞれにより、(1)式及び(2)式により電荷比Rを算出する。
そして、距離演算部43は、算出された電荷比Rと同一の電荷比R_nを図10(b)の対応テーブルから検索し、同一の電荷比R_nが検索された場合、この電荷比R_nに対応している距離Dnを読み出し、画素回路321と被写体Sとの距離とする。
また、距離演算部43は、算出された電荷比Rと同一の電荷比R_nが検索されない場合、この電荷比Rが含まれる電荷比R_n-1及び電荷比Rnを、図10(b)の対応テーブルを参照して抽出する。
そして、距離演算部43は、電荷比R_n-1及び電荷比Rnの各々に対応している距離Dn-1、距離Dnを読み出し、距離Dn_1及び距離Dnを電荷比Rに対応させた線形補間を行なうことにより、距離Rに対応する距離Dを算出し、画素回路321と被写体Sとの距離とする。
<第3の実施形態>
以下、本発明の第3の実施形態について、図面を参照して説明する。第3の実施形態は、図1に示す第1の実施形態における距離画像撮像装置1と同様の構成である。
以下、第3の実施形態による距離画像撮像装置1について、第1の実施形態と異なる動作について説明する。
計測に用いる光パルスPOのパルス幅TPPを求める処理については、第1の実施形態と同様である。
第2の実施形態においては、電荷比Rと距離Dとの対応関係を示す対応テーブルを参照し、電荷蓄積部CS1、CS2、CS3及びCS4の各々の蓄積電荷量Q1、Q2、Q3、Q4のそれぞれから求めた電荷比Rに対応する距離を抽出、あるいは線形補間することにより取得した。
一方、第3の実施形態においては、図10(a)に示す電荷比R及び距離Dとの変化曲線に対応させ、距離Dを不定元として既知距離と計測された距離Dとの対応関係を多項式により予め近似しておく。
そして、距離演算部43は、計測した距離Dを上記多項式に対して代入して、距離Dにおける実距離との位置ずれを補正する。
すなわち、電荷比を用いて求められた距離Dを、既知の距離である既知距離との距離ずれを近似する多項式を予め求めておき、距離演算部43は、計測した距離Dを多項式に代入して、距離Dを実距離に近似させることで距離ずれを補正し、実距離との距離ずれが低減された距離Dを求める。
多項式による近似において、図10(a)の変化曲線における電荷比傾きSLに対応して多項式による近似を行う。
これにより、第1の実施形態において求めた、蓄積駆動信号TXのパルス幅TP1より長いパルス幅TPP(>TP1)の光パルスPOを用いることにより、図6に示すように、蓄積駆動信号TXのパルス幅TP1と同一のパルス幅TPP(=TP1)を用いた場合に比較して、電荷比傾きSLの変動が抑制される。
本実施形態によれば、蓄積駆動信号TXのパルス幅TP1より長いパルス幅TPP(>TP1)の光パルスPOを用いることにより、蓄積駆動信号TXのパルス幅TP1と同一のパルス幅TPP(=TP1)を用いた場合に比較して、電荷比傾きSLの変動が抑制されるため、変化曲線を近似する多項式における不定元(変数としての電荷比)の項数や次数が低減し、電荷比Rにより計算負荷を軽減しつつ近似の精度が高い距離Dを取得できる近似式を得ることができる。
また、本実施形態においては、光パルス幅TP1より長いパルス幅TPP(>TP1)の光パルスPOを用いることにより、反射光RLにより発生した電荷が電荷蓄積部CS1、CS2、CS3及びCS4における3個の電荷蓄積部、例えば電荷蓄積部CS1、CS2、CS3のそれぞれに跨がって蓄積される場合が考えられる。
このように、3個の電荷蓄積部に跨がって蓄積された場合、反射光RLが重複している3個の蓄積電荷量Qに基づいて、距離画像撮像装置1と被写体Sとの距離を求める距離演算を行う構成としてもよい。
1…距離画像撮像装置
2…光源部
3…受光部
31…レンズ
32…距離画像センサ(距離画像撮像素子)
321…画素回路
322…画素駆動回路
4…距離画像処理部
41…タイミング制御部
42…パルス幅調整部
43…距離演算部
44…測定制御部
CS1,CS2,CS3,CS4…電荷蓄積部
FD1,FD2,FD3,FD4…フローティングディフュージョン
G1,G2,G3,G4…転送トランジスタ
GD…電荷排出トランジスタ
ML…マイクロレンズ
PD…光電変換素子
PO…光パルス
RT1,RT2,RT3,RT4…リセットトランジスタ
S…被写体
SF1,SF2,SF3,SF4…ソースフォロアトランジスタ
SL1,SL2,SL3,SL4…選択トランジスタ

Claims (6)

  1. 測定空間に光パルスを照射する光源部と、
    前記測定空間から入射した光に応じた電荷を発生する光電変換素子と、フレーム周期において前記電荷を蓄積する複数の電荷蓄積部を備える複数の画素回路と、前記光パルスの照射に同期した所定の蓄積タイミングで、前記電荷蓄積部の各々に転送トランジスタそれぞれを介して、前記光電変換素子で発生した前記電荷を振分けて蓄積させる画素駆動回路とを有する受光部と、
    前記測定空間における反射光により生成されて前記光電変換素子から前記転送トランジスタにより振分けられて前記電荷蓄積部の各々に蓄積される電荷量のそれぞれの電荷比から被写体と前記受光部との距離の計算を行う距離演算部と
    を備え、
    前記転送トランジスタのうち、特定の転送トランジスタの立上がりとその次に立ち上がる転送トランジスタの立上がりの期間に比較して、前記光パルスのパルス幅が長く設定されている
    ことを特徴とする距離画像撮像装置。
  2. 前記パルス幅が、前記光パルスが照射されてから前記反射光が入射されるまでの遅延時間の変化に対応した前記電荷比の変化率のバラツキによって設定されている
    ことを特徴とする請求項1に記載の距離画像撮像装置。
  3. 前記パルス幅を順次変更させつつ、当該パルス幅毎に前記遅延時間の各々の変化における前記電荷比の変化率の前記バラツキを求め、当該バラツキが最小となる前記パルス幅を抽出し、当該パルス幅を前記光パルスのパルス幅として設定する
    ことを特徴とする請求項2に記載の距離画像撮像装置。
  4. 前記距離演算部が、前記被写体と画素との距離に対応する対応距離と、前記電荷蓄積部の各々に蓄積された電荷量のそれぞれから計算される電荷比との関係を示すテーブル情報に基づいて前記距離を求める
    ことを特徴とする請求項1から請求項3のいずれか一項に記載の距離画像撮像装置。
  5. 前記距離演算部が、前記電荷比を用いて求められた前記距離を、既知の距離である既知距離との距離ずれを近似する多項式を予め求め、当該多項式を用いて前記距離ずれを補正した前記距離を求める
    ことを特徴とする請求項1から請求項3のいずれか一項に記載の距離画像撮像装置。
  6. 光源部と光電変換素子と複数の電荷蓄積部と転送トランジスタとからなる複数の画素回路の各々と、画素駆動回路と、距離演算部とを備える距離画像撮像装置を制御する距離画像撮像方法であり、
    前記画素駆動回路が、前記光源部からの光パルスの照射に同期した所定の蓄積周期で、測定空間から入射光に応じて前記光電変換素子が発生した電荷を、フレーム周期において電荷蓄積部の各々に、前記光電変換素子から前記電荷蓄積部に前記電荷を転送させる前記転送トランジスタそれぞれを介して、前記光電変換素子で発生した前記電荷を蓄積させる過程と、
    距離演算部が、前記測定空間における反射光により生成されて前記光電変換素子から前記転送トランジスタにより振分けられて前記電荷蓄積部の各々に蓄積される電荷量のそれぞれの電荷比から被写体と前記距離画像撮像装置との距離の計算を行う過程と
    を含み、
    前記転送トランジスタのうち、特定の転送トランジスタの立上がりとその次に立ち上がる転送トランジスタの立上がりの期間に比較して、前記光パルスのパルス幅が長く設定されている
    ことを特徴とする距離画像撮像方法。
JP2021144666A 2021-09-06 2021-09-06 距離画像撮像装置及び距離画像撮像方法 Pending JP2023037863A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2021144666A JP2023037863A (ja) 2021-09-06 2021-09-06 距離画像撮像装置及び距離画像撮像方法
PCT/JP2022/033259 WO2023033170A1 (ja) 2021-09-06 2022-09-05 距離画像撮像装置及び距離画像撮像方法
CN202280060326.6A CN117916623A (zh) 2021-09-06 2022-09-05 距离图像摄像装置以及距离图像摄像方法
US18/596,019 US20240210535A1 (en) 2021-09-06 2024-03-05 Range imaging device and range imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021144666A JP2023037863A (ja) 2021-09-06 2021-09-06 距離画像撮像装置及び距離画像撮像方法

Publications (1)

Publication Number Publication Date
JP2023037863A true JP2023037863A (ja) 2023-03-16

Family

ID=85412441

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021144666A Pending JP2023037863A (ja) 2021-09-06 2021-09-06 距離画像撮像装置及び距離画像撮像方法

Country Status (4)

Country Link
US (1) US20240210535A1 (ja)
JP (1) JP2023037863A (ja)
CN (1) CN117916623A (ja)
WO (1) WO2023033170A1 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5308088B2 (ja) * 2008-07-24 2013-10-09 パナソニック株式会社 距離画像センサ
JP4798254B2 (ja) * 2009-05-13 2011-10-19 株式会社デンソー 受光デバイス及びその制御方法
JP2014159994A (ja) * 2013-02-19 2014-09-04 Panasonic Corp 距離測定装置
WO2014208018A1 (ja) * 2013-06-26 2014-12-31 パナソニックIpマネジメント株式会社 測距システム
JP6280002B2 (ja) * 2014-08-22 2018-02-14 浜松ホトニクス株式会社 測距方法及び測距装置
CN110389351B (zh) * 2018-04-16 2021-03-26 宁波飞芯电子科技有限公司 Tof距离传感器、传感阵列及基于tof距离传感器的测距方法
JP6734609B1 (ja) 2020-03-10 2020-08-05 株式会社tsumug 空間管理システム

Also Published As

Publication number Publication date
US20240210535A1 (en) 2024-06-27
CN117916623A (zh) 2024-04-19
WO2023033170A1 (ja) 2023-03-09

Similar Documents

Publication Publication Date Title
JP7016183B2 (ja) 距離画像撮像装置、および距離画像撮像方法
WO2021020496A1 (ja) 距離画像撮像装置、及び距離画像撮像方法
CN113518930B (zh) 距离图像传感器以及距离图像拍摄装置
WO2021001975A1 (ja) 距離画像撮像装置及び距離画像撮像方法
JP2022188478A (ja) 距離画像撮像装置及び距離画像撮像方法
WO2023033170A1 (ja) 距離画像撮像装置及び距離画像撮像方法
WO2022154073A1 (ja) 距離画像撮像装置、及び距離画像撮像方法
CN116710803A (zh) 距离图像摄像装置以及距离图像摄像方法
WO2022158560A1 (ja) 距離画像撮像装置及び距離画像撮像方法
JP2022191793A (ja) 距離画像撮像装置及び距離画像撮像方法
WO2023234253A1 (ja) 距離画像撮像装置、及び距離画像撮像方法
WO2022158577A1 (ja) 距離画像撮像装置及び距離画像撮像方法
JP2022176579A (ja) 距離画像撮像装置及び距離画像撮像方法
WO2022158536A1 (ja) 距離画像撮像装置及び距離画像撮像方法
US20230333218A1 (en) Range imaging apparatus and range imaging method
US20220191424A1 (en) Imaging device
JP2022162392A (ja) 距離画像撮像装置、及び距離画像撮像方法
JP2024084686A (ja) 距離画像撮像装置、及び距離画像撮像方法
JP2023147558A (ja) 距離画像撮像装置、及び距離画像撮像方法
JP2022112388A (ja) 距離画像撮像装置、及び距離画像撮像方法
WO2021070320A1 (ja) 距離画像撮像装置、及び距離画像撮像方法
JP2022112389A (ja) 距離画像撮像装置、及び距離画像撮像方法
WO2020194481A1 (ja) 距離画像センサ及び距離画像撮像装置
JP2023180900A (ja) 距離画像撮像装置、及び距離画像撮像方法
CN118200755A (zh) 距离图像摄像装置及距离图像摄像方法