JPWO2020196378A1 - 距離画像の取得方法、及び、距離検出装置 - Google Patents

距離画像の取得方法、及び、距離検出装置 Download PDF

Info

Publication number
JPWO2020196378A1
JPWO2020196378A1 JP2021509375A JP2021509375A JPWO2020196378A1 JP WO2020196378 A1 JPWO2020196378 A1 JP WO2020196378A1 JP 2021509375 A JP2021509375 A JP 2021509375A JP 2021509375 A JP2021509375 A JP 2021509375A JP WO2020196378 A1 JPWO2020196378 A1 JP WO2020196378A1
Authority
JP
Japan
Prior art keywords
distance
distance image
group
image
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021509375A
Other languages
English (en)
Inventor
繁孝 春日
信三 香山
雅規 田丸
浩旨 越田
悠吾 能勢
征人 竹本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2020196378A1 publication Critical patent/JPWO2020196378A1/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/10Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4861Circuits for detection, sampling, integration or read-out
    • G01S7/4863Detector arrays, e.g. charge-transfer gates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4865Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L31/00Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof
    • H01L31/08Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof in which radiation controls flow of current through the device, e.g. photoresistors
    • H01L31/10Semiconductor devices sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation; Processes or apparatus specially adapted for the manufacture or treatment thereof or of parts thereof; Details thereof in which radiation controls flow of current through the device, e.g. photoresistors characterised by potential barriers, e.g. phototransistors
    • H01L31/101Devices sensitive to infrared, visible or ultraviolet radiation
    • H01L31/102Devices sensitive to infrared, visible or ultraviolet radiation characterised by only one potential barrier
    • H01L31/107Devices sensitive to infrared, visible or ultraviolet radiation characterised by only one potential barrier the potential barrier working in avalanche mode, e.g. avalanche photodiodes

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Power Engineering (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

距離画像の取得方法は、奥行方向に複数の距離分割区間を設定する設定ステップ(S10)と、設定された複数の距離分割区間に基づいて距離画像を取得する撮像ステップとを含む。撮像ステップは、複数の距離分割区間の一部を撮像した複数の距離画像を取得する第1距離画像群撮像ステップ(S20〜S90)と、複数の距離分割区間の一部と位相の異なる距離分割区間を撮像した複数の距離画像を取得する第2距離画像群撮像ステップ(S110〜S190)とを含む。

Description

本開示は、距離画像の取得方法、及び、距離検出装置に関する。
近年、ロボティクス、自動車、セキュリティ、アミューズメント等の多くの分野において、リアルタイムに距離画像を得る距離画像センサ(つまり、距離検出装置)が注目されてきている。ここで、距離画像とは、対象物の空間における3次元情報であり、対象物(つまり、被写体)までの距離を示す画素値で構成される。
距離画像を得るための測距の方法として、TOF(Time−Of−Flight)方式により、対象物の距離を検出する方法が知られている。例えば、特許文献1には、光を照射して対象物の3次元情報(3次元形状)を検出する装置が開示されている。
特開2001−116516号公報
一般に、自動車等に用いられる距離画像センサは、前方の近距離から遠距離までの広い範囲にわたり、対象物までの情報をより早く取得することを求められている。と同時に測定する距離の細かさ、すなわち測距分解能も高精度を求められている。
そこで、本開示は、近距離から遠距離まで広い範囲にわたり、高精度な分解能で、対象物までの情報を早く取得することができる距離画像の取得方法、及び、距離検出装置を提供することを目的とする。
本開示に係る距離画像の取得方法は、奥行方向に複数の距離分割区間を設定する設定ステップと、設定された前記複数の距離分割区間に基づいて距離画像を取得する撮像ステップとを含み、前記撮像ステップは、前記複数の距離分割区間の一部を撮像した複数の距離画像を取得する第1距離画像群撮像ステップと、前記複数の距離分割区間の前記一部と位相の異なる距離分割区間を撮像した複数の距離画像を取得する第2距離画像群撮像ステップと、を含む。
また、本開示の一態様に係る距離検出装置は、APD(Avalanche Photo Diode)を有する画素が二次元状に配置された画像センサと、撮像する対象物に向けて照射光を発光する光源と、前記画像センサで撮像した画像を処理する演算部と、前記光源、前記画像センサおよび前記演算部を制御する制御部と、前記演算部で処理した画像を合成する合成部と、合成された画像に所定の情報を付加して出力する出力部とを備え、前記制御部は、奥行方向に複数の距離分割区間を設定し、前記光源、前記画像センサおよび前記演算部を制御することで、設定された前記複数の距離分割区間の一部を撮像した複数の距離画像である第1距離画像群を取得し、かつ、前記複数の距離分割区間の前記一部と位相の異なる距離分割区間を撮像した複数の距離画像である第2距離画像群を取得する。
本開示の一態様に係る距離検出方法、及び、距離検出装置によれば、近距離から遠距離まで広い範囲にわたり、高精度な分解能で、対象物までの情報を早く取得することができる。
図1は、実施の形態1に係る距離検出装置の構成を示すブロック図である。 図2は、実施の形態1に係るカメラの構成を示すブロック図である。 図3Aは、実施の形態1に係る画素の構成を示す回路図である。 図3Bは、実施の形態1に係るCDS回路の構成を示す回路図である。 図3Cは、実施の形態1に係るADC回路の構成を示す回路図である。 図4Aは、実施の形態1に係る距離検出装置のAグループの第1サブフレームにおける測距処理タイミングの一例を示す図である。 図4Bは、実施の形態1に係る第1サブフレーム画像を示す図である。 図5Aは、実施の形態1に係る距離検出装置のAグループの第3サブフレームにおける測距処理タイミングの一例を示す図である。 図5Bは、実施の形態1に係る第3サブフレーム画像を示す図である。 図6Aは、実施の形態1に係る距離検出装置のAグループの第5サブフレームにおける測距処理タイミングの一例を示す図である。 図6Bは、実施の形態1に係る第5サブフレーム画像を示す図である。 図7は、実施の形態1に係る合成後の距離画像を示す図である。 図8は、実施の形態1に係る距離検出装置の距離画像生成処理の一例を示すフローチャートである。 図9Aは、実施の形態1に係る第1距離画像の一例を説明するための模式図である。 図9Bは、実施の形態1に係る第1距離画像が生成される流れを模式的に示すフローチャートである。 図9Cは、実施の形態1に係る第2距離画像の一例を説明するための模式図である。 図9Dは、実施の形態1に係るフレームごとの測距区間の関係の第1例を示す図である。 図9Eは、実施の形態1に係るフレームごとの測距区間の関係の第2例を示す図である。 図10Aは、実施の形態1に係る第1距離画像の他の一例を説明するための模式図である。 図10Bは、実施の形態1に係る第2距離画像の他の一例を説明するための模式図である。 図10Cは、実施の形態1に係るフレームごとの測距区間の関係の第3例を示す図である。 図10Dは、実施の形態1に係るフレームごとの測距区間の関係の第4例を示す図である。 図11は、実施の形態2に係る距離検出装置の構成を示すブロック図である。 図12は、実施の形態2に係る画像センサの構成を示すブロック図である。 図13は、実施の形態2に係る画素の構成を示す回路図である。 図14は、実施の形態2に係る距離検出装置の測距処理タイミングを示す図である。 図15は、実施の形態2に係る1フレームの距離画像を説明するための模式図である。 図16は、実施の形態2に係る距離検出装置の距離画像生成処理の一例を示すフローチャートである。 図17Aは、実施の形態2に係る第1距離画像の一例を説明するための模式図である。 図17Bは、実施の形態2に係る第1距離画像が生成される流れを模式的に示すフローチャートである。 図17Cは、実施の形態2に係る第2距離画像の一例を説明するための模式図である。 図18Aは、実施の形態2に係る第1距離画像の他の一例を説明するための模式図である。 図18Bは、実施の形態2に係る第2距離画像の他の一例を説明するための模式図である。
以下、本開示の実施の形態について図面を参照して詳細に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序等は、一例であり、本開示を限定する主旨ではない。本開示は、請求の範囲だけによって限定される。よって、以下の実施の形態における構成要素のうち、独立請求項に記載されていない構成要素について説明される。
なお、各図は模式図であり、必ずしも厳密に図示されたものではない。また、実質的に同一の構成に対する重複説明は省略する場合がある。
また、本明細書において、等しいなどの要素間の関係性を示す用語、並びに、数値、および、数値範囲は、厳格な意味のみを表す表現ではなく、実質的に同等な範囲、例えば数%程度の差異をも含むことを意味する表現である。
(実施の形態1)
[1−1.構成]
まず、本実施の形態に係る距離検出装置の構成について、図1〜図3Bを参照しながら説明する。図1は、本実施の形態に係る距離検出装置100の構成を示すブロック図である。図2は、本実施の形態に係るカメラ120の構成を示すブロック図である。
図1に示すように、距離検出装置100は、TOF(Time−Of−Flight)方式により測定対象の距離範囲内に位置する対象物の距離を示す距離画像を生成する。この距離検出装置100は、例えば、三次元の画像センサに用いることができる。距離検出装置100は、光源110と、カメラ120と、制御部130と、演算部140と、記憶部150と、合成部160と、出力部170とを備える。
光源110は、照射光を照射する。光源110は、発光部111と、駆動部112とを有する。発光部111は、照射光(例えば、光パルス)を発光する。発光部111は、例えば、LD(レーザダイオード)又はLED(発光ダイオード)等である。駆動部112は、発光部111に電力を供給するタイミングを制御することにより、発光部111による発光を制御する。
カメラ120は、照射光が対象物で反射した反射光を受光することで検出信号を生成する。本実施の形態では、カメラ120は、アバランシェ増幅型の受光素子であるAPD(Avalanche Photo Diode:アバランシェフォトダイオード)を備えるカメラである。カメラ120は、図1及び図2に示すように、レンズ121と、画像センサ122と、CDS回路126(相関二重サンプリング回路)と、ADC回路127とを備える。
レンズ121は、画像センサ122に反射光を集光する。画像センサ122は、反射光を受光し、受光した光の光量に応じた値を有する検出積算値を出力する。画像センサ122は、APDを有する画素が二次元状に配置されて構成される受光部を持つCMOS(Complementary metal−oxide−semiconductor)画像センサである。
CDS回路126は、画素122aからの出力である検出積算値に含まれるオフセット成分を除去するための回路である。なお、このオフセット成分は、各画素122aで異なる値となる場合がある。ADC回路127は、CDS回路126から出力された信号であるアナログ信号(オフセット成分が除去された検出積算値)をデジタル信号に変換する。ADC回路127は、例えば、CDS回路126から出力されたアナログ信号(例えば、オフセット除去後検出積算信号)CDSOUT(図3B参照)をRAMP信号(ランプ信号とも記載する)と比較してデジタル変換するシングルスロープ方式を利用することで、画素122aでの受光量に対応するデジタル信号(例えば、デジタル変換後検出積算信号)を生成する。なお、以下では、アナログ信号CDSOUTを出力信号CDSOUTとも記載する場合がある。
なお、画像センサ122、CDS回路126及びADC回路127の詳細は、後述する。また、本実施の形態では、距離検出装置100は、CDS回路126を備える例について説明するが、CDS回路126を備えていなくてもよい。また、ADC回路127は、演算部140が有していてもよい。
制御部130は、光源110の照射タイミング及びカメラ120の受光タイミング(露光期間)を制御する。また、制御部130は、第1フレーム及び当該第1フレームの後の第2フレームにおいて、互いに異なる測距範囲を設定する。なお、第1フレームと第2フレームとは、例えば、複数のフレームの中の時間的に隣接するフレームである。
制御部130は、第1フレームを分割したAグループのサブフレーム群に含まれる複数のサブフレームのそれぞれに、例えば、互いに異なる測距範囲であり、かつ互いに距離連続性を有しない測距範囲を設定する。そして、制御部130は、Aグループのサブフレーム群のそれぞれにおいて、設定された測距範囲における測距を行うように、光源110の照射タイミング及びカメラ120の受光タイミングを制御する。Aグループのサブフレーム群は、例えば、第1フレームを分割した複数の測距区間(サブフレーム)のうちの一部の測距区間により構成される。
なお、距離連続性を有さないとは、Aグループのサブフレーム群のそれぞれの測距範囲が連続していないことを意味する。距離連続性を有さないとは、例えば、Aグループの2つのサブフレームのうちの一方のサブフレームの測距範囲と他方のサブフレームの測距範囲とが、少なくとも一部が重複していないことを意味する。つまり、一方のサブフレームの測距範囲と他方のサブフレームの測距範囲とは、距離的に離隔している測距範囲である。一方のサブフレームの測距範囲と他方のサブフレームの測距範囲との間の測距範囲は、第1フレーム以外のフレーム(本実施の形態では、第2フレーム)において測距される測距範囲であり、第2フレームで設定する複数のサブフレームでそれらの測距範囲を測距する。
また、制御部130は、第2フレームを分割したBグループのサブフレーム群に含まれる複数のサブフレームのそれぞれに、第1フレームで設定されていない測距範囲を設定する。制御部130は、例えば、第1フレームで設定されていない測距範囲であり、かつ、互いに異なる測距範囲であり、互いに距離連続性を有しない測距範囲を、Bグループのサブフレーム群のそれぞれに設定する。そして、制御部130は、Bグループのサブフレーム群のそれぞれにおいて、設定された測距範囲における測距を行うように、光源110の照射タイミング及びカメラ120の受光タイミングを制御する。Bグループのサブフレーム群は、例えば、第2フレームを分割した複数の測距区間(サブフレーム)のうちの一部の測距区間により構成されてもよい。Bグループのサブフレーム群は、例えば、Aグループの複数の測距区間を奥行方向にシフトさせた区間に対応するサブフレームにより構成されてもよい。
制御部130は、光源110及びカメラ120を測距範囲ごとに制御することで、当該距離範囲内の対象物の距離を示す距離画像を生成するためのデジタル変換後検出積算信号(検出信号)をカメラ120に生成させる。
本実施の形態では、制御部130は、第1フレームにおける測距範囲と第2フレームにおける測距範囲とで、距離連続性を有する距離範囲となるように測距範囲を設定する例について説明する。なお、制御部130は、画像センサ122のフレームレートをハード的に向上させるのではなく、見かけ上、時間あたりの測距範囲を広げて、近距離から遠距離まで広い範囲を短時間に測距する観点から、3以上のフレームにより距離連続性を有するように3以上のフレームのそれぞれの距離範囲を設定してもよい。制御部130が設定する測距範囲の詳細については後述する。
演算部140は、Aグループのサブフレーム群のそれぞれ及びBグループのサブフレーム群のそれぞれにおいて、出力回路125から出力された検出積算値出力信号(電圧信号)に基づいて、当該サブフレームにおける物体の有無を判定する処理部である。本実施の形態では、演算部140は、当該検出積算値出力信号に所定の処理(例えば、後述する相関二重サンプリング処理)が行われたデジタル変換後検出積算信号に基づいて、物体の有無を判定する。演算部140は、例えば、デジタル変換後検出積算信号と所定の閾値(例えば、記憶部150に格納されているLUT)とを比較することで、物体の有無を判定してもよい。演算部140は、例えば、デジタル変換後検出積算信号の値(例えば、電圧値)が所定の閾値以上である場合、当該測距範囲(当該サブフレーム)に物体があると判定し、デジタル変換後検出積算信号の値が所定の閾値未満である場合、当該測距範囲(当該サブフレーム)に物体がないと判定してもよい。なお、デジタル変換後検出積算信号の値とは、APDが反射光を受光した受光回数に基づく検出積算値に対応する値である。
演算部140は、サブフレームごとのサブフレーム番号(サブフレームNo)を識別し、当該サブフレームの画素ごとに物体の有無を判定する。そして、演算部140は、サブフレーム番号と画素ごとの物体有無判定結果とを合成部160に出力する。本実施の形態では、演算部140は、判定結果として、物体有りを示す「Z」、物体なしを示す「0」、及び、サブフレーム番号を、合成部160に出力する。
合成部160は、演算部140から取得した複数のサブフレームごとの物体有無情報とサブフレーム番号とに基づいて、1つの距離画像を生成する処理部である。合成部160は、例えば、演算部140から出力されたサブフレーム番号を距離情報に変換した上で、サブフレームすなわち距離ごとの物体有無を示す物体有無情報を合成することで1つの距離画像を生成する。合成部160は、複数の距離画像(距離画像群とも記載する)を合成することで、1つの距離画像を生成するとも言える。なお、便宜上、測距区間それぞれの距離画像を、区間距離画像とも記載する。
合成部160は、例えば、第1フレームにおけるAグループのサブフレーム群(Aグループの距離画像群であり、例えば、後述する第1距離画像群)のそれぞれにおける画素122aごとの物体有無判定結果と距離情報とに基づいて、第1フレームに対応する第1距離画像を生成する。具体的には、合成部160は、Aグループのサブフレーム群のそれぞれにおけるサブフレーム画像(区間距離画像)の判定結果と距離情報とを抽出して合成することで、1つの第1距離画像を生成する。
また、合成部160は、例えば、第2フレームにおけるBグループのサブフレーム群(Bグループの距離画像群であり、例えば、後述する第2距離画像群)のそれぞれにおける画素122aごとの物体有無の判定結果と距離情報とに基づいて、第2フレームに対応する第2距離画像を生成する。具体的には、合成部160は、Bグループのサブフレーム群のそれぞれにおけるサブフレーム画像(区間距離画像)の判定結果と距離情報とを抽出して合成することで、1つの第2距離画像を生成する。
なお、第1距離画像と第2距離画像とは、例えば、互いに異なる距離範囲を測距した画像であってもよい。第1距離画像と第2距離画像とで、距離検出装置100が測距可能な全体の距離範囲内の対象物の距離を取得することができる。
なお、合成部160は、第1距離画像群から3次元化距離画像を生成してもよい。また、合成部160は、第2距離画像群から3次元化距離画像を生成してもよい。また、合成部160は、演算部140により第1距離画像群および第2距離画像群のそれぞれにおいて、同一画素122aの複数(2以上)の区間距離画像で対象物が有ると判定された場合、奥行方向の手前側の区間距離画像の判定結果を優先して選択してもよい。
記憶部150は、例えば、RAMであり、演算部140の演算に用いられるデータ等(例えば、LUT)を格納する。
出力部170は、合成部160が合成した第1距離画像及び第2距離画像に基づく距離画像に距離情報を付加して出力する。また、出力部170は、第1距離画像(例えば、後述する第1距離画像群撮像ステップにより生成される距離画像)に個別に設定された互いに異なる色彩を当該第1距離画像に付加してもよい。出力部170は、例えば、3次元化距離画像に当該色彩を付与してもよい。出力部170は、例えば、演算部140により対象物が有ると判定された画素122aに色彩を付与してもよい。また、出力部170は、第2距離画像(例えば、後述する第2距離画像群撮像ステップにより生成される距離画像)に個別に設定された互いに異なる色彩を当該第2距離画像に付加してもよい。なお、色彩は、第1距離画像群及び第2距離画像群のそれぞれにおいても、互いに異なっていてもよい。
なお、出力部170は、演算部140により、第1距離画像群および第2距離画像群のそれぞれにおいて、同一画素122aの複数(2以上)の区間距離画像で対象物が有ると判定され、かつ、合成部160により、奥行方向の手前側の区間距離画像の判定結果が優先して選択された場合、複数の距離画像のうち選択された当該距離画像に色彩を付加してもよい。
また、出力部170は、例えば、距離画像を距離検出装置100の外部に出力ためのインターフェースを有していてもよい。インターフェースは、例えば、USBインターフェースである。例えば、出力部170は、外部のPC(パーソナルコンピュータ)等に距離画像を出力する。なお、ここでは、距離検出装置100から外部への出力機能のみを記載しているが、外部のPC等から制御信号又はプログラム等が当該インターフェースを介して距離検出装置100に入力されてもよい。
制御部130、演算部140、合成部160、及び、出力部170は、例えば、FPGA(Field Programmable Gate Array)により実現される。なお、制御部130、演算部140、及び、合成部160の少なくとも一方は、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサにより実現されてもよいし、専用のハードウェア(回路)により実現されてもよいし、CPU又はプロセッサなどのプログラム実行部が、ハードディスク又は半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
ここで、カメラ120の構成、及び、各種回路について、さらに図3A〜図3Cを参照しながら説明する。図3Aは、本実施の形態に係る画素122aの構成を示す回路図である。図3Aは、画像センサ122が有する複数の画素のうちの1つの画素122aの回路図を示す。
図2に示すように、画像センサ122は、入射光を受ける受光回路123と、積算回路124と、出力回路125との3つのブロックによって構成されている。以下、3つのブロックのそれぞれについて、図3Aを参照しながら具体的な構成及び機能を説明する。なお、以下で説明する具体的な構成は、一例を示したものであり、画素122aの構成は、以下に記載したものに限定されない。例えば、同じような機能を有する他の構成であっても、本実施の形態と同様の作用効果が得られる。なお、以下に説明する各種の信号について、「ONする」とはハイレベルの電圧値の信号を印加することをいい、「OFFする」とはローレベルの電圧値の信号を印加することをいう。
画像センサ122を構成する複数の画素122aのそれぞれは、受光回路123、積算回路124、及び、出力回路125を有する。なお、二次元状に配置された複数の画素122aにより、画素領域(図示しない)が形成される。
図3Aに示すように、受光回路123は、所定の露光時間内にAPDに到達した入射光の有無に応じて変化する受光信号を積算回路124に出力する機能を有する。受光回路123は、APDと、トランジスタTR1及びTR2とを有する。
APDは、フォトンを検出するための受光素子の一例である。具体的には、APDは、アバランシェ増幅型のフォトダイオードである。つまり、APDは、入射した光を光電変換して電荷を発生させ、発生させた電荷をアバランシェ増倍させる光電変換部である。APDのアノードは、電源VSUBに接続され、カソードは、トランジスタTR2を介してフローティングディフュージョンFDに接続されている。APDは、入射するフォトンを捉え、捉えたフォトンによって電荷を発生する。発生した電荷は、トランジスタTR2を介して、フローティングディフュージョンFDに蓄積保持される。つまり、フローティングディフュージョンFDには、APDによるアバランシェ増倍の発生回数に応じた電荷が蓄積される。電源VSUBから供給される電圧は、例えば、−20Vである。
トランジスタTR1は、APDと電源RSDとの間に接続されたスイッチングトランジスタである。トランジスタTR1の制御端子(例えば、ゲート端子)には、制御信号であるリセット信号OVFが入力され、当該リセット信号OVFによってトランジスタTR1の導通及び非導通が制御される。リセット信号OVFがONするとトランジスタTR1が導通し、電源RSDからリセット電圧がAPDに印加され、APDが初期状態にリセットされる。なお、リセット電圧は、例えば、3Vである。
トランジスタTR2は、APDとフローティングディフュージョンFDとの間に接続されたスイッチングトランジスタである。トランジスタTR2の制御端子(例えば、ゲート端子)には、制御信号である読出信号TRNが入力され、当該読出信号TRNによってトランジスタTR2の導通及び非導通が制御される。読出信号TRNがONするとトランジスタTR2が導通し、APDで発生した電荷がフローティングディフュージョンFDに転送される。トランジスタTR2は、APDで発生した電荷がフローティングディフュージョンFDに転送するための転送トランジスタであるとも言える。
制御部130は、APDの露光タイミングに合わせて、トランジスタTR1が非導通となり、かつトランジスタTR2が導通となるように、各種制御信号を制御する。
積算回路124は、サブフレームごとに複数回の露光が行われる場合に、当該複数回の露光で発生した電荷を積算する(蓄積する)機能を有する。積算回路124は、例えば、Aグループのサブフレーム群のそれぞれ及びBグループのサブフレーム群のそれぞれにおいて、APDが検出したフォトンを電圧に変換して積算する。そして、積算回路124は、積算された電荷(以降において、検出積算値とも記載する)を出力回路125に出力する。積算回路124は、トランジスタTR3及びTR4と、電荷蓄積コンデンサMIM1とを有する。
トランジスタTR3は、フローティングディフュージョンFDと電荷蓄積コンデンサMIM1との間に接続されたスイッチングトランジスタ(カウンタトランジスタ)である。トランジスタTR3の制御端子(例えば、ゲート端子)には、制御信号である積算信号CNTが入力され、当該積算信号CNTによってトランジスタTR3の導通及び非導通が制御される。積算信号CNTがONするとトランジスタTR3が導通し、フローティングディフュージョンFDに蓄積されている電荷が電荷蓄積コンデンサMIM1に蓄積される。これにより、電荷蓄積コンデンサMIM1には、複数回の露光によりAPDが受光したフォトンの受光数に応じた電荷が蓄積される。
トランジスタTR4は、電荷蓄積コンデンサMIM1と電源RSDとの間に接続されたスイッチングトランジスタである。トランジスタTR4の制御端子(例えば、ゲート端子)には、制御信号であるリセット信号RSTが入力され、当該リセット信号RSTによってトランジスタTR4の導通及び非導通が制御される。リセット信号RSTがONするとトランジスタTR4が導通し、電源RSDからのリセット電圧がフローティングディフュージョンFDに印加され、フローティングディフュージョンFDに蓄積されている電荷が初期状態にリセットされる。
また、トランジスタTR3及びTR4が導通した場合、電源RSDからのリセット電圧が電荷蓄積コンデンサMIM1に印加され、電荷蓄積コンデンサMIM1の電圧が当該リセット電圧にリセット(初期状態にリセット)される。
電荷蓄積コンデンサMIM1は、受光回路123の出力と負側電源VSSAとの間に接続され、サブフレーム内における複数の露光のそれぞれで発生した電荷を蓄積する。電荷蓄積コンデンサMIM1は、第1距離画像群及び第2距離画像群を含む複数の距離画像群の取得のそれぞれにおいて、画素122aが検出したフォトン数に対応する画素信号を画素電圧として記憶する。これにより、APDがフォトンを受光するたびに電荷蓄積コンデンサMIM1に電荷が蓄積される。なお、初期状態における電荷蓄積コンデンサMIM1の電圧は、リセット電圧の3Vである。また、電荷蓄積コンデンサMIM1に電荷が蓄積されると、電荷蓄積コンデンサMIM1の電圧は初期状態から下がる。電荷蓄積コンデンサMIM1は、画素122aの回路内に設けられた記憶素子の一例である。
出力回路125は、電荷蓄積コンデンサMIM1に蓄積された電荷(検出積算値)に応じた電圧を増幅し、増幅された電圧を信号線SLに出力する。出力回路125は、例えば、Aグループのサブフレーム群のそれぞれ及びBグループのサブフレーム群のそれぞれにおいて、積算回路124が積算した検出積算値に応じた検出積算値出力信号を出力する。出力回路125は、トランジスタTR5及びTR6を有する。なお、検出積算値は、積算値の一例である。
トランジスタTR5は、トランジスタTR6と電源VDDとの間に接続された増幅トランジスタである。トランジスタTR5の制御端子(例えば、ゲート端子)は、電荷蓄積コンデンサMIM1に接続され、ドレインに電源VDDから電圧が供給され、電荷蓄積コンデンサMIM1に蓄積された電荷の電荷量に応じた検出積算値出力信号を出力する。
トランジスタTR6は、トランジスタTR5と信号線SL(例えば、列信号線)との間に接続されたスイッチングトランジスタ(選択トランジスタ)である。トランジスタTR6の制御端子(例えば、ゲート端子)は、制御信号である行選択信号SELが入力され、当該行選択信号SELによってトランジスタTR6の導通及び非導通が制御される。トランジスタTR6は、検出積算値出力信号を出力するタイミングを決定する。行選択信号SELがONするとトランジスタTR6が導通し、トランジスタTR5からの検出積算値出力信号が信号線SLに出力される。
図2を再び参照して、CDS回路126は、画素122aからの出力である検出積算値出力信号に含まれるオフセット成分を除去するための回路である。オフセット成分とは、検出積算値出力信号に重畳しているトランジスタTR5固有のオフセット電圧信号を意味する。なお、このオフセット成分は、各画素122aで異なる値となる場合がある。
ここで、CDS回路126について、図3Bを参照しながら説明する。図3Bは、本実施の形態に係るCDS回路126の構成を示す回路図である。CDS回路126は、画素列ごとに設けられる。相関二重サンプリングとは、画素から供給される検出積算値出力信号と電荷蓄積コンデンサMIM1の電圧をリセットした後の増幅トランジスタからの出力電圧との差分を、実際の信号成分としてサンプリングする技術である。相関二重サンプリングについては、特に限定される必要はなく、従来技術が用いられてもよい。したがって、相関二重サンプリングの詳細な説明については省略する。
図3Bに示すように、CDS回路126は、インバータAMP1と、第1のCDS回路CDS1(第1の相関二重サンプリング回路)と、第2のCDS回路CDS2(第2の相関二重サンプリング回路)と、出力部AMP2とを有する。第1のCDS回路CDS1と、第2のCDS回路CDS2とは、並列に接続されている。
インバータAMP1は、信号線SLからの検出積算値出力信号を反転増幅させる。
第1のCDS回路CDS1は、トランジスタTR7及びTR8と、コンデンサC1とを有する。コンデンサC1の一端は、負側電源VSSAに接続されている。トランジスタTR7は、インバータAMP1とコンデンサC1の他端との間に接続されているスイッチングトランジスタである。トランジスタTR7の制御端子(例えば、ゲート端子)には、制御信号ODD_SHが入力され、当該制御信号ODD_SHによってトランジスタTR7の導通及び非導通が制御される。制御信号ODD_SHがONするとトランジスタTR7が導通し、コンデンサC1に検出積算値出力信号とオフセット電圧信号との差分に比例するオフセット除去後検出積算信号(画素信号)が蓄積される。
トランジスタTR8は、出力部AMP2とコンデンサC1の他端との間に接続されているスイッチングトランジスタである。トランジスタTR8の制御端子(例えば、ゲート端子)には、制御信号EVEN_SHが入力され、当該制御信号EVEN_SHによって導通及び非導通が制御される。制御信号EVEN_SHがONするとトランジスタTR8が導通し、コンデンサC1に蓄積されたオフセット除去後検出積算信号が出力部AMP2(出力バッファ)に出力される。
第1のCDS回路CDS1は、画素行における隣り合う画素122aの一方の画素122aに対応するオフセット除去後検出積算信号を蓄積する。第1のCDS回路CDS1は、例えば、奇数行の画素122aに対応するオフセット除去後検出積算信号を蓄積する。
第2のCDS回路CDS2は、トランジスタTR9及びTR10と、コンデンサC2とを有する。コンデンサC2の一端は、負側電源VSSAに接続されている。トランジスタTR8は、インバータAMP1とコンデンサC2の他端との間に接続されているスイッチングトランジスタである。トランジスタTR9の制御端子(例えば、ゲート端子)には、制御信号EVEN_SHが入力され、当該制御信号EVEN_SHによってトランジスタTR9の導通及び非導通が制御される。制御信号EVEN_SHがONするとトランジスタTR9が導通し、コンデンサC2に検出積算値出力信号とオフセット電圧信号との差分に比例するオフセット除去後検出積算信号(画素信号)が蓄積される。なお、コンデンサC2には、コンデンサC1とは異なる画素列の画素122aのオフセット除去後検出積算信号が蓄積される。
トランジスタTR10は、出力部AMP2とコンデンサC2の他端との間に接続されているスイッチングトランジスタである。トランジスタTR10の制御端子(例えば、ゲート端子)には、制御信号ODD_SHが入力され、当該制御信号ODD_SHによって導通及び非導通が制御される。制御信号ODD_SHがONするとトランジスタTR10が導通し、コンデンサC2に蓄積された電荷が出力部AMP2に出力される。
第2のCDS回路CDS2は、画素行における隣り合う画素122aの他方の画素122aに対応するオフセット除去後検出積算信号を蓄積する。第2のCDS回路CDS2は、例えば、偶数行の画素122aに対応するオフセット除去後検出積算信号を蓄積する。
上記のように、CDS回路126は、トランジスタTR7及びTR10が同時に導通し、トランジスタTR8及びTR9が同時に導通する。また、トランジスタTR7及びTR10が導通するタイミングと、トランジスタTR8及びTR9が導通するタイミングとは、互いに異なるように制御される。
例えば、コンデンサC2にオフセット除去後検出積算信号が蓄積されている場合、トランジスタTR7及びTR10が導通されることにより、コンデンサC1に相関二重サンプリング処理されたオフセット除去後検出積算信号が蓄積されるとともに、コンデンサC2に蓄積されていたオフセット除去後検出積算信号をADC回路127に出力することができる。コンデンサC2に蓄積されたオフセット除去後検出積算信号をADC回路127に出力中(例えば、当該オフセット除去後検出積算信号をAD変換中)に、コンデンサC2に蓄積されたオフセット除去後検出積算信号に対応する画素122aとは異なる画素122aに対応するオフセット除去後検出積算信号をコンデンサC1に蓄積することができる。このように、トランジスタTR7及びTR10と、トランジスタTR8及びTR9とを交互に導通させることにより、コンデンサC1及びC2の一方のコンデンサに蓄積されていたオフセット除去後検出積算信号を出力するとともに、他方のコンデンサにオフセット除去後検出積算信号を蓄積することができる。
相関二重サンプリングとは、画素122aから供給される検出積算値出力信号と電荷蓄積コンデンサMIM1の電圧をリセットした後の増幅トランジスタ(例えば、トランジスタTR5)からの出力電圧との差分を、実際の信号成分としてサンプリングする技術である。相関二重サンプリングについては、特に限定される必要はなく、従来技術が用いられてもよい。したがって、相関二重サンプリングの詳細な説明については省略する。
このように、CDS回路126でオフセット除去動作とAD変換動作とを同時に行うことができ、画像センサ122のフレームレートをハード的に高速化することができる。
ここで、ADC回路127について、図3Cを参照しながら説明する。図3Cは、本実施の形態に係るADC回路127の構成を示す回路図である。
図3Cに示すように、ADC回路127は、画素列ごとに設けられる。ADC変換は、例えば、シングルスロープ方式である。DAC(Digital to Analog Converter)がRAMP信号を出力し、そのRAMP信号と、CDS回路126の出力信号CDSOUTとをCOMPARATORで比較する。両信号が一致した瞬間に、COMPARATORの出力が初期値から反転して、後段のCOUNTERのカウント動作を停止させる信号を出力する。COUNTERのカウント値とDACのRAMP信号とは同期しており、停止したカウント値はCDS回路126の出力信号CDSOUTに比例することから、このカウント値を出力信号CDSOUTのデジタル値としている。その後、デジタル値は、各列のDATA−LATCHに転送された後、DIGITAL−SHIFTREGISTERで高速転送して画像センサ122から出力される。すなわち、ADC回路127は、図2のデジタル変換後検出積算信号を順次高速転送して、図1の演算部140にする出力する回路である。
[1−2.動作]
次に、上記のようなAPDを有する画素122aを二次元状に配置した距離検出装置100における距離画像を生成する動作について説明する。まずは、距離検出装置100における距離画像を生成する概略動作について、図4A〜図7を参照しながら説明する。図4Aは、本実施の形態に係る距離検出装置100のAグループの第1サブフレームにおける測距処理タイミングの一例を示す図である。
上記で説明したように、制御部130は、互いに異なる第1フレーム及び第2フレームにおいて、例えば、異なる測距範囲となるように第1フレーム及び第2フレームの測距範囲を決定する。そして、制御部130は、例えば、第1フレームを複数のサブフレームに分割し、複数のサブフレームのそれぞれに、互いに異なり、かつ互いに距離連続性を有しない測距範囲を設定する。Aグループは、当該1フレームを分割した複数のサブフレームを含む。図4A〜図7では、第1フレームを3つのサブフレーム(第1サブフレーム、第3サブフレーム、及び、第5サブフレーム)に分割した場合について説明する。例えば、第1サブフレームは、測距範囲が9m〜12mであり、第3サブフレームは、測距範囲が15m〜18mであり、第5サブフレームは、測距範囲が21〜24mである。このように、サブフレームのそれぞれは、測距範囲が互いに距離連続性を有さないように決定される。なお、12m〜15m、及び、18m〜21mの測距範囲の測距は、例えば、第2フレームで行われる。なお、この場合、測距範囲の幅(測距区間の幅)は、一律3mである例を示しているが、これに限定されない。
図4Aに示すように、第1サブフレームは、第1測距期間と第1読出し期間とを有する。第1測距期間は、第1サブフレームに応じた測距範囲における測距を行う期間であり、第1読出し期間は、画素122aからCDS回路126に検出積算値出力信号を読み出す(出力する)期間である。
まず、制御部130は、積算回路124のトランジスタTR4のゲート端子にリセット信号RSTを印加することでトランジスタTR4を導通させ、電荷蓄積コンデンサMIM1をリセットする。
さらに、制御部130は、光源110を制御し、期間T1の幅を有する光源パルス(光パルス)を照射する。期間T1は、例えば、20nsであるがこれに限定されない。
第1測距期間で測定する測距範囲(ここでは、9m〜12m)に物体が位置する場合、当該物体で反射した反射光は、光源110から光源パルスが照射された時刻に対して、期間TD1だけ遅れて距離検出装置100に到達する。したがって、受光回路123の読出信号TRNにより、露光をこの時刻に開始し期間TE1間だけ露光するように設定すれば、この距離範囲内にある物体からの反射光を検知することができる。なお、期間TD1は、測距範囲の最小値(ここでは9m)と光速とに基づいて決定される。また、TE1は、測距範囲内の最大値(ここでは12m)と最小値との差分と光速とに基づいて決定される。期間TD1は、例えば、60nsであり、期間TE1は、例えば、20nsである。
図4Aでは、期間TE1が露光期間である。期間TE1では、トランジスタTR1が非導通であり、かつトランジスタTR2が導通する。露光期間後、トランジスタTR1が導通し、かつトランジスタTR2が非導通となる。これにより、APDは、リセットされる。
このあと、積算回路124において、積算信号CNTによりトランジスタTR3が導通することで、フローティングディフュージョンFDに蓄積された電荷が、電荷蓄積コンデンサMIM1に蓄積される。
第1測距期間において、上記の動作が所定回数繰り返し実行される。所定回数は特に限定されない。第1測距期間において、上記の動作が少なくとも1回実行されればよい。なお、第1測距期間において、上記の動作が複数回繰り返し実行される場合、APDが反射光を受光するごとに、電荷蓄積コンデンサMIM1に蓄積されている電荷が増加する。
そして、第1測距期間が経過すると、第1読出し期間に移り、電荷蓄積コンデンサMIM1に蓄積された電荷に対応する検出積算値出力信号が出力回路125からCDS回路126に出力される。第1のCDS期間は、上記の検出積算値出力信号を出力回路125からCDS回路126に出力するための期間である。第1のCDS期間では、まずトランジスタTR3及びTR4のうちトランジスタTR3を導通させる。これにより、検出積算値出力信号が出力回路125からCDS回路126に出力される。その後、第1のCDS期間において、トランジスタTR3及びTR4の両方を導通させる。これにより、電荷蓄積コンデンサMIM1がリセットされる。再びトランジスタTR3及びTR4を非導通にすることで、電荷蓄積コンデンサMIM1のリセット動作が完了する。
第2のCDS期間は、電荷蓄積コンデンサMIM1が初期状態ときの電圧に対応するリセット電圧信号を出力回路125からCDS回路126に出力するための期間である。第2のCDS期間では、まずトランジスタTR3及びTR4のうちトランジスタTR3を導通させる。これにより、リセット電圧信号が出力回路125からCDS回路126に出力される。その後、第2のCDS期間において、トランジスタTR3及びTR4の両方を導通させる。これにより、再度電荷蓄積コンデンサMIM1がリセットされる。再びトランジスタTR3及びTR4を非導通にすることで、電荷蓄積コンデンサMIM1のリセット動作が完了する。
これにより、CDS回路126において、検出積算値出力信号とリセット電圧信号との差分に基づくオフセット除去後検出積算信号が生成され、蓄積される。オフセット除去後検出積算信号は、APDが受光した反射光の強度のみに依存した信号である。
そして、オフセット除去後検出積算信号は、ADC回路127でデジタル信号に変換され、演算部140で物体の有無の判定等が行われる。そして、判定結果は、合成部160に出力される。
このように、本実施の形態に係る距離検出装置100は、測距するとすぐに当該測距により生成される検出積算値出力信号を読出す処理を行う。これにより、画素122a(画素回路)を単純に構成することができるので、画素122a(画素回路)を微細化することができる。
図4Bは、本実施の形態に係る第1サブフレーム画像を示す図である。図4Bは、縦横各3画素で構成される画像を示す。なお、後述する図5B及び6Bにおいても同様である。
図4Bでは、演算部140が、デジタル信号とLUTとに基づいて、9画素のうち、2画素において、物体があると判定した場合を示す。図中の「Z1」は、第1サブフレームにおいて物体があると判定されたことを示す情報である。「Z1」が記載されている画素122aは、第1サブフレームにおいて、物体があると判定された画素である。「Z1」は、距離情報を有する。
次に、第3サブフレームについて、図5A及び5Bを参照しながら説明する。第3サブフレームは、例えば、第1サブフレームより後に測距されるサブフレームであって、第1サブフレームの測距範囲より遠い範囲を測距する。図5Aは、本実施の形態に係る距離検出装置100の第3サブフレームにおける測距処理タイミングの一例を示す図である。
図5Aに示すように、第3サブフレームは、第3測距期間と第3読出し期間とを有する。第3測距期間は、測距を行う期間であり、第3読出し期間は、画素122aからCDS回路126に検出積算値出力信号を読出す(出力する)期間である。
第3測距期間においては、光源パルスを発してから露光を開始するまでの期間TD3が第1測距期間における期間TD1と異なる。第3サブフレームは第1サブフレームより遠い測距範囲を測距するので、期間TD3は期間TD1より長い。このように、各サブフレームにおいて、当該サブフレームにおける測距範囲に応じて、光源パルスの発光に対する読出信号TRNの供給タイミングが異なる。なお、期間T3は期間T1と同じでもよく、例えば、20nsである。また、測距範囲内の最大値と最小値との差分(ここでは、3m)が同じであるので、期間TE3は期間TE1と同じであり、例えば、20nsである。
また、第3読出し期間における処理は、第1読出し期間と同様であり、説明を省略する。
図5Bは、本実施の形態に係る第3サブフレーム画像を示す図である。
図5Bでは、演算部140が、9画素のうち、2つの画素において、物体があると判定した場合を示す。図中の「Z3」の画素122aが、物体があると判定された画素である。
次に、第5サブフレームについて、図6A及び6Bを参照しながら説明する。第5サブフレームは、例えば、第3サブフレームより後に測距されるサブフレームであって、第3サブフレームの測距範囲より遠い範囲を測距する。図6Aは、本実施の形態に係る距離検出装置100の第5サブフレームにおける測距処理タイミングの一例を示す図である。
図6Aに示すように、第5サブフレームは、第5測距期間と第5読出し期間とを有する。第5測距期間は、測距を行う期間であり、第5読出し期間は、画素122aからCDS回路126に検出積算値出力信号を読出す(出力する)期間である。
第5測距期間においては、光源パルスを発してから露光を開始するまでの期間TD5が第3測距期間における期間TD3と異なる。第5サブフレームは第3サブフレームより遠い測距範囲を測距するので、期間TD5は期間TD3より長い。なお、期間T5は期間T3と同じでもよく、例えば、20nsである。また、測距範囲内の最大値と最小値との差分(ここでは、3m)が同じであるので、期間TE5は期間TE3と同じであり、例えば、20nsである。
また、第5読出し期間における処理は、第3読出し期間と同様であり、説明を省略する。
図6Bは、本実施の形態に係る第5サブフレーム画像を示す図である。
図6Bでは、演算部140が、9画素のうち、2画素において、物体があると判定した場合を示す。図中の「Z5」の画素122aが、物体があると判定された画素である。
次に、合成部160における距離画像の生成について、図7を参照しながら説明する。図7は、本実施の形態に係る合成後の距離画像を示す図である。
図7に示すように、合成部160は、第1サブフレーム画像、第3サブフレーム画像、及び、第5サブフレーム画像に基づいて、第1フレームにおける距離画像(第1距離画像の一例)を生成する。合成部160は、第1サブフレーム画像、第3サブフレーム画像、及び、第5サブフレーム画像を合成することで、第1フレームにおいて、1つの距離画像を生成する。
合成部160は、例えば、右下の画素122aにおいては、第1サブフレーム画像、第3サブフレーム画像、及び、第5サブフレーム画像のうち第1サブフレーム画像において距離情報「Z1」が対応付けられている。そのため、合成部160は、例えば、右下の画素122aにおいては、距離情報「Z1]とする。言い換えると、合成部160は、右下の画素122aにおいては、Aグループの第1サブフレームに対応する測距範囲である9m〜12mの位置に物体があることを示す情報を当該画素122aに対応づける。
なお、演算部140は、同一の画素122aに対して、2以上サブフレーム(2以上の区間距離画像)において物体があると判定することがある。例えば、図4B及び図6Bに示すように、演算部140は、左上の画素122aにおいて、9m〜12m、及び、18m〜21mのそれぞれに物体があると判定している。この場合、合成部160は、距離検出装置100の用途などに応じて、一方を適宜選択する。合成部160は、例えば、距離検出装置100が自動車に用いられる場合、近距離の情報の方が運転における影響が大きいので、近距離の情報を優先して選択する。本実施の形態では、図7に示すように、9m〜12mの位置に物体があることを示す「Z1」を選択する。
上記のように、合成部160は、第1フレームにおいて、演算部140が1つの画素122aに対して、Aグループのサブフレーム群のうち2以上のAグループのサブフレームで物体が有ると判定した場合、当該2以上のAグループのサブフレームのうち、近距離側の測距範囲を測距したAグループのサブフレームの判定結果に基づいて、第1距離画像を生成してもよい。また、第2フレームにおいても、同様である。
なお、距離検出装置100の用途に応じては、遠距離の情報が優先して選択されてもよい。
ここで、距離検出装置100における距離画像を生成する動作について説明する。図8は、本実施の形態に係る距離検出装置100の距離画像生成処理の一例を示すフローチャートである。なお、以下に示すステップS10〜S100までの処理は、第1フレームにおいて、物体までの距離を検出する第1距離検出ステップの一例である。また、以下に示すステップS110〜S200までの処理は、第2フレームにおいて、物体までの距離を検出する第2距離検出ステップの一例である。また、以下に示す及びステップS10は、設定ステップの一例であり、ステップS20〜S90は、第1距離画像群撮像ステップの一例であり、ステップS110〜S190は、第2距離画像群撮像ステップの一例である。また、第1距離画像群撮像ステップ及び第2距離画像群撮像ステップは、撮像ステップに含まれる。
図8に示すように、制御部130は、奥行方向に測距区間を分割する(S10)。奥行方向は、画像センサ122の撮像方向であり、例えば、前方などである。制御部130は、例えば、画像センサ122からの距離ごとに測距区間を分割する。制御部130は、例えば、画像センサ122での測距範囲が9m〜15mである場合、測距範囲9m〜12mを1つの測距区間とし、測距範囲12m〜15mを1つの測距区間とする。これは、奥行方向に測距区間を分割することの一例である。制御部130は、奥行方向に距離連続性を有するように、測距区間を分割してもよい。つまり、制御部130は、Aグループの測距区間のそれぞれに、互いに異なる測距範囲であって、かつ互いに距離連続性を有する測距範囲を設定してもよい。制御部130は、第1フレームを測距区間ごとの複数のサブフレームに分割するとも言える。当該測距区間の一部のサブフレーム(サブフレーム群)は、Aグループに含まれる。分割数は、特に限定されない。測距区間は、距離分割区間の一例である。
なお、各測距区間の幅(距離の幅)は、等しい(例えば、3m)である例について説明したが、これに限定されない。制御部130は、奥行方向の手前側(カメラ120に近い側)の測距区間の距離を、奥行方向の奥側の測距区間より距離を狭く設定してもよい。制御部130は、奥行方向の手前側から奥側までの測距区間の距離を、徐々に変化させてもよい。制御部130は、奥行方向の手前側の測距区間から奥側の測距区間になるにつれ、(例えば、カメラ120から遠ざかるにつれ)測距区間の距離を、徐々に大きくしてもよい。
なお、制御部130は、例えば、Aグループの各測距区間(例えば、各サブフレーム)を、互いに非連続な測距区間に設定してもよい。具体的には、制御部130は、Aグループの測距区間のそれぞれに、互いに異なる測距範囲であって、かつ互いに距離連続性を有しない測距範囲を設定してもよい。ステップS10は、第1設定ステップの一例でもある。
そして、制御部130は、Aグループの測距区間ごとに距離画像の撮像を実行する(S20)。制御部130は、AステップS10で設定されたAグループの測距区間それぞれにおける測距を行うように、光源110及びカメラ120を制御する。制御部130は、例えば、上記の図4A等に示すように、光源110及びカメラ120を制御する。なお、Aグループの測距区間は、ステップS10で設定された測距区間の一部の区間である。
そして、ステップS20の撮像が実行されることで、当該測距区間において、フォトン入射による発生電荷を複数回積算した距離画像を撮像する(S30)。積算された電荷を積算電荷S1とも記載する。ここでの距離画像を撮像することは、例えば、当該距離画像の積算電荷S1を取得することに相当する。なお、積算電荷S1は、図2に示す検出積算値に対応する。また、積算電荷S1は、電荷蓄積コンデンサMIM1に蓄積される。ステップS20及びS30は、第1測距ステップの一例である。
そして、演算部140は、距離画像の積算電荷S1を画像センサ122からリードする(S40)。これにより、Aグループの測距区間ごとに、積算電荷S1に対応した検出積算値出力信号(APDが受光した光に対応する電圧信号)が画素122aの外部に出力される。
なお、ステップS40は、さらに、画素122aから出力された検出積算値出力信号に対して相関二重サンプリング処理が行い、保持するCDS処理ステップと、当該検出積算値出力信号の前に取得された検出積算値出力信号(つまり、画素列における隣り合う画素122aから出力された検出積算値出力信号)であって、相関二重サンプリング処理が行われ保持されている検出積算値出力信号(つまり、オフセット除去後検出積算信号)を出力する出力ステップとを含んでいてもよい。CDS処理ステップと出力ステップとは、並行して行われる。
例えば、図4A等に示す第1読出し期間においてCDS処理ステップが実行されるとともに、当該第1読出し期間において、CDS回路126から相関二重サンプリング処理されたオフセット除去後検出積算信号がADC回路127に出力される。言い換えると、検出積算値出力信号に対する相関二重サンプリング処理中に、相関二重サンプリング処理されたオフセット除去後検出積算信号が出力される。
そして、演算部140は、距離画像に測距区間情報を付与する(S50)。測距区間情報は、測距区間を示す情報を含み、例えば、サブフレームNoに基づく情報を含む。
そして、演算部140は、Aグループの測距区間ごとに、測距された結果(例えば、検出積算値出力信号に基づいて生成されたデジタル信号)に基づいて、物体の有無を判定する(S60)。例えば、演算部140は、積算電荷S1(第1電圧信号の一例)と閾値電圧とを比較する。例えば、演算部140は、積算電荷S1に対応する信号(電圧信号)と閾値電圧とを比較する。そして、演算部140は、積算電荷S1が閾値電圧より大きい場合(S60でYes)、物体が有ることを示す有り判定画素にフラグを立てる(S70)。ステップS70の処理は、画素122aごとに行われる。当該サブフレームにおいて、物体が有ると判定された画素122aに、当該フラグが立つ。また、演算部140は、積算電荷S1が閾値電圧以下である場合(S60でNo)、ステップS80に進む。
演算部140は、Aグループの測距区間のそれぞれにおいて、判定結果と測距区間情報とを合成部160に出力する。判定結果は、例えば、図4B等に示すサブフレーム画像である。ステップS60は、第1判定ステップの一例である。
そして、制御部130は、Aグループの全測距区間の距離画像を撮像したか否かを判定する(S80)。合成部160は、制御部130がAグループの全測距区間の距離画像を撮像したと判定する(S80でYes)と、第1距離画像群の撮像を完了し(S90)、各測距区間の画素122aに立ったフラグを合成し、第1距離画像を生成し出力する(S100)。ステップS100は、第1距離画像生成ステップの一例である。
なお、制御部130は、Aグループの全測距区間の距離画像を撮像していないと判定する(S80でNo)と、ステップS20に戻りAグループの全測距区間で距離画像の撮像が完了するまでステップS20〜S70の処理を継続する。
次に、第2フレームにおける第2距離画像を生成する処理が行われる。第2距離画像は、第1距離画像で測距されていなかった測距区間を測距した結果に基づいて生成される画像である。
制御部130は、ステップS10で設定した測距区間から、奥行方向に測距区間の分割位置(分割距離)をシフトさせる(S110)。制御部130は、ステップS10で設定した測距区間と位相の異なる測距区間を設定するとも言える。また、制御部130は、第2フレームを測距区間ごとの複数のサブフレームに分割するとも言える。当該測定区間それぞれのサブフレーム(サブフレーム群)は、Bグループに含まれる。分割数は、特に限定されないが、例えば、Aグループのサブフレームと同数であってもよい。
なお、制御部130は、例えば、Aグループで設定していない非連続な測距区間をBグループの測距区間に設定してもよい。具体的には、制御部130は、Bグループの測距区間のそれぞれに、第1フレームで設定されていない測距範囲のうち、互いに異なる測距範囲であって、かつ互いに距離連続性を有しない測距範囲を設定してもよい。制御部130は、距離検出装置100における測距可能は範囲から、第1フレームで設定されていない測距範囲を選択し、選択した測距範囲をBグループの測距区間のそれぞれに割り当てることで測距区間を設定してもよい。このように測距区間を割り当てることも、奥行方向に測距区間の分割位置をシフトさせることに含まれる。
そして、制御部130は、Bグループの測距区間ごとに距離画像の撮像を実行する(S120)。制御部130は、ステップS110で設定された測距区間における測距を行うように、光源110及びカメラ120を制御する。
そして、ステップS120の撮像が実行されることで、当該測距区間において、でフォトン入射による発生電荷を複数回積算した距離画像を撮像する(S130)。積算された電荷を積算電荷S2とも記載する。ここでの距離画像を撮像することは、例えば、当該距離画像の積算電荷S2を取得することに相当する。積算電荷S2は、図2に示す検出積算値に対応する。また、積算電荷S2は、電荷蓄積コンデンサMIM1に蓄積される。ステップS120及びS130は、第2測距ステップの一例である。
そして、演算部140は、距離画像の積算電荷S2を画像センサ122からリードする(S140)。これにより、Bグループの測距区間ごとに、積算電荷S2に対応した検出積算値出力信号(APDが受光した光に対応する電圧信号)が画素122aの外部に出力される。
なお、ステップS40と同様に、ステップS140は、さらに、CDS処理ステップと出力ステップとを含み、当該CDS処理ステップと出力ステップとは並行して行われてもよい。
そして、演算部140は、距離画像に測距区間情報を付与する(S150)。
そして、演算部140は、Bグループの測距区間ごとに、測距された結果(デジタル信号)に基づいて、物体の有無を判定する(S160)。すなわち、演算部140は、積算電荷S2と閾値電圧とを比較する。そして、演算部140は、積算電荷S2が閾値電圧より大きい場合(S160でYes)、物体が有ることを示す有り判定画素にフラグを立てる(S170)。ステップS170の処理は、画素122aごとに行われる。当該距離画像において、物体が有ると判定された画素に、当該フラグが立つ。また、演算部140は、積算電荷S2が閾値電圧以下である場合(S160でNo)、ステップS180に進む。なお、ステップS160で用いられる閾値電圧と、S60で用いられる閾値電圧とは同じ電圧値であるが、異なる電圧値であってもよい。
演算部140は、Bループの測距区間のそれぞれにおいて、判定結果と測距区間情報とを合成部160に出力する。ステップS160は、第2判定ステップの一例である。
そして、制御部130は、Bグループの全測距区間の距離画像を撮像したか否かを判定する(S180)。合成部160は、制御部130がBグループの全測距区間の距離画像を撮像したと判定する(S180でYes)と、第2距離画像群の撮像を完了し(S190)、各測距区間の画素122aに立ったフラグを合成し、第2距離画像を生成し出力する(S200)。ステップS200は、第2距離画像生成ステップの一例である。
なお、制御部130は、Bグループの全測距区間の距離画像を撮像していないと判定する(S180でNo)と、S120に戻りBグループの全測距区間で距離画像の撮像が完了するまで、ステップS120〜S170の処理を継続する。
なお、距離検出装置100は、図8に示すS10〜S200までの処理を繰り返し実行する。言い換えると、第1距離画像と第2距離画像とが交互に生成される。具体的には、制御部130は、例えば、第1距離画像と第2距離画像とを交互に生成するように、光源110及びカメラ120を制御する。そのため、出力部170は、第1距離画像と第2距離画像とを交互に出力することができる。
ここで、ステップS100で生成される第1距離画像、及び、ステップS200で生成される第2距離画像について、図9A〜図9Eを参照しながら説明する。図9Aは、本実施の形態に係る第1距離画像の一例を説明するための模式図である。図9Bは、本実施の形態に係る第1距離画像が生成される流れを模式的に示すフローチャートである。図9Bは、図8に示すステップS20〜S80の処理が繰り返し実行されている場合を示す。具体的には、図9Bは、ステップS20〜S40の処理が繰り返し実行されている場合を示す。図9Bに示すフローチャートは、第1距離画像群撮像ステップの一例である。図9Cは、本実施の形態に係る第2距離画像の一例を説明するための模式図である。なお、図9A〜図9Eでは、Aグループ及びBグループの各測距区間を互いに連続な測距区間に設定している場合を示している。
図9Aに示すように、第1距離画像群は、第1区間距離画像〜第10区間距離画像を含む。例えば、第1区間距離画像に対応する第1測距区間と第2区間距離画像に対応する第2測距区間とは、互いに連続する測距区間である。また、第1距離画像群における各測距区間の幅は、互いに等しくてもよい。例えば、当該幅は、3mなどであってもよい。なお、図9Aでは、ステップS10で設定された測距区間のうち、第1区間距離画像に対応する測距区間〜第10区間距離画像に対応する測距区間までがAフレームにおける測距区間(第1距離画像を生成するための測距区間)として設定された例を示している。
図9Bに示すように、画像センサ122は、まず第1区間距離画像を撮像し(S310)、当該第1区間距離画像を出力する(S320)。図9Aに示す第1区間距離画像は、図9Bに示すステップS310及びS320により生成される。ステップS310は、第1測距区間におけるステップS20及びS30の処理に対応し、ステップS320は、第1測距期間におけるステップS40の処理に対応する。また、ステップS310及びS320は、第1区間距離画像撮像ステップの一例である。また、ステップS310及びS320は、図4Aに示す第1サブフレームにおいて行われる処理であり、ステップS310は、第1測距期間における処理であり、ステップS320は、第1読み出し期間における処理である。
また、第2区間距離画像〜第10区間距離画像の撮像及び出力(S330〜S400)についても、同様に順次実行される。
図9Cに示すように、第2距離画像群は、第1区間距離画像〜第10区間距離画像を含む。例えば、第1区間距離画像に対応する第1測距区間と第2区間距離画像に対応する第2測距区間とは、互いに連続する測距区間である。第2距離画像群における各測距区間の幅は、互いに等しくてもよい。例えば、3mなどであってもよい。また、第2距離画像群における第1測距区間と第1距離画像群における第1測距区間とは、少なくとも一部が異なる区間である。
ここで、各距離画像群のそれぞれにおける測距区間の関係について、図9D及び図9Eを参照しながら説明する。図9Dは、本実施の形態に係るフレームごとの測距区間の関係の第1例を示す図である。具体的には、図9Dは、第1距離画像群及び第2距離画像群における測距区間の関係の一例を示す図である。
図9Dに示すように、第1距離画像群の第1測距区間と、第2距離画像群の第1測距区間とは、少なくとも一部が重なっていてもよい。第1距離画像群の第1測距区間の測距範囲の最小値から第2距離画像群の第1測距区間の測距範囲の最小値までの距離を距離X1とし、第2距離画像群の第1測距区間の測距範囲の最小値から第1距離画像群の第1測距区間の測距範囲の最大値までの距離を距離Y1とすると、例えば、距離X1=距離Y1であってもよい。つまり、第1距離画像群の第1測距区間の半分の区間が、第2距離画像群の第1測距区間と重なっていてもよい。
例えば、第1距離画像群の各測距区間のそれぞれ、及び、第2距離画像群の各測距区間のそれぞれの最大値と最小値との差(つまり、測距区間の幅)が等しい場合、第2距離画像群の第1測距区間は、第1距離画像群の第1測距区間及び第2測距区間のそれぞれの半分の区間と重なる。つまり、第1距離画像群撮像ステップに含まれる複数の測距区間と、第2距離画像群撮像ステップに含まれる複数の測距区間とは、互いに半区間ずらしてあってもよい。なお、この場合、第1距離画像群の各測距区間の幅と、第2距離画像群の各測距区間の幅とは、例えば、等しくてもよい。
図9Eは、本実施の形態に係るフレームごとの測距区間の関係の第2例を示す図である。具体的には、図9Eは、第1距離画像群及び第N距離画像群における測距区間の関係の一例を示す図である。なお、Nは、3以上の整数である。
図9Eに示すように、第1距離画像群の第1測距区間と、第N距離画像群の第1測距区間とは、少なくとも一部が重なっていてもよい。第1距離画像群の第1測距区間の測距範囲の最小値から第N距離画像群の第1測距区間の測距範囲の最小値までの距離を距離X2とし、第N距離画像群の第1測距区間の測距範囲の最小値から第1距離画像群の第1測距区間の測距範囲の最大値までの距離を距離Y2とすると、例えば、距離Y2=距離X2/Nであってもよい。つまり、第1距離画像群撮像ステップに含まれる複数の測距区間と、第N距離画像群撮像ステップに含まれる複数の分割区間とは、互いに1/N区間ずらした区間であってもよい。つまり、第1距離画像群〜第N距離画像群の測距区間のそれぞれは、等間隔の区間ずらした区間であってもよい。
このように、互いの測距区間の少なくとも一部もが重なるように第1距離画像群及び第2距離画像群の測距区間が設定されることで、例えば、第1距離画像群及び第2距離画像群の一方で測距が正確に行えていない区間があっても、他方の測距で補えることができる。つまり、測定精度が向上する。また、測距区間を距離画像群ごとに変更することで、分解能を低下させることなく、近距離から遠距離までの広い範囲を測定することが可能である。
なお、第2距離画像群の第1測距区間は、第1距離画像群の各測距区間のいずれか1つと少なくとも一部が重なっていてもよい。
ここで、各距離画像群のそれぞれにおける測距区間の設定について、図10A〜図10Dを参照しながら説明する。図10Aは、本実施の形態に係る第1距離画像の他の一例を説明するための模式図である。図10Bは、本実施の形態に係る第2距離画像の他の一例を説明するための模式図である。なお、図10A〜図10Dでは、Aグループ及びBグループの各測距区間を互いに非連続な測距区間に設定している場合を示している。
図10Aに示すように、第1距離画像群は、第1区間距離画像〜第10区間距離画像を含む。例えば、第1区間距離画像に対応する第1測距区間と第2区間距離画像に対応する第2測距区間とは、互いに連続しない測距区間である。また、第1距離画像群における各測距区間の幅は、互いに等しくてもよい。例えば、当該幅は、3mなどであってもよい。
図10Bに示すように、第2距離画像群は、第1区間距離画像〜第10区間距離画像を含む。例えば、第1区間距離画像に対応する第1測距区間と第2区間距離画像に対応する第2測距区間とは、互いに連続しない測距区間である。第2距離画像群における各測距区間の幅は、互いに等しくてもよい。例えば、当該幅は、3mなどであってもよい。また、第2距離画像群における第1測距区間と第1距離画像群における第1測距区間とは、少なくとも一部が異なる区間である。言い換えると、第2距離画像群における第1測距区間と第1距離画像群における第1測距区間とは、少なくとも一部が重なる区間であってもよい。
ここで、各距離画像群のそれぞれにおける測距区間の設定について、図10C及び図10Dを参照しながら説明する。図10Cは、本実施の形態に係るフレームごとの測距区間の関係の第2例を示す図である。具体的には、図10Cは、第1距離画像群及び第2距離画像群における測距区間の関係の一例を示す図である。
距離検出装置100は、9m〜69mまでを測距可能であり、各測距区間の測距範囲は、9mから3mごとの範囲で設定されているとする。つまり、測距区間の幅は、3mに設定されている。具体的には、第1距離画像群(Aグループ)の第1測距区間(第1サブフレーム)の測距範囲は9m〜12m、第2距離画像群(Bグループ)の第1測距区間(第2サブフレーム)の測距範囲は12m〜15m、第1距離画像群の第2測距区間(第3サブフレーム)の測距範囲は15m〜18m、・・・、第2距離画像群の第10測距区間(第10サブフレームの測距範囲)は66m〜69mであるとする。第1距離画像群及び第2距離画像群とも、距離範囲が間欠に設定されている。
図10Cに示すように、第1距離画像群及び第2距離画像群は、互いに欠落した測距範囲を補うような画像である。言い換えると、制御部130は、互いに欠落した測距範囲を補い合うように第1距離画像群及び第2距離画像群の各測距区間の測距範囲を設定する。制御部130が第1距離画像群の画像及び第2距離画像群の画像を交互に生成するように光源110及びカメラ120を制御することで、距離検出装置100は、フレームごとの測距範囲に距離連続性を確保することができる。
ここで、各測距区間の期間を4.3msec(例えば、測距期間が1msecであり、読出し期間が3.3msec)とする。本実施の形態では、第1距離画像群及び第2距離画像群はそれぞれ10個の測距区間(区間距離画像)で構成されるので、1フレームのフレーム速度は43msec(フレームレートは23.3fps)である。一方、比較例として、1フレームで20個の測距区間の全てを測距すると、1フレームのフレーム速度は86msec(フレームレート11.6fps)となる。よって、本実施の形態によれば、見かけ上のフレームレートを向上させることができる。
なお、上記では、第1フレームにおいて設定される測距範囲と第2フレームにおいて設定される測距範囲とは、互いに重ならない例について説明したが、これに限定されない。例えば、第1フレームにおいて設定される測距範囲と第2フレームにおいて設定される測距範囲とは、一部が重なっていてもよい。つまり、ステップS110では、ステップS10で設定される測距範囲と一部が重複するように測距範囲が設定されてもよい。この場合、ステップS10及びステップS110では、互いの測距範囲の幅が等しくなるように、第1フレームの測距範囲と第2フレームの測距範囲とが設定されるとよい。例えば、Aグループの第1測距区間の測距範囲は8m〜13m、Bグループの第1測距区間の測距範囲は11m〜16m、Aグループの第2測距区間の測距範囲は14m〜19mなどのように設定されるとよい。この場合、測距区間の幅は、5mである。なお、第1フレーム及び第2フレームのそれぞれにおいて、互いに時間的に隣り合う測距区間(例えば、Aグループの第1測距区間及び第2測距区間)同士の測距範囲は、重ならないように設定されてもよい。
[1−3.効果]
以上のように、距離画像の取得方法は、奥行方向に複数の距離分割区間を設定する設定ステップ(S10)と、設定された複数の距離分割区間に基づいて距離画像を取得する撮像ステップとを含む。撮像ステップは、複数の距離分割区間の一部を撮像した複数の距離画像を取得する第1距離画像群撮像ステップ(S20〜S90)と、複数の距離分割区間の前記一部と位相の異なる距離分割区間を撮像した複数の距離画像を取得する第2距離画像群撮像ステップ(S110〜S190)とを含む。
これにより、2つの距離画像において距離分割区間の一部を異ならせることで、画像の分解能を低下させることなく、距離分割区間の一部が異なる2つの距離画像を取得することができる。例えば、2つの距離画像の一方が他方より近距離側を撮像した画像である場合、近距離から遠距離まで広い範囲にわたり撮像した距離画像を取得することができる。また、第1距離画像群撮像ステップにおいて、ステップS10で設定した距離分割区間の一部において距離画像が取得されるので、距離分割区間の全てにおいて距離画像が取得される場合に比べて、短期間で距離画像を取得することができる。よって、本開示に係る距離画像の取得方法は、近距離から遠距離まで広い範囲にわたり、高精度な分解能で、対象物までの情報、つまり距離画像を早く取得することができる。
また、複数の距離分割区間は、奥行方向に連続性を有してもよい。
これにより、第1距離画像群撮像ステップ及び第2距離画像群撮像ステップで取得される距離画像群は、同じ距離に対する画像を含む。2つの画像を用いて当該距離における物体を検出することができるので、検出精度が向上する。
また、複数の距離分割区間は、奥行方向に連続性を有しなくてもよい。
これにより、第1距離画像群撮像ステップ及び第2距離画像群撮像ステップのそれぞれにおいて、測距範囲が離散的に設定されるので、第1距離画像群撮像ステップ及び第2距離画像群撮像ステップの処理を高速化することができる。よって、距離画像をより早く取得することができる。
また、第1距離画像群撮像ステップに含まれる2以上の距離分割区間と、前記第2距離画像群撮像ステップに含まれる2以上の距離分割区間とは、互いに半区間ずれていてもよい。半区間は、例えば、第1区間撮像画像に対応する第1測距区間の半分であってもよい。
これにより、互いに半区間ずらしてある2つの距離画像群を、対象物までの情報として取得することができる。当該2つの距離画像群を用いた対象物を検出することで、検出精度が向上する。
また、撮像ステップは、N(3以上の整数)回以上の距離画像群撮像ステップで構成され、それぞれの距離画像群撮像ステップに含まれる2以上の距離分割区間のそれぞれは、1/N区間ずれていてもよい。
これにより、互いに1/N区間ずらしてあるN個の距離画像群を対象物までの情報として取得することができる。当該Nつの距離画像群を用いた対象物を検出することで、検出精度が向上する。
また、設定ステップで設定される複数の距離分割区間は、奥行方向の手前側の区間が奥行方向の奥側の区間より狭い距離範囲に設定される。距離範囲が狭いとは、測距区間の幅が狭いことを意味する。
これにより、画像センサ122の近くにある対象物までの距離を細かく取得することができる。よって、より高精度な分解能で対象物までの情報を早く取得することができる。
また、以上のように、距離検出装置100は、APD(Avalanche Photo Diode)を有する画素が二次元状に配置された画像センサ122と、撮像する対象物に向けて照射光を発光する光源110と、画像センサ122で撮像した画像を処理する演算部140と、光源110、画像センサ122および演算部140を制御する制御部130と、演算部140で処理した画像を合成する合成部160と、合成された画像に所定の情報を付加して出力する出力部170とを備える。そして、制御部130は、奥行方向に複数の距離分割区間を設定し、光源110、画像センサ122および演算部140を制御することで、設定された複数の距離分割区間の一部を撮像した複数の距離画像である第1距離画像群を取得し、かつ、複数の距離分割区間の一部と位相の異なる距離分割区間を撮像した複数の距離画像である第2距離画像群を取得する。
これにより、上記の画像取得方法と同様の効果を奏する。つまり、距離検出装置100は、近距離から遠距離まで広い範囲にわたり、高精度な分解能で、対象物までの情報、つまり距離画像を早く取得することができる。
また、画像センサ122は、画像センサ122は、第1距離画像群および第2距離画像群の取得のそれぞれにおいて、画素122aが検出したフォトン数に対応する画素信号を画素122aの回路内に設けた記憶素子に画素電圧として記憶し、記憶された画素電圧を演算部140に読み出す構成を有する。演算部140は、第1距離画像群および第2距離画像群の取得のそれぞれにおいて、画素電圧の大きさが閾値を超えると、当該距離画像に対象物が有ると判定する。合成部160は、第1距離画像群および第2距離画像群のそれぞれから、3次元化距離画像を生成する。そして、出力部170は、第1距離画像群および第2距離画像群のそれぞれに設定された互いに異なる色彩を3次元化距離画像に付加する。
これにより、上記の距離検出装置100を実現するための画素122a(画素回路)を微細化することができる。また、対象物の検出結果を視認しやすい距離画像を出力することができる。
また、距離検出装置100は、さらに、画素122aから読み出した画素信号をノイズ除去後に画像センサ122から出力するCDS回路126(相関二重サンプリング回路)を有する。CDS回路126は、二次元状に配置された画素122aのうちn行目の画素122aの画素信号をノイズ除去している期間に、n−1行目の画素122aの画素信号であって当該期間の前にノイズ除去が完了した画素信号を出力する。
これにより、画素信号のノイズ除去と、ノイズ除去された画素信号の出力とを、並行して行うことができるので、対象物までの情報、つまり距離画像をさらに早く取得することができる。
また、合成部160は、演算部140により第1距離画像群および第2距離画像群のそれぞれにおいて、同一画素122aの複数の距離画像で対象物が有ると判定された場合、奥行方向の手前側の距離画像の判定結果を優先して選択する。そして、出力部170は、選択された当該距離画像に色彩を付加する。
これにより、複数の距離画像で対象物が有ると判定された場合、当該対象物を画像センサ122から最も近くにあるとして検出結果を出力することができる。例えば、距離検出装置100が車両等に搭載される場合、当該車両の走行をより安全に行うことができる。
以上のように、距離検出方法は、APD(Avalanche Photo Diode)を有する画素122aを二次元状に配置した距離検出装置100における距離検出方法である。当該距離検出方法は、第1フレームにおいて、対象物までの距離を検出する第1距離検出ステップ(例えば、ステップS10〜S100)と、第1フレームの後の第2フレームにおいて、対象物までの距離を検出する第2距離検出ステップ(例えば、ステップS110〜S200)とを含む。第1距離検出ステップは、第1フレームを分割した複数のサブフレームであってAグループに含まれる複数のサブフレームのそれぞれに、互いに異なる測距範囲であって、かつ互いに距離連続性を有しない測距範囲を設定する第1設定ステップ(S10)と、Aグループのサブフレーム群のそれぞれにおいて、第1設定ステップで設定された測距範囲における測距を行う第1測距ステップ(S20)とを含む。第2距離検出ステップは、第2フレームを分割した複数のサブフレームであってBグループに含まれる複数のサブフレームのそれぞれに、第1設定ステップで設定されていない測距範囲を設定する第2設定ステップ(S110)と、Bグループのサブフレーム群のそれぞれにおいて、第2設定ステップで設定された測距範囲における測距を行う第2測距ステップ(S120)とを含む。
これにより、第1距離画像及び第2距離画像はそれぞれ、測距範囲の連続性を有しない画像となる。そのため、第1距離画像及び第2距離画像のそれぞれが距離検出装置100における測定範囲を測定する場合に比べ、短期間で第1距離画像及び第2距離画像を生成することができる。また、第2距離画像は、第1距離画像で欠落した測距範囲の画像となる。例えば、第1距離画像と第2距離画像とを交互に生成することで、測距範囲の連続性を確保することができる。よって、本実施の形態に係る距離検出方法によれば、測距範囲の連続性(距離連続性)を確保しつつ、近距離から遠距離まで広い範囲にわたり、高精度な分解能で、対象物までの情報をより早く取得することができる距離検出装置100を提供することができる。
また、第2設定ステップでは、第1設定ステップで設定される測距範囲と一部が重複するように測距範囲が設定される。
これにより、第1距離画像と第2距離画像とにおいて、測距範囲が欠落してしまうことを抑制することができる。
また、第1測距ステップでは、Aグループのサブフレーム群のそれぞれにおいて、APDが検出したフォトンに対応する第1電圧信号を画素122aの外部に出力する。第1距離検出ステップは、さらに、Aグループのサブフレーム群のそれぞれにおいて、第1電圧信号に基づいて物体の有無を判定する第1判定ステップ(S60)と、Aグループのサブフレーム群のそれぞれの判定結果を合成することで、第1距離画像を生成する第1距離画像生成ステップ(S100)とを含む。また、第2測距ステップでは、Bグループのサブフレーム群のそれぞれにおいて、APDが検出したフォトンに対応する第2電圧信号を画素122aの外部に出力する。第2距離検出ステップは、さらに、Bグループのサブフレーム群のそれぞれにおいて、第2電圧信号に基づいて物体の有無を判定する第2判定ステップ(S160)と、Bグループのサブフレーム群(例えば、第2距離画像群)のそれぞれの判定結果を合成することで、第2距離画像を生成する第2距離画像生成ステップ(S200)とを含む。
これにより、当該処理を実行するための距離検出装置100における画素122aに追加する部品点数を削減することができるので、画素回路を微細化することができる。
また、第1距離画像生成ステップでは、第1判定ステップにおいて、1つの画素122aに対して、Aグループのサブフレーム群のうち2以上のAグループのサブフレームで物体が有ると判定された場合、2以上のAグループのサブフレームのうち、近距離側の測距範囲を測距したサブフレームの判定結果に基づいて、第1距離画像を生成する。また、第2距離画像生成ステップでは、第2判定ステップにおいて、1つの画素122aに対して、Bグループのサブフレーム群のうち2以上のBグループのサブフレームで物体が有ると判定された場合、2以上のBグループのサブフレームのうち、近距離側の測距範囲を測距したサブフレームの判定結果に基づいて、第2距離画像を生成する。
これにより、距離検出方法が近距離の情報及び遠距離の情報のうち近距離の情報の方が重要である用途(例えば、自動車等)に用いられる場合に、当該用途に適した距離画像を生成することができる。
また、第1距離検出ステップ及び第2距離検出ステップは、さらに、画素122aから出力された第1電圧信号に対して相関二重サンプリング処理を行い、保持するCDS処理ステップと、当該第1電圧信号の前に取得された第1電圧信号であって、相関二重サンプリング処理が行われ保持されている第1電圧信号を出力する出力ステップとを含む。そして、CDS処理ステップと、出力ステップとは、並行して実行される。
これにより、1つのサブフレームにおける第1電圧信号のノイズ除去中に、1つの前に取得したサブフレームの第1電圧信号を読出すことができるので、さらにフレームレートを向上させることができる。
また、以上のように、距離検出装置100は、APDを有する画素122aが二次元状に配置された画像センサ122(受光部の一例)と、画像センサ122を制御する制御部130とを備える。そして、制御部130は、第1フレームを分割した複数のサブフレームであってAグループに含まれる複数のサブフレームのそれぞれに、互いに異なる測距範囲であって、かつ互いに距離連続性を有しない測距範囲を設定し、Aグループのサブフレーム群のそれぞれにおいて、設定された測距範囲における測距を行うように画像センサ122(受光部の一例)を制御する。また、制御部130は、第1フレームの後の第2フレームを分割した複数のサブフレームであってAグループとは異なるBグループに含まれる複数のサブフレームのそれぞれに、第1フレームで設定されていない測距範囲を設定し、Bグループのサブフレーム群のそれぞれにおいて、設定された測距範囲における測距を行うように画像センサ122を制御する。
これにより、上記の距離検出方法と同様の効果を奏する。具体的には、距離検出装置100によれば、距離画像を生成する見かけ上のフレームレートを向上させることができる。
また、例えば、画素122aのそれぞれは、Aグループのサブフレーム群のそれぞれ及びBグループのサブフレーム群のそれぞれにおいて、APDがフォトンを検出することで発生した電荷を積算する積算回路124と、Aグループのサブフレーム群のそれぞれ及びBグループのサブフレーム群のそれぞれにおいて、積算回路124が積算した電荷に基づく積算値に応じた検出積算値出力信号(電圧信号の一例)を出力する出力回路125とを有する。距離検出装置100は、さらに、Aグループのサブフレーム群のそれぞれ及びBグループのサブフレーム群のそれぞれにおいて、出力回路125から出力された検出積算値出力信号に基づいて、当該サブフレームにおける物体の有無を判定する演算部140と、演算部140におけるAグループのサブフレーム群のそれぞれにおける画素122aごとの判定結果に基づいて第1フレームに対応する第1距離画像を生成し、演算部140におけるBグループのサブフレーム群のそれぞれにおける画素122aごとの判定結果に基づいて第2フレームに対応する第2距離画像を生成する合成部160とを有する。
これにより、上記の距離検出装置100を実現するための画素122a(画素回路)を微細化することができる。
(実施の形態2)
[2−1.構成]
まず、本実施の形態に係る距離検出装置の構成について、図11〜図13を参照しながら説明する。図11は、本実施の形態に係る距離検出装置200の構成を示すブロック図である。図12は、本実施の形態に係る画像センサ222の構成を示すブロック図である。図13は、本実施の形態に係る画素222aの構成を示す回路図である。なお、以下において、実施の形態1に係る距離検出装置100との相違点を中心に説明し、同様の構成については同一の符号を付し、説明を省略又は簡略化する場合がある。
図11に示すように、本実施の形態に係る距離検出装置200は、実施の形態1に係る距離検出装置100が備えるカメラ120に替えて、カメラ220を備える。また、本実施の形態に係る距離検出装置200は、合成部160を備えていない。なお、図12では、出力回路125は、図示を省略している。
図12に示すように、画像センサ222は、実施の形態1に係る画像センサ122に加えて、比較回路225と、記憶回路226とを有する。以下、当該2つのブロックについて、図13を参照しながら具体的な構成および機能を説明する。なお、ここで説明する具体的な構成は、一例を示したものであり、画素222aの構成は、ここに記載したものに限定されない。例えば、同じような機能を有する他の構成であっても、本実施形態と同様の作用効果が得られる。
比較回路225は、積算回路124からの検出積算値と閾値とを比較し、検出積算値が閾値よりも大きい場合にONとなる比較信号を記憶回路226のトランジスタTR22の制御端子(例えば、ゲート端子)に出力する。比較回路225は、コンデンサC21、トランジスタT21、及び、インバータAMP3を有する。
コンデンサC21は、積算回路124から出力される信号(検出積算値)の直流成分を除去するための直流カットコンデンサである。コンデンサC21は、積算回路124の出力端子とインバータAMP3の入力端子との間に接続されている。
トランジスタTR21は、インバータAMP3をイコライズするためのスイッチングトランジスタ(クランプトランジスタ)であり、インバータAMP3の入力端子と出力端子との間に接続されている。トランジスタTR21の制御端子(例えば、ゲート端子)に入力されるイコライズ信号EQによって導通及び非導通が制御される。イコライズ信号EQがONすると、トランジスタTR21が導通し、インバータAMP3はイコライズされる。
インバータAMP3は、積算回路124によって生成された検出積算値に基づいて、比較信号を出力する。インバータAMP3の入力端子は、コンデンサC21を介して積算回路124に接続され、インバータAMP3の出力端子は、トランジスタTR22の制御端子(例えば、ゲート端子)に接続されている。また、インバータAMP3は、電源(図示しない)に接続され、電源電圧として所定の電圧が供給されている。
例えば、インバータAMP3の入力電圧が上昇した場合に、インバータAMP3の出力電圧はローレベルになる。インバータAMP3の入力電圧は、積算回路124の電圧によって変化するので、APDへのフォトンの入射の有無によって変化する。したがって、インバータAMP3は、フォトンの入射の有無によって信号レベルの異なる信号(比較信号)を出力する。例えば、電荷蓄積コンデンサMIM1の電圧が所定電圧以下に下がる(つまり、APDへのフォトンの入射がある)と、比較信号がON状態になる。比較信号がONするとは、ハイレベルの電圧値の信号が出力されることを意味する。
さらに、比較回路225は、制御部130からの制御により出力された検知基準信号(図12参照)がONのとき、積算回路124から入力された検出積算値に応じた閾値を設定することができるように構成されていてもよい。そして、比較回路225は、設定された閾値に対し、入力される検出積算値が大きい場合、出力信号である比較信号をON状態にする機能を有している。なお、比較回路225には、出力許可信号が入力されていてもよい。この場合、出力許可信号がONの場合のみ、比較信号をON状態にするように構成される。
記憶回路226は、測距期間のそれぞれで出力値が変化する時間信号(例えば、比較回路225及び積算回路124による測距期間に対応する時間信号)を受けて、比較信号がON状態のときの当該時間信号を距離信号として記憶する。記憶回路226は、トランジスタTR22と、記憶コンデンサMIM2とを有する。具体的には、トランジスタTR22は、ドレインが、時間信号を印加するための端子に接続され、ソースが記憶コンデンサMIM2を介して負側電源VSSAに接続されている。当該端子には、制御部130の制御により時間信号が印加される。時間信号は、距離信号に相当する信号(電圧)である。時間信号は、例えば、第k測距期間(kは任意の自然数)に対して、kに1対1対応する電圧となるよう設定されている。つまり、時間信号は、測距期間のそれぞれに対して1対1対応する電圧となるよう設定されている。時間信号は、例えば、測距期間ごとに電圧がスイープするRAMP波形の信号である。なお、トランジスタTR22は、例えば、P型のトランジスタである。また、記憶コンデンサMIM2は、画素222aの回路に設けられ、時間信号電圧を記憶する記憶素子の一例である。
また、トランジスタTR22の制御端子(例えば、ゲート端子)には、比較回路225から出力された比較信号が入力される。これにより、比較信号がON状態となったとき、このタイミングにおける時間信号(つまり、電圧)が記憶コンデンサMIM2に記憶される。
出力回路125は、距離信号の電圧を増幅し、増幅された電圧信号を信号線SLに出力する。出力回路125は、第1フレームの複数の測距期間における測距が終了した後、当該電圧信号を出力する。なお、第2フレームにおいても、同様である。
なお、合成部160は、演算部140により第1距離画像群および第2距離画像群のそれぞれにおいて、同一画素222aの複数(2以上)の区間距離画像で対象物が有ると判定された場合、奥行方向の手前側の区間距離画像の判定結果を優先して選択してもよい。そして、出力部170は、複数の区間距離画像のうち選択された当該区間距離画像の画素222aに色彩を付加してもよい。
[2−2.動作]
次に、上記のような距離検出装置200における距離画像を生成する動作について説明する。まずは、距離検出装置200における距離画像を生成する概略動作について、図14及び15を参照しながら説明する。図14は、本実施の形態に係る距離検出装置200の測定処理タイミングを示す図である。図15は、本実施の形態に係る1フレームの距離画像を説明するための模式図である。
制御部130は、実施の形態1と同様、互いに異なる第1フレーム及び第2フレームにおいて、異なる測距範囲となるように第1フレーム及び第2フレームの測定範囲を決定する。そして、制御部130は、第1フレームを複数の測距期間に分割し、複数の測距期間のそれぞれに、互いに異なり、かつ互いに距離連続性を有しない測定範囲を設定する。図14及び図15では、第1フレームを5つの測距期間(第1測距期間、第3測距期間、第5測距期間、第7測距期間、及び、第9測距期間)に分割した場合について説明する。なお、図14では、5つの測距期間うち、第1測距期間及び第3測距期間を図示している。
図14に示すように、1フレームは、複数の測距期間と、1つの読出し期間とを有する。本実施の形態では、測距期間ごとに電圧信号の読出しが行われない。また、第1測距期間は、最も近距離の測距範囲を測距する測距期間である。
図13及び図15に示すように、第1測距期間では、信号レベル(電圧)がZ1である時間信号がトランジスタTR22のドレインに入力されている。このとき、積算回路124からの検出積算値が閾値よりも大きい場合に、比較信号がON状態となる。比較信号がON状態となると、トランジスタTR22が非導通になるので、当該画素222aが有する記憶回路226の記憶コンデンサMIM2にはそれまでトランジスタTR22のドレインに入力されていた信号レベルZ1が記憶される。当該画素222aにおける記憶コンデンサMIM2は、リセットされるまで当該信号レベルZ1を保持する。なお、図13では、記憶コンデンサMIM2をリセットするための回路構成は、図示を省略している。
図15では、第1測距期間において、2つの画素222aのトランジスタTR22が非導通となり、当該2つの画素222aの記憶コンデンサMIM2に信号レベルZ1が記憶されている例を示している。なお、信号レベルZ1が記憶されているとは、当該測距期間に対応する測距範囲に物体が存在することを意味する。言い換えると、本実施の形態に係る画素222aは、画素回路内において、物体があるか否かの判定を行うことができる。記憶コンデンサMIM2に記憶さている信号レベルZ1は、物体までの距離を示す信号(距離信号)であるとも言える。また、図15に示す「0」は、当該画素222aにおいて、トランジスタTR22がOFFになっていないことを意味する。
次に、第3測距期間の測距が行われる。第3測距期間は、第1フレームに含まれる複数の測距期間のうち、第1測距期間の測距範囲の次に測距範囲が近距離である測距期間である。制御部130は、例えば、複数の測距期間を、測距範囲が近距離である測距期間から順に測距するように、光源110及びカメラ120を制御する。
図13及び図15に示すように、第3測距期間は、信号レベル(電圧)がZ3である時間信号がトランジスタTR22のドレインに入力されている。このとき、積算回路124からの検出積算値が閾値よりも大きい場合に、比較信号がON状態となる。比較信号がON状態となると、トランジスタTR22がOFFとなるので、当該画素222aが有する記憶回路226の記憶コンデンサMIM2にはそれまでトランジスタTR22のドレインに入力されていた信号レベルZ3が記憶される。当該記憶コンデンサMIM2は、リセットされるまで当該信号レベルZ3を保持する。
図15では、第3測距期間において、2つの画素222aのトランジスタTR22がOFFされて、当該2つの画素222aの記憶コンデンサMIM2に信号レベルZ3が記憶されている例を示している。
なお、第1測距期間及び第3測距期間のそれぞれにおいて、同一の画素222aのAPDが、反射光を受光した場合について説明する。第1測距期間と第3測距期間との間では、電荷蓄積コンデンサMIM1のリセットは行われないものとする。第1測距期間において、APDがフォトンに応じた電荷を生成し、当該電荷が電荷蓄積コンデンサMIM1に蓄積され、インバータAMP3からの比較信号がON状態となっているとする。そして、第3測距期間において、APDがフォトンに応じた電荷を生成すると、当該電荷がさらに電荷蓄積コンデンサMIM1に蓄積されるが、当該電荷がさらに蓄積されてもインバータAMP3からの比較信号はON状態のままである。そのため、当該画素222aにおけるトランジスタTR22は非導通のままであり、その結果、記憶コンデンサMIM2に記憶される信号レベルはZ1のままである。このように、画素222aは、測距範囲が近距離の信号レベル(判定結果の一例)を優先するように制御されてもよい。
具体的には、制御部130は、図8のステップS30に対応する第1測距ステップでは、Cグループの複数の測距期間のうち、測距範囲が近距離である測距期間から順次測距を行うように、光源110及びカメラ220を制御する。また、制御部130は、図8のステップS140に対応する第2測距ステップでは、Dグループの複数の測距期間のうち、測距範囲が近距離である測距期間から順次測距を行うように、光源110及びカメラ220を制御する。
以降、同様に、第1フレームに含まれる第5測距期間、第7測距期間、及び、第9測距期間における測距が行われる。そして、第1フレームを構成する各測距期間の測距が終了すると、時間信号(距離信号)の読出しが行われる。つまり、複数の測距期間において取得した時間信号を、一回の読出し処理により読出す。例えば、測距期間ごとに読出し処理を行う場合に比べ、読出し期間に要する時間を短縮することができる。そして、演算部140は、時間信号の信号レベル(電圧)を距離に変換する。演算部140は、例えば、電圧と距離とが対応付けられたLUT(例えば、図11の記憶部150が格納しているLUT)に基づいて、電圧を距離に変換することで、距離画像を生成する。
ここで、距離検出装置200における距離画像を生成する動作について説明する。図16は、本実施の形態に係る距離検出装置200の距離画像生成処理の一例を示すフローチャートである。なお、以下に示すステップS510〜S590までの処理は、第1フレームにおいて、物体までの距離を検出する第1距離検出ステップの一例である。また、以下に示すステップS600〜S680までの処理は、第2フレームにおいて、物体までの距離を検出する第2距離検出ステップの一例である。また、以下に示すステップS510は、設定ステップの一例であり、ステップS520〜S580は、第1距離画像群撮像ステップの一例であり、ステップS600〜S670は、第2距離画像群撮像ステップの一例である。また、第1距離画像群撮像ステップ及び第2距離画像群撮像ステップは、撮像ステップに含まれる。なお、図16に示すステップS510及びS600はそれぞれ、図8に示すステップS10及びS100に対応しており、説明を簡略化する。
図16に示すように、制御部130は、奥行方向に測距区間を分割する(S510)。分割数は、特に限定されない。ステップS510は、第1分割ステップの一例でもある。
そして、制御部130は、測距期間ごとに測距期間を割り当てる(S520)。測距期間は、測距区間の距離に応じて設定される。当該測距期間は、Cグループに含まれる。ステップS520は、第1設定ステップの一例である。なお、Cグループの測距期間は、ステップS510で設定された測距区間の一部の区間における期間である。
そして、制御部130は、Cグループの各測距期間ごとに距離画像の撮像を実行する。制御部130は、Cグループの複数の測距期間のそれぞれにおいて、設定された測距範囲における測距を行うように、光源110及びカメラ220を制御する。
そして、測距が実行されることで、各測距期間でフォトン入射による発生電荷を複数回積算する(S530)。積算された電荷を積算電荷S3とも記載する。ここでの距離画像を撮像することは、例えば、当該距離画像の積算電荷S3を取得することに相当する。なお、積算電荷S3は、図12に示す検出積算値に対応する。また、積算電荷S3は、電荷蓄積コンデンサMIM1に蓄積される。このように、光源110が照射した照射光に基づく反射光がADPに入射すると、電荷蓄積コンデンサMIM1にAPDがフォトンを検出することで発生した電荷(発生電荷)が蓄積される。ステップS530は、第1測距ステップの一例である。
そして、比較回路225は、Cグループの測距期間ごとに、蓄積された積算電荷S3と時間信号(例えば、ランプ電圧)とに基づいて、物体の有無を判定する(S540)。例えば、比較回路225は、積算電荷S3と時間信号とを比較する。そして、比較回路225は、積算電荷S3が時間信号より大きい場合(S540でYes)、比較信号をONする(S550)。比較信号がONすることは、物体が有ることを示す。また、比較回路225は、積算電荷S3が時間信号以下である場合(S540でNo)、ステップS570に進む。ステップS540は、第1判定ステップの一例である。
次に、記憶回路226は、Cグループの複数の測距期間のそれぞれで出力値が異なる時間信号における、比較信号がONした時点の時間信号を第1距離信号として画素222a(具体的には、記憶コンデンサMIM2)に記憶する(S560)。具体的には、記憶コンデンサMIM2に当該第1距離信号が記憶される。当該第1距離信号は、当該画素222aにおける距離の情報を含む。
そして、制御部130は、Cグループの全測距期間の時間信号を画素に記憶したか否かを判定する(S570)。合成部160は、制御部130がCグループの全測距期間の時間信号を画素に記憶したと判定する(S570でYes)と、画素222aに記憶された時間信号(ランプ電圧)をリードする(S580)。これにより、演算部140は、第1フレームにおいて1回の読み出し動作で、各画素222aの判定結果を取得することができる。
演算部140は、取得した時間信号(ランプ電圧)を距離情報に変換し、第1距離画像を生成する(S590)。ステップS590は、第1距離画像生成ステップの一例である。
なお、制御部130は、Cグループの全測距期間の判定が終了していないと判定する(S570でNo)と、S530に戻りCグループの全測距期間で判定が終了するまでステップS530〜S560の処理を継続する。
次に、第2フレームにおける第2距離画像を生成する処理が行われる。第2距離画像は、第1距離画像で測距されていなかった測距範囲を測距した結果に基づいて生成される画像である。
制御部130は、ステップS10で設定した測距区間から、奥行方向に測距区間の分割位置(分割距離)をシフトさせる(S600)。制御部130は、ステップS10で設定した測距区間と位相の異なる測距区間を設定するとも言える。また、制御部130は、第2フレームを複数の測距区間に分割するとも言える。制御部130は、例えば、Cグループで設定していない非連続な測距範囲をDグループの各測距区間として設定してもよい。ステップS600は、第2分割ステップの一例でもある。なお、Dグループの測距期間は、ステップS600でシフトされた測距区間における期間である。
そして、制御部130は、測距期間ごとに測距期間を割り当てる(S610)。当該測距期間は、Dグループに含まれる。ステップS620は、第2設定ステップの一例である。
そして、制御部130は、Dグループの各測距期間ごとに距離画像の撮像を実行する。制御部130は、Dグループの複数の測距期間のそれぞれにおいて、ステップS610で設定された測距範囲における測距を行うように、光源110及びカメラ220を制御する。
そして、カメラ220は、各測距期間でフォトン入射による発生電荷を複数回積算する(S620)。積算された電荷を積算電荷S4とも記載する。積算電荷S4は、図12に示す検出積算値に対応する。また、積算電荷S4は、電荷蓄積コンデンサMIM1に蓄積される。ステップS620は、第2測距ステップの一例である。
そして、比較回路225は、Dグループの測距期間ごとに、蓄積された積算電荷S4と時間信号(例えば、ランプ電圧)とに基づいて、物体の有無を判定する(S630)。例えば、比較回路225は、積算電荷S4と時間信号とを比較する。そして、比較回路225は、積算電荷S4が時間信号より大きい場合(S630でYes)、比較信号をONする(S640)。また、比較回路225は、積算電荷S4が時間信号以下である場合(S630でNo)、ステップS660に進む。ステップS630は、第2判定ステップの一例である。
次に、記憶回路226は、Dグループの複数の測距期間のそれぞれで出力値が異なる時間信号における、比較信号がONした時点の時間信号を第1距離信号として画素222a(具体的には、記憶コンデンサMIM2)に記憶する(S650)。具体的には、記憶コンデンサMIM2に当該第1距離信号が記憶される。当該第1距離信号は、当該画素222aにおける距離の情報を含む。
そして、制御部130は、Dグループの全測距期間の時間信号を画素に記憶したか否かを判定する(S660)。制御部130は、Dグループの全測距期間の時間信号を画素に記憶したと判定する(S660でYes)と、画素222aに記憶された時間信号(ランプ電圧)をリードする(S670)。これにより、演算部140は、第2フレームにおいて1回の読み出し動作で、各画素222aの判定結果を取得することができる。
演算部140は、取得した時間信号(第1距離信号)を距離情報に変換し、第2距離画像を生成する(S680)。ステップS680は、第2距離画像生成ステップの一例である。
なお、制御部130は、Dグループの全測距期間の判定が終了していないと判定する(S660でNo)と、S620に戻りDグループの全測距期間で測距が終了するまでステップS620〜S650の処理を継続する。
なお、距離検出装置200は、図16に示すステップS510〜S670までの処理を繰り返し実行する。言い換えると、第1距離画像と第2距離画像とが交互に生成される。具体的には、制御部130は、第1距離画像と第2距離画像とを交互に生成するように、光源110及びカメラ220を制御する。そのため、出力部170は、第1距離画像と第2距離画像とを交互に出力することができる。
ここで、第1フレームで生成される第1距離画像、及び、第2フレームで生成される第2距離画像について、図17A〜図17Cを参照しながら説明する。図17Aは、本実施の形態に係る第1距離画像の一例を説明するための模式図である。図17Bは、本実施の形態に係る第1距離画像が生成される流れを模式的に示すフローチャートである。図17Bは、図16に示すステップS530〜S580の処理を示す。図17Cは、本実施の形態に係る第2距離画像の一例を説明するための模式図である。図17A及び図17Bでは、測距期間のそれぞれで検出された物体を図示している。
図17Aに示すように、第1距離画像群は、第1測距期間〜第10測距期間それぞれの区間距離画像を含む。例えば、第1区間距離画像に対応する第1測距期間と第2区間距離画像に対応する第2測距期間とは、互いに連続する測距区間である。また、第1距離画像群における各測距期間は、互いに等しい測距期間(例えば、1msecなど)であってもよい。なお、図17Aでは、ステップS510で設定された測距区間のうち、第1区間距離画像〜第10区間距離画像に対応する測距区間までがCフレームにおける測距区間として設定された例を示している。
図17Bに示すように、画像センサ222は、まず第1測距期間〜第10測距期間の撮像を行い(S710〜S750)、その後に読み出し期間となる(S760)。ステップS710は、第1測距期間におけるステップS520及びS530の処理に対応し、ステップS720は、第2測距期間におけるステップS520及びS530の処理に対応する。また、ステップS710は、第1区間距離画像撮像ステップの一例である。また、ステップS710は、第1測距期間における処理であり、ステップS720は、第2測距期間における処理である。また、ステップS760は、第1読み出し期間における処理である。
図17Cに示すように、第2距離画像群は、第1測距期間〜第10測距期間それぞれの区間距離画像を含む。例えば、第1区間距離画像に対応する第1測距区間と第2区間距離画像に対応する第2測距区間とは、互いに連続する測距区間である。また、第2距離画像群における各測距区間は、互いに等しい測距期間(例えば、1msecなど)であってもよい。また、第2距離画像群における第1測距区間と第1距離画像群における第1測距区間とは、少なくとも一部が異なる期間である。言い換えると、第2距離画像群における第1測距期間と第1距離画像群における第1測距期間とは、少なくとも一部が重なる期間である。
このように、互いの測距期間の少なくとも一部もが重なるように第1距離画像群及び第2距離画像群の測距期間が設定されることで、例えば、第1距離画像群及び第2距離画像群の一方で測距が正確に行えていなくても、他方の測距で補えることができる。つまり、測定精度が向上する。また、測距期間を距離画像群ごとに変更することで、分解能を低下させることなく、近距離から遠距離までの広い範囲を測定することが可能である。
なお、第2距離画像群の第1測距期間は、第1距離画像群の各測距期間のいずれか1つと少なくとも一部が重なっていてもよい。
ここで、各距離画像群のそれぞれにおける測距区間の設定について、図18A及び図18Bを参照しながら説明する。図18Aは、本実施の形態に係る第1距離画像の他の一例を説明するための模式図である。図18Bは、本実施の形態に係る第2距離画像の他の一例を説明するための模式図である。なお、図18A及び図18Bでは、Cグループ及びDグループの各測距期間を互いに非連続な測距期間に設定している場合を示している。
図18Aに示すように、第1距離画像群は、第1測距期間〜第10測距期間のそれぞれにおける区間距離画像を含む。例えば、第1区間距離画像に対応する第1測距期間と第2区間距離画像に対応する第2測距期間とは、互いに連続しない測距期間である。
図18Bに示すように、第2距離画像群は、第1測距期間〜第10測距期間のそれぞれにおける区間距離画像を含む。例えば、第1区間距離画像に対応する第1測距期間と第2区間距離画像に対応する第2測距期間とは、互いに連続しない測距期間である。
このように、距離連続性を有しない測距範囲に対応した測距期間が設定されてもよい。つまり、時間連続性を有しない測距期間が設定されてもよい。
図18A及び図18Bに示すように、実施の形態1と同様に、第1距離画像及び第2距離画像は、互いに欠落した測距範囲を補うような画像であってもよい。このような第1距離画像は、距離検出装置200が測定可能な測距期間の範囲のうち、所定の測距期間(例えば、1msec)で、かつ当該所定の測距期間(例えば、1msec)ごとに測距された結果に基づいて生成される。
ここで、各測距期間を1msec、読出し期間が3.3msecとする。本実施の形態では、第1フレーム及び第2フレームはそれぞれ10個の測距期間で構成されるので、1フレームのフレーム速度は13.3msec(フレームレートは75fps)である。一方、比較例として、1フレームで20個の測距期間の全てを測距すると、1フレームのフレーム速度は23.3msec(フレームレート43fps)となる。よって、本実施の形態によれば、見かけ上のフレームレートを向上させることができる。
[2−3.効果など]
以上のように、距離検出装置200が備える画像センサ222は、第1距離画像群および第2距離画像群のそれぞれにおいて、APDを有する画素222aが検出したフォトン数に対応する画素信号の電圧が閾値を超えると、距離画像に対応した時間信号電圧を画素222aの回路内の記憶素子(例えば、記憶コンデンサMIM2)に記憶する構成を有する。出力部170は、記憶素子に記憶した時間信号電圧が置き換えられた距離画像を含む、第1距離画像群および第2距離画像群のそれぞれに設定された互いに異なる色彩を付加する。
これにより、画素222aの外部(例えば、演算部140等の処理部)における信号処理量を軽減することができるので、距離画像を生成するフレームレートを向上させることができる。つまり、対象物までの情報をさらに早く取得することができる。
以上のように、距離検出方法は、APD(Avalanche Photo Diode)を有する画素222aを二次元状に配置した距離検出装置200における距離検出方法である。記距離検出方法は、第1フレームにおいて、対象物までの距離を検出する第1距離検出ステップ(S510〜S590)と、第1フレームの後の第2フレームにおいて、対象物までの距離を検出する第2距離検出ステップ(S600〜S680)とを含む。第1距離検出ステップは、第1フレームを分割した複数の測距区間であってCグループに含まれる複数の測距区間のそれぞれに、互いに異なる測距期間であって、かつ互いに距離連続性を有しない測距範囲に対応した測距期間を設定する第1設定ステップ(S520)と、Cグループの複数の測距期間のそれぞれにおいて、第1設定ステップで設定された測距期間における測距を行う第1測距ステップ(S530)とを含む。第2距離検出ステップは、第2フレームを分割した複数の測距区間であってCグループとは異なるDグループに含まれる複数の測距区間のそれぞれに、第1設定ステップで設定されていない測距期間を設定する第2設定ステップ(S610)と、Dグループの複数の測距期間のそれぞれにおいて、第2設定ステップで設定された測距期間における測距を行う第2測距ステップ(S620)とを含む。
第1測距ステップは、Cグループの複数の測距期間のそれぞれにおいて、APDがフォトンを検出することで発生した電荷を積算電荷S3(第1積算電荷の一例)として蓄積し(S530)、積算電荷S3とCグループの複数の測距期間のそれぞれで出力値が異なる時間信号とを比較し(S540)、積算電荷S3が時間信号よりも大きい場合にONとなる比較信号を出力し(S550)、画素222aのそれぞれが、比較信号がONした時点の時間信号を記憶し(S560)、Cグループの複数の測距期間のそれぞれの測距の後に、記憶された時間信号を画素222aの外部に出力する(S580)。そして、第1距離検出ステップは、さらに、複数の画素222aのそれぞれにおける時間信号に基づいて、第1距離画像を生成する第1距離画像生成ステップ(S590)を含む。
また、第2測距ステップは、Dグループの複数の測距期間のそれぞれにおいて、APDがフォトンを検出することで発生した電荷を積算電荷S4(第2積算電荷の一例)として蓄積し(S620)、積算電荷S4とDグループの複数の測距期間のそれぞれで出力値が異なる時間信号とを比較し(S630)、積算電荷S4が時間信号よりも大きい場合にONとなる比較信号を出力し(S640)、画素222aのそれぞれが、比較信号がONした時点の時間信号を記憶し(S650)、Dグループの複数の測距期間のそれぞれの測距の後に、記憶された時間信号を画素222aの外部に出力する(S670)。そして、第2距離検出ステップは、さらに、複数の画素222aのそれぞれにおける時間信号に基づいて、第2距離画像を生成する第2距離画像生成ステップ(S680)を含む。
これにより、画素222aの外部(例えば、演算部140等の処理部)における信号処理量を軽減することができるので、距離検出装置200のシステムを簡単化できる。
また、第1測距ステップでは、Cグループの複数の測距期間のうち、測距範囲が近距離である測距期間から順次測距を行い、第2測距ステップでは、Dグループの複数の測距期間のうち、測距範囲が近距離である測距期間から順次測距を行う。
これにより、近距離の情報及び遠距離の情報のうち近距離の情報を優先して、距離画像を生成することができる。よって、上記の距離検出方法が近距離の情報の方が重要である用途(例えば、自動車等)に用いられる場合に、当該用途に適した距離画像を生成することができる。
また、以上のように、距離検出装置200の画素222aのそれぞれは、画素222aのそれぞれは、APDがフォトンを検出することで発生した電荷を積算する積算回路124と、積算回路124に積算された積算電荷とCグループ及びDグループの複数の測距期間のそれぞれで出力値が異なる時間信号とを比較し、積算電荷が時間信号よりも大きい場合にONとなる比較信号を出力する比較回路225と、比較信号がONした時点の時間信号を記憶する記憶回路226と、Cグループの複数の測距期間のそれぞれにおける測距が終了した後、及び、Dグループの複数の測距期間のそれぞれにおける測距が終了した後のそれぞれで、記憶回路226に記憶された時間信号を出力する出力回路125とを有する。そして、距離検出装置200は、さらに、第1フレームにおいて出力された時間信号に基づいて第1距離画像を生成し、第2フレームにおいて出力された時間信号に基づいて第2距離画像を生成する演算部140を備える。
これにより、演算部140における信号処理量を軽減することができるので、距離検出装置200のシステムを簡単化できる。
(その他の実施の形態)
以上、本開示の実施の形態に係る距離検出方法及び距離検出装置について、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したもの、又は異なる実施の形態における構成要素を組み合わせて構築される形態も、一つ又は複数の態様の範囲内に含まれてもよい。
例えば、上記実施の形態等では、第1フレーム及び第2フレームを構成する複数のサブフレーム及び測距期間のそれぞれの測距範囲のピッチ(間隔)が等しい(すなわち、露光期間が等しい)例について説明したが、測距離範囲のピッチは異なっていてもよい。
また、上記実施の形態等では、制御部は、1フレームを構成する複数のサブフレーム及び測距期間のそれぞれに、互いに非連続な測距範囲を設定する例について説明したが、これに限定されない。制御部は、例えば、複数のサブフレーム及び測距期間のうち少なくとも2つのサブフレーム及び測距期間において、互いに非連続な測距範囲を設定すればよい。
また、上記実施の形態等では、制御部は、近距離から遠距離に向けて順次測距するように光源及びカメラを制御する例について説明したが、これに限定されない。制御部は、例えば、遠距離から近距離に向けて順次測距するように光源及びカメラを制御してもよい。
また、上記実施の形態等では、出力部は、距離検出装置の外部の装置に距離画像を出力する例について説明したが、これに限定されない。距離検出装置が表示部を備えている場合、出力部は距離画像を当該表示部に出力してもよい。
また、上記実施の形態等に記載した距離検出装置が用いられる用途は、特に限定されない。距離検出装置は、自動車、船舶などの移動体、監視カメラ、自身の位置を確認しながら自律的に移動するロボット、物体の3次元形状を計測する3次元計測装置などに用いられてもよい。
上記のような制御部、演算部、合成部等の処理部を構成する各構成要素は、専用のハードウェアで構成されてもよく、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。この場合、各構成要素は、例えば、演算処理部(図示せず)と、制御プログラムを記憶する記憶部(図示せず)とを備えてもよい。演算処理部としては、MPU(Micro Processing Unit)、CPU(Central Processing Unit)等が例示される。記憶部としては、半導体メモリなどのメモリ等が例示される。なお、各構成要素は、集中制御を行う単独の要素で構成されてもよく、互いに協働して分散制御を行う複数の要素で構成されてもよい。ソフトウェアプログラムは、アプリケーションとして、インターネット等の通信網を介した通信、モバイル通信規格による通信等で提供されるものであってもよい。
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
本開示の固体撮像素子は、車載カメラ等、被写体が動く(例えば、高速で動く)ような環境下で有効なCMOS(Complementary Metal Oxide Semiconductor)画像センサ等に利用できる。
100、200 距離検出装置
110 光源
111 発光部
112 駆動部
120、220 カメラ
121 レンズ
122、222 画像センサ(受光部)
122a、222a 画素
123 受光回路
124 積算回路
125 出力回路
126 CDS回路
127 ADC回路
130 制御部
140 演算部
150 記憶部
160 合成部
170 出力部
225 比較回路
226 記憶回路
AMP1、AMP3 インバータ
AMP2 出力部
C1、C2、C21 コンデンサ
CDS1 第1のCDS回路
CDS2 第2のCDS回路
CDSOUT アナログ信号、出力信号
CNT 積算信号
FD フローティングディフュージョン
MIM1 電荷蓄積コンデンサ
MIM2 記憶コンデンサ
OVF、RST リセット信号
SEL 行選択信号
SL 信号線
TR1〜TR10、TR21、TR22 トランジスタ
TRN 読出信号
VSSA 負側電源
VSUB、RSD、VDD 電源

Claims (11)

  1. 奥行方向に複数の距離分割区間を設定する設定ステップと、
    設定された前記複数の距離分割区間に基づいて距離画像を取得する撮像ステップとを含み、
    前記撮像ステップは、
    前記複数の距離分割区間の一部を撮像した複数の距離画像を取得する第1距離画像群撮像ステップと、
    前記複数の距離分割区間の前記一部と位相の異なる距離分割区間を撮像した複数の距離画像を取得する第2距離画像群撮像ステップと、を含む
    距離画像の取得方法。
  2. 前記複数の距離分割区間は、前記奥行方向に連続性を有する
    請求項1に記載の距離画像の取得方法。
  3. 前記複数の距離分割区間は、前記奥行方向に連続性を有しない
    請求項1に記載の距離画像の取得方法。
  4. 前記第1距離画像群撮像ステップに含まれる2以上の距離分割区間と、前記第2距離画像群撮像ステップに含まれる2以上の距離分割区間とは、互いに半区間ずれている
    請求項1〜3のいずれか1項に記載の距離画像の取得方法。
  5. 前記撮像ステップは、N(3以上の整数)回以上の距離画像群撮像ステップで構成され、それぞれの距離画像群撮像ステップに含まれる2以上の距離分割区間は、1/N区間ずれている
    請求項1〜3のいずれか1項に記載の距離画像の取得方法。
  6. 前記設定ステップで設定される前記複数の距離分割区間は、前記奥行方向の手前側の区間が前記奥行方向の奥側の区間より狭い距離範囲に設定される
    請求項1〜5のいずれか1項に記載の距離画像の取得方法。
  7. APD(Avalanche Photo Diode)を有する画素が二次元状に配置された画像センサと、
    撮像する対象物に向けて照射光を発光する光源と、
    前記画像センサで撮像した画像を処理する演算部と、
    前記光源、前記画像センサおよび前記演算部を制御する制御部と、
    前記演算部で処理した画像を合成する合成部と、
    合成された画像に所定の情報を付加して出力する出力部とを備え、
    前記制御部は、
    奥行方向に複数の距離分割区間を設定し、
    前記光源、前記画像センサおよび前記演算部を制御することで、設定された前記複数の距離分割区間の一部を撮像した複数の距離画像である第1距離画像群を取得し、かつ、前記複数の距離分割区間の前記一部と位相の異なる距離分割区間を撮像した複数の距離画像である第2距離画像群を取得する
    距離検出装置。
  8. 前記画像センサは、前記第1距離画像群および前記第2距離画像群の取得のそれぞれにおいて、前記画素が検出したフォトン数に対応する画素信号を前記画素の回路内に設けた記憶素子に画素電圧として記憶し、記憶された前記画素電圧を前記演算部に読み出す構成を有し、
    前記演算部は、前記第1距離画像群および前記第2距離画像群の取得のそれぞれにおいて、前記画素電圧の大きさが閾値を超えると、当該距離画像に対象物が有ると判定し、
    前記合成部は、前記第1距離画像群および前記第2距離画像群のそれぞれから、3次元化距離画像を生成し、
    前記出力部は、前記第1距離画像群および前記第2距離画像群のそれぞれに設定された互いに異なる色彩を前記3次元化距離画像に付加する
    請求項7に記載の距離検出装置。
  9. さらに、前記画素から読み出した画素信号をノイズ除去後に前記画像センサから出力する相関二重サンプリング回路を有し、
    前記相関二重サンプリング回路は、前記二次元状に配置された画素のうちn行目の前記画素の画素信号をノイズ除去している期間に、n−1行目の前記画素の画素信号であって当該期間の前にノイズ除去が完了した画素信号を出力する
    請求項7に記載の距離検出装置。
  10. 前記画像センサは、前記第1距離画像群および前記第2距離画像群のそれぞれにおいて、前記APDを有する画素が検出したフォトン数に対応する画素信号の電圧が閾値を超えると、距離画像に対応した時間信号電圧を前記画素の回路内の記憶素子に記憶する構成を有し、
    前記出力部は、前記記憶素子に記憶された時間信号電圧が置き換えられた距離画像を含む、前記第1距離画像群および前記第2距離画像群のそれぞれに設定された互いに異なる色彩を付加する
    請求項7に記載の距離検出装置。
  11. 前記合成部は、前記演算部により前記第1距離画像群および前記第2距離画像群のそれぞれにおいて、同一画素において複数の距離画像で対象物が有ると判定された場合、前記奥行方向の手前側の距離画像の判定結果を優先して選択し、
    前記出力部は、選択された当該距離画像に前記色彩を付加する
    請求項8又は10に記載の距離検出装置。
JP2021509375A 2019-03-26 2020-03-23 距離画像の取得方法、及び、距離検出装置 Pending JPWO2020196378A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019058990 2019-03-26
JP2019058990 2019-03-26
PCT/JP2020/012645 WO2020196378A1 (ja) 2019-03-26 2020-03-23 距離画像の取得方法、及び、距離検出装置

Publications (1)

Publication Number Publication Date
JPWO2020196378A1 true JPWO2020196378A1 (ja) 2021-11-18

Family

ID=72610942

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021509375A Pending JPWO2020196378A1 (ja) 2019-03-26 2020-03-23 距離画像の取得方法、及び、距離検出装置

Country Status (4)

Country Link
US (1) US20220003876A1 (ja)
JP (1) JPWO2020196378A1 (ja)
CN (1) CN113597567A (ja)
WO (1) WO2020196378A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023228933A1 (ja) * 2022-05-23 2023-11-30 株式会社 Rosnes 距離測定装置
CN117218005B (zh) * 2023-11-08 2024-03-01 华侨大学 基于全距离特征聚合的单帧图像超分辨率方法及系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005080285A (ja) * 2003-08-28 2005-03-24 Toshiba Corp 3次元画像処理装置
JP2009257981A (ja) * 2008-04-18 2009-11-05 Calsonic Kansei Corp 車両用距離画像データ生成装置
JP2009300133A (ja) * 2008-06-11 2009-12-24 Japan Aerospace Exploration Agency 航空機搭載用光学式遠隔気流計測装置
JP2012220366A (ja) * 2011-04-11 2012-11-12 Optex Co Ltd 距離画像カメラおよびこれを用いた対象物の面形状認識方法
WO2017110413A1 (ja) * 2015-12-21 2017-06-29 株式会社小糸製作所 車両用画像取得装置、制御装置、車両用画像取得装置または制御装置を備えた車両および車両用画像取得方法
WO2017141957A1 (ja) * 2016-02-17 2017-08-24 パナソニックIpマネジメント株式会社 距離測定装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5580233B2 (ja) * 2011-03-22 2014-08-27 富士重工業株式会社 車外監視装置および車外監視方法
JP5947507B2 (ja) * 2011-09-01 2016-07-06 キヤノン株式会社 撮像装置及びその制御方法
JP2014021017A (ja) * 2012-07-20 2014-02-03 Sanyo Electric Co Ltd 情報取得装置および物体検出装置
JP6214236B2 (ja) * 2013-03-05 2017-10-18 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
JP2015046678A (ja) * 2013-08-27 2015-03-12 キヤノン株式会社 画像処理装置、画像処理方法、および撮像装置
JP6340477B2 (ja) * 2015-03-26 2018-06-06 富士フイルム株式会社 距離画像取得装置及び距離画像取得方法
JP6701199B2 (ja) * 2015-07-31 2020-05-27 パナソニック株式会社 測距撮像装置
EP3159711A1 (en) * 2015-10-23 2017-04-26 Xenomatix NV System and method for determining a distance to an object
JP6942637B2 (ja) * 2015-12-21 2021-09-29 株式会社小糸製作所 車両用画像取得装置、および車両用画像取得装置を備えた車両
WO2017213052A1 (ja) * 2016-06-08 2017-12-14 パナソニックIpマネジメント株式会社 測距システム及び測距方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005080285A (ja) * 2003-08-28 2005-03-24 Toshiba Corp 3次元画像処理装置
JP2009257981A (ja) * 2008-04-18 2009-11-05 Calsonic Kansei Corp 車両用距離画像データ生成装置
JP2009300133A (ja) * 2008-06-11 2009-12-24 Japan Aerospace Exploration Agency 航空機搭載用光学式遠隔気流計測装置
JP2012220366A (ja) * 2011-04-11 2012-11-12 Optex Co Ltd 距離画像カメラおよびこれを用いた対象物の面形状認識方法
WO2017110413A1 (ja) * 2015-12-21 2017-06-29 株式会社小糸製作所 車両用画像取得装置、制御装置、車両用画像取得装置または制御装置を備えた車両および車両用画像取得方法
WO2017141957A1 (ja) * 2016-02-17 2017-08-24 パナソニックIpマネジメント株式会社 距離測定装置

Also Published As

Publication number Publication date
US20220003876A1 (en) 2022-01-06
CN113597567A (zh) 2021-11-02
WO2020196378A1 (ja) 2020-10-01

Similar Documents

Publication Publication Date Title
US9621860B2 (en) Image capturing apparatus and control method thereof, and storage medium
US9762840B2 (en) Imaging device and method of driving the same
US10291867B2 (en) Solid-state imaging element and driving method and electronic equipment
WO2014122714A1 (ja) 撮像装置及びその駆動方法
TWI717450B (zh) 固體攝像裝置、固體攝像裝置之驅動方法、及電子機器
JP4802891B2 (ja) 距離測定システム及び距離測定方法
JPWO2016147885A1 (ja) 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器
JPWO2017022219A1 (ja) 固体撮像装置の駆動方法
JP2009141813A (ja) 撮像装置、カメラ、車両及び撮像方法
JP2019075826A (ja) 固体撮像装置、及びそれを備える撮像装置
WO2020196378A1 (ja) 距離画像の取得方法、及び、距離検出装置
JP2005175392A (ja) 固体撮像装置およびそれを利用した撮像システム
JP6362511B2 (ja) 撮像装置及びその制御方法
US20210203907A1 (en) Measurement device
JP6452354B2 (ja) 撮像装置
JP6320154B2 (ja) 撮像装置及び撮像装置の駆動方法
JP2016184868A (ja) 撮像装置及び撮像装置の駆動方法
JP2016144135A (ja) 光電変換装置、撮像システム及び光電変換装置の駆動方法
JP2022158017A (ja) 信号処理装置
JP6485725B1 (ja) 固体撮像装置、及びそれを備える撮像装置
US10623642B2 (en) Image capturing apparatus and control method thereof with change, in exposure period for generating frame, of conversion efficiency
JP6366325B2 (ja) 撮像システム
JP7299711B2 (ja) 光電変換装置及びその駆動方法
US20220006941A1 (en) Solid-state imaging device
US11700467B2 (en) Photoelectric conversion device, photoelectric conversion system, and movable body

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210715

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220707

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20221025