JP2021124321A - 測距装置および測距方法 - Google Patents

測距装置および測距方法 Download PDF

Info

Publication number
JP2021124321A
JP2021124321A JP2020016471A JP2020016471A JP2021124321A JP 2021124321 A JP2021124321 A JP 2021124321A JP 2020016471 A JP2020016471 A JP 2020016471A JP 2020016471 A JP2020016471 A JP 2020016471A JP 2021124321 A JP2021124321 A JP 2021124321A
Authority
JP
Japan
Prior art keywords
unit
pixel
signal
light
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020016471A
Other languages
English (en)
Inventor
貴博 赤羽
Takahiro Akahane
貴博 赤羽
俊 海津
Takashi Kaizu
俊 海津
裕介 池田
Yusuke Ikeda
裕介 池田
康孝 木村
Yasutaka Kimura
康孝 木村
慎一郎 江藤
Shinichiro Eto
慎一郎 江藤
武仕 親川
Takeshi Oyakawa
武仕 親川
尚人 長城
Naoto Nagaki
尚人 長城
英治 平田
Eiji Hirata
英治 平田
洋史 湯浅
Hirofumi Yuasa
洋史 湯浅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Sony Group Corp
Original Assignee
Sony Semiconductor Solutions Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp, Sony Group Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2020016471A priority Critical patent/JP2021124321A/ja
Priority to PCT/JP2021/002292 priority patent/WO2021157393A1/ja
Priority to US17/795,491 priority patent/US20230104085A1/en
Publication of JP2021124321A publication Critical patent/JP2021124321A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/47Image sensors with pixel address output; Event-driven image sensors; Selection of pixels to be read out based on image data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2536Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object using several gratings with variable grating pitch, projected on the object with the same angle of incidence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4814Constructional features, e.g. arrangements of optical elements of transmitters alone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/131Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing infrared wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

【課題】より高速に被測定物までの距離を算出することができる測距装置および測距方法を提供する。【解決手段】測距装置は、光源部と、受光部と、設定部と、検出部と、算出部と、を備える。光源部は、第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影する。受光部は、光を受光して画素信号を出力する。設定部は、前記第1の期間に前記画素信号に基づいて基準信号を設定する。検出部は、前記第2の期間に前記画素信号が前記基準信号から第1の値以上変化したか否かを検出し、検出結果を示す第1の検出信号を出力する。算出部は、前記第1の検出信号を用いて被測定物までの距離を算出する。【選択図】図7

Description

本開示は、測距装置および測距方法に関する。
物体の3次元形状を求める手法の一つとして、空間コード化法と呼ばれる手法が知られている。空間コード化法では、例えば周期の異なる縞パターンを照射して撮像した複数の撮像画像を用いて3次元形状を求める。
J. L. Posdamer, M. D. Altschler, "Surface Measurement by Space-Encoded Projected Beam Systems", Computer Graphics and Image Processing vol.18, No1, pp.1-17, 1982.
空間コード化法では複数の撮像画像を取得する必要がある。そのため、従来の撮像装置では、複数の撮像画像の取得に時間がかかり、例えば高速で移動する物体の3次元形状(被測定物までの距離)の計測が困難であるという問題があった。
そこで、本開示では、より高速に被測定物までの距離を算出することができる測距装置および測距方法を提供する。
本開示によれば、測距装置が提供される。測距装置は、光源部と、受光部と、設定部と、検出部と、算出部と、を備える。光源部は、第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影する。受光部は、光を受光して画素信号を出力する。設定部は、前記第1の期間に前記画素信号に基づいて基準信号を設定する。検出部は、前記第2の期間に前記画素信号が前記基準信号から第1の値以上変化したか否かを検出し、検出結果を示す第1の検出信号を出力する。算出部は、前記第1の検出信号を用いて被測定物までの距離を算出する。
本開示の第1実施形態に係る測距装置の概略構成例を示す図である。 本開示の第1実施形態に係る撮像装置の機能構成例を示す図である。 本開示の第1実施形態に係る単位画素の概略構成例を示す回路図である。 本開示の第1実施形態に係る検出部の概略構成例を示すブロック図である。 本開示の第1実施形態に係る電流電圧変換部の他の一例を示す回路図である。 本開示の第1実施形態に係る減算器及び量子化器の概略構成例を示す回路図である。 本開示の第1実施形態に係る撮像装置の動作例を説明するための図である。 撮像装置による撮像動作の一例を示す図である。 本開示の第1実施形態に係る撮像装置の動作の詳細について説明するための図である。 本開示の第1実施形態に係る撮像装置の比較例について説明するための図である。 本開示の第1実施形態に係る撮像装置の比較例について説明するための図である。 プロジェクタのリンギングの一例を示す模式図である。 本開示の第1実施形態に係る測距装置の構成例を示すブロック図である。 本開示の第1実施形態に係るタイミング制御部によるタイミング制御の一例を説明するための図である。 本開示の第1実施形態に係る投影画像生成部が転送する照射パターンの一例を説明するための図である。 本開示の第1実施形態に係る投影画像生成部が転送する照射パターンの一例を説明するための図である。 本開示の第1実施形態に係る信号処理部の構成例を示すブロック図である。 本開示の第1実施形態に係るデプス推定部による奥行きの算出方法を説明するための図である。 本開示の第1実施形態に係る測距装置の概略動作例を示すフローチャートである。 本開示の第2実施形態に係る撮像装置の機能構成例を示す図である。 本開示の第2実施形態に係る単位画素の概略構成例を示す図である。 本開示の第2実施形態に係る単位画素配置の一例を示す図である。 本開示の第2実施形態に係る撮像装置の単位画素の配置の他の例を示す図である。 本開示の第2実施形態に係る単位画素からの信号読み出しの一例を説明するための図である。 本開示の第2実施形態に係る単位画素の概略構成の他の例を示す図である。 本開示の第2実施形態に係る撮像装置の撮像タイミングの一例を示す図である。 本開示の第2実施形態に係る撮像装置の撮像タイミングの他の例を説明するための図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.第1実施形態
1.1.測距装置の構成例
1.2.撮像装置
1.2.1.撮像装置の構成例
1.2.2.単位画素の構成例
1.2.3.検出部の構成例
1.2.3.1.電流電圧変換部の構成例
1.2.3.2.減算器及び量子化器の構成例
1.2.4.撮像装置の動作例
1.3.測距装置の制御部
1.4.測距装置の動作例
2.第2実施形態
2.1.撮像装置の機能構成例
2.2.単位画素の構成例
2.3.撮像装置の動作例
3.その他の実施形態
4.補足
<1.第1実施形態>
<1.1.測距装置の構成例>
図1は、本開示の第1実施形態に係る測距装置1の概略構成例を示す図である。図1に示すように、測距装置1は、例えば、撮像装置100と、プロジェクタ200と、全体制御部300と、記憶部400とを備える。測距装置1は、空間コード化法と呼ばれる手法を用いて、被測定物obまでの距離を測定することで、被測定物obの3次元形状を計測する装置である。
プロジェクタ200は、全体制御部300の指示に従い、所定の画像を投影する。所定の画像は、例えば周期の異なる明暗パターンであり、プロジェクタ200は、当該明暗パターンの照射光を被測定物obに向けて照射する。プロジェクタ200は、所定の投影画像として照射パターンP0〜Pnの照射光を順次照射する。図1ではn=3である。
なお、照射パターンP0は、撮像装置100の閾値を決定するための照射パターンであり、例えば黒色の画像(照射パターンが全て「暗」)、即ち照射光を照射しない照射パターンである。照射パターンP1〜Pnは、図1の例では、縦縞の幅がそれぞれ異なる照射パターンである。
撮像装置100は、全体制御部300の指示に従い、プロジェクタ200が照射パターンP0〜Pnの照射光をそれぞれ照射したときの被測定物obを撮像する。撮像装置100は、例えばDVS(Dynamic Vision Sensor)であり、画素が受光した光量が閾値を超えたか否かに応じた画素値の撮像画像を出力する。図1の例では、撮像装置100は、照射パターンP0の照射タイミングに応じて閾値を設定(リセット)し、各照射パターンP1〜Pnに対応する撮像画像S1〜Snを撮像する。換言すると、撮像装置100は、照射パターンP0を照射した場合と比較して、各照射パターンP1〜P3照射時に、各画素が受光した光量が閾値を超えたか否か(明るくなったか否か)を示す撮像画像S1〜Sn(以下、差分画像S1〜Snとも称する)を出力する。なお、図1では、説明をわかりやすくするため、差分画像S1〜Snに被測定物obを示しているが、実際の差分画像S1〜Snは、照射パターンP0照射時(図1の撮像画像S0参照)と比較して明るくなったか否かを示す画像であり、図1の差分画像S1〜Snとは異なる場合がある。これは、以降の図でも同様である。
ここで、例えば、撮像装置100が受光量に応じた輝度値を出力する通常のイメージセンサの場合、複数ビットの撮像画像を複数枚出力する必要がある。また、通常のイメージセンサの場合、全体制御部300による後段の信号処理において、撮像画像の各画素の輝度値の差分を算出し、各画素の画素値が明るくなったか否かの判定を行う必要がある。そのため、通常のイメージセンサを用いて空間コード化法で被測定物obまでの距離を算出すると、該距離の算出に時間がかかっていた。
一方、本実施形態に係る撮像装置100は、各照射パターンP1〜Pn照射時に背景照射パターンP0時と比較して各画素での受光量が増えたか否かを示す差分画像S1〜Snを出力する。これにより、撮像装置100は、通常のイメージセンサより高速に撮像画像S1〜Snを全体制御部300に出力することができる。また、全体制御部300による後段の信号処理において、各画素の画素値が明るくなったか否かの判定を省略することができる。そのため、本実施形態の測距装置1を用いると被測定物obまでの距離算出時間を短縮することができる。なお、撮像装置100の詳細については後述する。
全体制御部300は、測距装置1の各部を制御する。全体制御部300は、例えば、プロジェクタ200を制御して、所定の照射パターンP0〜Pnの照射光を照射させる。また、全体制御部300は、撮像装置100を制御して、プロジェクタ200が背景照射パターンP0の照射光を照射している間、撮像装置100の閾値をリセットさせる。全体制御部300は、撮像装置100を制御して、プロジェクタ200が所定の照射パターンP1〜Pnの照射光を照射している間、被測定物obを撮像させる。
全体制御部300は、撮像装置100が撮像した複数の差分画像S1〜Snに基づき、撮像画像S1〜Snの各画素における奥行き(被測定物obまでの距離)を算出する算出部としても動作する。全体制御部300による奥行きの算出方法については後述する。
記憶部400は、例えば照射パターンP0〜Pn等、測距装置1による被測定物obの測距に必要な情報を記憶する。
なお、ここでは、プロジェクタ200が照射する照射パターンの数を4つとしたが、これに限定されない。照射パターンは複数であればよく、3つであってもよく、5つ以上であってもよい。また、ここでは、照射パターンが、周期が異なる縦縞のパターンであるとしたが、これに限定されない。例えば、照射パターンが横縞のパターンであってもよい。また、縦縞と横縞を組み合わせたパターンであってもよい。照射パターンは、バイナリーコーディングされていれば、どのようなパターンであってもよい。
<1.2.撮像装置>
<1.2.1.撮像装置の構成例>
次に、本開示の第1実施形態に係る撮像装置100の詳細について説明する。図2は、本開示の第1実施形態に係る撮像装置100の機能構成例を示す図である。
図2に示すように、撮像装置100は、画素アレイ部110と、制御部111と、信号処理部112と、を備える。
画素アレイ部110には、複数の単位画素が二次元格子状に配列される。単位画素とは、後述において詳細に説明するが、例えば、フォトダイオードなどの光電変換素子と、この光電変換素子で発生した電荷による光電流の電流値(または電流値を変換した電圧値)が所定の閾値を超えたか否かを検出する画素回路(本実施形態では、後述する検出部1100に相当)とを含んで構成される。ここで、画素回路は、複数の光電変換素子で共有され得る。その場合、各単位画素は、1つの光電変換素子と、共有される画素回路とを含んで構成される。
画素アレイ部110の複数の単位画素は、それぞれが所定数の単位画素からなる複数の画素ブロックにグループ化されていてもよい。以下、水平方向に配列する単位画素又は画素ブロックの集合を「行」と称し、行に垂直な方向に配列された単位画素又は画素ブロックの集合を「列」と称する。
通常のDVSは、画素回路においてアドレスイベントの発生が検出されると、検出された画素回路に対応する単位画素から信号を読み出す非同期型の撮像装置である。一方、本実施形態の撮像装置100は、制御部111からの制御に応じて、所定のタイミングで単位画素から信号を読み出す同期型のDVSである。なお、単位画素から信号を読み出すタイミングの詳細については後述する。
制御部111は、画素アレイ部110を制御して、単位画素の閾値のリセットや単位画素からの信号読み出しを実行する。
信号処理部112は、単位画素から入力された信号に対して所定の信号処理を実行し、この信号処理の結果を、検出データ(検出信号)として、信号線109を介して全体制御部300に供給する。
<1.2.2.単位画素の構成例>
図3は、本開示の第1実施形態に係る単位画素1101の概略構成例を示す回路図である。図3に示すように、単位画素1101は、例えば、受光部1103と、検出部1100とを備える。なお、制御部111をロジック回路111とも記載する。
受光部1103は、例えば、フォトダイオードなどの光電変換素子1104を備え、その出力は、検出部1100に接続される。
検出部1100は、例えば、電流電圧変換部1110と、減算器1130とを備える。ただし、検出部1100は、その他にも、バッファや量子化器や転送部を備える。検出部1100の詳細については、後述において図4等を用いて説明する。
このような構成において、受光部1103の光電変換素子1104は、入射光を光電変換して電荷を発生させる。光電変換素子1104で発生した電荷は、その電荷量に応じた電流値の光電流として、検出部1100に入力される。
<1.2.3.検出部の構成例>
図4は、本開示の第1実施形態に係る検出部1100の概略構成例を示すブロック図である。図4に示すように、検出部1100は、図3にも示した電流電圧変換部1110、減算器1130と及び量子化器1140に加え、バッファ1120と、転送部1150とを備える。
電流電圧変換部1110は、受光部1103からの光電流(画素信号)を、その対数の電圧信号に変換し、これにより生成された電圧信号をバッファ1120に出力する。
バッファ1120は、電流電圧変換部1110からの電圧信号を補正し、補正後の電圧信号を減算器1130に出力する。
減算器1130は、制御部111からの行駆動信号に従ってバッファ1120からの電圧信号の電圧レベルを低下させ、低下後の電圧信号を量子化器1140に出力する。
量子化器1140は、減算器1130からの電圧信号をデジタル信号に量子化し、これにより生成されたデジタル信号を検出信号として転送部1150に出力する。
転送部1150は、量子化器1140からの検出信号を制御部111および信号処理部112に転送する。
<1.2.3.1.電流電圧変換部の構成例>
図5は、本開示の第1実施形態に係る電流電圧変換部1110の他の一例を示す回路図である。上述した図4に示す構成における電流電圧変換部1110は、例えば、図3に示すように、LGトランジスタ1111と、増幅トランジスタ1112と、定電流回路1115とを備えた、所謂ソースフォロア型の電流電圧変換部であってよい。ただし、これに限定されず、例えば、図5に例示するような、2つのLGトランジスタ1111及び1113と、2つの増幅トランジスタ1112及び1114と、定電流回路1115とを備えた、所謂ゲインブースト型の電流電圧変換器であってもよい。
図3に示すように、LGトランジスタ1111のソース及び増幅トランジスタ1112のゲートは、例えば、受光部1103の光電変換素子1104におけるカソードに接続される。LGトランジスタ1111のドレインは、例えば、電源端子VDDに接続される。
また、例えば、増幅トランジスタ1112のソースは接地され、ドレインは定電流回路1115を介して電源端子VDDに接続される。定電流回路1115は、例えば、P型のMOS(Metal-Oxide-Semiconductor)トランジスタなどの負荷MOSトランジスタで構成されてもよい。
一方、ゲインブースト型の場合、図5に示すように、LGトランジスタ1111のソース及び増幅トランジスタ1112のゲートは、例えば、受光部1103の光電変換素子1104におけるカソードに接続される。また、LGトランジスタ1111のドレインは、例えば、LGトランジスタ1113のソース及び増幅トランジスタ1112のゲートに接続される。LGトランジスタ1113のドレインは、例えば、電源端子VDDに接続される。
また、例えば、増幅トランジスタ1114のソースはLGトランジスタ1111のゲート及び増幅トランジスタ1112のドレインに接続される。増幅トランジスタ1114のドレインは、例えば、定電流回路1115を介して電源端子VDDに接続される。
図3又は図5に示すような接続関係とすることで、ループ状のソースフォロア回路が構成される。これにより、受光部1103からの光電流が、その電荷量に応じた対数値の電圧信号に変換される。なお、LGトランジスタ1111及び1113と、増幅トランジスタ1112及び1114とは、それぞれ例えばNMOSトランジスタで構成されてよい。
<1.2.3.2.減算器及び量子化器の構成例>
図6は、本開示の第1実施形態に係る減算器1130及び量子化器1140の概略構成例を示す回路図である。図6に示すように、減算器1130は、コンデンサ1131及び1133と、インバータ1132と、スイッチ1134とを備える。また、量子化器1140は、コンパレータ1141を備える。
コンデンサ1131の一端は、バッファ1120の出力端子に接続され、他端は、インバータ1132の入力端子に接続される。コンデンサ1133は、インバータ1132に並列に接続される。スイッチ1134は、コンデンサ1133の両端を接続する経路を行駆動信号に従って開閉する。
インバータ1132は、コンデンサ1131を介して入力された電圧信号を反転する。このインバータ1132は反転した信号をコンパレータ1141の非反転入力端子(+)に出力する。
スイッチ1134をオンした際、コンデンサ1131のバッファ1120側には、電圧信号Vinitが入力される。また、その逆側は仮想接地端子となる。この仮想接地端子の電位を便宜上、ゼロとする。このとき、コンデンサ1131に蓄積されている電位Qinitは、コンデンサ1131の容量をC1とすると、次の式(1)により表される。一方、コンデンサ1133の両端は、短絡されているため、その蓄積電荷はゼロとなる。
Qinit=C1×Vinit (1)
次に、スイッチ1134がオフされて、コンデンサ1131のバッファ1120側の電圧が変化してVafterになった場合を考えると、コンデンサ1131に蓄積される電荷Qafterは、次の式(2)により表される。
Qafter=C1×Vafter (2)
一方、コンデンサ1133に蓄積される電荷Q02は、出力電圧をVoutとすると、次の式(3)により表される。
Q02=−C2×Vout (3)
このとき、コンデンサ1131及び1133の総電荷量は変化しないため、次の式(4)が成立する。
Qinit=Qafter+Q02 (4)
式(4)に式(1)〜式(3)を代入して変形すると、次の式(5)が得られる。
Vout=−(C1/C2)×(Vafter−Vinit) (5)
式(5)は、電圧信号の減算動作を表し、減算結果の利得はC1/C2となる。通常、利得を最大化することが望まれるため、C1を大きく、C2を小さく設計することが好ましい。一方、C2が小さすぎると、kTCノイズが増大し、ノイズ特性が悪化するおそれがあるため、C2の容量削減は、ノイズを許容することができる範囲に制限される。また、単位画素1101ごとに減算器1130を含む検出部1100が搭載されるため、容量C1やC2には、面積上の制約がある。これらを考慮して、容量C1及びC2の値が決定される。
コンパレータ1141は、減算器1130からの電圧信号と、反転入力端子(−)に印加された所定の閾値電圧Vthとを比較する。コンパレータ1141は、比較結果を示す信号を検出信号として転送部1150に出力する。
また、上述の検出部1100全体のゲインAは、電流電圧変換部1110の変換ゲインをCGlogとし、バッファ1120のゲインを‘1’とすると、次の式(6)により表される。
Figure 2021124321
式(6)において、iphoto_nは、n番目の単位画素1101の光電流であり、その単位は、例えばアンペア(A)である。Nは、画素ブロック内の単位画素1101の数であり、本実施形態では‘1’である。
<1.2.4.撮像装置の動作例>
次に、撮像装置100における検出信号(画素値)の読み出し動作例について説明する。図7は、本開示の第1実施形態に係る撮像装置100の動作例を説明するための図である。図7において、横軸が時間を、縦軸が走査する単位画素1101の垂直方向のアドレス(Vアドレス)を示す。
期間T0で、プロジェクタ200から背景照射パターンP0で光が照射されると、撮像装置100は、プロジェクタ200の照射に同期して露光し、入射光に応じた電荷Q0を生成する。
次に、撮像装置100は、期間T1で検出部1100の閾値Thを期間T0で発生した電荷Q0に応じて設定(リセット)する。具体的に、撮像装置100は、図6に示すスイッチ1134をオンにして、コンデンサ1131のバッファ1120側に、背景照射パターンP0露光時に生じた電荷量(光電流)を対数変換して生成した電圧信号V0を入力する。これにより、上述した式(5)において電圧信号Vafterから減算する値(電圧信号Vinit)が設定される。なお、図8では、期間T1で発生した電荷Q0を画素値とする撮像画像S0を示している。
期間T2で、プロジェクタ200から照射パターンP1で光が照射されると、撮像装置100は、プロジェクタ200の照射に同期して露光し、入射光に応じた電荷Q1を生成する。
期間T3において、撮像装置100は、期間T2で生成した電荷Q1に応じた電圧信号V1から電圧信号V0を減算し、減算結果を閾値電圧Vthと比較することで、期間T2で生成した電荷Q1が期間T1で生成した電荷Q1より大きいか否かを判定する。撮像装置100は、背景照射パターンP0で照射した場合に比べて、照射パターンP1で照射した場合の単位画素1101の画素値が大きくなったか(明るくなったか)否かを判定する。換言すると、撮像装置100は、背景照射パターンP0で照射した場合の画素値(電圧信号V0)を閾値Thとして、照射パターンP1で照射した場合の画素値(電圧信号V1)が閾値Thより大きいか否かを判定する。
期間T4で、撮像装置100は、比較結果を示す画素値を画素ごとに順次読み出すことで差分画像S1を取得する。このように、本開示の第1実施形態に係る撮像装置100は、イベント発火時に画素値を読み出す非同期型として動作するのではなく、所定のタイミングで画素値を読み出す、いわゆるグローバル・ホールド動作を行う同期型として動作する。
また、期間T4では、プロジェクタ200から照射パターンP2で光が照射され、撮像装置100は、プロジェクタ200の照射に同期して露光し、入射光に応じた電荷Q2を生成する。
ここで、従来のDVSでは、閾値Thと電圧信号V1との比較が行われると、閾値Thがリセットされる。図8は、既存技術の撮像装置による撮像動作の一例を示す図である。上述したように、撮像装置がグローバル・ホールド動作を行う場合、図8に示すように、期間T3で閾値Thと電圧信号V1との比較が行われると、スイッチ1134(図6参照)がオンとなって閾値Thがリセットされ、閾値Thが電圧信号V1に設定される。このように、閾値Thがリセットされると、次の閾値比較では、一つ前の撮像画像S1の各画素値に対して、画素値が変化したか否かが判定されてしまう。
そこで、本実施形態に係る撮像装置100では、図7に示すように、期間T3での閾値比較の後に閾値Thのリセットを行わない。すなわち、スイッチ1134(図6参照)をオンにせずに、次の期間T5で電荷Q2に応じた電圧信号V2の閾値比較を行う。
これにより、撮像装置100は、期間T4で生成した電荷Q2に応じた電圧信号V2を閾値Th(電圧信号V0)より大きいか否かを判定する。
期間T6で、撮像装置100は、判定結果を示す画素値を画素ごとに順次読み出すことで、背景照射パターンP0照射時の撮像結果との差分を示す差分画像S2を取得する。以降、撮像装置100は同様にして差分画像S3〜Snを取得する。
(撮像装置の動作例の詳細)
続いて、本実施形態に係る撮像装置100の動作の詳細について説明する。図9は、本開示の第1実施形態に係る撮像装置100の動作の詳細について説明するための図である。なお、図9の横軸は時間を示している。また、以下では、特に記載の無い限り、単位画素1101を、単に「画素1101」として説明を行う。
図9(a)は、プロジェクタ200が照射する光の照射パターンを示している。図9(a)の例では、プロジェクタ200は、基準照射パターンとして背景照射パターンP0を用いて光を照射し、続いて照射パターンP1〜Pn−1(図9ではn=11)をそれぞれ用いて光を照射した後に、最後に照射パターンPnとして基準照射パターン(背景照射パターンP0)を用いて光を照射する。なお、プロジェクタ200は、測距装置1が被測定物obまでの距離を算出している間、図9(a)に示す照射パターンで光を繰り返し照射するものとする。
図9(b)は、プロジェクタ200による発光タイミングを示している。図9(b)では、Highで光を照射(発光)し、Lowで光を照射しない(非照射)ことを示している。プロジェクタ200は、例えば所定周期でHigh(照射)/Low(非照射)を繰り返す。なお、基準照射パターンは、光を照射しない背景照射パターンP0であるため、基準照射パターンに対応する期間T00で、プロジェクタ200はLow(非照射)となっている。
図9(c)は、ある画素1101を対象とし、この対象の画素1101の電荷量の変化の例を示している。例えば、プロジェクタ200が基準照射パターンで照射したときの対象の画素1101の電荷量をLowとする。所定の照射パターンでプロジェクタ200が照射光を照射した場合、照射光が当たった領域を撮像する画素1101に入射する光量は、この対象の画素1101に基準照射パターンで照射した場合に入射する光量より大きくなる。この場合、対象の画素1101で発生する電荷量は、基準照射パターンでの照射時の電荷量に比べて大きくなる。図9(c)では、基準照射パターン照射時より増えた電荷量をHighとして示している。
なお、照射パターンによっては、対象の画素1101は、照射光が当たっていない領域を撮像する場合がある。この場合、対象の画素1101に入射する光の量は、基準照射パターン照射時に対象の画素1101に入射する光の量と同じとなり、対象の画素1101で発生する電荷量はLowとなる。
上述したように、照射パターンは、縦縞の明暗を含むパターンである。そのため、対象の画素1101が、照射光が当たっていない領域を撮像していても、他の画素1101は、照射光が当たっている領域を撮像する場合もある。図9(c)の点線は、照射光が当たった領域を撮像する他の画素1101で生成される電荷量を示している。このように、照射パターンに応じて、複数の画素1101ごとに発生する電荷量が異なる。
図9(d)は、撮像装置100の動作タイミング及び閾値Th(基準電圧Vinit)を示している。図9(d)では、閾値Thを実線で示している。例えば、プロジェクタ200が期間T00において基準照射パターンの光を照射する場合(すなわち、非照射時)、撮像装置100は、閾値Thをリセットする(Global基準電圧Reset)。次に、撮像装置100は、期間T01〜期間T11においてプロジェクタ200の発光タイミングに同期して閾値判定(Global detect)を行い、画素1101ごとに検出信号を出力する。
例えば、当該対象の画素1101では、図9(c)に示すように、プロジェクタ200が照射パターンP1で光を照射した場合に電荷量が増加する。撮像装置100は、かかる電荷量の増加を検出し、増加を示す検出信号(図9(e)では上向き矢印)を出力する。なお、例えば、撮像装置100は、電荷量が増加した場合、検出信号として「1」を出力し、それ以外の場合、「0」を出力するものとする。
なお、図9(a)に示すように、プロジェクタ200は、照射パターンP10照射後に、最初に照射した基準照射パターンと同じ照射パターンで光を照射する。ここでは、プロジェクタ200は、基準照射パターンとして、背景照射パターンP0で光を照射する。換言すると、プロジェクタ200は、期間T11では光を照射しない(非照射)。撮像装置100は、期間T11において閾値判定を行い、検出信号を出力する。期間T11における検出信号は、後述する信頼度設定で用いられる。
また、本実施形態に係る撮像装置100は、期間T00で閾値Thをリセットすると、その後、期間T11が終了するまで閾値のリセットを行わない。そのため、撮像装置100の閾値Thは、期間T00から変化がなく期間T11までずっとLowのままである。
(撮像装置の第1の比較例)
次に、第1の比較例として非同期型(Arbiter方式)の撮像装置(DVS)を用いて差分画像を撮像する場合について図10を用いて説明する。図10は、本開示の第1実施形態に係る撮像装置100の第1の比較例について説明するための図である。なお、図10(a)〜(c)は、図9(a)〜(c)と同一であるので、ここでの説明を省略する。また、第1の比較例に係る撮像装置は、図2を用いて説明した撮像装置100と同様に、画素アレイ部110、制御部111および信号処理部112を含むものとし、制御部111および信号処理部112の動作が実施形態に係る撮像装置100と異なる。
本第1の比較例に係る撮像装置は、非同期型のDVSであり、閾値判定ごとに閾値Thのリセットを行う。すなわち、本第1の比較例に係る撮像装置は、イベント発火時に検出信号を出力し、検出信号を出力するごとに閾値Thのリセットを行う。
この場合、図10(d)、(e)に示すように、当該(※または、第1の比較例の)撮像装置は、対象の画素1101の電荷量の変化がHighになったタイミングで電荷量が増加したことを示す検出信号を出力し、閾値Thをリセットする。そのため、図10(d)の実線で示すように期間T01で閾値ThがLowからHighに変化する。次に、当該撮像装置は、対象の画素1101の電荷量の変化がLowになったタイミングで電荷量が減少したことを示す検出信号(図10(e)では下向き矢印)を出力し、閾値Thをリセットする。そのため、図10(d)の実線で示すように期間T01で閾値ThがHighからLowに変化する。
当該撮像装置は、対象の画素1101の電荷量が変化する期間T01、T04及びT10で電荷量が変化したことを示す検出信号を出力する。
このように、非同期型のDVSでも対象の画素1101の電荷量の変化を検出することができる。ただし、測距装置1では、距離算出のためにプロジェクタ200による光の照射を所定周期で繰り返し行う。そのため、多くの画素1101で同時にイベントが発火し、プロジェクタ200の発光タイミングにイベントが集中してしまう。ところが、従来の非同期型のDVSでは、イベント発火時にのみ検出信号を出力するためDVSの出力I/F(インタフェース)帯域が狭く設定される。そのため、イベントが所定タイミングに集中すると、該所定タイミングで一度に検出信号が出力できず、DVSが電荷量の変化を検出するタイミングと、検出信号を出力するタイミングとがずれる恐れがあり、測距装置1が誤った距離を算出してしまう恐れがある。また、この場合、距離算出を誤った理由として、イベントが集中したからなのか、被測定物obが動いたからなのか区別が付かない恐れがある。
また、当該撮像装置は、閾値判定を行うごとに閾値Thをリセットする。そのため、ノイズ等で閾値判定を誤ると、閾値Thも誤ってリセットしてしまい、その後の閾値判定を誤ってしまう恐れがある。
そこで、本実施形態では、撮像装置100の読み出しタイミングを所定タイミングで同期させ、画素1101を同時にスキャンするScan方式で検出信号を出力する。また、本実施形態では、撮像装置100の閾値Thを最初の基準照射パターン照射時にリセットし、以降はリセットを行わない。これにより、本実施形態に係る撮像装置100は、電荷量の変化を検出するタイミング(所定の照射パターンでプロジェクタ200が発光するタイミング)と、検出信号を出力するタイミングとを揃えることができる。また、本実施形態に係る撮像装置100は、閾値判定時の誤判定をより低減することができる。
なお、図9では、期間T11でプロジェクタ200が基準照射パターンと同じ照射パターンの照射を行っていたが、第1の比較例では、閾値比較を行うごとに閾値Thをリセットするため、期間T11での照射を行っても信頼度設定に利用できない。そのため、第1の比較例では期間T11での基準照射パターンの照射を省略している。
(撮像装置の第2の比較例)
次に、第2の比較例として同期型(Scan方式)の撮像装置(DVS)を用いて差分画像を撮像する場合について図11を用いて説明する。図11は、本開示の第1実施形態に係る撮像装置100の比較例について説明するための図である。なお、図11(a)〜(c)は、図9(a)〜(c)と同一であるので、ここでの説明を省略する。また、第2の比較例に係る撮像装置は、図2を用いて説明した撮像装置100と同様に、画素アレイ部110、制御部111および信号処理部112を含むものとし、制御部111および信号処理部112の動作が実施形態に係る撮像装置100と異なる。
本第2の比較例に係る撮像装置100Bは、同期型のDVSであり、閾値判定ごとに閾値Thのリセットを行う。すなわち、本第2の比較例に係る撮像装置100Bは、プロジェクタ200の発光タイミングに同期して、閾値判定を行って検出信号を出力するとともに、閾値Thをリセットする。
この場合、図11(d)、(e)に示すように、当該撮像装置は、例えば期間T01において、プロジェクタ200の発光タイミングに同期して、対象の画素1101の電荷量が増えたことを示す検出信号を出力し、閾値Thをリセットする。そのため、図11(d)の実線で示すように期間T01の間に閾値ThがLowからHighに変化する。次に、当該撮像装置は、次の期間T02において、対象の画素1101の電荷量が減少したことを示す検出信号を出力し、閾値Thをリセットする。そのため、図11(d)の実線で示すように期間T02で閾値ThがHighからLowに変化する。
このように、同期型のDVSである当該撮像装置でも画素1101の電荷量の変化を検出することができる。しかしながら、当該撮像装置は、閾値判定を行うごとに閾値Thをリセットするため、電荷量が変化していない期間T02において電荷量が減少したことを示す検出信号を出力してしまう。また、当該撮像装置は、ノイズ等で閾値判定を誤ると、閾値Thも誤ってリセットしてしまい、その後の閾値判定を誤ってしまう恐れがある。
そこで、本実施形態では、撮像装置100の閾値Thを最初の基準照射パターン照射時にリセットし、以降はリセットを行わないようにする。これにより、本実施形態に係る撮像装置100は、電荷量の変化を検出するタイミング(所定の照射パターンでプロジェクタ200が発光するタイミング)と、検出信号を出力するタイミングとを揃えることができる。また、本実施形態に係る撮像装置100は、閾値判定時の誤判定をより低減することができる。
なお、図9では、期間T11でプロジェクタ200が基準照射パターンと同じ照射パターンの照射を行っていたが、第2の比較例では、閾値比較を行うごとに閾値Thをリセットするため、期間T11での照射を行っても信頼度設定に利用できない。そのため、第2の比較例では期間T11での基準照射パターンの照射を省略している。
(比較例における他の問題点)
続いて、上述した第1および第2の比較例における他の問題点について図12を用いて説明する。光源側であるプロジェクタ200は発光時にリンギングを持つ。図12は、プロジェクタ200のリンギングの一例を示す模式図である。図12では、例えば図9(b)のR1を拡大して示している。
プロジェクタ200側のリンギングの影響で受光側の画素1101の電荷量に対応する電圧信号もリンギングを持つ。上述した比較例1、2では、第1および第2の比較例の撮像装置は、閾値判定を行うごとに閾値Th(電圧信号Vinit)をリセットする。一般的には、プロジェクタ200の発光タイミングに同期することができても、リンギングの位相にまで同期することは極めて困難である。第1および第2の比較例による撮像装置では、閾値判定を行った後に閾値Thをリセットするタイミングを管理する必要があるが、上述のように、プロジェクタ200のリンギングにより、このタイミングの管理が困難となる。
したがって、第1および第2の比較例の撮像装置が閾値Thをリセットするタイミングによって、閾値Thの値が変わってしまう恐れがある。例えば、図12の左図に示すように、ある発光タイミングの発光において、第1および第2の比較例の撮像装置がリンギングによる波の底を閾値Th1としてリセットしたとする。そして、次の発光タイミングで、第1および第2の比較例の撮像装置が、図12の右図に示すような電荷量に対応する電圧信号を検出したとする。この場合、第1および第2の比較例の撮像装置は、閾値Th1と、当該発光タイミングによる発光におけるリンギングの波の頂点での電圧信号の最大値Vmaxとを比較した比較結果を出力する。そのため、実際はプロジェクタ200が同じ光量で発光したにもかかわらず、第1および第2の比較例の撮像装置は、画素1101が、より電荷量が増加し明るくなったと誤判定してしまう。
かかる誤判定を避けるためには、閾値Thに所定のマージンMを持たせ、検出閾値を広めにとる必要がある。そのため、図12にM2(白抜き矢印の部分)として示すように、閾値判定に使用する電圧信号の信号振幅が小さくなり、S/Nが低下してしまう。
一方、本実施形態に係る撮像装置100は、上述したように、閾値Thを最初の基準照射パターン照射時にリセットし、以降はリセットを行わない。これにより、本実施形態に係る撮像装置100は、プロジェクタ200側のリンギングの影響を受けずに閾値Thを設定することができ、S/Nの低下を抑制することができる。
<1.3.測距装置の制御部>
次に、本実施形態に係る測距装置1の全体制御部300の詳細について説明する。図13は、本開示の第1実施形態に係る測距装置1の構成例を示すブロック図である。
全体制御部300は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、測距装置1内部に記憶されたプログラムがRAM(Random Access Memory)等を作業領域として実行されることにより実現される。また、全体制御部300は、コントローラ(controller)であり、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されてもよい。
図13に示すように、全体制御部300は、タイミング制御部310、投影画像生成部320、データ取得部330および信号処理部340を有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、全体制御部300の内部構成は、図13に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。なお、全体制御部300は、例えばNIC(Network Interface Card)等を用いて所定のネットワークと有線又は無線で接続し、ネットワークを介して、種々の情報を外部サーバ等から受信してもよい。
(タイミング制御部)
タイミング制御部310は、投影画像生成部320を制御して、プロジェクタ200から照射される照射光の照射パターンを制御する。また、タイミング制御部310は、プロジェクタ200および撮像装置100を制御して、プロジェクタ200による照射光の照射タイミングおよび撮像装置100による撮像タイミングを制御する。
図14は、本開示の第1実施形態に係るタイミング制御部310によるタイミング制御の一例を説明するための図である。
図14に示す例では、タイミング制御部310は、撮像装置100(図14のDVSに相当する)を制御して、照射パターンP0での撮像を行い、電圧信号Vinit(図14の基準信号に相当する)を取得する。上述したように、照射パターンP0は、プロジェクタ200を発光させない背景照射パターンであるため、投影画像生成部320およびプロジェクタ200は動作しない。タイミング制御部310は、プロジェクタ200が発光していない状態で、時刻t01から時刻t12の間に撮像装置100が背景光(照射パターンP0)を露光し、電圧信号Vinitを取得するよう制御する。
タイミング制御部310は、時刻t11から時刻t12の間に、投影画像生成部320が照射パターンP1のデータをプロジェクタ200に転送するよう制御する。また、タイミング制御部310は、時刻t12から時刻t13の間にプロジェクタ200が照射パターンP1の照射光を発光するよう制御する。またタイミング制御部310は、時刻t12から時刻t13の間に、撮像装置100が露光を行い、時刻t13以降にイベントの有無を検出するように制御する。
タイミング制御部310は、時刻t21から時刻t22の間に、投影画像生成部320が照射パターンP2のデータをプロジェクタ200に転送するよう制御する。また、タイミング制御部310は、時刻t22から時刻t23の間にプロジェクタ200が照射パターンP2の照射光を発光するよう制御する。またタイミング制御部310は、時刻t22から時刻t23の間に、撮像装置100が露光を行い、時刻t23以降にイベントの有無を検出するように制御する。なお、図14に示すように、時刻t21は、時刻t12と時刻t13の間の時刻である。また、時刻t22は、時刻t13より後の時刻である。このように、タイミング制御部310が時刻t13より以前に照射パターンP2のデータ転送を開始することで、プロジェクタ200の発光、及び、撮像装置100の露光の間隔を短くすることができる。
タイミング制御部310は、同様に、投影画像生成部320、プロジェクタ200および撮像装置100を制御して、照射パターンP3〜Pnの照射および対応する差分画像S3〜Snの撮像を行わせる。
なお、照射パターンPnが照射パターンP0と同じ背景照射パターンである場合、投影画像生成部320による照射パターンPnのデータ転送及びプロジェクタ200による発光は省略してもよい。
(投影画像生成部)
図13に戻る。投影画像生成部320は、タイミング制御部310の制御に従い、例えば記憶部400が記憶する照射パターンのデータをプロジェクタ200に転送する。ここでは、投影画像生成部320が生成する投影画像(照射パターン)として、非特許文献1に開示されている照射パターンを適用した場合について説明する。
図15および図16は、本開示の第1実施形態に係る投影画像生成部320が転送する照射パターンの一例を説明するための図である。
投影画像生成部320は、照射パターンP1〜Pnをプロジェクタ200に転送する。図15では、投影画像生成部320は、照射パターンP1〜P5をプロジェクタ200に転送する。
図15に示すように、照射パターンP1は、パターン画像の左側が黒色(暗)、右側が白色(明)の2色のパターンである。照射パターンP2は、黒色の縦縞2本と白色の縦縞2本が交互に並んだパターンである。照射パターンPmは、黒色の縦縞2(m−1)本と白色の縦縞2(m−1)本が交互に並んだパターンとなる。
このように、照射パターンP1〜Pnは、バイナリーコーディングされたパターン画像である。図16に示すように、照射パターンP1〜Pnは、黒色の縞を「0」、白色の縞を「1」とすると、パターン画像の左側から順に「00000」、「00001」・・・とコーディングされている。なお、図16では、照射パターンP1〜Pnを縦方向に並べたものであり、図16の下向き矢印が時間を、横向き矢印が黒色および白色の水平空間分布を示している。図16は、左側が最下位ビット(LSB)となり、右側が最上位ビット(MSB)となる。
このように、バイナリーコードは、各照射パターンの横方向において各縞と対応付けられており、換言すると、照射パターンは、横方向においてプロジェクタ200による光の照射角度ごとにバイナリーコーディングされていると言える。
なお、ここでは、投影画像生成部320は、例えば最後の照射パターンPnとして、背景照射パターン(照射パターンP0)と同じ照射パターンのデータを転送するものとする。この場合、照射パターンP0、Pnは、全てが黒色の遮光パターン(投影画像)となる。この場合、照射パターンPnに対応する差分画像Snは、信号処理部340による信頼度算出に使用される。信頼度算出についての詳細は後述する。
なお、図15、図16に示す照射パターンは一例であり、これに限定されない。撮像画像S0〜Snに対応する画素を識別できるようにバイナリーコーディングが施されたパターンであればよく、例えば縦縞ではなく横縞の明暗パターンであってもよい。
(データ取得部)
図13に戻る。データ取得部330は、撮像装置100が撮像した差分画像S1〜Snを取得する。データ取得部330は、差分画像S1〜Snと、各画像を撮像したタイミング情報(Frame ID)を取得する。データ取得部330は、取得した差分画像S1〜Snおよびタイミング情報を信号処理部340に出力する。データ取得部330は、例えば差分画像S1〜Snを記憶するフレームバッファであってもよい。
(信号処理部)
信号処理部340は、データ取得部330が取得した撮像画像S1〜Snおよびキャリブレーション情報に基づき、被測定物obまでの距離(デプス)および当該距離の信頼度を算出する。キャリブレーション情報とは、例えば撮像装置100およびプロジェクタ200の光学系、幾何学位置に相当する情報であり、事前にキャリブレーションによって取得されている情報である。キャリブレーション情報は、例えば記憶部400に予め記憶されているものとする。
図17は、本開示の第1実施形態に係る信号処理部340の構成例を示すブロック図である。信号処理部340は、コード統合部341、信頼度生成部342およびデプス推定部343を有する。
図17に示すように、データ取得部330は、撮像装置100から差分画像S1〜Snを取得すると、差分画像Snを信頼度生成部342に出力する。また、データ取得部330は、差分画像S1〜Sn−1をコード統合部341に出力する。
(コード統合部)
コード統合部341は、差分画像S1〜Sn−1の各画素の値を1つのコードに統合する。差分画像S1〜Sn−1の各画素は、背景画像(基準信号)との差分を示しており、照射画素は「1」、無照射画素は「0」で表されている。そのため、例えば差分画像S1〜Sn−1の対応する画素が全て無照射画素である場合、コード統合部341は、当該画素の値を「00・・・0」に統合する。コード統合部341は、差分画像S1〜Sn−1を統合してn−1ビットの画素値を有する画像(以下、統合画像とも称する)を生成する生成部であるともいえる。
なお、従来の測距装置では、照射パターンに対応する撮像画像として、撮像装置は10ビットの画素値を有する撮像画像を出力していた。そのため、従来のコード統合部は撮像画像の各画素が照射画素であるか無照射画素であるかを閾値判定する必要があった。
しかしながら、本実施形態にかかる撮像装置100は、撮像画像の各画素が照射画素であるか無照射画素であるかを閾値(基準信号)で判定し、その結果を差分画像S1〜Sn−1として出力する。そのため、本実施形態にかかるコード統合部341は、差分画像S1〜Sn−1の閾値処理を省略することができ、符号の統合を行えばよい。
(信頼度生成部)
信頼度生成部342は、コード統合部341が生成した統合画像の各画素の信頼度を算出する。上述したように、従来の測距装置では、コード統合部で各画素の明暗を閾値判定していた。そのため、画素値が閾値付近の値であり、閾値判定が難しい画素の場合、コード統合部が当該画素の信頼度を低くすることで、不確定なデプスの算出を行わないようにすることができた。
一方、本実施形態では、各画素の明暗の閾値判定は撮像装置100が行い、コード統合部341では行わない。そこで、本実施形態では、信頼度生成部342が、差分画像S1〜Snに基づき、各画素の信頼度を算出するものとする。なお、信頼度生成部342は、コード統合部341が生成した統合画像および算出した信頼度をデプス推定部343に出力する。
(信頼度算出例1)
信頼度生成部342による信頼度算出の例を説明する。プロジェクタ200が光を照射したとしても、プロジェクタ200から被測定物obまでの距離が遠くなると、当該被測定物obでの反射光の輝度が小さくなる。そのため、プロジェクタ200が光を照射している位置であっても、画素信号が閾値(基準信号)を超えず、検出結果が「0」(暗)となってしまう場合がある。
そこで、信頼度生成部342は、差分画像S1〜Sn−1の各画素の輝度値が、いずれも「0」になっている場合、当該画素の信頼度を最も低い値(例えばゼロ)に設定する。この場合、投影画像生成部320が、照射パターンP1〜Pn−1の1つとして例えば全て白色の照射パターンを照射するようにしてもよい。
(信頼度算出例2)
本実施形態に係る撮像装置100は、差分画像S1〜Sn−1を高速に撮像することができるため、測距装置1は、被測定物obがある程度動いたとしても被測定物obまでの距離を算出することができる。しかしながら、例えば被測定物obの動きが高速の場合などは、距離算出(センシング)が破綻してしまうことがある。そこで、信頼度生成部342は、被測定物obが大きく動いた箇所(画素)の信頼度を低く設定する。
上述したように、照射パターンPnは、背景照射(無照射)パターンである照射パターンP0と同じ照射パターンである。そのため、照射パターンP0照射時と、照射パターンPn照射時で被測定物obに変化がない場合、差分画像Snの各画素の画素値は、全て「0」となる。一方、被測定物obが動いた場合など、被測定物obに変化があった場合、差分画像Snの変化があった箇所の画素値は、「1」に変化する。そこで、信頼度生成部342は、差分画像Snの画素値が「1」である画素の信頼度を低く、例えば最も低い値に設定する。
なお、信頼度生成部342は、信頼度算出例1、2で述べた各信頼度を画素ごとにそれぞれ算出してもよく、画素ごとに信頼度算出例1、2のどちらか1つの信頼度を算出するようにしてもよい。あるいは、信頼度算出例1、2を用いて算出した値を所定の基準信頼度からそれぞれ減算することで、画素ごとに1つの信頼度を算出するようにしてもよい。
また、上述した信頼度算出例は一例であり、信頼度生成部342が上述した信頼度算出例以外の方法で信頼度を算出するようにしてもよい。
(デプス推定部)
図13に戻る。デプス推定部343は、統合画像に基づいて、被測定物obまでの距離(デプス)を推定する。上述したように、プロジェクタ200の照射パターンP1〜Pn−1は、照射角度ごとにバイナリコーディングされている。そのため、デプス推定部343は、統合画像の各画素値をデコードすることで、各画素とプロジェクタ200の照射角度を紐付けることができる。
デプス推定部343は、各画素におけるプロジェクタ200の照射角度と、事前にキャリブレーションによって取得した撮像装置100の内部/外部パラメータ(上述のキャリブレーション情報に相当)と、を使用して被測定物obまでの距離(奥行き情報)を取得する。
ここで、図18は、本開示の第1実施形態に係るデプス推定部343による奥行きの算出方法を説明するための図である。図18に示すように、プロジェクタ200(図18のLightに相当)から被測定物ob(図18のObjectに相当)に光を照射したときの照射角をθ、撮像装置100(図18のCameraに相当)から被測定物obを見たときの観測角をθとする。キャリブレーション情報として、プロジェクタ200と撮像装置100との間の距離bが与えられたとすると、デプス推定部343は、以下の式(7)に従って奥行きZを算出する。
Figure 2021124321
図13に戻る。デプス推定部343は、算出した奥行きZを出力デプスとして出力する。また、デプス推定部343は、信頼度生成部342が設定した信頼度を、算出した奥行きZと対応させて出力信頼度として出力する。
<1.4.測距装置の動作例>
図19は、本開示の第1実施形態に係る測距装置1の概略動作例を示すフローチャートである。なお、測距装置1は、被測定物obの距離を測定している間、図19に示す動作を繰り返し実行するものとする。
図19に示すように、測距装置1は、背景(無照射)パターンである照射パターンP0を照射時に基準信号(電圧信号Vinit)を設定する(ステップS101)。
次に、測距装置1は、照射パターンを変更してプロジェクタ200を発光させ(ステップS102)、検出信号を取得する(ステップS103)。測距装置1は、照射パターンP1〜Pn−1の全ての照射パターンを照射したか否かを判定する(ステップS104)。全ての照射パターンを照射していない場合(ステップS104;No)、ステップS102に戻る。
全ての照射パターンを照射していた場合(ステップS104;Yes)、測距装置1は、背景照射パターンと同じ照射パターンPn(背景パターン)における検出信号を取得する(ステップS105)。
測距装置1は、取得した検出信号を統合して統合画像を生成する(ステップS106)。続いて、測距装置1は、差分画像S1〜Snに基づき、各画素の信頼度を設定する(ステップS107)。測距装置1は、統合画像に基づき、各画素のデプスを推定する(ステップS108)。
以上のように、本実施形態に係る測距装置1は、照射パターンP0照射(無照射)時に基準信号をリセットすると、その後基準信号をリセットせずに差分画像S1〜Snを取得する。そのため、測距装置1は、背景画像との差分を示す差分画像をより高速に取得することができる。
例えば、10ビットの撮像画像を取得するために、120FPS(Frame per Second)の時間が必要であるとする。また、測距装置1が距離算出のために、背景以外に10枚の撮像画像を取得するものとする。
既存技術の測距装置は、背景以外の撮像画像として10ビットの撮像画像を取得する。この場合、既存技術の測距装置が背景画像と合わせて11枚の撮像画像を取得するためには11FPS相当の時間がかかる。そのため、既存技術の測距装置が最初の背景画像を取得してから最後の撮像画像を取得するまでの間に被測定物obまたは撮像装置が動いてしまう可能性が高く、高精度に距離を算出することが難しい。また、既存技術の測距装置は、撮像画像を取得する時間が長いため、距離の算出時間を短縮することが難しい。
一方、本実施形態に係る撮像装置100は、DVSであるため、1000FPS以上の性能を有する。そのため、測距装置1は、差分画像S1〜Snをより高速に取得することができる。そのため、測距装置1が最初の差分画像を取得してから最後の差分画像を取得するまでの間に被測定物obまたは撮像装置が動いてしまう可能性が低く、高精度に距離を算出することができる。また、測距装置1による距離算出の時間を大幅に短縮することができるようになる。
<2.第2実施形態>
上記第1実施形態では、測距装置1が被測定物obまでの距離を測定する場合を示した。上記例以外にも、測距装置1が、距離測定に加え、RGB撮像画像を取得するようにしてもよい。そこで、第2実施形態では、測距装置1が、被測定物obまでの距離測定に加え、RGB撮像画像を取得する例について説明する。
<2.1.撮像装置の機能構成例>
図20は、本開示の第2実施形態に係る撮像装置100の機能構成例を示す図である。本実施形態に係る撮像装置100は、図2に示す撮像装置100の機能構成に加え、RGB画像用の輝度値(画素信号)を取得するため、駆動回路113と、出力回路114と、タイミング制御部115と、を備える。
駆動回路113は、シフトレジスタやアドレスデコーダなどを含み、画素アレイ部110の各単位画素1101を駆動する。駆動回路113によって選択走査された列の各単位画素1101から出力される電気信号は、出力信号線の各々を通して出力回路114に入力される。出力回路114は、カラムADなどを含み、各単位画素1101から入力された電気信号を画素信号として、外部の記憶部400又は全体制御部300へ出力する。
タイミング制御部115は、各種のタイミング信号を生成するタイミングジェネレータ等を含み、タイミングジェネレータで生成された各種のタイミング信号を基に、駆動回路113及び出力回路114を制御する。
<2.2.単位画素の構成例>
図21は、本開示の第2実施形態に係る単位画素1101の概略構成例を示す図である。図21では、単位画素1101のうち、図3と同じ構成の図示を省略し、光電変換素子1104と、電流電圧変換部1110Aと、画素トランジスタ部1110Bと、を図示している。
電流電圧変換部1110Aは、図5の構成に加え、TGトランジスタ1116をさらに備える。
図21に示すように、TGトランジスタ1116は、LGトランジスタ1111と光電変換素子1104との間に配置される。TGトランジスタ1116のソースは、光電変換素子1104におけるカソードに接続される。TGトランジスタ1116のドレインは、LGトランジスタ1111のソース及び増幅トランジスタ1112のゲートに接続される。TGトランジスタ1116には、制御部111が出力する制御信号が印加される。該制御信号によって、TGトランジスタ1116は、測距装置1が距離測定を行う場合にオンし、RGB画像を取得する場合にオフするように制御される。これにより、撮像装置100は、距離測定を行う場合に検出信号を出力し、RGB画像を取得する場合に検出信号を出力しないようにする。
画素トランジスタ部1110Bは、転送トランジスタTG1と、リセットトランジスタRSTと、選択トランジスタSELと、増幅トランジスタAMPと、を備える。
転送トランジスタTG1は、光電変換素子1104に発生した電荷(電気信号)をフローティングディフュージョン(図示省略)に転送する。増幅トランジスタAMPは、負ローディングディフュージョンに蓄積された電荷に応じた電圧の画素信号を垂直信号線(図示省略)に出力する。リセットトランジスタRSTは、フローティングディフュージョンに蓄積された電荷を放出する。選択トランジスタSELは、読み出し対象の単位画素1101を選択する。
なお、図21に示す画素トランジスタ部1110Bの構成は一例であり、これに限定されない。図21に示す回路構成以外にも画素トランジスタ部1110Bとして種々の回路構成を適用することが可能である。
続いて、本開示の第2実施形態に係る単位画素1101の配置について説明する。図22は、本開示の第2実施形態に係る単位画素1101の配置の一例を示す図である。図22に示すように、本実施形態に係る撮像装置100の単位画素1101は、R(赤色)、G(緑色)およびB(青色)の光を受光する通常画素と、例えば赤外光(IR)を受光する赤外光画素と、を含む。
通常画素は、光電変換部(図示省略)の受光面に積層されるRフィルタ、GフィルタおよびBフィルタのいずれか1つのカラーフィルタを備える。通常画素は、画素アレイ部110において、例えばベイヤー配列を構成する。以下においては、Gフィルタが積層された通常画素を画素G、Rフィルタが積層された通常画素を画素R、Bフィルタが積層された通常画素を画素Bとして説明する。
赤外光画素は、光電変換部の受光面に赤外光すなわち赤外領域の波長の光を受光可能な赤外フィルタが積層されている。赤外光画素は、所定の画素行に所定の間隔で配置される。例えば、赤外光画素は、所定の画素行においてG画素と交互に配置される。
図23は、本開示の第2実施形態に係る撮像装置100の単位画素1101の配置の他の例を示す図である。図23に示すように、所定の画素行における通常画素のベイヤー配列の画素Gに相当する位置であって、同じ行の画素Bと隣接する位置に順次配置されてもよい。
このように、本実施形態に係る撮像装置100は、RGB画像を撮像するための通常画素と、距離測定用の画像を撮像するための赤外光画素を有する。
次に、本実施形態に係る単位画素1101からの信号読み出し方法について説明する。図24は、本開示の第2実施形態に係る単位画素1101からの信号読み出しの一例を説明するための図である。
図24に示すように、単位画素1101の検出部1100は、例えば受光部1103とは異なる基板に配置される。図24では、検出部1100は、受光部1103が配置される基板の下基板に配置される例を示している。
この場合、通常画素の受光部1103で発生した電荷(電気信号)は、出力信号線を通して出力回路114(図20参照)に入力され、出力回路114が有するカラムADによってデジタル画素信号に変換される。
一方、赤外光画素の受光部1103で発生した電荷(電気信号)は、下基板の検出部1100に入力される。検出部1100は、電気信号が閾値より大きいか否かを示す検出信号を出力する。
なお、ここでは、検出部1100が下基板に配置されるとしたが、これに限定されない。検出部1100の少なくとも一部、例えば電流電圧変換部1110を受光部1103と同じ基板に配置するようにしてもよい。
図25は、本開示の第2実施形態に係る単位画素の概略構成の他の例を示す図である。上述した例では、通常画素又は赤外光画素にかかわらず、単位画素1101が検出部1100及び画素トランジスタ部1110Bを備える場合について説明したが、これに限定されない。例えば、図25に示すように、通常画素が画素トランジスタ部1101Bを備え、赤外光画素が検出部1100を備えるようにしてもよい。この場合、不要な回路を省略することができ、画素アレイ部110の回路規模を削減することができる。
<2.3.撮像装置の動作例>
次に、本実施形態に係る撮像装置100における画素信号の読み出し動作について説明する。図26は、本開示の第2実施形態に係る撮像装置100の撮像タイミングの一例を示す図である。
本実施形態に係る撮像装置100は、RGB撮像画像を撮像してからデプス算出のための差分画像S1〜Snを撮像する。
図26に示すように、撮像装置100は、まず通常画素でRGB画像を撮像し、その後赤外光画素でデプス算出用の差分画像S1〜Snを撮像する(図26では、n=7)。なお、図26に示すS0では基準信号の設定が行われる。
より具体的に、撮像装置100は、通常画素の露光を開始する。次に、撮像装置100は、背景照射パターンP0照射時に基準信号を設定する(S0)。続いて、撮像装置100は、照射パターンP1〜P7に対応する差分画像S1〜S7を取得する。
撮像装置100は、RGB画像およびデプス算出用の差分画像S1〜S7の取得を、例えば1/30秒〜1/120秒単位で繰り返し実行する。
上述したように、撮像装置100は、デプス算出用の差分画像S1〜S7を高速に出力することができる。そのため、RGB画像とデプス算出用の差分画像S1〜Snとを同じ撮像装置100で撮像することができる。
図27は、本開示の第2実施形態に係る撮像装置100の撮像タイミングの他の例を説明するための図である。上述した例では、撮像装置100が、RGB画像とデプス算出用の差分画像S1〜Snとを順番に撮像する場合について説明したが、これに限定されない。例えば、図27に示すように、撮像装置100が、RGB画像とデプス算出用の差分画像S1〜Snとを並列的に撮像するようにしてもよい。
図27に示すように撮像装置100は、通常画素でRGB画像を撮像し、このRGB画像の撮像と並列的に、赤外光画素でデプス算出用の差分画像S1〜Snを撮像する(図24では、n=8)。撮像装置100は、赤外光画素による撮像において、最初に基準信号を設定し(Background)、その後の差分画像S1〜S8を取得する。撮像装置100は、RGB画像およびデプス算出用の差分画像S1〜S8の撮像を、例えば1/30秒単位で繰り返し実行する。
このように、撮像装置100がRGB画像およびデプス算出用の差分画像S1〜S8の撮像を同時に行うことで、RGB画像とデプス算出用の撮像画像S1〜Snとを同じ撮像装置100で撮像することができる。
ここで、例えば、図21に示すように単位画素1101が検出部1100及び画素トランジスタ部1110Bの両方を備えている場合、単位画素1101は、検出信号及び画素信号の両方を同時に読み出すことができる。そこで、撮像装置100は、図27に示すように距離測定と撮像画像の両方を同時に読み出す場合、通常画素と赤外光画素とを区別せずに、単位画素1101から検出信号及び画素信号の両方を同時に読み出すことで、測距用の画像と通常の撮像画像とを同時に読み出すようにしてもよい。この場合、単位画素1101が通常画素及び赤外光画素の両方を有していなくてもよく、例えば単位画素1101全てが赤外光画素であってもよい。この場合、撮像装置100はRGB画像のかわりにIR画像を取得することになる。
<3.その他の実施形態>
上述の第1、第2実施形態では、背景照射パターンP0と同じ照射パターンを複数の照射パターンP1〜Pnの最後に1回照射するとした。すなわち、照射パターンPnが背景照射パターンP0と同じ照射パターンであるとした。しかしながら、背景照射パターンP0と同じ照射パターンの照射は、最後でなくてもよく、また複数回であってもよい。例えば、複数の照射パターンP1〜Pnのうち所定回数ごとに背景パターンと同じ照射パターンの照射を行ってもよい。これにより、被測定物obが高速に動いたか否かをより詳細に検出することができ、信頼度生成部342による信頼度算出の精度を向上させることができる。
また、上述の第1、第2実施形態では、撮像装置100が、画素信号が閾値より大きい場合に検出信号を出力するとしたが、これに限定されない。例えば、撮像装置100が、画素信号が閾値より小さい場合にさらに検出信号を出力するようにしてもよい。この場合、撮像装置100は、画素信号が閾値より小さくなった(暗くなった)ことを示す検出信号(例えば「−1」)を出力する。
上述したように、背景照射パターンP0が無照射パターンである場合、その後の照射パターンP1〜Pn照射時に、各画素は無照射時と同じ明るさであることを示す検出信号または明るくなったことを示す検出信号を出力する。そのため、上述したように、画素が暗くなったことを示す検出信号を出力する場合、被測定物ob又は撮像装置100が動いた可能性や、環境光などが変化した可能性があり、被測定物obまでの距離を精度よく算出できない可能性がある。そこで、測距装置1は、画素信号が閾値より小さくなった(暗くなった)ことを示す検出信号を出力した画素について、信頼度を低く設定する。例えば、「−1」を示す検出信号の数に応じて信頼度を小さくしていき、「−1」を示す検出信号の数が所定閾値を超えた場合、信頼度を最も低く、例えばゼロに設定する。
また、上述の第1、第2実施形態では、背景照射パターンP0が無照射(全て黒色)の照射パターンであるとしたが、これに限定されない。背景照射パターンP0は規定の照射パターンであればよく、例えば全て明るい全照射パターンであってもよい。この場合、最後の照射パターンPnは、背景照射パターンP0と同じ照射パターンとなるため、全照射パターンとなる。この場合、撮像装置100は、画素信号が閾値を下回ったか否か、換言すると、各画素が暗くなったか否かを示す検出信号を出力する。
このように、撮像装置100は、画素信号が閾値と比較して第1の値Th01以上変化したか否かを検出する。背景照射パターンP0が無照射(全て黒色)の照射パターンである場合、第1の値は正の値(Th01>0)になる。一方、背景照射パターンP0が全照射(全て白色)の照射パターンである場合、第1の値は負の値(Th01<0)になる。
なお、上述したように、背景照射パターンP0が無照射(全て黒色)の照射パターンである場合において画素信号が暗くなったか否かに応じて信頼度を設定するとしたが、この場合も同様に、背景照射パターンP0が全照射の照射パターンの場合は、画素信号が明るくなったか否かに応じて信頼度を設定する。すなわち、撮像装置100は、画素信号が閾値と比較して第2の値Th02以上変化したか否かを検出する。背景照射パターンP0が無照射(全て黒色)の照射パターンである場合、第2の値は負の値(Th02<0)になる。一方、背景照射パターンP0が全照射(全て白色)の照射パターンである場合、第2の値は正の値(Th02>0)になる。
<4.補足>
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
上記各実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
また、上述してきた各実施形態および変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示にかかる技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影する光源部と、
光を受光して画素信号を出力する受光部と、
前記第1の期間に前記画素信号に基づいて基準信号を設定する設定部と、
前記第2の期間に前記画素信号が前記基準信号から第1の値以上変化したか否かを検出し、検出結果を示す第1の検出信号を出力する検出部と、
前記第1の検出信号を用いて被測定物までの距離を算出する算出部と、
を備える測距装置。
(2)
前記検出部は、前記光源部による投影と同期して前記第1の検出信号を出力する、(1)に記載の測距装置。
(3)
前記第2の照射パターンは、互いに異なる複数の照射パターンを含み、
前記光源部は、前記第2の期間に、前記第2の照射パターンに含まれる前記複数の照射パターンで前記光を投影し、
前記検出部は、前記第2の期間に、前記複数の照射パターンにそれぞれ対応する前記画素信号と、前記基準信号と、に基づいて、前記第1の検出信号として、前記複数の照射パターンのそれぞれに1対1に対応する複数の検出信号をそれぞれ出力する、
(1)または(2)に記載の測距装置。
(4)
前記算出部は、前記複数の照射パターンのそれぞれに1対1に対応する前記複数の検出信号のそれぞれを統合した統合信号を用いて、前記距離を算出する、(3)に記載の測距装置。
(5)
前記算出部は、前記複数の照射パターンのそれぞれに1対1に対応する前記複数の検出信号それぞれの値が同じであった場合、該値が異なる場合と比べて前記距離の信頼度を低く設定する、(3)または(4)に記載の測距装置。
(6)
前記検出部は、前記画素信号が前記基準信号から第2の値以上変化したかをさらに検出し、検出結果を示す第2の検出信号を出力し、
前記算出部は、前記第2の検出信号に応じて前記距離の信頼度を設定する、(3)〜(5)のいずれか1つに記載の測距装置。
(7)
前記光源部は、前記第2の期間で前記第1の照射パターンと同じ照射パターンである第3の照射パターンで光を投影し、
前記検出部は、前記第3の照射パターンに対応する前記画素信号と前記基準信号とを比較して第3の検出信号を出力し、
前記算出部は、前記第3の検出信号に基づき、前記距離の信頼度を設定する、
(3)〜(6)に記載の測距装置。
(8)
前記受光部の画素を駆動させ、前記画素信号を読み出す処理部をさらに備える、(1)〜(7)に記載の測距装置。
(9)
前記処理部は、前記第1の期間及び前記第2の期間を合わせた期間で、前記画素信号を読み出す、(8)に記載の測距装置。
(10)
前記処理部が前記画素信号を読み出した後に、前記検出部が前記第1の検出信号を出力する、(8)に記載の測距装置。
(11)
前記受光部は、所定の色の検出に用いるカラー画素と、赤外光の検出に用いるIR画素と、を含み、
前記処理部は、前記カラー画素から前記画素信号を読み出し、
前記検出部は、前記IR画素が出力する前記画素信号に基づき、前記第1の検出信号を出力する、
(8)〜(10)のいずれか1つに記載の測距装置。
(12)
前記受光部は、前記光源部による投影と同期して前記光を受光する、(1)〜(11)のいずれか1つに記載の測距装置。
(13)
第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影することと、
光を受光して画素信号を出力することと、
前記第1の期間に前記画素信号に基づいて基準信号を設定することと、
前記第2の期間に前記画素信号が前記基準信号から第1の値以上変化したかを検出し、検出結果を示す第1の検出信号を出力することと、
前記第1の検出信号を用いて被測定物までの距離を算出することと、
を含む測距方法。
1 測距装置
100 撮像装置
200 プロジェクタ
300 全体制御部
400 記憶部
310 タイミング制御部
320 投影画像生成部
330 データ取得部
340 信号処理部

Claims (13)

  1. 第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影する光源部と、
    光を受光して画素信号を出力する受光部と、
    前記第1の期間に前記画素信号に基づいて基準信号を設定する設定部と、
    前記第2の期間に前記画素信号が前記基準信号から第1の値以上変化したか否かを検出し、検出結果を示す第1の検出信号を出力する検出部と、
    前記第1の検出信号を用いて被測定物までの距離を算出する算出部と、
    を備える測距装置。
  2. 前記検出部は、前記光源部による投影と同期して前記第1の検出信号を出力する、請求項1に記載の測距装置。
  3. 前記第2の照射パターンは、互いに異なる複数の照射パターンを含み、
    前記光源部は、前記第2の期間に、前記第2の照射パターンに含まれる前記複数の照射パターンで前記光を投影し、
    前記検出部は、前記第2の期間に、前記複数の照射パターンにそれぞれ対応する前記画素信号と、前記基準信号と、に基づいて、前記第1の検出信号として、前記複数の照射パターンのそれぞれに1対1に対応する複数の検出信号をそれぞれ出力する、
    請求項2に記載の測距装置。
  4. 前記算出部は、前記複数の照射パターンのそれぞれに1対1に対応する前記複数の検出信号のそれぞれを統合した統合信号を用いて、前記距離を算出する、請求項3に記載の測距装置。
  5. 前記算出部は、前記複数の照射パターンのそれぞれに1対1に対応する前記複数の検出信号それぞれの値が同じであった場合、該値が異なる場合と比べて前記距離の信頼度を低く設定する、請求項4に記載の測距装置。
  6. 前記検出部は、前記画素信号が前記基準信号から第2の値以上変化したかをさらに検出し、検出結果を示す第2の検出信号を出力し、
    前記算出部は、前記第2の検出信号に応じて前記距離の信頼度を設定する、請求項4に記載の測距装置。
  7. 前記光源部は、前記第2の期間で前記第1の照射パターンと同じ照射パターンである第3の照射パターンで光を投影し、
    前記検出部は、前記第3の照射パターンに対応する前記画素信号と前記基準信号とを比較して第3の検出信号を出力し、
    前記算出部は、前記第3の検出信号に基づき、前記距離の信頼度を設定する、
    請求項4に記載の測距装置。
  8. 前記受光部の画素を駆動させ、前記画素信号を読み出す処理部をさらに備える、請求項1に記載の測距装置。
  9. 前記処理部は、前記第1の期間及び前記第2の期間を合わせた期間で、前記画素信号を読み出す、請求項8に記載の測距装置。
  10. 前記処理部が前記画素信号を読み出した後に、前記検出部が前記第1の検出信号を出力する、請求項8に記載の測距装置。
  11. 前記受光部は、所定の色の検出に用いるカラー画素と、赤外光の検出に用いるIR画素と、を含み、
    前記処理部は、前記カラー画素から前記画素信号を読み出し、
    前記検出部は、前記IR画素が出力する前記画素信号に基づき、前記第1の検出信号を出力する、
    請求項8に記載の測距装置。
  12. 前記受光部は、前記光源部による投影と同期して前記光を受光する、請求項1に記載の測距装置。
  13. 第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影することと、
    光を受光して画素信号を出力することと、
    前記第1の期間に前記画素信号に基づいて基準信号を設定することと、
    前記第2の期間に前記画素信号が前記基準信号から第1の値以上変化したかを検出し、検出結果を示す第1の検出信号を出力することと、
    前記第1の検出信号を用いて被測定物までの距離を算出することと、
    を含む測距方法。
JP2020016471A 2020-02-03 2020-02-03 測距装置および測距方法 Pending JP2021124321A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020016471A JP2021124321A (ja) 2020-02-03 2020-02-03 測距装置および測距方法
PCT/JP2021/002292 WO2021157393A1 (ja) 2020-02-03 2021-01-22 測距装置および測距方法
US17/795,491 US20230104085A1 (en) 2020-02-03 2021-01-22 Range-finding apparatus and range-finding method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020016471A JP2021124321A (ja) 2020-02-03 2020-02-03 測距装置および測距方法

Publications (1)

Publication Number Publication Date
JP2021124321A true JP2021124321A (ja) 2021-08-30

Family

ID=77199537

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020016471A Pending JP2021124321A (ja) 2020-02-03 2020-02-03 測距装置および測距方法

Country Status (3)

Country Link
US (1) US20230104085A1 (ja)
JP (1) JP2021124321A (ja)
WO (1) WO2021157393A1 (ja)

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6795993B2 (ja) * 2016-02-18 2020-12-02 株式会社ミツトヨ 形状測定システム、形状測定装置及び形状測定方法

Also Published As

Publication number Publication date
US20230104085A1 (en) 2023-04-06
WO2021157393A1 (ja) 2021-08-12

Similar Documents

Publication Publication Date Title
JP6823815B2 (ja) 固体撮像装置、距離測定装置および距離測定方法
US11869273B2 (en) Object recognition with removal of event as noise when the event is detected for a group of pixels exceeding a threshold
KR101151496B1 (ko) 이미지 신호 처리 방법 및 장치
CN114127509A (zh) 测距系统和电子设备
US9894300B2 (en) Image sensing device for measuring temperature without temperature sensor and method for driving the same
WO2020066432A1 (ja) 固体撮像素子、固体撮像素子の制御方法および電子機器
JP6362511B2 (ja) 撮像装置及びその制御方法
US20230154135A1 (en) Object recognition system and electronic apparatus
WO2021084832A1 (ja) 物体認識システム及び物体認識システムの信号処理方法、並びに、電子機器
US20230011969A1 (en) Time of flight sensing method
WO2018180660A1 (ja) 固体撮像装置
WO2021157393A1 (ja) 測距装置および測距方法
WO2020196378A1 (ja) 距離画像の取得方法、及び、距離検出装置
CN114503544A (zh) 人脸认证系统和电子设备
US20230199340A1 (en) Imaging device, method of controlling imaging device, and shape measuring device
JP2011080843A (ja) 立体形状測定システム及び立体形状測定方法
WO2021157401A1 (ja) 測距装置及び測距方法
US20230095243A1 (en) Photoelectric conversion device, imaging device, control method, and storage medium
US20230098566A1 (en) Photoelectric conversion device having signal in response to incidence of photon, imaging device, control method, and storage medium
WO2021187127A1 (en) Imaging with ambient light subtraction
JP2015192341A (ja) 撮像システム
JP2023046662A (ja) 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
JP2023046660A (ja) 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
JP2021025810A (ja) 距離画像センサ、および距離画像測定装置