JP2021124323A - 測距装置及び測距方法 - Google Patents

測距装置及び測距方法 Download PDF

Info

Publication number
JP2021124323A
JP2021124323A JP2020016562A JP2020016562A JP2021124323A JP 2021124323 A JP2021124323 A JP 2021124323A JP 2020016562 A JP2020016562 A JP 2020016562A JP 2020016562 A JP2020016562 A JP 2020016562A JP 2021124323 A JP2021124323 A JP 2021124323A
Authority
JP
Japan
Prior art keywords
pixel
period
signal
light
distance measuring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020016562A
Other languages
English (en)
Inventor
貴博 赤羽
Takahiro Akahane
貴博 赤羽
裕介 池田
Yusuke Ikeda
裕介 池田
俊 海津
Takashi Kaizu
俊 海津
英治 平田
Eiji Hirata
英治 平田
洋史 湯浅
Hirofumi Yuasa
洋史 湯浅
慎一郎 江藤
Shinichiro Eto
慎一郎 江藤
康孝 木村
Yasutaka Kimura
康孝 木村
武仕 親川
Takeshi Oyakawa
武仕 親川
直樹 吉持
Naoki Yoshimochi
直樹 吉持
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Sony Group Corp
Original Assignee
Sony Semiconductor Solutions Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp, Sony Group Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2020016562A priority Critical patent/JP2021124323A/ja
Priority to US17/795,507 priority patent/US20230074464A1/en
Priority to PCT/JP2021/002394 priority patent/WO2021157401A1/ja
Publication of JP2021124323A publication Critical patent/JP2021124323A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2536Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object using several gratings with variable grating pitch, projected on the object with the same angle of incidence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/46Indirect determination of position data
    • G01S17/48Active triangulation systems, i.e. using the transmission and reflection of electromagnetic waves other than radio waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4814Constructional features, e.g. arrangements of optical elements of transmitters alone
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4861Circuits for detection, sampling, integration or read-out
    • G01S7/4863Detector arrays, e.g. charge-transfer gates
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】より高速に被測定物までの距離を算出することができる測距装置及び測距方法を提供する。【解決手段】測距装置は、受光部と、光源部と、変換部と、算出部と、を備える。受光部は、光を受光して画素信号を出力する。光源部は、第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影する。変換部は、画素信号に対して二分探索によりビット単位で逐次に変換を行い、第1の期間に第1のビット数の変換を行って第1のデジタル信号を出力し、第2の期間に第1のビット数より少ない第2のビット数で変換を行って第2のデジタル信号を出力する。算出部は、第1のデジタル信号と、第2のデジタル信号と、に基づき距離を算出する。【選択図】図5

Description

本開示は、測距装置及び測距方法に関する。
物体の3次元形状を求める手法の一つとして、空間コード化法と呼ばれる手法が知られている。空間コード化法では、例えば周期の異なる縞パターンを照射して撮像した複数の撮像画像を用いて3次元形状を求める。
J. L. Posdamer, M. D. Altschler, "Surface Measurement by Space-Encoded Projected Beam Systems", Computer Graphics and Image Processing vol.18, No1, pp.1-17, 1982.
空間コード化法では複数の撮像画像を取得する必要がある。そのため、従来の撮像装置では、複数の撮像画像の取得に時間がかかり、例えば高速で移動する物体の3次元形状(被測定物までの距離)の計測が困難であるという問題があった。
そこで、本開示では、より高速に被測定物までの距離を算出することができる測距装置及び測距方法を提供する。
本開示によれば、測距装置が提供される。測距装置は、受光部と、光源部と、変換部と、算出部と、を備える。受光部は、光を受光して画素信号を出力する。光源部は、第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影する。変換部は、前記画素信号に対して二分探索によりビット単位で逐次に変換を行い、前記第1の期間に第1のビット数の変換を行って第1のデジタル信号を出力し、前記第2の期間に前記第1のビット数より少ない第2のビット数で変換を行って第2のデジタル信号を出力する。算出部は、前記第1のデジタル信号と、前記第2のデジタル信号と、に基づき距離を算出する。
本開示の第1実施形態に係る測距装置の概略構成例を示す図である。 本開示の第1実施形態に係る撮像装置の構成例を示す図である。 本開示の第1実施形態のカラムADC及び制御部の構成例を示す図である。 本開示の第1実施形態に係るカラムADCによるAD変換について説明するための図である。 本開示の第1実施形態に係る撮像装置による画素信号の読み出しを模式的に示すタイミングチャートである。 本開示の第1実施形態に係る測距装置の構成例を示すブロック図である。 本開示の第1実施形態に係るタイミング制御部によるタイミング制御の一例を説明するための図である。 本開示の第1実施形態に係る投影画像生成部が転送する照射パターンの一例を説明するための図である。 本開示の第1実施形態に係る投影画像生成部が転送する照射パターンの一例を説明するための図である。 本開示の第1実施形態に係る信号処理部の構成例を示すブロック図である。 本開示の第1実施形態に係る信頼度生成部による信頼度算出を説明するための図である。 本開示の第1実施形態に係るデプス推定部による奥行きの算出方法を説明するための図である。 本開示の第1実施形態に係る測距装置の概略動作例を示すフローチャートである。 本開示の第2実施形態に係る撮像装置の画素配置の一例を示す図である。 本開示の第2実施形態に係る撮像装置の画素配置の他の例を示す図である。 本開示の第2実施形態に係る撮像装置による画素信号の読み出しを模式的に示すタイミングチャートである。 本開示の第2実施形態に係る撮像装置の撮像タイミングの他の例を説明するための図である。 本開示の第3実施形態に係る撮像装置の画素配置の一例を示す図である。 本開示の第3実施形態に係る撮像装置の撮像タイミングの一例を説明するための図である。 本開示の第3実施形態に係る撮像装置の撮像タイミングの他の例を説明するための図である。 本開示の第4実施形態に係る信頼度生成部による信頼度算出について説明するための図である。 本開示の第4実施形態に係る信頼度生成部による信頼度算出について説明するための図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は以下の順序で行うものとする。
1.第1実施形態
1.1.測距装置の概略構成例
1.2.撮像装置
1.3.測距装置の全体制御部
1.4.測距装置の動作例
2.第2実施形態
3.第3実施形態
4.第4実施形態
5.その他の実施形態
6.補足
<1.第1実施形態>
<1.1.測距装置の概略構成例>
図1は、本開示の第1実施形態に係る測距装置1の概略構成例を示す図である。図1に示すように、測距装置1は、例えば、撮像装置100と、プロジェクタ200と、全体制御部300と、記憶部400とを備える。測距装置1は、空間コード化法と呼ばれる手法を用いて、被測定物obまでの距離を測定することで、被測定物obの3次元形状を計測する装置である。
プロジェクタ200は、全体制御部300の指示に従い、所定の投影画像を投影する光源部である。所定の投影画像は、例えば周期の異なる明暗パターンであり、プロジェクタ200は、当該明暗パターンの照射光を被測定物obに向けて照射する。図1の例では、プロジェクタ200は、所定の投影画像として照射パターンP0〜Pnの照射光を順次照射する。図1ではn=3である。
なお、照射パターンP0は、背景画像を撮像するための照射パターン(第1の照射パターン。以下、背景照射パターンとも記載する)である。背景照射パターンP0は、例えば黒色の投影画像(照射パターンが全て「暗」)、即ち照射光を照射しない照射パターンである。プロジェクタ200は、背景照射パターンP0を第1の期間に投影する。照射パターンP1〜Pnは、図1の例では、縦縞の幅がそれぞれ異なる第2の照射パターンである。プロジェクタ200は、照射パターンP1〜Pnを第2の期間に投影する。
撮像装置100は、全体制御部300の指示に従い、プロジェクタ200による照射パターンP0〜Pnの投影に同期して被測定物obを撮像し、各照射パターンP0〜Pnに対応する撮像画像S0〜Snを全体制御部300に出力する。
本実施形態に係る撮像装置100は、照射パターンP0(背景照射パターン)の照射光を照射したときの被測定物obを撮像した撮像画像(以下、背景画像とも称する)S0を全体制御部300に出力する。背景画像S0の各画素における画素信号(輝度値)は、第1のビット数(例えば10ビット)でAD変換された第1のデジタル信号である。
また、照射パターンP1〜Pnの照射光を照射したときの被測定物obを撮像した撮像画像S1〜Snは、照射光が当たったか否かを示す画像であり、撮像画像S1〜Snの画素信号は、第1のビット数より少ない第2のビット数(例えば、1ビット)の第2のデジタル信号である。以下、背景画像S0以外の撮像画像S1〜Snを差分画像S1〜Snとも称する。
このように、本実施形態に係る撮像装置100は、複数ビットの背景画像S0及び1ビットの差分画像S1〜Snを出力する。これにより、全体制御部300による後段の信号処理において、距離算出のために撮像画像の差分を算出する必要がなくなる。また、撮像装置100が出力する差分画像S1〜Snは1ビットの画像であるため、撮像装置100による差分画像S1〜Snの出力時間を短縮することができる。従って、測距装置1は、より高速に差分画像S1〜Snを取得することができる。なお、撮像装置100の詳細については後述する。
全体制御部300は、測距装置1の各部を制御する。全体制御部300は、例えば、プロジェクタ200を制御して、所定の照射パターンP0〜Pnの照射光を照射させる。また、全体制御部300は、撮像装置100を制御して、プロジェクタ200が所定の照射パターンP0〜Pnの照射光を照射している間、被測定物obを撮像させる。
全体制御部300は、撮像装置100が撮像した複数の撮像画像S0〜Snに基づき、撮像画像S0〜Snの各画素における奥行き(被測定物obまでの距離)を算出する算出部として動作する。全体制御部300による奥行きの算出方法については後述する。
記憶部400は、例えば照射パターンP0〜Pn等、測距装置1による被測定物obの測距に必要な情報を記憶する。
なお、ここでは、プロジェクタ200が照射する照射パターンの数を4つとしたが、これに限定されない。照射パターンは複数であればよく、2つ又は3つであってもよく、5つ以上であってもよい。また、ここでは、照射パターンが、周期が異なる縦縞のパターンであるとしたが、これに限定されない。例えば、照射パターンが横縞のパターンであってもよい。また、縦縞と横縞を組み合わせたパターンであってもよい。照射パターンは、バイナリーコーディングされていれば、どのようなパターンであってもよい。
また、ここでは、照射パターンP1〜Pnのうち最後に照射する照射パターンPnが縦縞の第2の照射パターンであるとしたが、照射パターンPnが照射パターンP0と同じ照射パターン(第3の照射パターン)であってもよい。この場合、照射パターンPnに対応する撮像画像Snは、全体制御部300による奥行きの信頼度設定に用いられる。信頼度の設定については後述する。
<1.2.撮像装置>
次に、図2〜図4を用いて、本開示の第1実施形態に係る撮像装置100の詳細について説明する。図2は、本開示の第1実施形態に係る撮像装置100の構成例を示す図である。
図2に示すように、撮像装置100は、複数の画素(撮像素子)111が配置された画素アレイ部(受光部)110と、当該画素アレイ部110を取り囲むように設けられた周辺回路とを有する。周辺回路は、垂直駆動部132、カラム信号処理回路134、水平駆動部136、出力回路138及び制御部140等を含む。以下に、画素アレイ部110及び周辺回路の詳細について説明する。
画素アレイ部110は、半導体基板上にマトリックス状に2次元配置された複数の画素111を有する。各画素111は、光電変換素子と、複数の画素トランジスタ(図示省略)とを有している。さらに詳細には、当該画素トランジスタは、例えば、転送トランジスタ、選択トランジスタ、リセットトランジスタ、及び、増幅トランジスタ等を含んでいてもよい。
垂直駆動部132は、例えばシフトレジスタによって形成され、画素駆動配線142を選択し、選択された画素駆動配線142に画素111を駆動するためのパルスを供給し、行単位で画素111を駆動する。すなわち、垂直駆動部132は、画素アレイ部110の各画素111を行単位で順次垂直方向(図2中の上下方向)に選択走査し、各画素111の光電変換素子の受光量に応じて生成された電荷に基づく画素信号を、垂直信号線144を通して後述するカラム信号処理回路134に供給する。
カラム信号処理回路134は、画素111の列ごとに配置されており、1行分の画素111から出力される画素信号に対して画素列ごとにノイズ除去等の信号処理を行う。例えば、カラム信号処理回路134は、画素固有の固定パターンノイズを除去するためにCDS(Correlated Double Sampling:相関2重サンプリング)及びAD(Analog-Degital)変換等の信号処理を行う。カラム信号処理回路134は、例えば逐次比較(Successive Approximation Register:以下、SARという)型のカラムADC134A(図3参照)を有する。カラムADC134Aは、画素信号に対して二分探索によりビット単位で逐次に変換を行い、デジタル信号を出力する変換器である。
水平駆動部136は、例えばシフトレジスタによって形成され、水平走査パルスを順次出力することによって、上述したカラム信号処理回路134の各々を順番に選択し、カラム信号処理回路134の各々から画素信号を水平信号線146に出力させる。
出力回路138は、上述したカラム信号処理回路134の各々から水平信号線146を通して順次に供給される画素信号に対し、信号処理を行い出力する。出力回路138は、例えば、バッファリング(buffering)を行う機能部として機能してもよく、もしくは、黒レベル調整、列ばらつき補正、各種デジタル信号処理等の処理を行ってもよい。なお、バッファリングとは、画素信号のやり取りの際に、処理速度や転送速度の差を補うために、一時的に画素信号を保存することをいう。
制御部140は、入力クロックと、動作モードなどを指令するデータを受け取り、また画素111の内部情報等のデータを出力することができる。すなわち、制御部140は、垂直同期信号、水平同期信号及びマスタクロックに基づいて、垂直駆動部132、カラム信号処理回路134及び水平駆動部136等の動作の基準となるクロック信号や制御信号を生成する。そして、制御部140は、生成したクロック信号や制御信号を、垂直同期信号、水平同期信号及びマスタクロックに基づいて、垂直駆動部132、カラム信号処理回路134及び水平駆動部136等に出力する。
制御部140は、SAR型のカラムADC134Aで画素信号と比較する参照信号を制御することで、カラムADC134Aで行われるAD変換のビット数を制御する。例えば、測距の基準となる背景画像S0の撮像を行う場合、制御部140は、画素信号が複数ビット(例えば、10ビット)の第1のデジタル信号に変換されるように参照信号を制御する。
一方、所定の照射パターンP1〜Pnを照射した場合の差分画像S1〜Snを撮像する場合、制御部140は、画素信号が背景画像S0より明るいか否かを判定するように参照信号を制御する。換言すると、制御部140は、画素信号を背景画像S0より明るいか否かを示す1ビットの第2のデジタル信号に変換するようカラムADC134Aの参照信号を制御する。なお、以下の説明では、カラムADC134Aが画素信号を複数ビットのデジタル信号に変換する場合のビット数を10ビットとして説明するが、当該ビット数は10ビットに限定されない。当該ビット数が、2以上9以下であってもよく11以上であってもよい。例えば、カラムADC134Aで変換可能な最大ビット数であってよい。
(カラムADC)
図3は、本開示の第1実施形態のカラムADC134A及び制御部140の構成例を示す図である。カラム信号処理回路134は、例えば垂直信号線144ごとに図3に示すカラムADC134Aを有する。あるいは、複数の垂直信号線144が1つのカラムADC134Aを共有していてもよい。この場合、例えば複数の垂直信号線144とカラムADC134Aとがスイッチ(図示省略)を介して接続され、当該スイッチによってカラムADC134Aが変換する画素信号が選択される。
図3に示すカラムADC134Aは、比較器1341、SAR(Successive Approximation Register)ロジック回路1342及びDAC(Digital to Analog Converter)1343を備える。
比較器1341は、垂直信号線144を介して入力される画素信号と所定の参照信号とを比較する。比較器1341は、比較結果をSARロジック回路1342に出力する。
SARロジック回路1342は、比較器1341の比較結果に基づいて、画素信号に近似するような参照信号の値を示すデジタル信号を求めてレジスタに保持し、その値に参照信号を更新させるための制御信号を生成する。
DAC1343は、制御信号に対するDA(Digital to Analog)変換により、アナログの参照信号を更新する。
(制御部)
続いて、図3を用いて制御部140の構成例について説明する。図3に示す制御部140は、データ圧縮部1401、参照信号設定部1402及びフレームメモリ1403を有する。
データ圧縮部1401は、SARロジック回路1342が出力する10ビットの第1デジタル信号を圧縮して10ビットより小さいビット数(例えば3ビット)のデジタル信号に変換し、フレームメモリ1403に格納する。換言すると、データ圧縮部1401は、背景画像S0を圧縮してフレームメモリ1403に記憶させる。なお、データ圧縮部1401が行う圧縮方式として、例えばハフマン符号を用いた可逆圧縮が挙げられるが、かかる圧縮方式は一例であり、種々の圧縮方式が適用可能である。
参照信号設定部1402は、背景画像S0の各画素における第1デジタル信号(輝度値)に応じた参照信号(以下、1ビット参照信号とも称する)を設定するようSARロジック回路1342を制御する。参照信号設定部1402は、背景画像S0を取得後、照射パターンP1〜nを照射する間(換言すると、差分画像S1〜Snを撮像する間)、1ビット参照信号を設定するようSARロジック回路1342を制御する。
フレームメモリ1403は、背景画像S0を記憶する記憶手段である。フレームメモリ1403は、データ圧縮部1401が圧縮した背景画像S0を記憶する。フレームメモリ1403が、データ圧縮部1401が圧縮した背景画像S0を記憶することで、フレームメモリ1403のサイズを小さくすることができる。なお、フレームメモリ1403が10ビットの背景画像S0を記憶できる場合、データ圧縮部1401を省略してもよい。
(AD変換処理)
ここで、上述したように、カラムADC134Aは、SAR型のADCであり、カラムごとに個別のDAC1343を備える。そのため、カラムADC134Aは、初期電圧(比較器1341による比較に用いられる参照信号の初期値)をカラムごとに調整することができる。本実施形態では、かかる点に着目し、撮像装置100が照射パターンP0〜Pnに応じて参照信号を変更することで、カラムADC134Aのしきい値を変更する。これにより、撮像装置100は、10ビットの背景画像S0を撮像することができるとともに、照射パターンP1〜Pnを照射した場合に、画素信号が明るくなったか否かを、カラムADC134Aを用いて1ビット判定することができる。
以下、図4を用いてカラムADC134Aによる比較処理の詳細について説明する。図4は、本開示の第1実施形態に係るカラムADC134AによるAD変換について説明するための図である。図4においては、下側は電圧が低い状態(白色側)であり、上側は電圧が高い状態(黒色側)である。図4の左側に示すグラフの横軸は、時間である。
(複数ビットAD変換)
まず、図4の左側に示すグラフを用いて、カラムADC134Aが、第1の期間において、背景画像S0の画素信号VpbをAD変換する場合について説明する。換言すると、カラムADC134Aが10ビットのAD変換を行う場合について説明する。
初期状態において参照信号VSLのレベルは、例えば初期値Vrefに設定される。そして、比較器1341は、画素信号Vpbと初期値Vrefの参照信号とを比較する。画素信号Vpbが参照信号より大きい場合、SARロジック回路1342は、デジタル信号DOUTのMSB(Most Significant Bit)を「0」にする。そして、SARロジック回路1342は、図4に示すように、参照信号をVref/2の分、上昇させる。
一方、画素信号Vpbが参照信号以下の場合、SARロジック回路1342は、デジタル信号DOUTのMSBを「1」にする。そして、SARロジック回路1342は、基準信号をVref/2の分、降下させる(図示省略)。
そして、比較器1341は、次の比較を行う。比較結果、画素信号Vpbが参照信号より大きい場合、SARロジック回路1342は、MSBの次の桁を「0」にする。そして、SARロジック回路1342は、図4に示すように、参照信号をVref/4の分、上昇させる。
一方、画素信号Vpbが参照信号以下の場合、SARロジック回路1342は、MSBの次の桁を「1」にする。そして、SARロジック回路1342は、参照信号をVref/4の分、降下させる(図示省略)。
以下、同様の手順が、LSB(Least Significant Bit)まで継続される。これにより、アナログの画素信号Vpbが、デジタル信号DOUTにAD変換される。AD変換の終了時にSARロジック回路1342は、第1のデジタル信号DOUTを出力する。この第1のデジタル信号DOUTは、画素信号VpbをAD変換したデータ(すなわち、画素データ)を示す。
(1ビットAD変換)
次に、図4の右側に示すグラフを用いて、カラムADC134Aが、第2の期間において背景画像S0以外の差分画像(ここでは差分画像S1)の画素信号VpwをAD変換する場合について説明する。換言すると、カラムADC134Aが1ビットのAD変換を行う場合について説明する。
ここで、照射パターンP1の照射光を照射した場合、照射光が当たった領域を撮像した画素(以下、照射画素とも称する)の画素信号Vpwは、背景画像S0の画素信号Vpbより明るい値の信号になる。すなわち、照射画素の画素信号Vpwは、画素信号Vpbより小さくなる。なお、撮像画像S1の画素信号Vpwと背景画像S0の画素信号Vpbは、フレーム内で位置が対応する画素の画素信号である。
一方、照射光が当たっていない領域を撮像した画素(以下、無照射画素とも称する)の画素信号Vpwは、背景画像S0の画素信号Vpbと同じ値の信号になる。これは、背景画像S0が無照射パターンである照射パターンP0を照射したときの撮像画像であるためである。
そこで、カラムADC134Aは、差分画像S1の画素信号Vpwが背景画像S0の画素信号Vpbより小さいか否かを1ビット判定することで、差分画像S1のAD変換を行う。より具体的には、SARロジック回路1342が、背景画像S0の画素信号Vpbに応じた1ビット参照信号Vdacを設定し、比較器1341が、差分画像S1の画素信号Vpwと1ビット参照信号Vdacとを比較する。SARロジック回路1342は、比較結果に応じて1ビット(「0」又は「1」)の第2のデジタル信号を出力する。
ここで、1ビット参照信号Vdacは、画素信号Vpbに所定の値Mをマージンとして含めた値である。上述したように、無照射画素の画素信号Vpwは、背景画像S0の画素信号Vpbと同じ値となる。しかしながら、例えば環境光の変化等で、無照射画素の画素信号Vpwが背景画像S0の画素信号Vpbと同じ値にならない場合もある。そこで、SARロジック回路1342は、無照射画素を照射画素であると誤判定しない程度のマージンを含めて1ビット参照信号Vdacを設定する。
なお、SARロジック回路1342は、制御部140の参照信号設定部1402の制御に応じて1ビット参照信号Vdacを設定する。参照信号設定部1402は、SARロジック回路1342に1ビット参照信号Vdacの値を出力してもよく、背景画像S0の画素信号Vpbを出力するようにしてもよい。参照信号設定部1402が、画素信号Vpbを出力する場合、SARロジック回路1342は、画素信号Vpbに所定の値Mをマージンとして含めた1ビット参照信号Vdacを設定する。
このように、カラムADC134Aが、背景画像S0の画素信号Vpbに基づいた1ビット参照信号Vdacと差分画像S1の画素信号Vpwとを比較する。これにより、撮像装置100は、差分画像S1の各画素が、照射画素であるか無照射画素であるかを1ビット判定することができる。
上述したように、カラムADC134Aは、SAR型のADCであり、カラムごとに個別のDAC1343を有していることから、カラムごとに参照信号を変更することができる。一方、シングルスロープ積分型のADCは、各カラムでDACを共有しているため、カラムごとに参照信号を変更することが難しい。本実施形態に係る撮像装置100では、カラムごとに参照信号を変更することができるというSAR型のADCの特徴を利用することで、差分画像S1〜Snを1ビットAD変換することができ、差分画像S1〜Snを高速に取得することができる。
(読み出し動作)
次に、撮像装置100における画素信号の読み出し動作について説明する。図5は、本開示の第1実施形態に係る撮像装置100による画素信号の読み出しを模式的に示すタイミングチャートである。図5において横軸が時間を、縦軸が走査する画素111のアドレス(Vアドレス)を示す。
撮像装置100は、まず第1の期間T1で背景画像S0の撮像結果を読み出し、次の第2の期間T2で複数の異なる照射パターンP1〜Pnに対応する差分画像S1〜Snを読み出す。
まず、撮像装置100は、第1の期間T1で、例えば、全て「暗」の照射パターン、換言すると照射光を照射しない背景照射パターンP0を照射したときの画素信号を読み出す。このとき、撮像装置100は、参照信号を変更し(図4左側のグラフ参照)、10ビットの第1のデジタル信号を画素信号として読み出す。
次に、撮像装置100は、図5に示すように、第2の期間T2で照射パターンP1〜Pnの照射光が照射されたときの画素信号を順次読み出す。まず、第1の期間T1の次に照射パターンP1の照射光が照射されると、撮像装置100は、照射パターンP1に対応する差分画像S1を読み出す。次に、照射パターンP2の照射光が照射されると、撮像装置100は、照射パターンP2に対応する差分画像S2を読み出す。撮像装置100は、最後の照射パターンPnが照射されるまで繰り返し差分画像S3〜Snを読み出す。
このとき、撮像装置100は、図4の右側に示すように、背景画像S0に応じて設定された1ビット参照信号Vdacと各画素信号Vpwとの比較結果を差分画像S1〜Snとして読み出す。撮像装置100は、第1、第2の期間T1、T2を繰り返すことで、撮像画像S0〜Snを繰り返し読み出す。
このように、撮像装置100が1ビット参照信号Vdacを用いて差分画像S1〜Snを読み出すため、撮像装置100が各差分画像S1〜Snを読み出す時間は、背景画像S0を読み出す時間と比較して短くなる。すなわち、第1の期間T1では10ビット分の比較処理、すなわち、MSBからLSBまで10回の比較処理を行うのに対し、第2の期間T2では、1ビット分の比較処理、すなわち1回の比較処理で済む。そのため、単に比較処理の時間を考えた場合、各差分画像S1〜Snの処理時間は、それぞれ、背景画像S0の処理時間の1/10で済む。
したがって、測距に必要な撮像画像S0〜Snを撮像装置100が読み出す時間を、毎回10ビットでAD変換して読み出す場合に比べて大幅に短縮することができる。例えば、既存技術では照射パターンP1〜Pnに対応する画像を背景画像S0と同じ10ビットの撮像画像として読み出すため、10ビット分の比較処理をn回繰り返し行う必要がある。一方、本実施形態に係る撮像装置100では、照射パターンP1〜Pnに対応する差分画像S1〜Snを読み出す場合、1ビット分の比較処理をn回繰り返し行うだけで済み、撮像画像S0〜Snの読み出し処理を、既存技術に比べて高速に実行することができる。
<1.3.測距装置の全体制御部>
次に、本実施形態に係る測距装置1の全体制御部300の詳細について説明する。図6は、本開示の第1実施形態に係る測距装置1の構成例を示すブロック図である。
全体制御部300は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、測距装置1内部に記憶されたプログラムがRAM(Random Access Memory)等を作業領域として実行されることにより実現される。また、全体制御部300は、コントローラ(controller)であり、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されてもよい。
図6に示すように、全体制御部300は、タイミング制御部310、投影画像生成部320、データ取得部330及び信号処理部340を有し、以下に説明する情報処理の機能や作用を実現又は実行する。なお、全体制御部300の内部構成は、図6に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。なお、全体制御部300は、例えばNIC(Network Interface Card)等を用いて所定のネットワークと有線又は無線で接続し、ネットワークを介して、種々の情報を外部サーバ等から受信してもよい。
(タイミング制御部)
タイミング制御部310は、投影画像生成部320を制御して、プロジェクタ200から照射される照射光の照射パターンを制御する。また、タイミング制御部310は、プロジェクタ200及び撮像装置100を制御して、プロジェクタ200による照射光の照射タイミング及び撮像装置100による撮像画像S0〜Snの撮像タイミングを制御する。
図7は、本開示の第1実施形態に係るタイミング制御部310によるタイミング制御の一例を説明するための図である。
図7に示す例では、タイミング制御部310は、撮像装置100(図7のイメージセンサに相当する)を制御して、まず背景照射パターンP0での背景画像S0の撮像を実行する。上述したように、背景照射パターンP0は、プロジェクタ200を発光させない照射パターンであるため、投影画像生成部320及びプロジェクタ200は動作しない。タイミング制御部310は、プロジェクタ200が発光していない状態で、時刻t11から時刻t12の間に撮像装置100が背景光(照射パターンP0)を露光するよう制御する。
その後、タイミング制御部310は、時刻t12から時刻t13の間に、撮像装置100が背景画像S0のAD変換(ADC)を行うように、撮像装置100を制御する。なお、時刻t12から時刻t13の間に行われるAD変換は、複数ビット(10ビット)のAD変換である。
全ての画素111の画素信号に対してAD変換を行った撮像装置100は、時刻t13で、1ビットAD変換(1bitADC)でしきい値として使用する1ビット参照信号Vdacを算出する。
タイミング制御部310は、時刻t20で投影画像生成部320を制御し、次の照射パターン(図7では、照射パターンP1)のデータをプロジェクタ200に転送させる。なお、図7に示すように、時刻t20は、撮像装置100が背景画像S0のAD変換を行っている時刻t12から時刻t13の間であってもよい。これにより、撮像装置100による背景画像S0の撮像から次の差分画像S1の撮像までの撮像間隔を短くすることができる。
時刻t20で、投影画像生成部320が照射パターンP1のデータをプロジェクタ200に転送すると、タイミング制御部310は、時刻t21でプロジェクタ200を照射パターンP1で発光(照射)させる。また、タイミング制御部310は、同じタイミング(時刻t21)で撮像装置100に露光を行わせる。時刻t22で発光及び露光が終了すると、撮像装置100は、差分画像S1の1ビットAD変換を行う。
タイミング制御部310は、同様に、投影画像生成部320、プロジェクタ200及び撮像装置100を制御して、照射パターンP2〜Pnの照射及び対応する差分画像S2〜Snの撮像を行わせる。
このように、タイミング制御部310が各部のタイミング制御を行うことで、撮像装置100は、背景画像取得フェーズ(第1の期間に相当)で背景画像S0を取得するとともに、1ビットAD変換で使用する各画素111のしきい値(1ビット参照信号Vdac)を算出する。
また、差分画像取得フェーズ(第2の期間に相当)では、投影画像生成部320が照射パターンP1〜Pnを転送し、プロジェクタ200が転送された照射パターンで比較的短い時間発光する。撮像装置100は、プロジェクタ200の発光タイミングに合わせて露光し、露光が終了したら1ビットAD変換して、差分画像S1〜Snを出力する。
なお、図7では、照射パターンPnが所定の縞を有する投影画像とし、投影画像生成部320が照射パターンPnのデータをプロジェクタ200に転送しているが、これに限定されない。例えば、照射パターンPnが背景照射パターンP0と同じ無照射パターンであってもよい。この場合、投影画像生成部320による照射パターンPnのデータ転送及びプロジェクタ200の照射パターンPnでの発光を省略することができ、タイミング制御部310は、プロジェクタ200が発光していない状態で撮像装置100が露光を行うように制御する。なお、この場合の差分画像Snは、距離算出における信頼度の設定に用いられる。信頼度の設定については後述する。
(投影画像生成部)
図6に戻る。投影画像生成部320は、タイミング制御部310の制御に従い、例えば記憶部400が記憶する照射パターンのデータをプロジェクタ200に転送する。ここでは、投影画像生成部320が生成する投影画像(照射パターン)として、非特許文献1に開示されている照射パターンを適用した場合について説明する。
図8及び図9は、本開示の第1実施形態に係る投影画像生成部320が転送する照射パターンの一例を説明するための図である。
投影画像生成部320は、照射パターンP1〜Pn−1をプロジェクタ200に転送する。図8では、投影画像生成部320は、照射パターンP1〜P5をプロジェクタ200に転送する。
図8に示すように、照射パターンP1は、左側が黒色(暗)、右側が白色(明)の2色のパターン画像である。照射パターンP2は、黒色の縦縞2本と白色の縦縞2本が交互に並んだパターンである。照射パターンPmは、黒色の縦縞2(m−1)本と白色の縦縞2(m−1)本が交互に並んだパターンとなる。
このように、照射パターンP1〜Pn−1は、バイナリーコーディングされたパターン画像である。図9に示すように、照射パターンP1〜Pnは、黒色の縞を「0」、白色の縞を「1」とすると、パターン画像の左側から順に「00000」、「00001」・・・とコーディングされている。なお、図9では、照射パターンP1〜Pn−1を縦方向に並べたものであり、図9の下向き矢印が時間を、横向き矢印が黒色及び白色の水平空間分布を示している。図9では、左側が最下位ビット(LSB)となり、右側が最上位ビット(MSB)となる。
このように、バイナリーコードは、各照射パターンの横方向において各縞と対応付けられており、換言すると、照射パターンは、横方向においてプロジェクタ200による光の照射角度ごとにバイナリーコーディングされていると言える。
なお、ここでは、投影画像生成部320は、例えば最後の照射パターンPnとして、背景照射パターンP0と同じ照射パターンのデータを転送するものとする。この場合、照射パターンP0、Pnは、全てが黒色の遮光パターン(投影画像)となる。この場合、照射パターンPnに対応する差分画像Snは、信号処理部340による信頼度設定に使用される。信頼度設定についての詳細は後述する。
なお、図8、図9に示す照射パターンは一例であり、これに限定されない。撮像画像S0〜Snに対応する画素を識別できるようにバイナリーコーディングが施されたパターンであればよく、例えば縦縞ではなく横縞の明暗パターンであってもよい。
(データ取得部)
図6に戻る。データ取得部330は、撮像装置100が撮像した背景画像S0及び差分画像S1〜Snを取得する。データ取得部330は、背景画像S0及び差分画像S1〜Snと、各画像を撮像したタイミング情報(Frame ID)を取得する。データ取得部330は、取得した背景画像S0、差分画像S1〜Sn及びタイミング情報を信号処理部340に出力する。データ取得部330は、例えば背景画像S0、差分画像S1〜Snを記憶するフレームバッファであってもよい。
(信号処理部)
信号処理部340は、データ取得部330が取得した撮像画像S0〜Sn及びキャリブレーション情報に基づき、被測定物obまでの距離(デプス)及び当該距離の信頼度を算出する。キャリブレーション情報とは、例えば撮像装置100及びプロジェクタ200の光学系、幾何学位置に相当する情報であり、事前にキャリブレーションによって取得されている情報である。キャリブレーション情報は、例えば記憶部400に予め記憶されているものとする。
図10は、本開示の第1実施形態に係る信号処理部340の構成例を示すブロック図である。信号処理部340は、コード統合部341、信頼度生成部342及びデプス推定部343を有する。
図10に示すように、データ取得部330は、撮像装置100から撮像画像S0〜Snを入力画像として取得すると、背景画像である撮像画像S0及び差分画像Snを信頼度生成部342に出力する。また、データ取得部330は、差分画像S1〜Sn−1をコード統合部341に出力する。
(コード統合部)
コード統合部341は、差分画像S1〜Sn−1の各画素の値を1つのコードに統合する。差分画像S1〜Sn−1の各画素は、撮像装置100で1ビットAD変換されており、照射画素は「1」、無照射画素は「0」で表されている。そのため、例えば差分画像S1〜Sn−1の対応する画素が全て無照射画素である場合、コード統合部341は、当該画素の値を「00・・・0」に統合する。コード統合部341は、差分画像S1〜Sn−1を統合してn−1ビットの画素値を有する画像(以下、統合画像とも称する)を生成する生成部であるともいえる。
なお、既存技術の測距装置では、所定の照射パターンに対応する撮像画像として、撮像装置は10ビットの画素値を有する撮像画像を出力していた。そのため、既存技術のコード統合部は撮像画像の各画素が照射画素であるか無照射画素であるかをしきい値判定する必要があった。
しかしながら、本実施形態にかかる撮像装置100は、撮像画像の各画素が照射画素であるか無照射画素であるかをしきい値(1ビット参照信号)で判定し、その結果を差分画像S1〜Sn−1として出力する。そのため、本実施形態にかかるコード統合部341は、撮像画像S1〜Sn−1のしきい値処理を省略することができ、符号の統合を行えばよい。
(信頼度生成部)
信頼度生成部342は、コード統合部341が生成した統合画像の各画素の信頼度を算出する。上述したように、既存技術の測距装置では、コード統合部で各画素の明暗をしきい値判定していた。そのため、画素値がしきい値付近の値であり、しきい値判定が難しい画素の場合、コード統合部が当該画素の信頼度を低くすることで、不確定なデプスの算出を行わないようにすることができた。
一方、本実施形態では、各画素の明暗のしきい値判定(1ビットAD変換)は撮像装置100が行い、コード統合部341では行わない。そこで、本実施形態では、信頼度生成部342が、撮像画像S0〜Snに基づき、各画素の信頼度を算出するものとする。なお、信頼度生成部342は、コード統合部341が生成した統合画像及び算出した信頼度をデプス推定部343に出力する。
(信頼度算出例1)
図11は、本開示の第1実施形態に係る信頼度生成部342による信頼度算出を説明するための図である。信頼度生成部342は、背景画像S0の輝度値に応じて統合がその各画素における信頼度を算出する。
背景画像S0を撮像した時の背景照射パターンP0は、光を照射しない無照射パターンであるが、例えば環境光が強い場合など、無照射パターンであっても画素111が蓄積する電荷が飽和してしまう場合がある。この場合、撮像装置100は、その後の差分画像S1〜Sn時に照射光が当たったか否か、換言するとパターン照射の有無を正常に判定することができない。
そこで、信頼度生成部342は、背景画像S0の各画素の輝度値(以下、背景輝度値とも称する)をしきい値と比較し、比較結果に応じて信頼度を算出する。より具体的に、信頼度生成部342は、背景輝度値が、電荷が飽和した場合の輝度値(以下、飽和値とも称する)に近いほど、値が低くなるように信頼度を設定する。例えば、図11の例では、信頼度生成部342は、背景輝度値が第1しきい値Th01以上、第2しきい値Th02未満である場合、対応する画素の信頼度を背景輝度値が大きくなるにつれて値が小さくなるように設定する。信頼度生成部342は、背景輝度値が第2しきい値Th02以上である場合、信頼度を最も低い値(例えばゼロ)に設定する。なお、第2しきい値Th02は、飽和値付近の値に設定することが望ましい。
(信頼度算出例2)
次に、信頼度生成部342による信頼度算出の他の例を説明する。プロジェクタ200が光を照射したとしても、プロジェクタ200から被測定物obまでの距離が遠くなると、当該被測定物obでの反射光の輝度が小さくなる。そのため、プロジェクタ200が光を照射している位置であっても、画素信号がカラムADC134Aのしきい値(1ビット参照信号)を超えず、1ビットAD変換の結果が「0」(暗)となってしまう場合がある。
そこで、信頼度生成部342は、差分画像S1〜Sn−1の各画素の輝度値が、いずれの差分画像S1〜Sn−1でも「0」になっている場合、当該画素の信頼度を最も低い値(例えばゼロ)に設定する。この場合、投影画像生成部320が、照射パターンP1〜Pn−1の1つとして例えば全て白色の照射パターン(全照射パターン)を照射するようにしてもよい。
(信頼度算出例3)
本実施形態に係る撮像装置100は、撮像画像S0〜Snを高速に撮像することができるため、測距装置1は、被測定物obがある程度動いたとしても被測定物obまでの距離を精度よく算出することができる。しかしながら、例えば被測定物obの動きが高速の場合などは、距離算出(センシング)が破綻してしまうことがある。そこで、信頼度生成部342は、被測定物obが大きく動いた箇所(画素)の信頼度を低く設定する。
上述したように、照射パターンPnは、背景(無照射)照射パターンP0と同じ照射パターンである。そのため、背景照射パターンP0照射時と、照射パターンPn照射時で被測定物obに変化がない場合、差分画像Snの各画素の輝度値は、全て「0」となる。一方、被測定物obが動いた場合など、被測定物obに変化があった場合、差分画像Snの変化があった箇所の輝度値は、「1」に変化する。そこで、信頼度生成部342は、差分画像Snの輝度値が「1」である画素の信頼度を低く、例えば最も低い値(ゼロ)に設定する。
なお、信頼度生成部342は、信頼度算出例1〜3で述べた各信頼度を画素ごとにそれぞれ算出してもよく、画素ごとに1つの信頼度を算出するようにしてもよい。画素ごとに1つの信頼度を算出する場合、信頼度算出例1〜3の中の1つを算出してもよい。あるいは、信頼度算出例1〜3に応じて算出した値を加算することで、画素ごとに1つの信頼度を算出するようにしてもよい。
また、上述した信頼度算出例は一例であり、信頼度生成部342が上述した信頼度算出例以外の方法で信頼度を算出するようにしてもよい。
(デプス推定部)
図10に戻る。デプス推定部343は、統合画像に基づいて、被測定物obまでの距離(デプス)を推定する。上述したように、プロジェクタ200の照射パターンP1〜Pn−1は、照射角度ごとにバイナリコーディングされている。そのため、デプス推定部343は、統合画像の各画素値をデコードすることで、各画素とプロジェクタ200の照射角度を紐付けることができる。
デプス推定部343は、各画素におけるプロジェクタ200の照射角度と、事前にキャリブレーションによって取得した撮像装置100の内部/外部パラメータ(上述のキャリブレーション情報に相当)と、を使用して被測定物obまでの距離(奥行き情報)を取得する。
図12に示すように、プロジェクタ200(図12のLightに相当)から被測定物ob(図12のObjectに相当)に光を照射したときの照射角をθ、撮像装置100(図12のCameraに相当)から被測定物obを見たときの観測角をθとする。キャリブレーション情報として、プロジェクタ200と撮像装置100との間の距離bが与えられたとすると、デプス推定部343は、以下の式(1)に従って奥行きZを算出する。
Figure 2021124323
なお、図12は、本開示の第1実施形態に係るデプス推定部343による奥行きの算出方法を説明するための図である。
図10に戻る。デプス推定部343は、算出した奥行きZを出力デプスとして出力する。また、デプス推定部343は、信頼度生成部342が設定した信頼度を、算出した奥行きZと対応させて出力信頼度として出力する。
<1.4.測距装置の動作例>
図13は、本開示の第1実施形態に係る測距装置1の概略動作例を示すフローチャートである。なお、測距装置1は、被測定物obの距離を測定している間、図13に示す動作を繰り返し実行するものとする。
図13に示すように、測距装置1は、背景画像S0を取得する(ステップS101)。より具体的には、測距装置1は、プロジェクタ200を発光させない背景照射パターンP0で10ビットの輝度値を有する背景画像S0を取得する。
次に、測距装置1は、取得した背景画像S0に基づき、撮像装置100のカラムADC134Aの参照信号として1ビット参照信号Vdacを設定する(ステップS102)。
測距装置1は、照射パターンを変更してプロジェクタ200を発光させ(ステップS103)、1ビットの差分画像を取得する(ステップS104)。測距装置1は、照射パターンP1〜Pn−1の全ての照射パターンを照射したか否かを判定する(ステップS105)。全ての照射パターンを照射していない場合(ステップS105;No)、ステップS103に戻る。
全ての照射パターンを照射していた場合(ステップS105;Yes)、測距装置1は、背景画像S0と同じ照射パターンPn(背景パターン)における差分画像Snを取得する(ステップS106)。
測距装置1は、取得した差分画像S1〜Sn−1を統合して統合画像を生成する(ステップS107)。続いて、測距装置1は、撮像画像S0〜Snに基づき、各画素の信頼度を設定する(ステップS108)。測距装置1は、統合画像に基づき、各画素のデプスを推定する(ステップS109)。
以上のように、本実施形態に係る測距装置1は、背景画像S0を取得した後、1ビットの差分画像S1〜Snを取得する。そのため、測距装置1は、距離算出に必要な撮像画像を取得する時間を大幅に短縮することができる。
例えば、10ビットの撮像画像を取得するために、120FPS(Frame per Second)の時間が必要であるとする。また、測距装置1が距離算出のために、背景以外に10枚の撮像画像を取得するものとする。
この場合、既存技術の測距装置が、背景以外の撮像画像として10ビットの撮像画像を取得すると、背景画像と合わせて11枚の撮像画像を取得するためには11FPS相当の時間がかかる。そのため、既存技術の測距装置が最初の背景画像を取得してから最後の撮像画像を取得するまでの間に被測定物ob又は撮像装置が動いてしまう可能性が高く、高精度に距離を算出することが難しい。また、既存技術の測距装置は、撮像画像を取得する時間が長いため、距離の算出時間を短縮することが難しい。
一方、本実施形態に係る測距装置1は、上述したように、背景画像S0を取得した後、1ビットの差分画像S1〜Snを取得する。そのため、背景画像以外の画像を取得する時間を10分の1程度(例えば1059FPS程度)まで短縮することができる。そのため、背景画像と合わせて11枚の撮像画像を取得したとしても、測距装置1は、60FPS相当の時間で取得することができる。そのため、測距装置1が最初の背景画像を取得してから最後の撮像画像を取得するまでの間に被測定物ob又は撮像装置100が動いてしまう可能性が低く、高精度に距離を算出することができる。また、測距装置1による距離算出の時間を大幅に短縮することができるようになる。
<2.第2実施形態>
上記第1実施形態では、測距装置1が被測定物obまでの距離を測定する場合を示した。上記例以外にも、測距装置1が、距離測定に加え、RGB撮像画像を取得するようにしてもよい。そこで、第2実施形態では、測距装置1が、被測定物obまでの距離測定に加え、RGB撮像画像を取得する例について説明する。
図14は、本開示の第2実施形態に係る撮像装置100の画素111配置の一例を示す図である。図14に示すように、本実施形態に係る撮像装置100の画素111は、R(赤色)、G(緑色)及びB(青色)の光を受光する通常画素と、例えば赤外光(IR)を受光する赤外光(IR)画素と、を含む。
通常画素は、光電変換部(図示省略)の受光面に積層されるRフィルタ、Gフィルタ及びBフィルタのいずれか1つのカラーフィルタを備える。通常画素は、画素アレイ部110において、例えばベイヤー配列を構成する。以下においては、Gフィルタが積層された通常画素を画素G、Rフィルタが積層された通常画素を画素R、Bフィルタが積層された通常画素を画素Bとして説明する。
赤外光画素は、光電変換部の受光面に赤外光、すなわち赤外領域の波長の光を受光可能な赤外フィルタが積層されている。赤外光画素は、所定の画素行に所定の間隔で配置される。例えば、赤外光画素は、所定の画素行においてG画素と交互に配置される。あるいは、図15に示すように、所定の画素行における通常画素のベイヤー配列の画素Gに相当する位置であって、同じ行の画素Bと隣接する位置に順次配置されてもよい。なお、図15は、本開示の第2実施形態に係る撮像装置100の画素111配置の他の例を示す図である。
このように、本実施形態に係る撮像装置100は、RGB画像を撮像するための通常画素と、距離測定用の画像を撮像するための赤外光画素を有する。なお、本実施形態では、プロジェクタ200は、照射光として赤外光を発光するものとする。
次に、本実施形態に係る撮像装置100における画素信号の読み出し動作について説明する。図16は、本開示の第2実施形態に係る撮像装置100による画素信号の読み出しを模式的に示すタイミングチャートである。図16において横軸が時間を、縦軸が走査する画素111の垂直方向のアドレス(Vアドレス)を示す。
本実施形態に係る撮像装置100は、RGB撮像画像を撮像してからデプス算出のための撮像画像S0〜Snを撮像する。
図16に示すように、撮像装置100は、まず時刻t31においてRGB撮像のための露光(RGB撮像用Shutter)を開始する。すなわち、撮像装置100は、通常画素の露光を開始する。次に、撮像装置100は、時刻t32においてデプス算出用の背景撮像のための露光(IR画像 背景光取得用Shutter)を開始する。すなわち、撮像装置100は、赤外光画素の露光を開始する。
時刻t33に、撮像装置100は、通常画素の読み出し(RGB画像用Read)及び赤外光画素の読み出し(IR背景光用Read)を実行する。
このとき、撮像装置100は、例えば通常画素によるRGB撮像の中で、画素111やカラムADC134Aの特性バラツキによるオフセット成分やP相信号成分及びCDS(Correlated Double Sampling:相関二重サンプリング)を取得する。撮像装置100は、その後の赤外光画素によるデプス算出用の画像撮像時の信号成分を、当該撮像の露光時間で割り戻しつつ、当該信号成分にRGB撮像の中で取得したオフセット成分を加えて背景画像S0を取得する。撮像装置100は、取得した背景画像S0をビット圧縮してフレーム単位でフレームメモリ1403(図3参照)に保存する
撮像装置100は、時刻t34に、デプス算出に使用する差分画像S1〜Snを取得するため、所定の照射パターン時の露光(Depth撮像用Shutter)、及び、1ビットの差分画像S1〜Snの読み出し(Depth撮像用Read)を実行する。かかる露光と読み出しは、時刻t35で、次のRGB撮像のための露光が開始されるまで繰り返し実行される。時刻t35以降は、時刻t31以降と同様にしてRGB画像の撮像と、デプス算出用の撮像画像S1〜Snの撮像が繰り返し行われる。
上述したように、撮像装置100は、デプス算出用の撮像画像S0〜Snを高速に出力することができる。そのため、RGB画像とデプス算出用の撮像画像S0〜Snとを同じ撮像装置100で撮像することができる。
なお、ここでは、撮像装置100が、RGB画像とデプス算出用の撮像画像S0〜Snとを順番に撮像する場合について説明したが、これに限定されない。例えば、撮像装置100が、RGB画像とデプス算出用の撮像画像S0〜Snとを同時に撮像するようにしてもよい。かかる点について図17を用いて説明する。図17は、本開示の第2実施形態に係る撮像装置100の撮像タイミングの他の例を説明するための図である。
図17に示すように撮像装置100は、通常画素でRGB画像を撮像し、このRGB画像の撮像と並列的に、赤外光画素でデプス算出用の撮像画像S0〜Snを撮像する(図17では、n=8)。換言すると、撮像装置100は、背景画像S0を取得する第1の期間及び差分画像S1〜S8を取得する第2の期間を合わせた第4の期間でRGB画像を取得する。
撮像装置100は、赤外光画素による撮像において、最初の背景画像S0を10ビットで撮像する。RGB画像の撮像は、背景画像S0の撮像と同様のシーケンスで実行される。背景画像S0の撮像の後、差分画像S1〜S8を1ビットで撮像(しきい値で明暗判定)する。撮像装置100は、RGB画像及びデプス算出用の撮像画像S0〜S8の撮像を、例えば1/30秒単位で繰り返し実行する。
このように、撮像装置100がRGB画像及びデプス算出用の撮像画像S0〜Snの撮像を同時に行うことで、同一フレームでRGB画像及び奥行き情報を同時に取得することができる。
<3.第3実施形態>
上記第1実施形態では、背景画像S0の画素信号に基づき、全ての画素111で同時に1ビット参照信号Vdac(しきい値)を設定する場合を示した。上記例以外にも、隣接する画素111の画素信号に基づいて、1ビット参照信号Vdacを設定するようにしてもよい。そこで、第3実施形態では、撮像装置100が隣接する画素111の画素信号に基づいて、1ビット参照信号Vdacを設定する場合について説明する。
なお、本実施形態では、図18に示すように、撮像装置100の画素111が全て赤外光画素であるものとして説明する。また、以下では、隣接する2つの画素を第1画素Px1、第2画素Px2と記載する。なお、図18は、本開示の第3実施形態に係る撮像装置100の画素111配置の一例を示す図である。
図18に示すように、第1画素Px1と第2画素Px2とは市松模様状に配置される。すなわち、第1画素Px1同士、及び、第2画素Px2同士がそれぞれ隣接しないように配置される。これにより、隣接する第1画素Px1と第2画素Px2とで略同一の画像を取得していると見なすことができる。
図19は、本開示の第3実施形態に係る撮像装置100の撮像タイミングの一例を説明するための図である。
図19に示すように、撮像装置100は、期間T51において、第1画素Px1で背景画像S0の撮像を行い、第2画素Px2で差分画像S1〜Sn(図19ではn=8)の撮像を行う。撮像装置100は、第1画素Px1での背景画像S0の撮像が終わると、第1画素Px1での画素信号に基づき、第2画素Px2に対応する1ビット参照信号Vdac(しきい値)を設定する。
撮像装置100は、次の期間T52において、第1画素Px1で背景画像S0の撮像を行い、第2画素Px2では、期間T51と期間T52との間で設定した1ビット参照信号Vdacを使用して差分画像S1〜S8の撮像を行う。
このように、撮像装置100は、背景画像を撮像するための第1画素Px1と差分画像を撮像するための第2画素Px2とを分けて、各画像を撮像する。すなわち、第1画素Px1は、背景画像S0を撮像するための画素であり、第2画素Px2は、差分画像S1〜S8を撮像するための画素である。撮像装置100は、第1画素Px1の画素信号に基づき、隣接する第2画素Px2に対応する1ビット参照信号Vdacを設定する。撮像装置100は、隣接する第1画素Px1、第2画素Px2を組として、組ごとに奥行き情報を算出する。
これにより、距離算出に必要な差分画像S1〜Snの取得時間を、同じ画素で背景画像S0及び差分画像S1〜Snを取得する場合と比べて約1/2に短縮することができる。
なお、図20では、隣接する画素111の画素信号に基づき、1ビット参照信号Vdacを設定したが、上記例以外にも、隣接する第1、第2画素Px1、Px2で1ビット参照信号Vdacを設定するタイミングをずらすようにしてもよい。
図20に示すように、撮像装置100は、期間T41において、第1画素Px1で背景画像の撮像を行い、第2画素Px2で差分画像の撮像を行う。撮像装置100は、第1画素Px1での背景画像の撮像が終わると、第1画素Px1に対応する1ビット参照信号Vdac(しきい値)を設定する。
撮像装置100は、次の期間T42において、第1画素Px1では、設定した1ビット参照信号Vdacを使用した差分画像の撮像を行い、第2画素Px2では背景画像の撮像を行う。撮像装置100は、第2画素Px2での背景画像の撮像が終わると、第2画素Px2に対応する1ビット参照信号Vdac(しきい値)を設定する。撮像装置100は、次の期間T43において、第1画素Px1では背景画像の撮像を行い、第2画素Px2では、設定した1ビット参照信号Vdacを使用した差分画像の撮像を行う。
なお、図20は、本開示の第3実施形態に係る撮像装置100の撮像タイミングの他の例を説明するための図である。
このように、本実施形態に係る撮像装置100は、隣接する第1、第2画素Px1、Px2で1ビット参照信号Vdacを設定するタイミングをずらす。これにより、撮像装置100は、同じタイミングで1ビット参照信号Vdacを設定するタイミングが同じ場合に比べて、撮像時間をより短縮することができる。
なお、図19、図20の例では、プロジェクタ200は、各期間の最初で背景照射パターンP0の照射を行い、続いて照射パターンP1〜Pnの照射を行う。即ち、撮像装置100は、背景照射パターンP0の照射と同期して露光を行った後に10ビットのAD変換を行うが、かかる10ビットのAD変換と並行して照射パターンP1〜Pnと同期した露光及び1ビットのAD変換を行う。これにより、10ビットのAD変換と1ビットのAD変換をそれぞれ異なる第1、第2の期間で行う場合に比べて撮像画像S0〜Snの取得時間をより短縮することができる。
<4.第4実施形態>
上記第1実施形態では、測距装置1が、背景照射パターンP0と同じ照射パターンである照射パターンPnに対応する差分画像Snに基づき、信頼度を設定する場合を示した。上記例以外にも、測距装置1が、背景画像S0の差分に基づき信頼度を設定してもよい。そこで、第4実施形態では、測距装置1が、背景画像S0の差分に基づき信頼度を設定する例について説明する。
図21は、本開示の第4実施形態に係る信頼度生成部342による信頼度算出について説明するための図である。
図21に示すように、撮像装置100は、背景画像S0及び差分画像S1〜Sn−1を繰り返し撮像する。なお、本実施形態では、測距装置1は、照射パターンPnでの照射及び差分画像Snの撮像を省略するものとする。
この場合、信頼度生成部342は、1つ前のタイミングで取得した背景画像S0_1と、今回取得した背景画像S0_2の差分を算出し、差分の絶対値を各画素の画素値(差分絶対値輝度値)とする差分絶対値画像を算出する。
信頼度生成部342は、算出した差分絶対値輝度値をしきい値判定し、判定結果に応じた信頼度を設定する。図22は、本開示の第4実施形態に係る信頼度生成部342による信頼度算出について説明するための図である。図22に示すように、信頼度生成部342は、差分絶対値輝度値が第3しきい値Th11以上第4しきい値Th12未満である場合、差分絶対値輝度値が大きくなるほど信頼度が低くなるように、信頼度を設定する。また、信頼度生成部342は、差分絶対値輝度値が第4しきい値Th12以上である場合、信頼度が最も低く(例えば、信頼度がゼロに)なるように設定する。
このように、信頼度生成部342が、背景画像S0の差分に基づいて被測定物obに変化があったか否かを判定し、判定結果に応じて信頼度を設定する。
<5.その他の実施形態>
上述の第1〜第4実施形態では、背景照射パターンP0と同じ照射パターンを複数の照射パターンP1〜Pnの最後に1回照射するとした。すなわち、照射パターンPnが背景照射パターンP0と同じ照射パターンであるとした。しかしながら、背景照射パターンP0と同じ照射パターンの照射は、最後でなくてもよく、また複数回であってもよい。例えば、複数の照射パターンP1〜Pnのうち所定回数ごとに背景パターンと同じ照射パターンの照射を行ってもよい。これにより、被測定物obが高速に動いたか否かをより詳細に検出することができ、信頼度生成部342による信頼度算出の精度を向上させることができる。
また、上述の第1〜第4実施形態では、撮像装置100の制御部140がフレームメモリ1403にビット圧縮した背景画像S0を記憶するとしたが、これに限定されない。例えば、制御部140が、画素ごとに設定する1ビット参照信号Vdacの値をフレームメモリ1403に記憶するようにしてもよい。この場合、制御部140の参照信号設定部1402は、フレームメモリ1403が記憶する1ビット参照信号VdacをSARロジック回路1342に出力する。
また、上述の第1〜第4実施形態では、背景照射パターンP0が無照射(全て黒色)の照射パターンであるとしたが、これに限定されない。背景照射パターンP0は規定の照射パターンであればよく、例えば全て明るい全照射パターンであってもよい。この場合、最後の照射パターンPnは、背景照射パターンP0と同じ照射パターンとなるため、全照射パターンとなる。
また、上述の第1〜第4実施形態では、測距装置1のタイミング制御部310が撮像装置100の撮像タイミングやプロジェクタ200の投影タイミング等を制御するとしたがこれに限定されない。例えばタイミング制御部310を撮像装置100が備える構成にしてもよい。この場合、タイミング制御部310は、各部のタイミングを制御する制御信号を生成し、撮像装置100の外部に出力する。
<6.補足>
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
上記各実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部又は一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部又は一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。
また、上述してきた各実施形態及び変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
また、本明細書に記載された効果は、あくまで説明的又は例示的なものであって限定的ではない。つまり、本開示にかかる技術は、上記の効果とともに、又は上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
光を受光して画素信号を出力する受光部と、
第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影する光源部と、
前記画素信号に対して二分探索によりビット単位で逐次に変換を行い、前記第1の期間に第1のビット数の変換を行って第1のデジタル信号を出力し、前記第2の期間に前記第1のビット数より少ない第2のビット数で変換を行って第2のデジタル信号を出力する変換部と、
前記第1のデジタル信号と、前記第2のデジタル信号と、に基づき距離を算出する算出部と、
を備える測距装置。
(2)
前記第2のビット数は1ビットである、(1)に記載の測距装置。
(3)
前記第1のビット数は、前記変換部で変換可能な最大ビット数である、(1)又は(2)に記載の測距装置。
(4)
前記変換部は、前記第2の期間に、前記第1のデジタル信号に応じたしきい値で前記二分探索を行って前記第2のデジタル信号を出力する、(1)〜(3)のいずれか1つに記載の測距装置。
(5)
前記光源部は、前記第2の期間に、照射パターンが互いに異なる複数の前記第2の照射パターンで前記光を投影し、
前記変換部は、前記第2の期間に、複数の前記第2の照射パターンにそれぞれ対応する前記画素信号を前記しきい値で前記二分探索を行って、複数の前記第2のデジタル信号を出力する、(1)〜(4)のいずれか1つに記載の測距装置。
(6)
前記算出部は、複数の前記第2のデジタル信号を統合して前記距離を算出する、(5)に記載の測距装置。
(7)
前記算出部は、前記第1のデジタル信号の値が前記受光部の飽和領域の値に近いほど算出した前記距離の信頼度を低く設定する、(6)に記載の測距装置。
(8)
前記算出部は、複数の前記第2のデジタル信号の値が同じ値であった場合、該値が異なる場合と比べて前記距離の信頼度を低く設定する、(6)又は(7)に記載の測距装置。
(9)
前記光源部は、前記第2の期間で前記第1の照射パターンと同じ照射パターンである第3の照射パターンで前記光を投影し、
前記変換部は、前記第3の照射パターンに対応する画素信号に対して前記第2のビット数の変換を行って第3のデジタル信号を出力し、
前記算出部は、前記第3のデジタル信号に基づき、前記距離の信頼度を設定する、
(6)〜(8)のいずれか1つに記載の測距装置。
(10)
前記算出部は、複数の前記第1のデジタル信号の差分を算出し、該差分に基づいて前記距離の信頼度を設定する、(6)〜(9)のいずれか1つに記載の測距装置。
(11)
前記受光部は、
所定の色の検出に用いるカラー画素と、赤外光の検出に用いるIR画素と、を含み、
前記変換部は、
前記カラー画素が出力するカラー画素信号及び前記第1の期間に前記IR画素が出力する第1のIR画素信号を前記第1のビット数で変換し、前記第2の期間に前記IR画素が出力する第2のIR画素信号を前記第2のビット数で変換する、
(1)〜(10)のいずれか1つに記載の測距装置。
(12)
前記変換部は、前記カラー画素信号の変換と、前記第1のIR画素信号及び前記第2のIR画素信号の変換とを異なる時間に行う、(11)に記載の測距装置。
(13)
前記変換部は、前記第1の期間及び前記第2の期間を含む第4の期間に、前記カラー画素信号の変換行う、(11)に記載の測距装置。
(14)
前記受光部は、前記光を受光して前記画素信号をそれぞれ出力する第1の画素及び第2の画素を含み、
前記第1の画素が出力する前記画素信号を前記変換部が前記第1のビット数で変換する前記第1の期間と、前記第2の画素が出力する前記画素信号を前記変換部が前記第1のビット数で変換する前記第1の期間とが異なる、
(1)〜(13)のいずれか1つに記載の測距装置。
(15)
前記変換部は、前記第1の画素が出力する前記画素信号を前記第1のビット数で変換した前記第1のデジタル信号に応じたしきい値で、前記第2の画素が出力する前記画素信号を前記二分探索して前記第2のデジタル信号を出力する、(14)に記載の測距装置。
(16)
前記受光部は、前記光源部による前記投影と同期して前記光を受光する、(1)〜(15)のいずれか1つに記載の測距装置。
(17)
光を受光して画素信号を出力することと、
第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影することと、
前記画素信号に対して二分探索によりビット単位で逐次に変換を行い、前記第1の期間に第1のビット数の変換を行って第1のデジタル信号を出力し、前記第2の期間に前記第1のビット数より少ない第2のビット数で変換を行って第2のデジタル信号を出力することと、
前記第1のデジタル信号と、前記第2のデジタル信号と、に基づき距離を算出することと、
を含む測距方法。
1 測距装置
100 撮像装置
200 プロジェクタ
300 全体制御部
400 記憶部
140 制御部
111 画素(撮像素子)
110 画素アレイ部
134A カラムADC
310 タイミング制御部
320 投影画像生成部
330 データ取得部
340 信号処理部

Claims (17)

  1. 光を受光して画素信号を出力する受光部と、
    第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影する光源部と、
    前記画素信号に対して二分探索によりビット単位で逐次に変換を行い、前記第1の期間に第1のビット数の変換を行って第1のデジタル信号を出力し、前記第2の期間に前記第1のビット数より少ない第2のビット数で変換を行って第2のデジタル信号を出力する変換部と、
    前記第1のデジタル信号と、前記第2のデジタル信号と、に基づき距離を算出する算出部と、
    を備える測距装置。
  2. 前記第2のビット数は1ビットである、請求項1に記載の測距装置。
  3. 前記第1のビット数は、前記変換部で変換可能な最大ビット数である、請求項1に記載の測距装置。
  4. 前記変換部は、前記第2の期間に、前記第1のデジタル信号に応じたしきい値で前記二分探索を行って前記第2のデジタル信号を出力する、請求項1に記載の測距装置。
  5. 前記光源部は、前記第2の期間に、照射パターンが互いに異なる複数の前記第2の照射パターンで前記光を投影し、
    前記変換部は、前記第2の期間に、複数の前記第2の照射パターンにそれぞれ対応する前記画素信号を前記しきい値で前記二分探索を行って、複数の前記第2のデジタル信号を出力する、請求項4に記載の測距装置。
  6. 前記算出部は、複数の前記第2のデジタル信号を統合して前記距離を算出する、請求項5に記載の測距装置。
  7. 前記算出部は、前記第1のデジタル信号の値が前記受光部の飽和領域の値に近いほど算出した前記距離の信頼度を低く設定する、請求項6に記載の測距装置。
  8. 前記算出部は、複数の前記第2のデジタル信号の値が同じ値であった場合、該値が異なる場合と比べて前記距離の信頼度を低く設定する、請求項6に記載の測距装置。
  9. 前記光源部は、前記第2の期間で前記第1の照射パターンと同じ照射パターンである第3の照射パターンで前記光を投影し、
    前記変換部は、前記第3の照射パターンに対応する画素信号に対して前記第2のビット数の変換を行って第3のデジタル信号を出力し、
    前記算出部は、前記第3のデジタル信号に基づき、前記距離の信頼度を設定する、
    請求項6に記載の測距装置。
  10. 前記算出部は、複数の前記第1のデジタル信号の差分を算出し、該差分に基づいて前記距離の信頼度を設定する、請求項6に記載の測距装置。
  11. 前記受光部は、
    所定の色の検出に用いるカラー画素と、赤外光の検出に用いるIR画素と、を含み、
    前記変換部は、
    前記カラー画素が出力するカラー画素信号及び前記第1の期間に前記IR画素が出力する第1のIR画素信号を前記第1のビット数で変換し、前記第2の期間に前記IR画素が出力する第2のIR画素信号を前記第2のビット数で変換する、
    請求項1に記載の測距装置。
  12. 前記変換部は、前記カラー画素信号の変換と、前記第1のIR画素信号及び前記第2のIR画素信号の変換とを異なる時間に行う、請求項11に記載の測距装置。
  13. 前記変換部は、前記第1の期間及び前記第2の期間を含む第4の期間に、前記カラー画素信号の変換行う、請求項11に記載の測距装置。
  14. 前記受光部は、前記光を受光して前記画素信号をそれぞれ出力する第1の画素及び第2の画素を含み、
    前記第1の画素が出力する前記画素信号を前記変換部が前記第1のビット数で変換する前記第1の期間と、前記第2の画素が出力する前記画素信号を前記変換部が前記第1のビット数で変換する前記第1の期間とが異なる、
    請求項1に記載の測距装置。
  15. 前記変換部は、前記第1の画素が出力する前記画素信号を前記第1のビット数で変換した前記第1のデジタル信号に応じたしきい値で、前記第2の画素が出力する前記画素信号を前記二分探索して前記第2のデジタル信号を出力する、請求項14に記載の測距装置。
  16. 前記受光部は、前記光源部による前記投影と同期して前記光を受光する、請求項1に記載の測距装置。
  17. 光を受光して画素信号を出力することと、
    第1の期間に第1の照射パターンで光を投影し、第2の期間に第2の照射パターンで光を投影することと、
    前記画素信号に対して二分探索によりビット単位で逐次に変換を行い、前記第1の期間に第1のビット数の変換を行って第1のデジタル信号を出力し、前記第2の期間に前記第1のビット数より少ない第2のビット数で変換を行って第2のデジタル信号を出力することと、
    前記第1のデジタル信号と、前記第2のデジタル信号と、に基づき距離を算出することと、
    を含む測距方法。
JP2020016562A 2020-02-03 2020-02-03 測距装置及び測距方法 Pending JP2021124323A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020016562A JP2021124323A (ja) 2020-02-03 2020-02-03 測距装置及び測距方法
US17/795,507 US20230074464A1 (en) 2020-02-03 2021-01-25 Range-finding apparatus and range-finding method
PCT/JP2021/002394 WO2021157401A1 (ja) 2020-02-03 2021-01-25 測距装置及び測距方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020016562A JP2021124323A (ja) 2020-02-03 2020-02-03 測距装置及び測距方法

Publications (1)

Publication Number Publication Date
JP2021124323A true JP2021124323A (ja) 2021-08-30

Family

ID=77200495

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020016562A Pending JP2021124323A (ja) 2020-02-03 2020-02-03 測距装置及び測距方法

Country Status (3)

Country Link
US (1) US20230074464A1 (ja)
JP (1) JP2021124323A (ja)
WO (1) WO2021157401A1 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5576726B2 (ja) * 2010-06-29 2014-08-20 キヤノン株式会社 三次元計測装置、三次元計測方法、及びプログラム
US9153473B2 (en) * 2013-09-20 2015-10-06 Globalfoundries Singapore Pte. Ltd. Wafer processing
JP2018117309A (ja) * 2017-01-20 2018-07-26 ソニーセミコンダクタソリューションズ株式会社 撮像装置、画像処理方法および画像処理システム

Also Published As

Publication number Publication date
US20230074464A1 (en) 2023-03-09
WO2021157401A1 (ja) 2021-08-12

Similar Documents

Publication Publication Date Title
US11652983B2 (en) Solid-state imaging device, imaging system, and movable object
US8823574B2 (en) Successive approximation type A/D converter, method of controlling successive approximation type A/D converter, solid-state imaging device, and imaging apparatus
US9264642B2 (en) Imaging device, imaging system, and method for driving imaging device for generating and converting signals based on photoelectric and noise
TWI578711B (zh) 用於執行具有改良類比至數位轉換器線性之相關多重取樣的方法及系統
US11869273B2 (en) Object recognition with removal of event as noise when the event is detected for a group of pixels exceeding a threshold
KR101459138B1 (ko) 고체 촬상 장치, 촬상 장치, 및 고체 촬상 장치의 구동방법
KR20090058011A (ko) 고체 촬상 장치, 고체 촬상 장치의 구동 방법 및 촬상 장치
US20050253944A1 (en) Real-time exposure control for automatic light control
JP2009212621A (ja) 固体撮像装置及びカメラ装置
US20050253937A1 (en) Real-time exposure control for automatic light control
JP2010045544A (ja) 固体撮像素子、撮像方法及び撮像装置
US20140022431A1 (en) Cmos image sensor
JP6579782B2 (ja) 撮像装置
JP2018011141A (ja) 固体撮像装置、固体撮像装置の駆動方法、及び、電子機器
US10110797B2 (en) Imaging device and imaging system
US11652952B2 (en) Ramp voltage generator, image sensing device and operating method of the same
WO2021157401A1 (ja) 測距装置及び測距方法
WO2020196378A1 (ja) 距離画像の取得方法、及び、距離検出装置
WO2021084832A1 (ja) 物体認識システム及び物体認識システムの信号処理方法、並びに、電子機器
JP2023076773A (ja) 物体認識システム及び電子機器
JP2021060900A (ja) 顔認証システム及び電子機器
WO2019054102A1 (ja) 固体撮像装置、及びそれを備える撮像装置
JP2011080843A (ja) 立体形状測定システム及び立体形状測定方法
WO2021157393A1 (ja) 測距装置および測距方法
US20210297617A1 (en) Imaging with ambient light subtraction