JPWO2017085916A1 - 撮像装置、及びそれに用いられる固体撮像素子 - Google Patents

撮像装置、及びそれに用いられる固体撮像素子 Download PDF

Info

Publication number
JPWO2017085916A1
JPWO2017085916A1 JP2017551525A JP2017551525A JPWO2017085916A1 JP WO2017085916 A1 JPWO2017085916 A1 JP WO2017085916A1 JP 2017551525 A JP2017551525 A JP 2017551525A JP 2017551525 A JP2017551525 A JP 2017551525A JP WO2017085916 A1 JPWO2017085916 A1 JP WO2017085916A1
Authority
JP
Japan
Prior art keywords
signal
exposure
light emission
light
period
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2017551525A
Other languages
English (en)
Inventor
遥 高野
遥 高野
朋彦 金光
朋彦 金光
剛 蓮香
剛 蓮香
充彦 大谷
充彦 大谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2017085916A1 publication Critical patent/JPWO2017085916A1/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4865Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/10Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4868Controlling received signal intensity or exposure of sensor
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/487Extracting wanted echo signals, e.g. pulse detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Studio Devices (AREA)

Abstract

撮像装置(10)は、発光信号と露光信号とを発生する制御部(3)と、発光信号を受信することにより光照射を行う光源部(1)と、露光信号に従ったタイミングで反射光の露光量を取得する受光部(2)と、受光部(2)から受けた撮像信号における信号量に基づいて演算により距離信号(距離画像)を出力する演算部(4)とを備え、制御部(3)は、発光信号と露光信号との位相関係の異なるパターンを、少なくとも2つ以上生成し、さらに、当該パターンの少なくとも2つ以上は周期が異なるように、発光信号と露光信号とを出力する。

Description

本発明は、撮像装置、及びそれに用いられる固体撮像素子に関する。
物体を検知または測距を行う複数の方式の中で、測定対象物まで光が往復する飛行時間を利用して測距を行うTOF(Time Of Flight)方式が知られている。
特許文献1には、位相型TOF方式において異なる変調周波数を用いることで、測距精度を低下させずに検知した光の往復時間の発光・露光の繰り返し間の曖昧さを明確にするディエリアシングが開示されている。すなわち、反射光の飛行時間(光路による遅延)が変調周波数の1周期を越える対象物の測距値を、飛行時間が変調周波数の1周期以内である測距値として出力してしまう、いわゆる測距の折り返し現象を排除する従来技術が開示されている。
特表2013−538342公報
しかしながら、特許文献1に開示された従来技術では、ディエリアシングを効果的に実現するためには、低い変調周波数は高い変調周波数の少なくとも2分の1以下である必要がある。このため、上記従来技術は、フレームレートは低い変調周波数で律速し、高速化が出来ないという課題を有している。
前記課題に鑑み、本発明は、高い測距精度と、フレームレートを低下させること無くいわゆる測距の折り返し現象の排除とを実現する撮像装置を提供することを目的とする。
上記課題を解決するために、本発明の一態様に係る撮像装置は、光を照射し、前記光の反射光を受光することにより、被写体までの距離を測定する撮像装置であって、前記光の照射を指示する発光信号のタイミングで前記光の照射を行う光源部と、前記被写体からの反射光の露光を指示する露光信号により複数の異なるタイミングで露光し、複数の撮像信号を出力する受光部と、前記複数の撮像信号を入力して距離演算を行う演算部と、前記発光信号と前記露光信号との位相関係の異なるパターンを、少なくとも2つ以上生成し、さらに、前記パターンの少なくとも2つ以上は周期が異なるように、前記発光信号と前記露光信号とを出力する制御部とを備えることを特徴とする。
また、前記制御部は、前記パターン毎の周期を決定する場合、前記パターン毎の前記発光信号と対応する前記露光信号の次に発生する前記露光信号と当該発光信号との位相関係が同じとなるよう、前記発光信号と前記露光信号とを出力してもよい。
また、前記制御部は、前記発光信号と前記露光信号とは、前記周期が任意に発生するよう、前記発光信号と前記露光信号とを出力してもよい。
また、前記制御部は、少なくとも、周期的に発生する前記発光信号を発生させない期間を設けてもよい。
また、前記制御部は、前記パターン毎の平均周期が同じとなるように、少なくとも、周期的に発生する前記発光信号を発生させない期間を設けてもよい。
また、前記制御部は、周期的に発生する前記発光信号と、当該発光信号に対応する前記露光信号とを発生させない期間を設けてもよい。
また、前記制御部は、前記パターン毎の平均周期が同じとなるように、周期的に発生する前記発光信号と、当該発光信号に対応する前記露光信号とを発生させない期間を設けてもよい。
また、前記受光部は、複数の画素と、前記複数の画素のそれぞれに対応づけられる複数の信号蓄積部とを有し、当該複数の信号蓄積部に信号を蓄積する固体撮像素子を備え、前記固体撮像素子は、同一画素で検出する信号を蓄積する前記複数の信号蓄積部のそれぞれが、前記発光信号のタイミングに対して、前記被写体からの反射光の露光を指示する前記露光信号のタイミングが異なる露光期間に露光した前記信号を蓄積してもよい。
また、前記制御部は、前記受光部の同一画素で検出する信号を蓄積する前記複数の信号蓄積部のそれぞれに、複数回の発光とそれらに対応する露光とにより前記信号を蓄積させ、前記発光信号の繰り返し周期と、前記発光信号のタイミングに対して前記被写体からの反射光の露光を指示するタイミングが異なる露光信号の繰り返しの周期とを異ならせてもよい。
また、前記固体撮像素子は、CCD型の固体撮像素子であってもよい。
また、前記撮像装置は、TOF方式により前記被写体までの距離を測定してもよい。
また、本発明の一態様に係る固体撮像素子は、光の照射を指示する発光信号のタイミングで光の照射を行う光源部と、固体撮像素子を備える受光部と、前記受光部からの撮像信号を入力して距離演算を行う演算部とを有し、前記発光信号と露光信号との位相関係の異なるパターンを、少なくとも2つ以上を生成し、さらに前記パターンの少なくとも2つ以上は周期が異なるように前記発光信号と前記露光信号とを発生し、前記光を照射し、当該光の反射光を受光することにより、被写体までの距離を測定する撮像装置に用いられる固体撮像素子であて、前記固体撮像素子は、前記被写体からの反射光の露光を指示する前記露光信号により複数の異なるタイミングで露光し、複数の前記撮像信号を出力することを特徴とする。
本発明に係る撮像装置によれば、高い測距精度と、フレームレートを低下させること無くいわゆる測距の折り返し現象の排除とを実現することができる。
図1は、実施の形態1に係る撮像装置の概略構成を示す機能ブロック図である。 図2は、実施の形態1に係る制御部の構成を示す機能ブロック図である。 図3は、実施の形態1に係る固体撮像素子の機能を表す概略構成図である。 図4は、実施の形態1に係る撮像装置の露光量を検出するタイミングの一例を説明する図である。 図5は、実施の形態1に係る撮像装置の露光量を検出するタイミングの一例を説明する図である。 図6(a)は、一般的な撮像装置の信号処理のシーケンスを表す図であり、図6(b)は、実施の形態1に係る撮像装置の信号処理のシーケンスを表す図である。 図7は、実施の形態1に係る撮像装置の発光信号及び露光信号のタイミングの一例と露光量の検出を説明する図である。 図8は、実施の形態1の変形例1に係る撮像装置の信号処理のシーケンスを表す図である。 図9は、実施の形態1の変形例1に係る撮像装置の発光信号及び露光信号のタイミングの一例と露光量の検出を説明する図である。 図10は、実施の形態1の変形例2に係る撮像装置の信号処理のシーケンスを表す図である。 図11は、実施の形態2に係る撮像装置の発光信号及び露光信号のタイミングの一例と露光量の検出を説明する図である。 図12は、実施の形態2の変形例1に係る撮像装置の信号処理のシーケンスを表す図である。 図13は、実施の形態2の変形例2に係る撮像装置の発光信号及び露光信号のタイミングの一例と露光量の検出を説明する図である。
以下、本開示の実施の形態に係る撮像装置、及びそれに用いられる固体撮像素子について、図面を参照しながら説明する。なお、以下の実施の形態は、いずれも本発明の一具体例を示すものであり、数値、形状、材料、構成要素、構成要素の配置位置及び接続形態などは一例であり、本発明を限定するものではない。
また、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
(実施の形態1)
図1は、実施の形態1に係る撮像装置10の概略構成の一例を示す機能ブロック図である。同図に示すように、撮像装置10は、光源部1と、受光部2と、制御部(駆動制御部)3と、演算部4とを備える。この構成により、撮像装置10は、静止画だけでなく動画も撮影することができる。
光源部1は、駆動回路、コンデンサ及び発光素子を有し、コンデンサに保持した電荷を発光ダイオードへ供給することで照射光を発する。発光素子としてはレーザダイオード(LD)や発光ダイオード(LED)等のその他の発光素子を用いてもよい。照射光は、一例として赤外光(近赤外光、遠赤外光を含む)である。
図2は、実施の形態1に係る制御部3の構成を示す機能ブロック図である。同図に示すように、制御部3は、発光信号の立ち上がり位相及び立ち下がり位相を指示する発光位相制御部32と、発光信号の繰り返し回数及び周期を指示する発光繰り返し制御部33と、発光位相制御部32の指示する立ち上がり位相及び立ち下がり位相と、発光繰り返し制御部33の指示する繰り返し回数及び周期に従った発光信号を合成して出力する発光信号合成部31と、を備える。
更に、制御部3は、露光信号の立ち上がり位相及び立ち下がり位相を指示する露光位相制御部35と、露光信号の繰り返し回数及び周期を指示する露光繰り返し制御部36と、露光位相制御部35の指示する立ち上がり位相及び立ち下がり位相と、露光繰り返し制御部36の指示する繰り返し回数及び周期に従った露光信号を合成して出力する露光信号合成部34と、を備える。
この構成により、制御部3は、発光信号及び露光信号の位相と繰り返し周期とを独立に決定することができ、発光信号と露光信号との位相関係の異なるパターンを複数生成することができる。更に、発光信号と露光信号との位相関係の異なるパターンの間で繰り返しの周期が異なるように、発光信号と露光信号とを出力することができる。なお、発光繰り返し制御部33および露光繰り返し制御部36が指示する繰り返し周期は、固定、周期的、規則的な変化、ランダムに変化するもののいずれでもよい。
言い換えると、制御部3は、被写体(物体、測定対象物)への光照射を指示する発光信号と、当該被写体からの反射光の露光を指示する露光信号とを発生する。より具体的には、本実施の形態に係る制御部3は、受光部2の同一画素で検出する信号を蓄積する複数の信号蓄積部のそれぞれに、複数回の発光とそれらに対応する露光とにより信号を蓄積させる。また制御部3は、発光信号の繰り返し周期と、当該発光信号のタイミングに対して被写体からの反射光の露光を指示するタイミングが異なる露光信号の繰り返しの周期とを異ならせる。
なお、制御部3は、発光信号を発生する制御部と、露光信号を発生する制御部とを個別に有していても良い。制御部3は、例えば、マイクロコンピュータ等の演算処理装置によって構成される。マイクロコンピュータは、プロセッサ(マイクロプロセッサ)、メモリ等を含み、メモリに格納された駆動プログラムがプロセッサにより実行されることで、発光制御信号及び露光制御信号を出力する。なお、制御部3は、FPGAやISP等を用いてもよく、1つのハードウェアから構成されても、複数のハードウェアから構成されてもかまわない。
また、図2に示すように、制御部3は、制御部3の外からの基準信号(基準クロック)により、上述した発光信号合成部31、発光位相制御部32、発光繰り返し制御部33、露光信号合成部34、露光位相制御部35、及び露光繰り返し制御部36が制御されることが、より好ましい。さらに、発光位相制御部32は、制御部3の外からの信号(発光信号位相設定信号)で制御され、発光繰り返し制御部33は、制御部3の外からの信号(発光信号繰り返し設定信号)で制御され、露光位相制御部35は、制御部3の外からの信号(露光信号位相設定信号)で制御され、露光繰り返し制御部36は、制御部3の外からの信号(露光信号繰り返し設定信号)で制御されることが、より好ましい。
光源部1は、制御部3で発生する発光信号のタイミングに従って光を点滅させ(パルス)、被写体に対して照射光(パルス光)の照射を行う。
受光部2は、固体撮像素子20を有する。固体撮像素子20は、照射光が反射した反射光(パルス光)及び太陽光などの背景光(外乱光)を受光する。
また、固体撮像素子20は、被写体を含む領域に対して、制御部3で発生する露光信号が示すタイミングに従って複数回の露光を行い、画素毎に対応づけられる信号蓄積部を複数有し、当該複数の信号蓄積部に信号(蓄積信号)を蓄積して撮像を行った後、蓄積された信号(蓄積信号)を転送し、露光量に対応した撮像信号を出力する。より具体的には、本実施の形態に係る固体撮像素子20では、同一画素で検出する信号を蓄積する複数の信号蓄積部のそれぞれは、発光信号のタイミングに対して露光信号のタイミングが異なる露光期間に露光した信号を蓄積する。
受光部2は、さらに、カメラレンズ、光源部1から照射される光の波長近傍のみを通過させる光学的バンドパスフィルタ(帯域通過フィルタ)、及びA/Dコンバータ等の回路を適宜有する。
演算部4は、受光部2から受けた撮像信号及び第2撮像信号における信号量に基づいて、演算により被写体までの距離情報である距離信号(距離画像)を出力する。
次に、本実施の形態に係る撮像装置10に用いられる固体撮像素子20として、CCD(Charge Coupled Device)型の固体撮像素子として用いた場合について説明する。
図3は、CCD型の固体撮像素子20の機能を表す概略構成図である。同図は、本実施の形態に係る固体撮像素子20の一例を示す概略構成図であり、受光部2がこの固体撮像素子20を備える。ここでは、本発明の理解を容易とするため、垂直方向に6画素分及び水平方向に5画素分のみを示している。
同図に示すように、本実施の形態に係る固体撮像素子20は、フォトダイオード(PD、受光素子)101と、垂直転送部102と、水平転送部103と、信号電荷検出部104と、半導体基板電圧(SUB)を制御する信号φSUBを入力するSUB端子105とを備える。
フォトダイオード101は、受光した光を電荷に変換する。垂直転送部102は、複数のゲートから構成され、フォトダイオード101から読み出した電荷を順次垂直方向に転送する。その複数のゲートのうちいくつかはフォトダイオード101から電荷を読み出す読出ゲートである。
また、水平転送部103は、複数のゲートから構成されている複数のゲートがパケットとして垂直転送部102から受けた電荷を順次水平方向に転送する。信号電荷検出部104は、水平転送部から受けた電荷を順次検出して電圧信号に変換して出力する。
ここで、読出ゲートは開いた状態で、露光信号に従って基板電圧(SUB)を制御し、露光信号がLowの期間でフォトダイオード101を露光し、当該露光により発生した電荷を垂直転送部102に蓄積する。
つまり、制御部3から出力して露光タイミングを指示する露光信号は、SUB端子105に入力されて半導体基板電圧(SUB)を制御する信号である。
なお、図3では、CCDイメージセンサ(CCD型固体撮像素子)を用いたことにより複数のフォトダイオード101を一括してリセットする動作、いわゆるグローバルリセットを行うことができ、更に高精度な測距を実現することが出来る。しかし、本実施の形態に用いられる固体撮像素子は、CCDイメージセンサに限定されるものではない。撮像装置として、他の要求を考慮して、CMOSイメージセンサ(CMOS型固体撮像素子)や、光電変換膜を備えるイメージセンサなどのその他の固体撮像素子(イメージセンサ)を用いても同様の効果(高速で高精度に、いわゆる測距の折り返し現象の排除を実現する、等)を得ることが可能となる。
次に、図4〜図7を用いて、本実施の形態に係る撮像装置10の駆動方法(動作タイミング)について説明する。なお、図4〜図7で後述するように、本実施の形態に係る撮像装置10では、距離信号を得る方式としてはTOF方式を採用し、また発光露光の繰り返しにおいて露光をしない位相が存在する矩形波型TOF方式(パルスTOF方式)を基本原理とする。
図4及び図5は、それぞれ、本実施の形態1に係る撮像装置10の露光量を検出するタイミングの一例を説明する図である。本実施の形態の場合、固体撮像素子20を構成する同一画素で検出する信号(蓄積信号)を蓄積する、異なる複数の信号蓄積部の数が3である例を示す。
なお、図4(a)及び図5(a)は、それぞれ、制御部3が発光信号と露光信号とを出力する1画面におけるタイミング関係の概略例を示している。また、図4(b)及び図5(b)は、それぞれ、第一の発光露光期間における露光量S0の検出タイミングを表し、図4(c)及び図5(c)は、それぞれ、第二の発光露光期間における露光量S1の検出タイミングを表し、図4(d)及び図5(d)は、それぞれ、第三の発光露光期間における露光量S2の検出タイミングを表す。
まず、図4(a)及び図4(b)、ならびに図5(a)及び図5(b)に示すように、第一の発光露光期間では、第一の露光信号がLowの期間でフォトダイオード101を露光し、当該露光により発生した電荷を垂直転送部102に蓄積する。この動作を本実施の形態ではm回繰り返し、第一の発光露光期間が終了した時点で、垂直転送部102のゲートを制御し、読出しゲートが存在しないパケットに上記電荷を転送する。
ここで、第一の発光露光期間とは、光源部1が発光信号を受信して発光するタイミングに対して、受光部2が第一の遅延時間を経て露光信号を受信し露光を行う期間である。本実施の形態の場合、第一の露光信号期間の長さは発光信号期間の長さと同じToに設定され、第一の遅延時間は0に設定されている。すなわち、第一の露光信号期間は、発光信号が送信されている(ハイレベルである)期間に設定されている。
続いて、図4(a)及び図4(c)、ならびに図5(a)及び図5(c)に示すように、第二の発光露光期間では、第二の露光信号がLowの期間でフォトダイオード101を露光し、当該露光により発生した電荷を垂直転送部102に蓄積する。この動作を本実施の形態ではm回繰り返し、第二の発光露光期間が終了した時点で、垂直転送部102のゲートを制御し、読出しゲートが存在しないパケットに上記電荷を転送する。
ここで、第二の発光露光期間とは、受光部2が発光信号を受信するタイミングに対して第一の遅延時間と異なる第二の遅延時間を経て露光信号を受信し露光を行う期間である。本実施の形態の場合、第二の露光信号期間の長さは発光信号期間の長さや第一の露光信号期間の長さと同じToに設定され、第二の遅延時間は第一の遅延時間0と第一の露光信号期間とが加算されたToに設定されている。
続いて、図4(a)及び図4(d)、ならびに図5(a)及び図5(d)に示すように、第三の発光露光期間では、第三の露光信号がLowの期間でフォトダイオード101を露光し、当該露光により発生した電荷を垂直転送部102に蓄積する。この動作を本実施の形態ではm回繰り返し、第三の発光露光期間が終了した時点で、垂直転送部102のゲートを制御し、第一の露光信号によって露光した電荷が、読出しゲートが存在するパケットに来るように転送する。
ここで、第三の発光露光期間とは、受光部2が発光信号を受信するタイミングに対して第一および第二の遅延時間とは異なる第三の遅延時間を経て露光信号を受信し露光を行う期間である。本実施の形態の場合、第三の露光信号期間の長さは発光信号期間の長さや第一および第二の露光信号期間の長さと同じToに設定され、第三の遅延時間は第一の遅延時間0と第一の露光信号期間Toと第二の露光期間Toとが加算された2×Toに設定されている。
その後、この一連の動作を本実施の形態ではN回繰り返した後、垂直転送部102の転送と水平転送部103の転送とを順次繰り返して、上記電荷を信号電荷検出部104で電圧信号に変換して出力する。
これにより、発光信号に対して被写体からの反射光を受光する露光信号のタイミングが各々異なる複数の露光期間で得られる信号(蓄積信号)を蓄積する信号蓄積部として、垂直転送部102に既に構成されている複数パケットを利用することができる。よって、追加で信号蓄積部を形成することが不要となり、同じ面積であればフォトダイオード101を大きく形成でき、飽和感度を大きくすることが可能となり、最大受光量が大きくなり、高精度な測距を実現できる。
引き続き、図4及び図5を用いて、本実施の形態に係る撮像装置10の測距動作の詳細を説明する。
まず、制御部3は、発光信号に対して受光部2が被写体からの反射光を受光するタイミングが異なる第一の発光露光期間における第一の露光信号及び第二の発光露光期間における第二の露光信号及び第三の発光露光期間における第三の露光信号を出力する。本実施の形態の場合、第一、第二及び第三の露光信号期間の長さは、発光信号期間の長さと同じToに設定され、光源部1が発光信号を受信して発光するタイミングに対する第一の露光信号の遅延時間は、0に設定されている。すなわち、第一の露光信号期間は、発光信号が送信されている(ハイレベルである)期間に設定されている。また、第二の露光信号の遅延時間は、第一の遅延時間0と第一の露光信号期間Toとが加算されたToに設定され、第三の露光信号の遅延時間は、第二の遅延時間Toと第二の露光期間Toとが加算された2×Toに設定されている。従って、背景光の露光量は、第一、第二及び第三の露光信号期間で等しくなる。
一方、図4(a)及び図5(a)は、発光信号、ならびに第一、第二及び第三の露光信号の1画面におけるタイミング関係の例を示している。本実施の形態の場合、第一、第二及び第三の発光露光期間における発光信号及び露光信号の繰り返しがm回で、一連のタイミングを1セットとし、これをN回セット繰り返し出力した後、蓄積された露光信号を出力する。そこで、第一の露光信号による露光量s0の総和をS0、第二の露光信号による露光量s1の総和をS1、第三の露光信号による露光量s2の総和をS2とする。
図4では、発光信号タイミング(照射光)に対する被写体からの反射光の光路による遅延Tdが、第一の遅延時間0と第一の露光信号期間Toとが加算された値(すなわちTo)未満である場合が示されている。この場合、第一の露光信号期間と第二の露光信号期間とが加算された期間で被写体からの反射光の全てを含むように露光される。また、第二の露光信号期間の露光量は、被写体からの反射光の発光信号タイミングに対する遅延Tdが大きい程、増加する。また、第三の露光信号期間では、背景光のみ露光される。
このとき、演算部4は、第一の露光信号による露光量の総和S0と第三の露光信号による露光量の総和S2とを比較し、以下の式1のように判定する。
Figure 2017085916
ここで、光速(299,792,458m/s)をcとすると、演算部4では、式1による判定結果を基に、以下の式2の演算を行うことにより、距離Lを算出できる。
Figure 2017085916
図5では、発光信号タイミング(照射光)に対する被写体からの反射光の光路による遅延Tdが、第一の遅延時間0と第一の露光信号期間Toとが加算された値(すなわちTo)以上である場合が示されている。この場合、第二の露光信号期間と第三の露光信号期間とが加算された期間で被写体からの反射光の全てを含むように露光される。また、第三の露光信号期間の露光量は、被写体らの反射光の発光信号タイミングに対する遅延Tdが大きい程、増加する。また、第一の露光信号期間では、背景光のみ露光される。
このとき、演算部4は、第一の露光信号による露光量の総和S0と第三の露光信号による露光量の総和S2とを比較し、以下の式3のように判定する。
Figure 2017085916
演算部4では、式3による判定結果を基に、以下の式4の演算を行うことにより、距離Lを算出することが可能である。
Figure 2017085916
ここで、本実施の形態に係る撮像装置、及びそれに用いられる固体撮像素子の理解を容易とするため、図6(a)を用いて一般的な撮像装置について説明する。
図6(a)は、一般的な撮像装置の信号処理のシーケンスを表す図であり、一般的な「折り返し現象」の説明を含むものである。
図6(a)の一般的な撮像装置では、S0、S1、S2において、それぞれ、発光信号(1)と露光信号(1)とが対応し、発光信号(2)と露光信号(2)とが対応する。しかし、広い空間(遠方、遠距離)での測距を行う場合、測距レンジの更に遠い距離の反射光を受光した場合、図6(a)の発光信号(1)と露光信号(2)とが対応し、発光信号(2)と露光信号(3)とが対応する「折り返し」が発生し、本来測距レンジ外の物体の距離が誤って見えてしまう現象(これを、「折り返し現象」と呼ぶ)が発生する。
また、図6(a)の発光信号(露光信号)は幅1Tで、休止期間が4Tで、Duty=20%の固定周期を繰り返しているが、この休止期間を4T→9T(Duty20%→10%)等に減らす事で、折り返しの影響は軽減される。しかし、同じDuty相当の信号量を得るためには、露光時間が倍になってしまい、フレームレート低下等の新たな問題が生じる。
しかしながら、本実施の形態に係る撮像装置、及びそれに用いられる固体撮像素子では、上述した問題を解決できる。その詳細を、図6(b)及び図7を用いて説明する。
図6(b)は、本実施の形態に係る撮像装置の信号処理のシーケンスを表す図である。同図において、発光信号(1)と露光信号(1)との位置関係、発光信号(2)と露光信号(2)との位相関係は、図6(a)のS0、S1、S2と同じである。これに対して、発光信号(1)と露光信号(2)との位置関係、発光信号(2)と露光信号(3)との位相関係が、S0、S1、S2で同じになるように発光信号および露光信号について、S0、S1、S2それぞれのDutyを決定する。つまり、制御部3は、発光信号と露光信号との位相関係のパターン毎の周期を決定する場合、当該パターン毎の発光信号と対応する露光信号の次に発生する露光信号と当該発光信号との位相関係が同じとなるよう、発光信号と露光信号とを出力する。
図6(b)では、一例として、S0発光信号及びS0露光信号のDutyは16.7%、S1発光信号及びS1露光信号のDutyは20%、S2発光信号及びS2露光信号のDutyは25%に設定されている。
次に、図7は、本実施の形態1に係る撮像装置10の発光信号及び露光信号のタイミングの一例と露光量の検出を説明する図であり、この図を用いて本実施の形態に係る撮像装置10の測距動作における発光・露光の繰り返し動作の詳細を説明する。
本実施の形態の場合、上述の通り、固体撮像素子20を構成する同一画素で検出する信号(蓄積信号)を蓄積する信号蓄積部が複数(一例として3つ)設定されている。これら複数の信号蓄積部のそれぞれに信号(蓄積信号)を蓄積する第一、第二及び第三の発光露光期間における、第一、第二及び第三の露光信号期間の長さは、発光信号期間の長さと同じToに設定されている。また、光源部1が発光信号を受信して発光するタイミングに対する第一の露光信号の遅延時間は、0に設定されている。
すなわち、第一の露光信号期間は、発光信号が送信されている(ハイレベルである)期間に設定されている。また、第二の露光信号の遅延時間は、第一の遅延時間0と第一の露光信号期間Toとが加算されたToに設定されている。また、第三の露光信号の遅延時間は、第二の遅延時間Toと第二の露光期間Toとが加算された2×Toに設定されている。従って、背景.光の露光量は、第一、第二及び第三の露光信号期間で等しくなる。
また、本実施の形態の場合、第一の発光露光期間における発光信号及び露光信号の繰り返しの周期は、発光信号期間の長さToの6倍に設定され、第二の発光露光期間における発光信号及び露光信号の繰り返しの周期は、発光信号期間の長さToの5倍に設定され、第三の発光露光期間における発光信号及び露光信号の繰り返しの周期は、発光信号期間の長さToの4倍に設定されている。
すなわち、発光露光期間全体の繰り返しの周期の平均は、発光露光の繰り返しにおいて露光をしない位相が存在する矩形波型TOF方式(パルスTOF方式)で一般的に設定される発光露光期間の繰り返しの周期の1つである、発光信号期間の長さToの5倍と変わらないことになる。
更に、図7は、第一、第二及び第三の発光露光期間における発光信号及び露光信号のm回の繰り返しの先頭部分を示している。また図7では、発光信号タイミング(照射光)に対する被写体からの反射光の光路による遅延Tdが、第一の遅延時間0と第一の露光信号期間Toとが加算された値(すなわちTo)未満である場合が示されている。さらに、図7では、発光信号タイミング(照射光)に対する反射光の光路による遅延が、第一の発光露光期間における発光信号及び露光信号の繰り返しの周期である6×Toを超えるTd1である、いわゆる折り返し現象の原因となりうる物体が存在する場合を示している。
1回目の第一の露光期間では、被写体からの反射光の前半と背景光が露光される。2回目以降の第一の露光期間では、被写体からの反射光の前半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体からの反射光と、背景光とが露光される。
また、1回目の第二の露光期間では、被写体からの反射光の後半と背景光とが露光される。2回目以降の第二の露光期間では、被写体からの反射光の後半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体からの反射光と、背景光とが露光される。
また、1回目の第三の露光期間では、背景光のみ露光される。2回目以降の第三の露光期間では、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体からの反射光と、背景光とが露光される。
すなわち、第一の露光信号期間と第二の露光信号期間とが加算された期間では、被写体からの反射光の全てを含むように露光される。また、第二の露光信号期間の露光量は、被写体からの反射光の発光信号タイミングに対する遅延Tdが大きい程、増加する。また、発光信号タイミング(照射光)に対する反射光の光路による遅延が、第一の発光露光期間における発光信号及び露光信号の繰り返しの周期である6×Toを超えるTd1である(いわゆる折り返し現象の原因となりうる)物体からの反射光は、背景光同様、第一、第二及び第三の露光信号期間で等しく露光される。
つまり、制御部3は、発光信号と露光信号との位相関係の異なるパターンを、少なくとも2つ以上生成し、さらに、当該パターンの少なくとも2つ以上は周期が異なるように、発光信号と露光信号とを出力する。
従って、距離Lを算出する上記式2において、いわゆる折り返し現象の原因となりうる物体からの反射光は、背景光同様、排除することが出来る。
以上、図面を用いて説明したように、本実施の形態に係る撮像装置、及びそれに用いられる固体撮像素子は、特段の演算処理を追加すること無く、また発光信号の期間すなわち照射光のパルス幅Toを大きくすること無く、さらに発光露光期間全体の繰り返しの周期の平均を大きくすること無く、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体からの反射光が排除される。これにより、いわゆる測距の折り返し現象が排除できる高速で高精度な撮像装置を実現することが出来る。
言い換えると、(1)測距精度を決める発光信号の幅は変化することなく、さらに、(2)発光・露光の繰り返しの周期の平均は維持されるのでフレームレートは低下することなく、(3)飛行時間(光路による遅延)が発光・露光の繰り返しの1周期を超える対象物からの反射光は、背景光同様、受光部の同一画素で検出する信号(蓄積信号)を蓄積する画素毎の異なる複数の信号蓄積部のそれぞれに蓄積する信号の露光を指示する、発光信号のタイミングに対してそれぞれ異なるタイミングを有する露光信号にて全てに同じ信号量だけ露光される。よって、撮像信号から距離信号を求める演算における背景光を減算する演算過程をなくし、高速で高精度に、いわゆる測距の折り返し現象の排除できる。
更に、本実施の形態では、撮像信号から距離信号を求める演算が、条件の場合分けを含めて煩雑とならず、信号処理の回路規模が小さくなり、撮像装置、及びそれに用いられる固体撮像素子の小型化を実現することが出来る。
(実施の形態1の変形例1)
一般的な撮像装置では、S0発光/露光信号と、S2発光/露光信号とでは、時間あたりの電流値の違いにより、時間あたりの熱量も違う。撮像装置に使用される部品の熱特性によっては、測距値の性能・特性バラツキが大きくなってしまうという問題がある。特に、光源部(光源(発光素子、LED、LD等)、光源の駆動回路(ドライバ))では、この熱特性の影響が顕著となる。
しかしながら、本変形例に係る撮像装置、及びそれに用いられる固体撮像素子では、上述した問題を解決できる。その詳細を、図8、図9を用いて説明する。
図8は、実施の形態1の変形例1に係る撮像装置の信号処理のシーケンスを表す図である。実施の形態1と同様に、S0、S1、S2の発光/露光信号の周期(Duty)が異なるようにし、さらに、未発光期間、未露光期間を設け、平均周期は同じになるように制御する。つまり、制御部3は、少なくとも、周期的に発生する発光信号を発生させない期間を設ける。さらには、制御部3は、発光信号と露光信号との位相関係のパターン毎の平均周期が同じとなるように、少なくとも、周期的に発生する発光信号を発生させない期間を設ける。また、制御部3は、周期的に発生する発光信号と、当該発光信号に対応する露光信号とを発生させない期間を設ける。さらには、制御部3は、上記パターン毎の平均周期が同じとなるように、周期的に発生する発光信号と、当該発光信号に対応する露光信号とを発生させない期間を設ける。
図9は、本実施の形態1の変形例1に係る撮像装置10の発光信号及び露光信号のタイミングの一例と露光量の検出を説明する図である。実施の形態1との相違は、発光信号及び露光信号の繰り返しの周期が相対的に小さい、第二及び第三の発光露光期間の発光信号及び露光信号の繰り返しの途中に休止期間を設けて、発光露光期間全体の期間の長さを第一の発光露光期間に合わせていることである。このことにより、発光期間の繰り返し周期が短くなることによる光源の発光強度低下を抑制することができる。
また、S0発光/露光信号と、S2発光/露光信号とで、時間あたりの熱量も同じになるため、光源部(光源(発光素子、LED、LD等)、光源の駆動回路(ドライバ))、受光部(固体撮像素子、等)の熱特性による測距値の性能・特性のバラツキを低減できる。
従って、本実施の形態の変形例1では、実施の形態1と同様の効果に加え、更に測距精度が向上する効果を有する。
(実施の形態1の変形例2)
図10は、実施の形態1の変形例2に係る撮像装置の信号処理のシーケンスを表す図である。実施の形態1と同様に、S0、S1、S2の発光/露光信号の周期(Duty)が異なるようにし、さらに、未発光期間を設け、少なくとも発光に関する平均周期は同じになるようにする。
このことにより、S0発光信号と、S2発光信号とで、時間あたりの熱量も同じになるため、特に、撮像装置の特性に大きく影響を与える光源部(光源(発光素子、LED、LD等))、光源の駆動回路(ドライバ)の熱特性の影響を防ぎ、測距値の性能・特性のバラツキを低減できる。
従って、本実施の形態の変形例1では、実施の形態1と同様の効果に加え、更に測距精度が向上する効果を有する。
(実施の形態2)
以下、図面を参照しながら、実施の形態2に係る撮像装置、及びそれに用いられる固体撮像素子の構成及び動作について、実施の形態1との相違点を中心に説明する。
図11は、実施の形態2に係る撮像装置10の発光信号及び露光信号のタイミングの一例と露光量の検出を説明する図である。
本実施の形態の場合、前述の通り、固体撮像素子20を構成する同一画素で検出する信号(蓄積信号)を蓄積する信号蓄積部が複数(一例として3つ)設定されている。これら複数の信号蓄積部のそれぞれに信号を蓄積する第一、第二及び第三の発光露光期間における、第一、第二及び第三の露光信号期間の長さは、発光信号期間の長さと同じToに設定されている。また、光源部1が発光信号を受信して発光するタイミングに対する第一の露光信号の遅延時間は、0に設定されている。
すなわち、第一の露光信号期間は、発光信号が送信されている(ハイレベルである)期間に設定されている。また、第二の露光信号の遅延時間は、第一の遅延時間0と第一の露光信号期間Toとが加算されたToに設定されている。また、第三の露光信号の遅延時間は、第二の遅延時間Toと第二の露光期間Toとが加算された2×Toに設定されている。従って、背景.光の露光量は、第一、第二及び第三の露光信号期間で等しくなる。
また、本実施の形態の場合、第一の発光露光期間における発光信号及び露光信号の繰り返しの周期は、発光信号期間の長さToの5倍と7倍とを交互に繰り返す設定にされ、第二の発光露光期間における発光信号及び露光信号の繰り返しの周期は、発光信号期間の長さToの4倍と6倍とを交互に繰り返す設定にされ、第三の発光露光期間における発光信号及び露光信号の繰り返しの周期は、発光信号期間の長さToの3倍と5倍とを交互に繰り返す設定にされている。つまり、制御部3は、発光信号と露光信号との位相関係の異なるパターンを、少なくとも2つ以上生成し、さらに、当該パターンの少なくとも2つ以上は周期が異なるように、発光信号と露光信号とを出力する。
すなわち、発光露光期間全体の繰り返しの周期の平均は、発光露光の繰り返しにおいて露光をしない位相が存在する矩形波型TOF方式(パルスTOF方式)で一般的に設定される発光露光期間の繰り返しの周期の1つである、発光信号期間の長さToの5倍と変わらないことになる。
次に、図11は、第一、第二及び第三の発光露光期間における発光信号及び露光信号のm回の繰り返しの先頭部分を示している。
なお、図11では、発光信号タイミング(照射光)に対する被写体からの反射光の光路による遅延Tdが、第一の遅延時間0と第一の露光信号期間Toとが加算された値(すなわちTo)未満である場合が示されている。さらに、図11では、発光信号タイミング(照射光)に対する反射光の光路による遅延が、第一の発光露光期間における発光信号及び露光信号の繰り返しの周期の小さい方である5×Toの1倍を超えて2倍未満であるTd1−1とTd1−2とである、いわゆる折り返し現象の原因となりうる物体1−1及び1−2が2種類存在する場合が示されている。
1回目の第一の露光期間では、被写体からの反射光の前半と背景光が露光される。2回目の第一の露光期間では、被写体からの反射光の前半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1−1からの反射光と背景光が露光される。3回目の第一の露光期間では、被写体からの反射光の前半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1−2からの反射光と背景光が露光される。以降、2回目及び3回目の露光期間と同じ露光が交互に繰り返される。
また、1回目の第二の露光期間では、被写体からの反射光の後半と背景光が露光される。2回目の第二の露光期間では、被写体からの反射光の後半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1−1からの反射光と、背景光とが露光される。3回目の第二の露光期間では、被写体からの反射光の後半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1−2からの反射光と、背景光とが露光される。以降、2回目及び3回目の露光期間と同じ露光が交互に繰り返される。
また、1回目の第三の露光期間では、背景光のみ露光される。2回目の第三の露光期間では、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1−1からの反射光と、背景光とが露光される。3回目の第三の露光期間では、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1−2からの反射光と、背景光とが露光される。以降、2回目及び3回目の露光期間と同じ露光が交互に繰り返される。
すなわち、第一の露光信号期間と第二の露光信号期間とが加算された期間で被写体からの反射光の全てを含むように露光される。また、第二の露光信号期間の露光量は、被写体からの反射光の発光信号タイミングに対する遅延Tdが大きい程、増加する。また、いわゆる折り返し現象の原因となりうる物体1−1及び1−2からの反射光は、背景光同様、第一、第二及び第三の露光信号期間で等しく露光される。ここで、物体1−1及び1−2からの反射光とは、発光信号タイミング(照射光)に対する反射光の光路による遅延が、第一の発光露光期間における発光信号及び露光信号の繰り返しの周期の小さい方である5×Toの1倍を超えて2倍未満であるTd1−1とTd1−2となる反射光である。
従って、距離Lを算出する上記式2において、いわゆる折り返し現象の原因となりうる物体からの反射光は、背景光同様に排除することが出来る。
以上、図面を用いて説明したように、本実施の形態に係る撮像装置、及びそれに用いられる固体撮像素子は、特段の演算処理を追加すること無く、また発光信号の期間すなわち照射光のパルス幅Toを大きくすること無く、さらに発光露光期間全体の繰り返しの周期の平均を大きくすること無く、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超えて2周期未満までの、いわゆる折り返し現象の原因となりうる物体からの反射光が排除される。これにより、実施の形態1と同様の効果に加え、より広範囲の、いわゆる測距の折り返し現象が排除できる。
(実施の形態2の変形例1)
なお、実施の形態2で示された平均周期(Duty、平均Duty)の場合、制御部3は、周期(Dutyを)が任意と(ランダムと)なるようにしてもよい。より具体的には、図12に示すように、
(i)S0発光信号とS0露光信号とが、Duty=1/6に対して、Duty=1/5と1/7とが同じ確率で発生する。
(ii)S1発光信号とS1露光信号とが、Duty=1/5に対して、Duty=1/4と1/6とが同じ確率で発生する。
(iii)S2発光信号とS2露光信号とが、Duty=1/4に対して、Duty=1/3と1/5とが同じ確率で発生する。
このことにより、複数(一例として、3つ以上)の折返し現象を軽減することが出来、実施の形態1及び2と同様の効果に加え、より広範囲の、いわゆる測距の折り返し現象が排除できる効果を有する。
なお、本変形例は、上述した実施の形態1の変形例として用いることも出来る。
(実施の形態2の変形例2)
図13は、本実施の形態の変形例2に係る撮像装置10の発光信号及び露光信号のタイミングの一例と露光量の検出を説明する図である。
本実施の形態の場合、上述の通り、固体撮像素子20を構成する同一画素で検出する信号(蓄積信号)を蓄積する信号蓄積部が複数(一例として3つ)設定されている。これら複数の信号蓄積部のそれぞれに信号を蓄積する第一、第二及び第三の発光露光期間における、第一、第二及び第三の露光信号期間の長さは、発光信号期間の長さと同じToに設定されている。また、光源部1が発光信号を受信して発光するタイミングに対する第一の露光信号の遅延時間は、0に設定されている。
すなわち、第一の露光信号期間は、発光信号が送信されている(ハイレベルである)期間に設定されている。また、第二の露光信号の遅延時間は、第一の遅延時間0と第一の露光信号期間Toとが加算されたToに設定されている。また、第三の露光信号の遅延時間は、第二の遅延時間Toと第二の露光期間Toとが加算された2×Toに設定されている。従って、背景.光の露光量は、第一、第二及び第三の露光信号期間で等しくなる。
また、本実施の形態の場合、第一の発光露光期間における発光信号及び露光信号の繰り返しの周期は、発光信号期間の長さToの5倍と7倍とを交互に繰り返す設定にされている。また、第二の発光露光期間における発光信号及び露光信号の繰り返しの周期は、発光信号期間の長さToの4倍と7倍とを交互に繰り返す設定にされている。また、第三の発光露光期間における発光信号及び露光信号の繰り返しの周期は、発光信号期間の長さToの3倍と7倍とを交互に繰り返す設定にされている。
すなわち、発光露光期間全体の繰り返しの周期の平均は、発光露光の繰り返しにおいて露光をしない位相が存在する矩形波型TOF方式(パルスTOF方式)で一般的に設定される発光露光期間の繰り返しの周期の1つである、発光信号期間の長さToの5倍に対して5.5倍と、10%のみの増加になる。
また、図13は、第一、第二及び第三の発光露光期間における発光信号及び露光信号のm回の繰り返しの先頭部分を示している。図13では、発光信号タイミング(照射光)に対する被写体からの反射光の光路による遅延Tdが、第一の遅延時間0と第一の露光信号期間Toとが加算された値(すなわちTo)未満である場合が示されている。図13では、さらに、発光信号タイミング(照射光)に対する反射光の光路による遅延が、第一の発光露光期間における発光信号及び露光信号の繰り返しの周期の小さい方である5×Toの1倍を超えて2倍未満であるTd1と2倍を超えるTd2とである、いわゆる折り返し現象の原因となりうる物体1及び2の2種類存在する場合が示されている。
1回目の第一の露光期間では、被写体からの反射光の前半と背景光とが露光される。2回目の第一の露光期間では、被写体からの反射光の前半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1からの反射光と、背景光とが露光される。
また、3回目の第一の露光期間では、被写体からの反射光の前半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの2周期を超える、いわゆる折り返し現象の原因となりうる物体2からの反射光と、背景光とが露光される。4回目の第一の露光期間では、被写体からの反射光の前半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1からの反射光と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの2周期を超える、いわゆる折り返し現象の原因となりうる物体2からの反射光と、背景光とが露光される。以降、3回目及び4回目の露光期間と同じ露光が交互に繰り返される。
1回目の第二の露光期間では、被写体からの反射光の後半と、背景光とが露光される。2回目の第二の露光期間では、被写体からの反射光の後半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1からの反射光と、背景光とが露光される。
また、3回目の第二の露光期間では、被写体からの反射光の後半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの2周期を超える、いわゆる折り返し現象の原因となりうる物体2からの反射光と、背景光とが露光される。4回目の第二の露光期間では、被写体からの反射光の後半と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1からの反射光と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの2周期を超える、いわゆる折り返し現象の原因となりうる物体2からの反射光と、背景光とが露光される。以降、3回目及び4回目の露光期間と同じ露光が交互に繰り返される。
また、1回目の第三の露光期間では、背景光のみ露光される。2回目の第三の露光期間では、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1からの反射光と、背景光とが露光される。
また、3回目の第三の露光期間では、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの2周期を超える、いわゆる折り返し現象の原因となりうる物体2からの反射光と、背景光とが露光される。4回目の第三の露光期間では、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの1周期を超える、いわゆる折り返し現象の原因となりうる物体1からの反射光と、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの2周期を超える、いわゆる折り返し現象の原因となりうる物体2からの反射光と、背景光とが露光される。以降、3回目及び4回目の露光期間と同じ露光が交互に繰り返される。
すなわち、第一の露光信号期間と第二の露光信号期間とが加算された期間で被写体からの反射光の全てを含むように露光される。また、第二の露光信号期間の露光量は、被写体からの反射光の発光信号タイミングに対する遅延Tdが大きい程、増加する。
また、いわゆる折り返し現象の原因となりうる物体1及び2からの反射光は、背景光同様、第一、第二及び第三の露光信号期間で等しく露光される。ここで、物体1及び2からの反射光とは、発光信号タイミング(照射光)に対する反射光の光路による遅延が、第一の発光露光期間における発光信号及び露光信号の繰り返しの周期の小さい方である5×Toの1倍を超えて2倍未満であるTd1と2倍を超えるTd2となる反射光である。従って、距離Lを算出する前記の式2において、いわゆる折り返し現象の原因となりうる物体からの反射光は、背景光同様、排除することが出来る。
上述したように、本実施の形態の変形例2では、特段の演算処理を追加すること無く、また発光信号の期間、すなわち照射光のパルス幅Toを大きくすること無く、さらに発光露光期間全体の繰り返しの周期の平均を大きくすること無く、発光信号タイミング(照射光)に対する光路による遅延が、発光露光期間の繰り返しの2周期を超える、いわゆる折り返し現象の原因となりうる物体からの反射光が排除される。これにより、実施の形態1及び2と同様の効果に加え、さらに広範囲の、いわゆる測距の折り返し現象が排除できる効果を有する。
(まとめ)
なお、上述した実施の形態およびその変形例では、全て、距離画像を得る方式としてはTOF方式の中でも発光露光の繰り返しにおいて露光をしない位相が存在する矩形波型TOF方式を例示したが、これに限られない。正弦波あるいは矩形波に変調された光源に対して、位相が90度ごと異なる4位相の露光タイミングで得られた信号から演算により距離画像を得る、変調型(位相型)TOF方式(照射光が正弦波)、矩形波変調型(位相型)TOF方式(照射光が矩形波)、など、他の方式であっても本発明の効果を得ることは出来る。
また、上述した実施の形態およびその変形例では、測距精度を向上するために、背景光を露光(受光)する場合を説明したが、背景光を露光(受光)せずに照射光を露光(受光)するのみの場合でも本発明の効果を得ることができる。
また、上記実施の形態およびその変形例では、撮像装置について説明したが、本開示の撮像装置の構成は、距離情報により距離を測定する撮像装置に留まらず、その他の物理量(例:形状、温度、放射線濃度など)を精度よく検知する物理量検知装置や、撮像したデータを精度良く描写させる撮像装置にも適用することが可能である。
(その他の実施の形態)
以上、本開示の撮像装置及び固体撮像素子について、上記実施の形態及びその変形例に基づいて説明してきたが、本開示の撮像装置及び固体撮像素子は、上記実施の形態及びその変形例に限定されるものではない。上記実施の形態及びその変形例における任意の構成要素を組み合わせて実現される別の実施の形態や、上記実施の形態及びその変形例に対して本発明の主旨を逸脱しない範囲で当業者が思いつく各種変形を施して得られる変形例や、本開示の撮像装置及び固体撮像素子を内蔵した各種機器も本発明に含まれる。
本発明に係る撮像装置は、周辺環境に依存することなく、被写体の高精度な3次元の検知、測定が実現できるため、例えば、ポイントクラウドなど、人物、建物、人体や動植物の器官・組織などの形態を立体検出、表示、描写や、視線方向検出、ジェスチャー認識、障害物検知、路面検知などに有用である。
1 光源部
2 受光部
3 制御部
4 演算部
10 撮像装置
20 固体撮像素子
31 発光信号合成部
32 発光位相制御部
33 発光繰り返し制御部
34 露光信号合成部
35 露光位相制御部
36 露光繰り返し制御部
101 フォトダイオード
102 垂直転送部
103 水平転送部
104 信号電荷検出部
105 SUB端子
上記課題を解決するために、本発明の一態様に係る撮像装置は、光を照射し、前記光の反射光を受光することにより、被写体までの距離を測定する撮像装置であって、前記光の照射を指示する発光信号と、前記反射光の露光を指示する露光信号とを出力する制御部と、前記発光信号のタイミングに従い前記光の照射を行う光源部と、前記露光信号のタイミングに従い前記被写体からの反射光を露光する受光部と、を備え、前記制御部は、前記光源部が前記発光信号を受信して発光するタイミングに対して、前記受光部が、遅延時間を経て、前記露光信号を受信し露光を行う第1発光露光期間と、当該第1発光露光期間と前記遅延時間が異なる第2発光露光期間とを少なくとも生成し、更に、前記発光信号及び前記露光信号の繰り返し周期を、前記第1発光露光期間と前記第2発光露光期間とで異ならせる前記発光信号及び前記露光信号を出力することを特徴とする。
また、本発明の一態様に係る撮像装置は、光を照射し、前記光の反射光を受光することにより、被写体までの距離を測定する撮像装置であって、前記光の照射を指示する発光信号のタイミングで前記光の照射を行う光源部と、前記被写体からの反射光の露光を指示する露光信号により複数の異なるタイミングで露光し、複数の撮像信号を出力する受光部と、前記複数の撮像信号を入力して距離演算を行う演算部と、前記発光信号と前記露光信号との位相関係の異なるパターンを、少なくとも2つ以上生成し、さらに、前記パターンの少なくとも2つ以上は周期が異なるように、前記発光信号と前記露光信号とを出力する制御部とを備えることを特徴とする。

Claims (12)

  1. 光を照射し、前記光の反射光を受光することにより、被写体までの距離を測定する撮像装置であって、
    前記光の照射を指示する発光信号のタイミングで前記光の照射を行う光源部と、
    前記被写体からの反射光の露光を指示する露光信号により複数の異なるタイミングで露光し、複数の撮像信号を出力する受光部と、
    前記複数の撮像信号を入力して距離演算を行う演算部と、
    前記発光信号と前記露光信号との位相関係の異なるパターンを、少なくとも2つ以上生成し、さらに、前記パターンの少なくとも2つ以上は周期が異なるように、前記発光信号と前記露光信号とを出力する制御部とを備える
    撮像装置。
  2. 前記制御部は、
    前記パターン毎の周期を決定する場合、
    前記パターン毎の前記発光信号と対応する前記露光信号の次に発生する前記露光信号と当該発光信号との位相関係が同じとなるよう、前記発光信号と前記露光信号とを出力する
    請求項1に記載の撮像装置。
  3. 前記制御部は、
    前記発光信号と前記露光信号とは、前記周期が任意に発生するよう、前記発光信号と前記露光信号とを出力する
    請求項1に記載の撮像装置。
  4. 前記制御部は、
    少なくとも、周期的に発生する前記発光信号を発生させない期間を設ける
    請求項2に記載の撮像装置。
  5. 前記制御部は、
    前記パターン毎の平均周期が同じとなるように、
    少なくとも、周期的に発生する前記発光信号を発生させない期間を設ける
    請求項3に記載の撮像装置。
  6. 前記制御部は、
    周期的に発生する前記発光信号と、当該発光信号に対応する前記露光信号とを発生させない期間を設ける
    請求項2に記載の撮像装置。
  7. 前記制御部は、
    前記パターン毎の平均周期が同じとなるように、
    周期的に発生する前記発光信号と、当該発光信号に対応する前記露光信号とを発生させない期間を設ける
    請求項3に記載の撮像装置。
  8. 前記受光部は、
    複数の画素と、前記複数の画素のそれぞれに対応づけられる複数の信号蓄積部とを有し、当該複数の信号蓄積部に信号を蓄積する固体撮像素子を備え、
    前記固体撮像素子は、同一画素で検出する信号を蓄積する前記複数の信号蓄積部のそれぞれが、前記発光信号のタイミングに対して、前記被写体からの反射光の露光を指示する前記露光信号のタイミングが異なる露光期間に露光した前記信号を蓄積する
    請求項1〜7のいずれか1項に記載の撮像装置。
  9. 前記制御部は、
    前記受光部の同一画素で検出する信号を蓄積する前記複数の信号蓄積部のそれぞれに、複数回の発光とそれらに対応する露光とにより前記信号を蓄積させ、
    前記発光信号の繰り返し周期と、前記発光信号のタイミングに対して前記被写体からの反射光の露光を指示するタイミングが異なる露光信号の繰り返しの周期とを異ならせる
    請求項8に記載の撮像装置。
  10. 前記固体撮像素子は、CCD型の固体撮像素子である
    請求項8または9に記載の撮像装置。
  11. 前記撮像装置は、TOF(Time Of Flight)方式により前記被写体までの距離を測定する
    請求項1〜10のいずれか1項に記載の撮像装置。
  12. 光の照射を指示する発光信号のタイミングで光の照射を行う光源部と、固体撮像素子を備える受光部と、前記受光部からの撮像信号を入力して距離演算を行う演算部とを有し、
    前記発光信号と露光信号との位相関係の異なるパターンを、少なくとも2つ以上を生成し、さらに前記パターンの少なくとも2つ以上は周期が異なるように前記発光信号と前記露光信号とを発生し、前記光を照射し、当該光の反射光を受光することにより、被写体までの距離を測定する撮像装置に用いられる固体撮像素子であて、
    前記固体撮像素子は、
    前記被写体からの反射光の露光を指示する前記露光信号により複数の異なるタイミングで露光し、複数の前記撮像信号を出力する
    固体撮像素子。
JP2017551525A 2015-11-16 2016-11-09 撮像装置、及びそれに用いられる固体撮像素子 Withdrawn JPWO2017085916A1 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562255645P 2015-11-16 2015-11-16
US62/255,645 2015-11-16
PCT/JP2016/004837 WO2017085916A1 (ja) 2015-11-16 2016-11-09 撮像装置、及びそれに用いられる固体撮像素子

Publications (1)

Publication Number Publication Date
JPWO2017085916A1 true JPWO2017085916A1 (ja) 2018-09-06

Family

ID=58718623

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017551525A Withdrawn JPWO2017085916A1 (ja) 2015-11-16 2016-11-09 撮像装置、及びそれに用いられる固体撮像素子

Country Status (5)

Country Link
US (1) US20180259647A1 (ja)
EP (1) EP3379291A4 (ja)
JP (1) JPWO2017085916A1 (ja)
CN (1) CN108369275A (ja)
WO (1) WO2017085916A1 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3301477A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System for determining a distance to an object
EP3301479A1 (en) 2016-10-03 2018-04-04 Xenomatix NV Method for subtracting background light from an exposure value of a pixel in an imaging array, and pixel for use in same
EP3301480A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System and method for determining a distance to an object
EP3301478A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System for determining a distance to an object
EP3343246A1 (en) 2016-12-30 2018-07-04 Xenomatix NV System for characterizing surroundings of a vehicle
EP3392674A1 (en) 2017-04-23 2018-10-24 Xenomatix NV A pixel structure
US10768300B2 (en) * 2017-07-28 2020-09-08 Black Sesame International Holding Limited Distance detection by global shutter image sensor
CN112687713A (zh) * 2017-09-29 2021-04-20 索尼半导体解决方案公司 光检测器件
US10768301B2 (en) * 2017-12-15 2020-09-08 Xenomatix Nv System and method for determining a distance to an object
US11867842B2 (en) 2017-12-22 2024-01-09 Sony Semiconductor Solutions Corporation Pulse generator and signal generation apparatus
US11543525B2 (en) 2017-12-22 2023-01-03 Sony Semiconductor Solutions Corporation Signal generation apparatus
US11894851B2 (en) 2017-12-22 2024-02-06 Sony Semiconductor Solutions Corporation Signal generation apparatus for time-of-flight camera with suppressed cyclic error
CN110192120B (zh) * 2017-12-22 2024-08-16 索尼半导体解决方案公司 信号发生装置
CN112639513A (zh) * 2018-07-02 2021-04-09 布鲁克曼科技株式会社 测距装置、照相机、检查调整装置、测距装置的驱动调整方法及检查调整方法
WO2020049906A1 (ja) * 2018-09-03 2020-03-12 パナソニックIpマネジメント株式会社 距離測定装置
JP7356440B2 (ja) * 2018-09-11 2023-10-04 ヌヴォトンテクノロジージャパン株式会社 測距撮像装置、及び固体撮像素子
JP7154924B2 (ja) * 2018-10-03 2022-10-18 株式会社日立エルジーデータストレージ 測距撮像装置
KR102562360B1 (ko) 2018-10-05 2023-08-02 엘지이노텍 주식회사 깊이 정보를 획득하는 방법 및 카메라 모듈
US11543523B2 (en) * 2018-12-28 2023-01-03 Texas Instruments Incorporated Multi frequency long range distance detection for amplitude modulated continuous wave time of flight cameras
CN110793512A (zh) * 2019-09-11 2020-02-14 上海宾通智能科技有限公司 位姿识别方法、装置、电子设备和存储介质
JP2022067801A (ja) * 2020-10-21 2022-05-09 キヤノン株式会社 光電変換装置、光電変換システム
JP7431193B2 (ja) * 2021-04-19 2024-02-14 株式会社日立エルジーデータストレージ 測距装置及びその制御方法
WO2024085069A1 (ja) * 2022-10-18 2024-04-25 ヌヴォトンテクノロジージャパン株式会社 測距装置および測距方法
WO2024122487A1 (ja) * 2022-12-07 2024-06-13 パナソニックIpマネジメント株式会社 情報処理装置、情報処理システム、制御システム、情報処理方法、情報処理プログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001337166A (ja) * 2000-05-26 2001-12-07 Minolta Co Ltd 3次元入力方法および3次元入力装置
JP2007170856A (ja) * 2005-12-19 2007-07-05 Denso Corp 距離データ生成方法、距離画像生成装置、光電センサ
US8629976B2 (en) 2007-10-02 2014-01-14 Microsoft Corporation Methods and systems for hierarchical de-aliasing time-of-flight (TOF) systems
JP5585903B2 (ja) * 2008-07-30 2014-09-10 国立大学法人静岡大学 距離画像センサ、及び撮像信号を飛行時間法により生成する方法
JP2010256291A (ja) * 2009-04-28 2010-11-11 Toyota Motor Corp 距離画像撮影装置
JP5616099B2 (ja) * 2010-04-01 2014-10-29 浜松ホトニクス株式会社 距離センサ及び距離画像センサ
JP2013076645A (ja) * 2011-09-30 2013-04-25 Stanley Electric Co Ltd 距離画像生成装置および距離画像生成方法
JP5576851B2 (ja) * 2011-12-27 2014-08-20 本田技研工業株式会社 測距システム及び測距方法
CN104168815B (zh) * 2012-07-24 2016-08-24 奥林巴斯株式会社 控制装置和摄像系统
JP2014143498A (ja) * 2013-01-22 2014-08-07 Toshiba Corp 固体撮像装置
US9516248B2 (en) * 2013-03-15 2016-12-06 Microsoft Technology Licensing, Llc Photosensor having enhanced sensitivity
US9488722B2 (en) * 2013-06-05 2016-11-08 Samsung Electronics Co., Ltd. Time-of-flight ranging system and method with extended range
JP6435513B2 (ja) * 2013-06-26 2018-12-12 パナソニックIpマネジメント株式会社 測距撮像装置及びその測距方法、固体撮像素子
JP6296401B2 (ja) * 2013-06-27 2018-03-20 パナソニックIpマネジメント株式会社 距離測定装置および固体撮像素子
CN104604213B (zh) * 2013-09-04 2017-11-14 奥林巴斯株式会社 摄像系统
WO2016042893A1 (ja) * 2014-09-17 2016-03-24 ソニー株式会社 撮像装置、撮像素子および撮像装置の制御方法

Also Published As

Publication number Publication date
US20180259647A1 (en) 2018-09-13
CN108369275A (zh) 2018-08-03
EP3379291A4 (en) 2018-12-05
EP3379291A1 (en) 2018-09-26
WO2017085916A1 (ja) 2017-05-26

Similar Documents

Publication Publication Date Title
WO2017085916A1 (ja) 撮像装置、及びそれに用いられる固体撮像素子
JP6676866B2 (ja) 測距撮像装置及び固体撮像素子
JP6701199B2 (ja) 測距撮像装置
JP6435513B2 (ja) 測距撮像装置及びその測距方法、固体撮像素子
US10686994B2 (en) Imaging device, and solid-state imaging element used for same
US11448757B2 (en) Distance measuring device
JP6910010B2 (ja) 距離測定装置
JP6241793B2 (ja) 3次元測定装置および3次元測定方法
JP6304567B2 (ja) 測距装置及び測距方法
JP6773724B2 (ja) 精度情報を出力する測距装置
JP7094937B2 (ja) 飛行時間型深度画像化システムの内蔵較正
JP2020056698A (ja) 測距撮像装置
JP2020112443A (ja) 距離測定装置及び距離測定方法
KR20160092137A (ko) 티오에프 방식의 거리 측정 장치에서 제어 방법
JP6190690B2 (ja) 距離測定システム及び補正用データの取得方法
JP2020008483A (ja) 撮像装置および撮像装置の制御方法
US20230204727A1 (en) Distance measurement device and distance measurement method
WO2023161529A1 (en) Depth scanning image sensor

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180410

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190805

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20200217

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20200302