JP2023003094A - 測距装置および方法、並びにプログラム - Google Patents
測距装置および方法、並びにプログラム Download PDFInfo
- Publication number
- JP2023003094A JP2023003094A JP2021104056A JP2021104056A JP2023003094A JP 2023003094 A JP2023003094 A JP 2023003094A JP 2021104056 A JP2021104056 A JP 2021104056A JP 2021104056 A JP2021104056 A JP 2021104056A JP 2023003094 A JP2023003094 A JP 2023003094A
- Authority
- JP
- Japan
- Prior art keywords
- light
- distance
- region
- regions
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/497—Means for monitoring or calibrating
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- Computer Networks & Wireless Communication (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Measurement Of Optical Distance (AREA)
Abstract
【課題】適切なキャリブレーションを行う。【解決手段】測距装置は、複数の領域のうちの測距対象とする1以上の領域に選択的に光を照射可能であり、2以上の各領域に対して、領域ごとの照射用の光が照射された場合、複数の領域からの光を受光するセンサの画素ごとに出力された、画素における受光量に応じた出力データと、画素で受光される光における、領域の照射用の光の寄与率に関する情報と、測距対象の各領域の照射用の光について求められた、1つの領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータとに基づいて領域までの距離を計算する演算部を備える。本技術はToF測距装置に適用することができる。【選択図】図6
Description
本技術は、測距装置および方法、並びにプログラムに関し、特に、領域ごとに発光可能な場合におけるキャリブレーションパラメータの設定に関する測距装置および方法、並びにプログラムに関する。
測距方式のひとつとして、Time-of-Flight(タイムオブフライト:以降ToFと呼ぶ)という方式がある。ToFでは、サイン波の光を発光し、対象物に当たり反射してきた光を受光することで測距が行われる。
受光するセンサは、2次元アレイ状に配置された画素よりなる。すなわち、センサは、より具体的にはイメージセンサである。各画素は、受光素子を有し、光を取り込むことが出来る。そして、各画素は、発光する光の位相に同期しながら受光することで、受光されたサイン波の位相および振幅を得ることが出来る。なお、位相は、発光されたサイン波を基準とする。
各画素の位相は、発光部からの光が対象物体での反射を経てセンサに入力されるまでの時間に対応している。したがって、位相を2πfで割り、さらに光速(cとする)を乗算して2で割ることで、画素により撮影される方向についての距離を算出することが出来る。なお、fは発光するサイン波の周波数である。
非特許文献1には、ToFの動作について詳細に記載されている。
さて、実際には、正確にサイン波で発光することができないため、サイン波に関して補正を行う必要がある。また、センサ内を伝わる制御信号は、センサ内の各画素位置に到達するまでに時間を要する。そのため、センサ内の画素位置に応じた補正も必要である。それぞれ、circular errorとsignal propagation delayと呼ばれている。これら補正についての詳細は、非特許文献2の4章に書かれている。
これら補正量は、各モジュールで異なるため、個々のモジュールについてキャリブレーションが必要である。
すなわち、出荷時に既存の測定機器を使ってキャリブレーションパラメータが求められる。そして、このキャリブレーションパラメータは、ToF測距装置内のROM(Read Only Memory)に格納されて出荷される。ユーザがこのToF測距装置を使用して測距を行うと、ROM内に格納されていたキャリブレーションパラメータにより適切な補正が行われ、正しい測距結果が出力される。
格納すべきキャリブレーションパラメータは、具体的には、非特許文献2の4章に書かれているように、p0,…,pm,b0,b1,b2であり、全部で10個程度のスカラ量のデータである。
さて、発光領域を選択できるToF測距装置がある(例えば、特許文献1および特許文献2参照)。このようなToF測距装置について、以下で詳しく説明する。
図1は、縦方向に4分割、横方向に4分割した合計16個の領域の1つあるいは複数個を選択的に測距する様子を示している。
図1では、分かりやすく説明するために、矢印Q11に示す部分には、発光に関する図が示されており、矢印Q12に示す部分には、受光に関する図が示されている。すなわち、発光と受光について別々に示されている。
図1において、発光部からの発光領域(FOI(Field of Illumination))、すなわち発光部から出力された光が照射される領域と、センサでの受光領域(FOV(Field of View))、すなわちセンサにより撮影対象とされる領域とは同じ領域である。
矢印Q11に示すように、FOIは、領域R101-1乃至領域R101-16の16個の領域に分割されている。なお、図を見やすくするため、領域R101-3乃至領域R101-15については、符号が省略されている。また、以下、領域R101-1乃至領域R101-16を特に区別する必要がない場合、単に領域R101とも称することとする。
ToF測距装置は、これらの16個の領域R101について、それぞれ独立して発光させることが出来る。すなわち、各領域R101に対して、測距のための光を個別に照射することが可能である。
矢印Q12に示すように、FOVはFOIと同じ領域である。FOI内の16個に分割された領域R101-1乃至領域R101-16のうち、発光部から発光された領域R101について、センサが受光を行い、測距することが出来る。
このようにして、ToF測距装置では、測距したい領域のみに対して発光と受光を行い、効率良く測距することが可能である。
Introduction to the Time-of-Flight (ToF) System Design User's Guide, Literature Number: SBAU219D, Texas Instruments Incorporated
Fuchs, S., May, S.: Calibration and registration for precise surface reconstruction with time-of-flight cameras. Int. J. Intell. Syst. Technol. Appl. 5, 274-284 (2008)
上述のToF測距装置について簡素化して、さらに説明を続ける。すなわち、FOVやFOIを16分割でなく、2分割とした例について説明する。
図2の矢印Q21に示すように、FOIが領域R201-1と領域R201-2の2個の領域に分割されているとする。なお、以下、領域R201-1および領域R201-2を特に区別する必要のない場合、単に領域R201とも称する。
これらの2個の領域R201は、図1に示した例と同様に、それぞれ独立して発光させることが出来る。
また、図2の矢印Q22に示すように、FOVは、FOIと同じ領域である。例えば図3に示すように、FOI内の2個に分割された領域R201-1と領域R201-2のうち、発光部から発光された領域R201、つまり測距用の光が照射されたR201について、センサが受光を行い、測距することが出来る。
図3では、矢印Q31に示す部分には、領域R201-1のみ発光した場合について示されており、折れ線L11はFOI内の横方向における発光強度の分布を示している。
矢印Q32に示す部分には、領域R201-2のみ発光した場合について示されており、折れ線L12はFOI内の横方向における発光強度の分布を示している。
矢印Q33に示す部分には、領域R201-1と領域R201-2の両方を発光した場合について示されており、折れ線L13はFOI内の横方向における発光強度の分布を示している。
但し、図3では理想的な場合について示されており、実際の発光時には図4に示すようになる。
すなわち、領域R201-1のみ発光した場合には、実際には図3の矢印Q31に示したようにはならず、図4の矢印Q41に示すようになる。
図4の矢印Q41に示す例では、FOI内の発光強度の分布は折れ線L21に示すようになる。すなわち、FOI内の光が照射される領域と、照射されない領域が完全に分離されているわけではなく、照射領域から非照射領域へ徐々に発光強度が小さくなっていく。
そのため、この例では領域R201-1だけでなく、領域R201-2における領域R201-1近傍の領域にも光が照射されていることが分かる。
同様に、領域R201-2のみ発光した場合には、実際には図3の矢印Q32に示したようにはならず、図4の矢印Q42に示すようになり、FOI内の発光強度の分布は折れ線L22に示すようになる。すなわち、FOI内の光が照射される領域と、照射されない領域が完全に分離されているわけではなく、照射領域から非照射領域へ徐々に発光強度が小さくなっていく。
図4を参照して説明したことを、再度、図5を用いて説明する。
図5は、図3に示した各場合における発光強度を示している。特に、図5において、横軸はFOI(領域R201)内における横方向の位置を示しており、縦軸は各位置における発光強度を示している。
図5における矢印Q51に示す部分における折れ線L31は、領域R201-1のみ発光した場合における実際の発光強度の分布を示している。
この場合、発光強度分布は、領域R201-1と領域R201-2との境界部分でステップ関数となることが理想であるが、実際には折れ線L31に示すように、領域R201-1と領域R201-2の境界では、徐々に強度が小さくなっていく。
同様に、矢印Q52に示す部分における折れ線L32は、領域R201-2のみ発光した場合における実際の発光強度の分布を示している。この場合においても領域R201-1と領域R201-2の境界では、徐々に強度が小さくなっていく。
矢印Q53に示す部分には、領域R201-1と領域R201-2の両方を発光した場合における実際の発光強度の分布を示している。
この場合、領域R201-1を照射した光と、領域R201-2を照射した光との合計が照射されることになる。すなわち、この場合における発光強度の分布は、矢印Q51に示した折れ線L31で表される発光強度の分布と、矢印Q52に示した折れ線L32で表される発光強度の分布とを合算して得られる分布となる。
さて、先述のとおり、領域R201-1を照射する光は正確なサイン波ではないため、補正する必要がある。同様に、領域R201-2を照射する光も正確なサイン波ではないため、補正する必要がある。
領域R201-1を照射する光と領域R201-2を照射する光は同一ではないため、それぞれ補正する量は異なる。すなわち、領域R201-1を照射する光についてのキャリブレーションパラメータと、領域R201-2を照射する光についてのキャリブレーションパラメータは異なる。
したがって、領域R201-1のみ発光した場合の測距においては、領域R201-1を照射する光用のキャリブレーションパラメータが用いられて補正が行われる。そして、領域R201-2のみ発光した場合の測距においては、領域R201-2を照射する光用のキャリブレーションパラメータが用いられて補正が行われる。
さて、領域R201-1と領域R201-2の両方を発光した場合は、どのような補正を行えばよいであろうか。
図5の矢印Q53に示した部分における、領域R201-1と領域R201-2の境界を含む領域Aについては、領域R201-1を照射する光と領域R201-2を照射する光との合成波が受光されて測距が行われる。
領域R201-1を照射する光と領域R201-2を照射する光は異なるので、それらの2つの光の合成波は、領域R201-1を照射する光とは異なり、かつ、領域R201-2を照射する光とも異なる。しかも、合成波を構成する「領域R201-1を照射する光」と「領域R201-2を照射する光」の割合は、その合成波が受光されるセンサ上の画素の位置に依存している。
そのため、領域R201-1と領域R201-2の両方を発光した場合のためのキャリブレーションパラメータは、どのような形式で保持すべきか、そして、どのように補正を行えばよいかが知られていなかった。
すなわち、上述の特許文献1や特許文献2に発光領域を選択できるToF測距装置が開示されているが、実運用上はキャリブレーションが必要であるにもかかわらず、その具現化手法が存在していなかった。つまり、複数の発光領域の選択的な測距を実運用することはできなかった。
本技術は、このような状況に鑑みてなされたものであり、発光領域を選択できるToF測距装置において適切なキャリブレーションを行うことができるようにするものである。
本技術の第1の側面の測距装置は、複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータとに基づいて前記領域までの距離を計算する演算部を備える。
本技術の第1の側面の測距方法またはプログラムは、複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置の測距方法またはプログラムであって、2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータとに基づいて前記領域までの距離を計算するステップを含む。
本技術の第1の側面においては、複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置において、2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータとに基づいて前記領域までの距離が計算される。
本技術の第2の側面の測距装置は、複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、前記複数の前記領域からの光を受光するセンサの画素ごとに求められた、前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、前記領域の照射用の光ごとに求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータとを記録する記録部を備える。
本技術の第2の側面においては、複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置において、前記複数の前記領域からの光を受光するセンサの画素ごとに求められた、前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、前記領域の照射用の光ごとに求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータとが記録される。
本技術の第3の側面の測距装置は、複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、前記画素ごとに求められたキャリブレーションパラメータとに基づいて前記領域までの距離を計算する演算部を備える。
本技術の第3の側面の測距方法またはプログラムは、複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置の測距方法またはプログラムであって、2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、前記画素ごとに求められたキャリブレーションパラメータとに基づいて前記領域までの距離を計算するステップを含む。
本技術の第3の側面においては、複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置において、2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、前記画素ごとに求められたキャリブレーションパラメータとに基づいて前記領域までの距離が計算される。
本技術の第4の側面の測距装置は、複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、前記複数の前記領域からの光を受光するセンサの画素ごとに求められたキャリブレーションパラメータを記録する記録部を備える。
本技術の第4の側面においては、複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置において、前記複数の前記領域からの光を受光するセンサの画素ごとに求められたキャリブレーションパラメータが記録される。
以下、本技術の実施の形態について、図面を参照しながら説明する。なお、この実施の形態によって本技術が限定されるものではない。
〈ToF測距装置の構成例〉
図6は、本技術を適用したToF測距装置の構成例を示す図である。
図6は、本技術を適用したToF測距装置の構成例を示す図である。
このToF測距装置11は、測距対象となる対象物体の壁面12に対して照射光(測定光)を照射し、その照射光が壁面12で反射されて得られる反射光を受光することで、ToF方式によりToF測距装置11から壁面12までの距離を測定する。
ToF測距装置11は、制御部21、発光部22、イメージセンサ23、演算部24、出力端子25、およびROM26を有している。
また、発光部22は、複数のレーザダイオードドライバ(LDD(Laser Diode Driver))からなるLDD群31、および複数のレーザからなるレーザ群32を有している。
なお、通常、イメージセンサ23の前面にはレンズが取り付けられており、このレンズが壁面12からの反射光を集光することで、イメージセンサ23内の各画素が効率よく反射光を受光できるようになされている。しかし、レンズの詳細は本技術の趣旨とは関係ないため、レンズの図示は省略されている。
また、発光部22は、より詳細には図7に示すように構成される。
図7の例では、発光部22はLDD群31およびレーザ群32を有している。
また、LDD群31はM個のLDD31-1乃至LDD31-Mからなり、レーザ群32はM個のレーザ32-1乃至レーザ32-Mからなる。
なお、以下、LDD31-1乃至LDD31-Mを特に区別する必要のない場合、単にLDD31とも称し、レーザ32-1乃至レーザ32-Mを特に区別する必要のない場合、単にレーザ32とも称する。
ここではToF測距装置11は、M個の領域を測距の対象となる発光領域として選択可能となっている。すなわち、ToF測距装置11は、複数のM個の領域のうちの測距対象とする1以上の領域に対して選択的に照射光を照射可能となっている。
LDD群31を構成する各LDD31-m(m=1乃至M)は、制御部21から供給される制御信号によって制御される。
LDD31-mは、レーザ群32内のレーザ32-mを発光させるためのドライバである。したがって、制御部21は、レーザ32-1乃至レーザ32-Mのそれぞれを独立して発光させるか、または不発光(非発光)とするかを選択することができる。
また、各レーザ32-m(m=1乃至M)は、それぞれ異なる方向に測距のための光、すなわち図6に示した照射光を照射(出力)する。
図6の説明に戻り、ToF測距装置11には、記録部として機能し、測距のためのキャリブレーションパラメータが格納される(記録される)ROM26が設けられている。
また、イメージセンサ23は、2次元平面上に配置された複数の画素を有しており、それらの画素は、壁面12からの反射光を受光して光電変換することで、受光した反射光の光量に応じた出力を行う受光素子を有している。
ToF測距装置11では、制御部21からの制御信号により、発光部22、イメージセンサ23、および演算部24が制御される。具体的には、以下のような制御が行われる。
すなわち、制御部21は、例えば周波数が10MHzである制御信号を発光部22およびイメージセンサ23に送信する。
すると、発光部22は、制御部21からの制御信号を受けて、10MHzのサイン波の光をM個の領域のうちのいくつかの領域の方向に出力する。
すなわち、発光部22を構成する各LDD31は、制御部21から供給された制御信号に応じてレーザ32を制御し、レーザ32から10MHzのサイン波の光を出力させて発光状態とさせるか、またはレーザ32から光を出力させずに不発光の状態とさせる。
これにより、発光状態となった1または複数のレーザ32のそれぞれに対応する壁面12上の領域(発光領域)のそれぞれに対して、レーザ32からの光(照射光)が照射される。
レーザ32から出力された光は、そのレーザ32に対応する壁面12上の領域に到達すると、その領域で反射して反射光となり、イメージセンサ23へと入射する。
イメージセンサ23の各画素では、制御部21から供給された10MHzの制御信号に応じて、10MHzで受光動作が行われる。
すなわち、イメージセンサ23は、周波数10MHzに応じた周期で、壁面12から入射した光(反射光)、すなわちサイン波の光を各画素で受光して光電変換することで、画素ごとに、画素における受光量に応じた出力データI(u,v)と出力データQ(u,v)を得る。換言すれば、レーザ32により出力されたサイン波の光が検波される。
イメージセンサ23は、サイン波の光の検波によって得られた各画素の出力データI(u,v)と出力データQ(u,v)を演算部24へと供給(出力)する。
ここで、出力データI(u,v)および出力データQ(u,v)について説明する。
イメージセンサ23では、より詳細には異なる位相(タイミング)で複数回の受光動作が行われる。例として、所定画素において位相が90度ずつ異なる0度、90度、180度、および270度の各位相において受光動作が行われ、その結果として各位相での受光量を示す光量値C0、光量値C90、光量値C180、および光量値C270が得られたとする。
このとき、光量値C0と光量値C180の差分Iが出力データIとされ、光量値C90と光量値C270の差分Qが出力データQとされる。
例えば、イメージセンサ23上における画素の位置(画素位置)を(u,v)で表すとする。この画素位置(u,v)は、例えばuv座標系における座標などとされる。
このとき、イメージセンサ23上の画素位置(u,v)において得られた差分Iおよび差分Qのそれぞれが出力データI(u,v)および出力データQ(u,v)とされる。
このようにしてイメージセンサ23においてサイン波の光が検波されると、演算部24では、各画素で検波されたサイン波の光、すなわち画素ごとに得られた出力データI(u,v)および出力データQ(u,v)に基づいて、上述の非特許文献1に記載の距離の計算が行われる。このとき、演算部24では、ROM26に記録されているキャリブレーションパラメータも用いられて距離の計算が行われる。
なお、ToF測距装置11(イメージセンサ23)から壁面12までの距離を求める計算の過程では、上述の非特許文献2に記載されているキャリブレーション処理、すなわちキャリブレーションパラメータに基づく補正も同時に行われる。例えばキャリブレーション処理では、レーザ32により出力されるサイン波の光に関する補正(circular errorの補正)や、イメージセンサ23の画素への制御信号の伝達時間に関する補正(signal propagation delayの補正)などが行われる。
演算部24は、出力データI(u,v)および出力データQ(u,v)に基づく計算の結果、すなわち求められた距離を、出力端子25を介して外部に出力する。
ここで、キャリブレーションパラメータをpとする。このキャリブレーションパラメータpは、10個程度のスカラ量のデータを意味する。
キャリブレーションパラメータpを用いたキャリブレーション処理を含む距離の計算をFで表すこととすると、画素位置(u,v)での距離の計算結果、すなわち測距結果L(u,v)は、次式(1)のようになる。式(1)では、距離を求める計算の過程において、上述のキャリブレーション処理、すなわちキャリブレーションパラメータpに基づく、サイン波の光に関する補正等の補正も同時に行われる。
なお、式(1)においてI(u,v)およびQ(u,v)は、イメージセンサ23から出力される画素位置(u,v)についての出力データI(u,v)および出力データQ(u,v)である。
式(1)の計算で行われるキャリブレーション処理を行う際に必要なキャリブレーションパラメータpは、ROM26に格納されている。演算部24は、ROM26から必要なキャリブレーションパラメータpを読み出してキャリブレーション処理(距離の計算)を行う。
それでは、以下において、本技術を適用した第1の実施の形態と第2の実施の形態について説明する。これらの何れの実施の形態においても図6に示したToF測距装置11によって処理が行われる。
〈第1の実施の形態〉
〈書き込み処理の説明〉
以下では、測距対象の領域が2分割されている場合、すなわちレーザ32の個数Mが2である場合について説明する。
〈書き込み処理の説明〉
以下では、測距対象の領域が2分割されている場合、すなわちレーザ32の個数Mが2である場合について説明する。
特に、以下では、説明を分かりやすくするため、壁面12が図4に示した領域R201-1と領域R201-2に分割され、それらの領域R201-1と領域R201-2の少なくとも何れかが測距対象の領域とされて距離が計算される場合について説明する。
この場合、例えばレーザ32-1からの光が領域R201-1に照射され、レーザ32-2からの光が領域R201-2に照射される。また、領域R201-1と領域R201-2における発光強度分布は、例えば図5に示したようになる。
第1の実施の形態においては、実際の測距前に3つのキャリブレーションパラメータが求められ、ROM26に格納される。
このとき、2つのキャリブレーションパラメータは、イメージセンサ23の全画素で共通のものとされ、残りの1つのキャリブレーションパラメータは、イメージセンサ23の画素ごと、つまり画素位置(u,v)ごとに値を有するものとされる。
まず、図8のフローチャートを参照して、3つのキャリブレーションパラメータが求められ、それらのキャリブレーションパラメータがROM26へと書き込まれる書き込み処理について説明する。この書き込み処理は、ToF測距装置11の出荷時に既存の測定機器(キャリブレーション装置)が用いられて行われる。
ステップS11において制御部21は、制御信号をLDD31-1に供給してLDD31-1を制御することで、レーザ32-1に領域R201-1の照射用の光を発光(出力)させるとともに、イメージセンサ23の各画素に制御信号を供給し、受光動作を行わせる。この場合、壁面12には、領域R201-1の照射用の光のみが照射される。
また、演算部24は、イメージセンサ23から供給された各画素位置(u,v)の出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)とを用いて距離、すなわち測距結果L(u,v)を計算し、その計算結果を、出力端子25を介してキャリブレーション装置に出力する。このとき、測距結果L(u,v)は、キャリブレーションパラメータが用いられずに計算される。
キャリブレーション装置は、演算部24から供給された各画素位置(u,v)の測距結果L(u,v)と予め用意された実際の距離(距離の真値)とに基づいてキャリブレーションを行い、全画素位置(u,v)で共通のキャリブレーションパラメータp0を求める。なお、キャリブレーション装置は、既存の装置を用いればよい。
キャリブレーション装置は、キャリブレーション結果として得られたキャリブレーションパラメータp0を、ToF測距装置11の入力端子等から、制御部21を介してROM26へと供給する。なお、入力端子等から直接、ROM26へとキャリブレーションパラメータp0が供給されてもよい。
ステップS12においてROM26は、キャリブレーション装置から供給されたキャリブレーションパラメータp0を記録する。すなわち、キャリブレーションパラメータp0がROM26に格納される。このキャリブレーションパラメータp0は、領域R201-1の照射用の光のみが壁面12に照射される場合におけるキャリブレーションパラメータであり、上述のキャリブレーションパラメータpに対応する。
ステップS13において制御部21は、制御信号をLDD31-2に供給することで、レーザ32-2に領域R201-2の照射用の光を発光(出力)させるとともに、イメージセンサ23の各画素に制御信号を供給し、受光動作を行わせる。この場合、壁面12には、領域R201-2の照射用の光のみが照射される。
演算部24は、イメージセンサ23から供給された各画素位置(u,v)の出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)とを用いて、キャリブレーションパラメータを用いずに距離(測距結果L(u,v))を計算し、その計算結果を、出力端子25を介してキャリブレーション装置に出力する。
また、キャリブレーション装置は、演算部24から供給された各画素位置(u,v)の測距結果L(u,v)と予め用意された実際の距離とに基づいてキャリブレーションを行い、全画素位置(u,v)で共通のキャリブレーションパラメータp1を求める。
キャリブレーション装置は、キャリブレーション結果として得られたキャリブレーションパラメータp1を、ToF測距装置11の制御部21等を介してROM26に供給する。
ステップS14においてROM26は、キャリブレーション装置から供給されたキャリブレーションパラメータp1を記録する。このキャリブレーションパラメータp1は、領域R201-2の照射用の光のみが壁面12に照射される場合におけるキャリブレーションパラメータであり、上述のキャリブレーションパラメータpに対応する。
ステップS15において制御部21は、制御信号をLDD31-1およびLDD31-2に供給することで、レーザ32-1に領域R201-1の照射用の光を発光させるとともに、レーザ32-2に領域R201-2の照射用の光を発光させる。また、制御部21は、イメージセンサ23の各画素に制御信号を供給し、受光動作を行わせる。この場合、壁面12には、領域R201-1の照射用の光と領域R201-2の照射用の光の両方が照射される。
演算部24は、イメージセンサ23から供給された各画素位置(u,v)の出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)とを用いて、キャリブレーションパラメータを用いずに距離(測距結果L(u,v))を計算し、その計算結果を、出力端子25を介してキャリブレーション装置に出力する。
また、キャリブレーション装置は、演算部24から供給された各画素位置(u,v)の測距結果L(u,v)と予め用意された実際の距離とに基づいてキャリブレーションを行い、画素位置(u,v)ごとのキャリブレーションパラメータp01(u,v)を求める。
この場合、領域R201-1の照射用の光と領域R201-2の照射用の光の両方が照射される、つまり領域R201-1と領域R201-2の両方を発光させるので、領域R201-1と領域R201-2(壁面12)における発光強度分布は、図5の矢印Q53に示したようになる。
そのため、領域R201-1と領域R201-2の境界近傍の部分である領域Aの部分については、画素位置(u,v)に依存して受光した反射光、すなわち領域R201-1の照射用の光と領域R201-2の照射用の光の合成波の波形は異なる。
そこでステップS15では、画素位置(u,v)ごとに、上述のキャリブレーションパラメータpに対応するキャリブレーションパラメータp01(u,v)が求められる。このキャリブレーションパラメータp01(u,v)は、領域R201-1の照射用の光と領域R201-2の照射用の光の両方が壁面12に照射される場合におけるキャリブレーションパラメータである。
キャリブレーション装置は、キャリブレーション結果として得られた各画素位置(u,v)のキャリブレーションパラメータp01(u,v)を、ToF測距装置11の制御部21等を介してROM26に供給する。
ステップS16においてROM26は、キャリブレーション装置から供給されたキャリブレーションパラメータp01(u,v)を記録する。
このようにしてROM26にキャリブレーションパラメータp0、キャリブレーションパラメータp1、およびキャリブレーションパラメータp01(u,v)が格納される(書き込まれる)と、書き込み処理は終了する。
これにより、実際に測距を行うときの距離の計算時に行われるキャリブレーション処理に必要なキャリブレーションパラメータが全てROM26に格納されたことになる。
以上のようにしてToF測距装置11は、発光させるレーザ32の組み合わせごと、つまりレーザ群32の発光パターンごとに、キャリブレーション装置からキャリブレーションパラメータの供給を受け、それらのキャリブレーションパラメータをROM26に記録する。このようにすることで、レーザ32により光を照射する領域(発光領域)を選択可能なToF測距装置11において、実際の測距時に適切なキャリブレーション処理を行うことができるようになる。
〈測距処理の説明〉
続いて、実際の測距時に行われる処理について説明する。
続いて、実際の測距時に行われる処理について説明する。
すなわち、以下、図9のフローチャートを参照して、ToF測距装置11による測距処理について説明する。
ステップS41において制御部21は、制御信号をLDD31に供給することで、レーザ32を発光させる。
ここで、制御部21がレーザ群32の発光パターンとして、発光パターンL1乃至発光パターンL3のうちの何れかを選択できるものとする。
発光パターンL1ではレーザ32-1のみが発光する、つまり領域R201-1の照射用の光のみが出力され、発光パターンL2ではレーザ32-2のみが発光する、つまり領域R201-2の照射用の光のみが出力される。また、発光パターンL3ではレーザ32-1とレーザ32-2が発光する、つまり領域R201-1の照射用の光と領域R201-2の照射用の光の両方が出力される。
制御部21は、選択した発光パターンでレーザ群32が発光するように、その発光パターンに応じた制御信号をLDD群31に供給するとともに、発光パターンを示す情報を演算部24に供給する。
各LDD31は、制御部21から供給された制御信号に応じて、適宜、レーザ32を制御し、レーザ32から光を出力させる。
ステップS42において制御部21は、制御信号をイメージセンサ23に供給し、イメージセンサ23に壁面12からの反射光を受光させる。
イメージセンサ23は、反射光を受光すると、その反射光の光量に応じて、各画素位置(u,v)の出力データI(u,v)および出力データQ(u,v)を演算部24に供給する。
また、演算部24は、制御部21から供給された情報に基づいて、レーザ群32の発光パターンを判別する。
すなわち、ステップS43において演算部24は、制御部21から供給された情報に基づいて、発光パターンが発光パターンL1であるか否かを判定する。
ステップS43において発光パターンL1であると判定された場合、演算部24は、発光パターンL1に対応する全画素位置(u,v)で共通のキャリブレーションパラメータp0をROM26から読み出し、その後、処理はステップS44へと進む。
ステップS44において演算部24は、イメージセンサ23から供給された出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)と、キャリブレーションパラメータp0とに基づいて画素位置(u,v)ごとに距離(測距結果L(u,v))を計算する。
具体的には、演算部24は、キャリブレーションパラメータp0をキャリブレーションパラメータpとして用いて上述の式(1)を計算することで、画素位置(u,v)ごとに測距結果L(u,v)を計算し、得られた測距結果L(u,v)を、出力端子25を介して外部に出力する。このようにして測距結果L(u,v)が出力されると、測距処理は終了する。
また、ステップS43において発光パターンL1ではないと判定された場合、ステップS45において演算部24は、制御部21から供給された情報に基づいて、発光パターンが発光パターンL2であるか否かを判定する。
ステップS45において発光パターンL2であると判定された場合、演算部24は、発光パターンL2に対応する全画素位置(u,v)で共通のキャリブレーションパラメータp1をROM26から読み出し、その後、処理はステップS46へと進む。
ステップS46において演算部24は、イメージセンサ23から供給された出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)と、キャリブレーションパラメータp1とに基づいて画素位置(u,v)ごとに距離(測距結果L(u,v))を計算する。
具体的には、演算部24は、キャリブレーションパラメータp1をキャリブレーションパラメータpとして用いて式(1)を計算することで、画素位置(u,v)ごとに測距結果L(u,v)を計算し、得られた測距結果L(u,v)を、出力端子25を介して外部に出力する。測距結果L(u,v)が出力されると、測距処理は終了する。
また、ステップS45において発光パターンL2ではないと判定された場合、すなわち発光パターンL3である場合、演算部24は、発光パターンL3に対応する画素位置(u,v)ごとのキャリブレーションパラメータp01(u,v)をROM26から読み出し、その後、処理はステップS47へと進む。
ステップS47において演算部24は、イメージセンサ23から供給された出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)と、キャリブレーションパラメータp01(u,v)とに基づいて画素位置(u,v)ごとに距離(測距結果L(u,v))を計算する。
具体的には、演算部24は、キャリブレーションパラメータp01(u,v)をキャリブレーションパラメータpとして用いて式(1)を計算することで、画素位置(u,v)ごとに測距結果L(u,v)を計算し、得られた測距結果L(u,v)を、出力端子25を介して外部に出力する。測距結果L(u,v)が出力されると、測距処理は終了する。
以上のようにしてToF測距装置11は、発光パターンに応じたキャリブレーションパラメータを用いて、測距対象となる壁面12までの距離を計算する。
このようにすることで、レーザ32により光を照射する領域(発光領域)を選択可能なToF測距装置11において、測距結果L(u,v)、つまり壁面12までの距離の計算時に、発光パターンに応じた適切なキャリブレーション処理を行うことができる。これにより、より正確に測距を行うことができる。
特にToF測距装置11では、領域R201-1の照射用の光と領域R201-2の照射用の光の両方を照射する発光パターンL3での測距時には、各画素位置(u,v)に対応するキャリブレーションパラメータp01(u,v)を用いるので、画素位置(u,v)ごとに最適なキャリブレーション処理を行うことができる。
〈第2の実施の形態〉
〈ROMに格納しておくパラメータについて〉
ところで、第1の実施の形態では、領域R201-1の照射用の光と領域R201-2の照射用の光の両方を照射する発光パターンL3で測距を行うには、イメージセンサ23の画素数分だけキャリブレーションパラメータp01(u,v)が必要である。
〈ROMに格納しておくパラメータについて〉
ところで、第1の実施の形態では、領域R201-1の照射用の光と領域R201-2の照射用の光の両方を照射する発光パターンL3で測距を行うには、イメージセンサ23の画素数分だけキャリブレーションパラメータp01(u,v)が必要である。
そこで、第2の実施の形態では、ROM26における、キャリブレーションパラメータを記録する記録領域の総容量を低減させることができるようにした。
以下では、第1の実施の形態における場合と同様に、壁面12が図4に示した領域R201-1と領域R201-2に分割され、それらの領域R201-1と領域R201-2の少なくとも何れかが測距対象の領域とされて距離が計算される場合について説明する。
第2の実施の形態においては、領域R201-1のみに光を照射した場合、つまり発光パターンL1における場合のキャリブレーションパラメータp0と、領域R201-2のみに光を照射した場合、つまり発光パターンL2における場合のキャリブレーションパラメータp1とが予めROM26に格納される。これらのキャリブレーションパラメータp0とキャリブレーションパラメータp1は、第1の実施の形態における場合と同様のものである。
さらに、領域R201-1と領域R201-2の両方に光を照射した場合、つまり発光パターンL3における場合の各画素位置(u,v)において受光される合成波を構成する、領域R201-1の照射用の光(領域R201-1を照射する光)と領域R201-2の照射用の光の割り合いに関するデータも予めROM26に格納される。
ここでは、合成波を構成する領域R201-1の照射用の光と領域R201-2の照射用の光の割り合いに関するデータは、例えば各画素位置(u,v)における、領域R201-1の照射用の光の受光強度情報C0(u,v)および領域R201-2の照射用の光の受光強度情報C1(u,v)とされる。
画素位置(u,v)にある画素が受光した領域R201-1の照射用の光の強度をC0(u,v)とし、画素位置(u,v)にある画素が受光した領域R201-2の照射用の光の強度をC1(u,v)とする。
この場合、画素位置(u,v)にある画素によって受光される合成波(反射光)における、領域R201-1の照射用の光と領域R201-2の照射用の光の割り合いは、C0(u,v):C1(u,v)となる。したがって、受光強度情報C0(u,v)や受光強度情報C1(u,v)は、画素位置(u,v)にある画素で受光される合成波(光)に対する、領域R201-1の照射用の光や領域R201-2の照射用の光の寄与率を示す情報(寄与率に関する情報)であるということができる。
上述のように、キャリブレーションパラメータp0やキャリブレーションパラメータp1は、10個程度のスカラ量のデータである。
これに対して、2つの照射光の割り合いを示す受光強度情報C0(u,v)と受光強度情報C1(u,v)は、合計で2個のスカラ量のデータである。
したがって、第2の実施の形態では、ROM26に格納しておくデータの量は、「20+2×(イメージセンサ23の画素数)」程度のスカラ量となるので、「10×(イメージセンサ23の画素数)」程度のスカラ量と比較してROM26の容量を節約できる。すなわち、第1の実施の形態では、「20+10×(イメージセンサ23の画素数)」程度のスカラ量のデータをROM26に格納しておく必要があったのと比較すると、第2の実施の形態では、大幅に記録しておくべきデータの量を削減することができる。
次に、ROM26にキャリブレーションパラメータp0、キャリブレーションパラメータp1、受光強度情報C0(u,v)、および受光強度情報C1(u,v)が格納されている状態で、ToF測距装置11により測距が行われるときの処理について説明する。
まず、領域R201-1のみに光を照射した場合、つまり発光パターンL1の場合、演算部24は、ROM26からキャリブレーションパラメータp0を読み出す。
そして演算部24は、イメージセンサ23から供給される出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)と、キャリブレーションパラメータp0とに基づいて画素位置(u,v)ごとに次式(2)を計算することで測距結果L(u,v)を求める。なお、式(2)では上述の式(1)と同様の計算が行われ、その計算の過程ではキャリブレーション処理、すなわちキャリブレーションパラメータに基づく補正も同時に行われる。
また、領域R201-2のみに光を照射した場合、つまり発光パターンL2の場合、演算部24は、ROM26からキャリブレーションパラメータp1を読み出す。
そして演算部24は、イメージセンサ23から供給される出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)と、キャリブレーションパラメータp1とに基づいて画素位置(u,v)ごとに次式(3)を計算することで測距結果L(u,v)を求める。なお、式(3)では上述の式(1)と同様の計算が行われ、その計算の過程ではキャリブレーション処理、すなわちキャリブレーションパラメータに基づく補正も同時に行われる。
さらに、領域R201-1と領域R201-2の両方に光を照射した場合、つまり発光パターンL3の場合、演算部24は、ROM26からキャリブレーションパラメータp0、キャリブレーションパラメータp1、受光強度情報C0(u,v)、および受光強度情報C1(u,v)を読み出す。
そして演算部24は、イメージセンサ23から供給される出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)と、キャリブレーションパラメータp0、キャリブレーションパラメータp1、受光強度情報C0(u,v)、および受光強度情報C1(u,v)とに基づいて画素位置(u,v)ごとに以下の式(4)乃至式(8)を満たす測距結果L(u,v)を求める。換言すれば、演算部24は、以下の式(4)乃至式(8)からなる連立方程式を解くことで測距結果L(u,v)を求める。
なお、式(8)においてw0およびw1は、実際の測距時におけるレーザ32から出力する光(照射光)の光量を調整するためのパラメータであり、以下では、これらのw0およびw1を発光強度調整値と呼ぶこととする。
例えば発光強度調整値w0は、領域R201-1の照射用の光の光量を示す0から100までの何れかの値とされる。特に、発光強度調整値w0は、領域R201-1の照射用の光の最大の発光強度(光量)を100としたときの実際に出力させる領域R201-1の照射用の光の発光強度を示す値とされる。
同様に、発光強度調整値w1は、領域R201-2の照射用の光の光量を示しており、例えば領域R201-2の照射用の光の最大の発光強度を100としたときの実際に出力させる領域R201-2の照射用の光の発光強度を示す0から100までの何れかの値とされる。
発光強度調整値w0および発光強度調整値w1は、制御部21によって設定される。なお、発光強度調整値w0および発光強度調整値w1については、例えば上述の特許文献2に記載されている。
ここで、式(4)乃至式(8)について説明する。
領域R201-1の照射用の光と、領域R201-2の照射用の光の両方を発光させた場合、イメージセンサ23の各画素で受光される光(反射光)は合成波となる。その合成波のうちの1つ(一方)の成分は領域R201-1の照射用の光であり、もう1つ(他方)の成分は領域R201-2の照射用の光である。
イメージセンサ23における画素位置(u,v)の画素で受光された光のうち、領域R201-1の照射用の光の成分に基づく出力を出力データI0(u,v)および出力データQ0(u,v)とし、領域R201-2の照射用の光の成分に基づく出力を出力データI1(u,v)および出力データQ1(u,v)とする。
測距時に領域R201-1の照射用の光のみを使用した場合におけるキャリブレーションパラメータはp0であるから、式(4)が成立する。同様に、領域R201-2の照射用の光のみを使用した場合におけるキャリブレーションパラメータはp1であるから、式(5)が成立する。
また、測距時に領域R201-1の照射用の光と領域R201-2の照射用の光の両方を使用した(発光させた)場合には、イメージセンサ23の各画素で受光する光は、領域R201-1の照射用の光と領域R201-2の照射用の光の合成波である。
したがって、実際の測距時における各画素位置(u,v)の画素からの出力、すなわち画素における光の観測値を、出力データI(u,v)および出力データQ(u,v)とすると、上述の式(6)および式(7)が成立する。
出力データI(u,v)の二乗値(差分Iの二乗値)と出力データQ(u,v)の二乗値(差分Qの二乗値)を加算して平方根をとった値は、画素位置(u,v)の画素で受光された光の強度となる。このことは、例えば非特許文献1の式(27)に記載されている。
また、実際の測距時には、発光強度調整値w0により示される発光強度で領域R201-1の照射用の光が出力され、発光強度調整値w1により示される発光強度で領域R201-2の照射用の光が出力される。
したがって、各画素位置(u,v)の画素で受光される、領域R201-1の照射用の光の強度と領域R201-2の照射用の光の強度との比は、「w0×C0(u,v)」:「w1×C1(u,v)」となるので、上述の式(8)が成立する。
以上が、式(4)乃至式(8)の説明である。
式(4)乃至式(8)において、未知数は測距結果L(u,v)、出力データI0(u,v)、出力データQ0(u,v)、出力データI1(u,v)、および出力データQ1(u,v)である。そのため、式(4)乃至式(8)の連立方程式を解くことで、これら未知数を求め、得られた測距結果L(u,v)を出力すればよい。この場合においても、上述の式(1)における場合と同様に、距離(測距結果L(u,v))を求める計算の過程でキャリブレーション処理、すなわちキャリブレーションパラメータに基づく補正も同時に行われる。
〈書き込み処理の説明〉
続いて、第2の実施の形態における書き込み処理について説明する。
続いて、第2の実施の形態における書き込み処理について説明する。
すなわち、以下、図10のフローチャートを参照して、キャリブレーションパラメータ等がROM26へと書き込まれる書き込み処理について説明する。
ステップS71において制御部21は、制御信号をLDD31-1に供給してLDD31-1を制御することで、レーザ32-1に領域R201-1の照射用の光を発光(出力)させるとともに、イメージセンサ23の各画素に制御信号を供給し、受光動作を行わせる。すなわち、発光パターンL1での発光が行われる。
この場合、制御部21は、発光強度調整値w0=100として、最大の発光強度でレーザ32-1が光を出力するようにLDD31-1を制御し、壁面12には、領域R201-1の照射用の光のみが照射される。
また、演算部24は、イメージセンサ23から供給された各画素位置(u,v)の出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)とを用い、かつキャリブレーションパラメータは用いずに距離(測距結果L(u,v))を計算し、その計算結果を、出力端子25を介してキャリブレーション装置に出力する。
キャリブレーション装置は、演算部24から供給された各画素位置(u,v)の測距結果L(u,v)と予め用意された実際の距離(距離の真値)とに基づいてキャリブレーションを行い、全画素位置(u,v)で共通のキャリブレーションパラメータp0を求める。なお、キャリブレーション装置は、既存の装置を用いればよい。
キャリブレーション装置は、キャリブレーション結果として得られたキャリブレーションパラメータp0を、ToF測距装置11の入力端子等から、制御部21を介してROM26へと供給する。
ステップS72においてROM26は、キャリブレーション装置から供給されたキャリブレーションパラメータp0を記録する。
ステップS73においてROM26は、各画素位置(u,v)におけるConfidenceの値を受光強度情報C0(u,v)として記録する。
例えば演算部24は、ステップS71で得られた出力データI(u,v)および出力データQ(u,v)に基づいて、出力データI(u,v)の二乗値と出力データQ(u,v)の二乗値とを加算して平方根をとった値をConfidenceとして求める。そして演算部24は、求めたConfidenceの値、すなわち受光した光の強度を受光強度情報C0(u,v)としてROM26に供給し、記録させる。
なお、Confidenceについては、例えば非特許文献1の式(27)に記載されている。また、受光強度情報C0(u,v)の算出は、演算部24に限らず、制御部21により行われてもよいし、キャリブレーション装置により行われてもよい。
ステップS74において制御部21は、制御信号をLDD31-2に供給することで、レーザ32-2に領域R201-2の照射用の光を発光させるとともに、イメージセンサ23の各画素に制御信号を供給し、受光動作を行わせる。すなわち、発光パターンL2での発光が行われる。
この場合、制御部21は、発光強度調整値w1=100として、最大の発光強度でレーザ32-2が光を出力するようにLDD31-2を制御し、壁面12には、領域R201-2の照射用の光のみが照射される。
演算部24は、イメージセンサ23から供給された各画素位置(u,v)の出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)とを用いて、キャリブレーションパラメータを用いずに距離(測距結果L(u,v))を計算し、その計算結果を、出力端子25を介してキャリブレーション装置に出力する。
また、キャリブレーション装置は、演算部24から供給された各画素位置(u,v)の測距結果L(u,v)と予め用意された実際の距離とに基づいてキャリブレーションを行い、全画素位置(u,v)で共通のキャリブレーションパラメータp1を求める。
キャリブレーション装置は、キャリブレーション結果として得られたキャリブレーションパラメータp1を、ToF測距装置11の制御部21等を介してROM26に供給する。
ステップS75においてROM26は、キャリブレーション装置から供給されたキャリブレーションパラメータp1を記録する。
ステップS76においてROM26は、各画素位置(u,v)におけるConfidenceの値を受光強度情報C1(u,v)として記録する。
すなわち、ステップS76では、ステップS73における場合と同様に、演算部24は、ステップS74で得られた出力データI(u,v)および出力データQ(u,v)に基づいてConfidenceを求め、そのConfidenceの値を受光強度情報C1(u,v)としてROM26に記録させる。
このようにしてROM26にキャリブレーションパラメータp0、キャリブレーションパラメータp1、受光強度情報C0(u,v)、および受光強度情報C1(u,v)が格納される(書き込まれる)と、書き込み処理は終了する。
これにより、実際に測距を行うときの距離の計算時に行われるキャリブレーション処理に必要なキャリブレーションパラメータ等が全てROM26に格納されたことになる。
以上のようにしてToF測距装置11は、発光パターンL1で求められたキャリブレーションパラメータp0および受光強度情報C0(u,v)と、発光パターンL2で求められたキャリブレーションパラメータp1および受光強度情報C1(u,v)とをROM26に記録する。
このようにすることで、レーザ32により光を照射する領域(発光領域)を選択可能なToF測距装置11において、実際の測距時に適切なキャリブレーション処理を行うことができるようになる。特に、この場合、全ての発光パターンについてキャリブレーションパラメータを保持しておく必要がないので、ROM26に記録しておくべきデータの量を削減することができる。
〈測距処理の説明〉
次に、実際の測距時に行われる処理について説明する。
次に、実際の測距時に行われる処理について説明する。
すなわち、以下、図11のフローチャートを参照して、ToF測距装置11による測距処理について説明する。
なお、ステップS101およびステップS102の処理は、図9のステップS41およびステップS42における場合と同様であるので、その説明は省略する。
但し、ステップS101では、制御部21は、選択した発光パターン等に応じて、発光させる各レーザ32についての発光強度調整値を決定し、その発光強度調整値により示される発光強度でレーザ32が発光するようにLDD31を制御する。
また、ステップS101およびステップS102の処理が行われると、演算部24は、制御部21から供給された情報に基づいて、レーザ群32の発光パターンを判別する。
ステップS103において演算部24は、制御部21から供給された情報に基づいて、発光パターンが発光パターンL1であるか否かを判定する。
ステップS103において発光パターンL1であると判定された場合、演算部24は、発光パターンL1に対応する全画素位置(u,v)で共通のキャリブレーションパラメータp0をROM26から読み出し、その後、処理はステップS104へと進む。
ステップS104において演算部24は、イメージセンサ23から供給された出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)と、キャリブレーションパラメータp0とに基づいて、上述の式(2)により画素位置(u,v)ごとに距離(測距結果L(u,v))を計算する。
演算部24は、得られた測距結果L(u,v)を、出力端子25を介して外部に出力し、測距処理は終了する。
また、ステップS103において発光パターンL1ではないと判定された場合、ステップS105において演算部24は、制御部21から供給された情報に基づいて、発光パターンが発光パターンL2であるか否かを判定する。
ステップS105において発光パターンL2であると判定された場合、演算部24は、発光パターンL2に対応する全画素位置(u,v)で共通のキャリブレーションパラメータp1をROM26から読み出し、その後、処理はステップS106へと進む。
ステップS106において演算部24は、イメージセンサ23から供給された出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)と、キャリブレーションパラメータp1とに基づいて、上述の式(3)により画素位置(u,v)ごとに距離(測距結果L(u,v))を計算する。
演算部24は、得られた測距結果L(u,v)を、出力端子25を介して外部に出力し、測距処理は終了する。
また、ステップS105において発光パターンL2ではないと判定された場合、すなわち発光パターンL3である場合、処理はステップS107へと進む。
この場合、演算部24は、ROM26からキャリブレーションパラメータp0、キャリブレーションパラメータp1、受光強度情報C0(u,v)、および受光強度情報C1(u,v)を読み出す。また、演算部24は、ステップS101での発光時における発光強度調整値w0および発光強度調整値w1を制御部21から取得する。
ステップS107において演算部24は、ROM26から読み出したキャリブレーションパラメータと受光強度情報を用いて、画素位置(u,v)ごとに距離(測距結果L(u,v))を計算する。
具体的には演算部24は、イメージセンサ23から供給された出力データI(u,v)および出力データQ(u,v)と、画素位置(u,v)と、キャリブレーションパラメータp0、キャリブレーションパラメータp1、受光強度情報C0(u,v)、および受光強度情報C1(u,v)と、発光強度調整値w0および発光強度調整値w1とに基づいて式(4)乃至式(8)の連立方程式を解く。
これにより、式(4)乃至式(8)で未知数となっている測距結果L(u,v)、出力データI0(u,v)、出力データQ0(u,v)、出力データI1(u,v)、および出力データQ1(u,v)が求まる。
演算部24は、このようにして画素位置(u,v)ごとに求められた測距結果L(u,v)を、出力端子25を介して外部に出力し、測距処理は終了する。
以上のようにしてToF測距装置11は、発光パターンに応じて、キャリブレーションパラメータや受光強度情報を用いて、測距対象となる壁面12までの距離を計算する。
このようにすることで、レーザ32により光を照射する領域(発光領域)を選択可能なToF測距装置11において、壁面12までの距離の計算時に、発光パターンに応じた適切なキャリブレーション処理を行うことができる。これにより、より正確に測距を行うことができる。
特にToF測距装置11では、発光パターンL3での測距のために、画素位置(u,v)ごとのキャリブレーションパラメータp01(u,v)を用意する必要がないため、ROM26に記録しておくべきデータの量を削減することができる。
〈一般化した場合について〉
ところで、以上においては、第2の実施の形態の説明をするにあたり、壁面12が領域R201-1と領域R201-2に2分割される場合、すなわちレーザ32やLDD31の個数Mが2である場合について説明したが、以下では一般化した場合について説明する。
ところで、以上においては、第2の実施の形態の説明をするにあたり、壁面12が領域R201-1と領域R201-2に2分割される場合、すなわちレーザ32やLDD31の個数Mが2である場合について説明したが、以下では一般化した場合について説明する。
ここでは、M個のレーザ32のうちの所定のレーザ32-m(但し、m=1乃至M)により光が出力されると、その光はレーザ32-mに対応する壁面12上の領域R201-mに照射されるとする。換言すれば、レーザ32-mは領域R201-mの照射用の光を出力する。
キャリブレーション時、すなわち書き込み処理時にはM個のレーザ32、すなわちM個の領域R201を1つずつ発光させ、図10のステップS71およびステップS72における場合と同様にして、キャリブレーション装置によりキャリブレーションが行われる。
なお、キャリブレーション時には、レーザ32-mは、発光強度調整値が100とされて最大の発光強度で発光するように制御される。また、この場合においてもキャリブレーション装置は、既存の装置を用いればよい。
ここで、1つのレーザ32-m(但し、m=1乃至M)のみを発光させてキャリブレーションを行うことで得られた、全画素位置(u,v)で共通のキャリブレーションパラメータをpm-1とする。
このキャリブレーションパラメータをpm-1は、レーザ32-mにより出力される領域R201-mの照射用の光について求められた、1つの領域R201-mのみを発光領域とした場合、すなわち領域R201-mの照射用の光のみが照射された場合におけるキャリブレーションパラメータである。
ToF測距装置11では、このようにして領域R201-mごと、つまり領域R201-mの照射用の光ごとに得られたM個のキャリブレーションパラメータpm-1(m=1乃至M)がROM26に書き込まれる。
また、1つのレーザ32-m(但し、m=1乃至M)のみを発光させたときに得られた各画素位置(u,v)における出力データI(u,v)および出力データQ(u,v)に基づいてConfidenceの値が求められる。そして、得られたConfidenceの値が受光強度情報Cm-1(u,v)としてROM26に記録される。
このようにしてキャリブレーション処理、すなわち図10に対応する書き込み処理を行うことで、ROM26には、m(m=1乃至M)番目の領域R201-mのみに光を照射した場合のキャリブレーションパラメータpm-1が格納される。
また、m番目の領域R201-mのみに光を照射した場合のイメージセンサ23の各画素位置(u,v)にある画素で受光する光の強度、すなわちConfidenceの値を示す受光強度情報Cm-1(u,v)もROM26に格納される。
次に、実際の測距時における処理について説明する。
ここでは、ToF測距装置11がレーザ群32を構成するM個のレーザ32のうちの2以上であるMa個のレーザ32を発光させたとする。換言すれば、2以上のMa個の領域R201が測距対象とされたとする。
以下では、発光したレーザ32、すなわち光が照射される領域R201を示すインデックスをr_m(但し、m=0乃至Ma-1)とする。また、インデックスr_mにより示されるレーザ32をレーザ32-r_mと記し、そのレーザ32-r_mに対応する領域R201を領域R201-r_mと記すこととする。
したがって、M個のレーザ32のうち、レーザ32-r_0乃至レーザ32-r_(Ma-1)以外のレーザ32は発光せず、レーザ32-r_mにより、領域R201ごとの照射用の光が領域R201-r_mに対して照射される。
この場合、演算部24では、以下の式(9)乃至式(12)を満たす出力データIr_m(u,v)、出力データQr_m(u,v)、および測距結果L(u,v)が求められる。
すなわち、演算部24は出力データI(u,v)、出力データQ(u,v)、画素位置(u,v)、キャリブレーションパラメータpr_m、受光強度情報Cr_m(u,v)、および発光強度調整値wr_mに基づいて測距結果L(u,v)を求め、得られた測距結果L(u,v)を、出力端子25を介して外部に出力する。測距結果L(u,v)の計算時(計算過程)では、キャリブレーションパラメータpr_mに基づく、サイン波の光に関する補正や制御信号の伝達時間に関する補正も行われる。
ここで、発光したレーザ32を示すインデックスr_mにおけるmは0乃至Ma-1である。
また、式(12)においてwr_mは、インデックスr_mにより示されるレーザ32-r_mについての領域R201-r_mの照射用の光の光量を示す発光強度調整値であり、上述の例と同様に、発光強度調整値wr_mの値は0から100までの何れかの値とされる。
実際の測距時には、制御部21により定められた発光強度調整値wr_mに従って、LDD31-r_mはレーザ32-r_mを発光させる。すなわち、レーザ32-r_mは、発光強度調整値wr_mにより示される発光強度(光量)で発光する。
ここで、式(9)乃至式(12)について説明する。
Ma個のレーザ32(領域R201)を発光させた場合、イメージセンサ23の各画素で受光される光(反射光)は合成波となる。
その合成波のうち、レーザ32-r_mから出力された光の成分、すなわち領域R201-r_mの照射用の光の成分に基づく画素の出力を出力データIr_m(u,v)および出力データQr_m(u,v)とする。
測距時に領域R201-r_mの照射用の光のみを使用した場合におけるキャリブレーションパラメータはpr_mであるから、式(9)が成立する(但し、m=0乃至Ma-1)。
また、実際に各画素位置(u,v)にある画素から出力される出力データであるIおよびQ、すなわち画素における光の観測値を出力データI(u,v)および出力データQ(u,v)とすると、式(10)および式(11)が成立する。
上述のように、出力データI(u,v)の二乗値と出力データQ(u,v)の二乗値を加算して平方根をとった値は、画素位置(u,v)の画素で受光された光の強度となり、このことは、例えば非特許文献1の式(27)に記載されている。
また、実際の測距時には、発光強度調整値wr_mにより示される発光強度で領域R201-r_mの照射用の光が出力される。
したがって、各画素位置(u,v)の画素で受光される、領域R201-r_mの照射用の光の強度の比は、「wr_m×Cr_m(u,v)」に比例するので式(12)が成立する。
以上が、式(9)乃至式(12)の説明である。
式(9)乃至式(12)において、未知数は測距結果L(u,v)、出力データIr_m(u,v)、および出力データQr_m(u,v)である。そのため、式(9)乃至式(12)の連立方程式を解くことで、これら未知数を求め、得られた測距結果L(u,v)を出力すればよい。
また、測距時に1つの領域R201-mのみに光が照射された場合には、図11のステップS104やステップS106における場合と同様の処理が行われる。すなわち、領域R201-mの照射用の光についてのキャリブレーションパラメータpm-1に基づいて、測距結果L(u,v)が求められる。
最後に、以上において説明した本技術の特徴と利点を述べる。
まず、上述した第1の実施の形態の特徴と利点は、以下の通りである。
図5の矢印Q53に示した例では、領域Aについては、領域R201-1を照射する光と領域R201-2を照射する光との合成波が受光されて測距が行われる。
これらの2つの光は異なるので、合成波は、領域R201-1を照射する光とは異なり、かつ、領域R201-2を照射する光とも異なる。しかも、合成波を構成する「領域R201-1を照射する光」と「領域R201-2を照射する光」の割合は、その合成波が受光されるセンサ上の画素の位置に依存している。
そのため、領域R201-1と領域R201-2の両方を発光した場合のためのキャリブレーションパラメータは、どのような形式で保持すべきか、そして、どのように補正を行えばよいかが知られていなかった。
そこで、第1の実施の形態では、領域R201-1を照射する光と領域R201-2を照射する光の両方を照射した場合のためのキャリブレーションパラメータとして、画素位置ごとに適切な値(キャリブレーションパラメータp01(u,v))がROM26に書き込まれるようにした。これにより、各画素位置について、適切な補正(キャリブレーション処理)を行うことができるようになる。
また、第2の実施の形態の特徴と利点は、以下の通りである。
各領域R201のみに光を照射したときにイメージセンサ23の各画素位置(u,v)にある画素で受光する光の強度、すなわち受光強度情報Cm-1(u,v)に関するデータがROM26に書き込まれる。実際の測距時には、この受光強度情報Cm-1(u,v)の比を用いることでキャリブレーション処理が行われる。このような構成とすることで、ROM26に格納しておくべきデータの量をより少なくすることができる。
〈コンピュータの構成例〉
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図12は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
コンピュータにおいて、CPU(Central Processing Unit)501,ROM502,RAM(Random Access Memory)503は、バス504により相互に接続されている。
バス504には、さらに、入出力インターフェース505が接続されている。入出力インターフェース505には、入力部506、出力部507、記録部508、通信部509、及びドライブ510が接続されている。
入力部506は、キーボード、マウス、マイクロフォン、撮像素子などよりなる。出力部507は、レーザ、ディスプレイ、スピーカなどよりなる。記録部508は、ハードディスクや不揮発性のメモリなどよりなる。通信部509は、ネットワークインターフェースなどよりなる。ドライブ510は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブル記録媒体511を駆動する。
以上のように構成されるコンピュータでは、CPU501が、例えば、記録部508に記録されているプログラムを、入出力インターフェース505及びバス504を介して、RAM503にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU501)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブル記録媒体511に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータでは、プログラムは、リムーバブル記録媒体511をドライブ510に装着することにより、入出力インターフェース505を介して、記録部508にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部509で受信し、記録部508にインストールすることができる。その他、プログラムは、ROM502や記録部508に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
〈移動体への応用例〉
このように、本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
このように、本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図13は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図13に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図13の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図14は、撮像部12031の設置位置の例を示す図である。
図14では、車両12100は、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。撮像部12101及び12105で取得される前方の画像は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図14には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、撮像部12031や車外情報検出ユニット12030等に適用され得る。具体的には、例えば図6に示したToF測距装置11を撮像部12031および車外情報検出ユニット12030として用いることができる。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、本技術は、以下の構成とすることも可能である。
(1)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する演算部を備える
測距装置。
(2)
前記距離の計算時に、前記キャリブレーションパラメータに基づく補正が行われる
(1)に記載の測距装置。
(3)
前記キャリブレーションパラメータは、前記センサの全画素共通で用いられる
(1)または(2)に記載の測距装置。
(4)
発光強度調整値に応じた光量で、前記領域ごとの照射用の光が照射された場合、
前記演算部は、前記出力データ、前記寄与率に関する情報、前記キャリブレーションパラメータ、および前記領域の照射用の光ごとの前記発光強度調整値に基づいて前記距離を計算する
(1)乃至(3)の何れか一項に記載の測距装置。
(5)
1つの前記領域のみに対して、前記領域の照射用の光が照射された場合、
前記演算部は、前記出力データおよび前記キャリブレーションパラメータに基づいて前記距離を計算する
(1)乃至(4)の何れか一項に記載の測距装置。
(6)
前記演算部は、前記画素ごとに前記距離を計算する
(1)乃至(5)の何れか一項に記載の測距装置。
(7)
前記寄与率に関する情報、および前記キャリブレーションパラメータを記録する記録部をさらに備える
(1)乃至(6)の何れか一項に記載の測距装置。
(8)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置が、
2以上の各前記領域に対して、前記領域ごとの照射用の光を照射した場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
測距方法。
(9)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置を制御するコンピュータに、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
ステップを含む処理を実行させるプログラム。
(10)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
前記複数の前記領域からの光を受光するセンサの画素ごとに求められた、前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
前記領域の照射用の光ごとに求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
を記録する記録部を備える
測距装置。
(11)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素ごとに求められたキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する演算部を備える
測距装置。
(12)
前記距離の計算時に、前記キャリブレーションパラメータに基づく補正が行われる
(11)に記載の測距装置。
(13)
1つの前記領域のみに対して、前記領域の照射用の光が照射された場合、
前記演算部は、前記出力データと、前記1つの前記領域の照射用の光のみが照射された場合における、前記センサの全画素共通のキャリブレーションパラメータとに基づいて前記距離を計算する
(11)または(12)に記載の測距装置。
(14)
前記演算部は、前記画素ごとに前記距離を計算する
(11)乃至(13)の何れか一項に記載の測距装置。
(15)
前記画素ごとに求められたキャリブレーションパラメータ、および前記領域の照射用の光ごとに求められた全画素共通のキャリブレーションパラメータを記録する記録部をさらに備える
(13)に記載の測距装置。
(16)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置が、
2以上の各前記領域に対して、前記領域ごとの照射用の光を照射した場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素ごとに求められたキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
測距方法。
(17)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置を制御するコンピュータに、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素ごとに求められたキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
ステップを含む処理を実行させるプログラム。
(18)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
前記複数の前記領域からの光を受光するセンサの画素ごとに求められたキャリブレーションパラメータを記録する記録部を備える
測距装置。
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する演算部を備える
測距装置。
(2)
前記距離の計算時に、前記キャリブレーションパラメータに基づく補正が行われる
(1)に記載の測距装置。
(3)
前記キャリブレーションパラメータは、前記センサの全画素共通で用いられる
(1)または(2)に記載の測距装置。
(4)
発光強度調整値に応じた光量で、前記領域ごとの照射用の光が照射された場合、
前記演算部は、前記出力データ、前記寄与率に関する情報、前記キャリブレーションパラメータ、および前記領域の照射用の光ごとの前記発光強度調整値に基づいて前記距離を計算する
(1)乃至(3)の何れか一項に記載の測距装置。
(5)
1つの前記領域のみに対して、前記領域の照射用の光が照射された場合、
前記演算部は、前記出力データおよび前記キャリブレーションパラメータに基づいて前記距離を計算する
(1)乃至(4)の何れか一項に記載の測距装置。
(6)
前記演算部は、前記画素ごとに前記距離を計算する
(1)乃至(5)の何れか一項に記載の測距装置。
(7)
前記寄与率に関する情報、および前記キャリブレーションパラメータを記録する記録部をさらに備える
(1)乃至(6)の何れか一項に記載の測距装置。
(8)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置が、
2以上の各前記領域に対して、前記領域ごとの照射用の光を照射した場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
測距方法。
(9)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置を制御するコンピュータに、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
ステップを含む処理を実行させるプログラム。
(10)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
前記複数の前記領域からの光を受光するセンサの画素ごとに求められた、前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
前記領域の照射用の光ごとに求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
を記録する記録部を備える
測距装置。
(11)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素ごとに求められたキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する演算部を備える
測距装置。
(12)
前記距離の計算時に、前記キャリブレーションパラメータに基づく補正が行われる
(11)に記載の測距装置。
(13)
1つの前記領域のみに対して、前記領域の照射用の光が照射された場合、
前記演算部は、前記出力データと、前記1つの前記領域の照射用の光のみが照射された場合における、前記センサの全画素共通のキャリブレーションパラメータとに基づいて前記距離を計算する
(11)または(12)に記載の測距装置。
(14)
前記演算部は、前記画素ごとに前記距離を計算する
(11)乃至(13)の何れか一項に記載の測距装置。
(15)
前記画素ごとに求められたキャリブレーションパラメータ、および前記領域の照射用の光ごとに求められた全画素共通のキャリブレーションパラメータを記録する記録部をさらに備える
(13)に記載の測距装置。
(16)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置が、
2以上の各前記領域に対して、前記領域ごとの照射用の光を照射した場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素ごとに求められたキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
測距方法。
(17)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置を制御するコンピュータに、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素ごとに求められたキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
ステップを含む処理を実行させるプログラム。
(18)
複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
前記複数の前記領域からの光を受光するセンサの画素ごとに求められたキャリブレーションパラメータを記録する記録部を備える
測距装置。
11 ToF測距装置, 21 制御部, 22 発光部, 23 イメージセンサ, 24 演算部, 25 出力端子, 26 ROM
Claims (18)
- 複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する演算部を備える
測距装置。 - 前記距離の計算時に、前記キャリブレーションパラメータに基づく補正が行われる
請求項1に記載の測距装置。 - 前記キャリブレーションパラメータは、前記センサの全画素共通で用いられる
請求項1に記載の測距装置。 - 発光強度調整値に応じた光量で、前記領域ごとの照射用の光が照射された場合、
前記演算部は、前記出力データ、前記寄与率に関する情報、前記キャリブレーションパラメータ、および前記領域の照射用の光ごとの前記発光強度調整値に基づいて前記距離を計算する
請求項1に記載の測距装置。 - 1つの前記領域のみに対して、前記領域の照射用の光が照射された場合、
前記演算部は、前記出力データおよび前記キャリブレーションパラメータに基づいて前記距離を計算する
請求項1に記載の測距装置。 - 前記演算部は、前記画素ごとに前記距離を計算する
請求項1に記載の測距装置。 - 前記寄与率に関する情報、および前記キャリブレーションパラメータを記録する記録部をさらに備える
請求項1に記載の測距装置。 - 複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置が、
2以上の各前記領域に対して、前記領域ごとの照射用の光を照射した場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
測距方法。 - 複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置を制御するコンピュータに、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
測距対象の各前記領域の照射用の光について求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
ステップを含む処理を実行させるプログラム。 - 複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
前記複数の前記領域からの光を受光するセンサの画素ごとに求められた、前記画素で受光される光における、前記領域の照射用の光の寄与率に関する情報と、
前記領域の照射用の光ごとに求められた、1つの前記領域の照射用の光のみが照射された場合におけるキャリブレーションパラメータと
を記録する記録部を備える
測距装置。 - 複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素ごとに求められたキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する演算部を備える
測距装置。 - 前記距離の計算時に、前記キャリブレーションパラメータに基づく補正が行われる
請求項11に記載の測距装置。 - 1つの前記領域のみに対して、前記領域の照射用の光が照射された場合、
前記演算部は、前記出力データと、前記1つの前記領域の照射用の光のみが照射された場合における、前記センサの全画素共通のキャリブレーションパラメータとに基づいて前記距離を計算する
請求項11に記載の測距装置。 - 前記演算部は、前記画素ごとに前記距離を計算する
請求項11に記載の測距装置。 - 前記画素ごとに求められたキャリブレーションパラメータ、および前記領域の照射用の光ごとに求められた全画素共通のキャリブレーションパラメータを記録する記録部をさらに備える
請求項13に記載の測距装置。 - 複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置が、
2以上の各前記領域に対して、前記領域ごとの照射用の光を照射した場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素ごとに求められたキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
測距方法。 - 複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能な測距装置を制御するコンピュータに、
2以上の各前記領域に対して、前記領域ごとの照射用の光が照射された場合、
前記複数の前記領域からの光を受光するセンサの画素ごとに出力された、前記画素における受光量に応じた出力データと、
前記画素ごとに求められたキャリブレーションパラメータと
に基づいて前記領域までの距離を計算する
ステップを含む処理を実行させるプログラム。 - 複数の領域のうちの測距対象とする1以上の前記領域に選択的に光を照射可能であり、
前記複数の前記領域からの光を受光するセンサの画素ごとに求められたキャリブレーションパラメータを記録する記録部を備える
測距装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021104056A JP2023003094A (ja) | 2021-06-23 | 2021-06-23 | 測距装置および方法、並びにプログラム |
PCT/JP2022/006056 WO2022269995A1 (ja) | 2021-06-23 | 2022-02-16 | 測距装置および方法、並びにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021104056A JP2023003094A (ja) | 2021-06-23 | 2021-06-23 | 測距装置および方法、並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023003094A true JP2023003094A (ja) | 2023-01-11 |
Family
ID=84543766
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021104056A Pending JP2023003094A (ja) | 2021-06-23 | 2021-06-23 | 測距装置および方法、並びにプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2023003094A (ja) |
WO (1) | WO2022269995A1 (ja) |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8587771B2 (en) * | 2010-07-16 | 2013-11-19 | Microsoft Corporation | Method and system for multi-phase dynamic calibration of three-dimensional (3D) sensors in a time-of-flight system |
WO2015119243A1 (ja) * | 2014-02-07 | 2015-08-13 | 国立大学法人静岡大学 | イメージセンサ |
US20160178991A1 (en) * | 2014-12-22 | 2016-06-23 | Google Inc. | Smart illumination time of flight system and method |
CN110192118A (zh) * | 2017-12-22 | 2019-08-30 | 索尼半导体解决方案公司 | 脉冲生成器和信号生成装置 |
JP2020067385A (ja) * | 2018-10-25 | 2020-04-30 | ソニーセミコンダクタソリューションズ株式会社 | 演算処理装置、測距装置及び演算処理方法 |
EP4053591A4 (en) * | 2019-10-28 | 2022-12-14 | Sony Semiconductor Solutions Corporation | DISTANCE MEASUREMENT SYSTEM, DRIVE METHOD AND ELECTRONIC DEVICE |
-
2021
- 2021-06-23 JP JP2021104056A patent/JP2023003094A/ja active Pending
-
2022
- 2022-02-16 WO PCT/JP2022/006056 patent/WO2022269995A1/ja unknown
Also Published As
Publication number | Publication date |
---|---|
WO2022269995A1 (ja) | 2022-12-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6834964B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP7214363B2 (ja) | 測距処理装置、測距モジュール、測距処理方法、およびプログラム | |
WO2017159382A1 (ja) | 信号処理装置および信号処理方法 | |
EP3358368A1 (en) | Signal processing apparatus, signal processing method, and program | |
US11548443B2 (en) | Display system, display method, and program for indicating a peripheral situation of a vehicle | |
JP6981377B2 (ja) | 車両用表示制御装置、車両用表示制御方法、及び制御プログラム | |
JP2019067345A (ja) | 車両制御装置、車両制御方法、およびプログラム | |
WO2021085128A1 (ja) | 測距装置、測定方法、および、測距システム | |
US20220317269A1 (en) | Signal processing device, signal processing method, and ranging module | |
US10771711B2 (en) | Imaging apparatus and imaging method for control of exposure amounts of images to calculate a characteristic amount of a subject | |
CN110293973B (zh) | 驾驶支援系统 | |
JP7305535B2 (ja) | 測距装置、及び、測距方法 | |
JP7030607B2 (ja) | 測距処理装置、測距モジュール、測距処理方法、およびプログラム | |
WO2021065494A1 (ja) | 測距センサ、信号処理方法、および、測距モジュール | |
US20220113410A1 (en) | Distance measuring device, distance measuring method, and program | |
WO2022269995A1 (ja) | 測距装置および方法、並びにプログラム | |
JP2020173128A (ja) | 測距センサ、信号処理方法、および、測距モジュール | |
CN113752945B (zh) | 车载显示系统 | |
WO2021065500A1 (ja) | 測距センサ、信号処理方法、および、測距モジュール | |
US20220381917A1 (en) | Lighting device, method for controlling lighting device, and distance measurement module | |
JP2019145021A (ja) | 情報処理装置、撮像装置、及び撮像システム | |
WO2021010175A1 (ja) | 測定装置および測定方法、並びにプログラム | |
WO2023281810A1 (ja) | 測距装置及び測距方法 | |
WO2022004441A1 (ja) | 測距装置および測距方法 | |
WO2021065495A1 (ja) | 測距センサ、信号処理方法、および、測距モジュール |