WO2023189599A1 - 距離画像センサ、および車両用灯具 - Google Patents
距離画像センサ、および車両用灯具 Download PDFInfo
- Publication number
- WO2023189599A1 WO2023189599A1 PCT/JP2023/010074 JP2023010074W WO2023189599A1 WO 2023189599 A1 WO2023189599 A1 WO 2023189599A1 JP 2023010074 W JP2023010074 W JP 2023010074W WO 2023189599 A1 WO2023189599 A1 WO 2023189599A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- image sensor
- light
- pixel
- distance
- sub
- Prior art date
Links
- 238000005286 illumination Methods 0.000 claims abstract description 22
- 230000010287 polarization Effects 0.000 claims abstract description 15
- 238000010586 diagram Methods 0.000 description 25
- 238000000034 method Methods 0.000 description 9
- 230000004048 modification Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000007423 decrease Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 238000002955 isolation Methods 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/10—Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
- G01S17/18—Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves wherein range gates are used
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Electromagnetism (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Abstract
物体までの距離情報を含む画像データを生成可能な距離画像センサにおいて、照明装置は、パルス照明光を視野に照射する。イメージセンサ(120)は、複数の受光画素を備え、各受光画素が複数のサブピクセルと、複数のサブピクセルに設けられた複数の偏光フィルタを有する。カメラコントローラは、照明装置の発光タイミングとイメージセンサ(120)の露光タイミングを制御する。イメージセンサ(120)が生成する画像データの各画素の値は、当該画素に対応する受光画素に含まれる複数のサブピクセルの値のうち、少なくとも最大値を除いた残りの値にもとづいている。
Description
本開示は、距離画像センサ、および車両用灯具に関する。
自動運転やヘッドランプの配光の自動制御のために、車両の周囲に存在する物体の位置および種類をセンシングする物体識別システムが利用される。物体識別システムは、センサと、センサの出力を解析する演算処理装置を含む。センサは、カメラ、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)、ミリ波レーダ、超音波ソナーなどの中から、用途、要求精度やコストを考慮して選択される。
一般的な単眼のカメラからは、奥行きの情報を得ることができない。したがって、異なる距離に位置する複数の物体が重なっている場合に、それらを分離することが難しい。
奥行き情報が得られるカメラとして、ToFカメラが知られている。ToF(Time of Flight)カメラは、発光デバイスによって赤外光を投光し、反射光がイメージセンサに戻ってくるまでの飛行時間を測定し、飛行時間を距離情報に変換したToF画像を得るものである。
本発明者らは、ToFカメラや間接ToFカメラなどの、物体までの距離情報を有する画像データを生成するセンサ(距離画像センサあるいは距離画像カメラという)について検討した結果、以下の課題を認識するに至った。
図1は、距離画像センサ900によるセンシングを説明する図である。照明装置902は、視野に向かって、パルス照明光L1を照射する。イメージセンサ904は、反射光L2を測定する。
イメージセンサ904には、一番奥側に位置する一次物体OBJpから反射した光が直接的に届く一次反射光L2aと、一次物体OBJpよりも手前の二次物体(ここでは左側の壁)OBJsによる反射を経て間接的に届く二次反射光L2bが入射する。二次反射光L2bにもとづく処理を行うと、二次物体OBJsが、二次物体OBJsの実際の位置よりも奥側に存在するものと誤検知される。
図2は、図1の状況において得られる距離情報を模式的に示す図である。図2に示される各種のハッチは、距離を示す。この例では、二次物体OBJsに対応する左の壁の一部分が、一次物体OBJpに対応する奥側の壁と同じ距離と誤認識される。
本開示は係る状況においてなされたものであり、そのある態様の例示的な目的のひとつは、物体の距離を正確に認識可能な距離画像センサの提供にある。
本開示のある態様は、物体までの距離情報を含む画像データを生成可能な距離画像センサに関する。距離画像センサは、パルス照明光を視野に照射する照明装置と、複数の受光画素を備え、各受光画素が複数のサブピクセルと、複数のサブピクセルに設けられた複数の偏光フィルタを有する、イメージセンサと、照明装置の発光タイミングとイメージセンサの露光タイミングを制御するカメラコントローラと、を備える。イメージセンサが生成する画像データの各画素の値は、当該画素に対応する受光画素に含まれる複数のサブピクセルの値のうち、少なくとも最大値を除いた残りの値にもとづいている。
本開示のある態様によれば、物体までの正確な距離を認識可能な距離画像センサを提供できる。
(実施形態の概要)
本開示のいくつかの例示的な実施形態の概要を説明する。この概要は、後述する詳細な説明の前置きとして、実施形態の基本的な理解を目的として、1つまたは複数の実施形態のいくつかの概念を簡略化して説明するものであり、発明あるいは開示の広さを限定するものではない。またこの概要は、考えられるすべての実施形態の包括的な概要ではなく、実施形態の欠くべからざる構成要素を限定するものではない。便宜上、「一実施形態」は、本明細書に開示するひとつの実施形態(実施例や変形例)または複数の実施形態(実施例や変形例)を指すものとして用いる場合がある。
本開示のいくつかの例示的な実施形態の概要を説明する。この概要は、後述する詳細な説明の前置きとして、実施形態の基本的な理解を目的として、1つまたは複数の実施形態のいくつかの概念を簡略化して説明するものであり、発明あるいは開示の広さを限定するものではない。またこの概要は、考えられるすべての実施形態の包括的な概要ではなく、実施形態の欠くべからざる構成要素を限定するものではない。便宜上、「一実施形態」は、本明細書に開示するひとつの実施形態(実施例や変形例)または複数の実施形態(実施例や変形例)を指すものとして用いる場合がある。
一実施形態に係る距離画像センサは、物体までの距離情報を含む画像データを生成する。距離画像センサは、パルス照明光を視野に照射する照明装置と、複数の受光画素を含み、各受光画素が複数のサブピクセルと、複数のサブピクセルに設けられた複数の偏光フィルタを有する、イメージセンサと、照明装置の発光タイミングとイメージセンサの露光タイミングを制御するカメラコントローラと、を備える。イメージセンサが生成する画像データの各画素の値は、当該画素に対応する受光画素に含まれる複数のサブピクセルの値のうち、少なくとも最大値を除いた残りの値にもとづいている。
一次物体における反射は、いわゆる拡散反射であり、反射光は非偏光となる。一方、二次物体において反射された光のうち、イメージセンサに届く光は、鏡面反射光であり、反射面の向きに応じた偏光を有する。二次物体からの反射光がある偏光を有するとき、その偏光に対応するサブピクセルの値が大きくなり、その他のサブピクセルの値は小さくなる。そこで、複数のサブピクセルのうち、最大の画素値を除去することにより、二次反射の影響を低減でき、正確な距離画像を生成できる。
一実施形態において、イメージセンサが生成する画像データの各画素の値は、当該画素に対応する受光画素に含まれる複数のサブピクセルの値のうち最小値にもとづいていてもよい。最小値を選択することで、二次反射の影響を最も受けていない値を使用できる。
一実施形態において、各受光画素は4個の偏光フィルタを含み、4個の偏光フィルタは、偏光方向が45度異なってもよい。
一実施形態において、各受光画素は3個の偏光フィルタを含み、3個の偏光フィルタは、偏光方向が60度異なっていてもよい。
一実施形態において、イメージセンサは、プラズモニック構造を有してもよい。偏光フィルタによって、サブピクセルに入射する光量は減少するが、プラズモニック構造によって、サブピクセルに入射した光をトラップすることができ、感度を改善できる。これにより、偏光フィルタの追加による入射光量の減少を補うことができる。
一実施形態において、距離画像センサは、視野を奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のレンジ画像を生成するToFカメラであってもよい。
一実施形態において、距離画像センサは、イメージセンサがレンジごとに生成する複数のレンジ画像を処理する画像処理部をさらに備えてもよい。画像処理部は、複数のレンジ画像のうち隣接する2枚について、間接ToF(Time of Flight)法にもとづいて、距離を算出し、距離画像を生成してもよい。
一実施形態において、距離画像センサは、間接ToFカメラであってもよい。
(実施形態)
以下、好適な実施形態について図面を参照しながら説明する。各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、実施形態は、発明を限定するものではなく例示であって、実施形態に記述されるすべての特徴やその組み合わせは、必ずしも発明の本質的なものであるとは限らない。
以下、好適な実施形態について図面を参照しながら説明する。各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、実施形態は、発明を限定するものではなく例示であって、実施形態に記述されるすべての特徴やその組み合わせは、必ずしも発明の本質的なものであるとは限らない。
図3は、実施形態に係るセンシングシステム10のブロック図である。このセンシングシステム10は、自動車やバイクなどの車両に搭載され、車両の周囲(センサの視野内)に存在する物体OBJを検出する。
センシングシステム10は、主としてToFカメラ100を備える。ToFカメラ100は、物体までの距離情報を含む画像データを生成可能な距離画像センサである。
ToFカメラ100は、照明装置110、イメージセンサ120、カメラコントローラ130、演算処理装置140を含む。ToFカメラ100による撮像は、視野を奥行き方向について複数N個(N≧2)のレンジRNG1~RNGNに区切って行われる。隣接するレンジ同士は、それらの境界において奥行き方向にオーバーラップしてもよい。
照明装置110は、カメラコントローラ130から与えられる発光タイミング信号S1と同期して、パルス照明光L1を車両前方に照射する。パルス照明光L1は赤外光であることが好ましいが、その限りでなく、所定の波長を有する可視光や紫外光であってもよい。
イメージセンサ120は、複数の受光画素pxを含み、カメラコントローラ130から与えられる露光タイミング信号S2と同期した露光制御が可能であり、複数の画素からなる画像を生成する。イメージセンサ120は、パルス照明光L1と同じ波長に感度を有しており、物体OBJが反射した反射光(戻り光)L2を撮影する。
カメラコントローラ130は、照明装置110によるパルス照明光L1の照射タイミング(発光タイミング)と、イメージセンサ120による露光のタイミングを制御する。カメラコントローラ130の機能は、ソフトウェア処理で実現してもよいし、ハードウェア処理で実現してもよいし、ソフトウェア処理とハードウェア処理の組み合わせで実現してもよい。ソフトウェア処理は、具体的には、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装される。なおカメラコントローラ130は、複数のプロセッサとソフトウェアプログラムの組み合わせであってもよい。ハードウェア処理は具体的には、ASIC(Application Specific Integrated Circuit)やコントローラIC、FPGA(Field Programmable Gate Array)などのハードウェアで実装される。
イメージセンサ120により生成された画像(レンジ画像)SIMGiは、演算処理装置140に入力される。演算処理装置140は、複数のレンジRNG1~RNGNについて得られる複数のレンジ画像SIMG1~SIMGNを処理し、最終的な出力データCAMERAOUTを生成する。たとえば出力データCAMERAOUTは、複数のレンジ画像SIMG1~SIMGNのセットを含む。さらに本実施形態において、出力データCAMERAOUTは、複数のレンジ画像SIMGを合成して得られる通常画像NIMGを含んでもよい。
演算処理装置140は、カメラコントローラ130と同じハードウェアに実装してもよいし、別々のハードウェアで構成してもよい。あるいは演算処理装置140の機能の一部あるいは全部は、イメージセンサ120と同じモジュールに内蔵されたプロセッサやデジタル回路として実装してもよい。
以上がToFカメラ100の基本構成である。続いてToFカメラ100の動作を説明する。
図4は、ToFカメラ100の基本動作を説明する図である。図4にはi番目のレンジRNGiをセンシングするときの様子が示される。照明装置110は、発光タイミング信号S1と同期して、時刻t0~t1の間の発光期間τ1の間、発光する。図4の最上段には、横軸に時間、縦軸に距離をとった光線のダイアグラムが示される。ToFカメラ100から、レンジRNGiの手前の境界までの距離をdMINi、レンジRNGiの奥側の境界までの距離をdMAXiとする。
ある時刻に照明装置110を出発した光が、距離dMINiに到達してその反射光がイメージセンサ120に戻ってくるまでのラウンドトリップ時間TMINiは、
TMINi=2×dMINi/c
である。cは光速である。
TMINi=2×dMINi/c
である。cは光速である。
同様に、ある時刻に照明装置110を出発した光が、距離dMAXiに到達してその反射光がイメージセンサ120に戻ってくるまでのラウンドトリップ時間TMAXiは、
TMAXi=2×dMAXi/c
である。
TMAXi=2×dMAXi/c
である。
レンジRNGiに含まれる物体OBJのみを撮影したいとき、カメラコントローラ130は、時刻t2=t0+TMINiに露光を開始し、時刻t3=t1+TMAXiに露光を終了するように、露光タイミング信号S2を生成する。これが1回のセンシング動作である。
i番目のレンジRNGiのセンシングは、発光および露光のセットを複数含む。カメラコントローラ130は、所定の周期τ2で、上述のセンシング動作を複数回にわたり繰り返す。
イメージセンサ120は多重露光が可能であり、受光画素px毎のFD領域(電荷蓄積領域)に、複数回のパルス発光の結果得られる複数回の反射光を多重露光し、1枚のレンジ画像SIMGを生成してもよい。
図5A、図5Bは、ToFカメラ100により得られるレンジ画像を説明する図である。図5Aの例では、レンジRNG2に物体(歩行者)OBJ2が存在し、レンジRNG3に物体(車両)OBJ3が存在している。図5Bには、図5Aの状況で得られる複数のレンジ画像SIMG1~SIMG3が示される。レンジ画像SIMG1を撮影するとき、イメージセンサはレンジRNG1からの反射光のみにより露光されるため、レンジ画像SIMG1にはいかなる物体像も写らない。
レンジ画像SIMG2を撮影するとき、イメージセンサはレンジRNG2からの反射光のみにより露光されるため、レンジ画像SIMG2には、物体像OBJ2のみが写る。同様にレンジ画像SIMG3を撮影するとき、イメージセンサはレンジRNG3からの反射光のみにより露光されるため、レンジ画像SIMG3には、物体像OBJ3のみが写る。このようにToFカメラ100によれば、レンジ毎に物体を分離して撮影することができる。
演算処理装置140は、イメージセンサ120がレンジRNGごとに生成する複数のレンジ画像SIMGを処理する画像処理部を含むことができる。画像処理部は、複数のレンジ画像SIMGのうち隣接する2枚について、間接ToF(Time of Flight)法にもとづいて距離を算出し、距離画像DIMGを生成してもよい。この距離画像DIMGは、各画素の画素値が距離を表す。
より具体的には、N個のレンジRNG1~RNGNについて、N枚のレンジ画像SIMG1~SIMGNが得られる。演算処理装置140は、隣接する2枚のレンジ画像SIMG1,SIMG2について、間接ToF法により、1枚の距離画像DIMG1,2を生成する。同様に、隣接する2枚のレンジ画像SIMG2,SIMG3について、距離画像DIMG2,3が生成される。1≦i<nとして、2枚のレンジ画像SIMGi,SIMGi+1について、距離画像DIMGi,i+1が生成される。
演算処理装置140は、(N-1)枚の距離画像DIMG1,2~DIMGN-1,Nを合成して、1枚の距離画像DIMG1-Nを生成してもよい。
また演算処理装置140は、複数のレンジ画像SIMG1~SIMGNを合成することにより、通常のカメラで撮影したものと同様の画像(通常画像)NIMGを生成してもよい。
出力データCAMERAOUTは、レンジ画像SIMGに加えて、またはそれに変えて、距離画像DIMGや通常画像NIMGを含んでもよい。
図6は、イメージセンサ120の構成を示す図である。イメージセンサ120はマトリクス状に配置された複数の受光画素pxを含む。各受光画素pxは、複数のサブピクセルsp1~sp4を含む。また複数のサブピクセルsp1~sp4は、異なる偏光を有する偏光フィルタpf1~pf4で覆われている。
本実施形態においてサブピクセルspの個数は4個であり、4個の偏光フィルタpf1~pf4の偏光角が45度ずつ異なっている。たとえばイメージセンサ120の垂直方向を0度ととるとき、4個の偏光フィルタpf1~pf4の偏光角は、0°、45°、135°、90°である。なお、偏光フィルタの配置は入れ替えてもよい。
一次反射光は非偏光であり、すべての偏光成分を均等に含んでいるから、4個のサブピクセルの値は実質的に等しくなる。反対に、二次反射光は、その二次物体の反射面の方向に応じた偏光成分を多く含むこととなるから、4個のサブピクセルの値はばらつく。言い換えると、すべてのサブピクセルの値が均一であるとき、二次反射光は小さいといえる。また、サブピクセルの値がばらついている場合には、サブピクセルの大きな値は二次反射光の影響を受け、サブピクセルの小さな値は、二次反射光の影響を受けていないと推定できる。
この性質を利用して、イメージセンサ120が生成するレンジ画像SIMGの各画素の画素値は、当該画素に対応する受光画素に含まれる複数のサブピクセルの値のうち、少なくとも最大値を除いた残りの値にもとづいて決定される。
図7は、画素値と、サブピクセルの値の関係を説明する図である。この例では、説明の簡潔化のために、4つの画素に着目する。
受光画素px1,px3,px4には、一次反射光のみが入射しているとする。受光画素px1のサブピクセルsp1~sp4の値は2,2,2,3である。受光画素px3のサブピクセルsp1~sp4の値はすべて3である。受光画素px4のサブピクセルsp1~sp4の値はすべて5である。
図7に示す実施例において、各画素に対応する受光画素pxに含まれる複数のサブピクセルspの値のうち、最小値が、当該画素の画素値とされる。具体的には、受光画素px1の画素値は、サブピクセルの最小値である2となる。受光画素px3の画素値は、サブピクセルの最小値である3となる。受光画素px4の画素値は、サブピクセルの最小値である5となる。
受光画素px2には、一次反射光と二次反射光が入射している。二次反射光の影響を受ける受光画素px2のサブピクセルsp1の値は5であり、サブピクセルsp2の値は10であり、サブピクセルsp3の値は1であり、サブピクセルsp4の値は、5である。2番目のサブピクセルsp2の値が大きくなっており、特定方向の偏光成分を多く含んでおり、これが2次反射によるものである可能性が高い。反対に、3番目のサブピクセルsp3の値が小さく、したがって、一次反射光の成分が支配的であると考えられる。図7の例では、受光画素px2のサブピクセルの最小値は1であるから、画素px2の画素値は1とされる。これにより、二次反射光の影響を除去できる。
別の例として、各画素の画素値を、当該画素に対応する受光画素に含まれる複数のサブピクセルの値のうち、最大値を除く3つの値の平均値としてもよい。たとえばある受光画素に含まれる4個のサブピクセルの値が、4,6,5,12であるとき、最大値である12を除く3個の値4,6,5の平均値である5を、当該画素の画素値としてもよい。
別の例として、各画素の画素値を、当該画素に対応する受光画素に含まれる複数のサブピクセルの値のうち、最小値およびその次に小さい2つの値の平均値としてもよい。たとえばある受光画素に含まれる4個のサブピクセルの値が、4,6,5,12であるとき、4と5の平均値である4.5を当該画素の画素値としてもよい。
以上がイメージセンサ120の構成および処理である。
イメージセンサ120が撮影するレンジ画像SIMGからは、二次反射光の成分が除去される。そして、二次反射光が除去されたレンジ画像SIMGを利用して間接ToF法によって距離画像DIMGを生成すれば、測距の精度を高めることができる。
図8は、図1のシーンにおいて、実施形態に係るToFカメラ100によって得られる距離画像DIMG1-Nを示す図である。偏光フィルタのない場合、図2に示すように、左の壁の一部に相当する画素が、誤った値を示す。これに対して、イメージセンサ120に偏光フィルタを追加することにより、左側の壁からの二次反射光を除去できるため、左側の壁に相当する部分の画素は、正しい距離を示すこととなる。
なお、図8では、距離画像DIMG1-Nの改善について説明しているが、距離画像DIMGに変換する前の、各レンジ画像SIMGについても、対応するレンジ以外の物体が除去されるため、画質を改善することができる。
受光画素の上に偏光フィルタを挿入すると、受光画素に入射する光量が減少し、S/N比が低下する。この問題を解決するために、プラズモニック構造を有するイメージセンサを用いるとよい。
図9は、プラズモニック構造を有する受光画素のサブピクセルの断面図である。サブピクセルspは、フォトダイオード500を有する。フォトダイオード500の周囲は、サブピクセル間を分離する素子分離構造502で囲まれている。素子分離構造502は、光を反射する。またサブピクセルspの表面には、金属などの回折格子504が形成される。
偏光フィルタpfを透過した光は、回折格子504によって回折され、サブピクセルspのフォトダイオード500の内部を横方向に伝搬し、素子分離構造502の間で反射を繰り返す。
以上がプラズモニック構造を有するサブピクセルの構成である。プラズモニック構造は、サブピクセルに入射した光をトラップすることができ、フォトダイオード500の実効的な感度を改善できる。これにより、偏光フィルタpfの追加による入射光量の減少を補うことができる。
(用途)
図10は、センシングシステム10のブロック図である。センシングシステム10は、上述のToFカメラ100に加えて演算処理装置40を備える。このセンシングシステム10は、自動車やバイクなどの車両に搭載され、車両の周囲に存在する物体OBJの種類(カテゴリ、あるいはクラスともいう)を判定する物体検出システムである。
図10は、センシングシステム10のブロック図である。センシングシステム10は、上述のToFカメラ100に加えて演算処理装置40を備える。このセンシングシステム10は、自動車やバイクなどの車両に搭載され、車両の周囲に存在する物体OBJの種類(カテゴリ、あるいはクラスともいう)を判定する物体検出システムである。
ToFカメラ100により、複数のレンジRNG1~RNGNに対応する複数のレンジ画像SIMG1~SIMGNが生成される。ToFカメラ100の出力データCAMERAOUTは、複数のレンジ画像SIMG1~SIMGNを含む。
演算処理装置40は、ToFカメラ100の出力データCAMERAOUTにもとづいて、分類器42により物体の種類を識別可能に構成される。すなわち、演算処理装置40は、出力データCAMERAOUTに含まれる複数のレンジ画像SIMG1~SIMGNにもとづいて、物体の種類に関する複数のデータOUT1~OUTNを出力可能である。
演算処理装置40の機能は、ソフトウェア処理で実現してもよいし、ハードウェア処理で実現してもよいし、ソフトウェア処理とハードウェア処理の組み合わせで実現してもよい。ソフトウェア処理は、具体的には、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装される。なお演算処理装置40は、複数のプロセッサとソフトウェアプログラムの組み合わせであってもよい。ハードウェア処理は具体的には、ASIC(Application Specific Integrated Circuit)やコントローラIC、FPGA(Field Programmable Gate Array)などのハードウェアで実装される。演算処理装置40の機能と、演算処理装置140の機能を、同じプロセッサに実装してもよい。
図11A、図11Bは、ToFカメラ100を備える自動車300を示す図である。図11Aを参照する。自動車300は、ヘッドランプ(灯具)302L,302Rを備える。
図11Aに示すように、ToFカメラ100の照明装置110は、左右のヘッドランプ302L,302Rの少なくとも一方に内蔵されてもよい。イメージセンサ120は、車両の一部、たとえばルームミラーの裏側に取り付けることができる。あるいはイメージセンサ120は、フロントグリルやフロントバンパーに設けてもよい。カメラコントローラ130は、車室内に設けてもよいし、エンジンルームに設けてもよいし、ヘッドランプ302L,302Rに内蔵してもよい。
図11Bに示すように、イメージセンサ120は、左右のヘッドランプ302L,302Rのいずれかに、照明装置110とともに内蔵してもよい。
照明装置110を、車両の一部、たとえばルームミラーの裏側や、フロントグリル、フロントバンパーに設けてもよい。
図12は、センシングシステム10を備える車両用灯具200を示すブロック図である。車両用灯具200は、車両側ECU310とともに灯具システム304を構成する。車両用灯具200は、灯具側ECU210およびランプユニット220を備える。ランプユニット220は、ロービームユニットあるいはハイビームユニットであり、光源222、点灯回路224、光学系226を備える。さらに車両用灯具200には、センシングシステム10が設けられる。
センシングシステム10が検出した物体OBJに関する情報は、車両用灯具200の配光制御に利用してもよい。具体的には、灯具側ECU210は、センシングシステム10が生成する物体OBJの種類とその位置に関する情報にもとづいて、適切な配光パターンを生成する。点灯回路224および光学系226は、灯具側ECU210が生成した配光パターンが得られるように動作する。センシングシステム10の演算処理装置40は、車両用灯具200の外部、すなわち車両側に設けられてもよい。
またセンシングシステム10が検出した物体OBJに関する情報は、車両側ECU310に送信してもよい。車両側ECU310は、この情報を、自動運転や運転支援に利用してもよい。
(変形例1)
実施形態では、受光画素pxが4個のサブピクセルを含んでいたがその限りでなく、サブピクセルの個数は2個あるいは3個であってもよい。たとえば、側方の2次物体による二次反射が問題とならない場合、路面とトンネルなどの天井の反射を除去すればよく、サブピクセルの個数を減らすことができる。
実施形態では、受光画素pxが4個のサブピクセルを含んでいたがその限りでなく、サブピクセルの個数は2個あるいは3個であってもよい。たとえば、側方の2次物体による二次反射が問題とならない場合、路面とトンネルなどの天井の反射を除去すればよく、サブピクセルの個数を減らすことができる。
実施形態は例示であり、それらの各構成要素や各処理プロセスの組み合わせにさまざまな変形例が存在すること、またそうした変形例も本開示または本発明の範囲に含まれることは当業者に理解されるところである。
本出願は、2022年3月28日出願の日本特許出願2022-051822号に基づくものであり、その内容はここに参照として取り込まれる。
Claims (8)
- 物体までの距離情報を含む画像データを生成可能な距離画像センサであって、
パルス照明光を視野に照射する照明装置と、
複数の受光画素を備え、各受光画素が複数のサブピクセルと、前記複数のサブピクセルに設けられた複数の偏光フィルタを有する、イメージセンサと、
前記照明装置の発光タイミングと前記イメージセンサの露光タイミングを制御するカメラコントローラと、
を備え、
前記イメージセンサが生成する画像データの各画素の値は、当該画素に対応する受光画素に含まれる複数のサブピクセルの値のうち、少なくとも最大値を除いた残りの値にもとづいている、距離画像センサ。 - 前記イメージセンサが生成する前記画像データの前記各画素の値は、当該画素に対応する受光画素に含まれる複数のサブピクセルの値のうち、最小値にもとづいている、請求項1に記載の距離画像センサ。
- 各受光画素は4個の偏光フィルタを含み、前記4個の偏光フィルタは、偏光方向が45度異なる、請求項1または2に記載の距離画像センサ。
- 各受光画素は3個の偏光フィルタを含み、前記3個の偏光フィルタは、偏光方向が60度異なる、請求項1または2に記載の距離画像センサ。
- 前記イメージセンサは、プラズモニック構造を有する、請求項1または2に記載の距離画像センサ。
- 前記距離画像センサは、間接ToFカメラである、請求項1または2に記載の距離画像センサ。
- 車両に搭載される、請求項1または2に記載の距離画像センサ。
- 請求項1または2に記載の距離画像センサを備える、車両用灯具。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022051822 | 2022-03-28 | ||
JP2022-051822 | 2022-03-28 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2023189599A1 true WO2023189599A1 (ja) | 2023-10-05 |
Family
ID=88201497
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2023/010074 WO2023189599A1 (ja) | 2022-03-28 | 2023-03-15 | 距離画像センサ、および車両用灯具 |
Country Status (1)
Country | Link |
---|---|
WO (1) | WO2023189599A1 (ja) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101424665B1 (ko) * | 2013-07-02 | 2014-08-01 | 한국표준과학연구원 | 거리 측정 장치 |
WO2017149608A1 (ja) * | 2016-02-29 | 2017-09-08 | 富士通フロンテック株式会社 | 撮像装置及び撮像方法 |
WO2018079030A1 (ja) * | 2016-10-27 | 2018-05-03 | 三菱電機株式会社 | 距離計測装置、距離計測方法、及び距離計測プログラム |
KR20180083983A (ko) * | 2017-01-13 | 2018-07-24 | 한국과학기술원 | 편광 변조 포켈스 셀과 마이크로 편광자 카메라를 사용하는 고 해상도 및 거리정밀도를 갖는 3차원 플래시 라이다 시스템 |
US20210055389A1 (en) * | 2019-08-21 | 2021-02-25 | GM Global Technology Operations LLC | System and method for time of flight measurement based upon time modulated polarization state illumination |
CN113126104A (zh) * | 2019-12-27 | 2021-07-16 | 精准基因生物科技股份有限公司 | 一种飞时偏光感测系统及其光发射器 |
-
2023
- 2023-03-15 WO PCT/JP2023/010074 patent/WO2023189599A1/ja unknown
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101424665B1 (ko) * | 2013-07-02 | 2014-08-01 | 한국표준과학연구원 | 거리 측정 장치 |
WO2017149608A1 (ja) * | 2016-02-29 | 2017-09-08 | 富士通フロンテック株式会社 | 撮像装置及び撮像方法 |
WO2018079030A1 (ja) * | 2016-10-27 | 2018-05-03 | 三菱電機株式会社 | 距離計測装置、距離計測方法、及び距離計測プログラム |
KR20180083983A (ko) * | 2017-01-13 | 2018-07-24 | 한국과학기술원 | 편광 변조 포켈스 셀과 마이크로 편광자 카메라를 사용하는 고 해상도 및 거리정밀도를 갖는 3차원 플래시 라이다 시스템 |
US20210055389A1 (en) * | 2019-08-21 | 2021-02-25 | GM Global Technology Operations LLC | System and method for time of flight measurement based upon time modulated polarization state illumination |
CN113126104A (zh) * | 2019-12-27 | 2021-07-16 | 精准基因生物科技股份有限公司 | 一种飞时偏光感测系统及其光发射器 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6957162B2 (ja) | 測距装置及び移動体 | |
EP3911920A1 (en) | Three-dimensional sensor including bandpass filter having multiple passbands | |
JP2005077130A (ja) | 物体認識装置 | |
WO2020184447A1 (ja) | ゲーティングカメラ、自動車、車両用灯具、物体識別システム、演算処理装置、物体識別方法、画像表示システム、検査方法、撮像装置、画像処理装置 | |
US11889051B2 (en) | Vehicular camera testing using a staggered target | |
IL266025A (en) | Vehicle environment modulation system | |
JP7252755B2 (ja) | アクティブセンサ、物体識別システム、車両、車両用灯具 | |
WO2021201269A1 (ja) | ゲーティングカメラ、車両用センシングシステム、車両用灯具 | |
WO2023189599A1 (ja) | 距離画像センサ、および車両用灯具 | |
WO2019012085A1 (en) | SYSTEM AND METHOD FOR VISION FOR A VEHICLE | |
US11353564B2 (en) | Disturbance light identifying apparatus, disturbance light separating apparatus, disturbance light identifying method, and disturbance light separating method | |
US10900770B2 (en) | Distance measuring device, imaging apparatus, moving device, robot device, and recording medium | |
WO2021193645A1 (ja) | ゲーティングカメラ、センシングシステム、車両用灯具 | |
WO2023224077A1 (ja) | ToFカメラ、車両用センシングシステム、および車両用灯具 | |
JP7043375B2 (ja) | ステレオカメラ、車載灯具ユニット、及びステレオカメラシステム | |
WO2023013776A1 (ja) | ゲーティングカメラ、車両用センシングシステム、車両用灯具 | |
WO2022145261A1 (ja) | ゲーティングカメラ、車両用センシングシステム、車両用灯具 | |
JP7474759B2 (ja) | 車両用灯具 | |
WO2021015208A1 (ja) | アクティブセンサ、ゲーティングカメラ、自動車、車両用灯具 | |
WO2023224078A1 (ja) | 車載センシングシステムおよび縁石の検出方法 | |
WO2021172478A1 (ja) | センサ、自動車および周囲環境のセンシング方法 | |
US20240045068A1 (en) | LiDAR SYSTEM AND RESOLUSION IMPROVEMENT METHOD THEREOF | |
JP2015194388A (ja) | 撮像装置および撮像システム | |
EP4286895A1 (en) | Gated camera, vehicular sensing system, and vehicular lamp | |
US20230272895A1 (en) | Vehicle light, illumination device for active sensor, and gating camera |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 23779617 Country of ref document: EP Kind code of ref document: A1 |