JP7408572B2 - 車両用灯具および車両 - Google Patents

車両用灯具および車両 Download PDF

Info

Publication number
JP7408572B2
JP7408572B2 JP2020563214A JP2020563214A JP7408572B2 JP 7408572 B2 JP7408572 B2 JP 7408572B2 JP 2020563214 A JP2020563214 A JP 2020563214A JP 2020563214 A JP2020563214 A JP 2020563214A JP 7408572 B2 JP7408572 B2 JP 7408572B2
Authority
JP
Japan
Prior art keywords
light
pattern
light source
intensity distribution
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020563214A
Other languages
English (en)
Other versions
JPWO2020137908A1 (ja
Inventor
真太郎 杉本
祐介 笠羽
安男 中村
正人 五味
修己 山本
健人 新田
修 廣田
祐太 春瀬
輝明 鳥居
健佑 荒井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koito Manufacturing Co Ltd
Original Assignee
Koito Manufacturing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koito Manufacturing Co Ltd filed Critical Koito Manufacturing Co Ltd
Publication of JPWO2020137908A1 publication Critical patent/JPWO2020137908A1/ja
Application granted granted Critical
Publication of JP7408572B2 publication Critical patent/JP7408572B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F21LIGHTING
    • F21SNON-PORTABLE LIGHTING DEVICES; SYSTEMS THEREOF; VEHICLE LIGHTING DEVICES SPECIALLY ADAPTED FOR VEHICLE EXTERIORS
    • F21S41/00Illuminating devices specially adapted for vehicle exteriors, e.g. headlamps
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • General Engineering & Computer Science (AREA)
  • Lighting Device Outwards From Vehicle And Optical Signal (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Description

本発明は、車両用灯具に関する。
自動運転やヘッドランプの配光の自動制御のために、車両の周囲に存在する物体の位置および種類をセンシングする物体識別システムが利用される。物体識別システムは、センサと、センサの出力を解析する演算処理装置を含む。センサは、カメラ、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)、ミリ波レーダ、超音波ソナーなどの中から、用途、要求精度やコストを考慮して選択される。
イメージング装置(センサ)のひとつとして、ゴーストイメージングの原理を利用したものが知られている。ゴーストイメージングは、参照光の強度分布(パターン)をランダムに切り替えながら物体に照射し、パターンごとに反射光の光検出強度を測定する。光検出強度はある平面にわたるエネルギーあるいは強度の積分値であり、強度分布ではない。そして、対応するパターンと光検出強度との相関をとることにより、物体の画像を再構成(reconstruct)する。
特許第6412673号公報
課題1. 物体の画像を正しく復元するためには、参照光の強度分布を高精度に制御し、物体に照射する必要がある。イメージング装置を車載する場合、数十m先の物体を検出する必要があり、したがって数十m先まで、強度分布を保ったまま参照光を照射する必要がある。
本発明の第1態様の例示的な目的のひとつは、参照光を遠方の物体に精度よく照射することにある。
課題2. 相関計算の量は、復元画像の画素数に応じて爆発的に増加する。具体的には、ランダムな参照光の照射回数をM、画素数を(X×Y)とするとき、演算回数は、
M×(X×Y)
となる。
1画素の復元に1回のパターン照射が必要と仮定すると、全画素(X×Y)の復元には、M=(X×Y)回の照射が必要である。また、1回の照射当たりの相関計算の演算回数は、(X×Y)である。したがって、1回のセンシングあたりの演算回数Oは、
O=(X×Y)
となる。
実験室に設置されるイメージング装置の場合、演算処理装置として高速なコンピュータやワークステーションを利用できるため、演算回数の増加はそれほど問題にならない。ところが車載用途のイメージング装置では、コストやスペースの関係から、演算処理装置の性能が制約を受ける。したがって、相関計算の演算量を低減することが求められる。
本発明の第2態様の例示的な目的のひとつは、演算量を低減したイメージング装置あるいはイメージング方法の提供にある。
課題3. 参照光のパターニングには、DMD(Digital Micromirror Device)や液晶などのパターニングデバイスを用いられる。DMDや液晶は、マトリクス状に配置される複数の画素を有し、画素毎に、反射率や透過率が制御可能となっている。
車載用のイメージング装置の検出対象は、車、人、バイクや自転車、構造物や動植物とさまざまである。またイメージング装置が使用される状況も、天候、時間帯、走行道路、走行速度などの走行環境に応じて大きく変化する。また、イメージング装置自体が移動するとともに、対象物も移動し、それらの相対的な移動方向もさまざまである。
このように、ある特定用途のイメージングでは、パターニングデバイスの全画素をランダムに制御することが必ずしも最適であるとは限らない。
本発明の第3態様の例示的な目的のひとつは、特定の用途のイメージングに適した照明装置の提供にある。
課題4. ニアフィールドを観察する顕微鏡では、画素ごとの光束の広がりは問題とならない。しかしながら車載用などのイメージング装置100は、ファーフィールドの物体を検出する必要がある。遠方の物体をセンシング対象とするイメージング装置では、パターニングデバイスの全画素をランダムに制御することが必ずしも最適であるとは限らない。
本発明の第4態様の例示的な目的のひとつは、遠方のイメージング装置に適した照明装置の提供にある。
課題5. 従来、物体の画像を再構成するために必要な測定回数(照射回数)は、数千にも達しており、データ測定に時間がかかっていた。加えて、もとの画像を再構成するために必要な演算量、演算時間は、照射回数の増加にともない爆発的に増加する。
物体が実質的に静止しているアプリケーションでは、大きな照射回数や演算量はそれほど問題とならないが、物体が移動するアプリケーションでは、高いフレームレートが要求されるため、照射回数を減らすことが求められる。
本発明の第5態様の例示的な目的のひとつは、照射回数を低減可能なイメージング装置の提供にある。
1. 本発明の第1態様は、車両用灯具に関する。車両用灯具は、前照灯と、疑似熱光源と、を備える。疑似熱光源は、参照光の強度分布をランダムに変化させながら物体に照射可能である。疑似熱光源は、物体からの反射光を測定する光検出器、ならびに光検出器の出力と参照光の強度分布にもとづいて、物体の復元画像を再構成する演算処理装置とともにイメージング装置を構成する。前照灯の少なくとも一部の構成要素は、疑似熱光源と共有される。
前照灯は、数十m先まで光を照射することを目的として、光源や光学系が設計されている。そこで、イメージング装置の疑似熱光源を車両用灯具に内蔵し、前照灯の構成要素の一部を疑似熱光源に流用することで、遠方の物体に、精度よく参照光を照射することができる。また全体のコストを下げることができる。
疑似熱光源は、前照灯と光学系を共有してもよい。前照灯の光学系は、配光を制御するパターニングデバイスを含んでもよい。疑似熱光源と前照灯は、パターニングデバイスを共有してもよい。
前照灯の光学系は、光源の出射光を車両前方に反射するリフレクタを含んでもよい。疑似熱光源と前照灯は、リフレクタを共有してもよい。
参照光は、赤外または紫外であってもよい。
疑似熱光源は、前照灯と光源を共有してもよい。この場合、参照光は白色光であってもよい。さらには、前照灯全体が、イメージング装置の疑似熱光源として動作可能であってもよい。
2. 本発明の第2態様は、車載用イメージング装置に関する。車載用イメージング装置は、測定範囲を複数の区画に分割し、区画を切り替えながら強度分布がランダムな参照光を照射する照明装置と、物体からの反射光を測定する光検出器と、複数の区画それぞれについて、前記光検出器の出力にもとづく検出強度と前記参照光の強度分布にもとづいて前記物体の当該区画に含まれる部分の復元画像を再構成する演算処理装置と、を備える。
この態様によると、演算時間を減らすことができる。
複数の区画の個数は、分割にともなう演算時間の減少量が、測定時間の増加量より大きくなるように定められてもよい。これにより高速なセンシングが可能となる。
3. 本発明の第3態様は、ゴーストイメージングにもとづくイメージング装置に使用される照明装置に関する。照明装置は、マトリクス状に配置された複数の画素を有し、複数の画素のオン、オフの組み合わせにもとづいて、光の強度分布を変調可能に構成される。少なくともひとつの画素を含むピクセルブロックを単位として強度分布が制御され、ピクセルブロックは可変である。
本発明の別の態様もまた、照明装置である。照明装置は、マトリクス状に配置された複数の画素を有し、複数の画素のオン、オフの組み合わせにもとづいて、光の強度分布を変調可能に構成される。二以上のオン画素とオフ画素を含む所定パターンの組み合わせにより、強度分布が制御される。
4. 本発明の第4態様は、照明装置である。照明装置は、マトリクス状に配置された複数の画素を有し、複数の画素のオン、オフの組み合わせにもとづいて、光の強度分布を変調可能に構成される。所定の制約条件のもと、複数の画素のオン、オフが制御される。
5. 本発明の第5態様はイメージング装置に関する。イメージング装置は、参照光の強度分布を複数M通りで変化させながら物体に照射する照明と、複数の強度分布I~Iそれぞれについて、物体からの反射光を測定する光検出器と、複数の強度分布I~Iと、光検出器の出力にもとづく複数の検出強度b~bの相関をとることにより、物体の復元画像を再構成する演算処理装置と、を備える。複数の強度分布I~Iは、(i)照明から物体を経て光検出器に至る経路の伝達特性をモデル化するステップと、(ii)基準物体およびそれに対応する基準画像を定義するステップと、(iii)複数の強度分布I~Iに初期値を与えるステップと、(iv)伝達特性にもとづいて、複数の強度分布I~Iそれぞれを有する参照光を基準物体に照射したときの、検出強度b~bの推定値(あるいは計算値)b^~b^を計算するステップと、(v)複数の強度分布I~Iと複数の推定値b^~b^の相関をとることにより、基準物体の復元画像を再構築するステップと、(vi)復元画像と基準画像の誤差が小さくなるように、複数の強度分布I~Iそれぞれを修正するステップと、(vii)ステップ(iv)~(vi)を繰り返すことにより複数の強度分布I~Iを決定するステップにより得られる。
1. 本発明の第1態様によれば、参照光を遠方に正確に照射できる。
2. 本発明の第2態様によれば、高い分解能を得つつ、演算量を低減できる。
3. 本発明の第3態様によれば、特定用途のイメージングに適した照明装置を提供できる。
4. 本発明の第4態様によれば、遠方の物体のイメージング装置に適した照明装置を提供できる。
5. 本発明の第5態様によれば、照射回数を減らすことができる。
実施の形態1に係る車両用灯具を示す図である。 図1のイメージング装置を示す図である。 実施例1に係る車両用灯具を示す図である。 実施例2に係る車両用灯具を示す図である。 実施例2における第1パターン制御を説明する図である。 実施例2における第2パターン制御を説明する図である。 実施例3に係る車両用灯具を示す図である。 実施例3における第1制御を説明する図である。 実施例3における第3制御を説明する図である。 物体識別システムのブロック図である。 自動車を示す図である。 物体検出システムを備える車両用灯具を示すブロック図である。 実施の形態2に係るイメージング装置を示す図である。 実施の形態2に係る参照光の強度分布を説明する図である。 演算時間と測定時間のトレードオフを説明する図である。 図16(a)、(b)は、区画の変形例を示す図である。 実施の形態3に係るイメージング装置を示す図である。 図18(a)~(c)は、パターニングデバイスであるDMDの画素を説明する図である。 図19(a)~(d)は、サイズが異なるピクセルブロックBを示す図である。 図20(a)、(b)は、サイズが異なるピクセルブロックBにもとづくパターン信号PTNの例を示す図である。 パターン制御の変形例を示す図である。 図22(a)、(b)は、走行シーンに応じたサイズの異なるピクセルブロックBのレイアウトを説明する図である。 サイズの異なるピクセルブロックBの動的なレイアウトを説明する図である。 図24(a)~(c)は、変形例3.1に係るピクセルブロックBを示す図である。 図25(a)~(d)は、変形例3.2に係るピクセルブロックBを示す図である。 図26(a)~(d)は、形状が異なるピクセルブロックBを示す図である。 図27(a)~(c)は、形状が異なるピクセルブロックにもとづくパターン信号PTNの例を示す図である。 図28(a)、(b)は、形状に特徴を有するピクセルブロックBを有するパターン信号PTNにもとづくセンシングを説明する図である。 図29(a)~(d)は、実施例3.5に係るパターンブロックPBを説明する図である。 図30(a)、(b)は、パターンブロックの組み合わせにもとづくパターン信号の例を示す図である。 図31(a)、(b)は、参照光の空間インコヒーレント性の改善を説明する図である。 図32(a)、(b)は、空間インコヒーレント性を改善できる強度分布の例を示す図である。 図33(a)~(d)は、点灯率を制約条件としたパターン制御を説明する図である。 図34(a)、(b)は、変形例に係る点灯率の制御を説明する図である。 実施の形態4に係るイメージング装置を示す図である。 複数の強度分布I~Iのセットの決定方法を示すフローチャートである。 基準物体と基準画像T(x,y)の関係を説明する図である。 M=100に対して得られる100通りの強度分布I~I100からなるセットI100^示す図である。 最適化された強度分布のセットを用いたときの復元画像を示す図である。 ランダムな強度分布のセットを用いたときの復元画像を示す図である。
(実施の形態1)
以下、本発明を好適な実施の形態をもとに図面を参照しながら説明する。各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、実施の形態は、発明を限定するものではなく例示であって、実施の形態に記述されるすべての特徴やその組み合わせは、必ずしも発明の本質的なものであるとは限らない。
本明細書における「強度分布がランダム」とは、完全なランダムであることを意味するものではなく、ゴーストイメージングにおいて画像を再構築できる程度に、ランダムであればよい。したがって本明細書における「ランダム」は、その中にある程度の規則性を内包することができる。また「ランダム」は、完全に予測不能であることを要求するものではなく、予想可能、再生可能であってもよい。
図1は、実施の形態1に係る車両用灯具400を示す図である。車両用灯具(もしくは灯具システム)400は、前照灯410と、疑似熱光源420を備える。前照灯410および疑似熱光源420は、筐体402に収容されている。筐体402の前面は透明のカバー404で覆われている。前照灯410は、ロービーム、ハイビームのいずれか、あるいはそれらの両方を含み、車両前方の配光を形成するためのビームSbを照射する。
疑似熱光源420は、光検出器120および演算処理装置130とともに、イメージング装置100を構成する。光検出器120および演算処理装置130は、筐体402に内蔵されてもよいし、筐体402の外部に設けられてもよい。
図2は、図1のイメージング装置100を示す図である。イメージング装置100はゴーストイメージングの原理を用いた相関関数イメージセンサ(シングルピクセルイメージングともいう)であり、疑似熱光源110(図1の疑似熱光源420)、光検出器120、演算処理装置130を備える。イメージング装置100を、量子レーダカメラとも称する。
疑似熱光源110は、実質的にランダムとみなしうる強度分布I(x,y)を有する参照光S1を生成し、物体OBJに照射する。物体OBJへの参照光S1の照射は、その強度分布を、複数のM通りのパターンに応じて変化させながら行われる。疑似熱光源110は、たとえば均一な強度分布を有する光S0を生成する光源112と、この光S0の強度分布Iを空間的に変調可能なパターニングデバイス114を含みうる。光源112は、レーザや発光ダイオードなどを用いてもよい。参照光S1の波長やスペクトルは特に限定されず、複数のあるいは連続スペクトルを有する白色光であってもよいし、所定の波長を含む単色光であってもよい。
パターニングデバイス114としては、DMD(Digital Micromirror Device)や液晶デバイスを用いることができる。パターニングデバイス114には、演算処理装置130から、強度分布Iを指定するパターン信号PTN(画像データ)が与えられており、したがって演算処理装置130は、現在、物体OBJに照射される参照光S1の強度分布Iを知っている。
光検出器120は、物体OBJからの反射光を測定し検出信号Dを出力する。検出信号Dは、強度分布Iを有する参照光を物体OBJに照射したときに、光検出器120に入射する光エネルギー(あるいは強度)の空間的な積分値である。したがって光検出器120は、シングルピクセルの光検出器(フォトディテクタ)を用いることができる。光検出器120からは、複数M通りの強度分布I~Iそれぞれに対応する複数の検出信号D~Dが出力される。
演算処理装置130は、パターン発生器132および再構成処理部134を含む。パターン発生器132は、参照光S1の強度分布Iを指定するパターン信号PTNを発生し、時間とともにパターン信号PTNを切り替える(r=1,2,…M)。
演算処理装置130は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。演算処理装置130は、複数のプロセッサの組み合わせであってもよい。あるいは演算処理装置130はハードウェアのみで構成してもよい。
疑似熱光源110が発生する参照光S1の強度分布は、その都度、ランダムに生成してもよい。あるいは、複数の強度分布I~Iのセットは、予め規定しておいてもよい。この場合、複数の強度分布I~Iを規定する複数のパターン信号PTN~PTNのセットは、パターン発生器132の内部のメモリ(パターンメモリ)に予め保持しておいてもよい。
再構成処理部134は、複数の強度分布I~Iと、複数の検出強度b~bの相関をとることにより、物体OBJの復元画像G(x,y)を再構成する。検出強度b~bは、検出信号D~Dにもとづいている。検出強度と検出信号の関係は、光検出器120の種類や方式などを考慮して定めればよい。
ある強度分布Iの参照光S1を、ある照射期間にわたり照射するとする。また検出信号Dは、ある時刻(あるいは微小時間)の受光量、すなわち瞬時値を表すとする。この場合、照射期間において検出信号Dを複数回サンプリングし、検出強度bを、検出信号Dの全サンプリング値の積分値、平均値あるいは最大値としてもよい。あるいは、全サンプリング値のうちのいくつかを選別し、選別したサンプリング値の積分値や平均値、最大値を用いてもよい。複数のサンプリング値の選別は、たとえば最大値から数えて序列x番目からy番目を抽出してもよいし、任意のしきい値より低いサンプリング値を除外してもよいし、信号変動の大きさが小さい範囲のサンプリング値を抽出してもよい。
光検出器120として、カメラのように露光時間が設定可能なデバイスを用いる場合には、光検出器120の出力Dをそのまま、検出強度bとすることができる。
検出信号Dから検出強度bへの変換は、演算処理装置130が実行してもよいし、演算処理装置130の外部で行ってもよい。
相関には、式(1)の相関関数が用いられる。Iは、r番目の強度分布であり、bはr番目の検出強度の値である。
Figure 0007408572000001
以上がイメージング装置100の全体の基本構成である。図1に戻る。
本実施の形態において、疑似熱光源420は、車両用灯具400に内蔵される。そして前照灯410の少なくとも一部の構成要素(共通部材)430は、疑似熱光源420と共有される。
以上が車両用灯具400の構成である。
前照灯410は、数十m先まで光を照射することを目的として、光源や光学系が設計されている。そこで、イメージング装置の疑似熱光源420を車両用灯具400に内蔵し、前照灯410の構成要素の一部を疑似熱光源420に流用することで、遠方の物体に、精度よく参照光S1を照射することができる。また重複する部材を減らすことができるため、全体のコストを下げることができる。
本発明は、図1のブロック図として把握され、あるいは上述の説明から導かれるさまざまな装置、方法に及ぶものであり、特定の構成に限定されるものではない。以下、本発明の範囲を狭めるためではなく、発明の本質や動作の理解を助け、またそれらを明確化するために、より具体的な構成例や実施例を説明する。
(実施例1)
図3は、実施例1に係る車両用灯具400Aを示す図である。疑似熱光源420は、前照灯410と光学系を共有する。前照灯410は、光源412と、リフレクタ414を備える。光源412は白色の発光ダイオード(あるいは半導体レーザ)およびその点灯回路を含む。リフレクタ414は、光源412の出射光を、車両前方に反射する。
実施例1では、前照灯410のリフレクタ414が図1の共通部材430であり、疑似熱光源420と共有される。疑似熱光源420は、光源422と、パターニングデバイス424を含む。パターニングデバイス424によって強度分布がランダム化されたビームは、リフレクタ414によって車両前方に反射される。
光源422が生成する光S0は、赤外光あるいは紫外光であってもよい。この場合、光検出器120は、可視波長帯において不感であり、光S0(参照光S1)の波長にのみ、感度を有するように構成すればよい。これにより、イメージング装置100によるセンシングは、前照灯の影響を受けない。
光源422が生成する光S0は、可視域の単一波長を含んでもよいし、白色光であってもよい。この場合、光検出器120は、前照灯410のビームSbと参照光S1の両方に感度を有することとなる。この場合、演算処理によって、光検出器120の出力から、ビームSbの影響を低減してもよい。たとえば、ビームSbが直流とみなせる一方、参照光S1は交流とみなせる場合には、ハイパスフィルタによりビームSbの影響を低減してもよい。あるいは単純に、ビームSbに起因する成分の推定値を、減算するオフセット処理を行ってもよい。
(実施例2)
図4は、実施例2に係る車両用灯具400Bを示す図である。実施例2においても、疑似熱光源420は、前照灯410と光学系を共有する。
実施例2において、前照灯410は配光可変ランプ(ADB:Adaptive Driving Beam)であり、光源412と、パターニングデバイス416と、リフレクタ414を備える。光源412は白色のLEDあるいはLDおよびその点灯回路を含む。パターニングデバイス416は、たとえばDMDであり、光源412の出射光の強度分布を、所望の配光パターンが得られるように、空間的に変調する。リフレクタ414は、パターニングデバイス416の反射光のうち、オンピクセルに相当する光束を車両前方に反射する。
実施例2では、パターニングデバイス416およびリフレクタ414が、疑似熱光源420と共有される共通部材430である。光源422の出射光S0は、パターニングデバイス416に入射し、ランダムに変調され、参照光S1が生成される。
実施例2では、パターニングデバイス416が共有されるため、ビームSbのパターン(強度分布)と、参照光S1のパターンの相互の影響を抑える必要がある。そのためには、光源422と光源412を相補的に点灯させればよい。たとえば光源412と光源422を時分割で交互に点灯させ、光源412の点灯期間は、配光パターンに応じた画像データ(配光画像データ)PTNbをパターニングデバイス416に与え、光源422の点灯期間は、ランダムな画像データ(ランダム画像データ)PTN~PTNをパターニングデバイス416に与えればよい(第1パターン制御)。図5は、実施例2における第1パターン制御を説明する図である。
あるいは、ビームSbが照射される範囲(照射領域)内でのみ、イメージング装置100によるセンシングを行えば足りるケースも想定される。この場合、光源412と光源422を同時点灯させて、パターニングデバイス416には、配光画像データPTNbと、ランダム画像データPTN(i=1,2,…M)をピクセルごとに演算し、パターニングデバイス416に与えてもよい(第2パターン制御)。図6は、実施例2における第2パターン制御を説明する図である。ONは、配光パターンで規定される照射領域を、OFFは、配光パターンで規定される遮光領域を示す。点灯に対応する画素値を1、消灯に対応する画素値を0とすれば、画像データSbの画素値は、照射領域ON内で1、遮光領域OFF内で0となる。ランダム画像データPTNは、画素値はランダムに1と0が分布する。ランダム画像データPTNと配光画像データPTNbの論理積を計算すれば、図6のパターンを生成できる。
(実施例3)
図7は、実施例3に係る車両用灯具400Cを示す図である。実施例3では、前照灯410のすべての構成要素が、疑似熱光源420と共有される。すなわち前照灯410が、疑似熱光源420の機能を有する。実施例3では、参照光S1は、自ずと白色光となる。
実施例3におけるパターニングデバイス416の制御を説明する。
・第1制御
実施例3では、通常点灯期間Tbとセンシング期間Tsを時分割で切り替えてもよい。図8は、実施例3における第1制御を説明する図である。図8に示すように、1回のセンシング期間Tsの間に、参照光S1のパターンを複数回、切り替えてもよい。
・第2制御
実施例2の第2パターン制御を行ってもよい。
・第3制御
図9は、実施例3における第3制御を説明する図である。DMDなどのパターニングデバイスは、階調制御可能なものが存在する。この場合、ランダム画像データPTNと配光画像データPTNbについて、対応する画素値同士を加算し、パターニングデバイス416に与えてもよい。この場合、車両用灯具400の出射ビームの強度分布は、配光画像データPTNbで決まるベースレベルを基準として、時間とともにランダムに変化する。
(実施例4)
実施例1~実施例3では、疑似熱光源420を、光源422とパターニングデバイス424の組み合わせで構成したがその限りでない。疑似熱光源420は、マトリクス状に配置される複数の半導体光源(LED(発光ダイオード)やLD(レーザダイオード))のアレイで構成し、個々の半導体光源のオン、オフ(あるいは輝度)を制御可能に構成してもよい。
実施の形態1では、照明装置110を、光源112とパターニングデバイス114の組み合わせで構成したがその限りでない。照明装置110は、マトリクス状に配置される複数の半導体光源(LED(発光ダイオード)やLD(レーザダイオード))のアレイで構成し、個々の半導体光源のオン、オフ(あるいは輝度)を制御可能に構成してもよい。
続いてイメージング装置100の用途を説明する。
図10は、物体識別システム10のブロック図である。この物体識別システム10は、自動車やバイクなどの車両に搭載され、車両の周囲に存在する物体OBJの種類(カテゴリ)を判定する。
物体識別システム10は、イメージング装置100と、演算処理装置40を備える。イメージング装置100は、上述のように、物体OBJに参照光S1を照射し、反射光S2を測定することにより、物体OBJの復元画像Gを生成する。
演算処理装置40は、イメージング装置100の出力画像Gを処理し、物体OBJの位置および種類(カテゴリ)を判定する。
演算処理装置40の分類器42は、画像Gを入力として受け、それに含まれる物体OBJの位置および種類を判定する。分類器42は、機械学習によって生成されたモデルにもとづいて実装される。分類器42のアルゴリズムは特に限定されないが、YOLO(You Only Look Once)とSSD(Single Shot MultiBox Detector)、R-CNN(Region-based Convolutional Neural Network)、SPPnet(Spatial Pyramid Pooling)、Faster R-CNN、DSSD(Deconvolution -SSD)、Mask R-CNNなどを採用することができ、あるいは、将来開発されるアルゴリズムを採用できる。
演算処理装置40が検出した物体OBJに関する情報は、車両用灯具200の配光制御に利用してもよい。具体的には、演算処理装置40が生成する物体OBJの種類とその位置に関する情報にもとづいて、適切な配光パターンを生成することができる。
また演算処理装置40が検出した物体OBJに関する情報は、車両側ECUに送信してもよい。車両側ECUは、この情報にもとづいて、自動運転を行ってもよい。
以上が物体識別システム10の構成である。物体識別システム10のセンサとして、イメージング装置100を用いることで、ノイズ耐性が格段に高まる。たとえば降雨時、降雪時、あるいは霧の中を走行する場合、肉眼では物体OBJを認識しにくいが、このような状況でも、雨、雪、霧の影響を受けずに、物体OBJの復元画像Gを得ることができる。
図11は、自動車を示す図である。自動車300は、車両用灯具302L,302Rを備える。上述のように、疑似熱光源420は、車両用灯具302L,302Rの少なくとも一方に、前照灯とハードウェアの一部を共有した態様にて内蔵される。
図12は、物体検出システム210を備える車両用灯具200を示すブロック図である。車両用灯具200は、車両側ECU304とともに灯具システム310を構成する。車両用灯具200は、光源202、点灯回路204、光学系206を備える。さらに車両用灯具200には、物体検出システム210が設けられる。物体検出システム210は、上述の物体識別システム10に対応しており、イメージング装置100および演算処理装置40を含む。
演算処理装置40が検出した物体OBJに関する情報は、車両用灯具200の配光制御に利用してもよい。具体的には、灯具側ECU208は、演算処理装置40が生成する物体OBJの種類とその位置に関する情報にもとづいて、適切な配光パターンを生成する。点灯回路204および光学系206は、灯具側ECU208が生成した配光パターンが得られるように動作する。
また演算処理装置40が検出した物体OBJに関する情報は、車両側ECU304に送信してもよい。車両側ECUは、この情報にもとづいて、自動運転を行ってもよい。
(実施の形態2)
図13は、実施の形態2に係るイメージング装置100を示す図である。イメージング装置100はゴーストイメージングの原理を用いた相関関数イメージセンサであり、照明装置110、光検出器120、演算処理装置130を備える。イメージング装置100を、量子レーダカメラとも称する。
照明装置110は疑似熱光源であり、実質的にランダムとみなしうる強度分布Iを有する参照光S1を生成し、物体OBJに照射する。図14は、実施の形態2に係る参照光S1の強度分布を説明する図である。図中、強度がゼロの部分を白で、強度が非ゼロの部分を黒で示す。
本実施の形態では、測定範囲600を複数の区画602_1~602_Nに分割される。この例では、縦方向に4、横方向に4に分割され、N=16である。照明装置110は、光を照射する区画(照射区画という)602_iを切り替えながら、照射区画内の強度分布I(x,y)が実質的にランダムな参照光S1を照射する。照射区画以外の区画(非照射区画という)内の強度はゼロである。
複数の区画602_1~602_Nそれぞれについて、M通りのランダムな強度分布の参照光S1が照射される。したがって1回のセンシングあたり、トータルの照射回数はM×Nとなる。i番目の区画(1≦i≦N)を選択しているときの、j回目の強度分布をIi,j、そのときの参照光S1を、S1i,jのように示すこととする。
図13に戻る。光検出器120は、物体OBJからの反射光を測定し検出信号Dを出力する。検出信号Di,jは、強度分布Ii,jを有する参照光を物体OBJに照射したときに、光検出器120に入射する光エネルギー(あるいは強度)の空間的な積分値である。したがって光検出器120は、シングルピクセルの光検出器(フォトディテクタ)を用いることができる。
M×N通りの強度分布I1,1~I1,M、I2,1~I2,M、IN,1~IN,Mを有する参照光S1i,j(i∈1~N,j∈1~M)を照射すると、光検出器120からは、M×N個の検出信号Di,j(i∈1~N,j∈1~M)が出力される。なお、照射の順番は特に限定されない。
たとえば、ある照射区画について、M個の強度分布を設定し終わった後に、次の照射区画を選択してもよい。照射区画を選択する順序は特に限定されず、所定の規則で選択することができる。たとえば1行目の区画を左から右に順に選択し、一番右まで移動したら、次の行に移動してもよい。あるいは1列目の区画を上から下に順に選択し、一番下まで移動したら、次の列に移動してもよい。
照明装置110は、たとえば均一な強度分布を有する光S0を生成する光源112と、この光S0の強度分布を空間的に変調可能なパターニングデバイス114を含みうる。光源112は、レーザや発光ダイオードなどを用いてもよい。参照光S1の波長やスペクトルは特に限定されず、複数のあるいは連続スペクトルを有する白色光であってもよいし、所定の波長を含む単色光であってもよい。
パターニングデバイス114としては、DMD(Digital Micromirror Device)や液晶デバイスを用いることができる。本実施の形態において、パターニングデバイス114は、測定範囲600全体をカバーしており、測定範囲600全体を同時照射可能な能力を有するが、パターニングデバイス114の非照射区画に対応する画素をオフにすることで、照射区画にのみランダムなパターンを与えることが可能となっている。
パターニングデバイス114には、演算処理装置130から、強度分布Ii,jを指定するパターン信号PTNi,j(画像データ)が与えられている。したがって演算処理装置130は、現在の照射区画の位置と参照光S1の強度分布Ii,jを知っている。
演算処理装置130は、パターン発生器132および再構成処理部134を含む。
パターン発生器132は、参照光S1の強度分布Ii,jを、その都度、ランダムに生成してもよい。この場合、パターン発生器132は、擬似ランダム信号発生器を含むことができる。
あるいは、複数の強度分布Ii,jのセットは、予め規定しておいてもよい。たとえば、区画602と同じサイズを有する複数(たとえばM個)の強度分布のセットI~Iを予め規定していてもよい。i番目の区画を照射区画とするとき、照射区画に、I~Iを順に、あるいはランダムに割り当てればよい。
この場合、複数の強度分布I~Iを規定する複数のパターン信号のセットを、パターン発生器132の内部のメモリ(パターンメモリ)に予め保持しておいてもよい。
演算処理装置130は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。演算処理装置130は、複数のプロセッサの組み合わせであってもよい。あるいは演算処理装置130はハードウェアのみで構成してもよい。
再構成処理部134は、複数の区画602_1~602_Nそれぞれ(602_i)について、複数の検出強度bi,1~bi,Mと参照光S1i,1~S1i,Mの強度分布Ii,1~Ii,Mの相関をとることにより、物体OBJの当該区画602_iに含まれる部分の復元画像Gを再構成する。
検出強度bi,1~bi,Mは、検出信号Di,1~Di,Mにもとづいている。検出強度bi,jと検出信号Di,jの関係は、光検出器120の種類や方式などを考慮して定めればよい。
ある強度分布Ii,jの参照光S1を、ある照射期間にわたり照射するとする。また検出信号Di,jは、ある時刻(あるいは微小時間)の受光量、すなわち瞬時値を表すとする。この場合、照射期間において検出信号Di,jを複数回サンプリングし、検出強度bi,jを、検出信号Di,jの全サンプリング値の積分値、平均値あるいは最大値としてもよい。あるいは、全サンプリング値のうちのいくつかを選別し、選別したサンプリング値の積分値や平均値、最大値を用いてもよい。複数のサンプリング値の選別は、たとえば最大値から数えて序列x番目からy番目を抽出してもよいし、任意のしきい値より低いサンプリング値を除外してもよいし、信号変動の大きさが小さい範囲のサンプリング値を抽出してもよい。
光検出器120として、カメラのように露光時間が設定可能なデバイスを用いる場合には、光検出器120の出力Di,jをそのまま、検出強度bi,jとすることができる。
検出信号Di,jから検出強度bi,jへの変換は、演算処理装置130が実行してもよいし、演算処理装置130の外部で行ってもよい。
i番目(1≦i≦N)の区画602_iの画像Gの復元には、式(2)の相関関数が用いられる。Ii,jは、j番目(1≦j≦M)の強度分布であり、bi,jはj番目の検出強度の値である。
Figure 0007408572000002
N個すべての区画602_1~602_Nそれぞれの復元画像G~Gを結合することにより、測定範囲全体の像を得ることができる。
以上がイメージング装置100の構成である。続いてその利点を説明する。
このイメージング装置100における演算回数は以下の通りである。
測定範囲全体の画素数をX×Yとし、1区画の水平および垂直方向の画素数をx,yとする。ただし、X×Y=(x×y)×Nである。
1画素の復元に1回のパターン照射が必要と仮定するとき、x×y画素の復元に必要な照射回数M’は、
M’=(x×y)
となる。なお、実際の照射回数は、M’より多いあるいは少ない場合があるが、おおよそ(x×y)に比例することに留意されたい。したがって1区画あたりの計算回数は、(x×y)となる。N個すべての区間に対するトータルの演算回数O’は、
O’=N×(x×y)
となる。
従来の測定範囲全体を照射する手法の計算回数Oは、
O=(X×Y)
であった。X×Y=(x×y)×Nの関係が成り立つから、本実施の形態によれば従来に比べて、計算回数をO’/O=1/N倍に減らすことができる。
たとえば、X=Y=1024のケースを考える。この場合、x=y=32の区画に区切ると、N=32×32=1024となり、計算回数は1/1024倍に減らすことができる。
また、パターン発生器132に、参照光の強度分布をメモリに格納しておく場合、照射領域全体(X×Y)ではなく、1区画(x×y)の強度分布を保持すればよいため、メモリの容量を減らすことができる。
計算回数の減少は、同じ速度の演算処理装置を用いた場合、演算時間を短縮できることを意味する。あるいは、同じ時間で処理を終了するために、より遅い(したがって安価な)演算処理装置を採用することができる。
なお、車載用途では、ある程度大きなフレームレートで、測定範囲のセンシングを行う必要がある。本実施の形態では、計算回数(ひいては演算時間)の減少と引き換えに、照射回数Mは、N倍(Nは区画の個数)に増えており、測定時間の増加をもたらす。図15は、演算時間と測定時間のトレードオフを説明する図である。
区画の個数Nは、分割にともなう演算時間の減少量δ1が、測定時間の増加量δ2より大きくなるように定めるとよい。これにより車載用途で必要なフレームレートを実現できる。
続いて実施の形態2に関連する変形例を説明する。
(変形例2.1)
実施の形態では、区画ごとに、照射回数Mを同一としたが、区画毎に照射回数Mは異なっていてもよい。i番目の区画の照射回数をMと書くとき、演算回数は、
O=Σi=1:N×(x×y)
となる。
照射回数Mが多いほど、正確な画像を復元できるが、区画の位置によっては、それほどの正確さが要求されない場合もある。そこで区画毎に照射回数を最適化することで、区画毎に、計算回数(演算時間)と測定時間を調整できる。
(変形例2.2)
区画の区切り方は、上述のそれに限定されない。図16(a)、(b)は、区画の変形例を示す図である。図16(a)に示すように、横長の区画に区切ってもよい。あるいは縦長の区画に区切ってもよい。
実施の形態では、複数の区画のサイズ(画素数)を同一としたがその限りでない。図16(b)に示すように、区画ごとに画素数が異なっていてもよい。
(変形例2.3)
実施の形態では、測定範囲600全体をカバーするパターニングデバイス114を利用したがその限りでない。1区画分の照射能力を有する照明装置110を設け、その出射光を可動ミラーを用いて水平方向あるいは水平方向にスキャンしてもよい。
(変形例2.4)
実施の形態2では、照明装置110を、光源112とパターニングデバイス114の組み合わせで構成したがその限りでない。照明装置110は、マトリクス状に配置される複数の半導体光源(LED(発光ダイオード)やLD(レーザダイオード))のアレイで構成し、個々の半導体光源のオン、オフ(あるいは輝度)を制御可能に構成してもよい。
(用途)
続いて実施の形態2に係るイメージング装置100の用途を説明する。イメージング装置100は、図10の物体識別システム10に利用できる。物体識別システム10のセンサとして、実施の形態2で説明したイメージング装置100を用いることで、以下の利点を得ることができる。
第1に、イメージング装置100すなわち量子レーダカメラを用いることで、ノイズ耐性が格段に高まる。たとえば、降雨時、降雪時、あるいは霧の中を走行する場合、肉眼では物体OBJを認識しにくいが、イメージング装置100を用いることで、雨、雪、霧の影響を受けずに、物体OBJの復元画像Gを得ることができる。
第2に、測定範囲を複数の区画に分割して、区画毎に画像を復元することで、演算量を減らすことができる。これによりフレームレートを高め、あるいは演算処理装置として安価なプロセッサを選択できるようになる。
なお、イメージング装置100において、区画の個数Nを、走行環境に応じて適応的に変化させてもよい。
実施の形態2で説明したイメージング装置100は、図11の自動車に搭載でき、図12の車両用灯具に内蔵してもよい。
(実施の形態3)
図17は、実施の形態3に係るイメージング装置100を示す図である。イメージング装置100はゴーストイメージングの原理を用いた相関関数イメージセンサであり、照明装置110、光検出器120、演算処理装置130を備える。イメージング装置100を、量子レーダカメラとも称する。
照明装置110は、疑似熱光源であり、実質的にランダムとみなしうる強度分布I(x,y)を有する参照光S1を生成し、物体OBJに照射する。物体OBJへの参照光S1の照射は、その強度分布を、複数のM通りのパターンに応じて変化させながら行われる。
照明装置110は、光源112とパターニングデバイス114を含む。光源112は、均一な強度分布を有する光S0を生成する。光源112は、レーザや発光ダイオードなどを用いてもよい。参照光S1の波長やスペクトルは特に限定されず、複数のあるいは連続スペクトルを有する白色光であってもよいし、所定の波長を含む単色光であってもよい。参照光S1の波長は、赤外あるいは紫外であってもよい。
パターニングデバイス114は、マトリクス状に配置される複数の画素を有し、複数の画素のオン、オフの組み合わせにもとづいて、光の強度分布Iを空間的に変調可能に構成される。本明細書においてオン状態の画素をオン画素、オフ状態の画素をオフ画素という。なお、以下の説明では理解の容易化のために、各画素は、オンとオフの2値(1,0)のみをとるものとするがその限りでなく、中間的な階調をとってもよい。
パターニングデバイス114としては、反射型のDMD(Digital Micromirror Device)や透過型の液晶デバイスを用いることができる。パターニングデバイス114には、パターン発生器116が発生するパターン信号PTN(画像データ)が与えられている。パターニングデバイス114はDMDであるとする。
パターン発生器116は、参照光S1の強度分布Iを指定するパターン信号PTNを発生し、時間とともにパターン信号PTNを切り替える(r=1,2,…M)。
光検出器120は、物体OBJからの反射光を測定し検出信号Dを出力する。検出信号Dは、強度分布Iを有する参照光を物体OBJに照射したときに、光検出器120に入射する光エネルギー(あるいは強度)の空間的な積分値である。したがって光検出器120は、シングルピクセルの光検出器(フォトディテクタ)を用いることができる。光検出器120からは、複数M通りの強度分布I~Iそれぞれに対応する複数の検出信号D~Dが出力される。
演算処理装置130は、再構成処理部134を含む。再構成処理部134は、複数の強度分布I~Iと、複数の検出強度b~bの相関をとることにより、物体OBJの復元画像G(x,y)を再構成する。
検出強度b~bは、検出信号D~Dにもとづいている。検出強度と検出信号の関係は、光検出器120の種類や方式などを考慮して定めればよい。
ある強度分布Iの参照光S1を、ある照射期間にわたり照射するとする。また検出信号Dは、ある時刻(あるいは微小時間)の受光量、すなわち瞬時値を表すとする。この場合、照射期間において検出信号Dを複数回サンプリングし、検出強度bを、検出信号Dの全サンプリング値の積分値、平均値あるいは最大値としてもよい。あるいは、全サンプリング値のうちのいくつかを選別し、選別したサンプリング値の積分値や平均値、最大値を用いてもよい。複数のサンプリング値の選別は、たとえば最大値から数えて序列x番目からy番目を抽出してもよいし、任意のしきい値より低いサンプリング値を除外してもよいし、信号変動の大きさが小さい範囲のサンプリング値を抽出してもよい。
光検出器120として、カメラのように露光時間が設定可能なデバイスを用いる場合には、光検出器120の出力Dをそのまま、検出強度bとすることができる。
検出信号Dから検出強度bへの変換は、演算処理装置130が実行してもよいし、演算処理装置130の外部で行ってもよい。
相関には、式(3)の相関関数が用いられる。Iは、r番目の強度分布であり、bはr番目の検出強度の値である。
Figure 0007408572000003
演算処理装置130は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。演算処理装置130は、複数のプロセッサの組み合わせであってもよい。あるいは演算処理装置130はハードウェアのみで構成してもよい。パターン発生器116は、演算処理装置130の内部に実装してもよい。
以上がイメージング装置100の全体の基本構成である。続いて、パターニングデバイス114の制御について、いくつかの実施例をもとに説明する。
(実施例3.1)
図18(a)~(c)は、パターニングデバイス114であるDMDの画素を説明する図である。図18(a)に示すように、DMDは、m行n列のマトリクス状に配置される複数の画素PIXのアレイである。図18(b)に示すように、各画素PIXは、正方形のミラーであり、対角に設けられたヒンジを軸として、ON方向とOFF方向に傾動可能となっている。パターニングデバイス114は、全画素を独立してオン、オフ制御可能に構成される。以下の説明では、マトリクスの形状を図18(c)のように簡略化して示す。
パターン発生器116は、少なくともひとつの画素からなるピクセルブロックBを単位として、参照光の強度分布(すなわちパターン信号PTN)を制御し、さらにピクセルブロックBは、可変である。ピクセルブロックBは、連続(隣接)するオン画素の集合(またはオフ画素の集合、もしくはオン画素とオフ画素の集合)と把握することができる。実施例3.1では、ピクセルブロックBのサイズが可変であるものとする。
図19(a)~(d)は、サイズが異なるピクセルブロックBを示す図である。サイズは、ピクセルブロックBに含まれるピクセル数(すなわち面積)と把握できる。図19(a)~(d)はそれぞれ、縦横1×1ピクセル、2×2ピクセル、3×3ピクセル、4×4ピクセルのピクセルブロックB1×1~B4×4を示す。同じピクセルブロックBに含まれる画素は、同じ状態(オン、オフ)とされる。
図20(a)、(b)は、サイズが異なるピクセルブロックBにもとづくパターン信号(画像データ)PTNの例を示す図である。以下では、m=n=16のパターニングデバイス114を想定する。
図20(a)では、図19(b)の2×2ピクセルのピクセルブロックB2×2が適用され、ピクセルブロックB2×2ごとにオン、オフが制御される。1回のセンシングあたり、パターン信号PTNはM通りで変化する。なお、ハッチングを付した画素PIXがオン画素であり、そうでない画素PIXはオフ画素である。
図20(b)では、図19(d)の4×4ピクセルのピクセルブロックB4×4が適用され、ピクセルブロックB4×4ごとにオン、オフが制御される。パターン信号PTNの個数Mは、ピクセルブロックのサイズに応じて異なっていてもよく、一般的には、ピクセルブロックのサイズを大きくし、ピクセルブロックの数を減らすことで、1回のセンシング当たりのパターンの個数Mを減らすことができる。
図21は、パターン制御の変形例を示す図である。4×4ピクセルのピクセルブロックB4×4の配置が、横方向に関して完全に揃っておらず、いくつかの行において横方向に2ピクセル、オフセットしている。
以上が実施例3.1に係るパターン制御である。このパターン制御は、パターニングデバイス114の実効的な解像度を動的に変化させているものと把握できる。再構成処理部134における演算量は、解像度に応じて増加するところ、空間的な分解能がそれほど必要とされない状況では、ピクセルブロックBのサイズを大きくすることで、演算量を減らすことができる。
あるいは、高速に移動する物体OBJを捉えたい場合には、ピクセルブロックBのサイズを大きくし、パターンの個数を減らして照射時間を減らすことで、ブレのない画像を復元できる。また演算量、照射回数を減らすことにより、フレームレートを高めることができ、物体OBJの移動に追従することができる。
(実施例3.2)
実施例3.1では、1つのパターンには、同じピクセルブロックBが含まれたがその限りでない。実施例3.2では、サイズが異なるピクセルブロックのレイアウトを予め規定しておき、走行シーンに応じて選択する。図22(a)、(b)は、走行シーンに応じたサイズの異なるピクセルブロックBのレイアウトを説明する図である。
図22(a)を参照すると、下側の領域には、サイズが小さいピクセルブロックBが配置され、上側ほど、サイズが大きいピクセルブロックBが配置される。郊外の走行シーンでは、車両前方の上方には、空(車両や歩行者が存在しない空間)が広がっているため、ピクセルブロックBのサイズを大きくして、解像度を低下させる。反対に、下側は路面に対応し、重要な物体(あるいは路面標識)が存在する可能性が高いため、ピクセルブロックBのサイズを小さくして、解像度を高めている。
図22(b)を参照すると、中央に近いほどサイズが小さいピクセルブロックBが配置され、外周側ほど、サイズが大きいピクセルブロックBが配置される。高速道路などの走行シーンでは、画面中央付近に消失点が位置しており、遠方の対向車は消失点から出現し、出現当初はサイズが小さく、実車に接近するにしたがって、サイズが大きくなる。図22(b)のレイアウトによれば、遠方の小さく見える物体OBJを検出しやすくなる。
(実施例3.3)
実施例3.2では、予め複数のレイアウトを規定しておき、複数のレイアウトの中から走行シーンに適したひとつを適応的に選択したが、その限りでなく、サイズの異なるピクセルブロックBのレイアウトを動的に変化させてもよい。
図23は、サイズの異なるピクセルブロックBの動的なレイアウトを説明する図である。あるフレーム1において、均一なサイズ(2×2ピクセル)のピクセルブロックB2×2からなるパターンが使用される。このフレーム1において復元された画像から、物体OBJの位置が推定される。そして、次のフレーム2では、物体OBJが存在する領域には、サイズが小さいピクセルブロックBを配置し、そこから遠ざかるほど、ピクセルブロックBのサイズを大きくしてもよい。
(実施例3.1~3.3に関連する変形例)
(変形例1)
これまでの説明では、ピクセルブロックBの形状が正方形であったが、その限りでない。図24(a)~(c)は、変形例1に係るピクセルブロックBを示す図である。ピクセルブロックBは横に長い長方形であり、そのサイズが動的に変化する。
(変形例2)
実施例3.1~3.3では、縦方向と横方向を同じスケールで変化させたが、縦方向のピクセル数のみ、あるいは横方向のピクセル数のみを変化させてもよい。図25(a)~(d)は、変形例2に係るピクセルブロックBを示す図である。この例では、ピクセルブロックBは横方向のピクセル数が可変である。
(実施例3.4)
実施例3.1~3.3では、ピクセルブロックBのサイズを変化させる場合を説明した。実施例3.4では、ピクセルブロックBの形状を適応的に変化させる。
図170(a)~(d)は、形状が異なるピクセルブロックBを示す図である。図170(a)には横方向(X方向)に長いピクセルブロックBが、図170(b)には、縦方向(Y方向)に長いピクセルブロックBが、図170(c)には、斜め方向に長いピクセルブロックBXYが示される。図170(d)には基本となる正方形のピクセルブロックBが示される。図170(a)~(d)のピクセルブロックBのサイズはすべて等しい。
図27(a)~(c)は、形状が異なるピクセルブロックにもとづくパターン信号PTNの例を示す図である。ピクセルブロックBの長さおよび位置の少なくとも一方は、ランダムに決定される。図27(a)は、横長のピクセルブロックBを用いたパターン信号PTNの一例を、図27(b)は、縦長のピクセルブロックBを用いたパターン信号PTNの一例を、図27(c)は、斜め方向のピクセルブロックBXYを用いたパターン信号PTNXYの一例を示す。
物体OBJとイメージング装置100の相対的な運動を考える。
物体OBJがイメージング装置100に対して相対的に水平方向に移動するとき、横長のピクセルブロックBからなるパターン信号PTNを用いると、正方形のピクセルブロックBを用いた場合に比べて、横方向の実効的な解像度は低下するため、横方向の画像のシャープさは低下し、あるいは横方向の位置の検出精度は低下するが、捕捉時間(言い換えれば露光時間)が長くなり、検出強度Dが増加するため、S/N比を高めて検出がしやすくなる(つまり感度が上がる)。
同じパターン信号PTNを用いて、縦方向に移動する物体OBJをセンシングする場合、正方形のピクセルブロックBを用いた場合に比べて、捕捉時間は短くなるため検出強度Dが低下し、検出感度は下がるが、縦方向の解像度は改善され、縦方向の位置の検出精度が高まる。
パターン信号PTN、パターン信号PTNにも同様の考えが適用できる。一般化すると、ピクセルブロックBが伸びる方向に運動する物体に対して検出感度を高め、それと垂直な方向に移動する物体についてはシャープな像が得られ、あるいは位置の検出精度を高めることができる。
図28(a)、(b)は、形状に特徴を有するピクセルブロックBを有するパターン信号PTNにもとづくセンシングを説明する図である。はじめは図28(a)に示すように、とある形状(5×5ピクセルの正方形)のピクセルブロックBを含むパターン信号PTNを利用してセンシングしている。このセンシングにより、物体OBJは自動車であり、横方向に移動していることが検出される。パターン信号PTNにもとづくセンシングでは、物体OBJの先端の位置はX’と判定され、実際の物体OBJの先端の位置Xとは誤差がある。
そこで、物体OBJの横方向の位置を正確に検出するために、縦長のピクセルブロックBを含むパターン信号PTNに切り替える。これにより、横方向の解像度が高まるため、物体OBJの先端の位置はX”と判定され、実際の物体OBJの先端の位置Xに近づけることができる。
縦方向に関しては、物体OBJは移動しないため、縦長のピクセルブロックBを用いることのデメリットはほとんど存在しないと言える。
図28(a)、(b)の例では、ある物体OBJを積極的に捕捉するために、ピクセルブロックBの形状を切り替えたが、その限りでなく、特定の物体OBJを消すために、ピクセルブロックBの形状を利用してもよい。たとえば、車載のセンシング装置にとって、雨や雪はノイズであり、画像を復元する必要がないといえる。そして雨や雪の移動方向は一定であるから、ピクセルブロックBの形状を最適化すると、雨や雪の影響を排除しやすくなる。
たとえば雨が鉛直方向に降っている場合、縦方向(鉛直方向)に短い、言い換えれば横方向に長い形状のピクセルブロックBが好適である。複数のパターンを連続して照射する一連のセンシング動作において、特定のピクセルブロックの光が、雨の向こう側の物体OBJへ到達し、雨の手前側の光検出器120に戻ってくる過程で、特定のピクセルブロックの光が雨粒によって大きく影響を受ける(遮蔽される)確率が小さくなる。つまり各画素の雨の影響が均一化されることで、雨の影響を除去する処理(ノイズキャンセリング)が容易になる。
(実施例3.5)
これまでの実施例3.1~3.4では、同一のピクセルブロックBに含まれる画素はすべてオン(もしくはオフ)であった。これに対して、実施例3.5では、同一のピクセルブロックBは、オン画素とオフ画素の両方を含む。つまり、ピクセルブロックBは、所定配置された二以上のオン画素とオフ画素を含む。このようなピクセルブロックをパターンブロック(Patterned Block)と称する。照明装置110は、パターンブロックの組み合わせによって、強度分布を規定する。
図29(a)~(d)は、実施例3.5に係るパターンブロックPBを説明する図である。図29(a)~(d)には、パターンブロックPB内のオン画素とオフ画素の分布(パターン)が示される。
図29(a)では、パターンブロックPBの4辺に沿ってオフ画素が配置されており、図29(b)では、パターンブロックPBの隣接する2辺に沿ってオフ画素が配置されている。
図29(c)では、オン画素が斜め方向にクロスするように配置される。図29(d)では、オン画素が縦横でクロスするように配置される。
図30(a)、(b)は、パターンブロックの組み合わせにもとづくパターン信号の例を示す図である。図30(a)は、図29(a)のパターンブロックにより形成されるパターン信号の一例である。図30(b)は、図29(d)のパターンブロックにより形成されるパターン信号の一例である。図30(a)と図30(b)とは、オンであるパターンブロックの配置は同じである。
パターンブロックの概念を導入し、オン画素とオフ画素の分布を最適化することで、ある特定のシーンや物体に対して適したセンシングを提供することができる。
さらに、パターンブロックを複数規定しておき、それらを、物体OBJの形状や動き、あるいは走行シーンに合わせて適応的に選択することにより、物体OBJを正確に検出できるようになり、あるいは、演算量やフレームレートを制御できるようになる。
ゴーストイメージングによるセンシングでは、参照光S1のランダム性、空間インコヒーレント性が画質に大きな影響を与える。図29(a)や(b)のパターンブロックによれば、以下で説明するように、空間インコヒーレント性を改善できる。
図31(a)、(b)は、参照光の空間インコヒーレント性の改善を説明する図である。一般に、ある光源から出射する光束は、ある広がり角を持って進む。ニアフィールドを観察する顕微鏡では、画素ごとの光束の広がりは問題とならない。しかしながら車載用のイメージング装置100は、ファーフィールドの物体を検出する必要があるため、光束の広がりが問題を引き起こす。具体的には図31(a)に示すように、照明装置110の隣接する2つのオン領域(あるいは画素)A,Bから出射した2つの光束は、照明装置110から遠く離れた物体OBJの位置においてオーバーラップする。このような光束の重なりは、空間インコヒーレント性を低下させる。
図29(a)や(b)のパターンブロックを利用すると、連続するオン画素の個数を2個に制限することができる。これは、隣接する2個のオン領域の間に、オフ画素が挿入されることを意味する。これにより、図31(b)に示すように、隣接する2つのオン領域A,Bを空間的に分離できるため、物体OBJに照射される参照光に関しても、光束の重なりを低減することができ、空間インコヒーレント性を改善できる。図29(c)のパターンブロックBを用いた場合も、横方向、縦方向に関しては、連続するオン画素の個数を1個または2個とすることができる。
たとえば、遠方に物体OBJが存在する場合には、図29(a)~(c)のパターンブロックBを用い、物体OBJが近い場合には通常のパターンブロック(あるいはピクセルブロック)を用いてもよい。
(実施例3.6)
ピクセルブロックBあるいはパターンブロックPBにもとづく強度分布の制御のいくつかは、照明装置110の複数の画素のオン、オフ制御に、制約条件を課していると把握することができる。
たとえば、図29(a)のパターンブロックPBを利用した強度分布制御は、隣接する2個のオン画素の間には、2+4×n個(n≧0)のオフ画素が挿入されるという制約条件と把握できる。
あるいは、図29(b)のパターンブロックPBを利用した強度分布制御は、隣接する3個のオン画素の間には、1+4×n個(n≧0)のオフ画素が挿入されるという制約条件と把握できる。
言い換えれば、空間インコヒーレント性を改善できる強度分布は、パターンブロックPBを用いずに、所定の制約条件にもとづいて生成してもよい。
図32(a)、(b)は、空間インコヒーレント性を改善できる強度分布の例を示す図である。図32(a)、(b)では、隣接する画素がオンとならないという制約条件のもと、複数の画素のオン、オフがランダムに決定されている。図32(a)では、縦方向、横方向、斜め方向に関するオン画素の隣接が禁止される。図32(b)では、斜め方向のオン画素の隣接は許容され、縦方向と横方向に関するオン画素の隣接が禁止される。
(実施例3.7)
制約条件にもとづく強度分布の制御の別の例を説明する。図33(a)~(d)は、点灯率を制約条件としたパターン制御を説明する図である。図33(a)~(d)では、点灯率(全画素数に対するオン画素の個数の比率)が異なっており、それぞれ、点灯率は20%、40%、60%、80%である。パターン発生器を擬似ランダム信号(PRBS:Pseudo Random Bit Sequence)発生器で構成する場合、点灯率は、RPBSのマーク率に対応付けられる。
点灯率を高めると、光量が増加するため、より遠方の物体をセンシングすることが可能となる。あるいは、より反射率が低い物体や、反射面積が小さい物体の検出が可能となる。点灯率を高めることで、光の減衰率が高い濃霧環境下でも、反射光の量を増やすことができるため、検出感度を高めることができる。
反対に、近い物体をセンシングする場合、反射率が高い物体、大きい物体を検出する際には、点灯率を低下させてもよい。
また参照光S1を白色光とする場合、走行環境に応じて点灯率を動的に制御することにより、運転者からの視認性を高めたり、他の交通参加者に注意や警報を与えたり、先行車や対向車、歩行者へのグレアを低減できる。
たとえば、点灯率を低下させれば、前方が暗くなるため、対向車や歩行者へのグレアを防止することができる。反対に点灯率を高めれば、前方が明るくなるため、運転者からの視認性を高めたりできる。また点灯率を時間的に増減させれば、参照光S1を擬似的に点滅させることができ、自車の運転者や、他の交通参加者に注意や警報を与えることができる。
図33(a)~(d)の例では、全画素に関する点灯率を規定しているが、複数の領域に分割して、領域ごとに、点灯率を規定してもよい。図34(a)、(b)は、変形例に係る点灯率の制御を説明する図である。たとえば点灯率が50%とする場合に、全画素を通してのマーク率を50%としてPRBSを生成すると、上半分にオン画素が集中し、下半分にオフ画素が集中し、明るさにムラが生ずる。そこで図34(a)に示すように、上半分の領域と下半分の領域それぞれについて、マーク率が50%のPRBSを生成して強度分布を規定すれば、明るさのムラを低減できる。
図34(b)に示すように、複数の領域に分割し、領域ごとに点灯率を独立に指定可能としてもよい。この場合、対向車や先行車が存在する領域については点灯率を下げるなどの制御を行うことができる。
続いて実施の形態3に関連する変形例を説明する。
(変形例3.1)
実施の形態では、照明装置110を、光源112とパターニングデバイス114の組み合わせで構成したがその限りでない。たとえば照明装置110は、マトリクス状に配置される複数の半導体光源(LED(発光ダイオード)やLD(レーザダイオード))のアレイで構成し、個々の半導体光源のオン、オフ(あるいは輝度)を制御可能に構成してもよい。
(用途)
続いて実施の形態3に係るイメージング装置100の用途を説明する。このイメージング装置100は、図10の物体識別システム10に利用できる。物体識別システム10のセンサとして、実施の形態2で説明したイメージング装置100を用いることで、以下の利点を得ることができる。
イメージング装置100すなわち量子レーダカメラを用いることで、ノイズ耐性が格段に高まる。たとえば、降雨時、降雪時、あるいは霧の中を走行する場合、肉眼では物体OBJを認識しにくいが、イメージング装置100を用いることで、雨、雪、霧の影響を受けずに、物体OBJの復元画像Gを得ることができる。
車載用のイメージング装置100の検出対象は、車、人、バイクや自転車、構造物や動植物とさまざまである。またイメージング装置が使用される状況も、天候、時間帯、走行道路、走行速度などの走行環境に応じて大きく変化する。また、イメージング装置自体が移動するとともに、対象物も移動し、それらの相対的な移動方向もさまざまである。参照光の強度分布を、ピクセルブロックやパターンブロックにもとづいて動的に制御することにより、車載用途に適したセンシングが可能となる。
実施の形態3で説明したイメージング装置100は、図11の自動車に搭載でき、図12の車両用灯具に内蔵してもよい。
(実施の形態4)
(実施の形態4の概要)
以下で説明する実施の形態4は、ゴーストイメージングの原理を用いたイメージング装置に関する。イメージング装置は、参照光の強度分布を複数M通りで変化させながら物体に照射する照明と、複数の強度分布I~Iそれぞれについて、物体からの反射光を測定する光検出器と、複数の強度分布I~Iと光検出器の出力にもとづく複数の検出強度b~bの相関をとることにより、物体の復元画像を再構成する演算処理装置と、を備える。
複数の強度分布I~Iは以下の処理によって決定することができる。
(i)照明から物体を経て光検出器に至る経路の伝達特性をモデル化する。
(ii)基準物体およびそれに対応する基準画像を定義する。
(iii)複数の強度分布I~Iに初期値を与える。
(iv)モデル化した伝達特性にもとづいて、複数の強度分布I~Iそれぞれを有する参照光を基準物体に照射したときの、検出強度b~bの推定値b^~b^を計算する。
(v)複数の強度分布I~Iと複数の推定値b^~b^の相関をとることにより、基準物体の復元画像を再構築する。
(vi)復元画像と基準画像の誤差が小さくなるように、複数の強度分布I~Iそれぞれを修正する。処理(iv)~(vi)を繰り返すことにより、複数の強度分布I~Iを決定することができる。
この実施の形態によれば、想定される被写体などに応じて基準画像を定義して、パターンを最適化することにより、照射回数を減らすことができる。
基準物体および基準画像は、複数Nセット(N≧2)、定義されてもよい。この場合、複数の被写体を想定できるため、より汎用性を高めることができる。
誤差は、式(4)の目的関数F(I)で表されてもよい。
Figure 0007408572000004
但し、Wは画像の幅、Hは画像の高さ、T(x,y)はi番目の基準画像、G(x,y,I)はi番目の復元画像を表す。
複数の強度分布I~Iを、複数セット用意しておき、走行環境に応じたひとつのセットを選択的に使用してもよい。これにより、さまざまな走行環境において常に同じ強度分布のセットを用いる場合に比べて、画質を改善できる。
(実施の形態4の詳細な説明)
図35は、実施の形態4に係るイメージング装置100を示す図である。イメージング装置100はゴーストイメージングの原理を用いた相関関数イメージセンサであり、照明110、光検出器120、演算処理装置130を備える。イメージング装置100を、量子レーダカメラとも称する。
照明110は、疑似熱光源であり、実質的にランダムとみなしうる強度分布I(x,y)を有する参照光S1を生成し、物体OBJに照射する。物体OBJへの参照光S1の照射は、その強度分布を、複数のM通りのパターンに応じて変化させながら行われる。照明110は、たとえば均一な強度分布を有する光S0を生成する光源112と、この光S0の強度分布Iを空間的に変調可能なパターニングデバイス114を含みうる。光源112は、レーザや発光ダイオードなどを用いてもよい。参照光S1の波長やスペクトルは特に限定されず、複数のあるいは連続スペクトルを有する白色光であってもよいし、所定の波長を含む単色光であってもよい。
パターニングデバイス114としては、DMD(Digital Micromirror Device)や液晶デバイスを用いることができる。パターニングデバイス114には、演算処理装置130から、強度分布Iを指定するパターン信号PTN(画像データ)が与えられており、したがって演算処理装置130は、現在、物体OBJに照射される参照光S1の強度分布Iを知っている。
光検出器120は、物体OBJからの反射光を測定し、検出信号Dを出力する。検出信号Dは、強度分布Iを有する参照光を物体OBJに照射したときに、光検出器120に入射する光エネルギー(あるいは強度)の空間的な積分値である。したがって光検出器120は、シングルピクセルのデバイス(フォトディテクタ)を用いることができる。光検出器120からは、複数M通りの強度分布I~Iそれぞれに対応する複数の検出信号D~Dが出力される。
演算処理装置130は、パターン発生器132および再構成処理部134を含む。パターン発生器132は、参照光S1の強度分布Iを指定するパターン信号PTNを発生し、時間とともにパターン信号PTNを切り替える(r=1,2,…M)。従来では、照明110が発生する参照光S1の強度分布は、ランダムに生成していたが、本実施の形態では、予め決められた複数の強度分布I~Iのセットが用いられる。したがって複数の強度分布I~Iを規定する複数のパターン信号PTN~PTNのセットは、パターン発生器132の内部のメモリ(パターンメモリ)に予め保持されている。
再構成処理部134は、複数の強度分布I~Iと、複数の検出強度b~bの相関をとることにより、物体OBJの復元画像G(x,y)を再構成する。検出強度b~bは、検出信号D~Dにもとづいている。検出強度bと検出信号Dの関係は、光検出器120の種類や方式などを考慮して定めればよい。
ある強度分布Iの参照光S1を、ある照射期間にわたり照射するとする。また検出信号Dは、ある時刻(あるいは微小時間)の受光量すなわち瞬時値を表すとする。この場合、照射期間において検出信号Dを複数回サンプリングし、検出強度bを、検出信号Dの全サンプリング値の積分値、平均値あるいは最大値としてもよい。あるいは、全サンプリング値のうちのいくつかを選別し、選別したサンプリング値の積分値や平均値、最大値を用いてもよい。複数のサンプリング値の選別は、たとえば最大値から数えて序列x番目からy番目を抽出してもよいし、任意のしきい値より低いサンプリング値を除外してもよいし、信号変動の大きさが小さい範囲のサンプリング値を抽出してもよい。
光検出器120として、カメラのように露光時間が設定可能なデバイスを用いる場合には、光検出器120の出力Dをそのまま、検出強度bとすることができる。
検出信号Dから検出強度bへの変換は、演算処理装置130が実行してもよいし、演算処理装置130の外部で行ってもよい。
相関には、式(5)の相関関数が用いられる。Iは、r番目の強度分布であり、bはr番目の検出強度の値である。
Figure 0007408572000005
以上がイメージング装置100の全体の基本構成である。以下、複数の強度分布I~Iの決め方を説明する。複数の強度I~Iは、予めコンピュータを用いて決定される。
図36は、複数の強度分布I~Iのセットの決定方法を示すフローチャートである。照明110から物体OBJを経て光検出器120に至る経路の伝達特性をモデル化する(S100)。この伝達特性には、照明110から物体OBJまでの光の伝達特性と、物体OBJの反射特性と、物体OBJから光検出器120までの光の伝搬特性と、光検出器120の変換特性が含まれる。
基準物体およびそれに対応する基準画像T(x,y)を定義する(S102)。基準画像T(x,y)は、基準物体の反射特性を規定する。図37は、基準物体と基準画像T(x,y)の関係を説明する図である。
ここでは説明の簡素化、理解の容易化のために、グレースケールとして考える。基準画像T(x,y)の画素値は0~1で正規化されるものとする。この場合、各画素pの画素値は、基準物体の対応する部分の反射率を表す。たとえばある画素pの画素値が1であるとき、それに対応する基準物体の反射率は1(すなわち100%)であり、画素値が0であるとき、それに対応する基準物体の反射率は0(すなわち0%)であり、画素値が0.5であるとき、それに対応する基準物体の反射率は0.5(すなわち50%)のように対応付けることができる。
図36に戻る。複数のパターンに初期値を与えるステップと、(iv)伝達特性にもとづいて、複数の強度分布I~Iそれぞれを有する参照光S1を基準物体OBJに照射したときの、検出強度b~bの推定値b^~b^を計算する(S106)。
たとえば照明110から物体OBJまでの光路において光は減衰せず、参照光S1は、基準物体OBJを包含する矩形(図37の右の破線で示す矩形)の全体にわたって照射されるものとする。また物体OBJから光検出器120までの光路において光は減衰せず、物体OBJからの反射光はすべて光検出器120に入射するものと仮定する。この仮定のもとでは、強度分布がI(x,y)である参照光を基準物体に照射したときの検出強度の推定値b^は、式(6)で表される。但し、Wは画像の幅、Hは画像の高さを表す。
Figure 0007408572000006
現在の強度分布I(x,y)~I(x,y)の組み合わせ(あるいは状態)をIと表記する。式(7)の相関関数にもとづいて、強度分布のセットIを用いて、復元画像G(x,y,I)を再構成する(S108)。式(7)は、式(5)の検出強度bを、推定値b^に置き換えたものである。
Figure 0007408572000007
基準画像T(x,y)は、復元画像G(x,y,I)の正解に相当する。そこで、復元画像G(x,y,I)と、基準画像T(x,y)の誤差εを計算し(S110)、誤差ε小さくなるように、複数の強度分布I~Iそれぞれを修正する(S114)。
この処理は誤差εがその許容値εMAXより大きい間繰り返される(S112のY)。ε<εMAXとなると(S112のN)、そのときの複数の強度分布I~IのセットIを保存し(S116)、最適化処理が終了する。
この実施の形態によれば、想定される被写体などに応じて基準画像を定義して、パターンを最適化することにより、照射回数を減らすことができる。
好ましくは、基準画像T(x,y)と基準物体を、複数Nセット用意し、それらについて総合的な誤差εが小さくなるように、複数の強度分布I~Iを最適化するとよい。この場合、複数の被写体を想定できるため、より汎用性を高めることができる。
この場合の誤差εは、式(8)の目的関数F(I)で表されてもよい。
Figure 0007408572000008
(x,y)は、i番目のセットの基準画像を表す。
誤差εを最小化するアルゴリズムは特に限定されず、公知のものを用いることができる。たとえば最小化には、確率的勾配降下法を用いることができる。この問題は以下の式(9)で定式化できる。
Figure 0007408572000009
I^は、最適な強度分布I~Iのセットである。なお、強度分布I~Iの画素値は負をとらないから、非負の制約条件を設けることができる。
(検証)
以下、具体的な強度分布I~Iのセットの決定および検証について説明する。基準画像(基準物体)としては、notMNISTと呼ばれるさまざまなフォントで表されたアルファベット等の画像データのセットを利用した(https://kaggle.com/lubaroli/notmnist/home)。このデータセットに含まれる画像は529114枚である。機械学習において、データの多様性は性能向上につながる可能性が高いため、以下の処理を加えて擬似的にデータ数を増加させた(かさ増し)。これらのデータを用いて、バッチサイズ64で10エポック学習を行った。
・ランダムに上下方向、左右方向に10%シフト
・ランダムに10%ズーム
・ランダムに10%回転
・ランダムに上下、左右反転
強度分布I~Iの数Mは、100、500,1000として、それぞれの最適な強度分布のセットI100^、I500^、I1000^を求めた。最適化アルゴリズムとしては、Adam(Kingma Diederik, Jimmy Ba, "Adam-: A Method for Stochastic Optimization", arXiv:1412.6980,2014)を用いた。パラメータは文献にしたがい、α=0.001、β=0.9、β=0.999とした。
図38は、M=100に対して得られる100通りの強度分布I~I100からなるセットI100^示す図である。各画素の値は、0~255の範囲に正規化されている。M=500,M=1000についても同様のセットが得られるが、スペースの関係で図示は省略する。
図39は、最適化された強度分布のセットを用いたときの復元画像を示す図である。一番左は正解画像であり、上から順に、アルファベットのK、カエル、電車、トラックの写真を用いている。復元画像の下には、正解画像との誤差を表すPSNRの数値を示す。カエル、電車、トラックの画像は、CIFAR-10から引用した(Alex Krizhevsky, "Learning multiple layers of features from tiny images" 2009)。PSNRは、数値が大きいほど、誤差が小さいことを示す。
最適化された強度分布のセットを用いることにより、M=100の場合であっても、元の物体をある程度復元できており、M=500ではさらに正確に復元でき、M=1000ではさらに正確に復元できることがわかる。
比較のために、従来のランダムな強度分布のセットを用いたときの復元画像を計算した。ここではアルファベットのKについての結果を示す。図40は、ランダムな強度分布のセットを用いたときの復元画像を示す図である。ランダムな強度分布を用いると、10000回照射を行う場合でも、PSNRは9.578程度である。これに対して、本実施の形態によれば、100回照射でPSNR=14.20、500回照射でPSNR=18.63、1000回照射でPSNR=22.13が得られており、従来に比べてPSNRは著しく改善されることがわかる。
続いて実施の形態4に関する変形例を説明する。
(変形例4.1)
イメージング装置100において、強度分布のセットを複数用意しておき、走行環境に応じてそれらを切り替えるようにしてもよい。
上述の説明では、イメージング装置100から物体OBJの間で、光の減衰等が存在しないとした。これは、晴天時の見通しがよい場合に対応付けることができる。もちろん、この仮定のもとで得られた強度分布のセットは、降雨、降雪あるいは濃霧の中を走行する状況でも有効であるが、降雨、降雪、あるいは濃霧などの走行環境に応じて、強度分布のセットを切り替えれば、さらに復元画像Gの誤差を小さくできる。
たとえばイメージング装置100と物体OBJの間に、雨、雪、霧が存在する走行環境を想定する場合、それぞれ影響を考慮して、伝達特性(光の伝搬特性)をモデル化すればよい。この場合、検出強度bの推定値b^の計算式が式(6)から修正されることとなる。そして、修正された推定値b^にもとづいて、強度分布のセットを最適化すればよい。
複数の走行環境を想定し、各走行環境に適した強度分布のセットを最適化する際には、各走行環境(すなわち降雨、降雪、濃霧)において基準物体を撮影し、得られた画像を基準画像として、上述の機械学習を行ってもよい。この場合、伝達特性(光の伝搬特性)のモデル化を簡略化できる。
あるいは、走行環境としては、雨、雪、霧などの違いに加えて、あるいはそれらに変えて、昼の走行と夜の走行、低速走行と高速走行などを考慮して、各走行環境に適した強度分布のセットを用意してもよい。
(変形例4.2)
実施の形態4では、照明110を、光源112とパターニングデバイス114の組み合わせで構成したがその限りでない。たとえば照明110は、マトリクス状に配置される複数の半導体光源(LED(発光ダイオード)やLD(レーザダイオード))のアレイで構成し、個々の半導体光源のオン、オフ(あるいは輝度)を制御可能に構成してもよい。
続いて実施の形態4に係るイメージング装置100の用途を説明する。このイメージング装置100は、図10の物体識別システム10に利用できる。物体識別システム10のセンサとして、実施の形態4で説明したイメージング装置100を用いることで、以下の利点を得ることができる。
第1に、イメージング装置100すなわち量子レーダカメラを用いることで、ノイズ耐性が格段に高まる。たとえば、降雨時、降雪時、あるいは霧の中を走行する場合、肉眼では物体OBJを認識しにくいが、イメージング装置100を用いることで、雨、雪、霧の影響を受けずに、物体OBJの復元画像Gを得ることができる。
第2に、参照光S1として、予め機械学習によって最適化した強度分布I~Iのセットを用いることで、少ない照射回数で、物体OBJの像を復元できる。上の対比では従来のランダムな強度分布では、数千回にも及ぶ照射回数が必要であったのに対して、本実施形態では、100~1000回程度の照射回数まで減らすことができる。これにより、1枚の復元画像を得るために要する時間、すなわちフレームレートを従来よりも増やすことができる。これにより、イメージング装置100と物体OBJが相対的に移動する車載用途において必要なフレームレートを達成することができる。
実施の形態4で説明したイメージング装置100は、図11の自動車に搭載でき、図12の車両用灯具に内蔵してもよい。
実施の形態1~4において、ゴーストイメージング(あるいはシングルピクセルイメージング)の手法として、相関計算を用いた手法を説明したが、画像の再構築の手法はそれに限定されない。いくつかの実施の形態では、相関計算に変えて、フーリエ変換やアダマール逆変換を使用した解析的手法や、スパースモデリングなどの最適化問題を解く手法、およびAI・機械学習を利用したアルゴリズムによって、画像を再構築してもよい。
実施の形態にもとづき、具体的な語句を用いて本発明を説明したが、実施の形態は、本発明の原理、応用の一側面を示しているにすぎず、実施の形態には、請求の範囲に規定された本発明の思想を逸脱しない範囲において、多くの変形例や配置の変更が認められる。
本発明は、車両用灯具に関する。
OBJ…物体、10…物体識別システム、20…イメージング装置、40…演算処理装置、42…分類器、100…イメージング装置、110…照明、120…光検出器、130…演算処理装置、132…パターン発生器、134…再構成処理部、200…車両用灯具、202…光源、204…点灯回路、206…光学系、300…自動車、302…前照灯、310…灯具システム、304…車両側ECU、400…車両用灯具、402…筐体、404…カバー、410…前照灯、412…光源、414…リフレクタ、416…パターニングデバイス、420…疑似熱光源、422…光源、424…パターニングデバイス、430…共通部材。

Claims (5)

  1. 車両用灯具であって、
    前照灯と、
    参照光の強度分布をランダムに切り替えながら物体に照射する疑似熱光源と、
    を備え、
    前記疑似熱光源は、前記物体からの反射光を測定する光検出器、および、前記光検出器の出力と前記参照光の強度分布にもとづいて、前記物体の復元画像を再構成する演算処理装置とともにイメージング装置を構成するものであり、
    前記前照灯および前記疑似熱光源は、パターニングデバイスを共有して構成され、
    前記パターニングデバイスは、前記前照灯の配光を規定する配光画像データと、前記参照光の強度分布を規定するランダム画像データをピクセルごとに論理積を計算して得られる画像データに応じて制御されることを特徴とする車両用灯具。
  2. 前記パターニングデバイスによりパターニングされた光を車両前方に反射するリフレクタをさらに備えることを特徴とする請求項1に記載の車両用灯具。
  3. 前記参照光は、赤外または紫外であることを特徴とする請求項1または2に記載の車両用灯具。
  4. 前記参照光は白色光であることを特徴とする請求項1または2に記載の車両用灯具。
  5. 請求項1から4のいずれかに記載の車両用灯具を備えることを特徴とする車両。
JP2020563214A 2018-12-27 2019-12-20 車両用灯具および車両 Active JP7408572B2 (ja)

Applications Claiming Priority (11)

Application Number Priority Date Filing Date Title
JP2018244951 2018-12-27
JP2018244951 2018-12-27
JP2018245517 2018-12-27
JP2018245517 2018-12-27
JP2019002819 2019-01-10
JP2019002820 2019-01-10
JP2019002818 2019-01-10
JP2019002818 2019-01-10
JP2019002819 2019-01-10
JP2019002820 2019-01-10
PCT/JP2019/050170 WO2020137908A1 (ja) 2018-12-27 2019-12-20 車両用灯具および車両

Publications (2)

Publication Number Publication Date
JPWO2020137908A1 JPWO2020137908A1 (ja) 2021-11-11
JP7408572B2 true JP7408572B2 (ja) 2024-01-05

Family

ID=71127977

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020563214A Active JP7408572B2 (ja) 2018-12-27 2019-12-20 車両用灯具および車両

Country Status (3)

Country Link
JP (1) JP7408572B2 (ja)
CN (1) CN113227838A (ja)
WO (1) WO2020137908A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7408642B2 (ja) * 2019-04-22 2024-01-05 株式会社小糸製作所 イメージング装置、車両用灯具、自動車、イメージング方法
JPWO2021193646A1 (ja) * 2020-03-26 2021-09-30
JPWO2022270476A1 (ja) * 2021-06-22 2022-12-29
WO2023074759A1 (ja) * 2021-10-27 2023-05-04 株式会社小糸製作所 イメージング装置、車両用灯具、車両
JP2023132719A (ja) * 2022-03-11 2023-09-22 スタンレー電気株式会社 車両用灯具
JP7490161B1 (ja) 2023-11-09 2024-05-24 三菱電機株式会社 画像取得装置、及び、画像取得方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017073737A1 (ja) 2015-10-28 2017-05-04 国立大学法人東京大学 分析装置
WO2018124285A1 (ja) 2016-12-29 2018-07-05 国立大学法人東京大学 イメージング装置及び方法
JP2018156862A (ja) 2017-03-17 2018-10-04 トヨタ自動車株式会社 車両用前照灯装置
JP2018155658A (ja) 2017-03-17 2018-10-04 株式会社東芝 物体検出装置、物体検出方法、および物体検出プログラム
JP6412673B1 (ja) 2017-07-21 2018-10-24 学校法人玉川学園 画像処理装置及び方法、並びに、プログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7415126B2 (en) * 1992-05-05 2008-08-19 Automotive Technologies International Inc. Occupant sensing system
JPS59222342A (ja) * 1983-06-01 1984-12-14 住友ベークライト株式会社 塩化ビニル系樹脂−シリコ−ン複合成形品
US6830189B2 (en) * 1995-12-18 2004-12-14 Metrologic Instruments, Inc. Method of and system for producing digital images of objects with subtantially reduced speckle-noise patterns by illuminating said objects with spatially and/or temporally coherent-reduced planar laser illumination
DE29825026U1 (de) * 1997-04-02 2004-07-01 Gentex Corp., Zeeland Steuerungssystem, um Fahrzeugscheinwerfer automatisch zu dimmen
US8948539B2 (en) * 2011-09-28 2015-02-03 The United States Of America As Represented By The Secretary Of The Army System and method for image improvement and enhancement
JP2012146621A (ja) * 2010-12-20 2012-08-02 Stanley Electric Co Ltd 車両用灯具
EP3015882B1 (en) * 2013-06-27 2020-12-09 Panasonic Semiconductor Solutions Co., Ltd. Distance measuring device
CN103472456B (zh) * 2013-09-13 2015-05-06 中国科学院空间科学与应用研究中心 一种基于稀疏孔径压缩计算关联的主动成像系统及方法
US10473916B2 (en) * 2014-09-30 2019-11-12 Washington University Multiple-view compressed-sensing ultrafast photography (MV-CUP)
CN107107809B (zh) * 2014-12-25 2019-10-01 株式会社小糸制作所 点亮电路及车辆用灯具
DE102015120204A1 (de) * 2015-11-23 2017-05-24 Hella Kgaa Hueck & Co. Verfahren zum Betreiben von mindestens einem Scheinwerfer eines Fahrzeuges
CN106019307A (zh) * 2016-05-18 2016-10-12 北京航空航天大学 一种基于阵列光源的单像素成像系统及方法
JP2018036102A (ja) * 2016-08-30 2018-03-08 ソニーセミコンダクタソリューションズ株式会社 測距装置、および、測距装置の制御方法
US10671873B2 (en) * 2017-03-10 2020-06-02 Tusimple, Inc. System and method for vehicle wheel detection
CN108710215A (zh) * 2018-06-20 2018-10-26 深圳阜时科技有限公司 一种光源模组、3d成像装置、身份识别装置及电子设备

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017073737A1 (ja) 2015-10-28 2017-05-04 国立大学法人東京大学 分析装置
WO2018124285A1 (ja) 2016-12-29 2018-07-05 国立大学法人東京大学 イメージング装置及び方法
JP2018156862A (ja) 2017-03-17 2018-10-04 トヨタ自動車株式会社 車両用前照灯装置
JP2018155658A (ja) 2017-03-17 2018-10-04 株式会社東芝 物体検出装置、物体検出方法、および物体検出プログラム
JP6412673B1 (ja) 2017-07-21 2018-10-24 学校法人玉川学園 画像処理装置及び方法、並びに、プログラム

Also Published As

Publication number Publication date
CN113227838A (zh) 2021-08-06
WO2020137908A1 (ja) 2020-07-02
JPWO2020137908A1 (ja) 2021-11-11

Similar Documents

Publication Publication Date Title
JP7408572B2 (ja) 車両用灯具および車両
KR102472631B1 (ko) Lidar 시스템 및 방법
JP7256920B2 (ja) Lidarシステム及び方法
US20220132022A1 (en) Imaging device
WO2021193646A1 (ja) イメージング装置および車両用灯具、車両
WO2021079810A1 (ja) イメージング装置、車両用灯具、車両、イメージング方法
JP7395511B2 (ja) イメージング装置、その演算処理装置、車両用灯具、車両、センシング方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230613

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231220

R150 Certificate of patent or registration of utility model

Ref document number: 7408572

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150