(第1の実施形態)
本発明にかかるスペクトル測定装置を具体化した第1の実施形態について、図1〜図3にしたがって説明する。図1は、スペクトル測定装置の構成を概略的に示すブロック図である。
図1に示すように、スペクトル測定装置10は、自動車などの移動体としての車両1に搭載されている。車両1には、車外のスペクトル画像Dを測定するとともに、測定したスペクトル画像Dから作成した環境画像Fを出力する前記スペクトル測定装置10と、スペクトル測定装置10から出力された環境画像Fに基づく画像を表示する画像表示装置15とが設けられている。
スペクトル測定装置10には、スペクトル画像Dを測定するスペクトルデータ取得装置11と、スペクトル画像Dに基づいて選択波長画像SEを作成して出力する画像処理部を構成する画像選択装置12と、画像選択装置12が選択波長画像SEの作成に用いる選択条件の記憶された記憶装置13とが設けられている。また、スペクトル測定装置10には、選択波長画像SEから環境画像Fを生成して画像表示装置15に出力する画像処理部を構成する画像合成装置14が設けられている。
スペクトルデータ取得装置11は、いわゆるスペクトルセンサであって、車両1外部の測定範囲、例えば図2(a)に示す可視画像30に示されるような範囲におけるスペクトル画像Dを測定するとともに、測定したスペクトル画像Dを画像選択装置12に出力する。スペクトル画像Dには、異なる波長からなる複数の波長情報(波長)λ(λ1〜λm:mは波長毎に異なる整数)と、それら波長情報λのそれぞれに対応する画像としての波長画像E(E1〜Em)とが含まれる。すなわち、スペクトル画像Dには、特定の波長情報(波長)λに対応する光の画像としての波長画像Eが、複数の波長情報λ1〜λmに対応する数だけ含まれる。なお、特に波長情報λを特定しないときの画像を単に波長画像Eと示している。
画像選択装置12は、たとえば演算装置や記憶装置などを有するマイクロコンピュータを中心に構成されている装置である。画像選択装置12は、スペクトル画像Dから複数の波長画像Eを選択して、選択した複数の波長画像Eからなる選択波長画像SEを生成する装置である。画像選択装置12には、スペクトルデータ取得装置11が測定したスペクトル画像Dが入力されるとともに、画像選択装置12は、生成した選択波長画像SEを画像合成装置14に出力する。なお、画像選択装置12には、公知の記憶装置に設けられている記憶領域の全部もしくは一部からなる記憶装置13が接続されていることから、画像選択装置12は、同記憶装置13に記憶された特定波長データ20を読み出すことができる。特定波長データ20には、測定対象の検出に好適である、いわゆる測定対象の検出に必要とされる1つ又は複数の波長画像Eをスペクトル画像Dから選択するための選択条件がマップデータなどとして設定されている。特定波長データ20には、選択条件が複数の測定対象に対して設定されている。また、画像選択装置12には、運転者に認識させたい測定対象としての検出したい測定対象が、予め設定されていたり、別途の装置等から逐次設定されたりする。これにより画像選択装置12は、検出したい測定対象に応じて、特定波
長データ20から当該測定対象を検出するのに適している選択条件を取得する。このようにして読み出した選択条件に基づいて、画像選択装置12はスペクトル画像Dから選択波長画像SEを構成する複数の波長画像Eを選択する。
画像合成装置14は、画像選択装置12と同様に、たとえば演算装置や記憶装置などを有するマイクロコンピュータを中心に構成されている装置である。画像合成装置14は、選択波長画像SEから画像表示装置15に対して出力する環境画像Fを生成する。画像合成装置14は、画像選択装置12から選択波長画像SEが入力されると、入力された選択波長画像SEに含まれる複数の波長画像Eのそれぞれに可視表示用の処理を施すとともに、それら可視表示用の処理の施された各波長画像Eを合成して1つの環境画像Fを生成する。そして、画像合成装置14は、生成した環境画像Fを画像表示装置15に対して出力する。
画像表示装置15は、カーナビゲーション装置などであって、車両1の運転者等に対して提供する画像を表示するものである。このことから、画像表示装置15は、画像合成装置14から環境画像Fが入力されるとともに、入力された環境画像Fに基づく可視可能な可視画像を表示して運転者等に提供する。
次に、スペクトル画像Dから環境画像Fを生成する処理について説明する。
まず、スペクトル画像Dに含まれる波長画像の態様について説明する。図2は、スペクトルデータ取得装置11が測定したスペクトル画像Dに含まれる波長画像Eを示す図であって、(a)は標準的な可視画像30の模式図であり、(b)〜(h)はそれぞれ波長400nm(ナノメートル)、500nm、600nm、700nm、800nm、900nm、1000nmの光の波長画像Eの模式図である。
スペクトルデータ取得装置11は、図2(a)の可視画像30に示されるような車両1外部の測定範囲について、そのスペクトル画像Dを測定する。図2(a)は昼間の標準的な可視画像30を示しており、同可視画像30には、画像下側に配置された路面40と、該路面40の左側に描かれた前後に延びる2本の白線41,42と、該路面40の右側に描かれた前後に延びる破断白線43とが表示されている。また可視画像30には、画像中央にあって路面40上に左右一列に、金属板44と、2人の歩行者45と、3つの道路標識46とが配置されている態様がそれぞれ表示されているとともに、画像上側にあって路面40の先には樹木47と、樹木47の上には空48とがそれぞれ表示されている。
スペクトル画像Dには、例えば図2(b)〜(h)に示すように、波長情報λ1が400nmからなる波長画像E1と、波長情報λ3が500nmからなる波長画像E3と、波長情報λ5が600nmからなる波長画像E5と、波長情報λ7が700nmからなる波長画像E7とが含まれている。また、スペクトル画像Dには、波長情報λ9が800nmからなる波長画像E9と、波長情報λ11が900nmからなる波長画像E11と、波長情報λ13が1000nmからなる波長画像E13とが含まれている。
なお、測定対象により波長に対する反射率が異なることから、各波長画像Eには、それぞれの測定対象(40〜48)の像がそれらの波長に対する反射率に応じた光強度の像として測定される。詳述すると、波長400nmの波長画像E1には、全ての測定対象(40〜48)が弱い光強度で測定される。すなわち波長画像E1は、全ての測定対象(40〜48)に対する識別性が低い画像である。
波長500nmの波長画像E3には、2本の白線41,42と、破断白線43と、金属板44と、各歩行者45の顔部や脚部と、各道路標識46と空48とが強い光強度で測定され、路面40が中程度の光強度で測定される一方、樹木47が弱い光強度で測定される
。すなわち波長画像E3は、2本の白線41,42と、破断白線43と、金属板44について識別性の高い画像である。また、路面40についても、他の波長画像Eに比較すると、識別性の高い画像である。
波長600nmの波長画像E5には、金属板44と、歩行者45の顔部や脚部と、道路標識46とが強い光強度で測定され、2本の白線41,42と、破断白線43と、空48とが中程度の光強度で測定される一方、路面40と樹木47とが弱い光強度で測定される。すなわち波長画像E5は、金属板44と、歩行者45の顔部や脚部と、道路標識46についての識別性が高い画像である。
波長700nmの波長画像E7には、金属板44と、歩行者45の顔部と、一部の道路標識46が中程度の光強度で測定される一方、路面40と、2本の白線41,42と、破断白線43と、樹木47と、空48とが弱い光強度で測定される。すなわち波長画像E7は、金属板44と、歩行者45の顔部と、一部の道路標識46について中程度の識別性を有する画像である。
波長800nmの波長画像E9には、金属板44と、歩行者45と、樹木47が強い光強度で測定され、道路標識46と、空48とが中程度の光強度で測定される一方、路面40と、2本の白線41,42と、破断白線43とが弱い光強度で測定される。すなわち波長画像E9は、金属板44と、歩行者45と、樹木47について識別性が高い画像である。
波長900nmの波長画像E11には、金属板44と、歩行者45と、樹木47が中程度の光強度で測定される一方、路面40と、2本の白線41,42と、破断白線43と、道路標識46と、空48とが弱い光強度で測定される。すなわち波長画像E11は、金属板44と、歩行者45と、樹木47について中程度の識別性を有する画像である。
波長1000nmの波長画像E13では、全ての測定対象(40〜48)が弱い光強度で測定される。すなわち波長画像E13は、全ての測定対象(40〜48)に対する識別性が低い画像である。
続いて、上述の波長画像Eを含むスペクトル画像Dから複数の波長画像Eを選択する態様について説明する。図3は、環境画像Fの生成について模式的に説明する図であって、(a)はスペクトル画像Dに含まれる波長画像Eの模式図であり、(b)〜(d)は選択された波長画像Eの模式図であり、(e)は環境画像Fの模式図である。
本実施形態ではスペクトル画像Dは、図3(a)に示すように、波長情報λが400nm〜10000nmまで、50nm毎に193個(λ1〜λ193)の波長画像E1〜E193を有するものとする。すなわちスペクトル画像Dには、波長情報λ1が400nmのときの画像である波長画像E1と、波長情報λ2が450nmのときの画像である波長画像E2と、…、波長情報λ193が10000nmのときの画像である波長画像E193とが含まれる。
画像選択装置12は、検出する測定対象に応じて、当該測定対象を検出するのに適している選択条件を特定波長データ20から取得する。例えば、図3(b)に示すように、測定対象が路面50である場合、画像選択装置12は、特定波長データ20から選択条件として波長情報λ3(500nm)を取得することにより、スペクトル画像Dから波長情報500nmの波長画像E3を選択する。なお、波長画像E3は路面50に対して比較的高い識別性を有する画像である。
また、図3(c)に示すように、測定対象が他車両51,52である場合、画像選択装置12は、特定波長データ20から選択条件として波長情報λ53〜λ93(3000nm〜5000nm)を取得することにより、スペクトル画像Dから波長情報3000nm〜5000nmに対応する波長画像E53〜E93を選択する。なお、波長画像E53〜E93はエンジンの熱や高温の金属に対して比較的高い識別性を有する画像である。
さらに、図3(d)に示すように、測定対象が歩行者53,54である場合、画像選択装置12は、選択条件として波長情報λ9(800nm)を取得することにより、スペクトル画像Dから波長情報800nmの波長画像E9を選択する。なお、波長画像E9は歩行者、とりわけ歩行者の体温について比較的高い識別性を有する画像である。
すなわち、特定波長データ20には、測定対象が路面50である場合には波長情報λ3(500nm)の波長画像E9を選択させる選択条件が設定されている。また、特定波長データ20には、測定対象が他車両51,52である場合には波長情報λ53〜λ93(3000nm〜5000nm)の波長画像E53〜E93を選択させる選択条件が設定されている。さらに、特定波長データ20には、測定対象が歩行者53,54である場合には波長情報λ9(800nm)の波長画像E9を選択させる選択条件が設定されている。
このように画像選択装置12は、選択条件に基づいて、スペクトル画像Dに含まれる各波長画像E1〜E193から、例えば、複数の波長画像E3,E53〜E93,E9を選択して、これら選択した複数の波長画像E3,E53〜E93,E9を選択波長画像SEとして画像合成装置14に出力する。なお、このように、測定対象に応じて波長画像Eを選択することから、検出したい測定対象については確実に検出できるようになるとともに、検出したくない測定対象についてはそれが強い光強度を有する波長画像Eを選択しないことにより、環境画像Fから除外することができる。これにより、運転者が正しく認知すべき測定対象が強調される一方、運転者が認識しなくてもよい対象については見えにくくするようにすることもできるようになる。
画像合成装置14は、選択波長画像SEとして、図3(b)〜(d)に示される、複数の波長画像E3,E53〜E93,E9が入力されると、複数の波長画像E3,E53〜E93,E9のそれぞれに可視表示用の処理を施す。可視表示用の処理とは、波長画像Eを画像表示装置15による表示に適した波長及び強度を有する画像の情報に変換するとともに、そこに含まれている測定対象に適切な色彩を付与したり、適切な形状に加工したりする処理である。
すなわち、画像合成装置14は、波長画像E3を可視表示に適した波長及び強度に変換するとともに、ここでは、測定対象が路面であることから、波長画像E3の光強度の強い部分については路面としての色彩を付与したり、路面の形状に加工したりする。また、画像合成装置14は、複数の波長画像E53〜E93を1つの画像として可視表示に適した波長及び強度に変換するとともに、ここでは、測定対象が車両であることから、波長画像E53〜E93の光強度の強い部分については車両としての色彩を付したり、車両の形状に加工したりする。さらに、画像合成装置14は、波長画像E9を可視表示に適した波長及び強度に変換するとともに、ここでは、測定対象が歩行者であることから、波長画像E9の光強度の強い部分については歩行者としての色彩を付したり、歩行者の形状に加工したりする。
画像合成装置14は、上記のように可視表示用の処理が施された表示用画像を合成処理して環境画像Fを生成する。すなわち各表示用画像を、測定対象である路面50や、各他車両51,52や、各歩行者53,54が消えることなどがないように重ね合わせることで、路面50と他車両51,52と歩行者53,54とが強調されて高い識別力を有する
環境画像Fが生成される。表示用画像の重ね合わせについては、公知の重ね合わせ方法が適用可能であり、例えば、重ね合わせる画像の光強度を平均したり、重ね合わせる画像の最大値を選択したりする方法などが適用される。
このように画像合成装置14は、路面や、車両や、歩行者などを、複雑なアルゴリズムに基づき演算時間を要する画像認識処理を通じて抽出するのではなく、上述のような簡単な処理により抽出して強調するようにした画像を生成することができる。
そして、環境画像Fが画像表示装置15に入力されることにより、画像表示装置15には環境画像Fに基づく画像が表示される。画像表示装置15には、主に、路面50と他車両51,52と歩行者53,54とが強調された環境画像Fに基づく画像が表示されることから、運転者等に測定対象の識別性を高めた画像を提供することができる。これにより、運転者の走行環境の肉眼での認識を支援することができるようになる。
以上説明したように、本実施形態のスペクトル測定装置によれば、以下に列記するような効果が得られるようになる。
(1)必要とされる波長情報λに基づいて選択した波長画像Eを合成処理して車両1周囲の環境画像Fを生成することから、こうした環境画像Fを、必要に応じて選択された波長情報λの下で測定される測定対象の像が強調された、高い視認性が付与された画像として生成することができる。これにより、画像表示装置15には、選択された波長情報λに基づいて強調された測定対象が高い視認性を有して表示されるようになることから、車両1の運転者等による走行環境(移動環境)の認識を好適に支援することができるようになる。
(2)必要とされる波長画像Eの選択に基づいてその波長情報λにより測定される測定対象が抽出されることから、測定対象を抽出するためにスペクトル画像Dに処理時間を要する画像認識処理を施す必要がない。このため、画像認識処理に要する時間に比べて短時間で測定対象に高い視認性を付与した車両1周囲の環境画像Fを生成することができるようになる。その結果、スペクトル測定装置10としては、車両1に搭載された場合であれ、車両1周囲の環境画像Fを実時間で生成することができるようになる。すなわち運転者等による走行環境の認識を好適に支援するための画像を実時間で表示することを通じて、運転者等による走行環境(移動環境)の認識を実時間で支援することができるようになる。
(3)各種測定対象の検出に好適な波長画像Eを選択することができるため、それら選択した波長画像E、すなわち選択波長画像SEに基づいて所望の測定対象を強調する車両1周囲の環境画像Fを生成することができるようにもなる。これにより、運転者等に対して1ないし複数の特定の測定対象の認識を的確に支援する可視画像を提供することができるようになる。
(第2の実施形態)
本発明を具体化した第2の実施形態について、図4に従って説明する。
なお、本実施形態のスペクトル測定装置10は、先の第1の実施形態に対して画像合成装置14により行なわれる画像合成処理が相違するものの、その他の構成などは同様であることから、ここでは主に相違点について説明することとし、説明の便宜上、同様の構成などには同様の符号を付しその説明を割愛する。
本実施形態の画像選択装置12は、モノクロの可視画像を生成することができる複数の波長画像Eと、測定対象を好適に検出することができる1つ又は複数の波長画像Eを選択することにより、選択波長画像SEを生成する。そして画像選択装置12は、生成した選
択波長画像SEを、画像合成装置14に出力する。例えば、モノクロの可視画像を生成することができる複数の波長画像Eとしては、可視光波長領域の全ての波長画像Eや、赤色と青色と緑色の各波長の波長画像Eなどである。また、測定対象を好適に検出することのできる波長画像E(測定用波長画像Es)としては、可視光波長領域及び赤外線領域や紫外線領域などの不可視光波長領域の内の任意の波長に対応する1つ又は複数の波長画像Eからなることから、本実施形態では、赤外線領域の波長に対応する1つの波長画像Eとする。
画像合成装置14は、画像選択装置12から選択波長画像SEが入力されると、図4に示される処理手順により画像合成処理を行なう。画像合成装置14は、モノクロの可視画像を生成することができる複数の波長画像Eに基づいてモノクロ可視画像を生成する(図4のステップS10)。モノクロ可視画像は、モノクロの可視画像を生成することができる複数の波長画像Eの各光強度を平均化する画像処理など、公知の画像処理により作成される。モノクロ可視画像が作成されると、画像合成装置14は、操作対象画素を選定する(図4のステップS11)。操作対象画素としては、モノクロ可視画像の画素の中から、例えば上から順番に選択される。操作対象画素が選択されると、画像合成装置14は、モノクロ可視画像と測定用波長画像Esとを合成して作成される環境画像Fにおける対象画素の強度を算出する(図4のステップS12)。画像合成装置14は、環境画像における操作対象の画素の光強度を、モノクロ可視画像における操作対象画素の光強度と、測定用波長画像Esにおける操作対象画素の光強度とを平均した光強度として算出する。操作対象の画素の光強度が算出されると、画像合成装置14は、全ての画素が選択されたか否かを判断する(図4のステップS13)。全ての画素が選択されていないと判断された場合(図4のステップS13でNO)、画像合成装置14は、ステップS11に戻り、次の操作対象画素を選択し、ステップS11以降の処理を行なう。一方、全ての画素が選択されていると判断された場合(図4のステップS13でYES)、環境画像Fの全ての画素について光強度が算出されたことから、画像合成装置14は、画像合成処理を終了する。そして、生成された環境画像Fが画像合成装置14から画像表示装置15に出力されて、画像表示装置には、画像合成装置14により生成された環境画像Fに基づく画像が表示される。
これにより、モノクロ可視画像において1ないし複数の特定の測定対象が高い認識性を有する環境画像がされるようになるため、運転者等に対してモノクロ可視画像において1ないし複数の特定の測定対象の認識を的確に支援する可視画像を提供することができるようになる。
以上説明したように、本実施形態によっても先の第1の実施形態の前記(1)〜(3)の効果と同等もしくはそれに準じた効果が得られるとともに、以下に列記するような効果が得られるようになる。
(4)モノクロ可視画像に基づいて特定の測定対象が高い認識性を有する環境画像Fを作成したことから、運転者等に対してモノクロ可視画像に併せて1ないし複数の特定の測定対象の認識を的確に支援する可視画像を提供することができる。
(第3の実施形態)
本発明を具体化した第3の実施形態について、図5及び図6に従って説明する。
なお、本実施形態のスペクトル測定装置10は、先の第1の実施形態に対して画像選択装置12が特定部位データ21を用いて波長画像Eの一部を除外することが相違するものの、その他の構成などは同様であることから、ここでは主に相違点について説明することとし、説明の便宜上、同様の構成などには同様の符号を付しその説明を割愛する。
図5に示すように、記憶装置13には、特定部位データ21が記憶されている。特定部位データ21は、測定対象毎に当該測定対象が画像の中で配置される(出現する)位置(領域)を特定したデータである。例えば、測定対象が「空」である場合、特定部位データ21には、波長画像Eにおける「空」が支配的な領域として、図6(a)に示されるような、画像上側に逆三角形状の第1の特定領域aが設定される。また、測定対象が「路面」である場合、特定部位データ21には、波長画像Eにおける「路面」が支配的な領域として、図6(b)に示されるような、画像下側に三角形状の第2の特定領域bが設定される。さらに、測定対象が「歩行者」などである場合、特定部位データ21には、波長画像Eにいて「歩行者」などが居る(出現する)可能性の高い領域として、図6(c)に示されるような、画像左側を底辺として画像中央に向う三角形状の領域と、画像右側を底辺として画像中央に向う三角形状の領域とからなる第3の特定領域cが設定される。
画像選択装置12は、スペクトルデータ取得装置11からスペクトル画像Dが入力されると、記憶装置13に記憶された特定波長データ20を読み出し、測定対象の検出に好適な1つ又は複数の波長画像Eをスペクトル画像Dから選択する。また、本実施形態では、画像選択装置12は、測定対象に対応した特定部位データ21を記憶装置13から読み出して、選択した波長画像Eから特定部位データ21に設定された領域を選択する、すなわち、特定部位データ21に設定された領域以外の領域を除外するようにする。例えば、画像選択装置12は、「空」を検出するために波長情報λ3(500nm)の波長画像E3を選択した場合、当該波長画像E3に第1の特定領域aを適用して、図6(a)に示すように、波長画像E3から第1の特定領域aを選択した(残した)部分波長画像E3aを生成する。また、画像選択装置12は、路面を検出するために波長情報λ3(500nm)の波長画像E3を選択した場合、当該波長画像E3に第2の特定領域bを適用して、図6(b)に示すように、当該波長画像E3から第2の特定領域bを選択した(残した)部分波長画像E3bを生成する。さらに、画像選択装置12は、歩行者を検出するために波長情報λ9(500nm)の波長画像E9や波長情報λ53(3000nm)の波長画像E53を選択した場合、当該各波長画像E9,E53に第3の特定領域cを適用する。そして、図6(c)に示すように、波長画像E9や波長画像E53から第3の特定領域cを選択した(残した)部分波長画像E9a,E53aを生成する。これにより、画像の中で測定対象の検出に適切な部分の画像が選択され、当該部分において測定対象がより的確に強調されるようになる。
そして、画像選択装置12は、これら生成された部分波長画像E3a,E3b,E9a,E53aを選択波長画像SEとして画像合成装置14に出力する。画像合成装置14は、選択波長画像SEに含まれる各部分波長画像E3a,E3b,E9a,E53aについて、それら画像から除外された部分が合成に影響を及ぼさないようにそれぞれ画像処理を施すとともにそれらを合成して環境画像Fを生成する。これにより、測定対象が的確に強調された画像に基づいて環境画像Fが生成されるので、環境画像Fとしても測定対象をより的確に強調したものとなる。そして、画像合成装置14は、この環境画像Fを画像表示装置15に出力する。
画像表示装置15は、環境画像Fを表示することにより、運転者等に対して1ないし複数の特定の測定対象の認識を的確に支援する可視画像を提供することができるようになる。
以上説明したように、本実施形態によっても先の第1の実施形態の前記(1)〜(3)の効果と同等もしくはそれに準じた効果が得られるとともに、以下に列記するような効果が得られるようになる。
(5)各波長画像Eから、検出したい測定対象が撮像されていない領域を除外する、換
言すれば検出したい測定対象が撮像された領域(第1〜第3の特定領域a〜c)のみを選択するようにしたことから、検出したい測定対象を強調した環境画像Fを効率良く生成することができるようになる。
(第4の実施形態)
本発明を具体化した第4の実施形態について、図7〜図9に従って説明する。
なお、本実施形態のスペクトル測定装置10は、先の第1の実施形態に対して画像選択装置12に光源スペクトル推定装置16が接続されていることが相違するものの、その他の構成などは同様であることから、ここでは主に相違点について説明することとし、説明の便宜上、同様の構成などには同様の符号を付しその説明を割愛する。
図7に示すように、光源スペクトル推定装置16は、スペクトルデータ取得装置11の撮像領域に投光される光のスペクトルを推定するために車両1に備えられた装置であって、例えば各波長に対する反射率が既知である標準反射板により反射される光を検出して、その検出した光から光源のスペクトルを推定する。又は、光源スペクトル推定装置16は、車両1上方の光を測定することにより撮像領域に投光される光のスペクトルを推定したり、車両1に備えられている光源については、予めその光源スペクトルが設定されていてもよい。なお、光源としては、車両1に搭載された前照灯やスペクトル撮像用の投光器や、車両1外の環境光を構成する太陽光や街路灯などが含まれる。例えば、図8に示すように、光源スペクトル推定装置16は、第1の光源について、図8(b)に示すような光源スペクトルを推定する一方、第2の光源について、図8(d)に示すような光源スペクトルを推定するものとする。
記憶装置13の特定波長データ20には、測定対象Aの選択条件として、例えば波長情報λxのときの反射率P1と、波長情報λyのときの反射率P2とがマップデータなどとして設定されている。
画像選択装置12は、スペクトルデータ取得装置11から、図8(a)に示すような反射率を有する測定対象Aについてのスペクトル画像Dが入力されると、記憶装置13に記憶された特定波長データ20から選択条件を読み出すとともに、光源スペクトル推定装置16から推定された光源のスペクトルを取得する。画像選択装置12は、推定された光源のスペクトルを測定対象Aに対応する選択条件に適用し、選択条件に含まれる各波長情報に対する光強度(スペクトル強度)を計算する。そして画像選択装置12は、計算された光強度の中から最も高い強度となる波長情報を求めて、当該波長情報に対応する波長画像を選択する。すなわち、第1の光源が、図8(b)に示すスペクトルを有する光により測定対象Aを照らしている場合、測定対象Aの光強度は図8(c)のように推定されることから、画像選択装置12は、測定対象Aを強調するために波長情報λxに対応する波長画像Ex(光源対応波長画像Ez)を選択するようにする。また例えば、第2の光源が、図8(d)に示すスペクトルを有する光により測定対象Aを照らしている場合、測定対象Aの光強度は図8(e)のように推定されることから、画像選択装置12は、測定対象Aを強調するために波長情報λyに対応する波長画像Ey(光源対応波長画像Ez)を選択するようにする。これにより、スペクトル画像Dの中から測定対象Aを強調するのに適切な波長画像Eが選択され、測定対象Aが的確に強調されるようになる。
そして、画像選択装置12は、この選択した光源対応波長画像Ezを含む選択波長画像SEを画像合成装置14に出力する。画像合成装置14は、選択波長画像SEに含まれる光源対応波長画像Ezなどにそれぞれ画像処理を施すとともにそれらを合成して環境画像Fを生成する。これにより、測定対象Aが的確に強調された光源対応波長画像Ezに基づいて環境画像Fが生成されるので、環境画像Fとしても測定対象Aをより的確に強調したものとなる。そして、画像合成装置14は、この環境画像Fを画像表示装置15に出力す
る。
画像表示装置15は、環境画像Fを表示することにより、運転者等に対して特定の測定対象Aの認識を的確に支援する可視画像を提供することができるようになる。
次に、画像選択装置12が選択波長画像SEを作成する手順について、図9に従って説明する。
画像選択装置12は、スペクトルデータ取得装置11からスペクトル画像Dが入力されると、図9に示される処理手順により光源スペクトルに対応する波長画像選択処理を行なう。
図9に示すように、光源スペクトルに対応する波長画像選択処理が開始されると、画像選択装置12は、光源スペクトル推定装置16により推定された光源スペクトルを取得する(図9のステップS20)とともに、測定対象Aを選択して当該測定対象Aに対する選択条件を取得する(図9のステップS21)。画像選択装置12は、推定された光源スペクトルと選択条件とに基づいて測定対象Aのスペクトル強度を演算により推定して(図9のステップS22)から、推定されたスペクトルの強度から同スペクトルの強度が最大となる波長情報を算出するとともに記憶する(図9のステップS23)。そして、あらかじめ定めた全ての測定対象を選択したか否かについて判断する(図9のステップS24)。まだあらかじめ全ての測定対象を選択していないと判断した場合(図9のステップS24でNO)、画像選択装置12は、ステップS21に戻って、新たな測定対象を選択するとともに、その選択した測定対象に対する波長画像選択をステップS21以降の手順により行なう。一方、あらかじめ定めた全ての測定対象に対する波長画像Eを選択したと判断した場合(図9のステップS24でYES)、画像選択装置12は、記憶された波長情報に対応する波長画像Eを選択して、それら波長画像Eからなる選択波長画像SEを画像合成装置14に出力する(図9のステップS25)。
そして画像合成装置14は、入力された選択波長画像SEに基づいて作成した環境画像Fを画像表示装置15に出力し、画像表示装置15は、環境画像Fを表示する。
以上説明したように、本実施形態によっても先の第1の実施形態の前記(1)〜(3)の効果と同等もしくはそれに準じた効果が得られるとともに、以下に列記するような効果が得られるようになる。
(6)環境光に含まれる波長情報である光源スペクトルを加味して波長画像Eが選択されるため、測定対象が主に反射することとなる環境光(光源スペクトル)に基づく当該測定対象の像を効率良く検出することができるようになる。すなわちこれにより、測定対象を強調した環境画像を効率良く生成することができるようになる。
(7)例えば、車両1に搭載された前照灯やスペクトル撮像用の投光器を光源とする場合、それら光源に含まれる波長情報(光源スペクトル)を加味して波長画像Eが選択されるため、前記光源に含まれる波長の光を反射する測定対象の像を効率良く検出することができるようになる。すなわち、このように測定対象を強調した環境画像を効率良く生成することができるようになる。
(第5の実施形態)
本発明を具体化した第5の実施形態について、図10及び図11に従って説明する。
なお、本実施形態のスペクトル測定装置10は、先の第1の実施形態に対して画像選択装置12を省いたことと、画像合成装置14にコントラスト調整部17を設けたことが相違するものの、その他の構成などは同様である。このことから、ここでは主に相違点について説明することとし、説明の便宜上、同様の構成などには同様の符号を付しその説明を
割愛する。
図10に示すように、スペクトル測定装置10は、スペクトルデータ取得装置11の測定したスペクトル画像Dが画像処理部としての画像合成装置14に入力され、画像合成装置14は、入力されたスペクトル画像Dに基づいて環境画像Fを生成するようになっている。画像合成装置14には、コントラスト調整部17が設けられている。コントラスト調整部17は、スペクトル画像Dに含まれる各波長画像E1〜Emのそれぞれについて、その波長画像Eにおける最大の光強度が予め定めた所定の強度になるように同波長画像E全体の光強度の強弱を調整するものである。
詳述すると、例えば、2つの異なる測定対象がある場合、その一方の第1の測定対象Bは、第1の波長情報λbに対して強く感応するため、同第1の波長情報λbに対応する第1の波長画像Ebに強い光強度で示される。他方、第1の測定対象Bとは異なる第2の測定対象Cは、第1の波長情報λbとは異なる第2の波長情報λcに対して強く感応するため、同第2の波長情報λcに対応する第2の波長画像Ecに強い光強度で示される。このとき、第1の波長画像Ebにおける第1の測定対象Bの光強度と、第2の波長画像Ecにおける第2の測定対象Cの光強度とが同レベルの強度であるとは限らない。このため、環境画像Fを、単に第1の波長画像Ebと第2の波長画像Ecとを合成することにより作成した場合、環境画像Fに、第1の測定対象Bと、第2の測定対象Cとが異なる光強度で表示されてどちらか一方の測定対象が目立たなくなるおそれもある。
そこで、コントラスト調整部17は、第1の波長画像Ebの第1の測定対象Bの光強度と、第2の波長画像Ecの第2の測定対象Cの光強度とが同等になるように、第1の波長画像Eb及び第2の波長画像Ecのコントラストを調整するようにする。コントラストの調整には、ヒストグラム平均化などの一般的な公知の方法が利用可能である。これにより、生成された環境画像Fにおいて、第1の測定対象Bと第2の測定対象Cとがそれぞれ同等の光強度となるため、第1の測定対象B及び第2の測定対象Cがそれぞれ同等に強調されるようになることから、擬似的に高ダイナミックレンジである画像を生成することができるようになる。
具体的には、例えば、車両1の走行環境が出口の見えるトンネル内の場合、スペクトル画像Dには、トンネルの照明により照らされたトンネル内と、太陽光により照らされたトンネルの外とが撮像される。このとき、一般の可視画像カメラは、撮像照度をトンネル内の照度に合わせれば、トンネルの出口部分は白くつぶれてしまう一方、撮像照度を太陽光の照度に合わせれば、トンネル内が黒くつぶれてしまう。そこで、太陽光では弱く、トンネル内では強い波長(例えば700nm)に対応する第1の波長画像Ebと、トンネル内では弱く、太陽光では強い波長(例えば1000nm)に対応する第2の波長画像Ecとを選択して、それら第1及び第2の波長画像Eb,Ecのコントラストをそれぞれ調整をするようにする。これにより、第1の波長画像Ebはトンネル内の識別性の高い画像となり、第2の波長画像Ecはトンネル外の識別性の高い画像となるため、環境画像Fとして、トンネル内及びトンネルの出口のいずれも識別性の高い画像を生成することができるようになる。
その結果、運転者等に、第1の測定対象B及び第2の測定対象Cとのそれぞれについての認識に対する支援を好適に提供することができるようになる。
次に、画像合成装置14が環境画像Fを作成する手順について、図11に従って説明する。
画像合成装置14は、スペクトルデータ取得装置11からスペクトル画像Dが入力されると、図11に示される処理手順により各波長画像Eのコントラストを調整するとともに
環境画像Fを生成する画像合成処理を行なう。
図11に示すように、画像合成処理が開始されると、画像合成装置14は、スペクトルデータ取得装置11から入力されるスペクトル画像Dを取得する(図11のステップS30)とともに、コントラスト調整を行なう波長画像Eを選択する(図11のステップS31)。画像合成装置14は、選択した波長情報(対象波長)λの波長画像Eを高コントラスト化する(図11のステップS32)。そして、全ての波長情報λに対応する波長画像Eを選択したか否かについて判断する(図11のステップS33)。まだ全ての波長画像Eを選択していないと判断した場合(図11のステップS33でNO)、画像合成装置14は、ステップS31に戻って、まだ高コントラスト化していない波長画像Eを選択するとともに、その選択した波長画像Eに対する高コントラスト化をステップS31以降の手順により行なう。一方、全ての波長画像Eを選択したと判断した場合(図11のステップS33でYES)、画像合成装置14は、高コントラスト化した全ての画像の平均値からなる環境画像Fを作成する(図11のステップS34)。そして画像合成装置14は、作成した環境画像Fを画像表示装置15に出力し、画像表示装置15により環境画像Fが表示される。
以上説明したように、本実施形態によっても先の第1の実施形態の前記(1)〜(3)の効果と同等もしくはそれに準じた効果が得られるとともに、以下に列記するような効果が得られるようになる。
(8)各波長画像E毎に相違するコントラストが合成に適したコントラストに調整されてから環境画像Fを生成する。例えば、2つの測定対象である、第1の測定対象Bと第2の測定対象Cについて、第1の波長画像Ebにおける第1の測定対象Bと、第2の波長画像Ecにおける第2の測定対象Cの光強度とがいじれも同レベルの強度であるとは限らない。そこで、第1及び第2の波長画像Eb,Ecの各測定対象の光強度が同等になるように、第1の波長画像Eb及び第2の波長画像Ecのコントラストを調整することで、環境画像Fにおいて、第1の測定対象Bと第2の測定対象Cとがそれぞれ同等の光強度にて表示され、それぞれの測定対象の視認性が好適に確保される。
(第6の実施形態)
本発明を具体化した第6の実施形態について、図12に従って説明する。
なお、本実施形態のスペクトル測定装置10は、先の第1の実施形態に対して画像選択装置12に環境情報取得装置18が接続されていることが相違するものの、その他の構成などは同様であることから、ここでは主に相違点について説明することとし、説明の便宜上、同様の構成などには同様の符号を付しその説明を割愛する。
図12に示すように、環境判別装置としての環境情報取得装置18は、車両1の走行環境を取得するために車両1に備えられた装置であって、車両1の走行環境の種別を、交通環境として市街地であるか、田舎道であるか、高速道路であるか判定するようになっている。環境情報取得装置18は、例えば撮像装置により撮像した撮像画像に基づいて走行環境の種別を判定してもよいし、カーナビゲーションの地図情報と車両1の現在位置とに基づいて走行環境の種別を判定してもよい。
画像選択装置12は、スペクトルデータ取得装置11からスペクトル画像Dが入力されると、環境情報取得装置18から走行環境の種別を取得するとともに、当該取得された走行環境において検出したい測定対象を選定する。そして、選定された測定対象を検出するための選択条件を記憶装置13に記憶された特定波長データ20から読み出し、その読み出した選択条件に基づいてスペクトル画像Dから波長画像Eを選択する。これにより、スペクトル画像Dの中から、当該走行環境において認識すべき測定対象を強調することに適
した波長画像Eが選択され、それら認識すべき測定対象を的確に強調することができるようになる。
そして、画像選択装置12は、選択された波長画像Eに基づく選択波長画像SEを画像合成装置14に出力する。画像合成装置14は、選択波長画像SEに基づいて環境画像Fを生成する。これにより、認識すべき測定対象が的確に強調された波長画像Eを含む選択波長画像SEに基づいて環境画像Fが生成されるので、環境画像Fとしても測定対象をより的確に強調したものとなる。そして、画像合成装置14は、この環境画像Fを画像表示装置15に出力する。
画像表示装置15は、環境画像Fを表示することにより、運転者等に対して特定の測定対象Aの認識を的確に支援する可視画像を提供することができるようになる。
以上説明したように、本実施形態によっても先の第1の実施形態の前記(1)〜(3)の効果と同等もしくはそれに準じた効果が得られるとともに、以下に列記するような効果が得られるようになる。
(9)走行環境の種別を加味して選択すべき波長画像Eを変化させるようにしたことから、その都度の交通環境に応じて、測定対象の認識性の高い環境画像Fを効率良く得ることができる。
なお上記実施形態は、以下の態様で実施することもできる。
・上記各実施形態では、スペクトル測定装置10に記憶装置13が含まれている場合について例示した。しかしこれに限らず、記憶装置は、スペクトル測定装置の外部に設けられ、例えば、車載ネットワークなどで接続されてもよい。これにより、スペクトル測定装置としての構成の自由度が高められる。
・上記各実施形態において、選択波長画像SEに赤色と、緑色と、青色の波長に対応する画像が含まれるようにして、カラー画像を基にした環境画像を生成するようにしてもよい。このとき、赤色の画像としては625〜740nmのうちの少なくとも1つの波長に対応する波長画像を選択し、緑色の画像としては500〜565nmのうちの少なくとも1つの波長に対応する波長画像を選択し、青色の画像としては450〜485nmのうちの少なくとも1つの波長に対応する波長画像を選択するようにすればよい。これにより、カラー画像に基づく環境画像を運転者等に提供することができるようになる。
・上記第5の実施形態では、コントラスト調整部17が各波長画像Eのコントラストを調整する場合について例示した。しかしこれに限らず、コントラスト調整部は、スペクトル画像から選択された複数の波長画像のうちの相互に同じ位置となる画素の中から、その画素の周囲の画素との間のコントラストが最も高くなる光強度を有する画素を選択して、それら選択した画素を合成して環境画像を生成するようにしてもよい。
これによれば、周囲とのコントラストが高い光強度の画素が各波長画像から選択されるため、それら画素を画像として合成した環境画像についてもこれを、コントラストの高い画像として得ることができるようになる。これにより、測定対象の視認性の高い画像を運転者等に提供することができる。
・上記第5の実施形態では、スペクトルデータ取得装置11の測定したスペクトル画像Dから画像合成装置14が環境画像Fを生成する場合について例示した。しかしこれに限らず、スペクトル測定装置に第1の実施形態に記載の画像選択装置を設け、画像合成装置は環境画像を前記画像選択装置により選択された選択波長画像に基づいて生成するようにしてもよい。これにより、環境画像の作成に関する設計自由度が高められる。また、画像
合成の処理に係る演算量を減らすこともできる。
・上記第4の実施形態では、画像選択装置12は、測定対象Aについての選択条件と光源スペクトル推定装置16から推定された光源スペクトルから当該光源スペクトルの下で測定対象Aの光強度が高くなる波長画像を算出する場合について例示した。しかしこれに限らず、画像選択装置は、光源スペクトル推定装置が推定した光源において測定対象の検出に適した波長画像を選択するようにしてもよい。この場合、特定波長データに、推定される光源に対応する選択条件を測定対象に応じて設定しておけばよい。例えば、光源が太陽光であれば、測定対象毎(歩行者や、車両や、路面等)に太陽光下での検出に適切な波長画像を選択するようにする。また、光源が街路灯のランプであれば、測定対象毎(歩行者や、車両や、路面等)に当該ランプの下での検出に適切な波長画像を選択するようにする。これにより、光源スペクトルを用いた場合における波長画像の選択の態様が拡げられる。
・上記第3の実施形態では、波長画像E3に、第1の特定領域aを適用して部分波長画像E3aを生成するとともに、第2の特定領域bを適用して部分波長画像E3bを生成する場合について例示した。しかしこれに限らず、複数の特定領域を同じ波長画像に適用するような場合、同一の波長画像に適用する複数の特定領域を合成して求められた合成領域を該波長画像に適用するようにしてもよい。図6を例に説明すると、「空」と「路面」の検出には同じ波長画像E3が用いられることから、「空」を検出するための第1の特定領域aと、「路面」を検出するための第2の特定領域bとを合成した合成領域を波長画像E3に適用して、合成部分波長画像を求めてこれを選択波長画像SEに含めてもよい。すなわち合成部分波長画像は、部分波長画像E3aにあって第2の特定領域bに対応する部分が、部分波長画像E3bの第2の特定領域bに置換えられたものとして求められるようになる。これにより、波長画像Eに対する特定領域の適用の自由度が高められるようになる。
・上記各実施形態では、特定波長データ20(選択条件)がマップデータとして記憶装置13に記憶されている場合について例示した。しかしこれに限らず、特定波長データ(選択条件)は、リストなどの態様にて記憶されていてもよい。これにより、選択条件の設定自由度が高められる。
・上記各実施形態では、特定波長データ20(選択条件)が記憶装置13に記憶されている場合について例示した。しかしこれに限らず、特定波長データ(選択条件)は、画像選択装置に記憶されていてもよい。
・上記第1〜第4及び第6の実施形態では、画像処理部を構成する、画像選択装置12と画像合成装置14とが各別の装置である場合について例示した。しかしこれに限らず、画像選択装置と画像合成装置とが1つの装置とし構成されてもよい。これにより、画像処理部の構成の自由度が向上するようになる。
・上記各実施形態では、路面の検出には500nmの波長画像E3を1つ用いる場合について例示した。しかしこれに限らず、路面の検出に500nmの波長画像以外の波長画像(例えば、700nmや800nm)を用いてもよい。又は、路面の検出に複数の波長画像(例えば、500nmと700nmと800nm)を用いるようにしてもよい。これにより、測定対象の状況に応じて的確に測定対象を強調する画像を生成することができるようになる。
また、歩行者の検出に用いる波長画像の数や波長情報の値、及び、車両の検出に用いる波長画像の数や波長情報の値、空の検出に用いる波長画像の数や波長情報の値などについ
ても、波長画像の数は1つでも複数でもよく、波長情報の値もスペクトルデータ取得装置により測定される波長情報の中から任意に選択することができる。
・上記各実施形態では、画像表示装置15が車両1に設けられている場合にて例示したがこれに限らず、画像表示装置が車両外に設けられていてもよい。この場合、スペクトル測定装置により生成された環境画像を、無線通信などにより車両外に送信することにより、スペクトル測定装置が作成した環境画像を車両外にあっても表示させることができるようにもなる。例えば、リモート操作されるような移動体であれば、操縦者による走行環境の認識が好適に支援されるようになる。これにより、このようなスペクトル測定装置の採用可能性が高められるようになる。