JP2011257956A - 周辺状況認識装置 - Google Patents
周辺状況認識装置 Download PDFInfo
- Publication number
- JP2011257956A JP2011257956A JP2010131408A JP2010131408A JP2011257956A JP 2011257956 A JP2011257956 A JP 2011257956A JP 2010131408 A JP2010131408 A JP 2010131408A JP 2010131408 A JP2010131408 A JP 2010131408A JP 2011257956 A JP2011257956 A JP 2011257956A
- Authority
- JP
- Japan
- Prior art keywords
- infrared
- image
- irradiation
- subject
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
【課題】夜間に道路標識を確実に認識することができる周辺状況認識装置の提供。
【解決手段】自車両に搭載され、当該自車両周辺の状況を認識する周辺状況認識装置であって、自車両の前方に赤外線を照射する赤外線照射手段と、上記赤外線照射手段により照射された赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得し、上記赤外線照射手段から赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する撮像手段と、上記赤外線照射手段の照射のオン、オフを制御する照射制御手段と、上記赤外線照射画像に基づいて第1の被写体を認識し、上記赤外線非照射画像に基づいて第2の被写体を認識する被写体認識手段とを備える。
【選択図】図1
【解決手段】自車両に搭載され、当該自車両周辺の状況を認識する周辺状況認識装置であって、自車両の前方に赤外線を照射する赤外線照射手段と、上記赤外線照射手段により照射された赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得し、上記赤外線照射手段から赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する撮像手段と、上記赤外線照射手段の照射のオン、オフを制御する照射制御手段と、上記赤外線照射画像に基づいて第1の被写体を認識し、上記赤外線非照射画像に基づいて第2の被写体を認識する被写体認識手段とを備える。
【選択図】図1
Description
本発明は、周辺状況認識装置に関し、より詳しくは、夜間に道路標識を確実に認識することができる周辺状況認識装置に関する。
夜間、車両は前照灯(ヘッドライト)で前方を照射するが、前照灯で照らすことができる範囲には限りがあるため、運転者はその範囲を超えたところにある前方障害物や道路標識を見つけにくい。そこで、近年、赤外線照射装置で車両前方を照射し、前照灯で照らすことができない範囲にある障害物を見つけやすくする提案がなされている(例えば、特許文献1参照)。
特許文献1に記載の技術は、可視光カメラと赤外線カメラで車両前方を撮像し、赤外線カメラの撮像画像に基づいて交通環境関連領域を抽出し、当該領域に対して可視光カメラの撮像画像の画像認識処理を行って、障害物の認識を行うものである。
この技術によれば、障害物の認識が必要と考えられる領域(交通環境関連領域)が、赤外線カメラの撮像画像に基づいて抽出され、抽出された領域に対応する部分に対してのみ可視光カメラの撮像画像の画像認識処理が行われる。
よって、可視光カメラの撮像画像全体に対して画像認識処理を行う場合に比べて、迅速に障害物の認識を行うことができる。
特許文献1に記載の技術は、可視光カメラと赤外線カメラで車両前方を撮像し、赤外線カメラの撮像画像に基づいて交通環境関連領域を抽出し、当該領域に対して可視光カメラの撮像画像の画像認識処理を行って、障害物の認識を行うものである。
この技術によれば、障害物の認識が必要と考えられる領域(交通環境関連領域)が、赤外線カメラの撮像画像に基づいて抽出され、抽出された領域に対応する部分に対してのみ可視光カメラの撮像画像の画像認識処理が行われる。
よって、可視光カメラの撮像画像全体に対して画像認識処理を行う場合に比べて、迅速に障害物の認識を行うことができる。
しかしながら、特許文献1に記載の技術には、以下の課題があった。
すなわち、赤外線カメラの被写体が歩行者であれば、歩行者は赤外線を適度に反射するので、赤外線画像の歩行者の部分は画像認識が可能である。
一方、赤外線カメラの被写体が道路標識である場合には、道路標識は赤外線の殆どを反射するので、赤外線画像の道路標識の部分が白飛びしてしまう。
このため、道路標識を交通環境関連領域として抽出することができず、道路標識についての画像認識ができないという課題があった。
すなわち、赤外線カメラの被写体が歩行者であれば、歩行者は赤外線を適度に反射するので、赤外線画像の歩行者の部分は画像認識が可能である。
一方、赤外線カメラの被写体が道路標識である場合には、道路標識は赤外線の殆どを反射するので、赤外線画像の道路標識の部分が白飛びしてしまう。
このため、道路標識を交通環境関連領域として抽出することができず、道路標識についての画像認識ができないという課題があった。
本発明は、このような実情に鑑みてなされたもので、夜間に歩行者の他、道路標識を確実に認識することができる周辺状況認識装置の提供を目的とする。
第1の発明は、
自車両に搭載され、当該自車両周辺の状況を認識する周辺状況認識装置であって、
自車両の前方に赤外線を照射する赤外線照射手段と、
上記赤外線照射手段により照射された赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得し、上記赤外線照射手段から赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する撮像手段と、
上記赤外線照射手段の照射のオン、オフを制御する照射制御手段と、
上記赤外線照射画像に基づいて第1の被写体を認識し、上記赤外線非照射画像に基づいて第2の被写体を認識する被写体認識手段とを備えた、周辺状況認識装置である。
自車両に搭載され、当該自車両周辺の状況を認識する周辺状況認識装置であって、
自車両の前方に赤外線を照射する赤外線照射手段と、
上記赤外線照射手段により照射された赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得し、上記赤外線照射手段から赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する撮像手段と、
上記赤外線照射手段の照射のオン、オフを制御する照射制御手段と、
上記赤外線照射画像に基づいて第1の被写体を認識し、上記赤外線非照射画像に基づいて第2の被写体を認識する被写体認識手段とを備えた、周辺状況認識装置である。
第1の発明によれば、赤外線照射手段の照射がオンのときに撮像手段で取得した赤外線照射画像に基づいて第1の被写体を認識し、赤外線照射手段の照射がオフのときに撮像手段で取得した赤外線非照射画像に基づいて第2の被写体を認識する。よって、赤外線照射画像が白飛びしにくい被写体(第1の被写体)については、赤外線照射画像に基づいて認識し、赤外線照射画像が白飛びしやすい被写体(第2の被写体)については、赤外線非照射画像に基づいて認識することができる。従って、本発明によれば、夜間、歩行者と道路標識の双方を確実に認識することができる。
第2の発明は、第1の発明において、
上記第1の被写体は障害物であり、上記第2の被写体は道路標識であることを特徴とする。
上記第1の被写体は障害物であり、上記第2の被写体は道路標識であることを特徴とする。
第2の発明によれば、赤外線照射画像が白飛びしにくい歩行者等の被写体と、赤外線照射画像が白飛びしやすい道路標識の双方を確実に認識することができる。
第3の発明は、第1または第2の発明において、
上記第1の被写体の認識と上記第2の被写体の認識が、交互に行われることを特徴とする。
上記第1の被写体の認識と上記第2の被写体の認識が、交互に行われることを特徴とする。
第3の発明によれば、第1の被写体の認識と第2の被写体の認識が交互に行われるので、白飛びしにくい被写体と、白飛びしやすい被写体の双方を継続的に認識することができる。
第4の発明は、第1乃至第3いずれかの発明において、
上記赤外線照射画像を記憶する赤外線照射画像記憶手段と、
上記赤外線非照射画像を記憶する赤外線非照射画像記憶手段と、
上記赤外線照射画像記憶手段に記憶された画像と、上記赤外線非照射画像記憶手段に記憶された画像を、上記被写体認識手段へ交互に出力する出力切替手段とを更に備えることを特徴とする。
上記赤外線照射画像を記憶する赤外線照射画像記憶手段と、
上記赤外線非照射画像を記憶する赤外線非照射画像記憶手段と、
上記赤外線照射画像記憶手段に記憶された画像と、上記赤外線非照射画像記憶手段に記憶された画像を、上記被写体認識手段へ交互に出力する出力切替手段とを更に備えることを特徴とする。
第4の発明によれば、赤外線照射画像を記憶する赤外線照射画像記憶手段と赤外線非照射画像を記憶する赤外線非照射画像記憶手段とが設けられ、赤外線照射画像記憶手段に記憶された画像と赤外線非照射画像記憶手段に記憶された画像が交互に出力されるので、赤外線照射画像と赤外線非照射画像とが確実に認識される。
第5の発明は、第4の発明において、
上記出力切替手段は、上記赤外線照射画像記憶手段に画像の書き込みが行われている最中には上記赤外線非照射画像記憶手段に記憶されている画像を上記被写体認識手段へ出力し、上記赤外線非照射画像記憶手段に画像の書き込みが行われている最中には上記赤外線照射画像記憶手段に記憶されている画像を上記被写体認識手段へ出力することを特徴とする。
上記出力切替手段は、上記赤外線照射画像記憶手段に画像の書き込みが行われている最中には上記赤外線非照射画像記憶手段に記憶されている画像を上記被写体認識手段へ出力し、上記赤外線非照射画像記憶手段に画像の書き込みが行われている最中には上記赤外線照射画像記憶手段に記憶されている画像を上記被写体認識手段へ出力することを特徴とする。
第5の発明によれば、赤外線照射画像の書き込みが行われている最中に赤外線非照射画像が被写体認識手段に出力され、赤外線非照射画像の書き込みが行われている最中に赤外線照射画像が被写体認識手段に出力される。よって、赤外線照射画像と赤外線非照射画像が交互に被写体認識手段に出力されるので、画像認識が常に行われていることになり、効率よく画像認識を行うことができる。
第6の発明は、第1乃至第5いずれかの発明において、
上記撮像手段から上記赤外線照射画像記憶手段へ画像が出力されているときに、上記赤外線照射手段の照射はオフであり、
上記撮像手段から上記赤外線非照射画像記憶手段へ画像が出力されているときに、上記赤外線照射手段の照射はオンであることを特徴とする。
上記撮像手段から上記赤外線照射画像記憶手段へ画像が出力されているときに、上記赤外線照射手段の照射はオフであり、
上記撮像手段から上記赤外線非照射画像記憶手段へ画像が出力されているときに、上記赤外線照射手段の照射はオンであることを特徴とする。
第6の発明によれば、赤外線照射画像が赤外線照射画像記憶手段に出力されているときに赤外線照射がオフであり、赤外線非照射画像が赤外線非照射画像記憶手段に出力されているときに赤外線照射がオンである。よって、赤外線照射がオフの間に赤外線照射画像記憶手段は赤外線照射画像を記憶することができ、赤外線照射がオンの間に赤外線非照射画像記憶手段は赤外線非照射画像を記憶することができる。従って、第6の発明によれば、赤外線照射画像の記憶と赤外線非照射画像の記憶を、効率よく確実に行うことができる。
第7の発明は、第1乃至第6いずれかの発明において、
上記撮像手段から上記赤外線照射画像記憶手段へ画像が出力されているときに、上記赤外線照射画像記憶手段に画像の書き込みが行われ、
上記撮像手段から上記赤外線非照射画像記憶手段へ画像が出力されているときに、上記赤外線非照射画像記憶手段に画像の書き込みが行われることを特徴とする。
上記撮像手段から上記赤外線照射画像記憶手段へ画像が出力されているときに、上記赤外線照射画像記憶手段に画像の書き込みが行われ、
上記撮像手段から上記赤外線非照射画像記憶手段へ画像が出力されているときに、上記赤外線非照射画像記憶手段に画像の書き込みが行われることを特徴とする。
第7の発明によれば、撮像手段から赤外線照射画像記憶手段へ画像が出力されているときに、赤外線照射画像記憶手段に画像の書き込み(記憶)が行われ、撮像手段から赤外線非照射画像記憶手段へ画像が出力されているときに、赤外線非照射画像記憶手段に画像の書き込み(記憶)が行われる。よって、第7の発明によれば、効率よく画像の書き込みを行うことができる。
第8の発明は、第1乃至第7いずれかの発明において、
上記被写体からの可視光は、自車両が搭載する前照灯が発した光が被写体で反射されたときの反射光であることを特徴とする。
上記被写体からの可視光は、自車両が搭載する前照灯が発した光が被写体で反射されたときの反射光であることを特徴とする。
第8の発明によれば、前照灯の光が被写体で反射したときの反射光に基づいて赤外線非照射画像(すなわち、可視光画像)が取得される。よって、第6の発明によれば、確実に赤外線非照射画像を取得することができる。
第9の発明は、
自車両に搭載され、当該自車両周辺の状況を認識する周辺状況認識装置であって、
自車両の前方に赤外線を照射する赤外線照射手段と、
上記赤外線照射手段からあらかじめ設定された閾値以上の強度の赤外線が照射され当該赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得し、上記赤外線照射手段から上記閾値以上の強度の赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する撮像手段と、
上記赤外線照射手段の照射強度を制御する照射制御手段と、
上記赤外線照射画像に基づいて第1の被写体を認識し、上記赤外線非照射画像に基づいて第2の被写体を認識する被写体認識手段とを備えた、周辺状況認識装置である。
自車両に搭載され、当該自車両周辺の状況を認識する周辺状況認識装置であって、
自車両の前方に赤外線を照射する赤外線照射手段と、
上記赤外線照射手段からあらかじめ設定された閾値以上の強度の赤外線が照射され当該赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得し、上記赤外線照射手段から上記閾値以上の強度の赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する撮像手段と、
上記赤外線照射手段の照射強度を制御する照射制御手段と、
上記赤外線照射画像に基づいて第1の被写体を認識し、上記赤外線非照射画像に基づいて第2の被写体を認識する被写体認識手段とを備えた、周辺状況認識装置である。
第9の発明によれば、赤外線照射手段の照射強度が閾値以上であるときに撮像手段で取得した赤外線照射画像に基づいて第1の被写体を認識し、赤外線照射手段の照射強度が上記閾値未満であるときに撮像手段で取得した赤外線非照射画像に基づいて第2の被写体を認識する。よって、赤外線照射画像が白飛びしにくい被写体(第1の被写体)については、赤外線照射手段の照射強度が閾値以上であるときに撮像手段で取得した赤外線照射画像に基づいて認識し、赤外線照射画像が白飛びしやすい被写体(第2の被写体)については、赤外線照射手段の照射強度が上記閾値未満であるときに撮像手段で取得した赤外線非照射画像に基づいて認識することができる。従って、本発明によれば、夜間、歩行者と道路標識の双方を確実に認識することができる。
なお、第9の発明において、「閾値以上の強度の赤外線が照射されず」の概念には、「閾値未満の強度の赤外線が照射される」場合と、「赤外線が照射されない」場合とが含まれる。「閾値未満の強度の赤外線が照射される」場合には、被写体で若干の赤外線が反射され、その反射光が撮像手段に到来する可能性があるが、若干の赤外線反射光が到来しても撮像手段が鮮明な赤外線画像を取得できない可能性があるので、便宜上、取得される画像を「赤外線非照射画像」と表現する。
なお、第9の発明において、「閾値以上の強度の赤外線が照射されず」の概念には、「閾値未満の強度の赤外線が照射される」場合と、「赤外線が照射されない」場合とが含まれる。「閾値未満の強度の赤外線が照射される」場合には、被写体で若干の赤外線が反射され、その反射光が撮像手段に到来する可能性があるが、若干の赤外線反射光が到来しても撮像手段が鮮明な赤外線画像を取得できない可能性があるので、便宜上、取得される画像を「赤外線非照射画像」と表現する。
第10の発明は、第1乃至第9いずれかの発明において、
前記被写体認識手段で認識された被写体に関する情報を運転者に報知する報知手段をさらに備えたことを特徴とする。
前記被写体認識手段で認識された被写体に関する情報を運転者に報知する報知手段をさらに備えたことを特徴とする。
第10の発明によれば、被写体認識手段で認識された被写体に関する情報が運転者に報知される。よって、運転者は、車両前方に歩行者や道路標識が存在するのを容易に認識することができる。
本発明によれば、夜間に歩行者の他、道路標識を確実に認識することができる。
(第1実施形態)
本発明の第1実施形態について、図面を参照しつつ説明する。
図1は、本発明の第1実施形態に係る周辺状況認識装置を示すブロック図である。図2は、図1における撮像手段の画素の構成を部分拡大図とともに示す図である。
本発明の第1実施形態について、図面を参照しつつ説明する。
図1は、本発明の第1実施形態に係る周辺状況認識装置を示すブロック図である。図2は、図1における撮像手段の画素の構成を部分拡大図とともに示す図である。
図1に示されるように、第1実施形態に係る周辺状況認識装置1は、赤外線照射手段2と、前照灯3と、撮像手段4と、タイミング制御手段6と、画像記憶手段14と、被写体認識手段12と、報知手段17とを備えている。タイミング制御手段6および被写体認識手段12は、例えば、CPU、ROM、RAMを含むマイクロコンピュータで構成される。図1において、実線の矢印は画像データあるいは画像認識データの流れを表し、破線の矢印は制御信号の流れを表している。
周辺監視装置1は、自車両に搭載され、当該自車両周辺の状況を認識する装置である。
赤外線照射手段2は、自車両の前方に赤外線を照射する。照射する赤外線の種類は特に限定されないが、例えば近赤外線である。
前照灯3は、車両に搭載されているヘッドライトであり、車両前方を可視光で照射する。
撮像手段4は、動画を撮像できるデジタルカメラであり、例えばCCDカメラまたはCMOSカメラである。
撮像手段4は、赤外線照射手段2により照射された赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得する。
また、撮像手段4は、赤外線照射手段2から赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する。図2に示される例では、撮像手段4はデジタルカメラであり、各画素11が可視光領域と赤外線領域の双方に感度を有している。具体的には、このデジタルカメラは、赤色領域と赤外線領域に感度を有する赤色−赤外線透過フィルタを持つ画素Rと、緑色領域と赤外線領域に感度を有する緑色−赤外線透過フィルタを持つ画素Gと、青色領域と赤外線領域に感度を有する青色−赤外線透過フィルタを持つ画素Bが多数配置された構成となっている。
図3は、図1におけるタイミング制御手段6の構成を示すブロック図である。
図3に示されるように、タイミング制御手段6は、照射制御手段7と、入力制御手段9と、出力制御手段10とを含む。
図3に示されるように、タイミング制御手段6は、照射制御手段7と、入力制御手段9と、出力制御手段10とを含む。
照射制御手段7は、赤外線照射手段2の照射のオン、オフを制御する。照射のオン、オフは、例えば、100/3ms(約33.33ms)毎に切り替えられるが、これに限定されるものではない。
入力制御手段9は、後述する入力切替手段18の切替動作を制御する。
出力制御手段10は、後述する出力切替手段19の切替動作を制御する。
出力制御手段10は、後述する出力切替手段19の切替動作を制御する。
図4は、図1における画像記憶手段14の構成を示すブロック図である。図4において、実線の矢印は画像データの流れを表し、破線の矢印は制御信号の流れを表している。
画像記憶手段14は、赤外線照射画像記憶手段15と、赤外線非照射画像記憶手段16と、入力切替手段18と、出力切替手段19とを含む。
画像記憶手段14は、赤外線照射画像記憶手段15と、赤外線非照射画像記憶手段16と、入力切替手段18と、出力切替手段19とを含む。
赤外線照射画像記憶手段15は、入力切替手段18を介して入力された赤外線照射画像を記憶し、記憶した赤外線照射画像を出力切替手段19を介して出力する。
赤外線非照射画像記憶手段16は、入力切替手段18を介して入力された赤外線非照射画像を記憶し、記憶した赤外線非照射画像を出力切替手段19を介して出力する。
赤外線非照射画像記憶手段16は、入力切替手段18を介して入力された赤外線非照射画像を記憶し、記憶した赤外線非照射画像を出力切替手段19を介して出力する。
入力切替手段18は、撮像手段4で取得された赤外線照射画像を赤外線画照射像記憶手段15に入力する状態と、撮像手段4で取得された赤外線非照射画像を赤外線非照射画像記憶手段16に入力する状態とを相互に切り替える入力切替を行う。
出力切替手段10は、赤外線照射画像記憶手段15に記憶された画像と、赤外線非照射画像記憶手段16に記憶された画像を、被写体認識手段12へ交互に出力する出力切替を行う。
出力切替手段10は、撮像手段4から出力された画像が赤外線照射画像記憶手段15に書き込まれている最中に(図4の入力切替手段18の向きを参照)、赤外線非照射画像記憶手段16に記憶されている画像を被写体認識手段12へ出力する(図4の出力切替手段19の向きを参照)。また、出力切替手段10は、撮像手段4から出力された画像が赤外線非照射画像記憶手段16に書き込まれている最中に、赤外線照射画像記憶手段15に記憶されている画像を被写体認識手段12へ出力する。
撮像手段4から赤外線照射画像記憶手段15へ画像が出力されているときに、赤外線照射手段2の照射はオフに制御される。また、撮像手段4から赤外線非照射画像記憶手段16へ画像が出力されているときに、赤外線照射手段2の照射はオンに制御される。赤外線照射手段2の照射のオン、オフ制御は、上記した照射制御手段7により行われる。
撮像手段4から赤外線照射画像記憶手段15へ画像が出力されているときに、赤外線照射画像記憶手段15に画像の書き込みが行われる。また、撮像手段4から赤外線非照射画像記憶手段16へ画像が出力されているときに、赤外線非照射画像記憶手段16に画像の書き込みが行われる。
被写体認識手段12は、赤外線照射手段2の照射がオンのときに撮像手段4で取得した赤外線照射画像に基づいて第1の被写体(例えば歩行者)を認識し、赤外線照射手段2の照射がオフのときに撮像手段4で取得した赤外線非照射画像に基づいて第2の被写体(例えば道路標識)を認識する。
第1の被写体は、赤外線を適度に反射することにより、撮像された赤外線照射画像を画像認識することができる被写体であり、例えば、歩行者等の障害物である。第2の被写体は、赤外線の殆どを反射してしまうために、撮像された赤外線照射画像に白飛びが生じて赤外線照射画像の認識が困難な被写体であり、例えば、金属板に塗装を施して構成される道路標識である。
第1の被写体の撮像と第2の被写体の撮像は交互に行われる。また、第1の被写体の画像認識と第2の被写体の画像認識は、交互に行われる。
被写体からの可視光は、例えば、自車両が搭載する前照灯3が発した光や街灯の光が被写体で反射されたときの反射光である。
被写体からの可視光は、例えば、自車両が搭載する前照灯3が発した光や街灯の光が被写体で反射されたときの反射光である。
報知手段17は、被写体認識手段12で認識された被写体に関する情報を運転者に報知する。報知手段7は、例えば、運転者に視覚的に被写体情報を報知する表示装置であり、或いは、運転者に聴覚的に被写体情報を報知するスピーカである。
次に、周辺状況認識装置1の動作について説明する。図5は、図1に示される周辺状況認識装置の動作を示すフローチャートである。図6は、図1に示される周辺状況認識装置の動作を示すタイミングチャートである。
まず、赤外線照射手段2が、予め定められた周期で発光、消灯を繰り返す(図5のステップS1、図6の(A)参照)。赤外線照射が行われている間は、撮像手段4により赤外線照射画像が取得され、赤外線照射が停止している間は、撮像手段4により赤外線非照射画像が取得される(図5のステップS2、S8、図6の(B)参照)。赤外線非照射画像は、例えば、自車両の前照灯3の光が被写体に反射されたときの反射光に基づいて生成される。赤外線照射画像は、赤外線を適度に反射する被写体の画像であり、例えば歩行者の画像である。赤外線非照射画像は、主として、赤外線を殆ど反射してしまう被写体の画像であり、例えば道路標識の画像である。赤外線を殆ど反射してしまう被写体は、通常、前照灯3の光も効率よく反射する。よって、撮像手段4は、道路標識の画像を取得することができる。また、得られた道路標識の画像は、赤外線非照射画像(可視光画像)なので、道路標識の形状情報と色情報の双方を含む画像となる。これにより、後の画像認識の段階で道路標識の内容を正確に認識することができる。
撮像手段4で赤外線非照射画像が生成されている間、撮像手段4から赤外線照射画像が出力され、撮像手段4で赤外線照射画像が取得されている間、像撮像手段4から赤外線非照射画像が出力される(図5のステップS9、S3、図6の(B)(C)参照)。撮像手段4から出力された赤外線照射画像は、赤外線照射画像記憶手段15に記憶され、撮像手段4から出力された赤外線非照射画像は、赤外線非照射画像記憶手段16に記憶される(図5のステップS4、S10、図6の(C)(D)参照)。
赤外線照射画像の記憶動作(書き込み動作)開始後、赤外線照射画像の記憶(書き込み)が完了したかどうかが判断され(図5のステップS5参照)、記憶が完了した場合は、赤外線照射画像に基づいて歩行者等の画像認識が行われる(図5のステップS6、図6の(D)(E)参照)。赤外線照射画像の記憶動作(書き込み動作)開始後、赤外線照射画像の記憶(書き込み)が完了していない場合は、記憶動作を継続する。
赤外線非照射画像の記憶動作(書き込み動作)開始後、赤外線非照射画像の記憶(書き込み)が完了したかどうかが判断され(図5のステップS11参照)、記憶が完了した場合は、赤外線非照射画像に基づいて道路標識の画像認識が行われる(図5のステップS12、図6の(D)(E)参照)。赤外線非照射画像の記憶動作(書き込み動作)開始後、赤外線非照射画像の記憶(書き込み)が完了していない場合は、記憶動作を継続する。
歩行者等の画像認識後、歩行者等の認識結果が運転者に報知され、道路標識の画像認識後、道路標識の認識結果が運転者に報知される(図5のステップS7、S13参照)。
以上が、周辺状況認識装置1の動作である。
以上が、周辺状況認識装置1の動作である。
以上説明したように、本実施形態によれば、赤外線照射がオンのときに生成した赤外線照射画像に基づいて歩行者等を認識し、赤外線照射がオフのときに生成した赤外線非照射画像に基づいて道路標識を認識する。つまり、赤外線照射画像が白飛びしにくい歩行者等については赤外線照射画像に基づいて画像認識し、赤外線照射画像が白飛びしやすい道路標識については赤外線非照射画像(可視光画像)に基づいて画像認識する。従って、本実施形態によれば、夜間、歩行者等と道路標識の双方を確実に認識することができる。
また、本実施形態によれば、歩行者等の認識と道路標識の認識が交互に行われるので、これらの認識を継続的に行うことができる。
また、本実施形態によれば、赤外線照射画像の書き込みが行われている最中に赤外線非照射画像の認識処理が行われ、赤外線非照射画像の書き込みが行われている最中に赤外線照射画像の認識処理が行われる。よって、画像認識が常に行われていることになり、効率よく画像認識を行うことができる。
(第2実施形態)
上記実施形態では、赤外線照射手段2の赤外線照射によって赤外線照射画像が取得され、赤外線照射手段2の赤外線非照射によって赤外線非照射画像が取得されていたが、赤外線照射手段2の赤外線照射強度を調節することにより、赤外線照射画像と赤外線非照射画像が取得されてもよい。
すなわち、赤外線照射強度があらかじめ設定された閾値以上であるときに赤外線照射画像を取得して第1の被写体を認識し、赤外線照射強度が閾値未満であるときに赤外線非照射画像を取得して第2の被写体を認識してもよい。
上記実施形態では、赤外線照射手段2の赤外線照射によって赤外線照射画像が取得され、赤外線照射手段2の赤外線非照射によって赤外線非照射画像が取得されていたが、赤外線照射手段2の赤外線照射強度を調節することにより、赤外線照射画像と赤外線非照射画像が取得されてもよい。
すなわち、赤外線照射強度があらかじめ設定された閾値以上であるときに赤外線照射画像を取得して第1の被写体を認識し、赤外線照射強度が閾値未満であるときに赤外線非照射画像を取得して第2の被写体を認識してもよい。
第2実施形態を、図1、3、4を流用して説明する。
この場合、撮像手段4は、赤外線照射手段2からあらかじめ設定された閾値以上の強度の赤外線が照射され当該赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得し、赤外線照射手段2から上記閾値以上の強度の赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する。
ここで、上記した「閾値以上の強度の赤外線が照射されず」の概念には、「閾値未満の強度の赤外線が照射される」場合と、「赤外線が照射されない」場合とが含まれる。「閾値未満の強度の赤外線が照射される」場合には、被写体で若干の赤外線が反射され、その反射光が撮像手段4に到来する可能性があるが、若干の赤外線反射光が到来しても撮像手段4が鮮明な赤外線画像を取得できない可能性があるので、便宜上、取得される画像を「赤外線非照射画像」と表現する。
この場合、撮像手段4は、赤外線照射手段2からあらかじめ設定された閾値以上の強度の赤外線が照射され当該赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得し、赤外線照射手段2から上記閾値以上の強度の赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する。
ここで、上記した「閾値以上の強度の赤外線が照射されず」の概念には、「閾値未満の強度の赤外線が照射される」場合と、「赤外線が照射されない」場合とが含まれる。「閾値未満の強度の赤外線が照射される」場合には、被写体で若干の赤外線が反射され、その反射光が撮像手段4に到来する可能性があるが、若干の赤外線反射光が到来しても撮像手段4が鮮明な赤外線画像を取得できない可能性があるので、便宜上、取得される画像を「赤外線非照射画像」と表現する。
照射制御手段7は、赤外線照射手段2の照射強度を制御する。
被写体認識手段12は、赤外線照射画像に基づいて第1の被写体(歩行者等)を認識し、赤外線非照射画像に基づいて第2の被写体(道路標識等)を認識する。
また、撮像手段4から赤外線照射画像記憶手段15へ画像が出力されているときに、赤外線照射手段2の照射強度は上記閾値未満であり、撮像手段4から赤外線非照射画像記憶手段16へ画像が出力されているときに、赤外線照射手段2の照射強度は上記閾値以上である。
被写体認識手段12は、赤外線照射画像に基づいて第1の被写体(歩行者等)を認識し、赤外線非照射画像に基づいて第2の被写体(道路標識等)を認識する。
また、撮像手段4から赤外線照射画像記憶手段15へ画像が出力されているときに、赤外線照射手段2の照射強度は上記閾値未満であり、撮像手段4から赤外線非照射画像記憶手段16へ画像が出力されているときに、赤外線照射手段2の照射強度は上記閾値以上である。
第2実施形態においても、上記第1実施形態と同様の効果を奏することができる。
本発明は、夜間に歩行者や道路標識を確実に認識することができる周辺状況認識装置等に利用可能である。
1 周辺状況認識装置
2 赤外線照射手段
3 前照灯
4 撮像手段
6 タイミング制御手段
7 照射制御手段
9 入力制御手段
10 出力制御手段
11 画素
12 被写体認識手段
14 画像記憶手段
15 赤外線照射画像記憶手段
16 赤外線非照射画像記憶手段
17 報知手段
18 入力切替手段
19 出力切替手段
2 赤外線照射手段
3 前照灯
4 撮像手段
6 タイミング制御手段
7 照射制御手段
9 入力制御手段
10 出力制御手段
11 画素
12 被写体認識手段
14 画像記憶手段
15 赤外線照射画像記憶手段
16 赤外線非照射画像記憶手段
17 報知手段
18 入力切替手段
19 出力切替手段
Claims (10)
- 自車両に搭載され、当該自車両周辺の状況を認識する周辺状況認識装置であって、
自車両の前方に赤外線を照射する赤外線照射手段と、
前記赤外線照射手段により照射された赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得し、前記赤外線照射手段から赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する撮像手段と、
前記赤外線照射手段の照射のオン、オフを制御する照射制御手段と、
前記赤外線照射画像に基づいて第1の被写体を認識し、前記赤外線非照射画像に基づいて第2の被写体を認識する被写体認識手段とを備えた、周辺状況認識装置。 - 前記第1の被写体は障害物であり、前記第2の被写体は道路標識であることを特徴とする請求項1に記載の周辺状況認識装置。
- 前記第1の被写体の認識と前記第2の被写体の認識が、交互に行われることを特徴とする請求項1または2に記載の周辺状況認識装置。
- 前記赤外線照射画像を記憶する赤外線照射画像記憶手段と、
前記赤外線非照射画像を記憶する赤外線非照射画像記憶手段と、
前記赤外線照射画像記憶手段に記憶された画像と、前記赤外線非照射画像記憶手段に記憶された画像を、前記被写体認識手段へ交互に出力する出力切替手段とを更に備えることを特徴とする請求項1乃至3いずれか1項に記載の周辺状況認識装置。 - 前記出力切替手段は、前記赤外線照射画像記憶手段に画像の書き込みが行われている最中には前記赤外線非照射画像記憶手段に記憶されている画像を前記被写体認識手段へ出力し、前記赤外線非照射画像記憶手段に画像の書き込みが行われている最中には前記赤外線照射画像記憶手段に記憶されている画像を前記被写体認識手段へ出力することを特徴とする請求項4に記載の周辺状況認識装置。
- 前記撮像手段から前記赤外線照射画像記憶手段へ画像が出力されているときに、前記赤外線照射手段の照射はオフであり、
前記撮像手段から前記赤外線非照射画像記憶手段へ画像が出力されているときに、前記赤外線照射手段の照射はオンであることを特徴とする、請求項1乃至5いずれか1項に記載の周辺状況認識装置。 - 前記撮像手段から前記赤外線照射画像記憶手段へ画像が出力されているときに、前記赤外線照射画像記憶手段に画像の書き込みが行われ、
前記撮像手段から前記赤外線非照射画像記憶手段へ画像が出力されているときに、前記赤外線非照射画像記憶手段に画像の書き込みが行われることを特徴とする、請求項1乃至6いずれか1項に記載の周辺状況認識装置。 - 前記被写体からの可視光は、自車両が搭載する前照灯が発した光が被写体で反射されたときの反射光であることを特徴とする請求項1乃至7いずれか1項に記載の周辺状況認識装置。
- 自車両に搭載され、当該自車両周辺の状況を認識する周辺状況認識装置であって、
自車両の前方に赤外線を照射する赤外線照射手段と、
前記赤外線照射手段からあらかじめ設定された閾値以上の強度の赤外線が照射され当該赤外線が被写体で反射されたときの反射光を受光して赤外線照射画像を取得し、前記赤外線照射手段から前記閾値以上の強度の赤外線が照射されず可視光が被写体で反射されたときの反射光を受光して赤外線非照射画像を取得する撮像手段と、
前記赤外線照射手段の照射強度を制御する照射制御手段と、
前記赤外線照射画像に基づいて第1の被写体を認識し、前記赤外線非照射画像に基づいて第2の被写体を認識する被写体認識手段とを備えた、周辺状況認識装置。 - 前記被写体認識手段で認識された被写体に関する情報を運転者に報知する報知手段をさらに備えたことを特徴とする請求項1乃至9いずれか1項に記載の周辺状況認識装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010131408A JP2011257956A (ja) | 2010-06-08 | 2010-06-08 | 周辺状況認識装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010131408A JP2011257956A (ja) | 2010-06-08 | 2010-06-08 | 周辺状況認識装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011257956A true JP2011257956A (ja) | 2011-12-22 |
Family
ID=45474073
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010131408A Pending JP2011257956A (ja) | 2010-06-08 | 2010-06-08 | 周辺状況認識装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011257956A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020059565A1 (ja) * | 2018-09-18 | 2020-03-26 | パナソニックIpマネジメント株式会社 | 奥行取得装置、奥行取得方法およびプログラム |
-
2010
- 2010-06-08 JP JP2010131408A patent/JP2011257956A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020059565A1 (ja) * | 2018-09-18 | 2020-03-26 | パナソニックIpマネジメント株式会社 | 奥行取得装置、奥行取得方法およびプログラム |
JPWO2020059565A1 (ja) * | 2018-09-18 | 2021-09-16 | パナソニックIpマネジメント株式会社 | 奥行取得装置、奥行取得方法およびプログラム |
JP7262021B2 (ja) | 2018-09-18 | 2023-04-21 | パナソニックIpマネジメント株式会社 | 奥行取得装置、奥行取得方法およびプログラム |
US11636615B2 (en) | 2018-09-18 | 2023-04-25 | Panasonic Intellectual Property Management Co., Ltd. | Depth acquisition device and depth acquisition method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5955356B2 (ja) | 照明装置 | |
US20120062746A1 (en) | Image Processing Apparatus | |
JP5853947B2 (ja) | 暗視装置 | |
JP2011178301A (ja) | 障害物検知装置およびそれを備えた障害物検知システム、並びに障害物検知方法 | |
CN110087946B (zh) | 车辆用照明系统和车辆 | |
JP2008094127A (ja) | 自動車用ヘッドライト制御装置 | |
JP2008110723A (ja) | 車両用照明装置、車両用照明制御方法、及び車両用照明制御プログラム | |
JP2004104646A (ja) | 車載用画像処理装置 | |
JP4927647B2 (ja) | 車両周辺監視装置 | |
JP2011103070A (ja) | 夜間車両検知装置 | |
JP2010221732A (ja) | 車両用アウターミラー | |
JP2006319450A (ja) | 暗視装置 | |
JP2006011671A (ja) | 車載周辺状況検出装置 | |
JP5712821B2 (ja) | 撮影表示制御システム | |
JP2004289786A (ja) | 撮像装置 | |
JP2007124676A (ja) | 車載用画像処理装置 | |
JP4782491B2 (ja) | 撮像装置 | |
JP2011257956A (ja) | 周辺状況認識装置 | |
JP2018106239A (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP3850021B2 (ja) | 赤外線照明付撮影装置 | |
JP6322723B2 (ja) | 撮像装置および車両 | |
JP2009065586A (ja) | 車載カメラ | |
JP7176447B2 (ja) | ライト監視装置 | |
JP2017039463A (ja) | 対象物検出装置 | |
WO2019044434A1 (ja) | 物体検出システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20120217 |