JP4204708B2 - 対象物抽出装置 - Google Patents
対象物抽出装置 Download PDFInfo
- Publication number
- JP4204708B2 JP4204708B2 JP19959099A JP19959099A JP4204708B2 JP 4204708 B2 JP4204708 B2 JP 4204708B2 JP 19959099 A JP19959099 A JP 19959099A JP 19959099 A JP19959099 A JP 19959099A JP 4204708 B2 JP4204708 B2 JP 4204708B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- predetermined length
- extraction
- extracted
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、例えば車両に搭載された撮像装置により得られる画像から、当該車両に衝突するおそれのある対象物を判定するために、前記画像から対象物を抽出する対象物抽出装置に関する。
【0002】
【従来の技術】
テレビカメラなどの撮像装置により得られる画像から、衝突の可能性などを判定するために対象物を抽出する手法としては、例えば特開平9−259282号公報に記載されたものが知られている。この手法は、撮像装置によって得られる画像上のオプティカルフローを抽出し、自車両の走行に起因するオプティカルフロー以外のフローを持つ領域を、画像内の移動障害物領域、すなわち衝突の可能性の判定などの対象物として抽出するものである。
【0003】
【発明が解決しようとする課題】
しかしながらこのようなオプティカルフローを用いた対象物の抽出は、演算量が多いため専用のDSPなどを使用する必要があり、コストの上昇を招く。そこで、赤外線を検出可能な赤外線カメラを用いて、動物や走行中の車両など高温の対象物を容易に抽出できるようにすることが考えられるが、そのような赤外線カメラを使用した場合、抽出したい対象物としての動物の背景に、例えば太陽光によって温度が高くなったガードレールなどが存在すると、動物とガードレールとが重なった画像を対象物として抽出してしまうという問題があった。
【0004】
本発明はこの問題を解決するためになされたものであり、比較的高温の対象物を容易にかつ正確に抽出することができる対象物抽出装置を提供することを目的とする。
【0005】
【課題を解決するための手段】
上記目的を達成するため請求項1に記載の発明は、撮像手段により得られる画像から対象物を抽出する対象物抽出装置において、前記撮像手段は、赤外線を検出可能なものであり、前記対象物を含み、前記対象物に外接する外接四角形の前記画像上の面積に対する前記対象物の前記画像上の面積の比率を算出し、該面積比率が所定比率より小さいときは、前記対象物の画像の水平方向の長さが所定長さ以上の領域を前記対象物の画像から除くことにより、前記対象物を分割して抽出する抽出処理を行う抽出処理手段と、前記抽出処理手段により抽出された対象物について、自車両からの距離を算出する距離算出手段とを備え、前記抽出処理手段は、前記抽出処理を実行した後に前記所定長さを減少させる処理を行い、前記所定長さを減少させた後に前記抽出処理を前記所定長さが所定値に達するまで繰り返し実行することを特徴とする。
【0006】
ここで「所定比率」は、実験的に最適の値に設定する。
この構成によれば、対象物を含む外接四角形の画像上の面積に対するその対象物の画像上の面積の比率が算出され、該面積比率が所定比率より小さいときは、対象物の画像の水平方向の長さが所定長さ以上の領域が対象物の画像から除かれて前記対象物が抽出される。さらに抽出された対象物について、自車両からの距離が算出され、前記抽出処理を実行した後に前記所定長さを減少させる処理が行われ、前記所定長さを減少させた後に前記抽出処理が前記所定長さが所定値に達するまで繰り返し実行される。このような処理により、例えば高温の対象物とガードレールとが重なって抽出されたような場合でも、その対象物を分離して抽出することが可能となる。したがって、このようにして抽出された対象物について、自車両からの距離の算出を行うことにより、衝突の可能性の判定を正確に行うことが可能となる。
請求項2に記載の発明は、請求項1に記載の対象物抽出装置において、前記所定値は、予め設定した距離における抽出したい対象物の、画像上での通常の水平方向の長さに設定されることを特徴とする。
請求項3に記載の発明は、請求項1または2に記載の対象物抽出装置において、前記所定長さの初期値は、前記撮像手段により撮像される全体画像の水平方向の幅の1/3程度に設定されることを特徴とする。
請求項4に記載の発明は、請求項1から3の何れか1項に記載の対象物抽出装置において、前記所定長さは、前回の所定長さの1/2に減少させることを特徴とする。
【0007】
【発明の実施の形態】
以下本発明の実施の形態を図面を参照して説明する。
図1は本発明の一実施形態にかかる対象物抽出装置を含む、車両の前方監視装置の構成を示す図であり、この装置は、遠赤外線を検出可能な2つの赤外線カメラ1R,1Lと、当該車両のヨーレートを検出するヨーレートセンサ5と、当該車両の走行速度(車速)VCARを検出する車速センサ6と、ブレーキの操作量を検出するためのブレーキセンサ7と、これらのカメラ1R,1Lによって得られる画像データの基づいて車両前方の動物等の対象物を抽出し、衝突の可能性が高い場合に警報を発する画像処理ユニット2と、音声で警報を発するためのスピーカ3と、カメラ1Rまたは1Lによって得られる画像を表示するとともに、衝突の可能性が高い対象物を運転者に認識させるためのヘッドアップディスプレイ(以下「HUD」という)4とを備えている。
【0008】
カメラ1R、1Lは、図2に示すように車両10の前部に、車両10の横方向の中心軸に対してほぼ対象な位置に配置されており、2つのカメラ1R、1Lの光軸が互いに平行となり、両者の路面からの高さが等しくなるように固定されている。赤外線カメラ1R、1Lは、対象物の温度が高いほど、その出力信号レベルが高くなる(輝度が増加する)特性を有している。
【0009】
画像処理ユニット2は、入力アナログ信号をディジタル信号に変換するA/D変換回路、ディジタル化した画像信号を記憶する画像メモリ、各種演算処理を行うCPU(Central Processing Unit)、CPUが演算途中のデータを記憶するために使用するRAM(Random Access Memory)、CPUが実行するプログラムやテーブル、マップなどを記憶するROM(Read Only Memory)、スピーカ3の駆動信号、HUD4の表示信号などを出力する出力回路などを備えており、カメラ1R,1L及びセンサ5〜7の出力信号は、ディジタル信号に変換されて、CPUに入力されるように構成されている。
HUD4は、図2に示すように、車両10のフロントウインドウの、運転者の前方位置に画面4aが表示されるように設けられている。
【0010】
図3は画像処理ユニット2における処理の手順を示すフローチャートであり、先ずカメラ1R、1Lの出力信号をA/D変換して画像メモリに格納する(ステップS11,S12,S13)。画像メモリに格納される画像は、輝度情報を含んだグレースケール画像である。図5(a)は、カメラ1Rによって得られるグレースケール画像を説明するための図であり、ハッチングを付した領域は、中間階調(グレー)の領域であり、太い実線で囲んだ領域が、輝度レベルが高く(高温で)、画面上に白色として表示される対象物の領域(以下「高輝度領域」という)である。
【0011】
図3のステップS14では、画像信号の二値化、すなわち、後述するように決定される輝度閾値iTHより明るい領域を「1」(白)とし、暗い領域を「0」(黒)とする処理を行う。図5(b)に同図(a)の画像を二値化した画像を示す。この図は、ハッチングを付した領域が黒であり、太い実線で囲まれた高輝度領域が白であることを示している。
【0012】
図4はステップS14の二値化処理を詳細に示すフローチャートであり、ステップS21では、図6(a)に示すように輝度値iを横軸とし、輝度値iをとる画素数、すなわち度数H[i]を縦軸とするヒストグラムを算出する。通常は同図に示すように背景の平均的な輝度値の近傍に背景のピークがあり、高温の対象物に対応する対象物ピークは度数Hが低いため同図ではピークの特定が困難である。そこでステップS22で同図(a)に示す度数H[i]のヒストグラムを、同図(b)に示すように対数変換した(G[i]=log10H[i]+1)ヒストグラムを算出する。これにより、対象物ピークを特定し易くなる。
【0013】
次いでこのヒストグラムに最急降下法を適用してピークを探索し、背景ピークに対応する輝度値iPEAK1、及び対象物ピークに対応する輝度値iPEAK2を得る(ステップS23)。そして、下記式に輝度閾値iTHを算出する(ステップS24)。
iTH=(iPEAK2−iPEAK1)×A+iPEAK1
【0014】
ここでAは1より小さい定数であり、例えば0.5に設定される。
次いで輝度閾値iTHを用いてグレースケール画像データを二値化データに変換する演算を行い(ステップS25)、本処理を終了する。
図4の処理では、ヒストグラムを用いて背景ピークに対応する輝度値と、対象物ピークに対応する輝度値とを求め、これらの輝度値の間に輝度閾値iTHを設定するようにしたので、対象物を正確に高輝度領域として検出することができる。
【0015】
図3に戻りステップS15では、二値化した画像データをランレングスデータに変換するとともに、対象物毎にラベルを付けるラベリングを行う。図7はこれを説明するための図であり、この図では二値化により白となった領域を画素レベルでラインL1〜L8として示している。ラインL1〜L8は、いずれもy方向には1画素の幅を有しており、実際にはy方向には隙間なく並んでいるが、説明のために離間して示している。またラインL1〜L8は、x方向にはそれぞれ2画素、2画素、3画素、8画素、7画素、8画素、8画素、8画素の長さを有している。ランレングスデータは、ラインL1〜L8を各ラインの開始点(各ラインの左端の点)の座標と、開始点から終了点(各ラインの右端の点)までの長さ(画素数)とで示したものである。例えばラインL3は、(x3,y5)、(x4,y5)及び(x5,y5)の3画素からなるので、ランレングスデータとしては、(x3,y5,3)となる。
【0016】
次に同図(b)に示すように対象物のラベリングをすることにより、対象物を抽出する処理を行う。すなわち、ランレングスデータ化したラインL1〜L8のうち、y方向に重なる部分のあるラインL1〜L3を1つの対象物1とみなし、ラインL4〜L8を1つの対象物2とみなし、ランレングスデータに対象物ラベル1,2を付加する。この処理により、例えば図5(b)に示す高輝度領域が、それぞれ対象物1から4として把握されることになる。
【0017】
続くステップS16では、抽出した対象物が背景または前景と一体化している場合にその背景または前景を分離するための処理(図8)を実行する。ここでは、図3のステップS15でn個の対象物が抽出されているものとする。図9(a)は、ガードレールが太陽光のために高温となり、高温の対象物がガードレールと一体化して対象物1として抽出された例を示している。このような場合には、対象物1の外接四角形の面積SRECTに対する対象物1の面積SOBJの比率RATE(=SOBJ/SRECT)が、高温の対象物のみを抽出した場合に比べて小さくなる。そこで、図8の処理では、この点に着目してガードレールに対応する領域を背景(または前景)として対象物から除くようにしている。
【0018】
図8のステップS31では、カウンタjを「1」に初期化し、次いで対象物j(カウンタjの値に対応する対象物)の面積比率RATEを下記式(1)により算出する(ステップS32)。
RATE=SOBJ(j)/SRECT(j) (1)
ここで、SOBJ(j)は、対象物jの画像上の面積であり、SRECT(j)は、対象物jの外接四角形の画像上の面積である。
【0019】
次いで面積比率RATEが所定比率RATETHより小さいか否かを判別し(ステップS33)、RATE≧RATETHであるときは、直ちにステップS35に進む一方、RATE<RATETHであるとき、例えば図9(a)に示すような場合には、ランレングスが所定長さmTH以上であるデータを対象物から削除する処理を行う。これにより、対象物1として認識されていたものが3つに分割されて認識されることになる。なお、所定比率RATETHは、種々の実測画像データに基づいて最適の値にし、また所定長さmTHの初期値は、例えば画像(カメラ1Rまたは1Lにより撮像される全体画像)の水平方向の幅の1/3程度に設定する。
【0020】
ステップS35では、カウンタjをインクリメントし、次いでカウンタjの値が対象物数nを越えたか否かを判別する(ステップS36)。j≦nである間はステップS32に戻り、j>nとなるとステップS37で所定長さmTHを1/2にし、ついで対象物ラベルの更新を行う(ステップS38)。これにより、ステップS34の処理で分割された対象物が例えば図9(b)に示すように対象物1,2,3というようにラベリングされる。
【0021】
続くステップS39では、所定長さmTHが所定値M以下となったか否かを判別し、mTH>Mである間はステップS31の戻って同様の処理を繰り返し、mTH≦Mとなると、本処理を終了する。ここで所定値Mは、予め設定した距離における抽出したい対象物の、画面上での通常の横幅(水平方向の幅であって画素数で定義される長さ)とする。
【0022】
以上ように図8の処理によれば、面積比率RATEが所定比率RATETHより小さいときは、水平方向の長さが所定長さmTH以上の領域が対象物から除かれるので、例えば高温となったガードレールなどと抽出したい対象物とが1つの対象物として抽出された場合でも、これらを分離して抽出することが可能となる。
【0023】
抽出された対象物については、2つカメラ1R、1Lより得られる画像に基づいて自車両からの距離が算出され、衝突の可能性の判定が行われるので、対象物を正確に抽出することにより、衝突判定などを正確に行うことが可能となる。
また図9(b)に示すように3つに分割された対象物1,2,3は、その後の追跡データに基づいて一体化して認識することも可能である。
本実施形態では、画像処理ユニット2が対象物抽出装置を構成する。
【0024】
【発明の効果】
以上詳述したように本発明によれば、対象物を含む外接四角形の画像上の面積に対するその対象物の画像上の面積の比率が算出され、該面積比率が所定比率より小さいときは、対象物の画像の水平方向の長さが所定長さ以上の領域が対象物の画像から除かれて前記対象物が抽出される。さらに抽出された対象物について、自車両からの距離が算出され、前記抽出処理を実行した後に前記所定長さを減少させる処理が行われ、前記所定長さを減少させた後に前記抽出処理が前記所定長さが所定値に達するまで繰り返し実行される。このような処理により、例えば高温の対象物とガードレールとが重なって抽出されたような場合でも、その対象物を分離して抽出することが可能となる。したがって、このようにして抽出された対象物について、自車両からの距離の算出を行うことにより、衝突の可能性の判定を正確に行うことが可能となる。
【図面の簡単な説明】
【図1】図1は本発明の一実施形態にかかる対象物抽出装置を含む、車両の前方監視装置の構成を示す図である。
【図2】カメラの配置を説明するための図である。
【図3】対象物抽出の手順を示すフローチャートである。
【図4】図3の二値化処理のフローチャートである。
【図5】グレースケール画像及び二値化画像を説明するための図である。
【図6】輝度値のヒストグラムを示す図である。
【図7】ランレングスデータ及びラベリングを説明するための図である。
【図8】背景との分離処理のフローチャートである。
【図9】図8の処理を説明するための図である。
【符号の説明】
1R、1L 赤外線カメラ(撮像手段)
2 画像処理ユニット(対象物抽出装置)
Claims (4)
- 撮像手段により得られる画像から対象物を抽出する対象物抽出装置において、
前記撮像手段は、赤外線を検出可能なものであり、
前記対象物を含み、前記対象物に外接する外接四角形の前記画像上の面積に対する前記対象物の前記画像上の面積の比率を算出し、該面積比率が所定比率より小さいときは、前記対象物の画像の水平方向の長さが所定長さ以上の領域を前記対象物の画像から除くことにより、前記対象物を分割して抽出する抽出処理を行う抽出処理手段と、
前記抽出処理手段により抽出された対象物について、自車両からの距離を算出する距離算出手段とを備え、
前記抽出処理手段は、前記抽出処理を実行した後に前記所定長さを減少させる処理を行い、前記所定長さを減少させた後に前記抽出処理を前記所定長さが所定値に達するまで繰り返し実行することを特徴とする対象物抽出装置。 - 前記所定値は、予め設定した距離における抽出したい対象物の、画像上での通常の水平方向の長さに設定されることを特徴とする請求項1に記載の対象物抽出装置。
- 前記所定長さの初期値は、前記撮像手段により撮像される全体画像の水平方向の幅の1/3程度に設定されることを特徴とする請求項1または2に記載の対象物抽出装置。
- 前記所定長さは、前回の所定長さの1/2に減少させることを特徴とする請求項1から3の何れか1項に記載の対象物抽出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP19959099A JP4204708B2 (ja) | 1999-07-13 | 1999-07-13 | 対象物抽出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP19959099A JP4204708B2 (ja) | 1999-07-13 | 1999-07-13 | 対象物抽出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001028100A JP2001028100A (ja) | 2001-01-30 |
JP4204708B2 true JP4204708B2 (ja) | 2009-01-07 |
Family
ID=16410388
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP19959099A Expired - Fee Related JP4204708B2 (ja) | 1999-07-13 | 1999-07-13 | 対象物抽出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4204708B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3987057B2 (ja) | 2004-06-14 | 2007-10-03 | 本田技研工業株式会社 | 車両周辺監視装置 |
JP6254870B2 (ja) * | 2014-02-20 | 2017-12-27 | 株式会社Subaru | 車外環境認識装置 |
-
1999
- 1999-07-13 JP JP19959099A patent/JP4204708B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2001028100A (ja) | 2001-01-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6690011B2 (en) | Infrared image-processing apparatus | |
US8041079B2 (en) | Apparatus and method for detecting obstacle through stereovision | |
JP3764086B2 (ja) | 車両用情報提供装置 | |
WO2019026785A1 (ja) | 付着物検出装置、および、それを備えた車両システム | |
WO2011108218A1 (ja) | 車両の周辺監視装置 | |
WO2010047054A1 (ja) | 車両の周辺監視装置 | |
JP4528283B2 (ja) | 車両周辺監視装置 | |
JP4334686B2 (ja) | 車両の画像表示装置 | |
JP3849505B2 (ja) | 障害物監視装置及びプログラム | |
JP2015148887A (ja) | 画像処理装置、物体認識装置、移動体機器制御システム及び物体認識用プログラム | |
WO2010007718A1 (ja) | 車両周辺監視装置 | |
JP2002314989A (ja) | 車両用周辺監視装置 | |
Cualain et al. | Multiple-camera lane departure warning system for the automotive environment | |
JP3910345B2 (ja) | 位置検出装置 | |
JP4813304B2 (ja) | 車両周辺監視装置 | |
JP2002321579A (ja) | 警告情報生成方法及び車両側方映像生成装置 | |
KR101620425B1 (ko) | 주변 환경 정보를 이용한 차선 인식 시스템 및 그 방법 | |
JP2001160146A (ja) | 画像認識方法および画像認識装置 | |
JP3916930B2 (ja) | 進入警報装置 | |
JP4204708B2 (ja) | 対象物抽出装置 | |
KR101865958B1 (ko) | 속도 제한 표지판 인식 장치 및 방법 | |
JP3949628B2 (ja) | 車両の周辺監視装置 | |
US9030560B2 (en) | Apparatus for monitoring surroundings of a vehicle | |
JP4162868B2 (ja) | 対象物抽出装置 | |
JP2008028478A (ja) | 障害物検出システム、及び障害物検出方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20051205 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080221 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080226 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080416 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080812 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080905 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080930 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081015 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111024 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111024 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121024 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131024 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |