JP2003134508A - 車両用情報提供装置 - Google Patents

車両用情報提供装置

Info

Publication number
JP2003134508A
JP2003134508A JP2001331287A JP2001331287A JP2003134508A JP 2003134508 A JP2003134508 A JP 2003134508A JP 2001331287 A JP2001331287 A JP 2001331287A JP 2001331287 A JP2001331287 A JP 2001331287A JP 2003134508 A JP2003134508 A JP 2003134508A
Authority
JP
Japan
Prior art keywords
area
image
search
vehicle
parallax
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001331287A
Other languages
English (en)
Other versions
JP3764086B2 (ja
Inventor
Hiroshi Hattori
弘 服部
Shinji Nagaoka
伸治 長岡
Masato Watanabe
正人 渡辺
Takayuki Tsuji
孝之 辻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2001331287A priority Critical patent/JP3764086B2/ja
Priority to DE10247371A priority patent/DE10247371B4/de
Priority to GB0223887A priority patent/GB2383222B/en
Priority to US10/273,314 priority patent/US7141796B2/en
Publication of JP2003134508A publication Critical patent/JP2003134508A/ja
Application granted granted Critical
Publication of JP3764086B2 publication Critical patent/JP3764086B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/182Network patterns, e.g. roads or rivers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

(57)【要約】 【課題】 赤外線カメラにより撮影された画像の特徴か
ら、人物の存在範囲を決定して表示する車両用情報提供
装置を提供する。 【解決手段】 画像処理ユニットは、2値化及び相関演
算によって検出された第1検出エリアの大きさを基準と
した探索エリアによって、グレースケールで表された赤
外線カメラ画像領域内の輝度変化探索処理を行う(S2
1〜S33)。そして、第1検出エリアと輝度変化のあ
る探索エリアとの視差を比較して、第1検出エリアと異
なる視差を持つ探索エリアを排除し(S34〜S3
5)、第1検出エリアと同じ視差を持つ探索エリアを、
第1検出エリアと共に同一物体として強調表示する(S
36〜S37)。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、例えば車両の周
辺に存在する物体を検出して表示する車両用情報提供装
置に関する。
【0002】
【従来の技術】従来、歩行者等の走行路上の障害物を車
両の運転者に通知するために、車両の前方に搭載された
1つあるいは複数の赤外線カメラの画像を、運転席から
目視可能な位置に表示し、運転者の前方視界を補助する
ものがある。運転者に表示される画像は、例えば自車両
のコンソールに設置されるNAVIDisplayやフ
ロントウィンドウの運転者の前方視界を妨げない位置に
情報を表示するHUD(Head Up Display )、更には自
車両の走行状態を数字で表すメータと一体化されたメー
タ一体Display等の画像表示装置に表示される。
また、このように車両の周辺の環境を赤外線カメラによ
って撮影し、運転者に表示する装置としては、例えば特
開平11−328364号公報に示すようなものが知ら
れている。この装置では、皮膚が露出している検出対象
者の頭部の温度が他の部分の温度より高く、比較的赤外
線カメラの画像として捉えやすいことを利用して、まず
検出対象者の頭部位置を判別し、判別した頭部位置の情
報に基づいて検出対象者の身体に相当する領域を決定す
る。これにより、例えば歩行者の頭部のみならず身体全
体を運転者に表示して注意を促すことができる。
【0003】
【発明が解決しようとする課題】しかし、上述のような
従来の装置では、検出対象者を正面から撮影している場
合、顔面の皮膚は他の部分と比較して赤外線放射量が多
いため、検出対象者の頭部位置を判別しやすく、そこか
ら身体全体の領域を決定することが容易にできるもの
の、後ろから検出対象者を撮影したような場合等では、
顔面以外の部分が抜き出されることがあり、頭部位置を
判別することが難しかった。また、直射日光にさらされ
て温度が上昇している部分や、風を受けて温度が下降し
ている部分等、検出対象者の人体部位の温度は、その状
態や環境によっても変化するため、撮影された画像から
必ずしも温度の高低によって頭部位置を判別できるとは
限らず、頭部位置として認識した部分から決定した身体
に相当する領域が、実際の検出対象者が存在する領域と
は異なる可能性があった。
【0004】本発明は、上記課題に鑑みてなされたもの
で、赤外線カメラにより撮影された画像の特徴から、人
物の存在範囲を決定して表示する車両用情報提供装置を
提供することを目的とする。
【0005】
【課題を解決するための手段】上記課題を解決するため
に、請求項1の発明に係わる車両用情報提供装置は、赤
外線カメラにより撮影された画像を表示する車両用情報
提供装置であって、前記画像を多値化処理することによ
り検出された物体の存在領域を抽出領域(例えば実施の
形態の第1検出エリア51)として設定する抽出領域設
定手段(例えば実施の形態のステップS1〜ステップS
18)と、前記抽出領域の周辺に探索領域(例えば実施
の形態の探索エリア54〜58)を設定する探索領域設
定手段(例えば実施の形態のステップS21〜ステップ
S24)と、前記探索領域内の輝度変化を探索し、輝度
変化がある領域を前記抽出領域と共に同一物体として強
調表示する物体認識手段(例えば実施の形態のステップ
S25〜ステップS37)とを備えたことを特徴とす
る。以上の構成を備えた車両用情報提供装置は、抽出領
域設定手段が設定した抽出領域を基準にして探索領域を
設定し、抽出領域の周囲に輝度変化のある領域を探索す
ることで、抽出領域に捉えられた物体と同一の物体を捉
えているであろう領域を、抽出領域と共に強調表示する
ことができるようになる。
【0006】請求項2の発明に係わる車両用情報提供装
置は、請求項1に記載の車両用情報提供装置において、
2つの赤外線カメラと、前記2つの赤外線カメラにより
撮影された画像の視差を求める視差算出手段(例えば実
施の形態のステップS34)とを備え、前記物体認識手
段が、輝度変化があると共に、前記抽出領域と視差が同
一の領域を同一物体として強調表示することを特徴とす
る。以上の構成を備えた車両用情報提供装置は、輝度変
化があると共に抽出領域と視差が同一の領域を、抽出領
域に捉えられた物体と同一の物体を捉えているであろう
領域として認識し、抽出領域と共に強調表示することが
できるようになる。
【0007】請求項3の発明に係わる車両用情報提供装
置は、請求項1、または請求項2に記載の車両用情報提
供装置において、前記抽出領域の上下に隣接して設定さ
れた前記探索領域(例えば実施の形態の探索エリア5
2、53)が前記画像の範囲を越える場合に、前記物体
認識手段が、輝度変化の探索を中止することを特徴とす
る。以上の構成を備えた車両用情報提供装置は、探索領
域設定手段が抽出領域の上下に探索領域を設定すると画
像の領域を越えてしまう場合、物体認識手段が、抽出領
域に物体の大部分が捉えられていると判断して物体の探
索を行わずに抽出領域のみ強調表示を行う。
【0008】
【発明の実施の形態】以下、図面を参照して本発明の実
施の形態について説明する。図1は、本発明の一実施の
形態の車両用情報提供装置の構成を示すブロック図であ
る。図1において、符号1は、本実施の形態の車両用情
報提供装置を制御するCPU(中央演算装置)を備えた
画像処理ユニットであって、遠赤外線を検出可能な2つ
の赤外線カメラ2R、2Lと当該車両のヨーレートを検
出するヨーレートセンサ3、更に、当該車両の走行速度
(車速)を検出する車速センサ4とブレーキの操作を検
出するためのブレーキセンサ5が接続される。これによ
り、画像処理ユニット1は、車両の周辺の赤外線画像と
車両の走行状態を示す信号から、車両前方の歩行者や動
物等の動く物体を検出し、衝突の可能性が高いと判断し
たときに警報を発する。
【0009】また、画像処理ユニット1には、音声で警
報を発するためのスピーカ6と、赤外線カメラ2R、2
Lにより撮影された画像を表示し、衝突の危険性が高い
対象物を車両の運転者に認識させるための、例えば自車
両の走行状態を数字で表すメータと一体化されたメータ
一体Displayや自車両のコンソールに設置される
NAVIDisplay、更にフロントウィンドウの運
転者の前方視界を妨げない位置に情報を表示するHUD
(Head Up Display )7a等を含む画像表示装置7が接
続されている。
【0010】また、画像処理ユニット1は、入力アナロ
グ信号をディジタル信号に変換するA/D変換回路、デ
ィジタル化した画像信号を記憶する画像メモリ、各種演
算処理を行うCPU(中央演算装置)、CPUが演算途
中のデータを記憶するために使用するRAM(Random A
ccess Memory)、CPUが実行するプログラムやテーブ
ル、マップなどを記憶するROM(Read Only Memor
y)、スピーカ6の駆動信号、HUD7a等の表示信号
などを出力する出力回路を備えており、赤外線カメラ2
R、2L及びヨーレートセンサ3、車速センサ4、ブレ
ーキセンサ5の各出力信号は、ディジタル信号に変換さ
れてCPUに入力されるように構成されている。
【0011】また、図2に示すように、赤外線カメラ2
R、2Lは、自車両10の前部に、自車両10の車幅方
向中心部に対してほぼ対象な位置に配置されており、2
つの赤外線カメラ2R、2Lの光軸が互いに平行であっ
て、かつ両者の路面からの高さが等しくなるように固定
されている。なお、赤外線カメラ2R、2Lは、対象物
の温度が高いほど、その出力信号レベルが高くなる(輝
度が増加する)特性を有している。また、HUD7a
は、自車両10のフロントウインドウの運転者の前方視
界を妨げない位置に表示画面が表示されるように設けら
れている。
【0012】次に、本実施の形態の動作について図面を
参照して説明する。図3は、本実施の形態の車両用情報
提供装置の画像処理ユニット1における処理手順を示す
フローチャートである。まず、画像処理ユニット1は、
赤外線カメラ2R、2Lの出力信号である赤外線画像を
取得して(ステップS1)、A/D変換し(ステップS
2)、グレースケール画像を画像メモリに格納する(ス
テップS3)。なお、ここでは赤外線カメラ2Rにより
右画像が得られ、赤外線カメラ2Lにより左画像が得ら
れる。また、右画像と左画像では、同一の対象物の表示
画面上の水平位置がずれて表示されるので、このずれ
(視差)によりその対象物までの距離を算出することが
できる。
【0013】次に、赤外線カメラ2Rにより得られた右
画像を基準画像とし、その画像信号の2値化処理、すな
わち、輝度閾値ITHより明るい領域を「1」(白)と
し、暗い領域を「0」(黒)とする処理を行う(ステッ
プS4)。図4(a)は、赤外線カメラ2Rにより得ら
れたグレースケール画像を示し、これに2値化処理を行
うことにより、図4(b)に示すような画像を得る。な
お、図4(b)において、例えばP1からP4の枠で囲
った物体を、表示画面上に白色として表示される対象物
(以下「高輝度領域」という)とする。赤外線画像から
2値化された画像データを取得したら、2値化した画像
データをランレングスデータに変換する処理を行う(ス
テップS5)。
【0014】図5(a)は、これを説明するための図で
あり、この図では2値化により白となった領域を画素レ
ベルでラインL1〜L8として示している。ラインL1
〜L8は、いずれもy方向には1画素の幅を有してお
り、実際にはy方向には隙間なく並んでいるが、説明の
ために離間して示している。またラインL1〜L8は、
x方向にはそれぞれ2画素、2画素、3画素、8画素、
7画素、8画素、8画素、8画素の長さを有している。
ランレングスデータは、ラインL1〜L8を各ラインの
開始点(各ラインの左端の点)の座標と、開始点から終
了点(各ラインの右端の点)までの長さ(画素数)とで
示したものである。例えばラインL3は、(x3,y
5)、(x4,y5)及び(x5,y5)の3画素から
なるので、ランレングスデータとしては、(x3,y
5,3)となる。
【0015】次に、ランレングスデータに変換された画
像データから、対象物のラベリングをする(ステップS
6)ことにより、対象物を抽出する処理を行う(ステッ
プS7)。すなわち、ランレングスデータ化したライン
L1〜L8のうち、図5(b)に示すように、y方向に
重なる部分のあるラインL1〜L3を1つの対象物1と
みなし、ラインL4〜L8を1つの対象物2とみなし、
ランレングスデータに対象物ラベル1、2を付加する。
この処理により、例えば図4(b)に示す高輝度領域
が、それぞれ対象物1から4として把握されることにな
る。
【0016】対象物の抽出が完了したら、次に、図5
(c)に示すように、抽出した対象物の重心G、面積S
及び破線で示す外接四角形の縦横比ASPECTを算出
する(ステップS8)。ここで、面積Sは、ランレング
スデータの長さを同一対象物について積算することによ
り算出する。また、重心Gの座標は、面積Sをx方向に
2等分する線のx座標と、y方向に2等分する線のy座
標として算出する。更に、縦横比ASPECTは、図5
(c)に示すDyとDxとの比Dy/Dxとして算出す
る。なお、重心Gの位置は、外接四角形の重心位置で代
用してもよい。
【0017】対象物の重心、面積、外接四角形の縦横比
が算出できたら、次に、対象物の時刻間追跡、すなわち
サンプリング周期毎の同一対象物の認識を行う(ステッ
プS9)。時刻間追跡は、アナログ量としての時刻tを
サンプリング周期で離散化した時刻をkとし、図6
(a)に示すように時刻kで対象物A、Bを抽出した場
合、時刻(k+1)で抽出した対象物C、Dと、対象物
A、Bとの同一性判定を行う。具体的には、以下の同一
性判定条件1)〜3)を満たすときに、対象物A、Bと
対象物C、Dとは同一であると判定し、対象物C、Dを
それぞれ対象物A、Bというラベルに変更することによ
り、時刻間追跡が行われる。
【0018】1)時刻kにおける対象物i(=A,B)
の画像上での重心位置座標を、それぞれ(xi(k),
yi(k))とし、時刻(k+1)における対象物j
(=C,D)の画像上での重心位置座標を、(xj(k
+1),yj(k+1))としたとき、|xj(k+
1)−xi(k)|<Δx|yj(k+1)−yi
(k)|<Δyであること。ただし、Δx、Δyは、そ
れぞれx方向及びy方向の画像上の移動量の許容値であ
る。 2)時刻kにおける対象物i(=A,B)の画像上での
面積をSi(k)とし、時刻(k+1)における対象物
j(=C,D)の画像上での面積をSj(k+1)とし
たとき、Sj(k+1)/Si(k)<1±ΔSである
こと。ただし、ΔSは面積変化の許容値である。 3)時刻kにおける対象物i(=A,B)の外接四角形
の縦横比をASPECTi(k)とし、時刻(k+1)
における対象物j(=C,D)の外接四角形の縦横比を
ASPECTj(k+1)としたとき、ASPECTj
(k+1)/ASPECTi(k)<1±ΔASPEC
Tであること。ただし、ΔASPECTは縦横比変化の
許容値である。
【0019】例えば、図6(a)と(b)とを対比する
と、各対象物は画像上での大きさが大きくなっている
が、対象物Aと対象物Cとが上記同一性判定条件を満た
し、対象物Bと対象物Dとが上記同一性判定条件を満た
すので、対象物C、Dはそれぞれ対象物A、Bと認識さ
れる。このようにして認識された各対象物の(重心の)
位置座標は、時系列位置データとしてメモリに格納さ
れ、後の演算処理に使用される。なお、以上説明したス
テップS4〜S9の処理は、2値化した基準画像(本実
施形態では、右画像)について実行する。次に、車速セ
ンサ4により検出される車速VCAR及びヨーレートセ
ンサ3より検出されるヨーレートYRを読み込み、ヨー
レートYRを時間積分することより、図7に示すように
自車両10の回頭角θrを算出する(ステップS1
0)。
【0020】一方、ステップS9とステップS10の処
理に平行して、ステップS11〜S13では、対象物と
自車両10との距離zを算出する処理を行う。この演算
はステップS9、及びステップS10より長い時間を要
するため、ステップS9、S10より長い周期(例えば
ステップS1〜S10の実行周期の3倍程度の周期)で
実行される。まず、基準画像(右画像)の2値化画像に
よって追跡される対象物の中の1つを選択することによ
り、図8(a)に示すように右画像から探索画像R1
(ここでは、外接四角形で囲まれる領域全体を探索画像
とする)を抽出する(ステップS11)。
【0021】次に、左画像中から探索画像に対応する画
像(以下「対応画像」という)を探索する探索領域を設
定し、相関演算を実行して対応画像を抽出する(ステッ
プS12)。具体的には、図8(b)に示すように、探
索画像R1の各頂点座標に応じて、左画像中に探索領域
R2を設定し、探索領域R2内で探索画像R1との相関
の高さを示す輝度差分総和値C(a,b)を下記式
(1)により算出し、この総和値C(a,b)が最小と
なる領域を対応画像として抽出する。なお、この相関演
算は、2値化画像ではなくグレースケール画像を用いて
行う。また同一対象物についての過去の位置データがあ
るときは、その位置データに基づいて探索領域R2より
狭い領域R2a(図8(b)に破線で示す)を探索領域
として設定する。
【数1】 ここで、IR(m,n)は、図9に示す探索画像R1内
の座標(m,n)の位置の輝度値であり、IL(a+m
−M,b+n−N)は、探索領域内の座標(a,b)を
基点とした、探索画像R1と同一形状の局所領域R3内
の座標(m,n)の位置の輝度値である。基点の座標
(a,b)を変化させて輝度差分総和値C(a,b)が
最小となる位置を求めることにより、対応画像の位置が
特定される。
【0022】ステップS12の処理により、図10に示
すように探索画像R1と、この対象物に対応する対応画
像R4とが抽出されるので、次に、探索画像R1の重心
位置と、画像中心線LCTRとの距離dR(画素数)及
び対応画像R4の重心位置と画像中心線LCTRとの距
離dL(画素数)を求め、下記式(2)に適用して、自
車両10と、対象物との距離zを算出する(ステップS
13)。
【数2】 ここで、Bは基線長、赤外線カメラ2Rの撮像素子の中
心位置と、赤外線カメラ2Lの撮像素子の中心位置との
水平方向の距離(両赤外線カメラの光軸の間隔)、Fは
赤外線カメラ2R、2Lのレンズの焦点距離、pは赤外
線カメラ2R、2Lの撮像素子内の画素間隔であり、Δ
d(=dR+dL)が視差量である。
【0023】ステップS10における回頭角θrの算出
と、ステップS13における対象物との距離算出が完了
したら、画像内の座標(x,y)及び式(2)により算
出した距離zを下記式(3)に適用し、実空間座標
(X,Y,Z)に変換する(ステップS14)。ここ
で、実空間座標(X,Y,Z)は、図2に示すように、
赤外線カメラ2R、2Lの取り付け位置の中点の位置
(自車両10に固定された位置)を原点Oとして、図示
のように定め、画像内の座標は、画像の中心を原点とし
て水平方向をx、垂直方向をyと定めている。
【数3】 ここで、(xc,yc)は、右画像上の座標(x,y)
を、赤外線カメラ2Rの取り付け位置と、実空間原点O
との相対位置関係に基づいて、実空間原点Oと画像の中
心とを一致させた仮想的な画像内の座標に変換したもの
である。またfは、焦点距離Fと画素間隔pとの比であ
る。
【0024】また、実空間座標が求められたら、自車両
10が回頭することによる画像上の位置ずれを補正する
ための回頭角補正を行う(ステップS15)。回頭角補
正は、図7に示すように、時刻kから(k+1)までの
期間中に自車両10が例えば左方向に回頭角θrだけ回
頭すると、カメラによって得られる画像上では、図11
に示すようにΔxだけx方向にずれるので、これを補正
する処理である。具体的には、下記式(4)に実空間座
標(X,Y,Z)を適用して、補正座標(Xr,Yr,
Zr)を算出する。算出した実空間位置データ(Xr,
Yr,Zr)は、対象物毎に対応づけてメモリに格納す
る。なお、以下の説明では、回頭角補正後の座標を
(X,Y,Z)と表示する。
【数4】
【0025】実空間座標に対する回頭角補正が完了した
ら、次に、同一対象物について、ΔTのモニタ期間内に
得られた、回頭角補正後のN個の実空間位置データ(例
えばN=10程度)、すなわち時系列データから、対象
物と自車両10との相対移動ベクトルに対応する近似直
線LMVを求める(ステップS16)。具体的には、近
似直線LMVの方向を示す方向ベクトルL=(lx,l
y,lz)(|L|=1)とすると、下記式(5)で表
される直線を求める。
【数5】 ここでuは、任意の値をとる媒介変数であり、Xav、
Yav、及びZavは、それぞれ実空間位置データ列の
X座標の平均値、Y座標の平均値、及びZ座標の平均値
である。なお、式(5)は媒介変数uを消去すれば下記
式(5a)のようになる。 (X−Xav)/lx=(Y−Yav)/ly=(Z−Zav)/lz ・・・(5a)
【0026】また、例えばP(0),P(1),P
(2),…,P(N−2),P(N−1)が回頭角補正
後の時系列データを示す場合、近似直線LMVは、この
時系列データの平均位置座標Pav=(Xav,Ya
v,Zav)を通り、各データ点からの距離の2乗の平
均値が最小となるような直線として求められる。ここ
で、各データ点の座標を示すPに付した()内の数値は
その値が増加するほど過去のデータであることを示す。
例えば、P(0)は最新の位置座標、P(1)は1サン
プル周期前の位置座標、P(2)は2サンプル周期前の
位置座標を示す。
【0027】次いで、最新の位置座標P(0)=(X
(0),Y(0),Z(0))と、(N−1)サンプル
前(時間ΔT前)の位置座標P(Nー1)=(X(N−
1),Y(N−1),Z(N−1))を近似直線LMV
上の位置に補正する。具体的には、前記式(5a)にZ
座標Z(0)、Z(N−1)を適用することにより、す
なわち下記式(6)により、補正後の位置座標Pv
(0)=(Xv(0),Yv(0),Zv(0))及び
Pv(N−1)=(Xv(N−1),Yv(N−1),
Zv(N−1))を求める。
【数6】
【0028】式(6)で算出された位置座標Pv(N−
1)からPv(0)に向かうベクトルとして、相対移動
ベクトルが得られる。このようにモニタ期間ΔT内の複
数(N個)のデータから対象物の自車両10に対する相
対移動軌跡を近似する近似直線を算出して相対移動ベク
トルを求めることにより、位置検出誤差の影響を軽減し
て対象物との衝突の可能性をより正確に予測することが
可能となる。また、ステップS16において、相対移動
ベクトルが求められたら、次に、検出した対象物との衝
突の可能性を判定する警報判定処理を行う(ステップS
17)。
【0029】警報判定処理(ステップS17)は、以下
に示す衝突判定処理、接近判定領域内か否かの判定処
理、侵入衝突判定処理のいずれかにより、自車両10と
検出した対象物との衝突の可能性を判定する処理であ
る。以下、図12に示すように、自車両10の進行方向
に対してほぼ90°の方向から、速度Vpで進行してく
る動物20がいる場合を例に取って説明する。
【0030】<衝突判定処理>まず、画像処理ユニット
1は、動物20が時間ΔTの間に距離Zv(N−1)か
ら距離Zv(0)に接近したことにより、下記式(7)
を用いてZ方向の相対速度Vsを算出し、衝突判定処理
を行う。衝突判定処理は、下記式(8)及び(9)が成
立するとき、衝突の可能性があると判定する処理であ
る。 Vs=(Zv(N−1)−Zv(0))/ΔT ・・・(7) Zv(0)/Vs≦T ・・・(8) |Yv(0)|≦H ・・・(9) ここで、Zv(0)は最新の距離検出値(vは近似直線
LMVによる補正後のデータであることを示すために付
しているが、Z座標は補正前と同一の値である)であ
り、Zv(N−1)は、時間ΔT前の距離検出値であ
る。またTは、余裕時間であり、衝突の可能性を予測衝
突時刻より時間Tだけ前に判定することを意図したもの
である。従って、Tは例えば2〜5秒程度に設定され
る。またHは、Y方向、すなわち高さ方向の範囲を規定
する所定高さであり、例えば自車両10の車高の2倍程
度に設定される。
【0031】<接近判定領域内か否かの判定処理>ここ
では、対象物が接近判定領域内に存在するか否かを判定
する。例えば、図13は、赤外線カメラ2R、2Lで監
視可能な領域を太い実線で示す外側の三角形の領域AR
0で示し、更に領域AR0内の、Z1=Vs×Tより自
車両10に近い領域AR1、AR2、AR3を、警報判
定領域としている。ここで、領域AR1は、自車両10
の車幅αの両側に余裕β(例えば50〜100cm程度
とする)を加えた範囲に対応する領域、換言すれば自車
両10の車幅方向中心部の軸の両側に(α/2+β)の
幅を有する領域であって、対象物がそのまま存在し続け
れば衝突の可能性がきわめて高いので、接近判定領域と
呼ぶ。領域AR2、AR3は、接近判定領域よりX座標
の絶対値が大きい(接近判定領域の横方向外側の)領域
であり、この領域内にある対象物については、後述する
侵入衝突判定を行うので、侵入判定領域と呼ぶ。なおこ
れらの領域は、前記式(9)に示したようにY方向に
は、所定高さHを有する。
【0032】<侵入衝突判定処理>侵入衝突判定処理
は、具体的には、画像上での最新のx座標であるxc
(0)(文字cは前述したように画像の中心位置を実空
間原点Oに一致させる補正を行った座標であることを示
すために付している)と、時間ΔT前のx座標であるx
c(N−1)との差が下記式(10)を満たすか否かを
判別し、満たす場合に衝突の可能性が高いと判定する。
【数7】 なお、図12に示すように、自車両10の進行方向に対
してほぼ90°の方向から進行してくる動物20がいた
場合、Xv(Nー1)/Zv(N−1)=Xv(0)/
Zr(0)であるとき、換言すれば動物の速度Vpと相
対速度Vsの比Vp/Vs=Xr(Nー1)/Zr(N
−1)であるとき、自車両10から動物20を見る方位
角θdは一定となり、衝突の可能性が高い。式(10)
は、この可能性を自車両10の車幅αを考慮して判定す
るものである。
【0033】警報判定処理(ステップS17)において
衝突判定処理、接近判定領域内か否かの判定処理、侵入
衝突判定処理のいずれにおいても、自車両10と検出し
た対象物との衝突の可能性がないと判定された場合(ス
テップS17のNO)、ステップS1へ戻り、上述の処
理を繰り返す。また、警報判定処理(ステップS17)
において衝突判定処理、接近判定領域内か否かの判定処
理、侵入衝突判定処理のいずれかにより、自車両10と
検出した対象物との衝突の可能性があると判定された場
合(ステップS17のYES)、ステップS18の警報
出力判定処理へ進む。
【0034】ステップS18では、以下のようにして警
報出力判定処理、すなわち警報出力を行うか否かの判定
を行う(ステップS18)。警報出力判定処理は、まず
ブレーキセンサ5の出力BRから自車両10の運転者が
ブレーキ操作を行っているか否かを判別する。もし、自
車両10の運転者がブレーキ操作を行っている場合に
は、それによって発生する加速度Gs(減速方向を正と
する)を算出し、この加速度Gsが所定閾値GTHより
大きいときは、ブレーキ操作により衝突が回避されると
判定して警報出力判定処理を終了し(ステップS18の
NO)、ステップS1へ戻り、上述の処理を繰り返す。
これにより、適切なブレーキ操作が行われているとき
は、警報を発しないようにして、運転者に余計な煩わし
さを与えないようにすることができる。
【0035】また、加速度Gsが所定閾値GTH以下で
あるとき、または自車両10の運転者がブレーキ操作を
行っていなければ、直ちにステップS19の処理へ進み
(ステップS18のYES)、対象物と接触する可能性
が高いので、スピーカ3を介して音声による警報を発す
る(ステップS19)とともに、画像表示装置7に、例
えば赤外線カメラ2Rにより得られるグレースケール画
像を表示し、接近してくる対象物に強調表示枠を設定す
ることで、自車両10の運転者に対して、対象物を強調
映像として表示する(ステップS20)。なお、所定閾
値GTHは、下記式(11)のように定める。これは、
ブレーキ操作中の加速度Gsがそのまま維持された場合
に、距離Zv(0)以下の走行距離で自車両10が停止
する条件に対応する値である。
【数8】
【0036】次に、図14と図18に示すフローチャー
ト、及び図15から図17に示す図面を参照して、図3
に示したフローチャートのステップS20における強調
映像出力処理について説明する。 (第1の実施例)図14は、第1の実施例による強調映
像出力処理の全体動作を示すフローチャートである。図
14において、まず、画像処理ユニット1は2値化及び
相関演算によって検出された対象物のエリア(以下、
「第1検出エリア」という)の大きさを基準として、第
1検出エリアの上下方向の領域を第1検出エリアの大き
さと同一の大きさに分割して複数のエリアを設定し、こ
れを探索エリアとする(ステップS21)。また、第1
検出エリアの上下方向の領域を分割して複数の探索エリ
アを設定するにあたっては、分割した探索エリアが基準
画像(右画像)の領域内にあるか否かの判定を行い(ス
テップS22)、探索エリアが基準画像からはみ出るま
でステップS21へ戻り、領域のエリア分割(探索エリ
アの設定)を繰り返す(ステップS22のYES)。
【0037】一方、探索エリアが基準画像からはみ出た
ら(ステップS22のNO)、基準画像内の分割された
エリア数を計数する(ステップS23)。そして、基準
画像領域内にあるエリアの数が1個より多いか否かを判
定する(ステップS24)。ステップS24において、
基準画像領域内にあるエリアの数が1個の場合(エリア
の数が基準画像領域内にある第1検出エリア1個とその
上下に基準画像領域をはみ出す探索エリア2個の合計3
個の場合)(ステップS24のNO)、第1検出エリア
を強調表示エリアに設定する(ステップS25)。図1
5は、対象物30が人間であると共に基準画像領域50
内にあるエリアの数が1個の場合の画像例を示す。図1
5(a)は、第1検出エリア51に対象物30の全身が
捉えられている場合で、対象物30のエリアサイズと距
離により判断できる。一方、図15(b)は、対象物3
0の身体の一部が第1検出エリア51に捉えられている
場合である。どちらの場合も、基準画像領域50内にあ
る第1検出エリア51とその上下に基準画像領域50か
らはみ出す探索エリア52、53が設定され、合計3個
のエリアから構成されている。
【0038】また、ステップS24において、基準画像
領域内にあるエリアの数が1個より多い場合(ステップ
S24のYES)、第1検出エリア51を含む列を基準
として探索エリア設定を行うために、列を区別するため
のレジスタjをリセット(j=0)する(ステップS2
6)。そして、探索エリア内の画像に輝度変化が認めら
れるか否か、レジスタjにより指定された列の中の探索
エリアを探索エリア毎に縦方向に判定し、画像に輝度変
化が認められる探索エリアにはフラグを設定する輝度変
化探索処理を行う(ステップS27)。なお、輝度変化
探索処理の詳細は後述する。図16(a)は、対象物3
0が人間であると共に基準画像領域50内にあるエリア
の数が1個より多い場合の画像例を示す。例えば、図1
6(a)は、第1検出エリア51とその上下方向に存在
し基準画像領域50からはみ出す探索エリア54、5
5、更には基準画像領域50内に存在する複数の探索エ
リア56の合計M個のエリアからなる列を構成してい
る。また、この列を基準とするために、この列を「j=
0」の列とする。
【0039】次に、レジスタjにより指定された列の中
の探索エリア内の画像に、輝度変化が認められることを
示すフラグがあるか否かを判定する(ステップS2
8)。ステップS28において、指定された列の中の探
索エリア内の画像に、輝度変化が認められることを示す
フラグがある場合(ステップS28のYES)、jを1
つ増やす(j=j+1)ことで今探索した隣の列を指定
し(ステップS29)、ステップS27へ戻り、新しい
列に対する輝度変化探索処理を行う(ステップS2
7)。また、ステップS28において、指定された列の
中の探索エリア内の画像に、輝度変化が認められること
を示すフラグがない場合(ステップS28のNO)、j
をリセット(j=0)し(ステップS30)、jを1つ
減らす(j=j−1)ことで、上述の探索とは反対側の
列を指定する(ステップS31)。そして、上述のステ
ップS27と同様に、輝度変化探索処理を行う(ステッ
プS32)。
【0040】次に、上述のステップS28と同様に、レ
ジスタjにより指定された列の中の探索エリア内の画像
に、輝度変化が認められることを示すフラグがあるか否
かを判定する(ステップS33)。ステップS33にお
いて、指定された列の中の探索エリア内の画像に、輝度
変化が認められることを示すフラグがある場合(ステッ
プS33のYES)、ステップS31へ戻り、jを1つ
減らす(j=j−1)ことで今探索した隣の列を指定
し、ステップS32において新しい列に対する輝度変化
探索処理を行う(ステップS32)。図16(b)は、
j=2まで探索して輝度変化の認められる探索エリアが
存在しなかったため、j=0に対して反対側のj=−1
を探索する場合を示した図である。
【0041】また、ステップS33において、指定され
た列の中の探索エリア内の画像に、輝度変化が認められ
ることを示すフラグがない場合(ステップS33のN
O)、基準画像領域50内の探索が終了したと判断し
て、次に、フラグが設定された探索エリアに対する視差
計算を行う(ステップS34)。そして、第1検出エリ
ア51と視差が異なる(自車両10からの距離が異な
る)探索エリアのフラグを解除する(ステップS3
5)。また、視差の異なる探索エリアを排除したら、第
1検出エリア51及びフラグの設定された探索エリアを
包含するように強調表示出力を行う(ステップS3
6)。なお、ステップS25において設定された強調表
示出力、及びステップS36において設定された強調表
示出力は、画像表示装置7へ出力され(ステップS3
7)、強調表示出力処理は終了する。図17(a)は、
図16(a)、(b)を基に、第1検出エリア51及び
輝度変化の認められる探索エリアを内包する強調表示枠
59を設定した状態を表す。また、画像表示装置7に出
力される際には、図17(b)に示すように、対象物形
状が認識しやすい対象物全てを内包する強調表示枠59
が、表示されるグレースケール画像上に設定されること
になる。
【0042】次に、図18に示すフローチャートを用い
て、輝度変化探索処理について説明する。輝度変化探索
処理は、探索エリア内の画像に輝度変化が認められるか
否かを、レジスタjにより指定された列の中の探索エリ
ア毎に判定し、画像に輝度変化が認められる探索エリア
にはフラグを設定する処理であって、指定された列に対
して列内の探索エリアを行の方向(縦方向)に探索す
る。まず、行の方向に探索を行うために、行を区別する
ためのレジスタiをリセット(i=1)する(ステップ
S41)。次に、レジスタiにより指定された行の探索
エリアについて、探索エリアのグレースケール画像に輝
度変化が認められるか否かを探索する(ステップS4
2)。そして、指定された探索エリアのグレースケール
画像の輝度変化が大きいか否かを判定し(ステップS4
3)、輝度変化が大きい場合(ステップS43のYE
S)、該当する探索エリアにフラグを設定する(ステッ
プS44)。
【0043】輝度変化の大きい探索エリアにフラグが設
定されたら、次の行の探索を行うためにiを1つ増やす
(i=i+1)ことで今探索した次の行を指定する(ス
テップS45) また、指定された探索エリアのグレースケール画像の輝
度変化が大きくない場合(ステップS43のNO)、何
もせずにステップS45へ進む。なお、図16(a)、
(b)に示すように、各列の第1検出エリア51と探索
エリアの合計数はM個であるので、レジスタiの値を判
定し(ステップS46)、輝度変化探索処理はiの値が
Mより大きくなるまで、ステップS42へ戻り、上述の
処理を繰り返す(ステップS46のNO)。従って、図
14に示すフローチャートのステップS24において、
基準画像領域50内にあるエリアの数が1個より多い場
合(ステップS24のYES)は、基準画像領域50か
らはみ出した各列内の探索エリア(j=0の列では探索
エリア54、55)についても輝度変化探索処理が実行
される。また、ステップS46において、iの値がMよ
り大きくなったら(i>M)(ステップS46のYE
S)、輝度変化探索処理を終了する。
【0044】次に、図19(a)、(b)、図20に示
す図面を参照し、強調映像出力処理について、特にエリ
アの分割方法及び探索方法における別の実施例を説明す
る。 (第2の実施例)図19(a)は、強調映像出力処理の
第2の実施例について説明した図である。第1の実施例
が列方向へ探索エリアを拡張する場合に、上下方向にM
個含まれている探索エリア全てを対象にして列方向の拡
張を行うのに対して、第2の実施例では、左右j=±1
より外の列に対しては、フラグの設定された探索エリア
が存在する行のエリアのみ拡張して探索を行う。図19
(a)では、j=1、またはj=−1において輝度変化
が認められたi=2、3、4の探索エリア57について
のみ、j=2、またはj=−2の列において輝度変化探
索処理が行われる。
【0045】具体的には、下記のように探索エリアをA
(i、j)と表現し、輝度変化ありを○、輝度変化なし
を×で表現する場合、 A( 1,-1):×、A( 1, 0):×、A( 1, 1):× → エリア拡大無し A( 2,-1):×、A( 2, 0):○、A( 2, 1):× → エリア拡大無し A( 3,-1):○、A( 3, 0):○、A( 3, 1):○ → エリア拡大有り A( 4,-1):○、A( 4, 0):○、A( 4, 1):○ → エリア拡大有り A( 5,-1):○、A( 5, 0):○、A( 5, 1):○ → エリア拡大有り A( 6,-1):×、A( 6, 0):×、A( 6, 1):× → エリア拡大無し ・ ・ ・ A( M,-1):×、A( M, 0):×、A( M, 1):× → エリア拡大無し のように輝度変化処理が行われる。これにより、1つ前
の列において輝度変化が認められなかった行では、その
外側も輝度変化が認められる可能性が少ないので、無駄
な輝度変化探索処理を省くことで、画像処理ユニット1
の処理負荷が軽減される。
【0046】(第3の実施例)図19(b)は、強調映
像出力処理の第3の実施例について説明した図である。
第3の実施例では、第1検出エリア51の大きさを基準
に、探索エリアを横方向に広げたエリアを設定し、列方
向へ探索エリアを拡張する場合は、第1検出エリア51
と同じ列において輝度変化の認められた行を対象に行
う。図19(b)では、第1検出エリア51の大きさを
基準に、探索エリアを横方向に広げたエリアをj=0と
して示し、j=1、またはj=−1の列においては、j
=0のエリアにおいて輝度変化の認められたi=1から
i=6の探索エリア58を対象に輝度変化探索処理が行
われる。これにより、輝度変化の有無により輝度変化探
索処理の対象の行を決定する処理を、列方向の拡張を行
うたびに判定する処理が不要となるため、更に画像処理
ユニット1の処理負荷が軽減される。
【0047】(第4の実施例)図20は、強調映像出力
処理の第4の実施例について説明した図である。第4の
実施例では、第1検出エリア51の大きさに係わらず、
所定の大きさの探索エリアによって基準画像領域50を
分割し、輝度変化探索処理を行う。図20では、第1検
出エリア51より大きめの探索エリアによって、輝度変
化探索処理が実行される。但し、これにより、第1検出
エリア51の大きさに係わらず基準画像領域50内の輝
度変化探索処理を実行できるので、画像処理ユニット1
の処理負荷が大幅に軽減されるものの、探索エリアの大
きさと対象物30の大きさとの差が大きい場合は、検出
精度の低下や検出速度の低下を招く場合があることを考
慮する必要がある。
【0048】なお、更に上述の第1から第4の実施例に
付け加えるならば、探索エリアを拡張する場合に、2台
の赤外線カメラ2R、2Lの画像同士の視差計算を先に
行い、同一の視差を持つ探索エリアの部分のみ拡張する
ようにしても良い。また、同じ物体であっても所定値以
上の輝度変化がない部分もあるので、この部分を上下に
包含するように広げても良い。また、第1検出エリア5
1と視差の異なるエリアのフラグを解除して区別するこ
とで、対象物が重なっている場合でも、対象物を区別し
て抽出することができる。例えば、車両等の後ろに対象
物が存在する場合の隠蔽を検出した場合、探索エリア内
には輝度変化があると共に、該探索エリアは第1検出エ
リア51とは異なる視差値を有し、このような視差値を
有する探索エリアが複数個存在する。そこで視差値より
エリアの距離が求まり、人物が車両等の物体の後ろに存
在すると考えられる場合は、隠蔽されているエリアを除
いた部分を強調表示するようにしても良い。
【0049】次に、探索エリアの分割例について、その
他の分割例を図面を参照して説明する。図21(a)
は、上述の第1から第4の実施例において説明した対象
物30の頭部と同様に、対象物30の腹部を検出した第
1検出エリア51に基づいて設定された中間サイズの探
索エリアによる基準画像の分割例である。図21(b)
は、対象物30の手の先部分を検出した第1検出エリア
51に基づいて設定された小さいサイズの探索エリアに
よる基準画像の分割例である。図22は、対象物30の
両肩から胸部を検出した第1検出エリア51に基づいて
設定された横に大きいサイズの探索エリアによる基準画
像の分割例である。図22に示すように、第1検出エリ
ア51の横方向のサイズが大きい場合には、画像の視差
から求められる対象物との距離によって、探索エリアの
横方向サイズを調整するようにしても良い。
【0050】なお、上述した実施の形態では、自車両の
前方を監視する例を示したが、自車両の後方など、いず
れの方向を監視するようにしてもよい。また、上述した
実施の形態では、赤外線カメラ2R、2Lを用意し、視
差により対象物との距離も同一物体を抽出するための判
断材料として利用したが、赤外線カメラは1台でも良
く、この場合、同一物体を抽出するための判断材料から
対象物までの距離は除外するものとする。
【0051】また、本実施の形態では、画像処理ユニッ
ト1が、抽出領域設定手段と、探索領域設定手段と、物
体認識手段と、視差算出手段とを含んでいる。より具体
的には、図3のS1〜S18が抽出領域設定手段に相当
し、図14のS21〜S24が探索領域設定手段に相当
し、図14のS25〜S37が物体認識手段に相当す
る。更に、図14のS34が視差算出手段に相当する。
【0052】以上説明したように、本実施の形態の車両
用情報提供装置は、最初の検出された第1検出エリア5
1を基準にして、その周囲に探索エリアを設定し、探索
エリア内の画像に輝度変化が認められ、かつ2台の赤外
線カメラを用いる場合は、第1検出エリア51と同じ視
差を持つ探索エリアを第1検出エリア51と同一物体の
画像と判定することで、確実に対象物全体を捉えた画像
エリアを抽出することができる。従って、従来は人間の
身体部位の中で一番表面温度が高いであろう頭部が抽出
されたとして処理を行うために、直射日光にさらされて
温度が上昇している部分や、風を受けて温度が下降して
いる部分等、検出対象者の人体部位の温度の変化によっ
て発生する誤検出が問題とされていたが、これにより身
体のどの部分が最初に検出されても、必ず対象物の全体
(検出対象者の全身)を捉えることができるようになる
という効果が得られる。
【0053】
【発明の効果】以上の如く、請求項1に記載の車両用情
報提供装置によれば、抽出領域設定手段が設定した抽出
領域を基準にして探索領域を設定し、抽出領域の周囲に
輝度変化のある領域を探索することで、抽出領域に捉え
られた物体と同一の物体を捉えているであろう領域を、
抽出領域と共に強調表示することができるようになる。
従って、抽出領域の大きさに基づいて探索領域を設定す
ると、対象物の大きさに比例する抽出領域の大きさによ
って、探索領域の大きさが対象物に対して適切に設定さ
れるので、画像領域内を探索領域により探索して物体全
体を検出する検出速度が向上するという効果が得られ
る。
【0054】請求項2に記載の車両用情報提供装置によ
れば、輝度変化があると共に抽出領域と視差が同一の領
域を、抽出領域に捉えられた物体と同一の物体を捉えて
いるであろう領域として認識し、抽出領域と共に強調表
示することができるようになる。従って、複数の物体が
重なるような状態にあっても、2台のカメラの画像の視
差(物体までの距離)が同じ領域を選択することによっ
て、複数の物体を分離して表示できるという効果が得ら
れる。
【0055】請求項3に記載の車両用情報提供装置によ
れば、探索領域設定手段が抽出領域の上下に探索領域を
設定すると画像の領域を越えてしまう場合、物体認識手
段が、抽出領域に物体の大部分が捉えられていると判断
して物体の探索を行わずに抽出領域のみ強調表示を行
う。従って、抽出領域に物体の大部分が捉えられている
と判断して物体の探索を中止することで、不要な計算の
実行を回避することができるという効果が得られる。
【図面の簡単な説明】
【図1】 本発明の一実施の形態の車両用情報提供装置
の構成を示すブロック図である。
【図2】 車両における赤外線カメラやセンサ、ディス
プレイ等の取り付け位置を示す図である。
【図3】 同実施の形態の車両用情報提供装置の全体動
作を示すフローチャートである。
【図4】 赤外線カメラにより得られるグレースケール
画像とその2値化画像を示す図である。
【図5】 ランレングスデータへの変換処理及びラベリ
ングを示す図である。
【図6】 対象物の時刻間追跡を示す図である。
【図7】 対象物画像の回頭角補正を示す図である。
【図8】 右画像中の探索画像と、左画像に設定する探
索領域を示す図である。
【図9】 探索領域を対象とした相関演算処理を示す図
である。
【図10】 対象物の距離算出における対象物視差の算
出方法を示す図である。
【図11】 車両の回頭により発生する画像上の対象物
位置のずれを示す図である。
【図12】 衝突が発生しやすい場合を示す図である。
【図13】 車両前方の領域区分を示す図である。
【図14】 同実施の形態の第1の実施例による強調映
像出力処理動作を示すフローチャートである。
【図15】 同実施の形態の画像内エリア分割結果の一
例を示す図面である。
【図16】 同実施の形態の第1の実施例による画像内
の領域探索手順を示す図面である。
【図17】 同実施の形態の第1の実施例による画像内
の領域探索手順を示す図面である。
【図18】 同実施の形態の車両用情報提供装置の輝度
変化探索処理動作を示すフローチャートである。
【図19】 同実施の形態の第2、第3の実施例による
画像内の領域探索手順を示す図面である。
【図20】 同実施の形態の第4の実施例による画像内
の領域探索手順を示す図面である。
【図21】 同実施の形態の画像内エリア分割結果の一
例を示す図面である。
【図22】 同実施の形態の画像内エリア分割結果の一
例を示す図面である。
【符号の説明】
1 画像処理ユニット 2R、2L 赤外線カメラ 3 ヨーレートセンサ 4 車速センサ 5 ブレーキセンサ 6 スピーカ 7 画像表示装置 10 自車両 S1〜S18 抽出領域設定手段 S21〜S24 探索領域設定手段 S25〜S37 物体認識手段 S34 視差算出手段
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G08G 1/16 G08G 1/16 C (72)発明者 渡辺 正人 埼玉県和光市中央1丁目4番1号 株式会 社本田技術研究所内 (72)発明者 辻 孝之 埼玉県和光市中央1丁目4番1号 株式会 社本田技術研究所内 Fターム(参考) 5B057 AA16 BA08 DA07 DA15 DB03 DB05 DB09 DC02 DC32 5C054 AA01 CA05 EA01 FA00 FC03 FC12 FE09 FF03 HA30 5H180 CC02 CC04 LL01 LL02 5L096 AA03 AA06 BA04 CA05 DA01 DA03 EA43 FA18 FA59 FA60 FA64 FA66 GA08 GA34 GA36 HA04

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 赤外線カメラにより撮影された画像を表
    示する車両用情報提供装置であって、 前記画像を多値化処理することにより検出された物体の
    存在領域を抽出領域として設定する抽出領域設定手段
    と、 前記抽出領域の周辺に探索領域を設定する探索領域設定
    手段と、 前記探索領域内の輝度変化を探索し、輝度変化がある領
    域を前記抽出領域と共に同一物体として強調表示する物
    体認識手段とを備えたことを特徴とする車両用情報提供
    装置。
  2. 【請求項2】 2つの赤外線カメラと、 前記2つの赤外線カメラにより撮影された画像の視差を
    求める視差算出手段とを備え、 前記物体認識手段が、輝度変化があると共に、前記抽出
    領域と視差が同一の領域を同一物体として強調表示する
    ことを特徴とする請求項1に記載の車両用情報提供装
    置。
  3. 【請求項3】 前記抽出領域の上下に隣接して設定され
    た前記探索領域が前記画像の範囲を越える場合に、 前記物体認識手段が、輝度変化の探索を中止することを
    特徴とする請求項1、または請求項2に記載の車両用情
    報提供装置。
JP2001331287A 2001-10-29 2001-10-29 車両用情報提供装置 Expired - Fee Related JP3764086B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2001331287A JP3764086B2 (ja) 2001-10-29 2001-10-29 車両用情報提供装置
DE10247371A DE10247371B4 (de) 2001-10-29 2002-10-10 Fahrzeuginformation-Bereitstellungsvorrichtung
GB0223887A GB2383222B (en) 2001-10-29 2002-10-14 Vehicle information providing apparatus
US10/273,314 US7141796B2 (en) 2001-10-29 2002-10-17 Vehicle information providing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001331287A JP3764086B2 (ja) 2001-10-29 2001-10-29 車両用情報提供装置

Publications (2)

Publication Number Publication Date
JP2003134508A true JP2003134508A (ja) 2003-05-09
JP3764086B2 JP3764086B2 (ja) 2006-04-05

Family

ID=19146890

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001331287A Expired - Fee Related JP3764086B2 (ja) 2001-10-29 2001-10-29 車両用情報提供装置

Country Status (4)

Country Link
US (1) US7141796B2 (ja)
JP (1) JP3764086B2 (ja)
DE (1) DE10247371B4 (ja)
GB (1) GB2383222B (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004303219A (ja) * 2003-03-20 2004-10-28 Honda Motor Co Ltd 車両周辺監視装置
JP2005234694A (ja) * 2004-02-17 2005-09-02 Fuji Heavy Ind Ltd 車外監視装置
JP2005352974A (ja) * 2004-06-14 2005-12-22 Honda Motor Co Ltd 車両周辺監視装置
JP2006039641A (ja) * 2004-07-22 2006-02-09 Denso Corp 車両周辺監視システム
JP2006163879A (ja) * 2004-12-08 2006-06-22 Daihatsu Motor Co Ltd 画像処理方法及び画像処理装置
JP2007174113A (ja) * 2005-12-20 2007-07-05 Sumitomo Electric Ind Ltd 障害物検出システム及び障害物検出方法
JP2008022454A (ja) * 2006-07-14 2008-01-31 Sumitomo Electric Ind Ltd 障害物検出システム及び障害物検出方法
JP2009037476A (ja) * 2007-08-02 2009-02-19 Honda Motor Co Ltd 車両周辺監視装置、車両周辺監視方法、及び車両周辺監視用プログラム
JP2009530695A (ja) * 2006-03-17 2009-08-27 ダイムラー・アクチェンゲゼルシャフト 画像データにおいて重要対象物を識別するための仮想スポットライト
US7599546B2 (en) 2004-11-30 2009-10-06 Honda Motor Co., Ltd. Image information processing system, image information processing method, image information processing program, and automobile
US7672481B2 (en) 2004-11-30 2010-03-02 Honda Motor Co., Ltd. Image information processing system, image information processing method, image information processing program, and automobile
JP2011119917A (ja) * 2009-12-02 2011-06-16 Denso Corp 車両用表示装置
KR20120121744A (ko) * 2011-04-27 2012-11-06 삼성테크윈 주식회사 객체 정보 산출 방법 및 장치
JP2014137689A (ja) * 2013-01-16 2014-07-28 Toyota Motor Corp 対象物検出装置及び対象物検出方法、警報装置及び警報方法、運転支援装置及び運転支援方法
US10482320B2 (en) 2015-07-08 2019-11-19 Lg Innotek Co., Ltd. Device and method for providing moving body information for a vehicle, and recording medium, on which a program for executing the method is recorded

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10253510A1 (de) * 2002-11-16 2004-05-27 Robert Bosch Gmbh Vorrichtung und Verfahren zur Verbesserung der Sicht in einem Kraftfahrzeug
US7046259B2 (en) 2003-04-30 2006-05-16 The Boeing Company Method and system for presenting different views to passengers in a moving vehicle
US7088310B2 (en) * 2003-04-30 2006-08-08 The Boeing Company Method and system for presenting an image of an external view in a moving vehicle
US6866225B2 (en) * 2003-04-30 2005-03-15 The Boeing Company Method and system for presenting moving simulated images in a moving vehicle
KR100543709B1 (ko) * 2003-12-23 2006-01-20 삼성전자주식회사 이동체의 회전 이동량 이용 방법과 장치 및 컴퓨터프로그램을 저장하는 컴퓨터로 읽을 수 있는 기록 매체
US8587664B2 (en) * 2004-02-02 2013-11-19 Rochester Institute Of Technology Target identification and location system and a method thereof
JP3934119B2 (ja) * 2004-06-14 2007-06-20 本田技研工業株式会社 車両周辺監視装置
DE102005056647B4 (de) * 2004-11-30 2011-02-03 Honda Motor Co., Ltd. Fahrzeugumgebungsüberwachungsvorrichtung
US7599521B2 (en) 2004-11-30 2009-10-06 Honda Motor Co., Ltd. Vehicle vicinity monitoring apparatus
JP4224449B2 (ja) 2004-11-30 2009-02-12 本田技研工業株式会社 画像抽出装置
US7515737B2 (en) 2004-11-30 2009-04-07 Honda Motor Co., Ltd. Vehicle surroundings monitoring apparatus
US7489805B2 (en) 2004-11-30 2009-02-10 Honda Motor Co., Ltd. Vehicle surroundings monitoring apparatus
DE102005056666B4 (de) * 2004-11-30 2010-09-30 Honda Motor Co., Ltd. Fahrzeugumgebungsüberwachungsvorrichtung
JP3970876B2 (ja) 2004-11-30 2007-09-05 本田技研工業株式会社 車両周辺監視装置
JP4094604B2 (ja) 2004-11-30 2008-06-04 本田技研工業株式会社 車両周辺監視装置
JP4032052B2 (ja) 2004-11-30 2008-01-16 本田技研工業株式会社 位置検出装置及びその補正方法
JP4461091B2 (ja) 2004-11-30 2010-05-12 本田技研工業株式会社 位置検出装置及びその補正方法
JP4128562B2 (ja) * 2004-11-30 2008-07-30 本田技研工業株式会社 車両周辺監視装置
US7590263B2 (en) 2004-11-30 2009-09-15 Honda Motor Co., Ltd. Vehicle vicinity monitoring apparatus
US7489236B2 (en) * 2005-04-29 2009-02-10 Chavarria Faustino V Pedestrian alert system for vehicles
US7528372B2 (en) 2005-10-19 2009-05-05 Csi Technology, Inc. Apparatus and method for infrared imaging with performance algorithm
GB2443664A (en) * 2006-11-10 2008-05-14 Autoliv Dev An infra red object detection system de-emphasizing non relevant hot objects
WO2009033286A1 (en) * 2007-09-14 2009-03-19 Magna International Inc. Object detection and ranging method
JP4858574B2 (ja) * 2009-05-19 2012-01-18 トヨタ自動車株式会社 物体検出装置
FR2947935B1 (fr) * 2009-07-08 2012-03-02 Valeo Vision Sas Procede de definition d'une fenetre de recherche
DE102010007603A1 (de) * 2010-02-05 2011-08-11 Kässbohrer Geländefahrzeug AG, 88471 Arbeitsfahrzeug
JP5645769B2 (ja) * 2011-08-01 2014-12-24 株式会社日立製作所 画像処理装置
EP2669846B1 (en) * 2012-06-01 2017-11-01 Ricoh Company, Ltd. Target recognition system and target recognition method executed by the target recognition system, target recognition program executed on the target recognition system, and recording medium storing the target recognition program
CN103568990A (zh) * 2012-07-23 2014-02-12 北京新岸线移动多媒体技术有限公司 一种实现车辆安全预警的方法和系统
CN104149685A (zh) * 2013-05-13 2014-11-19 赵盾 一种汽车警示器
JP5942979B2 (ja) * 2013-12-27 2016-06-29 トヨタ自動車株式会社 車両用情報表示装置及び車両用情報表示方法
JP5870993B2 (ja) * 2013-12-27 2016-03-01 トヨタ自動車株式会社 車両用情報表示装置及び車両用情報表示方法
DE102014003550A1 (de) * 2014-03-12 2014-09-18 Daimler Ag Verfahren und Vorrichtung zur Unterstützung eines Fahrers beim Führen eines Fahrzeugs
CN106564428A (zh) * 2015-10-12 2017-04-19 常州博显汽车电子有限公司 一种基于红外的刹车提醒系统和提醒方法
CN105291978B (zh) * 2015-11-27 2016-09-14 安徽工程大学 车辆变道辅助预警系统及其控制方法
TWI775777B (zh) 2017-02-20 2022-09-01 美商3M新設資產公司 光學物品及與其交互作用之系統
EP3688662A1 (en) 2017-09-27 2020-08-05 3M Innovative Properties Company Personal protective equipment management system using optical patterns for equipment and safety monitoring
TWI688502B (zh) * 2018-02-14 2020-03-21 先進光電科技股份有限公司 用於警告車輛障礙物的設備
CN109163707B (zh) * 2018-09-06 2019-11-26 百度在线网络技术(北京)有限公司 障碍物感知方法、系统、计算机设备、计算机存储介质
US11836933B2 (en) * 2019-07-18 2023-12-05 Toyota Motor Europe Method for calculating information relative to a relative speed between an object and a camera
WO2021016819A1 (zh) * 2019-07-29 2021-02-04 深圳市大疆创新科技有限公司 一种车辆的交互方法、设备、系统及可读存储介质
US20220242433A1 (en) * 2021-02-02 2022-08-04 GM Global Technology Operations LLC Saliency-based presentation of objects in an image
CN114283548A (zh) * 2021-12-27 2022-04-05 北京科技大学天津学院 一种无人机火灾持续监测方法及其系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2992178B2 (ja) * 1993-06-24 1999-12-20 シャープ株式会社 画像処理装置
JP3866328B2 (ja) * 1996-06-06 2007-01-10 富士重工業株式会社 車両周辺立体物認識装置
JP3759280B2 (ja) * 1997-04-15 2006-03-22 富士通株式会社 道路監視用事象検知装置
JP4135123B2 (ja) * 1998-05-13 2008-08-20 日産自動車株式会社 表示処理装置
JP4118452B2 (ja) * 1999-06-16 2008-07-16 本田技研工業株式会社 物体認識装置
JP3515926B2 (ja) * 1999-06-23 2004-04-05 本田技研工業株式会社 車両の周辺監視装置
JP3280001B2 (ja) * 1999-09-16 2002-04-30 富士重工業株式会社 ステレオ画像の位置ずれ調整装置
JP2003016429A (ja) * 2001-06-28 2003-01-17 Honda Motor Co Ltd 車両周辺監視装置
US7366325B2 (en) * 2003-10-09 2008-04-29 Honda Motor Co., Ltd. Moving object detection using low illumination depth capable computer vision

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004303219A (ja) * 2003-03-20 2004-10-28 Honda Motor Co Ltd 車両周辺監視装置
JP2005234694A (ja) * 2004-02-17 2005-09-02 Fuji Heavy Ind Ltd 車外監視装置
US7436982B2 (en) 2004-06-14 2008-10-14 Honda Motor Co., Ltd. Vehicle surroundings monitoring apparatus
JP2005352974A (ja) * 2004-06-14 2005-12-22 Honda Motor Co Ltd 車両周辺監視装置
JP2006039641A (ja) * 2004-07-22 2006-02-09 Denso Corp 車両周辺監視システム
US7672481B2 (en) 2004-11-30 2010-03-02 Honda Motor Co., Ltd. Image information processing system, image information processing method, image information processing program, and automobile
US7599546B2 (en) 2004-11-30 2009-10-06 Honda Motor Co., Ltd. Image information processing system, image information processing method, image information processing program, and automobile
JP4530827B2 (ja) * 2004-12-08 2010-08-25 ダイハツ工業株式会社 画像処理方法及び画像処理装置
JP2006163879A (ja) * 2004-12-08 2006-06-22 Daihatsu Motor Co Ltd 画像処理方法及び画像処理装置
JP2007174113A (ja) * 2005-12-20 2007-07-05 Sumitomo Electric Ind Ltd 障害物検出システム及び障害物検出方法
JP2009530695A (ja) * 2006-03-17 2009-08-27 ダイムラー・アクチェンゲゼルシャフト 画像データにおいて重要対象物を識別するための仮想スポットライト
JP2008022454A (ja) * 2006-07-14 2008-01-31 Sumitomo Electric Ind Ltd 障害物検出システム及び障害物検出方法
JP2009037476A (ja) * 2007-08-02 2009-02-19 Honda Motor Co Ltd 車両周辺監視装置、車両周辺監視方法、及び車両周辺監視用プログラム
JP2011119917A (ja) * 2009-12-02 2011-06-16 Denso Corp 車両用表示装置
KR20120121744A (ko) * 2011-04-27 2012-11-06 삼성테크윈 주식회사 객체 정보 산출 방법 및 장치
KR101726682B1 (ko) * 2011-04-27 2017-04-13 한화테크윈 주식회사 객체 정보 산출 방법 및 장치
JP2014137689A (ja) * 2013-01-16 2014-07-28 Toyota Motor Corp 対象物検出装置及び対象物検出方法、警報装置及び警報方法、運転支援装置及び運転支援方法
US10482320B2 (en) 2015-07-08 2019-11-19 Lg Innotek Co., Ltd. Device and method for providing moving body information for a vehicle, and recording medium, on which a program for executing the method is recorded

Also Published As

Publication number Publication date
US7141796B2 (en) 2006-11-28
JP3764086B2 (ja) 2006-04-05
GB2383222A (en) 2003-06-18
US20030083790A1 (en) 2003-05-01
GB0223887D0 (en) 2002-11-20
DE10247371A1 (de) 2003-07-24
GB2383222B (en) 2003-12-31
DE10247371B4 (de) 2007-11-22

Similar Documents

Publication Publication Date Title
JP2003134508A (ja) 車両用情報提供装置
JP3515926B2 (ja) 車両の周辺監視装置
JP4410292B1 (ja) 車両の周辺監視装置
JP4615139B2 (ja) 車両の周辺監視装置
JP5706874B2 (ja) 車両の周辺監視装置
JP4203512B2 (ja) 車両周辺監視装置
JP3934119B2 (ja) 車両周辺監視装置
JP4456086B2 (ja) 車両周辺監視装置
JP5503728B2 (ja) 車両の周辺監視装置
US20060115115A1 (en) Vehicle surroundings monitoring apparatus
JP2003150938A (ja) 画像認識装置
US20030007074A1 (en) Vehicle zone monitoring apparatus
US20060115119A1 (en) Vehicle surroundings monitoring apparatus
JP2003216949A (ja) 赤外線画像処理装置
JP4528283B2 (ja) 車両周辺監視装置
JP2003216937A (ja) ナイトビジョンシステム
JP4425852B2 (ja) 車両周辺監視装置
JP3919975B2 (ja) 車両の周辺監視装置
JP3916930B2 (ja) 進入警報装置
JP3949628B2 (ja) 車両の周辺監視装置
JP4567072B2 (ja) 車両周辺監視装置
JP4943403B2 (ja) 車両の周辺監視装置
JP3961269B2 (ja) 障害物警報装置
JP2004362265A (ja) 赤外線画像認識装置
JP4975776B2 (ja) 車両周辺監視装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060118

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100127

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100127

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110127

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110127

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120127

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120127

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130127

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130127

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140127

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees