JP3857698B2 - 走行環境認識装置 - Google Patents

走行環境認識装置 Download PDF

Info

Publication number
JP3857698B2
JP3857698B2 JP2004111233A JP2004111233A JP3857698B2 JP 3857698 B2 JP3857698 B2 JP 3857698B2 JP 2004111233 A JP2004111233 A JP 2004111233A JP 2004111233 A JP2004111233 A JP 2004111233A JP 3857698 B2 JP3857698 B2 JP 3857698B2
Authority
JP
Japan
Prior art keywords
vehicle
white line
image
information
intersection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2004111233A
Other languages
English (en)
Other versions
JP2004265432A (ja
Inventor
寛 武長
浩司 黒田
倉垣  智
光男 萱野
徳治 吉川
裕人 森實
和朗 高野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2004111233A priority Critical patent/JP3857698B2/ja
Publication of JP2004265432A publication Critical patent/JP2004265432A/ja
Application granted granted Critical
Publication of JP3857698B2 publication Critical patent/JP3857698B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Description

本発明は、自動車などの車両に搭載され、自車両が走行する道路の環境を認識する装置に係り、特に画像処理により走行環境を認識する装置に関する。
自動車の性能が向上するにつれ、走行レーンや、他の車両など、自車両が走行する周囲の環境を認識して、事故が発生しそうな状況を検出し、ドライバーに警報を出して危険回避操作を促したり、或いは積極的に車を自動制御して事故を未然に防止するという予防安全機能の付与が重要になってきている。
更に、このとき、ドライバーに警告を与えるだけでなく、積極的に車両を制御し、例えば車間距離を一定に制御して走行する自動クルーズや、更には自動運転等のシステムに対する関心が大きく高まってきているが、このような予防安全、自動クルーズ走行、更には自動運転を達成するためには、自車両の走行環境を高速で認識する必要がある。
そこで、TVカメラなどの撮像装置を用い、車両の前方を中心とする画像情報を処理することより、走行レーンや他車両などを抽出し、車両の走行環境を認識する技術が、従来から用いられていた。
上記従来技術は、画像情報から走行レーンや他車両などを抽出するのに必要な画像信号処理が膨大になる点についての配慮がされておらず、必要とする応答性に対して信号処理能力の大幅な増強を要するという問題があった。
すなわち、画像情報による車両の走行環境の認識には、画像情報の中から認識すべき対象を探索して切り出す必要があるが、従来技術では、撮像装置から得た複雑な画像情報からそのまま切り出し処理を実行しているため、その信号処理に膨大な計算量が必要になり、この結果、要求される応答性の維持に、大幅な信号処理能力の増強を伴ってしまうのである。
特に、近年、走行環境があまり変化しない自動車専用道路(高速道路)だけでなく、一般道路をも対象とする点についての要望が高まっているが、この要望を満たすためには、信号機、交差点内の右左折車、歩行者等も認識する必要があり、更に複雑な画像が対象となる。
そうすると、このように更に複雑な画像から、走行レーンや前方車両の他に、信号機等の対象物を切り出すためには、従来技術では、より膨大な計算量を要することになり、上記の問題は、より一層、深刻なものになってしまう。
本発明の目的は、計算量の増加を抑えながら、充分な応答性の維持が得られるようにした走行環境認識装置を提供することにある。
上記目的は、車両に搭載したレーダから得た車両前方の前方車両や静止物までの距離、方位、更にはGPS装置から得た車両位置に対応付けた道路地図から車両前方の交差点情報を用い、これにより撮像装置から得られる画像内での走行レーン、前方車両、静止物、信号機、横断歩道等の位置を推定して走行環境を認識するようにして達成される。
撮像装置は車両の走行方向の画像を撮影する。
画像処理装置は撮像装置から得られる画像内で、走行レーン、前方車両、静止物、信号機、横断歩道等の位置を推定して車両周囲の走行環境を認識する。
レーダは電波やレーザ光を発射し、反射信号を処理して、車両前方の前方車両や静止物までの距離、方位を計測する。
道路地図装置は、GPS装置から得た車両位置を道路地図上に対応付け、車両前方での交差点の有無、交差点までの距離情報を画像処理装置に出力する。
本発明によれば、複雑な走行環境においても、応答性良く自車両の周囲状況を認識することができ、この結果、安全性の向上と、自動車の自動運転化を大いに図ることができる。
以下、本発明による走行環境認識装置について、図示の一実施形態により詳細に説明する。
図1は本発明の一実施形態例で、1は画像処理装置、2は撮像装置、3はレーダ、4は道路地図装置、5はGPSアンテナ、6は表示装置である。
そして、これらは、例えば図2に示すように、車両100に設置されて用いられる。従って、以下、この車両100を自車両100と記す。
この図2で、自車両100は、例えば自動車で、図2(a)は自車両100の側面から見た状態で、図2(b)は自車両100を上面から見た状態である。
画像処理装置1は、マイクロコンピュータを備え、所定のプログラムを搭載していて、撮像装置2、レーダ3、道路地図装置4などから所定の各種の信号の供給をうけ、後述する各種の画像信号処理を実行する。
撮像装置2は、自車両100の前方の所定範囲を撮像視野とするテレビジョンカメラなどで構成されており、自車両100が走行中の画像信号を画像処理装置1に供給する働きをする。
レーダ3は、電波又はレーザ光(以下、電波等という)を用いて、自車両100の前方にある物体までの距離と方位を測定し、測定結果を画像処理装置1に供給する働きをするが、このとき、後述する座標変換を簡単化するため、図2(b)から明らかなように、方位がゼロのときレーダ3から発射される電波等の放射軸、すなわち検出軸が撮像装置2の撮像光軸と同一の軸Zに合わせて設置してある。
なお、撮像装置2とレーダ3については、必ずしもこのように設置する必要はなく、ドライバーの視点から見た画像を必要とする場合は撮像装置を運転席側に設置すればよい。
また、運転席と反対側に設置すれば、ドライバーから見えない部分も含んだ画像を得ることができる。
道路地図装置4は、GPSアンテナ5と共にカーナビゲーション装置として周知の人工衛星電波による車両位置検出装置を構成し、自車両100の位置を逐次検出し、その位置の検出結果と、その位置に対応した道路地図の画像情報を記憶装置の中から選択し、その道路地図の表示に必要な画像信号とを画像処理装置1に供給する働きをする。
表示装置6は、カラー液晶表示素子などの画像モニタで構成され、画像処理装置1から供給される画像情報をカラー画像として表示させ、ドライバーに認識させる働きをする。
次に、これら図1、図2に示した走行環境認識装置を用い、走行する車両の周囲環境を認識する方法について、以下に説明する。
まず、本発明の実施形態では、例えば図3に示すように、前方に右カーブがある高速道路上において、自車両100の前方に、先行(前方)車両101、102が存在していて、共に走行している場合を想定する。ここで、走行レーンは路面に描かれている白線で規定されているものとする。
そして、この図3で、r1、r2は、自車両100に搭載されているレーダ3で計測した、先行車両101と102のP1点及びP2点までの距離で、θ1、θ2は、Z軸を基準としたP1点及びP2点までの角度、つまり方位を表わしている。
この図3の状況を、自車両100に登載した撮像装置2で撮影すると、図4に示すような画像が得られる。
この図4の画像では、走行レーンの白線の一部が、先行車両102によって隠されているため、この隠されている部分に対しては、白線を認識する処理が行われないようにする必要があり、このためには、まず先行車両102を抽出する必要がある。
しかしながら、図4には示されていないが、道路の周囲は一般的に複雑な背景画像になっている上、車両の影も存在するため、これらを排除しながら画像の中から車両を抽出しなければならない。
従って、これが、従来技術で処理時間を多く必要としていた理由である。
しかして、これが、この実施形態によれば、レーダ3からの信号を使うことにより簡単に解決できる。すなわち、レーダ3によれば、上記したように、先行車両までの距離と方向を計測することができ、これらの距離と方位を用いることにより、上記の問題が解決できるのである。
そして、このように、先行車両の距離と方向が判れば、これと、撮像装置2で撮影した画像との対応付けは、画像処理装置1による座標変換で容易に得ることができる。
但し、このとき、レーダでは、先行車両だけでなく、電波等を反射する物体の全てを検知してしまう。
そこで、画像処理装置1は、レーダ3で検出した距離の変化を計算し、検出されている物体と自車両の相対速度を測定し、これにより、例えば自車両と同じ速度で接近してくる物体は静止物で、さらに早い速度で接近してくる物体は対向車両であるなどの判断を行うことができ、この結果、相対速度が所定値以下のものだけを選定することにより、先行している車両だけの情報を抽出するようになっている。
次に、画像処理装置1による座標変換について説明する。
まず、この実施形態では、撮像装置2で撮像した先行車両の画像と、レーダ3で測定された距離と方位との対応付けのため、次の2段のステップを用いる。
・・撮像装置2の俯角や焦点距離を考慮して、先行車両101及び
102を画像面上にマップするステップ。
・・レーダ3で測定された先行車両101及び102までの距離と
方向を、撮像装置2のレンズからの距離と方向に変換して表示す
るステップ。
この実施形態では、先行車両101及び102を画像面上に表示するために、レーダ3を原点とする座標系(レーダ座標系という)と、撮像装置2のレンズを原点とする座標系(ワールド座標系という)との間の座標変換と、さらにワールド座標系と画像面上に設定された座標系(画像座標系という)との間の座標変換とを用いる。
また、距離と方向の変換には、ワールド座標系における先行車両の座標を利用する。
以下、これらについて、
A.ワールド座標系、画像座標系、レーダ座標系の定義
B.レーダ座標系の先行車両の画像座標系へ変換方法
の順で説明する。
A.ワールド座標系、画像座標系、レーダ座標系の定義について
<ワールド座標系>
ワールド座標系(X,Y,Z)は、車両に固定された座標系で、レンズの中心から進行方向をZ軸とする右手座標系であり、従って、原点0(0,0,0)は、レンズの中心点となる。
<画像座標系>
画像座標系(x,y)のx軸は、図5に示すように、ワールド座標系のX軸に平行で逆方向、y軸はY軸と逆方向で、撮像装置2のレンズの光軸の上下方向の傾き角φだけ傾いている。
従って、撮像装置2レンズの焦点距離をFとすると、画像座標系の原点は、ワールド座標系の(0,Fsinφ,−Fcosφ)になる。
そして、ワールド座標系の点P(X,Y,Z)と、点Pが画像上に透視されたときの画像座標系の点q(x,y)との関係は、次の(1)式で表される。
x=−FX/(Zcosφ−Ysinφ)
y=−F(Ycosφ−Zsinφ)/(Zcosφ−Ysinφ)
…… ……(1)
<レーダ座標系>
レーダ座標系(r,θ)は、図6に示すように、レーダ3を原点とする極座標系で、θはワールド座標系のZ軸から反時計回りとする。
いま、レーダ座標系の原点のワールド座標系に対する座標を(0,Yd ,Zd )とすると、レーダ座標系の点P(r,θ)と、この点をワールド座標系から見た点P(X,Y,Z)との関係は、次の(2)式で表される。
X=−rsinθ
Y=Yd
Z=Zd +rcosθ
…… ……(2)
B.レーダ座標系の先行車両の画像座標系へ変換方法について
図6に示すように、レーダ3により、距離r、方向θと測定された先行車両Pに対する画像座標系での座標について説明する。
まず、レーダ3のワールド座標系における座標を(0,Yd ,Zd )とする。
一方、先行車両Pのワールド座標系での座標(X,Y,Z)は、上記の(2)式で表されるので、この座標(X,Y,Z)の画像座標系上での座標は、上記(1)式を用いて、次の(3)式で表される。
x=−Frsinθ/〔(Zd +rcosθ)cosφ−Yd sinφ〕
y=−F〔Yd cosφ−(Zd +rcosθ)sinφ〕/
〔(Zd +rcosθ)cosφ−Yd sinφ〕
…… ……(3)
この(3)式を用いることにより、図7に示すように、レーダ3で計測した先行車両101及び102等の位置を、表示装置6に表示された画像上で対応付けることができる。
そして、この図7のようにして先行車両101、102の位置P1、P2が決定されたら、次に画像処理装置1により、以下のようにして、車両が存在する領域を推定する。
まず、車両の画像には水平方向に類似した画素成分が多く含まれるという知識を用い、例えば、点P1からx軸に沿って、画像の輝度、或いは色を調べ、点P1の輝度、或いは色に近い画素をまとめていくことにより、車両領域21の水平幅を計測することができる。
この水平幅と距離から車両の車種(大型、中型、小型)が判別でき、さらに車種から車両の高さ、すなわち車両領域21の垂直幅が推定できるので、結局、図7に示すように、先行車両101が存在する車両領域21の全体を推定することができるのである。
これと同様の処理を点P2について行えば、同じく図7に示すように、先行車両102が存在する車両領域22も推定することができる。
このようにして車両領域が推定されたら、その領域を避けて走行レーンを認識すればよい。
この実施形態では、走行レーンの認識に、路面に描かれている白線を利用するようになっており、画像処理装置1は、この白線の認識を、以下のようにして行うように構成されている。
すなわち、図8に示すように、白線の初期モデルを作成するインバータ11を決定し、領域11内で白線の初期モデルを作成し、次いで、実際の白線の画像上に合うように初期モデルを変形させるのである。
まず領域11を次のようにして決定する。
領域11のy軸方向の長さは、画面下から車両領域22の下端までとし、x軸方向の長さは、画面左端から車両領域21の左端までとする。
このようにすれば、前方を走行する車両に邪魔されることなく、白線の初期モデルが作成できる。
次に、白線の初期モデルを作成する。
最初に、図8の画像全体に対して画像の水平方向の明るさの変化を強調するための水平微分処理を行う。
そして、領域11に、x軸に平行な複数の線分12−1〜12−nを設定し、これらの線分に沿って順次画素の輝度レベルを調べ、最初に到達した所定輝度変化レベル以上の輝度を持つ画素位置を第1の白線のエッジとし、次に到達した所定輝度変化レベル以上の輝度を持つ画素位置を第2の白線のエッジとする。
次いで、これら第1と第2の白線のエッジ位置に基づいて、直線近似により白線のモデルを2本作成し、これら2本の直線の延長線が交差する点を、道路の消失点とする。
しかしながら、このようにして作成した白線の初期モデルは、領域11内に限定されており、且つ線分12−1〜12−nのように代表線で検出した白線エッジを用いているだけなので、領域11内の白線を正確に求めている訳ではないことと、領域11の外で白線がどのように変化しているのかは判らない。
そこで、最後に、実際の画像の白線上に合うように、初期モデルを変形させる白線適合化処理を実行する。
そこで、図8に示すように、最初、線分12−1で検出した白線のエッジの位置を中心として所定サイズの白線追跡領域13を設定する。
そして、この白線追跡領域13を白線モデルに沿って移動させ、白線追跡領域13内の白線のエッジの傾きに適合するように白線モデルを変化させる。
このときの傾きの適合方法としては、例えば白線追跡領域13内に白線の初期モデルを作成したときと同様な複数の線分を設定し、これらの線分に沿って白線のエッジ位置を求め、このエッジ位置から傾きを求めてやればよい。
次に、この白線追跡領域13内で求めた傾きを用いて白線の初期モデルを再び作成する。
そして、この再度作成したモデルに沿って白線追跡領域13を消失点の方向に向かって移動させ、そこで白線追跡領域13の白線の傾きを求めてモデルを変更する。
この操作を、以下、白線追跡領域13内に消失点が含まれるようになるまで繰り返す。
ここで、白線追跡領域13を移動させていったとき、車両領域にぶつかった場合(図8では、車両領域22にぶつかる)には、この車両によって白線が隠されている可能性がある。
そこで、今までは第1の白線エッジに着目して移動させていた白線追跡領域13を、右側の白線モデルに着目した白線に沿って移動させ、白線モデルの適合処理を続けるのである。
ところで、道路が直線の場合は、消失点は移動しないが、図8のようにカーブがある場合は白線適合処理により消失点が移動する。
そこで、消失点が検出される毎に、前回の位置と比較して移動量を求め、それが所定値を越えたとき、前方にカーブがあると判断し、さらに、図8のように、その移動方向がx軸方向のときには右カーブ、ーx軸方向なら左カーブと判断するのである。
こうして、カーブ有りと判断されたら、画像処理装置1は、表示装置6に所定の信号を供給し、図8に示すように、その表示画面のメッセージ領域30に、判断結果を文章として表示させ、ドライバーの注意が喚起されるようにし、安全速度の順守と的確な操舵が得られるようにする。
また、このとき、画像処理装置1は、信号線7にも所定の信号を出力し、これにより自車両100の速度制御、操舵制御などに用いられるようにする。
さらに、この白線モデル適合処理により逐次認識した走行レーンの中に、レーダ3で計測した静止物が存在していた場合には、前述した車両の対応付けと同様の手法で、この静止物の画像上での位置を求め、例えばその位置を囲む枠に所定の色を付けるなどの方法により、静止物の存在を強調して画像上に表示させ、ドライバーに注意を喚起させるようにする。
従って、この実施形態によれば、予め設定されている車両領域により、先行車両の影響が除かれているので、膨大な計算量を要することなく、走行レーンの認識を行うことができる。
ところで、以上の説明は、自動車専用道路など、道路環境が比較的良い場合の動作であり、従って、処理もそれほど複雑にはならない。
しかして、車間距離制御による自動クルーズ装置や自動運転装置は、自動車専用道路での利用に限らず、一般道路でも利用できれば、更に望ましい。
しかし、一般道路は、自動車専用道路とは異なり、道路環境が非常に複雑になる。そして、その代表が交差点付近の道路環境である。
図9は、交差点を含んだ一般道路の概要を示したもので、自車両100の進行方向には、自車両と同一方向に進行する車両103が存在するだけでなく、交差点内で右折を待つ車両104や、横断歩道106−1〜106−4を歩行している人(歩行者)、信号機105等が存在する。
従って、交差点付近では、先行車両に追従していくとき、先行車両103が信号機が黄色から赤に変わる直前に交差点を渡った場合、そのまま前歩車両103に追従すると事故を引き起こすことになる。
また、自車両100と先行車両103の間を歩行者や右折車両104が横切る虞れもあり、その場合は危険回避措置をしなければならない。
従って、どのような状況にも対応できる走行環境認識を実現する必要がある。
そのためには、まず自車両100が交差点付近にいるかどうかを判断する必要があるが、この実施形態では、図1に示されている道路地図装置4を利用する。
道路地図装置4は、道路地図が記憶されたCD−ROM、ハードディスクなどを備えている。
そして、この実施形態での道路地図装置4に記憶されている道路地図は、図10に示す実際の道路の外、これ対応して、図11に示すように、ノード(道路と道路が交差する点、すなわち交差点)に関係する情報と、リンク(ノードとノードを接続する道路)に関係する情報とからなるテーブル状のデータベースとで構成されている。ここで、白抜き丸印〇がノードで、リンクは線で示されており、数字は、それぞれの番号である。
なお、道路地図には、道路以外にも、建物や公園などの施設、鉄道、水系などの位置や、名称データ等もあり、カーナビゲーション用としては、これらも道路地図装置4に記憶しておく必要があるが、本発明には関連しないので、ここでは省略する。
図11に示すように、このデータベースは、ノードテーブルとリンクテーブルがあり、まずノードテーブルは、ノードの番号、座標、そのノードから流出するリンク数及びそれらのリンク番号を含み、次に、リンクテーブルは、リンクの番号、リンクを構成する始点ノードと終点ノード、リンク長を含んでいる。
このとき、ノード番号は、互いに重なりがないように決められ、リンク番号も同様である。
次に、図11のテーブルと実際の道路地図との対応を、図10の道路地図を例に説明すると、図11のノードテーブル中のノードの番号15と34は、それぞれの座標値から、図10の〇印で示したノードであることが判る。
そして、番号15のノードから流出するリンク数は4本あり、それらはリンク番号20、21、19、30であることも判る。
また、リンクテーブルのリンク番号21を見れば、これは、ノード15からノード34に向かう道路であることが判り、従って、この道路が一方通行でなければ、ノード34からノード15に向う道路が存在し、リンクテーブルを見れば、この道路には、リンク番号55が付けられているのが判る。
なお、この図11に示したデータベースは、基本的な構成であり、このデータの他にも、ノードに隣接するノード、右折の可否、リンクの幅員等の情報を付加しても良い。
図1に示すように、この道路地図装置4にはGPSアンテナ5が設けてあり、これにより、周知のカーナビゲーション装置と同様に、自車両100の位置に応じて、対応する道路地図を表示装置6に表示し、この表示された道路地図上に、図10に示すように、自車両100を表す□印を表示してゆくように構成されている。
そこで、いま、図示のように、自車両100がノード34に向かって走行しているとする。
そうすると、自車両100の位置、ノード34の位置及び自車両100の速度から、ノード34に到着するまでの時間を計算することができる。なお、このため図示してないが、この道路地図装置4には、自車両に備えられている速度センサから、走行速度が入力されている。
こうして、予め設定してある所定時間で、自車両100がノード34に到着できることが判ると、ここで道路地図装置4は、交差点到着信号と交差点までの距離を画像処理装置1に出力する。
画像処理装置1は、この交差点到着信号と交差点までの距離を受け取ると、撮像装置2で撮影した画像を基にして、上記した白線認識処理に加えて、さらに信号機認識、右折車両認識、歩行者認識等の追加認識処理を実行する。
そこで、これらの追加認識処理について、図12により説明する。
信号機認識処理では、交差点までの距離と、予め設定してある信号機の高さの知識から、上記した先行車両と画像との対応付けで行ったと同じ手法により、信号機が存在すると推定される領域、すなわち、信号機領域110を決定し、その内部の色情報から信号状態を認識する。
そして、黄色又は赤色が認識されたときは、追従走行を停止するような信号を図1の信号線7を介して出力したり、画像上に認識結果をメッセージ等で表示するのである。
次に、右折車両認識処理、つまり右折待ちで静止している右折車両の認識処理は、レーダ3で計測した静止物の位置情報から、白線認識で決定してきた白線モデルのうちの右側の白線モデルに近接している静止物を選択することにより、右折車両104と判断するのである。
そして、必要に応じて減速信号を信号線7から出力し、車両の制御に適用するのである。
また、歩行者認識処理は、白線モデルと、交差点までの距離情報を用いて横断歩道が存在すると推定される領域、すなわち、歩行者領域120−1及び120−2を推定し、撮像装置2で撮像した画像の対応する領域に対して、公知の移動体識別技術を適用し、歩行者を認識するのである。
ここで、この移動体識別技術の公知例としては、例えば、下記の文献の記載を挙ることができる。
1990年電子情報通信学会春季全国大会、
阿居院 猛等 「動画像を用いた移動人物の抽出」 pp.7-383〜7-384
従って、この実施形態によれば、一般道路でも充分正確に走行環境を識別することができ、安全運転の確保と自動運転実現に大きく貢献することができる。
本発明による走行環境認識装置の一実施形態を示すブロック図である。 本発明による走行環境認識装置の実施形態における各装置の設置図である。 本発明が対象とする車両の高速道路走路における位置の一例を示す説明図である。 本発明の一実施形態による撮像画像例を示す説明図である。 本発明の一実施形態におけるワールド座標系と画像座標系の説明図である。 本発明の一実施形態におけるワールド座標系とレーダ座標系の説明図である。 本発明の一実施形態による先行車両領域推定処理の説明図である。 本発明の一実施形態による白線認識推定及び白線追跡処理の説明図である。 車両の一般道路走路における位置の説明図である。 本発明の一実施形態における道路地図の一例を示す説明図である。 本発明の一実施形態における道路地図データベースの説明図である。 本発明の一実施形態を一般道路に適用した場合の説明図である。
符号の説明
1:画像処理装置
2:撮像装置
3:レーダ
4:道路地図装置
5:GPSアンテナ
6:表示装置
100 :車両
21、22:前方車の車両領域
11:白線認識領域
13:白線追跡領域
30:メッセージ領域
110:信号機領域
120−1、120−2:歩行者

Claims (15)

  1. 自車両の走行方向を撮像視野とする撮像手段と、
    車両外部から取得される車両位置情報を道路地図情報に対応付ける道路地図手段と、
    前記道路地図手段から自車両走行前方の交差点との距離及び当該交差点に設置された信号機の高さの情報を受け取り、当該距離及び高さの情報に基づいて、前記撮像手段から得られた画像内で信号機が撮像されている信号機領域を推定し、当該信号機領域内の画像に基づいて信号機の状態を認識する画像処理手段とを備えた走行環境認識装置。
  2. 請求項1において、
    自車速を検知する車速センサを備え、
    前記画像処理手段は、前記交差点との距離情報と前記自車速とに基づいて、自車両が所定時間内に当該交差点に到達するか否かを判定し、前記自車両が所定時間内に当該交差点に到達すると判定された場合に、前記信号機の状態の認識を行うことを特徴とする走行環境認識装置。
  3. 請求項1又は2において、
    前記画像処理手段は、前記信号機領域内の色情報に基づいて信号機の状態を認識することを特徴とする走行環境認識装置。
  4. 請求項1から3のいずれか一項において、
    信号機が黄色又は赤色を表示していると認識した場合は、追従走行を停止する信号を出力することを特徴とする走行環境認識装置。
  5. 請求項1から3のいずれか一項において、
    信号機が黄色又は赤色を表示していると認識した場合は、運転者に画像情報を表示する表示装置に対して、当該認識結果を出力することを特徴とする走行環境認識装置。
  6. 自車両の走行方向を撮像視野とする撮像手段と、
    前記撮像手段で撮像した画像情報に基づいて、道路上の車線の認識を行う画像処理手段と、
    車両外部から取得される車両位置情報を道路地図情報に対応付ける道路地図手段と、
    前記道路地図手段から自車両走行前方の交差点との距離の情報を受け取り、当該距離情報と、前記認識した道路上の車線とに基づいて、前記撮像手段から得られた画像内で横断歩道が撮像されている歩行者領域を推定し、当該歩行者領域内の画像に基づいて歩行者の認識を行なう画像処理手段とを備えた走行環境認識装置。
  7. 請求項6において、
    自車速を検知する車速センサを備え、
    前記画像処理手段は、前記交差点との距離情報と前記自車速とに基づいて、自車両が所定時間内に当該交差点に到達するか否かを判定し、前記自車両が所定時間内に当該交差点に到達すると判定された場合に、前記歩行者の認識を行うことを特徴とする走行環境認識装置。
  8. 自車両の走行方向を撮像視野とする撮像手段と、
    自車両の走行方向を検出範囲とするレーダと、
    自車速を検知する車速センサと、
    前記撮像手段で撮像した画像情報に基づいて、道路上の車線の認識を行う画像処理手段と、
    車両外部から取得される車両位置情報を道路地図情報に対応付ける道路地図手段とを備え、
    前記道路地図手段から自車両走行前方の交差点との距離の情報を受け取り、
    前記交差点との距離情報と前記自車速とに基づいて、自車両が所定時間内に当該交差点に到達するか否かを判定し、
    前記自車両が所定時間内に当該交差点に到達すると判定された場合において、前記レーダで検知された物体が前記画像処理手段により検出された自車線の右側の線に近接しているときは、当該物体を右折車であると判断することを特徴とする走行環境認識装置。
  9. 請求項6から8のいずれか一項において、
    前記画像処理手段は、
    前記画像情報による画面の中央に垂直線分を設定し、該垂直線分から水平方向に画素の輝度の変化を調べることにより、路面に描かれている白線のエッジを検出し、そのエッジの位置座標を用いて白線のモデルを作成するように構成されていることを特徴とする走行環境認識装置。
  10. 請求項9において、
    前記画像処理手段は、
    作成した白線のモデルに沿って小さな白線追跡領域を移動させ、前記白線追跡領域内の白線のエッジの傾きに適合するように白線モデルを変化させるように構成されていることを特徴とする走行環境認識装置。
  11. 請求項9又は請求項10において、
    前記画像処理手段は、
    前記白線追跡領域内の白線のエッジの傾きに適合するように白線モデルを変化させる際に、前記白線追跡領域が車両領域にぶつかった場合、前記白線追跡領域を対となる隣の白線モデルに移動して白線モデルの適合処理を続けるように構成されていることを特徴とする走行環境認識装置。
  12. 請求項8において、
    前記撮像手段の撮像光軸と前記レーダの検出軸が同一軸上に設置されていることを特徴とする走行環境認識装置。
  13. 請求項1から12の何れか一項において、
    前記撮像手段が車両の運転席側に設置され、
    運転者の視点方向の画像を撮像するように構成されていることを特徴とする走行環境認識装置。
  14. 請求項1から12の何れか一項において、
    前記撮像手段が車両の運転席と反対側に設置され、
    運転者から見えない部分も含んだ画像を撮像するように構成されていることを特徴とする走行環境認識装置。
  15. 請求項1から12の何れか一項において、
    前記道路地図手段は、GPSから車両位置情報を受信することを特徴とする走行環境認識装置。
JP2004111233A 2004-04-05 2004-04-05 走行環境認識装置 Expired - Lifetime JP3857698B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004111233A JP3857698B2 (ja) 2004-04-05 2004-04-05 走行環境認識装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004111233A JP3857698B2 (ja) 2004-04-05 2004-04-05 走行環境認識装置

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP33972496A Division JP3619628B2 (ja) 1996-12-19 1996-12-19 走行環境認識装置

Publications (2)

Publication Number Publication Date
JP2004265432A JP2004265432A (ja) 2004-09-24
JP3857698B2 true JP3857698B2 (ja) 2006-12-13

Family

ID=33128455

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004111233A Expired - Lifetime JP3857698B2 (ja) 2004-04-05 2004-04-05 走行環境認識装置

Country Status (1)

Country Link
JP (1) JP3857698B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014162797A1 (ja) 2013-04-04 2014-10-09 日産自動車株式会社 信号認識装置
KR101498114B1 (ko) * 2013-11-28 2015-03-05 현대모비스 주식회사 보행자를 검출하는 영상 처리 장치 및 그 방법
US10150415B2 (en) 2014-08-25 2018-12-11 Hyundai Motor Company Method and apparatus for detecting a pedestrian by a vehicle during night driving

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100819047B1 (ko) * 2006-11-27 2008-04-02 한국전자통신연구원 교차로 중심선 예측 장치 및 방법
JP5194816B2 (ja) * 2008-01-16 2013-05-08 日産自動車株式会社 車両用情報表示装置及び情報表示方法
JP2009186353A (ja) * 2008-02-07 2009-08-20 Fujitsu Ten Ltd 物体検出装置および物体検出方法
JP4892518B2 (ja) * 2008-05-20 2012-03-07 日立オートモティブシステムズ株式会社 車両用外界認識装置、および、車両システム
JP5351591B2 (ja) * 2009-04-07 2013-11-27 日本放送協会 距離計測装置、合成画像生成装置及び距離計測プログラム
JP5879877B2 (ja) * 2011-09-28 2016-03-08 沖電気工業株式会社 画像処理装置、画像処理方法、プログラム、および画像処理システム
KR101949765B1 (ko) * 2012-05-04 2019-04-25 엘지이노텍 주식회사 번호판 인식을 이용한 차량 위치 정보 인식 장치 및 방법
KR20130123873A (ko) * 2012-05-04 2013-11-13 엘지이노텍 주식회사 주변 차량 위치 인식 방법 및 장치
JP6302205B2 (ja) * 2013-10-07 2018-03-28 矢崎エナジーシステム株式会社 車載器
CN104918019A (zh) * 2015-06-16 2015-09-16 武汉烽火众智数字技术有限责任公司 一种能全天候同时看清车牌和车内人员的双目摄像机
WO2018218640A1 (en) * 2017-06-02 2018-12-06 SZ DJI Technology Co., Ltd. Systems and methods for multi-target tracking and autofocusing based on deep machine learning and laser radar
KR102267262B1 (ko) * 2017-08-10 2021-06-22 현대자동차주식회사 자율주행차량의 신호등 인식을 위한 능동 제어 방법 및 장치
CN108762269A (zh) * 2018-05-31 2018-11-06 郑州思达科锐网络科技有限公司 一种无人驾驶汽车左转向控制方法及装置
KR102010766B1 (ko) * 2019-02-13 2019-08-14 엘지이노텍 주식회사 번호판 인식을 이용한 차량 위치 정보 인식 장치 및 방법
JP6811497B1 (ja) * 2019-12-24 2021-01-13 山内 和博 自動運転車

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014162797A1 (ja) 2013-04-04 2014-10-09 日産自動車株式会社 信号認識装置
US9389093B2 (en) 2013-04-04 2016-07-12 Nissan Motor Co., Ltd. Traffic signal recognition apparatus
KR101498114B1 (ko) * 2013-11-28 2015-03-05 현대모비스 주식회사 보행자를 검출하는 영상 처리 장치 및 그 방법
US10150415B2 (en) 2014-08-25 2018-12-11 Hyundai Motor Company Method and apparatus for detecting a pedestrian by a vehicle during night driving
US10391937B2 (en) 2014-08-25 2019-08-27 Hyundai Motor Company Method and apparatus for detecting a pedestrian by a vehicle during night driving

Also Published As

Publication number Publication date
JP2004265432A (ja) 2004-09-24

Similar Documents

Publication Publication Date Title
JP3619628B2 (ja) 走行環境認識装置
US11155249B2 (en) Systems and methods for causing a vehicle response based on traffic light detection
US11402851B2 (en) Systems and methods for detecting low-height objects in a roadway
CN108572663B (zh) 目标跟踪
JP3857698B2 (ja) 走行環境認識装置
US11327485B2 (en) Control device for vehicle, and vehicle
JP7052786B2 (ja) 表示制御装置および表示制御プログラム
US8094192B2 (en) Driving support method and driving support apparatus
US11182628B2 (en) Automatically perceiving travel signals
US9126533B2 (en) Driving support method and driving support device
CN103874931B (zh) 用于求取车辆的环境中的对象的位置的方法和设备
US20220122462A1 (en) Vehicle control device
US10650256B2 (en) Automatically perceiving travel signals
US20150293534A1 (en) Vehicle control system and method
CN106324618B (zh) 实现基于激光雷达检测车道线系统的方法
US20180299893A1 (en) Automatically perceiving travel signals
JP2024023319A (ja) 緊急車両の検出
US20210070288A1 (en) Driving assistance device
Amaradi et al. Lane following and obstacle detection techniques in autonomous driving vehicles
US20230054145A1 (en) Methods and systems for monitoring vehicle motion with driver safety alerts
US20180300566A1 (en) Automatically perceiving travel signals
CN112562061A (zh) 一种基于激光雷达图像的驾驶视觉增强的系统及方法
EP2676845A1 (en) A method and system for dynamically adjusting a vehicle mirror
US11623654B2 (en) Systems and methods of assisting vehicle navigation
CN115991207A (zh) 驾驶应用中真标志和图像标志检测的识别

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20051107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060214

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060417

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060523

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060724

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060914

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090922

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 4

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 4

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110922

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120922

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120922

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130922

Year of fee payment: 7

EXPY Cancellation because of completion of term