JP2001195698A - 歩行者検知装置 - Google Patents

歩行者検知装置

Info

Publication number
JP2001195698A
JP2001195698A JP2000001583A JP2000001583A JP2001195698A JP 2001195698 A JP2001195698 A JP 2001195698A JP 2000001583 A JP2000001583 A JP 2000001583A JP 2000001583 A JP2000001583 A JP 2000001583A JP 2001195698 A JP2001195698 A JP 2001195698A
Authority
JP
Japan
Prior art keywords
pedestrian
vehicle
ground
detected
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000001583A
Other languages
English (en)
Other versions
JP3666332B2 (ja
Inventor
Tomoko Shimomura
倫子 下村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2000001583A priority Critical patent/JP3666332B2/ja
Publication of JP2001195698A publication Critical patent/JP2001195698A/ja
Application granted granted Critical
Publication of JP3666332B2 publication Critical patent/JP3666332B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】歩行者検知を確実かつ高速にできる歩行者検知
装置を提供する。 【解決手段】地上側に設置され、道路上を撮像する地上
側監視カメラ1と、前記1で撮像した画像から路上の歩
行者の位置と移動方向を検出する地上側演算装置2と、
前記1の設置位置のデータと前記2で検出したデータと
を車両へ送信する地上側通信装置3と、車両に搭載さ
れ、車両前方の物体の有無と物体までの距離とを検知す
る車載センサ4と、前記3からのデータを受信する車載
通信装置5と、受信したデータに基づいて、前記1と前
記4との位置関係を求め、前記2で検知した歩行者の位
置と移動方向および前記1と前記4との位置関係に基づ
いて、前記4の検知結果において地上側で検知した歩行
者に相当する物体を車両側で歩行者として認識する車載
演算装置6とを備えた歩行者検出装置。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、路上の歩行者を
検知する装置に関し、特に、地上側に設置した撮像装置
の検知状態を利用することで、車載センサによる前方の
歩行者検知を確実かつ高速に行う技術に関する。なお、
本発明における歩行者とは、人間に限らず、路上に存在
する動物(犬猫等)も含む概念である。
【0002】
【従来の技術】従来における車載の歩行者検知装置とし
ては、例えば、特開平8−161698号に記載された
ものがある。この装置は、車の右左折に応じて、右折時
には検知用の車載カメラを右方向に、左折時には車載カ
メラを左方向に振る機構をつけることで、死角になりや
すい交差点の右折時の右側、左折時の左側に存在する歩
行者などの前方の障害物を検知するものである。
【0003】
【発明が解決しようとする課題】上記のような従来の歩
行者検知装置では、車載カメラで撮像した画像内での検
知物体が歩行者であるか静止物体であるかの判断が必要
となる。車載カメラで物体の動きを観測するためには、
物体を検知した時点から数回連続してその物体の動きを
観測する必要があるため、検知のレスポンスが遅くなる
という問題が生じる。また、前述の従来例においては、
車載カメラの検知方向を駆動する制御機構を付けること
でレスポンスの向上を図っているため、駆動部の故障の
懸念やカメラの揺れによる画像処理認識の低下も問題と
なる。
【0004】本発明は上記のごとき従来技術の問題を解
決するために成されたものであり、歩行者検知を確実か
つ高速に行うことのできる歩行者検知装置を提供するこ
とを目的とする。
【0005】
【課題を解決するための手段】請求項1に記載の発明に
おいては、地上側の撮像手段(例えば監視カメラ)で路
上の歩行者を検知し、そのデータを車両側に伝送し、車
両側では車両前方の物体の有無・位置を計測する車載セ
ンサと地上側の撮像手段の位置関係を求め、車載センサ
の検知角内に歩行者が現われる前から、地上側の撮像手
段で検知した歩行者が車載センサで計測される位置や測
定距離を予測し、その歩行者が車載センサで計測された
瞬間に、その計測値が予測した値であるか否かを判断す
る。これにより、歩行者の動きを観測するための処理を
不要とし、車載センサによる歩行者検知のレスポンスを
向上させることが出来る。また、この構成では、検知対
象を地上側の撮像手段で検知した歩行者だけに絞ること
で、他の物体との誤検知を避け、歩行者検知の確実性を
上げることが出来る。
【0006】また、請求項2に記載の発明においては、
地上側では、既知の路上の静止物標からの相対位置とし
て路上の歩行者の位置と移動方向を検出するように構成
し、車両側では、その静止物標を検知し、地上側で検知
した歩行者の位置を静止物標との相対位置を用いて検知
する構成とした。これにより、車両側では、路上に設置
されている静止物標との位置関係として歩行者の動きを
受け取ることができるため、地上側の撮像手段と車載カ
メラとの位置関係を伝える必要がなくなり、その位置関
係による位置の誤差もなくなる。したがって検知対象と
する歩行者の位置精度が向上する。また、車両側では、
検知角内の静止物標との相対位置として歩行者の検知が
可能となるため、レスポンスの向上に加え、検知の確実
性も上がり、検知の処理も単純になる。
【0007】また、請求項3に記載の発明においては、
請求項2の車載センサをステレオカメラとし、静止物標
を横断歩道としたものであり、地上側の撮像手段では、
歩行者の位置と移動方向を横断歩道からの相対位置とし
て求め、車載のステレオカメラでは、ステレオカメラの
画像を用いて路面の横断歩道を検出し、その後、地上側
の撮像手段で検知した歩行者をステレオカメラ画像処理
により、横断歩道からの相対位置を用いて検出するもの
とした。この方法によれば、ステレオ画像処理で求めら
れる距離画像からの立体物検知において、あらかじめ距
離や画像上において現われる位置の分かっている歩行者
を検知対象とするため、請求項1、2と同様に、画角の
端で、その距離の物体が現れることを観測するだけで歩
行者の検知を判断することが可能となる。さらに、横断
歩道という画像処理で検出しやすい対象物を利用して、
そこからの相対位置として検出対象物を探す構成とした
ため、検出が確実になる。さらに、歩行者の存在する確
率が高い横断歩道上の歩行者検知が可能となる。また、
この構成では、相対位置を求める際に利用する静止物標
を、予め路面に存在する横断歩道としているため、新た
に検知用の物標を備えることなく検知が可能となる。
【0008】また、請求項4に記載の発明においては、
車両側で認識した歩行者の位置と移動方向が、地上側で
認識した歩行者の位置と移動方向に継続して一致する、
すなわち、地上側の歩行者の行動の続きを行っているか
否かを確認することで、対象物体が自車の進行方向に向
かってくる歩行者であるか否かを判断するものとした。
これにより、レスポンス早く歩行者を検知し、さらに、
その歩行者が自車に向かって路上に進入するか否かを確
実に検知することが可能となる。
【0009】
【発明の効果】請求項1においては、車載センサの検知
範囲に入った時点で歩行者を認識することが可能となる
ので、検知のレスポンスが向上し、特に、歩行者などの
飛び出し検知のレスポンスが向上する、という効果が得
られる。
【0010】請求項2においては、地上側撮像装置と車
載カメラの位置関係の計測を不必要とし、歩行者の検知
位置を高精度に伝えることが可能となる。また、車載セ
ンサ上での歩行者検知処理を、車載センサで検知した物
標との相対位置関係で検知可能としたことにより、検知
範囲の限定ができるので検知が容易かつ確実になる、と
いう効果が得られる。
【0011】また、請求項3においては、物標として横
断歩道を利用することにより、地上側撮像装置と車載カ
メラで検知した歩行者の照合がより簡単かつ確実とな
り、さらに、横断歩道の相対位置から歩行者の検知位置
を限定できるので、処理速度の向上および他の物体との
誤検知の低減も可能になる、という効果が得られる。
【0012】また、請求項4においては、歩行者検知が
確実になり、かつ、その歩行者が地上側撮像装置の視野
から外れたあとも、さらに自車の妨げになる位置に来る
か否かの判断も可能となる、という効果が得られる。
【0013】
【発明の実施の形態】図1は、本発明の全体の概略構成
を示すブロック図である。図1において、地上側に設置
される部分は、地上側監視カメラ1、地上側演算装置2
および地上側通信装置3であり、車両に搭載される部分
は、車載センサ4、車載通信装置5および車載演算装置
6である。地上側監視カメラ1は例えばCCD素子等を
用いた電子式のカメラであり、例えば横断歩道付近を視
野に納めるような位置に設置されている。地上側演算装
置2は例えばCPU等から成るコンピュータで構成さ
れ、地上側監視カメラ1で撮像した画像を処理して、横
断歩道等の物標の位置および歩行者の位置と移動方向の
データを検出する。地上側通信装置3は専用の通信装置
でもよいし、またはVICS(Vehicle Information an
d Communication System:道路交通情報通信システム)
を利用することもできる。車載センサ4はレーザレーダ
や電子式カメラ等であり、車両の前方を監視するように
設置されている。車載通信装置5は前記の地上側通信装
置3と同様の装置であり、両者間で交信を行って必要な
データを送受信する。なお、車両が交差点エリアに進入
すると自動的に交信を開始するような機能を有する。車
載演算装置6は車載センサ4からの情報と車載通信装置
5で受信した地上側からのデータに基づいて歩行者認識
の演算を行い、かつ、歩行者検出信号を出力する。この
歩行者検出信号は運転者への警報発生に利用したり、自
動的に制動装置を作動させる等の制御に利用することが
出来る。
【0014】以下、歩行車検知の原理について説明す
る。まず、本発明の第1の構成(請求項1に相当)につ
いて説明する。図2および図3は交差点における歩行者
の検知状況を示す図であり、図2は交差点付近の上面
図、図3は横断歩道を横断中の歩行者を車両から見た図
(車載センサの画像)である。図2において、7は自車
両、8は車載センサ、9は交差点付近に設置された地上
側の監視カメラ、10は横断歩道、11は電柱である。
なお、車載センサ8の検知角は二重線で、地上側の監視
カメラ9の検知角は破線で示している。また、丸印は歩
行者の動きを示すものであり、1〜6の番号は歩行者の
位置に対応する。
【0015】地上側では、監視カメラ9の画像に対して
歩行者がいない状況での画像との差分処理などによる背
景除去(後記図9で説明)を行うことにより、歩行者の
有無の判別、および検知した歩行者の動きを常に監視す
る。すなわち、背景差分の連続処理やオプティカルフロ
ーなどにより、破線で示した検知角内を動く歩行者の位
置およびその移動方向を示すベクトルA(太い矢印で示
す)を求める。監視カメラ9の検知範囲には横断歩道の
周囲も含まれているので、歩行者が横断歩道に入る前か
ら、丸印の1、2、3、4、5、6の順に移動する様子
を検知することが出来る。
【0016】一方、車載センサ8では、歩行者が丸印の
4の位置に来て始めて検知角内に歩行者が観測されるた
め、車両側では4、5、6の位置の歩行者しか検知でき
ない。車載センサ8で検知される物体の動きを監視する
場合、4の位置をベクトルの始点とし、そのあと、数回
時間的に連続して前方を検知し、4、5、6の順に動く
物体の動きを観測することで、はじめて歩行者の移動を
示すベクトルBを求めることができる。つまり、4の位
置では歩行者であることの確認はできず、歩行者と判断
されるのは、歩行者が6の位置付近に来たときとなる。
しかし、これではレスポンスが遅いため、車両用の歩行
者検知装置の機能として不十分である。そのため本発明
では、車載カメラ8の検知角内に歩行者が入る前から、
実座標系における歩行者の移動のベクトルAを地上側の
監視カメラ9で求めておき、車載センサ8の検知角の端
(図2の4の位置)に、ベクトルA上に存在する物体が
検知されるか否かを判断することにより、車載センサ検
知角内の歩行者の有無を判断する。つまり、車載センサ
8の検知角の端において、車載センサ8の検知角に入る
前の歩行者のベクトルAに乗る位置に物体が検知される
か否かを判断するだけで、検知角端で検知された物体が
静止物(図2の電柱11)であるか歩行者(図2の歩行
者)であるかを判別するものである。これにより車両側
における検知応答性を大幅に向上させることが出来る。
【0017】次に、本発明の第2の構成(請求項2に相
当)について説明する。図4および図5は、監視カメラ
9と路上に物標12(例えばバス停留場の表示装置)が
設置されている道路を、車載センサ8を搭載した車両7
が走行する様子を示した図であり、図4は上面図、図5
(a)は監視カメラ9の画像、図5(b)は車載センサ
8から見た画像である。監視カメラ9は路上に設置され
ているため、監視カメラ9と物標12との位置関係は既
知である。監視カメラ9に撮像される歩行者13は、前
述の方法で検知可能であるため、監視カメラ9で検知さ
れた画像上の位置と、監視カメラ9と物標12との位置
関係から、検知された歩行者13と物標12との位置関
係も求められる。また、車載センサ8として、スキャニ
ングレーザレーダのように横方向を走査することで検知
角内の距離を計測するセンサを用いた場合には、車載セ
ンサの検知結果は図4の表に一例を示すようになる。物
標12を反射物とすれば、レーザレーダでその物標12
までの距離を計測できる。
【0018】一方、監視カメラ9では、計測中の歩行者
13は物標12よりも左側、すなわち、車両側から見て
物標12よりも2m手前の位置に検知されている。した
がって、車両側では、車載センサ8において物標12よ
りも2m手前の位置の物体を検知対象とするように設定
すれば、監視カメラ9で計測中の歩行者13の検知が可
能となる。
【0019】なお、車載センサ8がカメラの場合には、
物標12として反射部を含む円形の物体などに定義する
ことで、車載センサ8のカメラの画像を処理して円検出
を行うことにより、物標12を検知することが出来る。
また、車載センサ8がレーザレーダの場合は、反射体を
検知するなどのように、車載センサ8で検知が可能な処
理に合せることにより、複数種類のセンサでも対応可能
となる。
【0020】次に、本発明の第3の構成(請求項3に相
当)について説明する。図6は車載センサをステレオカ
メラとした場合の状況を示す図であり、図6(a)は交
差点付近の上面図、図6(b)はステレオ画像間の視差
計算により、画像内に撮像される各物体までの距離を求
めた結果を画像中に示した図である。なお、図6(a)
では前記図2の状況において歩行者が4の位置に達した
ときの様子を示している。なお、図6において、16は
歩行者、17は電柱、18は樹木、19は横断歩道であ
る。
【0021】ここで、ステレオカメラで撮像したステレ
オ画像内の物体までの距離zの計測について説明する。
距離zは、ステレオ画像間において、同じ物体が撮像さ
れる位置の二つの画像上の位置の差(xaとxb)をテ
ンプレートマッチングなどで求め、その位置の差(視
差)とカメラの焦点距離fより、三角測量の原理で下記
(数1)式により求めることができる。
【0022】 z=f・D/(xa−xb) …(数1) ただし、f:レンズの焦点距離 D:両レンズ間の距離
(眼間距離) xa−xb=S:視差 f、xa、xb、Sの単位は画素、D、zの単位はm、 図7は、上記のステレオ画像における距離の関係を示す
図である。図7において、20は検知物体、21は右レ
ンズ、22は左レンズ、23は右画像、24は左画像で
ある。図6(b)は、このようにしてステレオ画像内に
撮像される各物体までの距離を求めた画像(画像の各画
素または領域毎)であり、これを距離画像と呼ぶ。な
お、ステレオ画像を用いた距離の測定については、本出
願人が以前に出願した特願平10−154625号に詳
細に記載されている。
【0023】この第3の構成では、画像上での歩行者検
知の際、画像処理上検知しやすい横断歩道の横エッジを
利用し、歩行者が現れる画像上の位置およびカメラから
の距離を、横断歩道のエッジからの相対位置として求め
る。
【0024】図8は、画像上で検知した横断歩道の横エ
ッジの位置(y3やy5)を用いた、カメラから横断歩
道までの距離の求め方を説明する図である。画像の中心
を原点とし、光軸が路面と平行なカメラで撮像した画像
上において、検出した横断歩道の手前のラインが撮像さ
れる位置をy3とすると、カメラから横断歩道の手前の
ラインまでの距離zは下記(数2)式により求められ
る。
【0025】 z=f・h/y3=3(m) …(数2) ただし、f:焦点距離、h:路面からカメラのレンズ中
心までの高さ画像上からの横断歩道のエッジの検出は、
Hough変換などの一般的な直線検出方法を用いれば
十分である。このような方法でカメラ上に撮像される横
断歩道の手前と奥の横エッジを求め、(数2)式によ
り、カメラからそのエッジ(図8のy3とy5)までの
距離を計算する。
【0026】図6における横断歩道19と監視カメラ9
の位置関係は既知であるので、歩行者16と横断歩道1
9との実座標系における位置関係は監視カメラ9で求め
られる。図9は、監視カメラ9で撮像した様子を示す図
である。図9(a)に示すように、歩行者は横断歩道の
左側の線(車両から見て手前の線)と右側の線(車両か
ら見て奥の線)をa:bに分割する位置を渡ろうとして
いる。車載のステレオカメラでは、横断歩道の手前のエ
ッジがステレオカメラから3m、奥のエッジがステレオ
カメラから5mの位置にあると計測されているので、仮
に、a:bを1:3とすると、歩行者はステレオカメラ
から3.5mの位置に計測されることがわかる。このよ
うに地上側の監視カメラ9からの情報に基づいて、車載
センサ(ステレオカメラ)における歩行者の画像上にお
ける検知位置や検知距離を、横断歩道からの相対位置と
して求める。これは、予め路面に存在し、かつ、カメラ
で検知しやすい横断歩道を物標として利用するときの応
用方法でもある。このように横断歩道からの相対位置で
車載センサの検出範囲を限定することにより、処理速度
をさらに向上させることが可能となる。
【0027】次に、本発明の第4の構成(請求項4に相
当)について説明する。第4の構成では、請求項1〜3
で求めた歩行者の移動を、車載のステレオ画像処理で求
められる距離と画像内での移動からも求め、地上側の監
視カメラで検知した移動の続きの移動をすることを確認
することにより、さらに確実に歩行者の検知を行い、ま
た、その移動の続きを車載演算装置における画像処理上
で検出することにより、検出された歩行者が横断歩道に
入った後に、自車にさらに近づくか否かの判断も可能と
する。
【0028】以下、これまで説明した原理に基づいた実
施の形態について説明する。まず、横断歩道を撮像する
形で設置された監視カメラを用いて、前方の横断歩道を
渡ろうとする歩行者の検知を行う例を説明する。地上側
の監視カメラでは、前記図9のような画像を撮像し、横
断歩道手前の歩行者の有無を監視する。図9(a)は歩
行者が存在する場合、図9(b)は歩行者が存在しない
場合の画像を示す。図9(b)は路上に存在する横断歩
道の線のみの画像なので、予めこの画像を撮像して記憶
しておき、図9(a)のような観測時の画像との差分を
求めれば、歩行者の有無を判断することが出来る。
【0029】地上側では、上記のようにして監視カメラ
で歩行者の存在を見つけた場合には、歩行者の移動のベ
クトルを算出する。歩行者の移動のベクトルは、差分処
理によって発見した歩行者の位置の画像に対するオプテ
ィカルフロー算出などの一般的な手法で求められる。
【0030】監視カメラでの歩行者の移動のベクトル
は、前記図2のベクトルAのような実座標系のベクトル
に変換する。このベクトルの変換は、カメラの設置位置
やカメラ焦点距離などに基づいて幾何学的に計算する。
例えば、図10は画像座標から実空間座標に変換する方
法を説明するための図であり、(a)は垂直方向、
(b)は水平方向を示す。図10においては、使用する
カメラの特性として、画素数はx方向がIX、y方向が
IYとする。画面サイズはx方向がCCDH(m)、y
方向がCCDW(m)とする。まず、(a)に示す垂直
方向における中心からdy画素の実空間での位置は次の
ようになる。 光軸と成す角dθ=atan{(CCDH/IY)(dy
/f)} 画素位置dyに相当する前方距離l=H/tan(θ−
dθ) 次に、(b)に示す水平方向における中心からdx,d
y画素の実空間での位置は次のようになる。 角dφ=atan{(CCDW/IX)(dx/F)} F=√{[(CCDH/IY)(dy)]+f} 画素位置dxに相当する前方幅h=√(H+l)×
tan(dφ) 上記のようにして移動する歩行者の各時点の位置を変換
すれば、実座標系に変換されたベクトルAを求めること
が出来る。
【0031】次に、車両側の処理について説明する。こ
こでは車載センサとしてスキャニングレーザレーダのよ
うに、或る角度内に存在する物体までの距離を或る検知
角度毎に検出するセンサを搭載した場合を考える。図1
1は、スキャニングレーザレーダによる物体検知例を示
す上面図である。図11から判るように、検知角度内に
は、3.5m先の歩行者16と8m先の電柱17があ
り、その物体がある方向では、それらの物体までの距離
が測定される。図11の表は角度ごとの測定距離を示し
たものであり、右端の角度では歩行者までの距離である
3.5m、右から3番目の角度では電柱までの距離であ
る8mが表示されている。その他の部分には物体がない
ため測定対象物がないことを示すフラグ(∞)が入って
いる。
【0032】通常、車載のスキャニングレーザレーダだ
けで、検知した物体が自車に向かう歩行者であることを
判断する場合には、検知した物体が時間的に連続して観
測され、かつ、その物体が自車に向かって移動する様子
を観測する必要がある。例えば、車載センサだけで3.
5mの距離に観測されたものが歩行者であると判断する
ためには、検知した物体がスキャニングレーザレーダの
検知角の中央に移動して、はじめて歩行者が横断中であ
ると判断されることになる。しかし、これでは、歩行者
検知としての応答性が遅く、衝突警報や自動ブレーキな
どに使うためのセンサとしては利用できない。
【0033】これに対して、本発明では、地上側の監視
カメラで実座標系における歩行者の動きを予め求めてお
き、監視カメラの設置された交差点に車載センサを搭載
した車両が進入した際に、監視カメラの位置と、その監
視カメラでの歩行者の動作の計測結果を車載センサに伝
え、車載センサの検知角に歩行者が入る前から検出した
歩行者の動きをもとに、検知角の端で、監視カメラで計
測中のベクトル上にのる位置に物体を計測し、それによ
って監視カメラで観測中の歩行者の有無を判断する。こ
れにより、車載センサでは動きを見る必要がなく、歩行
者の存在の判断だけで車載センサによる歩行者認識が可
能となる。また、歩行者の後にある電柱などは監視カメ
ラで計測された歩行者のベクトルとは異なる位置にある
ことから、仮に検知角の端に歩行者以外の静止物体を検
知した場合でも、それらの区別は可能である。
【0034】次に、路上に設置された物標との位置関係
を用いて歩行者を検知する例について、前記図4および
図5を用いて説明する。監視カメラ9と物標12との位
置関係は、双方とも位置が固定であるため既知である。
監視カメラ9の画像からの歩行者検知は、前記と同様に
背景差分を求めればよい。歩行者の位置は、画像上に歩
行者が検知された位置から幾何学計算により求められ
る。また、歩行者13と物標12との相対位置も、予め
既知である監視カメラ9と物標12との位置関係から求
められる。例えば、図4のように、監視カメラ9を、そ
のカメラの光軸が車道と直角で路面と平行になるように
設置し、物標12から監視カメラ9の光軸までの距離が
2mの場合を考える。
【0035】図5(a)は監視カメラ9で撮像した画像
の様子を示す図、図5(b)は車載カメラで撮像した画
像の様子を示す図である。歩行者13は、図5(a)の
画像のほぼ中央に検知されている。このことから、図4
の下側を手前(車両から見た手前)とすると、監視カメ
ラ9で検知された歩行者13の位置は物標12から2m
手前と求められる。また、監視カメラ9から歩行者13
までの距離は、歩行者13が撮像されるY座標の位置に
反比例する。この関係は、(数2)式と同様の考え方で
求められる。例えば、画像上における歩行者13の足元
の座標をy1、カメラの焦点距離をf、路面からカメラ
までの高さをHとすると、監視カメラ9から歩行者13
までの距離zは、 z=f・H/y1 となる。歩行者13が監視カメラ9から遠ざかる場合
は、図5(a)で画像上方に歩行者13が移動し、歩行
者13が監視カメラ9に近づく場合は、画像の下方に向
けて移動する。つまり、図4における歩行者13の左右
の位置は、図5(a)で画像上の歩行者13の移動およ
び歩行者13が撮像されるY座標から求めることができ
る。たとえば、図5において、検知された歩行者13の
足元は歩道と車道の境界ラインの位置であり、物標12
も車両と歩道の境界ラインの上に設置されている。この
ことから、物標12に対する歩行者13の位置は、物標
12から手前2mの位置の歩道と車道の境界ラインの位
置にいると計測される。
【0036】また、歩行者の移動方向は、図5(a)の
画像上において、X軸方向に右側に移動した場合は物標
12に近づく方向に、左側に移動した場合は物標12か
ら遠ざかる方向に、Y軸方向に上に移動した場合は車道
を渡る方向に、下側に移動した場合は歩道を監視カメラ
9に近づく方向に移動すると求めることができる。この
ように、監視カメラ9では、画像内で検知される歩行者
13の位置と移動方向から路上の歩行者の位置と移動方
向を物標12からの相対位置として求める。
【0037】一方、車両側では、地上側からのデータと
して、物標12からの相対位置として歩行者13の位置
と移動方向を受信する。また、上記のデータを受信する
と共に車載センサで物標の検知も行う。図4の表は、車
載センサとしてスキャニングレーザレーダを利用した場
合の計測結果であり、図5(b)は、画像として前方を
撮像した様子を示している。スキャニングレーザレーダ
では、物標12は6m先に検知されている。地上側の監
視カメラ9からの情報により、歩行者13は物標12よ
り2m手前にいると分かっているので、歩行者13は車
載センサからは4m先と計測されると判る。つまり、4
m先に物体が検知された場合は、歩行者13であると判
断できる。この方法では、図4のように、電柱14な
ど、歩行者以外の物体の距離を計測している場合でも、
物標12からの相対位置により、他の物体と区別して歩
行者を検出することができる。
【0038】また、基準とする物標自体の判断は、反射
強度を他との区別が可能な強さになる物体を選定する
か、もしくは、物標側から、車載センサに検知可能な信
号を送るなど、他物体との区別がつく方法をとればよ
い。また、車載センサがカメラの場合は、物標の形状か
ら検知が可能である。図4、図5の場合では、歩行者1
3の位置は、監視カメラ9の検出結果により、車道と歩
道の境界線上で物標12より2m手前とわかっているの
で、白線検出などによって車道と歩道の境界線を検知
し、白線に沿って、物標よりも下側に位置する物体とし
て検知することができる。さらに精度を高める場合は、
車載センサをステレオカメラとすれば、形状による物標
の検知による物標までの距離の測定、車道と歩道の境界
線の位置検出および歩行者までの距離の測定が可能であ
るため、地上側の監視カメラの情報に基づいて、境界線
上に乗り、かつ物標から2m手前の物体を検知すること
で歩行者をより確実に検知することも可能となる。さら
に、この検知は、監視カメラで予め動きを見ているた
め、車載カメラ側では動きを見る必要はない。そのた
め、確実かつレスポンスの早い検知が可能となる。
【0039】次に、車載センサをステレオカメラとした
場合の例を説明する。通常、路上や車載カメラを用いた
画像処理では、横断歩道やレーンマーカなどの路上の白
線は、検知計測が比較的安定して検出される。このこと
から、地上側の監視カメラと車載ステレオカメラにおけ
る歩行者検知を横断歩道の横線(図9の「手前の線」と
「奥の線」)からの相対位置として観測することで、よ
り確実な歩行者の位置検知を行うことが出来る。地上側
の監視カメラにおける歩行者の検知の有無は前述の図9
の方法でよい。ただし、この歩行者の位置は、横断歩道
からの位置関係として求める。例えば、図9(a)であ
れば、「横断歩道の手前の線と奥の線をa:bに内分す
る点を始点とし、横断歩道の両脇の2本の線に平行なベ
クトル」のように横断歩道の相対位置として歩行者の移
動のベクトルを求める。
【0040】車載ステレオカメラでは、まず、路面の横
断歩道の2本の横エッジを検出する。車載ステレオカメ
ラから横断歩道までの距離は、図7の原理により算出で
きる。ここで、車載ステレオカメラ画像上における横断
歩道の横エッジ検出は、Hough変換などによる水平
エッジで検出できる。また、路上の横断歩道の有無はナ
ビゲーションシステム(GPSを利用した周知の装置)
から知ることができる。この情報を利用して、ナビゲー
ションシステムから横断歩道付近を通過すると伝えられ
たときだけ、この横エッジを検出する構成とすること
で、路面の他の表示や汚れとの誤検出を防ぐことができ
る。
【0041】車載ステレオカメラにおいて、横断歩道を
検出した後は、監視カメラで検知した歩行者の移動を横
断歩道の横エッジからの相対位置ベクトルとして変換
し、車載ステレオカメラにおいて、何m先のどの位置に
歩行者が観測されるかを幾何学的に計算しておく。移動
のベクトルは、横断歩道の両脇の2本の線をa:bに内
分する位置からその線に平行に移動すると求められてい
るので、この位置と移動方向に基づいて、車載ステレオ
画像処理で検出される歩行者までの距離と歩行者が現れ
る画像上の位置を求める。例えば、図12に示すよう
に、横断歩道手前のエッジが3m、奥のエッジが5m先
に計測され、監視カメラ9上での歩行者13の検出位置
が、a:b=1:3である場合、車載ステレオカメラ2
5から歩行者13までの距離は3.5mとなる。このこ
とから、図12のように、画像の端の領域において、距
離が3.5mと観測される物体の有無を監視するだけ
で、横断しようとする歩行者の検知が可能となる。
【0042】図12の場合において、歩行者13が横断
をやめた場合、車載ステレオカメラ25の画角の右端に
は、8m先の電柱が検出される。しかし、これは、横断
歩道までの距離とは異なる位置にあることは容易に判断
できるため、監視カメラ9で観測中の歩行者13とは異
なる物体であると判断できる。つまり、このような判断
により、車両側では歩行者の動きを判断することなく、
車載ステレオカメラ25の画角に入った瞬間に歩行者検
知が可能となるため、車両側においてレスポンスの良い
歩行者検知が可能となる。
【0043】次に、車載ステレオカメラにおいて歩行者
の動きを再確認する例を説明する。車載ステレオカメラ
において、画角の端の部分だけで歩行者の検知が可能と
なることは前に説明した。これは車載ステレオカメラに
おける歩行者検知のレスポンス向上に非常に役に立つ。
しかし、画角端で検知した歩行者が横断歩道の横断を止
めた場合は、ブレーキや警報の信号を出力する必要がな
い場合もある。このように、自車の妨げになる動きをす
る歩行者の検知をより確実に行うことが必要となる場合
がある。このような場合には車載ステレオカメラ上でも
歩行者の移動の検知を行うことで、より確実な検出が可
能となる。すなわち、車載ステレオカメラの画角端にお
いて歩行者として検知された物体が、地上側の監視カメ
ラで検知した物体と同じ移動ベクトル上を時間的に連続
して移動するか否かを、車載ステレオカメラ上で検知す
ることにより、さらに確実に歩行者の動きを判断するこ
とができる。
【0044】また、通常、車載ステレオカメラ上で動き
を検知する場合、画角の端がベクトルの始点となるた
め、1回の測定誤差がベクトルの算出に大きく影響す
る。しかし、ここでは、地上側の監視カメラにおいて、
車載ステレオカメラの画角に入る前から求めたベクトル
があるため、補間や最小二乗誤差などによる補正も可能
であり、さらに、予め求めたベクトルにより動く方向が
予測できるため検出範囲の限定も可能である。ここで、
車載ステレオカメラで検出した物体の移動の認識は、歩
行者と同じ距離に検出される物体の追従処理でよい。こ
のことから、画像のノイズや、距離画像算出時のミスマ
ッチングなどの影響を排除し、より確実な歩行者検知が
可能となる。
【0045】以上説明してきたように、本発明の第1の
構成においては、地上側の監視カメラで検知した歩行者
の位置と移動方向に相当する物体を車載センサで検知す
る構成とした。従来は、車載センサ上で検知した物体の
動きを車載センサを用いて観測するので、車載センサの
検知角に入った時点をベクトルの始点とし、そこから数
回時間的に連続して検知した結果からベクトルの方向を
検出する必要があった。そのため、検知のレスポンスが
遅いことが問題となる。しかし、この発明では、歩行者
のベクトルは予め地上側の監視カメラで求めておき、車
載センサの検知角の端の部分では、監視カメラで検知し
た歩行者のベクトルの上に乗る位置に物体が検知される
か否かを判断するだけとする。これにより、検知角に入
った時点で歩行者を判断することが可能となり、特に、
車載センサの検知角の端から中心にかけて動く歩行者な
どの飛び出し検知のレスポンスが向上する。
【0046】また、本発明の第2の構成においては、地
上側の監視カメラで検知した歩行者の位置を路上の静止
物標との相対位置として車載センサに伝える構成とし
た。これにより、監視カメラと車載カメラの位置関係の
計測を不必要とし、歩行者の検知位置を高精度に伝える
ことを可能とした。また、車載センサ上での歩行者検知
処理を、車載センサで検知した物標との相対位置関係で
検知可能としたことにより、検知範囲の限定ができるの
で検知が容易かつ確実になる。
【0047】また、本発明の第3の構成においては、車
載センサをステレオカメラとした構成において、地上側
の監視カメラで検知した歩行者を車両側で検知する際
に、画像処理で検知が比較的簡単かつ確実である横断歩
道の2本の横線からの相対位置を利用する構成とした。
これにより、監視カメラと車載カメラで検知した歩行者
の照合がより簡単かつ確実となり、さらに、横断歩道の
相対位置から歩行者の検知位置を限定できるので、処理
速度の向上および他の物体との誤検知の低減も可能とな
る。
【0048】また、本発明の第4の構成においては、上
記第2の構成で検知した歩行者の動きを車載ステレオカ
メラ上においても再度求める構成とした。これにより、
車載カメラの検知角に入った瞬間から、監視カメラで検
知した歩行者と同一であることをより確実に照合し、さ
らに、その歩行者が、車載カメラの検知角内に入った後
も、進行をしつづけることを確認することも可能とし
た。これにより、歩行者検知が確実になり、かつ、その
歩行者が監視カメラから外れたあとも、さらに自車の妨
げになる位置に来るか否かの判断も可能となる。
【図面の簡単な説明】
【図1】本発明の全体の概略構成を示すブロック図。
【図2】交差点における歩行者の検知状況を示す交差点
付近の上面図。
【図3】横断歩道を横断中の歩行者を車両から見た図。
【図4】監視カメラ9と路上に物標12が設置されてい
る道路を、車載センサ8を搭載した車両7が走行する様
子を示した上面図。
【図5】(a)は監視カメラ9で撮像した画像の様子を
示す図、(b)は車載センサで撮像した画像の様子を示
す図。
【図6】車載センサをステレオカメラとした場合の状況
を示す図であり、(a)は交差点付近の上面図、(b)
はステレオ画像間の視差計算により、画像内に撮像され
る各物体までの距離を求めた結果を画像中に示した図。
【図7】ステレオ画像における距離の関係を示す図。
【図8】画像上で検知した横断歩道の横エッジの位置を
用いた、カメラから横断歩道までの距離の求め方を説明
する図。
【図9】監視カメラ9で撮像した様子を示す図であり、
(a)は歩行者が存在する場合、(b)は歩行者が存在
しない場合の画像。
【図10】画像座標から実空間座標に変換する方法を説
明するための図であり、(a)は垂直方向、(b)は水
平方向。
【図11】スキャニングレーザレーダによる物体検知例
を示す上面図。
【図12】車載ステレオカメラで検出する場合の上面図
と距離画像。
【符号の説明】
1…地上側監視カメラ 2…地上側演算
装置 3…地上側通信装置 4…車載センサ 5…車載通信装置 6…車載演算装
置 7…自車両 8…車載センサ 9…地上側の監視カメラ 10…横断歩道 11…電柱 12…物標 13…歩行者 14、15…電
柱 16…歩行者 17…電柱 18…樹木 19…横断歩道 20…検知物体 21…右レンズ 22…左レンズ 23…右画像 24…左画像 25…車載ステ
レオカメラ
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5H180 AA21 CC04 LL01 LL07 LL08 LL09 5J084 AA02 AA04 AB07 AC02 AD05 CA65 EA04 EA22 5L096 BA02 BA04 CA02 CA05 CA27 DA03 FA66 HA03 HA04 9A001 BB02 BB04 CC05 GG01 GG04 HH23 JJ77 KK37

Claims (4)

    【特許請求の範囲】
  1. 【請求項1】地上側に設置され、道路上を撮像する地上
    側撮像手段と、 前記地上側撮像手段で撮像した画像から路上の歩行者の
    位置と移動方向を検出する地上側歩行者認識手段と、 前記地上側撮像手段の設置位置のデータと前記地上側歩
    行者認識手段のデータとを車両へ送信する地上側通信手
    段と、 車両に搭載され、車両前方の物体の有無と物体までの距
    離とを検知する車載センサと、 前記地上側送信手段からのデータを受信する車両側通信
    手段と、 受信したデータに基づいて、前記地上側撮像手段と前記
    車載センサとの位置関係を求め、前記地上側歩行者認識
    手段で検知した歩行者の位置と移動方向および前記地上
    側撮像手段と前記車載センサとの位置関係に基づいて、
    前記車載センサの検知結果において地上側で検知した歩
    行者に相当する物体を車両側で歩行者として認識する車
    両側歩行者認識手段と、 を備えたことを特徴とする歩行者検知装置。
  2. 【請求項2】地上側に設置され、道路上を撮像する地上
    側撮像手段と、 前記地上側撮像手段で撮像した画像から、既知の路上の
    静止物標からの相対位置として路上の歩行者の位置と移
    動方向を検出する地上側歩行者認識手段と、 前記地上側歩行者認識手段のデータを車両へ送信する地
    上側通信手段と、 車両に搭載され、車両前方の物体の有無と物体までの距
    離とを検知する車載センサと、 前記地上側送信手段からのデータを受信する車両側通信
    手段と、 前記車載センサの検知結果から前記既知の静止物標を検
    出し、かつ、前記地上側歩行者認識手段で既知の路上の
    静止物標からの相対位置として検知した歩行者の位置と
    移動方向に基づいて、前記車載センサの検知結果におい
    て地上側で検知した歩行者に相当する物体を車両側で歩
    行者として認識する車両側歩行者認識手段と、 を備えたことを特徴とする歩行者検知装置。
  3. 【請求項3】前記車載センサはステレオカメラであり、
    前記既知の路上の静止物標は横断歩道であり、前記地上
    側歩行者認識手段は横断歩道に対する相対位置として歩
    行者の位置と移動方向を検出し、 前記車両側歩行者認識手段は、前記横断歩道の位置を検
    出し、地上側から送られたデータに基づいて、前記横断
    歩道からの相対位置が前記地上側で検出した歩行者と同
    じ位置に存在する物体を歩行者として認識するように構
    成したことを特徴とする請求項2に記載の歩行者検知装
    置。
  4. 【請求項4】車両側で検出した歩行者の位置と移動方向
    が、地上側で認識した歩行者の位置と移動方向に継続し
    て一致することを確認する手段を備えたことを特徴とす
    る請求項1乃至請求項3の何れかに記載の歩行者検知装
    置。
JP2000001583A 2000-01-07 2000-01-07 歩行者検知装置 Expired - Fee Related JP3666332B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000001583A JP3666332B2 (ja) 2000-01-07 2000-01-07 歩行者検知装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000001583A JP3666332B2 (ja) 2000-01-07 2000-01-07 歩行者検知装置

Publications (2)

Publication Number Publication Date
JP2001195698A true JP2001195698A (ja) 2001-07-19
JP3666332B2 JP3666332B2 (ja) 2005-06-29

Family

ID=18530796

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000001583A Expired - Fee Related JP3666332B2 (ja) 2000-01-07 2000-01-07 歩行者検知装置

Country Status (1)

Country Link
JP (1) JP3666332B2 (ja)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003151096A (ja) * 2001-11-19 2003-05-23 Honda Motor Co Ltd 進入警報装置
JP2003272061A (ja) * 2002-03-13 2003-09-26 Omron Corp 監視装置
JP2004117071A (ja) * 2002-09-24 2004-04-15 Fuji Heavy Ind Ltd 車外監視装置、及び、この車外監視装置を備えた走行制御装置
WO2004089704A1 (en) * 2003-04-09 2004-10-21 Autoliv Development Ab A pedestrian detecting system
JP2005293479A (ja) * 2004-04-05 2005-10-20 Denso Corp 物体危険判定装置
JP2006298041A (ja) * 2005-04-18 2006-11-02 Nikon Corp 車両の運転支援システム
US7621364B2 (en) 2002-11-28 2009-11-24 Autoliv Development Ab Safety arrangement
JP2010002326A (ja) * 2008-06-20 2010-01-07 Stanley Electric Co Ltd 移動ベクトル検出装置
JP2011100257A (ja) * 2009-11-05 2011-05-19 Renesas Electronics Corp 危険回避システム及び方法
JP2015049814A (ja) * 2013-09-03 2015-03-16 コイト電工株式会社 歩行者検出装置及び交通制御システム
JP2016099997A (ja) * 2014-11-19 2016-05-30 曜鵬科技股▲ふん▼有限公司 動画像監視システム、装置及び方法
JP2016103289A (ja) * 2016-01-13 2016-06-02 三菱電機株式会社 中継装置
KR20180051225A (ko) * 2016-11-08 2018-05-16 엘지전자 주식회사 차량 제어 시스템 및 그의 제어방법
CN113140132A (zh) * 2021-04-20 2021-07-20 重庆邮电大学 一种基于5g v2x移动智能终端行人防碰撞预警系统与方法
KR20220015253A (ko) * 2020-07-30 2022-02-08 한국전자통신연구원 교통 객체 위치 추정 장치 및 방법
US11479262B2 (en) * 2018-06-06 2022-10-25 Metawave Corporation Geographically disparate sensor fusion for enhanced target detection and identification in autonomous vehicles
CN116884250A (zh) * 2023-07-12 2023-10-13 凉山州交通运输应急指挥中心 一种基于激光雷达的预警方法及高速公路预警系统

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2784722A1 (en) 2004-07-26 2014-10-01 Automotive Systems Laboratory, Inc. Vulnerable road user protection system

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003151096A (ja) * 2001-11-19 2003-05-23 Honda Motor Co Ltd 進入警報装置
JP2003272061A (ja) * 2002-03-13 2003-09-26 Omron Corp 監視装置
JP2004117071A (ja) * 2002-09-24 2004-04-15 Fuji Heavy Ind Ltd 車外監視装置、及び、この車外監視装置を備えた走行制御装置
US7621364B2 (en) 2002-11-28 2009-11-24 Autoliv Development Ab Safety arrangement
US7905314B2 (en) 2003-04-09 2011-03-15 Autoliv Development Ab Pedestrian detecting system
WO2004089704A1 (en) * 2003-04-09 2004-10-21 Autoliv Development Ab A pedestrian detecting system
JP2005293479A (ja) * 2004-04-05 2005-10-20 Denso Corp 物体危険判定装置
JP4706315B2 (ja) * 2005-04-18 2011-06-22 株式会社ニコン 車両の運転支援システム
JP2006298041A (ja) * 2005-04-18 2006-11-02 Nikon Corp 車両の運転支援システム
JP2010002326A (ja) * 2008-06-20 2010-01-07 Stanley Electric Co Ltd 移動ベクトル検出装置
JP2011100257A (ja) * 2009-11-05 2011-05-19 Renesas Electronics Corp 危険回避システム及び方法
JP2015049814A (ja) * 2013-09-03 2015-03-16 コイト電工株式会社 歩行者検出装置及び交通制御システム
JP2016099997A (ja) * 2014-11-19 2016-05-30 曜鵬科技股▲ふん▼有限公司 動画像監視システム、装置及び方法
JP2016103289A (ja) * 2016-01-13 2016-06-02 三菱電機株式会社 中継装置
KR20180051225A (ko) * 2016-11-08 2018-05-16 엘지전자 주식회사 차량 제어 시스템 및 그의 제어방법
KR101995489B1 (ko) * 2016-11-08 2019-09-30 엘지전자 주식회사 차량 제어 시스템 및 그의 제어방법
US11479262B2 (en) * 2018-06-06 2022-10-25 Metawave Corporation Geographically disparate sensor fusion for enhanced target detection and identification in autonomous vehicles
KR20220015253A (ko) * 2020-07-30 2022-02-08 한국전자통신연구원 교통 객체 위치 추정 장치 및 방법
KR102612438B1 (ko) * 2020-07-30 2023-12-12 한국전자통신연구원 교통 객체 위치 추정 장치 및 방법
CN113140132A (zh) * 2021-04-20 2021-07-20 重庆邮电大学 一种基于5g v2x移动智能终端行人防碰撞预警系统与方法
CN113140132B (zh) * 2021-04-20 2023-11-03 西安华企众信科技发展有限公司 一种基于5g v2x移动智能终端行人防碰撞预警系统与方法
CN116884250A (zh) * 2023-07-12 2023-10-13 凉山州交通运输应急指挥中心 一种基于激光雷达的预警方法及高速公路预警系统
CN116884250B (zh) * 2023-07-12 2024-01-26 凉山州交通运输应急指挥中心 一种基于激光雷达的预警方法及高速公路预警系统

Also Published As

Publication number Publication date
JP3666332B2 (ja) 2005-06-29

Similar Documents

Publication Publication Date Title
KR101395089B1 (ko) 장애물 감지 시스템 및 방법
JP3596314B2 (ja) 物体端の位置計測装置および移動体の通行判断装置
CN106463064B (zh) 物体识别装置和使用该物体识别装置的车辆行驶控制装置
JP4420011B2 (ja) 物体検知装置
JP3666332B2 (ja) 歩行者検知装置
JP5325765B2 (ja) 路肩検出装置及び路肩検出装置を用いた車両
US8615109B2 (en) Moving object trajectory estimating device
US7710246B2 (en) Vehicle driving assist system
JP4923736B2 (ja) 道路通信システムおよび道路通信方法
US20130286205A1 (en) Approaching object detection device and method for detecting approaching objects
US20040178945A1 (en) Object location system for a road vehicle
US20210070288A1 (en) Driving assistance device
JP4901275B2 (ja) 走行誘導障害物検出装置および車両用制御装置
US20120163671A1 (en) Context-aware method and apparatus based on fusion of data of image sensor and distance sensor
JPH08156723A (ja) 車両用障害物検出装置
JP2008097279A (ja) 車両外部情報表示装置
JP4848644B2 (ja) 障害物認識システム
JP4762830B2 (ja) 周辺監視システム
JP2008056163A (ja) 車両の障害物検知装置
JPH04193641A (ja) 車両用障害物検出装置
JP2007310591A (ja) 画像処理装置及び駐車場判定方法
JP3586938B2 (ja) 車載用距離測定装置
JP2020109559A (ja) 信号機認識方法及び信号機認識装置
US20220108117A1 (en) Vehicular lane marker determination system with lane marker estimation based in part on a lidar sensing system
JP6429101B2 (ja) 画像判定装置、画像処理装置、画像判定プログラム、画像判定方法、移動体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20050217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050328

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090415

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees