JP2005267030A - 歩行者輪郭抽出方法及び歩行者輪郭抽出装置 - Google Patents
歩行者輪郭抽出方法及び歩行者輪郭抽出装置 Download PDFInfo
- Publication number
- JP2005267030A JP2005267030A JP2004076210A JP2004076210A JP2005267030A JP 2005267030 A JP2005267030 A JP 2005267030A JP 2004076210 A JP2004076210 A JP 2004076210A JP 2004076210 A JP2004076210 A JP 2004076210A JP 2005267030 A JP2005267030 A JP 2005267030A
- Authority
- JP
- Japan
- Prior art keywords
- pedestrian
- contour
- image
- horizontal
- vertical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】車両の自車前方の撮影画像を含む種々の道路の撮影画像に基き、動的輪郭モデルの画像処理によって歩行者の輪郭を自動的に精度よく抽出するようにし、歩行者認識システムの認識精度を向上する。
【解決手段】撮影手段(単眼カメラ3)が撮影した道路の撮影画像につき、垂直濃度投影、水平濃度投影のヒストグラムを算出し、垂直濃度投影のヒストグラムのピーク位置から、撮影画像の歩行者候補領域の水平方向の位置を決定し、動的輪郭モデルの初期状態を、水平濃度投影のヒストグラムのしきい値以上の部分の長さの垂直線分の状態に決定し、動的輪郭モデルの画像処理により、輪郭抽出線を、前記垂直線分の初期状態から歩行者候補領域の輪郭部分までほぼ縦長の楕円形に膨らませて歩行者候補領域の輪郭を検出し、所定の歩行者画像条件に合致する検出輪郭を、撮影画像の歩行者の輪郭として自動的に抽出する。
【選択図】図1
【解決手段】撮影手段(単眼カメラ3)が撮影した道路の撮影画像につき、垂直濃度投影、水平濃度投影のヒストグラムを算出し、垂直濃度投影のヒストグラムのピーク位置から、撮影画像の歩行者候補領域の水平方向の位置を決定し、動的輪郭モデルの初期状態を、水平濃度投影のヒストグラムのしきい値以上の部分の長さの垂直線分の状態に決定し、動的輪郭モデルの画像処理により、輪郭抽出線を、前記垂直線分の初期状態から歩行者候補領域の輪郭部分までほぼ縦長の楕円形に膨らませて歩行者候補領域の輪郭を検出し、所定の歩行者画像条件に合致する検出輪郭を、撮影画像の歩行者の輪郭として自動的に抽出する。
【選択図】図1
Description
本発明は、画像処理によって歩行者を認識する歩行者認識システムの歩行者輪郭抽出方法及び歩行者輪郭抽出装置に関し、詳しくは、動的輪郭モデルの画像処理により撮影画像の歩行者の輪郭を抽出する歩行者輪郭抽出方法及び歩行者輪郭抽出装置に関するものである。
近年、安全で快適な交通システムを実現するため、ITS(Intelligent Transport Systems)と呼ばれる高度道路交通システムの研究開発が推進されており、このITSの研究開発の一つとして、コンピュータ構成の歩行者認識システムにより、カメラの撮影画像から歩行者を自動的に認識し、夜間等の運転支援の性能向上を図ることが試みられている。
この場合、スネークス(Snakes)の動的輪郭モデルの画像処理により、撮影画像中の歩行者の輪郭を自動的に抽出することが考えられるが、この動的輪郭モデルの画像処理においては、初期状態のモデル(初期値モデル)をどのように自動設定するかが、認識精度等から重要である。
そして、従来の車両認識における動的輪郭モデルの画像処理を用いた車両の輪郭抽出においては、まず、画像のエッジ検出等により、撮影画像の車両が存在すると予測される領域(候補領域)をその外側から閉曲線で囲み、この状態を初期状態のモデルに設定し、つぎに、設定したモデル評価のエネルギ関数が最小になるように、前記閉曲線を収縮して閉曲線を車両候補領域の輪郭に近づけ、そのときの閉曲線から車両候補領域の輪郭を検出し、検出した輪郭から車両の輪郭を抽出することが提案されている(例えば、特許文献1参照。)。
この種の歩行者認識システムにおいて、例えば図8の撮影画像Pの歩行者Wの輪郭を抽出する場合、前記従来の車両認識の車両の輪郭抽出と同様に、歩行者Wの領域をその外側から閉曲線で囲んだ状態を初期状態のモデルに設定し、設定したモデル評価のエネルギ関数が最小になるように、前記閉曲線を収縮して閉曲線を歩行者Wの輪郭に近づけ、そのときの閉曲線から歩行者Wの輪郭を抽出すると、実際には、撮影画像に種々の物体等が存在するため、前記閉曲線が抽出対象の歩行者W以外の物体も囲むように初期設定され易く、このように初期設定されると、収縮したときの閉曲線が歩行者Wの輪郭から大きくずれ、歩行者Wの輪郭の抽出精度が著しく低下して認識精度が低くなる問題がある。
そして、車両の歩行者認識システムだけでなく、種々の用途の歩行者認識システムについても、前記の車両認識の画像処理と同様の動的輪郭モデルの画像処理によって歩行者の輪郭を抽出して歩行者を認識しようとすると、同様の問題が生じる。
なお、動的輪郭モデルの画像処理を行う場合、撮影画像の歩行者と周囲の背景等とを鮮明に識別するため、撮影画像は、温度の高い歩行者等が白っぽく写る赤外光の画像であることが好ましい。
本発明は、上記の諸点に留意してなされたものであり、車両の自車前方の撮影画像等の種々の道路の撮影画像に基き、動的輪郭モデルの画像処理によって歩行者の輪郭を自動的に精度よく抽出するようにし、歩行者認識システムの認識精度を向上することを目的とする。
上記した目的を達成するために、本発明の歩行者輪郭抽出方法は、撮影手段が撮影した道路の撮影画像につき、水平方向の各位置で垂直方向の画像濃度を加算して得られる垂直濃度投影のヒストグラム、垂直方向の各位置で水平方向の画像濃度を加算して得られる水平濃度投影のヒストグラムを算出し、前記垂直濃度投影のヒストグラムのピーク位置から、前記撮影画像の歩行者候補領域の水平方向の位置を決定し、動的輪郭モデルの初期状態を、前記水平濃度投影のヒストグラムのしきい値以上の部分の長さの垂直線分の状態に決定し、
前記動的輪郭モデルの画像処理により、輪郭抽出線を、水平方向の決定位置に位置した前記歩行者候補領域内の前記垂直線分の初期状態から、画像濃度が変化する前記歩行者候補領域の輪郭部分までほぼ縦長の楕円形に膨らませ、膨らんだ前記輪郭抽出線から前記歩行者候補領域の輪郭を検出し、所定の歩行者条件を満たす検出輪郭を、前記撮影画像の歩行者の輪郭として抽出することを特徴としている(請求項1)。
前記動的輪郭モデルの画像処理により、輪郭抽出線を、水平方向の決定位置に位置した前記歩行者候補領域内の前記垂直線分の初期状態から、画像濃度が変化する前記歩行者候補領域の輪郭部分までほぼ縦長の楕円形に膨らませ、膨らんだ前記輪郭抽出線から前記歩行者候補領域の輪郭を検出し、所定の歩行者条件を満たす検出輪郭を、前記撮影画像の歩行者の輪郭として抽出することを特徴としている(請求項1)。
また、本発明の歩行者輪郭抽出方法は、撮影手段が撮影した道路の撮影画像につき、水平方向の各位置で垂直方向の画像濃度を加算して得られる垂直濃度投影のヒストグラム、垂直方向の各位置で水平方向の画像濃度を加算して得られる水平濃度投影のヒストグラムを算出し、前記垂直濃度投影のヒストグラムのピーク位置から、前記撮影画像の歩行者候補領域の水平方向の位置を決定し、動的輪郭モデルの初期状態を、前記水平濃度投影のヒストグラムのしきい値以上の部分の長さ、かつ、設定された横幅の垂直ストライプの状態に決定し、前記動的輪郭モデルの画像処理により、輪郭抽出線を、水平方向の決定位置に位置した前記歩行者候補領域内の前記垂直ストライプの枠線の初期状態から、前記歩行者候補領域の画像濃度が変化する輪郭部分までほぼ縦長の楕円形に膨らませ、膨らんだ前記輪郭抽出線から前記歩行者候補領域の輪郭を検出し、
所定の歩行者画像条件に合致する検出輪郭を、前記撮影画像の歩行者の輪郭として抽出することを特徴としている(請求項2)。
所定の歩行者画像条件に合致する検出輪郭を、前記撮影画像の歩行者の輪郭として抽出することを特徴としている(請求項2)。
さらに、本発明の歩行者輪郭抽出方法は、前記の水平濃度投影、垂直濃度投影のヒストグラムを、道路の撮影画像の二値画像から算出することを特徴としている(請求項3)。
また、本発明の歩行者輪郭抽出方法は、前記の撮影手段が自車に搭載され、道路の撮影画像が自車前方の撮影画像であることを特徴としている(請求項4)。
そして、本発明の歩行者輪郭抽出方法は、道路の撮影画像が、赤外光領域の撮影画像であることが好ましく(請求項5)、前記の撮影手段が赤外線カメラからなり、道路の撮影画像が前記赤外線カメラの撮影画像であってもよい(請求項6)。
さらに、本発明の歩行者輪郭抽出方法は、所定の歩行者条件が、検出輪郭の大きさ、縦横の比、撮影画像上の位置であることが好ましい(請求項7)。
つぎに、本発明の歩行者輪郭抽出装置は、撮影手段が撮影した道路の撮影画像につき、水平方向の各位置で垂直方向の画像濃度を加算して得られる垂直濃度投影のヒストグラム、垂直方向の各位置で水平方向の画像濃度を加算して得られる水平濃度投影のヒストグラムを算出するヒストグラム演算手段と、前記垂直濃度投影のヒストグラムのピーク位置から、前記撮影画像の歩行者候補領域の水平方向の位置を決定する水平位置決定手段と、動的輪郭モデルの初期状態を、前記水平濃度投影のヒストグラムのしきい値以上の部分の長さの垂直線分の状態に決定する初期状態決定手段と、前記動的輪郭モデルの画像処理により、輪郭抽出線を、水平方向の決定位置に位置した前記歩行者候補領域内の前記垂直線分の初期状態から、画像濃度が変化する前記歩行者候補領域の輪郭部分までほぼ縦長の楕円形に膨らませ、膨らんだ前記輪郭抽出線から前記歩行者候補領域の輪郭を検出する輪郭検出手段と、所定の歩行者条件を満たす前記輪郭検出手段の検出輪郭を、前記撮影画像の歩行者の輪郭として抽出する輪郭抽出手段とを備えたことを特徴としている(請求項8)。
また、本発明の歩行者輪郭抽出装置は、撮影手段が撮影した道路の撮影画像につき、水平方向の各位置で垂直方向の画像濃度を加算して得られる垂直濃度投影のヒストグラム、垂直方向の各位置で水平方向の画像濃度を加算して得られる水平濃度投影のヒストグラムを算出するヒストグラム演算手段と、前記垂直濃度投影のヒストグラムのピーク位置から、前記撮影画像の歩行者候補領域の水平方向の位置を決定する水平位置決定手段と、動的輪郭モデルの初期状態を、前記水平濃度投影のヒストグラムのしきい値以上の部分の長さ、かつ、設定された横幅の垂直ストライプの状態に決定する初期状態決定手段と、前記動的輪郭モデルの画像処理により、輪郭抽出線を、水平方向の決定位置に位置した前記歩行者候補領域内の前記垂直ストライプの枠線の初期状態から、画像濃度が変化する前記歩行者候補領域の輪郭部分までほぼ縦長の楕円形に膨らませ、膨らんだ前記輪郭抽出線から前記歩行者候補領域の輪郭を検出する輪郭検出手段と、所定の歩行者条件を満たす前記候補輪郭検出手段の検出輪郭を、前記撮影画像の歩行者の輪郭として抽出する輪郭抽出手段とを備えたことを特徴としている(請求項9)。
さらに、本発明の歩行者輪郭抽出装置は、前記のヒストグラム演算手段が、水平濃度投影、垂直濃度投影のヒストグラムを、道路の撮影画像の二値画像から算出することを特徴としている(請求項10)。
また、本発明の歩行者輪郭抽出装置は、前記の撮影手段が自車に搭載され、道路の撮影画像が自車前方の撮影画像であることを特徴としている(請求項11)。
そして、本発明の歩行者輪郭抽出装置は、道路の撮影画像が、赤外光領域の撮影画像であることが好ましく(請求項12)、前記の撮影手段が赤外線カメラからなり、道路の撮影画像が前記赤外線カメラの撮影画像であってもよい(請求項13)。
さらに、本発明の歩行者輪郭抽出装置は、所定の歩行者条件が、検出輪郭の大きさ、縦横の比、撮影画像上の位置であることが好ましい(請求項14)。
まず、請求項1、8の構成によれば、撮影手段が撮影した道路の撮影画像につき、垂直濃度投影のヒストグラムのピーク位置から、撮影画像の歩行者候補領域の水平方向の位置を決定し、前記水平濃度投影のヒストグラムのしきい値以上の部分の長さから、動的輪郭モデルの初期状態を、歩行者の特徴を表した縦長の身長相当の垂直線分の状態に決定し、この垂直線分の縦長の輪郭抽出線を歩行者候補領域内に設定することができる。
そして、動的輪郭モデルの画像処理により、輪郭抽出線を、従来のように収縮するのでなく、前記の垂直線分から膨らませると、輪郭抽出線は、歩行者の縦長の特徴に基き、前記の垂直線分からほぼ縦長の楕円に膨らむ。
この場合、初期状態の輪郭抽出線は、歩行者候補領域内に設定されて歩行者候補領域以外のものを囲んだりせず、しかも、歩行者候補領域の特徴に応じたほぼ縦長の楕円形状に膨らむため、歩行者候補領域の輪郭部分まで膨らんだ輪郭抽出線は、歩行者候補領域の輪郭に極めて近い形状になる。
そして、歩行者条件を満たす輪郭抽出線を歩行者の輪郭として抽出するため、撮影画像の歩行者以外のものを歩行者と誤認識したりすることなく、歩行者の輪郭を、該当する輪郭抽出線から精度よく自動的に抽出し、この抽出に基いて歩行者を正確に認識することができ、歩行者認識システムの認識精度を向上することができる。
また、請求項2、9の構成によれば、動的輪郭モデルの初期状態を、水平濃度投影のヒストグラムのしきい値以上の部分の長さ、かつ、設定された横幅の垂直ストライプの状態に決定し、歩行者候補領域内に設定した輪郭抽出線をその垂直ストライプの枠線の状態から膨らませるため、動的輪郭モデルの初期状態を前記の垂直線分の状態から膨らませる場合より、動的輪郭モデルの画像処理が少なくなり、少ない画像処理負担で歩行者の輪郭を迅速に抽出することができる利点もある。
さらに、請求項3、10の構成によれば、前記の水平濃度投影、垂直濃度投影のヒストグラムを、道路の撮影画像の二値画像から算出するため、多諧調の撮影画像そのものから両ヒストグラムを算出する場合に比して、画像処理の演算負担が極めて少なくなり、少ない画像処理負担で歩行者の輪郭を精度よく迅速に抽出することができる利点がある。
つぎに、請求項4、11の構成によれば、撮影手段が自車に搭載され、道路の撮影画像が自車前方の撮影画像であるため、撮影画像から歩行者を自動的に認識し、車両のTISの精度のよい歩行者認識を実現することができる。
さらに、請求項5、12の構成によれば、撮影手段の道路の撮影画像が赤外光領域の撮影画像になり、この撮影画像において、温度が高い歩行者の部分が白っぽく(高濃度)になり、壁や標識等の温度が低い周囲画像は黒っぽく(低濃度)になることから、歩行者と周囲画像とを鮮明に区別することができ、撮影画像の垂直濃度投影、水平濃度投影のヒストグラムが、撮影画像の水平方向、垂直方向の歩行者の位置で大きな値になる。
そのため、垂直濃度投影のヒストグラムのピーク位置から、撮影画像の歩行者候補領域の水平方向の位置を精度よく決定することができ、前記水平濃度投影のヒストグラムのしきい値以上の部分の長さから、動的輪郭モデルの初期状態を、極めて正確に、歩行者の特徴を表した縦長の身長相当の垂直線分の状態又は垂直ストライプの状態に決定することができ、この決定に基き、輪郭抽出線を歩行者候補領域内に精度よく設定し、歩行者の輪郭を、該当する輪郭抽出線から極めて精度よく自動的に抽出し、この抽出に基いて歩行者を正確に認識することができ、歩行者認識システムの認識精度を著しく向上することができる。
また、請求項6、13の構成によれば、撮影手段に赤外線カメラを用いることにより、道路の赤外光領域の撮影画像を容易に得て請求項5、12と同様の効果を得ることができる。
そして、請求項7、14の構成によれば、検出輪郭の大きさ、縦横の比、撮影画像上の位置を所定の歩行者条件としたため、歩行者候補領域の輪郭の大きさや、形状の特徴(縦長)及び存在位置から、歩行者に該当するものを精度よく選択し、選択した候補領域の輪郭抽出線から、歩行者の輪郭を精度よく抽出する具体的な構成を提供することができる。
つぎに、本発明をより詳細に説明するため、その一実施形態について、図1〜図7にしたがって詳述する。
図1は車両1に搭載された歩行者認識システム2のブロック図、図2は図1の動作説明用のフローチャート、図3は図2の一部の詳細なフローチャート、図4は図1の撮影画像の1例の説明図、図5は図1の動的輪郭線モデルの画像処理の説明図、図6は比較のための動的輪郭線モデルの画像処理の説明図、図7は画像処理の初期状態の他の例の説明図である。
(構成)
図1の車両1の歩行者認識システム2は、撮影手段としての単眼カメラ3、マイクロコンピュータ構成のECU4が形成する歩行者輪郭抽出装置5に、例えばインストルメントパネルに取り付けられたCRT、液晶ディスプレイ等の走行モニタ6、警報用のスピーカ7を接続して形成されている。
図1の車両1の歩行者認識システム2は、撮影手段としての単眼カメラ3、マイクロコンピュータ構成のECU4が形成する歩行者輪郭抽出装置5に、例えばインストルメントパネルに取り付けられたCRT、液晶ディスプレイ等の走行モニタ6、警報用のスピーカ7を接続して形成されている。
つぎに、単眼カメラ3は、赤外光領域の撮影を行なって、温度が高い歩行者を白っぽく写し、温度が低いその周辺の壁や標識等を黒っぽく写すため、例えばLEDの赤外光投光器内臓の赤外線カメラからなり、例えばダッシュボード上に設けられて車両1の自車前方を連続的に又は間歇的に撮影し、道路の赤外光領域の撮影画像をECU4に出力する。
なお、単眼カメラ3により、視認性が悪い夜間等の歩行者を、ヘッドライトの及ばない範囲まで撮影して認識するため、単眼カメラ3の赤外光の投光範囲及び撮影範囲は、車両1のヘッドライトの照射範囲より、走行方向及び車幅方向に広いことが望ましい。
また、赤外線カメラは高価であるため、車両1に、追従走行制御等に用いる車載センサとして、安価な可視光撮影用の単眼CCDカメラを搭載する場合、そのCCDカメラとして、近赤外線カット用の光学フィルタを省て撮影感度領域が赤外光領域に及ぶようにしたカメラを使用し、このカメラを単眼カメラ3に共用し、その撮影出力のフイルタ分離等により、自車前方の赤外光領域の撮影画像画像を得るようにしてもよく、この場合は、LED投光等の赤外光の投光器が必要になる。
なお、単眼カメラ3として、赤外線カメラに代えて前記の近赤外線カット用の光学フィルターを省いて撮影感度領域が赤外光領域に及ぶようにした専用のCCDカメラを設けてもよく、また、撮影手段として、単眼カメラ3に代えて、道路の赤外光領域の撮影画像が得られるステレオカメラ等を使用してもよい。
つぎに、ECU4は、例えばイグニッションキーのオンにより、予め設定された歩行者認識のプログラムを実行し、図2のステップS1〜S5、図3のステップS31〜S34のフローチャートに示すソフトウエア処理によって形成されるつぎの各手段を備える。
(1)二値化処理手段
この手段は、取り込んだモノクロ多諧調の撮影画像を、予め設定されたしきい値レベルで二値化して二値画像に変換し、歩行者とその他の物体とを鮮明に区別するとともに、情報量を少なくして画像処理の演算負担を極めて少なくする。
この手段は、取り込んだモノクロ多諧調の撮影画像を、予め設定されたしきい値レベルで二値化して二値画像に変換し、歩行者とその他の物体とを鮮明に区別するとともに、情報量を少なくして画像処理の演算負担を極めて少なくする。
(2)ヒストグラム演算手段
この手段は、撮影手段である単眼カメラ3が撮影した例えば図4の自車前方の撮影画像(道路の赤外光領域の撮影画像)Pにつき、前記の二値画像から、水平方向の各位置で垂直方向の画像濃度を加算して得られる垂直濃度投影のヒストグラムX(v)、垂直方向の各位置で水平方向の画像濃度を加算して得られる水平濃度投影のヒストグラムY(h)を算出する。
この手段は、撮影手段である単眼カメラ3が撮影した例えば図4の自車前方の撮影画像(道路の赤外光領域の撮影画像)Pにつき、前記の二値画像から、水平方向の各位置で垂直方向の画像濃度を加算して得られる垂直濃度投影のヒストグラムX(v)、垂直方向の各位置で水平方向の画像濃度を加算して得られる水平濃度投影のヒストグラムY(h)を算出する。
なお、撮影画像Pは多階調の画像であり、そのままヒストグラムX(v)、Y(h)を求めてもよいが、撮影画像Pの歩行者以外の白っぽい物体による誤認識を極力避けるため、実際には、撮影画像Pを適当なしきい値で二値化処理して二値画像に加工し、この二値画像についてヒストグラムX(v)、Y(h)を算出する。
(3)水平位置決定手段
この手段は、垂直濃度投影のヒストグラムX(v)のピーク位置から、撮影画像Pの歩行者候補領域Wの水平方向の位置xpを決定する。なお、位置xpは領域Wのほぼ横幅の半分の位置である。
この手段は、垂直濃度投影のヒストグラムX(v)のピーク位置から、撮影画像Pの歩行者候補領域Wの水平方向の位置xpを決定する。なお、位置xpは領域Wのほぼ横幅の半分の位置である。
(4)初期状態決定手段
この手段は、動的輪郭モデルの初期状態を、水平濃度投影のヒストグラムY(h)のしきい値以上の部分の長さLの垂直線分の状態に決定する。この状態は、例えば図5の初期状態α(0)であって、同図のraが初期設定された輪郭抽出線である。
この手段は、動的輪郭モデルの初期状態を、水平濃度投影のヒストグラムY(h)のしきい値以上の部分の長さLの垂直線分の状態に決定する。この状態は、例えば図5の初期状態α(0)であって、同図のraが初期設定された輪郭抽出線である。
(5)輪郭検出手段
この手段は、動的輪郭モデルの画像処理により、輪郭抽出線raを、水平方向の決定位置に位置した歩行者候補領域W内の前記垂直線分の初期状態α(0)から、図5の状態α(1)、α(2)、…、α(n)の処理過程に示すように、画像濃度が変化する歩行者候補領域Wの輪郭部分までほぼ縦長の楕円形に膨らませ、状態α(n)の膨らんだ輪郭抽出線raから歩行者候補領域Wの輪郭を検出する。
この手段は、動的輪郭モデルの画像処理により、輪郭抽出線raを、水平方向の決定位置に位置した歩行者候補領域W内の前記垂直線分の初期状態α(0)から、図5の状態α(1)、α(2)、…、α(n)の処理過程に示すように、画像濃度が変化する歩行者候補領域Wの輪郭部分までほぼ縦長の楕円形に膨らませ、状態α(n)の膨らんだ輪郭抽出線raから歩行者候補領域Wの輪郭を検出する。
(6)輪郭抽出手段
この手段は、所定の歩行者条件を満たす輪郭検出手段の検出輪郭、例えば図5の状態α(n)の輪郭線raの検出輪郭を、撮影画像Pの歩行者の輪郭として抽出する。
この手段は、所定の歩行者条件を満たす輪郭検出手段の検出輪郭、例えば図5の状態α(n)の輪郭線raの検出輪郭を、撮影画像Pの歩行者の輪郭として抽出する。
そして、所定の歩行者条件は、検出輪郭の大きさ、縦横の比が、実験等によって予め設定された歩行者の特徴的な範囲内にあり、かつ、検出輪郭が撮影画像上の路面に対して予め設定された妥当な位置にあることである。
(7)認識処理手段
この手段は、輪郭抽出手段によって抽出された輪郭により、図4の撮影画像Pの例えば候補領域Wを歩行者として自動的に認識する手段である。
この手段は、輪郭抽出手段によって抽出された輪郭により、図4の撮影画像Pの例えば候補領域Wを歩行者として自動的に認識する手段である。
(8)認識報知手段
この手段は、認識処理手段の歩行者の認識に基づき、例えば走行モニタ6に表示中の例えば図4の撮影画面Pの候補領域Wを、目立つ色の輪郭線で囲んだり、その輪郭線を点滅させたりして、歩行者の存在を視覚的にドライバに警告し、また、スピーカ7から、認識結果の音声メッセージ、警報音を発生して歩行者の存在を聴覚的にドライバに警告し、認識結果をドライバに報知して運転支援を行なう。
この手段は、認識処理手段の歩行者の認識に基づき、例えば走行モニタ6に表示中の例えば図4の撮影画面Pの候補領域Wを、目立つ色の輪郭線で囲んだり、その輪郭線を点滅させたりして、歩行者の存在を視覚的にドライバに警告し、また、スピーカ7から、認識結果の音声メッセージ、警報音を発生して歩行者の存在を聴覚的にドライバに警告し、認識結果をドライバに報知して運転支援を行なう。
なお、撮影画像を二値化しない場合は二値化処理手段を省くことができ、また、ヒストグラム演算手段、水平位置決定手段、初期状態決定手段、輪郭検出手段、輪郭抽出手段が、歩行者輪郭線抽出の処理手段である。
(動作)
上記のように構成された歩行者認識システム2は、つぎに説明するように動作する。
上記のように構成された歩行者認識システム2は、つぎに説明するように動作する。
まず、車両1のイグニッションキーのオンによりカメラ3が撮影を開始すると、このカメラ3の自車前方の赤外光領域の撮影画像、例えば図4の撮影画像Pの信号が、ECU4に取り込まれる。
そして、ECU4は、図2のステップS1により前記の二値化処理手段の処理を実行し、取り込んだ撮影画像Pを二値化処理し、つぎに、二値化された撮影画像につき、ステップS2により前記のヒストグラム演算手段の演算を実行し、図4のヒストグラムX(v)、Y(h)を算出する。
さらに、ステップS3により、水平位置決定手段、初期状態決定手段、輪郭検出手段が動作し、ヒストグラムX(v)、Y(h)の算出結果に基いて動的輪郭モデルの画像処理を施す。
このステップS3の画像処理は図3のステップS31〜S34からなり、まず、ステップS31により、ヒストグラムX(v)、Y(h)の算出結果に基き、水平位置決定手段
が図4の歩行者候補領域Wの水平方向の位置を決定し、初期状態決定手段が動的輪郭モデルの長さLの垂直線分の初期状態を決定する。
が図4の歩行者候補領域Wの水平方向の位置を決定し、初期状態決定手段が動的輪郭モデルの長さLの垂直線分の初期状態を決定する。
なお、図4の撮影画像Pには白っぽく写った1個の歩行者候補領域Wが存在するが、撮影画像によっては、歩行者が複数人存在したり、温度の高い部分が露出したオートバイ等の物体が存在したりするため、白っぽく写った画像領域が複数個存在し、歩行者候補領域が複数個になることがあり、この場合は、ヒストグラムX(v)、Y(h)の算出結果に基き、歩行者候補領域毎に、水平方向の位置を決定して動的輪郭モデルの長さLの垂直線分の初期状態を決定する。
つぎに、前記の初期状態の決定に基き、輪郭検出手段によって動的輪郭モデルの画像処理を実行し、図5の初期状態α(0)に示すように、候補領域W内に垂直線分の輪郭抽出線raを初期設定する。
なお、歩行者候補領域が複数個あるときは、各歩行者候補領域について、初期状態の輪郭抽出線を設定する。このとき、輪郭抽出線raからも明らかなように、各歩行者候補領域の初期状態の輪郭抽出線は、各候補領域の特徴(例えば歩行者であれば縦長の線分)を反映したものとなる。
つぎに、図3のステップS32、S33のループ処理により、例えば歩行者候補領域Wにつき、輪郭抽出線raの滑らかさ等を反映するように設定された所定のエネルギー関数が最小になるように、輪郭抽出線raを、画像濃度が変化する歩行者候補領域Wの輪郭部分までほぼ縦長の楕円形に膨らませる。
なお、歩行者候補領域が複数個存在する場合は、各歩行者候補領域について前記のループ処理を施し、それぞれの輪郭抽出線を初期状態から輪郭部分まで膨らませる。
この場合、初期状態の各輪郭抽出線は各候補領域の歩行者等の特徴を反映した形状であり、例えば歩行者候補領域Wの初期状態の輪郭抽出線raは歩行者の特徴である縦長の垂直線分の形状になり、しかも、初期状態の各輪郭抽出線は歩行者候補領域内に設定されるため、例えば例えば歩行者候補領域Wの輪郭抽出線raが他の物体を囲むように初期設定されることもない。
そして、歩行者の領域である歩行者候補領域Wの輪郭抽出線raは、図5に示したように、垂直線分の初期状態α(0)から、状態α(1)、α(2)、…、α(n)に膨らむことにより、歩行者候補領域Wの輪郭部分に達した状態α(n)において、領域Wの縦長の歩行者の輪郭に極めて近い形状になる。
なお、歩行者候補領域Wにおいて、歩行者の特徴を反映することなく輪郭抽出線を初期設定して同様の動的輪郭モデルの画像処理を行うと、図6の結果が得られた。
この図6は、輪郭抽出線rbを、初期状態β(0)のときに歩行者候補領域Wの重心等に点に設定し、この点の初期状態β(0)から、動的輪郭モデルの画像処理によって、状態β(1)、β(2)、…、β(n)に膨らませたときの画像処理工程を示し、この場合、輪郭抽出線rbがほぼ円形に膨らむことから、輪郭抽出線rbの一部が歩行者候補領域Wの輪郭部分に達した状態β(n)において、輪郭抽出線rbの形状は、歩行者候補領域Wの輪郭から大きくずれ、図5の状態α(n)の輪郭抽出線raのように、歩行者の輪郭に極めて近い形状にはならない。
そして、動的輪郭モデルの画像処理によって図5の状態α(n)に達すると、図3のステップS34に移行して画像処理を終了し、図2のステプS3からステップS4に移行する。
そして、ステップS4における輪郭検出手段、輪郭抽出手段の動作により、前記の状態α(n)に膨らんだ輪郭抽出線raの形状を歩行者候補領域Wの輪郭として検出し、検出輪郭の大きさ、縦横の比が、実験等によって予め設定された歩行者の特徴的な範囲内にあり、かつ、検出輪郭が撮影画像上の路面に対して予め設定された妥当な位置にあれば、その輪郭抽出線raを歩行者の輪郭として抽出する。
なお、他の歩行者候補領域についても、前記の歩行者候補領域Wと同様にして、輪郭抽出線raを膨らませてその領域の輪郭を検出し、検出輪郭が前記の歩行者画像条件に合致すれば、そのときの輪郭抽出線を歩行者の輪郭として抽出する。
つぎに、図2のステップS5に移行し、認識処理手段により、例えば輪郭抽出線raから撮影画像Pの候補領域Wを歩行者として自動的に認識し、この認識に基づき、認識報知手段により、認識した歩行者を、走行モニタ6の撮影画面P上に、目立つ色の輪郭線で囲んだり、その輪郭線を点滅させたりして、視覚的にドライバに警告し、同時に、スピーカ7から音声メッセジや警報音でドライバに報知し、前方の歩行者の存在を、分かり易く、しかも、極めて正確にドライバに報知して、夜間等の運転支援を実現する。
(初期状態の他の例)
ところで、初期状態決定手段により、動的輪郭モデルの初期状態α(0)を、前記の垂直線分の状態とする代わりに、図7に示すように、ヒストグラムY(h)のしきい値以上の部分の長さL、かつ、実験等に基いて予め設定された横幅ωの垂直ストライプの状態に決定し、初期状態α(0)の輪郭抽出線raを、その垂直ストライプを囲む枠線状とし、動的輪郭線モデルの画像処理により、この状態から状態α(n)に膨らませてもよく、この場合、初期状態α(0)の垂直線分から膨らませる場合より、画像処理の負担が軽減されて短時間で状態α(n)に達する利点がある。
ところで、初期状態決定手段により、動的輪郭モデルの初期状態α(0)を、前記の垂直線分の状態とする代わりに、図7に示すように、ヒストグラムY(h)のしきい値以上の部分の長さL、かつ、実験等に基いて予め設定された横幅ωの垂直ストライプの状態に決定し、初期状態α(0)の輪郭抽出線raを、その垂直ストライプを囲む枠線状とし、動的輪郭線モデルの画像処理により、この状態から状態α(n)に膨らませてもよく、この場合、初期状態α(0)の垂直線分から膨らませる場合より、画像処理の負担が軽減されて短時間で状態α(n)に達する利点がある。
そして、本発明は上記した実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて上述したもの以外に種々の変更を行うことが可能であり、例えば、前記実施形態では、車両1に搭載された歩行者認識システム2の歩行者の輪郭抽出に適用したが、単眼カメラ3を交差点等の近傍に設置し、その道路の赤外光領域の撮影画像から、前記実施形態と同様にして歩行者の輪郭を抽出して歩行者を認識し、その結果に基いて交通量調査等を行なう場合等にも、この発明を同様に適用することができる。
また、抽出結果を歩行者の認識・報知に利用するだけでなく、走行制御等に利用するようにしても良いのは勿論である。
そして、道路の撮影画像は、赤外光領域の撮影画像でなくてもよいが、歩行者が周囲画像より白っぽく(明るく)写る画像であることが好ましい。
ところで、図1の車両1に搭載された歩行者認識システム2の歩行者の輪郭抽出に適用する場合、自車7の装備部品数を少なくするため、単眼カメラ3は、追従走行制御等の撮像センサ等と共用されることが好ましい。
3 単眼カメラ
4 ECU
P 撮影画像
W 歩行者候補領域
X(v)、Y(h) ヒストグラム
ra、rb 輪郭抽出線
4 ECU
P 撮影画像
W 歩行者候補領域
X(v)、Y(h) ヒストグラム
ra、rb 輪郭抽出線
Claims (14)
- 画像処理によって歩行者を認識する歩行者認識システムの歩行者輪郭抽出方法において、
撮影手段が撮影した道路の撮影画像につき、水平方向の各位置で垂直方向の画像濃度を加算して得られる垂直濃度投影のヒストグラム、垂直方向の各位置で水平方向の画像濃度を加算して得られる水平濃度投影のヒストグラムを算出し、
前記垂直濃度投影のヒストグラムのピーク位置から、前記撮影画像の歩行者候補領域の水平方向の位置を決定し、
動的輪郭モデルの初期状態を、前記水平濃度投影のヒストグラムのしきい値以上の部分の長さの垂直線分の状態に決定し、
前記動的輪郭モデルの画像処理により、輪郭抽出線を、水平方向の決定位置に位置した前記歩行者候補領域内の前記垂直線分の初期状態から、画像濃度が変化する前記歩行者候補領域の輪郭部分までほぼ縦長の楕円形に膨らませ、膨らんだ前記輪郭抽出線から前記歩行者候補領域の輪郭を検出し、
所定の歩行者条件を満たす検出輪郭を、前記撮影画像の歩行者の輪郭として抽出することを特徴とする歩行者輪郭抽出方法。 - 画像処理によって歩行者を認識する歩行者認識システムの歩行者輪郭抽出方法において、
撮影手段が撮影した道路の撮影画像につき、水平方向の各位置で垂直方向の画像濃度を加算して得られる垂直濃度投影のヒストグラム、垂直方向の各位置で水平方向の画像濃度を加算して得られる水平濃度投影のヒストグラムを算出し、
前記垂直濃度投影のヒストグラムのピーク位置から、前記撮影画像の歩行者候補領域の水平方向の位置を決定し、
動的輪郭モデルの初期状態を、前記水平濃度投影のヒストグラムのしきい値以上の部分の長さ、かつ、設定された横幅の垂直ストライプの状態に決定し、
前記動的輪郭モデルの画像処理により、輪郭抽出線を、水平方向の決定位置に位置した前記歩行者候補領域内の前記垂直ストライプの枠線の初期状態から、前記歩行者候補領域の画像濃度が変化する輪郭部分までほぼ縦長の楕円形に膨らませ、膨らんだ前記輪郭抽出線から前記歩行者候補領域の輪郭を検出し、
所定の歩行者画像条件に合致する検出輪郭を、前記撮影画像の歩行者の輪郭として抽出することを特徴とする歩行者輪郭抽出方法。 - 請求項1または2に記載の歩行者輪郭抽出方法において、
水平濃度投影、垂直濃度投影のヒストグラムを、道路の撮影画像の二値画像から算出することを特徴とする歩行者輪郭抽出方法。 - 請求項1〜3のいずれかに記載の歩行者輪郭抽出方法において、
撮影手段が自車に搭載され、道路の撮影画像が自車前方の撮影画像であることを特徴とする歩行者輪郭抽出方法。 - 請求項1〜4のいずれかに記載の歩行者輪郭抽出方法において、
道路の撮影画像が、赤外光領域の撮影画像であることを特徴とする歩行者輪郭抽出方法。 - 請求項1〜4のいずれかに記載の歩行者輪郭抽出方法において、
撮影手段が赤外線カメラからなり、道路の撮影画像が前記赤外線カメラの撮影画像であることを特徴とする歩行者輪郭抽出方法。 - 請求項1〜6のいずれかに記載の歩行者輪郭抽出方法において、
所定の歩行者条件が、検出輪郭の大きさ、縦横の比、撮影画像上の位置であることを特徴とする歩行者輪郭抽出方法。 - 画像処理によって歩行者を認識する歩行者認識システムの歩行者輪郭抽出装置において、
撮影手段が撮影した道路の撮影画像につき、水平方向の各位置で垂直方向の画像濃度を加算して得られる垂直濃度投影のヒストグラム、垂直方向の各位置で水平方向の画像濃度を加算して得られる水平濃度投影のヒストグラムを算出するヒストグラム演算手段と、
前記垂直濃度投影のヒストグラムのピーク位置から、前記撮影画像の歩行者候補領域の水平方向の位置を決定する水平位置決定手段と、
動的輪郭モデルの初期状態を、前記水平濃度投影のヒストグラムのしきい値以上の部分の長さの垂直線分の状態に決定する初期状態決定手段と、
前記動的輪郭モデルの画像処理により、輪郭抽出線を、水平方向の決定位置に位置した前記歩行者候補領域内の前記垂直線分の初期状態から、画像濃度が変化する前記歩行者候補領域の輪郭部分までほぼ縦長の楕円形に膨らませ、膨らんだ前記輪郭抽出線から前記歩行者候補領域の輪郭を検出する輪郭検出手段と、
所定の歩行者条件を満たす前記輪郭検出手段の検出輪郭を、前記撮影画像の歩行者の輪郭として抽出する輪郭抽出手段とを備えたことを特徴とする歩行者輪郭抽出装置。 - 画像処理によって歩行者を認識する歩行者認識システムの歩行者輪郭抽出装置において、
撮影手段が撮影した道路の撮影画像につき、水平方向の各位置で垂直方向の画像濃度を加算して得られる垂直濃度投影のヒストグラム、垂直方向の各位置で水平方向の画像濃度を加算して得られる水平濃度投影のヒストグラムを算出するヒストグラム演算手段と、
前記垂直濃度投影のヒストグラムのピーク位置から、前記撮影画像の歩行者候補領域の水平方向の位置を決定する水平位置決定手段と、
動的輪郭モデルの初期状態を、前記水平濃度投影のヒストグラムのしきい値以上の部分の長さ、かつ、設定された横幅の垂直ストライプの状態に決定する初期状態決定手段と、
前記動的輪郭モデルの画像処理により、輪郭抽出線を、水平方向の決定位置に位置した前記歩行者候補領域内の前記垂直ストライプの枠線の初期状態から、画像濃度が変化する前記歩行者候補領域の輪郭部分までほぼ縦長の楕円形に膨らませ、膨らんだ前記輪郭抽出線から前記歩行者候補領域の輪郭を検出する輪郭検出手段と、
所定の歩行者条件を満たす前記候補輪郭検出手段の検出輪郭を、前記撮影画像の歩行者の輪郭として抽出する輪郭抽出手段とを備えたことを特徴とする歩行者輪郭抽出装置。 - 請求項8または9に記載の歩行者輪郭抽出装置において、
ヒストグラム演算手段が、水平濃度投影、垂直濃度投影のヒストグラムを、道路の撮影画像の二値画像から算出することを特徴とする歩行者輪郭抽出装置。 - 請求項8〜10のいずれかに記載の歩行者輪郭抽出装置において、
撮影手段が自車に搭載され、道路の撮影画像が自車前方の撮影画像であることを特徴とする歩行者輪郭抽出装置。 - 請求項8〜11のいずれかに記載の歩行者輪郭抽出装置において、
道路の撮影画像が、赤外光領域の撮影画像であることを特徴とする歩行者輪郭抽出装置。 - 請求項8〜11のいずれかに記載の歩行者輪郭抽出装置において、
撮影手段が赤外線カメラからなり、道路の撮影画像が前記赤外線カメラの撮影画像であることを特徴とする歩行者輪郭抽出装置。 - 請求項8〜13のいずれかに記載の歩行者輪郭抽出装置において、
輪郭抽出手段の所定の歩行者条件が、検出輪郭の大きさ、縦横の比、撮影画像上の位置であることを特徴とする歩行者輪郭抽出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004076210A JP2005267030A (ja) | 2004-03-17 | 2004-03-17 | 歩行者輪郭抽出方法及び歩行者輪郭抽出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004076210A JP2005267030A (ja) | 2004-03-17 | 2004-03-17 | 歩行者輪郭抽出方法及び歩行者輪郭抽出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005267030A true JP2005267030A (ja) | 2005-09-29 |
Family
ID=35091540
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004076210A Pending JP2005267030A (ja) | 2004-03-17 | 2004-03-17 | 歩行者輪郭抽出方法及び歩行者輪郭抽出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005267030A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007265343A (ja) * | 2006-03-30 | 2007-10-11 | Tottori Univ | 移動物体の追従装置及び同装置を備えた電動車椅子 |
JP2008212778A (ja) * | 2007-02-28 | 2008-09-18 | Taiheiyo Cement Corp | 骨材選別装置 |
JP2010161736A (ja) * | 2009-01-09 | 2010-07-22 | Toyota Motor Corp | ナイトビジョンシステム |
EP2381162A2 (en) | 2010-04-23 | 2011-10-26 | Koito Manufacturing Co., Ltd | A vehicular illumination lamp |
JP2012066606A (ja) * | 2010-09-21 | 2012-04-05 | Denso Corp | 車両用表示装置 |
KR20180060024A (ko) * | 2016-11-28 | 2018-06-07 | 동국대학교 산학협력단 | 차량의 충돌방지시스템 및 그 방법 |
KR20190054069A (ko) | 2016-09-23 | 2019-05-21 | 소니 세미컨덕터 솔루션즈 가부시키가이샤 | 신호 처리 장치, 촬영 장치 및 신호 처리 방법 |
CN112464782A (zh) * | 2020-11-24 | 2021-03-09 | 惠州华阳通用电子有限公司 | 一种行人识别方法和系统 |
-
2004
- 2004-03-17 JP JP2004076210A patent/JP2005267030A/ja active Pending
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007265343A (ja) * | 2006-03-30 | 2007-10-11 | Tottori Univ | 移動物体の追従装置及び同装置を備えた電動車椅子 |
JP2008212778A (ja) * | 2007-02-28 | 2008-09-18 | Taiheiyo Cement Corp | 骨材選別装置 |
JP2010161736A (ja) * | 2009-01-09 | 2010-07-22 | Toyota Motor Corp | ナイトビジョンシステム |
EP2381162A2 (en) | 2010-04-23 | 2011-10-26 | Koito Manufacturing Co., Ltd | A vehicular illumination lamp |
JP2012066606A (ja) * | 2010-09-21 | 2012-04-05 | Denso Corp | 車両用表示装置 |
KR20190054069A (ko) | 2016-09-23 | 2019-05-21 | 소니 세미컨덕터 솔루션즈 가부시키가이샤 | 신호 처리 장치, 촬영 장치 및 신호 처리 방법 |
EP3518524A4 (en) * | 2016-09-23 | 2019-09-25 | Sony Semiconductor Solutions Corporation | SIGNAL PROCESSING DEVICE, IMAGE CAPTURE DEVICE, AND SIGNAL PROCESSING METHOD |
KR20180060024A (ko) * | 2016-11-28 | 2018-06-07 | 동국대학교 산학협력단 | 차량의 충돌방지시스템 및 그 방법 |
KR101894731B1 (ko) * | 2016-11-28 | 2018-09-04 | 동국대학교 산학협력단 | 차량의 충돌방지시스템 및 그 방법 |
CN112464782A (zh) * | 2020-11-24 | 2021-03-09 | 惠州华阳通用电子有限公司 | 一种行人识别方法和系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5529910B2 (ja) | 車両周辺監視装置 | |
KR101517181B1 (ko) | 차선 이탈 경보 시스템 및 방법 | |
KR101362324B1 (ko) | 차선 이탈 경보 시스템 및 방법 | |
US7418112B2 (en) | Pedestrian detection apparatus | |
JP3987057B2 (ja) | 車両周辺監視装置 | |
JP5774770B2 (ja) | 車両周辺監視装置 | |
JP2005354597A (ja) | 車両周辺監視装置 | |
JP4528283B2 (ja) | 車両周辺監視装置 | |
JP2007334751A (ja) | 車両周辺監視装置 | |
KR101103526B1 (ko) | 스테레오 카메라를 이용한 충돌회피 방법 | |
JP2008123113A (ja) | 歩行者検知装置 | |
JP2005316607A (ja) | 画像処理装置及び画像処理方法 | |
JP2007015525A (ja) | カメラが撮影した前方画像に基づいて、先行車両と自車両との間の接近の危険に対処するための信号を出力する出力装置、および、当該出力装置のためのプログラム | |
JP2001108758A (ja) | 人物検出装置 | |
JP2012177997A (ja) | パッシング内容判定装置 | |
KR101124948B1 (ko) | 전방 차량의 출발알림 경보시스템 | |
JP4913101B2 (ja) | 車両用道路形状検出装置 | |
JP2014146267A (ja) | 歩行者検出装置、運転支援装置 | |
JP2005267030A (ja) | 歩行者輪郭抽出方法及び歩行者輪郭抽出装置 | |
JP2008226163A (ja) | 車両の安全装置 | |
JP4813304B2 (ja) | 車両周辺監視装置 | |
JP4003569B2 (ja) | 交差点事故防止装置及びプログラム | |
JP2004341801A (ja) | 追跡車両ランプ検出システムおよび追跡車両ランプ検出方法 | |
JP2000306097A (ja) | 道路領域判定装置 | |
JP3999088B2 (ja) | 障害物検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071023 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080513 |