JP5388059B2 - 背景画像推定に基づく物体検出方法及び物体検出装置 - Google Patents
背景画像推定に基づく物体検出方法及び物体検出装置 Download PDFInfo
- Publication number
- JP5388059B2 JP5388059B2 JP2009158120A JP2009158120A JP5388059B2 JP 5388059 B2 JP5388059 B2 JP 5388059B2 JP 2009158120 A JP2009158120 A JP 2009158120A JP 2009158120 A JP2009158120 A JP 2009158120A JP 5388059 B2 JP5388059 B2 JP 5388059B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- image frame
- pixel
- normal distribution
- background image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Studio Devices (AREA)
- Image Analysis (AREA)
Description
従来法としては、ステレオカメラシステムによる検出方法(ステレオ法)が主体である(例えば、特許文献1〜3参照)。
また、左右2台のカメラで取得した画像間の対応付けが必要であるが、人が行うほど正確な対応付けはできない。
更に、カメラが2台必要であり、設置するためのコストもかかる。
なお、従来の移動物体(障害物)の検出方法(ステレオ法)は、車載ビジョンにおいては、一般道路走行時の場合の検出方法が主であり、交差点付近のように移動速度が遅い場合の検出方法は少ない。
前記各画像フレームを構成する画素ごとに濃度値の正規分布を求め、前記各画像フレームの各画素の濃度値の正規分布と該各画素の濃度値との比較から前記背景画像を推定し、前記移動物体画像を得るに際し、
前記背景画像は、前記画像フレームのうち、前の画像フレームAを構成する画素ごとの濃度値の正規分布Aを用いて、前記画像フレームAの各画素の位置と該画像フレームAの次の画像フレームBの各画素の位置との対応から、該画像フレームBを構成する画素ごとの濃度値の正規分布Bを求め、前記画像フレームBを構成する画素ごとの濃度値が、前記濃度値の正規分布Bの予め設定した値の範囲内か否かを基準に推定する。
前記各画像フレームを構成する画素ごとに濃度値の正規分布を求め、前記各画像フレームの各画素の濃度値の正規分布と該各画素の濃度値との比較から前記背景画像を推定し、該推定した前記背景画像から前記移動物体画像を得る背景画像推定手段を有し、
前記背景画像推定手段は、前記画像フレームのうち、前の画像フレームAを構成する画素ごとの濃度値の正規分布Aを用いて、前記画像フレームAの各画素の位置と該画像フレームAの次の画像フレームBの各画素の位置との対応から、該画像フレームBを構成する画素ごとの濃度値の正規分布Bを求め、前記画像フレームBを構成する画素ごとの濃度値が、前記濃度値の正規分布Bの予め設定した値の範囲内か否かを基準に、前記背景画像を推定する。
更に、移動物体の画像は、徐行移動可能な1つの画像入力手段により得られるため、従来のステレオ法と異なり、不安定性がある左右画像間の対応付け処理が不要である。また、カメラを2台用いるステレオ法よりも、コストを低く抑えることができ、経済的である。
また、画像入力手段が車載用カメラである場合、特に人(障害物)を検出することで、例えば、横断歩道等で危険な人物を判定し、警告信号をドライバーに与えることが可能になり、自動車運転の安全技術の向上に貢献できる。更に、画像入力手段が移動ロボット用カメラである場合、例えば、知能ロボットがこの機能を持てば、人の様々な活動を支援、あるいは保護することが可能になる。
図1〜図7に示すように、本発明の一実施の形態に係る背景画像推定に基づく物体検出方法は、自動車に取付け固定された徐行移動可能な1つのカメラ(画像入力手段の一例)を用い、予め設定した時間間隔で撮影された複数の画像フレームの背景画像10から、人画像(移動物体画像の一例)11を検出する方法である。なお、撮影した複数の画像フレームは、時系列的に撮影されたものであり、前の画像フレームAを画像フレームFi−1とし、これに連続する次の画像フレームBを画像フレームFiとして、全画像フレームの数をIとした場合、iは1以上I以下の正の整数である。以下、詳しく説明する。
このカメラは、例えば、デジタルビデオカメラやCCDカメラである。なお、撮影した画像フレームのサイズ(画素数)は、例えば、(100〜500)×(100〜500)ピクセル程度である。また、画像フレームの撮影速度は、例えば、1秒あたり10〜100枚程度である。
このカメラによる撮影は、自動車が徐行移動するとき又は停止するときに行われる。ここで、徐行移動とは、例えば、上限が、10km/時間、更には5km/時間、下限が0を超え、又は1km/時間の速度を意味する。
そこで、本実施の形態に係る物体検出方法を構成する以下の作業を、本発明の一実施の形態に係る背景画像推定に基づく物体検出装置(以下、単に物体検出装置ともいう)のコンピュータ(図示しない)内で計算して行い、コンピュータ内のプログラムにより画像処理して、人画像を検出する。このコンピュータは、RAM、CPU、ROM、I/O、及びこれらの要素を接続するバスを備えた従来公知のものであり、背景画像推定手段を有している。なお、物体検出装置は、上記したカメラも有している。
以下、カメラが徐行移動する場合について説明する。
濃度値の正規分布Aを求める処理は、カメラで撮影した画像フレームFi−1のデータを、コンピュータに送信して記憶手段に保存し、コンピュータ内の演算手段を用いて行う。なお、画像フレームFi−1の次の画像フレームFiのデータも、コンピュータに送信して記憶手段に保存しておく。
ただし、上記した濃度値の正規分布Ni−1(f;μ,Σ)(x,y)は、式(1)及び式(2)で示される。
このように、特徴点検出法を用いることで、画像フレームFi−1内で対応の取り易い(動きベクトルを算出し易い)特徴点を検出でき、画像フレームFi−1内の任意の点で動きベクトルを求めようとした場合に発生する誤差を小さくできる(以上、特徴点検出工程)。
これにより、図3に示すように、画像フレームFi−1内の特徴点Pk,i−1(図3の細線の○印で囲まれた位置)が、画像フレームFi内のどの位置(図3の太線の○印で囲まれた位置、即ち対応点Pa(k),i)に対応しているのかを検出し、これを記憶手段に記憶する。
この手法では、2枚の画像をそれぞれ順次圧縮して、ピラミッド形状の階層構造を作成する。画像フレーム上の動きは、解像度が低いほど小さくなる。このことを利用して、解像度の低い画像から、L−K法により動きベクトルを推定し、その結果を次の階層の動きベクトル推定の初期値として用いる。この処理を原画像のサイズになるまで繰返すことにより、L−K法は比較的大きな動きに対応することができる(以上、特徴点追跡工程)。
なお、このとき、RANSAC(RANdom SAmple Consensus)を用いて、局所的な動き(アウトライア)となる対応点のセットを除き、これを記憶手段に記憶させる。
1)全ての動きベクトル内からランダムにR個のベクトルを選択する。
2)選択されたベクトルを用いて最小二乗法でモデルパラメータを計算する。
3)全ての算出された動きベクトル(u、v)において、得られたモデルパラメータで計算されるモデルベクトル(mu、mv)との誤差E={(u−mu)2+(v−mv)2}1/2を測定し、誤差Eが閾値内に入るベクトル(インライア)の数を測定する。
4)上記1)〜3)を十分多数回繰返す。
5)最も多くのインライアが得られたモデルパラメータにおける全てのインライアを用いて、最終的なモデルパラメータを計算する(以上、カメラ運動モデル推定工程)。
具体的には、図5に示すように、画像フレームFi上の各画素pの位置(x,y)iに対応する画像フレームFi−1上の点(x,y)i−1を、上記した2次元射影変換Ti−1→iの逆変換を用いて求める(図5に示す点線矢印)。そして、点(x,y)i−1の最近傍の4画素(テクスチャのある画素)の正規分布から、双線形補間によりRGBの各平均値μR、μG、μBと分散σ2を求め、これを画素pの位置(x,y)iの濃度値の正規分布Ni(f;μ,Σ)(x,y)とする。
このように、画像フレームFiを構成する画素ごとの濃度値の正規分布Ni(f;μ,Σ)(x,y)を、カメラの移動に伴う画像フレームFi−1の各画素p´の点(x,y)i−1の位置と画像フレームFiの各画素pの位置(x,y)iとの対応から、画像フレームFi−1の画素ごとの濃度値の正規分布Ni−1(f;μ,Σ)(x,y)を用いて求めることができる(以上、正規分布算出工程)。
同様の処理を全画素に対して行うことで、画像フレームFi上の前景画素(F)が得られるため、これを記憶手段に記憶させる。
なお、背景とは、カメラの位置が移動する場合、その動きがカメラの動きのみに起因する画素の集合を意味し(静止カメラの場合、連続した画像フレーム間で静止した画素の集合を意味する)、前景とは、背景以外の画素の集合を意味する。
これにより、画像フレームFi−1、Fiを構成する画素ごとに求めた濃度値の正規分布Ni−1(f;μ,Σ)(x,y)、Ni(f;μ,Σ)(x,y)から、カメラの移動に伴って移動する背景画像を推定できる(以上、移動物体画像検出工程)。
以上に示した背景画像の推定は、コンピュータ内の背景画像推定手段により処理して行う。
具体的には、式(4)〜式(7)を使用して画素pの位置(x,y)iの正規分布を更新する。なお、更新は、背景画素(background pixel)か前景画素(foreground pixel)かに応じて、異なる更新式を用いて行われる。
この更新式である式(4)と式(7)により、新たな正規分布Ni #(f;μ#,Σ#)(x,y)が得られる。このように、新たに求めた(得られた)濃度値を用いて正規分布を更新し、これを画素pの位置(x,y)iの新しい正規分布Ni(f;μ,Σ)(x,y)とする。
この手続きを、全画素に対して行い、記憶手段に記憶させる(以上、正規分布更新工程)。
このように、正規分布の更新を行う場合は、コンピュータ内に更に正規分布更新手段を設けて行う。
更に、i:=i+1として、i≦I(全画像フレーム数)の間、上記工程を順次行う処理を繰り返して、全画像フレームの処理を終わらせる。
以上により、推定された背景画像10上の画素ごとの正規分布と、画像フレームFi上の各画素の濃度値との比較により、人画像11が得られる。
以上に示した背景画像の推定と人画像の検出は、コンピュータ内の背景画像推定手段により処理して行う。
従って、カメラが徐行移動し、画像フレームFi−1、Fi上で背景画像10の位置が移動しても、人画像11を検出でき、且つその形状を認識できる。なお、カメラが停止している場合においても、人画像の形状を認識できる。
ここでは、カメラには車載用カメラを使用し、横断歩道手前で停止した車から撮影した場合と、交差点を左折して停止した車から撮影した場合の2例について、画像フレームから人画像を検出した結果について説明する。
なお、撮影した画像フレームのサイズは、320×220ピクセル、また、画像フレームの撮影速度は、1秒あたり30枚である。
図8(A)に示す原画像に対し、前記した本発明の背景画像推定に基づく物体検出方法を適用することで、図8(B)に示す原画像の背景画像を推定でき、これにより、図8(C)に示す原画像から人画像を検出できることを確認できた。
図9(A)に示す原画像に対し、前記した本発明の背景画像推定に基づく物体検出方法を適用することで、図9(B)に示す原画像の背景画像を推定でき、これにより、図9(C)に示す原画像から人画像を検出できることを確認できた。
Claims (6)
- 車載用カメラ又は移動ロボット用カメラからなる徐行移動可能な1つの画像入力手段を用い、予め設定した時間間隔で撮影された複数の画像フレームの背景画像から、移動物体画像を検出する物体検出方法であって、
前記各画像フレームを構成する画素ごとに濃度値の正規分布を求め、前記各画像フレームの各画素の濃度値の正規分布と該各画素の濃度値との比較から前記背景画像を推定し、前記移動物体画像を得るに際し、
前記背景画像は、前記画像フレームのうち、前の画像フレームAを構成する画素ごとの濃度値の正規分布Aを用いて、前記画像フレームAの各画素の位置と該画像フレームAの次の画像フレームBの各画素の位置との対応から、該画像フレームBを構成する画素ごとの濃度値の正規分布Bを求め、前記画像フレームBを構成する画素ごとの濃度値が、前記濃度値の正規分布Bの予め設定した値の範囲内か否かを基準に推定することを特徴とする背景画像推定に基づく物体検出方法。 - 請求項1記載の背景画像推定に基づく物体検出方法において、前記前の画像フレームAのうち基準となる画像フレームは、該基準となる画像フレームを構成する各画素に濃度値の正規分布を与えて前記濃度値の正規分布Aとすることを特徴とする背景画像推定に基づく物体検出方法。
- 請求項1又は2記載の背景画像推定に基づく物体検出方法において、前記背景画像と前記移動物体画像をそれぞれ構成する画素ごとの濃度値の正規分布を、新たに求めた濃度値で更新することを特徴とする背景画像推定に基づく物体検出方法。
- 車載用カメラ又は移動ロボット用カメラからなる徐行移動可能な1つの画像入力手段を用い、予め設定した時間間隔で撮影された複数の画像フレームの背景画像から、移動物体画像を検出する物体検出装置であって、
前記各画像フレームを構成する画素ごとに濃度値の正規分布を求め、前記各画像フレームの各画素の濃度値の正規分布と該各画素の濃度値との比較から前記背景画像を推定し、該推定した前記背景画像から前記移動物体画像を得る背景画像推定手段を有し、
前記背景画像推定手段は、前記画像フレームのうち、前の画像フレームAを構成する画素ごとの濃度値の正規分布Aを用いて、前記画像フレームAの各画素の位置と該画像フレームAの次の画像フレームBの各画素の位置との対応から、該画像フレームBを構成する画素ごとの濃度値の正規分布Bを求め、前記画像フレームBを構成する画素ごとの濃度値が、前記濃度値の正規分布Bの予め設定した値の範囲内か否かを基準に、前記背景画像を推定することを特徴とする背景画像推定に基づく物体検出装置。 - 請求項4記載の背景画像推定に基づく物体検出装置において、前記背景画像推定手段は、前記前の画像フレームAのうち基準となる画像フレームの画素ごとの濃度値の正規分布Aを、該基準となる画像フレームを構成する各画素に濃度値の正規分布を与えて求めることを特徴とする背景画像推定に基づく物体検出装置。
- 請求項4又は5記載の背景画像推定に基づく物体検出装置において、更に、前記背景画像と前記移動物体画像をそれぞれ構成する画素ごとの濃度値の正規分布を、新たに求めた濃度値で更新する正規分布更新手段を備えることを特徴とする背景画像推定に基づく物体検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009158120A JP5388059B2 (ja) | 2009-07-02 | 2009-07-02 | 背景画像推定に基づく物体検出方法及び物体検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009158120A JP5388059B2 (ja) | 2009-07-02 | 2009-07-02 | 背景画像推定に基づく物体検出方法及び物体検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011013978A JP2011013978A (ja) | 2011-01-20 |
JP5388059B2 true JP5388059B2 (ja) | 2014-01-15 |
Family
ID=43592784
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009158120A Active JP5388059B2 (ja) | 2009-07-02 | 2009-07-02 | 背景画像推定に基づく物体検出方法及び物体検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5388059B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5833887B2 (ja) * | 2011-10-27 | 2015-12-16 | 東芝アルパイン・オートモティブテクノロジー株式会社 | 自車移動推定方法および自車移動推定プログラム |
JP2014039169A (ja) * | 2012-08-16 | 2014-02-27 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP6150558B2 (ja) * | 2013-02-27 | 2017-06-21 | キヤノン株式会社 | 追尾処理装置およびその制御方法 |
EP3057061B1 (en) * | 2015-02-16 | 2017-08-30 | Application Solutions (Electronics and Vision) Limited | Method and device for the estimation of car egomotion from surround view images |
US10755419B2 (en) * | 2017-01-30 | 2020-08-25 | Nec Corporation | Moving object detection apparatus, moving object detection method and program |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009031939A (ja) * | 2007-07-25 | 2009-02-12 | Advanced Telecommunication Research Institute International | 画像処理装置、画像処理方法及び画像処理プログラム |
-
2009
- 2009-07-02 JP JP2009158120A patent/JP5388059B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2011013978A (ja) | 2011-01-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11816991B2 (en) | Vehicle environment modeling with a camera | |
JP4751429B2 (ja) | 物体追跡の方法 | |
JP5975598B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
CN107808390A (zh) | 使用来自单摄像机的数据的对象距离估算 | |
EP3598387B1 (en) | Learning method and program | |
CN107886043B (zh) | 视觉感知的汽车前视车辆和行人防碰撞预警系统及方法 | |
JP6574611B2 (ja) | 立体画像に基づいて距離情報を求めるためのセンサシステム | |
JP6171593B2 (ja) | 視差図からの対象追跡方法及びシステム | |
JP2007514211A (ja) | 深度データを用いたビジュアルトラッキング | |
JP5388059B2 (ja) | 背景画像推定に基づく物体検出方法及び物体検出装置 | |
KR102507248B1 (ko) | 에고모션 추정 시스템 및 방법 | |
WO2006068223A1 (ja) | 画像処理装置 | |
CN105719311A (zh) | 用于检测目标的车辆系统及其操作方法 | |
JP2010282615A (ja) | 3dワーピング手法と固有対象物運動(pom)の検出の組み合わせに基づく対象物の動き検出システム | |
CN108280445B (zh) | 一种车辆周围运动物体和凸起障碍物的检测方法 | |
KR101483742B1 (ko) | 지능형 차량의 차선 검출방법 | |
JP2000048211A (ja) | 移動物体追跡装置 | |
JP2934330B2 (ja) | 車両の操作量決定装置 | |
JP2019128153A (ja) | 距離算出装置及び車両制御装置 | |
JP4246691B2 (ja) | 画像情報処理システム、画像情報処理方法、画像情報処理プログラム、及び自動車 | |
JP4376199B2 (ja) | 画像処理装置 | |
JP5903901B2 (ja) | 車両位置算出装置 | |
Westerhoff et al. | Development and comparison of homography based estimation techniques for camera to road surface orientation | |
Kim et al. | Real-time human segmentation from RGB-D video sequence based on adaptive geodesic distance computation | |
JP2004038760A (ja) | 車両用走行路認識装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120529 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130304 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130521 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130718 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130910 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131001 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5388059 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |