JP4272539B2 - 移動物体検出装置、移動物体検出方法、および移動物体検出プログラム - Google Patents

移動物体検出装置、移動物体検出方法、および移動物体検出プログラム Download PDF

Info

Publication number
JP4272539B2
JP4272539B2 JP2004000617A JP2004000617A JP4272539B2 JP 4272539 B2 JP4272539 B2 JP 4272539B2 JP 2004000617 A JP2004000617 A JP 2004000617A JP 2004000617 A JP2004000617 A JP 2004000617A JP 4272539 B2 JP4272539 B2 JP 4272539B2
Authority
JP
Japan
Prior art keywords
target
moving object
distance
image
target distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004000617A
Other languages
English (en)
Other versions
JP2005196362A (ja
Inventor
信男 檜垣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2004000617A priority Critical patent/JP4272539B2/ja
Priority to US11/015,796 priority patent/US7376250B2/en
Priority to DE102005000646A priority patent/DE102005000646B4/de
Publication of JP2005196362A publication Critical patent/JP2005196362A/ja
Application granted granted Critical
Publication of JP4272539B2 publication Critical patent/JP4272539B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、移動物体検出装置、移動物体検出方法、および移動物体検出プログラムに関し、詳しくは、複数のデジタルビデオカメラで撮像した画像から、適切に人物やロボットなどの移動物体を検出する移動物体検出装置、移動物体検出方法、および移動物体検出プログラムに関する。
従来、CCDなどを用いたデジタルビデオカメラ(以下、単に「カメラ」という)で撮像した画像から、物体を検出する技術として、例えば、画像内での物体の初期の曖昧な輪郭を輪郭モデルとして設定し、その輪郭モデルを所定の規則に従って収縮変形させることで物体の輪郭を抽出して物体を検出する技術(動的輪郭モデル:SNAKES)が知られている。この輪郭抽出に基づいた物体検出技術においては、時間的に連続した画像により、動きのある物体(移動物体)のエッジ(画素の輝度変化の大きい部分)を検出し、輪郭モデルをそのエッジに連結させることで移動物体の輪郭を抽出して移動物体を検出している(例えば、特許文献1参照)。
前記した特許文献1に記載の技術では、撮像した画像上で、複数の物体が隣接して存在する場合、その複数の物体を一つの物体として認識してしまうという問題がある。
そこで、本発明者は、複数の移動物体が隣接して並んでいる場合にも、各移動物体を個別に検出できる手法について、未公開の特許出願である特願2002−334940において開示している。この発明では、エッジ画像において、画面の縦方向にエッジ画素の総数を数え、これをグラフにしたヒストグラムから、移動物体の中心を設定し、その中心から所定幅を1つの移動物体であると認識することで、複数の移動物体から個別の移動物体を検出することを可能にしている。
特開平8−329254号公報(第7頁、第9−10図)
しかしながら、前述した改良された移動物体検出方法においても、例えば、移動物体である人物が手を挙げている場合などには、その手の部分で局所的にエッジ画素の総数が多くなり、その人物の中央位置であると誤認してしまうことがあった。
そこで、本発明では、エッジ画素数のヒストグラムにおける局所的なノイズに影響されず、適切に各移動物体を検出することができる移動物体検出装置、移動物体検出方法、および移動物体検出プログラムを提供することを目的とする。
前記課題を解決するため、本発明の移動物体抽出装置は、同期した複数のカメラで撮像対象を撮像した複数の撮像画像から、移動物体を検出する移動物体検出装置であって、前記複数の撮像画像の視差に基づいて、前記撮像対象までの距離を距離情報として生成する距離情報生成手段と、前記複数のカメラの中の少なくとも一つのカメラから、時系列に入力される撮像画像の差分に基づいて、前記移動物体の動きを動き情報として生成する動き情報生成手段と、前記距離情報に含まれる距離毎に、前記動き情報に含まれる動きのあった画素値を累計し、前記累計値が最大となる距離を、前記移動物体が存在する対象距離として設定する対象距離設定手段と、前記距離情報に基づいて、前記対象距離設定手段で設定された対象距離に対応する画素からなる対象距離画像を生成する対象距離画像生成手段と、前記対象距離画像内に、少なくとも前記対象距離に対応して、前記移動物体を検出する対象となる対象領域を設定する対象領域設定手段と、この対象領域設定手段で設定された対象領域から輪郭を抽出することで、前記移動物体を検出する輪郭抽出手段とを備える。そして、前記対象領域設定手段は、前記対象距離画像において、水平方向の座標ごとに垂直方向に画素数をカウントしてヒストグラムを生成した後、このヒストグラムを平滑化し、平滑化後のヒストグラムのうち、最も画素数が大きい座標を前記移動物体の中心として、前記対象領域を設定することを特徴とする(請求項1)。
このような移動物体検出装置によれば、ヒストグラムにおいて発生した局部的なピークが、平滑化の処理により除去されるので、このようなノイズの影響を受けずに、移動物体の水平方向の位置を正確に設定でき、移動物体の抽出が正確に行われる。
なお、ここでいう対象距離とは、一点の距離でもよいし、幅のある(範囲がある)距離、例えば、1.0m〜1.2mのような距離でもよい。
また、前記した移動物体抽出装置においては、前記撮像画像の各画素の色情報又は濃淡情報に基づいて、その撮像画像のエッジを抽出したエッジ画像を生成するエッジ画像生成手段をさらに備え、前記対象距離画像生成手段は、前記エッジ画像において、前記対象距離設定手段で設定された対象距離に対応する画素を抽出して前記対象距離画像を生成するのが望ましい(請求項2)。
このように、エッジ画像から生成した対象エッジ画像からヒストグラムを生成することで、より的確に移動物体を抽出することができる。
また、前記対象距離画像生成手段は、前記撮像画像または距離画像において、前記対象距離設定手段で設定された対象距離に対応する画素を抽出して前記対象距離画像を生成することもできる(請求項3、請求項4)。
さらに、前記対象領域設定手段における平滑化は、次式(1)により行うのが望ましい(請求項5)。
Figure 0004272539
但し、Sxは、前記ヒストグラムにおける座標xの画素数、Sx′は、平滑化後の座標xにおける画素数、x0は、正の定数、f(n)は、nの関数または定数とする。
このように、ヒストグラムの座標xにおける画素数Sxに、その座標xの両側の画素数の値を足すことで、ヒストグラムを平滑化することができる。また、f(n)をnの関数とすることで、座標xからの距離に応じた重み付けをして、エッジ画像の特徴を維持しつつ、平滑化をすることができる。たとえば、前記した平滑化の式(1)においてf(n)=|x−n|とすることができる(請求項6)。
また、前記対象領域設定手段における平滑化は、さらに次式(2)の条件を有するのが望ましい(請求項7)。
Figure 0004272539
前記した式(1)のみによる平滑化では、ヒストグラムの画素数が0になる近傍の水平位置において、ヒストグラムの裾が広がってしまい、複数の移動物体が同じ距離にあり、かつ撮像画像中で隣接している場合には、移動物体の分離抽出に影響を与えるおそれがある。しかし、前記式(2)の条件を加えることにより、裾の発生が抑えられるので、隣接した移動物体がある場合でも、移動物体を適切に分離して抽出することが可能となる。
前記したような移動物体検出装置において、前記対象領域設定手段は、前記平滑化後のヒストグラムにおいて、画素数が最大となる水平位置から所定範囲を前記移動物体の水平方向の範囲として設定することができる(請求項8)。また、前記対象領域設定手段は、少なくとも前記撮像手段のチルト角及び設置面からの高さに基づいて、前記対象領域の垂直方向の範囲を設定することができる(請求項9)。
前記した課題を解決するための移動物体検出方法は、同期した複数のカメラで撮像対象を撮像した複数の撮像画像から、移動物体を検出する移動物体検出方法であって、前記複数の撮像画像の視差に基づいて、前記撮像対象までの距離を距離情報として生成する距離情報生成ステップと、前記複数のカメラの中の少なくとも一つのカメラから、時系列に入力される撮像画像の差分に基づいて、前記移動物体の動きを動き情報として生成する動き情報生成ステップと、前記距離情報に含まれる距離毎に、前記動き情報に含まれる動きのあった画素値を累計し、前記累計値が最大となる距離を、前記移動物体が存在する対象距離として設定する対象距離設定ステップと、前記距離情報に基づいて、前記対象距離設定手段で設定された対象距離に対応する画素からなる対象距離画像を生成する対象距離画像生成ステップと、前記対象距離画像内に、少なくとも前記対象距離に対応して、前記移動物体を検出する対象となる対象領域を設定する対象領域設定ステップと、この対象領域設定手段で設定された対象領域から輪郭を抽出することで、前記移動物体を検出する輪郭抽出ステップとを有する。そして、前記対象領域設定ステップは、前記対象距離画像において、水平方向の座標ごとに垂直方向に画素数をカウントしてヒストグラムを生成した後、このヒストグラムを平滑化し、平滑化後のヒストグラムのうち、最も画素数が大きい座標を前記移動物体の中心として、前記対象領域を設定することを特徴とする(請求項10)。
また、前記した課題を解決するための移動物体検出プログラムは、同期した複数のカメラで撮像対象を撮像した複数の撮像画像から、移動物体を検出するために、コンピュータを、前記複数の撮像画像の視差に基づいて、前記撮像対象までの距離を距離情報として生成する距離情報生成手段、前記複数のカメラの中の少なくとも一つのカメラから、時系列に入力される撮像画像の差分に基づいて、前記移動物体の動きを動き情報として生成する動き情報生成手段、前記距離情報に含まれる距離毎に、前記動き情報に含まれる動きのあった画素値を累計し、前記累計値が最大となる距離を、前記移動物体が存在する対象距離として設定する対象距離設定手段、前記距離情報に基づいて、前記対象距離設定手段で設定された対象距離に対応する画素からなる対象距離画像を生成する対象距離画像生成手段、前記対象距離画像内に、少なくとも前記対象距離に対応して、前記移動物体を検出する対象となる対象領域を設定する対象領域設定手段、この対象領域設定手段で設定された対象領域から輪郭を抽出することで、前記移動物体を検出する輪郭抽出手段、として機能させる。そして、前記対象領域設定手段は、前記対象距離画像において、水平方向の座標ごとに垂直方向に画素数をカウントしてヒストグラムを生成した後、このヒストグラムを平滑化し、平滑化後のヒストグラムのうち、最も画素数が大きい座標を前記移動物体の中心として、前記対象領域を設定することを特徴とする(請求項11)。
本発明の移動物体検出装置、移動物体検出方法、および移動物体検出プログラムによれば、移動物体の対象エッジ画像や対象距離画像において生成したヒストグラムの局所的なピークが除去されるので、撮像画像から適切に移動物体を抽出することができる。
以下、本発明の実施の形態について図面を参照して説明する。
(移動物体検出装置の構成)
図1は、本発明における移動物体検出装置1の構成を示したブロック図である。図1に示すように移動物体検出装置1は、2台のカメラ2で撮像された撮像画像から、動きを伴う物体(移動物体)を検出するものである。ここでは、移動物体検出装置1を、入力された撮像画像を解析する入力画像解析手段10と、解析された撮像画像から物体を検出する物体検出手段20とで構成した。なお、2台のカメラ2は、左右に距離Bだけ離れて配置されており、それぞれを右カメラ2a及び左カメラ2bとする。
入力画像解析手段10は、撮像対象を撮像した2台のカメラ2(撮像手段:2a、2b)から同期して入力される撮像画像を解析して、距離情報を含んだ距離画像、動き情報を含んだ差分画像、エッジを抽出したエッジ画像及び肌色領域を抽出した肌色領域画像を生成するものである。ここでは、入力画像解析手段10を、距離情報生成部11と、動き情報生成部12と、エッジ画像生成部13と、肌色領域画像生成部14とで構成した。
距離情報生成部(距離情報生成手段)11は、同時刻に右カメラ2aと左カメラ2bとで撮影された2枚の撮像画像の視差を、カメラ2からカメラ2で撮像した撮像対象までの距離情報(より正確には、カメラ2の焦点位置からの距離)として埋め込み、距離画像として生成するものである。なお、この距離情報生成部11は、例えば100ms間隔に1フレームの割合でカメラ2から画像を入力する。
この距離情報生成部11では、右カメラ2aを基準カメラとして、この基準カメラ(右カメラ2a)で撮像された基準撮像画像と、左カメラ2bで撮像された同時刻撮像画像とで、特定の大きさのブロック(例えば8×3画素)でブロックマッチングを行うことで、基準撮像画像からの視差を計測する。そして、その視差の大きさ(視差量)を基準撮像画像の各画素に対応付けた距離画像を生成する。
なお、視差をZとしたとき、この視差Zに対応するカメラ2から物体までの距離L(図示せず)は、カメラ2の焦点距離をf(図示せず)、右カメラ2aと左カメラ2bとの距離をBとすると、次式(3)で求めることができる。
L=B×f/Z …(3)
動き情報生成部(動き情報生成手段)12は、基準カメラ(右カメラ2a)で時系列に撮像された2枚の撮像画像の差分に基づいて、撮像画像内の移動物体の動きを動き情報として埋め込んだ、差分画像を生成するものである。
この動き情報生成部12では、右カメラ2aを基準カメラとして、この基準カメラ(右カメラ2a)で撮像された時刻の異なる2枚の撮像画像の差分をとる。例えば、100ms間隔で撮像画像を入力したときに、その入力時刻からΔt(例えば33ms)分遅れた撮像画像を入力し、その2枚の撮像画像の差分をとることとする。
そして、差のあった画素には動きのあった画素として画素値“1”を与え、差のなかった画素には動きのなかった画素として画素値“0”を与えた差分画像を生成する。なお、動き情報生成部12では、さらに差分画像に対して、メディアンフィルタ等のフィルタリング処理を行うことで、ノイズを除去しておく。なお、画素値を、単に1または0とするのではなく、動いた画素数を画素値とすることもできる。
なお、カメラ2がロボットや自動車に搭載されたカメラなど、移動するカメラであって、撮像画像内の背景が変化する場合は、カメラ2から撮像画像毎のパン、チルト等のカメラ移動量を入力し、例えば、時刻t+Δtの撮像画像をそのカメラ移動量分補正することで、時刻t及び時刻t+Δtにおいて、動きのあった画素のみを検出する。
エッジ画像生成部(エッジ画像生成手段)13は、カメラ2(2a)から撮像画像(基準撮像画像)を入力し、その撮像画像からエッジを抽出したエッジ画像を生成するものである。このエッジ画像生成部13では、カメラ2(2a)から入力された撮像画像の明るさ(輝度:濃淡情報)に基づいて、その明るさが大きく変化する部分をエッジとして検出し、そのエッジのみからなるエッジ画像を生成する。例えば、ある画素の近傍領域の画素に対して重み係数を持つオペレータ(係数行例:Sovelオペレータ、Kirschオペレータ等)を画素毎に乗算することで、エッジの検出を行う。
肌色領域画像生成部14は、カメラ2(2a)から撮像画像(基準撮像画像)を入力し、その撮像画像から肌色の領域を抽出するものである。この肌色領域画像生成部14では、入力された撮像画像における全画素のRGB値を、色相、明度及び彩度からなるHLS空間に変換し、色相、明度及び彩度が肌色の範囲として予め設定された閾値の範囲内にある画素を肌色領域として抽出する。
ここで、図5を参照(適宜図1参照)して、距離情報生成部11で生成される距離画像、動き情報生成部12で生成される差分画像、エッジ画像生成部13で生成されるエッジ画像及び肌色領域画像生成部14で生成される肌色領域画像について説明する。図5は、時系列に入力される撮像画像に基づいて、各画像が生成される状態を示したものである。
図5に示すように、距離画像Dは、同時刻の右カメラ画像と左カメラ画像との視差を画素値で表現することで生成される。この視差は、その値が大きいほど人物の位置がカメラ2に近いことを表し、値が小さいほど人物の位置がカメラ2から遠いことを表している。また、エッジ画像EDは、右カメラ画像から生成された画像で、検出されたエッジのみからなる画像である。さらに、肌色領域画像SAは、エッジ画像EDと同様に、右カメラ画像から生成された画像で、肌色となる領域(肌色領域R)を抽出した画像である。また、差分画像DIは、Δt分だけ入力された時刻が異なる2枚の右カメラ画像(例えば、時刻tと時刻t+Δtの右カメラ画像)の差分をとり、差のあった画素を画素値“1”、差のなかった画素を画素値“0”として表現することで生成される。この差のあった画素が、実際に人物が動いた領域を表している。
ここで、図6を参照して、距離画像D及び差分画像DIの内容について、さらに詳細に説明を行う。図6(a)は、距離画像Dの画像内容と、その画素値(距離画像画素値DB)の一例を示したものである。図6(b)は、差分画像DIの画像内容と、その画素値(差分画像画素値DIB)の一例を示したものである。ここでは、カメラ2から約1m、2m及び3m離れた位置に人物が存在しているものとする。
距離画像Dは、図6(a)に示すように、同時刻の右カメラ画像と左カメラ画像との視差を画素値で表現したものであって、例えば、距離画像画素値DBに示したように、距離画像Dの画素位置(0,0)は視差が0であり、カメラ2からの距離が無限大(∞)であることを意味している。また、距離画像Dの画素位置(30,50)は視差が20であり、カメラ2からの距離が視差20に対応する距離、例えば2.2mであることを意味している。このように、距離画像Dは、視差を画素値として表現するため、例えば、カメラ2に近いほど明るく、遠いほど暗い画像となる。
差分画像DIは、図6(b)に示すように、時系列に入力される右カメラ画像の差の有無を表現したものであって、例えば、差分画像画素値DIBに示したように、差分画像DIの画素位置(0,0)は“0”「停止」で、動きがなかったことを意味している。また、差分画像DIの画素位置(30,50)は“1”「動き」で、動きがあったことを意味している。
図1に戻って、説明を続ける。
物体検出手段20は、入力画像解析手段10で解析された画像(距離画像、差分画像、エッジ画像及び肌色領域画像)に基づいて、動きのある移動物体の領域を検出し、移動物体の輪郭を抽出するものである。ここでは、物体検出手段20を、対象距離設定部21と、対象距離画像生成部22と、対象領域設定部23と、輪郭抽出部24とで構成した。
対象距離設定部(対象距離設定手段)21は、入力画像解析手段10の距離情報生成部11で生成された距離画像と、動き情報生成部12で生成された差分画像とに基づいて、最も動き量の多い移動物体を特定し、対象となる移動物体が存在する対象距離を設定するものである。この対象距離は、対象距離画像生成部22へ通知される。
この対象距離設定部21では、距離画像で表された視差(距離)毎に、その視差に対応する画素と同じ位置にある差分画像の画素値を累計し(動きがある画素は画素値が“1”なので、視差ごとに画素数を累計することになる)、その累計が最も多くなる視差(これを以下、「最多視差」という。)に、最も動き量の多い移動物体が存在していると判定する。例えば、1.0〜1.1mの視差(距離)では、画素値の累計が110、1.1〜1.2mの視差(距離)では、画素値の累計が92、というように視差ごとに累計を出し、この累計が最大の視差(距離)を最多視差とする。
また、ここでは、最多視差に対応する対象距離±α分の奥行きを、最も動き量の多い移動物体が存在する距離の範囲とする。このαの値は、対象距離を基準とした奥行き方向の範囲を示すものである。ここでは、αの値を、距離情報生成部11から時系列に入力される距離画像の差分、例えば、時刻t−1で生成した距離画像と、時刻tで生成した距離画像との差分とする。なお、このαの値は、人物を検出することと仮定して、数十cmと固定した値を用いてもよい。
この対象距離設定部21では、距離情報生成部11で生成された距離画像と、動き情報生成部12で生成された差分画像とを、図示していないメモリ等の記憶手段に記憶することとする。
対象距離画像生成部(対象距離画像生成手段)22は、距離情報生成部11で生成された視差量を埋め込んだ距離画像に基づいて、対象距離設定部21で設定された対象距離に対応する画素を、エッジ画像生成部13で生成されたエッジ画像から抽出した対象距離画像を生成するものである。
例えば、最多視差におけるカメラ2から移動物体までの距離Lを前記式(3)で算出したとすると、その視差の範囲Zrは式(3)を変形することで、次式(4)として表すことができる。ただし、カメラ2の焦点距離をf、右カメラ2aと左カメラ2bとの距離をB、対象物体の奥行き方向の範囲をαとする。
B×f/(L+α)<Zr<B×f/(L−α) ・・・(4)
この対象距離画像生成部22では、前記式(4)の範囲の視差に対応する画素をエッジ画像から抽出した対象距離画像を生成する。
なお、この対象距離画像の生成は、基準カメラ(右カメラ2a)で撮像された撮像画像(原画像)又は距離情報生成部11で生成された距離画像から、対象距離(視差の範囲)に対応する画素位置のみの画素を抽出することとしてもよい。
ここで、図7を参照(適宜図1参照)して、対象距離設定部21及び対象距離画像生成部22で、検出対象となる移動物体が存在する距離に対応する画像(対象距離画像)を生成する手順について説明する。図7(a)は、距離画像D及び差分画像DI(図6)に基づいて、視差(距離)と動きのある画素を累計した動き量(画素数)との関係を示したグラフである。図7(b)は、エッジ画像ED(図5)から対象距離の画素のみを抽出した対象距離画像TDを示している。
図7(a)に示したように、距離画像D(図6)の視差(距離)と動き量(画素数)との関係をグラフ化すると、視差(距離)が1m、2.2m、3mの位置で動き量がピークとなる。そこで、対象距離設定部21は、動き量が最大となる視差(2.2m)に移動物体が存在するものとし、その視差(2.2m)の前後(±α)の奥行き範囲に移動物体が存在すると判定する。このαは、距離情報生成部11から時系列に入力される距離画像の差分である。なお、このαの値は、移動物体を人物と仮定して、カメラ2から2.2±αm(例えば、α=0.5)の範囲に人物が存在すると判定することとしてもよい。
また、対象距離画像生成部22は、図7(b)に示したように、エッジ画像生成部13で生成されたエッジ画像から、距離情報生成部11で生成された距離画像に基づいて、対象となる画素位置を判定して、対象距離±αmに存在する画素を抽出した対象距離画像TDを生成する。これによって、カメラ2から1m、3m離れた位置に存在している人物の画像を削除し、2.2±αm離れた位置に存在している人物のみをエッジ画像として抽出した対象距離画像TDを生成することができる。
図1に戻って、説明を続ける。
対象領域設定部(対象領域設定手段)23は、対象距離画像生成部22で生成された対象距離画像(対象距離に対応したエッジ画像)の垂直方向の画素数を累計し、その垂直方向の画素数の累計が最も多くなる位置を移動物体の中心の水平位置であると特定して、その移動物体を含んだ領域(対象領域)を設定するものである。
具体的には、対象領域設定部23は、ヒストグラム生成部23a、ヒストグラム平滑化部23b、水平範囲設定部23c、および垂直範囲設定部23dを有する。
なお、この対象領域設定部23は、例えば、移動物体を人物と仮定して、対象領域の水平方向の範囲を人物の幅に適した大きさに設定する。また、それ以外、例えば、斜め方向に接近してくる場合は、対象領域の水平方向の範囲を狭めて設定する。これは、人物が斜め方向を向いている場合は、水平方向の範囲を人物の肩幅以下で検出すればよいからである。
また、対象領域設定部23は、縦方向は特定の大きさ(例えば2m)を対象領域の高さとする。このとき、対象領域設定部23は、カメラ2から入力されるチルト角、床(設置面)からの高さ等のカメラパラメータに基づいて、対象領域の垂直方向の存在領域(範囲)を設定する。
ここで、図8および図9を参照(適宜図1参照)して、対象領域設定部23が、対象距離画像TDの中から一つ(一人)の移動物体の領域(対象領域)を設定する手順について説明する。図8は、対象距離画像TDにおける水平方向の座標ごとに垂直方向へ画素数をカウントした累計をヒストグラムHIで表したものである。この図8では、ヒストグラムHIを対象距離画像TDに重畳させているが、これは、説明の都合上重畳させているだけである。図9(a)は、平滑化前のヒストグラムHIであり、図9(b)は、平滑化後のヒストグラムHI′である。
ヒストグラム生成部23aは、図8に示したように、対象距離画像TDの垂直方向の画素数を累計したヒストグラムHIを生成する。
ヒストグラム平滑化部23bは、ヒストグラム生成部23aが生成したヒストグラムHIに対し、平滑化の処理を行う。
具体的には、Sxを、ヒストグラムHIにおける注目している座標xの画素数、Sx′を、平滑化後のヒストグラムHI′の座標xの画素数、x0を、正の定数として次式(5)により平滑化を行うことができる。
Figure 0004272539
ここで、f(n)はnの関数であるが、nの係数を0にして定数としてもよい。そして、次式(6)のように、f(n)=|x−n|とすれば、座標xから距離(座標)が近い座標nの画素数Snほど重く扱うことになるので、もとのヒストグラムHIの特徴を残したまま平滑化後のヒストグラムHI′を生成することができる。
Figure 0004272539
この処理により、図9(a)に示すようなヒストグラムHIは、図9(b)に示すような、平滑化されたヒストグラムHI′とすることができる。このとき、ヒストグラムHIにおいて、局所的に現れていたピークP1は、ピークP1′のように低くなる。
また、前記した式(5)または式(6)による平滑化処理において、次式(7)を条件とするのが望ましい。
Figure 0004272539
式(7)の条件によれば、注目している座標xの右側(xが大きい側)または左側(xが小さい側)のヒストグラムHIの画素数Sxが全て0の場合に、平滑化後の画素数Sx′を0にするので、ヒストグラムHIの左右端の裾が広がらないようにすることができる。例えば、図9(b)の破線のようにはヒストグラムHIの裾が広がらず、実線のようになる。
これにより、隣り合う人物のヒストグラムHIが、平滑化の処理によりつながってしまうことを防ぐことができる。
水平範囲設定部23cは、ヒストグラム平滑化部23bにより平滑化されたヒストグラムHI′から、一つの移動物体を抽出するため、輪郭抽出部24で輪郭抽出処理を行う水平方向の範囲を設定する。
具体的には、平滑化後のヒストグラムHI′において、最も画素数Sx′が大きい座標x(例えば、図9(b)におけるx1)を、1つの移動物体の中心位置とし、その左右両側の一定範囲(例えば、図9(b)におけるβ)を対象領域の水平方向の範囲として設定する。このβは、人物が手を挙げた場合も含まれるように、人物の幅に相当する画素数か、それよりやや広めとすることができる。さらに、この範囲内で、ヒストグラムが最小となる水平位置(座標x)を検出する。この最小となる水平位置を、一人の人物の左右端とする。
例えば、対象領域の距離、カメラ2の画角および解像度から、人物の一般的な幅よりやや広めの幅として、40cmに相当する画素数を計算してβを定める。
なお、ヒストグラムHI′から移動物体を抽出する水平方向の範囲を設定する方法は、この例に限られず、抽出対象物の形状的な特徴に応じて適切な方法をとることができる。例えば、ヒストグラムHI′の対称性から設定したり、ピークの数、位置などから設定したりしても良い。
垂直範囲設定部23dは、特定の大きさ(例えば2m)を対象領域の垂直方向の範囲とする。この対象領域の大きさについては、図10を参照(適宜図1参照)してさらに説明を行う。
図10は、カメラ2が移動ロボット(図示せず)に組み込まれ、移動物体Mと同じ床からある高さ(カメラ高)Hに位置しているときに、移動物体Mが対象距離画像(a′、b′)上のどの高さに位置するかを説明するための説明図である。なお、図10(a)は、カメラ2のチルト角が0(°)の場合、図10(b)はカメラ2のチルト角がθT(≠0)の場合におけるカメラ2と移動物体Mとの対応関係を示している。
まず、図10(a)を参照して、チルト角が0(°)の場合において、移動物体Mが対象距離画像(a′)上で縦方向のどの位置に存在するかを特定する方法について説明する。
ここで、カメラ2の垂直画角をθv、カメラ2から移動物体Mまでの距離をL、対象距離画像(a′)の縦方向の解像度をY、カメラ2の床からの高さ(カメラ高)をH、移動物体Mの床からの仮想の高さを2(m)とする。このとき、カメラ2の光軸と、カメラ2から移動物体Mの仮想の上端(床から2m)までを結んだ直線との角度θHは次式(8)で表すことができる。
θH=tan-1((2−H)/L) …(8)
これにより、移動物体Mの対象距離画像(a′)上での上端yTは次式(9)で求めることができる。
T=Y/2−θHY/θv
=Y/2−(Y/θv)tan-1((2−H)/L) …(9)
また、カメラ2の光軸と、カメラ2から移動物体Mの下端(床)までを結んだ直線との角度θLは次式(10)で表すことができる。
θL=tan-1(H/L) …(10)
これにより、移動物体Mの対象距離画像(a′)上での下端yBは次式(11)で求めることができる。
B=Y/2+θLY/θv
=Y/2+(Y/θv)tan-1(H/L) …(11)
次に、図10(b)を参照して、チルト角がθT(≠0)の場合において、移動物体Mが対象距離画像(b′)上で縦方向のどの位置に存在するかを特定する方法について説明する。
ここで、カメラ2の垂直画角をθv、チルト角をθT、移動物体Mまでの距離をL、対象距離画像の縦方向の解像度をY、カメラ2の床からの高さ(カメラ高)をH、移動物体Mの床からの仮想の高さを2(m)とする。このとき、カメラ2の光軸とカメラ2から移動物体Mの仮想の上端(床から2m)までを結んだ直線との角度θHと、チルト角θTとの差分角度(θH−θT)は次式(12)で表すことができる。
θH−θT=tan-1((2−H)/L) …(12)
これにより、移動物体Mの対象距離画像(b′)上での上端yTは次式(13)で求めることができる。
T=Y/2−θTY/θv−(θH−θT)Y/θv
=Y/2−θTY/θv−(Y/θv)tan-1((2−H)/L)
…(13)
また、カメラ2の光軸とカメラ2から移動物体Mの下端(床)までを結んだ直線との角度θLと、チルト角θTとの加算角度(θL+θT)は次式(14)で表すことができる。
θL+θT=tan-1(H/L) …(14)
これにより、移動物体Mの対象距離画像(b′)上での下端yBは次式(15)で求めることができる。
B=Y/2−θTY/θv+(θL+θT)Y/θv
=Y/2−θTY/θv+(Y/θv)tan-1(H/L) …(15)
このように求めた対象距離画像(a′又はb′)の上端yT及び下端yBによって、対象領域の垂直方向の範囲が設定される。
なお、移動ロボット(図示せず)が階段等を昇降し、移動物体Mと同一の床に存在しない場合は、移動ロボット本体のエンコーダ等によって昇降量を検出し、その昇降量を移動物体Mの床からの高さに対して加算又は減算することで、移動物体Mの対象距離画像(a′又はb′)における縦方向の位置を特定することができる。あるいは、移動ロボットに地図情報を保持しておき、移動物体Mの方向及び距離で特定される床の高さを、その地図情報から取得することとしてもよい。
また、対象領域の水平方向の範囲は、例えば、図示していないが、カメラ2の水平画角をθh、カメラ2から対象とする移動物体Mまでの距離をL、対象距離画像の横方向の解像度をXとすると、対象領域の幅の半分(移動物体の中心からの距離)を0.5(m)としたときの、対象距離画像上での水平画素数αHは、次式(16)で求めることができる。
αH=(X/θh)tan-1(0.5/L) …(16)
図1に戻って、説明を続ける。
輪郭抽出部(輪郭抽出手段)24は、対象距離画像生成部22で生成された対象距離画像において、対象領域設定部23で設定した移動物体の領域(対象領域)内で、既知の輪郭抽出技術を用いて移動物体の輪郭の抽出を行うものである。
ここで、既知の輪郭抽出としては、例えば、SNAKESと呼ばれる動的輪郭モデルを用いることができる。ここで、SNAKESとは、閉曲線を予め定義したエネルギーを最小化するように収縮変形させることにより、物体の輪郭を抽出する手法である。ここでは、移動物体の領域(対象領域)内で、エネルギーを算出するための初期値を設定できるため、輪郭抽出のための計算量を軽減させることができる。
さらに、輪郭抽出部24は、輪郭を抽出した移動物体が人物であるかどうかを判定する肌色領域判定部24aを備えることができる。
肌色領域判定部24aは、輪郭抽出部24内で抽出した移動物体の輪郭が、人物の輪郭であるかどうかを判定するものである。この肌色領域判定部24aでは、接近してくる移動物体の輪郭を抽出した際に、その輪郭内に肌色領域画像生成部14で生成された肌色領域画像の肌色領域R(図5参照)が含まれるかどうかを判定することで、その輪郭が人物の輪郭であるかどうかを判定する。
輪郭抽出部(輪郭抽出手段)24は、輪郭内の移動物体の検出情報(移動物体の重心や移動物体の移動方向(角度)等)を外部に出力する。なお、ここでは、人物のみを検出することとして、肌色領域判定部24aで輪郭が人物のものでないと判定された場合は、外部に移動物体の検出情報を出力しないこととする。このように、この輪郭抽出部24で輪郭が抽出されることで、移動物体が検出されたことになる。これによって、例えば、図11に示したように、対象距離画像TDの中で移動物体が一つ(一人)に限定された対象領域T内で輪郭Oを抽出することができる。
以上説明した移動物体検出装置1を、移動ロボット、自動車等の移動体に組み込むことで、人物等の移動物体を検出することが可能になる。例えば、移動ロボットに本発明を適用することで、移動ロボットが、人込みにおいても人物を認識することが可能になる。さらに、人物を個別に検出することができるので、例えば、顔認識等を行うことで、その人物を追跡したり、人物毎に異なる動作を行わせる等の輪郭抽出後の処理が容易になる。
なお、対象距離に複数の移動物体(人物)が存在する場合は、距離情報生成部11で生成した距離画像において、すでに検出を終了した移動物体の領域を削除(画素値を“0”にする)し、その削除した距離画像で順次移動物体を検出することとしてもよい
以上、一実施の形態として移動物体検出装置1の構成について説明したが、移動物体検出装置1は、一般的なコンピュータにプログラムを実行させ、コンピュータ内の演算装置や記憶装置を動作させることにより実現される。
また、ここでは、移動物体検出装置1の距離情報生成部11が、2台のカメラ2で撮像した撮像画像に基づいて距離画像を生成したが、3台以上のカメラを用いて距離画像を生成することとしてもよい。例えば、3行3列に配置した9台のカメラで、中央に配置したカメラを基準カメラとして、他のカメラとの視差に基づいて距離画像を生成することで、移動物体までの距離をより正確に測定することもできる。
また、ここでは、移動物体検出装置1を、人物を検出ための装置として構成した。しかし、人物と限定せずに移動物体を検出する場合は、移動物体検出装置1から、肌色領域画像生成部14及び肌色領域判定部24aを削除して構成してもよい。
(移動物体検出装置の動作)
次に、図2乃至図4を参照(適宜図1参照)して、移動物体検出装置1の動作について説明する。図2乃至図4は、移動物体検出装置1の動作を示すフローチャートである。
<撮像画像入力ステップ>
まず、移動物体検出装置1は、同期した2台のカメラ2から時系列に撮像画像を入力する(ステップS1)。ここでは、ある時刻tに右カメラ2a(基準カメラ)と左カメラ2bとから入力された撮像画像と、次の時刻t+Δtに右カメラ2a(基準カメラ)と左カメラ2bとから入力された撮像画像とに基づいて、移動物体を抽出する。なお、以下のステップで用いられている距離画像Dt-1及びDt-2、対象距離画像TDt-2及びTDt-1は、時刻t−2及び時刻t−1の段階で生成されたものである。
<距離画像生成ステップ>
そして、移動物体検出装置1は、距離情報生成部11によって、時刻tに右カメラ2a(基準カメラ)と左カメラ2bとから入力された2枚の撮像画像から、撮像対象までの視差(距離)を埋め込んだ距離画像Dtを生成する(ステップS2)。
<差分画像生成ステップ>
さらに、移動物体検出装置1は、動き情報生成部12によって、右カメラ2a(基準カメラ)で時刻tと時刻t+Δtに撮像された2枚の撮像画像(基準撮像画像)の差分をとり、差のあった画素を画素値“1”、差のなかった画素を画素値“0”とした差分画像DItを生成する(ステップS3)。
<エッジ画像生成ステップ>
また、移動物体検出装置1は、エッジ画像生成部13によって、右カメラ2a(基準カメラ)で時刻tに撮像された撮像画像(基準撮像画像)からエッジ画像EDtを生成する(ステップS4)。
<肌色領域画像生成ステップ>
さらに、移動物体検出装置1は、肌色領域画像生成部14によって、右カメラ2a(基準カメラ)で時刻tに撮像された撮像画像(基準撮像画像)から肌色領域を抽出した肌色領域画像SAtを生成する(ステップS5)。
<対象距離設定ステップ>
また、移動物体検出装置1は、対象距離設定部21によって、ステップS2及びステップS3で生成した距離画像Dt及び差分画像DIt(時刻tと時刻t+Δtの差分画像)から、距離画像Dtで表された視差(距離)毎に、動きのあった画素数を累計し、その累計が最大となる距離を、距離画像Dtにおける検出対象となる移動物体の対象距離dt(幅のある距離)として設定する(ステップS6)。
<対象距離画像生成ステップ>
そして、移動物体検出装置1は、対象距離画像生成部22によって、ステップS4で生成したエッジ画像EDtから、対象距離dtの画素を抽出した対象距離画像TDtを生成する(ステップS7)。
このステップS7によって、移動物体検出装置1は、時刻tにおける距離画像Dtにおいて、移動物体が存在する奥行き方向の範囲を設定することができる。
<対象領域設定ステップ>
そして、移動物体検出装置1は、対象領域設定部23のヒストグラム生成部23aによって、ステップS7で生成した対象距離画像TDtの垂直方向(縦方向)の画素数をカウントしてヒストグラム化する(ステップS8)。
このように対象距離画像TDをヒストグラム化することで、多くの場合、そのヒストグラムHIが最大となる位置に移動物体の中心の水平位置が存在すると判定することが可能になる。
次に、移動物体検出装置1は、ヒストグラム平滑化部23bにおいて、前記した式(6)および式(7)により、ヒストグラムHIを平滑化する(ステップS9)。
図8のヒストグラムHIのように、移動物体である人物が手を上げた場合、その手が位置する水平方向の座標(x座標)でヒストグラムHIに局所的なピークP1が発生することがある。
そのため、本実施形態では、ヒストグラム平滑化部23bにより、ヒストグラムHIの平滑化を行い、図9(a)のヒストグラムHIを、図9(b)のヒストグラムHI′のようにする。この処理により、手を上げた部分の局所的なピークP1が、ピークP1′のように小さくなり、移動物体(人物)の中央部分の画素数が相対的に大きくなる。
さらに、ヒストグラムが最大となる位置x1(図9(b)参照)を中心に、所定の左右の範囲を対象領域の水平方向範囲として設定する(ステップS10)。ここでは、人物を検出することとして、移動ベクトルとカメラ2の視線方向とのなす角度が45°未満の場合は、中心の位置x1±(0.5〜0.6)mを、人物を検出するための水平方向範囲とする。また、移動ベクトルとカメラ2の視線方向とのなす角度が45°以上の場合は、中心の位置x1±(0.2〜0.3)mを、人物を検出するための水平方向範囲とする。
さらに、対象領域設定部23では、カメラ2から入力されるチルト角、床(設置面)からの高さ等のカメラパラメータに基づいて、対象距離画像TDtで対象領域の垂直(上下)方向の範囲を設定する(ステップS11)。
例えば、カメラ2のチルト角、床からの高さに基づいて、対象距離画像における画像中の床の位置(対象領域の下端)を求める。そして、カメラ2の画角と移動物体までの距離とに基づいて、床から2mまでの範囲を、画素数に換算することにより対象領域の対象距離画像における床からの画素数を求める。これによって、対象距離画像における対象領域の上端を求めることができる。この対象領域の上端は、カメラ2のチルト角、床からの高さに基づいて、対象距離画像における画像中の2mの位置(高さ)を直接求めることとしてもよい。なお、この2mは、一例であって、他の長さ(高さ)であっても構わない。
<輪郭抽出ステップ>
また、移動物体検出装置1は、輪郭抽出部24によって、ステップS7で生成した対象距離画像TDtにおいて、ステップS10及びステップS11で設定した対象領域内で輪郭の抽出を行う(ステップS12)。例えば、対象領域内で動的輪郭モデル(SNAKES)を適用することによって輪郭の抽出を行う。
そして、輪郭の抽出に成功したかどうかを判定する(ステップS13)。なお、ここで輪郭抽出の成功及び失敗の判定は、ステップS12において輪郭が抽出できたかどうかの判定だけではなく、例えば、対象距離が予め定めた距離よりも遠い場合や、対象領域が予め定めた大きさよりも小さい場合等の理由によって、物体の輪郭抽出を行わないとする判定をも含むものとする。
このステップS13で輪郭の抽出に成功した場合(Yes)は、ステップS14へ進む。一方、輪郭の抽出に失敗した(あるいは抽出を行わない)場合(No)は、本動作を終了する。
<人物抽出ステップ>
移動物体の輪郭抽出に成功した場合、移動物体検出装置1は、輪郭抽出部24の肌色領域判定部24aによって、ステップS5で生成した肌色領域画像SAtの肌色領域が、輪郭抽出部24内で抽出した移動物体の輪郭に含まれるかどうかを判定することで、その輪郭が人物の輪郭であるかどうかを判定する(ステップS14)。
ここで、肌色領域判定部24aが、移動物体の輪郭を人物の輪郭であると判定した場合(Yes)は、輪郭抽出部24が移動物体の検出情報を生成し、外部へ出力し(ステップS15)、ステップS16へ進む。この移動物体の検出情報には、移動物体の重心座標、カメラ2のチルト角や移動物体の移動方向を示す各種角度等の情報が含まれる。一方、肌色領域判定部24aが、移動物体の輪郭を人物の輪郭でないと判定した場合(ステップS14:No)は、ステップS16へ進む。
<移動物体動作判定ステップ>
そして、移動物体検出装置1がステップS15で移動物体の検出情報を出力することで、例えば、移動ロボットの制御装置(図示せず)が、その移動物体の動作を判定する(ステップS16)。
以上の各ステップによって、本実施の形態の移動物体検出装置1は、カメラ2から入力された撮像画像により、その撮像画像に存在する移動物体を検出することができる。なお、ここでは、ある時刻tにおいて移動物体を検出したが、時々刻々と入力される撮像画像に基づいて、前記ステップ(ステップS1〜ステップS16)を動作させることで、例えば、移動ロボット等の移動体が、人物を検出し続けることができる。
本発明の移動物体検出装置の全体構成を示すブロック図である。 本発明の移動物体検出装置の動作を示すフローチャート(1/3)である。 本発明の移動物体検出装置の動作を示すフローチャート(2/3)である。 本発明の移動物体検出装置の動作を示すフローチャート(3/3)である。 距離画像、エッジ画像、肌色領域画像及び差分画像の内容の一例を示す図である。 距離画像及び差分画像の内容の一例を示す図である。 視差(距離)毎の動き量(画素数)に基づいて、対象距離画像を生成するための手順を説明するための説明図である。 対象距離画像から垂直方向の画素数の累計が最大となる位置をヒストグラムによって示した図である。 ヒストグラムの平滑化処理の例を示す図であり、(a)が平滑化前、(b)が平滑化後を示す。 カメラパラメータに基づいて、移動物体が対象距離画像上のどの高さに位置するかを算出する手順を説明するための説明図である。 対象距離画像の対象領域で輪郭を抽出した例を示す図である。
符号の説明
1 移動物体検出装置
2 カメラ(撮像手段)
10 入力画像解析手段
11 距離情報生成部(距離情報生成手段)
12 動き情報生成部(動き情報生成手段)
13 エッジ画像生成部(エッジ画像生成手段)
14 肌色領域画像生成部
20 物体検出手段
21 対象距離設定部(対象距離設定手段)
22 対象距離画像生成部(対象距離画像生成手段)
23 対象領域設定部(対象領域設定手段)
23a ヒストグラム生成部
23b ヒストグラム平滑化部
23c 水平範囲設定部
23d 垂直範囲設定部
24 輪郭抽出部(輪郭抽出手段)
24a 肌色領域判定部

Claims (11)

  1. 同期した複数のカメラで撮像対象を撮像した複数の撮像画像から、移動物体を検出する移動物体検出装置であって、
    前記複数の撮像画像の視差に基づいて、前記撮像対象までの距離を距離情報として生成する距離情報生成手段と、
    前記複数のカメラの中の少なくとも一つのカメラから、時系列に入力される撮像画像の差分に基づいて、前記移動物体の動きを動き情報として生成する動き情報生成手段と、
    前記距離情報に含まれる距離毎に、前記動き情報に含まれる動きのあった画素値を累計し、前記累計値が最大となる距離を、前記移動物体が存在する対象距離として設定する対象距離設定手段と、
    前記距離情報に基づいて、前記対象距離設定手段で設定された対象距離に対応する画素からなる対象距離画像を生成する対象距離画像生成手段と、
    前記対象距離画像内に、少なくとも前記対象距離に対応して、前記移動物体を検出する対象となる対象領域を設定する対象領域設定手段と、
    この対象領域設定手段で設定された対象領域から輪郭を抽出することで、前記移動物体を検出する輪郭抽出手段と、
    を備え、
    前記対象領域設定手段は、前記対象距離画像において、水平方向の座標ごとに垂直方向に画素数をカウントしてヒストグラムを生成した後、このヒストグラムを平滑化し、平滑化後のヒストグラムのうち、最も画素数が大きい座標を前記移動物体の中心として、前記対象領域を設定することを特徴とする移動物体検出装置。
  2. 前記撮像画像の各画素の色情報又は濃淡情報に基づいて、その撮像画像のエッジを抽出したエッジ画像を生成するエッジ画像生成手段をさらに備え、
    前記対象距離画像生成手段は、前記エッジ画像において、前記対象距離設定手段で設定された対象距離に対応する画素を抽出して前記対象距離画像を生成することを特徴とする請求項1に記載の移動物体検出装置。
  3. 前記対象距離画像生成手段は、前記撮像画像において、前記対象距離設定手段で設定された対象距離に対応する画素を抽出して前記対象距離画像を生成することを特徴とする請求項1に記載の移動物体検出装置。
  4. 前記対象距離画像生成手段は、前記距離画像において、前記対象距離設定手段で設定された対象距離に対応する画素を抽出して前記対象距離画像を生成することを特徴とする請求項1に記載の移動物体検出装置。
  5. 前記対象領域設定手段における平滑化は、次式により行うことを特徴とする請求項1または請求項1から請求項4のいずれか1項に記載の移動物体検出装置。
    Figure 0004272539
    但し、Sxは、前記ヒストグラムにおける水平方向の座標xの画素数、Sx′は、平滑化後の座標xにおける画素数、x0は、正の定数、f(n)は、nの関数または定数とする。
  6. 前記対象領域設定手段における平滑化の式においてf(n)=|x−n|としたことを特徴とする請求項5に記載の移動物体検出装置。
  7. 前記対象領域設定手段における平滑化は、さらに次式の条件を有することを特徴とする請求項5または請求項6に記載の移動物体検出装置。
    Figure 0004272539
  8. 前記対象領域設定手段は、前記平滑化後のヒストグラムにおいて、画素数が最大となる座標xから所定範囲を前記移動物体の水平方向の範囲として設定することを特徴とする請求項1から請求項7のいずれか1項に記載の移動物体検出装置。
  9. 前記対象領域設定手段は、少なくとも前記撮像手段のチルト角及び設置面からの高さに基づいて、前記対象領域の垂直方向の範囲を設定することを特徴とする請求項1から請求項8のいずれか1項に記載の移動物体検出装置。
  10. 同期した複数のカメラで撮像対象を撮像した複数の撮像画像から、移動物体を検出する移動物体検出方法であって、
    前記複数の撮像画像の視差に基づいて、前記撮像対象までの距離を距離情報として生成する距離情報生成ステップと、
    前記複数のカメラの中の少なくとも一つのカメラから、時系列に入力される撮像画像の差分に基づいて、前記移動物体の動きを動き情報として生成する動き情報生成ステップと、
    前記距離情報に含まれる距離毎に、前記動き情報に含まれる動きのあった画素値を累計し、前記累計値が最大となる距離を、前記移動物体が存在する対象距離として設定する対象距離設定ステップと、
    前記距離情報に基づいて、前記対象距離設定手段で設定された対象距離に対応する画素からなる対象距離画像を生成する対象距離画像生成ステップと、
    前記対象距離画像内に、少なくとも前記対象距離に対応して、前記移動物体を検出する対象となる対象領域を設定する対象領域設定ステップと、
    この対象領域設定手段で設定された対象領域から輪郭を抽出することで、前記移動物体を検出する輪郭抽出ステップと、
    を有し、
    前記対象領域設定ステップは、前記対象距離画像において、水平方向の座標ごとに垂直方向に画素数をカウントしてヒストグラムを生成した後、このヒストグラムを平滑化し、平滑化後のヒストグラムのうち、最も画素数が大きい座標を前記移動物体の中心として、前記対象領域を設定することを特徴とする移動物体検出方法。
  11. 同期した複数のカメラで撮像対象を撮像した複数の撮像画像から、移動物体を検出するために、コンピュータを、
    前記複数の撮像画像の視差に基づいて、前記撮像対象までの距離を距離情報として生成する距離情報生成手段、
    前記複数のカメラの中の少なくとも一つのカメラから、時系列に入力される撮像画像の差分に基づいて、前記移動物体の動きを動き情報として生成する動き情報生成手段、
    前記距離情報に含まれる距離毎に、前記動き情報に含まれる動きのあった画素値を累計し、前記累計値が最大となる距離を、前記移動物体が存在する対象距離として設定する対象距離設定手段、
    前記距離情報に基づいて、前記対象距離設定手段で設定された対象距離に対応する画素からなる対象距離画像を生成する対象距離画像生成手段、
    前記対象距離画像内に、少なくとも前記対象距離に対応して、前記移動物体を検出する対象となる対象領域を設定する対象領域設定手段、
    この対象領域設定手段で設定された対象領域から輪郭を抽出することで、前記移動物体を検出する輪郭抽出手段、
    として機能させ、
    前記対象領域設定手段は、前記対象距離画像において、水平方向の座標ごとに垂直方向に画素数をカウントしてヒストグラムを生成した後、このヒストグラムを平滑化し、平滑化後のヒストグラムのうち、最も画素数が大きい座標を前記移動物体の中心として、前記対象領域を設定することを特徴とする移動物体検出プログラム。
JP2004000617A 2004-01-05 2004-01-05 移動物体検出装置、移動物体検出方法、および移動物体検出プログラム Expired - Fee Related JP4272539B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2004000617A JP4272539B2 (ja) 2004-01-05 2004-01-05 移動物体検出装置、移動物体検出方法、および移動物体検出プログラム
US11/015,796 US7376250B2 (en) 2004-01-05 2004-12-20 Apparatus, method and program for moving object detection
DE102005000646A DE102005000646B4 (de) 2004-01-05 2005-01-03 Vorrichtung und Verfahren zum Erfassen von sich bewegenden Objekten

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004000617A JP4272539B2 (ja) 2004-01-05 2004-01-05 移動物体検出装置、移動物体検出方法、および移動物体検出プログラム

Publications (2)

Publication Number Publication Date
JP2005196362A JP2005196362A (ja) 2005-07-21
JP4272539B2 true JP4272539B2 (ja) 2009-06-03

Family

ID=34816365

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004000617A Expired - Fee Related JP4272539B2 (ja) 2004-01-05 2004-01-05 移動物体検出装置、移動物体検出方法、および移動物体検出プログラム

Country Status (1)

Country Link
JP (1) JP4272539B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4963964B2 (ja) * 2004-09-15 2012-06-27 パナソニック株式会社 物体検出装置
JP5221886B2 (ja) * 2007-03-07 2013-06-26 富士重工業株式会社 物体検出装置
JP5171723B2 (ja) * 2009-04-27 2013-03-27 アルプス電気株式会社 障害物検知装置、および当該装置を搭載した車両
JP5892075B2 (ja) * 2013-01-16 2016-03-23 トヨタ自動車株式会社 対象物検出装置及び対象物検出方法、警報装置及び警報方法、運転支援装置及び運転支援方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3065838B2 (ja) * 1993-02-15 2000-07-17 沖電気工業株式会社 人物認識方法
JPH0737099A (ja) * 1993-07-22 1995-02-07 Nippondenso Co Ltd 移動物体検出装置
JPH09185720A (ja) * 1995-12-28 1997-07-15 Canon Inc 画像抽出装置
JP2002092797A (ja) * 2000-09-18 2002-03-29 Nippon Signal Co Ltd:The 交通情報提供システム
JP4597391B2 (ja) * 2001-01-22 2010-12-15 本田技研工業株式会社 顔領域検出装置およびその方法並びにコンピュータ読み取り可能な記録媒体
JP3952460B2 (ja) * 2002-11-19 2007-08-01 本田技研工業株式会社 移動物体検出装置、移動物体検出方法及び移動物体検出プログラム

Also Published As

Publication number Publication date
JP2005196362A (ja) 2005-07-21

Similar Documents

Publication Publication Date Title
JP4328286B2 (ja) 顔領域推定装置、顔領域推定方法及び顔領域推定プログラム
JP4516516B2 (ja) 人物検出装置、人物検出方法及び人物検出プログラム
US11360571B2 (en) Information processing device and method, program and recording medium for identifying a gesture of a person from captured image data
KR101390756B1 (ko) 안면 특징 검출 방법 및 장치
JP4692371B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム、および画像処理プログラムを記録した記録媒体、ならびに移動物体検出システム
JP4235018B2 (ja) 移動物体検出装置、移動物体検出方法及び移動物体検出プログラム
US9001219B2 (en) Image processing apparatus configured to detect object included in image and method therefor
JP6579950B2 (ja) カメラの撮影画像に映る人物を検出する画像解析装置、プログラム及び方法
US11727637B2 (en) Method for generating 3D skeleton using joint-based calibration acquired from multi-view camera
JP3952460B2 (ja) 移動物体検出装置、移動物体検出方法及び移動物体検出プログラム
JP7354767B2 (ja) 物体追跡装置および物体追跡方法
JP2010057105A (ja) オブジェクトの3次元追跡方法およびシステム
JP4153819B2 (ja) ジェスチャ認識装置、ジェスチャ認識方法及びジェスチャ認識プログラム
JP4272538B2 (ja) 移動物体検出装置、移動物体検出方法及び移動物体検出プログラム
JP2008288684A (ja) 人物検出装置及びプログラム
JP4272539B2 (ja) 移動物体検出装置、移動物体検出方法、および移動物体検出プログラム
JP2006259847A (ja) 自動追尾装置及び自動追尾方法
JP6661082B2 (ja) 画像認識装置、及び画像認識プログラム
JP2006041939A (ja) 監視装置及び監視プログラム
JPWO2005004060A1 (ja) 輪郭抽出装置、輪郭抽出方法及び輪郭抽出プログラム
Romić et al. Influence of the input image resolution on the staircase detection
KR101525626B1 (ko) 아웃 포커싱 장치 및 방법
JP3894038B2 (ja) 画像処理装置、画像処理装置のはみ出し検知方法およびプログラム
JP4664805B2 (ja) 顔端検出装置、顔端検出方法、及び、プログラム
CN115731258A (zh) 运动目标识别的方法以及拍摄设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081111

RD13 Notification of appointment of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7433

Effective date: 20081222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090224

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090227

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120306

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4272539

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130306

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130306

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140306

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees