JP2001319224A - 3次元物体検出装置と3次元物体検出方法及び記録媒体 - Google Patents
3次元物体検出装置と3次元物体検出方法及び記録媒体Info
- Publication number
- JP2001319224A JP2001319224A JP2000134407A JP2000134407A JP2001319224A JP 2001319224 A JP2001319224 A JP 2001319224A JP 2000134407 A JP2000134407 A JP 2000134407A JP 2000134407 A JP2000134407 A JP 2000134407A JP 2001319224 A JP2001319224 A JP 2001319224A
- Authority
- JP
- Japan
- Prior art keywords
- dimensional
- information
- area
- fitting
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
し、物体の距離に影響されることなく、安定した物体の
位置や速度の検出を可能にする。 【解決手段】基本領域検出手段(基本領域検出部4−
1)と、物体面当てはめ手段(物体面当てはめ/物体位
置決定部4−2)と、物体領域判定手段を備え、基本領
域検出手段は、或る近隣範囲に存在する3次元位置情報
をまとめて基本領域とするが、その際、このまとめる近
隣範囲の大きさを、3次元位置により変化する物体の見
かけの大きさに合わせた適切な大きさに設定すること
で、距離情報を過不足なくまとめることを可能にし、そ
の結果として物体位置を検出する。
Description
(自動車等)位置・速度検出、移動ロボット用ナビゲー
ションなど、距離情報に基づく3次元物体の位置・速度
の検出を行う装置(或いはシステム)に利用され、特
に、何らかの距離計測方法によって3次元位置情報(距
離情報)が与えられた時に、3次元空間の広範囲に存在
し得る3次元物体の位置、形状、移動速度を検出する3
次元物体検出装置と3次元物体検出方法及び記録媒体に
関する。
法が幾つか提案されている。それらを大別すると、(A
1):距離情報のみを利用してその距離分布の集合を検
出することで物体を得る方法と、(A2):距離情報と
画像情報の両者を必ず用いる方法とがある。以下、これ
らの方法について説明する。
いた運転支援のための前方状況認識システム」、電子情
報通信学会、技術研究報告、PRMU97−25〜3
6、pp.39−46の方法を説明する。
景を2つのカメラで観測して、2つの画像より両眼立体
視により距離情報(距離画像)を取得する。得られた距
離画像を、次に定めるように短冊状の領域群に分割す
る。領域は、予め定めた小さな幅で、高さは事前に取得
したカメラの配置情報と路面位置情報の関係から、路面
の上部だけを含むような高さを持つように設定する。
情報を用いて奥行きを横軸にとり頻度を縦軸にとる奥行
きのヒストグラムを作成し、ヒストグラムのピーク位置
より短冊領域を代表する距離を定める。次に、隣接する
領域群で距離の近いものをまとめて領域グループを作成
する。
の傾きを調べて、観測方向に対して垂直に近ければ車両
の後方面とし、観測方向に平行に近ければ車両側面と分
類する。更に、この前面と側面の位置関係による組み合
わせにより車両位置、形状を検出する。
検出する方法を、下村倫子ら「ステレオ視差と先行車の
高さ変化を用いた車間距離計測のばらつき低減に関する
考察」、電子情報通信学会技術研究報告、PRMU98
−92〜105、pp.21−28を例に説明する。
景を左右2つのカメラで観測して2つの画像を得る。一
方の画像より白線を検出して自車両の走行領域を得て、
その中に含まれる明確で長い水平線で最も下方に位置す
るものを車両下端として得る。そして、下端線の上部に
下端線の幅を持つテンプレートと呼ぶ一定の大きさを持
つ領域を定めて、他方画像を探索してテンプレート領域
と輝度パターンが最も類似している領域を得る。これに
より両眼立体視により車両(物体)までの距離が得られ
る。
線があると仮定して、上記テンプレート位置を参考に設
けた別の領域内について、エッジ点の水平方向への投影
ヒストグラムを作成して、そのピーク位置より車両の上
端、下端を定める。この上端と下端の幅より画像での車
両の高さ(h)を定める。これにより、車両の位置、車
両形状(大きさ)を検出する。
の位置を検出しながら移動速度を算出する方法は、大き
く次の(B1):2時刻間の物体位置の差を移動速度と
する方法、(B2):過去の幾つかの物体位置を用いて
現在の移動速度を算出する方法、に大別される。
おき、現時刻の物体位置と前時刻の物体位置の単純な差
の移動速度とする。
猪木誠二、松尾英明、「顔によるオクルージョンを考慮
した手話動画像からの実時間掌追跡」、電子情報通信学
会技術研究報告、PRMU97−104〜110、p
p.15−22を例に説明する。
追跡する方法であるが、対象を追跡するという観点から
は3次元であっても同様なので、本方法を例に説明す
る。先ず、画像より色情報を用いて手領域を抽出し、そ
の領域の重心点位置を領域位置pとする。
を仮定し、観測ベクトルを領域位置p、推定すべきパラ
メータベクトルxとして領域位置と領域速度として、カ
ルマンフィルタを構成してパラメータベクトルxを推定
して、パラメータベクトルで示される領域位置と領域速
度を所要量として求めている。
と、各時刻で観測される領域位置に誤差を含んでいて
も、線形推定の意味で最も安定した位置と速度が推定で
きるため、速度のばらつきを抑えて安定した速度計測が
可能となる。
のにおいては、次のような課題があった。
元情報は、遠方になる程その奥行き、及び空間情報の解
像度が低くなり、距離情報や位置情報のもつ信頼性が低
下する。つまり、複数物体が存在するときに近傍では距
離の違いで分離できる場合も、物体間の距離差は同じで
あっても、遠方にあるときは、距離の違いが検出でき
ず、物体を分離するのが困難になることを意味する。従
って、ある程度遠方にある物体については、距離情報だ
けを用いて、その距離差から物体領域を分離することは
困難である。
体がセンサの近傍で観測される場合には、その物体は大
きく観測され、得られる3次元情報の量(数)は多い
が、同一物体であっても遠方に位置すると、観測される
物体領域そのものも小さくなり得られる3次元情報の数
(量)も少なくなるというように、対象までの距離によ
り距離情報が増減するという性質がある。
に、距離画像を固定サイズの領域(以下「抽出領域」と
呼ぶ)に区切って、その領域毎に物体位置を算出する方
法であると、例えば、遠方の物体を区別するためには、
抽出領域の大きさを小さくする必要があり、この結果と
して、物体が近傍に存在する場合には、十分な数の距離
情報が存在しているにもかかわらず、領域幅が小さいた
め、領域毎に集められる3次元情報の数が減少し、物体
位置の精度が低下する。
抽出領域の大きさを大きくすると、遠方物体を分離でき
なくなるという問題がある。更に、遠方では得られる距
離情報が距離画像上で2次元的にも粗くなり、1つの物
体面が、必ずしも連続した3次元位置を確定できる抽出
領域として得られるとは限らない、という問題がある。
像情報を用いて物体を検出するのに、物体が遠方にある
ときは、物体内部の模様は殆ど観測されず物体輪郭が支
配的となる。従って、このような場合は、前記下村の方
法のように、エッジ点の投影によって物体輪郭を抽出し
て物体領域を定めることは有効である。
は、物体輪郭よりも物体内部の模様が支配的となるの
で、その結果として、エッジ点の投影ヒストグラムで
は、それら物体内部の模様エッジが輪郭部分のピークの
形成を阻害して、安定に輪郭線を検出するのは困難とな
る。従って、常に、画像特徴と距離情報を利用すると、
画像特徴が障害となって物体位置を検出できないことが
ある。
位置を求めて、現時刻の物体位置と前時刻の物体位置の
単純な差で移動速度を求めると、各時刻における物体位
置の計測精度の影響を大きく受け、計測速度のばらつき
が大きく、計測精度が悪い、という問題がある。
法により検出された過去の幾つかの物体位置を用いて現
在の移動速度を算出する方法が考えられるが、この方法
では、或る物体が存在している間に、その物体の時刻間
での対応をいかに安定に求めるかが課題となる。
体を検出する場合などを考えると、日照変化や影の有無
など周囲の証明条件の影響や、物体の移動により見え方
の変化の影響があり、物体が検出できない場合が考えら
れる。この時には、物体の対応付けが不可能なため、物
体の移動速度を計測できなくなり、しかも、フィルタを
利用すると、その未検出の影響が数時刻に渡って影響
し、その間の速度情報は誤ったものとなる。
時には、新たに運動パラメータの推定を開始する必要が
あるため、再び物体を検出してから数時刻は、運動パラ
メータの推定値は誤差を多く含み、誤った速度情報とな
る。このように、安定した速度検出に対して物体の未検
出の影響が大きく現れるという問題がある。
し、物体の距離に影響されることなく、安定した物体の
位置や速度の検出を可能にすることを目的とする。
図であり、図1中、4は物体検出器、4−1は基本領域
検出部、4−2は物体面当てはめ/物体位置決定部、5
は物体速度計測器を示す。本発明は前記目的を達成する
ため、次のように構成した。
次元(x,y)の配列の各場所に奥行き情報を持つ画像
形式や、3次元位置(X,Y,Z)情報の集合の形で与
えられた時に、3次元空間に存在し得る3次元物体の位
置、形状を検出する3次元物体検出装置において、前記
3次元位置情報から物体面を構成する面の全部或いは一
部を、部分特徴である基本領域として検出する基本領域
検出手段(基本領域検出部4−1)と、前記検出された
物体面の基本領域について、予め用意した物体形状モデ
ルの構成面を当てはめる物体面当てはめ手段(物体面当
てはめ/物体位置決定部4−2)と、前記物体面当ては
め手段による当てはめ結果の良否より物体の有無を判定
する物体領域判定手段(物体面当てはめ/物体位置決定
部4−2の一部)を備え、前記基本領域検出手段は、或
る近隣範囲に存在する3次元位置情報をまとめて基本領
域とするが、その際、このまとめる近隣範囲の大きさ
を、3次元位置により変化する物体の見かけの大きさに
合わせた適切な大きさに設定することで、距離情報を過
不足なくまとめることを可能にし、その結果として物体
位置を検出する機能を備えている。
次元(x,y)の配列の各場所に奥行き情報を持つ画像
形式や、3次元位置(X,Y,Z)情報の集合の形で与
えられた時に、3次元空間に存在し得る3次元物体の位
置、形状を検出する3次元物体検出装置において、前記
3次元位置情報から物体面を構成する面の全部或いは一
部を、部分特徴である基本領域として検出する基本領域
検出手段と、前記検出された物体面の基本領域につい
て、予め用意した物体形状モデルの構成面を当てはめる
物体面当てはめ手段と、前記物体面当てはめ手段による
当てはめ結果の良否より物体の有無を判定する物体領域
判定手段を備え、前記物体面当てはめ手段は、当てはめ
対象である基本領域の3次元距離によって、距離情報の
他に、対象情景を撮像する濃淡或いはカラー画像から得
られる情報を使用するか不使用とするかを切り換える機
能を備えている。
情報を検出する位置検出手段を備え、前記位置検出手段
の検出結果を時系列的に求めていき、その得られた物体
位置の時系列的な対応を求めることで、各物体の速度情
報を算出する3次元物体検出装置において、前記位置検
出手段で物体が検出できず、その結果として時系列での
対応が求まらない時、一定回数だけその物体を未対応状
態で位置を残しておき、前記位置検出手段で再び物体が
検出された時には、未対応であった期間での平均移動速
度を参考に未対応状態の物体と矛盾なく対応できるかを
調べ、もし矛盾なく対応できるならば、先の検出された
物体を未対応物体が再び検出されたとして、未対応間の
平均移動速度を再追跡の初期速度として与えて再び物体
の追跡を行うことで、速度計測を再開できるようにした
速度検出手段(物体速度計測器5)を備えている。
各場所に奥行き情報を持つ画像形式や、3次元位置情報
の集合の形で与えられた時に、3次元空間に存在し得る
3次元物体の位置、形状を検出する3次元物体検出方法
において、前記3次元位置情報から物体面を構成する面
の全部或いは一部を、部分特徴である基本領域として検
出する基本領域検出処理と、前記検出された物体面の基
本領域について、予め用意した物体形状モデルの構成面
を当てはめる物体面当てはめ処理と、前記物体面当ては
め手段による当てはめ結果の良否より物体の有無を判定
する物体領域判定処理を有し、前記基本領域検出処理で
は、或る近隣範囲に存在する3次元位置情報をまとめて
基本領域とするが、その際、このまとめる近隣範囲の大
きさを、3次元位置により変化する物体の見かけの大き
さに合わせた適切な大きさに設定することで、距離情報
を過不足なくまとめることを可能にし、その結果として
物体位置を検出するようにした。
次元(x,y)の配列の各場所に奥行き情報を持つ画像
形式や、3次元位置(X,Y,Z)情報の集合の形で与
えられた時に、3次元空間に存在し得る3次元物体の位
置、形状を検出する3次元物体検出装置に、3次元位置
情報から物体面を構成する面の全部或いは一部を、部分
特徴である基本領域として検出する第1の手順と、前記
検出された物体面の基本領域について、予め用意した物
体形状モデルの構成面を当てはめる第2の手順と、前記
第2の手順による当てはめ結果の良否より物体の有無を
判定する第3の手順と、前記第1の手順を行う場合、或
る近隣範囲に存在する3次元位置情報をまとめて基本領
域とするが、その際、このまとめる近隣範囲の大きさ
を、3次元位置により変化する物体の見かけの大きさに
合わせた適切な大きさに設定することで、距離情報を過
不足なくまとめることを可能にし、その結果として物体
位置を検出する第4の手順と、を実行させるためのプロ
グラムを記録したコンピュータ読み取り可能な記録媒
体。
を、図1に基づいて説明する。
置情報をまとめて基本領域とするが、その際、このまと
める近隣範囲の大きさを、3次元位置により変化する物
体の見かけの大きさに合わせた適切な大きさに設定する
ことで、距離情報を過不足なくまとめることを可能に
し、その結果として物体位置を検出する。
モデルを当てはめてその良否から物体の有無を決定する
「物体検出処理」で必要となる、距離(視差)画像から
近隣の距離情報をまとめて平面部分を物体面候補として
抽出する。この処理において、3次元位置(奥行き)に
より変化する物体の観測大きさに合わせた適切な領域を
「近隣」として近隣領域内の距離情報をまとめることで
過不足ない距離情報を用いることを可能にする。
する方法で生じる、遠方で近隣する他物体を誤って一つ
の物体としてしまう過併合の問題や、近傍で一つの物体
面が多くの小平面に分割されて検出され、本来の物体面
に統合するのが困難になる過分割の問題を生じることな
く、物体の3次元位置(奥行き)によらず、常に安定し
て一つの物体面を一つの平面として抽出することができ
る。
3次元距離によって、距離情報の他に、対象情景を撮像
する濃淡或いはカラー画像から得られる情報を使用する
か不使用とするかを切り換える。
体が遠方にあると物体の観測大きさが小さくなり、得ら
れる距離情報の数が不足して、距離情報への物体面モデ
ルの当てはめではモデル位置を変化させても当てはめ度
合いが殆ど変化せず、物体位置の特定が困難となる。
3次元距離情報の他に、ビデオカメラ(或いはテレビカ
メラ)等で撮像された情景の濃淡画像から得られる物体
輪郭線情報を用いて画像中での物体位置を補正すること
で、物体の3次元位置(奥行き)によらず、常に安定し
て物体位置を得ることができる。
の結果として時系列での対応が求まらない時、一定回数
だけその物体を未対応状態で位置を残しておき、前記位
置検出手段で再び物体が検出された時には、未対応であ
った期間での平均移動速度を参考に未対応状態の物体と
矛盾なく対応できるかを調べ、もし矛盾なく対応できる
ならば、先の検出された物体を未対応物体が再び検出さ
れたとして、未対応間の平均移動速度を再追跡の初期速
度として与えて再び物体の追跡を行うことで、速度計測
を再開する。
体領域が検出できず、対応が求まらない時は、一定の回
数だけその物体を未対応状態で位置の情報を残してお
き、再び物体が検出された場合には、未対応の間の平均
移動距離を初期速度として与えて再び物体の追跡を行う
ことで、再検出の直後から速度を安定に計測することを
可能とする。
始める従来方式では、速度情報を安定に得るには、更
に、数フレームの物体追跡が必要で、速度情報の出力ま
でに時間遅れを要していたが、本発明では、物体の検出
ができない場合があっても、時間遅れなく、速度情報を
得ることができる。
部を、部分特徴である基本領域として検出する基本領域
検出処理と、前記検出された物体面の基本領域につい
て、予め用意した物体形状モデルの構成面を当てはめる
物体面当てはめ処理と、前記物体面当てはめ手段による
当てはめ結果の良否より物体の有無を判定する物体領域
判定処理を有し、前記基本領域検出処理では、或る近隣
範囲に存在する3次元位置情報をまとめて基本領域とす
るが、その際、このまとめる近隣範囲の大きさを、3次
元位置により変化する物体の見かけの大きさに合わせた
適切な大きさに設定することで、距離情報を過不足なく
まとめることを可能にし、その結果として物体位置を検
出するようにした。
「近隣」とする方法で生じる、遠方で近隣する他物体を
誤って一つの物体としてしまう過併合の問題や、近傍で
一つの物体面が多くの小平面に分割されて検出され、本
来の物体面に統合するのが困難になる過分割の問題を生
じることなく、物体の3次元位置(奥行き)によらず、
常に安定して一つの物体面を一つの平面として抽出する
ことができる。
み出して実行することにより、或る近隣範囲に存在する
3次元位置情報をまとめて基本領域とする際、このまと
める近隣範囲の大きさを、3次元位置により変化する物
体の見かけの大きさに合わせた適切な大きさに設定する
ことで、距離情報を過不足なくまとめることを可能に
し、その結果として物体位置を検出する。
モデルを当てはめてその良否から物体の有無を決定する
「物体検出処理」で必要となる、距離(視差)画像から
近隣の距離情報をまとめて平面部分を物体面候補として
抽出する。この処理において、3次元位置(奥行き)に
より変化する物体の観測大きさに合わせた適切な領域を
「近隣」として近隣領域内の距離情報をまとめることで
過不足ない距離情報を用いることを可能にする。
する方法で生じる、遠方で近隣する他物体を誤って一つ
の物体としてしまう過併合の問題や、近傍で一つの物体
面が多くの物体面が多くの小平面に分割されて検出さ
れ、本来の物体面に統合するのが困難になる過分割の問
題を生じることなく、物体の3次元位置(奥行き)によ
らず、常に安定して一つの物体面を一つの平面として抽
出することができる。
に基づいて詳細に説明する。
法によって3次元位置情報(距離情報)が与えられた時
に、3次元空間の広範囲に存在し得る3次元物体の位
置、形状、移動速度を検出するものである。ここで、3
次元位置情報とは、空間上の各位置或いは特定の3次元
位置(X,Y,Z)を表す情報の集合で、与えられる形
式は、2次元(X,Y)の配列の各場所に奥行き情報を
持つ画像形式であっても良いし、3次元位置(X,Y,
Z)情報の集合の形をとっても良い(X、Y、Z:3次
元空間を表す座標)。
体の位置、形状を検出する方法について説明する。予
め、検出したい3次元物体の概略大きさ、形状を表す3
次元形状モデルを用意する。そして、3次元位置情報か
ら、3次元的に位置が近く、しかも平面を構成する部分
をまとめて、いくつかの面素(以下、「基本領域」と呼
ぶ)を抽出する。
成する各面を当てはめていき、3次元モデルで観測でき
る全てについて問題なく当てはまるなら、その位置に3
次元物体が存在するとする。ここで、一般に3次元上の
物体は、遠方にあるほど観測される大きさは小さく、逆
に近くにあるほど大きく観測されることを考えると、物
体面を当てはめるべき基本領域の大きさは、対象の物体
の位置(距離)によって変わってくるという問題が生じ
る。
3次元距離に応じて領域形成に利用する3次元位置情報
の範囲を変化させて、遠方では小さい領域となり、逆に
近傍では大きな領域となるようにする。観測される物体
の大きさに合わせることで、できるだけ他の物体を含ま
ず安定した基本領域を得る。
き情報の解像度が低くなり、距離情報の持つ信頼性が低
下する。更に、物体そのものも遠方になると小さくなり
得られる3次元情報の数(量)も少なくなる。これによ
り、物体が遠方にあると先の3次元モデルの当てはめが
困難になる。
の当てはめが困難になった時には、ビデオカメラ(或い
はテレビカメラ)などで得られる情景の濃淡画像(或い
はカラー画像)から得られる物体輪郭線を用いて物体位
置を正確に検出する。逆に、物体が近傍にある時には、
3次元情報が多く得られることと、濃淡画像で物体内部
の模様が支配的になり輪郭線と区別するのが困難になる
ので、物体輪郭情報は利用しない。このように、距離に
応じて適応的に画像情報を利用することで、物体の距離
に影響することなく、安定して物体位置を検出する。
基本的には、先で得られた物体の3次元位置の時間変化
から物体の移動速度を検出するが、検出速度の安定化の
ために、一般的に良く行われる物体の運動モデルを用い
て過去の位置情報も利用して現在の移動速度を定める。
速度情報が安定するまでにある程度の時刻間で同一物体
を正しく対応付けることが必要である。ところが、例え
ば、屋外での物体検出では周囲の証明条件の影響や物体
の移動による見え方の変化により物体が検出ではない場
合は、物体の時間的対応付けが不可能なので、速度が計
測できなくなる。
速度情報が安定して得られるまで、再度、ある程度の時
刻間の対応付けを要し、即座に速度情報を確定すること
は困難である。このように、対応の消失は、安定した速
度検出への影響が大きく現れる。
い時は、一定の回数だけその物体を未対応状態で位置、
大きさの情報を残しておき、再び物体が検出された時に
は、未対応であった期間での平均移動速度を初期速度と
して与えて、再び物体の追跡を続行する。これにより、
例え物体位置がある期間検出できなかったとしても、物
体位置を再検出してから速度を安定させるための一定期
間の物体対応が不要なので、速度情報を速やかに安定さ
せることができる。
明 以下、3次元物体検出/速度検出処理について説明す
る。
めの核となる領域(基本領域)を3次元位置情報から抽
出しておき、その基本領域に予め、定めた物体のモデル
を当てはめて、当てはまり度合いが良いときに物体が存
在するという処理を行う。
置情報を持つ画素について、画像上での2次元距離と3
次元奥行きがそれぞれ近傍しており、しかも平面を構成
する3次元位置情報をまとめた領域とするが、この画像
上での2次元距離の大きさを、対象の3次元奥行きに応
じて可変する。すなわち、物体が近傍にあるときは、対
象物体は大きく観測できているので、画像上での近接度
合いを測る距離差を大きくとり、広い領域から十分な数
の3次元位置情報を抽出して安定した基本領域を得る。
小さいので、画像上での近接度合いを測る距離差を小さ
くし、近傍にある他物体と融合した誤った基本領域とな
らないようにする。このように、物体の位置(距離)に
応じて変化する観測物体の大きさに合わせた適切な大き
さで特徴量をまとめることで、固定サイズでの基本領域
抽出で生じる物体位置の違いによる基本領域の検出精度
の問題に影響されることなく、物体面の核となる基本領
域を物体の位置によらず安定して求めることができる。
報の解像度が不足して、モデルの当てはめが困難になる
ので、物体が遠方にあるときには、3次元位置情報の他
にビデオカメラ(或いはテレビカメラ)などで撮像され
る情景の濃淡画像、或いはカラー画像から得られる物体
輪郭線を用いて物体位置を正確に検出する。
が多く得られることと、濃淡画像或いはカラー画像で物
体内部の模様が主体になり、輪郭線と区別するのが困難
になるので、物体輪郭情報は利用しない。このように、
必要に応じて画像情報を利用することで、物体の距離に
影響することなく、物体位置を検出できる。
明では、基本的には、物体の運動モデルを用いて過去の
幾つかの位置情報を元に、現在の移動速度を定めること
で安定した速度を得るが、物体が検出できず対応が求ま
らない時は、一定の回数だけその物体を未対応状態で位
置、大きさの情報を残しておき、再び物体が検出された
時には、未対応であった期間での平均移動速度を参考に
未対応状態の物体と矛盾なく対応できるかを調べる。
ば、先の検出された物体を未対応物体が再び検出された
として平均移動速度を初期速度として再び物体の追跡を
行う。これにより、例え物体位置が或る期間検出できな
かったとしても、物体位置を再検出してから速度を安定
させるための一定期間物体対応が不要なので、速度情報
をいつでも安定させることができる。
計測器1と、視差画像の変換処理を行う視差画像変換器
2と、物体の位置、大きさ(形状)を検出する物体検出
器4と、物体の移動速度を計測する物体速度計測器5
と、カメラ3等を備えている。
を使用する。そして、距離計測器1としては、対象物体
を含む情景の3次元情報を取得できるもの、例えば、2
台のビデオカメラ(或いはテレビカメラ)を所定距離だ
け離して配置したステレオカメラと呼ばれるものを使用
する。
像して濃淡画像(モノクロ)、或いはカラー画像が出力
できるものを使用するが、前記距離計測器1が2台のカ
メラで構成されている場合には、その1台をカメラ3と
して使用しても良い。
ず、距離計測器1により距離情報(3次元位置情報)を
取得し、必要があれば、視差画像変換器2において、2
次元配列(x,y)に視差値を持つ視差画像の形式に変
換し、視差画像を出力する。続いて、物体検出器4によ
り、視差画像と、カメラ3で撮像された濃淡(或いは、
カラー)画像を用いて物体位置を検出する。
で得られた物体位置の時間変化より物体の移動速度を計
測する。このようにして、システム出力として、物体の
位置、大きさ(形状)、移動速度情報を出力する。
説明する。距離計測器1は情景の3次元情報を取得でき
る手段であれば、その方式については言及しない。出力
として、2次元配列(x,y)の各位置において、3次
元距離或いは視差を有する画像の形式の他、3次元位置
(X,Y,Z)の情報の集合であっても構わない。
機構であり、距離計測器1の出力が3次元位置(X,
Y,Z)情報の集合として与えられた時は、位置(X,
Y)と距離(Z)と仮想的なカメラパラメータ(f:カ
メラ焦点距離、b:カメラ間距離)を用いて、x=f×
X/Z、y=f×Y/Z、d=f×b/Zの式で視差画
像{位置(x,y)で視差値d}へと変換する機能を有
する。なお、距離計測器1が視差画像を出力する場合
は、視差画像変換器2は不要である。
は、視差画像とカメラ3で撮像した情景の濃淡画像(或
いはカラー画像)を入力して、複数の物体位置を検出す
るものであり、基本領域を検出する基本領域検出部4−
1と、物体面の当てはめ処理及び物体位置を決定する処
理を行う物体面当てはめ/物体位置決定部4−2とを備
えている。
る。先ず、基本領域検出部4−1で、入力した視差画像
から物体面を当てはめるのに十分な情報を持つ核となる
領域(基本領域Ri )を求める。次に、予め、物体の形
状モデルを用意しておき、物体面当てはめ/物体位置決
定部4−2で、得られた基本領域Ri についてモデル物
体面を当てはめていき、そこに物体が存在するか否かを
決定する。結果として、検出された物体(位置、大きさ
情報を有する)のリスト(物体情報配列)OLとして、
出部4−1は、視差画像の間引き処理を行う視差画像間
引き部11と、単位領域を検出する単位領域検出部12
と、基本領域を生成する基本領域生成部13を備えてい
る。
ある。先ず、視差画像間引き部11により、入力した視
差画像をn×m画像の領域にまとめることで、局所的に
安定した視差情報を持つ部分を得るとともに、画像数を
間引くことで全体の処理量を削減する。但し、処理時間
等に問題がない場合には、視差画像間引き部11を省い
てもよい。ここで、視差画像の内、視差画像を持つ画像
を「視差点」と呼ぶことにする。
れた視差画像の視差点位置において、3次元上で単位大
きさを持つ平面(単位平面モデルMSで示される)が、
その視差点の位置(距離)で観測された場合の視差画像
上での大きさ(領域)を求めて、その領域内にある間引
き前の視差点の分布より、安定して平面を構成するもの
(「単位領域Ei 」と呼ぶ)を抽出して、単位領域リス
トELi を得る。
位領域群の中から同一平面を構成できるものをまとめて
基本領域Ri を生成し、基本領域リストRLi を得る。
説明 間引き視差画像と元の視差画像の位置関係を図4に示
す。図4において、Aは元の視差画像、Bは間引き視差
画像を示す。
の幅をN画素、高さをM画素とする時、視差画像を横n
画素、縦m画素の小領域wi に区切り(図4のA参
照)、それぞれの小領域wi 毎に、以下の条件を満足す
るか否かを調べ、満足する小領域wi についてはその平
均視差を画素値とする(集約する)、幅N/n、高さM
/mの新たな間引き視差画像(図4のB参照)を得る。
き、小領域wi は条件を満たしたとする。
1、かつ、(小領域wi の視差点の視差の分散値)<閾
値2 :(小領域wi の視差点の数/n×m)>閾値3 なお、前記閾値1、2、3は、予め定めておく。
明 単位領域検出部12では、先ず、3次元空間で、縦MS
x 、横MSy のサイズを持つ平面を単位平面モデルMS
として定義する。そして、間引き視差画像の各視差点
(xi ,yi ,di )について、その距離(視差)に単
位平面モデルMSを置いた時の元の視差画像での観測位
置(pxi ,pyi )、サイズ(nxi ,nyi )を、
式{pxi =xi ×n、pyi =yi ×m、nxi =M
Sx ×di/b、nyi =MSy ×di /b}により求
める。
標上の位置、di は視差値、bは2つのカメラのカメラ
間距離とする。そして、元の視差画像での位置(p
xi ,pyi )を中心として、サイズ(nxi ,n
yi )の領域を設けて、それに含まれる元の視差画像で
の視差点を用いて、以下の評価値を計算する。そして、
評価値が閾値以上のものを単位領域Ei とする。
個数、fはカメラの焦点距離、DIFFは3次元的に区
別した距離(閾値)を表す。単位領域検出部12の操作
の結果として、単位領域リストELが、
る。
明 図5は基本領域生成部の処理フローチャートである。以
下、図5に基づいて、基本領域生成部13の処理を説明
する。なお、図5において、S1〜S12は各処理ステ
ップを示す。
の単位領域を集めたもので、その奥行きは基本領域に属
す単位領域群の平均距離とし、基本領域の大きさは、属
す単位領域群を含む最大矩形領域とする。この基本領域
を図5の処理で求める。
単位領域リストELを入力し(S1)、前記単位領域リ
ストELから、基本領域に属していない単位領域Ei を
得る処理を行ない、単位領域リストELに、基本領域に
属さない単位領域Ei が有るか否かを判断する(S
2)。その結果、単位領域リストELに属さない単位領
域Ei が無ければ処理を終了する。
が有れば、その単位領域Ei を1つ取り出し、基本領域
Rk を生成する(S3)。次に、結合有りフラグを下ろ
し(リセット)し(S4)、前記単位領域Ei とは異な
り、かつ、前記基本領域Rkに属していない他の単位領
域Ej を取得する(S5)。この場合、この単位領域E
j が存在すれば(S6)、単位領域Ej が基本領域Rk
に属するか否かを調べる(S7)。
Rk に属するならば、基本領域Rkに単位領域Ej を統
合する(S8)と共に、「統合フラグ」を立ててから
(S9)、パラメータjを更新(j=j+1)し(S1
0)、S5の処理へ移行することで、次の単位領域Ej
を取得し、処理を繰り返す。この繰り返し処理により、
調査すべき単位領域Ej が無くなったら(S6)、「統
合有りフラグ」の状態を調べる(S11)。
っているならば、当該繰り返し処理において、新たに統
合操作が行われたので、その結果として統合できる単位
領域が生じた可能性がある。そこで、フラグが立ってい
るならば、再び、S4の処理へ移行し、単位領域リスト
EL中より、統合可能な単位領域Ej がないか、再び調
べる。
すべき単位領域Ej が無いので、新たに基本領域RK+1
を生成して、同様の処理を繰り返す。この場合、S11
の処理で、結合フラグが立っていなければ、パラメータ
iを更新(i=i+1)し(S12)、S2へ移行す
る。
するか否かの判断条件について述べる。基本領域Rk を
構成する単位領域の中で、画像上最も単位領域Ej に近
い単位領域をEk とする時、Ej からEk までの画像上
距離をL1、視差の差をL2として、それらが予め決め
た閾値内のときに、Ej がRk に属するとする。
視差の説明図、Cは画像を示す。図7は処理説明図(そ
の2)であり、Aはメモリ上の視差画像、Bは視差画像
の一部詳細説明図、Cは間引き視差画像を示す。図8は
処理説明図(その3)であり、Aは視差画像の説明図、
Bは視差画像生成時の説明図である。
と、一旦、メモリに格納され、図6のAに示す状態とな
る。この場合、図6のAのX、Yは座標軸を示し、図の
斜線部分は視差(距離)である。すなわち、視差画像
は、視差(距離)を含んだ情報となっている。
カメラで撮像した画像(実線の丸)をL、右側のカメラ
で撮像した時の画像(点線の丸)をRとした場合、前記
LとRを重ねると、視差のある画像となる。すなわち、
実線の丸と点線の丸を重ねた時の2つの画像のずれをx
Rとすれば、このずれxRが視差(距離)となる。この
ように視差のある視差画像を元に、図6のCに示すよう
に、m×n画像を取り出して前記間引き処理を行う。
像をメモリに格納する。そして、前記視差画像を横n画
素、縦m画素の小領域wi に区切り(図7のB参照)、
それぞれの小領域wi 毎に、前記条件を満足するか否か
を調べ、満足する小領域wiについてはその平均視差を
画素値とする(集約する)、間引き視差画像(図7のC
参照)を得る。
画像)を写し込むと、図8のAの状態になる。この場
合、近い物体は大きくなり、遠い物体は小さくなる。例
えば、近い物体の一部の単位平面(m×n画像)が、視
差=10(例えば、距離=1m)であり、遠い物体の一
部の単位平面(m×n画像)が、視差=1(例えば、距
離=10m)のようになる。
る、縦MSx 、横MSy のサイズを持つ単位平面モデル
の大きさを、MSx ×MSy =(40cm×50cm)
とすれば、10m離れた所に、40cm×50cmの板
(物体)がどれいらいの大きさで見えるかを計算する。
きくなり、遠い物体では視差が小さくなる。このよう
に、視差が大きければ距離が小さく、視差が小さければ
距離が大きい、という関係になっている。従って、視差
は距離情報と同じである。
成したステレオカメラを使用して得ることができる。例
えば、図8のBに示すように、第1のカメラLと第2の
カメラRを所定距離(例えば、距離b)だけ離して設置
し、これら2つのカメラで撮像した濃淡画像(白黒)か
ら、エッジ画像(物体の輪郭画像)を得て、L、Rの各
エッジ画像を合成して視差画像が生成できる。
説明 (5) −1:定義 説明に先立ち、物体モデルについて説明する。物体モデ
ルは、物体の形状、大きさに合わせて複数用意し、その
1つの物体モデルをモデルクラスCi とし、それらモデ
ルクラスCi に合わせて、
す。各モデルクラスCi は、1つ或いは複数の幾何形状
(ここでは直方体)よりなり、対象に合わせて大きさが
調整されている。本例では、直方体を用いるので、直方
体を構成する面の内、観測者から見える面は3面ある
が、本例では、簡単化のために、直方体の面のうち、垂
直面として位置する2面について取り上げて考える。
れの方向へ投影面を考えれば話は同様である。これら2
面を次のように分類しておく。観測者の視線方向に直交
する面に近い方を「前面領域Sf,k 」と呼び、視線方向
に並行する面に近い方を「側面領域Ss,k 」と呼ぶ。
部の構成の説明 物体面当てはめ/物体位置決定部の構成図を図3のBに
示す。物体面当てはめ/物体位置決定部4−2には、前
面領域の当てはめ処理を行う前面領域当てはめ部14
と、側面領域の当てはめ処理を行う側面領域当てはめ部
15を備えている。
は、視差画像と基本領域リストRL i 、i∈{1,2,
・・・,NR }を入力として、先ず、前面領域当てはめ
部14により、各基本領域Ri を物体の前面領域と考え
たときに、矛盾のない3次元位置分布が得られる物体領
域Of,i を得る。
り、今度は基本領域Ri を物体の側面領域と考えた時の
物体領域Os,i を得る。このように、全ての組み合わせ
で、物体領域を検出することで、物体の位置によらず、
漏れなく物体を検出することができる。以下、詳細に説
明する。
理) 図9は、前面領域当てはめ部の処理フローチャート(そ
の1)である。以下、図9に基づいて、前面領域当ては
め部の処理を説明する。なお、S31〜S36は各処理
ステップを示す。
ストに属す基本領域Ri 、i∈{1,2,・・・,
NR }各々について、全てのモデルクラスCk 、k∈
{1,2,・・・,NC }に対して、図9に示す処理で
モデル当てはめを行い、モデルと合致する物体領域を検
出する。
す3次元位置にモデルクラスCk を構成する前面領域S
f,k を置いた時に、その面を支持する視差点があるか調
べる。この場合、当てはめ度合いは、当てはめ得点SC
1(SC:スコア)として与えられている。
面領域Sf,k を元に、位置関係より生成できる側面領域
Ss,k を生成し、側面領域を支持する視差点があるか調
べる。この場合、当てはめ度合いは、当てはめ得点SC
2(SC:スコア)として与えられている。当てはめ度
合いが良ければ、モデルクラスCk が与える位置に物体
領域Of,i が存在するとする。また、この物体領域の評
価値SC=SC1+SC2とする。もし、いずれかの当
てはめ度合いが悪い場合は、物体領域は無いとする。
差画像、基本領域Ri 、モデルクラスリストCLを入力
し(S31)、基本領域Ri をモデルクラスCk の前面
領域Sf,k として、モデル面の当てはめを行う(S3
2)。この当てはめ処理では、先ず、基本領域Ri をモ
デルクラスCk の前面領域Sf,k として、モデル面の当
てはめを行う。この時、当てはめ得点SC1,i,kを取得
する(S32)。
領域が存在したか否かを判断し(S33)、前面が存在
しなければ、物体領域無し、物体得点SC=0として処
理を終了する。しかし、前面領域Sf,k が存在した場合
には、モデルクラスCk に、側面領域Ss,k を生成し
て、側面領域Ss,k が有るか否かを調べる。この時、当
てはめ得点SC2,i,kを取得する(S34)。
領域が存在したか否かを判断し(S35)、側面領域S
s,k が存在しなければ、物体領域無し、物体得点SC=
0として処理を終了する。しかし、側面領域Ss,k が存
在したら、モデルクラスCkの位置を物体領域Oi,k の
位置とし、物体領域Oi,k の当てはめ得点SC=SC1
,i,k+SC2,i,kとする(S36)。このようにして、
物体領域Oi,k 有り、当てはめ得点SC=SC1,i,k+
SC2,i,kを得る。
細処理1) 図10は、前面領域当てはめ部の処理フローチャート
(その2)であり、前面領域当てはめ部の一部詳細処理
(図9のS32の詳細な処理)を示したものである。以
下、図10に基づいて、前面領域当てはめ部の一部詳細
処理を説明する。なお、S41〜S48は各処理ステッ
プを示す。
Ri 、モデルの前面領域Sf,k 、視差画像を入力し(S
41)、前面領域Sf,k を基本領域Ri が示す3次元位
置に置いた時の視差画像での投影領域hf を得る(S4
2)。
の観測大きさが小さくなり得られる距離情報の数が不足
して、距離情報へ物体面モデルの当てはめでは、モデル
位置を変化させても当てはめ度合いが殆ど変化せず、物
体位置の特定が困難となる。このため、物体が閾値以上
に遠い場合は3次元距離情報の他に、ビデオカメラ(或
いはテレビカメラ)などで撮像された情景の濃淡画像か
ら得られる物体輪郭線情報を用いて、画像中での物体位
置を補正することで、物体の3次元位置(奥行き)によ
らず、常に安定して物体位置を得る。
本領域Ri の3次元距離を調べ(S43)、その距離が
閾値以上に遠い場合は距離情報の信頼性が低下しており
距離情報だけで物体位置を定めるのは困難であるため、
カメラ3から出力された濃淡画像を取り込み、投影領域
hf を基準に物体輪郭の有無を求める(S44)。
有無)を調べ(S45)、もし、輪郭線が無ければ、物
体はないものとする(前面領域無し)。また、輪郭線が
あった場合は、前面領域Sf,k を距離情報が支持するか
否かを調べる(S46)。また、S43の処理で、基本
領域Ri の距離が閾値以下であれば、距離情報の信頼性
があるので、輪郭線の検査は行わず、前面領域Sf,k を
距離情報が支持するか否かを調べる(S46)。
するか否かを調べる処理では、投影領域hf 内の視差点
を用いて前面領域Sf,k に当てはめを行い、その絶対当
てはめ得点Sa と、平均当てはめ得点Sr を計算する
(S46)。このようにして、S46の処理では、前面
領域を距離情報が支持するか否かを調べる処理を行うこ
とによって、絶対的当てはめ得点Sa が得られる。
であれば(S47)、前面領域Sf, k 無しとするが、前
面領域Sf,k への距離情報の当てはめの平均当てはめ得
点S r が閾値より大きければ、安定して物体面を支持す
る3次元情報があると見なせるので、前面領域Sf,k が
存在するとする。更に、その時の当てはめ得点SC1と
して、絶対得点Sa を用いる(S48)。このような処
理により、前面領域S f,k が存在するか否かの情報が得
られる。
細処理2) 図11は、輪郭検出処理の説明図であり、図10のS4
3、S44の処理を詳細に説明したものである。ここで
は、先ず、物体輪郭検出領域としての輪郭探索領域Hf
を、先に求めた物体面の投影領域hf と中心を同じくし
て、大きさを投影領域hf と一定倍大きくした領域とし
て定める。
像でのエッジについて縦方向に投影を取る。投影像は、
横軸を位置(x)とし、縦軸に輝度をとるヒストグラム
となる。このヒストグラムから、閾値以上の輝度を持つ
ピーク位置を検出することで、輪郭線の位置を決定す
る。
わせで、モデル領域(投影領域hfをモデル領域とす
る)の幅と近い幅を持つピーク組があるか否かを調べ
る。もし、類似した幅のピーク組があれば、該当モデル
が支持する物体の輪郭線があったとする。もし、明示し
た幅のピーク組がなければ、物体を支持する輪郭はない
とする。
細処理3) 以下、図10のS46の処理を詳細に説明する。この処
理は、前面領域を距離情報が支持するか否かを定める処
理であり、以下、その内容を詳細に説明する。
i ,yi ,di )とする。この時、位置(xi ,yi )
でのモデル面Sf,k の視差値dS として、以下の操作を
行う。
報の当てはめの絶対得点)を表し、初期値はSa =0と
する。この操作をモデル領域hf 内の全ての視差点につ
いて行う。そして、平均当てはめ得点Sr を、Sr =S
a /MAX(hf の幅,hfの高さ)の式により求め
る。この処理で、物体面を当てはめた時の、当てはめの
良否(Sr ,Sa )が得られる。
用)の説明 図12は、側面領域当てはめ処理(確認用)フローチャ
ートであり、図9のS34の詳細な処理を示したもので
ある。以下、図12に基づいて、図9のS34の処理を
詳細に説明する。なお、S51〜S57は各処理ステッ
プを示す。
側面領域の当てはめ処理である。先ず、前面領域
Sf,k 、モデルクラスCk 、視差画像を入力し(S5
1)、側面領域位置の決定を行う(S52)。この場
合、先に求まった前面領域Sf,k の位置を元に、側面領
域Ss,k の3次元位置を計算する。側面領域としては両
横の2つが考えられるが、現在の視点から見えている方
に限定する。そして、側面領域S s,k の視差画像への投
影である投影領域hs を得る(S53)。
領域Ss,k の最前方位置と最後方位置の差(奥行き変化
量)を調べて、その差が距離情報の解像度に比べて十分
大きいならば(S54)、距離情報による当てはめが行
えるので、以降の処理を行なう。また、もし、解像度が
不足しているなら、側面領域の存在を問うこと自体が意
味を持たないので、側面領域検査不要として処理を終え
る。
分な時(S54)には、前記S34の処理により側面領
域Ss,k を支持する視差点が十分あるかを調べ、物体面
当てはめ処理を行う。この場合、物体面当てはめ度合い
の良否判断の結果は、平均当てはめ得点Sr 、絶対当て
はめ得点Sa として返される(S55)。
点Sr が閾値以上なら(S56)、側面領域Ss,k が存
在していると見なし、当てはめ得点の評価値SC2とし
て、絶対当てはめ得点Sa を返す(S57)。また、平
均当てはめ得点Sr が閾値以下なら、当該側面領域S
s,k は無いとする。
処理について説明する。この処理では、各基本領域Ri
について、最初に側面領域Ss,k を求めて、該側面領域
Ss,k が有れば、それを支持する前面領域Sf,k を求め
て、その双方があれば物体領域Os,k があるとする。
4との違いは前面領域と側面領域の探索順序の違いだけ
で、その内容は実質的に同じである。従って、これまで
説明した処理を、前面を側面領域に、側面領域を前面に
それぞれ入れ換えたものと同値であるから、詳細な説明
は省略する。
る。物体の速度は、各時刻で得られる物体位置を時刻間
で対応づけることで、物体の位置変化を取得して求め
る。すなわち、物体の速度計測は、時刻間の物体の移動
量より求める。この対応付けを行う主体として、追跡器
TAi (iは他の追跡器と区別するための添え字)を定
義する。
は以下の通りである。
物体領域Oi が無くなった時には、追跡器TAi はロス
ト追跡器TLi に遷移するとする。このロスト追跡器T
Liを集めた集合、ロスト追跡器リストTLL={TL
i }、i∈{1,2,・・・,Nn }を定義する。
応付ける方法)の説明 図13は物体追跡処理フローチャートである。以下、図
13に基づいて物体追跡処理を説明する。なお、S61
〜S69は各処理ステップを示す。
TAL、ロスト追跡器リストTLLを入力し(S6
1)、追跡器リストTALから、物体領域と対応付けら
れていない未対応の追跡器TAi を得る(S62)。も
し、そのような追跡器TAi がなければ(S63)、S
68の処理(後述する)へ移行する。
TAi について、対応可能な物体領域Oj を物体領域リ
ストOLから選択する(S64)。もし、対応する物体
領域Oj があれば(S65)、追跡器TAi を物体領域
Oj を用いて更新処理する(S66)。そして、処理を
S62に戻す。
追跡器TAi に対して対応ロスト処理を行い(S6
7)、処理をS62に戻す。このように全ての対応追跡
器TAiについて物体領域との対応付けが終了すると、
処理はS68へ以降する。ここの段階の物体領域リスト
には、追跡器と対応付けがかなった新規の物体領域が残
っている。
域もあれば、以前の対応追跡器中に何らかの理由で対応
をロストして、その同一物体領域がこの時点で再び観測
されたものもある。そこで、先ず、後者の場合を想定し
て、ロスト追跡器TLi と矛盾なく対応する物体領域O
j を探索する(S68)。
対応するロスト追跡器TLi の情報を用いて初期速度を
定め、対応追跡器TAi に戻す。初期速度が定まってい
るので、カルマンフィルタで推定するパラメータの収束
が早まり、短時間で位置、速度情報が安定する。
器TAを設定して、以降の追跡処理を開始する。そし
て、最後に、ロスト追跡器TLi のロスト回数をインク
リメントし、一定回数以上ロスト状態が続くロスト追跡
器TLi を除去する更新処理を行う(S69)。
明する。この処理では、ロスト追跡器TLi の見失った
時刻での位置から、現時刻の位置を喪失した時に、その
位置と物体領域Oj からの位置が十分近いなら、矛盾無
しとする。そして、矛盾がないなら、ロスト追跡器TL
i の速度を初期値として追跡を再開する。この時、ロス
ト追跡器TLi を追跡器TAi として、追跡器リストT
ALに戻す。このようにすることで、再追跡時には、物
体の移動速度が分かっているから、追跡が安定して行え
る。
ず、S64の対応可能物体領域の選択では、追跡器TA
i の予測位置Pp (XPi ,ZPi )を基準に、最も3
次元距離が近い物体領域を対応候補とし、その対応候補
との距離が閾値以下の場合は対応可能とする。それ以外
は対応不可能とする。
能物体領域Oj の3次元位置(XO j ,ZOj )を観測
位置として、前記式(2) 、式(4) で追跡器の位置、速度
の推定値を更新し、その速度を追跡物体の移動速度(出
力)とする。更に、前記式(1) 、式(3) を用いて、次回
の位置、速度の予測値を求めておき、次時刻の対応付け
に利用する。
その追跡器TAi が物体をロストした時点での位置と速
度を、それぞれロスト位置Pli (XLi ,ZLi )、
ロスト速度Vli (VXLi ,VZLi )に記録してお
き、再対応時に備える。更に、ロスト回数カウンタlci
を1に設定する(lci=1)。そして、追跡器TAiを
追跡器リストTALから除去し、それをロスト追跡器リ
ストTLLに追加する。
置(XOj ,ZOj )と、各ロスト追跡器TLi のロス
ト位置pli 、ロスト速度vli を用いて以下に示す式
で、予測位置と観測位置の差1を計算し、矛盾なく対応
できるかを調べる。
(l≦閾値)、物体領域Oj とロスト追跡器TLi は矛
盾なく対応できるとして、物体領域Oj の位置を用いて
ロスト追跡器TLi の3次元位置と速度をカルマンフィ
ルタで推定すると共に、その追跡器をロスト追跡器リス
トTLLから除き、ロスト回数を0に設定してから、再
度(対応)追跡器リストTALに加えて、以降の対応付
けを開始する。
速度計測装置は、パーソナルコンピュータ、ワークステ
ーション等の任意のコンピュータを利用して実現するこ
とができる。この3次元物体検出/速度計測装置は、コ
ンピュータ本体20と、該コンピュータ本体20に接続
されたディスプレイ装置31、入力装置(キーボード/
マウス等)32、リムーバブルディスクドライブ(「R
DD」という)33、磁気ディスク装置(「MDD」と
いう)34、距離計測器1、カメラ3等で構成されてい
る。
の各種制御や処理を行うCPU21と、プログラムや各
種データを格納しておくためのROM22(不揮発性メ
モリ)と、メモリ23と、インタフェース制御部(「I
/F制御部」という)24と、通信制御部25と、入出
力制御部(I/O制御部)26等が設けてある。なお、
前記RDD33には、フレキシブルディスクドライブ
(フロッピィディスクドライブ)や光ディスクドライブ
等が含まれる。
22、或いはMDD34の磁気ディスク(記録媒体)
に、3次元物体検出/速度計測装置の前記処理を実現す
るためのプログラムを格納しておき、このプログラムを
CPU21が読み出して実行することにより、前記3次
元物体検出/速度計測処理を実行する。
ず、例えば、MDD34の磁気ディスクに、次のように
してプログラムを格納し、このプログラムをCPU21
が実行することで前記連結領域抽出処理を行うことも可
能である。
ィスクに格納されているプログラム(他の装置で作成し
たプログラムデータ)を、RDD33により読み取り、
MDD34の記録媒体に格納する。
から伝送されたプログラム等のデータを、通信制御部2
5を介して受信し、そのデータをMDD34の記録媒体
(磁気ディスク)に格納する。
は、或る近隣範囲に存在する3次元位置情報をまとめて
基本領域とするが、その際、このまとめる近隣範囲の大
きさを、3次元位置により変化する物体の見かけの大き
さに合わせた適切な大きさに設定することで、距離情報
を過不足なくまとめることを可能にし、その結果として
物体位置を検出する。
モデルを当てはめてその良否から物体の有無を決定する
「物体検出処理」で必要となる、距離(視差)画像から
近隣の距離情報をまとめて平面部分を物体面候補として
抽出する。この処理において、3次元位置(奥行き)に
より変化する物体の観測大きさに合わせた適切な領域を
「近隣」として近隣領域内の距離情報をまとめることで
過不足ない距離情報を用いることを可能にする。
する方法で生じる、遠方で近隣する他物体を誤って一つ
の物体としてしまう過併合の問題や、近傍で一つの物体
面が多くの小平面に分割されて検出され、本来の物体面
に統合するのが困難になる過分割の問題を生じることな
く、物体の3次元位置(奥行き)によらず、常に安定し
て一つの物体面を一つの平面として抽出することができ
る。
は、当てはめ対象である基本領域の3次元距離によっ
て、距離情報の他に、対象情景を撮像する濃淡或いはカ
ラー画像から得られる情報を使用するか不使用とするか
を切り換える。
体が遠方にあると物体の観測大きさが小さくなり、得ら
れる距離情報の数が不足して、距離情報への物体面モデ
ルの当てはめではモデル位置を変化させても当てはめ度
合いが殆ど変化せず、物体位置の特定が困難となる。
3次元距離情報の他に、ビデオカメラ(或いはテレビカ
メラ)等で撮像された情景の濃淡画像から得られる物体
輪郭線情報を用いて画像中での物体位置を補正すること
で、物体の3次元位置(奥行き)によらず、常に安定し
て物体位置を得ることができる。
置検出手段で物体が検出できず、その結果として時系列
での対応が求まらない時、一定回数だけその物体を未対
応状態で位置を残しておき、前記位置検出手段で再び物
体が検出された時には、未対応であった期間での平均移
動速度を参考に未対応状態の物体と矛盾なく対応できる
かを調べ、もし矛盾なく対応できるならば、先の検出さ
れた物体を未対応物体が再び検出されたとして、未対応
間の平均移動速度を再追跡の初期速度として与えて再び
物体の追跡を行うことで、余分な追跡を必要とせず、速
やかに速度計測を再開する。
体領域が検出できず、対応が求まらない時は、一定の回
数だけその物体を未対応状態で位置の情報を残してお
き、再び物体が検出された場合には、未対応の間の平均
移動距離を初期速度として与えて再び物体の追跡を行う
ことで、再検出の直後から速度を安定に計測することを
可能とする。
始める従来方式では、速度情報を安定に得るには、更
に、数フレームの物体追跡が必要で、速度情報の出力ま
でに時間遅れを要していたが、本発明では、物体の検出
ができない場合があっても、時間遅れなく、速度情報を
得ることができる。
物体面を構成する面の全部或いは一部を、部分特徴であ
る基本領域として検出する基本領域検出処理と、前記検
出された物体面の基本領域について、予め用意した物体
形状モデルの構成面を当てはめる物体面当てはめ処理
と、前記物体面当てはめ手段による当てはめ結果の良否
より物体の有無を判定する物体領域判定処理を有し、前
記基本領域検出処理では、或る近隣範囲に存在する3次
元位置情報をまとめて基本領域とするが、その際、この
まとめる近隣範囲の大きさを、3次元位置により変化す
る物体の見かけの大きさに合わせた適切な大きさに設定
することで、距離情報を過不足なくまとめることを可能
にし、その結果として物体位置を検出するようにした。
「近隣」とする方法で生じる、遠方で近隣する他物体を
誤って一つの物体としてしまう過併合の問題や、近傍で
一つの物体面が多くの小平面に分割されて検出され、本
来の物体面に統合するのが困難になる過分割の問題を生
じることなく、物体の3次元位置(奥行き)によらず、
常に安定して一つの物体面を一つの平面として抽出する
ことができる。
が、記録媒体のプログラムを読み出して実行することに
より、或る近隣範囲に存在する3次元位置情報をまとめ
て基本領域とする際、このまとめる近隣範囲の大きさ
を、3次元位置により変化する物体の見かけの大きさに
合わせた適切な大きさに設定することで、距離情報を過
不足なくまとめることを可能にし、その結果として物体
位置を検出する。
モデルを当てはめてその良否から物体の有無を決定する
「物体検出処理」で必要となる、距離(視差)画像から
近隣の距離情報をまとめて平面部分を物体面候補として
抽出する。この処理において、3次元位置(奥行き)に
より変化する物体の観測大きさに合わせた適切な領域を
「近隣」として近隣領域内の距離情報をまとめることで
過不足ない距離情報を用いることを可能にする。
する方法で生じる、遠方で近隣する他物体を誤って一つ
の物体としてしまう過併合の問題や、近傍で一つの物体
面が多くの小平面に分割されて検出され、本来の物体面
に統合するのが困難になる過分割の問題を生じることな
く、物体の3次元位置(奥行き)によらず、常に安定し
て一つの物体面を一つの平面として抽出することができ
る。
ある。
及び物体面当てはめ/物体位置決定部の構成図である。
元の視差画像の位置関係を示した図である。
処理フローチャートである。
1)である。
2)である。
3)である。
部の処理フローチャート(その1)である。
め部の処理フローチャート(その2)である。
説明図である。
め処理(確認用)フローチャートである。
ローチャートである。
である。
Claims (5)
- 【請求項1】3次元位置情報が、2次元の配列の各場所
に奥行き情報を持つ画像形式や、3次元位置情報の集合
の形で与えられた時に、3次元空間に存在し得る3次元
物体の位置、形状を検出する3次元物体検出装置におい
て、 前記3次元位置情報から物体面を構成する面の全部或い
は一部を、部分特徴である基本領域として検出する基本
領域検出手段と、 前記検出された物体面の基本領域について、予め用意し
た物体形状モデルの構成面を当てはめる物体面当てはめ
手段と、 前記物体面当てはめ手段による当てはめ結果の良否より
物体の有無を判定する物体領域判定手段を備え、 前記基本領域検出手段は、或る近隣範囲に存在する3次
元位置情報をまとめて基本領域とするが、その際、この
まとめる近隣範囲の大きさを、3次元位置により変化す
る物体の見かけの大きさに合わせた適切な大きさに設定
することで、距離情報を過不足なくまとめることを可能
にし、その結果として物体位置を検出する機能を備えて
いる、 ことを特徴とする3次元物体検出装置。 - 【請求項2】3次元位置情報が、2次元の配列の各場所
に奥行き情報を持つ画像形式や、3次元位置情報の集合
の形で与えられた時に、3次元空間に存在し得る3次元
物体の位置、形状を検出する3次元物体検出装置におい
て、 前記3次元位置情報から物体面を構成する面の全部或い
は一部を、部分特徴である基本領域として検出する基本
領域検出手段と、 前記検出された物体面の基本領域について、予め用意し
た物体形状モデルの構成面を当てはめる物体面当てはめ
手段と、 前記物体面当てはめ手段による当てはめ結果の良否より
物体の有無を判定する物体領域判定手段を備え、 前記物体面当てはめ手段は、当てはめ対象である基本領
域の3次元距離によって、距離情報の他に、対象情景を
撮像する濃淡或いはカラー画像から得られる情報を使用
するか不使用とするかを切り換える機能を備えている、 ことを特徴とする3次元物体検出装置。 - 【請求項3】1つ或いは複数の物体について位置情報を
検出する位置検出手段を備え、 前記位置検出手段の検出結果を時系列的に求めていき、
その得られた物体位置の時系列的な対応を求めること
で、各物体の速度情報を算出する3次元物体検出装置に
おいて、 前記位置検出手段で物体が検出できず、その結果として
時系列での対応が求まらない時、一定回数だけその物体
を未対応状態で位置を残しておき、前記位置検出手段で
再び物体が検出された時には、未対応であった期間での
平均移動速度を参考に未対応状態の物体と矛盾なく対応
できるかを調べ、もし矛盾なく対応できるならば、先の
検出された物体を未対応物体が再び検出されたとして、
未対応間の平均移動速度を再追跡の初期速度として与え
て再び物体の追跡を行うことで、速度計測を再開できる
ようにした速度検出手段を備えている、 ことを特徴とする3次元物体検出装置。 - 【請求項4】3次元位置情報が、2次元の配列の各場所
に奥行き情報を持つ画像形式や、3次元位置情報の集合
の形で与えられた時に、3次元空間に存在し得る3次元
物体の位置、形状を検出する3次元物体検出方法におい
て、 前記3次元位置情報から物体面を構成する面の全部或い
は一部を、部分特徴である基本領域として検出する基本
領域検出処理と、 前記検出された物体面の基本領域について、予め用意し
た物体形状モデルの構成面を当てはめる物体面当てはめ
処理と、 前記物体面当てはめ手段による当てはめ結果の良否より
物体の有無を判定する物体領域判定処理を有し、 前記基本領域検出処理では、或る近隣範囲に存在する3
次元位置情報をまとめて基本領域とするが、その際、こ
のまとめる近隣範囲の大きさを、3次元位置により変化
する物体の見かけの大きさに合わせた適切な大きさに設
定することで、距離情報を過不足なくまとめることを可
能にし、その結果として物体位置を検出する、 ことを特徴とする3次元物体検出方法。 - 【請求項5】3次元位置情報が、2次元の配列の各場所
に奥行き情報を持つ画像形式や、3次元位置情報の集合
の形で与えられた時に、3次元空間に存在し得る3次元
物体の位置、形状を検出する3次元物体検出装置に、 3次元位置情報から物体面を構成する面の全部或いは一
部を、部分特徴である基本領域として検出する第1の手
順と、 前記検出された物体面の基本領域について、予め用意し
た物体形状モデルの構成面を当てはめる第2の手順と、 前記第2の手順による当てはめ結果の良否より物体の有
無を判定する第3の手順と、 前記第1の手順を行う場合、或る近隣範囲に存在する3
次元位置情報をまとめて基本領域とするが、その際、こ
のまとめる近隣範囲の大きさを、3次元位置により変化
する物体の見かけの大きさに合わせた適切な大きさに設
定することで、距離情報を過不足なくまとめることを可
能にし、その結果として物体位置を検出する第4の手順
と、 を実行させるためのプログラムを記録したコンピュータ
読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000134407A JP4584405B2 (ja) | 2000-05-08 | 2000-05-08 | 3次元物体検出装置と3次元物体検出方法及び記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000134407A JP4584405B2 (ja) | 2000-05-08 | 2000-05-08 | 3次元物体検出装置と3次元物体検出方法及び記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2001319224A true JP2001319224A (ja) | 2001-11-16 |
JP4584405B2 JP4584405B2 (ja) | 2010-11-24 |
Family
ID=18642692
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000134407A Expired - Fee Related JP4584405B2 (ja) | 2000-05-08 | 2000-05-08 | 3次元物体検出装置と3次元物体検出方法及び記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4584405B2 (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2004107266A1 (en) * | 2003-05-29 | 2004-12-09 | Honda Motor Co., Ltd. | Visual tracking using depth data |
JP2010061655A (ja) * | 2008-08-06 | 2010-03-18 | Toyota Motor Engineering & Manufacturing North America Inc | 線形特徴を用いた対象追跡 |
JP2013537661A (ja) * | 2010-06-30 | 2013-10-03 | タタ コンサルタンシー サービシズ リミテッド | ステレオビジョン技術を使用することによる移動物体の自動検出 |
WO2014192061A1 (ja) * | 2013-05-27 | 2014-12-04 | パイオニア株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
JP2015175598A (ja) * | 2014-03-12 | 2015-10-05 | トヨタ自動車株式会社 | 画像処理装置 |
WO2017145600A1 (ja) * | 2016-02-23 | 2017-08-31 | 株式会社リコー | 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム |
-
2000
- 2000-05-08 JP JP2000134407A patent/JP4584405B2/ja not_active Expired - Fee Related
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2004107266A1 (en) * | 2003-05-29 | 2004-12-09 | Honda Motor Co., Ltd. | Visual tracking using depth data |
JP2010061655A (ja) * | 2008-08-06 | 2010-03-18 | Toyota Motor Engineering & Manufacturing North America Inc | 線形特徴を用いた対象追跡 |
JP2013537661A (ja) * | 2010-06-30 | 2013-10-03 | タタ コンサルタンシー サービシズ リミテッド | ステレオビジョン技術を使用することによる移動物体の自動検出 |
WO2014192061A1 (ja) * | 2013-05-27 | 2014-12-04 | パイオニア株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
JP2015175598A (ja) * | 2014-03-12 | 2015-10-05 | トヨタ自動車株式会社 | 画像処理装置 |
WO2017145600A1 (ja) * | 2016-02-23 | 2017-08-31 | 株式会社リコー | 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム |
JPWO2017145600A1 (ja) * | 2016-02-23 | 2018-12-06 | 株式会社リコー | 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム |
US10860867B2 (en) | 2016-02-23 | 2020-12-08 | Ricoh Company, Ltd. | Image processing apparatus, imaging apparatus, mobile device control system, and recording medium |
Also Published As
Publication number | Publication date |
---|---|
JP4584405B2 (ja) | 2010-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110221603B (zh) | 一种基于激光雷达多帧点云融合的远距离障碍物检测方法 | |
KR100513055B1 (ko) | 변이지도 및 깊이지도의 융합을 통한 3차원 장면 모델생성 장치 및 그 방법 | |
US20160196658A1 (en) | 3d image generation | |
Rashidi et al. | Innovative stereo vision-based approach to generate dense depth map of transportation infrastructure | |
EP2426642A1 (en) | Method, device and system for motion detection | |
US20140253679A1 (en) | Depth measurement quality enhancement | |
KR100953076B1 (ko) | 객체 또는 배경 분리를 이용한 다시점 정합 방법 및 장치 | |
JPH1166319A (ja) | 移動体検出方法及び装置並びに移動体認識方法及び装置並びに人間検出方法及び装置 | |
CN113160327A (zh) | 一种点云补全的实现方法和系统 | |
JP2008262333A (ja) | 路面判別装置および路面判別方法 | |
KR20210141668A (ko) | 서로 상대적으로 움직이는 복수의 정형 객체의 검출, 3d 재구성 및 추적 | |
JP2006226965A (ja) | 画像処理装置、コンピュータプログラム、及び画像処理方法 | |
JP2001351193A (ja) | 歩行者検知装置 | |
JP3008875B2 (ja) | 被写体抽出装置 | |
KR100574227B1 (ko) | 카메라 움직임을 보상한 객체 움직임 추출 장치 및 그 방법 | |
JP3988574B2 (ja) | 画像処理装置 | |
JP2001147110A (ja) | ランダムパターン生成装置とその方法、距離画像生成装置とその方法、およびプログラム提供媒体 | |
JPH1144533A (ja) | 先行車両検出装置 | |
JP2001319224A (ja) | 3次元物体検出装置と3次元物体検出方法及び記録媒体 | |
JPH07103734A (ja) | ステレオ対応探索装置 | |
JPH11248431A (ja) | 3次元モデル生成装置および3次元モデル生成プログラムを記録したコンピュータ読取可能な記録媒体 | |
JP2000028354A (ja) | 3次元画像処理装置 | |
JPH0991439A (ja) | 物体監視装置 | |
JP3525712B2 (ja) | 三次元画像撮像方法及び三次元画像撮像装置 | |
JPH1096607A (ja) | 物体検出装置および平面推定方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070322 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100121 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100202 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100405 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20100405 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20100405 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100511 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100712 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100831 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100902 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130910 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |