JP2001319224A - 3次元物体検出装置と3次元物体検出方法及び記録媒体 - Google Patents

3次元物体検出装置と3次元物体検出方法及び記録媒体

Info

Publication number
JP2001319224A
JP2001319224A JP2000134407A JP2000134407A JP2001319224A JP 2001319224 A JP2001319224 A JP 2001319224A JP 2000134407 A JP2000134407 A JP 2000134407A JP 2000134407 A JP2000134407 A JP 2000134407A JP 2001319224 A JP2001319224 A JP 2001319224A
Authority
JP
Japan
Prior art keywords
dimensional
information
area
fitting
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000134407A
Other languages
English (en)
Other versions
JP4584405B2 (ja
Inventor
Kazufumi Nakayama
收文 中山
Morihito Shiobara
守人 塩原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2000134407A priority Critical patent/JP4584405B2/ja
Publication of JP2001319224A publication Critical patent/JP2001319224A/ja
Application granted granted Critical
Publication of JP4584405B2 publication Critical patent/JP4584405B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

(57)【要約】 【課題】本発明は3次元物体検出装置及び記録媒体に関
し、物体の距離に影響されることなく、安定した物体の
位置や速度の検出を可能にする。 【解決手段】基本領域検出手段(基本領域検出部4−
1)と、物体面当てはめ手段(物体面当てはめ/物体位
置決定部4−2)と、物体領域判定手段を備え、基本領
域検出手段は、或る近隣範囲に存在する3次元位置情報
をまとめて基本領域とするが、その際、このまとめる近
隣範囲の大きさを、3次元位置により変化する物体の見
かけの大きさに合わせた適切な大きさに設定すること
で、距離情報を過不足なくまとめることを可能にし、そ
の結果として物体位置を検出する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、侵入者検出、車両
(自動車等)位置・速度検出、移動ロボット用ナビゲー
ションなど、距離情報に基づく3次元物体の位置・速度
の検出を行う装置(或いはシステム)に利用され、特
に、何らかの距離計測方法によって3次元位置情報(距
離情報)が与えられた時に、3次元空間の広範囲に存在
し得る3次元物体の位置、形状、移動速度を検出する3
次元物体検出装置と3次元物体検出方法及び記録媒体に
関する。
【0002】
【従来の技術】以下、従来例について説明する。
【0003】§1:従来例1 従来より、距離情報を利用して物体の位置を検出する方
法が幾つか提案されている。それらを大別すると、(A
1):距離情報のみを利用してその距離分布の集合を検
出することで物体を得る方法と、(A2):距離情報と
画像情報の両者を必ず用いる方法とがある。以下、これ
らの方法について説明する。
【0004】(1) :(A1)の説明 前記(A1)の代表として、実吉ら「ステレオ画像を用
いた運転支援のための前方状況認識システム」、電子情
報通信学会、技術研究報告、PRMU97−25〜3
6、pp.39−46の方法を説明する。
【0005】この方法では、先ず、車両の前方の路上情
景を2つのカメラで観測して、2つの画像より両眼立体
視により距離情報(距離画像)を取得する。得られた距
離画像を、次に定めるように短冊状の領域群に分割す
る。領域は、予め定めた小さな幅で、高さは事前に取得
したカメラの配置情報と路面位置情報の関係から、路面
の上部だけを含むような高さを持つように設定する。
【0006】そして、それぞの領域毎に、含まれる距離
情報を用いて奥行きを横軸にとり頻度を縦軸にとる奥行
きのヒストグラムを作成し、ヒストグラムのピーク位置
より短冊領域を代表する距離を定める。次に、隣接する
領域群で距離の近いものをまとめて領域グループを作成
する。
【0007】そして、得られたグループの3次元空間で
の傾きを調べて、観測方向に対して垂直に近ければ車両
の後方面とし、観測方向に平行に近ければ車両側面と分
類する。更に、この前面と側面の位置関係による組み合
わせにより車両位置、形状を検出する。
【0008】(2) :(A2)の説明 前記(A2)の距離情報と画像情報を必ず用いて物体を
検出する方法を、下村倫子ら「ステレオ視差と先行車の
高さ変化を用いた車間距離計測のばらつき低減に関する
考察」、電子情報通信学会技術研究報告、PRMU98
−92〜105、pp.21−28を例に説明する。
【0009】この方法では、先ず、車両の前方の路上情
景を左右2つのカメラで観測して2つの画像を得る。一
方の画像より白線を検出して自車両の走行領域を得て、
その中に含まれる明確で長い水平線で最も下方に位置す
るものを車両下端として得る。そして、下端線の上部に
下端線の幅を持つテンプレートと呼ぶ一定の大きさを持
つ領域を定めて、他方画像を探索してテンプレート領域
と輝度パターンが最も類似している領域を得る。これに
より両眼立体視により車両(物体)までの距離が得られ
る。
【0010】更に、車両は上端、下端部に安定した水平
線があると仮定して、上記テンプレート位置を参考に設
けた別の領域内について、エッジ点の水平方向への投影
ヒストグラムを作成して、そのピーク位置より車両の上
端、下端を定める。この上端と下端の幅より画像での車
両の高さ(h)を定める。これにより、車両の位置、車
両形状(大きさ)を検出する。
【0011】§2:従来例2 従来例2として、移動速度計測について説明する。物体
の位置を検出しながら移動速度を算出する方法は、大き
く次の(B1):2時刻間の物体位置の差を移動速度と
する方法、(B2):過去の幾つかの物体位置を用いて
現在の移動速度を算出する方法、に大別される。
【0012】(1) :(B1)の説明 前記(B1)の方法では、各時刻で物体位置を検出して
おき、現時刻の物体位置と前時刻の物体位置の単純な差
の移動速度とする。
【0013】(2) :(B2)の説明 前記(B2)の代表的な方法として、今川和幸、呂山、
猪木誠二、松尾英明、「顔によるオクルージョンを考慮
した手話動画像からの実時間掌追跡」、電子情報通信学
会技術研究報告、PRMU97−104〜110、p
p.15−22を例に説明する。
【0014】この例は、対象として2次元的な手領域を
追跡する方法であるが、対象を追跡するという観点から
は3次元であっても同様なので、本方法を例に説明す
る。先ず、画像より色情報を用いて手領域を抽出し、そ
の領域の重心点位置を領域位置pとする。
【0015】そして、領域の運動モデルとして等速運動
を仮定し、観測ベクトルを領域位置p、推定すべきパラ
メータベクトルxとして領域位置と領域速度として、カ
ルマンフィルタを構成してパラメータベクトルxを推定
して、パラメータベクトルで示される領域位置と領域速
度を所要量として求めている。
【0016】このように、カルマンフィルタを用いる
と、各時刻で観測される領域位置に誤差を含んでいて
も、線形推定の意味で最も安定した位置と速度が推定で
きるため、速度のばらつきを抑えて安定した速度計測が
可能となる。
【0017】
【発明が解決しようとする課題】前記のような従来のも
のにおいては、次のような課題があった。
【0018】(1) :前記(A1)の場合、一般的に3次
元情報は、遠方になる程その奥行き、及び空間情報の解
像度が低くなり、距離情報や位置情報のもつ信頼性が低
下する。つまり、複数物体が存在するときに近傍では距
離の違いで分離できる場合も、物体間の距離差は同じで
あっても、遠方にあるときは、距離の違いが検出でき
ず、物体を分離するのが困難になることを意味する。従
って、ある程度遠方にある物体については、距離情報だ
けを用いて、その距離差から物体領域を分離することは
困難である。
【0019】更に、得られる距離情報の性質として、物
体がセンサの近傍で観測される場合には、その物体は大
きく観測され、得られる3次元情報の量(数)は多い
が、同一物体であっても遠方に位置すると、観測される
物体領域そのものも小さくなり得られる3次元情報の数
(量)も少なくなるというように、対象までの距離によ
り距離情報が増減するという性質がある。
【0020】これにより、例えば、実吉らの方法のよう
に、距離画像を固定サイズの領域(以下「抽出領域」と
呼ぶ)に区切って、その領域毎に物体位置を算出する方
法であると、例えば、遠方の物体を区別するためには、
抽出領域の大きさを小さくする必要があり、この結果と
して、物体が近傍に存在する場合には、十分な数の距離
情報が存在しているにもかかわらず、領域幅が小さいた
め、領域毎に集められる3次元情報の数が減少し、物体
位置の精度が低下する。
【0021】逆に、近傍での位置の精度を高めるために
抽出領域の大きさを大きくすると、遠方物体を分離でき
なくなるという問題がある。更に、遠方では得られる距
離情報が距離画像上で2次元的にも粗くなり、1つの物
体面が、必ずしも連続した3次元位置を確定できる抽出
領域として得られるとは限らない、という問題がある。
【0022】(2) :前記(A2)の場合、距離情報と画
像情報を用いて物体を検出するのに、物体が遠方にある
ときは、物体内部の模様は殆ど観測されず物体輪郭が支
配的となる。従って、このような場合は、前記下村の方
法のように、エッジ点の投影によって物体輪郭を抽出し
て物体領域を定めることは有効である。
【0023】ところが、物体が観測者の近傍にあるとき
は、物体輪郭よりも物体内部の模様が支配的となるの
で、その結果として、エッジ点の投影ヒストグラムで
は、それら物体内部の模様エッジが輪郭部分のピークの
形成を阻害して、安定に輪郭線を検出するのは困難とな
る。従って、常に、画像特徴と距離情報を利用すると、
画像特徴が障害となって物体位置を検出できないことが
ある。
【0024】(3) :前記(B1)の場合、各時刻の物体
位置を求めて、現時刻の物体位置と前時刻の物体位置の
単純な差で移動速度を求めると、各時刻における物体位
置の計測精度の影響を大きく受け、計測速度のばらつき
が大きく、計測精度が悪い、という問題がある。
【0025】(4) :前記(B2)の場合、(B2)の方
法により検出された過去の幾つかの物体位置を用いて現
在の移動速度を算出する方法が考えられるが、この方法
では、或る物体が存在している間に、その物体の時刻間
での対応をいかに安定に求めるかが課題となる。
【0026】ここで、例えば、屋外での情景について物
体を検出する場合などを考えると、日照変化や影の有無
など周囲の証明条件の影響や、物体の移動により見え方
の変化の影響があり、物体が検出できない場合が考えら
れる。この時には、物体の対応付けが不可能なため、物
体の移動速度を計測できなくなり、しかも、フィルタを
利用すると、その未検出の影響が数時刻に渡って影響
し、その間の速度情報は誤ったものとなる。
【0027】更に、未検出であった物体を再び検出した
時には、新たに運動パラメータの推定を開始する必要が
あるため、再び物体を検出してから数時刻は、運動パラ
メータの推定値は誤差を多く含み、誤った速度情報とな
る。このように、安定した速度検出に対して物体の未検
出の影響が大きく現れるという問題がある。
【0028】本発明は、このような従来の課題を解決
し、物体の距離に影響されることなく、安定した物体の
位置や速度の検出を可能にすることを目的とする。
【0029】
【課題を解決するための手段】図1は本発明の原理説明
図であり、図1中、4は物体検出器、4−1は基本領域
検出部、4−2は物体面当てはめ/物体位置決定部、5
は物体速度計測器を示す。本発明は前記目的を達成する
ため、次のように構成した。
【0030】(1) :3次元位置情報(距離情報)が、2
次元(x,y)の配列の各場所に奥行き情報を持つ画像
形式や、3次元位置(X,Y,Z)情報の集合の形で与
えられた時に、3次元空間に存在し得る3次元物体の位
置、形状を検出する3次元物体検出装置において、前記
3次元位置情報から物体面を構成する面の全部或いは一
部を、部分特徴である基本領域として検出する基本領域
検出手段(基本領域検出部4−1)と、前記検出された
物体面の基本領域について、予め用意した物体形状モデ
ルの構成面を当てはめる物体面当てはめ手段(物体面当
てはめ/物体位置決定部4−2)と、前記物体面当ては
め手段による当てはめ結果の良否より物体の有無を判定
する物体領域判定手段(物体面当てはめ/物体位置決定
部4−2の一部)を備え、前記基本領域検出手段は、或
る近隣範囲に存在する3次元位置情報をまとめて基本領
域とするが、その際、このまとめる近隣範囲の大きさ
を、3次元位置により変化する物体の見かけの大きさに
合わせた適切な大きさに設定することで、距離情報を過
不足なくまとめることを可能にし、その結果として物体
位置を検出する機能を備えている。
【0031】(2) :3次元位置情報(距離情報)が、2
次元(x,y)の配列の各場所に奥行き情報を持つ画像
形式や、3次元位置(X,Y,Z)情報の集合の形で与
えられた時に、3次元空間に存在し得る3次元物体の位
置、形状を検出する3次元物体検出装置において、前記
3次元位置情報から物体面を構成する面の全部或いは一
部を、部分特徴である基本領域として検出する基本領域
検出手段と、前記検出された物体面の基本領域につい
て、予め用意した物体形状モデルの構成面を当てはめる
物体面当てはめ手段と、前記物体面当てはめ手段による
当てはめ結果の良否より物体の有無を判定する物体領域
判定手段を備え、前記物体面当てはめ手段は、当てはめ
対象である基本領域の3次元距離によって、距離情報の
他に、対象情景を撮像する濃淡或いはカラー画像から得
られる情報を使用するか不使用とするかを切り換える機
能を備えている。
【0032】(3) :1つ或いは複数の物体について位置
情報を検出する位置検出手段を備え、前記位置検出手段
の検出結果を時系列的に求めていき、その得られた物体
位置の時系列的な対応を求めることで、各物体の速度情
報を算出する3次元物体検出装置において、前記位置検
出手段で物体が検出できず、その結果として時系列での
対応が求まらない時、一定回数だけその物体を未対応状
態で位置を残しておき、前記位置検出手段で再び物体が
検出された時には、未対応であった期間での平均移動速
度を参考に未対応状態の物体と矛盾なく対応できるかを
調べ、もし矛盾なく対応できるならば、先の検出された
物体を未対応物体が再び検出されたとして、未対応間の
平均移動速度を再追跡の初期速度として与えて再び物体
の追跡を行うことで、速度計測を再開できるようにした
速度検出手段(物体速度計測器5)を備えている。
【0033】(4) :3次元位置情報が、2次元の配列の
各場所に奥行き情報を持つ画像形式や、3次元位置情報
の集合の形で与えられた時に、3次元空間に存在し得る
3次元物体の位置、形状を検出する3次元物体検出方法
において、前記3次元位置情報から物体面を構成する面
の全部或いは一部を、部分特徴である基本領域として検
出する基本領域検出処理と、前記検出された物体面の基
本領域について、予め用意した物体形状モデルの構成面
を当てはめる物体面当てはめ処理と、前記物体面当ては
め手段による当てはめ結果の良否より物体の有無を判定
する物体領域判定処理を有し、前記基本領域検出処理で
は、或る近隣範囲に存在する3次元位置情報をまとめて
基本領域とするが、その際、このまとめる近隣範囲の大
きさを、3次元位置により変化する物体の見かけの大き
さに合わせた適切な大きさに設定することで、距離情報
を過不足なくまとめることを可能にし、その結果として
物体位置を検出するようにした。
【0034】(5) :3次元位置情報(距離情報)が、2
次元(x,y)の配列の各場所に奥行き情報を持つ画像
形式や、3次元位置(X,Y,Z)情報の集合の形で与
えられた時に、3次元空間に存在し得る3次元物体の位
置、形状を検出する3次元物体検出装置に、3次元位置
情報から物体面を構成する面の全部或いは一部を、部分
特徴である基本領域として検出する第1の手順と、前記
検出された物体面の基本領域について、予め用意した物
体形状モデルの構成面を当てはめる第2の手順と、前記
第2の手順による当てはめ結果の良否より物体の有無を
判定する第3の手順と、前記第1の手順を行う場合、或
る近隣範囲に存在する3次元位置情報をまとめて基本領
域とするが、その際、このまとめる近隣範囲の大きさ
を、3次元位置により変化する物体の見かけの大きさに
合わせた適切な大きさに設定することで、距離情報を過
不足なくまとめることを可能にし、その結果として物体
位置を検出する第4の手順と、を実行させるためのプロ
グラムを記録したコンピュータ読み取り可能な記録媒
体。
【0035】(作用)前記構成に基づく本発明の作用
を、図1に基づいて説明する。
【0036】(a) :前記(1) の作用 基本領域検出手段は、或る近隣範囲に存在する3次元位
置情報をまとめて基本領域とするが、その際、このまと
める近隣範囲の大きさを、3次元位置により変化する物
体の見かけの大きさに合わせた適切な大きさに設定する
ことで、距離情報を過不足なくまとめることを可能に
し、その結果として物体位置を検出する。
【0037】この場合、距離情報(視差情報)に物体面
モデルを当てはめてその良否から物体の有無を決定する
「物体検出処理」で必要となる、距離(視差)画像から
近隣の距離情報をまとめて平面部分を物体面候補として
抽出する。この処理において、3次元位置(奥行き)に
より変化する物体の観測大きさに合わせた適切な領域を
「近隣」として近隣領域内の距離情報をまとめることで
過不足ない距離情報を用いることを可能にする。
【0038】その結果、従来の固定大きさを「近隣」と
する方法で生じる、遠方で近隣する他物体を誤って一つ
の物体としてしまう過併合の問題や、近傍で一つの物体
面が多くの小平面に分割されて検出され、本来の物体面
に統合するのが困難になる過分割の問題を生じることな
く、物体の3次元位置(奥行き)によらず、常に安定し
て一つの物体面を一つの平面として抽出することができ
る。
【0039】(b) :前記(2) の作用 物体面当てはめ手段は、当てはめ対象である基本領域の
3次元距離によって、距離情報の他に、対象情景を撮像
する濃淡或いはカラー画像から得られる情報を使用する
か不使用とするかを切り換える。
【0040】この場合、物体検出処理に関して、対象物
体が遠方にあると物体の観測大きさが小さくなり、得ら
れる距離情報の数が不足して、距離情報への物体面モデ
ルの当てはめではモデル位置を変化させても当てはめ度
合いが殆ど変化せず、物体位置の特定が困難となる。
【0041】そのため、物体が閾値以上に遠い場合は、
3次元距離情報の他に、ビデオカメラ(或いはテレビカ
メラ)等で撮像された情景の濃淡画像から得られる物体
輪郭線情報を用いて画像中での物体位置を補正すること
で、物体の3次元位置(奥行き)によらず、常に安定し
て物体位置を得ることができる。
【0042】(c) :前記(3) の作用 速度検出手段は、位置検出手段で物体が検出できず、そ
の結果として時系列での対応が求まらない時、一定回数
だけその物体を未対応状態で位置を残しておき、前記位
置検出手段で再び物体が検出された時には、未対応であ
った期間での平均移動速度を参考に未対応状態の物体と
矛盾なく対応できるかを調べ、もし矛盾なく対応できる
ならば、先の検出された物体を未対応物体が再び検出さ
れたとして、未対応間の平均移動速度を再追跡の初期速
度として与えて再び物体の追跡を行うことで、速度計測
を再開する。
【0043】この場合、物体速度計測処理に関して、物
体領域が検出できず、対応が求まらない時は、一定の回
数だけその物体を未対応状態で位置の情報を残してお
き、再び物体が検出された場合には、未対応の間の平均
移動距離を初期速度として与えて再び物体の追跡を行う
ことで、再検出の直後から速度を安定に計測することを
可能とする。
【0044】また、再検出物体を新規物体として追跡し
始める従来方式では、速度情報を安定に得るには、更
に、数フレームの物体追跡が必要で、速度情報の出力ま
でに時間遅れを要していたが、本発明では、物体の検出
ができない場合があっても、時間遅れなく、速度情報を
得ることができる。
【0045】(d) :前記(4) の作用 3次元位置情報から物体面を構成する面の全部或いは一
部を、部分特徴である基本領域として検出する基本領域
検出処理と、前記検出された物体面の基本領域につい
て、予め用意した物体形状モデルの構成面を当てはめる
物体面当てはめ処理と、前記物体面当てはめ手段による
当てはめ結果の良否より物体の有無を判定する物体領域
判定処理を有し、前記基本領域検出処理では、或る近隣
範囲に存在する3次元位置情報をまとめて基本領域とす
るが、その際、このまとめる近隣範囲の大きさを、3次
元位置により変化する物体の見かけの大きさに合わせた
適切な大きさに設定することで、距離情報を過不足なく
まとめることを可能にし、その結果として物体位置を検
出するようにした。
【0046】このようにすれば、従来の固定大きさを
「近隣」とする方法で生じる、遠方で近隣する他物体を
誤って一つの物体としてしまう過併合の問題や、近傍で
一つの物体面が多くの小平面に分割されて検出され、本
来の物体面に統合するのが困難になる過分割の問題を生
じることなく、物体の3次元位置(奥行き)によらず、
常に安定して一つの物体面を一つの平面として抽出する
ことができる。
【0047】(e) :前記(5) の作用 前記3次元物体検出装置が、記録媒体のプログラムを読
み出して実行することにより、或る近隣範囲に存在する
3次元位置情報をまとめて基本領域とする際、このまと
める近隣範囲の大きさを、3次元位置により変化する物
体の見かけの大きさに合わせた適切な大きさに設定する
ことで、距離情報を過不足なくまとめることを可能に
し、その結果として物体位置を検出する。
【0048】この場合、距離情報(視差情報)に物体面
モデルを当てはめてその良否から物体の有無を決定する
「物体検出処理」で必要となる、距離(視差)画像から
近隣の距離情報をまとめて平面部分を物体面候補として
抽出する。この処理において、3次元位置(奥行き)に
より変化する物体の観測大きさに合わせた適切な領域を
「近隣」として近隣領域内の距離情報をまとめることで
過不足ない距離情報を用いることを可能にする。
【0049】その結果、従来の固定大きさを「近隣」と
する方法で生じる、遠方で近隣する他物体を誤って一つ
の物体としてしまう過併合の問題や、近傍で一つの物体
面が多くの物体面が多くの小平面に分割されて検出さ
れ、本来の物体面に統合するのが困難になる過分割の問
題を生じることなく、物体の3次元位置(奥行き)によ
らず、常に安定して一つの物体面を一つの平面として抽
出することができる。
【0050】
【発明の実施の形態】以下、本発明の実施の形態を図面
に基づいて詳細に説明する。
【0051】§1:3次元物体検出装置の概要 本発明の3次元物体検出装置では、何らかの距離計測方
法によって3次元位置情報(距離情報)が与えられた時
に、3次元空間の広範囲に存在し得る3次元物体の位
置、形状、移動速度を検出するものである。ここで、3
次元位置情報とは、空間上の各位置或いは特定の3次元
位置(X,Y,Z)を表す情報の集合で、与えられる形
式は、2次元(X,Y)の配列の各場所に奥行き情報を
持つ画像形式であっても良いし、3次元位置(X,Y,
Z)情報の集合の形をとっても良い(X、Y、Z:3次
元空間を表す座標)。
【0052】先ず、3次元位置情報から任意の3次元物
体の位置、形状を検出する方法について説明する。予
め、検出したい3次元物体の概略大きさ、形状を表す3
次元形状モデルを用意する。そして、3次元位置情報か
ら、3次元的に位置が近く、しかも平面を構成する部分
をまとめて、いくつかの面素(以下、「基本領域」と呼
ぶ)を抽出する。
【0053】基本領域について、先の3次元モデルを構
成する各面を当てはめていき、3次元モデルで観測でき
る全てについて問題なく当てはまるなら、その位置に3
次元物体が存在するとする。ここで、一般に3次元上の
物体は、遠方にあるほど観測される大きさは小さく、逆
に近くにあるほど大きく観測されることを考えると、物
体面を当てはめるべき基本領域の大きさは、対象の物体
の位置(距離)によって変わってくるという問題が生じ
る。
【0054】そこで、基本領域を形成する際に、物体の
3次元距離に応じて領域形成に利用する3次元位置情報
の範囲を変化させて、遠方では小さい領域となり、逆に
近傍では大きな領域となるようにする。観測される物体
の大きさに合わせることで、できるだけ他の物体を含ま
ず安定した基本領域を得る。
【0055】また、3次元情報は、遠方になるほど奥行
き情報の解像度が低くなり、距離情報の持つ信頼性が低
下する。更に、物体そのものも遠方になると小さくなり
得られる3次元情報の数(量)も少なくなる。これによ
り、物体が遠方にあると先の3次元モデルの当てはめが
困難になる。
【0056】そこで、3次元物体が遠方にあり、モデル
の当てはめが困難になった時には、ビデオカメラ(或い
はテレビカメラ)などで得られる情景の濃淡画像(或い
はカラー画像)から得られる物体輪郭線を用いて物体位
置を正確に検出する。逆に、物体が近傍にある時には、
3次元情報が多く得られることと、濃淡画像で物体内部
の模様が支配的になり輪郭線と区別するのが困難になる
ので、物体輪郭情報は利用しない。このように、距離に
応じて適応的に画像情報を利用することで、物体の距離
に影響することなく、安定して物体位置を検出する。
【0057】次に、物体の速度計測の方法を説明する。
基本的には、先で得られた物体の3次元位置の時間変化
から物体の移動速度を検出するが、検出速度の安定化の
ために、一般的に良く行われる物体の運動モデルを用い
て過去の位置情報も利用して現在の移動速度を定める。
【0058】このような運動モデルを用いた方法では、
速度情報が安定するまでにある程度の時刻間で同一物体
を正しく対応付けることが必要である。ところが、例え
ば、屋外での物体検出では周囲の証明条件の影響や物体
の移動による見え方の変化により物体が検出ではない場
合は、物体の時間的対応付けが不可能なので、速度が計
測できなくなる。
【0059】また、同一物体が再び観測された時には、
速度情報が安定して得られるまで、再度、ある程度の時
刻間の対応付けを要し、即座に速度情報を確定すること
は困難である。このように、対応の消失は、安定した速
度検出への影響が大きく現れる。
【0060】そこで、物体が検出できず対応が求まらな
い時は、一定の回数だけその物体を未対応状態で位置、
大きさの情報を残しておき、再び物体が検出された時に
は、未対応であった期間での平均移動速度を初期速度と
して与えて、再び物体の追跡を続行する。これにより、
例え物体位置がある期間検出できなかったとしても、物
体位置を再検出してから速度を安定させるための一定期
間の物体対応が不要なので、速度情報を速やかに安定さ
せることができる。
【0061】§2:3次元物体検出/速度検出処理の説
明 以下、3次元物体検出/速度検出処理について説明す
る。
【0062】(1) :本発明では物体面位置を検出するた
めの核となる領域(基本領域)を3次元位置情報から抽
出しておき、その基本領域に予め、定めた物体のモデル
を当てはめて、当てはまり度合いが良いときに物体が存
在するという処理を行う。
【0063】この基本領域として、距離画像の3次元位
置情報を持つ画素について、画像上での2次元距離と3
次元奥行きがそれぞれ近傍しており、しかも平面を構成
する3次元位置情報をまとめた領域とするが、この画像
上での2次元距離の大きさを、対象の3次元奥行きに応
じて可変する。すなわち、物体が近傍にあるときは、対
象物体は大きく観測できているので、画像上での近接度
合いを測る距離差を大きくとり、広い領域から十分な数
の3次元位置情報を抽出して安定した基本領域を得る。
【0064】一方、物体が遠方にある時は、対象物体は
小さいので、画像上での近接度合いを測る距離差を小さ
くし、近傍にある他物体と融合した誤った基本領域とな
らないようにする。このように、物体の位置(距離)に
応じて変化する観測物体の大きさに合わせた適切な大き
さで特徴量をまとめることで、固定サイズでの基本領域
抽出で生じる物体位置の違いによる基本領域の検出精度
の問題に影響されることなく、物体面の核となる基本領
域を物体の位置によらず安定して求めることができる。
【0065】更に、3次元物体が遠方にあると、距離情
報の解像度が不足して、モデルの当てはめが困難になる
ので、物体が遠方にあるときには、3次元位置情報の他
にビデオカメラ(或いはテレビカメラ)などで撮像され
る情景の濃淡画像、或いはカラー画像から得られる物体
輪郭線を用いて物体位置を正確に検出する。
【0066】逆に、物体が近傍にある時は、3次元情報
が多く得られることと、濃淡画像或いはカラー画像で物
体内部の模様が主体になり、輪郭線と区別するのが困難
になるので、物体輪郭情報は利用しない。このように、
必要に応じて画像情報を利用することで、物体の距離に
影響することなく、物体位置を検出できる。
【0067】(2) :物体の移動速度検出に関して、本発
明では、基本的には、物体の運動モデルを用いて過去の
幾つかの位置情報を元に、現在の移動速度を定めること
で安定した速度を得るが、物体が検出できず対応が求ま
らない時は、一定の回数だけその物体を未対応状態で位
置、大きさの情報を残しておき、再び物体が検出された
時には、未対応であった期間での平均移動速度を参考に
未対応状態の物体と矛盾なく対応できるかを調べる。
【0068】そして、もし、矛盾なく対応できるなら
ば、先の検出された物体を未対応物体が再び検出された
として平均移動速度を初期速度として再び物体の追跡を
行う。これにより、例え物体位置が或る期間検出できな
かったとしても、物体位置を再検出してから速度を安定
させるための一定期間物体対応が不要なので、速度情報
をいつでも安定させることができる。
【0069】§3:具体例による説明 以下、具体例に基づいて、前記処理を詳細に説明する。
【0070】(1) :システム全体の説明 図2のAにシステム概略図を示す。このシステムは距離
計測器1と、視差画像の変換処理を行う視差画像変換器
2と、物体の位置、大きさ(形状)を検出する物体検出
器4と、物体の移動速度を計測する物体速度計測器5
と、カメラ3等を備えている。
【0071】前記距離計測器1とカメラ3は既存のもの
を使用する。そして、距離計測器1としては、対象物体
を含む情景の3次元情報を取得できるもの、例えば、2
台のビデオカメラ(或いはテレビカメラ)を所定距離だ
け離して配置したステレオカメラと呼ばれるものを使用
する。
【0072】また、カメラ3は対象物体を含む情景を撮
像して濃淡画像(モノクロ)、或いはカラー画像が出力
できるものを使用するが、前記距離計測器1が2台のカ
メラで構成されている場合には、その1台をカメラ3と
して使用しても良い。
【0073】このシステムの機能は次の通りである。先
ず、距離計測器1により距離情報(3次元位置情報)を
取得し、必要があれば、視差画像変換器2において、2
次元配列(x,y)に視差値を持つ視差画像の形式に変
換し、視差画像を出力する。続いて、物体検出器4によ
り、視差画像と、カメラ3で撮像された濃淡(或いは、
カラー)画像を用いて物体位置を検出する。
【0074】そして、物体速度計測器5により、各時刻
で得られた物体位置の時間変化より物体の移動速度を計
測する。このようにして、システム出力として、物体の
位置、大きさ(形状)、移動速度情報を出力する。
【0075】以下、前記各部の機能や処理内容について
説明する。距離計測器1は情景の3次元情報を取得でき
る手段であれば、その方式については言及しない。出力
として、2次元配列(x,y)の各位置において、3次
元距離或いは視差を有する画像の形式の他、3次元位置
(X,Y,Z)の情報の集合であっても構わない。
【0076】視差画像変換器2は、必要に応じて設ける
機構であり、距離計測器1の出力が3次元位置(X,
Y,Z)情報の集合として与えられた時は、位置(X,
Y)と距離(Z)と仮想的なカメラパラメータ(f:カ
メラ焦点距離、b:カメラ間距離)を用いて、x=f×
X/Z、y=f×Y/Z、d=f×b/Zの式で視差画
像{位置(x,y)で視差値d}へと変換する機能を有
する。なお、距離計測器1が視差画像を出力する場合
は、視差画像変換器2は不要である。
【0077】(2) :物体検出器の説明 図2のBに物体検出器の構成図を示す。物体検出器4
は、視差画像とカメラ3で撮像した情景の濃淡画像(或
いはカラー画像)を入力して、複数の物体位置を検出す
るものであり、基本領域を検出する基本領域検出部4−
1と、物体面の当てはめ処理及び物体位置を決定する処
理を行う物体面当てはめ/物体位置決定部4−2とを備
えている。
【0078】この物体検出器4の機能は次の通りであ
る。先ず、基本領域検出部4−1で、入力した視差画像
から物体面を当てはめるのに十分な情報を持つ核となる
領域(基本領域Ri )を求める。次に、予め、物体の形
状モデルを用意しておき、物体面当てはめ/物体位置決
定部4−2で、得られた基本領域Ri についてモデル物
体面を当てはめていき、そこに物体が存在するか否かを
決定する。結果として、検出された物体(位置、大きさ
情報を有する)のリスト(物体情報配列)OLとして、
【0079】
【数1】
【0080】が得られる。
【0081】(3) :基本領域検出部の説明 図3のAに基本領域検出部の構成図を示す。基本領域検
出部4−1は、視差画像の間引き処理を行う視差画像間
引き部11と、単位領域を検出する単位領域検出部12
と、基本領域を生成する基本領域生成部13を備えてい
る。
【0082】基本領域検出部4−1の処理は次の通りで
ある。先ず、視差画像間引き部11により、入力した視
差画像をn×m画像の領域にまとめることで、局所的に
安定した視差情報を持つ部分を得るとともに、画像数を
間引くことで全体の処理量を削減する。但し、処理時間
等に問題がない場合には、視差画像間引き部11を省い
てもよい。ここで、視差画像の内、視差画像を持つ画像
を「視差点」と呼ぶことにする。
【0083】次に、単位領域検出部12により、間引か
れた視差画像の視差点位置において、3次元上で単位大
きさを持つ平面(単位平面モデルMSで示される)が、
その視差点の位置(距離)で観測された場合の視差画像
上での大きさ(領域)を求めて、その領域内にある間引
き前の視差点の分布より、安定して平面を構成するもの
(「単位領域Ei 」と呼ぶ)を抽出して、単位領域リス
トELi を得る。
【0084】そして、基本領域生成部13において、単
位領域群の中から同一平面を構成できるものをまとめて
基本領域Ri を生成し、基本領域リストRLi を得る。
【0085】(4) :基本領域検出部の詳細な処理の説明 以下、基本領域検出部の詳細な処理を説明する。
【0086】(4) −1:視差画像間引き部11の処理の
説明 間引き視差画像と元の視差画像の位置関係を図4に示
す。図4において、Aは元の視差画像、Bは間引き視差
画像を示す。
【0087】視差画像間引き部11では、元の視差画像
の幅をN画素、高さをM画素とする時、視差画像を横n
画素、縦m画素の小領域wi に区切り(図4のA参
照)、それぞれの小領域wi 毎に、以下の条件を満足す
るか否かを調べ、満足する小領域wi についてはその平
均視差を画素値とする(集約する)、幅N/n、高さM
/mの新たな間引き視差画像(図4のB参照)を得る。
【0088】条件:以下の又はの条件を満たすと
き、小領域wi は条件を満たしたとする。
【0089】:(小領域wi の視差点の数)>閾値
1、かつ、(小領域wi の視差点の視差の分散値)<閾
値2 :(小領域wi の視差点の数/n×m)>閾値3 なお、前記閾値1、2、3は、予め定めておく。
【0090】(4) −2:単位領域検出部12の処理の説
明 単位領域検出部12では、先ず、3次元空間で、縦MS
x 、横MSy のサイズを持つ平面を単位平面モデルMS
として定義する。そして、間引き視差画像の各視差点
(xi ,yi ,di )について、その距離(視差)に単
位平面モデルMSを置いた時の元の視差画像での観測位
置(pxi ,pyi )、サイズ(nxi ,nyi )を、
式{pxi =xi ×n、pyi =yi ×m、nxi =M
x ×di/b、nyi =MSy ×di /b}により求
める。
【0091】但し、xi はX座標上の位置、yi はY座
標上の位置、di は視差値、bは2つのカメラのカメラ
間距離とする。そして、元の視差画像での位置(p
i ,pyi )を中心として、サイズ(nxi ,n
i )の領域を設けて、それに含まれる元の視差画像で
の視差点を用いて、以下の評価値を計算する。そして、
評価値が閾値以上のものを単位領域Ei とする。
【0092】
【数2】
【0093】但し、Nj は先の領域に含まれる視差点の
個数、fはカメラの焦点距離、DIFFは3次元的に区
別した距離(閾値)を表す。単位領域検出部12の操作
の結果として、単位領域リストELが、
【0094】
【数3】
【0095】(NE は、ELの要素の数)の式で得られ
る。
【0096】(4) −3:基本領域生成部13の処理の説
明 図5は基本領域生成部の処理フローチャートである。以
下、図5に基づいて、基本領域生成部13の処理を説明
する。なお、図5において、S1〜S12は各処理ステ
ップを示す。
【0097】前記基本領域とは、同一平面をなす幾つか
の単位領域を集めたもので、その奥行きは基本領域に属
す単位領域群の平均距離とし、基本領域の大きさは、属
す単位領域群を含む最大矩形領域とする。この基本領域
を図5の処理で求める。
【0098】先ず、基本領域生成部13は、視差画像、
単位領域リストELを入力し(S1)、前記単位領域リ
ストELから、基本領域に属していない単位領域Ei
得る処理を行ない、単位領域リストELに、基本領域に
属さない単位領域Ei が有るか否かを判断する(S
2)。その結果、単位領域リストELに属さない単位領
域Ei が無ければ処理を終了する。
【0099】しかし、基本領域に属さない単位領域Ei
が有れば、その単位領域Ei を1つ取り出し、基本領域
k を生成する(S3)。次に、結合有りフラグを下ろ
し(リセット)し(S4)、前記単位領域Ei とは異な
り、かつ、前記基本領域Rkに属していない他の単位領
域Ej を取得する(S5)。この場合、この単位領域E
j が存在すれば(S6)、単位領域Ej が基本領域Rk
に属するか否かを調べる(S7)。
【0100】その結果、もし、単位領域Ej が基本領域
k に属するならば、基本領域Rkに単位領域Ej を統
合する(S8)と共に、「統合フラグ」を立ててから
(S9)、パラメータjを更新(j=j+1)し(S1
0)、S5の処理へ移行することで、次の単位領域Ej
を取得し、処理を繰り返す。この繰り返し処理により、
調査すべき単位領域Ej が無くなったら(S6)、「統
合有りフラグ」の状態を調べる(S11)。
【0101】その結果、もし、「統合有りフラグ」が立
っているならば、当該繰り返し処理において、新たに統
合操作が行われたので、その結果として統合できる単位
領域が生じた可能性がある。そこで、フラグが立ってい
るならば、再び、S4の処理へ移行し、単位領域リスト
EL中より、統合可能な単位領域Ej がないか、再び調
べる。
【0102】もし、フラグが立っていないならば、処理
すべき単位領域Ej が無いので、新たに基本領域RK+1
を生成して、同様の処理を繰り返す。この場合、S11
の処理で、結合フラグが立っていなければ、パラメータ
iを更新(i=i+1)し(S12)、S2へ移行す
る。
【0103】この結果として、
【0104】
【数4】
【0105】が得られる。
【0106】ここで、単位領域Ej が基本領域RK に属
するか否かの判断条件について述べる。基本領域Rk
構成する単位領域の中で、画像上最も単位領域Ej に近
い単位領域をEk とする時、Ej からEk までの画像上
距離をL1、視差の差をL2として、それらが予め決め
た閾値内のときに、Ej がRk に属するとする。
【0107】(4) −4:前記処理の補足説明 図6は処理説明図(その1)であり、Aは画像例、Bは
視差の説明図、Cは画像を示す。図7は処理説明図(そ
の2)であり、Aはメモリ上の視差画像、Bは視差画像
の一部詳細説明図、Cは間引き視差画像を示す。図8は
処理説明図(その3)であり、Aは視差画像の説明図、
Bは視差画像生成時の説明図である。
【0108】前記視差画像は、物体検出器4に入力する
と、一旦、メモリに格納され、図6のAに示す状態とな
る。この場合、図6のAのX、Yは座標軸を示し、図の
斜線部分は視差(距離)である。すなわち、視差画像
は、視差(距離)を含んだ情報となっている。
【0109】例えば、図6のBに示したように、左側の
カメラで撮像した画像(実線の丸)をL、右側のカメラ
で撮像した時の画像(点線の丸)をRとした場合、前記
LとRを重ねると、視差のある画像となる。すなわち、
実線の丸と点線の丸を重ねた時の2つの画像のずれをx
Rとすれば、このずれxRが視差(距離)となる。この
ように視差のある視差画像を元に、図6のCに示すよう
に、m×n画像を取り出して前記間引き処理を行う。
【0110】この場合、図7のAに示すように、視差画
像をメモリに格納する。そして、前記視差画像を横n画
素、縦m画素の小領域wi に区切り(図7のB参照)、
それぞれの小領域wi 毎に、前記条件を満足するか否か
を調べ、満足する小領域wiについてはその平均視差を
画素値とする(集約する)、間引き視差画像(図7のC
参照)を得る。
【0111】また、元の視差画像上に単位平面(m×n
画像)を写し込むと、図8のAの状態になる。この場
合、近い物体は大きくなり、遠い物体は小さくなる。例
えば、近い物体の一部の単位平面(m×n画像)が、視
差=10(例えば、距離=1m)であり、遠い物体の一
部の単位平面(m×n画像)が、視差=1(例えば、距
離=10m)のようになる。
【0112】なお、この場合、目安となる単位平面であ
る、縦MSx 、横MSy のサイズを持つ単位平面モデル
の大きさを、MSx ×MSy =(40cm×50cm)
とすれば、10m離れた所に、40cm×50cmの板
(物体)がどれいらいの大きさで見えるかを計算する。
【0113】このように、近い物体であれば、視差は大
きくなり、遠い物体では視差が小さくなる。このよう
に、視差が大きければ距離が小さく、視差が小さければ
距離が大きい、という関係になっている。従って、視差
は距離情報と同じである。
【0114】更に、前記視差画像は、2つのカメラで構
成したステレオカメラを使用して得ることができる。例
えば、図8のBに示すように、第1のカメラLと第2の
カメラRを所定距離(例えば、距離b)だけ離して設置
し、これら2つのカメラで撮像した濃淡画像(白黒)か
ら、エッジ画像(物体の輪郭画像)を得て、L、Rの各
エッジ画像を合成して視差画像が生成できる。
【0115】(5) :物体面当てはめ/物体位置決定部の
説明 (5) −1:定義 説明に先立ち、物体モデルについて説明する。物体モデ
ルは、物体の形状、大きさに合わせて複数用意し、その
1つの物体モデルをモデルクラスCi とし、それらモデ
ルクラスCi に合わせて、
【0116】
【数5】
【0117】但し、Nc はモデルクラスCi の数を表
す。各モデルクラスCi は、1つ或いは複数の幾何形状
(ここでは直方体)よりなり、対象に合わせて大きさが
調整されている。本例では、直方体を用いるので、直方
体を構成する面の内、観測者から見える面は3面ある
が、本例では、簡単化のために、直方体の面のうち、垂
直面として位置する2面について取り上げて考える。
【0118】但し、これは3面以上となっても、それぞ
れの方向へ投影面を考えれば話は同様である。これら2
面を次のように分類しておく。観測者の視線方向に直交
する面に近い方を「前面領域Sf,k 」と呼び、視線方向
に並行する面に近い方を「側面領域Ss,k 」と呼ぶ。
【0119】(5) −2:物体面当てはめ/物体位置決定
部の構成の説明 物体面当てはめ/物体位置決定部の構成図を図3のBに
示す。物体面当てはめ/物体位置決定部4−2には、前
面領域の当てはめ処理を行う前面領域当てはめ部14
と、側面領域の当てはめ処理を行う側面領域当てはめ部
15を備えている。
【0120】物体面当てはめ/物体位置決定部4−2に
は、視差画像と基本領域リストRL i 、i∈{1,2,
・・・,NR }を入力として、先ず、前面領域当てはめ
部14により、各基本領域Ri を物体の前面領域と考え
たときに、矛盾のない3次元位置分布が得られる物体領
域Of,i を得る。
【0121】次に、側面領域領域当てはめ部15によ
り、今度は基本領域Ri を物体の側面領域と考えた時の
物体領域Os,i を得る。このように、全ての組み合わせ
で、物体領域を検出することで、物体の位置によらず、
漏れなく物体を検出することができる。以下、詳細に説
明する。
【0122】(5) −3:前面領域当てはめ処理(全体処
理) 図9は、前面領域当てはめ部の処理フローチャート(そ
の1)である。以下、図9に基づいて、前面領域当ては
め部の処理を説明する。なお、S31〜S36は各処理
ステップを示す。
【0123】前面領域当てはめ部14では、基本領域リ
ストに属す基本領域Ri 、i∈{1,2,・・・,
R }各々について、全てのモデルクラスCk 、k∈
{1,2,・・・,NC }に対して、図9に示す処理で
モデル当てはめを行い、モデルと合致する物体領域を検
出する。
【0124】その内容として、先ず、基本領域Ri が示
す3次元位置にモデルクラスCk を構成する前面領域S
f,k を置いた時に、その面を支持する視差点があるか調
べる。この場合、当てはめ度合いは、当てはめ得点SC
1(SC:スコア)として与えられている。
【0125】もし、当てはめ度合いが良ければ、その前
面領域Sf,k を元に、位置関係より生成できる側面領域
s,k を生成し、側面領域を支持する視差点があるか調
べる。この場合、当てはめ度合いは、当てはめ得点SC
2(SC:スコア)として与えられている。当てはめ度
合いが良ければ、モデルクラスCk が与える位置に物体
領域Of,i が存在するとする。また、この物体領域の評
価値SC=SC1+SC2とする。もし、いずれかの当
てはめ度合いが悪い場合は、物体領域は無いとする。
【0126】すなわち、前面領域当てはめ部14は、視
差画像、基本領域Ri 、モデルクラスリストCLを入力
し(S31)、基本領域Ri をモデルクラスCk の前面
領域Sf,k として、モデル面の当てはめを行う(S3
2)。この当てはめ処理では、先ず、基本領域Ri をモ
デルクラスCk の前面領域Sf,k として、モデル面の当
てはめを行う。この時、当てはめ得点SC1,i,kを取得
する(S32)。
【0127】そして、前面領域当てはめ部14は、前面
領域が存在したか否かを判断し(S33)、前面が存在
しなければ、物体領域無し、物体得点SC=0として処
理を終了する。しかし、前面領域Sf,k が存在した場合
には、モデルクラスCk に、側面領域Ss,k を生成し
て、側面領域Ss,k が有るか否かを調べる。この時、当
てはめ得点SC2,i,kを取得する(S34)。
【0128】そして、前面領域当てはめ部14は、側面
領域が存在したか否かを判断し(S35)、側面領域S
s,k が存在しなければ、物体領域無し、物体得点SC=
0として処理を終了する。しかし、側面領域Ss,k が存
在したら、モデルクラスCkの位置を物体領域Oi,k
位置とし、物体領域Oi,k の当てはめ得点SC=SC1
,i,k+SC2,i,kとする(S36)。このようにして、
物体領域Oi,k 有り、当てはめ得点SC=SC1,i,k
SC2,i,kを得る。
【0129】(5) −4:前面領域当てはめ処理(一部詳
細処理1) 図10は、前面領域当てはめ部の処理フローチャート
(その2)であり、前面領域当てはめ部の一部詳細処理
(図9のS32の詳細な処理)を示したものである。以
下、図10に基づいて、前面領域当てはめ部の一部詳細
処理を説明する。なお、S41〜S48は各処理ステッ
プを示す。
【0130】前面領域当てはめ部14は、基本領域
i 、モデルの前面領域Sf,k 、視差画像を入力し(S
41)、前面領域Sf,k を基本領域Ri が示す3次元位
置に置いた時の視差画像での投影領域hf を得る(S4
2)。
【0131】この場合、対象物体が遠方にあると、物体
の観測大きさが小さくなり得られる距離情報の数が不足
して、距離情報へ物体面モデルの当てはめでは、モデル
位置を変化させても当てはめ度合いが殆ど変化せず、物
体位置の特定が困難となる。このため、物体が閾値以上
に遠い場合は3次元距離情報の他に、ビデオカメラ(或
いはテレビカメラ)などで撮像された情景の濃淡画像か
ら得られる物体輪郭線情報を用いて、画像中での物体位
置を補正することで、物体の3次元位置(奥行き)によ
らず、常に安定して物体位置を得る。
【0132】すなわち、前面領域当てはめ部14は、基
本領域Ri の3次元距離を調べ(S43)、その距離が
閾値以上に遠い場合は距離情報の信頼性が低下しており
距離情報だけで物体位置を定めるのは困難であるため、
カメラ3から出力された濃淡画像を取り込み、投影領域
f を基準に物体輪郭の有無を求める(S44)。
【0133】そして、輪郭線があったか否か(輪郭線の
有無)を調べ(S45)、もし、輪郭線が無ければ、物
体はないものとする(前面領域無し)。また、輪郭線が
あった場合は、前面領域Sf,k を距離情報が支持するか
否かを調べる(S46)。また、S43の処理で、基本
領域Ri の距離が閾値以下であれば、距離情報の信頼性
があるので、輪郭線の検査は行わず、前面領域Sf,k
距離情報が支持するか否かを調べる(S46)。
【0134】そして、前面領域Sf,k を距離情報が支持
するか否かを調べる処理では、投影領域hf 内の視差点
を用いて前面領域Sf,k に当てはめを行い、その絶対当
てはめ得点Sa と、平均当てはめ得点Sr を計算する
(S46)。このようにして、S46の処理では、前面
領域を距離情報が支持するか否かを調べる処理を行うこ
とによって、絶対的当てはめ得点Sa が得られる。
【0135】そして、平均当てはめ得点Sr が閾値以下
であれば(S47)、前面領域Sf, k 無しとするが、前
面領域Sf,k への距離情報の当てはめの平均当てはめ得
点S r が閾値より大きければ、安定して物体面を支持す
る3次元情報があると見なせるので、前面領域Sf,k
存在するとする。更に、その時の当てはめ得点SC1と
して、絶対得点Sa を用いる(S48)。このような処
理により、前面領域S f,k が存在するか否かの情報が得
られる。
【0136】(5) −5:前面領域当てはめ処理(一部詳
細処理2) 図11は、輪郭検出処理の説明図であり、図10のS4
3、S44の処理を詳細に説明したものである。ここで
は、先ず、物体輪郭検出領域としての輪郭探索領域Hf
を、先に求めた物体面の投影領域hf と中心を同じくし
て、大きさを投影領域hf と一定倍大きくした領域とし
て定める。
【0137】次に、輪郭探索領域Hf に含まれる濃淡画
像でのエッジについて縦方向に投影を取る。投影像は、
横軸を位置(x)とし、縦軸に輝度をとるヒストグラム
となる。このヒストグラムから、閾値以上の輝度を持つ
ピーク位置を検出することで、輪郭線の位置を決定す
る。
【0138】複数位置が得られたならば、全ての組み合
わせで、モデル領域(投影領域hfをモデル領域とす
る)の幅と近い幅を持つピーク組があるか否かを調べ
る。もし、類似した幅のピーク組があれば、該当モデル
が支持する物体の輪郭線があったとする。もし、明示し
た幅のピーク組がなければ、物体を支持する輪郭はない
とする。
【0139】(5) −6:前面領域当てはめ処理(一部詳
細処理3) 以下、図10のS46の処理を詳細に説明する。この処
理は、前面領域を距離情報が支持するか否かを定める処
理であり、以下、その内容を詳細に説明する。
【0140】先ず、モデル領域hf 内の視差点をp(x
i ,yi ,di )とする。この時、位置(xi ,yi
でのモデル面Sf,k の視差値dS として、以下の操作を
行う。
【0141】
【数6】
【0142】但し、Sa は、絶対当てはめ得点(視差情
報の当てはめの絶対得点)を表し、初期値はSa =0と
する。この操作をモデル領域hf 内の全ての視差点につ
いて行う。そして、平均当てはめ得点Sr を、Sr =S
a /MAX(hf の幅,hfの高さ)の式により求め
る。この処理で、物体面を当てはめた時の、当てはめの
良否(Sr ,Sa )が得られる。
【0143】(5) −7:側面領域当てはめ処理(確認
用)の説明 図12は、側面領域当てはめ処理(確認用)フローチャ
ートであり、図9のS34の詳細な処理を示したもので
ある。以下、図12に基づいて、図9のS34の処理を
詳細に説明する。なお、S51〜S57は各処理ステッ
プを示す。
【0144】この処理は、物体の存在を確認するための
側面領域の当てはめ処理である。先ず、前面領域
f,k 、モデルクラスCk 、視差画像を入力し(S5
1)、側面領域位置の決定を行う(S52)。この場
合、先に求まった前面領域Sf,k の位置を元に、側面領
域Ss,k の3次元位置を計算する。側面領域としては両
横の2つが考えられるが、現在の視点から見えている方
に限定する。そして、側面領域S s,k の視差画像への投
影である投影領域hs を得る(S53)。
【0145】次に、側面領域Ss,k の視差画像での側面
領域Ss,k の最前方位置と最後方位置の差(奥行き変化
量)を調べて、その差が距離情報の解像度に比べて十分
大きいならば(S54)、距離情報による当てはめが行
えるので、以降の処理を行なう。また、もし、解像度が
不足しているなら、側面領域の存在を問うこと自体が意
味を持たないので、側面領域検査不要として処理を終え
る。
【0146】また、S54の処理で、奥行き解像度が十
分な時(S54)には、前記S34の処理により側面領
域Ss,k を支持する視差点が十分あるかを調べ、物体面
当てはめ処理を行う。この場合、物体面当てはめ度合い
の良否判断の結果は、平均当てはめ得点Sr 、絶対当て
はめ得点Sa として返される(S55)。
【0147】次に、前面領域と同様に、平均当てはめ得
点Sr が閾値以上なら(S56)、側面領域Ss,k が存
在していると見なし、当てはめ得点の評価値SC2とし
て、絶対当てはめ得点Sa を返す(S57)。また、平
均当てはめ得点Sr が閾値以下なら、当該側面領域S
s,k は無いとする。
【0148】(5) −8:側面領域当てはめ部の説明 以下、図3のBに示した「側面領域当てはめ部15」の
処理について説明する。この処理では、各基本領域Ri
について、最初に側面領域Ss,k を求めて、該側面領域
s,k が有れば、それを支持する前面領域Sf,k を求め
て、その双方があれば物体領域Os,k があるとする。
【0149】この意味において、前面領域当てはめ部1
4との違いは前面領域と側面領域の探索順序の違いだけ
で、その内容は実質的に同じである。従って、これまで
説明した処理を、前面を側面領域に、側面領域を前面に
それぞれ入れ換えたものと同値であるから、詳細な説明
は省略する。
【0150】(6) :物体速度計測器の説明 以下、図2に示した物体速度計測器5について説明す
る。物体の速度は、各時刻で得られる物体位置を時刻間
で対応づけることで、物体の位置変化を取得して求め
る。すなわち、物体の速度計測は、時刻間の物体の移動
量より求める。この対応付けを行う主体として、追跡器
TAi (iは他の追跡器と区別するための添え字)を定
義する。
【0151】更に、
【0152】
【数7】
【0153】そのために、更に、
【0154】
【数8】
【0155】カルマンフィルタのシステム式及び推定式
は以下の通りである。
【0156】
【数9】
【0157】
【数10】
【0158】
【数11】
【0159】更に、時刻間の対応付けにおいて対応する
物体領域Oi が無くなった時には、追跡器TAi はロス
ト追跡器TLi に遷移するとする。このロスト追跡器T
iを集めた集合、ロスト追跡器リストTLL={TL
i }、i∈{1,2,・・・,Nn }を定義する。
【0160】(7) :物体追跡処理(追跡器の時刻間で対
応付ける方法)の説明 図13は物体追跡処理フローチャートである。以下、図
13に基づいて物体追跡処理を説明する。なお、S61
〜S69は各処理ステップを示す。
【0161】先ず、物体領域リストOL、追跡器リスト
TAL、ロスト追跡器リストTLLを入力し(S6
1)、追跡器リストTALから、物体領域と対応付けら
れていない未対応の追跡器TAi を得る(S62)。も
し、そのような追跡器TAi がなければ(S63)、S
68の処理(後述する)へ移行する。
【0162】次に、追跡器TAi があった場合、追跡器
TAi について、対応可能な物体領域Oj を物体領域リ
ストOLから選択する(S64)。もし、対応する物体
領域Oj があれば(S65)、追跡器TAi を物体領域
j を用いて更新処理する(S66)。そして、処理を
S62に戻す。
【0163】もし、対応する物体領域Oj が無ければ、
追跡器TAi に対して対応ロスト処理を行い(S6
7)、処理をS62に戻す。このように全ての対応追跡
器TAiについて物体領域との対応付けが終了すると、
処理はS68へ以降する。ここの段階の物体領域リスト
には、追跡器と対応付けがかなった新規の物体領域が残
っている。
【0164】その中には、実際に新たに加わった物体領
域もあれば、以前の対応追跡器中に何らかの理由で対応
をロストして、その同一物体領域がこの時点で再び観測
されたものもある。そこで、先ず、後者の場合を想定し
て、ロスト追跡器TLi と矛盾なく対応する物体領域O
j を探索する(S68)。
【0165】もし、そのような物体領域Oj があれば、
対応するロスト追跡器TLi の情報を用いて初期速度を
定め、対応追跡器TAi に戻す。初期速度が定まってい
るので、カルマンフィルタで推定するパラメータの収束
が早まり、短時間で位置、速度情報が安定する。
【0166】次に、前者の新規物体領域について、追跡
器TAを設定して、以降の追跡処理を開始する。そし
て、最後に、ロスト追跡器TLi のロスト回数をインク
リメントし、一定回数以上ロスト状態が続くロスト追跡
器TLi を除去する更新処理を行う(S69)。
【0167】なお、前記S68の処理について詳細に説
明する。この処理では、ロスト追跡器TLi の見失った
時刻での位置から、現時刻の位置を喪失した時に、その
位置と物体領域Oj からの位置が十分近いなら、矛盾無
しとする。そして、矛盾がないなら、ロスト追跡器TL
i の速度を初期値として追跡を再開する。この時、ロス
ト追跡器TLi を追跡器TAi として、追跡器リストT
ALに戻す。このようにすることで、再追跡時には、物
体の移動速度が分かっているから、追跡が安定して行え
る。
【0168】更に、各処理について詳細に説明する。先
ず、S64の対応可能物体領域の選択では、追跡器TA
i の予測位置Pp (XPi ,ZPi )を基準に、最も3
次元距離が近い物体領域を対応候補とし、その対応候補
との距離が閾値以下の場合は対応可能とする。それ以外
は対応不可能とする。
【0169】次に、S66の追跡器の更新では、対応可
能物体領域Oj の3次元位置(XO j ,ZOj )を観測
位置として、前記式(2) 、式(4) で追跡器の位置、速度
の推定値を更新し、その速度を追跡物体の移動速度(出
力)とする。更に、前記式(1) 、式(3) を用いて、次回
の位置、速度の予測値を求めておき、次時刻の対応付け
に利用する。
【0170】また、S67の追跡器のロスト処理では、
その追跡器TAi が物体をロストした時点での位置と速
度を、それぞれロスト位置Pli (XLi ,ZLi )、
ロスト速度Vli (VXLi ,VZLi )に記録してお
き、再対応時に備える。更に、ロスト回数カウンタlci
を1に設定する(lci=1)。そして、追跡器TAi
追跡器リストTALから除去し、それをロスト追跡器リ
ストTLLに追加する。
【0171】S68の処理では、新規物体領域Oj の位
置(XOj ,ZOj )と、各ロスト追跡器TLi のロス
ト位置pli 、ロスト速度vli を用いて以下に示す式
で、予測位置と観測位置の差1を計算し、矛盾なく対応
できるかを調べる。
【0172】
【数12】
【0173】もし、前記l(エル)が閾値以内ならば
(l≦閾値)、物体領域Oj とロスト追跡器TLi は矛
盾なく対応できるとして、物体領域Oj の位置を用いて
ロスト追跡器TLi の3次元位置と速度をカルマンフィ
ルタで推定すると共に、その追跡器をロスト追跡器リス
トTLLから除き、ロスト回数を0に設定してから、再
度(対応)追跡器リストTALに加えて、以降の対応付
けを開始する。
【0174】§4:具体的な装置例と記録媒体の説明 図14は具体的な装置例である。前記3次元物体検出/
速度計測装置は、パーソナルコンピュータ、ワークステ
ーション等の任意のコンピュータを利用して実現するこ
とができる。この3次元物体検出/速度計測装置は、コ
ンピュータ本体20と、該コンピュータ本体20に接続
されたディスプレイ装置31、入力装置(キーボード/
マウス等)32、リムーバブルディスクドライブ(「R
DD」という)33、磁気ディスク装置(「MDD」と
いう)34、距離計測器1、カメラ3等で構成されてい
る。
【0175】そして、コンピュータ本体20には、内部
の各種制御や処理を行うCPU21と、プログラムや各
種データを格納しておくためのROM22(不揮発性メ
モリ)と、メモリ23と、インタフェース制御部(「I
/F制御部」という)24と、通信制御部25と、入出
力制御部(I/O制御部)26等が設けてある。なお、
前記RDD33には、フレキシブルディスクドライブ
(フロッピィディスクドライブ)や光ディスクドライブ
等が含まれる。
【0176】前記構成の装置において、例えば、ROM
22、或いはMDD34の磁気ディスク(記録媒体)
に、3次元物体検出/速度計測装置の前記処理を実現す
るためのプログラムを格納しておき、このプログラムを
CPU21が読み出して実行することにより、前記3次
元物体検出/速度計測処理を実行する。
【0177】しかし、本発明は、このような例に限ら
ず、例えば、MDD34の磁気ディスクに、次のように
してプログラムを格納し、このプログラムをCPU21
が実行することで前記連結領域抽出処理を行うことも可
能である。
【0178】:他の装置で作成されたリムーバブルデ
ィスクに格納されているプログラム(他の装置で作成し
たプログラムデータ)を、RDD33により読み取り、
MDD34の記録媒体に格納する。
【0179】:LAN等の通信回線を介して他の装置
から伝送されたプログラム等のデータを、通信制御部2
5を介して受信し、そのデータをMDD34の記録媒体
(磁気ディスク)に格納する。
【0180】
【発明の効果】本発明によれば次のような効果がある。
【0181】(1) :請求項1では、基本領域検出手段
は、或る近隣範囲に存在する3次元位置情報をまとめて
基本領域とするが、その際、このまとめる近隣範囲の大
きさを、3次元位置により変化する物体の見かけの大き
さに合わせた適切な大きさに設定することで、距離情報
を過不足なくまとめることを可能にし、その結果として
物体位置を検出する。
【0182】この場合、距離情報(視差情報)に物体面
モデルを当てはめてその良否から物体の有無を決定する
「物体検出処理」で必要となる、距離(視差)画像から
近隣の距離情報をまとめて平面部分を物体面候補として
抽出する。この処理において、3次元位置(奥行き)に
より変化する物体の観測大きさに合わせた適切な領域を
「近隣」として近隣領域内の距離情報をまとめることで
過不足ない距離情報を用いることを可能にする。
【0183】その結果、従来の固定大きさを「近隣」と
する方法で生じる、遠方で近隣する他物体を誤って一つ
の物体としてしまう過併合の問題や、近傍で一つの物体
面が多くの小平面に分割されて検出され、本来の物体面
に統合するのが困難になる過分割の問題を生じることな
く、物体の3次元位置(奥行き)によらず、常に安定し
て一つの物体面を一つの平面として抽出することができ
る。
【0184】(2) :請求項2では、物体面当てはめ手段
は、当てはめ対象である基本領域の3次元距離によっ
て、距離情報の他に、対象情景を撮像する濃淡或いはカ
ラー画像から得られる情報を使用するか不使用とするか
を切り換える。
【0185】この場合、物体検出処理に関して、対象物
体が遠方にあると物体の観測大きさが小さくなり、得ら
れる距離情報の数が不足して、距離情報への物体面モデ
ルの当てはめではモデル位置を変化させても当てはめ度
合いが殆ど変化せず、物体位置の特定が困難となる。
【0186】そのため、物体が閾値以上に遠い場合は、
3次元距離情報の他に、ビデオカメラ(或いはテレビカ
メラ)等で撮像された情景の濃淡画像から得られる物体
輪郭線情報を用いて画像中での物体位置を補正すること
で、物体の3次元位置(奥行き)によらず、常に安定し
て物体位置を得ることができる。
【0187】(3) :請求項3では、速度検出手段は、位
置検出手段で物体が検出できず、その結果として時系列
での対応が求まらない時、一定回数だけその物体を未対
応状態で位置を残しておき、前記位置検出手段で再び物
体が検出された時には、未対応であった期間での平均移
動速度を参考に未対応状態の物体と矛盾なく対応できる
かを調べ、もし矛盾なく対応できるならば、先の検出さ
れた物体を未対応物体が再び検出されたとして、未対応
間の平均移動速度を再追跡の初期速度として与えて再び
物体の追跡を行うことで、余分な追跡を必要とせず、速
やかに速度計測を再開する。
【0188】この場合、物体速度計測処理に関して、物
体領域が検出できず、対応が求まらない時は、一定の回
数だけその物体を未対応状態で位置の情報を残してお
き、再び物体が検出された場合には、未対応の間の平均
移動距離を初期速度として与えて再び物体の追跡を行う
ことで、再検出の直後から速度を安定に計測することを
可能とする。
【0189】また、再検出物体を新規物体として追跡し
始める従来方式では、速度情報を安定に得るには、更
に、数フレームの物体追跡が必要で、速度情報の出力ま
でに時間遅れを要していたが、本発明では、物体の検出
ができない場合があっても、時間遅れなく、速度情報を
得ることができる。
【0190】(4) :請求項4では、3次元位置情報から
物体面を構成する面の全部或いは一部を、部分特徴であ
る基本領域として検出する基本領域検出処理と、前記検
出された物体面の基本領域について、予め用意した物体
形状モデルの構成面を当てはめる物体面当てはめ処理
と、前記物体面当てはめ手段による当てはめ結果の良否
より物体の有無を判定する物体領域判定処理を有し、前
記基本領域検出処理では、或る近隣範囲に存在する3次
元位置情報をまとめて基本領域とするが、その際、この
まとめる近隣範囲の大きさを、3次元位置により変化す
る物体の見かけの大きさに合わせた適切な大きさに設定
することで、距離情報を過不足なくまとめることを可能
にし、その結果として物体位置を検出するようにした。
【0191】このようにすれば、従来の固定大きさを
「近隣」とする方法で生じる、遠方で近隣する他物体を
誤って一つの物体としてしまう過併合の問題や、近傍で
一つの物体面が多くの小平面に分割されて検出され、本
来の物体面に統合するのが困難になる過分割の問題を生
じることなく、物体の3次元位置(奥行き)によらず、
常に安定して一つの物体面を一つの平面として抽出する
ことができる。
【0192】(5) :請求項5では、3次元物体検出装置
が、記録媒体のプログラムを読み出して実行することに
より、或る近隣範囲に存在する3次元位置情報をまとめ
て基本領域とする際、このまとめる近隣範囲の大きさ
を、3次元位置により変化する物体の見かけの大きさに
合わせた適切な大きさに設定することで、距離情報を過
不足なくまとめることを可能にし、その結果として物体
位置を検出する。
【0193】この場合、距離情報(視差情報)に物体面
モデルを当てはめてその良否から物体の有無を決定する
「物体検出処理」で必要となる、距離(視差)画像から
近隣の距離情報をまとめて平面部分を物体面候補として
抽出する。この処理において、3次元位置(奥行き)に
より変化する物体の観測大きさに合わせた適切な領域を
「近隣」として近隣領域内の距離情報をまとめることで
過不足ない距離情報を用いることを可能にする。
【0194】その結果、従来の固定大きさを「近隣」と
する方法で生じる、遠方で近隣する他物体を誤って一つ
の物体としてしまう過併合の問題や、近傍で一つの物体
面が多くの小平面に分割されて検出され、本来の物体面
に統合するのが困難になる過分割の問題を生じることな
く、物体の3次元位置(奥行き)によらず、常に安定し
て一つの物体面を一つの平面として抽出することができ
る。
【図面の簡単な説明】
【図1】本発明の原理説明図である。
【図2】本発明の実施の形態におけるシステム説明図で
ある。
【図3】本発明の実施の形態における基本領域検出部、
及び物体面当てはめ/物体位置決定部の構成図である。
【図4】本発明の実施の形態における間引き視差画像と
元の視差画像の位置関係を示した図である。
【図5】本発明の実施の形態における基本領域生成部の
処理フローチャートである。
【図6】本発明の実施の形態における処理説明図(その
1)である。
【図7】本発明の実施の形態における処理説明図(その
2)である。
【図8】本発明の実施の形態における処理説明図(その
3)である。
【図9】本発明の実施の形態における前面領域当てはめ
部の処理フローチャート(その1)である。
【図10】本発明の実施の形態における前面領域当ては
め部の処理フローチャート(その2)である。
【図11】本発明の実施の形態における輪郭検出処理の
説明図である。
【図12】本発明の実施の形態における側面領域当ては
め処理(確認用)フローチャートである。
【図13】本発明の実施の形態における物体追跡処理フ
ローチャートである。
【図14】本発明の実施の形態における具体的な装置例
である。
【符号の説明】
1 距離計測器 2 視差画像変換器 3 カメラ(ビデオカメラ) 4 物体検出器 4−1 基本領域検出部 4−2 物体面当てはめ/物体位置決定部 5 物体速度計測器 11 視差画像間引き部 12 単位領域検出部 13 基本領域生成部 14 前面領域当てはめ部 15 側面領域領域当てはめ部 20 コンピュータ本体 21 CPU 22 ROM 23 メモリ 24 I/F制御部(インターフェイス制御部) 25 通信制御部 26 I/O制御部(入出力制御部) 31 ディスプレイ装置 32 入力装置 33 リムーバブルディスクドライブ(RDD) 34 磁気ディスク装置(MDD)
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) H04N 7/18 H04N 7/18 G K Fターム(参考) 5B057 CH18 DA07 DA08 DB03 DB06 DB09 DC09 DC30 DC32 5C054 AA02 AA05 CA04 CC02 CG03 CG05 EA01 FA04 FB01 FB03 FC03 FC12 FC13 FC14 FD01 FE05 FE24 FF02 GA01 GA02 GA04 GB12 GB15 HA18 HA26 HA31 5L096 AA09 BA02 BA04 BA05 CA05 FA66 FA69 FA70 GA38 GA43 HA05 JA09 JA18

Claims (5)

    【特許請求の範囲】
  1. 【請求項1】3次元位置情報が、2次元の配列の各場所
    に奥行き情報を持つ画像形式や、3次元位置情報の集合
    の形で与えられた時に、3次元空間に存在し得る3次元
    物体の位置、形状を検出する3次元物体検出装置におい
    て、 前記3次元位置情報から物体面を構成する面の全部或い
    は一部を、部分特徴である基本領域として検出する基本
    領域検出手段と、 前記検出された物体面の基本領域について、予め用意し
    た物体形状モデルの構成面を当てはめる物体面当てはめ
    手段と、 前記物体面当てはめ手段による当てはめ結果の良否より
    物体の有無を判定する物体領域判定手段を備え、 前記基本領域検出手段は、或る近隣範囲に存在する3次
    元位置情報をまとめて基本領域とするが、その際、この
    まとめる近隣範囲の大きさを、3次元位置により変化す
    る物体の見かけの大きさに合わせた適切な大きさに設定
    することで、距離情報を過不足なくまとめることを可能
    にし、その結果として物体位置を検出する機能を備えて
    いる、 ことを特徴とする3次元物体検出装置。
  2. 【請求項2】3次元位置情報が、2次元の配列の各場所
    に奥行き情報を持つ画像形式や、3次元位置情報の集合
    の形で与えられた時に、3次元空間に存在し得る3次元
    物体の位置、形状を検出する3次元物体検出装置におい
    て、 前記3次元位置情報から物体面を構成する面の全部或い
    は一部を、部分特徴である基本領域として検出する基本
    領域検出手段と、 前記検出された物体面の基本領域について、予め用意し
    た物体形状モデルの構成面を当てはめる物体面当てはめ
    手段と、 前記物体面当てはめ手段による当てはめ結果の良否より
    物体の有無を判定する物体領域判定手段を備え、 前記物体面当てはめ手段は、当てはめ対象である基本領
    域の3次元距離によって、距離情報の他に、対象情景を
    撮像する濃淡或いはカラー画像から得られる情報を使用
    するか不使用とするかを切り換える機能を備えている、 ことを特徴とする3次元物体検出装置。
  3. 【請求項3】1つ或いは複数の物体について位置情報を
    検出する位置検出手段を備え、 前記位置検出手段の検出結果を時系列的に求めていき、
    その得られた物体位置の時系列的な対応を求めること
    で、各物体の速度情報を算出する3次元物体検出装置に
    おいて、 前記位置検出手段で物体が検出できず、その結果として
    時系列での対応が求まらない時、一定回数だけその物体
    を未対応状態で位置を残しておき、前記位置検出手段で
    再び物体が検出された時には、未対応であった期間での
    平均移動速度を参考に未対応状態の物体と矛盾なく対応
    できるかを調べ、もし矛盾なく対応できるならば、先の
    検出された物体を未対応物体が再び検出されたとして、
    未対応間の平均移動速度を再追跡の初期速度として与え
    て再び物体の追跡を行うことで、速度計測を再開できる
    ようにした速度検出手段を備えている、 ことを特徴とする3次元物体検出装置。
  4. 【請求項4】3次元位置情報が、2次元の配列の各場所
    に奥行き情報を持つ画像形式や、3次元位置情報の集合
    の形で与えられた時に、3次元空間に存在し得る3次元
    物体の位置、形状を検出する3次元物体検出方法におい
    て、 前記3次元位置情報から物体面を構成する面の全部或い
    は一部を、部分特徴である基本領域として検出する基本
    領域検出処理と、 前記検出された物体面の基本領域について、予め用意し
    た物体形状モデルの構成面を当てはめる物体面当てはめ
    処理と、 前記物体面当てはめ手段による当てはめ結果の良否より
    物体の有無を判定する物体領域判定処理を有し、 前記基本領域検出処理では、或る近隣範囲に存在する3
    次元位置情報をまとめて基本領域とするが、その際、こ
    のまとめる近隣範囲の大きさを、3次元位置により変化
    する物体の見かけの大きさに合わせた適切な大きさに設
    定することで、距離情報を過不足なくまとめることを可
    能にし、その結果として物体位置を検出する、 ことを特徴とする3次元物体検出方法。
  5. 【請求項5】3次元位置情報が、2次元の配列の各場所
    に奥行き情報を持つ画像形式や、3次元位置情報の集合
    の形で与えられた時に、3次元空間に存在し得る3次元
    物体の位置、形状を検出する3次元物体検出装置に、 3次元位置情報から物体面を構成する面の全部或いは一
    部を、部分特徴である基本領域として検出する第1の手
    順と、 前記検出された物体面の基本領域について、予め用意し
    た物体形状モデルの構成面を当てはめる第2の手順と、 前記第2の手順による当てはめ結果の良否より物体の有
    無を判定する第3の手順と、 前記第1の手順を行う場合、或る近隣範囲に存在する3
    次元位置情報をまとめて基本領域とするが、その際、こ
    のまとめる近隣範囲の大きさを、3次元位置により変化
    する物体の見かけの大きさに合わせた適切な大きさに設
    定することで、距離情報を過不足なくまとめることを可
    能にし、その結果として物体位置を検出する第4の手順
    と、 を実行させるためのプログラムを記録したコンピュータ
    読み取り可能な記録媒体。
JP2000134407A 2000-05-08 2000-05-08 3次元物体検出装置と3次元物体検出方法及び記録媒体 Expired - Fee Related JP4584405B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000134407A JP4584405B2 (ja) 2000-05-08 2000-05-08 3次元物体検出装置と3次元物体検出方法及び記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000134407A JP4584405B2 (ja) 2000-05-08 2000-05-08 3次元物体検出装置と3次元物体検出方法及び記録媒体

Publications (2)

Publication Number Publication Date
JP2001319224A true JP2001319224A (ja) 2001-11-16
JP4584405B2 JP4584405B2 (ja) 2010-11-24

Family

ID=18642692

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000134407A Expired - Fee Related JP4584405B2 (ja) 2000-05-08 2000-05-08 3次元物体検出装置と3次元物体検出方法及び記録媒体

Country Status (1)

Country Link
JP (1) JP4584405B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004107266A1 (en) * 2003-05-29 2004-12-09 Honda Motor Co., Ltd. Visual tracking using depth data
JP2010061655A (ja) * 2008-08-06 2010-03-18 Toyota Motor Engineering & Manufacturing North America Inc 線形特徴を用いた対象追跡
JP2013537661A (ja) * 2010-06-30 2013-10-03 タタ コンサルタンシー サービシズ リミテッド ステレオビジョン技術を使用することによる移動物体の自動検出
WO2014192061A1 (ja) * 2013-05-27 2014-12-04 パイオニア株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP2015175598A (ja) * 2014-03-12 2015-10-05 トヨタ自動車株式会社 画像処理装置
WO2017145600A1 (ja) * 2016-02-23 2017-08-31 株式会社リコー 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004107266A1 (en) * 2003-05-29 2004-12-09 Honda Motor Co., Ltd. Visual tracking using depth data
JP2010061655A (ja) * 2008-08-06 2010-03-18 Toyota Motor Engineering & Manufacturing North America Inc 線形特徴を用いた対象追跡
JP2013537661A (ja) * 2010-06-30 2013-10-03 タタ コンサルタンシー サービシズ リミテッド ステレオビジョン技術を使用することによる移動物体の自動検出
WO2014192061A1 (ja) * 2013-05-27 2014-12-04 パイオニア株式会社 画像処理装置、画像処理方法及び画像処理プログラム
JP2015175598A (ja) * 2014-03-12 2015-10-05 トヨタ自動車株式会社 画像処理装置
WO2017145600A1 (ja) * 2016-02-23 2017-08-31 株式会社リコー 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
JPWO2017145600A1 (ja) * 2016-02-23 2018-12-06 株式会社リコー 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
US10860867B2 (en) 2016-02-23 2020-12-08 Ricoh Company, Ltd. Image processing apparatus, imaging apparatus, mobile device control system, and recording medium

Also Published As

Publication number Publication date
JP4584405B2 (ja) 2010-11-24

Similar Documents

Publication Publication Date Title
CN110221603B (zh) 一种基于激光雷达多帧点云融合的远距离障碍物检测方法
KR100513055B1 (ko) 변이지도 및 깊이지도의 융합을 통한 3차원 장면 모델생성 장치 및 그 방법
US20160196658A1 (en) 3d image generation
Rashidi et al. Innovative stereo vision-based approach to generate dense depth map of transportation infrastructure
EP2426642A1 (en) Method, device and system for motion detection
US20140253679A1 (en) Depth measurement quality enhancement
KR100953076B1 (ko) 객체 또는 배경 분리를 이용한 다시점 정합 방법 및 장치
JPH1166319A (ja) 移動体検出方法及び装置並びに移動体認識方法及び装置並びに人間検出方法及び装置
CN113160327A (zh) 一种点云补全的实现方法和系统
JP2008262333A (ja) 路面判別装置および路面判別方法
KR20210141668A (ko) 서로 상대적으로 움직이는 복수의 정형 객체의 검출, 3d 재구성 및 추적
JP2006226965A (ja) 画像処理装置、コンピュータプログラム、及び画像処理方法
JP2001351193A (ja) 歩行者検知装置
JP3008875B2 (ja) 被写体抽出装置
KR100574227B1 (ko) 카메라 움직임을 보상한 객체 움직임 추출 장치 및 그 방법
JP3988574B2 (ja) 画像処理装置
JP2001147110A (ja) ランダムパターン生成装置とその方法、距離画像生成装置とその方法、およびプログラム提供媒体
JPH1144533A (ja) 先行車両検出装置
JP2001319224A (ja) 3次元物体検出装置と3次元物体検出方法及び記録媒体
JPH07103734A (ja) ステレオ対応探索装置
JPH11248431A (ja) 3次元モデル生成装置および3次元モデル生成プログラムを記録したコンピュータ読取可能な記録媒体
JP2000028354A (ja) 3次元画像処理装置
JPH0991439A (ja) 物体監視装置
JP3525712B2 (ja) 三次元画像撮像方法及び三次元画像撮像装置
JPH1096607A (ja) 物体検出装置および平面推定方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100405

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20100405

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100405

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100712

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100831

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100902

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130910

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees