JP6156067B2 - 移動量推定装置及び移動量推定方法 - Google Patents

移動量推定装置及び移動量推定方法 Download PDF

Info

Publication number
JP6156067B2
JP6156067B2 JP2013228110A JP2013228110A JP6156067B2 JP 6156067 B2 JP6156067 B2 JP 6156067B2 JP 2013228110 A JP2013228110 A JP 2013228110A JP 2013228110 A JP2013228110 A JP 2013228110A JP 6156067 B2 JP6156067 B2 JP 6156067B2
Authority
JP
Japan
Prior art keywords
road surface
surface image
time
image
movement amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013228110A
Other languages
English (en)
Other versions
JP2015088092A (ja
Inventor
中山 收文
收文 中山
宗久 上利
宗久 上利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2013228110A priority Critical patent/JP6156067B2/ja
Priority to US14/508,046 priority patent/US9483841B2/en
Publication of JP2015088092A publication Critical patent/JP2015088092A/ja
Application granted granted Critical
Publication of JP6156067B2 publication Critical patent/JP6156067B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、移動量推定装置及び移動量推定方法に関する。
従来より、車両のような移動体にカメラを取り付け、路面を含む周囲映像を撮影して、路面上の模様の移動量から移動体の移動量を推定する方法が提案されている。例えば、車載カメラで撮影した路面のカメラ画像を真上から見たトップビュー画像に変換し、2時刻間におけるトップビュー画像内の対応点の移動量を用いて車両の移動量を求める移動量推定方法が知られている(例えば、非特許文献1を参照)。
車両周囲を撮像して得た車両周囲画像から視点変換画像を作成し、車両の移動量及び移動方向に従って時間的に前後する視点変換画像を重ね合わせて、複数の視点変換画像を合成する車両用周囲監視装置も知られている(例えば、特許文献1を参照)。
異なる時間に撮影された複数の車両周辺の画像に基づいて第1鳥瞰図画像と第2鳥瞰図画像とを作成し、両画像間の画像の移動状態を示す動きベクトルを算出する車両周辺画像処理装置も知られている(例えば、特許文献2を参照)。
第2車両に設置されたカメラから複数の撮影画像を取得し、それらの撮影画像にて形成されるオプティカルフローと、第1車両の移動情報とに基づいて、第1車両と第2車両の連結角を推定する運転支援システムも知られている(例えば、特許文献3を参照)。この運転支援システムは、連結角及び第1車両の移動情報に基づいて、第2車両の予想移動軌跡を導出する。
第1画像と第2画像との画像データを比較し、その差から物体の移動状態を検出する画像認識装置も知られている(例えば、特許文献4を参照)。この画像認識装置は、自動車の車速に応じて第2画像の比較範囲を変化させる。
基準となる対象のカメラ観測により獲得した画像データと、補正対象のカメラ観測により獲得した画像データとのマッチング処理を行って、補正対象の並進量及び回転量を算出する3次元輪郭位置補正方法も知られている(例えば、特許文献5を参照)。
3次元剛体を捉えた2画像間の回転行列と平行移動ベクトルの制約条件から、カメラの運動条件を簡約化して、回転行列と平行移動ベクトルを計算する3次元情報復元装置も知られている(例えば、特許文献6を参照)。
特開2003−259359号公報 特開2003−009141号公報 特開2009−060499号公報 特開平10−222665号公報 特開平7−318327号公報 特開平9−237341号公報
滝本、伊藤、「車載カメラを用いた単眼測距検証システムの開発」、2006年7月、SEIテクニカルレビュー、第169号、p.82−87
上述した従来の移動量推定方法には、以下のような問題がある。
非特許文献1の移動量推定方法を採用した場合、2時刻間におけるトップビュー画像内の対応点の移動量を用いて移動体の移動量を推定することが可能である。
しかしながら、路面模様が直線状の模様である場合、2時刻における2つのトップビュー画像の相対的な位置関係が一意に定まらず、正しい移動量を求めることが困難になることがある。なお、かかる問題は、路面上を走行する車両に限らず、路面上を移動する他の移動体においても生ずるものである。
1つの側面において、本発明の目的は、移動体から撮像された2時刻の画像の相対的な位置関係が、路面模様から定まらない場合であっても、移動体の移動量を精度良く推定することである。
1つの案では、移動量推定装置は、路面画像生成部、記憶部、移動方向推定部、及び移動量推定部を含む。
路面画像生成部は、移動体に搭載された撮像装置により撮像される第1の時刻の画像から第1の路面画像を生成し、第1の時刻より後の第2の時刻の画像から第2の路面画像を生成する。記憶部は、第1の路面画像と第2の路面画像とを記憶する。
移動方向推定部は、第1の時刻と第2の時刻との間における移動体の旋回量から、第1の時刻と第2の時刻との間における移動体の移動方向に依存する方向情報を求める。移動量推定部は、旋回量と方向情報とを用いて、第1の路面画像と第2の路面画像との相対的な位置関係を求め、相対的な位置関係に基づいて、第1の時刻と第2の時刻との間における移動体の移動量を求める。
実施形態の移動量推定装置によれば、移動体から撮像された2時刻の画像の相対的な位置関係が、路面模様から定まらない場合であっても、移動体の移動量を精度良く推定することができる。
2つの路面画像の照合処理を示す図である。 路面上で旋回しながら移動する移動体を示す図である。 2時刻における路面画像を示す図である。 路面画像の回転を示す図である。 路面画像の位置の不確定性を示す図である。 移動量推定装置の第1の機能的構成図である。 第1の移動量推定処理のフローチャートである。 旋回量と移動方向の関係を示す図である。 路面画像上における移動方向を示す図である。 移動方向の制約を用いた第1の照合処理を示す図である。 移動量推定装置の第2の機能的構成図である。 第2の移動量推定処理のフローチャートである。 移動体座標系を示す図である。 路面座標系を示す図である。 カメラの位置及び姿勢を示す図である。 路面画像の画像座標系を示す図である。 カメラ座標系とカメラ画像の画像座標系を示す図である。 生成された路面画像を示す図である。 回転前の路面画像を示す図である。 回転後の路面画像を示す図である。 2時刻における回転中心座標系と路面画像座標系を示す図である。 画像照合処理のフローチャートである。 ずらし量を示す図である。 重みマップを示す図である。 移動量を積算して求めた移動軌跡を示す図である。 積算誤差が低減された移動軌跡を示す図である。 実際の移動方向と推定される移動方向との乖離を示す図である。 3時刻における移動体を示す図である。 回転中心座標系における移動方向を示す図である。 3時刻における移動体と2時刻における路面画像を示す図である。 時刻t1における路面画像と時刻tにおける路面画像を示す図である。 時刻tにおける路面画像の回転を示す図である。 移動方向の制約を用いた第2の照合処理を示す図である。 移動量推定装置の第3の機能的構成図である。 第3の移動量推定処理のフローチャートである。 3時刻における回転中心座標系と路面画像座標系を示す図である。 キーフレーム更新処理のフローチャートである。 情報処理装置の構成図である。
以下、図面を参照しながら、実施形態を詳細に説明する。
非特許文献1の移動量推定方法を採用した場合、図1に示すように、時刻t1における路面画像101と、時刻t1より後の時刻t2における路面画像102とに基づいて、移動体131の移動量133を推定することが可能である。路面画像101及び路面画像102としては、例えば、トップビュー画像が用いられる。
路面画像101は、移動体131の前後左右の4方向の部分画像111〜部分画像114を含み、路面画像102は、4方向の部分画像121〜部分画像124を含む。4方向の部分画像は、例えば、移動体131のそれぞれの方向に向けて設置された4台のカメラにより撮像された4つの画像を用いて生成される。
この場合、路面画像101と路面画像102とが照合されて、領域134における2画像の路面模様132の画像パターンが最も一致するように、路面画像101と路面画像102とが重ね合わせられる。路面模様132としては、例えば、白線等の車線区分線が用いられる。そして、路面画像101と路面画像102との間における移動体131の位置の変位量から、移動体131の移動量133が推定される。時系列的に2時刻をずらしながら同様の操作を繰り返すことで、連続的に移動体131の移動量を推定することができる。
しかしながら、路面模様が直線状の模様である場合、路面画像101と路面画像102との相対的な位置関係が一意に定まらないことがある。一例として、図2に示すように、車線区分線のような直線状の路面模様202が存在する路面上で、矢印203が示すように、移動体201が旋回しながら移動する場合を考える。移動体201の旋回量は、例えば、移動体201に設置されたジャイロセンサ等の角度センサによって検出することができる。
路面画像211は、時刻t1における路面画像であり、路面画像212は、時刻t1より後の時刻t2における路面画像である。路面画像211と路面画像212とを左右に並べて配置すると、図3のようになる。
図4に示すように、時刻t1と時刻t2の間における移動体201の旋回による変化は、矢印401が示すように、路面画像212を旋回量だけ回転させることで相殺される。そして、移動体201の移動量は、路面画像211と回転後の路面画像212との間における、画像パターンを用いた画像照合により、並進変位量として求められる。
このとき、路面模様202が直線状の模様であるため、図5に示すように、路面模様202に沿う方向においては、回転後の路面画像212の対応する位置が定まらない。この場合、矢印501が示すように、路面模様202に沿う方向における対応位置の不確定性が生じ、正しい並進変位量を求めることが困難になる。
そこで、移動体から撮像された2時刻の画像の相対的な位置関係が、路面模様から定まらない場合であっても、移動体の移動量を精度良く推定する技術が望まれる。なお、かかる問題は、路面上を走行する車両に限らず、路面上を移動する他の移動体においても生ずるものである。
図6は、移動量推定装置の第1の機能的構成例を示している。図6の移動量推定装置601は、路面画像生成部611、記憶部612、移動方向推定部613、及び移動量推定部614を含む。
図7は、図6の移動量推定装置601によって実行される移動量推定処理の例を示すフローチャートである。
まず、路面画像生成部611は、移動体に搭載された撮像装置により撮像される第1の時刻の画像から第1の路面画像を生成し、第1の時刻より後の第2の時刻の画像から第2の路面画像を生成する(ステップ701)。そして、路面画像生成部611は、第1の路面画像と第2の路面画像とを記憶部612に記憶させる。
次に、移動方向推定部613は、第1の時刻と第2の時刻との間における移動体の旋回量から、第1の時刻と第2の時刻との間における移動体の移動方向に依存する方向情報を求める(ステップ702)。
次に、移動量推定部614は、旋回量と方向情報とを用いて、第1の路面画像と第2の路面画像との相対的な位置関係を求める(ステップ703)。そして、移動量推定部614は、相対的な位置関係に基づいて、第1の時刻と第2の時刻との間における移動体の移動量を求める(ステップ704)。
移動体には、車両、自動二輪車、自転車、自走式ロボット等のように、路面上を移動する物体が含まれる。路面上を移動する物体は、動物であってもよい。
このような移動量推定処理によれば、移動体から撮像された2時刻の画像の相対的な位置関係が、路面模様から定まらない場合であっても、移動体の移動量を精度良く推定することができる。
実施形態の移動量推定装置は、移動体に搭載された少なくとも1台以上のカメラにより撮像される外界映像から路面画像を生成し、路面画像の画像パターンに基づいて移動体の移動量を推定する。移動量推定装置は、車載装置のように、移動体に搭載される装置であってもよく、サーバのように、移動体に搭載されない装置であってもよい。移動量推定装置は、例えば、以下のようなシステムにおいて利用することができる。
(1)車両の前後左右のうち少なくとも1つ以上の方向に向けて取り付けられたカメラの映像から、車両の挙動を解析し、運転危険分析を行うシステム。
(2)車両の移動量と映像特徴点追跡とに基づいて、移動ステレオ法により周囲の物体の位置を計測するシステム。
まず、移動体の移動方向の拘束条件について説明する。図8の移動体201は、車両のような後輪軸と前輪軸とを持ち、後輪軸の車輪を駆動輪とし、前輪を操舵輪として走行するものとする。ここで、移動体201の走行速度が十分に低速であり、かつ、2時刻の間隔が十分に短い場合を考える。この場合、駆動輪操舵輪はすべりがなく、転がりによって走行し、2時刻間の移動を円運動で近似することができる。
図8において、時刻t1における移動体201の回転中心O1と、時刻t1より後の時刻t2における移動体201の回転中心O2は、ともに後輪軸の中心位置である。移動体201の旋回中心Mは、回転中心O1を原点とする(xc1,yc1)座標系のxc1軸上にあり、移動体201は、時刻t1と時刻t2の間において、旋回中心Mの周りに旋回量αだけ旋回する。三角形O1−O2−Mは、旋回量αを頂角とする二等辺三角形であり、辺O1−Mと辺O2−Mの長さは、ともに旋回半径Rに等しい。
三角形O1−O2−Mの辺O1−Mと辺O1−O2とのなす角をγとし、yc1軸と移動体201の移動方向801とのなす角をβとすると、図8に示す幾何学的な関係より、次式が成り立つ。
γ=(180度−α)/2=90度−α/2 (1)
β=90度−γ=90度−(90度−α/2)=α/2 (2)
したがって、移動体201の旋回量αと移動方向801を示す角βの間には、β=α/2の関係が成り立つ。このように、移動体201に設置された角度センサ等によって旋回量αを検出できれば、移動体201の物理的な制約から、移動量そのものは決定されなくても進行方向801は決定できることに、発明者は気が付いた。この関係を用いれば、移動体201が図2のように旋回する場合でも、図9に示すように、時刻t1と時刻t2との間における移動体201の移動方向901を制約することができる。
図5の路面画像211と路面画像212との画像照合において、何ら制約がない場合には、2次元領域内における画像の摂動が行われる。しかし、移動方向901の制約を用いれば、図10に示すように、2次元の摂動を1次元の摂動に制約できる。このため、直線状の路面模様しか存在しない場合であっても、矢印1001が示す方向の摂動に制約することで、路面画像211と路面画像212との相対的な位置関係が一意に定まり、正しい並進変位量を求めることが可能になる。
図11は、移動量推定装置の第2の機能的構成例を示している。図11の移動量推定装置1101は、路面画像生成部611、記憶部612、移動方向推定部613、移動量推定部614、及び入力部1111を含む。また、移動量推定部614は、変換部1112及び照合部1113を含む。
図12は、図11の移動量推定装置1101によって実行される移動量推定処理の例を示すフローチャートである。
まず、入力部1111は、移動体201に搭載された1台以上のカメラにより撮像された映像データを、記憶部612に格納する(ステップ1201)。移動量推定装置1101が移動体201に搭載されている場合、映像データはカメラから入力され、移動量推定装置1101が移動体201に搭載されていない場合、映像データは通信ネットワーク等から入力される。
入力される映像データがアナログ映像であれば、入力部1111は、アナログ映像をデジタル映像に変換してもよい。また、入力されるデジタル映像又は変換後のデジタル映像がカラー映像であれば、入力部1111は、カラー映像をグレースケール映像に変換してもよい。移動体201に複数のカメラが搭載されている場合、入力部1111は、それぞれのカメラにより撮像された映像データを、記憶部612に格納する。
次に、路面画像生成部611は、記憶部612に格納された映像データから、複数の時刻における路面画像を生成し、記憶部612に格納する(ステップ1202)。路面画像は、路面を上方から見たときの様子を表す画像であり、例えば、グレースケール画像である。路面画像生成部611は、映像データに含まれる各時刻における画像を路面上に投影することで、路面画像を生成する。
次に、移動量推定部614の変換部1112は、外部から入力される2時刻間の旋回量に基づいて、記憶部612に格納された2時刻の路面画像のうち後の時刻の路面画像を回転させ、回転した路面画像を記憶部612に格納する(ステップ1203)。移動量推定装置1101が移動体201に搭載されている場合、旋回量は角度センサ等から入力され、移動量推定装置1101が移動体201に搭載されていない場合、旋回量は通信ネットワーク等から入力される。
次に、移動方向推定部613は、2時刻間の旋回量に基づいて、2時刻間における移動体201の移動方向に依存する方向情報を求め、記憶部612に格納する(ステップ1204)。
次に、移動量推定部614の照合部1113は、方向情報を用いて、2時刻の路面画像の相対的な位置関係を求め、相対的な位置関係に基づいて、2時刻間における移動体201の移動量を求める(ステップ1205)。このとき、照合部1113は、2時刻の路面画像のうち前の時刻の路面画像から、方向情報が示す方向に沿って、回転した路面画像をずらしながら、2つの路面画像が対応するずらし量を求め、ずらし量に基づいて移動量を求める。そして、照合部1113は、求めた移動量を記憶部612に格納する。
2時刻のうち後の時刻を新たな前の時刻として、時刻をずらしながら同様の処理を繰り返すことで、それぞれの時間間隔における移動体201の移動量を求めることができる。運転危険分析を行うシステムの場合、移動量推定部614は、求めた移動量を運転危険分析処理へ出力することができる。また、周囲の物体の位置を計測するシステムの場合、移動量推定部614は、求めた移動量を物体位置計算処理へ出力することができる。
図13は、移動体座標系の例を示している。図13の移動体座標系O−XYZは、移動体201上の3次元座標系であり、その原点Oは、移動体201直下の路面1301上にある。X軸は、原点Oから移動体201の右方向へ向かう座標軸であり、Y軸は、原点Oから移動体201の前方向へ向かう座標軸であり、Z軸は、原点Oから路面1301の上方向へ向かう座標軸である。このとき、図14に示すように、XY平面上で路面座標系O−XYが定義される。
図15に示すように、移動体201に搭載されたm番目(mは1以上の整数)のカメラ1501の位置及び姿勢は、移動体座標系O−XYZにおける並進ベクトルTm及び回転行列Rmで表すことができる。
図16は、路面画像の画像座標系の例を示している。図16の画像座標系o−xyは、路面画像生成部611により生成される路面画像1601の2次元座標系であり、その原点oは、路面画像1601の左下の頂点である。路面画像1601のx軸方向の大きさをwxとし、y軸方向の大きさをwyとし、路面画像1601の中心1602の座標を(hx,hy)とすると、次式が成り立つ。
hx=wx/2 (11)
hy=wy/2 (12)
図17は、カメラ座標系の例を示している。図17の画像座標系px−pyは、カメラ1501の撮像面上におけるカメラ画像1701の2次元座標系である。px軸は、カメラ画像1701の水平方向の座標軸であり、py軸は、カメラ画像1701の垂直方向の座標軸である。
カメラ座標系QX−QY−QZは、カメラ画像1701の中心1702を原点とする3次元座標系である。QZ軸は、カメラ1501の光軸上にあり、QX軸及びQY軸は、光軸に垂直な平面上にある。中心1702からQZ軸の負の方向へカメラ1501の焦点距離fだけ離れた点1703と、カメラ1501の撮像対象である物体上の点1711とを直線1721で結ぶと、直線1721は、交点1712においてカメラ画像1701と交差する。このとき、物体上の点1711は、カメラ画像1701上の交点1712に投影される。
物体上の点1711の座標を(QX,QY,QZ)とし、QZ軸と直線1721とのなす角をθとし、QY軸と、中心1702と交点1712とを結ぶ直線1722とのなす角をφとする。画像座標系px−pyにおける中心1702の座標を(vx,vy)とし、カメラ画像1701上の点1712の座標を(px,py)とし、点1712に対応する画素の画素値をpm(px,py)とする。また、路面画像1601の1画素のx軸方向の大きさに対応する、路面1301上の実際の大きさをMXとし、路面画像1601の1画素のy軸方向の大きさに対応する、路面1301上の実際の大きさをMYとする。
このとき、路面画像1601上の座標(x,y)に対応する画素の画素値vは、次式で与えられる。
v=pm(px,py) (13)
px=f*r*sin(φ)+vx (14)
py=f*r*cos(φ)+vy (15)
r=tan(θ) (16)
θ=arctan(sqrt(QX^2+QY^2)/QZ) (17)
φ=arctan(QX/QY) (18)
Rmは、カメラ1501の回転行列であり、Tmは、カメラ1501の並進ベクトルである。Uは、路面画像1601上の座標(x、y)に対応する位置の路面座標系O−XYにおける座標を表し、次式で与えられる。
UX=MX*(x−hx) (21)
UY=MY*(y−hy) (22)
路面画像生成部611は、映像データに含まれる各時刻のカメラ画像から、式(11)〜式(22)に基づいて画素値vを求めることで、各時刻の路面画像を生成することができる。
図18は、このようにして生成された路面画像の例を示している。図18の路面画像1801は、移動体201の前後左右の4方向の部分画像1811〜部分画像1814を含む。この場合、移動体201の前後左右の4方向に向けて設置された4台のカメラ(m=1〜4)により撮像された4つのカメラ画像を用いて、路面画像1801が生成される。
変換部1112は、2時刻間の旋回量に基づいて、2時刻の路面画像のうち後の時刻の路面画像を回転させる。例えば、図16の路面画像1601を旋回量αだけ回転させると、回転後の路面画像の座標(x,y)に対応する画素の画素値vは、次式で与えられる。
v=INTERP(回転前の路面画像,rx,ry) (31)
(0<=rx<wxかつ0<=ry<wyの場合)
v=Vinv (32)
(rx<0又はrx>=wx又はry<0又はry>=wyの場合)
ここで、(rx,ry)は、座標(x,y)に対応する画素の回転前の座標を表し、次式で与えられる。
rx=cos(α)*(x−hx)−sin(α)*(y−hy)+hx
(33)
ry=sin(α)*(x−hx)+cos(α)*(y−hy)+hy
(34)
Vinvは、対応する画素が無効であることを示す画素値である。Vinvとしては、例えば、路面画像における画素値が取り得る値の範囲を超えた値を用いることができる。カメラ画像が輝度値のグレースケール画像であり、画素値の範囲が0〜255である場合、Vinvとして266以上の値を用いることができる。例えば、Vinv=300である。
INTERP(画像,x,y)は、画像の座標(x,y)に対応する画素の画素値を内挿補間した値を表す。内挿補間としては、例えば、Nearest補間、Bilinear補間、Sinc補間、又はCubic補間のいずれかを用いることができる。Bilinear補間を用いた場合、INTERP(画像,x,y)は、次式で与えられる。
px=座標値xの小数を切り捨てた整数値 (35)
py=座標値yの小数を切り捨てた整数値 (36)
dx=x−px (37)
dy=y−py (38)
P11=PVAL(画像,px,py) (39)
P12=PVAL(画像,px+1,py) (40)
P21=PVAL(画像,px,py+1) (41)
P22=PVAL(画像,px+1,py+1) (42)
v1=(1−dx)*P11+dx*P12 (43)
v2=(1−dx)*P21+dx*P22 (44)
INTERP(画像,x,y)=(1−dy)*v1+dy*v2 (45)
ここで、PVAL(画像,x,y)は、画像内の座標(x,y)に対応する画素の画素値を表す。
変換部1112は、式(31)〜式(34)に基づいて画素値vを求めることで、回転後の路面画像を生成することができる。例えば、図19に示すような路面画像を、時計回りに旋回量αだけ回転させると、図20に示すような路面画像が得られる。図20の路面画像において、四隅の黒い領域2001〜領域2004は、無効画素からなる領域に対応する。
移動方向推定部613は、2時刻間の旋回量αに基づいて、移動体201の移動方向を求める。図21は、移動方向を求める際に用いられる、各時刻における回転中心座標系と路面画像座標系の例を示している。
回転中心座標系(xc1,yc1)は、時刻t1における移動体201の回転中心2111を原点とする2次元座標系である。yc1軸は、移動体201の進行方向(前方向)の座標軸であり、xc1軸は、進行方向に対して横向きの座標軸である。路面画像座標系(x1,y1)は、時刻t1における移動体201の中心2121を原点とする2次元座標系である。y1軸は、yc1軸と同じ向きの座標軸であり、x1軸は、xc1軸と同じ向きの座標軸である。移動体201の中心2121は、時刻t1における路面画像2101の中心と一致している。
回転中心座標系(xcr2,ycr2)は、時刻t2における移動体201の回転中心2112を原点とする2次元座標系である。ycr2軸は、yc1軸と同じ向きの座標軸であり、xcr2軸は、xc1軸と同じ向きの座標軸である。路面画像座標系(xr2,yr2)は、時刻t2における移動体201の中心2122を原点とする2次元座標系である。yr2軸は、ycr2軸と同じ向きの座標軸であり、xr2軸は、xcr2軸と同じ向きの座標軸である。
移動体201の中心2122は、時刻t2における路面画像の中心と一致しており、その路面画像を旋回量αだけ回転させた路面画像2102の中心とも一致している。
移動体201の移動方向2113とyc1軸とがなす角をβとすると、式(2)が成り立つ。回転中心座標系(xc1,yc1)において、移動方向2113を含む直線の方程式は、次式で与えられる。
cos(β)*xc1−sin(β)*yc1=0 (51)
ここで、路面画像座標系(x1,y1)における回転中心2111の座標を(cx,cy)とし、時刻t1と時刻t2の間における回転中心座標系の原点の移動ベクトル2131を(mx,my)とする。また、路面画像座標系(x1,y1)における点P1の座標を(X1,Y1)とすると、回転中心座標系(xc1,yc1)における点P1の座標は、次式で与えられる。
xc1=X1−cx (52)
yc1=Y1−cy (53)
また、回転中心座標系(xcr2,ycr2)における点P1の座標は、次式で与えられる。
xcr2=xc1−mx=(X1−cx)−mx (54)
ycr2=yc1−my=(Y1−cy)−my (55)
路面画像座標系(xr2,yr2)における回転中心2112の座標を(cxr2,cyr2)とすると、路面画像座標系(xr2,yr2)における点P1の座標は、次式で与えられる。
xr2=xcr2+cxr2=(X1−cx−mx)+cxr2 (56)
yr2=ycr2+cyr2=(Y1−cy−my)+cyr2 (57)
座標(cxr2,cyr2)は、回転中心2111の座標(cx,cy)を旋回量αを用いて回転変換することで求められ、次式で与えられる。
cxr2=cos(α)*cx−sin(α)*cy (58)
cyr2=sin(α)*cx+cos(α)*cy (59)
ここで、時刻t1と時刻t2の間における路面画像座標系の原点の移動ベクトル2132を(qx,qy)とすると、点P1は、移動ベクトル2132により点P2へ移動する。そして、路面画像座標系(xr2,yr2)における点P2の座標は、路面画像座標系(x1,y1)における点P1の座標(X1,Y1)に一致する。
このとき、(qx,qy)は、路面画像座標系(xr2,yr2)における点P2の座標(X1,Y1)と、路面画像座標系(xr2,yr2)における点P1の座標との差分として求められる。式(56)及び式(57)より、(qx,qy)は次式で与えられる。
qx=X1−xr2
=X1−(X1−cx−mx)−cxr2
=(cx+mx)−cxr2 (60)
qy=Y1−yr2
=Y1−(Y1−cy−my)−cyr2
=(cy+my)−cyr2 (61)
式(60)及び式(61)より、(mx,my)は次式で与えられる。
mx=cxr2+(qx−cx) (62)
my=cyr2+(qy−cy) (63)
回転中心座標系(xc1,yc1)における(mx,my)は、式(62)及び式(63)で与えられ、式(51)の直線上に拘束される。そこで、式(62)及び式(63)の(mx,my)を式(51)の(xc1,yc1)に代入して、式(58)及び式(59)を用いると、次式が得られる。
cos(β)*mx−sin(β)*my
=cos(β)*(cxr2+(qx−cx))
−sin(β)*(cyr2+(qy−cy))
=cos(β)*qx−sin(β)*qy
+cos(β)*(cxr2−cx)−sin(β)*(cyr2−cy)
=cos(β)*qx−sin(β)*qy
+cos(β)*((cos(α)*cx−sin(α)*cy)−cx)
−sin(β)*((sin(α)*cx+cos(α)*cy)−cy)
=cos(β)*qx−sin(β)*qy
−cos(β)*((1−cos(α))*cx+sin(α)*cy)
+sin(β)*((1−cos(α))*cy−sin(α)*cx)
=0 (64)
式(64)は、次式のように書き換えられる。
A*qx+B*qy+C=0 (65)
A=cos(β) (66)
B=−sin(β) (67)
C=−cos(β)*((1−cos(α))*cx+sin(α)*cy)
+sin(β)*((1−cos(α))*cy−sin(α)*cx)
(68)
式(65)は、路面画像座標系(xr2,yr2)の原点の位置を拘束する直線を表している。路面画像2101と路面画像2102の相対的な位置関係を求める際に、式(65)を満たす(qx,qy)が、路面画像2102のずらし量として用いられる。
移動方向推定部613は、式(2)を用いて式(66)〜式(68)のA、B、及びCの値を計算し、A、B、及びCの値を、路面画像2102をずらす方向を示す方向情報として、記憶部612に格納する。
照合部1113は、路面画像2101から方向情報が示す方向に沿って路面画像2102をずらしながら、路面画像2101の画像パターンと路面画像2102の画像パターンとが最も類似する位置を求める。
図22は、照合部1113が行う画像照合処理の例を示すフローチャートである。まず、照合部1113は、i番目のずらし量を示す変数iを0に設定し、路面画像2101の画像パターンと路面画像2102の画像パターンとの間の類似度Sの最大値を示す変数Smaxを−1に設定する(ステップ2201)。また、照合部1113は、Smaxに対応するiの値を示す変数Imaxを−1に設定する。
次に、照合部1113は、iとずらし量の総数Nとを比較し(ステップ2202)、iがNより小さい場合(ステップ2202,YES)、次式により類似度Sを計算する(ステップ2203)。
S=COMP(R1,R2,qx(i),qy(i)) (71)
図23に示すように、路面画像R1は、路面画像2101に対応し、路面画像R2は、路面画像2102に対応する。ただし、路面画像R2は、図20に示したように、路面画像R1と同じ形状を有するものとする。
ベクトル2301は、路面画像R1から路面画像R2をずらす際のi番目のずらし量(i=0〜N−1)を示している。ベクトル2301の成分は、例えば、路面画像R1の路面画像座標系(x,y)で記述することができ、(qx(i),qy(i))である。N個の組(qx(i),qy(i))は、次式が示す直線上のN個の点の座標に対応し、路面画像R2の摂動範囲を規定する。
A*x+B*y+C=0 (72)
式(71)のCOMP(R1,R2,qx,qy)としては、例えば、図23の路面画像R1と路面画像R2の共通領域2302に属する、路面画像R1の画像パターンと路面画像R2の画像パターンの間の類似度を用いることができる。このとき、共通領域2302に属するj番目の画素対の類似度sjは、例えば、次式で計算することができる(j=1〜Nc)。
sj=VL−|PVAL(R1,ux(j),uy(j))
−PVAL(R2,ux(j)−qx,uy(j)−qy)|(73)
ここで、PVAL(R,x,y)は、路面画像Rの座標(x,y)に対応する画素の画素値を表し、(ux(j),uy(j))は、共通領域2302に属する路面画像R1のj番目の画素の座標を表す。共通領域2302に属する路面画像R1の画素の総数は、Ncである。(qx,qy)は、ベクトル2301の成分を表し、(ux(j)+qx,uy(j)+qy)は、共通領域2302に属する路面画像R2のj番目の画素の座標を表す。したがって、式(73)の右辺第2項の絶対値は、共通領域2302に属するj番目の画素対の画素値の差分絶対値を表している。
式(73)の右辺第1項のVLは、差分絶対値が小さいほどsjが大きくなるようにするための定数であり、画素値の差に比べて十分大きな値に設定される。画素値の範囲が0〜255である場合、VLとして266以上の値を用いることができる。例えば、VL=300である。
この場合、COMP(R1,R2,qx,qy)としては、Nc個の画素対についてのsjの総和又は平均値を用いることができる。例えば、sjの平均値saは、次式で与えられる。
sa=(Σsj)/Nc (74)
式(74)の右辺のΣは、j=1〜Ncについての総和を表す。saは、共通領域2302に属する路面画像R1の画像パターンと路面画像R2の画像パターンが類似するほど大きな値になる。
式(73)及び式(74)は、類似度Sの一例に過ぎず、他の計算方法を用いて類似度Sを計算しても構わない。例えば、式(73)において、画素値の差分絶対値の代わりに、画素値の差分の2乗を用いてもよく、定数VLを用いる代わりに、差分絶対値の逆数又は差分の2乗の逆数をsjとして用いてもよい。また、式(74)のsaの代わりに、sjの総和をCOMP(R1,R2,qx,qy)として用いてもよい。
次に、照合部1113は、類似度SをSmaxと比較し(ステップ2204)、SがSmaxより大きい場合(ステップ2204,YES)、SmaxをSに更新し、Imaxをiに更新する(ステップ2205)。そして、照合部1113は、iを1だけインクリメントして(ステップ2206)、ステップ2202以降の処理を繰り返す。
SがSmax以下である場合(ステップ2204,NO)、照合部1113は、Smax及びImaxを更新することなく、ステップ2206以降の処理を行う。そして、iがNに達すると(ステップ2202,NO)、照合部1113は、Smaxの更新を終了し、Imaxに対応するずらし量に基づいて移動量を求める(ステップ2207)。
iがNに達したときのSmaxは、路面画像R2の摂動範囲における類似度Sの最大値に対応し、そのときのImaxは、類似度Sを最大にする(qx(i),qy(i))を示している。
そこで、照合部1113は、(qx(Imax),qy(Imax))を用いて、次式により、時刻t1と時刻t2の間における移動体201の移動量(Tx,Ty)を計算することができる。
Tx=qx(Imax)*MX/wx (75)
Ty=qy(Imax)*MY/wy (76)
ところで、方向情報の計算誤差を考慮して、路面画像R2の摂動範囲を方向情報が示す方向に限定するのではなく、それ以外の方向に拡張することも可能である。この場合、照合部1113は、路面画像R2のずらし量に対する重みを、ずらし方向が方向情報が示す方向に一致する場合の重みが一致しない場合の重みより大きくなるように決定する。そして、照合部1113は、路面画像R1と路面画像R2の類似度と、重みとの積に基づいて、ずらし量を求める。
例えば、照合部1113は、路面画像R1内の座標(x,y)に対して、式(72)の直線上で大きな重みを有し、直線から離れるに従って重みが小さくなる重みマップM(x,y)を生成することができる。重みマップM(x,y)としては、例えば、路面画像R1内の座標(x,y)から直線までの距離に応じて、距離が近いほど大きくなる重みを用いることができる。
路面画像R1の各画素の座標を(px,py)とすると、座標(px,py)から式(72)の直線までの距離LLは、次式で与えられる。
LL=|A*px+B*py+C|/sqrt(A*A+B*B) (81)
このとき、重みWTは、例えば、距離LLを用いて次式により定義できる。
WT=exp(−LL*LL/(σ*σ)) (82)
σは、距離LLが大きくなるにつれて重みWTが小さくなる度合いを規定する定数であり、画素数を表す。σとしては、例えば、2以上の値を用いることができる。重みWTを座標(px,py)に対応付けることで、重みマップM(x,y)が生成される。式(81)及び式(82)は、重みWTの一例に過ぎず、他の計算方法を用いて重みWTを計算しても構わない。
図24は、重みマップM(x,y)の例を示している。図24の重みマップM(x,y)の値は、式(72)の直線2401上で最大となり、直線2401から離れるに従って小さくなる。
重みマップM(x,y)を用いる場合、直線2401の近傍領域を路面画像R2の摂動範囲として用いることができる。例えば、近傍領域のx方向の幅を−DX画素から+DXまでとし、y方向の幅を−DY画素から+DYまでとすると、ずらし量を示す(qx(i),qy(i))は、近傍領域内の点の集合で表され、その総数Nは、次式で与えられる。
N=(2*DX+1)*(2*DY+1) (83)
ただし、DX及びDYは、1以上の整数である。照合部1113は、(qx(i),qy(i))に対応する路面画像R1と路面画像R2の類似度と、(qx(i),qy(i))に対応する重みとの積を、重み付き類似度として計算する。そして、照合部1113は、重み付き類似度が最も大きくなる(qx(Imax),qy(Imax))を求め、式(75)及び式(76)により移動量(Tx,Ty)を計算する。
この場合、式(71)のCOMP(R1,R2,qx,qy)としては、例えば、次式の重み付き類似度Sを用いることができる。
S=sa*Mc (84)
Mc=M(qx,qy) (85)
式(84)のsaは、式(74)のsjの平均値であり、Mcは、重みマップM(x,y)において(qx,qy)に対応する重みを表す。重み付き類似度Sは、共通領域2302に属する路面画像R1の画像パターンと路面画像R2の画像パターンが類似するほど大きな値になる。また、重み付き類似度Sは、(qx,qy)が直線2401に近いほど大きな値になる。
式(84)は、重み付き類似度Sの一例に過ぎず、他の計算方法を用いて重み付き類似度Sを計算しても構わない。例えば、saの代わりに、sjの総和を用いてもよい。
図13の移動体座標系O−XYZ、図14の路面座標系O−XY、図16の画像座標系o−xy、図17の画像座標系px−py及びカメラ座標系QX−QY−QZの定義は一例に過ぎず、これらと異なる位置及び姿勢の座標系を用いてもよい。また、図21の回転中心座標系(xc1,yc1)、路面画像座標系(x1,y1)、回転中心座標系(xcr2,ycr2)、及び路面画像座標系(xr2,yr2)の定義も一例に過ぎず、これらと異なる位置及び姿勢の座標系を用いてもよい。
ところで、図8では、時刻t1と時刻t2の間隔が十分に短く、2時刻間における移動体201の移動を円運動で近似できる場合の角βの計算方法について説明した。しかし、実際には、車両の挙動を解析するシステムや、移動量と映像特徴点追跡とに基づいて移動ステレオ法により物体の位置を計測するシステムでは、より離れた2時刻間における移動量を求めたい場合がある。
理論的には、隣接する2時刻間における移動量を積算していけば、任意の2時刻間における移動量を求めることができる。しかし、実際には、移動量を積算する度に、隣接する2時刻間における移動量に含まれる誤差が蓄積されるため、移動量の誤差が増大する可能性がある。
例えば、図25に示すように、移動体201の実際の移動軌跡2501と、隣接する2時刻間における移動量を積算して求めた移動軌跡2502との間には、積算誤差2503が発生する。そして、移動量を積算する積算回数が多くなるほど、積算誤差2503は増大すると考えられる。
カメラから入力される映像データには、複数の時刻におけるフレームが含まれており、各時刻におけるフレームがカメラ画像に対応する。隣接する2時刻間における移動量を積算する方法では、基準となる時刻t1が時系列に毎フレーム更新される。
一方、積算誤差を低減するには、移動量の積算回数を可能な限り少なくすることが有効である。この場合、隣接する2時刻間ではなく、より離れた2時刻間における移動量を求めることが好ましい。このため、基準となる時刻t1を時系列的に毎フレーム更新するのではなく、所定の条件の下で時刻t1のフレームをキーフレームとして固定し、時刻t2のフレームだけを時系列に更新することが考えられる。
この方法では、時刻t1のキーフレームを更新するまでは、時刻t1と時刻t2の間、時刻t1と時刻t3の間、・・・、及び時刻t1と時刻tnの間において移動量が計算される。このため、時刻t1と時刻tnの間における移動量の計算では、時刻t2〜時刻t(n−1)における移動量が積算されず、誤差の蓄積が発生しない。
例えば、図26では、キーフレームの時刻における移動体201が実線で示され、2つのキーフレームの間に存在するフレームの時刻における移動体201が破線で示されている。図26から分かるように、2つのキーフレームの時間間隔が1フレームより大きくなるため、移動量の積算回数が減少する。このため、移動体201の実際の移動軌跡2501と、2つのキーフレーム間における移動量を積算して求めた移動軌跡2601との間の積算誤差が低減される。
基準となる時刻t1におけるキーフレームは、例えば、最後にキーフレームを更新してから積算された移動量の大きさが一定量を超えた場合に、最新のフレームで置き換えることができる。これにより、移動体201が一定距離を移動する毎に、キーフレームが更新される。
ところが、移動体201は進行方向を変更しながら移動するため、2つのキーフレームの時間間隔が長くなると、その間の移動体201の移動を円運動で近似することが困難になる。
例えば、図27に示すように、2つのキーフレームの間で移動体201が移動軌跡2701に沿って移動した場合、実際の移動方向2702と、式(2)により旋回量αから推定される移動方向2703との間に乖離が発生する。この場合、式(2)の制約を用いることで、逆に、推定された移動量の精度が低下することになる。
そこで、発明者は、短時間であれば移動体の移動を円運動で近似することができ、移動体の位置は時系列に順次求めることができる点に着目し、漸化的な移動量推定方法を考案した。
図28に示すように、時刻t1のフレームをキーフレームとし、時刻tのフレームを計算対象とし、時刻tの1時刻前の時刻を時刻(t−1)とする。そして、移動体201は、移動軌跡2801に沿って移動するものとする。このとき、時刻t1と時刻tの間における移動体201の移動量(Tx(t),Ty(t))が求められる。Tx(t)は、キーフレームにおける右方向の成分を表し、Ty(t)は、キーフレームにおける前方向の成分を表す。
ここで、移動体201の位置は時系列に順次求めることができるので、時刻t1と時刻(t−1)の間における移動体201の移動量(Tx(t−1),Ty(t−1))は、時刻(t−1)についての移動量計算により既に求められているものとする。また、時刻t1から時刻(t−1)までの積算旋回量αc(t−1)も、時刻(t−1)についての移動量計算により求められているものとする。さらに、時刻(t−1)と時刻tとの間の旋回量α(t)が入力されており、時刻tにおける路面画像が生成されているものとする。
まず、時刻(t−1)と時刻tとの関係について考える。時刻(t−1)と時刻tの間隔は短時間であるため、その間の移動体201の移動を円運動で近似しても差し支えない。そこで、図29に示すように、時刻(t−1)と時刻tの間における移動体201の移動方向2802を示す角βは、その間の旋回量α(t)を用いて、次式により記述することができる。
β=α(t)/2 (91)
図29の回転中心座標系(xc(t−1),yc(t−1))は、時刻(t−1)における移動体201の回転中心を原点とする2次元座標系である。
次に、時刻t1と時刻tとの関係について考える。図30に示すように、時刻t1における路面画像3001と時刻tにおける路面画像3002が生成されているものとする。路面画像3001と路面画像3002とを左右に並べて配置すると、図31のようになる。
時刻t1から時刻tまでの積算旋回量αc(t)は、時刻t1から時刻(t−1)までの積算旋回量αc(t−1)と、時刻(t−1)と時刻tの間における旋回量α(t)とを用いて、次式で与えられる。
αc(t)=αc(t−1)+α(t) (92)
図32に示すように、路面画像3002をαc(t)だけ回転させると、路面模様202の方向が路面画像3001と一致し、移動量に対応するずらし量だけ上下左右にずれた路面画像が得られる。このとき、回転した路面画像3002における移動体201の回転中心は、移動方向2802が示す直線上に位置する。
したがって、路面画像3001と路面画像3002との画像照合においては、図33に示すように、路面画像3002の摂動範囲を矢印3301が示す方向に制約することができる。このように、時刻t1から時刻tまでの移動体201の移動が円運動では近似できない運動であっても、2次元の摂動を1次元の摂動に制約できる。
このため、直線状の路面模様しか存在しない場合であっても、路面画像3001と路面画像3002との相対的な位置関係が一意に定まり、正しい移動量(Tx(t),Ty(t))を求めることが可能になる。時刻tの次の時刻(t+1)以降についても、キーフレームが更新されるまで、同様の処理が繰り返される。
なお、後述するように、漸化的な移動量推定方法では、時刻(t−1)における移動量(Tx(t−1),Ty(t−1))と積算旋回量αc(t−1)とを用いて、時刻tにおける移動量(Tx(t),Ty(t))を計算する。
ここで、時刻tが時刻t1の次の時刻t2である場合、時刻(t−1)は時刻t1に一致する。時刻t1における移動体201は動き出す前の初期状態であるから、時刻t1における移動量(Tx(t1),Ty(t1))は(0,0)に設定することができ、積算旋回量αc(t1)は0に設定することができる。したがって、漸化的な移動量推定方法は、一般性を失うことなく、漸化的に適用することができる。
このように、移動体の移動方向の制約を用いた移動量推定方法は、移動体の一般的な運動に対しても適用することが可能である。
図34は、漸化的な移動量推定方法を用いた移動量推定装置の第3の機能的構成例を示している。図34の移動量推定装置3401は、図11の移動量推定装置1101の構成に、更新部3411及び旋回量積算部3412を追加した構成を有する。
図35は、図34の移動量推定装置3401によって実行される移動量推定処理の例を示すフローチャートである。図35のステップ3501及びステップ3502の処理は、図12のステップ1201及びステップ1202の処理と同様である。
路面画像が生成されると、旋回量積算部3412は、入力される旋回量を積算して積算旋回量を求め、記憶部612に格納する(ステップ3503)。このとき、旋回量積算部3412は、時刻tにおける旋回量α(t)が入力されると、時刻(t−1)における積算旋回量αc(t−1)に旋回量α(t)を加算して、時刻tにおける積算旋回量αc(t)を求める。
時刻tにおける旋回量α(t)をαnとし、時刻(t−1)における積算旋回量αc(t−1)をαcpとし、時刻tにおける積算旋回量αc(t)をαcnとする。旋回量積算部3412は、旋回量α(t)が入力されると、αnとして記憶部612に格納する。αcpは記憶部612に格納されているものとする。このとき、旋回量積算部3412は、次式によりαcnを計算し、記憶部612に格納する。
αcn=αcp (101)
αcn=αcn+αn (102)
これにより、時刻tにおける旋回量αnと積算旋回量αcnとが記憶部612に格納される。
次に、移動量推定部614の変換部1112は、外部から入力される旋回量αの代わりに、記憶部612に格納された積算旋回量αcnを用いて、図12のステップ1203と同様の処理を行う(ステップ3504)。これにより、時刻tにおける路面画像が回転し、回転した路面画像が記憶部612に格納される。
次に、移動方向推定部613は、時刻tにおける旋回量αnに基づいて、時刻(t−1)と時刻tとの間における移動体201の移動方向に依存する方向情報を求め、記憶部612に格納する(ステップステップ3505)。
次に、移動量推定部614の照合部1113は、時刻t1におけるキーフレームに対応する路面画像と、時刻tにおける回転した路面画像とを用いて、図12のステップ1205と同様の処理を行う(ステップ3506)。これにより、時刻t1と時刻tとの間における移動体201の移動量が求められる。照合部1113は、求めた移動量を記憶部612に格納する。
時刻(t+1)を新たな時刻tとし、時刻tを新たな時刻(t−1)として、時刻をずらしながら同様の処理を繰り返すことで、それぞれの時刻における移動体201の移動量を求めることができる。
更新部3411は、時刻tにおける移動体201の移動量の大きさが一定量を超えた場合に、キーフレームを更新する(ステップ3507)。更新されたキーフレームを用いて同様の処理を繰り返すことで、新たな位置を基準とする移動量を求めることができる。
図36は、移動方向推定部613が移動方向を求める際に用いられる、各時刻における回転中心座標系と路面画像座標系の例を示している。
回転中心座標系(xc1,yc1)は、時刻t1における移動体201の回転中心3611を原点とする2次元座標系である。yc1軸は、移動体201の進行方向の座標軸であり、xc1軸は、進行方向に対して横向きの座標軸である。路面画像座標系(x1,y1)は、時刻t1における移動体201の中心3621を原点とする2次元座標系である。y1軸は、yc1軸と同じ向きの座標軸であり、x1軸は、xc1軸と同じ向きの座標軸である。移動体201の中心3621は、時刻t1における路面画像3601の中心と一致している。
回転中心座標系(xc(t−1),yc(t−1))は、時刻(t−1)における移動体201の回転中心3612を原点とする2次元座標系である。yc(t−1)軸は、移動体201の進行方向の座標軸であり、xc(t−1)軸は、進行方向に対して横向きの座標軸である。路面画像座標系(x(t−1),y(t−1))は、時刻(t−1)における移動体201の中心3622を原点とする2次元座標系である。y(t−1)軸は、yc(t−1)軸と同じ向きの座標軸であり、x(t−1)軸は、xc(t−1)軸と同じ向きの座標軸である。
移動体201の中心3622は、時刻(t−1)における路面画像の中心と一致しており、その路面画像を積算旋回量αcpだけ回転させた路面画像3602の中心とも一致している。
回転中心座標系(xcr(t),ycr(t))は、時刻tにおける移動体201の回転中心3613を原点とする2次元座標系である。ycr(t)軸は、yc1軸と同じ向きの座標軸であり、xcr(t)軸は、xc1軸と同じ向きの座標軸である。路面画像座標系(xr(t),yr(t))は、時刻tにおける移動体201の中心3623を原点とする2次元座標系である。yr(t)軸は、ycr(t)軸と同じ向きの座標軸であり、xr(t)軸は、xcr(t)軸と同じ向きの座標軸である。
移動体201の中心3623は、時刻tにおける路面画像の中心と一致しており、その路面画像を積算旋回量αcnだけ回転させた路面画像3603の中心とも一致している。
移動体201の移動方向3614とyc(t−1)軸とがなす角をβとすると、式(91)より次式が成り立つ。
β=αn/2 (111)
回転中心座標系(xc(t−1),yc(t−1))において、移動方向3614を含む直線の方程式は、次式で与えられる。
cos(β)*xc(t−1)−sin(β)*yc(t−1)=0 (112)
路面画像座標系(x1,y1)から路面画像座標系(x(t−1),y(t−1))への座標変換における回転量は、時刻(t−1)における積算旋回量αcpで与えられる。また、この座標変換における並進移動量は、時刻(t−1)における移動体201の移動量(Tx(t−1),Ty(t−1))を、路面画像座標系(x(t−1),y(t−1))における並進移動量(qxp,qyp)に変換することで得られる。このとき、路面画像座標系(x(t−1),y(t−1))と路面画像座標系(x1,y1)との関係は、次式で与えられる。
x(t−1)=cos(αcp)*(x1−qxp)
−sin(αcp)*(y1−qyp) (113)
y(t−1)=sin(αcp)*(x1−qxp)
+cos(αcp)*(y1−qyp) (114)
路面画像座標系(x1,y1)における点P1の座標を(X1,Y1)とすると、式(113)及び式(114)より、路面画像座標系(x(t−1),y(t−1))における点P1の座標は、次式で与えられる。
x(t−1)=cos(αcp)*(X1−qxp)
−sin(αcp)*(Y1−qyp) (115)
y(t−1)=sin(αcp)*(X1−qxp)
+cos(αcp)*(Y1−qyp) (116)
ここで、路面画像座標系(x1,y1)における回転中心3611の座標を(cx,cy)とし、時刻(t−1)と時刻tとの間における回転中心座標系の原点の移動ベクトル3631を(mx,my)とする。このとき、回転中心座標系(xc(t−1),yc(t−1))における点P1の座標は、次式で与えられる。
xc(t−1)=x(t−1)−cx
=cos(αcp)*(X1−qxp)
−sin(αcp)*(Y1−qyp)−cx (117)
yc(t−1)=y(t−1)−cy
=sin(αcp)*(X1−qxp)
+cos(αcp)*(Y1−qyp)−cy (118)
次に、回転中心座標系(xc(t−1),yc(t−1))から回転中心座標系(xcr(t),ycr(t))への座標変換について考える。時刻(t−1)と時刻tとの間に移動体201は旋回量αnだけ旋回しており、時刻tにおける路面画像3603の回転量は積算旋回量αcnで与えられる。したがって、この座標変換における回転量は、次式で与えられる。
αn−αcn=αn−(αcp+αn)=−αcp (119)
このとき、式(117)及び式(118)より、回転中心座標系(xcr(t),ycr(t))における点P1の座標は、次式で与えられる。
xcr(t)
=cos(−αcp)*(xc(t−1)−mx)
−sin(−αcp)*(yc(t−1)−my)
=cos(αcp)*(xc(t−1)−mx)
+sin(αcp)*(yc(t−1)−my)
=cos(αcp)*xc(t−1)
+sin(αcp)*yc(t−1)
−(cos(αcp)*mx+sin(αcp)*my)
=X1−qxp
−(cos(αcp)*(cx+mx)+sin(αcp)*(cy+my))
(120)
ycr(t)
=sin(−αcp)*(xc(t−1)−mx)
+cos(−αcp)*(yc(t−1)−my)
=−sin(αcp)*(xc(t−1)−mx)
+cos(αcp)*(yc(t−1)−my)
=Y1−qyp
−(−sin(αcp)*(cx+mx)+cos(αcp)*(cy+my))
(121)
路面画像座標系(xr(t),yr(t))における回転中心3613の座標を(cxr(t),cyr(t))とすると、式(120)及び式(121)より、路面画像座標系(xr(t),yr(t))における点P1の座標は、次式で与えられる。
xr(t)
=xcr(t)+cxr(t)
=X1−qxp
−(cos(αcp)*(cx+mx)+sin(αcp)*(cy+my))
+cxr(t) (122)
yr(t)
=ycr(t)+cyr(t)
=Y1−qyp
−(−sin(αcp)*(cx+mx)+cos(αcp)*(cy+my))
+cyr(t) (123)
座標(cxr(t),cyr(t))は、回転中心3611の座標(cx,cy)を積算旋回量αcnを用いて回転変換することで求められ、次式で与えられる。
cxr(t)=cos(αcn)*cx−sin(αcn)*cy (124)
cyr(t)=sin(αcn)*cx+cos(αcn)*cy (125)
ここで、時刻t1と時刻tの間における路面画像座標系の原点の移動ベクトル3632を(qx,qy)とすると、点P1は、移動ベクトル3632により点P2へ移動する。そして、路面画像座標系(xr(t),yr(t))における点P2の座標は、路面画像座標系(x1,y1)における点P1の座標(X1,Y1)に一致する。
このとき、(qx,qy)は、路面画像座標系(xr(t),yr(t))における点P2の座標(X1,Y1)と、路面画像座標系(xr(t),yr(t))における点P1の座標との差分として求められる。式(122)及び式(123)より、(qx,qy)は次式で与えられる。
qx
=X1−xr(t)
=qxp
+(cos(αcp)*(cx+mx)+sin(αcp)*(cy+my))
−cxr(t) (126)
qy
=Y1−yr(t)
=qyp
+(−sin(αcp)*(cx+mx)+cos(αcp)*(cy+my))
−cyr(t) (127)
式(126)及び式(127)より、(mx,my)は次式で与えられる。
mx=cos(αcp)*(cxr(t)+qx−qxp)
−sin(αcp)*(cyr(t)+qy−qyp)
−cx (128)
my=sin(αcp)*(cxr(t)+qx−qxp)
+cos(αcp)*(cyr(t)+qy−qyp)
−cy (129)
回転中心座標系(xc(t−1),yc(t−1))における(mx,my)は、式(128)及び式(129)で与えられ、式(112)の直線上に拘束される。そこで、式(128)及び式(129)の(mx,my)を式(112)の(xc(t−1),yc(t−1))に代入して、式(124)及び式(125)を用いると、次式が得られる。
cos(β)*mx−sin(β)*my
=cos(β)*(cos(αcp)*(cxr(t)+qx−qxp)
−sin(αcp)*(cyr(t)+qy−qyp)−cx)
−sin(β)*(sin(αcp)*(cxr(t)+qx−qxp)
+cos(αcp)*(cyr(t)+qy−qyp)−cy)
=cos(β+αcp)*(qx−qxp+cxr(t))
−sin(β+αcp)*(qy−qyp+cyr(t))
−(cos(β)*cx−sin(β)*cy)
=cos(β+αcp)*qx−sin(β+αcp)*qy
−(cos(β+αcp)*qxp−sin(β+αcp)*qyp)
+(cos(β+αcp)*cxr(t)−sin(β+αcp)*cyr(t))
−(cos(β)*cx−sin(β)*cy)
=0 (130)
式(130)は、次式のように書き換えられる。
A*qx+B*qy+C=0 (131)
A=cos(β+αcp) (132)
B=−sin(β+αcp) (133)
C=−(cos(β+αcp)*qxp−sin(β+αcp)*qyp)
+(cos(β+αcp)*cxr(t)−sin(β+αcp)*cyr(t))
−(cos(β)*cx−sin(β)*cy) (134)
式(131)は、路面画像座標系(xr(t),yr(t))の原点の位置を拘束する直線を表している。路面画像3601と路面画像3603の相対的な位置関係を求める際に、式(131)を満たす(qx,qy)が、路面画像3603のずらし量として用いられる。
移動方向推定部613は、式(111)、式(124)、及び式(125)を用いて式(132)〜式(134)のA、B、及びCの値を計算し、A、B、及びCの値を、路面画像3603をずらす方向を示す方向情報として、記憶部612に格納する。
図37は、更新部3411が行うキーフレーム更新処理の例を示すフローチャートである。まず、更新部3411は、時刻tにおける移動量(Tx,Ty)を用いて、次式により、移動量の大きさLを計算する(ステップ3701)。
L=sqrt(Tx*Tx+Ty*Ty) (141)
次に、更新部3411は、Lを閾値THLと比較し(ステップ3702)、LがTHLより大きい場合(ステップ3702,YES)、qxp、qyp、αn、αcp、及びαcnを次式により更新する(ステップ3703)。
qxp=0 (142)
qyp=0 (143)
αn=0 (144)
αcp=0 (145)
αcn=0 (146)
そして、更新部3411は、時刻tにおける回転前の路面画像を、新たなキーフレームに対応する路面画像として記憶部612に格納する。これにより、並進移動量(qxp,qyp)が(0,0)に更新され、旋回量αn、積算旋回量αcp、及び積算旋回量αcnが0に更新されるとともに、キーフレームに対応する路面画像が更新される。閾値THLは、キーフレームを更新するための移動量の大きさの上限値を表す。THLとしては、例えば、数十cm程度の長さを用いることができる。
一方、LがTHL以下である場合(ステップ3702,NO)、更新部3411は、qxp及びqypを次式により更新する(ステップ3704)。
qxp=Tx*wx/MX (147)
qyp=Ty*wy/MY (148)
これにより、並進移動量(qxp,qyp)が時刻tにおける移動量(Tx,Ty)に対応する値に更新される。この場合、キーフレームに対応する路面画像は更新されない。
このようなキーフレーム更新処理によれば、時刻tにおける移動体201の移動量の大きさが一定量を超えた場合にキーフレームが更新され、新たな位置を基準とする移動量を求めることができる。
ところで、図34の移動量推定装置3401は、図11の移動量推定装置1101と同様に、重み付き類似度を用いて2つの路面画像の画像照合を行うことができる。この場合、照合部1113は、時刻t1におけるキーフレームに対応する路面画像と、時刻tにおける回転した路面画像との類似度を計算し、その類似度と重みマップの重みとの積を、重み付き類似度として計算する。
図36の回転中心座標系(xc1,yc1)、路面画像座標系(x1,y1)、回転中心座標系(xc(t−1),yc(t−1))、及び路面画像座標系(x(t−1),y(t−1))の定義は一例に過ぎず、これらと異なる位置及び姿勢の座標系を用いてもよい。回転中心座標系(xcr(t),ycr(t))及び路面画像座標系(xr(t),yr(t))の定義も一例に過ぎず、これらと異なる位置及び姿勢の座標系を用いてもよい。
図6の移動量推定装置601、図11の移動量推定装置1101、及び図34の移動量推定装置3401の構成は一例に過ぎず、移動量推定装置の用途や条件に応じて一部の構成要素を省略又は変更してもよい。例えば、カメラにより撮像された映像データがあらかじめ記憶部612に格納されている場合は、入力部1111を省略することができる。
また、移動体201に搭載されるカメラの数は4台である必要はなく、1台以上であればよい。カメラの数が3台以下であっても、撮像された映像データから路面画像を生成することが可能である。
図7、図12、図22、図35、及び図37に示したフローチャートは一例に過ぎず、移動量推定装置の構成や条件に応じて一部の処理を省略又は変更してもよい。例えば、図12のステップ1204の処理をステップ1203の処理の前に移動することができ、図35のステップ3505の処理をステップ3504の処理の前に移動することができる。
図12のステップ1203又は図35のステップ3504において、変換部1112は、2時刻の路面画像のうち後の時刻の路面画像の代わりに、前の時刻の路面画像を回転させることもできる。この場合、照合部1113は、後の時刻の路面画像から、方向情報が示す方向に沿って、回転した前の時刻の路面画像をずらしながら、2つの路面画像が対応するずらし量を求めることができる。
図37のステップ3702及びステップ3703において、更新部3411は、移動量の大きさが閾値を超えた場合にキーフレームを更新する代わりに、移動時間又はフレーム数が閾値を超えた場合にキーフレームを更新してもよい。
式(1)〜式(148)は一例に過ぎず、移動量推定装置の構成や条件に応じて計算式を変更してもよい。
図6の移動量推定装置601、図11の移動量推定装置1101、及び図34の移動量推定装置3401は、例えば、図38に示すような情報処理装置(コンピュータ)を用いて実現可能である。
図38の情報処理装置は、Central Processing Unit(CPU)3801、メモリ3802、入力装置3803、出力装置3804、補助記憶装置3805、媒体駆動装置3806、及びネットワーク接続装置3807を備える。これらの構成要素はバス3808により互いに接続されている。
メモリ3802は、例えば、Read Only Memory(ROM)、Random Access Memory(RAM)、フラッシュメモリ等の半導体メモリであり、処理に用いられるプログラム及びデータを格納する。メモリ3802は、記憶部612として用いることができる。
CPU3801(プロセッサ)は、例えば、メモリ3802を利用してプログラムを実行することにより、路面画像生成部611、移動方向推定部613、及び移動量推定部614として動作し、移動量推定処理を行う。CPU3801は、変換部1112、照合部1113、更新部3411、及び旋回量積算部3412としても動作する。
入力装置3803は、例えば、キーボード、ポインティングデバイス等であり、ユーザ又はオペレータからの指示や情報の入力に用いられる。出力装置3804は、例えば、表示装置、プリンタ、スピーカ等であり、ユーザ又はオペレータへの問い合わせや処理結果の出力に用いられる。出力される処理結果には、例えば、移動体201の移動量を示す情報が含まれる。
補助記憶装置3805は、例えば、磁気ディスク装置、光ディスク装置、光磁気ディスク装置、テープ装置等である。この補助記憶装置3805には、ハードディスクドライブも含まれる。情報処理装置は、補助記憶装置3805にプログラム及びデータを格納しておき、それらをメモリ3802にロードして使用することができる。
媒体駆動装置3806は、可搬型記録媒体3809を駆動し、その記録内容にアクセスする。可搬型記録媒体3809は、メモリデバイス、フレキシブルディスク、光ディスク、光磁気ディスク等である。この可搬型記録媒体3809には、Compact Disk Read Only Memory(CD−ROM)、Digital Versatile Disk(DVD)、Universal Serial Bus(USB)メモリ等も含まれる。ユーザ又はオペレータは、この可搬型記録媒体3809にプログラム及びデータを格納しておき、それらをメモリ3802にロードして使用することができる。
このように、移動量推定処理に用いられるプログラム及びデータを格納するコンピュータ読み取り可能な記録媒体には、メモリ3802、補助記憶装置3805、及び可搬型記録媒体3809のような、物理的な(非一時的な)記録媒体が含まれる。
ネットワーク接続装置3807は、Local Area Network(LAN)、インターネット等の通信ネットワークに接続され、通信に伴うデータ変換を行う通信インタフェースである。ネットワーク接続装置3807は、入力部1111として用いることができる。
情報処理装置は、ネットワーク接続装置3807を介して、ユーザ端末から処理要求及び映像データを受信し、処理結果である移動量を示す情報をユーザ端末へ送信することができる。情報処理装置は、プログラム及びデータを外部の装置からネットワーク接続装置3807を介して受け取り、それらをメモリ3802にロードして使用することもできる。
なお、情報処理装置が図38のすべての構成要素を含む必要はなく、用途や条件に応じて一部の構成要素を省略することも可能である。例えば、情報処理装置がユーザ端末から通信ネットワーク経由で処理要求及び映像データを受信する場合は、入力装置3803及び出力装置3804を省略してもよい。また、情報処理装置が可搬型記録媒体3809にアクセスしない場合は、媒体駆動装置3806を省略してもよく、情報処理装置が通信ネットワークに接続されない場合は、ネットワーク接続装置3807を省略してもよい。
開示の実施形態とその利点について詳しく説明したが、当業者は、特許請求の範囲に明確に記載した本発明の範囲から逸脱することなく、様々な変更、追加、省略をすることができるであろう。
101、102、211、212、1601、1801、2101、2102、3001、3002、3601、3602、3603 路面画像
111〜114、121〜124、1811〜1814 部分画像
131、201 移動体
132、202 路面模様
133 移動量
134、2001〜2004 領域
203、401、501、1001、3301 矢印
601、1101、3401 移動量推定装置
611 路面画像生成部
612 記憶部
613 移動方向推定部
614 移動量推定部
801、901、2113、2702、2703、2802、3614 移動方向
1111 入力部
1112 変換部
1113 照合部
1301 路面
1501 カメラ
1701 カメラ画像
1702、2121、2122、3621、3622、3623 中心
1703、1711 点
1721、1722、2401 直線
1712 交点
2111、2112、3611、3612、3613 回転中心
2131、2132、3631、3632 移動ベクトル
2301 ベクトル
2302 共通領域
2501、2502、2601、2701、2801 移動軌跡
2503 積算誤差
3411 更新部
3412 旋回量積算部
3801 CPU
3802 メモリ
3803 入力装置
3804 出力装置
3805 補助記憶装置
3806 媒体駆動装置
3807 ネットワーク接続装置
3808 バス
3809 可搬型記録媒体

Claims (7)

  1. 移動体に搭載された撮像装置により撮像される第1の時刻の画像から第1の路面画像を生成し、前記第1の時刻より後の第2の時刻の画像から第2の路面画像を生成する路面画像生成部と、
    前記第1の路面画像と前記第2の路面画像とを記憶する記憶部と、
    前記第1の時刻と前記第2の時刻との間における前記移動体の旋回量から、前記第1の時刻と前記第2の時刻との間における前記移動体の移動方向に依存する方向情報を求める移動方向推定部と、
    前記旋回量と前記方向情報とを用いて、前記第1の路面画像と前記第2の路面画像との相対的な位置関係を求め、前記相対的な位置関係に基づいて、前記第1の時刻と前記第2の時刻との間における前記移動体の移動量を求める移動量推定部と、
    を備えることを特徴とする移動量推定装置。
  2. 前記移動量推定部は、前記旋回量に基づいて前記第1の路面画像と前記第2の路面画像のうち一方の路面画像を回転させ、前記第1の路面画像と前記第2の路面画像のうち他方の路面画像から、前記方向情報が示す方向に沿って、回転した前記一方の路面画像をずらしながら、前記回転した一方の路面画像と前記他方の路面画像とが対応するずらし量を求め、得られたずらし量に基づいて前記移動量を求めることを特徴とする請求項1記載の移動量推定装置。
  3. 前記移動量推定部は、前記旋回量に基づいて前記第1の路面画像と前記第2の路面画像のうち一方の路面画像を回転させ、前記第1の路面画像と前記第2の路面画像のうち他方の路面画像から回転した前記一方の路面画像をずらす複数のずらし量に対する複数の重みを、ずらし方向が前記方向情報が示す方向に一致する場合の重みが前記ずらし方向が前記方向情報が示す方向に一致しない場合の重みより大きくなるように決定し、前記他方の路面画像から前記回転した一方の路面画像をずらしながら、前記回転した一方の路面画像と前記他方の路面画像との類似度と、前記重みとの積に基づいて、前記回転した一方の路面画像と前記他方の路面画像とが対応するずらし量を求め、得られたずらし量に基づいて前記移動量を求めることを特徴とする請求項1記載の移動量推定装置。
  4. 前記路面画像生成部は、前記第2の時刻より後の第3の時刻の画像から第3の路面画像を生成し、前記第3の時刻より後の第4の時刻の画像から第4の路面画像を生成し、
    前記移動方向推定部は、前記第1の時刻と前記第3の時刻との間における前記移動体の第1の積算旋回量と、前記第3の時刻と前記第4の時刻との間における前記移動体の旋回量とから、前記第3の時刻と前記第4の時刻との間における前記移動体の移動方向に依存する別の方向情報を求め、
    前記移動量推定部は、前記第1の時刻と前記第4の時刻との間における前記移動体の第2の積算旋回量と、前記別の方向情報とを用いて、前記第1の路面画像と前記第4の路面画像との相対的な位置関係を求め、前記第1の路面画像と前記第4の路面画像との前記相対的な位置関係に基づいて、前記第1の時刻と前記第4の時刻との間における前記移動体の移動量を求めることを特徴とする請求項1乃至3のいずれか1項に記載の移動量推定装置。
  5. 前記移動量推定部は、前記第2の積算旋回量に基づいて、前記第1の路面画像と前記第4の路面画像のうち一方の路面画像である第5の路面画像を回転させ、前記第1の路面画像と前記第4の路面画像のうち他方の路面画像である第6の路面画像から、前記別の方向情報が示す方向に沿って、回転した前記第5の路面画像をずらしながら、前記回転した第5の路面画像と前記第6の路面画像とが対応するずらし量を求め、得られたずらし量に基づいて、前記第1の時刻と前記第4の時刻との間における前記移動体の前記移動量を求めることを特徴とする請求項4記載の移動量推定装置。
  6. 前記移動量推定部は、前記第2の積算旋回量に基づいて、前記第1の路面画像と前記第4の路面画像のうち一方の路面画像である第5の路面画像を回転させ、前記第1の路面画像と前記第4の路面画像のうち他方の路面画像である第6の路面画像から、回転した前記第5の路面画像をずらす複数のずらし量に対する複数の重みを、ずらし方向が前記別の方向情報が示す方向に一致する場合の重みが前記ずらし方向が前記別の方向情報が示す方向に一致しない場合の重みより大きくなるように決定し、前記第6の路面画像から前記回転した第5の路面画像をずらしながら、前記回転した第5の路面画像と前記第6の路面画像との類似度と、前記第5の路面画像をずらす前記ずらし方向に対応する前記重みとの積に基づいて、前記回転した第5の路面画像と前記第6の路面画像とが対応するずらし量を求め、得られたずらし量に基づいて、前記第1の時刻と前記第4の時刻との間における前記移動体の前記移動量を求めることを特徴とする請求項4記載の移動量推定装置。
  7. コンピュータによって実行される移動量推定方法であって、
    移動体に搭載された撮像装置により撮像される第1の時刻の画像から第1の路面画像を生成し、
    前記第1の時刻より後の第2の時刻の画像から第2の路面画像を生成し、
    前記第1の時刻と前記第2の時刻との間における前記移動体の旋回量から、前記第1の時刻と前記第2の時刻との間における前記移動体の移動方向に依存する方向情報を求め、
    前記旋回量と前記方向情報とを用いて、前記第1の路面画像と前記第2の路面画像との相対的な位置関係を求め、
    前記相対的な位置関係に基づいて、前記第1の時刻と前記第2の時刻との間における前記移動体の移動量を求める、
    ことを特徴とする移動量推定方法。
JP2013228110A 2013-11-01 2013-11-01 移動量推定装置及び移動量推定方法 Expired - Fee Related JP6156067B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013228110A JP6156067B2 (ja) 2013-11-01 2013-11-01 移動量推定装置及び移動量推定方法
US14/508,046 US9483841B2 (en) 2013-11-01 2014-10-07 Travel amount estimation device and travel amount estimating method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013228110A JP6156067B2 (ja) 2013-11-01 2013-11-01 移動量推定装置及び移動量推定方法

Publications (2)

Publication Number Publication Date
JP2015088092A JP2015088092A (ja) 2015-05-07
JP6156067B2 true JP6156067B2 (ja) 2017-07-05

Family

ID=53007083

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013228110A Expired - Fee Related JP6156067B2 (ja) 2013-11-01 2013-11-01 移動量推定装置及び移動量推定方法

Country Status (2)

Country Link
US (1) US9483841B2 (ja)
JP (1) JP6156067B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101247761B1 (ko) * 2011-07-15 2013-04-01 삼성중공업 주식회사 로봇의 선체면 주행 가능 영역 확인 방법, 로봇 및 기록 매체
JP6671152B2 (ja) * 2015-11-19 2020-03-25 日立建機株式会社 自己位置推定装置の異常検知装置及び車両
JP6841331B2 (ja) 2017-07-24 2021-03-10 富士通株式会社 車両駐車支援装置、車両駐車支援プログラム
US10739774B2 (en) * 2017-10-06 2020-08-11 Honda Motor Co., Ltd. Keyframe based autonomous vehicle operation
KR102445400B1 (ko) * 2020-08-31 2022-09-20 한성대학교 산학협력단 사용자 단말의 이동 경로 추적 방법 및 장치
EP4293611A1 (en) 2021-02-09 2023-12-20 Nippon Telegraph And Telephone Corporation Object detection device, method, and program

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3224687B2 (ja) 1994-05-25 2001-11-05 日本電信電話株式会社 3次元輪郭位置補正方法
JP3729916B2 (ja) 1996-02-29 2005-12-21 富士通株式会社 3次元情報復元装置
JPH10222665A (ja) 1997-01-31 1998-08-21 Fujitsu Ten Ltd 画像認識装置
JP3796417B2 (ja) 2001-06-27 2006-07-12 株式会社デンソー 車両周辺画像処理装置及び記録媒体
JP2003259359A (ja) 2002-03-06 2003-09-12 Nissan Motor Co Ltd 車両用周囲監視装置及び方法
JP3776094B2 (ja) * 2002-05-09 2006-05-17 松下電器産業株式会社 監視装置、監視方法および監視用プログラム
US8340349B2 (en) * 2006-06-20 2012-12-25 Sri International Moving target detection in the presence of parallax
JP2009060499A (ja) 2007-09-03 2009-03-19 Sanyo Electric Co Ltd 運転支援システム及び連結車両
US8238612B2 (en) * 2008-05-06 2012-08-07 Honeywell International Inc. Method and apparatus for vision based motion determination
US8855917B2 (en) * 2008-10-16 2014-10-07 Csr Technology Inc. System and method for use of a vehicle back-up camera as a dead-reckoning sensor
US9361706B2 (en) * 2009-11-30 2016-06-07 Brigham Young University Real-time optical flow sensor design and its application to obstacle detection
JP5682266B2 (ja) * 2010-12-02 2015-03-11 富士通株式会社 移動量推定装置および移動量推定方法
JP5830876B2 (ja) * 2011-02-18 2015-12-09 富士通株式会社 距離算出プログラム、距離算出方法及び距離算出装置
US8744169B2 (en) * 2011-05-31 2014-06-03 Toyota Motor Europe Nv/Sa Voting strategy for visual ego-motion from stereo
US9251587B2 (en) * 2013-04-05 2016-02-02 Caterpillar Inc. Motion estimation utilizing range detection-enhanced visual odometry

Also Published As

Publication number Publication date
US9483841B2 (en) 2016-11-01
JP2015088092A (ja) 2015-05-07
US20150125040A1 (en) 2015-05-07

Similar Documents

Publication Publication Date Title
JP6156067B2 (ja) 移動量推定装置及び移動量推定方法
EP1975878B1 (en) Projective transformation convergence calculation method
JP6514624B2 (ja) 障害物検知装置
JP6562607B2 (ja) 物体の自己運動推定方法
CN104299244B (zh) 基于单目相机的障碍物检测方法及装置
JP5782088B2 (ja) 歪みのあるカメラ画像を補正するシステム及び方法
JP6891954B2 (ja) 物体検知装置、物体検知方法、及びプログラム
US11887336B2 (en) Method for estimating a relative position of an object in the surroundings of a vehicle and electronic control unit for a vehicle and vehicle
CN111263960B (zh) 用于更新高清晰度地图的设备和方法
JP2023530762A (ja) 3dバウンディングボックスからの単眼深度管理
CN111402328B (zh) 一种基于激光里程计的位姿计算方法及装置
JP6306735B2 (ja) ステレオカメラ装置及びステレオカメラ装置を備える車両
JP7173471B2 (ja) 3次元位置推定装置及びプログラム
JP2014194361A (ja) 移動距離推定装置、移動距離推定方法、及びプログラム
JP2015011032A (ja) 3次元物体形状及び姿勢の推定並びに追跡の方法及び装置
KR20170117416A (ko) 서라운드 뷰 이미지의 안정화를 위한 방법 및 장치
JP2013210339A (ja) 接触状態推定装置
CN116645649A (zh) 车辆位姿及尺寸估计方法、设备及存储介质
CN112017236A (zh) 一种基于单目相机计算目标物位置的方法及装置
CN113763481B (zh) 一种移动场景中多相机视觉三维地图构建与自标定方法
JP2018073308A (ja) 認識装置、プログラム
JP7223587B2 (ja) 物体運動推定方法及び物体運動推定装置
WO2022186814A1 (en) Vehicle environment modeling with a camera
JP6992452B2 (ja) 情報処理装置及び情報処理システム
JP6488697B2 (ja) オプティカルフロー算出装置、オプティカルフロー算出方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170425

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170522

R150 Certificate of patent or registration of utility model

Ref document number: 6156067

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees