JPWO2012090890A1 - 情報処理システム,情報処理方法及び情報処理プログラム - Google Patents
情報処理システム,情報処理方法及び情報処理プログラム Download PDFInfo
- Publication number
- JPWO2012090890A1 JPWO2012090890A1 JP2012550914A JP2012550914A JPWO2012090890A1 JP WO2012090890 A1 JPWO2012090890 A1 JP WO2012090890A1 JP 2012550914 A JP2012550914 A JP 2012550914A JP 2012550914 A JP2012550914 A JP 2012550914A JP WO2012090890 A1 JPWO2012090890 A1 JP WO2012090890A1
- Authority
- JP
- Japan
- Prior art keywords
- feature information
- imaging device
- imaging
- map
- extracted
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/29—Geographical information databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
Abstract
本発明は、ユーザ端末の周辺画像から抽出した画像特徴の情報に基づいて、高い精度で、かつ容易にユーザの現在位置を推定することを目的とする。本発明は、地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報とを関連付けて記憶するデータベースと、撮像により取得した画像から特徴情報を抽出する抽出手段と、データベースを参照して抽出済の特徴情報から、撮像装置が存在する地図上の位置を推定する推定手段と、撮像装置の推定現在位置を表示する表示手段と、撮像中に撮像装置の撮像方向が、抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、所定量変更された場合に、再度、新たな特徴情報の抽出を行なうよう制御する制御手段と、を含む。推定手段は、新特徴情報の抽出が行なわれると、新特徴情報と抽出済特徴情報とを組み合わせて、撮像装置の地図上の位置を再推定する。
Description
本発明は、撮像の位置及び方向を推定する情報処理技術に関する。
非特許文献1に記載の技術では、3次元地図データと、その3次元地図データの各地点で撮像できるランドマーク画像とをデータベースに格納しており、実際に全方位カメラを用いて撮像した画像と、データベースのランドマーク画像とのマッチングを行なっている。つまり、非特許文献1に記載の技術は、一度に大量の画像データを取り込み、大規模データベースを用いて現在位置情報を算出し、ユーザに提供していた。
薄,中川,佐藤,横矢,"ランドマークデータベースに基づく静止画像からのカメラ位置・姿勢推定",日本VR学会論文誌,Vol.13,No.2,pp.161−170,2008
しかしながら、一般的にユーザが、自身の現在位置を知りたい場合、その個人によって知りたい位置情報の精度及び結果を求める速度が異なる。たとえば、遅くてもよいから高い精度の位置情報を求めるユーザもいれば、粗い精度でもよいからより早く位置情報を得たいと考えるユーザもいる。ところが、上述した非特許文献1に記載の技術は、そのような多様な要望に応えることはできず、一律に対応しており、ユーザフレンドリーな技術とはいえない。非特許文献1に記載の技術を利用しつつユーザに対する位置情報提供を高速化するには、サーバやデータベースの能力を上げる必要があり、対応が困難である。
本発明の目的は、上述の課題を解決する技術を提供することにある。
本発明の目的は、上述の課題を解決する技術を提供することにある。
上記目的を達成するため、本発明に係るシステムは、
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含み、
前記推定手段は、前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する。
上記目的を達成するため、本発明に係る方法は、
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を表示する第2表示ステップと、
を含む。
上記目的を達成するため、本発明に係るプログラム記録媒体が格納する情報処理プログラムは、
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を表示する第2表示ステップと、
をコンピュータに実行させる。
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含み、
前記推定手段は、前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する。
上記目的を達成するため、本発明に係る方法は、
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を表示する第2表示ステップと、
を含む。
上記目的を達成するため、本発明に係るプログラム記録媒体が格納する情報処理プログラムは、
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を表示する第2表示ステップと、
をコンピュータに実行させる。
本発明は、撮像画像から位置情報を導き出していち早くユーザに提供することができる。本発明は、より精度の高い位置情報が欲しいユーザに対しては、追加的な特徴情報を取得して、段階的に、高い精度の位置情報及びその表示を提供することができる。本発明は、ユーザ端末の周辺画像から抽出した画像の特徴情報に基づいて、高い精度で、かつ容易にユーザの現在位置を推定することができる。
[発明を実施するための形態]
以下に、本発明を実施するための形態について、図面を参照して、例示的に詳しく説明記載する。ただし、以下の実施の形態に記載されている、構成、数値、処理の流れ、機能要素などは一例に過ぎず、その変形や変更は自由であって、本発明の技術範囲を以下の記載に限定する趣旨のものではない。
(第1実施形態)
本発明の第1実施形態としての情報処理システム100について、図1を用いて説明する。
図1は、本実施形態に係る情報処理システム100の構成を示すブロック図である。
図1に示すように、情報処理システム100は、撮像装置101と、抽出部103と、推定部105と、判定部107と、制御部109と、表示部115と、データベース117とを含み、撮像装置101の現在位置を推定する。
データベース117は、地図上の位置と、地図上の位置において撮像装置101で撮像可能な画像中の特徴情報とを関連付けて記憶する。抽出部103は、撮像装置101を用いた撮像によって取得した画像121から特徴情報131〜133を抽出する。推定部105は、データベース117を参照して、抽出部103によって抽出した特徴情報131〜133から、撮像装置101が存在する地図上の位置を推定する。
表示部115は、推定部105が推定した撮像装置101の推定存在位置151を表示する。表示部115は、推定部105が推定した撮像装置101の推定存在位置151を地図画像上141に表示しても良い。
判定部107は、撮像装置101による撮像中に、撮像装置101の撮像方向が、抽出部103で特徴情報131〜133を抽出した抽出済画像121を撮像した方向から所定量変更されたか否か判定する。
制御部109は、撮像装置101の撮像方向が所定量変更されたと、判定部107により判定されると、再度、新たな特徴情報134の抽出を行なうよう抽出部103を制御する。推定部105は、新たな特徴情報134の抽出が行なわれた場合に、新たな特徴情報134と抽出済の特徴情報131〜133とを組み合わせて、撮像装置101が存在する地図上の位置の再推定を行なう。表示部115は、推定部105が再推定した撮像装置101の推定存在位置151を表示する。表示部115は、推定部105が再推定した撮像装置101の推定存在位置151を地図画像上141に表示しても良い。
以上の構成及び動作により、本実施形態によれば、撮像装置101の周辺画像から抽出した特徴情報に基づいて、ユーザの現在位置を、高い精度で、かつ容易に推定することができる。
(第2実施形態)
本発明の第2実施形態としての情報処理システム200について、図2を用いて説明する。
図2は、本発明の第2実施形態に係る情報処理システム200の構成を示すブロック図である。図2に示すように、情報処理システム200は、ユーザ端末210と、位置/方向推定サーバ220とを含む。ユーザ端末210は、撮像装置201と、抽出部203と、判定部207と、制御部209と、受信部214と、表示部215と、記憶部216とを含む。
位置/方向推定サーバ220は、推定部205と、特徴情報データベース217とを含む。
撮像装置201は、撮像処理を行ない、撮像画像221を取得する。抽出部203は、撮像画像221から特徴情報231〜233を抽出し、位置/方向推定サーバ220の推定部205に送信する。ここで、特徴情報とは、撮像した画像に含まれる図形の形状及びその位置を表わす情報を含む。
特徴情報データベース217は、地図上の位置と、その位置を中心とする方向と、地図上の位置においてその方向に向いて撮像可能な画像に含まれる特徴情報とを対応付けて記憶する。
推定部205は、抽出部203によって抽出された特徴情報を受信し、特徴情報データベース217を参照して、撮像装置201が存在する地図上の位置と、撮像装置201が撮像時に向いていた撮像方向とを推定する。
受信部214は、撮像装置201の推定現在位置251及び推定撮像方向252を受信すると、表示部215又は記憶部216に通知する。
表示部215は、受信部214から取得した撮像装置201の推定現在位置251及び推定撮像方向252を地図画像241上に表示する。
判定部207は、撮像装置201による撮像中に、撮像装置201の撮像方向が、抽出済画像221を撮像した方向から所定量変更されたか否か判定する。たとえば、判定部207は、最初に撮像した画像(基準画像)の中心を原点とした座標軸を設定し、新たに撮像した画像の中心点の座標が、原点からどれだけずれているかに応じて、撮像方向の変更量を判定しても良い。またたとえば、判定部207は、撮像装置201に内蔵された電子方位磁石により、一定の角度(たとえば10度)方向の変化を検知した場合に、撮像方向が所定量変更されたと判定してもよい。また、判定部207は、基準画像と新たに撮像した画像(新画像)とを比較して、基準画像に含まれていない画像領域が、新画像に一定の割合(たとえば10%)の増加を検知した場合に、撮像方向が所定量変更されたと判定してもよい。
その他、判定部207は、画像間の変形マッチングを用いた手法や、撮像装置の動きをオプティカルフローや加速度センサで求めてそれを積算する手法などを利用して撮像方向の変更量を判定しても良い。
制御部209は、撮像装置201の撮像方向が所定量変更されたと、判定部207により判定されると、再度、新たな特徴情報234の抽出を行なうよう、抽出部203を制御する。そして、推定部205は、新たな特徴情報234の抽出が行なわれた場合に、新たな特徴情報234と抽出済の特徴情報231〜233とを組み合わせることで、撮像装置201が存在する地図上の位置、及び撮像方向の再推定を行なう。
なお、判定部207は、撮像装置のズームイン又はズームアウトにより、基準画像に撮像されている対象の大きさの画像全体に占める割合が、一定の割合(画像全体の10%)以上変化したか否かを判定してもよい。その場合、制御部209は、撮像装置201によるズームイン又はズームアウトによる撮像画像の変化が所定量を超えている場合に、新たな特徴情報の抽出を行なうよう抽出部203を制御しても良い。
受信部214は、再推定された撮像装置201の地図上の位置、及び撮像方向を推定部205より受信し、表示部215又は記憶部に通知する。
表示部215は、再推定された撮像装置201の地図上の位置及び撮像方向を地図画像241上に表示する。
推定存在位置/方向の推定尤度が一定以上になった場合、あるいはユーザの指示に応じて、記憶部216は推定存在位置/方向を記憶する。
図3は、本実施形態におけるユーザ端末210と、位置/方向推定サーバ220とのやり取りを示すシーケンス図である。ステップS301で、撮像装置201は、撮像を行ない、撮像画像を取得する。抽出部203は、ステップS303で、撮像画像の特徴情報231〜233を抽出し、ステップS305で、抽出した特徴情報を位置/方向推定サーバ220の推定部205に送信する。
ステップS307において、推定部205は、受信した特徴情報と、特徴情報データベース217に記憶された地図上の位置及びこれに関連付けて記憶した特徴情報とから、撮像装置201の地図上の位置/方向を推定する。ステップS309で、推定部205は、推定した撮像装置201の地図上の位置/方向をユーザ端末210の受信部214に送信する。
表示部215は、受信部214から撮像装置201の地図上の位置/方向を取得すると、ステップS313において、ユーザ端末210の推定現在位置/方向を示した画像を表示する。
ステップS315において、判定部207は、特徴情報を抽出した抽出済画像を撮像した方向から、撮像方向が所定量変更されたか否かを判定する。所定量変更されたと判定された場合には、ステップS317で、制御部209は、新たな撮像画像から新たな特徴情報の抽出を行なうよう抽出部203を制御する。ステップS319において、抽出部203は、新たな特徴情報を位置/方向推定サーバに送信する。ステップS321で、推定部205は、特徴情報データベース217に記憶された特徴情報を参照し、ステップS323で、既に抽出した特徴情報と、新たな特徴情報とを組合わせて撮像装置201の地図上の位置/方向を再推定する。推定部205は、ステップS325において再推定した撮像装置201の地図上の位置/方向をユーザ端末210の受信部214に送信する。
表示部215は、再推定された撮像装置201の地図上の位置/方向を受信部214から取得すると、ステップS327で、ユーザ端末210の推定現在位置及び方向を示した画像を表示する。
図4Aは、本実施形態におけるユーザ端末210の処理手順を示すフローチャートである。現在位置/方向推定処理の開始に伴い、ステップS401において、撮像装置201は撮像を開始する。次に、ステップS405で、抽出部203は、撮像画像221から特徴情報を抽出し、ステップS407で、特徴情報を位置/方向推定サーバ220に送信する。次に、ステップS409で、受信部214は、位置/方向推定サーバ220からユーザ端末210の推定現在位置/方向を受信すると、ステップS411で、表示部215は、受信部214から取得したユーザ端末210の推定現在位置/方向を表示する。
ステップS413において、判定部207は、撮像装置201の撮像方向が所定量変更されたか否かを判定する。撮像方向が所定量変更されたと判定した場合には、ステップS405に進み、制御部209は抽出部203を制御して、新たな特徴情報の抽出を行なう。ステップS415で、制御部209は、撮像装置201の現在位置/方向の推定処理を終了すると、ステップS417に進む。
ステップS417において、ユーザ端末の記憶部216は、ユーザ端末210の推定現在位置/方向を保存する。次に、ステップS419に進み、撮像装置201が撮像処理を終了すると、ユーザ端末210は、位置/方向の推定処理を終了する。
図4Bは、本実施形態における位置/方向推定サーバ220の処理手順を示すフローチャートである。ステップS421で、推定部205は、ユーザ端末210の抽出部203から撮像画像221の特徴情報231〜233を受信する。ステップS423で、推定部205は、受信した特徴情報に一致する特徴情報を特徴情報データベース217内で検索し、記憶された特徴情報と、撮像装置201の地図上の位置/方向を推定する。なお、推定部205は、新たな特徴情報を受信する度に、位置/方向の推定を繰り返す。
図5は、推定現在位置/方向を表示する表示画像541a及び541bを示す図である。
表示画像541a及び541bは、ユーザ端末210の推定現在位置/方向を表示する画像である。
表示画像541aは、撮像装置201の推定現在位置/方向を地図上に表示した画像である。表示画像541a像は、撮像装置201の推定現在位置551aを、推定の尤度に対応させて円の大小により表わす。そこで、表示部215は、撮像装置201の推定現在位置が推定部205により絞り込めまれていない場合には、推定現在位置551aのように大きな円で表示する。
次に、表示画像541aは、撮像装置201の推定撮像方向を、推定の尤度に対応させて扇状の開角の広狭により表わす。そこで、表示部215は、撮像装置201の推定撮像方向が推定部205により絞り込まれていない場合には、552aのように扇状の開角を広く表示する。
撮像装置201の推定現在位置/方向が推定部205により絞り込まれている場合には、表示部215は、表示画像541bのように、撮像装置201の推定現在位置551bを小さい円で表わし、撮像装置201の推定撮像方向552bを狭い開角の扇状で表わす。
以上の構成及び動作により、本実施形態によれば、撮像装置の周辺画像から抽出した画像の特徴情報に基づいて、高い精度で、かつ容易にユーザ端末の現在位置及び撮像方向を推定することができる。
具体的には、本発明の第2実施形態は、撮像装置の撮影方向などの変化を検出し、新しい特徴情報を繰り返し抽出して位置推定に追加的に用いるため、結果として、カメラの1回の撮影範囲を超えた広範囲な領域を位置推定に用いることができる。これによって、パノラマ画像での照合と同様に、広い範囲を入力して、位置/方向の推定が可能となるので、本発明第2実施形態は高精度の位置/方向の推定を実現できる。また、本発明第2実施形態は、カメラの変位に合わせて新しく撮像した画像領域のみを処理して新たな特徴情報のみをサーバに送信する。このため、パノラマ画像を作成する場合に比べて、本発明第2実施形態は一度に処理しなければならない情報量及び端末サーバ間の通信量を削減することができる。その結果、本発明第2実施形態は応答速度を高速化することができる。さらに、本発明第2実施形態は、位置/方向の推定結果をユーザに提示することで、ユーザがさらに精度を上げるべきと考えた場合のみ、カメラ撮影を継続することができる。このため、本発明第2実施形態は、徐々に位置/方向の推定精度を向上させることができるので、不必要に長時間の撮影を行うことがない。
(第3実施形態)
本発明の第3実施形態としての情報処理システムについて、図6を用いて説明する。図6は、本実施形態の情報処理システム600の構成を示すブロック図である。
情報処理システム600の構成は、第2実施形態の構成と同様に位置/方向推定サーバ220を含む。ただし、ユーザ端末610は、第2実施形態についての図2の構成に加えて、静止体抽出部606を含む。
静止体抽出部606は、画像内の運動体を撮像した第1画像領域と、静止体を撮像した第2画像領域とを区別し、第2画像領域のみを抽出部203に提供する。その他の構成及び動作は、第2実施形態と同様であるので、説明を省略する。
以上の構成及び動作により、本実施形態によれば、撮像装置の周辺画像から抽出した撮像画像に含まれる運動体を除いた特徴情報に基づいて、高い精度で、かつ容易にユーザの現在位置/方向を推定することができる。
(第4実施形態)
本発明の第4実施形態としての情報処理システム700について、図7を用いて説明する。図7は、本実施形態の情報処理システム700の構成を示すブロック図である。
情報処理システム700は、第2実施形態の構成と同様に、ユーザ端末210を含む。ただし、位置/方向推定サーバ720は、比較部761と、投票部762とを含む推定部705を有する。
比較部761は、特徴情報データベース217に記憶された地図上の位置及び特徴情報と、抽出部203に抽出された画像の特徴情報とを比較する。また、投票部762は、抽出部203により抽出された特徴情報に類似しており、特徴情報データベース217に記憶された地図上の位置及び特徴情報を検索する。投票部762は、当該検索の結果見つけられた特徴情報に対して投票する。投票部762は、抽出された特徴情報全てについて投票を繰り返す。
図8は、投票部762による投票を示した図である。
画像特徴情報800は、画像特徴情報f1〜f4を抽出したものである。特徴情報データベース217は、地図上の位置pと、該位置に関連付けて記憶された撮像可能な画像中の特徴情報fと、撮像方向dとを一つの組として、撮像装置201の地図上の位置及び撮像方向を推定するための投票候補811〜8nnを記憶する。投票箱821及び822は地図上の位置pについて投票を受け付け、投票箱831乃至833は撮像方向dについて投票を受け付ける。
投票部762による投票は、地図上の位置p、及び撮像方向dに対して行なわれ、画像特徴情報fnと組み合わせて特徴情報データベース217に記憶された投票候補811〜8nnへの投票により、撮像装置201の推定現在位置及び方向が推定される。
具体的な投票の流れを説明する。画像特徴情報800の特徴情報f1の樹木は、図6の特徴情報231に対応し、f2の鳥居は232に、f3のビルは233に、f4の駅は234に対応する。投票部762は、特徴情報f1と組合わせて811〜813に記憶されている位置p1に2票、p2に1票をそれぞれ投票する。投票部762は、特徴情報f2〜f4についても同様に投票を行ない、位置p1に3票、p2に2票を投票する。
同様に、投票部762は、特徴情報f2〜f4と組合わせて811〜818に記憶されている方向dについても投票を行ない、d1に4票、d2に3票、d3に1票を投票する。
投票結果によれば、p1に5票、p2に3票が投票され、p1が最多得票である。推定部705は、撮像装置201の地図上の位置を最多得票数のp1と推定する。同様に、d1に4票、d2に3票、d3に1票が投票部762により投票される。推定部705は、撮像装置201の推定撮像方向を最多得票数のd1と推定する。また、撮像装置201の位置及び撮像方向を推定する投票候補には、撮像高度などの他の情報を追加して良い。
なお、表示部215は、投票数に応じて、ユーザ端末210の推定現在位置p1の表示251の円の大きさを変更しても良い。また、表示部215は、撮像方向の表示252の扇状の開角の広さを変更しても良い。
図9は、地図上の位置pのデータベースを表示したものである。
p1〜pnは、地図上の位置の経度・緯度を表示したものである。p1の経度はE139°74′、緯度はN35°64′である。この地図上の位置と関連付けて記憶された特徴情報は、ABC本社ビルである。p2以降も、データベースは、経度及び緯度、さらに、この位置と関連付けて記憶された特徴情報を記憶している。
なお、撮像方向は、北を0度として時計回りに360度の数字で表示しても良いし、方位で表示しても良い。
以上の構成及び動作により、本実施形態によれば、撮像装置の周辺画像から抽出した撮像画像に含まれる運動体を除いた特徴情報に基づいて、高い精度で、かつ容易にユーザの現在位置及び方向を推定する技術を提供することができる。
(他の実施形態)
以上、本発明の実施形態について詳述したが、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステム又は装置も、本発明の範疇に含まれる。
また、本発明は、複数の機器から構成されるシステムに適用されても良いし、単体の装置に適用されても良い。さらに、本発明は、実施形態の機能を実現する情報処理プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされるプログラム、あるいはそのプログラムを格納した媒体、そのプログラムをダウンロードさせるWWW(World Wide Web)サーバも、本発明の範疇に含まれる。
[実施形態の他の表現]
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含み、
前記推定手段は、前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する、
情報処理システム。
(付記2)
前記データベースは、前記地図上の位置と、該位置を中心とする方向と、前記地図上の位置において該方向に向いて撮像可能な画像に含まれる特徴情報とを対応付けて記憶し、
前記推定手段は、前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、さらに、前記撮像装置が撮像時に向いていた方向を推定する
付記1に記載の情報処理システム。
(付記3)
前記抽出手段は、前記撮像画像内において、運動体を撮像した第1画像領域と、静止体を撮像した第2画像領域とを区別し、前記第2画像領域においてのみ特徴情報を抽出する、
付記1又は2に記載の情報処理システム。
(付記4)
前記表示手段は、前記推定手段によって推定された前記撮像装置の地図上の位置の表示を、推定された前記撮像装置の地図上の位置の尤度に応じて変更する、
付記1乃至3のいずれか1項に記載の情報処理システム。
(付記5)
前記推定手段は、
前記データベースに記憶された地図上の位置及び該位置に関連付けて記憶された撮像可能な画像中の特徴情報と、前記抽出手段で抽出した前記撮像画像の特徴情報とを比較する比較手段と、
抽出した前記撮像画像の特徴情報に類似する特徴情報を検索し、検索の結果見つけられた特徴情報に関連付けられて記憶された前記地図上の位置に対する投票を、前記抽出した特徴情報の全てについて繰り返す投票手段と、
を含み、
前記投票手段による投票結果に応じて、前記撮像装置の地図上の位置を推定する、
付記1乃至4のいずれか1項に記載の情報処理システム。
(付記6)
前記表示手段は、前記推定手段によって推定された前記撮像装置の地図上の位置の表示を、前記投票数に応じて変更する、
付記5に記載の情報処理システム。
(付記7)
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を表示する第2表示ステップと、
を含む情報処理方法。
(付記8)
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を表示する第2表示ステップと、
をコンピュータに実行させる情報処理プログラムを格納したプログラム記録媒体。
(付記9)
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、前記データベースを参照して、抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、を有するサーバと通信を行ない、撮像装置の現在位置を推定する情報処理装置であって、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含む情報処理装置。
以上、実施形態を参照して本願発明を説明したが、本願発明は以上の実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で同業者が理解し得る様々な変更をすることができる。
この出願は、2010年12月27日に出願された日本出願特願2010−291070を基礎とする優先権を主張し、その開示の全てをここに取り込む。
以下に、本発明を実施するための形態について、図面を参照して、例示的に詳しく説明記載する。ただし、以下の実施の形態に記載されている、構成、数値、処理の流れ、機能要素などは一例に過ぎず、その変形や変更は自由であって、本発明の技術範囲を以下の記載に限定する趣旨のものではない。
(第1実施形態)
本発明の第1実施形態としての情報処理システム100について、図1を用いて説明する。
図1は、本実施形態に係る情報処理システム100の構成を示すブロック図である。
図1に示すように、情報処理システム100は、撮像装置101と、抽出部103と、推定部105と、判定部107と、制御部109と、表示部115と、データベース117とを含み、撮像装置101の現在位置を推定する。
データベース117は、地図上の位置と、地図上の位置において撮像装置101で撮像可能な画像中の特徴情報とを関連付けて記憶する。抽出部103は、撮像装置101を用いた撮像によって取得した画像121から特徴情報131〜133を抽出する。推定部105は、データベース117を参照して、抽出部103によって抽出した特徴情報131〜133から、撮像装置101が存在する地図上の位置を推定する。
表示部115は、推定部105が推定した撮像装置101の推定存在位置151を表示する。表示部115は、推定部105が推定した撮像装置101の推定存在位置151を地図画像上141に表示しても良い。
判定部107は、撮像装置101による撮像中に、撮像装置101の撮像方向が、抽出部103で特徴情報131〜133を抽出した抽出済画像121を撮像した方向から所定量変更されたか否か判定する。
制御部109は、撮像装置101の撮像方向が所定量変更されたと、判定部107により判定されると、再度、新たな特徴情報134の抽出を行なうよう抽出部103を制御する。推定部105は、新たな特徴情報134の抽出が行なわれた場合に、新たな特徴情報134と抽出済の特徴情報131〜133とを組み合わせて、撮像装置101が存在する地図上の位置の再推定を行なう。表示部115は、推定部105が再推定した撮像装置101の推定存在位置151を表示する。表示部115は、推定部105が再推定した撮像装置101の推定存在位置151を地図画像上141に表示しても良い。
以上の構成及び動作により、本実施形態によれば、撮像装置101の周辺画像から抽出した特徴情報に基づいて、ユーザの現在位置を、高い精度で、かつ容易に推定することができる。
(第2実施形態)
本発明の第2実施形態としての情報処理システム200について、図2を用いて説明する。
図2は、本発明の第2実施形態に係る情報処理システム200の構成を示すブロック図である。図2に示すように、情報処理システム200は、ユーザ端末210と、位置/方向推定サーバ220とを含む。ユーザ端末210は、撮像装置201と、抽出部203と、判定部207と、制御部209と、受信部214と、表示部215と、記憶部216とを含む。
位置/方向推定サーバ220は、推定部205と、特徴情報データベース217とを含む。
撮像装置201は、撮像処理を行ない、撮像画像221を取得する。抽出部203は、撮像画像221から特徴情報231〜233を抽出し、位置/方向推定サーバ220の推定部205に送信する。ここで、特徴情報とは、撮像した画像に含まれる図形の形状及びその位置を表わす情報を含む。
特徴情報データベース217は、地図上の位置と、その位置を中心とする方向と、地図上の位置においてその方向に向いて撮像可能な画像に含まれる特徴情報とを対応付けて記憶する。
推定部205は、抽出部203によって抽出された特徴情報を受信し、特徴情報データベース217を参照して、撮像装置201が存在する地図上の位置と、撮像装置201が撮像時に向いていた撮像方向とを推定する。
受信部214は、撮像装置201の推定現在位置251及び推定撮像方向252を受信すると、表示部215又は記憶部216に通知する。
表示部215は、受信部214から取得した撮像装置201の推定現在位置251及び推定撮像方向252を地図画像241上に表示する。
判定部207は、撮像装置201による撮像中に、撮像装置201の撮像方向が、抽出済画像221を撮像した方向から所定量変更されたか否か判定する。たとえば、判定部207は、最初に撮像した画像(基準画像)の中心を原点とした座標軸を設定し、新たに撮像した画像の中心点の座標が、原点からどれだけずれているかに応じて、撮像方向の変更量を判定しても良い。またたとえば、判定部207は、撮像装置201に内蔵された電子方位磁石により、一定の角度(たとえば10度)方向の変化を検知した場合に、撮像方向が所定量変更されたと判定してもよい。また、判定部207は、基準画像と新たに撮像した画像(新画像)とを比較して、基準画像に含まれていない画像領域が、新画像に一定の割合(たとえば10%)の増加を検知した場合に、撮像方向が所定量変更されたと判定してもよい。
その他、判定部207は、画像間の変形マッチングを用いた手法や、撮像装置の動きをオプティカルフローや加速度センサで求めてそれを積算する手法などを利用して撮像方向の変更量を判定しても良い。
制御部209は、撮像装置201の撮像方向が所定量変更されたと、判定部207により判定されると、再度、新たな特徴情報234の抽出を行なうよう、抽出部203を制御する。そして、推定部205は、新たな特徴情報234の抽出が行なわれた場合に、新たな特徴情報234と抽出済の特徴情報231〜233とを組み合わせることで、撮像装置201が存在する地図上の位置、及び撮像方向の再推定を行なう。
なお、判定部207は、撮像装置のズームイン又はズームアウトにより、基準画像に撮像されている対象の大きさの画像全体に占める割合が、一定の割合(画像全体の10%)以上変化したか否かを判定してもよい。その場合、制御部209は、撮像装置201によるズームイン又はズームアウトによる撮像画像の変化が所定量を超えている場合に、新たな特徴情報の抽出を行なうよう抽出部203を制御しても良い。
受信部214は、再推定された撮像装置201の地図上の位置、及び撮像方向を推定部205より受信し、表示部215又は記憶部に通知する。
表示部215は、再推定された撮像装置201の地図上の位置及び撮像方向を地図画像241上に表示する。
推定存在位置/方向の推定尤度が一定以上になった場合、あるいはユーザの指示に応じて、記憶部216は推定存在位置/方向を記憶する。
図3は、本実施形態におけるユーザ端末210と、位置/方向推定サーバ220とのやり取りを示すシーケンス図である。ステップS301で、撮像装置201は、撮像を行ない、撮像画像を取得する。抽出部203は、ステップS303で、撮像画像の特徴情報231〜233を抽出し、ステップS305で、抽出した特徴情報を位置/方向推定サーバ220の推定部205に送信する。
ステップS307において、推定部205は、受信した特徴情報と、特徴情報データベース217に記憶された地図上の位置及びこれに関連付けて記憶した特徴情報とから、撮像装置201の地図上の位置/方向を推定する。ステップS309で、推定部205は、推定した撮像装置201の地図上の位置/方向をユーザ端末210の受信部214に送信する。
表示部215は、受信部214から撮像装置201の地図上の位置/方向を取得すると、ステップS313において、ユーザ端末210の推定現在位置/方向を示した画像を表示する。
ステップS315において、判定部207は、特徴情報を抽出した抽出済画像を撮像した方向から、撮像方向が所定量変更されたか否かを判定する。所定量変更されたと判定された場合には、ステップS317で、制御部209は、新たな撮像画像から新たな特徴情報の抽出を行なうよう抽出部203を制御する。ステップS319において、抽出部203は、新たな特徴情報を位置/方向推定サーバに送信する。ステップS321で、推定部205は、特徴情報データベース217に記憶された特徴情報を参照し、ステップS323で、既に抽出した特徴情報と、新たな特徴情報とを組合わせて撮像装置201の地図上の位置/方向を再推定する。推定部205は、ステップS325において再推定した撮像装置201の地図上の位置/方向をユーザ端末210の受信部214に送信する。
表示部215は、再推定された撮像装置201の地図上の位置/方向を受信部214から取得すると、ステップS327で、ユーザ端末210の推定現在位置及び方向を示した画像を表示する。
図4Aは、本実施形態におけるユーザ端末210の処理手順を示すフローチャートである。現在位置/方向推定処理の開始に伴い、ステップS401において、撮像装置201は撮像を開始する。次に、ステップS405で、抽出部203は、撮像画像221から特徴情報を抽出し、ステップS407で、特徴情報を位置/方向推定サーバ220に送信する。次に、ステップS409で、受信部214は、位置/方向推定サーバ220からユーザ端末210の推定現在位置/方向を受信すると、ステップS411で、表示部215は、受信部214から取得したユーザ端末210の推定現在位置/方向を表示する。
ステップS413において、判定部207は、撮像装置201の撮像方向が所定量変更されたか否かを判定する。撮像方向が所定量変更されたと判定した場合には、ステップS405に進み、制御部209は抽出部203を制御して、新たな特徴情報の抽出を行なう。ステップS415で、制御部209は、撮像装置201の現在位置/方向の推定処理を終了すると、ステップS417に進む。
ステップS417において、ユーザ端末の記憶部216は、ユーザ端末210の推定現在位置/方向を保存する。次に、ステップS419に進み、撮像装置201が撮像処理を終了すると、ユーザ端末210は、位置/方向の推定処理を終了する。
図4Bは、本実施形態における位置/方向推定サーバ220の処理手順を示すフローチャートである。ステップS421で、推定部205は、ユーザ端末210の抽出部203から撮像画像221の特徴情報231〜233を受信する。ステップS423で、推定部205は、受信した特徴情報に一致する特徴情報を特徴情報データベース217内で検索し、記憶された特徴情報と、撮像装置201の地図上の位置/方向を推定する。なお、推定部205は、新たな特徴情報を受信する度に、位置/方向の推定を繰り返す。
図5は、推定現在位置/方向を表示する表示画像541a及び541bを示す図である。
表示画像541a及び541bは、ユーザ端末210の推定現在位置/方向を表示する画像である。
表示画像541aは、撮像装置201の推定現在位置/方向を地図上に表示した画像である。表示画像541a像は、撮像装置201の推定現在位置551aを、推定の尤度に対応させて円の大小により表わす。そこで、表示部215は、撮像装置201の推定現在位置が推定部205により絞り込めまれていない場合には、推定現在位置551aのように大きな円で表示する。
次に、表示画像541aは、撮像装置201の推定撮像方向を、推定の尤度に対応させて扇状の開角の広狭により表わす。そこで、表示部215は、撮像装置201の推定撮像方向が推定部205により絞り込まれていない場合には、552aのように扇状の開角を広く表示する。
撮像装置201の推定現在位置/方向が推定部205により絞り込まれている場合には、表示部215は、表示画像541bのように、撮像装置201の推定現在位置551bを小さい円で表わし、撮像装置201の推定撮像方向552bを狭い開角の扇状で表わす。
以上の構成及び動作により、本実施形態によれば、撮像装置の周辺画像から抽出した画像の特徴情報に基づいて、高い精度で、かつ容易にユーザ端末の現在位置及び撮像方向を推定することができる。
具体的には、本発明の第2実施形態は、撮像装置の撮影方向などの変化を検出し、新しい特徴情報を繰り返し抽出して位置推定に追加的に用いるため、結果として、カメラの1回の撮影範囲を超えた広範囲な領域を位置推定に用いることができる。これによって、パノラマ画像での照合と同様に、広い範囲を入力して、位置/方向の推定が可能となるので、本発明第2実施形態は高精度の位置/方向の推定を実現できる。また、本発明第2実施形態は、カメラの変位に合わせて新しく撮像した画像領域のみを処理して新たな特徴情報のみをサーバに送信する。このため、パノラマ画像を作成する場合に比べて、本発明第2実施形態は一度に処理しなければならない情報量及び端末サーバ間の通信量を削減することができる。その結果、本発明第2実施形態は応答速度を高速化することができる。さらに、本発明第2実施形態は、位置/方向の推定結果をユーザに提示することで、ユーザがさらに精度を上げるべきと考えた場合のみ、カメラ撮影を継続することができる。このため、本発明第2実施形態は、徐々に位置/方向の推定精度を向上させることができるので、不必要に長時間の撮影を行うことがない。
(第3実施形態)
本発明の第3実施形態としての情報処理システムについて、図6を用いて説明する。図6は、本実施形態の情報処理システム600の構成を示すブロック図である。
情報処理システム600の構成は、第2実施形態の構成と同様に位置/方向推定サーバ220を含む。ただし、ユーザ端末610は、第2実施形態についての図2の構成に加えて、静止体抽出部606を含む。
静止体抽出部606は、画像内の運動体を撮像した第1画像領域と、静止体を撮像した第2画像領域とを区別し、第2画像領域のみを抽出部203に提供する。その他の構成及び動作は、第2実施形態と同様であるので、説明を省略する。
以上の構成及び動作により、本実施形態によれば、撮像装置の周辺画像から抽出した撮像画像に含まれる運動体を除いた特徴情報に基づいて、高い精度で、かつ容易にユーザの現在位置/方向を推定することができる。
(第4実施形態)
本発明の第4実施形態としての情報処理システム700について、図7を用いて説明する。図7は、本実施形態の情報処理システム700の構成を示すブロック図である。
情報処理システム700は、第2実施形態の構成と同様に、ユーザ端末210を含む。ただし、位置/方向推定サーバ720は、比較部761と、投票部762とを含む推定部705を有する。
比較部761は、特徴情報データベース217に記憶された地図上の位置及び特徴情報と、抽出部203に抽出された画像の特徴情報とを比較する。また、投票部762は、抽出部203により抽出された特徴情報に類似しており、特徴情報データベース217に記憶された地図上の位置及び特徴情報を検索する。投票部762は、当該検索の結果見つけられた特徴情報に対して投票する。投票部762は、抽出された特徴情報全てについて投票を繰り返す。
図8は、投票部762による投票を示した図である。
画像特徴情報800は、画像特徴情報f1〜f4を抽出したものである。特徴情報データベース217は、地図上の位置pと、該位置に関連付けて記憶された撮像可能な画像中の特徴情報fと、撮像方向dとを一つの組として、撮像装置201の地図上の位置及び撮像方向を推定するための投票候補811〜8nnを記憶する。投票箱821及び822は地図上の位置pについて投票を受け付け、投票箱831乃至833は撮像方向dについて投票を受け付ける。
投票部762による投票は、地図上の位置p、及び撮像方向dに対して行なわれ、画像特徴情報fnと組み合わせて特徴情報データベース217に記憶された投票候補811〜8nnへの投票により、撮像装置201の推定現在位置及び方向が推定される。
具体的な投票の流れを説明する。画像特徴情報800の特徴情報f1の樹木は、図6の特徴情報231に対応し、f2の鳥居は232に、f3のビルは233に、f4の駅は234に対応する。投票部762は、特徴情報f1と組合わせて811〜813に記憶されている位置p1に2票、p2に1票をそれぞれ投票する。投票部762は、特徴情報f2〜f4についても同様に投票を行ない、位置p1に3票、p2に2票を投票する。
同様に、投票部762は、特徴情報f2〜f4と組合わせて811〜818に記憶されている方向dについても投票を行ない、d1に4票、d2に3票、d3に1票を投票する。
投票結果によれば、p1に5票、p2に3票が投票され、p1が最多得票である。推定部705は、撮像装置201の地図上の位置を最多得票数のp1と推定する。同様に、d1に4票、d2に3票、d3に1票が投票部762により投票される。推定部705は、撮像装置201の推定撮像方向を最多得票数のd1と推定する。また、撮像装置201の位置及び撮像方向を推定する投票候補には、撮像高度などの他の情報を追加して良い。
なお、表示部215は、投票数に応じて、ユーザ端末210の推定現在位置p1の表示251の円の大きさを変更しても良い。また、表示部215は、撮像方向の表示252の扇状の開角の広さを変更しても良い。
図9は、地図上の位置pのデータベースを表示したものである。
p1〜pnは、地図上の位置の経度・緯度を表示したものである。p1の経度はE139°74′、緯度はN35°64′である。この地図上の位置と関連付けて記憶された特徴情報は、ABC本社ビルである。p2以降も、データベースは、経度及び緯度、さらに、この位置と関連付けて記憶された特徴情報を記憶している。
なお、撮像方向は、北を0度として時計回りに360度の数字で表示しても良いし、方位で表示しても良い。
以上の構成及び動作により、本実施形態によれば、撮像装置の周辺画像から抽出した撮像画像に含まれる運動体を除いた特徴情報に基づいて、高い精度で、かつ容易にユーザの現在位置及び方向を推定する技術を提供することができる。
(他の実施形態)
以上、本発明の実施形態について詳述したが、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステム又は装置も、本発明の範疇に含まれる。
また、本発明は、複数の機器から構成されるシステムに適用されても良いし、単体の装置に適用されても良い。さらに、本発明は、実施形態の機能を実現する情報処理プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされるプログラム、あるいはそのプログラムを格納した媒体、そのプログラムをダウンロードさせるWWW(World Wide Web)サーバも、本発明の範疇に含まれる。
[実施形態の他の表現]
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含み、
前記推定手段は、前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する、
情報処理システム。
(付記2)
前記データベースは、前記地図上の位置と、該位置を中心とする方向と、前記地図上の位置において該方向に向いて撮像可能な画像に含まれる特徴情報とを対応付けて記憶し、
前記推定手段は、前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、さらに、前記撮像装置が撮像時に向いていた方向を推定する
付記1に記載の情報処理システム。
(付記3)
前記抽出手段は、前記撮像画像内において、運動体を撮像した第1画像領域と、静止体を撮像した第2画像領域とを区別し、前記第2画像領域においてのみ特徴情報を抽出する、
付記1又は2に記載の情報処理システム。
(付記4)
前記表示手段は、前記推定手段によって推定された前記撮像装置の地図上の位置の表示を、推定された前記撮像装置の地図上の位置の尤度に応じて変更する、
付記1乃至3のいずれか1項に記載の情報処理システム。
(付記5)
前記推定手段は、
前記データベースに記憶された地図上の位置及び該位置に関連付けて記憶された撮像可能な画像中の特徴情報と、前記抽出手段で抽出した前記撮像画像の特徴情報とを比較する比較手段と、
抽出した前記撮像画像の特徴情報に類似する特徴情報を検索し、検索の結果見つけられた特徴情報に関連付けられて記憶された前記地図上の位置に対する投票を、前記抽出した特徴情報の全てについて繰り返す投票手段と、
を含み、
前記投票手段による投票結果に応じて、前記撮像装置の地図上の位置を推定する、
付記1乃至4のいずれか1項に記載の情報処理システム。
(付記6)
前記表示手段は、前記推定手段によって推定された前記撮像装置の地図上の位置の表示を、前記投票数に応じて変更する、
付記5に記載の情報処理システム。
(付記7)
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を表示する第2表示ステップと、
を含む情報処理方法。
(付記8)
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を表示する第2表示ステップと、
をコンピュータに実行させる情報処理プログラムを格納したプログラム記録媒体。
(付記9)
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、前記データベースを参照して、抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、を有するサーバと通信を行ない、撮像装置の現在位置を推定する情報処理装置であって、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含む情報処理装置。
以上、実施形態を参照して本願発明を説明したが、本願発明は以上の実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で同業者が理解し得る様々な変更をすることができる。
この出願は、2010年12月27日に出願された日本出願特願2010−291070を基礎とする優先権を主張し、その開示の全てをここに取り込む。
本発明は、撮像の位置及び方向を推定する情報処理技術に関する。
非特許文献1に記載の技術では、3次元地図データと、その3次元地図データの各地点で撮像できるランドマーク画像とをデータベースに格納しており、実際に全方位カメラを用いて撮像した画像と、データベースのランドマーク画像とのマッチングを行なっている。 つまり、非特許文献1に記載の技術は、一度に大量の画像データを取り込み、大規模データベースを用いて現在位置情報を算出し、ユーザに提供していた。
薄, 中川, 佐藤, 横矢, "ランドマークデータベースに基づく静止画像からのカメラ位置・姿勢推定", 日本VR学会論文誌, Vol. 13, No. 2, pp. 161-170, 2008
しかしながら、一般的にユーザが、自身の現在位置を知りたい場合、その個人によって知りたい位置情報の精度及び結果を求める速度が異なる。たとえば、遅くてもよいから高い精度の位置情報を求めるユーザもいれば、粗い精度でもよいからより早く位置情報を得たいと考えるユーザもいる。 ところが、上述した非特許文献1に記載の技術は、そのような多様な要望に応えることはできず、一律に対応しており、ユーザフレンドリーな技術とはいえない。 非特許文献1に記載の技術を利用しつつユーザに対する位置情報提供を高速化するには、サーバやデータベースの能力を上げる必要があり、対応が困難である。
本発明の目的は、上述の課題を解決する技術を提供することにある。
上記目的を達成するため、本発明に係るシステムは、
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を、地図画像上に表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含み、
前記推定手段は、前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する。
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を、地図画像上に表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含み、
前記推定手段は、前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する。
上記目的を達成するため、本発明に係る方法は、
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第2表示ステップと、
を含む。
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第2表示ステップと、
を含む。
上記目的を達成するため、本発明に係る情報処理プログラムは、
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第2表示ステップと、
をコンピュータに実行させる。
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第2表示ステップと、
をコンピュータに実行させる。
本発明は、撮像画像から位置情報を導き出していち早くユーザに提供することができる。本発明は、より精度の高い位置情報が欲しいユーザに対しては、追加的な特徴情報を取得して、段階的に、高い精度の位置情報及びその表示を提供することができる。本発明は、ユーザ端末の周辺画像から抽出した画像の特徴情報に基づいて、高い精度で、かつ容易にユーザの現在位置を推定することができる。
[発明を実施するための形態]
以下に、本発明を実施するための形態について、図面を参照して、例示的に詳しく説明記載する。ただし、以下の実施の形態に記載されている、構成、数値、処理の流れ、機能要素などは一例に過ぎず、その変形や変更は自由であって、本発明の技術範囲を以下の記載に限定する趣旨のものではない。
以下に、本発明を実施するための形態について、図面を参照して、例示的に詳しく説明記載する。ただし、以下の実施の形態に記載されている、構成、数値、処理の流れ、機能要素などは一例に過ぎず、その変形や変更は自由であって、本発明の技術範囲を以下の記載に限定する趣旨のものではない。
(第1実施形態)
本発明の第1実施形態としての情報処理システム100について、図1を用いて説明する。
本発明の第1実施形態としての情報処理システム100について、図1を用いて説明する。
図1は、本実施形態に係る情報処理システム100の構成を示すブロック図である。
図1に示すように、情報処理システム100は、撮像装置101と、抽出部103と、推定部105と、判定部107と、制御部109と、表示部115と、データベース117とを含み、撮像装置101の現在位置を推定する。
データベース117は、地図上の位置と、地図上の位置において撮像装置101で撮像可能な画像中の特徴情報とを関連付けて記憶する。抽出部103は、撮像装置101を用いた撮像によって取得した画像121から特徴情報131〜133を抽出する。推定部105は、データベース117を参照して、抽出部103によって抽出した特徴情報131〜133から、撮像装置101が存在する地図上の位置を推定する。
表示部115は、推定部105が推定した撮像装置101の推定存在位置151を地図画像上141に表示する。
判定部107は、撮像装置101による撮像中に、撮像装置101の撮像方向が、抽出部103で特徴情報131〜133を抽出した抽出済画像121を撮像した方向から所定量変更されたか否か判定する。
制御部109は、撮像装置101の撮像方向が所定量変更されたと、判定部107により判定されると、再度、新たな特徴情報134の抽出を行なうよう抽出部103を制御する。推定部105は、新たな特徴情報134の抽出が行なわれた場合に、新たな特徴情報134と抽出済の特徴情報131〜133とを組み合わせて、撮像装置101が存在する地図上の位置の再推定を行なう。表示部115は、推定部105が再推定した撮像装置101の推定存在位置151を地図画像上141に表示する。
以上の構成及び動作により、本実施形態によれば、撮像装置101の周辺画像から抽出した特徴情報に基づいて、ユーザの現在位置を、高い精度で、かつ容易に推定することができる。
(第2実施形態)
本発明の第2実施形態としての情報処理システム200について、図2を用いて説明する。
本発明の第2実施形態としての情報処理システム200について、図2を用いて説明する。
図2は、本発明の第2実施形態に係る情報処理システム200の構成を示すブロック図である。図2に示すように、情報処理システム200は、ユーザ端末210と、位置/方向推定サーバ220とを含む。ユーザ端末210は、撮像装置201と、抽出部203と、判定部207と、制御部209と、受信部214と、表示部215と、記憶部216とを含む。
位置/方向推定サーバ220は、推定部205と、特徴情報データベース217とを含む。
撮像装置201は、撮像処理を行ない、撮像画像221を取得する。抽出部203は、撮像画像221から特徴情報231〜233を抽出し、位置/方向推定サーバ220の推定部205に送信する。 ここで、特徴情報とは、撮像した画像に含まれる図形の形状及びその位置を表わす情報を含む。
特徴情報データベース217は、地図上の位置と、その位置を中心とする方向と、地図上の位置においてその方向に向いて撮像可能な画像に含まれる特徴情報とを対応付けて記憶する。
推定部205は、抽出部203によって抽出された特徴情報を受信し、特徴情報データベース217を参照して、撮像装置201が存在する地図上の位置と、撮像装置201が撮像時に向いていた撮像方向とを推定する。
受信部214は、撮像装置201の推定現在位置251及び推定撮像方向252を受信すると、表示部215又は記憶部216に通知する。
表示部215は、受信部214から取得した撮像装置201の推定現在位置251及び推定撮像方向252を地図画像241上に表示する。
判定部207は、撮像装置201による撮像中に、撮像装置201の撮像方向が、抽出済画像221を撮像した方向から所定量変更されたか否か判定する。たとえば、判定部207は、最初に撮像した画像(基準画像)の中心を原点とした座標軸を設定し、新たに撮像した画像の中心点の座標が、原点からどれだけずれているかに応じて、撮像方向の変更量を判定しても良い。またたとえば、判定部207は、撮像装置201に内蔵された電子方位磁石により、一定の角度(たとえば10度)方向の変化を検知した場合に、撮像方向が所定量変更されたと判定してもよい。また、判定部207は、基準画像と新たに撮像した画像(新画像)とを比較して、基準画像に含まれていない画像領域が、新画像に一定の割合(たとえば10%)の増加を検知した場合に、撮像方向が所定量変更されたと判定してもよい。
その他、判定部207は、画像間の変形マッチングを用いた手法や、撮像装置の動きをオプティカルフローや加速度センサで求めてそれを積算する手法などを利用して撮像方向の変更量を判定しても良い。
制御部209は、撮像装置201の撮像方向が所定量変更されたと、判定部207により判定されると、再度、新たな特徴情報234の抽出を行なうよう、抽出部203を制御する。そして、推定部205は、新たな特徴情報234の抽出が行なわれた場合に、新たな特徴情報234と抽出済の特徴情報231〜233とを組み合わせることで、撮像装置201が存在する地図上の位置、及び撮像方向の再推定を行なう。
なお、判定部207は、撮像装置のズームイン又はズームアウトにより、基準画像に撮像されている対象の大きさの画像全体に占める割合が、一定の割合(画像全体の10%)以上変化したか否かを判定してもよい。その場合、制御部209は、撮像装置201によるズームイン又はズームアウトによる撮像画像の変化が所定量を超えている場合に、新たな特徴情報の抽出を行なうよう抽出部203を制御しても良い。
受信部214は、再推定された撮像装置201の地図上の位置、及び撮像方向を推定部205より受信し、表示部215又は記憶部に通知する。
表示部215は、再推定された撮像装置201の地図上の位置及び撮像方向を地図画像241上に表示する。
推定存在位置/方向の推定尤度が一定以上になった場合、あるいはユーザの指示に応じて、記憶部216は推定存在位置/方向を記憶する。
図3は、本実施形態におけるユーザ端末210と、位置/方向推定サーバ220とのやり取りを示すシーケンス図である。ステップS301で、撮像装置201は、撮像を行ない、撮像画像を取得する。抽出部203は、ステップS303で、撮像画像の特徴情報231〜233を抽出し、ステップS305で、抽出した特徴情報を位置/方向推定サーバ220の推定部205に送信する。
ステップS307において、推定部205は、受信した特徴情報と、特徴情報データベース217に記憶された地図上の位置及びこれに関連付けて記憶した特徴情報とから、撮像装置201の地図上の位置/方向を推定する。ステップS309で、推定部205は、推定した撮像装置201の地図上の位置/方向をユーザ端末210の受信部214に送信する。
表示部215は、受信部214から撮像装置201の地図上の位置/方向を取得すると、ステップS313において、ユーザ端末210の推定現在位置/方向を示した画像を表示する。
ステップS315において、判定部207は、特徴情報を抽出した抽出済画像を撮像した方向から、撮像方向が所定量変更されたか否かを判定する。所定量変更されたと判定された場合には、ステップS317で、制御部209は、新たな撮像画像から新たな特徴情報の抽出を行なうよう抽出部203を制御する。ステップS319において、抽出部203は、新たな特徴情報を位置/方向推定サーバに送信する。ステップS321で、推定部205は、特徴情報データベース217に記憶された特徴情報を参照し、ステップS323で、既に抽出した特徴情報と、新たな特徴情報とを組合わせて撮像装置201の地図上の位置/方向を再推定する。推定部205は、ステップS325において再推定した撮像装置201の地図上の位置/方向をユーザ端末210の受信部214に送信する。
表示部215は、再推定された撮像装置201の地図上の位置/方向を受信部214から取得すると、ステップS327で、ユーザ端末210の推定現在位置及び方向を示した画像を表示する。
図4Aは、本実施形態におけるユーザ端末210の処理手順を示すフローチャートである。現在位置/方向推定処理の開始に伴い、ステップS401において、撮像装置201は撮像を開始する。次に、ステップS405で、抽出部203は、撮像画像221から特徴情報を抽出し、ステップS407で、特徴情報を位置/方向推定サーバ220に送信する。次に、ステップS409で、受信部214は、位置/方向推定サーバ220からユーザ端末210の推定現在位置/方向を受信すると、ステップS411で、表示部215は、受信部214から取得したユーザ端末210の推定現在位置/方向を表示する。
ステップS413において、判定部207は、撮像装置201の撮像方向が所定量変更されたか否かを判定する。撮像方向が所定量変更されたと判定した場合には、ステップS405に進み、制御部209は抽出部203を制御して、新たな特徴情報の抽出を行なう。ステップS415で、制御部209は、撮像装置201の現在位置/方向の推定処理を終了すると、ステップS417に進む。
ステップS417において、ユーザ端末の記憶部216は、ユーザ端末210の推定現在位置/方向を保存する。次に、ステップS419に進み、撮像装置201が撮像処理を終了すると、ユーザ端末210は、位置/方向の推定処理を終了する。
図4Bは、本実施形態における位置/方向推定サーバ220の処理手順を示すフローチャートである。ステップS421で、推定部205は、ユーザ端末210の抽出部203から撮像画像221の特徴情報231〜233を受信する。ステップS423で、推定部205は、受信した特徴情報に一致する特徴情報を特徴情報データベース217内で検索し、記憶された特徴情報と、撮像装置201の地図上の位置/方向を推定する。なお、推定部205は、新たな特徴情報を受信する度に、位置/方向の推定を繰り返す。
図5は、推定現在位置/方向を表示する表示画像541a及び541bを示す図である。
表示画像541a及び541bは、ユーザ端末210の推定現在位置/方向を表示する画像である。
表示画像541aは、撮像装置201の推定現在位置/方向を地図上に表示した画像である。表示画像541a像は、撮像装置201の推定現在位置551aを、推定の尤度に対応させて円の大小により表わす。そこで、表示部215は、撮像装置201の推定現在位置が推定部205により絞り込めまれていない場合には、推定現在位置551aのように大きな円で表示する。
次に、表示画像541aは、撮像装置201の推定撮像方向を、推定の尤度に対応させて扇状の開角の広狭により表わす。そこで、表示部215は、撮像装置201の推定撮像方向が推定部205により絞り込まれていない場合には、552aのように扇状の開角を広く表示する。
撮像装置201の推定現在位置/方向が推定部205により絞り込まれている場合には、表示部215は、表示画像541bのように、撮像装置201の推定現在位置551bを小さい円で表わし、撮像装置201の推定撮像方向552bを狭い開角の扇状で表わす。
以上の構成及び動作により、本実施形態によれば、撮像装置の周辺画像から抽出した画像の特徴情報に基づいて、高い精度で、かつ容易にユーザ端末の現在位置及び撮像方向を推定することができる。
具体的には、本発明の第2実施形態は、撮像装置の撮影方向などの変化を検出し、新しい特徴情報を繰り返し抽出して位置推定に追加的に用いるため、結果として、カメラの1回の撮影範囲を超えた広範囲な領域を位置推定に用いることができる。これによって、パノラマ画像での照合と同様に、広い範囲を入力して、位置/方向の推定が可能となるので、本発明第2実施形態は高精度の位置/方向の推定を実現できる。また、本発明第2実施形態は、カメラの変位に合わせて新しく撮像した画像領域のみを処理して新たな特徴情報のみをサーバに送信する。このため、パノラマ画像を作成する場合に比べて、本発明第2実施形態は一度に処理しなければならない情報量及び端末サーバ間の通信量を削減することができる。その結果、本発明第2実施形態は応答速度を高速化することができる。さらに、本発明第2実施形態は、位置/方向の推定結果をユーザに提示することで、ユーザがさらに精度を上げるべきと考えた場合のみ、カメラ撮影を継続することができる。このため、本発明第2実施形態は、徐々に位置/方向の推定精度を向上させることができるので、不必要に長時間の撮影を行うことがない。
(第3実施形態)
本発明の第3実施形態としての情報処理システムについて、図6を用いて説明する。図6は、本実施形態の情報処理システム600の構成を示すブロック図である。
本発明の第3実施形態としての情報処理システムについて、図6を用いて説明する。図6は、本実施形態の情報処理システム600の構成を示すブロック図である。
情報処理システム600の構成は、第2実施形態の構成と同様に位置/方向推定サーバ220を含む。ただし、ユーザ端末610は、第2実施形態についての図2の構成に加えて、静止体抽出部606を含む。
静止体抽出部606は、画像内の運動体を撮像した第1画像領域と、静止体を撮像した第2画像領域とを区別し、第2画像領域のみを抽出部203に提供する。その他の構成及び動作は、第2実施形態と同様であるので、説明を省略する。
以上の構成及び動作により、本実施形態によれば、撮像装置の周辺画像から抽出した撮像画像に含まれる運動体を除いた特徴情報に基づいて、高い精度で、かつ容易にユーザの現在位置/方向を推定することができる。
(第4実施形態)
本発明の第4実施形態としての情報処理システム700について、図7を用いて説明する。図7は、本実施形態の情報処理システム700の構成を示すブロック図である。
本発明の第4実施形態としての情報処理システム700について、図7を用いて説明する。図7は、本実施形態の情報処理システム700の構成を示すブロック図である。
情報処理システム700は、第2実施形態の構成と同様に、ユーザ端末210を含む。ただし、位置/方向推定サーバ720は、比較部761と、投票部762とを含む推定部705を有する。
比較部761は、特徴情報データベース217に記憶された地図上の位置及び特徴情報と、抽出部203に抽出された画像の特徴情報とを比較する。また、投票部762は、抽出部203により抽出された特徴情報に類似しており、特徴情報データベース217に記憶された地図上の位置及び特徴情報を検索する。投票部762は、当該検索の結果見つけられた特徴情報に対して投票する。投票部762は、抽出された特徴情報全てについて投票を繰り返す。
図8は、投票部762による投票を示した図である。
画像特徴情報800は、画像特徴情報f1〜f4を抽出したものである。特徴情報データベース217は、地図上の位置pと、該位置に関連付けて記憶された撮像可能な画像中の特徴情報fと、撮像方向dとを一つの組として、撮像装置201の地図上の位置及び撮像方向を推定するための投票候補811〜8nnを記憶する。投票箱821及び822は地図上の位置pについて投票を受け付け、投票箱831乃至833は撮像方向dについて投票を受け付ける。
投票部762による投票は、地図上の位置p、及び撮像方向dに対して行なわれ、画像特徴情報fnと組み合わせて特徴情報データベース217に記憶された投票候補811〜8nnへの投票により、撮像装置201の推定現在位置及び方向が推定される。
具体的な投票の流れを説明する。画像特徴情報800の特徴情報f1の樹木は、図6の特徴情報231に対応し、f2の鳥居は232に、f3のビルは233に、f4の駅は234に対応する。投票部762は、特徴情報f1と組合わせて811〜813に記憶されている位置p1に2票、p2に1票をそれぞれ投票する。投票部762は、特徴情報f2〜f4についても同様に投票を行ない、位置p1に3票、p2に2票を投票する。
同様に、投票部762は、特徴情報f2〜f4と組合わせて811〜818に記憶されている方向dについても投票を行ない、d1に4票、d2に3票、d3に1票を投票する。
投票結果によれば、p1に5票、p2に3票が投票され、p1が最多得票である。推定部705は、撮像装置201の地図上の位置を最多得票数のp1と推定する。同様に、d1に4票、d2に3票、d3に1票が投票部762により投票される。推定部705は、撮像装置201の推定撮像方向を最多得票数のd1と推定する。また、撮像装置201の位置及び撮像方向を推定する投票候補には、撮像高度などの他の情報を追加して良い。
なお、表示部215は、投票数に応じて、ユーザ端末210の推定現在位置p1の表示251の円の大きさを変更しても良い。また、表示部215は、撮像方向の表示252の扇状の開角の広さを変更しても良い。
図9は、地図上の位置pのデータベースを表示したものである。
p1〜pnは、地図上の位置の経度・緯度を表示したものである。p1の経度はE139°74′、緯度はN35°64′である。この地図上の位置と関連付けて記憶された特徴情報は、ABC本社ビルである。p2以降も、データベースは、経度及び緯度、さらに、この位置と関連付けて記憶された特徴情報を記憶している。
なお、撮像方向は、北を0度として時計回りに360度の数字で表示しても良いし、方位で表示しても良い。
以上の構成及び動作により、本実施形態によれば、撮像装置の周辺画像から抽出した撮像画像に含まれる運動体を除いた特徴情報に基づいて、高い精度で、かつ容易にユーザの現在位置及び方向を推定する技術を提供することができる。
(他の実施形態)
以上、本発明の実施形態について詳述したが、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステム又は装置も、本発明の範疇に含まれる。
以上、本発明の実施形態について詳述したが、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステム又は装置も、本発明の範疇に含まれる。
また、本発明は、複数の機器から構成されるシステムに適用されても良いし、単体の装置に適用されても良い。さらに、本発明は、実施形態の機能を実現する情報処理プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされるプログラム、あるいはそのプログラムを格納した媒体、そのプログラムをダウンロードさせるWWW(World Wide Web)サーバも、本発明の範疇に含まれる。
[実施形態の他の表現]
[実施形態の他の表現]
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を、地図画像上に表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含み、
前記推定手段は、前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する、
情報処理システム。
(付記2)
前記データベースは、前記地図上の位置と、該位置を中心とする方向と、前記地図上の位置において該方向に向いて撮像可能な画像に含まれる特徴情報とを対応付けて記憶し、
前記推定手段は、前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、さらに、前記撮像装置が撮像時に向いていた方向を推定する
付記1に記載の情報処理システム。
(付記3)
前記抽出手段は、前記撮像画像内において、運動体を撮像した第1画像領域と、静止体を撮像した第2画像領域とを区別し、前記第2画像領域においてのみ特徴情報を抽出する、
付記1又は2に記載の情報処理システム。
(付記4)
前記表示手段は、前記推定手段によって推定された前記撮像装置の地図上の位置の表示を、推定された前記撮像装置の地図上の位置の尤度に応じて変更する、
付記1乃至3のいずれか1項に記載の情報処理システム。
(付記5)
前記推定手段は、
前記データベースに記憶された地図上の位置及び該位置に関連付けて記憶された撮像可能な画像中の特徴情報と、前記抽出手段で抽出した前記撮像画像の特徴情報とを比較する比較手段と、
抽出した前記撮像画像の特徴情報に類似する特徴情報を検索し、検索の結果見つけられた特徴情報に関連付けられて記憶された前記地図上の位置に対する投票を、前記抽出した特徴情報の全てについて繰り返す投票手段と、
を含み、
前記投票手段による投票結果に応じて、前記撮像装置の地図上の位置を推定する、
付記1乃至4のいずれか1項に記載の情報処理システム。
(付記6)
前記表示手段は、前記推定手段によって推定された前記撮像装置の地図上の位置の表示を、前記投票数に応じて変更する、
付記5に記載の情報処理システム。
(付記7)
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第2表示ステップと、
を含む情報処理方法。
(付記8)
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第2表示ステップと、
をコンピュータに実行させる情報処理プログラム。
(付記9)
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、前記データベースを参照して、抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、を有するサーバと通信を行ない、撮像装置の現在位置を推定する情報処理装置であって、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を、地図画像上に表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含む情報処理装置。
(付記1)
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を、地図画像上に表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含み、
前記推定手段は、前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する、
情報処理システム。
(付記2)
前記データベースは、前記地図上の位置と、該位置を中心とする方向と、前記地図上の位置において該方向に向いて撮像可能な画像に含まれる特徴情報とを対応付けて記憶し、
前記推定手段は、前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、さらに、前記撮像装置が撮像時に向いていた方向を推定する
付記1に記載の情報処理システム。
(付記3)
前記抽出手段は、前記撮像画像内において、運動体を撮像した第1画像領域と、静止体を撮像した第2画像領域とを区別し、前記第2画像領域においてのみ特徴情報を抽出する、
付記1又は2に記載の情報処理システム。
(付記4)
前記表示手段は、前記推定手段によって推定された前記撮像装置の地図上の位置の表示を、推定された前記撮像装置の地図上の位置の尤度に応じて変更する、
付記1乃至3のいずれか1項に記載の情報処理システム。
(付記5)
前記推定手段は、
前記データベースに記憶された地図上の位置及び該位置に関連付けて記憶された撮像可能な画像中の特徴情報と、前記抽出手段で抽出した前記撮像画像の特徴情報とを比較する比較手段と、
抽出した前記撮像画像の特徴情報に類似する特徴情報を検索し、検索の結果見つけられた特徴情報に関連付けられて記憶された前記地図上の位置に対する投票を、前記抽出した特徴情報の全てについて繰り返す投票手段と、
を含み、
前記投票手段による投票結果に応じて、前記撮像装置の地図上の位置を推定する、
付記1乃至4のいずれか1項に記載の情報処理システム。
(付記6)
前記表示手段は、前記推定手段によって推定された前記撮像装置の地図上の位置の表示を、前記投票数に応じて変更する、
付記5に記載の情報処理システム。
(付記7)
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第2表示ステップと、
を含む情報処理方法。
(付記8)
撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を、地図画像上に表示する第2表示ステップと、
をコンピュータに実行させる情報処理プログラム。
(付記9)
地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、前記データベースを参照して、抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、を有するサーバと通信を行ない、撮像装置の現在位置を推定する情報処理装置であって、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を、地図画像上に表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含む情報処理装置。
以上、実施形態を参照して本願発明を説明したが、本願発明は以上の実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で同業者が理解し得る様々な変更をすることができる。
この出願は、2010年12月27日に出願された日本出願特願2010−291070を基礎とする優先権を主張し、その開示の全てをここに取り込む。
Claims (8)
- 地図上の位置と、該位置において撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶するデータベースと、
前記撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する抽出手段と、
前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する推定手段と、
前記推定手段で推定された前記撮像装置の推定現在位置を表示する表示手段と、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記抽出手段で前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定手段と、
前記判定手段により前記撮像装置の撮像方向が所定量変更されたと判定した場合に、再度、前記抽出手段による新たな特徴情報の抽出を行なうよう制御する制御手段と、
を含み、
前記推定手段は、前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する、
情報処理システム。 - 前記データベースは、前記地図上の位置と、該位置を中心とする方向と、前記地図上の位置において該方向に向いて撮像可能な画像に含まれる特徴情報とを対応付けて記憶し、
前記推定手段は、前記データベースを参照して、前記抽出手段によって抽出した抽出済の前記特徴情報から、さらに、前記撮像装置が撮像時に向いていた方向を推定する
請求項1に記載の情報処理システム。 - 前記抽出手段は、前記撮像画像内において、運動体を撮像した第1画像領域と、静止体を撮像した第2画像領域とを区別し、前記第2画像領域においてのみ特徴情報を抽出する、
請求項1又は2に記載の情報処理システム。 - 前記表示手段は、前記推定手段によって推定された前記撮像装置の地図上の位置の表示を、推定された前記撮像装置の地図上の位置の尤度に応じて変更する、
請求項1乃至3のいずれか1項に記載の情報処理システム。 - 前記推定手段は、
前記データベースに記憶された地図上の位置及び該位置に関連付けて記憶された撮像可能な画像中の特徴情報と、前記抽出手段で抽出した前記撮像画像の特徴情報とを比較する比較手段と、
抽出した前記撮像画像の特徴情報に類似する特徴情報を検索し、検索の結果見つけられた特徴情報に関連付けられて記憶された前記地図上の位置に対する投票を、前記抽出した特徴情報の全てについて繰り返す投票手段と、
を含み、
前記投票手段による投票結果に応して、前記撮像装置の地図上の位置を推定する、
請求項1乃至4のいずれか1項に記載の情報処理システム。 - 前記表示手段は、前記推定手段によって推定された前記撮像装置の地図上の位置の表示を、前記投票数に応じて変更する、
請求項5に記載の情報処理システム。 - 撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を表示する第2表示ステップと、
を含む情報処理方法。 - 撮像装置を用いた撮像によって取得した撮像画像から特徴情報を抽出する第1抽出ステップと、
地図上の位置と、該位置において前記撮像装置で撮像可能な画像中の特徴情報と、を関連付けて記憶したデータベースを参照して、前記第1抽出ステップによって抽出した抽出済の前記特徴情報から、前記撮像装置が存在する地図上の位置を推定する第1推定ステップと、
前記第1推定ステップで推定された前記撮像装置の推定現在位置を表示する第1表示ステップと、
前記撮像装置による前記撮像中に、前記撮像装置の撮像方向が、前記第1抽出ステップで前記特徴情報を抽出した抽出済画像を撮像した方向から所定量変更されたか否か判定する判定ステップと、
前記判定ステップにより前記撮像装置の撮像方向が所定量変更されたと判定した場合に、新たな特徴情報の抽出を行なう第2抽出ステップと、
前記新たな特徴情報の抽出が行なわれた場合に、前記新たな特徴情報と抽出済の特徴情報とを組み合わせて、前記撮像装置が存在する地図上の位置を再推定する第2推定ステップと、
前記第2推定ステップで推定された前記撮像装置の推定現在位置を表示する第2表示ステップと、
をコンピュータに実行させる情報処理プログラムを格納したプログラム記録媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010291070 | 2010-12-27 | ||
JP2010291070 | 2010-12-27 | ||
PCT/JP2011/079962 WO2012090890A1 (ja) | 2010-12-27 | 2011-12-16 | 情報処理システム,情報処理方法及び情報処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2012090890A1 true JPWO2012090890A1 (ja) | 2014-06-05 |
Family
ID=46382994
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012550914A Pending JPWO2012090890A1 (ja) | 2010-12-27 | 2011-12-16 | 情報処理システム,情報処理方法及び情報処理プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20130279755A1 (ja) |
JP (1) | JPWO2012090890A1 (ja) |
WO (1) | WO2012090890A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104956655B (zh) * | 2014-01-31 | 2018-06-22 | 奥林巴斯株式会社 | 摄像装置 |
US20160335275A1 (en) * | 2015-05-11 | 2016-11-17 | Google Inc. | Privacy-sensitive query for localization area description file |
JP6435049B2 (ja) * | 2015-07-15 | 2018-12-05 | 日本電信電話株式会社 | 画像検索装置及び方法、撮影時刻推定装置及び方法、反復構造抽出装置及び方法、並びにプログラム |
JP7311461B2 (ja) | 2020-05-21 | 2023-07-19 | Kddi株式会社 | 連携装置、方法及びプログラム |
WO2023162013A1 (ja) * | 2022-02-22 | 2023-08-31 | 日本電気株式会社 | 通報支援システム、通報支援方法、及びコンピュータ読み取り可能な記憶媒体 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004191339A (ja) * | 2002-12-13 | 2004-07-08 | Sharp Corp | 位置情報検索方法、位置情報検索装置、位置情報検索端末、及び、位置情報検索システム |
JP5149744B2 (ja) * | 2008-09-10 | 2013-02-20 | 株式会社デンソーアイティーラボラトリ | 画像検索装置、画像検索システム、画像検索方法およびプログラム |
KR101884337B1 (ko) * | 2012-04-26 | 2018-08-01 | 삼성전자주식회사 | 영상 인식 방법 및 장치 |
-
2011
- 2011-12-16 WO PCT/JP2011/079962 patent/WO2012090890A1/ja active Application Filing
- 2011-12-16 US US13/976,287 patent/US20130279755A1/en not_active Abandoned
- 2011-12-16 JP JP2012550914A patent/JPWO2012090890A1/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
WO2012090890A1 (ja) | 2012-07-05 |
US20130279755A1 (en) | 2013-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6635037B2 (ja) | 情報処理装置、および情報処理方法、並びにプログラム | |
JP6683127B2 (ja) | 情報処理装置、および情報処理方法、並びにプログラム | |
CN110136200B (zh) | 基于影像的电子设备定位 | |
JP7282851B2 (ja) | 装置、方法及びプログラム | |
CN105283775B (zh) | 移动机器人以及音源位置推定系统 | |
WO2016199605A1 (ja) | 画像処理装置および方法、並びにプログラム | |
WO2013180840A1 (en) | Pose estimation based on peripheral information | |
WO2012090890A1 (ja) | 情報処理システム,情報処理方法及び情報処理プログラム | |
JP5837848B2 (ja) | 画像処理装置、画像処理システム、画像処理方法 | |
JP2012160904A (ja) | 情報処理装置、情報処理方法、プログラム、及び撮像装置 | |
WO2014112138A1 (ja) | 情報処理装置、情報処理システム及び情報処理プログラム | |
US11566896B2 (en) | Surveying system with image-based measuring | |
JPWO2012164685A1 (ja) | 情報提供装置、情報提供方法、情報提供処理プログラム、情報提供処理プログラムを記録した記録媒体、及び情報提供システム | |
JP2016212784A (ja) | 画像処理装置、画像処理方法 | |
EP2577504B1 (en) | Methods and arrangements for augmented reality | |
JP2011039974A (ja) | 画像検索方法およびシステム | |
CN112907671B (zh) | 点云数据生成方法、装置、电子设备及存储介质 | |
JP5837404B2 (ja) | 画像処理装置、画像処理方法 | |
CN112561952A (zh) | 用于为目标设置可呈现的虚拟对象的方法和系统 | |
WO2016071896A1 (en) | Methods and systems for accurate localization and virtual object overlay in geospatial augmented reality applications | |
JP2016038790A (ja) | 画像処理装置ならびにその画像特徴検出方法、プログラムおよび装置 | |
JP2019046278A (ja) | 情報処理装置、制御方法、コンピュータプログラム、記憶媒体、及びモデル作成装置 | |
JP2015153324A (ja) | 情報検索装置、情報検索方法及び情報検索プログラム | |
JP5634925B2 (ja) | 整備情報表示装置、整備情報表示方法、及びプログラム | |
CN106951553A (zh) | 一种地址定位方法和装置 |