JP2004234457A - 情報処理装置、方法、プログラムおよび記憶媒体 - Google Patents
情報処理装置、方法、プログラムおよび記憶媒体 Download PDFInfo
- Publication number
- JP2004234457A JP2004234457A JP2003023825A JP2003023825A JP2004234457A JP 2004234457 A JP2004234457 A JP 2004234457A JP 2003023825 A JP2003023825 A JP 2003023825A JP 2003023825 A JP2003023825 A JP 2003023825A JP 2004234457 A JP2004234457 A JP 2004234457A
- Authority
- JP
- Japan
- Prior art keywords
- information
- image
- annotation
- dimensional image
- viewpoint position
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Instructional Devices (AREA)
- Processing Or Creating Images (AREA)
Abstract
【課題】3次元モデルを持たなくても2次元画像に正しくアノテーションを合成することを目的とする。
【解決手段】経路上の視点位置に対応した2次元画像を取得し、前記経路を分割した道路セグメント情報を取得し、アノテーション情報を取得し、前記2次元画像に前記アノテーション情報を合成する際に、前記道路セグメントのうち視点位置を含む基点セグメントと繋がっており、かつ基点セグメントと一定角度以内の道路セグメントに対応した対象物のアノテーション情報を選択して合成する。
【選択図】 図1
【解決手段】経路上の視点位置に対応した2次元画像を取得し、前記経路を分割した道路セグメント情報を取得し、アノテーション情報を取得し、前記2次元画像に前記アノテーション情報を合成する際に、前記道路セグメントのうち視点位置を含む基点セグメントと繋がっており、かつ基点セグメントと一定角度以内の道路セグメントに対応した対象物のアノテーション情報を選択して合成する。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、画像にアノテーションを合成するものに関する。
【0002】
【従来の技術】
従来、例えば道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像(2次元画像)の中から、使用者が経路内で観察したい位置の指定を行なうことで1枚のパノラマ実写画像を選択、また使用者が観察したい方向の指定を行なうことでその1枚のパノラマ実写画像の一部分を切り出し、画面に表示して使用者が実世界を疑似体験するということが行なわれていた。ここでパノラマ実写画像とは、ある地点から全周方向にわたって実世界を撮影した画像のことであり、複数台のカメラの光軸を外側に向けるように配置して撮影した複数枚の画像を合成したり、双曲面ミラーや魚眼レンズを利用して撮影した歪んだ画像を幾何学的に変換して得ることができる。また、使用者が経路内で観察したい位置・方向のことを、それぞれ視点位置/視線方向と呼ぶことにする。ここで1枚1枚のパノラマ実写画像には、撮影時にカメラに取り付けたGPSやジャイロセンサなどによって計測した位置/方向情報を対応付けて記録しておく。画像表示の際には、使用者が例えばジョイスティックなどのユーザインタフェースを用いて、視点位置や視線方向を指示する。ジョイスティックを用いる場合は、前後に倒すと前後方向移動、また左右にねじったり倒したりすると左右方向回転などの操作を行なうことができる。さらに、このような実世界を疑似体験するシステムでは、道路などの経路に沿ってパノラマ実写画像の撮影を行なうことで、コンピュータグラフィックス(CG)による3次元モデルをもとに画像を作成するよりも容易に、かつリアリティーに溢れた表現が可能なシステムを構築することができる。
【0003】
一方、3次元仮想空間をウォークスルーできる3次元仮想空間表示端末で、アノテーション(注釈)の合成を行なうものがある。使用者はウォークスルーしている際に、視界にある例えば建物のアノテーションを観察することができ、その建物に関する付加的な情報を得ることができる。このような3次元仮想空間表示端末では、3次元仮想空間は例えばVRML(Virtual RealityModeling Language)と呼ばれる3次元モデルを記述する言語などで構築されている。ここで3次元仮想空間は3次元モデルで構成されているため、使用者の視点位置/視線方向から見て、ある建物(障害物)に隠れて見えない建物のアノテーションは合成しないといったことが可能となる。
【0004】
【発明が解決しようとする課題】
パノラマ実写画像を利用して実世界の疑似体験を実現する実世界疑似体験システムでは、カメラで撮影した1枚以上のパノラマ実写画像の中から1枚を選択、そして観察したい方向を切り出して表示するので、実世界の3次元モデルを持たない。このような実世界疑似体験システムでは、システムが実世界の3次元モデルを持っていないため、ある建物(障害物)に隠れて見えない建物のアノテーションを合成しないといったことが難しくなる。
【0005】
例えば図2(a)に、使用者から見たパノラマ実写画像中に、”○○株式会社”と”△△デパート”と”●●公園”のアノテーションが合成されている様子を示す。ここで、”○○株式会社”や”△△デパート”の後ろに建物が隠れていない、もしくは隠れているがアノテーション情報を持っていない場合はこのままでよい。しかし、図2(b)に示すように”○○株式会社”や”△△デパート”に隠れており、かつアノテーション情報を持つ建物”□□株式会社”がある場合、システムが3次元モデルを持つ場合と異なり、”□□株式会社”のアノテーションを隠すことが難しかった。なお、各建物がアノテーション情報を持っているか持っていないかの管理は2次元的な地図上で行なえばよい。また、アノテーションの合成位置は、この地図とパノラマ実写画像を対応付けることで決定することができる。
【0006】
本発明は以上の事情を鑑みてなされたものであり、3次元モデルを持たなくても2次元画像に正しくアノテーションを合成することを目的とする。
【0007】
【課題を解決するための手段】
本発明の目的を達成するために、本発明は以下の構成を備えることを特徴とする。
【0008】
本願請求項1の発明は、経路上の視点位置に対応した2次元画像を取得する2次元画像取得手段と、前記経路を分割した道路セグメント情報を取得する道路セグメント情報取得手段と、アノテーション情報を取得するアノテーション情報取得手段と、道路セグメントのうち視点位置を含む基点セグメントと繋がっており、かつ基点セグメントと一定角度以内の道路セグメントに対応した対象物のアノテーション情報を選択し、前記2次元画像に合成する合成手段とを備えることを特徴とする。
【0009】
本願請求項12の発明は、視点位置に対応した画像を取得し、前記視点位置に対応した道路セグメント情報を取得し、前記道路セグメント情報に基づき、あらかじめ保持されているアノテーション情報群から前記取得した画像に合成すべきアノテーションを選択し、前記選択されたアノテーションを前記画像に合成することを特徴とする。
【0010】
【発明の実施の形態】
以下、添付図面に従って、本発明の好適な実施形態について説明する。
【0011】
本実施形態の情報処理装置、方法、プログラムおよび記憶媒体は、例えば道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像の中から、使用者が経路内で観察したい位置の指定を行なうことで1枚のパノラマ実写画像を選択、また使用者が観察したい方向の指定を行なうことでその1枚のパノラマ実写画像の一部分を切り出し、アノテーションを合成する際に使用される。
【0012】
図1は本実施形態の概略構成を示すブロック図である。本実施形態による情報処理装置は、画像表示端末10−1からなる。
【0013】
画像表示端末10−1は、操作部100、視点位置/視線方向計算手段101、画像合成制御手段104、パノラマ実写画像記憶部105、地図情報記憶部106、アノテーション情報記憶部107、画像表示部108からなる。
【0014】
100は、操作部であり、例えばジョイスティックやボタンなどから構成される。画像表示端末10−1の使用者(以下、単に使用者と示す)は、操作部100のジョイスティックを操作して、視点位置/視線方向計算手段101に対して、道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像の中から、使用者が経路内で観察したい視点位置/視線方向(視点情報)を計算するためのジョイスティック操作情報を送る。また、使用者は操作部100のボタンを操作して、画像合成制御手段104に対して、画像表示部108に表示する内容を決定する画像合成内容情報を送る。画像合成内容情報には、地図合成のON/OFF、アノテーション合成のON/OFFなどを切り替える画像合成モードなどが含まれる。
【0015】
ここで、操作部100に備えられるジョイスティックやボタンは、視点位置/視線方向の操作や画像合成内容の制御を行なうことができるものであれば何でもよく、トラックボールやマウスやキーボードなどによって構成されてもよいことは言うまでもない。
【0016】
101は、視点位置/視線方向計算手段であり、操作部100からジョイスティック操作情報を受け取り、道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像の中から、使用者が経路内で観察したい視点位置/視線方向情報を計算する。例えば操作部100からジョイスティックを前後に倒したというジョイスティック操作情報が送られてきた場合、視点位置をパノラマ実写画像の撮影を行なった経路に沿って切り替え、また操作部100からジョイスティックを左右にねじったり倒したりしたというジョイスティック操作情報が送られてきた場合、パノラマ実写画像内で見回すように視線方向を変える。視点位置/視線方向計算手段101は、画像合成制御手段104に対して視点位置/視線方向情報を送る。
【0017】
この視点位置/視線方向情報は、図3に示すようなものとなる。すなわち、視点位置をあらかじめ定めた道路セグメントID(図4)と、道路セグメント内でのフレーム番号によってあらわし、視線方向をあらかじめ定めた基準方向(例えば撮影時の北方向を0°とする)に対する相対方向角度(0°以上360°未満)としている。しかし、もちろん視点位置/視線方向情報はこれらの記述に限ったものではなく、例えば視点位置を、緯度経度あるいは全パノラマ実写画像のフレーム番号を用いて表したり、視線方向を撮影時の前方向を基準方向にした相対方向角度としてあらわしてもよい。
【0018】
104は、画像合成制御手段であり、視点位置/視線方向計算手段101から送られてくる視点位置/視線方向情報(図3)を受け取る。また画像合成制御手段104は、画像表示部108に表示する内容を示す画像合成内容情報を、操作部100から受け取る。
【0019】
さらに、画像合成制御手段104は、それらの視点位置/視線方向情報や画像合成内容情報をもとに、パノラマ実写画像記憶部105、地図情報記憶部106、アノテーション情報記憶部107に対して、それぞれパノラマ実写画像、地図情報、アノテーション情報を要求して受け取る。そして画像合成制御手段104は、受け取った視点位置/視線方向情報、画像合成内容情報、パノラマ実写画像、地図情報、アノテーション情報をもとに画像表示部108に表示する画像を合成し、画像表示部108に対して表示画像を送る。また、画像合成制御手段104は、操作部100から送られてくる画像合成内容情報をもとに画像合成モードを管理もしくは変更する。画像合成モードには、例えば地図合成のON/OFF、アノテーション合成のON/OFFなどが含まれる。図6(a)では、地図合成ON、アノテーション合成ONであるときの様子が示されている。
【0020】
105は、パノラマ実写画像記憶部であり、ハードディスクなどから構成される。パノラマ実写画像記憶部105は、道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像を記憶している。パノラマ実写画像は、複数台のカメラの光軸を外側に向けるように配置して撮影した複数枚の画像を合成したり、双曲面ミラーや魚眼レンズを利用して撮影して歪んだ画像を幾何的に変換して得ることができるが、これらの技術は公知であるためここでは詳しく述べない。また1枚1枚のパノラマ実写画像には、撮影時にカメラに取り付けたGPSやジャイロセンサなどによって計測した位置/方向情報を対応付けて記録しておく。パノラマ実写画像記憶部105は、画像合成制御手段104から要求されたパノラマ実写画像を画像合成制御手段104に送る。パノラマ実写画像記憶部105は、画像合成制御手段104から送られてくる視点位置/視線方向情報に対応したパノラマ実写画像を画像合成制御手段104に送る。ここで送るパノラマ実写画像は360°全方向のものでもよいが、あらかじめ決められた角度毎に分割しておいてもよい。この場合、視線方向情報に対応した部分のみを送るようにすることで送信するデータ量を削減することができ、送信時の負担を減らすことができる。
【0021】
ここで、パノラマ実写画像記憶部105はデータを記憶できるものであればなんでもよく、光ディスクやテープやメモリなどによって構成されてもよいことはいうまでもない。
【0022】
106は、地図情報記憶部であり、ハードディスクなどから構成される。地図情報記憶部106は、実世界を疑似体験する経路を含む領域を上から見た2次元の地図画像や、地図経路を構成する道路セグメント情報や、建物情報を記憶している。この地図画像にはあらかじめパノラマ実写画像を撮影した道路などの経路に色付けしておいてもよい。この場合、地図画像を表示する際に使用者が移動できる経路を見分け易くなる。ここで道路セグメント(=部分経路)とは、図4(a)に示すような交差点などで分割された経路の一部で直線とみなせる部分のことを指す。道路セグメントは、図4(a)に示すようにそれぞれ道路セグメントID(#1〜#8)がつけられており、各道路セグメントは撮影時の北方向を0°とした角度(0°以上180°未満)が対応付けられている(図4(b))。
なお、図4の地図では紙面に向かって上を撮影時の北方向とする。道路セグメントの分割、道路セグメントIDの割り振り、角度の対応付けは本実施形態の利用に先立ちGUIなどにより手動で行なっても、自動で行なっても、その組み合わせによって行なってもよい。
【0023】
また、建物情報とは2次元地図画像中に存在する一つ一つの建物に付けられた建物IDと、各建物に対応する道路セグメントIDと、各建物の位置を対応付けておくものである。例えば図10(a)に示すように地図画像中に建物が配置されているとする。F01〜F09は一つ一つの建物に付けられた建物IDであり、各建物IDには図10(b)に示すように対応道路セグメントID(通常は各建物が隣接する道路セグメントのID)および建物位置が対応付けられている。
ここで、図10(b)の建物位置には緯度経度を用いているが、これに限る必要は全くない。2次元地図上の建物位置、建物ID、対応道路セグメントIDは、本実施形態の利用に先立ちGUIなどにより手動で行なっても、自動で行なっても、その組み合わせによって行なってもよい。また、各建物と対応している対応道路セグメントIDの決め方によってはアノテーションの見え方が大きく変わるので、実際にパノラマ実写画像とアノテーション表示を見ながら修正を行なっても良いことは言うまでもない。また、建物IDは2次元地図画像中に存在する全ての建物について付けてもよいが、主だった建物のみなど一部の建物だけに付けてもよい。
【0024】
地図情報記憶部106は、画像合成制御手段104から要求された地図画像や道路セグメント情報や建物情報といった地図情報を画像合成制御手段104に送る。地図画像を送る際、記憶している地図画像全体を送ってもよいが、地図画像データが大きい場合には、画像合成制御手段104から視点位置/視線方向情報を送ってもらい、複数の区分に分割した地図画像から必要な部分のみを送るようにしてもよい。必要な部分のみを送るようにすることで、送信するデータ量を削減することができるため、送信時の負担を減らすことができる。また、視線方向が地図上で上方向になるように画像を回転してから送ってもよい。
【0025】
ここで、地図情報記憶部106はデータを記憶できるものであればなんでもよく、光ディスクやテープやメモリなどによって構成されてもよいことはいうまでもない。
【0026】
107は、アノテーション情報記憶部であり、ハードディスクなどから構成される。アノテーション情報記憶部107は、パノラマ実写画像に合成するアノテーションに関する情報を記憶している。アノテーション情報とは、例えば図11のテーブルに示すような、2次元地図上の各建物IDと対応つけられた各建物に関する情報のことである。アノテーション情報記憶部107は、画像合成制御手段104から要求されたアノテーション情報を画像合成制御手段104に送る。
ここで、アノテーション情報記憶部107はデータを記憶できるものであればなんでもよく、光ディスクやテープやメモリなどによって構成されてもよいことはいうまでもない。
【0027】
また、アノテーション情報記憶部107から画像合成制御手段104にアノテーション情報が送られた後、画像合成制御手段104は画像表示部108に表示する表示画像を合成するが、その際に使用者の視点位置に応じて、アノテーションのサイズを(近い場合は大きく、遠い場合は小さく)変更したり、アノテーションの濃度を(近い場合は濃く、遠い場合は薄く)変更したり、アノテーションの色を(近い場合は鮮やかに、遠い場合は地味に)変更してもよい。
【0028】
108は、画像表示部であり、プロジェクタおよびスクリーンなどから構成される。画像表示部108は、画像合成制御手段104から送られた表示画像を表示する。画像表示部108は、画像を表示できればなんでもよく、パソコンのCRT、液晶ディスプレイやテレビモニタなどから構成されてもよいことはいうまでもない。
【0029】
以上のような構成を備えた画像表示端末10−1は、パソコンやディスプレイやジョイスティックやキーボードやマウスなどから構成される。
【0030】
以上のような構成を備えた本実施形態の制御方法について、以下説明する。図5は本実施形態における処理手順を説明するフローチャートである。
【0031】
本フローチャートに先立ち、パノラマ実写画像記憶部105に記憶するパノラマ実写画像を作成しなければならないが、そのステップは既知の技術を用いることとしてここでは説明を省く。
【0032】
ステップS501では、システムの初期化を行なう。システムの初期化とはシステムを構成する各機器の電源を入れたり、プログラムを起動したりといった、本実施形態の制御方法を進めるにあたり最初に行なうステップである。システム初期化の時点では、あらかじめ視点位置/視線方向情報が設定されており、対応する画像が画像表示部108に表示されているものとする。システムの初期化処理が終わり次第ステップS502へ進む。
【0033】
ステップS502では、画像表示部108に表示する画像の画像合成モードを管理もしくは変更するような操作部100へのボタン入力があったかどうかを判別する。ボタンの入力があった場合は、ステップS503へ進む。また、ボタンの入力がなかった場合は、ステップS504へ進む。
【0034】
ステップS503では、操作部100のボタンの入力と合わせて、操作部100から画像合成制御手段104へ画像合成内容情報が送られる。ステップS503では、画像合成制御手段104に送られてきた画像合成内容情報に合わせて、画像表示部108に表示する画像の画像合成モードを管理もしくは変更する。画像合成モードには、例えば地図合成のON/OFF、アノテーション合成のON/OFFなどが含まれる。画像合成モードを変更するとは、地図合成、アノテーション合成ON/OFFを切り替えることである。地図合成のON/OFFとは、実世界を疑似体験する経路を含む領域を上から見た2次元の地図画像を、パノラマ実写画像に合成するかどうかということである。(なお、図6(a)では地図合成がON状態である。)アノテーション合成のON/OFFとは、パノラマ実写画像にアノテーションを合成するかどうかということである。(なお、図6(a)はアノテーション合成がONの状態である。)またアノテーション合成ONの場合には、図6(b)に示すように、図6(a)以外のアノテーション(すなわち”○○株式会社”や”△△デパート”に隠れており、かつアノテーション情報を持っている”□□株式会社”のアノテーション)を図6(a)で合成した通常のアノテーションと形を変えて区別するように合成してもよい。このとき、形を変える他に、色を変えたり、サイズを小さくしたり、半透明合成したり、もしくはアノテーション情報をもつ建物があるということだけをアイコン合成してもよい。さらに、通常合成のアノテーション以外のアノテーション(すなわち”○○株式会社”や”△△デパート”に隠れており、かつアノテーション情報を持っている”□□株式会社”のアノテーション)を合成するかどうかのON/OFFを別途画像合成モードとして持ち、操作部100のボタンの入力と合わせてON/OFFを切り替えてもよい。なお、図6の地図画像では、使用者の視点位置/視線方向を三角印であらわしている。ステップS503の処理が終了したらステップS502に戻る。
【0035】
ステップS504では、操作部100のジョイスティックの入力があったかどうかを判別する。ジョイスティックへの入力があった場合は、ステップS505へ進む。また、ジョイスティックの入力がなかった場合は、ステップS502へ戻る。
【0036】
ステップS505では、ステップS504でジョイスティックの入力があったものとして、操作部100から視点位置/視線方向計算手段101へとジョイスティック操作情報が送られる。そして、視点位置/視線方向計算手段101では、そのジョイスティック操作情報をもとに視点位置/視線方向の計算が行なわれ、画像合成制御手段104に視点位置/視線方向情報が送られる。なお計算された視点位置/視線方向は、次に計算されるまではその値を保持されるものとする。視点位置の計算は、具体的にはジョイスティックを前後に倒す入力に従って図3に示す道路セグメントIDを切り替えたり、フレーム番号を1つずつ順番に切り替えるといったことで行なわれる。また、視線方向の計算は、具体的にはジョイスティックを左右にねじったり倒す入力に従って図3に示す基準方向に対する相対方向角度を連続的に切り替えるといったことで行なわれる。ステップS505の処理が終了したらステップS506に進む。
【0037】
ステップS506では、視点位置/視線方向計算手段101から送られてきた視点位置/視線方向情報をもとに、パノラマ実写画像記憶部105に対してパノラマ実写画像を要求する。パノラマ実写画像記憶部105は、対応したパノラマ実写画像を画像合成制御手段104に送る。ステップS506の処理が終了したらステップS507に進む。
【0038】
ステップS507では、まず画像合成制御手段104が、地図情報記憶部106に対して地図画像および地図経路を構成する道路セグメント(交差点などで分割された経路で直線とみなせる部分)情報および建物情報の要求を行なう。そして、地図情報記憶部106は、画像合成制御手段104に対して地図画像(図4(a))および地図経路を構成する道路セグメント情報(図4(b))および建物情報(図10)を送る。ここで、地図画像には視点位置/視線方向情報をもとに次の交差点先で曲がる道を色付けしておいてもよい。この場合、使用者が次の交差点先で曲がる道を把握し易くなる。また、地図情報記憶部106から画像合成制御手段104に地図画像を送る際、図10(a)のような建物に関する情報が含まれた地図画像を送ってもよい。
【0039】
次に、画像合成制御手段104は、アノテーションを合成する建物に対応する道路セグメントを探索して求める。道路セグメントの探索とは、使用者がいる道路セグメントを基点セグメントとして、基点セグメントと、繋がっている道路セグメントのなす角度が一定角度以内(例えば5°以内)のものを順々に探索していくことである。図4においては使用者が#4の道路セグメントにいる場合、繋がっている道路セグメント#3、#5、#6、#7、#8のうち、#4となす角度が5°以内なのは#3のみである。ここで、基点セグメント#4と一度探索した道路セグメント#3、#5、#6、#7、#8にはフラグを立てておき再度探索されないようにしておく。次に、#3に繋がっている道路セグメントは#2、#4、#5、#6だが、フラグの立っていない#2のみが探索の対象候補となる。しかし、道路セグメント#2と#4がなす角度は45°であるため探索の対象とはならない。以上より、図4において、使用者が#4の道路セグメントにいる場合の道路セグメントを探索して求めた結果は、#4および#3となる。ステップS507の処理が終了したらステップS508に進む。
【0040】
ステップS508では、ステップS507で求めた道路セグメント情報をもとにアノテーション合成を行なう建物IDを図10(b)のテーブルから求め、アノテーション情報記憶部107に対して建物IDを送る。アノテーション情報記憶部107は、送られてきた建物IDに対応したアノテーション情報を選択されたアノテーション情報として、画像合成制御手段104に送る。ステップS508の処理が終了したらステップS509に進む。
【0041】
ステップS509では、画像合成制御手段104が、画像合成モード、視点位置/視線方向情報、パノラマ実写画像、地図画像、道路セグメント情報、建物情報、アノテーション情報をもとに、画像表示部108に表示する画像を合成して、画像表示部108に送る。画像表示部108は送られた画像を表示する。アノテーション合成の際は、ステップS507で求めた道路セグメント探索結果に対応した建物IDのアノテーションを合成すればよい。合成する位置は使用者の視点位置/視線方向および建物情報に含まれる建物の位置から計算すればよい。ステップS507で求めた道路セグメント探索結果は、使用者がいる道路セグメントを基点セグメントとして、基点セグメントと、繋がっている道路セグメントのなす角度が一定角度以内(例えば5°以内)のものを順々に探索していったものである。よって、使用者は、ステップS507で求めた道路セグメント探索結果、すなわち使用者がいる道路セグメントから見て直線と見なせる道路セグメントに対応した建物のアノテーションのみ観察することができる。このように地図画像の道路形状(経路の形状)をもとに合成するアノテーションを選択することで、3次元モデルを持たなくても画像中の建物(障害物)とアノテーションの関係を正しく表現できる。また、図6(b)に示すように、図6(a)以外のアノテーション(すなわち”○○株式会社”や”△△デパート”に隠れており、かつアノテーション情報を持っている”□□株式会社”のアノテーション)を図6(a)で合成した通常のアノテーションと形を変えて区別するように合成してもよい。このとき、形を変える他に、色を変えたり、サイズを小さくしたり、半透明合成したり、もしくはアノテーション情報をもつ建物があるということだけをアイコン合成してもよい。さらに、通常合成のアノテーション以外のアノテーション(すなわち”○○株式会社”や”△△デパート”に隠れており、かつアノテーション情報を持っている”□□株式会社”のアノテーション)を合成するかどうかのON/OFFを別途画像合成モードとして持ち、操作部100のボタンの入力と合わせてON/OFFを切り替えてもよい。ステップS509の処理が終了したらステップS510に進む。
【0042】
ステップS510では、使用者が終了処理を行なっていた場合、システムを終了させる。システムを終了させるとは、プログラムを終了させたり、システムを構成する各機器の電源を切ったりといった本実施形態の制御方法を終わらせるために最後に行なうステップである。使用者が終了処理を行なっていない場合は、ステップS502に戻る。
【0043】
以上説明したように、例えば道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像の中から、使用者が経路内で観察したい位置の指定を行なうことで1枚のパノラマ実写画像を選択、また使用者が観察したい方向の指定を行なうことでその1枚のパノラマ実写画像の一部分を切り出し、画像中に存在する建物などのアノテーションを合成する際に、使用者が指定した経路上の位置から見て直線と見なせる道路に隣接する建物のアノテーションを選択することで、3次元モデルを持たなくても実写画像(2次元画像)に正しくアノテーションを合成することができる。
【0044】
(他の実施形態)
上記実施形態の変形例である他の実施形態を説明する。
【0045】
他の実施の形態では、視点情報として視点位置のみを用いるようにしてもよい。
【0046】
また、他の実施の形態では、地図画像の大きさ、解像度、さらには一つの画面内での地図画像の合成位置を使用者が操作部100を操作して手動で変更するようにしてもよい。
【0047】
また、他の実施の形態では、画像中のアノテーションを合成する建物の階数に応じて画面内におけるアノテーションを合成する位置(縦方向)を変えたり、パノラマ実写画像を撮影する際の条件(カメラの高さ、画角)によって画面内におけるアノテーションを合成する位置(縦方向)を変えてもよい。
【0048】
建物の高さに応じてアノテーションを合成する位置(縦方向)を変えるときには、例えば地図情報記憶部106に各建物の階数に関する情報を記憶しておき、階層が低いほど低い位置に、階層が高いほど高い位置に合成することでより認識性が増す。
【0049】
また、他の実施の形態では、アノテーション合成対象物は建物に限らず、画像に表示されるもの全て、あるいは撮影を行なった場所自体を対象としてもよい。
また、アノテーション合成する内容は名前だけに限らず、もっと詳細な情報を合成してもよいし、アノテーション情報を持つことを示すアイコンだけを合成して、そのアイコンを選択するとアノテーション情報を合成するようにしてもよい。
【0050】
また、他の実施の形態では、視点位置/視線方向を操作部100から操作して決定するだけではなく、あらかじめ決められた視点位置/視線方向の操作情報によって自動的に決定してもよい。
【0051】
また、他の実施の形態では、図5のステップS507のように道路セグメントの探索を毎回行なわずに、あらかじめ探索結果を求めておき、テーブルなどに記憶したものを読み出してきて利用してもよい。例えば図4(a)の経路においては、各道路セグメントを基点セグメントして、道路セグメントIDと、アノテーションを合成する建物に対応する道路セグメントIDを全て求めて図9のようなテーブルにあらかじめ用意する。図9のテーブルは、合成するアノテーションを選択する際に、ステップS507で道路セグメントを探索する代わりに利用される。ここで、使用者が道路セグメントID#4に存在するときは、道路セグメントIDが#3および#4に対応する建物IDのアノテーションを合成すればよい。なお、図9のテーブルは地図情報記憶部106に記憶され、画像合成制御手段104からの要求に従って送られる。
【0052】
また、他の実施の形態では、パノラマ実写画像記憶部105あるいは地図情報記憶部106あるいはアノテーション情報記憶部107に記憶するデータを、図示しないサーバに記憶しておき、そのデータを図示しない通信手段を経由して画像表示端末にダウンロードしてもよい。こうすることで新しいパノラマ実写画像や地図情報やアノテーション情報などを効率的に画像表示端末で追加・変更することができる。
【0053】
なお、本発明は、複数の機器(例えばホストコンピュータ、インタフェイス機器、リーダ、プリンタなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、複写機、ファクシミリ装置など)に適用してもよい。
【0054】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。
【0055】
この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0056】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0057】
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明したフローチャート(図5)に対応するプログラムコードが格納されることになる。
【0058】
以上説明したように、例えば道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像の中から、使用者が経路内で観察したい位置の指定を行なうことで1枚のパノラマ実写画像を選択、また使用者が観察したい方向の指定を行なうことでその1枚のパノラマ実写画像の一部分を切り出し、画像中に存在する建物などのアノテーションを合成する際に、使用者が指定した経路上の位置から見て直線と見なせる道路に隣接する建物のアノテーションを選択することで、3次元モデルを持たなくても実写画像(2次元画像)に正しくアノテーションを合成することができる。
【0059】
【発明の効果】
3次元モデルを持たなくても2次元画像に正しくアノテーションを合成することができる。
【図面の簡単な説明】
【図1】本発明の一つの実施形態における情報処理装置の構成を示すブロック図である。
【図2】従来例を説明するための図である。
【図3】視点位置/視線方向情報を説明するための図である。
【図4】地図画像と道路セグメント情報を説明するための図である。
【図5】本発明の一つの実施形態における情報処理装置の動作を説明するためのフローチャートである。
【図6】アノテーションや地図画像の合成などを説明するための図である。
【図7】道路セグメントの探索結果をあらかじめ求めた結果を示すテーブルである。
【図8】アノテーション合成する建物情報を説明するための図である。
【図9】アノテーション情報を説明するための図である。
【発明の属する技術分野】
本発明は、画像にアノテーションを合成するものに関する。
【0002】
【従来の技術】
従来、例えば道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像(2次元画像)の中から、使用者が経路内で観察したい位置の指定を行なうことで1枚のパノラマ実写画像を選択、また使用者が観察したい方向の指定を行なうことでその1枚のパノラマ実写画像の一部分を切り出し、画面に表示して使用者が実世界を疑似体験するということが行なわれていた。ここでパノラマ実写画像とは、ある地点から全周方向にわたって実世界を撮影した画像のことであり、複数台のカメラの光軸を外側に向けるように配置して撮影した複数枚の画像を合成したり、双曲面ミラーや魚眼レンズを利用して撮影した歪んだ画像を幾何学的に変換して得ることができる。また、使用者が経路内で観察したい位置・方向のことを、それぞれ視点位置/視線方向と呼ぶことにする。ここで1枚1枚のパノラマ実写画像には、撮影時にカメラに取り付けたGPSやジャイロセンサなどによって計測した位置/方向情報を対応付けて記録しておく。画像表示の際には、使用者が例えばジョイスティックなどのユーザインタフェースを用いて、視点位置や視線方向を指示する。ジョイスティックを用いる場合は、前後に倒すと前後方向移動、また左右にねじったり倒したりすると左右方向回転などの操作を行なうことができる。さらに、このような実世界を疑似体験するシステムでは、道路などの経路に沿ってパノラマ実写画像の撮影を行なうことで、コンピュータグラフィックス(CG)による3次元モデルをもとに画像を作成するよりも容易に、かつリアリティーに溢れた表現が可能なシステムを構築することができる。
【0003】
一方、3次元仮想空間をウォークスルーできる3次元仮想空間表示端末で、アノテーション(注釈)の合成を行なうものがある。使用者はウォークスルーしている際に、視界にある例えば建物のアノテーションを観察することができ、その建物に関する付加的な情報を得ることができる。このような3次元仮想空間表示端末では、3次元仮想空間は例えばVRML(Virtual RealityModeling Language)と呼ばれる3次元モデルを記述する言語などで構築されている。ここで3次元仮想空間は3次元モデルで構成されているため、使用者の視点位置/視線方向から見て、ある建物(障害物)に隠れて見えない建物のアノテーションは合成しないといったことが可能となる。
【0004】
【発明が解決しようとする課題】
パノラマ実写画像を利用して実世界の疑似体験を実現する実世界疑似体験システムでは、カメラで撮影した1枚以上のパノラマ実写画像の中から1枚を選択、そして観察したい方向を切り出して表示するので、実世界の3次元モデルを持たない。このような実世界疑似体験システムでは、システムが実世界の3次元モデルを持っていないため、ある建物(障害物)に隠れて見えない建物のアノテーションを合成しないといったことが難しくなる。
【0005】
例えば図2(a)に、使用者から見たパノラマ実写画像中に、”○○株式会社”と”△△デパート”と”●●公園”のアノテーションが合成されている様子を示す。ここで、”○○株式会社”や”△△デパート”の後ろに建物が隠れていない、もしくは隠れているがアノテーション情報を持っていない場合はこのままでよい。しかし、図2(b)に示すように”○○株式会社”や”△△デパート”に隠れており、かつアノテーション情報を持つ建物”□□株式会社”がある場合、システムが3次元モデルを持つ場合と異なり、”□□株式会社”のアノテーションを隠すことが難しかった。なお、各建物がアノテーション情報を持っているか持っていないかの管理は2次元的な地図上で行なえばよい。また、アノテーションの合成位置は、この地図とパノラマ実写画像を対応付けることで決定することができる。
【0006】
本発明は以上の事情を鑑みてなされたものであり、3次元モデルを持たなくても2次元画像に正しくアノテーションを合成することを目的とする。
【0007】
【課題を解決するための手段】
本発明の目的を達成するために、本発明は以下の構成を備えることを特徴とする。
【0008】
本願請求項1の発明は、経路上の視点位置に対応した2次元画像を取得する2次元画像取得手段と、前記経路を分割した道路セグメント情報を取得する道路セグメント情報取得手段と、アノテーション情報を取得するアノテーション情報取得手段と、道路セグメントのうち視点位置を含む基点セグメントと繋がっており、かつ基点セグメントと一定角度以内の道路セグメントに対応した対象物のアノテーション情報を選択し、前記2次元画像に合成する合成手段とを備えることを特徴とする。
【0009】
本願請求項12の発明は、視点位置に対応した画像を取得し、前記視点位置に対応した道路セグメント情報を取得し、前記道路セグメント情報に基づき、あらかじめ保持されているアノテーション情報群から前記取得した画像に合成すべきアノテーションを選択し、前記選択されたアノテーションを前記画像に合成することを特徴とする。
【0010】
【発明の実施の形態】
以下、添付図面に従って、本発明の好適な実施形態について説明する。
【0011】
本実施形態の情報処理装置、方法、プログラムおよび記憶媒体は、例えば道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像の中から、使用者が経路内で観察したい位置の指定を行なうことで1枚のパノラマ実写画像を選択、また使用者が観察したい方向の指定を行なうことでその1枚のパノラマ実写画像の一部分を切り出し、アノテーションを合成する際に使用される。
【0012】
図1は本実施形態の概略構成を示すブロック図である。本実施形態による情報処理装置は、画像表示端末10−1からなる。
【0013】
画像表示端末10−1は、操作部100、視点位置/視線方向計算手段101、画像合成制御手段104、パノラマ実写画像記憶部105、地図情報記憶部106、アノテーション情報記憶部107、画像表示部108からなる。
【0014】
100は、操作部であり、例えばジョイスティックやボタンなどから構成される。画像表示端末10−1の使用者(以下、単に使用者と示す)は、操作部100のジョイスティックを操作して、視点位置/視線方向計算手段101に対して、道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像の中から、使用者が経路内で観察したい視点位置/視線方向(視点情報)を計算するためのジョイスティック操作情報を送る。また、使用者は操作部100のボタンを操作して、画像合成制御手段104に対して、画像表示部108に表示する内容を決定する画像合成内容情報を送る。画像合成内容情報には、地図合成のON/OFF、アノテーション合成のON/OFFなどを切り替える画像合成モードなどが含まれる。
【0015】
ここで、操作部100に備えられるジョイスティックやボタンは、視点位置/視線方向の操作や画像合成内容の制御を行なうことができるものであれば何でもよく、トラックボールやマウスやキーボードなどによって構成されてもよいことは言うまでもない。
【0016】
101は、視点位置/視線方向計算手段であり、操作部100からジョイスティック操作情報を受け取り、道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像の中から、使用者が経路内で観察したい視点位置/視線方向情報を計算する。例えば操作部100からジョイスティックを前後に倒したというジョイスティック操作情報が送られてきた場合、視点位置をパノラマ実写画像の撮影を行なった経路に沿って切り替え、また操作部100からジョイスティックを左右にねじったり倒したりしたというジョイスティック操作情報が送られてきた場合、パノラマ実写画像内で見回すように視線方向を変える。視点位置/視線方向計算手段101は、画像合成制御手段104に対して視点位置/視線方向情報を送る。
【0017】
この視点位置/視線方向情報は、図3に示すようなものとなる。すなわち、視点位置をあらかじめ定めた道路セグメントID(図4)と、道路セグメント内でのフレーム番号によってあらわし、視線方向をあらかじめ定めた基準方向(例えば撮影時の北方向を0°とする)に対する相対方向角度(0°以上360°未満)としている。しかし、もちろん視点位置/視線方向情報はこれらの記述に限ったものではなく、例えば視点位置を、緯度経度あるいは全パノラマ実写画像のフレーム番号を用いて表したり、視線方向を撮影時の前方向を基準方向にした相対方向角度としてあらわしてもよい。
【0018】
104は、画像合成制御手段であり、視点位置/視線方向計算手段101から送られてくる視点位置/視線方向情報(図3)を受け取る。また画像合成制御手段104は、画像表示部108に表示する内容を示す画像合成内容情報を、操作部100から受け取る。
【0019】
さらに、画像合成制御手段104は、それらの視点位置/視線方向情報や画像合成内容情報をもとに、パノラマ実写画像記憶部105、地図情報記憶部106、アノテーション情報記憶部107に対して、それぞれパノラマ実写画像、地図情報、アノテーション情報を要求して受け取る。そして画像合成制御手段104は、受け取った視点位置/視線方向情報、画像合成内容情報、パノラマ実写画像、地図情報、アノテーション情報をもとに画像表示部108に表示する画像を合成し、画像表示部108に対して表示画像を送る。また、画像合成制御手段104は、操作部100から送られてくる画像合成内容情報をもとに画像合成モードを管理もしくは変更する。画像合成モードには、例えば地図合成のON/OFF、アノテーション合成のON/OFFなどが含まれる。図6(a)では、地図合成ON、アノテーション合成ONであるときの様子が示されている。
【0020】
105は、パノラマ実写画像記憶部であり、ハードディスクなどから構成される。パノラマ実写画像記憶部105は、道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像を記憶している。パノラマ実写画像は、複数台のカメラの光軸を外側に向けるように配置して撮影した複数枚の画像を合成したり、双曲面ミラーや魚眼レンズを利用して撮影して歪んだ画像を幾何的に変換して得ることができるが、これらの技術は公知であるためここでは詳しく述べない。また1枚1枚のパノラマ実写画像には、撮影時にカメラに取り付けたGPSやジャイロセンサなどによって計測した位置/方向情報を対応付けて記録しておく。パノラマ実写画像記憶部105は、画像合成制御手段104から要求されたパノラマ実写画像を画像合成制御手段104に送る。パノラマ実写画像記憶部105は、画像合成制御手段104から送られてくる視点位置/視線方向情報に対応したパノラマ実写画像を画像合成制御手段104に送る。ここで送るパノラマ実写画像は360°全方向のものでもよいが、あらかじめ決められた角度毎に分割しておいてもよい。この場合、視線方向情報に対応した部分のみを送るようにすることで送信するデータ量を削減することができ、送信時の負担を減らすことができる。
【0021】
ここで、パノラマ実写画像記憶部105はデータを記憶できるものであればなんでもよく、光ディスクやテープやメモリなどによって構成されてもよいことはいうまでもない。
【0022】
106は、地図情報記憶部であり、ハードディスクなどから構成される。地図情報記憶部106は、実世界を疑似体験する経路を含む領域を上から見た2次元の地図画像や、地図経路を構成する道路セグメント情報や、建物情報を記憶している。この地図画像にはあらかじめパノラマ実写画像を撮影した道路などの経路に色付けしておいてもよい。この場合、地図画像を表示する際に使用者が移動できる経路を見分け易くなる。ここで道路セグメント(=部分経路)とは、図4(a)に示すような交差点などで分割された経路の一部で直線とみなせる部分のことを指す。道路セグメントは、図4(a)に示すようにそれぞれ道路セグメントID(#1〜#8)がつけられており、各道路セグメントは撮影時の北方向を0°とした角度(0°以上180°未満)が対応付けられている(図4(b))。
なお、図4の地図では紙面に向かって上を撮影時の北方向とする。道路セグメントの分割、道路セグメントIDの割り振り、角度の対応付けは本実施形態の利用に先立ちGUIなどにより手動で行なっても、自動で行なっても、その組み合わせによって行なってもよい。
【0023】
また、建物情報とは2次元地図画像中に存在する一つ一つの建物に付けられた建物IDと、各建物に対応する道路セグメントIDと、各建物の位置を対応付けておくものである。例えば図10(a)に示すように地図画像中に建物が配置されているとする。F01〜F09は一つ一つの建物に付けられた建物IDであり、各建物IDには図10(b)に示すように対応道路セグメントID(通常は各建物が隣接する道路セグメントのID)および建物位置が対応付けられている。
ここで、図10(b)の建物位置には緯度経度を用いているが、これに限る必要は全くない。2次元地図上の建物位置、建物ID、対応道路セグメントIDは、本実施形態の利用に先立ちGUIなどにより手動で行なっても、自動で行なっても、その組み合わせによって行なってもよい。また、各建物と対応している対応道路セグメントIDの決め方によってはアノテーションの見え方が大きく変わるので、実際にパノラマ実写画像とアノテーション表示を見ながら修正を行なっても良いことは言うまでもない。また、建物IDは2次元地図画像中に存在する全ての建物について付けてもよいが、主だった建物のみなど一部の建物だけに付けてもよい。
【0024】
地図情報記憶部106は、画像合成制御手段104から要求された地図画像や道路セグメント情報や建物情報といった地図情報を画像合成制御手段104に送る。地図画像を送る際、記憶している地図画像全体を送ってもよいが、地図画像データが大きい場合には、画像合成制御手段104から視点位置/視線方向情報を送ってもらい、複数の区分に分割した地図画像から必要な部分のみを送るようにしてもよい。必要な部分のみを送るようにすることで、送信するデータ量を削減することができるため、送信時の負担を減らすことができる。また、視線方向が地図上で上方向になるように画像を回転してから送ってもよい。
【0025】
ここで、地図情報記憶部106はデータを記憶できるものであればなんでもよく、光ディスクやテープやメモリなどによって構成されてもよいことはいうまでもない。
【0026】
107は、アノテーション情報記憶部であり、ハードディスクなどから構成される。アノテーション情報記憶部107は、パノラマ実写画像に合成するアノテーションに関する情報を記憶している。アノテーション情報とは、例えば図11のテーブルに示すような、2次元地図上の各建物IDと対応つけられた各建物に関する情報のことである。アノテーション情報記憶部107は、画像合成制御手段104から要求されたアノテーション情報を画像合成制御手段104に送る。
ここで、アノテーション情報記憶部107はデータを記憶できるものであればなんでもよく、光ディスクやテープやメモリなどによって構成されてもよいことはいうまでもない。
【0027】
また、アノテーション情報記憶部107から画像合成制御手段104にアノテーション情報が送られた後、画像合成制御手段104は画像表示部108に表示する表示画像を合成するが、その際に使用者の視点位置に応じて、アノテーションのサイズを(近い場合は大きく、遠い場合は小さく)変更したり、アノテーションの濃度を(近い場合は濃く、遠い場合は薄く)変更したり、アノテーションの色を(近い場合は鮮やかに、遠い場合は地味に)変更してもよい。
【0028】
108は、画像表示部であり、プロジェクタおよびスクリーンなどから構成される。画像表示部108は、画像合成制御手段104から送られた表示画像を表示する。画像表示部108は、画像を表示できればなんでもよく、パソコンのCRT、液晶ディスプレイやテレビモニタなどから構成されてもよいことはいうまでもない。
【0029】
以上のような構成を備えた画像表示端末10−1は、パソコンやディスプレイやジョイスティックやキーボードやマウスなどから構成される。
【0030】
以上のような構成を備えた本実施形態の制御方法について、以下説明する。図5は本実施形態における処理手順を説明するフローチャートである。
【0031】
本フローチャートに先立ち、パノラマ実写画像記憶部105に記憶するパノラマ実写画像を作成しなければならないが、そのステップは既知の技術を用いることとしてここでは説明を省く。
【0032】
ステップS501では、システムの初期化を行なう。システムの初期化とはシステムを構成する各機器の電源を入れたり、プログラムを起動したりといった、本実施形態の制御方法を進めるにあたり最初に行なうステップである。システム初期化の時点では、あらかじめ視点位置/視線方向情報が設定されており、対応する画像が画像表示部108に表示されているものとする。システムの初期化処理が終わり次第ステップS502へ進む。
【0033】
ステップS502では、画像表示部108に表示する画像の画像合成モードを管理もしくは変更するような操作部100へのボタン入力があったかどうかを判別する。ボタンの入力があった場合は、ステップS503へ進む。また、ボタンの入力がなかった場合は、ステップS504へ進む。
【0034】
ステップS503では、操作部100のボタンの入力と合わせて、操作部100から画像合成制御手段104へ画像合成内容情報が送られる。ステップS503では、画像合成制御手段104に送られてきた画像合成内容情報に合わせて、画像表示部108に表示する画像の画像合成モードを管理もしくは変更する。画像合成モードには、例えば地図合成のON/OFF、アノテーション合成のON/OFFなどが含まれる。画像合成モードを変更するとは、地図合成、アノテーション合成ON/OFFを切り替えることである。地図合成のON/OFFとは、実世界を疑似体験する経路を含む領域を上から見た2次元の地図画像を、パノラマ実写画像に合成するかどうかということである。(なお、図6(a)では地図合成がON状態である。)アノテーション合成のON/OFFとは、パノラマ実写画像にアノテーションを合成するかどうかということである。(なお、図6(a)はアノテーション合成がONの状態である。)またアノテーション合成ONの場合には、図6(b)に示すように、図6(a)以外のアノテーション(すなわち”○○株式会社”や”△△デパート”に隠れており、かつアノテーション情報を持っている”□□株式会社”のアノテーション)を図6(a)で合成した通常のアノテーションと形を変えて区別するように合成してもよい。このとき、形を変える他に、色を変えたり、サイズを小さくしたり、半透明合成したり、もしくはアノテーション情報をもつ建物があるということだけをアイコン合成してもよい。さらに、通常合成のアノテーション以外のアノテーション(すなわち”○○株式会社”や”△△デパート”に隠れており、かつアノテーション情報を持っている”□□株式会社”のアノテーション)を合成するかどうかのON/OFFを別途画像合成モードとして持ち、操作部100のボタンの入力と合わせてON/OFFを切り替えてもよい。なお、図6の地図画像では、使用者の視点位置/視線方向を三角印であらわしている。ステップS503の処理が終了したらステップS502に戻る。
【0035】
ステップS504では、操作部100のジョイスティックの入力があったかどうかを判別する。ジョイスティックへの入力があった場合は、ステップS505へ進む。また、ジョイスティックの入力がなかった場合は、ステップS502へ戻る。
【0036】
ステップS505では、ステップS504でジョイスティックの入力があったものとして、操作部100から視点位置/視線方向計算手段101へとジョイスティック操作情報が送られる。そして、視点位置/視線方向計算手段101では、そのジョイスティック操作情報をもとに視点位置/視線方向の計算が行なわれ、画像合成制御手段104に視点位置/視線方向情報が送られる。なお計算された視点位置/視線方向は、次に計算されるまではその値を保持されるものとする。視点位置の計算は、具体的にはジョイスティックを前後に倒す入力に従って図3に示す道路セグメントIDを切り替えたり、フレーム番号を1つずつ順番に切り替えるといったことで行なわれる。また、視線方向の計算は、具体的にはジョイスティックを左右にねじったり倒す入力に従って図3に示す基準方向に対する相対方向角度を連続的に切り替えるといったことで行なわれる。ステップS505の処理が終了したらステップS506に進む。
【0037】
ステップS506では、視点位置/視線方向計算手段101から送られてきた視点位置/視線方向情報をもとに、パノラマ実写画像記憶部105に対してパノラマ実写画像を要求する。パノラマ実写画像記憶部105は、対応したパノラマ実写画像を画像合成制御手段104に送る。ステップS506の処理が終了したらステップS507に進む。
【0038】
ステップS507では、まず画像合成制御手段104が、地図情報記憶部106に対して地図画像および地図経路を構成する道路セグメント(交差点などで分割された経路で直線とみなせる部分)情報および建物情報の要求を行なう。そして、地図情報記憶部106は、画像合成制御手段104に対して地図画像(図4(a))および地図経路を構成する道路セグメント情報(図4(b))および建物情報(図10)を送る。ここで、地図画像には視点位置/視線方向情報をもとに次の交差点先で曲がる道を色付けしておいてもよい。この場合、使用者が次の交差点先で曲がる道を把握し易くなる。また、地図情報記憶部106から画像合成制御手段104に地図画像を送る際、図10(a)のような建物に関する情報が含まれた地図画像を送ってもよい。
【0039】
次に、画像合成制御手段104は、アノテーションを合成する建物に対応する道路セグメントを探索して求める。道路セグメントの探索とは、使用者がいる道路セグメントを基点セグメントとして、基点セグメントと、繋がっている道路セグメントのなす角度が一定角度以内(例えば5°以内)のものを順々に探索していくことである。図4においては使用者が#4の道路セグメントにいる場合、繋がっている道路セグメント#3、#5、#6、#7、#8のうち、#4となす角度が5°以内なのは#3のみである。ここで、基点セグメント#4と一度探索した道路セグメント#3、#5、#6、#7、#8にはフラグを立てておき再度探索されないようにしておく。次に、#3に繋がっている道路セグメントは#2、#4、#5、#6だが、フラグの立っていない#2のみが探索の対象候補となる。しかし、道路セグメント#2と#4がなす角度は45°であるため探索の対象とはならない。以上より、図4において、使用者が#4の道路セグメントにいる場合の道路セグメントを探索して求めた結果は、#4および#3となる。ステップS507の処理が終了したらステップS508に進む。
【0040】
ステップS508では、ステップS507で求めた道路セグメント情報をもとにアノテーション合成を行なう建物IDを図10(b)のテーブルから求め、アノテーション情報記憶部107に対して建物IDを送る。アノテーション情報記憶部107は、送られてきた建物IDに対応したアノテーション情報を選択されたアノテーション情報として、画像合成制御手段104に送る。ステップS508の処理が終了したらステップS509に進む。
【0041】
ステップS509では、画像合成制御手段104が、画像合成モード、視点位置/視線方向情報、パノラマ実写画像、地図画像、道路セグメント情報、建物情報、アノテーション情報をもとに、画像表示部108に表示する画像を合成して、画像表示部108に送る。画像表示部108は送られた画像を表示する。アノテーション合成の際は、ステップS507で求めた道路セグメント探索結果に対応した建物IDのアノテーションを合成すればよい。合成する位置は使用者の視点位置/視線方向および建物情報に含まれる建物の位置から計算すればよい。ステップS507で求めた道路セグメント探索結果は、使用者がいる道路セグメントを基点セグメントとして、基点セグメントと、繋がっている道路セグメントのなす角度が一定角度以内(例えば5°以内)のものを順々に探索していったものである。よって、使用者は、ステップS507で求めた道路セグメント探索結果、すなわち使用者がいる道路セグメントから見て直線と見なせる道路セグメントに対応した建物のアノテーションのみ観察することができる。このように地図画像の道路形状(経路の形状)をもとに合成するアノテーションを選択することで、3次元モデルを持たなくても画像中の建物(障害物)とアノテーションの関係を正しく表現できる。また、図6(b)に示すように、図6(a)以外のアノテーション(すなわち”○○株式会社”や”△△デパート”に隠れており、かつアノテーション情報を持っている”□□株式会社”のアノテーション)を図6(a)で合成した通常のアノテーションと形を変えて区別するように合成してもよい。このとき、形を変える他に、色を変えたり、サイズを小さくしたり、半透明合成したり、もしくはアノテーション情報をもつ建物があるということだけをアイコン合成してもよい。さらに、通常合成のアノテーション以外のアノテーション(すなわち”○○株式会社”や”△△デパート”に隠れており、かつアノテーション情報を持っている”□□株式会社”のアノテーション)を合成するかどうかのON/OFFを別途画像合成モードとして持ち、操作部100のボタンの入力と合わせてON/OFFを切り替えてもよい。ステップS509の処理が終了したらステップS510に進む。
【0042】
ステップS510では、使用者が終了処理を行なっていた場合、システムを終了させる。システムを終了させるとは、プログラムを終了させたり、システムを構成する各機器の電源を切ったりといった本実施形態の制御方法を終わらせるために最後に行なうステップである。使用者が終了処理を行なっていない場合は、ステップS502に戻る。
【0043】
以上説明したように、例えば道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像の中から、使用者が経路内で観察したい位置の指定を行なうことで1枚のパノラマ実写画像を選択、また使用者が観察したい方向の指定を行なうことでその1枚のパノラマ実写画像の一部分を切り出し、画像中に存在する建物などのアノテーションを合成する際に、使用者が指定した経路上の位置から見て直線と見なせる道路に隣接する建物のアノテーションを選択することで、3次元モデルを持たなくても実写画像(2次元画像)に正しくアノテーションを合成することができる。
【0044】
(他の実施形態)
上記実施形態の変形例である他の実施形態を説明する。
【0045】
他の実施の形態では、視点情報として視点位置のみを用いるようにしてもよい。
【0046】
また、他の実施の形態では、地図画像の大きさ、解像度、さらには一つの画面内での地図画像の合成位置を使用者が操作部100を操作して手動で変更するようにしてもよい。
【0047】
また、他の実施の形態では、画像中のアノテーションを合成する建物の階数に応じて画面内におけるアノテーションを合成する位置(縦方向)を変えたり、パノラマ実写画像を撮影する際の条件(カメラの高さ、画角)によって画面内におけるアノテーションを合成する位置(縦方向)を変えてもよい。
【0048】
建物の高さに応じてアノテーションを合成する位置(縦方向)を変えるときには、例えば地図情報記憶部106に各建物の階数に関する情報を記憶しておき、階層が低いほど低い位置に、階層が高いほど高い位置に合成することでより認識性が増す。
【0049】
また、他の実施の形態では、アノテーション合成対象物は建物に限らず、画像に表示されるもの全て、あるいは撮影を行なった場所自体を対象としてもよい。
また、アノテーション合成する内容は名前だけに限らず、もっと詳細な情報を合成してもよいし、アノテーション情報を持つことを示すアイコンだけを合成して、そのアイコンを選択するとアノテーション情報を合成するようにしてもよい。
【0050】
また、他の実施の形態では、視点位置/視線方向を操作部100から操作して決定するだけではなく、あらかじめ決められた視点位置/視線方向の操作情報によって自動的に決定してもよい。
【0051】
また、他の実施の形態では、図5のステップS507のように道路セグメントの探索を毎回行なわずに、あらかじめ探索結果を求めておき、テーブルなどに記憶したものを読み出してきて利用してもよい。例えば図4(a)の経路においては、各道路セグメントを基点セグメントして、道路セグメントIDと、アノテーションを合成する建物に対応する道路セグメントIDを全て求めて図9のようなテーブルにあらかじめ用意する。図9のテーブルは、合成するアノテーションを選択する際に、ステップS507で道路セグメントを探索する代わりに利用される。ここで、使用者が道路セグメントID#4に存在するときは、道路セグメントIDが#3および#4に対応する建物IDのアノテーションを合成すればよい。なお、図9のテーブルは地図情報記憶部106に記憶され、画像合成制御手段104からの要求に従って送られる。
【0052】
また、他の実施の形態では、パノラマ実写画像記憶部105あるいは地図情報記憶部106あるいはアノテーション情報記憶部107に記憶するデータを、図示しないサーバに記憶しておき、そのデータを図示しない通信手段を経由して画像表示端末にダウンロードしてもよい。こうすることで新しいパノラマ実写画像や地図情報やアノテーション情報などを効率的に画像表示端末で追加・変更することができる。
【0053】
なお、本発明は、複数の機器(例えばホストコンピュータ、インタフェイス機器、リーダ、プリンタなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、複写機、ファクシミリ装置など)に適用してもよい。
【0054】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。
【0055】
この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0056】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0057】
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明したフローチャート(図5)に対応するプログラムコードが格納されることになる。
【0058】
以上説明したように、例えば道路などの経路に沿って撮影を行なった1枚以上のパノラマ実写画像の中から、使用者が経路内で観察したい位置の指定を行なうことで1枚のパノラマ実写画像を選択、また使用者が観察したい方向の指定を行なうことでその1枚のパノラマ実写画像の一部分を切り出し、画像中に存在する建物などのアノテーションを合成する際に、使用者が指定した経路上の位置から見て直線と見なせる道路に隣接する建物のアノテーションを選択することで、3次元モデルを持たなくても実写画像(2次元画像)に正しくアノテーションを合成することができる。
【0059】
【発明の効果】
3次元モデルを持たなくても2次元画像に正しくアノテーションを合成することができる。
【図面の簡単な説明】
【図1】本発明の一つの実施形態における情報処理装置の構成を示すブロック図である。
【図2】従来例を説明するための図である。
【図3】視点位置/視線方向情報を説明するための図である。
【図4】地図画像と道路セグメント情報を説明するための図である。
【図5】本発明の一つの実施形態における情報処理装置の動作を説明するためのフローチャートである。
【図6】アノテーションや地図画像の合成などを説明するための図である。
【図7】道路セグメントの探索結果をあらかじめ求めた結果を示すテーブルである。
【図8】アノテーション合成する建物情報を説明するための図である。
【図9】アノテーション情報を説明するための図である。
Claims (12)
- 経路上の視点位置に対応した2次元画像を取得する2次元画像取得手段と、
前記経路を分割した道路セグメント情報を取得する道路セグメント情報取得手段と、
アノテーション情報を取得するアノテーション情報取得手段と、
道路セグメントのうち視点位置を含む基点セグメントと繋がっており、かつ基点セグメントと一定角度以内の道路セグメントに対応した対象物のアノテーション情報を選択し、前記2次元画像に合成する合成手段とを備えることを特徴とする情報処理装置。 - 前記2次元画像はパノラマ2次元画像であり、
前記2次元画像取得手段は、視点位置に対応したパノラマ2次元画像のうち視線方向に応じた一部分を切り出した2次元画像を取得することを特徴とする請求項1に記載の情報処理装置。 - 前記道路セグメントは、経路の中で直線とみなせる部分的な経路に分割されていることを特徴とする請求項1乃至2のいずれかに記載の情報処理装置。
- 経路上の視点位置に対応した2次元画像を取得し、
前記経路を分割した道路セグメント情報を取得し、
アノテーション情報を取得し、
道路セグメントのうち視点位置を含む基点セグメントと繋がっており、かつ基点セグメントと一定角度以内の道路セグメントに対応した対象物のアノテーション情報を選択し、前記2次元画像に合成することを特徴とする情報処理方法。 - 前記2次元画像はパノラマ2次元画像であり、
前記2次元画像を取得する際に、視点位置に対応したパノラマ2次元画像のうち視線方向に応じた一部分を切り出した2次元画像を取得することを特徴とする請求項4に記載の情報処理方法。 - 前記道路セグメントは、経路の中で直線とみなせる部分的な経路に分割されていることを特徴とする請求項4乃至5のいずれかに記載の情報処理方法。
- 2次元画像中のアノテーション対象物あるいは2次元画像を撮像したときのカメラ高さや画角によってアノテーションの合成位置を縦方向に変えることを特徴とする請求項4乃至6のいずれかに記載の情報処理方法。
- 視点位置を含む基点セグメントと繋がっており、かつ基点セグメントと一定角度以内の道路セグメントを、順次探索して求めることを特徴とする請求項4乃至7のいずれかに記載の情報処理方法。
- 視点位置を含む基点セグメントと繋がっており、かつ基点セグメントと一定角度以内の道路セグメントは、各道路セグメントを基点セグメントとして、全ての基点セグメントについてあらかじめ求めて保存したテーブルから取得することを特徴とする請求項4乃至7のいずれかに記載の情報処理方法。
- 請求項4乃至9のいずれかに記載の情報処理方法を実現するためのプログラム。
- 請求項4乃至9のいずれかに記載の情報処理方法を実現するためのプログラムを記録した記録媒体。
- 視点位置に対応した画像を取得し、
前記視点位置に対応した道路セグメント情報を取得し、
前記道路セグメント情報に基づき、あらかじめ保持されているアノテーション情報群から前記取得した画像に合成すべきアノテーションを選択し、
前記選択されたアノテーションを前記画像に合成することを特徴とする情報処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003023825A JP2004234457A (ja) | 2003-01-31 | 2003-01-31 | 情報処理装置、方法、プログラムおよび記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003023825A JP2004234457A (ja) | 2003-01-31 | 2003-01-31 | 情報処理装置、方法、プログラムおよび記憶媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004234457A true JP2004234457A (ja) | 2004-08-19 |
Family
ID=32952521
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003023825A Withdrawn JP2004234457A (ja) | 2003-01-31 | 2003-01-31 | 情報処理装置、方法、プログラムおよび記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004234457A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007052458A1 (ja) * | 2005-11-01 | 2007-05-10 | Matsushita Electric Industrial Co., Ltd. | 情報表示装置 |
JP2011215412A (ja) * | 2010-03-31 | 2011-10-27 | Zenrin Datacom Co Ltd | 地図画像処理装置、地図画像処理方法及び地図画像処理プログラム |
JP2013225275A (ja) * | 2012-03-21 | 2013-10-31 | Geo Technical Laboratory Co Ltd | 3次元画像表示システム |
-
2003
- 2003-01-31 JP JP2003023825A patent/JP2004234457A/ja not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007052458A1 (ja) * | 2005-11-01 | 2007-05-10 | Matsushita Electric Industrial Co., Ltd. | 情報表示装置 |
JP2011215412A (ja) * | 2010-03-31 | 2011-10-27 | Zenrin Datacom Co Ltd | 地図画像処理装置、地図画像処理方法及び地図画像処理プログラム |
JP2013225275A (ja) * | 2012-03-21 | 2013-10-31 | Geo Technical Laboratory Co Ltd | 3次元画像表示システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11381758B2 (en) | System and method for acquiring virtual and augmented reality scenes by a user | |
US11257233B2 (en) | Volumetric depth video recording and playback | |
US7576742B2 (en) | Picture display controller, moving-picture information transmission/reception system, picture display controlling method, moving-picture information transmitting/receiving method, and computer program | |
US20240112430A1 (en) | Techniques for capturing and displaying partial motion in virtual or augmented reality scenes | |
US10403044B2 (en) | Telelocation: location sharing for users in augmented and virtual reality environments | |
US9412204B2 (en) | Virtual image generating apparatus, virtual image generating method, and recording medium storing virtual image generating program | |
JP3992629B2 (ja) | 画像生成システム、画像生成装置、画像生成方法 | |
US8933965B2 (en) | Method for calculating light source information and generating images combining real and virtual images | |
US8493380B2 (en) | Method and system for constructing virtual space | |
JP2004062756A (ja) | 情報提示装置および情報処理方法 | |
JP7060778B2 (ja) | 情報処理システム、情報処理システムの制御方法及びプログラム | |
JP2003125361A (ja) | 情報処理装置、情報処理方法、情報処理プログラム、及び情報処理システム | |
JP6635573B2 (ja) | 画像処理システム、画像処理方法、及びプログラム | |
JP2005044102A (ja) | 画像再生方法及び画像再生装置 | |
JP2004199159A (ja) | 情報処理方法、情報処理装置、プログラムおよび記憶媒体 | |
JP2003208634A (ja) | 情報処理装置および方法 | |
JP2004062755A (ja) | 画像提示装置および情報処理方法 | |
JP2004234457A (ja) | 情報処理装置、方法、プログラムおよび記憶媒体 | |
JP2004310686A (ja) | 画像処理方法及び装置 | |
EP3510440B1 (en) | Electronic device and operation method thereof | |
JP2003208146A (ja) | 画像表示装置および情報処理方法 | |
JPH11174950A (ja) | 情報処理装置及びその方法、コンピュータ可読メモリ | |
JP7447403B2 (ja) | 情報処理装置、情報処理システム、情報処理方法及びプログラム | |
WO2020262391A1 (ja) | 表示制御装置、表示制御方法、及びプログラム | |
US20240087157A1 (en) | Image processing method, recording medium, image processing apparatus, and image processing system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060404 |