JP6122991B2 - 画像表示装置および画像表示方法 - Google Patents

Description

この発明は、画像を表示する装置および方法に関する。

デジタルスチルカメラやデジタルビデオカメラが普及しており、撮影した静止画や動画をコンピュータに保存して閲覧、加工したり、ゲーム機やテレビジョン（ＴＶ）システムの画面に表示する機会が多くなっている。また、撮影した動画をインターネットの投稿サイトにアップロードし、他のユーザと動画を共有することも盛んである。

デジタルカメラの中には、パノラマ画像の撮影が可能なものもあり、手軽に視野角の広いパノラマ画像を撮影することができるようになってきた。また、撮影方向を変えながら、デジタルカメラの撮影した複数の画像を貼り合わせることでパノラマ画像を生成するソフトウエアツールもよく利用されている。

ユーザが撮影したこのようなパノラマ画像の投稿を受け付け、インターネットで公開する３６０ｃｉｔｉｅｓというサイト（http;//www.360cities.net）もあり、世界中のユーザが投稿したパノラマ画像を閲覧することができる。

撮影場所の異なるパノラマ画像がサイトに多数投稿されると、撮影場所でパノラマ画像を整理するなどの工夫をしない限り、撮影場所の異なる複数のパノラマ画像がただ漫然とサイトにあるだけとなってしまい、パノラマ画像の利用が促進されない。

上述の３６０ｃｉｔｉｅｓというサイトでは投稿されたパノラマ画像を平面地図上に貼り付けることで、地図上の地点を検索しながら、その地点で撮影されたパノラマ画像を選択して閲覧できるインタフェースが利用されている。

しかしながら、撮影場所の異なるパノラマ画像は互いに直接的に関連付けられているわけではないため、ある地点で撮影されたパノラマ画像の閲覧が終わると、ユーザは地図表示に戻って別の地図上の地点を検索して新たな地点で撮影されたパノラマ画像を選択しなければならない。

本発明はこうした課題に鑑みてなされたものであり、その目的は、撮影場所の異なるパノラマ画像を互いに関連づけて、効率良く閲覧することのできる技術を提供することにある。

上記課題を解決するために、本発明のある態様の画像表示装置は、撮影場所に関する情報と撮影方位に関する情報が関連付けられた画像を保持する記憶部と、前記記憶部から表示対象の画像を取得する取得部と、表示対象の画像を画面に表示させる表示制御部と、前記表示対象の画像の撮影方向に他の画像の撮影場所が存在する場合、その撮影方向に他の画像が存在することを示すマーカーを前記表示対象の画像に関連付けるマーカー設定部とを含む。前記表示制御部は、前記表示対象の画像の同一の撮影方向またはその近傍に複数のマーカーが関連付けられている場合、前記複数のマーカーをまとめた代表マーカーを表示する。
本発明の別の態様は、画像表示方法である。この方法は、撮影場所に関する情報と撮影方位に関する情報が関連付けられた画像を保持する記憶デバイスから、プロセッサが表示対象の画像を読み出すステップと、表示対象の画像を画面に表示させる表示制御ステップと、前記表示対象の画像の撮影方向に他の画像の撮影場所が存在する場合、その撮影方向に他の画像が存在することを示すマーカーを前記表示対象の画像に関連付けるマーカー設定ステップとを含む。前記表示制御ステップは、前記表示対象の画像の同一の撮影方向またはその近傍に複数のマーカーが関連付けられている場合、前記複数のマーカーをまとめた代表マーカーを表示する。

本発明のさらに別の態様は、パノラマ画像表示装置である。この装置は、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する記憶部と、前記記憶部から表示対象のパノラマ画像を取得する取得部と、前記表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、その撮影方向に他のパノラマ画像が存在することを示すマーカーを前記表示対象のパノラマ画像に関連付けるマーカー設定部と、他のパノラマ画像のマーカーが関連付けられた前記表示対象のパノラマ画像をテクスチャとして３次元パノラマ空間にマッピングするマッピング処理部と、前記表示対象のパノラマ画像の撮影場所を視点位置として、前記３次元パノラマ空間を指定された視線方向に見たときの３次元パノラマ画像を生成する３次元画像生成部と、前記３次元パノラマ画像を画面に表示させる表示制御部と、表示された３次元パノラマ画像に対するユーザの指示を受け付けるインタフェース部とを含む。
本発明のさらに別の態様もまた、パノラマ画像表示装置である。この装置は、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する記憶部と、前記記憶部から表示対象のパノラマ画像を取得する取得部と、前記表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、その撮影方向に他のパノラマ画像が存在することを示すマーカーを前記表示対象のパノラマ画像に関連付けるマーカー設定部と、他のパノラマ画像のマーカーが関連付けられた表示対象のパノラマ画像を画面に表示させる表示制御部とを含む。

本発明のさらに別の態様は、パノラマ画像表示方法である。この方法は、撮影場所に関する情報と撮影方位に関する情報が関連付けられた複数のパノラマ画像が記憶された記憶デバイスから、ある撮影場所のパノラマ画像を表示対象としてプロセッサが読み出すステップと、表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、プロセッサがその撮影方向に他のパノラマ画像が存在することを示すマーカーを表示対象のパノラマ画像に関連づけた上で、表示対象のパノラマ画像を画面に表示させるステップとを含む。

本発明のさらに別の態様は、プログラムである。このプログラムは、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する記憶部から表示対象のパノラマ画像を取得する機能と、前記表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、その撮影方向に他のパノラマ画像が存在することを示すマーカーを前記表示対象のパノラマ画像に関連付ける機能と、前記表示対象のパノラマ画像を他のパノラマ画像のマーカーとともにテクスチャとして３次元パノラマ空間にマッピングする機能と、前記表示対象のパノラマ画像の撮影場所を視点位置として、前記３次元パノラマ空間を指定された視線方向に見たときの３次元パノラマ画像を生成する機能とをコンピュータに実現させる。

なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。

本発明によれば、撮影場所や撮影時間の異なるパノラマ画像を効率良く閲覧することができる。

実施の形態に係るパノラマ画像表示装置の構成図である。 図１のパノラマ画像表示装置に接続される入力デバイスの一例であるコントローラの構成図である。 図３（ａ）〜（ｄ）は、パノラマ画像を撮影するために用いられる全方位撮影システムの機構と撮影方向を説明する図である。 図４（ａ）はカメラ２００の方位角θ、図４（ｂ）はカメラ２００の仰角φを説明する図である。 図５（ａ）〜（ｃ）は、カメラの初期位置が方位角θの方向にある場合に撮影されるパノラマ画像を説明する図である。 図６（ａ）〜（ｃ）は、カメラの仰角φ＝６０°の場合に撮影されるパノラマ画像を説明する図である。 複数の画像をつなぎ合わせてパノラマ画像を作成する方法を説明する図である。 複数の画像をつなぎ合わせてパノラマ画像を作成する方法を説明する図である。 図８（ａ）〜（ｅ）は、複数の画像をつなぎ合わせるときの色差補正によるアライメントの方法を説明する図である。 図９（ａ）〜（ｃ）は、レンズ歪みの補正を説明する図である。 ２次元地図上の撮影場所にシンボルとして表示されるパノラマ画像を説明する図である。 ３次元表示された地球の表面上の撮影場所にシンボルとして表示されるパノラマ画像を説明する図である。 マーカーが関連付けられたパノラマ画像を説明する図である。 図１２のマーカーが関連付けられたパノラマ画像が３次元表示される様子を模式的に示す図である。 マーカーを選択したときに３次元表示されるパノラマ画像を説明する図である。 ある撮影地点から別の撮影地点に視点が移動したときの視線方向の設定例を説明する図である。

本発明の実施の形態の概要を説明する。異なる撮影位置で撮影された複数のパノラマ画像が与えられたとする。ある撮影位置で撮影されたパノラマ画像を表示対象に選び、ビューアで閲覧する際、他の撮影位置で撮影されたパノラマ画像が存在することを表示対象のパノラマ画像内にマーカーで表示する。

パノラマ画像には撮影場所の緯度・経度情報の他に、パノラマ画像の撮影方位に関する情報も含まれている。パノラマ画像のある撮影方向、たとえば、南西方向に別のパノラマ画像を撮影した場所が存在するとする。そのとき、表示対象のパノラマ画像において南西方向が撮影された箇所に別のパノラマ画像が存在することを示すマーカーを表示する。パノラマ画像にはこのようなマーカーが多数関連付けられる。

ユーザが表示対象のパノラマ画像をビューアで閲覧しているとき、パノラマ画像内のマーカーを選択すると、これまで閲覧していたパノラマ画像に代えて、マーカーに対応する別のパノラマ画像が表示される。別のパノラマ画像の特定の撮影方向にさらに別のパノラマ画像の撮影場所があれば、その撮影方向に同様にマーカーが表示されており、マーカーを選択することでさらに別のパノラマ画像に切り替えることができる。

このように、ユーザはパノラマ画像内に表示されたマーカーを選択することで、あたかもある撮影場所から別の撮影場所にワープするようにして、パノラマ画像を切り替えて閲覧することができる。

図１は、実施の形態に係るパノラマ画像表示装置１００の構成図である。パノラマ画像・付加データ記憶部２４は、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する。撮影場所や撮影方位に関する情報などの付加データはパノラマ画像のデータファイルに直接付加されてもよく、付加データはパノラマ画像とは別のファイルとして管理されてもよい。

撮影場所に関する情報は、たとえば、ＧＰＳ（Global Positioning System）により与えられる緯度・経度情報を含む。撮影方位に関する情報は、たとえば、方位センサなどから得られるパノラマ画像の中心点の方位角の情報を含み、それ以外に撮影時のカメラの仰角やロール角の情報を含んでもよい。

撮影方位に関する情報としてパノラマ画像の中心点の方位角が与えられれば、カメラを左右方向にパンした角度にもとづいて、パノラマ画像の任意の点の方位を計算上、求めることができる。パノラマ画像の中心点の方位角とパン角にもとづいて計算された、パノラマ画像の真北、真南、真東、真西の方位にあるピクセルの座標値を撮影方位に関する情報としてパノラマ画像にもたせてもよい。

パノラマ画像取得部１０は、表示対象のパノラマ画像をパノラマ画像・付加データ記憶部２４から取得する。表示対象のパノラマ画像は、ユーザが地図などで撮影場所を指定することで特定される他、ユーザがパノラマ画像内のマーカーを指定することでマーカーに対応する別のパノラマ画像が新たな表示対象のパノラマ画像に指定されることもある。

マーカー設定部１２は、表示対象のパノラマ画像の撮影方位に他のパノラマ画像の撮影場所が存在する場合、その撮影方位に他のパノラマ画像が存在することを示すマーカーを表示対象のパノラマ画像に関連付ける。マーカー設定部１２は、表示対象のパノラマ画像の緯度・経度情報と、パノラマ画像・付加データ記憶部２４に格納されている他のパノラマ画像の緯度・経度情報とにもとづいて、他のパノラマ画像の撮影場所が表示対象のパノラマ画像のどの方位にあるかを特定することができる。マーカーはパノラマ画像間を撮影位置と撮影方位にもとづいて関連づけるリンクとして機能する。マーカーは、リンク先のパノラマ画像を特定するために、リンク先のパノラマ画像の撮影場所の緯度・経度情報を含んでもよく、リンク先のパノラマ画像を一意に特定する識別情報を含んでもよい。

マーカー設定部１２は、表示対象のパノラマ画像の撮影場所から他のパノラマ画像の撮影場所までの距離に応じて、マーカーの表示態様を異ならせる。たとえば、近距離にある撮影場所のマーカーほど目立つように大きさ、色、形状などを変えて強調表示したり、遠い撮影場所のマーカーは半透明にしたり、他のマーカーよりも上方に表示することで、ユーザに遠くにあると感じさせるようにする。

マッピング処理部１４は、他のパノラマ画像のマーカーが関連付けられた表示対象のパノラマ画像をテクスチャとして３次元パノラマ空間にマッピングする処理を行う。全天球パノラマ画像の場合は、３次元パノラマ空間として球を想定し、球面マッピングにより、パノラマ画像を球面にテクスチャマッピングする。あるいは、３次元パノラマ空間として立方体を想定し、キューブマッピングにより、パノラマ画像を立方体表面にテクスチャマッピングしてもよい。また、パノラマ画像がチルト方向の成分をもたず、パン方向にのみ広がる画像である場合、３次元パノラマ空間として円柱を想定し、パノラマ画像を円柱面にテクスチャマッピングしてもよい。パノラマ画像がパン方向の成分をもたず、チルト方向にのみ広がる画像である場合も同様である。

マッピング処理部１４は、表示対象のパノラマ画像をテクスチャとして３次元パノラマ空間にマッピングした後で、そのパノラマ画像の撮影方向に関連付けられたマーカーを３次元パノラマ空間にマッピングする。これにより、マーカーはパノラマ画像に合成される。

なお、マッピング処理部１４は、表示対象のパノラマ画像に関連付けられたすべてのマーカーをマッピングするとは限らない。パノラマ画像に多数のマーカーを合成すると、見づらくなることがあるからである。そこで、表示対象のパノラマ画像の同一の撮影方向またはその近傍に多数のマーカーが集中して関連付けられている場合は、複数のマーカーをまとめた一つの代表マーカーをマッピングして表示することにし、カーソルを近づけた場合に、まとめられていた複数のマーカーが展開して表示されるようにしてもよい。また、パノラマ画像の付加情報として与えられるキーワードなどの情報でマーカーをテーマ別に分類し、ユーザの好みに合ったテーマのマーカーだけをマッピングするようにしてもよい。

３次元画像生成部１６は、マッピング処理部１４によりパノラマ画像がテクスチャマッピングされた３次元パノラマ空間内を指定された視線方向に見たときの３次元パノラマ画像を生成する。３次元パノラマ空間が球の場合、視点は球の中心に置かれ、立方体の場合、視点は立方体内部の中心に置かれ、円柱の場合、視点は円柱の中心軸上に置かれる。視点は表示対象のパノラマ画像を撮影した場所であり、視線方向は、その撮影場所から周囲を見る方向であり、方位角と仰角で特定される。３次元画像生成部１６は、方位角と仰角で特定される視線方向で３次元パノラマ空間を見たときの３次元画像を生成する。

地図生成部２０は、地図データ記憶部２６に保持される地図データを参照し、撮影位置に対応する地球表面上の位置にパノラマ画像の存在を示すシンボルを設定して地球表面の地図画像を生成する。

表示制御部１８は、生成された３次元パノラマ画像や地図画像をディスプレイ装置の画面に表示させる。

ユーザインタフェース部４０は、ディスプレイの画面に表示されるグラフィックスに対して、ユーザが入力デバイスを用いて操作することを可能にするグラフィカルユーザインタフェースである。ユーザインタフェース部４０は、画面に表示された地図や３次元パノラマ画像に対するゲーム機のコントローラ、マウス、キーボードなどの入力デバイスからユーザの指示を受け付ける。図２は、入力デバイスの一例であるコントローラ１０２を示し、その構成の詳細については後述する。

ユーザインタフェース部４０は、表示された地図画像上のパノラマ画像のシンボルを選択する指示をユーザから受け取ると、指定されたパノラマ画像をパノラマ画像・付加データ記憶部２４から取得するように、パノラマ画像取得部１０に指示する。

ユーザは、たとえば、コントローラ１０２のアナログスティック１１８または方向キー群１１６などを操作することにより、３次元パノラマ空間を見る視線方向を変更する指示を入力することができる。ユーザインタフェース部４０の視線方向設定部３２は、ユーザが指示する視線方向を３次元画像生成部１６に与える。３次元画像生成部１６は、３次元パノラマ空間を指定された視線方向から見た場合の画像を生成する。

画角設定部３１は、ユーザが表示されたパノラマ画像に対してズーム操作をしたときの画角を設定し、パノラマ画像取得部１０と３次元画像生成部１６に設定された画角の情報を与える。画角の異なるパノラマ画像がパノラマ画像・付加データ記憶部２４に記憶されている場合、パノラマ画像取得部１０は、設定された画角にもっとも近い画角のパノラマ画像を読み出し、表示対象のパノラマ画像を切り替える。３次元画像生成部１６は、設定された画角に応じて３次元パノラマ画像を拡大・縮小することで、ズームイン・ズームアウトの視覚効果を実現する。

パノラマ画像には、撮影高度に関する情報も付与されており、パノラマ画像・付加データ記憶部２４は、同一の撮影位置に対して異なる高度で撮影されたパノラマ画像を保持してもよい。その場合、ユーザは、たとえば、コントローラ１０２の筐体前面の左側にあるＬ１／Ｌ２ボタン１６１、１６２を操作することにより、高度を変更する指示を入力することができる。Ｌ１ボタン１６１を押すことにより、高度を上げる指示を、Ｌ２ボタン１６２を押すことにより、高度を下げる指示を与えることができる。

表示制御部１８は、現在表示されているパノラマ画像について、同一撮影場所で異なる高度で撮影したパノラマ画像があることを、たとえば、画面の上部、下部に小さな矢印を示すことでユーザに知らせてもよい。画面の上部に上向きの矢印があれば、現在よりも撮影高度の高い画像があることを示し、画面の下部に下向きの矢印があれば、現在よりも撮影高度の低い画像があることを示す。

ユーザインタフェース部４０の高度設定部３４は、ユーザから高度を変更する指示を受け取ると、同一緯度・経度であるが、指定された高度に対応するパノラマ画像をパノラマ画像・付加データ記憶部２４から取得するように、パノラマ画像取得部１０に指示する。パノラマ画像取得部１０は、Ｌ１ボタン１６１が押された場合は、現在表示されているパノラマ画像よりも撮影高度のより高いパノラマ画像を取得し、Ｌ２ボタン１６２が押された場合は、撮影高度のより低いパノラマ画像を取得する。

表示制御部１８は、撮影高度の異なるパノラマ画像に切り替えて表示する際、たとえば、ユーザがエレベータで上下しているかのような感覚を与えるために、特別なエフェクトを画像に施してもよい。たとえば、より高度の高いパノラマ画像に切り替える場合、現在表示されているパノラマ画像を下にスクロールさせて、より高度の高いパノラマ画像が上から降りてくるように表示させることで、ユーザはあたかも階上に行ったかのような感覚をもつことができる。

パノラマ画像には、撮影日時に関する情報も付与されており、パノラマ画像・付加データ記憶部２４は、同一の撮影位置に対して撮影日時の異なるパノラマ画像を保持してもよい。その場合、ユーザは、たとえば、コントローラ１０２の筐体前面の右側にあるＲ１／Ｒ２ボタン１５１、１５２を操作することにより、撮影日時を変更する指示を入力することができる。Ｒ１ボタン１５１を押すことにより、遅い日時にシフトする指示を、Ｒ２ボタン１５２を押すことにより、早い日時にシフトする指示を与えることができる。

表示制御部１８は、現在表示されているパノラマ画像について、異なる日時に撮影したパノラマ画像があることを、たとえば、時計やカレンダーのアイコンを画面の隅に示すことでユーザに知らせてもよい。朝、昼、夜など時間帯の異なるパノラマ画像が存在するときは時計のアイコンを、春、夏、秋、冬など季節の異なるパノラマ画像が存在するときはカレンダーのアイコンを表示する。

ユーザインタフェース部４０の日時設定部３６は、ユーザから日時を変更する指示を受け取った場合、同一撮影位置であるが、指定された日時に対応するパノラマ画像をパノラマ画像・付加データ記憶部２４から取得するように、パノラマ画像取得部１０に指示する。パノラマ画像取得部１０は、Ｒ１ボタン１５１が押された場合は、現在表示されているパノラマ画像よりも撮影日時のより新しいパノラマ画像を取得し、Ｒ２ボタン１５２が押された場合は、撮影日時のより古いパノラマ画像を取得する。

これにより、たとえば、同一撮影場所であっても、朝の時間帯に撮影されたパノラマ画像から夜の時間帯にパノラマ画像に切り替えたり、春に撮影されたパノラマ画像から秋に撮影されたパノラマ画像に切り替えるなど、時間帯や季節などが異なるパノラマ画像に切り替えることができる。表示制御部１８は、パノラマ画像を切り替えるとき、フェイドイン・フェイドアウトなどのエフェクトを画像に施してもよい。

表示されたパノラマ画像に関連付けられたマーカーをユーザが選択すると、ユーザインタフェース部４０のマーカー選択部３８は、選択されたマーカーに対応する別のパノラマ画像の撮影場所をあらたな視点位置に設定する指示を視点位置設定部３０に与える。視点位置設定部３０は、新たな視点位置に対応するパノラマ画像、すなわち、マーカーで特定される別のパノラマ画像をパノラマ画像・付加データ記憶部２４から取得するように、パノラマ画像取得部１０に指示する。また、視点位置設定部３０は、新たな視点位置を３次元画像生成部１６に通知する。

さらに、マーカー選択部３８は、現在表示されているパノラマ画像から、マーカーで特定される別のパノラマ画像に切り替えたとき、視線方向が一定の方向に固定されるように、視線方向を所定の方向に設定する指示を視線方向設定部３２に与えることもできる。たとえば、マーカー選択部３８は、現在のパノラマ画像の撮影位置からマーカーで特定される別のパノラマ画像の撮影位置を見る方向に初期視線方向を設定するように、視線方向設定部３２に指示してもよい。あるいは、マーカーで特定される別のパノラマ画像の撮影位置から現在のパノラマ画像の撮影位置を振り返る方向に初期視線方向を設定するように指示してもよい。

視線方向設定部３２は、指定された視線方向を３次元画像生成部１６に与える。３次元画像生成部１６は、パノラマ画像を切り替えるとき、視線方向設定部３２により指定された視線方向から３次元パノラマ空間を見たときの画像を生成する。これにより、ユーザはマーカーが設定された方位に視線方向を設定して、新しいパノラマ画像を見ることや、マーカーを選択する前に見ていたパノラマ画像の撮影場所を振り返る方向に視線方向を設定して、新しいパノラマ画像を見ることができる。

図２は、図１のパノラマ画像表示装置１００に接続される入力デバイスの一例であるコントローラ１０２の構成図である。パノラマ画像表示装置１００は、一例としてゲーム機であってもよい。

コントローラ１０２は、パノラマ画像表示装置１００に対する操作入力を行うための複数のボタンやキーを有する。ユーザがコントローラ１０２のボタンやキーを操作すると、その操作入力が無線または有線によりパノラマ画像表示装置１００に送信される。

コントローラ１０２の筐体上面１２２には、方向キー群１１６、アナログスティック１１８、操作ボタン群１２０が設けられている。方向キー群１１６は、「上」、「下」、「左」、「右」方向指示キーを含む。操作ボタン群１２０は、○ボタン１２４、×ボタン１２６、□ボタン１２８、および△ボタン１３０を含む。

ユーザは左手で左側把持部１３４ｂを把持し、右手で右側把持部１３４ａを把持して、筐体上面１２２上の方向キー群１１６、アナログスティック１１８、および操作ボタン群１２０を操作する。

さらに、コントローラ１０２の筐体前面には、右側操作部１５０と左側操作部１６０が設けられている。右側操作部１５０はＲ１ボタン１５１とＲ２ボタン１５２を含み、左側操作部１６０はＬ１ボタン１６１とＬ２ボタン１６２を含む。

ユーザは、方向キー群１１６を操作することにより、画面上の表示されたポインタを上下左右の各方向に移動させることができる。たとえば、パノラマ画像内に表示された複数のマーカーのいずれかを選択する際、方向キー群１１６を操作して画面上で複数のマーカー間を移動することができる。ユーザは所望のマーカー上にポインタが来たときに、○ボタン１２４を押すことでそのマーカーを選択することができる。

操作ボタン群１２０の各ボタンには、パノラマ画像表示アプリケーションプログラムによりそれぞれ異なる機能が割り付けられてもよい。たとえば、△ボタン１３０にはメニューの表示を指定する機能、×ボタン１２６には、選択した項目の取り消し等を指定する機能、○ボタン１２４には選択した項目の決定等を指定する機能、□ボタン１２８には、目次等の表示／非表示を指定する機能がそれぞれ割り付けられる。

アナログスティック１１８は、ユーザによって傾倒操作されたとき、アナログ値を出力する手段を備える。コントローラ１０２は、アナログスティック１１８を傾倒したときの方向と量に応じたアナログ出力信号をパノラマ画像表示装置１００に送る。たとえば、ユーザは、アナログスティック１１８を所望の方向に傾倒することで、ディスプレイに表示された３次元パノラマ画像内で視点を所望の方向に移動させることができる。

筐体上面１２２には、さらにＬＥＤ付きボタン１３６、セレクトボタン１４０、スタートボタン１３８が設けられる。ＬＥＤ付きボタン１３６は、たとえば、ディスプレイにメニュー画面を表示させるためのボタンとして利用される。スタートボタン１３８は、パノラマ画像表示アプリケーションの起動、パノラマ画像の再生開始、一時停止などをユーザが指示するためのボタンである。セレクトボタン１４０は、ディスプレイに表示されたメニュー表示の選択等をユーザが指示するためのボタンである。

図３（ａ）〜（ｄ）は、パノラマ画像を撮影するために用いられる全方位撮影システム２３０の機構と撮影方向を説明する図である。

図３（ｄ）に示すように、全方位撮影システム２３０において、カメラ２００は操作盤２１０に固定されており、操作盤２１０をＺ軸周りに回転させることでカメラのパン角を変え、Ｘ軸周りに回転させることでカメラのチルト角を変え、Ｙ軸周りに回転させることでカメラのロール角を変えることができる。ここでＺ軸は鉛直軸（重力方向軸）である。

図３（ａ）は、操作盤２１０に設置されたカメラ２００の上面図であり、操作盤の初期位置（Ｙ軸方向）をパン角０°とし、Ｚ軸の周りに−１８０°〜＋１８０°の範囲でパン角を変えることができる。

図３（ｂ）は、操作盤２１０に設置されたカメラ２００の正面図であり、操作盤２１０が水平に置かれた状態をロール角０°とし、Ｙ軸の周りに−１８０°〜＋１８０°の範囲でロール角を変えることができる。

図３（ｃ）は、操作盤２１０に設置されたカメラ２００の側面図であり、操作盤２１０が水平に置かれた状態をチルト角０°とし、Ｘ軸の周りに−９０°〜＋９０°の範囲でチルト角を変えることができる。

図３（ｄ）の全方位撮影システム２３０により撮影されるパノラマ画像に撮影方位に関する情報を付与するためには、カメラ２００が撮影時にどの方位に向いていたかを記録しておく必要がある。そのために、全方位撮影システム２３０は、方位を測定するための方位センサや傾斜角を測定するための加速度センサなどを備える。さらに、撮影位置や撮影時間を測定するためにＧＰＳセンサなども備える。

図４（ａ）はカメラ２００の方位角θ、図４（ｂ）はカメラ２００の仰角φを説明する図である。図４（ａ）はカメラ２００の上面図であり、カメラ２００は撮影の初期位置において、真北から東へ方位角θだけずれた方向２２０を向いており、この方向がパン角０°に相当する。すなわちパン角の基準方向２２０の方位角はθである。パノラマ画像を撮影するとき、この方位角θの基準方向２２０に対して−１８０°〜＋１８０°の範囲でパン角を変えながら、被写体をパノラマ撮影する。

図４（ｂ）はカメラ２００の側面図であり、仰角φは、Ｘ軸周りにカメラ２００を回転させた場合に、チルト０°の方向、すなわちＹ軸方向に対して上方向を正と定義する角度である。通常、カメラ２００を水平ポジションに設定して撮影するので仰角φ＝０°であるが、全天球のパノラマ画像を撮影するには、カメラをチルトさせて仰角φを変えて被写体を撮影する必要がある。

図５（ａ）〜（ｃ）は、カメラ２００の初期位置が方位角θの方向にある場合に撮影されるパノラマ画像を説明する図である。

図５（ａ）の上面図に示すように、初期位置においてカメラ２００は方位角θの方向２２０を向いており、図５（ｂ）の側面図に示すように、カメラ２００の仰角φ＝０°である。仰角φ＝０°に保ちながら、基準方向２２０に対してカメラ２００のパン角を−１８０°から＋１８０°の範囲で変化させながら、仰角φ＝０°における全方位のパノラマ画像を撮影する。図５（ｃ）は、このようにして撮影されたパノラマ画像３００を示す。パノラマ画像３００の中心はパン角０°であり、パノラマ画像３００の左半分はパン角を０°から−１８０°まで変えて撮影された画像であり、右半分はパン角を０°から１８０°まで変えて撮影された画像である。

パノラマ画像３００のパン角０°の中心位置は、真北から方位角θだけ東にずれているから、北（Ｎ）、南（Ｓ）、東（Ｅ）、西（Ｗ）の位置は点線で示す箇所になる。パノラマ画像３００は、撮影方位に関する情報として、パン角０°の中心位置の方位角θをもってさえいれば、北（Ｎ）、南（Ｓ）、東（Ｅ）、西（Ｗ）のピクセル位置は、方位角θのずれを考慮して計算で求めることができる。あるいは、方位角θの代わりに、北（Ｎ）、南（Ｓ）、東（Ｅ）、西（Ｗ）のピクセル位置の座標値を撮影方位に関する情報としてもうようにしてもよい。

全天球のパノラマ画像を得るためには、カメラ２００の仰角を変えて撮影する必要がある。たとえば、カメラ２００の画角が６０°であるとすると、原理的にはカメラ２００を上下に±６０°チルトさせた上で、パン角を−１８０°〜１８０°の範囲で変えながら同様の撮影を行えば、全天球のパノラマ画像を得ることができる。

図６（ａ）〜（ｃ）は、カメラ２００の仰角φ＝６０°の場合に撮影されるパノラマ画像を説明する図である。図６（ａ）の上面図に示すように、初期位置においてカメラ２００は方位角θの方向２２０を向いており、図６（ｂ）の側面図に示すように、カメラ２００の仰角φ＝６０°である。仰角φ＝６０°に保ちながら、基準方向２２０に対してカメラ２００のパン角を−１８０°から＋１８０°の範囲で変化させながら、図６（ｃ）に示すような、仰角φ＝６０°におけるパノラマ画像３０２を撮影する。

同様にして、カメラ２００の仰角をφ＝−６０°に保ちながら、パン角を−１８０°から＋１８０°の範囲で変化させながら、仰角φ＝−６０°におけるパノラマ画像を撮影する。仰角φ＝０°、６０°、−６０°のパノラマ画像を組み合わせれば、全天球パノラマ画像が得られる。もっとも、実装上は、画角の境界部分で画像を貼り合わせる際にレンズの歪みから生じる不整合を補正するために、境界付近をだぶらせて撮影する方法を採ることが多い。

このようにして得られた全天球パノラマ画像には、方位角および仰角の情報が付与されており、その情報にもとづいてパノラマ画像の任意のピクセルについて方位と仰角を特定可能である。また、パノラマ画像には撮影場所の位置情報としてＧＰＳにより測定された緯度・経度情報も付与される。パノラマ画像に付与すべき付加情報は、一例として、Ｅｘｉｆ（Exchangeable Image File Format）と呼ばれる画像ファイルの規格にしたがって記録してもよい。撮影場所の地名はファイル名の一部に記録し、撮影日時、撮影場所の緯度・経度、高度、方位角などをＥｘｉｆ形式のデータとして記録することができる。仰角はＥｘｉｆ形式では定義されていないが、拡張データとして記録する。

図７Ａおよび図７Ｂは、複数の画像をつなぎ合わせてパノラマ画像を作成する方法を説明する図である。

図７Ａの例では、カメラ２００をチルト（またはパン）させながら撮影された７枚の画像３４１〜３４７を円筒にマッピングした後、つなぎ合わせて円筒状の画像３４０を作成する。画像をつなぎ合わせるとき、画像の境界付近をオーバーラップさせる。

図７Ｂに示すように、カメラ２００をパン（またはチルト）させて撮影することで、図７Ａで示した円筒状の画像がパン（またはチルト）方向に複数得られる。これらの円筒状の画像３４０ａ〜３４０ｆを画像の境界付近をオーバーラップさせて合成することで、全方位のパノラマ画像３６０が最終的に得られる。

図８（ａ）〜（ｅ）は、複数の画像をつなぎ合わせるときの色差補正によるアライメントの方法を説明する図である。

複数の画像を境界付近でオーバーラップさせてパノラマ画像を生成するとき、オーバーラップ部分では、レンズ歪みによる不整合が生じる。たとえば、図８（ａ）に示す２枚の画像３５０、３５２を平行移動させてつなぎ合わせただけでは、図８（ｂ）のようにオーバーラップ部分で画像がうまく重ならない。そこで、図８（ｃ）〜図８（ｅ）に示すように片方の画像３５２をさらに回転させることで、二つの画像３５０、３５２のオーバーラップ部分のピクセルの色差がもっとも小さくなる配置（アライメント）を探索する。この例では、図８（ｅ）の配置において、オーバーラップ部分の色差がもっとも小さい。図７Ａおよび図７Ｂで説明した複数の画像のつなぎ合わせの際、画像を平行移動・回転させて色差補正することにより、最適なアライメントを求めて画像を合成する。

図９（ａ）〜（ｃ）は、レンズ歪みの補正を説明する図である。撮影画像には、一般に図９（ａ）のような樽型歪みや、図９（ｂ）のような糸巻き型歪みが生じる。そこで、パノラマ画像を作成するときは、図９（ｃ）のように、光学的な歪みを補正する。歪みが補正したパノラマ画像に対してマーカーを関連付けるため、マーカーが示す方向と、マーカーが関連付けられたパノラマ画像上の位置が示す撮影方向とはほぼ正確に一致するようになり、レンズ歪みによる誤差の影響をほとんど受けることがない。

図１０は、２次元地図上の撮影場所にシンボルとして表示されるパノラマ画像を説明する図である。南アメリカの地点Ａ、Ｂ、Ｃで撮影されたパノラマ画像が存在するとき、地図生成部２０は、南アメリカの地図上の地点Ａ、Ｂ、Ｃにパノラマ画像のシンボル４００ａ、４００ｂ、４００ｃを合成した地図画像を生成する。このシンボルは、パノラマ画像のサムネイル画像やアイコンなどである。表示された地図は、縮尺を変更することも可能である。ユーザは、地図を閲覧しながら、所望の地点で撮影されたパノラマ画像を選択する。

地図生成部２０は、地球を３次元表示し、地球の表面上の地点にパノラマ画像をシンボル表示してもよい。図１１は、３次元表示された地球の表面上の撮影場所にシンボルとして表示されるパノラマ画像を説明する図である。図１０と同様、南アメリカの地点Ａ、Ｂ、Ｃにパノラマ画像のシンボル４００ａ、４００ｂ、４００ｃを合成した画像が３次元表示されている。ユーザは地球を回転させながら、所望の地点で撮影されたパノラマ画像を選択する。地球のある地点を指定してズームインすると、地図が拡大表示される。拡大表示の際、自動的に図１０のような２次元地図に移行することもある。

図１２は、マーカーが関連付けられたパノラマ画像を説明する図である。ここでは、図１０または図１１の撮影地点Ａのパノラマ画像３００を例に説明する。撮影地点Ａから見て撮影地点Ｂは南東方向、撮影地点Ｃは南西方向にある。撮影地点Ａのパノラマ画像３００には、南東方向に撮影地点Ｂのパノラマ画像があり、南西方向には撮影地点Ｃのパノラマ画像があることを示すためのマーカー３１０、３１２が関連付けられる。撮影地点Ｂに対応するマーカー３１０は、パノラマ画像３００の南東の方位のピクセル位置に関連付けられ、撮影地点Ｃに対応するマーカー３１２は、パノラマ画像３００の南西の方位のピクセル位置に関連付けられる。撮影地点Ｂは撮影地点Ｃに比べて撮影地点Ａに近い位置にあるため、撮影地点Ｂに対応するマーカー３１０は、撮影地点Ｃに対応するマーカー３１２によりも強調して表示される。たとえば、マーカーのサイズを大きくしたり、マーカーの色を濃くする。

図１３は、図１２のマーカーが関連付けられたパノラマ画像３００が３次元表示される様子を模式的に示す図である。撮影地点Ａのパノラマ画像３００は球面や円柱面などの３次元パノラマ空間にテクスチャマッピングされており、視点５００から視線方向５１０に３次元パノラマ空間を見たときの３次元画像が画面に表示される。視線方向５１０を南東方向に向けると、パノラマ画像３００上に関連付けられた撮影地点Ｂのマーカー３１０が目に入り、視線方向５１０を南西方向に向けると、撮影地点Ｃのマーカー３１２が目に入る。

図１３において、ユーザが撮影地点Ｂのマーカー３１０を選択したとする。このとき、これまで表示していた撮影地点Ａのパノラマ画像３００に代えて、撮影地点Ｂのパノラマ画像３２０が表示される。

図１４は、撮影地点Ｂのマーカー３１０を選択したときに３次元表示される撮影地点Ｂのパノラマ画像３２０を説明する図である。撮影地点Ｂのパノラマ画像３２０にも同様に、他の撮影地点のパノラマ画像が存在することを示すマーカーが関連付けられており、ここでは撮影地点Ｃのマーカー３１２が表示されている。

撮影地点Ａのパノラマ画像３００から撮影地点Ｂのパノラマ画像３２０に切り替わるとき、ユーザの視線方向５１０を、撮影地点Ａから撮影地点Ｂを見る方向、すなわち南東方向に設定してもよい。これにより、ユーザは撮影地点Ａから撮影地点Ｂに向かう方向を見ながら、撮影地点Ｂにワープしたような感覚をもつことができる。

図１５は、撮影地点Ａから撮影地点Ｂに視点５００が移動したときの視線方向５１０の他の設定例を説明する図である。この例では、撮影地点Ａのパノラマ画像３００から撮影地点Ｂのパノラマ画像３２０に切り替わるとき、ユーザの視線方向５１０を、撮影地点Ｂから撮影地点Ａを振り返る方向、すなわち北西方向に設定する。これにより、撮影地点Ｂに視点５００が移動したとき、ユーザは正面のパノラマ画像３２０ではなく、背面のパノラマ画像３２２を見ることになる。

背面のパノラマ画像３２２には、北西方向の位置に撮影地点Ａに対応するマーカー３１４が関連付けられており、ユーザは撮影地点Ｂに移動したとき、直前にいた撮影地点Ａのマーカー３１４を目の前に見ることになる。ユーザは、撮影地点Ａから撮影地点Ｂにワープしたとき、あたかも撮影地点Ａを振り返って見ているような感覚をもつことができる。また、ユーザが撮影地点Ａに戻って、撮影地点Ａのパノラマ画像３００を再度閲覧したいときは、目の前に撮影地点Ａのマーカー３１４が表示されていることから、直ちに撮影地点Ａのマーカー３１４を選択して、撮影地点Ａのパノラマ画像３００に切り替えることができる。

別の視線方向５１０の設定例を説明する。移動先の撮影地点のパノラマ画像が全方位画像ではなく、一部のパン角の範囲しか撮影されていないとする。移動先の視線方向５１０を上述のように移動先を見る方向や移動元を振り返る方向に設定すると、移動先のパノラマ画像においてその方向の撮影画像が存在しないことがあり、その場合、空白の画面が表示されてしまう。空白画面になることを回避するために、移動先のパノラマ画像における初期の視線方向５１０は、移動先のパノラマ画像のパン角０°の方向に設定してもよい。あるいは、移動先のパノラマ画像における視線方向５１０をあらかじめ所望の方向に決めておいてもよい。この所望の方向はユーザが決めてもよく、あるいは、システム側で、たとえば、そのパノラマ画像において推奨される視線方向などに自動的に設定してもよい。

以上述べたように、本実施の形態のパノラマ画像表示装置によれば、撮影場所の異なるパノラマ画像が複数与えられたとき、あるパノラマ画像の撮影方向に他のパノラマ画像の撮影場所があることが視覚的に確認できるように、パノラマ画像が関連づけられる。これにより、ある撮影場所から別の撮影場所にワープするがごとく、パノラマ画像を切り替えて表示することができる。

以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。

図１０や図１１のように地図上の撮影地点にパノラマ画像のシンボルを表示する画面において、パノラマ画像のプレビューを表示可能に構成してもよい。プレビューでは、たとえば、サムネイル画像の形式でパノラマ画像の一部を表示し、サムネイル画像枠の中で、パン角やチルト角を徐々に変化させることでパノラマ画像の全体が閲覧できるようにする。また、このようにしてパノラマ画像のプレビューを表示しているとき、パン角の方向が地図上でどの方角であるかを矢印などで表示してもよい。

上記の説明では、マーカーが関連付けられたパノラマ画像を球面などの３次元パノラマ空間にマッピングし、指定された視線方向から３次元パノラマ空間を見た場合の３次元パノラマ画像を画面に表示したが、マーカーが関連付けられたパノラマ画像を単に２次元表示するだけでもよい。この場合、マッピング処理部１４および３次元画像生成部１６の構成は不要であり、パノラマ画像表示装置１００を簡素化できる。この場合でも２次元表示されたパノラマ画像のマーカーをユーザが選択すると、マーカーに対応するパノラマ画像に切り替えて表示される。

パノラマ画像は図３のような全方位撮影システムで撮影されたものに限らず、魚眼レンズを用いて撮影された画像や、撮影方向を変えながら通常のデジタルカメラで撮影された複数の画像を合成した画像であってもよい。

上記の説明では、マーカー設定部１２が、マーカーを合成する前のパノラマ画像を３次元パノラマ空間にマッピングした後、マーカーを３次元パノラマ空間にマッピングすることで、３次元パノラマ画像にマーカーを重ねて表示させた。パノラマ画像にマーカーを合成する別の方法として、マッピング処理部１４は、表示対象のパノラマ画像にマーカーを合成した上で、マッピング処理部１４がマーカーの合成されたパノラマ画像を３次元パノラマ空間にテクスチャマッピングするようにしてもよい。いずれにしても、表示対象のパノラマ画像に対してマーカーを表示すべき位置が関連付けられてさえいれば、任意の段階で表示対象のパノラマ画像にマーカーを合成することが可能であり、また、すべてのマーカーを合成せずに、合成すべきマーカーを適宜選択してから合成することも可能である。また、新たに撮影されたパノラマ画像がパノラマ画像・付加データ記憶部２４に登録された場合、新たに登録されたパノラマ画像のマーカーを既に表示されているパノラマ画像に追加して表示してもよい。

パノラマ画像内にマーカーを表示する際、撮影地点Ａと撮影地点Ｂの緯度が同じで、撮影地点Ｂが撮影地点Ａの東側にある場合であっても、撮影地点Ｂが別の国にある場合には、撮影地点Ｂのマーカーの表示態様を変えてもよい。たとえば、表示されているパノラマ画像の撮影国とは異なる国で撮影されたパノラマ画像をマーカーで表示するときは、マーカーの形状を撮影地点の国の国旗で表すようにする。また、撮影地点Ｂが撮影地点Ａから見て地球の裏側にあるような場合には、撮影地点Ａの全天球パノラマ画像の底部に撮影地点Ｂのマーカーを表示してもよい。

１０ パノラマ画像取得部、 １２ マーカー設定部、 １４ マッピング処理部、 １６ ３次元画像生成部、 １８ 表示制御部、 ２０ 地図生成部、 ２４ パノラマ画像・付加データ記憶部、 ２６ 地図データ記憶部、 ３０ 視点位置設定部、 ３２ 視線方向設定部、 ３４ 高度設定部、 ３６ 日時設定部、 ３８ マーカー選択部、 ４０ ユーザインタフェース部、 １００ パノラマ画像表示装置、 ２００ カメラ。

Claims (6)

1. 表示対象の画像の撮影方向に他の画像が存在することを示すマーカーとともに前記表示対象の画像を画面に表示させる表示制御部と、
   表示された画像に対するユーザの指示を受け付けるインタフェース部とを含み、
   前記インタフェース部が前記表示対象の画像内のマーカーを選択する指示を受け取った場合、前記表示制御部は、これまで表示されていた画像に代えて、選択されたマーカーに対応する別の画像を新たな表示対象の画像として、これまで表示されていた画像の撮影場所と前記別の画像の撮影場所に応じて、前記別の画像の領域を表示させ、
   前記表示制御部は、前記他の画像の撮影場所が前記表示対象の画像の撮影場所とは異なる国にある場合、前記マーカーの表示態様を前記異なる国を特定するように変更することを特徴とする画像表示装置。
2. 前記表示制御部は、前記別の画像の撮影場所を新たな視点位置として、これまで表示されていた画像の撮影場所から前記別の画像の撮影場所を見る方向を新たな視線方向として、前記新たな視点位置から前記新たな視線方向に見たときに見える前記別の画像の領域を表示させることを特徴とする請求項１に記載の画像表示装置。
3. 前記表示制御部は、前記別の画像の撮影場所を新たな視点位置として、前記別の画像の撮影場所からこれまで表示されていた画像の撮影場所を振り返る方向を新たな視線方向として、前記新たな視点位置から前記新たな視線方向に見たときに見える前記別の画像の領域を表示させることを特徴とする請求項１に記載の画像表示装置。
4. 表示対象の画像の撮影方向に他の画像の撮影場所が存在する場合、その撮影方向に他の画像が存在することを示すマーカーとともに前記表示対象の画像を画面に表示させるステップと、
   表示された画像に対するユーザの指示を受け付けるステップとを含み、
   前記ユーザの指示を受け付けるステップが前記表示対象の画像内のマーカーを選択する指示を受け取った場合、前記表示対象の画像を画面に表示させるステップは、これまで表示されていた画像に代えて、選択されたマーカーに対応する別の画像を新たな表示対象の画像として、これまで表示されていた画像の撮影場所と前記別の画像の撮影場所に応じて、前記別の画像の領域を表示させ、
   前記表示対象の画像を画面に表示させるステップは、前記他の画像の撮影場所が前記表示対象の画像の撮影場所とは異なる国にある場合、前記マーカーの表示態様を前記異なる国を特定するように変更することを特徴とする画像表示方法。
5. 表示対象の画像の撮影方向に他の画像の撮影場所が存在する場合、その撮影方向に他の画像が存在することを示すマーカーとともに前記表示対象の画像を画面に表示させる機能と、
   表示された画像に対するユーザの指示を受け付ける機能とをコンピュータに実現させ、
   前記ユーザの指示を受け付ける機能が前記表示対象の画像内のマーカーを選択する指示を受け取った場合、前記表示対象の画像を画面に表示させる機能は、これまで表示されていた画像に代えて、選択されたマーカーに対応する別の画像を新たな表示対象の画像として、これまで表示されていた画像の撮影場所と前記別の画像の撮影場所に応じて、前記別の画像の領域を表示させ、
   前記表示対象の画像を画面に表示させる機能は、前記他の画像の撮影場所が前記表示対象の画像の撮影場所とは異なる国にある場合、前記マーカーの表示態様を前記異なる国を特定するように変更することを特徴とするプログラム。
6. 請求項５のプログラムを格納したことを特徴とする記録媒体。

Images