JP5701967B2 - Image display device and image display method - Google Patents
Image display device and image display method Download PDFInfo
- Publication number
- JP5701967B2 JP5701967B2 JP2013259024A JP2013259024A JP5701967B2 JP 5701967 B2 JP5701967 B2 JP 5701967B2 JP 2013259024 A JP2013259024 A JP 2013259024A JP 2013259024 A JP2013259024 A JP 2013259024A JP 5701967 B2 JP5701967 B2 JP 5701967B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- displayed
- shooting
- panoramic image
- new
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
この発明は、画像を表示する装置および方法に関する。 The present invention relates to an apparatus and a method for displaying an image.
デジタルスチルカメラやデジタルビデオカメラが普及しており、撮影した静止画や動画をコンピュータに保存して閲覧、加工したり、ゲーム機やテレビジョン(TV)システムの画面に表示する機会が多くなっている。また、撮影した動画をインターネットの投稿サイトにアップロードし、他のユーザと動画を共有することも盛んである。 Digital still cameras and digital video cameras have become widespread, and there are more opportunities to save and view captured still images and movies on a computer, display them on the screen of game consoles and television (TV) systems. Yes. In addition, it is also popular to upload a captured video to an Internet posting site and share the video with other users.
デジタルカメラの中には、パノラマ画像の撮影が可能なものもあり、手軽に視野角の広いパノラマ画像を撮影することができるようになってきた。また、撮影方向を変えながら、デジタルカメラの撮影した複数の画像を貼り合わせることでパノラマ画像を生成するソフトウエアツールもよく利用されている。 Some digital cameras can take panoramic images, and it has become possible to easily take panoramic images with a wide viewing angle. A software tool that generates a panoramic image by combining a plurality of images taken by a digital camera while changing the shooting direction is also often used.
ユーザが撮影したこのようなパノラマ画像の投稿を受け付け、インターネットで公開する360citiesというサイト(http;//www.360cities.net)もあり、世界中のユーザが投稿したパノラマ画像を閲覧することができる。 There is also a site called 360 cities (http; // www.360cities.net) that accepts postings of panoramic images taken by users and publishes them on the Internet, and can browse panoramic images posted by users all over the world. .
撮影場所の異なるパノラマ画像がサイトに多数投稿されると、撮影場所でパノラマ画像を整理するなどの工夫をしない限り、撮影場所の異なる複数のパノラマ画像がただ漫然とサイトにあるだけとなってしまい、パノラマ画像の利用が促進されない。 If a large number of panoramic images with different shooting locations are posted on the site, multiple panoramic images with different shooting locations will simply be on the site unless you devise arrangements such as organizing panoramic images at the shooting location. Use of panoramic images is not promoted.
上述の360citiesというサイトでは投稿されたパノラマ画像を平面地図上に貼り付けることで、地図上の地点を検索しながら、その地点で撮影されたパノラマ画像を選択して閲覧できるインタフェースが利用されている。 The above-mentioned site called 360 cities uses an interface that allows a user to select and view a panoramic image shot at a point while searching for a point on the map by pasting the posted panoramic image on a flat map. .
しかしながら、撮影場所の異なるパノラマ画像は互いに直接的に関連付けられているわけではないため、ある地点で撮影されたパノラマ画像の閲覧が終わると、ユーザは地図表示に戻って別の地図上の地点を検索して新たな地点で撮影されたパノラマ画像を選択しなければならない。 However, since panoramic images at different shooting locations are not directly related to each other, when viewing of the panoramic image taken at a certain point is finished, the user returns to the map display and selects a point on another map. You have to search and select a panoramic image taken at a new location.
本発明はこうした課題に鑑みてなされたものであり、その目的は、撮影場所の異なるパノラマ画像を互いに関連づけて、効率良く閲覧することのできる技術を提供することにある。 The present invention has been made in view of these problems, and an object of the present invention is to provide a technique that allows panoramic images with different shooting locations to be associated with each other and browsed efficiently.
上記課題を解決するために、本発明のある態様の画像表示装置は、撮影場所に関する情報と撮影方位に関する情報が関連付けられた画像を保持する記憶部と、前記記憶部から表示対象の画像を取得する取得部と、表示対象の画像を画面に表示させる表示制御部と、表示された画像に対するユーザの指示を受け付けるインタフェース部とを含む。前記インタフェース部は、表示された画像を別の画像に切り替える指示を受け取った場合、これまで表示されていた画像に代えて、別の画像を新たな表示対象の画像に設定し、これまで表示されていた画像の撮影場所と前記別の画像の撮影場所に応じて、最初に画面に表示されるべき前記別の画像の領域を設定する。
本発明の別の態様は、画像表示方法である。この方法は、撮影場所に関する情報と撮影方位に関する情報が関連付けられた画像を保持する記憶デバイスから、プロセッサが表示対象の画像を読み出すステップと、表示対象の画像を画面に表示させるステップと、表示された画像に対するユーザの指示を受け付けるステップとを含む。前記ユーザの指示を受け付けるステップは、表示された画像を別の画像に切り替える指示を受け取った場合、これまで表示されていた画像に代えて、別の画像を新たな表示対象の画像に設定し、これまで表示されていた画像の撮影場所と前記別の画像の撮影場所に応じて、最初に画面に表示されるべき前記別の画像の領域を設定する。
In order to solve the above problem, an image display device according to an aspect of the present invention acquires a storage unit that stores an image in which information about a shooting location and information about a shooting direction are associated, and acquires an image to be displayed from the storage unit An acquisition unit that performs display, a display control unit that displays an image to be displayed on a screen, and an interface unit that receives a user instruction for the displayed image. When the interface unit receives an instruction to switch the displayed image to another image, the interface unit sets another image as a new display target image instead of the image that has been displayed so far, and is displayed so far. The region of the other image to be displayed first on the screen is set according to the shooting location of the image and the shooting location of the other image.
Another aspect of the present invention is an image display method. In this method, a processor reads out an image to be displayed from a storage device that holds an image in which information related to a shooting location and information related to a shooting direction are associated, and displays the image to be displayed on a screen. Receiving a user instruction for the image. In the step of accepting the user's instruction, when an instruction to switch the displayed image to another image is received, instead of the image displayed so far, another image is set as a new display target image, The region of the other image to be displayed first on the screen is set according to the shooting location of the image displayed so far and the shooting location of the other image.
本発明のさらに別の態様は、パノラマ画像表示装置である。この装置は、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する記憶部と、前記記憶部から表示対象のパノラマ画像を取得する取得部と、前記表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、その撮影方向に他のパノラマ画像が存在することを示すマーカーを前記表示対象のパノラマ画像に関連付けるマーカー設定部と、他のパノラマ画像のマーカーが関連付けられた前記表示対象のパノラマ画像をテクスチャとして3次元パノラマ空間にマッピングするマッピング処理部と、前記表示対象のパノラマ画像の撮影場所を視点位置として、前記3次元パノラマ空間を指定された視線方向に見たときの3次元パノラマ画像を生成する3次元画像生成部と、前記3次元パノラマ画像を画面に表示させる表示制御部と、表示された3次元パノラマ画像に対するユーザの指示を受け付けるインタフェース部とを含む。
本発明のさらに別の態様もまた、パノラマ画像表示装置である。この装置は、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する記憶部と、前記記憶部から表示対象のパノラマ画像を取得する取得部と、前記表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、その撮影方向に他のパノラマ画像が存在することを示すマーカーを前記表示対象のパノラマ画像に関連付けるマーカー設定部と、他のパノラマ画像のマーカーが関連付けられた表示対象のパノラマ画像を画面に表示させる表示制御部とを含む。
Yet another embodiment of the present invention is a panoramic image display device. The apparatus includes a storage unit that holds a panoramic image in which information about a shooting location and information about a shooting direction are associated, an acquisition unit that acquires a panoramic image to be displayed from the storage unit, and shooting of the panoramic image to be displayed When a shooting location of another panoramic image exists in the direction, a marker setting unit that associates a marker indicating that another panoramic image exists in the shooting direction with the panoramic image to be displayed, and a marker of the other panoramic image A mapping processing unit that maps the associated panorama image to be displayed as a texture to a three-dimensional panorama space, and a shooting position of the panorama image to be displayed as a viewpoint position in the specified viewing direction. A three-dimensional image generation unit for generating a three-dimensional panoramic image when viewed; and the three-dimensional panorama Comprising a display control unit for displaying an image on a screen, and an interface unit that receives an instruction of a user on the displayed 3-dimensional panoramic images.
Yet another embodiment of the present invention is also a panoramic image display device. The apparatus includes a storage unit that holds a panoramic image in which information about a shooting location and information about a shooting direction are associated, an acquisition unit that acquires a panoramic image to be displayed from the storage unit, and shooting of the panoramic image to be displayed When a shooting location of another panoramic image exists in the direction, a marker setting unit that associates a marker indicating that another panoramic image exists in the shooting direction with the panoramic image to be displayed, and a marker of the other panoramic image And a display control unit that displays the associated panoramic image to be displayed on the screen.
本発明のさらに別の態様は、パノラマ画像表示方法である。この方法は、撮影場所に関する情報と撮影方位に関する情報が関連付けられた複数のパノラマ画像が記憶された記憶デバイスから、ある撮影場所のパノラマ画像を表示対象としてプロセッサが読み出すステップと、表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、プロセッサがその撮影方向に他のパノラマ画像が存在することを示すマーカーを表示対象のパノラマ画像に関連づけた上で、表示対象のパノラマ画像を画面に表示させるステップとを含む。 Yet another embodiment of the present invention is a panoramic image display method. In this method, a processor reads a panoramic image at a certain shooting location as a display target from a storage device in which a plurality of panoramic images associated with information on the shooting location and information on a shooting direction are stored; If there is a shooting location of another panoramic image in the shooting direction, the processor associates a marker indicating that another panoramic image exists in the shooting direction with the panoramic image to be displayed, and then displays the panoramic image to be displayed. Displaying on the screen.
本発明のさらに別の態様は、プログラムである。このプログラムは、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する記憶部から表示対象のパノラマ画像を取得する機能と、前記表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、その撮影方向に他のパノラマ画像が存在することを示すマーカーを前記表示対象のパノラマ画像に関連付ける機能と、前記表示対象のパノラマ画像を他のパノラマ画像のマーカーとともにテクスチャとして3次元パノラマ空間にマッピングする機能と、前記表示対象のパノラマ画像の撮影場所を視点位置として、前記3次元パノラマ空間を指定された視線方向に見たときの3次元パノラマ画像を生成する機能とをコンピュータに実現させる。 Yet another embodiment of the present invention is a program. This program has a function of acquiring a panorama image to be displayed from a storage unit that holds a panorama image in which information about a shooting location and information about a shooting direction are associated, and another panorama image in the shooting direction of the panorama image to be displayed. If there is a shooting location, a function for associating a marker indicating that another panoramic image exists in the shooting direction with the panorama image to be displayed, and a texture of the panorama image to be displayed together with a marker for the other panoramic image. A function for mapping to a three-dimensional panoramic space, and a function for generating a three-dimensional panoramic image when the three-dimensional panoramic space is viewed in a specified line-of-sight direction with the shooting location of the panoramic image to be displayed as a viewpoint position; Is realized on a computer.
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。 It should be noted that any combination of the above-described constituent elements and the expression of the present invention converted between a method, an apparatus, a system, a computer program, a data structure, a recording medium, etc. are also effective as an aspect of the present invention.
本発明によれば、撮影場所や撮影時間の異なるパノラマ画像を効率良く閲覧することができる。 According to the present invention, panoramic images with different shooting locations and shooting times can be browsed efficiently.
本発明の実施の形態の概要を説明する。異なる撮影位置で撮影された複数のパノラマ画像が与えられたとする。ある撮影位置で撮影されたパノラマ画像を表示対象に選び、ビューアで閲覧する際、他の撮影位置で撮影されたパノラマ画像が存在することを表示対象のパノラマ画像内にマーカーで表示する。 An outline of an embodiment of the present invention will be described. Assume that a plurality of panoramic images photographed at different photographing positions are given. When a panoramic image shot at a certain shooting position is selected as a display target and viewed with a viewer, the presence of a panoramic image shot at another shooting position is displayed with a marker in the panoramic image to be displayed.
パノラマ画像には撮影場所の緯度・経度情報の他に、パノラマ画像の撮影方位に関する情報も含まれている。パノラマ画像のある撮影方向、たとえば、南西方向に別のパノラマ画像を撮影した場所が存在するとする。そのとき、表示対象のパノラマ画像において南西方向が撮影された箇所に別のパノラマ画像が存在することを示すマーカーを表示する。パノラマ画像にはこのようなマーカーが多数関連付けられる。 In addition to the latitude / longitude information of the shooting location, the panoramic image includes information related to the shooting direction of the panoramic image. It is assumed that there is a place where another panoramic image is shot in the shooting direction of the panoramic image, for example, in the southwest direction. At that time, a marker indicating that another panoramic image is present at a location where the southwest direction is photographed in the panoramic image to be displayed is displayed. Many such markers are associated with the panoramic image.
ユーザが表示対象のパノラマ画像をビューアで閲覧しているとき、パノラマ画像内のマーカーを選択すると、これまで閲覧していたパノラマ画像に代えて、マーカーに対応する別のパノラマ画像が表示される。別のパノラマ画像の特定の撮影方向にさらに別のパノラマ画像の撮影場所があれば、その撮影方向に同様にマーカーが表示されており、マーカーを選択することでさらに別のパノラマ画像に切り替えることができる。 When the user browses the panorama image to be displayed with the viewer, if a marker in the panorama image is selected, another panorama image corresponding to the marker is displayed instead of the panorama image browsed so far. If there is a shooting location for another panorama image in a specific shooting direction of another panorama image, a marker is displayed in the same shooting direction, and you can switch to another panorama image by selecting the marker. it can.
このように、ユーザはパノラマ画像内に表示されたマーカーを選択することで、あたかもある撮影場所から別の撮影場所にワープするようにして、パノラマ画像を切り替えて閲覧することができる。 In this way, the user can select and view the panorama image by selecting the marker displayed in the panorama image, as if warping from one shooting location to another shooting location.
図1は、実施の形態に係るパノラマ画像表示装置100の構成図である。パノラマ画像・付加データ記憶部24は、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する。撮影場所や撮影方位に関する情報などの付加データはパノラマ画像のデータファイルに直接付加されてもよく、付加データはパノラマ画像とは別のファイルとして管理されてもよい。
FIG. 1 is a configuration diagram of a panoramic
撮影場所に関する情報は、たとえば、GPS(Global Positioning System)により与えられる緯度・経度情報を含む。撮影方位に関する情報は、たとえば、方位センサなどから得られるパノラマ画像の中心点の方位角の情報を含み、それ以外に撮影時のカメラの仰角やロール角の情報を含んでもよい。 The information regarding the shooting location includes, for example, latitude / longitude information given by GPS (Global Positioning System). The information on the shooting direction includes, for example, information on the azimuth angle of the center point of the panoramic image obtained from the direction sensor, and may include information on the elevation angle and roll angle of the camera at the time of shooting.
撮影方位に関する情報としてパノラマ画像の中心点の方位角が与えられれば、カメラを左右方向にパンした角度にもとづいて、パノラマ画像の任意の点の方位を計算上、求めることができる。パノラマ画像の中心点の方位角とパン角にもとづいて計算された、パノラマ画像の真北、真南、真東、真西の方位にあるピクセルの座標値を撮影方位に関する情報としてパノラマ画像にもたせてもよい。 If the azimuth angle of the center point of the panoramic image is given as information on the shooting azimuth, the azimuth of an arbitrary point of the panoramic image can be calculated based on the angle of panning the camera in the left-right direction. Put the coordinate values of the pixels in the true north, true south, true east, and true west directions of the panoramic image calculated based on the azimuth angle and pan angle of the center point of the panoramic image as information on the shooting direction. May be.
パノラマ画像取得部10は、表示対象のパノラマ画像をパノラマ画像・付加データ記憶部24から取得する。表示対象のパノラマ画像は、ユーザが地図などで撮影場所を指定することで特定される他、ユーザがパノラマ画像内のマーカーを指定することでマーカーに対応する別のパノラマ画像が新たな表示対象のパノラマ画像に指定されることもある。
The panorama
マーカー設定部12は、表示対象のパノラマ画像の撮影方位に他のパノラマ画像の撮影場所が存在する場合、その撮影方位に他のパノラマ画像が存在することを示すマーカーを表示対象のパノラマ画像に関連付ける。マーカー設定部12は、表示対象のパノラマ画像の緯度・経度情報と、パノラマ画像・付加データ記憶部24に格納されている他のパノラマ画像の緯度・経度情報とにもとづいて、他のパノラマ画像の撮影場所が表示対象のパノラマ画像のどの方位にあるかを特定することができる。マーカーはパノラマ画像間を撮影位置と撮影方位にもとづいて関連づけるリンクとして機能する。マーカーは、リンク先のパノラマ画像を特定するために、リンク先のパノラマ画像の撮影場所の緯度・経度情報を含んでもよく、リンク先のパノラマ画像を一意に特定する識別情報を含んでもよい。
When there is a shooting location of another panoramic image in the shooting direction of the panorama image to be displayed, the
マーカー設定部12は、表示対象のパノラマ画像の撮影場所から他のパノラマ画像の撮影場所までの距離に応じて、マーカーの表示態様を異ならせる。たとえば、近距離にある撮影場所のマーカーほど目立つように大きさ、色、形状などを変えて強調表示したり、遠い撮影場所のマーカーは半透明にしたり、他のマーカーよりも上方に表示することで、ユーザに遠くにあると感じさせるようにする。
The
マッピング処理部14は、他のパノラマ画像のマーカーが関連付けられた表示対象のパノラマ画像をテクスチャとして3次元パノラマ空間にマッピングする処理を行う。全天球パノラマ画像の場合は、3次元パノラマ空間として球を想定し、球面マッピングにより、パノラマ画像を球面にテクスチャマッピングする。あるいは、3次元パノラマ空間として立方体を想定し、キューブマッピングにより、パノラマ画像を立方体表面にテクスチャマッピングしてもよい。また、パノラマ画像がチルト方向の成分をもたず、パン方向にのみ広がる画像である場合、3次元パノラマ空間として円柱を想定し、パノラマ画像を円柱面にテクスチャマッピングしてもよい。パノラマ画像がパン方向の成分をもたず、チルト方向にのみ広がる画像である場合も同様である。
The
マッピング処理部14は、表示対象のパノラマ画像をテクスチャとして3次元パノラマ空間にマッピングした後で、そのパノラマ画像の撮影方向に関連付けられたマーカーを3次元パノラマ空間にマッピングする。これにより、マーカーはパノラマ画像に合成される。
The
なお、マッピング処理部14は、表示対象のパノラマ画像に関連付けられたすべてのマーカーをマッピングするとは限らない。パノラマ画像に多数のマーカーを合成すると、見づらくなることがあるからである。そこで、表示対象のパノラマ画像の同一の撮影方向またはその近傍に多数のマーカーが集中して関連付けられている場合は、複数のマーカーをまとめた一つの代表マーカーをマッピングして表示することにし、カーソルを近づけた場合に、まとめられていた複数のマーカーが展開して表示されるようにしてもよい。また、パノラマ画像の付加情報として与えられるキーワードなどの情報でマーカーをテーマ別に分類し、ユーザの好みに合ったテーマのマーカーだけをマッピングするようにしてもよい。
The
3次元画像生成部16は、マッピング処理部14によりパノラマ画像がテクスチャマッピングされた3次元パノラマ空間内を指定された視線方向に見たときの3次元パノラマ画像を生成する。3次元パノラマ空間が球の場合、視点は球の中心に置かれ、立方体の場合、視点は立方体内部の中心に置かれ、円柱の場合、視点は円柱の中心軸上に置かれる。視点は表示対象のパノラマ画像を撮影した場所であり、視線方向は、その撮影場所から周囲を見る方向であり、方位角と仰角で特定される。3次元画像生成部16は、方位角と仰角で特定される視線方向で3次元パノラマ空間を見たときの3次元画像を生成する。
The three-dimensional
地図生成部20は、地図データ記憶部26に保持される地図データを参照し、撮影位置に対応する地球表面上の位置にパノラマ画像の存在を示すシンボルを設定して地球表面の地図画像を生成する。
The
表示制御部18は、生成された3次元パノラマ画像や地図画像をディスプレイ装置の画面に表示させる。
The
ユーザインタフェース部40は、ディスプレイの画面に表示されるグラフィックスに対して、ユーザが入力デバイスを用いて操作することを可能にするグラフィカルユーザインタフェースである。ユーザインタフェース部40は、画面に表示された地図や3次元パノラマ画像に対するゲーム機のコントローラ、マウス、キーボードなどの入力デバイスからユーザの指示を受け付ける。図2は、入力デバイスの一例であるコントローラ102を示し、その構成の詳細については後述する。
The
ユーザインタフェース部40は、表示された地図画像上のパノラマ画像のシンボルを選択する指示をユーザから受け取ると、指定されたパノラマ画像をパノラマ画像・付加データ記憶部24から取得するように、パノラマ画像取得部10に指示する。
When the
ユーザは、たとえば、コントローラ102のアナログスティック118または方向キー群116などを操作することにより、3次元パノラマ空間を見る視線方向を変更する指示を入力することができる。ユーザインタフェース部40の視線方向設定部32は、ユーザが指示する視線方向を3次元画像生成部16に与える。3次元画像生成部16は、3次元パノラマ空間を指定された視線方向から見た場合の画像を生成する。
For example, the user can input an instruction to change the line-of-sight direction of viewing the three-dimensional panoramic space by operating the
画角設定部31は、ユーザが表示されたパノラマ画像に対してズーム操作をしたときの画角を設定し、パノラマ画像取得部10と3次元画像生成部16に設定された画角の情報を与える。画角の異なるパノラマ画像がパノラマ画像・付加データ記憶部24に記憶されている場合、パノラマ画像取得部10は、設定された画角にもっとも近い画角のパノラマ画像を読み出し、表示対象のパノラマ画像を切り替える。3次元画像生成部16は、設定された画角に応じて3次元パノラマ画像を拡大・縮小することで、ズームイン・ズームアウトの視覚効果を実現する。
The angle-of-
パノラマ画像には、撮影高度に関する情報も付与されており、パノラマ画像・付加データ記憶部24は、同一の撮影位置に対して異なる高度で撮影されたパノラマ画像を保持してもよい。その場合、ユーザは、たとえば、コントローラ102の筐体前面の左側にあるL1/L2ボタン161、162を操作することにより、高度を変更する指示を入力することができる。L1ボタン161を押すことにより、高度を上げる指示を、L2ボタン162を押すことにより、高度を下げる指示を与えることができる。
The panorama image is also provided with information on the shooting altitude, and the panorama image / additional
表示制御部18は、現在表示されているパノラマ画像について、同一撮影場所で異なる高度で撮影したパノラマ画像があることを、たとえば、画面の上部、下部に小さな矢印を示すことでユーザに知らせてもよい。画面の上部に上向きの矢印があれば、現在よりも撮影高度の高い画像があることを示し、画面の下部に下向きの矢印があれば、現在よりも撮影高度の低い画像があることを示す。
For example, the
ユーザインタフェース部40の高度設定部34は、ユーザから高度を変更する指示を受け取ると、同一緯度・経度であるが、指定された高度に対応するパノラマ画像をパノラマ画像・付加データ記憶部24から取得するように、パノラマ画像取得部10に指示する。パノラマ画像取得部10は、L1ボタン161が押された場合は、現在表示されているパノラマ画像よりも撮影高度のより高いパノラマ画像を取得し、L2ボタン162が押された場合は、撮影高度のより低いパノラマ画像を取得する。
When the
表示制御部18は、撮影高度の異なるパノラマ画像に切り替えて表示する際、たとえば、ユーザがエレベータで上下しているかのような感覚を与えるために、特別なエフェクトを画像に施してもよい。たとえば、より高度の高いパノラマ画像に切り替える場合、現在表示されているパノラマ画像を下にスクロールさせて、より高度の高いパノラマ画像が上から降りてくるように表示させることで、ユーザはあたかも階上に行ったかのような感覚をもつことができる。
When the
パノラマ画像には、撮影日時に関する情報も付与されており、パノラマ画像・付加データ記憶部24は、同一の撮影位置に対して撮影日時の異なるパノラマ画像を保持してもよい。その場合、ユーザは、たとえば、コントローラ102の筐体前面の右側にあるR1/R2ボタン151、152を操作することにより、撮影日時を変更する指示を入力することができる。R1ボタン151を押すことにより、遅い日時にシフトする指示を、R2ボタン152を押すことにより、早い日時にシフトする指示を与えることができる。
The panorama image is also given information related to the shooting date and time, and the panorama image / additional
表示制御部18は、現在表示されているパノラマ画像について、異なる日時に撮影したパノラマ画像があることを、たとえば、時計やカレンダーのアイコンを画面の隅に示すことでユーザに知らせてもよい。朝、昼、夜など時間帯の異なるパノラマ画像が存在するときは時計のアイコンを、春、夏、秋、冬など季節の異なるパノラマ画像が存在するときはカレンダーのアイコンを表示する。
The
ユーザインタフェース部40の日時設定部36は、ユーザから日時を変更する指示を受け取った場合、同一撮影位置であるが、指定された日時に対応するパノラマ画像をパノラマ画像・付加データ記憶部24から取得するように、パノラマ画像取得部10に指示する。パノラマ画像取得部10は、R1ボタン151が押された場合は、現在表示されているパノラマ画像よりも撮影日時のより新しいパノラマ画像を取得し、R2ボタン152が押された場合は、撮影日時のより古いパノラマ画像を取得する。
When receiving an instruction to change the date / time from the user, the date /
これにより、たとえば、同一撮影場所であっても、朝の時間帯に撮影されたパノラマ画像から夜の時間帯にパノラマ画像に切り替えたり、春に撮影されたパノラマ画像から秋に撮影されたパノラマ画像に切り替えるなど、時間帯や季節などが異なるパノラマ画像に切り替えることができる。表示制御部18は、パノラマ画像を切り替えるとき、フェイドイン・フェイドアウトなどのエフェクトを画像に施してもよい。
Thus, for example, even at the same shooting location, a panoramic image taken in the morning time zone is switched to a panoramic image in the night time zone, or a panoramic image taken in the autumn from the panoramic image taken in the spring It is possible to switch to a panoramic image with a different time zone or season. When switching the panoramic image, the
表示されたパノラマ画像に関連付けられたマーカーをユーザが選択すると、ユーザインタフェース部40のマーカー選択部38は、選択されたマーカーに対応する別のパノラマ画像の撮影場所をあらたな視点位置に設定する指示を視点位置設定部30に与える。視点位置設定部30は、新たな視点位置に対応するパノラマ画像、すなわち、マーカーで特定される別のパノラマ画像をパノラマ画像・付加データ記憶部24から取得するように、パノラマ画像取得部10に指示する。また、視点位置設定部30は、新たな視点位置を3次元画像生成部16に通知する。
When the user selects a marker associated with the displayed panoramic image, the
さらに、マーカー選択部38は、現在表示されているパノラマ画像から、マーカーで特定される別のパノラマ画像に切り替えたとき、視線方向が一定の方向に固定されるように、視線方向を所定の方向に設定する指示を視線方向設定部32に与えることもできる。たとえば、マーカー選択部38は、現在のパノラマ画像の撮影位置からマーカーで特定される別のパノラマ画像の撮影位置を見る方向に初期視線方向を設定するように、視線方向設定部32に指示してもよい。あるいは、マーカーで特定される別のパノラマ画像の撮影位置から現在のパノラマ画像の撮影位置を振り返る方向に初期視線方向を設定するように指示してもよい。
Further, the
視線方向設定部32は、指定された視線方向を3次元画像生成部16に与える。3次元画像生成部16は、パノラマ画像を切り替えるとき、視線方向設定部32により指定された視線方向から3次元パノラマ空間を見たときの画像を生成する。これにより、ユーザはマーカーが設定された方位に視線方向を設定して、新しいパノラマ画像を見ることや、マーカーを選択する前に見ていたパノラマ画像の撮影場所を振り返る方向に視線方向を設定して、新しいパノラマ画像を見ることができる。
The line-of-sight direction setting unit 32 gives the specified line-of-sight direction to the three-dimensional
図2は、図1のパノラマ画像表示装置100に接続される入力デバイスの一例であるコントローラ102の構成図である。パノラマ画像表示装置100は、一例としてゲーム機であってもよい。
FIG. 2 is a configuration diagram of the
コントローラ102は、パノラマ画像表示装置100に対する操作入力を行うための複数のボタンやキーを有する。ユーザがコントローラ102のボタンやキーを操作すると、その操作入力が無線または有線によりパノラマ画像表示装置100に送信される。
The
コントローラ102の筐体上面122には、方向キー群116、アナログスティック118、操作ボタン群120が設けられている。方向キー群116は、「上」、「下」、「左」、「右」方向指示キーを含む。操作ボタン群120は、○ボタン124、×ボタン126、□ボタン128、および△ボタン130を含む。
A direction
ユーザは左手で左側把持部134bを把持し、右手で右側把持部134aを把持して、筐体上面122上の方向キー群116、アナログスティック118、および操作ボタン群120を操作する。
The user grips the
さらに、コントローラ102の筐体前面には、右側操作部150と左側操作部160が設けられている。右側操作部150はR1ボタン151とR2ボタン152を含み、左側操作部160はL1ボタン161とL2ボタン162を含む。
Further, a
ユーザは、方向キー群116を操作することにより、画面上の表示されたポインタを上下左右の各方向に移動させることができる。たとえば、パノラマ画像内に表示された複数のマーカーのいずれかを選択する際、方向キー群116を操作して画面上で複数のマーカー間を移動することができる。ユーザは所望のマーカー上にポインタが来たときに、○ボタン124を押すことでそのマーカーを選択することができる。
The user can move the pointer displayed on the screen in the up, down, left, and right directions by operating the direction
操作ボタン群120の各ボタンには、パノラマ画像表示アプリケーションプログラムによりそれぞれ異なる機能が割り付けられてもよい。たとえば、△ボタン130にはメニューの表示を指定する機能、×ボタン126には、選択した項目の取り消し等を指定する機能、○ボタン124には選択した項目の決定等を指定する機能、□ボタン128には、目次等の表示/非表示を指定する機能がそれぞれ割り付けられる。
Different functions may be assigned to the buttons of the
アナログスティック118は、ユーザによって傾倒操作されたとき、アナログ値を出力する手段を備える。コントローラ102は、アナログスティック118を傾倒したときの方向と量に応じたアナログ出力信号をパノラマ画像表示装置100に送る。たとえば、ユーザは、アナログスティック118を所望の方向に傾倒することで、ディスプレイに表示された3次元パノラマ画像内で視点を所望の方向に移動させることができる。
The
筐体上面122には、さらにLED付きボタン136、セレクトボタン140、スタートボタン138が設けられる。LED付きボタン136は、たとえば、ディスプレイにメニュー画面を表示させるためのボタンとして利用される。スタートボタン138は、パノラマ画像表示アプリケーションの起動、パノラマ画像の再生開始、一時停止などをユーザが指示するためのボタンである。セレクトボタン140は、ディスプレイに表示されたメニュー表示の選択等をユーザが指示するためのボタンである。
On the
図3(a)〜(d)は、パノラマ画像を撮影するために用いられる全方位撮影システム230の機構と撮影方向を説明する図である。
FIGS. 3A to 3D are views for explaining the mechanism and shooting direction of the
図3(d)に示すように、全方位撮影システム230において、カメラ200は操作盤210に固定されており、操作盤210をZ軸周りに回転させることでカメラのパン角を変え、X軸周りに回転させることでカメラのチルト角を変え、Y軸周りに回転させることでカメラのロール角を変えることができる。ここでZ軸は鉛直軸(重力方向軸)である。
As shown in FIG. 3D, in the
図3(a)は、操作盤210に設置されたカメラ200の上面図であり、操作盤の初期位置(Y軸方向)をパン角0°とし、Z軸の周りに−180°〜+180°の範囲でパン角を変えることができる。
FIG. 3A is a top view of the
図3(b)は、操作盤210に設置されたカメラ200の正面図であり、操作盤210が水平に置かれた状態をロール角0°とし、Y軸の周りに−180°〜+180°の範囲でロール角を変えることができる。
FIG. 3B is a front view of the
図3(c)は、操作盤210に設置されたカメラ200の側面図であり、操作盤210が水平に置かれた状態をチルト角0°とし、X軸の周りに−90°〜+90°の範囲でチルト角を変えることができる。
FIG. 3C is a side view of the
図3(d)の全方位撮影システム230により撮影されるパノラマ画像に撮影方位に関する情報を付与するためには、カメラ200が撮影時にどの方位に向いていたかを記録しておく必要がある。そのために、全方位撮影システム230は、方位を測定するための方位センサや傾斜角を測定するための加速度センサなどを備える。さらに、撮影位置や撮影時間を測定するためにGPSセンサなども備える。
In order to give information about the shooting direction to the panoramic image shot by the
図4(a)はカメラ200の方位角θ、図4(b)はカメラ200の仰角φを説明する図である。図4(a)はカメラ200の上面図であり、カメラ200は撮影の初期位置において、真北から東へ方位角θだけずれた方向220を向いており、この方向がパン角0°に相当する。すなわちパン角の基準方向220の方位角はθである。パノラマ画像を撮影するとき、この方位角θの基準方向220に対して−180°〜+180°の範囲でパン角を変えながら、被写体をパノラマ撮影する。
4A illustrates the azimuth angle θ of the
図4(b)はカメラ200の側面図であり、仰角φは、X軸周りにカメラ200を回転させた場合に、チルト0°の方向、すなわちY軸方向に対して上方向を正と定義する角度である。通常、カメラ200を水平ポジションに設定して撮影するので仰角φ=0°であるが、全天球のパノラマ画像を撮影するには、カメラをチルトさせて仰角φを変えて被写体を撮影する必要がある。
FIG. 4B is a side view of the
図5(a)〜(c)は、カメラ200の初期位置が方位角θの方向にある場合に撮影されるパノラマ画像を説明する図である。
FIGS. 5A to 5C are diagrams illustrating panoramic images that are shot when the initial position of the
図5(a)の上面図に示すように、初期位置においてカメラ200は方位角θの方向220を向いており、図5(b)の側面図に示すように、カメラ200の仰角φ=0°である。仰角φ=0°に保ちながら、基準方向220に対してカメラ200のパン角を−180°から+180°の範囲で変化させながら、仰角φ=0°における全方位のパノラマ画像を撮影する。図5(c)は、このようにして撮影されたパノラマ画像300を示す。パノラマ画像300の中心はパン角0°であり、パノラマ画像300の左半分はパン角を0°から−180°まで変えて撮影された画像であり、右半分はパン角を0°から180°まで変えて撮影された画像である。
As shown in the top view of FIG. 5A, the
パノラマ画像300のパン角0°の中心位置は、真北から方位角θだけ東にずれているから、北(N)、南(S)、東(E)、西(W)の位置は点線で示す箇所になる。パノラマ画像300は、撮影方位に関する情報として、パン角0°の中心位置の方位角θをもってさえいれば、北(N)、南(S)、東(E)、西(W)のピクセル位置は、方位角θのずれを考慮して計算で求めることができる。あるいは、方位角θの代わりに、北(N)、南(S)、東(E)、西(W)のピクセル位置の座標値を撮影方位に関する情報としてもうようにしてもよい。
Since the center position of
全天球のパノラマ画像を得るためには、カメラ200の仰角を変えて撮影する必要がある。たとえば、カメラ200の画角が60°であるとすると、原理的にはカメラ200を上下に±60°チルトさせた上で、パン角を−180°〜180°の範囲で変えながら同様の撮影を行えば、全天球のパノラマ画像を得ることができる。
In order to obtain a panoramic image of the whole celestial sphere, it is necessary to shoot by changing the elevation angle of the
図6(a)〜(c)は、カメラ200の仰角φ=60°の場合に撮影されるパノラマ画像を説明する図である。図6(a)の上面図に示すように、初期位置においてカメラ200は方位角θの方向220を向いており、図6(b)の側面図に示すように、カメラ200の仰角φ=60°である。仰角φ=60°に保ちながら、基準方向220に対してカメラ200のパン角を−180°から+180°の範囲で変化させながら、図6(c)に示すような、仰角φ=60°におけるパノラマ画像302を撮影する。
FIGS. 6A to 6C are views for explaining panoramic images taken when the elevation angle φ of the
同様にして、カメラ200の仰角をφ=−60°に保ちながら、パン角を−180°から+180°の範囲で変化させながら、仰角φ=−60°におけるパノラマ画像を撮影する。仰角φ=0°、60°、−60°のパノラマ画像を組み合わせれば、全天球パノラマ画像が得られる。もっとも、実装上は、画角の境界部分で画像を貼り合わせる際にレンズの歪みから生じる不整合を補正するために、境界付近をだぶらせて撮影する方法を採ることが多い。
Similarly, while maintaining the elevation angle of the
このようにして得られた全天球パノラマ画像には、方位角および仰角の情報が付与されており、その情報にもとづいてパノラマ画像の任意のピクセルについて方位と仰角を特定可能である。また、パノラマ画像には撮影場所の位置情報としてGPSにより測定された緯度・経度情報も付与される。パノラマ画像に付与すべき付加情報は、一例として、Exif(Exchangeable Image File Format)と呼ばれる画像ファイルの規格にしたがって記録してもよい。撮影場所の地名はファイル名の一部に記録し、撮影日時、撮影場所の緯度・経度、高度、方位角などをExif形式のデータとして記録することができる。仰角はExif形式では定義されていないが、拡張データとして記録する。 The omnidirectional panoramic image obtained in this way is given information on the azimuth angle and the elevation angle, and the azimuth and elevation angle can be specified for any pixel of the panoramic image based on the information. In addition, latitude / longitude information measured by GPS is given to the panoramic image as position information of the shooting location. For example, the additional information to be added to the panoramic image may be recorded in accordance with an image file standard called Exif (Exchangeable Image File Format). The place name of the shooting location can be recorded as a part of the file name, and the shooting date and time, the latitude / longitude of the shooting location, the altitude, the azimuth angle, and the like can be recorded as Exif format data. The elevation angle is not defined in the Exif format, but is recorded as extended data.
図7Aおよび図7Bは、複数の画像をつなぎ合わせてパノラマ画像を作成する方法を説明する図である。 7A and 7B are diagrams illustrating a method of creating a panoramic image by connecting a plurality of images.
図7Aの例では、カメラ200をチルト(またはパン)させながら撮影された7枚の画像341〜347を円筒にマッピングした後、つなぎ合わせて円筒状の画像340を作成する。画像をつなぎ合わせるとき、画像の境界付近をオーバーラップさせる。
In the example of FIG. 7A, seven
図7Bに示すように、カメラ200をパン(またはチルト)させて撮影することで、図7Aで示した円筒状の画像がパン(またはチルト)方向に複数得られる。これらの円筒状の画像340a〜340fを画像の境界付近をオーバーラップさせて合成することで、全方位のパノラマ画像360が最終的に得られる。
As shown in FIG. 7B, by shooting with the
図8(a)〜(e)は、複数の画像をつなぎ合わせるときの色差補正によるアライメントの方法を説明する図である。 FIGS. 8A to 8E are diagrams for explaining an alignment method based on color difference correction when a plurality of images are joined together.
複数の画像を境界付近でオーバーラップさせてパノラマ画像を生成するとき、オーバーラップ部分では、レンズ歪みによる不整合が生じる。たとえば、図8(a)に示す2枚の画像350、352を平行移動させてつなぎ合わせただけでは、図8(b)のようにオーバーラップ部分で画像がうまく重ならない。そこで、図8(c)〜図8(e)に示すように片方の画像352をさらに回転させることで、二つの画像350、352のオーバーラップ部分のピクセルの色差がもっとも小さくなる配置(アライメント)を探索する。この例では、図8(e)の配置において、オーバーラップ部分の色差がもっとも小さい。図7Aおよび図7Bで説明した複数の画像のつなぎ合わせの際、画像を平行移動・回転させて色差補正することにより、最適なアライメントを求めて画像を合成する。
When a panoramic image is generated by overlapping a plurality of images in the vicinity of the boundary, inconsistency due to lens distortion occurs in the overlap portion. For example, if the two
図9(a)〜(c)は、レンズ歪みの補正を説明する図である。撮影画像には、一般に図9(a)のような樽型歪みや、図9(b)のような糸巻き型歪みが生じる。そこで、パノラマ画像を作成するときは、図9(c)のように、光学的な歪みを補正する。歪みが補正したパノラマ画像に対してマーカーを関連付けるため、マーカーが示す方向と、マーカーが関連付けられたパノラマ画像上の位置が示す撮影方向とはほぼ正確に一致するようになり、レンズ歪みによる誤差の影響をほとんど受けることがない。 9A to 9C are diagrams for explaining correction of lens distortion. The captured image generally has barrel distortion as shown in FIG. 9A and pincushion distortion as shown in FIG. 9B. Therefore, when creating a panoramic image, optical distortion is corrected as shown in FIG. Since the marker is associated with the panoramic image whose distortion has been corrected, the direction indicated by the marker and the shooting direction indicated by the position on the panoramic image to which the marker is associated almost exactly match each other. Little affected.
図10は、2次元地図上の撮影場所にシンボルとして表示されるパノラマ画像を説明する図である。南アメリカの地点A、B、Cで撮影されたパノラマ画像が存在するとき、地図生成部20は、南アメリカの地図上の地点A、B、Cにパノラマ画像のシンボル400a、400b、400cを合成した地図画像を生成する。このシンボルは、パノラマ画像のサムネイル画像やアイコンなどである。表示された地図は、縮尺を変更することも可能である。ユーザは、地図を閲覧しながら、所望の地点で撮影されたパノラマ画像を選択する。
FIG. 10 is a diagram illustrating a panoramic image displayed as a symbol at a shooting location on a two-dimensional map. When there are panoramic images taken at points A, B, and C in South America, the
地図生成部20は、地球を3次元表示し、地球の表面上の地点にパノラマ画像をシンボル表示してもよい。図11は、3次元表示された地球の表面上の撮影場所にシンボルとして表示されるパノラマ画像を説明する図である。図10と同様、南アメリカの地点A、B、Cにパノラマ画像のシンボル400a、400b、400cを合成した画像が3次元表示されている。ユーザは地球を回転させながら、所望の地点で撮影されたパノラマ画像を選択する。地球のある地点を指定してズームインすると、地図が拡大表示される。拡大表示の際、自動的に図10のような2次元地図に移行することもある。
The
図12は、マーカーが関連付けられたパノラマ画像を説明する図である。ここでは、図10または図11の撮影地点Aのパノラマ画像300を例に説明する。撮影地点Aから見て撮影地点Bは南東方向、撮影地点Cは南西方向にある。撮影地点Aのパノラマ画像300には、南東方向に撮影地点Bのパノラマ画像があり、南西方向には撮影地点Cのパノラマ画像があることを示すためのマーカー310、312が関連付けられる。撮影地点Bに対応するマーカー310は、パノラマ画像300の南東の方位のピクセル位置に関連付けられ、撮影地点Cに対応するマーカー312は、パノラマ画像300の南西の方位のピクセル位置に関連付けられる。撮影地点Bは撮影地点Cに比べて撮影地点Aに近い位置にあるため、撮影地点Bに対応するマーカー310は、撮影地点Cに対応するマーカー312によりも強調して表示される。たとえば、マーカーのサイズを大きくしたり、マーカーの色を濃くする。
FIG. 12 is a diagram illustrating a panoramic image associated with a marker. Here, a
図13は、図12のマーカーが関連付けられたパノラマ画像300が3次元表示される様子を模式的に示す図である。撮影地点Aのパノラマ画像300は球面や円柱面などの3次元パノラマ空間にテクスチャマッピングされており、視点500から視線方向510に3次元パノラマ空間を見たときの3次元画像が画面に表示される。視線方向510を南東方向に向けると、パノラマ画像300上に関連付けられた撮影地点Bのマーカー310が目に入り、視線方向510を南西方向に向けると、撮影地点Cのマーカー312が目に入る。
FIG. 13 is a diagram schematically illustrating a state in which the
図13において、ユーザが撮影地点Bのマーカー310を選択したとする。このとき、これまで表示していた撮影地点Aのパノラマ画像300に代えて、撮影地点Bのパノラマ画像320が表示される。
In FIG. 13, it is assumed that the user selects the
図14は、撮影地点Bのマーカー310を選択したときに3次元表示される撮影地点Bのパノラマ画像320を説明する図である。撮影地点Bのパノラマ画像320にも同様に、他の撮影地点のパノラマ画像が存在することを示すマーカーが関連付けられており、ここでは撮影地点Cのマーカー312が表示されている。
FIG. 14 is a diagram for explaining a
撮影地点Aのパノラマ画像300から撮影地点Bのパノラマ画像320に切り替わるとき、ユーザの視線方向510を、撮影地点Aから撮影地点Bを見る方向、すなわち南東方向に設定してもよい。これにより、ユーザは撮影地点Aから撮影地点Bに向かう方向を見ながら、撮影地点Bにワープしたような感覚をもつことができる。
When the
図15は、撮影地点Aから撮影地点Bに視点500が移動したときの視線方向510の他の設定例を説明する図である。この例では、撮影地点Aのパノラマ画像300から撮影地点Bのパノラマ画像320に切り替わるとき、ユーザの視線方向510を、撮影地点Bから撮影地点Aを振り返る方向、すなわち北西方向に設定する。これにより、撮影地点Bに視点500が移動したとき、ユーザは正面のパノラマ画像320ではなく、背面のパノラマ画像322を見ることになる。
FIG. 15 is a diagram illustrating another setting example of the line-of-
背面のパノラマ画像322には、北西方向の位置に撮影地点Aに対応するマーカー314が関連付けられており、ユーザは撮影地点Bに移動したとき、直前にいた撮影地点Aのマーカー314を目の前に見ることになる。ユーザは、撮影地点Aから撮影地点Bにワープしたとき、あたかも撮影地点Aを振り返って見ているような感覚をもつことができる。また、ユーザが撮影地点Aに戻って、撮影地点Aのパノラマ画像300を再度閲覧したいときは、目の前に撮影地点Aのマーカー314が表示されていることから、直ちに撮影地点Aのマーカー314を選択して、撮影地点Aのパノラマ画像300に切り替えることができる。
In the
別の視線方向510の設定例を説明する。移動先の撮影地点のパノラマ画像が全方位画像ではなく、一部のパン角の範囲しか撮影されていないとする。移動先の視線方向510を上述のように移動先を見る方向や移動元を振り返る方向に設定すると、移動先のパノラマ画像においてその方向の撮影画像が存在しないことがあり、その場合、空白の画面が表示されてしまう。空白画面になることを回避するために、移動先のパノラマ画像における初期の視線方向510は、移動先のパノラマ画像のパン角0°の方向に設定してもよい。あるいは、移動先のパノラマ画像における視線方向510をあらかじめ所望の方向に決めておいてもよい。この所望の方向はユーザが決めてもよく、あるいは、システム側で、たとえば、そのパノラマ画像において推奨される視線方向などに自動的に設定してもよい。
A setting example of another line-of-
以上述べたように、本実施の形態のパノラマ画像表示装置によれば、撮影場所の異なるパノラマ画像が複数与えられたとき、あるパノラマ画像の撮影方向に他のパノラマ画像の撮影場所があることが視覚的に確認できるように、パノラマ画像が関連づけられる。これにより、ある撮影場所から別の撮影場所にワープするがごとく、パノラマ画像を切り替えて表示することができる。 As described above, according to the panoramic image display device of the present embodiment, when a plurality of panoramic images having different shooting locations are given, there are shooting locations of other panoramic images in the shooting direction of a certain panoramic image. A panoramic image is associated so that it can be visually confirmed. This makes it possible to switch and display panoramic images as if warping from one shooting location to another.
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。 The present invention has been described based on the embodiments. The embodiments are exemplifications, and it will be understood by those skilled in the art that various modifications can be made to combinations of the respective constituent elements and processing processes, and such modifications are within the scope of the present invention. .
図10や図11のように地図上の撮影地点にパノラマ画像のシンボルを表示する画面において、パノラマ画像のプレビューを表示可能に構成してもよい。プレビューでは、たとえば、サムネイル画像の形式でパノラマ画像の一部を表示し、サムネイル画像枠の中で、パン角やチルト角を徐々に変化させることでパノラマ画像の全体が閲覧できるようにする。また、このようにしてパノラマ画像のプレビューを表示しているとき、パン角の方向が地図上でどの方角であるかを矢印などで表示してもよい。 The panorama image preview may be displayed on the screen that displays the symbol of the panorama image at the shooting point on the map as shown in FIGS. In the preview, for example, a part of the panoramic image is displayed in the form of a thumbnail image, and the panoramic image can be browsed by gradually changing the pan angle and the tilt angle in the thumbnail image frame. In addition, when the panoramic image preview is displayed in this way, the direction of the pan angle direction on the map may be displayed with an arrow or the like.
上記の説明では、マーカーが関連付けられたパノラマ画像を球面などの3次元パノラマ空間にマッピングし、指定された視線方向から3次元パノラマ空間を見た場合の3次元パノラマ画像を画面に表示したが、マーカーが関連付けられたパノラマ画像を単に2次元表示するだけでもよい。この場合、マッピング処理部14および3次元画像生成部16の構成は不要であり、パノラマ画像表示装置100を簡素化できる。この場合でも2次元表示されたパノラマ画像のマーカーをユーザが選択すると、マーカーに対応するパノラマ画像に切り替えて表示される。
In the above description, the panoramic image associated with the marker is mapped to a three-dimensional panoramic space such as a spherical surface, and the three-dimensional panoramic image when the three-dimensional panoramic space is viewed from the designated viewing direction is displayed on the screen. The panoramic image associated with the marker may be simply two-dimensionally displayed. In this case, the configuration of the
パノラマ画像は図3のような全方位撮影システムで撮影されたものに限らず、魚眼レンズを用いて撮影された画像や、撮影方向を変えながら通常のデジタルカメラで撮影された複数の画像を合成した画像であってもよい。 The panoramic image is not limited to the one taken with the omnidirectional photographing system as shown in FIG. 3, but is composed of an image photographed using a fisheye lens or a plurality of images photographed with a normal digital camera while changing the photographing direction. It may be an image.
上記の説明では、マーカー設定部12が、マーカーを合成する前のパノラマ画像を3次元パノラマ空間にマッピングした後、マーカーを3次元パノラマ空間にマッピングすることで、3次元パノラマ画像にマーカーを重ねて表示させた。パノラマ画像にマーカーを合成する別の方法として、マッピング処理部14は、表示対象のパノラマ画像にマーカーを合成した上で、マッピング処理部14がマーカーの合成されたパノラマ画像を3次元パノラマ空間にテクスチャマッピングするようにしてもよい。いずれにしても、表示対象のパノラマ画像に対してマーカーを表示すべき位置が関連付けられてさえいれば、任意の段階で表示対象のパノラマ画像にマーカーを合成することが可能であり、また、すべてのマーカーを合成せずに、合成すべきマーカーを適宜選択してから合成することも可能である。また、新たに撮影されたパノラマ画像がパノラマ画像・付加データ記憶部24に登録された場合、新たに登録されたパノラマ画像のマーカーを既に表示されているパノラマ画像に追加して表示してもよい。
In the above description, the
パノラマ画像内にマーカーを表示する際、撮影地点Aと撮影地点Bの緯度が同じで、撮影地点Bが撮影地点Aの東側にある場合であっても、撮影地点Bが別の国にある場合には、撮影地点Bのマーカーの表示態様を変えてもよい。たとえば、表示されているパノラマ画像の撮影国とは異なる国で撮影されたパノラマ画像をマーカーで表示するときは、マーカーの形状を撮影地点の国の国旗で表すようにする。また、撮影地点Bが撮影地点Aから見て地球の裏側にあるような場合には、撮影地点Aの全天球パノラマ画像の底部に撮影地点Bのマーカーを表示してもよい。 When displaying a marker in a panoramic image, even if the shooting point A and the shooting point B have the same latitude and the shooting point B is on the east side of the shooting point A, the shooting point B is in a different country Alternatively, the display mode of the marker at the shooting point B may be changed. For example, when displaying a panoramic image taken in a country different from the shooting country of the displayed panoramic image with a marker, the shape of the marker is represented by the national flag of the country of the shooting point. When the shooting point B is on the back side of the earth when viewed from the shooting point A, the marker of the shooting point B may be displayed at the bottom of the panoramic image of the shooting point A.
10 パノラマ画像取得部、 12 マーカー設定部、 14 マッピング処理部、 16 3次元画像生成部、 18 表示制御部、 20 地図生成部、 24 パノラマ画像・付加データ記憶部、 26 地図データ記憶部、 30 視点位置設定部、 32 視線方向設定部、 34 高度設定部、 36 日時設定部、 38 マーカー選択部、 40 ユーザインタフェース部、 100 パノラマ画像表示装置、 200 カメラ。
DESCRIPTION OF
Claims (5)
前記記憶部から表示対象の画像を取得する取得部と、
表示対象の画像を画面に表示させる表示制御部と、
表示された画像に対するユーザの指示を受け付けるインタフェース部とを含み、
前記インタフェース部は、表示された画像を別の画像に切り替える指示を受け取った場合、これまで表示されていた画像に代えて、別の画像を新たな表示対象の画像に設定し、これまで表示されていた画像の撮影場所と前記別の画像の撮影場所に応じて、最初に画面に表示されるべき前記別の画像の領域を設定し、
前記インタフェース部は、前記別の画像を新たな表示対象の画像に設定する際、新たな表示対象の画像の撮影場所を新たな視点位置に設定し、新たな表示対象の画像の撮影場所から以前の画像の撮影場所を振り返る方向を新たな視線方向に設定し、前記新たな視点位置から前記新たな視線方向に見たときに見えるべき前記別の画像の領域を最初に画面に表示されるべき前記別の画像の領域として設定することを特徴とする画像表示装置。 A storage unit for holding an image associated with information about a shooting location and information about a shooting direction;
An acquisition unit that acquires an image to be displayed from the storage unit;
A display control unit for displaying an image to be displayed on the screen;
An interface unit for receiving a user instruction for the displayed image,
When the interface unit receives an instruction to switch the displayed image to another image, the interface unit sets another image as a new display target image instead of the image that has been displayed so far, and is displayed so far. Depending on the shooting location of the image and the shooting location of the other image, the region of the other image to be displayed first on the screen is set ,
When setting the another image as a new display target image, the interface unit sets the shooting location of the new display target image as a new viewpoint position, and starts from the shooting location of the new display target image. The direction of looking back at the shooting location of the image is set to a new line-of-sight direction, and the region of the other image that should be seen when viewed in the new line-of-sight direction from the new viewpoint position should be displayed on the screen first. An image display device, wherein the image display device is set as a region of the other image .
前記表示制御部は、他の画像のマーカーが関連付けられた表示対象の画像を画面に表示させ、
前記インタフェース部は、前記表示対象の画像内のマーカーを選択する指示を受け取った場合、これまで表示されていた画像に代えて、選択されたマーカーに対応する別の画像を新たな表示対象の画像に設定することを特徴とする請求項1に記載の画像表示装置。 A marker setting unit for associating a marker indicating that another image exists in the shooting direction with the image to be displayed in the shooting direction of the image to be displayed, when a shooting location of another image exists in the shooting direction of the display target image;
The display control unit displays a display target image associated with a marker of another image on a screen,
When the interface unit receives an instruction to select a marker in the display target image, the interface unit replaces the image displayed up to now with another image corresponding to the selected marker as a new display target image. The image display device according to claim 1, wherein:
表示対象の画像を画面に表示させるステップと、
表示された画像に対するユーザの指示を受け付けるステップとを含み、
前記ユーザの指示を受け付けるステップは、表示された画像を別の画像に切り替える指示を受け取った場合、これまで表示されていた画像に代えて、別の画像を新たな表示対象の画像に設定し、これまで表示されていた画像の撮影場所と前記別の画像の撮影場所に応じて、最初に画面に表示されるべき前記別の画像の領域を設定し、
前記ユーザの指示を受け付けるステップは、前記別の画像を新たな表示対象の画像に設定する際、新たな表示対象の画像の撮影場所を新たな視点位置に設定し、新たな表示対象の画像の撮影場所から以前の画像の撮影場所を振り返る方向を新たな視線方向に設定し、前記新たな視点位置から前記新たな視線方向に見たときに見えるべき前記別の画像の領域を最初に画面に表示されるべき前記別の画像の領域として設定することを特徴とする画像表示方法。 A processor reading an image to be displayed from a storage device that holds an image associated with information about a shooting location and information about a shooting direction;
Displaying an image to be displayed on the screen;
Receiving a user instruction for the displayed image,
In the step of accepting the user's instruction, when an instruction to switch the displayed image to another image is received, instead of the image displayed so far, another image is set as a new display target image, According to the shooting location of the image that has been displayed so far and the shooting location of the other image, the region of the other image that should be displayed on the screen first is set ,
The step of receiving an instruction from the user sets the shooting location of the new display target image to a new viewpoint position when setting the other image as a new display target image, and sets the new display target image. The direction of looking back from the shooting location to the shooting location of the previous image is set to a new gaze direction, and the region of the other image that should be seen when viewed from the new viewpoint position to the new gaze direction is first displayed on the screen. An image display method characterized in that it is set as an area of the other image to be displayed.
表示対象の画像を画面に表示させる機能と、
表示された画像に対するユーザの指示を受け付ける機能とをとをコンピュータに実現させ、
前記ユーザの指示を受け付ける機能は、表示された画像を別の画像に切り替える指示を受け取った場合、これまで表示されていた画像に代えて、別の画像を新たな表示対象の画像に設定し、これまで表示されていた画像の撮影場所と前記別の画像の撮影場所に応じて、最初に画面に表示されるべき前記別の画像の領域を設定し、
前記ユーザの指示を受け付ける機能は、前記別の画像を新たな表示対象の画像に設定する際、新たな表示対象の画像の撮影場所を新たな視点位置に設定し、新たな表示対象の画像の撮影場所から以前の画像の撮影場所を振り返る方向を新たな視線方向に設定し、前記新たな視点位置から前記新たな視線方向に見たときに見えるべき前記別の画像の領域を最初に画面に表示されるべき前記別の画像の領域として設定することを特徴とするプログラム。 A function of reading an image to be displayed from a storage device that holds an image associated with information on a shooting location and information on a shooting direction;
A function to display an image to be displayed on the screen;
The computer has a function of accepting user instructions for the displayed image, and
The function of accepting the user's instruction, when receiving an instruction to switch the displayed image to another image, sets another image as a new display target image instead of the image displayed so far, According to the shooting location of the image that has been displayed so far and the shooting location of the other image, the region of the other image that should be displayed on the screen first is set ,
The function of accepting an instruction from the user sets a shooting position of a new display target image to a new viewpoint position when setting the other image as a new display target image, and sets the new display target image. The direction of looking back from the shooting location to the shooting location of the previous image is set to a new gaze direction, and the region of the other image that should be seen when viewed from the new viewpoint position to the new gaze direction is first displayed on the screen. A program which is set as an area of the another image to be displayed .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013259024A JP5701967B2 (en) | 2013-12-16 | 2013-12-16 | Image display device and image display method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013259024A JP5701967B2 (en) | 2013-12-16 | 2013-12-16 | Image display device and image display method |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009225305A Division JP5464955B2 (en) | 2009-09-29 | 2009-09-29 | Panorama image display device |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015029664A Division JP5920857B2 (en) | 2015-02-18 | 2015-02-18 | Image display device and image display method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014096157A JP2014096157A (en) | 2014-05-22 |
JP5701967B2 true JP5701967B2 (en) | 2015-04-15 |
Family
ID=50939133
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013259024A Active JP5701967B2 (en) | 2013-12-16 | 2013-12-16 | Image display device and image display method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5701967B2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016154034A (en) * | 2016-04-05 | 2016-08-25 | 株式会社ソニー・インタラクティブエンタテインメント | Image display device and image display method |
US10298839B2 (en) | 2009-09-29 | 2019-05-21 | Sony Interactive Entertainment Inc. | Image processing apparatus, image processing method, and image communication system |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6897389B2 (en) | 2017-07-25 | 2021-06-30 | 富士通株式会社 | Discrimination computer program, discriminating device and discriminating method, and communication system |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3910794B2 (en) * | 2000-11-14 | 2007-04-25 | 株式会社エヌ・ティ・ティ・ドコモ | Video search file creation method and homepage update method |
JP2004325459A (en) * | 2004-05-31 | 2004-11-18 | Toshiba Corp | Positional information display, positional information management system, and positional information managing method |
JP4853149B2 (en) * | 2005-09-14 | 2012-01-11 | ソニー株式会社 | Image processing apparatus, image display apparatus, image processing method, program, and recording medium |
EP2518686B1 (en) * | 2007-05-25 | 2018-08-08 | Google LLC | Rendering, viewing and annotating panoramic images, and applications thereof |
-
2013
- 2013-12-16 JP JP2013259024A patent/JP5701967B2/en active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10298839B2 (en) | 2009-09-29 | 2019-05-21 | Sony Interactive Entertainment Inc. | Image processing apparatus, image processing method, and image communication system |
JP2016154034A (en) * | 2016-04-05 | 2016-08-25 | 株式会社ソニー・インタラクティブエンタテインメント | Image display device and image display method |
Also Published As
Publication number | Publication date |
---|---|
JP2014096157A (en) | 2014-05-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5464955B2 (en) | Panorama image display device | |
JP5406813B2 (en) | Panorama image display device and panorama image display method | |
JP5409577B2 (en) | Panorama image generation apparatus and panorama image generation method | |
JP5250598B2 (en) | Image display device and image display method | |
JP6167703B2 (en) | Display control device, program, and recording medium | |
JP5477059B2 (en) | Electronic device, image output method and program | |
JP2018110375A (en) | Display device, program, and display method | |
JP6816465B2 (en) | Image display systems, communication systems, image display methods, and programs | |
JP2017212510A (en) | Image management device, program, image management system, and information terminal | |
JP5701967B2 (en) | Image display device and image display method | |
JP6122991B2 (en) | Image display device and image display method | |
JP6304300B2 (en) | Transmitting apparatus, communication method, program, and receiving apparatus | |
JP5920857B2 (en) | Image display device and image display method | |
JP5646033B2 (en) | Image display device and image display method | |
JP6443505B2 (en) | Program, display control apparatus, and display control method | |
JP7447403B2 (en) | Information processing device, information processing system, information processing method and program | |
JP2017182548A (en) | Image management system, image management method, image communication system, and program | |
JP2024017224A (en) | Information processing device, input/output device, information processing system, information processing method, input/output method, and program | |
JP6233451B2 (en) | Image sharing system, communication method and program | |
WO2022180459A1 (en) | Image processing method, recording medium, image processing apparatus, and image processing system | |
JP2019140459A (en) | Display information creation device, information processing device, photographing system, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140911 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140924 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20141023 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150127 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150218 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5701967 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |