JP5920857B2 - Image display device and image display method - Google Patents

Image display device and image display method Download PDF

Info

Publication number
JP5920857B2
JP5920857B2 JP2015029664A JP2015029664A JP5920857B2 JP 5920857 B2 JP5920857 B2 JP 5920857B2 JP 2015029664 A JP2015029664 A JP 2015029664A JP 2015029664 A JP2015029664 A JP 2015029664A JP 5920857 B2 JP5920857 B2 JP 5920857B2
Authority
JP
Japan
Prior art keywords
image
displayed
shooting
marker
panoramic image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015029664A
Other languages
Japanese (ja)
Other versions
JP2015092421A (en
Inventor
京子 古村
京子 古村
山岸 建
建 山岸
平田 真一
真一 平田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Priority to JP2015029664A priority Critical patent/JP5920857B2/en
Publication of JP2015092421A publication Critical patent/JP2015092421A/en
Application granted granted Critical
Publication of JP5920857B2 publication Critical patent/JP5920857B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

この発明は、画像を表示する装置および方法に関する。   The present invention relates to an apparatus and a method for displaying an image.

デジタルスチルカメラやデジタルビデオカメラが普及しており、撮影した静止画や動画をコンピュータに保存して閲覧、加工したり、ゲーム機やテレビジョン(TV)システムの画面に表示する機会が多くなっている。また、撮影した動画をインターネットの投稿サイトにアップロードし、他のユーザと動画を共有することも盛んである。   Digital still cameras and digital video cameras have become widespread, and there are more opportunities to save and view captured still images and movies on a computer, display them on the screen of game consoles and television (TV) systems. Yes. In addition, it is also popular to upload a captured video to an Internet posting site and share the video with other users.

デジタルカメラの中には、パノラマ画像の撮影が可能なものもあり、手軽に視野角の広いパノラマ画像を撮影することができるようになってきた。また、撮影方向を変えながら、デジタルカメラの撮影した複数の画像を貼り合わせることでパノラマ画像を生成するソフトウエアツールもよく利用されている。   Some digital cameras can take panoramic images, and it has become possible to easily take panoramic images with a wide viewing angle. A software tool that generates a panoramic image by combining a plurality of images taken by a digital camera while changing the shooting direction is also often used.

ユーザが撮影したこのようなパノラマ画像の投稿を受け付け、インターネットで公開する360citiesというサイト(http;//www.360cities.net)もあり、世界中のユーザが投稿したパノラマ画像を閲覧することができる。   There is also a site called 360 cities (http; // www.360cities.net) that accepts postings of panoramic images taken by users and publishes them on the Internet, and can browse panoramic images posted by users all over the world. .

撮影場所の異なるパノラマ画像がサイトに多数投稿されると、撮影場所でパノラマ画像を整理するなどの工夫をしない限り、撮影場所の異なる複数のパノラマ画像がただ漫然とサイトにあるだけとなってしまい、パノラマ画像の利用が促進されない。   If a large number of panoramic images with different shooting locations are posted on the site, multiple panoramic images with different shooting locations will simply be on the site unless you devise arrangements such as organizing panoramic images at the shooting location. Use of panoramic images is not promoted.

上述の360citiesというサイトでは投稿されたパノラマ画像を平面地図上に貼り付けることで、地図上の地点を検索しながら、その地点で撮影されたパノラマ画像を選択して閲覧できるインタフェースが利用されている。   The above-mentioned site called 360 cities uses an interface that allows a user to select and view a panoramic image shot at a point while searching for a point on the map by pasting the posted panoramic image on a flat map. .

しかしながら、撮影場所の異なるパノラマ画像は互いに直接的に関連付けられているわけではないため、ある地点で撮影されたパノラマ画像の閲覧が終わると、ユーザは地図表示に戻って別の地図上の地点を検索して新たな地点で撮影されたパノラマ画像を選択しなければならない。   However, since panoramic images at different shooting locations are not directly related to each other, when viewing of the panoramic image taken at a certain point is finished, the user returns to the map display and selects a point on another map. You have to search and select a panoramic image taken at a new location.

本発明はこうした課題に鑑みてなされたものであり、その目的は、撮影場所の異なるパノラマ画像を互いに関連づけて、効率良く閲覧することのできる技術を提供することにある。   The present invention has been made in view of these problems, and an object of the present invention is to provide a technique that allows panoramic images with different shooting locations to be associated with each other and browsed efficiently.

上記課題を解決するために、本発明のある態様の画像表示装置は、撮影場所に関する情報と撮影方位に関する情報が関連付けられた画像を保持する記憶部と、前記記憶部から表示対象の画像を取得する取得部と、表示対象の画像を画面に表示させる表示制御部と、前記表示対象の画像の撮影方向に他の画像の撮影場所が存在する場合、その撮影方向に他の画像が存在することを示すマーカーを前記表示対象の画像に関連付けるマーカー設定部とを含む。前記表示制御部は、前記表示対象の画像の同一の撮影方向またはその近傍に複数のマーカーが関連付けられている場合、前記複数のマーカーをまとめた代表マーカーを表示する。
本発明の別の態様は、画像表示方法である。この方法は、撮影場所に関する情報と撮影方位に関する情報が関連付けられた画像を保持する記憶デバイスから、プロセッサが表示対象の画像を読み出すステップと、表示対象の画像を画面に表示させる表示制御ステップと、前記表示対象の画像の撮影方向に他の画像の撮影場所が存在する場合、その撮影方向に他の画像が存在することを示すマーカーを前記表示対象の画像に関連付けるマーカー設定ステップとを含む。前記表示制御ステップは、前記表示対象の画像の同一の撮影方向またはその近傍に複数のマーカーが関連付けられている場合、前記複数のマーカーをまとめた代表マーカーを表示する。
In order to solve the above problem, an image display device according to an aspect of the present invention acquires a storage unit that stores an image in which information about a shooting location and information about a shooting direction are associated, and acquires an image to be displayed from the storage unit An acquisition unit that performs display, a display control unit that displays an image to be displayed on the screen, and a shooting location of another image in the shooting direction of the display target image, the other image exists in the shooting direction. And a marker setting unit for associating a marker indicating the image with the image to be displayed. The display control unit displays a representative marker in which the plurality of markers are collected when a plurality of markers are associated with the same shooting direction of the image to be displayed or in the vicinity thereof.
Another aspect of the present invention is an image display method. The method includes: a step of reading a display target image from a storage device that holds an image associated with information about a shooting location and information about a shooting direction; a display control step of displaying the display target image on a screen; A marker setting step of associating a marker indicating that another image exists in the shooting direction with the image to be displayed in association with the image of the display target when the shooting location of the other image exists in the shooting direction of the display target image. In the display control step, when a plurality of markers are associated with the same shooting direction of the image to be displayed or in the vicinity thereof, a representative marker in which the plurality of markers are collected is displayed.

本発明のさらに別の態様は、パノラマ画像表示装置である。この装置は、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する記憶部と、前記記憶部から表示対象のパノラマ画像を取得する取得部と、前記表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、その撮影方向に他のパノラマ画像が存在することを示すマーカーを前記表示対象のパノラマ画像に関連付けるマーカー設定部と、他のパノラマ画像のマーカーが関連付けられた前記表示対象のパノラマ画像をテクスチャとして3次元パノラマ空間にマッピングするマッピング処理部と、前記表示対象のパノラマ画像の撮影場所を視点位置として、前記3次元パノラマ空間を指定された視線方向に見たときの3次元パノラマ画像を生成する3次元画像生成部と、前記3次元パノラマ画像を画面に表示させる表示制御部と、表示された3次元パノラマ画像に対するユーザの指示を受け付けるインタフェース部とを含む。
本発明のさらに別の態様もまた、パノラマ画像表示装置である。この装置は、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する記憶部と、前記記憶部から表示対象のパノラマ画像を取得する取得部と、前記表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、その撮影方向に他のパノラマ画像が存在することを示すマーカーを前記表示対象のパノラマ画像に関連付けるマーカー設定部と、他のパノラマ画像のマーカーが関連付けられた表示対象のパノラマ画像を画面に表示させる表示制御部とを含む。
Yet another embodiment of the present invention is a panoramic image display device. The apparatus includes a storage unit that holds a panoramic image in which information about a shooting location and information about a shooting direction are associated, an acquisition unit that acquires a panoramic image to be displayed from the storage unit, and shooting of the panoramic image to be displayed When a shooting location of another panoramic image exists in the direction, a marker setting unit that associates a marker indicating that another panoramic image exists in the shooting direction with the panoramic image to be displayed, and a marker of the other panoramic image A mapping processing unit that maps the associated panorama image to be displayed as a texture to a three-dimensional panorama space, and a shooting position of the panorama image to be displayed as a viewpoint position in the specified viewing direction. A three-dimensional image generation unit for generating a three-dimensional panoramic image when viewed; and the three-dimensional panorama Comprising a display control unit for displaying an image on a screen, and an interface unit that receives an instruction of a user on the displayed 3-dimensional panoramic images.
Yet another embodiment of the present invention is also a panoramic image display device. The apparatus includes a storage unit that holds a panoramic image in which information about a shooting location and information about a shooting direction are associated, an acquisition unit that acquires a panoramic image to be displayed from the storage unit, and shooting of the panoramic image to be displayed When a shooting location of another panoramic image exists in the direction, a marker setting unit that associates a marker indicating that another panoramic image exists in the shooting direction with the panoramic image to be displayed, and a marker of the other panoramic image And a display control unit that displays the associated panoramic image to be displayed on the screen.

本発明のさらに別の態様は、パノラマ画像表示方法である。この方法は、撮影場所に関する情報と撮影方位に関する情報が関連付けられた複数のパノラマ画像が記憶された記憶デバイスから、ある撮影場所のパノラマ画像を表示対象としてプロセッサが読み出すステップと、表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、プロセッサがその撮影方向に他のパノラマ画像が存在することを示すマーカーを表示対象のパノラマ画像に関連づけた上で、表示対象のパノラマ画像を画面に表示させるステップとを含む。   Yet another embodiment of the present invention is a panoramic image display method. In this method, a processor reads a panoramic image at a certain shooting location as a display target from a storage device in which a plurality of panoramic images associated with information on the shooting location and information on a shooting direction are stored; If there is a shooting location of another panoramic image in the shooting direction, the processor associates a marker indicating that another panoramic image exists in the shooting direction with the panoramic image to be displayed, and then displays the panoramic image to be displayed. Displaying on the screen.

本発明のさらに別の態様は、プログラムである。このプログラムは、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する記憶部から表示対象のパノラマ画像を取得する機能と、前記表示対象のパノラマ画像の撮影方向に他のパノラマ画像の撮影場所が存在する場合、その撮影方向に他のパノラマ画像が存在することを示すマーカーを前記表示対象のパノラマ画像に関連付ける機能と、前記表示対象のパノラマ画像を他のパノラマ画像のマーカーとともにテクスチャとして3次元パノラマ空間にマッピングする機能と、前記表示対象のパノラマ画像の撮影場所を視点位置として、前記3次元パノラマ空間を指定された視線方向に見たときの3次元パノラマ画像を生成する機能とをコンピュータに実現させる。   Yet another embodiment of the present invention is a program. This program has a function of acquiring a panorama image to be displayed from a storage unit that holds a panorama image in which information about a shooting location and information about a shooting direction are associated, and another panorama image in the shooting direction of the panorama image to be displayed. If there is a shooting location, a function for associating a marker indicating that another panoramic image exists in the shooting direction with the panorama image to be displayed, and a texture of the panorama image to be displayed together with a marker for the other panoramic image. A function for mapping to a three-dimensional panoramic space, and a function for generating a three-dimensional panoramic image when the three-dimensional panoramic space is viewed in a specified line-of-sight direction with the shooting location of the panoramic image to be displayed as a viewpoint position; Is realized on a computer.

なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。   It should be noted that any combination of the above-described constituent elements and the expression of the present invention converted between a method, an apparatus, a system, a computer program, a data structure, a recording medium, and the like are also effective as an aspect of the present invention.

本発明によれば、撮影場所や撮影時間の異なるパノラマ画像を効率良く閲覧することができる。   According to the present invention, panoramic images with different shooting locations and shooting times can be browsed efficiently.

実施の形態に係るパノラマ画像表示装置の構成図である。1 is a configuration diagram of a panoramic image display device according to an embodiment. 図1のパノラマ画像表示装置に接続される入力デバイスの一例であるコントローラの構成図である。It is a block diagram of the controller which is an example of the input device connected to the panorama image display apparatus of FIG. 図3(a)〜(d)は、パノラマ画像を撮影するために用いられる全方位撮影システムの機構と撮影方向を説明する図である。FIGS. 3A to 3D are diagrams for explaining the mechanism and shooting direction of the omnidirectional shooting system used for shooting a panoramic image. 図4(a)はカメラ200の方位角θ、図4(b)はカメラ200の仰角φを説明する図である。4A illustrates the azimuth angle θ of the camera 200, and FIG. 4B illustrates the elevation angle φ of the camera 200. 図5(a)〜(c)は、カメラの初期位置が方位角θの方向にある場合に撮影されるパノラマ画像を説明する図である。FIGS. 5A to 5C are diagrams illustrating panoramic images that are shot when the initial position of the camera is in the direction of the azimuth angle θ. 図6(a)〜(c)は、カメラの仰角φ=60°の場合に撮影されるパノラマ画像を説明する図である。FIGS. 6A to 6C are views for explaining panoramic images taken when the elevation angle φ of the camera is 60 °. 複数の画像をつなぎ合わせてパノラマ画像を作成する方法を説明する図である。It is a figure explaining the method of connecting a some image and producing a panoramic image. 複数の画像をつなぎ合わせてパノラマ画像を作成する方法を説明する図である。It is a figure explaining the method of connecting a some image and producing a panoramic image. 図8(a)〜(e)は、複数の画像をつなぎ合わせるときの色差補正によるアライメントの方法を説明する図である。FIGS. 8A to 8E are diagrams for explaining an alignment method based on color difference correction when a plurality of images are joined together. 図9(a)〜(c)は、レンズ歪みの補正を説明する図である。9A to 9C are diagrams for explaining correction of lens distortion. 2次元地図上の撮影場所にシンボルとして表示されるパノラマ画像を説明する図である。It is a figure explaining the panoramic image displayed as a symbol at the shooting location on a two-dimensional map. 3次元表示された地球の表面上の撮影場所にシンボルとして表示されるパノラマ画像を説明する図である。It is a figure explaining the panoramic image displayed as a symbol in the imaging location on the surface of the earth displayed in three dimensions. マーカーが関連付けられたパノラマ画像を説明する図である。It is a figure explaining the panoramic image with which the marker was linked | related. 図12のマーカーが関連付けられたパノラマ画像が3次元表示される様子を模式的に示す図である。It is a figure which shows typically a mode that the panoramic image with which the marker of FIG. 12 was linked | related was displayed in three dimensions. マーカーを選択したときに3次元表示されるパノラマ画像を説明する図である。It is a figure explaining the panoramic image displayed three-dimensionally when a marker is selected. ある撮影地点から別の撮影地点に視点が移動したときの視線方向の設定例を説明する図である。It is a figure explaining the example of a setting of a gaze direction when a viewpoint moves from one imaging point to another imaging point.

本発明の実施の形態の概要を説明する。異なる撮影位置で撮影された複数のパノラマ画像が与えられたとする。ある撮影位置で撮影されたパノラマ画像を表示対象に選び、ビューアで閲覧する際、他の撮影位置で撮影されたパノラマ画像が存在することを表示対象のパノラマ画像内にマーカーで表示する。   An outline of an embodiment of the present invention will be described. Assume that a plurality of panoramic images photographed at different photographing positions are given. When a panoramic image shot at a certain shooting position is selected as a display target and viewed with a viewer, the presence of a panoramic image shot at another shooting position is displayed with a marker in the panoramic image to be displayed.

パノラマ画像には撮影場所の緯度・経度情報の他に、パノラマ画像の撮影方位に関する情報も含まれている。パノラマ画像のある撮影方向、たとえば、南西方向に別のパノラマ画像を撮影した場所が存在するとする。そのとき、表示対象のパノラマ画像において南西方向が撮影された箇所に別のパノラマ画像が存在することを示すマーカーを表示する。パノラマ画像にはこのようなマーカーが多数関連付けられる。   In addition to the latitude / longitude information of the shooting location, the panoramic image includes information related to the shooting direction of the panoramic image. It is assumed that there is a place where another panoramic image is shot in the shooting direction of the panoramic image, for example, in the southwest direction. At that time, a marker indicating that another panoramic image is present at a location where the southwest direction is photographed in the panoramic image to be displayed is displayed. Many such markers are associated with the panoramic image.

ユーザが表示対象のパノラマ画像をビューアで閲覧しているとき、パノラマ画像内のマーカーを選択すると、これまで閲覧していたパノラマ画像に代えて、マーカーに対応する別のパノラマ画像が表示される。別のパノラマ画像の特定の撮影方向にさらに別のパノラマ画像の撮影場所があれば、その撮影方向に同様にマーカーが表示されており、マーカーを選択することでさらに別のパノラマ画像に切り替えることができる。   When the user browses the panorama image to be displayed with the viewer, if a marker in the panorama image is selected, another panorama image corresponding to the marker is displayed instead of the panorama image browsed so far. If there is a shooting location for another panorama image in a specific shooting direction of another panorama image, a marker is displayed in the same shooting direction, and you can switch to another panorama image by selecting the marker. it can.

このように、ユーザはパノラマ画像内に表示されたマーカーを選択することで、あたかもある撮影場所から別の撮影場所にワープするようにして、パノラマ画像を切り替えて閲覧することができる。   In this way, the user can select and view the panorama image by selecting the marker displayed in the panorama image, as if warping from one shooting location to another shooting location.

図1は、実施の形態に係るパノラマ画像表示装置100の構成図である。パノラマ画像・付加データ記憶部24は、撮影場所に関する情報と撮影方位に関する情報が関連付けられたパノラマ画像を保持する。撮影場所や撮影方位に関する情報などの付加データはパノラマ画像のデータファイルに直接付加されてもよく、付加データはパノラマ画像とは別のファイルとして管理されてもよい。   FIG. 1 is a configuration diagram of a panoramic image display apparatus 100 according to an embodiment. The panoramic image / additional data storage unit 24 holds a panoramic image in which information about the shooting location and information about the shooting direction are associated. Additional data such as information on the shooting location and shooting direction may be added directly to the panoramic image data file, and the additional data may be managed as a separate file from the panoramic image.

撮影場所に関する情報は、たとえば、GPS(Global Positioning System)により与えられる緯度・経度情報を含む。撮影方位に関する情報は、たとえば、方位センサなどから得られるパノラマ画像の中心点の方位角の情報を含み、それ以外に撮影時のカメラの仰角やロール角の情報を含んでもよい。   The information regarding the shooting location includes, for example, latitude / longitude information given by GPS (Global Positioning System). The information on the shooting direction includes, for example, information on the azimuth angle of the center point of the panoramic image obtained from the direction sensor, and may include information on the elevation angle and roll angle of the camera at the time of shooting.

撮影方位に関する情報としてパノラマ画像の中心点の方位角が与えられれば、カメラを左右方向にパンした角度にもとづいて、パノラマ画像の任意の点の方位を計算上、求めることができる。パノラマ画像の中心点の方位角とパン角にもとづいて計算された、パノラマ画像の真北、真南、真東、真西の方位にあるピクセルの座標値を撮影方位に関する情報としてパノラマ画像にもたせてもよい。   If the azimuth angle of the center point of the panoramic image is given as information on the shooting azimuth, the azimuth of an arbitrary point of the panoramic image can be calculated based on the angle of panning the camera in the left-right direction. Put the coordinate values of the pixels in the true north, true south, true east, and true west directions of the panoramic image calculated based on the azimuth angle and pan angle of the center point of the panoramic image as information on the shooting direction. May be.

パノラマ画像取得部10は、表示対象のパノラマ画像をパノラマ画像・付加データ記憶部24から取得する。表示対象のパノラマ画像は、ユーザが地図などで撮影場所を指定することで特定される他、ユーザがパノラマ画像内のマーカーを指定することでマーカーに対応する別のパノラマ画像が新たな表示対象のパノラマ画像に指定されることもある。   The panorama image acquisition unit 10 acquires a panorama image to be displayed from the panorama image / additional data storage unit 24. The panorama image to be displayed is specified by the user specifying the shooting location on a map or the like, and another panorama image corresponding to the marker is newly displayed by the user specifying the marker in the panorama image. It may be specified as a panoramic image.

マーカー設定部12は、表示対象のパノラマ画像の撮影方位に他のパノラマ画像の撮影場所が存在する場合、その撮影方位に他のパノラマ画像が存在することを示すマーカーを表示対象のパノラマ画像に関連付ける。マーカー設定部12は、表示対象のパノラマ画像の緯度・経度情報と、パノラマ画像・付加データ記憶部24に格納されている他のパノラマ画像の緯度・経度情報とにもとづいて、他のパノラマ画像の撮影場所が表示対象のパノラマ画像のどの方位にあるかを特定することができる。マーカーはパノラマ画像間を撮影位置と撮影方位にもとづいて関連づけるリンクとして機能する。マーカーは、リンク先のパノラマ画像を特定するために、リンク先のパノラマ画像の撮影場所の緯度・経度情報を含んでもよく、リンク先のパノラマ画像を一意に特定する識別情報を含んでもよい。   When there is a shooting location of another panoramic image in the shooting direction of the panorama image to be displayed, the marker setting unit 12 associates a marker indicating that another panorama image exists in the shooting direction with the panorama image to be displayed. . Based on the latitude / longitude information of the panoramic image to be displayed and the latitude / longitude information of the other panoramic images stored in the panoramic image / additional data storage unit 24, the marker setting unit 12 It is possible to specify in which direction of the panoramic image to be displayed the shooting location is. The marker functions as a link for associating panoramic images based on the shooting position and shooting direction. The marker may include latitude / longitude information of the shooting location of the linked panoramic image to identify the linked panoramic image, or may include identification information that uniquely identifies the linked panoramic image.

マーカー設定部12は、表示対象のパノラマ画像の撮影場所から他のパノラマ画像の撮影場所までの距離に応じて、マーカーの表示態様を異ならせる。たとえば、近距離にある撮影場所のマーカーほど目立つように大きさ、色、形状などを変えて強調表示したり、遠い撮影場所のマーカーは半透明にしたり、他のマーカーよりも上方に表示することで、ユーザに遠くにあると感じさせるようにする。   The marker setting unit 12 changes the display mode of the marker according to the distance from the shooting location of the panoramic image to be displayed to the shooting location of another panoramic image. For example, highlight markers with different size, color, shape, etc. so that the markers at the shooting location at a close distance stand out, highlight the markers at the shooting location far away, or display above the other markers So let the user feel far away.

マッピング処理部14は、他のパノラマ画像のマーカーが関連付けられた表示対象のパノラマ画像をテクスチャとして3次元パノラマ空間にマッピングする処理を行う。全天球パノラマ画像の場合は、3次元パノラマ空間として球を想定し、球面マッピングにより、パノラマ画像を球面にテクスチャマッピングする。あるいは、3次元パノラマ空間として立方体を想定し、キューブマッピングにより、パノラマ画像を立方体表面にテクスチャマッピングしてもよい。また、パノラマ画像がチルト方向の成分をもたず、パン方向にのみ広がる画像である場合、3次元パノラマ空間として円柱を想定し、パノラマ画像を円柱面にテクスチャマッピングしてもよい。パノラマ画像がパン方向の成分をもたず、チルト方向にのみ広がる画像である場合も同様である。   The mapping processing unit 14 performs a process of mapping a display target panoramic image associated with another panoramic image marker as a texture in the three-dimensional panoramic space. In the case of an omnidirectional panoramic image, a sphere is assumed as a three-dimensional panoramic space, and the panoramic image is texture-mapped to a spherical surface by spherical mapping. Alternatively, a cube may be assumed as the three-dimensional panorama space, and the panorama image may be texture-mapped on the cube surface by cube mapping. Further, when the panorama image is an image that does not have a component in the tilt direction and spreads only in the pan direction, a cylinder may be assumed as the three-dimensional panorama space, and the panorama image may be texture-mapped on the cylinder surface. The same applies to a case where the panoramic image has no pan direction component and spreads only in the tilt direction.

マッピング処理部14は、表示対象のパノラマ画像をテクスチャとして3次元パノラマ空間にマッピングした後で、そのパノラマ画像の撮影方向に関連付けられたマーカーを3次元パノラマ空間にマッピングする。これにより、マーカーはパノラマ画像に合成される。   The mapping processing unit 14 maps the display target panorama image as a texture in the three-dimensional panorama space, and then maps a marker associated with the panoramic image shooting direction to the three-dimensional panorama space. Thereby, the marker is combined with the panoramic image.

なお、マッピング処理部14は、表示対象のパノラマ画像に関連付けられたすべてのマーカーをマッピングするとは限らない。パノラマ画像に多数のマーカーを合成すると、見づらくなることがあるからである。そこで、表示対象のパノラマ画像の同一の撮影方向またはその近傍に多数のマーカーが集中して関連付けられている場合は、複数のマーカーをまとめた一つの代表マーカーをマッピングして表示することにし、カーソルを近づけた場合に、まとめられていた複数のマーカーが展開して表示されるようにしてもよい。また、パノラマ画像の付加情報として与えられるキーワードなどの情報でマーカーをテーマ別に分類し、ユーザの好みに合ったテーマのマーカーだけをマッピングするようにしてもよい。   The mapping processing unit 14 does not necessarily map all markers associated with the panorama image to be displayed. This is because when a large number of markers are combined with a panoramic image, it may be difficult to see. Therefore, when a large number of markers are concentrated and associated in the same shooting direction of the panoramic image to be displayed or in the vicinity thereof, one representative marker in which a plurality of markers are collected is mapped and displayed. When the two are brought close to each other, a plurality of collected markers may be expanded and displayed. Further, the markers may be classified according to themes by information such as keywords given as additional information of the panoramic image, and only the markers of the theme that match the user's preference may be mapped.

3次元画像生成部16は、マッピング処理部14によりパノラマ画像がテクスチャマッピングされた3次元パノラマ空間内を指定された視線方向に見たときの3次元パノラマ画像を生成する。3次元パノラマ空間が球の場合、視点は球の中心に置かれ、立方体の場合、視点は立方体内部の中心に置かれ、円柱の場合、視点は円柱の中心軸上に置かれる。視点は表示対象のパノラマ画像を撮影した場所であり、視線方向は、その撮影場所から周囲を見る方向であり、方位角と仰角で特定される。3次元画像生成部16は、方位角と仰角で特定される視線方向で3次元パノラマ空間を見たときの3次元画像を生成する。   The three-dimensional image generation unit 16 generates a three-dimensional panoramic image when the mapping processing unit 14 views the three-dimensional panoramic space in which the panoramic image is texture-mapped in a specified line-of-sight direction. When the three-dimensional panoramic space is a sphere, the viewpoint is placed at the center of the sphere. When the cube is a cube, the viewpoint is placed at the center inside the cube. In the case of a cylinder, the viewpoint is placed on the center axis of the cylinder. The viewpoint is a place where a panoramic image to be displayed is photographed, and the line-of-sight direction is a direction of looking around from the photographing place, and is specified by an azimuth and an elevation. The three-dimensional image generation unit 16 generates a three-dimensional image when the three-dimensional panoramic space is viewed in the viewing direction specified by the azimuth angle and the elevation angle.

地図生成部20は、地図データ記憶部26に保持される地図データを参照し、撮影位置に対応する地球表面上の位置にパノラマ画像の存在を示すシンボルを設定して地球表面の地図画像を生成する。   The map generation unit 20 refers to the map data held in the map data storage unit 26, sets a symbol indicating the presence of a panoramic image at a position on the earth surface corresponding to the shooting position, and generates a map image of the earth surface To do.

表示制御部18は、生成された3次元パノラマ画像や地図画像をディスプレイ装置の画面に表示させる。   The display control unit 18 displays the generated three-dimensional panoramic image and map image on the screen of the display device.

ユーザインタフェース部40は、ディスプレイの画面に表示されるグラフィックスに対して、ユーザが入力デバイスを用いて操作することを可能にするグラフィカルユーザインタフェースである。ユーザインタフェース部40は、画面に表示された地図や3次元パノラマ画像に対するゲーム機のコントローラ、マウス、キーボードなどの入力デバイスからユーザの指示を受け付ける。図2は、入力デバイスの一例であるコントローラ102を示し、その構成の詳細については後述する。   The user interface unit 40 is a graphical user interface that allows the user to operate the graphics displayed on the display screen using an input device. The user interface unit 40 receives a user instruction from an input device such as a game console controller, a mouse, or a keyboard for a map or a three-dimensional panoramic image displayed on the screen. FIG. 2 shows a controller 102 as an example of an input device, and details of the configuration will be described later.

ユーザインタフェース部40は、表示された地図画像上のパノラマ画像のシンボルを選択する指示をユーザから受け取ると、指定されたパノラマ画像をパノラマ画像・付加データ記憶部24から取得するように、パノラマ画像取得部10に指示する。   When the user interface unit 40 receives an instruction to select a symbol of the panoramic image on the displayed map image from the user, the user interface unit 40 acquires the panoramic image so as to acquire the designated panoramic image from the panoramic image / additional data storage unit 24. The unit 10 is instructed.

ユーザは、たとえば、コントローラ102のアナログスティック118または方向キー群116などを操作することにより、3次元パノラマ空間を見る視線方向を変更する指示を入力することができる。ユーザインタフェース部40の視線方向設定部32は、ユーザが指示する視線方向を3次元画像生成部16に与える。3次元画像生成部16は、3次元パノラマ空間を指定された視線方向から見た場合の画像を生成する。   For example, the user can input an instruction to change the line-of-sight direction of viewing the three-dimensional panoramic space by operating the analog stick 118 or the direction key group 116 of the controller 102. The line-of-sight direction setting unit 32 of the user interface unit 40 gives the line-of-sight direction indicated by the user to the three-dimensional image generation unit 16. The three-dimensional image generation unit 16 generates an image when the three-dimensional panoramic space is viewed from the designated line-of-sight direction.

画角設定部31は、ユーザが表示されたパノラマ画像に対してズーム操作をしたときの画角を設定し、パノラマ画像取得部10と3次元画像生成部16に設定された画角の情報を与える。画角の異なるパノラマ画像がパノラマ画像・付加データ記憶部24に記憶されている場合、パノラマ画像取得部10は、設定された画角にもっとも近い画角のパノラマ画像を読み出し、表示対象のパノラマ画像を切り替える。3次元画像生成部16は、設定された画角に応じて3次元パノラマ画像を拡大・縮小することで、ズームイン・ズームアウトの視覚効果を実現する。   The angle-of-view setting unit 31 sets the angle of view when the user performs a zoom operation on the displayed panoramic image, and the information on the angle of view set in the panoramic image acquisition unit 10 and the three-dimensional image generation unit 16 is set. give. When panoramic images having different angles of view are stored in the panoramic image / additional data storage unit 24, the panoramic image acquisition unit 10 reads a panoramic image having the angle of view closest to the set angle of view, and displays a panoramic image to be displayed. Switch. The three-dimensional image generation unit 16 realizes a zoom-in / zoom-out visual effect by enlarging / reducing the three-dimensional panoramic image according to the set angle of view.

パノラマ画像には、撮影高度に関する情報も付与されており、パノラマ画像・付加データ記憶部24は、同一の撮影位置に対して異なる高度で撮影されたパノラマ画像を保持してもよい。その場合、ユーザは、たとえば、コントローラ102の筐体前面の左側にあるL1/L2ボタン161、162を操作することにより、高度を変更する指示を入力することができる。L1ボタン161を押すことにより、高度を上げる指示を、L2ボタン162を押すことにより、高度を下げる指示を与えることができる。   The panorama image is also provided with information on the shooting altitude, and the panorama image / additional data storage unit 24 may hold panorama images shot at different altitudes at the same shooting position. In that case, for example, the user can input an instruction to change the altitude by operating the L1 / L2 buttons 161 and 162 on the left side of the front surface of the housing of the controller 102. By pressing the L1 button 161, an instruction to raise the altitude can be given, and by pushing the L2 button 162, an instruction to lower the altitude can be given.

表示制御部18は、現在表示されているパノラマ画像について、同一撮影場所で異なる高度で撮影したパノラマ画像があることを、たとえば、画面の上部、下部に小さな矢印を示すことでユーザに知らせてもよい。画面の上部に上向きの矢印があれば、現在よりも撮影高度の高い画像があることを示し、画面の下部に下向きの矢印があれば、現在よりも撮影高度の低い画像があることを示す。   For example, the display control unit 18 may notify the user that there are panoramic images taken at different altitudes at the same shooting location by displaying small arrows at the top and bottom of the screen. Good. If there is an upward arrow at the top of the screen, it indicates that there is an image with a higher shooting altitude than the current level, and if there is an downward arrow at the bottom of the screen, it indicates that there is an image with a lower shooting altitude than the current level.

ユーザインタフェース部40の高度設定部34は、ユーザから高度を変更する指示を受け取ると、同一緯度・経度であるが、指定された高度に対応するパノラマ画像をパノラマ画像・付加データ記憶部24から取得するように、パノラマ画像取得部10に指示する。パノラマ画像取得部10は、L1ボタン161が押された場合は、現在表示されているパノラマ画像よりも撮影高度のより高いパノラマ画像を取得し、L2ボタン162が押された場合は、撮影高度のより低いパノラマ画像を取得する。   When the altitude setting unit 34 of the user interface unit 40 receives an instruction to change the altitude from the user, the altitude setting unit 34 acquires a panoramic image corresponding to the specified altitude from the panoramic image / additional data storage unit 24 with the same latitude and longitude. The panorama image acquisition unit 10 is instructed to do so. When the L1 button 161 is pressed, the panorama image acquisition unit 10 acquires a panorama image having a higher shooting altitude than the currently displayed panorama image, and when the L2 button 162 is pressed, the panorama image acquisition unit 10 acquires the shooting altitude. Get a lower panoramic image.

表示制御部18は、撮影高度の異なるパノラマ画像に切り替えて表示する際、たとえば、ユーザがエレベータで上下しているかのような感覚を与えるために、特別なエフェクトを画像に施してもよい。たとえば、より高度の高いパノラマ画像に切り替える場合、現在表示されているパノラマ画像を下にスクロールさせて、より高度の高いパノラマ画像が上から降りてくるように表示させることで、ユーザはあたかも階上に行ったかのような感覚をもつことができる。   When the display control unit 18 switches and displays panoramic images with different shooting altitudes, the display control unit 18 may apply a special effect to the images, for example, in order to give a feeling as if the user is moving up and down with an elevator. For example, when switching to a higher-level panoramic image, the user scrolls down the currently displayed panoramic image so that the higher-level panoramic image descends from the top, so that the user can move up and down. You can feel as if you went to.

パノラマ画像には、撮影日時に関する情報も付与されており、パノラマ画像・付加データ記憶部24は、同一の撮影位置に対して撮影日時の異なるパノラマ画像を保持してもよい。その場合、ユーザは、たとえば、コントローラ102の筐体前面の右側にあるR1/R2ボタン151、152を操作することにより、撮影日時を変更する指示を入力することができる。R1ボタン151を押すことにより、遅い日時にシフトする指示を、R2ボタン152を押すことにより、早い日時にシフトする指示を与えることができる。   The panorama image is also given information related to the shooting date and time, and the panorama image / additional data storage unit 24 may hold panorama images with different shooting dates and times at the same shooting position. In that case, for example, the user can input an instruction to change the shooting date and time by operating the R1 / R2 buttons 151 and 152 on the right side of the front surface of the housing of the controller 102. An instruction to shift to a later date and time can be given by pressing the R1 button 151, and an instruction to shift to an earlier date and time can be given by pressing the R2 button 152.

表示制御部18は、現在表示されているパノラマ画像について、異なる日時に撮影したパノラマ画像があることを、たとえば、時計やカレンダーのアイコンを画面の隅に示すことでユーザに知らせてもよい。朝、昼、夜など時間帯の異なるパノラマ画像が存在するときは時計のアイコンを、春、夏、秋、冬など季節の異なるパノラマ画像が存在するときはカレンダーのアイコンを表示する。   The display control unit 18 may notify the user that there are panoramic images taken at different dates and times for the currently displayed panoramic image, for example, by displaying a clock or calendar icon at the corner of the screen. A clock icon is displayed when there are panoramic images with different time zones such as morning, noon, and night, and a calendar icon is displayed when there are panoramic images with different seasons such as spring, summer, autumn, and winter.

ユーザインタフェース部40の日時設定部36は、ユーザから日時を変更する指示を受け取った場合、同一撮影位置であるが、指定された日時に対応するパノラマ画像をパノラマ画像・付加データ記憶部24から取得するように、パノラマ画像取得部10に指示する。パノラマ画像取得部10は、R1ボタン151が押された場合は、現在表示されているパノラマ画像よりも撮影日時のより新しいパノラマ画像を取得し、R2ボタン152が押された場合は、撮影日時のより古いパノラマ画像を取得する。   When receiving an instruction to change the date / time from the user, the date / time setting unit 36 of the user interface unit 40 obtains a panorama image corresponding to the designated date / time from the panorama image / additional data storage unit 24 at the same shooting position. The panorama image acquisition unit 10 is instructed to do so. When the R1 button 151 is pressed, the panorama image acquisition unit 10 acquires a panorama image that is newer than the currently displayed panorama image, and when the R2 button 152 is pressed, the panorama image acquisition unit 10 acquires the shooting date and time. Get older panoramic images.

これにより、たとえば、同一撮影場所であっても、朝の時間帯に撮影されたパノラマ画像から夜の時間帯にパノラマ画像に切り替えたり、春に撮影されたパノラマ画像から秋に撮影されたパノラマ画像に切り替えるなど、時間帯や季節などが異なるパノラマ画像に切り替えることができる。表示制御部18は、パノラマ画像を切り替えるとき、フェイドイン・フェイドアウトなどのエフェクトを画像に施してもよい。   Thus, for example, even at the same shooting location, a panoramic image taken in the morning time zone is switched to a panoramic image in the night time zone, or a panoramic image taken in the autumn from the panoramic image taken in the spring It is possible to switch to a panoramic image with a different time zone or season. When switching the panoramic image, the display control unit 18 may apply an effect such as fade-in / fade-out to the image.

表示されたパノラマ画像に関連付けられたマーカーをユーザが選択すると、ユーザインタフェース部40のマーカー選択部38は、選択されたマーカーに対応する別のパノラマ画像の撮影場所をあらたな視点位置に設定する指示を視点位置設定部30に与える。視点位置設定部30は、新たな視点位置に対応するパノラマ画像、すなわち、マーカーで特定される別のパノラマ画像をパノラマ画像・付加データ記憶部24から取得するように、パノラマ画像取得部10に指示する。また、視点位置設定部30は、新たな視点位置を3次元画像生成部16に通知する。   When the user selects a marker associated with the displayed panoramic image, the marker selecting unit 38 of the user interface unit 40 instructs to set a shooting position of another panoramic image corresponding to the selected marker to a new viewpoint position. To the viewpoint position setting unit 30. The viewpoint position setting unit 30 instructs the panorama image acquisition unit 10 to acquire from the panorama image / additional data storage unit 24 a panorama image corresponding to the new viewpoint position, that is, another panorama image specified by the marker. To do. The viewpoint position setting unit 30 notifies the three-dimensional image generation unit 16 of a new viewpoint position.

さらに、マーカー選択部38は、現在表示されているパノラマ画像から、マーカーで特定される別のパノラマ画像に切り替えたとき、視線方向が一定の方向に固定されるように、視線方向を所定の方向に設定する指示を視線方向設定部32に与えることもできる。たとえば、マーカー選択部38は、現在のパノラマ画像の撮影位置からマーカーで特定される別のパノラマ画像の撮影位置を見る方向に初期視線方向を設定するように、視線方向設定部32に指示してもよい。あるいは、マーカーで特定される別のパノラマ画像の撮影位置から現在のパノラマ画像の撮影位置を振り返る方向に初期視線方向を設定するように指示してもよい。   Further, the marker selection unit 38 changes the line-of-sight direction to a predetermined direction so that the line-of-sight direction is fixed in a certain direction when switching from the currently displayed panoramic image to another panoramic image specified by the marker. It is also possible to give the line-of-sight direction setting unit 32 an instruction to set to. For example, the marker selection unit 38 instructs the line-of-sight direction setting unit 32 to set the initial line-of-sight direction from the current panoramic image shooting position to the direction of viewing another panoramic image shooting position specified by the marker. Also good. Alternatively, it may be instructed to set the initial line-of-sight direction in a direction to look back on the current panoramic image shooting position from the shooting position of another panoramic image specified by the marker.

視線方向設定部32は、指定された視線方向を3次元画像生成部16に与える。3次元画像生成部16は、パノラマ画像を切り替えるとき、視線方向設定部32により指定された視線方向から3次元パノラマ空間を見たときの画像を生成する。これにより、ユーザはマーカーが設定された方位に視線方向を設定して、新しいパノラマ画像を見ることや、マーカーを選択する前に見ていたパノラマ画像の撮影場所を振り返る方向に視線方向を設定して、新しいパノラマ画像を見ることができる。   The line-of-sight direction setting unit 32 gives the specified line-of-sight direction to the three-dimensional image generation unit 16. When the panoramic image is switched, the three-dimensional image generation unit 16 generates an image when the three-dimensional panoramic space is viewed from the gaze direction specified by the gaze direction setting unit 32. As a result, the user sets the line-of-sight direction in the direction in which the marker is set, and sets the line-of-sight direction to look at the new panoramic image, or to look back at the shooting location of the panoramic image that was viewed before selecting the marker. New panoramic images.

図2は、図1のパノラマ画像表示装置100に接続される入力デバイスの一例であるコントローラ102の構成図である。パノラマ画像表示装置100は、一例としてゲーム機であってもよい。   FIG. 2 is a configuration diagram of the controller 102 as an example of an input device connected to the panoramic image display apparatus 100 of FIG. The panorama image display device 100 may be a game machine as an example.

コントローラ102は、パノラマ画像表示装置100に対する操作入力を行うための複数のボタンやキーを有する。ユーザがコントローラ102のボタンやキーを操作すると、その操作入力が無線または有線によりパノラマ画像表示装置100に送信される。   The controller 102 has a plurality of buttons and keys for performing operation input to the panoramic image display apparatus 100. When the user operates a button or key of the controller 102, the operation input is transmitted to the panoramic image display apparatus 100 by wireless or wired.

コントローラ102の筐体上面122には、方向キー群116、アナログスティック118、操作ボタン群120が設けられている。方向キー群116は、「上」、「下」、「左」、「右」方向指示キーを含む。操作ボタン群120は、○ボタン124、×ボタン126、□ボタン128、および△ボタン130を含む。   A direction key group 116, an analog stick 118, and an operation button group 120 are provided on the housing upper surface 122 of the controller 102. The direction key group 116 includes “up”, “down”, “left”, and “right” direction instruction keys. The operation button group 120 includes a circle button 124, a x button 126, a square button 128, and a Δ button 130.

ユーザは左手で左側把持部134bを把持し、右手で右側把持部134aを把持して、筐体上面122上の方向キー群116、アナログスティック118、および操作ボタン群120を操作する。   The user grips the left grip 134b with the left hand, grips the right grip 134a with the right hand, and operates the direction key group 116, the analog stick 118, and the operation button group 120 on the housing upper surface 122.

さらに、コントローラ102の筐体前面には、右側操作部150と左側操作部160が設けられている。右側操作部150はR1ボタン151とR2ボタン152を含み、左側操作部160はL1ボタン161とL2ボタン162を含む。   Further, a right operation unit 150 and a left operation unit 160 are provided on the front surface of the housing of the controller 102. The right operation unit 150 includes an R1 button 151 and an R2 button 152, and the left operation unit 160 includes an L1 button 161 and an L2 button 162.

ユーザは、方向キー群116を操作することにより、画面上の表示されたポインタを上下左右の各方向に移動させることができる。たとえば、パノラマ画像内に表示された複数のマーカーのいずれかを選択する際、方向キー群116を操作して画面上で複数のマーカー間を移動することができる。ユーザは所望のマーカー上にポインタが来たときに、○ボタン124を押すことでそのマーカーを選択することができる。   The user can move the pointer displayed on the screen in the up, down, left, and right directions by operating the direction key group 116. For example, when selecting any of the plurality of markers displayed in the panoramic image, the direction key group 116 can be operated to move between the plurality of markers on the screen. When the pointer is over a desired marker, the user can select the marker by pressing the ○ button 124.

操作ボタン群120の各ボタンには、パノラマ画像表示アプリケーションプログラムによりそれぞれ異なる機能が割り付けられてもよい。たとえば、△ボタン130にはメニューの表示を指定する機能、×ボタン126には、選択した項目の取り消し等を指定する機能、○ボタン124には選択した項目の決定等を指定する機能、□ボタン128には、目次等の表示/非表示を指定する機能がそれぞれ割り付けられる。   Different functions may be assigned to the buttons of the operation button group 120 depending on the panoramic image display application program. For example, the Δ button 130 has a function for specifying menu display, the X button 126 has a function for specifying cancellation of a selected item, the ○ button 124 has a function for specifying determination of a selected item, and the □ button. 128 is assigned a function for designating display / non-display of the table of contents.

アナログスティック118は、ユーザによって傾倒操作されたとき、アナログ値を出力する手段を備える。コントローラ102は、アナログスティック118を傾倒したときの方向と量に応じたアナログ出力信号をパノラマ画像表示装置100に送る。たとえば、ユーザは、アナログスティック118を所望の方向に傾倒することで、ディスプレイに表示された3次元パノラマ画像内で視点を所望の方向に移動させることができる。   The analog stick 118 includes means for outputting an analog value when it is tilted by a user. The controller 102 sends an analog output signal corresponding to the direction and amount when the analog stick 118 is tilted to the panoramic image display device 100. For example, the user can move the viewpoint in a desired direction in the three-dimensional panoramic image displayed on the display by tilting the analog stick 118 in a desired direction.

筐体上面122には、さらにLED付きボタン136、セレクトボタン140、スタートボタン138が設けられる。LED付きボタン136は、たとえば、ディスプレイにメニュー画面を表示させるためのボタンとして利用される。スタートボタン138は、パノラマ画像表示アプリケーションの起動、パノラマ画像の再生開始、一時停止などをユーザが指示するためのボタンである。セレクトボタン140は、ディスプレイに表示されたメニュー表示の選択等をユーザが指示するためのボタンである。   On the top surface 122 of the housing, a button 136 with an LED, a select button 140, and a start button 138 are further provided. The button 136 with LED is used as a button for displaying a menu screen on a display, for example. The start button 138 is a button for the user to instruct the start of the panorama image display application, the start of playback of the panorama image, the pause, and the like. The select button 140 is a button for the user to instruct selection of a menu display displayed on the display.

図3(a)〜(d)は、パノラマ画像を撮影するために用いられる全方位撮影システム230の機構と撮影方向を説明する図である。   FIGS. 3A to 3D are views for explaining the mechanism and shooting direction of the omnidirectional shooting system 230 used for shooting a panoramic image.

図3(d)に示すように、全方位撮影システム230において、カメラ200は操作盤210に固定されており、操作盤210をZ軸周りに回転させることでカメラのパン角を変え、X軸周りに回転させることでカメラのチルト角を変え、Y軸周りに回転させることでカメラのロール角を変えることができる。ここでZ軸は鉛直軸(重力方向軸)である。   As shown in FIG. 3D, in the omnidirectional imaging system 230, the camera 200 is fixed to the operation panel 210, and the pan angle of the camera is changed by rotating the operation panel 210 around the Z axis, so that the X axis The tilt angle of the camera can be changed by rotating around, and the roll angle of the camera can be changed by rotating around the Y axis. Here, the Z axis is a vertical axis (gravity direction axis).

図3(a)は、操作盤210に設置されたカメラ200の上面図であり、操作盤の初期位置(Y軸方向)をパン角0°とし、Z軸の周りに−180°〜+180°の範囲でパン角を変えることができる。   FIG. 3A is a top view of the camera 200 installed on the operation panel 210. The initial position (Y-axis direction) of the operation panel is a pan angle of 0 °, and −180 ° to + 180 ° around the Z axis. The pan angle can be changed within the range.

図3(b)は、操作盤210に設置されたカメラ200の正面図であり、操作盤210が水平に置かれた状態をロール角0°とし、Y軸の周りに−180°〜+180°の範囲でロール角を変えることができる。   FIG. 3B is a front view of the camera 200 installed on the operation panel 210. When the operation panel 210 is placed horizontally, the roll angle is 0 °, and −180 ° to + 180 ° around the Y axis. The roll angle can be changed within the range.

図3(c)は、操作盤210に設置されたカメラ200の側面図であり、操作盤210が水平に置かれた状態をチルト角0°とし、X軸の周りに−90°〜+90°の範囲でチルト角を変えることができる。   FIG. 3C is a side view of the camera 200 installed on the operation panel 210. When the operation panel 210 is placed horizontally, the tilt angle is 0 °, and −90 ° to + 90 ° around the X axis. The tilt angle can be changed within the range.

図3(d)の全方位撮影システム230により撮影されるパノラマ画像に撮影方位に関する情報を付与するためには、カメラ200が撮影時にどの方位に向いていたかを記録しておく必要がある。そのために、全方位撮影システム230は、方位を測定するための方位センサや傾斜角を測定するための加速度センサなどを備える。さらに、撮影位置や撮影時間を測定するためにGPSセンサなども備える。   In order to give information about the shooting direction to the panoramic image shot by the omnidirectional shooting system 230 of FIG. 3D, it is necessary to record in which direction the camera 200 was directed at the time of shooting. For this purpose, the omnidirectional imaging system 230 includes an azimuth sensor for measuring the azimuth and an acceleration sensor for measuring the tilt angle. Furthermore, a GPS sensor or the like is provided for measuring the shooting position and shooting time.

図4(a)はカメラ200の方位角θ、図4(b)はカメラ200の仰角φを説明する図である。図4(a)はカメラ200の上面図であり、カメラ200は撮影の初期位置において、真北から東へ方位角θだけずれた方向220を向いており、この方向がパン角0°に相当する。すなわちパン角の基準方向220の方位角はθである。パノラマ画像を撮影するとき、この方位角θの基準方向220に対して−180°〜+180°の範囲でパン角を変えながら、被写体をパノラマ撮影する。   4A illustrates the azimuth angle θ of the camera 200, and FIG. 4B illustrates the elevation angle φ of the camera 200. FIG. 4A is a top view of the camera 200. The camera 200 faces a direction 220 that is shifted from true north to east by an azimuth angle θ at the initial shooting position, and this direction corresponds to a pan angle of 0 °. To do. That is, the azimuth angle of the pan angle reference direction 220 is θ. When shooting a panoramic image, the subject is panoramic shot while changing the pan angle in a range of −180 ° to + 180 ° with respect to the reference direction 220 of the azimuth angle θ.

図4(b)はカメラ200の側面図であり、仰角φは、X軸周りにカメラ200を回転させた場合に、チルト0°の方向、すなわちY軸方向に対して上方向を正と定義する角度である。通常、カメラ200を水平ポジションに設定して撮影するので仰角φ=0°であるが、全天球のパノラマ画像を撮影するには、カメラをチルトさせて仰角φを変えて被写体を撮影する必要がある。   FIG. 4B is a side view of the camera 200, and the elevation angle φ is defined as positive when the camera 200 is rotated about the X axis, ie, the upward direction with respect to the 0 ° tilt direction, that is, the Y axis direction. It is an angle to do. Usually, since the camera 200 is set to the horizontal position and shot, the elevation angle φ = 0 °. However, in order to take a panoramic image of the whole celestial sphere, it is necessary to tilt the camera and change the elevation angle φ to shoot the subject. There is.

図5(a)〜(c)は、カメラ200の初期位置が方位角θの方向にある場合に撮影されるパノラマ画像を説明する図である。   FIGS. 5A to 5C are diagrams illustrating panoramic images that are shot when the initial position of the camera 200 is in the direction of the azimuth angle θ.

図5(a)の上面図に示すように、初期位置においてカメラ200は方位角θの方向220を向いており、図5(b)の側面図に示すように、カメラ200の仰角φ=0°である。仰角φ=0°に保ちながら、基準方向220に対してカメラ200のパン角を−180°から+180°の範囲で変化させながら、仰角φ=0°における全方位のパノラマ画像を撮影する。図5(c)は、このようにして撮影されたパノラマ画像300を示す。パノラマ画像300の中心はパン角0°であり、パノラマ画像300の左半分はパン角を0°から−180°まで変えて撮影された画像であり、右半分はパン角を0°から180°まで変えて撮影された画像である。   As shown in the top view of FIG. 5A, the camera 200 faces the direction 220 of the azimuth angle θ at the initial position, and the elevation angle φ = 0 of the camera 200 as shown in the side view of FIG. °. While maintaining the elevation angle φ = 0 °, panoramic images of all directions at the elevation angle φ = 0 ° are taken while changing the pan angle of the camera 200 in the range of −180 ° to + 180 ° with respect to the reference direction 220. FIG. 5C shows a panoramic image 300 shot in this way. The center of the panorama image 300 has a pan angle of 0 °, the left half of the panorama image 300 is an image taken by changing the pan angle from 0 ° to −180 °, and the right half has a pan angle of 0 ° to 180 °. It is an image that was taken by changing up to.

パノラマ画像300のパン角0°の中心位置は、真北から方位角θだけ東にずれているから、北(N)、南(S)、東(E)、西(W)の位置は点線で示す箇所になる。パノラマ画像300は、撮影方位に関する情報として、パン角0°の中心位置の方位角θをもってさえいれば、北(N)、南(S)、東(E)、西(W)のピクセル位置は、方位角θのずれを考慮して計算で求めることができる。あるいは、方位角θの代わりに、北(N)、南(S)、東(E)、西(W)のピクセル位置の座標値を撮影方位に関する情報としてもうようにしてもよい。   Since the center position of pan angle 0 ° of panorama image 300 is shifted east from true north by azimuth angle θ, the positions of north (N), south (S), east (E), and west (W) are dotted lines. It becomes the part shown by. As long as the panoramic image 300 has the azimuth angle θ at the center position with a pan angle of 0 ° as information on the shooting direction, the pixel positions of north (N), south (S), east (E), and west (W) are In consideration of the deviation of the azimuth angle θ, it can be obtained by calculation. Alternatively, instead of the azimuth angle θ, the coordinate values of the pixel positions of north (N), south (S), east (E), and west (W) may be already used as information regarding the shooting direction.

全天球のパノラマ画像を得るためには、カメラ200の仰角を変えて撮影する必要がある。たとえば、カメラ200の画角が60°であるとすると、原理的にはカメラ200を上下に±60°チルトさせた上で、パン角を−180°〜180°の範囲で変えながら同様の撮影を行えば、全天球のパノラマ画像を得ることができる。   In order to obtain a panoramic image of the whole celestial sphere, it is necessary to shoot by changing the elevation angle of the camera 200. For example, assuming that the angle of view of the camera 200 is 60 °, in principle, the camera 200 is tilted by ± 60 ° up and down, and the same shooting is performed while changing the pan angle in the range of −180 ° to 180 °. The panoramic image of the whole celestial sphere can be obtained.

図6(a)〜(c)は、カメラ200の仰角φ=60°の場合に撮影されるパノラマ画像を説明する図である。図6(a)の上面図に示すように、初期位置においてカメラ200は方位角θの方向220を向いており、図6(b)の側面図に示すように、カメラ200の仰角φ=60°である。仰角φ=60°に保ちながら、基準方向220に対してカメラ200のパン角を−180°から+180°の範囲で変化させながら、図6(c)に示すような、仰角φ=60°におけるパノラマ画像302を撮影する。   FIGS. 6A to 6C are views for explaining panoramic images taken when the elevation angle φ of the camera 200 is 60 °. As shown in the top view of FIG. 6A, the camera 200 faces the direction 220 of the azimuth angle θ at the initial position, and the elevation angle φ = 60 of the camera 200 as shown in the side view of FIG. °. While maintaining the elevation angle φ = 60 °, the pan angle of the camera 200 is changed in the range of −180 ° to + 180 ° with respect to the reference direction 220, and the elevation angle φ = 60 ° as shown in FIG. A panoramic image 302 is taken.

同様にして、カメラ200の仰角をφ=−60°に保ちながら、パン角を−180°から+180°の範囲で変化させながら、仰角φ=−60°におけるパノラマ画像を撮影する。仰角φ=0°、60°、−60°のパノラマ画像を組み合わせれば、全天球パノラマ画像が得られる。もっとも、実装上は、画角の境界部分で画像を貼り合わせる際にレンズの歪みから生じる不整合を補正するために、境界付近をだぶらせて撮影する方法を採ることが多い。   Similarly, while maintaining the elevation angle of the camera 200 at φ = −60 °, the panoramic image at the elevation angle φ = −60 ° is shot while the pan angle is changed in the range of −180 ° to + 180 °. An omnidirectional panoramic image can be obtained by combining panoramic images with elevation angles φ = 0 °, 60 °, and −60 °. However, in terms of mounting, in order to correct inconsistency caused by lens distortion when images are bonded at the boundary portion of the angle of view, a method of photographing the vicinity of the boundary is often employed.

このようにして得られた全天球パノラマ画像には、方位角および仰角の情報が付与されており、その情報にもとづいてパノラマ画像の任意のピクセルについて方位と仰角を特定可能である。また、パノラマ画像には撮影場所の位置情報としてGPSにより測定された緯度・経度情報も付与される。パノラマ画像に付与すべき付加情報は、一例として、Exif(Exchangeable Image File Format)と呼ばれる画像ファイルの規格にしたがって記録してもよい。撮影場所の地名はファイル名の一部に記録し、撮影日時、撮影場所の緯度・経度、高度、方位角などをExif形式のデータとして記録することができる。仰角はExif形式では定義されていないが、拡張データとして記録する。   The omnidirectional panoramic image obtained in this way is given information on the azimuth angle and the elevation angle, and the azimuth and elevation angle can be specified for any pixel of the panoramic image based on the information. In addition, latitude / longitude information measured by GPS is given to the panoramic image as position information of the shooting location. For example, the additional information to be added to the panoramic image may be recorded in accordance with an image file standard called Exif (Exchangeable Image File Format). The place name of the shooting location can be recorded in a part of the file name, and the shooting date and time, the latitude / longitude of the shooting location, the altitude, the azimuth angle, etc. can be recorded as Exif format data. The elevation angle is not defined in the Exif format, but is recorded as extended data.

図7Aおよび図7Bは、複数の画像をつなぎ合わせてパノラマ画像を作成する方法を説明する図である。   7A and 7B are diagrams illustrating a method of creating a panoramic image by connecting a plurality of images.

図7Aの例では、カメラ200をチルト(またはパン)させながら撮影された7枚の画像341〜347を円筒にマッピングした後、つなぎ合わせて円筒状の画像340を作成する。画像をつなぎ合わせるとき、画像の境界付近をオーバーラップさせる。   In the example of FIG. 7A, seven images 341 to 347 taken while tilting (or panning) the camera 200 are mapped onto a cylinder, and then joined together to create a cylindrical image 340. When joining the images, overlap the borders of the images.

図7Bに示すように、カメラ200をパン(またはチルト)させて撮影することで、図7Aで示した円筒状の画像がパン(またはチルト)方向に複数得られる。これらの円筒状の画像340a〜340fを画像の境界付近をオーバーラップさせて合成することで、全方位のパノラマ画像360が最終的に得られる。   As shown in FIG. 7B, by shooting with the camera 200 panned (or tilted), a plurality of cylindrical images shown in FIG. 7A are obtained in the pan (or tilted) direction. By combining these cylindrical images 340a to 340f by overlapping the vicinity of the boundary between the images, an omnidirectional panoramic image 360 is finally obtained.

図8(a)〜(e)は、複数の画像をつなぎ合わせるときの色差補正によるアライメントの方法を説明する図である。   FIGS. 8A to 8E are diagrams for explaining an alignment method based on color difference correction when a plurality of images are joined together.

複数の画像を境界付近でオーバーラップさせてパノラマ画像を生成するとき、オーバーラップ部分では、レンズ歪みによる不整合が生じる。たとえば、図8(a)に示す2枚の画像350、352を平行移動させてつなぎ合わせただけでは、図8(b)のようにオーバーラップ部分で画像がうまく重ならない。そこで、図8(c)〜図8(e)に示すように片方の画像352をさらに回転させることで、二つの画像350、352のオーバーラップ部分のピクセルの色差がもっとも小さくなる配置(アライメント)を探索する。この例では、図8(e)の配置において、オーバーラップ部分の色差がもっとも小さい。図7Aおよび図7Bで説明した複数の画像のつなぎ合わせの際、画像を平行移動・回転させて色差補正することにより、最適なアライメントを求めて画像を合成する。   When a panoramic image is generated by overlapping a plurality of images in the vicinity of the boundary, inconsistency due to lens distortion occurs in the overlap portion. For example, if the two images 350 and 352 shown in FIG. 8A are simply translated and joined together, the images do not overlap well at the overlap portion as shown in FIG. 8B. Therefore, as shown in FIGS. 8C to 8E, by further rotating one of the images 352, an arrangement (alignment) in which the color difference between the pixels of the overlapping portions of the two images 350 and 352 is minimized. Explore. In this example, the color difference of the overlap portion is the smallest in the arrangement of FIG. At the time of joining a plurality of images described with reference to FIGS. 7A and 7B, the images are synthesized by obtaining an optimal alignment by correcting the color difference by translating and rotating the images.

図9(a)〜(c)は、レンズ歪みの補正を説明する図である。撮影画像には、一般に図9(a)のような樽型歪みや、図9(b)のような糸巻き型歪みが生じる。そこで、パノラマ画像を作成するときは、図9(c)のように、光学的な歪みを補正する。歪みが補正したパノラマ画像に対してマーカーを関連付けるため、マーカーが示す方向と、マーカーが関連付けられたパノラマ画像上の位置が示す撮影方向とはほぼ正確に一致するようになり、レンズ歪みによる誤差の影響をほとんど受けることがない。   9A to 9C are diagrams for explaining correction of lens distortion. The captured image generally has barrel distortion as shown in FIG. 9A and pincushion distortion as shown in FIG. 9B. Therefore, when creating a panoramic image, optical distortion is corrected as shown in FIG. Since the marker is associated with the panoramic image whose distortion has been corrected, the direction indicated by the marker and the shooting direction indicated by the position on the panoramic image to which the marker is associated almost exactly match each other. Little affected.

図10は、2次元地図上の撮影場所にシンボルとして表示されるパノラマ画像を説明する図である。南アメリカの地点A、B、Cで撮影されたパノラマ画像が存在するとき、地図生成部20は、南アメリカの地図上の地点A、B、Cにパノラマ画像のシンボル400a、400b、400cを合成した地図画像を生成する。このシンボルは、パノラマ画像のサムネイル画像やアイコンなどである。表示された地図は、縮尺を変更することも可能である。ユーザは、地図を閲覧しながら、所望の地点で撮影されたパノラマ画像を選択する。   FIG. 10 is a diagram illustrating a panoramic image displayed as a symbol at a shooting location on a two-dimensional map. When there are panoramic images taken at points A, B, and C in South America, the map generation unit 20 combines the symbols 400a, 400b, and 400c of the panoramic image with the points A, B, and C on the map in South America. A map image is generated. This symbol is a thumbnail image or icon of a panoramic image. The scale of the displayed map can be changed. The user selects a panoramic image taken at a desired point while browsing the map.

地図生成部20は、地球を3次元表示し、地球の表面上の地点にパノラマ画像をシンボル表示してもよい。図11は、3次元表示された地球の表面上の撮影場所にシンボルとして表示されるパノラマ画像を説明する図である。図10と同様、南アメリカの地点A、B、Cにパノラマ画像のシンボル400a、400b、400cを合成した画像が3次元表示されている。ユーザは地球を回転させながら、所望の地点で撮影されたパノラマ画像を選択する。地球のある地点を指定してズームインすると、地図が拡大表示される。拡大表示の際、自動的に図10のような2次元地図に移行することもある。   The map generation unit 20 may display the earth three-dimensionally and display a panoramic image as a symbol at points on the surface of the earth. FIG. 11 is a diagram illustrating a panoramic image displayed as a symbol at a shooting location on the surface of the earth displayed in three dimensions. As in FIG. 10, panoramic image symbols 400a, 400b, and 400c are synthesized in three dimensions at points A, B, and C in South America. The user selects a panoramic image taken at a desired point while rotating the earth. When you zoom in by specifying a point on the earth, the map is enlarged. At the time of enlarged display, there is a case where it automatically shifts to a two-dimensional map as shown in FIG.

図12は、マーカーが関連付けられたパノラマ画像を説明する図である。ここでは、図10または図11の撮影地点Aのパノラマ画像300を例に説明する。撮影地点Aから見て撮影地点Bは南東方向、撮影地点Cは南西方向にある。撮影地点Aのパノラマ画像300には、南東方向に撮影地点Bのパノラマ画像があり、南西方向には撮影地点Cのパノラマ画像があることを示すためのマーカー310、312が関連付けられる。撮影地点Bに対応するマーカー310は、パノラマ画像300の南東の方位のピクセル位置に関連付けられ、撮影地点Cに対応するマーカー312は、パノラマ画像300の南西の方位のピクセル位置に関連付けられる。撮影地点Bは撮影地点Cに比べて撮影地点Aに近い位置にあるため、撮影地点Bに対応するマーカー310は、撮影地点Cに対応するマーカー312によりも強調して表示される。たとえば、マーカーのサイズを大きくしたり、マーカーの色を濃くする。   FIG. 12 is a diagram illustrating a panoramic image associated with a marker. Here, a panoramic image 300 at the shooting point A in FIG. 10 or FIG. 11 will be described as an example. When viewed from the shooting point A, the shooting point B is in the southeast direction, and the shooting point C is in the southwest direction. The panorama image 300 at the shooting point A is associated with markers 310 and 312 for indicating that there is a panoramic image at the shooting point B in the southeast direction and that there is a panoramic image at the shooting point C in the southwest direction. The marker 310 corresponding to the shooting point B is associated with the pixel position in the southeast direction of the panoramic image 300, and the marker 312 corresponding to the shooting point C is associated with the pixel position in the southwest direction of the panoramic image 300. Since the shooting point B is closer to the shooting point A than the shooting point C, the marker 310 corresponding to the shooting point B is also highlighted and displayed by the marker 312 corresponding to the shooting point C. For example, the marker size is increased or the marker color is increased.

図13は、図12のマーカーが関連付けられたパノラマ画像300が3次元表示される様子を模式的に示す図である。撮影地点Aのパノラマ画像300は球面や円柱面などの3次元パノラマ空間にテクスチャマッピングされており、視点500から視線方向510に3次元パノラマ空間を見たときの3次元画像が画面に表示される。視線方向510を南東方向に向けると、パノラマ画像300上に関連付けられた撮影地点Bのマーカー310が目に入り、視線方向510を南西方向に向けると、撮影地点Cのマーカー312が目に入る。   FIG. 13 is a diagram schematically illustrating a state in which the panoramic image 300 associated with the marker in FIG. 12 is displayed in a three-dimensional manner. The panorama image 300 at the shooting point A is texture-mapped in a three-dimensional panorama space such as a spherical surface or a cylindrical surface, and a three-dimensional image when the three-dimensional panorama space is viewed from the viewpoint 500 in the viewing direction 510 is displayed on the screen. . When the line-of-sight direction 510 is directed in the southeast direction, the marker 310 of the photographing point B associated on the panoramic image 300 is in the eye, and when the line-of-sight direction 510 is directed in the southwest direction, the marker 312 at the photographing point C is in the eye.

図13において、ユーザが撮影地点Bのマーカー310を選択したとする。このとき、これまで表示していた撮影地点Aのパノラマ画像300に代えて、撮影地点Bのパノラマ画像320が表示される。   In FIG. 13, it is assumed that the user selects the marker 310 of the shooting point B. At this time, the panoramic image 320 of the shooting point B is displayed instead of the panoramic image 300 of the shooting point A that has been displayed so far.

図14は、撮影地点Bのマーカー310を選択したときに3次元表示される撮影地点Bのパノラマ画像320を説明する図である。撮影地点Bのパノラマ画像320にも同様に、他の撮影地点のパノラマ画像が存在することを示すマーカーが関連付けられており、ここでは撮影地点Cのマーカー312が表示されている。   FIG. 14 is a diagram for explaining a panoramic image 320 of the shooting point B that is three-dimensionally displayed when the marker 310 of the shooting point B is selected. Similarly, a marker indicating that there is a panoramic image at another shooting point is associated with the panorama image 320 at the shooting point B. Here, a marker 312 at the shooting point C is displayed.

撮影地点Aのパノラマ画像300から撮影地点Bのパノラマ画像320に切り替わるとき、ユーザの視線方向510を、撮影地点Aから撮影地点Bを見る方向、すなわち南東方向に設定してもよい。これにより、ユーザは撮影地点Aから撮影地点Bに向かう方向を見ながら、撮影地点Bにワープしたような感覚をもつことができる。   When the panorama image 300 at the shooting point A is switched to the panoramic image 320 at the shooting point B, the user's line-of-sight direction 510 may be set to the direction from the shooting point A to the shooting point B, that is, the southeast direction. Thereby, the user can have a sense of warping to the shooting point B while looking at the direction from the shooting point A to the shooting point B.

図15は、撮影地点Aから撮影地点Bに視点500が移動したときの視線方向510の他の設定例を説明する図である。この例では、撮影地点Aのパノラマ画像300から撮影地点Bのパノラマ画像320に切り替わるとき、ユーザの視線方向510を、撮影地点Bから撮影地点Aを振り返る方向、すなわち北西方向に設定する。これにより、撮影地点Bに視点500が移動したとき、ユーザは正面のパノラマ画像320ではなく、背面のパノラマ画像322を見ることになる。   FIG. 15 is a diagram illustrating another setting example of the line-of-sight direction 510 when the viewpoint 500 moves from the shooting point A to the shooting point B. FIG. In this example, when the panorama image 300 at the shooting point A is switched to the panoramic image 320 at the shooting point B, the user's line-of-sight direction 510 is set to the direction of looking back from the shooting point B to the shooting point A, that is, the northwest direction. Thus, when the viewpoint 500 moves to the shooting point B, the user sees the rear panorama image 322 instead of the front panorama image 320.

背面のパノラマ画像322には、北西方向の位置に撮影地点Aに対応するマーカー314が関連付けられており、ユーザは撮影地点Bに移動したとき、直前にいた撮影地点Aのマーカー314を目の前に見ることになる。ユーザは、撮影地点Aから撮影地点Bにワープしたとき、あたかも撮影地点Aを振り返って見ているような感覚をもつことができる。また、ユーザが撮影地点Aに戻って、撮影地点Aのパノラマ画像300を再度閲覧したいときは、目の前に撮影地点Aのマーカー314が表示されていることから、直ちに撮影地点Aのマーカー314を選択して、撮影地点Aのパノラマ画像300に切り替えることができる。   In the rear panorama image 322, a marker 314 corresponding to the shooting point A is associated with a position in the northwest direction, and when the user moves to the shooting point B, the marker 314 at the shooting point A that was immediately before is moved to the front. You will see. When the user warps from the shooting point A to the shooting point B, the user can feel as if looking back at the shooting point A. When the user returns to the shooting point A and wants to view the panorama image 300 at the shooting point A again, the marker 314 of the shooting point A is displayed immediately before the marker 314 of the shooting point A. To switch to the panoramic image 300 at the shooting point A.

別の視線方向510の設定例を説明する。移動先の撮影地点のパノラマ画像が全方位画像ではなく、一部のパン角の範囲しか撮影されていないとする。移動先の視線方向510を上述のように移動先を見る方向や移動元を振り返る方向に設定すると、移動先のパノラマ画像においてその方向の撮影画像が存在しないことがあり、その場合、空白の画面が表示されてしまう。空白画面になることを回避するために、移動先のパノラマ画像における初期の視線方向510は、移動先のパノラマ画像のパン角0°の方向に設定してもよい。あるいは、移動先のパノラマ画像における視線方向510をあらかじめ所望の方向に決めておいてもよい。この所望の方向はユーザが決めてもよく、あるいは、システム側で、たとえば、そのパノラマ画像において推奨される視線方向などに自動的に設定してもよい。   A setting example of another line-of-sight direction 510 will be described. It is assumed that the panoramic image of the moving destination shooting point is not an omnidirectional image, but only a part of the pan angle range is shot. When the destination line-of-sight direction 510 is set to the direction in which the destination is viewed or the direction in which the destination is looked back as described above, there may be no captured image in that direction in the destination panorama image. Will be displayed. In order to avoid a blank screen, the initial line-of-sight direction 510 in the destination panorama image may be set to a direction with a pan angle of 0 ° of the destination panorama image. Alternatively, the line-of-sight direction 510 in the destination panorama image may be determined in advance as a desired direction. The desired direction may be determined by the user, or may be automatically set on the system side, for example, as a viewing direction recommended in the panoramic image.

以上述べたように、本実施の形態のパノラマ画像表示装置によれば、撮影場所の異なるパノラマ画像が複数与えられたとき、あるパノラマ画像の撮影方向に他のパノラマ画像の撮影場所があることが視覚的に確認できるように、パノラマ画像が関連づけられる。これにより、ある撮影場所から別の撮影場所にワープするがごとく、パノラマ画像を切り替えて表示することができる。   As described above, according to the panoramic image display device of the present embodiment, when a plurality of panoramic images having different shooting locations are given, there are shooting locations of other panoramic images in the shooting direction of a certain panoramic image. A panoramic image is associated so that it can be visually confirmed. This makes it possible to switch and display panoramic images as if warping from one shooting location to another.

以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。   The present invention has been described based on the embodiments. The embodiments are exemplifications, and it will be understood by those skilled in the art that various modifications can be made to combinations of the respective constituent elements and processing processes, and such modifications are within the scope of the present invention. .

図10や図11のように地図上の撮影地点にパノラマ画像のシンボルを表示する画面において、パノラマ画像のプレビューを表示可能に構成してもよい。プレビューでは、たとえば、サムネイル画像の形式でパノラマ画像の一部を表示し、サムネイル画像枠の中で、パン角やチルト角を徐々に変化させることでパノラマ画像の全体が閲覧できるようにする。また、このようにしてパノラマ画像のプレビューを表示しているとき、パン角の方向が地図上でどの方角であるかを矢印などで表示してもよい。   The panorama image preview may be displayed on the screen that displays the symbol of the panorama image at the shooting point on the map as shown in FIGS. In the preview, for example, a part of the panoramic image is displayed in the form of a thumbnail image, and the panoramic image can be browsed by gradually changing the pan angle and the tilt angle in the thumbnail image frame. In addition, when the panoramic image preview is displayed in this way, the direction of the pan angle direction on the map may be displayed with an arrow or the like.

上記の説明では、マーカーが関連付けられたパノラマ画像を球面などの3次元パノラマ空間にマッピングし、指定された視線方向から3次元パノラマ空間を見た場合の3次元パノラマ画像を画面に表示したが、マーカーが関連付けられたパノラマ画像を単に2次元表示するだけでもよい。この場合、マッピング処理部14および3次元画像生成部16の構成は不要であり、パノラマ画像表示装置100を簡素化できる。この場合でも2次元表示されたパノラマ画像のマーカーをユーザが選択すると、マーカーに対応するパノラマ画像に切り替えて表示される。   In the above description, the panoramic image associated with the marker is mapped to a three-dimensional panoramic space such as a spherical surface, and the three-dimensional panoramic image when the three-dimensional panoramic space is viewed from the designated viewing direction is displayed on the screen. The panoramic image associated with the marker may be simply two-dimensionally displayed. In this case, the configuration of the mapping processing unit 14 and the three-dimensional image generation unit 16 is unnecessary, and the panoramic image display device 100 can be simplified. Even in this case, when the user selects the marker of the panoramic image displayed in two dimensions, the panoramic image corresponding to the marker is switched and displayed.

パノラマ画像は図3のような全方位撮影システムで撮影されたものに限らず、魚眼レンズを用いて撮影された画像や、撮影方向を変えながら通常のデジタルカメラで撮影された複数の画像を合成した画像であってもよい。   The panoramic image is not limited to the one taken with the omnidirectional photographing system as shown in FIG. 3, but is composed of an image photographed using a fisheye lens or a plurality of images photographed with a normal digital camera while changing the photographing direction. It may be an image.

上記の説明では、マーカー設定部12が、マーカーを合成する前のパノラマ画像を3次元パノラマ空間にマッピングした後、マーカーを3次元パノラマ空間にマッピングすることで、3次元パノラマ画像にマーカーを重ねて表示させた。パノラマ画像にマーカーを合成する別の方法として、マッピング処理部14は、表示対象のパノラマ画像にマーカーを合成した上で、マッピング処理部14がマーカーの合成されたパノラマ画像を3次元パノラマ空間にテクスチャマッピングするようにしてもよい。いずれにしても、表示対象のパノラマ画像に対してマーカーを表示すべき位置が関連付けられてさえいれば、任意の段階で表示対象のパノラマ画像にマーカーを合成することが可能であり、また、すべてのマーカーを合成せずに、合成すべきマーカーを適宜選択してから合成することも可能である。また、新たに撮影されたパノラマ画像がパノラマ画像・付加データ記憶部24に登録された場合、新たに登録されたパノラマ画像のマーカーを既に表示されているパノラマ画像に追加して表示してもよい。   In the above description, the marker setting unit 12 maps the panorama image before combining the markers to the three-dimensional panorama space, and then maps the marker to the three-dimensional panorama space so that the marker is superimposed on the three-dimensional panorama image. Displayed. As another method for synthesizing the marker with the panoramic image, the mapping processing unit 14 synthesizes the marker with the panoramic image to be displayed, and then the mapping processing unit 14 textures the panoramic image with the marker synthesized in the three-dimensional panoramic space. You may make it map. In any case, as long as the position where the marker should be displayed is associated with the panorama image to be displayed, it is possible to synthesize the marker with the panorama image to be displayed at any stage. It is also possible to synthesize after appropriately selecting the marker to be synthesized without synthesizing this marker. When a newly captured panorama image is registered in the panorama image / additional data storage unit 24, a marker of the newly registered panorama image may be added to the already displayed panorama image and displayed. .

パノラマ画像内にマーカーを表示する際、撮影地点Aと撮影地点Bの緯度が同じで、撮影地点Bが撮影地点Aの東側にある場合であっても、撮影地点Bが別の国にある場合には、撮影地点Bのマーカーの表示態様を変えてもよい。たとえば、表示されているパノラマ画像の撮影国とは異なる国で撮影されたパノラマ画像をマーカーで表示するときは、マーカーの形状を撮影地点の国の国旗で表すようにする。また、撮影地点Bが撮影地点Aから見て地球の裏側にあるような場合には、撮影地点Aの全天球パノラマ画像の底部に撮影地点Bのマーカーを表示してもよい。   When displaying a marker in a panoramic image, even if the shooting point A and the shooting point B have the same latitude and the shooting point B is on the east side of the shooting point A, the shooting point B is in a different country Alternatively, the display mode of the marker at the shooting point B may be changed. For example, when displaying a panoramic image taken in a country different from the shooting country of the displayed panoramic image with a marker, the shape of the marker is represented by the national flag of the country of the shooting point. When the shooting point B is on the back side of the earth when viewed from the shooting point A, the marker of the shooting point B may be displayed at the bottom of the panoramic image of the shooting point A.

10 パノラマ画像取得部、 12 マーカー設定部、 14 マッピング処理部、 16 3次元画像生成部、 18 表示制御部、 20 地図生成部、 24 パノラマ画像・付加データ記憶部、 26 地図データ記憶部、 30 視点位置設定部、 32 視線方向設定部、 34 高度設定部、 36 日時設定部、 38 マーカー選択部、 40 ユーザインタフェース部、 100 パノラマ画像表示装置、 200 カメラ。   DESCRIPTION OF SYMBOLS 10 Panorama image acquisition part, 12 Marker setting part, 14 Mapping process part, 16 3D image generation part, 18 Display control part, 20 Map generation part, 24 Panorama image and additional data storage part, 26 Map data storage part, 30 viewpoint Position setting unit, 32 gaze direction setting unit, 34 altitude setting unit, 36 date and time setting unit, 38 marker selection unit, 40 user interface unit, 100 panoramic image display device, 200 camera.

Claims (7)

撮影場所に関する情報と撮影方位に関する情報が関連付けられた画像を保持する記憶部と、
前記記憶部から表示対象の画像を取得する取得部と、
表示対象の画像を画面に表示させる表示制御部と、
前記表示対象の画像の撮影方向に他の画像の撮影場所が存在する場合、その撮影方向に他の画像が存在することを示すマーカーを前記表示対象の画像に関連付けるマーカー設定部と
表示された画像に対するユーザの指示を受け付けるインタフェース部とを含み、
前記表示制御部は、前記表示対象の画像の同一の撮影方向またはその近傍に複数のマーカーが関連付けられている場合、前記複数のマーカーをまとめた代表マーカーを表示し、
前記インタフェース部は、前記代表マーカーに対するユーザの指示を受け付け、
前記表示制御部は、前記代表マーカーに対するユーザの指示を契機に、前記代表マーカーにまとめられていた前記複数のマーカーを展開して表示することを特徴とする画像表示装置。
A storage unit for holding an image associated with information about a shooting location and information about a shooting direction;
An acquisition unit that acquires an image to be displayed from the storage unit;
A display control unit for displaying an image to be displayed on the screen;
A marker setting unit that associates a marker indicating that another image exists in the shooting direction with the image to be displayed when there is a shooting location of another image in the shooting direction of the image to be displayed ;
An interface unit for receiving a user instruction for the displayed image ,
The display control unit, when a plurality of markers are associated with the same shooting direction of the image to be displayed or in the vicinity thereof, displays a representative marker that summarizes the plurality of markers ,
The interface unit accepts a user instruction for the representative marker,
The image display apparatus , wherein the display control unit expands and displays the plurality of markers collected in the representative marker in response to a user instruction for the representative marker .
撮影場所に関する情報と撮影方位に関する情報が関連付けられた画像を保持する記憶部と、  A storage unit for holding an image associated with information about a shooting location and information about a shooting direction;
前記記憶部から表示対象の画像を取得する取得部と、  An acquisition unit that acquires an image to be displayed from the storage unit;
表示対象の画像を画面に表示させる表示制御部と、  A display control unit for displaying an image to be displayed on the screen;
前記表示対象の画像の撮影方向に他の画像の撮影場所が存在する場合、その撮影方向に他の画像が存在することを示すマーカーを前記表示対象の画像に関連付けるマーカー設定部とを含み、  A marker setting unit that associates a marker indicating that there is another image in the shooting direction when the shooting location of the other image exists in the shooting direction of the image to be displayed with the image to be displayed;
前記表示制御部は、前記表示対象の画像の撮影場所と前記他の画像の撮影場所の間の距離に応じて前記マーカーを強調表示することを特徴とする画像表示装置。  The display control unit highlights the marker according to a distance between a shooting location of the image to be displayed and a shooting location of the other image.
前記表示制御部は、前記他の画像の撮影場所が前記表示対象の画像の撮影場所とは異なる地域にある場合、前記マーカーの表示態様を前記異なる地域を示すように変更することを特徴とする請求項1または2に記載の画像表示装置。 The display control unit is configured to change the display mode of the marker so as to indicate the different region when the shooting location of the other image is in a different region from the shooting location of the display target image. the image display apparatus according to claim 1 or 2. 前記表示対象の画像の存在を示すシンボルを前記表示対象の画像の撮影位置に対応する地図上の位置に設定した地図画像を生成する地図生成部をさらに含み、
前記表示制御部は、前記地図画像を前記シンボルとともに表示する際、サムネイル画像の形式で前記表示対象の画像のプレビューを表示することを特徴とする請求項1からのいずれかに記載の画像表示装置。
A map generation unit that generates a map image in which a symbol indicating the presence of the display target image is set to a position on a map corresponding to a shooting position of the display target image;
The display controller, when displaying the map image with the symbol, the image display according to any one of claims 1, characterized in that a preview of the image to be displayed in the form of the thumbnail image 3 apparatus.
撮影場所に関する情報と撮影方位に関する情報が関連付けられた画像を保持する記憶デバイスから、プロセッサが表示対象の画像を読み出すステップと、
表示対象の画像を画面に表示させる表示制御ステップと、
前記表示対象の画像の撮影方向に他の画像の撮影場所が存在する場合、その撮影方向に他の画像が存在することを示すマーカーを前記表示対象の画像に関連付けるマーカー設定ステップとを含み、
前記表示制御ステップは、前記表示対象の画像の撮影場所と前記他の画像の撮影場所の間の距離に応じて前記マーカーを強調表示することを特徴とする画像表示方法。
A processor reading an image to be displayed from a storage device that holds an image associated with information about a shooting location and information about a shooting direction;
A display control step for displaying an image to be displayed on the screen;
A marker setting step of associating a marker indicating that there is another image in the shooting direction with the image to be displayed in the shooting direction of the image to be displayed, in association with the image to be displayed;
The display control step highlights the marker according to a distance between a shooting location of the image to be displayed and a shooting location of the other image .
撮影場所に関する情報と撮影方位に関する情報が関連付けられた画像を保持する記憶デバイスから表示対象の画像を読み出す機能と、
表示対象の画像を画面に表示させる表示制御機能と、
前記表示対象の画像の撮影方向に他の画像の撮影場所が存在する場合、その撮影方向に他の画像が存在することを示すマーカーを前記表示対象の画像に関連付けるマーカー設定機能とをコンピュータに実現させ、
前記表示制御機能は、前記表示対象の画像の撮影場所と前記他の画像の撮影場所の間の距離に応じて前記マーカーを強調表示することを特徴とするプログラム。
A function of reading an image to be displayed from a storage device that holds an image associated with information on a shooting location and information on a shooting direction;
A display control function for displaying an image to be displayed on the screen;
When a shooting location of another image exists in the shooting direction of the image to be displayed, a marker setting function for associating a marker indicating that another image exists in the shooting direction with the image to be displayed is realized in the computer Let
The display control function highlights the marker according to a distance between a shooting location of the image to be displayed and a shooting location of the other image .
請求項のプログラムを格納したことを特徴とする記録媒体。 A recording medium storing the program according to claim 6 .
JP2015029664A 2015-02-18 2015-02-18 Image display device and image display method Active JP5920857B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015029664A JP5920857B2 (en) 2015-02-18 2015-02-18 Image display device and image display method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015029664A JP5920857B2 (en) 2015-02-18 2015-02-18 Image display device and image display method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013259024A Division JP5701967B2 (en) 2013-12-16 2013-12-16 Image display device and image display method

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2016075930A Division JP6122991B2 (en) 2016-04-05 2016-04-05 Image display device and image display method

Publications (2)

Publication Number Publication Date
JP2015092421A JP2015092421A (en) 2015-05-14
JP5920857B2 true JP5920857B2 (en) 2016-05-18

Family

ID=53195509

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015029664A Active JP5920857B2 (en) 2015-02-18 2015-02-18 Image display device and image display method

Country Status (1)

Country Link
JP (1) JP5920857B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6816614B2 (en) * 2017-03-31 2021-01-20 富士通株式会社 Image output program, image output method and image output device

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3910794B2 (en) * 2000-11-14 2007-04-25 株式会社エヌ・ティ・ティ・ドコモ Video search file creation method and homepage update method
JP2004325459A (en) * 2004-05-31 2004-11-18 Toshiba Corp Positional information display, positional information management system, and positional information managing method
JP4853149B2 (en) * 2005-09-14 2012-01-11 ソニー株式会社 Image processing apparatus, image display apparatus, image processing method, program, and recording medium
DE202008018626U1 (en) * 2007-05-25 2017-01-31 Google Inc. System for viewing panorama pictures
JP2009093294A (en) * 2007-10-04 2009-04-30 Victor Co Of Japan Ltd Image information management system and image registration browsing device

Also Published As

Publication number Publication date
JP2015092421A (en) 2015-05-14

Similar Documents

Publication Publication Date Title
JP5464955B2 (en) Panorama image display device
JP5406813B2 (en) Panorama image display device and panorama image display method
JP5409577B2 (en) Panorama image generation apparatus and panorama image generation method
JP5250598B2 (en) Image display device and image display method
JP6167703B2 (en) Display control device, program, and recording medium
JP2010244534A (en) Capture and display of digital image based on related metadata
JP5477059B2 (en) Electronic device, image output method and program
JP6816465B2 (en) Image display systems, communication systems, image display methods, and programs
JP5701967B2 (en) Image display device and image display method
JP6304300B2 (en) Transmitting apparatus, communication method, program, and receiving apparatus
JP5920857B2 (en) Image display device and image display method
JP2017212510A (en) Image management device, program, image management system, and information terminal
JP6122991B2 (en) Image display device and image display method
JP5646033B2 (en) Image display device and image display method
JP6443505B2 (en) Program, display control apparatus, and display control method
JP2010063076A (en) Image processing apparatus and image processing apparatus program
JP2017182548A (en) Image management system, image management method, image communication system, and program
JP2018026642A (en) Image management system, image communication system, image management method, and program
JP6233451B2 (en) Image sharing system, communication method and program
JP2020024687A (en) Information processing device, information processing system, information processing method, and program
WO2022180459A1 (en) Image processing method, recording medium, image processing apparatus, and image processing system
JP2019145059A (en) Information processing unit, information processing system, information processing method and program
JP2019140459A (en) Display information creation device, information processing device, photographing system, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160405

R150 Certificate of patent or registration of utility model

Ref document number: 5920857

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250