JP2009193468A - Virtual scenery display device - Google Patents
Virtual scenery display device Download PDFInfo
- Publication number
- JP2009193468A JP2009193468A JP2008035219A JP2008035219A JP2009193468A JP 2009193468 A JP2009193468 A JP 2009193468A JP 2008035219 A JP2008035219 A JP 2008035219A JP 2008035219 A JP2008035219 A JP 2008035219A JP 2009193468 A JP2009193468 A JP 2009193468A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- landscape
- control unit
- shooting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
本発明は、撮影された撮影位置情報付きの画像から、撮影時に被写体が見ていた風景の画像を補足して表示する仮想風景表示装置に関する。 The present invention relates to a virtual landscape display device that supplements and displays a landscape image viewed by a subject from a captured image with shooting position information.
近年、グーグル(登録商標)マップのように、3次元(3D)画像によって地図表示を行うサービスが各種提案されている。また、現実画像にCG画像を重畳して表示できるシステムも各種提案されている。例えば、特許文献1においては、現実画像とCG画像を合成することにより、ゴルフ中継等において、中継している映像中に写っている風景における起伏を視覚的に表示できるようにしている。
個人向けのカメラ撮影において、ユーザが自身で撮影した写真をアルバム等で見て、その撮影当時を追体験することが行われることがある。ここで、一般的には、ユーザが自身で撮影した写真に関しては記憶が残りやすく、撮影していない写真に関する記憶は残りにくいと考えられる。したがって、当時に撮影していなかった風景等に関する追体験を行うことは困難であると考えられる。 In personal camera photography, there are cases where a user takes a picture taken by himself / herself in an album or the like and relives the time of photography. Here, in general, it is considered that the memory about the photograph taken by the user himself is likely to remain, and the memory regarding the photograph which has not been photographed is difficult to remain. Therefore, it is considered difficult to have a re-experience about scenery that was not taken at that time.
本発明は、上記の事情に鑑みてなされたもので、撮影当時に撮影されなかった風景をも想起することができる仮想風景表示装置を提供することを目的とする。 The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a virtual landscape display device that can recall a landscape that was not photographed at the time of photographing.
上記の目的を達成するために、本発明の第1の形態の仮想風景表示装置は、撮影位置情報が付加された画像を入力するための入力部と、地図データと入力された前記画像に付加されている撮影位置情報とに基づき、入力された前記画像中の被写体が見ている方向と相対する方向に存在する風景の画像を仮想的に作成して表示する仮想風景作成部とを具備することを特徴とする。 In order to achieve the above object, a virtual landscape display device according to a first aspect of the present invention includes an input unit for inputting an image to which shooting position information is added, and map data and an input to the input image. A virtual landscape creation unit that virtually creates and displays an image of a landscape that exists in a direction opposite to the direction in which the subject in the input image is viewed based on the captured shooting position information. It is characterized by that.
本発明によれば、撮影当時に撮影されなかった風景をも想起することができる仮想風景表示装置を提供することができる。 According to the present invention, it is possible to provide a virtual landscape display device that can recall a landscape that was not photographed at the time of photographing.
以下、図面を参照して本発明の実施形態を説明する。
図1は、本発明の一実施形態に係る仮想風景表示装置を含む、仮想風景表示システムの構成を示す図である。図1に示す仮想風景表示システムは、カメラ100と、サーバ200とが通信回線300を介して通信自在に接続されて構成されている。ここで、通信回線300はインターネット回線等の汎用の通信回線である。
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a diagram showing a configuration of a virtual landscape display system including a virtual landscape display device according to an embodiment of the present invention. The virtual landscape display system shown in FIG. 1 is configured such that a
カメラ100は、制御部101と、操作入力部102と、撮像部103と、位置検出部104と、時計部105と、記録部106と、表示部107と、通信部108とを有している。
The
制御部101は、カメラ100の全体の動作を制御する。この制御部101は、ユーザによる操作入力部102の操作状態に従って各種の処理を制御する。操作入力部102は、カメラ100の電源をオンオフするための電源スイッチ、カメラ100の撮影実行の指示を与えるためのレリーズボタン、ズーム操作を実行するためのズームボタン、画像の通常再生指示を与えるための再生ボタン、画像の思い出再生(詳細は後述)指示を与えるための思い出再生ボタン、カメラ100における各種選択操作を行うための十字キー、カメラ100における各種決定操作を行うためのOKボタン等、ユーザがカメラ100の操作を行うための各種の操作部材を含んで構成されている。
The
撮像部103は、制御部101の制御の下で被写体を撮影して画像を取得する。位置検出部104は、例えばGPS等で構成され、撮影時のカメラ100の位置(緯度・経度)を検出する。時計部105は、撮影日時を検出する。
The
ここで、位置検出部104や時計部105は必ずしもカメラ100に内蔵する必要はない。例えば、GPS内蔵の腕時計や専用のナビゲーション装置をユーザに携帯させることで、これらによって検出される位置情報や時間情報をカメラ100において取得するようにしても良い。
Here, the
記録部106は、例えばカメラ100に対して着脱自在に構成されたメモリカードであり、撮像部103を介して取得された画像を、位置検出部104で検出された撮影位置及び時計部105で検出された撮影日時と関連付けて記録する。表示部107は、制御部101の下で記録部106に記録された画像等の各種画像を表示する。
The
通信部108は、制御部101の制御の下、サーバ200との通信に係る各種処理を行う。
The
サーバ200は、制御部201と、操作入力部202と、画像記録部203と、年代別地図データベース(DB)204と、撮影者画像DB205と、仮想風景作成部206と、通信部207とを有している。サーバ200は、様々な地方の地図画像を記録できるように巨大なデータベースを有し、インターネット上の様々なサイトの情報も利用できるようにインターネットに接続されていることが望ましいが、カメラ100にサーバ200の機能を持たせるようにしても良い。
The
制御部201は、サーバ200における各種処理を制御する。この制御部201は、操作入力部202が操作された場合には、その操作内容に従った処理も行う。操作入力部202は、サーバ200の操作を行うための各種の操作部材を含んで構成されている。ここで、図1においては、操作入力部202をサーバ200に設けているが、操作入力部202は、サーバ200にネットワーク接続されたPC等であっても良い。
The
画像記録部203は、カメラ100から通信回線300を介して送信された画像を記録する。画像記録部203は、カメラ100の記録部106に比して大容量の記録容量を有するハードディスク等から構成されている。ここで、本実施形態における画像記録部203は、位置年代記録部203aとしての記録領域を有している。位置年代記録部203aは、画像記録部203に記録されている各画像の撮影位置と撮影日時(撮影年代)とを関連付けて記録しておくための記録領域である。
The
年代別地図DB204は、撮影年代毎の2D及び3D地図画像を記録したデータベースである。ここで、年代別地図DB204は、画像記録部203とは別の記録媒体内に構築しても良いし、画像記録部203内に構築しても良い。
The age-specific map DB 204 is a database that records 2D and 3D map images for each shooting age. Here, the age-
撮影者画像DB205は、ユーザ(撮影者)の画像を記録したデータベースである。この撮影者画像DB205に記録される撮影者の画像は、撮影者が自身で登録した実写画像、若しくはサーバ200に予め登録されている撮影者の分身としてのキャラクタ画像であるアバターである。ユーザは、後述する思い出再生の際に作成される仮想風景画像に合成する自身の画像を実写画像とするかアバターとするかを操作入力部202又はカメラ100の操作入力部102によって選択することが可能である。
The photographer image DB 205 is a database in which images of users (photographers) are recorded. The photographer's image recorded in the photographer image DB 205 is an avatar that is a photographed image registered by the photographer himself or a character image as a part of the photographer registered in advance in the
仮想風景作成部206は、思い出再生の際に入力される画像に写っている被写体が見ている風景の画像(仮想風景画像)を作成し、さらに、必要に応じて仮想風景画像に入力された画像のユーザ(撮影者)の画像を合成する。仮想風景作成部206は、方向検出部2061と、画像合成部2062とを有している。方向検出部2061は、同方向検出部2061aと反対方向検出部2061bとを有している。同方向検出部2061aは、入力された画像の撮影位置情報と、入力された画像に写っている風景とから、撮影方向を検出する。反対方向検出部2061bは、同方向検出部2061aによって検出された撮影方向と相対する方向(180度の回転方向)を検出する。画像合成部2062は、反対方向検出部2061bによって検出された方向に存在する風景の画像を仮想風景画像として年代別地図DB204から取得し、必要に応じて、取得した風景の画像に、入力された画像の撮影者の画像を合成する。即ち、画像合成部2062によって取得される仮想風景画像は、入力された画像の撮影当時に被写体が見ていた方向、即ち撮影者が存在していた方向に写っていたと考えられる風景の画像に相当する。
The virtual
通信部207は、制御部201の制御の下、カメラ100との通信に係る各種処理を行う。
The
以下、図1に示す仮想風景表示システムの動作の概略について説明する。図2は、仮想風景表示システムの動作の概略について示す図である。 The outline of the operation of the virtual landscape display system shown in FIG. 1 will be described below. FIG. 2 is a diagram showing an outline of the operation of the virtual landscape display system.
本実施形態においては、撮影がなされると、撮影位置と撮影日時とが関連付けられた状態で画像が記録部106に記録される。
In this embodiment, when shooting is performed, an image is recorded in the
そして、ユーザの操作入力部102の操作により、カメラ100の動作モードが思い出画像再生モードに設定され、その後に、カメラ100の記録部106に記録されている画像が選択されると、選択された画像がサーバ200に送信される。図2の例では、12時20分に緯度A、経度Bの位置で撮影された画像401が選択された例を示している。
Then, the operation mode of the
画像401がサーバ200において受信されると、年代別地図DB204から画像401の撮影位置を含む2D地図画像402及び3D地図画像が取得される。その後、仮想風景作成部206の同方向検出部2061aにおいて、画像401に写っている風景から画像401の撮影方向が特定される。画像401の撮影方向の特定後、反対方向検出部2061bによって撮影方向と相対する方向(撮影方向の180度回転方向)が特定される。この方向が、画像401の撮影当時に被写体が見ていたと考えられる方向となる。
When the
反対方向検出部2061bによって撮影方向と相対する方向が特定されると、画像合成部2062によって、被写体が見ていたと考えられる画像が仮想風景画像として、年代別地図DB204の3D地図画像をもとに作成される。さらに、作成された仮想風景画像403に必要に応じて撮影者の画像404が合成される。
When the direction opposite to the shooting direction is specified by the opposite
以上のようにして仮想風景画像を作成することにより、実際には画像401しか撮影してなくとも、その撮影位置で見ることのできた他の画像をも鑑賞することが可能である。
By creating a virtual landscape image as described above, it is possible to view other images that can be viewed at the shooting position even if only the
以下、図1の仮想風景表示システムの具体的な動作について説明する。
図3は、図1に示す仮想風景表示システムにおけるカメラ100の動作を示すフローチャートである。ユーザによる操作入力部102の電源スイッチの操作によってカメラ100の電源がオンされることで図3の処理が開始される。
Hereinafter, a specific operation of the virtual landscape display system of FIG. 1 will be described.
FIG. 3 is a flowchart showing the operation of the
電源のオン後、制御部101は、撮像部103を動作させ、撮像部103を介して得られる画像を表示部107にリアルタイム表示させるスルー画表示を行う(ステップS1)。スルー画表示の後、制御部101は、ユーザによる操作入力部102のレリーズボタンの操作によって画像撮影指示がなされたかを判定する(ステップS2)。
After the power is turned on, the
ステップS2の判定において、画像撮影指示がなされた場合に、制御部101は、被写体の撮影を実行する(ステップS3)。即ち、制御部101は、撮像部103を動作させて被写体の画像を取得し、この取得した被写体の画像に対し、種々の画像処理を施す。その後、制御部101は、撮影実行時に時計部105において検出された撮影日時情報を取得するとともに(ステップS4)、撮影実行時に位置検出部104において検出された撮影位置情報を取得する(ステップS5)。次に、制御部101は、撮影によって得られた画像と撮影日時情報及び撮影位置情報とを関連付けて記録部106に記録する(ステップS6)。
If it is determined in step S2 that an image shooting instruction has been issued, the
また、ステップS2の判定において、画像撮影指示がなされていない場合に、制御部101は、ユーザによる操作入力部102の再生ボタンの操作によって通常の画像再生指示がなされたかを判定する(ステップS7)。ステップS7の判定において、通常の画像再生指示がなされた場合に、制御部101は、通常の画像の再生に関する処理を行う(ステップS8)。即ち、制御部101は、記録部106に記録されている画像のサムネイル画像を表示部107に表示させ、ユーザによって選択されたサムネイル画像に対応した画像を表示部107に表示させる。なお、サーバ200の画像記録部203に記録されている画像をカメラ100で再生できるようにしても良い。この場合には、カメラ100からサーバ200に対して画像の再生要求がなされる。これを受けてサーバ200に記録されている画像のサムネイル画像が表示部107に表示される。何れかのサムネイル画像がユーザによって選択された場合、そのサムネイル画像に対応した画像がサーバ200からカメラ100に送信され、この送信された画像が表示部107に表示される。
Further, in the determination in step S2, if no image shooting instruction has been issued, the
また、ステップS7の判定において、通常の画像再生指示がなされていない場合に、制御部101は、ユーザによる操作入力部102の思い出再生ボタンの操作によって思い出再生指示がなされたかを判定する(ステップS9)。ステップS9の判定において、思い出再生指示がなされていない場合に、制御部101は、ユーザによる操作入力部102の操作により画像送信指示がなされたかを判定する(ステップS10)。ステップS10の判定において、画像送信指示がなされていない場合に、処理がステップS1に戻り、制御部101は、スルー画表示を再び行う。一方、ステップS10の判定において、画像送信指示がなされた場合に、制御部101は画像送信に関する処理を行う(ステップS11)。即ち、制御部101は、記録部106に記録されている画像のサムネイル画像を表示部107に表示させ、ユーザによって選択されたサムネイル画像に対応した画像をサーバ200に送信する。
Further, in the determination in step S7, when a normal image reproduction instruction has not been given, the
また、ステップS9の判定において、思い出再生指示がなされた場合に、制御部101は思い出再生に係る処理を実行する。まず、制御部101は、記録部106に記録されている画像のサムネイル画像を表示部107に表示させる(ステップS12)。次に、制御部101は、ユーザによる操作入力部102の操作によってサムネイル画像中の何れかの画像が選択されるのを待つ(ステップS13)。
In the determination of step S9, when a memory playback instruction is given, the
ステップS13において画像の選択がなされた後、制御部101は、撮影者の画像の設定の入力を待つ(ステップS14)。この設定は、後述する思い出再生モードにおいて仮想風景画像に、撮影者画像を合成するか、また合成する場合にはどのような画像を合成するか等の設定である。この撮影者画像の設定についての処理は後述する。
After the image is selected in step S13, the
その後、制御部101は、ユーザによる操作入力部102の操作によって決定指示がなされたかを判定する(ステップS15)。ステップS15の判定において、決定指示がなされていない場合には、処理がステップS13に戻って、制御部101は画像の選択及び撮影者画像の設定入力の変更を待つ。一方、ステップS15の判定において、決定指示がなされた場合に、制御部101は、ユーザによって選択された画像をサーバ200に送信し、サーバ200に対して思い出再生要求を送信する。この際、ステップS14で設定された撮影者画像の設定情報もサーバ200に送信する(ステップS16)。この後、後述するサーバ200の処理において、思い出再生用の画像ファイルが生成される。
Thereafter, the
その後、制御部101は、サーバ200において生成された思い出再生用の画像ファイルを受信したかを判定する(ステップS17)。ステップS17において、サーバ200から画像ファイルを受信するまで待機する。ステップS17の判定において、サーバ200から画像ファイルが受信された場合に、制御部101は、ユーザにその旨を通知する。ユーザによって思い出画像ファイルの再生指示がなされたかを判定する(ステップS18)。ステップS18の判定において、思い出画像ファイルの再生指示がなされた場合に、制御部101は、サーバ200から送信された画像ファイルに基づき、撮影時に被写体が見ていたと考えられる風景画像を表示部107に表示させる思い出再生処理を行う(ステップS19)。この思い出再生処理については後述する。また、ステップS18の判定において、思い出画像ファイルの再生指示がなされなかった場合に、制御部101は、ステップS19の処理をスキップする。
Thereafter, the
ステップS18又はステップS19の後、制御部101は、ユーザの操作入力部102の操作により画像ファイルの記録指示がなされたかを判定する(ステップS20)。ステップS20の判定において、画像ファイルの記録指示がなされた場合に、制御部101は画像ファイルを記録部106に記録する(ステップS21)。また、ステップS20の判定において、思い出画像ファイルの記録指示がなされなかった場合に、制御部101は、ステップS21の処理をスキップする。
After step S18 or step S19, the
図4は、図1に示す仮想風景表示システムにおけるサーバ200の動作を示すフローチャートである。制御部201は、思い出再生要求がなされていない状態でカメラ100からの画像を受信したかを判定する(ステップS31)。ステップS31の判定において、画像を受信した場合に、制御部201は、受信した画像を画像記録部203に記録する(ステップS32)。その後、制御部201は、カメラ100からの画像の受信が終了したかを判定する(ステップS33)。ステップS33の判定において、画像の受信が終了していない場合に、処理がステップS31に戻り、制御部201は、カメラ100からの次の画像の受信を待つ。
FIG. 4 is a flowchart showing the operation of the
また、ステップS31の判定において、画像の受信がない場合に、制御部201は、カメラ100から画像とともに思い出再生要求がなされたかを判定する(ステップS34)。ステップS34の判定において、思い出再生要求がなされていない場合に、制御部201は、カメラ100から通常の画像の再生要求がなされたかを判定する(ステップS35)。ステップS35の判定において、通常の画像の再生要求がなされた場合に、制御部201はユーザによって選択された画像をカメラ100に転送する。これにより、カメラ100の表示部107において画像再生が行われる(ステップS36)。
Further, in the determination in step S31, when no image is received, the
また、ステップS34の判定において、思い出再生要求がなされた場合に、制御部201はカメラ100から送られてきた画像を取得する(ステップS37)。次に、制御部201は、カメラ100から送られてきた撮影者画像の設定情報に基づいて撮影者画像を取得する(ステップS38)。即ち、カメラ100から撮影者を示す画像が送られてきた場合には、その画像を撮影者画像として取得する。また、サーバ200の撮影者画像DB205に記録されている画像を合成するように要求されている場合には、その画像を撮影者画像として取得する。
In the determination in step S34, when a memory playback request is made, the
その後、制御部201は、取得した画像に付加されている撮影日時と撮影位置の情報に基づき、年代別地図DB204から、カメラ100から送られてきた画像の撮影日時と同年代で且つその画像の撮影位置を含む2D地図画像及び3D地図画像を選択し(ステップS39)、選択した2D地図画像及び3D地図画像を仮想風景作成部206に送る。その後、仮想風景作成部206の同方向検出部2061aは、カメラ100から送られてきた画像に写っている風景から、カメラ100から送られてきた画像の撮影方向を検出する(ステップS40)。即ち、同方向検出部2061aは、撮影者が撮影位置に立ったときに見えるはずの画像(撮影位置を中心として360度回転方向に沿って存在する風景画像)を3D地図画像から選択する。そして、仮想風景各選択した画像とカメラ100から送られてきた画像とのマッチング処理を行い、マッチング処理によって最も一致度の高いと判定される風景画像が存在する方向を撮影方向として検出する。例えば、図2の位置402aに存在する風景画像との一致度が高いと判定される場合には、撮影方向は矢印Cで示すものとなる。撮影方向の検出後、仮想風景作成部206の反対方向検出部2061bは、撮影方向の反対方向(撮影方向に対して180度回転方向。図2の例では矢印Dの方向)を検出する(ステップS41)。
Thereafter, the
反対方向の検出終了後、制御部201は、撮影者画像の設定情報に基づき、撮影者画像を合成するように設定されているかを判定する(ステップS42)。ステップS42の判定において、撮影者画像を合成するように設定されている場合に、制御部201は、撮影位置の周囲360度の位置に対応した風景画像を仮想風景画像として選択し、選択した仮想風景画像の中で、ステップS41で検出された反対方向に対応した位置(図2の例では位置402b)に対応した仮想風景画像を選択し、選択した仮想風景画像を画像合成部2062に送る。画像合成部2062は、送られてきた仮想風景画像にステップS38で取得した撮影者画像を合成する。このような画像の合成の後、制御部201は、合成がなされた仮想風景画像を含む撮影位置周辺の仮想風景画像を1つの画像ファイルとする(ステップS43)。一方、ステップS42の判定において、撮影者画像を合成するように設定されていない場合に、制御部201は、撮影位置の周囲360度の位置に対応した風景画像を仮想風景画像として選択し、選択した各仮想風景画像とステップS38で取得した撮影者画像とを1つの画像ファイルとする(ステップS44)。また、ここで作成される思い出画像ファイルには、ステップS41で検出された反対方向の情報も含めておく。このようにして、仮想風景画像と撮影者画像とを合成せずに画像ファイルに記録しておくことにより、カメラ100においても合成を行うことが可能となる。
After the detection of the opposite direction is completed, the
図5は、図3のステップS14における撮影者画像の設定処理について示すフローチャートである。ユーザ(撮影者)は、サーバ200の撮影者画像DB205に記録されている画像の中から所望の撮影者画像を選択することができる。なお、撮影者画像の設定は、サーバ200にネットワーク接続されたPC上から行うことも可能である。
FIG. 5 is a flowchart showing the photographer image setting process in step S14 of FIG. A user (photographer) can select a desired photographer image from images recorded in the
撮影者画像の設定の際に、制御部101は、サーバ200からアバターの候補画像を受信し、受信した候補画像のサムネイル画像を図6(a)の参照符号107aに示すようにして表示させる。そして、ユーザによるアバター候補の選択を待つ(ステップS51)。この際、制御部101は、ユーザによりアバターの候補が選択されたかを判定し(ステップS52)、選択がなされるまでステップS51〜S52の処理を繰り返す。ステップS51では、アバターの性別やスタイル等のアバターの外形を選択することが可能である。即ち、ユーザは、操作入力部102の十字キー102aとOKボタン102bとを操作してカーソル107bを移動させ、表示部107に表示された何れかのサムネイル画像を選択することにより、所望の外形のアバターを選択することが可能である。
When setting the photographer image, the
ステップS52の判定において、アバターの候補が選択された場合に、制御部101は、サーバ200から、選択された外形に対応したアバターの候補画像を受信し、受信した候補画像のサムネイル画像を図6(b)の参照符号107cに示すようにして表示させる。そして、ユーザによるアバター候補の選択を待つ(ステップS53)。この際、制御部101は、ユーザによりアバターの候補が選択されたかを判定し(ステップS54)、選択がなされるまでステップS53〜S54の処理を繰り返す。ステップS53では、アバターのポーズを選択することが可能である。即ち、ユーザは、操作入力部102の十字キー102aとOKボタン102bとを操作してカーソル107bを移動させ、表示部107に表示された何れかのサムネイル画像を選択することにより、ステップS51で選択された外形に対応した所望のポーズのアバターを選択することが可能である。
When the avatar candidate is selected in the determination of step S52, the
ステップS54の判定において、アバターの候補が選択された場合に、制御部101は、選択されたポーズに基づいてアバターの候補画像を作成し、作成したアバターの候補画像をユーザへの確認用の画像として表示部107に表示させる(ステップS55)。その後、制御部101は、ユーザによってOK操作がなされたかを判定する(ステップS56)。OK操作は、ユーザによるOKボタン102bの操作である。ステップS56の判定において、OK操作がなされていない場合には、処理がステップS53に戻り、制御部101は、アバター候補の選択を再び待つ。
In the determination of step S54, when an avatar candidate is selected, the
また、ステップS56の判定において、ユーザによってOK操作がなされた場合に、制御部101は、サーバ200と通信してサーバ200の撮影者画像DB205に撮影者であるユーザを示す実写画像(撮影者が自身で登録した画像)が記録されているかを判定する(ステップS57)。ステップS57の判定において、実写画像が記録されていない場合に、制御部101は、図5の処理を終了させる。一方、ステップS57の判定において、実写画像が記録されている場合に、制御部101は、サーバ200から実写画像を受信し、受信した実写画像のサムネイル画像を図6(c)の参照符号107dに示すようにして表示させる。そして、ユーザによる実写画像の選択を待つ(ステップS58)。この際、制御部101は、ユーザによりアバターの候補となる実写画像が選択されたかを判定し(ステップS59)、選択がなされるまでステップS58〜S59の処理を繰り返す。
In the determination of step S56, when the user performs an OK operation, the
ステップS59の判定において、アバターの候補となる実写画像が選択された場合に、制御部101は、選択された実写画像における顔部の画像をステップS55で作成されたアバター候補の顔部に合成する(ステップS60)。その後、制御部101は、図5の処理を終了させる。
In the determination in step S59, when a live-action image that is a candidate for an avatar is selected, the
以上のようにして合成されたアバターの画像は、図3のステップS16の思い出再生要求の際に、サーバ200に送信される。このアバターの画像は、思い出画像ファイルの作成時に必要に応じて仮想風景画像に合成される。これにより、ユーザ(撮影者)が自身の画像を撮影していなくとも、自身を示す画像を作成することができる。このような画像を仮想風景画像に合成することにより、ユーザは、自身が写っている画像を撮影していなくとも、撮影当時に被写体が見ていた風景を含む、その当時に撮影しなかった風景の画像を鑑賞することができる。これにより、ユーザは、撮影当時の状況を想起できる。
The avatar image synthesized as described above is transmitted to the
図7は、カメラ100による思い出再生時の処理について示すフローチャートである。ここで、本実施形態においては、思い出再生時にも、仮想風景画像と撮影者画像とを合成することができるようになされている。
FIG. 7 is a flowchart showing the process during memory playback by the
思い出画像ファイルが受信され、ユーザによって思い出再生の指示がなされた後、制御部101は、思い出画像ファイル内に撮影者画像が含まれているか(サーバ200において撮影者画像の合成がなされていないか)を判定する(ステップS71)。ステップS71の判定において、思い出画像ファイル内に撮影者画像が含まれている場合に、制御部101は、ユーザ操作によって撮影者画像を仮想風景画像に合成するように指示されたかを判定する(ステップS72)。ステップS72の判定において、撮影者画像を合成するように指示された場合に、制御部101は、図8(a)に示すような撮影者画像を、図8(b)に示すような撮影方向の反対方向に対応した仮想風景画像に合成する(ステップS73)。
After the memory image file is received and the user gives an instruction to play back the memory, the
ステップS71、S72、又はS73の後、制御部101は、仮想風景画像を表示部107に表示させることで思い出再生を実行する(ステップS74)。思い出再生の際、制御部101は、ユーザによってOK操作がなされたかを判定する(ステップS75)。ステップS75の判定において、OK操作がなされた場合に、制御部101は、図7の処理を終了させる。その後、図8(d)に示すようにして作成された仮想風景画像501aを含む思い出画像ファイルが、ユーザ操作に従って記録部106に記録される。
After step S71, S72, or S73, the
一方、ステップS75の判定において、OK操作がなされていない場合に、制御部101は、ユーザによって十字キー102aの左右キーの操作がなされたかを判定する(ステップS76)。ステップS76の判定において、十字キー102aの操作がなされた場合に、制御部101は、十字キー102aの操作方向に従って画像ファイル中の別の仮想風景画像を選択し、選択した仮想風景画像に、再度、撮影者画像を合成することにより、撮影者画像の合成位置の変更を行う(ステップS77)。ユーザは、十字キー102aの左右キーの操作によって図8(c)の矢印E方向(撮影位置を中心とした360度回転方向)に沿って仮想風景画像を選択することができる。例えば、図8(c)の状態で右キーが押された場合には、仮想風景画像501の右隣の仮想風景画像が選択され、選択された仮想風景画像の中心位置に撮影者画像502が合成される。また、図8(c)の状態で左キーが押された場合には、仮想風景画像501の左隣の仮想風景画像が選択され、選択された仮想風景画像の中心位置に撮影者画像502が合成される。
On the other hand, if it is determined in step S75 that an OK operation has not been performed, the
ステップS76又はS77の後、制御部101は、ユーザによってズーム操作がなされたかを判定する(ステップS78)。ステップS78の判定において、ズーム操作がなされた場合に、制御部101は、ズームボタンの操作方向に従って撮影者画像を拡大又は縮小し、拡大又は縮小後の撮影者画像を仮想風景画像に、再度合成することにより、撮影者画像の表示範囲の変更を行う(ステップS79)。ユーザは、ズームボタンの操作によって図8(c)の矢印F方向に撮影画像の拡大又は縮小を行うことができる。例えば、ズームボタンのワイド側が押された場合には、撮影者画像を拡大する。また、ズームボタンのテレ側が押された場合には、撮影者画像を縮小する。
After step S76 or S77, the
以上説明したように、本実施形態によれば、撮影時にユーザによって撮影されていなかった風景等の画像を3D地図画像から作成することにより、撮影時に被写体が見ていたはずの風景等を撮影後に鑑賞して思い出を想起することが可能となる。 As described above, according to the present embodiment, an image of a landscape that has not been photographed by the user at the time of photographing is created from the 3D map image, so that the scenery that the subject should have seen at the time of photographing is photographed. Appreciate and recall memories.
以上実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。 Although the present invention has been described above based on the embodiments, the present invention is not limited to the above-described embodiments, and various modifications and applications are naturally possible within the scope of the gist of the present invention.
例えば、上述の実施形態では、カメラ100とサーバ200とで構成されるシステムについて説明しているが、カメラ100の代わりにPCや携帯電話機等を用いても良い。即ち、少なくとも画像の表示機能を備える機器であれば、カメラ100の代わりに用いることが可能である。
For example, in the above-described embodiment, a system including the
また、仮想風景画像は、3D地図画像の他に、衛星写真や航空写真等を利用して作成するようにしても良い。 In addition to the 3D map image, the virtual landscape image may be created using a satellite photograph or an aerial photograph.
さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、上述したような課題を解決でき、上述したような効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。 Further, the above-described embodiments include various stages of the invention, and various inventions can be extracted by appropriately combining a plurality of disclosed constituent elements. For example, even if some configuration requirements are deleted from all the configuration requirements shown in the embodiment, the above-described problem can be solved, and this configuration requirement is deleted when the above-described effects can be obtained. The configuration can also be extracted as an invention.
100…カメラ、101…制御部、102…操作入力部、103…撮像部、104…位置検出部、105…時計部、106…記録部、107…表示部、108…通信部、200…サーバ、201…制御部、202…操作入力部、203…画像記録部、203a…位置年代記録部、204…年代別地図データベース(DB)、205…撮影者画像DB、206…仮想風景作成部、207…通信部、300…通信回線
DESCRIPTION OF
Claims (3)
地図データと入力された前記画像に付加されている撮影位置情報とに基づき、入力された前記画像中の被写体が見ている方向と相対する方向に存在する風景の画像を仮想的に作成して表示する仮想風景作成部と、
を具備することを特徴とする仮想風景表示装置。 An input unit for inputting an image with shooting position information added thereto;
Based on map data and shooting position information added to the input image, a virtual image of a landscape existing in a direction opposite to the direction in which the subject in the input image is viewed is created. A virtual landscape creation section to be displayed;
A virtual landscape display device comprising:
前記地図データ上での方向を検出する方向検出部と、
前記検出された方向に従って前記画像中の被写体が見ている方向と相対する方向に対応した風景の画像を作成し、該作成した風景の画像を、入力された前記画像の撮影者を示す画像に合成する画像合成部と、
を含むことを特徴とする請求項1に記載の仮想風景表示装置。 The virtual landscape creation unit
A direction detection unit for detecting a direction on the map data;
According to the detected direction, a landscape image corresponding to a direction opposite to the direction in which the subject in the image is viewed is created, and the created landscape image is converted into an image indicating the photographer of the input image. An image composition unit to be composed;
The virtual landscape display device according to claim 1, comprising:
前記撮影位置情報と入力された前記画像に写っている風景の画像とに基づき、入力された前記画像の撮影方向を検出する同方向検出部と、
前記同方向検出部によって検出された撮影方向と相対する方向を、前記画像中の被写体が見ている方向と相対する方向として検出する反対方向検出部と、
を含むことを特徴とする請求項2に記載の仮想風景表示装置。 The direction detector
Based on the shooting position information and a landscape image in the input image, a same direction detection unit that detects a shooting direction of the input image;
An opposite direction detection unit that detects a direction opposite to the photographing direction detected by the same direction detection unit as a direction opposite to a direction in which the subject in the image is viewed;
The virtual landscape display device according to claim 2, comprising:
Priority Applications (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008035219A JP5058842B2 (en) | 2008-02-15 | 2008-02-15 | Virtual landscape display device |
US12/364,574 US8717411B2 (en) | 2008-02-05 | 2009-02-03 | Virtual image generating apparatus, virtual image generating method, and recording medium storing virtual image generating program |
CN 200910006169 CN101505376B (en) | 2008-02-05 | 2009-02-05 | Virtual image generating apparatus and virtual image generating method |
US14/175,854 US9412204B2 (en) | 2008-02-05 | 2014-02-07 | Virtual image generating apparatus, virtual image generating method, and recording medium storing virtual image generating program |
US15/228,927 US9807354B2 (en) | 2008-02-05 | 2016-08-04 | Virtual image generating apparatus, virtual image generating method, and recording medium storing virtual image generating program |
US15/723,935 US10027931B2 (en) | 2008-02-05 | 2017-10-03 | Virtual image generating apparatus, virtual image generating method, and recording medium storing virtual image generating program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008035219A JP5058842B2 (en) | 2008-02-15 | 2008-02-15 | Virtual landscape display device |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012169044A Division JP5409852B2 (en) | 2012-07-31 | 2012-07-31 | Virtual landscape display device and virtual landscape display method |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2009193468A true JP2009193468A (en) | 2009-08-27 |
JP2009193468A5 JP2009193468A5 (en) | 2011-03-17 |
JP5058842B2 JP5058842B2 (en) | 2012-10-24 |
Family
ID=41075402
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008035219A Expired - Fee Related JP5058842B2 (en) | 2008-02-05 | 2008-02-15 | Virtual landscape display device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5058842B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018135246A1 (en) * | 2017-01-23 | 2018-07-26 | 株式会社Nttドコモ | Information processing system and information processing device |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000057320A (en) * | 1998-08-07 | 2000-02-25 | Nippon Lsi Card Co Ltd | Management system for image data linked to position data, image management method using the system and image display method |
JP2002251396A (en) * | 2001-02-21 | 2002-09-06 | Mapnet Co Ltd | Geographical space guide device |
JP2005064681A (en) * | 2003-08-08 | 2005-03-10 | Nippon Telegr & Teleph Corp <Ntt> | Image pick-up/display device, image pick-up/display system, video image forming method, program of the method and recording medium having the program recorded thereon |
JP2005094741A (en) * | 2003-08-14 | 2005-04-07 | Fuji Photo Film Co Ltd | Image pickup device and image synthesizing method |
JP2005122100A (en) * | 2003-06-02 | 2005-05-12 | Fuji Photo Film Co Ltd | Image displaying system, image displaying apparatus, and program |
JP2005128298A (en) * | 2003-10-24 | 2005-05-19 | Micronet Co Ltd | Undulation expression system and method during live telecast |
JP2006309722A (en) * | 2005-03-31 | 2006-11-09 | National Institute Of Information & Communication Technology | Photograph search/browsing system and program, using three-dimensional model, and three-dimensional model display/operation system and program, using photograph |
JP2007286909A (en) * | 2006-04-17 | 2007-11-01 | National Institute Of Information & Communication Technology | Photograph archive generation device and program |
-
2008
- 2008-02-15 JP JP2008035219A patent/JP5058842B2/en not_active Expired - Fee Related
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000057320A (en) * | 1998-08-07 | 2000-02-25 | Nippon Lsi Card Co Ltd | Management system for image data linked to position data, image management method using the system and image display method |
JP2002251396A (en) * | 2001-02-21 | 2002-09-06 | Mapnet Co Ltd | Geographical space guide device |
JP2005122100A (en) * | 2003-06-02 | 2005-05-12 | Fuji Photo Film Co Ltd | Image displaying system, image displaying apparatus, and program |
JP2005064681A (en) * | 2003-08-08 | 2005-03-10 | Nippon Telegr & Teleph Corp <Ntt> | Image pick-up/display device, image pick-up/display system, video image forming method, program of the method and recording medium having the program recorded thereon |
JP2005094741A (en) * | 2003-08-14 | 2005-04-07 | Fuji Photo Film Co Ltd | Image pickup device and image synthesizing method |
JP2005128298A (en) * | 2003-10-24 | 2005-05-19 | Micronet Co Ltd | Undulation expression system and method during live telecast |
JP2006309722A (en) * | 2005-03-31 | 2006-11-09 | National Institute Of Information & Communication Technology | Photograph search/browsing system and program, using three-dimensional model, and three-dimensional model display/operation system and program, using photograph |
JP2007286909A (en) * | 2006-04-17 | 2007-11-01 | National Institute Of Information & Communication Technology | Photograph archive generation device and program |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018135246A1 (en) * | 2017-01-23 | 2018-07-26 | 株式会社Nttドコモ | Information processing system and information processing device |
JPWO2018135246A1 (en) * | 2017-01-23 | 2019-11-07 | 株式会社Nttドコモ | Information processing system and information processing apparatus |
Also Published As
Publication number | Publication date |
---|---|
JP5058842B2 (en) | 2012-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10027931B2 (en) | Virtual image generating apparatus, virtual image generating method, and recording medium storing virtual image generating program | |
JP4965475B2 (en) | Virtual moving display device | |
JP5596844B2 (en) | Image processing apparatus, image processing system, and image processing method | |
JPH10243273A (en) | Image display method for digital camera | |
JP2005229291A (en) | Image recording apparatus and imaging apparatus, and image file storage method | |
JP2003125361A (en) | Information processing device, information processing method, information processing program, and information processing system | |
JP2009230635A (en) | Image data generating device, image data generating method and image data generating program | |
WO2017022296A1 (en) | Information management device, information management method, image reproduction device and image reproduction method | |
JP6355333B2 (en) | Imaging apparatus, image processing apparatus, image processing method, and program | |
JP5401103B2 (en) | Video information management apparatus and method | |
JP5058842B2 (en) | Virtual landscape display device | |
JP5409852B2 (en) | Virtual landscape display device and virtual landscape display method | |
JP4889554B2 (en) | Camera, content creation method, and program | |
CN114554112A (en) | Video recording method, device, terminal and storage medium | |
JP2014212439A (en) | Display control device, control method, and program | |
JP5088051B2 (en) | Electronic camera and program | |
JP7362696B2 (en) | Imaging device | |
JP6249771B2 (en) | Image processing apparatus, image processing method, and program | |
JP5874887B2 (en) | Image processing apparatus, image processing system, and image processing method | |
JP4169940B2 (en) | Digital camera | |
JP4168803B2 (en) | Image output device | |
JP6643081B2 (en) | Album moving image generating apparatus, album moving image generating method, and program | |
JP2017108203A (en) | Imaging apparatus, imaging support method and program | |
JP5298214B2 (en) | Virtual moving display device | |
JP5690376B2 (en) | Image file creation device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110131 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110131 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120117 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120424 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120613 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120710 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120801 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150810 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5058842 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313115 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |