JP6575221B2 - Display control method, information processing apparatus, and display control program - Google Patents

Display control method, information processing apparatus, and display control program Download PDF

Info

Publication number
JP6575221B2
JP6575221B2 JP2015162008A JP2015162008A JP6575221B2 JP 6575221 B2 JP6575221 B2 JP 6575221B2 JP 2015162008 A JP2015162008 A JP 2015162008A JP 2015162008 A JP2015162008 A JP 2015162008A JP 6575221 B2 JP6575221 B2 JP 6575221B2
Authority
JP
Japan
Prior art keywords
display
content
object data
association
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015162008A
Other languages
Japanese (ja)
Other versions
JP2017041068A (en
Inventor
媛 張
媛 張
優太 井上
優太 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2015162008A priority Critical patent/JP6575221B2/en
Publication of JP2017041068A publication Critical patent/JP2017041068A/en
Application granted granted Critical
Publication of JP6575221B2 publication Critical patent/JP6575221B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、表示制御方法、情報処理装置及び表示制御プログラムに関する。   The present invention relates to a display control method, an information processing apparatus, and a display control program.

従来より、携帯端末の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、検出されたオブジェクトデータをディスプレイに表示させるAR(Augmented Reality)技術が知られている。   Conventionally, when object data registered in association with a position in an area specified according to the position and orientation of a mobile terminal is detected, AR (Augmented Reality) for displaying the detected object data on a display Technology is known.

AR技術を用いれば、例えば、旅行先等の見知らぬ場所においても、携帯端末の位置及び向きに応じたエリア内の位置に対応付けて登録されたオブジェクトデータ(ARコンテンツ)が携帯端末のディスプレイに自動表示されるため、ユーザは、画像内のそれぞれのオブジェクトデータから各種情報を入手することができる。   If AR technology is used, for example, even in an unknown place such as a travel destination, object data (AR content) registered in association with a position in an area corresponding to the position and orientation of the mobile terminal is automatically displayed on the display of the mobile terminal. Since it is displayed, the user can obtain various types of information from each object data in the image.

特開2011−128220号公報JP 2011-128220 A 特表2013−507677号公報Special table 2013-507777 gazette

しかしながら、例えばオブジェクトデータの位置登録(オーサリング)を行う際に、携帯端末の位置検出精度が低いと、正確な位置にオブジェクトデータを登録することができず、その後、該オブジェクトデータをディスプレイに表示する際に、ディスプレイ上でのオブジェクトデータの表示位置にずれが生じることがある。すなわち、例えば特定の建物の上にオブジェクトデータを対応づけた場合であっても、その後、オブジェクトデータを表示したときには、その建物からずれた位置にオブジェクトデータが表示されることがある。このような場合、ユーザは、表示されたオブジェクトデータを、例えばドラッグ操作により、ディスプレイ上で適切な位置まで移動させ、該適切な位置に対応付ける必要がある。   However, for example, when performing position registration (authoring) of object data, if the position detection accuracy of the mobile terminal is low, the object data cannot be registered at an accurate position, and then the object data is displayed on the display. In this case, the display position of the object data on the display may be shifted. That is, even when object data is associated with a specific building, for example, when the object data is displayed thereafter, the object data may be displayed at a position shifted from the building. In such a case, the user needs to move the displayed object data to an appropriate position on the display by, for example, a drag operation and associate the object data with the appropriate position.

ところが、オブジェクトデータの表示位置のずれが大きい場合、携帯端末の位置及び向きを、オブジェクトデータがディスプレイに表示される位置及び向きに設定すると、本来オブジェクトデータを対応付けるべき位置が視界から外れてしまうことになる。このため、ディスプレイ上でオブジェクトデータを移動させる操作が困難となる。   However, when the displacement of the display position of the object data is large, if the position and orientation of the mobile terminal are set to the position and orientation where the object data is displayed on the display, the position where the object data should be associated with may be out of view. become. This makes it difficult to move the object data on the display.

一つの側面では、オブジェクトデータを位置に対応付ける操作を簡単に行うことができるようにすることを目的としている。   An object of one aspect is to make it possible to easily perform an operation of associating object data with a position.

一態様によれば、端末の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示させる表示制御方法において、前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる端末の第1の状態の指定を受け付けることで、前記ディスプレイ上の前記オブジェクトデータの表示を消去し、前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる端末の第2の状態において、前記ディスプレイ上において指示された位置に、表示が消去された前記オブジェクトデータを表示し、前記第1の状態と前記第2の状態における前記端末の位置及び向きの相違に基づき、前記オブジェクトデータに対応付けて登録された前記位置を、前記ディスプレイ上において指示された位置に対応する前記エリア内の位置に変更する、処理をコンピュータが実行することを特徴とする。
According to one aspect, in the display control method for displaying the object data on a display when object data registered in association with a position in an area specified according to the position and orientation of the terminal is detected. in Rukoto receives designation of a first state of the terminal to be used for changing the position registered in association with the object data displayed on the display, to erase the display of the object data on the display, the display In the second state of the terminal used for changing the position registered in association with the object data displayed on the display , the object data whose display has been deleted is displayed at the position indicated on the display , Based on the difference in position and orientation of the terminal in the first state and the second state , The position is registered in association with the object data, the change in position of the area corresponding to the designated position on the display, characterized in that processing the computer executes.

オブジェクトデータを位置に対応付ける操作を簡単に行うことができるようになる。   An operation for associating object data with a position can be easily performed.

ARコンテンツ表示システムの全体構成の一例を示す図である。It is a figure which shows an example of the whole structure of AR content display system. 携帯端末により撮像された画像及びARコンテンツの表示の一例を示す図である。It is a figure which shows an example of a display of the image imaged with the portable terminal, and AR content. 携帯端末の位置、ARコンテンツの位置及び携帯端末の撮像範囲の関係を示すマップを説明するための図である。It is a figure for demonstrating the map which shows the relationship between the position of a portable terminal, the position of AR content, and the imaging range of a portable terminal. 携帯端末のハードウェア構成の一例を示す図である。It is a figure which shows an example of the hardware constitutions of a portable terminal. 携帯端末の機能構成の一例を示す図である。It is a figure which shows an example of a function structure of a portable terminal. 携帯端末に格納されるARコンテンツ管理情報の一例を示す図である。It is a figure which shows an example of AR content management information stored in a portable terminal. 世界座標系のマップとスクリーン座標系のマップを説明するための図である。It is a figure for demonstrating the map of a world coordinate system, and the map of a screen coordinate system. ARコンテンツ編集部の詳細な機能構成を示す第1の図である。It is a 1st figure which shows the detailed functional structure of AR content edit part. ARコンテンツ編集部による編集処理時の位置情報の推移を示す図である。It is a figure which shows transition of the positional information at the time of the edit process by AR content edit part. ARコンテンツ編集部による編集処理時の位置情報の推移を示す図である。It is a figure which shows transition of the positional information at the time of the edit process by AR content edit part. ARコンテンツ編集部による編集処理の第1のフローチャートである。It is a 1st flowchart of the edit process by AR content edit part. ARコンテンツを所定の位置情報に対応付ける編集処理を行う際の、従来の携帯端末の表示画面の遷移を示す図である。It is a figure which shows the transition of the display screen of the conventional portable terminal at the time of performing the edit process which matches AR content with predetermined position information. ARコンテンツを所定の位置情報に対応付ける編集処理を行う際の、従来の携帯端末の表示画面の遷移を示す図である。It is a figure which shows the transition of the display screen of the conventional portable terminal at the time of performing the edit process which matches AR content with predetermined position information. ARコンテンツを所定の位置情報に対応付ける編集処理を行う際の、従来の携帯端末の表示画面の遷移を示す図である。It is a figure which shows the transition of the display screen of the conventional portable terminal at the time of performing the edit process which matches AR content with predetermined position information. ARコンテンツ編集部による編集処理時の表示画面の遷移を示す第1の図である。It is a 1st figure which shows the transition of the display screen at the time of the edit process by AR content edit part. ARコンテンツ編集部による編集処理時の表示画面の遷移を示す第1の図である。It is a 1st figure which shows the transition of the display screen at the time of the edit process by AR content edit part. ARコンテンツ編集部の詳細な機能構成を示す第2の図である。It is a 2nd figure which shows the detailed functional structure of AR content editing part. ARコンテンツ編集部による編集処理時の表示画面の遷移を示す第2の図である。It is a 2nd figure which shows the transition of the display screen at the time of the edit process by AR content edit part. ARコンテンツ編集部による編集処理時の表示画面の遷移を示す第2の図である。It is a 2nd figure which shows the transition of the display screen at the time of the edit process by AR content edit part. ARコンテンツ編集部による編集処理の第2のフローチャートである。It is a 2nd flowchart of the edit process by AR content edit part.

以下、各実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省く。   Each embodiment will be described below with reference to the accompanying drawings. In addition, in this specification and drawing, about the component which has the substantially same function structure, the duplicate description is abbreviate | omitted by attaching | subjecting the same code | symbol.

[第1の実施形態]
はじめに、オブジェクトデータの一例であるARコンテンツを表示する携帯端末と、該携帯端末にARコンテンツを提供するサーバ装置とを含むARコンテンツ表示システムについて説明する。図1は、ARコンテンツ表示システムの全体構成の一例を示す図である。
[First Embodiment]
First, an AR content display system including a mobile terminal that displays AR content, which is an example of object data, and a server device that provides AR content to the mobile terminal will be described. FIG. 1 is a diagram illustrating an example of the overall configuration of an AR content display system.

図1に示すように、ARコンテンツ表示システム100は、携帯端末110とサーバ装置120とを有し、携帯端末110とサーバ装置120とは、ネットワーク130を介して接続されている。   As illustrated in FIG. 1, the AR content display system 100 includes a mobile terminal 110 and a server device 120, and the mobile terminal 110 and the server device 120 are connected via a network 130.

携帯端末110は、撮像機能と位置検出機能とを備える情報処理装置である。携帯端末110には、表示制御プログラムがインストールされている。携帯端末110は、当該表示制御プログラムを実行することで、例えば、位置検出機能により検出された携帯端末110の位置及び向きに応じて特定される撮像範囲に対応付けて登録されたARコンテンツを、サーバ装置120より取得する。また、携帯端末は、表示制御プログラムを実行することで、例えば、取得したARコンテンツを格納するとともに、撮像機能により撮像された現実世界の画像上の対応する位置に、取得したARコンテンツを重畳して表示する。   The portable terminal 110 is an information processing apparatus that includes an imaging function and a position detection function. A display control program is installed in the portable terminal 110. The mobile terminal 110 executes the display control program, for example, AR content registered in association with the imaging range specified according to the position and orientation of the mobile terminal 110 detected by the position detection function. Obtained from the server device 120. In addition, the mobile terminal executes the display control program, for example, stores the acquired AR content and superimposes the acquired AR content on a corresponding position on the real-world image captured by the imaging function. To display.

サーバ装置120は、携帯端末110からの要求に応じて携帯端末110に対してARコンテンツ情報を提供する装置である。サーバ装置120には、コンテンツ提供プログラムがインストールされており、当該プログラムが実行されることで、サーバ装置120はコンテンツ提供部121として機能する。   The server device 120 is a device that provides AR content information to the mobile terminal 110 in response to a request from the mobile terminal 110. A content providing program is installed in the server device 120, and the server device 120 functions as the content providing unit 121 by executing the program.

コンテンツ提供部121は、ネットワーク130を介して携帯端末110よりARコンテンツ要求を受信する。ARコンテンツ要求には、携帯端末110の位置及び向きに応じて特定される携帯端末110の撮像範囲(エリア)に関する情報が含まれている。コンテンツ提供部121は、受信したARコンテンツ要求より抽出した、撮像範囲に関する情報に基づいてARコンテンツ情報DB122内を検索する。これにより、ARコンテンツ情報DB122に登録されたARコンテンツ情報のうち、撮像範囲に含まれる位置情報を有するARコンテンツ情報(エリア内の位置に対応付けて登録されたARコンテンツを含むARコンテンツ情報)を検出する。   The content providing unit 121 receives an AR content request from the mobile terminal 110 via the network 130. The AR content request includes information regarding the imaging range (area) of the mobile terminal 110 specified according to the position and orientation of the mobile terminal 110. The content providing unit 121 searches the AR content information DB 122 based on information regarding the imaging range extracted from the received AR content request. Thereby, among the AR content information registered in the AR content information DB 122, AR content information (AR content information including the AR content registered in association with the position in the area) having the position information included in the imaging range is obtained. To detect.

また、コンテンツ提供部121は、検出したARコンテンツ情報を、ARコンテンツ要求の要求元である携帯端末110に送信する。   In addition, the content providing unit 121 transmits the detected AR content information to the mobile terminal 110 that is the request source of the AR content request.

次に、撮像機能により撮像された現実世界の画像において、対応する位置にARコンテンツを重畳表示した、携帯端末110の表示画面(ディスプレイ)の表示例について説明する。図2は、携帯端末により撮像された画像及びARコンテンツの表示の一例を示す図である。   Next, a display example of the display screen (display) of the mobile terminal 110 in which AR content is superimposed and displayed at a corresponding position in a real-world image captured by the imaging function will be described. FIG. 2 is a diagram illustrating an example of display of an image captured by a mobile terminal and AR content.

図2に示すように、携帯端末110の表示画面210には、撮像中の現実世界200の画像220が表示される。また、携帯端末110は、位置検出機能を有しており、携帯端末110の位置及び向きを取得する。このため、ユーザがARコンテンツの表示指示を行うと、携帯端末110は、現在の位置及び向きを取得し、取得した位置及び向きに応じた撮像範囲(エリア)を特定する。更に、携帯端末110は、特定した撮像範囲に関する情報を含むARコンテンツ要求を、サーバ装置120に送信し、サーバ装置120より、撮像範囲に含まれる位置情報を有するARコンテンツ情報を取得する。   As shown in FIG. 2, an image 220 of the real world 200 being captured is displayed on the display screen 210 of the mobile terminal 110. The mobile terminal 110 has a position detection function, and acquires the position and orientation of the mobile terminal 110. For this reason, when the user issues an AR content display instruction, the mobile terminal 110 acquires the current position and orientation, and specifies an imaging range (area) according to the acquired position and orientation. Further, the mobile terminal 110 transmits an AR content request including information regarding the identified imaging range to the server device 120, and acquires AR content information having position information included in the imaging range from the server device 120.

表示画面210に表示された画像220に重畳されたARコンテンツ230は、携帯端末110がARコンテンツ要求を送信することで、サーバ装置120より取得したARコンテンツ情報が有するARコンテンツである。   The AR content 230 superimposed on the image 220 displayed on the display screen 210 is AR content included in the AR content information acquired from the server device 120 when the mobile terminal 110 transmits an AR content request.

ARコンテンツ情報は、少なくともARコンテンツと、ARコンテンツに対応付けられた位置情報(例えば、緯度、経度等の世界座標系の位置情報)とを有する(なお、位置情報以外の情報を更に有していてもよい)。携帯端末110は、現在の位置及び向きに応じて特定される撮像範囲と、ARコンテンツに対応付けられた位置情報とに基づいて、画像220上でのARコンテンツの表示位置を算出し、算出した表示位置に、取得したARコンテンツを表示する。   The AR content information includes at least the AR content and position information associated with the AR content (for example, position information in the world coordinate system such as latitude and longitude) (note that the AR content information further includes information other than the position information). May be) The mobile terminal 110 calculates the display position of the AR content on the image 220 based on the imaging range specified according to the current position and orientation and the position information associated with the AR content. The acquired AR content is displayed at the display position.

次に、携帯端末110の現在の位置と、携帯端末110の現在の位置及び向きにより特定される撮像範囲と、撮像範囲に含まれる位置情報が対応付けられたARコンテンツの位置との関係について説明する。   Next, the relationship between the current position of the mobile terminal 110, the imaging range specified by the current position and orientation of the mobile terminal 110, and the position of the AR content associated with the position information included in the imaging range will be described. To do.

図3は、携帯端末の位置、ARコンテンツの位置及び携帯端末の撮像範囲の関係を表すマップを示した図である。   FIG. 3 is a diagram showing a map representing the relationship between the position of the mobile terminal, the position of the AR content, and the imaging range of the mobile terminal.

図3に示すように、マップ300は、携帯端末110の現在の位置を中心とする円形形状により表現され、ARコンテンツ230を示すシンボル301が表示される。また、携帯端末110の現在の位置及び向きにより特定される撮像範囲302が、網掛けして表示される。このように、撮像範囲302を網掛けして表示することで、マップ300において、撮像範囲内(エリア内)と撮像範囲外(エリア外)とを区別することができる。   As shown in FIG. 3, the map 300 is represented by a circular shape centered on the current position of the mobile terminal 110, and a symbol 301 indicating the AR content 230 is displayed. In addition, the imaging range 302 specified by the current position and orientation of the mobile terminal 110 is displayed with shading. In this manner, by displaying the imaging range 302 with shading, it is possible to distinguish between the imaging range (inside the area) and the outside of the imaging range (outside the area) in the map 300.

シンボル301の位置は、ARコンテンツ230に対応付けられた位置情報により特定され、図3の例では、撮像範囲302に含まれている。このため、図2に示したように、携帯端末110の表示画面210に表示された画像220には、ARコンテンツ230が重畳して表示されることになる。   The position of the symbol 301 is specified by position information associated with the AR content 230, and is included in the imaging range 302 in the example of FIG. For this reason, as shown in FIG. 2, the AR content 230 is superimposed on the image 220 displayed on the display screen 210 of the mobile terminal 110.

次に、携帯端末110のハードウェア構成について説明する。図4は、携帯端末のハードウェア構成の一例を示す図である。   Next, the hardware configuration of the mobile terminal 110 will be described. FIG. 4 is a diagram illustrating an example of a hardware configuration of the mobile terminal.

図4に示すように、携帯端末110は、CPU401、ROM(Read Only Memory)402、RAM(Random Access Memory)403、補助記憶部404、通信部405を備える。また、携帯端末110は、操作部406、撮像部407、表示部408、GPS部409、センサ部410を備える。なお、携帯端末110の各部は、バス411を介して相互に接続されている。   As illustrated in FIG. 4, the mobile terminal 110 includes a CPU 401, a ROM (Read Only Memory) 402, a RAM (Random Access Memory) 403, an auxiliary storage unit 404, and a communication unit 405. The mobile terminal 110 includes an operation unit 406, an imaging unit 407, a display unit 408, a GPS unit 409, and a sensor unit 410. Note that the units of the mobile terminal 110 are connected to each other via a bus 411.

CPU401は、補助記憶部404にインストールされた各種プログラム(例えば、表示制御プログラム)を実行するコンピュータである。ROM402は、不揮発性メモリである。ROM402は、補助記憶部404に格納された各種プログラムをCPU401が実行するために必要な各種プログラム、データ等を格納する主記憶部として機能する。具体的には、ROM402はBIOS(Basic Input/Output System)やEFI(Extensible Firmware Interface)等のブートプログラム等を格納する。   The CPU 401 is a computer that executes various programs (for example, a display control program) installed in the auxiliary storage unit 404. The ROM 402 is a nonvolatile memory. The ROM 402 functions as a main storage unit that stores various programs, data, and the like necessary for the CPU 401 to execute various programs stored in the auxiliary storage unit 404. Specifically, the ROM 402 stores a boot program such as a basic input / output system (BIOS) or an extensible firmware interface (EFI).

RAM403は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)等の揮発性メモリであり、主記憶部として機能する。RAM403は、補助記憶部404に格納された各種プログラムがCPU401によって実行される際に展開される、作業領域を提供する。   The RAM 403 is a volatile memory such as a DRAM (Dynamic Random Access Memory) or an SRAM (Static Random Access Memory), and functions as a main storage unit. The RAM 403 provides a work area that is expanded when various programs stored in the auxiliary storage unit 404 are executed by the CPU 401.

補助記憶部404は、携帯端末110にインストールされた各種プログラムや、各種プログラムを実行する際に用いるデータ等を格納する。   The auxiliary storage unit 404 stores various programs installed in the mobile terminal 110, data used when executing the various programs, and the like.

通信部405は、携帯端末110がネットワーク130を介してサーバ装置120と通信するためのデバイスである。   The communication unit 405 is a device for the mobile terminal 110 to communicate with the server apparatus 120 via the network 130.

操作部406は、ユーザが携帯端末110に対して各種指示を入力するためのデバイスである。撮像部407は、現実世界200を撮像し画像220を生成するデバイスであり、携帯端末110の撮像機能を実現する。   The operation unit 406 is a device for the user to input various instructions to the mobile terminal 110. The imaging unit 407 is a device that images the real world 200 and generates an image 220, and realizes the imaging function of the mobile terminal 110.

表示部408は、図2で示した表示画面210を含み、撮像部407により撮像された画像220を表示する。また、表示部408は、通信部405を介してサーバ装置120より取得したARコンテンツ情報が有するARコンテンツ(例えば、ARコンテンツ230等)を表示する。   The display unit 408 includes the display screen 210 illustrated in FIG. 2 and displays the image 220 captured by the imaging unit 407. Further, the display unit 408 displays the AR content (for example, the AR content 230) included in the AR content information acquired from the server device 120 via the communication unit 405.

GPS部409は、携帯端末110の現在位置(緯度、経度、高度)を、GPS(Global Positioning System)より取得するデバイスである。携帯端末110は、GPS部409を介して取得した緯度、経度、高度に基づいて現在位置を識別し、現在位置情報を生成する。   The GPS unit 409 is a device that acquires the current position (latitude, longitude, altitude) of the mobile terminal 110 from GPS (Global Positioning System). The mobile terminal 110 identifies the current position based on the latitude, longitude, and altitude acquired via the GPS unit 409, and generates current position information.

センサ部410は、地磁気を検知する地磁気センサと、加速度を検出する加速度センサとを含む。携帯端末110では、地磁気センサ及び加速度センサの検知結果に基づいて、携帯端末110の現在の向きを識別し、現在向き情報を生成する。   The sensor unit 410 includes a geomagnetic sensor that detects geomagnetism and an acceleration sensor that detects acceleration. The mobile terminal 110 identifies the current orientation of the mobile terminal 110 based on the detection results of the geomagnetic sensor and the acceleration sensor, and generates current orientation information.

GPS部409及びセンサ部410により、現在位置情報及び現在向き情報が生成されることで、携帯端末110の位置検出機能が実現される。   The GPS unit 409 and the sensor unit 410 generate current position information and current direction information, thereby realizing a position detection function of the mobile terminal 110.

次に、表示制御プログラムが実行されることで携帯端末110にて実現される機能について説明する。図5は、表示制御プログラムが実行されることで携帯端末にて実現される機能を示す機能構成の一例を示す図である。図5に示すように、表示制御プログラムが実行されることで実現される機能には、撮像情報表示部501と、現在位置情報取得部502と、現在向き情報取得部503とが含まれる。更に、撮像範囲算出部504と、ARコンテンツ表示部505と、ARコンテンツ編集部506とが含まれる。   Next, functions realized by the mobile terminal 110 by executing the display control program will be described. FIG. 5 is a diagram illustrating an example of a functional configuration indicating functions realized in the mobile terminal by executing the display control program. As illustrated in FIG. 5, the functions realized by executing the display control program include an imaging information display unit 501, a current position information acquisition unit 502, and a current direction information acquisition unit 503. Further, an imaging range calculation unit 504, an AR content display unit 505, and an AR content editing unit 506 are included.

撮像情報表示部501は、撮像部407が現実世界200を撮像することで生成した画像220を取得し、表示部408に表示する。   The imaging information display unit 501 acquires the image 220 generated by the imaging unit 407 imaging the real world 200 and displays it on the display unit 408.

現在位置情報取得部502は、GPS部409にて生成された現在位置情報を取得し、撮像範囲算出部504に通知する。   The current position information acquisition unit 502 acquires the current position information generated by the GPS unit 409 and notifies the imaging range calculation unit 504.

現在向き情報取得部503は、センサ部410にて生成された現在向き情報を取得し、撮像範囲算出部504に通知する。   The current direction information acquisition unit 503 acquires the current direction information generated by the sensor unit 410 and notifies the imaging range calculation unit 504 of the current direction information.

撮像範囲算出部504は、現在位置情報取得部502より通知された現在位置情報と、現在向き情報取得部503より通知された現在向き情報とに基づいて、撮像部407が撮像する撮像範囲(エリア)を特定する。また、撮像範囲算出部504は、特定した撮像範囲に関する情報をARコンテンツ表示部505に通知する。   The imaging range calculation unit 504 captures an imaging range (area) captured by the imaging unit 407 based on the current position information notified from the current position information acquisition unit 502 and the current direction information notified from the current direction information acquisition unit 503. ). In addition, the imaging range calculation unit 504 notifies the AR content display unit 505 of information regarding the specified imaging range.

ARコンテンツ表示部505は、撮像範囲算出部504より通知された撮像範囲に関する情報を含むARコンテンツ要求を生成し、サーバ装置120に送信する。また、ARコンテンツ表示部505は、ARコンテンツ要求の送信に応じてサーバ装置120よりARコンテンツ情報を受信し、ARコンテンツ管理DB511に格納する。更に、ARコンテンツ表示部505は、受信したARコンテンツ情報が有する位置情報と、撮像範囲算出部504より通知された撮像範囲に関する情報とに基づいて、ARコンテンツ230を表示する画像220上の位置を特定する。更に、ARコンテンツ表示部505は、特定した画像220上の位置に、受信したARコンテンツ情報が有するARコンテンツ230を重畳して表示する。   The AR content display unit 505 generates an AR content request including information regarding the imaging range notified from the imaging range calculation unit 504, and transmits the AR content request to the server device 120. Further, the AR content display unit 505 receives AR content information from the server device 120 in response to transmission of the AR content request, and stores the AR content information in the AR content management DB 511. Furthermore, the AR content display unit 505 displays the position on the image 220 on which the AR content 230 is displayed based on the positional information included in the received AR content information and the information regarding the imaging range notified from the imaging range calculation unit 504. Identify. Furthermore, the AR content display unit 505 superimposes and displays the AR content 230 included in the received AR content information at a position on the identified image 220.

ARコンテンツ編集部506は、サーバ装置120より取得し、ARコンテンツ管理DB511に格納したARコンテンツ情報を編集する。本実施形態において、ARコンテンツ編集部506は、ARコンテンツ情報が有する位置情報を変更する編集を行う。ARコンテンツ編集部506は、サーバ装置120より取得したARコンテンツ情報が有する位置情報に誤差が含まれ、ARコンテンツ230を表示画面210に表示した場合に、適切な位置に表示されなかった場合に、位置情報を変更することができる。これにより、サーバ装置120より取得したARコンテンツ情報に含まれるARコンテンツに適切な位置情報を対応付けることが可能となり、以降、ARコンテンツを、適切な位置に表示させることが可能となる。   The AR content editing unit 506 edits the AR content information acquired from the server device 120 and stored in the AR content management DB 511. In the present embodiment, the AR content editing unit 506 performs editing to change position information included in the AR content information. When the AR content editing unit 506 includes an error in the position information included in the AR content information acquired from the server device 120 and the AR content 230 is displayed on the display screen 210, the AR content editing unit 506 is not displayed at an appropriate position. The position information can be changed. Accordingly, it is possible to associate appropriate position information with the AR content included in the AR content information acquired from the server device 120, and thereafter, the AR content can be displayed at an appropriate position.

次に、サーバ装置120より取得されたARコンテンツ情報を格納するARコンテンツ管理DB511について説明する。図6は、携帯端末のARコンテンツ管理DBに格納されるARコンテンツ管理情報の一例を示す図である。   Next, the AR content management DB 511 that stores the AR content information acquired from the server device 120 will be described. FIG. 6 is a diagram illustrating an example of AR content management information stored in the AR content management DB of the mobile terminal.

図6に示すように、ARコンテンツ管理情報600には情報の項目として、"ARコンテンツ名"、"ARコンテンツの位置情報"、"表示内容"が含まれる。   As shown in FIG. 6, the AR content management information 600 includes “AR content name”, “AR content position information”, and “display content” as information items.

"ARコンテンツ名"には、ARコンテンツを識別するための情報が格納される。"ARコンテンツの位置情報"には、ARコンテンツ情報が有する位置情報が格納される。"表示内容"には、表示画面210に表示されるARコンテンツが格納される。   In the “AR content name”, information for identifying the AR content is stored. “AR content position information” stores the position information of the AR content information. The “display content” stores the AR content displayed on the display screen 210.

次に、ARコンテンツに対応付けられた位置情報を、ARコンテンツ編集部506が変更する際に用いる、座標系について説明する。本実施形態において、ARコンテンツ編集部506は、ARコンテンツに対応付けられた位置情報を変更するにあたり、世界座標系とスクリーン座標系とを用いる。図7は、世界座標系のマップとスクリーン座標系のマップをそれぞれ説明するための図である。   Next, a coordinate system used when the AR content editing unit 506 changes position information associated with AR content will be described. In the present embodiment, the AR content editing unit 506 uses a world coordinate system and a screen coordinate system to change the position information associated with the AR content. FIG. 7 is a diagram for explaining a map in the world coordinate system and a map in the screen coordinate system.

図7(a)は世界座標系のマップ710を示す図である。世界座標系において位置情報は、緯度、経度、高度により表される。図7(a)の例において、携帯端末110の位置情報Aは、A=(La1,Lo1,Al1)と表される。また、ARコンテンツに対応付けられた位置情報Bは、B=(La2,Lo2,Al2)と表される。更に、編集後のARコンテンツに対応付けられた位置情報Cは、C=(La3,Lo3,Al3)と表される。   FIG. 7A shows a map 710 in the world coordinate system. In the world coordinate system, position information is represented by latitude, longitude, and altitude. In the example of FIG. 7A, the position information A of the mobile terminal 110 is expressed as A = (La1, Lo1, Al1). The position information B associated with the AR content is represented as B = (La2, Lo2, Al2). Furthermore, the position information C associated with the edited AR content is expressed as C = (La3, Lo3, Al3).

一方、図7(b)はスクリーン座標系のマップ720を示す図である。スクリーン座標系のマップ720において位置情報は、XY座標により表される。図7(b)に示すマップ720は、図7(a)の世界座標系における各位置の位置情報を、スクリーン座標系で表した場合の位置情報(XY座標)を、世界座標系における各位置に対応する位置に示したものである。   On the other hand, FIG. 7B is a diagram showing a map 720 of the screen coordinate system. In the map 720 of the screen coordinate system, the position information is represented by XY coordinates. A map 720 shown in FIG. 7B shows position information (XY coordinates) when the position information of each position in the world coordinate system of FIG. 7A is expressed in the screen coordinate system. It is shown in the position corresponding to.

例えば、携帯端末110の世界座標系の位置情報Aをスクリーン座標系で表した場合の位置情報A'は、A'=(x1,y1)であり、世界座標系の位置情報Aに対応する位置に示される。また、ARコンテンツに対応付けられた世界座標系の位置情報Bをスクリーン座標系で表した場合の位置情報B'は、B'=(x2,y2)であり、世界座標系の位置情報Bに対応する位置に示される。   For example, the position information A ′ when the position information A in the world coordinate system of the mobile terminal 110 is expressed in the screen coordinate system is A ′ = (x1, y1), and the position corresponding to the position information A in the world coordinate system. Shown in Further, the position information B ′ when the position information B in the world coordinate system associated with the AR content is represented in the screen coordinate system is B ′ = (x2, y2), and the position information B in the world coordinate system is Shown in the corresponding position.

なお、スクリーン座標系の位置情報は、携帯端末110の位置及び向きによって変化する相対的な値であり、撮像範囲内にあるARコンテンツについてのみ、スクリーン座標系で位置情報を表すことができる。   Note that the position information in the screen coordinate system is a relative value that changes depending on the position and orientation of the mobile terminal 110, and the position information can be expressed in the screen coordinate system only for AR content within the imaging range.

次に、ARコンテンツ編集部506の詳細機能について説明する。図8は、ARコンテンツ編集部の詳細な機能構成を示す図である。図8に示すように、ARコンテンツ編集部506は、編集対象受付部801、カット操作受付部802、ペースト位置受付部803、ベクトル算出部804、ARコンテンツペースト部805、位置調整部806を有する。   Next, detailed functions of the AR content editing unit 506 will be described. FIG. 8 is a diagram showing a detailed functional configuration of the AR content editing unit. As illustrated in FIG. 8, the AR content editing unit 506 includes an editing target reception unit 801, a cut operation reception unit 802, a paste position reception unit 803, a vector calculation unit 804, an AR content paste unit 805, and a position adjustment unit 806.

編集対象受付部801は、表示画面210に表示されたARコンテンツのうち、位置情報を変更する対象(編集対象)として選択されたARコンテンツ(ここでは、ARコンテンツ230)を識別する。具体的には、編集対象受付部801は、表示画面210上のARコンテンツのうち、ユーザによりタップ操作された位置のARコンテンツを、編集対象として選択されたARコンテンツとして識別する。   The editing target reception unit 801 identifies the AR content (AR content 230 in this case) selected as the target (editing target) whose position information is to be changed from the AR content displayed on the display screen 210. Specifically, the edit target receiving unit 801 identifies the AR content at the position tapped by the user among the AR content on the display screen 210 as the AR content selected as the edit target.

また、編集対象受付部801は、編集対象として選択されたARコンテンツを識別した場合、編集メニューを表示画面210上に表示する。   In addition, when the editing target receiving unit 801 identifies the AR content selected as the editing target, the editing target receiving unit 801 displays an editing menu on the display screen 210.

カット操作受付部802は、編集対象受付部801により表示された編集メニューに含まれる各種編集内容から、ユーザがカット処理を選択した場合に、これを受け付ける。カット操作受付部802は、ユーザによるカット処理の選択を受け付けると、編集対象のARコンテンツに対応付けられた位置情報をRAM403に保持するとともに、編集対象のARコンテンツの表示を表示画面210から消去する。   The cut operation accepting unit 802 accepts a user when the user selects a cut process from various edit contents included in the edit menu displayed by the edit target accepting unit 801. When the cut operation accepting unit 802 accepts the selection of the cut processing by the user, the cut operation accepting unit 802 holds the position information associated with the AR content to be edited in the RAM 403 and deletes the display of the AR content to be edited from the display screen 210. .

ペースト位置受付部803は、カット操作受付部802がユーザによるカット処理の選択を受け付けた後に、ユーザが携帯端末110の位置及び向きを変えた状態(第2の状態)で、ユーザが表示画面210の所定の位置をタップ操作した場合に、これを受け付ける。   The paste position accepting unit 803 is a state where the user changes the position and orientation of the mobile terminal 110 (second state) after the cut operation accepting unit 802 accepts selection of the cutting process by the user, and the user can display the display screen 210. This is accepted when a predetermined position is tapped.

また、ペースト位置受付部803は、表示画面210上においてユーザによりタップ操作された位置(「ペースト位置」と称す)を識別し、表示画面210上のペースト位置の位置情報(スクリーン座標系の位置情報)をベクトル算出部804に通知する。   Further, the paste position receiving unit 803 identifies a position (referred to as “paste position”) where the user performs a tap operation on the display screen 210, and position information of the paste position on the display screen 210 (position information of the screen coordinate system). ) To the vector calculation unit 804.

ベクトル算出部804は、現在位置情報取得部502により取得された携帯端末110の現在位置情報(世界座標系)と、現在向き情報取得部503により取得された携帯端末110の現在向き情報(世界座標系)とを取得する。   The vector calculation unit 804 includes the current position information (world coordinate system) of the mobile terminal 110 acquired by the current position information acquisition unit 502 and the current direction information (world coordinates of the mobile terminal 110 acquired by the current direction information acquisition unit 503. System).

また、ベクトル算出部804は、携帯端末110のスクリーン座標系における現在位置情報を特定するとともに、ペースト位置受付部803より通知されたペースト位置の位置情報(スクリーン座標系)を取得する。更に、ベクトル算出部804は、スクリーン座標系において、現在位置とペースト位置との間の差分ベクトルを算出し、算出したスクリーン座標系の差分ベクトルを、世界座標系の差分ベクトルに変換する。なお、スクリーン座標系の差分ベクトルから世界座標系の差分ベクトルへの変換方法については後述する。   Further, the vector calculation unit 804 specifies the current position information in the screen coordinate system of the mobile terminal 110 and acquires the position information (screen coordinate system) of the paste position notified from the paste position reception unit 803. Further, the vector calculation unit 804 calculates a difference vector between the current position and the paste position in the screen coordinate system, and converts the calculated difference vector in the screen coordinate system into a difference vector in the world coordinate system. A method for converting the difference vector in the screen coordinate system to the difference vector in the world coordinate system will be described later.

更に、ベクトル算出部804は、現在位置情報(世界座標系)と、現在向き情報(世界座標系)と、差分ベクトル(世界座標系)とに基づいて、ペースト位置の位置情報(世界座標系)を算出する。ベクトル算出部804は、算出したペースト位置の位置情報(世界座標系)を用いて、RAM403に保持された位置情報を書き換える。   Further, the vector calculation unit 804 determines the position information (world coordinate system) of the paste position based on the current position information (world coordinate system), the current orientation information (world coordinate system), and the difference vector (world coordinate system). Is calculated. The vector calculation unit 804 rewrites the position information held in the RAM 403 by using the position information (world coordinate system) of the calculated paste position.

ARコンテンツペースト部805は、ペースト位置受付部803がタップ操作を受け付けた場合に、表示画面210上に編集メニューを表示する。ARコンテンツペースト部805は、表示画面210上に表示された編集メニューに含まれる編集内容から、ユーザがペースト処理を選択した場合に、これを受け付ける。ARコンテンツペースト部805は、ユーザによるペースト処理の選択を受け付けると、編集対象のARコンテンツをペースト位置に表示する。   The AR content paste unit 805 displays an edit menu on the display screen 210 when the paste position receiving unit 803 receives a tap operation. The AR content paste unit 805 accepts a case where the user selects a paste process from the edit contents included in the edit menu displayed on the display screen 210. When the AR content paste unit 805 receives selection of paste processing by the user, the AR content paste unit 805 displays the AR content to be edited at the paste position.

また、ARコンテンツペースト部805は、ARコンテンツ管理情報600の"ARコンテンツの位置情報"に格納された位置情報のうち、編集対象のARコンテンツに対応付けられた位置情報を、RAM403に保持された書き換え後の位置情報で変更する。これにより、ARコンテンツ管理情報600の"ARコンテンツの位置情報"に格納された位置情報のうち、編集対象のARコンテンツに対応付けられた位置情報が、適切な位置情報に変更されることになる。   In addition, the AR content paste unit 805 holds, in the RAM 403, position information associated with the AR content to be edited among the position information stored in “AR content position information” of the AR content management information 600. Change the location information after rewriting. As a result, among the position information stored in “AR content position information” of the AR content management information 600, the position information associated with the AR content to be edited is changed to appropriate position information. .

位置調整部806は、ARコンテンツペースト部805によりペースト位置に表示されたARコンテンツの位置を、ユーザが表示画面210上で微調整した場合に、当該調整操作を受け付ける。位置調整部806は、ユーザによる調整操作を受け付けてARコンテンツの位置を調整した場合、調整後の位置に応じた位置情報(世界座標系)を算出する。更に、位置調整部806は、調整後の位置に応じた位置情報(世界座標系)を用いて、ARコンテンツ管理情報600の"ARコンテンツの位置情報"に格納された位置情報(変更後の位置情報)を更に変更する。   The position adjustment unit 806 receives the adjustment operation when the user finely adjusts the position of the AR content displayed at the paste position by the AR content paste unit 805 on the display screen 210. When the adjustment operation by the user is received and the position of the AR content is adjusted, the position adjustment unit 806 calculates position information (world coordinate system) corresponding to the adjusted position. Furthermore, the position adjustment unit 806 uses the position information (world coordinate system) corresponding to the adjusted position, and stores the position information (position after change) stored in “AR content position information” of the AR content management information 600. Information) is further changed.

次に、"ARコンテンツの位置情報"に格納された位置情報をARコンテンツ編集部506が変更する際の、具体的な処理の内容について説明する。図9及び図10は、ARコンテンツ編集部による編集処理時の"ARコンテンツの位置情報"に格納された位置情報の推移を示す図であり、図7に示した世界座標系のマップ710及びスクリーン座標系のマップ720と対応付けて説明する。   Next, specific processing contents when the AR content editing unit 506 changes the position information stored in the “AR content position information” will be described. FIGS. 9 and 10 are diagrams showing the transition of the position information stored in the “position information of AR content” during the editing process by the AR content editing unit. The map 710 and the screen of the world coordinate system shown in FIG. A description will be given in association with the coordinate system map 720.

なお、本実施形態において、世界座標系のマップ710上の各位置とスクリーン座標系のマップ720上の各位置とに格納された位置情報の関係は以下のように近似されているものとする。
・スクリーン座標系における0.00001[度]=世界座標系における1[m]
・スクリーン座標系におけるD'[画素]=世界座標系におけるD[m]
したがって、スクリーン座標系における1[画素]は、世界座標系におけるD/D'[m]として近似され、スクリーン座標系における1[画素]は、世界座標系におけるD/D'×0.00001[度]として近似される。
In the present embodiment, it is assumed that the relationship between the position information stored in each position on the map 710 in the world coordinate system and each position on the map 720 in the screen coordinate system is approximated as follows.
0.00001 [degree] in the screen coordinate system = 1 [m] in the world coordinate system
D ′ [pixel] in the screen coordinate system = D [m] in the world coordinate system
Therefore, 1 [pixel] in the screen coordinate system is approximated as D / D ′ [m] in the world coordinate system, and 1 [pixel] in the screen coordinate system is D / D ′ × 0.00001 [in the world coordinate system. Degree].

図9(a)は、表示画面210上の(x2,y2)にARコンテンツ230が表示され、編集対象受付部801が、表示されたARコンテンツ230を編集対象と識別した状態でのマップ720を示している。なお、この時点で、ARコンテンツ管理情報600の"ARコンテンツの位置情報"には、位置情報B=(La2,Lo2,Al2)が対応付けられたARコンテンツ230が格納されているものとする。   FIG. 9A shows a map 720 in a state where the AR content 230 is displayed at (x2, y2) on the display screen 210 and the editing target receiving unit 801 identifies the displayed AR content 230 as an editing target. Show. At this time, it is assumed that the AR content 230 associated with the location information B = (La2, Lo2, Al2) is stored in the “AR content location information” of the AR content management information 600.

図9(b)は、カット操作受付部802が、カット処理の選択を受け付けた状態(第1の状態)のマップ720を示している。図9(b)に示すように、カット処理の選択を受け付けることで、ARコンテンツ230が表示画面210から消去されるため、マップ720においてもARコンテンツ230を示すシンボルが消去される。なお、このときARコンテンツ230に対応付けられた位置情報である、B=(La2,Lo2,Al2)がRAM403に保持される。   FIG. 9B shows a map 720 in a state (first state) in which the cut operation accepting unit 802 accepts selection of a cut process. As shown in FIG. 9B, since the AR content 230 is erased from the display screen 210 by accepting the selection of the cut processing, the symbol indicating the AR content 230 is also erased in the map 720. At this time, B = (La2, Lo2, Al2), which is position information associated with the AR content 230, is held in the RAM 403.

図9(c)は、ユーザによるカット処理の選択を受け付けた後に、ユーザが携帯端末110の位置及び向きを変えた状態(第2の状態)を示している。ユーザが携帯端末110の位置及び向きを変えることで、撮像範囲が変わる。   FIG. 9C shows a state (second state) in which the user changes the position and orientation of the mobile terminal 110 after accepting the selection of the cutting process by the user. When the user changes the position and orientation of the mobile terminal 110, the imaging range changes.

図10(a)は、ペースト位置受付部803がタップ操作を受け付け、ペースト位置を識別した状態のマップ720を示している。ペースト位置受付部803はペースト位置として、位置情報C'=(x3,y3)を識別するとともに、携帯端末110のスクリーン座標系における位置情報A'=(x1,y1)を特定する。   FIG. 10A shows a map 720 in a state where the paste position receiving unit 803 receives a tap operation and identifies the paste position. The paste position receiving unit 803 identifies position information C ′ = (x3, y3) as the paste position, and specifies position information A ′ = (x1, y1) in the screen coordinate system of the mobile terminal 110.

また、図10(a)は、ベクトル算出部804が、ペースト位置の位置情報(スクリーン座標系)C'と、携帯端末110の位置情報(スクリーン座標系)A'との差分ベクトルVCA'を算出した状態のマップ720を示している。 In FIG. 10A, the vector calculation unit 804 calculates a difference vector V CA ′ between the position information (screen coordinate system) C ′ of the paste position and the position information (screen coordinate system) A ′ of the mobile terminal 110. A map 720 of the calculated state is shown.

ペースト位置の位置情報(スクリーン座標系)が、C'=(x3,y3)であり、携帯端末110の位置情報(スクリーン座標系)が、A'=(x1,y1)であった場合、差分ベクトル(スクリーン座標系)VCA'は、下式により表すことができる。 If the position information (screen coordinate system) of the paste position is C ′ = (x3, y3) and the position information (screen coordinate system) of the mobile terminal 110 is A ′ = (x1, y1), the difference The vector (screen coordinate system) V CA ′ can be expressed by the following equation.

Figure 0006575221
Figure 0006575221

図10(b)は、ベクトル算出部804が、携帯端末110の現在位置情報(世界座標系)Aを取得するとともに、差分ベクトル(スクリーン座標系)VCA'を、差分ベクトル(世界座標系)VCAに変換した状態のマップ710を示している。 In FIG. 10B, the vector calculation unit 804 obtains the current position information (world coordinate system) A of the mobile terminal 110 and uses the difference vector (screen coordinate system) V CA ′ as the difference vector (world coordinate system). shows a map 710 of a state converted to V CA.

上述したとおり、スクリーン座標系における1[画素]は、世界座標系におけるD/D'×0.00001[度]により近似される。このため、差分ベクトル(スクリーン座標系)VCA'は、下式を用いることにより、差分ベクトル(世界座標系)VCAに変換することができる。 As described above, 1 [pixel] in the screen coordinate system is approximated by D / D ′ × 0.00001 [degrees] in the world coordinate system. Therefore, the difference vector (screen coordinate system) V CA ′ can be converted into the difference vector (world coordinate system) V CA by using the following expression.

Figure 0006575221
Figure 0006575221

図10(c)は、ベクトル算出部804が、携帯端末110の現在位置情報(世界座標系)Aと、差分ベクトル(世界座標系)VCAとに基づいて、ペースト位置の位置情報(世界座標系)Cを算出した状態を示している。図10(c)に示すように、ペースト位置の位置座標(世界座標系)Cは、携帯端末110の現在位置情報(世界座標系)A及び現在向き情報に差分ベクトル(世界座標系)VCAを加算することにより算出することができる。 FIG. 10C shows the position information (world coordinates) of the paste position based on the current position information (world coordinate system) A of the mobile terminal 110 and the difference vector (world coordinate system) V CA. System) C is calculated. As shown in FIG. 10C, the position coordinate (world coordinate system) C of the paste position is obtained by adding a difference vector (world coordinate system) V CA to the current position information (world coordinate system) A and current direction information of the mobile terminal 110. Can be calculated by adding.

ベクトル算出部804では、ペースト位置の位置情報(世界座標系)C=(La3,Lo3,Al3)を算出すると、RAM403に保持されている位置情報B=(La2,Lo2,Al2)を書き換える。   When the position information (world coordinate system) C = (La3, Lo3, Al3) of the paste position is calculated, the vector calculation unit 804 rewrites the position information B = (La2, Lo2, Al2) held in the RAM 403.

これを受けて、ARコンテンツペースト部805は、書き換え後の位置情報(C=(La3,Lo3,Al3))に基づいて、ARコンテンツ管理情報600の"ARコンテンツの位置情報"は変更する(図10(c)参照)。   In response to this, the AR content paste unit 805 changes the “AR content location information” in the AR content management information 600 based on the rewritten location information (C = (La3, Lo3, Al3)) (FIG. 10 (c)).

次に、ARコンテンツ編集部506による編集処理の流れについて説明する。図11は、ARコンテンツ編集部による編集処理のフローチャートである。図11に示すフローチャートは、携帯端末110の表示画面210に、撮像情報表示部501により取得された画像220が表示され、かつ、ARコンテンツ230が表示されることで実行が開始される。   Next, the flow of editing processing by the AR content editing unit 506 will be described. FIG. 11 is a flowchart of the editing process by the AR content editing unit. The flowchart illustrated in FIG. 11 is started when the image 220 acquired by the imaging information display unit 501 is displayed on the display screen 210 of the mobile terminal 110 and the AR content 230 is displayed.

ステップS1101において、編集対象受付部801は、編集対象となるARコンテンツの選択を受け付け、編集メニューを表示画面210に表示する。   In step S <b> 1101, the edit target receiving unit 801 receives a selection of AR content to be edited and displays an edit menu on the display screen 210.

ステップS1102において、カット操作受付部802は、編集メニューにおいてカット処理が選択されたか否かを判定する。ステップS1102において、カット処理が選択されたと判定されなかった場合には、ステップS1101に戻る。   In step S1102, the cut operation reception unit 802 determines whether cut processing has been selected in the edit menu. If it is not determined in step S1102 that the cut process has been selected, the process returns to step S1101.

一方、ステップS1102において、カット処理が選択されたと判定された場合には、ステップS1103に進む。ステップS1103において、カット操作受付部802は、選択されたARコンテンツに対応付けられた位置情報をRAM403に保持するとともに、ARコンテンツの表示を、表示画面210上から消去する。   On the other hand, if it is determined in step S1102 that the cut process has been selected, the process proceeds to step S1103. In step S1103, the cut operation reception unit 802 holds the position information associated with the selected AR content in the RAM 403, and deletes the display of the AR content from the display screen 210.

ステップS1104において、ペースト位置受付部803は、携帯端末110の位置及び向きのいずれか一方または両方が変わった状態(第2の状態)で、ユーザが表示画面210の所定位置をタップ操作したか否かを判定する。ステップS1104において、タップ操作がないと判定した場合には、ステップS1110に進む。   In step S <b> 1104, the paste position receiving unit 803 determines whether the user has performed a tap operation on a predetermined position on the display screen 210 in a state (second state) in which one or both of the position and orientation of the mobile terminal 110 have changed. Determine whether. If it is determined in step S1104 that there is no tap operation, the process proceeds to step S1110.

一方、ステップS1104において、タップ操作があると判定した場合には、ステップS1105に進む。ステップS1105において、ペースト位置受付部803は、表示画面210上においてタップ操作されたペースト位置の位置情報(スクリーン座標系)を取得する。   On the other hand, if it is determined in step S1104 that there is a tap operation, the process proceeds to step S1105. In step S <b> 1105, the paste position receiving unit 803 acquires position information (screen coordinate system) of the paste position tapped on the display screen 210.

ステップS1106において、ベクトル算出部804は、携帯端末110の位置情報A'(スクリーン座標系)と、ペースト位置の位置情報C'(スクリーン座標系)とに基づいて、差分ベクトルVCA'(スクリーン座標系)を算出する。 In step S1106, the vector calculation unit 804 determines the difference vector V CA ′ (screen coordinates) based on the position information A ′ (screen coordinate system) of the mobile terminal 110 and the position information C ′ (screen coordinate system) of the paste position. System).

ステップS1107において、ベクトル算出部804は、差分ベクトルVCA'(スクリーン座標系)を差分ベクトルVCA(世界座標系)に変換する。 In step S1107, the vector calculation unit 804 converts the difference vector V CA ′ (screen coordinate system) into the difference vector V CA (world coordinate system).

ステップS1108において、ベクトル算出部804は、携帯端末110の現在位置情報(世界座標系)及び現在向き情報(世界座標系)と差分ベクトルVCA(世界座標系)とに基づいて、ペースト位置の位置座標(世界座標系)Cを算出する。 In step S1108, the vector calculation unit 804 determines the position of the paste position based on the current position information (world coordinate system) and current direction information (world coordinate system) of the mobile terminal 110 and the difference vector V CA (world coordinate system). Coordinates (world coordinate system) C are calculated.

ステップS1109において、ARコンテンツペースト部805は、ステップS1108において算出されたペースト位置の位置座標(世界座標系)Cを用いて、ARコンテンツ管理情報600の"ARコンテンツの位置情報"に格納された位置情報を変更する。また、ARコンテンツペースト部805は、表示画面210上において、ペースト位置に、編集対象のARコンテンツ230を表示する。   In step S1109, the AR content paste unit 805 uses the position coordinates (world coordinate system) C of the paste position calculated in step S1108 to store the position stored in “AR content position information” of the AR content management information 600. Change information. The AR content paste unit 805 displays the AR content 230 to be edited at the paste position on the display screen 210.

ステップS1110において、編集対象受付部801は、編集を終了するか否かを判定し、終了しないと判定した場合には、ステップS1101に戻り、他のARコンテンツについて編集を行う。一方、編集を終了すると判定した場合には、編集処理を終了する。   In step S1110, the edit target receiving unit 801 determines whether or not to end editing. If it is determined that the editing is not to be ended, the process returns to step S1101 to edit other AR content. On the other hand, when it is determined that the editing is to be ended, the editing process is ended.

次に、ARコンテンツ編集部506の編集処理の実施例(表示画面の遷移例)について説明する。なお、表示画面の遷移例を説明するにあたっては、比較対象のために、はじめに、図12〜図14を用いて、従来の携帯端末によりARコンテンツに対応付けられた位置情報を変更する場合の表示画面の遷移を示す。その後、図15及び図16を用いて、本実施形態における携帯端末110によりARコンテンツに対応付けられた位置情報を変更する場合の表示画面の遷移を示すこととする。   Next, an example of editing processing of the AR content editing unit 506 (display screen transition example) will be described. For explaining the transition example of the display screen, first, for comparison purposes, FIG. 12 to FIG. 14 are used to show the display when the location information associated with the AR content is changed by the conventional portable terminal. Indicates screen transition. Then, the transition of the display screen in the case where the position information associated with the AR content is changed by the mobile terminal 110 in the present embodiment will be described with reference to FIGS. 15 and 16.

図12〜図14は、ARコンテンツを適切な位置情報に対応付ける編集処理を行う際の、従来の携帯端末の表示画面の遷移を示す図である。図12(a)は、従来の携帯端末1210の表示画面1211に、現実世界の画像1220が表示され、ARコンテンツ1230が表示された様子を示している。なお、マップ720の網掛け領域は、従来の携帯端末1210の撮像範囲を示している。   12 to 14 are diagrams showing transition of the display screen of a conventional portable terminal when performing an editing process for associating AR content with appropriate position information. FIG. 12A shows a state in which the real-world image 1220 is displayed on the display screen 1211 of the conventional portable terminal 1210 and the AR content 1230 is displayed. Note that the shaded area of the map 720 indicates the imaging range of the conventional mobile terminal 1210.

ARコンテンツ1230の表示位置を変更するにあたり、従来の携帯端末1210では、例えば、表示画面1211上において、ユーザがARコンテンツ1230をタッチ(長押し)しながら移動させることで、表示位置の変更を行う。このため、1回の移動操作で移動可能な最大長さは、表示画面1211の左端と右端との間の長さとなる。そこで、ARコンテンツ1230を左方向に移動させる場合、ユーザはARコンテンツ1230が右端に表示されるように、携帯端末1210の撮像範囲を左方向に回転させる。   In changing the display position of the AR content 1230, the conventional mobile terminal 1210 changes the display position by moving the AR content 1230 while the user touches (holds) the AR content 1230 on the display screen 1211, for example. . For this reason, the maximum length that can be moved by one movement operation is the length between the left end and the right end of the display screen 1211. Therefore, when the AR content 1230 is moved in the left direction, the user rotates the imaging range of the mobile terminal 1210 in the left direction so that the AR content 1230 is displayed at the right end.

図12(b)は、携帯端末1210の撮像範囲を左方向に回転させることで、ARコンテンツ1230を、表示画面1211の右端に表示させた様子を示している。この状態で、ユーザは、ARコンテンツ1230をタッチ(長押し)しながら、ARコンテンツ1230を表示画面1211の左端に向かって移動させる。   FIG. 12B shows a state where the AR content 1230 is displayed at the right end of the display screen 1211 by rotating the imaging range of the mobile terminal 1210 to the left. In this state, the user moves the AR content 1230 toward the left end of the display screen 1211 while touching (holding) the AR content 1230.

図12(c)は、ARコンテンツ1230を、表示画面1211の左端に移動させた様子を示している(矢印1240参照)。   FIG. 12C shows a state where the AR content 1230 is moved to the left end of the display screen 1211 (see arrow 1240).

ここで、ARコンテンツ1230を更に左方向に移動させる場合、ユーザは、ARコンテンツ1230が表示画面1211の右端に表示されるように、再び携帯端末1210の撮像範囲を左方向に回転させる。   Here, when the AR content 1230 is further moved leftward, the user again rotates the imaging range of the mobile terminal 1210 leftward so that the AR content 1230 is displayed at the right end of the display screen 1211.

図13(a)は、携帯端末1210の撮像範囲を左方向に回転させたことで、ARコンテンツ1230を、表示画面1211の右端に表示させた様子を示している。この状態で、ユーザは、再びARコンテンツ1230をタッチ(長押し)しながら、表示画面1211の左端に向かって移動させる。   FIG. 13A shows a state in which the AR content 1230 is displayed at the right end of the display screen 1211 by rotating the imaging range of the mobile terminal 1210 in the left direction. In this state, the user moves the AR content 1230 toward the left end of the display screen 1211 while touching (holding) the AR content 1230 again.

図13(b)は、ARコンテンツ1230を、表示画面1211の左端に移動させた様子を示している。   FIG. 13B shows a state where the AR content 1230 is moved to the left end of the display screen 1211.

なお、ARコンテンツ1230を更に左方向に移動させる場合、ユーザは、ARコンテンツ1230が表示画面1211の右端に表示されるように、再び携帯端末1210の撮像範囲を左方向に回転させる。   When the AR content 1230 is moved further leftward, the user again rotates the imaging range of the mobile terminal 1210 leftward so that the AR content 1230 is displayed at the right end of the display screen 1211.

図13(c)は、携帯端末1210の撮像範囲を左方向に回転させたことで、ARコンテンツ1230を、表示画面1211の右端に表示させた様子を示している。この状態で、表示画面1211に表示された画像1220には、ARコンテンツ1230を表示させるべき適切な位置が含まれていたものとする。   FIG. 13C shows a state where the AR content 1230 is displayed at the right end of the display screen 1211 by rotating the imaging range of the mobile terminal 1210 to the left. In this state, it is assumed that the image 1220 displayed on the display screen 1211 includes an appropriate position where the AR content 1230 is to be displayed.

この場合、ユーザは、ARコンテンツ1230をタッチ(長押し)しながら、表示させたい位置までARコンテンツ1230を移動させる。図14(a)は、ARコンテンツ1230を、表示させるべき適切な位置まで移動させた様子を示している(矢印1410参照)。   In this case, the user moves the AR content 1230 to a position to be displayed while touching (holding) the AR content 1230. FIG. 14A shows a state where the AR content 1230 has been moved to an appropriate position to be displayed (see arrow 1410).

ARコンテンツ1230の移動が完了すると、ユーザは、ARコンテンツ1230の現在の表示位置に対応する位置情報(世界座標系)で、ARコンテンツ1230に対応付けられた位置情報を変更するよう指示する。   When the movement of the AR content 1230 is completed, the user instructs to change the position information associated with the AR content 1230 in the position information (world coordinate system) corresponding to the current display position of the AR content 1230.

図14(b)は、表示画面1211上に編集メニュー1420を表示させた様子を示している。表示された編集メニュー1420において、ユーザが保存処理を選択すると、従来の携帯端末1210は、ARコンテンツ1230の現在の表示位置に対応する位置情報(世界座標系)により、ARコンテンツ1230に対応付けられた位置情報を変更する。なお、図14(c)は、ARコンテンツ1230に対応付けられた位置情報が変更された後の状態を示している。   FIG. 14B shows a state where the edit menu 1420 is displayed on the display screen 1211. When the user selects a save process in the displayed edit menu 1420, the conventional portable terminal 1210 is associated with the AR content 1230 based on position information (world coordinate system) corresponding to the current display position of the AR content 1230. Change the location information. FIG. 14C shows a state after the position information associated with the AR content 1230 has been changed.

このように、従来の携帯端末1210の場合、ARコンテンツ1230の移動可能な最大長さが、表示画面1211の右端から左端まで(あるいはその逆)の長さに限られていた。このため、ARコンテンツの表示位置のずれが、撮像範囲を超えていた場合、撮像範囲を少しずつ変えながら、それぞれの撮像範囲において表示された画像に対して、ARコンテンツを移動する操作を行う必要があった。これに対して、本実施形態に係る携帯端末110によれば、カット&ペースト処理により、ARコンテンツを移動させるため、移動可能な最大長さの制限がなくなり、移動操作するユーザの負荷を軽減させることが可能となる。   Thus, in the case of the conventional portable terminal 1210, the maximum movable length of the AR content 1230 is limited to the length from the right end to the left end of the display screen 1211 (or vice versa). For this reason, when the shift of the display position of the AR content exceeds the imaging range, it is necessary to perform an operation of moving the AR content on the image displayed in each imaging range while changing the imaging range little by little. was there. On the other hand, according to the mobile terminal 110 according to the present embodiment, the AR content is moved by the cut-and-paste process, and therefore there is no restriction on the maximum length that can be moved, thereby reducing the load on the user who performs the moving operation. It becomes possible.

図15及び図16は、ARコンテンツ編集部による編集処理時の表示画面の遷移を示す図である。   15 and 16 are diagrams showing transition of the display screen during the editing process by the AR content editing unit.

図15(a)は、本実施形態における携帯端末110の表示画面210に、現実世界の画像220が表示され、ARコンテンツ230が表示された様子を示している。なお、マップ720の網掛け領域は、本実施形態における携帯端末110の撮像範囲を示している。   FIG. 15A shows a state in which the real-world image 220 is displayed and the AR content 230 is displayed on the display screen 210 of the mobile terminal 110 in the present embodiment. Note that the shaded area of the map 720 indicates the imaging range of the mobile terminal 110 in the present embodiment.

図15(b)は、表示画面210に表示された画像220上において、ARコンテンツ230が編集対象として選択されたことで、編集メニュー1510が表示された様子を示している。図15(b)に示すように、編集メニュー1510には、コピー処理、カット処理、ペースト処理が含まれ、図15(b)の例は、ユーザがカット処理を選択したことを示している。   FIG. 15B shows a state in which the editing menu 1510 is displayed on the image 220 displayed on the display screen 210 because the AR content 230 is selected as an editing target. As shown in FIG. 15B, the edit menu 1510 includes copy processing, cut processing, and paste processing, and the example of FIG. 15B indicates that the user has selected cut processing.

ユーザによりカット処理が選択されたことで、図15(c)に示すように、表示画面210に表示されたARコンテンツ230は消去される。その後、ユーザは、ARコンテンツ230を表示させたい位置が撮像範囲に含まれるよう、携帯端末110の位置及び向きを変える。   When the cutting process is selected by the user, the AR content 230 displayed on the display screen 210 is deleted as shown in FIG. Thereafter, the user changes the position and orientation of the mobile terminal 110 so that the position where the AR content 230 is to be displayed is included in the imaging range.

図16(a)は、ARコンテンツ230を表示させるべき適切な位置が撮像範囲に含まれるように、携帯端末110の位置及び向きを変えた様子を示している。図16(a)に示すように、携帯端末110の表示画面210には、ARコンテンツ230を表示させるべき適切な位置を含む画像1620が表示される。   FIG. 16A shows a state in which the position and orientation of the mobile terminal 110 are changed so that an appropriate position where the AR content 230 should be displayed is included in the imaging range. As shown in FIG. 16A, an image 1620 including an appropriate position where the AR content 230 is to be displayed is displayed on the display screen 210 of the mobile terminal 110.

画像1620が表示されている状態(第2の状態)で、ユーザは、ARコンテンツ230のペースト位置1630を指定する。具体的には、ユーザは、表示画面210上においてペースト位置1630をタップ操作する。   In a state where the image 1620 is displayed (second state), the user designates the paste position 1630 of the AR content 230. Specifically, the user taps paste position 1630 on display screen 210.

図16(b)は、ユーザが、表示画面210上においてペースト位置1630をタップ操作した様子を示している。図16(b)において丸印は、ユーザによりタップ操作が行われたペースト位置1630を示している。図16(b)に示すように、タップ操作が行われた位置の近傍には、編集メニュー1610が表示される。   FIG. 16B shows a state where the user taps the paste position 1630 on the display screen 210. In FIG. 16B, a circle indicates a paste position 1630 where the tap operation is performed by the user. As shown in FIG. 16B, an edit menu 1610 is displayed near the position where the tap operation has been performed.

図16(b)の例は、編集メニュー1610として、コピー処理、カット処理、ペースト処理が表示され、このうち、ペースト処理が選択可能であることを示している。この状態で、ユーザが編集メニュー1610の中からペースト処理を選択すると、ARコンテンツ230が表示画面210の画像1620に重畳して表示される。   In the example of FIG. 16B, copy processing, cut processing, and paste processing are displayed as the edit menu 1610, and it is shown that the paste processing can be selected. In this state, when the user selects the paste process from the edit menu 1610, the AR content 230 is displayed superimposed on the image 1620 on the display screen 210.

このように、携帯端末110によれば、ARコンテンツに対応付けられた位置情報を変更するために、ARコンテンツを所定の位置に移動させるにあたり、従来の携帯端末1210と比較して、ARコンテンツを移動させる際の操作負荷を軽減することができる。   As described above, according to the mobile terminal 110, in order to change the position information associated with the AR content, the AR content is moved to a predetermined position in comparison with the conventional mobile terminal 1210. The operation load at the time of moving can be reduced.

以上の説明から明らかなように、本実施形態に係る携帯端末110は、ユーザが第1の状態の指定(カット操作)を行ったときに、ARコンテンツに対応付けられた位置情報(世界座標系)を保持する。また、携帯端末110の位置及び向きを変えた後に、ユーザが第2の状態の指定(ペースト操作)を行ったことを契機に、携帯端末110は、位置及び向きが変わった携帯端末110に表示されている画像上のペースト位置に、ARコンテンツを表示する。更に、携帯端末110は、位置及び向きが変わった画像上のARコンテンツの表示位置に基づいて、位置情報(世界座標系)を算出し、算出した位置情報を用いてARコンテンツに対応付けられた位置情報を変更する。   As is clear from the above description, the mobile terminal 110 according to the present embodiment has the positional information (world coordinate system) associated with the AR content when the user designates the first state (cut operation). ). In addition, when the user designates the second state (paste operation) after changing the position and orientation of the mobile terminal 110, the mobile terminal 110 displays on the mobile terminal 110 whose position and orientation have changed. The AR content is displayed at the paste position on the displayed image. Furthermore, the mobile terminal 110 calculates position information (world coordinate system) based on the display position of the AR content on the image whose position and orientation have changed, and is associated with the AR content using the calculated position information. Change location information.

これにより、ARコンテンツ(オブジェクトデータ)を位置に対応付ける操作を簡単に行うことができる。   As a result, the operation of associating the AR content (object data) with the position can be easily performed.

[第2の実施形態]
上記第1の実施形態では、携帯端末の表示画面上に表示した、現実世界の画像上において、ARコンテンツを移動させることで、ARコンテンツが有する位置情報を変更した。これに対して、第2の実施形態では、携帯端末の表示画面上にマップを表示し、マップ内において、ARコンテンツを示すシンボルを移動させることで、ARコンテンツに対応付けられた位置情報を変更する。以下、第2の実施形態について、上記第1の実施形態との相違点を中心に説明する。
[Second Embodiment]
In the first embodiment, the position information of the AR content is changed by moving the AR content on the real-world image displayed on the display screen of the mobile terminal. In contrast, in the second embodiment, the map is displayed on the display screen of the mobile terminal, and the position information associated with the AR content is changed by moving the symbol indicating the AR content in the map. To do. Hereinafter, the second embodiment will be described focusing on differences from the first embodiment.

はじめに、本実施形態におけるARコンテンツ編集部の機能構成について説明する。図17は、第2の実施形態におけるARコンテンツ編集部の機能構成を示す図である。図17に示すように、ARコンテンツ編集部1700は、編集対象受付部801と、マップ移動操作受付部1701と、シンボル移動部1702と、位置情報更新部1703と、位置調整部806とを有する。   First, the functional configuration of the AR content editing unit in this embodiment will be described. FIG. 17 is a diagram illustrating a functional configuration of the AR content editing unit according to the second embodiment. As illustrated in FIG. 17, the AR content editing unit 1700 includes an editing target receiving unit 801, a map moving operation receiving unit 1701, a symbol moving unit 1702, a position information updating unit 1703, and a position adjusting unit 806.

編集対象受付部801は、上記第1の実施形態において図8を用いて説明済みであるため、ここでは説明を省略する。   Since the edit target receiving unit 801 has been described with reference to FIG. 8 in the first embodiment, description thereof is omitted here.

マップ移動操作受付部1701は、編集対象受付部801により表示された編集メニューに含まれる編集内容の中から、ユーザがマップ移動処理を選択した場合に、これを受け付ける。マップ移動操作受付部1701は、ユーザによるマップ移動処理の選択を受け付けると、携帯端末110の現在位置情報(世界座標系)及び現在向き情報に基づいて、世界座標系のマップ710を生成する。マップ移動操作受付部1701は、世界座標系のマップ710を生成するにあたり、編集対象のARコンテンツに対応付けられた位置情報(世界座標系)により特定されるマップ710内の位置に、編集対象のARコンテンツを示すシンボルを配置する。   The map movement operation reception unit 1701 receives a map movement process when the user selects a map movement process from the editing contents included in the editing menu displayed by the editing target reception unit 801. When the map movement operation accepting unit 1701 accepts the selection of the map movement process by the user, the map movement operation accepting unit 1701 generates a map 710 in the world coordinate system based on the current position information (world coordinate system) and current direction information of the mobile terminal 110. When generating the map 710 of the world coordinate system, the map movement operation accepting unit 1701 creates the edit target at a position in the map 710 specified by the position information (world coordinate system) associated with the AR content to be edited. A symbol indicating the AR content is arranged.

また、マップ移動操作受付部1701は、編集対象のARコンテンツを示すシンボルが配置されたマップ710を、表示画面210に表示する。   Further, the map moving operation reception unit 1701 displays a map 710 on which a symbol indicating the AR content to be edited is arranged on the display screen 210.

シンボル移動部1702は、表示画面210上に表示されたマップ710上において、ユーザによるシンボルの移動操作を受け付ける。これにより、マップ710上のシンボルの位置が変化する。   The symbol moving unit 1702 accepts a symbol moving operation by the user on the map 710 displayed on the display screen 210. As a result, the position of the symbol on the map 710 changes.

位置情報更新部1703は、シンボル移動部1702によるシンボルの移動操作が完了した場合に、ユーザから、編集対象のARコンテンツに対応付けられた位置情報を変更する旨の指示があったか否かを判定する。編集対象のARコンテンツに対応付けられた位置情報を変更する旨の指示があった場合、位置情報更新部1703は、移動後のシンボルの位置情報(世界座標系)により、編集対象のARコンテンツに対応付けられた位置情報を変更する。なお、位置情報更新部1703は、ARコンテンツに対応付けられた位置情報を変更すると、表示画面210の表示を元に戻すよう、撮像情報表示部501に指示する。これにより、表示画面210には、現実世界の画像220が表示されることになる。このときの撮像範囲に、変更された位置情報が含まれていた場合には、位置情報が変更されたARコンテンツが、画像220に重畳して表示されることになる。   When the symbol moving operation by the symbol moving unit 1702 is completed, the position information update unit 1703 determines whether or not the user has given an instruction to change the position information associated with the AR content to be edited. . When there is an instruction to change the position information associated with the AR content to be edited, the position information update unit 1703 uses the position information (world coordinate system) of the moved symbol to change the AR content to be edited. Change the associated position information. Note that the position information update unit 1703 instructs the imaging information display unit 501 to restore the display on the display screen 210 when the position information associated with the AR content is changed. As a result, the real-world image 220 is displayed on the display screen 210. If the changed position information is included in the imaging range at this time, the AR content in which the position information is changed is displayed superimposed on the image 220.

位置調整部806は、上記第1の実施形態において図8を用いて説明済みであるため、ここでは説明を省略する。   Since the position adjustment unit 806 has been described with reference to FIG. 8 in the first embodiment, description thereof is omitted here.

次に、第2の実施形態における携帯端末110のARコンテンツ編集部1700の編集処理の実施例(表示画面の遷移例)について説明する。図18及び図19は、ARコンテンツ編集部による編集処理時の表示画面の遷移を示す図である。   Next, an example of editing processing of the AR content editing unit 1700 of the mobile terminal 110 in the second embodiment (display screen transition example) will be described. 18 and 19 are diagrams showing transitions of display screens during editing processing by the AR content editing unit.

図18(a)は、本実施形態における携帯端末110の表示画面210に、現実世界の画像220が表示され、ARコンテンツ230が表示された様子を示している。図18(b)は、表示画面210に表示された画像220上において、ARコンテンツ230が編集対象として選択されたことで、編集メニュー1510が表示された様子を示している。図18(b)に示すように、編集メニュー1510には、コピー処理、カット処理、ペースト処理に加え、マップ移動処理が含まれ、図18(b)の例では、ユーザはマップ移動処理を選択する。   FIG. 18A shows a state where the real-world image 220 is displayed and the AR content 230 is displayed on the display screen 210 of the mobile terminal 110 according to the present embodiment. FIG. 18B shows a state in which the edit menu 1510 is displayed on the image 220 displayed on the display screen 210 when the AR content 230 is selected as an editing target. As shown in FIG. 18B, the edit menu 1510 includes a map movement process in addition to a copy process, a cut process, and a paste process. In the example of FIG. 18B, the user selects the map movement process. To do.

ユーザによりマップ移動処理が選択されたことで、マップ移動操作受付部1701は、携帯端末110の現在位置情報(世界座標系)及び現在向き情報に基づいて、世界座標系のマップ710を生成する。また、マップ移動操作受付部1701は、世界座標系のマップ710を生成するにあたり、編集対象のARコンテンツに対応付けられた位置情報(世界座標系)により特定される位置に、編集対象のARコンテンツを示すシンボルを配置する。   When the map movement process is selected by the user, the map movement operation reception unit 1701 generates a map 710 in the world coordinate system based on the current position information (world coordinate system) and current direction information of the mobile terminal 110. In addition, when generating the map 710 of the world coordinate system, the map movement operation reception unit 1701 edits the AR content to be edited at a position specified by position information (world coordinate system) associated with the AR content to be edited. The symbol indicating is placed.

図18(c)は、マップ移動操作受付部1701により生成されたマップ710が、表示画面210に表示された様子を示している。図18(c)に示すように、マップ710は、携帯端末110の現在位置情報(世界座標系)を中心とする円形形状であり、編集対象のARコンテンツを示すシンボル1800が、マップ710上に表示される。また、携帯端末110の現在位置情報(世界座標系)と現在向き情報とに基づいて算出される撮像範囲も網掛けにより表示される。   FIG. 18C shows a state where the map 710 generated by the map movement operation receiving unit 1701 is displayed on the display screen 210. As shown in FIG. 18C, the map 710 has a circular shape centered on the current position information (world coordinate system) of the mobile terminal 110, and a symbol 1800 indicating the AR content to be edited is displayed on the map 710. Is displayed. The imaging range calculated based on the current position information (world coordinate system) of the mobile terminal 110 and the current orientation information is also displayed by shading.

マップ710上にシンボル1800が表示された状態で、ユーザは、シンボル1800をタッチ(長押し)しながら、変更したい位置まで移動させる。   While the symbol 1800 is displayed on the map 710, the user moves the symbol 1800 to a position to be changed while touching (long pressing) the symbol 1800.

図19(a)は、ユーザがシンボル1800をタッチ(長押し)し、変更したい位置まで移動させた様子を示している。ユーザがシンボル1800を移動させることで、シンボル1800のマップ710内の位置情報(すなわち、世界座標系の位置情報)が算出される。図19(a)の例は、シンボル1800が位置情報(世界座標系)C=(La3,Lo3,Al3)により特定される位置まで移動したことを示している。   FIG. 19A shows a state in which the user touches (long presses) the symbol 1800 and moves it to a position to be changed. When the user moves the symbol 1800, position information in the map 710 of the symbol 1800 (that is, position information in the world coordinate system) is calculated. The example of FIG. 19A shows that the symbol 1800 has moved to a position specified by position information (world coordinate system) C = (La3, Lo3, Al3).

ユーザによりシンボル1800の移動が完了すると、位置情報更新部1703は、表示画面210上に、編集メニューを表示する。図19(b)は、表示画面210上に編集メニュー1910が表示された様子を示している。表示された編集メニュー1910において、ユーザが保存処理を選択すると、位置情報更新部1703は、ARコンテンツ管理情報600の"ARコンテンツの位置情報"に格納された位置情報を変更する。具体的には、位置情報更新部1703は、シンボル1800の移動後の位置の位置情報(世界座標系)C=(La3,Lo3,Al3)を用いて、ARコンテンツ管理情報600の"ARコンテンツの位置情報"に格納された位置情報を変更する。   When the movement of the symbol 1800 is completed by the user, the position information update unit 1703 displays an edit menu on the display screen 210. FIG. 19B shows a state where the edit menu 1910 is displayed on the display screen 210. When the user selects save processing in the displayed edit menu 1910, the position information update unit 1703 changes the position information stored in “AR content position information” of the AR content management information 600. Specifically, the position information update unit 1703 uses the position information (world coordinate system) C = (La3, Lo3, Al3) of the position after the movement of the symbol 1800 to “AR content management information 600”. The position information stored in “position information” is changed.

"ARコンテンツの位置情報"に格納された位置情報の変更が完了すると、携帯端末110の表示画面210には、現実世界の画像が表示される。なお、この時点でユーザは、移動後のシンボル1800の位置が撮像範囲に含まれるように携帯端末の位置及び向きを変更したとする。図19(c)は、ARコンテンツに対応付けられた位置情報の変更が完了することで、携帯端末110の表示画面210に画像1620が表示されたことを示している。   When the change of the position information stored in “AR content position information” is completed, a real-world image is displayed on the display screen 210 of the mobile terminal 110. Note that at this time, the user changes the position and orientation of the mobile terminal so that the position of the moved symbol 1800 is included in the imaging range. FIG. 19C shows that the image 1620 is displayed on the display screen 210 of the mobile terminal 110 by completing the change of the position information associated with the AR content.

図19(c)の例は、ユーザが携帯端末110の位置及び向きを変えることで、撮像範囲が変更されたことで、位置情報が変更されたARコンテンツ230が、撮像範囲に含まれることになったことを示している。   In the example of FIG. 19C, the AR content 230 whose position information has been changed due to the user changing the position and orientation of the mobile terminal 110 and changing the imaging range is included in the imaging range. It has become.

次に、本実施形態におけるARコンテンツ編集部1700による編集処理の流れについて説明する。図20は、ARコンテンツ編集部による編集処理のフローチャートである。図20に示すフローチャートは、携帯端末110の表示画面210に、撮像情報表示部501により取得された画像220が表示され、かつ、ARコンテンツ230が表示された場合に実行が開始される。   Next, the flow of editing processing by the AR content editing unit 1700 in this embodiment will be described. FIG. 20 is a flowchart of the editing process by the AR content editing unit. The flowchart illustrated in FIG. 20 is started when the image 220 acquired by the imaging information display unit 501 is displayed on the display screen 210 of the mobile terminal 110 and the AR content 230 is displayed.

ステップS2001において、編集対象受付部801は、編集対象となるARコンテンツの選択を受け付け、編集メニュー1510を表示画面210に表示する。   In step S2001, the edit target receiving unit 801 receives selection of an AR content to be edited, and displays an edit menu 1510 on the display screen 210.

ステップS2002において、マップ移動操作受付部1701は、編集メニューにおいてマップ移動処理が選択されたか否かを判定する。ステップS2002において、マップ移動処理が選択されなかったと判定された場合には、ステップS2001に戻る。   In step S2002, the map movement operation receiving unit 1701 determines whether or not map movement processing is selected in the edit menu. If it is determined in step S2002 that the map moving process has not been selected, the process returns to step S2001.

一方、ステップS2002において、マップ移動処理が選択されたと判定された場合には、ステップS2003に進む。ステップS2003において、マップ移動操作受付部1701は、携帯端末110の現在位置情報(世界座標系)及び現在向き情報に基づいて、世界座標系のマップ710を生成する。また、マップ移動操作受付部1701は、マップ710内において、編集対象のARコンテンツ230に対応付けられた位置情報(世界座標系)により特定される位置に、編集対象のARコンテンツ230を示すシンボル1800を配置する。更に、マップ移動操作受付部1701は、生成したマップ710を表示画面210に表示する。   On the other hand, if it is determined in step S2002 that the map movement process has been selected, the process proceeds to step S2003. In step S2003, the map movement operation receiving unit 1701 generates a map 710 in the world coordinate system based on the current position information (world coordinate system) and current direction information of the mobile terminal 110. Further, the map moving operation reception unit 1701 has a symbol 1800 indicating the AR content 230 to be edited at a position specified by position information (world coordinate system) associated with the AR content 230 to be edited in the map 710. Place. Further, the map movement operation reception unit 1701 displays the generated map 710 on the display screen 210.

ステップS2004において、シンボル移動部1702は、ユーザによるシンボル1800に対する移動指示があったか否かを判定する。ユーザによるシンボル1800に対する移動指示がなかったと判定した場合には、ステップS2008に進む。   In step S2004, the symbol moving unit 1702 determines whether or not there has been an instruction to move the symbol 1800 by the user. If it is determined that the user has not given an instruction to move the symbol 1800, the process proceeds to step S2008.

一方、ステップS2004において、ユーザによるシンボル1800に対する移動指示があったと判定した場合には、ステップS2005に進む。ステップS2005において、シンボル移動部1702は、ユーザによる移動指示に応じてシンボル1800を移動させる。移動が完了すると、位置情報更新部1703は、ユーザから、編集対象のARコンテンツに対応付けられた位置情報を変更する旨の指示があったか否かを判定し、変更する旨の指示があった場合に、移動後のシンボル1800の位置情報(世界座標系)を算出する。   On the other hand, if it is determined in step S2004 that the user has given an instruction to move the symbol 1800, the process proceeds to step S2005. In step S2005, the symbol moving unit 1702 moves the symbol 1800 in accordance with a moving instruction from the user. When the movement is completed, the position information update unit 1703 determines whether or not there is an instruction from the user to change the position information associated with the AR content to be edited, and there is an instruction to change the position information. Then, the position information (world coordinate system) of the symbol 1800 after movement is calculated.

ステップS2006において、位置情報更新部1703は、算出したシンボル1800の位置情報(世界座標系)を用いて、編集対象のARコンテンツに対応付けられた位置情報を変更する。   In step S2006, the position information update unit 1703 uses the calculated position information (world coordinate system) of the symbol 1800 to change the position information associated with the AR content to be edited.

ステップS2007において、位置情報更新部1703は、撮像情報表示部501に対して、表示画面210の表示を元に戻すよう指示する。これにより、表示画面210には、現実世界の画像1620が表示されることになる。   In step S2007, the position information update unit 1703 instructs the imaging information display unit 501 to restore the display on the display screen 210. As a result, the real-world image 1620 is displayed on the display screen 210.

ステップS2008において、編集対象受付部801は、編集を終了するか否かを判定し、終了しないと判定した場合には、ステップS2001に戻り、他のARコンテンツについて編集を行う。一方、編集を終了すると判定した場合には、編集処理を終了する。   In step S2008, the editing target reception unit 801 determines whether or not to end editing. If it is determined that the editing is not to be ended, the process returns to step S2001 to edit other AR content. On the other hand, when it is determined that the editing is to be ended, the editing process is ended.

以上の説明から明らかなように、本実施形態に係る携帯端末110は、マップ移動操作受付部1701が、携帯端末110の現在位置情報及び現在向き情報に応じて特定される撮像範囲(第1のエリア)と、撮像範囲外の第2のエリアとを含むマップ710を生成する。また、マップ移動操作受付部1701が、生成したマップ710を、撮像範囲と撮像範囲外とを区別して表示する。更に、マップ移動操作受付部1701が、編集対象のARコンテンツに対応付けられた位置情報に基づいて、ARコンテンツを示すシンボル1800をマップ710内に配置して表示する。   As is clear from the above description, in the mobile terminal 110 according to the present embodiment, the map movement operation reception unit 1701 is identified by the imaging range (first image) specified according to the current position information and current direction information of the mobile terminal 110. Area) and a second area outside the imaging range, a map 710 is generated. Also, the map movement operation receiving unit 1701 displays the generated map 710 by distinguishing between the imaging range and the outside of the imaging range. Further, the map moving operation reception unit 1701 arranges and displays a symbol 1800 indicating the AR content in the map 710 based on the position information associated with the AR content to be edited.

また、シンボル移動部1702が、マップ710内のシンボル1800の移動操作を受け付け、位置情報更新部1703が、移動後のシンボル1800の位置情報に基づいて、ARコンテンツに対応付けられた位置情報を変更する。   In addition, the symbol moving unit 1702 receives a moving operation of the symbol 1800 in the map 710, and the position information updating unit 1703 changes the position information associated with the AR content based on the position information of the moved symbol 1800. To do.

これにより、ユーザは、マップ内のシンボルを移動させるだけで、ARコンテンツに対応付けられた位置情報を変更することが可能となる。この結果、ARコンテンツ(オブジェクトデータ)を位置に対応付ける操作を簡単に行うことができる。   Thereby, the user can change the position information associated with the AR content only by moving the symbol in the map. As a result, the operation of associating the AR content (object data) with the position can be easily performed.

[その他の実施形態]
上記第1及び第2の実施形態では、ARコンテンツに対応付けられた位置情報を1つずつ変更する場合について説明した。しかしながら、画像220に複数のARコンテンツが表示されている場合にあっては、複数のARコンテンツを選択して、まとめて位置情報を変更するようにしてもよい。
[Other Embodiments]
In the first and second embodiments, the case has been described in which the position information associated with the AR content is changed one by one. However, when a plurality of AR contents are displayed on the image 220, a plurality of AR contents may be selected and the position information may be changed collectively.

また、上記第1及び第2の実施形態では、サーバ装置120から提供されたARコンテンツ情報が有するARコンテンツ及び位置情報を携帯端末110内に格納し、格納したARコンテンツに対応付けられた位置情報を変更する場合について説明した。しかしながら、位置情報を変更する対象となるARコンテンツは、携帯端末110に格納されたARコンテンツに限定されない。例えば、サーバ装置120から提供されたARコンテンツに対応付けられた位置情報を変更し、変更した位置情報を有するARコンテンツ情報をサーバ装置120に送信するようにしてもよい。これにより、ARコンテンツ情報DB122において、ARコンテンツと対応付けて登録されている位置情報を変更することができる。   In the first and second embodiments, the AR content and the position information included in the AR content information provided from the server device 120 are stored in the mobile terminal 110, and the position information associated with the stored AR content. Explained the case of changing. However, the AR content whose position information is to be changed is not limited to the AR content stored in the mobile terminal 110. For example, the location information associated with the AR content provided from the server device 120 may be changed, and the AR content information having the changed location information may be transmitted to the server device 120. Thereby, the position information registered in association with the AR content in the AR content information DB 122 can be changed.

なお、変更した位置情報を有するARコンテンツ情報をサーバ装置120に送信するタイミングは任意のタイミングが可能である。例えば、携帯端末110は、変更した位置情報を有するARコンテンツ情報を、ARコンテンツ管理DB511に格納しておき、所定のタイミングでサーバ装置120に送信するようにしてもよい。これにより、サーバ装置120のARコンテンツ情報DB122において、ARコンテンツと対応付けて登録されている位置情報を、まとめて変更することができる。   In addition, the timing which transmits AR content information which has the changed positional information to the server apparatus 120 can be arbitrary timings. For example, the mobile terminal 110 may store the AR content information having the changed position information in the AR content management DB 511 and transmit the AR content information to the server device 120 at a predetermined timing. Thereby, the location information registered in association with the AR content in the AR content information DB 122 of the server device 120 can be changed collectively.

また、上記第1及び第2の実施形態では、サーバ装置120から提供されたARコンテンツを携帯端末110内に格納し、格納したARコンテンツに対応付けられた位置情報を変更する処理までを説明した。しかしながら、携帯端末110は、格納したARコンテンツに対応付けられた位置情報を変更するだけでなく、以降は、ARコンテンツ管理DB511に格納したARコンテンツを表示画面に表示するようにしてもよい。   In the first and second embodiments described above, the AR content provided from the server device 120 is stored in the mobile terminal 110 and the process of changing the position information associated with the stored AR content has been described. . However, the mobile terminal 110 may not only change the position information associated with the stored AR content, but may display the AR content stored in the AR content management DB 511 on the display screen thereafter.

つまり、携帯端末110のARコンテンツ表示部505は、撮像範囲算出部504より通知された撮像範囲に関する情報に基づいてARコンテンツ管理DB511内を検索するようにしてもよい。これにより、ARコンテンツ管理DB511に格納されたARコンテンツ情報のうち、撮像範囲に含まれる位置情報を有するARコンテンツ情報(エリア内の位置に対応付けて登録されたARコンテンツを含むARコンテンツ情報)を検出する。この結果、ARコンテンツ表示部505は、ARコンテンツ管理DB511に格納されたARコンテンツを表示画面に表示することが可能となる。なお、この場合、携帯端末110のARコンテンツ管理DB511に格納したARコンテンツが、"登録されたARコンテンツ"となる。   That is, the AR content display unit 505 of the mobile terminal 110 may search the AR content management DB 511 based on the information regarding the imaging range notified from the imaging range calculation unit 504. Thereby, among the AR content information stored in the AR content management DB 511, AR content information (AR content information including the AR content registered in association with the position in the area) having the position information included in the imaging range is obtained. To detect. As a result, the AR content display unit 505 can display the AR content stored in the AR content management DB 511 on the display screen. In this case, the AR content stored in the AR content management DB 511 of the mobile terminal 110 is “registered AR content”.

また、上記第1及び第2の実施形態では、ARコンテンツ表示システムにおいて、携帯端末を用いる場合について説明したが、ARコンテンツの表示は、例えば、ヘッドマウントディスプレイ等の装着型の端末を用いて行ってもよい。また、ヘッドマウントディスプレイ等の装着型の端末において、表示部は、例えば、透過型であってもよい。なお、透過型の表示部の場合、ARコンテンツは、撮像された画像上に重畳されることなく、表示部(例えば、眼鏡型のヘッドマウントディスプレイの場合、眼鏡のガラスに相当する部分)の所定の位置に直接表示されることになる。   In the first and second embodiments, the case where the mobile terminal is used in the AR content display system has been described. However, the AR content is displayed using a wearable terminal such as a head-mounted display, for example. May be. In a wearable terminal such as a head mounted display, the display unit may be, for example, a transmissive type. In the case of a transmissive display unit, the AR content is not superimposed on a captured image, and the predetermined content of the display unit (for example, in the case of a glasses-type head-mounted display, a portion corresponding to the glasses of glasses). It will be displayed directly at the position.

なお、開示の技術では、以下に記載する付記のような形態が考えられる。
(付記1)
端末の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示させる表示制御方法において、
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる端末の第1の状態の指定を受け付け、
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる端末の第2の状態の指定を受け付け、
前記第1の状態と前記第2の状態における前記端末の位置及び向きの相違に基づき、前記オブジェクトデータに対応付けて登録された前記位置を変更する、
処理をコンピュータが実行することを特徴とする表示制御方法。
(付記2)
前記第2の状態において前記ディスプレイ上において指示された位置と、前記第2の状態における前記端末の位置との間の相対的な位置関係を、前記ディスプレイ上の座標系である第1の座標系に基づいて算出することで第1のベクトルを生成し、
生成した前記第1のベクトルを、前記オブジェクトデータに対応付けて登録された位置を示す第2の座標系に変換することで第2のベクトルを生成し、
前記第2の状態における前記情報処理装置の位置及び向きを前記第2の座標系で示したものに前記第2のベクトルを足し合わせることで、前記第2の状態において前記ディスプレイ上において指示された位置を、前記第2の座標系により算出し、前記オブジェクトデータに対応付けて登録された位置を変更することを特徴とする付記1に記載の表示制御方法。
(付記3)
前記第1の状態の指定を受け付けることで、前記ディスプレイ上の前記オブジェクトデータの表示を消去し、
前記第2の状態において前記ディスプレイ上において指示された位置に、表示が消去された前記オブジェクトデータを表示することを特徴とする付記2に記載の表示制御方法。
(付記4)
端末の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示させる表示制御方法において、
前記端末の位置及び向きに応じて特定された第1のエリアを示す第1の範囲と、前記第1のエリア外の第2のエリアを示す第2の範囲とを含むマップを、前記第1の範囲及び前記第2の範囲を区別して前記ディスプレイに表示し、
前記第1のエリア内又は前記第2のエリア内の位置に対応付けて登録されたオブジェクトデータの前記位置を示すシンボルを、前記マップ内の位置の内、前記オブジェクトデータの位置に対応する位置に表示し、
表示した前記シンボルの位置を変化させる操作を受け付け、
前記操作を受け付けた前記シンボルの位置の変化に基づき、前記シンボルに対応するオブジェクトデータに対応付けて登録された前記位置を変更する、
処理をコンピュータが実行することを特徴とする表示制御方法。
(付記5)
自装置の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示する情報処理装置であって、
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる情報処理装置の第1の状態の指定を受け付ける第1の受付手段と、
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる情報処理装置の第2の状態の指定を受け付ける第2の受付手段と、
前記第1の状態と前記第2の状態における前記情報処理装置の位置及び向きの相違に基づき、前記オブジェクトデータに対応付けて登録された前記位置を変更する変更手段と
を有することを特徴とする情報処理装置。
(付記6)
自装置の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示する情報処理装置であって、
前記情報処理装置の位置及び向きに応じて特定された第1のエリアを示す第1の範囲と、前記第1のエリア外の第2のエリアを示す第2の範囲とを含むマップを、前記第1の範囲及び前記第2の範囲を区別して前記ディスプレイに表示する第1の表示手段と、
前記第1のエリア内又は前記第2のエリア内の位置に対応付けて登録されたオブジェクトデータの前記位置を示すシンボルを、前記マップ内の位置の内、前記オブジェクトデータの位置に対応する位置に表示する第2の表示手段と、
表示した前記シンボルの位置を変化させる操作を受け付ける受付手段と、
前記操作を受け付けた前記シンボルの位置の変化に基づき、前記シンボルに対応するオブジェクトデータに対応付けて登録された前記位置を変更する変更手段と
を有することを特徴とする情報処理装置。
(付記7)
端末の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示するコンピュータに、
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる端末の第1の状態の指定を受け付け、
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる端末の第2の状態の指定を受け付け、
前記第1の状態と前記第2の状態における前記端末の位置及び向きの相違に基づき、前記オブジェクトデータに対応付けて登録された前記位置を変更する、
処理を実行させる表示制御プログラム。
(付記8)
端末の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示させるコンピュータに、
前記端末の位置及び向きに応じて特定された第1のエリアを示す第1の範囲と、前記第1のエリア外の第2のエリアを示す第2の範囲とを含むマップを、前記第1の範囲及び前記第2の範囲を区別して前記ディスプレイに表示し、
前記第1のエリア内又は前記第2のエリア内の位置に対応付けて登録されたオブジェクトデータの前記位置を示すシンボルを、前記マップ内の位置の内、前記オブジェクトデータの位置に対応する位置に表示し、
表示した前記シンボルの位置を変化させる操作を受け付け、
前記操作を受け付けた前記シンボルの位置の変化に基づき、前記シンボルに対応するオブジェクトデータに対応付けて登録された前記位置を変更する、
処理を実行させる表示制御プログラム。
In addition, in the disclosed technology, forms such as the following supplementary notes are conceivable.
(Appendix 1)
In the display control method for displaying the object data on a display when object data registered in association with a position in an area specified according to the position and orientation of the terminal is detected,
Accepting designation of the first state of the terminal used to change the position registered in association with the object data displayed on the display;
Accepting designation of the second state of the terminal used to change the position registered in association with the object data displayed on the display;
Changing the position registered in association with the object data based on the difference in position and orientation of the terminal in the first state and the second state;
A display control method, wherein a computer executes processing.
(Appendix 2)
A relative coordinate relationship between the position indicated on the display in the second state and the position of the terminal in the second state is a first coordinate system which is a coordinate system on the display. To generate a first vector by calculating based on
Generating the second vector by converting the generated first vector into a second coordinate system indicating a position registered in association with the object data;
Instructed on the display in the second state by adding the second vector to the position and orientation of the information processing apparatus in the second state indicated by the second coordinate system The display control method according to appendix 1, wherein a position is calculated by the second coordinate system, and a position registered in association with the object data is changed.
(Appendix 3)
By accepting the designation of the first state, the display of the object data on the display is erased,
The display control method according to appendix 2, wherein the object data whose display has been deleted is displayed at a position indicated on the display in the second state.
(Appendix 4)
In the display control method for displaying the object data on a display when object data registered in association with a position in an area specified according to the position and orientation of the terminal is detected,
A map including a first range indicating a first area specified according to the position and orientation of the terminal and a second range indicating a second area outside the first area; And the display of the second range and the second range,
A symbol indicating the position of the object data registered in association with the position in the first area or the second area is set to a position corresponding to the position of the object data in the map. Display
Accept an operation to change the position of the displayed symbol,
Based on a change in the position of the symbol that has received the operation, the position registered in association with the object data corresponding to the symbol is changed.
A display control method, wherein a computer executes processing.
(Appendix 5)
An information processing device that displays object data on a display when object data registered in association with a position in an area specified according to the position and orientation of the device is detected,
First receiving means for receiving designation of a first state of the information processing apparatus used for changing the position registered in association with the object data displayed on the display;
Second accepting means for accepting designation of a second state of the information processing apparatus used for changing the position registered in association with the object data displayed on the display;
And changing means for changing the position registered in association with the object data based on a difference in position and orientation of the information processing apparatus in the first state and the second state. Information processing device.
(Appendix 6)
An information processing device that displays object data on a display when object data registered in association with a position in an area specified according to the position and orientation of the device is detected,
A map including a first range indicating a first area specified according to a position and orientation of the information processing apparatus, and a second range indicating a second area outside the first area, First display means for distinguishing between the first range and the second range and displaying on the display;
A symbol indicating the position of the object data registered in association with the position in the first area or the second area is set to a position corresponding to the position of the object data in the map. Second display means for displaying;
Accepting means for accepting an operation for changing the position of the displayed symbol;
An information processing apparatus comprising: a changing unit configured to change the position registered in association with object data corresponding to the symbol based on a change in the position of the symbol that has received the operation.
(Appendix 7)
When object data registered in association with a position in an area specified according to the position and orientation of the terminal is detected, the computer displays the object data on a display.
Accepting designation of the first state of the terminal used to change the position registered in association with the object data displayed on the display;
Accepting designation of the second state of the terminal used to change the position registered in association with the object data displayed on the display;
Changing the position registered in association with the object data based on the difference in position and orientation of the terminal in the first state and the second state;
Display control program that executes processing.
(Appendix 8)
When object data registered in association with a position in an area specified according to the position and orientation of the terminal is detected, a computer that displays the object data on a display,
A map including a first range indicating a first area specified according to the position and orientation of the terminal and a second range indicating a second area outside the first area; And the display of the second range and the second range,
A symbol indicating the position of the object data registered in association with the position in the first area or the second area is set to a position corresponding to the position of the object data in the map. Display
Accept an operation to change the position of the displayed symbol,
Based on a change in the position of the symbol that has received the operation, the position registered in association with the object data corresponding to the symbol is changed.
Display control program that executes processing.

なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせ等、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。   Note that the present invention is not limited to the configurations shown here, such as combinations with other elements, etc., in the configurations described in the above embodiments. These points can be changed without departing from the spirit of the present invention, and can be appropriately determined according to the application form.

100 :ARコンテンツ表示システム
110 :携帯端末
120 :サーバ装置
121 :コンテンツ提供部
122 :ARコンテンツ情報DB
210 :表示画面
220 :画像
230 :ARコンテンツ
300 :マップ
501 :撮像情報表示部
502 :現在位置情報取得部
503 :現在向き情報取得部
504 :撮像範囲算出部
505 :ARコンテンツ表示部
506 :ARコンテンツ編集部
511 :ARコンテンツ管理DB
600 :ARコンテンツ管理情報
801 :編集対象受付部
802 :カット操作受付部
803 :ペースト位置受付部
804 :ベクトル算出部
805 :ARコンテンツペースト部
806 :位置調整部
1510 :編集メニュー
1610 :編集メニュー
1620 :画像
1630 :ペースト位置
1700 :ARコンテンツ編集部
1701 :マップ移動操作受付部
1702 :シンボル移動部
1703 :位置情報更新部
100: AR content display system 110: mobile terminal 120: server device 121: content providing unit 122: AR content information DB
210: Display screen 220: Image 230: AR content 300: Map 501: Imaging information display unit 502: Current position information acquisition unit 503: Current direction information acquisition unit 504: Imaging range calculation unit 505: AR content display unit 506: AR content Editing unit 511: AR content management DB
600: AR content management information 801: Editing object reception unit 802: Cut operation reception unit 803: Paste position reception unit 804: Vector calculation unit 805: AR content paste unit 806: Position adjustment unit 1510: Edit menu 1610: Edit menu 1620: Image 1630: Paste position 1700: AR content editing unit 1701: Map moving operation receiving unit 1702: Symbol moving unit 1703: Position information updating unit

Claims (6)

端末の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示させる表示制御方法において、
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる端末の第1の状態の指定を受け付けることで、前記ディスプレイ上の前記オブジェクトデータの表示を消去し
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる端末の第2の状態において、前記ディスプレイ上において指示された位置に、表示が消去された前記オブジェクトデータを表示し
前記第1の状態と前記第2の状態における前記端末の位置及び向きの相違に基づき、前記オブジェクトデータに対応付けて登録された前記位置を、前記ディスプレイ上において指示された位置に対応する前記エリア内の位置に変更する、
処理をコンピュータが実行することを特徴とする表示制御方法。
In the display control method for displaying the object data on a display when object data registered in association with a position in an area specified according to the position and orientation of the terminal is detected,
In Rukoto receives designation of a first state of the terminal to be used for changing the position registered in association with the object data displayed on the display, to erase the display of the object data on the display,
In the second state of the terminal used for changing the position registered in association with the object data displayed on the display, the object data whose display has been deleted is displayed at the position indicated on the display. ,
The area corresponding to the position indicated on the display, the position registered in association with the object data based on the difference in position and orientation of the terminal in the first state and the second state Change to a position in
A display control method, wherein a computer executes processing.
端末の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示させる表示制御方法において、
前記端末の位置及び向きに応じて特定された第1のエリアを示す第1の範囲と、前記第1のエリア外の第2のエリアを示す第2の範囲とを含むマップを、前記第1の範囲及び前記第2の範囲を区別して前記ディスプレイに表示し、
前記第1のエリア内又は前記第2のエリア内の位置に対応付けて登録されたオブジェクトデータの前記位置を示すシンボルを、前記マップ内の位置の内、前記オブジェクトデータの位置に対応する位置に表示し、
表示した前記シンボルの位置を変化させる操作を受け付け、
前記操作を受け付けた前記シンボルの位置の変化に基づき、前記シンボルに対応するオブジェクトデータに対応付けて登録された前記位置を変更する、
処理をコンピュータが実行することを特徴とする表示制御方法。
In the display control method for displaying the object data on a display when object data registered in association with a position in an area specified according to the position and orientation of the terminal is detected,
A map including a first range indicating a first area specified according to the position and orientation of the terminal and a second range indicating a second area outside the first area; And the display of the second range and the second range,
A symbol indicating the position of the object data registered in association with the position in the first area or the second area is set to a position corresponding to the position of the object data in the map. Display
Accept an operation to change the position of the displayed symbol,
Based on a change in the position of the symbol that has received the operation, the position registered in association with the object data corresponding to the symbol is changed.
A display control method, wherein a computer executes processing.
自装置の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示する情報処理装置であって、
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる情報処理装置の第1の状態の指定を受け付けることで、前記ディスプレイ上の前記オブジェクトデータの表示を消去する第1の受付手段と、
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる情報処理装置の第2の状態において、前記ディスプレイ上において指示された位置に、表示が消去された前記オブジェクトデータを表示する第2の受付手段と、
前記第1の状態と前記第2の状態における前記情報処理装置の位置及び向きの相違に基づき、前記オブジェクトデータに対応付けて登録された前記位置を、前記ディスプレイ上において指示された位置に対応する前記エリア内の位置に変更する変更手段と
を有することを特徴とする情報処理装置。
An information processing device that displays object data on a display when object data registered in association with a position in an area specified according to the position and orientation of the device is detected,
A first state of deleting the display of the object data on the display by receiving the designation of the first state of the information processing apparatus used for changing the position registered in association with the object data displayed on the display And accepting means,
In the second state of the information processing apparatus used for changing the position registered in association with the object data displayed on the display, the object data whose display has been deleted is displayed at the position indicated on the display. A second receiving means for displaying ;
Based on the difference in position and orientation of the information processing apparatus in the first state and the second state, the position registered in association with the object data corresponds to the position indicated on the display. An information processing apparatus comprising: changing means for changing to a position in the area .
自装置の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示する情報処理装置であって、
前記情報処理装置の位置及び向きに応じて特定された第1のエリアを示す第1の範囲と、前記第1のエリア外の第2のエリアを示す第2の範囲とを含むマップを、前記第1の範囲及び前記第2の範囲を区別して前記ディスプレイに表示する第1の表示手段と、
前記第1のエリア内又は前記第2のエリア内の位置に対応付けて登録されたオブジェクトデータの前記位置を示すシンボルを、前記マップ内の位置の内、前記オブジェクトデータの位置に対応する位置に表示する第2の表示手段と、
表示した前記シンボルの位置を変化させる操作を受け付ける受付手段と、
前記操作を受け付けた前記シンボルの位置の変化に基づき、前記シンボルに対応するオブジェクトデータに対応付けて登録された前記位置を変更する変更手段と
を有することを特徴とする情報処理装置。
An information processing device that displays object data on a display when object data registered in association with a position in an area specified according to the position and orientation of the device is detected,
A map including a first range indicating a first area specified according to a position and orientation of the information processing apparatus, and a second range indicating a second area outside the first area, First display means for distinguishing between the first range and the second range and displaying on the display;
A symbol indicating the position of the object data registered in association with the position in the first area or the second area is set to a position corresponding to the position of the object data in the map. Second display means for displaying;
Accepting means for accepting an operation for changing the position of the displayed symbol;
An information processing apparatus comprising: a changing unit configured to change the position registered in association with object data corresponding to the symbol based on a change in the position of the symbol that has received the operation.
端末の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示するコンピュータに、
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる端末の第1の状態の指定を受け付けることで、前記ディスプレイ上の前記オブジェクトデータの表示を消去し
前記ディスプレイに表示された前記オブジェクトデータに対応付けて登録された位置の変更に用いる端末の第2の状態において、前記ディスプレイ上において指示された位置に、表示が消去された前記オブジェクトデータを表示し
前記第1の状態と前記第2の状態における前記端末の位置及び向きの相違に基づき、前記オブジェクトデータに対応付けて登録された前記位置を、前記ディスプレイ上において指示された位置に対応する前記エリア内の位置に変更する、
処理を実行させる表示制御プログラム。
When object data registered in association with a position in an area specified according to the position and orientation of the terminal is detected, the computer displays the object data on a display.
In Rukoto receives designation of a first state of the terminal to be used for changing the position registered in association with the object data displayed on the display, to erase the display of the object data on the display,
In the second state of the terminal used for changing the position registered in association with the object data displayed on the display, the object data whose display has been deleted is displayed at the position indicated on the display. ,
The area corresponding to the position indicated on the display, the position registered in association with the object data based on the difference in position and orientation of the terminal in the first state and the second state Change to a position in
Display control program that executes processing.
端末の位置及び向きに応じて特定されるエリア内の位置に対応付けて登録されたオブジェクトデータが検出された場合に、前記オブジェクトデータをディスプレイに表示させるコンピュータに、
前記端末の位置及び向きに応じて特定された第1のエリアを示す第1の範囲と、前記第1のエリア外の第2のエリアを示す第2の範囲とを含むマップを、前記第1の範囲及び前記第2の範囲を区別して前記ディスプレイに表示し、
前記第1のエリア内又は前記第2のエリア内の位置に対応付けて登録されたオブジェクトデータの前記位置を示すシンボルを、前記マップ内の位置の内、前記オブジェクトデータの位置に対応する位置に表示し、
表示した前記シンボルの位置を変化させる操作を受け付け、
前記操作を受け付けた前記シンボルの位置の変化に基づき、前記シンボルに対応するオブジェクトデータに対応付けて登録された前記位置を変更する、
処理を実行させる表示制御プログラム。
When object data registered in association with a position in an area specified according to the position and orientation of the terminal is detected, a computer that displays the object data on a display,
A map including a first range indicating a first area specified according to the position and orientation of the terminal and a second range indicating a second area outside the first area; And the display of the second range and the second range,
A symbol indicating the position of the object data registered in association with the position in the first area or the second area is set to a position corresponding to the position of the object data in the map. Display
Accept an operation to change the position of the displayed symbol,
Based on a change in the position of the symbol that has received the operation, the position registered in association with the object data corresponding to the symbol is changed.
Display control program that executes processing.
JP2015162008A 2015-08-19 2015-08-19 Display control method, information processing apparatus, and display control program Active JP6575221B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015162008A JP6575221B2 (en) 2015-08-19 2015-08-19 Display control method, information processing apparatus, and display control program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015162008A JP6575221B2 (en) 2015-08-19 2015-08-19 Display control method, information processing apparatus, and display control program

Publications (2)

Publication Number Publication Date
JP2017041068A JP2017041068A (en) 2017-02-23
JP6575221B2 true JP6575221B2 (en) 2019-09-18

Family

ID=58206399

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015162008A Active JP6575221B2 (en) 2015-08-19 2015-08-19 Display control method, information processing apparatus, and display control program

Country Status (1)

Country Link
JP (1) JP6575221B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IT201700120686A1 (en) * 2017-10-24 2019-04-24 Italdesign Giugiaro Spa Space management system available to passengers in a transport service.

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3558104B2 (en) * 1996-08-05 2004-08-25 ソニー株式会社 Three-dimensional virtual object display apparatus and method
JP2012128779A (en) * 2010-12-17 2012-07-05 Panasonic Corp Virtual object display device
US9268410B2 (en) * 2012-02-10 2016-02-23 Sony Corporation Image processing device, image processing method, and program
JP2014149712A (en) * 2013-02-01 2014-08-21 Sony Corp Information processing device, terminal device, information processing method, and program

Also Published As

Publication number Publication date
JP2017041068A (en) 2017-02-23

Similar Documents

Publication Publication Date Title
CA2804096C (en) Methods, apparatuses and computer program products for automatically generating suggested information layers in augmented reality
JP6496671B2 (en) Information processing apparatus, terminal apparatus, information processing method, and program
WO2016017253A1 (en) Information processing device, information processing method, and program
EP2490182A1 (en) authoring of augmented reality
EP2477105A2 (en) Method for selecting target at touch point on touch screen of mobile terminal
JPWO2016017254A1 (en) Information processing apparatus, information processing method, and program
JP5229733B2 (en) Stereo matching processing device, stereo matching processing method and program
JP2004272217A (en) Map image display controlling method, its program, storage medium for storing the program and electronic equipment
KR20130029800A (en) Mobile device based content mapping for augmented reality environment
JP6096634B2 (en) 3D map display system using virtual reality
JP5955491B2 (en) Information superimposed image display device and information superimposed image display program
JP6334927B2 (en) Additional information display device and additional information display program
US20220076469A1 (en) Information display device and information display program
US20120092507A1 (en) User equipment, augmented reality (ar) management server, and method for generating ar tag information
JP2017211811A (en) Display control program, display control method and display control device
KR20100054057A (en) Method, system and computer-readable recording medium for providing image data
US11048345B2 (en) Image processing device and image processing method
JP2020113094A (en) Method of generating 3d object disposed in expanded real space
JP6575221B2 (en) Display control method, information processing apparatus, and display control program
US9197882B2 (en) Mobile communication terminal having image conversion function and method
JP5513806B2 (en) Linked display device, linked display method, and program
US8869058B1 (en) Interface elements for specifying pose information for photographs in an online map system
CN109214482A (en) A kind of indoor orientation method, device, terminal device and storage medium
JP2016208079A (en) Information processing device, information processing method and program
JP2018195254A (en) Display control program, display control device, and display control method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180514

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190521

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190708

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190805

R150 Certificate of patent or registration of utility model

Ref document number: 6575221

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150