JP2017059125A - Information processing device, control method thereof, and program - Google Patents

Information processing device, control method thereof, and program Download PDF

Info

Publication number
JP2017059125A
JP2017059125A JP2015185129A JP2015185129A JP2017059125A JP 2017059125 A JP2017059125 A JP 2017059125A JP 2015185129 A JP2015185129 A JP 2015185129A JP 2015185129 A JP2015185129 A JP 2015185129A JP 2017059125 A JP2017059125 A JP 2017059125A
Authority
JP
Japan
Prior art keywords
information processing
mobile terminal
processing apparatus
flick operation
projection data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015185129A
Other languages
Japanese (ja)
Inventor
齋藤 篤
Atsushi Saito
篤 齋藤
直道 岡田
Naomichi Okada
直道 岡田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Marketing Japan Inc
Original Assignee
Canon Marketing Japan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Marketing Japan Inc filed Critical Canon Marketing Japan Inc
Priority to JP2015185129A priority Critical patent/JP2017059125A/en
Publication of JP2017059125A publication Critical patent/JP2017059125A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide a mechanism capable of transmitting projection data that receives a flick operation to a plurality of portable terminals corresponding to the direction of the flick operation.SOLUTION: A picture is projected to a projection plane 304 by instructing a projector 423 from an information processing device 101, and a position on a screen of a portable terminal 103 arranged on the projected picture is specified. Then, a flick operation from a user is received on the picture, and a direction subjected to the flick operation is specified. Whether there is a portable terminal 103 in the specified direction is determined, and in the case that there is a portable terminals 103, document data is transmitted to the portable terminal 103 and portable terminals 103 of the same group as the portable terminal 103.SELECTED DRAWING: Figure 20

Description

本発明は、フリック操作を受け付けた投影データを、フリック操作の方向に応じた携帯端末に対して送信可能な情報処理装置、その制御方法、及びプログラムに関する。   The present invention relates to an information processing apparatus capable of transmitting projection data that has received a flick operation to a mobile terminal according to the direction of the flick operation, a control method thereof, and a program.

従来、ファイルの送受信を行う仕組みが存在する。装置間でファイルの送受信を行う場合には、送信元の装置が送信先の装置と送信するファイルとを指定することで、指定された装置の接続先情報(例えば、IPアドレスやメールアドレス等。)を用いて指定されたファイルを送信する。   Conventionally, there is a mechanism for sending and receiving files. When a file is transmitted and received between devices, the transmission source device designates a transmission destination device and a file to be transmitted, so that connection destination information of the designated device (for example, an IP address or a mail address). ) To send the specified file.

これらの指定は、装置に接続されたマウスやキーボードといったデバイスを通じて行われるのだが、ユーザにとっては送信までの手順が多く、煩わしいものであった。そこで、下記の特許文献1では、スマートフォンやタブレット端末などの携帯端末からファイルの送信先の装置に対する現実空間における方向を特定する。そして、携帯端末上で当該方向に対してフリック操作がなされると、携帯端末から当該方向にある装置に対してファイルを送信する仕組みが開示されている。   These designations are made through a device such as a mouse or a keyboard connected to the apparatus, but for the user, there are many procedures until transmission, which is troublesome. Therefore, in Patent Document 1 below, the direction in the real space with respect to the file transmission destination device from the mobile terminal such as a smartphone or a tablet terminal is specified. A mechanism is disclosed in which when a flick operation is performed in the direction on the mobile terminal, a file is transmitted from the mobile terminal to a device in the direction.

特開2013−164761号JP 2013-164762 A

ところで、例えば銀行の商品説明業務では、銀行の説明員であるテラーが顧客に対して保険商品や金融商品の説明を行う。この説明では、商品説明のための画面をプロジェクタで机上に投影し、投影された画面に対するユーザからのタッチ操作に応じて、画面の表示を切り替える仕組みを用いることがある。   By the way, for example, in a bank product explanation service, a teller who is a bank explainer explains insurance products and financial products to customers. In this description, there is a case in which a screen for product explanation is projected on a desk by a projector, and the screen display is switched in response to a touch operation from the user on the projected screen.

この仕組みを用いた商品説明の際に、顧客の携帯端末に商品のチラシや申込書といったファイルを送信したいことがある。これを解決するために、従来のように、投影された画面上で顧客の携帯端末を示す接続先情報やファイルの選択を受け付けることで、顧客の携帯端末にファイルを送信する仕組みが考えられる。   When explaining a product using this mechanism, there is a case where it is desired to send a file such as a product flyer or an application form to a customer's mobile terminal. In order to solve this problem, a mechanism for transmitting a file to a customer's portable terminal by accepting connection destination information indicating the customer's portable terminal or selection of a file on a projected screen as in the past can be considered.

しかしながら、ユーザのタッチ操作を検知するセンサの性能が低く、細かな動作を検知できなかったり、画面を投影するプロジェクタの解像度が低く、細かな文字を投影できなかったりするため、複雑な操作を行うことができない問題がある。そこで、上記特許文献1の仕組みを適用する方法が考えられるが、銀行にいるすべての顧客の携帯端末が送信先の候補として表示されてしまい、誤送信につながる可能性がある。   However, the performance of the sensor that detects the user's touch operation is low, and detailed operations cannot be detected, or the resolution of the projector that projects the screen is low, and detailed characters cannot be projected, so complicated operations are performed. There is a problem that can not be. Therefore, a method of applying the mechanism of Patent Document 1 can be considered. However, mobile terminals of all customers in the bank may be displayed as transmission destination candidates, which may lead to erroneous transmission.

特に、複数の携帯端末に対してファイルを送信したい場合には、何度も送信先を選択しなければならず、誤送信の可能性は更に高くなる。   In particular, when a file is to be transmitted to a plurality of portable terminals, the transmission destination must be selected many times, and the possibility of erroneous transmission is further increased.

本発明の目的は、フリック操作を受け付けた投影データを、フリック操作の方向に応じた複数の携帯端末に対して送信可能な仕組みを提供することである。   An object of the present invention is to provide a mechanism capable of transmitting projection data that has received a flick operation to a plurality of portable terminals in accordance with the direction of the flick operation.

上記の目的を達成するために本発明の情報処理装置は、投影データを投影する投影装置と複数の携帯端末と通信可能な情報処理装置であって、複数の前記携帯端末のうち、少なくとも2以上の携帯端末をグルーピングするグルーピング手段と、前記投影装置で投影された複数の投影データのうち、前記携帯端末に送信する投影データに対するフリック操作を受け付けるフリック操作受付手段と、前記投影装置で投影データが投影される面に配置された前記携帯端末の位置と前記フリック操作受付手段で受け付けたフリック操作の方向とに応じて特定される前記携帯端末と、前記グルーピング手段によって当該携帯端末と共にグルーピングされた携帯端末とに対して、前記フリック操作受付手段でフリック操作を受け付けた投影データを送信する投影データ送信手段とを備えることを特徴とする。   In order to achieve the above object, an information processing apparatus of the present invention is an information processing apparatus capable of communicating with a projection apparatus that projects projection data and a plurality of portable terminals, and at least two or more of the plurality of portable terminals. Grouping means for grouping the mobile terminals, flick operation accepting means for accepting a flick operation for projection data transmitted to the mobile terminal among a plurality of projection data projected by the projection apparatus, and projection data received by the projection apparatus. The mobile terminal specified according to the position of the mobile terminal arranged on the projected surface and the direction of the flick operation received by the flick operation receiving means, and the mobiles grouped together with the mobile terminal by the grouping means The projection data received by the flick operation accepting unit is transmitted to the terminal. Characterized in that it comprises a projection data transmitting means.

本発明によれば、フリック操作を受け付けた投影データを、フリック操作の方向に応じた複数の携帯端末に対して送信可能な効果を奏する。   According to the present invention, it is possible to transmit projection data that has received a flick operation to a plurality of portable terminals in accordance with the direction of the flick operation.

本発明の実施形態における情報処理システムのシステム構成の一例を示す図である。It is a figure which shows an example of the system configuration | structure of the information processing system in embodiment of this invention. 投影撮像装置102の外観構造及び内部構造の概要の一例を示す図である。It is a figure which shows an example of the outline | summary of the external appearance structure and internal structure of the projection imaging device. 投影撮像装置102を用いて投影した投影画像を用いて、商品説明を行う場合の一例を示す図である。It is a figure which shows an example at the time of performing product description using the projection image projected using the projection imaging device. 情報処理装置101及び投影撮像装置102のハードウェア構成の一例を示す図である。It is a figure which shows an example of the hardware constitutions of the information processing apparatus 101 and the projection imaging apparatus 102. 携帯端末103のハードウェア構成の一例を示す図である。3 is a diagram illustrating an example of a hardware configuration of a mobile terminal 103. FIG. 情報処理装置101の機能構成の一例を示す図である。2 is a diagram illustrating an example of a functional configuration of an information processing apparatus 101. FIG. メニュー画面800において操作を受け付ける処理のフローチャートの一例を示す図である。FIG. 10 is a diagram illustrating an example of a flowchart of processing for accepting an operation on a menu screen. メニュー画面800の画面構成の一例を示す図である。5 is a diagram illustrating an example of a screen configuration of a menu screen 800. FIG. 商品説明処理のフローチャートの一例を示す図である。It is a figure which shows an example of the flowchart of goods description processing. 商品説明画面1000の画面構成の一例を示す図である。It is a figure which shows an example of a screen structure of the goods description screen. 文書データ管理テーブル1100のテーブル構成の一例を示す図である。5 is a diagram illustrating an example of a table configuration of a document data management table 1100. FIG. 文書送信処理のフローチャートの一例を示す図である。It is a figure which shows an example of the flowchart of a document transmission process. 図12に続き、文書送信処理のフローチャートの一例を示す図である。FIG. 13 is a diagram illustrating an example of a flowchart of document transmission processing following FIG. 12. 携帯端末検知画面1400の画面構成の一例を示す図である。It is a figure which shows an example of a screen structure of the portable terminal detection screen 1400. FIG. 接続先選択画面1500の画面構成の一例を示す図である。6 is a diagram illustrating an example of a screen configuration of a connection destination selection screen 1500. FIG. 接続先管理テーブル1600のテーブル構成の一例を示す図である。5 is a diagram illustrating an example of a table configuration of a connection destination management table 1600. FIG. 携帯端末検知画面1400が投影された投影面に携帯端末103が配置されている様子の一例を示す図である。It is a figure which shows an example of a mode that the portable terminal 103 is arrange | positioned on the projection surface on which the portable terminal detection screen 1400 was projected. 文書送信画面1800の画面構成の一例、及び文書送信画面1800が投影された投影面に携帯端末103が配置されている様子の一例を示す図である。6 is a diagram illustrating an example of a screen configuration of a document transmission screen 1800 and an example of a state in which a mobile terminal 103 is disposed on a projection surface on which the document transmission screen 1800 is projected. FIG. 文書送信画面1800で複数の携帯端末103をグルーピングする様子の一例を示す図である。6 is a diagram illustrating an example of a state in which a plurality of portable terminals 103 are grouped on a document transmission screen 1800. FIG. 文書送信画面1800で複数の携帯端末103に文書データを送信する様子の一例を示す図である。10 is a diagram illustrating an example of a state in which document data is transmitted to a plurality of mobile terminals 103 on a document transmission screen 1800. FIG. 第2の実施形態における、図12に続き、文書送信処理のフローチャートの一例を示す図である。FIG. 13 is a diagram illustrating an example of a flowchart of document transmission processing following FIG. 12 in the second embodiment. 第2の実施形態における、文書送信画面1800で携帯端末103に文書データの送信指示を行う様子の一例を示す図である。FIG. 20 is a diagram illustrating an example of a state in which a document data transmission instruction is given to the mobile terminal 103 on a document transmission screen 1800 in the second embodiment. 第3の実施形態における、図12に続き、文書送信処理のフローチャートの一例を示す図である。FIG. 13 is a diagram illustrating an example of a flowchart of document transmission processing following FIG. 12 in the third embodiment.

以下、図面を参照しながら、本発明の実施形態(第1の実施形態)について説明する。   Hereinafter, an embodiment (first embodiment) of the present invention will be described with reference to the drawings.

図1は、本発明の実施形態における情報処理システムのシステム構成の一例を示す図である。情報処理システムは、情報処理装置101と投影撮像装置102と携帯端末103(送信先端末)とを含む。情報処理装置101は、投影撮像装置102と通信可能に接続されており、更にディスプレイ410と入力デバイス409とも通信可能に接続されている。図1では、これらの装置は有線で接続されているが、無線であってもよい。また、情報処理装置101と携帯端末103とは、同じネットワークに接続しており、当該ネットワークを介して相互に通信可能となっている。尚、図1のシステム上に接続される各種端末の構成は一例であり、用途や目的に応じて様々な構成例がある。   FIG. 1 is a diagram illustrating an example of a system configuration of an information processing system according to an embodiment of the present invention. The information processing system includes an information processing apparatus 101, a projection imaging apparatus 102, and a portable terminal 103 (transmission destination terminal). The information processing apparatus 101 is communicably connected to the projection imaging apparatus 102, and is further connected to the display 410 and the input device 409 so as to be communicable. In FIG. 1, these devices are connected by wire, but may be wireless. The information processing apparatus 101 and the portable terminal 103 are connected to the same network, and can communicate with each other via the network. The configuration of various terminals connected on the system of FIG. 1 is an example, and there are various configuration examples depending on the application and purpose.

情報処理装置101は、オペレーティングシステムを搭載する汎用的な装置である。情報処理装置101は、情報処理装置101に接続された各種デバイスに対して各種動作を実行するよう指示を行う。   The information processing apparatus 101 is a general-purpose apparatus equipped with an operating system. The information processing apparatus 101 instructs various devices connected to the information processing apparatus 101 to execute various operations.

投影撮像装置102は、デジタルカメラと赤外線センサとプロジェクタとを備える装置である。情報処理装置101からの指示に応じてプロジェクタで投影をし、投影された机上等の投影面をデジタルカメラで撮像し、また投影面上でユーザの手の動きや物体の位置を認識する。   The projection imaging apparatus 102 is an apparatus that includes a digital camera, an infrared sensor, and a projector. Projection is performed by a projector in accordance with an instruction from the information processing apparatus 101, the projected projection surface such as a desk is imaged by a digital camera, and the movement of the user's hand and the position of the object are recognized on the projection surface.

投影撮像装置102の外部構造及び内部構造の概要の一例について、図2を用いて説明する。   An example of the outline of the external structure and internal structure of the projection imaging apparatus 102 will be described with reference to FIG.

図2は、投影撮像装置102の正面図と右側面図である。内部構造の隠れ線は破線で表現している。投影撮像装置102は、デジタルカメラ421(撮像装置)と赤外線センサ422とプロジェクタ423(投影装置)とを格納する収納部203を備え、収納部203は底面201と左側面202aと右側面202bとで左右から挟みこんで固定している。   FIG. 2 is a front view and a right side view of the projection imaging apparatus 102. The hidden lines of the internal structure are represented by broken lines. The projection imaging device 102 includes a storage unit 203 that stores a digital camera 421 (imaging device), an infrared sensor 422, and a projector 423 (projection device). The storage unit 203 includes a bottom surface 201, a left side surface 202a, and a right side surface 202b. It is fixed by sandwiching from the left and right.

また、上面204が左側面202aと右側面202bとの上部に設置され、上面204の下側にはプロジェクタ423から照射される光を反射するための反射鏡207を備える。すなわち、プロジェクタ423は第1の開口部205を通してこの反射鏡207に向けて投影できるよう、設置されている。デジタルカメラ421も同様に、反射鏡207で反射した投影面を撮像するため、デジタルカメラ421は第2の開口部206を通して反射鏡207に向けて設置されている。   An upper surface 204 is installed above the left side surface 202a and the right side surface 202b, and a lower surface of the upper surface 204 is provided with a reflecting mirror 207 for reflecting light emitted from the projector 423. In other words, the projector 423 is installed so that it can project toward the reflecting mirror 207 through the first opening 205. Similarly, the digital camera 421 is installed toward the reflecting mirror 207 through the second opening 206 in order to capture an image of the projection surface reflected by the reflecting mirror 207.

また赤外線センサ422(センサ装置)は、例えば赤外線を用いた深度センサである。これはプロジェクタ423が投影した投影面上におけるユーザの手や紙文書(以下、書類という。)等の位置や動きを特定するために、赤外線センサ422からこれらの物体までの距離を算出する。赤外線センサ422は、近赤外線のドットパターンを現実空間に投影し、このドットの形や間隔を取得することで物体までの距離を算出する。または、赤外線光を投影し、赤外線センサ422が備えるカメラによって反射した赤外線光を読み取り、赤外線光が往復した時間を算出することで距離を算出する方式であってもよい。現実空間における物体の位置や動きを取得することができれば、赤外線センサ422の距離の算出方式はどのような方式であってもよいし、赤外線センサ422以外のセンサを用いてもよい。また、赤外線センサ422もデジタルカメラ421と同様に、第2の開口部206を通して反射鏡207に向けて設置されている。この反射鏡207に向けて赤外線を照射する。   The infrared sensor 422 (sensor device) is a depth sensor using infrared rays, for example. This is to calculate the distance from the infrared sensor 422 to these objects in order to specify the position and movement of the user's hand, paper document (hereinafter referred to as document), etc. on the projection surface projected by the projector 423. The infrared sensor 422 calculates a distance to an object by projecting a near-infrared dot pattern onto the real space and acquiring the shape and interval of the dots. Alternatively, the distance may be calculated by projecting infrared light, reading the infrared light reflected by a camera included in the infrared sensor 422, and calculating the time when the infrared light reciprocated. As long as the position and movement of the object in the real space can be acquired, any method may be used for calculating the distance of the infrared sensor 422, and a sensor other than the infrared sensor 422 may be used. Similarly to the digital camera 421, the infrared sensor 422 is also installed toward the reflecting mirror 207 through the second opening 206. Infrared rays are irradiated toward the reflecting mirror 207.

投影撮像装置102は以上のように大きく3つの装置を内包しており、これらがそれぞれ情報処理装置101と通信可能に接続されている。本実施形態においては、情報処理装置101と投影撮像装置102とが異なる筐体であるが、同一の筐体であってもよい。すなわち、投影撮像装置102に更に情報処理装置101を内包してもよい。   As described above, the projection imaging apparatus 102 includes three apparatuses, which are connected to the information processing apparatus 101 so as to communicate with each other. In the present embodiment, the information processing apparatus 101 and the projection imaging apparatus 102 are different casings, but they may be the same casing. That is, the information processing apparatus 101 may be further included in the projection imaging apparatus 102.

図1に説明を戻す。携帯端末103は、スマートフォンやタブレット端末といった携帯端末である。本実施形態では、携帯端末103−1と携帯端末103−2と携帯端末103−3とが存在するものとして説明を行う。尚、携帯端末103は、情報処理装置101と通信可能な装置であれば何でもよく、携帯端末に限らない。   Returning to FIG. The mobile terminal 103 is a mobile terminal such as a smartphone or a tablet terminal. In the present embodiment, description will be made assuming that the mobile terminal 103-1, the mobile terminal 103-2, and the mobile terminal 103-3 exist. The mobile terminal 103 may be anything as long as it can communicate with the information processing apparatus 101 and is not limited to a mobile terminal.

次に図3を用いて、本実施形態における投影撮像装置102とユーザとの位置関係について説明する。投影撮像装置102は、机上303に設置される。本実施形態では机を挟んで二人のユーザがいる。銀行窓口で商品説明を行うテラー301と、商品説明を受ける顧客302である。   Next, the positional relationship between the projection imaging apparatus 102 and the user in this embodiment will be described with reference to FIG. The projection imaging apparatus 102 is installed on the desk 303. In this embodiment, there are two users across the desk. A teller 301 who explains the product at the bank window and a customer 302 who receives the product description.

テラー301は、入力デバイス409を操作して情報処理装置101に画面の表示指示を行うと、情報処理装置101からプロジェクタ423に対して当該画面の投影指示が送信される。プロジェクタ423はこれを受けると反射鏡207に向かって左右を反転させた画面を投影する。これは、反射鏡207で反射することにより、投影面304に投影される像が左右反転してしまうからである。こうすると、投影面304に指示した画面が投影される。画面を左右に反転させる処理は、情報処理装置101が行ってもよいし、プロジェクタ423が行ってもよい。また投影面304は、投影される光が見やすいよう模様のない白い面であることが望ましい。   When the teller 301 operates the input device 409 to instruct the information processing apparatus 101 to display a screen, the information processing apparatus 101 transmits a projection instruction for the screen to the projector 423. Upon receiving this, the projector 423 projects a screen with the left and right reversed toward the reflecting mirror 207. This is because the image projected on the projection surface 304 is reversed left and right by being reflected by the reflecting mirror 207. As a result, the designated screen is projected onto the projection plane 304. The process of inverting the screen left and right may be performed by the information processing apparatus 101 or the projector 423. The projection surface 304 is preferably a white surface without a pattern so that the projected light can be easily seen.

プロジェクタ423から照射された光が反射鏡207で図3の破線の矢印で示すような方向に反射されると、その光が投影面304に投影される。この光によって表現される画面を見て、テラー301が顧客302に商品説明を行う。本実施形態では、このようにテラー301と顧客302とが机を挟んで位置しており、それぞれが投影された画面を見ながら操作していく形態を前提として説明を行う。   When the light emitted from the projector 423 is reflected by the reflecting mirror 207 in the direction indicated by the dashed arrow in FIG. 3, the light is projected onto the projection plane 304. The teller 301 explains the product to the customer 302 by looking at the screen expressed by the light. In the present embodiment, the description will be made on the assumption that the teller 301 and the customer 302 are positioned with the desk interposed therebetween and are operated while viewing the projected screen.

図4は、情報処理装置101及び投影撮像装置102のハードウェア構成の一例を示す図である。   FIG. 4 is a diagram illustrating an example of the hardware configuration of the information processing apparatus 101 and the projection imaging apparatus 102.

CPU401は、システムバス404に接続される各デバイスやコントローラを統括的に制御する。   The CPU 401 comprehensively controls each device and controller connected to the system bus 404.

また、ROM402あるいは外部メモリ411(記憶手段)には、CPU401の制御プログラムであるBIOS(Basic Input / OutputSystem)やオペレーティングシステムプログラム(以下、OSという。)や、情報処理装置101の実行する機能を実現するために必要な各種プログラム等が記憶されている。RAM403は、CPU401の主メモリ、ワークエリア等として機能する。   Further, the ROM 402 or the external memory 411 (storage means) realizes a BIOS (Basic Input / Output System), an operating system program (hereinafter referred to as OS), which is a control program of the CPU 401, and a function executed by the information processing apparatus 101. Various programs and the like necessary to do this are stored. The RAM 403 functions as a main memory, work area, and the like for the CPU 401.

CPU401は、処理の実行に際して必要なプログラム等をRAM403にロードして、プログラムを実行することで各種動作を実現するものである。   The CPU 401 implements various operations by loading a program or the like necessary for execution of processing into the RAM 403 and executing the program.

また、汎用入出力コントローラ405は、キーボードやマウス等の入力デバイス409、更には投影撮像装置102のデジタルカメラ421や赤外線センサ422との入出力を制御する。これらは、USB(Universal Serial Bus)等のバス規格により接続される。   The general-purpose input / output controller 405 controls input / output with an input device 409 such as a keyboard and a mouse, and with the digital camera 421 and the infrared sensor 422 of the projection imaging apparatus 102. These are connected according to a bus standard such as USB (Universal Serial Bus).

ビデオコントローラ406は、ディスプレイ410や投影撮像装置102のプロジェクタ423等の表示装置や投影装置への表示を制御する。ディスプレイ410は例えばCRTや液晶ディスプレイである。更にビデオコントローラ406は、ディスプレイ410と投影撮像装置102のプロジェクタ423とそれぞれに対して同じ画面または異なる画面を表示及び投影指示する。これらは、いわゆるミラーリングやマルチモニタが可能である。   The video controller 406 controls display on a display device such as the display 410 and the projector 423 of the projection imaging device 102 and a projection device. The display 410 is, for example, a CRT or a liquid crystal display. Further, the video controller 406 instructs the display 410 and the projector 423 of the projection imaging apparatus 102 to display and project the same screen or different screens. These can be so-called mirroring or multi-monitor.

メモリコントローラ407は、ブートプログラム、ブラウザソフトウエア、各種のアプリケーション、フォントデータ、ユーザファイル、編集ファイル、各種データ等を記憶するハードディスクやフレキシブルディスク或いはPCMCIAカードスロットにアダプタを介して接続されるカード型メモリ等の外部メモリ411へのアクセスを制御する。   The memory controller 407 is a card type memory connected via an adapter to a hard disk, a flexible disk, or a PCMCIA card slot that stores a boot program, browser software, various applications, font data, user files, editing files, various data, and the like. The access to the external memory 411 is controlled.

通信I/Fコントローラ408は、ネットワークを介して、外部機器と接続及び通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いたインターネット通信等が可能である。   The communication I / F controller 408 connects and communicates with an external device via a network, and executes communication control processing on the network. For example, Internet communication using TCP / IP is possible.

尚、CPU401は、例えばRAM403内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、ディスプレイ410上での表示や投影撮像装置102のプロジェクタ423での投影を可能としている。また、CPU401は、ディスプレイ410上の不図示のマウスカーソル等でのユーザ指示を可能とする。更にCPU401は、投影面304に投影された画面をユーザの手でタッチすることによっても、ユーザ指示を可能とする。すなわち、赤外線センサ422で検知した現実空間におけるユーザの手の座標位置に応じて、画面のボタン等が押下されたのか否かを検知し、CPU401に動作を実行させる。   Note that the CPU 401 can perform display on the display 410 and projection by the projector 423 of the projection imaging apparatus 102 by executing outline font rasterization processing on a display information area in the RAM 403, for example. In addition, the CPU 401 allows a user instruction with a mouse cursor (not shown) on the display 410. Further, the CPU 401 enables a user instruction by touching the screen projected on the projection plane 304 with the user's hand. That is, according to the coordinate position of the user's hand in the real space detected by the infrared sensor 422, it is detected whether or not a button or the like on the screen is pressed, and the CPU 401 is caused to execute an operation.

本発明の情報処理装置101が後述する各種処理を実行するために用いられる各種プログラム等は外部メモリ411に記録されており、必要に応じてRAM403にロードされることによりCPU401によって実行されるものである。さらに、本発明に係わるプログラムが用いる定義ファイルや各種情報テーブルは外部メモリ411に格納されている。   Various programs used by the information processing apparatus 101 of the present invention to execute various processes to be described later are recorded in the external memory 411 and are executed by the CPU 401 by being loaded into the RAM 403 as necessary. is there. Furthermore, definition files and various information tables used by the program according to the present invention are stored in the external memory 411.

図5は、携帯端末103のハードウェア構成の一例を示す図である。   FIG. 5 is a diagram illustrating an example of a hardware configuration of the mobile terminal 103.

CPU501は、システムバス504に接続される各デバイスやコントローラを統括的に制御する。   The CPU 501 comprehensively controls each device and controller connected to the system bus 504.

また、ROM502あるいはフラッシュメモリ514には、CPU501の制御プログラムであるBIOSやOSや、携帯端末103が実行する機能を実現するために必要な、後述する各種プログラム等が記憶されている。RAM503は、CPU501の主メモリ、ワークエリア等として機能する。   The ROM 502 or flash memory 514 stores a BIOS and OS that are control programs for the CPU 501, and various programs described below that are necessary for realizing the functions executed by the mobile terminal 103. The RAM 503 functions as a main memory, work area, and the like for the CPU 501.

CPU501は、処理の実行に際して必要なプログラム等をRAM503にロードして、プログラムを実行することで各種動作を実現するものである。   The CPU 501 implements various operations by loading a program or the like necessary for execution of processing into the RAM 503 and executing the program.

また、入力コントローラ505は、タッチパネル510、マイク511、カメラ512からの入力を制御する。タッチパネル510からはユーザのタッチ操作に関する入力を制御し、マイク511からは音声の入力を制御し、更にカメラ512からは撮影された静止画や動画の入力を制御する。出力コントローラ506は、タッチパネル510、スピーカ513への出力を制御する。   The input controller 505 controls input from the touch panel 510, the microphone 511, and the camera 512. The touch panel 510 controls input related to the user's touch operation, the microphone 511 controls input of audio, and the camera 512 controls input of captured still images and moving images. The output controller 506 controls output to the touch panel 510 and the speaker 513.

タッチパネル510は、ユーザからのタッチ操作を検知すると共に、前述した出力コントローラ506から送られた映像を表示する。タッチパネル510は、表示器と位置入力装置とが一体となった部品である。複数の箇所に対するタッチ操作(以下、マルチタッチという。)も検知可能である。   The touch panel 510 detects a touch operation from the user and displays an image sent from the output controller 506 described above. The touch panel 510 is a component in which a display and a position input device are integrated. Touch operations (hereinafter referred to as multi-touch) for a plurality of locations can also be detected.

メモリコントローラ507は、ブートプログラム、ブラウザソフトウエア、各種のアプリケーション、フォントデータ、ユーザファイル、編集ファイル、各種データ等を記憶するフラッシュメモリ514へのアクセスを制御する。本実施形態においては、フラッシュメモリとして説明を行うが、ハードディスクやフレキシブルディスク或いはPCMCIAカードスロットにアダプタを介して接続されるカード型メモリ等の記憶媒体であってもよい。   The memory controller 507 controls access to the flash memory 514 that stores a boot program, browser software, various applications, font data, user files, editing files, various data, and the like. In this embodiment, the flash memory is described, but a storage medium such as a hard disk, a flexible disk, or a card-type memory connected to a PCMCIA card slot via an adapter may be used.

通信I/Fコントローラ509は、ネットワークを介して、外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、TCP/IPを用いたインターネット通信等が可能である。   The communication I / F controller 509 connects and communicates with an external device via a network, and executes communication control processing on the network. For example, Internet communication using TCP / IP is possible.

センサコントローラ508は、携帯端末103が備えるセンサ515からの入力を制御する。携帯端末103のセンサ515には様々なセンサが存在し、例えば方位センサ、加速度センサ等である。   The sensor controller 508 controls input from the sensor 515 included in the mobile terminal 103. Various sensors exist in the sensor 515 of the mobile terminal 103, such as an orientation sensor and an acceleration sensor.

尚、CPU501は、例えばRAM503内の表示情報用領域へアウトラインフォントの展開(ラスタライズ)処理を実行することにより、タッチパネル510上での表示を可能としている。   Note that the CPU 501 enables display on the touch panel 510 by executing outline font rasterization processing on a display information area in the RAM 503, for example.

本発明の携帯端末103が後述する各種処理を実行するために用いられる各種プログラム等はフラッシュメモリ514に記録されており、必要に応じてRAM503にロードされることによりCPU501によって実行されるものである。さらに、本発明に係わるプログラムが用いる定義ファイルや各種情報テーブルはフラッシュメモリ514に格納されている。   Various programs and the like used for the portable terminal 103 of the present invention to execute various processes to be described later are recorded in the flash memory 514 and are executed by the CPU 501 by being loaded into the RAM 503 as necessary. . Further, definition files and various information tables used by the program according to the present invention are stored in the flash memory 514.

次に、情報処理装置101及び携帯端末103の機能構成の一例について図6を用いて説明する。尚、図6の情報処理装置101及び携帯端末103の機能構成は一例であり、用途や目的に応じて様々な構成例がある。   Next, an example of a functional configuration of the information processing apparatus 101 and the mobile terminal 103 will be described with reference to FIG. Note that the functional configurations of the information processing apparatus 101 and the mobile terminal 103 in FIG. 6 are merely examples, and there are various configuration examples depending on applications and purposes.

情報処理装置101は機能部として、記憶部601と、表示制御部602と、投影制御部603と、撮像制御部604と、センサ制御部605と、座標変換部606と、操作検知部607と、通信制御部608と、指示方向解析部609とを備える。   The information processing apparatus 101 includes, as functional units, a storage unit 601, a display control unit 602, a projection control unit 603, an imaging control unit 604, a sensor control unit 605, a coordinate conversion unit 606, an operation detection unit 607, A communication control unit 608 and an instruction direction analysis unit 609 are provided.

記憶部601は、後述する各種テーブルの情報や各種画面を構成する情報を記憶するための機能部である。必要に応じて、情報の追加・更新・削除を行う。   The storage unit 601 is a functional unit for storing information of various tables to be described later and information constituting various screens. Add, update, and delete information as necessary.

表示制御部602は、情報処理装置101と通信可能に接続されたディスプレイ410の表示を制御するための機能部である。表示制御部602から画面等の表示指示がなされると、ビデオコントローラ406を介してディスプレイ410に表示指示が送信される。そして、ディスプレイ410はこの指示を受信すると、指示に従って画面等を表示する。   The display control unit 602 is a functional unit for controlling the display on the display 410 that is communicably connected to the information processing apparatus 101. When a display instruction such as a screen is issued from the display control unit 602, the display instruction is transmitted to the display 410 via the video controller 406. Upon receiving this instruction, the display 410 displays a screen or the like according to the instruction.

投影制御部603は、情報処理装置101と通信可能に接続されたプロジェクタ423の投影を制御するための機能部である。投影制御部603から画面等の投影指示がなされると、表示制御部602と同様にビデオコントローラ406を介してプロジェクタ423に投影指示が送信される。そして、プロジェクタ423はこの指示を受信すると、指示に従って画面等を現実空間に投影する。   The projection control unit 603 is a functional unit for controlling the projection of the projector 423 that is communicably connected to the information processing apparatus 101. When a projection instruction such as a screen is issued from the projection control unit 603, the projection instruction is transmitted to the projector 423 via the video controller 406 as in the display control unit 602. Upon receiving this instruction, the projector 423 projects a screen or the like on the real space according to the instruction.

撮像制御部604は、情報処理装置101と通信可能に接続されたデジタルカメラ421の撮像を制御するための機能部である。撮像制御部604から投影面304の撮像指示が出されると、汎用入出力コントローラ405を介してデジタルカメラ421に撮像指示がなされる。デジタルカメラ421はこの指示を受信すると、撮像を行い、撮像により生成された画像データを情報処理装置101に送信する。撮像制御部604は、これを受け取り、画像データを左右反転させた上で記憶部601が外部メモリ411等に記憶する。前述した通り、デジタルカメラ421は反射鏡207に写った像を撮像するため左右が反転している。これを補正するために、記憶部601で画像データを記憶する前に、撮像制御部604がこの画像データを左右反転する。   The imaging control unit 604 is a functional unit for controlling imaging of the digital camera 421 connected to the information processing apparatus 101 so as to be communicable. When an imaging instruction for the projection plane 304 is issued from the imaging control unit 604, an imaging instruction is issued to the digital camera 421 via the general-purpose input / output controller 405. Upon receiving this instruction, the digital camera 421 performs imaging and transmits image data generated by the imaging to the information processing apparatus 101. The imaging control unit 604 receives this, reverses the image data left and right, and then the storage unit 601 stores it in the external memory 411 or the like. As described above, since the digital camera 421 captures an image taken on the reflecting mirror 207, the left and right sides are reversed. In order to correct this, before the image data is stored in the storage unit 601, the imaging control unit 604 inverts the image data left and right.

センサ制御部605は、情報処理装置101と通信可能に接続された赤外線センサ422から送信される、投影面304における現実空間の情報(物体の有無や位置等)を受信するための機能部である。赤外線センサ422が検出した現実空間の情報は、赤外線センサ422から情報処理装置101に対して逐一送信される。センサ制御部605はこれを受信し、後述する座標変換部606に渡す。   The sensor control unit 605 is a functional unit for receiving information on the real space on the projection plane 304 (such as the presence / absence or position of an object) transmitted from the infrared sensor 422 that is communicably connected to the information processing apparatus 101. . Information on the real space detected by the infrared sensor 422 is transmitted from the infrared sensor 422 to the information processing apparatus 101 one by one. The sensor control unit 605 receives this and passes it to a coordinate conversion unit 606 described later.

座標変換部606は、センサ制御部605が受信した現実空間の情報に含まれる、投影面304にある物体の位置を示す座標値を変換するための機能部である。座標変換部606は、この座標値を投影面304に投影された画面における座標値に変換する。すなわち、赤外線センサ422で検知した座標値が、情報処理装置101が管理する画面のどの座標値に該当するのかを、この座標変換部606を用いて特定する。尚、座標変換の方法は従来技術を用いるため詳細な説明は省略する。   The coordinate conversion unit 606 is a functional unit for converting the coordinate value indicating the position of the object on the projection plane 304 included in the real space information received by the sensor control unit 605. The coordinate conversion unit 606 converts this coordinate value into a coordinate value on the screen projected on the projection plane 304. That is, the coordinate conversion unit 606 is used to specify which coordinate value on the screen managed by the information processing apparatus 101 corresponds to the coordinate value detected by the infrared sensor 422. Note that the coordinate conversion method uses conventional techniques, and thus detailed description thereof is omitted.

操作検知部607は、ユーザからの操作を検知するための機能部である。情報処理装置101に接続された入力デバイス409を通じて送信されるユーザからの指示を検知したり、投影面304に投影された画面でユーザが行った指示を検知したりする。後者の指示の検知は、投影面304において検知した物体の座標値を座標変換部606で変換することにより画面上のどのボタンが押下されたのかを検知したり、書類が置かれることにより書類の取込が指示されたのかを検知したりする。更には、投影面304においてユーザが自らの手を用いて行ったジェスチャの内容についても検知可能である。   The operation detection unit 607 is a functional unit for detecting an operation from the user. An instruction from the user transmitted through the input device 409 connected to the information processing apparatus 101 is detected, or an instruction given by the user on the screen projected on the projection surface 304 is detected. The latter instruction is detected by detecting which button on the screen is pressed by converting the coordinate value of the object detected on the projection plane 304 by the coordinate conversion unit 606 or by placing the document. Detect whether capture is instructed. Furthermore, it is also possible to detect the content of a gesture performed by the user using his / her hand on the projection plane 304.

通信制御部608は、情報処理装置101と携帯端末103との通信を制御するための機能部である。通信制御部608は、情報処理装置101と携帯端末103との情報の送受信を制御する。また、通信制御部608は、情報処理装置101が属するネットワークに接続された携帯端末103のIPアドレス等(以下、接続先情報という。)を取得することが可能である。   The communication control unit 608 is a functional unit for controlling communication between the information processing apparatus 101 and the mobile terminal 103. The communication control unit 608 controls transmission / reception of information between the information processing apparatus 101 and the mobile terminal 103. Further, the communication control unit 608 can acquire the IP address or the like (hereinafter referred to as connection destination information) of the mobile terminal 103 connected to the network to which the information processing apparatus 101 belongs.

指示方向解析部609は、操作検知部607で検知したユーザから指示された方向を特定するための機能部である。画面が投影された投影面304上でユーザがフリック操作(またはスライド操作、スワイプ操作も含む)を行った場合に、指示方向解析部609はこのフリック操作の軌跡を用いてフリック操作されたベクトルを特定する。指示方向解析部609は、特定したベクトルをユーザから指示された方向として特定する。尚、フリック操作は本来タッチパネルにおける操作方法のことを指すが、本実施形態ではこれを投影面304における操作として用いる。また、あくまでフリック操作はユーザから指示された方向が特定できればよいため、投影面304に触れる必要はない。投影面304に触れていてもよいし、投影面304上で同様のジェスチャを行ってもよい。すなわち、投影面304に触れないフリック操作も、本実施形態におけるフリック操作の範疇に含む。更に、本実施形態においてフリック操作とは、ユーザの指を任意の方向に向かって素早く移動させる操作や、素早く移動させて弾くような操作をいう。また本実施形態ではフリック操作を一例に説明を行うが、スライド操作やスワイプ操作であってもよい。これらの操作は、ユーザの指を任意の方向に向かって投影面304を軽くなぞる操作をいう。また、スライド操作やスワイプ操作は、軽くなぞる操作を行った後に投影面304から離す操作も含む。   The instruction direction analysis unit 609 is a functional unit for specifying the direction instructed by the user detected by the operation detection unit 607. When the user performs a flick operation (or includes a slide operation or a swipe operation) on the projection surface 304 on which the screen is projected, the pointing direction analysis unit 609 uses the flick operation trajectory to calculate a vector flicked. Identify. The designated direction analysis unit 609 identifies the identified vector as the direction designated by the user. The flick operation originally refers to an operation method on the touch panel, but in the present embodiment, this is used as an operation on the projection plane 304. In addition, since the flick operation only needs to be able to specify the direction instructed by the user, it is not necessary to touch the projection plane 304. The projection surface 304 may be touched, or a similar gesture may be performed on the projection surface 304. That is, a flick operation that does not touch the projection plane 304 is included in the category of the flick operation in the present embodiment. Further, in the present embodiment, the flick operation refers to an operation for quickly moving a user's finger in an arbitrary direction or an operation for quickly moving and playing. In the present embodiment, a flick operation is described as an example, but a slide operation or a swipe operation may be used. These operations are operations in which the user's finger is lightly traced on the projection plane 304 in an arbitrary direction. Further, the slide operation and the swipe operation include an operation of releasing the projection surface 304 after performing a light tracing operation.

携帯端末103は機能部として、記憶部611と、表示制御部612と、通信制御部613と、文書保存アプリ制御部614とを備える。   The portable terminal 103 includes a storage unit 611, a display control unit 612, a communication control unit 613, and a document storage application control unit 614 as functional units.

記憶部611は、後述する各種画面を構成する情報を記憶するための機能部である。必要に応じて、情報の追加・更新・削除を行う。また、記憶部611は、後述する通信制御部613で受信した情報を記憶する機能も有する。   The storage unit 611 is a functional unit for storing information constituting various screens to be described later. Add, update, and delete information as necessary. The storage unit 611 also has a function of storing information received by the communication control unit 613 described later.

表示制御部612は、携帯端末103のタッチパネル510の表示を制御するための機能部である。表示制御部612から画面等の表示指示がなされると、出力コントローラ506を介してタッチパネル510に表示指示が送信される。そして、タッチパネル510はこの指示を受信すると、指示に従って画面等を表示する。   The display control unit 612 is a functional unit for controlling display on the touch panel 510 of the mobile terminal 103. When a display instruction such as a screen is issued from the display control unit 612, the display instruction is transmitted to the touch panel 510 via the output controller 506. When touch panel 510 receives this instruction, touch panel 510 displays a screen or the like according to the instruction.

通信制御部613は、携帯端末103と情報処理装置101との通信を制御するための機能部である。通信制御部613は、携帯端末103と情報処理装置101との情報の送受信を制御する。また、通信制御部608は、携帯端末103が属するネットワークに接続された情報処理装置101の接続先情報を取得することが可能である。   The communication control unit 613 is a functional unit for controlling communication between the mobile terminal 103 and the information processing apparatus 101. The communication control unit 613 controls transmission / reception of information between the mobile terminal 103 and the information processing apparatus 101. Further, the communication control unit 608 can acquire connection destination information of the information processing apparatus 101 connected to the network to which the mobile terminal 103 belongs.

文書保存アプリ制御部614は、携帯端末103にインストールされた文書保存アプリの動作を制御するための機能部である。本実施形態において、文書保存アプリは情報処理装置101と通信することにより受信した情報を保存するためのアプリケーションである。文書保存アプリを動作させることにより、携帯端末103は情報処理装置101の接続先情報を取得して情報処理装置101と携帯端末103との通信を確立し、情報処理装置101から文書データ等の情報(ファイル)が送信された場合に、これを受信する。また、受信した情報を携帯端末103のフラッシュメモリ514に保存する。   The document storage application control unit 614 is a functional unit for controlling the operation of the document storage application installed in the mobile terminal 103. In the present embodiment, the document storage application is an application for storing information received by communicating with the information processing apparatus 101. By operating the document storage application, the mobile terminal 103 acquires connection destination information of the information processing apparatus 101, establishes communication between the information processing apparatus 101 and the mobile terminal 103, and receives information such as document data from the information processing apparatus 101. When (file) is transmitted, it is received. In addition, the received information is stored in the flash memory 514 of the mobile terminal 103.

次に、メニュー画面800において操作を受け付ける処理の流れについて、図7に示すフローチャートを用いて説明する。   Next, the flow of processing for accepting an operation on the menu screen 800 will be described using the flowchart shown in FIG.

まず、ステップS701では、情報処理装置101のCPU401は、テラー301からの指示に応じて外部メモリ411等に記憶された投影アプリケーションを起動する。投影アプリケーションは、後述するステップS702乃至ステップS706の各処理を実行するためのアプリケーションである。投影アプリケーションを動作させることにより、投影面304に商品説明のための各種画面をプロジェクタ423が投影できるようになる。   First, in step S701, the CPU 401 of the information processing apparatus 101 activates a projection application stored in the external memory 411 or the like according to an instruction from the teller 301. The projection application is an application for executing processes in steps S702 to S706 described later. By operating the projection application, the projector 423 can project various screens for product description on the projection surface 304.

ステップS702では、情報処理装置101のCPU401は、図8に示すようなメニュー画面800をディスプレイ410に表示する。メニュー画面800は、商品説明ボタン801と終了ボタン802とを備えている。商品説明ボタン801は、顧客302に対する商品説明を開始するためのボタンである。終了ボタン802は、投影アプリケーションを終了するためのボタンである。   In step S702, the CPU 401 of the information processing apparatus 101 displays a menu screen 800 as shown in FIG. The menu screen 800 includes a product explanation button 801 and an end button 802. A product description button 801 is a button for starting a product description for the customer 302. An end button 802 is a button for ending the projection application.

ステップS703では、情報処理装置101のCPU401は、商品説明ボタン801の押下を検知したか否かを判定する。すなわち、入力デバイス409を介してディスプレイ410上で商品説明ボタン801の押下を受け付けたか否かを判定する。商品説明ボタン801の押下を検知したと判定した場合には、ステップS704に処理を進める。商品説明ボタン801の押下を検知していない、または商品説明ボタン801以外のボタンの押下を検知したと判定した場合には、ステップS705に処理を進める。   In step S <b> 703, the CPU 401 of the information processing apparatus 101 determines whether the pressing of the product description button 801 is detected. That is, it is determined whether or not a press of the product explanation button 801 is accepted on the display 410 via the input device 409. If it is determined that pressing of the product description button 801 is detected, the process proceeds to step S704. If it is determined that pressing of the product description button 801 has not been detected or that pressing of a button other than the product description button 801 has been detected, the process proceeds to step S705.

ステップS704では、情報処理装置101のCPU401は、商品説明処理を実行する。商品説明処理の詳細は、後述する図9に示す。商品説明処理が終了したら、ステップS703に処理を戻す。   In step S704, the CPU 401 of the information processing apparatus 101 executes a product description process. Details of the product description process are shown in FIG. When the product description process ends, the process returns to step S703.

ステップS705では、情報処理装置101のCPU401は、終了ボタン802の押下を検知したか否かを判定する。すなわち、入力デバイス409を介してディスプレイ410上で終了ボタン802の押下を受け付けたか否かを判定する。終了ボタン802の押下を検知したと判定した場合には、ステップS706に処理を進める。終了ボタン802の押下を検知していないと判定した場合には、ステップS703に処理を戻す。   In step S <b> 705, the CPU 401 of the information processing apparatus 101 determines whether pressing of the end button 802 is detected. That is, it is determined whether or not the end button 802 is pressed on the display 410 via the input device 409. If it is determined that pressing of the end button 802 is detected, the process proceeds to step S706. If it is determined that pressing of the end button 802 is not detected, the process returns to step S703.

ステップS706では、情報処理装置101のCPU401は、ステップS701で起動した投影アプリケーションを終了する。   In step S706, the CPU 401 of the information processing apparatus 101 ends the projection application started in step S701.

次に、商品説明処理の流れについて、図9に示すフローチャートを用いて説明する。   Next, the flow of the product description process will be described using the flowchart shown in FIG.

ステップS901では、情報処理装置101のCPU401は、図10に示すような商品説明画面1000をプロジェクタ423に投影させて、投影面304に表示する。このとき、ミラーリング機能を用いて、ディスプレイ410にも同じ画面が表示されてもよいし、マルチモニタ機能を用いて、ディスプレイ410には画面を操作するためのマニュアルや説明すべきポイントを表示させてもよい。以下、プロジェクタ423から投影面304に画面を投影する場合についても同様である。   In step S <b> 901, the CPU 401 of the information processing apparatus 101 projects a product description screen 1000 as shown in FIG. 10 on the projector 423 and displays it on the projection plane 304. At this time, the same screen may be displayed on the display 410 using the mirroring function, or a manual for operating the screen and points to be explained are displayed on the display 410 using the multi-monitor function. Also good. The same applies to the case where the screen is projected from the projector 423 onto the projection plane 304.

商品説明画面1000は、テラー領域1001と顧客領域1002とを備える。テラー領域1001は、テラー301が情報の閲覧や操作を行う領域であり、顧客領域1002は顧客302が情報の閲覧や操作を行う領域である。それぞれ領域に表示する情報は、当該領域に対応するユーザの方向に向けて配置されている。テラー領域1001には、サムネイル画像領域1003と、文書送信ボタン1004と、メニューボタン1005とが配置されている。サムネイル画像領域1003は、顧客領域1002に表示する文書データのサムネイル画像を表示する領域である。情報処理装置101は、図11に示す文書データ管理テーブル1100のサムネイル画像保存場所1103が示す保存場所からサムネイル画像を取得し、表示位置1104が示す位置にこれを表示する。サムネイル画像領域1003でサムネイル画像の選択を検知すると、選択されたサムネイル画像に対応する文書データを取得し、これを顧客領域1002の文書データ領域1006に表示する。文書送信ボタン1004は、サムネイル画像領域1003に表示されているサムネイル画像に対応する文書データを、顧客の携帯端末103に送信するためのボタンである。メニューボタン1005は、商品説明画面1000の投影を終了し、ディスプレイ410にメニュー画面800を表示させるためのボタンである。   The product description screen 1000 includes a teller area 1001 and a customer area 1002. The teller area 1001 is an area where the teller 301 browses and operates information, and the customer area 1002 is an area where the customer 302 browses and operates information. Information to be displayed in each area is arranged in the direction of the user corresponding to the area. In the teller area 1001, a thumbnail image area 1003, a document transmission button 1004, and a menu button 1005 are arranged. A thumbnail image area 1003 is an area for displaying a thumbnail image of document data to be displayed in the customer area 1002. The information processing apparatus 101 acquires a thumbnail image from the storage location indicated by the thumbnail image storage location 1103 of the document data management table 1100 shown in FIG. 11 and displays it at the location indicated by the display location 1104. When selection of a thumbnail image is detected in the thumbnail image area 1003, document data corresponding to the selected thumbnail image is acquired and displayed in the document data area 1006 of the customer area 1002. A document transmission button 1004 is a button for transmitting document data corresponding to the thumbnail image displayed in the thumbnail image area 1003 to the mobile terminal 103 of the customer. A menu button 1005 is a button for ending projection of the product description screen 1000 and displaying the menu screen 800 on the display 410.

図11の文書データ管理テーブル1100は、投影面304に表示する文書データを管理するためのデータテーブルである。文書データ管理テーブル1100は、文書ID1101と、文書データ保存場所1102と、サムネイル画像保存場所1103と、表示位置1104とを備える。文書ID1101は、文書データごとに割り振られる一意な識別情報を示す。文書データ保存場所1102は、文書データの保存場所を示す。サムネイル画像保存場所1103は、文書データに対応するサムネイル画像の保存場所を示す。表示位置1104は、サムネイル画像を表示する座標を示す。尚、本実施形態では文書データを一例に説明を行うが、文書データに限らず、テキストデータや画像データや動画データといった文書データ以外のデータであってもよい。   A document data management table 1100 in FIG. 11 is a data table for managing document data displayed on the projection plane 304. The document data management table 1100 includes a document ID 1101, a document data storage location 1102, a thumbnail image storage location 1103, and a display position 1104. The document ID 1101 indicates unique identification information assigned to each document data. A document data storage location 1102 indicates a storage location of document data. A thumbnail image storage location 1103 indicates the storage location of the thumbnail image corresponding to the document data. A display position 1104 indicates coordinates for displaying a thumbnail image. In the present embodiment, document data is described as an example. However, the present invention is not limited to document data, and may be data other than document data such as text data, image data, and moving image data.

ステップS902では、情報処理装置101のCPU401は、サムネイル画像領域1003に表示されたサムネイル画像に対する選択を、センサ制御部605の機能により検知したか否かを判定する。すなわち、投影面304に投影された商品説明画面1000において、サムネイル画像に対するタッチ操作を検知したか否かを判定する。サムネイル画像に対する選択を検知したと判定した場合には、ステップS903に処理を進める。サムネイル画像に対する選択を検知していないと判定した場合には、ステップS905に処理を進める。   In step S <b> 902, the CPU 401 of the information processing apparatus 101 determines whether the selection of the thumbnail image displayed in the thumbnail image area 1003 has been detected by the function of the sensor control unit 605. That is, it is determined whether or not a touch operation on the thumbnail image is detected on the product description screen 1000 projected on the projection surface 304. If it is determined that selection of a thumbnail image has been detected, the process proceeds to step S903. If it is determined that selection for a thumbnail image has not been detected, the process proceeds to step S905.

ステップS903では、情報処理装置101のCPU401は、選択されたサムネイル画像に対応する文書データを、文書データ管理テーブル1100を用いて取得する。より具体的には、情報処理装置101は選択されたサムネイル画像に対応するレコードを文書データ管理テーブル1100で特定し、当該レコードの文書データ保存場所1102が示す保存場所に保存されている文書データを取得する。   In step S <b> 903, the CPU 401 of the information processing apparatus 101 acquires document data corresponding to the selected thumbnail image using the document data management table 1100. More specifically, the information processing apparatus 101 identifies a record corresponding to the selected thumbnail image in the document data management table 1100, and stores the document data stored in the storage location indicated by the document data storage location 1102 of the record. get.

ステップS904では、情報処理装置101のCPU401は、ステップS903で取得した文書データを顧客領域1002の文書データ領域1006に表示し、これが表示された商品説明画面1000を投影面304に投影する。これにより、顧客302は文書データを閲覧することができるようになる。ステップS904の処理が終わったら、ステップS902に処理を戻す。   In step S <b> 904, the CPU 401 of the information processing apparatus 101 displays the document data acquired in step S <b> 903 in the document data area 1006 of the customer area 1002, and projects the product description screen 1000 on which this is displayed on the projection plane 304. As a result, the customer 302 can browse the document data. When the process of step S904 ends, the process returns to step S902.

ステップS905では、情報処理装置101のCPU401は、商品説明画面1000が備える文書送信ボタン1004の押下を、センサ制御部605の機能により検知したか否かを判定する。すなわち、投影面304に投影された商品説明画面1000において、文書送信ボタン1004に対するタッチ操作を検知したか否かを判定する。文書送信ボタン1004に対する押下を検知したと判定した場合には、ステップS906に処理を進める。文書送信ボタン1004に対する押下を検知していないと判定した場合には、ステップS907に処理を進める。   In step S <b> 905, the CPU 401 of the information processing apparatus 101 determines whether the depression of the document transmission button 1004 included in the product description screen 1000 is detected by the function of the sensor control unit 605. That is, it is determined whether or not a touch operation on the document transmission button 1004 is detected on the product description screen 1000 projected on the projection plane 304. If it is determined that pressing of the document transmission button 1004 is detected, the process proceeds to step S906. If it is determined that pressing of the document transmission button 1004 is not detected, the process proceeds to step S907.

ステップS906では、情報処理装置101のCPU401は、文書送信処理を実行する。文書送信処理の詳細は、後述する図12及び図13に示す。文書送信処理が終了したら、ステップS902に処理を戻す。   In step S906, the CPU 401 of the information processing apparatus 101 executes document transmission processing. Details of the document transmission processing are shown in FIGS. When the document transmission process ends, the process returns to step S902.

ステップS907では、情報処理装置101のCPU401は、商品説明画面1000が備えるメニューボタン1105の押下を、センサ制御部605の機能により検知したか否かを判定する。すなわち、投影面304に投影された商品説明画面1000において、メニューボタン1105に対するタッチ操作を検知したか否かを判定する。メニューボタン1105に対する押下を検知したと判定した場合には、ステップS906に処理を進める。メニューボタン1105に対する押下を検知していないと判定した場合には、ステップS902に処理を戻す。   In step S <b> 907, the CPU 401 of the information processing apparatus 101 determines whether the pressing of the menu button 1105 included in the product description screen 1000 is detected by the function of the sensor control unit 605. That is, it is determined whether or not a touch operation on the menu button 1105 is detected on the product description screen 1000 projected on the projection surface 304. If it is determined that pressing of the menu button 1105 is detected, the process proceeds to step S906. If it is determined that pressing of the menu button 1105 has not been detected, the process returns to step S902.

ステップS908では、情報処理装置101のCPU401は、投影している商品説明画面1000の投影を終了するようプロジェクタ423に指示し、ディスプレイ410にメニュー画面800を表示する。そして、商品説明処理を終了する。   In step S <b> 908, the CPU 401 of the information processing apparatus 101 instructs the projector 423 to end the projection of the projected product description screen 1000 and displays the menu screen 800 on the display 410. Then, the product description process ends.

次に、文書送信処理の流れについて、図12及び図13に示すフローチャートを用いて説明する。まず、図12では情報処理装置101が投影面304に配置された携帯端末103の位置や接続先を認識する処理について説明し、図13では携帯端末103に文書データを送信する処理について説明を行う。   Next, the flow of document transmission processing will be described using the flowcharts shown in FIGS. First, FIG. 12 illustrates a process in which the information processing apparatus 101 recognizes the position and connection destination of the mobile terminal 103 disposed on the projection plane 304, and FIG. 13 illustrates a process of transmitting document data to the mobile terminal 103. .

ステップS1201では、情報処理装置101のCPU401は、図14に示すような携帯端末検知画面1400をプロジェクタ423に投影させて、投影面304に表示する。携帯端末検知画面1400は、商品説明画面1000と同様にテラー領域1001と顧客領域1002を備えている。また、テラー領域1001には追加ボタン1401と完了ボタン1402が配置されている。追加ボタン1401は、携帯端末103を認識した後に、更に別の携帯端末103を認識させるためのボタンである。完了ボタン1402は、携帯端末103の認識を完了させるためのボタンである。   In step S <b> 1201, the CPU 401 of the information processing apparatus 101 projects a portable terminal detection screen 1400 as illustrated in FIG. 14 on the projector 423 and displays it on the projection plane 304. The mobile terminal detection screen 1400 includes a teller area 1001 and a customer area 1002 as in the product description screen 1000. In addition, an add button 1401 and a completion button 1402 are arranged in the teller area 1001. The add button 1401 is a button for recognizing another portable terminal 103 after recognizing the portable terminal 103. A completion button 1402 is a button for completing the recognition of the mobile terminal 103.

ステップS1202では、情報処理装置101のCPU401は、携帯端末103からの接続要求があるまで(ステップS1206で接続要求を受信するまで)、一旦待機をする。   In step S1202, the CPU 401 of the information processing apparatus 101 stands by until a connection request is received from the portable terminal 103 (until a connection request is received in step S1206).

ステップS1203では、携帯端末103のCPU501は、ユーザからの指示に応じて、携帯端末103にインストールされている文書保存アプリを起動する。文書保存アプリを起動すると、情報処理装置101が接続しているネットワーク(ローカルネットワークが望ましい)と同じネットワークに接続される。そして、文書保存アプリ制御部614及び通信制御部613の機能により、携帯端末103が接続したネットワークに接続している各種装置を検出し、検出した各種装置の接続先情報を取得する。ここでいう各種装置とは、情報処理装置101や携帯端末103等、当該ネットワークに接続している装置のことである。   In step S1203, the CPU 501 of the mobile terminal 103 activates a document storage application installed in the mobile terminal 103 in response to an instruction from the user. When the document storage application is activated, it is connected to the same network as the network to which the information processing apparatus 101 is connected (preferably a local network). Then, the functions of the document storage application control unit 614 and the communication control unit 613 detect various devices connected to the network to which the mobile terminal 103 is connected, and acquire connection destination information of the detected various devices. The various devices referred to here are devices connected to the network, such as the information processing apparatus 101 and the portable terminal 103.

ステップS1204では、携帯端末103のCPU501は、ステップS1203で取得した接続先情報を用いて図15に示すような接続先情報選択画面1500をタッチパネル510に表示する。そして、携帯端末103と接続すべき情報処理装置101の接続先情報に対する選択を受け付ける。接続先情報選択画面1500は、接続先情報領域1501を備えている。この接続先情報領域1501では、ステップS1203で取得した接続先情報が一覧表示される。   In step S1204, the CPU 501 of the mobile terminal 103 displays a connection destination information selection screen 1500 as shown in FIG. 15 on the touch panel 510 using the connection destination information acquired in step S1203. And the selection with respect to the connection destination information of the information processing apparatus 101 which should be connected with the portable terminal 103 is received. The connection destination information selection screen 1500 includes a connection destination information area 1501. In the connection destination information area 1501, a list of connection destination information acquired in step S1203 is displayed.

例えば顧客302は、顧客302の携帯端末103で文書保存アプリを起動し、目の前の投影面304に画面の投影指示を行っている情報処理装置101の接続先情報を、接続先情報領域1501から選択することになる。このとき、接続先情報が表示されるだけでは、顧客302の携帯端末103と接続したい情報処理装置101の接続先情報がどれかわからないため、図14の携帯端末検知画面1400に示すように、顧客領域1002に当該接続先情報を表示する。情報処理装置101は、自身の接続先情報を取得して携帯端末検知画面1400に含めることで、これが可能となる。顧客302は投影面304に表示された接続先情報を参考に、携帯端末103で接続先情報を選択する。   For example, the customer 302 activates the document storage application on the mobile terminal 103 of the customer 302, and displays the connection destination information of the information processing apparatus 101 that is instructing the projection of the screen on the projection plane 304 in front of the customer 302. Will choose from. At this time, since only the connection destination information is displayed, the connection destination information of the information processing apparatus 101 to be connected to the mobile terminal 103 of the customer 302 is not known. Therefore, as shown in the mobile terminal detection screen 1400 of FIG. The connection destination information is displayed in an area 1002. The information processing apparatus 101 obtains its connection destination information and includes it in the mobile terminal detection screen 1400 to enable this. The customer 302 selects the connection destination information on the portable terminal 103 with reference to the connection destination information displayed on the projection plane 304.

ステップS1205では、携帯端末103のCPU501は、ステップS1204で選択を受け付けた接続先情報が示す情報処理装置101に対して、接続要求を送信する。   In step S1205, the CPU 501 of the mobile terminal 103 transmits a connection request to the information processing apparatus 101 indicated by the connection destination information received in step S1204.

ステップS1206では、情報処理装置101のCPU401は、ステップS1205で携帯端末103から送信された接続要求を受信する。   In step S1206, the CPU 401 of the information processing apparatus 101 receives the connection request transmitted from the portable terminal 103 in step S1205.

ステップS1207では、情報処理装置101のCPU401は、ステップS1206で受信した携帯端末103からの接続要求に基づいて、図16に示す接続先管理テーブル1600に携帯端末103の接続先情報を保存する。情報処理装置101は携帯端末103から接続要求を受信すると、接続元の携帯端末103の接続先情報が取得できるので、これを接続先管理テーブル1600に保存する。こうすることで、情報処理装置101は文書データの送信先として携帯端末103の接続先情報を管理できる。   In step S1207, the CPU 401 of the information processing apparatus 101 stores the connection destination information of the mobile terminal 103 in the connection destination management table 1600 illustrated in FIG. 16 based on the connection request from the mobile terminal 103 received in step S1206. When the information processing apparatus 101 receives the connection request from the mobile terminal 103, the connection destination information of the connection source mobile terminal 103 can be acquired, and is stored in the connection destination management table 1600. In this way, the information processing apparatus 101 can manage connection destination information of the portable terminal 103 as a transmission destination of document data.

図16の接続先管理テーブル1600は、情報処理装置101から文書データを送信する携帯端末103の情報を管理するデータテーブルである。接続先管理テーブル1600は、端末ID1601と、接続先情報1602と、配置位置1603(位置情報)と、グループID1604とを備える。端末ID1601は、接続先の装置に対して一意に割り振られた識別情報を示す。接続先情報1602は、接続先の装置の接続先情報を示す。配置位置1603は、接続先の装置が投影された画面のどの位置に配置されているのかを示す。すなわち、配置位置1603は当該画面の座標系に基づく。尚、本実施形態ではいずれの画面の大きさも同じである。グループID1604は、後述する処理においてグルーピングされた携帯端末103が属するグループの識別情報を示す。グループごとに一意の識別情報が、グルーピングされた携帯端末103に付与される。   A connection destination management table 1600 in FIG. 16 is a data table for managing information of the portable terminal 103 that transmits document data from the information processing apparatus 101. The connection destination management table 1600 includes a terminal ID 1601, connection destination information 1602, an arrangement position 1603 (position information), and a group ID 1604. A terminal ID 1601 indicates identification information uniquely assigned to a connection destination device. The connection destination information 1602 indicates connection destination information of a connection destination device. An arrangement position 1603 indicates where the connection destination apparatus is arranged on the projected screen. That is, the arrangement position 1603 is based on the coordinate system of the screen. In this embodiment, the size of any screen is the same. A group ID 1604 indicates identification information of a group to which the mobile terminals 103 grouped in the processing described later belongs. Unique identification information for each group is given to the grouped mobile terminals 103.

ステップS1208では、情報処理装置101のCPU401は、画面を投影している投影面304において、携帯端末103をセンサ制御部605の機能により検知したか否かを判定する。すなわち、図17に示すように、携帯端末103−1が情報処理装置101に接続要求を行った後に、携帯端末検知画面1400の顧客領域1002に携帯端末103−1が配置されたか否かを検知する。情報処理装置101は、図17に示すように、顧客302の携帯端末103を顧客領域1002に配置するよう指示する文章を表示してもよい。携帯端末103を検知したと判定した場合には、ステップS1209に処理を進める。携帯端末103を検知していないと判定した場合には、携帯端末103を検知するまでステップS1208を繰り返す。   In step S1208, the CPU 401 of the information processing apparatus 101 determines whether the mobile terminal 103 is detected by the function of the sensor control unit 605 on the projection plane 304 on which the screen is projected. That is, as shown in FIG. 17, it is detected whether or not the mobile terminal 103-1 is arranged in the customer area 1002 of the mobile terminal detection screen 1400 after the mobile terminal 103-1 makes a connection request to the information processing apparatus 101. To do. As illustrated in FIG. 17, the information processing apparatus 101 may display a text instructing to place the mobile terminal 103 of the customer 302 in the customer area 1002. If it is determined that the mobile terminal 103 has been detected, the process proceeds to step S1209. If it is determined that the mobile terminal 103 has not been detected, step S1208 is repeated until the mobile terminal 103 is detected.

ステップS1209では、情報処理装置101のCPU401は、携帯端末103を検知した現実空間上の位置に基づいて、投影面304に投影された画面上の位置を特定し、これをステップS1207で保存した接続先情報と対応付けて保存する(登録手段)。センサ制御部605の機能により取得する携帯端末103の位置は、現実空間上の位置である。情報処理装置101はこの位置に基づいて、投影面304に投影している画面の座標系における位置を特定し、接続先情報と対応付けて保存する。特定した画面上の位置は、接続先管理テーブル1600の配置位置1603に格納する。   In step S1209, the CPU 401 of the information processing apparatus 101 identifies the position on the screen projected on the projection plane 304 based on the position in the real space where the mobile terminal 103 is detected, and the connection stored in step S1207. Stored in association with the destination information (registration means). The position of the mobile terminal 103 acquired by the function of the sensor control unit 605 is a position in the real space. Based on this position, the information processing apparatus 101 specifies the position of the screen projected on the projection plane 304 in the coordinate system, and stores it in association with the connection destination information. The identified position on the screen is stored in the arrangement position 1603 of the connection destination management table 1600.

本実施形態においては、携帯端末103の接続先情報とこの携帯端末103の配置位置とを情報処理装置101が対応付けて管理しなければならない。そのため、情報処理装置101が接続先情報を取得した後に投影面304で携帯端末103を検知した場合、この携帯端末103の配置位置を直前に取得した接続先情報と対応付けて管理している。別の実施形態としては、次のような形態が考えられる。情報処理装置101と通信したい携帯端末103は、携帯端末103の接続先情報を携帯端末103のタッチパネル510に表示し、顧客302が投影面304に携帯端末103を配置する。情報処理装置101は撮像制御部604の機能により投影面304を撮像すると、携帯端末103に表示されている接続先情報を含む画像データを取得できる。この画像データを解析することで接続先情報を取得すると共に、センサ制御部605で検知した位置と対応付けて保存することで、同様の対応付けを行うことができる。携帯端末103の接続先情報と配置位置との対応付けは、これ以外の方法であってもよい。   In the present embodiment, the information processing apparatus 101 must manage the connection destination information of the mobile terminal 103 and the arrangement position of the mobile terminal 103 in association with each other. Therefore, when the information processing apparatus 101 acquires the connection destination information and detects the mobile terminal 103 on the projection plane 304, the arrangement position of the mobile terminal 103 is managed in association with the connection destination information acquired immediately before. As another embodiment, the following forms are possible. The mobile terminal 103 that wants to communicate with the information processing apparatus 101 displays the connection destination information of the mobile terminal 103 on the touch panel 510 of the mobile terminal 103, and the customer 302 places the mobile terminal 103 on the projection plane 304. The information processing apparatus 101 can acquire image data including connection destination information displayed on the mobile terminal 103 by imaging the projection plane 304 by the function of the imaging control unit 604. By analyzing the image data, the connection destination information is acquired, and the same association can be performed by storing the connection destination information in association with the position detected by the sensor control unit 605. The association between the connection destination information and the arrangement position of the portable terminal 103 may be other methods.

また、携帯端末103の配置位置は継続して取得するものとする。携帯端末103の配置位置はユーザによって移動(変更)される可能性があるので、投影面304の範囲内であれば、携帯端末103の配置位置を取得し続ける。更に別の実施形態としては、携帯端末103の配置位置がユーザによって移動されたか否かをセンサ制御部605で検知し、これを検知した場合に再度、配置位置を特定する形態も考えられる。こうすると、移動された携帯端末103だけを対象に配置位置を取得することができるので、継続して配置位置を取得し続けるよりも処理負荷を低減できる。   In addition, it is assumed that the arrangement position of the mobile terminal 103 is continuously acquired. Since the arrangement position of the portable terminal 103 may be moved (changed) by the user, the arrangement position of the portable terminal 103 is continuously acquired within the range of the projection plane 304. As yet another embodiment, a mode in which the sensor control unit 605 detects whether or not the arrangement position of the mobile terminal 103 has been moved by the user, and when this is detected, the arrangement position is identified again can be considered. In this way, since the arrangement position can be acquired only for the mobile terminal 103 that has been moved, the processing load can be reduced as compared with the case where the arrangement position is continuously acquired.

そして、携帯端末103の配置位置を継続して取得した結果、携帯端末103が投影面304上から取り除かれたと判定した場合には、取り除かれた携帯端末103に対応するレコードを接続先管理テーブル1600から特定し、これを削除する。   If it is determined that the mobile terminal 103 has been removed from the projection plane 304 as a result of continuously acquiring the arrangement position of the mobile terminal 103, a record corresponding to the removed mobile terminal 103 is stored in the connection destination management table 1600. Identify from and delete it.

ステップS1210では、情報処理装置101のCPU401は、携帯端末検知画面1400が備える追加ボタン1401の押下を、センサ制御部605の機能により検知したか否かを判定する。すなわち、投影面304に投影された携帯端末検知画面1400において、追加ボタン1401に対するタッチ操作を検知したか否かを判定する。追加ボタン1401に対する押下を検知したと判定した場合には、ステップS1201に処理を戻す。つまり、新たな携帯端末103の接続先情報と配置位置とを取得するべく(例えば、携帯端末103−2の接続先情報と配置位置とを取得するべく)、ステップS1201から処理を再開する。情報処理装置101は、携帯端末103の数だけ繰り返しステップS1201乃至ステップS1209を実行することで、携帯端末103ごとに接続先情報と配置位置とを取得することができる。追加ボタン1401に対する押下を検知していないと判定した場合には、ステップS1211に処理を進める。   In step S <b> 1210, the CPU 401 of the information processing apparatus 101 determines whether or not pressing of the add button 1401 included in the mobile terminal detection screen 1400 is detected by the function of the sensor control unit 605. That is, it is determined whether or not a touch operation on the add button 1401 is detected on the mobile terminal detection screen 1400 projected on the projection plane 304. If it is determined that pressing of the add button 1401 has been detected, the process returns to step S1201. That is, in order to acquire the connection destination information and arrangement position of the new mobile terminal 103 (for example, to acquire the connection destination information and arrangement position of the mobile terminal 103-2), the process is restarted from step S1201. The information processing apparatus 101 can acquire connection destination information and an arrangement position for each mobile terminal 103 by repeatedly executing Steps S1201 to S1209 for the number of mobile terminals 103. If it is determined that pressing of the add button 1401 is not detected, the process proceeds to step S1211.

ステップS1211では、情報処理装置101のCPU401は、携帯端末検知画面1400が備える完了ボタン1402の押下を、センサ制御部605の機能により検知したか否かを判定する。すなわち、投影面304に投影された携帯端末検知画面1400において、完了ボタン1402に対するタッチ操作を検知したか否かを判定する。完了ボタン1402に対する押下を検知したと判定した場合には、図13のステップS1212に処理を進める。完了ボタン1402に対する押下を検知していないと判定した場合には、ステップS1210に処理を戻す。   In step S <b> 1211, the CPU 401 of the information processing apparatus 101 determines whether or not the pressing of the completion button 1402 included in the mobile terminal detection screen 1400 is detected by the function of the sensor control unit 605. That is, it is determined whether or not a touch operation on the completion button 1402 is detected on the mobile terminal detection screen 1400 projected on the projection plane 304. If it is determined that pressing of the completion button 1402 is detected, the process proceeds to step S1212 in FIG. If it is determined that pressing of the completion button 1402 has not been detected, the process returns to step S1210.

図13に説明を移す。ステップS1212では、情報処理装置101のCPU401は、図18に示すような文書送信画面1800をプロジェクタ423に投影させて、投影面304に表示する。図18は、携帯端末103−1と携帯端末103−2と携帯端末103−3とが配置された投影面304に文書送信画面1800を投影した様子を示す図である。つまり、文書送信画面1800は、図18に示す携帯端末103−1と携帯端末103−2と携帯端末103−3を除いた情報からなる画面である。文書送信画面1800は、商品説明画面1000と同様にテラー領域1001と顧客領域1002を備えている。またテラー領域1001は、商品説明画面1000と同様にサムネイル画像領域1003を備えている。サムネイル画像領域1003の生成方法は前述した通りである。更にテラー領域1001は送信終了ボタン1801を備えている。送信終了ボタン1801は、携帯端末103に対する文書データの送信を終了し、商品説明画面1000に戻るためのボタンである。   The description will be moved to FIG. In step S <b> 1212, the CPU 401 of the information processing apparatus 101 projects a document transmission screen 1800 as shown in FIG. 18 on the projector 423 and displays it on the projection plane 304. FIG. 18 is a diagram illustrating a state in which the document transmission screen 1800 is projected onto the projection plane 304 on which the mobile terminal 103-1, the mobile terminal 103-2, and the mobile terminal 103-3 are arranged. That is, the document transmission screen 1800 is a screen including information excluding the mobile terminal 103-1, the mobile terminal 103-2, and the mobile terminal 103-3 shown in FIG. The document transmission screen 1800 includes a teller area 1001 and a customer area 1002, similar to the product description screen 1000. The teller area 1001 includes a thumbnail image area 1003 as in the product description screen 1000. The method for generating the thumbnail image area 1003 is as described above. Further, the teller area 1001 includes a transmission end button 1801. A transmission end button 1801 is a button for ending transmission of document data to the mobile terminal 103 and returning to the product description screen 1000.

ステップS1213では、情報処理装置101のCPU401は、投影面304上に配置されている、複数(少なくとも2以上)の携帯端末103に対する選択操作を検知したか否かを判定する。選択操作を検知したと判定した場合には、ステップS1214に処理を進める。そうでない場合には、ステップS1215に処理を進める。より具体的に説明する。図19に示すように、ユーザは、投影面304上に配置された携帯端末103のうち、グルーピングしたい複数の携帯端末103の上を通るように、手をかざしながら動かす。情報処理装置101は、操作検知部607でこの動作を検知し、座標変換部606によって特定される座標から、かざされた手の経路を特定する。そして、特定した経路と携帯端末103の配置位置1603とを比較した結果、手が移動した経路に携帯端末103が存在するのであれば、この携帯端末103に対する選択操作を検知したと判定する。本実施形態では、このような選択方法としたがこれに限らない。例えば、グルーピングしたい複数の携帯端末103をユーザがタッチすることで選択してもよいし、グルーピングしたい複数の携帯端末103の周りを囲むようなタッチ操作を行うことで選択してもよい。   In step S <b> 1213, the CPU 401 of the information processing apparatus 101 determines whether a selection operation has been detected for a plurality (at least two or more) of mobile terminals 103 arranged on the projection plane 304. If it is determined that a selection operation has been detected, the process proceeds to step S1214. Otherwise, the process proceeds to step S1215. This will be described more specifically. As shown in FIG. 19, the user moves his / her hand while passing over a plurality of portable terminals 103 to be grouped among the portable terminals 103 arranged on the projection plane 304. In the information processing apparatus 101, this operation is detected by the operation detection unit 607, and the route of the hand that is held is specified from the coordinates specified by the coordinate conversion unit 606. Then, as a result of comparing the identified route with the arrangement position 1603 of the mobile terminal 103, if the mobile terminal 103 exists on the route where the hand has moved, it is determined that a selection operation on the mobile terminal 103 has been detected. In the present embodiment, such a selection method is used, but the present invention is not limited to this. For example, the user may select a plurality of portable terminals 103 to be grouped by touching, or may be selected by performing a touch operation surrounding the plurality of portable terminals 103 to be grouped.

ステップS1214では、情報処理装置101のCPU401は、選択操作がなされた、複数(少なくとも2以上)の携帯端末103を1つのグループとして対応付ける(グルーピングする)。より具体的には、選択操作がなされた複数の携帯端末103に対応するレコードを接続先管理テーブル1600からそれぞれ特定し、特定した複数のレコードのグループID1604に同じグループを示す識別情報を格納する。このようにして、選択操作がなされた複数の携帯端末103をグルーピングする(グルーピング手段)。図19に示すようなジェスチャがなされると、手の移動経路に携帯端末103−3と携帯端末103−1が存在することが特定できるので、投影面304上に配置されている3台の携帯端末103のうち、これら2台をグルーピングする。また、グルーピングする際に対象の携帯端末103がすでに他のグループに属している場合であっても、新たに対応付けがなされたグループの識別情報をグループID1604に格納する。一方、グルーピングを解除する場合には、もう一度同様の動作を検知することで解除してもよいし、解除ボタンを表示してこれに対する押下を受け付けるようにしてもよい。   In step S <b> 1214, the CPU 401 of the information processing apparatus 101 associates (groups) a plurality of (at least two or more) portable terminals 103 on which the selection operation has been performed as one group. More specifically, records corresponding to the plurality of mobile terminals 103 on which the selection operation has been performed are specified from the connection destination management table 1600, and identification information indicating the same group is stored in the group IDs 1604 of the specified records. In this way, the plurality of portable terminals 103 on which the selection operation has been performed are grouped (grouping means). When a gesture as shown in FIG. 19 is made, it can be identified that the portable terminal 103-3 and the portable terminal 103-1 exist in the movement path of the hand, so three portable terminals arranged on the projection plane 304 Of the terminals 103, these two are grouped. Further, even when the target mobile terminal 103 already belongs to another group when grouping, the identification information of the newly associated group is stored in the group ID 1604. On the other hand, when canceling the grouping, it may be canceled by detecting the same operation once again, or a cancel button may be displayed to accept pressing of this.

ステップS1215では、情報処理装置101のCPU401は、携帯端末103に送信する文書データを示すサムネイル画像の選択を検知したか否かを判定する。すなわち、投影面304に投影された文書送信画面1800のサムネイル画像領域1003の中から、携帯端末103に送信したい文書データのサムネイル画像のタッチ操作を受け付けつけたか否かを検知する。選択を受け付けるサムネイル画像は複数であってもよい。サムネイル画像に対する選択を検知したと判定した場合には、ステップS1216に処理を進める。そうでない場合には、ステップS1217に処理を進める。   In step S <b> 1215, the CPU 401 of the information processing apparatus 101 determines whether selection of a thumbnail image indicating document data to be transmitted to the mobile terminal 103 has been detected. That is, it is detected whether or not a touch operation on a thumbnail image of document data to be transmitted to the mobile terminal 103 is accepted from the thumbnail image area 1003 of the document transmission screen 1800 projected on the projection plane 304. There may be a plurality of thumbnail images for accepting selection. If it is determined that selection of a thumbnail image has been detected, the process proceeds to step S1216. Otherwise, the process proceeds to step S1217.

ステップS1216では、情報処理装置101のCPU401は、ステップS1215で選択を検知したサムネイル画像を選択状態にする。ステップS1215及びステップS1216を繰り返すことで、複数のサムネイル画像を選択することが可能である。すなわち、ユーザは携帯端末103に送信したい文書データに対応するサムネイル画像を複数選択することができる。   In step S1216, the CPU 401 of the information processing apparatus 101 puts the thumbnail image whose selection is detected in step S1215 into a selected state. By repeating Step S1215 and Step S1216, it is possible to select a plurality of thumbnail images. That is, the user can select a plurality of thumbnail images corresponding to document data to be transmitted to the mobile terminal 103.

ステップS1217では、情報処理装置101のCPU401は、ステップS1216で選択された、いずれかのサムネイル画像に対するフリック操作(サムネイル画像に対応する文書データの送信指示)を検知したか否かを判定する(フリック操作受付手段)。つまり、フリック操作の始点は選択されたサムネイル画像の表示位置である。ここで、ステップS1216で複数のサムネイル画像を選択状態にし、ステップS1217でサムネイル画像に対するフリック操作を受け付けることは、複数のサムネイル画像に対するフリック操作を受け付けることと同義である。フリック操作を検知したと判定した場合には、ステップS1218に処理を進める。フリック操作を検知していないと判定した場合には、ステップS1213に処理を戻す。   In step S1217, the CPU 401 of the information processing apparatus 101 determines whether a flick operation (an instruction to transmit document data corresponding to the thumbnail image) for any thumbnail image selected in step S1216 is detected (flick). Operation accepting means). That is, the starting point of the flick operation is the display position of the selected thumbnail image. Here, selecting a plurality of thumbnail images in step S1216 and accepting a flick operation on the thumbnail images in step S1217 is synonymous with accepting a flick operation on the plurality of thumbnail images. If it is determined that a flick operation has been detected, the process proceeds to step S1218. If it is determined that a flick operation has not been detected, the process returns to step S1213.

ステップS1218では、情報処理装置101のCPU401は、ステップS1214で検知したフリック操作の方向を特定する。センサ制御部605の機能により現実空間でフリック操作を行った指の軌跡が取得できるので、この取得した軌跡を用いて、投影面304に投影している画面におけるフリック操作の方向を特定する。つまり、画面上で選択したサムネイル画像からなされたフリック操作が、画面上のどこに向かってなされたのかを特定する。   In step S1218, the CPU 401 of the information processing apparatus 101 specifies the direction of the flick operation detected in step S1214. Since the trajectory of the finger that performed the flick operation in the real space can be acquired by the function of the sensor control unit 605, the direction of the flick operation on the screen projected on the projection plane 304 is specified using the acquired trajectory. That is, it is specified where the flick operation performed from the thumbnail image selected on the screen is performed.

ステップS1219では、情報処理装置101のCPU401は、ステップS1218で特定されたフリック操作の方向に携帯端末103が存在するか否かを判定する。より具体的には、携帯端末103が配置された画面上の位置をステップS1209で保存しているので、配置位置1603が示す画面上の座標の範囲に携帯端末103が配置されていることがわかる。そして、ステップS1218で画面におけるフリック操作の方向が特定されているので、その方向と配置位置1603が示す範囲とが重なる箇所が少なくとも一部あるか否かを判定する。これらが重なるのであれば、フリック操作された方向に携帯端末103が存在すると判定する。フリック操作の方向に携帯端末103が存在すると判定した場合には、ステップS1220に処理を進める。フリック操作の方向に携帯端末103が存在していないと判定した場合には、ステップS1217に処理を戻す。すなわち、ユーザはフリック操作をやり直す。   In step S1219, the CPU 401 of the information processing apparatus 101 determines whether the mobile terminal 103 exists in the flick operation direction specified in step S1218. More specifically, since the position on the screen where the portable terminal 103 is arranged is stored in step S1209, it can be seen that the portable terminal 103 is arranged in the coordinate range on the screen indicated by the arrangement position 1603. . Since the direction of the flick operation on the screen is specified in step S1218, it is determined whether or not there is at least a portion where the direction and the range indicated by the arrangement position 1603 overlap. If they overlap, it is determined that the mobile terminal 103 exists in the direction in which the flick operation is performed. If it is determined that the mobile terminal 103 is present in the direction of the flick operation, the process proceeds to step S1220. If it is determined that the portable terminal 103 does not exist in the flick operation direction, the process returns to step S1217. That is, the user redoes the flick operation.

ステップS1220では、情報処理装置101のCPU401は、フリック操作された方向にある携帯端末103の接続先情報を接続先管理テーブル1600から取得する。より具体的には、画面におけるフリック操作の方向と重なっている箇所があると判定された配置位置1603のレコードを接続先管理テーブル1600で特定し、このレコードが備える接続先情報1602を取得する。   In step S1220, the CPU 401 of the information processing apparatus 101 acquires the connection destination information of the mobile terminal 103 in the direction in which the flick operation is performed from the connection destination management table 1600. More specifically, a record of an arrangement position 1603 determined to have a portion overlapping with the direction of the flick operation on the screen is specified in the connection destination management table 1600, and connection destination information 1602 included in this record is acquired.

ステップS1221では、情報処理装置101のCPU401は、フリック操作された方向にある携帯端末103と同じグループに属する携帯端末103が存在するか否かを判定する。より具体的に説明する。まず、フリック操作された方向にある携帯端末103に対応するレコードを接続先管理テーブル1600から特定する。そして、特定したレコードのグループID1604と同じグループIDを有するレコードを接続先管理テーブル1600の中から検索する。検索した結果、同じグループIDを有するレコードがあれば、フリック操作された方向にある携帯端末103と同じグループに属する携帯端末103が存在すると判定する。フリック操作された方向にある携帯端末103と同じグループに属する携帯端末103が存在すると判定した場合には、ステップS1222に処理を進める。フリック操作された方向にある携帯端末103と同じグループに属する携帯端末103が存在しないと判定した場合には、ステップS1223に処理を進める。   In step S1221, the CPU 401 of the information processing apparatus 101 determines whether there is a mobile terminal 103 that belongs to the same group as the mobile terminal 103 in the flicked direction. This will be described more specifically. First, a record corresponding to the mobile terminal 103 in the flicked direction is specified from the connection destination management table 1600. Then, a record having the same group ID as the group ID 1604 of the identified record is searched from the connection destination management table 1600. As a result of the search, if there is a record having the same group ID, it is determined that there is a mobile terminal 103 belonging to the same group as the mobile terminal 103 in the flicked direction. If it is determined that there is a mobile terminal 103 belonging to the same group as the mobile terminal 103 in the flicked direction, the process proceeds to step S1222. If it is determined that there is no mobile terminal 103 belonging to the same group as the mobile terminal 103 in the flicked direction, the process proceeds to step S1223.

ステップS1222では、情報処理装置101のCPU401は、フリック操作された方向にある携帯端末103と同じグループに属するすべての携帯端末103の接続先情報をステップS1220と同様の方法によって、接続先管理テーブル1600から取得する。すなわち、フリック操作された方向にある携帯端末103と同じグループIDを有する携帯端末103の接続先情報1602を取得する。   In step S1222, the CPU 401 of the information processing apparatus 101 obtains connection destination information of all the mobile terminals 103 belonging to the same group as the mobile terminal 103 in the flicked direction by the same method as in step S1220. Get from. That is, connection destination information 1602 of the mobile terminal 103 having the same group ID as the mobile terminal 103 in the flicked direction is acquired.

ステップS1223では、情報処理装置101のCPU401は、ステップS1216で選択状態になっているサムネイル画像に対応する文書データを、文書データ管理テーブル1100を用いて取得する。より具体的には、選択された位置と表示位置1104とを用いて、選択されたサムネイル画像に対応するレコードを文書データ管理テーブル1100から特定する。そして、このレコードが備える文書データ保存場所1102が示す場所から文書データを取得する。   In step S1223, the CPU 401 of the information processing apparatus 101 acquires document data corresponding to the thumbnail image selected in step S1216 using the document data management table 1100. More specifically, a record corresponding to the selected thumbnail image is specified from the document data management table 1100 using the selected position and the display position 1104. Then, the document data is acquired from the location indicated by the document data storage location 1102 included in this record.

ステップS1224では、情報処理装置101のCPU401は、ステップS1220及びステップS1222で取得した接続先情報が示す携帯端末103に対して、ステップS1223で取得した文書データを送信する(投影データ送信手段)。尚、本実施形態では情報処理装置101からステップS1220及びステップS1222で取得した接続先情報が示す携帯端末103に対して文書データを送信する形態とした。しかし、文書データを受信した携帯端末103が同じグループの携帯端末103に転送するような形態であってもよい。つまり、文書データを送信する経路は特に問わない。   In step S1224, the CPU 401 of the information processing apparatus 101 transmits the document data acquired in step S1223 to the portable terminal 103 indicated by the connection destination information acquired in steps S1220 and S1222 (projection data transmission unit). In the present embodiment, document data is transmitted from the information processing apparatus 101 to the mobile terminal 103 indicated by the connection destination information acquired in steps S1220 and S1222. However, the mobile terminal 103 that has received the document data may be transferred to the mobile terminals 103 in the same group. In other words, the route for transmitting the document data is not particularly limited.

ステップS1225では、情報処理装置101のCPU401は、ステップS1217でフリック操作を受け付けたサムネイル画像を、ステップS1219で特定された携帯端末103の配置位置1603に向かって移動させる。更に、当該サムネイル画像の他に、ステップS1216で選択状態になっているサムネイル画像があれば、これもステップS1219で特定された携帯端末103の配置位置1603に向かって移動させる。サムネイル画像は、フリック操作を受け付けたサムネイル画像そのものであってもよいし、フリック操作を受け付けたサムネイル画像のコピーであってもよい。このとき、フリック操作された方向にある携帯端末103と同じグループの携帯端末103が投影面304に存在する場合には、同じグループの携帯端末103に対してもサムネイル画像を移動させる。   In step S1225, the CPU 401 of the information processing apparatus 101 moves the thumbnail image for which the flick operation has been received in step S1217 toward the arrangement position 1603 of the mobile terminal 103 identified in step S1219. Further, in addition to the thumbnail image, if there is a thumbnail image selected in step S1216, it is also moved toward the arrangement position 1603 of the mobile terminal 103 specified in step S1219. The thumbnail image may be the thumbnail image itself that has received the flick operation, or may be a copy of the thumbnail image that has received the flick operation. At this time, if the mobile terminal 103 in the same group as the mobile terminal 103 in the flicked direction exists on the projection plane 304, the thumbnail image is also moved to the mobile terminals 103 in the same group.

図20は、ステップS1225が実行されることによりサムネイル画像が移動する様子を示す図である。文書送信画面1800のサムネイル画像領域1003においてサムネイル画像がフリックされると、フリックされた位置からサムネイル画像が2001−1と2001−2に示すように移動し始める。移動速度はあらかじめ定められた所定の速度とする。そのため、文書データの送信が完了する前に携帯端末103の配置位置1603に到着する可能性があるが、その場合には再度フリックを受け付けたサムネイル画像の位置に戻して、アニメーションを再開すればよい。すなわち、文書データの送信が完了する前にサムネイル画像が携帯端末103の配置位置1603に到着したか否かを判定する。到着したと判定した場合には、到着したサムネイル画像を、再度フリックを受け付けたサムネイル画像の位置に戻して、サムネイル画像の移動を再開する。   FIG. 20 is a diagram showing how thumbnail images move as a result of step S1225 being executed. When a thumbnail image is flicked in the thumbnail image area 1003 of the document transmission screen 1800, the thumbnail image starts to move from the flicked position as indicated by 2001-1 and 2001-2. The moving speed is a predetermined speed set in advance. For this reason, there is a possibility that it will arrive at the arrangement position 1603 of the mobile terminal 103 before the transmission of the document data is completed. . That is, it is determined whether or not the thumbnail image has arrived at the arrangement position 1603 of the mobile terminal 103 before the transmission of the document data is completed. If it is determined that the thumbnail image has arrived, the thumbnail image that has arrived is returned to the position of the thumbnail image where the flick has been accepted, and the movement of the thumbnail image is resumed.

このようにしてアニメーションを表示している間、ステップS1226では、携帯端末103のCPU501は、情報処理装置101から送信された文書データを受信し、ステップS1227では、受信した文書データをフラッシュメモリ514に保存する。本実施形態では受信した文書データを保存しているが、受信した文書データを表示してもよい。すなわち、フリック操作されたサムネイル画像に対応する文書データを、フリック操作された方向にある携帯端末103に表示する実施形態であってもよい。この場合には、受信した文書データを携帯端末103のタッチパネル510に表示する。   While the animation is displayed in this way, in step S1226, the CPU 501 of the portable terminal 103 receives the document data transmitted from the information processing apparatus 101, and in step S1227, the received document data is stored in the flash memory 514. save. In the present embodiment, the received document data is stored, but the received document data may be displayed. In other words, the embodiment may display the document data corresponding to the flicked thumbnail image on the mobile terminal 103 in the flicked direction. In this case, the received document data is displayed on the touch panel 510 of the mobile terminal 103.

ステップS1228では、携帯端末103のCPU501は、ステップS1226及びステップS1227の実行結果を、文書データを送信してきた情報処理装置101に送信する。そして、ステップS1229では、情報処理装置101のCPU401は、携帯端末103から送信された実行結果を受信する。受信したら、文書データを送信した携帯端末103それぞれについて、後述するステップS1230及びステップS1231を実行する。   In step S1228, the CPU 501 of the portable terminal 103 transmits the execution results of steps S1226 and S1227 to the information processing apparatus 101 that has transmitted the document data. In step S <b> 1229, the CPU 401 of the information processing apparatus 101 receives the execution result transmitted from the mobile terminal 103. When received, step S1230 and step S1231 described later are executed for each portable terminal 103 that has transmitted the document data.

ステップS1230では、情報処理装置101のCPU401は、文書データの送信先である携帯端末103の配置位置1603にサムネイル画像が到着したか否かを判定する。サムネイル画像の現在位置と文書データの送信先である携帯端末103の配置位置1603とを比較し、サムネイル画像が配置位置1603に入ったら(触れたら)、到着したと判定する。サムネイル画像が到着したと判定した場合には、ステップS1231に処理を進める。サムネイル画像が到着したと判定しなかった場合、つまりサムネイル画像がまだ到着していない場合には、到着するまでステップS1230を繰り返し実行する。   In step S1230, the CPU 401 of the information processing apparatus 101 determines whether a thumbnail image has arrived at the arrangement position 1603 of the portable terminal 103 that is the transmission destination of the document data. The current position of the thumbnail image is compared with the arrangement position 1603 of the portable terminal 103 that is the transmission destination of the document data. When the thumbnail image enters the arrangement position 1603 (when touched), it is determined that the thumbnail image has arrived. If it is determined that the thumbnail image has arrived, the process proceeds to step S1231. If it is not determined that the thumbnail image has arrived, that is, if the thumbnail image has not yet arrived, step S1230 is repeatedly executed until it arrives.

ステップS1231では、情報処理装置101のCPU401は、到着したサムネイル画像をフェードアウトする。つまりサムネイル画像を非表示にする(表示制御手段)。こうすることで、ユーザに対して文書データの送信が完了したことを認識させることができる。図20に示す2002−1及び2002−2は、サムネイル画像がフェードアウトしている様子を示している。このように徐々に透過して非表示にしてもよいし、到着次第、透過させずにすぐに非表示にしてしまってもよい。   In step S1231, the CPU 401 of the information processing apparatus 101 fades out the arrived thumbnail image. That is, the thumbnail image is hidden (display control means). By doing so, it is possible to make the user recognize that transmission of the document data is completed. 202-1 and 2002-2 shown in FIG. 20 show how thumbnail images fade out. In this way, it may be gradually transmitted and hidden, or as soon as it arrives, it may be hidden without being transmitted.

ステップS1232では、情報処理装置101のCPU401は、文書送信画面1800が備える送信終了ボタン1801の押下を、センサ制御部605の機能により検知したか否かを判定する。すなわち、投影面304に投影された文書送信画面1800において、送信終了ボタン1801に対するタッチ操作を検知したか否かを判定する。送信終了ボタン1801に対する押下を検知したと判定した場合には、ステップS1233に処理を進める。送信終了ボタン1801に対する押下を検知していないと判定した場合には、ステップS1213に処理を戻す。   In step S1232, the CPU 401 of the information processing apparatus 101 determines whether or not pressing of the transmission end button 1801 included in the document transmission screen 1800 is detected by the function of the sensor control unit 605. That is, it is determined whether or not a touch operation on the transmission end button 1801 is detected on the document transmission screen 1800 projected on the projection plane 304. If it is determined that pressing of the transmission end button 1801 has been detected, the process proceeds to step S1233. If it is determined that pressing of the transmission end button 1801 has not been detected, the process returns to step S1213.

ステップS1233では、情報処理装置101のCPU401は、文書送信画面1800の投影を終了させ、ステップS901と同様に商品説明画面1000をプロジェクタ423に投影させて、投影面304に表示する。以上により文書送信処理を終了する。   In step S1233, the CPU 401 of the information processing apparatus 101 ends the projection of the document transmission screen 1800, projects the product description screen 1000 on the projector 423, and displays the product description screen 1000 on the projection plane 304 as in step S901. Thus, the document transmission process is completed.

尚、本実施形態では、文書データ(投影データ)を示すサムネイル画像を文書送信画面1800に表示し、これに対するフリック操作を受け付ける仕組みとして説明を行ったが、文書データを縮小表示してサムネイル画像の代わりにしてもよい。すなわち、文書データに対するフリック操作を受け付けて、フリック操作の方向に応じて特定される携帯端末に対して、フリック操作を受け付けた文書データを送信する形態であってもよい。   In the present embodiment, the thumbnail image indicating the document data (projection data) is displayed on the document transmission screen 1800 and described as a mechanism for accepting a flick operation on the thumbnail image. It may be substituted. That is, a form in which a flick operation on document data is received and the document data on which the flick operation has been received may be transmitted to a mobile terminal specified according to the direction of the flick operation may be employed.

次に第2の実施形態について説明する。第2の実施形態は、フリック操作ではなく、タッチ操作によって送信する投影データと送信先の携帯端末とを選択する形態である。   Next, a second embodiment will be described. In the second embodiment, projection data to be transmitted by a touch operation instead of a flick operation and a portable terminal as a transmission destination are selected.

この第2の実施形態は、第1の実施形態の図13に示すフローチャートの変形例である。よって、システム構成、ハードウェア構成、機能構成、図13以外の各種フローチャート、データテーブル、画面例については第1の実施形態で説明した通りであるため説明を省略する。   The second embodiment is a modification of the flowchart shown in FIG. 13 of the first embodiment. Therefore, the system configuration, hardware configuration, functional configuration, various flowcharts other than FIG. 13, the data table, and the screen example are the same as described in the first embodiment, and thus the description thereof is omitted.

第2の実施形態における文書送信処理の流れについて、図21に示すフローチャートを用いて説明する。図21に示すフローチャートは、図12に示すフローチャートの続きであり、図13に示すフローチャートの変形例である。   The flow of document transmission processing in the second embodiment will be described using the flowchart shown in FIG. The flowchart shown in FIG. 21 is a continuation of the flowchart shown in FIG. 12, and is a modification of the flowchart shown in FIG.

図21に示すステップS1212乃至ステップS1216は、図13に示すステップS1212乃至ステップS1216と同様であるので、説明を省略する。   Steps S1212 to S1216 shown in FIG. 21 are the same as steps S1212 to S1216 shown in FIG.

ステップS2101では、情報処理装置101のCPU401は、ステップS1208で検知した、投影面304上にある携帯端末103に対するタッチ操作(選択操作)を、センサ制御部605の機能により検知したか否かを判定する。より具体的には、携帯端末103の配置位置1603とタッチ操作された位置とを比較し、タッチ操作された位置が配置位置1603のいずれかに含まれれば、投影面304上にある携帯端末103に対するタッチ操作を検知したと判定する。第2の実施形態では、図21のステップS1213における選択操作と図21のステップS2101における選択操作とが異なるジェスチャであることが望ましい。すなわち、前述したように、ステップS1213では手をかざすことによって携帯端末を選択し、ステップS2101では指で携帯端末をタッチすることによって携帯端末を選択するといったように、それぞれ異なるジェスチャにすることが望ましい。投影面304上にある携帯端末103に対するタッチ操作を検知したと判定した場合には、ステップS2102に処理を進める。そうでない場合には、タッチ操作を検知するまで繰り返しステップS2101の処理を実行する。   In step S2101, the CPU 401 of the information processing apparatus 101 determines whether the touch operation (selection operation) on the mobile terminal 103 on the projection plane 304 detected in step S1208 has been detected by the function of the sensor control unit 605. To do. More specifically, the arrangement position 1603 of the mobile terminal 103 is compared with the touch-operated position, and if the touch-operated position is included in any of the arrangement positions 1603, the mobile terminal 103 on the projection plane 304 is present. It is determined that a touch operation on is detected. In the second embodiment, it is desirable that the selection operation in step S1213 in FIG. 21 and the selection operation in step S2101 in FIG. 21 are different gestures. That is, as described above, it is desirable to make different gestures, such as selecting a mobile terminal by holding the hand in step S1213 and selecting the mobile terminal by touching the mobile terminal with a finger in step S2101. . If it is determined that a touch operation on the mobile terminal 103 on the projection plane 304 has been detected, the process proceeds to step S2102. Otherwise, the process of step S2101 is repeated until a touch operation is detected.

ステップS2102では、情報処理装置101のCPU401は、ステップS2101でタッチ操作(選択操作)がなされた携帯端末103の接続先情報1602を接続先管理テーブル1600から取得する。より具体的には、タッチ操作がなされた位置を含む配置位置1603を有するレコードを接続先管理テーブル1600から特定し、特定したレコードの接続先情報1602を取得する。   In step S2102, the CPU 401 of the information processing apparatus 101 acquires from the connection destination management table 1600 connection destination information 1602 of the mobile terminal 103 that has been touched (selected) in step S2101. More specifically, the record having the arrangement position 1603 including the position where the touch operation is performed is specified from the connection destination management table 1600, and the connection destination information 1602 of the specified record is acquired.

ステップS2103では、情報処理装置101のCPU401は、タッチ操作がなされた携帯端末103と同じグループに属する携帯端末103が存在するか否かを判定する。より具体的に説明する。まず、タッチ操作がなされた携帯端末103に対応するレコードを接続先管理テーブル1600から特定する。そして、特定したレコードのグループID1604と同じグループIDを有するレコードを接続先管理テーブル1600の中から検索する。検索した結果、同じグループIDを有するレコードがあれば、タッチ操作がなされた携帯端末103と同じグループに属する携帯端末103が存在すると判定する。タッチ操作がなされた携帯端末103と同じグループに属する携帯端末103が存在すると判定した場合には、ステップS2104に処理を進める。タッチ操作がなされた携帯端末103と同じグループに属する携帯端末103が存在しないと判定した場合には、ステップS2105に処理を進める。   In step S2103, the CPU 401 of the information processing apparatus 101 determines whether there is a mobile terminal 103 that belongs to the same group as the mobile terminal 103 on which the touch operation has been performed. This will be described more specifically. First, a record corresponding to the mobile terminal 103 that has been touched is specified from the connection destination management table 1600. Then, a record having the same group ID as the group ID 1604 of the identified record is searched from the connection destination management table 1600. If there is a record having the same group ID as a result of the search, it is determined that there is a mobile terminal 103 belonging to the same group as the mobile terminal 103 on which the touch operation has been performed. If it is determined that there is a mobile terminal 103 belonging to the same group as the mobile terminal 103 on which the touch operation has been performed, the process proceeds to step S2104. If it is determined that there is no mobile terminal 103 belonging to the same group as the mobile terminal 103 on which the touch operation has been performed, the process proceeds to step S2105.

ステップS2104では、情報処理装置101のCPU401は、タッチ操作がなされた携帯端末103と同じグループに属するすべての携帯端末103の接続先情報をステップS2102と同様の方法によって、接続先管理テーブル1600から取得する。すなわち、タッチ操作がなされた携帯端末103と同じグループIDを有する携帯端末103の接続先情報1602を取得する。   In step S2104, the CPU 401 of the information processing apparatus 101 acquires connection destination information of all the mobile terminals 103 belonging to the same group as the mobile terminal 103 on which the touch operation has been performed, from the connection destination management table 1600 in the same manner as in step S2102. To do. That is, the connection destination information 1602 of the mobile terminal 103 having the same group ID as that of the mobile terminal 103 that has been touched is acquired.

ステップS2105では、情報処理装置101のCPU401は、ステップS1216で選択状態になっているサムネイル画像に対応する文書データを、文書データ管理テーブル1100を用いて取得する。より具体的には、選択された位置と表示位置1104とを用いて、選択されたサムネイル画像に対応するレコードを文書データ管理テーブル1100から特定する。そして、このレコードが備える文書データ保存場所1102が示す場所から文書データを取得する。   In step S2105, the CPU 401 of the information processing apparatus 101 acquires document data corresponding to the thumbnail image selected in step S1216 using the document data management table 1100. More specifically, a record corresponding to the selected thumbnail image is specified from the document data management table 1100 using the selected position and the display position 1104. Then, the document data is acquired from the location indicated by the document data storage location 1102 included in this record.

ステップS2106では、情報処理装置101のCPU401は、ステップS2102及びステップS2104で取得した接続先情報が示す携帯端末103に対して、ステップS2105で取得した文書データを送信する。尚、本実施形態では情報処理装置101からステップS2102及びステップS2104で取得した接続先情報が示す携帯端末103に対して文書データを送信する形態とした。しかし、文書データを受信した携帯端末103が同じグループの携帯端末103に転送するような形態であってもよい。つまり、文書データを送信する経路は特に問わない。   In step S2106, the CPU 401 of the information processing apparatus 101 transmits the document data acquired in step S2105 to the portable terminal 103 indicated by the connection destination information acquired in steps S2102 and S2104. In the present embodiment, document data is transmitted from the information processing apparatus 101 to the mobile terminal 103 indicated by the connection destination information acquired in steps S2102 and S2104. However, the mobile terminal 103 that has received the document data may be transferred to the mobile terminals 103 in the same group. In other words, the route for transmitting the document data is not particularly limited.

ステップS2106の後の処理である、図21に示すステップS1225乃至ステップS1233は、図13に示すステップS1225乃至ステップS1233と同様であるので、説明を省略する。   Steps S1225 to S1233 shown in FIG. 21 that are the processes after step S2106 are the same as steps S1225 to S1233 shown in FIG.

図22は、第2の実施形態における、文書送信画面1800で携帯端末103に文書データの送信指示を行う様子の一例を示す図である。まず、文書データを送信したい複数の携帯端末103に対してタッチ操作を行うことで、複数の携帯端末103を1つのグループにグルーピングする。そして、ステップS1216において第1の実施形態と同様に、携帯端末103に対して送信したい文書データに対応するサムネイル画像をタッチ操作により選択する。複数の文書データを送信する場合には、複数の文書データに対応する複数のサムネイル画像をそれぞれ選択する。その後、文書データを送信したい携帯端末103をタッチ操作により更に選択する。図22では携帯端末103−1を文書データの送信先として選択している。図22に示すように、選択された携帯端末103に選択されたことが識別可能な表示(投影)を行ってもよい。このように、投影面304に配置されている携帯端末103を選択することで、文書データの送信先を決定する。そして、選択された携帯端末103の接続先情報と、選択された携帯端末103と同じグループの携帯端末103の接続先情報とを取得する。取得した接続先情報を用いて、選択された文書データを選択された携帯端末103とこの携帯端末103と同じグループの携帯端末103に対して送信する。このように、投影面に配置された複数の携帯端末に対して投影データを容易に送信することが可能となる。   FIG. 22 is a diagram illustrating an example of a state in which a document data transmission instruction is given to the mobile terminal 103 on the document transmission screen 1800 in the second embodiment. First, a plurality of portable terminals 103 are grouped into one group by performing a touch operation on the plurality of portable terminals 103 to which document data is to be transmitted. In step S1216, as in the first embodiment, a thumbnail image corresponding to document data to be transmitted to the mobile terminal 103 is selected by a touch operation. When transmitting a plurality of document data, a plurality of thumbnail images corresponding to the plurality of document data are selected. Thereafter, the portable terminal 103 to which document data is to be transmitted is further selected by a touch operation. In FIG. 22, the portable terminal 103-1 is selected as the transmission destination of the document data. As shown in FIG. 22, the selected portable terminal 103 may perform display (projection) that can be identified. As described above, the transmission destination of the document data is determined by selecting the mobile terminal 103 arranged on the projection plane 304. Then, the connection destination information of the selected mobile terminal 103 and the connection destination information of the mobile terminals 103 in the same group as the selected mobile terminal 103 are acquired. Using the acquired connection destination information, the selected document data is transmitted to the selected mobile terminal 103 and the mobile terminals 103 in the same group as the mobile terminal 103. Thus, it becomes possible to easily transmit projection data to a plurality of portable terminals arranged on the projection plane.

次に第3の実施形態について説明する。第3の実施形態は、投影面上に配置されたすべての携帯端末103に対して投影データを送信する形態である。   Next, a third embodiment will be described. In the third embodiment, projection data is transmitted to all portable terminals 103 arranged on the projection plane.

この第3の実施形態は、第1の実施形態の図13に示すフローチャートの変形例である。よって、システム構成、ハードウェア構成、機能構成、図13以外の各種フローチャート、データテーブル、画面例については第1の実施形態で説明した通りであるため説明を省略する。   The third embodiment is a modification of the flowchart shown in FIG. 13 of the first embodiment. Therefore, the system configuration, hardware configuration, functional configuration, various flowcharts other than FIG. 13, the data table, and the screen example are the same as described in the first embodiment, and thus the description thereof is omitted.

第3の実施形態における文書送信処理の流れについて、図23に示すフローチャートを用いて説明する。図23に示すフローチャートは、図12に示すフローチャートの続きであり、図13に示すフローチャートの変形例である。   The flow of document transmission processing in the third embodiment will be described using the flowchart shown in FIG. The flowchart shown in FIG. 23 is a continuation of the flowchart shown in FIG. 12, and is a modification of the flowchart shown in FIG.

図23に示すステップS1212、ステップS1215乃至ステップS1216は、図13に示すステップS1212、ステップS1215乃至ステップS1216と同様であるので、説明を省略する。   Steps S1212 and S1215 to S1216 shown in FIG. 23 are the same as steps S1212 and S1215 to S1216 shown in FIG.

ステップS2301では、情報処理装置101のCPU401は、文書送信画面1800に表示された不図示の送信ボタンに対するタッチ操作(すなわち、送信指示)を検知したか否かを判定する。送信指示を検知したと判定した場合には、ステップS2302に処理を進める。そうでない場合には、ステップS1215に処理を進める。   In step S2301, the CPU 401 of the information processing apparatus 101 determines whether or not a touch operation (that is, a transmission instruction) on a transmission button (not illustrated) displayed on the document transmission screen 1800 has been detected. If it is determined that a transmission instruction has been detected, the process proceeds to step S2302. Otherwise, the process proceeds to step S1215.

ステップS2302では、情報処理装置101のCPU401は、投影面304上に配置され、情報処理装置101が接続先情報を把握しているすべての携帯端末103の接続先情報を取得する。図12で前述したように、投影面304上に配置された携帯端末103の接続先情報は、接続先管理テーブル1600で管理している。この管理している接続先情報をすべて取得する。   In step S2302, the CPU 401 of the information processing apparatus 101 acquires connection destination information of all the mobile terminals 103 that are arranged on the projection plane 304 and for which the information processing apparatus 101 knows the connection destination information. As described above with reference to FIG. 12, the connection destination information of the mobile terminal 103 arranged on the projection plane 304 is managed by the connection destination management table 1600. Get all the managed connection destination information.

ステップS2303では、情報処理装置101のCPU401は、ステップS1216で選択状態になっているサムネイル画像に対応する文書データを、文書データ管理テーブル1100を用いて取得する。より具体的には、選択された位置と表示位置1104とを用いて、選択されたサムネイル画像に対応するレコードを文書データ管理テーブル1100から特定する。そして、このレコードが備える文書データ保存場所1102が示す場所から文書データを取得する。   In step S2303, the CPU 401 of the information processing apparatus 101 acquires document data corresponding to the thumbnail image selected in step S1216 using the document data management table 1100. More specifically, a record corresponding to the selected thumbnail image is specified from the document data management table 1100 using the selected position and the display position 1104. Then, the document data is acquired from the location indicated by the document data storage location 1102 included in this record.

ステップS2304では、情報処理装置101のCPU401は、ステップS2302で取得した接続先情報が示すすべての携帯端末103に対して、ステップS2303で取得した文書データを送信する。尚、本実施形態では情報処理装置101からステップS2302で取得した接続先情報が示す携帯端末103に対して文書データを送信する形態としたが、文書データを受信した携帯端末103が同じグループの携帯端末103に転送するような形態であってもよい。つまり、文書データを送信する経路は特に問わない。   In step S2304, the CPU 401 of the information processing apparatus 101 transmits the document data acquired in step S2303 to all the mobile terminals 103 indicated by the connection destination information acquired in step S2302. In this embodiment, the document data is transmitted from the information processing apparatus 101 to the portable terminal 103 indicated by the connection destination information acquired in step S2302. However, the portable terminal 103 that has received the document data is in the same group. It may be in a form where it is transferred to the terminal 103. In other words, the route for transmitting the document data is not particularly limited.

ステップS2304の後の処理である、図23に示すステップS1225乃至ステップS1233は、図13に示すステップS1225乃至ステップS1233と同様であるので、説明を省略する。   Steps S1225 to S1233 shown in FIG. 23, which are the processes after step S2304, are the same as steps S1225 to S1233 shown in FIG.

このように、第3の実施形態のようにすることで、投影面上に配置されたすべての携帯端末103に対して投影データを送信することが可能となる。   As described above, the projection data can be transmitted to all the mobile terminals 103 arranged on the projection plane by using the third embodiment.

以上説明したように、本実施形態によれば、フリック操作を受け付けた投影データを、フリック操作の方向に応じた複数の携帯端末に対して送信可能な効果を奏する。   As described above, according to the present embodiment, there is an effect that projection data that has received a flick operation can be transmitted to a plurality of mobile terminals in accordance with the direction of the flick operation.

本発明は、例えば、システム、装置、方法、プログラム若しくは記憶媒体等としての実施形態も可能であり、具体的には、複数の機器から構成されるシステムに適用してもよいし、また、1つの機器からなる装置に適用してもよい。   The present invention can be implemented as a system, apparatus, method, program, storage medium, or the like, and can be applied to a system including a plurality of devices. You may apply to the apparatus which consists of one apparatus.

なお、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラムを、システム或いは装置に直接、或いは遠隔から供給するものを含む。そして、そのシステム或いは装置のコンピュータが前記供給されたプログラムコードを読み出して実行することによっても達成される場合も本発明に含まれる。   Note that the present invention includes a software program that implements the functions of the above-described embodiments directly or remotely from a system or apparatus. The present invention also includes a case where the system or the computer of the apparatus is achieved by reading and executing the supplied program code.

したがって、本発明の機能処理をコンピュータで実現するために、前記コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するため(実行可能とするため)のコンピュータプログラム自体も含まれる。   Accordingly, since the functions of the present invention are implemented by computer, the program code installed in the computer also implements the present invention. That is, the present invention includes the computer program itself for realizing (executable) the functional processing of the present invention.

その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であってもよい。   In that case, as long as it has the function of a program, it may be in the form of object code, a program executed by an interpreter, script data supplied to the OS, and the like.

プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RWなどがある。また、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などもある。   Examples of the recording medium for supplying the program include a flexible disk, hard disk, optical disk, magneto-optical disk, MO, CD-ROM, CD-R, and CD-RW. In addition, there are magnetic tape, nonvolatile memory card, ROM, DVD (DVD-ROM, DVD-R), and the like.

その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続する。そして、前記ホームページから本発明のコンピュータプログラムそのもの、若しくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。   As another program supply method, a browser on a client computer is used to connect to an Internet home page. The computer program itself of the present invention or a compressed file including an automatic installation function can be downloaded from the homepage by downloading it to a recording medium such as a hard disk.

また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。   It can also be realized by dividing the program code constituting the program of the present invention into a plurality of files and downloading each file from a different homepage. That is, a WWW server that allows a plurality of users to download a program file for realizing the functional processing of the present invention on a computer is also included in the present invention.

また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせる。そして、ダウンロードした鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。   In addition, the program of the present invention is encrypted, stored in a storage medium such as a CD-ROM, distributed to users, and key information for decryption is downloaded from a homepage via the Internet to users who have cleared predetermined conditions. Let It is also possible to execute the encrypted program by using the downloaded key information and install the program on a computer.

また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。その他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現され得る。   Further, the functions of the above-described embodiments are realized by the computer executing the read program. In addition, based on the instructions of the program, an OS or the like running on the computer performs part or all of the actual processing, and the functions of the above-described embodiments can also be realized by the processing.

さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現される。   Further, the program read from the recording medium is written in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer. Thereafter, the CPU of the function expansion board or function expansion unit performs part or all of the actual processing based on the instructions of the program, and the functions of the above-described embodiments are realized by the processing.

なお、前述した実施形態は、本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。   The above-described embodiments are merely examples of implementation in carrying out the present invention, and the technical scope of the present invention should not be construed as being limited thereto. That is, the present invention can be implemented in various forms without departing from the technical idea or the main features thereof.

101 情報処理装置
102 投影撮像装置
103 携帯端末
401 CPU
402 RAM
403 ROM
404 システムバス
405 汎用入出力コントローラ
406 ビデオコントローラ
407 メモリコントローラ
408 通信I/Fコントローラ
409 入力デバイス
410 ディスプレイ
411 外部メモリ
421 デジタルカメラ
422 ジェスチャセンサ
423 プロジェクタ
101 Information Processing Device 102 Projection Imaging Device 103 Portable Terminal 401 CPU
402 RAM
403 ROM
404 System bus 405 General-purpose input / output controller 406 Video controller 407 Memory controller 408 Communication I / F controller 409 Input device 410 Display 411 External memory 421 Digital camera 422 Gesture sensor 423 Projector

Claims (7)

投影データを投影する投影装置と複数の携帯端末と通信可能な情報処理装置であって、
複数の前記携帯端末のうち、少なくとも2以上の携帯端末をグルーピングするグルーピング手段と、
前記投影装置で投影された複数の投影データのうち、前記携帯端末に送信する投影データに対するフリック操作を受け付けるフリック操作受付手段と、
前記投影装置で投影データが投影される面に配置された前記携帯端末の位置と前記フリック操作受付手段で受け付けたフリック操作の方向とに応じて特定される前記携帯端末と、前記グルーピング手段によって当該携帯端末と共にグルーピングされた携帯端末とに対して、前記フリック操作受付手段でフリック操作を受け付けた投影データを送信する投影データ送信手段と
を備えることを特徴とする情報処理装置。
An information processing apparatus capable of communicating with a projection apparatus that projects projection data and a plurality of portable terminals,
Grouping means for grouping at least two or more of the plurality of portable terminals;
A flick operation accepting unit that accepts a flick operation on projection data to be transmitted to the mobile terminal among a plurality of projection data projected by the projection device;
The portable terminal specified according to the position of the portable terminal arranged on the surface on which projection data is projected by the projection device and the direction of the flick operation received by the flick operation receiving means, and the grouping means An information processing apparatus comprising: projection data transmitting means for transmitting projection data whose flick operation is accepted by the flick operation accepting means to portable terminals grouped together with the mobile terminals.
前記情報処理装置は、
前記携帯端末の接続先情報と、当該携帯端末の前記面における位置情報とを記憶する記憶手段を更に備え、
前記投影データ送信手段は、前記記憶手段に記憶される前記携帯端末の位置情報と前記フリック操作受付手段で受け付けたフリック操作の方向とに応じて特定される前記携帯端末と、前記グルーピング手段によって当該携帯端末と共にグルーピングされた携帯端末とに対して、前記フリック操作受付手段でフリック操作を受け付けた投影データを各携帯端末の前記接続先情報を用いて送信することを特徴とする請求項1に記載の情報処理装置。
The information processing apparatus includes:
A storage means for storing connection destination information of the mobile terminal and position information on the surface of the mobile terminal;
The projection data transmitting means includes the portable terminal specified according to the position information of the portable terminal stored in the storage means and the direction of the flick operation received by the flick operation accepting means, and the grouping means The projection data received by the flick operation accepting unit is transmitted to the mobile terminals grouped together with the mobile terminals using the connection destination information of each mobile terminal. Information processing device.
前記情報処理装置は、
携帯端末からの接続要求を受け付けた後に前記面に配置された携帯端末の位置情報と、当該接続要求に基づく接続先情報とを対応付けて前記記憶手段に登録する登録手段
を更に備えることを特徴とする請求項2に記載の情報処理装置。
The information processing apparatus includes:
And further comprising: a registration unit that registers the location information of the mobile terminal disposed on the surface after receiving the connection request from the mobile terminal and the connection destination information based on the connection request in the storage unit in association with each other. The information processing apparatus according to claim 2.
前記情報処理装置は、
前記投影データ送信手段で送信される投影データを、前記フリック操作受付手段でフリック操作を受け付けた位置から前記携帯端末が配置された位置に向かって移動させる移動手段
を更に備えることを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
The information processing apparatus includes:
The apparatus further comprises moving means for moving the projection data transmitted by the projection data transmitting means from a position where the flick operation accepting means is accepted toward a position where the mobile terminal is arranged. Item 4. The information processing apparatus according to any one of Items 1 to 3.
前記情報処理装置は、
前記投影データ送信手段で送信された投影データの送信が完了し、前記移動手段で移動する投影データが前記携帯端末の位置まで移動した場合に、当該投影データを非表示にする表示制御手段
を更に備えることを特徴とする請求項4に記載の情報処理装置。
The information processing apparatus includes:
Display control means for hiding the projection data when transmission of the projection data transmitted by the projection data transmitting means is completed and the projection data moving by the moving means has moved to the position of the portable terminal. The information processing apparatus according to claim 4, further comprising:
投影データを投影する投影装置と携帯端末と通信可能な情報処理装置の制御方法であって、
前記情報処理装置のグルーピング手段が、複数の前記携帯端末のうち、少なくとも2以上の携帯端末をグルーピングするグルーピングステップと、
前記情報処理装置のフリック操作受付手段が、前記投影装置で投影された複数の投影データのうち、前記携帯端末に送信する投影データに対するフリック操作を受け付けるフリック操作受付ステップと、
前記情報処理装置の投影データ送信手段が、前記投影装置で投影データが投影される面に配置された前記携帯端末の位置と前記フリック操作受付ステップで受け付けたフリック操作の方向とに応じて特定される前記携帯端末と、前記グルーピングステップによって当該携帯端末と共にグルーピングされた携帯端末とに対して、前記フリック操作受付ステップでフリック操作を受け付けた投影データを送信する投影データ送信ステップと
を備えることを特徴とする情報処理装置の制御方法。
A control method of an information processing apparatus capable of communicating with a projection device that projects projection data and a portable terminal,
A grouping step in which the grouping means of the information processing apparatus groups at least two or more portable terminals among the plurality of portable terminals;
A flick operation accepting step for accepting a flick operation for projection data to be transmitted to the mobile terminal among a plurality of projection data projected by the projection device;
Projection data transmission means of the information processing device is specified according to the position of the mobile terminal arranged on the surface on which projection data is projected by the projection device and the direction of the flick operation received in the flick operation reception step. A projection data transmission step of transmitting the projection data received in the flick operation reception step to the mobile terminals grouped together with the mobile terminal by the grouping step. A method for controlling the information processing apparatus.
投影データを投影する投影装置と携帯端末と通信可能な情報処理装置の制御方法を実行可能なプログラムであって、
前記情報処理装置を、
複数の前記携帯端末のうち、少なくとも2以上の携帯端末をグルーピングするグルーピング手段と、
前記投影装置で投影された複数の投影データのうち、前記携帯端末に送信する投影データに対するフリック操作を受け付けるフリック操作受付手段と、
前記投影装置で投影データが投影される面に配置された前記携帯端末の位置と前記フリック操作受付手段で受け付けたフリック操作の方向とに応じて特定される前記携帯端末と、前記グルーピング手段によって当該携帯端末と共にグルーピングされた携帯端末とに対して、前記フリック操作受付手段でフリック操作を受け付けた投影データを送信する投影データ送信手段
として機能させることを特徴とするプログラム。
A program capable of executing a control method of an information processing apparatus capable of communicating with a projection apparatus that projects projection data and a portable terminal,
The information processing apparatus;
Grouping means for grouping at least two or more of the plurality of portable terminals;
A flick operation accepting unit that accepts a flick operation on projection data to be transmitted to the mobile terminal among a plurality of projection data projected by the projection device;
The portable terminal specified according to the position of the portable terminal arranged on the surface on which projection data is projected by the projection device and the direction of the flick operation received by the flick operation receiving means, and the grouping means A program causing a mobile terminal grouped together with mobile terminals to function as projection data transmitting means for transmitting projection data whose flick operation has been received by the flick operation receiving means.
JP2015185129A 2015-09-18 2015-09-18 Information processing device, control method thereof, and program Pending JP2017059125A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015185129A JP2017059125A (en) 2015-09-18 2015-09-18 Information processing device, control method thereof, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015185129A JP2017059125A (en) 2015-09-18 2015-09-18 Information processing device, control method thereof, and program

Publications (1)

Publication Number Publication Date
JP2017059125A true JP2017059125A (en) 2017-03-23

Family

ID=58390580

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015185129A Pending JP2017059125A (en) 2015-09-18 2015-09-18 Information processing device, control method thereof, and program

Country Status (1)

Country Link
JP (1) JP2017059125A (en)

Similar Documents

Publication Publication Date Title
US11392212B2 (en) Systems and methods of creating a realistic displacement of a virtual object in virtual reality/augmented reality environments
JP6007497B2 (en) Image projection apparatus, image projection control apparatus, and program
US20190285978A1 (en) Picture selection method of projection touch
CN105229582B (en) Gesture detection based on proximity sensor and image sensor
JP2018516422A (en) Gesture control system and method for smart home
US10268277B2 (en) Gesture based manipulation of three-dimensional images
CN104254817A (en) Rapid gesture re-engagement
EP2919103A1 (en) Information processing device, information processing method and computer-readable recording medium
US20170212906A1 (en) Interacting with user interfacr elements representing files
EP2965181B1 (en) Enhanced canvas environments
CN109101173B (en) Screen layout control method, device, equipment and computer readable storage medium
JP6187547B2 (en) Information processing apparatus, control method and program thereof, and information processing system, control method and program thereof
JP5999236B2 (en) INFORMATION PROCESSING SYSTEM, ITS CONTROL METHOD, AND PROGRAM, AND INFORMATION PROCESSING DEVICE, ITS CONTROL METHOD, AND PROGRAM
JP2017059125A (en) Information processing device, control method thereof, and program
KR20150097250A (en) Sketch retrieval system using tag information, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor
KR102294717B1 (en) A system and method for providing an augmented reality image for providing a transformed object
KR101911676B1 (en) Apparatus and Method for Presentation Image Processing considering Motion of Indicator
JP2018072914A (en) Information processing apparatus, information processing system, control method thereof, and program
JP6634820B2 (en) Information processing apparatus, control method thereof, and program
KR20150100332A (en) Sketch retrieval system, user equipment, service equipment, service method and computer readable medium having computer program recorded therefor
JP7331578B2 (en) Display device, image display method, program
KR102163825B1 (en) Method for implementing user interface of user equipment and apparatus for using the method
JP2018109831A (en) Information processing system, control method thereof, and program, as well as information processing device, control method thereof, and program
JP6705988B2 (en) Information processing system, control method thereof, and program
Kim et al. A location-sensitive visual interface on the palm: interacting with common objects in an augmented space

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20180703