JP2013044895A - Image display system, image display device, controlling method of the same, and program - Google Patents

Image display system, image display device, controlling method of the same, and program Download PDF

Info

Publication number
JP2013044895A
JP2013044895A JP2011181931A JP2011181931A JP2013044895A JP 2013044895 A JP2013044895 A JP 2013044895A JP 2011181931 A JP2011181931 A JP 2011181931A JP 2011181931 A JP2011181931 A JP 2011181931A JP 2013044895 A JP2013044895 A JP 2013044895A
Authority
JP
Japan
Prior art keywords
image display
display device
image
owner
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011181931A
Other languages
Japanese (ja)
Other versions
JP2013044895A5 (en
JP6041470B2 (en
Inventor
Yukio Numagami
幸夫 沼上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011181931A priority Critical patent/JP6041470B2/en
Publication of JP2013044895A publication Critical patent/JP2013044895A/en
Publication of JP2013044895A5 publication Critical patent/JP2013044895A5/en
Application granted granted Critical
Publication of JP6041470B2 publication Critical patent/JP6041470B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To specify the existence of another user who refers to attribute information about the same subject.SOLUTION: An image display system includes a first image display device 10, and a second display device 20. The first image display device 10 includes a notification portion for notifying reference information indicating that an owner of the first image display device 10 refers to attribute information of an object in an image, to a communication device 30 associated with the object. The second image display device 20 includes: an obtaining portion for obtaining the reference information from the communication device 30; and a display portion for displaying information indicating the existence of the owner of the first image display device 10 on the basis of the reference information, when an owner of the second image display device 20 refers to the attribute information of the object.

Description

本発明は、画像表示システム、画像表示装置、それらの制御方法、およびプログラムに関し、特に、被写体に関する属性情報を合成して表示する画像表示システム、画像表示装置、それらの制御方法、およびプログラムに関する。   The present invention relates to an image display system, an image display device, a control method thereof, and a program, and more particularly, to an image display system, an image display device, a control method thereof, and a program for combining and displaying attribute information related to a subject.

近年、デジタルカメラや携帯電話等で撮像した現実環境の画像中に、被写体となる人物や物体などのオブジェクトに関する属性情報を合成して表示する拡張現実(AR:Augumented Reality)技術が盛んである。例えば、撮像画像に対して、GPS(Global Positioning System)による位置情報から現実環境中のオブジェクトを特定し、そのオブジェクトに関する属性情報を重ね合わせて表示する技術が提案されている(非特許文献1参照)。   2. Description of the Related Art In recent years, augmented reality (AR) technology that synthesizes and displays attribute information about an object such as a person or an object as a subject in an image of a real environment captured by a digital camera or a mobile phone has been popular. For example, a technique has been proposed in which an object in a real environment is specified on a captured image from position information obtained by GPS (Global Positioning System), and attribute information related to the object is superimposed and displayed (see Non-Patent Document 1). ).

また、人物の顔や物体の輪郭など、被写体となるオブジェクトに関する特徴情報を利用して、撮像画像中のオブジェクトを特定し、そのオブジェクトに関する属性情報を、撮像画像中のオブジェクトの近傍に、合成して表示する技術も提案されている(特許文献1参照)。これにより、利用者は、現実環境中において興味を持った人物や物体に関する属性情報を容易に取得し、参照することができる。   In addition, the object information in the captured image is identified using the feature information about the object that is the subject, such as the face of the person or the contour of the object, and the attribute information about the object is synthesized in the vicinity of the object in the captured image. A technique for displaying images is also proposed (see Patent Document 1). Thereby, the user can easily acquire and refer to attribute information related to a person or object interested in the real environment.

現実環境中において、利用者が興味を持って特定の人物や物体に関する属性情報を参照している際、他の利用者も同じ人物や物体に関する属性情報を参照している場合がある。   In a real environment, when a user is interested and refers to attribute information about a specific person or object, other users may also refer to attribute information about the same person or object.

例えば、美術館や博物館に展示されている特定の物体に対して、第一の利用者が興味を持ち、その物体に関する詳細な解説を参照している場合を考える。一方、第二の利用者も、同じ物体に関して興味を持ち、その物体に関する詳細な解説を参照しているとする。このとき、第一の利用者、及び第二の利用者が、同じ物体に興味を持っている他方の利用者の存在を知り、その利用者を特定することができれば、同じ趣味を持つ利用者同士が知り合う機会となりうる。   For example, consider a case where a first user is interested in a specific object displayed in an art museum or a museum and is referring to a detailed explanation about the object. On the other hand, it is assumed that the second user is also interested in the same object and is referring to a detailed explanation about the object. At this time, if the first user and the second user know the existence of the other user who is interested in the same object and can identify the user, the user who has the same hobby It can be an opportunity to get to know each other.

特開2002‐305717号公報JP 2002-305717 A

Sekai Camera[平成23年7月28日検索]インターネット<URL:http・//sekaicamera.com>Sekai Camera [Search July 28, 2011] Internet <URL: http://sekaicamera.com>

しかしながら、従来の技術では、利用者は、当該利用者と同じ人物や物体に関する属性情報を参照している他の利用者の存在を知ることができない。そのため、同じ趣味を持つ利用者同士が知り合う機会が減ってしまう。   However, in the conventional technology, the user cannot know the existence of other users who are referring to attribute information related to the same person or object as the user. Therefore, the opportunity for users having the same hobbies to get to know decreases.

上記の課題にかんがみ、本発明は、同じ被写体に関する属性情報を参照している他の利用者の存在を特定可能にする技術を提供することを目的とする。   In view of the above-described problems, an object of the present invention is to provide a technique that makes it possible to specify the presence of another user who refers to attribute information related to the same subject.

上記の目的を達成する本発明に係る画像表示システムは、
第一の画像表示装置と、第二の画像表示装置とを備える画像表示システムであって、
前記第一の画像表示装置は、
前記第一の画像表示装置の所有者が画像中のオブジェクトの属性情報を参照していることを示す参照情報を、前記オブジェクトと関連付けられている通信装置へ通知する通知手段を備え、
前記第二の画像表示装置は、
前記参照情報を前記通信装置から取得する取得手段と、
前記第二の画像表示装置の所有者が前記オブジェクトの属性情報を参照している場合に、前記参照情報に基づいて、前記第一の画像表示装置の所有者の存在を示す情報を表示する表示手段と、
を備えることを特徴とする。
An image display system according to the present invention that achieves the above object is as follows.
An image display system comprising a first image display device and a second image display device,
The first image display device includes:
Notification means for notifying the communication device associated with the object of reference information indicating that the owner of the first image display device refers to the attribute information of the object in the image;
The second image display device includes:
Obtaining means for obtaining the reference information from the communication device;
A display for displaying information indicating the presence of the owner of the first image display device based on the reference information when the owner of the second image display device is referring to the attribute information of the object Means,
It is characterized by providing.

本発明によれば、同じ被写体に関する属性情報を参照している他の利用者の存在を特定することができる。すなわち、第一の画像表示装置の第一の利用者は、同じ被写体に関する属性情報を参照している第二の画像表示装置の第二の利用者の存在を知ることが可能となる。さらに、第二の利用者が、第一の利用者の近辺に存在する場合、第一の利用者は、撮像画像中から第二の利用者を特定することが可能となる。   According to the present invention, it is possible to specify the presence of another user who refers to attribute information related to the same subject. That is, the first user of the first image display device can know the presence of the second user of the second image display device that refers to the attribute information related to the same subject. Furthermore, when the second user exists in the vicinity of the first user, the first user can specify the second user from the captured image.

これにより、同じ被写体に興味を持つ利用者同士が知り合う機会が増大し、利用者同士のコミュニケーションの活性化につながる。   This increases the opportunities for users who are interested in the same subject to know each other, leading to activation of communication between the users.

第1実施形態に係る画像表示システムの構成例を示す図。The figure which shows the structural example of the image display system which concerns on 1st Embodiment. 第1実施形態に係る第一の画像表示装置10のハードウェア構成例を示すブロック図。FIG. 2 is a block diagram showing a hardware configuration example of the first image display apparatus 10 according to the first embodiment. 第1実施形態に係る第一の画像表示装置10の機能モジュール構成例を示すブロック図。FIG. 2 is a block diagram illustrating an example of a functional module configuration of the first image display apparatus 10 according to the first embodiment. 第1実施形態に係る通信装置30のハードウェア構成例を示すブロック図。The block diagram which shows the hardware structural example of the communication apparatus 30 which concerns on 1st Embodiment. 第1実施形態に係る通信装置30の機能モジュール構成例を示すブロック図。FIG. 3 is a block diagram showing an example functional module configuration of the communication device 30 according to the first embodiment. 第1実施形態に係る第一の利用者11、及び第二の利用者21が、物体31の属性情報を参照しているユースケースを示す概念図。The conceptual diagram which shows the use case in which the 1st user 11 and 2nd user 21 which concern on 1st Embodiment are referring the attribute information of the object 31. FIG. 第1実施形態に係る参照情報の構成を示す構成図。The block diagram which shows the structure of the reference information which concerns on 1st Embodiment. 第1実施形態に係る第一の画像表示装置10が、物体31を撮像する際のメッセージの例を示すシーケンス。The sequence which shows the example of the message at the time of the 1st image display apparatus 10 which concerns on 1st Embodiment images the object 31. FIG. 第1実施形態に係る第一の画像表示装置10が、参照情報を通知する際のメッセージの例を示すシーケンス。The sequence which shows the example of the message at the time of the 1st image display apparatus 10 which concerns on 1st Embodiment notifies reference information. 第1実施形態に係る第二の画像表示装置20が、参照情報一覧を取得する際のメッセージの例を示すシーケンス。The sequence which shows the example of the message at the time of the 2nd image display apparatus 20 which concerns on 1st Embodiment acquires a reference information list. 第1実施形態に係る第二の画像表示装置20が、第一の利用者11を撮像する際のメッセージの例を示すシーケンス。The sequence which shows the example of the message at the time of the 2nd image display apparatus 20 which concerns on 1st Embodiment images the 1st user 11. FIG. 第1実施形態に係る第一の画像表示装置10、及び第二の画像表示装置20が、撮像する動作の手順を示すフローチャート。The flowchart which shows the procedure of the operation | movement which the 1st image display apparatus 10 and 2nd image display apparatus 20 which concern on 1st Embodiment image. 第1実施形態に係る第一の画像表示装置10、及び第二の画像表示装置20が、参照情報を通知する動作の手順を示すフローチャート。The flowchart which shows the procedure of the operation | movement which the 1st image display apparatus 10 which concerns on 1st Embodiment, and the 2nd image display apparatus 20 notify reference information. 第1実施形態に係る第一の画像表示装置10、及び第二の画像表示装置20が、参照情報一覧を取得する動作の手順を示すフローチャート。The flowchart which shows the procedure of the operation | movement in which the 1st image display apparatus 10 which concerns on 1st Embodiment, and the 2nd image display apparatus 20 acquire a reference information list. 第1実施形態に係る第一の画像表示装置10、及び第二の画像表示装置20が、他方の画像表示装置に接続し、撮像画像を交換する動作の手順を示すフローチャート。The flowchart which shows the procedure of the operation | movement which the 1st image display apparatus 10 which concerns on 1st Embodiment, and the 2nd image display apparatus 20 connect to the other image display apparatus, and replaces a captured image. 第1実施形態に係る第二の画像表示装置20が、物体31を参照している第一の利用者11が存在していることを示す合成画像の例。The example of the synthesized image which shows that the 2nd image display apparatus 20 which concerns on 1st Embodiment has the 1st user 11 which refers to the object 31 exists. 第1実施形態に係る第二の画像表示装置20が、第一の利用者11を撮像した際のユースケースを示す概念図。The conceptual diagram which shows the use case at the time of the 2nd image display apparatus 20 which concerns on 1st Embodiment images the 1st user 11. FIG.

(第1実施形態)
図1は、本実施形態に係る画像表示システムの構成例を示す図である。第一の画像表示装置10は、本発明における画像表示装置であり、撮像機能、表示機能、及びIEEE802.11に則った無線LAN(Local Area Network)通信機能を有する。第一の画像表示装置10の具体例は、デジタルカメラ、デジタルビデオカメラ、携帯電話、スマートフォン、PC、ノートPC、などである。なお、本実施形態では無線LAN通信機能を用いたが、これに限らず、Bluetooth、ZigBee、RFID、などの他の無線通信規格を利用しても良い。
(First embodiment)
FIG. 1 is a diagram illustrating a configuration example of an image display system according to the present embodiment. The first image display device 10 is an image display device according to the present invention, and has an imaging function, a display function, and a wireless LAN (Local Area Network) communication function conforming to IEEE 802.11. Specific examples of the first image display device 10 are a digital camera, a digital video camera, a mobile phone, a smartphone, a PC, a notebook PC, and the like. In this embodiment, the wireless LAN communication function is used. However, the present invention is not limited to this, and other wireless communication standards such as Bluetooth, ZigBee, and RFID may be used.

また、第一の画像表示装置10は、被写体となるオブジェクトの特徴情報に基づいて、撮像画像中から当該オブジェクトを特定する。そして、第一の画像表示装置10は、そのオブジェクトに関する属性情報を、撮像画像中のオブジェクトの近傍に、重ね合わせて表示する。本実施形態において、第一の画像表示装置10が被写体として撮像するオブジェクトは、物体31、及び第二の利用者21であり、以後、特に明記しない限りはこれらを示す。   In addition, the first image display device 10 identifies the object from the captured image based on the feature information of the object that is the subject. Then, the first image display apparatus 10 displays the attribute information related to the object so as to overlap the vicinity of the object in the captured image. In the present embodiment, the objects imaged as subjects by the first image display device 10 are the object 31 and the second user 21, and these will be shown unless otherwise specified.

第一の利用者11は、第一の画像表示装置10を所有する利用者である。第二の画像表示装置20は、第一の画像表示装置10と同じく、本発明における画像表示装置である。本実施形態において、第二の画像表示装置20が被写体として撮像するオブジェクトは、物体31、及び第一の利用者11である。第二の利用者21は、第二の画像表示装置20を所有する利用者である。通信装置30は、本発明における通信装置であり、無線LAN通信機能を有する。通信装置30の具体例は、携帯電話、スマートフォン、PC、ノートPC、などである。通信装置30における無線LAN通信機能は、第一の画像表示装置10、及び第二の画像表示装置20と同様に、他の無線通信規格を利用しても良い。物体31は、本発明における被写体となるオブジェクトであり、通信装置30を所有している。すなわち、通信装置30は、オブジェクトと関連付けられている。   The first user 11 is a user who owns the first image display device 10. The second image display device 20 is an image display device according to the present invention, like the first image display device 10. In the present embodiment, the objects that the second image display device 20 captures as subjects are the object 31 and the first user 11. The second user 21 is a user who owns the second image display device 20. The communication device 30 is a communication device according to the present invention and has a wireless LAN communication function. Specific examples of the communication device 30 are a mobile phone, a smartphone, a PC, a notebook PC, and the like. As with the first image display device 10 and the second image display device 20, the wireless LAN communication function in the communication device 30 may use other wireless communication standards. The object 31 is an object that is a subject in the present invention, and owns the communication device 30. That is, the communication device 30 is associated with an object.

なお、本実施形態において、第一の画像表示装置10、第二の画像表示装置20、及び通信装置30は、それぞれに一意の識別子を割り当てられている。この識別子は、各装置を所有する利用者または物体を一意に識別するための情報である。各装置に割り当てられた識別子は、無線LAN通信におけるIEEE802.11に則ったビーコン・フレームのInformation Elementの一要素として、他の装置に通知される。   In the present embodiment, each of the first image display device 10, the second image display device 20, and the communication device 30 is assigned a unique identifier. This identifier is information for uniquely identifying the user or object that owns each device. The identifier assigned to each device is notified to other devices as an element of an Information Element of a beacon frame in accordance with IEEE 802.11 in wireless LAN communication.

無線AP40は、第一の画像表示装置10、第二の画像表示装置20、及び通信装置30における無線LAN通信を中継する無線アクセスポイントである。   The wireless AP 40 is a wireless access point that relays wireless LAN communication in the first image display device 10, the second image display device 20, and the communication device 30.

ネットワーク50は、無線AP40、及び管理サーバ60が接続するネットワークである。ネットワーク50の具体例は、有線LAN、無線LAN、WAN(Wide Area Network)、インターネット、などである。   The network 50 is a network to which the wireless AP 40 and the management server 60 are connected. Specific examples of the network 50 include a wired LAN, a wireless LAN, a WAN (Wide Area Network), the Internet, and the like.

管理サーバ60は、各装置に割り当てられた識別子、各装置を所有する利用者または物体に関する属性情報、そして、被写体となる利用者または物体を撮像画像中からオブジェクトとして特定するための画像の特徴情報、を管理する。   The management server 60 includes an identifier assigned to each device, attribute information regarding a user or object that owns each device, and image feature information for identifying the user or object that is the subject as an object from the captured image. , Manage.

なお、第一の画像表示装置10、第二の画像表示装置20、及び通信装置30は、各装置間において直接、または無線AP40を経由して通信することができる。各装置間で直接通信する場合、無線LAN通信機能におけるアドホックモードを利用する。また、無線AP40を経由して通信する場合、無線LAN通信機能におけるインフラモードを利用する。これらの関係を、図1において実線矢印で示す。   The first image display device 10, the second image display device 20, and the communication device 30 can communicate with each other directly or via the wireless AP 40. When communicating directly between devices, an ad hoc mode in a wireless LAN communication function is used. Further, when communicating via the wireless AP 40, the infrastructure mode in the wireless LAN communication function is used. These relationships are indicated by solid arrows in FIG.

また、上述した通り、第一の画像表示装置10、第二の画像表示装置20、及び通信装置30は、それぞれ一意の識別子を有しており、他の装置はその識別子を取得することができる。これらの関係を、図1において破線矢印で示す。   Further, as described above, the first image display device 10, the second image display device 20, and the communication device 30 each have a unique identifier, and other devices can acquire the identifier. . These relationships are indicated by broken-line arrows in FIG.

さらに、上述した通り、第一の画像表示装置10、及び第二の画像表示装置20は、被写体となる物体31を、物体31に関する特徴情報に基づいて、撮像画像中から物体31を特定することができる。同様に、第一の画像表示装置10は、第二の利用者21に関する特徴情報に基づいて、撮像画像中から第二の利用者21を特定することができる。逆に、第二の画像表示装置20は、第一の利用者11に関する特徴情報に基づいて、撮像画像中から第一の利用者11を特定することができる。これらの関係を、図1において長二点鎖線矢印で示す。   Further, as described above, the first image display device 10 and the second image display device 20 identify the object 31 from the captured image based on the feature information related to the object 31 as the subject 31. Can do. Similarly, the first image display device 10 can specify the second user 21 from the captured image based on the feature information regarding the second user 21. On the contrary, the second image display device 20 can identify the first user 11 from the captured image based on the feature information regarding the first user 11. These relationships are indicated by long two-dot chain arrows in FIG.

次に、本実施形態に係る画像表示システムのユースケースを説明する。図6は、本実施形態に係る第一の利用者11、及び第二の利用者21が、物体31の属性情報を参照しているユースケースを示す概念図である。第一の利用者11は、第一の画像表示装置10を用いて、被写体となる物体31を撮像する。このとき、第一の画像表示装置10は、物体31に関する属性情報33を、物体31の物体画像32の近傍に、合成して表示する。属性情報33は、例えばテキスト情報であってもよい。第二の利用者21、及び第二の画像表示装置20も、上記と同様である。   Next, use cases of the image display system according to the present embodiment will be described. FIG. 6 is a conceptual diagram illustrating a use case in which the first user 11 and the second user 21 according to the present embodiment are referring to the attribute information of the object 31. The first user 11 uses the first image display device 10 to image the object 31 that is the subject. At this time, the first image display device 10 synthesizes and displays the attribute information 33 related to the object 31 in the vicinity of the object image 32 of the object 31. The attribute information 33 may be text information, for example. The second user 21 and the second image display device 20 are the same as described above.

図16は、本実施形態に係る第二の画像表示装置20が、物体31を参照している第一の利用者11が存在していることを示す合成画像の例である。第二の画像表示装置20は、物体31に関する属性情報33を参照した際、同じ物体31を参照している第二の画像表示装置10の存在を検知し、その所有者である第一の利用者11が存在することを示すメッセージ34を、図16の例では物体画像32の右上に表示する。なお、第一の画像表示装置10に関する識別子を取得できたが、撮像画像中からは第一の利用者11の存在を特定できなかった場合、第一の利用者11が近辺に存在している確率が高いため、メッセージ34に示したように、近辺に存在していることを明示的に示す。   FIG. 16 is an example of a composite image indicating that the first user 11 referring to the object 31 is present in the second image display device 20 according to the present embodiment. When the second image display device 20 refers to the attribute information 33 related to the object 31, the second image display device 20 detects the presence of the second image display device 10 that refers to the same object 31, and the first use is the owner. In the example of FIG. 16, a message 34 indicating that the person 11 exists is displayed at the upper right of the object image 32. In addition, although the identifier regarding the 1st image display apparatus 10 was able to be acquired, when the presence of the 1st user 11 cannot be specified from the captured image, the 1st user 11 exists in the vicinity. Since the probability is high, as shown in the message 34, it clearly indicates that it exists in the vicinity.

図17は、本実施形態に係る第二の画像表示装置20が、第一の利用者11を撮像した際のユースケースを示す概念図である。図16によって第一の利用者11の存在を知った第二の利用者21が、第二の画像表示装置20の撮像部を、第一の利用者11に向けて撮像する。そうすると、第二の画像表示装置20は、第一の利用者11の人物画像35と、人物画像35の近辺に、第一の利用者11が物体31を参照している旨を示すメッセージ36を合成して表示する。   FIG. 17 is a conceptual diagram illustrating a use case when the second image display apparatus 20 according to the present embodiment images the first user 11. The second user 21 who knows the presence of the first user 11 in FIG. 16 images the imaging unit of the second image display device 20 toward the first user 11. Then, the second image display device 20 displays a person image 35 of the first user 11 and a message 36 indicating that the first user 11 is referring to the object 31 in the vicinity of the person image 35. Combine and display.

次に、本実施形態に係る画像表示システムの構成要素を詳細に説明する。図2は、本実施形態に係る第一の画像表示装置10のハードウェア構成例を示すブロック図である。なお、第二の画像表示装置20も、第一の画像表示装置10と同じ構成であるため、以後は第一の画像表示装置10のみを説明する。第一の画像表示装置10は、CPU(Central Processing Unit)201と、ROM(Read Only Memory)202と、RAM(Random Access Memory)203と、補助記憶装置204と、撮像部205と、画像処理プロセッサ206と、表示部207と、操作部208と、無線LAN通信部209と、無線LANアンテナ210とを備える。   Next, components of the image display system according to the present embodiment will be described in detail. FIG. 2 is a block diagram illustrating a hardware configuration example of the first image display apparatus 10 according to the present embodiment. Since the second image display device 20 has the same configuration as the first image display device 10, only the first image display device 10 will be described below. The first image display device 10 includes a CPU (Central Processing Unit) 201, a ROM (Read Only Memory) 202, a RAM (Random Access Memory) 203, an auxiliary storage device 204, an imaging unit 205, and an image processing processor. 206, a display unit 207, an operation unit 208, a wireless LAN communication unit 209, and a wireless LAN antenna 210.

CPU201は、第一の画像表示装置10全体を制御する。ROM202は、変更を必要としないプログラムやパラメータを格納する。RAM203は、補助記憶装置204などから供給されるプログラムやデータを一時記憶する。   The CPU 201 controls the entire first image display device 10. The ROM 202 stores programs and parameters that do not need to be changed. The RAM 203 temporarily stores programs and data supplied from the auxiliary storage device 204 or the like.

補助記憶装置204は、撮像部205により撮像された画像や動画などをコンテンツデータとして記憶する。例えば、メモリカード、ハードディスク、などが挙げられる。撮像部205は、被写体となる対象物からレンズを通して入力された光を、アナログ信号データからデジタル信号データへ変換して、撮像画像のRAWデータを生成する。   The auxiliary storage device 204 stores images, moving images, and the like captured by the imaging unit 205 as content data. For example, a memory card, a hard disk, etc. are mentioned. The imaging unit 205 converts light input from an object to be a subject through a lens from analog signal data to digital signal data, and generates RAW data of the captured image.

画像処理プロセッサ206は、撮像画像のRAWデータに対して、補完、色空間変換、ガンマ特性変換などの様々な画像補正処理を適用し、JPEG(Joint Photographic Experts Group)データを生成する。本実施形態において、撮像画像データはJPEGデータ形式を扱うが、これに限らず、ビットマップデータ、GIF(Graphics Interchange Format)データ、など他の画像データ形式を利用しても良い。   The image processor 206 applies various image correction processes such as interpolation, color space conversion, and gamma characteristic conversion to the RAW data of the captured image, and generates JPEG (Joint Photographic Experts Group) data. In the present embodiment, the captured image data handles the JPEG data format, but is not limited to this, and other image data formats such as bitmap data and GIF (Graphics Interchange Format) data may be used.

また、画像処理プロセッサ206は、画像の特徴情報に基づいて、撮像画像中の被写体となるオブジェクトの画像認識処理を行い、撮像画像中のオブジェクトを特定する。さらに、画像処理プロセッサ206は、オブジェクトに関する属性情報を、撮像画像中のオブジェクトの近傍に重ね合わせた合成画像を生成する。近傍とは、例えば撮像画像中のオブジェクトに対して上下左右に所定距離だけ離れた所定位置である。   Also, the image processor 206 performs image recognition processing of an object that is a subject in the captured image based on the feature information of the image, and identifies an object in the captured image. Furthermore, the image processor 206 generates a composite image in which attribute information about the object is superimposed on the vicinity of the object in the captured image. The vicinity is, for example, a predetermined position that is separated from the object in the captured image by a predetermined distance vertically and horizontally.

表示部207は、ユーザが第一の画像表示装置10を操作するためのGUI(Graphical User Interface)を表示する。また、表示部207は、撮像部205により撮像された撮像画像、または、画像処理プロセッサ206により生成された合成画像を表示する。   The display unit 207 displays a GUI (Graphical User Interface) for the user to operate the first image display device 10. The display unit 207 displays a captured image captured by the imaging unit 205 or a composite image generated by the image processor 206.

操作部208は、ユーザが第一の画像表示装置10を操作するための入力インタフェースである。無線LAN通信部209は、無線LANアンテナ210を制御し、無線AP40、第二の画像表示装置20、または通信装置30と通信する。   The operation unit 208 is an input interface for the user to operate the first image display device 10. The wireless LAN communication unit 209 controls the wireless LAN antenna 210 and communicates with the wireless AP 40, the second image display device 20, or the communication device 30.

図3は、本実施形態に係る第一の画像表示装置10の機能モジュール構成例を示すブロック図である。なお、第二の画像表示装置20も、第一の画像表示装置10と同じ構成であるため、以後は第一の画像表示装置10のみを説明する。第一の画像表示装置10は、制御部301と、無線LAN通信制御部302と、撮像制御部303と、表示制御部304と、操作制御部305と、記憶制御部306と、識別子通知部307と、識別子取得部308と、特徴情報取得部309と、属性情報取得部310と、オブジェクト特定部311と、画像合成部312と、オブジェクト管理部313と、参照情報通知部314と、参照情報一覧取得部315と、参照元オブジェクト判断部316とを備える。   FIG. 3 is a block diagram illustrating a functional module configuration example of the first image display apparatus 10 according to the present embodiment. Since the second image display device 20 has the same configuration as the first image display device 10, only the first image display device 10 will be described below. The first image display apparatus 10 includes a control unit 301, a wireless LAN communication control unit 302, an imaging control unit 303, a display control unit 304, an operation control unit 305, a storage control unit 306, and an identifier notification unit 307. An identifier acquisition unit 308, a feature information acquisition unit 309, an attribute information acquisition unit 310, an object identification unit 311, an image composition unit 312, an object management unit 313, a reference information notification unit 314, and a reference information list. An acquisition unit 315 and a reference source object determination unit 316 are provided.

制御部301は、第一の画像表示装置10が備える個々の機能モジュール全体を制御する。無線LAN通信制御部302は、無線LAN通信部209を制御し、無線AP40、第二の画像表示装置20、または通信装置30との通信制御を行う。撮像制御部303は、撮像部205を制御し、被写体の画像を撮像する。また、撮像制御部303は、撮像画像を画像コンテンツデータとして、記憶制御部306を介して、補助記憶装置204に記憶する。   The control unit 301 controls the entire individual functional modules included in the first image display device 10. The wireless LAN communication control unit 302 controls the wireless LAN communication unit 209 and performs communication control with the wireless AP 40, the second image display device 20, or the communication device 30. The imaging control unit 303 controls the imaging unit 205 to capture an image of the subject. Further, the imaging control unit 303 stores the captured image as image content data in the auxiliary storage device 204 via the storage control unit 306.

表示制御部304は、表示部207を制御し、第一の画像表示装置10におけるGUIの表示制御を行う。また、表示制御部304は、撮像画像や合成画像の表示制御を行う。操作制御部305は、操作部208を制御し、第一の画像表示装置10におけるユーザからの操作入力制御を行う。   The display control unit 304 controls the display unit 207 to perform GUI display control in the first image display device 10. In addition, the display control unit 304 performs display control of the captured image and the composite image. The operation control unit 305 controls the operation unit 208 to perform operation input control from the user in the first image display device 10.

記憶制御部306は、補助記憶装置204を制御し、画像コンテンツデータや動画コンテンツデータを記憶する。識別子通知部307は、無線LAN通信部209を介して、周囲の装置から送信された識別子取得要求を受信する。そして、識別子通知部307は、無線LAN通信制御部302を制御し、第一の画像表示装置10に割り当てられた一意の識別子の情報を送信する。具体的には、IEEE802.11に則ったプローブ・レスポンス・フレームで送信する。   The storage control unit 306 controls the auxiliary storage device 204 and stores image content data and moving image content data. The identifier notification unit 307 receives an identifier acquisition request transmitted from a peripheral device via the wireless LAN communication unit 209. Then, the identifier notification unit 307 controls the wireless LAN communication control unit 302 and transmits information on the unique identifier assigned to the first image display device 10. More specifically, the probe response frame is transmitted in accordance with IEEE 802.11.

識別子取得部308は、無線LAN通信制御部302を制御し、周囲の装置に対して識別子の取得を要求する。具体的には、IEEE802.11に則ったプローブ・リクエスト・フレームをブロードキャストで送信する。そして、識別子取得部308は、無線LAN通信制御部302を介して、周囲の装置が通知した識別子の情報を取得する。   The identifier acquisition unit 308 controls the wireless LAN communication control unit 302 and requests peripheral devices to acquire an identifier. Specifically, a probe request frame conforming to IEEE 802.11 is transmitted by broadcast. Then, the identifier acquisition unit 308 acquires the identifier information notified by the peripheral devices via the wireless LAN communication control unit 302.

特徴情報取得部309は、無線LAN通信制御部302を介して、識別子取得部308が取得した識別子に基づいて、管理サーバ60から当該識別子に関するオブジェクトの特徴情報を取得する。   The feature information acquisition unit 309 acquires the object feature information related to the identifier from the management server 60 based on the identifier acquired by the identifier acquisition unit 308 via the wireless LAN communication control unit 302.

属性情報取得部310は、無線LAN通信制御部302を介して、識別子取得部308が取得した識別子に基づいて、管理サーバ60から当該識別子に関するオブジェクトの属性情報を取得する。   The attribute information acquisition unit 310 acquires the attribute information of the object related to the identifier from the management server 60 based on the identifier acquired by the identifier acquisition unit 308 via the wireless LAN communication control unit 302.

オブジェクト特定部311は、画像処理プロセッサ206を制御し、特徴情報取得部309が取得した識別子に関するオブジェクトの特徴情報に基づいて、撮像制御部303により撮像されたた撮像画像中から、オブジェクトを特定する。   The object specifying unit 311 controls the image processing processor 206 and specifies an object from the captured images captured by the imaging control unit 303 based on the object feature information related to the identifier acquired by the feature information acquisition unit 309. .

画像合成部312は、撮像制御部303からオブジェクトの撮像画像を取得し、属性情報取得部310から識別子に関する属性情報を取得する。そして、画像合成部312は、画像処理プロセッサ206を制御し、撮像画像に対して、属性情報を、オブジェクト特定部311により特定されたオブジェクトの近傍に重ね合わせた合成画像を生成する。   The image composition unit 312 acquires the captured image of the object from the imaging control unit 303 and acquires attribute information regarding the identifier from the attribute information acquisition unit 310. Then, the image composition unit 312 controls the image processor 206 to generate a composite image in which attribute information is superimposed on the captured image in the vicinity of the object specified by the object specifying unit 311.

オブジェクト管理部313は、撮像画像中から特定されたオブジェクトをオブジェクト特定部311から取得して管理する。さらに、オブジェクト管理部313は、オブジェクトの識別子に基づいて、属性情報取得部310から、当該オブジェクトに関する属性情報を取得し、オブジェクトと合わせて管理する。   The object management unit 313 acquires and manages an object identified from the captured image from the object identification unit 311. Furthermore, the object management unit 313 acquires attribute information related to the object from the attribute information acquisition unit 310 based on the identifier of the object, and manages it together with the object.

また、オブジェクト管理部313は、表示部207に表示する属性情報の内容を決定し、画像合成部312に指示する。属性情報の内容の決定方法は、第一の利用者11の明示的な設定に基づく方法や、第一の利用者11の趣味・嗜好に基づく方法、などが挙げられる。   In addition, the object management unit 313 determines the content of the attribute information displayed on the display unit 207 and instructs the image composition unit 312. Examples of the method for determining the content of the attribute information include a method based on the explicit setting of the first user 11 and a method based on the hobby / preference of the first user 11.

また、画像合成部312により生成された合成画像中において、第一の利用者11が、特定のオブジェクト、または当該オブジェクトの近傍に表示された属性情報を指定した際、オブジェクト管理部313は、当該オブジェクトに関する参照情報を生成する。   When the first user 11 specifies the specific object or the attribute information displayed in the vicinity of the object in the composite image generated by the image composition unit 312, the object management unit 313 Generate reference information about the object.

参照情報とは、第一の画像表示装置10の所有者である第一の利用者11が、オブジェクト、または当該オブジェクトに関する属性情報を参照したことを示す情報である。具体的に参照情報は、例えば、参照先オブジェクトに関する識別子、参照元オブジェクトに関する識別子、参照日時情報、参照状態情報、等から構成される。   The reference information is information indicating that the first user 11 who is the owner of the first image display device 10 has referred to the object or attribute information related to the object. Specifically, the reference information includes, for example, an identifier related to the reference destination object, an identifier related to the reference source object, reference date information, reference state information, and the like.

なお、本実施形態では、被写体となるオブジェクトを参照先オブジェクト、撮像する利用者自身を参照元オブジェクト、と称する。つまり、物体31は参照先オブジェクト、第一の利用者11は参照元オブジェクトである。   In the present embodiment, an object that is a subject is referred to as a reference object, and a user who captures an image is referred to as a reference object. That is, the object 31 is a reference destination object, and the first user 11 is a reference source object.

また、参照状態とは、参照先オブジェクトをどのように参照したかを示す種別である。本実施形態における参照状態は、簡易参照状態、詳細参照状態、撮像状態、登録状態、を扱う。簡易参照状態は、参照先オブジェクトに関する簡易的な属性情報を表示した状態を示す。詳細参照状態は、第一の利用者11の指示等により、参照先オブジェクトに関する詳細な属性情報を表示した状態を示す。撮像状態とは、参照先オブジェクトを被写体として撮像した画像を、画像コンテンツデータとして、記憶制御部306を介して記憶した状態を示す。登録状態とは、参照先オブジェクトを、第一の利用者11の指示等により、お気に入り登録した状態を示す。   The reference state is a type indicating how the reference object is referred to. The reference state in this embodiment handles a simple reference state, a detailed reference state, an imaging state, and a registration state. The simple reference state indicates a state in which simple attribute information regarding the reference destination object is displayed. The detailed reference state indicates a state in which detailed attribute information regarding the reference destination object is displayed according to an instruction from the first user 11 or the like. The imaging state indicates a state where an image obtained by imaging a reference destination object as a subject is stored as image content data via the storage control unit 306. The registered state indicates a state in which the reference destination object is registered as a favorite by an instruction from the first user 11 or the like.

さらに、後述する参照元オブジェクト判断部316により参照元オブジェクトの特定結果を取得した際、オブジェクト管理部313は、画像合成部312に指示し、参照元オブジェクトを、それ以外のオブジェクトとは識別可能に表示する。具体的には、特定のアイコンやメッセージを参照元オブジェクトの近傍に表示する、あるいは、参照元オブジェクトを特定の色や図形で表示する、などが挙げられる。   Furthermore, when a reference source object specifying result is acquired by a reference source object determination unit 316 described later, the object management unit 313 instructs the image composition unit 312 so that the reference source object can be distinguished from other objects. indicate. Specifically, a specific icon or message is displayed in the vicinity of the reference source object, or the reference source object is displayed in a specific color or graphic.

参照情報通知部314は、オブジェクト管理部313が生成した参照先オブジェクトに関する参照情報を、無線LAN通信制御部302を介して、所定の通知先へ通知する。所定の通知先は、参照先オブジェクトに関する属性情報に基づいて決定される。本実施形態では、属性情報中に、参照情報の通知先のアドレス情報が記載されているものとし、参照先オブジェクトが所有する装置自身のアドレス情報とする。つまり、参照先オブジェクトが物体31を示す場合、アドレス情報は通信装置30を示す。   The reference information notification unit 314 notifies reference information about the reference destination object generated by the object management unit 313 to a predetermined notification destination via the wireless LAN communication control unit 302. The predetermined notification destination is determined based on attribute information related to the reference destination object. In the present embodiment, it is assumed that the address information of the reference information notification destination is described in the attribute information, and is the address information of the device itself owned by the reference destination object. That is, when the reference destination object indicates the object 31, the address information indicates the communication device 30.

なお、通知先のアドレス情報としては、IPアドレス、メールアドレス、URI(Uniform Resource Identifier)、などが挙げられる。また、本実施形態では、所定の通知先は、属性情報に記載されているとしたが、これに限らず、あらかじめ規定された通知先でも良い。   Note that the notification destination address information includes an IP address, a mail address, a URI (Uniform Resource Identifier), and the like. In the present embodiment, the predetermined notification destination is described in the attribute information. However, the predetermined notification destination is not limited to this and may be a notification destination defined in advance.

参照情報一覧取得部315は、参照先オブジェクトに対する参照元オブジェクトを示す参照情報の一覧を、無線LAN通信制御部302を介して、所定の取得先から取得する。所定の取得先は、参照先オブジェクトに関する属性情報に基づいて決定される。本実施形態では、属性情報中に、参照情報一覧の取得先のアドレス情報が記載されているものとする。   The reference information list acquisition unit 315 acquires a list of reference information indicating the reference source object for the reference destination object from the predetermined acquisition source via the wireless LAN communication control unit 302. The predetermined acquisition destination is determined based on attribute information regarding the reference destination object. In the present embodiment, it is assumed that address information of the acquisition destination of the reference information list is described in the attribute information.

参照元オブジェクト判断部316は、参照情報一覧取得部315が取得した参照情報一覧に基づいて、撮像画像中から参照元オブジェクトが特定できるか否か判断する。撮像画像中から参照元オブジェクトを特定した場合、参照元オブジェクト判断部316は、その結果をオブジェクト管理部313に通知する。   Based on the reference information list acquired by the reference information list acquisition unit 315, the reference source object determination unit 316 determines whether or not the reference source object can be specified from the captured image. When the reference source object is specified from the captured image, the reference source object determination unit 316 notifies the object management unit 313 of the result.

なお、参照元オブジェクト判断部316は、参照情報一覧中に記載された全ての参照元オブジェクトの存在を判断する必要はなく、参照日時や参照状態に基づいて、特定の条件に合致する参照元オブジェクトの存在のみを判断しても良い。   Note that the reference source object determination unit 316 does not need to determine the presence of all the reference source objects described in the reference information list, and the reference source object that meets a specific condition based on the reference date and time and the reference state. Only the presence of

図4は、本実施形態に係る通信装置30のハードウェア構成例を示すブロック図である。通信装置30は、CPU201と、ROM202と、RAM203と、補助記憶装置204と、無線LAN通信部209と、無線LANアンテナ210とを備える。なお、これらの構成要素は、図2に示した第一の画像表示装置10の構成要素と重複するため、説明は省略する。図5は、本実施形態に係る通信装置30の機能モジュール構成例を示すブロック図である。通信装置30は、制御部301と、無線LAN通信制御部302と、記憶制御部306と、識別子通知部307と、参照情報取得部330と、参照情報管理部331と、参照情報一覧送信部332とを備える。なお、通信装置30の構成要素は、図3に示した第一の画像表示装置10の構成要素と重複するため、差分のみを説明する。   FIG. 4 is a block diagram illustrating a hardware configuration example of the communication device 30 according to the present embodiment. The communication device 30 includes a CPU 201, a ROM 202, a RAM 203, an auxiliary storage device 204, a wireless LAN communication unit 209, and a wireless LAN antenna 210. In addition, since these structural elements overlap with the structural elements of the first image display apparatus 10 shown in FIG. FIG. 5 is a block diagram illustrating a functional module configuration example of the communication device 30 according to the present embodiment. The communication device 30 includes a control unit 301, a wireless LAN communication control unit 302, a storage control unit 306, an identifier notification unit 307, a reference information acquisition unit 330, a reference information management unit 331, and a reference information list transmission unit 332. With. In addition, since the component of the communication apparatus 30 overlaps with the component of the 1st image display apparatus 10 shown in FIG. 3, only a difference is demonstrated.

参照情報取得部330は、無線LAN通信制御部302を介して、第一の画像表示装置10、または第二の画像表示装置20から通知された参照情報を取得する。そして、参照情報取得部330は、記憶制御部306を介して、取得した参照情報を記憶する。   The reference information acquisition unit 330 acquires the reference information notified from the first image display device 10 or the second image display device 20 via the wireless LAN communication control unit 302. Then, the reference information acquisition unit 330 stores the acquired reference information via the storage control unit 306.

参照情報管理部331は、参照情報取得部330により取得された参照情報を管理する。例えば、参照情報管理部331は、所定の期間が経過した参照情報を破棄する。   The reference information management unit 331 manages the reference information acquired by the reference information acquisition unit 330. For example, the reference information management unit 331 discards reference information for which a predetermined period has elapsed.

参照情報一覧送信部332は、無線LAN通信制御部302を介して、第一の画像表示装置10、または第二の画像表示装置20からの参照情報一覧取得要求を受信した際、記憶された参照情報一覧を送信する。   The reference information list transmission unit 332 stores the reference stored when receiving the reference information list acquisition request from the first image display device 10 or the second image display device 20 via the wireless LAN communication control unit 302. Send a list of information.

図7は、本実施形態に係る参照情報の構成例を示す。参照情報は、参照先識別子701と、参照元識別子702と、参照日時703と、参照状態704とを備える。   FIG. 7 shows a configuration example of reference information according to the present embodiment. The reference information includes a reference destination identifier 701, a reference source identifier 702, a reference date and time 703, and a reference state 704.

参照先識別子701は、参照先オブジェクトに関する識別子である。参照元識別子702は、参照元オブジェクトに関する識別子である。参照日時703は、参照元オブジェクトが参照先オブジェクトを参照した日時情報である。参照状態704は、参照元オブジェクトにおける参照先オブジェクトに対する参照状態情報である。   The reference destination identifier 701 is an identifier related to the reference destination object. The reference source identifier 702 is an identifier related to the reference source object. The reference date and time 703 is date and time information when the reference source object refers to the reference destination object. The reference state 704 is reference state information for the reference destination object in the reference source object.

図8は、本実施形態に係る第一の画像表示装置10が、物体31を撮像する際のメッセージの例を示すシーケンスである。   FIG. 8 is a sequence showing an example of a message when the first image display apparatus 10 according to the present embodiment images the object 31.

M801において、第一の画像表示装置10は、物体31を撮像し、撮像画像を画像コンテンツデータとして記憶する。M802において、第一の画像表示装置10は、周囲の装置に対して、各装置の識別子の取得要求を送信する。   In M801, the first image display device 10 captures the object 31 and stores the captured image as image content data. In M802, the first image display apparatus 10 transmits an identifier acquisition request for each apparatus to surrounding apparatuses.

M803において、通信装置30は、第一の画像表示装置10から、識別子取得要求を受信する。そして、通信装置30は、第一の画像表示装置10に、通信装置30に割り当てられた識別子を送信する。   In M803, the communication device 30 receives an identifier acquisition request from the first image display device 10. Then, the communication device 30 transmits the identifier assigned to the communication device 30 to the first image display device 10.

M804において、第一の画像表示装置10は、管理サーバ60に、通信装置30から受信した識別子に基づいて、通信装置30の所有者となるオブジェクトに関する特徴情報の取得要求を送信する。   In M804, the first image display device 10 transmits to the management server 60 a feature information acquisition request regarding the object that is the owner of the communication device 30 based on the identifier received from the communication device 30.

M805において、管理サーバ60は、第一の画像表示装置10に、物体31の特徴情報を送信する。M806において、第一の画像表示装置10は、管理サーバ60から取得した物体31の特徴情報に基づいて、撮像画像中から物体31を特定する。   In M805, the management server 60 transmits the feature information of the object 31 to the first image display device 10. In M806, the first image display device 10 identifies the object 31 from the captured image based on the feature information of the object 31 acquired from the management server 60.

M807において、第一の画像表示装置10は、管理サーバ60に、通信装置30から受信した識別子に基づいて、通信装置30の所有者となるオブジェクトに関する属性情報の取得要求を送信する。   In M807, the first image display apparatus 10 transmits to the management server 60 an attribute information acquisition request regarding the object that is the owner of the communication apparatus 30 based on the identifier received from the communication apparatus 30.

M808において、管理サーバ60は、第一の画像表示装置10に、物体31の属性情報を送信する。M809において、第一の画像表示装置10は、撮像画像中の物体31の近傍に、物体31の属性情報を重ね合わせた合成画像を生成し、表示する。   In M808, the management server 60 transmits the attribute information of the object 31 to the first image display device 10. In M809, the first image display device 10 generates and displays a composite image in which the attribute information of the object 31 is superimposed in the vicinity of the object 31 in the captured image.

図9は、本実施形態に係る第一の画像表示装置10が、参照情報を通知する際のメッセージの例を示すシーケンスである。   FIG. 9 is a sequence showing an example of a message when the first image display apparatus 10 according to the present embodiment notifies the reference information.

M901において、第一の画像表示装置10は、物体31に対する参照情報を生成する。本実施形態において、第一の画像表示装置10は、物体31を被写体として撮像した撮像画像を画像コンテンツデータとして記憶するため、参照情報における参照状態は、撮像状態とする。   In M901, the first image display device 10 generates reference information for the object 31. In the present embodiment, the first image display device 10 stores a captured image obtained by imaging the object 31 as a subject as image content data, and therefore the reference state in the reference information is set to the imaging state.

M902において、第一の画像表示装置10は、物体31の属性情報中の参照情報の通知先情報に基づいて、生成した参照情報の通知先を決定する。本実施形態において、参照情報の通知先は通信装置30とする。   In M902, the first image display device 10 determines the notification destination of the generated reference information based on the notification destination information of the reference information in the attribute information of the object 31. In this embodiment, the notification destination of the reference information is the communication device 30.

M903において、第一の画像表示装置10は、通信装置30に、生成した参照情報を通知する。M904において、通信装置30は、第一の画像表示装置10から、参照情報を受信する。M905において、通信装置30は、受信した参照情報を記憶する。   In M903, the first image display device 10 notifies the communication device 30 of the generated reference information. In M904, the communication device 30 receives the reference information from the first image display device 10. In M905, the communication device 30 stores the received reference information.

図10は、本実施形態に係る第二の画像表示装置20が、参照情報一覧を取得する際のメッセージの例を示すシーケンスである。なお、図示しないが、本実施形態において第二の画像表示装置20も、図8と同様に、物体31を撮像したものとする。   FIG. 10 is a sequence showing an example of a message when the second image display apparatus 20 according to the present embodiment acquires a reference information list. Although not shown, in the present embodiment, the second image display device 20 also captures the object 31 as in FIG.

M1001において、第二の画像表示装置20は、物体31の属性情報中の参照情報一覧の取得先情報に基づいて、参照情報一覧の取得先を決定する。本実施形態において、参照情報一覧の取得先は通信装置30とする。   In M1001, the second image display device 20 determines the acquisition destination of the reference information list based on the acquisition destination information of the reference information list in the attribute information of the object 31. In this embodiment, the acquisition source of the reference information list is the communication device 30.

M1002において、第二の画像表示装置20は、通信装置30に、参照情報一覧の取得要求を送信する。M1003において、通信装置30は、第二の画像表示装置20に、参照情報一覧を送信する。なお、この参照情報一覧には、M903において、第一の画像表示装置10から通信装置30が受信した参照情報が含まれているものとする。   In M1002, the second image display apparatus 20 transmits a reference information list acquisition request to the communication apparatus 30. In M1003, the communication device 30 transmits the reference information list to the second image display device 20. Note that this reference information list includes reference information received by the communication device 30 from the first image display device 10 in M903.

M1004において、第二の画像表示装置20は、受信した参照情報一覧に記載の参照元オブジェクトに関する識別子が取得済であるか否か判断する。本実施形態では、第二の画像表示装置20は、参照元オブジェクトである第一の画像表示装置10の識別子は未取得であると判断する。   In M1004, the second image display device 20 determines whether or not the identifier related to the reference source object described in the received reference information list has been acquired. In the present embodiment, the second image display device 20 determines that the identifier of the first image display device 10 that is the reference source object has not been acquired.

M1005において、第二の画像表示装置20は、管理サーバ60に、参照情報一覧に記載された第一の画像表示装置10に関する識別子に基づいて、第一の画像表示装置10の所有者となるオブジェクトに関する属性情報の取得要求を送信する。   In M1005, the second image display device 20 causes the management server 60 to create an object that becomes the owner of the first image display device 10 based on the identifier related to the first image display device 10 described in the reference information list. Send attribute information acquisition request for.

M1006において、管理サーバ60は、第二の画像表示装置20に、第一の利用者11の属性情報を送信する。M1007において、第二の画像表示装置20は、物体31を参照している第一の利用者11が存在することを示すメッセージやアイコン等を表示する。具体的には、図16中に示すメッセージ34、などを表示する。   In M1006, the management server 60 transmits the attribute information of the first user 11 to the second image display device 20. In M1007, the second image display device 20 displays a message, an icon, or the like indicating that the first user 11 referring to the object 31 exists. Specifically, the message 34 shown in FIG. 16 is displayed.

図11は、本実施形態に係る第二の画像表示装置20が、第一の利用者11を撮像する際のメッセージの例を示すシーケンスである。   FIG. 11 is a sequence showing an example of a message when the second image display apparatus 20 according to the present embodiment images the first user 11.

M1101において、第二の画像表示装置20は、第一の利用者11を撮像する。M1102において、第二の画像表示装置20は、周囲の装置に対して、各装置の識別子の取得要求を送信する。   In M1101, the second image display device 20 images the first user 11. In M1102, the second image display device 20 transmits an identifier acquisition request for each device to the surrounding devices.

M1103において、第一の画像表示装置10は、第二の画像表示装置20から、識別子取得要求を受信する。そして、第一の画像表示装置10は、第二の画像表示装置20に、第一の画像表示装置10に割り当てられた識別子を送信する。   In M1103, the first image display apparatus 10 receives an identifier acquisition request from the second image display apparatus 20. Then, the first image display device 10 transmits the identifier assigned to the first image display device 10 to the second image display device 20.

M1104において、第二の画像表示装置20は、管理サーバ60に、第一の画像表示装置10から受信した識別子に基づいて、第一の画像表示装置10の所有者となるオブジェクトに関する特徴情報の取得要求を送信する。   In M <b> 1104, the second image display device 20 acquires feature information regarding the object that is the owner of the first image display device 10 based on the identifier received from the first image display device 10 to the management server 60. Send a request.

M1105において、管理サーバ60は、第二の画像表示装置20に、第一の利用者11の特徴情報を送信する。M1106において、第二の画像表示装置20は、管理サーバ60から取得した第一の利用者11の特徴情報に基づいて、撮像画像から第一の利用者11を特定する。   In M <b> 1105, the management server 60 transmits the feature information of the first user 11 to the second image display device 20. In M <b> 1106, the second image display device 20 specifies the first user 11 from the captured image based on the feature information of the first user 11 acquired from the management server 60.

M1107において、第二の画像表示装置20は、第一の画像表示装置10に関する識別子が、M1003において通信装置30から取得した参照情報一覧中の参照元識別子と一致するか否か判断する。本実施形態では、一致すると判断される。   In M1107, the second image display device 20 determines whether or not the identifier related to the first image display device 10 matches the reference source identifier in the reference information list acquired from the communication device 30 in M1003. In this embodiment, it is determined that they match.

M1108において、第二の画像表示装置20は、撮像画像中の第一の利用者11の近傍に、第一の利用者11の属性情報と共に、第一の利用者11が物体31を参照していることを示すアイコンやメッセージ等、を重ね合わせた合成画像を生成して、表示する。具体的には、図17中に示すメッセージ36、などを表示する。   In M1108, the second image display device 20 refers to the object 31 by the first user 11 in the vicinity of the first user 11 in the captured image, together with the attribute information of the first user 11. A composite image in which icons, messages, and the like indicating that the image is superimposed is generated and displayed. Specifically, the message 36 shown in FIG. 17 is displayed.

M1109において、第二の画像表示装置20は、第二の利用者22の要求に基づいて、第一の画像表示装置10に、通信接続要求を送信する。本実施形態では、第一の画像表示装置10への通信要求を、第二の利用者22の要求に基づいて実施しているが、これに限らず、自動的に接続要求を行っても良い。   In M1109, the second image display device 20 transmits a communication connection request to the first image display device 10 based on the request of the second user 22. In the present embodiment, the communication request to the first image display device 10 is performed based on the request of the second user 22, but the present invention is not limited to this, and a connection request may be automatically made. .

M1110において、第一の画像表示装置10は、第二の画像表示装置20に、通信接続応答を送信する。M1111において、第二の画像表示装置20は、第一の画像表示装置10に、第二の画像表示装置20が所有する物体31の撮像画像を送信する。M1112において、第一の画像表示装置10は、第二の画像表示装置20に、第一の画像表示装置10が所有する物体31の撮像画像を送信する。   In M1110, the first image display device 10 transmits a communication connection response to the second image display device 20. In M <b> 1111, the second image display device 20 transmits the captured image of the object 31 owned by the second image display device 20 to the first image display device 10. In M1112, the first image display device 10 transmits the captured image of the object 31 owned by the first image display device 10 to the second image display device 20.

図12は、本実施形態に係る第一の画像表示装置10、及び第二の画像表示装置20が、撮像する動作の手順を示すフローチャートである。   FIG. 12 is a flowchart showing a procedure of operations performed by the first image display device 10 and the second image display device 20 according to the present embodiment.

ステップS1201において、撮像制御部303は、被写体となるオブジェクトを撮像する。ステップS1202において、識別子取得部308は、周囲の装置に対して識別子の取得を要求する。   In step S1201, the imaging control unit 303 images an object that is a subject. In step S1202, the identifier acquisition unit 308 requests the peripheral devices to acquire identifiers.

ステップS1203において、識別子取得部308は、周囲の装置から識別子を取得できたか否かを判断する。識別子を取得できたと判断された場合(S1203;YES)、ステップS1204へ進む。一方、識別子を取得できなかったと判断された場合(S1203;NO)、処理を終了する。   In step S1203, the identifier acquisition unit 308 determines whether or not an identifier has been acquired from a peripheral device. If it is determined that the identifier has been acquired (S1203; YES), the process proceeds to step S1204. On the other hand, when it is determined that the identifier could not be acquired (S1203; NO), the process ends.

ステップS1204において、特徴情報取得部309は、ステップS1203において受信された識別子に基づいて、管理サーバ60から当該識別子に関するオブジェクトの特徴情報を取得する。   In step S1204, the feature information acquisition unit 309 acquires object feature information related to the identifier from the management server 60 based on the identifier received in step S1203.

ステップS1205において、オブジェクト特定部311は、ステップS1204において取得されたオブジェクトの特徴情報に基づいて、撮像画像中からオブジェクトを特定する処理を行う。そしてオブジェクトを特定できたか否かを判断する。オブジェクトを特定できたと判断された場合(S1205;YES)、ステップS1206へ進む。一方、オブジェクトを特定できなかったと判断された場合(S1205;NO)、処理を終了する。   In step S1205, the object specifying unit 311 performs processing for specifying an object from the captured image based on the feature information of the object acquired in step S1204. Then, it is determined whether or not the object has been specified. If it is determined that the object has been identified (S1205; YES), the process proceeds to step S1206. On the other hand, if it is determined that the object could not be specified (S1205; NO), the process ends.

ステップS1206において、参照元オブジェクト判断部316は、参照情報一覧を取得済であるか否か判断する。参照情報一覧を取得済であると判断された場合(S1206;YES)、ステップS1210へ進む。一方、参照情報一覧を未取得であると判断された場合(S1206;NO)、ステップS1207へ進む。   In step S1206, the reference source object determination unit 316 determines whether or not a reference information list has been acquired. If it is determined that the reference information list has been acquired (S1206; YES), the process proceeds to step S1210. On the other hand, if it is determined that the reference information list has not been acquired (S1206; NO), the process proceeds to step S1207.

ステップS1207において、属性情報取得部310は、ステップS1203において受信した識別子に基づいて、管理サーバ60から識別子に関する属性情報を取得する。   In step S1207, the attribute information acquisition unit 310 acquires attribute information regarding the identifier from the management server 60 based on the identifier received in step S1203.

ステップS1208において、画像合成部312は、撮像画像に対して、ステップS1207において受信した属性情報を、特定したオブジェクトの近傍に重ね合わせた合成画像を生成する。   In step S1208, the image composition unit 312 generates a composite image obtained by superimposing the attribute information received in step S1207 on the captured image in the vicinity of the identified object.

ステップS1209において、表示制御部304は、生成した合成画像を表示し、処理を終了する。ステップS1210において、参照元オブジェクト判断部316は、ステップS1205において特定したオブジェクトの識別子と、参照情報一覧中の参照元オブジェクトの識別子とが一致するか否かを判断する。一致すると判断された場合(S1210;YES)、ステップS1205において特定されたオブジェクトは、参照情報一覧における参照先オブジェクトに対する参照元オブジェクトであると判断され、ステップS1211へ進む。一方、一致しないと判定された場合(S1210;NO)、ステップS1207へ進む。   In step S1209, the display control unit 304 displays the generated composite image and ends the process. In step S1210, the reference source object determination unit 316 determines whether the identifier of the object specified in step S1205 matches the identifier of the reference source object in the reference information list. If it is determined that they match (S1210; YES), the object identified in step S1205 is determined to be a reference source object for the reference destination object in the reference information list, and the process proceeds to step S1211. On the other hand, if it is determined that they do not match (S1210; NO), the process proceeds to step S1207.

ステップS1211において、オブジェクト管理部313、及び画像合成部312は、ステップS1205において特定されたオブジェクトが、参照先オブジェクトに対する参照元オブジェクトであることを識別可能な合成画像を生成する。具体的には、図17中に示すメッセージ36、などを生成する。その後、ステップS1209へ進む。   In step S1211, the object management unit 313 and the image composition unit 312 generate a composite image that can identify that the object specified in step S1205 is a reference source object for the reference destination object. Specifically, the message 36 shown in FIG. 17 is generated. Thereafter, the process proceeds to step S1209.

図13は、本実施形態に係る第一の画像表示装置10、及び第二の画像表示装置20が、参照情報を通知する動作の手順を示すフローチャートである。このフローチャートを実行するのは、図12に示す撮像動作の後に、利用者が特定のオブジェクトに対して、詳細参照の指定をした場合、などである。   FIG. 13 is a flowchart showing an operation procedure in which the first image display device 10 and the second image display device 20 according to the present embodiment notify reference information. This flowchart is executed when the user designates a detailed reference for a specific object after the imaging operation shown in FIG.

ステップS1301において、参照情報通知部314は、指定された特定のオブジェクトを参照先オブジェクト、装置の所有者を参照元オブジェクトとして、参照情報を生成する。   In step S1301, the reference information notification unit 314 generates reference information using the specified specific object as a reference destination object and the owner of the apparatus as a reference source object.

ステップS1302において、参照情報通知部314は、参照先オブジェクトに関する属性情報に基づいて、参照情報の通知先を決定する。ステップS1303において、参照情報通知部314は、生成した参照情報を通知する。   In step S1302, the reference information notification unit 314 determines a reference information notification destination based on the attribute information related to the reference destination object. In step S1303, the reference information notification unit 314 notifies the generated reference information.

図14は、本実施形態に係る第一の画像表示装置10、及び第二の画像表示装置20が、参照情報一覧を取得する動作の手順を示すフローチャートである。なお、図示しないが、ステップS1403からステップS1411までの各処理は、参照情報一覧に記載された全ての参照元識別子に対して、当該参照元識別子ごとに実行される。   FIG. 14 is a flowchart showing a procedure of operations in which the first image display device 10 and the second image display device 20 according to the present embodiment acquire a reference information list. Although not shown, each process from step S1403 to step S1411 is executed for each reference source identifier for all reference source identifiers described in the reference information list.

ステップS1401において、参照情報一覧取得部315は、参照先オブジェクトに関する属性情報に基づいて、参照情報一覧の取得先を決定する。   In step S1401, the reference information list acquisition unit 315 determines the acquisition destination of the reference information list based on the attribute information related to the reference destination object.

ステップS1402において、参照情報一覧取得部315は、参照情報一覧を取得する。ステップS1403において、参照元オブジェクト判断部316は、参照情報一覧中に記載された参照日時が所定の有効期間内であるか否かを判断する。すなわち、通信装置30から取得された複数の参照情報のうち、所定の有効期間が経過していない参照情報を用いるようにする。参照日時が所定の有効期間内であると判断された場合(S1403;YES)、ステップS1404へ進む。一方、参照日時が所定の有効期間外であると判断された場合(S1403;NO)、処理を終了する。   In step S1402, the reference information list acquisition unit 315 acquires a reference information list. In step S1403, the reference source object determination unit 316 determines whether or not the reference date and time described in the reference information list is within a predetermined valid period. That is, reference information for which a predetermined valid period has not elapsed is used among the plurality of reference information acquired from the communication device 30. When it is determined that the reference date / time is within the predetermined valid period (S1403; YES), the process proceeds to step S1404. On the other hand, when it is determined that the reference date / time is outside the predetermined valid period (S1403; NO), the process is terminated.

ステップS1404において、参照元オブジェクト判断部316は、参照情報一覧中に記載された参照状態が所定の参照状態であるか否かを判断する。すなわち、通信装置30から取得された複数の参照情報のうち、状態が所定の状態である参照情報を用いるようにする。本実施形態における参照状態が所定の参照状態であるか否かの状態判断は、利用者による状態設定と一致するか否かにより行われる。例えば、利用者が、同じ被写体を撮像している他の利用者の存在のみを通知する、と設定したとする。この場合、参照元オブジェクト判断部316は、参照状態が撮像状態であるか否かを判断する。参照情報一覧中に記載された参照状態が所定の参照状態と一致すると判定された場合(S1404;YES)、ステップS1405へ進む。一方、参照状態が所定の参照状態と一致しないと判定された場合(S1404;YES)、処理を終了する。   In step S1404, the reference source object determination unit 316 determines whether or not the reference state described in the reference information list is a predetermined reference state. That is, reference information whose state is a predetermined state among a plurality of reference information acquired from the communication device 30 is used. Whether or not the reference state in the present embodiment is a predetermined reference state is determined based on whether or not it matches the state setting by the user. For example, it is assumed that the user has set to notify only the presence of another user who is imaging the same subject. In this case, the reference source object determination unit 316 determines whether or not the reference state is an imaging state. When it is determined that the reference state described in the reference information list matches the predetermined reference state (S1404; YES), the process proceeds to step S1405. On the other hand, when it is determined that the reference state does not match the predetermined reference state (S1404; YES), the process is terminated.

ステップS1405において、参照元オブジェクト判断部316は、参照情報一覧中に記載された参照元識別子を取得済であるか否かを判断する。取得済であると判断された場合(S1405;YES)、ステップS1409へ進む。一方、未取得であると判断された場合(S1404;NO)、ステップS1406へ進む。   In step S1405, the reference source object determination unit 316 determines whether the reference source identifier described in the reference information list has been acquired. If it is determined that it has been acquired (S1405; YES), the process proceeds to step S1409. On the other hand, if it is determined that it has not been acquired (S1404; NO), the process proceeds to step S1406.

ステップS1406において、属性情報取得部310は、参照情報一覧中に記載された参照元識別子に基づいて、管理サーバ60から当該識別子に関する属性情報を取得する。   In step S1406, the attribute information acquisition unit 310 acquires attribute information related to the identifier from the management server 60 based on the reference source identifier described in the reference information list.

ステップS1407において、オブジェクト管理部313、及び画像合成部312は、参照先オブジェクトに対する参照元オブジェクトが存在していることを示す合成画像を生成する。ただし、S1405において参照元識別子を未取得であり、この参照元オブジェクトが近辺に存在するか否かは不明のため、近辺に存在していることは記載しない。   In step S1407, the object management unit 313 and the image composition unit 312 generate a composite image indicating that a reference source object for the reference destination object exists. However, since the reference source identifier has not been acquired in S1405 and it is unknown whether or not this reference source object exists in the vicinity, it is not described that it exists in the vicinity.

ステップS1408において、表示制御部304は、生成した合成画像を表示する。   In step S1408, the display control unit 304 displays the generated composite image.

ステップS1409において、オブジェクト特定部311は、参照情報一覧中に記載された参照元オブジェクトの特徴情報に基づいて、撮像画像中から参照元オブジェクトを特定する。そして、参照元オブジェクトを特定できたか否かを判断する。特定できたと判断された場合(S1409;YES)、ステップS1411へ進む。一方、特定できなかったと判断された場合(S1409;NO)、ステップS1410へ進む。   In step S1409, the object specifying unit 311 specifies the reference source object from the captured image based on the feature information of the reference source object described in the reference information list. Then, it is determined whether or not the reference source object has been identified. If it is determined that identification has been made (S1409; YES), the process proceeds to step S1411. On the other hand, if it is determined that it could not be specified (S1409; NO), the process proceeds to step S1410.

ステップS1410において、オブジェクト管理部313、及び画像合成部312は、参照先オブジェクトに対する参照元オブジェクトが近辺に存在していることを示す合成画像を生成する。具体的には、図16中に示すメッセージ34、などを生成する。   In step S1410, the object management unit 313 and the image composition unit 312 generate a composite image indicating that the reference source object for the reference destination object exists in the vicinity. Specifically, the message 34 shown in FIG. 16 is generated.

ステップS1411において、オブジェクト管理部313、及び画像合成部312は、ステップS1409において特定されたオブジェクトが、参照先オブジェクトに対する参照元オブジェクトであることを識別可能な合成画像を生成する。具体的には、図17中に示すメッセージ36、などを生成する。   In step S1411, the object management unit 313 and the image composition unit 312 generate a composite image that can identify that the object specified in step S1409 is a reference source object for the reference destination object. Specifically, the message 36 shown in FIG. 17 is generated.

図15は、本実施形態に係る第一の画像表示装置10、及び第二の画像表示装置20が、他方の画像表示装置に接続し、撮像画像を交換する動作の手順を示すフローチャートである。   FIG. 15 is a flowchart illustrating a procedure of an operation in which the first image display device 10 and the second image display device 20 according to the present embodiment are connected to the other image display device and exchanged captured images.

ステップS1501において、オブジェクト管理部313は、参照元オブジェクトに関する属性情報に基づいて、参照元オブジェクトが所有する他方の画像表示装置の通信先アドレス情報を取得する。そして、オブジェクト管理部313は、通信先アドレス情報に基づいて、無線LAN通信制御部302を介して、他方の画像表示装置との通信接続を行う。   In step S1501, the object management unit 313 acquires communication destination address information of the other image display device owned by the reference source object based on the attribute information regarding the reference source object. Then, the object management unit 313 performs communication connection with the other image display device via the wireless LAN communication control unit 302 based on the communication destination address information.

ステップS1502において、オブジェクト管理部313は、記憶制御部306を介して、自身が所有する参照先オブジェクトの画像コンテンツデータを取得する。そして、オブジェクト管理部313は、無線LAN通信制御部302を介して、他方の画像表示装置に、当該画像コンテンツデータを送信する。   In step S1502, the object management unit 313 acquires the image content data of the reference destination object owned by the object management unit 313 via the storage control unit 306. Then, the object management unit 313 transmits the image content data to the other image display device via the wireless LAN communication control unit 302.

ステップS1503において、オブジェクト管理部313は、他方の画像表示装置から、他方の画像表示装置が所有する参照先オブジェクトの画像コンテンツデータを受信する。そして、オブジェクト管理部313は、記憶制御部306を介して、受信した画像コンテンツデータを記憶する。   In step S1503, the object management unit 313 receives the image content data of the reference object owned by the other image display device from the other image display device. Then, the object management unit 313 stores the received image content data via the storage control unit 306.

以上、説明したように、第一の画像表示装置10は、物体31を被写体として撮像して属性情報を参照する際、物体31が所有する通信装置30に対して、第一の画像表示装置10を所有する第一の利用者11が物体31を参照したことを示す参照情報を通知する。   As described above, when the first image display device 10 captures an image of the object 31 as a subject and refers to the attribute information, the first image display device 10 is compared with the communication device 30 owned by the object 31. Reference information indicating that the first user 11 who owns the object 31 has been referred to is notified.

一方、第二の画像表示装置20は、通信装置30から参照情報一覧を取得し、物体31を参照している第一の利用者11に関する情報を取得する。もし、第一の画像表示装置10に関する識別子を未取得である場合、第二の画像表示装置20は、第一の利用者11が存在することを示すメッセージ等を表示する。これにより、第二の利用者21は、同じ物体31を被写体として撮像、参照している第一の利用者11の存在を知ることができ、利用者同士が知り合う機会につながり、利用者の利便性が向上する。   On the other hand, the second image display device 20 acquires a reference information list from the communication device 30 and acquires information on the first user 11 referring to the object 31. If the identifier related to the first image display device 10 has not been acquired, the second image display device 20 displays a message indicating that the first user 11 exists. As a result, the second user 21 can know the existence of the first user 11 imaging and referring to the same object 31 as the subject, which leads to an opportunity for the users to know each other, and the convenience of the user. Improves.

さらに、もし、第一の画像表示装置10に関する識別子を取得しているが、撮像画像中から第一の利用者11を特定できなかった場合、第二の画像表示装置20は、第一の利用者11が近辺に存在することを示すメッセージ等を表示する。これにより、第二の利用者21は、同じ物体31を被写体として撮像、参照している第一の利用者11が、第二の利用者21の近辺に存在していることを知ることができる。そのため、第二の利用者21に対して、第一の利用者11を探索させる動機付けとなり、利用者同士が知り合う機会が増え、利用者の利便性がさらに向上する。   Furthermore, if the identifier related to the first image display device 10 is acquired, but the first user 11 cannot be specified from the captured image, the second image display device 20 uses the first use. A message indicating that the person 11 is in the vicinity is displayed. As a result, the second user 21 can know that the first user 11 imaging and referring to the same object 31 as a subject exists in the vicinity of the second user 21. . For this reason, the second user 21 is motivated to search for the first user 11, and the opportunity for the users to get to know each other increases, further improving the convenience for the user.

さらに、もし、第一の画像表示装置10に関する識別子を取得し、撮像画像中から第一の利用者11を特定できた場合、第二の画像表示装置20は、第一の利用者11を他の利用者とは識別可能に表示する。具体的には、図17中のメッセージ36で示した様に、同じ物体31を撮像中、あるいは参照中である旨を表示する。これにより、第二の利用者21は、同じ物体31を被写体として撮像、参照している第一の利用者11を特定することができる。そのため、利用者同士がその場所で実際に対面して、会話することが可能となり、利用者同士のコミュニケーションの活性化につながるため、利用者の利便性がさらに向上する。   Furthermore, if an identifier related to the first image display device 10 is acquired and the first user 11 can be identified from the captured image, the second image display device 20 may identify the first user 11 as another It is displayed so that it can be distinguished from other users. Specifically, as indicated by the message 36 in FIG. 17, the fact that the same object 31 is being imaged or referenced is displayed. Thereby, the 2nd user 21 can specify the 1st user 11 which is imaging and referring the same object 31 as a to-be-photographed object. Therefore, the users can actually face each other at the place and have a conversation, which leads to activation of communication between the users, thereby further improving the convenience for the users.

また、参照情報一覧に含まれる参照情報が多くなった場合、第二の画像表示装置20の表示部207に、参照元オブジェクトの存在を示すメッセージが多く表示されてしまい、第二の利用者21の視認性を低下させる恐れがある。これを回避するために、図14のステップS1403、及びステップS1404で示した判断を実施している。   In addition, when the reference information included in the reference information list increases, many messages indicating the presence of the reference source object are displayed on the display unit 207 of the second image display device 20, and the second user 21. There is a risk of reducing the visibility. In order to avoid this, the determination shown in steps S1403 and S1404 in FIG. 14 is performed.

ステップS1403において、第二の画像表示装置20は、取得した参照情報一覧の中から、時間判断処理により、参照日時が有効な参照元オブジェクトのみを選択する。これにより、例えば、参照日時が所定の期間経過している参照元オブジェクトを対象外にすることができる。そのため、第二の利用者21と知り合う可能性が高い、参照日時の新しい参照情報のみを選択して表示することができ、第二の利用者21の視認性を向上することができる。さらに、不要な参照元オブジェクトの特定処理を実施しないため、第二の画像表示装置20の処理を効率化することができる。   In step S1403, the second image display device 20 selects only a reference source object with a valid reference date and time from the acquired reference information list by time determination processing. Thereby, for example, a reference source object whose reference date and time has passed for a predetermined period can be excluded. Therefore, it is possible to select and display only new reference information with a new reference date and time that is highly likely to be acquainted with the second user 21, and improve the visibility of the second user 21. Furthermore, since the process of identifying unnecessary reference source objects is not performed, the processing of the second image display device 20 can be made efficient.

また、ステップS1404において、第二の画像表示装置20は、取得した参照情報一覧の中から、状態判断処理により所定の参照状態を有する参照元オブジェクトのみを選択する。例えば、被写体となる参照先オブジェクトを詳細参照した参照元オブジェクトを対象とし、簡易参照した参照元オブジェクトを対象外にする、などである。これにより、被写体に対する興味の強い利用者のみを選択して表示することができ、第二の利用者21の視認性を向上することができる。さらに、不要な参照元オブジェクトの特定処理を実施しないため、第二の画像表示装置20の処理を効率化することができる。   In step S1404, the second image display device 20 selects only the reference source object having a predetermined reference state by the state determination process from the acquired reference information list. For example, a reference source object that makes a detailed reference to a reference destination object that is a subject is targeted, and a reference source object that is simply referenced is excluded. Thereby, only the user with a strong interest with respect to a to-be-photographed object can be selected and displayed, and the visibility of the 2nd user 21 can be improved. Furthermore, since the process of identifying unnecessary reference source objects is not performed, the processing of the second image display device 20 can be made efficient.

また、本実施形態では、参照情報は図7に示した情報を用いたが、これに限らず、その他の情報も用いても良い。特に、第一の画像表示装置10が物体31を参照している時の状態や状況を詳細に示す情報を利用することで、第一の利用者11が物体31に対して、どの程度興味を持っているのか、を詳細に判断することが可能となる。例えば、物体31に対する、被写体として撮像している時間、撮像して記憶した画像コンテンツ数、動画として撮像して記憶した動画コンテンツの時間長、詳細情報を参照している時間、などである。そして、これらの時間が所定値よりも長い、あるいは数が所定値よりも多い場合、第二の画像表示装置20は、第一の利用者11が物体31に対して、より強い興味を示している、と判断する。これにより、物体31に対してより興味の強い利用者のみを選択して表示することができ、第二の利用者21の視認性をさらに向上することができる。さらに、不要な参照元オブジェクトの特定処理を実施しないため、第二の画像表示装置20の処理をさらに効率化することができる。   In the present embodiment, the information shown in FIG. 7 is used as the reference information. However, the present invention is not limited to this, and other information may be used. In particular, to what extent the first user 11 is interested in the object 31 by using information that shows in detail the state and situation when the first image display device 10 is referring to the object 31. It becomes possible to judge in detail whether it has. For example, the time when the object 31 is imaged as a subject, the number of image contents captured and stored, the time length of the moving image content captured and stored as a moving image, the time when detailed information is referred to, and the like. When these times are longer than the predetermined value or the number is larger than the predetermined value, the second image display device 20 indicates that the first user 11 is more interested in the object 31. It is judged that it is. Thereby, only users who are more interested in the object 31 can be selected and displayed, and the visibility of the second user 21 can be further improved. Furthermore, since unnecessary reference source object identification processing is not performed, the processing of the second image display device 20 can be further improved.

なお、上述の効果は、第一の画像表示装置10と第二の画像表示装置20とを逆にしても、同様に有する。   Note that the above-described effects are similarly obtained even if the first image display device 10 and the second image display device 20 are reversed.

また、本実施形態では、通信装置30が参照情報の管理を行う。これにより、管理サーバ60が参照情報の管理を行うことによる管理サーバ60への処理負荷集中を軽減することができる。   In the present embodiment, the communication device 30 manages reference information. Thereby, the concentration of processing load on the management server 60 due to the management server 60 managing the reference information can be reduced.

一方、通信装置30において、無線LAN通信が不能の場合、計算資源が貧弱な場合、あるいは参照情報を記憶するための機能を備えていない場合、などにおいて、通信装置30の代わりに、管理サーバ60が参照情報の管理を行うことも可能である。その場合、通信装置30に関する属性情報中には、参照情報の通知先、参照情報一覧の取得先、管理サーバ60のアドレス情報を記載する。これにより、通信装置30の状態や性能、構成に応じてシステムをスケーラブルに変更することができる。   On the other hand, in the communication device 30, when the wireless LAN communication is impossible, when the computing resources are poor, or when the function for storing the reference information is not provided, the management server 60 is used instead of the communication device 30. It is also possible to manage reference information. In that case, in the attribute information related to the communication device 30, reference information notification destination, reference information list acquisition destination, and management server 60 address information are described. Thereby, the system can be changed in a scalable manner according to the state, performance, and configuration of the communication device 30.

また、本実施形態では、通信装置30を用いたが、これに限らず、図5に示す通信装置30の機能を備えた画像表示装置でも良い。具体的には、図3に示す第一の画像表示装置10の機能に加えて、図5に示す参照情報取得部330、参照情報管理部331、および参照情報一覧送信部332の機能を備えれば良い。   In this embodiment, the communication device 30 is used. However, the present invention is not limited to this, and an image display device having the function of the communication device 30 shown in FIG. Specifically, in addition to the functions of the first image display device 10 shown in FIG. 3, the functions of the reference information acquisition unit 330, the reference information management unit 331, and the reference information list transmission unit 332 shown in FIG. It ’s fine.

以上、本発明の一実施形態を示した。   The embodiment of the present invention has been described above.

(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
(Other embodiments)
The present invention can also be realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, or the like) of the system or apparatus reads the program. It is a process to be executed.

Claims (9)

第一の画像表示装置と、第二の画像表示装置とを備える画像表示システムであって、
前記第一の画像表示装置は、
前記第一の画像表示装置の所有者が画像中のオブジェクトの属性情報を参照していることを示す参照情報を、前記オブジェクトと関連付けられている通信装置へ通知する通知手段を備え、
前記第二の画像表示装置は、
前記参照情報を前記通信装置から取得する取得手段と、
前記第二の画像表示装置の所有者が前記オブジェクトの属性情報を参照している場合に、前記参照情報に基づいて、前記第一の画像表示装置の所有者の存在を示す情報を表示する表示手段と、
を備えることを特徴とする画像表示システム。
An image display system comprising a first image display device and a second image display device,
The first image display device includes:
Notification means for notifying the communication device associated with the object of reference information indicating that the owner of the first image display device refers to the attribute information of the object in the image;
The second image display device includes:
Obtaining means for obtaining the reference information from the communication device;
A display for displaying information indicating the presence of the owner of the first image display device based on the reference information when the owner of the second image display device is referring to the attribute information of the object Means,
An image display system comprising:
前記参照情報は、前記第一の画像表示装置が画像から前記オブジェクトを特定した日時情報を含み、
前記第二の画像表示装置は、
前記日時情報に基づいて、前記第一の画像表示装置が画像から前記オブジェクトを特定してから所定の有効期間が経過したか否かを判断する時間判断手段をさらに備え、
前記表示手段は、前記取得手段により前記通信装置から取得された複数の参照情報のうち、前記所定の有効期間が経過していない参照情報に基づいて、前記第一の画像表示装置の所有者の存在を示す情報を表示することを特徴とする請求項1に記載の画像表示システム。
The reference information includes date and time information when the first image display device identifies the object from an image,
The second image display device includes:
Based on the date and time information, further comprising time determination means for determining whether or not a predetermined effective period has elapsed since the first image display device specified the object from the image;
The display means is based on reference information for which the predetermined validity period has not elapsed among a plurality of reference information acquired from the communication apparatus by the acquisition means. The image display system according to claim 1, wherein information indicating presence is displayed.
前記参照情報は、前記第一の画像表示装置の所有者が前記オブジェクトの属性情報を参照した際の状態を示す状態情報を含み、
前記第二の画像表示装置は、
前記状態情報に基づいて、前記状態が所定の状態であるか否かを判断する状態判断手段をさらに備え、
前記表示手段は、前記取得手段により前記通信装置から取得された複数の参照情報のうち、前記状態が前記所定の状態である参照情報に基づいて、前記第一の画像表示装置の所有者の存在を示す情報を表示することを特徴とする請求項1または2に記載の画像表示システム。
The reference information includes state information indicating a state when the owner of the first image display device refers to the attribute information of the object,
The second image display device includes:
Based on the state information, further comprising state determination means for determining whether the state is a predetermined state;
The display means includes the owner of the first image display apparatus based on the reference information in which the state is the predetermined state among a plurality of reference information acquired from the communication device by the acquiring means. 3. The image display system according to claim 1, wherein information indicating the above is displayed.
前記状態は、前記第一の画像表示装置の所有者が前記オブジェクトの簡易的な属性情報を参照した簡易参照状態、または、前記第一の画像表示装置の所有者が前記オブジェクトの詳細な属性情報を参照した詳細参照状態であり、
前記所定の状態は、前記詳細参照状態であることを特徴とする請求項3に記載の画像表示システム。
The state is a simple reference state in which the owner of the first image display device refers to simple attribute information of the object, or the detailed attribute information of the object is determined by the owner of the first image display device. Is a detailed reference state referring to
The image display system according to claim 3, wherein the predetermined state is the detailed reference state.
前記第二の画像表示装置は、
前記第一の画像表示装置の所有者が画像から特定されたか否かを判断する判断手段をさらに備え、
前記表示手段は、
前記判断手段により前記第一の画像表示装置の所有者が画像から特定されなかったと判断された場合、前記第一の画像表示装置が前記第二の画像表示装置の周囲に存在することを示す情報を表示し、
前記判断手段により前記第一の画像表示装置の所有者が画像から特定されたと判断された場合、前記第一の画像表示装置の所有者が画像中に存在することを示す情報を表示することを特徴とする請求項1乃至4の何れか1項に記載の画像表示システム。
The second image display device includes:
A judgment means for judging whether the owner of the first image display device is specified from the image;
The display means includes
Information indicating that the first image display device exists around the second image display device when the determination means determines that the owner of the first image display device is not specified from the image. To display
When the determination means determines that the owner of the first image display device is specified from the image, the information indicating that the owner of the first image display device exists in the image is displayed. The image display system according to any one of claims 1 to 4, wherein the image display system is characterized in that:
第一の画像表示装置と、第二の画像表示装置とを備える画像表示システムの制御方法であって、
前記第一の画像表示装置では、
前記第一の画像表示装置の所有者が画像中のオブジェクトの属性情報を参照していることを示す参照情報を、前記オブジェクトと関連付けられている通信装置へ通知する通知工程を有し、
前記第二の画像表示装置では、
前記参照情報を前記通信装置から取得する取得工程と、
前記第二の画像表示装置の所有者が前記オブジェクトの属性情報を参照している場合に、前記参照情報に基づいて、前記第一の画像表示装置の所有者の存在を示す情報を表示する表示工程と、を有することを特徴とする画像表示システムの制御方法。
A control method of an image display system comprising a first image display device and a second image display device,
In the first image display device,
A notification step of notifying the communication device associated with the object of reference information indicating that the owner of the first image display device refers to attribute information of the object in the image;
In the second image display device,
An acquisition step of acquiring the reference information from the communication device;
A display for displaying information indicating the presence of the owner of the first image display device based on the reference information when the owner of the second image display device is referring to the attribute information of the object A method for controlling the image display system.
画像表示装置であって、
他の画像表示装置の所有者が画像中のオブジェクトの属性情報を参照していることを示す参照情報を取得する取得手段と、
前記画像表示装置の所有者が前記オブジェクトの属性情報を参照している場合に、前記参照情報に基づいて、前記他の画像表示装置の所有者の存在を示す情報を表示する表示手段と、
を備えることを特徴とする画像表示装置。
An image display device,
Obtaining means for obtaining reference information indicating that an owner of another image display device refers to attribute information of an object in the image;
Display means for displaying information indicating the presence of the owner of the other image display device based on the reference information when the owner of the image display device is referring to the attribute information of the object;
An image display device comprising:
画像表示装置の制御方法であって、
他の画像表示装置の所有者が画像中のオブジェクトの属性情報を参照していることを示す参照情報を取得する取得工程と、
前記画像表示装置の所有者が前記オブジェクトの属性情報を参照している場合に、前記参照情報に基づいて、前記他の画像表示装置の所有者の存在を示す情報を表示する表示工程と、
を有することを特徴とする画像表示装置の制御方法。
A control method for an image display device, comprising:
An acquisition step of acquiring reference information indicating that an owner of another image display device refers to attribute information of an object in the image;
When the owner of the image display device refers to the attribute information of the object, a display step of displaying information indicating the presence of the owner of the other image display device based on the reference information;
A control method for an image display device, comprising:
請求項8に記載の画像表示装置の制御方法の各工程をコンピュータに実行させるためのプログラム。   The program for making a computer perform each process of the control method of the image display apparatus of Claim 8.
JP2011181931A 2011-08-23 2011-08-23 Information processing system, information processing apparatus, control method therefor, and program Active JP6041470B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011181931A JP6041470B2 (en) 2011-08-23 2011-08-23 Information processing system, information processing apparatus, control method therefor, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011181931A JP6041470B2 (en) 2011-08-23 2011-08-23 Information processing system, information processing apparatus, control method therefor, and program

Publications (3)

Publication Number Publication Date
JP2013044895A true JP2013044895A (en) 2013-03-04
JP2013044895A5 JP2013044895A5 (en) 2014-10-09
JP6041470B2 JP6041470B2 (en) 2016-12-07

Family

ID=48008858

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011181931A Active JP6041470B2 (en) 2011-08-23 2011-08-23 Information processing system, information processing apparatus, control method therefor, and program

Country Status (1)

Country Link
JP (1) JP6041470B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000172238A (en) * 1998-12-09 2000-06-23 Atr Media Integration & Communications Res Lab Personalized information representing method
JP2001175718A (en) * 1999-12-15 2001-06-29 Nec Corp System and method for introduction and recording medium with program for introduction recorded thereon
JP2005182144A (en) * 2003-12-16 2005-07-07 Fuji Xerox Co Ltd Dialog supporting device
JP2006107281A (en) * 2004-10-07 2006-04-20 Queen Mary & Westfield College Communication supporting apparatus

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000172238A (en) * 1998-12-09 2000-06-23 Atr Media Integration & Communications Res Lab Personalized information representing method
JP2001175718A (en) * 1999-12-15 2001-06-29 Nec Corp System and method for introduction and recording medium with program for introduction recorded thereon
JP2005182144A (en) * 2003-12-16 2005-07-07 Fuji Xerox Co Ltd Dialog supporting device
JP2006107281A (en) * 2004-10-07 2006-04-20 Queen Mary & Westfield College Communication supporting apparatus

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6015020843; 里雄二、北原格、中村裕一、大田友一: '「複合コミュニティ空間における注目の共有〜指示動作による注目の強調提示システム〜」' 日本バーチャルリアリティ学会 第6回大会論文集 , 20010919, pp.235-238 *

Also Published As

Publication number Publication date
JP6041470B2 (en) 2016-12-07

Similar Documents

Publication Publication Date Title
US10659527B2 (en) Opportunistic crowd-based service platform
KR102416985B1 (en) Virtual vision system
US9129429B2 (en) Augmented reality on wireless mobile devices
US11202124B2 (en) Media collection generation and privacy mechanisms
US20140188990A1 (en) Method and apparatus for establishing user group network sessions using location parameters in an augmented reality display
US20130169853A1 (en) Method and system for establishing autofocus based on priority
US8520967B2 (en) Methods and apparatuses for facilitating generation images and editing of multiframe images
WO2014178364A1 (en) System, program, and method for message transceiving assistance
US20140092813A1 (en) Method and apparatus for sharing connectivity settings via social networks
US20160006773A1 (en) Method and apparatus for sharing media upon request via social networks
US20090241039A1 (en) System and method for avatar viewing
US11271940B1 (en) Expanded mobile device content access
WO2019209833A1 (en) Efficient parallel optical flow algorithm and gpu implementation
US11902477B1 (en) Sharing images based on face matching in a network
US10143033B2 (en) Communications apparatus, control method, and storage medium
JP2014035642A (en) Display device, control method therefor, display system, and program
CN114845035B (en) Distributed shooting method, electronic equipment and medium
JP6041470B2 (en) Information processing system, information processing apparatus, control method therefor, and program
US20220248099A1 (en) Multi-video capture system
JP2012208558A (en) Display control apparatus, terminal device, communication system, and program
CN114071652B (en) Binding relation establishing method and related equipment
KR101670983B1 (en) Screen sharing system and method thereof
EP3471386B1 (en) Electronic device and method for displaying service information in electronic device
JP2016143247A (en) Information processing device, control method and program
US20140285512A1 (en) Alternate visual presentations

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140821

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140821

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150430

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150529

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160204

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160404

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160524

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161108

R151 Written notification of patent or utility model registration

Ref document number: 6041470

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151