JP7007515B2 - Information processing equipment, information processing methods, and programs - Google Patents

Information processing equipment, information processing methods, and programs Download PDF

Info

Publication number
JP7007515B2
JP7007515B2 JP2021124140A JP2021124140A JP7007515B2 JP 7007515 B2 JP7007515 B2 JP 7007515B2 JP 2021124140 A JP2021124140 A JP 2021124140A JP 2021124140 A JP2021124140 A JP 2021124140A JP 7007515 B2 JP7007515 B2 JP 7007515B2
Authority
JP
Japan
Prior art keywords
display device
information
instruction
display devices
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021124140A
Other languages
Japanese (ja)
Other versions
JP2021176241A (en
Inventor
健 王
忍 木曽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2021124140A priority Critical patent/JP7007515B2/en
Publication of JP2021176241A publication Critical patent/JP2021176241A/en
Application granted granted Critical
Publication of JP7007515B2 publication Critical patent/JP7007515B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、情報処理装置、情報処理方法、及びプログラムに関する。 The present invention relates to an information processing apparatus, an information processing method, and a program.

近年、ヘッドマウントディスプレイ(Head Mounted Display;以下、「HMD」と記載する。)が急速に発達し、ユーザがHMDを用いてVR(Virtual Reality)映像やAR(Augmented Reality)映像を観察する機会が多くなってきている。例えば、特許文献1には、HMDを装着したユーザはHMDによって周囲の映像が観察できなくなる遮蔽型のHMDに関する技術が開示されている。 In recent years, head-mounted displays (hereinafter referred to as "HMDs") have rapidly developed, and users have the opportunity to observe VR (Virtual Reality) images and AR (Augmented Reality) images using HMDs. It is increasing. For example, Patent Document 1 discloses a technique relating to a shielded HMD in which a user wearing an HMD cannot observe an surrounding image due to the HMD.

特開2019-101330号公報Japanese Unexamined Patent Publication No. 2019-10133

それぞれがHMDを装着した複数のユーザが同一の映像を共有して観察する場合には、各ユーザはHMDに提示された仮想的な映像を観察することになる。各ユーザが遮蔽型のHMDを装着している場合や、各ユーザが離れた位置に存在する場合等は、お互いに他のユーザが映像中のどの位置を観察しているかを認識することが難しい。例えば、HMDを用いて遠隔地にある物件の内部の映像を表示させて仮想的な内覧を提供する場合や、仮想的な美術館巡りを提供する場合等には、あるユーザが別のユーザが向いている方向を知ることができれば便利である。 When a plurality of users, each wearing an HMD, share and observe the same image, each user observes a virtual image presented on the HMD. When each user wears a shielded HMD, or when each user is at a distant position, it is difficult for each other to recognize which position in the image the other user is observing. .. For example, when using an HMD to display an image of the inside of a property in a remote location to provide a virtual preview, or when providing a virtual museum tour, one user is suitable for another user. It is convenient if you can know the direction you are in.

本発明はこれらの点に鑑みてなされたものであり、HMDを装着した複数のユーザが同一の映像を観察する場合に、各ユーザの観察方向を共有するための技術を提供することを目的とする。 The present invention has been made in view of these points, and an object of the present invention is to provide a technique for sharing the observation direction of each user when a plurality of users wearing an HMD observe the same image. do.

本発明の第1の態様は、情報処理装置である。この装置は、複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置の向きを示す情報を取得する向き情報取得部と、前記複数の表示装置それぞれに、各表示装置の向きを特定するための向き情報を送信する向き情報送信部と、前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付ける指示情報受付部と、受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信する指示送信部と、を備える。 The first aspect of the present invention is an information processing apparatus. This device acquires information indicating the orientation of each display device from a display device that is a plurality of display devices and each display device can display at least a part of the same virtual celestial sphere image. The orientation information acquisition unit, the orientation information transmission unit that transmits orientation information for specifying the orientation of each display device to each of the plurality of display devices, and an instruction to the other display device among the plurality of display devices. An instruction information receiving unit that receives instruction information indicating an instruction to a display device other than the display device from a display device to which the attribute to be permitted is assigned, and an instruction based on the received instruction information to each of the other display devices. It is provided with an instruction transmission unit for transmitting.

本発明の第2の態様も情報処理装置である。この装置は、複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置のユーザの視線方向を示す情報を取得する向き情報取得部と、前記複数の表示装置それぞれに、各表示装置のユーザの視線方向を特定するための向き情報を送信する向き情報送信部と、前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付ける指示情報受付部と、受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信する指示送信部と、を備える。 The second aspect of the present invention is also an information processing device. This device is information indicating the line-of-sight direction of the user of each display device from a display device which is a plurality of display devices and each display device can display at least a part of the same virtual celestial sphere image. The orientation information acquisition unit that acquires the orientation information, the orientation information transmission unit that transmits orientation information for specifying the line-of-sight direction of the user of each display device to each of the plurality of display devices, and the other of the plurality of display devices. The instruction information receiving unit that receives instruction information indicating an instruction to a display device other than the display device from the display device to which the attribute permitting the instruction to the display device of the above is assigned, and the instruction based on the received instruction information. It is provided with an instruction transmission unit for transmitting to each of the other display devices.

前記情報処理装置は、前記向き情報取得部により各表示装置から取得した情報に基づいて前記全天球映像から切り出した一部の映像を、前記複数の表示装置それぞれに対して送信する映像情報送信部をさらに備えてもよい。 The information processing device transmits video information to each of the plurality of display devices by transmitting a part of the video cut out from the whole celestial sphere image based on the information acquired from each display device by the orientation information acquisition unit. Further units may be provided.

前記情報処理装置は、前記指示を許可する属性が割り当てられた表示装置から、前記複数の表示装置それぞれが表示する全天球映像の種類を示す映像識別情報を受け付ける映像情報取得部をさらに備えてもよく、前記映像情報送信部は、受け付けた装置識別子に対応する表示装置に割り当てられた属性が前記指示を許可する属性であることを条件として、前記複数の表示装置それぞれに送信する全天球映像を前記映像識別情報で特定される映像に切り替えてもよい。 The information processing device further includes a video information acquisition unit that receives video identification information indicating the type of all-sky video displayed by each of the plurality of display devices from a display device to which an attribute permitting the instruction is assigned. Also, the video information transmitting unit may transmit to each of the plurality of display devices, provided that the attribute assigned to the display device corresponding to the received device identifier is the attribute that permits the instruction. The video may be switched to the video specified by the video identification information.

前記情報処理装置は、前記複数の表示装置それぞれの向き情報に基づいて、各表示装置が向いている方向を前記全天球映像上の点に投影した場合に、前記全天球映像における前記点の密度を示す情報を、前記指示を許可する属性が割り当てられた装置識別子の表示装置に送信する密度情報送信部をさらに備えてもよい。 When the information processing device projects the direction in which each display device is facing to a point on the celestial sphere image based on the orientation information of each of the plurality of display devices, the point in the celestial sphere image. The density information transmission unit may further include information indicating the density of the device to transmit the information indicating the density of the device to the display device of the device identifier to which the attribute permitting the instruction is assigned.

前記指示送信部は、前記複数の表示装置それぞれを特定するための装置識別子と、各表示装置に割り当てられた属性を示す属性情報と、を対応づけた属性データベースを参照して、受け付けた前記指示情報の送信元である前記表示装置の装置識別子に対応する属性が前記指示を許可する属性である場合に、前記指示情報に基づく指示を前記他の表示装置それぞれに送信してもよい。 The instruction transmitting unit refers to an attribute database associated with a device identifier for identifying each of the plurality of display devices and attribute information indicating an attribute assigned to each display device, and receives the instruction. When the attribute corresponding to the device identifier of the display device that is the transmission source of the information is the attribute that permits the instruction, the instruction based on the instruction information may be transmitted to each of the other display devices.

前記向き情報送信部は、前記複数の表示装置それぞれを特定するための装置識別子と、各表示装置に割り当てられた属性を示す属性情報と、前記向き情報の送信の可否を定める向き情報送信属性とを対応づけた属性データベースを参照して、前記複数の表示装置それぞれの向き情報のうち、前記向き情報送信属性が対応づけられていない装置識別子の表示装置の向き情報を前記複数の表示装置それぞれに送信せずに、前記向き情報送信属性が対応づけられている装置識別子の表示装置の向き情報を前記複数の表示装置それぞれに送信してもよい。 The orientation information transmission unit includes a device identifier for identifying each of the plurality of display devices, attribute information indicating attributes assigned to each display device, and orientation information transmission attributes that determine whether or not the orientation information can be transmitted. Of the orientation information of each of the plurality of display devices, the orientation information of the display device of the device identifier to which the orientation information transmission attribute is not associated is transmitted to each of the plurality of display devices by referring to the attribute database associated with the above. Instead of transmitting, the direction information of the display device of the device identifier associated with the direction information transmission attribute may be transmitted to each of the plurality of display devices.

前記情報処理装置は、前記複数の表示装置それぞれの向き情報に基づいて、各表示装置が向いている方向を前記全天球映像に投影した場合に、前記全天球映像における距離が所定の閾距離未満となる向き情報の組み合わせを特定する近傍方向特定部をさらに備えてもよく、前記向き情報送信部は、前記近傍方向特定部が特定した組み合わせを構成する向き情報以外の情報を、前記複数の表示装置それぞれに送信してもよい。 When the information processing apparatus projects the direction in which each display device is facing onto the all-sky image based on the orientation information of each of the plurality of display devices, the distance in the all-sky image is a predetermined threshold. Further, a neighborhood direction specifying unit that specifies a combination of orientation information that is less than a distance may be further provided, and the orientation information transmitting unit may provide information other than the orientation information that constitutes the combination specified by the neighborhood direction specifying unit. It may be transmitted to each of the display devices of.

前記情報処理装置は、前記複数の表示装置それぞれに提供するための前記全天球映像を受け付ける映像管理部をさらに備えてもよい。 The information processing device may further include a video management unit that receives the spherical image to be provided to each of the plurality of display devices.

前記指示情報は、前記表示装置のユーザに注目させるポイントを前記表示装置に表示させる情報であってもよい。 The instruction information may be information that causes the display device to display a point that attracts the user of the display device.

本発明の第3の態様は、情報処理方法である。この方法において、プロセッサが、複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置の向きを示す情報を取得するステップと、前記複数の表示装置それぞれに、各表示装置の向きを特定するための向き情報を送信するステップと、前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付けるステップと、受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信するステップと、を実行する。 A third aspect of the present invention is an information processing method. In this method, information indicating the orientation of each display device from a display device in which the processor is a plurality of display devices and each display device can display at least a part of the same virtual all-sky image. A step of acquiring orientation information for specifying the orientation of each display device to each of the plurality of display devices, and an attribute permitting instructions to other display devices among the plurality of display devices. From the display device to which is assigned, a step of receiving instruction information indicating an instruction to a display device other than the display device and a step of transmitting an instruction based on the received instruction information to each of the other display devices. Execute.

本発明の第4の態様も情報処理方法である。この方法において、プロセッサが、複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置のユーザの視線方向を示す情報を取得するステップと、前記複数の表示装置それぞれに、各表示装置のユーザの視線方向を特定するための向き情報を送信するステップと、前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付けるステップと、受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信するステップと、を実行する。 A fourth aspect of the present invention is also an information processing method. In this method, from a display device in which the processor is a plurality of display devices and each display device can display at least a part of the same virtual celestial sphere image, the line-of-sight direction of the user of each display device. A step of acquiring information indicating the above, a step of transmitting direction information for specifying the line-of-sight direction of the user of each display device to each of the plurality of display devices, and a step of transmitting other display devices among the plurality of display devices. A step of receiving instruction information indicating an instruction to a display device other than the display device from a display device to which an attribute permitting the instruction to the display device is assigned, and an instruction based on the received instruction information to each of the other display devices. Perform the steps to send and.

本発明の第5の態様はプログラムである。このプログラムは、コンピュータに、複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置の向きを示す情報を取得する機能と、前記複数の表示装置それぞれに、各表示装置の向きを特定するための向き情報を送信する機能と、前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付ける機能と、受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信する機能と、を実現させる。 A fifth aspect of the present invention is a program. This program provides information indicating the orientation of each display device from a display device capable of displaying at least a part of the same virtual all-sky image on a computer, which is a plurality of display devices. A function of acquiring, a function of transmitting orientation information for specifying the orientation of each display device to each of the plurality of display devices, and an attribute permitting instructions to other display devices among the plurality of display devices. From the display device to which is assigned, a function of receiving instruction information indicating an instruction to a display device other than the display device and a function of transmitting an instruction based on the received instruction information to each of the other display devices. make it happen.

本発明の第6の態様もプログラムである。このプログラムは、コンピュータに、複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置のユーザの視線方向を示す情報を取得する機能と、前記複数の表示装置それぞれに、各表示装置のユーザの視線方向特定するための向き情報を送信する機能と、前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付ける機能と、受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信する機能と、を実現させる。 A sixth aspect of the present invention is also a program. This program is a line-of-sight direction of a user of each display device from a display device capable of displaying at least a part of the same virtual all-sky image on a computer, which is a plurality of display devices. A function of acquiring information indicating the above, a function of transmitting direction information for specifying the line-of-sight direction of the user of each display device to each of the plurality of display devices, and a function of the plurality of display devices for other display devices. A function of receiving instruction information indicating an instruction to a display device other than the display device from a display device to which an attribute permitting the instruction is assigned, and an instruction based on the received instruction information are transmitted to each of the other display devices. To realize the function to be used.

このプログラムを提供するため、あるいはプログラムの一部をアップデートするために、このプログラムを記録したコンピュータ読み取り可能な記録媒体が提供されてもよく、また、このプログラムが通信回線で伝送されてもよい。 In order to provide this program or to update a part of the program, a computer-readable recording medium on which the program is recorded may be provided, or the program may be transmitted over a communication line.

なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。 It should be noted that any combination of the above components and the conversion of the expression of the present invention between methods, devices, systems, computer programs, data structures, recording media and the like are also effective as aspects of the present invention.

本発明によれば、HMDを装着した複数のユーザが同一の映像を観察する場合に、各ユーザの観察方向を共有することができる。 According to the present invention, when a plurality of users wearing an HMD observe the same image, the observation direction of each user can be shared.

実施の形態に係る情報処理装置の概要を説明するための図である。It is a figure for demonstrating the outline of the information processing apparatus which concerns on embodiment. 実施の形態に係る情報処理装置の機能構成を模式的に示す図である。It is a figure which shows typically the functional structure of the information processing apparatus which concerns on embodiment. 全天球映像、向き情報、及び映像の関係を模式的に示す図である。It is a figure which shows the relationship of the whole celestial sphere image, the direction information, and the image schematically. 実施の形態に係る属性データベースのデータ構造を模式的に示す図である。It is a figure which shows typically the data structure of the attribute database which concerns on embodiment. 実施の形態に係る密度情報送信部が送信する点の密度を示す情報の一例を模式的に示す図である。It is a figure which shows an example of the information which shows the density of the point transmitted by the density information transmission part which concerns on embodiment. 実施の形態に係る情報処理装置が実行する情報処理の流れを説明するためのフローチャートである。It is a flowchart for demonstrating the flow of the information processing executed by the information processing apparatus which concerns on embodiment.

<実施の形態の概要>
実施の形態の概要を述べる。実施の形態に係る情報処理装置は、複数のユーザそれぞれが装着するHMDに対して、同一の全天球映像から各表示装置の向きに応じてそれぞれ切り出した一部の全天球映像を送信する。このとき、実施の形態に係る情報処理装置は、各表示装置に送信する映像に各表示装置の向きを特定するための情報を重畳する。これにより、各表示装置のユーザは、他のユーザが全天球映像のどの向きを観察しているかを把握することができる。
<Outline of the embodiment>
The outline of the embodiment will be described. The information processing device according to the embodiment transmits a part of the spherical images cut out from the same spherical image according to the orientation of each display device to the HMDs worn by each of the plurality of users. .. At this time, the information processing apparatus according to the embodiment superimposes information for specifying the orientation of each display device on the image transmitted to each display device. As a result, the user of each display device can grasp which direction of the spherical image the other user is observing.

図1は、実施の形態に係る情報処理装置1の概要を説明するための図である。図1は、情報処理装置1が4人のユーザU(第1ユーザU1、第2ユーザU2、第3ユーザU3、及び第4ユーザU4)それぞれが所持する表示装置M(第1表示装置M1、第2表示装置M2、第3表示装置M3、及び第4表示装置M4)に対して、全天球映像から切り出した映像Iを提示している様子を示している。図1に示す例では、全天球映像はある住宅の内部を撮像した映像である。すなわち、図1に示す例において、情報処理装置1は、各ユーザUに対して仮想的な内覧の場を提供している。 FIG. 1 is a diagram for explaining an outline of the information processing apparatus 1 according to the embodiment. FIG. 1 shows a display device M (first display device M1) possessed by each of the four users U (first user U1, second user U2, third user U3, and fourth user U4) of the information processing device 1. It is shown that the second display device M2, the third display device M3, and the fourth display device M4) are presented with the image I cut out from the whole celestial sphere image. In the example shown in FIG. 1, the spherical image is an image of the inside of a house. That is, in the example shown in FIG. 1, the information processing apparatus 1 provides a virtual viewing place for each user U.

図1において、第1ユーザU1は説明者であり、例えば不動産の仲介業者である。一方、第2ユーザU2、第3ユーザU3、及び第4ユーザU4は、内覧希望者である。このため、第2ユーザU2、第3ユーザU3、及び第4ユーザU4のそれぞれは、HMDである第2表示装置M2、第3表示装置M3、及び第4表示装置M4を装着しており、住宅の内部のVR映像を観察している。 In FIG. 1, the first user U1 is an explainer, for example, a real estate agent. On the other hand, the second user U2, the third user U3, and the fourth user U4 are viewing applicants. Therefore, each of the second user U2, the third user U3, and the fourth user U4 is equipped with the second display device M2, the third display device M3, and the fourth display device M4, which are HMDs, and is a house. I am observing the VR image inside the house.

これに対し、第1ユーザU1が所持している第1表示装置M1はタブレット型のPC(Personal Computer)であり、第1ユーザU1はHMDを装着していない。これにより、第1ユーザU1は、内覧希望者である第2ユーザU2、第3ユーザU3、及び第4ユーザU4の様子を観察しながら住宅内部の説明をすることができる。 On the other hand, the first display device M1 possessed by the first user U1 is a tablet-type PC (Personal Computer), and the first user U1 is not equipped with an HMD. As a result, the first user U1 can explain the inside of the house while observing the states of the second user U2, the third user U3, and the fourth user U4 who wish to view the house.

図示はしないが、各HMDは向きを特定するための方位センサを備えており、HMDを装着しているユーザUの顔の向きを計測することができる。情報処理装置1は、各HMDから各ユーザUの顔の向きを取得するとともに、各表示装置Mに提示する映像Iに各ユーザUの顔の向きを示す情報Dを含めて送信する。図1では、内覧希望者である第2ユーザU2、第3ユーザU3、及び第4ユーザU4の顔が向いている方向を示す情報D(第2向き情報D2、第3向き情報D3、及び第4向き情報D4)として、それぞれ傾いた矩形が映像Iに重畳されている。なお、図1に示すように、向き情報Dは、ユーザU毎にそれぞれ異なる態様で映像Iに重畳されている。 Although not shown, each HMD is provided with an orientation sensor for specifying the orientation, and can measure the orientation of the face of the user U wearing the HMD. The information processing device 1 acquires the face orientation of each user U from each HMD, and transmits the video I presented to each display device M including the information D indicating the face orientation of each user U. In FIG. 1, information D (second-direction information D2, third-direction information D3, and third direction information D2) indicating the direction in which the faces of the second user U2, the third user U3, and the fourth user U4 who wish to view the view are facing is shown. As the four-direction information D4), each inclined rectangle is superimposed on the image I. As shown in FIG. 1, the orientation information D is superimposed on the video I in a different manner for each user U.

例えば、住宅の内覧の場合には、内覧対象の住宅を賃貸又は購入を検討している家族が内覧することがある。図1に示す例では、第2ユーザU2が夫であり、第3ユーザU3が妻であり、第4ユーザU4が子であるとする。このとき、不動産の仲介業者である第1ユーザU1は、営業の観点から見ると、子である第4ユーザU4の注視点よりも、第2ユーザU2や第3ユーザU3の注視点に着目して話を進めることが考えられる。 For example, in the case of a house preview, a family member who is considering renting or purchasing the house to be viewed may preview the house. In the example shown in FIG. 1, it is assumed that the second user U2 is a husband, the third user U3 is a wife, and the fourth user U4 is a child. At this time, the first user U1 who is a real estate agent pays attention to the gaze points of the second user U2 and the third user U3 rather than the gaze points of the fourth user U4 who is a child from the viewpoint of sales. It is conceivable to proceed with the story.

実施の形態に係る情報処理装置1は、映像I中に各ユーザUの顔の向きを示す情報Dを表示しているため、第1ユーザU1は第2ユーザU2や第3ユーザU3の注視点を把握することができる。さらに、情報処理装置1が映像I中に各ユーザUの顔の向きを示す情報Dを表示することにより、ユーザU同士のコミュニケーション(例えば、第2ユーザU2が第3ユーザU3に着目してもらいたい場所の指示)等もスムースにすることができる。 Since the information processing apparatus 1 according to the embodiment displays the information D indicating the direction of the face of each user U in the video I, the first user U1 is the gazing point of the second user U2 and the third user U3. Can be grasped. Further, the information processing apparatus 1 displays information D indicating the direction of each user U's face in the video I, so that the communication between the users U (for example, the second user U2 pays attention to the third user U3). Instructions on where you want to go) can also be made smooth.

<実施の形態に係る情報処理装置1の機能構成>
図2は、実施の形態に係る情報処理装置1の機能構成を模式的に示す図である。情報処理装置1は、記憶部2と制御部3とを備える。図2において、矢印は主なデータの流れを示しており、図2に示していないデータの流れがあってもよい。図2において、各機能ブロックはハードウェア(装置)単位の構成ではなく、機能単位の構成を示している。そのため、図2に示す機能ブロックは単一の装置内に実装されてもよく、あるいは複数の装置内に分かれて実装されてもよい。機能ブロック間のデータの授受は、データバス、ネットワーク、可搬記憶媒体等、任意の手段を介して行われてもよい。
<Functional configuration of information processing device 1 according to the embodiment>
FIG. 2 is a diagram schematically showing a functional configuration of the information processing apparatus 1 according to the embodiment. The information processing device 1 includes a storage unit 2 and a control unit 3. In FIG. 2, the arrows indicate the main data flows, and there may be data flows not shown in FIG. In FIG. 2, each functional block shows not a hardware (device) unit configuration but a functional unit configuration. Therefore, the functional block shown in FIG. 2 may be mounted in a single device, or may be mounted in a plurality of devices separately. Data can be exchanged between functional blocks via any means such as a data bus, a network, and a portable storage medium.

記憶部2は、情報処理装置1を実現するコンピュータのBIOS(Basic Input Output System)等を格納するROM(Read Only Memory)や情報処理装置1の作業領域となるRAM(Random Access Memory)、OS(Operating System)やアプリケーションプログラム、当該アプリケーションプログラムの実行時に参照される種々の情報を格納するHDD(Hard Disk Drive)やSSD(Solid State Drive)等の大容量記憶装置である。 The storage unit 2 includes a ROM (Read Only Memory) that stores a BIOS (Basic Input Output System) of a computer that realizes the information processing device 1, a RAM (Random Access Memory) that is a work area of the information processing device 1, and an OS (OS). It is a large-capacity storage device such as an HDD (Hard Disk Drive) or SSD (Solid State Drive) that stores an Operating System), an application program, and various information referred to when the application program is executed.

制御部3は、情報処理装置1のCPU(Central Processing Unit)やGPU(Graphics Processing Unit)等のプロセッサであり、記憶部2に記憶されたプログラムを実行することによって向き情報取得部30、向き情報送信部31、指示情報受付部32、指示送信部33、密度情報送信部34、近傍方向特定部35、映像情報取得部36、映像情報送信部37、及び映像管理部38として機能する。 The control unit 3 is a processor such as a CPU (Central Processing Unit) or GPU (Graphics Processing Unit) of the information processing device 1, and by executing a program stored in the storage unit 2, the orientation information acquisition unit 30 and orientation information It functions as a transmission unit 31, an instruction information reception unit 32, an instruction transmission unit 33, a density information transmission unit 34, a proximity direction identification unit 35, a video information acquisition unit 36, a video information transmission unit 37, and a video management unit 38.

なお、図2は、情報処理装置1が単一の装置で構成されている場合の例を示している。しかしながら、情報処理装置1は、例えばクラウドコンピューティングシステムのように複数のプロセッサやメモリ等の計算リソースによって実現されてもよい。この場合、制御部3を構成する各部は、複数の異なるプロセッサの中の少なくともいずれかのプロセッサがプログラムを実行することによって実現される。 Note that FIG. 2 shows an example in which the information processing apparatus 1 is composed of a single apparatus. However, the information processing device 1 may be realized by a plurality of processors, memory, and other computational resources, such as a cloud computing system. In this case, each unit constituting the control unit 3 is realized by executing a program by at least one of a plurality of different processors.

向き情報取得部30は、複数の表示装置Mから、各表示装置Mの向きを示す情報を取得する。向きを示す情報とは、例えば方位角情報である。ここで、各表示装置Mは、それぞれ同一の仮想的な全天球映像の少なくとも一部の映像Iを表示可能な装置であり、例えば、HMD、タブレットPC、スマートフォン等である。向き情報送信部31は、複数の表示装置Mそれぞれに、各表示装置Mの向きを特定するための向き情報を送信する。以下、映像I中で各表示装置Mの向きを示す情報を示すために付された情報を「向き情報D」と記載することがある。向き情報取得部30が表示装置Mから取得する情報と、映像I中に表示される向き情報Dとは、表現の形式は異なるが実質的には同じ情報である。 The orientation information acquisition unit 30 acquires information indicating the orientation of each display device M from the plurality of display devices M. The information indicating the orientation is, for example, azimuth angle information. Here, each display device M is a device capable of displaying at least a part of the same virtual spherical image I, and is, for example, an HMD, a tablet PC, a smartphone, or the like. The orientation information transmission unit 31 transmits orientation information for specifying the orientation of each display device M to each of the plurality of display devices M. Hereinafter, the information attached to indicate the information indicating the orientation of each display device M in the video I may be referred to as “direction information D”. The information acquired by the orientation information acquisition unit 30 from the display device M and the orientation information D displayed in the video I are different in the form of expression, but are substantially the same information.

図3は、全天球映像O、向き情報D、及び映像Iの関係を模式的に示す図である。全天球映像Oは上下左右360度を撮像したパノラマ映像である。このため、全ての全天球映像Oを2次元の表示装置である表示装置Mに一度に表示させても、ユーザUに適切な映像を提示したことにはならない。このため、情報処理装置1は、全天球映像OのうちユーザUの視野に対応する部分の映像を映像Iとして切り出し、表示装置Mに送信する。 FIG. 3 is a diagram schematically showing the relationship between the spherical image O, the orientation information D, and the image I. The spherical image O is a panoramic image of 360 degrees up, down, left and right. Therefore, even if all the spherical images O are displayed on the display device M, which is a two-dimensional display device, at once, it does not mean that the user U is presented with an appropriate image. Therefore, the information processing device 1 cuts out the image of the portion of the spherical image O corresponding to the field of view of the user U as the image I and transmits it to the display device M.

具体的には、情報処理装置1は、ユーザUの向きを特定するための向き情報D(すなわち、ユーザUの視線方向)を中心として、ユーザUの視野に対応する部分を全天球映像Oから切り出して映像Iとする。図3に示すように、映像Iは全天球映像Oの一部であるため、情報処理装置1は、複数のユーザUそれぞれの向き情報Dを取得して、各表示装置Mに送信するための映像Iをそれぞれ全天球映像Oから切り出す。 Specifically, the information processing apparatus 1 is centered on the orientation information D (that is, the line-of-sight direction of the user U) for specifying the orientation of the user U, and the portion corresponding to the field of view of the user U is the spherical image O. It is cut out from and used as image I. As shown in FIG. 3, since the image I is a part of the spherical image O, the information processing apparatus 1 acquires the orientation information D of each of the plurality of users U and transmits the orientation information D to each display device M. The video I of each is cut out from the spherical video O.

このとき、情報処理装置1は、ある向き情報Dと別の向き情報Dとが近傍にあるとき、すなわち、ある向き情報Dを基準に切り出した映像Iと、別の向き情報Dを基準として切り出した映像Iとが少なくとも映像Iの中心部を共有する場合、各映像に向き情報Dを重畳する。これにより、情報処理装置1は、HMDを装着した複数のユーザUが同一の映像を観察する場合に、各ユーザUの観察方向を共有させることができる。 At this time, the information processing apparatus 1 cuts out when one direction information D and another direction information D are in the vicinity, that is, the image I cut out based on the certain direction information D and another direction information D as a reference. When the video I and the video I share at least the center of the video I, the orientation information D is superimposed on each video. As a result, the information processing apparatus 1 can share the observation direction of each user U when a plurality of users U wearing the HMD observe the same image.

図2の説明に戻る。記憶部2は、複数の表示装置Mそれぞれを特定するための装置識別子と、各表示装置に割り当てられた属性を示す属性情報とを対応づけた属性データベースを格納している。指示情報受付部32は、複数の表示装置Mのうちのいずれかの表示装置Mから、その表示装置Mの装置識別子と、その表示装置M以外の他の表示装置Mに対する指示を示す指示情報とを受け付ける。 Returning to the description of FIG. The storage unit 2 stores an attribute database in which a device identifier for identifying each of the plurality of display devices M and attribute information indicating an attribute assigned to each display device are associated with each other. The instruction information receiving unit 32 receives instruction information indicating an instruction from the display device M of the plurality of display devices M to the device identifier of the display device M and instructions to other display devices M other than the display device M. Accept.

指示送信部33は、受け付けた装置識別子に対応する表示装置Mに割り当てられた属性が表示装置Mに対する指示を許可する説明者属性であることを条件として、指示情報を他の表示装置Mそれぞれに送信する。 The instruction transmission unit 33 sends instruction information to each of the other display devices M, provided that the attribute assigned to the display device M corresponding to the received device identifier is the explainer attribute that permits the instruction to the display device M. Send.

図4は、実施の形態に係る属性データベースのデータ構造を模式的に示す図である。属性データベースは記憶部2に格納されており、指示送信部33によって管理されている。図4に示すように、属性データベースには、各表示装置Mを特定するための装置識別子と対応づけて、表示装置Mに割り当てられた属性が記録されている。 FIG. 4 is a diagram schematically showing the data structure of the attribute database according to the embodiment. The attribute database is stored in the storage unit 2 and is managed by the instruction transmission unit 33. As shown in FIG. 4, in the attribute database, the attributes assigned to the display device M are recorded in association with the device identifier for identifying each display device M.

例えば、図4において、装置識別子がDID00001である表示装置Mの属性は「一般」であり、装置識別子がDID00002である表示装置Mの属性は「説明者」である。指示送信部33は、指示情報を送信した表示装置Mの属性が「説明者」である場合に、その指示情報を他の表示装置Mに送信する。指示情報を送信した表示装置Mの属性が「一般」である場合には、指示送信部33は、指示情報を受け付けても他の表示装置Mには送信しない。 For example, in FIG. 4, the attribute of the display device M whose device identifier is DID00001 is "general", and the attribute of the display device M whose device identifier is DID00002 is "explainer". When the attribute of the display device M that has transmitted the instruction information is "explainer", the instruction transmission unit 33 transmits the instruction information to another display device M. When the attribute of the display device M that has transmitted the instruction information is "general", the instruction transmission unit 33 does not transmit the instruction information to the other display device M even if it receives the instruction information.

図1に示す内覧の例では、第1ユーザU1が利用する第1表示装置M1に説明者属性が割り当てられている。この場合、不動産の仲介業者である第1ユーザU1のみが、内覧希望者である第2ユーザU2、第3ユーザU3、及び第4ユーザU4に対して、指示情報を送信できることになる。指示情報とは、例えばユーザUに注目して欲しいポイントを映像I中に表示させる情報である。 In the example of the preview shown in FIG. 1, the explainer attribute is assigned to the first display device M1 used by the first user U1. In this case, only the first user U1 who is a real estate agent can send instruction information to the second user U2, the third user U3, and the fourth user U4 who want to see the property. The instruction information is information that displays, for example, a point that the user U wants to pay attention to in the video I.

これにより、説明者属性を持つ表示装置MのユーザUは、他のユーザUに対して、注目ポイントを示すことができるようになる。表示装置MがHMDである場合には、その表示装置Mを装着しているユーザUは説明者を直接見ることができないため、情報処理装置1は映像I中に注目ポイントを示すことにより、説明をスムースに行わせることができる。また、説明者属性を持つ表示装置M以外からの指示を破棄することにより、情報処理装置1は、映像I中に注目ポイントが入り乱れることを抑制できる。なお、図4中の「向き情報送信」属性については後述する。 As a result, the user U of the display device M having the explainer attribute can show the attention point to the other user U. When the display device M is an HMD, the user U wearing the display device M cannot directly see the explainer. Therefore, the information processing device 1 explains by showing the point of interest in the image I. Can be done smoothly. Further, by discarding the instruction from the display device M other than the display device M having the explainer attribute, the information processing device 1 can suppress the attention points from being mixed up in the video I. The "direction information transmission" attribute in FIG. 4 will be described later.

密度情報送信部34は、複数の表示装置Mそれぞれの向き情報に基づいて、各表示装置Mが向いている方向を全天球映像O上の点に投影した場合に、全天球映像Oにおける点の密度を示す情報を、説明者属性が対応づけられた装置識別子の表示装置Mに送信する。 When the density information transmission unit 34 projects the direction in which each display device M is facing to a point on the spherical image O based on the orientation information of each of the plurality of display devices M, the density information transmission unit 34 is used in the spherical image O. Information indicating the density of points is transmitted to the display device M of the device identifier associated with the explainer attribute.

図5は、実施の形態に係る密度情報送信部34が送信する点の密度を示す情報の一例を模式的に示す図である。図5に示す例では、密度情報送信部34は、点の密度を示す情報をヒートマップの形式で表現して説明者属性が付された第1表示装置M1に送信している。具体的には、図5において、各ユーザUの注視点の密度が高いほど高い輝度で表されている。説明者は、自身の表示装置Mで点の密度を示す情報を確認することにより、映像Iを観察しているユーザUが全天球映像O中のどの場所に興味を持っているかを把握することができる。 FIG. 5 is a diagram schematically showing an example of information indicating the density of points transmitted by the density information transmitting unit 34 according to the embodiment. In the example shown in FIG. 5, the density information transmission unit 34 expresses information indicating the density of points in the form of a heat map and transmits the information to the first display device M1 to which the explainer attribute is attached. Specifically, in FIG. 5, the higher the density of the gaze point of each user U, the higher the luminance is represented. By confirming the information indicating the density of points on its display device M, the explainer grasps which place in the spherical image O the user U observing the image I is interested in. be able to.

以上、複数のユーザUそれぞれが向いている方向を、各表示装置Mに表示されている映像Iに重畳させる場合について説明した。ここで、同一の全天球映像Oを共有するユーザUの数が多くなるほど、映像I上に重畳される向き情報Dの数が増えることになる。このため、映像Iに重畳される向き情報Dの数が多すぎると、ユーザUに本来提示すべき映像Iが観察しづらくなることも考えられる。 The case where the directions facing each of the plurality of users U are superimposed on the image I displayed on each display device M has been described above. Here, as the number of users U sharing the same spherical image O increases, the number of orientation information D superimposed on the image I increases. Therefore, if the number of orientation information D superimposed on the image I is too large, it may be difficult to observe the image I that should be originally presented to the user U.

そこで、近傍方向特定部35は、複数の表示装置Mそれぞれの向き情報Dに基づいて、各表示装置Mが向いている方向を全天球映像Oに投影した場合に、全天球映像Oにおける距離が所定の閾距離未満となる向き情報Dの組み合わせを特定する。なお、「所定の閾距離」とは、全天球映像O上に投影された点同士が近傍の関係にあるか否かを判定するために近傍方向特定部35が参照する「近傍判定時参照用距離」である。所定の閾距離の具体的な値は、参加が想定されるユーザUの数や全天球映像Oの種類等を勘案して実験により定めれば良いが、例えば、映像Iの短辺の長さの10%に対応する距離である。 Therefore, when the proximity direction specifying unit 35 projects the direction in which each display device M is facing to the spherical image O based on the orientation information D of each of the plurality of display devices M, the spherical image O is used. A combination of orientation information D whose distance is less than a predetermined threshold distance is specified. The "predetermined threshold distance" is a "neighborhood determination reference" referred to by the neighborhood direction specifying unit 35 in order to determine whether or not the points projected on the spherical image O are in a neighborhood relationship. Distance ". The specific value of the predetermined threshold distance may be determined by an experiment in consideration of the number of users U who are expected to participate, the type of spherical image O, etc., but for example, the length of the short side of the image I The distance corresponds to 10% of the distance.

向き情報送信部31は、近傍方向特定部35が特定した組み合わせを構成する向き情報D以外の情報を、複数の表示装置Mそれぞれに送信する。これにより、各表示装置Mに送信される映像Iには「近傍」の関係にある向き情報Dが重畳されないため、ユーザUは、本来観察すべき映像を向き情報Dに邪魔されることなく観察することができる。 The orientation information transmission unit 31 transmits information other than the orientation information D constituting the combination specified by the proximity direction identification unit 35 to each of the plurality of display devices M. As a result, the orientation information D having a “neighborhood” relationship is not superimposed on the video I transmitted to each display device M, so that the user U observes the video that should be originally observed without being disturbed by the orientation information D. can do.

ここで、例えば映像Iを観察する複数のユーザUの中で、他のユーザUよりも上の立場に立つユーザUが存在する場合を考える。このとき、上の立場に立つユーザU以外のユーザUは、上の立場に立つユーザUが観察している方向を知ることができると便利である。 Here, for example, consider a case where there is a user U who is in a higher position than another user U among a plurality of users U who observe the image I. At this time, it is convenient for the user U other than the user U standing in the upper position to know the direction in which the user U standing in the upper position is observing.

そこで、属性データベースは、向き情報Dの送信の可否を定める向き情報送信属性を装置識別子に対応づけてさらに格納してもよい。この場合、向き情報送信部31は、複数の表示装置Mそれぞれの向き情報Dのうち、向き情報送信属性が対応づけられている装置識別子の表示装置Mの向き情報のみを、他の複数の表示装置Mそれぞれに送信する。これにより、情報処理装置1は、特定のユーザUの顔の向きのみを他のユーザUと共有することができる。 Therefore, the attribute database may further store the orientation information transmission attribute that determines whether or not the orientation information D can be transmitted in association with the device identifier. In this case, the orientation information transmission unit 31 displays only the orientation information of the display device M of the device identifier associated with the orientation information transmission attribute among the orientation information D of each of the plurality of display devices M. It is transmitted to each of the devices M. As a result, the information processing apparatus 1 can share only the face orientation of the specific user U with the other user U.

以上、複数のユーザUが共有する全天球映像Oが一種類であることを前提に説明した。しかしながら、各ユーザUが共有する全天球映像Oは複数種類存在してもよい。例えば、住宅の賃貸を検討している家族が情報処理装置1を用いて複数の住宅の内覧を行う場合には、内覧する住宅の数に対応する数の全天球映像Oが存在する。この場合、情報処理装置1は、ユーザUに共有させる全天球映像Oを切り替えながら映像Iを表示装置Mに送信することになる。 The above description has been made on the premise that there is only one type of spherical image O shared by a plurality of users U. However, there may be a plurality of types of spherical images O shared by each user U. For example, when a family considering renting a house uses the information processing device 1 to preview a plurality of houses, there are a number of all-sky images O corresponding to the number of houses to be viewed. In this case, the information processing device 1 transmits the image I to the display device M while switching the spherical image O to be shared by the user U.

ここで、全てのユーザUが自由に全天球映像Oを切り替えることができると、表示装置Mに提示される映像Iが頻繁に切り替えられることになりかねない。このため、全天球映像Oの切り替えはある程度制限できると便利である。 Here, if all the users U can freely switch the spherical image O, the image I presented on the display device M may be frequently switched. Therefore, it is convenient to be able to limit the switching of the spherical image O to some extent.

そこで、まず、映像情報取得部36は、複数の表示装置Mのうちのいずれかの表示装置Mから、その表示装置の装置識別子と、複数の表示装置Mそれぞれが表示する全天球映像Oの種類を示す映像識別情報とを受け付ける。続いて、映像情報送信部37は、属性データベースを参照して、受け付けた装置識別子に対応する属性を取得する。映像情報送信部37は、受け付けた装置識別子に対応する表示装置Mに割り当てられた属性が説明者属性であることを条件として、複数の表示装置Mそれぞれに送信する全天球映像Oを、映像情報取得部36が取得した映像識別情報で特定される映像に切り替える。 Therefore, first, the video information acquisition unit 36 receives the device identifier of the display device and the spherical image O displayed by each of the plurality of display devices M from the display device M of the plurality of display devices M. Accepts video identification information indicating the type. Subsequently, the video information transmission unit 37 refers to the attribute database and acquires the attribute corresponding to the received device identifier. The video information transmission unit 37 displays the spherical image O to be transmitted to each of the plurality of display devices M, provided that the attribute assigned to the display device M corresponding to the received device identifier is the explainer attribute. The image is switched to the image specified by the image identification information acquired by the information acquisition unit 36.

これにより、ユーザUに提示する全天球映像Oの切り替えが説明者属性を持つ表示装置MのユーザUに限定されるので、情報処理装置1は、表示装置Mに提示される映像Iが頻繁に切り替えられる事態を抑制できる。 As a result, switching of the spherical image O presented to the user U is limited to the user U of the display device M having the explainer attribute, so that the image I presented to the display device M is frequently used in the information processing device 1. It is possible to suppress the situation of being switched to.

このように、複数のユーザUが共有する全天球映像Oを自由に変更できるのであれば、情報処理装置1に保持させる全天球映像Oも自由に変更できると便利である。複数のユーザUに共有させる全天球映像Oのバリエーションを増加することができるからである。 As described above, if the spherical image O shared by the plurality of users U can be freely changed, it is convenient that the spherical image O held in the information processing apparatus 1 can also be freely changed. This is because the variation of the spherical image O to be shared by a plurality of users U can be increased.

そこで、情報処理装置1は、複数の表示装置Mそれぞれに提供するための全天球映像Oを受け付ける映像管理部を38備えている。映像管理部38は、情報処理装置1の管理者から新たな全天球映像Oを受け付けた場合、その全天球映像Oを記憶部2に格納する。また、映像管理部38は、情報処理装置1の管理者からの指示により、記憶部2が格納している全天球映像Oを削除する。これにより、情報処理装置1は、複数のユーザUに共有させる全天球映像Oを追加したり削除したりすることができる。 Therefore, the information processing device 1 includes 38 image management units that receive spherical images O to be provided to each of the plurality of display devices M. When the image management unit 38 receives a new spherical image O from the administrator of the information processing device 1, the image management unit 38 stores the spherical image O in the storage unit 2. Further, the image management unit 38 deletes the spherical image O stored in the storage unit 2 according to an instruction from the administrator of the information processing device 1. As a result, the information processing apparatus 1 can add or delete the spherical image O to be shared by the plurality of users U.

<情報処理装置1が実行する情報処理方法の処理フロー>
図6は、実施の形態に係る情報処理装置1が実行する情報処理の流れを説明するためのフローチャートである。本フローチャートにおける処理は、例えば情報処理装置1が起動したときに開始する。
<Processing flow of information processing method executed by information processing device 1>
FIG. 6 is a flowchart for explaining the flow of information processing executed by the information processing apparatus 1 according to the embodiment. The process in this flowchart starts, for example, when the information processing apparatus 1 is started.

向き情報取得部30は、複数の表示装置Mから、各表示装置Mの向きを特定するための向き情報Dを取得する(S2)。向き情報送信部31は、複数の表示装置Mそれぞれに、各表示装置Mの向きを特定するための向き情報Dを送信する(S4)。 The orientation information acquisition unit 30 acquires orientation information D for specifying the orientation of each display device M from the plurality of display devices M (S2). The orientation information transmission unit 31 transmits orientation information D for specifying the orientation of each display device M to each of the plurality of display devices M (S4).

指示情報受付部32は、複数の表示装置Mのうちのいずれかの表示装置Mから、その表示装置Mの装置識別子と、その表示装置M以外の他の表示装置Mに対する指示を示す指示情報とを受け付ける(S6)。 The instruction information receiving unit 32 receives instruction information indicating an instruction from the display device M of the plurality of display devices M to the device identifier of the display device M and instructions to other display devices M other than the display device M. Is accepted (S6).

属性データベースにおいて、指示情報受付部32が受け付けた装置識別子に対応する表示装置Mに割り当てられた属性が表示装置Mに対する指示を許可する説明者属性である場合(S8のYes)、指示送信部33は、指示情報を他の表示装置Mそれぞれに送信する(S10)。 In the attribute database, when the attribute assigned to the display device M corresponding to the device identifier received by the instruction information receiving unit 32 is the explainer attribute permitting the instruction to the display device M (Yes in S8), the instruction transmitting unit 33 Transmits instruction information to each of the other display devices M (S10).

属性データベースにおいて、指示情報受付部32が受け付けた装置識別子に対応する表示装置Mに割り当てられた属性が表示装置Mに対する指示を許可する説明者属性でない場合(S8のNo)、又は、指示送信部33が指示情報を他の表示装置Mそれぞれに送信すると、本フローチャートにおける処理は終了する。 In the attribute database, when the attribute assigned to the display device M corresponding to the device identifier received by the instruction information receiving unit 32 is not the explainer attribute permitting the instruction to the display device M (No in S8), or the instruction transmitting unit. When 33 transmits the instruction information to each of the other display devices M, the process in this flowchart ends.

<実施の形態に係る情報処理装置1が奏する効果>
以上説明したように、実施の形態に係る情報処理装置1によれば、HMDを装着した複数のユーザUが同一の全天球映像Oを観察する場合に、各ユーザUの観察方向を共有させることができる。
<Effects of the information processing apparatus 1 according to the embodiment>
As described above, according to the information processing apparatus 1 according to the embodiment, when a plurality of users U wearing the HMD observe the same spherical image O, the observation direction of each user U is shared. be able to.

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の全部又は一部は、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果をあわせ持つ。 Although the present invention has been described above using the embodiments, the technical scope of the present invention is not limited to the scope described in the above embodiments, and various modifications and changes can be made within the scope of the gist. be. For example, all or part of the device can be functionally or physically distributed / integrated in any unit. Also included in the embodiments of the present invention are new embodiments resulting from any combination of the plurality of embodiments. The effect of the new embodiment produced by the combination has the effect of the original embodiment together.

1・・・情報処理装置
2・・・記憶部
3・・・制御部
30・・・向き情報取得部
31・・・向き情報送信部
32・・・指示情報受付部
33・・・指示送信部
34・・・密度情報送信部
35・・・近傍方向特定部
36・・・映像情報取得部
37・・・映像情報送信部
38・・・映像管理部
M・・・表示装置
1 ... Information processing device 2 ... Storage unit 3 ... Control unit 30 ... Direction information acquisition unit 31 ... Direction information transmission unit 32 ... Instruction information reception unit 33 ... Instruction transmission unit 34 ... Density information transmission unit 35 ... Neighborhood direction identification unit 36 ... Video information acquisition unit 37 ... Video information transmission unit 38 ... Video management unit M ... Display device

Claims (14)

複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置の向きを示す情報を取得する向き情報取得部と、
前記複数の表示装置それぞれに、各表示装置の向きを特定するための向き情報を送信する向き情報送信部と、
前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付ける指示情報受付部と、
受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信する指示送信部と、
を備える情報処理装置。
Direction information acquisition unit that acquires information indicating the direction of each display device from a display device that is a plurality of display devices and each display device can display at least a part of the same virtual spherical image. When,
An orientation information transmission unit that transmits orientation information for specifying the orientation of each display device to each of the plurality of display devices.
An instruction information receiving unit that receives instruction information indicating an instruction to another display device other than the display device from a display device to which an attribute permitting an instruction to another display device is assigned among the plurality of display devices.
An instruction transmission unit that transmits an instruction based on the received instruction information to each of the other display devices, and an instruction transmission unit.
Information processing device equipped with.
複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置のユーザの視線方向を示す情報を取得する向き情報取得部と、
前記複数の表示装置それぞれに、各表示装置のユーザの視線方向を特定するための向き情報を送信する向き情報送信部と、
前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付ける指示情報受付部と、
受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信する指示送信部と、
を備える情報処理装置。
Direction to acquire information indicating the user's line-of-sight direction of each display device from a display device having a plurality of display devices and each display device can display at least a part of the same virtual spherical image. Information acquisition department and
A direction information transmitting unit that transmits direction information for specifying the line-of-sight direction of the user of each display device to each of the plurality of display devices.
An instruction information receiving unit that receives instruction information indicating an instruction to another display device other than the display device from a display device to which an attribute permitting an instruction to another display device is assigned among the plurality of display devices.
An instruction transmission unit that transmits an instruction based on the received instruction information to each of the other display devices, and an instruction transmission unit.
Information processing device equipped with.
前記向き情報取得部により各表示装置から取得した情報に基づいて前記全天球映像から切り出した一部の映像を、前記複数の表示装置それぞれに対して送信する映像情報送信部をさらに備える、
請求項1又は2記載の情報処理装置。
Further provided is a video information transmission unit that transmits a part of the video cut out from the spherical image based on the information acquired from each display device by the orientation information acquisition unit to each of the plurality of display devices.
The information processing apparatus according to claim 1 or 2.
前記指示を許可する属性が割り当てられた表示装置から、前記複数の表示装置それぞれが表示する全天球映像の種類を示す映像識別情報を受け付ける映像情報取得部をさらに備え、
前記映像情報送信部は、受け付けた装置識別子に対応する表示装置に割り当てられた属性が前記指示を許可する属性であることを条件として、前記複数の表示装置それぞれに送信する全天球映像を前記映像識別情報で特定される映像に切り替える、
請求項3に記載の情報処理装置。
Further, it is provided with a video information acquisition unit that receives video identification information indicating the type of spherical image displayed by each of the plurality of display devices from the display device to which the attribute permitting the instruction is assigned.
The video information transmitting unit transmits the spherical image transmitted to each of the plurality of display devices, provided that the attribute assigned to the display device corresponding to the received device identifier is the attribute that permits the instruction. Switch to the video specified by the video identification information,
The information processing apparatus according to claim 3 .
前記複数の表示装置それぞれの向き情報に基づいて、各表示装置が向いている方向を前記全天球映像上の点に投影した場合に、前記全天球映像における前記点の密度を示す情報を、前記指示を許可する属性が割り当てられた装置識別子の表示装置に送信する密度情報送信部をさらに備える、
請求項1から4のいずれか1項に記載の情報処理装置。
Based on the orientation information of each of the plurality of display devices, when the direction in which each display device is directed is projected onto a point on the spherical image, information indicating the density of the point in the spherical image is displayed. Further, a density information transmission unit for transmitting to a display device of a device identifier to which an attribute permitting the instruction is assigned is provided.
The information processing apparatus according to any one of claims 1 to 4.
前記指示送信部は、前記複数の表示装置それぞれを特定するための装置識別子と、各表示装置に割り当てられた属性を示す属性情報と、を対応づけた属性データベースを参照して、受け付けた前記指示情報の送信元である前記表示装置の装置識別子に対応する属性が前記指示を許可する属性である場合に、前記指示情報に基づく指示を前記他の表示装置それぞれに送信する、
請求項1から5のいずれか1項に記載の情報処理装置。
The instruction transmitting unit refers to an attribute database associated with a device identifier for identifying each of the plurality of display devices and attribute information indicating an attribute assigned to each display device, and receives the instruction. When the attribute corresponding to the device identifier of the display device that is the transmission source of the information is the attribute that permits the instruction, the instruction based on the instruction information is transmitted to each of the other display devices.
The information processing apparatus according to any one of claims 1 to 5.
前記向き情報送信部は、前記複数の表示装置それぞれを特定するための装置識別子と、各表示装置に割り当てられた属性を示す属性情報と、前記向き情報の送信の可否を定める向き情報送信属性とを対応づけた属性データベースを参照して、前記複数の表示装置それぞれの向き情報のうち、前記向き情報送信属性が対応づけられていない装置識別子の表示装置の向き情報を前記複数の表示装置それぞれに送信せずに、前記向き情報送信属性が対応づけられている装置識別子の表示装置の向き情報を前記複数の表示装置それぞれに送信する、
請求項1から6のいずれか1項に記載の情報処理装置。
The orientation information transmission unit includes a device identifier for identifying each of the plurality of display devices, attribute information indicating attributes assigned to each display device, and orientation information transmission attributes that determine whether or not the orientation information can be transmitted. Of the orientation information of each of the plurality of display devices, the orientation information of the display device of the device identifier to which the orientation information transmission attribute is not associated is transmitted to each of the plurality of display devices by referring to the attribute database associated with. Instead of transmitting, the orientation information of the display device of the device identifier associated with the orientation information transmission attribute is transmitted to each of the plurality of display devices.
The information processing apparatus according to any one of claims 1 to 6.
前記複数の表示装置それぞれの向き情報に基づいて、各表示装置が向いている方向を前記全天球映像に投影した場合に、前記全天球映像における距離が所定の閾距離未満となる向き情報の組み合わせを特定する近傍方向特定部をさらに備え、
前記向き情報送信部は、前記近傍方向特定部が特定した組み合わせを構成する向き情報以外の情報を、前記複数の表示装置それぞれに送信する、
請求項1から7のいずれか1項に記載の情報処理装置。
Direction information in which the distance in the spherical image is less than a predetermined threshold distance when the direction in which each display device is facing is projected onto the spherical image based on the orientation information of each of the plurality of display devices. Further equipped with a near-direction identification part that specifies the combination of
The orientation information transmitting unit transmits information other than the orientation information constituting the combination specified by the neighborhood direction specifying unit to each of the plurality of display devices.
The information processing apparatus according to any one of claims 1 to 7.
前記複数の表示装置それぞれに提供するための前記全天球映像を受け付ける映像管理部をさらに備える、
請求項1から8のいずれか1項に記載の情報処理装置。
Further, a video management unit for receiving the spherical image to be provided to each of the plurality of display devices is provided.
The information processing apparatus according to any one of claims 1 to 8.
前記指示情報は、前記表示装置のユーザに注目させるポイントを前記表示装置に表示させる情報である、
請求項1から9のいずれか1項に記載の情報処理装置。
The instruction information is information that causes the display device to display a point that attracts the user of the display device.
The information processing apparatus according to any one of claims 1 to 9.
プロセッサが、
複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置の向きを示す情報を取得するステップと、
前記複数の表示装置それぞれに、各表示装置の向きを特定するための向き情報を送信するステップと、
前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付けるステップと、
受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信するステップと、
を実行する情報処理方法。
The processor,
A step of acquiring information indicating the orientation of each display device from a display device that is a plurality of display devices and each display device can display at least a part of the same virtual spherical image.
A step of transmitting orientation information for specifying the orientation of each display device to each of the plurality of display devices, and
A step of receiving instruction information indicating an instruction to another display device other than the display device from a display device to which an attribute permitting an instruction to another display device is assigned among the plurality of display devices.
A step of transmitting an instruction based on the received instruction information to each of the other display devices, and
Information processing method to execute.
プロセッサが、
複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置のユーザの視線方向を示す情報を取得するステップと、
前記複数の表示装置それぞれに、各表示装置のユーザの視線方向を特定するための向き情報を送信するステップと、
前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付けるステップと、
受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信するステップと、
を実行する情報処理方法。
The processor,
A step of acquiring information indicating the user's line-of-sight direction of each display device from a display device having a plurality of display devices and each display device can display at least a part of the same virtual spherical image. When,
A step of transmitting direction information for specifying the line-of-sight direction of the user of each display device to each of the plurality of display devices, and
A step of receiving instruction information indicating an instruction to another display device other than the display device from a display device to which an attribute permitting an instruction to another display device is assigned among the plurality of display devices.
A step of transmitting an instruction based on the received instruction information to each of the other display devices, and
Information processing method to execute.
コンピュータに、
複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置の向きを示す情報を取得する機能と、
前記複数の表示装置それぞれに、各表示装置の向きを特定するための向き情報を送信する機能と、
前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付ける機能と、
受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信する機能と、
を実現させるプログラム。
On the computer
A function to acquire information indicating the orientation of each display device from a display device that is a plurality of display devices and each display device can display at least a part of the same virtual spherical image.
A function of transmitting orientation information for specifying the orientation of each display device to each of the plurality of display devices, and
A function of receiving instruction information indicating an instruction to another display device other than the display device from a display device to which an attribute permitting an instruction to another display device is assigned among the plurality of display devices.
A function to send an instruction based on the received instruction information to each of the other display devices, and
A program that realizes.
コンピュータに、
複数の表示装置であって各表示装置それぞれが同一の仮想的な全天球映像の少なくとも一部の映像を表示可能な表示装置から、各表示装置のユーザの視線方向を示す情報を取得する機能と、
前記複数の表示装置それぞれに、各表示装置のユーザの視線方向特定するための向き情報を送信する機能と、
前記複数の表示装置のうち、他の表示装置に対する指示を許可する属性が割り当てられた表示装置から、当該表示装置以外の他の表示装置に対する指示を示す指示情報を受け付ける機能と、
受け付けた前記指示情報に基づく指示を前記他の表示装置それぞれに送信する機能と、
を実現させるプログラム。
On the computer
A function to acquire information indicating the user's line-of-sight direction of each display device from a display device that is a plurality of display devices and each display device can display at least a part of the same virtual spherical image. When,
A function of transmitting direction information for specifying the line-of-sight direction of the user of each display device to each of the plurality of display devices, and
A function of receiving instruction information indicating an instruction to another display device other than the display device from a display device to which an attribute permitting an instruction to another display device is assigned among the plurality of display devices.
A function to send an instruction based on the received instruction information to each of the other display devices, and
A program that realizes.
JP2021124140A 2019-09-20 2021-07-29 Information processing equipment, information processing methods, and programs Active JP7007515B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021124140A JP7007515B2 (en) 2019-09-20 2021-07-29 Information processing equipment, information processing methods, and programs

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019171284A JP6923608B2 (en) 2019-09-20 2019-09-20 Information processing equipment, information processing methods, and programs
JP2021124140A JP7007515B2 (en) 2019-09-20 2021-07-29 Information processing equipment, information processing methods, and programs

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019171284A Division JP6923608B2 (en) 2019-09-20 2019-09-20 Information processing equipment, information processing methods, and programs

Publications (2)

Publication Number Publication Date
JP2021176241A JP2021176241A (en) 2021-11-04
JP7007515B2 true JP7007515B2 (en) 2022-01-24

Family

ID=74878835

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019171284A Active JP6923608B2 (en) 2019-09-20 2019-09-20 Information processing equipment, information processing methods, and programs
JP2021124140A Active JP7007515B2 (en) 2019-09-20 2021-07-29 Information processing equipment, information processing methods, and programs

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2019171284A Active JP6923608B2 (en) 2019-09-20 2019-09-20 Information processing equipment, information processing methods, and programs

Country Status (1)

Country Link
JP (2) JP6923608B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017191701A1 (en) 2016-05-02 2017-11-09 株式会社ソニー・インタラクティブエンタテインメント Display control device, display control method, and program
WO2018016464A1 (en) 2016-07-19 2018-01-25 富士フイルム株式会社 Image display system, head-mounted-display control device, and method and program for actuating same
JP2019020908A (en) 2017-07-13 2019-02-07 株式会社コロプラ Information processing method, information processing program, information processing system, and information processing device
JP2019522856A (en) 2016-06-30 2019-08-15 株式会社ソニー・インタラクティブエンタテインメント Operation method and system for participating in virtual reality scene

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017191701A1 (en) 2016-05-02 2017-11-09 株式会社ソニー・インタラクティブエンタテインメント Display control device, display control method, and program
JP2019522856A (en) 2016-06-30 2019-08-15 株式会社ソニー・インタラクティブエンタテインメント Operation method and system for participating in virtual reality scene
WO2018016464A1 (en) 2016-07-19 2018-01-25 富士フイルム株式会社 Image display system, head-mounted-display control device, and method and program for actuating same
JP2019020908A (en) 2017-07-13 2019-02-07 株式会社コロプラ Information processing method, information processing program, information processing system, and information processing device

Also Published As

Publication number Publication date
JP2021048543A (en) 2021-03-25
JP2021176241A (en) 2021-11-04
JP6923608B2 (en) 2021-08-25

Similar Documents

Publication Publication Date Title
US10606609B2 (en) Context-based discovery of applications
EP3619599B1 (en) Virtual content displayed with shared anchor
KR102331122B1 (en) Localization for mobile devices
TWI610097B (en) Electronic system, portable display device and guiding device
CN107590771B (en) 2D video with options for projection viewing in modeled 3D space
US9536350B2 (en) Touch and social cues as inputs into a computer
CN110830786A (en) Detection and display of mixed 2D/3D content
EP2974509B1 (en) Personal information communicator
JP6004051B2 (en) INFORMATION PROCESSING SYSTEM, ITS CONTROL METHOD, AND PROGRAM, AND INFORMATION PROCESSING DEVICE, ITS CONTROL METHOD, AND PROGRAM
JP2008009646A (en) Image processor and image processing method
US11080943B2 (en) Method and apparatus for displaying with 3D parallax effect
JP2018106298A (en) Image processing apparatus, image processing method, and computer program
CN104765636B (en) A kind of synthetic method and device of remote desktop image
JP2016122392A (en) Information processing apparatus, information processing system, control method and program of the same
JP2019009816A (en) Information processing device, information processing system, control method thereof and program
JP7007515B2 (en) Information processing equipment, information processing methods, and programs
JP2014203194A (en) Virtual object display control apparatus, virtual object display control method, and program
JP2016122443A (en) Information processing apparatus, control method thereof, program, information processing system, control method thereof, and program
JP2017010228A (en) Information processing apparatus, information processing method, and program
JP6376251B2 (en) Information processing apparatus, information processing system, control method thereof, and program
WO2019102676A1 (en) Information processing device, information processing method, and program
WO2023037845A1 (en) Information processing system and information processing method
JP6164177B2 (en) Information processing apparatus, information processing system, control method thereof, and program
JP7357415B1 (en) Program, information processing device and information processing method
KR101321600B1 (en) Rendering system and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210729

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211026

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220104

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220106

R150 Certificate of patent or registration of utility model

Ref document number: 7007515

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150