JP2017012397A - program - Google Patents

program Download PDF

Info

Publication number
JP2017012397A
JP2017012397A JP2015131751A JP2015131751A JP2017012397A JP 2017012397 A JP2017012397 A JP 2017012397A JP 2015131751 A JP2015131751 A JP 2015131751A JP 2015131751 A JP2015131751 A JP 2015131751A JP 2017012397 A JP2017012397 A JP 2017012397A
Authority
JP
Japan
Prior art keywords
player
video content
content
unit
movement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015131751A
Other languages
Japanese (ja)
Other versions
JP6555513B2 (en
Inventor
卓也 豊田
Takuya Toyoda
卓也 豊田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sega Corp
Original Assignee
Sega Games Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sega Games Co Ltd filed Critical Sega Games Co Ltd
Priority to JP2015131751A priority Critical patent/JP6555513B2/en
Priority to PCT/JP2016/060118 priority patent/WO2017002414A1/en
Publication of JP2017012397A publication Critical patent/JP2017012397A/en
Application granted granted Critical
Publication of JP6555513B2 publication Critical patent/JP6555513B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/52Controlling the output signals based on the game progress involving aspects of the displayed game scene
    • A63F13/525Changing parameters of virtual cameras
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • A63F13/65Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor automatically by game devices or servers from real world data, e.g. measurement in live racing competition
    • A63F13/655Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor automatically by game devices or servers from real world data, e.g. measurement in live racing competition by importing photos, e.g. of the player
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/70Game security or game management aspects
    • A63F13/79Game security or game management aspects involving player-related data, e.g. identities, accounts, preferences or play histories
    • A63F13/792Game security or game management aspects involving player-related data, e.g. identities, accounts, preferences or play histories for payment purposes, e.g. monthly subscriptions
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/80Special adaptations for executing a specific game genre or game mode
    • A63F13/812Ball games, e.g. soccer or baseball
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Computing Systems (AREA)
  • General Business, Economics & Management (AREA)
  • Computer Security & Cryptography (AREA)
  • Business, Economics & Management (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)
  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

PROBLEM TO BE SOLVED: To simplify support of a variety of motions of an object and generation of a content from view points of multiple objects in VR.SOLUTION: A program causes a computer to perform: a reception step in which to receive respective imaging data from a plurality of imaging devices imaging motions of one or more players; a first generation step in which to generate a three-dimensional virtual space on the basis of the respective imaging data; an analysis step in which to perform a motion analysis of at least one player on the basis of the respective imaging data; and a second generation step in which to generate a video content from a view point of at least one player by using computer graphics on the basis of the three-dimensional virtual space and a result of the motion analysis.SELECTED DRAWING: Figure 8

Description

本発明は、プログラムに関する。   The present invention relates to a program.

近年、コンピュータなどによって作り出された世界を現実であるかのようにユーザに知覚させるバーチャルリアリティ(以下、VRとも称する。)が盛んに研究されている。このVRについて、カメラで撮影オブジェクトを撮影し、その映像データに基づいて、三人称視点と、一人称視点とを切り替える技術が知られている(例えば、特許文献1参照)。   In recent years, a virtual reality (hereinafter also referred to as a VR) that makes a user perceive a world created by a computer or the like as if it were real has been actively studied. Regarding this VR, a technique is known in which a shooting object is shot with a camera, and a third-person viewpoint and a first-person viewpoint are switched based on the video data (see, for example, Patent Document 1).

特開2014−127987号公報JP 2014-127987 A

しかしながら、従来技術では、複数のカメラで撮影オブジェクトを撮影し、撮影した画像を合成することで、所定の撮影オブジェクトに対する一人称視点に切り替えるが、画像合成にかかる処理の負荷が大きく、一人称視点における映像コンテンツを容易に生成することはできない。   However, in the prior art, a shooting object is shot with a plurality of cameras, and the shot images are combined to switch to a first-person viewpoint for a predetermined shooting object. Content cannot be generated easily.

また、従来のVRを提供する技術では、撮影オブジェクトの様々な動きに対応することや、多数の撮影オブジェクトの視点からの映像コンテンツを生成することは想定されていない。   In addition, in the technology that provides the conventional VR, it is not assumed that it corresponds to various movements of the shooting object or that video content is generated from the viewpoint of a large number of shooting objects.

そこで、本発明は、VRにおいて、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを容易に生成することを目的の一つとする。   Accordingly, an object of the present invention is to easily generate content from the viewpoint of a large number of objects while responding to various movements of objects in VR.

本発明に係るプログラムは、コンピュータに、
1又は複数のプレイヤの動きを撮像した複数の撮像装置から各撮像データを受信する受信ステップと、
前記各撮像データに基づいて、三次元仮想空間を生成する第1生成ステップと、
前記各撮像データに基づいて、少なくとも1の前記プレイヤの動作解析を行う解析ステップと、
前記三次元仮想空間及び前記動作解析の結果に基づき、少なくとも1の前記プレイヤの視点からの映像コンテンツを、コンピュータグラフィックスを用いて生成する第2生成ステップと、
を実行させる。
A program according to the present invention is stored in a computer.
A receiving step of receiving each imaging data from a plurality of imaging devices that image the movement of one or a plurality of players;
A first generation step of generating a three-dimensional virtual space based on each of the imaging data;
An analysis step of performing an action analysis of at least one of the players based on each of the imaging data;
A second generation step of generating video content from the viewpoint of at least one of the players based on the result of the three-dimensional virtual space and the motion analysis using computer graphics;
Is executed.

本発明によれば、VRにおいて、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを生成することを容易にすることができる。   According to the present invention, it is possible to easily generate content from the viewpoints of a large number of objects while responding to various movements of objects in the VR.

実施形態におけるコンテンツ販売システムの一例を示す概念図である。It is a conceptual diagram which shows an example of the content sales system in embodiment. 実施形態における撮像装置による撮像の様子の一例を説明するための図である。It is a figure for demonstrating an example of the mode of the imaging by the imaging device in embodiment. 実施形態における情報処理装置が接続されたHMDの一例を示す図である。It is a figure which shows an example of HMD to which the information processing apparatus in embodiment was connected. 実施形態におけるサーバ装置のハードウェア構成の一例を示す図である。It is a figure which shows an example of the hardware constitutions of the server apparatus in embodiment. 実施形態における携帯端末の外観構成の一例を示す携帯端末正面図である。It is a portable terminal front view which shows an example of the external appearance structure of the portable terminal in embodiment. 実施形態における携帯端末のハードウェア構成を概略的に示すブロック図である。It is a block diagram which shows roughly the hardware constitutions of the portable terminal in embodiment. 実施形態におけるHMDのハードウェア構成を概略的に示すブロック図である。It is a block diagram which shows roughly the hardware constitutions of HMD in embodiment. 実施形態におけるサーバ装置の機能構成の一例を示す図である。It is a figure which shows an example of a function structure of the server apparatus in embodiment. コンテンツ情報の一例を示す図である。It is a figure which shows an example of content information. カテゴリごとに分類された部分コンテンツの一例を示す図である。It is a figure which shows an example of the partial content classified for every category. 実施形態における携帯端末の機能構成の一例を示す図である。It is a figure which shows an example of a function structure of the portable terminal in embodiment. プレイヤキャラクタの視線方向及び視野を説明するための図である。It is a figure for demonstrating the gaze direction and visual field of a player character. 実施形態における表示画面Aの一例を示す図である。It is a figure which shows an example of the display screen A in embodiment. 実施形態における表示画面Bの一例を示す図である。It is a figure which shows an example of the display screen B in embodiment. 実施形態における表示画面Cの一例を示す図である。It is a figure which shows an example of the display screen C in embodiment. 実施形態における表示画面Dの一例を示す図である。It is a figure which shows an example of the display screen D in embodiment. 実施形態における表示画面Eの一例を示す図である。It is a figure which shows an example of the display screen E in embodiment. 死角領域を説明するための図である。It is a figure for demonstrating a blind spot area | region. 実施形態におけるコンテンツ生成処理の一例を示すフローチャートである。It is a flowchart which shows an example of the content production | generation process in embodiment. 実施形態におけるコンテンツ配信処理の一例を示すフローチャートである。It is a flowchart which shows an example of the content delivery process in embodiment. 実施形態におけるコンテンツ表示処理の一例を示すフローチャートである。It is a flowchart which shows an example of the content display process in embodiment. 実施形態における表示制御処理の一例を示すフローチャートである。It is a flowchart which shows an example of the display control process in embodiment. 実施形態におけるプレイヤ切替処理の一例を示すフローチャートである。It is a flowchart which shows an example of the player switching process in embodiment.

以下、図面を参照して本発明の実施の形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、以下に明示しない種々の変形や技術の適用を排除する意図はない。即ち、本発明は、その趣旨を逸脱しない範囲で種々変形(各実施例を組み合わせる等)して実施することができる。また、以下の図面の記載において、同一または類似の部分には同一または類似の符号を付して表している。図面は模式的なものであり、必ずしも実際の寸法や比率等とは一致しない。図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることがある。   Embodiments of the present invention will be described below with reference to the drawings. However, the embodiment described below is merely an example, and there is no intention to exclude various modifications and technical applications that are not explicitly described below. In other words, the present invention can be implemented with various modifications (combining the embodiments, etc.) without departing from the spirit of the present invention. In the following description of the drawings, the same or similar parts are denoted by the same or similar reference numerals. The drawings are schematic and do not necessarily match actual dimensions and ratios. In some cases, the dimensional relationships and ratios may be different between the drawings.

[実施形態]
以下、本発明の実施形態におけるコンテンツ配信システムを、図面を用いて説明する。
[Embodiment]
Hereinafter, a content distribution system according to an embodiment of the present invention will be described with reference to the drawings.

<コンテンツ配信システムの概要>
図1は、実施形態におけるコンテンツ販売システム1の一例を示す概念図である。図1に示す例において、コンテンツ販売システム1は、例えばコンテンツを配信する会社等により提供されるサーバ装置(情報処理装置)50と、各ユーザが操作する情報処理装置10と、1又は複数のオブジェクトを撮像する撮像装置60A、60B、60Cと、がネットワークNを介して接続される。以下、撮像装置を1つ1つ区別する必要がない場合は、符号60を用いる。また、情報処理装置10は、ネットワークNに複数接続されてもよい。
<Outline of content distribution system>
FIG. 1 is a conceptual diagram illustrating an example of a content sales system 1 according to the embodiment. In the example shown in FIG. 1, the content sales system 1 includes, for example, a server device (information processing device) 50 provided by a company that distributes content, an information processing device 10 operated by each user, and one or a plurality of objects. Are connected via a network N to imaging devices 60A, 60B and 60C. In the following description, reference numeral 60 is used when it is not necessary to distinguish the imaging devices one by one. A plurality of information processing apparatuses 10 may be connected to the network N.

オブジェクトは、例えばプレイヤや動物などの動く生物を含む。プレイヤは、スポーツをしている人や音楽ライブをしている人などを含む。   The object includes moving creatures such as players and animals. The player includes a person who is playing sports or a person who is playing music.

また、情報処理装置10は、ヘッドマウントディスプレイ(以下、HMDとも称する。)70に接続される。HMD70を装着したユーザは、VRを体験することができる。なお、ネットワークNには、その他決済サーバなどが接続されてもよい。   The information processing apparatus 10 is connected to a head mounted display (hereinafter also referred to as HMD) 70. A user wearing the HMD 70 can experience VR. The network N may be connected to other settlement servers.

図2は、実施形態における撮像装置60による撮像の様子の一例を説明するための図である。図2に示す例では、フィールドF1内で複数のプレイヤP1〜P3がスポーツをしている。撮像装置60は、スポーツをしている各プレイヤの様子を様々な角度から撮像する。撮像装置60は、動作解析を容易にするため、高性能の撮像装置、例えば8Kカメラなどが望ましい。また、撮像装置60の設置台数は、図2に示す例では8台であるが、フィールドF1の大きさに応じて適切な台数が設置されればよい。   FIG. 2 is a diagram for describing an example of a state of imaging by the imaging device 60 in the embodiment. In the example shown in FIG. 2, a plurality of players P1 to P3 are playing sports in the field F1. The imaging device 60 images the state of each player who is playing sports from various angles. The imaging device 60 is desirably a high-performance imaging device such as an 8K camera in order to facilitate operation analysis. In addition, the number of installed image pickup apparatuses 60 is eight in the example illustrated in FIG. 2, but an appropriate number may be installed according to the size of the field F1.

撮像装置60により撮像された各撮像データは、直接的又はパーソナルコンピュータなどの処理装置を介して間接的に、サーバ装置50に送信される。サーバ装置50は、各撮像データに基づき、各プレイヤやフィールドを含む三次元仮想空間を生成し、また、撮像データを画像処理すること、又はモーションキャプチャなどの技術を用いることで、各オブジェクトの動作解析を行う。なお、サーバ装置50は、フィールドF1が既知であれば、事前に三次元仮想空間を生成しておき、各撮像データに基づいて風景やプレイヤ等に基づくオブジェクトを配置し、最終的な三次元仮想空間を生成してもよい。また、これらの処理の一部または全ては、サーバ装置50ではなく、撮像装置60に接続された前述のパーソナルコンピュータなどの処理装置で行い、生成されたオブジェクトや三次元仮想空間をサーバ装置50に送信して記憶させるようにしても良い。   Each imaging data imaged by the imaging device 60 is transmitted to the server device 50 directly or indirectly through a processing device such as a personal computer. The server device 50 generates a three-dimensional virtual space including each player and field based on each imaging data, and performs image processing on the imaging data, or uses a technique such as motion capture, so that the operation of each object Perform analysis. Note that if the field F1 is known, the server device 50 generates a three-dimensional virtual space in advance, arranges objects based on landscapes, players, and the like based on the respective imaging data, and obtains a final three-dimensional virtual space. A space may be generated. In addition, some or all of these processes are performed not by the server device 50 but by the processing device such as the personal computer connected to the imaging device 60, and the generated object and the three-dimensional virtual space are stored in the server device 50. You may make it transmit and memorize | store it.

モーションキャプチャは、マーカーレス方式の公知の技術を用いるとよい。例えば、Captury Studio社のモーションキャプチャや、Organic Motion社のモーションキャプチャなどの技術が適用可能である。これにより、オブジェクトに対してカメラを設ける必要がなくなり、オブジェクトに負担をかけずに済む。   For the motion capture, a known technique of a markerless method may be used. For example, techniques such as Motion Capture from Capture Studio and Motion Capture from Organic Motion can be applied. As a result, there is no need to provide a camera for the object, and the object is not burdened.

サーバ装置50は、1又は複数のオブジェクトについて、上述した動作解析を行うことにより、各オブジェクトの動きを再現する映像コンテンツを生成する。この映像コンテンツは、コンピュータグラフィックス(以下、CGとも称する。)を用いており、また、各プレイヤの視点からの映像コンテンツである。各プレイヤや全フィールドをモデリングした仮想オブジェクトを含む三次元仮想空間に基づき、CGによる映像コンテンツを生成する方が、実映像による複雑な映像コンテンツを生成するよりも、オブジェクトの様々な動きや視点変更にも柔軟に対応することができ、処理負荷を軽減することができる。サーバ装置50は、このようにして生成された映像コンテンツを複数記憶しておいてもよい。   The server device 50 generates video content that reproduces the motion of each object by performing the above-described motion analysis on one or a plurality of objects. This video content uses computer graphics (hereinafter also referred to as CG), and is video content from the viewpoint of each player. Based on a 3D virtual space that includes virtual objects that model each player and all fields, it is more difficult to generate video content using CG than to create complex video content using real video. The processing load can be reduced. The server device 50 may store a plurality of video contents generated in this way.

情報処理装置10は、所定のアプリケーションを用いてサーバ装置50にアクセスし、ユーザ操作に基づいて、映像コンテンツやオブジェクトを選択し、選択された映像コンテンツやオブジェクトの視点からの映像コンテンツをダウンロードする。   The information processing apparatus 10 accesses the server apparatus 50 using a predetermined application, selects video content or an object based on a user operation, and downloads video content from the viewpoint of the selected video content or object.

図3は、実施形態における情報処理装置10が接続されたHMD70の一例を示す図である。図3に示す例では、情報処理装置10は、マイクロUSB端子等を用いてHMD70に接続される。HMD70は、情報処理装置10から、マイクロUSB端子等を用いて取得した映像コンテンツを表示部に表示する。   FIG. 3 is a diagram illustrating an example of the HMD 70 to which the information processing apparatus 10 according to the embodiment is connected. In the example illustrated in FIG. 3, the information processing apparatus 10 is connected to the HMD 70 using a micro USB terminal or the like. The HMD 70 displays video content acquired from the information processing apparatus 10 using a micro USB terminal or the like on the display unit.

HMD70を装着したユーザは、この映像コンテンツを視聴することで、VRを体験することができる。なお、HMD70は、上述したように、情報処理装置10から映像コンテンツを取得して表示してもよいし、情報処理装置10に表示される映像コンテンツを視聴できるようにしてもよい。   A user wearing the HMD 70 can experience VR by viewing this video content. As described above, the HMD 70 may acquire and display the video content from the information processing apparatus 10 or may allow the video content displayed on the information processing apparatus 10 to be viewed.

これにより、サーバ装置50は、VRにおいて、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを生成することを容易にすることができる。また、情報処理装置10は、所定のアプリケーションを用いることにより、サーバ装置50において生成されたコンテンツをユーザに取得することができる。なお、VRの体験とは、図3に示すようなHMD70を装着してVRを体験する以外にも、情報処理装置10等のディスプレイに映像コンテンツを表示し、ユーザがそのディスプレイを見ることでVRを体験することも含む。   Accordingly, the server device 50 can easily generate content from the viewpoints of a large number of objects while responding to various movements of the objects in the VR. Further, the information processing apparatus 10 can acquire the content generated in the server apparatus 50 by using a predetermined application. Note that the VR experience means that VR content can be displayed on the display of the information processing apparatus 10 or the like, and the user can view the VR by wearing the HMD 70 as shown in FIG. 3 and experiencing VR. Including experiencing.

以下で説明する実施形態に係る情報処理装置10は、携帯端末を一例に挙げている。また、実施形態に係る各種プログラムは、例えばサーバ装置や携帯端末等で実行される。   The information processing apparatus 10 according to the embodiment described below uses a mobile terminal as an example. Moreover, the various programs which concern on embodiment are performed by a server apparatus, a portable terminal, etc., for example.

<ハードウェア構成>
次に、コンテンツ販売システム1内の各装置のハードウェアについて説明する。以下、サーバ装置50、携帯端末10、HMD70の順に説明する。
<Hardware configuration>
Next, the hardware of each device in the content sales system 1 will be described. Hereinafter, the server device 50, the mobile terminal 10, and the HMD 70 will be described in this order.

≪サーバ装置50≫
まず、サーバ装置(情報処理装置)50のハードウェア構成について説明する。図4は、実施形態におけるサーバ装置50のハードウェア構成の一例を示す図である。図4に示すように、サーバ装置50は、制御部51、通信インターフェース53、記憶部54、表示部57、及び入力部58を有し、各部はバスライン59を介して接続される。
<< Server device 50 >>
First, the hardware configuration of the server apparatus (information processing apparatus) 50 will be described. FIG. 4 is a diagram illustrating an example of a hardware configuration of the server device 50 according to the embodiment. As shown in FIG. 4, the server device 50 includes a control unit 51, a communication interface 53, a storage unit 54, a display unit 57, and an input unit 58, and each unit is connected via a bus line 59.

制御部51は、CPU、ROM、RAM52等を含む。制御部51は、記憶部54に記憶される制御プログラム55等を実行することにより、一般的な情報処理装置としての機能に加え、例えば映像コンテンツの生成に関する処理を実現するように構成される。   The control unit 51 includes a CPU, a ROM, a RAM 52, and the like. The control unit 51 is configured to execute a control program 55 and the like stored in the storage unit 54, thereby realizing, for example, processing related to generation of video content in addition to a function as a general information processing apparatus.

また、RAM52は、各種情報を一時的に保持したり、CPUが各種処理を実行する際のワークエリアとして使用されたりする。   The RAM 52 temporarily stores various information and is used as a work area when the CPU executes various processes.

通信インターフェース53は、ネットワークNを介した撮像装置60、携帯端末10、及び課金サーバ(不図示)等との通信を制御する。   The communication interface 53 controls communication with the imaging device 60, the mobile terminal 10, a charging server (not shown), and the like via the network N.

記憶部54は、例えばHDD等からなり、一般的な情報処理装置としての機能を実現するためのアプリケーション及びデータ(図示省略)を記憶することに加え、制御プログラム55を記憶する。また、記憶部54は、情報記憶部56を有している。   The storage unit 54 includes, for example, an HDD and the like, and stores a control program 55 in addition to storing an application and data (not shown) for realizing a function as a general information processing apparatus. The storage unit 54 has an information storage unit 56.

制御プログラム55は、撮像データに基づき、三次元仮想空間を生成したり、各プレイヤの動きを動作解析したり、三次元仮想空間や動作解析結果に基づいて、各プレイヤの動きを再現するCGの映像コンテンツを生成したりするプログラムである。制御プログラム55は、コンピュータに読み取り可能な記録媒体に保存され、この記録媒体から読み出されて、記憶部54に記憶されてもよい。   The control program 55 generates a three-dimensional virtual space based on the imaging data, analyzes the motion of each player, and reproduces the motion of each player based on the three-dimensional virtual space and the motion analysis result. It is a program that generates video content. The control program 55 may be stored in a computer-readable recording medium, read from the recording medium, and stored in the storage unit 54.

情報記憶部56は、例えば撮像データを記憶したり、三次元仮想空間や、動作解析処理で生成される中間データ等を記憶したり、三次元仮想空間や動作解析結果に基づくCGの映像コンテンツを記憶したりする。   The information storage unit 56 stores, for example, imaging data, 3D virtual space, intermediate data generated by motion analysis processing, and the like, and CG video content based on the 3D virtual space and motion analysis results. Or remember.

表示部57は、管理者に対して、映像コンテンツ等を表示する。入力部58は、管理者からの入力を受け付けたり、管理者からの指示を受け付けたりする。また、サーバ装置50は、表示部57と入力部58とを必ずしも設ける必要はなく、表示部57及び入力部58は、外部からサーバ装置50に接続されるようにしてもよい。   The display unit 57 displays video content and the like to the administrator. The input unit 58 receives input from the administrator or receives instructions from the administrator. The server device 50 does not necessarily include the display unit 57 and the input unit 58, and the display unit 57 and the input unit 58 may be connected to the server device 50 from the outside.

≪携帯端末10≫
まず、実施形態における携帯端末10の外観構成について説明する。図5は、実施形態における携帯端末10の外観構成の一例を示す携帯端末正面図である。
≪Mobile terminal 10≫
First, the external configuration of the mobile terminal 10 in the embodiment will be described. FIG. 5 is a front view of a mobile terminal illustrating an example of an external configuration of the mobile terminal 10 according to the embodiment.

図5に示すように、携帯端末10は、矩形の薄形筐体12を備え、その薄形筐体12の一方の面は、タッチパネル14が多くの部分を占めるように構成されている。該タッチパネル14が搭載されている面(正面)には、スピーカ16、マイクロフォン18およびハードボタン20が設けられている。また、携帯端末10の側面や底面には、ハードキー22、及び音声出力端子24(図6参照)などの外部インターフェースが設けられる。さらに、携帯端末10の背面には、カメラ26(図6参照)が設けられている。   As shown in FIG. 5, the mobile terminal 10 includes a rectangular thin housing 12, and one surface of the thin housing 12 is configured such that the touch panel 14 occupies many portions. A speaker 16, a microphone 18, and a hard button 20 are provided on the surface (front surface) on which the touch panel 14 is mounted. In addition, external interfaces such as a hard key 22 and an audio output terminal 24 (see FIG. 6) are provided on the side surface and the bottom surface of the mobile terminal 10. Further, a camera 26 (see FIG. 6) is provided on the back surface of the mobile terminal 10.

図6は、実施形態における携帯端末10のハードウェア構成を概略的に示すブロック図である。携帯端末10は、図5に示す各構成要素に加えて、移動体通信用アンテナ30、移動体通信部32、無線LAN通信用アンテナ34、無線LAN通信部36、記憶部38、主制御部40、6軸センサ23を少なくとも有し、さらに、スピーカ16、カメラ26や音声出力端子24を含む外部インターフェース42などを有する。   FIG. 6 is a block diagram schematically illustrating a hardware configuration of the mobile terminal 10 according to the embodiment. In addition to the components shown in FIG. 5, the mobile terminal 10 includes a mobile communication antenna 30, a mobile communication unit 32, a wireless LAN communication antenna 34, a wireless LAN communication unit 36, a storage unit 38, and a main control unit 40. , At least a six-axis sensor 23, and an external interface 42 including a speaker 16, a camera 26, and an audio output terminal 24.

タッチパネル14は、表示装置および入力装置の両方の機能を備え、表示機能を担うディスプレイ(表示画面)14Aと、入力機能を担うタッチセンサ14Bとで構成される。ディスプレイ14Aは、例えば、液晶ディスプレイや有機EL(Electro Luminescence)ディスプレイなどの一般的な表示デバイスにより構成される。タッチセンサ14Bは、ディスプレイ14Aの上面に配置された接触操作を検知するための素子およびその上に積層された透明な操作面を備えて構成される。タッチセンサ14Bの接触検知方式としては、静電容量式、抵抗膜式(感圧式)、電磁誘導式など既知の方式のうちの任意の方式を採用することができる。   The touch panel 14 has functions of both a display device and an input device, and includes a display (display screen) 14A that bears the display function and a touch sensor 14B that bears the input function. The display 14A is configured by a general display device such as a liquid crystal display or an organic EL (Electro Luminescence) display. The touch sensor 14B includes an element for detecting a touch operation arranged on the upper surface of the display 14A and a transparent operation surface stacked on the element. As a contact detection method of the touch sensor 14B, any of known methods such as a capacitance type, a resistance film type (pressure sensitive type), and an electromagnetic induction type can be adopted.

タッチパネル14は、主制御部40による記憶部38に記憶されているプログラム44の実行により生成される映像コンテンツを表示する。入力装置としてのタッチパネル14は、操作面に対して接触する接触物(遊技者の指やタッチペンなどを含む。以下、「指」である場合を代表例として説明する)の動作を検知することで、操作入力を受け付け、その接触位置の情報を主制御部40に与える。指の動作は、接触点の位置または領域を示す座標情報として検知され、座標情報は、例えば、タッチパネル14の短辺方向および長辺方向の二軸上の座標値として表される。   The touch panel 14 displays video content generated by executing the program 44 stored in the storage unit 38 by the main control unit 40. The touch panel 14 as an input device detects an operation of a contact object (including a player's finger, a touch pen, etc., which will be described as a representative example hereinafter) in contact with the operation surface. The operation input is received, and information on the contact position is given to the main control unit 40. The movement of the finger is detected as coordinate information indicating the position or region of the contact point, and the coordinate information is expressed as, for example, coordinate values on two axes of the short side direction and the long side direction of the touch panel 14.

携帯端末10は、移動体通信用アンテナ30や無線LAN通信用アンテナ34を通じてネットワーク(インターネット)Nに接続され、サーバ装置50との間でデータ通信をすることが可能である。サーバ装置50は、携帯端末10において選択されたプレイヤなどのダウンロード要求を、ネットワークNを介して受信する。   The mobile terminal 10 is connected to the network (Internet) N through the mobile communication antenna 30 and the wireless LAN communication antenna 34, and can perform data communication with the server device 50. The server device 50 receives a download request for the player or the like selected on the mobile terminal 10 via the network N.

6軸センサ23は、携帯端末10の加速度及び角速度を計測可能である。6軸センサ23によりセンシングされた所定のデータに対して、映像コンテンツ内のプレイヤ視点の変更や、プレイヤ自体の変更などの処理を割り当ててもよい。これにより、携帯端末10を移動させるだけで、映像コンテンツに関する操作が可能になる。   The 6-axis sensor 23 can measure the acceleration and angular velocity of the mobile terminal 10. For predetermined data sensed by the 6-axis sensor 23, processing such as changing the player viewpoint in the video content or changing the player itself may be assigned. As a result, the operation relating to the video content can be performed only by moving the mobile terminal 10.

≪HMD70≫
次に、実施形態におけるHMD70のハードウェアについて説明する。図7は、実施形態におけるHMD70のハードウェア構成を概略的に示すブロック図である。図7に示すHMD70は、通信部72、表示部74、記憶部76、操作部78、及び制御部80を有する。
≪HMD70≫
Next, the hardware of the HMD 70 in the embodiment will be described. FIG. 7 is a block diagram schematically showing a hardware configuration of the HMD 70 in the embodiment. 7 includes a communication unit 72, a display unit 74, a storage unit 76, an operation unit 78, and a control unit 80.

通信部72は、携帯端末10とデータ通信を行う。例えば、通信部72は、マイクロUSB端子を用いてデータ通信を行ったり、Bluetooth(登録商標)等の通信機能を用いてデータ通信を行ったりする。例えば、通信部72は、携帯端末10から映像コンテンツ等を受信する。   The communication unit 72 performs data communication with the mobile terminal 10. For example, the communication unit 72 performs data communication using a micro USB terminal, or performs data communication using a communication function such as Bluetooth (registered trademark). For example, the communication unit 72 receives video content and the like from the mobile terminal 10.

表示部74は、携帯端末10から受信した映像コンテンツ等を表示する。映像コンテンツは、2次元映像、又は3次元映像である。表示部74は、HMD70が携帯端末10に表示される映像を視聴するタイプの場合は、HMD70に設けられなくてもよい。   The display unit 74 displays video content received from the mobile terminal 10. The video content is a two-dimensional video or a three-dimensional video. The display unit 74 may not be provided in the HMD 70 when the HMD 70 is of a type for viewing the video displayed on the mobile terminal 10.

記憶部76は、例えばRAMやROMやHDDなどであり、映像コンテンツを記憶する。操作部78は、音量調節ボタンや電源ボタン等の各種ボタンを含み、各種ボタンの押下に基づきHMD70を操作する。   The storage unit 76 is, for example, a RAM, a ROM, an HDD, or the like, and stores video content. The operation unit 78 includes various buttons such as a volume control button and a power button, and operates the HMD 70 based on pressing of the various buttons.

制御部80は、例えばCPUやRAMなどであり、上述したHMD70の各部を制御する。   The control unit 80 is, for example, a CPU or a RAM, and controls each unit of the HMD 70 described above.

<機能的構成>
次に、コンテンツ販売システム1内のサーバ装置50、携帯端末10の機能について説明する。
<Functional configuration>
Next, functions of the server device 50 and the mobile terminal 10 in the content sales system 1 will be described.

≪サーバ装置50≫
図8は、実施形態におけるサーバ装置50の機能構成の一例を示す図である。図8に示す例では、サーバ装置50は、第1送信部102、第1受信部104、生成部106、及び第1記憶部108を有する。第1記憶部108以外の各部は、例えば制御プログラム55が制御部51により実行されることで機能する。
<< Server device 50 >>
FIG. 8 is a diagram illustrating an example of a functional configuration of the server device 50 according to the embodiment. In the example illustrated in FIG. 8, the server device 50 includes a first transmission unit 102, a first reception unit 104, a generation unit 106, and a first storage unit 108. Each unit other than the first storage unit 108 functions when, for example, the control program 55 is executed by the control unit 51.

第1送信部102は、例えば通信インターフェース53や制御部51等により実現されうる。第1送信部102は、ダウンロード要求を出した各携帯端末10に、要求された映像コンテンツ等を送信する。   The first transmission unit 102 can be realized by the communication interface 53, the control unit 51, and the like, for example. The first transmission unit 102 transmits the requested video content or the like to each mobile terminal 10 that has issued the download request.

第1受信部104は、例えば通信インターフェース53や制御部51等により実現されうる。第1受信部104は、各携帯端末10から、映像コンテンツやプレイヤを識別する情報とともにダウンロード要求を受信する。また、第1受信部104は、撮像装置60から各撮像データを受信する。   The first receiving unit 104 can be realized by the communication interface 53, the control unit 51, and the like, for example. The first receiving unit 104 receives a download request from each mobile terminal 10 together with information for identifying video content and a player. The first receiving unit 104 receives each imaging data from the imaging device 60.

生成部106は、例えば制御部51等により実現されうる。生成部106は、各プレイヤの動きが撮像された各撮像データに基づいて、各プレイヤの動きを再現する映像コンテンツや、プレイヤの動きの一部を示す部分コンテンツ等を生成する。以下、映像コンテンツや部分コンテンツ等を含めてコンテンツとも称する。生成部106は、コンテンツを生成するため、動作解析部110、仮想空間生成部112、コンテンツ生成部114、要求取得部116、及び分類部118を有する。   The generation unit 106 can be realized by the control unit 51 or the like, for example. The generation unit 106 generates video content that reproduces each player's movement, partial content that indicates a part of the player's movement, and the like based on each imaging data obtained by imaging each player's movement. Hereinafter, video content, partial content, and the like are also referred to as content. The generation unit 106 includes a motion analysis unit 110, a virtual space generation unit 112, a content generation unit 114, a request acquisition unit 116, and a classification unit 118 in order to generate content.

動作解析部110は、例えば複数の撮像装置60から撮像された各撮像データに対し、モーションキャプチャ技術を用いて、撮像データ内の少なくとも1のプレイヤの動きを動作解析する。このモーションキャプチャ技術は、公知の技術を用いればよく、例えばマーカーレスタイプの技術が好ましい。動作解析技術を適用することにより、撮像データ内の各プレイヤの動きが再現可能になる。これにより、三次元仮想空間内をどのように動いたかを、プレイヤごとに求めることができる。   The motion analysis unit 110 performs motion analysis on the movement of at least one player in the imaging data, for example, for each imaging data captured from the plurality of imaging devices 60 using motion capture technology. As the motion capture technique, a known technique may be used. For example, a markerless type technique is preferable. By applying the motion analysis technique, the movement of each player in the imaging data can be reproduced. Thereby, it is possible to obtain for each player how the user moves in the three-dimensional virtual space.

なお、動作解析部110により出力される動作解析結果は、動作解析したプレイヤの動きを再現するためのプレイヤの動き情報を含む。また、動作解析部110に含まれる推定部(不図示)は、プレイヤの動きに基づいて、プレイヤの顔の位置、向き、及び角度からプレイヤの視点座標、及びその視点からの視線方向を推定する(図12参照)。推定部は、プレイヤの動き情報に合わせて、視点座標及び視線方向を含む視線方向情報を対応付けておくとよい。   Note that the motion analysis result output by the motion analysis unit 110 includes player motion information for reproducing the motion of the player whose motion has been analyzed. An estimation unit (not shown) included in the motion analysis unit 110 estimates the player's viewpoint coordinates and the gaze direction from the viewpoint based on the player's face position, orientation, and angle. (See FIG. 12). The estimation unit may associate the gaze direction information including the viewpoint coordinates and the gaze direction in accordance with the movement information of the player.

仮想空間生成部112は、各撮像データに基づいて、各プレイヤやフィールドの仮想オブジェクトを含む三次元仮想空間を生成する。例えば、仮想空間生成部112は、各撮像装置60の設置位置や設置角度に基づいて、撮像データ内のどのオブジェクトがどの座標位置にあるかを、例えば三次元画像解析を用いて算出し、オブジェクトに対応する仮想オブジェクトを、その座標位置に配置する。例えば、仮想空間生成部112は、三次元仮想空間に配置される、各種仮想オブジェクトのポリゴンデータを保持しておくとよい。   The virtual space generation unit 112 generates a three-dimensional virtual space including virtual objects for each player and field based on each imaging data. For example, the virtual space generation unit 112 calculates which object is in which coordinate position in the imaging data based on the installation position and installation angle of each imaging device 60 using, for example, three-dimensional image analysis, and the object A virtual object corresponding to is placed at the coordinate position. For example, the virtual space generation unit 112 may hold polygon data of various virtual objects arranged in the three-dimensional virtual space.

また、仮想空間生成部112は、フィールドが既知であれば、事前に三次元仮想空間を生成しておき、各撮像データに基づいて風景やプレイヤ等に基づく仮想オブジェクトを配置し、最終的な三次元仮想空間を生成してもよい。   In addition, if the field is known, the virtual space generation unit 112 generates a three-dimensional virtual space in advance, arranges virtual objects based on landscapes, players, and the like based on the respective imaging data, and final tertiary An original virtual space may be generated.

コンテンツ生成部114は、三次元仮想空間及び動作解析結果に基づいて、動的オブジェクトである少なくとも1のプレイヤの動きをCGにより再現する映像コンテンツを生成する。例えば、コンテンツ生成部114は、三次元仮想空間のフィールド内を移動する各プレイヤの仮想オブジェクト(キャラクタ)に対して、動作解析により解析された各プレイヤの実際の動きを与え、その動きに応じたキャラクタの視点からの視線方向に三次元仮想空間を眺めた映像をCGにより生成することで、各プレイヤの視点からの映像コンテンツをそれぞれ生成する。プレイヤの視点からの映像コンテンツとは、そのプレイヤの視点からの視線方向に描画される3次元仮想空間内の映像を表す。これにより、サーバ装置50は、フィールド内の各プレイヤの視点からの映像コンテンツを提供することが可能になる。   The content generation unit 114 generates video content that reproduces the movement of at least one player, which is a dynamic object, by CG based on the three-dimensional virtual space and the motion analysis result. For example, the content generation unit 114 gives the actual movement of each player analyzed by the motion analysis to the virtual object (character) of each player moving in the field of the three-dimensional virtual space, and according to the movement The video content viewed from the viewpoint of each player is generated by using CG to generate a video of viewing the three-dimensional virtual space in the direction of the line of sight from the viewpoint of the character. The video content from the player's viewpoint represents the video in the three-dimensional virtual space drawn in the direction of the line of sight from the player's viewpoint. Thus, the server device 50 can provide video content from the viewpoint of each player in the field.

また、コンテンツ生成部114は、三次元仮想空間に対して、プレイヤが決定されると、そのプレイヤの視線方向情報に基づいて、このプレイヤの視点からの映像をその都度生成してもよい。コンテンツ生成部114は、必要に応じて、事前に各プレイヤの視点からの映像コンテンツを生成したり、三次元仮想空間に対し、その都度所定のプレイヤの視点を与え、このプレイヤの視点からの映像コンテンツを生成したりする。   In addition, when a player is determined for the three-dimensional virtual space, the content generation unit 114 may generate a video from the player's viewpoint each time based on the player's line-of-sight direction information. The content generation unit 114 generates video content from each player's viewpoint in advance as necessary, or gives a predetermined player's viewpoint to the three-dimensional virtual space each time, and video from this player's viewpoint. Or generate content.

なお、コンテンツ生成部114は、映像コンテンツについて、各プレイヤに対応する各キャラクタを生成し、このキャラクタが、対応するプレイヤの動きを再現するように映像コンテンツを生成するとよい。コンテンツ生成部114は、プレイヤの写真等を用いてよりリアルなキャラクタにすることで、より現実味を増した映像コンテンツを生成することができる。   The content generation unit 114 may generate each character corresponding to each player for the video content, and generate the video content so that the character reproduces the movement of the corresponding player. The content generation unit 114 can generate more realistic video content by making a more realistic character using a photograph of the player or the like.

コンテンツ生成部114は、1つのイベント(例えばスポーツの1試合)内で生成した映像コンテンツに対し、1つの識別情報(イベントID)を付与し、イベントごとに映像コンテンツの識別を可能にしておく。また、コンテンツ生成部114は、プレイヤにも識別情報(プレイヤID)を付与し、このプレイヤの視点からの映像コンテンツを、プレイヤの識別情報に対応付けておく。これにより、イベントや、プレイヤごとに携帯端末10からダウンロード要求を受けることが可能になる。コンテンツ生成部114は、生成された映像コンテンツを第1記憶部108に記憶する。   The content generation unit 114 assigns one piece of identification information (event ID) to video content generated in one event (for example, one game of sports), and enables video content to be identified for each event. The content generation unit 114 also gives identification information (player ID) to the player, and associates the video content from the viewpoint of the player with the identification information of the player. Thereby, it becomes possible to receive a download request from the portable terminal 10 for each event or each player. The content generation unit 114 stores the generated video content in the first storage unit 108.

また、第1記憶部108は、三次元仮想空間、静的な仮想オブジェクト、及び動的な仮想オブジェクト及びその動き情報を含む仮想空間データを、イベントIDに対応付けて記憶してもよい。このとき、仮想空間データに基づき、プレイヤの視点からの映像コンテンツを生成可能にするため、プレイヤIDには、プレイヤの視線方向情報が対応付けられる。   The first storage unit 108 may store virtual space data including a three-dimensional virtual space, a static virtual object, a dynamic virtual object, and motion information thereof in association with an event ID. At this time, in order to be able to generate video content from the viewpoint of the player based on the virtual space data, the player's line-of-sight direction information is associated with the player ID.

要求取得部116は、携帯端末10から送信される要求を受け付ける。携帯端末10の要求とは、例えば、イベントIDや、プレイヤIDなどを伴うダウンロード要求などである。   The request acquisition unit 116 receives a request transmitted from the mobile terminal 10. The request from the mobile terminal 10 is, for example, a download request accompanied by an event ID, a player ID, or the like.

要求取得部116は、ダウンロード要求を受けると、ダウンロード要求に含まれるイベントID及び/又はプレイヤIDを特定し、記憶部108から該当する映像コンテンツを取得する。要求取得部116は、取得した映像コンテンツを、第1送信部102を介して携帯端末10に送信する。   Upon receiving the download request, the request acquisition unit 116 specifies the event ID and / or player ID included in the download request, and acquires the corresponding video content from the storage unit 108. The request acquisition unit 116 transmits the acquired video content to the mobile terminal 10 via the first transmission unit 102.

また、要求取得部116は、イベントIDに対応する仮想空間データを第1記憶部108から取得し、また、プレイヤIDに対応するプレイヤの視線方向情報を第1記憶部108から取得してもよい。このとき、要求取得部116は、コンテンツ生成部114において生成されるプレイヤIDに対応するプレイヤの視点からの映像コンテンツを、その都度第1送信部102を介して携帯端末10に送信する。   In addition, the request acquisition unit 116 may acquire virtual space data corresponding to the event ID from the first storage unit 108, and may acquire gaze direction information of the player corresponding to the player ID from the first storage unit 108. . At this time, the request acquisition unit 116 transmits video content from the viewpoint of the player corresponding to the player ID generated by the content generation unit 114 to the portable terminal 10 via the first transmission unit 102 each time.

分類部118は、映像コンテンツ内のプレイヤの一部の動きを示す部分コンテンツを、動きに応じて複数のカテゴリに分類する。例えば、イベントがサッカーの試合の場合、分類部118は、ドリブルについて相手にボールを取られずにディフェンダーを抜いた場合、成功動作と判定し、相手にボールを取られた場合、失敗動作と判定する。   The classification unit 118 classifies the partial content indicating the movement of a part of the player in the video content into a plurality of categories according to the movement. For example, if the event is a soccer game, the classification unit 118 determines that the dribbling operation is successful if the opponent removes the ball without taking the ball, and determines that the operation is a failure operation if the opponent takes the ball. .

具体的には、分類部118は、失敗動作及び成功動作の部分コンテンツを自動で検出するようにしてもよいし、管理者が映像コンテンツを見ながら、成功動作又は失敗動作の部分コンテンツを検出するようにしてもよい。分類部118は、これらの動作を自動で検出する場合、プレイヤが移動しつつボールがプレイヤから所定距離以内にあれば、それはドリブルと判定し、このドリブル中に相手にボールが渡った場合、失敗動作と判定する。また、分類部118は、ドリブル後に味方にボールが渡ったり、シュートをしたりしていれば成功動作と判定する。   Specifically, the classification unit 118 may automatically detect the partial content of the failure operation and the success operation, or the administrator detects the partial content of the success operation or the failure operation while watching the video content. You may do it. When the classification unit 118 automatically detects these movements, if the player moves and the ball is within a predetermined distance from the player, the classification unit 118 determines that it is dribbling, and if the ball crosses the opponent during the dribbling, the classification unit 118 fails. Judged as an action. Further, the classification unit 118 determines that the movement is successful if the ball has crossed or shoots after the dribbling.

シュートについて、分類部118は、相手方ゴール枠付近にボールが移動すれば、シュートと判定してもよい。なお、味方のプレイヤ及び相手のプレイヤについては、ユニフォームの色などで識別することができる。分類部118は、分類された部分コンテンツを映像コンテンツから切り出して、第1記憶部108に記憶してもよいし、映像コンテンツ内のプレイヤの一部の動きに対し、メタデータ等を用いてカテゴリを付与してもよい。   For the shot, the classification unit 118 may determine that the ball is a shot if the ball moves near the opponent goal frame. The ally player and the opponent player can be identified by the color of the uniform. The classification unit 118 may cut out the classified partial content from the video content and store the segmented content in the first storage unit 108. For the movement of a part of the player in the video content, the classification unit 118 uses the metadata or the like as a category. May be given.

要求取得部116は、カテゴリの識別情報をダウンロード要求とともに受けた場合、このカテゴリに対応する1又は複数の部分コンテンツを第1記憶部108から取得したり、映像コンテンツから取得したりする。要求取得部116は、取得した1又は複数の部分コンテンツを、このダウンロード要求を送信した携帯端末10に、第1送信部102を介して送信する。   When receiving the category identification information together with the download request, the request acquisition unit 116 acquires one or more partial contents corresponding to the category from the first storage unit 108 or acquires from the video content. The request acquisition unit 116 transmits the acquired one or more partial contents to the mobile terminal 10 that has transmitted the download request via the first transmission unit 102.

第1記憶部108は、例えば記憶部54から実現されうる。第1記憶部108は、動作解析されたCGによる映像コンテンツや、カテゴリに分類された部分コンテンツや、仮想空間データや、視線方向情報等を必要に応じて記憶する。   The first storage unit 108 can be realized by the storage unit 54, for example. The first storage unit 108 stores, as necessary, video content based on CG subjected to motion analysis, partial content classified into categories, virtual space data, line-of-sight direction information, and the like.

図9は、コンテンツ情報の一例を示す図である。図9に示す例において、コンテンツ情報は、イベントID、仮想空間データ、プレイヤID、視線方向情報が対応付けられている。図9に示すコンテンツ情報は、後述するように、ユーザ操作に基づき、VR体験中のプレイヤの視線方向や動き方向が変更される際に用いられるデータ構造を示す。   FIG. 9 is a diagram illustrating an example of content information. In the example shown in FIG. 9, the content information is associated with an event ID, virtual space data, player ID, and line-of-sight direction information. The content information shown in FIG. 9 indicates a data structure used when the line-of-sight direction and the movement direction of the player who is experiencing the VR are changed based on a user operation, as will be described later.

図9に示す例では、イベントID「G0001」に対し、仮想空間データ「C0001」と、プレイヤID「PA001」〜「PA022」とが対応付けられ、各プレイヤIDに、それぞれ視線方向情報が対応付けられる。視線方向情報は、プレイヤの顔や頭の動きに合わせた視点座標の軌跡データと、その視点における視線方向のベクトルデータとを含む。   In the example illustrated in FIG. 9, the virtual space data “C0001” and the player IDs “PA001” to “PA022” are associated with the event ID “G0001”, and the gaze direction information is associated with each player ID. It is done. The gaze direction information includes trajectory data of viewpoint coordinates in accordance with the movement of the player's face and head, and vector data of the gaze direction at that viewpoint.

なお、図9に示すコンテンツ情報は、携帯端末10側で、VR体験中のプレイヤの視線方向や動き方向が変更される場合に好適である。   Note that the content information shown in FIG. 9 is suitable when the line-of-sight direction and the movement direction of the player who is experiencing the VR are changed on the mobile terminal 10 side.

例えば、サーバ装置50は、ユーザの操作に基づき、VR体験中のプレイヤの視線方向や動き方向の変更可能性が有る場合、仮想空間データと、特定のプレイヤの視線方向情報とを携帯端末10に送信する。これにより、携帯端末10は、自身の装置において、視線方向情報に基づいて視線方向を変更したり、プレイヤキャラクタの動き方向を変更したりして、変更後の映像コンテンツをCGにより生成することができる。   For example, when there is a possibility that the line-of-sight direction or the movement direction of the player who is experiencing the VR is changeable based on the user's operation, the server device 50 sends the virtual space data and the line-of-sight direction information of the specific player to the mobile terminal 10. Send. Thereby, the mobile terminal 10 can generate the changed video content by CG by changing the line-of-sight direction based on the line-of-sight direction information or changing the movement direction of the player character in its own device. it can.

また、サーバ装置50と、携帯端末10とのリアルタイムの双方向通信により、VR体験中のプレイヤの視線方向や動き方向を変更することもできる。例えば、携帯端末10は、視線方向や動き方向の変更を示す変更情報をサーバ装置50に送信し、サーバ装置50は、その変更情報に基づいて、視線方向や動き方向の変更後の映像コンテンツを生成する。サーバ装置50は、変更後の映像コンテンツをその都度携帯端末10に送信し、携帯端末110は、受信した映像コンテンツを表示する。これにより、プレイヤキャラクタの視線方向や動き方向を変更することができる。   Further, the line-of-sight direction and the movement direction of the player who is experiencing the VR can also be changed by real-time bidirectional communication between the server device 50 and the mobile terminal 10. For example, the mobile terminal 10 transmits change information indicating a change in the line-of-sight direction or the movement direction to the server device 50, and the server device 50 displays the video content after the change in the line-of-sight direction or the movement direction based on the change information. Generate. The server device 50 transmits the changed video content to the mobile terminal 10 each time, and the mobile terminal 110 displays the received video content. Thereby, the line-of-sight direction and the movement direction of the player character can be changed.

また、携帯端末10側で、視聴だけが許容される場合、図9に示すコンテンツ情報は、イベントIDごとに各プレイヤIDを対応付け、そのプレイヤIDに、予め生成されたプレイヤの視点からの映像コンテンツを対応付けるデータ構造でもよい。このデータ構造によれば、ユーザは、イベントIDを選択すれば、各プレイヤの視点からの映像コンテンツをまとめて取得することができる。また、ユーザは、イベントIDとプレイヤIDとを選択すれば、そのイベントの特定のプレイヤの視点からの映像コンテンツを取得することができる。例えば、イベントがサッカーの試合である場合、ユーザは、イベントIDとしてワールドカップの決勝の試合を選択したり、プレイヤIDとしてユーザの好きな選手を選択したりし、好きな選手の視点からその試合を体験することができるようになる。   In addition, when only viewing is permitted on the mobile terminal 10 side, the content information shown in FIG. 9 is associated with each player ID for each event ID, and the player ID is generated from the viewpoint of the player generated in advance. A data structure for associating contents may be used. According to this data structure, if the user selects an event ID, the video content from the viewpoint of each player can be acquired collectively. In addition, if the user selects an event ID and a player ID, the user can acquire video content from the viewpoint of a specific player of the event. For example, when the event is a soccer game, the user selects the World Cup final game as the event ID, or selects the user's favorite player as the player ID, and the game from the viewpoint of the favorite player. You will be able to experience

図10は、カテゴリごとに分類された部分コンテンツの一例を示す図である。図10に示す例では、プレイヤID毎に、各カテゴリの部分コンテンツが対応付けられている。例えば、プレイヤID「PA001」は、カテゴリ1として「10:10〜10:35」、「34:23〜34:30」などの部分コンテンツが対応付けられ、カテゴリ2として「5:43〜5:55」、「6:32〜6:49」などの部分コンテンツが対応付けられている。なお、「10:10〜10:35」等の表記は、映像コンテンツ内の10分10秒から10分35秒までの視線方向情報、又は部分コンテンツであることを示す。   FIG. 10 is a diagram illustrating an example of partial content classified for each category. In the example shown in FIG. 10, the partial contents of each category are associated with each player ID. For example, the player ID “PA001” is associated with partial contents such as “10:10 to 10:35” and “34:23 to 34:30” as category 1 and “5:43 to 5: as category 2”. 55 ”and“ 6:32 to 6:49 ”are associated with each other. A notation such as “10:10 to 10:35” indicates line-of-sight direction information or partial content from 10 minutes 10 seconds to 10 minutes 35 seconds in the video content.

これにより、ユーザは、カテゴリを指定すれば、各プレイヤのそのカテゴリでの部分コンテンツを取得することができる。また、ユーザは、カテゴリとプレイヤIDとを選択すれば、そのカテゴリでの特定のプレイヤの部分コンテンツを取得することができる。例えば、イベントがサッカーの試合で、カテゴリがドリブル成功及びドリブル失敗である場合、ユーザは、好きな選手のドリブル成功の部分コンテンツのみを選択し、好きな選手のドリブル成功の世界観を体験することができるようになる。   Thereby, if the user designates a category, each player can acquire partial contents in that category. Moreover, if the user selects a category and a player ID, the partial content of a specific player in that category can be acquired. For example, if the event is a soccer game and the category is dribbling success and dribbling success, the user can select only the partial content of the favorite player's dribbling success and experience the world view of the favorite player's dribbling success. Will be able to.

≪携帯端末10≫
図11は、実施形態における携帯端末10の機能構成の一例を示す図である。図11に示す例では、携帯端末10は、第2送信部202、第2受信部204、コンテンツ制御部206、及び第2記憶部208を有する。第2記憶部208以外の各部は、例えばプログラム44が主制御部40により実行されることで機能する。
≪Mobile terminal 10≫
FIG. 11 is a diagram illustrating an example of a functional configuration of the mobile terminal 10 according to the embodiment. In the example illustrated in FIG. 11, the mobile terminal 10 includes a second transmission unit 202, a second reception unit 204, a content control unit 206, and a second storage unit 208. Each unit other than the second storage unit 208 functions, for example, when the program 44 is executed by the main control unit 40.

第2送信部202は、例えば主制御部40、移動体通信部32、無線LAN通信部36等により実現されうる。第2送信部202は、ユーザ操作に基づくダウンロード要求等をサーバ装置50に送信する。   The second transmission unit 202 can be realized by the main control unit 40, the mobile communication unit 32, the wireless LAN communication unit 36, and the like, for example. The second transmission unit 202 transmits a download request or the like based on a user operation to the server device 50.

第2受信部204は、例えば主制御部40、移動体通信部32、無線LAN通信部36等により実現されうる。第2受信部204は、サーバ装置50から、ダウンロード要求した映像コンテンツ等を受信する。   The second receiving unit 204 can be realized by the main control unit 40, the mobile communication unit 32, the wireless LAN communication unit 36, and the like, for example. The second receiving unit 204 receives the video content requested for download from the server device 50.

コンテンツ制御部206は、例えば主制御部40等により実現されうる。コンテンツ制御部206は、第2受信部204により受信された、各プレイヤの動きを再現するCGによる映像コンテンツを取得し、再生などの制御を行う。コンテンツ制御部206は、映像コンテンツを制御するため、受付部210、取得部212、表示制御部214、課金部216、変更部218、及び報知部220を有する。   The content control unit 206 can be realized by the main control unit 40, for example. The content control unit 206 acquires the video content by the CG that reproduces the movement of each player received by the second reception unit 204, and performs control such as reproduction. The content control unit 206 includes a reception unit 210, an acquisition unit 212, a display control unit 214, a charging unit 216, a change unit 218, and a notification unit 220 in order to control video content.

受付部210は、表示画面に表示されたユーザのボタン操作などにより、ユーザによるプレイヤの選択を受け付ける。また、受付部210は、イベントの選択や、カテゴリの選択や、部分コンテンツの選択や、表示指示などのユーザ操作を受け付けてもよい。受付部210は、受け付けた各種選択を示す情報を含むダウンロード要求を、第2送信部202を介してサーバ装置50に送信する。なお、受付部210は、接続されたHMD70からのユーザ操作を受け付けてもよい。   The accepting unit 210 accepts the player's selection by the user's button operation displayed on the display screen. Further, the reception unit 210 may receive user operations such as event selection, category selection, partial content selection, and display instruction. The reception unit 210 transmits a download request including information indicating the received various selections to the server device 50 via the second transmission unit 202. Note that the reception unit 210 may receive a user operation from the connected HMD 70.

取得部212は、ダウンロード要求がされた映像コンテンツ又は部分コンテンツを、第2受信部204を介して取得したり、第2記憶部208から取得したりする。映像コンテンツは、1又は複数のプレイヤの動きを複数の撮像装置60が撮像した各撮像データに基づき各プレイヤの動作解析が行われた映像コンテンツであり、各プレイヤの動きをCGにより再現し、ユーザにより選択されたプレイヤの視点からの映像コンテンツである。   The acquisition unit 212 acquires the video content or partial content requested to be downloaded via the second reception unit 204 or acquires it from the second storage unit 208. The video content is video content in which the motion analysis of each player is performed based on the respective image data obtained by capturing the motion of one or a plurality of players by the plurality of image capturing devices 60, and the motion of each player is reproduced by CG. The video content from the viewpoint of the player selected by.

表示制御部214は、例えば受付部210が受け付けたユーザからの表示を示す操作により、取得部212により取得された映像コンテンツ又は部分コンテンツの表示を制御する。表示制御部214は、表示制御として、HMD70のタイプに応じて、映像コンテンツや部分コンテンツをHMD70に送信したり、タッチパネル14に映像コンテンツを表示したりする。   The display control unit 214 controls display of video content or partial content acquired by the acquisition unit 212, for example, by an operation indicating display from the user received by the reception unit 210. As the display control, the display control unit 214 transmits video content or partial content to the HMD 70 or displays video content on the touch panel 14 according to the type of the HMD 70.

課金部216は、ユーザ操作に基づき課金処理を行う。例えば、プログラム44により実行されるアプリケーション内で、ユーザが、所定のプレイヤを選択し、所定金額を支払うための課金処理を行ったとする。このとき、課金部216は、ユーザIDなどや、選択されたプレイヤID等を含む課金要求を、第2送信部202を介して課金サーバ(不図示)に送信する。   The charging unit 216 performs a charging process based on a user operation. For example, in the application executed by the program 44, it is assumed that the user selects a predetermined player and performs a billing process for paying a predetermined amount. At this time, the charging unit 216 transmits a charging request including the user ID and the selected player ID to the charging server (not shown) via the second transmission unit 202.

課金サーバは、携帯端末10等からの課金要求に応じて、アプリケーション実行中に課金処理を行うサーバである。課金サーバは、事前にユーザIDに関連付けて銀行口座やクレジット番号などの情報を対応づけておくとよい。   The billing server is a server that performs billing processing during application execution in response to a billing request from the mobile terminal 10 or the like. The billing server may associate information such as a bank account and a credit number with the user ID in advance.

このとき、受付部210は、課金部216において課金処理が行われた場合に、イベントの選択や、プレイヤの選択等を受け付け可能にしてもよい。これにより、ユーザは、お金を支払うことで、自分が体験したいプレイヤ等を選択することができる。   At this time, the accepting unit 210 may be able to accept event selection, player selection, and the like when the billing unit 216 performs billing processing. Thereby, the user can select a player or the like that he / she wants to experience by paying money.

変更部218は、ユーザ操作に基づき、選択されたプレイヤの動き方向又は視線方向を示す第1方向を変更する。ユーザ操作とは、例えば、HMD70を装着した状態で、頭を動かしたりする操作、又は外付けのコントローラを用いた操作のことをいう。頭の動きは、携帯端末10の6軸センサ23が検知する。この場合、携帯端末10は、第1方向を変更可能にするため、サーバ装置50から仮想空間データと、特定のプレイヤの視線方向情報とを取得したり、又はストリーミング等によりその都度特定のプレイヤの視点からの映像コンテンツを取得したりすればよい。   The changing unit 218 changes the first direction indicating the movement direction or the line-of-sight direction of the selected player based on a user operation. The user operation refers to, for example, an operation of moving the head while wearing the HMD 70 or an operation using an external controller. The movement of the head is detected by the 6-axis sensor 23 of the mobile terminal 10. In this case, in order to make the first direction changeable, the mobile terminal 10 acquires the virtual space data and the line-of-sight direction information of the specific player from the server device 50, or by streaming or the like of the specific player each time. What is necessary is just to acquire the video content from a viewpoint.

例えば、VR体験中のプレイヤ(選択されたプレイヤ)の視線方向が変更される場合、6軸センサ23により右方向に頭が動いたことが検知されれば、変更部218は、VR体験中のプレイヤの視線方向を右方向に移動させる。より具体的には、変更部218は、仮想空間データが取得されている場合、仮想空間データに基づくVR体験中のプレイヤの視線方向を右方向に移動させ、移動後の視線方向に描画される三次元仮想空間内の映像を表示させればよい。   For example, when the line-of-sight direction of a player who is experiencing VR (the selected player) is changed, if the six-axis sensor 23 detects that the head has moved to the right, the changing unit 218 The player's line-of-sight direction is moved to the right. More specifically, when the virtual space data is acquired, the changing unit 218 moves the line of sight of the player who is experiencing the VR based on the virtual space data to the right, and draws the line of sight after the movement. What is necessary is just to display the image | video in a three-dimensional virtual space.

また、変更部218は、ストリーミング等により映像コンテンツを取得している場合、視線方向の変更量を示す変更情報を、第2送信部202を介してサーバ装置50に送信し、サーバ装置50から視線変更後の映像コンテンツを取得することで、移動後の視線方向に描画される三次元仮想空間内の映像を表示させればよい。   In addition, when the video content is acquired by streaming or the like, the change unit 218 transmits change information indicating the amount of change in the line-of-sight direction to the server device 50 via the second transmission unit 202, and the line-of-sight from the server device 50 What is necessary is just to display the image | video in the three-dimensional virtual space drawn by the visual line direction after a movement by acquiring the video content after a change.

また、VR体験中のプレイヤの動き方向が変更される場合、6軸センサ23により右方向に頭が動いたことが検知されれば、変更部218は、VR体験中のプレイヤキャラクタを右方向に移動させる。変更部218は、方向の移動量について、頭の動き量に応じて変更してもよい。例えば、頭が大きく動かされるほど、移動量が大きくなってもよい。動き方向の移動後の映像コンテンツの生成処理は、視線方向の移動の際の処理と同様である。   When the movement direction of the player who is experiencing the VR is changed, if the six-axis sensor 23 detects that the head has moved to the right, the changing unit 218 moves the player character that is experiencing the VR to the right. Move. The changing unit 218 may change the amount of movement in the direction according to the amount of head movement. For example, the amount of movement may increase as the head is moved more greatly. The processing for generating video content after movement in the movement direction is the same as the processing for movement in the line-of-sight direction.

なお、VR体験中のプレイヤキャラクタの動き方向が変更される場合、VR体験中のプレイヤの実際の動きを示す第2方向と異なる方向に動くことがありうるので、その場合、実際の動きに戻ることができるようにしておくとよい。例えば、変更部218は、所定操作(例えば頭を二回上下に振るなど)が行われた場合には、実際のプレイヤの動きに戻るようにすればよい。これにより、第1方向と第2方向とが乖離したままイベントが進行することを防止することができる。   If the movement direction of the player character during the VR experience is changed, it may move in a direction different from the second direction indicating the actual movement of the player during the VR experience. In this case, the actual movement returns. It is good to be able to do that. For example, the change unit 218 may return to the actual movement of the player when a predetermined operation (for example, shaking his / her head twice) is performed. Thereby, it is possible to prevent the event from proceeding while the first direction and the second direction are deviated.

また、変更部218は、動き方向を変更するモードと、視線方向を変更するモードとを所定操作(例えば頭を三回上下に振るなど)により切り替えるようにしてもよい。これにより、ユーザは、視線を変えたり、動き自体を変えたり、VRの体験の幅を広げることができる。   The changing unit 218 may switch between a mode for changing the movement direction and a mode for changing the line-of-sight direction by a predetermined operation (for example, shaking the head three times up and down). Thereby, the user can change the line of sight, change the movement itself, and broaden the VR experience.

報知部220は、表示制御中の映像コンテンツ又は部分コンテンツに基づくプレイヤの実際の動き方向又は視線方向を示す第2方向と、変更部218により変更される第1方向との差異をユーザに報知する。報知の仕方としては、例えば、第1方向及び/又は第2方向を矢印で表し、両矢印を区別可能にしたり、画面内の四方に第2方向を示す領域を設け、当該領域を所定色にすることで、第2方向を示し、色の濃淡を用いて第2方向と第1方向との角度の違いを表したりしてもよい。また、報知部220は、第1方向と第2方向との差異を、音声や、その他の表示の仕方で報知するようにしてもよい。また、報知部220内に評価部を設け、この評価部が、両方向の差異に基づく評価を行ってもよい。例えば、評価部は、この差異が小さいほど良い評価を与えたり、この差異が所定差以内である時間が長いほど良い評価を与えたりする。報知部220は、評価結果をユーザに報知する。報知の仕方は特に問わない。これにより、例えば、ユーザは、体験中のプレイヤの状況に応じた動きを習得することができる。   The notification unit 220 notifies the user of the difference between the second direction indicating the actual movement direction or line-of-sight direction of the player based on the video content or the partial content under display control, and the first direction changed by the change unit 218. . As a notification method, for example, the first direction and / or the second direction are represented by arrows, and both arrows can be distinguished, or areas indicating the second direction are provided in four directions in the screen, and the areas are set to a predetermined color. By doing so, the second direction may be indicated, and the difference in angle between the second direction and the first direction may be expressed using color shading. Moreover, you may make it the alerting | reporting part 220 alert | report the difference of a 1st direction and a 2nd direction with an audio | voice or the other display method. Moreover, an evaluation unit may be provided in the notification unit 220, and the evaluation unit may perform evaluation based on the difference in both directions. For example, the evaluation unit gives a better evaluation as the difference is smaller, or gives a better evaluation as the time during which the difference is within a predetermined difference is longer. The notification unit 220 notifies the user of the evaluation result. The method of notification is not particularly limited. Thereby, for example, the user can learn the movement according to the situation of the player who is experiencing.

これにより、ユーザは、その場その場で、自分が意図した動き方向又は視線方向と、実際のプレイヤの動き方向又は視線方向とを比べることができる。その結果、例えば、有名スポーツ選手のその時の判断力を知ることができ、スポーツ教育に活用することができる。   Thereby, the user can compare the movement direction or gaze direction intended by the user with the actual movement direction or gaze direction of the player on the spot. As a result, for example, it is possible to know the judgment power of a famous athlete at that time, and it can be used for sports education.

また、報知部220は、例えば相手と対戦するスポーツの映像コンテンツが表示制御される場合、相手のプレイヤの死角を表示可能にしてもよい。例えば、報知部220は、1又は複数の相手のプレイヤのキャラクタの視野を三次元仮想空間内で推定し、相手プレイヤの視野が重ならない領域を死角と判定すればよい。これにより、例えばサッカーをVRで体験する場合、攻撃中のユーザは、どこにパスを出すべきか又はどこにドリブル突破すべきかを把握することができる。その結果、スポーツ教育のバリエーションを増やすことができる。   Further, the notification unit 220 may display the blind spot of the opponent player when, for example, display control of the video content of the sport that competes with the opponent is performed. For example, the notification unit 220 may estimate the field of view of one or more opponent players 'characters in a three-dimensional virtual space, and determine an area where the opponent players' views do not overlap as blind spots. Thereby, for example, when experiencing soccer in VR, the user under attack can grasp where to pass or where to dribble breakthrough. As a result, variations in sports education can be increased.

第2記憶部208は、第2受信部204により受信された映像コンテンツ、部分コンテンツ、仮想空間データ等を記憶する。   The second storage unit 208 stores video content, partial content, virtual space data, and the like received by the second receiving unit 204.

携帯端末10は、自装置内に、仮想空間データや、各プレイヤの視線方向情報を保持していれば、コンテンツ制御部206により、VR体験中にVRを体験するプレイヤの視点を切り替えることができる。例えば、コンテンツ制御部206は、視点を切り替えるために設定された操作が行われた場合、視点切替画面等を表示し、ユーザが視聴したいプレイヤの視点を選択させればよい。コンテンツ制御部206は、選択されたプレイヤの視線方向情報を取得し、その視線方向情報を用いて、初めから、又は切替操作が行われた時点から、そのプレイヤの視点からの映像を表示するように制御する。これにより、三次元仮想空間データが有るので、視線方向情報を取得するだけで、プレイヤの視点切替を容易に行うことができる。   If the mobile terminal 10 holds virtual space data or gaze direction information of each player in the own device, the content control unit 206 can switch the viewpoint of the player who experiences the VR during the VR experience. . For example, when an operation set for switching the viewpoint is performed, the content control unit 206 may display a viewpoint switching screen or the like and select the viewpoint of the player that the user wants to view. The content control unit 206 acquires the line-of-sight direction information of the selected player, and uses the line-of-sight direction information to display an image from the viewpoint of the player from the beginning or when the switching operation is performed. To control. Thereby, since there is three-dimensional virtual space data, it is possible to easily switch the player's viewpoint only by acquiring the line-of-sight direction information.

以上の機能をコンテンツ配信システム1の各装置が有することで、VRにおいて、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを容易に生成することができる。また、コンテンツ配信システム1は、上述した方法で生成されたコンテンツをユーザに提供することができる。   Since each device of the content distribution system 1 has the above functions, it is possible to easily generate content from the viewpoints of many objects while responding to various movements of the objects in the VR. Further, the content distribution system 1 can provide the user with the content generated by the method described above.

<視線方向及び視野>
次に、CGにより生成されるプレイヤキャラクタの視線方向及び視野について説明する。図12は、プレイヤキャラクタの視線方向及び視野を説明するための図である。図12(A)は、三次元仮想空間内の鉛直方向の上から下を見た場合のプレイヤキャラクタの頭H、視線方向EL1、視野θ1を示す。このキャラクタの視線方向EL1は、眼を結ぶ線分の中央から、この線分の垂直方向とする。
<Gaze direction and field of view>
Next, the line-of-sight direction and field of view of the player character generated by CG will be described. FIG. 12 is a diagram for explaining the line-of-sight direction and field of view of the player character. FIG. 12A shows the player character's head H, line-of-sight direction EL1, and field of view θ1 when viewed from above and below in the vertical direction in the three-dimensional virtual space. The character's line-of-sight direction EL1 is the vertical direction of the line segment from the center of the line segment connecting the eyes.

また、水平方向の視野角θ1については、Y方向に対し、視線方向EL1から左右それぞれ60度とし、合計120度とする。ただし、この視野角θ1は、あくまでも一例であり、適切な値が設定されればよい。   Further, the viewing angle θ1 in the horizontal direction is 60 degrees to the left and right of the line-of-sight direction EL1 with respect to the Y direction, for a total of 120 degrees. However, this viewing angle θ1 is merely an example, and an appropriate value may be set.

図12(B)は、三次元仮想空間内の水平方向の左から右(Y方向の−側から+側)を見た場合のプレイヤキャラクタの頭H、視線方向EL2、視野角θ2を示す。このキャラクタの視線方向EL2は、頭の頂点Tから下点Bを結ぶ線分の眼の位置から、この線分の垂直方向とする。なお、図12(A)に示す視線方向EL1と、図12(B)に示す視線方向EL2とは、同一の方向を表す。よって、プレイヤキャラクタの視線方向は、プレイヤキャラクタの頭の位置等により推定することができる。また、視点座標は、例えば、視線方向EL1と顔との接点座標とする。   FIG. 12B shows the player character's head H, line-of-sight direction EL2, and viewing angle θ2 when the horizontal direction in the three-dimensional virtual space is viewed from left to right (from the Y side to the + side). The line-of-sight direction EL2 of this character is the vertical direction of the line segment from the position of the eye of the line segment connecting the vertex T to the lower point B of the head. Note that the line-of-sight direction EL1 shown in FIG. 12A and the line-of-sight direction EL2 shown in FIG. 12B represent the same direction. Therefore, the line-of-sight direction of the player character can be estimated from the position of the player character's head and the like. The viewpoint coordinates are, for example, the contact coordinates between the line-of-sight direction EL1 and the face.

また、鉛直方向の視野角θ2については、Z方向に対し、視線方向EL2から上60度、下70度とし、合計130度とする。ただし、この視野角θ2は、あくまでも一例であり、適切な値が設定されればよい。   The vertical viewing angle θ2 is 60 degrees above and 70 degrees below the line-of-sight direction EL2 with respect to the Z direction, for a total of 130 degrees. However, this viewing angle θ2 is merely an example, and an appropriate value may be set.

なお、視線方向については、図12に示す方法で推定するようにしたが、実際の撮像データから黒目の動きを検出することができれば、実際の黒目の動きから視線方向を推定してもよい。これにより、プレイヤになりきってVRを体験することができる。   The line-of-sight direction is estimated by the method shown in FIG. 12, but the line-of-sight direction may be estimated from the actual movement of the black eye as long as the movement of the black eye can be detected from the actual imaging data. Thereby, it is possible to experience VR as a player.

<表示画面例>
次に、イベントとしてサッカーの試合、オブジェクトとしてサッカー選手を例に挙げて、本発明を適用する場合の表示画面例について説明する。
<Example of display screen>
Next, an example of a display screen when the present invention is applied will be described by taking a soccer game as an event and a soccer player as an object.

図13は、実施形態における表示画面Aの一例を示す図である。図13に示す画面Aは、ユーザが選択したプレイヤが、ディフェンスをしている場合の画面例を示す。図13に示すように、ユーザは、実際のサッカーの試合を体験するVRにて、ディフェンスをしているプレイヤ目線で試合を楽しむことができる。   FIG. 13 is a diagram illustrating an example of the display screen A in the embodiment. Screen A shown in FIG. 13 shows a screen example when the player selected by the user is defending. As shown in FIG. 13, the user can enjoy the game from the viewpoint of the player who is defending in VR for experiencing an actual soccer game.

図13に示す例では、プレイヤキャラクタP11が現在ボールB1を蹴っており、プレイヤキャラクタP12〜P14が、プレイヤキャラクタのP11の味方を表す。また、プレイヤキャラクタP21は、ユーザが体験しているプレイヤの味方を表す。   In the example shown in FIG. 13, the player character P11 is currently kicking the ball B1, and the player characters P12 to P14 represent the ally of the player character P11. The player character P21 represents a friend of the player who is experiencing the user.

図14は、実施形態における表示画面Bの一例を示す図である。図14に示す画面Bは、ユーザが選択したプレイヤが、オフェンスをしている(例えばドリブルをしている)場合の画面例を示す。図14に示すように、ユーザは、実際のサッカーの試合を体験するVRにて、オフェンスをしているプレイヤ目線で試合を楽しむことができる。   FIG. 14 is a diagram illustrating an example of the display screen B in the embodiment. A screen B shown in FIG. 14 shows a screen example when the player selected by the user is in an offense (for example, dribbling). As shown in FIG. 14, the user can enjoy the game from the viewpoint of a player who is playing an offense in VR in which an actual soccer game is experienced.

図15は、実施形態における表示画面Cの一例を示す図である。図15に示す画面Cは、図14に示す画面Bから、例えばユーザが頭を動かすことで、視線方向が変更された画面例を示す。図15に示すように、ユーザは、視線方向を右方向に動かすよう操作することで、視線方向が全体的に右方向に向いたシーンを視聴することができる。   FIG. 15 is a diagram illustrating an example of the display screen C in the embodiment. A screen C illustrated in FIG. 15 illustrates a screen example in which the line-of-sight direction is changed, for example, when the user moves his / her head from the screen B illustrated in FIG. 14. As illustrated in FIG. 15, the user can view a scene in which the line-of-sight direction is generally directed to the right by operating the line-of-sight direction to the right.

また、図15に示す画面Cでは、VR体験中の視線方向(第1方向)を示す矢印A1が画面C上に表示される。このとき、実際のプレイヤの視線方向(第2方向)を示す矢印A2も画面C上に表示される。これにより、ユーザは、この時の自分の判断と、体験しているプレイヤの判断とを比べることができる。なお、矢印A1は、必ずしも表示されなくてもよい。   Further, on the screen C shown in FIG. 15, an arrow A <b> 1 indicating the line-of-sight direction (first direction) during the VR experience is displayed on the screen C. At this time, an arrow A2 indicating the actual line-of-sight direction (second direction) of the player is also displayed on the screen C. Thereby, the user can compare his judgment at this time with the judgment of the experienced player. Note that the arrow A1 is not necessarily displayed.

図16は、実施形態における表示画面Dの一例を示す図である。図16に示す画面Dは、図15に示す画面Cと比べて、第1方向と第2方向との差異の報知の仕方が異なる。図16に示す画面Dは、画面D内の四方に配置された各領域B1〜B4が、第2方向を知らせるための領域である。ユーザは、左方向の領域B1の色が変更されることで、プレイヤの実際の視線方向は左方向であったと知ることができる。なお、領域B1の色が濃くなるほど、第1方向と第2方向との角度の差が大きくなることを示す。   FIG. 16 is a diagram illustrating an example of the display screen D in the embodiment. The screen D shown in FIG. 16 differs from the screen C shown in FIG. 15 in the manner of notifying the difference between the first direction and the second direction. A screen D shown in FIG. 16 is a region for informing the second direction of the regions B1 to B4 arranged in four directions in the screen D. The user can know that the actual line-of-sight direction of the player is the left direction by changing the color of the left-side area B1. In addition, it shows that the difference of the angle of a 1st direction and a 2nd direction becomes large, so that the color of area | region B1 becomes dark.

図17は、実施形態における表示画面Eの一例を示す図である。図17に示す画面Eは、図15に示す画面Cと比べて、第1方向と第2方向との差異の報知が消去され、死角領域D2が表示されている。図17に示す画面Eは、ユーザが体験しているプレイヤキャラクタの相手となる各キャラクタP23〜P25の死角領域D2が表示される。死角領域D2は、図18で説明するように、相手キャラクタの視野を示す情報に基づいて算出できる。これにより、ユーザは、この時点で、死角領域D2についてはパスやドリブル突破がしやすい領域であることを把握することができる。なお、死角領域が表示される場合でも、上述した報知処理がなされてもよい。   FIG. 17 is a diagram illustrating an example of the display screen E in the embodiment. In the screen E shown in FIG. 17, the notification of the difference between the first direction and the second direction is erased and the blind spot area D2 is displayed as compared with the screen C shown in FIG. A screen E shown in FIG. 17 displays a blind spot area D2 of each of the characters P23 to P25 that are opponents of the player character that the user is experiencing. The blind spot area D2 can be calculated based on information indicating the field of view of the opponent character, as described in FIG. Thereby, the user can grasp | ascertain that the blind spot area | region D2 is an area | region where it is easy to pass or dribble breakthrough at this time. Even when the blind spot area is displayed, the above-described notification process may be performed.

図18は、死角領域D2を説明するための図である。図18に示す例では、三次元仮想空間のサッカーフィールドを上面から表している。領域AR2は、図17における画面Eで表示されている領域である。領域AR2内で、相手のキャラクタP23〜P25の視野に入らない領域が死角領域D2である。この死角領域D2が、図17に示す画面Eにおいて表示されている。なお、図18に示す上面図が、図17に示す画面に重畳され、所定のユーザ操作により、この上面図の表示と非表示とが切り替えられるように実装されてもよい。   FIG. 18 is a diagram for explaining the blind spot area D2. In the example shown in FIG. 18, the soccer field of the three-dimensional virtual space is represented from the top. The area AR2 is an area displayed on the screen E in FIG. In the area AR2, the area that does not enter the field of view of the opponent characters P23 to P25 is the blind spot area D2. This blind spot area D2 is displayed on the screen E shown in FIG. Note that the top view shown in FIG. 18 may be mounted on the screen shown in FIG. 17 so that display and non-display of the top view can be switched by a predetermined user operation.

以上の図13〜17に示す画像は、表示制御部214により表示制御される画面である。また、図15〜16で説明した視線変更は、ユーザ操作に基づき、変更部218により変更される。また、図15〜16で説明した第1方向と第2方向との差異の報知は、報知部220により実行される。また、図17で説明した死角領域D2は、報知部220により報知される。死角領域D2の検出は、コンテンツ制御部206やサーバ装置50のコンテンツ生成部114等が行えばよい。   The images shown in FIGS. 13 to 17 are screens whose display is controlled by the display control unit 214. Further, the line-of-sight change described with reference to FIGS. 15 to 16 is changed by the changing unit 218 based on a user operation. Also, the notification of the difference between the first direction and the second direction described with reference to FIGS. Also, the blind spot area D2 described with reference to FIG. The blind spot area D2 may be detected by the content control unit 206, the content generation unit 114 of the server device 50, or the like.

なお、図13〜17に示すプレイヤキャラクタは一例であって、実際のプレイヤの顔やユニフォームをプレイヤキャラクタに用いることで、臨場感と現実味とが溢れるVRを実現することができる。   Note that the player characters shown in FIGS. 13 to 17 are examples, and a VR that is full of realism and realism can be realized by using the actual player's face and uniform as the player character.

<動作>
次に、実施形態におけるコンテンツ配信システム1の各装置の動作について説明する。以下、サーバ装置50におけるコンテンツ生成処理、及びコンテンツ配信処理、並びに、携帯端末10におけるコンテンツ表示処理、視線変更処理、及びプレイヤ切替処理の順で説明する。
<Operation>
Next, the operation of each device of the content distribution system 1 in the embodiment will be described. Hereinafter, a content generation process and a content distribution process in the server device 50, a content display process in the mobile terminal 10, a line-of-sight change process, and a player switching process will be described in this order.

≪コンテンツ生成処理≫
図19は、実施形態におけるコンテンツ生成処理の一例を示すフローチャートである。図19に示すステップS102で、第1受信部104は、各撮像装置60から、1又は複数のプレイヤが動いている様子を撮像した各撮像データを受信する。各撮像装置60は、様々な角度から各プレイヤを撮像する。
≪Content generation process≫
FIG. 19 is a flowchart illustrating an example of content generation processing according to the embodiment. In step S102 illustrated in FIG. 19, the first reception unit 104 receives, from each imaging device 60, each imaging data obtained by capturing an image of one or more players moving. Each imaging device 60 images each player from various angles.

ステップS104で、動作解析部110は、第2受信部104から各撮像データを取得すると、少なくとも1のプレイヤの動きに対し、公知のモーションキャプチャ技術を用いて動作解析を行う。モーションキャプチャ技術は、マーカーレス方式が好ましい。   In step S <b> 104, when the motion analysis unit 110 acquires each imaging data from the second reception unit 104, the motion analysis unit 110 performs motion analysis on a motion of at least one player using a known motion capture technique. The motion capture technology is preferably a markerless method.

ステップS106で、仮想空間生成部112は、第2受信部104から各撮像データを取得すると、各プレイヤやフィールドを示す仮想オブジェクトを含む三次元仮想空間を生成する。   In step S <b> 106, when the virtual space generation unit 112 acquires each imaging data from the second reception unit 104, the virtual space generation unit 112 generates a three-dimensional virtual space including virtual objects indicating each player and field.

ステップS108で、コンテンツ生成部114は、三次元仮想空間及び動作解析の結果に基づいて、動作解析されたプレイヤの動きをCGにより再現する映像コンテンツを生成する。   In step S108, the content generation unit 114 generates video content that reproduces the motion of the player whose motion has been analyzed based on the three-dimensional virtual space and the result of the motion analysis, using CG.

このとき、分類部118は、コンテンツ内のプレイヤの一部の動きを示す部分コンテンツを生成し、部分コンテンツをこの動きに応じて複数のカテゴリに分類してもよい。   At this time, the classification unit 118 may generate partial content indicating some movement of the player in the content, and classify the partial content into a plurality of categories according to the movement.

ステップS110で、コンテンツ生成部114は、生成された映像コンテンツ及び/又は部分コンテンツを第1記憶部108に記憶する。   In step S <b> 110, the content generation unit 114 stores the generated video content and / or partial content in the first storage unit 108.

これにより、VRにおいて、CGを用いることにより、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを容易に生成することができる。   Thereby, by using CG in VR, it is possible to easily generate content from the viewpoint of a large number of objects while accommodating various movements of the objects.

≪コンテンツ配信処理≫
図20は、実施形態におけるコンテンツ配信処理の一例を示すフローチャートである。図20に示すステップS202で、要求取得部116は、各携帯端末10からのダウンロード要求を、第1受信部104を介して取得する。
≪Content distribution process≫
FIG. 20 is a flowchart illustrating an example of content distribution processing according to the embodiment. In step S <b> 202 illustrated in FIG. 20, the request acquisition unit 116 acquires a download request from each mobile terminal 10 via the first reception unit 104.

ステップS204で、要求取得部116は、ダウンロード要求に含まれるコンテンツID及び/又はプレイヤIDを基に、これらのIDに対応する映像コンテンツを取得する。また、ダウンロード要求にカテゴリを示す情報が含まれる場合、要求取得部116は、部分コンテンツを取得してもよい。   In step S204, the request acquisition unit 116 acquires video content corresponding to these IDs based on the content ID and / or player ID included in the download request. When the download request includes information indicating a category, the request acquisition unit 116 may acquire partial content.

ステップS206で、要求取得部116は、取得した映像コンテンツ又は部分コンテンツを、ダウンロード要求を送信した携帯端末10に配信する。これにより、サーバ装置50は、ダウンロード要求に応じて様々なコンテンツを配信することができる。また、要求取得部116は、仮想空間データと、プレイヤIDに対応するプレイヤの視線方向情報とを取得し、これらが配信されるようにしてもよい。これにより、携帯端末10側で、VR体験中のプレイヤの視線方向や動き方向の変更が可能になる。   In step S206, the request acquisition unit 116 distributes the acquired video content or partial content to the mobile terminal 10 that has transmitted the download request. Thereby, the server apparatus 50 can distribute various contents according to the download request. Further, the request acquisition unit 116 may acquire the virtual space data and the line-of-sight direction information of the player corresponding to the player ID and distribute them. Thereby, on the mobile terminal 10 side, it becomes possible to change the line-of-sight direction and movement direction of the player who is experiencing the VR.

≪コンテンツ表示処理≫
図21は、実施形態におけるコンテンツ表示処理の一例を示すフローチャートである。図21に示すステップS302で、受付部210は、ユーザ操作に基づくイベントの選択を受け付ける。例えば、ユーザは、アプリケーション画面から、複数のイベントの中から所定のイベントを選択して、受付部210は、この選択を受け付ける。また、受付部210は、課金処理が行われた場合に、イベントの受付処理を可能にしてもよい。
≪Content display processing≫
FIG. 21 is a flowchart illustrating an example of content display processing in the embodiment. In step S302 illustrated in FIG. 21, the reception unit 210 receives an event selection based on a user operation. For example, the user selects a predetermined event from a plurality of events on the application screen, and the reception unit 210 receives this selection. In addition, the reception unit 210 may enable event reception processing when billing processing is performed.

ステップS304で、受付部210は、ユーザ操作に基づくプレイヤの選択を受け付ける。例えば、ユーザは、アプリケーション画面から、イベントに参加したプレイヤの中から、所定のプレイヤを選択して、受付部210は、この選択を受け付ける。また、受付部210は、課金処理が行われた場合に、プレイヤの受付処理を可能にしてもよい。   In step S304, the accepting unit 210 accepts a player selection based on a user operation. For example, the user selects a predetermined player from the players who participated in the event on the application screen, and the reception unit 210 receives this selection. Further, the accepting unit 210 may enable the accepting process of the player when the charging process is performed.

なお、イベントが1つである場合は、ステップS302を省略してもよく、プレイヤが1人の場合は、ステップS304を省略してもよい。受付部210は、受け付けたイベントのID及び/又はプレイヤのIDを含むダウンロード要求を、第2送信部202を介してサーバ装置50に送信する。また、受付部210は、カテゴリの選択を受け付けた場合は、このカテゴリを示す情報をダウンロード要求に含める。   Note that if there is only one event, step S302 may be omitted, and if there is only one player, step S304 may be omitted. The reception unit 210 transmits a download request including the received event ID and / or player ID to the server device 50 via the second transmission unit 202. In addition, when the reception unit 210 receives a category selection, the reception unit 210 includes information indicating the category in the download request.

ステップS306で、取得部212は、ダウンロード要求に対応するコンテンツを取得する。取得されるコンテンツは、仮想空間データ及び視線方向情報と、映像コンテンツと、部分コンテンツとのうち、少なくとも1つを含む。   In step S306, the acquisition unit 212 acquires content corresponding to the download request. The acquired content includes at least one of virtual space data and line-of-sight direction information, video content, and partial content.

ステップS308で、表示制御部214は、取得されたコンテンツを表示するよう制御する。例えば、表示制御部214は、コンテンツをHMD70に送信することで映像コンテンツが表示されるようにしたり、タッチパネル14に映像コンテンツを表示したりすることで、HMD70で視聴できるようにする。これにより、ユーザに対し、自身が選択したイベント内でのプレイヤになりきってVRを体験させることができる。   In step S308, the display control unit 214 controls to display the acquired content. For example, the display control unit 214 transmits the content to the HMD 70 so that the video content is displayed or the video content is displayed on the touch panel 14 so that the content can be viewed on the HMD 70. As a result, the user can be experienced as a VR player in the event selected by the user.

≪視線変更処理≫
図22は、実施形態における表示制御処理の一例を示すフローチャートである。図22に示す処理は、図21に示すステップS308の表示制御処理内に含まれる処理である。
≪Gaze change processing≫
FIG. 22 is a flowchart illustrating an example of display control processing according to the embodiment. The process shown in FIG. 22 is a process included in the display control process of step S308 shown in FIG.

図22に示すステップS402で、変更部218は、映像コンテンツ表示中に、VR体験中のプレイヤの視線変更をするための所定の操作を示す信号を受け付けたか否かを判定する。所定の操作とは、頭を所定方向(例えば、上方向、下方向、前方向、後方向、左方向、右方向の少なくとも1方向)に動かすことである。所定の操作を示す信号が受け付けられれば(ステップS402−YES)、処理はステップS404に進み、所定の操作を示す信号が受け付けられていなければ(ステップS402−NO)、処理はステップS402に戻る。   In step S402 shown in FIG. 22, the changing unit 218 determines whether or not a signal indicating a predetermined operation for changing the line of sight of the player who is experiencing the VR is received during the display of the video content. The predetermined operation is to move the head in a predetermined direction (for example, at least one of an upward direction, a downward direction, a forward direction, a backward direction, a left direction, and a right direction). If a signal indicating a predetermined operation is received (step S402-YES), the process proceeds to step S404. If a signal indicating a predetermined operation is not received (step S402-NO), the process returns to step S402.

ステップS404で、変更部218は、受付部210から所定の操作を示す信号を受け付けると、VR体験中のプレイヤの視線方向を変更する。例えば、頭が左に動けば、視線方向が左に変更され、頭が右に動けば、視線方向は右に変更される。視線変更後の映像の生成については、上述したように携帯端末10側で処理する場合と、サーバ装置50が処理する場合と2通りがあり、いずれの方法が用いられてもよい。   In step S404, when the change unit 218 receives a signal indicating a predetermined operation from the reception unit 210, the change unit 218 changes the line-of-sight direction of the player who is experiencing the VR. For example, if the head moves to the left, the viewing direction is changed to the left, and if the head moves to the right, the viewing direction is changed to the right. There are two methods for generating the video after changing the line of sight, as described above, when processing is performed on the mobile terminal 10 side, and when processing is performed by the server device 50, and either method may be used.

ステップS406で、報知部220は、変更部218により変更される視線方向(第1方向)と、体験中のプレイヤの実際の視線方向(第2方向)との差異を報知する。報知の方法は様々であり、上述した方法のいずれか1つが適用されればよい。複数の報知方法は、ユーザにより選択されてもよい。   In step S406, the notification unit 220 notifies the difference between the line-of-sight direction (first direction) changed by the change unit 218 and the actual line-of-sight direction (second direction) of the experiencing player. There are various notification methods, and any one of the methods described above may be applied. A plurality of notification methods may be selected by the user.

ステップS408で、表示制御部214は、表示が終了したか否かを判定する。コンテンツの表示が終了すれば(ステップS408−YES)、表示制御処理は終了し、コンテンツの表示が終了していなければ(ステップS408−NO)、処理はステップS402に戻る。これにより、ユーザは、単にVRを視聴するだけでなく、自分も仮想空間内のイベントに参加することができ、さらに、実際のプレイヤの視線方向との差異を比べることができる。   In step S408, the display control unit 214 determines whether the display is finished. If the display of content ends (step S408-YES), the display control process ends. If the display of content does not end (step S408-NO), the process returns to step S402. Thus, the user can not only watch the VR but also participate in the event in the virtual space, and can compare the difference with the actual player's gaze direction.

なお、図22で説明した視線方向は、プレイヤの動きに置き換えてもよい。これにより、ユーザ自身がイベントに参加し、自分の意志でプレイヤを操作しているようなVRの体験をさせることができる。   The line-of-sight direction described with reference to FIG. 22 may be replaced with the movement of the player. Thereby, the user can participate in the event and experience a VR like operating the player with his / her will.

しかし、この場合、ユーザが移動させたプレイヤの動きと、実際のプレイヤの動きとの差異が生じると、実際のイベントの内容とはかけ離れることになるので、いずれかのタイミングで、実際のプレイヤの動きに戻るようにすればよい。例えば、所定時間経過すると、ユーザが移動させたプレイヤの動きと、実際のプレイヤの動きとの差異が生じる時点に戻り、あとは、実際のプレイヤの動きでVRが視聴されるようにしてもよい。   However, in this case, if there is a difference between the movement of the player moved by the user and the movement of the actual player, it will be far from the actual event content. Return to the movement. For example, when a predetermined time elapses, the player may move back to the time when the difference between the movement of the player and the actual movement of the player occurs, and then the VR may be viewed with the actual movement of the player. .

≪プレイヤ切替処理≫
図23は、実施形態におけるプレイヤ切替処理の一例を示すフローチャートである。図23に示す処理は、図21に示すステップS308の表示制御中に行われる処理として説明する。
≪Player switching process≫
FIG. 23 is a flowchart illustrating an example of a player switching process according to the embodiment. The process illustrated in FIG. 23 will be described as a process performed during display control in step S308 illustrated in FIG.

図23に示すステップS502で、受付部210は、プレイヤの切替指示が有ったか否かを判定する。プレイヤの切替指示として予め設定した所定の操作をユーザが行った場合、受付部210は、プレイヤの切替指示と判断する。切替指示が有れば(ステップS502−YES)、処理はステップS504に進み、切替指示がなければ(ステップS502−NO)、処理はステップS502に戻る。   In step S502 shown in FIG. 23, the reception unit 210 determines whether or not there is a player switching instruction. When the user performs a predetermined operation preset as a player switching instruction, the receiving unit 210 determines that the player switching instruction. If there is a switching instruction (step S502—YES), the process proceeds to step S504, and if there is no switching instruction (step S502—NO), the process returns to step S502.

ステップS504で、表示制御部214は、受付部210から切替指示が通知されると、映像コンテンツの表示を一時停止する。   In step S504, when the switching instruction is received from the receiving unit 210, the display control unit 214 temporarily stops the display of the video content.

ステップS506で、コンテンツ制御部206は、アプリケーション画面を通じて、どのプレイヤに切り替えるかをユーザに提示する。例えば、コンテンツ制御部206は、表示中のプレイヤキャラクタを切替候補にするとよい。受付部210は、ユーザに選択されたプレイヤのIDを特定する。   In step S506, the content control unit 206 presents to the user which player to switch to through the application screen. For example, the content control unit 206 may set the player character being displayed as a switching candidate. The accepting unit 210 specifies the ID of the player selected by the user.

ステップS508で、取得部212は、プレイヤIDに対応するコンテンツを第2記憶部208又はサーバ装置50から取得する。このとき、第2記憶部208に、プレイヤIDに対応する映像コンテンツがない場合、取得部212は、エラーを返すようにする。また、サーバ装置50から課金処理により、この映像コンテンツが取得される場合は、課金画面が表示されるようにすればよい。また、取得部212は、仮想空間データや、切替後のプレイヤIDの視線方向情報が第2記憶部208等にあれば、仮想空間データと、視線方向情報とに基づいて、プレイヤ切替後の映像コンテンツを生成し、この映像コンテンツを取得する。   In step S508, the acquisition unit 212 acquires content corresponding to the player ID from the second storage unit 208 or the server device 50. At this time, if there is no video content corresponding to the player ID in the second storage unit 208, the acquisition unit 212 returns an error. In addition, when this video content is acquired from the server device 50 by a charging process, a charging screen may be displayed. In addition, if the virtual space data or the line-of-sight information of the player ID after switching is in the second storage unit 208 or the like, the acquisition unit 212 may switch the video after switching the player based on the virtual space data and the line-of-sight direction information. Content is generated and this video content is acquired.

ステップS510で、表示制御部214は、取得されたコンテンツを表示するよう制御する。これにより、ユーザは、VRを視聴中に、体験するプレイヤを切り替えることができる。なお、表示制御部214は、以前に表示していたコンテンツの視聴時間の所定時間前から、切替後のコンテンツを表示するように制御してもよい。これは、視聴中にプレイヤを切り替えるということは、その時の体験中のプレイヤを他のプレイヤから見てみたいというユーザの要求があり、その要求に応えるためである。   In step S510, the display control unit 214 controls to display the acquired content. Thereby, the user can switch the player to experience while viewing VR. Note that the display control unit 214 may control to display the content after switching from a predetermined time before the viewing time of the previously displayed content. This is because switching the player during viewing requires a user's request to see the player who is experiencing at that time from another player, and responds to the request.

なお、図19〜23で説明した処理のフローに含まれる各処理ステップは、処理内容に矛盾が生じない範囲で、任意に順番を変更して又は並列に実行することができるとともに、各処理ステップ間に他のステップを追加してもよい。また、便宜上1ステップとして記載されているステップは、複数ステップに分けて実行することができる一方、便宜上複数ステップに分けて記載されているものは、1ステップとして把握することができる。   Each processing step included in the processing flow described with reference to FIGS. 19 to 23 can be executed in an arbitrary order or in parallel within a range in which there is no contradiction in processing contents. Other steps may be added in between. Further, a step described as one step for convenience can be executed by being divided into a plurality of steps, while a step described as being divided into a plurality of steps for convenience can be grasped as one step.

以上より、実施形態におけるコンテンツ配信システム1によれば、VRにおいて、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを容易に生成することができる。また、コンテンツ配信システム1は、上述した方法で生成されたコンテンツをユーザに提供することができる。   As described above, according to the content distribution system 1 in the embodiment, it is possible to easily generate content from the viewpoints of a large number of objects while responding to various movements of objects in the VR. Further, the content distribution system 1 can provide the user with the content generated by the method described above.

また、撮像されるイベントをスポーツにすることで、本実施形態をスポーツ教育に用いることができる。例えば、子供たちに、有名な選手の視点からの世界観を体験させたり、コーチによる選手の動きの解説を入れたりすることで、そのスポーツに対するプレイを向上させることが可能になる。   Moreover, this embodiment can be used for sports education by making the imaged event into sports. For example, by letting children experience the world view from the viewpoint of a famous player, or by explaining the movement of the player by a coach, it is possible to improve play for the sport.

また、上記実施形態において、第1のコンテンツ提供モデルとして、ユーザは、プログラム44を無償でダウンロードし、プログラム44によるアプリケーションを用いて、取得したい映像コンテンツや部分コンテンツに課金することで、そのコンテンツをダウンロードすることができるようにしてもよい。   In the above embodiment, as the first content providing model, the user downloads the program 44 free of charge, and charges the video content or partial content to be acquired by using the application of the program 44, thereby charging the content. You may be able to download it.

また、上記実施形態において、上記モデルに限らず、第2のコンテンツ提供モデルとして、月額のリース契約により、所定のイベントに対する仮想空間データ、及び各プレイヤの視線方向情報を提供することも考えられる。   Moreover, in the said embodiment, not only the said model but the virtual space data with respect to a predetermined | prescribed event and the gaze direction information of each player can also be considered by a monthly lease contract as a 2nd content provision model.

[変形例]
以上、本願の開示する技術の実施形態について説明したが、本願の開示する技術は、上記例に限定されるものではない。
[Modification]
As mentioned above, although embodiment of the technique which this application discloses was described, the technique which this application discloses is not limited to the said example.

報知部220による報知処理について、この処理を行う場合は、映像コンテンツは、必ずしもCGにより生成される必要はない。例えば、特開2006−211531号公報で開示されている自由視点映像生成技術を用いた実映像でのVRの映像コンテンツにおいて、上述した報知処理を適用することができる。例えば、自由視点映像生成技術を用いた実映像でのVRにおいて、プレイヤの操作により視線移動等が行える場合、ユーザにより移動される視線方向と、実際の視線方向との差異を報知するようにすることができる。   As for the notification process by the notification unit 220, when this process is performed, the video content is not necessarily generated by the CG. For example, the above-described notification process can be applied to VR video content in real video using the free viewpoint video generation technology disclosed in Japanese Patent Application Laid-Open No. 2006-211531. For example, in VR in real video using a free viewpoint video generation technique, when a gaze movement or the like can be performed by a player's operation, a difference between the gaze direction moved by the user and the actual gaze direction is notified. be able to.

また、報知処理について、携帯端末10が、サーバ装置50から、各プレイヤの視点からの映像コンテンツを取得する場合でも実行可能である。この場合、映像として、プレイヤキャラクタの視点からの映像が表示されるため、報知部220は、ユーザ操作に基づく視線方向や動き方向を示す第1方向を報知するようにすればよい。すなわち、報知部220は、第1方向又は第2方向を映像に表示するだけでも、両方向の違いを表現することが可能である。   Further, the notification process can be executed even when the mobile terminal 10 acquires video content from the viewpoint of each player from the server device 50. In this case, since the video from the viewpoint of the player character is displayed as the video, the notification unit 220 may notify the first direction indicating the line-of-sight direction and the movement direction based on the user operation. That is, the notification unit 220 can express the difference between the two directions only by displaying the first direction or the second direction on the video.

また、上述した実施形態において、コンテンツは、ライブ映像や、スポーツ映像を含み、スポーツ映像は、サッカーに限らず、野球、テニス、ボクシング等の試合でもよい。   In the above-described embodiment, the content includes a live video and a sports video, and the sports video is not limited to soccer but may be a game such as baseball, tennis, or boxing.

なお、本発明において、「部」や「手段」、「装置」、「システム」とは、単に物理的手段を意味するものではなく、その「部」や「手段」、「装置」、「システム」が有する機能をソフトウェアによって実現する場合も含む。また、1つの「部」や「手段」、「装置」、「システム」が有する機能が2つ以上の物理的手段や装置により実現されても、2つ以上の「部」や「手段」、「装置」、「システム」の機能が1つの物理的手段や装置により実現されても良い。   In the present invention, “part”, “means”, “apparatus”, and “system” do not simply mean physical means, but “part”, “means”, “apparatus”, “system”. This includes the case where the functions possessed by "are realized by software. Further, even if the functions of one “unit”, “means”, “apparatus”, and “system” are realized by two or more physical means or devices, two or more “parts” or “means”, The functions of “device” and “system” may be realized by a single physical means or device.

10 情報処理装置
50 サーバ装置(情報処理装置)
70 HMD
106 生成部
110 動作解析部
112 コンテンツ生成部
114 要求取得部
116 分類部
206 コンテンツ制御部
210 受付部
212 取得部
214 表示制御部
216 課金部
218 変更部
220 報知部
10 Information processing apparatus 50 Server apparatus (information processing apparatus)
70 HMD
106 generation unit 110 behavior analysis unit 112 content generation unit 114 request acquisition unit 116 classification unit 206 content control unit 210 reception unit 212 acquisition unit 214 display control unit 216 charging unit 218 change unit 220 notification unit

Claims (9)

コンピュータに、
1又は複数のプレイヤの動きを撮像した複数の撮像装置から各撮像データを受信する受信ステップと、
前記各撮像データに基づいて、三次元仮想空間を生成する第1生成ステップと、
前記各撮像データに基づいて、少なくとも1の前記プレイヤの動作解析を行う解析ステップと、
前記三次元仮想空間及び前記動作解析の結果に基づき、少なくとも1の前記プレイヤの視点からの映像コンテンツを、コンピュータグラフィックスを用いて生成する第2生成ステップと、
を実行させるプログラム。
On the computer,
A receiving step of receiving each imaging data from a plurality of imaging devices that image the movement of one or a plurality of players;
A first generation step of generating a three-dimensional virtual space based on each of the imaging data;
An analysis step of performing an action analysis of at least one of the players based on each of the imaging data;
A second generation step of generating video content from the viewpoint of at least one of the players based on the result of the three-dimensional virtual space and the motion analysis using computer graphics;
A program that executes
前記映像コンテンツ内の前記プレイヤの一部の動きを示す部分コンテンツを、当該動きに応じて複数のカテゴリに分類する分類ステップを、さらにコンピュータに実行させる請求項1に記載のプログラム。   The program according to claim 1, further causing a computer to execute a classification step of classifying partial content indicating a part of movement of the player in the video content into a plurality of categories according to the movement. コンピュータに、
ユーザによるプレイヤの選択を受け付ける受付ステップと、
1又は複数のプレイヤの動きを複数の撮像装置が撮像した各撮像データに基づき、三次元仮想空間が生成され、かつ、少なくとも1の前記プレイヤの動作解析が行われ、当該三次元仮想空間及び当該動作解析の結果に基づきコンピュータグラフィックスを用いて生成された映像コンテンツであって、選択されたプレイヤの視点からの映像コンテンツを取得する取得ステップと、
取得された映像コンテンツの表示を制御する表示制御ステップと、
を実行させるプログラム。
On the computer,
An accepting step for accepting selection of a player by the user;
A three-dimensional virtual space is generated on the basis of the respective imaging data obtained by imaging a plurality of imaging devices by one or a plurality of players, and at least one motion analysis of the player is performed. An acquisition step of acquiring video content from the viewpoint of the selected player, which is video content generated using computer graphics based on the result of the motion analysis;
A display control step for controlling the display of the acquired video content;
A program that executes
前記各撮像データは、スポーツをしている1又は複数のプレイヤが撮像された撮像データを含む、請求項3に記載のプログラム。   The program according to claim 3, wherein each of the imaging data includes imaging data obtained by imaging one or more players who are playing sports. ユーザ操作に基づき、前記選択されたプレイヤの動き方向又は視線方向を示す第1方向を変更する変更ステップと、
前記映像コンテンツに基づく前記選択されたプレイヤの実際の動き方向又は視線方向を示す第2方向と、前記第1方向との差異をユーザに報知する報知ステップと、
をコンピュータにさらに実行させる、請求項3又は4に記載のプログラム。
A change step of changing a first direction indicating a movement direction or a line-of-sight direction of the selected player based on a user operation;
A notifying step of notifying a user of a difference between the second direction indicating the actual movement direction or line-of-sight direction of the selected player based on the video content, and the first direction;
The program according to claim 3 or 4, further causing the computer to execute.
ユーザ操作に基づき課金処理を行う課金ステップをさらにコンピュータに実行させ、
前記受付ステップは、
前記課金処理により前記プレイヤの選択を受け付け可能にする、請求項3乃至5いずれか一項に記載のプログラム。
Causing the computer to further execute a charging step for performing a charging process based on a user operation,
The reception step includes
The program according to any one of claims 3 to 5, wherein a selection of the player can be accepted by the billing process.
前記映像コンテンツ内の前記プレイヤの一部の動きを示す部分コンテンツが、当該動きに応じて複数のカテゴリに分類される場合、
前記受付ステップは、
前記カテゴリの選択をさらに受け付け、
前記取得ステップは、
前記カテゴリに含まれるプレイヤの動きを示す部分コンテンツを取得し、
前記表示制御ステップは、
取得された部分コンテンツの表示を制御する、請求項3乃至6いずれか一項に記載のプログラム。
When partial content indicating a part of movement of the player in the video content is classified into a plurality of categories according to the movement,
The reception step includes
Further accepting selection of the category,
The obtaining step includes
Obtaining a partial content indicating the movement of the player included in the category;
The display control step includes:
The program according to any one of claims 3 to 6, which controls display of the acquired partial content.
前記スポーツは、相手と対戦するスポーツを含む場合、
前記映像コンテンツは、前記相手のプレイヤの視野に基づいて検出される死角を表示可能である、請求項4に記載のプログラム。
When the sports include sports that play against opponents,
The program according to claim 4, wherein the video content can display a blind spot detected based on a field of view of the opponent player.
コンピュータに、
ユーザによるプレイヤの選択を受け付ける受付ステップと、
1又は複数のプレイヤの動きを複数の撮像装置が撮像した各撮像データに基づき、三次元仮想空間が生成され、かつ、少なくとも1の前記プレイヤの動作解析が行われ、当該三次元仮想空間及び当該動作解析の結果に基づき生成された映像コンテンツであって、選択されたプレイヤの視点からの映像コンテンツを取得する取得ステップと、
取得された映像コンテンツの表示を制御する表示制御ステップと、
ユーザ操作に基づき、前記選択されたプレイヤの動き方向又は視線方向を示す第1方向を変更する変更ステップと、
前記映像コンテンツに基づく前記選択されたプレイヤの実際の動き方向又は視線方向を示す第2方向と、前記第1方向との差異をユーザに報知する報知ステップと、
を実行させるプログラム。
On the computer,
An accepting step for accepting selection of a player by the user;
A three-dimensional virtual space is generated on the basis of the respective imaging data obtained by imaging a plurality of imaging devices by one or a plurality of players, and at least one motion analysis of the player is performed. An acquisition step of acquiring video content from the viewpoint of the selected player, which is video content generated based on the result of the motion analysis;
A display control step for controlling the display of the acquired video content;
A change step of changing a first direction indicating a movement direction or a line-of-sight direction of the selected player based on a user operation;
A notifying step of notifying a user of a difference between the second direction indicating the actual movement direction or line-of-sight direction of the selected player based on the video content, and the first direction;
A program that executes
JP2015131751A 2015-06-30 2015-06-30 program Active JP6555513B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015131751A JP6555513B2 (en) 2015-06-30 2015-06-30 program
PCT/JP2016/060118 WO2017002414A1 (en) 2015-06-30 2016-03-29 Program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015131751A JP6555513B2 (en) 2015-06-30 2015-06-30 program

Publications (2)

Publication Number Publication Date
JP2017012397A true JP2017012397A (en) 2017-01-19
JP6555513B2 JP6555513B2 (en) 2019-08-07

Family

ID=57608432

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015131751A Active JP6555513B2 (en) 2015-06-30 2015-06-30 program

Country Status (2)

Country Link
JP (1) JP6555513B2 (en)
WO (1) WO2017002414A1 (en)

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6248219B1 (en) * 2017-03-08 2017-12-13 株式会社コロプラ Information processing method, computer, and program for causing computer to execute information processing method
CN107832366A (en) * 2017-10-25 2018-03-23 重庆虚拟实境科技有限公司 Video sharing method and device, terminal installation and computer-readable recording medium
JP2018142812A (en) * 2017-02-27 2018-09-13 Kddi株式会社 Information distribution device and terminal device
JP2018190163A (en) * 2017-05-02 2018-11-29 株式会社コロプラ Information processing method, computer, and program
WO2019012817A1 (en) * 2017-07-14 2019-01-17 ソニー株式会社 Image processing device, image processing method for image processing device, and program
JP2019008776A (en) * 2017-06-21 2019-01-17 株式会社コロプラ Content providing method, program causing computer to execute the same and content providing device
JP2019016862A (en) * 2017-07-04 2019-01-31 キヤノン株式会社 Information processing device, information processing system, information processing device control method, and program
JP2019028652A (en) * 2017-07-28 2019-02-21 キヤノン株式会社 Display control device and display control method
JP2019045995A (en) * 2017-08-30 2019-03-22 キヤノン株式会社 Information processing device, control method of information processing device, information processing system and program
US10365784B2 (en) 2017-03-08 2019-07-30 Colopl, Inc. Information processing method and apparatus for executing the information processing method
JP2019159950A (en) * 2018-03-14 2019-09-19 キヤノン株式会社 Information processing device and information processing method
JP2019185762A (en) * 2018-03-30 2019-10-24 株式会社リコー Vr terminal, vr system, presentation method and program
JP2020013470A (en) * 2018-07-20 2020-01-23 キヤノン株式会社 Information processing device, information processing method, and program
JP2020067960A (en) * 2018-10-26 2020-04-30 キヤノン株式会社 Image processing apparatus, image processing method, and program
JP2020123990A (en) * 2020-05-16 2020-08-13 株式会社Dapリアライズ Multiple video distribution system
JP2020135130A (en) * 2019-02-14 2020-08-31 キヤノン株式会社 Image display device, control method of image display device, and program
JP2020177607A (en) * 2019-04-15 2020-10-29 未來市股▲ふん▼有限公司 Head-mounted display system switchable between first-person perspective mode and third-person perspective mode, related method, program, and non-transitory computer-readable storage medium
JPWO2021020200A1 (en) * 2019-07-26 2021-02-04
US11082725B2 (en) 2017-02-27 2021-08-03 Kddi Corporation Video distribution system, terminal device, and video data distribution device
JP2021137425A (en) * 2020-03-06 2021-09-16 株式会社コナミデジタルエンタテインメント View point confirmation system
JP2022132286A (en) * 2017-04-11 2022-09-08 株式会社バスキュール Virtual reality provision system
WO2023085493A1 (en) * 2021-11-09 2023-05-19 한국전자기술연구원 Electronic device for supporting content editing, and operating method therefor

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7427468B2 (en) 2020-02-18 2024-02-05 キヤノン株式会社 Information processing device, information processing method, and program

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002271733A (en) * 2001-03-08 2002-09-20 Jisedai Joho Hoso System Kenkyusho:Kk Method for generating digest video image of soccer
JP2003244728A (en) * 2002-02-15 2003-08-29 Mitsubishi Heavy Ind Ltd Virtual image creating apparatus and virtual image creating method
JP2007259988A (en) * 2006-03-27 2007-10-11 Konami Digital Entertainment:Kk Game device, control method of game device and program
JP2014127987A (en) * 2012-12-27 2014-07-07 Sony Corp Information processing apparatus and recording medium

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002271733A (en) * 2001-03-08 2002-09-20 Jisedai Joho Hoso System Kenkyusho:Kk Method for generating digest video image of soccer
JP2003244728A (en) * 2002-02-15 2003-08-29 Mitsubishi Heavy Ind Ltd Virtual image creating apparatus and virtual image creating method
JP2007259988A (en) * 2006-03-27 2007-10-11 Konami Digital Entertainment:Kk Game device, control method of game device and program
JP2014127987A (en) * 2012-12-27 2014-07-07 Sony Corp Information processing apparatus and recording medium

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"#042:自由視点映像でスポーツ観戦をカスタマイズ,TSUKUBA FUTURE", [ONLINE], JPN7018003959, 22 May 2015 (2015-05-22), ISSN: 0003923398 *

Cited By (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11082725B2 (en) 2017-02-27 2021-08-03 Kddi Corporation Video distribution system, terminal device, and video data distribution device
JP2018142812A (en) * 2017-02-27 2018-09-13 Kddi株式会社 Information distribution device and terminal device
US10365784B2 (en) 2017-03-08 2019-07-30 Colopl, Inc. Information processing method and apparatus for executing the information processing method
JP2018147377A (en) * 2017-03-08 2018-09-20 株式会社コロプラ Information processing method, computer, and program for causing computer to execute the method
US10936149B2 (en) 2017-03-08 2021-03-02 Colopl, Inc. Information processing method and apparatus for executing the information processing method
JP6248219B1 (en) * 2017-03-08 2017-12-13 株式会社コロプラ Information processing method, computer, and program for causing computer to execute information processing method
US10599286B2 (en) 2017-03-08 2020-03-24 Colopl, Inc. Information processing method and apparatus for executing the information processing method
JP2022132286A (en) * 2017-04-11 2022-09-08 株式会社バスキュール Virtual reality provision system
JP7421736B2 (en) 2017-04-11 2024-01-25 株式会社バスキュール Virtual reality provision system
JP2018190163A (en) * 2017-05-02 2018-11-29 株式会社コロプラ Information processing method, computer, and program
JP2019008776A (en) * 2017-06-21 2019-01-17 株式会社コロプラ Content providing method, program causing computer to execute the same and content providing device
JP2019016862A (en) * 2017-07-04 2019-01-31 キヤノン株式会社 Information processing device, information processing system, information processing device control method, and program
JPWO2019012817A1 (en) * 2017-07-14 2020-05-07 ソニー株式会社 Image processing apparatus, image processing method of image processing apparatus, and program
WO2019012817A1 (en) * 2017-07-14 2019-01-17 ソニー株式会社 Image processing device, image processing method for image processing device, and program
US11727642B2 (en) 2017-07-14 2023-08-15 Sony Corporation Image processing apparatus, image processing method for image processing apparatus, and program
JP7322703B2 (en) 2017-07-14 2023-08-08 ソニーグループ株式会社 Image processing device, image processing method for image processing device, and program
JP2019028652A (en) * 2017-07-28 2019-02-21 キヤノン株式会社 Display control device and display control method
US11196974B2 (en) 2017-07-28 2021-12-07 Canon Kabushiki Kaisha Display control apparatus and display control method
JP6991768B2 (en) 2017-07-28 2022-01-13 キヤノン株式会社 Display control device and display control method
JP2019045995A (en) * 2017-08-30 2019-03-22 キヤノン株式会社 Information processing device, control method of information processing device, information processing system and program
JP2022060513A (en) * 2017-08-30 2022-04-14 キヤノン株式会社 Information processing device, control method of information processing device, information processing system and program
JP7030452B2 (en) 2017-08-30 2022-03-07 キヤノン株式会社 Information processing equipment, information processing device control methods, information processing systems and programs
JP7362806B2 (en) 2017-08-30 2023-10-17 キヤノン株式会社 Information processing device, control method for information processing device, information processing system and program
CN107832366A (en) * 2017-10-25 2018-03-23 重庆虚拟实境科技有限公司 Video sharing method and device, terminal installation and computer-readable recording medium
JP7132730B2 (en) 2018-03-14 2022-09-07 キヤノン株式会社 Information processing device and information processing method
JP2019159950A (en) * 2018-03-14 2019-09-19 キヤノン株式会社 Information processing device and information processing method
JP7279452B2 (en) 2018-03-30 2023-05-23 株式会社リコー VR terminal, VR system, display method, and program
JP2019185762A (en) * 2018-03-30 2019-10-24 株式会社リコー Vr terminal, vr system, presentation method and program
JP2020013470A (en) * 2018-07-20 2020-01-23 キヤノン株式会社 Information processing device, information processing method, and program
US11622099B2 (en) 2018-07-20 2023-04-04 Canon Kabushiki Kaisha Information-processing apparatus, method of processing information, and program
JP2020067960A (en) * 2018-10-26 2020-04-30 キヤノン株式会社 Image processing apparatus, image processing method, and program
JP7313811B2 (en) 2018-10-26 2023-07-25 キヤノン株式会社 Image processing device, image processing method, and program
JP7339740B2 (en) 2019-02-14 2023-09-06 キヤノン株式会社 IMAGE DISPLAY DEVICE, CONTROL METHOD AND PROGRAM FOR IMAGE DISPLAY DEVICE
JP2020135130A (en) * 2019-02-14 2020-08-31 キヤノン株式会社 Image display device, control method of image display device, and program
JP2020177607A (en) * 2019-04-15 2020-10-29 未來市股▲ふん▼有限公司 Head-mounted display system switchable between first-person perspective mode and third-person perspective mode, related method, program, and non-transitory computer-readable storage medium
JP7291224B2 (en) 2019-07-26 2023-06-14 富士フイルム株式会社 Information processing device, information processing method, and program
JPWO2021020200A1 (en) * 2019-07-26 2021-02-04
WO2021020200A1 (en) * 2019-07-26 2021-02-04 富士フイルム株式会社 Information processing device, information processing method, and program
JP2021137425A (en) * 2020-03-06 2021-09-16 株式会社コナミデジタルエンタテインメント View point confirmation system
JP7029189B2 (en) 2020-03-06 2022-03-03 株式会社コナミデジタルエンタテインメント Viewpoint confirmation system
JP7520393B2 (en) 2020-03-06 2024-07-23 株式会社コナミデジタルエンタテインメント Viewpoint confirmation system
JP2020123990A (en) * 2020-05-16 2020-08-13 株式会社Dapリアライズ Multiple video distribution system
WO2023085493A1 (en) * 2021-11-09 2023-05-19 한국전자기술연구원 Electronic device for supporting content editing, and operating method therefor

Also Published As

Publication number Publication date
JP6555513B2 (en) 2019-08-07
WO2017002414A1 (en) 2017-01-05

Similar Documents

Publication Publication Date Title
JP6555513B2 (en) program
JP6575974B2 (en) Head mounted display tracking system
JP6663505B2 (en) Audience view perspective in VR environment
CN112334886B (en) Content distribution system, content distribution method, and recording medium
CN105392538B (en) In response to the image rendering of the user action in head-mounted display
US10296086B2 (en) Dynamic gloves to convey sense of touch and movement for virtual objects in HMD rendered environments
CN105358227B (en) Share 3d gaming process
US20170262154A1 (en) Systems and methods for providing user tagging of content within a virtual scene
US11278810B1 (en) Menu placement dictated by user ability and modes of feedback
CN105378596B (en) System and method for changing between transparent mode and non-transparent mode in head-mounted display
JP6470356B2 (en) Program and method executed by computer for providing virtual space, and information processing apparatus for executing the program
CN109475774A (en) Spectators&#39; management at view location in reality environment
CN110536726A (en) Second screen virtual window of VR environment
JP6462059B1 (en) Information processing method, information processing program, information processing system, and information processing apparatus
CN109069932A (en) Watch VR environment associated with virtual reality (VR) user interaction
CN107735152A (en) Expanded field of vision for virtual reality (VR) viewing renders again
CN107683166A (en) For limiting filtering and the father and mother&#39;s control method of the visual activity on head mounted display
JP6392945B1 (en) Program and method executed by computer for providing virtual space, and information processing apparatus for executing the program
CN110891659B (en) Optimized delayed illumination and foveal adaptation of particle and simulation models in a point of gaze rendering system
KR101962578B1 (en) A fitness exercise service providing system using VR
TW201903565A (en) Method, device and non-volatile computer readable storage medium for displaying a bullet
JP7249975B2 (en) Method and system for directing user attention to location-based gameplay companion applications
KR20180013892A (en) Reactive animation for virtual reality
WO2018032970A1 (en) Authentication method based on virtual reality scene, virtual reality device, and storage medium
JP6566209B2 (en) Program and eyewear

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180326

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190613

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190626

R150 Certificate of patent or registration of utility model

Ref document number: 6555513

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250