JP2017012397A - program - Google Patents
program Download PDFInfo
- Publication number
- JP2017012397A JP2017012397A JP2015131751A JP2015131751A JP2017012397A JP 2017012397 A JP2017012397 A JP 2017012397A JP 2015131751 A JP2015131751 A JP 2015131751A JP 2015131751 A JP2015131751 A JP 2015131751A JP 2017012397 A JP2017012397 A JP 2017012397A
- Authority
- JP
- Japan
- Prior art keywords
- player
- video content
- content
- unit
- movement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/30—Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/50—Controlling the output signals based on the game progress
- A63F13/52—Controlling the output signals based on the game progress involving aspects of the displayed game scene
- A63F13/525—Changing parameters of virtual cameras
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/60—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
- A63F13/65—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor automatically by game devices or servers from real world data, e.g. measurement in live racing competition
- A63F13/655—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor automatically by game devices or servers from real world data, e.g. measurement in live racing competition by importing photos, e.g. of the player
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/70—Game security or game management aspects
- A63F13/79—Game security or game management aspects involving player-related data, e.g. identities, accounts, preferences or play histories
- A63F13/792—Game security or game management aspects involving player-related data, e.g. identities, accounts, preferences or play histories for payment purposes, e.g. monthly subscriptions
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/80—Special adaptations for executing a specific game genre or game mode
- A63F13/812—Ball games, e.g. soccer or baseball
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Computing Systems (AREA)
- General Business, Economics & Management (AREA)
- Computer Security & Cryptography (AREA)
- Business, Economics & Management (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
- Position Input By Displaying (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
本発明は、プログラムに関する。 The present invention relates to a program.
近年、コンピュータなどによって作り出された世界を現実であるかのようにユーザに知覚させるバーチャルリアリティ(以下、VRとも称する。)が盛んに研究されている。このVRについて、カメラで撮影オブジェクトを撮影し、その映像データに基づいて、三人称視点と、一人称視点とを切り替える技術が知られている(例えば、特許文献1参照)。 In recent years, a virtual reality (hereinafter also referred to as a VR) that makes a user perceive a world created by a computer or the like as if it were real has been actively studied. Regarding this VR, a technique is known in which a shooting object is shot with a camera, and a third-person viewpoint and a first-person viewpoint are switched based on the video data (see, for example, Patent Document 1).
しかしながら、従来技術では、複数のカメラで撮影オブジェクトを撮影し、撮影した画像を合成することで、所定の撮影オブジェクトに対する一人称視点に切り替えるが、画像合成にかかる処理の負荷が大きく、一人称視点における映像コンテンツを容易に生成することはできない。 However, in the prior art, a shooting object is shot with a plurality of cameras, and the shot images are combined to switch to a first-person viewpoint for a predetermined shooting object. Content cannot be generated easily.
また、従来のVRを提供する技術では、撮影オブジェクトの様々な動きに対応することや、多数の撮影オブジェクトの視点からの映像コンテンツを生成することは想定されていない。 In addition, in the technology that provides the conventional VR, it is not assumed that it corresponds to various movements of the shooting object or that video content is generated from the viewpoint of a large number of shooting objects.
そこで、本発明は、VRにおいて、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを容易に生成することを目的の一つとする。 Accordingly, an object of the present invention is to easily generate content from the viewpoint of a large number of objects while responding to various movements of objects in VR.
本発明に係るプログラムは、コンピュータに、
1又は複数のプレイヤの動きを撮像した複数の撮像装置から各撮像データを受信する受信ステップと、
前記各撮像データに基づいて、三次元仮想空間を生成する第1生成ステップと、
前記各撮像データに基づいて、少なくとも1の前記プレイヤの動作解析を行う解析ステップと、
前記三次元仮想空間及び前記動作解析の結果に基づき、少なくとも1の前記プレイヤの視点からの映像コンテンツを、コンピュータグラフィックスを用いて生成する第2生成ステップと、
を実行させる。
A program according to the present invention is stored in a computer.
A receiving step of receiving each imaging data from a plurality of imaging devices that image the movement of one or a plurality of players;
A first generation step of generating a three-dimensional virtual space based on each of the imaging data;
An analysis step of performing an action analysis of at least one of the players based on each of the imaging data;
A second generation step of generating video content from the viewpoint of at least one of the players based on the result of the three-dimensional virtual space and the motion analysis using computer graphics;
Is executed.
本発明によれば、VRにおいて、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを生成することを容易にすることができる。 According to the present invention, it is possible to easily generate content from the viewpoints of a large number of objects while responding to various movements of objects in the VR.
以下、図面を参照して本発明の実施の形態を説明する。ただし、以下に説明する実施形態は、あくまでも例示であり、以下に明示しない種々の変形や技術の適用を排除する意図はない。即ち、本発明は、その趣旨を逸脱しない範囲で種々変形(各実施例を組み合わせる等)して実施することができる。また、以下の図面の記載において、同一または類似の部分には同一または類似の符号を付して表している。図面は模式的なものであり、必ずしも実際の寸法や比率等とは一致しない。図面相互間においても互いの寸法の関係や比率が異なる部分が含まれていることがある。 Embodiments of the present invention will be described below with reference to the drawings. However, the embodiment described below is merely an example, and there is no intention to exclude various modifications and technical applications that are not explicitly described below. In other words, the present invention can be implemented with various modifications (combining the embodiments, etc.) without departing from the spirit of the present invention. In the following description of the drawings, the same or similar parts are denoted by the same or similar reference numerals. The drawings are schematic and do not necessarily match actual dimensions and ratios. In some cases, the dimensional relationships and ratios may be different between the drawings.
[実施形態]
以下、本発明の実施形態におけるコンテンツ配信システムを、図面を用いて説明する。
[Embodiment]
Hereinafter, a content distribution system according to an embodiment of the present invention will be described with reference to the drawings.
<コンテンツ配信システムの概要>
図1は、実施形態におけるコンテンツ販売システム1の一例を示す概念図である。図1に示す例において、コンテンツ販売システム1は、例えばコンテンツを配信する会社等により提供されるサーバ装置(情報処理装置)50と、各ユーザが操作する情報処理装置10と、1又は複数のオブジェクトを撮像する撮像装置60A、60B、60Cと、がネットワークNを介して接続される。以下、撮像装置を1つ1つ区別する必要がない場合は、符号60を用いる。また、情報処理装置10は、ネットワークNに複数接続されてもよい。
<Outline of content distribution system>
FIG. 1 is a conceptual diagram illustrating an example of a
オブジェクトは、例えばプレイヤや動物などの動く生物を含む。プレイヤは、スポーツをしている人や音楽ライブをしている人などを含む。 The object includes moving creatures such as players and animals. The player includes a person who is playing sports or a person who is playing music.
また、情報処理装置10は、ヘッドマウントディスプレイ(以下、HMDとも称する。)70に接続される。HMD70を装着したユーザは、VRを体験することができる。なお、ネットワークNには、その他決済サーバなどが接続されてもよい。
The
図2は、実施形態における撮像装置60による撮像の様子の一例を説明するための図である。図2に示す例では、フィールドF1内で複数のプレイヤP1〜P3がスポーツをしている。撮像装置60は、スポーツをしている各プレイヤの様子を様々な角度から撮像する。撮像装置60は、動作解析を容易にするため、高性能の撮像装置、例えば8Kカメラなどが望ましい。また、撮像装置60の設置台数は、図2に示す例では8台であるが、フィールドF1の大きさに応じて適切な台数が設置されればよい。 FIG. 2 is a diagram for describing an example of a state of imaging by the imaging device 60 in the embodiment. In the example shown in FIG. 2, a plurality of players P1 to P3 are playing sports in the field F1. The imaging device 60 images the state of each player who is playing sports from various angles. The imaging device 60 is desirably a high-performance imaging device such as an 8K camera in order to facilitate operation analysis. In addition, the number of installed image pickup apparatuses 60 is eight in the example illustrated in FIG. 2, but an appropriate number may be installed according to the size of the field F1.
撮像装置60により撮像された各撮像データは、直接的又はパーソナルコンピュータなどの処理装置を介して間接的に、サーバ装置50に送信される。サーバ装置50は、各撮像データに基づき、各プレイヤやフィールドを含む三次元仮想空間を生成し、また、撮像データを画像処理すること、又はモーションキャプチャなどの技術を用いることで、各オブジェクトの動作解析を行う。なお、サーバ装置50は、フィールドF1が既知であれば、事前に三次元仮想空間を生成しておき、各撮像データに基づいて風景やプレイヤ等に基づくオブジェクトを配置し、最終的な三次元仮想空間を生成してもよい。また、これらの処理の一部または全ては、サーバ装置50ではなく、撮像装置60に接続された前述のパーソナルコンピュータなどの処理装置で行い、生成されたオブジェクトや三次元仮想空間をサーバ装置50に送信して記憶させるようにしても良い。
Each imaging data imaged by the imaging device 60 is transmitted to the
モーションキャプチャは、マーカーレス方式の公知の技術を用いるとよい。例えば、Captury Studio社のモーションキャプチャや、Organic Motion社のモーションキャプチャなどの技術が適用可能である。これにより、オブジェクトに対してカメラを設ける必要がなくなり、オブジェクトに負担をかけずに済む。 For the motion capture, a known technique of a markerless method may be used. For example, techniques such as Motion Capture from Capture Studio and Motion Capture from Organic Motion can be applied. As a result, there is no need to provide a camera for the object, and the object is not burdened.
サーバ装置50は、1又は複数のオブジェクトについて、上述した動作解析を行うことにより、各オブジェクトの動きを再現する映像コンテンツを生成する。この映像コンテンツは、コンピュータグラフィックス(以下、CGとも称する。)を用いており、また、各プレイヤの視点からの映像コンテンツである。各プレイヤや全フィールドをモデリングした仮想オブジェクトを含む三次元仮想空間に基づき、CGによる映像コンテンツを生成する方が、実映像による複雑な映像コンテンツを生成するよりも、オブジェクトの様々な動きや視点変更にも柔軟に対応することができ、処理負荷を軽減することができる。サーバ装置50は、このようにして生成された映像コンテンツを複数記憶しておいてもよい。
The
情報処理装置10は、所定のアプリケーションを用いてサーバ装置50にアクセスし、ユーザ操作に基づいて、映像コンテンツやオブジェクトを選択し、選択された映像コンテンツやオブジェクトの視点からの映像コンテンツをダウンロードする。
The
図3は、実施形態における情報処理装置10が接続されたHMD70の一例を示す図である。図3に示す例では、情報処理装置10は、マイクロUSB端子等を用いてHMD70に接続される。HMD70は、情報処理装置10から、マイクロUSB端子等を用いて取得した映像コンテンツを表示部に表示する。
FIG. 3 is a diagram illustrating an example of the
HMD70を装着したユーザは、この映像コンテンツを視聴することで、VRを体験することができる。なお、HMD70は、上述したように、情報処理装置10から映像コンテンツを取得して表示してもよいし、情報処理装置10に表示される映像コンテンツを視聴できるようにしてもよい。
A user wearing the
これにより、サーバ装置50は、VRにおいて、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを生成することを容易にすることができる。また、情報処理装置10は、所定のアプリケーションを用いることにより、サーバ装置50において生成されたコンテンツをユーザに取得することができる。なお、VRの体験とは、図3に示すようなHMD70を装着してVRを体験する以外にも、情報処理装置10等のディスプレイに映像コンテンツを表示し、ユーザがそのディスプレイを見ることでVRを体験することも含む。
Accordingly, the
以下で説明する実施形態に係る情報処理装置10は、携帯端末を一例に挙げている。また、実施形態に係る各種プログラムは、例えばサーバ装置や携帯端末等で実行される。
The
<ハードウェア構成>
次に、コンテンツ販売システム1内の各装置のハードウェアについて説明する。以下、サーバ装置50、携帯端末10、HMD70の順に説明する。
<Hardware configuration>
Next, the hardware of each device in the
≪サーバ装置50≫
まず、サーバ装置(情報処理装置)50のハードウェア構成について説明する。図4は、実施形態におけるサーバ装置50のハードウェア構成の一例を示す図である。図4に示すように、サーバ装置50は、制御部51、通信インターフェース53、記憶部54、表示部57、及び入力部58を有し、各部はバスライン59を介して接続される。
<<
First, the hardware configuration of the server apparatus (information processing apparatus) 50 will be described. FIG. 4 is a diagram illustrating an example of a hardware configuration of the
制御部51は、CPU、ROM、RAM52等を含む。制御部51は、記憶部54に記憶される制御プログラム55等を実行することにより、一般的な情報処理装置としての機能に加え、例えば映像コンテンツの生成に関する処理を実現するように構成される。
The
また、RAM52は、各種情報を一時的に保持したり、CPUが各種処理を実行する際のワークエリアとして使用されたりする。
The
通信インターフェース53は、ネットワークNを介した撮像装置60、携帯端末10、及び課金サーバ(不図示)等との通信を制御する。
The
記憶部54は、例えばHDD等からなり、一般的な情報処理装置としての機能を実現するためのアプリケーション及びデータ(図示省略)を記憶することに加え、制御プログラム55を記憶する。また、記憶部54は、情報記憶部56を有している。
The
制御プログラム55は、撮像データに基づき、三次元仮想空間を生成したり、各プレイヤの動きを動作解析したり、三次元仮想空間や動作解析結果に基づいて、各プレイヤの動きを再現するCGの映像コンテンツを生成したりするプログラムである。制御プログラム55は、コンピュータに読み取り可能な記録媒体に保存され、この記録媒体から読み出されて、記憶部54に記憶されてもよい。
The
情報記憶部56は、例えば撮像データを記憶したり、三次元仮想空間や、動作解析処理で生成される中間データ等を記憶したり、三次元仮想空間や動作解析結果に基づくCGの映像コンテンツを記憶したりする。
The
表示部57は、管理者に対して、映像コンテンツ等を表示する。入力部58は、管理者からの入力を受け付けたり、管理者からの指示を受け付けたりする。また、サーバ装置50は、表示部57と入力部58とを必ずしも設ける必要はなく、表示部57及び入力部58は、外部からサーバ装置50に接続されるようにしてもよい。
The
≪携帯端末10≫
まず、実施形態における携帯端末10の外観構成について説明する。図5は、実施形態における携帯端末10の外観構成の一例を示す携帯端末正面図である。
First, the external configuration of the
図5に示すように、携帯端末10は、矩形の薄形筐体12を備え、その薄形筐体12の一方の面は、タッチパネル14が多くの部分を占めるように構成されている。該タッチパネル14が搭載されている面(正面)には、スピーカ16、マイクロフォン18およびハードボタン20が設けられている。また、携帯端末10の側面や底面には、ハードキー22、及び音声出力端子24(図6参照)などの外部インターフェースが設けられる。さらに、携帯端末10の背面には、カメラ26(図6参照)が設けられている。
As shown in FIG. 5, the
図6は、実施形態における携帯端末10のハードウェア構成を概略的に示すブロック図である。携帯端末10は、図5に示す各構成要素に加えて、移動体通信用アンテナ30、移動体通信部32、無線LAN通信用アンテナ34、無線LAN通信部36、記憶部38、主制御部40、6軸センサ23を少なくとも有し、さらに、スピーカ16、カメラ26や音声出力端子24を含む外部インターフェース42などを有する。
FIG. 6 is a block diagram schematically illustrating a hardware configuration of the
タッチパネル14は、表示装置および入力装置の両方の機能を備え、表示機能を担うディスプレイ(表示画面)14Aと、入力機能を担うタッチセンサ14Bとで構成される。ディスプレイ14Aは、例えば、液晶ディスプレイや有機EL(Electro Luminescence)ディスプレイなどの一般的な表示デバイスにより構成される。タッチセンサ14Bは、ディスプレイ14Aの上面に配置された接触操作を検知するための素子およびその上に積層された透明な操作面を備えて構成される。タッチセンサ14Bの接触検知方式としては、静電容量式、抵抗膜式(感圧式)、電磁誘導式など既知の方式のうちの任意の方式を採用することができる。
The
タッチパネル14は、主制御部40による記憶部38に記憶されているプログラム44の実行により生成される映像コンテンツを表示する。入力装置としてのタッチパネル14は、操作面に対して接触する接触物(遊技者の指やタッチペンなどを含む。以下、「指」である場合を代表例として説明する)の動作を検知することで、操作入力を受け付け、その接触位置の情報を主制御部40に与える。指の動作は、接触点の位置または領域を示す座標情報として検知され、座標情報は、例えば、タッチパネル14の短辺方向および長辺方向の二軸上の座標値として表される。
The
携帯端末10は、移動体通信用アンテナ30や無線LAN通信用アンテナ34を通じてネットワーク(インターネット)Nに接続され、サーバ装置50との間でデータ通信をすることが可能である。サーバ装置50は、携帯端末10において選択されたプレイヤなどのダウンロード要求を、ネットワークNを介して受信する。
The
6軸センサ23は、携帯端末10の加速度及び角速度を計測可能である。6軸センサ23によりセンシングされた所定のデータに対して、映像コンテンツ内のプレイヤ視点の変更や、プレイヤ自体の変更などの処理を割り当ててもよい。これにより、携帯端末10を移動させるだけで、映像コンテンツに関する操作が可能になる。
The 6-
≪HMD70≫
次に、実施形態におけるHMD70のハードウェアについて説明する。図7は、実施形態におけるHMD70のハードウェア構成を概略的に示すブロック図である。図7に示すHMD70は、通信部72、表示部74、記憶部76、操作部78、及び制御部80を有する。
≪HMD70≫
Next, the hardware of the
通信部72は、携帯端末10とデータ通信を行う。例えば、通信部72は、マイクロUSB端子を用いてデータ通信を行ったり、Bluetooth(登録商標)等の通信機能を用いてデータ通信を行ったりする。例えば、通信部72は、携帯端末10から映像コンテンツ等を受信する。
The
表示部74は、携帯端末10から受信した映像コンテンツ等を表示する。映像コンテンツは、2次元映像、又は3次元映像である。表示部74は、HMD70が携帯端末10に表示される映像を視聴するタイプの場合は、HMD70に設けられなくてもよい。
The
記憶部76は、例えばRAMやROMやHDDなどであり、映像コンテンツを記憶する。操作部78は、音量調節ボタンや電源ボタン等の各種ボタンを含み、各種ボタンの押下に基づきHMD70を操作する。
The
制御部80は、例えばCPUやRAMなどであり、上述したHMD70の各部を制御する。
The
<機能的構成>
次に、コンテンツ販売システム1内のサーバ装置50、携帯端末10の機能について説明する。
<Functional configuration>
Next, functions of the
≪サーバ装置50≫
図8は、実施形態におけるサーバ装置50の機能構成の一例を示す図である。図8に示す例では、サーバ装置50は、第1送信部102、第1受信部104、生成部106、及び第1記憶部108を有する。第1記憶部108以外の各部は、例えば制御プログラム55が制御部51により実行されることで機能する。
<<
FIG. 8 is a diagram illustrating an example of a functional configuration of the
第1送信部102は、例えば通信インターフェース53や制御部51等により実現されうる。第1送信部102は、ダウンロード要求を出した各携帯端末10に、要求された映像コンテンツ等を送信する。
The
第1受信部104は、例えば通信インターフェース53や制御部51等により実現されうる。第1受信部104は、各携帯端末10から、映像コンテンツやプレイヤを識別する情報とともにダウンロード要求を受信する。また、第1受信部104は、撮像装置60から各撮像データを受信する。
The
生成部106は、例えば制御部51等により実現されうる。生成部106は、各プレイヤの動きが撮像された各撮像データに基づいて、各プレイヤの動きを再現する映像コンテンツや、プレイヤの動きの一部を示す部分コンテンツ等を生成する。以下、映像コンテンツや部分コンテンツ等を含めてコンテンツとも称する。生成部106は、コンテンツを生成するため、動作解析部110、仮想空間生成部112、コンテンツ生成部114、要求取得部116、及び分類部118を有する。
The
動作解析部110は、例えば複数の撮像装置60から撮像された各撮像データに対し、モーションキャプチャ技術を用いて、撮像データ内の少なくとも1のプレイヤの動きを動作解析する。このモーションキャプチャ技術は、公知の技術を用いればよく、例えばマーカーレスタイプの技術が好ましい。動作解析技術を適用することにより、撮像データ内の各プレイヤの動きが再現可能になる。これにより、三次元仮想空間内をどのように動いたかを、プレイヤごとに求めることができる。
The
なお、動作解析部110により出力される動作解析結果は、動作解析したプレイヤの動きを再現するためのプレイヤの動き情報を含む。また、動作解析部110に含まれる推定部(不図示)は、プレイヤの動きに基づいて、プレイヤの顔の位置、向き、及び角度からプレイヤの視点座標、及びその視点からの視線方向を推定する(図12参照)。推定部は、プレイヤの動き情報に合わせて、視点座標及び視線方向を含む視線方向情報を対応付けておくとよい。
Note that the motion analysis result output by the
仮想空間生成部112は、各撮像データに基づいて、各プレイヤやフィールドの仮想オブジェクトを含む三次元仮想空間を生成する。例えば、仮想空間生成部112は、各撮像装置60の設置位置や設置角度に基づいて、撮像データ内のどのオブジェクトがどの座標位置にあるかを、例えば三次元画像解析を用いて算出し、オブジェクトに対応する仮想オブジェクトを、その座標位置に配置する。例えば、仮想空間生成部112は、三次元仮想空間に配置される、各種仮想オブジェクトのポリゴンデータを保持しておくとよい。
The virtual
また、仮想空間生成部112は、フィールドが既知であれば、事前に三次元仮想空間を生成しておき、各撮像データに基づいて風景やプレイヤ等に基づく仮想オブジェクトを配置し、最終的な三次元仮想空間を生成してもよい。
In addition, if the field is known, the virtual
コンテンツ生成部114は、三次元仮想空間及び動作解析結果に基づいて、動的オブジェクトである少なくとも1のプレイヤの動きをCGにより再現する映像コンテンツを生成する。例えば、コンテンツ生成部114は、三次元仮想空間のフィールド内を移動する各プレイヤの仮想オブジェクト(キャラクタ)に対して、動作解析により解析された各プレイヤの実際の動きを与え、その動きに応じたキャラクタの視点からの視線方向に三次元仮想空間を眺めた映像をCGにより生成することで、各プレイヤの視点からの映像コンテンツをそれぞれ生成する。プレイヤの視点からの映像コンテンツとは、そのプレイヤの視点からの視線方向に描画される3次元仮想空間内の映像を表す。これにより、サーバ装置50は、フィールド内の各プレイヤの視点からの映像コンテンツを提供することが可能になる。
The
また、コンテンツ生成部114は、三次元仮想空間に対して、プレイヤが決定されると、そのプレイヤの視線方向情報に基づいて、このプレイヤの視点からの映像をその都度生成してもよい。コンテンツ生成部114は、必要に応じて、事前に各プレイヤの視点からの映像コンテンツを生成したり、三次元仮想空間に対し、その都度所定のプレイヤの視点を与え、このプレイヤの視点からの映像コンテンツを生成したりする。
In addition, when a player is determined for the three-dimensional virtual space, the
なお、コンテンツ生成部114は、映像コンテンツについて、各プレイヤに対応する各キャラクタを生成し、このキャラクタが、対応するプレイヤの動きを再現するように映像コンテンツを生成するとよい。コンテンツ生成部114は、プレイヤの写真等を用いてよりリアルなキャラクタにすることで、より現実味を増した映像コンテンツを生成することができる。
The
コンテンツ生成部114は、1つのイベント(例えばスポーツの1試合)内で生成した映像コンテンツに対し、1つの識別情報(イベントID)を付与し、イベントごとに映像コンテンツの識別を可能にしておく。また、コンテンツ生成部114は、プレイヤにも識別情報(プレイヤID)を付与し、このプレイヤの視点からの映像コンテンツを、プレイヤの識別情報に対応付けておく。これにより、イベントや、プレイヤごとに携帯端末10からダウンロード要求を受けることが可能になる。コンテンツ生成部114は、生成された映像コンテンツを第1記憶部108に記憶する。
The
また、第1記憶部108は、三次元仮想空間、静的な仮想オブジェクト、及び動的な仮想オブジェクト及びその動き情報を含む仮想空間データを、イベントIDに対応付けて記憶してもよい。このとき、仮想空間データに基づき、プレイヤの視点からの映像コンテンツを生成可能にするため、プレイヤIDには、プレイヤの視線方向情報が対応付けられる。
The
要求取得部116は、携帯端末10から送信される要求を受け付ける。携帯端末10の要求とは、例えば、イベントIDや、プレイヤIDなどを伴うダウンロード要求などである。
The
要求取得部116は、ダウンロード要求を受けると、ダウンロード要求に含まれるイベントID及び/又はプレイヤIDを特定し、記憶部108から該当する映像コンテンツを取得する。要求取得部116は、取得した映像コンテンツを、第1送信部102を介して携帯端末10に送信する。
Upon receiving the download request, the
また、要求取得部116は、イベントIDに対応する仮想空間データを第1記憶部108から取得し、また、プレイヤIDに対応するプレイヤの視線方向情報を第1記憶部108から取得してもよい。このとき、要求取得部116は、コンテンツ生成部114において生成されるプレイヤIDに対応するプレイヤの視点からの映像コンテンツを、その都度第1送信部102を介して携帯端末10に送信する。
In addition, the
分類部118は、映像コンテンツ内のプレイヤの一部の動きを示す部分コンテンツを、動きに応じて複数のカテゴリに分類する。例えば、イベントがサッカーの試合の場合、分類部118は、ドリブルについて相手にボールを取られずにディフェンダーを抜いた場合、成功動作と判定し、相手にボールを取られた場合、失敗動作と判定する。
The
具体的には、分類部118は、失敗動作及び成功動作の部分コンテンツを自動で検出するようにしてもよいし、管理者が映像コンテンツを見ながら、成功動作又は失敗動作の部分コンテンツを検出するようにしてもよい。分類部118は、これらの動作を自動で検出する場合、プレイヤが移動しつつボールがプレイヤから所定距離以内にあれば、それはドリブルと判定し、このドリブル中に相手にボールが渡った場合、失敗動作と判定する。また、分類部118は、ドリブル後に味方にボールが渡ったり、シュートをしたりしていれば成功動作と判定する。
Specifically, the
シュートについて、分類部118は、相手方ゴール枠付近にボールが移動すれば、シュートと判定してもよい。なお、味方のプレイヤ及び相手のプレイヤについては、ユニフォームの色などで識別することができる。分類部118は、分類された部分コンテンツを映像コンテンツから切り出して、第1記憶部108に記憶してもよいし、映像コンテンツ内のプレイヤの一部の動きに対し、メタデータ等を用いてカテゴリを付与してもよい。
For the shot, the
要求取得部116は、カテゴリの識別情報をダウンロード要求とともに受けた場合、このカテゴリに対応する1又は複数の部分コンテンツを第1記憶部108から取得したり、映像コンテンツから取得したりする。要求取得部116は、取得した1又は複数の部分コンテンツを、このダウンロード要求を送信した携帯端末10に、第1送信部102を介して送信する。
When receiving the category identification information together with the download request, the
第1記憶部108は、例えば記憶部54から実現されうる。第1記憶部108は、動作解析されたCGによる映像コンテンツや、カテゴリに分類された部分コンテンツや、仮想空間データや、視線方向情報等を必要に応じて記憶する。
The
図9は、コンテンツ情報の一例を示す図である。図9に示す例において、コンテンツ情報は、イベントID、仮想空間データ、プレイヤID、視線方向情報が対応付けられている。図9に示すコンテンツ情報は、後述するように、ユーザ操作に基づき、VR体験中のプレイヤの視線方向や動き方向が変更される際に用いられるデータ構造を示す。 FIG. 9 is a diagram illustrating an example of content information. In the example shown in FIG. 9, the content information is associated with an event ID, virtual space data, player ID, and line-of-sight direction information. The content information shown in FIG. 9 indicates a data structure used when the line-of-sight direction and the movement direction of the player who is experiencing the VR are changed based on a user operation, as will be described later.
図9に示す例では、イベントID「G0001」に対し、仮想空間データ「C0001」と、プレイヤID「PA001」〜「PA022」とが対応付けられ、各プレイヤIDに、それぞれ視線方向情報が対応付けられる。視線方向情報は、プレイヤの顔や頭の動きに合わせた視点座標の軌跡データと、その視点における視線方向のベクトルデータとを含む。 In the example illustrated in FIG. 9, the virtual space data “C0001” and the player IDs “PA001” to “PA022” are associated with the event ID “G0001”, and the gaze direction information is associated with each player ID. It is done. The gaze direction information includes trajectory data of viewpoint coordinates in accordance with the movement of the player's face and head, and vector data of the gaze direction at that viewpoint.
なお、図9に示すコンテンツ情報は、携帯端末10側で、VR体験中のプレイヤの視線方向や動き方向が変更される場合に好適である。
Note that the content information shown in FIG. 9 is suitable when the line-of-sight direction and the movement direction of the player who is experiencing the VR are changed on the
例えば、サーバ装置50は、ユーザの操作に基づき、VR体験中のプレイヤの視線方向や動き方向の変更可能性が有る場合、仮想空間データと、特定のプレイヤの視線方向情報とを携帯端末10に送信する。これにより、携帯端末10は、自身の装置において、視線方向情報に基づいて視線方向を変更したり、プレイヤキャラクタの動き方向を変更したりして、変更後の映像コンテンツをCGにより生成することができる。
For example, when there is a possibility that the line-of-sight direction or the movement direction of the player who is experiencing the VR is changeable based on the user's operation, the
また、サーバ装置50と、携帯端末10とのリアルタイムの双方向通信により、VR体験中のプレイヤの視線方向や動き方向を変更することもできる。例えば、携帯端末10は、視線方向や動き方向の変更を示す変更情報をサーバ装置50に送信し、サーバ装置50は、その変更情報に基づいて、視線方向や動き方向の変更後の映像コンテンツを生成する。サーバ装置50は、変更後の映像コンテンツをその都度携帯端末10に送信し、携帯端末110は、受信した映像コンテンツを表示する。これにより、プレイヤキャラクタの視線方向や動き方向を変更することができる。
Further, the line-of-sight direction and the movement direction of the player who is experiencing the VR can also be changed by real-time bidirectional communication between the
また、携帯端末10側で、視聴だけが許容される場合、図9に示すコンテンツ情報は、イベントIDごとに各プレイヤIDを対応付け、そのプレイヤIDに、予め生成されたプレイヤの視点からの映像コンテンツを対応付けるデータ構造でもよい。このデータ構造によれば、ユーザは、イベントIDを選択すれば、各プレイヤの視点からの映像コンテンツをまとめて取得することができる。また、ユーザは、イベントIDとプレイヤIDとを選択すれば、そのイベントの特定のプレイヤの視点からの映像コンテンツを取得することができる。例えば、イベントがサッカーの試合である場合、ユーザは、イベントIDとしてワールドカップの決勝の試合を選択したり、プレイヤIDとしてユーザの好きな選手を選択したりし、好きな選手の視点からその試合を体験することができるようになる。
In addition, when only viewing is permitted on the
図10は、カテゴリごとに分類された部分コンテンツの一例を示す図である。図10に示す例では、プレイヤID毎に、各カテゴリの部分コンテンツが対応付けられている。例えば、プレイヤID「PA001」は、カテゴリ1として「10:10〜10:35」、「34:23〜34:30」などの部分コンテンツが対応付けられ、カテゴリ2として「5:43〜5:55」、「6:32〜6:49」などの部分コンテンツが対応付けられている。なお、「10:10〜10:35」等の表記は、映像コンテンツ内の10分10秒から10分35秒までの視線方向情報、又は部分コンテンツであることを示す。
FIG. 10 is a diagram illustrating an example of partial content classified for each category. In the example shown in FIG. 10, the partial contents of each category are associated with each player ID. For example, the player ID “PA001” is associated with partial contents such as “10:10 to 10:35” and “34:23 to 34:30” as
これにより、ユーザは、カテゴリを指定すれば、各プレイヤのそのカテゴリでの部分コンテンツを取得することができる。また、ユーザは、カテゴリとプレイヤIDとを選択すれば、そのカテゴリでの特定のプレイヤの部分コンテンツを取得することができる。例えば、イベントがサッカーの試合で、カテゴリがドリブル成功及びドリブル失敗である場合、ユーザは、好きな選手のドリブル成功の部分コンテンツのみを選択し、好きな選手のドリブル成功の世界観を体験することができるようになる。 Thereby, if the user designates a category, each player can acquire partial contents in that category. Moreover, if the user selects a category and a player ID, the partial content of a specific player in that category can be acquired. For example, if the event is a soccer game and the category is dribbling success and dribbling success, the user can select only the partial content of the favorite player's dribbling success and experience the world view of the favorite player's dribbling success. Will be able to.
≪携帯端末10≫
図11は、実施形態における携帯端末10の機能構成の一例を示す図である。図11に示す例では、携帯端末10は、第2送信部202、第2受信部204、コンテンツ制御部206、及び第2記憶部208を有する。第2記憶部208以外の各部は、例えばプログラム44が主制御部40により実行されることで機能する。
FIG. 11 is a diagram illustrating an example of a functional configuration of the
第2送信部202は、例えば主制御部40、移動体通信部32、無線LAN通信部36等により実現されうる。第2送信部202は、ユーザ操作に基づくダウンロード要求等をサーバ装置50に送信する。
The
第2受信部204は、例えば主制御部40、移動体通信部32、無線LAN通信部36等により実現されうる。第2受信部204は、サーバ装置50から、ダウンロード要求した映像コンテンツ等を受信する。
The
コンテンツ制御部206は、例えば主制御部40等により実現されうる。コンテンツ制御部206は、第2受信部204により受信された、各プレイヤの動きを再現するCGによる映像コンテンツを取得し、再生などの制御を行う。コンテンツ制御部206は、映像コンテンツを制御するため、受付部210、取得部212、表示制御部214、課金部216、変更部218、及び報知部220を有する。
The
受付部210は、表示画面に表示されたユーザのボタン操作などにより、ユーザによるプレイヤの選択を受け付ける。また、受付部210は、イベントの選択や、カテゴリの選択や、部分コンテンツの選択や、表示指示などのユーザ操作を受け付けてもよい。受付部210は、受け付けた各種選択を示す情報を含むダウンロード要求を、第2送信部202を介してサーバ装置50に送信する。なお、受付部210は、接続されたHMD70からのユーザ操作を受け付けてもよい。
The accepting
取得部212は、ダウンロード要求がされた映像コンテンツ又は部分コンテンツを、第2受信部204を介して取得したり、第2記憶部208から取得したりする。映像コンテンツは、1又は複数のプレイヤの動きを複数の撮像装置60が撮像した各撮像データに基づき各プレイヤの動作解析が行われた映像コンテンツであり、各プレイヤの動きをCGにより再現し、ユーザにより選択されたプレイヤの視点からの映像コンテンツである。
The
表示制御部214は、例えば受付部210が受け付けたユーザからの表示を示す操作により、取得部212により取得された映像コンテンツ又は部分コンテンツの表示を制御する。表示制御部214は、表示制御として、HMD70のタイプに応じて、映像コンテンツや部分コンテンツをHMD70に送信したり、タッチパネル14に映像コンテンツを表示したりする。
The
課金部216は、ユーザ操作に基づき課金処理を行う。例えば、プログラム44により実行されるアプリケーション内で、ユーザが、所定のプレイヤを選択し、所定金額を支払うための課金処理を行ったとする。このとき、課金部216は、ユーザIDなどや、選択されたプレイヤID等を含む課金要求を、第2送信部202を介して課金サーバ(不図示)に送信する。
The charging
課金サーバは、携帯端末10等からの課金要求に応じて、アプリケーション実行中に課金処理を行うサーバである。課金サーバは、事前にユーザIDに関連付けて銀行口座やクレジット番号などの情報を対応づけておくとよい。
The billing server is a server that performs billing processing during application execution in response to a billing request from the
このとき、受付部210は、課金部216において課金処理が行われた場合に、イベントの選択や、プレイヤの選択等を受け付け可能にしてもよい。これにより、ユーザは、お金を支払うことで、自分が体験したいプレイヤ等を選択することができる。
At this time, the accepting
変更部218は、ユーザ操作に基づき、選択されたプレイヤの動き方向又は視線方向を示す第1方向を変更する。ユーザ操作とは、例えば、HMD70を装着した状態で、頭を動かしたりする操作、又は外付けのコントローラを用いた操作のことをいう。頭の動きは、携帯端末10の6軸センサ23が検知する。この場合、携帯端末10は、第1方向を変更可能にするため、サーバ装置50から仮想空間データと、特定のプレイヤの視線方向情報とを取得したり、又はストリーミング等によりその都度特定のプレイヤの視点からの映像コンテンツを取得したりすればよい。
The changing
例えば、VR体験中のプレイヤ(選択されたプレイヤ)の視線方向が変更される場合、6軸センサ23により右方向に頭が動いたことが検知されれば、変更部218は、VR体験中のプレイヤの視線方向を右方向に移動させる。より具体的には、変更部218は、仮想空間データが取得されている場合、仮想空間データに基づくVR体験中のプレイヤの視線方向を右方向に移動させ、移動後の視線方向に描画される三次元仮想空間内の映像を表示させればよい。
For example, when the line-of-sight direction of a player who is experiencing VR (the selected player) is changed, if the six-
また、変更部218は、ストリーミング等により映像コンテンツを取得している場合、視線方向の変更量を示す変更情報を、第2送信部202を介してサーバ装置50に送信し、サーバ装置50から視線変更後の映像コンテンツを取得することで、移動後の視線方向に描画される三次元仮想空間内の映像を表示させればよい。
In addition, when the video content is acquired by streaming or the like, the
また、VR体験中のプレイヤの動き方向が変更される場合、6軸センサ23により右方向に頭が動いたことが検知されれば、変更部218は、VR体験中のプレイヤキャラクタを右方向に移動させる。変更部218は、方向の移動量について、頭の動き量に応じて変更してもよい。例えば、頭が大きく動かされるほど、移動量が大きくなってもよい。動き方向の移動後の映像コンテンツの生成処理は、視線方向の移動の際の処理と同様である。
When the movement direction of the player who is experiencing the VR is changed, if the six-
なお、VR体験中のプレイヤキャラクタの動き方向が変更される場合、VR体験中のプレイヤの実際の動きを示す第2方向と異なる方向に動くことがありうるので、その場合、実際の動きに戻ることができるようにしておくとよい。例えば、変更部218は、所定操作(例えば頭を二回上下に振るなど)が行われた場合には、実際のプレイヤの動きに戻るようにすればよい。これにより、第1方向と第2方向とが乖離したままイベントが進行することを防止することができる。
If the movement direction of the player character during the VR experience is changed, it may move in a direction different from the second direction indicating the actual movement of the player during the VR experience. In this case, the actual movement returns. It is good to be able to do that. For example, the
また、変更部218は、動き方向を変更するモードと、視線方向を変更するモードとを所定操作(例えば頭を三回上下に振るなど)により切り替えるようにしてもよい。これにより、ユーザは、視線を変えたり、動き自体を変えたり、VRの体験の幅を広げることができる。
The changing
報知部220は、表示制御中の映像コンテンツ又は部分コンテンツに基づくプレイヤの実際の動き方向又は視線方向を示す第2方向と、変更部218により変更される第1方向との差異をユーザに報知する。報知の仕方としては、例えば、第1方向及び/又は第2方向を矢印で表し、両矢印を区別可能にしたり、画面内の四方に第2方向を示す領域を設け、当該領域を所定色にすることで、第2方向を示し、色の濃淡を用いて第2方向と第1方向との角度の違いを表したりしてもよい。また、報知部220は、第1方向と第2方向との差異を、音声や、その他の表示の仕方で報知するようにしてもよい。また、報知部220内に評価部を設け、この評価部が、両方向の差異に基づく評価を行ってもよい。例えば、評価部は、この差異が小さいほど良い評価を与えたり、この差異が所定差以内である時間が長いほど良い評価を与えたりする。報知部220は、評価結果をユーザに報知する。報知の仕方は特に問わない。これにより、例えば、ユーザは、体験中のプレイヤの状況に応じた動きを習得することができる。
The
これにより、ユーザは、その場その場で、自分が意図した動き方向又は視線方向と、実際のプレイヤの動き方向又は視線方向とを比べることができる。その結果、例えば、有名スポーツ選手のその時の判断力を知ることができ、スポーツ教育に活用することができる。 Thereby, the user can compare the movement direction or gaze direction intended by the user with the actual movement direction or gaze direction of the player on the spot. As a result, for example, it is possible to know the judgment power of a famous athlete at that time, and it can be used for sports education.
また、報知部220は、例えば相手と対戦するスポーツの映像コンテンツが表示制御される場合、相手のプレイヤの死角を表示可能にしてもよい。例えば、報知部220は、1又は複数の相手のプレイヤのキャラクタの視野を三次元仮想空間内で推定し、相手プレイヤの視野が重ならない領域を死角と判定すればよい。これにより、例えばサッカーをVRで体験する場合、攻撃中のユーザは、どこにパスを出すべきか又はどこにドリブル突破すべきかを把握することができる。その結果、スポーツ教育のバリエーションを増やすことができる。
Further, the
第2記憶部208は、第2受信部204により受信された映像コンテンツ、部分コンテンツ、仮想空間データ等を記憶する。
The
携帯端末10は、自装置内に、仮想空間データや、各プレイヤの視線方向情報を保持していれば、コンテンツ制御部206により、VR体験中にVRを体験するプレイヤの視点を切り替えることができる。例えば、コンテンツ制御部206は、視点を切り替えるために設定された操作が行われた場合、視点切替画面等を表示し、ユーザが視聴したいプレイヤの視点を選択させればよい。コンテンツ制御部206は、選択されたプレイヤの視線方向情報を取得し、その視線方向情報を用いて、初めから、又は切替操作が行われた時点から、そのプレイヤの視点からの映像を表示するように制御する。これにより、三次元仮想空間データが有るので、視線方向情報を取得するだけで、プレイヤの視点切替を容易に行うことができる。
If the
以上の機能をコンテンツ配信システム1の各装置が有することで、VRにおいて、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを容易に生成することができる。また、コンテンツ配信システム1は、上述した方法で生成されたコンテンツをユーザに提供することができる。
Since each device of the
<視線方向及び視野>
次に、CGにより生成されるプレイヤキャラクタの視線方向及び視野について説明する。図12は、プレイヤキャラクタの視線方向及び視野を説明するための図である。図12(A)は、三次元仮想空間内の鉛直方向の上から下を見た場合のプレイヤキャラクタの頭H、視線方向EL1、視野θ1を示す。このキャラクタの視線方向EL1は、眼を結ぶ線分の中央から、この線分の垂直方向とする。
<Gaze direction and field of view>
Next, the line-of-sight direction and field of view of the player character generated by CG will be described. FIG. 12 is a diagram for explaining the line-of-sight direction and field of view of the player character. FIG. 12A shows the player character's head H, line-of-sight direction EL1, and field of view θ1 when viewed from above and below in the vertical direction in the three-dimensional virtual space. The character's line-of-sight direction EL1 is the vertical direction of the line segment from the center of the line segment connecting the eyes.
また、水平方向の視野角θ1については、Y方向に対し、視線方向EL1から左右それぞれ60度とし、合計120度とする。ただし、この視野角θ1は、あくまでも一例であり、適切な値が設定されればよい。 Further, the viewing angle θ1 in the horizontal direction is 60 degrees to the left and right of the line-of-sight direction EL1 with respect to the Y direction, for a total of 120 degrees. However, this viewing angle θ1 is merely an example, and an appropriate value may be set.
図12(B)は、三次元仮想空間内の水平方向の左から右(Y方向の−側から+側)を見た場合のプレイヤキャラクタの頭H、視線方向EL2、視野角θ2を示す。このキャラクタの視線方向EL2は、頭の頂点Tから下点Bを結ぶ線分の眼の位置から、この線分の垂直方向とする。なお、図12(A)に示す視線方向EL1と、図12(B)に示す視線方向EL2とは、同一の方向を表す。よって、プレイヤキャラクタの視線方向は、プレイヤキャラクタの頭の位置等により推定することができる。また、視点座標は、例えば、視線方向EL1と顔との接点座標とする。 FIG. 12B shows the player character's head H, line-of-sight direction EL2, and viewing angle θ2 when the horizontal direction in the three-dimensional virtual space is viewed from left to right (from the Y side to the + side). The line-of-sight direction EL2 of this character is the vertical direction of the line segment from the position of the eye of the line segment connecting the vertex T to the lower point B of the head. Note that the line-of-sight direction EL1 shown in FIG. 12A and the line-of-sight direction EL2 shown in FIG. 12B represent the same direction. Therefore, the line-of-sight direction of the player character can be estimated from the position of the player character's head and the like. The viewpoint coordinates are, for example, the contact coordinates between the line-of-sight direction EL1 and the face.
また、鉛直方向の視野角θ2については、Z方向に対し、視線方向EL2から上60度、下70度とし、合計130度とする。ただし、この視野角θ2は、あくまでも一例であり、適切な値が設定されればよい。 The vertical viewing angle θ2 is 60 degrees above and 70 degrees below the line-of-sight direction EL2 with respect to the Z direction, for a total of 130 degrees. However, this viewing angle θ2 is merely an example, and an appropriate value may be set.
なお、視線方向については、図12に示す方法で推定するようにしたが、実際の撮像データから黒目の動きを検出することができれば、実際の黒目の動きから視線方向を推定してもよい。これにより、プレイヤになりきってVRを体験することができる。 The line-of-sight direction is estimated by the method shown in FIG. 12, but the line-of-sight direction may be estimated from the actual movement of the black eye as long as the movement of the black eye can be detected from the actual imaging data. Thereby, it is possible to experience VR as a player.
<表示画面例>
次に、イベントとしてサッカーの試合、オブジェクトとしてサッカー選手を例に挙げて、本発明を適用する場合の表示画面例について説明する。
<Example of display screen>
Next, an example of a display screen when the present invention is applied will be described by taking a soccer game as an event and a soccer player as an object.
図13は、実施形態における表示画面Aの一例を示す図である。図13に示す画面Aは、ユーザが選択したプレイヤが、ディフェンスをしている場合の画面例を示す。図13に示すように、ユーザは、実際のサッカーの試合を体験するVRにて、ディフェンスをしているプレイヤ目線で試合を楽しむことができる。 FIG. 13 is a diagram illustrating an example of the display screen A in the embodiment. Screen A shown in FIG. 13 shows a screen example when the player selected by the user is defending. As shown in FIG. 13, the user can enjoy the game from the viewpoint of the player who is defending in VR for experiencing an actual soccer game.
図13に示す例では、プレイヤキャラクタP11が現在ボールB1を蹴っており、プレイヤキャラクタP12〜P14が、プレイヤキャラクタのP11の味方を表す。また、プレイヤキャラクタP21は、ユーザが体験しているプレイヤの味方を表す。 In the example shown in FIG. 13, the player character P11 is currently kicking the ball B1, and the player characters P12 to P14 represent the ally of the player character P11. The player character P21 represents a friend of the player who is experiencing the user.
図14は、実施形態における表示画面Bの一例を示す図である。図14に示す画面Bは、ユーザが選択したプレイヤが、オフェンスをしている(例えばドリブルをしている)場合の画面例を示す。図14に示すように、ユーザは、実際のサッカーの試合を体験するVRにて、オフェンスをしているプレイヤ目線で試合を楽しむことができる。 FIG. 14 is a diagram illustrating an example of the display screen B in the embodiment. A screen B shown in FIG. 14 shows a screen example when the player selected by the user is in an offense (for example, dribbling). As shown in FIG. 14, the user can enjoy the game from the viewpoint of a player who is playing an offense in VR in which an actual soccer game is experienced.
図15は、実施形態における表示画面Cの一例を示す図である。図15に示す画面Cは、図14に示す画面Bから、例えばユーザが頭を動かすことで、視線方向が変更された画面例を示す。図15に示すように、ユーザは、視線方向を右方向に動かすよう操作することで、視線方向が全体的に右方向に向いたシーンを視聴することができる。 FIG. 15 is a diagram illustrating an example of the display screen C in the embodiment. A screen C illustrated in FIG. 15 illustrates a screen example in which the line-of-sight direction is changed, for example, when the user moves his / her head from the screen B illustrated in FIG. 14. As illustrated in FIG. 15, the user can view a scene in which the line-of-sight direction is generally directed to the right by operating the line-of-sight direction to the right.
また、図15に示す画面Cでは、VR体験中の視線方向(第1方向)を示す矢印A1が画面C上に表示される。このとき、実際のプレイヤの視線方向(第2方向)を示す矢印A2も画面C上に表示される。これにより、ユーザは、この時の自分の判断と、体験しているプレイヤの判断とを比べることができる。なお、矢印A1は、必ずしも表示されなくてもよい。 Further, on the screen C shown in FIG. 15, an arrow A <b> 1 indicating the line-of-sight direction (first direction) during the VR experience is displayed on the screen C. At this time, an arrow A2 indicating the actual line-of-sight direction (second direction) of the player is also displayed on the screen C. Thereby, the user can compare his judgment at this time with the judgment of the experienced player. Note that the arrow A1 is not necessarily displayed.
図16は、実施形態における表示画面Dの一例を示す図である。図16に示す画面Dは、図15に示す画面Cと比べて、第1方向と第2方向との差異の報知の仕方が異なる。図16に示す画面Dは、画面D内の四方に配置された各領域B1〜B4が、第2方向を知らせるための領域である。ユーザは、左方向の領域B1の色が変更されることで、プレイヤの実際の視線方向は左方向であったと知ることができる。なお、領域B1の色が濃くなるほど、第1方向と第2方向との角度の差が大きくなることを示す。 FIG. 16 is a diagram illustrating an example of the display screen D in the embodiment. The screen D shown in FIG. 16 differs from the screen C shown in FIG. 15 in the manner of notifying the difference between the first direction and the second direction. A screen D shown in FIG. 16 is a region for informing the second direction of the regions B1 to B4 arranged in four directions in the screen D. The user can know that the actual line-of-sight direction of the player is the left direction by changing the color of the left-side area B1. In addition, it shows that the difference of the angle of a 1st direction and a 2nd direction becomes large, so that the color of area | region B1 becomes dark.
図17は、実施形態における表示画面Eの一例を示す図である。図17に示す画面Eは、図15に示す画面Cと比べて、第1方向と第2方向との差異の報知が消去され、死角領域D2が表示されている。図17に示す画面Eは、ユーザが体験しているプレイヤキャラクタの相手となる各キャラクタP23〜P25の死角領域D2が表示される。死角領域D2は、図18で説明するように、相手キャラクタの視野を示す情報に基づいて算出できる。これにより、ユーザは、この時点で、死角領域D2についてはパスやドリブル突破がしやすい領域であることを把握することができる。なお、死角領域が表示される場合でも、上述した報知処理がなされてもよい。 FIG. 17 is a diagram illustrating an example of the display screen E in the embodiment. In the screen E shown in FIG. 17, the notification of the difference between the first direction and the second direction is erased and the blind spot area D2 is displayed as compared with the screen C shown in FIG. A screen E shown in FIG. 17 displays a blind spot area D2 of each of the characters P23 to P25 that are opponents of the player character that the user is experiencing. The blind spot area D2 can be calculated based on information indicating the field of view of the opponent character, as described in FIG. Thereby, the user can grasp | ascertain that the blind spot area | region D2 is an area | region where it is easy to pass or dribble breakthrough at this time. Even when the blind spot area is displayed, the above-described notification process may be performed.
図18は、死角領域D2を説明するための図である。図18に示す例では、三次元仮想空間のサッカーフィールドを上面から表している。領域AR2は、図17における画面Eで表示されている領域である。領域AR2内で、相手のキャラクタP23〜P25の視野に入らない領域が死角領域D2である。この死角領域D2が、図17に示す画面Eにおいて表示されている。なお、図18に示す上面図が、図17に示す画面に重畳され、所定のユーザ操作により、この上面図の表示と非表示とが切り替えられるように実装されてもよい。 FIG. 18 is a diagram for explaining the blind spot area D2. In the example shown in FIG. 18, the soccer field of the three-dimensional virtual space is represented from the top. The area AR2 is an area displayed on the screen E in FIG. In the area AR2, the area that does not enter the field of view of the opponent characters P23 to P25 is the blind spot area D2. This blind spot area D2 is displayed on the screen E shown in FIG. Note that the top view shown in FIG. 18 may be mounted on the screen shown in FIG. 17 so that display and non-display of the top view can be switched by a predetermined user operation.
以上の図13〜17に示す画像は、表示制御部214により表示制御される画面である。また、図15〜16で説明した視線変更は、ユーザ操作に基づき、変更部218により変更される。また、図15〜16で説明した第1方向と第2方向との差異の報知は、報知部220により実行される。また、図17で説明した死角領域D2は、報知部220により報知される。死角領域D2の検出は、コンテンツ制御部206やサーバ装置50のコンテンツ生成部114等が行えばよい。
The images shown in FIGS. 13 to 17 are screens whose display is controlled by the
なお、図13〜17に示すプレイヤキャラクタは一例であって、実際のプレイヤの顔やユニフォームをプレイヤキャラクタに用いることで、臨場感と現実味とが溢れるVRを実現することができる。 Note that the player characters shown in FIGS. 13 to 17 are examples, and a VR that is full of realism and realism can be realized by using the actual player's face and uniform as the player character.
<動作>
次に、実施形態におけるコンテンツ配信システム1の各装置の動作について説明する。以下、サーバ装置50におけるコンテンツ生成処理、及びコンテンツ配信処理、並びに、携帯端末10におけるコンテンツ表示処理、視線変更処理、及びプレイヤ切替処理の順で説明する。
<Operation>
Next, the operation of each device of the
≪コンテンツ生成処理≫
図19は、実施形態におけるコンテンツ生成処理の一例を示すフローチャートである。図19に示すステップS102で、第1受信部104は、各撮像装置60から、1又は複数のプレイヤが動いている様子を撮像した各撮像データを受信する。各撮像装置60は、様々な角度から各プレイヤを撮像する。
≪Content generation process≫
FIG. 19 is a flowchart illustrating an example of content generation processing according to the embodiment. In step S102 illustrated in FIG. 19, the
ステップS104で、動作解析部110は、第2受信部104から各撮像データを取得すると、少なくとも1のプレイヤの動きに対し、公知のモーションキャプチャ技術を用いて動作解析を行う。モーションキャプチャ技術は、マーカーレス方式が好ましい。
In step S <b> 104, when the
ステップS106で、仮想空間生成部112は、第2受信部104から各撮像データを取得すると、各プレイヤやフィールドを示す仮想オブジェクトを含む三次元仮想空間を生成する。
In step S <b> 106, when the virtual
ステップS108で、コンテンツ生成部114は、三次元仮想空間及び動作解析の結果に基づいて、動作解析されたプレイヤの動きをCGにより再現する映像コンテンツを生成する。
In step S108, the
このとき、分類部118は、コンテンツ内のプレイヤの一部の動きを示す部分コンテンツを生成し、部分コンテンツをこの動きに応じて複数のカテゴリに分類してもよい。
At this time, the
ステップS110で、コンテンツ生成部114は、生成された映像コンテンツ及び/又は部分コンテンツを第1記憶部108に記憶する。
In step S <b> 110, the
これにより、VRにおいて、CGを用いることにより、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを容易に生成することができる。 Thereby, by using CG in VR, it is possible to easily generate content from the viewpoint of a large number of objects while accommodating various movements of the objects.
≪コンテンツ配信処理≫
図20は、実施形態におけるコンテンツ配信処理の一例を示すフローチャートである。図20に示すステップS202で、要求取得部116は、各携帯端末10からのダウンロード要求を、第1受信部104を介して取得する。
≪Content distribution process≫
FIG. 20 is a flowchart illustrating an example of content distribution processing according to the embodiment. In step S <b> 202 illustrated in FIG. 20, the
ステップS204で、要求取得部116は、ダウンロード要求に含まれるコンテンツID及び/又はプレイヤIDを基に、これらのIDに対応する映像コンテンツを取得する。また、ダウンロード要求にカテゴリを示す情報が含まれる場合、要求取得部116は、部分コンテンツを取得してもよい。
In step S204, the
ステップS206で、要求取得部116は、取得した映像コンテンツ又は部分コンテンツを、ダウンロード要求を送信した携帯端末10に配信する。これにより、サーバ装置50は、ダウンロード要求に応じて様々なコンテンツを配信することができる。また、要求取得部116は、仮想空間データと、プレイヤIDに対応するプレイヤの視線方向情報とを取得し、これらが配信されるようにしてもよい。これにより、携帯端末10側で、VR体験中のプレイヤの視線方向や動き方向の変更が可能になる。
In step S206, the
≪コンテンツ表示処理≫
図21は、実施形態におけるコンテンツ表示処理の一例を示すフローチャートである。図21に示すステップS302で、受付部210は、ユーザ操作に基づくイベントの選択を受け付ける。例えば、ユーザは、アプリケーション画面から、複数のイベントの中から所定のイベントを選択して、受付部210は、この選択を受け付ける。また、受付部210は、課金処理が行われた場合に、イベントの受付処理を可能にしてもよい。
≪Content display processing≫
FIG. 21 is a flowchart illustrating an example of content display processing in the embodiment. In step S302 illustrated in FIG. 21, the
ステップS304で、受付部210は、ユーザ操作に基づくプレイヤの選択を受け付ける。例えば、ユーザは、アプリケーション画面から、イベントに参加したプレイヤの中から、所定のプレイヤを選択して、受付部210は、この選択を受け付ける。また、受付部210は、課金処理が行われた場合に、プレイヤの受付処理を可能にしてもよい。
In step S304, the accepting
なお、イベントが1つである場合は、ステップS302を省略してもよく、プレイヤが1人の場合は、ステップS304を省略してもよい。受付部210は、受け付けたイベントのID及び/又はプレイヤのIDを含むダウンロード要求を、第2送信部202を介してサーバ装置50に送信する。また、受付部210は、カテゴリの選択を受け付けた場合は、このカテゴリを示す情報をダウンロード要求に含める。
Note that if there is only one event, step S302 may be omitted, and if there is only one player, step S304 may be omitted. The
ステップS306で、取得部212は、ダウンロード要求に対応するコンテンツを取得する。取得されるコンテンツは、仮想空間データ及び視線方向情報と、映像コンテンツと、部分コンテンツとのうち、少なくとも1つを含む。
In step S306, the
ステップS308で、表示制御部214は、取得されたコンテンツを表示するよう制御する。例えば、表示制御部214は、コンテンツをHMD70に送信することで映像コンテンツが表示されるようにしたり、タッチパネル14に映像コンテンツを表示したりすることで、HMD70で視聴できるようにする。これにより、ユーザに対し、自身が選択したイベント内でのプレイヤになりきってVRを体験させることができる。
In step S308, the
≪視線変更処理≫
図22は、実施形態における表示制御処理の一例を示すフローチャートである。図22に示す処理は、図21に示すステップS308の表示制御処理内に含まれる処理である。
≪Gaze change processing≫
FIG. 22 is a flowchart illustrating an example of display control processing according to the embodiment. The process shown in FIG. 22 is a process included in the display control process of step S308 shown in FIG.
図22に示すステップS402で、変更部218は、映像コンテンツ表示中に、VR体験中のプレイヤの視線変更をするための所定の操作を示す信号を受け付けたか否かを判定する。所定の操作とは、頭を所定方向(例えば、上方向、下方向、前方向、後方向、左方向、右方向の少なくとも1方向)に動かすことである。所定の操作を示す信号が受け付けられれば(ステップS402−YES)、処理はステップS404に進み、所定の操作を示す信号が受け付けられていなければ(ステップS402−NO)、処理はステップS402に戻る。
In step S402 shown in FIG. 22, the changing
ステップS404で、変更部218は、受付部210から所定の操作を示す信号を受け付けると、VR体験中のプレイヤの視線方向を変更する。例えば、頭が左に動けば、視線方向が左に変更され、頭が右に動けば、視線方向は右に変更される。視線変更後の映像の生成については、上述したように携帯端末10側で処理する場合と、サーバ装置50が処理する場合と2通りがあり、いずれの方法が用いられてもよい。
In step S404, when the
ステップS406で、報知部220は、変更部218により変更される視線方向(第1方向)と、体験中のプレイヤの実際の視線方向(第2方向)との差異を報知する。報知の方法は様々であり、上述した方法のいずれか1つが適用されればよい。複数の報知方法は、ユーザにより選択されてもよい。
In step S406, the
ステップS408で、表示制御部214は、表示が終了したか否かを判定する。コンテンツの表示が終了すれば(ステップS408−YES)、表示制御処理は終了し、コンテンツの表示が終了していなければ(ステップS408−NO)、処理はステップS402に戻る。これにより、ユーザは、単にVRを視聴するだけでなく、自分も仮想空間内のイベントに参加することができ、さらに、実際のプレイヤの視線方向との差異を比べることができる。
In step S408, the
なお、図22で説明した視線方向は、プレイヤの動きに置き換えてもよい。これにより、ユーザ自身がイベントに参加し、自分の意志でプレイヤを操作しているようなVRの体験をさせることができる。 The line-of-sight direction described with reference to FIG. 22 may be replaced with the movement of the player. Thereby, the user can participate in the event and experience a VR like operating the player with his / her will.
しかし、この場合、ユーザが移動させたプレイヤの動きと、実際のプレイヤの動きとの差異が生じると、実際のイベントの内容とはかけ離れることになるので、いずれかのタイミングで、実際のプレイヤの動きに戻るようにすればよい。例えば、所定時間経過すると、ユーザが移動させたプレイヤの動きと、実際のプレイヤの動きとの差異が生じる時点に戻り、あとは、実際のプレイヤの動きでVRが視聴されるようにしてもよい。 However, in this case, if there is a difference between the movement of the player moved by the user and the movement of the actual player, it will be far from the actual event content. Return to the movement. For example, when a predetermined time elapses, the player may move back to the time when the difference between the movement of the player and the actual movement of the player occurs, and then the VR may be viewed with the actual movement of the player. .
≪プレイヤ切替処理≫
図23は、実施形態におけるプレイヤ切替処理の一例を示すフローチャートである。図23に示す処理は、図21に示すステップS308の表示制御中に行われる処理として説明する。
≪Player switching process≫
FIG. 23 is a flowchart illustrating an example of a player switching process according to the embodiment. The process illustrated in FIG. 23 will be described as a process performed during display control in step S308 illustrated in FIG.
図23に示すステップS502で、受付部210は、プレイヤの切替指示が有ったか否かを判定する。プレイヤの切替指示として予め設定した所定の操作をユーザが行った場合、受付部210は、プレイヤの切替指示と判断する。切替指示が有れば(ステップS502−YES)、処理はステップS504に進み、切替指示がなければ(ステップS502−NO)、処理はステップS502に戻る。
In step S502 shown in FIG. 23, the
ステップS504で、表示制御部214は、受付部210から切替指示が通知されると、映像コンテンツの表示を一時停止する。
In step S504, when the switching instruction is received from the receiving
ステップS506で、コンテンツ制御部206は、アプリケーション画面を通じて、どのプレイヤに切り替えるかをユーザに提示する。例えば、コンテンツ制御部206は、表示中のプレイヤキャラクタを切替候補にするとよい。受付部210は、ユーザに選択されたプレイヤのIDを特定する。
In step S506, the
ステップS508で、取得部212は、プレイヤIDに対応するコンテンツを第2記憶部208又はサーバ装置50から取得する。このとき、第2記憶部208に、プレイヤIDに対応する映像コンテンツがない場合、取得部212は、エラーを返すようにする。また、サーバ装置50から課金処理により、この映像コンテンツが取得される場合は、課金画面が表示されるようにすればよい。また、取得部212は、仮想空間データや、切替後のプレイヤIDの視線方向情報が第2記憶部208等にあれば、仮想空間データと、視線方向情報とに基づいて、プレイヤ切替後の映像コンテンツを生成し、この映像コンテンツを取得する。
In step S508, the
ステップS510で、表示制御部214は、取得されたコンテンツを表示するよう制御する。これにより、ユーザは、VRを視聴中に、体験するプレイヤを切り替えることができる。なお、表示制御部214は、以前に表示していたコンテンツの視聴時間の所定時間前から、切替後のコンテンツを表示するように制御してもよい。これは、視聴中にプレイヤを切り替えるということは、その時の体験中のプレイヤを他のプレイヤから見てみたいというユーザの要求があり、その要求に応えるためである。
In step S510, the
なお、図19〜23で説明した処理のフローに含まれる各処理ステップは、処理内容に矛盾が生じない範囲で、任意に順番を変更して又は並列に実行することができるとともに、各処理ステップ間に他のステップを追加してもよい。また、便宜上1ステップとして記載されているステップは、複数ステップに分けて実行することができる一方、便宜上複数ステップに分けて記載されているものは、1ステップとして把握することができる。 Each processing step included in the processing flow described with reference to FIGS. 19 to 23 can be executed in an arbitrary order or in parallel within a range in which there is no contradiction in processing contents. Other steps may be added in between. Further, a step described as one step for convenience can be executed by being divided into a plurality of steps, while a step described as being divided into a plurality of steps for convenience can be grasped as one step.
以上より、実施形態におけるコンテンツ配信システム1によれば、VRにおいて、オブジェクトの様々な動きに対応しつつ、多数のオブジェクトの視点からのコンテンツを容易に生成することができる。また、コンテンツ配信システム1は、上述した方法で生成されたコンテンツをユーザに提供することができる。
As described above, according to the
また、撮像されるイベントをスポーツにすることで、本実施形態をスポーツ教育に用いることができる。例えば、子供たちに、有名な選手の視点からの世界観を体験させたり、コーチによる選手の動きの解説を入れたりすることで、そのスポーツに対するプレイを向上させることが可能になる。 Moreover, this embodiment can be used for sports education by making the imaged event into sports. For example, by letting children experience the world view from the viewpoint of a famous player, or by explaining the movement of the player by a coach, it is possible to improve play for the sport.
また、上記実施形態において、第1のコンテンツ提供モデルとして、ユーザは、プログラム44を無償でダウンロードし、プログラム44によるアプリケーションを用いて、取得したい映像コンテンツや部分コンテンツに課金することで、そのコンテンツをダウンロードすることができるようにしてもよい。 In the above embodiment, as the first content providing model, the user downloads the program 44 free of charge, and charges the video content or partial content to be acquired by using the application of the program 44, thereby charging the content. You may be able to download it.
また、上記実施形態において、上記モデルに限らず、第2のコンテンツ提供モデルとして、月額のリース契約により、所定のイベントに対する仮想空間データ、及び各プレイヤの視線方向情報を提供することも考えられる。 Moreover, in the said embodiment, not only the said model but the virtual space data with respect to a predetermined | prescribed event and the gaze direction information of each player can also be considered by a monthly lease contract as a 2nd content provision model.
[変形例]
以上、本願の開示する技術の実施形態について説明したが、本願の開示する技術は、上記例に限定されるものではない。
[Modification]
As mentioned above, although embodiment of the technique which this application discloses was described, the technique which this application discloses is not limited to the said example.
報知部220による報知処理について、この処理を行う場合は、映像コンテンツは、必ずしもCGにより生成される必要はない。例えば、特開2006−211531号公報で開示されている自由視点映像生成技術を用いた実映像でのVRの映像コンテンツにおいて、上述した報知処理を適用することができる。例えば、自由視点映像生成技術を用いた実映像でのVRにおいて、プレイヤの操作により視線移動等が行える場合、ユーザにより移動される視線方向と、実際の視線方向との差異を報知するようにすることができる。
As for the notification process by the
また、報知処理について、携帯端末10が、サーバ装置50から、各プレイヤの視点からの映像コンテンツを取得する場合でも実行可能である。この場合、映像として、プレイヤキャラクタの視点からの映像が表示されるため、報知部220は、ユーザ操作に基づく視線方向や動き方向を示す第1方向を報知するようにすればよい。すなわち、報知部220は、第1方向又は第2方向を映像に表示するだけでも、両方向の違いを表現することが可能である。
Further, the notification process can be executed even when the
また、上述した実施形態において、コンテンツは、ライブ映像や、スポーツ映像を含み、スポーツ映像は、サッカーに限らず、野球、テニス、ボクシング等の試合でもよい。 In the above-described embodiment, the content includes a live video and a sports video, and the sports video is not limited to soccer but may be a game such as baseball, tennis, or boxing.
なお、本発明において、「部」や「手段」、「装置」、「システム」とは、単に物理的手段を意味するものではなく、その「部」や「手段」、「装置」、「システム」が有する機能をソフトウェアによって実現する場合も含む。また、1つの「部」や「手段」、「装置」、「システム」が有する機能が2つ以上の物理的手段や装置により実現されても、2つ以上の「部」や「手段」、「装置」、「システム」の機能が1つの物理的手段や装置により実現されても良い。 In the present invention, “part”, “means”, “apparatus”, and “system” do not simply mean physical means, but “part”, “means”, “apparatus”, “system”. This includes the case where the functions possessed by "are realized by software. Further, even if the functions of one “unit”, “means”, “apparatus”, and “system” are realized by two or more physical means or devices, two or more “parts” or “means”, The functions of “device” and “system” may be realized by a single physical means or device.
10 情報処理装置
50 サーバ装置(情報処理装置)
70 HMD
106 生成部
110 動作解析部
112 コンテンツ生成部
114 要求取得部
116 分類部
206 コンテンツ制御部
210 受付部
212 取得部
214 表示制御部
216 課金部
218 変更部
220 報知部
10
70 HMD
106
Claims (9)
1又は複数のプレイヤの動きを撮像した複数の撮像装置から各撮像データを受信する受信ステップと、
前記各撮像データに基づいて、三次元仮想空間を生成する第1生成ステップと、
前記各撮像データに基づいて、少なくとも1の前記プレイヤの動作解析を行う解析ステップと、
前記三次元仮想空間及び前記動作解析の結果に基づき、少なくとも1の前記プレイヤの視点からの映像コンテンツを、コンピュータグラフィックスを用いて生成する第2生成ステップと、
を実行させるプログラム。 On the computer,
A receiving step of receiving each imaging data from a plurality of imaging devices that image the movement of one or a plurality of players;
A first generation step of generating a three-dimensional virtual space based on each of the imaging data;
An analysis step of performing an action analysis of at least one of the players based on each of the imaging data;
A second generation step of generating video content from the viewpoint of at least one of the players based on the result of the three-dimensional virtual space and the motion analysis using computer graphics;
A program that executes
ユーザによるプレイヤの選択を受け付ける受付ステップと、
1又は複数のプレイヤの動きを複数の撮像装置が撮像した各撮像データに基づき、三次元仮想空間が生成され、かつ、少なくとも1の前記プレイヤの動作解析が行われ、当該三次元仮想空間及び当該動作解析の結果に基づきコンピュータグラフィックスを用いて生成された映像コンテンツであって、選択されたプレイヤの視点からの映像コンテンツを取得する取得ステップと、
取得された映像コンテンツの表示を制御する表示制御ステップと、
を実行させるプログラム。 On the computer,
An accepting step for accepting selection of a player by the user;
A three-dimensional virtual space is generated on the basis of the respective imaging data obtained by imaging a plurality of imaging devices by one or a plurality of players, and at least one motion analysis of the player is performed. An acquisition step of acquiring video content from the viewpoint of the selected player, which is video content generated using computer graphics based on the result of the motion analysis;
A display control step for controlling the display of the acquired video content;
A program that executes
前記映像コンテンツに基づく前記選択されたプレイヤの実際の動き方向又は視線方向を示す第2方向と、前記第1方向との差異をユーザに報知する報知ステップと、
をコンピュータにさらに実行させる、請求項3又は4に記載のプログラム。 A change step of changing a first direction indicating a movement direction or a line-of-sight direction of the selected player based on a user operation;
A notifying step of notifying a user of a difference between the second direction indicating the actual movement direction or line-of-sight direction of the selected player based on the video content, and the first direction;
The program according to claim 3 or 4, further causing the computer to execute.
前記受付ステップは、
前記課金処理により前記プレイヤの選択を受け付け可能にする、請求項3乃至5いずれか一項に記載のプログラム。 Causing the computer to further execute a charging step for performing a charging process based on a user operation,
The reception step includes
The program according to any one of claims 3 to 5, wherein a selection of the player can be accepted by the billing process.
前記受付ステップは、
前記カテゴリの選択をさらに受け付け、
前記取得ステップは、
前記カテゴリに含まれるプレイヤの動きを示す部分コンテンツを取得し、
前記表示制御ステップは、
取得された部分コンテンツの表示を制御する、請求項3乃至6いずれか一項に記載のプログラム。 When partial content indicating a part of movement of the player in the video content is classified into a plurality of categories according to the movement,
The reception step includes
Further accepting selection of the category,
The obtaining step includes
Obtaining a partial content indicating the movement of the player included in the category;
The display control step includes:
The program according to any one of claims 3 to 6, which controls display of the acquired partial content.
前記映像コンテンツは、前記相手のプレイヤの視野に基づいて検出される死角を表示可能である、請求項4に記載のプログラム。 When the sports include sports that play against opponents,
The program according to claim 4, wherein the video content can display a blind spot detected based on a field of view of the opponent player.
ユーザによるプレイヤの選択を受け付ける受付ステップと、
1又は複数のプレイヤの動きを複数の撮像装置が撮像した各撮像データに基づき、三次元仮想空間が生成され、かつ、少なくとも1の前記プレイヤの動作解析が行われ、当該三次元仮想空間及び当該動作解析の結果に基づき生成された映像コンテンツであって、選択されたプレイヤの視点からの映像コンテンツを取得する取得ステップと、
取得された映像コンテンツの表示を制御する表示制御ステップと、
ユーザ操作に基づき、前記選択されたプレイヤの動き方向又は視線方向を示す第1方向を変更する変更ステップと、
前記映像コンテンツに基づく前記選択されたプレイヤの実際の動き方向又は視線方向を示す第2方向と、前記第1方向との差異をユーザに報知する報知ステップと、
を実行させるプログラム。 On the computer,
An accepting step for accepting selection of a player by the user;
A three-dimensional virtual space is generated on the basis of the respective imaging data obtained by imaging a plurality of imaging devices by one or a plurality of players, and at least one motion analysis of the player is performed. An acquisition step of acquiring video content from the viewpoint of the selected player, which is video content generated based on the result of the motion analysis;
A display control step for controlling the display of the acquired video content;
A change step of changing a first direction indicating a movement direction or a line-of-sight direction of the selected player based on a user operation;
A notifying step of notifying a user of a difference between the second direction indicating the actual movement direction or line-of-sight direction of the selected player based on the video content, and the first direction;
A program that executes
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015131751A JP6555513B2 (en) | 2015-06-30 | 2015-06-30 | program |
PCT/JP2016/060118 WO2017002414A1 (en) | 2015-06-30 | 2016-03-29 | Program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015131751A JP6555513B2 (en) | 2015-06-30 | 2015-06-30 | program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017012397A true JP2017012397A (en) | 2017-01-19 |
JP6555513B2 JP6555513B2 (en) | 2019-08-07 |
Family
ID=57608432
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015131751A Active JP6555513B2 (en) | 2015-06-30 | 2015-06-30 | program |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6555513B2 (en) |
WO (1) | WO2017002414A1 (en) |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6248219B1 (en) * | 2017-03-08 | 2017-12-13 | 株式会社コロプラ | Information processing method, computer, and program for causing computer to execute information processing method |
CN107832366A (en) * | 2017-10-25 | 2018-03-23 | 重庆虚拟实境科技有限公司 | Video sharing method and device, terminal installation and computer-readable recording medium |
JP2018142812A (en) * | 2017-02-27 | 2018-09-13 | Kddi株式会社 | Information distribution device and terminal device |
JP2018190163A (en) * | 2017-05-02 | 2018-11-29 | 株式会社コロプラ | Information processing method, computer, and program |
WO2019012817A1 (en) * | 2017-07-14 | 2019-01-17 | ソニー株式会社 | Image processing device, image processing method for image processing device, and program |
JP2019008776A (en) * | 2017-06-21 | 2019-01-17 | 株式会社コロプラ | Content providing method, program causing computer to execute the same and content providing device |
JP2019016862A (en) * | 2017-07-04 | 2019-01-31 | キヤノン株式会社 | Information processing device, information processing system, information processing device control method, and program |
JP2019028652A (en) * | 2017-07-28 | 2019-02-21 | キヤノン株式会社 | Display control device and display control method |
JP2019045995A (en) * | 2017-08-30 | 2019-03-22 | キヤノン株式会社 | Information processing device, control method of information processing device, information processing system and program |
US10365784B2 (en) | 2017-03-08 | 2019-07-30 | Colopl, Inc. | Information processing method and apparatus for executing the information processing method |
JP2019159950A (en) * | 2018-03-14 | 2019-09-19 | キヤノン株式会社 | Information processing device and information processing method |
JP2019185762A (en) * | 2018-03-30 | 2019-10-24 | 株式会社リコー | Vr terminal, vr system, presentation method and program |
JP2020013470A (en) * | 2018-07-20 | 2020-01-23 | キヤノン株式会社 | Information processing device, information processing method, and program |
JP2020067960A (en) * | 2018-10-26 | 2020-04-30 | キヤノン株式会社 | Image processing apparatus, image processing method, and program |
JP2020123990A (en) * | 2020-05-16 | 2020-08-13 | 株式会社Dapリアライズ | Multiple video distribution system |
JP2020135130A (en) * | 2019-02-14 | 2020-08-31 | キヤノン株式会社 | Image display device, control method of image display device, and program |
JP2020177607A (en) * | 2019-04-15 | 2020-10-29 | 未來市股▲ふん▼有限公司 | Head-mounted display system switchable between first-person perspective mode and third-person perspective mode, related method, program, and non-transitory computer-readable storage medium |
JPWO2021020200A1 (en) * | 2019-07-26 | 2021-02-04 | ||
US11082725B2 (en) | 2017-02-27 | 2021-08-03 | Kddi Corporation | Video distribution system, terminal device, and video data distribution device |
JP2021137425A (en) * | 2020-03-06 | 2021-09-16 | 株式会社コナミデジタルエンタテインメント | View point confirmation system |
JP2022132286A (en) * | 2017-04-11 | 2022-09-08 | 株式会社バスキュール | Virtual reality provision system |
WO2023085493A1 (en) * | 2021-11-09 | 2023-05-19 | 한국전자기술연구원 | Electronic device for supporting content editing, and operating method therefor |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7427468B2 (en) | 2020-02-18 | 2024-02-05 | キヤノン株式会社 | Information processing device, information processing method, and program |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002271733A (en) * | 2001-03-08 | 2002-09-20 | Jisedai Joho Hoso System Kenkyusho:Kk | Method for generating digest video image of soccer |
JP2003244728A (en) * | 2002-02-15 | 2003-08-29 | Mitsubishi Heavy Ind Ltd | Virtual image creating apparatus and virtual image creating method |
JP2007259988A (en) * | 2006-03-27 | 2007-10-11 | Konami Digital Entertainment:Kk | Game device, control method of game device and program |
JP2014127987A (en) * | 2012-12-27 | 2014-07-07 | Sony Corp | Information processing apparatus and recording medium |
-
2015
- 2015-06-30 JP JP2015131751A patent/JP6555513B2/en active Active
-
2016
- 2016-03-29 WO PCT/JP2016/060118 patent/WO2017002414A1/en active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002271733A (en) * | 2001-03-08 | 2002-09-20 | Jisedai Joho Hoso System Kenkyusho:Kk | Method for generating digest video image of soccer |
JP2003244728A (en) * | 2002-02-15 | 2003-08-29 | Mitsubishi Heavy Ind Ltd | Virtual image creating apparatus and virtual image creating method |
JP2007259988A (en) * | 2006-03-27 | 2007-10-11 | Konami Digital Entertainment:Kk | Game device, control method of game device and program |
JP2014127987A (en) * | 2012-12-27 | 2014-07-07 | Sony Corp | Information processing apparatus and recording medium |
Non-Patent Citations (1)
Title |
---|
"#042:自由視点映像でスポーツ観戦をカスタマイズ,TSUKUBA FUTURE", [ONLINE], JPN7018003959, 22 May 2015 (2015-05-22), ISSN: 0003923398 * |
Cited By (43)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11082725B2 (en) | 2017-02-27 | 2021-08-03 | Kddi Corporation | Video distribution system, terminal device, and video data distribution device |
JP2018142812A (en) * | 2017-02-27 | 2018-09-13 | Kddi株式会社 | Information distribution device and terminal device |
US10365784B2 (en) | 2017-03-08 | 2019-07-30 | Colopl, Inc. | Information processing method and apparatus for executing the information processing method |
JP2018147377A (en) * | 2017-03-08 | 2018-09-20 | 株式会社コロプラ | Information processing method, computer, and program for causing computer to execute the method |
US10936149B2 (en) | 2017-03-08 | 2021-03-02 | Colopl, Inc. | Information processing method and apparatus for executing the information processing method |
JP6248219B1 (en) * | 2017-03-08 | 2017-12-13 | 株式会社コロプラ | Information processing method, computer, and program for causing computer to execute information processing method |
US10599286B2 (en) | 2017-03-08 | 2020-03-24 | Colopl, Inc. | Information processing method and apparatus for executing the information processing method |
JP2022132286A (en) * | 2017-04-11 | 2022-09-08 | 株式会社バスキュール | Virtual reality provision system |
JP7421736B2 (en) | 2017-04-11 | 2024-01-25 | 株式会社バスキュール | Virtual reality provision system |
JP2018190163A (en) * | 2017-05-02 | 2018-11-29 | 株式会社コロプラ | Information processing method, computer, and program |
JP2019008776A (en) * | 2017-06-21 | 2019-01-17 | 株式会社コロプラ | Content providing method, program causing computer to execute the same and content providing device |
JP2019016862A (en) * | 2017-07-04 | 2019-01-31 | キヤノン株式会社 | Information processing device, information processing system, information processing device control method, and program |
JPWO2019012817A1 (en) * | 2017-07-14 | 2020-05-07 | ソニー株式会社 | Image processing apparatus, image processing method of image processing apparatus, and program |
WO2019012817A1 (en) * | 2017-07-14 | 2019-01-17 | ソニー株式会社 | Image processing device, image processing method for image processing device, and program |
US11727642B2 (en) | 2017-07-14 | 2023-08-15 | Sony Corporation | Image processing apparatus, image processing method for image processing apparatus, and program |
JP7322703B2 (en) | 2017-07-14 | 2023-08-08 | ソニーグループ株式会社 | Image processing device, image processing method for image processing device, and program |
JP2019028652A (en) * | 2017-07-28 | 2019-02-21 | キヤノン株式会社 | Display control device and display control method |
US11196974B2 (en) | 2017-07-28 | 2021-12-07 | Canon Kabushiki Kaisha | Display control apparatus and display control method |
JP6991768B2 (en) | 2017-07-28 | 2022-01-13 | キヤノン株式会社 | Display control device and display control method |
JP2019045995A (en) * | 2017-08-30 | 2019-03-22 | キヤノン株式会社 | Information processing device, control method of information processing device, information processing system and program |
JP2022060513A (en) * | 2017-08-30 | 2022-04-14 | キヤノン株式会社 | Information processing device, control method of information processing device, information processing system and program |
JP7030452B2 (en) | 2017-08-30 | 2022-03-07 | キヤノン株式会社 | Information processing equipment, information processing device control methods, information processing systems and programs |
JP7362806B2 (en) | 2017-08-30 | 2023-10-17 | キヤノン株式会社 | Information processing device, control method for information processing device, information processing system and program |
CN107832366A (en) * | 2017-10-25 | 2018-03-23 | 重庆虚拟实境科技有限公司 | Video sharing method and device, terminal installation and computer-readable recording medium |
JP7132730B2 (en) | 2018-03-14 | 2022-09-07 | キヤノン株式会社 | Information processing device and information processing method |
JP2019159950A (en) * | 2018-03-14 | 2019-09-19 | キヤノン株式会社 | Information processing device and information processing method |
JP7279452B2 (en) | 2018-03-30 | 2023-05-23 | 株式会社リコー | VR terminal, VR system, display method, and program |
JP2019185762A (en) * | 2018-03-30 | 2019-10-24 | 株式会社リコー | Vr terminal, vr system, presentation method and program |
JP2020013470A (en) * | 2018-07-20 | 2020-01-23 | キヤノン株式会社 | Information processing device, information processing method, and program |
US11622099B2 (en) | 2018-07-20 | 2023-04-04 | Canon Kabushiki Kaisha | Information-processing apparatus, method of processing information, and program |
JP2020067960A (en) * | 2018-10-26 | 2020-04-30 | キヤノン株式会社 | Image processing apparatus, image processing method, and program |
JP7313811B2 (en) | 2018-10-26 | 2023-07-25 | キヤノン株式会社 | Image processing device, image processing method, and program |
JP7339740B2 (en) | 2019-02-14 | 2023-09-06 | キヤノン株式会社 | IMAGE DISPLAY DEVICE, CONTROL METHOD AND PROGRAM FOR IMAGE DISPLAY DEVICE |
JP2020135130A (en) * | 2019-02-14 | 2020-08-31 | キヤノン株式会社 | Image display device, control method of image display device, and program |
JP2020177607A (en) * | 2019-04-15 | 2020-10-29 | 未來市股▲ふん▼有限公司 | Head-mounted display system switchable between first-person perspective mode and third-person perspective mode, related method, program, and non-transitory computer-readable storage medium |
JP7291224B2 (en) | 2019-07-26 | 2023-06-14 | 富士フイルム株式会社 | Information processing device, information processing method, and program |
JPWO2021020200A1 (en) * | 2019-07-26 | 2021-02-04 | ||
WO2021020200A1 (en) * | 2019-07-26 | 2021-02-04 | 富士フイルム株式会社 | Information processing device, information processing method, and program |
JP2021137425A (en) * | 2020-03-06 | 2021-09-16 | 株式会社コナミデジタルエンタテインメント | View point confirmation system |
JP7029189B2 (en) | 2020-03-06 | 2022-03-03 | 株式会社コナミデジタルエンタテインメント | Viewpoint confirmation system |
JP7520393B2 (en) | 2020-03-06 | 2024-07-23 | 株式会社コナミデジタルエンタテインメント | Viewpoint confirmation system |
JP2020123990A (en) * | 2020-05-16 | 2020-08-13 | 株式会社Dapリアライズ | Multiple video distribution system |
WO2023085493A1 (en) * | 2021-11-09 | 2023-05-19 | 한국전자기술연구원 | Electronic device for supporting content editing, and operating method therefor |
Also Published As
Publication number | Publication date |
---|---|
JP6555513B2 (en) | 2019-08-07 |
WO2017002414A1 (en) | 2017-01-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6555513B2 (en) | program | |
JP6575974B2 (en) | Head mounted display tracking system | |
JP6663505B2 (en) | Audience view perspective in VR environment | |
CN112334886B (en) | Content distribution system, content distribution method, and recording medium | |
CN105392538B (en) | In response to the image rendering of the user action in head-mounted display | |
US10296086B2 (en) | Dynamic gloves to convey sense of touch and movement for virtual objects in HMD rendered environments | |
CN105358227B (en) | Share 3d gaming process | |
US20170262154A1 (en) | Systems and methods for providing user tagging of content within a virtual scene | |
US11278810B1 (en) | Menu placement dictated by user ability and modes of feedback | |
CN105378596B (en) | System and method for changing between transparent mode and non-transparent mode in head-mounted display | |
JP6470356B2 (en) | Program and method executed by computer for providing virtual space, and information processing apparatus for executing the program | |
CN109475774A (en) | Spectators' management at view location in reality environment | |
CN110536726A (en) | Second screen virtual window of VR environment | |
JP6462059B1 (en) | Information processing method, information processing program, information processing system, and information processing apparatus | |
CN109069932A (en) | Watch VR environment associated with virtual reality (VR) user interaction | |
CN107735152A (en) | Expanded field of vision for virtual reality (VR) viewing renders again | |
CN107683166A (en) | For limiting filtering and the father and mother's control method of the visual activity on head mounted display | |
JP6392945B1 (en) | Program and method executed by computer for providing virtual space, and information processing apparatus for executing the program | |
CN110891659B (en) | Optimized delayed illumination and foveal adaptation of particle and simulation models in a point of gaze rendering system | |
KR101962578B1 (en) | A fitness exercise service providing system using VR | |
TW201903565A (en) | Method, device and non-volatile computer readable storage medium for displaying a bullet | |
JP7249975B2 (en) | Method and system for directing user attention to location-based gameplay companion applications | |
KR20180013892A (en) | Reactive animation for virtual reality | |
WO2018032970A1 (en) | Authentication method based on virtual reality scene, virtual reality device, and storage medium | |
JP6566209B2 (en) | Program and eyewear |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180326 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181120 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190118 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190613 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190626 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6555513 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |