JP2019086578A - Display of menu and switching of moving images in vr video display system - Google Patents
Display of menu and switching of moving images in vr video display system Download PDFInfo
- Publication number
- JP2019086578A JP2019086578A JP2017212881A JP2017212881A JP2019086578A JP 2019086578 A JP2019086578 A JP 2019086578A JP 2017212881 A JP2017212881 A JP 2017212881A JP 2017212881 A JP2017212881 A JP 2017212881A JP 2019086578 A JP2019086578 A JP 2019086578A
- Authority
- JP
- Japan
- Prior art keywords
- moving image
- camera viewpoint
- displayed
- camera
- moving images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- User Interface Of Digital Computer (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
Description
本発明は、VR動画表示システムに関し、特にVR動画表示システムにおけるメニュー表示と動画切替に関する。 The present invention relates to a VR video display system, and more particularly to menu display and video switching in the VR video display system.
近年、ヘッドマウントディスプレイ(以下、HMD)と呼ばれる、ユーザの頭部に装着され、眼前に配置されたディスプレイ等によってユーザに仮想得空間の画像を表示する装置が知られている。HMDにてアプリケーション(ゲームや動画表示等)の進行中のメニューの表示、非表示の切換方法として、例えば、ユーザの頭部の動きによる操作でメニューを表示/非表示操作可能なヘッドマウントディスプレイシステムが開示されている(特許文献1参照)。 2. Description of the Related Art In recent years, a device called head mounted display (hereinafter, HMD) is known that is mounted on the head of a user and displays an image of virtual space for the user by a display or the like placed in front of the eye. For example, a head mounted display system capable of displaying / non-displaying a menu by an operation by the movement of the head of a user as a method of switching display / non-display of a menu in progress of an application (game or moving image display) in HMD Are disclosed (see Patent Document 1).
しかしながら、特許文献1では、カメラの視点が1箇所のみであり、ユーザの見るカメラの視点が固定されてしまう。 However, in patent document 1, the viewpoint of a camera is only one place and the viewpoint of the camera which a user looks at will be fixed.
本発明は、上記課題を鑑みて、複数のカメラの視点を切り替えることが可能なVR動画表示システムを提供することを目的とする。 An object of the present invention is to provide a VR moving image display system capable of switching viewpoints of a plurality of cameras in view of the above-mentioned problems.
上記課題を解決するために、本発明のVR動画表示システムは、仮想空間における複数のカメラ視点の動画像を選択表示する動画表示システムであって、前記仮想空間における動画像を表示するヘッドマウントディスプレイと、前記ヘッドマウントディスプレイに表示された動画像内の複数のカメラ視点の動画像から所定のカメラ視点の動画像を選択する選択手段と、前記複数のカメラ視点の動画像から前記選択手段で選択したカメラ視点の動画像に切り替える切替手段と、を備えることを特徴とする。 In order to solve the above problems, a VR moving image display system according to the present invention is a moving image display system for selectively displaying moving images of a plurality of camera viewpoints in a virtual space, and a head mounted display displaying moving images in the virtual space And selecting means for selecting a moving image of a predetermined camera viewpoint from moving images of a plurality of camera viewpoints in the moving image displayed on the head mounted display, and selecting by the selecting means from moving images of the plurality of camera viewpoints And switching means for switching to a moving image of the camera viewpoint.
本発明によれば、複数のカメラの視点を切り替えることが可能なVR動画表示システムを提供することができる。 According to the present invention, it is possible to provide a VR moving image display system capable of switching the viewpoints of a plurality of cameras.
以下、本発明を実施するための最良の形態について図面などを参照して説明する。 Hereinafter, the best mode for carrying out the present invention will be described with reference to the drawings and the like.
図1は、VR動画表示システムの全体の概要を示す図である。本実施形態に係るVR動画表示システムは、仮想空間における複数のカメラ視点の動画像を選択表示する動画表示システムであって、ユーザ2の頭部に装着するヘッドマウントディスプレイ1を備える。HMD1は、制御部11と、表示部12と、傾き検出部13と、計測部14と、判定部15と、切替部16を備える。
FIG. 1 is a diagram showing an overview of the VR moving image display system. The VR moving image display system according to the present embodiment is a moving image display system that selectively displays moving images of a plurality of camera viewpoints in a virtual space, and includes a head mounted display 1 mounted on the head of a
制御部11は、表示部12と、傾き検出部13と、計測部14と、判定部15と、切替部16の全体を制御する。表示部12は、ユーザ2の視界を完全に覆うように構成された非透過型の表示装置である。ユーザ2は、表示部12に表示される画面(動画、ゲーム等)のみを観察することができる。HMD1を装着したユーザ2は、HMD1の外の視界を全て遮られて、制御部11において実行されるアプリケーションにより表示される仮想空間に完全に没入することができる。傾き検出部13は、不図示の傾き検知センサによりユーザ2の頭部に装着されたHMD1の動きに応じてHMD1の傾きを検出する。本実施形態では、ユーザ2が直立する方向である重力方向をZ軸とし、Z軸と直行し表示部12とユーザ2を結ぶ方向の軸をX軸とし、Z軸とX軸と直行する方向の軸をY軸とする。傾き検出部13は、各軸の角度や軸周りの角度を検出する。
The
計測部14は、HMD1の動きが止まった(ユーザ2が凝視している)際の時間経過を計測する。例えば、再生中のHMD1の動きが止まった(所定の閾値(第1の閾値)未満)に計測を開始し、傾き検出部13により所定の閾値(第2の閾値)以上HMD1が動いたことを検出するまでの時間を計測する。そして、計測した時間が所定の時間以上である場合に、そのカメラ視点映像を保存する。例えば、2回目以降の再生の際に保存したカメラ視点映像を再生させてよい。判定部15は、所定の判定基準に従って判定を行う。具体的には、傾き検出部13が検出したHMD1の傾きの角度が所定の値(角度)以上か否かを判定する。切替部16は、表示部12に表示される後述のポインタ(選択手段)の選択に応じてカメラ視点の映像を切り替える。
The
図2は、本実施形態に係るVR動画の視聴イメージを示す図である。本実施形態では、VR動画(360度動画)として音楽のライブ映像を例として説明する。なお、VR動画は音楽ライブ映像に限定することなく、例えば、スポーツの映像やゲーム等の他の映像であてよい。図2に示すイメージとしては、音楽のライブ会場でユーザ2がステージ正面にいてライブを楽しむ視聴イメージである。
FIG. 2 is a view showing a viewing image of a VR moving image according to the present embodiment. In this embodiment, a live video of music is described as an example of a VR video (360-degree video). Note that the VR moving image is not limited to a music live image, and may be, for example, a sport image or another image such as a game. The image shown in FIG. 2 is a viewing image in which the
画像21は、ユーザ2がHMD1を装着してVR動画を視聴している状態で、ステージ正面を視聴している際の画像である。画像22は、ユーザ2がHMD1を装着してVR動画を視聴している状態で、頭部のみを左方向に向けた際に観られる画像である。画像23は、ユーザ2がHMD1を装着してVR動画を視聴している状態で、頭部のみを右方向に向けた際に観られる画像である。ユーザ2は、HMD1を装着した状態で音楽ライブのVR動画を視聴する際には、頭部を動かすだけで、正面画像のみならず、360°の全方位の画像を視聴することができ、自身がそのライブ会場の最前列で音楽ライブを視聴している感覚になる。
An
図3は、ユーザ2がHMD1を装着した状態で頭部を所定の角度下げた状態で表示されるメニューを示す図である。画像31は、ユーザ2がHMD1を装着してVR動画を視聴している状態で、頭部を所定の角度下げた際に表示される画像である。画像31には、第1カメラ視点映像32と、第2カメラ視点映像33と、第3カメラ視点映像34と、ポインタ35がライブ映像の前面に重ね合わせた状態で表示される。
FIG. 3 is a view showing a menu displayed with the head lowered by a predetermined angle in a state where the
第1カメラ視点映像32と、第2カメラ視点映像33と、第3カメラ視点映像34は、ユーザ2がHMD1を装着した状態で、頭部を所定の角度だけ下げることにより視覚に入るように予め表示部12に重ね合わせた状態で表示されている。つまり、傾き検出部13がHMD1の傾きを計測し、所定の角度を検出した場合にのみ表示させるのではなく、予め表示している。
The first
ポインタ35は、傾き検出部13がHMD1の傾きを計測し、所定の角度を検出した場合に表示部12に表示される。ユーザ2は、所定の角度だけ頭部を下げて各カメラ視点映像とポインタ35が表示されている状態で、ポインタ35を移動させて、複数のカメラ視点映像から所望するカメラ視点映像を選択する。そして、切替部16により選択したカメラ視点映像へ切り替えて表示部12に表示する。ポインタ35の選択方法としては、例えば、ポインタ35が画面中央に表示されており、ユーザ2が頭部を移動させることでポインタ35移動する方法であってよく、ユーザ2の視線を不図示の検出手段で検出してユーザ2の視線によりポインタ35を移動する方法であってよい。なお、ポインタ35の移動方法については、上記の方法に限定しない。
The
本実施形態では、「Now Playing」が現在VR動画としてユーザ2が視聴しているカメラ視点の映像が第1カメラ視点映像32の映像であることを示す。ここで、カメラ視点とは、音楽ライブ会場にて観覧席を切り替える視点であることを示す。つまり、本実施形態において、第1カメラ視点映像32は、音楽ライブ会場にて会場の正面で観覧する場合の視点を示し、第2カメラ視点映像33は、音楽ライブ会場にて会場のステージ正面左で観覧する場合の視点を示し、第3カメラ視点映像34は、音楽ライブ会場にて会場のステージ正面右で観覧する場合の視点を示す。
In the present embodiment, “Now Playing” indicates that the video of the camera viewpoint currently viewed by the
図4は、各カメラ視点映像を切り替えた際の各カメラ視点映像を示す図である。画像42は、第1カメラ視点映像32の動画像であり、画像43は、第2カメラ視点映像33の動画像であり、画像44は、第3カメラ視点映像34の動画像である。ユーザ2は、ポインタ35により所望のカメラ視点映像を選択し、切替部16により選択したカメラ視点映像に切り替えて表示部12に表示することで、所望の位置で音楽ライブを観覧している状態となる。本実施形態では、ポインタ35を用いてユーザ2の所望するカメラ視点映像を選択しているが、これに限定することなく、所定のタイミングで自動的にカメラ視点映像を切り替えてもよい。
FIG. 4 is a diagram showing each camera viewpoint video when switching each camera viewpoint video. The
図5は、ポインタ35を用いてカメラ視点映像を切り替える処理を示すフローチャートである。まず、ステップS501で、不図示のサーバから映像がストリーミング配信されてVR動画が再生される。VR動画の再生のタイミングについては、例えば、ユーザ2がHMD1を装着したタイミングであってよく、ユーザ2がHMD1を装着した状態で所定のボタンを押したタイミグであってよく、そのタイミングについては、限定しない。
FIG. 5 is a flowchart showing the process of switching the camera viewpoint video using the
また、再生するVR動画については、最初の再生の場合はデフォルトのVR動画であってよい。また、2回目以降にVR動画を再生する場合には、それまで再生したVR動画において、計測部14で計測したユーザ2の視聴時間や凝視時間が長いカメラ視点映像を選択して再生してもよい。具体的には、最初に再生する場合には、図4に示す第1カメラ視点映像32の画像42を再生する。そして、2回目以降は、ユーザ2の視聴時間や凝視時間が長いカメラ視点映像を選択して再生する。具体的には、前回までの再生で、計測部14が計測した第2カメラ視点映像33の画像43を凝視する時間が一定時間以上である場合(つまり、HMD1に表示される動画像の所定の領域が所定の時間以上連続して表示された場合)、ステップS501で第2カメラ視点映像33の画像43を再生する。
Also, for the VR video to be played back, in the case of the first playback, it may be the default VR video. In addition, in the case of reproducing the VR moving image for the second time or later, even if the
次に、ステップS502で、判定部15は、傾き検出部13が所定の角度を検出したか否かを判定する。具体的には、X軸とZ軸の間の角度(ユーザ2が正面を向いた状態を0°とし、正面を向いた状態から下向き方向(地面を見る方向)の角度θ)を検出し、角度θが所定の角度αを超えたか否かを判定する。ステップS502で判定部15が、傾き検出部13が検出したHMD1の角度θが所定の角度αを超えたと判定した場合(Yes)、ステップS503に進み、所定の角度αを超えていないと判定した場合(No)、そのままVR動画を再生し続ける。
Next, in step S502, the
次に、ステップS503で、表示部12にポインタ35が再生中のVR動画に重ね合わせて表示される。この時、図3に示すように、各カメラ視点映像は、表示部12に予め再生中のVR動画に重ね合わせて表示されているものとする。次に、ステップS504で、ポインタ35により、カメラ視点映像が選択されたか否かを判定する。具体的には、判定部15が、ポインタ35で第1カメラ視点映像32、第2カメラ視点映像33、第3カメラ視点映像34の中から、表示中のカメラ視点映像以外のいずれかのカメラ視点映像を選択したか否かを判定する。
Next, in step S503, the
ステップS504で判定部15が再生中のカメラ視点映像以外の所定のカメラ視点映像を選択したと判定した場合(Yes)、ステップS505に進み、再生中のカメラ視点映像以外の所定のカメラ視点映像を選択していないと判定した場合(No)、そのままVR動画を再生し続ける。次に、ステップS505で、切替部16により、選択した所定のカメラ視点映像に切り替えて表示部12に表示させて処理を終了する。
If it is determined in step S504 that the
以上、本実施形態によれば、複数のカメラの視点の映像を切り替えることが可能なVR動画表示システムを提供することができる。これにより、ユーザ2がHMD1を装着した状態で音楽ライブのライブ会場の複数の場所で音楽ライブを観覧しているような感覚になることができる。
As described above, according to the present embodiment, it is possible to provide a VR moving image display system capable of switching images of viewpoints of a plurality of cameras. This makes it possible for the
本実施形態では、再生中のVR動画に選択用の第1カメラ視点映像32、第2カメラ視点映像33、第3カメラ視点映像34を重ねて表示させているが、これに限定することなく、例えば、カメラ視点映像以外の早送りや2倍速、スロー、スキップなどのメニューを表示させてもよい。
In the present embodiment, the first
また、本実施形態では、音楽ライブのVR動画を用いて説明したが、これに限定することなく、例えば、スポーツの映像やゲーム等の他の映像であてよい。スポーツ映像の場合は、野球観戦であれば、1塁側、3塁側、バックスタンド、バックネット裏等のカメラ視点映像を切り替えてよく、バドミントンであれば、各コートからの視点や審判の視点等のカメラ視点映像を切り替えてよい。ゲームの映像の場合、登場人物の目線に応じたカメラ視点映像を切り替えてもよい。 Further, although the present embodiment has been described using live music VR moving images, the present invention is not limited to this, and may be, for example, other images such as sports videos and games. In the case of sports video, if you are watching a baseball game, you may switch the camera viewpoint video such as the first base, the third base, the back stand, the back net back etc. You may switch camera viewpoint video such as. In the case of the video of the game, the camera viewpoint video may be switched according to the gaze of the character.
また、本実施形態では、ポインタ35を用いて複数のカメラ視点映像からユーザ2の所望するカメラ視点映像を選択して切り替えているが、これに限定することなく、所定のタイミングで自動的に切り替えてもよい。具体的には、HMD1が閾値以上の動きが無い状態で、計測部14が一定時間以上の時間を計測した場合に、その画像の中央の所定座標を追尾する対象と設定する。そして、追尾する対象の動きに応じて自動的にカメラ視点映像を切り替えてもよい。つまり、図4に示す第3カメラ視点34の画像44を再生中に追尾する対象を設定した場合、当該追尾対象がステージ上で、例えば、ステージ正面右(第3カメラ視点映像34)からステージ正面左(第2カメラ視点映像33)に移ると、自動的に第2カメラ視点映像33の画像43に切り替わる。
Further, in the present embodiment, the camera viewpoint video desired by the
また、本実施形態では、再生中のVR動画像上に第1カメラ視点映像32、第2カメラ視点映像33、第3カメラ視点映像34を重ねて表示させているが、例えば、課金額に応じて選択するカメラ視点映像の個数を変更してもよい。具体的には、課金のランク付けをする(例えば、高額課金をしたユーザ2は、ランクAのユーザ、少額課金をしたユーザ2は、ランクBのユーザとする)。この場合、ランクAのユーザは、再生中のVR動画に第1カメラ視点映像32、第2カメラ視点映像33、第3カメラ視点映像34を重ねて表示させる。一方、ランクBのユーザについては、再生可能なVR動画を第1カメラ視点映像32のみとし、他のカメラ視点映像を表示させず、ポインタ35も表示させない。ユーザ2の課金ランクについては、不図示のサーバに予め課金ランクを登録している状態で、ステップS501でサーバからストリーミング配信をする際に課金のランクを判定し、判定結果に応じて、ストリーミング配信を行ってもよい。
Further, in the present embodiment, the first
以上、本発明の好ましい実施形態について説明したが、本発明は、これらの実施形態に限定されず、その要旨の範囲内で種々の変形および変更が可能である。 Although the preferred embodiments of the present invention have been described above, the present invention is not limited to these embodiments, and various modifications and changes are possible within the scope of the present invention.
1 HMD(ヘッドマウントディスプレイ)
16 切替部
32 第1カメラ視点映像
33 第2カメラ視点映像
34 第3カメラ視点映像
35 ポインタ
1 HMD (head mounted display)
16
Claims (5)
前記仮想空間における動画像を表示するヘッドマウントディスプレイと、
前記ヘッドマウントディスプレイに表示された動画像内の複数のカメラ視点の動画像から所定のカメラ視点の動画像を選択する選択手段と、
前記複数のカメラ視点の動画像から前記選択手段で選択したカメラ視点の動画像に切り替える切替手段と、
を備える
ことを特徴とするVR動画表示システム。 A moving image display system for selectively displaying moving images of a plurality of camera viewpoints in a virtual space, comprising:
A head mounted display for displaying a moving image in the virtual space;
Selecting means for selecting a moving image of a predetermined camera viewpoint from moving images of a plurality of camera viewpoints in the moving image displayed on the head mounted display;
Switching means for switching from moving images of the plurality of camera viewpoints to moving images of the camera viewpoint selected by the selecting device;
A VR video display system comprising:
ことを特徴とする請求項1に記載のVR動画表示システム。 The moving images of the plurality of camera viewpoints are displayed in advance in a predetermined position of the moving image on the moving image being displayed by the display unit, and the selecting unit is configured to display the plurality of cameras displayed in an overlapping manner. The VR moving image display system according to claim 1, wherein a moving image of any one camera viewpoint is selected from the moving images of the viewpoint.
ことを特徴とする請求項2に記載のVR動画表示システム。 The VR moving image display system according to claim 2, wherein the selection unit is displayed when the inclination detected by the detection unit is equal to or more than a predetermined angle in the downward direction.
ことを特徴とする請求項1〜3のいずれか1項に記載の動画表示システム。 The switching unit switches to a moving image according to the predetermined area when the predetermined area of the moving image displayed on the head mount display is continuously displayed for a predetermined time or more. The video display system according to any one of Items 1 to 3.
ことを特徴とする請求項1〜4のいずれか1項に記載の動画表示システム。
The moving image display system according to any one of claims 1 to 4, wherein the number of the plurality of camera viewpoint moving images to be displayed is determined according to a charging amount for the user.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017212881A JP2019086578A (en) | 2017-11-02 | 2017-11-02 | Display of menu and switching of moving images in vr video display system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017212881A JP2019086578A (en) | 2017-11-02 | 2017-11-02 | Display of menu and switching of moving images in vr video display system |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019086578A true JP2019086578A (en) | 2019-06-06 |
Family
ID=66764198
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017212881A Pending JP2019086578A (en) | 2017-11-02 | 2017-11-02 | Display of menu and switching of moving images in vr video display system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2019086578A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021261099A1 (en) * | 2020-06-23 | 2021-12-30 | ソニーグループ株式会社 | Information processing device, display range determination method, and program |
-
2017
- 2017-11-02 JP JP2017212881A patent/JP2019086578A/en active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021261099A1 (en) * | 2020-06-23 | 2021-12-30 | ソニーグループ株式会社 | Information processing device, display range determination method, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220283632A1 (en) | Iinformation processing apparatus, image generation method, and computer program | |
JP6511386B2 (en) | INFORMATION PROCESSING APPARATUS AND IMAGE GENERATION METHOD | |
WO2018051815A1 (en) | Information processing apparatus and method and program | |
US8330793B2 (en) | Video conference | |
US20150201134A1 (en) | System and media interface for multi-media production | |
TWI669635B (en) | Method and device for displaying barrage and non-volatile computer readable storage medium | |
CN109729365A (en) | A kind of method for processing video frequency, device and intelligent terminal, storage medium | |
CN102111542B (en) | Image processing apparatus, imaging apparatus and image processing method | |
US11865448B2 (en) | Information processing apparatus and user guide presentation method | |
US20180249075A1 (en) | Display method and electronic device | |
WO2021044745A1 (en) | Display processing device, display processing method, and recording medium | |
US11521346B2 (en) | Image processing apparatus, image processing method, and storage medium | |
JP2019012441A (en) | Program executed on computer for providing virtual space, information processing apparatus, and method for providing virtual space | |
WO2009035199A1 (en) | Virtual studio posture correction machine | |
US20230276098A1 (en) | Method, apparatus and computer program product for presenting a sporting event | |
JP2017173252A (en) | Image processing apparatus, image processing method, and image processing program | |
US12001645B2 (en) | Methods, systems, and media for presenting media content previews | |
JP2024079736A (en) | Image display device, control method, and program | |
US20210385554A1 (en) | Information processing device, information processing method, and information processing program | |
US20200257112A1 (en) | Content generation apparatus and method | |
JP2019086578A (en) | Display of menu and switching of moving images in vr video display system | |
JP6164780B2 (en) | A moving image processing apparatus, a moving image processing method, a moving image processing program, and a moving image processing display system. | |
WO2019235106A1 (en) | Heat map presentation device and heat map presentation program | |
US20210082174A1 (en) | Image processing apparatus, image processing method, and storage medium | |
US20230396748A1 (en) | Image processing apparatus, image processing method, and storage medium |