JP6695482B1 - Control server, distribution system, control method and program - Google Patents

Control server, distribution system, control method and program Download PDF

Info

Publication number
JP6695482B1
JP6695482B1 JP2019120101A JP2019120101A JP6695482B1 JP 6695482 B1 JP6695482 B1 JP 6695482B1 JP 2019120101 A JP2019120101 A JP 2019120101A JP 2019120101 A JP2019120101 A JP 2019120101A JP 6695482 B1 JP6695482 B1 JP 6695482B1
Authority
JP
Japan
Prior art keywords
state
camera
virtual space
program
distributor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019120101A
Other languages
Japanese (ja)
Other versions
JP2021005319A (en
Inventor
量生 川上
量生 川上
俊博 清水
俊博 清水
尚 小嶋
尚 小嶋
寛明 齊藤
寛明 齊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dwango Co Ltd
Original Assignee
Dwango Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dwango Co Ltd filed Critical Dwango Co Ltd
Priority to JP2019120101A priority Critical patent/JP6695482B1/en
Priority to JP2020075125A priority patent/JP7360989B2/en
Application granted granted Critical
Publication of JP6695482B1 publication Critical patent/JP6695482B1/en
Publication of JP2021005319A publication Critical patent/JP2021005319A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】仮想空間内のアバターを撮影した動画の配信において、状況に応じて適したカメラ割りを行う。【解決手段】仮想空間を撮影する仮想カメラを制御する制御サーバ20は、複数のカメラ割りのそれぞれを状態とし、仮想空間の状況を遷移条件とした有限オートマトンを記憶する記憶部23と、仮想空間の状況を解析する解析部21と、解析結果に基づき、有限オートマトンに従ってカメラ割りの状態を遷移させて、遷移後の状態に応じたカメラ割りとなるように仮想カメラを制御する制御部22を備える。【選択図】図3PROBLEM TO BE SOLVED: To perform camera allocation suitable for a situation in distribution of a moving image of an avatar in a virtual space. A control server 20 for controlling a virtual camera for photographing a virtual space stores a finite state automaton in which each of a plurality of camera divisions is in a state, and a virtual space situation is a transition condition, and a virtual space. And a control unit 22 that transitions the state of camera division according to the finite state automaton based on the analysis result and controls the virtual camera so that the state of camera division is changed according to the state after transition. . [Selection diagram] Fig. 3

Description

本発明は、制御サーバ、配信システム、制御方法及びプログラムに関する。   The present invention relates to a control server, a distribution system, a control method and a program.

仮想現実(VR)技術を利用し、仮想空間内のスタジオでの番組を仮想カメラで撮影した映像を配信するサービスが知られている。配信者は、仮想空間内でアバターとして番組に参加する。仮想空間内のスタジオを利用することで、遠隔地の複数の配信者が共同して番組を進行することもできる。また、視聴者もアバターとして番組に参加することもできる。   There is known a service that uses virtual reality (VR) technology to distribute a video taken by a virtual camera of a program in a studio in a virtual space. The distributor participates in the program as an avatar in the virtual space. By using a studio in a virtual space, it is possible for a plurality of distributors in remote areas to collaborate on a program. Viewers can also participate in the program as avatars.

特許4625058号Patent No. 4625058

仮想空間内に複数のアバターが存在する番組では、参加しているアバター全員を撮影した映像や発言しているアバターのアップの映像など、番組の進行に応じてカメラ割りを変えると見やすい番組を配信できる。   For programs that have multiple avatars in the virtual space, you can distribute programs that are easy to view by changing the camera split according to the progress of the program, such as a video of all participating avatars and a video of the avatars speaking. it can.

しかしながら、状況に適したカメラ割りをするためには、仮想空間内の仮想カメラを操作するスタッフが必要である。1人または少人数で番組を生配信する場合は、カメラを操作する専門のスタッフはおらず、状況に応じたカメラ割りをすることが難しいという問題があった。   However, in order to assign a camera suitable for the situation, a staff member who operates a virtual camera in the virtual space is required. When one person or a small number of people broadcast the program live, there is no specialist staff to operate the camera and it is difficult to divide the camera according to the situation.

特許文献1には、ユーザの指示またはシナリオによりアバターを仮想空間内で自動的に行動させ、ユーザからの指示によって位置の異なる複数のカメラの撮影画像を切り替える技術が開示されている。特許文献1には、仮想空間内の複数の位置に配置されたカメラの撮影画像を切り替えることは開示されているが、カメラの切り替えは、ユーザの指示または仮想空間内の所定の位置及び時間を予め定めたシナリオに基づくものであり、状況に応じて自動的に切り替わるものではない。   Patent Document 1 discloses a technique in which an avatar is caused to automatically act in a virtual space according to a user's instruction or a scenario, and images taken by a plurality of cameras at different positions are switched according to the user's instruction. Japanese Patent Application Laid-Open No. 2004-242242 discloses switching the captured images of the cameras arranged at a plurality of positions in the virtual space, but the switching of the camera requires a user's instruction or a predetermined position and time in the virtual space. It is based on a predetermined scenario and is not automatically switched according to the situation.

本発明は、上記に鑑みてなされたものであり、仮想空間を撮影した動画の配信において、状況に応じて適したカメラ割りを自動的に行うことを目的とする。   The present invention has been made in view of the above, and an object of the present invention is to automatically perform camera allocation suitable for a situation in distribution of a moving image of a virtual space.

本発明の一態様の制御サーバは、仮想空間内の番組を撮影する仮想カメラを制御する制御サーバであって、複数のカメラ割りのそれぞれを状態とし、前記仮想空間の状況を遷移条件とした有限オートマトンを記憶する記憶部と、前記仮想空間の状況を解析する解析部と、解析結果に基づき、前記有限オートマトンに従ってカメラ割りの状態を遷移させて、遷移後の状態に応じたカメラ割りとなるように前記仮想カメラを制御する制御部を備え、前記遷移条件は、前記仮想空間内のアバターの発話に関する条件であり、前記番組を視聴する端末の種別に応じて適用する有限オートマトンを変更するA control server according to one aspect of the present invention is a control server that controls a virtual camera that captures a program in a virtual space, and sets each of a plurality of camera divisions as a state and sets a condition of the virtual space as a transition condition. A storage unit that stores an automaton, an analysis unit that analyzes the state of the virtual space, and based on the analysis result, the state of camera division is changed in accordance with the finite state automaton so that the camera division is changed according to the state after the transition. wherein a control unit for controlling the virtual camera, the transition condition, the Ri condition der regarding speech avatar in the virtual space, change the finite automaton to be applied according to the type of terminal that view the programs.

本発明の一態様の配信システムは、仮想空間内の番組を撮影した映像を端末へ配信する配信システムであって、仮想空間内の番組を撮影した映像を端末へ配信する配信サーバと前記仮想空間内の番組を撮影する仮想カメラを制御する制御サーバを有し、前記制御サーバは、複数のカメラ割りのそれぞれを状態とし、前記仮想空間の状況を遷移条件とした有限オートマトンを記憶する記憶部と、前記仮想空間の状況を解析する解析部と、解析結果に基づき、前記有限オートマトンに従ってカメラ割りの状態を遷移させて、遷移後の状態に応じたカメラ割りとなるように前記仮想カメラを制御する制御部を備え、前記遷移条件は、前記仮想空間内のアバターの発話に関する条件であり、前記制御サーバは、前記端末の種別に応じて適用する有限オートマトンを変更するA distribution system according to one aspect of the present invention is a distribution system that distributes a video image of a program in a virtual space to a terminal, and a distribution server that distributes a video image of a program in the virtual space to a terminal and the virtual space. And a storage unit for storing a finite state automaton in which each of a plurality of camera divisions is in a state and the virtual space situation is a transition condition. An analysis unit that analyzes the situation in the virtual space, and based on the analysis result, transitions the state of camera division according to the finite state automaton, and controls the virtual camera such that the state of camera division is changed according to the state after transition. a control unit, the transition condition, Ri condition der related speech of the avatar in the virtual space, the control server changes the finite automaton to be applied according to the type of the terminal.

本発明によれば、仮想空間を撮影した動画の配信において、状況に応じて適したカメラ割りを自動的に行うことができる。具体的には、本発明によれば、有限オートマトンを用いてカメラ割りを制御することにより、VRコンテンツにおける配信者の挙動に応じて無限にシナリオ(カメラ割り)が増えることなく、効果のあるシナリオに絞られて演出上の効果が発揮される。   According to the present invention, in distribution of a moving image of a virtual space, it is possible to automatically perform camera allocation suitable for the situation. Specifically, according to the present invention, by controlling the camera allocation using a finite automaton, an effective scenario can be achieved without infinitely increasing the scenarios (camera allocation) according to the behavior of the distributor in the VR content. The effect on the production is demonstrated by narrowing down to.

図1は、本実施形態の番組配信システムの全体的な構成例を示すブロック図である。FIG. 1 is a block diagram showing an example of the overall configuration of the program distribution system of this embodiment. 図2は、配信者がヘッドマウントディスプレイを装着した様子を示す図である。FIG. 2 is a diagram showing a distributor wearing a head mounted display. 図3は、制御サーバの構成例を示す機能ブロック図である。FIG. 3 is a functional block diagram showing a configuration example of the control server. 図4は、制御サーバの保持する有限オートマトンの一例を示す図である。FIG. 4 is a diagram showing an example of a finite state automaton held by the control server. 図5は、制御サーバによる仮想カメラの制御処理の流れを示すフローチャートである。FIG. 5 is a flowchart showing the flow of control processing of the virtual camera by the control server. 図6は、仮想空間内のスタジオの一例を示す図である。FIG. 6 is a diagram showing an example of a studio in the virtual space. 図7は、仮想空間内のスタジオの全体を撮影した画面例を示す図である。FIG. 7 is a diagram showing an example of a screen shot of the entire studio in the virtual space. 図8は、2人の配信者アバターを撮影した画面例を示す図である。FIG. 8 is a diagram showing an example of a screen shot of two distributor avatars. 図9は、一方の配信者アバターのアップを撮影した画面例を示す図である。FIG. 9 is a diagram showing an example of a screen shot of an image of one of the distributor avatars. 図10は、他方の配信者アバターのアップを撮影した画面例を示す図である。FIG. 10 is a diagram showing an example of a screen shot of an image of the other distributor avatar. 図11は、画面を分割して配信者アバターを表示した画面例を示す図である。FIG. 11 is a diagram showing an example of a screen in which the distributor avatar is displayed by dividing the screen. 図12は、ディスプレイオブジェクトの両脇に配信者アバターを配置した画面例を示す図である。FIG. 12 is a diagram showing an example of a screen in which a distributor avatar is arranged on both sides of a display object.

[システム構成]
以下、本発明の一実施形態の番組配信システムについて図面を用いて説明する。
[System configuration]
A program distribution system according to an embodiment of the present invention will be described below with reference to the drawings.

本実施形態の番組配信システムは、配信者が3次元仮想空間内で配信者アバターとして番組に参加し、番組が進行する仮想空間を撮影した映像をライブ配信するシステムである。また、本実施形態の番組配信システムでは、視聴者も配信者と同じ仮想空間内に視聴者アバターとして番組に参加できる。   The program distribution system according to the present embodiment is a system in which a distributor participates in a program as a distributor avatar in a three-dimensional virtual space, and a video image of a virtual space in which the program progresses is live-distributed. Further, in the program distribution system of this embodiment, a viewer can also participate in a program as a viewer avatar in the same virtual space as the distributor.

図1に示す本実施形態の番組配信システムは、配信サーバ10、制御サーバ20、配信者端末30、および視聴者端末40を備える。各装置は、ネットワークを介して接続されている。配信サーバ10と制御サーバ20は動画配信サービスを提供する事業者が用意する装置である。配信者端末30と視聴者端末40は、配信者および視聴者のそれぞれが自身で所有または用意する端末である。事業者から見れば、配信者と視聴者の双方が自社サービスを利用するユーザである。もちろん、事業者自身が配信者となってもよい。図1では、2台の配信者端末30と3台の視聴者端末40を図示しているが、各装置の台数をこれに限るものではない。   The program distribution system of the present embodiment shown in FIG. 1 includes a distribution server 10, a control server 20, a distributor terminal 30, and a viewer terminal 40. Each device is connected via a network. The distribution server 10 and the control server 20 are devices prepared by a company that provides a moving picture distribution service. The distributor terminal 30 and the viewer terminal 40 are terminals that the distributor and the viewer own or prepare by themselves. From the viewpoint of the business operator, both the distributor and the viewer are users who use the company's services. Of course, the business operator itself may be the distributor. Although FIG. 1 illustrates two distributor terminals 30 and three viewer terminals 40, the number of each device is not limited to this.

配信サーバ10は、ネットワークを介して、配信者端末30から配信者の音声および配信者アバターのモーションデータを受信する。例えば、2人の配信者が参加する番組であれば、2人の配信者それぞれの配信者端末30から2人の配信者それぞれの音声および配信者アバターのモーションデータを受信する。配信サーバ10は、モーションデータに基づいて配信者アバターの動きを制御する。モーションデータはアバターの表情を含んでもよい。   The distribution server 10 receives the voice of the distributor and the motion data of the distributor avatar from the distributor terminal 30 via the network. For example, in the case of a program in which two distributors participate, the voices of the two distributors and the motion data of the distributor avatars are received from the distributor terminals 30 of the two distributors. The distribution server 10 controls the movement of the distributor avatar based on the motion data. The motion data may include facial expressions of the avatar.

配信サーバ10は、音声および仮想カメラで仮想空間を撮影した映像(配信サーバ10がレンダリングした映像)を視聴者端末40へ配信する。配信サーバ10は、仮想空間をレンダリングするためのデータセットを視聴者端末40へ送信し、視聴者端末40が仮想空間をレンダリングしてもよい。配信サーバ10は、配信者端末30へ映像を配信してもよい。   The distribution server 10 distributes to the viewer terminal 40 the audio and the video captured in the virtual space by the virtual camera (the video rendered by the distribution server 10). The distribution server 10 may transmit the data set for rendering the virtual space to the viewer terminal 40, and the viewer terminal 40 may render the virtual space. The distribution server 10 may distribute the video to the distributor terminal 30.

配信者端末30や視聴者端末40がヘッドマウントディスプレイ(HMD)などを備えたVR機能を有する端末であれば、配信サーバ10は、仮想空間を構築するためのデータセットを端末へ送信する。端末は、受信したデータセットに基づいて仮想空間を構築し、HMDで検知した視線方向に基づいて仮想空間をレンダリングして、HMDに映像を映す。なお、仮想空間のレンダリングは配信サーバ10が行ってもよい。例えば、配信サーバ10が端末から視線方向を受信し、配信サーバ10が受信した視線方向に基づいて仮想空間をレンダリングした映像を端末へ配信し、端末は受信した映像をHMDに映す。   If the distributor terminal 30 or the viewer terminal 40 is a terminal having a VR function including a head mounted display (HMD) or the like, the distribution server 10 transmits a data set for constructing a virtual space to the terminal. The terminal constructs a virtual space based on the received data set, renders the virtual space based on the line-of-sight direction detected by the HMD, and displays an image on the HMD. The rendering of the virtual space may be performed by the distribution server 10. For example, the distribution server 10 receives the line-of-sight direction from the terminal, distributes the image in which the virtual space is rendered based on the line-of-sight direction received by the distribution server 10 to the terminal, and the terminal projects the received image on the HMD.

配信サーバ10は、視聴者端末40からコメントを受信し、配信する映像にコメントを重畳させてもよい。   The distribution server 10 may receive the comment from the viewer terminal 40 and superimpose the comment on the video to be distributed.

番組に視聴者を参加させてもよい。例えば、視聴者が視聴者端末40に対して番組に参加する操作を行うと、配信サーバ10は、視聴者が番組に参加することを知らせる通知を視聴者端末40から受信する。配信サーバ10は、視聴者に対応する視聴者アバターを仮想空間内に配置する。視聴者が番組に参加しているときは、配信サーバ10は、視聴者の音声および視聴者アバターのモーションデータを視聴者端末40から受信し、モーションデータに基づいて視聴者アバターの動きを制御する。   Viewers may participate in the program. For example, when the viewer operates the viewer terminal 40 to participate in the program, the distribution server 10 receives from the viewer terminal 40 a notification informing that the viewer will participate in the program. The distribution server 10 arranges a viewer avatar corresponding to the viewer in the virtual space. When the viewer is participating in the program, the distribution server 10 receives the voice of the viewer and the motion data of the viewer avatar from the viewer terminal 40, and controls the movement of the viewer avatar based on the motion data. ..

制御サーバ20は、仮想空間での番組を撮影する仮想カメラを制御する装置である。制御サーバ20は、カメラ割りを状態とし、仮想空間の状況を遷移条件とした有限オートマトンに従って仮想空間内の仮想カメラを制御する。制御サーバ20は、状態の遷移に従って仮想空間内のレイアウト(オブジェクトの配置)を変更してもよい。制御サーバ20の詳細については後述する。本実施形態が用いる有限オートマトンとは、有限個の状態と遷移と動作の組み合わせからなる数学的に抽象化されたモデルである。有限個の「状態」のうちある時点では1つの状態しかとらず、何らかのイベントや条件によってある状態から別の状態へと移行する。ある状態から別の状態へ移行することを「遷移」と呼ぶ。有限オートマトンは、それぞれの状態から遷移しうる状態と、遷移のきっかけとなる条件を列挙することで定義される。   The control server 20 is a device that controls a virtual camera that shoots a program in a virtual space. The control server 20 controls the virtual cameras in the virtual space in accordance with the finite state automaton in which the state of the virtual space is the transition condition and the state of the camera division is the state. The control server 20 may change the layout (arrangement of objects) in the virtual space according to the state transition. Details of the control server 20 will be described later. The finite state automaton used in this embodiment is a mathematically abstracted model consisting of a finite number of combinations of states, transitions, and actions. At a certain point in time, only one state can be taken from a finite number of "states", and some state or condition causes a transition from one state to another. The transition from one state to another is called "transition". A finite state automaton is defined by listing the states that can transit from each state and the conditions that trigger the transition.

配信者端末30は、配信者が番組を配信するために使用する端末である。配信者端末30として、VR機能を有するスマートフォンおよびパーソナルコンピュータなどの任意のコンピュータ機器を用いることができる。配信者端末30は、図2に示すように、配信者が装着するHMD31を備える。配信者端末30は、配信者からの入力を受け付けて、仮想空間内に配置される配信者アバターを操作するためのコントローラ32を備えてもよい。配信者端末30は、HMD31で検知する配信者の頭の動きおよびコントローラ32による操作に基づいて配信者アバターのモーションデータを生成する。   The distributor terminal 30 is a terminal used by the distributor to distribute a program. As the distributor terminal 30, any computer device such as a smartphone and a personal computer having a VR function can be used. The distributor terminal 30 includes an HMD 31 worn by the distributor, as shown in FIG. The distributor terminal 30 may include a controller 32 that receives an input from the distributor and operates a distributor avatar arranged in the virtual space. The distributor terminal 30 generates motion data of the distributor avatar based on the distributor's head movement detected by the HMD 31 and the operation by the controller 32.

配信者端末30は、配信サーバ10から仮想空間を構築するためのデータセットを受信し、受信したデータに基づいて仮想空間を構築し、仮想空間をレンダリングして、HMD31に映像を映す。   The distributor terminal 30 receives the data set for constructing the virtual space from the distribution server 10, constructs the virtual space based on the received data, renders the virtual space, and projects an image on the HMD 31.

配信者端末30は、配信者の音声および配信者アバターのモーションデータを配信サーバ10へ送信する。配信者は、配信者アバターを動かしながら、他の配信者や視聴者と会話することで番組を進行する。   The distributor terminal 30 transmits the voice of the distributor and the motion data of the distributor avatar to the distribution server 10. The distributor advances the program by moving the distributor avatar and talking with other distributors and viewers.

なお、配信者端末30として、HMD31を備えず、カメラを内蔵またはカメラを接続した端末を用いてもよい。この場合、配信者端末30は、カメラで配信者を撮影し、配信者を撮影した映像から配信者アバターのモーションデータを生成する。配信者端末30は、配信サーバ10から仮想カメラで仮想空間内を撮影した映像を受信して表示する。   Note that as the distributor terminal 30, a terminal that does not include the HMD 31 but has a built-in camera or is connected to a camera may be used. In this case, the distributor terminal 30 shoots the distributor with a camera and generates motion data of the distributor avatar from the video of the distributor. The distributor terminal 30 receives and displays a video captured in the virtual space by the virtual camera from the distribution server 10.

視聴者端末40は、視聴者が番組を視聴するために使用する端末である。視聴者端末40は、配信サーバ10から番組の映像を受信して表示できる機能を備える機器であれば、スマートフォン、タブレット端末、テレビシステム、パーソナルコンピュータなどの任意のコンピュータ機器を用いることができる。視聴者端末40は、視聴者から入力したコメントを配信サーバ10へ送信してもよい。   The viewer terminal 40 is a terminal used by the viewer to view the program. As the viewer terminal 40, any computer device such as a smartphone, a tablet terminal, a television system, a personal computer, or the like can be used as long as it is a device having a function of receiving and displaying a video of a program from the distribution server 10. The viewer terminal 40 may transmit the comment input by the viewer to the distribution server 10.

視聴者が視聴者アバターとして番組に参加する場合、視聴者端末40は、視聴者の音声および視聴者アバターのモーションデータを配信サーバ10へ送信する。   When the viewer participates in the program as a viewer avatar, the viewer terminal 40 transmits the audio of the viewer and the motion data of the viewer avatar to the distribution server 10.

[サーバ構成]
図3を参照し、制御サーバについて説明する。
[Server configuration]
The control server will be described with reference to FIG.

図3に示す制御サーバ20は、解析部21、制御部22、および記憶部23を備える。制御サーバ20は、複数のカメラ割りのそれぞれを状態として持ち、仮想空間の状況に応じて状態間を遷移させて、カメラ割りを自動的に制御する。   The control server 20 shown in FIG. 3 includes an analysis unit 21, a control unit 22, and a storage unit 23. The control server 20 has each of a plurality of camera divisions as a state, makes a transition between the states according to the situation of the virtual space, and automatically controls the camera division.

解析部21は、仮想空間の状況を解析する。解析対象の仮想空間の状況には、アバターの音声(配信者および視聴者の音声)を含めてもよい。例えば、解析部21は、発話したアバター、発話したアバターの順番、発話の音量、発話の長さ、発話の内容、アバターのポーズ、コメント数、番組に参加した視聴者アバターの数などを解析する。   The analysis unit 21 analyzes the situation of the virtual space. The situation of the virtual space to be analyzed may include the voice of the avatar (voices of the distributor and the viewer). For example, the analysis unit 21 analyzes the uttered avatars, the order of the uttered avatars, the utterance volume, the utterance length, the utterance content, the avatar pose, the number of comments, the number of viewer avatars participating in the program, and the like. ..

制御部22は、解析結果に基づき、有限オートマトンに従ってカメラ割りの状態を遷移させる。制御部22は、状態を遷移させると、遷移後の状態に紐付けられた仮想カメラの制御情報に基づいて仮想カメラを制御する。   The control unit 22 changes the state of camera division according to the finite state automaton based on the analysis result. When the state is changed, the control unit 22 controls the virtual camera based on the control information of the virtual camera associated with the changed state.

制御部22は、例えば図4に示すような、有限オートマトンに従って仮想カメラを制御する。図4の例では、4つのカメラ割りの状態S1〜S4を持ち、制御部22の保持する状態は、状態S1〜S4間を条件A〜Hに従って遷移する。図4の有限オートマトンを用いた画面の遷移については後述する。   The control unit 22 controls the virtual camera according to a finite state automaton as shown in FIG. 4, for example. In the example of FIG. 4, there are four camera divided states S1 to S4, and the state held by the control unit 22 transits between the states S1 to S4 according to the conditions A to H. The screen transition using the finite state automaton in FIG. 4 will be described later.

記憶部23は、複数のカメラ割りのそれぞれを状態とし、仮想空間の状況を遷移条件とした有限オートマトンと、状態ごとの仮想カメラの制御情報を記憶する。   The storage unit 23 stores a finite state automaton in which each of a plurality of camera divisions is in a state and a virtual space situation is a transition condition, and virtual camera control information for each state.

記憶部23は、複数種類の有限オートマトンを記憶してもよい。例えば、有限オートマトンの例としては、配信者アバターが1人の番組のカメラ割りの遷移を示す有限オートマトン、配信者アバターが2人の番組のカメラ割りの遷移を示す有限オートマトン、複数の配信者アバターが討論する番組のカメラ割りの遷移を示す有限オートマトン、配信者アバターが動画やゲーム画面を見ながら解説する番組のカメラ割りの遷移を示す有限オートマトンなど様々なものが考えられる。記憶部23は、上記に限らず、配信する番組に応じた有限オートマトンを記憶する。有限オートマトンは事業者が用意したものであってもよいし、配信者が作成したものであってもよい。   The storage unit 23 may store a plurality of types of finite automata. For example, as an example of the finite automaton, a finite automaton that shows the transition of the camera split of one program by the distributor avatar, a finite automaton that shows the transition of the camera split of two programs by the distributor avatar, and a plurality of distributor avatars A variety of things can be considered, such as a finite automaton that shows the transition of camera splits of programs that are discussed by, and a finite automaton that shows the transitions of camera splits of a program that the distributor avatar explains while watching the video or game screen. The storage unit 23 is not limited to the above, and stores a finite state automaton according to a program to be distributed. The finite state automaton may be prepared by the business operator or may be created by the distributor.

上記制御サーバ20には、例えば、中央演算処理装置(CPU)と、メモリと、ストレージと、通信装置と、入力装置と、出力装置とを備える汎用的なコンピュータシステムを用いることができる。このコンピュータシステムにおいて、CPUがメモリ上にロードされた所定のプログラムを実行することにより、制御サーバ20が実現される。このプログラムは磁気ディスク、光ディスク、半導体メモリ等のコンピュータ読み取り可能な記録媒体に記録することも、ネットワークを介して配信することもできる。制御サーバ20の機能を配信サーバ10が備えてもよい。   As the control server 20, for example, a general-purpose computer system including a central processing unit (CPU), a memory, a storage, a communication device, an input device, and an output device can be used. In this computer system, the control server 20 is realized by the CPU executing a predetermined program loaded on the memory. This program can be recorded on a computer-readable recording medium such as a magnetic disk, an optical disk, or a semiconductor memory, or can be distributed via a network. The distribution server 10 may have the function of the control server 20.

[カメラ制御処理]
図5を参照し、制御サーバによる仮想カメラの制御処理の流れについて説明する。
[Camera control processing]
The flow of control processing of the virtual camera by the control server will be described with reference to FIG.

配信者は、番組配信前に、番組に適した有限オートマトンを選択しておく。もしくは、配信者は、番組用に複数の有限オートマトンを選択しておき、その中から、視聴者が有限オートマトンを選択してもよい。例えば、2人の配信者アバターが参加する番組において、各配信者アバターのそれぞれを重点的に映すカメラ割りの有限オートマトンを別々に用意しておく。スタジオ全体を重点的に映すカメラ割りの有限オートマトンを用意してもよい。視聴者は、番組を視聴する際に、自分の応援する配信者アバターをより重点的に映すカメラ割りの有限オートマトンを選択できる。各有限オートマトンでは、遷移条件のウエイトを配信者アバターごとに異ならせておく。視聴者の属性情報を収集しておき、制御サーバ20が視聴者の属性情報に基づいて有限オートマトンを選択してもよい。制御サーバ20は、配信先の視聴者端末40の種別に応じて適用する有限オートマトンを選択してもよい。   The distributor selects a finite automaton suitable for the program before distributing the program. Alternatively, the distributor may select a plurality of finite automata for the program, and the viewer may select the finite automaton from among them. For example, in a program in which two distributor avatars participate, a camera-divided finite automaton that focuses on each distributor avatar is prepared separately. You may prepare a finite automaton for each camera that focuses on the entire studio. When viewing a program, the viewer can select a camera-limited finite automaton that more intensively reflects the distributor avatar that he supports. In each finite state automaton, the weight of the transition condition is different for each distributor avatar. The attribute information of the viewer may be collected and the control server 20 may select the finite state automaton based on the attribute information of the viewer. The control server 20 may select a finite automaton to be applied according to the type of the viewer terminal 40 of the delivery destination.

番組の配信を開始すると、ステップS11にて、解析部21は、仮想空間の状況を解析する。発話の解析に関して、アバターごとにウエイト付けを異ならせてもよい。例えば、解析部21は、配信者アバターと視聴者アバターとでは配信者アバターの発話により大きいウエイト付けをする。解析部21は、発話の解析結果をスコアに換算し、ウエイトに基づいてスコアを補正する。有限オートマトンでは、スコアに基づく遷移条件を設定しておく。   When the distribution of the program is started, the analysis unit 21 analyzes the situation of the virtual space in step S11. Regarding utterance analysis, weighting may be different for each avatar. For example, the analysis unit 21 gives a greater weight to the utterance of the distributor avatar between the distributor avatar and the viewer avatar. The analysis unit 21 converts the analysis result of the utterance into a score and corrects the score based on the weight. In a finite state automaton, transition conditions based on the score are set.

ステップS12にて、制御部22は、解析結果に基づき、現在の状態から別の状態への遷移条件が成立したか否かを判定する。遷移条件が成立していない場合、制御部22は、ステップS14に処理を進める。   In step S12, the control unit 22 determines whether the transition condition from the current state to another state is satisfied based on the analysis result. When the transition condition is not satisfied, the control unit 22 advances the processing to step S14.

遷移条件が成立した場合、ステップS13にて、制御部22は、保持する状態を遷移条件を満たした先の状態へ遷移させるとともに、遷移後の状態に応じて仮想カメラを制御する。例えば、状態S1から状態S2へ遷移する条件Aが成立した場合、制御部22は、保持する状態を状態S2へ遷移させるとともに、状態S2に対応するカメラ割りとなるように仮想カメラを制御する。   When the transition condition is satisfied, in step S13, the control unit 22 transitions the held state to the previous state that satisfies the transition condition, and controls the virtual camera according to the state after the transition. For example, when the condition A for transitioning from the state S1 to the state S2 is satisfied, the control unit 22 transitions the state to be held to the state S2 and controls the virtual camera so that the camera allocation corresponds to the state S2.

ステップS14にて、制御部22は、番組が終了したか否か判定する。番組の配信が続く場合はステップS11に戻り、処理を繰り返す。   In step S14, the control unit 22 determines whether the program has ended. If the distribution of the program continues, the process returns to step S11 and the process is repeated.

[仮想空間内の配置]
図6を参照し、番組を撮影する仮想空間について説明する。
[Arrangement in virtual space]
A virtual space for shooting a program will be described with reference to FIG.

図6に示す仮想空間内のスタジオは、2人の配信者アバター100,200が進行する番組を配信するために用意されたものである。スタジオ内には、2人の配信者アバター100,200が配置される。この番組には、視聴者アバター300A〜300Cも参加可能である。視聴者アバター300A〜300Cは、配信者アバター100,200の後ろ側に配置される。   The studio in the virtual space shown in FIG. 6 is prepared for distributing a program in which two distributor avatars 100 and 200 are proceeding. Two distributor avatars 100 and 200 are arranged in the studio. Viewer avatars 300A to 300C can also participate in this program. Viewer avatars 300A to 300C are arranged behind distributor avatars 100 and 200.

また、図6では、ディスプレイオブジェクト400をスタジオ内に配置している。ディスプレイオブジェクト400は、視聴者からのコメント、静止画、動画、およびゲーム画面などをはめ込んで表示できる。配信者アバター100,200は、ディスプレイオブジェクト400に表示される動画などを見ながら番組を進行してもよい。なお、図6では、スタジオの床オブジェクト、壁オブジェクトなどの背景オブジェクトは図示していない。上記以外のオブジェクトをスタジオ内に配置してもよい。   Further, in FIG. 6, the display object 400 is arranged in the studio. The display object 400 can be embedded with a comment from a viewer, a still image, a moving image, a game screen, and the like to be displayed. The distributor avatars 100 and 200 may proceed with the program while watching a moving image or the like displayed on the display object 400. Note that FIG. 6 does not show background objects such as floor objects and wall objects in the studio. Objects other than the above may be placed in the studio.

仮想空間内に配置された仮想カメラ500が仮想空間内のスタジオを撮影する。制御サーバ20が仮想カメラを制御し、配信サーバ10が仮想カメラで撮影された映像を配信する。   A virtual camera 500 arranged in the virtual space shoots a studio in the virtual space. The control server 20 controls the virtual camera, and the distribution server 10 distributes the video imaged by the virtual camera.

[画面の遷移例]
図7ないし図10を参照し、図4に示した有限オートマトンを番組のカメラ割りの遷移を示す有限オートマトンとして用いたときの、番組の画面の遷移例について説明する。
[Screen transition example]
A transition example of the screen of the program when the finite state automaton shown in FIG. 4 is used as a finite state automaton showing the transition of the camera division of the program will be described with reference to FIGS. 7 to 10.

図4の有限オートマトンは、2人の配信者アバターが進行する番組用のカメラ割りの有限オートマトンである。図4の有限オートマトンにおいて、状態S1のカメラ割りはスタジオ全体を撮影するカメラ割りであり、状態S2のカメラ割りは2人の配信者アバター100,200がフレーム内に収まるカメラ割りであり、状態S3のカメラ割りは配信者アバター100のアップを映すカメラ割りであり、状態S4のカメラ割りは配信者アバター200のアップを映すカメラ割りである。   The finite state automaton in FIG. 4 is a finite state automaton for dividing a camera for a program in which two distributor avatars are proceeding. In the finite state automaton of FIG. 4, the camera allocation in the state S1 is a camera allocation for shooting the entire studio, the camera allocation in the state S2 is a camera allocation in which the two distributor avatars 100 and 200 are within the frame, and the state S3. The camera split of is the camera split showing the close-up of the distributor avatar 100, and the camera split of the state S4 is the split of the camera showing the close-up of the distributor avatar 200.

番組開始時は、状態S1からスタートする。状態S1では、仮想カメラで撮影された映像は、図7に示すように、仮想空間内のスタジオ全体を撮影した映像となる。   When the program starts, it starts from the state S1. In the state S1, the video imaged by the virtual camera is a video image of the entire studio in the virtual space, as shown in FIG.

状態S1のとき、条件Aが成立すると、状態S2へ遷移する。条件Aは、例えば、配信者アバター100,200のいずれかが発話した、という条件である。条件Aとして、オープニング音楽が終了した、所定時間経過した、などを設定してもよい。   When the condition A is satisfied in the state S1, the state transits to the state S2. The condition A is, for example, a condition that one of the distributor avatars 100 and 200 speaks. The condition A may be set such that the opening music ends, a predetermined time elapses, or the like.

制御サーバ20は、状態S1のとき、配信者アバター100,200のいずれかの発話を検知すると、保持する状態を状態S1から状態S2へ遷移させるとともに、2人の配信者アバター100,200がフレーム内に収まるように、仮想カメラの位置、撮影方向、および画角等を制御する。状態S2へ遷移すると、図8に示すように、配信者アバター100,200の2人を撮影した映像となる。演出上の工夫の一環として、仮想カメラで撮影するとき仮想空間内のオブジェクトの位置は無視し、オブジェクトの位置を、見やすく、興趣性がある位置に変えて、仮想カメラによる撮影画面としてもよい。例えば、離れた位置に立つ2人の配信者アバター100,200を、近くで向い合せて、仮想カメラで撮影する。あるいは、同じ仮想空間にいる他のアバター、例えば視聴者アバターを、配信者アバター100,200を囲む位置に配置する。2人の配信者アバター100,200の間に他のアバターや仮想オブジェクトが存在し、配信者アバター100,200が隠れてしまう場合に、あえて障害となる仮想オブジェクト等を表示しない。   When the control server 20 detects the utterance of one of the distributor avatars 100 and 200 in the state S1, the control server 20 changes the state to be held from the state S1 to the state S2, and the two distributor avatars 100 and 200 are framed. The position of the virtual camera, the shooting direction, the angle of view, and the like are controlled so as to be within the range. When transitioning to the state S2, as shown in FIG. 8, a video image of two distributor avatars 100 and 200 is obtained. As a part of the device for directing, the position of the object in the virtual space may be ignored when shooting with the virtual camera, and the position of the object may be changed to a position that is easy to see and has an interest, and the shooting screen may be displayed by the virtual camera. For example, two distributor avatars 100 and 200 standing at distant positions are faced close to each other and photographed by a virtual camera. Alternatively, another avatar in the same virtual space, for example, a viewer avatar is arranged at a position surrounding the distributor avatars 100 and 200. When another avatar or a virtual object exists between the two distributor avatars 100 and 200, and the distributor avatars 100 and 200 are hidden, the virtual object or the like which is an obstacle is not displayed.

状態S2のとき、条件Bが成立すると状態S1に遷移し、条件Cが成立すると状態S3に遷移し、条件Eが成立すると状態S4に遷移する。   In the state S2, the transition to the state S1 is made when the condition B is established, the transition to the state S3 is made when the condition C is established, and the transition to the state S4 is made when the condition E is established.

条件Cは、例えば、配信者アバター100が所定時間以上発話を続けた、という条件である。条件Eは、例えば、配信者アバター200が所定時間以上発話を続けた、という条件である。配信者アバター100,200の2人で会話している間は、状態S2とし、配信者アバター100,200のいずれかが所定時間以上続けて話すようになると、状態S3または状態S4に遷移する。   The condition C is, for example, a condition that the distributor avatar 100 continues to speak for a predetermined time or longer. The condition E is, for example, that the distributor avatar 200 has continued speaking for a predetermined time or longer. While the two distributor avatars 100 and 200 are having a conversation, the state S2 is set, and when one of the distributor avatars 100 and 200 starts speaking for a predetermined time or longer, the state transitions to the state S3 or the state S4.

制御サーバ20は、状態S2のとき、配信者アバター100が所定時間以上発話を続けたことを検知すると、保持する状態を状態S2から状態S3へ遷移させるとともに、配信者アバター100がアップで写るように、仮想カメラを制御する。状態S3へ遷移すると、図9に示すように、配信者アバター100のアップを撮影した映像となる。   In the state S2, when the control server 20 detects that the distributor avatar 100 has continued speaking for a predetermined period of time or more, the control server 20 changes the state to be held from the state S2 to the state S3, and the distributor avatar 100 is shown up. To control the virtual camera. When transitioning to the state S3, as shown in FIG. 9, a video image of the close-up of the distributor avatar 100 is obtained.

また、制御サーバ20は、状態S2のとき、配信者アバター200が所定時間以上発話を続けたことを検知すると、保持する状態を状態S2から状態S4へ遷移させるとともに、配信者アバター200がアップで写るように、仮想カメラを制御する。状態S4へ遷移すると、図10に示すように、配信者アバター200のアップを撮影した映像となる。   In addition, when the control server 20 detects that the distributor avatar 200 has continued speaking for a predetermined time or more in the state S2, the control server 20 changes the state to be held from the state S2 to the state S4 and the distributor avatar 200 is up. Control the virtual camera so that it appears. When the state transits to the state S4, as shown in FIG. 10, the image of the close-up of the distributor avatar 200 is obtained.

なお、状態S3,S4において、配信者アバター100,200のそれぞれの背景を別々に用意してもよい。例えば、状態S3,S4のそれぞれに背景オブジェクトを紐付けておき、状態S3,S4に遷移した際に、紐付けられた背景オブジェクトを指定の場所(配信者アバター100,200の後ろ)に出現させる。配信者アバター100の背景と配信者アバター200の背景とを異ならせることができる。   In the states S3 and S4, the backgrounds of the distributor avatars 100 and 200 may be separately prepared. For example, a background object is associated with each of the states S3 and S4, and when transitioning to the states S3 and S4, the associated background object is made to appear at a designated place (behind the distributor avatars 100 and 200). .. The background of the distributor avatar 100 and the background of the distributor avatar 200 can be different.

状態S3のとき、条件Hが成立すると状態S4に遷移し、状態S4のとき、条件Gが成立すると状態S3に遷移する。   When the condition H is satisfied in the state S3, the state S4 is entered, and when the condition G is satisfied in the state S4, the state S3 is entered.

条件Hは、例えば、配信者アバター200が発話した、という条件である。条件Gは、例えば、配信者アバター100が発話した、という条件である。配信者アバター100,200が話しているときに、相手の配信者アバター100,200が発話すると、仮想カメラは、相手の配信者アバター100,200を撮影するように制御される。条件H,Gとして、配信者アバター100,200が大きくうなずいた、などの配信者アバター100,200の動きを設定してもよい。   The condition H is, for example, a condition that the distributor avatar 200 speaks. The condition G is, for example, a condition that the distributor avatar 100 speaks. When the other party's distributor avatars 100, 200 speak while the distributor's avatars 100, 200 speak, the virtual camera is controlled to photograph the other party's distributor avatars 100, 200. As the conditions H and G, the movements of the distributor avatars 100 and 200 such as the distributor avatars 100 and 200 nod greatly may be set.

また、状態S3のとき、条件Dが成立すると状態S2に遷移し、状態S4のとき、条件Fが成立すると状態S2に遷移する。条件D,Fは、例えば、配信者アバター100,200が所定時間以上発話していない、という条件である。配信者アバター100,200の会話が一旦終了すると、配信者アバター100,200の2人を写した映像に戻す。あるいは、条件D,Fを、配信者アバター100,200のいずれかが「続いては」「では次の」などの番組を進行させる発話をした、という条件にして、番組のコーナーが変化する際に状態S2に遷移させて、配信者アバター100,200の2人を写すカメラ割りにしてもよい。もしくは、条件D,Fを、例えば、状態S3と状態S4との間の遷移の間隔が所定時間より短い、という条件として、配信者アバター100,200のアップを撮影した映像が頻繁に切り替わるときは、配信者アバター100,200の2人を写すカメラ割りに戻してもよい。   Further, in the state S3, the transition to the state S2 is made when the condition D is satisfied, and in the state S4, the transition to the state S2 is made when the condition F is satisfied. Conditions D and F are, for example, conditions that the distributor avatars 100 and 200 have not spoken for a predetermined time or longer. Once the conversation between the distributor avatars 100 and 200 is completed, the images are restored to the images of the two distributor avatars 100 and 200. Alternatively, when the corners of the program change, the conditions D and F are set such that one of the distributor avatars 100 and 200 has spoken to advance the program such as “following” and “then next”. Alternatively, the state may be changed to the state S2, and the camera may be divided into two images of the distributor avatars 100 and 200. Alternatively, when the conditions D and F are, for example, that the transition interval between the state S3 and the state S4 is shorter than a predetermined time, and when the images of the up shot of the distributor avatars 100 and 200 are frequently switched, , The broadcaster avatars 100 and 200 may be returned to the camera split.

状態S2から状態S1に遷移する条件Bは、例えば、配信者アバター100,200の両方が手を振る動作をした、という条件である。番組終了前、配信者アバター100,200が手を振って視聴者にお別れの挨拶をすると、状態S1に遷移させてスタジオ全体の映像を配信した後、番組を終了する。条件Bとして、配信者アバター100,200の発話内容が終了の挨拶であった、番組終了時刻になった、などを設定してもよい。   The condition B for transitioning from the state S2 to the state S1 is, for example, a condition that both the distributor avatars 100 and 200 have performed a wave motion. Before the program ends, when the distributor avatars 100 and 200 waving their hands and say goodbye to the viewer, the state is transited to the state S1 to distribute the video of the entire studio, and then the program ends. The condition B may be set such that the utterance content of the distributor avatars 100, 200 is a greeting for ending, or the program ending time has come.

遷移条件は上記に限るものではない。仮想空間内の盛り上がりを遷移条件としてもよい。例えば、配信者たちの会話を解析し、会話の盛り上がり度合いを遷移条件としてもよいし、仮想空間にいる視聴者アバターの増加傾向を遷移条件としてもよいし、あるいは仮想空間にはいないが視聴だけをしている視聴者の増加傾向を遷移条件としてもよい。また、視聴者の応援状況を遷移条件としてもよい。例えば、視聴者たちの発言、応援の数、投稿されるコメントの数や内容、どちらを応援しているか、などを遷移条件としてもよい。   The transition condition is not limited to the above. The excitement in the virtual space may be the transition condition. For example, the conversation of the distributors may be analyzed and the degree of excitement of the conversation may be used as the transition condition, the increasing tendency of the viewer avatars in the virtual space may be used as the transition condition, or only the viewing condition, which is not in the virtual space, may be used. The transition condition may be an increasing tendency of viewers who are watching. Also, the support status of the viewer may be used as the transition condition. For example, the transition conditions may be the statements of the viewers, the number of supporters, the number and content of comments posted, which one is supported, and the like.

このように、制御サーバ20が、単なる条件分岐でなく、状態の遷移を記した有限オートマトンに基づいて仮想カメラを制御することで、番組の進行に応じて、より自然で見やすい映像を配信できる。本発明がもたらす効果を他の局面から説明する。VR空間の配信コンテンツに限らず、例えばテレビ放送(地上波、BS放送など)される対談番組、バラエティ番組などでは、視聴者を飽きさせず興味を持たせ、盛り上がりを演出する進行(台本、カメラ割りを含む)はおのずとパターンが決まっていて、熟練した演出者やスイッチャーが最適な進行、特にカメラ割りを実行している。しかし、出演者がアドリブで発言をしたり、スタジオに居る観客の反応が盛り上がったりした場合には台本に無い進行を行うことがあり、この進行にはカメラ割りを含んでいる。
一方、近年、個人で動画配信を行うことが盛んになっており、これら動画配信にはVR空間内に配信者アバターを配置したり、複数の配信者が共通の仮想空間中にアバターとして出現して対話や動作を行ったりすることも含まれている。この場合、先に説明したような演出効果が高い進行(台本、カメラ割りなど)を行なえば、配信番組やコンテンツの充実が可能である。しかし、個人で配信を行う場合には、テレビ放送における熟練した演出者、スイッチャーを配置することは困難である。そこで本実施形態では、あらかじめ、最適な演出効果を実現するためのシナリオ(カメラ割り)を有限オートマトンとして準備しておき、実際の配信者アバターの発言や視聴者の盛り上がりなどを見てカメラ割りを最適な状態へ遷移させる。これにより、あたかも熟練の演出者やスイッチャーの手で進行がなされているかのような、演出効果が高く興趣性も高いVR動画配信、VR動画コンテンツの生成が行える。
In this way, the control server 20 controls the virtual camera based on a finite state automaton that describes state transitions rather than merely conditional branching, so that a more natural and easy-to-see video can be distributed as the program progresses. The effect of the present invention will be described from another aspect. Not only the distributed contents in the VR space but also, for example, in interactive programs and variety programs that are broadcast on television (terrestrial waves, BS broadcasts, etc.), the process of making the viewers interested and creating excitement (scripts, cameras) (Including splits), the pattern is naturally decided, and the skilled directors and switchers perform optimal progress, especially the splitting of the camera. However, when the performer speaks in ad lib, or when the reaction of the audience in the studio gets excited, there are times when the progress is not in the script, and this progress includes camera division.
On the other hand, in recent years, individual video distribution has become popular, and for these video distributions, a distributor avatar is placed in the VR space, or a plurality of distributors appear as avatars in a common virtual space. It also includes conducting dialogues and actions. In this case, the distribution programs and contents can be enriched by proceeding with a highly effective effect (script, camera division, etc.) as described above. However, in the case of individual distribution, it is difficult to arrange a skilled director and switcher in television broadcasting. Therefore, in the present embodiment, a scenario (camera division) for realizing the optimum effect is prepared in advance as a finite automaton, and the camera division is performed by watching the actual speech of the distributor avatar and the excitement of the viewer. Make a transition to the optimum state. As a result, VR moving image distribution and VR moving image content generation can be performed with a high effect of presentation and a high degree of interest, as if the process is being performed by a skilled director or switcher.

図11に示すように、画面を分割し、分割したそれぞれの領域に、配信者アバター100,200のそれぞれを表示するカメラ割りの状態を保持してもよい。   As shown in FIG. 11, the screen may be divided and each divided area may hold a camera division state in which each of the distributor avatars 100 and 200 is displayed.

さらに、図12に示すように、ディスプレイオブジェクト400の両脇に配信者アバター100,200を立たせて、ディスプレイオブジェクト400を映すカメラ割りの状態を保持してもよい。配信者は、配信者アバター100,200をディスプレイオブジェクト400の脇に動かす必要はない。状態にアバターやオブジェクトのレイアウトを紐付けておく。つまり、制御サーバ20は、状態に対応した仮想カメラの制御情報に加えてオブジェクトの配置を示すレイアウト情報を記憶しておく。状態が遷移したとき、制御サーバ20は、仮想カメラだけでなく、配信者アバター100,200やディスプレイオブジェクト400の位置を指定のレイアウトに合わせて変更する。   Further, as shown in FIG. 12, the distributor avatars 100 and 200 may be set up on both sides of the display object 400 to keep the camera split state in which the display object 400 is displayed. The distributor does not have to move distributor avatars 100, 200 to the side of display object 400. The layout of avatars and objects is linked to the state. That is, the control server 20 stores the layout information indicating the arrangement of the objects in addition to the control information of the virtual camera corresponding to the state. When the state transitions, the control server 20 changes the positions of the distributor avatars 100 and 200 and the display object 400 in addition to the virtual camera according to the designated layout.

また、制御サーバ20は、番組の配信先の端末の種別または性能に応じてレイアウトを変更してもよい。例えば、パーソナルコンピュータなどの画面サイズの大きな端末に配信するときは、配信者アバター100,200のモデルとして、通常の頭身のモデルを配置し、携帯端末など画面サイズの小さな端末に配信するときは、頭を多くデフォルメした頭身の小さなモデルを配置する。同じ番組を視聴する場合であっても、パーソナルコンピュータには通常の頭身のモデルの映像が配信され、携帯端末にはデフォルメした投信のモデルの映像が配信される。視聴に用いる端末の違いで異なる映像が配信される。   Further, the control server 20 may change the layout according to the type or performance of the terminal to which the program is delivered. For example, when delivering to a terminal with a large screen size such as a personal computer, a normal head-and-body model is placed as a model of the distributor avatars 100 and 200, and when delivering to a terminal with a small screen size such as a mobile terminal. , A small model with a deformed head is placed. Even when watching the same program, a normal head-and-body model image is delivered to the personal computer, and a deformed investment trust model image is delivered to the mobile terminal. Different videos are distributed depending on the terminal used for viewing.

制御サーバ20は、パーソナルコンピュータ用の有限オートマトンと携帯端末用の有限オートマトンを用意しておき、携帯端末用の有限オートマトンの状態には、配信者アバター100,200のモデルをデフォルメしたモデルに差し替える情報を紐付けておく。パーソナルコンピュータから視聴するときは、パーソナルコンピュータ用の有限オートマトンが選択され、携帯端末から視聴するときは、携帯端末用の有限オートマトンが選択される。携帯端末用の有限オートマトンの各状態には、デフォルメしたアバターのモデルを配置するレイアウト情報が紐付けられているので、携帯端末で番組を視聴したときにはデフォルメしたアバターが表示される。あるいは、モデルを差し替える代わりに、携帯端末用の有限オートマトンでは、パーソナルコンピュータ用の有限オートマトンよりも、配信者アバター100,200がよりアップに写るカメラ割りとしてもよい。   The control server 20 prepares a finite state automaton for the personal computer and a finite state automaton for the mobile terminal, and in the state of the finite state automaton for the mobile terminal, information for replacing the model of the distributor avatar 100, 200 with the deformed model. Is tied. When viewing from a personal computer, a finite state automaton for a personal computer is selected, and when viewing from a mobile terminal, a finite state automaton for a mobile terminal is selected. Since the layout information for arranging the model of the deformed avatar is linked to each state of the finite state automaton for the mobile terminal, the deformed avatar is displayed when the program is viewed on the mobile terminal. Alternatively, instead of replacing the model, in the finite state automaton for a mobile terminal, the distributor avatars 100 and 200 may be arranged in a more upright manner than in the finite state automaton for a personal computer.

以上説明したように、本実施形態の番組配信システムの制御サーバ20は、複数のカメラ割りのそれぞれを状態とし、仮想空間の状況を遷移条件とした有限オートマトンを記憶しておく。制御サーバ20は、仮想空間の状況を解析し、解析結果に基づき、有限オートマトンに従ってカメラ割りの状態を遷移させて、遷移後の状態に応じたカメラ割りとなるように仮想カメラを制御する。制御サーバ20が、事前に決めた有限オートマトンに基づいて仮想カメラを制御することにより、不自然なカメラ割りの遷移を排除できるので、状況に応じて適したカメラ割りを行える。   As described above, the control server 20 of the program distribution system according to the present embodiment stores a finite state automaton in which each of a plurality of camera divisions is in a state and a virtual space situation is a transition condition. The control server 20 analyzes the situation in the virtual space, transitions the camera division state according to the finite state automaton based on the analysis result, and controls the virtual camera so that the camera division is in accordance with the state after the transition. Since the control server 20 controls the virtual camera based on a finite state automaton determined in advance, it is possible to eliminate an unnatural transition of the camera division, so that the camera division suitable for the situation can be performed.

10…配信サーバ
20…制御サーバ
21…解析部
22…制御部
23…記憶部
30…配信者端末
31…HMD
32…コントローラ
40…視聴者端末
10 ... Delivery server 20 ... Control server 21 ... Analysis unit 22 ... Control unit 23 ... Storage unit 30 ... Distributor terminal 31 ... HMD
32 ... Controller 40 ... Viewer terminal

Claims (6)

仮想空間内の番組を撮影する仮想カメラを制御する制御サーバであって、
複数のカメラ割りのそれぞれを状態とし、前記仮想空間の状況を遷移条件とした有限オートマトンを記憶する記憶部と、
前記仮想空間の状況を解析する解析部と、
解析結果に基づき、前記有限オートマトンに従ってカメラ割りの状態を遷移させて、遷移後の状態に応じたカメラ割りとなるように前記仮想カメラを制御する制御部を備え、
前記遷移条件は、前記仮想空間内のアバターの発話に関する条件であり、
前記番組を視聴する端末の種別に応じて適用する有限オートマトンを変更する
制御サーバ。
A control server for controlling a virtual camera for shooting a program in a virtual space,
A storage unit that stores a finite state automaton in which each of a plurality of camera divisions is in a state and the state of the virtual space is a transition condition,
An analysis unit for analyzing the situation of the virtual space,
Based on the analysis result, the state of camera splitting is transitioned according to the finite state automaton, and a control unit is provided for controlling the virtual camera so that the state of camera splitting is changed according to the state after transition,
The transition condition, Ri condition der related speech of the avatar in the virtual space,
A control server that changes a finite automaton to be applied according to the type of terminal that views the program .
請求項1に記載の制御サーバであって、
前記状態に、前記仮想空間内のオブジェクトの配置情報を関連付けておき、
前記制御部は、遷移後の状態に応じて前記オブジェクトを配置する制御サーバ。
The control server according to claim 1, wherein
Arrangement information of objects in the virtual space is associated with the state,
The control unit is a control server that arranges the object according to a state after transition.
請求項2に記載の制御サーバであって、
前記オブジェクトは背景オブジェクトであり、前記状態に応じて前記仮想カメラで撮影される前記背景オブジェクトが異なる制御サーバ。
The control server according to claim 2, wherein
The object is a background object, and the background object captured by the virtual camera is different according to the state.
仮想空間内の番組を撮影した映像を端末へ配信する配信システムであって、
仮想空間内の番組を撮影した映像を端末へ配信する配信サーバと前記仮想空間内の番組を撮影する仮想カメラを制御する制御サーバを有し、
前記制御サーバは、
複数のカメラ割りのそれぞれを状態とし、前記仮想空間の状況を遷移条件とした有限オートマトンを記憶する記憶部と、
前記仮想空間の状況を解析する解析部と、
解析結果に基づき、前記有限オートマトンに従ってカメラ割りの状態を遷移させて、遷移後の状態に応じたカメラ割りとなるように前記仮想カメラを制御する制御部を備え、
前記遷移条件は、前記仮想空間内のアバターの発話に関する条件であり、
前記制御サーバは、前記端末の種別に応じて適用する有限オートマトンを変更する
配信システム。
A distribution system for distributing a video image of a program in a virtual space to a terminal,
A distribution server that distributes an image of a program in a virtual space to a terminal, and a control server that controls a virtual camera that captures a program in the virtual space,
The control server is
A storage unit that stores a finite state automaton in which each of a plurality of camera divisions is in a state and the state of the virtual space is a transition condition,
An analysis unit for analyzing the situation of the virtual space,
Based on the analysis result, the state of camera splitting is transitioned according to the finite state automaton, and a control unit is provided for controlling the virtual camera so that the state of camera splitting is changed according to the state after transition,
The transition condition, Ri condition der related speech of the avatar in the virtual space,
The control server is a distribution system that changes a finite automaton to be applied according to the type of the terminal .
仮想空間内の番組を撮影する仮想カメラを制御する制御方法であって、
コンピュータが、
複数のカメラ割りのそれぞれを状態とし、前記仮想空間の状況を遷移条件とした有限オートマトンを記憶し、
前記仮想空間の状況を解析し、
解析結果に基づき、前記有限オートマトンに従ってカメラ割りの状態を遷移させて、遷移後の状態に応じたカメラ割りとなるように前記仮想カメラを制御し、
前記遷移条件は、前記仮想空間内のアバターの発話に関する条件であり、
前記番組を視聴する端末の種別に応じて適用する有限オートマトンを変更する
制御方法。
A control method for controlling a virtual camera for shooting a program in a virtual space, comprising:
Computer
Each of a plurality of camera divisions is in a state, and a finite state automaton whose transition condition is the situation of the virtual space is stored,
Analyzing the situation of the virtual space,
Based on the analysis result, the state of camera division is transited according to the finite state automaton, and the virtual camera is controlled so that the camera division is in accordance with the state after transition,
The transition condition, Ri condition der related speech of the avatar in the virtual space,
A control method for changing a finite state automaton to be applied according to a type of a terminal for viewing the program .
仮想空間内の番組を撮影する仮想カメラを制御する制御サーバとしてコンピュータを動作させるプログラムであって、
複数のカメラ割りのそれぞれを状態とし、前記仮想空間の状況を遷移条件とした有限オートマトンを記憶する処理と、
前記仮想空間の状況を解析する処理と、
解析結果に基づき、前記有限オートマトンに従ってカメラ割りの状態を遷移させて、遷移後の状態に応じたカメラ割りとなるように前記仮想カメラを制御する処理を前記コンピュータに実行させ、
前記遷移条件は、前記仮想空間内のアバターの発話に関する条件であり、
前記番組を視聴する端末の種別に応じて適用する有限オートマトンを変更する
プログラム。
A program for operating a computer as a control server for controlling a virtual camera for shooting a program in a virtual space,
A process of storing each of a plurality of camera divisions as a state and storing a finite state automaton whose transition condition is the situation of the virtual space,
A process of analyzing the situation of the virtual space,
Based on the analysis result, transition the state of camera division according to the finite state automaton, and cause the computer to execute a process of controlling the virtual camera so that the camera division is in accordance with the state after transition.
The transition condition, Ri condition der related speech of the avatar in the virtual space,
A program for changing a finite automaton that is applied according to the type of terminal that views the program.
JP2019120101A 2019-06-27 2019-06-27 Control server, distribution system, control method and program Active JP6695482B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019120101A JP6695482B1 (en) 2019-06-27 2019-06-27 Control server, distribution system, control method and program
JP2020075125A JP7360989B2 (en) 2019-06-27 2020-04-21 Control server, terminal, distribution system, control method, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019120101A JP6695482B1 (en) 2019-06-27 2019-06-27 Control server, distribution system, control method and program

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2020075125A Division JP7360989B2 (en) 2019-06-27 2020-04-21 Control server, terminal, distribution system, control method, information processing method, and program

Publications (2)

Publication Number Publication Date
JP6695482B1 true JP6695482B1 (en) 2020-05-20
JP2021005319A JP2021005319A (en) 2021-01-14

Family

ID=70682437

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019120101A Active JP6695482B1 (en) 2019-06-27 2019-06-27 Control server, distribution system, control method and program

Country Status (1)

Country Link
JP (1) JP6695482B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023000136A (en) * 2021-06-17 2023-01-04 グリー株式会社 Program, information processing device and information processing method
WO2024024392A1 (en) * 2022-07-28 2024-02-01 株式会社バンダイナムコエンターテインメント Entertainment system, program, server, and display control method

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7062126B1 (en) * 2021-11-01 2022-05-02 株式会社バーチャルキャスト Terminals, information processing methods, programs, and recording media
JP7133257B1 (en) 2022-01-14 2022-09-08 株式会社キッズプレート Program, information processing method, information processing device, and information processing system
JP7312337B1 (en) 2023-03-29 2023-07-20 株式会社バーチャルキャスト CONFERENCE SYSTEM, CONTROL DEVICE, CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008097233A (en) * 2006-10-10 2008-04-24 Matsushita Electric Ind Co Ltd Camera work controlling device and camera work controlling method
JP2010109898A (en) * 2008-10-31 2010-05-13 Canon Inc Photographing control apparatus, photographing control method and program
US8784202B2 (en) * 2011-06-03 2014-07-22 Nintendo Co., Ltd. Apparatus and method for repositioning a virtual camera based on a changed game state
JP2015192753A (en) * 2014-03-31 2015-11-05 株式会社バンダイナムコエンターテインメント game apparatus and program

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023000136A (en) * 2021-06-17 2023-01-04 グリー株式会社 Program, information processing device and information processing method
JP7264941B2 (en) 2021-06-17 2023-04-25 グリー株式会社 Program, information processing device and information processing method
WO2024024392A1 (en) * 2022-07-28 2024-02-01 株式会社バンダイナムコエンターテインメント Entertainment system, program, server, and display control method

Also Published As

Publication number Publication date
JP2021005319A (en) 2021-01-14

Similar Documents

Publication Publication Date Title
JP6695482B1 (en) Control server, distribution system, control method and program
JP7135141B2 (en) Information processing system, information processing method, and information processing program
US20120060101A1 (en) Method and system for an interactive event experience
US20110214141A1 (en) Content playing device
WO2016009865A1 (en) Information processing device and method, display control device and method, reproduction device and method, programs, and information processing system
US10289193B2 (en) Use of virtual-reality systems to provide an immersive on-demand content experience
KR20150105058A (en) Mixed reality type virtual performance system using online
CN113518232B (en) Video display method, device, equipment and storage medium
US20170225077A1 (en) Special video generation system for game play situation
CN114402276A (en) Teaching system, viewing terminal, information processing method, and program
CN110730340B (en) Virtual audience display method, system and storage medium based on lens transformation
CN107045699A (en) Online interaction auction system and system
JP2021164146A (en) Video distribution device, video distribution method, and video distribution program
JP5632792B2 (en) Participation type content management apparatus, viewing terminal, participation type content management program, and viewing program
CN109754275A (en) Data object information providing method, device and electronic equipment
KR20190031220A (en) System and method for providing virtual reality content
JP7360112B2 (en) Computer program, server device, terminal device, and method
JP7360989B2 (en) Control server, terminal, distribution system, control method, information processing method, and program
JP2021086145A (en) Class system, viewing terminal, information processing method, and program
JP6473262B1 (en) Distribution server, distribution program, and terminal
CN113632498A (en) Content distribution system, content distribution method, and content distribution program
JP2021087128A (en) Class system, viewing terminal, information processing method, and program
US20220360827A1 (en) Content distribution system, content distribution method, and content distribution program
CN114760520A (en) Live small and medium video shooting interaction method, device, equipment and storage medium
KR20220126660A (en) Method and System for Providing Low-latency Network for Metaverse Education Platform with AR Face-Tracking

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190627

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190627

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20191030

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191112

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200114

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200313

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200331

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200421

R150 Certificate of patent or registration of utility model

Ref document number: 6695482

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250