WO2020022405A1 - 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム - Google Patents

3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム Download PDF

Info

Publication number
WO2020022405A1
WO2020022405A1 PCT/JP2019/029107 JP2019029107W WO2020022405A1 WO 2020022405 A1 WO2020022405 A1 WO 2020022405A1 JP 2019029107 W JP2019029107 W JP 2019029107W WO 2020022405 A1 WO2020022405 A1 WO 2020022405A1
Authority
WO
WIPO (PCT)
Prior art keywords
data
content
viewing
dimensional
change
Prior art date
Application number
PCT/JP2019/029107
Other languages
English (en)
French (fr)
Inventor
量生 川上
進之介 岩城
尚 小嶋
寛明 齊藤
Original Assignee
株式会社ドワンゴ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社ドワンゴ filed Critical 株式会社ドワンゴ
Priority to US17/059,677 priority Critical patent/US20210211632A1/en
Priority to CN201980039636.8A priority patent/CN112400188A/zh
Publication of WO2020022405A1 publication Critical patent/WO2020022405A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/23Recognition of whole body movements, e.g. for sport training
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors

Definitions

  • the present disclosure relates to a three-dimensional content distribution system, a three-dimensional content distribution method, and a computer program.
  • a configuration in which a viewer intends to generate a reproduction image for himself / herself is disclosed in, for example, Japanese Patent Application Laid-Open No. H10-157, from a broadcasting station to a viewing terminal, transmitting background, person as broadcast material data.
  • Virtual objects and the like are transmitted on different dedicated channels, respectively, and the viewer selects his or her desired material from them and creates a 3D image exclusively for himself.
  • the two-dimensional video is not shared with other viewers.
  • Patent Literature 2 which is a configuration in which a viewer intends to generate a reproduction image for himself / herself, prepares virtual three-dimensional content data such as a soccer game, and includes a plurality of players, referees, and balls. If the viewer selects a viewpoint (for example, a specific player or a camera outside the field) that the viewer wants to see, the server will display the image viewed from that viewpoint.
  • a viewpoint for example, a specific player or a camera outside the field
  • rendering is performed and transmitted to a viewer's terminal is disclosed. Similar to Patent Literature 1, a configuration for creating a 3D image dedicated to the user is disclosed, and the obtained rendered image is not shared with other viewers. Things.
  • Patent Document 3 two-dimensional moving image contents such as live performances are prepared in advance on a plane moving image content, which is not a 3D (three-dimensional) virtual space, and a viewer receives this data from the server.
  • your avatar two-dimensional image of the audience
  • the avatar data added by this viewer is sent to the server and added to the previous two-dimensional video content
  • An updated configuration discloses that other viewers can view this avatar during playback.
  • the avatar of each viewer is added to the content every time each viewer reproduces, and the image of the content becomes lively.
  • Patent Document 3 discloses that an avatar of a two-dimensional image, which is an alter ego of the user, is added to the image as an audience of live content of the two-dimensional image. All viewers can view, but since their 2D avatar image is simply superimposed on the 2D image content, they cannot virtually participate in live content. The point of difficulty in obtaining sufficient sense of solidarity, excitement, and immersion has not been solved.
  • Another problem with the prior art is that it is desirable to reduce the load on the communication network and terminal hardware and enjoy viewing live content while sharing with a large number of viewers.
  • Patent Literature 1 and Patent Literature 2 described above do not provide live content to be enjoyed while sharing with a large number of viewers, and Patent Literature 3 is content composed of two-dimensional planar moving images. For this reason, communication channels and terminals required for broadcast distribution of general moving images are burdensome.
  • the present invention has been made in view of the above situation, and wants to view and enjoy live content that could not be viewed at the time of live broadcast later.
  • the present invention provides a three-dimensional content distribution system, a three-dimensional content distribution method, and a computer program described in the following 1) to 11).
  • a three-dimensional content distribution system for distributing content using a virtual three-dimensional virtual space to a viewing terminal and providing the content for viewing,
  • a recording unit that records (A) first data relating to the specification of each virtual object placed in the three-dimensional virtual space, and (B) content data including at least second data relating to the operation of each virtual object;
  • a generation unit configured to generate image data for viewing using at least the first data and the second data in response to a request for the viewing terminal to view.
  • Dimensional content distribution system for distributing content using a virtual three-dimensional virtual space to a viewing terminal and providing the content for viewing.
  • the recording unit is further configured to record (C) third data relating to the viewpoint arranged in the three-dimensional virtual space, and the generation unit performs generation using the third data as well.
  • the three-dimensional content distribution system according to 1). 3) The three-dimensional content distribution described in 1) or 2), wherein the first data and the second data recorded by the recording unit are data recorded first during the first distribution of the content on the Internet. system. 4) In response to a change request from a viewing terminal that is viewing, a change is made to add or modify at least one of the first data and the second data to generate new content data.
  • the three-dimensional content distribution system according to any one of 1) to 3), further including a change reception unit provided for viewing.
  • a change is made to add or modify at least one of the first data and the second data to generate new content data. It further comprises a change reception unit for viewing, The three-dimensional content according to 2), wherein the change accepting unit is further configured to perform a change for adding or modifying the third data to generate new content data, and provide the content data for subsequent viewing. Delivery system.
  • a three-dimensional content distribution method for distributing content using a virtual three-dimensional virtual space to a viewing terminal and providing the content for viewing A recording step of recording (A) first data relating to the specification of each virtual object arranged in the three-dimensional virtual space, and (B) content data including at least second data relating to the operation of each virtual object; A generating step of generating image data for viewing using at least the first data and the second data in response to a request for the viewing terminal to perform viewing. Dimensional content distribution method. 7) The recording step further comprises: (C) recording third data relating to the viewpoint arranged in the three-dimensional virtual space, and the generating step is configured to perform generation using the third data also.
  • the three-dimensional content distribution method which is characterized in that: 8) The three-dimensional content according to 6) or 7), wherein the first data and the second data recorded in the recording step are data recorded first during the first network distribution of the content. Delivery method. 9) In response to a change request from a viewing terminal that is viewing, a change is made to add or modify at least one of the first data and the second data to generate new content data.
  • the three-dimensional content distribution method according to any one of 6) to 8), further comprising a change accepting step for viewing.
  • a change is made to add or modify at least one of the first data and the second data to generate new content data.
  • Delivery method. 11) A computer program for causing a computer to execute each step of the three-dimensional content distribution method according to any one of 6) to 10).
  • FIG. 1 is a diagram schematically showing a configuration of a content distribution receiving system according to the present invention.
  • FIG. 2 is a block diagram of a content distribution server included in the content distribution receiving system of FIG.
  • FIG. 3 is a block diagram of a first distributor terminal included in the content distribution receiving system of FIG.
  • FIG. 4 is a block diagram of a first viewer terminal included in the content distribution receiving system of FIG.
  • FIG. 5 is a schematic external view of the first viewer terminal of FIG.
  • FIG. 6 is a signal flow diagram regarding content viewing during live broadcasting, which is executed by the content distribution receiving system of the present invention.
  • FIG. 7 is a schematic diagram illustrating data relating to an avatar used by the content distribution receiving system of the present invention.
  • FIG. 8 is a schematic diagram of a virtual space during live broadcasting in the content distribution receiving system of the present invention.
  • FIG. 9 is a schematic diagram of the rendering viewed from each viewpoint in the virtual space shown in FIG.
  • FIG. 10 is a signal flow diagram relating to content reproduction after live broadcasting in the content distribution receiving system of the present invention.
  • FIG. 11 is a signal flow diagram regarding addition of a virtual item to playback content after live broadcasting, which is executed by the content delivery / reception system of the present invention.
  • FIG. 12 is a schematic diagram of a virtual space to which a virtual object has been added in the content delivery / reception system of the present invention.
  • FIG. 13 is a schematic diagram of rendering viewed from each viewpoint in the virtual space shown in FIG. FIG.
  • FIG. 14 is a signal flow diagram showing an operation performed by the content distribution receiving system of the present invention to add an avatar to the reproduced content after the live broadcast and distribute the content by another distributor.
  • FIG. 15 is a schematic diagram of a virtual space distributed by another distributor by adding an avatar to reproduced content after live broadcasting in the content distribution receiving system of the present invention.
  • FIG. 16 is a schematic diagram of the rendering viewed from each viewpoint in the virtual space shown in FIG.
  • FIG. 17 is a schematic diagram showing an example of adding a virtual object to a virtual space in the content distribution receiving system of the present invention.
  • FIG. 18 is a schematic diagram showing an example of adding a virtual object to a virtual space in the content distribution receiving system of the present invention.
  • FIG. 1 is a diagram schematically showing a configuration of a content distribution receiving system 1 according to the present invention.
  • the content distribution receiving system 1 includes a content distribution server 2, a first distributor terminal 11, a first viewer terminal 12, a second distributor terminal 21, and a second viewer terminal 22.
  • the components are connected to each other by the Internet communication network 3 or another communication network so that data can be exchanged therebetween.
  • the content distribution server 2 is a server configured so that a general-purpose computer operates with a computer program dedicated to the system 1.
  • the first distributor terminal 11 is, for example, a personal computer used for live Internet broadcasting, which is distribution of live content using the virtual space 30, which will be described later, and used by a distributor who hosts the live content.
  • the first viewer terminal 12 is, for example, a personal computer or a variety of information terminals such as a smartphone and a PDA (Personal Digital Assistant) used by a viewer who views the live content as a playback content after the live broadcast ends. May be implemented.
  • the second distributor terminal 21 is used to distribute live content that has been once broadcasted live to the live internet again in the form of reproduction, and hosts the live content. It is a personal computer used by the distributor.
  • the second viewer terminal 22 is, for example, a personal computer used by a viewer who views the above-mentioned live content in the form of reproduced content or live Internet broadcasting, or various information terminals such as a smartphone and a PDA (Personal Digital Assistant). The same may be said of the fact that it may be realized by using this.
  • FIG. 1 and the above description have limited the number of terminals to be configured to the range mentioned in the description for the sake of simplicity of description, in practice, of course, more distributor terminals and more It is possible to include a viewer terminal.
  • the content distribution server 2 includes an input / output interface 2a which is a data transmission terminal inside and outside the server, and a control unit 2b including a CPU (Central Processing Unit) for controlling and controlling the operation of each server 2 configuration.
  • a CPU Central Processing Unit
  • the content information storage unit 2c of the server 2 stores the information of the content (program) initially broadcasted live on the Internet by using the background of a virtual space, a virtual object, a virtual camera (information on the position and direction of a viewpoint, About the avatar (virtual surrogate) that can move around in the virtual space) and the avatar (virtual proxy) that can move around in the virtual space, the specification of the virtual object
  • the information and the motion information of the virtual object are held for a period from the start to the end of the content.
  • a characteristic feature of the present system 1 is that the content data is not held as rendered data (rendered data; so-called moving image data that is displayed as it is on a display screen), but rather as a virtual object.
  • Specification data such as appearance, voice character, sound effect data, music data, etc.
  • motion data movement data, facing direction data, position coordinate data, etc.
  • the point is to keep as.
  • the rendering data that has been rendered is not simply displayed on the screen as in the conventional configuration, but the specification data of the virtual object shown above and the motion data of the virtual data are displayed.
  • rendering is performed to generate drawing data.
  • the point that “rendering is performed by rendering from the specification data of the virtual object and the motion data of the virtual data to generate drawing data” is actually the operation when the content is broadcast live via the Internet or the like.
  • the content storage unit of the server 2 stores the new version of the content obtained by modifying the original live broadcast in this way, and sends the content in response to a playback request from each viewer terminal thereafter.
  • a storage method when a new version of the content is generated, the old version may be discarded and the new version alone may be stored, or the new version of the content may be stored while the old version remains. Good.
  • the content distribution unit 2d transmits each content stored in the content information storage unit 2c to each terminal that has requested viewing and provides it for viewing.
  • the program storage unit 2f stores a program for realizing each execution operation of the server 2.
  • the user management unit 2g includes a distributor terminal used by a distributor hosting each live content described above, a viewer terminal used by a viewer who views, modifies, or adds the content by viewing the live content, and the like. Is stored as data such as an IP (Internet Protocol) address and account information of a moving image distribution service. Therefore, by using the information stored in the user management unit 2g, a certain live content can be transmitted to any terminal. It stores, as data, whether the content has been supplied or which terminal has modified or added which live content. Therefore, it also has the system diagram information of the live content, which shows how the live content first broadcast live on the Internet was modified or added.
  • IP Internet Protocol
  • the bus line 2i connects the components of the server 2 so that they can exchange data with each other.
  • the first distributor terminal 11 and the second distributor terminal 21 have a common configuration, and the first distributor terminal 11 will be described below as an example.
  • the first distributor terminal 11 includes an input / output interface 11a which is an information input / output terminal inside and outside the terminal, and a CPU (Central Processing Unit) for controlling and controlling each component of the terminal 11. And a control unit 11b.
  • a CPU Central Processing Unit
  • the avatar operation unit 11c first transmits one of the virtual object specification data described above in order for the distributor to make his / her virtual avatar appear in the virtual space and perform a desired operation.
  • avatar specification data As the avatar specification data, avatar appearance data, avatar voice character data, avatar sound effect data, avatar music data, and the like are stored in the data storage unit 11i of the first distributor terminal 11.
  • the avatar operation unit 11c stores an acceleration sensor attached to the body of a distributor as an operator, data obtained by photographing one's own movement with a 3D camera, or data obtained by sensing the movement of various parts of one's own body with a Doppler sensor. These motion data are acquired using the motion data of the virtual object described above.
  • the avatar operation unit 11c prepares its own specification data including the avatar appearance data 7-1, which is one of the specification data of the virtual object, or It is determined by selecting from the prepared and provided selections, or by specifying the URL (uniform resource locator) of the appearance data or specification data arranged on the net. Then, as shown in FIG. 7B, as the motion data 7-2 as a result of sensing the movement of each part of the body of the distributor itself, as shown in FIG. .
  • Information of the branch 7-2b connecting the nodes 7-2a may be further generated to clarify the relationship between the nodes 7-2a.
  • the avatar specification data which is one of the virtual object specification data, is, for example, when a man operates an avatar having the appearance of a young woman, the voice generated by the man is voice-changed and the voice of the young woman is voiced.
  • Frequency characteristics data voice character data
  • characteristic sound effects when the avatar moves data of music that flows characteristically when the avatar appears, and other data.
  • voice character data voice character data
  • sound effect data and music data may be added as specification data to each virtual object.
  • the rendering unit 11e is configured to render (draw) these virtual objects using the specification data of the virtual objects transmitted from the outside of the terminal 11 or stored inside the terminal 11 and the motion data of the virtual objects. For example, when the content recorded in the past is played back, and the data regarding the virtual object of the live content currently being distributed from the terminal 11 is received from the server 2, the data is used for monitoring to confirm the content of the content in real time. For this purpose, the rendering unit 11e throws the avatar specification data including the avatar appearance data 7-1 shown above and the motion data 7-2 into the three-dimensional virtual space as described later.
  • Drawing for visualizing the virtual space using the specification data and motion data of the virtual object and the specification data and motion data of the virtual object placed in the virtual space and the background image of the three-dimensional virtual space.
  • the obtained image of the virtual space including the included virtual object is displayed on the display unit 11f of the first distributor terminal 11.
  • the rendering of the avatar is performed, as shown in FIG. 7C, with respect to the avatar appearance data 7-1 which is one of the specification data of the virtual object, the position of each part, and the like.
  • the motion is obtained from the motion data 7-2, and avatar rendering data 7-3 indicating the current position and motion of the avatar is generated.
  • the rendering is performed using the avatar appearance data 7-1 which is still image data, not moving image data, and the data of the nodes 7-2a and the branches 7-2b constituting the avatar motion data 7-2. Since the appearance data 7-1 is still image data, the data capacity is small, and the data of the nodes 7-2a and the branches 7-2b are not image data but coordinate data of a limited number of points or motion vectors. Since it is data, it also has a small capacity, and as a result, the load on the transmission path and hardware required for data transmission, reception, storage, and rendering can be extremely small.
  • the avatar appearance data 7-1 and the specification data are specified not as raw data (specific raw data) itself but as a data storage destination by a URL (uniform resource locator), the data is transmitted as smaller character string data. And can be memorized.
  • the advantage is that these appearance data, specification data, and motion data can be generated, transmitted, stored, and rendered in the same system regardless of the configuration of the system. However, the same effect is obtained when rendering a virtual object.
  • FIG. 7 (C) This means the rendering avatar data 7-3.
  • the avatar is displayed not only in appearance but also in audio (“display” in the present specification means not only display of an image but also display of audio using a speaker, a vibrator or the like, sound effect, and the like).
  • display in the present specification means not only display of an image but also display of audio using a speaker, a vibrator or the like, sound effect, and the like.
  • the information of the voice emitted by the avatar and the character information of the voice may be included in the data to be transmitted / received or stored by the system 1.
  • the system 1 For example, as described above, if the avatar has the appearance and character of a young woman and the distributor or the like operating the avatar is a male, the male utterance is stored first, and the stored male voice is stored. Will be used to display the avatar as a voice of a young woman.
  • the utterance character information (such as the frequency spectrum of the utterance of the young female character) used for the voice change is included in the avatar appearance information or other information together with the utterance information of the person who operates the avatar such as the distributor.
  • the points are valid.
  • sound effects explosion sound, collision sound, flying sound, onomatopoeia, etc.
  • music may be added, and the system 1 also uses the sound effect data and music data.
  • the data may be data to be transmitted or received or stored. They are also added to the avatar specification data or other data.
  • the specification data may include data on vibration. In this case, for example, a controller for operating an avatar (operating tool with buttons or the like) may be vibrated. The same applies to various places and aspects.
  • the display unit 11f displays a screen so that the distributor himself / herself can view the live content, monitor the rendered image to check the content of the live content currently being distributed by the distributor, and perform various operations.
  • This is realized by a display panel of a personal computer, a goggle type HMD (head mounted display) mounted on the face, or the like.
  • the operation unit 11g is used by the distributor for various operations, and may be, for example, a keyboard, a mouse, or a touch panel of a personal computer, or may be a device operated by motion data of the operator.
  • the program storage unit 11h stores a computer program required for distribution and viewing of live content, and may include a general-purpose computer operating system (OS), an Internet browsing program (browser), and the like.
  • the data storage unit 11i stores background data of virtual space used for live content, specification data of virtual data, motion data, and the like.
  • the comment posting unit 11k is displayed over the display screen of the live content, or is displayed on the surface of a virtual object in the virtual space 30, or becomes independent as a large character-shaped object. This is a configuration for posting a comment, which is character information displayed as a virtual object, to the server 2.
  • the bus line 11m connects the components of the distributor terminal 11 so that data can be exchanged with each other.
  • the first viewer terminal 12 and the second viewer terminal 22 have a common configuration, and the first viewer terminal 12 will be described below as an example.
  • the first viewer terminal 12 includes a control unit including an input / output interface 12 a which is a data transmission / reception end inside and outside the terminal 12, and a CPU (central processing unit) for controlling and controlling various parts of the terminal 12. 12b.
  • a control unit including an input / output interface 12 a which is a data transmission / reception end inside and outside the terminal 12, and a CPU (central processing unit) for controlling and controlling various parts of the terminal 12. 12b.
  • the avatar operation unit 12c as described above, as avatar specification data which is one of the virtual object specification data, includes avatar appearance data, avatar voice character data, avatar sound effect data, and avatar sound effect data.
  • Music data and the like are stored in the data storage unit 12i, and the avatar operation unit 12c allows the viewer as the operator to make his / her virtual avatar appear in the virtual space and perform a desired operation.
  • To obtain the motion data use an acceleration sensor attached to your body, data obtained by capturing your own movement with a 3D camera, or data obtained by sensing the movement of your body with Doppler sensors. It is transmitted to the server 2 as it is or as rendered image information. As described above, referring to FIG.
  • the avatar operation unit 12c prepares its own avatar specification data including the avatar appearance data 7-1, which is one of the virtual data specification data.
  • the user may select from among those prepared by the system for selection, or by specifying a URL (uniform resource locator) of specification data including appearance data arranged on the net.
  • a URL uniform resource locator
  • the motion data 7-2 as a result of sensing the movement of various parts of the body, position information and movement information of the various parts of the body are obtained as nodes 7-2a.
  • Information of the branch 7-2b connecting the nodes 7-2a may be further generated to clarify the relationship between the nodes 7-2a.
  • the avatar is displayed not only in appearance but also in audio (“display” in the present specification means not only display of an image but also display of audio using a speaker, a vibrator or the like, sound effect, and the like).
  • display in the present specification means not only display of an image but also display of audio using a speaker, a vibrator or the like, sound effect, and the like.
  • the information of the voice generated by the avatar and the character information of the voice, including the appearance data of the avatar are included in the data to be transmitted / received or stored by the system 1 as the avatar specification data. You may do so. For example, if the avatar has the appearance and character of a young woman and the distributor who operates the avatar is a male, the male utterance is first memorized, and the stored male voice is voice-changed. Will be used to display the avatar.
  • the utterance character information (such as the frequency spectrum of the utterance of the young female character) used for the voice change is included in the avatar specification information including the avatar appearance information together with the utterance information of the person who operates the avatar such as a viewer.
  • the point to do is effective.
  • sound effects explosion sound, collision sound, flying sound, onomatopoeia, etc.
  • music may be added, and the system 1 also uses the sound effect data and music data.
  • the data may be data to be transmitted or received or stored. They are also added to the avatar specification data, along with appearance information or other data.
  • the item posting unit 12e uses the virtual object specification data including the avatar appearance data and the virtual object motion described above. It is used to post data to the server 2 or post a new virtual object to the live content being played and viewed by the user.
  • the display unit 12f is configured to display a screen in order for the viewer himself to view live content and perform various operations.
  • the display unit 12f includes a display panel of a personal computer and a goggle type HMD (head mounted) mounted on the face. Display).
  • the operation unit 12g is used by a viewer for various operations, and may be a keyboard, a mouse, a touch panel of a personal computer, or a device operated by motion data of the operator.
  • the program storage unit 12h stores a computer program necessary for viewing live content, and may include a general-purpose computer operating system (OS), an Internet browsing program (browser), and the like.
  • the data storage unit 12i stores the data described above and other various data.
  • the comment posting unit 12k is displayed over the display screen of the live content or on the surface of the virtual object in the virtual space 30, or is displayed as an independent virtual object itself such as a huge character-like virtual object. This is a configuration for posting a comment, which is character information, to the server 2.
  • the bus line 12m connects the components of the viewer terminal 12 so that data can be exchanged with each other.
  • FIG. 5 schematically shows the appearance when the first viewer terminal 12 is realized by a personal computer.
  • a display panel 12-1 for displaying various images, still images, moving images, and character information includes: When a viewer connects to the server 2 by inputting a URL (uniform resource locator) known in advance in order to use the service of the present system 1, the server 2 needs necessary data and Javascript (registered). (Trademark)) The program is sent, and a portal screen (not shown) of the moving image distribution service is displayed.
  • a URL uniform resource locator
  • FIG. 5 shows.
  • a display panel 12-1 has a moving image display area 12-1a for displaying a live content moving image, in which an avatar 12-1b of a first distributor who is a distributor of the live content, A tree 12-1n and a house 12-1o, which are virtual objects arranged in a virtual space used by the live content, are displayed.
  • a comment 12-1r is displayed in the display panel 12-1, and a comment 12-1r having the content "Thank you for uploading !!" appears from the right end of the display panel 12-1. Scroll to the left and disappear.
  • the range in which the comment 12-1r is displayed is larger than the moving image display area 12-1a that displays the live content moving image, and is set to protrude from the moving image display area 12-1a. You can clearly understand that it was posted by another contributor instead of the content.
  • a home button display 12-1e for returning to a portal (entrance) page (not shown) of the moving image distribution service is used when the content to be viewed is not a live broadcast but a reproduced content.
  • a stop button display 12-1f, a pause button display 12-1g, and a play button display 12-1h are displayed.
  • the comment posting button display 12-1i in the display panel 12-1 is a button for posting the comment described above for the content being viewed by the viewer.
  • the seek bar display 12-1k associates the playback start time with the left end and the playback end time with the right end when the content is the playback content, and the position of the seek button display 12-1m indicates the current playback time. By moving the position of the seek button display 12-1m with the mouse pointer 12-3, it is possible to move to the time at which reproduction is desired.
  • the operation unit 12g described above there are a mouse pointer 12-3 and a mouse cursor 12-2, and the viewer terminal 12 also has a keyboard 12-4.
  • a distributor who sponsors and distributes live content applies for content distribution to the server 2 using the first distributor terminal 11 (step S101).
  • the server 2 permits the distribution, the server 2 notifies the first distributor terminal 11 of the permission (step S102), and the server 2 transmits the live content to the appropriate distribution service site as a viewable content.
  • the list is posted on the page, or the list is distributed to the logged-in viewer terminal (step S103).
  • the first distributor terminal 11 displays the first distributor's avatar display 12-1b, which is each virtual object in the virtual space 30 shown in FIG. , And the data of the specification relating to the virtual object and the motion data are transmitted to the server 2 (S104), and the data of the specification and the motion data relating to the virtual object are stored in the server 2.
  • the distributor since the distributor generates motion data and controls the operation of the avatar 12-1b, the avatar 12-1b moves, changes direction, and changes posture in the virtual space 30. Operations such as can be performed.
  • Table 1—Relevant data of virtual object not only the appearance of the virtual object including the avatar but also the sound is displayed (in this specification, “display” refers to the display of the image. In addition to this, it is also used to include the display of sound using a speaker, a vibrator, etc., sound effects, etc.).
  • the information of the sound emitted by the virtual object including the avatar, and the character of the sound The information may be included as specification information of the virtual object in a target of data transmitted / received or stored by the system 1.
  • the virtual camera 32 disposed in the virtual space 30 does not necessarily need to be located at the center as shown in the figure, and may be placed at any location, may be moved, or may be plural. Also, a viewer performing reproduction may add or move these virtual cameras from the middle of the live content as part of the modification or addition operation of the live content. The operation of these virtual cameras is common in other parts of this specification, but in the following description, in order to avoid complexity, only one virtual camera is used in each virtual space.
  • the viewer who knows the presence of the live content being broadcast from the list applies to the server 2 from the first viewer terminal 12 to view the live content which is an Internet live broadcast (step S105).
  • a virtual object in the virtual space 30 including the motion data 7-2 of the avatar 12-1b of the first distributor and the avatar appearance data 7-1 is transmitted.
  • the specification data and the motion data are transmitted (step S106), and rendering is performed by the first viewer terminal 12.
  • the rendering results are illustrated in FIG. 9A (image viewed from the viewpoint of the first distributor avatar) and FIG. 9B (image viewed from the viewpoint of the first virtual camera).
  • the live content distributed by the first distributor terminal 11 is not limited to the first viewer terminal 12, and other users using the present moving image distribution system including the second viewer terminal 22 may also perform the same. , You can apply and watch.
  • a viewer who wants to play back the live content stored in the server 2 selects a desired live content from a list indicating the entire live content prepared in advance by the server 2 and applies for the playback to the server 2. Since the server 2 transmits the data of the specification of the virtual object and the motion data, which are the designated live contents, to the first viewer terminal 12, the viewer renders using the first viewer terminal 12 ( (Drawing), and the images shown in FIGS. 9A and 9B are displayed on the display panel 12-1 of the first viewer terminal 12. As a result, the viewer can view the live content using the virtual space. You can watch. At this time, as shown in FIGS. 9 (A) and 9 (B), the viewer can view the rendered image viewed from the viewpoint of the first distributor avatar 12-1b.
  • the user can also view the rendered image viewed from one virtual camera 32, unlike a passive viewing of a television broadcast screen or a movie screen, the user can actively switch a plurality of different viewpoints at his own will. You can see the contents of the content.
  • the live content uses a 3D (three-dimensional) virtual space
  • the viewer can view and view the virtual space 30 by viewing from multiple directions while switching the viewing viewpoint.
  • the viewer can obtain a sense of presence, immersion, and solidarity that cannot be obtained by viewing (two-dimensional) content.
  • Such a sense of presence is transmitted to the viewer as if he / she were watching live broadcast live content, even though he / she was watching the playback content.
  • the characteristic feature of the present system 1 is that content data is rendered data (rendered data; displayed on a display screen as it is). Rather than being held as so-called moving image data), data of the specification of the virtual object as a virtual object (appearance, voice character, sound effect data, music data, etc.) and the virtual object (Such as motion data, facing direction data, and position coordinate data). Then, when the content is reproduced by the viewer terminal or the like, the rendering data that has been rendered is not simply displayed on the screen as in the conventional configuration, but the specification data of the virtual object shown above and the motion data of the virtual data are displayed. Thus, at the time of "reproduction", rendering is performed to generate drawing data.
  • the point that “rendering is performed by rendering from the specification data of the virtual object and the motion data of the virtual data to generate drawing data” is actually the operation when the content is broadcast live via the Internet or the like. Is the same as In other words, by using the configuration of the present system 1, it is possible to reproduce the content with the same operation, configuration, and quality as in the live broadcast of the content, which is a major difference from the conventional technology configuration. Furthermore, at the time of reproduction, by utilizing the point that "rendering is performed from the specification data of the virtual object and the motion data of the virtual data to generate drawing data", these data are modified, added, and modified at the time of reproduction. It is easy to make a modified version of this content, and this point will be described below.
  • an application for reproducing the live content is made from the first viewer terminal 12 to the server 2 (step S301).
  • the server 2 that has accepted the application transmits the target live content to the first viewer terminal 12 as virtual object specification data and motion data, and renders and views the content as described above. (Step S302).
  • the viewer can simply watch the transmitted live content, but for example, in the case of a dance scene, he / she also participates in the live as an avatar and has already participated in the live You may want to get a sense of solidarity by dancing with the operators of each avatar, and you may want to put your avatar into live content and view the live content again from the desired viewpoint determined by you. I can think of it.
  • the viewer applies to the server 2 to input his / her avatar 12-1c to the new live content while playing back the live content, and obtains the virtual object including the avatar appearance information which is necessary data.
  • the specification data and motion data are transmitted to the server 2 as additional item data (step S303).
  • the viewer's avatar 12-1c is the data 7 rendered using the specification data including the avatar appearance data 7-1, the avatar motion data 7-2, and the like as described above with reference to FIG. -3, and the same applies to the case where another virtual object is added from the viewer terminal 12. Therefore, other viewers who reproduce and view the live content thereafter will be referred to as the avatar 12 of the viewer.
  • -1c and the added other virtual object will be viewed in the desired movement and posture operated by the viewer, and the viewer who first added each virtual object using the viewer terminal 12 will be able to view the live content You can get the feeling of participating.
  • the server 2 newly adds the viewer's avatar 12-1c or other virtual object in the virtual space 30, and includes data of the specification of any virtual object of this content including the added portion, and
  • the motion data is transmitted to the first viewer terminal 12 (step S304), and the avatar 12-1c and the data of the added virtual object are also added to the live content data stored in the server 2. Therefore, other viewer terminals that reproduce the live content will view the live content including the viewer's avatar 12-1c and the added virtual object. It is very effective that the time information of the newly added virtual object such as an avatar, information of the added terminal or user account, and the like are used as data to be transmitted / received and stored by the system 1. It is.
  • Such time information, terminal and user information may be stored in the server 2 or may be written in parallel or alone in information on the specification of the added virtual object. Is also good.
  • the fact that the time information added as described above, the information of the added terminal or the user account, and the like are data to be transmitted / received or stored by the system 1 is also effective in other aspects of the present system 1. The points are the same, and description may be omitted in the future.
  • FIGS. 12 and 13 show a state where virtual objects such as a traffic light 33 and a second virtual camera 34 are newly added in addition to the avatar 12-1c of the first viewer.
  • the modification of the live content may require the permission of the organizer of the original live content, or when modifying the live content, the server 2 continuously stores both the data after the modification and the data before the modification. Thereafter, each viewer may be able to reproduce any live content according to the operation.
  • viewers can be satisfied that the modified live content can be played to many other viewers, and viewers who do not like such modification may also In this way, the user can view the content before the modification, and can achieve both the difficulties of achieving a balance between the enhancement of a sense of solidarity and the appreciation of one's own preference.
  • the server 2 can also prepare the phylogenetic tree data of the modification of the live content, it traces the modification of the live content that is preferable to the user and enjoys arriving at the version of the content that is more suitable for him. Viewers can enjoy it.
  • FIGS. 14, 15 and 16 show examples, but in each figure, the avatar 35 of the second distributor is added. Details of each operation are the same as those described above.
  • Japanese Patent Application Laid-Open No. 2012-1200908 which is a known patent document, discloses that content viewers purchase flowers, characters, logos, etc. as virtual items to be pasted on the display screen of a live-action live program, for example, as “decorations”. It is disclosed that the display screen is decorated by arranging the display screen at a free position on the display screen.
  • a viewer who plays back live content using a virtual space throws a virtual object indicating praise or approval of the performer, and thereafter plays back this live content.
  • Other viewers can view the thrown virtual object, and as a result, the viewers who throw the virtual object are widely recognized for their support or praise, or viewers who subsequently view this live content Can also feel a sense of support and praise.
  • throwing into playback content is not a real-time throwing (agreement or praise), but it can be viewed as many times as it is played, The number of layers and numbers are widened, and the reputation can be reputed, and many throws can be made, and since these are accumulated, there is an advantage for both the viewer and the presenter who is given.
  • FIGS. 17 and 18 show that a ribbon-type virtual object 12-1d, which is such a virtual object (virtual item), is displayed in a virtual space 30 by a viewer who plays back the content using a viewer terminal. Shows the state of being thrown into the.
  • the ribbon-type virtual object 12-1d includes specification data including appearance image data, motion data including position data and orientation data, and the like.
  • a viewer or the like can add to the virtual space 30 using a viewer terminal or the like in the same manner as the avatars 12-1b and 12-1c of the viewer are added to the virtual space 30.
  • the ribbon-type virtual object 12-1d is composed of specification information including the appearance information of the avatar (agent) of the distributor or the viewer, and the same procedure and configuration as the motion data (motion information).
  • the system 1 of this embodiment is configured so that the data of the specification of the virtual object and the motion data are transmitted and stored.
  • the ribbon-type virtual object 12-1d which is a virtual object used for throwing, includes appearance information, voice character information, specification information including sound effect and music information, and movement information (position information). , Movement direction / speed information, posture information, etc.).
  • the ribbon-type virtual object 12-1d can perform various effects that increase the interest and interest of the user.
  • the virtual object to be thrown can be implemented as a virtual object having data such as various appearances different from the ribbon-type virtual object 12-1d.
  • the schematic diagram shown in FIG. 17A shows that the ribbon-type virtual object 12-1d, which is a virtual item thrown into the virtual space 30, falls from above to below. This means the effect of landing on the ground in the virtual space.
  • throwing a virtual object has the same feeling as throwing a “twist” on the stage in a theater or throwing a bouquet in a wedding ceremony. In this way, the virtual object falls from the top down and falls on the ground of the virtual space 30.
  • the production that lands is a production with a natural feeling, and it is easy to obtain the sympathy of the viewer.
  • FIG. 17B is a schematic diagram showing that when a target to which a virtual object is thrown is determined to be, for example, the first distributor 12-1b and a predetermined operation is performed using a viewer terminal, The effect is that the ribbon-type virtual object 12-1d thrown into the virtual space 30 moves in the virtual space toward the first distributor 12-1b to be thrown. Natural effects can also be obtained from the example of "twist" described above.
  • FIG. 18A shows that the ribbon-type virtual object 12-1d thrown into the virtual space 30 automatically moves around (including flying around) in the virtual space 30 or in response to the operation of the throwing person. It is an effect that moves around in the virtual space. This is a very prominent effect compared to when the virtual object is thrown still in the virtual space, and it is useful for promoting the throw.
  • FIG. 18 (B) is a schematic diagram showing a case where the number of ribbon-type virtual objects 12-1d thrown by a large number of viewers is large or the same person continuously throws a large number of virtual objects. This is a production in which these thrown objects are stacked once and then collapsed. It is expected that the throwing of virtual objects will be concentrated on popular live content, popular scenes, and popular performers, and such production is highly feasible and has a large effect on production.
  • the virtual object thrown with the target specified may be placed beside the target person or the name of the target person may be written. It is also desirable that the thrown virtual object be placed within the field of view of the virtual camera.
  • the present invention is configured to solve the respective problems of reducing the burden on a communication network and each terminal hardware and enjoying live content while sharing with a large number of viewers.

Abstract

ライブコンテンツを、バーチャルオブジェクトの仕様データ、バーチャルオブジェクトの動作のデータなどに基づいて、描画して視聴用端末の視聴再生に供するようにする。

Description

3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム
 本開示は、3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラムに関する。
 近年、ネットワークを介してライブコンテンツを配信するサービスがインターネット生 放送として普及している。このようなインターネット生放送において、配信者が仮想空間 内で仮想キャラクタ(アバター)として登場し、その映像をライブコンテンツとして配信 する技術が提案されている。このようなライブコンテンツでは、モーションキャプチャ技 術によって、配信者の動作が仮想キャラクタの動作として合成された映像が配信される。
 ネットワークを介してライブコンテンツを配信する構成とは異なり、視聴者が自分専用の再生画像を生成しようとする構成として例えば特許文献1は、放送局から視聴用端末へ、放送素材データとして背景、人物、仮想的なオブジェクトなどがそれぞれ別な専用チャネルで送信され、視聴者はそれらから自分の所望の素材を選んで、あくまでも自分専用の3次元映像を作る構成が開示されており、作られた3次元映像は他の視聴者と共有はされないものである。
 また、同じく、視聴者が自分専用の再生画像を生成しようとする構成である特許文献2は、サッカーの試合などバーチャルな3次元コンテンツデータがあらかじめ用意され、そこには複数の選手、審判、ボールなど動くオブジェクトデータ、ゴールや地面など背景データが含まれていて、視聴者が自分の見たい視点(例えば特定の選手、あるいはフィールド外のカメラ)を選択すると、サーバはその視点から見た画像をレンダリングし、視聴者の端末へ送信する構成であり、特許文献1と同様にあくまでも自分専用の3次元映像を作る構成が開示されており、得られたレンダリング画像は他の視聴者と共有はされないものである。
 また特許文献3は、3D(3次元)仮想空間ではない、平面動画像コンテンツに関して、サーバにライブ演奏などの2次元動画コンテンツがあらかじめ用意されており、視聴者はサーバからこのデータを受信して再生しながら自分のアバター(観客の2次元画像)をこの再生映像に加えられ、再生後あるいは途中に、この視聴者が追加したアバターのデータはサーバへ送られて先の2次元動画コンテンツに追加更新され他の視聴者は再生時にこのアバターを見ることができる構成を開示している。この結果、各視聴者が再生の度に各視聴者のアバターがコンテンツに追加されて、コンテンツの画像がにぎやかな内容になる、としている。
日本国特開2001-28765号公報 日本国特開2008-117042号公報 日本国特許第5231093号公報 日本国特開2012-120098号公報
 インターネット生放送などでライブコンテンツを楽しむ視聴者が近年増加をしており、新たなニーズとして、生放送された時刻には視聴ができなかったライブコンテンツを、後から視聴して楽しみたい、後からの視聴再生においても、あたかもライブで視聴しているような臨場感、没入感を得たい、という点がある。
 このような、「あたかもライブで視聴しているような臨場感、没入感を得たい」という欲求は、「生放送された時刻には視聴ができなかったライブコンテンツを、後から視聴して楽しみたい」という他の欲求と一見して相いれないように思えるし、先に示した特許文献1および特許文献2は、いずれも自分だけが視聴する映像を生成するに過ぎないのであるから、これらの欲求に応えてはいない。
 さらに特許文献3は、自分の分身である2次元画像のアバターが2次元画像のライブコンテンツの観客として画像に加えられ、この自分のアバターの画像、あるいは他の視聴者が加えたアバターの画像は全視聴者が視認をできるのであるが、ただ単に2次元画像であるコンテンツに自分の2次元アバター画像が重ね合わせられるだけであるので、自分が仮想的にライブコンテンツに参加できるのではないので、十分な連帯感、高揚感、没入感を得ることは難しい点は何ら解決されていない。
 さらに、従来技術にかかる他の課題として、通信網や各端末ハードウエアの負担を小さくして、多数の視聴者とシェアをしながらライブコンテンツの視聴を楽しみたい、という点が挙げられる。
 先に示した特許文献1および特許文献2は、多数の視聴者とシェアをしながら楽しむためのライブコンテンツを提供する構成ではないし、同じく特許文献3は、2次元の平面動画像からなるコンテンツであるため、一般的な動画像の放送配信のために要する通信路や端末の負担が生じることとなる。
 本発明は上記の状況に鑑みてなされたものであって、生放送された時刻には視聴ができなかったライブコンテンツを、後から視聴して楽しみたい、後からの視聴再生においても、あたかもライブで視聴しているような臨場感、没入感を得たい、あるいは通信網や各端末ハードウエアの負担を小さくして、多数の視聴者とシェアをしながらライブコンテンツの視聴を楽しみたい、という各課題を解決するための、3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラムを提供することを発明の目的とする。
 上記の課題を解決するために、本発明は、下記の1)~11)に記載の3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラムを提供する。
1)
 仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信システムであって、
 (A)3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録部と、
 視聴用端末が視聴を行うための要求に応じて、第1のデータおよび第2のデータを少なくとも用いて、視聴のための画像データを生成する生成部と、を備えたことを特徴とする3次元コンテンツ配信システム。
2)
 記録部がさらに、(C)3次元バーチャル空間に配置された視点に関する第3のデータを記録し、且つ、生成部が当該第3のデータをも用いて生成を行うよう構成されたことを特徴とする、1)に記載の3次元コンテンツ配信システム。
3)
 記録部が記録する第1のデータおよび第2のデータが、コンテンツの初回のネット配信中に最初に記録されたデータであることを特徴とする、1)または2)に記載の3次元コンテンツ配信システム。
4)
 視聴を行っている視聴用端末からの変更要求に応じて第1のデータ、および第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供する変更受付部を備えたことを特徴とする1)乃至3)のいずれか1項に記載の3次元コンテンツ配信システム。
5)
 視聴を行っている視聴用端末からの変更要求に応じて第1のデータ、および第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供する変更受付部をさらに具備し、
 変更受付部はさらに、第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供するよう構成されたことを特徴とする、2)に記載の3次元コンテンツ配信システム。
6)
 仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信方法であって、
 (A)3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録ステップと、
 視聴用端末が視聴を行うための要求に応じて、第1のデータおよび第2のデータを少なくとも用いて、視聴のための画像データを生成する生成ステップと、を備えたことを特徴とする3次元コンテンツ配信方法。
7)
 記録ステップがさらに、(C)3次元バーチャル空間に配置された視点に関する第3のデータを記録し、且つ、生成ステップでは当該第3のデータをも用いて生成が行われるよう構成されたことを特徴とする、6)に記載の3次元コンテンツ配信方法。
8)
 記録ステップで記録される第1のデータおよび第2のデータが、コンテンツの初回のネット配信中に最初に記録されたデータであることを特徴とする、6)または7)に記載の3次元コンテンツ配信方法。
9)
 視聴を行っている視聴用端末からの変更要求に応じて第1のデータ、および第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供する変更受付ステップを備えたことを特徴とする、6)乃至8)の内のいずれか1項に記載の3次元コンテンツ配信方法。
10)
 視聴を行っている視聴用端末からの変更要求に応じて第1のデータ、および第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供する変更受付ステップをさらに具備し、
 変更受付ステップはさらに、第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の視聴に供するよう構成されたことを特徴とする、7)に記載の3次元コンテンツ配信方法。
11)
 6)乃至10)のいずれか1項に記載の3次元コンテンツ配信方法が備える各ステップをコンピュータに実行させるコンピュータプログラム。
図1は、本発明にかかるコンテンツ配信受信システムの構成を模式的に示した図である。 図2は、図1のコンテンツ配信受信システムが有するコンテンツ配信サーバのブロック図である。 図3は、図1のコンテンツ配信受信システムが有する第1の配信者端末のブロック図である。 図4は、図1のコンテンツ配信受信システムが有する第1の視聴者端末のブロック図である。 図5は、図4の第1の視聴者端末の外観模式図である。 図6は、本発明のコンテンツ配信受信システムが実行する、生放送中のコンテンツ視聴についてのシグナルフロー図である。 図7は、本発明のコンテンツ配信受信システムが用いるアバターに関するデータを説明する模式図である。 図8は、本発明のコンテンツ配信受信システムにおける、生放送中の仮想空間の模式図である。 図9は、図8図示仮想空間における、各視点から見たレンダリングの模式図である。 図10は、本発明のコンテンツ配信受信システムにおける、生放送後のコンテンツ再生に関するシグナルフロー図である。 図11は、本発明のコンテンツ配信受信システムが実行する、生放送後の再生コンテンツへの仮想アイテムの追加についてのシグナルフロー図である。 図12は、本発明のコンテンツ配信受信システムにおける、バーチャルオブジェクトが追加された仮想空間の模式図である。 図13は、図12図示仮想空間における、各視点から見たレンダリングの模式図である。 図14は、本発明のコンテンツ配信受信システムが実行する、生放送後の再生コンテンツにアバターを追加して、他の配信者が配信する動作についてのシグナルフロー図である。 図15は、本発明のコンテンツ配信受信システムにおける、生放送後の再生コンテンツにアバターを追加して、他の配信者が配信した仮想空間の模式図である。 図16は、図15図示仮想空間における、各視点から見たレンダリングの模式図である。 図17は、本発明のコンテンツ配信受信システムにおける、仮想空間にバーチャルオブジェクトを追加する例を示す模式図である。 図18は、本発明のコンテンツ配信受信システムにおける、仮想空間にバーチャルオブジェクトを追加する例を示す模式図である。
 以下、本開示に係る実施形態について説明する。なお、以下に説明する本実施形態は、それぞれ例示に過ぎず、本発明の趣旨を脱しない範囲で種々の変形が可能であり、これらもまた本発明が包含する。
 〔コンテンツ配信受信システム1の構成〕
 図1は、本発明にかかるコンテンツ配信受信システム1の構成を模式的に示した図である。
 コンテンツ配信受信システム1は、コンテンツ配信サーバ2、第1の配信者端末11、第1の視聴者端末12、第2の配信者端末21、第2の視聴者端末22を含んで構成され、これら各構成はインターネット通信網3あるいはその他の通信網によって相互にデータ交換が可能に接続されている。コンテンツ配信サーバ2は、汎用のコンピュータが、本システム1専用のコンピュータプログラムで動作するように構成されたサーバである。
 第1の配信者端末11は、後に説明を行う仮想空間30を用いたライブコンテンツの配信であるインターネット生放送に用いられ、このライブコンテンツを主催する配信者が用いる、例えばパーソナルコンピュータである。第1の視聴者端末12は、上記のライブコンテンツを生放送が終わった後に、再生コンテンツとして視聴する視聴者が用いる、例えばパーソナルコンピュータであり、あるいはスマートフォン、PDA(パーソナルデジタルアシスタント)など様々な情報端末を用いて実現してもよい。
 第2の配信者端末21は、後に説明を行うように、一度、生放送配信がなされたライブコンテンツを、再生の形で再度インターネット生放送に供するライブコンテンツの配信に用いられ、このライブコンテンツを主催する配信者が使用するパーソナルコンピュータである。第2の視聴者端末22は、上記のライブコンテンツを再生コンテンツあるいはインターネット生放送の形で視聴する視聴者が用いる、例えばパーソナルコンピュータであり、あるいはスマートフォン、PDA(パーソナルデジタルアシスタント)など様々な情報端末を用いて実現してもよい点も同様である。
 なお、図1図示構成および上記の説明は説明を簡潔明瞭にするため構成する端末等の数を説明で言及する範囲に制限したが、実施に当たってはもちろん、より多数の配信者端末、より多数の視聴者端末を含んで構成することが可能である。
 〔コンテンツ配信サーバ2の構成〕
 図2に図示するように、コンテンツ配信サーバ2は、サーバ内外のデータ送信端である入出力インターフェース2a、各サーバ2構成の動作の制御統制を行うCPU(セントラルプロセッシングユニット)を備える制御部2bを有している。
 同じくサーバ2が有するコンテンツ情報記憶部2cは、最初にインターネット生放送がなされたコンテンツ(番組)の情報を、仮想空間の背景やバーチャルオブジェクト、仮想的カメラ(視点の位置と方向の情報を有し、仮想空間内を移動可能である)およびこの仮想空間を動きまわることができるアバター(仮想的な代理)について、その外観を含めた仕様や動き(モーション)などの情報である、バーチャルオブジェクトの仕様の情報、およびバーチャルオブジェクトのモーション情報を、コンテンツの開始から終了までの期間を対象として保持する。本システム1が有する特徴的な点として、コンテンツのデータをレンダリング済みデータ(描画済みのデータ。そのまま表示画面に表示がされる、いわゆる動画像のデータ)として保持するのではなく、仮想的な対象物であるバーチャルオブジェクトの仕様のデータ(外観、ボイスのキャラクタ、効果音データ、音楽データなど)と、同じくバーチャルオブジェクトのモーションデータ(動作のデータ、向いている方向のデータ、位置座標のデータなど)として保持する点にある。そして、コンテンツを視聴者端末その他が再生する際には、従来構成のようにレンダリング済みの描画データをただ画面表示するのではなく、上に示したバーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、「再生時に」、レンダリングを行って描画データを生成するように構成している。このように、「バーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、レンダリングを行って描画データを生成している」点は、実は、コンテンツをインターネットなどを経由して生放送する際の動作と同じである。つまり本システム1の構成を用いることで、コンテンツの再生を、コンテンツの生放送時と概略変わらない動作、構成、品質で行うことが可能となっており、従来技術構成との大きな相違点である。さらに、再生時に「バーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、レンダリングを行って描画データを生成している」という点を生かして、再生時にこれらデータを修正、追加、改変して、このコンテンツの修正版を生成することが容易となっている。
 サーバ2のコンテンツ記憶部は、このようにオリジナル生放送を改変した新たなバージョンのコンテンツを記憶して、以後の各視聴者端末からの再生要求に応じて送出を行う。記憶の方法として、新たなバージョンのコンテンツが生成された場合には、古いバージョンを破棄して新しいバージョンのみを記憶してもよいし、古いバージョンを残したまま新しいバージョンのコンテンツを記憶してもよい。
 コンテンツ配信部2dは、コンテンツ情報記憶部2cが記憶する各コンテンツを、視聴を求めてきた各端末へ送信して視聴に供する。プログラム記憶部2fは、このサーバ2の各実行動作を実現するためのプログラムを記憶している。
 ユーザ管理部2gは、先に説明した各ライブコンテンツを主催する配信者が用いる配信者端末、そのライブコンテンツを視聴してコンテンツの視聴、改変や追加を行った視聴者が用いる視聴者端末、などの情報をIP(インターネットプロトコル)アドレスや、動画像配信サービスのアカウント情報などのデータとして保持しており、従ってこのユーザ管理部2gが記憶する情報を用いることで、あるライブコンテンツがどの端末へ送信供給されたのか、どの端末がどのライブコンテンツを改変あるいは追加したのか、をデータとして記憶している。したがって、最初にインターネット生放送されたライブコンテンツがどのような流れで改変あるいは追加がなされたのか、ライブコンテンツの系統図情報をも保有している。
 バスライン2iは、これらサーバ2の各構成間を相互にデータ交換可能に接続する。
 第1の配信者端末11と第2の配信者端末21とは共通の構成を有しており、以下では第1の配信者端末11を例として説明を行う。
 〔第1の配信者端末11の構成〕
 図3に示すように、第1の配信者端末11は、まず、端末内外の情報入出力端である入出力インターフェース11a、端末11の各構成の制御統制を行うCPU(セントラルプロセッシングユニット)を備えた制御部11bを有している。
 アバター操作部11cは、配信者が自分の仮想的な分身であるアバターを仮想空間内に登場させて、所望の動作をさせるために、まず、先に説明をした、バーチャルオブジェクトの仕様データの一つであるアバターの仕様データとして、アバターの外観データ、アバターのボイスキャラクタデータ、アバターの効果音のデータ、アバターの音楽データなどが、この第1の配信者端末11のデータ記憶部11iに記憶されており、アバター操作部11cは、操作者である配信者などの身体につけた加速度センサーや、3Dカメラで自分の動きを撮影したデータ、あるいはドップラーセンサで自分の身体各所の動きをセンシングしたデータを用い、これらモーションデータを取得して、先に説明をしたバーチャルオブジェクトのモーションデータの一つである、アバターのモーションデータとしてサーバ2に送信をしたり、あるいはデータ記憶部11iに記憶を行う。具体的には、図7に示すように、アバター操作部11cは、バーチャルオブジェクトの仕様データの一つである、アバターの外観データ7-1を含めた仕様データを自分で用意するか、システムが用意して選択に供する中から選ぶか、ネット上に配置された外観データあるいは仕様データのURL(ユニフォームリソースロケーター)を指定するなどして決定する。そして、配信者自身の身体各所の動きをセンシングした結果であるモーションデータ7-2として、図7(B)に示すように、身体各所を節7-2aとしてその位置情報、動きの情報を得る。節7-2aをつなぐ枝7-2bの情報を更に生成して、節7-2a同士の関係を明確化するように構成してもよい。なお、バーチャルオブジェクトの仕様データの一つである、アバターの仕様データとは、例えば若い女性の外観を有するアバターを男性が操作する場合に、男性が発生した声をボイスチェンジして若い女性の声にするための、声の周波数特性データ(音声キャラクタデータ)、アバターが動く場合の特有の効果音、アバターが現れると特徴的にバックに流れる音楽のデータなどであり、ほかのデータを含めてももちろんよい。同じく、アバター以外のバーチャルオブジェクト(バーチャルアイテム、仮想アイテム、仮想オブジェクトなどともいう)について、その外観データばかりではなく、アイテムが発生する場合には音声キャラクタデータを仕様データとして付加してもよいし、同様に効果音データや音楽データをそれぞれのバーチャルオブジェクトに対して仕様データとして付加してもよい。以上の点は、本システム1で用いられるアバターを含めた種々のバーチャルオブジェクトに共通しており、今後説明を省略する場合もある。なお、本システム1が用いるバーチャルオブジェクトのデータを表1にまとめて示す。
Figure JPOXMLDOC01-appb-M000001
 レンダリング部11eは、端末11の外部から送信をされた、あるいは端末11内部に記憶されたバーチャルオブジェクトの仕様データ、およびバーチャルオブジェクトのモーションデータを用いてこれらバーチャルオブジェクトをレンダリング(描画)する構成であって、過去に記録されたコンテンツの再生時、および、現在端末11から配信中のライブコンテンツのバーチャルオブジェクトに関するデータをサーバ2から受け取り、コンテンツの内容をリアルタイムに確認するモニタリングなどに用いられる。このために、レンダリング部11eは、上に示したアバターの外観のデータ7-1を含めたアバターの仕様のデータとモーションデータ7-2、この後に説明するように、3次元仮想空間内に投げ込まれたバーチャルオブジェクトの仕様データとモーションデータ、3次元仮想空間の背景画像や仮想空間内に置かれたバーチャルオブジェクトの仕様データおよびモーションデータを用いて、仮想空間を可視化するための描画(レンダリング)を行い、得られた、内包するバーチャルオブジェクトを含めた仮想空間の映像は、第1の配信者端末11の表示部11fに表示される。先に説明をしたように、例えばアバターについてのレンダリングは、図7(C)に示すように、バーチャルオブジェクトの仕様データの一つであるアバター外観データ7-1に対して、その各所の位置や動きをモーションデータ7-2から得て、現在のアバターの位置や動きを示すアバターのレンダリング用データ7-3を生成する。なお、レンダリングは、動画データではなく静止画データであるアバターの外観データ7-1と、アバターのモーションデータ7-2を構成する節7-2aや枝7-2bのデータとを用いて行うことができるので、外観データ7-1は静止画データであるのでデータ容量が小さいし、節7-2aや枝7-2bのデータは画像データではなく限られた数の点の座標データもしくは運動ベクトルデータであるのでこれも容量が小さく、この結果、データの送信、受信、記憶やレンダリングに要する伝送路やハードウエアの負担は極めて小さいものとすることができる。さらに、アバターの外観データ7-1、や仕様データをロウデータ(具体的な生データ)そのものではなく、URL(ユニフォームリソースロケーター)でデータの保存先として指定すれば、より小さな文字列データで送信や記憶を行うことができる。これらの有利な点は、これら外観データや仕様データやモーションデータをシステムのどの構成で生成し、伝送し、記憶し、レンダリングするかによらず同様の効果を奏するものであるし、人のアバターに限らず、バーチャルオブジェクトをレンダリングしようとする際には共通の効果となる。なお、本願付図において各所に記載されているアバターの模式図は簡易的な表示を用いていて四肢の動きなどまでは書き込まれていないが、これらの図示は、図7(C)に示すようなレンダリング用アバターデータ7-3を意味している。なお、アバターを外観のみならず音声を含めて表示(本明細書では「表示」を、画像の表示のみならず、スピーカー、振動子などを用いた音声、効果音などの表示をも含む意味で用いることとする。)を行う場合、アバターが発する音声の情報、および音声のキャラクタ情報を、システム1が送受信あるいは記憶するデータの対象に含めるようにしてもよい。例えば先に説明したように、アバターが若い女性の外観とキャラクタを有していてそのアバターを操作する配信者などが男性である場合、男性のオリジナルの発声をまず記憶し、記憶した男性の音声をボイスチェンジして若い女性の発声としてアバターの表示に用いることとなる。そのボイスチェンジに用いる発声のキャラクタ情報(若い女性キャラクタの発声の周波数スペクトラム等)が、配信者などアバターを操作する者の発声情報とともに、アバター外観情報に、あるいは他の情報に含まれるようにする点は有効である。同じく、バーチャルオブジェクトをライブコンテンツに追加する際に、効果音(爆発音、衝突音、飛翔音、オノマトペなど)や、音楽を追加してもよく、それら効果音データ、音楽データをもシステム1が送受や記憶する対象のデータとしてもよい。それらもまたアバター仕様データあるいはその他のデータに追加がなされる。なお、仕様データには、振動に関するデータを含めてもよく、その場合、例えばアバターを操作するコントローラ(ボタンなどが付属した操作具)を振動させるようにしてもよいのであり、この点はシステム1の各所、各局面においても同様である。
 表示部11fは、配信者自身がライブコンテンツを視聴したり、現在配信者が配信中のライブコンテンツの内容を確認するためにレンダリング画像をモニタリングしたり、各種操作を行ったりするために画面表示を行う構成であって、パーソナルコンピュータの表示パネルや、顔面に装着されるゴーグルタイプのHMD(ヘッドマウントディスプレイ)などで実現される。操作部11gは配信者が各種動作の操作に用いるもので、例えばパーソナルコンピュータのキーボード、マウス、タッチパネルでもよいし、あるいは操作者のモーションデータで操作するデバイスであってもよい。プログラム記憶部11hは、ライブコンテンツの配信や視聴に必要なコンピュータプログラムを記憶しており、汎用のコンピュータオペレーティングシステム(OS)、インターネット閲覧プログラム(ブラウザ)等を含んでいてもよい。データ記憶部11iは、ライブコンテンツに用いられる仮想空間の背景のデータ、バーチャルデータの仕様データ、モーションデータなどを記憶する。
 コメント投稿部11kは、ライブコンテンツの表示画面にかぶさって表示がされたり、あるいは仮想空間30内のバーチャルオブジェクトの表面に表示がされたり、大きな文字の形をしたオブジェクトのようにそれ自体が独立したバーチャルオブジェクトとして表示される文字情報であるコメントをサーバ2に投稿するための構成である。バスライン11mは配信者端末11の各構成を、データを相互に交換可能に接続する。
 第1の視聴者端末12と第2の視聴者端末22とは共通の構成を有しており、以下では第1の視聴者端末12を例として説明を行う。
 〔第1の視聴者端末12の構成〕
 図4に図示するように、第1の視聴者端末12は、端末12内外のデータ送受端である入出力インターフェース12a、端末12各所の制御統制を行うCPU(セントラルプロセッシングユニット)を備えた制御部12bを有している。
 アバター操作部12cは、まず、先に説明をした、バーチャルオブジェクトの仕様データの一つであるアバターの仕様データとして、アバターの外観データ、アバターのボイスキャラクタデータ、アバターの効果音のデータ、アバターの音楽データなどが、データ記憶部12iに記憶されており、アバター操作部12cは、操作者である視聴者などが自分の仮想的な分身であるアバターを仮想空間内に登場させて、所望の動作をさせるために、自分の身体につけた加速度センサーや、3Dカメラで自分の動きを撮影したデータ、あるいはドップラーセンサで自分の身体各所の動きをセンシングしたデータを用い、これらモーションデータを取得して、そのままで、あるいはレンダリングした画像情報としてサーバ2に送信を行う。先に説明をしたように、図7を援用すると、アバター操作部12cは、バーチャルデータの仕様データの一つである、アバターの外観データ7-1を含めたアバターの仕様データを自分で用意するか、システムが用意して選択に供する中から選ぶか、ネット上に配置された外観データを含めた仕様データのURL(ユニフォームリソースロケーター)を指定するなどして決定する。そして、身体各所の動きをセンシングした結果であるモーションデータ7-2として、図7(B)に示すように、身体各所を節7-2aとしてその位置情報、動きの情報を得る。節7-2aをつなぐ枝7-2bの情報を更に生成して、節7-2a同士の関係を明確化するように構成してもよい。なお、アバターを外観のみならず音声を含めて表示(本明細書では「表示」を、画像の表示のみならず、スピーカー、振動子などを用いた音声、効果音などの表示をも含む意味で用いることとする。)を行う場合、アバターが発する音声の情報、および音声のキャラクタ情報を、アバターの外観データを含めて、アバターの仕様データとして、システム1が送受信あるいは記憶するデータの対象に含めるようにしてもよい。例えばアバターが若い女性の外観とキャラクタを有していてそのアバターを操作する配信者などが男性である場合、男性のオリジナルの発声をまず記憶し、記憶した男性の音声をボイスチェンジして若い女性の発声としてアバターの表示に用いることとなる。そのボイスチェンジに用いる発声のキャラクタ情報(若い女性キャラクタの発声の周波数スペクトラム等)が、視聴者などアバターを操作する者の発声情報とともに、アバターの外観情報を合わせたアバター仕様情報に含まれるようにする点は有効である。同じく、バーチャルオブジェクトをライブコンテンツに追加する際に、効果音(爆発音、衝突音、飛翔音、オノマトペなど)や、音楽を追加してもよく、それら効果音データ、音楽データをもシステム1が送受や記憶する対象のデータとしてもよい。それらもまた外観情報あるいはその他のデータとともに、アバターの仕様データに追加がなされる。
 アイテム投稿部12eは、視聴者が自己のアバターを、自分が視聴しているライブコンテンツに登場させるため、アバターの外観データを含めた、バーチャルオブジェクトの仕様データや、先に説明したバーチャルオブジェクトのモーションデータをサーバ2へ投稿したり、あるいは自分が再生視聴しているライブコンテンツに新たなバーチャルオブジェクトを投稿するために用いられる。
 表示部12fは、視聴者自身がライブコンテンツを視聴したり、各種操作を行うために画面表示を行う構成であって、パーソナルコンピュータの表示パネルや、顔面に装着されるゴーグルタイプのHMD(ヘッドマウントディスプレイ)などで実現される。
 操作部12gは視聴者が各種動作の操作に用いるもので、パーソナルコンピュータのキーボード、マウス、タッチパネルでもよいし、あるいは操作者のモーションデータで操作するデバイスであってもよい。プログラム記憶部12hは、ライブコンテンツの視聴に必要なコンピュータプログラムを記憶しており、汎用のコンピュータオペレーティングシステム(OS)、インターネット閲覧プログラム(ブラウザ)等を含んでいてもよい。データ記憶部12iは、先に説明をしたデータおよびその他の各種データを記憶する。
 コメント投稿部12kは、ライブコンテンツの表示画面にかぶさって、あるいは仮想空間30内のバーチャルオブジェクトの表面に表示されたり、巨大な文字状のバーチャルオブジェクトのようにそれ自体が独立したバーチャルオブジェクトとして表示される文字情報であるコメントをサーバ2に投稿するための構成である。バスライン12mは視聴者端末12の各構成を、データを相互に交換可能に接続する。
 図5は、第1の視聴者端末12をパーソナルコンピュータで実現した場合の外観を模式的に示したもので、各種映像、静止画像、動画像や文字情報を表示する表示パネル12-1は、視聴者が本システム1のサービスを利用するために、あらかじめ知らされているURL(ユニフォームリソースロケータ)を入力してサーバ2に接続を行うと、サーバ2から必要なデータとジャバスクリプト(JavaScript(登録商標))プログラムが送付されて動画配信サービスのポータル画面(図示しない)が表示される。
 視聴者は、自分がインターネット生放送として視聴をしたい、あるいは再生コンテンツとして視聴をしたいライブコンテンツを表示リスト(図示しない)からあらかじめ選択しており、そのライブコンテンツが表示されている場合を想定した状況を、図5は示している。
 図5において、表示パネル12-1内に、ライブコンテンツ動画を表示する動画表示エリア12-1aがあり、そこには、このライブコンテンツの配信者である第1の配信者のアバター12-1b、このライブコンテンツが用いる仮想空間に配置されたバーチャルオブジェクトである樹木12-1n、家屋12-1oが表示されている。また、更にコメント12-1rが表示パネル12-1内に表示されたており、「アップしてくれてありがとう!!」、という内容のコメント12-1rが表示パネル12-1の右端から現れて左端にスクロール移動して消えていく。コメント12-1rが表示される範囲はライブコンテンツ動画を表示する動画表示エリア12-1aよりも大きく、そこからはみ出すよう設定されているので、視聴者はこれらコメント12-rが、コンテンツのオリジナルな内容ではなく別な投稿者から投稿されたことが明瞭に理解できる。
 同様に、表示パネル12-1内には、動画配信サービスのポータル(入口)ページ(図示しない)に戻るためのホームボタン表示12-1e、視聴するコンテンツが生放送ではなく再生コンテンツである場合に用いる停止ボタン表示12-1f、ポーズボタン表示12-1g、および再生ボタン表示12-1hがそれぞれ表示されている。
 表示パネル12-1内のコメント投稿ボタン表示12-1iは、視聴者が視聴しているコンテンツに対して先に説明をしたコメントを投稿するためのボタンである。
 シークバー表示12-1kは、コンテンツが再生コンテンツである場合に、再生開始時刻を左端に、再生終了時刻を右端に対応させ、シークボタン表示12-1mの位置が現在の再生時刻を示しており、このシークボタン表示12-1mの位置をマウスポインタ12-3で動かして再生したい時刻へ移動させることができる。先に説明した操作部12gとして、マウスポインタ12-3、マウスカーソル12-2があり、キーボード12-4も視聴者端末12は備えている。
 〔生放送中のコンテンツ視聴〕
 次に、第1の配信者端末11から投稿されて配信されているインターネット生放送であるライブコンテンツが、第1の視聴者端末12によって視聴されるまでの動作を、図6のシグナルフローグラフ、図8の第1の仮想空間模式図、図9の各視点から見たレンダリング結果の図、をそれぞれ用いて説明する。
 ライブコンテンツを主催して配信しようとする配信者は、第1の配信者端末11を用いてサーバ2へコンテンツ配信の申し込みを行う(ステップS101)。サーバ2が配信を許諾すると、許諾する旨がサーバ2から第1の配信者端末11へ通知され(ステップS102)、サーバ2は、視聴が可能なコンテンツとしてこのライブコンテンツを配信サービスサイトの適切なページにリストとして掲示を行ったり、リストをログイン中の視聴者端末へ配信したりする(ステップS103)。
 配信が許諾されたので、第1の配信者端末11は、インターネット生放送用ライブコンテンツとして、図8に示す仮想空間30内の各バーチャルオブジェクトである、第1の配信者のアバター表示12-1bと、その他バーチャルオブジェクトに関する仕様のデータ、およびモーションデータをサーバ2へ送信する(S104)とともに、これらバーチャルオブジェクトに関する仕様のデータ、およびモーションデータはサーバ2に記憶がなされる。
 先に説明したように、配信者はモーションデータを生成してアバター12-1bの動作を制御するので、仮想空間30内でアバター12-1bは移動をしたり、向きを変えたり、姿勢を変えるなどの動作を行うことができる。同じく「表1 バーチャルオブジェクトの関連データ」を用いて先に説明をしたように、アバターを含めたバーチャルオブジェクトの外観のみならず音声を含めて表示(本明細書では「表示」を、画像の表示のみならず、スピーカー、振動子などを用いた音声、効果音などの表示をも含む意味で用いることとする。)を行う場合、アバターを含めたバーチャルオブジェクトが発する音声の情報、および音声のキャラクタ情報をバーチャルオブジェクトの仕様情報として、システム1が送受信あるいは記憶するデータの対象に含めるようにしてもよい。
 仮想空間30内に配置された仮想的カメラ32は図示のように中央に必ずしもおく必要はなく設置場所は任意であるし、移動してもよく、複数を設置してもよい。また再生を行う視聴者が、ライブコンテンツの改変あるいは追加動作の一環としてライブコンテンツの途中からこれら仮想的カメラの追加や移動をしてもよい。これら仮想カメラの運用は本明細書の他の箇所おいても共通であるが、以後の説明では煩雑さを避けるため、仮想カメラは各仮想空間に一つだけとした例示にとどめる。
 リストにより、放送中のこのライブコンテンツの存在を知った視聴者は、第1の視聴者端末12からサーバ2に対してインターネット生放送であるこのライブコンテンツの視聴を申し込み(ステップS105)、この結果、サーバ2から第1の視聴者端末12に対して、第1の配信者のアバター12-1bのモーションデータ7-2やアバターの外観データ7-1を含む、仮想空間30内にあるバーチャルオブジェクトの仕様のデータおよびモーションデータを送信して(ステップS106)、レンダリングを第1の視聴者端末12で行う。レンダリングの結果を、図9(A)(第1の配信者アバターの視点から見た画像)と図9(B)(第1の仮想的カメラの視点から見た画像)として例示する。
 また、第1の配信者端末11が配信するライブコンテンツは、第1の視聴者端末12に限らず、第2の視聴者端末22を含めた本動画配信システムを利用する他の利用者もまた、申し込みを行って視聴することができる。
 〔生放送後のコンテンツの再生〕
 次に、第1の配信者端末11がインターネット生放送を行った結果、サーバ2にバーチャルオブジェクトの仕様のデータ、およびモーションデータとして記憶されているライブコンテンツを、生放送の時刻よりも後に、第1の視聴者端末12から申し込んで再生する動作を、図10を参照して説明する。
 まず、サーバ2に記憶済みのライブコンテンツを再生しようとする視聴者は、サーバ2があらかじめ用意をしたライブコンテンツの全体を示すリストから所望のライブコンテンツを選択し、サーバ2へ再生を申し込む。サーバ2では指定されたライブコンテンツである、バーチャルオブジェクトの仕様のデータ、およびモーションデータを第1の視聴者端末12へ送信するので、視聴者は、第1の視聴者端末12を用いてレンダリング(描画)を行って、図9(A),(B)で示した画像が第1の視聴者端末12の表示パネル12-1に表示され、この結果、視聴者は仮想空間利用のライブコンテンツが視聴できる。この時、図9(A),図9(B)に示すように、視聴者は、第1の配信者アバター12-1bの視点から見たレンダリング画像も視聴できるし、切り替え操作に応じて第1の仮想的カメラ32から見たレンダリング画像をも視聴できるので、単にテレビ放送画面や映画の画面を受け身で見ているのとは異なり、複数の異なる視点を能動的に自らの意志で切り替えながらコンテンツの内容を見ることができる。ここでこのライブコンテンツは3D(3次元)仮想空間を用いているので、見る視点を切り替え操作しながら多数の方向からの視聴により仮想空間30内を視聴者は視聴をすることができ、2D(2次元)コンテンツを視聴するのでは得られない臨場感、没入感、連帯感を視聴者は得ることができる。このような臨場感などは、再生コンテンツの視聴であるにもかかわらず、あたかも生放送のライブコンテンツを視聴しているかのような感覚として視聴者へ伝わる。また、他の側面から説明を行うと、先に説明をした点であるが、本システム1が有する特徴的な点として、コンテンツのデータをレンダリング済みデータ(描画済みのデータ。そのまま表示画面に表示がされる、いわゆる動画像のデータ)として保持するのではなく、仮想的な対象物であるバーチャルオブジェクトの仕様のデータ(外観、ボイスのキャラクタ、効果音データ、音楽データなど)と、同じくバーチャルオブジェクトのモーションデータ(動作のデータ、向いている方向のデータ、位置座標のデータなど)として保持する点にある。そして、コンテンツを視聴者端末その他が再生する際には、従来構成のようにレンダリング済みの描画データをただ画面表示するのではなく、上に示したバーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、「再生時に」、レンダリングを行って描画データを生成している。このように、「バーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、レンダリングを行って描画データを生成している」点は、実は、コンテンツをインターネットなどを経由して生放送する際の動作と同じである。つまり本システム1の構成を用いることで、コンテンツの再生を、コンテンツの生放送時と変わらない動作、構成、品質で行うことが可能となっており、従来技術構成との大きな相違点である。さらに、再生時に「バーチャルオブジェクトの仕様データと、バーチャルデータのモーションデータとから、レンダリングを行って描画データを生成している」という点を生かして、再生時にこれらデータを修正、追加、改変してこのコンテンツの修正版とすることが容易となっており、この点を以下に説明する。
 〔生放送後の再生コンテンツへの仮想アイテムの追加〕
 次に、図6乃至図9を用いて説明した、第1の配信者端末11が先にインターネット生放送したライブコンテンツを第1の視聴者端末12が再生視聴している状態で、第1の視聴者端末12を用いる視聴者が、自分の所望の内容へライブコンテンツを改変あるいは追加を行う動作を、図11乃至図14を用いて説明する。
 先に説明をしたライブコンテンツの再生の手順と同様に、第1の視聴者端末12からサーバ2に対してライブコンテンツ再生の申し込みが行われる(ステップS301)。
 申し込みを受け付けたサーバ2は、対象であるライブコンテンツを、バーチャルオブジェクトの仕様のデータ、およびモーションデータとして、第1の視聴者端末12へ送信して、先の説明のようにレンダリングおよびコンテンツの視聴に供する(ステップS302)。
 視聴者は、先に説明をしたように、送信されたライブコンテンツをただ視聴することもできるが、例えばダンスシーンであれば自分もアバターの形でライブに参加し、すでにライブに参加している各アバターの操作者とともに踊ることで連帯感も得たいと感じることもあるであろうし、自分のアバターをライブコンテンツに投入して自分が決めた所望の視点からライブコンテンツを視聴しなおしたい、と思うこともありうる。
 そこで視聴者は、ライブコンテンツを再生しつつ、自分のアバター12-1cを新たにライブコンテンツに投入するべく、サーバ2へ申し込んで、必要なデータであるアバターの外観情報を含めた、バーチャルオブジェクトの仕様のデータやモーションデータを、追加アイテムデータとしてサーバ2へ送信する(ステップS303)。ここで視聴者のアバター12-1cは、先に図7で説明をしたような、アバターの外観データ7-1を含めた仕様データ、アバターのモーションデータ7-2などを用いてレンダリングしたデータ7-3として追加がなされるし、他のバーチャルオブジェクトを視聴者端末12から追加する場合も同様であるので、このライブコンテンツを以後再生して視聴する他の視聴者は、この視聴者のアバター12-1cおよび追加された他のバーチャルオブジェクトを、視聴者が操作した所望の動き、姿勢で視聴することとなり、最初に視聴者端末12を用いて各バーチャルオブジェクトを追加した視聴者はあたかもライブコンテンツに参加したような感覚を得ることができる。
 これを受けてサーバ2は、仮想空間30内に新たに視聴者のアバター12-1cあるいはその他のバーチャルオブジェクトを追加して、追加分を含めた、このコンテンツのあらゆるバーチャルオブジェクトの仕様のデータ、およびモーションデータを第1の視聴者端末12へ送信する(ステップS304)とともに、サーバ2が記憶しているライブコンテンツのデータにも、アバター12-1c、およびその他追加されたバーチャルオブジェクトのデータを追加するので、以後、このライブコンテンツを再生する他の視聴者端末は、視聴者のアバター12-1cおよび追加されたバーチャルオブジェクトが含まれているライブコンテンツを視聴することとなる。なお、新たに追加されたアバターなどバーチャルオブジェクトについて、追加を行った時刻情報、追加を行った端末あるいはユーザアカウントの情報などを、システム1が送受信や記憶を行う対象のデータとする点は大変有効である。このような時刻の情報、端末やユーザの情報は、サーバ2が記憶をしていてもよいし、それと並行に、あるいは単独に、追加がなされたバーチャルオブジェクトの仕様の情報などに書き込まれていてもよい。このように追加をした時刻情報、追加を行った端末あるいはユーザアカウントの情報などを、システム1が送受信や記憶を行う対象のデータとする点は、本システム1の他の局面においても有効である点は同じであり、今後は記載を省略する場合がある。
 図12、図13では、第1の視聴者のアバター12-1cのほかに、新たに、信号機33、第2の仮想カメラ34といったバーチャルオブジェクトが追加された状態を示している。
 なお、ライブコンテンツの改変は本来のライブコンテンツの主催者の許諾を要するようにしてもよいし、ライブコンテンツを改変する場合に、改変後のデータと改変前のデータの双方をサーバ2が引き続き記憶し、以後、各視聴者は操作に応じていずれかのライブコンテンツを再生できるようにしてもよい。そのように構成すれば、視聴者は自分が改変したライブコンテンツがほかの多数の視聴者に再生が可能となる点で満足感が得られるとともに、その様な改変を良しとしない視聴者もまた、改変前のコンテンツを視聴することができ、連帯感の高揚と、自分好みの鑑賞という、本来両立が困難な課題が両立できる。
 また、自分がウオッチあるいはリスペクトをしているライブコンテンツの主催者、演者などのほかに、自分がウオッチあるいはリスペクトをしている視聴者が改変したライブコンテンツを特に選んで視聴することもできるし、先に説明したようにサーバ2にはあるライブコンテンツの改変の系統樹データも用意できるので、自分にとって好ましいライブコンテンツの改変系統をトレースしていき、より自分にあったバージョンのコンテンツにたどり着く楽しみも視聴者は享受することができる。
 〔生放送後の再生コンテンツにアバターを追加して、他の配信者が配信する〕
 上記の説明では、最初にインターネット生放送を行ったライブコンテツを、以後、個々の視聴者が自分の好みに合わせて改変や追加を行う例であったが、再生されるライブコンテンツ(生放送と同じでもよいし、その後に改変や追加がされていてもよい)を再度、同じ配信者あるは異なる配信者がインターネットで放送し、その放送を視聴する視聴者から、同様にライブコンテツの改変や追加がなされるようにしてもよい。
 図14、図15、図16にその一例を図示したが、各図では第2の配信者のアバター35が追加されている。各動作の詳細は、先の説明と同様である。
 〔変形例その1 ~各構成の配置の任意性〕
 先の本実施形態の説明では、視聴者が改変あるいは追加を行った仮想空間についての各視点映像のレンダリングを、この視聴者が用いる視聴者端末で行うこととした。しかしながらこのように構成をする点は本発明の実施に当たり必須なものでも本質的なものでもない。すなわち、このレンダリングをサーバあるいは他の各種端末で行ってもよい。そのようにレンダリングを行うためには、あらかじめバーチャルオブジェクトの仕様のデータ、およびモーションデータがレンダリングを行おうとするサーバ、あるいは端末もしくはその双方に送信されていればよく、詳細な構成あるいは手順は先に説明した本実施形態の構成から明らかであるので、重複を避けることとする。
 〔変形例その2 ~バーチャルオブジェクトの仮想空間への投げ込み〕
 先の説明では、ライブコンテンツを再生する視聴者が自分の好みにより、仮想空間へ新たなバーチャルオブジェクトを追加する例として、自分の分身であるアバター12-1b、12-1cを追加する例、信号機33を追加する例を説明した。
 ところで、実世界でライブの演奏、演劇公演などでは、演者に対して祝儀(「おひねり」とも呼ばれる)を渡したり、花を差し入れしたりすることで演者もますます盛り上がることができる。これに対応させて、コンテンツ配信においてもこのような祝儀に当たる仮想的なオブジェクト(バーチャルオブジェクト)を新たに仮想空間内に表示させて、演者への賛同、称賛などを表そうとする提案がある。
 公知の特許文献である日本国特開2012-120098号公報には、実写ライブ番組の表示画面に貼り付ける仮想的アイテムとして、例えば「デコレーション」として花や文字、ロゴなどをコンテンツの視聴者が購入し、表示画面上で自由な位置に配置することによって表示画面を飾ることが開示されている。
 本発明の実施形態システム1では、発明の一環として、仮想空間を用いたライブコンテンツを再生する視聴者が、演者への称賛、賛同を示すバーチャルオブジェクトを投げ込んで、以後、このライブコンテンツを再生する他の視聴者が、投げ込まれたバーチャルオブジェクトを視認することができ、この結果、バーチャルオブジェクトを投げ込んだ視聴者の賛同や称賛の意志が広く認識されたり、以後にこのライブコンテンツを視聴する視聴者が同じく賛同や称賛の感覚を味わうことが可能となる。生放送中のライブコンテンツに対してバーチャルオブジェクトを投げ込むのと異なり、再生コンテンツに対して投げ込むことは、リアルタイムの投げ込み(賛同や称賛)ではないものの、再生であれば何度でも視聴できて視聴者の層や数も広がるし、評判が評判を呼んで多数の投げ込みが行われうるし、それらが累積もされるので、視聴者側も、贈られる演者側もメリットがある。
 図17、図18記載の模式図は、このようなバーチャルオブジェクト(仮想的アイテム)である、リボン型バーチャルオブジェクト12-1dを、コンテンツを再生する視聴者が視聴者端末を用いて、仮想空間30に投げ込んだ態様を示している。
 リボン型バーチャルオブジェクト12-1dは、外観の画像データを含めた仕様データ、位置のデータや向きのデータを含めたモーションデータなどを含んでいるもので、先に説明を行った、配信者や視聴者のアバター12-1b、12-1cが仮想空間30に追加されたのと同様の方法で、視聴者などが視聴者端末などを用いて仮想空間30に追加することができる。
 より詳細には、リボン型バーチャルオブジェクト12-1dは、配信者あるいは視聴者のアバター(代理人)の外観の情報を含めた仕様情報と、モーションデータ(動作情報)と同様の手順、構成で、そのバーチャルオブジェクトの仕様のデータ、およびモーションデータが送信や記憶がなされるように、本実施例システム1では構成がなされている。
 従って、投げ込みに用いるバーチャルオブジェクトであるリボン型バーチャルオブジェクト12-1dに、アバターと同様に外観の情報、ボイスキャラクタの情報、効果音や音楽の情報を含めた仕様情報と、動作情報(位置の情報、動きの方向・速度の情報、姿勢の情報など)を持たせることが可能である。
 このような外観の情報を含めた仕様情報と、動作情報を付加した投げ込み用バーチャルオブジェクトとすることにより、リボン型バーチャルオブジェクト12-1dは、ユーザの興味や関心を高める多様な演出が可能となる。なお、投げ込みを行うバーチャルオブジェクトとして、このリボン型バーチャルオブジェクト12-1dとは異なる様々な外観などのデータを有するバーチャルオブジェクトとして実施が可能である。
 リボン型バーチャルオブジェクト12-1dを用いる例として、図17(A)図示の模式図は、仮想空間30中に投げ込まれた仮想アイテムであるリボン型バーチャルオブジェクト12-1dが上から下へ落下して仮想空間の地面に着地する演出を意味している。バーチャルオブジェクトの投げ込みは、例えば劇場において「おひねり」を舞台に投げ込んだり、結婚式においてブーケを投げたりする感覚とも共通性があり、このように上から下へ落下して仮想空間30の地面に着地する演出は、自然な感覚の演出であり視聴者の共感を得やすい。
 同じく、図17(B)図示模式図は、バーチャルオブジェクトの投げ込みを行う対象者を、例えば第1の配信者12-1bと決めて視聴者端末を用いてその様に所定の操作を行うと、仮想空間30に投げ込まれたリボン型バーチャルオブジェクト12-1dは、投げ込みの対象である第1の配信者12-1bへ向かって仮想空間内を移動していく、という演出である。先に説明した「おひねり」の例からも自然な演出となりうる。
 同じく図18(A)は、仮想空間30内に投げ込まれたリボン型バーチャルオブジェクト12-1dが、自動で仮想空間30内を動き回ったり(飛び回ることを含む)、あるいは投げ込んだ者の操作に応じて仮想空間内を動き回る演出である。投げ込まれた後のバーチャルオブジェクトが仮想空間内で静止している場合と比較して大変目立つ演出となり、投げ込みのアピールに役立つ。
 図18(B)図示模式図は、多数の視聴者から投げ込まれたリボン型バーチャルオブジェクト12-1dの数が多数にのぼったり、あるいは同一人が多数のバーチャルオブジェクトを連続的に投げ込んだ場合に、これら投げこまれたオブジェクトがいったん積みあがったのち、崩れる演出である。人気のあるライブコンテンツ、人気のあるシーン、人気のある演者に対してはバーチャルオブジェクトの投げ込みが集中することが予想され、このような演出は実現可能性が高く、演出上の効果も大きい。
 すでに説明を行った点を含めて、バーチャルオブジェクトを投げ込む場合の演出上の望ましい工夫を挙げると、まず投げ込む対象をライブコンテンツ全般とするほかに、特定の演者など対象を決めて操作の上で投げ込むことがよい方法である。対象を特定して投げ込まれたバーチャルオブジェクトは、対象者のそばに置かれるとか、対象者名を表記しておかれてもよい。
 また仮想的カメラの視野内に、投げ込まれたバーチャルオブジェクトが置かれることも望ましい。
 (発明の効果の説明)
 生放送された時刻には視聴ができなかったライブコンテンツを、後から視聴して楽しみたい、後からの視聴再生においても、あたかもライブで視聴しているような臨場感、没入感を得たい、あるいは通信網や各端末ハードウエアの負担を小さくして、多数の視聴者とシェアをしながらライブコンテンツの視聴を楽しみたい、という各課題を解決するよう構成する。
 本発明は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものとする。

Claims (11)

  1.  仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信システムであって、
     (A)前記3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録部と、
     前記視聴用端末が視聴を行うための要求に応じて、前記第1のデータおよび前記第2のデータを少なくとも用いて、前記視聴のための画像データを生成する生成部と、を備えたことを特徴とする3次元コンテンツ配信システム。
  2.  前記記録部がさらに、(C)前記3次元バーチャル空間に配置された視点に関する第3のデータを記録し、且つ、前記生成部が当該第3のデータをも用いて前記生成を行うよう構成されたことを特徴とする、請求項1に記載の3次元コンテンツ配信システム。
  3.  前記記録部が記録する前記第1のデータおよび前記第2のデータが、前記コンテンツの初回のネット配信中に最初に記録されたデータであることを特徴とする、請求項1または2に記載の3次元コンテンツ配信システム。
  4.  前記視聴を行っている視聴用端末からの変更要求に応じて前記第1のデータ、および前記第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の前記視聴に供する変更受付部を備えたことを特徴とする請求項1乃至3のいずれか1項に記載の3次元コンテンツ配信システム。
  5.  前記視聴を行っている視聴用端末からの変更要求に応じて前記第1のデータ、および前記第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の前記視聴に供する変更受付部をさらに具備し、
     前記変更受付部はさらに、前記第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の前記視聴に供するよう構成されたことを特徴とする、請求項2に記載の3次元コンテンツ配信システム。
  6.  仮想的な3次元バーチャル空間を用いたコンテンツを視聴用端末へ配信して視聴に供する、3次元コンテンツ配信方法であって、
     (A)前記3次元バーチャル空間に配置された各バーチャルオブジェクトの仕様に関する第1のデータ、および(B)当該各バーチャルオブジェクトの動作に関する第2のデータを少なくとも含んだコンテンツデータを記録する記録ステップと、
     前記視聴用端末が視聴を行うための要求に応じて、前記第1のデータおよび前記第2のデータを少なくとも用いて、前記視聴のための画像データを生成する生成ステップと、を備えたことを特徴とする3次元コンテンツ配信方法。
  7.  前記記録ステップがさらに、(C)前記3次元バーチャル空間に配置された視点に関する第3のデータを記録し、且つ、前記生成ステップでは当該第3のデータをも用いて前記生成が行われるよう構成されたことを特徴とする、請求項6に記載の3次元コンテンツ配信方法。
  8.  前記記録ステップで記録される前記第1のデータおよび前記第2のデータが、前記コンテンツの初回のネット配信中に最初に記録されたデータであることを特徴とする、請求項6または7に記載の3次元コンテンツ配信方法。
  9.  前記視聴を行っている視聴用端末からの変更要求に応じて前記第1のデータ、および前記第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の前記視聴に供する変更受付ステップを備えたことを特徴とする、請求項6乃至8の内のいずれか1項に記載の3次元コンテンツ配信方法。
  10.  前記視聴を行っている視聴用端末からの変更要求に応じて前記第1のデータ、および前記第2のデータの内の少なくともいずれかを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の前記視聴に供する変更受付ステップをさらに具備し、
     前記変更受付ステップはさらに、前記第3のデータを追加または修正する変更を行って新たなコンテンツデータを生成し、以後の前記視聴に供するよう構成されたことを特徴とする、請求項7に記載の3次元コンテンツ配信方法。
  11.  請求項6乃至10のいずれか1項に記載の3次元コンテンツ配信方法が備える前記各ステップをコンピュータに実行させるコンピュータプログラム。
PCT/JP2019/029107 2018-07-25 2019-07-24 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム WO2020022405A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US17/059,677 US20210211632A1 (en) 2018-07-25 2019-07-24 Three-dimensional content distribution system, three-dimensional content distribution method and computer program
CN201980039636.8A CN112400188A (zh) 2018-07-25 2019-07-24 三维内容分发系统、三维内容分发方法、计算机程序

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018-150863 2018-07-25
JP2018150863A JP6707111B2 (ja) 2018-07-25 2018-07-25 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム

Publications (1)

Publication Number Publication Date
WO2020022405A1 true WO2020022405A1 (ja) 2020-01-30

Family

ID=69180876

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/029107 WO2020022405A1 (ja) 2018-07-25 2019-07-24 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム

Country Status (4)

Country Link
US (1) US20210211632A1 (ja)
JP (1) JP6707111B2 (ja)
CN (1) CN112400188A (ja)
WO (1) WO2020022405A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115396688A (zh) * 2022-10-31 2022-11-25 北京玩播互娱科技有限公司 一种基于虚拟场景的多人互动网络直播方法及系统

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020129115A1 (ja) * 2018-12-17 2020-06-25 株式会社ソニー・インタラクティブエンタテインメント 情報処理システム、情報処理方法およびコンピュータプログラム
JP7017596B2 (ja) * 2020-03-17 2022-02-08 本田技研工業株式会社 情報処理装置、情報処理システム、情報処理方法およびプログラム
JP7244450B2 (ja) * 2020-03-23 2023-03-22 グリー株式会社 コンピュータプログラム、サーバ装置、端末装置、及び方法
JP7047168B1 (ja) 2021-05-31 2022-04-04 株式会社バーチャルキャスト コンテンツ提供システム、コンテンツ提供方法、及びコンテンツ提供プログラム
JP7178752B1 (ja) 2021-11-25 2022-11-28 滋啓 内田 興行映像表示プログラム及び興行映像配信システム
JP7089815B1 (ja) 2021-11-25 2022-06-23 滋啓 内田 サーバ
CN113965812B (zh) * 2021-12-21 2022-03-25 广州虎牙信息科技有限公司 直播方法、系统及直播设备
JP7162387B1 (ja) 2022-02-25 2022-10-28 滋啓 内田 興行映像表示プログラム
JP7378851B2 (ja) * 2022-06-06 2023-11-14 滋啓 内田 表示装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002093497A1 (fr) * 2001-05-14 2002-11-21 Netdimension Corporation Systeme de distribution d'informations et procede de distribution d'informations
JP2012226669A (ja) * 2011-04-21 2012-11-15 Nippon Hoso Kyokai <Nhk> 参加型コンテンツ管理装置、視聴端末、参加型コンテンツ管理プログラム、及び視聴プログラム
JP6276882B1 (ja) * 2017-05-19 2018-02-07 株式会社コロプラ 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3625212B1 (ja) * 2003-09-16 2005-03-02 独立行政法人科学技術振興機構 3次元仮想空間シミュレータ、3次元仮想空間シミュレーションプログラム、およびこれを記録したコンピュータ読み取り可能な記録媒体
RU2526712C2 (ru) * 2008-12-01 2014-08-27 РОКСТАР КОНСОРЦИУМ ЮЭс ЛП Способ создания видеоизображений компьютерной трехмерной виртуальной среды
US9358456B1 (en) * 2010-06-11 2016-06-07 Harmonix Music Systems, Inc. Dance competition game
US10205910B2 (en) * 2014-11-14 2019-02-12 Pcms Holdings, Inc. System and method for 3D telepresence
US9804696B2 (en) * 2015-01-02 2017-10-31 Microsoft Technology Licensing, Llc User-input control device toggled motion tracking
EP3344351A4 (en) * 2015-09-02 2019-04-24 Rutgers, The State University of New Jersey MOTION DETECTION SCALES, VIRTUAL THERAPY ENVIRONMENT FOR COORDINATION, MOBILITY AND FITNESS REHABILITATION AND WELLNESS
JP6955861B2 (ja) * 2016-12-16 2021-10-27 株式会社バンダイナムコエンターテインメント イベント制御システム及びプログラム
US10341537B2 (en) * 2017-09-29 2019-07-02 Sony Interactive Entertainment America Llc Spectator view into an interactive gaming world showcased in a live event held in a real-world venue
US10713834B2 (en) * 2018-04-27 2020-07-14 Colopl, Inc. information processing apparatus and method
US11017576B2 (en) * 2018-05-30 2021-05-25 Visyn Inc. Reference model predictive tracking and rendering

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002093497A1 (fr) * 2001-05-14 2002-11-21 Netdimension Corporation Systeme de distribution d'informations et procede de distribution d'informations
JP2012226669A (ja) * 2011-04-21 2012-11-15 Nippon Hoso Kyokai <Nhk> 参加型コンテンツ管理装置、視聴端末、参加型コンテンツ管理プログラム、及び視聴プログラム
JP6276882B1 (ja) * 2017-05-19 2018-02-07 株式会社コロプラ 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115396688A (zh) * 2022-10-31 2022-11-25 北京玩播互娱科技有限公司 一种基于虚拟场景的多人互动网络直播方法及系统
CN115396688B (zh) * 2022-10-31 2022-12-27 北京玩播互娱科技有限公司 一种基于虚拟场景的多人互动网络直播方法及系统

Also Published As

Publication number Publication date
JP2020017242A (ja) 2020-01-30
CN112400188A (zh) 2021-02-23
JP6707111B2 (ja) 2020-06-10
US20210211632A1 (en) 2021-07-08

Similar Documents

Publication Publication Date Title
WO2020022405A1 (ja) 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム
JP6724110B2 (ja) 仮想空間中のアバター表示システム、仮想空間中のアバター表示方法、コンピュータプログラム
CN112334886B (zh) 内容分发系统、内容分发方法、记录介质
CN112104594B (zh) 沉浸式交互式远程参与现场娱乐
JP6810108B2 (ja) サーバ、方法、プログラム、動画像放送システム
US9066144B2 (en) Interactive remote participation in live entertainment
US11260295B2 (en) Cloud-based game streaming
US8522160B2 (en) Information processing device, contents processing method and program
US8817078B2 (en) Augmented reality videogame broadcast programming
US20120060101A1 (en) Method and system for an interactive event experience
US20080268961A1 (en) Method of creating video in a virtual world and method of distributing and using same
JP7123520B2 (ja) 動画記録装置、動画生成方法、及びプログラム
JP7159244B2 (ja) コンテンツ配信システム、コンテンツ配信方法、コンピュータプログラム
US11700353B2 (en) Integration of remote audio into a performance venue
JP2023169282A (ja) コンピュータプログラム、サーバ装置、端末装置、及び方法
KR20190031220A (ko) Vr 콘텐츠 제공 시스템 및 방법
JP7225159B2 (ja) 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム
JP2020144887A (ja) 仮想空間中のアバター表示システム、仮想空間中のアバター表示方法、コンピュータプログラム
US20200288202A1 (en) Video display system, information processing apparatus, and video display method
JP7162387B1 (ja) 興行映像表示プログラム
US20240114181A1 (en) Information processing device, information processing method, and program
JP2017202214A (ja) ゲームサイトに個別にログインした複数の遊技者が同じゲームをマルチプレイする状況下で各遊技者ごとに記録された複数のゲーム動画を1つの画面に収めたマルチプレイ動画作品に編成して公開すること
JP2020161159A (ja) サーバ、方法、プログラム、動画像放送システム
JP6401492B2 (ja) 通信カラオケシステムのサーバ
JP2022083903A (ja) コンテンツ配信装置およびコンピュータプログラム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19840721

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19840721

Country of ref document: EP

Kind code of ref document: A1