JP2015130164A - ネットワークを通してメディアを伝送するシステム及び方法 - Google Patents
ネットワークを通してメディアを伝送するシステム及び方法 Download PDFInfo
- Publication number
- JP2015130164A JP2015130164A JP2014261622A JP2014261622A JP2015130164A JP 2015130164 A JP2015130164 A JP 2015130164A JP 2014261622 A JP2014261622 A JP 2014261622A JP 2014261622 A JP2014261622 A JP 2014261622A JP 2015130164 A JP2015130164 A JP 2015130164A
- Authority
- JP
- Japan
- Prior art keywords
- audio
- model
- user device
- server
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 66
- 238000009877 rendering Methods 0.000 claims abstract description 60
- 230000005540 biological transmission Effects 0.000 claims description 13
- 208000024891 symptom Diseases 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 20
- 230000000694 effects Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 208000003028 Stuttering Diseases 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000001066 destructive effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/131—Protocols for games, networked simulations or virtual reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/55—Push-based network services
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/30—Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
- A63F13/35—Details of game servers
- A63F13/355—Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23412—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs for generating or manipulating the scene composition of objects, e.g. MPEG-4 objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2347—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving video stream encryption
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/23602—Multiplexing isochronously with the video sync, e.g. according to bit-parallel or bit-serial interface formats, as SDI
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/2365—Multiplexing of several video streams
- H04N21/23655—Statistical multiplexing, e.g. by controlling the encoder to alter its bitrate to optimize the bandwidth utilization
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
- H04N21/2368—Multiplexing of audio and video streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/237—Communication with additional data server
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44012—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving rendering scenes according to scene graphs, e.g. MPEG-4 scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/478—Supplemental services, e.g. displaying phone caller identification, shopping application
- H04N21/4781—Games
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/8146—Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/81—Monomedia components thereof
- H04N21/8146—Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
- H04N21/8153—Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics comprising still images, e.g. texture, background image
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/60—Methods for processing data by generating or executing the game program
- A63F2300/66—Methods for processing data by generating or executing the game program for rendering three dimensional images
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Graphics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Information Transfer Between Computers (AREA)
- Processing Or Creating Images (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
【解決手段】サーバー1で執行されるアプリケーションプログラム100は3Dモデルと音声を含むバーチャル3D環境を産生し、所定順序で各3Dモデルと音声の状態をチェックし、ユーザーデバイス21にダウンロードされていない3Dモデルと音声を、2Dビデオストリーミングフレームにレンダリングして伝送し、ダウンロードされている他の3Dモデルと音声をサーバー1はレンダリングせず、解釈情報を同期伝送し、フレームと解釈情報を受取ると、2Dビデオストリーミングフレームをバックグラウンド画面とバックグラウンド音声として解釈情報に基づき、自身にダウンロードした3Dモデルと音声を使用し、再レンダリングを行い、前景画面と音声とし、最後に前景とバックグラウンドを混合し、サーバー1にアプリケーションプログラム100のバーチャル3D環境を再建する。
【選択図】図2
Description
クラウドコンピューティング関連システムとテクノロジーの発展に従い、ストリーミングサーバを利用したゲームコンテンツやサービスを提供する技術も現れている。
つまり、クラウドゲームサービスを提供するには、該サーバーは多数の参加者により移動或いはコントロールできる3Dオブジェクトを含むバーチャル3D環境を作らなければならない。
後の参加者(プレーヤー)のコントロール動作に基づき、該サーバーはバーチャル3D環境と3Dオブジェクトとを結合し、ゲーム機のスクリーン上に、立体音声を備える2Dゲームをレンダリングする。
続いて、該サーバーは、レンダリング後の画像と立体音声を、音声を備える2Dビデオストリーミングとして、ネットワークを通してプレーヤーのデバイス上に伝送する。
プレーヤーデバイスはそれを受け取った後、デコードと該2Dビデオストリーミングを表示するだけで、余計な3Dレンダリング演算を行う必要はない。
しかも、サーバーとプレーヤーデバイス間の大量のネットワーク通信帯域幅も大きな問題となる。
本発明は、従来のネットワークを通してメディアを伝送するシステム及び方法の上記した欠点に鑑みてなされたものである。
ネットワークを通してメディアを伝送するシステム及び方法において、該システムは、サーバー及びユーザーデバイスを備え、該方法は、以下のステップを備え、
ステップ(A):サーバー上でアプリケーションプログラムを執行し、複数の3Dモデル及び3D音声を含むバーチャル3D環境を産生し、各3Dモデル或いは3D音声は、ある状態に対応し、該状態は、この3Dモデル或いは3D音声がユーザーデバイス中にプレ保存するか否かを指示し、ユーザーデバイスは、ネットワークを通してサーバーに連結し、アプリケーションプログラムにより産生する少なくとも一個の各3Dモデル及び3D音声を含むメディアをダウンロードする。
(A)サーバー上レンダリングの3Dシーン。結果は立体音声を備える2Dビデオストリーミングの形式で、ユーザーエンドに伝送し、ユーザーデバイスにより再生され、及び(B)サーバー上よりダウンロードされて、ユーザーデバイス上に保存される。
3 ネットワーク(アクセスポイント)
4 ネットワーク
21 ユーザーデバイス(スマートフォン)
22 ユーザーデバイス(ノート型コンピューター)
23 ユーザーデバイス(デスクトップコンピューター)
51 使用者の目
52 プロジェクション面
70 サーバー
71、71a 人
72、72a 家
73、73a ビデオストリーミングフレーム
74 ユーザーデバイス
75 ビデオストリーミングフレーム
81、81a 音声
82、82a 音声
83、83a ビデオストリーミングフレーム
85 ビデオストリーミングフレーム
100 アプリケーションプログラム
110 3Dシーントランスミッター(プログラムライブラリー)
120 3Dシーンサーバー
170 3Dシーンユーザーエンド(プログラム)
190 3Dシーンキャッシュ
Claims (15)
- ネットワークを通してメディアを伝送する方法において、該メディアは複数の画像及び音声を備え、以下のステップを含み、
ステップ(A):サーバー上でアプリケーションプログラムを執行し、複数の3Dモデル及び3D音声を含むバーチャル3D環境を産生し、該各3Dモデル及び3D音声は、該3Dモデル或いは3D音声を、ユーザーデバイス中にプレ保存するか否かの状態の指示に対応し、
ステップ(B):該サーバーは、該各3Dモデル及び3D音声の状態をチェックし、どの3Dモデル或いは3D音声を、音声を備える2Dビデオストリーミングフレームにエンコードするべきかを決定し、そのエンコード方式は、該ユーザーデバイス中にプレ保存されていない各3Dモデル及び3D音声エンコードを、該フレーム中にエンコードし、
ステップ(C):該サーバーは、該音声を備える2Dビデオストリーミングフレームを、ネットワークを通して、該ユーザーデバイスに伝送し、該サーバーは、該ユーザーデバイス中にプレ保存されていない各3Dモデル及び3D音声を、所定の順序に基づき、該ユーザーデバイスに伝送し、該ユーザーデバイスが、該サーバーから送られて来た各3Dモデル或いは3D音声を受け取ると、該ユーザーデバイスは、該各3Dモデル或いは3D音声を保存し、メッセージを該サーバーに発信し、該各3Dモデル或いは3D音声の状態を改変させ、該各3Dモデル或いは3D音声を現在、該ユーザーデバイス中にプレ保存するよう指示し、
ステップ(D):該ユーザーデバイスは、該サーバーからのフレームを受け取りデコードし、該フレームを利用し、該各ユーザーデバイス中にプレ保存されるが、該フレーム中に含まれない3Dモデルと3D音声のバックグラウンド画面とバックグラウンドオーディオをレンダリングし、これによりアウトプットされる音声を備えるビデオストリーミング混合フレームを産生することを特徴とするネットワークを通してメディアを伝送する方法。 - 前記ステップ(B)において、該各3Dモデルの状態は、該サーバーにより、該バーチャル位置に最も近い点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、
チェック中に、該ユーザーデバイス中にプレ保存されていない一個目の3Dモデルを発見すると、その後の各3Dモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該発見された3Dモデルを含むすべての他の3Dモデルを、該フレーム中にエンコードし、
しかもステップ(B)において、該各3D音声の状態は、該サーバーにより、該バーチャル位置に最も近い点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、チェック中に、該ユーザーデバイス中にプレ保存されていない任意の3D音声を発見すると、該3D音声を、該音声を備える2Dビデオストリーミング混合フレーム中にエンコードすることを特徴とする請求項1に記載のネットワークを通してメディアを伝送する方法。 - 前記新しい3Dモデルが前記3D環境中に出現すると、その後の各3Dモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該新しい3Dモデルを含むその後のすべての3Dモデルを、該フレーム中にエンコードし、
該バーチャル位置は、3Dプロジェクション面であることを特徴とする請求項2に記載のネットワークを通してメディアを伝送する方法。 - 前記ステップ(C)において、該サーバーが、該ユーザーデバイス中にプレ保存されていない該各3Dモデル及び3D音声を、該ユーザーデバイスに伝送する所定順序は、該バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への順序で、
該ステップ(C)において、該サーバーは、該フレーム中にエンコードされていない3Dモデル及び3D音声の状態情報を、該ユーザーデバイス中に伝送し、該ユーザーデバイスが、該状態情報を受け取り及びチェックする時には、以下の方式に基づき行い、
受け取った該状態情報中の任意の3Dモデル或いは3D音声が、該デバイス中にプレ保存されていないなら、該ユーザーデバイスは、該サーバーに、該3Dモデル或いは3D音声をダウンロードするように請求を送信し、
該状態情報は、該音声を備える2Dビデオストリーミングフレーム中にエンコードされていない解釈データを含み、該各3Dモデルの該解釈データは、該3Dモデルの名称、位置、速度、ディレクション、及び属性を含むことを特徴とする請求項1に記載のネットワークを通してメディアを伝送するシステム。 - ネットワークを通してメディアを伝送するシステムは、サーバー、ユーザーデバイスを備え、
該サーバーは、アプリケーションプログラムを執行し、複数の3Dモデル及び3D音声を含むバーチャル3D環境を産生し、該各3Dモデル及び3D音声は、該3Dモデル或いは該3D音声を、ユーザーデバイス中にプレ保存するか否かを指示する状態に対応し、
該ユーザーデバイスは、ネットワークを通して該サーバーに連結し、該アプリケーションプログラムにより産生する少なくともいくらかの該3Dモデル及び該3D音声を含む該メディアを取得し、
該メディアは、複数の画像及び音声を含み、該複数の画像及び音声の伝送方式は、以下を含み、
ステップ(B):該サーバーは、該各3Dモデル及び3D音声の状態をチェックし、どの3Dモデル或いは3D音声を、音声を備える2Dビデオストリーミングフレームにエンコードするべきかを決定し、そのエンコード方式は、該ユーザーデバイス中にプレ保存されていない各3Dモデル及び3D音声エンコードを、該フレーム中にエンコードし、
ステップ(C):該サーバーは、該音声を備える2Dビデオストリーミングフレームを、ネットワークを通して、該ユーザーデバイスに伝送し、該サーバーは、該ユーザーデバイス中にプレ保存されていない各3Dモデル及び3D音声を、所定の順序に基づき、該ユーザーデバイスに伝送し、該ユーザーデバイスが、該サーバーから送られて来た各3Dモデル或いは3D音声を受け取ると、該ユーザーデバイスは、該各3Dモデル或いは3D音声を保存し、メッセージを該サーバーに発信し、該各3Dモデル或いは3D音声の状態を改変させ、該各3Dモデル或いは3D音声を現在、該ユーザーデバイス中にプレ保存するよう指示し、
ステップ(D):該ユーザーデバイスは、該サーバーからのフレームを受け取りデコードし、該フレームを利用し、該各ユーザーデバイス中にプレ保存されるが、該フレーム中の該各3Dモデル及び3D音声を含まないバックグラウンド画面とバックグラウンドオーディオをレンダリングし、これにより、アウトプットされる音声を備えるビデオストリーミング混合フレームを産生し、
ステップ(E):該ユーザーデバイスは該混合フレームを計算し、アウトプットされる音声を備えるビデオストリーミングのフレームとすることを特徴とするネットワークを通してメディアを伝送するシステム。 - 前記ステップ(B)において、該各3Dモデルの状態は、該サーバーにより、バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、チェック中に、該ユーザーデバイス中にプレ保存されていない一個目の3Dモデルを発見すると、その後の各3Dモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該発見された3Dモデルを含むすべての他の3Dモデルを、該フレーム中にエンコードし、
しかも、該ステップ(B)において、該各3D音声の状態は、該サーバーにより、該バーチャル位置に最も近い点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、チェック中に、該ユーザーデバイス中にプレ保存されていない任意の3D音声を発見すると、該3D音声を、該音声を備える2Dビデオストリーミングフレーム中にエンコードし、
新しい3Dモデルが該3D環境中に出現すると、その後の各3Dモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、即將該新しい3Dモデルを含む他のすべての3Dモデルを、該フレーム中にエンコードすることを特徴とする請求項5に記載のネットワークを通してメディアを伝送するシステム。 - 前記ステップ(C)において、該サーバーが、該ユーザーデバイス中にプレ保存されていない該各3Dモデル及び3D音声を、該ユーザーデバイスに伝送する所定順序は、該バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への順序で、
該ステップ(C)において、該サーバーはまた、該フレーム中にエンコードされていない3Dモデル、すなわち3D音声の状態情報を、該ユーザーデバイス中に伝送し、該ユーザーデバイスが、該状態情報を受け取り及びチェックする時には、以下の方式に基づき行い、受け取った該状態情報中の任意の3Dモデル或いは3D音声が、該デバイス中にプレ保存されていないなら、該ユーザーデバイスは該サーバーに、該3Dモデル或いは該3D音声をダウンロードするよう請求を送信し、該状態情報は、該フレーム中にエンコードされていない該3Dモデル及び該3D音声の解釈データを含み、該各3Dモデル或いは該3D音声の該解釈データは、該3Dモデル或いは該3D音声の名称、位置、速度、ディレクション、及び属性を含むことを特徴とする請求項5に記載のネットワークを通してメディアを伝送するシステム。 - 前記サーバーは、3Dシーントランスミッター、3Dシーンサーバーをさらに備え、
該3Dシーントランスミッターは、該アプリケーションプログラム中、或いは執行時間中において、該アプリケーションプログラム上に動態連結されるプログラムライブラリーをコンパイルし、
該3Dシーントランスミッターは、すべての3Dモデル及び3D音声及び各3Dモデル或いは3D音声状態を含むリストを保有し、該状態は、該3Dモデル或いは該3D音声の状態を“Not Ready (準備中)”、“Loading (ダウンロード中)”及び“Ready for Client(ユーザーはダウンロード済み)”の内の何れか一つで示しており、
該3Dシーンサーバーは、アプリケーションプログラムにより、サーバー上で執行されるサーバープログラムで、該3Dシーンサーバーは、該3Dシーントランスミッターと該ユーザーデバイスとの間のメッセージ伝達の中継点となり、該3Dシーンサーバーはまた、該ユーザーデバイスが、該サーバーより、必要な3Dモデル及び3D音声をダウンロードするダウンロードサーバープログラムともなり、
該ユーザーデバイスは、3Dシーンユーザーエンド、3Dシーンキャッシュをさらに備え、
該3Dシーンユーザーエンドは、該ユーザーデバイス上で動作するプログラムで、該アウトプットビデオストリーミングを産生し、ネットワークを通してと該サーバーと通じ、
該3Dシーンキャッシュは、前以て該サーバーからダウンロードした少なくとも一個の該3Dモデル及び該3D音声を保存することを特徴とする請求項5に記載のネットワークを通してメディアを伝送するシステム。 - ネットワークを通してメディアを伝送する方法において、該メディアは、複数の画像及び音声を含み、
該方法は、以下のステップを含み、
ステップ(A):サーバー上でアプリケーションプログラムを執行し、複数の3Dモデル及び3D音声を含むバーチャル3D環境を産生し、該各3Dモデル及び3D音声は、該3Dモデル或いは該3D音声を、ユーザーデバイス中にプレ保存するか否かを指示する状態に対応し、
ステップ(B):該サーバーは、該各3D音声の状態をチェックし、どの3D音声を、音声を備える2Dビデオストリーミングフレームにダウンロードする必要があるかを決定し、そのエンコード方式は、該ユーザーデバイス中にプレ保存されない該各3D音声を、該音声を備える2Dビデオストリーミングフレーム中にエンコードし、
ステップ(C):該サーバーは、該音声を備える2Dビデオストリーミングフレームを、ネットワークを通して、該ユーザーデバイスに伝送し、該サーバーは、該ユーザーデバイス中にプレ保存されていない該各3D音声を、所定の順序に基づき、該ユーザーデバイスに伝送し、
該ユーザーデバイスが、該サーバーから送られて来た該各3D音声を受け取ると、該ユーザーデバイスは、該各3D音声を保存し、メッセージを該サーバーに発信し、該各3D音声の状態を改変し、該各3D音声を現在該ユーザーデバイス中にプレ保存するよう指示し、
ステップ(D):該ユーザーデバイスは、該サーバーから受け取った該音声を備える2Dビデオストリーミングフレームをデコードし、該音声を備える2Dビデオストリーミングフレームを利用し、該各ユーザーデバイス中にプレ保存されるが、該音声を備える2Dビデオストリーミングフレーム中に含まれない3D音声のバックグラウンドオーディオをレンダリングし、これによりアウトプットされる音声を備えるビデオストリーミング混合フレームを産生することを特徴とするネットワークを通してメディアを伝送する方法。 - 前記ネットワークを通してメディアを伝送する方法は、
該ステップ(A)において、該各3Dモデルは、該3Dモデルを該ユーザーデバイス中にプレ保存するか否か指示の状態に対応し、
該ステップ(B)において、該サーバーは、該各3D音声の状態をチェックし、これによりどの3D音声を、音声を備える2Dビデオストリーミングフレーム中にエンコードするかを決定し、その実施方式は、該ユーザーデバイス中にプレ保存されていない任意の3D音声を発見すると、該3D音声を、該音声を備える2Dビデオストリーミングフレーム中にエンコードし、
該ステップ(B)において、該各3Dモデルの状態は、該サーバーにより、バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、チェック中に、該ユーザーデバイス中にプレ保存されていない一個目の3Dモデルを発見すると、その後の各3Dモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該発見された3Dモデルの他のすべての3Dモデルを、該音声を備える2Dビデオストリーミングフレーム中にエンコードし、
該ステップ(C)において、該サーバーはまた、該各ユーザーデバイス中にプレ保存されていない3Dモデルを、該バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への所定順序で、該ユーザーデバイス中に伝送し、該ユーザーデバイスが該サーバーから送られて来た該各3Dモデルを受け取ると、該ユーザーデバイスは、該各3Dモデルを保存し、メッセージを該サーバーに発信し、該各3Dモデルの状態を改変し、該各3Dモデルを現在該ユーザーデバイス中にプレ保存するよう指示することを特徴とする請求項9に記載のネットワークを通してメディアを伝送する方法。 - 前記新しい3Dモデルが該3D環境中に出現すると、他の該各3Dモデルが該ユーザーデバイス中にプレ保存されているか否かに関わらず、該新しい3Dモデルを含むすべての3Dモデルを、該フレーム中にエンコードし、該バーチャル位置は、3Dプロジェクション面であることを特徴とする請求項10に記載のネットワークを通してメディアを伝送する方法。
- 前記ステップ(C)において、該サーバーは、該フレーム中にエンコードされていない3Dモデル及び3D音声の状態情報を、該ユーザーデバイス中に伝送し、該ユーザーデバイスが、該状態情報を受け取り及びチェックする時には、以下の方式に基づき行い、受け取った該状態情報中の任意の3Dモデル或いは3D音声が、該デバイス中にプレ保存されていないなら、該ユーザーデバイスは、該サーバーに、該3Dモデル或いは3D音声をダウンロードするように請求を送信し、該状態情報は、該音声を備える2Dビデオストリーミングフレーム中にエンコードされていない解釈データを含み、該解釈データは、該3Dモデル或いは3D音声の名称、位置、速度、ディレクション、及び属性を含むことを特徴とする請求項10に記載のネットワークを通してメディアを伝送する方法。
- ネットワークを通してメディアを伝送する方法において、該メディアは複数の画像及び音声を含み、
該方法は、以下のステップを含み、
ステップ(A):サーバー上でアプリケーションプログラムを執行し、複数の3Dモデルを含むバーチャル3D環境を産生し、該各3Dモデルは、該3Dモデルを、ユーザーデバイス中にプレ保存するか否かを指示する状態に対応し、
ステップ(B):該サーバーは、該各3Dモデルの状態をチェックし、該3Dモデルを、音声を備える2Dビデオストリーミングフレームにエンコードするかを決定し、そのエンコード方式は、該ユーザーデバイス中にプレ保存されていない該各3Dモデルを、該フレーム中にエンコードし、該各3Dモデルの状態は、該サーバーにより、バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への順序で、チェックされ、チェック中に、該ユーザーデバイス中にプレ保存されていない一個目の3Dモデルを発見すると、その後の各3Dモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該発見された3Dモデルを含むすべての他の3Dモデルを、該フレーム中にエンコードし、
ステップ(C):ステップ(B)において、該サーバーが、任意の3Dモデルを、該フレーム中にエンコードする時、該サーバーは、少なくとも該2Dビデオストリーミングのフレームを、ネットワークを通して、該ユーザーデバイスに伝送し、該ステップ(C)中において、該サーバーはまた、該各ユーザーデバイス中にプレ保存されていない3Dモデルを、該バーチャル位置に最も近い一点から、該バーチャル位置から最も遠いもう一つの点への所定順序で、該ユーザーデバイス中に伝送し、該ユーザーデバイスが該サーバーから送られて来た該各3Dモデルを受け取ると、該ユーザーデバイスは、該各3Dモデルを保存し、メッセージを該サーバーに発信し、該各3Dモデルの状態を改変し、該各3Dモデル音声を現在該ユーザーデバイス中にプレ保存するよう指示し、もし該各3Dモデルがすべて該ユーザーデバイス中にプレ保存されているなら、該サーバーはこれ以上エンコードする必要はなく、また該2Dビデオストリーミングのフレームを伝送する必要もなく、
ステップ(D):該ユーザーデバイスは、該サーバーからのフレームを受け取りデコードし、該フレームを利用し、該各ユーザーデバイス中にプレ保存されるが、該フレーム中に含まれない3Dモデルのバックグラウンド画面とバックグラウンドオーディオをレンダリングし、これにより混合フレームを産生することを特徴とするネットワークを通してメディアを伝送する方法。 - 前記新しい3Dモデルが該3D環境中に出現すると、その後の各3Dモデルが、該ユーザーデバイス中にプレ保存されるか否かに関わらず、該新しい3Dモデルを含む他のすべての3Dモデルを、該フレーム中にエンコードし、
該バーチャル位置は該ユーザーデバイススクリーンの3Dプロジェクション面であることを特徴とする請求項13に記載のネットワークを通してメディアを伝送する方法。 - 前記ステップ(C)において、該サーバーは、該フレーム中にエンコードされていない3Dモデルの状態情報を、該ユーザーデバイス中に伝送し、該ユーザーデバイスが、該状態情報を受け取り及びチェックする時には、以下の方式に基づき行い、
もし、受け取った該状態情報中の任意の3Dモデルが、該デバイス中にプレ保存されていないなら、該ユーザーデバイスは該サーバーに該3Dモデルをダウンロードする請求を送信し、
該状態情報は、該フレーム中にエンコードされていない解釈データを含み、該各3Dモデルの該解釈データは、該3Dモデルの名称、位置、速度、ディレクション、及び属性を含むことを特徴とする請求項13に記載のネットワークを通してメディアを伝送する方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US14/146,343 US8860720B1 (en) | 2014-01-02 | 2014-01-02 | System and method for delivering graphics over network |
US14/146,343 | 2014-01-02 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015130164A true JP2015130164A (ja) | 2015-07-16 |
JP5913554B2 JP5913554B2 (ja) | 2016-05-11 |
Family
ID=51661127
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014261622A Active JP5913554B2 (ja) | 2014-01-02 | 2014-12-25 | ネットワークを通してメディアを伝送するシステム及び方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8860720B1 (ja) |
JP (1) | JP5913554B2 (ja) |
KR (1) | KR101664146B1 (ja) |
CN (1) | CN104768023B (ja) |
TW (1) | TWI528794B (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017117431A (ja) * | 2015-12-21 | 2017-06-29 | ユービッタズ アイエンシーUbitus Inc. | ネットワークを通してメディアを伝送するシステム及び方法 |
JP2020151494A (ja) * | 2015-08-19 | 2020-09-24 | ソニー・インタラクティブエンタテインメント エルエルシー | クライアント側のアセット統合を用いたクラウドゲームストリーミング |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106713889B (zh) * | 2015-11-13 | 2019-05-28 | 中国电信股份有限公司 | 3d画面的渲染方法和系统、及移动终端 |
CN106851394A (zh) * | 2017-01-18 | 2017-06-13 | 广东小天才科技有限公司 | 一种背景音乐切换方法和装置 |
EP3547704A1 (en) * | 2018-03-30 | 2019-10-02 | Thomson Licensing | Method, apparatus and stream for volumetric video format |
CN109492128B (zh) * | 2018-10-30 | 2020-01-21 | 北京字节跳动网络技术有限公司 | 用于生成模型的方法和装置 |
CN117234455B (zh) * | 2023-11-14 | 2024-04-19 | 深圳市齐奥通信技术有限公司 | 基于环境感知的音频装置智能控制方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6377257B1 (en) * | 1999-10-04 | 2002-04-23 | International Business Machines Corporation | Methods and apparatus for delivering 3D graphics in a networked environment |
US6384821B1 (en) * | 1999-10-04 | 2002-05-07 | International Business Machines Corporation | Method and apparatus for delivering 3D graphics in a networked environment using transparent video |
US20040207662A1 (en) * | 2003-04-16 | 2004-10-21 | Anderson Daryl E. | User interface, method and apparatus for providing three-dimensional object fabrication status |
US20070146372A1 (en) * | 2005-12-09 | 2007-06-28 | Digital Steamworks, Llc | System, method and computer program product for creating two dimensional (2D) or three dimensional (3D) computer animation from video |
JP2013254501A (ja) * | 2008-01-17 | 2013-12-19 | Vivox Inc | アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20010085150A (ko) * | 2000-02-29 | 2001-09-07 | 곽태영 | 카메라와 화면 캡쳐를 이용한 인터넷 분산 방송 시스템 |
KR20010025417A (ko) * | 2000-12-26 | 2001-04-06 | 손영철 | 인터넷사이트상의 홈쇼핑채널광고 또는 전자우편을 이용한홈쇼핑방송서비스 방법 및 시스템 |
KR100666956B1 (ko) | 2005-03-08 | 2007-01-10 | 삼성전자주식회사 | 네트워크에서의 미디어 전송 장치 및 방법 |
JP4177381B2 (ja) * | 2006-03-01 | 2008-11-05 | 株式会社スクウェア・エニックス | 画像生成方法、画像生成装置、および画像生成プログラム |
US20100304862A1 (en) * | 2009-05-29 | 2010-12-02 | Coleman J Todd | Collectable card-based game in a massively multiplayer role-playing game that presents real-time state information |
CN102355489B (zh) * | 2011-08-17 | 2015-03-04 | 焦秀琴 | 通过网络显示与操作3d游戏的方法、系统、服务器及客户端 |
US20130120378A1 (en) * | 2011-11-15 | 2013-05-16 | Trimble Navigation Limited | Progressively providing software components for browser-based 3d modeling |
-
2014
- 2014-01-02 US US14/146,343 patent/US8860720B1/en active Active
- 2014-12-12 CN CN201410768998.XA patent/CN104768023B/zh active Active
- 2014-12-17 TW TW103144130A patent/TWI528794B/zh active
- 2014-12-25 JP JP2014261622A patent/JP5913554B2/ja active Active
- 2014-12-29 KR KR1020140191949A patent/KR101664146B1/ko active IP Right Grant
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6377257B1 (en) * | 1999-10-04 | 2002-04-23 | International Business Machines Corporation | Methods and apparatus for delivering 3D graphics in a networked environment |
US6384821B1 (en) * | 1999-10-04 | 2002-05-07 | International Business Machines Corporation | Method and apparatus for delivering 3D graphics in a networked environment using transparent video |
US20040207662A1 (en) * | 2003-04-16 | 2004-10-21 | Anderson Daryl E. | User interface, method and apparatus for providing three-dimensional object fabrication status |
US20070146372A1 (en) * | 2005-12-09 | 2007-06-28 | Digital Steamworks, Llc | System, method and computer program product for creating two dimensional (2D) or three dimensional (3D) computer animation from video |
JP2013254501A (ja) * | 2008-01-17 | 2013-12-19 | Vivox Inc | アバタ別にレンダリングされる環境を用いる仮想現実システムにおいてリアルタイムのアバタ別のストリーミングデータを提供するスケーラブルな技法 |
Non-Patent Citations (1)
Title |
---|
JPN6015048564; 四倉達夫, 外4名: '"仮想人物によるサイバースペース上でのコミュニケーションシステムの構築"' 電子情報通信学会技術研究報告 第98巻, 第683号, 19990323, p.39-46, 社団法人電子情報通信学会 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020151494A (ja) * | 2015-08-19 | 2020-09-24 | ソニー・インタラクティブエンタテインメント エルエルシー | クライアント側のアセット統合を用いたクラウドゲームストリーミング |
JP2017117431A (ja) * | 2015-12-21 | 2017-06-29 | ユービッタズ アイエンシーUbitus Inc. | ネットワークを通してメディアを伝送するシステム及び方法 |
Also Published As
Publication number | Publication date |
---|---|
KR20150080903A (ko) | 2015-07-10 |
TWI528794B (zh) | 2016-04-01 |
JP5913554B2 (ja) | 2016-05-11 |
US8860720B1 (en) | 2014-10-14 |
CN104768023A (zh) | 2015-07-08 |
KR101664146B1 (ko) | 2016-10-10 |
TW201541948A (zh) | 2015-11-01 |
CN104768023B (zh) | 2018-03-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5913554B2 (ja) | ネットワークを通してメディアを伝送するシステム及び方法 | |
US9370718B2 (en) | System and method for delivering media over network | |
JP6310073B2 (ja) | 描画システム、制御方法、及び記憶媒体 | |
US11617947B2 (en) | Video game overlay | |
JP2020151494A (ja) | クライアント側のアセット統合を用いたクラウドゲームストリーミング | |
JP6306089B2 (ja) | ネットワークを通してメディアを伝送するシステム及び方法 | |
JP5624224B2 (ja) | データ提供システム、提供装置、実行装置、制御方法、プログラム、及び記録媒体 | |
US9233308B2 (en) | System and method for delivering media over network | |
CN113209632B (zh) | 一种云游戏的处理方法、装置、设备及存储介质 | |
US20220193540A1 (en) | Method and system for a cloud native 3d scene game | |
JPWO2015011762A1 (ja) | 画像生成システムおよび画像生成用プログラム | |
CN104998412A (zh) | 一种单机游戏实现方法及装置 | |
JP6379107B2 (ja) | 情報処理装置並びにその制御方法、及びプログラム | |
US20230079893A1 (en) | Multi-Viewpoint Multi-User Audio User Experience | |
KR102441514B1 (ko) | 하이브리드 스트리밍 | |
CN115220906A (zh) | 音频/视频合成应用的云执行 | |
JP2016527576A (ja) | 情報処理装置、制御方法、プログラム及び記録媒体 | |
JP2016509486A (ja) | ネットワークを介して送信するためのビデオゲーム画面画像の生成及び符号化を行う方法及びシステム | |
CN110536171B (zh) | 互动场景中的多媒体处理方法、装置及电子设备 | |
JP5932892B2 (ja) | コンテンツ提供システム、コンテンツ提供機器、コンテンツ再生機器、制御方法、プログラム、及び記録媒体 | |
KR20130046892A (ko) | 분할 디스플레이를 위한 데이터 관리 장치, 시스템 및 방법과 그 기록 매체 | |
CN112402943A (zh) | 加入或重放来自游戏广播的游戏实例 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20151125 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151202 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160203 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160314 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160401 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5913554 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |