JP5520190B2 - 画像処理システム、画像処理方法、動画像送信装置、動画像受信装置、プログラム及び情報記憶媒体 - Google Patents

画像処理システム、画像処理方法、動画像送信装置、動画像受信装置、プログラム及び情報記憶媒体 Download PDF

Info

Publication number
JP5520190B2
JP5520190B2 JP2010235923A JP2010235923A JP5520190B2 JP 5520190 B2 JP5520190 B2 JP 5520190B2 JP 2010235923 A JP2010235923 A JP 2010235923A JP 2010235923 A JP2010235923 A JP 2010235923A JP 5520190 B2 JP5520190 B2 JP 5520190B2
Authority
JP
Japan
Prior art keywords
moving image
moving
image
screen
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010235923A
Other languages
English (en)
Other versions
JP2012090120A (ja
Inventor
俊哉 池長
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Sony Computer Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2010235923A priority Critical patent/JP5520190B2/ja
Application filed by Sony Interactive Entertainment Inc, Sony Computer Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Priority to PCT/JP2011/068371 priority patent/WO2012053273A1/ja
Priority to EP23174341.0A priority patent/EP4221196B1/en
Priority to EP11834115.5A priority patent/EP2632159B1/en
Priority to US13/877,194 priority patent/US20130182186A1/en
Priority to EP19191799.6A priority patent/EP3606051B1/en
Priority to EP25150995.6A priority patent/EP4607912A1/en
Priority to CN201180050385.7A priority patent/CN103181177B/zh
Publication of JP2012090120A publication Critical patent/JP2012090120A/ja
Application granted granted Critical
Publication of JP5520190B2 publication Critical patent/JP5520190B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • A63F13/355Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/23Input arrangements for video game devices for interfacing with the game device, e.g. specific interfaces between game controller and console
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/85Providing additional services to players
    • A63F13/86Watching games played by other players
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4781Games
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/38Transmitter circuitry for the transmission of television signals according to analogue transmission standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/70Game security or game management aspects
    • A63F13/79Game security or game management aspects involving player-related data, e.g. identities, accounts, preferences or play histories
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/30Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by output arrangements for receiving control signals generated by the game device
    • A63F2300/308Details of the user interface
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/53Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing
    • A63F2300/535Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing for monitoring, e.g. of user parameters, terminal parameters, application parameters, network parameters
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/53Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing
    • A63F2300/538Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing for performing operations on behalf of the game client, e.g. rendering
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/55Details of game data or player data management
    • A63F2300/552Details of game data or player data management for downloading to client devices, e.g. using OS version, hardware or software profile of the client device
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/57Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of game services offered to the player
    • A63F2300/577Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of game services offered to the player for watching a game played by other players
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2402Monitoring of the downstream path of the transmission network, e.g. bandwidth available

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Information Transfer Between Computers (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、画像処理システム、画像処理方法、動画像送信装置、動画像受信装置、プログラム及び情報記憶媒体に関する。
動画像をサーバから端末に送信する技術が存在する。特許文献1には、画像フレーム毎に設定された重要度を動画ストリームのパケットのヘッダに優先度タグとして付加して、パケットの優先度制御機能をもつルータで構成されるネットワークに優先度タグ付きのパケットを送信することで、動画ストリームをネットワークで送受信する場合に、動画ストリームの優先度制御を効果的に行って動画を再生することのできる画像処理システムが開示されている。
米国特許第7734104号明細書
複数の動画像がまとめて表示される画面をクライアントが表示出力する一手法として、例えば、サーバが複数の動画像をクライアントにストリーミング配信して、クライアントがこれら複数の動画像それぞれのフレーム画像を合成した画面を生成して表示出力するという手法が考えられる。
また、別の手法として、サーバが複数の動画像それぞれのフレーム画像を合成した合成画像を含む画面を順次生成して、クライアントにストリーミング配信して、クライアントがこの画面を表示出力するという手法が考えられる。
前者の手法を採用する場合は、クライアントにおいて複数の動画像のそれぞれをデコードして画面を生成する処理を行う必要が生じる。しかし、クライアントの処理性能が低い場合には、クライアントにおいてこのような処理を行えない、あるいは、画面の生成に非常に時間がかかってしまうという事態が発生するおそれがある。また、サーバとクライアントとを接続するネットワークの帯域が狭い場合には、帯域が逼迫してしまうおそれがある。
一方、後者の手法を採用する場合は、サーバで画面を生成する処理を実行する必要が生じる。そうすると、例えば、サーバから多数のクライアントに動画像を配信するような場合には、全体としてのサービスレベルが低下するという事態が発生するおそれがある。
また、クライアントの性能やサーバの性能によっては、複数の動画像をクライアントにまとめて表示させる代わりに、そのうちの1つ、あるいは、いくつかの動画像を選択してクライアントに表示させる方がよい場合もある。
このように、利用者に提示される画面の基礎となる動画像の数は、多い方がいい場面もあれば少ない方がよい場面もある。
本発明は上記課題に鑑みてなされたものであって、利用者に提示される画面の基礎となる、動画像送信装置から動画像受信装置へと送信される動画像の数の柔軟性を高めることができる画像処理システム、画像処理方法、動画像送信装置、動画像受信装置、プログラム及び情報記憶媒体を提供することを目的とする。
上記課題を解決するために、本発明に係る画像処理システムは、動画像送信装置と、動画像受信装置と、を含み、前記動画像送信装置が、動画像を前記動画像受信装置に送信する動画像送信手段、を含み、前記動画像受信装置が、一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する画面生成手段、を含み、前記動画像送信手段は、所与の規則に従って決定される数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信し、前記画面生成手段は、前記決定される数の動画像のフレーム画像が含まれる画面を生成することを特徴とする。
また、本発明に係る画像処理方法は、動画像送信装置が、動画像を動画像受信装置に送信する動画像送信ステップと、前記動画像受信装置が、一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する画面生成ステップと、を含み、前記動画像送信ステップでは、所与の規則に従って決定される数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信し、前記画面生成ステップでは、前記決定される数の動画像のフレーム画像が含まれる画面を生成することを特徴とする。
また、本発明に係る動画像送信装置は、一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する動画像受信装置に動画像を送信する動画像送信手段、を含み、前記動画像送信手段は、所与の規則に従って決定される数の動画像を一画面内に配置される動画像として、当該決定される数の動画像のフレーム画像が含まれる画面を生成する前記動画像受信装置に送信することを特徴とする。
また、本発明に係る動画像受信装置は、動画像を送信する動画像送信手段を含む動画像送信装置から一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する画面生成手段、を含み、前記画面生成手段は、前記動画像送信手段により一画面内に配置される動画像として送信される所定の規則に従って決定される数の動画像を受信して、当該決定される数の動画像のフレーム画像が含まれる画面を生成することを特徴とする。
また、本発明に係るプログラムは、一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する動画像受信装置に動画像を送信する動画像送信手段、としてコンピュータを機能させ、前記動画像送信手段は、所与の規則に従って決定される数の動画像を一画面内に配置される動画像として、当該決定される数の動画像のフレーム画像が含まれる画面を生成する前記動画像受信装置に送信することを特徴とする。
また、本発明に係る別のプログラムは、動画像を送信する動画像送信手段を含む動画像送信装置から一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する画面生成手段、としてコンピュータを機能させ、前記画面生成手段は、前記動画像送信手段により一画面内に配置される動画像として送信される所定の規則に従って決定される数の動画像を受信して、当該決定される数の動画像のフレーム画像が含まれる画面を生成することを特徴とする。
また、上記のプログラムは、いずれも、コンピュータ読み取り可能な情報記憶媒体に記憶することもできる。
本発明によると、所与の規則に従って決定される数の動画像が一画面内に配置される動画像として動画像送信装置から動画像受信装置に送信されるので、利用者に提示される画面の基礎となる、動画像送信装置から動画像受信装置へと送信される動画像の数の柔軟性を高めることができる。
本発明の一態様では、前記動画像送信手段は、所定の条件を満足するか否かに応じて、複数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信するか、フレーム画像が当該複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として前記動画像受信装置に送信するか、を変え、前記画面生成手段は、複数の動画像を受信した場合は、当該複数の動画像それぞれのフレーム画像を合成して画面を生成し、フレーム画像が前記合成画像である動画像を受信した場合は、当該動画像のフレーム画像が含まれる画面を生成することを特徴とする。
また、本発明の一態様では、前記動画像送信手段は、前記動画像受信装置の属性に応じて、複数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信するか、フレーム画像が当該複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として前記動画像受信装置に送信するか、を変えることを特徴とする。
また、本発明の一態様では、前記動画像送信手段は、前記動画像送信装置と前記動画像受信装置との間の通信の状況に応じて、複数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信するか、フレーム画像が当該複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として前記動画像受信装置に送信するか、を変えることを特徴とする。
また、本発明の一態様では、前記動画像送信手段は、前記動画像送信装置若しくは前記動画像受信装置の負荷、又は、前記動画像送信装置と前記動画像受信装置との間の通信の状況が変化した際に、当該変化に応じて、一画面内に配置される動画像として送信する動画像の数を変えることを特徴とする。
また、本発明の一態様では、前記動画像送信手段は、候補である複数の動画像のうちから所定の基準に従って選択される前記決定される数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信することを特徴とする。
本実施形態に係るコンピュータネットワークの全体構成の一例を示す図である。 ゲーム画面の一例を示す図である。 ゲーム画面の一例を示す図である。 本実施形態に係るクラウドサービスとクライアントとの関係の一例を示す概念図である。 本実施形態に係るクラウドサービス及びクライアントで実現される機能の一例を示す機能ブロック図である。 属性設定対応データの一例を示す図である。 配信設定データの一例を示す図である。 フレンド表示画面の一例を示す図である。
以下、本発明の一実施形態について図面に基づき詳細に説明する。
図1は、本発明の一実施形態に係るコンピュータネットワークの全体構成の一例を示す図である。図1に示すように、インターネットなどのコンピュータネットワーク14には、いずれもコンピュータを中心に構成されたクラウドサービス10、クライアント12(12−1〜12−n)、が接続されている。そして、クラウドサービス10、クライアント12は、互いに通信可能になっている。本実施形態では、クラウドサービス10は、動画像送信装置として機能し、クライアント12は、動画像受信装置として機能する。また、本実施形態では、クラウドサービス10及びクライアント12全体として画像処理システムとして機能する。
クライアント12は、クラウドサービス10のユーザが利用するコンピュータであり、例えば、パーソナルコンピュータ、ゲームコンソール、テレビ受像器、携帯型ゲーム装置、携帯情報端末、などである。そして、クライアント12は、例えば、CPU等の制御装置、ROMやRAM等の記憶素子やハードディスクドライブ等の記憶装置、ディスプレイ、スピーカ等の出力装置、ゲームコントローラ、タッチパッド、マウス、キーボード、マイク等の入力装置、ネットワークボード等の通信装置、DVD−ROMやBlu−ray(登録商標)ディスクなどの光ディスク(コンピュータ読み取り可能な情報記憶媒体)を読み取る光ディスクドライブ、等を備えている。
また、本実施形態に係るクライアント12は、ウェブブラウザ及びクライアントプログラムが予めインストールされており、これらのアプリケーションプログラムが実行される。
クラウドサービス10は、例えば、分散コンピューティング環境であり、互いに通信可能に接続されている複数台のWebアプリケーションサーバ、複数台のデータベースサーバ、複数台のストレージデバイス、などを含んで構成されている。クラウドサービス10に含まれるサーバは、例えば、CPU等の制御部、ROMやRAM等の記憶素子やハードディスクドライブなどである記憶部、ネットワークボードなどの通信インタフェースである通信部、を含んで構成されている。これらの要素は、バスを介して接続される。
クラウドサービス10を利用するクライアント12は、クラウドサービス10内に存在するサーバやストレージデバイスなどのリソースの所在を特に意識することなく、クラウドサービス10が提供する各種サービスを利用することができる。
本実施形態では、クライアント12が、ウェブブラウザを通じてクラウドサービス10にアクセスし、ユーザID及びパスワードを入力してから、その後に所定のURLにアクセスすると、クライアント12のディスプレイに所定のURLに対応する画面が表示される。なお、ユーザID及びパスワードを入力した後は、クラウドサービス10は、例えば、クッキーを参照することによりクライアント12を利用するユーザのユーザIDを特定することができるようになっている。
本実施形態では、例えば、ユーザA、ユーザB、ユーザC、及び、ユーザD、それぞれのクライアント12から、複数人数でのゲームのプレイ(マルチプレイ)の実行の開始要求をクラウドサービス10に送信すると、クラウドサービス10はそのゲームの実行を開始する。以下、ユーザA、ユーザB、ユーザC、及び、ユーザDのユーザIDは、それぞれ、「001」、「002」、「003」、及び、「004」であることとする。そして、このゲームが実行されている間、クラウドサービス10は、このゲームのプレイ内容を表す動画像をエンコードして各クライアント12にストリーミング送信する。すなわち、クラウドサービス10は、このゲームのプレイ内容を表すフレーム画像20を順次各クライアント12にストリーミング送信する。そして、クライアント12は、この動画像を受信し、デコードし、デコードされた動画像のフレーム画像20が配置されたゲーム画面22を生成して、ディスプレイに表示出力する(図2、及び、図3参照)。以下、上述のようにして順次ストリーミング送信される一連のフレーム画像20から構成される、プレイが進行中であるゲームのプレイ内容を表す動画像をプレイ動画像と呼ぶこととする。
図2に、ユーザAのクライアント12のディスプレイに表示されるゲーム画面22の一例を示す。図3に、ユーザBのクライアント12のディスプレイに表示されるゲーム画面22の一例を示す。図3では、例えば、ユーザBのプレイ動画像のフレーム画像20が左上に配置されており、ユーザA、ユーザC、及び、ユーザDのプレイ動画像のフレーム画像20が、それぞれ、右上、左下、右下に配置されている。
本実施形態では、各ユーザは、プレイ動画像を見ながら、ゲームコントローラのボタンを押下するなどしてゲームを楽しむことができる。本実施形態では、各ユーザ、ゲームコントローラのボタンを押下するなどの、キー入力を行うことにより、ゲームにおけるプレイヤオブジェクトの移動等の操作を行うことができる。
図2及び図3に示すように、本実施形態では、複数のユーザが同じゲームをマルチプレイでプレイしている状況であっても、各ユーザのクライアント12のディスプレイには異なるゲーム画面22が表示出力される場合がある。また、本実施形態では、複数のユーザが同じゲームをマルチプレイでプレイしている状況であっても、各ユーザのクライアント12にクラウドサービス10から送信されるプレイ動画像の数が異なる場合がある。
また、本実施形態では、例えば、ゲームをプレイしているユーザとは異なるユーザ(ここでは、例えば、ユーザE)のクライアント12から、ユーザA、ユーザB、ユーザC、及び、ユーザDによるゲームのプレイの観戦要求をクラウドサービス10に送信すると、クラウドサービス10は、例えば、上述の4人のユーザによりプレイされているゲームのプレイ動画像をユーザEのクライアント12に配信する。そして、ユーザEのクライアント12は、例えば、ユーザA、ユーザB、ユーザC、及び、ユーザDのプレイ動画像のフレーム画像20が、それぞれ、左上、右上、左下、及び、右下に配置されたゲーム画面22をディスプレイに表示出力する。このようにして、本実施形態では、ユーザEは、上述の4人のユーザがプレイしているゲームのプレイ内容を表すプレイ動画像を閲覧することができる。
図4は、本実施形態に係るクラウドサービス10とクライアント12との関係の一例を示す概念図である。本実施形態に係るクラウドサービス10では、例えば、管理プロセス30、サービス提供プロセス32、エミュレータ34が実行される。また、クラウドサービス10に含まれるストレージデバイス等の記憶装置には、予め、各種ゲームプログラムのイメージファイルが記憶されている。ゲームプログラムには、ゲームの識別子であるゲームIDが関連付けられている。
サービス提供プロセス32は、例えば、クラウドサービス10に含まれるサーバが、ショッピングサイトやSNS(Social Networking Service)等、クラウドサービス10が提供する種々のサービスを実現するプログラムを起動することで生成されるプロセスである。
管理プロセス30は、例えば、クラウドサービス10に含まれるサーバが、クラウドサービス10に含まれるサーバやストレージデバイスにインストールされている管理プログラムを起動することで生成されるプロセスであり、エミュレータ34の所在管理処理、エミュレータ34の起動処理及び停止処理、クライアント12からの要求に応じたクライアント12とエミュレータ34との接続処理及び切断処理、などを実行する。
エミュレータ34は、例えば、クラウドサービス10に含まれるサーバやストレージデバイスに記憶されているゲームプログラムを実行するための仮想マシンとして機能するプロセスである。エミュレータ34は、管理プロセス30が、クライアント12からの要求に応じて、クラウドサービス10に含まれるサーバやストレージデバイスにインストールされているエミュレータプログラムを起動することにより生成される。そして、管理プロセス30は、クライアント12からの要求に応じて、クライアント12により指定されたゲームプログラムのイメージファイルを読み込み、エミュレータ34にロードする。このことによって、エミュレータ34上でゲームプログラムが実行されることとなる。なお、エミュレータ34が、クライアント12により指定されたゲームプログラムを自プロセスにロードするようにしてもよい。
また、エミュレータ34は、例えば、クライアント12や管理プロセス30からの要求に応じて、エミュレータ34が管理しているエミュレートされたメモリイメージやレジスタ(例えば、プログラムカウンタ等)、エミュレータ34上で動作するゲームプログラムによる入出力アクセスログ、エミュレータ34上で実行されるCPU命令やGPU命令のログなどを出力する。
本実施形態では、図4に示すように、1つのエミュレータ34を1つのクライアント12が専有することができる(ゲームプログラムP1参照)。また、1つのエミュレータ34に対して複数のクライアント12が接続可能となっている(ゲームプログラムP2参照)。また、1つのエミュレータ34上で複数のゲームプログラムが実行可能となっている(ゲームプログラムP3、P4参照)。
また、本実施形態では、図4に示すように、クライアント12にエミュレータプログラムがインストールされている場合は、管理プロセス30は、クライアント12からの要求に応じて、クライアント12にエミュレータ34の起動指示や停止指示を出力する。クライアント12は、管理プロセス30から受け付ける起動指示に応じて、クライアント12にインストールされているエミュレータプログラムを起動する。また、クライアント12は、管理プロセス30から受け付ける停止指示に応じて、実行中のエミュレータ34を停止する。そして、クライアント12に記憶されているゲームプログラムをクライアント12で実行されているエミュレータ34で実行することもできるようになっている(ゲームプログラムP5参照)。また、クライアント12で実行されているエミュレータ34に対して他のクライアント12から接続できるようになっている(ゲームプログラムP6参照)。
また、本実施形態では、図4に示すように、1つのクライアント12が複数のエミュレータ34に接続することもできる(ゲームプログラムP7、P8参照)。
図5は、本実施形態に係るクラウドサービス10及びクライアント12で実現される機能の一例を示す機能ブロック図である。なお、図5には、以下の説明と特に関係がある機能が示されているにすぎず、本実施形態に係るクラウドサービス10やクライアント12では、図5に示す機能以外の機能も実現されている。
図5に示すように、本実施形態に係るクラウドサービス10は、機能的には、例えば、データ記憶部40、データ受信部42、データ送信部44、配信管理部46、ゲーム実行部48、合成画像生成部50、ゲーム状況監視部52、ネットワーク状況監視部54、を含んで構成される。データ記憶部40は、例えば、クラウドサービス10に含まれるサーバに含まれるメモリやハードディスクドライブ、ストレージデバイス、などといった記憶装置を主として実現される。データ受信部42、データ送信部44は、クラウドサービス10が備えるネットワークボードなどの通信インタフェースを主として実現される。また、ゲーム実行部48は、例えば、エミュレータ34で実現される機能に対応する。その他の要素は、例えば、管理プロセス30で実現される機能に対応する。
また、図5に示すように、本実施形態に係るクライアント12は、機能的には、例えば、データ受信部60、データ送信部62、配信設定管理部64、画面生成部66、画面出力部68、を含んで構成される。データ受信部60、データ送信部62は、クライアント12が備えるネットワークボードなどの通信インタフェースを主として実現される。配信設定管理部64、画面生成部66は、クライアント12が備えるCPU等の制御装置を主として実現される。画面出力部68は、クライアント12が備えるディスプレイなどの出力装置を主として実現される。
クラウドサービス10は、上述のようにコンピュータを中心に構成されており、プログラムを実行することにより、図5においてクラウドサービス10が担う各機能要素が実現されるようになっている。また、このプログラムは、例えば、CD−ROM、DVD−ROMなどのコンピュータ読み取り可能な情報記憶媒体を介して、あるいは、インターネットなどの通信ネットワークを介してクラウドサービス10に供給される。また、クライアント12も、上述のようにコンピュータを中心に構成されており、上述のクライアントプログラムを実行することにより、図5においてクライアント12が担う各機能要素が実現されるようになっている。また、このプログラムは、例えば、CD−ROM、DVD−ROMなどのコンピュータ読み取り可能な情報記憶媒体を介して、あるいは、インターネットなどの通信ネットワークを介してクライアント12に供給される。
配信管理部46は、本実施形態では、例えば、クライアント12からの要求に応じてエミュレータ34を起動したり停止したりする。また、配信管理部46は、クライアント12からの要求に応じた、クライアント12とエミュレータ34との接続処理及び切断処理を実行する。また、配信管理部46は、起動したエミュレータ34へのゲームプログラムのイメージファイルのロードも行う。また、配信管理部46は、エミュレータ34の所在管理処理も実行する。
本実施形態では、例えば、クライアント12のデータ送信部62が、クラウドサービス10に、そのクライアント12の属性データに関連付けられた、アクションゲームの、複数人数でのプレイ(マルチプレイ)の実行の開始要求を送信する。クライアント12の属性データは、具体的には、例えば、クライアント12の名称、クライアント12のディスプレイサイズ、クライアント12が備えるCPUの数、クライアント12が備えるCPUの種別、クライアント12が備えるハードディスクドライブの容量、クライアント12が備えるメモリのサイズ、クライアント12の最大通信速度、クライアント12タッチパッドを備えているか否か、クライアント12の種別(パーソナルコンピュータ、ゲームコンソール、テレビ受像器、携帯型ゲーム装置、携帯情報端末、のいずれであるのか)などを示している。ここでは、例えば、ユーザA、ユーザB、ユーザC、及び、ユーザDのクライアント12が、それぞれ、自分のクライアント12の属性データに関連付けられた、アクションゲームのマルチプレイ実行の開始要求を送信する。すると、クラウドサービス10のデータ受信部42が、これらの開始要求を受信する。
本実施形態では、データ記憶部40に、予め、図6に例示する属性設定対応データ70が記憶されている。属性設定対応データ70では、上述の属性データが示す属性と、クライアント12に出力されるゲーム画面22の画面構成やクライアント12への動画像の配信方式などといった設定と、が対応付けている。図6に例示する属性設定対応データ70では、クライアント12のディスプレイサイズを示すディスプレイサイズデータとクライアント12が備えるCPUの数を示すCPU数データとの組合せに、配信対象となる少なくとも1つの動画像を示す配信対象動画像データ、合成画像生成部50でのフレーム画像20の合成を行うか否かを示す合成要否データ、及び、ゲーム画面22の画面構成を示す画面構成データが対応付けられている。
配信対象動画像データには、例えば、ゲームの実行の開始要求の送信元のクライアント12を利用するユーザ(以下、送信元ユーザと呼ぶ。)のプレイ動画像を配信する(図6には「送信元ユーザ」と示されている。)のか、マルチプレイでのゲームをプレイするプレイヤ全員のプレイ動画像を配信する(図6には「全員」と示されている。)のか、が示されている。
本実施形態において、画面構成とは、例えば、プレイ動画像のフレーム画像20が配置されるゲーム画面22内における位置(例えば、ゲーム画面22内においてフレーム画像20の左上端が配置されるX座標及びY座標など)、大きさ(例えば、フレーム画像20の縦横の画素数)、解像度などを指す。そして、本実施形態では、画面構成データに上述の画面構成が示されている。
本実施形態では、例えば、属性設定対応データ70において、ディスプレイサイズデータの値「3.8型」には、値が「タイプA」である画面構成データが対応付けられている。タイプAの画面構成とは、例えば、図2に示すような、中央に送信元ユーザのプレイ動画像のフレーム画像20が配置される画面構成を指す。
また、本実施形態では、例えば、属性設定対応データ70において、ディスプレイサイズデータの値「42型」と、CPU数データの値「1」との組合せ、及び、ディスプレイサイズデータの値「42型」と、CPU数データの値「2」との組合せには、値が「タイプB」である画面構成データが対応付けられている。タイプBの画面構成とは、例えば、図3に示すような、左上に送信元ユーザのプレイ動画像のフレーム画像20が配置され、右上、右下、左下にそれぞれ他のユーザのプレイ動画像のフレーム画像20がランダムに配置され、送信元ユーザのプレイ動画像のフレーム画像20の大きさが他のユーザのプレイ動画像のフレーム画像20よりも大きく設定された画面構成を指す。このように、画面構成データにおいて、送信元ユーザのフレーム画像20の画面構成と、他のユーザのフレーム画像20の画面構成とが異なるよう設定されていてもよい。
そして、クラウドサービス10の配信管理部46は、図7に例示する、動画像の配信に関する設定を示す配信設定データ72を生成する。配信設定データ72には、例えば、クライアント12でのゲーム画面22の画面構成や、配信対象となるプレイ動画像、及び、プレイ動画像のフレーム画像20を合成画像生成部50で合成してからクライアント12に送信するか否か、などといった、動画像の配信方式などが示されている。
配信設定データ72は、本実施形態では、例えば、動画像の配信先となるクライアント12を利用するユーザのユーザID、配信対象となる動画像にプレイ内容が表されているユーザのユーザIDである配信動画像対応ユーザID(配信動画像対応ユーザIDは1つであることもあれば複数であることもある。)、フレーム画像20の合成に関する方式を示す合成方式データ(本実施形態では、合成画像生成部50により合成されたフレーム画像20を配信する場合は、「合成後配信」の値が設定され、複数のプレイ動画像がクライアント12に配信され、クライアント12で複数のフレーム画像20に基づいてゲーム画面22が生成される場合は、「合成前配信」の値が設定される。)、ゲーム画面22の画面構成を示す画面構成データ、を含んでいる。
本実施形態では、配信管理部46は、例えば、属性設定対応データ70において、各クライアント12から受信した属性データに含まれるディスプレイサイズ及びCPUの数の組合せに対応付けられている配信対象動画像データ、合成要否データ、及び、画面構成データを特定する。そして、配信管理部46は、これらのデータに基づいて、図7に例示する配信設定データ72を生成する。そして、配信管理部46は、生成した配信設定データ72をデータ記憶部40に出力する。
本実施形態では、例えば、ユーザAのクライアント12は、ディスプレイサイズが3.8型である携帯型ゲーム端末であり、ユーザB、ユーザC、及び、ユーザDのクライアント12は、ディスプレイサイズが42型であるゲームコンソールであるとする。また、ユーザA、及び、ユーザBのクライアント12のCPUの数は1であり、ユーザC、及び、ユーザDのクライアント12のCPUの数は2であることとする。
この場合、配信管理部46は、ユーザAのクライアント12から受信した属性データに、ディスプレイサイズが3.8型であることが示されていることに基づいて、配信対象動画像データの値「送信元ユーザ」、合成要否データの値「不要」、及び、画面構成データの値「タイプA」を特定する。そして、配信管理部46は、このことに基づいて、ユーザIDの値「001」、配信動画像対応ユーザIDの値「001」、及び、画面構成データの値「タイプA」が設定された配信設定データ72を生成する。
そして、配信管理部46は、ユーザBのクライアント12から受信した属性データに、ディスプレイサイズが42型であること及びCPUの数が1であることが示されていることに基づいて、配信対象動画像データの値「全員」、合成要否データの値「要」、及び、画面構成データの値「タイプB」を特定する。そして、配信管理部46は、このことに基づいて、ユーザIDの値「002」、配信動画像対応ユーザIDの値「001,002,003,004」、合成方式データの値「合成後配信」及び、画面構成データの値「タイプB」が設定された配信設定データ72を生成する。
そして、配信管理部46は、ユーザC、及び、ユーザDのクライアント12から受信した属性データに、ディスプレイサイズが42型であること及びCPUの数が2であることが示されていることに基づいて、配信対象動画像データの値「全員」、合成要否データの値「不要」、及び、図3のゲーム画面22に相当する画面構成データを特定する。そして、配信管理部46は、このことに基づいて、ユーザIDの値「003」、配信動画像対応ユーザIDの値「001,002,003,004」、合成方式データの値「合成前配信」及び、画面構成データの値「タイプB」が設定された配信設定データ72、及び、ユーザIDの値「004」、配信動画像対応ユーザIDの値「001,002,003,004」、合成方式データの値「合成前配信」及び、画面構成データの値「タイプB」が設定された配信設定データ72を生成する。
そして、クラウドサービス10のデータ送信部44は、各配信設定データ72を、配信設定データ72に含まれるユーザIDの値に基づいて特定されるクライアント12に送信する。そして、各クライアント12のデータ受信部60は、配信設定データ72を受信する。そして、クライアント12の配信設定管理部64は、受信した配信設定データ72をクライアント12が備える記憶装置に出力する。
そして、クラウドサービス10の配信管理部46は、エミュレータ34を起動し、起動したエミュレータ34にアクションゲームのイメージファイルをロードする。そして、配信管理部46は、このエミュレータ34と、ユーザA、ユーザB、ユーザC、及び、ユーザDのクライアント12を接続する。そして、ゲーム実行部48が、ロードされたアクションゲームの実行を開始する。このようにして、本実施形態では、クラウドサービス10が、ユーザA、ユーザB、ユーザC、及び、ユーザDがプレイヤとして参加するアクションゲームのマルチプレイの実行を開始する。
本実施形態では、配信設定データ72において、合成方式データの値が設定されていないユーザ、又は、合成方式データの値が「合成前配信」であるユーザについては、クラウドサービス10は、ゲーム実行部48による、アクションゲームの開始以降、所定のゲーム更新時間(例えば、1/60秒)毎に、ゲームの状況を示すゲーム状況データを更新するゲーム状況データ更新処理、ゲーム実行部48による、更新後のゲーム状況データに基づいてゲームのプレイ内容を表すフレーム画像20を生成するフレーム画像生成処理、データ送信部44による、生成されたフレーム画像20をクライアント12に送信するフレーム画像送信処理、の順に、これら3つの処理を実行する。すなわち、クラウドサービス10は、ゲーム更新時間間隔で、上述の3つの処理を順次実行するという処理を繰り返し実行する。
また、本実施形態では、配信設定データ72において、合成方式データの値が設定されていないユーザ、又は、「合成後配信」であるユーザについては、クラウドサービス10は、ゲーム実行部48による、アクションゲームの開始以降、所定のゲーム更新時間(例えば、1/60秒)毎に、ゲームの状況を示すゲーム状況データを更新するゲーム状況データ更新処理、ゲーム実行部48による、更新後のゲーム状況データに基づいてゲームのプレイ内容を表すフレーム画像20を生成するフレーム画像生成処理、合成画像生成部50によるフレーム画像生成処理により生成されたフレーム画像20に基づいて合成画像をフレーム画像20として生成する合成画像生成処理、データ送信部44による、合成画像生成処理により生成されたフレーム画像20をクライアント12に送信するフレーム画像送信処理、の順に、これら4つの処理を実行する。すなわち、クラウドサービス10は、ゲーム更新時間間隔で、上述の4つの処理を順次実行するという処理を繰り返し実行する。
本実施形態では、ゲーム実行部48は、フレーム画像生成処理において、例えば、更新後のオブジェクト群の位置や向きを示すゲーム状況データに基づいてフレーム画像20を生成する処理を実行する。
また、本実施形態では、合成画像生成部50は、上述の合成画像生成処理において、例えば、フレーム画像生成処理により生成されたフレーム画像20を取得して、取得したフレーム画像に基づいて、配信設定データ72に含まれる画面構成データが示す画面構成と同様に各フレーム画像20が配置されるよう合成画像を生成する。本実施形態では、ユーザBのクライアント12への送信対象となるフレーム画像20は、合成画像生成部50が合成したフレーム画像20となる。合成画像生成部50は、例えば、左上にユーザBのプレイ動画像のフレーム画像20が配置され、右上、左下、右下には、その他のユーザのプレイ動画像のフレーム画像20が配置された合成画像を、ユーザBのクライアント12への送信対象となるフレーム画像20として生成する。
また、本実施形態では、データ送信部44は、フレーム画像送信処理において、例えば、生成されたフレーム画像20を生成時刻順に順序付けられているフレーム画像20の識別子であるフレームID、及び、そのフレーム画像20にプレイ内容が表されているユーザのユーザIDに関連付けてクライアント12に送信する。
本実施形態では、クラウドサービス10のデータ送信部44は、配信設定データ72が示す設定に従って、プレイ動画像のフレーム画像20を各クライアント12に送信する。例えば、クラウドサービス10のデータ送信部44は、ユーザAのクライアント12には、ユーザAによるプレイ内容を表すプレイ動画像のフレーム画像20を送信する。また、例えば、クラウドサービス10のデータ送信部44は、ユーザBのクライアント12には、図3に示すゲーム画面22(図3に示すゲーム画面22に相当するフレーム画像20)を送信する。また、例えば、クラウドサービス10のデータ送信部44は、ユーザC、及び、ユーザDのクライアント12には、ユーザAによるプレイ内容を表すプレイ動画像のフレーム画像20、ユーザBによるプレイ内容を表すプレイ動画像のフレーム画像20、ユーザCによるプレイ内容を表すプレイ動画像のフレーム画像20、及び、ユーザDによるプレイ内容を表すプレイ動画像のフレーム画像20を送信する。このように、本実施形態では、クラウドサービス10のデータ送信部44は、ユーザA、及び、ユーザBのクライアント12に1つのプレイ動画像を配信し、ユーザC、及び、ユーザDのクライアント12に4つのプレイ動画像を配信する。
そして、クライアント12のデータ受信部60は、クラウドサービス10から順次送信されるフレーム画像20を受信(取得)する。
そして、クライアント12の画面生成部66は、クラウドサービス10から受信した配信設定データ72と、クラウドサービス10から受信したフレーム画像20と、に基づいて、ゲーム画面22を生成する。
本実施形態では、例えば、ユーザAのクライアント12の画面生成部66は、図2に示すゲーム画面22を生成する。また、ユーザBのクライアント12の画面生成部66は、クラウドサービス10から送信される、図3に示すゲーム画面22に相当するフレーム画像20をゲーム画面22の中央に配置することによって、図3に示すゲーム画面22を生成する。また、ユーザC、及び、ユーザDのクライアント12の画面生成部66は、配信設定データ72に含まれる画面構成データに基づいて、各フレーム画像20をゲーム画面22に配置することによって、フレーム画像20と配置されている場所との関係が異なる、図3と同様のゲーム画面22を生成する。なお、本実施形態では、ユーザCのクライアント12の画面生成部66は、左上にユーザCのプレイ動画像のフレーム画像20が配置されたゲーム画面22を生成し、ユーザDのクライアント12の画面生成部66は、左上にユーザDのプレイ動画像のフレーム画像20が配置されたゲーム画面22を生成する。
そして、各クライアント12の画面出力部68は、自装置の画面生成部66が生成したゲーム画面22をディスプレイに表示出力する。なお、本実施形態では、各クライアント12は、所定のフレームレートで、ゲーム画面22の生成及び表示出力を行う。また、本実施形態では、クライアント12は、関連付けられているフレームID順にフレーム画像20を表示出力する。このようにして、プレイ動画像がクラウドサービス10からクライアント12へストリーミング配信される。
以上のように、本実施形態では、クラウドサービス10からユーザA及びユーザBのクライアント12に配信されるプレイ動画像の数は1であり、クラウドサービス10からユーザC及びユーザDのクライアント12に配信されるプレイ動画像の数は4であることとなる。
このように、本実施形態では、クラウドサービス10が複数のクライアント12からの要求に応じてこれら複数のクライアント12それぞれを利用するユーザが参加するゲームを実行している場合に、ユーザが利用するクライアント12のディスプレイサイズやCPUの数に応じて、クライアント12に表示出力されるゲーム画面22の画面構成や、クライアント12に配信されるプレイ動画像の数が変わることとなる。また、本実施形態では、同じ画面構成のゲーム画面22が表示出力される場合であっても、ユーザが利用するクライアント12のCPUの数に応じて、フレーム画像20の合成がクラウドサービス10で行われるか、クライアント12で行われるか、が異なることとなる。
本実施形態では、ゲーム実行部48は、ゲーム状況更新処理において、例えば、ゲームにおけるプレイヤオブジェクトや敵オブジェクトといったキャラクタオブジェクトなどの位置や向きを示すゲーム状況データを更新する処理を実行する。また、本実施形態では、ゲーム実行部48は、ゲーム状況更新処理において、更新後のオブジェクト間の衝突判定処理や、衝突判定結果に基づく、ゲームステージクリア判定処理、ミス判定処理なども併せて実行する。
また、本実施形態では、ゲームの実行中に、クライアント12が、ユーザによるボタンの押下などのキー入力を受け付けた際に、入力に応じたキー情報(例えば、押下されたボタンの種別を示す信号)を、クラウドサービス10に送信する。そして、クラウドサービス10のゲーム実行部48は、このキー情報に応じたゲーム状況データの更新(例えば、押下されたボタンが示す方向へのプレイヤオブジェクトの移動等)を実行する。
また、本実施形態では、ゲーム状況監視部52が、例えば、ゲーム実行部48が実行しているゲームのゲーム処理の進行状況を監視する。本実施形態では、予め、ゲームにおいて所定のイベントが発生する時点(具体的には、例えば、ボスキャラクタと遭遇した時点や、ボスキャラクタとの戦いの開始時点等)のフレーム画像20がデータ記憶部40に記憶されている。以下、これらのフレーム画像を判定画像と呼ぶこととする。本実施形態では、ゲーム状況監視部52は、例えば、ゲーム実行部48により生成されるフレーム画像を監視する。そして、ゲーム状況監視部52は、公知の画像処理技術を用いて、監視されたフレーム画像と、データ記憶部40に記憶されているいずれかの判定画像とが一致していることを確認した際に、ボスキャラクタに遭遇した、ボスキャラクタとの戦いが始まったなどといったイベントの発生を判定する。このようにして、本実施形態では、所定のイベントの発生時点を検出することができるようになっている。
そして、本実施形態では、ゲーム状況監視部52は、イベントを検出した際に、配信管理部46にその旨を通知する。すると、クラウドサービス10の配信管理部46は、イベントに応じて、配信設定データ72を変更する。
本実施形態では、例えば、ユーザCがプレイしているゲームにおいてイベントが発生した旨を、配信管理部46がゲーム状況監視部52から受け付けた際に、配信管理部46は、ユーザCのフレーム画像20のサイズが所定倍(例えば、1.1倍)に拡大されるよう、ユーザIDの値が、「002」、「003」、及び、「004」である配信設定データ72に含まれる画面構成データを変更する。
そして、クラウドサービス10のデータ送信部44は、変更後の配信設定データ72をユーザB、ユーザC、及び、ユーザDのクライアント12に送信する。そして、ユーザB、ユーザC、及び、ユーザDのクライアント12の配信設定管理部64は、クライアント12が備える記憶装置に記憶されている配信設定データ72を変更する。本実施形態では、クラウドサービス10及びクライアント12は、配信設定データ72が変更されると、変更後の配信設定データに基づいて、処理を実行するようになる。本実施形態では、例えば、クラウドサービスの合成画像生成部50、及び、クライアント12の画面生成部66は、配信設定データ72が変更された後は、変更後の配信設定データに基づいてゲーム画面22を生成する。
このようにして、本実施形態では、ユーザCがプレイしているゲームにおいてイベントが発生した際に、ユーザB、ユーザC、及び、ユーザDのクライアント12のディスプレイに表示出力されるゲーム画面22内における、ユーザCのプレイ動画像のフレーム画像20が占める領域が広くなる。このことによって、各ユーザは、ユーザCにゲームにおけるイベントが発生したことを知ることができる。
また、本実施形態では、ネットワーク状況監視部54が、クライアント12とクラウドサービス10と、を接続するコンピュータネットワーク14の通信の状況(例えば、帯域幅)を監視する。そして、ネットワーク状況監視部54は、クライアント12とクラウドサービス10とを接続するコンピュータネットワーク14が所定の上限帯域幅以上となった場合や、所定の下限帯域幅以下となった場合などに、その旨を配信管理部46に通知する。そして、配信管理部46は、例えば、この通知に応じて、配信設定データ72を変更する。
本実施形態では、例えば、クラウドサービス10とユーザCのクライアント12とを接続するコンピュータネットワーク14の帯域幅が所定の下限帯域幅未満となったことを、配信管理部46がネットワーク状況監視部54から受け付けた際に、配信管理部46は、ユーザIDの値が「003」である配信設定データ72に含まれる配信動画像対応ユーザIDの値を「003」に変更し、合成方式データの値を削除し、画面構成データの値を「タイプA」に変更する。
そして、クラウドサービス10のデータ送信部44は、変更後の配信設定データ72をユーザCのクライアント12に送信する。そして、ユーザCのクライアント12は、クライアント12が備える記憶装置に記憶されている配信設定データ72を変更する。このようにして、本実施形態では、クラウドサービス10とユーザCのクライアント12とを接続するコンピュータネットワーク14の帯域幅が所定の下限帯域幅未満となった際に、ユーザCのクライアント12のディスプレイに表示出力されるゲーム画面22に含まれるフレーム画像20の数が4つから1つに変化するとともに、クラウドサービス10からユーザCのクライアント12に送信されるプレイ動画像の数が4つから1つに減少する。
もちろん、クラウドサービス10は、クラウドサービス10とクライアント12とを接続するコンピュータネットワーク14の帯域幅が所定の上限帯域幅以上となった場合に、クライアント12のディスプレイに表示出力されるゲーム画面22に含まれるフレーム画像20の数を増加させたり、クラウドサービス10からクライアント12に送信されるプレイ動画像の数を増加させたりしてもよい。
このようにして、本実施形態では、コンピュータネットワーク14の帯域幅が変更するなどといった、クラウドサービス10やクライアント12やコンピュータネットワーク14に関する状況が変化した際に、クライアント12に表示出力されるゲーム画面22の画面構成や、クラウドサービス10からクライアント12に送信されるプレイ動画像の数を変えることができる。なお、クラウドサービス10は、例えば、クラウドサービス10やクライアント12の負荷の変化に応じて、クライアント12に表示出力されるゲーム画面22の画面構成や、クラウドサービス10からクライアント12に送信されるプレイ動画像の数を変えてもよい。
また、例えば、クラウドサービス10とユーザCのクライアント12とを接続するコンピュータネットワーク14の帯域幅が所定の下限帯域幅未満となったことを、配信管理部46がネットワーク状況監視部54から受け付けた際に、配信管理部46は、ユーザIDの値が「003」である配信設定データ72に含まれる合成方式データの値を「合成後配信」に変更するようにしてもよい。そして、配信設定データ72の変更後は、クラウドサービス10が、合成画像生成部50により生成される合成画像をフレーム画像20としてユーザCのクライアント12に送信するようにしてもよい。こうすれば、コンピュータネットワーク14の帯域幅が変更するなどといったクラウドサービス10やクライアント12やコンピュータネットワーク14に関する状況が変化した際に、画面構成を変えることなく、フレーム画像20の合成がクラウドサービス10で行われるか、クライアント12で行われるか、が切り替わることとなる。
また、本実施形態では、ユーザがクライアント12のタッチパッド等を用いて、フレーム画像20のサイズの変更操作や、フレーム画像20の表示位置の変更操作を実行すると、クライアント12のデータ送信部62が、変更操作に応じた、配信設定データ72の変更要求をクラウドサービス10に送信する。すると、クラウドサービス10のデータ受信部42が変更要求を受け付ける。すると、配信管理部46が、受信した変更要求に応じて、配信設定データ72を変更する。そして、クラウドサービス10のデータ送信部44は、クライアント12に変更後の配信設定データ72を送信する。そして、クライアント12の配信設定管理部64は、この配信設定データ72を受信して、記憶部に記憶されている配信設定データを変更する。また、本実施形態では、例えば、ユーザがマウスなどを用いてフレーム画像20上にポインタを配置した(フォーカスした)際に、クラウドサービス10の配信管理部46が、そのフレーム画像20が大きく表示されるよう配信設定データ72を変更する。
なお、本発明は上述の実施形態に限定されるものではない。
例えば、上述のようにユーザA、ユーザB、ユーザC、及び、ユーザDの4人がマルチプレイでのゲームをプレイしている場面で、ユーザCがコントローラ等を用いて所定の操作を行った際に、ユーザCのクライアント12のデータ送信部62はクラウドサービス10に、ユーザCの画面の強調表示出力要求を送信し、クラウドサービス10のデータ受信部42がこの強調表示出力要求を受信してもよい。そして、クラウドサービス10の配信管理部46が、この強調表示出力要求に応じて、ユーザCのプレイ動画像のフレーム画像20が強調表示されるよう(例えば、ユーザCのフレーム画像20が拡大表示されるよう、ユーザCのフレーム画像20の周りに枠線等、フレーム画像20を目立たせるハイライト画像が配置されるよう、など)配信設定データ72を変更してもよい。この場合は、上述のように、ユーザB、ユーザC、及び、ユーザDのクライアント12が備える記憶装置に記憶されている配信設定データ72も変更される。そして、ユーザB、ユーザC、及び、ユーザDのクライアント12の画面出力部68は、ユーザCのプレイ動画像のフレーム画像20が強調表示されたゲーム画面22をディスプレイに表示出力する。
こうすれば、例えば、ユーザA、ユーザB、ユーザC、及び、ユーザDの4人がマルチプレイでのゲームをプレイしていて、ユーザCが他のユーザに自分のプレイに注目してもらいたくなった場面などに、ユーザCが他のユーザに自分のプレイに注目してもらうよう促すことができる。
また、例えば、属性設定対応データ70に含まれる、所定の属性に対応付けられている配信対象動画像データが、配信対象となる動画像の数、あるいは、上限となる配信対象の動画像の数を示していてもよい。具体的には、例えば、配信対象動画像データの値として「2」や、「上限2」などが設定されていてもよい。また、属性設定対応データ70に含まれる画面構成データが、配信対象動画像データに設定されている数のフレーム画像20が配置されたゲーム画面22の画面構成を示していてもよい。
そして、例えば、クラウドサービス10が受信した属性データが上述の所定の属性を示している場合に、クラウドサービス10の配信管理部46が、ゲームをプレイしているユーザのうちから、所与の規則に従って選択された、配信対象動画像データが示す配信対象の動画像の数(あるいは、上限数)のユーザID(例えば、送信元ユーザ、及び、他のユーザのうちからランダムに選択されたユーザのユーザID)を示す配信動画像対応ユーザID、及び、上述の画面構成を示す画面構成データが含まれる配信設定データ72を生成してもよい。
そして、例えば、4人によるマルチプレイでゲームがプレイされている際に、クライアント12の画面出力部68が、4人のうちから選択された2人のプレイ動画像のフレーム画像20が含まれる(すなわち、2つのフレーム画像20が含まれる)ゲーム画面22をディスプレイに表示出力するようにしてもよい。
また、クラウドサービス10の配信管理部46は、例えば、クラウドサービス10を構成するサーバの負荷、予め定められたネットワーク帯域幅、現在のコンピュータネットワーク14の帯域幅、動画像の送信の遅延時間、ジッタ値、コンピュータネットワーク14でのパケットロス率、等に応じた配信設定データ72を生成するようにしてもよい。
また、例えば、クラウドサービス10が複数のクライアント12に対して動画像を配信する場合(1つの動画像を配信する場合も複数の動画像を配信する場合も含む)に、クラウドサービス10は、クラウドサービス10を構成するサーバの負荷(CPU)やコンピュータネットワーク14の帯域の負荷と、各ストリーミングの優先度(例えば、クライアント12を利用するユーザが会員であるか非会員であるかなどに基づく優先度)に基づいて、ストリーミングの質を調整する(例えば、クラウドサービス10が、非会員であるユーザのクライアント12に対するストリーミング配信のビットレートを下げたり動画像の画質を下げたりする)ようにしてもよい。
また、例えば、クラウドサービス10は、クライアント12にハードウェアデコーダが含まれているか否か、クライアント12に動画像に対応するコーデックがインストールされているか否か、クラウドサービス10における動画像のエンコードの負荷、等の状況に応じて、配信される動画像のビットレートを変更したり、符号化方式を変更したりするようにしてもよい。
また、例えば、配信設定データ72は、配信動画像対応ユーザID、合成方式データ、画面構成データ、以外のデータを含んでいてもよいし、配信動画像対応ユーザID、合成方式データ、画面構成データの少なくとも1つを含んでいなくてもよい。配信設定データ72は、例えば、クライアント12が確保すべきバッファサイズ、許容遅延時間、フレームレート、ビットレート、配信プロトコルを示すデータ(例えば、TCPによる配信であるかUDPによる配信であるかを示すデータ)、通信経路などを示すデータを含んでいてもよい。そして、クラウドサービス10のデータ送信部44は、配信設定データ72が示すビットレートや配信プロトコルや通信経路などに従ったプレイ動画像の配信を行うようにしてもよい。また、クライアント12は、配信設定データ72が示すバッファサイズを確保するようにしてもよい。また、クライアント12の画面生成部66は、配信設定データ72が示すフレームレートで画面の生成を行うようにしてもよい。また、クライアント12の画面生成部66は、配信設定データ72が示す解像度でフレーム画像20をゲーム画面22に配置してもよい。
また、配信管理部46は、CPUの数やディスプレイサイズ以外の要素(例えば、コンピュータネットワーク14の帯域幅、クラウドサービス10の負荷、クライアント12の名称、CPUの種別、ハードディスク容量、メモリサイズ、最大通信速度、タッチパッドの有無、種別(パーソナルコンピュータ、ゲームコンソール、テレビ受像器、携帯型ゲーム装置、携帯情報端末、のいずれであるのか)等)に基づいて、配信設定データ72が示す値を決定するようにしてもよい。
また、例えば、配信管理部46は、フレーム画像20の大きさに応じた解像度の値が設定された配信設定データ72を生成するようにしてもよい。すなわち、ゲーム画面22におけるフレーム画像20の大きさと解像度との間に関連があっても構わない。
また、クライアント12は、ゲーム画面22を、ウェブブラウザを介してディスプレイに表示出力してもよいし、クライアントプログラムによって生成される画面としてディスプレイに表示出力するようにしてもよい。
また、クラウドサービス10のデータ記憶部40に、配信設定データ72が示す値を算出する数式を示すデータが記憶されていてもよい。そして、クラウドサービス10の配信管理部46が、数式に従って算出される設定値が設定された配信設定データ72を生成するようにしてもよい。
また、例えば、クラウドサービス10のデータ送信部44は、以上に挙げた規則とは異なる所与の規則に従って決定される数の動画像を一画面内に配置される動画像としてクライアント12に送信してもよい。そして、クライアント12の画面生成部66は、その決定された数の動画像のフレーム画像20が含まれるゲーム画面22を生成してもよい。また、例えば、クライアント12の画面生成部66は、以上に挙げた規則とは異なる所与の規則に従った設定で複数のフレーム画像20が配置されたゲーム画面22を生成してもよい。
また、例えば、上述の実施形態を、他のユーザにより同一のゲームがマルチプレイでプレイされている様子を観戦する場面に応用してもよい。この場合は、ゲーム画面22には、他のユーザのプレイ動画像のフレーム画像20が少なくとも1つ含まれることとなる。例えば、複数のプレイヤによりプレイされているレーシングゲームなどを観戦している場面において、上述の処理を応用して、例えば、ラップタイムが更新された、ファイナルラップに突入した、あるいは、ゴールしたというイベントが発生した際に、そのイベントを発生させたユーザのプレイ動画像のフレーム画像20が大きくなるよう、クラウドサービス10の配信管理部46が、配信設定データ72を変更するようにしてもよい。
また、例えば、他のユーザによりプレイされている様々なゲームのプレイ内容を表す複数のプレイ動画像を観戦する場面に応用してもよい。このとき、クラウドサービス10の配信管理部46が、エミュレータ34に対して接続されているクライアント12の数に基づいて算出される、現在プレイ動画像を閲覧しているユーザの数、あるいは、エミュレータ34に対するクライアント12の接続履歴に基づいて算出される、今までにプレイ動画像を閲覧したユーザの数、等に基づいて、配信設定データ72を生成する(例えば、閲覧しているユーザの数が多いプレイ動画像であるほど、フレーム画像20のサイズが大きくなるよう設定された配信設定データ72を生成する)ようにしてもよい。
また、例えば、ユーザ自身がゲームを楽しみつつ、他のユーザによりプレイされているゲームの観戦も楽しむような場面に応用してもよい。この場合は、ゲーム画面22には、自らによるプレイの内容を表すプレイ動画像のフレーム画像20と、他のユーザによるプレイの内容を表すプレイ動画像のフレーム画像20と、が含まれることとなる。このとき、配信管理部46は、自らによるプレイの内容を表すプレイ動画像のフレーム画像20のサイズが、他のユーザによるプレイの内容を表すプレイ動画像のフレーム画像20のサイズよりも大きくなるよう、あるいは、自らによるプレイの内容を表すプレイ動画像のフレーム画像20の画質が、他のユーザによるプレイの内容を表すプレイ動画像のフレーム画像20の画質よりも高くなるよう、配信設定データ72を設定してもよい。また、配信管理部46は、自らがプレイしているゲームと同種のゲーム、若しくは、同一のゲームのプレイ動画像のフレーム画像20のサイズが、その他のフレーム画像20のサイズよりも大きくなるよう、又は、自らがプレイしているゲームと同種のゲーム、若しくは、同一のゲームのプレイ動画像のフレーム画像20の画質が、その他のフレーム画像20の画質よりも高くなるよう、配信設定データ72を設定してもよい。このように、画面生成部66が、各フレーム画像20が、そのフレーム画像20にプレイ内容が表されているゲームと、ゲーム画面22が提示されるユーザによりプレイされているゲームと、の関係に応じた設定で配置されたゲーム画面22を生成するようにしてもよい。画面生成部66は、例えば、フレーム画像20にプレイ内容が表されているゲームと、ゲーム画面22が提示されるユーザによりプレイされているゲームとの関係が強いフレーム画像20であるほど画質が高くなるよう各フレーム画像20が配置されたゲーム画面22を生成するようにしてもよい。
また、上述の実施形態を、プレイ動画像の配信だけではなく、既に実行されたゲームのプレイ内容を表す動画像であるリプレイ動画像の配信の場面にも応用しても構わない。例えば、クラウドサービス10のデータ記憶部40には、既に実行されたゲームのプレイ内容を表す動画像であるリプレイ動画像が記憶されていてもよい。そして、クラウドサービス10のデータ送信部44は、リプレイ動画像のフレーム画像20をクライアント12に送信するようにしてもよい。すなわち、ゲーム画面22には、リプレイ動画像のフレーム画像20が含まれていても構わない。なお、リプレイ動画像は、SVC(Scalable Video Coding)によりエンコードされた動画像であっても構わない。そして、クラウドサービス10のデータ送信部44は、配信設定データ72が示す配信方式に従った画質や解像度でクライアント12にリプレイ動画像を配信するようにしてもよい。
また、例えば、配信管理部46が、ゲーム画面22に含まれる各フレーム画像20の優先度や優先順位を示す配信設定データ72を生成してもよい。そして、クライアント12の画面生成部66が、配信設定データ72が示す優先度や優先順位に基づいて各フレーム画像20をゲーム画面22に配置するようにしてもよい。配信管理部46は、例えば、ユーザ自身がプレイしているゲームの状況を表すプレイ動画像のフレーム画像20が、ユーザが観戦しているゲームの状況を表すプレイ動画像のフレーム画像20よりも高い優先度が設定された配信設定データ72を生成するようにしてもよい。そして、クライアント12の画面生成部66は、この配信設定データ72に基づいて、ゲーム画面22内における、ユーザ自身がプレイしているゲームの状況を表すプレイ動画像のフレーム画像20が、ユーザが観戦しているゲームの状況を表すプレイ動画像のフレーム画像20よりも大きくなるようゲーム画面22を生成するようにしてもよい。
また、例えば、図8に示すように、関係するユーザとして登録されているユーザ(以下、フレンドと呼ぶ。)の一覧表示画面であるフレンド表示画面74の表示において、上述の実施形態を応用してもよい。図8に示すフレンド表示画面74では、クラウドサービス10でのゲームを実行しているフレンドについて、フレンドのアバタ画像、フレンドであるユーザのユーザID、そのユーザがプレイしているゲームのゲームタイトル、そのユーザがプレイしているゲームのステージの名称、そのユーザによるゲームの総プレイ時間、そのユーザによる現在のゲームのプレイ動画像のフレーム画像20が含まれている。このフレンド表示画面74は、スクロール可能となっている。フレンド表示画面74がユーザによりスクロールされた際に、クライアント12のデータ送信部62が、フレンド表示画面74に表示されているプレイ動画像だけがクライアント12に表示されるよう、配信設定データ72の変更要求をクラウドサービス10に送信するようにしてもよい。そして、クラウドサービス10が、この変更要求に応じて、フレンド表示画面74に表示されるべきフレーム画像20がクライアント12に送信されるよう配信設定データ72を変更するようにしてもよい。また、ユーザがクライアント12でプレイ動画像のフレーム画像20をクリックことにより、そのプレイ動画像の閲覧を行えたり、プレイ動画像によりプレイされているゲームに参加したりすることができてもよい。
また、例えば、クラウドサービス10が、プレイ動画像のフレーム画像20の代わりに、クライアント12から受け付けるキー情報をその受け付けたタイミングを示すデータと関連付けてクライアント12に送信するようにしてもよい。そして、クライアント12の画面生成部66が、キー情報に基づいてゲーム画面22を生成するようにしてもよい。
また、例えば、データ記憶部40には、予め、判定画像の代わりに、ゲームにおけるイベントの発生時点における、エミュレータ34が管理しているエミュレートされたメモリイメージの内容やレジスタの値が記憶されていてもよい。そして、ゲーム状況監視部52が、エミュレータ34が管理しているエミュレートされたメモリイメージの内容やレジスタの値を監視して、その監視結果とデータ記憶部40に記憶されている上述のデータとの比較結果に基づいて、ゲームにおけるイベントの発生を検出するようにしてもよい。
また、例えば、ゲーム状況データは、例えば、ゲームにおけるパラメータやステータスを示すデータでもよい。また、例えば、クラウドサービス10で実現されている機能が単一のサーバにより実現されていてもよい。また、ゲームプログラムはエミュレータ34上で実行される必要はなく、例えば、クラウドサービス10やクライアント12のシステムソフトウェア(オペレーティングシステム等)上で実行されてもよい。また、クラウドサービス10とクライアント12の役割分担は上述の例には限定されない。
また、上記の具体的な数値や文字列や図面中の具体的な数値や文字列は例示であり、これらの数値や文字列には限定されない。
10 クラウドサービス、12 クライアント、14 コンピュータネットワーク、20 フレーム画像、22 ゲーム画面、30 管理プロセス、32 サービス提供プロセス、34 エミュレータ、40 データ記憶部、42 データ受信部、44 データ送信部、46 配信管理部、48 ゲーム実行部、50 合成画像生成部、52 ゲーム状況監視部、54 ネットワーク状況監視部、60 データ受信部、62 データ送信部、64 配信設定管理部、66 画面生成部、68 画面出力部、70 属性設定対応データ、72 配信設定データ、74 フレンド表示画面。

Claims (10)

  1. 動画像送信装置と、動画像受信装置と、を含み、
    前記動画像受信装置が、
    前記動画像受信装置の属性を示す属性データを前記動画像送信装置に送信する属性データ送信手段、を含み、
    前記動画像送信装置が、
    前記属性データを受信する属性データ受信手段と、
    記憶手段に記憶されている、前記動画像受信装置の属性と、複数の動画像を送信するか、フレーム画像が複数の動画像それぞれのフレーム画像の合成画像である動画像を送信するかを示す合成要否データと、が対応付けられた属性設定対応データを参照して、前記属性データ受信手段が受信する属性データが示す属性に対応付けられている前記合成要否データを特定する合成要否データ特定手段と、
    動画像を前記動画像受信装置に送信する動画像送信手段と、を含み、
    前記動画像受信装置が、
    一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する画面生成手段、をさらに含み、
    前記動画像送信手段は、
    前記合成要否データ特定手段により、複数の動画像を送信することを示す前記合成要否データが特定される場合は、送信対象となる複数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信し、
    前記合成要否データ特定手段により、フレーム画像が当該複数の動画像それぞれのフレーム画像の合成画像である動画像を送信することを示す前記合成要否データが特定される場合は、フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として前記動画像受信装置に送信する処理を実行し、
    前記画面生成手段は、
    送信対象となる複数の動画像を一画面内に配置される動画像として受信する場合は、当該複数の動画像それぞれのフレーム画像を合成して画面を生成し、
    フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として受信する場合は、当該動画像のフレーム画像が含まれる画面を生成する、
    ことを特徴とする画像処理システム。
  2. 前記動画像送信手段は、フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像が一画面内に配置される動画像として前記動画像受信装置に送信されている際に、前記動画像送信装置と前記動画像受信装置との間の帯域幅が所定の上限帯域幅以上となった場合は、送信対象となる複数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信するようにする、
    ことを特徴とする請求項1に記載の画像処理システム。
  3. 前記動画像送信手段は、フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として前記動画像受信装置に送信している際に、前記動画像送信装置と前記動画像受信装置との間の帯域幅が所定の下限帯域幅未満となった場合は、フレーム画像が当該複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として前記動画像受信装置に送信するようにする、
    ことを特徴とする請求項1に記載の画像処理システム。
  4. 動画像受信装置が、当該動画像受信装置の属性を示す属性データを動画像送信装置に送信する属性データ送信ステップと、
    前記動画像送信装置が、前記属性データを受信する属性データ受信ステップと、
    前記動画像送信装置が、記憶手段に記憶されている、前記動画像受信装置の属性と、複数の動画像を送信するか、フレーム画像が複数の動画像それぞれのフレーム画像の合成画像である動画像を送信するかを示す合成要否データと、が対応付けられた属性設定対応データを参照して、前記属性データ受信ステップで受信する属性データが示す属性に対応付けられている前記合成要否データを特定する合成要否データ特定ステップと、
    前記動画像送信装置が、動画像を前記動画像受信装置に送信する動画像送信ステップと、
    前記動画像受信装置が、一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する画面生成ステップと、を含み、
    前記動画像送信ステップでは、
    前記合成要否データ特定ステップで、複数の動画像を送信することを示す前記合成要否データが特定される場合は、送信対象となる複数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信し、
    前記合成要否データ特定ステップで、フレーム画像が当該複数の動画像それぞれのフレーム画像の合成画像である動画像を送信することを示す前記合成要否データが特定される場合は、フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として前記動画像受信装置に送信する処理を実行し、
    前記画面生成ステップでは、
    送信対象となる複数の動画像を一画面内に配置される動画像として受信する場合は、当該複数の動画像それぞれのフレーム画像を合成して画面を生成し、
    フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として受信する場合は、当該動画像のフレーム画像が含まれる画面を生成する、
    ことを特徴とする画像処理方法。
  5. 動画像受信装置の属性を示す属性データを受信する属性データ受信手段と、
    記憶手段に記憶されている、前記動画像受信装置の属性と、複数の動画像を送信するか、フレーム画像が複数の動画像それぞれのフレーム画像の合成画像である動画像を送信するかを示す合成要否データと、が対応付けられた属性設定対応データを参照して、前記属性データ受信手段が受信する属性データが示す属性に対応付けられている前記合成要否データを特定する合成要否データ特定手段と、
    動画像を前記動画像受信装置に送信する動画像送信手段と、を含み、
    前記動画像送信手段は、
    前記合成要否データ特定手段により、複数の動画像を送信することを示す前記合成要否データが特定される場合は、送信対象となる複数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信し、
    前記合成要否データ特定手段により、フレーム画像が当該複数の動画像それぞれのフレーム画像の合成画像である動画像を送信することを示す前記合成要否データが特定される場合は、フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として前記動画像受信装置に送信する処理を実行する、
    ことを特徴とする動画像送信装置。
  6. 動画像送信装置から動画像を受信する動画像受信装置であって、
    前記動画像受信装置の属性を示す属性データを前記動画像送信装置に送信する属性データ送信手段と、
    一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する画面生成手段と、を含み、
    前記画面生成手段は、
    送信対象となる複数の動画像を一画面内に配置される動画像として受信する場合は、当該複数の動画像それぞれのフレーム画像を合成して画面を生成し、
    フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として受信する場合は、当該動画像のフレーム画像が含まれる画面を生成する、
    ことを特徴とする動画像受信装置。
  7. 動画像受信装置の属性を示す属性データを受信する属性データ受信手順、
    記憶手段に記憶されている、前記動画像受信装置の属性と、複数の動画像を送信するか、フレーム画像が複数の動画像それぞれのフレーム画像の合成画像である動画像を送信するかを示す合成要否データと、が対応付けられた属性設定対応データを参照して、前記属性データ受信手順で受信する属性データが示す属性に対応付けられている前記合成要否データを特定する合成要否データ特定手順、
    動画像を前記動画像受信装置に送信する動画像送信手順、
    をコンピュータに実行させるプログラムであって、
    前記動画像送信手順では、
    前記合成要否データ特定手順により、複数の動画像を送信することを示す前記合成要否データが特定される場合は、送信対象となる複数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信し、
    前記合成要否データ特定手順により、フレーム画像が当該複数の動画像それぞれのフレーム画像の合成画像である動画像を送信することを示す前記合成要否データが特定される場合は、フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として前記動画像受信装置に送信する処理を実行する、
    ことを特徴とするプログラム。
  8. 動画像受信装置の属性を示す属性データを受信する属性データ受信手順、
    記憶手段に記憶されている、前記動画像受信装置の属性と、複数の動画像を送信するか、フレーム画像が複数の動画像それぞれのフレーム画像の合成画像である動画像を送信するかを示す合成要否データと、が対応付けられた属性設定対応データを参照して、前記属性データ受信手順で受信する属性データが示す属性に対応付けられている前記合成要否データを特定する合成要否データ特定手順、
    動画像を前記動画像受信装置に送信する動画像送信手順、
    をコンピュータに実行させるプログラムを記憶するコンピュータ読み取り可能な情報記憶媒体であって、
    前記動画像送信手順では、
    前記合成要否データ特定手順により、複数の動画像を送信することを示す前記合成要否データが特定される場合は、送信対象となる複数の動画像を一画面内に配置される動画像として前記動画像受信装置に送信し、
    前記合成要否データ特定手順により、フレーム画像が当該複数の動画像それぞれのフレーム画像の合成画像である動画像を送信することを示す前記合成要否データが特定される場合は、フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として前記動画像受信装置に送信する処理を実行する、
    ことを特徴とするプログラムを記憶したコンピュータ読み取り可能な情報記憶媒体。
  9. 動画像送信装置から動画像を受信する動画像受信装置であるコンピュータに実行させるプログラムであって、
    前記動画像受信装置の属性を示す属性データを前記動画像送信装置に送信する属性データ送信手順、
    一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する画面生成手順、を前記コンピュータに実行させ、
    前記画面生成手順では、
    送信対象となる複数の動画像を一画面内に配置される動画像として受信する場合は、当該複数の動画像それぞれのフレーム画像を合成して画面を生成し、
    フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として受信する場合は、当該動画像のフレーム画像が含まれる画面を生成する、
    ことを特徴とするプログラム。
  10. 動画像送信装置から動画像を受信する動画像受信装置であるコンピュータに実行させるプログラムを記憶したコンピュータを記憶したコンピュータ読み取り可能な情報記憶媒体であって、
    前記動画像受信装置の属性を示す属性データを前記動画像送信装置に送信する属性データ送信手順、
    一画面内に配置される動画像として受信する動画像のフレーム画像が含まれる画面を生成する画面生成手順、を前記コンピュータに実行させ、
    前記画面生成手順では、
    送信対象となる複数の動画像を一画面内に配置される動画像として受信する場合は、当該複数の動画像それぞれのフレーム画像を合成して画面を生成し、
    フレーム画像が送信対象となる複数の動画像それぞれのフレーム画像の合成画像である動画像を一画面内に配置される動画像として受信する場合は、当該動画像のフレーム画像が含まれる画面を生成する、
    ことを特徴とするプログラムを記憶したコンピュータ読み取り可能な情報記憶媒体。
JP2010235923A 2010-10-20 2010-10-20 画像処理システム、画像処理方法、動画像送信装置、動画像受信装置、プログラム及び情報記憶媒体 Active JP5520190B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2010235923A JP5520190B2 (ja) 2010-10-20 2010-10-20 画像処理システム、画像処理方法、動画像送信装置、動画像受信装置、プログラム及び情報記憶媒体
EP23174341.0A EP4221196B1 (en) 2010-10-20 2011-08-11 Image processing system, image processing method, dynamic image transmission device, dynamic image reception device, information storage medium, and program
EP11834115.5A EP2632159B1 (en) 2010-10-20 2011-08-11 Image processing system, image processing method, dynamic image transmission device, dynamic image reception device, information storage medium, and program
US13/877,194 US20130182186A1 (en) 2010-10-20 2011-08-11 Image processing system, image processing method, dynamic image transmission device, dynamic image reception device, information storage medium, and program
PCT/JP2011/068371 WO2012053273A1 (ja) 2010-10-20 2011-08-11 画像処理システム、画像処理方法、動画像送信装置、動画像受信装置、情報記憶媒体及びプログラム
EP19191799.6A EP3606051B1 (en) 2010-10-20 2011-08-11 Image processing system, image processing method, dynamic image transmission device, dynamic image reception device, information storage medium, and program
EP25150995.6A EP4607912A1 (en) 2010-10-20 2011-08-11 Image processing system, image processing method, dynamic image transmission device, dynamic image reception device, information storage medium, and program
CN201180050385.7A CN103181177B (zh) 2010-10-20 2011-08-11 图像处理系统、图像处理方法、运动图像发送装置、运动图像接收装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010235923A JP5520190B2 (ja) 2010-10-20 2010-10-20 画像処理システム、画像処理方法、動画像送信装置、動画像受信装置、プログラム及び情報記憶媒体

Publications (2)

Publication Number Publication Date
JP2012090120A JP2012090120A (ja) 2012-05-10
JP5520190B2 true JP5520190B2 (ja) 2014-06-11

Family

ID=45974998

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010235923A Active JP5520190B2 (ja) 2010-10-20 2010-10-20 画像処理システム、画像処理方法、動画像送信装置、動画像受信装置、プログラム及び情報記憶媒体

Country Status (5)

Country Link
US (1) US20130182186A1 (ja)
EP (4) EP4221196B1 (ja)
JP (1) JP5520190B2 (ja)
CN (1) CN103181177B (ja)
WO (1) WO2012053273A1 (ja)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8903911B2 (en) 2011-12-05 2014-12-02 International Business Machines Corporation Using text summaries of images to conduct bandwidth sensitive status updates
US20130290511A1 (en) * 2012-04-27 2013-10-31 Susan Chuzhi Tu Managing a sustainable cloud computing service
JP2013239766A (ja) * 2012-05-11 2013-11-28 Konami Digital Entertainment Co Ltd アプリケーション管理装置、アプリケーション管理装置の制御方法、アプリケーション管理装置の制御プログラム
WO2014057555A1 (ja) * 2012-10-10 2014-04-17 富士通株式会社 情報処理装置、情報処理システム、情報処理プログラム、及び動画データ送受信方法
CA3014348C (en) * 2012-11-16 2022-06-21 Sony Computer Entertainment America Llc Systems and methods for cloud processing and overlaying of content on streaming video frames of remotely processed applications
KR102096300B1 (ko) * 2013-06-12 2020-04-02 주식회사 소니 인터랙티브 엔터테인먼트 출력 데이터 제공 서버 및 출력 데이터 제공 방법
CA2915582A1 (en) * 2013-06-17 2014-12-24 Square Enix Holdings Co., Ltd. Image processing apparatus, image processing system, image processing method and storage medium
JP6126221B2 (ja) * 2013-07-05 2017-05-10 株式会社スクウェア・エニックス 画面提供装置、画面提供システム、制御方法、プログラム、及び記録媒体
JP2015053613A (ja) * 2013-09-06 2015-03-19 株式会社リコー 映像配信装置、及び映像配信システム
US20150106526A1 (en) * 2013-10-11 2015-04-16 Hewlett-Packard Development Company, L.P Provisioning a network for network traffic
JP5878938B2 (ja) * 2014-01-29 2016-03-08 株式会社ソニー・コンピュータエンタテインメント 配信システム、配信方法、配信プログラム
JP6561241B2 (ja) 2014-09-02 2019-08-21 株式会社コナミデジタルエンタテインメント サーバ装置、動画配信システム、それに用いられる制御方法及びコンピュータプログラム
US10283091B2 (en) * 2014-10-13 2019-05-07 Microsoft Technology Licensing, Llc Buffer optimization
US20160259453A1 (en) * 2015-03-06 2016-09-08 Sony Computer Entertainment America Llc Dynamic adjustment of cloud game data streams to output device and network quality
JP2017028660A (ja) * 2015-07-28 2017-02-02 株式会社リコー 情報処理装置、画像表示方法、通信システム、プログラム
WO2017068926A1 (ja) 2015-10-21 2017-04-27 ソニー株式会社 情報処理装置及びその制御方法、並びにコンピュータ・プログラム
WO2017068928A1 (ja) * 2015-10-21 2017-04-27 ソニー株式会社 情報処理装置及びその制御方法、並びにコンピュータ・プログラム
US10213693B2 (en) * 2015-12-04 2019-02-26 Sony Interactive Entertainment LLC Method and apparatus for awarding trophies
KR101875913B1 (ko) * 2016-05-20 2018-07-06 주식회사 엑소게임즈 사용자 단말에서 수행되는 다중 접속 네트워크 게임 제공 방법 및 사용자 단말
CN108211353B (zh) * 2016-12-22 2021-04-02 盛趣信息技术(上海)有限公司 在线游戏内观战控制方法
CN109045709A (zh) * 2018-07-24 2018-12-21 合肥爱玩动漫有限公司 一种用于格斗游戏的实时观战方法
JP6985229B2 (ja) * 2018-09-13 2021-12-22 Kddi株式会社 通信ネットワーク、ユーザ装置及びプログラム
WO2021130355A1 (en) * 2019-12-24 2021-07-01 Koninklijke Kpn N.V. Video processing device and manifest file for video streaming
JP7082431B2 (ja) 2020-05-29 2022-06-08 株式会社コナミデジタルエンタテインメント 配信システム、配信システムの制御方法及びコンピュータプログラム
WO2022044841A1 (ja) * 2020-08-28 2022-03-03 ソニーグループ株式会社 無線通信端末、情報処理装置、および情報処理方法
US20220129295A1 (en) * 2020-10-25 2022-04-28 Meta Platforms, Inc. Server-side hosted environment for a cloud gaming system
WO2022230727A1 (ja) * 2021-04-30 2022-11-03 株式会社ソニー・インタラクティブエンタテインメント 動画像受信装置、制御方法及びプログラム
CN113467807A (zh) * 2021-07-06 2021-10-01 腾讯科技(深圳)有限公司 游戏更新方法及系统、服务器、电子设备、存储介质
JP2026008224A (ja) * 2024-07-05 2026-01-19 任天堂株式会社 ゲーム装置、方法、プログラム、および情報処理システム

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4174918B2 (ja) * 1999-07-01 2008-11-05 ソニー株式会社 データ配信方法及び装置、並びに、データ受信方法及び装置
JP2002281406A (ja) * 2001-03-21 2002-09-27 Sony Corp デジタル放送におけるマルチビューチャンネル選択方法及びデータコンテンツサービスシステム及びデジタル放送送出装置並びにデータ表示変更方法及びデータ表示変更システム
US6999083B2 (en) * 2001-08-22 2006-02-14 Microsoft Corporation System and method to provide a spectator experience for networked gaming
US20050138560A1 (en) * 2003-12-18 2005-06-23 Kuo-Chun Lee Method and apparatus for broadcasting live personal performances over the internet
US7258614B1 (en) * 2003-12-22 2007-08-21 Sprint Spectrum L.P. Interactive photo gaming with user ratification
CN100412852C (zh) * 2004-05-10 2008-08-20 北京大学 网络上的多种媒体的同步合成存储发布系统及操作该系统的方法
US7465231B2 (en) * 2004-05-20 2008-12-16 Gametap Llc Systems and methods for delivering content over a network
JP4364073B2 (ja) * 2004-06-28 2009-11-11 ソニー株式会社 電子番組ガイド伝送装置および方法
TW200704183A (en) * 2005-01-27 2007-01-16 Matrix Tv Dynamic mosaic extended electronic programming guide for television program selection and display
EP1739916A1 (en) * 2005-06-30 2007-01-03 Siemens Aktiengesellschaft Network arrangement and method for handling sessions in a telecommunications network
CA2627294C (en) * 2005-10-28 2012-01-24 The Directv Group, Inc. Infrastructure for interactive television applications
JP2007158410A (ja) 2005-11-30 2007-06-21 Sony Computer Entertainment Inc 画像符号化装置、画像復号装置、および画像処理システム
JP3949702B1 (ja) * 2006-03-27 2007-07-25 株式会社コナミデジタルエンタテインメント ゲーム装置、ゲーム処理方法、ならびに、プログラム
WO2008063579A2 (en) * 2006-11-17 2008-05-29 Nintendo Co., Ltd. Systems and methods for downloading video game programs
EP1938876A1 (en) * 2006-12-12 2008-07-02 The DirecTV Group, Inc. Interactive gaming channel video stream with nested features
WO2009079472A1 (en) * 2007-12-14 2009-06-25 The Directv Group, Inc. Live in-game spectator for use in television production
US20090284659A1 (en) * 2008-05-13 2009-11-19 Tatung Company Of America, Inc. Monitor with multiple video inputs and one video output
CA2727569C (en) * 2008-06-09 2017-09-26 Vidyo, Inc. Improved view layout management in scalable video and audio communication systems
US8066571B2 (en) * 2008-06-09 2011-11-29 Metaplace, Inc. System and method for enabling characters to be manifested within a plurality of different virtual spaces
US20100079670A1 (en) * 2008-09-30 2010-04-01 Verizon Data Services, Llc Multi-view content casting systems and methods
JP5780582B2 (ja) * 2009-01-08 2015-09-16 日本電気株式会社 配信システムと方法並びに変換装置
US20100188579A1 (en) * 2009-01-29 2010-07-29 At&T Intellectual Property I, L.P. System and Method to Control and Present a Picture-In-Picture (PIP) Window Based on Movement Data

Also Published As

Publication number Publication date
CN103181177B (zh) 2017-05-10
EP2632159A4 (en) 2014-05-07
WO2012053273A1 (ja) 2012-04-26
EP2632159A1 (en) 2013-08-28
EP4221196B1 (en) 2025-02-19
EP2632159B1 (en) 2019-09-25
EP4607912A1 (en) 2025-08-27
CN103181177A (zh) 2013-06-26
EP3606051A1 (en) 2020-02-05
JP2012090120A (ja) 2012-05-10
EP3606051B1 (en) 2023-06-28
US20130182186A1 (en) 2013-07-18
EP4221196A1 (en) 2023-08-02

Similar Documents

Publication Publication Date Title
JP5520190B2 (ja) 画像処理システム、画像処理方法、動画像送信装置、動画像受信装置、プログラム及び情報記憶媒体
US12296257B2 (en) Compositing multiple video streams into a single media stream
JP5542020B2 (ja) 情報処理システム、情報処理方法、プログラム及び情報記憶媒体
JP6310073B2 (ja) 描画システム、制御方法、及び記憶媒体
JP7523435B2 (ja) ピアツーピアストリーミングを使用したクラウドソーシングによるクラウドゲーム
WO2012053274A1 (ja) 画像処理システム、画像処理方法、情報記憶媒体及びプログラム
JP2023502667A (ja) クラウドゲーム用のアダプティブグラフィックス
US11130055B2 (en) System and method for granting remote access to a video game executed on a video game console or network client
KR101139498B1 (ko) 온라인 게임에서의 타 유저 게임 플레이 화면 시청 시스템 및 그 방법
TWI876283B (zh) 異動記憶體同步的方法及線上遊戲系統
JP7750660B2 (ja) ゲームシステム、サーバ装置及びプログラム
TW201231133A (en) System and method for capturing text for an online application
JP5815073B2 (ja) クライアント装置、情報処理方法、プログラム及び情報記憶媒体
CN115151319A (zh) 呈现预先录制的游戏进行视频用于游戏内玩家辅助
WO2017116868A1 (en) Web explorer for gaming platform interface
CN104998412A (zh) 一种单机游戏实现方法及装置
JP2012125451A (ja) ゲームシステム、ゲームシステムの制御方法、プログラム及び情報記憶媒体
JP7191900B2 (ja) ゲームストリーミングのための方法および装置
CN114221987A (zh) 云游戏处理方法和系统
KR101915065B1 (ko) Vr 콘텐츠에 대한 라이브 스트리밍 시스템 및 그 시스템의 동작 방법
JP2013110707A (ja) 情報処理装置、情報処理端末、情報処理システム、情報処理方法、プログラム及び情報記憶媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140318

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140404

R150 Certificate of patent or registration of utility model

Ref document number: 5520190

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250