JP7073494B2 - ゲームレンダリングにおけるメモリ管理 - Google Patents

ゲームレンダリングにおけるメモリ管理 Download PDF

Info

Publication number
JP7073494B2
JP7073494B2 JP2020529148A JP2020529148A JP7073494B2 JP 7073494 B2 JP7073494 B2 JP 7073494B2 JP 2020529148 A JP2020529148 A JP 2020529148A JP 2020529148 A JP2020529148 A JP 2020529148A JP 7073494 B2 JP7073494 B2 JP 7073494B2
Authority
JP
Japan
Prior art keywords
game
sequence
shader
shaders
compiled
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020529148A
Other languages
English (en)
Other versions
JP2021517997A (ja
Inventor
ラロンド,ポール
レベンティス,ポール
ロイ,ジャン-フランソワ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Publication of JP2021517997A publication Critical patent/JP2021517997A/ja
Priority to JP2022078311A priority Critical patent/JP2022122875A/ja
Application granted granted Critical
Publication of JP7073494B2 publication Critical patent/JP7073494B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/60Memory management
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • A63F13/352Details of game servers involving special game server arrangements, e.g. regional servers connected to a national server or a plurality of servers managing partitions of the game world
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • A63F13/355Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an MPEG-stream for transmitting to a mobile phone or a thin client
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/45Controlling the progress of the video game
    • A63F13/48Starting a game, e.g. activating a game device or waiting for other players to join a multiplayer session
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50Controlling the output signals based on the game progress
    • A63F13/52Controlling the output signals based on the game progress involving aspects of the displayed game scene
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0806Multiuser, multiprocessor or multiprocessing cache systems
    • G06F12/0811Multiuser, multiprocessor or multiprocessing cache systems with multilevel cache hierarchies
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0888Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches using selective caching, e.g. bypass
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/12Replacement control
    • G06F12/121Replacement control using replacement algorithms
    • G06F12/123Replacement control using replacement algorithms with age lists, e.g. queue, most recently used [MRU] list or least recently used [LRU] list
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061Partitioning or combining of resources
    • G06F9/5066Algorithms for mapping a plurality of inter-dependent sub-tasks onto a plurality of physical CPUs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/131Protocols for games, networked simulations or virtual reality
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/20Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterised by details of the game platform
    • A63F2300/203Image generating hardware
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/53Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing
    • A63F2300/538Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of basic data processing for performing operations on behalf of the game client, e.g. rendering
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/50Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
    • A63F2300/55Details of game data or player data management
    • A63F2300/5593Details of game data or player data management involving scheduling aspects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/0223User address space allocation, e.g. contiguous or non contiguous base addressing
    • G06F12/023Free address space management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10Providing a specific technical effect
    • G06F2212/1016Performance improvement
    • G06F2212/1024Latency reduction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10Providing a specific technical effect
    • G06F2212/1028Power efficiency
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10Providing a specific technical effect
    • G06F2212/1048Scalability
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/15Use in a specific computing environment
    • G06F2212/154Networked environment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/20Employing a main memory using a specific memory technology
    • G06F2212/205Hybrid memory, e.g. using both volatile and non-volatile memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/45Caching of specific data in cache memory
    • G06F2212/455Image or video data
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Image Generation (AREA)
  • Information Transfer Between Computers (AREA)
  • Pinball Game Machines (AREA)
  • Memory System (AREA)
  • Memory System Of A Hierarchy Structure (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本出願は一般に、1つ以上のリアルタイムユーザインタラクティブアプリケーションに対応する複数のオンラインインタラクティブセッションをサポートするようにサーバシステムを管理するための方法およびシステムを含むがこれらに限定されない、コンピュータ技術に関する。
背景
インターネット接続された電子デバイスは、さまざまなクラウドベースのメディアおよびエンターテインメントアプリケーションをサポート可能である。これらのアプリケーションは、サーバがコンテンツをユーザデバイスにストリームするメディアストリーミングアプリケーション、ユーザがサーバで実行されるゲームとユーザデバイスからインタラクトするゲームアプリケーション、ならびに、多数のユーザに互いに同時に、およびにインターネット接続されたデバイスを介してクラウドホスト型コンテンツおよびアプリケーションとインタラクトさせることが可能な、さまざまなソーシャルメディアおよび通信アプリケーションを含む。クラウドベースのアプリケーションのうち、クラウドゲーミングは、ゲームタイトルのハードウェアデマンドが大きく異なること、(たとえば、一人のプレーヤによって、1つの場所で複数のプレーヤによって、または複数の場所で複数のプレーヤによって)クラウドベースのベームをプレー可能なトポロジが多岐にわたること、ゲームセッションを実行するゲームサーバへのユーザ入力、およびゲームサーバからプレーヤのデバイス/ディスプレーへのゲームセッション出力を、レイテンシなく確実に送信する必要があること、ゲームプレーの速度および応答性についてプレーヤの期待が大きく異なること、ならびに、状況によってはリアルタイムゲームコンテンツを観客に提供したいという要望があることによって、特有の難題を提起することがある。クラウドベースのゲームの他の難題は、プレーヤの位置(たとえば、サーバに対して近いか遠いか)、プレーヤのゲームサービスに対する接続態様(たとえば、早いインターネット接続を介するか遅いインターネット接続を介するか)、および、プレーヤがゲームをプレーし(たとえば、一般的なパーソナルデバイスまたは専用ゲームコントローラ)ゲームプレー出力を視聴するのに用いるデバイス(たとえば、メディアストリーミングデバイスに接続されたパーソナルデバイスまたはメディアデバイス)の種類にかかわらず、プレーヤにとって矛盾のないゲームプレー体験を提供することに関する。
具体的には、許容可能なレイテンシおよび応答性でゲームを同時に実行可能な、複数のゲームタイトルについて、たとえば、同じまたは異なる場所から同じゲームタイトルをプレーしている複数のプレーヤについて、多種多様の入力デバイスおよび出力デバイスならびにネットワーク接続によって、複数のゲームセッションをサポートするクラウドゲームシステムが必要とされている。さらに、ゲームセッションにおいてプレーヤの入力(たとえば、エンドユースゲームデバイス/コントローラ上で入力されるゲーム入力)を受信すると、ユーザ入力を即座に処理し、同時に許容可能なレイテンシで全てのゲームプレーヤのためにプレーヤ入力アクションの結果を反映した高解像度画像を出力するクラウドゲームシステムが必要とされている。また、状況によっては、観客がそれぞれの表示デバイスでリアルタイムにゲームプレーを追えるように、ゲームプレーアクティビティの高解像度ビデオストリームを提供するゲームシステムが必要とされている。したがって、同じ場所に集まっているユーザによる自発的なゲームプレーから異なる場所からの複数のユーザによるオンラインインタラクティブゲームプレーまでの広範囲のゲーム設定でゲーム体験を拡張するために、効率のよいゲーム処理および出力メカニズムを有するクラウドゲームシステムを提供することが有益である。
概要
本明細書で説明される実現例は、許容可能なレイテンシおよび応答性で複数のオンラインゲームセッションの同時実行を容易にするように、サーバシステムの計算およびストレージリソースを構成することに向けられている。たとえば、不揮発性メモリに格納されたスタティックメモリプールは、常にリフレッシュを必要とするメインダイナミックメモリに一般的に格納されるスタティックデータ項目を記憶するように提供され得る。このスタティックメモリプールは、サーバシステムの複数のプロセッサによって共有され、メインダイナミックメモリが必要とするのと同じだけの電力を要求することなく、合理的に早い速度でアクセス可能である。スタティックデータ項目を格納するようにメインダイナミックメモリの一部はスタティックメモリプールによって置換えられるため、メインダイナミックメモリのサイズを減らすことが可能である。さらに、シェーダキャッシュは、確実に複数のゲームセッションが望ましい電力とレイテンシ性能でレンダリングされるように、コンパイルされたシェーダの2つ以上のシーケンスを格納する。複数のオンラインゲームセッションはシェーダキャッシュに既に存在するコンパイルされたシェーダのシーケンスのうち1つを用いて処理される一方で、シェーダキャッシュに格納されたコンパイルされたシェーダの異なるシーケンスは、リアルタイム使用統計に基づいて、異なる性能基準を満たすようにダイナミックに生成される。コンパイルされたシェーダのこれらの異なるシーケンスは、複数のオンラインゲームセッションをレンダリングする次のゲームコンテンツのために使用可能である。
本出願のある態様は、サーバシステムの記憶能力を管理する方法であって、サーバシステムは、1つ以上の中央処理装置(CPU)と、複数のグラフィックス処理ユニット(GPU)と、プログラムの実行中に1つ以上のCPUおよび/または複数のGPUによる使用のためのプログラムおよびデータを格納するメインダイナミックメモリと、不揮発性メモリに格納されたスタティックメモリプールと、スタティックメモリプールを管理するように構成されたメモリコントローラとを含む。複数のGPUの各々は、ローカルキャッシュを含み、メモリコントローラを介してスタティックメモリプールにアクセスするように構成される。方法は、1つ以上のCPU上でゲームタイトルについて複数のゲームセッションを並行して実行することを含む。複数のゲームセッションの各々は、スタティックデータ項目と関連付けられ、スタティックデータ項目を用いてそれぞれのGPUによって実行可能なグラフィックス処理を必要とする。スタティックデータ項目はスタティックメモリプールに格納される。方法はさらに、1つ以上のCPU上で実行される複数のゲームセッションのうち第1のゲームセッションについて、グラフィックス処理を第1のGPUに割当てることと、第1のGPUが、スタティックデータ項目の第1のコピーをメモリコントローラにリクエストすることと、スタティックメモリプールから読出されたスタティックデータ項目の第1のコピーをメモリコントローラから受信することと、第1のGPUが、スタティックデータ項目の第1のコピーを用いてグラフィックス処理を実行することと、複数のゲームセッションのうち第1のゲームセッションと関連して、グラフィックス処理の第1の結果をローカルに(たとえば、ローカルキャッシュに、特に第1のGPUのローカルキャッシュに)格納することとを含む。方法はさらに、1つ以上のCPU上で実行される複数のゲームセッションのうち第2のゲームセッションについて、グラフィックス処理を第2のGPUに割当てることと、第1のGPUが、スタティックデータ項目の第2のコピーをメモリコントローラにリクエストすることと、スタティックメモリプールから読出されたスタティックデータ項目の第2のコピーをメモリコントロールから受信することと、第2のGPUが、スタティックデータ項目の第2のコピーを用いてグラフィックス処理を実行することと、複数のゲームセッションのうち第2のゲームセッションと関連して、グラフィックス処理の第2の結果をローカルに(たとえば、ローカルキャッシュに、特に第2のGPUのローカルキャッシュに)格納することとを含む。
他の態様は、ゲームタイトルをサーバシステムにロードする方法であって、サーバシステムは、1つ以上のCPUと、複数のGPUと、プログラムの実行中に1つ以上のCPUおよび/または複数のGPUによる使用のためのプログラムおよびデータを格納するメインダイナミックメモリと、不揮発性メモリプールに格納されたスタティックメモリプールと、スタティックメモリプールを管理するように構成されたメモリコントローラとを含む。GPUの各々は、メモリコントローラを介してスタティックメモリプールにアクセスするように構成される。方法は、1つ以上のCPUが、ゲームタイトルに対応する実行可能なゲームプログラムをメインダイナミックメモリにロードすることを含む。1つ以上のCPUは、複数のオンラインゲームセッションを並行して実行するように構成される。複数のゲームセッションの各々は、実行可能なゲームプログラムに対応し、それぞれのオンラインゲームセッションをレンダリングするように割当てられたそれぞれのGPUによって実行可能なグラフィックス処理を必要とする。方法はさらに、1つ以上のCPUが、複数のゲームセッションのグラフィックス処理において使用されるスタティックデータ項目を識別することと、メモリコントローラが、スタティックデータ項目をスタティックメモリプールに格納することと、メモリコントローラが、複数のオンラインゲームセッションを実行している複数のGPUがグラフィックス処理を実行しつつスタティックデータ項目にアクセスすることを可能にすることとを含む。
さらに他の態様では、オンラインゲームセッションのために画像フレームをレンダリングする方法がサーバシステムで実現され、サーバシステムは、1つ以上のCPUと、1つ以上のGPUと、プログラムの実行中に1つ以上のCPUおよび/または1つ以上のGPUによる使用のためのプログラムおよびデータを格納するメインダイナミックメモリと、シェーダキャッシュとを含む。方法は、1つ以上のCPU上でゲームタイトルについて複数のオンラインゲームセッションを並行して実行することと、1つ以上のGPUが、コンパイルされたシェーダの第1のシーケンスを用いて、複数のオンラインゲームセッションの各々について複数の画像フレームをレンダリングすることとを含む。方法はさらに、複数のオンラインゲームセッションを実行しつつ、ゲームタイトルと関連付けられた複数のオンラインゲームセッションについて性能基準を識別することと、複数のオンラインゲームセッションの各々の実行を特徴付ける使用統計を収集することと、コンパイルされたシェーダの第1のシーケンスの性能を性能基準に関して改良するためにコンパイルされたシェーダの第1のシーケンス内の第1のシェーダを修正して、コンパイルされたシェーダの修正された第1のシーケンスを生成することとを含む。
本出願のいくつかの態様によると、サーバシステムは、サーバシステムに上述の方法のいずれかを実行させるための命令を格納するメモリを含む。
さらに、本出願のいくつかの態様によると、サーバシステムによる実行のために構成された1つ以上のアプリケーションを格納する非一時的なコンピュータ可読記憶媒体は、サーバシステムに上述の方法のいずれかを実行させるための命令を含む。
他の実施形態および利点は、本明細書の説明および図面を考慮して、当業者によって明らかであろう。
さまざまな説明される実現例をより十分理解するために、以下の図面に関連して以下の実現例の説明を参照する必要がある。図面中、同様の参照番号は、図を通して対応する部分を表す。
図面を通じて、同様の参照番号は対応する部分を指す。
いくつかの実現例に係る、サーバシステムおよび複数のクライアントデバイスを含むオンラインインタラクティブゲーム環境の例を示す図である。 いくつかの実現例に係る、複数のゲームサーバがサーバシステムのスタティックメモリプールを共有するオンラインインタラクティブゲーム環境の例を示す図である。 いくつかの実現例に係る、データをサーバシステムに格納するように構成されたメモリシステムの例を示す図である。 いくつかの実現例に係る、複数のレベルのキャッシュを有する中央処理装置(CPU)の例を示す図である。 いくつかの実現例に係る、複数のレベルのキャッシュを有するグラフィックス処理ユニット(GPU)の例を示す図である。 いくつかの実現例に係る、サーバシステム内の複数のプロセッサによって共有されるスタティックメモリプールに対する読み書きアクセスを制御するメモリコントローラの例を示す図である。 いくつかの実現例に係る、サーバシステム上でゲームタイトルをロードするプロセス中のデータフローの例を示す図である。 いくつかの実現例に係る、サーバシステム上でオンラインゲームセッションを実行するプロセス中のデータフローの例を示す図である。 いくつかの実現例に係る、シェーダ最適化プロセス中のデータフローの例を示す図である。 いくつかの実現例に係る、複数のオンラインゲームセッションが実行されているときのスタティックデータ項目のデータフローの例を示す図である。 いくつかの実現例に係る、サーバシステムの例を示すブロック図である。 いくつかの実現例に係る、サーバシステムに格納されたデータを示すブロック図である。 いくつかの実現例に係る、クライアントデバイス(たとえば、携帯電話、タブレットコンピュータ、ラップトップコンピュータまたはゲームコントローラ)の例を示すブロック図である。 いくつかの実現例に係る、メディアデバイスの例を示すブロック図である。 いくつかの実現例に係る、1つ以上のゲームタイトルをホストするサーバシステムの記憶能力を管理するための方法の例を示すフローチャートである。 いくつかの実現例に係る、1つ以上のゲームタイトルをホストするサーバシステムの記憶能力を管理するための方法の例を示すフローチャートである。 いくつかの実現例に係る、ゲームタイトルをサーバシステムにロードするための方法の例を示すフローチャートである。 いくつかの実現例に係る、サーバシステムでゲームレンダリングと同時にパイプラインされたシェーダを最適化するプロセスの例を示す図である。 いくつかの実現例に係る、コンパイルされたシェーダのシーケンスを最適化するプロセスの例を示す図である。 いくつかの実現例に係る、コンパイルされたシェーダの複数のシーケンスを複数の性能基準と関連付けるシェーダハッシュテーブルを示す図である。 いくつかの実現例に係る、コンパイルされたシェーダのシーケンスの複数のバージョンを複数のユーザ入力と関連付けるシェーダハッシュテーブルを示す図である。 いくつかの実現例に係る、複数のオンラインゲームセッションのために画像フレームをレンダリングする方法(たとえば、画像レンダリングのバックグラウンドでパイプラインされたシェーダの最適化を含む)の例を示すフローチャートである。
実現例の説明
ここで、実現例が詳細に参照され、それらの例が添付の図面に示される。以下の詳細な説明では、記載されているさまざまな実現例の徹底した理解を提供するために、多数の具体的な詳細が説明されている。しかしながら、記載されたさまざまな実現例がこれらの具体的な詳細がなくても実施されてよいことは、当業者にとって明らかであろう。他の例では、これらの実現例の態様を不必要に曖昧にしないように、よく知られている方法、プロシージャ、コンポーネント、回路、およびネットワークは詳細には記載されていない。
本明細書に記載される実現例は、効率的で携帯可能であり、レイテンシが低く、インタラクティブなゲーム体験を分散したゲームプレーヤのコミュニティのために提供することに向けられている。いくつかの実現例では、クラウドゲームハードウェアリソース(たとえば、GPUおよびエンコーダ)がダイナミックに割当てられ、個々のエンドユーザが利用可能なネットワーク帯域幅が監視および利用されて、多数のゲームプレーヤに同時に最適なオンラインゲーム体験が提供される。いくつかの実現例では、オンラインゲーム体験を効率的に提供するために、クラウドゲームストレージリソースが管理される。たとえば、ゲームサーバシステムは、ゲームコンテンツレンダリングで使用されるスタティックデータ項目を格納するためのスタティックゲーム格納リソースのレベルを追加して、消費電力が比較的大きいダイナミックメモリの需要を低減可能である。いくつかの実現例では、コンパイルされたシーケンスがダイナミックに最適化されて複数のオンラインゲームセッションのリアルタイム使用統計量に従って1つ以上の性能基準が満たされる一方で、コンパイルされたシェーダはフォアグラウンドで使用されて、これらのオンラインゲームセッションのためにゲームコンテンツをレンダリングする。
具体的には、いくつかの実現例では、サーバシステムは、1つ以上のCPUと、複数のGPUと、プログラムの実行中にCPUおよび/またはGPUによる使用のためのプログラムおよびデータを格納するメインダイナミックメモリとを備える。複数のGPUの各々は、ローカルキャッシュを含む。不揮発性メモリに格納されたスタティックメモリプールは、サーバシステムに追加される。サーバシステムのメモリコントローラは、スタティックメモリプールを管理するように、たとえば、スタティックメモリプールに対する読出しアクセス/書込みアクセスを複数のGPUの各々に提供するように構成される。一例では、メインダイナミックメモリは、常にリフレッシュが必要なダイナミックランダムアクセスメモリ(DRAM)であり、スタティックメモリプールは、電源に接続されている限りリフレッシュを必要としない相変化ランダムアクセスメモリ(PRAM)である。
サーバシステムは、ゲームタイトルについて、1つ以上のCPU上で並行して複数のゲームセッションを実行する。複数のゲームセッションの各々は、スタティックデータ項目と関連付けられ、スタティックデータ項目を用いてそれぞれのGPUによって実行可能なグラフィックス処理(たとえば、オープングラフィックスライブラリ(OpenGL)レンダリングパイプラインでの頂点処理、テッセレーションおよびプリミティブアセンブリ)を必要とする。スタティックデータ項目は、スタティックメモリプールに格納される。複数のゲームセッションの各々を実行するために、CPUは、グラフィックス処理をそれぞれのGPUに割当て、それぞれのGPUは、グラフィックス処理を実行する目的でメモリコントローラにスタティックデータ項目のコピーを要求する。それぞれのGPUは、スタティックメモリプールから読出されたスタティックデータ項目のコピーをメモリコントローラから受信し、スタティックデータ項目のコピーを用いてグラフィックス処理を行う。グラフィックス処理の結果が、複数のゲームセッションのそれぞれ1つと関連して(たとえば、ローカルキャッシュまたはメインダイナミックメモリに)ローカルに格納される。
いくつかの実現例では、CPUがゲームタイトルに対応する実行可能なゲームプログラム(たとえば、サーバ側ゲームモジュール)をメインダイナミックメモリにロードすると、スタティックメモリプールに格納されたスタティックデータ項目が、スタティックメモリプールにロードされる。具体的には、CPUは、スタティックデータ項目がグラフィックス処理で使用されると判断し、メモリコントローラを制御して、スタティックデータ項目をスタティックメモリプールに格納する。スタティックデータ項目は場合によっては、サーバシステムのローカルハードドライブから抽出される、またはリモートライブラリサーバから受信される。スタティックデータ項目がスタティックメモリプールに格納されると、スタティックデータ項目は、メインダイナミックメモリに格納される必要がなくなり、そのため、メインダイナミックメモリは、サーバシステム内のCPUおよびGPUの計算性能を損なうことなくサイズおよび消費電力を減らすことによって、効率を改善することができる。
いくつかの実現例では、サーバシステムは、1つ以上のCPUと、1つ以上のGPUと、プログラムの実行中にCPUおよび/またはGPUによる使用のためのプログラムおよびデータを格納するメインダイナミックメモリと、シェーダキャッシュを備える。サーバシステムは、CPU上でゲームタイトルについて複数のオンラインゲームセッションを並行して実行し、1つ以上のGPUは、コンパイルされたシェーダの第1のシーケンスを用いて、複数のオンラインゲームセッションの各々について複数の画像フレームをレンダリングする。サーバシステムは、フォアグラウンドで複数のオンラインゲームセッションを実行しつつ、バックグラウンドでは、ゲームタイトルと関連付けられた複数のオンラインゲームセッションについて(たとえば、電力使用量およびゲームレイテンシに関する)性能基準を識別し、オンラインゲームセッションの各々の実行を特徴付ける使用統計(たとえば、ユーザ入力、電力使用量およびゲームレイテンシ)を収集する。サーバシステムは、コンパイルされたシェーダの第1のシーケンスの性能を性能基準に関して改良するためにコンパイルされたシェーダの第1のシーケンス内の第1のシェーダを修正して、コンパイルされたシェーダの修正された第1のシーケンスを生成する。必要に応じて、コンパイルされたシェーダの修正された第1のシーケンスは、コンパイルされたシェーダの別のシーケンスとして、コンパイルされたシェーダの第1のシーケンスの新しいバージョンとして、またはコンパイルされたシェーダの第1のシーケンスの代わりに格納される。コンパイルされたシェーダの修正された第1のシーケンスは、複数のオンラインゲームセッションについて画像フレームのレンダリングを行い、かつ、これらのオンラインゲームセッションの性能基準と関連付けられた性能を改良するために連続して使用可能である。これらの手段によって、コンパイルされたシェーダは、オンラインゲームセッションのリアルタイム使用統計に基づいて、オンラインゲームセッションの実行を中断することなく、ダイナミックに最適化される。
ゲームタイトルの複数のゲームセッションをホストするゲーム環境
図1は、複数の実現例に係るオンラインインタラクティブゲーム環境100の例を示す図である。オンラインインタラクティブゲーム環境100は、1つ以上のクライアントデバイス(たとえば、クライアントデバイス102および104)を含む。クライアントデバイス102の各々は、1つ以上のゲームアプリケーションを実行する。オンラインゲームセッションは、起動され、特定のゲームアプリケーションで実行されて、クライアントデバイス102のユーザに、サーバシステム114によってホストされるオンラインインタラクティブゲーム(「ゲームタイトル」とも呼ばれる)をプレーさせることができる。いくつかの実現例では、クライアントデバイス102(たとえば、ホストクライアント)は、オンラインインタラクティブゲームのゲームシーンに加わるよう1つ以上の他のクライアントデバイス102を招待するように構成される。これらのクライアントデバイス102のゲームセッションは、オンラインインタラクティブゲームの同じゲームシーンを表示するように同期されており、必要に応じて、別個の視点がそれぞれのユーザに対応している。
逆に、サーバシステム114は、オンラインインタラクティブゲームプラットフォームをホストして、クライアントデバイス102が特定のゲームアプリケーションを含む1つ以上のゲームアプリケーションをプレーするのをサポートする。具体的には、サーバシステム114は、クライアントデバイス102と関連付けられた複数のユーザアカウントを備え、1つ以上のゲームアプリケーションの各々と関連してクライアントデバイス102のユーザを認証する。サーバシステム114は、ゲームタイトルのシーンと関連付けられた対応するゲームセッションに参加するクライアントデバイス102上で、このシーンのレンダリングおよびリフレッシュを行う。いくつかの実現例では、サーバシステム114は、クライアントデバイス102の能力および/またはサーバシステム114とクライアントデバイス102の各々との間の通信接続の質を評価可能であり、適応的に、クライアントデバイス102と関連付けられたゲームセッションについて同時データストリームを生成する。これらの手段によって、サーバシステム114は、同時に実質的に低いレイテンシで、2つ以上のクライアントデバイス102上でオンラインインタラクティブゲームの同時ゲームセッションを容易にするように構成される。
いくつかの実現例では、クライアントデバイス102は、それぞれのオンラインゲームセッションと関連付けられたメディアコンテンツを表示するための、内部に一体化された表示スクリーンを有する。いくつかの実現例では、クライアントデバイス102は、メディアデバイス106および出力デバイス108に接続される。具体的には、クライアントデバイス102は、メディアデバイス106に直接(たとえば、電線を介して、Bluetooth(登録商標)もしくは他の無線通信リンクを介して)、ローカルネットワーク110(たとえば、Wi-Fiネットワーク)を介して、または1つ以上の通信ネットワーク112を介して、通信可能に接続される。いくつかの実現例では、クライアントデバイス102とメディアデバイス106とは、(たとえば、同じ部屋で、同じ家で、など)互いにローカルである。メディアデバイス106はさらに、ビジュアルおよび/または音声コンテンツを出力可能な1つ以上の出力デバイス108(たとえば、テレビ、表示モニタ、サウンドシステム、スピーカなど)に接続される。メディアデバイス106は、出力デバイス108(複数可)にコンテンツを出力するように構成される。いくつかの実現例では、メディアデバイス106は、キャスティングデバイス(たとえば、Google社のCHROMECAST(登録商標))、または他の態様ではキャスティング機能を含むデバイスである。たとえば、ゲームコンテンツがサーバシステム116によってクライアントデバイスにおいてユーザ入力に応答してレンダリングされる場合、クライアントデバイス102は、メディアデバイス106を制御して、ゲームコンテンツを通信ネットワーク112を介してサーバシステム116から受信し、受信したゲームコンテンツを出力デバイス108にキャストする。
いくつかの実現例では、サーバシステム114は、ゲームサーバ108およびメディアストリーミングサーバ120を備える。ゲームサーバ118は、第1のクライアントデバイス102A上で実行されているオンラインインタラクティブゲームセッションについて、2つ以上のメディアストリーム130および132を同時に提供するように構成される。2つ以上のメディアストリームはそれぞれ、第1のクライアントデバイス102Aおよびレビュアークライアントデバイス104に1つ以上の通信ネットワーク112を介して提供される低レイテンシストリーム130および標準レイテンシストリームを含む。必要であれば、標準レイテンシストリーム132は、教育目的で提供される。第1のクライアントデバイス102Aのユーザがゲームセッションを第1のクライアントデバイス102Aでプレーする一方で、ゲームセッションは、記録され、標準レイテンシストリーム132を介して一人以上の観客に対してブロードキャストされる、すなわち、観客は、レビュアークライアントデバイス104上でゲームセッションのレビューが可能である。低レイテンシストリーム130は、オンラインインタラクティブゲームセッションのゲームプレーに対応し、関連付けられたレビューセッションに対応する標準レイテンシストリーム132と比較して早い反応速度および遅い送信レイテンシを有する。必要であれば、レビュアークライアントデバイス104は、クライアントデバイス102と同じ会場に位置する。必要であれば、レビュアーデバイスは、クライアントデバイス102から離れている。いくつかの実現例では、レビュアークライアントデバイス104は、必要であれば一体化されたディスプレーまたは外部ディスプレーを有するクライアントデバイス102Aのような、他のクライアントデバイスである。いくつかの実現例では、レビュアークライアントデバイス104は、ビジュアルおよび/または音声コンテンツを出力可能な1つ以上の出力デバイス108に接続されたメディアデバイス106(たとえば、キャスティング機能を有するデバイス)である。いくつかの実現例では、低レイテンシストリームと標準レイテンシストリームとの両方は、同じ出力デバイスのスクリーン上に表示される。
各クライアントデバイス102は、中央サーバまたはクラウドコンピューティングシステム(たとえば、サーバシステム114)、および/またはネットワーク接続された他のデバイス(たとえば、他のクライアントデバイス102、レビュアークライアントデバイス104、メディアデバイス106および出力デバイス108)とのデータ通信及び情報共有が可能である。データ通信は、さまざまなカスタムまたは標準無線プロトコール(たとえば、IEEE 802.15.4、Wi-Fi、ZigBee、6LoWPAN、Thread、Z-Wave、Bluetooth Smart、ISA100.11a、WirelessHART、MiWiなど)のいずれか、および/またはさまざまなカスタムもしくは標準有線プロトコール(たとえば、Ethernet(登録商標)、HomePlugなど)のいずれか、または、本特許出願日においてまだ開発されていない通信プロトコールを含む他の好適な通信プロトコールを用いて実行され得る。いくつかの実施形態では、オンラインインタラクティブゲーム環境100は、クライアントデバイス102のセットおよびそれらの対応するメディアデバイスおよび出力デバイス(設けられている場合)がそれを介してローカルエリアネットワーク上で互いに通信可能に接続される従来のネットワークデバイス(たとえば、ルータ(図1には図示されていない))を含む。ローカルエリアネットワークは、通信ネットワーク112(たとえば、ワイドエリアネットワークおよびインターネット)の他の部分に通信可能に接続される。いくつかの実施形態では、クライアントデバイス102の各々は必要であれば、1つ以上の無線通信ネットワーク(たとえば、ZigBee、Z-Wave、Insteon、Bluetooth、Wi-Fi、および/または他の無線通信ネットワーク)を用いて、1つ以上の他のクライアントデバイス102もしくは104、それぞれのメディアデバイス106、またはそれぞれの出力デバイス108と通信する。
いくつかの実現例では、クライアントデバイス102は互いに離れている、すなわち、同じ場所内にまたは構造物内にさえ位置していない。ゲームタイトルは、各クライアントデバイス102における実行のためにゲームアプリケーション(たとえば、ゲームアプリケーション629、図6)を起動することによって、クライアントデバイス102上で開始可能である。いくつかの実現例では、クライアントデバイス102毎に、ゲームアプリケーションは、サーバシステム114とのオンラインゲームセッション116を個別に確立する。2つ以上のクライアントデバイス102(たとえば、102Aおよび102B)のオンラインゲームセッション116は、(たとえば、ゲームタイトルの同じゲームドメインにおいてプレーされるため)互いに関連しており、そのため、ゲームアプリケーション内のゲームシーンを共有する。関連するオンラインゲームセッション116は互いに同期されており、各オンラインゲームセッション116は必要であれば、それぞれのクライアントデバイス102に対応する唯一のプレーヤの視点を有する同じゲームシーンを示す。各クライアントデバイス102のユーザはそのため、それぞれのクライアントデバイス上でゲームをプレーすることができ、オンラインゲームセッション116からの出力の影響を他のクライアントデバイス102(複数可)に及ぼすことができる。たとえば、いくつかの実現例では、ゲームアプリケーション528は、同時に同じゲームをプレーしているユーザの間で矛盾のないゲーム状態を維持するように構成される。いくつかの実現例では、サーバシステム114およびゲームアプリケーション528は、ユーザの個々のゲームプレー状態およびビューに特有のシーンのレンダリングされたビューをもたらし得るゲームをプレーしている各ユーザのために、個々のセッションを維持するが、これらのセッションの各々は、同じゲームをプレーし、かつ、同じシーンにインタラクトしこれを眺めているユーザの他のセッションと一致している。
代替的に、他の実現例では、第1のクライアントデバイス102Aのゲームアプリケーションがオンラインゲームセッション116Aを確立した後で、1つ以上の第2のクライアントデバイス102Bが招待メッセージによってオンラインゲームセッション116Aに参加するように招待され、たとえば、オンラインゲームセッション116Aに参加するためのリンク(たとえば、URLアドレス)を有するメッセージが、第2のクライアントデバイス102Bの各々に送信される。適切なコントローラ構成が、オンラインゲームセッション116Aに参加するように招待された各第2のクライアントデバイス102Bに提供される。本出願では、第2のクライアント102Bがオンラインゲームセッション116Aに参加すると、サーバシステム114は、個別の第2のクライアントデバイス102Bために別個のゲームセッション116Bを生成する。それぞれの第2のクライアントデバイス102の各別個のゲームセッション116Bは、第1のクライアントデバイス102Aのゲームセッション116Aと同期しており、これと同じシーンを共有するが、それぞれの第2のクライアントデバイス102Bに対応する唯一のプレーヤの視点を有し得る。各第2のクライアントデバイス102Bが適切なコントローラ構成を受信しオンラインゲームセッション116Aに参加すると(より正確には、その関連するオンラインゲームセッション116Bを開始すると)、ユーザは、それぞれの第2のクライアントデバイス102B上でゲームをプレーし、他のクライアントデバイス102(複数可)で実行されているオンラインゲームセッション116の出力に影響を及ぼすことができる。
クライアントデバイス102は、ゲームアプリケーションを含む1つ以上の別個のユーザアプリケーションを含み、これを実行可能なデバイスである。いくつかの実現例では、クライアントデバイス102は、スマートフォン、タブレットデバイス、ラップトップコンピュータ、デスクトップコンピュータ、マルチメディアデバイスまたはリモートコントローラである。いくつかの実現例では、クライアントデバイス102は、専用ゲームコントローラデバイス(たとえば、ゲームコントローラ102B)を含む。いくつかの実現例では、クライアントデバイス102は、メディアデバイス106と連動して動作するように構成された1つ以上のユーザアプリケーションを含む。いくつかの実現例では、アプリケーションは、クライアントデバイス102をメディアデバイス106とペアリングし、メディアデバイス106を構成するためのメディアデバイスアプリケーションを含む。また、アプリケーションは、関連付けられたコンテンツをメディアデバイス106にキャスト可能な1つ以上のアプリケーションを含む。いくつかの実現例では、アプリケーションは、データ/コンテンツを直接メディアデバイス106に(たとえば、ローカルネットワークを介して)送信することによって、および/または、メディアデバイス106がそれからデータ/コンテンツをストリーミング、もしくは他の態様では受信可能なリモートロケーション(たとえば、URLまたはサーバシステム116もしくはゲームコンテンツホストにおける記憶場所へのリンク)にメディアデバイス106を向けることによって、データおよび/またはコンテンツをメディアデバイス106にキャストする。メディアデバイス106は、アプリケーションおよび/またはリモートロケーションからデータ/コンテンツを受信し、受信したデータ/コンテンツに対応するビジュアルおよび/または音声コンテンツを、出力デバイス108に出力する。そのため、オンラインゲームセッション116は、クライアントデバイス102上で実行されているゲームアプリケーション、リモートサーバシステム114、およびメディアデバイス106間で確立される。
いくつかの実現例では、関連するオンラインゲームセッション116をリンクさせるプロセスの一部として、サーバシステム114は、対応するクライアントデバイス102の各々の能力、および/またはサーバシステム114とクライアントデバイス102との間の通信接続の質を評価する。いくつかの実現例では、サーバシステム114は、クライアントデバイス102とサーバシステム114との間のネットワークレイテンシを計測する。計測されたレイテンシが閾値を上回り低レイテンシ接続が利用可能な場合、サーバシステム114は、クライアントデバイス102に低レイテンシ接続に変更するように提案可能である、または、クライアントデバイス102を低レイテンシ接続に変更するようにクライアントデバイス102のユーザを勧誘可能である。たとえば、クライアントデバイス102がセルラー無線接続されていて、ローカルエリアネットワークが利用可能である場合、サーバシステム114は、クライアントデバイス102が利用可能なローカルネットワークを通じて接続するように提案可能である。いくつかの実現例では、レイテンシ閾値要件はゲーム間で異なる。たとえば、低レイテンシ接続で最良に体験されるゲーム(たとえば、アクションゲーム)もあれば、レイテンシに関して要求がそれほど厳しくない他のゲーム(たとえば、オンラインボードゲームまたはカードゲーム)もある。サーバシステム114は、異なる種類のゲームと関連付けられたこれらの異なる要件を考慮して、接続を推奨し得る。
ゲームセッション116を始める、またはこれに参加するクライアントデバイス102の一部として、サーバシステム114は、クライアントデバイス102と通信して、クライアントデバイス102上にコントローラをセットアップする。いくつかの実現例では、これは、クライアントデバイス102がコントローラに必要とされるリソースおよび通信能力を有しているかどうかをサーバシステム114が評価することを含む。クライアントデバイス102において利用可能なリソース、接続の質、およびゲーム要件によって、コントローラは、クライアントデバイス102において異なる態様で実現され得る。いくつかの実現例では、ゲームタイトルは、ウェブページベースのコントローラインターフェースでプレー可能である。たとえば、ゲームのためのコントローラインターフェースはウェブページ内に埋込まれてもよく、ウェブページは、クライアントデバイス102上のウェブブラウザでレンダリングされる。代替的にいくつかの実現例では、標準化されたコントローラが、ゲームに特有でないまたはゲームと直接関連付けられていない事前に定義されたアプリケーション(たとえば、CHROMECASTまたはGoogle社のGOOGLE CAST、もしくは他のメディアデバイスアプリケーション)において、またはクライアントデバイス102のオペレーティングシステムにおいて実現される。たとえば、クライアントデバイス102上のデバイスオペレーティングシステムまたは所定のアプリケーションは、コントローラサブモジュールを有し得る。コントローラサブモジュールは、1つ以上の標準化されたコントローラ構成、テンプレートなどを含む。標準化されたコントローラ構成の各々は、コントローラサブモジュールを、ある方法でクライアントデバイス102上の入力デバイスおよび/またはセンサを利用するように構成して、バーチャルコントローラを実現する。使用される標準化されたコントローラ構成は、ゲームによっておよび/またはクライアントデバイスの種類に応じて異なり得る。
さらにいくつかの実現例では、ゲームは、コントローラサブモジュールで実現され得る特定のコントローラ構成を有する。そのような構成は、オンラインゲームセッション116に参加するまたはこれを始めるクライアントデバイス102のプロセスの一部として、サーバシステム114において格納されてもよい、および、クライアントデバイス102に送信されてもよい。いくつかの実現例では、特定のコントローラ構成は、完全なカスタムコントローラ、または標準化されたコントローラとカスタムコントローラとの組合せでもよい。さらにいくつかの実現例では、ゲームは、当該ゲームと関連付けられた特定のアプリケーションを必要とする。たとえば、ゲームは、当該ゲームと特別に関連付けられたコントローラアプリケーションを必要とし得る。いくつかの実現例では、クライアントデバイス102は、セッション116を始めるまたはこれに参加する一部として、特定のアプリケーションまたは所定のアプリケーションをダウンロードするように向けられてもよい。たとえば、クライアントデバイス102が(コントローラサブモジュールを有する)事前に定義されたアプリケーションまたはゲームと関連付けられた特定のアプリケーションを既に有しておらず、そのようなアプリケーションがプレーのために必要とされる場合、サーバシステム114は、クライアントデバイス102に、ユーザにダウンロードが必要であると促し、かつ、ユーザに処理の許可を求めるように指示する。
サーバシステム114はさらに、データベース160を備える。データベース16は少なくとも、サーバシステム114上でホストされる1つ以上のゲームアプリケーション(たとえば、ゲームアプリケーション629、図6)の各々のユーザアカウントと関連付けられたユーザ情報を格納する。ユーザ情報の例は、ユーザアカウント情報(たとえば、本人確認およびパスワード)、会員の種類、プリファレンス、および活動履歴を含むが、これらに限定されない。いくつかの実現例では、データベース160は、クライアントデバイス102上でプレーされるオンラインゲームセッションと関連付けられたセッションデータを格納する。各オンラインゲームセッション116のためのセッションデータの例は、フレームレート、レンダリング仕様、標準レイテンシ要件、GPU割当て情報、エンコーダ割当て情報、関連セッション識別、シェーダパイプライン識別、および最新状態情報を含むが、これらに限定されない。セッションデータは、ユーザ情報よりも頻繁にアクセスされる。いくつかの実現例では、ユーザ情報およびセッションデータを格納するメモリはそれぞれ、フラッシュメモリおよびランダムアクセスメモリ(RAM)で構成される。いくつかの実現例では、ユーザ情報およびセッションデータのサブセットが、それぞれのゲームタイトルに対応する各ゲームサーバ118に格納される。
サーバシステム114は、1つ以上のゲームサーバ118、メディアストリーミングサーバ120、ゲームライブラリサーバ122、シェーダライブラリサーバ124およびパイプラインオプティマイザサーバ150のうち1つ以上を備える。ゲームサーバ118または代替的なフロントエンドサーバ(図1には図示せず)は、クライアントデバイス102および104と関連付けられたユーザアカウント、たとえば、ユーザアカウントによる1つ以上のオンラインインタラクティブゲームの会員登録を管理する。クライアントデバイス102がそれぞれのユーザアカウントにログオンし、オンラインゲームセッション116を開始すると/オンラインゲームセッション116に参加すると、ゲームサーバ118は、ゲームセッション116をセットアップするだけでなく、コンテンツサーバ(図示せず)からゲームコンテンツを取得し、クライアントデバイス102または指定されたメディアデバイス104上で実行されるゲームアプリケーションにゲームコンテンツを送信し、ユーザリクエストまたはアクションを識別し、ユーザリクエストまたはアクションに応答してクライアントデバイス102またはメディアデバイス104のためにゲームプレー出力をレンダリングし、および、それぞれのゲームセッション116中にゲーム状態データを格納することによって、それぞれのクライアントデバイス102について各特定のゲームセッションを管理する。
いくつかの実現例では、ゲームサーバ118は、クラウドゲームハードウェアリソース(たとえば、GPU140およびエンコーダ142)をダイナミックに割当て、個別のエンドユーザが利用可能なネットワーク帯域幅を監視および利用して、最適なクラウドゲーム体験を提供する。いくつかの実現例では、ゲームサーバ118は複数の性能階層を提供し、これらの性能階層は、高解像度ビデオ/メディアストリームを有する高性能のリアルタイムゲームセッションをサポートする階層と、ほぼレイテンシがない状態で1つ以上の実際のゲームストリームに対応するレビューメディアストリームをサポートする他の階層とを含む。必要であれば、そのようなレビューメディアストリームは、YouTube(登録商標)などのメディアストリーミングサイトを介して一人以上のユーザに提供され、メディアストリーミングサイトは必要であれば、メディアストリーミングサーバ120によって管理される。
いくつかの実現例によると、ゲームサーバ118は、第三者のゲームコンテンツを提供するゲームコンテンツホスト(図1では図示せず)に接続される。第三者のゲームコンテンツの例は、スポーツゲーム、レースゲーム、ロールプレーゲーム(RPG)および一人称シューティング(FPS)ゲームを含むが、これらに限定されない。これらのゲームの異なる例は、異なる関連付けられたレイテンシ要件および予想、出力ビデオ解像度、ならびにゲームサーバ計算作業負荷およびビデオ符号化/ストリーミングリソース、ならびにネットワーク帯域幅に基づいて、(たとえば、いくつかの例では異なる登録性能階層と一致する最適なユーザゲーム体験を確実なものにするために)大きく異なるクラウドハードウェア要件およびネットワークを有し得る。
説明したように、サーバシステム114は、1つ以上のゲームタイトルをホストし、ただ1つのゲームタイトルの複数のオンラインゲームセッションを実行して複数のクライアントデバイス上で同時ゲームプレーをサポートするように構成される。1つ以上のゲームタイトルの各々は、いずれかのオンラインゲームセッションをサポートするために実行される前に、ゲームサーバ118にロードされる。ゲームライブラリサーバ122は、ゲームサーバ118に接続され、実行可能なゲームプログラム(たとえば、図5Aのサーバ側ゲームモジュール526)および実行可能なゲームプログラムの実行に必要なスタティックデータ項目を提供するように構成される。実行可能なゲームプログラムは、ゲームサーバ118にロードされると、CPUによって実行されて、GPUに、1つ以上の画像レンダリングプログラム(たとえば、シェーダプログラム)を用いて複数のオンラインゲームセッションの各々について複数の画像フレームを生成するように指示する。シェーダライブラリサーバ124は、ゲームサーバ118に接続され、異なるゲームタイトルによって必要とされると標準シェーダプログラムを提供するように構成される。シェーダプログラムがゲームタイトルによる使用のために選択される場合、それは、各オンラインゲームセッションについて複数の画像フレームをレンダリングするための使用のために、シェーダライブラリサーバ124から取出され、ゲームサーバ118によってコンパイルされ、ゲームサーバ118にローカルに格納される。いくつかの実現例では、オンラインゲームセッションの各画像フレームは、(たとえば、頂点シェーダ、テッセレーションシェーダ、幾何学シェーダおよびフラグメントシェーダを含む)コンパイルされたシェーダの順序シーケンスによってレンダリングされ、これらのコンパイルされたシェーダの各々は、それぞれの画像フレームを作成する過程において1つ以上の特定の画像レンダリング処理を実行する。
図2は、いくつかの実現例に係る、複数のゲームサーバ118がサーバシステム114内のスタティックメモリプール202を共有するオンラインインタラクティブゲーム環境200の例を示す図である。サーバシステム114は、複数のゲームサーバ118、メディアストリーミングサーバ120、ゲームライブラリサーバ122およびシェーダライブラリサーバ124のうち1つ以上を備え、1つ以上のゲームタイトルをホストするように構成される。そうは言っても、サーバシステム114は、1つ以上の通信ネットワーク112によって複数のクライアントデバイス102に通信可能に接続され、ゲームタイトルに対応する複数のオンラインゲームセッションを並行して実行して、複数のクライアントデバイス102の各々を、それぞれのオンラインゲームセッションを介してそのゲームタイトルでゲームプレーに参加させる。ゲームサーバ118は、複数のクライアントデバイス102からセッションリクエストを受信し、それに応じて、オンラインゲームセッションを開始し、これらに参加し、またはこれらを終了する。各セッションリクエストに応答して、ゲームサーバ118のうち1つが、対応するオンラインゲームセッションを実行するように割当てられる。各オンラインゲームセッションの実行の過程において、それぞれのオンラインゲームセッションを実行するように割当てられたゲームサーバ118は、オンラインゲームセッションをリクエストしたクライアントデバイスのために複数の画像フレーム(すなわち、セッションデータストリーム)をレンダリングする。状況によっては、複数の画像フレームは、ゲームタイトルのシーンを共有するオンラインゲームセッションのサブセットのうちいずれかからのユーザ入力(すなわち、ジャンプ、シューティング、回転するコマンド)の受信に応答してレンダリングされる。必要であれば、ゲームサーバ118はまた、レビューメディアストリームを生成し、これを直接またはメディアストリーミングサーバ120を介して間接的に、リアルタイムでゲームプレーをレビューしたい観客に提供する。
各ゲームサーバ118は、1つ以上の処理ユニット(たとえば、CPU138、GPU140およびエンコーダ142)、メインダイナミックメモリ144、および1つ以上のローカルキャッシュ146を含む。メインダイナミックメモリ144は、プログラムの実行中にCPU138およびGPUによる使用のためのプログラムおよびデータを格納するように構成される。必要であれば、各ゲームサーバ118は、それ自体のメインダイナミックメモリ144を有する。必要であれば、ゲームサーバ118のサブセットまたは全ては、メインダイナミックメモリ144を共有する。ローカルキャッシュ146は、データ、たとえば、頂点後処理が終了しGPU140でのプリミティブアセンブリを待つメディアコンテンツ、GPU140によって生成されさらに符号化されるためにエンコーダ142に提供されるメディアコンテンツを一時的に格納するように構成される。
いくつかの実現例では、サーバシステム114はさらに、メインメモリ144およびキャッシュ146に加えて、スタティックメモリプール202を備える。スタティックメモリプール202は、ゲームサーバ118(たとえば、118-1、118-2~118-N)のサブセットまたは全ての間でシェアされ、同じゲームタイトルの複数のオンラインゲームセッションにおいて使用される1つ以上のスタティックデータ項目を格納するように構成される。サーバシステム114はさらに、スタティックメモリプール202を管理するように構成されたメモリコントローラ204を備える。いくつかの実現例では、複数のゲームセッションの各々は、特定のスタティックデータ項目と関連付けられ、特定のスタティックデータ項目を用いてそれぞれのGPU140によって実行可能な特定のグラフィックス処理を必要とし、特定のスタティックデータ項目は、スタティックメモリプール202に格納される。それぞれのGPU140は、特定のスタティックデータ項目を抽出するために、メモリコントローラ204を介してスタティックメモリプール202にアクセスするように構成される。
なお、いくつかの実現例では、スタティックメモリプール202に格納されたスタティックデータ項目は、メインダイナミックメモリ144に格納可能である。メインダイナミックメモリ144は、スタティックメモリプール202と比較して早いレートでGPUによってアクセスされる。しかしながら、メインダイナミックメモリ144は、メモリからの電荷漏洩を補償するために数ミリ秒毎にリフレッシュを必要とする、または新しい電子電荷を必要とするため、電力性能においては効率的ではない。スタティックデータ項目がスタティックメモリプール202に移動される場合、ゲームサーバ118内のメインダイナミックメモリ144の一部が解放され、より多くのプログラムおよびダイナミックデータを格納するために使用可能になる、または、消費電力を低減するためにより小さなメインダイナミックメモリ144を使用可能になる。
サーバシステム114は、ローカルキャッシュ146、メインダイナミックメモリ144およびスタティックメモリプール202を含むマルチレベルストレージ方式を有する。ローカルキャッシュ146は、少なくとも1つのキャッシュレベル(たとえば、L1、L2)を含む。メインダイナミックメモリ144およびスタティックメモリプール202と比べて、ローカルキャッシュ146は、より小さなサイズを有し、CPUおよびGPUに物理的により近接し、より早いレートでアクセス可能である。ローカルキャッシュ146は、CPU138およびGPU140による直接使用のための、メインダイナミックメモリ144またはスタティックメモリプール202から取出された命令およびデータのコピーを格納する。メインダイナミックメモリ144は、主メモリとも呼ばれる。CPU138およびGPU140によって実行される全てのプログラムは、メインダイナミックメモリ144にロードされ、実行の前にブロックまたは命令単位でキャッシュに移動される。メインダイナミックメモリ144のサイズは、一度に実行可能なプログラムの数およびプログラムが容易に利用可能なデータの量を決めるため、重要である。スタティックメモリプール202は、キャッシュ146およびメインダイナミックメモリ144に付加的なものである。いくつかの実現例では、スタティックメモリプール202は、CPU138およびGPU140の両方によってアクセス可能なレベル4キャッシュとも呼ばれるが、複数のゲームサーバ118の間で共有される。スタティックメモリプール202は、ローカルキャッシュ146およびメインダイナミックメモリ144と比較して大きなレイテンシを有しており、そのため、オンラインゲームセッションであまり使用されないスタティックデータ項目を格納するために使用される。サーバシステム114では、このマルチレベルストレージ方式によって、ゲームタイトルの複数のオンラインゲームセッションが、少なくとも消費電力に関して効率的に実行可能になる。
ゲーム環境におけるデータ格納
いくつかの実現例では、ゲームタイトルに対応するゲームコンテンツは、グラフィックスパイプラインプロセス(たとえば、OpenGLレンダリングパイプライン)によるオンラインゲームセッションについて、GPU140によってレンダリングされる。グラフィックスパイプラインプロセスは、グラフィックス処理の順序シーケンスを含み、各グラフィックス処理は、1つ以上のユーザが定義したシェーダプログラムに基づいて実現される。各グラフィックス処理において、GPU140は、前のグラフィックス処理からユーザ入力または出力を受信し、それ自体の出力を、それぞれのグラフィックス処理の中間出力またはグラフィックスパイプラインプロセス全体の最終的な出力として生成する。このプロセスの間に、それぞれのグラフィックス処理のシェーダプログラムは、前のグラフィックス処理から受信されたユーザ入力および出力に加えて、1つ以上のスタティックデータ項目を用いる。たとえば、OpenGLレンダリングパイプラインのグラフィックス処理で使用されるスタティックデータ項目は、1つ以上のテクスチャオブジェクト、頂点データバッファオブジェクト、および定数データオブジェクトを含む。グラフィックスパイプラインプロセスによって、各オンラインゲームセッションについて画像フレームのシーケンスがレンダリングされ、各画像フレームは、ある解像度を有するピクセルアレイ(ページとも呼ばれる)を含む。いくつかの実現例では、グラフィックスパイプラインプロセスに対応するスタティックデータ項目(たとえば、テクスチャオブジェクト)は、オンラインゲームセッションの画像フレームと同じ解像度を有する1つ以上の画像を含む。
スタティックデータ項目は、ゲームタイトルに対応する複数のオンラインゲームセッションのグラフィックスパイプラインプロセスにおいて共有される、すなわち、異なるオンラインゲームセッション間で変わらない。状況によっては、スタティックデータ項目は、個々のGPU140と関連付けられたランダムアクセスメモリ(GPU RAM)の一部に格納される。GPU RAMのこの一部は、「リードオンリー」としてアプリケーションプログラミングインターフェース(API)によって明示的にラベルをつけられる。状況によっては、GPU RAMは、その電力予算のかなりの部分をメモリリフレッシュに費やすDRAM(たとえば、メインダイナミックメモリ144)である。リフレッシュサイクルを必要としないメモリ技術が存在すると仮定すると、スタティックデータ項目を格納するためにGPU RAMを使用することはあまり望ましい解決策ではない。
いくつかの実現例では、GPUのDRAMのほんの一部(たとえば、メインダイナミックメモリの一部)は、リフレッシュを必要とせずDRAMと比較して使用電力の少ない不揮発性メモリで置換えられる。この不揮発性メモリは、グラフィックスパイプラインプロセスで使用されるリードオンリーアセット(すなわち、スタティックデータ項目のサブセットまたは全て)を格納するために使用される。このような不揮発性メモリの例には、PRAM、フラッシュメモリおよびソリッドステートドライブが含まれる。いくつかの実現例では、PRAMが使用されると、DRAMと比較して桁違いに少ない書込みサイクルを処理可能である。したがっていくつかの実現例では、PRAMは、ウェアレベリングおよびハッシュ割当てを用いる。PRAM内の各ページは、格納されたコンテンツを示す関連付けられたハッシュを有し、PRAMに対する読出しおよび書込みは、(ページテーブル変換を用いて)このハッシュにおいてインデックスが付けられる。ゲームタイトルに対応するゲームアプリケーションがその「リードオンリー」アセット(たとえば、スタティックデータ項目)を解放すると、メモリコントローラ204は、リードオンリーアセットに対応するページを即座に解放しないが、PRAMが一杯の場合、リードオンリーアセットに対応するページの解放のみを行う。リードオンリーアセットに対応するページは解放されると、最長時間未使用(LRU)法に従って廃棄される。そのため、PRAM内のメモリユニットは、近似的に同じ量の作業負荷を実行し(たとえば、もう一度同じゲームタイトルについて同じ量のアクセスを提供し)、永久にメモリユニットにダメージを与えることがある過剰な書込みから保護される。
クラウドベースゲームアプリケーションのいくつかの実現例では(たとえば、サーバシステム114では)、GPUのDRAMのほんの一部(たとえば、メインダイナミックメモリ144の一部)が不揮発性メモリに置換えられた後で、各GPUのDRAMは、RAMの読出し/書込みに必要なものまで低減される。各GPU140の不揮発性メモリは、他のGPUの不揮発性メモリと統合されて集中型のスタティックメモリプール202(たとえば、PRAMストレージデバイス)を形成し、これらのGPU140の間で共有される。いくつかの実現例では、アクセスは早いインラック相互接続によってスタティックメモリプール202に送られ、早いインラック相互接続は、各サーバラックにまたは同様の規模で配置されたバスを含む。また、メモリルックアップテーブルまたはハッシュが、スタティックメモリプール202に格納される。
GPUアセットのリードオンリー部分は、複数の実行にわたって再使用可能であり、集中型のリードオンリー記憶装置に付随する作業負荷のうち多くが同様である場合、シェア可能である。そうは言っても、いくつかの実現例では、スタティックメモリプール202に格納されるスタティックデータ項目は、抽出される場合、2つ以上のオンラインゲームセッションの間で再使用される。このスタティックメモリプール202へ書込まれると、スタティックデータ項目は、繰り返し同じスタティックデータ項目が格納されることを避けるために、メモリルックアップテーブルまたはハッシュに従ってハッシュされる。いくつかの実現例では、スタティックデータ項目がスタティックメモリプール202に既に存在する場合、スタティックメモリプール202が完全に一杯になるのを避けるために、拡張LRUポリシーが適用される。いくつかの実現例では、オフセットがスタティックメモリプール202内に存在するデータについて検索され、このスタティックデータ項目への今後のメモリアクセスのために保管される。ゲームアプリケーションがスタティックデータ項目を解放すると、スタティックメモリプール202のスペースがなくなるまで、それを消去する必要はない。
いくつかの実現例では、レイテンシが各GPU140からスタティックメモリプール202までの往復について計測され、1つ以上のGPUレイテンシ隠蔽方法を用いて補償される。1つ以上のGPUレイテンシ隠蔽方法は、スタティックメモリプール202への書込みアクセス、タイルされた/圧縮された/空間的にコヒーレントなテクスチャ、およびスタティックメモリプール202からのページサイズの転送を組合わせる書込み統合を含むが、これに限定されない。ある状況下では、スタティックデータ項目を格納するために(ローカルなDRAMではなく)スタティックメモリプール202が用いられるため、レイテンシを隠蔽するためにワープの数が増やされる。
いくつかの実現例では、集中型のスタティックメモリプール202は、PRAMおよび書込みサイクルが限定されていることが多いPRAMのようなメモリを含む。スタティックメモリプール202はスワップされる、または置換えられる一方で、GPU140はいずれもラックに詰め込まれない。
いくつかの実現例では、サーバシステム114は、2つ以上のゲームタイトルについてオンラインゲームセッションをサポートする。作業負荷が、スタティックメモリプール202にアップロードされた「リードオンリー」アセットの以前の作業負荷に従って、複数のサーバを含むラックに割当てられる。ゲームタイトルはレベルによって分割され、同じレベルの人気のあるゲームタイトルは、より小さなスタティックメモリプールを可能にするために、同じラック上のゲームサーバ118によって実行される。
いくつかの実現例では、多数のGPUが同じ作業負荷を実行していて(たとえば、ゲームタイトルに対応するオンラインゲームセッション)DRAMリフレッシュおよびネットワーク電力コストを償却するのに十分な再利用を達成可能であれば、スタティックメモリプール202は、共有DRAMプール(PRAMプールまたはその等価物に代えて)に置換え可能である。
図3Aは、いくつかの実現例に係る、データをサーバシステム114に格納するように構成されたマルチレベルストレージ方式を有するメモリシステム300の例を示す図である。マルチレベルストレージ方式に従って、サーバシステム114のメモリシステム300は、各個別のサーバ(たとえば、ゲームサーバ118)内に直接配設された複数のキャッシュ302を含む。より具体的には、複数のキャッシュ302の各々は、個別のサーバのプロセッサ、たとえば、ゲームサーバ118のCPU138およびGPU140に直接関連付けられ、個別のサーバのプロセッサによって実行される命令と命令の実行中に使用されるデータとの両方を提供するように構成される。サーバシステム114のメモリシステム300はさらに、サーバ(たとえば、ゲームサーバ118)の1つ以上のプロセッサによって実行されるプログラムおよびプログラムの実行中に使用されるデータを格納するように構成されたメインダイナミックメモリ144を含む。各プログラムは複数の命令を含み、実行中、これらの命令は、対応するプロセッサのキャッシュ302に順番にロードされ、それぞれのプロセッサによる実行を待つ。いくつかの実現例では、サーバシステム114のサーバのサブセットまたは全ては、メインダイナミックメモリ144を共有する。データバスは、サーバシステム114のサーバのサブセットまたは全てをメインダイナミックメモリ144に接続して、メインダイナミックメモリ144に対する書込みおよび読出しアクセスを実行可能にする。必要であれば、データバスは、それを介してメインダイナミックメモリ144が閾値バスレイテンシよりもかなり小さなレイテンシでアクセスされる高速データバスを含む。いくつかの実現例では、サーバシステム114の各サーバは、それぞれのサーバの1つ以上のプロセッサのみがアクセス可能なそれぞれのメインダイナミックメモリ144を有する。たとえば、ゲームサーバ118は、ゲームサーバ118のCPU138とGPU140との両方がアクセス可能なメインダイナミックメモリ144を含む。ゲームサーバ118のメインダイナミックメモリ144は、1つ以上のゲームタイトルを実行するように構成された命令304、たとえば、図5Aのサーバ側ゲームモジュール526の命令と、各ゲームタイトルのオンラインゲームセッションと関連付けられたダイナミックデータ306、たとえば、第1のゲームセッションデータ308および第2のゲームセッションデータ310を格納する。具体的には、第1のゲームセッションデータ308は必要であれば、それぞれのゲームタイトルの対応するオンラインゲームセッションについて、GPU140によって生成される1つ以上の画像フレームのテクスチャページ308A、頂点ページ308B、定数ページ308Cおよびフレームデータ308Dを含む。サーバシステム114内のメインダイナミックメモリ144に格納されるプログラムおよびデータについては、図5Aおよび図5Bを参照して以下でより詳細に説明される。
マルチレベルストレージ方式に従って、サーバシステム114のメモリシステム300はさらに、サーバシステム114内の複数のゲームサーバ118のために集中化されこれらによって共有されるスタティックメモリプール202を含む。スタティックメモリプール202は、ゲームタイトルのオンラインゲームセッションの画像フレームをレンダリングするために使用される1つ以上のスタティックデータ項目を格納するように構成される。1つ以上のスタティックデータ項目の例は、テクスチャオブジェクト312、頂点データバッファオブジェクト314、定数データオブジェクト316を含むが、これらに限定されない。複数のゲームサーバ118が複数のオンラインゲームセッションを実行するために割当てられると、各ゲームサーバ118は、スタティックメモリプール202から1つ以上のスタティックデータ項目を取得し、対応するメインダイナミックメモリ144から1つ以上のダイナミックデータ項目306を取得する。
さらにいくつかの実現例では、ゲームサーバ118はさらに、GPU140に接続されたシェーダキャッシュ318を含む。シェーダキャッシュ318は、コンパイルされたシェーダの命令がGPU140に直接ロードされてグラフィックスパイプラインプロセスを介してゲームコンテンツのレンダリングが可能になるように、コンパイルされたシェーダの少なくとも1つのシーケンスを格納するように構成される。いくつかの実現例では、サーバシステム114は、各々が性能基準に従って構成された複数のコンパイルされたシェーダシーケンス320を含み、各々は必要であれば、異なるユーザ入力状況に対応する複数のバージョンを含む。必要であれば、複数のコンパイルされたシェーダシーケンス320は、シェーダキャッシュ318に格納される。必要であれば、複数のコンパイルされたシェーダシーケンス320は、スタティックメモリプール202に格納され、シェーダキャッシュ318に格納される、または、ゲームコンテンツレンダリングでの使用のために選択される場合はGPU140のキャッシュに直接移動される。
さらに、マルチレベルストレージ方式に従って、サーバシステム114のメモリシステム300は、1つ以上のゲームタイトルに対応する1つ以上の実行可能なゲームプログラムを格納するハードドライブ324を備える。ゲームタイトルをホストするようにサーバシステム114を構成する過程において、サーバシステムのCPU138は、ゲームタイトルに対応する実行可能なゲームプログラム328のプログラムリクエスト326を送信する。プログラムリクエスト326に応答して、ハードドライブ324は、ゲームタイトルに対応する実行可能なゲームプログラム328をCPU138に戻す。いくつかの実現例では、ハードドライブ324は、リクエストされた実行可能なゲームプログラム328を格納せず、CPU138は、より離れたサーバ(たとえば、ゲームライブラリサーバ122または他の第三者のゲームプロバイダ)に実行可能なゲームプログラム328をリクエストするプログラムリクエスト326を、送信する。CPU138は、ハードドライブ324またはリモートサーバから戻された実行可能なゲームプログラム328を、サーバ側ゲームモジュール526としてインダイナイミックメモリ144に格納する。
さらにいくつかの実現例では、ハードドライブ324は、1つ以上のゲームタイトルのスタティックデータ項目も格納する。ゲームタイトルをロードしている過程において、サーバシステムのCPU138は、ゲームタイトルのスタティックデータ項目のデータリクエスト330を送信する。データリクエスト326に応答して、ハードドライブ324は、ゲームタイトルに対応するスタティックデータ項目332のサブセットまたは全てをCPU138に戻す。いくつかの実現例では、ハードドライブ324は特定のスタティックデータ項目を格納せず、CPU138は、より離れたサーバ(たとえば、ゲームライブラリサーバ122またはシェーダライブラリサーバ124)に特定のスタティックデータ項目をリクエストするデータリクエスト330を送信する。ハードドライブ324またはリモートサーバから戻された1つ以上のスタティックデータ項目332Aは、スタティックメモリプール202に格納される。代替的にいくつかの実現例では、1つ以上のスタティックデータ項目332Bが、ゲームサーバ118のCPUおよびGPUによる直接アクセスのために、メインダイナミックメモリ144に格納される。
さらにCPU138は、シェーダライブラリサーバにシェーダリクエストを送信して、ゲームタイトルに関連して用いられる1つ以上の標準シェーダプログラム336を取得し、戻されたシェーダプログラム336は、シェーダキャッシュ318にローカルに格納される。CPU138およびGPU140は、ゲームタイトルに対応するオンラインゲームセッションを実行しつつ、複数のダイナミックデータ項目338を生成する。これらの複数のダイナミックデータ項目338は、サーバシステム114のメインダイナミックメモリ144に格納される。
いくつかの実現例では、サーバシステム114は、それぞれメインダイナミックメモリ144およびスタティックメモリプール202に対する読み書きアクセスを管理するように構成されたダイナミックメモリコントローラ204Aおよびスタティックメモリコントローラ204Bを含む。いくつかの実現例では、サーバシステム114は、メインダイナミックメモリ144およびスタティックメモリプール202に対する読み書きアクセスを管理するように構成されたただ1つのメモリコントローラ204を含む。メインダイナミックメモリ144は、メインダイナミックメモリ144内の命令304、ダイナミックデータ項目306、および(設けられている場合)スタティックデータ項目332Bの位置を識別するディレクトリ304を含む。いくつかの実現例では、スタティックメモリプール202は、スタティックメモリプール202内のスタティックデータ項目332Aの位置を識別するハッシュテーブル342を含む。必要であれば、スタティックデータ項目332は、コンテキスト情報に基づいて識別される。一例では、スタティックメモリプール202は、複数のコンパイルされたシェーダシーケンス320を格納し、スタティックメモリプール202内のそれらのアドレスは、ハッシュテーブル内の対応するグラフィックスパイプラインプロセスの性能基準、ユーザ入力および/または使用統計量を用いて識別される。必要であれば、ハッシュテーブル342内のマッピングに基づくそのようなコンテキストも、他のスタティックデータ項目に適用される。ハッシュテーブルは、異なる状況に関連して繰り返しスタティックデータ項目を格納することからスタティックメモリプール202を保護し、これによって、メモリリソースの無駄が生じる。
図3Bは、いくつかの実現例に係る、複数のレベルのキャッシュを有するCPU138の例を示す図である。いくつかの実現例では、各CPUは、複数のCPUコア350を含む。各CPUコア350は、それぞれのCPUコアによって実行される命令と、命令の実行中に使用されるデータとの両方を格納するキャッシュ352を有する。キャッシュ352は、それぞれのCPUコア350と直接接続され、命令及びデータをそれぞれのCPUコア350に即座に直接提供可能である。いくつかの実現例では、CPUコア350はさらに、CPU138の複数のCPUコア350によって共有されるCPUキャッシュ354を含む。CPUキャッシュ354は、CPUコア350に格納された命令の実行中に使用されるデータを格納する。CPUキャッシュ354は、CPUコア350と直接接続されたキャッシュ352にデータを供給する。
図3Cは、いくつかの実現例に係る、複数のレベルのキャッシュを有するGPU140の例を示す図である。いくつかの実現例では、各GPUは、複数のGPUコア360を含む。各GPUコア360は、それぞれのGPUによって実行される命令と、命令の実行中に使用されるデータとの両方を格納するキャッシュ360を有する。キャッシュ362は、それぞれのGPUコア360と直接接続され、命令およびデータをそれぞれのGPUコア362に即座に直接提供可能である。いくつかの実現例では、GPUコア360はさらに、GPU138の複数のGPUコア360によって共有されるGPUキャッシュ364を含む。GPUキャッシュ364は、CPUコア360に格納された命令の実行中に使用されるデータを格納する。GPUキャッシュ364は、GPUコア360と直接接続されているキャッシュ362にデータを供給する。ゲームタイトルのゲームコンテンツをレンダリングするために、メモリシステム300内の読み書きがページによって(すなわち、ゲームコンテンツの画像フレームに対応する画像ピクセルのアレイによって)管理される。ページの大きさの読出しは、ラストレベルキャッシュとして使用されるDRAMの小さなプールを含む場合があるローカルGPUメモリ階層(L3-L1キャッシュ)においてキャッシュされる、すなわち、キャッシュ362およびGPUキャッシュ364においてキャッシュされる。
図3Dは、いくつかの実現例に係る、サーバシステム114において複数のプロセッサによって共有されるスタティックメモリプール202に対する読み書きアクセスを制御するメモリコントローラ204の例を示す図である。メモリコントローラ204は、アクセス制御モジュール372、ページ解放モジュール374、ウェアレベリングモジュール376およびLRUモジュール378のうち1つ以上を含む。アクセス制御モジュール372は、そこに格納されるハッシュテーブル342に基づいてスタティックメモリプール202にアクセスするように構成される。ページ解放モジュール374は、スタティックメモリプール202からスタティックデータ項目を削除するように構成される。必要であれば、特定のデータ項目を削除するリクエストに応答して、ページ解放モジュール374は、スタティックメモリプール202が一杯かどうかを判断する。スタティックメモリプール202が一杯ではないという判断に従って、ページ解放モジュール374は、ハッシュテーブル342を修正して、削除されるべき特定のデータ項目に対するアクセスを無効にする。スタティックメモリプール202が一杯であるという判断に従って、ページ解放モジュール374は、スタティックメモリプール202から特定のデータ項目を削除して、対応するメモリ空間を解放する。
ウェアレベリングモジュール376は、スタティックメモリプール202におけるメモリユニットの再書込みを監視し、スタティックメモリプール202の耐用年数を延ばす目的でスタティックメモリプール202において均等に再書込みを分散するように構成される。LRUモジュール378は、最も長い間使われていないスタティックデータ項目をスタティックメモリプール202から削除するように構成される。具体的には、いくつかの実現例では、LRUモジュール378は、スタティックメモリプール202に格納された各スタティックデータ項目と共に世代ビットを格納する。メモリ制限に達すると、最も長い間アクセスされていないスタティックデータ項目が、世代ビットに従って識別される最も古いデータ項目から削除される。LRUモジュールがスタティックデータ項目を削除すると、世代ビットは、スタティックメモリプール202に残っているスタティックデータ項目について変わる。
図4Aは、いくつかの実現例に係る、サーバシステム114上でゲームタイトルをロードするプロセス400の間のデータフローの例を示す図である。サーバシステム114は、互いに離れたゲームサーバ118、ゲームライブラリサーバ122、およびシェーダライブラリサーバ124を含む。サーバシステム114はまた、ゲームサーバ118によってホストされるゲームタイトルのゲームプレーに関与する複数のクライアントデバイス102から離れている。サーバシステム114(具体的には、ゲームサーバ118)は、1つ以上のCPU138と複数のGPU140とを含み、マルチレベルストレージ方式を採用する。マルチレベルストレージ方式に従って、サーバシステム114は、プログラムの実行中にCPUおよび/またはGPUによる使用のためのプログラムおよびデータを格納するメインダイナミックメモリ144と、不揮発性メモリに格納されるスタティックメモリプール202と、スタティックメモリプール202を管理するように構成されたメモリコントローラ204とを備える。ゲームタイトルをロードするユーザリクエストの受信(401)に応答して、CPU138は、ゲームサーバ118のハードドライブ324またはゲームライブラリサーバ122にプログラムリクエストを送信して(402)、ゲームタイトルに対応する実行可能なプログラム(たとえば、サーバ側ゲームモジュール526)をリクエストする。いくつかの実現例では、CPU138はまず、プログラムリクエストをハードドライブ324に送信する。ハードドライブ324が実行可能なゲームプログラムのコピーを提供できない場合、CPU138は、プログラムリクエストをゲームライブラリサーバ122に送信する。プログラムリクエストに応答して、ハードドライブ324またはゲームライブラリサーバ122は、メインダイナミックメモリ144に格納されている(404)実行可能なゲームプログラムのコピーを戻す。
1つ以上のスタティックデータ項目(たとえば、テクスチャオブジェクト)は、実行可能なゲームプログラムの実行の過程において必要とされ、そのため、CPU138は、データリクエストを、ハードドライブ324、ゲームライブラリサーバ122、およびシェーダライブラリサーバ124のうち少なくとも1つに送信して(406)、スタティックデータ項目の所定のセットをリクエストする。ハードドライブ324がそれぞれのデータ項目を有していない場合、CPU138は、順序にしたがって、たとえば、まずハードドライブ324に、次にゲームライブラリサーバ122および/またはシェーダライブラリサーバ124に、データリクエストを送信する。この順序は必要に応じて、スタティックデータ項目のセットについて同じである、または、各スタティックデータ項目に従ってカスタマイズされる。リクエストされたスタティックデータ項目の第1のサブセットの各々について、ハードドライブ324、ゲームライブラリサーバ122およびシェーダライブラリサーバ124のうちの1つは、スタティックメモリプール202に格納されている(408)それぞれのデータ項目のコピーを戻す。いくつかの実現例では、リクエストされたスタティックデータ項目の第2のサブセットが戻され、メインダイナミックメモリ144に格納される(410)。いくつかの実現例では、リクエストされたスタティックデータ項目は、リクエストされたデータ項目の第3のサブセット(たとえば、1つ以上のシェーダプログラム)を含む。リクエストされたスタティックデータ項目の第3のサブセットは、ハードドライブ324とシェーダライブラリサーバ124とのうち1つによって戻され、シェーダキャッシュ318に格納される(412)。
図4Bは、いくつかの実現例に係る、サーバシステム114上で(具体的には、ゲームサーバ118内で)オンラインゲームセッションを実行するプロセスの間のデータフロー420の例を示す図である。CPUは、複数の分散されたクライアントデバイス102から、ゲームタイトルで複数のオンラインゲームセッションを開始する複数のセッションリクエストを受信する(422)。各クライアントデバイス102は、ゲームタイトルに対応するリアルタイムユーザインタラクティブゲームアプリケションを実行し、それぞれのセッションリクエストがそれぞれのクライアントデバイス102のゲームアプリケーションから送信される。それぞれのセッションリクエストは、リクエストしているクライアントデバイス102のユーザ情報を含む。それぞれのクライアントデバイス102のユーザ情報を受信すると、CPU138は、ユーザ情報に基づいて対応するオンラインゲームセッションを認証し(424)、GPU140のうち1つを割当てて(426)、対応するオンラインゲームセッションを実行する。いくつかの実現例では、複数のオンラインゲームセッションのうち2つ以上が、GPU140のうち1つに割当てられる。つまり、2つ以上のオンラインゲームセッションは、時分割多重化(TDM)、空間多重化、またはそれらの組合せに基づいて、GPUのうち1つの計算リソースおよびストレージリソースを共有する必要がある。ゲームコンテンツレンダリングにおけるGPU割当てについては、2018年3月22日に出願され、「Methods and Systems for Rendering and Encoding Content for Online Interactive Gaming Sessions(オンラインインタラクティブゲームセッションのためにコンテンツをレンダリングおよび符号化するための方法およびシステム)」と題された米国仮特許出願第62/646,824号において説明され、その全体が本明細書において引用により援用される。
各セッションリクエストに応答して、CPU138は、ゲームタイトルの実行可能なゲームプログラムの命令をメインダイナミックメモリ144からCPU138のローカルキャッシュにコピーし(428)、命令を1つずつ実行する。同様に、CPU138によって命令されると、それぞれのオンラインゲームセッションを実行するように割当てられたそれぞれのGPUもまた、実行可能なゲームプログラム内の関連するゲームレンダリング命令をそのローカルキャッシュにロードし、ゲームレンダリング命令を1つずつ実行する。
いくつかの実現例では、複数のオンラインゲームセッションの各々は、たとえば毎秒60フレーム(fps)のレートで常にリフレッシュされる。いくつかの実現例では、複数のオンラインゲームセッションの各々は、それぞれのセッション自体または関連するセッションによって入力されたユーザアクションに応答してリフレッシュされる。たとえば、オンラインゲームセッションのサブセットは、ゲームタイトルの同じゲームシーンにあるときに関連付けられ、オンラインゲームセッションのサブセットの各々に配信されたゲームコンテンツは、少なくともオンラインゲームセッションのサブセットのうちいずれか1つがユーザアクションを入力すると、アップデートされる。
具体的には、オンラインゲームセッションについて、CPU138は、オンラインゲームセッションまたはオンラインゲームセッションと同じゲームシーンを共有している他の別個のゲームセッションに関与している第1のクライアントデバイスのゲームアプリケーションを介して入力されたユーザ入力を受信する(430)。これに応答して、CPU138は、ゲームタイトルに対応する実行可能なゲームプログラムの命令を実行して(432)、オンラインゲームセッションを実行するように割当てられたGPU140に、ユーザ入力に従って画像フレームのシーケンスをレンダリングするように命令する(438)。このオンラインゲームセッションの実行中、このオンラインゲームセッションと関連付けられたダイナミックデータ項目は、メインダイナミックメモリ144に格納される、またはこれから抽出される(434)。このオンラインゲームセッションと関連付けられたスタティックデータ項目が、スタティックメモリプール202から抽出される(436)。いくつかの実現例では(本明細書では図示せず)、スタティックデータ項目のセットがメインダイナミックメモリ144から抽出される。
その後、割当てられたGPU140は、ユーザ入力に基づいてオンラインゲームセッションの画像フレームをレンダリングするゲームレンダリング命令を実行する(439)。オンラインゲームセッションの実行中、GPU140は、シェーダキャッシュ318からコンパイルされたシェーダを取得し(440)、スタティックデータ項目をスタティックメモリプール202から抽出し(442)、ダイナミックデータ項目をメインダイナミックメモリ144に格納する、またはこれから抽出する(444)。いくつかの実現例では(本明細書では図示せず)、GPUはまた、メインダイナミックメモリ144から1つ以上のスタティックデータ項目を抽出する。GPUによってレンダリングされた画像フレームは、エンコーダ142によって符号化され、オンラインゲームセッションを実行しているクライアントデバイス102にストリーミングされる(446)。いくつかの実現例では、GPU(たとえば、観客レビュー向けの標準レイテンシストリーム)によってレンダリングされた画像フレームは、メディアストリーミングサーバ120を介してクライアントデバイス102にストリーミングされる(448)。
図4Cは、いくつかの実現例に係る、シェーダ最適化プロセス450におけるデータフローの例を示す図である。いくつかの実現例では、実行可能なゲームプログラム(たとえば、図5Aのサーバ側ゲームモジュール526)は、ゲームアプリケーション、およびオンラインゲームセッションとシェーダパイプライン最適化プロセスとを同時に実行するように構成されたシェーダパイプラインオプティマイザを含む。たとえば、ゲームアプリケーションがフォアグラウンドでグラフィックスパイプラインプロセスにおけるオンラインゲームセッションを実行する一方で(動作438~448)、シェーダパイプラインオプティマイザは、バックグラウンドでこのグラフィックスパイプラインプロセスにおいて用いられるコンパイルされたシェーダを最適化する。つまり、グラフィックスパイプラインプロセスが実行される一方で(動作438~448)、ゲームサーバ118は、1つ以上の性能基準を満たすために、バックグラウンドでコンパイルされたシェーダの1つ以上のシーケンスを生成する(450)。
具体的には、いくつかの実現例では、CPU138は、必要であればゲームタイトルに関連する全てのアクティブなオンラインゲームセッションからサンプリングされたオンラインゲームセッションのセットの使用統計を収集する(452)。使用統計は、CPU138およびGPU140のローカルキャッシュまたはメインダイナミックメモリ144から取得され得る。CPU138は、最適化の間に満たされる必要がある1つ以上の性能基準を識別し、取得する(454)。いくつかの実現例では、1つ以上の性能基準は、スタティックメモリプール202またはメインダイナミックメモリ144(任意)に格納された1つ以上のスタティックデータ項目を含む。CPU138はその後、使用統計および性能基準に基づいてアクティブなオンラインゲームセッションを実行するために使用されているコンパイルされたシェーダのシーケンスを最適化するリクエストを、GPUに送信する(456)。1つ以上の性能基準の各々について、GPU140は、コンパイルされたシェーダのシーケンスの性能をそれぞれの性能基準に関して改良するためにコンパイルされたシェーダのシーケンス内の1つ以上のシェーダを修正して(458)、コンパイルされたシェーダの修正されたシーケンスを生成する。状況によっては、コンパイルされたシェーダの修正されたシーケンスは、必要であれば、次のオンラインゲームセッションによって使用されるコンパイルされたシェーダのシーケンスの代わりに格納される。状況によっては、コンパイルされたシェーダの修正されたシーケンスは、使用統計に対応するコンパイルされたシェーダのシーケンスの新しいバージョンとして格納され、オンラインゲームセッションの次のゲーム状態が使用統計に一致するときに使用される。いくつかの実現例では、コンパイルされたシェーダの修正されたシーケンスの各々は、対応する性能基準と関連してシェーダキャッシュ318に格納される(460)。代替的に、図4Cに図示されていないいくつかの実現例では、関連付けられた、コンパイルされたシェーダの修正されたシーケンスおよび性能基準が、スタティックメモリプール202に格納される。
図4Dは、いくつかの実現例に係る、複数のオンラインゲームセッションが実行されているときにスタティックデータ項目を取得するデータフロー480の例を示す図である。説明したように、複数のオンラインゲームセッションがゲームサーバ118によって並行して実行されるとき(482)、1つ以上のCPUは、各オンラインゲームセッションをそれぞれのGPUに割当てる。各オンラインゲームセッションの実行中、それぞれのGPU140は、コンパイルされたシェーダをシェーダキャッシュ318から取得し(440)、スタティックデータ項目をスタティックメモリプール202から抽出し(442)、ダイナミックデータ項目をメインダイナミックメモリに格納する、またはこれから抽出する(444)。図4Dを参照すると、いくつかの実現例では、2つのクライアントデバイス102Aおよび102Bはそれぞれ、複数のオンラインゲームセッションのうち第1のオンラインゲームセッションおよび第2のオンラインゲームセッションを実行する。クライアントデバイス102Aと102Bとの両方は、たとえば、クライアントデバイス102Aによるゲームタイトルに対応するゲームアプリケーション内のユーザ入力の受信(484)に応答して、ゲームサーバ118によってレンダリングされた画像フレームを受信する。それぞれの画像フレームのレンダリングの過程において、(第1および第2のゲームセッションを含む)複数のゲームセッションの各々が、スタティックデータ項目と関連付けられ、スタティックデータ項目を用いてそれぞれのGPUによって実行可能なグラフィックス処理を必要とし、スタティックデータ項目はスタティックメモリプール202に格納される。
複数のゲームセッションのうち第1のゲームセッションについて、CPUは、グラフィックス処理を第1のGPUに割当てる。第1のGPUは、第1のGPUによって、メモリコントローラ204にスタティックデータ項目の第1のコピーをリクエストし(486)、スタティックメモリプール202から読出されたスタティックデータ項目の第1のコピーを、メモリコントローラ204から受信する(488)。第1のGPUはその後、スタティックデータ項目の第1のコピーを用いてグラフィックス処理を行い、複数のゲームセッションのうち第1のゲームセッションと関連して(たとえば、識別子を用いることによって)グラフィックス処理の第1の結果をローカルに格納する。同様に、複数のゲームセッションのうち第2のゲームセッションについて、CPUは、グラフィックス処理を第2のGPUに割当てる。第2のGPUは、メモリコントローラ204に、スタティックデータ項目の第2のコピーをリクエストし(490)、スタティックメモリプール202から読出されたスタティックデータ項目の第2のコピーを、メモリコントローラ204から受信する(492)。第2のGPUは、スタティックデータ項目の第2のコピーを用いてグラフィックス処理を行い、複数のゲームセッションのうち第2のゲームセッションと関連して、グラフィックス処理の第2の結果をローカルに格納する。
いくつかの実現例では、複数のオンラインゲームセッションのうち第3のオンラインゲームセッションについて、CPUは、グラフィックス処理を第3のGPUに割当てる。第3のGPUは、第1のGPUが所定の期間内にスタティックデータ項目の第1のコピーをリクエストしたと判断する。第3のGPUは、第1のGPUからスタティックデータ項目の第1のコピーを直接取得する。いくつかの実現例では、第1のGPU自体がメモリコントローラからまだ第1のコピーを受信しておらず、第3のGPUは待機して、第1のGPUが第1のコピーを受信した後で第1のGPUから第1のコピーを取得する。つまり、第1および第3のGPUは、スタティックデータ項目のコピーのリクエストを統合する。
いくつかの実現例では、複数のゲームセッションの各々は優先順位と関連付けられ、第1および第2のGPUは、第1および第2のゲームセッションの優先順位に従って、スタティックメモリプール202から読出されたスタティックデータ項目のコピーをメモリコントローラから受信する。たとえば、第1のゲームセッションは、第2のゲームセッションより高い優先順位を有する。第2のGPUが第2のコピーをリクエストした後で閾値時間と同時に、またはこの閾値時間内に第1のGPUが第1のコピーをリクエストすると、第2のGPUは、第1のGPUがメモリコントローラ204から第1のコピーを受信するまで第2のコピーの受信を中断される。
サーバシステム、クライアントデバイス、ゲームコントローラおよびメディアデバイス
図5Aは、いくつかの実現例に係る、サーバシステム114を示すブロック図である。図5Bは、いくつかの実現例に係る、サーバ500に格納されたデータを示すブロック図である。サーバシステム114は通常、1つ以上の処理ユニット(たとえば、CPU18(複数可)、GPU140(複数可)およびエンコーダ142)、1つ以上のネットワークインターフェース504、メモリ506、およびこれらのコンポーネント(チップセットとも呼ばれる)を相互接続するための1つ以上の通信バス508を備える。サーバシステム114は必要であれば、キーボード、マウス、音声コマンド入力ユニットもしくはマイクロホン、タッチスクリーンディスプレー、タッチ感知入力パッド、ジェスチャ撮像カメラ、または他の入力ボタンもしくは制御装置などの、ユーザ入力を容易にする1つ以上の入力デバイス510を備え得る。さらに、サーバシステム114は、マイクロホンおよび音声認識またはカメラおよびジェスチャ認識を用いてキーボードを補足する、またはこれに置換わる。いくつかの実現例では、サーバシステム114は必要であれば、たとえば、電子デバイスに印刷されたグラフィックシリーズコードを撮像するための、1つ以上のカメラ、スキャナ、または光検出ユニットを備える。サーバシステム114はまた、1つ以上のスピーカおよび/または1つ以上のビジュアルディスプレーを含む、ユーザインターフェースおよびディスプレーコンテンツの提示を可能にする1つ以上の出力デバイス512を備え得る。
メモリ506は、DRAM、SRAM、DDR RAMなどの高速ランダムアクセスメモリ、またはその他のランダムアクセス固体記憶装置を含み、必要であれば、1つ以上の磁気ディスク記憶装置、1つ以上の光学ディスク記憶装置、1つ以上のフラッシュメモリデバイスなどの不揮発性メモリ、または1つ以上のその他の不揮発性固体記憶装置を含む。メモリ506は必要であれば、1つ以上の処理ユニットから離れて位置する1つ以上のストレージデバイスを含む。メモリ506、または代替的にメモリ506内の不揮発性メモリは、非一時的なコンピュータ可読記憶媒体を含む。いくつかの実現例では、メモリ506は、メインダイナミックメモリ144、スタティックメモリプール202およびシェーダキャッシュ318のサブセットまたは全てを含む。いくつかの実現例では、メモリ506またはメモリ506内の非一時的なコンピュータ可読記憶媒体は、以下のプログラム、モジュール、およびデータ構造、またはそれらのサブセットもしくは上位セットを格納する。
●さまざまな基本システムサービスを処理するための、およびハードウェア依存タスクを実行するためのプロシージャを含むオペレーティングシステム516。
●1つ以上のネットワークインターフェース504(有線または無線)およびインターネット、他のワイドエリアネットワーク、ローカルエリアネットワーク、メトロポリタンエリアネットワークなどの1つ以上の通信ネットワーク112を介して、サーバ500(たとえば、ゲームサーバ118)を他のデバイス(たとえば、サーバシステム114内の他のサーバ、クライアントデバイス102および/または104、ならびにメディアデバイス106)に接続するためのネットワーク通信モジュール518。
●クライアントデバイス102および/または104において、情報の提示を可能にするためのユーザインターフェースモジュール520(たとえば、アプリケーション(複数可)、ウィジェット、ウェブサイトおよびそのウェブページ、ならびに/またはゲーム、音声および/もしくは映像コンテンツ、テキストなどを提示するするためのグラフィカルユーザインターフェース)。
●デバイスの提供、デバイス制御、およびメディアデバイス106(複数可)と関連付けられたユーザアカウント管理のためのデバイスサーバ側機能を提供するように実行されるメディアデバイスモジュール522(任意)。
●クライアントデバイス(102および/または104)ならびにメディアデバイス106のいずれかの位置情報に基づいて、クライアントデバイス102および/または104の位置を判断するための位置判断モジュール524。
●ゲームセッションの設定、セッション状態および他のゲーム関連データの格納、クライアントデバイス102からのゲームプレー入力の処理、ならびにゲームプレー入力に応じたゲームプレー出力(たとえば、画像フレームのシーケンス)のレンダリングを含むがこれらに限定されない、1つ以上のゲームタイトルと関連付けられたサーバ側機能を提供するためのサーバ側ゲームモジュール526。
●メディアストリーミングサイトのホスト、オンラインゲームセッションと関連付けられた同時付帯(concurrent ancillary)または補足メディアストリームの受信、および同じクライアントデバイス104または別個のクライアントデバイス102のゲームアプリケーション629上で実行中のオンラインゲームセッションと同時に表示するための同時メディアストリームのクライアントデバイス104への提供のためのメディアストリーミングサーバモジュール538。
●クライアントデバイス102/104への接続のネットワーク帯域幅の評価、およびクライアントデバイス102/104がゲームをプレーするために必要なモジュールまたはアプリケーションを有しているかどうかの評価を含むがこれらに限定されない、クライアントデバイス102/104のデバイスおよびネットワーク性能を評価するためのデバイス/ネットワーク評価モジュール540。
●データ(たとえば、ゲームコントローラ構成556、ソフトウェアアップデートなど)をクライアントデバイス102/104に提供するためのデータ送信モジュール542。
●以下を含むサーバシステムデータ544。
○共通デバイス設定(たとえば、サーバ階層、デバイスモデル、記憶容量、処理能力、通信能力など)を含む、クライアントデバイス102および104と関連付けられた情報を格納するためのクライアントデバイス設定552。
○アカウントアクセス情報およびデバイス設定のための情報(たとえば、サーバ階層、デバイスモデル、記憶容量、処理能力、通信能力など)のうち1つ以上を含む、メディアデバイスモジュール522のユーザアカウントと関連付けられた情報を格納するためのメディアデバイス設定554(任意)。
○クライアントデバイス102、レビュアークライアントデバイス104およびメディアデバイス106のうちいずれかの存在、近接度または位置と関連付けられた情報を含む位置/近接度データ556。
○さまざまなゲームタイトルについてコントローラ構成を格納するためのゲームコントローラ構成558。
○たとえばユーザアカウント情報(たとえば、本人確認およびパスワード)、会員の種類、プリファレンス、および活動履歴を含む、サーバシステム114上でホストされる1つ以上のゲームタイトル(たとえば、ゲームアプリケーション629、図6)の各々のユーザアカウントと関連付けられた情報を格納するためのユーザ情報558。
○たとえば第1のゲームセッションのためのデータ562および第2のゲームセッションのためのデータ564を含む、ゲームセッションと関連付けられたデータを格納するためのゲームセッションデータ560であり、各ゲームセッションのためのセッションデータ560は、それぞれのゲームセッションと関連付けられた1つ以上の画像フレームのフレームレート、レンダリング仕様、標準レイテンシ要件、GPU割当て情報、エンコーダ割当情報、関連セッションの識別、最新状態情報、シェーダパイプライン識別、テクスチャページ308A、頂点ページ308B、定数ページ308C、およびフレームデータ308Dを含むが、これらに限定されない。
○複数のオンラインゲームセッションによって共有されるデータを格納するためのスタティックデータ項目568であり、スタティックデータ項目562は、テクスチャオブジェクト、頂点データバッファオブジェクト、定数データオブジェクト、および異なる性能基準を満たすように仕様統計に基づいて最適化される、コンパイルされたシェーダのシーケンスのうち1つ以上を含むが、これらに限定されない。
○コンパイルされグラフィックスパイプラインプロセスにおける実行の準備が整っているシェーダを格納するためのコンパイルされたシェーダのシーケンス570であり、コンパイルされたシェーダのシーケンスは、デフォルト設定でゲームコンテンツをレンダリングするために用いられるコンパイルされたシェーダのデフォルトシーケンス、および異なる性能基準を満たすために仕様統計に基づいて最適化されるコンパイルされたシェーダの複数のシーケンスを含むが、これらに限定されない。
○最適化されたコンパイルされたシェーダのシーケンスと関連して格納される性能基準572および仕様統計574であり、性能基準572の各々は、全消費電量、コードサイズ、平均レイテンシ、全キャッシュ使用量、および複数のオンラインゲームセッションを実行している過程におけるコンパイルされたシェーダのシーケンスの全メモリ使用量のうち1つ以上に対応し、仕様統計574は、複数のオンラインゲームセッションの各々の実行を特徴付ける。
いくつかの実現例では、サーバ側ゲームモジュール526は、以下のプログラム、モジュール、またはこれらのサブセットもしくは上位セットを含む。
●オンラインゲームセッションの認証、セッションのサブセットを実行するためのGPUの割当て、割当てられたGPUに対応するセッションを実行させる命令、および割当てられたGPUによってレンダリングされた画像フレームの符号化を含む、1つ以上のゲームタイトルに対応するオンラインゲームセッションを実行するためのゲームアプリケーション528(複数可)。
●専門のゲームコントローラデバイス102Bにインタラクトしこれを制御するための、たとえば、ゲームコントローラデバイス102Bからユーザリクエストおよび入力を受信するためのコントローラデバイスモジュール530。
●ゲームタイトルに対応するオンラインゲームセッションについて、画像フレームをレンダリングするグラフィックスパイプラインプロセスのグラフィックス処理の順序シーケンスで用いられるシェーダをコンパイルするためのシェーダコンパイラ532。
●コンパイルされたシェーダのシーケンスの性能を性能基準に関して改良するために、オンラインゲームを実行するために用いられているコンパイルされたシェーダのシーケンスにおける1つ以上のシェーダを修正するためのシェーダパイプラインオプティマイザ534。
●オンラインゲームセッションの実行中のGPU140を制御して、デフォルトのコンパイルされたシェーダのシーケンスまたは最適化されたコンパイルされたシェーダのシーケンスを用いて画像フレームをレンダリングするためのゲームレンダリングモジュール536。
いくつかの実現例では、サーバシステム114はさらに、1つ以上の通信バス508を用いてCPU、GPU、メインダイナミックメモリ144およびスタティックメモリプール202に相互接続された1つ以上のメモリコントローラ204を備える。1つ以上のメモリコントローラ204は、メインダイナミックメモリ144を管理するように構成された第1のメモリコントローラ204Aと、スタティックメモリプール202を管理するように構成された第2のメモリコントローラ204Bとを備える。既に示したように、構成要素516~542および552~566はメインダイナミックメモリ144に格納され、第1のメモリコントローラ204Aを介してアクセス可能である。スタティックデータ項目568はスタティックメモリプール202に格納されており、第2のメモリコントローラ204Bを介してアクセス可能である。コンパイルされたシェーダ570、性能基準572および使用統計574は、必要であれば、シェーダキャッシュ318またはスタティックメモリプール202に一緒に格納される。必要であれば、オンラインゲームセッションの特定のセットについて収集された使用統計574は、ゲームセッションデータ562としてメインダイナミックメモリ144に格納される。
上記のように識別された構成要素の各々は、既に記載されたメモリデバイスの1つ以上に格納されてもよく、上述の機能を実行するための命令のセットに対応する。上記のように識別されたモジュールまたはプログラム(すなわち、命令のセット)は、別のソフトウェアプログラム、プロシージャ、モジュールまたはデータ構造として実現される必要はなく、そのため、これらのモジュールのさまざまなサブセットは、さまざまな実現例で組合されてもよい、または他の態様では再配置されてもよい。いくつかの実現例では、メモリ506は必要であれば、上記のように識別されたモジュールおよびデータ構造のサブセットを格納する。さらに、メモリ506は必要であれば、記載されていない付加的なモジュールおよびデータ構造を格納する。
図6は、いくつかの実現例に係る、ゲーム環境100のクライアントデバイス600の例(たとえば、クライアントデバイス102または104)を示すブロック図である。クライアントデバイス600の例は、携帯電話、タブレットコンピュータ、ラップトップコンピュータ、デスクトップコンピュータ、およびウェアラブルパーソナルデバイスを含むが、これらに限定されない。クライアントデバイス600は、1つ以上の処理ユニット(CPU)602、1つ以上のネットワークインターフェース604、メモリ606、およびこれらのコンポーネント(チップセットとも呼ばれる)を相互接続するための1つ以上の通信バス608を含む。クライアントデバイス600は、キーボード、マウス、音声コマンド入力ユニットもしくはマイクロホン、タッチスクリーンディスプレー、タッチ感知入力パッド、ジェスチャ撮像カメラ、または他の入力ボタンもしくは制御装置などの、ユーザ入力を容易にする1つ以上の入力デバイス610を含み得る。さらに、クライアントデバイス600のうち一部は、マイクロホンおよび音声認識またはカメラおよびジェスチャ認識を用いてキーボードを補足する、またはこれに置換わる。いくつかの実現例では、クライアントデバイス600は、たとえば電子デバイスに印刷されたグラフィックシリーズコードを撮像するための1つ以上のカメラ、スキャナ、または光検出ユニットを備える。クライアントデバイス600はまた、1つ以上のスピーカおよび/または1つ以上のビジュアルディスプレーを含む、ユーザインターフェースおよびディスプレーコンテンツの提示を可能にする1つ以上の表示デバイス612を含む。必要であれば、クライアントデバイス600は、クライアントデバイス600の位置を判断するための、GPS(全地球測位衛星)または他の地理位置受信機などの、位置検出デバイス614を含む。クライアントデバイス600はまた、たとえばIRセンサなどの、メディアデバイス106および/またはプレーヤクライアント104の近接度を判断するための、近接度判断デバイス615を含み得る。クライアントデバイス600は、入力として使用可能なクライアントデバイス600の動き、方位、および他のパラメータを検知するための1つ以上のセンサ613(たとえば、加速度計、ジャイロスコープなど)を含み得る。
メモリ606は、DRAM、SRAM、DDR RAMなどの高速ランダムアクセスメモリ、またはその他のランダムアクセス固体記憶装置を含み、必要であれば、1つ以上の磁気ディスク記憶装置、1つ以上の光学ディスク記憶装置、1つ以上のフラッシュメモリデバイスなどの不揮発性メモリ、または1つ以上のその他の不揮発性固体記憶装置を含む。メモリ606は必要であれば、1つ以上の処理ユニット602から離れて位置する1つ以上のストレージデバイスを含む。メモリ606、または代替的にメモリ606内の不揮発性メモリは、非一時的なコンピュータ可読記憶媒体を含む。いくつかの実現例では、メモリ606またはメモリ606の非一時的なコンピュータ可読記憶媒体は、以下のプログラム、モジュール、およびデータ構造、またはこれらのサブセットもしくは上位セットを含む。
●さまざまな基本システムサービスを処理するための、およびハードウェア依存タスクを実行するためのプロシージャを含むオペレーティングシステム616。
●1つ以上のネットワークインターフェース604(有線または無線)およびローカルネットワーク110、ならびにインターネット、他のワイドエリアネットワーク、ローカルエリアネットワーク、メトロポリタンエリアネットワークなどの1つ以上の通信ネットワーク112を介して、クライアントデバイス600を他のデバイス(たとえば、サーバシステム114、メディアデバイス106、および他のクライアントデバイス102または104)に接続するためのネットワーク通信モジュール618。
●1つ以上の出力デバイス612(たとえば、ディスプレー、スピーカなど)を介してクライアントデバイス600において、情報の提示を可能にするためのユーザインターフェースモジュール620(たとえば、アプリケーション、ウィジェット、ウェブサイトおよびそのウェブページ、ならびに/またはゲーム、音声および/もしくは映像コンテンツ、テキストなどを提示するするためのグラフィカルユーザインターフェース)。
●1つ以上の入力デバイス610のうち1つからの1つ以上のユーザ入力またはインタラクションを検出し、検出された入力またはインタラクションを解釈するための入力処理モジュール622。
●セッション116に参加するためのウェブインターフェースを含む、ウェブサイトおよびそのウェブページのナビゲーション、リクエスト(たとえばHTTPを介して)、ならびに表示を行うためのウェブブラウザモジュール624。
●メディアデバイス106と関連付けられたユーザアカウントへのロギング、ユーザアカウントと関連付けられている場合はメディアデバイス106の制御、ならびにメディアデバイス106と関連付けられた設定およびデータの編集およびレビューを含む、メディアデバイス106とインタラクトするためのメディアデバイスアプリケーション626。
●ゲームセッションのセットアップ、セッション状態データおよび他のゲーム関連データのローカルな格納、入力デバイス610からのゲームプレー入力の受信、ならびにゲームプレー入力に応じたゲームプレー出力(たとえば、画像フレームのシーケンス)の提供を含むがこれらに限定されない、1つ以上のゲームタイトルと関連付けられたクライアント側機能を提供するためのクライアント側ゲームモジュール628であって、いくつかの実現例では、クライアント側ゲームモジュール628はさらに、1つ以上のゲームタイトルに対応する1つ以上のゲームアプリケーション629を含む。
●データ(たとえば、ゲームコントローラ構成640、クライアント側ゲームモジュール628および他のアプリケーション、モジュール、アプリケーション、およびメモリ606内のデータに対するアップデート)をサーバシステム114ならびに他のコンテンツホストおよびプロバイダからダウンロードするためのデータダウンロードモジュール630。
●少なくともゲームアプリケーション629および他のアプリケーション/モジュールと関連付けられたデータを格納するクライアントデータ632であって、以下を含む。
○共通のデバイス設定(たとえば、サーバ階層、デバイスモデル、記憶容量、処理能力、通信能力など)を含む、クライアントデバイス600自体と関連付けられた情報を格納するためのクライアントデバイス設定634。
○アカウントアクセス情報およびデバイス設定のための情報(たとえば、サーバ階層、デバイスモデル、記憶容量、処理能力、通信能力など)のうち1つ以上を含むがこれらに限定されない、メディアデバイスアプリケーション626のユーザアカウントと関連付けられた情報を格納するためのメディアデバイス設定636。
○アカウントアクセス情報、ゲーム内のユーザのプリファレンス、ゲームプレー履歴データ、および他のプレーヤについての情報のうち1つ以上を含む、ゲームアプリケーション(複数可)のユーザアカウントと関連付けられた情報を格納するためのゲームアプリケーション638(複数可)。
○ゲームアプリケーション628(複数可)についてのクライアント側ゲームモジュール628の構成(たとえば、ゲームコントローラ構成456から受信された構成、図4)と関連付けられた情報を格納するためのゲームコントローラ構成640(複数可)。
○クライアントデバイス102および104ならびにメディアデバイス106のうちいずれかの存在、近接度または位置と関連付けられた情報を含む位置データ642。
○異なるゲームタイトルと関連付けられたクライアントデバイス600上で実行されるオンラインゲームセッションと関連付けられた情報、たとえば、最新の状態情報、頂点ページ、定数ページ、およびオンラインゲームセッションの各々と関連付けられた1つ以上の画像フレームのフレームデータを含むローカルゲームセッションデータ644。
図6に示されないいくつかの実現例では 、クライアント側ゲームモジュール628は、メニューモードでクライアントデバイス102とメディアデバイス106との間でメッセージ(たとえば、セットアップコマンド)を送信するためのコマンドモジュール、ゲームプレーモードでクライアントデバイス102とサーバシステム114との間(たとえば、メディアストリーミングサーバ120に対する)ゲームプレーコマンドを送信するためのストリーミングモジュール、およびゲームアプリケーションにゲームプレー入力インターフェースを提供するためのコントローラモジュールを含む。いくつかの実現例では、クライアント側ゲームモジュール628は、メディアデバイスアプリケーション626またはメモリ606内の他のアプリケーションの一部(たとえば、サブモジュール)である。いくつかの実現例では、クライアント側ゲームモジュール628は、オペレーティングシステム616の一部である。いくつかの実現例では、クライアント側ゲームモジュール628は、別個のモジュールまたはアプリケーションである。
クライアントデバイス102のいくつかの実現例では、メディアデバイスアプリケーション626(および、それに応じてメディアデバイス設定636)ならびにゲームアプリケーション629(および、それに応じてゲームアプリケーション設定638)は任意である。クライアントデバイス102が参加するように招待される特定のゲームに応答して、メディアデバイスアプリケーション626およびゲームアプリケーション629は、プレーするように要求されない。これらのアプリケーションのいずれかがゲームをプレーするために必要であり(たとえば、ゲームは、メディアデバイスアプリケーション626内のクライアント側ゲームモジュール628を使用し)、このアプリケーションがメモリ606内にない場合、クライアントデバイス102は、このアプリケーションをダウンロードするように促される。
いくつかの実現例では、クライアントデバイス102は、ゲームコントローラデバイスを含む。ゲームコントローラデバイスは、マイクロホン(または音声コマンド入力ユニット)、ボタン、方向パッド(複数可)、およびジョイスティック(複数可)などの、ユーザ入力を容易にする1つ以上の入力デバイス610を含む。いくつかの実現例では、ゲームコントローラ102はさらに、ジェスチャ認識特徴を含む。ゲームコントローラ102はまた、スピーカ320(複数可)、LED(複数可)、および/または必要であればディスプレーなどの、音声出力および/またはビジュアル出力を容易にする1つ以上の出力デバイスを含む。
上述のように識別された構成要素の各々は、既に記載したメモリデバイスのうち1つ以上に格納されてもよく、上述の機能を実行するための命令のセットに対応する。上述のように識別されたモジュールまたはプログラム(すなわち、命令のセット)は、別のソフトウェアプログラム、プロシージャ、モジュールまたはデータ構造として実現される必要はなく、そのため、これらのモジュールのさまざまなサブセットはさまざまな実現例で組合わせれてもよい、または他の態様では再配置されてもよい。いくつかの実現例では、メモリ606は必要であれば、上述のように識別されたモジュールおよびデータ構造のサブセットを格納する。さらに、メモリ606は必要であれば、上述されていない付加的なモジュールおよびデータ構造を格納する。
図7は、いくつかの実現例に係るゲーム環境100のメディアデバイス106の例を示すブロック図である。メディアデバイス106は通常、1つ以上の処理ユニット(CPU)702、1つ以上のネットワークインターフェース704、メモリ706、およびこれらのコンポーネント(チップセットとも呼ばれる)を相互接続するための1つ以上の通信バス708を含む。必要であれば、メディアデバイス106は、IRセンサなどの、クライアントデバイス102または104の近接度を判断するための近接度/位置検出ユニット710を含む。
さらにいくつかの実現例では、メディアデバイス106は、1つ以上の通信ネットワークを使用可能にし、かつ、メディアデバイス106に他のデバイスと(たとえば、クライアントデバイス102と)通信させる無線機を含む。いくつかの実現例では、無線機は、さまざまなカスタムまたは標準無線プロトコール(たとえば、IEEE 802.15.4、Wi-Fi、ZigBee、6LoWPAN、Thread、Z-Wave、Bluetooth Smart、ISA100.5A、WirelessHART、MiWi、Whispernet、Bluetooth low energyなど)、カスタムまたは標準有線プロトコール(たとえば、Ethernet、HomePlugなど)、および/または本特許出願日においてまだ開発されていない通信プロトコールを含む、他の好適な通信プロトコールのうちいずれかを用いてデータ通信が可能である。
メモリ706は、DRAM、SRAM、DDR RAMなどの高速ランダムアクセスメモリ、またはその他のランダムアクセス固体記憶装置を含み、必要であれば、1つ以上の磁気ディスク記憶装置、1つ以上の光学ディスク記憶装置、1つ以上のフラッシュメモリデバイスなどの不揮発性メモリ、または1つ以上のその他の不揮発性固体記憶装置を含む。メモリ706は必要であれば、1つ以上の処理ユニット702から離れて位置する1つ以上のストレージデバイスを含む。メモリ706、または代替的にメモリ706内の不揮発性メモリは、非一時的なコンピュータ可読記憶媒体を含む。いくつかの実現例では、メモリ706またはメモリ706の非一時的なコンピュータ可読記憶媒体は、以下のプログラム、モジュール、およびデータ構造、またはこれらのサブセットもしくは上位セットを含む。
●さまざまな基本システムサービスを処理するための、およびハードウェア依存タスクを実行するためのプロシージャを含むオペレーティングシステム716。
●1つ以上のネットワークインターフェース704(有線または無線)およびインターネット、他のワイドエリアネットワーク、ローカルエリアネットワーク、メトロポリタンエリアネットワーク、ケーブルテレビシステム、衛星テレビシステム、IPTVシステムなどの1つ以上の通信ネットワーク112を介して、メディアデバイス106を他のコンピュータまたはシステム(たとえば、サーバシステム114およびクライアントデバイス102)に接続するためのネットワーク通信モジュール718。
●1つ以上のコンテンツソース(たとえば、ゲームセッション116からの出力のためのサーバシステム114)から受信されたコンテンツ信号を復号し、復号された信号内のコンテンツをメディアデバイス106に接続された出力デバイス108に出力するためのコンテンツ復号モジュール720。
●近接度検出ユニット710によって検出されたまたはサーバシステム114によって提供された近接度関連情報に基づいて、クライアントデバイス102および/または104の近接度を判断するための近接度判断モジュール722。
●メディアディスプレーを制御するためのメディア表示モジュール724。
●メディアデバイス106上でゲームコンポーネントの全てのライフサイクルを制御し、ゲームコントローラ102からメッセージ(たとえば、コマンド)を受信し、ゲームコントローラ入力をサーバシステム114にリレーするためのゲームアプリケーション726。
●ユーザコンテンツ(たとえば、プロフィール、アバター、購入されたゲーム、ゲームカタログ、友達、メッセージ)および表示のために最適化された画像にアクセスし、ゲームプレー中にクライアントデバイス102から入力を受信するためのゲームユーザインターフェースモジュール728。
●ゲームアプリケーション726とゲームユーザインターフェースモジュール728との間の通信をインターフェース接続し、ゲーム起動中にサーバシステム114とのセッションペアリングリクエストを開始するためのインターフェース制御モジュール730。
●サーバシステム114および認証システム(設けられている場合)と通信するためのサーバインターフェースモジュール732であり、以下を含む。
○認証システムと通信してゲームコントローラのリンクされたユーザを認証するための認証サブモジュール734。
○サーバシステム114からゲームセッション情報(たとえば、セッションID、ゲームサーバ提供IPアドレス、ポートなど)を受信し、この情報を提供するインターフェース制御モジュール730へのコールバックを呼び出すためのセッションサブモジュール736。
○サーバシステム114のメディアストリーミングサーバ120から送信されたゲームストリームを、ゲームプレー中にリアルタイムで受信し表示するためのストリーミングサブモジュール738。
●少なくとも以下を含むデータを格納するメディアデバイスデータ740。
○アカウントアクセス情報およびデバイス設定(たとえば、サーバ階層、デバイスモデル、記憶容量、処理能力、通信能力など)のための情報を含む、メディアデバイスアプリケーションのユーザアカウントと関連付けられた情報を格納するためのメディアデバイス設定742。
○クライアントデバイス102および/または104、ならびにメディアデバイス106のいずれかの存在、近接度または位置と関連付けられた情報を含む位置データ744。
○異なるゲームタイトルと関連してクライアントデバイス600上で実行されるオンラインゲームセッションと関連付けられた情報、たとえば、オンラインゲームセッションの各々と関連付けられた1つ以上の画像フレームの最新の状態情報、テクスチャページ、頂点ページ、定数ページ、およびフレームデータと関連してを含むローカルゲームセッションデータ746。
上述のように識別された構成要素の各々は、既に説明されたメモリデバイスのうち1つ以上に格納されてもよく、上述の機能を実行するための命令のセットに対応する。上述のように識別されたモジュールまたはプログラム(すなわち、命令のセット)は、別のソフトウェアプログラム、プロシージャ、モジュールまたはデータ構造として実現される必要はなく、そのため、これらのモジュールのさまざまなサブセットがさまざまな実現例で組合わされてもよい、または他の態様では再配置されてもよい。いくつかの実現例では、メモリ706は必要であれば、上述のように識別されたモジュールおよびデータ構造のサブセットを格納する。さらに、メモリ706は必要であれば、記載されていないさらに別のモジュールおよびデータ構造を格納する。
スタティックメモリプール
図8Aおよび図8Bは、いくつかの実現例に係る、1つ以上のゲームタイトルをホストするサーバシステムの格納能力を管理するための方法の例を示すフローチャート800である。方法800は必要であれば、コンピュータメモリまたは非一時的なコンピュータ可読記憶媒体(たとえば、図5Aのサーバ側ゲームモジュール526)に格納され、かつ、サーバシステム114(たとえば、ゲームサーバ118のCPUおよびGPU)の1つ以上のプロセッサによって実行される命令によって制御される。コンピュータ可読記憶媒体は、磁気もしくは光学ディスク記憶装置、フラッシュメモリなどの固体記憶装置、または他の不揮発性メモリデバイスもしくはデバイスを含み得る。コンピュータ可読記憶媒体に格納される命令は、ソースコード、アセンブリ言語コード、オブジェクトコード、または1つ以上のプロセッサによって解釈される他の命令フォーマットのうち1以上を含み得る。方法800におけるいくつかの動作は組合わされてもよい、および/または、いくつかの動作の順番は変更されてもよい。
サーバシステム114は、1つ以上のCPU138と、複数のGPU140と、プログラムの実行中にCPUおよび/またはGPUによって使用されるためのプログラムおよびデータを格納するメインダイナミックメモリ144と、不揮発性メモリに格納されたスタティックメモリプール202と、スタティックメモリプールを管理するように構成されたメモリコントローラ204とを備える。GPU140の各々は、ローカルキャッシュを含み、メモリコントローラ204を介してスタティックメモリプール202にアクセスするように構成される。いくつかの実現例では、スタティックメモリプール202は、サーバシステム114の1つ以上のCPU138および複数のGPU140に近接して配設され、これらによって共有される。CPU138およびGPU140は、データバスを介してスタティックメモリプール202にアクセスする。さらにいくつかの実現例では、メインダイナミックメモリ144は、サーバシステムの1つ以上のCPUおよび複数のGPUに近接して配設され、これらによって共有される。CPU138およびGPU140は、データバスを介してメインダイナミックメモリ144にアクセスする。いくつかの実現例では、スタティックメモリプール202は、サーバシステム114の1つ以上のCPUおよび複数のGPUの各々から距離を有し、この距離は、所定の距離閾値よりも小さい(たとえば、<3メートル)。そうは言っても、スタティックメモリプール202は、サーバシステム114の1つ以上のCPUおよび複数のGPUがその上に配設されるサーバラックに物理的に位置する。
いくつかの実現例では、メモリコントローラ204は、メインダイナミックメモリとスタティックメモリプールとの両方を管理するように構成される。代替的にいくつかの実現例では、メモリコントローラ204は第1のメモリコントローラを含み、サーバシステムはさらに、第1のメモリコントローラから離れた、メインダイナミックメモリを管理するように構成された第2のメモリコントローラを備える。
サーバシステム114は、ゲームタイトルについて1つ以上のCPU138上で並行に複数のゲームセッションを実行する(802)。複数のゲームセッションの各々は、スタティックデータ項目と関連付けられており、スタティックデータ項目を用いてそれぞれのGPU140によって実行可能なグラフィックス処理を必要とし、スタティックデータ項目は、スタティックメモリプール202に格納される。いくつかの実現例では、グラフィックス処理は、OpenGLグラフィックスレンダリングパイプラインの一部であり、頂点処理、テッセレーション、幾何学処理、プリミティブアセンブリ、ラスタ化、フラグメンテーションおよびプリサンプリングのうち1つを含む。いくつかの実現例では、スタティックデータ項目は、ゲーム開発段階中にゲームタイトルの開発者によって事前に定義される。ゲームタイトルがサーバシステムに最初にロードされると、事前に定義されたスタティックデータ項目はスタティックメモリプール144にロードされる。いくつかの実現例では、スタティックデータ項目は、OpenGLレンダリングパイプラインで使用される1つ以上の標準パラメータを含む。スタティックデータ項目の例は、OpenGLライブラリから初めからロードされていた標準テクスチャ、頂点、幾何学、および定数を含むが、これらに限定されない。
1つ以上のCPU138上で実行される複数のゲームセッションのうち第1のゲームセッションについて(804)、CPU138は、グラフィックス処理を第1のGPUに割当てる(806)。第1のGPUは、メモリコントローラ204にスタティックデータ項目の第1のコピーをリクエストし(808)、スタティックメモリプール204から読出されたスタティックデータ項目の第1のコピーをメモリコントローラから受信する(810)。いくつかの実現例では、スタティックメモリプールから読出されたスタティックデータ項目の第1のコピーをメモリコントローラから受信すると、第1のGPUは、一時的にローカルキャッシュまたはメインダイナミックメモリに第1のコピーを格納する。第1のGPUはその後、スタティックデータ項目の第1のコピーを用いてグラフィックス処理を実行し(812)、複数のゲームセッションのうち第1のゲームセッションと関連して、グラフィックス処理の第1の結果をローカルに格納する(814)。いくつかの実現例では、第1のGPUは、複数のGPUコアおよび複数のGPUコアによってシェアされる共通キャッシュを有し、各GPUコアは、それぞれのGPUコアによって使用される命令およびデータを格納するそれぞれのキャッシュメモリを含む。
いくつかの実現例では、サーバシステム114は、グラフィックス処理を行うために複数のGPUによって使用される1つ以上のコンパイルされたシェーダを格納するシェーダキャッシュを備える。さらにいくつかの実現例では、サーバシステム114は、複数のゲームセッションのうち第1のゲームセッションについて性能基準を識別し、この性能基準に従って、複数のコンパイルされたシェーダのうち1つのシェーダを選択する。複数のコンパイルされたシェーダのうち選択された1つのシェーダは、グラフィックス処理を行うために第1のGPUによって使用される。
同様に、1つ以上のCPU上で実行される複数のゲームセッションのうち第2のゲームセッションについて(816)、CPU138は、グラフィックス処理を第2のGPUに割当てる(818)。第2のGPUは、メモリコントローラにスタティックデータ項目の第2のコピーをリクエストし(820)、スタティックメモリプール202から読出されたスタティックデータ項目の第2のコピーをメモリコントローラ204から受信する(822)。第2のGPUはその後、スタティックデータ項目の第2のコピーを用いてグラフィックス処理を実行し(824)、複数のゲームセッションのうち第2のゲームセッションと関連して、グラフィックス処理の第2の結果をローカルに格納する。
いくつかの実現例では、メインダイナミックメモリ144はダイナミックランダムアクセスメモリを含み、GPUのローカルキャッシュおよび1つ以上のCPUのローカルキャッシュの各々は、スタティックランダムアクセスメモリを含む。スタティックメモリプールは、ソリッドステートドライブ、フラッシュメモリおよび相変化ランダムアクセスメモリのうち1つを含む。ローカルキャッシュへのアクセスレートは、スタティックメモリプールへのアクセスレートよりも速いメインダイナミックメモリ144へのアクセスレートよりも速い。いくつかの実現例では、スタティックメモリプールへのアクセスによって生じるレイテンシが、それぞれのGPUにおけるゲームコンテンツレンダリングの間に補償される。
いくつかの実現例では、グラフィックス処理の第1の結果は、複数のゲームセッションのうち第1のゲームセッションと関連して、それぞれのGPUのローカルキャッシュ(たとえば、図3CのGPUキャッシュ364)に格納される。グラフィックス処理は第1のグラフィックス処理であり、第2のグラフィックス処理が後に続く。第2のグラフィックス処理の実行中、第1のGPU140は、ローカルキャッシュから第1のグラフィックス処理の第1の結果を取得し、第1のグラフィックス処理の第1の結果を用いて第2のグラフィックス処理を行う。必要であれば、第2のグラフィックス処理は、直接または間接的に第1のグラフィックス処理に続く。いくつかの実現例では、第1および第2のグラフィックス処理の両方は、複数のゲームセッションのうち第1のゲームセッションに関与するクライアントデバイスから受信されたユーザリクエストまたは入力に応答してゲームコンテンツストリームを生成するグラフィックスパイプラインプロセス(たとえば、OpenGLレンダリングパイプライン)の一部である。一例では、第1および第2のグラフィックス処理の両方は、OpenGLレンダリングパイプライン内の2つの連続する処理である。第1の結果は、OpenGLレンダリングパイプラインにおいて生成された中間結果であり、第2のグラフィックス処理によって使用された後にローカルキャッシュからパージ可能である。
代替的にいくつかの実現例では、グラフィックス処理の第1の結果は、複数のゲームセッションのうち第1のゲームセッションと関連してメインダイナミックメモリ144に格納される。グラフィックス処理は第1のグラフィックス処理を含み、第2のグラフィックス処理がその後に続く。第2のグラフィックス処理の実行中、第1のGPU140は、メインダイナミックメモリ144からグラフィックス処理の第1の結果を取得し、第1のグラフィックス処理の第1の結果を用いて、第1のグラフィックス処理に続く第2のグラフィックス処理を実行する。必要であれば、第1の結果はダイナミックデータ306の一部(たとえば、ゲームセッションデータ562)として格納される。
いくつかの実現例では、サーバシステム114はさらにエンコーダ142を備える。エンコーダ142は、第1の結果を、複数のゲームセッションのうち第1のゲームセッションと関連付けられた画像フレームに符号化する。画像フレームは、複数のゲームセッションのうち第1のゲームセッションに関与するクライアントデバイスに提供される。
いくつかの実現例では、スタティックデータ項目は、グラフィックス処理を行うために複数のGPU140によって使用される1つ以上のコンパイルされたシェーダを含む。さらにいくつかの実現例では、スタティックデータ項目が複数のコンパイルされたシェーダを含む場合、第1のGPUは、複数のゲームセッションのうち第1のゲームセッションについて性能基準を識別し、性能基準に従って、複数のコンパイルされたシェーダのうち1つのシェーダを選択する。複数のコンパイルされたシェーダのうち選択された1つのシェーダは、グラフィックス処理を行うために第1のGPUによって使用される。
なお、スタティックデータ項目は、複数のゲームセッションのうち第1および第2のゲームセッションを含む複数のゲームセッションの間で共有される。いくつかの実現例では、複数のゲームセッションの各々は優先順位と関連付けられ、第1および第2のGPUの各々は、第1および第2のゲームセッションの優先順位に従ってスタティックメモリプールから読出されたスタティックデータ項目のそれぞれのコピーを、メモリコントローラから受信する。たとえば、第1のゲームセッションは第2のゲームセッションより高い優先順位を有し、第1のGPUは、第2のGPUが第2のコピーをリクエストした後で、閾値時間と同時にまたはこの時間内に第1のコピーをリクエストする。第2のGPUは、第1のGPUがメモリコントローラから第1のコピーを受信するまで、第2のコピーの受信を中断される。
いくつかの実現例では、スタティックメモリプール202はハッシュテーブルを含み、複数のスタティックデータ項目が、ハッシュテーブルに従ってゲームタイトルと関連してスタティックメモリプール202に格納される。いくつかの実現例では、スタティックデータ項目は、スタティックデータ項目がリードオンリーであると示すタグと関連付けられる。
いくつかの実現例では、メモリコントローラ204は、スタティックデータ項目を解放する解放リクエストを受信する。解放リクエストに応答して、メモリコントローラ204は、スタティック(たとえば、コールド)メモリプールが一杯かどうかを判断する。スタティックメモリプールが一杯であることに従って、メモリコントローラ204は、LRUページ置換方法に基づいてスタティックデータ項目を解放する。スタティックメモリプールが一杯でないことに従って、メモリコントローラ204は、スタティックデータ項目の解放を打ち切る。メモリコントローラ204は、スタティックメモリプール202に格納されたデータを解放するように構成されたページ解放モジュール374を含む。
いくつかの実現例では、スタティックメモリプール202は複数のページに分割され、複数のページの各々は、それぞれのページに格納されたデータについて位置を識別するページハッシュを有する。メモリコントローラ204は、各ページのページハッシュに従って、スタティックメモリプール202に対する読み書きを行う。一例では、このスタティックメモリプール202はPRAMを含む。
なお、図8Aおよび図8Bの処理が説明された特定の順序は例示に過ぎず、記載された順序が処理を実行可能な唯一の順序を示すと意図されていない。当業者であれば、本明細書で説明されたようなスタティックメモリプールに格納されたデータを用いてオンラインゲームセッションを実行するさまざまな方法が分かるであろう。さらに、なお、方法900(たとえば、図9)に関して本明細書で説明された他のプロセスの詳細は、図8A~図8Bに関して説明された方法800に類似の態様でも適用可能である。簡潔に説明するために、これらの詳細はここでは繰り返さない。
図9は、いくつかの実現例に係る、ゲームタイトルをサーバシステム114にロードするための方法900の例を示すフローチャートである。方法900は必要であれば、コンピュータメモリまたは非一時的なコンピュータ可読記憶媒体(たとえば、図5Aのメモリ506)に格納され、かつ、サーバシステム114の1つ以上のプロセッサ(たとえば、ゲームサーバ118のCPUおよびGPU)によって実行される命令によって制御される。コンピュータ可読記憶媒体は、磁気もしくは光学ディスク記憶装置、フラッシュメモリなどの固体記憶装置、または他の不揮発性メモリデバイスもしくはデバイスを含み得る。コンピュータ可読記憶媒体に格納された命令は、ソースコード、アセンブリ言語コード、オブジェクトコード、または1つ以上のプロセッサによって解釈される他の命令フォーマットのうち1つ以上を含み得る。方法900におけるいくつかの動作は組合わされてもよい、および/または、いくつかの動作の順番は変更されてもよい。
サーバシステム114は、1つ以上のCPU138と、複数のGPU140と、プログラムの実行中にCPUおよび/またはGPUによって使用されるためのプログラムおよびデータを格納するメインダイナミックメモリ144と、不揮発性メモリに格納されたスタティックメモリプール202と、スタティックメモリプールを管理するように構成されたメモリコントローラ204とを備える。GPU140の各々は、メモリコントローラ204を介してスタティックメモリプール202にアクセスするように構成される。
CPU138は、ゲームタイトルに対応する実行可能なゲームプログラム(たとえば、サーバ側ゲームモジュール526)を、メインダイナミックメモリ144にロードする(902)。CPU138は、並行して複数のゲームセッションを実行する(904)ように構成され、ゲームセッションの各々は、実行可能なゲームプログラムに対応する。複数のオンラインゲームセッションの各々は、それぞれのオンラインゲームセッションをレンダリングするように割当てられたそれぞれのGPUによって実行可能なグラフィックス処理を必要とする(906)。
CPU138は、複数のゲームセッションのグラフィックス処理で用いられるスタティックデータ項目を識別する(908)。いくつかの実現例では、スタティックデータ項目は第1のスタティックデータ項目を含み、第1のスタティックデータ項目は、所定のスタティックデータ項目のリストにおいてCPU138によって識別される。所定のスタティックデータ項目のリストは、スタティックデータ項目の第1のサブセットとスタティックデータ項目の第2のサブセットとを含む。メモリコントローラは、第1のスタティックデータ項目を含むスタティックデータ項目の第1のサブセットをスタティックメモリプール202に格納し、スタティックデータ項目の第2のサブセットをメインダイナミックメモリ144に格納する。
メモリコントローラ204は、スタティックデータ項目をスタティックメモリプールに格納し(910)、オンラインゲームセッションを実行しているGPUに、グラフィックス処理を実行しつつスタティックデータ項目へアクセスすることを許可する(912)。いくつかの実現例では、スタティックデータ項目はゲームタイトルのレンダリングで使用される標準スタティックデータ項目である。スタティックデータ項目のスタティックメモリプールへの格納の前に、CPU138は、サーバシステム114のハードドライブ324またはリモートライブラリサーバからスタティックデータ項目を取出す。たとえば、スタティックデータ項目は、シェーダライブラリサーバ124に格納されたシェーダプログラムを含む。CPU138は、シェーダライブラリサーバ124からシェーダプログラムを取得し、ゲームタイトルをロードする過程において、スタティックメモリプール202にこれを格納する。代替的にいくつかの実現例では、スタティックデータ項目は、ゲームタイトルの開発者によって事前に定義されサーバシステム114のハードドライブ324に格納されたカスタムスタティックデータ項目である。スタティックデータ項目のスタティックメモリプールへの格納の前に、CPU138は、サーバシステム114のハードドライブ324からスタティックデータ項目を取出す。ゲームタイトルのサーバシステム114へのロードについては、図4Aを参照して詳細に説明されている。
いくつかの実現例では、実行可能なゲームプログラムに従って、CPU138は、複数のGPUの各々を、その上で実行されるべき複数のオンラインゲームセッションのサブセットに割当てる。複数のゲームセッションの各々について、それぞれのGPUによるグラフィックス処理の実行中、それぞれのGPU140は、メモリコントローラを介してスタティックメモリプールからスタティックデータ項目のコピーを取得し、スタティックデータ項目のコピーを用いてグラフィックス処理を行う。いくつかの実現例では、複数のゲームセッションの各々について、それぞれのGPUによるグラフィックス処理の実行中、それぞれのGPU140は、スタティックデータ項目のコピーをそれぞれのGPUのそれぞれのローカルキャッシュにロードする。さらにいくつかの実現例では、複数のゲームセッションの各々について、それぞれのGPUによるグラフィックス処理の実行中、それぞれのGPU140は、それぞれのオンラインゲームセッションと関連して、ダイナミックデータ項目およびユーザ情報をメインダイナミックメモリ144に格納する。いくつかの実現例では、複数のゲームセッションのサブセットについて、GPU140は、スタティックデータ項目のコピーをGPUのローカルキャッシュに一度ロードし、複数のゲームセッションのサブセットに対応するGPUのサブセットによってスタティックデータ項目のコピーを共有する。スタティックデータ項目を用いたオンラインゲームセッションの画像フレームのレンダリングは、図4Bおよび図8A~図8Bを参照して、より詳細に説明された。
なお、図9の動作が説明された特定の順序は例示に過ぎず、説明された順序は動作を実行可能な唯一の順序を示すと意図されていない。当業者であれば、本明細書で説明されたように、ゲームタイトルをサーバシステム114にロードするさまざまな方法が分かるであろう。さらに、なお、方法800(たとえば、図8A~図8B)に関して本明細書で説明された他のプロセスの詳細も、図9に関して説明された方法900と類似の態様で適用可能である。簡潔に説明するために、これらの詳細はここでは繰り返さない。
シェーダ最適化
オンラインゲームセッションのために画像フレームをレンダリングする過程において、GPU140は、他のパイプライン状態データと共にソース形式(GLSL、HLSL)または中間形式(DXIL、SPIR-V)でシェーダを取得し、GPUが使用するためのシェーダをコンパイルして、ゲームコンテンツをレンダリングする(たとえば、オンラインゲームセッションと関連付けられた画像フレームのシーケンスを出力する)。シェーダコンパイルは費用がかかる場合がある。たとえば、ゲームアプリケーションのなかには、各々が数ミリ秒かかるシェーダを100,000以上コンパイルすることを必要とするものもある。シェーダコンパイルがユーザ入力に応答してリアルタイムに行われる場合、長い時間がかかり、ユーザ体験が損なわれてしまう。状況によっては、シェーダコンパイルは、コンパイル時間を削減する目的で簡潔にされるが、結果として生じるコンパイルされたシェーダの質は、シェーダコンパイルの時間が制約された性質のために損なわれる。このパラグラフから次の8番目のパラグラフまでの説明は、開示されたもののコピーである。
本出願のいくつかの実現例では、GPU140は、サーバシステム114内の計算リソースへの高速パスによって接続されている。コンパイルされたパイプラインのフリートワイドキャッシングが事前に用意され、コンパイラ入力のハッシュによってインデックスを付けられ、ローカルに格納されて、シェーダコンパイル時間を削除または削減する。さらにいくつかの実現例では、手動でまたは遅いがより効果的なシェーダパイプラインコンパイラ(たとえば、図5Aのシェーダパイプラインオプティマイザ534)によってフリートワイド性能分析を行って、より広範囲にわたる最適化のために候補シェーダを識別可能である。いくつかの実現例では、コンパイルされたシェーダはフリートワイドキャッシュ(たとえば、シェーダキャッシュ318)において、より高性能のシェーダ、すなわち他の特徴を有するシェーダにダイナミックに置換えられる。いくつかの実現例では、性能に基づく最適化ステージのために特化されたシェーダと含む異なるコンパイルされたシェーダのセットが、特定の状況での展開のために格納される。いくつかの実現例では、ゲームコンテンツレンダリングで用いられるシェーダは、シェーダパイプラインコンパイラ(たとえば、コンパイラ532)が改良されていると再コンパイルされ、ゲームアプリケーション自体は、これらのシェーダ最適化動作によって影響されない。いくつかの実現例では、ゲームドライバ(図5Aではサーバ側ゲームモジュール526とも呼ばれる)を混乱させることなく、詳細な分析が特徴使用について実現される。いくつかの実現例では、GPU140上で実行されているゲームドライバ(すなわち、サーバ側ゲームモジュール526)を混乱させることなく、特定のゲームタイトルについて、特化されたシェーダがコンパイルされ、検査され、選択される。
いくつかの実現例では、ゲームドライバ(具体的には、サーバ側ゲームモジュール526のシェーダパイプラインオプティマイザ534)は、グラフィックスを供給する全てのGPUで実行されるゲームドライバ内のシェーダパイプライン生成/コンパイル呼出しを透過的にインターセプトする。ゲームドライバは、シェーダコンパイラに対する全ての入力のハッシュを評価し、一致するコンパイルされたシェーダについてシェーダパイプラインサーバ(またはシェーダキャッシュ)にリクエストを送信する。シェーダパイプラインサーバまたはキャッシュが一致するシェーダがないと返す場合(またはアイムアウト)、ゲームドライバは、従来のコンパイルパイプラインを使用し、結果をシェーダパイプラインサーバまたはシェーダキャッシュに格納し、さらに、それをオンラインゲームセッションのために用いる。シェーダパイプラインサーバは、多くの態様で実現され得る。シェーダパイプラインサーバは必要であれば、中央の1つのサーバ、または標準分散データベース技術(遅いレイテンシアクセスについてのレプリケーションを含む)を採用するサーバの分散/連合セットである。
いくつかの実現例では、ゲームドライバ(具体的には、サーバ側ゲームモジュール526のシェーダパイプラインオプティマイザ534)は、フリートワイド分析および性能に基づく最適化を行う。フリートワイド分析の例は、時間分析、シェーダ性能分析および消費電力分析を含む。具体的には、いくつかの実現例では、セッションのサンプルセットが、ゲームタイトルと関連付けられた全てのオンラインゲームセッションから選択される。これらのロード(すなわち、サンプリングされたセッション)は、各シェーダパイプラインを実行するために必要な時間の収集および中央データベースへの報告に特化したゲームドライバによって実行される。必要であれば、サンプリングされたセッションは、フォアグラウンドで同時にオンラインゲームセッションを実行するゲームサーバ118を用いてバックグラウンドで分析される。状況によっては、この計測はゲームアプリケーション(およびそれゆえユーザ体験)を混乱させることがあり、そのため、サンプリングされたセッションは、別のパイプラインオプティマイザサーバ150上で分析される。これによって、使用統計を集めつつ、ユーザ体験は高品質を保つことができる。いくつかの実現例では、シェーダパイプラインオプティマイザ534は、オンラインゲームセッション内で選択的に、たとえば、特定のシェーダまたは画像フレームのサブセットのサンプリングを行って、フォアグラウンドでのゲームコンテンツレンダリングへの影響を低減する。次に、これらのタイミングを用いて、さらなる最適化のための好ましい候補シェーダを選択し、手動レビューまたは自動システムを呼出して、シェーダを精緻化する。代替的にいくつかの実現例では、シェーダパイプライン(すなわち、コンパイルされたシェーダのシーケンス)を最適化するために、消費電力が監視され使用される。具体的には、シェーダパイプラインオプティマイザ534は、タイミング性能ではなくパワードローを計測するように取付けられている。
詳細なシェーダ分析を含むいくつかの実現例では、シェーダパイプラインオプティマイザ534は、修正されたシェーダおよび粒子の細かいシェーダ実行情報を収集するドライバを選択して、たとえば、各基本ブロックを、補助GPUバッファ内にタグを出すように取付ける。補助GPUバッファはその後、ローカルに分析される、または、我々の(たとえば、データベース160に含まれる)分析データベースに全体がアップロードされる。取付けられたシェーダは、製造ドライバを混乱させることなく、我々のフリートワイドシェーダパイプラインキャッシュ内のアセットからオフラインで生成される。
シェーダ特殊化のいくつかの実現例では、(多くの場合、高度な訓練を受けた技術者によって手動で)人気のあるゲームタイトル/アプリケーションについてシェーダを特殊化するためにフリークエントオプティマイゼーション(frequent optimization)がシェーダパイプラインオプティマイザ534で適用されて、マシンコンパイルされたコードを手動で調整されたコードで置換える。フリートワイドキャッシュは、フリートワイドキャッシュにおいてコンパイルされたシェーダパイプラインを置換えることによってドライバを再展開することなく、この置換を行うために使用される。いくつかの実現例では、コンパイルされたシェーダの複数のバージョンがフリートワイドキャッシュに格納され、異なる統計分析を行うために展開される。いくつかの実現例では、電力最適化シェーダおよび性能最適化シェーダの両方がシェーダキャッシュに格納されるが、たとえばゲームのピーク消費電力を管理するために、性能基準に従ってダイナミックに展開される。なお、これは多数の性能管理軸、たとえば、電力、時間、メモリ使用量およびコードサイズに及ぶ。さらにいくつかの実現例では、
コンパイラアップデートおよびプロファイリングを含むいくつかの実現例では、シェーダパイプラインオプティマイザ534は、シェーダコンパイラの新しいバージョンをシェーダキャッシュ内の全てのシェーダに対して実行し、シェーダコンパイラの前のバージョンと一緒にシェーダのこのシェーダコンパイラの新しいバージョンを格納する。オプティマイザ534はその後、オンラインゲームセッションのサンプルを用いて新しいシェーダコンパイラを実行し、性能影響を計測し、新しいシェーダコンパイラの適合性を判断する。これらの手段によって、コンパイルされたシェーダとシェーダコンパイラとの両方が、ゲームモジュールのゲームコンテンツレンダリングを混乱させることなく、バックグランドでダイナミックに改良される。
いくつかの実現例では、サーバシステム114は、内部ユーザおよび外部ユーザについて分散シェーダパイプラインキャッシュに問合わせるためにアプリケーションプログラミングインターフェース(API)を備える。分散シェーダパイプラインキャッシュは、所与の入力のセットについて問合わされて、さらなる検査および分析が可能になる。たとえば、マップリデューススタイルクエリが、個々のシェーダおよびシェーダパイプラインのフリートワイド分析について分散シェーダパイプラインキャッシュ上で実行される。このAPIは、デプスオンリーパスについて最も使用される命令のブレンドであり、Dremelなどに対するエクスポートパイプラインとして実現され得る。さらに、APIは、インフラストラクチャとしてのパイプライン-シェーダ-コンパイラを活用することによって、コンパイラエクスポローラインターフェースを提供するように構成される。
図10は、いくつかの実現例に係る、サーバシステム114においてゲームコンテンツレンダリングと同時にパイプラインされたシェーダを最適化するプロセス1000の例を示す図である。いくつかの実現例において図5Aに示すように、サーバ側ゲームモジュール526は、同時ゲームコンテンツレンダリングおよびシェーダパイプライン最適化を可能にするように協働して機能するゲームアプリケーション528と、シェーダパイプラインオプティマイザ534と、ゲームレンダリングモジュール538と、シェーダキャッシュ318とを含む。具体的には、ゲームアプリケーション528がフォアグラウンドでグラフィックスパイプラインプロセスにおいてオンラインゲームセッションを実行する一方で、シェーダパイプラインオプティマイザ534は、バックグラウンドでこのグラフィックスパイプラインプロセスにおいて使用されるコンパイルされたシェーダを最適化する。
サーバシステム114のCPU138は、ゲームタイトルに対応するゲームアプリケーション528を実行して、複数のオンラインゲームセッションを並行して実行する。CPU138は、GPU140のサブセットの各々を割当てて、複数のオンラインゲームセッション(たとえば、1つ以上のセッション)のサブセットを実行する。GPU140はその後、コンパイルされたシェーダの第1のシーケンスを識別し、コンパイルされたシェーダの識別された第1のシーケンスを用いて、オンラインゲームセッションの各々について複数の画像フレームをレンダリングする。いくつかの実現例では、コンパイルされたシェーダの第1のシーケンスがシェーダキャッシュ318に格納されており、一度識別されており、直接シェーダキャッシュからGPU140にロードされて、ゲームアプリケーション528の命令に従って、オンラインゲームセッションのために画像フレームをレンダリングする。いくつかの実現例では、複数のオンラインゲームセッションの実行は特定の性能基準に従う必要があり、コンパイルされたシェーダの第1のシーケンスは、オンラインゲームセッションの各々について画像フレームをレンダリングするために使用される前に、特定の性能基準に従って識別される。
GPUが複数のオンラインゲームセッションを実行する一方で、シェーダパイプラインオプティマイザ534は、バックグラウンドでコンパイルされたシェーダの第1のシーケンスを最適化する。別の言い方をすれば、CPU138は、サーバシステム114内のCPUおよびGPUの未使用のサブセットを割当てて、1つ以上の性能基準に関して、コンパイルされたシェーダの代替的なシーケンスまたはコンパイルされたシェーダの第1のシーケンスの他のバージョンを識別する。必要であれば、ゲームサーバ118はまた、シェーダパイプライン最適化について割当てられたCPUおよびGPUの未使用のサブセットと、オンラインゲームセッションを実行するアクティブなCPUおよびGPUとの両方を含む。必要であれば、ゲームサーバ118とは異なるパイプラインオプティマイザサーバ150は、シェーダパイプライン最適化について割当てられたCPUとGPUとのサブセットを含む。
具体的には、ゲームアプリケーション528が複数のオンラインゲームセッションを実行する一方で、シェーダパイプラインオプティマイザ534は、ゲームタイトルと関連付けられた複数のオンラインゲームセッションについて性能基準を識別し、コンパイルされたシェーダの第1のシーケンスを用いて、オンラインゲームセッションの各々の実行を特徴付ける使用統計を収集する。シェーダパイプラインオプティマイザ534は、使用統計を分析し、コンパイルされたシェーダの第1のシーケンスの性能が性能基準に関してさらに改良可能であると判断する。たとえば、シェーダパイプラインオプティマイザ534は、コンパイルされたシェーダの第1のシーケンスの第1のシェーダの修正がコンパイルされたシェーダの第1のシーケンスの性能を性能基準に関して改良すると判断し、そのため、第1のシェーダを修正して、コンパイルされたシェーダの修正された第1のシーケンスを生成する。いくつかの実現例では、シェーダパイプラインオプティマイザ534はさらに、コンパイルされたシェーダの第1のシーケンス内の1つ以上の第2のシェーダを修正して、性能基準に関してコンパイルされたシェーダの第1のシーケンスの性能を改良する。
いくつかの実現例では、シェーダパイプラインオプティマイザ534は、コンパイルされたシェーダの第1のシーケンスを性能基準に関して最適化するように構成された自動オプティマイザ1002を含む。そうは言っても、自動オプティマイザ1002は、シェーダキャッシュからコンパイルされたシェーダの第1のシーケンスを取得し、コンパイルされたシェーダの第1のシーケンスの性能を性能基準に関して改良するために、自動的にユーザの介入なしで、コンパイルされたシェーダの第1のシーケンス内の第1のシェーダを修正する。代替的にいくつかの実現例では、シェーダパイプラインオプティマイザ534は、ユーザにコンパイルされたシェーダの第1のシーケンスを性能基準に関して手動で最適化させるユーザインターフェースを提供するように構成された手動オプティマイザ1004を含む。管理者ユーザは、管理者クライアントデバイス102上で実行されているゲーム開発プラットフォーム上で管理者アカウントにログオンする。ユーザインターフェースは、性能基準、使用統計および他の関連情報項目を提示して、手動最適化を容易にする。サーバシステム114は、コンパイルされたシェーダの第1のシーケンス内の第1のシェーダを修正する命令を受信し、そのため、第1のシェーダは、ユーザ命令に応答して、コンパイルされたシェーダの第1のシーケンス内で修正される。さらにいくつかの実現例では、パイプラインシェーダオプティマイザ534は、自動オプティマイザ1002および手動オプティマイザ1004の両方を含み、自動最適化、手動最適化、またはこれらの組合せをサポートする。
さらにいくつかの実現例では、コンパイルされたシェーダの第1のシーケンス内の第1のシェーダを置換えるために、代替的なシェーダオプションのグループから代替的なシェーダが選択される。必要であれば、自動オプティマイザ1002は、コンパイルされたシェーダの第1のシーケンスの性能を性能基準に関して改良するために、自動的に代替的なシェーダオプションを識別し、代替的なシェーダを選択する。必要であれば、自動オプティマイザ1002は、代替的なシェーダオプションを自動的に識別するが、管理者ユーザは、手動オプティマイザ1004によって代替的なシェーダを選択するように促される。必要であれば、手動オプティマイザ1004は、関連情報項目を提供して、管理者ユーザに代替的なシェーダオプションの識別および代替的なシェーダの選択を促す最適化プロセスを容易にする。
図10を参照すると、いくつかの実現例では、コンパイルされたシェーダの修正された第1のシーケンスは、シェーダキャッシュ内のコンパイルされたシェーダの第1のシーケンスが生成された後にそれに置換わる。代替的にいくつかの実現例では、コンパイルされたシェーダの第1のシーケンスおよびコンパイルされたシェーダの修正された第1のシーケンスは、コンパイルされたシェーダの第1のシーケンスの2つのバージョンとして格納される。続いて、サーバシステム114は、オンラインゲームセッションの各々の実行を特徴付ける次の使用統計を収集し、次の使用統計に従って、GPUは、コンパイルされたシェーダの第1のシーケンスの2つのバージョンのうち1つを選択して、複数のオンラインゲームセッションの各々について複数の画像フレームのレンダリングを行い得る。
代替的にいくつかの実現例では、性能基準は第1の性能基準を含み、複数のオンラインゲームセッションは、第1の基準とは別の第2の性能基準に従ってレンダリングおよび実行される。パイプラインオプティマイザ534は、シェーダキャッシュ318が、第1の性能基準をコンパイルされたシェーダの修正された第1のシーケンスと、および第2の性能基準をコンパイルされたシェーダの第1のシーケンスと関連付けることを可能にする。
いくつかの実現例では、シェーダパイプラインオプティマイザ534は、バックグラウンドで2つ以上の性能基準について最適化されたシェーダパイプラインを取得する。性能基準は第1の性能基準を含み、コンパイルされたシェーダの修正された第1のシーケンスは、シェーダキャッシュ内の第1の性能基準と関連して記憶される。コンパイルされたシェーダの修正された第1のシーケンスを識別した後で、シェーダパイプラインオプティマイザ534は、コンパイルされたシェーダの第1のシーケンスの性能を第2の性能基準に関して改良するために、ゲームタイトルと関連付けられた複数のオンラインゲームセッションについて第2の性能基準を識別し、コンパイルされたシェーダの第2のシーケンスを判断する。コンパイルされたシェーダの第2のシーケンスは、第2の性能基準に関連してシェーダキャッシュ318に格納される。
シェーダキャッシュ318がコンパイルされたシェーダの複数のシーケンスを含む場合、複数の性能基準の各々をコンパイルされたシェーダのそれぞれのシーケンスと関連付けるシェーダハッシュテーブル1006を確立し、これを格納する(図11B)。性能基準およびコンパイルされたシェーダの第1のシーケンスは、シェーダハッシュテーブル内で関連付けられている。必要であれば、コンパイルされたシェーダの第1のシーケンスは、複数のバージョンを有し得る。使用統計はユーザ入力情報を含み、第1のシーケンスの複数のバージョンが、ユーザ入力の異なる情報と関連付けられる(図11C)。たとえば、最も人気のあるユーザ入力が第1のユーザ入力(たとえば、ジャンプ)である場合、コンパイルされたシェーダの第1のシーケンスの第1のバージョンが、対応する性能基準を満たすために使用され、最も人気のあるユーザ入力が第2のユーザ入力(たとえば、シューティング)である場合、コンパイルされたシェーダの第1のシーケンスの第2のバージョンが、対応する性能基準を満たすために使用される。さらにいくつかの実現例では、シェーダハッシュテーブルは、使用統計に従ってダイナミックにアップデートされる。
なお、性能基準は、複数のオンラインゲームセッションを実行する過程において、コンパイルされたシェーダの第1のシーケンスの全消費電力、コードサイズ、平均レイテンシ、全キャッシュ使用量、および全メモリ使用量のうち1つ以上に対応する。たとえば、性能基準は、コードサイズが閾値サイズよりも低いことを必要とする。他の例では、性能基準は、使用統計を考慮して、消費電力が閾値電力レベルまで低減されることを必要とする。
いくつかの実現例では、使用統計は、複数のオンラインゲームセッションの各々に対応するコンパイルされたシェーダの第1のシーケンスのユーザ入力、消費電力、1つ以上のゲームレイテンシ、コードサイズ、メモリ使用量およびキャッシュ使用量を含む。特定の例では、使用統計は、複数のオンラインゲームセッションの全消費電力を含む。第1の性能基準および第2の性能基準はそれぞれ、複数のオンラインゲームセッションの応答時間および電力使用量に対応する。複数のオンラインゲームセッションの全消費電力が事前に定義された電力閾値を超えており、低減する必要があるという判断に従って、ゲームアプリケーション528は、コンパイルされたシェーダの第2のシーケンスを選択し、コンパイルされたシェーダの第2のシーケンスを用いて複数のゲームセッションの各々について複数の画像フレームのレンダリングを行って、第2の性能基準に従って複数のオンラインゲームセッションの全消費電力を改良する。
図11Aは、いくつかの実現例に係る、パイプラインされたシェーダを最適化するプロセスの例を示す図である。ゲームタイトルに関連する複数のオンラインゲームセッションは、OpenGLレンダリングパイプラインを用いて実行される。OpenGLレンダリングパイプラインは少なくとも、頂点処理(たとえば、スクリーン空間内への頂点の変形)、プリミティブ処理(たとえば、クリップされ間引かれたプリミティブへの頂点の編成)、ラスタ化(たとえば、プリミティブのピクセルフラグメントへのラスタ化)、フラグメント処理(たとえば、各ピクセルにおいて色を計算するためのフラグメントのシェーディング)、およびピクセル処理(たとえば、フラグメントのそれらのピクセル位置におけるフレームバッファへのブレンディング)を含む処理のサブセットを含む。特定の例では、OpenGLレンダリングパイプラインは、オンラインゲームセッションの各々について画像フレームをレンダリングするために9つの連続したパイプライン処理またはステージを含む。これらの9つの連続したパイプラインステージは、以下のサブセットまたは全てを含む。
●頂点アレイデータを準備するための頂点仕様1102。
●各頂点に作用するための頂点シェーダ1104。
●必要に応じて頂点データのパッチをより小さなプリミティブに細分するためのテッセレーション1106。
●必要に応じてより小さなプリミティブを出力プリミティブに変換するための幾何学シェーダ1108。
●変形フィードバック、プリミティブクリッピング、透視除算、ビューポート変換を含むがこれらに限定されない、最新のステージの出力プリミティブの調整および異なる位置への発送のための頂点後処理1110。
●出力プリミティブを個々の基本プリミティブのシーケンスに分割するためのプリミティブアセンブリ1112。
●プリミティブのサンプルカバレッジに基づいて個々のプリミティブを個別のエレメント(フラグメントとも呼ばれる)に分解するためのラスタ化1114。
●ラスタ化によって生成された各フラグメントを色のセットおよび1つの深度値に処理するためのフラグメントシェーダ1116。
●エンコーダ142によって処理可能なゲームプレーマルチメディアコンテンツに色のセットおよび1つの深度値を処理するための、たとえば、ピクセルオーナーシップテスト、シザーテスト、マルチサンプル処理、ステンシルテスト、深度テスト、オクルージョンクエリアップデート、ブレンディング、sRGB変換、ディザリング、論理演算、および書込みマスク論理演算を含むがこれらに限定されない、標準化、速度および/または圧縮のためのプリサンプル処理1118。
オンラインゲームセッションのサブセットを実行するように割当てられた各GPU140は、オンラインゲームセッションのサブセットの各セッションについて、9つの連続したパイプラインステージを実行する。いくつかの実現例では、頂点シェーダ1104、テッセレーション1106、幾何学シェーダ1108およびフラグメントシェーダ1116の各々は、プログラム可能なシェーダのそれぞれのセットを含む。プログラム可能なシェーダのそれぞれのセット内のシェーダについて、シェーダパイプラインオプティマイザ534は、それぞれのシェーダを修正するオプションを有しており、これによって、シェーダパイプラインの修正されたシーケンスを生成する。
より具体的には、一例では、ゲームアプリケーション528は複数のゲームセッションを実行し、コンパイルされたシェーダの第1のシーケンスを用いて複数のオンラインゲームセッションの各々について、複数の画像フレームをレンダリングする。コンパイルされたシェーダの第1のシーケンスは、プログラム可能なシェーダである頂点シェーダ1104A、テッセレーションシェーダ1106A、幾何学シェーダ1108およびフラグメントシェーダ1116Aを含む。複数のオンラインゲームセッションがフォアグラウンドで実行される一方で、シェーダパイプラインオプティマイザ534は、ゲームタイトルと関連付けられた複数のオンラインゲームセッションについて性能基準を識別し、オンラインゲームセッションの各々を特徴付ける使用統計を収集する。その結果、シェーダパイプラインオプティマイザ534は、コンパイルされたシェーダの第1のシーケンスの性能を性能基準に関して改良するために、コンパイルされたシェーダの第1のシーケンス内の頂点シェーダ1104Aおよびテッセレーションシェーダ1106Aを修正すると判断して、コンパイルされたシェーダの修正された第1のシーケンスを生成する。
具体的には、シェーダパイプラインオプティマイザ534は、コンパイルされたシェーダの修正された第1のシーケンス内の幾何学シェーダ1108Aおよびフラグメントシェーダ1116Aを維持しつつ、頂点シェーダ1104Aおよびテッセレーションシェーダ1106Aを頂点シェーダ1104Nおよびテッセレーションシェーダ1106Bと置換える。コンパイルされたシェーダの修正された第1のシーケンスはその後、性能基準に関連してシェーダキャッシュに格納される。
図11Bは、いくつかの実現例に係る、コンパイルされたシェーダの複数のシーケンスを複数の性能基準と関連付けるシェーダハッシュテーブル1006を示す図である。図11Cは、いくつかの実現例に係る、コンパイルされたシェーダのシーケンスの複数のバージョンを複数のユーザ入力と関連付けるシェーダハッシュテーブル1180を示す図である。シェーダキャッシュ318がコンパイルされたシェーダの複数のシーケンスを含む場合、複数の性能基準の各々をコンパイルされたシェーダのそれぞれのシーケンスと関連付けるシェーダハッシュテーブル1006を確立し、これを格納する。たとえば、性能基準(性能基準1)とコンパイルされたシェーダの第1のシーケンスとは、シェーダハッシュテーブルにおいて関連付けられる。必要であれば、コンパイルされたシェーダの第1のシーケンスは、異なる仕様統計に対応する複数のバージョンを有し得る。いくつかの実現例では、使用統計はユーザ入力情報を含み、第1のシーケンスの複数のバージョンがユーザ入力の異なる情報と関連付けられる。たとえば、最も人気のあるユーザ入力が第1のユーザ入力(たとえば、ジャンプ)である場合、コンパイルされたシェーダの第1のシーケンスの第1のバージョンが、対応する性能基準を満たすために使用され、最も人気のあるユーザ入力が第2のユーザ入力(たとえば、シューティング)である場合、コンパイルされたシェーダの第1のシーケンスの第2のバージョンが、対応する性能基準を満たすために使用される。さらにいくつかの実現例では、シェーダハッシュテーブル1050は、使用統計に従ってダイナミックにアップデートされる。
図12は、いくつかの実現例に係る、(たとえば、画像レンダリングのバックグラウンドでのパイプラインされたシェーダの最適化を含む)複数のオンラインゲームセッションについて画像フレームをレンダリングする方法1200の例を示すフローチャートである。方法1300は必要であれば、コンピュータメモリまたは非一時的なコンピュータ可読記憶媒体(たとえば、図5Aのシェーダパイプラインオプティマイザ534)に格納され、かつ、サーバシステム114の1つ以上のプロセッサによって実行される命令によって制御される。コンピュータ可読記憶媒体は、磁気もしくは光学ディスク記憶装置、フラッシュメモリなどの固体記憶装置、または他の不揮発性メモリデバイスもしくはデバイスを有し得る。コンピュータ可読記憶媒体に格納される命令は、ソースコード、アセンブリ言語コード、オブジェクトコード、または1つ以上のプロセッサによって解釈される他の命令フォーマットのうち1つ以上を含み得る。方法1200におけるいくつかの動作は組合わされてもよい、および/または、いくつかの動作の順番は変更されてもよい。
方法1200は、サーバシステム114において実現される。サーバシステム114は、1つ以上のCPU138と、1つ以上のGPU140と、プログラムの実行中にCPUおよび/またはGPUによる使用のためのプログラムおよびデータを格納するメインダイナミックメモリ144と、シェーダキャッシュ318とを備える。1つ以上のCPUは、ゲームタイトルについて複数のオンラインゲームセッションを並行して実行する(1202)。1つ以上のCPUは、GPU140に、ユーザリクエストまたは入力に応答して複数のオンラインゲームセッションの各々について連続する画像フレームをレンダリングするように命令する。1つ以上のGPUはその後、コンパイルされたシェーダの第1のシーケンスを用いて、複数のオンラインゲームセッションの各々について複数の画像をレンダリングする(1204)。いくつかの実現例では、複数のオンラインゲームセッションは、ゲームタイトルについてCPUおよびGPUによって処理される全てのオンラインゲームセッションからサンプリングされる。
サーバシステム114は、複数のオンラインゲームセッションを実行しつつ、ゲームタイトルと関連付けられた複数のオンラインゲームセッションについて性能基準を識別し(1206)、オンラインゲームセッションの各々の実行を特徴付ける使用統計を収集する(1208)。いくつかの実現例では、性能基準は、複数のオンラインゲームセッションの実行の過程におけるコンパイルされたシェーダの第1のシーケンスの全消費電力、コードサイズ、平均レイテンシ、全キャッシュ使用量、および全メモリ使用量のうち1つ以上に対応する。いくつかの実現例では、使用統計は、複数のオンラインゲームセッションの各々に対応するコンパイルされたシェーダの第1のシーケンスのユーザ入力、消費電力、1つ以上のゲームレイテンシ、コードサイズ、メモリ使用量およびキャッシュ使用量を含む。
サーバシステム114は、コンパイルされたシェーダの第1のシーケンスの性能を性能基準に関して改良するためにコンパイルされたシェーダの第1のシーケンス内の第1のシェーダを修正して(1210)、コンパイルされたシェーダの修正された第1のシーケンスを生成する。いくつかの実現例では、コンパイルされたシェーダの第1のシーケンスの性能を性能基準に関して改良するために、コンパイルされたシェーダの第1のシーケンス内の第2のシェーダが、第1のシェーダに加えて修正される。
いくつかの実現例では、コンパイルされたシェーダの修正された第1のシーケンスは、シェーダキャッシュ内のコンパイルされたシェーダの第1のシーケンスに置換わる。代替的にいくつかの実現例では、オンラインゲームセッションの実行で使用されるコンパイルされたシェーダの第1のシーケンスは、コンパイルされたシェーダの第1のシーケンスの第1のバージョンとしてシェーダキャッシュに格納され、コンパイルされたシェーダの修正された第1のシーケンスは、コンパイルされたシェーダの第1のシーケンスの第2のバージョンとしてシェーダキャッシュに格納される。次のゲームコンテンツレンダリング中に、たとえば次のユーザ入力に応答して、サーバシステム114は、オンラインゲームセッションの各々の次の実行について特定の性能基準を識別し、特定の性能基準に従って、コンパイルされたシェーダの第1のシーケンスの第1および第2のバージョンを選択して、複数のオンラインゲームセッションの各々について複数の画像フレームをレンダリングする。
いくつかの実現例では、コンパイルされたシェーダの第1のシーケンス内の第1のシェーダを修正するために、サーバシステム114は、複数のオンラインゲームセッションの性能が性能基準を満たすように代替的なシェーダオプションのグループから代替的なシェーダを選択して、コンパイルされたシェーダの第1のシーケンス内の第1のシェーダに置換える。その結果、コンパイルされたシェーダの修正された第1のシーケンスは、代替的なシェーダを含む。なお、いくつかの実現例では、代替的なシェーダオプションのグループは、シェーダライブラリサーバ124から提供される。状況によっては、代替的なシェーダオプションのグループは、サーバシステム114上で実行されるゲームタイトルを管理する管理者ユーザに提示され、サーバシステム114は、管理者ユーザがログオンしたクライアントデバイス102を介して、管理者ユーザから代替的なシェーダのユーザ選択を受信する。
いくつかの実現例では、管理者ユーザは、管理者クライアントデバイス102上で実行されるゲームアプリケーション上の管理者アカウントにログオンし、性能基準および使用統計に基づいて、コンパイルされたシェーダの第1のシーケンスを手動で最適化する。この最適化プロセスの間、サーバシステム114は、コンパイルされたシェーダの第1のシーケンス内の第1のシェーダを修正するユーザ命令を受信し、そのため、第1のシェーダは、ユーザ命令に応答して、コンパイルされたシェーダの第1のシーケンスで修正される。逆に、いくつかの実現例では、コンパイルされたシェーダの第1のシーケンス内のシェーダは、コンパイルされたシェーダの第1のシーケンスの性能を性能基準に関して改良するために、自動的にユーザの介入なしで修正される。
いくつかの実現例では、GPUがコンパイルされたシェーダの第1のシーケンスを用いて複数のオンラインゲームセッションのために画像フレームをレンダリングする前に、サーバシステム114が、複数のオンラインゲームセッションが性能基準に従ってレンダリングされる必要があると判断する。性能基準を考慮して、コンパイルされたシェーダの第1のシーケンスは、複数のオンラインゲームセッションの各々について複数の画像フレームをレンダリングするために判断される。
いくつかの実現例では、性能基準は第1の性能基準を含み、複数のオンラインゲームセッションは、第1の基準とは別の第2の性能基準に従ってレンダリングおよび実行される。サーバシステム114は、第1の性能基準をコンパイルされたシェーダの修正された第1のシーケンスと関連付け、第2の性能基準をコンパイルされたシェーダの第1のシーケンスと関連付ける。
いくつかの実現例では、性能基準は第1の性能基準を含み、コンパイルされたシェーダの修正された第1のシーケンスは、シェーダキャッシュに第1の性能基準と関連して格納される。さらにいくつかの実現例では、サーバシステム114は複数のオンラインゲームセッションを実行しつつ、コンパイルされたシェーダの第1のシーケンスの性能を第2の性能基準に関して改良するために、ゲームタイトルと関連付けられた複数のオンラインゲームセッションについて第2の性能基準を識別し、コンパイルされたシェーダの第2のシーケンスを判断する。コンパイルされたシェーダの第2のシーケンスは、第2の性能基準に関連してシェーダキャッシュに格納される。さらにいくつかの実現例では、使用統計は、複数のオンラインゲームセッションの全消費電量を含み、第1の性能基準および第2の性能基準はそれぞれ、複数のオンラインゲームセッションの応答時間および電力使用量を最適化する。複数のオンラインゲームセッションの全消費電力が事前に定義された電力閾値を超えているという判断に従って、サーバシステム114は、コンパイルされたシェーダの第2のシーケンスを選択し、コンパイルされたシェーダの第2のシーケンスを用いて、複数のオンラインゲームセッションの各々について複数の画像フレームをレンダリングする。
いくつかの実現例では、サーバシステム114は、複数の性能基準の各々をコンパイルされたシェーダのそれぞれのシーケンスと関連付けるシェーダハッシュテーブルを確立する。シェーダハッシュに従って、性能基準とコンパイルされたシェーダの第1のシーケンスとがシェーダハッシュテーブルで関連付けられる。シェーダハッシュテーブルは、シェーダキャッシュに格納される。さらにいくつかの実現例では、使用統計はユーザ入力情報を含む。コンパイルされたシェーダの第1のシーケンスの複数のバージョンが、シェーダハッシュテーブルにおいてユーザ入力情報と関連付けられる。さらにいくつかの実現例では、サーバシステム114は、たとえばシェーダキャッシュ内のコンパイルされたシェーダの第1のシーケンスをコンパイルされたシェーダの修正された第1のシーケンスと置換えることによって、使用統計に従ってシェーダハッシュテーブルをダイナミックにアップデートする。
なお、シェーダ最適化は、CPUおよびGPUを有する1つのサーバだけでなく、複数のサーバ(すなわち、複数のCPUおよびGPUを有する)を含むサーバシステムにも適用可能である。ゲームコンテンツレンダリングで使用されるコンパイルされたシェーダのシーケンスの最適化については、図10および図11A~図11Cを参照してより詳細に説明されている。
なお、図12の動作が説明された特定の順序は例示に過ぎず、説明された順序は動作を実行可能な唯一の順序を示すと意図されたものではない。当業者であれば、本明細書で説明されたコンパイルされたシェーダのシーケンスを最適化するさまざまな方法が分かるであろう。さらに、方法800および900(たとえば、図8A~図8Bおよび900)に関して本明細書で説明された他のプロセスの詳細も、図12に関して説明された方法1200に類似の態様で適用可能である。簡潔に説明するために、これらの詳細はここでは繰り返さない。
本出願のいくつかの実現例は、1つ以上のCPUと、複数のGPUと、プログラムの実行中にCPUおよび/またはGPUによる使用のためのプログラムおよびデータを格納するメインダイナミックメモリと、不揮発性メモリに格納されたスタティックメモリプールと、スタティックメモリプールを管理するように構成されたメモリコントローラとを備えるサーバシステムに向けられている。GPUの各々はローカルキャッシュを含み、メモリコントローラを介してスタティックメモリプールにアクセスするように構成される。サーバシステムは、1つ以上のCPU上でゲームタイトルについて複数のゲームセッションを並行して実行する。複数のゲームセッションの各々は、スタティックデータ項目と関連付けられ、スタティックデータ項目を用いてそれぞれのGPUによって実行可能なグラフィックス処理を必要とし、スタティックデータ項目は、スタティックメモリプールに格納される。1つ以上のCPU上で実行されるゲームセッションのサブセットの各々について、サーバシステムは、グラフィックス処理をそれぞれのGPUに割当て、それぞれのGPUによって、スタティックデータ項目のコピーをメモリコントローラにリクエストし、スタティックメモリプールから読出されたスタティックデータ項目の第1をメモリコントローラから受信し、それぞれのGPUによって、スタティックデータ項目のコピーを用いてグラフィックス処理を実行し、それぞれのゲームセッションに関連してグラフィックス処理の結果をローカルに格納する。
要約すると、本出願のいくつかの実現例は、1つ以上のCPUと、複数のGPUと、プログラムの実行中にCPUおよび/またはGPUによる使用のためのプログラムおよびデータを格納するメインダイナミックメモリと、不揮発性メモリに格納されたスタティックメモリプールと、スタティックメモリプールとを管理するように構成されたメモリコントローラとを備えるサーバシステム上でゲームタイトルをロードすることに向けられている。CPUは、ゲームタイトルに対応する実行可能なゲームプログラムをメインダイナミックメモリにロードする。CPUは、複数のオンラインゲームセッションを並行して実行するように構成される。ゲームセッションの各々は実行可能なゲームプログラムに対応し、それぞれのオンラインゲームセッションをレンダリングするように割当てられたそれぞれのGPUによって実行可能なグラフィックス処理を必要とする。CPUは、複数のゲームセッションのグラフィックス処理で使用されるスタティックデータ項目を識別する。メモリコントローラは、スタティックデータ項目をスタティックメモリプールに格納し、オンラインゲームセッションを実行しているGPUがグラフィックス処理を実行しつつスタティックデータ項目にアクセスすることを可能にする。
本出願のいくつかの実現例は、ゲームタイトルのための同時画像レンダリングおよびシェーダ最適化に向けられている。サーバシステムは、1つ以上のCPUと、複数のGPUと、プログラムの実行中にCPUおよび/またはGPUによる使用のためのプログラムおよびデータを格納するメインダイナミックメモリと、シェーダキャッシュとを備える。CPUは、ゲームタイトルについて複数のオンラインゲームセッションを並行して実行する。GPUは、コンパイルされたシェーダの第1のシーケンスを用いて、複数のオンラインゲームセッションの各々について複数の画像フレームをレンダリングする。サーバシステムは、複数のオンラインゲームセッションを実行しつつ、コンパイルされたシェーダの第1のシーケンスの性能を性能基準に関して改良するために、ゲームタイトルと関連付けられた複数のオンラインゲームセッションについて性能基準を識別し、オンラインゲームセッションの各々の実行を特徴付ける使用統計を収集し、コンパイルされたシェーダの第1のシーケンス内の第1のシェーダを修正して、コンパイルされたシェーダの修正された第1のシーケンスを生成する。
さまざまな実現例を詳細に参照し、それらの例を添付の図面に示した。上記詳細な説明において、本発明および記載の実現例の十分な理解のため、多数の具体的な詳細を説明した。しかしながら、これらの具体的な詳細がなくても、本発明を実行し得る。その他の場合、周知の方法、プロシージャ、コンポーネント、および回路は、実現例の態様を不必要にあいまいにしないように、詳細に説明しなかった。
さまざまな構成要素を説明するために、「第1の」、「第2の」といった用語が本明細書において使用される場合があるが、これらの構成要素は、これらの用語によって限定されるべきではないと理解されるだろう。これらの用語は、ある構成要素を別の構成要素と区別するために使用されるにすぎない。たとえば、第1のデバイスの名称がすべて矛盾なく変更され、第2のデバイスの名称がすべて矛盾なく変更される場合に限り、説明の意味を変更することなく、第1のデバイスを第2のデバイスと称することができ、同様に、第2のデバイスを第1のデバイスと称することができる。第1のデバイスおよび第2のデバイスは両方ともデバイスであるが、同じデバイスではない。
本明細書で使用される用語は、特定の実現例を説明する目的のためだけのものであり、特許請求の範囲を制限すると意図されたものではない。実現例および添付の請求の範囲の説明において使用されるように、単数形「a」、「an」、および「the」は、文脈が明らかに他のものを示さない限り、複数形も含むことを意図する。本明細書において使用される用語「および/または(and/or)」は、関連する記載された項目のうちの1つ以上のいずれか、およびすべての考えられる組み合わせを指し、それらを包含すると理解されるだろう。用語「備える/含む(comprises)」および/または「備える/含む(comprising)」は、本明細書において使用されるとき、記載の特徴、整数、ステップ、動作、構成要素、および/またはコンポーネントの存在を具体的に挙げるが、1つ以上のその他の特徴、整数、ステップ、動作、構成要素、コンポーネント、および/またはそれらのグループの存在もしくは追加を排除しないと理解されるだろう。
本明細書で使用するとき、「~である場合(if)」という用語は、文脈に応答して、記載の先行条件が真である「ときに(when)」、「すると(upon)」、「と判定することに応答して(in response to determination)」、「という判定に従って(in accordance with a determination)」、または「と検出することに応答して(in response to detecting)」を意味すると解釈され得る。同様に、「記載の先行条件が真であると判定された場合(if it is determined [that a stated condition precedent is true])」、「記載の先行条件が真である場合(if [a stated condition precedent is true])」、「記載の先行条件が真であるとき(when [a stated condition precedent is true])」という句は、文脈に応じて、記載の先行条件が真である「と判定すると(upon determining)」、「と判定することに応答して(in response to determining)」、「という判定に応答して(in accordance with a determination)」、「と検出すると(upon detecting)」、または「と検出することに応答して(in response to detecting)」を意味すると解釈され得る。
具体的な実現例を参照して、説明する目的で以上の説明を記載した。しかしながら、例示的な上記の議論は、網羅的であることまたは開示される正確な形態に請求項の範囲を限定することを意図しない。上記教示に鑑みて多数の修正例および変更例が可能である。実現例は、請求項の基礎をなす原則およびそれらの実践的な適用例を最良に説明し、それにより、当業者が、考察された特定の使用に適するようなさまざまな修正例とともに本発明およびさまざまな実現例を最良に用いることができるようにするために、選択され記載された。

Claims (20)

  1. オンラインゲームセッションのために画像フレームをレンダリングする方法であって、
    1つ以上のCPU上で、ゲームタイトルについて複数のオンラインゲームセッションを並行して実行することと、
    1つ以上のGPUが、複数のコンパイルされたシェーダの第1のシーケンスを用いて、前記複数のオンラインゲームセッションの各々について複数の画像フレームをレンダリングすることと
    前記ゲームタイトルと関連付けられた前記複数のオンラインゲームセッションについて、前記複数のコンパイルされたシェーダの第1のシーケンスの最適化において満たされる1つ以上の性能基準を識別することと、
    前記複数のオンラインゲームセッションの各々の実行を特徴付けるリアルタイム使用統計を収集することと、
    前記リアルタイム使用統計に基づいて、前記複数のオンラインゲームセッションについて前記複数のコンパイルされたシェーダの第1のシーケンスの性能を前記1つ以上の性能基準に関して最適化するために、前記複数のコンパイルされたシェーダの第1のシーケンスから前記1つ以上の性能基準に従って選択された1つ以上のシェーダを修正することによって、前記複数のコンパイルされたシェーダの第1のシーケンスにおいて前記1つ以上のシェーダが修正された複数のコンパイルされたシェーダの修正された第1のシーケンスを生成することとを含む、方法。
  2. モリのシェーダキャッシュに格納された前記複数のコンパイルされたシェーダの第1のシーケンスを前記修正された第1のシーケンスと置換えることをさらに含む、請求項1に記載の方法。
  3. 前記複数のコンパイルされたシェーダの第1のシーケンスの第1のバージョンとして、前記複数のコンパイルされたシェーダの第1のシーケンスを前記メモリのシェーダキャッシュに格納することと、
    前記複数のコンパイルされたシェーダの第1のシーケンスの第2のバージョンとして、前記修正された第1のシーケンスを前記シェーダキャッシュに格納することと、
    前記複数のオンラインゲームセッションの各々の実行を特徴付ける次のリアルタイム使用統計を収集することと、
    前記次のリアルタイム使用統計に従って、前記複数のコンパイルされたシェーダの第1のシーケンスの前記第1および第2のバージョンのうち1つを選択して、前記複数のオンラインゲームセッションの各々について前記複数の画像フレームをレンダリングすることとを含む、請求項2に記載の方法。
  4. 前記複数のコンパイルされたシェーダの第1のシーケンス内の前記1つ以上のシェーダを修正することはさらに、前記複数のオンラインゲームセッションの性能が前記1つ以上の性能基準を満たすように、代替的なシェーダオプションのグループから代替的なシェーダを選択して、前記複数のコンパイルされたシェーダの第1のシーケンス内の第1のシェーダを置換えることを含み、前記修正された第1のシーケンスは、前記代替的なシェーダを含む、請求項1~3のいずれか1項に記載の方法。
  5. 前記複数のコンパイルされたシェーダの第1のシーケンス内の第1のシェーダを修正するユーザ命令を受信することをさらに含み、前記第1のシェーダは、前記ユーザ命令に応答して、前記複数のコンパイルされたシェーダの第1のシーケンスで修正される、請求項1~4のいずれか1項に記載の方法。
  6. 前記複数のコンパイルされたシェーダの第1のシーケンスの性能を前記1つ以上の性能基準に関して最適化するために前記複数のコンパイルされたシェーダの第1のシーケンス内の第1のシェーダは自動的にユーザの介入なしで修正される、請求項1~のいずれか1項に記載の方法。
  7. 記修正された第1のシーケンスを生成することはさらに、前記複数のコンパイルされたシェーダの第1のシーケンスの性能を前記1つ以上の性能基準に関して最適化するために前記複数のコンパイルされたシェーダの第1のシーケンス内の第2のシェーダを修正することを含む、請求項1~6のいずれか1項に記載の方法。
  8. 前記複数のオンラインゲームセッションは前記1つ以上の性能基準に従ってレンダリングされる必要があると判断することと、
    前記複数のオンラインゲームセッションの各々について、前記複数の画像フレームをレンダリングするために前記複数のコンパイルされたシェーダの第1のシーケンスを識別することとをさらに含む、請求項1~7のいずれか1項に記載の方法。
  9. 前記1つ以上の性能基準は第1の性能基準を含み、前記複数のオンラインゲームセッションは、前記第1の性能基準とは異なる第2の性能基準に従ってレンダリングおよび実行され、前記方法はさらに、
    前記第1の性能基準を、前記修正された第1のシーケンスと関連付けることと、
    前記第2の性能基準を、前記複数のコンパイルされたシェーダの第1のシーケンスと関連付けることとを含む、請求項1~8のいずれか1項に記載の方法。
  10. 前記1つ以上の性能基準は第1の性能基準を含み、前記方法はさらに、
    記修正された第1のシーケンスを前記第1の性能基準と関連して前記メモリのシェーダキャッシュに格納することを含む、請求項2または3に記載の方法。
  11. 前記複数のオンラインゲームセッションを実行しつつ、
    前記ゲームタイトルと関連付けられた前記複数のオンラインゲームセッションについて第2の性能基準を識別することと、
    前記複数のコンパイルされたシェーダの第1のシーケンスの性能を前記第2の性能基準に関して最適化するために複数のコンパイルされたシェーダの第2のシーケンスを判断することと、
    前記第2の性能基準と関連して、前記複数のコンパイルされたシェーダの第2のシーケンスを前記シェーダキャッシュに格納することとをさらに含む、請求項10に記載の方法。
  12. 前記リアルタイム使用統計は前記複数のオンラインゲームセッションの全消費電力を含み、前記第1の性能基準および前記第2の性能基準はそれぞれ、前記複数のオンラインゲームセッションの応答時間および電力使用量を最適化し、前記方法はさらに、
    前記複数のオンラインゲームセッションの前記全消費電力が事前に定義された電力閾値を超えているという判断に従って、前記複数のコンパイルされたシェーダの第2のシーケンスを選択し、前記複数のコンパイルされたシェーダの第2のシーケンスを用いて、前記複数のオンラインゲームセッションの各々について前記複数の画像フレームをレンダリングすることを含む、請求項11に記載の方法。
  13. 複数の性能基準の各々を複数のコンパイルされたシェーダのそれぞれのシーケンスと関連付けるシェーダハッシュテーブルを確立することをさらに含み、前記確立することは、前記シェーダハッシュテーブルにおいて前記1つ以上の性能基準と前記複数のコンパイルされたシェーダの第1のシーケンスとを関連付けることを含み、前記方法はさらに、
    前記シェーダハッシュテーブルを前記メモリのシェーダキャッシュに格納することを含む、請求項2、3、または10~12のいずれか1項に記載の方法。
  14. 前記リアルタイム使用統計はユーザ入力情報を含み、前記方法はさらに、
    前記シェーダハッシュテーブルにおいて、前記複数のコンパイルされたシェーダの第1のシーケンスの複数のバージョンを前記ユーザ入力情報と関連付けることを含む、請求項13に記載の方法。
  15. 前記リアルタイム使用統計に従って前記シェーダハッシュテーブルをダイナミックにアップデートすることをさらに含み、前記アップデートすることは、前記シェーダキャッシュ内の前記複数のコンパイルされたシェーダの第1のシーケンスを、前記修正された第1のシーケンスと置換えることを含む、請求項13に記載の方法。
  16. 前記リアルタイム使用統計は、前記複数のオンラインゲームセッションの各々に対応する前記複数のコンパイルされたシェーダの第1のシーケンスのユーザ入力、消費電力、1つ以上のゲームレイテンシ、コードサイズ、メモリ使用量およびキャッシュ使用量のうち少なくとも1つまたは全てを含む、請求項1~15のいずれか1項に記載の方法。
  17. 前記1つ以上の性能基準は、前記複数のオンラインゲームセッションを実行する過程における前記複数のコンパイルされたシェーダの第1のシーケンスの全消費電力、コードサイズ、平均レイテンシ、全キャシュ使用量、および全メモリ使用量のうち1つ以上に対応する、請求項1~16のいずれか1項に記載の方法。
  18. 前記複数のオンラインゲームセッションは、前記ゲームタイトルについて、前記1つ以上のCPUおよび前記1つ以上のGPUによって処理されるオンラインゲームセッションの全てからサンプリングされる、請求項1~17のいずれか1項に記載の方法。
  19. 1つ以上のCPUと、
    複数のGPUと、
    前記1つ以上のCPUおよび/または前記複数のGPUによる実行のための1つ以上のプログラムを格納するメモリとを備え、前記1つ以上のプログラムは、請求項1~18のいずれか1項に記載の方法を実現するための命令を含む、サーバシステム。
  20. サーバシステムの1つ以上のプロセッサに、請求項1~18のいずれか1項に記載の方法を実現するための命令を実行させる、プログラム。
JP2020529148A 2018-04-10 2019-04-09 ゲームレンダリングにおけるメモリ管理 Active JP7073494B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022078311A JP2022122875A (ja) 2018-04-10 2022-05-11 ゲームレンダリングにおけるメモリ管理

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862655688P 2018-04-10 2018-04-10
US62/655,688 2018-04-10
PCT/US2019/026611 WO2019199848A1 (en) 2018-04-10 2019-04-09 Memory management in gaming rendering

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022078311A Division JP2022122875A (ja) 2018-04-10 2022-05-11 ゲームレンダリングにおけるメモリ管理

Publications (2)

Publication Number Publication Date
JP2021517997A JP2021517997A (ja) 2021-07-29
JP7073494B2 true JP7073494B2 (ja) 2022-05-23

Family

ID=66397450

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020529148A Active JP7073494B2 (ja) 2018-04-10 2019-04-09 ゲームレンダリングにおけるメモリ管理
JP2022078311A Pending JP2022122875A (ja) 2018-04-10 2022-05-11 ゲームレンダリングにおけるメモリ管理

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022078311A Pending JP2022122875A (ja) 2018-04-10 2022-05-11 ゲームレンダリングにおけるメモリ管理

Country Status (6)

Country Link
US (3) US11110348B2 (ja)
EP (3) EP3701489B1 (ja)
JP (2) JP7073494B2 (ja)
KR (3) KR20230173223A (ja)
CN (1) CN111417978A (ja)
WO (1) WO2019199848A1 (ja)

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10616086B2 (en) * 2012-12-27 2020-04-07 Navidia Corporation Network adaptive latency reduction through frame rate control
US10238965B2 (en) * 2016-04-28 2019-03-26 Sony Interactive Entertainment America Llc Cloud gaming device handover
US10456672B2 (en) 2016-05-19 2019-10-29 Google Llc Methods and systems for facilitating participation in a game session
EP4336800A2 (en) 2017-10-10 2024-03-13 Google LLC Distributed sample-based game profiling with game metadata and metrics and gaming api platform supporting third-party content
US11140207B2 (en) 2017-12-21 2021-10-05 Google Llc Network impairment simulation framework for verification of real time interactive media streaming systems
EP4276814A3 (en) 2018-03-22 2023-12-20 Google LLC Methods and systems for rendering and encoding content for online interactive gaming sessions
US11077364B2 (en) 2018-04-02 2021-08-03 Google Llc Resolution-based scaling of real-time interactive graphics
US11872476B2 (en) 2018-04-02 2024-01-16 Google Llc Input device for an electronic system
WO2019194953A1 (en) 2018-04-02 2019-10-10 Google Llc Methods, devices, and systems for interactive cloud gaming
US10887574B2 (en) 2018-07-31 2021-01-05 Intel Corporation Selective packing of patches for immersive video
WO2020102493A1 (en) 2018-11-16 2020-05-22 Google Llc Shadow tracking of real-time interactive simulations for complex system analysis
CN112348732B (zh) * 2019-08-08 2023-11-17 华为技术有限公司 基于图形渲染管线的模型推理方法、装置及存储介质
US11321900B2 (en) * 2019-11-22 2022-05-03 Sony Interactive Entertainment Inc. Systems and methods for adjusting one or more parameters of a GPU
US11798118B2 (en) 2019-12-20 2023-10-24 Intel Corporation Asset caching in cloud rendering computing architectures
US11957974B2 (en) * 2020-02-10 2024-04-16 Intel Corporation System architecture for cloud gaming
EP4195031A1 (en) * 2020-03-09 2023-06-14 Google LLC Efficient processing of neural network models
CN111736850B (zh) * 2020-07-21 2020-12-22 腾讯科技(深圳)有限公司 图像处理方法、装置、服务器及介质
US20220129295A1 (en) 2020-10-25 2022-04-28 Meta Platforms, Inc. Server-side hosted environment for a cloud gaming system
US11722393B2 (en) * 2020-12-15 2023-08-08 Caterpillar Inc. Systems and methods for managing on-site communications for latency-dependent applications
CN112416605B (zh) * 2020-12-16 2021-11-05 北京蔚领时代科技有限公司 一种基于互联网的分布式显卡调用方法及装置
US11726755B2 (en) * 2021-04-09 2023-08-15 Nvidia Corporation Caching of compiled shader programs in a cloud computing environment
CN113082705B (zh) * 2021-05-08 2023-09-15 腾讯科技(上海)有限公司 游戏场景切换方法、装置、计算机设备及存储介质
CN113332706B (zh) * 2021-06-18 2024-02-20 深圳市景创科技电子股份有限公司 一种在WiFi网络下处理游戏手柄指令的方法和装置
US11900136B2 (en) 2021-07-28 2024-02-13 Sony Interactive Entertainment LLC AoT compiler for a legacy game
CN115937380A (zh) * 2021-08-24 2023-04-07 荣耀终端有限公司 图形渲染方法、装置及存储介质
CN116075555A (zh) 2021-09-02 2023-05-05 株式会社Lg化学 热塑性树脂组合物、制备该热塑性树脂组合物的方法和包含该热塑性树脂组合物的成型制品
US11727531B2 (en) 2021-09-23 2023-08-15 Google Llc Creating secure pipeline cache objects using differential privacy techniques
US20230127685A1 (en) * 2021-10-26 2023-04-27 Sony Interactive Entertainment LLC Gameplay roulette
CN114115873A (zh) * 2021-11-18 2022-03-01 网易(杭州)网络有限公司 着色器数据处理方法、装置、设备及存储介质
JP7454003B2 (ja) * 2022-02-16 2024-03-21 任天堂株式会社 情報処理プログラム、情報処理システム、情報処理装置、および情報処理方法
CN114225385B (zh) * 2022-02-25 2022-07-08 腾讯科技(深圳)有限公司 云游戏数据处理方法、装置、设备及存储介质
US20230293986A1 (en) * 2022-03-17 2023-09-21 Bidstack Group PLC Server-side gaming method and system for the delivery of remotely-rendered content comprising impression content
CN117130662A (zh) * 2023-09-19 2023-11-28 摩尔线程智能科技(北京)有限责任公司 一种指令读取方法及l2指令缓存、电子设备和存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015524092A (ja) 2012-04-04 2015-08-20 クゥアルコム・インコーポレイテッドQualcomm Incorporated グラフィックス処理におけるパッチされたシェーディング
US20160171757A1 (en) 2014-12-16 2016-06-16 Selvakumar Panneer Dynamic kernel modification for graphics processing units
JP2017510862A (ja) 2013-12-26 2017-04-13 株式会社スクウェア・エニックス・ホールディングス 描画システム、制御方法、及び記憶媒体
JP2017516207A (ja) 2014-04-21 2017-06-15 クアルコム,インコーポレイテッド グラフィックス処理におけるレンダーターゲットに基づいたフレックスレンダリング
JP2017215997A (ja) 2014-05-14 2017-12-07 インテル・コーポレーション 装置、方法およびシステム

Family Cites Families (145)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5892897A (en) 1997-02-05 1999-04-06 Motorola, Inc. Method and apparatus for microprocessor debugging
US7548238B2 (en) * 1997-07-02 2009-06-16 Nvidia Corporation Computer graphics shader systems and methods
US6393582B1 (en) 1998-12-10 2002-05-21 Compaq Computer Corporation Error self-checking and recovery using lock-step processor pair architecture
US6948092B2 (en) 1998-12-10 2005-09-20 Hewlett-Packard Development Company, L.P. System recovery from errors for processor and associated components
US20060287098A1 (en) 2001-09-28 2006-12-21 Morrow James W System and method for gaming-content configuration and management system
JP2003236251A (ja) 2002-02-15 2003-08-26 Aruze Corp キャラクタ管理システム
US7015909B1 (en) * 2002-03-19 2006-03-21 Aechelon Technology, Inc. Efficient use of user-defined shaders to implement graphics operations
US7711847B2 (en) 2002-04-26 2010-05-04 Sony Computer Entertainment America Inc. Managing users in a multi-user network game environment
US7803052B2 (en) 2002-06-28 2010-09-28 Microsoft Corporation Discovery and distribution of game session information
GB2405599A (en) 2002-07-05 2005-03-09 Dominic Clancy System and method for playing an interactive game using a mobile device
JP3495032B1 (ja) 2002-07-24 2004-02-09 コナミ株式会社 ゲーム進行管理装置、ゲーム用サーバ装置、端末装置、ゲーム進行管理方法及びゲーム進行管理プログラム
US20040198403A1 (en) 2002-07-25 2004-10-07 Pedersen Claus Aagaard Gaming concept for wireless terminals
US8549574B2 (en) 2002-12-10 2013-10-01 Ol2, Inc. Method of combining linear content and interactive content compressed together as streaming interactive video
US9138644B2 (en) 2002-12-10 2015-09-22 Sony Computer Entertainment America Llc System and method for accelerated machine switching
US20060154710A1 (en) 2002-12-10 2006-07-13 Nokia Corporation Method and device for continuing an electronic multi-player game, in case of an absence of a player of said game
US8661496B2 (en) 2002-12-10 2014-02-25 Ol2, Inc. System for combining a plurality of views of real-time streaming interactive video
US10664138B2 (en) 2003-03-14 2020-05-26 Comcast Cable Communications, Llc Providing supplemental content for a second screen experience
US20060178216A1 (en) 2003-07-15 2006-08-10 Shea Mattew T Multi-session user launching and invitation system and method
US7966642B2 (en) 2003-09-15 2011-06-21 Nair Ajith N Resource-adaptive management of video storage
EP1668520A4 (en) 2003-09-19 2007-01-31 Wildtangent Inc COMPOSITE CONSUMPTION OF CONTENT INVENTING METHOD AND DEVICES
US7261798B2 (en) 2004-01-28 2007-08-28 Hamilton Sundstrand Corporation Assembly for maintaining compression for electrical contact of the active area of an electrochemical cell
US8241129B2 (en) 2005-06-20 2012-08-14 Microsoft Corporation Setting up on-line game sessions out of a game context
EP1948335A4 (en) 2005-10-11 2011-02-09 Thq Wireless Inc METHOD AND DEVICE FOR DETECTING DESIRED MULTIPLAYER GAMES FOR PLAYERS
KR20070082395A (ko) 2006-02-16 2007-08-21 엔에이치엔(주) 유알엘을 이용한 플래시 게임 초대 시스템 및 방법
WO2007101198A2 (en) 2006-02-27 2007-09-07 Adra Hosni I System and method for dynamically tracking and state forecasting tagged entities
US20070293319A1 (en) 2006-06-20 2007-12-20 Microsoft Corporation Transfer of Features Between Gaming Devices
US7925485B2 (en) 2006-10-25 2011-04-12 International Business Machines Corporation System and apparatus for managing latency-sensitive interaction in virtual environments
CN101068258B (zh) 2006-12-14 2011-09-21 腾讯科技(深圳)有限公司 一种电子游戏的控制方法及控制系统
US20080220878A1 (en) 2007-02-23 2008-09-11 Oliver Michaelis Method and Apparatus to Create or Join Gaming Sessions Based on Proximity
WO2008104221A1 (en) 2007-02-27 2008-09-04 Telefonaktiebolaget Lm Ericsson (Publ) Method and apparatus for use in multiplayer server-based gaming
KR101422005B1 (ko) 2007-07-04 2014-07-23 엘지전자 주식회사 디스펜서 및 이를 구비하는 냉장고
JP5468193B2 (ja) 2007-08-06 2014-04-09 任天堂株式会社 コントローラカバー
US8235817B2 (en) 2009-02-12 2012-08-07 Sony Computer Entertainment America Llc Object based observation
US8979647B2 (en) 2007-10-26 2015-03-17 Microsoft Technology Licensing, Llc Method of providing player status and ability to join games
US9498714B2 (en) 2007-12-15 2016-11-22 Sony Interactive Entertainment America Llc Program mode switching
US8613673B2 (en) 2008-12-15 2013-12-24 Sony Computer Entertainment America Llc Intelligent game loading
US20100016081A1 (en) 2008-03-20 2010-01-21 Gdi Game Domain International Plc Game server
JP5075727B2 (ja) 2008-04-25 2012-11-21 株式会社日立製作所 ストリーム配信システム及び障害検知方法
US8200795B2 (en) 2008-06-05 2012-06-12 Sony Computer Entertainment Inc. Mobile phone game interface
US20100073712A1 (en) 2008-09-19 2010-03-25 Konica Minolta Systems Laboratory, Inc. Print job assignment method allowing user-prioritization
US9498711B2 (en) 2008-11-04 2016-11-22 Quado Media Inc. Multi-player, multi-screens, electronic gaming platform and system
US20120079080A1 (en) 2009-02-11 2012-03-29 Shervin Pishevar Apparatuses, Methods and Systems For An Interactive Proximity Display Tether With Remote Co-Play
CN101887485A (zh) 2009-05-14 2010-11-17 灰熊(北京)科技有限公司 一种在棋牌游戏中实现稳妥的掉线重连的方法
US8506402B2 (en) 2009-06-01 2013-08-13 Sony Computer Entertainment America Llc Game execution environments
US8621585B2 (en) 2009-06-16 2013-12-31 Z2Live, Inc. Invitation service for multi-device application sessions
US9155963B2 (en) * 2009-11-25 2015-10-13 Disney Enterprises, Inc. Collaborative online ranking
US8352798B2 (en) 2009-12-10 2013-01-08 International Business Machines Corporation Failure detection and fencing in a computing system
CN102195935B (zh) 2010-03-03 2015-07-29 深圳市腾讯计算机系统有限公司 游戏托管系统及方法
JP5730914B2 (ja) 2010-03-05 2015-06-10 ブラス・モンキー・インコーポレイテッドBrass Monkey,Inc. Webブラウザにおける双方向通信および内容制御のシステムおよび方法
US8591334B2 (en) 2010-06-03 2013-11-26 Ol2, Inc. Graphical user interface, system and method for implementing a game controller on a touch-screen device
EP2621594B1 (en) 2010-09-13 2016-08-10 Sony Computer Entertainment America LLC Dual mode program execution and loading
US8788243B2 (en) 2011-02-14 2014-07-22 Disney Enterprises, Inc. Performance metrics gathering from multiple video game platforms
US8814697B2 (en) 2011-04-19 2014-08-26 Sony Computer Entertainment America Llc Method and apparatus for use in preserving a game state
JP5076132B1 (ja) * 2011-05-25 2012-11-21 株式会社スクウェア・エニックス・ホールディングス 描画制御装置、その制御方法、プログラム、記録媒体、描画サーバ、及び描画システム
US9412193B2 (en) * 2011-06-01 2016-08-09 Apple Inc. Run-time optimized shader program
US20130017884A1 (en) 2011-07-13 2013-01-17 Igt Methods and apparatus for providing secure logon to a gaming machine using a mobile device
US8814956B2 (en) 2011-07-14 2014-08-26 Semiconductor Energy Laboratory Co., Ltd. Power storage device, electrode, and manufacturing method thereof
US9167260B2 (en) 2011-08-02 2015-10-20 Advanced Micro Devices, Inc. Apparatus and method for video processing
KR101817652B1 (ko) 2011-09-01 2018-02-22 삼성전자주식회사 게임 스트리밍 데이터 수신 방법 및 그를 위한 장치, 및 게임 스트리밍 데이터 제공 방법 및 그를 위한 서버
WO2013069655A1 (en) * 2011-11-07 2013-05-16 Square Enix Holdings Co., Ltd. Information processing system, control method, program, and recording medium
US9773344B2 (en) * 2012-01-11 2017-09-26 Nvidia Corporation Graphics processor clock scaling based on idle time
EP2808787A4 (en) 2012-01-24 2016-12-14 Sony Interactive Entertainment Inc INFORMATION PROCESSING DEVICE AND INFORMATION PROCESSING SYSTEM
US20130221923A1 (en) 2012-02-23 2013-08-29 Whalen Furniture Manufacturing Inc. Universal charging system and battery pack for video game controllers
US9868062B2 (en) 2012-03-13 2018-01-16 Sony Interactive Entertainment America Llc System, method, and graphical user interface for controlling an application on a tablet
US20130274000A1 (en) 2012-04-11 2013-10-17 Meteor Entertainment, Inc. Modifying use of resources within a cloud-based gaming platform
US9208642B2 (en) 2012-04-23 2015-12-08 Touchspin Gaming Ag Multiplayer slot machine gaming
US20140006517A1 (en) 2012-07-02 2014-01-02 WUPIMA, Inc. System and method for social invitations to facilitate playing and sharing of mobile application or mobile game on mobile device
KR101923113B1 (ko) 2012-07-12 2018-11-28 캠프모바일 주식회사 이동통신 단말기의 메시징 서비스를 이용한 초대정보 처리방법, 이를 수행하는 서비스 서버, 이동통신 단말기 및 컴퓨터로 판독 가능한 기록매체
WO2014022311A2 (en) 2012-07-30 2014-02-06 Google Inc. Access control in communication environments
JP5563633B2 (ja) 2012-08-31 2014-07-30 株式会社スクウェア・エニックス ビデオゲーム処理装置、およびビデオゲーム処理プログラム
US8663004B1 (en) 2012-09-05 2014-03-04 Kabam, Inc. System and method for determining and acting on a user's value across different platforms
US20150009222A1 (en) 2012-11-28 2015-01-08 Nvidia Corporation Method and system for cloud based virtualized graphics processing for remote displays
US8870661B2 (en) 2012-12-21 2014-10-28 Sony Computer Entertainment America Llc Cloud-based game slice generation and frictionless social sharing with instant play
EP2750032B1 (en) 2012-12-27 2020-04-29 Sony Computer Entertainment America LLC Methods and systems for generation and execution of miniapp of computer application served by cloud computing system
WO2014120368A1 (en) 2013-01-30 2014-08-07 Intel Corporation Content adaptive entropy coding for next generation video
US11185783B2 (en) 2013-03-14 2021-11-30 Sony Interactive Entertainment Inc. Controller emulation for cloud gaming
WO2014160354A1 (en) 2013-03-14 2014-10-02 Georgia State University Research Foundation, Inc. Inhibiting or reducing fungal growth
US20140274384A1 (en) 2013-03-15 2014-09-18 Electronic Arts Inc. Delivering and consuming interactive video gaming content
US9295915B2 (en) 2013-05-20 2016-03-29 Microsoft Technology Licensing, Llc Game availability in a remote gaming environment
US9628332B2 (en) 2013-05-20 2017-04-18 Microsoft Technology Licensing, Llc Resource allocation to game titles in a remote gaming environment
US9339733B2 (en) 2013-05-22 2016-05-17 Wesley John Boudville Barcode-based methods to enhance mobile multiplayer games
CA2886282C (en) 2013-05-23 2019-07-23 Stephan Georgiev Dynamic allocation of rendering resources in a cloud gaming system
US10587663B2 (en) 2013-05-31 2020-03-10 Verily Life Sciences Llc Video stream preview
US9675874B1 (en) 2013-07-18 2017-06-13 nWay, Inc. Multi-player gaming system
US9723051B2 (en) 2013-08-13 2017-08-01 Criteo Sa Setting first-party cookies by redirection
US20150087414A1 (en) 2013-09-26 2015-03-26 Cellco Partnership D/B/A Verizon Wireless Cloud gaming implemented using a mobile device and a display device
JP6292707B2 (ja) 2013-10-22 2018-03-14 任天堂株式会社 情報処理システム、情報処理装置、情報処理プログラム、および情報処理方法
US9592446B2 (en) 2013-12-13 2017-03-14 DeNA Co., Ltd. Electronic game providing device and non-transitory computer-readable storage medium storing electronic game program
JP6376638B2 (ja) 2014-01-29 2018-08-22 株式会社コロプラ ゲームに関わるサーバコンピュータ及びゲームプログラム
JP6528281B2 (ja) 2014-01-29 2019-06-12 国立研究開発法人産業技術総合研究所 シクロデキストリンの利用による抗がん活性が増強されたアシュワガンダ葉の水抽出物の調製方法、及びアシュワガンダ葉を含む医薬組成物
KR102100161B1 (ko) * 2014-02-04 2020-04-14 삼성전자주식회사 Gpu 데이터 캐싱 방법 및 그에 따른 데이터 프로세싱 시스템
CN104866699B (zh) 2014-02-25 2017-07-14 上海征途信息技术有限公司 一种网络游戏智能化数据分析方法
US9912562B2 (en) 2014-03-31 2018-03-06 Microsoft Technology Licensing, Llc Measuring latency in an interactive application
US20150297998A1 (en) 2014-04-16 2015-10-22 Microsoft Corporation Hyperlink initiation of game sessions
GB2525437B (en) 2014-04-25 2016-05-25 Cheng Uei Prec Ind Co Ltd Push-button structure
KR20180102212A (ko) 2014-06-13 2018-09-14 콘비다 와이어리스, 엘엘씨 자동화된 서비스 프로파일링 및 오케스트레이션
US9393486B2 (en) 2014-06-27 2016-07-19 Amazon Technologies, Inc. Character simulation and playback notification in game session replay
US20160005257A1 (en) 2014-07-04 2016-01-07 Trendy Entertainment Influence system and methods
US9975044B2 (en) 2014-07-22 2018-05-22 Ngage SporTek Ltd. System and method for social gaming
US10021214B2 (en) 2014-07-22 2018-07-10 Microsoft Technology Licensing, Llc Synthetic transactions between communication endpoints
WO2016014603A1 (en) 2014-07-22 2016-01-28 Sony Computer Entertainment America Llc Save game load time reduction for cloud gaming
US10255765B2 (en) 2015-08-20 2019-04-09 Synergy Blue, Llc Gaming aspects relating to multiplayer/tournament hybrid arcade/wager-based games
US20170124812A1 (en) 2014-12-12 2017-05-04 Synergy Blue, Llc Gaming and wagering techniques relating to skill-based gaming
US10909809B2 (en) 2014-12-12 2021-02-02 Synergy Blue Llc Graphical user interface and computer processing techniques for facilitating user interaction with electronic gaming devices
CN104598292B (zh) 2014-12-15 2017-10-03 中山大学 一种应用于云游戏系统的自适应流适配和资源优化方法
US9396702B2 (en) 2014-12-23 2016-07-19 Sony Interactive Entertainment America Llc Latency tester
US20160279523A1 (en) 2015-03-25 2016-09-29 GAMEin30 Ltd. System and method for interactive gaming
US10130874B2 (en) 2015-05-01 2018-11-20 Microsoft Technology Licensing, Llc Removable controller accessory for a game controller
WO2016183253A1 (en) 2015-05-12 2016-11-17 Equinix, Inc. Programmable network platform for a cloud-based services exchange
US9609275B2 (en) 2015-07-08 2017-03-28 Google Inc. Single-stream transmission method for multi-user video conferencing
US10135892B2 (en) 2015-07-28 2018-11-20 Google Llc Independent control of interactive streaming media
US9993729B2 (en) 2015-08-19 2018-06-12 Sony Interactive Entertainment America Llc User save data management in cloud gaming
US9946593B2 (en) 2015-09-18 2018-04-17 Salesforce.Com, Inc. Recovery strategy for a stream processing system
US11420114B2 (en) 2015-09-30 2022-08-23 Sony Interactive Entertainment LLC Systems and methods for enabling time-shifted coaching for cloud gaming systems
JP6646319B2 (ja) 2015-09-30 2020-02-14 ソニー・インタラクティブエンタテインメント エルエルシー クラウドゲームのためのマルチユーザデモストリーミングサービス
US20170097816A1 (en) 2015-10-01 2017-04-06 Motorola Mobility Llc Context-based applications for mobile devices
US10630773B2 (en) 2015-11-12 2020-04-21 Nvidia Corporation System and method for network coupled cloud gaming
US20170185464A1 (en) 2015-12-29 2017-06-29 Ca, Inc. Detecting flapping in resource measurements
US20170246544A1 (en) 2016-02-26 2017-08-31 Microsoft Technology Licensing, Llc Video game streaming for spectating
CN105749551B (zh) 2016-02-26 2019-04-30 网易(杭州)网络有限公司 一种游戏托管方法、系统及终端
US10016689B2 (en) 2016-03-21 2018-07-10 Electronic Arts Inc. Synchronized video with in game telemetry
US10456672B2 (en) 2016-05-19 2019-10-29 Google Llc Methods and systems for facilitating participation in a game session
US10046236B2 (en) 2016-06-13 2018-08-14 Sony Interactive Entertainment America, LLC Browser-based cloud gaming
US11351468B2 (en) 2016-06-13 2022-06-07 Sony Interactive Entertainment LLC Generating challenges using a location based game play companion application
JP6560826B2 (ja) 2016-06-28 2019-08-14 株式会社ソニー・インタラクティブエンタテインメント 利用状態判定装置、利用状態判定方法及びプログラム
US10332296B2 (en) 2016-07-05 2019-06-25 Ubitus Inc. Overlaying multi-source media in VRAM
US10521879B2 (en) 2016-07-05 2019-12-31 Ubitus, Inc. Overlaying multi-source media in VRAM
CN106328855B (zh) 2016-11-29 2019-06-04 宁德时代新能源科技股份有限公司 电池组件及电池模组
US10722803B2 (en) 2017-02-15 2020-07-28 Roblox Corporation Integrated chat and game play platform
US20180250591A1 (en) 2017-03-02 2018-09-06 The Fast Mind, LLC Methods of circumventing platform restrictions in gaming
US10512846B2 (en) 2017-03-07 2019-12-24 Sony Interactive Entertainment LLC Emulating player behavior after player departure
US10645139B2 (en) 2017-04-06 2020-05-05 Microsoft Technology Licensing, Llc Network protocol for switching between plain text and compressed modes
EP4336800A2 (en) 2017-10-10 2024-03-13 Google LLC Distributed sample-based game profiling with game metadata and metrics and gaming api platform supporting third-party content
CN107670275B (zh) 2017-10-26 2020-10-13 广州市雷军游乐设备有限公司 游戏进程断线重连的方法和系统
WO2019126350A1 (en) 2017-12-19 2019-06-27 Advanta Computer, LLC Systems and methods for networked computing
US10792576B2 (en) 2018-02-28 2020-10-06 Sony Interactive Entertainment LLC Player to spectator handoff and other spectator controls
EP4276814A3 (en) 2018-03-22 2023-12-20 Google LLC Methods and systems for rendering and encoding content for online interactive gaming sessions
WO2019194953A1 (en) 2018-04-02 2019-10-10 Google Llc Methods, devices, and systems for interactive cloud gaming
US10773168B2 (en) 2018-04-02 2020-09-15 Google Llc Temporary game control by user simulation following loss of active control
WO2019195300A2 (en) 2018-04-02 2019-10-10 Google Llc Input device for an electronic system
US11077364B2 (en) 2018-04-02 2021-08-03 Google Llc Resolution-based scaling of real-time interactive graphics
US10950092B2 (en) 2018-10-07 2021-03-16 Synergy Blue Llc Skillful multi-level games and gaming machines in which players are granted free play sessions
WO2020102493A1 (en) 2018-11-16 2020-05-22 Google Llc Shadow tracking of real-time interactive simulations for complex system analysis
US11731043B2 (en) 2019-11-19 2023-08-22 Sony Interactive Entertainment Inc. Adaptive graphics for cloud gaming
US11128636B1 (en) 2020-05-13 2021-09-21 Science House LLC Systems, methods, and apparatus for enhanced headsets

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015524092A (ja) 2012-04-04 2015-08-20 クゥアルコム・インコーポレイテッドQualcomm Incorporated グラフィックス処理におけるパッチされたシェーディング
JP2017510862A (ja) 2013-12-26 2017-04-13 株式会社スクウェア・エニックス・ホールディングス 描画システム、制御方法、及び記憶媒体
JP2017516207A (ja) 2014-04-21 2017-06-15 クアルコム,インコーポレイテッド グラフィックス処理におけるレンダーターゲットに基づいたフレックスレンダリング
JP2017215997A (ja) 2014-05-14 2017-12-07 インテル・コーポレーション 装置、方法およびシステム
US20160171757A1 (en) 2014-12-16 2016-06-16 Selvakumar Panneer Dynamic kernel modification for graphics processing units

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
池田 孝利 他2名,GPUアプリケーションを高速化するための命令割当て方式,情報処理学会論文誌,2005年08月15日,第46巻 第SIG12(ACS11)号,p.140-149

Also Published As

Publication number Publication date
US20240001230A1 (en) 2024-01-04
EP4345731A1 (en) 2024-04-03
EP3701489A1 (en) 2020-09-02
KR102614649B1 (ko) 2023-12-14
EP4141781A1 (en) 2023-03-01
KR102419100B1 (ko) 2022-07-07
KR20220101011A (ko) 2022-07-18
US11813521B2 (en) 2023-11-14
US11110348B2 (en) 2021-09-07
EP4141781B1 (en) 2024-03-20
EP3701489B1 (en) 2022-10-26
KR20230173223A (ko) 2023-12-26
US20210213354A1 (en) 2021-07-15
CN111417978A (zh) 2020-07-14
JP2021517997A (ja) 2021-07-29
KR20200077565A (ko) 2020-06-30
US20190308099A1 (en) 2019-10-10
JP2022122875A (ja) 2022-08-23
WO2019199848A1 (en) 2019-10-17

Similar Documents

Publication Publication Date Title
JP7073494B2 (ja) ゲームレンダリングにおけるメモリ管理
US11596861B2 (en) Add-on management methods
US9455931B2 (en) Load balancing between processors
US10173134B2 (en) Video game overlay
US9203685B1 (en) Qualified video delivery methods
US9633379B1 (en) Qualified video delivery advertisement
RU2696345C2 (ru) Интеллектуальное потоковое воспроизведение мультимедийного контента

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201208

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220412

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220511

R150 Certificate of patent or registration of utility model

Ref document number: 7073494

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150