JP6995249B2 - クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 - Google Patents
クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 Download PDFInfo
- Publication number
- JP6995249B2 JP6995249B2 JP2021523805A JP2021523805A JP6995249B2 JP 6995249 B2 JP6995249 B2 JP 6995249B2 JP 2021523805 A JP2021523805 A JP 2021523805A JP 2021523805 A JP2021523805 A JP 2021523805A JP 6995249 B2 JP6995249 B2 JP 6995249B2
- Authority
- JP
- Japan
- Prior art keywords
- player
- gameplay
- model
- game
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013473 artificial intelligence Methods 0.000 title claims description 356
- 238000012549 training Methods 0.000 title claims description 197
- 238000000034 method Methods 0.000 claims description 87
- 230000009471 action Effects 0.000 claims description 84
- 238000013135 deep learning Methods 0.000 claims description 68
- 230000008569 process Effects 0.000 claims description 30
- 238000012360 testing method Methods 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 4
- 230000035484 reaction time Effects 0.000 claims description 2
- 230000007704 transition Effects 0.000 claims description 2
- 230000005856 abnormality Effects 0.000 claims 1
- 230000000875 corresponding effect Effects 0.000 description 95
- 230000004044 response Effects 0.000 description 37
- 238000012545 processing Methods 0.000 description 29
- 238000013528 artificial neural network Methods 0.000 description 26
- 230000006870 function Effects 0.000 description 25
- 238000010586 diagram Methods 0.000 description 14
- 238000010801 machine learning Methods 0.000 description 9
- 238000003860 storage Methods 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000009118 appropriate response Effects 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 230000002787 reinforcement Effects 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 241001417527 Pempheridae Species 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 230000002452 interceptive effect Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000000306 recurrent effect Effects 0.000 description 3
- 238000009877 rendering Methods 0.000 description 3
- 230000001276 controlling effect Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- 230000003862 health status Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 241000270722 Crocodylidae Species 0.000 description 1
- 102100026816 DNA-dependent metalloprotease SPRTN Human genes 0.000 description 1
- 101710175461 DNA-dependent metalloprotease SPRTN Proteins 0.000 description 1
- 241000699666 Mus <mouse, genus> Species 0.000 description 1
- 241000699670 Mus sp. Species 0.000 description 1
- 238000001994 activation Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000009125 cardiac resynchronization therapy Methods 0.000 description 1
- 230000009194 climbing Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000001010 compromised effect Effects 0.000 description 1
- 238000010924 continuous production Methods 0.000 description 1
- LNNWVNGFPYWNQE-GMIGKAJZSA-N desomorphine Chemical compound C1C2=CC=C(O)C3=C2[C@]24CCN(C)[C@H]1[C@@H]2CCC[C@@H]4O3 LNNWVNGFPYWNQE-GMIGKAJZSA-N 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 210000002381 plasma Anatomy 0.000 description 1
- 230000002250 progressing effect Effects 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 238000013515 script Methods 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000005728 strengthening Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/70—Game security or game management aspects
- A63F13/77—Game security or game management aspects involving data related to game devices or game servers, e.g. configuration data, software version or amount of memory
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/60—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
- A63F13/67—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor adaptively or by learning from player actions, e.g. skill level adjustment or by storing successful combat sequences for re-use
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/30—Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
- A63F13/35—Details of game servers
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/30—Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
- A63F13/35—Details of game servers
- A63F13/355—Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/40—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment
- A63F13/44—Processing input control signals of video game devices, e.g. signals generated by the player or derived from the environment involving timing of operations, e.g. performing an action within a time slot
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/60—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
- A63F13/65—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor automatically by game devices or servers from real world data, e.g. measurement in live racing competition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- General Business, Economics & Management (AREA)
- Medical Informatics (AREA)
- Computer Security & Cryptography (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
例えば、サーバのネットワークは、リモートユーザのゲームプレイをサポートしている場合があり、リモートユーザの各々は、対応するクライアントデバイスを介してゲームアプリケーションをプレイしている。リモートユーザのゲームプレイをサポートする標準的な過程では、訓練データをサーバのネットワークから収集し、ゲームアプリケーションに関連するAIモデルの訓練に使用することがある。リモートユーザのゲームプレイをサポートするように構成されたサーバの既存のネットワークから訓練データを集めることにより、訓練データの収集に要する時間と労力とが一元化され、削減される。
つまり、サーバのネットワーク全体にわたって記録することにより、訓練データの入力セットを構築するのに必要な時間が大幅に短縮される。部分的に、AIモデルは、ゲームアプリケーションの複雑な細部とゲームアプリケーションのプレイ方法とを学習する。そのようにして、ゲームアプリケーションのゲームプレイの状況(例えば、特定のゲームプレイのゲーム状態)が入力として与えられると、AIモデルはその状況を分析し、その状況への適切な応答を提供することができる。応答は、予め定義された目的に依存し得る。AIモデルは、様々な目的が与えられてゲームアプリケーションをプレイする方法(例えば、探索的なもの、結末まで単刀直入なもの、最も簡単なプレイ、最も難しいプレイなど)を理解しているので、AIモデルは、どのようにゲームプレイを指示したらいいかを判断する(例えば、該当する目的を達成するために必要な次の入力シーケンスが何かを判断する)ことができる。
具体的にいえば、AIモデルは、ゲームアプリケーション及び/またはゲームアプリケーションのゲームプレイに関連する様々な機能性を実行するために使用することができ、その機能性は、対応する予め定義された目的に依存している。例えば、AIモデルは、練習生ゲーマを究極の対戦相手と対戦させることにより、または練習生ゲーマの弱点を改善するように、様々な課題を通じて練習生ゲーマを指導することにより、全ゲーマのうちで一番となるようプロゲーマを訓練するのに使用することができる。さらに、AIモデルは、訓練データを継続的に収集し、成功基準に基づいて新しい訓練データを既存の訓練データと比較することにより、継続的に改良することが可能である。
訓練されたAIモデル160は、ゲームアプリケーションの複雑な細部、及び/または(例えば、対応するゲームプレイを通して)ゲームアプリケーションのプレイの複雑な細部を学習するように訓練されている。そのようにして、ゲームアプリケーションのゲームプレイの状況(例えば、特定のゲームプレイのゲーム状態)が入力として与えられると、AIモデルはその状況を分析し、その状況への適切な応答を提供することができる。応答は、予め定義された目的(例えば、支援を実施するなど)に依存し得る。例えば、訓練されたAIモデル160は、ゲームアプリケーションがどのように応答すべきか、または対応するゲームプレイ中にプレーヤがどのように応答すべきかを判断することができる。
例えば、各サーバ205は、サーバコンソール、ゲーム機、コンピュータなどであってもよい。各サーバ205は、ネットワーク150を介して、データ105(例えば、対応するゲームプレイのレンダリングされた画像及び/またはフレーム)を対応するクライアントデバイスにストリーミングバックするように構成される。そのようにして、対応するクライアントデバイスによって受信されて転送されたコントローラの入力に応答して、計算の複雑なゲームアプリケーションが、バックエンドサーバで実行し続けることができる。各サーバは、画像及び/またはフレームをレンダリングし、次いでそれらをエンコード(例えば、圧縮)して、対応するクライアントデバイスにストリーミングして表示することが可能である。
種々の処理エンティティに対するそれらの機能の実行の協調、割り当て、及び管理は、分散同期層によって行われる。そのようにして、それらの機能の実行が分散同期層によって制御されて、プレーヤによるコントローラ入力に応答して、ゲームアプリケーション用のメディア(例えば、ビデオフレーム、オーディオなど)を生成することが可能になる。分散同期層は、重要なゲームエンジンコンポーネント/機能が、より効率的な処理のために分散されて再構築されるように、分散処理エンティティ全体で(例えば、負荷バランシングを介して)それらの機能を効率的に実行することが可能である。
訓練データ345には、対応するゲームプレイを指示するのに使用されるコントローラ入力236、ゲームプレイ中に生ずるゲームアプリケーションのインスタンスのゲーム状態133、応答メトリクス、成功基準135、成功メトリクス、ゲームプレイに対して実行される追加分析などが含まれる。場合によっては、訓練データ345を、ゲームアプリケーションのインスタンス(例えば、ゲーム状態メタデータなど)によって生成してもよい。訓練データ345は、深層学習及び/または機械学習エンジン190への入力として提供される。深層学習エンジン190は、図1B、ならびに図3A、図3B-1及び図3B-2に関連して以下にさらに説明するように、訓練データ345を使用してAIモデル160を構築及び/または訓練するように構成されたモデラ120を含む。
例えば、訓練されたAIモデル160は、分析器140によって使用されて、ゲームプレイ中に、プレーヤによって、またはゲームアプリケーションの対応する実行インスタンスによって、どのようなアクションを取られる必要があるのか判断することができる。分析器140は、入力状態データ405に応答して、かつ訓練されたAIモデル160の予め定義された目的を考慮して、アクションを実行するように構成されたアクション生成器170を含む。そのようにして、AIモデル160を使用して分析器は、ゲームアプリケーションをプレイするプレーヤにサービス(例えば、レコメンデーションの提供、プレーヤの弱点の発見、プレーヤの訓練、プレーヤへの対戦相手の提供、ゲームアプリケーションの欠陥の発見など)を提供することを含む、様々な機能性を提供することができる。
例えば、分析器140は、ゲームアプリケーションをプレイしているプレーヤのプロファイルを提供する、プレーヤによるゲームアプリケーションのゲームプレイ中に、プレーヤにレコメンデーション(このレコメンデーションは、ユーザプロファイルを考慮して構造化されたものであり得る)を提供する、ゲームプレイを引き継ぐ、プレーヤプロファイルを用いて、公平にバランスの取れたチーム(例えば、ゲームアプリケーションにおいて互いに競争するチーム)を構築する、AIモデルを自動的に訓練するなどの目的で、ゲームアプリケーションをオートプレイする、ボットの対戦相手を提供する、ゲームアプリケーションを探索する、対応するプレーヤの弱点を判断し、プレーヤが弱点を克服するのに役立つサービスを実行する、などを行い得る。
さらに、AIモデルを(例えば、訓練中または訓練後に、AIプロセッサエンジン210の分析器140などによって)使用して、ゲームアプリケーションの任意の後続のゲームプレイにおいて、ゲームアプリケーション及び/またはゲームアプリケーションのゲームプレイと関連して、様々な機能性を提供することができる。したがって、訓練されたAIモデルを用いて、ゲームアプリケーションの後続のゲームプレイに最適なサービスをプレーヤなどに提供することができるように、深層学習エンジン190は、ゲームアプリケーション及び/またはゲームアプリケーションのゲームプレイに関する全てを学習することが可能である。
例えば、訓練されたAIモデルは、世界一のゲーマとなるようプロゲーマを訓練すること、またはプレーヤの弱点に対処するように設計された様々なチュートリアルセッション(例えば、ビデオ指導、ゲームプレイの課題など)を提供することのために用いることができる。深層学習エンジン190は、任意の更新された訓練データが与えられると、訓練されたAIモデルを継続的に改良するように構成されてもよい。この改良は、訓練に使用できる訓練データのセットを、それらのセットが、対応する成功基準に基づいて、ゲームアプリケーション内でどのように機能するかに基づいて、決定することに基づいている。
AIモデル160は、例えば、訓練データを介して作成された世界最高の対戦相手を相手にしてプレーヤを訓練する場合、ユーザがセルフプレイを通じて段階的に上達できるように(そして、そのセルフプレイを通じて継続的に改良されるように)、仮想的な自己の対戦相手を相手にしてプレーヤを訓練する(例えば、彼自身または彼女自身の仮想バージョンと対戦する)場合など、ゲームアプリケーション内のボットの対戦相手を制御するために、分析器140によって使用されることがある。
AIモデル160は、プレーヤの弱点を発見し、その弱点に対処するためのチュートリアルセッションを提供するために、分析器140によって使用されることがある。AIモデル160は、ゲームアプリケーション内の問題(例えば、グリッチにつながるコードの穴など)を発見するために、分析器140によって使用されることがある。必ずしも記述されているわけではないが、さらに他の機能性もサポートされている。
他のゲームストレージシステムとしては、ゲームコードストア261、記録ゲームストア262、タグデータストア263、ビデオゲームデータストア264、及びゲームネットワークユーザストア265があり得る。一実施形態では、GCS201は、ゲームアプリケーション、サービス、ゲーム関連のデジタルコンテンツ、及びシステム、アプリケーション、ユーザ、及びソーシャルネットワーク間の相互接続性を提供することができるシステムである。GCS201は、ネットワークインタフェース290経由でソーシャルメディアマネージャ295を介して、ユーザデバイス230及びソーシャルメディアプロバイダ240と通信し得る。ソーシャルメディアマネージャ295は、1人以上の友人を関連付けるように構成され得る。一実施形態では、各ソーシャルメディアプロバイダ240は、ユーザのソーシャルネットワーク接続を示す少なくとも1つのソーシャルグラフ245を含む。
他の実施形態では、GCS201は、ゲームアプリケーションの対応するインスタンスとして構成された、ゲームロジックを実行している分散型ゲームエンジンシステム及び/またはアーキテクチャを含む。一般に、分散型ゲームエンジンは、ゲームエンジンの各機能を取り込み、それらの機能を分散させて、GCS201の1つ以上のサーバにまたがる多数の処理エンティティによって実行する。個々の機能は、さらに1つ以上の処理エンティティにわたって分散させることができる。ここで図面を参照すると、同様の参照番号は、同一の部分または対応する部分を示す。
よって、複数の仮想マシンに対応付けられたゲームサーバ205の複数のゲームプロセッサは、複数のユーザ215のゲームプレイに対応付けられたゲームアプリケーションの複数のインスタンスを実行するように構成される。そのようにして、バックエンドサーバサポートは、複数のゲームアプリケーションのゲームプレイのメディア(例えば、ビデオ、オーディオなど)のストリーミングを、対応する複数のユーザに提供する。後述するように、ゲームアプリケーションのインスタンスを実行する複数のゲームプロセッサから収集された訓練データは、ゲームアプリケーション及び/またはゲームアプリケーションのゲームプレイに関連するAIモデルを構築及び/または訓練するために使用される。
例えば、プレーヤ5Lは、クライアントデバイス230’を介して、ゲームサーバ205のゲームプロセッサ上で実行されるゲームアプリケーションのインスタンスとインタラクトし続け得る。より具体的には、ゲームアプリケーションのインスタンスは、ゲームアプリケーションに対応するゲームロジック177を実行しているゲームタイトル実行エンジン211(例えば、ゲームエンジン)によって実行される。ゲームアプリケーションを実施するゲームロジック(例えば、実行可能コード)177は、先に説明したデータストア260、またはゲームコードストア261、またはビデオゲームストア264などを介して格納され、アクセス可能であり、ゲームアプリケーションを実行するのに使用される。ゲームタイトル処理エンジン211は、図示のように、複数のゲームロジック177を用いて、複数のゲームアプリケーションをサポートすることができる。
例えば、深層学習エンジン190内のモデラ120は、訓練されたAIモデル160を深層学習エンジン190内で適用する目的のために、入力層191、隠れ層192、及び出力層193の様々なノードを定義する深層学習エンジン190内で定義されたパラメータを設定するように動作し得る。モデラ120は、上記のとおり、訓練中に使用される1つ以上の成功基準に基づいて、AIモデル160のパラメータを設定することができる。そのようにして、AIモデル160は、ゲームアプリケーション及び/またはゲームアプリケーションのゲームプレイに関連して様々な機能性を提供するためにAIモデル160を使用することができるように、ゲームアプリケーションの複雑な細部及び/またはゲームアプリケーションのプレイの複雑な細部を学習するように訓練される。(例えば、ゲーム状態などの所与の状況に応答して、コントローラ入力を含む、どのようなアクションを取るべきかを予測及び/または決定する)。したがって、分析器140は、状況への適切な応答を提供するために、ゲームプレイの状況を定義する入力を受けて、AIモデル160からの出力、及び任意選択で入力(例えば、入力状態データ)を分析することができる。ここで応答は、予め定義された目的(例えば、支援の提供、指導の提供など)に依存し得る。
その場合、ゲームアプリケーションの複数のゲームプレイは、複数のプレーヤにより、対応するクライアントデバイスを介して制御され、クライアントデバイスはサーバから遠隔にある。他の実施態様では、ゲームアプリケーションはユーザ/プレーヤに対してローカルで実行され、実行中のゲームアプリケーションからのメタデータは、分析の目的で(例えば、AIモデルを訓練する目的で)、またはマルチプレーヤゲームセッションをサポートするために、ネットワークを介してバックエンドサーバに配信される。さらに他の実施形態では、複数のゲームプレイは、(例えば、AIモデルを自己訓練する目的で)自動的に(例えば、AIを介して)制御されてもよい。
単純化した例では、シナリオはタスク(例えば、ボスを倒す、障害物を回避するなど)の達成を伴うことがあり、2つの訓練データのセットがそれぞれ、シナリオを通じてプレイする方法(例えば、コントローラの入力、戦略など)のプロセスを説明または概説する。成功基準は、どの訓練状態データのセットが、タスクの達成をより成功させるかを判断するのに利用され得る。ゲームアプリケーションのシナリオ、及び/またはゲームアプリケーションのシナリオのゲームプレイに関連するAIモデルを訓練する目的で、より成功した訓練状態データのセットは、それほど成功しなかった他の訓練状態データのセットよりも(例えば、AIモデルのノード間の相互関係を定義する際に)重く重み付けされ得る。
一実施形態では、出力は、そのゲームプレイの成功度を示し得る。つまり、ゲームプレイの現在の状況(例えば、ゲーム状態)が与えられると、AIモデルは、そのゲームプレイがどこに向かっているのかを予測し、対応するシナリオの進行においてそのゲームプレイがどの程度成功するかを予測することができる。出力の(例えば、分析器140による)さらなる分析と同様に、入力のセット(例えば、現在及び過去の入力のセット)の分析も、入力のセットへの応答を提供し得る。具体的には、出力として、かつ入力のセットに応答して、アクションが行われ得る。例えば、入力のセットが、ゲームプレイがシナリオの進行において失敗する方向に導いていることを(例えば、AIモデルの出力を介して)示す場合、AIモデルからの出力は、ゲームアプリケーションのシナリオのゲームプレイ中に遭遇した状況を、どのように進行させるかに関するレコメンデーションまたはアドバイスを提供するために(例えば、分析器140によって)使用されてもよい。
ゲームプレイがリモートプレーヤに関連付けられている場合、ゲームプレイ中に入力のセットが訓練済みAIモデルに自動的に提供されるように、リモートプレーヤから何ら促すことなく、レコメンデーションが提供されてもよい。レコメンデーションは、プレーヤが、シナリオをうまく進めること、シナリオを効率的に進めること、シナリオをプレイして最多の資産を獲得すること、ゲームアプリケーションの後半のステージまたはシナリオを進めるための最良のチャンスをプレーヤに与えるシナリオのタスクを達成することなどに役立ち得る。他の実施形態では、レコメンデーションはリモートプレーヤの要求を受けて提供され、したがって要求に応答して、入力のセットがAIモデルに提供される。
一例として、成功基準は、AIモデルを通る1つ以上の経路(1つ以上の層のノード間)の重みを定義するなど、どの訓練状態データのセットがより成功するかを判断するのに利用されてもよい。そのようにして、AIモデルは、シナリオを通じてゲームアプリケーションを、どのようにプレイするか、またはプレイする方法をどのように選択するかについての洞察(例えば、戦略)を与えるのに使用することができる。取り込まれたデータは、訓練状態データ345として深層学習エンジン190に提供される。
深層学習エンジン190は、前に図1Bで紹介した。具体的には、モデラ120は、AIモデルを構築する際に、入力のセット(例えば、ゲームアプリケーションのコンテキストまたは状況(ゲーム状態)を定義し得る特徴)を与えられて予測を行う特徴依存ルールのセットを識別する。予測には、シナリオをプレイする際に、所与の入力のセットがどの程度成功するかが含まれ得る。そのようにして、AIモデルは、入力のセットが与えられたときに取るべきアクションを決定するために使用することができる。
教師あり学習環境では、出力が所与の特徴のセットに対して予め決められており、深層学習エンジンは、特徴のセットを(例えば、ラベルを介して)出力に結び付けるルールを学習する。教師なし学習環境では、所与の特徴のセットが自動的に出力に結び付けられることはなく、ルールは、他の類似した特徴のセットに関連する類似性、またはデータポイントのクラスタを探すことによって学習され得る。訓練用に定義された成功基準によっては、クラスタが他のクラスタよりも優先されることがある。いずれにしても、入力された特徴のセットに対して既存のルールが適合されることもあれば、あるいは入力された特徴のセットに対して(既存の1つまたは複数のルールに類似しているか、あるいは既存の1つまたは複数のルールを発展させたものである可能性が高い)新しいルールが生成されることもある。
AIモデルの学習されたルールに従って結果として得られる出力は、ゲームアプリケーションのシナリオをプレイするために使用される際に、対応する入力された特徴のセットが、どの程度成功し得るかを予測し得る。さらに、AIモデルからの出力(及び任意選択で、入力された特徴のセット)は、(入力されたデータのセットによって示されるゲームアプリケーションの状況またはゲーム状態によって決定される)シナリオのゲームプレイにおけるその特定のポイントに対して取るべき一連のアクションを決定するために(例えば、分析器を介して)使用されてもよい。
例えば、アクションには、レコメンデーションとして提案されることになるコントローラ入力のセットや、入力に応答するためのゲームアプリケーション用の制御コマンドなどが含まれ得る。所与の特徴のセット、または類似の特徴のセットに対して、1つ以上のルールが生成されることがある。対応する成功基準または報酬基準に応じて、所与の特徴のセットまたは類似の特徴のセットに対して1つのルールが優先される場合がある。所与の特徴のセットについては、最も成功した出力を、その所与の特徴のセットに対して選択してもよい。つまり、所与の特徴のセット(例えば、入力)では、最も成功したルール(及び出力)が選択されて、訓練されたAIモデル160内で使用されることになり、このことが増分学習の根拠となる。
つまり、プレーヤによる後続のゲームプレイの状況を示し得る入力のセットが与えられると、訓練されたAIモデル160の結果として得られる出力を(例えば、分析器を介して)使用して、対応する入力データのセットによって定義されるシナリオのゲームプレイにおけるその特定のポイントに対して取るべき最善の一連のアクションを、予測し、及び/または決定することができる。
例えば、AIモデル160が訓練された後に、プレーヤが、ゲームアプリケーションのシナリオをプレイしている可能性がある。プレーヤはまた、シナリオを進めることに困難を感じており、そのことがAIモデルの出力に反映されている可能性がある。新規及び後続の入力状態データ(例えば、ゲーム状態)は、そのプレーヤのゲームプレイにおける(困難が経験される)その特定のポイントに関連する任意のデータに関連し得る。そのシナリオの入力状態データは、受信され、深層学習エンジン190を介してAIモデルに提供され、AIモデルが、ゲームアプリケーションの所与の状況を与えられてシナリオをプレイする際に、ゲームプレイがどの程度成功するようになるかを出力として予測してもよい。
AIモデルからの出力を、分析し、ゲームアプリケーション及び/またはゲームアプリケーションのゲームプレイに関連する様々な機能性を実行するために使用することができる。例えば、シナリオのゲームプレイにおける特定のポイントに対して取るべき最善の一連のアクションを決定するために、出力を分析してもよい。出力に基づいてアクションを実行することができる。例えば、訓練されたAIモデル160は、プレーヤに、彼または彼女のゲームプレイを進めるためのレコメンデーションを提供することができる。
具体的には、深層学習エンジン190を介して実装されたAIモデルは、所与の入力状態データを、訓練されたAIモデル内で定義された1つ以上のルール(各ルールは、結び付けられた、または相互接続されたノード及び/または特徴を提供する)と照合する。各ルールは出力に関連付けられている。ルールを生成するために成功基準を適用することができる。さらに、分析器140は、出力を受け取り、追加の分析を実行して、対応する入力データに関連して適切なアクションを決定する。例えば、ルールが、所与の入力状態データのセットの成功基準に関して満たされた場合、対応するアクションが特定され、及び/または実行され得る。
ゲームプレイでは、プレーヤはクラトス391を操作することができる。スクリーンショット300Cに関連するゲームプレイからの訓練状態データ320aが、先に説明したAIモデルを訓練する目的で、深層及び/または機械学習エンジン190に供給される。さらに、深層及び/または機械学習エンジン190には成功基準330が供給され、成功基準は、AIモデルを訓練するために深層学習エンジン190によって使用される。例えば、成功基準は、(経路がAIモデルのノードをトラバースする)AIモデルを通る経路を区別するために使用することができる。実施形態では、AIモデルの訓練に使用するために、1つ以上の成功基準を定義してもよい。例えば、成功基準には、最も多くのポイントを獲得すること、最も多くの資産または最も強力な資産もしくは重要な資産を獲得することなどが含まれ得る。
ライフバー397がすぐに使い尽くされる場合、これは、ゲームプレイが高度なスキルを持つプレーヤによって操作されていることを示す。例えば、高度に熟練したプレーヤは、敵397との戦い方を理解しており、敵396を倒すために使用されるコントローラ入力のシーケンスを知っており、それらのシーケンスを迅速かつ正確に(例えば、逸脱することなく)実施するスキル及び/または能力を有している。AIモデルの訓練時には、ライフバーがどれだけ早く使い尽くされるかを重視した成功基準を用いることで、成功した入力とそうでない入力とを区別し、別のプレーヤによって実施された場合に成功するであろうゲームプレイの特定の状況またはゲーム状態の間中に使用すべきコントローラの入力シーケンスを特定するのに役立ち得る。
ゲームプレイデータは、上記のとおり、ゲーム状態データを含むメタデータを含み得る。ゲームプレイのそれぞれは、ゲームアプリケーションのシナリオ1(S-1)をプレイしていて、各ゲームプレイはユニークであり、ユニークな結果をもたらす。つまり、各ゲームプレイは、シナリオS-1の進行の成功度を測定することに関連付けられ得る。その成功度は、成功基準330を用いて部分的に測定されてもよく、その成功基準330は、上記のとおり、AIモデル160を訓練するために、深層及び/または機械学習エンジン190のモデラ120によって使用され得る。例えば、成功基準は、AIモデルを訓練する目的で、類似した訓練状態データを区別するために使用されてもよい。
例えば、予め定義された目的が支援を提供することである場合、分析により、ゲームアプリケーションのシナリオのゲームプレイ中に遭遇した状況を、どのように進行させるかに関するレコメンデーションまたはアドバイスが生成され得る。予め定義された目的が指導を提供することである場合、分析により、プレーヤの弱点を判定し、その弱点に対処するためのチュートリアルセッションをプレーヤに提供してもよい。他にも、ゲームサポートの提供、ゲームプレイの同等性の提供、AIモデルの自動訓練、ゲームアプリケーションの欠陥の発見、ゲームアプリケーションの自動テストなど、予め定義された目的がサポートされている。
出力は、ゲームアプリケーションのゲームプレイに関連する様々な機能性を提供するために、分析器140によって分析され得る。分析器140により、上記のとおり、予め定義された目的(例えば、指導、支援の提供など)に応じて、適切なアクションまたは応答が決定される。つまり、AIモデル160は、シナリオ中にゲームプレイを成功裏に導くのに必要なものを判定するために、分析器140によって使用され得る。したがって、分析器140は、所与の入力状態データに対する予め定義された目的に応じて、アクションを決定し、実行し得る。そのようにして、分析器は、AIモデル160を利用して、ゲームアプリケーション及び/またはゲームアプリケーションのゲームプレイに関連する様々な機能性を提供することができる。
分析器140のシーケンスマップ及び/またはルート追跡器148aは、ゲームプレイの進行を追跡して、ゲーム環境中の進行を追跡することを含むように構成される。例えば、追跡器148aは、ゲーム環境で採用されたルートを追跡する、またはゲーム環境のマップを構築する、またはゲームアプリケーション中の進捗を示すゲームプレイのノードマップを構築するように構成される。所与の入力状態データ405に対するAIモデルの出力の分析を提供する、さらに他のモジュールがサポートされている。
アクションはまた、ゲームアプリケーションの欠陥の発見、マルチプレーヤオンラインゲームなどのゲームアプリケーションで互いに競争するプレーヤプロファイルを用いた対等なチームの構築、オートプレイによるAIモデルの自動学習、ゲームアプリケーションのゲーム環境を探索して欠陥を発見するなどのサービスを、ゲーム開発者または他のエンティティに提供してもよい。図5A~図5Fは、予め定義された目的に応じて実行し得る種々のアクションまたは応答の様々な説明図を提供する。
成功基準は、ゲームプレイがどの程度成功する結果になるのか、特にゲームプレイのその部分が、どの程度成功する結果になるのかについての指標を提供するものであり得る。例えば、成功基準は、シナリオ中に、どれだけポイントが蓄積されたかを示すことであり得る。分析器140が、AIモデル160の出力から、第1の入力状態データが成功基準を満たさないと判定した場合には、プレーヤP-xのクライアントデバイスに対して、アクションとして、レコメンデーション515を提供してもよい。
つまり、レコメンデーションは、プレーヤP-xのスキルを反映している。他の実施形態では、ユーザプロファイル510xは、対象のゲームアプリケーションだけでなく、他のゲームアプリケーションの過去のゲームプレイを通じて決定されてもよい。例えば、ユーザプロファイル510xが、プレーヤがゲームのエキスパートであることを示す場合、プレーヤP-x向けのレコメンデーション515では、あまり詳細な説明をせずに、小さなヒントを提供するようにしてもよい。その一方で、ユーザプロファイル510xが、プレーヤP-xがゲームの初心者であることを示す場合、レコメンデーション515では、プレーヤが従うための詳細な指示を提供してもよい。
ゲームプレイは、複数のプレーヤP-1~P-nによって、対応するクライアントデバイスを介して操作され得る。上記のとおり、ゲームアプリケーションのインスタンスは、ストリーミングゲームサービス(例えば、クラウドゲームシステム)のバックエンドサーバ上で実行されている。他の実施形態では、ゲームアプリケーションはクライアントデバイス上でローカルに実行されてもよく、メタデータは、AIモデルサポートのためにバックエンドサーバに配信される。ゲームプレイ501a~501nは、例えば、1つ以上のシナリオS-1、S-2、及びS-3を通じて発生していることがある。
第2の複数のゲームプレイは、複数のプレーヤによって操作され、複数の入力状態データは、複数のプレーヤの複数のプレーヤ特性メトリクスを含む。複数の入力状態データがAIモデルに適用されて、シナリオの第2の複数のゲームプレイに対する複数の成功度を示す複数の出力が生成される。さらに、複数の出力が分析されて、複数のプレーヤ特性メトリクスに基づいて複数のプレーヤプロファイルが決定される。AIモデル160は、出力を提供するように構成されていて、分析器140は、出力のその分析に基づいて、実行すべきアクションを実行する、または提供するように構成されている。具体的には、分析器140は、予め定義された目的を達成するために、複数のプレーヤから、対応するプレーヤプロファイルに基づいて、バランスの取れたプレーヤのチームを構築するように構成される。
例えば、プレーヤプロファイルは、複数のプレーヤ特性メトリクスに基づいて定義されてもよく、各プレーヤプロファイルは、1つ以上の対応するプレーヤ特性メトリクスを含む。入力状態データは、プレーヤによるゲームアプリケーションのゲームプレイ中に受け取ることができる。入力状態データは、複数のプレーヤの複数のプレーヤ特性メトリクスを含む。入力状態データはまた、上記のとおり、AIモデル160に適用されて出力が決定される。プレーヤプロファイラ144aは、出力173及び/または入力状態データ505a~505nを分析して、対応するプレーヤの対応するプレーヤプロファイルを決定する。
例えば、対応するプレーヤプロファイルは、訓練されたAIモデルへの入力として提供された対応するプレーヤ特性メトリクスに基づいている。例えば、プレーヤ特性メトリクスには、プレーヤの正確さ、または対応するプレーヤによる入力制御データシーケンスの生成速度、またはシナリオ内のイベントを受けたときの対応プレーヤの反応時間、または対応プレーヤの一貫性、または第1のターゲットと第2のターゲットとの間の対応プレーヤの遷移時間などが含まれ得る。他の実施形態では、対応するプレーヤプロファイルは、上記のとおり、対象のゲームアプリケーションだけでなく、他のゲームアプリケーションの過去のゲームプレイを通じて決定されてもよい。
例えば、プレーヤプロファイル510a~510nに基づいて、チームバランサ144bは、公平にバランスの取れたチーム(例えば、ゲームアプリケーションにおいて互いに競争するチーム)を構築するように構成されている。そのようにして、2つのチーム間のゲームアプリケーションのゲームプレイが、それぞれのチームのプレーヤにとって、公平で魅力的で価値のあるものになる。例えば、バランスの取れたチームであれば、一方的なゲームを回避するのに役立つようになる。1つ以上のカテゴリのスキルレベルに基づいて、さらに2つのグループ(G1とG2)に区分されたプレーヤプロファイルを考慮されたい。
各グループのプレーヤ、及び/またはプレーヤのスキルは、全てのチーム(例えば、チーム-1~チーム-n)に均等に分散させることが望ましい。戦闘に重点を置くゲームアプリケーションの各チームには、リーダー、スナイパー、訓練(例えば、近接格闘術)を受けた殺人者など、1つ以上のポジションが含まれる。1つの説明図では、全てのスキルポジションをグループ化し、それをチーム間で均等に分散させている。この図では、リーダーは除外されており、簡単のために、全てのチームが等しく有能なリーダーを持つように、全てのリーダーが単一のグループG-2から選択されている。他の全ての熟練したポジションは等しく評価されると想定されている。つまり、各チームは、各グループG1及びG2から同数の選手を採用して、いくつかの熟練したポジションで構成されるべきである。
例えば、各チームには、グループG1のプレーヤが1人、グループG2のプレーヤが1人含まれている(リーダーを除く)。図示するように、チーム-1とチーム-2とはそれぞれ、グループG1からの1人のプレーヤ(スナイパー)と、G2からの1人のプレーヤ(例えば、キラー)とを含む。また、チーム3には、グループG1からの1人のプレーヤ(キラー)と、G2からの1人のプレーヤ(例えば、スナイパー)とが含まれる。したがって、各チームは、ユーザプロファイル(例えば、スキルレベル)に従ってバランスが取れている。
ゲームプレイデータには、特定のポイントでのゲームの状態を記述したゲーム状態データを含むメタデータが含まれてもよく、コントローラ入力データが含まれてもよく、メタデータ及び/または訓練状態データを抽出する目的で、ゲームプレイ310a~310nの記録が含まれてもよい。キャプチャエンジン340は、上記のとおり、ゲームプレイデータ320a~320nのほか、成功基準330など、提供され得る他のデータも取り込む。成功基準は、訓練の目的で、類似している訓練状態データを区別するために使用することができる。
つまり、成功基準は、AIモデル160を訓練するために、深層学習エンジン190によって使用されてもよい。訓練状態データ345は、深層学習エンジン190に提供される。深層学習エンジン190の機能については、図3B-1及び図3B-2に関連して説明したが、図5Cに示す深層学習エンジン190にも同様に適用できる。簡単にするために、深層学習エンジン190の全ての構成要素を図5Cに示しているわけではない。
一般に、深層学習エンジン190は、訓練状態データ345及び成功基準330を使用して、AIモデル160を訓練及び/または構築するように構成されたモデラ120を含む。モデラ120は、様々なニューラルネットワーク(例えば、畳み込み型、リカレント型など)を介して人工知能を実装し得る。具体的には、モデラ120は、入力のセット(例えば、ゲームアプリケーションのコンテキストまたは状況(ゲーム状態)を定義し得る特徴)を与えられて、予測を行い、及び/または取るべきアクションを決定する、特徴依存ルールのセットを識別する。例えば、AIモデル160の出力は、ゲームアプリケーションのシナリオを進めていく上で、(例えば、ゲームアプリケーションのゲームプレイの状況を定義する)所与の入力データのセットの成功を予測し得る。特徴及び/またはノードを接続するルールのセットが、AIモデル160を構成する。
ゲームアプリケーションのインスタンスは、ストリーミングゲームサービス(例えば、クラウドゲームシステム)のバックエンドサーバ上で実行されている場合がある。ゲームプレイ501a~501nは、例えば、1つ以上のシナリオS-1、S-2、及びS-3を通じて発生していることがある。ゲームプレイ501a~501nからの入力状態データ505a~505nは、AIモデル160の出力を分析するように構成された分析器140に提供される。深層学習エンジン190は、AIモデル160を(学習フェーズではなく適用フェーズで)実装する。AIモデル160は、出力を提供するように構成されていて、分析器140は、出力のその分析に基づいて、実行すべきアクションを実行する、または提供するように構成されている。
さらに別の例では、ボットビルダ575がビギナーボット578を構築できるように、ビギナーのスキルを持つプレーヤのゲームプレイのみをAIモデルの訓練に使用するように、成功基準を定義してもよい。さらに別の実施形態では、特定のスキルレベルのボットは、バーチャルアルティメットボット142dを使用し、アルティメットボットのパフォーマンスに1つ以上の状況を適用することによって実装することができて、ランダム性及び/または待ち時間を導入することを含む。例えば、アルティメットボットのパフォーマンスは、シーケンス内のコントローラ入力の実行間に遅延を導入することによって、またはタスクの実行に極めて成功しやすいことが知られているコントローラ入力の特定のシーケンスにランダムなコントローラ入力を導入することによって、損なわれ得る。
図示するように、ボットスロットラ142bは、ランダム命令を導入するように構成されたランダマイザ551を含み得る。難易度の高い対応するボットは、アルティメットボット142dを制御するために通常使用される命令のストリームに、低レベルのランダムな命令が挿入されている。そのため、結果として得られるボットは、アルティメットボット142dに似ている。その一方で、結果的に難易度の低いボットは、アルティメットボット142dを正常に制御するために用いられる命令のストリームに、高レベルのランダムな命令が挿入されることになる。ランダムな指示があるために、結果として得られるボットの動作は不安定になり、アルティメットボット142dほどの性能を発揮できない。
さらに、難易度設定を適用するために、待ち時間エンジン553を実装してもよい。結果として得られる高度な難易度のボットの場合、通常はアルティメットボット142dに適用される、命令のストリームに導入される待ち時間は制限されるか、まったくない。一方、結果的に難易度の低いボット(例えば、初心者向け)の場合、アルティメットボット142dに対して通常適用される命令のストリームに、より大きな待ち時間が導入されることになる。そのようにして、結果として得られる難易度の低いボットは、攻撃時、または防御操作時などでは非常にゆっくりとした動きをすることになり、そのような者は簡単に倒されてしまうことになる。
深層学習エンジンは、ゲームアプリケーション及び/またはゲームアプリケーションのゲームプレイに関連する様々な機能性を提供するように構成されたAIモデルを構築及び/または訓練するように構成されたモデラ120を含み得る。さらに、CPU602は、訓練されたAIモデルを実装するように構成された分析器140を含む。訓練されたAIモデルは、入力に応答して出力を提供し、出力は、訓練されたAIモデルの予め定義された機能性に依存する。訓練されたAIモデルは、ゲームプレイ中にどのようなアクションを取ることができるかを判断するのに使用され得る。分析器140は、どれが取るべき適切なアクションであるかを判断する。つまり、分析器140は、ゲームアプリケーション及び/またはゲームアプリケーションのゲームプレイに関連して、様々な機能性を実行するように構成されている。分析器140は、所与の入力(例えば、コントローラ入力、ゲーム状態データ、成功基準)に対する訓練されたAIモデル160からの出力を分析し、応答を提供するように構成されている。
ネットワークインタフェース614は、電子通信ネットワークを介してデバイス600が他のコンピュータシステムと通信することを可能にするものであり、ローカルエリアネットワークやインターネットなどのワイドエリアネットワークを介した有線または無線の通信を含み得る。オーディオプロセッサ612は、CPU602、メモリ604、及び/またはストレージ606によって提供される命令及び/またはデータから、アナログまたはデジタルのオーディオ出力を生成するように適合されている。CPU602、メモリ604、データストレージ606、ユーザ入力デバイス608、ネットワークインタフェース610、及びオーディオプロセッサ612を含むデバイス600の構成要素は、1つ以上のデータバス622を介して接続されている。
あるいは、CPU602は、所望の出力画像を定義するデータ及び/または命令をGPU616に提供し、そこからGPU616が1つ以上の出力画像の画素データを生成する。所望の出力画像を定義するデータ及び/または命令は、メモリ604及び/またはグラフィックスメモリ618に格納することができる。実施形態では、GPU616は、シーンのジオメトリ、ライティング、シェーディング、テクスチャリング、モーション、及び/またはカメラパラメータを定義する命令及びデータから、出力画像用の画素データを生成するための3Dレンダリング機能を含む。GPU616は、シェーダプログラムを実行することができる1つ以上のプログラマブル実行ユニットをさらに含むことができる。一実施形態では、GPU616は、AIまたは深層学習機能のためなど、追加の処理能力を提供するために、AIエンジン190内に実装されてもよい。
Claims (20)
- ゲームアプリケーション用の人工知能(AI)モデルを処理する方法であって、
シナリオの複数のゲームプレイから収集された訓練状態データと、前記複数のゲームプレイのそれぞれの関連する成功基準とを使用して、前記ゲームアプリケーションの前記シナリオの前記複数のゲームプレイから前記AIモデルを訓練し、
前記シナリオの第1のゲームプレイ中に、第1の入力状態データを受信し、
前記第1の入力状態データを前記AIモデルに適用して、前記第1のゲームプレイの前記シナリオの成功度を示す出力を生成し、
予め定義された目的に基づいて、前記出力の分析を実行し、
分析された前記出力に基づいて、前記予め定義された目的を達成するためのアクションを実行する、方法。 - 前記AIモデルの訓練には、
複数のサーバで、前記複数のゲームプレイをサポートする前記ゲームアプリケーションの複数のインスタンスを実行し、
前記シナリオの対応するゲームプレイに関連する前記訓練状態データを前記複数のサーバで収集し、
前記成功基準を定義し、
前記訓練状態データと前記成功基準とを深層学習エンジンに提供することが含まれる、請求項1に記載の方法。 - 前記複数のゲームプレイが、複数のクライアントデバイスを介して、複数のプレーヤによって操作される、請求項2に記載の方法。
- 前記予め定義された目的は、ゲームサポートの提供であり、
前記第1の入力状態データが、分析された前記出力に基づく前記成功基準を満たしていないと判定し、
分析された前記出力と前記第1の入力状態データとに基づいて、前記第1のゲームプレイを操作する第1のプレーヤの第1のユーザプロファイルを判定し、
前記第1のプレーヤのクライアントデバイスに、前記シナリオをプレイする方法に関するレコメンデーションをアクションとして提供し、前記レコメンデーションは、前記第1のユーザプロファイルに基づいて前記第1のプレーヤのスキルを反映しているものである、請求項1に記載の方法。 - 前記出力の分析の実行では、
前記予め定義された目的は指導の提供であり、
前記第1の入力状態データの成功度が平均よりも低いと判定することにより、前記第1のゲームプレイを操作する第1のプレーヤの弱点を特定し、
前記弱点に対応する訓練セッションを前記アクションとして実行して、前記第1のプレーヤのクライアントデバイスへ配信する、請求項1に記載の方法。 - 前記予め定義された目的は、ゲームプレイに同等性を提供することであり、
前記AIモデルを訓練した後に行われる前記シナリオの第2の複数のゲームプレイ中に複数の入力状態データを受信し、前記第2の複数のゲームプレイは複数のプレーヤによって操作され、前記複数の入力状態データは前記複数のプレーヤの複数のプレーヤ特性メトリクスを含むものであり、
前記複数の入力状態データを前記AIモデルに適用して、前記シナリオの前記第2の複数のゲームプレイの複数の成功度を示す複数の出力を生成し、
前記複数の出力を分析して、前記複数のプレーヤ特性メトリクスに基づいて複数のプレーヤプロファイルを判定し、
前記予め定義された目的を達成するために、前記複数のプレーヤから、対応するプレーヤプロファイルに基づいて、バランスの取れたプレーヤのチームを構築することと
をさらに含む、請求項1に記載の方法。 - プレーヤ特性メトリクスには、
対応するプレーヤの正確さ、または、
前記対応するプレーヤによるコントローラ入力シーケンスを生成する速度、または、
前記シナリオ内のイベントを受けたときの前記対応するプレーヤの反応時間、または、
前記対応するプレーヤの一貫性、または、
前記対応するプレーヤの第1のターゲットと第2のターゲットとの間の遷移時間が含まれる、請求項6に記載の方法。 - 前記アクションの実行では、
前記予め定義された目的は、前記AIモデルを自動的に訓練することであり、
前記複数のゲームプレイは、訓練中に前記AIモデルによって操作され、
前記第1の入力状態データが、訓練中に採用された以前のアクションとして、前記AIモデルによって生成され、
前記第1の入力状態データに続いて前記第1のゲームプレイがプレイされるための複数のコントローラ入力のセットを前記分析として判定し、
前記成功基準を満たすと予測され、前記複数のコントローラ入力のセットの中で最も成功度が高いと予測される第1のコントローラ入力のセットを選択し、
前記第1のコントローラ入力のセットを前記ゲームアプリケーションの対応するインスタンスに前記アクションとして配信して実行する、請求項2に記載の方法。 - 前記アクションの実行では、
前記予め定義された目的が、前記ゲームアプリケーションを自動的にテストすることであり、
前記第1の入力状態データが、訓練中に以前のアクションとして、前記AIモデルによって生成され、
前記第1の入力状態データに応答するために、異なる順列を前記分析として判定し、各順列は、取得すべきコントローラ入力の一意のセットを含むものであり、
前記アクションとして前記異なる順列を実行して、前記ゲームアプリケーションのプレイにおける異常を発見する、請求項2に記載の方法。 - 前記ゲームアプリケーションの前記複数のゲームプレイが、1つ以上のクライアントデバイスを介して第1のプレーヤによって操作され、
前記訓練されたAIモデルは前記第1のプレーヤをシミュレートするバーチャルプレーヤである、請求項2に記載の方法。 - 人工知能(AI)訓練用のコンピュータプログラムを格納するコンピュータ可読媒体であって、
シナリオの複数のゲームプレイから収集された訓練状態データと、前記複数のゲームプレイのそれぞれの関連する成功基準とを使用して、前記ゲームアプリケーションの前記シナリオの前記複数のゲームプレイから前記AIモデルを訓練するためのプログラム命令と、
前記シナリオの第1のゲームプレイ中に、第1の入力状態データを受信するためのプログラム命令と、
前記第1の入力状態データを前記AIモデルに適用して、前記第1のゲームプレイの前記シナリオの成功度を示す出力を生成するためのプログラム命令と、
予め定義された目的に基づいて、前記出力の分析を実行するためのプログラム命令と、
分析された前記出力に基づいて、前記予め定義された目的を達成するためのアクションを実行するためのプログラム命令とが記録された、コンピュータ可読媒体。 - AIモデルを訓練するための前記プログラム命令には、
複数のサーバで、前記複数のゲームプレイをサポートする前記ゲームアプリケーションの複数のインスタンスを実行するためのプログラム命令と、
前記シナリオの対応するゲームプレイに関連する前記訓練状態データを前記複数のサーバで収集するためのプログラム命令と、
前記成功基準を定義するためのプログラム命令と、
前記訓練状態データと前記成功基準とを深層学習エンジンに提供するためのプログラム命令とが含まれる、請求項11に記載のコンピュータ可読媒体。 - 前記複数のゲームプレイが、複数のクライアントデバイスを介して、複数のプレーヤによって操作される、請求項12に記載のコンピュータ可読媒体。
- 前記予め定義された目的は、ゲームサポートを提供することであり、
前記第1の入力状態データが、分析された前記出力に基づく前記成功基準を満たしていないと判定するためのプログラム命令と、
分析された前記出力と前記第1の入力状態データとに基づいて、前記第1のゲームプレイを操作する第1のプレーヤの第1のユーザプロファイルを判定するためのプログラム命令と、
前記第1のプレーヤのクライアントデバイスに、前記シナリオをプレイする方法に関するレコメンデーションをアクションとして提供することであって、前記レコメンデーションが、前記第1のユーザプロファイルに基づいて前記第1のプレーヤのスキルを反映している、前記提供するためのプログラム命令と、をさらに含む、請求項11に記載のコンピュータ可読媒体。 - 前記出力の分析を実行するためのプログラム命令は、
前記予め定義された目的が、指導を提供することであり、
前記第1の入力状態データの成功度が平均よりも低いと判定することにより、前記第1のゲームプレイを操作する第1のプレーヤの弱点を特定するためのプログラム命令と、
前記弱点に対応する訓練セッションを前記アクションとして実行して、前記第1のプレーヤのクライアントデバイスへ配信するためのプログラム命令とを含む、請求項11に記載のコンピュータ可読媒体。 - コンピュータシステムであって、
プロセッサと、
前記プロセッサに結合されたメモリであって、前記コンピュータシステムによって実行されると、人工知能(AI)訓練の方法を前記コンピュータシステムに実行させる命令を前記メモリに格納した、前記メモリと、
を備え、前記方法は、
シナリオの複数のゲームプレイから収集された訓練状態データと、前記複数のゲームプレイのそれぞれの関連する成功基準とを使用して、ゲームアプリケーションの前記シナリオの前記複数のゲームプレイからAIモデルを訓練し、
前記シナリオの第1のゲームプレイ中に、第1の入力状態データを受信し、
前記第1の入力状態データを前記AIモデルに適用して、前記第1のゲームプレイの前記シナリオの成功度を示す出力を生成し、
予め定義された目的に基づいて、前記出力の分析を実行し、
分析された前記出力に基づいて、前記予め定義された目的を達成するためのアクションを実行するものである、コンピュータシステム。 - 前記方法では、前記AIモデルの訓練には、
複数のサーバで、前記複数のゲームプレイをサポートする前記ゲームアプリケーションの複数のインスタンスを実行し、
前記シナリオの対応するゲームプレイに関連する前記訓練状態データを前記複数のサーバで収集し、
前記成功基準を定義し、
前記訓練状態データと前記成功基準とを深層学習エンジンに提供することが含まれる、請求項16に記載のコンピュータシステム。 - 前記方法では、
前記複数のゲームプレイが、複数のクライアントデバイスを介して、複数のプレーヤによって操作される、請求項17に記載のコンピュータシステム。 - 前記方法では、
前記予め定義された目的は、ゲームサポートの提供であり、
前記第1の入力状態データが、分析された前記出力に基づく前記成功基準を満たしていないと判定し、
分析された前記出力と前記第1の入力状態データとに基づいて、前記第1のゲームプレイを操作する第1のプレーヤの第1のユーザプロファイルを判定し、
前記第1のプレーヤのクライアントデバイスに、前記シナリオをプレイする方法に関するレコメンデーションをアクションとして提供することであって、前記レコメンデーションが、前記第1のユーザプロファイルに基づいて前記第1のプレーヤのスキルを反映しているものである、請求項16に記載のコンピュータシステム。 - 前記方法で、前記出力の分析の実行では、
前記予め定義された目的は指導の提供であり、
前記第1の入力状態データの成功度が平均よりも低いと判定することにより、前記第1のゲームプレイを操作する第1のプレーヤの弱点を特定し、
前記弱点に対応する訓練セッションを前記アクションとして実行して、前記第1のプレーヤのクライアントデバイスへ配信する、請求項16に記載のコンピュータシステム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021202777A JP7399932B2 (ja) | 2018-11-05 | 2021-12-14 | クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 |
JP2023205917A JP2024026285A (ja) | 2018-11-05 | 2023-12-06 | クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/180,787 US10576380B1 (en) | 2018-11-05 | 2018-11-05 | Artificial intelligence (AI) model training using cloud gaming network |
US16/180,787 | 2018-11-05 | ||
PCT/US2019/049171 WO2020096680A1 (en) | 2018-11-05 | 2019-08-30 | Artificial intelligence (ai) model training using cloud gaming network |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021202777A Division JP7399932B2 (ja) | 2018-11-05 | 2021-12-14 | クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021534931A JP2021534931A (ja) | 2021-12-16 |
JP6995249B2 true JP6995249B2 (ja) | 2022-01-14 |
Family
ID=67982172
Family Applications (3)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021523805A Active JP6995249B2 (ja) | 2018-11-05 | 2019-08-30 | クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 |
JP2021202777A Active JP7399932B2 (ja) | 2018-11-05 | 2021-12-14 | クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 |
JP2023205917A Pending JP2024026285A (ja) | 2018-11-05 | 2023-12-06 | クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 |
Family Applications After (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021202777A Active JP7399932B2 (ja) | 2018-11-05 | 2021-12-14 | クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 |
JP2023205917A Pending JP2024026285A (ja) | 2018-11-05 | 2023-12-06 | クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 |
Country Status (5)
Country | Link |
---|---|
US (3) | US10576380B1 (ja) |
EP (1) | EP3877068A1 (ja) |
JP (3) | JP6995249B2 (ja) |
CN (2) | CN114949861A (ja) |
WO (1) | WO2020096680A1 (ja) |
Families Citing this family (38)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10888788B2 (en) * | 2016-06-30 | 2021-01-12 | Sony Interactive Entertainment Inc. | Automated artificial intelligence (AI) control mode for playing specific tasks during gaming applications |
WO2019070254A1 (en) * | 2017-10-04 | 2019-04-11 | Ford Global Technologies, Llc | SYSTEMS AND METHODS FOR GENERATING NATURAL SPEECH DATA |
US10576380B1 (en) * | 2018-11-05 | 2020-03-03 | Sony Interactive Entertainment LLC | Artificial intelligence (AI) model training using cloud gaming network |
US11090565B2 (en) * | 2018-11-07 | 2021-08-17 | International Business Machines Corporation | User-specific recap for computer-generated interactive environments |
EP3906508B1 (en) * | 2018-12-31 | 2024-03-13 | Intel Corporation | Securing systems employing artificial intelligence |
US10860860B1 (en) * | 2019-01-03 | 2020-12-08 | Amazon Technologies, Inc. | Matching videos to titles using artificial intelligence |
US10918941B2 (en) | 2019-03-27 | 2021-02-16 | Electronic Arts Inc. | Predictive execution of distributed game engines |
US10946281B2 (en) * | 2019-03-29 | 2021-03-16 | Nvidia Corporation | Using playstyle patterns to generate virtual representations of game players |
US11544594B2 (en) * | 2019-04-11 | 2023-01-03 | Sunghee Woo | Electronic device comprising user interface for providing user-participating-type AI training service, and server and method for providing user-participating-type AI training service using the electronic device |
US11029947B2 (en) * | 2019-08-30 | 2021-06-08 | Accenture Global Solutions Limited | Utilizing artificial intelligence to improve productivity of software development and information technology operations (DevOps) |
US11042472B2 (en) * | 2019-09-10 | 2021-06-22 | Sauce Labs Inc. | Authoring automated test suites using artificial intelligence |
EP3828734A1 (en) * | 2019-11-27 | 2021-06-02 | Ubimax GmbH | Method of performing a data collection procedure for a process which uses artificial intelligence |
KR20230005377A (ko) * | 2020-05-13 | 2023-01-09 | 구글 엘엘씨 | 게임 스트리밍 시스템에서 레벨 변경 |
CN111841017A (zh) * | 2020-05-29 | 2020-10-30 | 北京编程猫科技有限公司 | 一种游戏ai的编程实现方法及装置 |
CN113813610B (zh) * | 2020-06-19 | 2024-05-14 | 北京龙创悦动网络科技有限公司 | 游戏数据预测模型训练、预测方法、预测装置和预测系统 |
US20210397971A1 (en) * | 2020-06-22 | 2021-12-23 | Nvidia Corporation | Recommendation generation using one or more neural networks |
US11596870B2 (en) * | 2020-07-31 | 2023-03-07 | Sony Interactive Entertainment LLC | Classifying gaming activity to identify abusive behavior |
CN112364500B (zh) * | 2020-11-09 | 2021-07-20 | 中国科学院自动化研究所 | 面向强化学习训练与评估的多并发实时对抗系统 |
CN112827176B (zh) * | 2021-01-07 | 2022-05-17 | 浙江大学 | 一种游戏关卡生成方法、装置、电子设备及存储介质 |
CN112633519B (zh) * | 2021-03-11 | 2021-07-27 | 中国科学院自动化研究所 | 人机对抗行动预测方法、装置、电子设备和存储介质 |
CN113144590A (zh) * | 2021-03-23 | 2021-07-23 | 苏州乐志软件科技有限公司 | 基于AI Designer的人工智能引擎 |
US20220355211A1 (en) * | 2021-05-04 | 2022-11-10 | Sony Interactive Entertainment Inc. | Controller action recognition from video frames using machine learning |
WO2023043493A1 (en) * | 2021-05-26 | 2023-03-23 | Google Llc | Efficient gameplay training for artificial intelligence |
JP2023011071A (ja) * | 2021-07-11 | 2023-01-23 | 株式会社スクウェア・エニックス | プラン処理プログラムおよびプラン処理システム |
US11559746B1 (en) * | 2021-08-13 | 2023-01-24 | Electronic Arts Inc. | Feedback oriented gameplay sessions in video games |
US20230082732A1 (en) * | 2021-09-12 | 2023-03-16 | Sony Interactive Entertainment Inc. | Using data from a game metadata system to create actionable in-game decisions |
WO2023106040A1 (ja) * | 2021-12-09 | 2023-06-15 | ソニーグループ株式会社 | 情報処理装置、情報処理方法およびプログラム |
WO2023106058A1 (ja) * | 2021-12-09 | 2023-06-15 | ソニーグループ株式会社 | 情報処理装置、情報処理方法およびプログラム |
CN116264712A (zh) * | 2021-12-15 | 2023-06-16 | 维沃移动通信有限公司 | 数据收集方法及装置、第一设备、第二设备 |
CN115138074A (zh) * | 2022-01-13 | 2022-10-04 | 刘芳 | 一种基于大数据防护的风控处理方法及存储介质 |
CN114404976A (zh) * | 2022-01-20 | 2022-04-29 | 腾讯科技(深圳)有限公司 | 决策模型的训练方法、装置、计算机设备及存储介质 |
CN115779444B (zh) * | 2022-03-03 | 2024-01-19 | 深圳市梦作坊科技有限公司 | 一种应用于人工智能的云游戏数据安全防护方法及服务器 |
CN114706626A (zh) * | 2022-03-31 | 2022-07-05 | 联想(北京)有限公司 | 一种处理方法及电子设备 |
US20230310995A1 (en) * | 2022-03-31 | 2023-10-05 | Advanced Micro Devices, Inc. | Detecting personal-space violations in artificial intelligence based non-player characters |
WO2023212145A1 (en) * | 2022-04-28 | 2023-11-02 | Theai, Inc. | Controlling generative language models for artificial intelligence characters |
US20230381661A1 (en) * | 2022-05-27 | 2023-11-30 | Sony Interactive Entertainment LLC | Systems and methods for enabling interactive game assistance during gameplay |
US20240115948A1 (en) * | 2022-10-05 | 2024-04-11 | Sony Interactive Entertainment Inc. | Method and system for auto-playing portions of a video game |
CN115659054B (zh) * | 2022-12-14 | 2023-06-06 | 优友互动(北京)科技有限公司 | 基于强化学习的游戏关卡推荐方法和装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180001205A1 (en) | 2016-06-30 | 2018-01-04 | Sony Interactive Entertainment Inc. | Automated artificial intelligence (ai) control mode for playing specific tasks during gaming applications |
US20180001206A1 (en) | 2016-06-30 | 2018-01-04 | Sony Interactive Entertainment Inc. | Automated artificial intelligence (ai) personal assistant |
US10272341B1 (en) | 2016-12-20 | 2019-04-30 | Amazon Technologies, Inc. | Procedural level generation for games |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3898238B2 (ja) * | 1994-12-02 | 2007-03-28 | 株式会社バンダイナムコゲームス | ビデオゲーム装置及びその画像合成方法 |
JPH11156047A (ja) * | 1997-11-27 | 1999-06-15 | Konami Co Ltd | シミュレーションゲーム装置、操作ミス評価方法、及び記録媒体 |
CN1658932A (zh) * | 2002-06-11 | 2005-08-24 | 世嘉股份有限公司 | 游戏机 |
JP2006141665A (ja) * | 2004-11-19 | 2006-06-08 | Taito Corp | アドバイス機能を有するゲームシステム |
JP6204666B2 (ja) * | 2013-02-14 | 2017-09-27 | 株式会社タイトー | ゲームシステム |
DE102014212747A1 (de) * | 2014-07-01 | 2016-01-07 | Siemens Aktiengesellschaft | Interaktives Assistenzsystem und Verfahren zur rechnergestützten Steuerungsoptimierung für ein technisches System |
US10238948B2 (en) * | 2015-09-24 | 2019-03-26 | Circadence Corporation | Mission-based, game-implemented cyber training system and method |
JP6818033B2 (ja) * | 2015-09-24 | 2021-01-20 | サーカデンス・コーポレイションCircadence Corporation | ミッションベースの、ゲームによって実現されるサイバートレーニングシステム、および方法 |
US20170357910A1 (en) * | 2016-06-10 | 2017-12-14 | Apple Inc. | System for iteratively training an artificial intelligence using cloud-based metrics |
TW201812646A (zh) * | 2016-07-18 | 2018-04-01 | 美商南坦奧美克公司 | 分散式機器學習系統、分散式機器學習方法、以及產生代用資料之方法 |
US10286327B2 (en) * | 2016-10-21 | 2019-05-14 | Electronic Arts Inc. | Multiplayer video game matchmaking system and methods |
CN106503787B (zh) * | 2016-10-26 | 2019-02-05 | 腾讯科技(深圳)有限公司 | 一种获取游戏数据的方法及电子设备 |
CN106548210B (zh) * | 2016-10-31 | 2021-02-05 | 腾讯科技(深圳)有限公司 | 基于机器学习模型训练的信贷用户分类方法及装置 |
GB2557674B (en) * | 2016-12-15 | 2021-04-21 | Samsung Electronics Co Ltd | Automated Computer Power Management System, Apparatus and Methods |
US10357718B2 (en) * | 2017-02-28 | 2019-07-23 | Electronic Arts Inc. | Realtime dynamic modification and optimization of gameplay parameters within a video game application |
US11763143B2 (en) * | 2017-04-19 | 2023-09-19 | AIBrain Corporation | Adding deep learning based AI control |
US11620540B2 (en) * | 2017-07-07 | 2023-04-04 | Verizon Patent And Licensing Inc. | Automated action performance using network data in association with machine learning and big data techniques |
US10300373B2 (en) * | 2017-09-08 | 2019-05-28 | Niantic, Inc. | Methods and systems for generating detailed datasets of an environment via gameplay |
CN108090561B (zh) * | 2017-11-09 | 2021-12-07 | 腾讯科技(成都)有限公司 | 存储介质、电子装置、游戏操作的执行方法和装置 |
CN107998661B (zh) * | 2017-12-26 | 2021-03-26 | 苏州大学 | 一种在线对战游戏的辅助决策方法、装置及存储介质 |
US11328219B2 (en) * | 2018-04-12 | 2022-05-10 | Baidu Usa Llc | System and method for training a machine learning model deployed on a simulation platform |
US10576380B1 (en) * | 2018-11-05 | 2020-03-03 | Sony Interactive Entertainment LLC | Artificial intelligence (AI) model training using cloud gaming network |
US11065549B2 (en) * | 2019-03-15 | 2021-07-20 | Sony Interactive Entertainment Inc. | AI modeling for video game coaching and matchmaking |
US20210170229A1 (en) * | 2019-12-06 | 2021-06-10 | Acronis International Gmbh | Systems and methods for providing strategic game recommendations in a sports contest using artificial intelligence |
-
2018
- 2018-11-05 US US16/180,787 patent/US10576380B1/en active Active
-
2019
- 2019-08-30 WO PCT/US2019/049171 patent/WO2020096680A1/en unknown
- 2019-08-30 EP EP19769658.6A patent/EP3877068A1/en active Pending
- 2019-08-30 JP JP2021523805A patent/JP6995249B2/ja active Active
- 2019-08-30 CN CN202210481340.5A patent/CN114949861A/zh active Pending
- 2019-08-30 CN CN201980086869.3A patent/CN113365706B/zh active Active
-
2020
- 2020-03-03 US US16/807,945 patent/US11291917B2/en active Active
-
2021
- 2021-12-14 JP JP2021202777A patent/JP7399932B2/ja active Active
-
2022
- 2022-04-01 US US17/712,049 patent/US20220219087A1/en active Pending
-
2023
- 2023-12-06 JP JP2023205917A patent/JP2024026285A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180001205A1 (en) | 2016-06-30 | 2018-01-04 | Sony Interactive Entertainment Inc. | Automated artificial intelligence (ai) control mode for playing specific tasks during gaming applications |
US20180001206A1 (en) | 2016-06-30 | 2018-01-04 | Sony Interactive Entertainment Inc. | Automated artificial intelligence (ai) personal assistant |
US10272341B1 (en) | 2016-12-20 | 2019-04-30 | Amazon Technologies, Inc. | Procedural level generation for games |
Also Published As
Publication number | Publication date |
---|---|
JP2024026285A (ja) | 2024-02-28 |
WO2020096680A1 (en) | 2020-05-14 |
US11291917B2 (en) | 2022-04-05 |
CN113365706A (zh) | 2021-09-07 |
US20220219087A1 (en) | 2022-07-14 |
JP2022033164A (ja) | 2022-02-28 |
CN113365706B (zh) | 2022-05-17 |
CN114949861A (zh) | 2022-08-30 |
US10576380B1 (en) | 2020-03-03 |
EP3877068A1 (en) | 2021-09-15 |
US20200197815A1 (en) | 2020-06-25 |
JP7399932B2 (ja) | 2023-12-18 |
JP2021534931A (ja) | 2021-12-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6995249B2 (ja) | クラウドゲーミングネットワークを使用した人工知能(ai)モデルの訓練 | |
US10870057B2 (en) | Automated artificial intelligence (AI) personal assistant | |
KR102291044B1 (ko) | 멀티 플레이어 비디오 게임 매치 메이킹 최적화 | |
CN108499108B (zh) | 视频游戏应用程序内玩游戏参数的实时动态修改和优化 | |
KR102127670B1 (ko) | 멀티플레이어 비디오 게임 매치메이킹 시스템 및 방법들 | |
US11724195B2 (en) | Seasonal reward distribution system | |
CN111249724A (zh) | 机器学习驱动式资源分配 | |
US11666830B2 (en) | Local game execution for spectating and spectator game play | |
US20210366183A1 (en) | Glitch detection system | |
US20240082734A1 (en) | In-game resource surfacing platform | |
US11878249B2 (en) | Playtesting coverage with curiosity driven reinforcement learning agents | |
US20120129595A1 (en) | Apparatus and method for providing agent-based game service | |
US20240165509A1 (en) | Artificial Intelligence (AI) Player Modeling and Training | |
NAJIM | Motion Matching with Proximal Optimization Policy | |
KR20230054896A (ko) | 인공 지능을 위한 효율적인 게임플레이 트레이닝 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210618 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210618 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211116 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211214 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6995249 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |