JP7383198B2 - アビューシブな行動を識別するためのゲームアクティビティのクラス分類 - Google Patents

アビューシブな行動を識別するためのゲームアクティビティのクラス分類 Download PDF

Info

Publication number
JP7383198B2
JP7383198B2 JP2023506106A JP2023506106A JP7383198B2 JP 7383198 B2 JP7383198 B2 JP 7383198B2 JP 2023506106 A JP2023506106 A JP 2023506106A JP 2023506106 A JP2023506106 A JP 2023506106A JP 7383198 B2 JP7383198 B2 JP 7383198B2
Authority
JP
Japan
Prior art keywords
player
game
behavior
activity
players
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023506106A
Other languages
English (en)
Other versions
JP2023530199A (ja
Inventor
ルディ オルガ
ロバーツ ルーシー
マクドナルド レベッカ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment LLC
Original Assignee
Sony Interactive Entertainment LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment LLC filed Critical Sony Interactive Entertainment LLC
Publication of JP2023530199A publication Critical patent/JP2023530199A/ja
Application granted granted Critical
Publication of JP7383198B2 publication Critical patent/JP7383198B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/70—Game security or game management aspects
    • A63F13/75—Enforcing rules, e.g. detecting foul play or generating lists of cheating players
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • A63F13/67—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor adaptively or by learning from player actions, e.g. skill level adjustment or by storing successful combat sequences for re-use
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30—Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35—Details of game servers
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/50—Controlling the output signals based on the game progress
    • A63F13/53—Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game
    • A63F13/533—Controlling the output signals based on the game progress involving additional visual information provided to the game scene, e.g. by overlay to simulate a head-up display [HUD] or displaying a laser sight in a shooting game for prompting the player, e.g. by displaying a game menu
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/70—Game security or game management aspects
    • A63F13/79—Game security or game management aspects involving player-related data, e.g. identities, accounts, preferences or play histories
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/85—Providing additional services to players
    • A63F13/86—Watching games played by other players
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Computer Security & Cryptography (AREA)
  • General Business, Economics & Management (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Optics & Photonics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本開示は、オンラインゲームに関し、より具体的には、人工知能を使用して、他のプレイヤのゲームエクスペリエンスに潜在的に悪影響を与えるアビューシブな行動、あるいは、悪用的、攻撃的、問題となるあるいは虐待的な行動を識別する、オンラインゲームアクティビティのクラス分類に関する。
ビデオゲーム及びそれらの関連産業（例えば、ビデオゲーミング）は、世界のエンターテイメント市場の大部分を占めており、近い将来、ビデオゲームの世界的な収益が映画産業の収益を上回るという予測もある。ビデオゲームをプレイして育った子供たちは、今や大人（若い大人や年を取った大人）になり、エンターテイメントのお金が、ビデオゲームエンターテイメントの世界のどこに使われるべきかを左右している。
ビデオゲームは、ゲームコンソール、デスクトップコンピュータ、ラップトップコンピュータ、携帯電話など、様々なタイプのプラットフォームを使用して、いつでもどこでもプレイされている。かつては少数の子供と若い大人向けのニッチな市場であったビデオゲームは、世代を超えてますます人気が高まり、時が経つにつれて大衆文化の重要な一部になった。
近年、クラウドゲームサーバとネットワークを介して接続されたクライアントとの間でストリーミング形式のオンラインまたはクラウドゲームを可能にするオンラインサービスが継続的に推進されている。ストリーミング形式は、オンデマンドのゲームタイトルの利用可能性、マルチプレイヤゲームのためのプレイヤ間のネットワーク機能、プレイヤ間の資産の共有、プレイヤ及び／または観客間の即座のエクスペリエンス共有、友人がビデオゲームをプレイするところを友人が見ることを可能にする、友人を友人の進行中のゲームプレイに参加させることなどができ、いっそう人気が高まっている。
マルチプレイヤゲームは、プレイヤ間の対人インタラクションに依存する。例えば、一部のゲームタイトルをプレイする場合、チームメンバーは互いに通信してゲームセッション中に戦略を策定し、他のチームを倒す、標的に勝つ、目標を達成するなど、目標を達成するために協力してプレイする。これらのオンラインゲームセッション中に経験するプレイヤ間の友情は、ビジネス、スポーツ、社交の場などでの他のチーム志向の取り組みと同じである。
さらに、ゲームタイトルのそれぞれは、ゲームタイトルのプレイ及びオンラインゲーム専用の他のソーシャルプラットフォーム（例えば、通信フォーラム）を通じて形成される、対応するオンラインゲームコミュニティに関連付けられることができる。例えば、特定のゲームタイトルを頻繁にプレイするプレイヤは、オンラインゲームのペルソナを通じて、互いに知っているか、または他の観客に知られている場合がある。プレイヤは、ゲームセッション中のコミュニケーションを通じて、または１つ以上のゲームタイトルのゲームプレイを対象とし得る他のオンラインソーシャルプラットフォーム（例えば、チャット、フォーラム、ストリーミングチャネルなど）などを通じて、他のプレイヤの成果を認識するようになる。そのため、プレイヤは、いずれかのソーシャルコミュニティと同様に、オンラインゲームコミュニティ内で、良いものから悪いものまで様々な評判を獲得する可能性がある。プレイヤの評判は、オンラインゲームコミュニティ内で重要になる場合がある。これは、他のプレイヤは、ソーシャルインタラクションまたはゲームの目的で、対応する評判に基づいてそのプレイヤと友情を築くことを望む、そのプレイヤを模倣あるいはエミュレートすることを望む、または、そのプレイヤを避けようとすることがあることに起因する。
場合によっては、オンラインゲームコミュニティ内で人気のあるプレイヤは、他のプレイヤ及び／または観客の熱烈な支持者を獲得することがある。これらの人気のあるプレイヤは、録画したゲームプレイをストリーミングプラットフォームに投稿し、ファンがいつでも利用できるようにストリーミングしてもよい。非常に人気のあるプレイヤは、オンラインゲームコミュニティでの評判によって、例えば、スポンサーシップ、またはストリーミングゲームのプレイに関連する広告などによって、可能になった収益源を利用してもよい。さらに、オンラインゲームコミュニティは、複数のゲームタイトルにまたがる場合がある。例えば、プレイヤは、多くのゲームタイトルが得意な場合もあるので、それらのゲームタイトルにわたり人気があることもある。この場合、そのプレイヤは、１つまたは複数のゲームタイトルにわたってオンラインゲームコミュニティを拡大することができる。
各プレイヤのゲームエクスペリエンスあるいはゲーム体験は、対応するゲームタイトルの成功及びゲーム業界全体にとって最も重要である。ゲームエクスペリエンスが楽しいものである場合、多くのプレイヤは同じゲームタイトルを何年も繰り返しプレイすることが知られている。プレイヤのゲームエクスペリエンスが継続的に楽しいものである場合でも、そのプレイヤは他のゲームタイトルをプレイすると決定する場合がある。しかしながら、プレイヤのゲームエクスペリエンスは思ったほど楽しいものではない場合もある。そのような場合、１回あるいはそれ以上のゲームセッションで楽しいゲームエクスペリエンスが得られなかったプレイヤは、特定のゲームセッションをプレイしないと決定することもあり、特定のゲームタイトルのプレイをやめると決定することもあり、かつ、最終的にはオンラインゲームタイトルのプレイを全般的にやめると決定する可能性もある。楽しいゲームエクスペリエンスができなかったであろうプレイヤの数は比較的少ないが、ゲーム業界への悪影響は時間の経過とともに大きくなり得ることから、特に根本的な問題が解決されない場合、業界の成長が停滞または後退するおそれがある。
オンラインゲームタイトルをプレイするときのプレイヤの楽しみは、特定の他のプレイヤとの任意の数のインタラクションによって悪影響を受ける可能性がある。特に、これら他のプレイヤの一部は、１人以上の他のプレイヤのゲームエクスペリエンスを低下させる、望ましくないアクション及び／またはアクティビティ（例えば、アビューシブな方法で行動するもの、またはアビューシブな行動を示すもの）を故意に実行している。一般に、これらのプレイヤは、「アビューザ」と呼ばれることがあるが、とても不快なプレイヤ、いじめっ子、グリーファなど、他の用語で知られている場合もあり、他のプレイヤに対してグリーフィングあるいは迷惑行為、愉快犯的行為を行うことを楽しむ、及び／または他のプレイヤのゲームエクスペリエンスを妨害することが知られている。
場合によっては、アビューザは、絶好の標的である１人以上のプレイヤに対してアビューシブな行動をとる。例えば、アビューザのアビューシブな行動は、アビューザと同じチームにランダムに割り当てられた１人以上のプレイヤを対象とする場合がある。また、アビューザは、特定のプレイヤを、ゲームエクスペリエンスを損ねようとして探している場合もある。例えば、アビューザは、オンラインコミュニティ内の疎外されたグループ、例えば、年齢、性別、人種、性的指向、ゲームエクスペリエンスなどによって識別されたグループなどに属するプレイヤを標的にしている可能性がある。さらに、アビューザは、オンラインの名前またはペルソナが好みではない、そのプレイヤが迷惑だと思う、アバターの見た目が気に入らない、アバターの服装が気に入らない、服装の色が気に入らないなど、他の一見ランダムな理由でプレイヤを標的にする場合がある。
アビューシブな行動は、軽度に煩わしいものから、違法または犯罪行為の境界線にあるもの、さらには境界を越えるものまで様々である場合がある。明らかにアビューシブな行動は、ハラスメント、いじめ、不正行為、グリーフィングなどを含む。一般に、アビューシブな行動は、他のプレイヤのゲームプレイの楽しみに悪影響を与えることを意図したものである行動を含む。アビューシブな行動は明確で明白な場合もあるが、多くの場合、アビューシブな行動はそれほどはっきりしていないこともあるので、検出が困難である可能性のある、より複雑なアビューシブな行動及び／またはアクションがオンラインゲーム内に存在する場合がある。
オンラインゲームコミュニティ内のアビューザに対して、無関心であるか、または避けられないという感覚があることもある。例えば、アビューザの数はまだ比較的少なく、ほとんどのプレイヤはいかなるレベルのアビューシブな行動も経験していない。また、以前は、標的となったプレイヤ及び／または被害者がアビューシブな行動をゲームホストに報告した場合、たとえアビューザに対して修正アクションがとられたとしても、それは最小限であって、アビューザは責任をとらずに行動できたかもしれない。しかし、ゲーム業界は、オンラインゲームコミュニティにアビューザが存在することによって提示されるネガティブな問題に気づきつつある。アビューシブな行動が抑制されずに放置される場合、徐々に支払うべき最終的な代償が生じる可能性がある。例えば、オンラインゲームコミュニティでは、コミュニティがより苛烈になり、アビューシブな行動を受け入れるようになるにつれて、人数が減少する可能性がある。
本開示の実施形態は、このような背景の下になされたものである。
本開示の実施形態は、ビデオゲームのプレイヤによって制御されるアクティビティを望ましくないまたは望ましいと識別するように構成される人工知能（ＡＩ）モデルをトレーニングして実装するためのシステム及び方法に関する。ＡＩモデルは、深層学習エンジンを使用してトレーニングされ、この深層学習エンジンは、プレイヤのアクティビティに関連する特徴（以下、フィーチャと記載することもある）を抽出し、それらのアクティビティをアビューシブな行動である、または、望ましい（例えば、良い行動である）とクラス分類するように構成される。そのようにして、アビューシブな行動を抑制するオンラインゲームコミュニティの構築を支援するために、追加のアクションが実行される場合がある。
一実施形態では、オンラインゲームの行動を制御するための方法が開示される。この方法は、ゲームセッション中の所定期間にわたりゲームサーバで、ビデオゲームをプレイする複数のプレイヤの複数のゲームプレイを監視することを含む。この方法は、複数のゲームプレイに関連する複数のアクティビティと関係のある複数のゲームプレイからフィーチャを抽出することを含み、複数のアクティビティは複数のプレイヤによって制御される。方法は、複数のアクティビティをクラス分類するように構成された人工知能（ＡＩ）学習モデルにフィーチャを入力することを含む。この方法は、アクティビティをアビューシブな行動としてクラス分類することを含む。
別の実施形態では、オンラインゲームの行動を制御するための方法を実装するためのコンピュータプログラムを格納する非一時的なコンピュータ可読媒体が開示される。コンピュータ可読媒体は、ゲームセッション中の所定期間にわたりゲームサーバで、ビデオゲームをプレイする複数のプレイヤの複数のゲームプレイを監視するためのプログラム命令を含む。コンピュータ可読媒体は、複数のゲームプレイに関連する複数のアクティビティと関係のある複数のゲームプレイからフィーチャを抽出するためのプログラム命令を含み、複数のアクティビティは複数のプレイヤによって制御される。コンピュータ可読媒体は、複数のアクティビティをクラス分類するように構成された人工知能（ＡＩ）学習モデルにフィーチャを入力するためのプログラム命令を含む。コンピュータ可読媒体は、アクティビティをアビューシブな行動としてクラス分類するためのプログラム命令を含む。
さらに別の実施形態では、コンピュータシステムが開示され、このコンピュータシステムは、プロセッサと、プロセッサに結合され、命令をその中に格納したメモリとを含み、これらの命令は、コンピュータシステムによって実行されると、コンピュータシステムに、オンラインゲームの行動を制御するための方法を実行させることが開示される。この方法は、ゲームセッション中の所定期間にわたりゲームサーバで、ビデオゲームをプレイする複数のプレイヤの複数のゲームプレイを監視することを含む。この方法は、複数のゲームプレイに関連する複数のアクティビティと関係のある複数のゲームプレイからフィーチャを抽出することを含み、複数のアクティビティは複数のプレイヤによって制御される。この方法は、複数のアクティビティをクラス分類するように構成された人工知能（ＡＩ）学習モデルにフィーチャを入力することを含む。この方法は、アクティビティをアビューシブな行動としてクラス分類することを含む。
本開示の他の態様は、一例として本開示の原理を例示する添付図面と併せて以下の詳細な説明から明らかになる。
本開示は、以下の説明と併せて添付図面を参照することにより最良に理解され得る。
本開示の一実施形態による、ゲームセッション中にビデオゲームのプレイヤによって制御される望ましくない及び／または望ましいアクティビティを識別するように構成される人工知能モデルを実装するように構成されたシステムを示す。 本開示の一実施形態による、オンラインゲームコミュニティを示す図である。 本開示の一実施形態による、チームメイトに称賛を与えるために提供する通知を示す図である。 本開示の一実施形態による、称賛の受信をプレイヤに知らせる通知を示す図である。 本開示の一実施形態による、ゲームセッション中に１人のプレイヤがもう１人のプレイヤに称賛を与える様子を示す図である。 本開示の一実施形態による、望ましくない及び／または望ましい行動を識別するように構成された人工知能モデルをトレーニングして実装するように構成されたシステムを示す図である。 本開示の一実施形態による、望ましくない及び／または望ましい行動をクラス分類するための方法を示すフロー図である。 本開示の一実施形態による、行動を識別することができる人工知能モデルをトレーニングして実装するように構成されたシステムによって示唆された望ましくない行動の確定を示すデータフロー図を示す。 本開示の一実施形態による、望ましくない行動の確定を要求するポップアップメッセージを示す。 本開示の一実施形態による、プレイヤによってフラグ付けされた望ましくない行動の確定を示すデータフロー図を示す。 本開示の一実施形態による、望ましくない行動の報告を要求するポップアップメッセージを示す。 本開示の一実施形態による、標的とされたプレイヤに対して望ましくない行動を示す、または示したプレイヤによって標的にされるプレイヤのマスキング及び除去を示す。 本開示の一実施形態による、マーク付けされたプレイヤの差し迫った存在の通知を示す。 本開示の一実施形態による、望ましくない行動を示すと識別されたプレイヤに提供される通知を示す。 本開示の一実施形態による、望ましくない行動及び／または望ましい行動の迅速な認知を提供するミニレポートフィーチャ６００Ｈを示す。 本開示の様々な実施形態の態様を実行するために使用することができる例示的なデバイスのコンポーネントを示す。
以下の詳細な説明には、説明の目的上、多くの特定の詳細が含まれているが、当業者であれば分かるように、以下の詳細に対する多くの変形及び修正も本開示の範囲内である。したがって、以下に説明する本開示の態様は、この説明に続く特許請求の範囲に対する一般性を何ら失うことなく、また特許請求の範囲に限定を課すことなく記述される。
概略的には、本開示の様々な実施形態は、人工知能（ＡＩ）技術を実装して、ゲームセッションのプレイヤ間の望ましくない行動を識別する及び／またはクラス分類するように構成された機械学習モデルをトレーニングする及び／または構築するシステム及び方法、ならびに望ましくない行動の発生を最小にする試みの中での軽減技術の適用を説明する。さらに、機械学習モデルは、望ましい行動を実行するプレイヤに称賛を与えるシステムなどを通じて、オンラインゲームコミュニティ内でプレイヤの評判を確立して構築するという目的で、ゲームセッションのプレイヤの間で望ましい行動を識別するように構成可能である。
特に、本開示の実施形態は、他者によるアビューズ（例えば、悪用的、攻撃的、虐待的である行動であり、これらをまとめてアビューズと記載することがあり、また、アビューズと思われる、あるいはアビューズの可能性がある行動をアビューシブな行動と記載することがある）をクラス分類するように構成される。他の実施形態は、ゲーム内でのアビューズのためにプレイヤがやめると決定するときを識別するように構成される。１人以上のプレイヤ（例えば、アビューザ）によって実行されたアビューズまたはアビューシブな行動の一部の例は、本開示の実施形態では、「自分のキャラクタを意図的にキルする」ことで、自分のグループ（例えば、マルチプレイヤゲームでのプレイヤのチーム）またはフレンドを傷つけること、チームメイトを意図的にキルする、絵文字でスパムする、他のプレイヤに嫌がらせすることを意図したアクションを実行する「グリーフィング」、チームのチームメイトを助けないと決定する、別のキャラクタが死ぬのを見物する、助けを与えずにチームメイトのキャラクタが死ぬのを見物する、助けを与えずにチームメイトのキャラクタが困難または問題を経験するのを見物することなどを含む。
アビューシブな行動を軽減する試みの中で、ゲームセッションの終了時に、ゲームスコアを示すだけの代わりに、本開示の一実施形態では、アビューザの識別または特定の特性（例えば、望ましくない行動）を示したアビューザを統計データに含めることができる。望ましくない行動を軽減する試みの中で、望ましくない行動を実行していると識別されたプレイヤに警告する、識別されたプレイヤのセッションをＸ回禁止する、識別されたプレイヤを現在のゲームセッション中にタイムアウトにすることなどを含む、さらなるアクションを行うことができる。
他の実施形態では、人工知能（例えば、機械学習モデル）を使用してセッションアクティビティを監視し、何が悪くて（望ましくない行動で）、何が良いか（例えば、望ましい行動であるか）を学習することも可能である。ゲームプレイ中にプレイヤごとに、テレメトリデータ（例えば、ゲーム状態データ、メタデータ、及びユーザセーブデータ）をキャプチャすることができ、そのテレメトリデータを処理して、アビューザの可能性のあるプレイヤを識別することができる。他の実施形態では、クラウドソーシングを使用して、アクティビティがアビューズであるかどうかを確定することができ、それらの確定を、機械学習を実装する人工知能システムにフィードバックして、追加のトレーニング及び／または学習を、ゲームセッション中のプレイヤによる望ましくない行動及び望ましい行動を識別するように構成された機械学習モジュールに提供することができる。本開示の実施形態では、アビューズされたプレイヤ（例えば、標的にされたプレイヤ及び／または被害者）は、対応するアビューザがゲームセッションを禁止される場合、または完全にビデオゲームをプレイすることを禁止（例えば、永久追放あるいはライフタイムバン）される場合などにおいて、自分のゲームのパターンを変更する必要がない。
１つ以上のゲームセッション中に、プレイヤの行動を識別する及び／またはクラス分類するように構成されたシステムの利点は、クラウドゲームシステムの効率的な実装を含む。例えば、望ましくない及び／またはアビューシブな行動により、バックエンドサーバの処理能力及びサイクルの点で負のコストが発生する可能性がある。つまり、１つ以上のゲームセッション中の望ましくない及び／またはアビューシブな行動は、処理リソースを利用する。ビデオゲームの進行に役立たないビデオゲーム内で発生するアクションのために、コンピューティングリソースが失われる。また、あまりにも多くの人が望ましくない及び／またはアビューシブな行動を示す場合、望ましくない及び／またはアビューシブな行動に関連するアクションを実行すると、ボトルネックが発生する可能性がある。つまり、望ましくない及び／またはアビューシブなアクティビティは、システムを減速させ、正当にゲームをプレイしようとしている、またはゲームを進めようとしている他のプレイヤに損失を与える可能性がある（例えば、対応するゲームプレイの関連処理での遅延を引き起こす）。
基本的には、コンピューティングリソースを使用して望ましくない及び／またはアビューシブなプレイヤのアクティビティを処理することにより、処理システム、メモリ、ストレージなどに負担をかける。さらに、望ましくない及び／またはアビューシブなプレイヤのアクティビティを処理すると、望ましくない及び／またはアビューシブなアクティビティを含むゲームプレイに関する追加のレポートを作成する、トラフィックを管理する及び／または行動を減少させるための追加のトラフィック管理を引き起こすことなどによって、追加の管理リソースが使用され、実際のゲームアクティビティの処理を潜在的に妨げる可能性がある。結果として、望ましくない（例えば、アビューシブな、悪いなど）行動の検出及びクラス分類により、クラウドゲームシステムの効率を高める軽減技術の適用が可能になる場合がある。特に、望ましくない行動を示すプレイヤのゲームプレイに制限を強要する場合がある（例えば、それらのプレイヤのセッションをタイムアウトにする、またはプレイヤを所定期間禁止にする）。
これにより、望ましくない行動を示すプレイヤが貴重な帯域幅を占有することが防がれるので、１つ以上のゲームセッション中に建設的なゲームプレイに利用可能なクラウドゲームシステムの帯域幅が増加し、また、望ましくない行動の標的は、望ましくない行動に対処するためにゲームプレイで時間及び労力を無駄にする必要がなくなる。これに代えて、望ましくない行動の標的のゲームプレイを、対応するゲームプレイを進める効率的な方法で指示することができる。そのため、望ましくない及び／またはアビューシブな行動に関連するアクティビティに対するリソース処理がなくなる、あるいはそのようなアクティビティを軽減するリソース処理がなくなるので、建設的なゲームプレイのための帯域幅が増える。
本明細書全体を通して、「ゲーム」または「ビデオゲーム」または「ゲームアプリケーション」への言及は、入力コマンドの実行を通して指示される任意のタイプのインタラクティブアプリケーションを表すことを意味する。例示のみを目的として、対話型アプリケーションには、ゲーミング、文書処理、ビデオ処理、ビデオゲーム処理などに対するアプリケーションが含まれる。さらに、前述で導入した用語は交換可能である。
種々の実施形態の前述した全般的な理解に基づき、次に実施形態の詳細例について、種々の図面を参照して説明する。
図１は、本開示の一実施形態による、ゲームセッション中にビデオゲームのプレイヤによって制御される望ましくない及び／または望ましいアクティビティを識別するように構成される人工知能を（例えば、機械学習の適用によって）使用する人工知能モデルを実装するように構成されたシステム１００を示す。プレイヤの望ましくない及び／または望ましいアクティビティを識別すると、オンラインビデオゲームをプレイする際に良い行動を取ることを促進する及び／または信用するために、追加のレスポンスがシステム１００によって実行されてもよい。例えば、アビューズレスポンスエンジン１４５は、対応するプレイヤのアビューシブな行動が人工知能を使用して識別されると、そのアビューシブな行動を軽減するように構成される。また、称賛システム１２０は、称賛を管理する（例えば、発行及び除去）ことによって、オンラインゲームコミュニティの全体的なウェルネスを促進するように構成され、称賛は、プレイヤ間の建設的な肯定を表すことができる。
ビデオゲームは、対応するプレイヤに対してローカルに（スタンドアロンシステムとしてのバックエンドサポートを用いず、またはデータ転送とストレージに、もしくはマルチプレイヤ設定にバックエンドサポートを用いて）実行されていてもよく、または下記のように、バックエンドサーバに（例えば、ゲームクラウドシステム１１０を介して）実行されていてもよい。図示されるように、複数のプレイヤ１１５（例えば、プレイヤ５Ａ、プレイヤ５Ｂ、…、プレイヤ５Ｎ）は、複数のビデオゲームまたはゲームアプリケーションをプレイしており、ビデオゲームのそれぞれは、該当ユーザの該当クライアントデバイス１００（例えば、ゲーム機）で、またはバックエンドサーバ（例えば、ゲームクラウドシステム１１０）で、ローカルに実行される。
システム１００は、ある期間を通してなど、シングルプレイヤまたはマルチプレイヤでの１つ以上の時点で、複数のプレイヤ１１５によるゲームプレイをサポートする。さらに、複数のプレイヤ１１５のそれぞれは、追加のサポート（例えば、ディスプレイなど）及び／または機能を提供するように構成された、オプションのデバイス１１または他のデバイス（例えば、スピーカまたはヘッドマウントディスプレイ）へのアクセスを有する。クライアントデバイス１００は、有線または無線、移植可能または移植可能ではないプロセッサ及びメモリを有する任意のタイプのデバイスを含むことができる。一実施形態では、クライアントデバイス１００は、スマートフォン、タブレットコンピュータ、または移植可能なフォームファクタでタッチスクリーン機能を提供するハイブリッドの形をとることができる。
対応するビデオゲームのローカル実行の場合、クライアントデバイス１００のそれぞれは、該当ゲームアプリケーションをローカルで実行する点で、同様に構成され得る。例えば、プレイヤ５Ａは、対応するクライアントデバイス１００上で第１ビデオゲームをプレイしている場合があり、第１ビデオゲームのインスタンスは、中央処理装置（ＣＰＵ）及びグラフィックスプロセッシングユニット（ＧＰＵ）グループを含む対応するゲーム実行エンジン１１１（例えば、ゲームエンジン）によって実行される。第１ビデオゲームを実装するゲームロジック１２６Ａ（例えば、実行可能コード）は、該当クライアントデバイス１００に格納され、ゲーム実行エンジン１１１を用いて第１ビデオゲームを実行するために使用される。例示として、ゲームロジックは、該当クライアントデバイス１００に、ポータブルメディア（例えばフラッシュドライブ、コンパクトディスクなど）を介して、またはネットワークを介して配信され得る（例えばインターネット１５０を介してゲームプロバイダからダウンロードされ得る）。
さらに、プレイヤ５Ｂは、該当クライアントデバイス１００で第２ビデオゲームをプレイしており、第２ビデオゲームのインスタンスは、該当ゲーム実行エンジン１１１により実行される。第２ビデオゲームは、プレイヤ５Ａのために実行されている第１ビデオゲームと同一であってもよく、または異なるビデオゲームであってもよい。第２ビデオゲームを実装するゲームロジック１２６Ｂ（例えば、実行可能コード）は、前述のように該当クライアントデバイス１００に格納され、対応するゲーム実行エンジン１１１を用いて第２ビデオゲームを実行するために使用される。さらに、プレイヤ１１５Ｎは、該当クライアントデバイス１００の第Ｎビデオゲームをプレイしており、第Ｎビデオゲームのインスタンスは、該当ゲーム実行エンジン１１１により実行される。第Ｎビデオゲームは、第１のもしくは第２ビデオゲームと同一であってもよく、または完全に異なるビデオゲームであってもよい。第３のビデオゲームを実装するゲームロジック１２６Ｎ（例えば、実行可能コード）は、前述のように該当クライアントデバイス１００に格納され、ゲーム実行エンジン１１１を用いて第Ｎビデオゲームを実行するために使用される。
対応するビデオゲームのリモート実行の場合、ゲームクラウドシステム１１０は、分散型ゲームサーバシステム及び／またはアーキテクチャとして構成されてもよい。概して、ゲームクラウドシステム（ＧＣＳ）１１０は、ネットワーク１５０経由で動作するクラウドコンピューティングシステムであり、複数のユーザ／プレイヤをサポートすることができる。ＧＣＳ１１０は、ゲームアプリケーション、サービス、ゲーム関連のデジタルコンテンツ、ならびにシステム、アプリケーション、ユーザ及びソーシャルネットワーク間の相互接続性を提供することが可能であるシステムである。ＧＣＳ１１０は、ネットワークインタフェース（図示せず）経由でソーシャルメディアマネージャ（図示せず）を介してクライアントデバイス１２６Ａ～Ｎ及びソーシャルメディアプロバイダ（図示せず）と通信することができる。ソーシャルメディアマネージャ（図示せず）は、１つ以上のソーシャルメディアプラットフォーム全体で１人以上のフレンドを関連させるように構成されることができる。ＧＣＳ１１０のゲームセッションマネージャ（図示せず）は、録画エンジン（図示せず）と通信して、ゲームプレイまたはゲームプレイセッションまたはゲームセッションの録画（例えば、ビデオ）を生成する、または保存することができる。
ＧＣＳ１１０にアクセスするプレイヤごとのユーザプロファイルは、認証のために、及び／または望ましくないまたは望ましい行動の識別のために使用されることができるプレイヤ情報を含む。例えば、アカウントマネージャ（図示せず）は、メンバーのユーザ／プレイヤに関連するユーザ情報を更新し、管理するために使用され得る。ユーザプロファイルはデータベース１４０に格納されることができる。
複数のプレイヤ１１５は、ネットワーク１５０を介してゲームクラウドシステム１１０にアクセスし、プレイヤ（例えば、プレイヤ５Ｌ、５Ｍ、…、５Ｚ）は、該当クライアントデバイス１００を介してネットワーク１５０にアクセスし、各クライアントデバイス１００は、ゲームロジックを実行するように構成されたゲーム実行エンジン１１１によって構成されてもよく、またはストリーミングコンフィグレーションなどに計算機能（例えば、ゲームロジック１７７を実行するように構成されたゲーム実行エンジン１７５を含む）を提供するバックエンドサーバとインタフェースするシンクライアントとして構成されてもよい。そのようにして、ゲームプレイはおもにＧＣＳ１１０で実行されるため、対応するクライアントデバイス１００はＧＣＳ１１０からゲームビデオフレームのストリームを受信し、ゲームプレイを駆動するためのユーザ入力コマンドは、ＧＣＳ１１０に返送されることができる。
具体的には、該当プレイヤ５Ａのクライアントデバイス１００は、インターネットなどのネットワーク１５０を介してゲームアプリケーションへのアクセスを要求するように、またゲームサーバ１０５により実行され、該当プレイヤ５Ａに関連付けられたディスプレイデバイスに配信されるビデオゲームのインスタンスをレンダリングするように、構成される。例えば、プレイヤ５Ａは、ゲームサーバ１０５のゲームプロセッサ上で実行されているビデオゲームのインスタンスと、クライアントデバイス１００を介してインタラクトしていてもよい。さらに特に、ゲームアプリケーションのインスタンスは、ゲーム実行エンジン１７５により実行される。ビデオゲームを実装するゲームロジック（例えば、実行可能コード）は、データストアまたはデータベース１４０を介して格納され、アクセス可能であり、ビデオゲームを実行するために使用される。ゲーム実行エンジン１７５は、複数のゲームロジック１７７を使用して複数のビデオゲームをサポートすることができる。
図示されるように、ゲームクラウドシステム１１０は、複数のインタラクティブビデオゲームまたはゲームアプリケーションへのアクセスを提供するゲームサーバ１０５を含む。ゲームサーバ１０５は、クラウド内で利用可能な任意のタイプのサーバコンピューティングデバイスであり得、１つ以上のホスト上で実行される１つ以上の仮想マシンとして構成され得る。例えば、ゲームサーバ１０５は、ユーザのゲームアプリケーションのインスタンスをインスタンス化するゲームプロセッサをサポートする仮想マシンを管理し得る。よって、複数の仮想マシンに関連付けられたゲームサーバ１０５の複数のゲームプロセッサは、複数のユーザ１１５のゲームプレイに関連付けられた１つまたは複数のビデオゲームの複数のインスタンスを実行するように構成される。例えば、ゲームクラウドシステム１１０は、ホストマシンのハイパーバイザ上で実行される複数の仮想マシン（ＶＭ）を含み、１つ以上の仮想マシンが、ホストのハイパーバイザにとって利用可能なハードウェアリソースを用いるゲームプロセッサモジュールを実行するように構成されてもよい。そのようにして、バックエンドサーバサポートは、複数のビデオゲームのゲームプレイのメディア（例えば、ビデオ、オーディオなど）のストリーミングを、対応する複数のユーザに提供する。
特に、分散型ゲームサーバシステムでは、ゲームロジックを実行する分散型ゲーム実行エンジンは、対応するビデオゲームの対応するインスタンスとして構成される。一般に、分散型ゲーム実行エンジンは、ゲーム実行エンジンの機能のそれぞれを取り込み、それらの機能を分散させて、多数の処理エンティティが中央処理装置（ＣＰＵ）及びグラフィックスプロセッシングユニット（ＧＰＵ）グループとして機能することによって実行する。個々の機能は、さらに１つ以上の処理エンティティにわたって分散させることができる。処理エンティティを異なる構成（例えば、物理ハードウェア）で、及び／または仮想コンポーネントまたは仮想マシンとして、及び／または仮想コンテナとして構成してもよい。コンテナは、仮想化オペレーティングシステム上で実行されるゲーミングアプリケーションのインスタンスを仮想化するため、仮想マシンとは異なる。
処理エンティティは、ゲームクラウドシステムのサーバ及びその１つ以上のサーバ（計算ノード）の基礎となるハードウェアを利用し、及び／またはそれらに依拠してもよく、サーバは１つ以上のラック上に配置され得る。種々の処理エンティティに対するそれらの機能の実行の協調、割り当て、及び管理は、分散同期層によって行われる。そのようにして、それらの機能の実行が分散同期層によって制御されて、プレイヤによるコントローラ入力に応答して、ビデオゲーム用のメディア（例えば、ビデオフレーム、オーディオなど）を生成することが可能になる。分散同期層は、重要なゲームエンジンコンポーネント／機能が、より効率的な処理のために分散されて再構築されるように、分散処理エンティティ全体で（例えば、負荷バランシングを介して）それらの機能を効率的に実行することが可能である。
システム１００は、複数のプレイヤ１１５（例えば、プレイヤ５Ａ～５Ｎ）にゲームコントロールを提供するため、クライアントデバイス１００のそれぞれは、ゲームコントローラ、タブレットコンピュータ、キーボードなどの様々な種類の入力デバイスからの入力、及びビデオカメラ、マウス、タッチパッドなどにより取り込まれたジェスチャを、受信し得る。クライアントデバイス１００は、メモリとプロセッサモジュールとを少なくとも有する任意の種類のコンピューティングデバイスであり得、ネットワーク１５０を介してゲームサーバ１０５に接続することができる。
また、該当プレイヤのクライアントデバイス１００は、ローカルで作動するゲーム実行エンジン１１１により実行される、またはリモートで実行するゲーム実行エンジン１７５により実行される、レンダリングされた画像を生成するように、及びレンダリングされた画像をディスプレイに表示するように、構成される。例えば、レンダリングされた画像は、対応するプレイヤのクライアントデバイス１００でローカルに実行する対応するビデオゲームのインスタンスに関連付けられてもよく、またはクライアントデバイス１００は、ゲームプレイを駆動するために使用される入力コマンドを介するなどして、該当プレイヤのゲームプレイを実装するためにゲームサーバ１０５を介してリモートに実行される該当ビデオゲームのインスタンスとインタラクトするように構成される。
一実施形態では、クライアントデバイス１００は、ビデオゲームをプレイする該当プレイヤのために、シングルプレイヤモードで作動している。別の実施形態では、複数のクライアントデバイス１００は、特定のビデオゲームをそれぞれプレイする該当プレイヤのために、マルチプレイヤモードで作動している。この場合、ゲームサーバ１０５を介したバックエンドサーバサポートは、マルチプレイヤ処理エンジン１１９を介するなどして、マルチプレイヤ機能を提供し得る。特に、マルチプレイヤ処理エンジン１１９は、特定のゲームアプリケーションについてマルチプレイヤゲームセッションを制御するために構成される。例えば、マルチプレイヤ処理エンジン１１９は、マルチプレイヤセッションコントローラ１１６と通信し、これは、マルチプレイヤゲームセッションに参加するユーザ及び／またはプレイヤのそれぞれとの通信セッションを確立し、維持するように構成される。このように、マルチプレイヤセッションコントローラ１１６に制御されることにより、セッション内のプレイヤは相互に通信することができる。
特に、マルチプレイヤ処理エンジン１１９は、各ユーザの該当ゲーム環境内でユーザ間のインタラクションを可能にするために、マルチプレイヤロジック１１８と通信する。特に、状態共有モジュール１１７は、マルチプレイヤゲームセッションにおいて各ユーザについての状態を管理するように構成される。例えば、状態データは、特定箇所における該当ユーザの（ゲームアプリケーションの）ゲームプレイの状態を定義するゲーム状態データを含み得る。例えば、ゲーム状態データには、ゲームキャラクタ、ゲームオブジェクト、ゲームオブジェクト属性、ゲーム属性、ゲームオブジェクト状態、グラフィックオーバーレイなどが含まれ得る。このようにして、ゲーム状態データにより、ゲームアプリケーション内の該当箇所に存在するゲーム環境の生成が可能となる。ゲーム状態データには、ＣＰＵ、ＧＰＵ、メモリの状態、レジスタ値、プログラムカウンタ値、プログラマブルＤＭＡ状態、ＤＭＡ用のバッファデータ、オーディオチップ状態、ＣＤ－ＲＯＭ状態など、ゲームプレイのレンダリングに使用されるあらゆるデバイスの状態が含まれることもある。ゲーム状態データは、そのポイントからビデオゲームを実行するために、実行コードのどの部分をロードする必要があるかを特定することもできる。ゲーム状態データは、データベースまたはデータストア１４０に格納され得、状態共有モジュール１１７によりアクセス可能である。
さらに、状態データは、該当プレイヤのビデオゲームをパーソナライズする情報を含むユーザセーブデータを含み得る。これには、ユーザがプレイするキャラクタに対応付けられた情報が含まれるため、ビデオゲームは、そのユーザに特有であり得るキャラクタ（例えば位置、形状、外観、衣服、兵器など）でレンダリングされる。このようにして、ユーザセーブデータにより、該当ユーザのゲームプレイ用のキャラクタを生成することが可能となり、キャラクタは、該当ユーザが現在エクスペリエンスしているゲームアプリケーション内の時点に対応する状態を有する。例えば、ユーザセーブデータは、ゲームをプレイする時に該当ユーザが選択したゲーム難易度、ゲームレベル、キャラクタ属性、キャラクタ位置、残存ライフ数、利用可能ライフの総数、鎧、トロフィー、タイムカウンタ値などを含み得る。ユーザセーブデータはまた、例えば該当プレイヤを識別するユーザプロファイルデータを含み得る。ユーザがセーブしたデータをデータベース１４０に格納することができる。
さらに、状態データは、情報を提供するように構成されるメタデータ、及び／またはゲーム状態データ及びユーザセーブデータなど、他の情報のコンテキストを含んでもよい。メタデータは、異なる情報間のリレーショナル接続を提供してもよく、またはあらゆるタイプの有用な情報を提供してもよい。例えば、メタデータは、プレイヤのゲームプレイにおける特定の時点のゲームコンテキストを記述する情報、例えば、プレイヤがゲーム内のどこにいるか、ゲームのタイプ、ゲームのムード、ゲームのレーティング（例えば、成熟度レベル）、ゲーム環境にいる他のプレイヤの数、表示されるゲームの規模、情報が収集された時間、収集された情報のタイプ、インターネット接続の地域または位置、どのプレイヤが特定のゲームセッションをプレイしているか、記述情報、ゲームタイトル、ゲームタイトルのバージョン、フランチャイズ、ゲームタイトル配信フォーマット、ネットワーク接続性、アクセスしたダウンロード可能なコンテンツ、リンク、言語、システム要件、ハードウェア、クレジット、実績、賞、トロフィーなどを含むことができる。
このようにして、状態共有データ１１７及びマルチプレイヤロジック１１８を用いるマルチプレイヤ処理エンジン１１９は、マルチプレイヤゲームセッションに参加するユーザのゲーム環境のそれぞれに、オブジェクト及びキャラクタをオーバーレイ／挿入することができる。例えば、第１ユーザのキャラクタは、第２ユーザのゲーム環境にオーバーレイ／挿入される。これにより、マルチプレイヤゲームセッション内のユーザ同士が、それぞれの（例えば、スクリーン上に表示されている）ゲーム環境を介して交流することが可能になる。
ゲームサーバ１０５を介したバックエンドサーバのサポートは、アビューズレスポンスエンジン１４５及び称賛システム１２０を実装するなどの追加の機能を提供することができる。特に、ゲームサーバ１０５は、人工知能を使用して、１つまたは複数のビデオゲームの１つまたは複数のゲームセッションでのプレイヤの望ましくない及び／または望ましい行動を識別する、及びまたはクラス分類するために、ＡＩプロセッサ１６０と協働してもよい。そのため、ＧＣＳ１１０は、１つ以上のビデオゲームの１つ以上のゲームセッション内のプレイヤの望ましくない行動（例えば、アビューシブな行動、及び／または１人以上の他のプレイヤ（例えば、標的となったプレイヤ及び／または被害者）のゲームエクスペリエンスの楽しさを減らすように意図的に設計された行動）を識別するように、そしてアビューズレスポンスエンジン１４５を使用して望ましくない行動を軽減するために、追加のレスポンス及び／または反応を提供するように構成される。さらに、ＧＣＳ１１０は、望ましい行動（例えば、１人または複数の他のプレイヤのゲームエクスペリエンスの楽しみを一般的に増加させる良い行動）を識別するように、そしてオンラインビデオゲームをプレイするときにプレイヤによる良い行動の実践を促進するために称賛のシステムを管理するように構成される。１つ以上のユーザ／プレイヤデバイスが、ＧＣＳ１１０及びソーシャルメディアプロバイダ（図示せず）によって提供されるサービスにアクセスするために、ネットワーク１５０に接続され得る。
例えば、ＡＩプロセッサ１６０は、本開示の一実施形態による、アビューシブな行動など、ゲームセッション内のプレイヤによる望ましくない行動を識別する及び／またはクラス分類するために、機械学習エンジン１９０を（例えば、機械学習モデルを通じて）実装するように構成される。アビューシブな行動を識別した及び／またはクラス分類した後、アビューズレスポンスエンジン１４５は、対応するプレイヤのアビューシブな行動を短期的にも、長期的にも軽減するように設計される、追加のシステムレスポンス及び／またはアクションを提供するように構成される。
別の例では、ＡＩプロセッサ１６０は、本開示の一実施形態による、ゲームセッション内のプレイヤによる望ましい行動を識別する及び／またはクラス分類するために、機械学習を（例えば、機械学習モデルを通じて）適用する機械学習エンジン１９０を実装するように構成される。望ましい行動は、オンラインゲームコミュニティの全体的なウェルネスを促進し、一般に１人または複数の他のプレイヤのゲームエクスペリエンス（例えば、楽しみ）を有益に増加させる良い行動を含む場合がある。望ましい行動を識別した後、称賛システム１２０は、オンラインゲームコミュニティのメンバーに対する称賛の管理を通じて、オンラインゲームコミュニティのウェルネスを促進するように構成される。称賛は、プレイヤ間で、または称賛システム１２０によって規制される、プレイヤの行動の建設的な肯定のメトリックであり得る。特に、与えられる称賛及び／または奪われる称賛は、対応するプレイヤの評判の表現を提供し、この評判は、プレイヤがコミュニティ内でどれほど有益であるかを示す場合がある。例えば、別のプレイヤの楽しみを増やす（例えば、ゲームセッションを通じて初心者または経験の浅いプレイヤを支援する）アクションを継続的に実行するプレイヤは、多数の称賛または高い称賛レーティングによって表される評判を有することができる。特定の実装では、１人のプレイヤは、もう１人のチームメイト（例えば、プレイヤ）に、ゲーム後のラップアップセッション中に明示された建設的な肯定のメトリックを表す称賛を与えることができる。プレイヤは、ゲームセッションごとに１つの称賛をいずれかの他のプレイヤに与えることができる。場合によっては、プレイヤは、ゲームセッションごとに１つまたは複数の称賛を与えることができる。一実施形態では、称賛は匿名で与えられる。別の実施形態では、受信者は、プレイヤが称賛を与えたことを知っている。
称賛システム
図２は、本開示の一実施形態による、オンラインゲームコミュニティ２００を示す図である。オンラインゲームコミュニティ２００は、複数のメンバー２２０を含み、コミュニティ２００は、多くのタイプのメンバーを含むユニバーサルコミュニティであり得る。一般に、コミュニティ２００のメンバーは、ゲーム、または特定のビデオゲーム、または複数のビデオゲームに何らかの関心を有する。例えば、メンバーは、プレイヤ、観客、カジュアルなオブザーバ、熱心なオブザーバ、研究者、評論家、社会評論家、ビジネスパートナなどであってもよい。
図示されるように、オンラインゲームコミュニティ２００は、１つまたは複数のサブセットを含むことができ、各サブセットは、１つまたは複数のメンバーを含むことができる。例示の目的で、コミュニティサブセット２０５は、複数のメンバー２２０から取られた複数のメンバーを含み、それら複数のメンバーの各々は、対応するアバター表現によって表されることができる。アバターは、一般的なものであってもよく、または各メンバーによってカスタマイズされてもよい。コミュニティサブセット２０５は、プレイヤの近くにカーソル２０１を配置することによって拡大されハイライトされるメンバー２２０ｘを含む。コミュニティサブセット２０５の各メンバーは、ゲームに対して共通の関連する関心を有する。例えば、コミュニティサブセット２０５は、特定のビデオゲームに関連する場合があり、ビデオゲームは、シングルプレイヤ、マルチプレイヤ、大規模マルチプレイヤ（ＭＭＯ）、ファーストパーソンシューティングゲームなどであってもよい。コミュニティサブセット２０５のメンバーは、ビデオゲームに熱中している可能性があり、ビデオゲームをプレイしているか、ビデオゲームを積極的に観戦しているか、ゲームについて学びたいか、サブセット２０５内にフレンドがいるか、他の興味があるか、これらの任意の組み合わせを有するかいずれかであってもよい。コミュニティサブセット２０５は、フレンドのソーシャルネットワークまたは他の関連性のあるユーザグループを含むことができる。メンバーは、ユニバーサルコミュニティ２００内、特定のコミュニティサブセット内、またはコミュニティサブセット間で互いにインタラクトすることができる。
場合によっては、コミュニティサブセット２０５は、１つまたは複数のビデオゲームの複数のゲームセッションにまたがる期間など、長期間にわたって存在する可能性がある。例えば、コミュニティサブセット２０５は、ビデオゲームＸをプレイするときにチームを形成するフレンドグループを含むことができ、協働して目的を達成するために、チームプレイヤは同時にオンラインになってもよく、またはばらばらなタイムラインに参加してもよい（例えば、同時にではなく異なる時間にオンラインになってもよい）。他の場合では、サブセットは、１回のゲームセッションにまたがる期間など、はるかに短い期間にわたって存在する可能性がある。その場合、コミュニティサブセット２０５を形成するプレイヤグループはチームとしてランダムに構成されてもよく、またはコミュニティサブセット２０５を形成するプレイヤグループはチームとしてプレイするフレンドグループであってもよい。
オンラインゲームコミュニティ２００、またはコミュニティサブセットのいずれかは、一般にソサエティに適用するソーシャルコンストラクトによって形成される場合があるが、ゲームに一意のソーシャルコンストラクトを受け入れる場合もある。単純化及び例示のみを目的として、以下の概念は、オンラインゲームコミュニティ２００に関連して説明されているが、コミュニティサブセットのいずれにも等しく適用可能である。他のソーシャルコミュニティ内と同様に、オンラインゲームコミュニティ２００では、コミュニティ内に正常な者、良い立場の者、十分に尊敬されている者、悪い立場の者であると見なされるメンバーを含むことがある。例えば、メンバー２２０ｘは、良い立場のプレイヤ、適切に自分の対応するスキルセットを使用し、他のプレイヤを傷つける意図がないプレイヤ、及びコミュニティ２００及び／またはそのメンバーの福祉に一般的に関心を持っているプレイヤと見なされることができる。ハイライトされると（例えば、カーソル２０１を使用して）他のメンバーに見えるプレイヤ２２０ｘのユーザプロファイル２１０は、例えば、ペルソナ（Ｇａｔａ５）、スキルレベル（１０のうち９）、トロフィー（１００）、エントリ３１１としての称賛（１９５）、プレイしたゲーム（ビデオゲームＡ、ビデオゲームＢなど）、及び興味（ゲーム、スキーなど）などの様々な情報を含むことができる。
その対極にある、プレイヤ２２０ｙは、悪い立場のプレイヤと見なされる場合がある。図示されるように、プレイヤ２２０ｙは、コミュニティサブセット２０５の一員ではないが、コミュニティの一員であり得る。プレイヤ２２０ｙは、コミュニティ２００、対応するコミュニティサブセット、及び／またはそのそれぞれのメンバーの福祉に一般に無関心であるプレイヤと見なされ得る。プレイヤ２２０ｙは、１人または複数の他のメンバー、及びコミュニティ２００全体またはコミュニティサブセットに対して破壊的な方法で行動する可能性がある。プレイヤ２２０ｙのユーザプロファイル２１５は、説明を容易にするために示されているが、図２では別のプレイヤによって必ずしも選択的にハイライトされておらず、様々な情報、例えば、ペルソナ（２Ｎｉｃｅ４Ｕ）、スキルレベル（１０のうち６）、トロフィー（４３）、エントリ３１６として称賛（１５）、プレイしたゲーム（ビデオゲームＡ、ビデオゲームＳなど）、及び興味（ゲーム、読書、旅行など）などを含む場合がある。
一実施形態では、称賛システムは、オンラインゲームコミュニティ２００内に、コミュニティの福利を促進するために、または他の目的のために実装される。称賛は、１人のプレイヤに、もう１人のプレイヤによって匿名でまたは透明性をもって与えられる明示された建設的な肯定のメトリックである場合があり、１人のプレイヤはもう１人のプレイヤの良い行動を認識する、またはそれを認めている。オンラインゲームコミュニティ２００を管理するシステムによって称賛が与えられることもある。システム及び／またはプレイヤは、ゲームセッションごとに１つまたは複数の称賛を与えることができる。プレイヤが収集する称賛の数は、オンラインゲームコミュニティ２００内で、またはコミュニティサブセット内で評判を築き上げる可能性がある。そのため、称賛システムは、望ましい行動を実行するプレイヤに称賛を与えるシステムなどを通じて、オンラインゲームコミュニティ内でプレイヤの評判を確立して構築する目的で実装されてもよい。プレイヤの評判は、そのプレイヤがコミュニティ内でどれほど有益であるかを示す場合がある。例えば、別のプレイヤの楽しみを増やす（例えば、ゲームセッションを通じて初心者または経験の浅いプレイヤを支援する）アクションを継続的に実行するプレイヤは、多数の称賛または高い称賛レーティングによって表される評判を有することができる。称賛、称賛ポイント、または称賛トークンは、望ましい行動を実践することで増加し得るが、望ましくない行動を実践することで減少し得る。
例えば、コミュニティの福利は、称賛の使用を通じてコミュニティのメンバーに信頼できる安全な環境を提供することによって育まれる可能性がある。すなわち、称賛の使用は、コミュニティ２００またはその中のサブセットのメンバーに信頼できる安全な環境を提供する方法で行動するなど、望ましい行動を使用して行動するようにコミュニティのプレイヤを指示してもよい、及び／または促してもよい。前述のように、プレイヤによる望ましい行動は、別のプレイヤのゲームエクスペリエンスの楽しみを促進する可能性がある。説明のみを目的として、望ましい行動は「良い」行動と称されることもある。さらに、オンラインゲームコミュニティをサポートするサービスによって、良い行動が促進される可能性がある。一実施形態では、称賛は、コミュニティ内のプレイヤによる望ましい行動の実践を促進するために使用されてもよく、望ましい方法で行動しているプレイヤは、１人または複数の他のプレイヤから１つまたは複数の称賛を受けることができる。そのため、プレイヤは、望ましい行動を使用して行動することにより、発行された称賛または称賛ポイントもしくはトークンの対応する数の増加によって表されるように、コミュニティ内での評判（例えば、尊敬されている、善良な市民であるなど）を高めることを望む場合がある。場合によっては、称賛のレベルが高いプレイヤは、オンラインゲームコミュニティ２００内でインフルエンサになるほどの良い立場にある可能性があるため、他のプレイヤは、望ましい行動（例えば、良い行動など）を示すことによって、それらのインフルエンサを真似することを望む可能性がある。図２では、プレイヤ２２０ｘは、獲得した多数の称賛及び／または称賛ポイント（例えば、１５０を上回る称賛）によって示されるように、評判の良いプレイヤである可能性がある。高いスキルレベルは、オンラインゲームコミュニティ２００内でプレイヤの評判が良いか悪いかを必ずしも示さない場合がある。
望ましい行動の一部の例は、ゲームセッション中に肯定的な言葉を使用する、別のプレイヤまたはチームメイトに建設的な肯定を提供する、通常行われている以上の支援をチームメイトに提供する、経験の浅いプレイヤにヘルプを提供する、プレイヤ間のチームワークを可能にするアクティビティ、プレイヤの積極的な関与などを含んでもよい。
一方、プレイヤによる望ましくない行動は、別のプレイヤまたは複数のプレイヤのゲームエクスペリエンスを減少させる（例えば、楽しみを減少させる）可能性がある。説明のみを目的として、望ましくない行動は「悪い」行動と称されることもある。例えば、望ましくない行動を実践するプレイヤを、オンラインゲームコミュニティをサポートするサービスは、称賛システムの使用などを通じて思いとどまらせることができ、悪い行動（例えば、望ましくない方法でのもの）のプレイヤは、悪い行動と見なされる対応するアクティビティごとに、称賛の合計数が減らされる場合がある。特に、プレイヤは、収集した称賛の対応する数を減らす方法で行動しないことによって、コミュニティ内での評判を維持する及び／または高めることを望む場合がある。つまり、望ましくない行動を示すプレイヤは、収集した称賛の対応する数が減少するにつれて、評判を低下させる可能性がある。さらに、悪い行動をしたプレイヤは、称賛を与えるように勧める良い行動を使用して行動することで、その悪い行動を相殺することを望む場合がある。すなわち、プレイヤは、自分の評判を再構築することができる。一実施形態では、オンラインコミュニティ２００を管理するシステムは、プレイヤが悪い行動をしたと識別される場合、そのプレイヤの称賛または称賛ポイントもしくはトークンの数を減らす。図２では、プレイヤ２２０ｙは、獲得した称賛及び／または称賛ポイントの数が少ないこと（例えば、３０未満の称賛）によって示されるように、評判の良いプレイヤであり得る。高いスキルレベルは、オンラインゲームコミュニティ２００内でプレイヤの評判が良いか悪いかを必ずしも示さない場合がある。
前述のように、望ましくない行動のいくつかの例は、アビューズ及び／またはグリーフィングをもたらすと見なされる場合がある。そのタイプのアビューシブな行動またはグリーフィング行動を行うプレイヤは、この出願では、「アビューザ」とラベル付けされる場合があり、他のラベルは、これらのタイプのプレイヤ、例えば、不快なプレイヤ、グリーファ（別のプレイヤにグリーフィングをもたらすプレイヤ）などを表す場合もある。望ましくない行動のレベルが存在する可能性があり、アビューシブな行動はグリーフィングよりも否定的である可能性がある。アビューズと見なされる可能性のある望ましくない行動の一部の例は、本開示の実施形態では、「自分のキャラクタを意図的にキルする」ことで、自分のグループ（例えば、マルチプレイヤゲームでのプレイヤのチーム）またはフレンドを傷つけること、チームメイトを意図的にキルする、絵文字でスパムする、他のプレイヤに嫌がらせすることを意図したアクションを実行する「グリーフィング」、チームのチームメイトを助けないと決定する、別のキャラクタが死ぬのを見物する、助けを与えずにチームメイトのキャラクタが死ぬのを見物する、助けを与えずにチームメイトのキャラクタが困難または問題を経験するのを見物することなどを含む。
一実施形態では、人工知能（ＡＩ）学習モデルは、ゲームセッションの１人または複数のプレイヤの間で望ましい及び望ましくない行動（例えば、アクティビティ、アクションなど）を学習する、及び／またはクラス分類するように構成されることができる。一実施形態では、ＡＩ学習モデルは、機械学習を適用してプレイヤの行動をクラス分類するように構成された機械学習モデルである。別の実施形態では、ＡＩ学習モデルは、深層学習を適用してプレイヤの行動をクラス分類するように構成された深層学習モデルである。ＡＩ学習モデルは、図４に関してさらに説明される。
いくつかの実施形態では、称賛は、プレイされているゲームのタイプに基づいて重み付けされる。例えば、ある特定のビデオゲームは、プレイヤ間で称賛を獲得する及び／または与えることを促す環境を提供する場合があり、そこでは概して、誰もがビデオゲームをうまくプレイし、完全に楽しんでいる（つまり、称賛が容易に得られる環境）。つまり、一人も取り残されない。そのビデオゲームに参加しているプレイヤは、称賛を惜しみなく与えたいと思う可能性がある（例えば、カーニバルゲームをプレイすると、誰もが称賛を受ける）。その場合、称賛は低く重み付けされることができる（例えば、重み乗数を低くする）。望ましい行動を示すアクティビティは、称賛ポイントの合計数に追加される称賛ポイントの半分を発行することになる場合がある。一方、別のビデオゲームは、激しいストラテジゲームをプレイする場合など、プレイヤ間で称賛を獲得する及び／または与えることが非常に困難な環境を提供する場合がある。誰もがビデオゲームをプレイすることを楽しんでいる可能性があるが、ほとんどのプレイヤは、ビデオゲームをプレイすることが難しいことがあるため、ゲームセッションを乗り切るのに苦労している。その場合、称賛は高く重み付けされることができる（例えば、重み乗数を高くする）。例えば、望ましい行動を示すアクティビティは、称賛ポイントの合計数に追加される称賛ポイントの１．５倍を発行することになる場合がある。
一実施形態では、称賛は、明白な建設的な肯定のメトリックを表し、プレイヤのチームがビデオゲームのゲームセッションのプレイを終了した後に発生するゲーム後のセッション中に与えられることができる。他の実施形態では、ゲームセッションのゲームプレイ中に称賛を与えることができる。そのようにして、特定のゲームセッション中のゲームプレイまたはゲームプレイのフローは中断されない。ゲーム後のセッションの一部の例は、ゲーム後またはミッション後のブリーフィング及び／またはブレイクダウンを含む。例えば、ゲームセッション後、チームの各プレイヤは、１つの称賛を与えられ、任意の他のプレイヤ（例えば、チームメイトまたは別のチームのプレイヤ）に与える。他の実施形態では、プレイヤは、所定期間（例えば、時間、ゲームセッションなど）後に称賛を与える機会を有する。前述のように、称賛は、匿名で与えられてもよく、またはだれが称賛を送ったかを受け取るプレイヤがわかるように、透明性をもって与えられてもよい。
図３Ａは、称賛インタフェース３００Ａを示す図であり、この称賛インタフェースは、オンラインゲームコミュニティにとって有益な行動、またはさらに特に、１人または複数の他のプレイヤの対応するゲームエクスペリエンスの楽しみを増やす行動など、望ましい行動を示すアクション及び／またはアクティビティのパフォーマンスを認識するようなチームメイトまたは別の一般プレイヤにプレイヤが称賛を与えることを可能にするように構成される。図示されるように、称賛インタフェースは、ゲーム後のブレイクダウンセッション中にプレイヤ５に提示され得、プレイヤ５はゲームセッション中のビデオゲームのゲームプレイに参加するプレイヤのチームの一員である。プレイヤのチームは、プレイヤ１から５を含むことができる。称賛インタフェース３００Ａは、ゲームセッション後、チームの１人のプレイヤからチームのもう１人のプレイヤに称賛を与える方法を提供する。図示されるように、プレイヤ５は、対応するチェックボックスでプレイヤを選択することにより、任意のチームメイト（例えば、プレイヤ１から４）に称賛を送信するオプションを与えられる。一実施形態では、称賛インタフェース３００Ａは、プレイヤ５からのいかなる要求もなく、ポップアップとして提供されてもよく、ゲームセッションが終了した後にプレイヤ５に提示される。そのように、称賛を与えることはフリクションレスであってもよい。さらに、称賛は、一実施形態では、プレイヤ５による、さらなるいかなるインタラクションもなく、受信側プレイヤの選択とともに直接送信されてもよい。他の実装では、プレイヤ５は、受信側プレイヤの選択が行われた後、別のボタンまたはアイコンを選択して称賛を送信することができる。例えば、称賛を受信するプレイヤの選択後、プレイヤ５は、ボックス３３０を選択して、称賛の送信を開始し、完了することができる。
図３Ｂは、本開示の一実施形態による、称賛の受信を受信側プレイヤに知らせる通知３００Ｂを示す図である。例えば、通知３００Ｂは、称賛が匿名で与えられたことを示すメッセージまたはポップアップメッセージとしてプレイヤＸに提供されてもよい。他の実装では、称賛の送信者は、受信側プレイヤＸにも示される場合がある。通知３００Ｂは、称賛が与えられたときにリアルタイムなどで、いつでも与えられてもよく、または称賛が与えられた後に遅れてなど、別の時間に提示されてもよい。
図３Ｃは、本開示の一実施形態による、ゲームセッション中に１人のプレイヤがもう１人のプレイヤに称賛を与える様子を示す図である。前述のように、称賛は、ゲーム後のセッション中、ゲームセッションが完了した後にいつでも、そしてゲームセッション中を含むいつでも、プレイヤ間で与えられてもよい。図３Ｃは、ゲームセッション中に称賛が与えられることができる方法の一例を提供する。例えば、ゲームワールド３５０は、プレイヤＸ（３８０）及びプレイヤＺ（３８５）のゲームプレイ中に示される。ゲームワールド３５０は、プレイヤＸ（３８０）の視点から撮られたスクリーンショット３００Ｃに示され得、そのアバターは拡大されている。本開示の実施形態は、ゲームワールド３５０で望ましい行動が発生しているときに、人工知能を介して検出してクラス分類するように構成され得る。例えば、プレイヤＺ（３８５）は、ゲームワールド３５０では、望ましい行動を示す何らかのアクションを実行していてもよい。プレイヤＺ（３８５）は、プレイヤＸ（３８０）に示される視野のバックグラウンドに示され、プレイヤＺ（３８５）のアバターのサイズは縮小されている。
両方のプレイヤがゲームワールド３５０の同じエリアにいるため、プレイヤＸ（３８０）は、おそらくは、プレイヤＺ（３８５）によって実行されたアクティビティの目撃者である。プレイヤＺ（３８５）による望ましい行動のクラス分類の後、スクリーンショット３００Ｃに示されるように、称賛インタフェース３６０がプレイヤ３８０に提示されてもよい。例えば、称賛インタフェース３６０は、ポップアップメッセージであってもよい。インタフェース３６０は、限られた時間、可視であってもよい。称賛インタフェース３６０は、プレイヤＺ（３８５）である別のプレイヤによって望ましい行動が実行されたという通知を提供する。望ましい行動の簡単な概要またはプレビュー（例えば、ビデオクリップ３７５）をインタフェース３６０内に提示することができる。
いくつかの実装では、プレイヤＺ（３８５）は、プレイヤＸ（３８０）のチームメイトであり、プレイヤＺ（３８５）は、チーム目標（例えば、必要なアイテムをキャプチャする）の達成を支援するアクションを実行していてもよく、またはいずれかの有益なアクション（例えば、チームメイトを助ける、チームメイトを救うなど）を実行していてもよい。他の実装では、プレイヤＺ（３８５）はプレイヤＸ（３８）のチームメイトではなく、プレイヤＺは何らかの望ましいアクション（例えば、橋を架ける、経験の浅いプレイヤを助けるなど、プレイヤのコミュニティを支援する何らかのアクション）を実行している。称賛インタフェース３６０を介して、プレイヤＸ（３８０）は、ボタン３７０（「称賛を与える」）を選択することなどにより、いかなるさらなるアクションも実行することなく、プレイヤＺ（３８５）に称賛を与えることができる。そのようにして、称賛の付与は、プレイヤＸ（３８０）のゲームプレイを妨げないように、シームレス及びフリクションレスの方法で、プレイヤＸ（３８）による最小限のインタラクションで実施され得る。
別の実施形態では、称賛は、称賛システム１２０によって与えられてもよい。例えば、称賛システム１２０が望ましいアクティビティを検出してクラス分類した後、望ましいアクティビティを実行しているプレイヤ（例えば、プレイヤＸ）のアイデンティティを決定することができる。システムは、別のプレイヤ（例えば、プレイヤＹ）の能動的に称賛を与えさせることなく、プレイヤＸに直接称賛を発行することができる。例えば、称賛を与える目的で、望ましい行動の発生が１人または複数の他のプレイヤに提示されたとしても、別のプレイヤによって称賛が与えられていないことがあるため、称賛システム１２０は、プレイヤＸに称賛を発行することができる。別の例では、プレイヤＸは、望ましい行動を目撃するいかなる他のプレイヤもゲームワールドに存在していない、シングルプレイヤゲームをプレイしている可能性がある。その場合、称賛システム１２０は、プレイヤＸに、望ましい方法で行動したことに対する称賛を発行することができる。
別の実施形態では、称賛は、１人または複数の観客によって与えられてもよい。例えば、ゲームセッションは、１人または複数の観客によって可視であってもよい。観客によって可視のゲームセッションは、ライブまたは録画されたものであってもよい。称賛システム１２０は、ゲームセッション中に実行される望ましいアクティビティを検出してクラス分類することができる。検出及びクラス分類は、視聴中に発生してもよく、またはゲームセッションの録画の観客による視聴の前に発生していていもよい（例えば、ライブゲームプレイ中にクラス分類されてもよい）。称賛システム１２０は、望ましいアクティビティの発生を１人または複数の観客に提示して、１人または複数の観客がプレイヤに１つまたは複数の称賛を与えることができる。
一実施形態では、観客グループに、プレイヤに称賛を与えるべきかどうかを決定する投票（例えば、閾値を上回る投票）が提示される。別の実施形態では、観客は、望ましいと思われるアクティビティにフラグ付けすることができ、その後、称賛システムは、アクティビティが望ましいアクティビティのレベルまで上昇するかどうかを人工知能によって分析することができる。いくつかの実施形態では、アクティビティが望ましいアクティビティのレベルまで上昇するかどうかを決定するために、クラウドソーシング（例えば、プレイヤ、観客、またはその組み合わせによるもの）が使用される。
プレイヤの行動をクラス分類するための人工知能モデル
図４は、システム４００を示す図であり、このシステムは、本開示の一実施形態による、望ましくない行動（例えば、アビューシブな行動）及び／または望ましい行動を識別する及び／またはクラス分類するように構成された人工知能モデルをトレーニングして実装するように構成される。本開示の実施形態では、プレイヤの行動は、ＡＩ学習モデルとも呼ばれるＡＩモデル１９５を使用してクラス分類されることができる。一般に、ＡＩモデルは、プレイヤの中での望ましい及び望ましくない行動（例えば、アクティビティ、アクションなど）を学習する及び／またはクラス分類するように構成されることができる。ＡＩモデルは、フィードバック及び／または信頼できるデータを提供して、ＡＩモデルを連続してトレーニングすることにより更新可能である。一実施形態では、ＡＩ学習モデルは、機械学習を適用してプレイヤの行動をクラス分類するように構成された機械学習モデルである。別の実施形態では、ＡＩ学習モデルは、深層学習を適用してプレイヤの行動をクラス分類するように構成された深層学習モデルであり、機械学習は人工知能のサブクラスであり、深層学習は機械学習のサブクラスである。そのため、人工知能を使用して、プレイヤによる良いアクション及び／またはアクティビティ（例えば、望ましい行動）だけでなく、プレイヤの悪いアクション及び／またはアクティビティ（例えば、望ましくない行動）をクラス分類する。
例えば、学習フェーズ中に何が望ましいアクティビティで何が望ましくないアクティビティであるかを学習するための、そして望ましくない（例えば、悪い、アビューシブななど）行動及び／または望ましい（例えば、良い）行動を示すプレイヤのアクティビティをクラス分類するための入力をＡＩモデル１９５に提供するために、ＡＩモデルはゲームセッションアクティビティを監視するように構成されることができる。特に、テレメトリデータ４０５は、１つまたは複数のビデオゲームに関連する１つまたは複数のゲームセッションに参加している複数のプレイヤの複数のクライアントデバイス１００Ａ～Ｎから収集される。クライアントデバイスは、対応するユーザにローカルであってもよく、またはクラウドゲームネットワークによってサポートされる実行エンジン（例えば、ＣＰＵ、ＧＰＵなどを含む）のインスタンスであってもよい。
前述のように、テレメトリデータ（または状態データ）は、ゲーム状態データ、ユーザセーブデータ、及びメタデータを含む場合がある。具体的には、ゲーム状態データは、特定の時点でプレイヤの実行中のビデオゲームのゲームプレイの状態を定義する。ゲーム状態データは、ゲームプレイ中の対応する時点でのゲーム環境の生成を可能にする。例えば、ゲーム状態データは、ゲームプレイをレンダリングするために使用されるデバイスの状態（例えば、ＣＰＵ、ＧＰＵ、メモリ、レジスタ値などの状態）、その時点でビデオゲームを実行するための実行可能コードの識別、ゲームキャラクタ、ゲームオブジェクト、オブジェクト及び／またはゲームの属性、グラフィックオーバーレイ、及びその他の情報を含んでもよい。ユーザセーブデータには、ビデオゲームを該当プレイヤ用にパーソナライズする情報が含まれる。
例えば、ユーザセーブデータは、キャラクタと、ゲームプレイ中のその時点のプレイヤに一意のキャラクタ状態とを生成するためにプレイヤにパーソナライズされるキャラクタ情報及び／または属性（例えば、位置、体型、外見、衣服、武器、アセットなど）、プレイヤのゲーム属性（例えば、選択したゲームの難易度、ゲームレベル、キャラクタ属性、キャラクタの位置、ライフ数、トロフィー、実績、報酬など）、ユーザプロファイルデータ、及びその他の情報を含んでもよい。メタデータは、ゲーム状態データ及びユーザセーブデータなど、リレーショナル情報及び／または他の情報のコンテキストを提供するように構成される。例えば、メタデータは、プレイヤのゲームプレイ中の特定の時点のゲームコンテキストを記述する情報、例えば、プレイヤがゲーム内のどこにいるか、ゲームのタイプ、ゲームのムード、ゲームのレーティング（例えば、成熟度レベル）、ゲーム環境にいる他のプレイヤの数、表示されるゲームの規模、情報が収集された時間、収集された情報のタイプ、インターネット接続の地域または位置、どのプレイヤが特定のゲームセッションをプレイしているか、記述情報、ゲームタイトル、ゲームタイトルのバージョン、フランチャイズ、ゲームタイトル配信フォーマット、ネットワーク接続性、アクセスしたダウンロード可能なコンテンツ、リンク、言語、システム要件、ハードウェア、クレジット、実績、賞、トロフィー、及びその他の情報を含むことができる。
図示されるように、クラウドゲームシステムを通じて生成されて配信されたデータなど、クライアントデバイス１００Ａ～Ｎに関連付けられたテレメトリデータ４０５のストリームは、ＡＩプロセッサ１６０（例えば、機械学習システム、深層学習システムなどを含む）によって収集される。すなわち、テレメトリデータ４０５のストリームは、１つまたは複数のゲームセッションでのプレイヤのゲームプレイ中にキャプチャされると、フィーチャ抽出器４１０に配信される。このフィーチャ抽出器は、１つまたは複数のゲームセッション中のプレイヤの望ましくない行動及び望ましい行動をクラス分類するのに有用である、テレメトリデータ４０５から顕著なフィーチャ及び／または関連するフィーチャを抽出するように構成される。フィーチャは、ゲームプレイ中に観察された現象のデジタル表現である場合がある。説明のみを目的として、ゲームプレイ中に発生する現象のいくつかの例は、ビデオフレーム内のオブジェクト、ゲームプレイ中のキャラクタのアクティビティ、キャラクタのアクション、プレイヤのアクティビティなどであってもよい。
以前は、人工知能を使用するＡＩモデルのトレーニングフェーズ中に、有用なフィーチャまたは学習済みフィーチャを決定することがあった。特に、機械学習エンジン１９０（または深層学習エンジン）及び／またはフィーチャ抽出器４１０は、プレイヤの行動と、さらに特に標的とされたプレイヤの行動（例えば、望ましくない行動及び望ましい行動）とに関連付けられるフィーチャを定義するように構成され得る。トレーニングフェーズは、ライブまたは録画されたゲームプレイから生成されたトレーニングデータ４２０またはテレメトリデータ４０５を使用することができる。フィーチャの選択及び／または抽出を実行して、ＡＩモデル１９５を実装する際に、関連性、精度、及び効率のためにフィーチャの数を減らすこともできる。いくつかの実装では、フィーチャの学習及び抽出がＡＩモデル内で内部に実行されるように、フィーチャの定義及び抽出の両方がＡＩモデル１９５によって実行される。フィーチャは、ＡＩモデルのトレーニング中に隠れ層を介して出力に論理的に接続される入力サンプルを通じて学習される。有用であることがわかった（例えば、学習された）フィーチャをさらにブレイクダウンさせて分析し、追加の有用なフィーチャを（例えば、フィーチャ構築技術を使用して）決定することができる。
フィーチャ抽出器４１０を使用してテレメトリデータから抽出されたテレメトリデータ４０５からの関連するフィーチャは、機械学習エンジン１９０への入力として提供される。機械学習システムは、トレーニングまたは実装用に構成されることができる。具体的には、トレーニングフェーズ中に、トレーニングデータ（例えば、データ４２０及び／またはテレメトリデータ４０５）を使用して望ましくない行動（例えば、アビューシブな行動）及び望ましい行動（例えば、良い行動）をクラス分類するように構成されるトレーニングＡＩアルゴリズム（例えば、機械学習または深層学習トレーニングアルゴリズム）を使用して、ＡＩモデル１９５（例えば、機械学習モデル）をトレーニングする。他の構成では、ＡＩトレーニングアルゴリズムを使用して、様々な現象をクラス分類することができる。実装フェーズ中、ＡＩモデル１９５は、１つまたは複数のゲームセッション中に収集されたテレメトリデータ４０５から、望ましくない行動及び望ましい行動をクラス分類する。
図示されるように、ＡＩモデル１９５は、トレーニングフェーズ（例えば、フィーチャ及びクラス分類器の学習）のために（すなわち、水平方向に）、または実装フェーズ（例えば、プレイヤの行動のクラス分類）のために（すなわち、垂直方向に）構成され得る。トレーニングフェーズ中、トレーニングデータ４２０を機械学習システム１９０に入力として提供することができ、機械学習システムは、ＡＩモデル１９５の構造を、ＡＩモデルのパラメータを微調整することによってトレーニングデータにフィットさせるトレーニングアルゴリズムを実施して、トレーニング済みＡＩモデルは、入力（トレーニング及び／またはテレメトリデータ）と出力（クラス分類されたデータ）との間の正確な関係を提供できるようにする。トレーニング及び／または学習は、適切なフィーチャを学習するなど、トレーニングデータ４２０に関連付けられた既知及び真の出力４２５（例えば、望ましい行動及び望ましくない行動の既知のインスタンス）を使用する教師ありのものであってもよい。
トレーニング及び／または学習は教師なしのものであってもよく、トレーニングデータ４２０またはテレメトリデータ４０５に対して（トレーニングに使用される場合に）既知または真の出力は提供されないため、入力データのみが提供され、ＡＩモデルは、望ましい行動及び／または望ましくない行動を識別するように学習する、及び／または関連付けられたフィーチャを学習する。トレーニングは、教師ありトレーニングと教師なしトレーニングとの両方を実装することができる。例えば、教師なしトレーニングを実行した後、既知のデータを用いて教師あり学習を実行することができる。ＡＩモデル１９５のトレーニング及び実装は以下でさらに説明される。
機械学習エンジン１９０は、本開示の一実施形態による、学習を通じてＡＩモデル１９５をトレーニングするために使用されるニューラルネットワークとして構成され得る。一実施形態では、機械学習エンジン１９０を実装して、望ましくない（例えば、アビューシブな、悪いなど）行動及び／または望ましい（例えば、良い）行動などのプレイヤの行動をクラス分類することができる。具体的には、機械学習エンジン１９０は、トレーニングフェーズ中にトレーニングデータ４２０及び／またはテレメトリデータ４０５を分析して、ＡＩモデル１９５を構築する（例えば、学習を通じてトレーニングする）ように構成され、トレーニングデータは、ゲームプレイのトレーニングに関連するテレメトリデータ、コントローラ入力、バイオメトリックデータ、及びプレイヤの行動に関連するいずれかの有用な情報などを含み得る。したがって、トレーニングデータ４２０及び／またはテレメトリデータ４０５を機械学習エンジン１９０にフィードし、機械学習エンジンは、教師あり学習アルゴリズム、教師なし学習アルゴリズム、強化学習、または他の人工知能ベースのアルゴリズムを含む人工知能を利用して、ゲームセッション中のプレイヤの望ましくない（例えば、アビューシブな、悪いなど）行動と望ましい（例えば、良い）行動とをクラス分類するように構成されるＡＩモデル１９５を構築する。
機械学習エンジン１９０でのニューラルネットワークは、データセットを分析してプレイヤの行動をクラス分類するための自動分析ツールの一例を表す。人工知能を適用するために、様々なタイプのニューラルネットワークが可能である。機械学習を適用する機械学習エンジンが示されているが、他の実施形態では、深層学習エンジンによって適用される深層学習など、他のＡＩ技法を利用することができることが理解される。例えば、ニューラルネットワークは、機械学習エンジン１９０によって実装され得る機械学習をサポートする。別の例では、ニューラルネットワークは、強化学習アルゴリズムをサポートするマルコフ決定プロセス（ＭＤＰ）としてセットアップされたものなど、深層学習エンジンによって実装されることができる深層学習ネットワークをサポートする。したがって、教師ありまたは教師なしのトレーニングを用いたディープニューラルネットワーク、畳み込みディープニューラルネットワーク、及び／またはリカレントニューラルネットワークを実装することができる。
一般に、機械学習エンジン１９０でのニューラルネットワークは、人工ニューラルネットワークなどの相互接続されたノードのネットワークを表し、ＡＩモデル１９５をトレーニングするために使用される。各ノードは、データからある情報を学習する。相互接続を介して、ノード間で知識を交換することができる。ニューラルネットワーク１９０への入力により、ノードのセットがアクティブ化される。次に、このノードのセットは、他のノードをアクティブ化し、それにより入力に関する知識が伝播される。このアクティブ化プロセスは、出力が提供されるまで、他のノードにわたって繰り返される。
図示のように、ＡＩモデル１９５を実装するニューラルネットワークは、ノードの階層を含む。最下位階層レベルに、入力層１９１が存在する。入力層１９１は、入力ノードのセットを含む。例えば、これらの入力ノードのそれぞれは、自律パーソナルコンパニオン１００によるユーザ及びユーザに関連付けられた環境の監視及び／またはクエリ中に、アクチュエータによって能動的に、またはセンサによって受動的に収集されたローカルデータ１１５にマッピングされる。
最上位階層レベルには、出力層１９３が存在する。出力層１９３は、出力ノードのセットを含む。出力ノードは、例えば、ローカルＡＩモデル１２０の１つまたは複数のコンポーネントに関連する決定（例えば、予測）を表す。前述のように、出力ノードは、望ましくない（例えば、アビューシブな、悪いなど）プレイヤの行動及び／または望ましい（例えば、良い）プレイヤの行動をクラス分類することができ、ここでは、入力は、トレーニングに使用されることができるトレーニングゲームセッション及び／またはライブゲームセッションから収集された様々なテレメトリデータを定義することができる。これらの結果は、機械学習エンジン１９０によって使用されるパラメータを洗練して及び／または修正して、プレイヤの行動の適切なクラス分類を反復して決定するために、プレイヤの以前のインタラクション及び監視、プレイヤまたは観客の識別（フラグ付け）、クラウドソーシング、ユーザ入力などから得られた所定及び真の結果と比較されることができる。
特に、隠れ層１９２が、入力層１９１と出力層１９３の間に存在する。隠れ層１９２は、「Ｎ」個の隠れ層を含み、「Ｎ」は、１以上の整数である。次に、隠れ層のそれぞれはまた、隠れノードのセットも含む。入力ノードは、隠れノードと相互接続されている。同様に、隠れノードは、出力ノードと相互接続されているため、入力ノードは、出力ノードと直接相互接続されていない。複数の隠れ層が存在する場合、入力ノードは、最下位の隠れ層の隠れノードと相互接続される。次に、これらの隠れノードは、次の隠れ層の隠れノードと相互接続され、以下同様に続く。次の最上位の隠れ層の隠れノードは、出力ノードと相互接続される。相互接続は、２つのノードを接続する。相互接続は、入力に適応的で学習できるＡＩモデル１９５を構築するように構成された機械学習エンジン１９０にニューラルネットワークをレンダリングするように、学習されることができる数値の重みを有する。
一般に、隠れ層１９２により、入力ノードに関する知識が、出力ノードに対応するすべてのタスク間で共有されることが可能となる。そのようにするため、一実装例では、隠れ層１９２を介して入力ノードに変換ｆが適用される。一例では、変換ｆは非線形である。例えば線形整流器関数ｆ（ｘ）＝ｍａｘ（０，ｘ）を含む、様々な非線形変換ｆが利用可能である。
ＡＩモデル１９５を構築するように構成された機械学習エンジン１９０内のニューラルネットワークもまた、コスト関数ｃを使用して最適解を見つける。コスト関数は、所与の入力ｘに関してｆ（ｘ）と定義されたニューラルネットワーク１９０によって出力される予測と、グラウンドトゥルース（あるいは実際のデータ）またはターゲット値ｙ（例えば見込まれる結果）との偏差を測定する。最適解は、最適解のコストよりコストの低い解がない状況を表す。コスト関数の例として、グラウンドトゥルースラベルが利用可能なデータの場合、予測とグラウンドトゥルースとの平均二乗誤差が挙げられる。学習プロセス中に、ニューラルネットワーク１９０は、誤差逆伝播アルゴリズムを使用して、様々な最適化方法を採用し、コスト関数を最小化するモデルパラメータ（例えば隠れ層１９２内のノード間の相互接続の重み）を学習し得る。このような最適化方法の一例として、確率的勾配降下法が挙げられる。
一例では、ＡＩモデル１９５を構築するように構成された機械学習エンジン１９０でのニューラルネットワーク用のトレーニングデータセットは、同じデータ領域からのものであり得る。例えば、ニューラルネットワークは、入力または入力データの所与のセットに対する、望ましくない（例えば、アビューシブな、悪いなど）及び／または望ましい（例えば、良い）プレイヤの行動を学習するようにトレーニングされている。例えば、データ領域は、ベースライン入力データと見なされるゲームセッションデータを含む。別の例では、トレーニングデータセットは、ベースライン以外の入力データを含むように、様々なデータ領域からのものである。
したがって、ＡＩモデル１９５を構築するように構成された機械学習エンジン１９０内のニューラルネットワークは、所与の入力セット（例えば、トレーニングデータ）に対して、望ましくない（例えば、アビューシブな、悪いなど）プレイヤの行動及び／または望ましい（例えば、良い）プレイヤの行動を識別してもよく、及び／またはクラス分類してもよい。これらの予測結果に基づいて、ニューラルネットワーク１９０は、収集されたテレメトリデータを使用して望ましくない行動及び望ましい行動をクラス分類するために使用されるＡＩモデル１９５を定義することもできる。
実装フェーズ（汎化とも呼ばれる）中、ＡＩモデル１９５を使用して、ＡＩモデルの構成に基づいて、テレメトリデータ４０５（すなわち、トレーニングデータではない）から、望ましくない（例えば、アビューシブな、悪いなど）行動及び／または望ましい（例えば、良い）行動を予測する、及び／またはクラス分類する。
したがって、フィーチャ抽出器４１０への入力及び／または機械学習エンジン１９０への直接の入力として提供される所与のテレメトリデータ４０５の場合、クラス分類される望ましくない（例えば、アビューシブな、悪いなど）行動４３０は、ＡＩモデル１９５からの出力として提供され得る。
ＡＩモデル１９５を使用してクラス分類される望ましくない行動のいくつかの例として挙げられるのは以下のとおりである：別のプレイヤがゲームセッションをやめることにつながるプレイヤのアビューシブなアクティビティ；自分のグループのチームメイトまたはフレンドを傷つけるためにプレイヤ自身のキャラクタまたはチームメイトのキャラクタを意図的にキルすること（例えば、意図的なキル）；別のプレイヤに絵文字でスパムする；別のプレイヤに嫌がらせをすることを意図したアクティビティ（例えば、グリーフィング）；ゲームセッション内で意味をなさないアクティビティ；アクションが必要なときにアクションがない；プレイヤのスキルレベル未満でプレイする；否定的なコメント；ゲームフィーチャあるいはフィーチャ（例えば、チャット、絵文字など）の過度の使用；チームメイトへの敬意の欠如を示すプレイヤのアクティビティ、例えば、１人のプレイヤが、チームの目標達成を助けないと決定する、またはプレイヤが別のプレイヤ（例えば、別のプレイヤのキャラクタ）が死亡する、もしくは困難及び／または問題にあっているときに楽しんで見物している場合（例えば、シャーデンフロイデを経験している）、または見物しているプレイヤが支援を提供することができるときに別のプレイヤが死亡する、もしくは困難及び／または問題を経験するのを見物している場合など；プレイヤの積極的な関与をクラス分類する、チームワークの悪さを示すアクティビティ。
プレイヤにとって望ましくないとクラス分類された行動が極端である場合、または同じプレイヤによる望ましくない行動の複数のインスタンスが顕著なレベルにまで上昇する場合、そのプレイヤは、システム４００によってアビューザであるとマーク付けされてもよく、またはクラス分類されてもよい。
また、フィーチャ抽出器４１０への入力及び／または機械学習エンジン１９０への直接の入力として提供される所与のテレメトリデータ４０５の場合、クラス分類される望ましい（例えば、良い）行動４３５は、ＡＩモデル１９５からの出力として提供され得る。ＡＩモデル１９５を使用してクラス分類されることができる望ましい行動の一部の例は、プレイヤ間の良いチームワークを示すアクティビティ、チームメイトの建設的な肯定、ゲームセッション中の肯定的なゲーム言語の使用、プレイヤの積極的な関与、経験の浅いプレイヤを助けるアクティビティ、チームメイトに支援を与えること、過度な数のフレンド要求を有するなど望ましい行動を示すもの、などを含む。
望ましくない及び／またはアビューシブな行動は、スタンダードや基準などの、測定可能でもある閾値を参照して、それぞれが測定され確定されることができる１つまたは複数のメトリックで識別可能である。例えば、望ましくない及び／またはアビューシブな行動は、何らかのメトリックを有する、または低下させる（例えば、ビデオゲームに関連するスコアが同じ能力を有するプレイヤの所期の閾値を下回る）と定義されることができる。例示として、望ましくない行動は、その能力を有するプレイヤにとっていずれかの所期の遅延を上回る、ビデオゲームの進捗での遅延に関連付けられることができる。その場合、１つのメトリックは、プレイヤが特定のスキルレベル（例えば、ユーザプロファイル内で定義される）に関連付けられている、ビデオゲームを介したプレイヤの実際の進捗を測定することができる。もう１つのメトリックは、ほぼ同じスキルレベルのプレイヤについてのビデオゲームでの所期の進捗または平均の進捗を測定することができる。所期の進捗及び／または平均の進捗は、対応するプレイヤのスキルレベルの標準的な進捗を定義することができる。所期の閾値は、ビデオゲームでの所期の進捗または平均の進捗に関連付けられることができる。
ビデオゲームでの進捗の遅延は、ビデオゲームでの実際の進捗及びビデオゲームでの所期の進捗の測定値の差である。したがって、所期の閾値は、所期の進捗または平均の進捗から、ビデオゲームで同じスキルレベル（例えば、標準偏差内）のプレイヤの進捗での許容可能な遅延に関連付けられることができる。所期の閾値（例えば、許容される遅延）を超えるいずれかの遅延は、望ましくない及び／またはアビューシブな行動と見なされることができる。所期の閾値がプレイヤのスキルレベルに応じて変化し得ることが理解される。別の例示では、望ましくない及び／またはアビューシブな行動は、所期の閾値を超える、ゲームを完了するまでの時間内の遅延、例えば、ほぼ同じスキルレベルのプレイヤがゲームを完了するまでの平均時間を参照する、ゲームを完了する際の許容可能な時間の遅延などによって定義されることができる。
そのため、望ましくない及び／またはアビューシブな行動は、１つ以上の対応するメトリックで定量化されることができる。例えば、第１のメトリックによって行動を定量化し、閾値に対して比較する及び／または確定することができ、閾値は、対応するプレイヤのスキルレベルに応じて変化する場合がある。つまり、閾値及び／または所期の閾値は、プレイヤのタイプ（例えば、初心者、ある程度の経験者、熟練者など）のスキルレベルに応じて変化する可能性がある基準に関連付けられる。閾値及び／または所期の閾値は、データベース１４０などのデータベースに格納されることができる。行動は、第１のメトリックが閾値を超えると、望ましくなくなる、及び／またはアビューズになる。そのようにして、行動の外れ値は、見いだされることができると、望ましくない及び／またはアビューシブな行動に関連付けられ得る。
他の実施形態では、良い行動は、同じ方法で定量化されることができる。例えば、プレイヤの行動は、何らかのメトリックによって定量化され、閾値と比較されることができるので、行動は、その閾値に達する及び／または上回ると、良い行動とみなされる。
一実施形態では、ＡＩモデル１９５からのプレイヤＢの行動のクラス分類に、ユーザプロファイルフィルタ関数を実行することができる。特に、ユーザプロファイルデータは、ＡＩモデル１９５への入力として提供され得るので、フィルタ関数は、ＡＩモデル内で、かつプレイヤの行動をクラス分類する出力がＡＩモデル１９５によって提供される前に、提供される。いくつかの実施形態では、フィルタ関数は、ＡＩモデル１９５がプレイヤの行動をクラス分類する出力を提供した後に提供される。フィルタリングの一例は、ビデオゲームの目標を達成するためにタスクが必要であるにもかかわらず、プレイヤがそのタスクを達成していない可能性がある場合に発生する。
ＡＩモデル１９５は、プレイヤのアクションがタスクの達成の実行を意図的に回避することを含んだと決定し、ＡＩモデル１９５は、プレイヤによるアクションがないことをアビューズ（例えば、受動的なアビューズ）であるとクラス分類する。他の形態の受動的なアビューズは、対応するゲームセッション内でいかなる意味もなさないプレイヤによるアクション及び／またはアクティビティ、外れ値であるアクティビティ（例えば、平均的な使用よりも多く使用される機能など）、興味がないことを示すことなどを含む。一方、能動的なアビューズは、別のプレイヤのゲームプレイの楽しみに悪影響を与えるアクション及び／またはアクティビティの意図的なパフォーマンス（例えば、意図的なキル、別のプレイヤへの妨害、ユーザプロファイルに示されるよりも低いスキルレベルでプレイしないなど）を含んでもよい。
さらに、ユーザプロファイルデータにより、プレイヤは、高いスキルを有しており、タスクが存在する、及びタスクを達成する方法を知っているはずであることが示されることができると、そのプレイヤが自分の最大能力で実行していない可能性があるため、プレイヤのアクションがないことはアビューズであったことが確認される場合がある。ただし、プレイヤが高いスキルを有していても、フィルタ関数は、プレイヤがそのビデオゲームの初心者であるとユーザプロファイルデータから決定する場合がある。多くのビデオゲームでは、経験豊富なプレイヤは、初心者のプレイヤが高いスキルを有していても、初心者のプレイヤよりも大きなアドバンテージを有する。つまり、プレイヤは、高いスキルを有したプレイヤであっても、ビデオゲームのプレイ方法、及びビデオゲームで何をする必要があるかについて知識豊富になり得るには時間がかかる。
そのため、プレイヤがビデオゲームを受動的にアビューズしているように見える場合でも（例えば、ビデオゲーム内で特定のアクションを実行しないことで、自分の能力を意図的に発揮せず、タスクを完了するチームの能力を損なう場合でも）、システム４００は、プレイヤが初心者であると決定し得るため、プレイヤのアクションがないことをアビューズであるとみなさない、または望ましくない行動を示したというプレイヤのフラグ付けが実際には偽陽性であったと決定することができる。通常、フィルタ関数を介してユーザプロファイルデータを分析することなく、システム４００は、プレイヤのアクションがないことをアビューズとみなすと決定する。
例えば、プレイヤは、ビデオゲームについてできるだけ多くのことを学習しようとしてゲームワールドをさまよっていて、チーム目標の促進のためにタスクを達成する機会を逃す可能性がある。ゲームのプレイ中のこの時点では、初心者であるプレイヤは、タスクが必要であることさえ知らない可能性があり、タスクが存在することを知らない可能性があり、タスクを達成する方法さえ知らない可能性がある。このように、ゲームプレイ中のこの時点では高いスキルを有したプレイヤが何らかのアクションを実行する必要があるが、行っていないように見えても、システム４００は、ユーザプロファイルでフィルタリングした後、プレイヤがそのビデオゲームでの初心者であるため、アクションのないことをアビューズであるとクラス分類しないことができる。
プレイヤの望ましくない行動４３０及び／または望ましい行動４３５をクラス分類して識別することにより、追加のシステム機能またはサービスをサポートし得る。特に、プレイヤの行動をクラス分類した後、アクションエンジン４４０は、追加のアクションを取る、及び／またはプレイヤの望ましくない及び／または望ましい行動のクラス分類にレスポンスするように構成される。すなわち、アクションエンジン４４０は、任意のさらなるアクション及び／またはレスポンスを実行するように構成可能であり得る。アクション及び／またはレスポンスは、ゲームセッション中に（例えば、望ましくない及び／または望ましい行動のクラス分類に間に合うように）、及び／またはゲームセッション後に実行される場合がある。
例えば、アクションエンジン４４０は、１人または複数のチームメイトによる、コンプライアンスグループまたはモデレーションチームによる、１人または複数の他のプレイヤによる、１人以上の観客６０１ｎによるなど、クラウドソーシングを介した確定を通じてなど、クラス分類された行動の確定を提供するように構成され得る。プレイヤの行動が（例えば、望ましくないまたは望ましいものとして）確定されると、アクションエンジン４４０は、確定されたアクティビティが機械学習エンジンにフィードバックされるように、ＡＩモデルをトレーニングするために、その行動を提示することができる。すなわち、クラス分類された望ましい行動に関連するフィーチャを抽出するために、クラス分類された望ましい行動に関連する情報をフィーチャ識別器４３０に送信することができる。１つの実装では、これらのフィーチャは、機械学習エンジンへの入力として先に提供され、トレーニングのためにアクセスされる、または容易に決定されることができる。もう１つの実装では、それらのフィーチャは新たに決定されることができる。識別されたフィーチャは、トレーニングデータ４２０内に新たに含まれてもよく、ＡＩモデル１９５を更新する目的で機械学習エンジンへの入力として提供されてもよい。クラス分類された（望ましくない及び／または望ましい）行動が確定されるため、機械学習エンジンは、一実施形態では、ＡＩモデルを更新するときに、クラス分類された望ましい行動を真の出力４２５であると割り当てることによって、教師あり学習アルゴリズムを適用することができる。
他の例では、アクションエンジンは、追加のレスポンス、例えば、望ましくない及び／またはアビューシブな行動の標的及び／または被害者のマスキング、標的及び／または被害者及び／または他のプレイヤの利益のために望ましくない（例えば、アビューシブな、悪いなど）行動を示すプレイヤのマーク付け、標的とされたプレイヤ及び／または被害者へのアビューシブな行動の通知の提供、望ましくない行動を示すプレイヤへの警告の提供、望ましくない行動を示すプレイヤの禁止措置、望ましくない行動を示すプレイヤを列挙する統計データの提供などを提供し得る。
ゲームクラウドシステム、アビューズレスポンスシステム、称賛システム、システム４００、ＡＩプロセッサ、機械学習エンジン、及びＡＩモデルの詳細な説明とともに、図５のフロー図５００は、本開示の一実施形態による、１つまたは複数のゲームセッション中の１人または複数のプレイヤによる望ましくない及び／または望ましい行動を識別する方法を開示する。フロー図で実行される動作は、一部の実施形態では、前述のエンティティのコンポーネントのうちの１つまたは複数と、プレイヤの行動をクラス分類するように構成される図４に記載のシステム４００によって実施されることができる。
５１０では、この方法は、１つ以上のゲームセッション中の所定期間にわたりゲームサーバで、１つ以上のビデオゲームをプレイする複数のプレイヤの複数のゲームプレイを監視することを含む。一実装形態では、この監視は、ゲームセッション（例えば、マルチプレイヤゲームセッション）中の特定のビデオゲームをプレイする１人以上のプレイヤのゲームプレイを監視するように、パーティション化されることができる。
特に、１つまたは複数のビデオゲームの実行に関連して生成されるテレメトリデータを収集することができる。ビデオゲームは、ユーザにローカルに対応するプレイヤのクライアントデバイス上で、または実行エンジンのインスタンス（例えば、ハードウェアまたは仮想化コンピューティングシステム）を実装するバックエンドゲームサーバで実行されていてもよい。テレメトリデータは、ネットワークを介して配信されてもよく、バックエンドゲームサーバで収集されてもよい。前述のように、テレメトリデータは、状態データ、例えば、ゲーム状態データ、ユーザセーブデータ、及びメタデータなどを含む場合がある。
５２０では、方法は、複数のゲームプレイに関連する複数のアクティビティであって、複数のプレイヤによって制御される複数のアクティビティと関係のある複数のゲームプレイからフィーチャを抽出することを含む。特に、複数のプレイヤのクライアントデバイスに関連付けられたテレメトリデータのストリームは、フィーチャ抽出器への入力として提供される。フィーチャ抽出器は、機械学習エンジンまたは深層学習エンジンなどのＡＩ処理エンジンなどに関連付けられる、またはその内部にある。例えば、一部の実装では、フィーチャ抽出はＡＩモデル内で実行される。前述のように、フィーチャ抽出器は、プレイヤの行動をクラス分類するように構成されたＡＩモデルに関連するテレメトリデータからフィーチャをパースするようにトレーニングされている。そのため、テレメトリデータのセット全体を分析するのではなく、関連する及び／または学習したフィーチャのみを分析して、プレイヤの行動を検出する。
５３０では、方法は、複数のアクティビティをクラス分類するように構成された人工知能（ＡＩ）学習モデルにフィーチャを入力することを含む。つまり、フィーチャ抽出器によってテレメトリデータから抽出された関連するフィーチャは、ＡＩモデルへの入力として提供される。１つの実装では、フィーチャ抽出はＡＩモデルの内部で実行されるため、抽出されたフィーチャは、ＡＩモデル内のさらなる内部層への入力として提供される。先に、ＡＩモデルは、ＡＩモデルがクラス分類に使用する関連するフィーチャを構築するようにトレーニングデータを使用してトレーニングされ、ＡＩモデルは、望ましくない（例えば、アビューシブな、悪いなど）及び／または望ましい（例えば、良い）行動であるプレイヤの行動をクラス分類するようにもトレーニングされる。
５４０では、この方法は、プレイヤに関連するアクティビティをアビューシブな行動としてクラス分類することを含む。特に、実装フェーズ（汎化とも呼ばれる）中、ＡＩモデル１９５を使用して、ＡＩモデルの構成に基づいて、テレメトリデータから、望ましくない行動及び／または望ましい行動をクラス分類する。この実施形態では、望ましくない行動がクラス分類される。例えば、少なくとも１人の他のプレイヤのゲームエクスペリエンスに悪影響を与えるために、望ましくない行動を意図的に実行する可能性がある。このようにして、１人または複数の他のプレイヤにアビューズである可能性のある行動を検出すると、アビューシブな行動の影響を軽減し、さらにアビューシブな行動を示しているプレイヤを説得して変えるアクションを取ることができる。例えば、プレイヤは、警告されてもよく、または所定期間保留パターン（例えば、タイムアウト、サスペンドなど）に置かれてもよく、または深刻な場合、永久アクセス禁止措置などに置かれてもよい。
アビューシブな行動は、軽度に煩わしいものから、違法または犯罪行為の境界上のもの、さらには境界を越えるものまで様々である場合がある。列挙するには多すぎるが、一部の明らかにアビューシブな行動またはアクションは、オンラインでのハラスメント、いじめ、軽視、不正行為、グリーフィング、意図的なキル、及びゲームの故意の放棄を含んでもよい。例えば、オンライン及び／またはオフラインでのハラスメントは、ゲームタイトルのゲームプレイ中またはゲームプレイ後にオンラインチャットを介して投げかけられる言葉によるアビューズ（例えば、チームメイトにヒステリックに叫ぶ、不適切なメッセージを送信するなど）を含む場合がある。標的とされたプレイヤ及び／または被害者のいじめ及び軽視は、標的とされたプレイヤ及び／または被害者のゲームプレイを過小評価する、またはチームに寄与する行動を含む。不正行為は、エイムボット、コントローラの入力応答を高速化するためのスピードハックなどを使用するような、他のプレイヤに対して不公平な優位性を得るいずれかの方法を含む場合がある。グリーフィングは、別のプレイヤに嫌がらせすることを意図して実行されるいずれかのアクションを含むように、ゲームコミュニティ内で進化している。
意図的なキルは、アビューザが標的を下手なプレイヤであると考える場合、アビューザが標的に嫌がらせをしている場合など、何らかの理由でチームメイトを意図的にキルすることを含む。ゲームを放棄する場合、アビューザは、時期尚早にオンラインゲームセッション中にチームが勝つことができる方法はないと考える可能性があり、他のチームメンバー（例えば、土壇場の勝利をまだ望んでいる可能性がある）を考慮せずにできるだけ早くチームが負けるような方法で、故意で一方的に行動することにより、故意に途中でやめる、または降伏する。先の例は、より明白なアビューシブな行動及び／またはアクションのいくつかを示しているが、オンラインゲーム内に存在する可能性のある、多くのそれほど明確ではなく、おそらくより複雑なアビューシブな行動及び／またはアクションを完全には表していない。
他の実施形態では、ＡＩモデルは、プレイヤに関連するアクティビティを望ましい行動であるとクラス分類するように構成されることができる。望ましい行動がクラス分類されると、そのタイプの行動を促進するための追加のアクションを実行することができる。例えば、前述のように、称賛システム１２０は、望ましい行動を認識する方法として実装されてもよく、認識はピアまたはシステムによって駆動され得る。例えば、１以上のピアは、望ましい行動を示しているプレイヤに称賛を与えることができる。別の例では、称賛システムは、望ましい行動を検出し及び／またはクラス分類し、その望ましい行動を示しているプレイヤに称賛を与えることができる。
一実施形態では、プレイヤによる行動を望ましくない（例えば、アビューシブな、悪いなど）とクラス分類することは、その行動が別のプレイヤのゲームプレイに悪影響を与えるかどうかに依存する。特に、プレイヤによるアクティビティが、別のプレイヤがゲームセッションを離脱することに直接つながると決定されてもよく、その際の両方のプレイヤは一緒にゲームセッションに参加している。すなわち、プレイヤのアクティビティは、その他のプレイヤをゲームセッションから離脱させる。一例では、キーボードから離れている（ＡＷＫ）プレイヤは、ゲームセッションを離脱したと決定され得る。別のプレイヤに対する望ましくない行動の悪影響を示す行動のその他の傾向またはパターンは、ゲームセッションのログオフ、特定のプレイヤが参加したことでゲームセッションがどのように悪化する可能性があるかについてプレイヤがコメントする、プレイヤがその望ましくない行動の影響を減らそうとする、別のプレイヤに悪影響を与えるフィーチャを使用する（例えば、絵文字を使用してスパムする）ことを示す可能性がある通常の機能（例えば、絵文字などの最小限の回数しか使用されないと予想される機能）を使用する際のアクティビティでのスパイク、外れ値を示す標準偏差外にあるユーザプロファイルでのパラメータ数（例えば、標的となったプレイヤ及び／または被害者のアビューズまたはグルーミングを示す可能性があるユーザへの平均接触数を超えるもの、通信媒体の乱用を示す可能性のあるプレイヤによる他のプレイヤとの平均接触数を超えるもの、意図的なキルを示す可能性のある味方による誤射事件の数を上回るものなど）を含んでもよい。
例えば、プレイヤが他のプレイヤに対してアビューズを行っているような、望ましくない行動は、他のプレイヤに向けられる可能性がある。別の例では、望ましくない行動は、第三者、または一般にゲームワールドのエリア内の誰に対して向けられてもよい（例えば、行動はエリア内のどの人のゲームプレイも妨害する）。プレイヤによるアクティビティの結果、他のプレイヤはゲームセッションを離脱する。他の実施形態では、望ましくない行動により、他のプレイヤは別のエリアに移動してもよく、または他のプレイヤはプレイヤの望ましくないアクションを阻止しようとするなどのためにアクションを実行してもよい。
プレイヤの望ましくない行動及び／または望ましい行動をクラス分類して識別することにより、追加のシステム機能またはサービスをサポートする場合がある。例えば、所定期間にわたるこれらのタイプの行動の追加の監視及び追跡もまた実装されることができる。特に、図４に戻ると、プレイヤの行動をクラス分類した後、アクションエンジン４４０は、追加のアクションを取る、及び／またはプレイヤの望ましくない及び／または望ましい行動のクラス分類にレスポンスするように構成される。すなわち、アクションエンジン４４０は、いずれかのさらなるアクション及び／またはレスポンス、例えば、基礎となるＡＩモデルを更新する、標的となったプレイヤ及び／または被害者をマスキングする、標的となったプレイヤ、被害者及び／または他のプレイヤの利益のために望ましくない（例えば、アビューシブな、悪いなど）行動を示すプレイヤをマーク付けする、標的となったプレイヤ及び／または被害者へのアビューシブな行動の通知を提供する、望ましくない行動を示すプレイヤへの警告を提供する、望ましくない行動を示すプレイヤに禁止措置をとること、望ましくない行動を示すプレイヤを列挙する統計データを提供することなどを実行するように構成可能であり得る。追加のアクション及び／またはレスポンスは、ゲーム中（例えば、リアルタイム）またはゲーム後に行われることができる。その他の機能は十分にサポートされ、その一部を以下に説明する。
図６Ａは、本開示の一実施形態による、行動を識別することができる人工知能モデルをトレーニングして実装するように構成されたシステムによって示唆された望ましくない行動の確定を示すデータフロー図６００Ａを示す。説明目的で、図６Ａは、望ましくない行動を確定することに焦点を当てる。ただし、他の実施形態では、データフロー図６００Ａを修正して、行動を識別することができる人工知能モデルをトレーニングして実装するように構成されたシステムによって示唆される望ましい行動の確定を実行することができる。
図示されるように、プレイヤＡ～Ｎのゲームプレイからのテレメトリデータ４０５は、収集され、機械学習エンジン１９０に提供され、この機械学習エンジンは、トレーニングフェーズ及び／または実装フェーズを通じてＡＩモデル１９５を構築する、及び／または実行するように構成される。トレーニングフェーズ中、機械学習エンジン１９０は、前述のように、トレーニングデータを使用して望ましくない行動（例えば、アビューシブな行動）及び／または望ましい（例えば、良い）行動をクラス分類するために、トレーニングＡＩアルゴリズムを使用してＡＩモデル１９５をトレーニングする。実装フェーズ中、機械学習エンジン１９０によって実行されるＡＩモデル１９５は、１つまたは複数のゲームセッションに関連付けられることができるテレメトリデータ４０５から、望ましくない行動及び望ましい行動をクラス分類する。
図６Ａでは、トレーニングのために、ＡＩモデル１９５からの出力の追加の確定が提供される。特に、ＡＩモデル１９５は、プレイヤＢによる行動が望ましくないという示唆を出力６０５として提供する。基本的に、ＡＩモデル１９５は実装フェーズで動作し、プレイヤＢによる行動を望ましくないもの（例えば、アビューシブなもの、悪いものなど）とクラス分類する。アクターとしてのプレイヤＢの識別は、ゲーム状態データ、ユーザプロファイルデータ、及び／またはメタデータから決定され得る。例えば、ＡＩモデルは、リアルタイムのゲームセッションを使用してベータフェーズ中に動作していてもよく、または完全に動作可能であってもよく、出力の追加の確定に対する機会が実装される。そのようにして、図４に示されるように、実装フェーズ中にＡＩモデル１９５からの出力として提供される、クラス分類された望ましくない行動４３０及び／またはクラス分類された望ましい行動４３５は、アクションエンジン４４０によって実装されるものなどの確定プロセスを通じて、さらに確定され、トレーニングデータとして提供され得る。
また、関連付けられた期間の録画６０３及び／または他のキャプチャされたデータをキャプチャし、例えば、関連付けられた１つまたは複数のゲームセッションを連続してキャプチャし得、望ましくないと示唆されたプレイヤＢの行動を含む、関連する期間のゲームプレイを含む、録画６０３及び／または他のデータを生成し得る。
プレイヤＢによる行動が望ましくないという示唆を含む出力６０５は、確定エンジン６１０に提供される。さらにまた、録画６０３及び／または他のデータを、プレイヤＢによる行動が望ましくないことを確定するように構成される確定エンジン６１０に提供することができる。確定は、クラウドソーシング６０１ａによる確定、１人または複数のチームメイト６０１ｂによる確定、コンプライアンスグループ６０１ｃまたはモデレーションチームによる確定、１人または複数の他のプレイヤ６０１ｄによる確定、１人または複数の観客６０１ｎによる確定など、多くの方法で実行されることができる。例えば、対応する確定ソースは、録画６０３を視聴して、いずれかの望ましくないアクティビティに気づいたかどうかを決定することができる。確定応答が確定エンジン６１０に返されてもよく、この応答は、プレイヤＢ（６１１）によるアクティビティが望ましくなかったことを確定してもよく、またはプレイヤＢによるアクティビティが許容可能であったことを確定してもよい。返される応答がない場合、プレイヤＢによるアクティビティが望ましくないレベルにまで上昇しなかった、またはプレイヤＸが有効な応答を提供することに関心がなかったことも示す可能性がある。確定プロセスのいくつかの追加の例は、図６Ｂ～図６Ｃに提供される。
確定エンジン６１０は、ＡＩモデル１９５をトレーニングする及び／またはＡＩモデルを更新する（例えば、トレーニングフェーズを使用して）目的で、確定された行動を機械学習エンジン１９０に提示してもよい。確定された行動に関連するフィーチャは、識別される（例えば、機械学習エンジン１９０への入力から）、またはフィーチャ識別器４３０を介して新たに抽出される。そのため、ＡＩモデルでのパラメータは、確定された応答に基づいて変更される、及び／または更新される。行動が確定されるため、機械学習エンジン１９０は、ＡＩモデルをトレーニングするときに（例えば、確定された行動を真の出力４２５であると設定することによって）教師あり学習を適用することができる。例えば、プレイヤＢによる行動が望ましくないものとして確定された場合、ＡＩモデルでのパラメータは、それらの重み付けを変更して（例えば、それらの重み付けを増加させて）、望ましくない行動をより確実にクラス分類する。一方、プレイヤＢ（６１１）による行動が許容可能であった場合、ＡＩモデルでのパラメータを変更して（例えば、それらの重み付けを減少させて）、望ましくない行動をあまり確実でなくクラス分類してもよく、またはさらにそのアクティビティを望ましくないとクラス分類されるものから除去してもよい。
前述のように、フロー図６００Ａは、プレイヤＢによる行動のクラス分類を通じて望ましいものとして示唆するように構成されていてもよい。そのようにして、望ましい行動の確定を達成し、ＡＩモデル１９５を更新する／トレーニングする目的で、機械学習エンジン１９０にサブミットすることができると、行動を望ましいものとしてより適切にクラス分類することができ、ＡＩモデル１９５は、望ましくない及び／または望ましい行動をクラス分類するように構成され得る。例えば、行動が望ましいと確定される場合に強化されるように（例えば、重み付けを増加させるように）、または行動が許容可能であると確定される場合に弱化されるように、確定された応答に基づいて、基礎となるＡＩモデル１９５（例えば、望ましい行動をクラス分類するように構成される）でのパラメータを変更する、及び／または更新することができる。教師あり学習が機械学習エンジン１９０によって適用され得ると、確定された行動を真の出力４２５であると割り当てることによってＡＩモデル１９５をトレーニングすることができる。
このようにして、ＡＩモデル１９５は、望ましい（例えば、良い）行動（例えば、チームワーク、他の人を助ける、他のプレイヤに援助を提供する、経験の浅いプレイヤに指示を与えるなど）のパターンを学習することができる。前述のように、オンラインゲームコミュニティ２００内での評判を高めるなどによって、望ましい方法で行動しているプレイヤに報酬を与える目的で、称賛システム１２０を実装するなど、追加のアクションを実行することができる。
例えば、プレイヤの確定は、望ましくない及び／または望ましい行動を確定するために実行される場合がある。いくつかの実装では、確定を提供する１人または複数のプレイヤは、ビデオゲームのマルチプレイヤゲームセッションに参加しているチームメイトである場合がある。他の実装では、確定を提供する１人または複数のプレイヤは、チームメイト６０１ｂではなくてもよく（例えば、プレイヤＢのチームバイアスを減らす試みの中で）、プレイヤＢと同じゲームセッションでプレイしていてもよく、またはプレイヤＢと同じビデオゲームをプレイしている（ただし、同じゲームセッションではない）他のプレイヤであってもよく、またはプレイヤＢと異なるビデオゲームをプレイしている他のプレイヤ６０１ｄであってもよい。
一実施形態では、プレイヤはグループとして投票して、さらなる確定のために、問題となっている行動（望ましくない及び／または望ましい）を、オンラインコミュニティ内の行動のコンプライアンスを決定するタスクを課された人間のグループを含み得る、コンプライアンスグループ６０１ｃ及び／またはモデレーションチームに送信してもよい。さらに、確定プロセスは、プレイヤＢの行動が望ましくないという示唆の後にいつでも、例えば、ゲーム後のセッション中の直後、またはある期間の後などに実行されることができる。
プレイヤによる確定の一例では、望ましくないとクラス分類され、示唆されるプレイヤＢによる行動を、別のプレイヤＸに提示することができる。プレイヤＸは、示唆された行動が実際に望ましくないことを確定する場合がある。例示のために、図６Ｂは、ゲームワールド６１９のスクリーンショット６００Ｂを示し、プレイヤＸ（６１２）及びプレイヤＢ（６１１）は、マルチプレイヤゲームセッションでビデオゲームをプレイしている。前述のように、プレイヤ６１１及び６１２は同じゲームセッションに示されているが、プレイヤは、同じゲームセッションである必要はなく、チームメイトである必要もない。スクリーンショット６００Ｂは、プレイヤＸ（６１２）の視点から撮られていることができ、そのアバターは拡大されている。プレイヤＢ（６１１）は、ゲームワールド６１９において、望ましくない行動であると示唆される何らかのアクションを実行している可能性がある。プレイヤＢ（６１１）は、プレイヤＸ（６１２）に示される視野のバックグラウンドに示され、プレイヤＢのアバターのサイズは縮小されている。
ポップアップメッセージ６１５及び／または通知をプレイヤＸ（６１２）に提供することができる。メッセージ６１５は、プレイヤＸ（６１２）からのメッセージの要求の有無にかかわらず、プレイヤＸに与えられることができる。プレイヤＢ（６１１）による望ましくない行動の確定を要求する目的で、短いタイトルまたは記述６１６をポップアップメッセージ６１５に提供する。プレイヤＢ（６１１）によるアクティビティを記述する情報もポップアップメッセージ６１５で提供するため、プレイヤＸ（６１２）は、アクティビティが望ましくないかどうかについて情報に基づいて決定することができる。例えば、プレイヤＢ（６１２）によるアクティビティのクリップ６１４（例えば、ビデオ及びオーディオ）は、プレイヤＸ（６１１）による視聴のために、ポップアップメッセージ６１５に含まれ得る。ビデオクリップ６１４の代わりに、またはそれとともに、他のタイプの情報（例えば、テキスト、オーディオなど）を提供することができる。
さらに、プレイヤの行動を識別するシステム、例えば、アビューズレスポンスエンジン１４５（または他の実施形態では称賛システム１２０）に、プレイヤＸが確定を返送するために、インタフェース６１３を提供する。インタフェース６１３は、様々な実施形態において異なるように構成されてもよく、各実施形態は、少なくともプレイヤＸ（６１２）の意見として、プレイヤＢ（６１１）によるアクティビティが望ましくないかどうかをプレイヤＸが確定することを可能にする。例えば、プレイヤＸは、「はい」ボタン６１７を選択することによって、プレイヤＢによる行動が望ましくないことを確定することができる。場合によっては、プレイヤＸは、「いいえ」ボタン６１８を選択するなどによって、プレイヤＸの意見として、アクティビティが望ましくないものではない、または許容可能なものであることを能動的に確定することができる。
プレイヤＸ（６１２）は、プレイヤＸによる応答がない場合（例えば、ボタン６１７または６１８のいずれかを選択しなかった場合）、プレイヤＢの行動が望ましくないレベルまで上昇しないという意見であることを黙示する可能性がある。他の実施形態では、プレイヤＢの行動が望ましくないもの、または納得のいくものであると、基礎となるＡＩモデルが最終的に決定することができる前に、さらなる確定が必要である。例えば、プレイヤＢ（６１１）の行動を示すポップアップメッセージ６１５は、クラウドソーシングによる確定を提供する場合など、追加の確定のために、他のプレイヤ及び／またはエンティティに提供されてもよい。
クラウドソーシングによる確定を使用して、プレイヤＢ（６１１）による行動を望ましくないもの（例えば、アビューシブなもの、悪いものなど）であるかどうかを確定することができ、その確定された行動を機械学習エンジン１９０にフィードバックして、基盤となるＡＩモデル１９５を更新する及び／またはさらにトレーニングすることができる。クラウドソーシングの場合、クラウドが望ましくない行動を確定するかどうかを決定するための閾値（例えば、７５パーセント超、クラウド内のメンバーが最低１０人など）を設定することができる。また、基礎となるＡＩモデル１９５は、追加の確定の有無にかかわらず、学習／トレーニングのために、プレイヤＢのアクティビティに似ている他のプレイヤによる行動がＡＩモデルにサブミットされることができると、洗練されるようになる。
図６Ｃは、本開示の一実施形態による、プレイヤによってフラグ付けされている望ましくない行動の確定を示すデータフロー図６００Ｃを示す。例示目的で、図６Ｃは、望ましくない行動を確定することに焦点を当てる。ただし、他の実施形態では、データフロー図６００Ｃを修正して、行動を識別することができる人工知能モデルをトレーニングして実装するように構成されたシステムによって示唆される望ましい行動の確定を実行することができる。
図示されるように、プレイヤＡ～Ｎのゲームプレイからのテレメトリデータ４０５が生成される。プレイヤＡ～Ｎは、関連付けられたビデオゲームのゲームセッションに参加していることができ、プレイヤは、同じチームもしくは異なるチームに所属していてもよく、または単独でプレイしていてもよい。他の実施形態では、テレメトリデータ４０５は、プレイヤ及び／または観客が視聴可能なゲームセッションのリプレイに関連付けられることができる。さらに、プレイヤＡは、あるプレイヤの行動が望ましくない（例えば、アビューシブな、悪いなど）可能性があることを示すシステム（例えば、アビューズレスポンスエンジン１４５及び／または称賛システム１２０）にフラグ付けする。
例えば、プレイヤＡは、ディスプレイ上のインタフェースに存在するボタン、またはコントローラ上のボタンを選択して、望ましくない行動の存在を示すフラグを生成することができる。いくつかの実施形態では、プレイヤは、フラグ付けするプレイヤがアビューザではないなど、オンラインゲームコミュニティでは善良なメンバーである（例えば、善良な市民である）場合にのみ、望ましくない可能性がある行動を示すフラグを生成することができる。プレイヤＡがフラグを開始するように示されているが、プレイヤの（望ましくない及び／または望ましい）行動のフラグ付けは、観客（ゲームセッションのリプレイを通じて）、一般に行動を認識する初期フィルタ内のシステムなどによって、多くのソースを通じて発生し得る。
特に、プレイヤＡが開始した／生成したフラグは、フラグエンジン６２１によって検出される。この時点では、フラグが開始されるときに、またはフラグエンジン６２０が指令するときに、フラグに関連付けられているテレメトリデータにアクセスする、及び／またはそのテレメトリデータをデータキャプチャエンジン６２１によってキャプチャする。例えば、フラグの生成に関連するプレイヤＢ（またはフラグ付けされている任意のプレイヤ）の行動をキャプチャするために計算された特定の期間に対応する関連付けられたテレメトリデータ４２４を識別する、それにアクセスする、及び／またはそれをキャプチャする。一部の実装では、プレイヤＡは、データのキャプチャに必要な期間を示す場合がある。さらに、ビデオ録画（あるいはビデオ記録）６２３（例えば、ビデオ及びオーディオ）（例えば、フラグの開始から前の１０分間のゲームプレイ及びフラグの開始から後の１０分間のゲームプレイの録画、または他の期間の録画）をキャプチャすることができる。
フラグ付けされた行動の追加の確定が必要になる場合がある。例えば、一部のプレイヤには、フラグ付け自体が望ましくない行動であると見なされることがあるため、フラグプロセス（例えば、偽のフラグ付け）がアビューズである場合がある。例示として、１人のプレイヤは、実際にはその行動が許容可能である場合でも、特定のプレイヤの行動をアビューズであると繰り返しフラグ付けする場合がある。繰り返されるフラグ付けは、望ましくないレベル（例えば、ハラスメント、アビューシブなど）にまで上昇する可能性がある。したがって、確定プロセスを実装して、フラグ付けプロセスの誤用を減らすことができる。例えば、クラウドソーシングは、フラグを生成するプレイヤがフラグ付けシステムをアビューズしていないことを確定するために実装されてもよく、クラウドソーシングは、フラグ付けされているプレイヤ（すなわち、フラグの標的）が実際に望ましくない（例えば、アビューシブな、悪いなど）行動を示しているかどうかを示すことができる。
クラウドは、フラグを生成しているプレイヤＡと同じチームの一員であってもよく、または別のチームの一員であってもよく、または１人以上のソロプレイヤであってもよい。別の実施形態では、フラグ付けフィーチャのアビューズを制限するために、プレイヤが生成できるフラグの数を特定の数に制限することができる。このようにして、プレイヤがフラグ付けフィーチャをアビューズしていても、アビューズの数を制限することができる。別の実施形態では、フラグ付けフィーチャをアビューズしているプレイヤに警告が与えられ、この警告は、システムが望ましくない行動（フラグ付けフィーチャの乱用）を認識しており、望ましくない行動を止めるようにプレイヤに通知する。警告は、プレイヤが望ましくない行動を続ける場合、他のアクションが必要になる可能性があることを示す場合がある。
一実施形態では、確定は、ＡＩモデル１９５の実装を通じて機械学習エンジン１９０によって少なくとも部分的に実行され得る。特に、関連付けられたテレメトリデータ４２４を機械学習エンジン１９０に入力として提供し、機械学習エンジンはフラグ付けされた行動を識別する際に人工知能を適用する。フラグの開始は、何らかの行動が疑わしい可能性があることを示すが、アクティビティ、または望ましくないと疑われるアクティビティを実行しているプレイヤなどのいずれかの識別情報を必ずしも提供しない場合がある。したがって、ＡＩモデル１９５は、関連付けられたテレメトリデータ４２４内のいずれかのアクティビティを望ましくない行動であるとクラス分類するように構成される。さらに、アクターとしてのプレイヤＢの識別は、テレメトリデータ（例えば、ゲーム状態データ、ユーザプロファイルデータ、及び／またはメタデータ）から決定されてもよい。例えば、ＡＩモデル１９５は、プレイヤＢによって実行された行動を望ましくないとフラグ付けしたものを出力６１５として提供する。
いくつかの実装では、ＡＩモデル１９５による望ましくない行動のクラス分類は、プレイヤＡがフラグシステムをアビューズしておらず、フラグが善意で生成されたという確定を提供する。その場合、フラグ付けされた行動のクラス分類を確定エンジン６１０に提供し、確定エンジンは、そのデータを機械学習エンジン１９０にリサブミットし、ＡＩモデル１９５をトレーニングすることができる。
他の実装では、生成されたフラグの追加の確定が実行される場合がある。例えば、前述の確定エンジン６１０を利用して、追加の確定を提供することができる。特に、フラグ付けされた行動は、ＡＩモデル１９５によってクラス分類されると、確定エンジン６１０に提供される。また、ビデオ録画６２３または他の関連データが提供されてもよい。確定は、クラウドソーシング６０１ａによる確定、１人または複数のチームメイト６０１ｂによる確定、コンプライアンスグループ６０１ｃまたはモデレーションチームによる確定、１人または複数の他のプレイヤ６０１ｄによる確定、１人または複数の観客６０１ｎによる確定など、多くの方法で実行されることができる。例えば、対応する確定ソースは、録画６０３を視聴して、いずれかの望ましくないアクティビティが通知されるかどうかを決定し、応答を確定エンジンに返すことができると、確定エンジンは、プレイヤＢのアクティビティ／行動が望ましくなかった、または許容可能であったことを確定する。応答がない場合、プレイヤＢの行動が許容可能であったことを示す場合があり、またはヌルデータ（例えば、無効な応答）である場合がある。
前述のように、確定エンジン６１０は、ＡＩモデル１９５をトレーニングする及び／またはＡＩモデルを更新する（例えば、トレーニングフェーズを使用して）目的で、確定された行動を機械学習エンジン１９０に返して提示してもよい。確定された行動に関連するフィーチャは、識別され及び／またはアクセスされ（例えば、機械学習エンジン１９０への入力から）、またはフィーチャ識別器４３０を介して新たに抽出され、入力として機械学習エンジン１９０に提供される。行動が望ましくないと確定される場合に強化されるように（例えば、重み付けを増加させるように）、または行動が許容可能であると確定される場合に弱化されるように、確定された応答に基づいて、基礎となるＡＩモデル１９５でのパラメータを変更する、及び／または更新することができる。教師あり学習が機械学習エンジン１９０によって適用され得ると、確定された行動を真の出力４２５であると割り当てることによってＡＩモデル１９５をトレーニングすることができる。
前述のように、別の実施形態では、フロー図６００Ｃは、プレイヤＢによる行動のクラス分類を通じて望ましいものとして示唆するように構成されてもよい。そのようにして、望ましい行動の確定を達成し、ＡＩモデル１９５を更新する／トレーニングする及び／またはＡＩモデルに学習を提供する目的で、機械学習エンジン１９０にサブミットして、行動を望ましいものとしてより適切にクラス分類することができ、ＡＩモデル１９５は、望ましくない及び／または望ましい行動をクラス分類するように構成され得る。例えば、行動が望ましいと確定される場合に強化されるように（例えば、重み付けを増加させるように）、または行動が許容可能であると確定される場合に弱化されるように、確定された応答に基づいて、基礎となるＡＩモデル１９５でのパラメータを変更する、及び／または更新することができる。教師あり学習が機械学習エンジン１９０によって適用され得ると、確定された行動を真の出力４２５であると割り当てることによってＡＩモデル１９５をトレーニングすることができる。このようにして、ＡＩモデル１９５は、望ましい（例えば、良い）行動（例えば、チームワーク、他の人を助ける、他のプレイヤに援助を提供する、経験の浅いプレイヤに指示を与えるなど）のパターンを学習することができる。前述のように、オンラインゲームコミュニティ２００内での評判を高めるなどによって、望ましい方法で行動しているプレイヤに報酬を与える目的で、称賛システム１２０を実装するなど、追加のアクションを実行することができる。
図６Ｄは、本開示の一実施形態による、望ましくない行動の報告を要求する通知６３５（例えば、ポップアップメッセージ）を示す。特に、システムは、プレイヤＢ（６３１）によって実行されている望ましくない（例えば、アビューシブな、悪いなど）行動を検出することができ、システムは、望ましくない行動をクラス分類するように構成されるＡＩモデルを実装することができる。システムは、望ましくない行動を報告するシームレスでフリクションレスな方法を提供するように構成されるアビューズレスポンスエンジン１４５を含むことができる。例えば、通知６３５は、プレイヤＢ（６１１）による望ましくない（例えば、アビューシブな、悪いなど）行動の標的及び／または被害者であり得る良いプレイヤに（例えば、ポップアップとして）現れる。
このように、標的となったプレイヤ及び／または被害者は、以前には、他人による望ましくない行動を積極的に報告することをためらっていた可能性があるが、アクティビティを報告するための迅速かつ簡単な方法を有するようになる。報告しない理由の可能性として、標的となったプレイヤ及び／または被害者が報告を無視された、報告に時間と労力がかかりすぎた、報告が現在のゲームプレイに影響した、報告プロセスを知らなかった、またはそれが難しいプロセスであったなどと感じたからを含む。通知６３５が、標的となったプレイヤ及び／または被害者から促されることなく提供され、リアルタイムで提供され、そしてゲームセッションを実装するシステム（例えば、クラウドゲームネットワーク） から発信されるため、標的となったプレイヤ及び／または被害者は、ここでは報告を真剣に受け止められたと感じる可能性がある。
スクリーンショット６００Ｄは、ゲームワールド６３９を示しており、プレイヤＶ（６３２）及びプレイヤＢ（６１１）は、マルチプレイヤゲームセッションでビデオゲームをプレイしている場合がある。スクリーンショット６００Ｄは、プレイヤＶ（６３２）の視点から撮られていることができ、そのアバターは拡大されている。プレイヤＢ（６３１）は、ゲームワールド６３９において、望ましくない行動であるとクラス分類される何らかのアクションを実行している可能性がある。プレイヤＢ（６３１）は、プレイヤＶ（６３２）に示される視野のバックグラウンドに示され、プレイヤＢのアバターのサイズは縮小されている。
さらに、プレイヤＢ（６３１）による望ましくない（例えば、アビューシブな、悪いなど）行動をクラス分類した後、システムは、プレイヤＶ（６３２）が望ましくない行動の標的であることをさらに決定することができる。例えば、プレイヤＢ（６３１）及びプレイヤＶは、テレメトリデータ（例えば、ゲーム状態データ、ユーザプロファイルデータ、メタデータなど）を通じて決定され得る。ポップアップメッセージ６３５及び／または通知は、プレイヤＶ（６３２）からいかなるプロンプトなどもなく、プレイヤＶに提供されることができる。短いタイトルまたは記述６３６をポップアップメッセージ６１５内に提供し、プレイヤＶが望ましくない（例えば、アビューシブな、いじめ、ハラスメントなど）行動の標的であることを認識させる。例えば、記述６３６は、プレイヤＢ（６３１）が「グリーフィング」しているように見えることを示してもよく、グリーフィングはプレイヤＶ（６３２）を対象とする。例えば、プレイヤＢ（６３１）は、マルチプレイヤゲームでの試合に勝つのを手伝おうとしなくなる場合があり、プレイヤＶ（６３１）はチームメイトである。プレイヤＢ（６３１）による望ましくない行動を記述する追加の情報は、行動のクリップ（例えば、ビデオ、オーディオなど）などの通知６３５に任意選択で提供されてもよい。場合によっては、プレイヤＶ（６３２）は、標的となったプレイヤ及び／または被害者であり、プレイヤＢ（６３１）による望ましくない行動を熟知しているため、この情報を必要としない。
インタフェース６３３は、通知６３５内に提供され、アビューズレスポンスエンジン１４５などを介して、プレイヤＢ（６３１）による望ましくない行動をプレイヤＶ（６３２）が迅速に報告する（例えば、ワンクリックする）機会を与える。インタフェース６３３は、様々な実施形態において異なるように構成されることができ、各実施形態は、プレイヤＶ（６３２）がプレイヤＢ（６３１）による望ましくない行動を報告する機会を与える。システムによるアビューズの認知によって、望ましくない行動の報告に対処して何かが行われる可能性があることをプレイヤＶ（６３２）が確認することができる。その場合、プレイヤＶ（６３２）は、「はい」ボタン６３７を選択することにより、プレイヤＢによる行動が望ましくなく、その行動が標的となったプレイヤ及び／または被害者（すなわち、プレイヤＶ－６３２）を対象とした可能性があるという報告をファイリングすることができる。
一実施形態では、望ましくない行動の報告は匿名である。コントロールボタン「Ｘ」など、他のボタンを押す命令を提供する場合がある。場合によっては、プレイヤＶ（６３２）は、「いいえ」ボタン６１８を選択するなどにより、プレイヤＢ（６３１）による望ましくない行動の報告を積極的に拒否することができる。コントロールボタン「正方形」など、他のボタンを押す命令を提供する場合がある。積極的な拒否は、必ずしもプレイヤＶがプレイヤＢ（６３１）による望ましくない行動を受け入れることを黙示しない。また、プレイヤＶ（６３２）によって応答がなされない場合、これもまた、必ずしもプレイヤＶがプレイヤＢ（６３１）による望ましくない行動を受け入れることを黙示せず、通知６３５はすぐに消えてもよい。また、通知６３５は、プレイヤＶ（６３２）に、取るべき追加のアクションを選択する機会を提供することができる。例えば、プレイヤＶは、図６Ｅで説明されるようにマスキングを選択してもよく、または図６Ｆで説明されるように隠れることを選択してもよい。
特に、図６Ｅは、本開示の一実施形態による、プレイヤ６４２に対して望ましくない行動を示す、または示したプレイヤ６４１（例えば、アビューザ）によって標的にされるプレイヤ６４２（例えば、標的となったプレイヤ及び／または被害者）のマスキング及び／または除去を示す。アビューザ６４１及びプレイヤ６４２は、ゲームワールド６４９に関連付けられるマルチプレイヤゲームセッションでビデオゲームをプレイしている可能性がある。さらに、アビューザ６４１の行動は、以前に望ましくない（例えば、アビューシブな、悪いなど）ものとしてクラス分類されている可能性がある。次いで、クラス分類により、プレイヤ６４２は、望ましくない行動の影響を軽減することができる。
ゲームワールド６４９は、ゲームセッション中に様々な状態で示される。例えば、ゲームワールド６４９は、状態０、状態１、及び状態２で示される。特に、状態０では、ゲームワールド６４９は、アビューザ６４１及びプレイヤ６４２－Ａを同じ一般エリアに含むため、プレイヤ６４２－Ａは、アビューザ６４１によって示される望ましくない行動の標的である。プレイヤ６４２の状態は、ゲームワールド６４９の状態と並行しており、そのため状態０であり、状態０でのプレイヤ６４２は、プレイヤ６４２－Ａとラベル付けされる。状態０では、プレイヤ６４２－Ａは、マスキングまたは任意のその他の変更がないなど、その元の状態でのアバターによって表される。
状態０では、アビューザ６４１の行動は、ＡＩモデルなどによって、望ましくないとクラス分類され得る。さらに、プレイヤ６４２－Ａもまた、望ましくない行動の標的であると識別され得る。
次いで、ＡＩモデルを実装する機械学習エンジンと協働するシステム（例えば、アビューズレスポンスエンジン１４５）は、プレイヤ６４２に追加のオプションを提供し得る。例えば、第１のオプション６４５は、プレイヤ６４２をアビューザ６４１からマスクすることを可能にする。状態１はマスキングを反映し、プレイヤ６４２の状態は、ゲームワールド６４９の状態と並行し、そのため状態１にあり、状態１のプレイヤ６４２はプレイヤ６４２－Ｂとラベル付けされる。状態１は、同じゲームセッション中、またはその次のゲームセッション中、またはその他のゲームセッション中であってもよい。マスキングはアビューザ６４１を回避するためにプレイヤ６４２によるいかなるインタラクションもなく実行されてもよく（すなわち、自動的に行われてもよく）、または前述のように、マスキングはプレイヤ６４２の要求で実行されてもよい。
マスキングの場合、プレイヤ６４２－Ｂは、アビューザ６４１からマスクされているため、アビューザ６４１はプレイヤ６４２－Ｂに気付かない。特に、プレイヤ６４２－Ｂのアバター、またはその状態は、状態０と１との間で変化した可能性がある。つまり、プレイヤ６４２－Ｂのアバターは、異なるキャラクタ、性別、外観、名前、異なるアバターなどであり得るため、プレイヤ６４２－Ｂ及び対応するアバターは、アビューザ６４１によって（つまり、ゲームワールド６４９のアビューザ６４１に提示される視野では）認識できない。
一実施形態では、プレイヤ６４２－Ｂは、ゲームワールド６４９の他のプレイヤに対してマスクされないため、状態２でのプレイヤ６４２－Ｂのアバターは、プレイヤ６４２－Ｂがまだアビューザ６４１に対してマスクされているにもかかわらず、元の状態（つまり、変更なし）で提示される。そのため、アビューザ６４１とプレイヤ６４２－Ｂとの両方は依然として同じゲームセッションでビデオをプレイすることができ、プレイヤ６４２－Ｂは自分のゲーム行動を変更する必要がない。例えば、プレイヤ６４２は、アビューザ６４１を除けば、ゲームセッションが全体的に楽しい場合があるため、ゲームセッションにとどまることを望む場合がある。
第２のオプション６４６は、プレイヤ６４２をアビューザ６４１から隠すことを可能にする。状態２はプレイヤ６４２を隠すことを反映し、プレイヤ６４２の状態は、ゲームワールド６４９の状態と並行し、そのため状態２にあり、状態２のプレイヤ６４２はプレイヤ６４２－Ｃとラベル付けされる。状態２は、同じゲームセッション中、またはその次のゲームセッション中、またはその他のゲームセッション中であってもよい。隠すことは、アビューザ６４１を回避するためにプレイヤ６４２によるいかなるインタラクションもなく実行されてもよく、すなわち、自動的に行われる。隠す場合、プレイヤ６４２－Ｃはアビューザ６４１から隠される。
特に、プレイヤ６４２－Ｃのアバターの一部またはすべての痕跡は、アビューザ６４１のゲームワールド６４９の視野から除去される場合がある。つまり、アビューザ６４１はプレイヤ６４２－Ｃがまったく見えない。一実施形態では、プレイヤ６４２－Ｃは、ゲームワールド６４９の他のプレイヤから隠されないため、状態２でのプレイヤ６４２－Ｃのアバターは、プレイヤ６４２－Ｃがアビューザ６４１から隠されているにもかかわらず、元の状態（つまり、変更なし）で他のプレイヤに提示される。一実施形態では、プレイヤ６４２－Ｃは、プレイヤ６４２－Ｃによってマーク付けされるまたは選択される１人または複数の他のプレイヤに可視である。別の実施形態では、プレイヤ６４２－Ｃは、アビューザ６４１を見ることができる。そのため、アビューザ６４１とプレイヤ６４２－Ｃとの両方は依然として同じゲームセッションでビデオをプレイすることができ、プレイヤ６４２－Ｃは依然として自分の行動を変更することなくゲームセッションでビデオゲームをプレイすることができる。
一実施形態では、アビューザ６４１とプレイヤ６４２との両方が互いから隠されている。つまり、プレイヤ６４２は、少なくともプレイヤ６４２に関して、アビューザ６４１をブラックリストに載せる。その場合、プレイヤ６４２のアバターの一部またはすべての痕跡はアビューザ６４１のゲームワールド６４９の視野から除去されてもよく、同様に、アビューザ６４１のアバターの一部またはすべての痕跡はプレイヤ６４２のゲームワールド６４９の視野から除去されてもよい。
別の実施形態では、ゲームセッション中にプレイヤ６４２をアビューザ６４１から隠す代わりに、プレイヤ６４２は、ゲームセッションから除去されてもよく、別のゲームセッションに割り当てられてもよい。例えば、プレイヤ６４２は、ゲームユニバースでプレイする異なるプレイヤセットを含むが、アビューザ６４１を含まない同じビデオゲームの異なるゲームユニバースを運営する異なるゲームサーバに割り当てられてもよい。このようにして、プレイヤ６４２のキャラクタは、同じビデオゲームの異なるゲームユニバースにリスポーンされる。
図６Ｆは、本開示の一実施形態による、マーク付けされたプレイヤの差し迫った存在の通知を示す。特に、プレイヤＢ（６５１）及びプレイヤＶ６５２は、ゲームワールド６５９に関連付けられるマルチプレイヤゲームセッションでビデオゲームをプレイしている可能性がある。以前は、プレイヤＶ（６５２）は、プレイヤＢによって示された一見望ましくない（例えば、アビューシブな、悪いなど）行動の標的であった可能性があるため、プレイヤＶは、望ましくない行動の標的及び／または被害者であった可能性がある。その望ましくない行動もまた、プレイヤの行動をクラス分類するように構成されたＡＩモデルを実装するシステムによってクラス分類されていてもよい。別の場合では、プレイヤＢ（６５１）によって示される行動は、特に標的となったプレイヤ及び／または被害者にとって非常に不快または迷惑なものである可能性があるが、望ましくないレベルまで上昇しない可能性がある。それらのような場合、プレイヤＶ（６５２）（例えば、標的となったプレイヤ及び／または被害者）は、マーク付け機能を利用することを決定する場合がある。
その場合、プレイヤＶ（６５２）は、プレイヤＢ（６５１）をマーク付けすることを決定することができる。一実施形態では、マーク付けは匿名で実行されてもよく、プレイヤＢ（６５１）はマーク付けされたことにさえ気付かないことがある。例えば、プレイヤＶ（６５２）が利用できるマップにマーク付けを行うことができるが、マーク付けは、任意の他のプレイヤ、特にプレイヤＢ（６５１）に利用可能でない。別の実施形態では、プレイヤＢ（６５１）にマーク付けが通知され、何が望ましくない行動であったかを示す情報（例えば、ビデオクリップ）は通知内に提供されてもよい。このように、プレイヤＢ（６５１）がプレイヤＶ（６５２）のエリアに入るときはいつでも、プレイヤＢのアバターは、プレイヤＶの利益のためにマーク付けされる。例えば、プレイヤＢは、経路６５３に沿ってゲームワールド６５９を移動することが示される。
初期位置では、プレイヤＢは６５１－Ａとラベル付けされる。第２の位置に移動した後、プレイヤＢは６５１－Ｂとラベル付けされる。第２の位置では、プレイヤＢは、プレイヤＶの視野６５８－Ａ内で可視のエリア内に移動した。したがって、プレイヤＢ（６５１－Ｂ）のアバターは、プレイヤＶの視野６５８－Ａ内でマーク付けされる。例えば、プレイヤＢ（６５１－Ｂ）のアバターは、点滅しているボックスでハイライトされてもよく、または他の人目を引くパターン（例えば、太陽光線など）でマーク付けされる。いくつかの実施形態では、プレイヤＢ（６５１）のアバターは、視野６５８－Ａの外側の境界を越えてすぐにマーク付けされるようになり、プレイヤＶ（６５２）に可視になる場合がある。例えば、視野６５８－Ａは、侵入しているプレイヤＢ（６５１）を含むエリア内に拡大されることができる。その場合、プレイヤＢ（６５１）のマーク付けバージョンはプレイヤＶ（６５２）に可視になり得るが、プレイヤＶ（６５２）はプレイヤＢ（６５１）に可視でない。
プレイヤＢ（６５１－Ｂ）がプレイヤＶ（６５２－Ａ）から極めて可視であるため、プレイヤＶはプレイヤＢを避けるために追加のアクションを行う場合がある。図示されるように、プレイヤＶ（６５２－Ａ）は、経路６５４に沿って第２の位置に移動することができる。初期位置では、プレイヤＶ（６５２）は６５２－Ａとラベル付けされる。第２の位置に移動した後、プレイヤＶは６５２－Ｂとラベル付けされる。第２の位置では、プレイヤＶ（６５２－Ｂ）の視野６５８－Ｂは、プレイヤＢ（６５１－Ｂ）を含まず、そのプレイヤとの接触を回避している。マーク付けフィーチャにより、プレイヤＶ（６５２）は、プレイヤＢ（６５１）を回避するために継続的にアクションを行うことができる。
さらに別の実施形態では、プレイヤＢ（６５１）がプレイヤＶ（６５２）の視野内でまもなく可視になることを示す通知がプレイヤＶに提供されてもよい。つまり、プレイヤＢ（６５１）が経路６５３に沿って移動し、プレイヤＶ（６５１－Ａ）の視野６５８－Ａの境界をまもなく突破すると、通知がプレイヤＶに配信される。そのように、プレイヤＶ（６５２－Ａ）は、プレイヤＢ（６５１）かプレイヤＶ（６５２）かいずれかが互いに可視になる前に、経路６５４に沿って第２の位置に移動することができる。通知機能により、プレイヤＶ（６５２）は、プレイヤＢ（６５１）を回避するために継続的にアクションを行うことができる。
図６Ｇは、本開示の一実施形態による、望ましくない行動を示すと識別されたプレイヤＢ（６６１）に提供される通知６６５を示す。通知６６５は、ポップアップメッセージである場合がある。プレイヤＢ（６６１）及びプレイヤＶ（６６２）は、マルチプレイヤゲームセッションでビデオゲームをプレイしている場合がある。スクリーンショット６００Ｇは、ゲームワールド６６９を示しており、プレイヤＢ（６６１）及びプレイヤＶ（６６２）は、マルチプレイヤゲームセッションでビデオゲームをプレイしている場合がある。スクリーンショット６００Ｇは、プレイヤＢ（６６１）の視点から撮られていることができ、そのアバターは拡大されている。プレイヤＢ（６６１）は、ゲームワールド６６９において、望ましくない行動にクラス分類される何らかのアクションを実行している可能性があり、望ましくない行動の標的はプレイヤＶ（６６２）であってもよく、プレイヤＶは、プレイヤＢ（６６１）に示される視野のバックグラウンドに示され、プレイヤＶのアバターのサイズは縮小されている。
特に、システムは、プレイヤＢ（６６１）によって実行されている望ましくない（例えば、アビューシブな、悪いなど）行動を検出することができ、システムは、望ましくない行動をクラス分類するように構成されるＡＩモデルを実装することができる。システムは、プレイヤＢ（６６１）に警告をフィードバックとして提供することで、プレイヤＢが自分の行動を改める機会を与えられるように構成されるアビューズレスポンスエンジン１４５を含むことができる。例えば、通知６６５は、プレイヤＢ（６６１）に対して（例えば、ポップアップとして）現れ、プレイヤは、望ましくない（例えば、アビューシブな、悪いなど）行動を示している。通知６６５が早期に提供され、十分な強制措置が講じられる場合、プレイヤＢ（６６１）は自分の行動を改めるように説得されてもよく、またはプレイヤはサスペンドされてもよい。そのようにして、プレイヤＶ（６６２）は、自分のゲームプレイのパターンを改める必要がない。
タイトルまたは記述６６７は、プレイヤＢ（６６１）が「アビューザ」であるという通知を提供する。例えば、記述６６７は、次のように述べることができる：「こんにちはプレイヤＢ！ ビデオゲーム「Ｋ」でのあなたの悪い行動にフラグ付けしました」。プレイヤＢがプレイしているゲーム、プレイヤＢの悪い行動の識別手段（例えば、プレイヤのフラグ付け、その行動にフラグ付けするプレイヤ数、プレイヤの報告、システム識別など） などの追加の情報も提供する場合がある。
望ましくない行動の識別も、様々な方法を通じて通知６６５で提供され得る。例えば、通知６６５には次のように記載されている場合がある：「私達のシステムはあなたの違反を、違反「Ｙ」であると決定しました」。別の例では、望ましくない行動のクリップ６６４（例えば、ビデオ、オーディオなど）を通知６６５内に提供することができる。通知６６５内の望ましくない行動を識別する他の情報（例えば、テキストなど）を使用することができる。さらに別の例では、通知６６５は、特定のコントロールボタンを押すことによって、望ましくない行動のビデオキャプチャへのアクセスが利用可能であることを示すことができる。
通知６６５は、望ましくない行動が（例えば、ＡＩモデル、報告、フラグ付けなどによって）識別されるとすぐに、プレイヤＢ（６６１）に提供されてもよい。その間、望ましくない（例えば、アビューシブな、悪いなど）行動のキャプチャを分析して、行動がフラグ付けされたまたは報告されたときなど、行動が望ましくないことを積極的に確認することができる。例えば、行動は、前述のように、ＡＩモデルによって望ましくないものとしてクラス分類されてもよく、及び／または様々なソース（例えば、クラウドソーシング、プレイヤによる確定、チームメイトによる確定など）を通じて確定されてもよい。
行動が望ましくないと確認された場合、追加の情報はプレイヤＢ（６６１）に表示されてもよい。例えば、通知６６５には次のように記載される場合がある：「あなたの悪い行動が「Ｘ」回に達すると、ゲームネットワーク（またはソーシャルネットワーク）から「Ｗ」日間、または他の期間（例えば、ゲームセッション、数分、数時間、数日、数週、永久など）サスペンドされます」。別のステートメントは、通知６６５の場合など、標的となったプレイヤを識別してもよく、行動を改める方法についての示唆を提供してもよく、望ましくない行動が続く場合、プレイヤＢはサスペンドされる。つまり、目標は、問題のあるプレイヤの行動を変える試み、及び／または問題のあるプレイヤを改心させる試みの中で、プレイヤＢにフィードバックを提供することである。したがって、情報ボックス６６８－Ａは、サスペンドなどの追加のアクションを取る前に、プレイヤＢ（６６１）に、自分の行動を改めるチャンスの数「Ｘ」を示すことができる。追加の詳細は、リンクを介して提供される場合がある。
通知６６５は、プレイヤＢ（６６１）に、プレイヤＢが望ましくない行動を示しているという決定に異議を唱える機会を与えることができる。つまり、プレイヤＢ（６６１）は、システムが正しくないと信じている場合があり、または不正な報告もしくはフラグ付けがあったと信じている場合があり、異議を唱える機会を望んでいる。例えば、インタフェース６６３－Ａは、プレイヤＢ（６６１）が望ましくない行動を示しているという決定に異議を唱える機会を提供する。特に、「はい」ボタン６６３－Ｂを選択することによって、プレイヤＢ（６６１）が無実を主張することができるプロセスが開始される。コントロールボタン（例えば、「正方形」）を選択するなど、反論プロセスを開始するための他の方法を実装することができる。
別の実施形態では、通知６６５は、ソーシャルゲームネットワークに関連してプレイヤＢ（６６１）のメッセージボックスに送信されてもよい。これは、プレイヤＢ（６６１）が長期間キーボードから離れていること（ＡＦＫ）が検出されるときに実施され得る。
図６Ｈは、本開示の一実施形態による、望ましくない行動及び／または望ましい行動の迅速な認知を提供するミニレポート６００Ｈを示す。図示されるように、ミニレポート６００Ｈは、ゲーム後のブレイクダウンセッション中にプレイヤＸに提示され得、プレイヤＸは、ビデオゲームのマルチプレイヤゲームセッションの参加者である。マルチプレイヤゲームセッションには、プレイヤ１～Ｎを含む複数のプレイヤが参加してもよい。プレイヤＸは、ビデオゲームの性質に応じて、プレイヤのチームの一員であってもよく、または単独で操作していてもよい。ミニレポート６００Ｈは、ゲームセッション中のプレイヤによる望ましくない行動を報告する、及び／またはゲームセッション中のプレイヤによる望ましい行動を報告する迅速な方法を提供する。望ましくない行動の報告は、一実装では、匿名であってもよい。一実施形態では、ミニレポート６００Ｈは、プレイヤＸのチームのプレイヤについての認知に限定される。他の実施形態では、ミニレポート６００Ｈは、ゲームセッション中のすべてのプレイヤについての認知が可能である。
特に、セクション６７１は、プレイヤＸがゲームセッションで別のプレイヤに称賛を与えるための迅速な方法を提供する。プレイヤＸによる称賛を与えるために利用できる各プレイヤは、セクション６７１にリストされる。一実施形態では、ゲームセッション中のすべてのプレイヤがリストされるとは限らないため、称賛を与えるために最良の候補者のみがセクション６７１にリストされる。セクション６７１にリストされているプレイヤのそれぞれは、そのプレイヤがゲームセッション中にどの程度上手に望ましい行動を示したかを迅速に示す対応する値を有する。値が高いほど、プレイヤは、そのビデオゲームまたは複数のビデオゲームのオンラインゲームコミュニティの福利を促進するものなど、望ましい行動をより上手に示していた。実施形態では、評価は、同じゲームセッションのすべてのプレイヤと、または複数のゲームセッションのプレイヤと比較することができる。別の実施形態では、評価は、ゲームセッション内の選択的（例えば、チームメイト）プレイヤまたはすべてのプレイヤのランク付けであってもよく、ランク付けは、望ましい行動をどれだけうまく示したかの順にプレイヤをリストする。図示されるように、プレイヤＸは、称賛を与えるために、プレイヤＮ（８９％の評価を有する）を選択し、称賛は前もって導入された。別の実施形態では、称賛を発行する代わりに、プレイヤＮの選択は、プレイヤＮがゲームセッション内のプレイヤの中で最も高いまたは最も良い望ましい行動を示したことを表すレポートを提供する。
セクション６７２は、ゲームセッション内で望ましくない行動を示す別のプレイヤをプレイヤＸが報告する迅速な方法を提供する。プレイヤＸによる望ましくない行動を報告するために利用できる各プレイヤは、セクション６７２にリストされる。一実施形態では、ゲームセッション中のすべてのプレイヤがリストされるとは限らないため、望ましくない行動を報告する可能性が最も高い候補のみがセクション６７１にリストされる。また、セクション６７２にリストされたプレイヤは、セクション６７１にリストされたプレイヤにマッチングしない場合がある（例えば、称賛を与えるため）。セクション６７２にリストされたプレイヤのそれぞれは、そのプレイヤがゲームセッション中に望ましくない行動をどの程度示したかを迅速に表す対応する値を有する。
値が高いほど、プレイヤがゲームセッション中に示した望ましくない行動が多くなり、または望ましくない行動がゲームセッション中に別のプレイヤのゲームプレイに効果的に悪影響を与えていた。実施形態では、評価は、同じゲームセッションのすべてのプレイヤと、または複数のゲームセッションのプレイヤと比較することができる。別の実施形態では、評価は、ゲームセッション内の選択的（例えば、チームメイト）プレイヤまたはすべてのプレイヤのランク付けであってもよく、ランク付けは、プレイヤが望ましくない行動をどの程度示したかの順にプレイヤをリストする。図示されるように、プレイヤＸは、望ましくない行動を示していると報告するために、プレイヤ０（８５％の評価を有する）を選択した。
別の実施形態では、ミニレポート６００Ｈに提供されるリストは、ゲームセッション内のプレイヤによるクラウドソーシングに使用され得る。例えば、ゲームセッション内のすべてのプレイヤ、またはゲームセッション内のプレイヤの選択されたグループ（例えば、チームメイト）には、それぞれミニレポート６００Ｈが提示される場合がある。ミニレポートから結果を収集した後、最高のプレイヤ、または最高のチームメイトなどである１人のプレイヤ（例えば、最も多くの称賛ポイントを受け取ったプレイヤ）に投票することができる。
さらに別の実施形態では、ゲームセッションの終わりに、ゲームスコア及び他のゲーム関連統計データを示すことに加えて、またはその代わりに、行動に関連する他の情報をプレイヤに示すことができる。例えば、ゲームセッション中に望ましくない行動がキャプチャされ、クラス分類されると、その望ましくない行動を行った１人または複数のプレイヤは、識別され、アビューザとしてラベル付けされる場合がある。また、そのゲームセッションのアビューザのリストは、ゲーム後のブレイクダウンなど、ゲームセッションの終了時に示されるゲーム関連統計データ内に提供されてもよい。リストは、望ましくない行動の特性を有するが、望ましくないとクラス分類されるレベルに達していない可能性があるプレイヤを含む場合がある。これにより、リスト上のそれらのプレイヤは、望ましくない行動としてクラス分類されることができるレベルに達する前に、行動を修正することが可能になる。
別の実施形態では、プレイヤは、悪いプレイヤまたはアビューザ（すなわち、望ましくない行動を示す、または望ましくない行動を示す特性を有するプレイヤ）及び良いプレイヤとして識別され得る。悪い程度により、識別の分解能が良くなる場合もある。その識別は、対応するユーザプロファイル内に含まれてもよい。このように、マルチプレイヤゲームセッション用のチームが構築される場合、プレイヤが悪いかどうか、または悪い程度が考慮される。例えば、他のプレイヤに対して望ましくない行動を示すことを厭わないプレイヤは、チームメイトが他のプレイヤを対象とする望ましくない行動を示しても、それほど気分を害さない場合があり、気にしない場合さえあるため、程度の異なる悪いプレイヤがチームで一緒になる可能性がある。一方、良いプレイヤは望ましくない行動の標的になりたくない場合があるため、マッチメイキングでは、悪いプレイヤ（つまり、望ましくない行動を示す）と良いプレイヤを同じチームに配置することを避ける。他の場合、プレイヤが悪いかどうかに応じてチームのバランスを取る。すなわち、悪いプレイヤ（つまり、望ましくない行動を示す）は、ゲームセッションで複数のチームに散在させてもよい。このようにして、それぞれのチームに対する悪いプレイヤの悪影響は、同じゲームセッション内で均等に分散される。
別の実施形態では、ビデオゲームの開発者は、プレイヤが他のプレイヤに対して望ましくない行動を示しているかどうかに関して攻撃性のレベルを設定することができる。つまり、攻撃性のレベルを調整することができる。例えば、一部のゲーム（例えば、ファーストパーソンシューティングゲーム）では、ある程度のレベルの攻撃性及び／または狂気を必要とし、他のゲーム（例えば、農場またはユートピア社会の構築）をプレイするときにそれを示されると、望ましくない（例えば、アビューズ、悪いなど）と見なされる場合がある。攻撃性を必要とするこれらのゲームの多くは、ゲームセッションに勝つために他のプレイヤのキャラクタのキルを伴う場合がある。したがって、ゲーム開発者は、対応するビデオゲーム内で許容される攻撃性のレベルを定義することができる。プレイヤがレベルを上回る場合、そのプレイヤは望ましくない行動を示すことにフラグ付けされる場合があり、従うべき追加の結果（例えば、警告、サスペンド、アクセス禁止措置など）を伴う場合がある。また、ゲーム開発者は、プレイヤが潜在的に望ましくない行動のフラグを生成することができる回数など、他の制限を設定する、フラグ付けされることができるアクションに境界を設定する、許容可能なアクションの閾値を設定する、望ましくないアクションの極端な領域を設定する、などしてもよい。
別の実施形態では、望ましい行動または望ましくない行動を示しているプレイヤＣのレポートが生成され、要求するエンティティに配信されてもよい。例えば、プレイヤＣは子供である場合があり、要求するエンティティは子供の親である場合がある。このようにして、親は、プレイヤＣがオンラインゲームコミュニティ内でどのようにインタラクトするかを理解することができる。特に、プレイヤＣが１つまたは複数のゲームセッションに参加すると、プレイヤの行動を（例えば、ＡＩモデルを使用して）クラス分類するように構成されたシステムは、所定期間（例えば、ゲームセッション、１日以上、毎週など）にわたるプレイヤＣの行動に関連するすべてのアクティビティをクラス分類することができる。アクティビティ及びそれらのクラス分類は、要求側エンティティ（例えば、親）に提供されるレポートに提示されてもよい。例えば、プレイヤＣが参加しているアクティビティにスパイクがあること、またはいずれかのプレイヤがそのアクティビティに参加する平均回数よりも多いことをレポートが示し得る。これは、望ましくない行動（例えば、絵文字を使用してスパムするなど）の証拠である可能性がある。
例えば、子供は、チャイルドプレデターである可能性のある別のプレイヤと接触している場合がある。証拠として、子供は、望ましくない行動を示すそのプレイヤ（例えば、アビューザとしてラベル付けされている、またはチャイルドプレデターである可能性がある）との通信接触数が通常よりも多くなる可能性がある、子供は、１つ以上の通信媒体のアビューズ（例えば、チャット機能のアビューズ）を示すゲームセッション中に通信接触数が多い可能性がある、平均を上回るフレンド要求数を有する可能性がある、閾値を上回る年齢差の別のプレイヤ（例えば、プレデター）と通信している、などである。レポートは、「警告：あなたの子供は既知のアビューザまたはハラスメント加害者と接触している」などの警告を発する場合がある。さらに、レポートは、プレイヤＣの感情的な行動を示す（例えば、冷静な行動、興奮した行動、抑うつ行動などを示す）ことができる。行動は、バイオメトリック（例えば、まばたきの速度、発汗、音声の大きさ、音声の高さ、心拍数）だけでなく、ゲームプレイヤのアクティビティ及び／または行動のクラス分類によって監視される場合がある。レポートを生成することにより、要求側エンティティ（例えば、親）は、行動に関連付けられている報酬を発行することができる。例えば、親は子供により多くのゲーム時間を与えてもよい、親は１つまたは複数の称賛を発行してもよい、などである。さらに、要求側エンティティは、子供の行動に関連付けられているペナルティを発行してもよい。例えば、親はゲーム時間などを制限する場合がある。したがって、レポートは、ゲームへのアクセスを制御するための等級付けシステム（例えば、子供の行動のランク付けまたは行動の定量化）として使用されることができる。
さらに別の実施形態では、プレイヤの行動をクラス分類するためのシステムを使用して、ビデオゲーム内での利己的利用を報告することができる。例えば、システムは、機能がビデオゲーム内で過度に使用されていること、及び過度の使用が望ましくない行動を示すことを決定する場合がある。換言すれば、この機能は他のプレイヤをアビューズするために利己的利用されている。例えば、１人または複数のプレイヤがビデオゲーム内で絵文字を用いてスパムしており、他のプレイヤのゲームプレイに悪影響を与える可能性がある（例えば、絵文字で画面全体を埋める）。ビデオゲームの開発者が望ましくない（例えば、アビューシブな、悪いなど）行動への機能の使用の可能性があることを通知されると、ゲームの開発者は、その機能の修正、最適化、及び／または除去によってその行動を制限するパッチをゲームに発行することができる。例えば、パッチは、プレイヤが絵文字を使用することができる回数を制限する場合がある。
図７は、本開示の様々な実施形態の態様を実行するために使用することができる例示的なデバイス７００のコンポーネントを示す。例えば、図７は、本開示の実施形態による、ゲームセッションのプレイヤでの望ましくない行動及び／または望ましい行動をクラス分類するのに適した例示的なハードウェアシステムを示す。このブロック図は、各々が本発明の実施形態を実施するために適した、パーソナルコンピュータ、サーバコンピュータ、ゲームコンソール、モバイル機器、または他のデジタルデバイスを組み込むことができる、またはそれらであり得るデバイス７００を示す。デバイス７００は、ソフトウェアアプリケーション及び任意選択でオペレーティングシステムを実行するための中央処理装置（ＣＰＵ）７０２を含む。ＣＰＵ７０２は、１つ以上の同種または異種の処理コアから構成されてもよい。
様々な実施形態によれば、ＣＰＵ７０２は、１つ以上の処理コアを有する１つ以上の汎用マイクロプロセッサである。さらなる実施形態を、ゲームの実行中にグラフィックス処理を行うように構成されたアプリケーションの高並列で計算集約型のアプリケーション（例えば、メディア及びインタラクティブエンターテインメントアプリケーション）に具体的に適応されたマイクロプロセッサアーキテクチャを伴う１つ以上のＣＰＵを用いて実施することができる。
ＣＰＵ７０２は、アビューズレスポンスエンジン１４５及び／または称賛システム１２０を実装するように構成され得る。前述のように、アビューズレスポンスエンジン１４５は、プレイヤの行動をクラス分類し、クラス分類に応じて追加のアクションを実行するように構成される。例えば、プレイヤは、望ましくない行動を示している（例えば、別のプレイヤに対してアビューズである）と決定されてもよく、望ましくない行動を止めるようにそのプレイヤに警告が与えられてもよい。また、称賛システム１２０は、望ましい行動を示しているプレイヤに称賛を発行するように構成される。このようにして、プレイヤ間の望ましい行動は、オンラインゲームコミュニティ内で促進される可能性がある。
メモリ７０４は、ＣＰＵ７０２とＧＰＵ７１６とが使用するアプリケーション及びデータを記憶する。ストレージ７０６は、アプリケーション及びデータに不揮発性ストレージ及び他のコンピュータ可読媒体を提供し、固定ディスクドライブ、取り外し可能ディスクドライブ、フラッシュメモリデバイス、及びＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、Ｂｌｕ－ｒａｙ（登録商標）、ＨＤ－ＤＶＤ、または他の光学記憶デバイス、ならびに信号伝送及び記憶媒体を含んでもよい。ユーザ入力デバイス７０８は、１人以上のユーザからのユーザ入力をデバイス７００に伝達するものであり、その例としては、キーボード、マウス、ジョイスティック、タッチパッド、タッチスクリーン、スチルまたはビデオレコーダ／カメラ、及び／またはマイクロフォンが挙げられる。
ネットワークインタフェース７０９は、デバイス７００が電子通信ネットワークを介して他のコンピュータシステムと通信することを可能にし、ローカルエリアネットワーク、及びインターネットなどのワイドエリアネットワークにわたる有線または無線通信を含んでもよい。オーディオプロセッサ７１２は、ＣＰＵ７０２、メモリ７０４、及び／またはストレージ７０６によって提供される命令及び／またはデータから、アナログまたはデジタル音声出力を生成するように適合される。ＣＰＵ７０２、ＧＰＵ７１６を含むグラフィックサブシステム７１４、メモリ７０４、データストレージ７０６、ユーザ入力デバイス７０８、ネットワークインタフェース７０９、及びオーディオプロセッサ７１２を含むデバイス７００のコンポーネントは、１つ以上のデータバス７２２を介して接続されている。
グラフィックサブシステム７１４はさらに、データバス７２２及びデバイス７００のコンポーネントと接続される。グラフィックサブシステム７１４は、グラフィックプロセシングユニット（ＧＰＵ）７１６及びグラフィックメモリ７１８を含む。グラフィックメモリ７１８は、出力画像の各々の画素に対する画素データを記憶するために使用される表示メモリ（例えばフレームバッファ）を含む。グラフィックメモリ７１８は、ＧＰＵ７１６と同一のデバイスに統合されてもよく、ＧＰＵ７１６と別個のデバイスとして接続されてもよく、及び／またはメモリ７０４内で実装されてもよい。画素データは、ＣＰＵ７０２からグラフィックメモリ７１８に直接提供されてもよい。代わりに、ＣＰＵ７０２は、所望の出力画像を定義するデータ及び／または命令をＧＰＵ７１６に提供し、ＧＰＵ７１６は、そこから１つ以上の出力画像の画素データを生成する。
所望の出力画像を定義するデータ及び／または命令は、メモリ７０４及び／またはグラフィックメモリ７１８に記憶されてもよい。１つの実施形態では、ＧＰＵ７１６は、シーンに対するジオメトリ、照明、シェーディング、テクスチャリング、動き、及び／またはカメラパラメータを定義する命令及びデータから、出力画像の画素データを生成する３Ｄレンダリング能力を含む。ＧＰＵ７１６は、シェーダプログラムを実行することが可能な１つ以上のプログラム可能実行ユニットをさらに含むことができる。一実施形態では、ＧＰＵ７１６は、ＡＩ、機械学習機能、または深層学習機能などのためなど、追加の処理能力を提供するために、ＡＩエンジン（例えば、機械学習エンジン１９０）内に実装されてもよい。
グラフィックサブシステム７１４は、グラフィックメモリ７１８から画像の画素データを定期的に出力して、ディスプレイデバイス７１０に表示させる、または投影システム（図示せず）により投影させる。ディスプレイデバイス７１０は、ＣＲＴ、ＬＣＤ、プラズマ、及びＯＬＥＤディスプレイを含む、デバイス７００からの信号に応答して、視覚情報を表示することが可能な任意のデバイスであってもよい。デバイス７００は、ディスプレイデバイス７１０に、例えば、アナログ信号またはデジタル信号を提供することができる。
他の実施形態では、グラフィックサブシステム７１４は、対応するＣＰＵ上で実行されている単一のアプリケーションのためにグラフィック処理を実行するために組み合わされる複数のＧＰＵデバイスを含む。例えば、複数のＧＰＵは、フレームレンダリングの代替形式を実行でき、この場合、例えばＧＰＵ１は最初のフレームをレンダリングし、ＧＰＵ２は２番目のフレームを連続したフレーム期間でレンダリングし、最後のＧＰＵに到達すると、最初のＧＰＵが次のビデオフレームをレンダリングする（例えば、ＧＰＵが２つしかない場合、ＧＰＵ１は３番目のフレームをレンダリングする）。つまり、フレームをレンダリングするときにＧＰＵがローテーションする。レンダリング操作はオーバーラップすることができ、ＧＰＵ１が第１のフレームのレンダリングを終了する前に、ＧＰＵ２が第２のフレームのレンダリングを開始する場合がある。別の実装では、レンダリング及び／またはグラフィックスパイプラインでの異なるシェーダ操作を複数のＧＰＵデバイスに割り当てることができる。マスターＧＰＵがメインのレンダリングと合成を実行している。
例えば、３つのＧＰＵを含むグループでは、マスターＧＰＵ１がメインレンダリング（例えば、最初のシェーダー操作）を実行し、スレーブＧＰＵ２とスレーブＧＰＵ３からの出力の合成を実行でき、スレーブＧＰＵ２は２番目のシェーダー（例えば、川などの流体エフェクト）操作を実行でき、スレーブＧＰＵ３は３番目のシェーダー（例えば、粒子の煙）操作を実行でき、マスターＧＰＵ１は、ＧＰＵ１、ＧＰＵ２、及びＧＰＵ３のそれぞれからの結果を合成する。このようにして、様々なＧＰＵを割り当てて、様々なシェーダー操作（はためく旗、風、煙の発生、火など）を実行してビデオフレームをレンダリングできる。さらに別の実施形態では、３つのＧＰＵのそれぞれを、ビデオフレームに対応するシーンの異なるオブジェクト及び／または部分に割り当てることができる。前述の実施形態及び実施態様では、これらの動作を同じフレーム周期（同時に並列）でまたは異なるフレーム周期（順次に並列）で行うことができる。
したがって、様々な実施形態では、本開示は、望ましくない（例えば、アビューシブな、悪いなど）プレイヤの行動及び／または望ましい（例えば、良い、オンラインゲームコミュニティの福利を促進するなど）プレイヤの行動をクラス分類するように構成されているシステム及び方法を説明する。
当然のことながら、本明細書で規定した種々の実施形態を、本明細書で開示した種々の特徴を用いて具体的な実施に結合するかまたは組み立ててもよい。従って、提供される例は、可能な例の一部にすぎず、様々な要素を組み合わせることでより多くの実施態様を規定することが可能な様々な実施態様に制限を加えるものではない。ある例では、ある実施態様は、開示されたまたは同等の実施態様の趣旨から逸脱することなく、より少ない要素を含んでもよい。
本開示の実施形態は、ハンドヘルドデバイス、マイクロプロセッサシステム、マイクロプロセッサベースもしくはプログラム可能家庭用電化製品、ミニコンピュータ、及びメインフレームコンピュータなどを含む様々なコンピュータシステム構成で実践されてよい。本開示の実施形態はまた、有線ベースネットワークまたは無線ネットワークを介してリンクされる遠隔処理デバイスによりタスクが行われる分散コンピューティング環境においても、実施することができる。
前述の実施形態を念頭において、当然のことながら、本開示の実施形態は、コンピュータシステムに記憶されたデータを伴う種々のコンピュータ実装動作を用いることができる。これらの動作は、物理量の物理的操作を必要とする動作である。本開示の実施形態の一部を形成する、本明細書で説明される動作のうちのいずれも、有用な機械動作である。また本開示の実施形態は、これらの動作を行うためのデバイスまたは装置に関する。装置は必要な目的に対して特別に構成することもできるし、または装置を、コンピュータに記憶されたコンピュータプログラムによって選択的に作動または構成される汎用コンピュータとすることもできる。詳細には、本明細書の教示に従って書かれたコンピュータプログラムと共に様々な汎用マシンを使用することができる。または、必要な動作を実行するためにさらに特化した装置を構築するほうがより好都合な場合もある。
また本開示を、コンピュータ可読媒体上のコンピュータ可読コードとして具体化することができる。コンピュータ可読媒体は、データを記憶することができる任意のデータ記憶装置とすることができる。データはその後にコンピュータシステムによって読み取ることができる。コンピュータ可読媒体の例には、ハードドライブ、ネットクワーク接続ストレージ（ＮＡＳ）、読み出し専用メモリ、ランダムアクセスメモリ、ＣＤ－ＲＯＭ、ＣＤ－Ｒ、ＣＤ－ＲＷ、磁気テープ、ならびに他の光学及び非光学データストレージデバイスが含まれる。コンピュータ可読媒体は、コンピュータ可読コードが分散的に記憶及び実行されるようにネットワーク結合コンピュータシステム上に分散されたコンピュータ可読有形媒体を含み得る。
方法動作が特定の順序で説明されたが、当然ながら、他のハウスキーピング動作が動作と動作の間に実行されてよい、または動作が、わずかに異なる時刻に生じるように調整されてもよく、もしくはオーバーレイ動作の処理が所望の手法で実行される限り、処理に関連する様々な間隔で処理動作の発生を可能にするシステム内に分散されてもよい。
前述の開示は、理解を明確にする目的で、ある程度詳細に説明されてきたが、一定の変更及び修正は、添付の特許請求の範囲内で実施できることは明らかであろう。したがって、本実施形態は、限定ではなく例示としてみなされるべきであり、本開示の実施形態は、本明細書に提供される詳細に限定されるものではなく、添付の特許請求の範囲内及び均等物内で変更されてもよい。

Claims (21)

  1. オンラインゲームの行動を制御する方法であって、
    ゲームセッション中の所定期間にわたりゲームサーバで、ビデオゲームをプレイする複数のプレイヤの複数のゲームプレイを監視し、
    前記複数のゲームプレイに関連する複数のアクティビティと関係のある前記複数のゲームプレイからフィーチャを抽出し、前記複数のアクティビティは前記複数のプレイヤによって制御され、
    前記複数のアクティビティをクラス分類するように構成された人工知能（ＡＩ）学習モデルに前記フィーチャを入力し、
    アクティビティをアビューシブな行動としてクラス分類し、
    フラグ付けしているプレイヤから、ゲームセッション中の望ましくない可能性があるアクティビティを示すフラグの開始を受信し、
    前記望ましくない可能性があるアクティビティを制御している第１プレイヤを決定し、
    前記望ましくない可能性があるアクティビティのビデオ録画を生成し、
    前記望ましくない可能性があるアクティビティの記録を生成し、
    前記望ましくない可能性があるアクティビティは、前記アビューシブな行動として分類されるアクティビティに対応し、
    前記所定期間は前記フラグが開始された時点に関連付けられ、前記プレイヤのグループに録画を提示し、
    前記アビューシブな行動として分類される前記アクティビティに対応する、前記望ましくない可能性があるアクティビティがアビューズであるかアビューズでないかを示す決定を前記プレイヤのグループから受信し、かつ、
    前記フラグ付けしているプレイヤによって選択された場合に前記プレイヤのグループによるクラウドソーシングを介した前記アビューシブな行動の確定を要求する選択可能なアイコンの選択を受信し、前記プレイヤのグループは前記フラグ付けしているプレイヤを含む、方法。
  2. 前記アビューシブな行動は、少なくとも１人の他のプレイヤの少なくとも１つのゲームエクスペリエンスに悪影響を与えるために実行される行動である、請求項１に記載の方法。
  3. さらに、前記望ましくない可能性があるアクティビティの結果、第２プレイヤが前記ゲームセッションを離脱することになると決定する、請求項１に記載の方法。
  4. 前記アビューシブな行動として分類される前記アクティビティに対応する前記望ましくない可能性があるアクティビティの標的である第２プレイヤを決定し、
    前記アビューシブな行動として分類される前記アクティビティに対応する前記望ましくない可能性があるアクティビティが識別されたという通知を前記第２プレイヤのデバイスに送信する、請求項１に記載の方法。
  5. さらに、前記第２プレイヤの前記デバイスから、前記アビューシブな行動として分類された前記アクティビティに対応する前記望ましくない可能性があるアクティビティがアビューズであることを示すという確認を受信し、かつ、
    アビューシブな行動として分類された前記アクティビティに対応する前記望ましくない可能性があるアクティビティが前記第２プレイヤに対するものであったという指示を受信する、請求項４に記載の方法。
  6. 前記アビューシブな行動として分類されるアクティビティに対応する前記望ましくない可能性があるアクティビティに関連付けられたフィーチャを識別し、
    前記ＡＩ学習モデルをトレーニングするために、前記望ましくない可能性があるアクティビティに関連付けられた前記フィーチャを前記ＡＩ学習モデルに入力し、
    前記望ましくない可能性があるアクティビティに関連付けられた前記フィーチャのそれぞれを、前記アビューシブな行動を示すクラスを真に示すものであるとマーク付けする、請求項５に記載の方法。
  7. さらに、前記通知内に提示される第２の選択可能なアイコンの第２の選択を受信し、前記第２の選択可能なアイコンは前記第２プレイヤによって選択されると、修正アクションを実行することを要求し、
    前記修正アクションを実行し、前記修正アクションでは、
    前記第１プレイヤに警告を送信する、または、
    前記第２プレイヤを前記第１プレイヤからマスクする、または、
    前記第１プレイヤ及び前記第２プレイヤを互いからマスクする、
    請求項４に記載の方法。
  8. 前記アビューシブな行動が続く場合、前記第１プレイヤに対してさらなる修正アクションが取られることを示す警告を前記第１プレイヤのデバイスに送信する、請求項１に記載の方法。
  9. 前記ビデオ録画を前記第１プレイヤの前記デバイスに送信する、請求項８に記載の方法。
  10. 前記プレイヤのグループからの前記決定は、前記アビューシブな行動として分類された前記アクティビティに対応する前記望ましくない可能性があるアクティビティがアビューズであることを示し、前記方法は、さらに、
    前記アビューシブな行動として分類されるアクティビティに対応する前記望ましくない可能性があるアクティビティに関連付けられたフィーチャを識別し、
    前記ＡＩ学習モデルをトレーニングするために、前記アビューシブな行動として分類される前記アクティビティに対応する前記望ましくない可能性があるアクティビティに関連付けられた前記フィーチャを前記ＡＩ学習モデルに入力し、かつ、
    前記アビューシブな行動として分類される前記アクティビティに対応する前記望ましくない可能性があるアクティビティに関連付けられた前記フィーチャのそれぞれを、前記アビューシブな行動を示すクラスを真に示すものであるとマーク付けする、請求項１に記載の方法。
  11. 前記複数のゲームプレイの前記監視では、
    前記複数のゲームプレイに関連するテレメトリデータを受信し、前記テレメトリデータは、
    プレイヤの対応するゲームプレイのユーザセーブデータ、または、
    前記対応するゲームプレイのゲーム状態データ、または、
    前記対応するゲームプレイのメタデータのうちの少なくとも１つを含む、
    請求項１に記載の方法。
  12. さらに、別のアクティビティを望ましい行動であるとクラス分類する、
    請求項１に記載の方法。
  13. さらに、前記望ましい行動であると分類された前記別のアクティビティを制御している第２プレイヤを決定し、
    前記第１プレイヤ及び第３プレイヤを含むプレイヤの別のグループ内の前記第３プレイヤに通知を送信し、
    前記通知は、前記望ましい行動であると分類された前記別のアクティビティのビデオ録画を含み、
    前記通知は、前記第３プレイヤによって選択された場合に前記第２プレイヤに称賛を提供する選択可能な別のアイコンを含み、
    対応するプレイヤによる称賛の蓄積は、オンラインコミュニティ内の前記対応するプレイヤの評判を定義する、請求項１２に記載の方法。
  14. 前記記録には、
    前記望ましくない可能性があるアクティビティのビデオ録画、または、
    評価、または、
    攻撃性のレベル、または、
    セキュリティ通知、または、
    警告メッセージ、または、
    ポップアップメッセージ、または、
    フラグ、または、
    レポート、または、
    トラッキングログ、または、
    情報、または、
    データ、または、
    ブラックリスト、または、
    統計が含まれる、請求項１に記載の方法。
  15. オンラインゲームの行動を制御する方法を実装するためのコンピュータプログラムを格納するコンピュータ可読媒体であって、
    ゲームセッション中の所定期間にわたり、ゲームサーバで、ビデオゲームをプレイする複数のプレイヤの複数のゲームプレイを監視するためのプログラム命令を有し、
    前記複数のゲームプレイに関連する複数のアクティビティと関係のある前記複数のゲームプレイからフィーチャを抽出するためのプログラム命令を有し、前記複数のアクティビティは前記複数のプレイヤによって制御され、
    前記複数のアクティビティをクラス分類するように構成された人工知能（ＡＩ）学習モデルに前記フィーチャを入力するためのプログラム命令を有し、
    アクティビティをアビューシブな行動としてクラス分類するためのプログラム命令を有し、
    フラグ付けしているプレイヤから、前記ゲームセッション中の望ましくない可能性があるアクティビティを示すフラグの開始を受信するためのプログラム命令を有し、
    前記望ましくない可能性があるアクティビティを制御している第１プレイヤを決定するためのプログラム命令を有し、
    前記望ましくない可能性があるアクティビティのビデオ録画を生成するためのプログラム命令を有し、
    前記望ましくない可能性があるアクティビティの記録を生成するためのプログラム命令を有し、
    前記望ましくない可能性があるアクティビティは、前記アビューシブな行動として分類されるアクティビティに対応し、
    前記所定期間は前記フラグが開始された時点に関連付けられ、前記プレイヤのグループに録画を提示し、
    前記アビューシブな行動として分類される前記アクティビティに対応する、前記望ましくない可能性があるアクティビティがアビューズであるかアビューズでないかを示す決定を前記プレイヤのグループから受信し、かつ、
    前記フラグ付けしているプレイヤによって選択された場合に前記プレイヤのグループによるクラウドソーシングを介した前記アビューシブな行動の確定を要求する選択可能なアイコンの選択を受信し、前記プレイヤのグループは前記フラグ付けしているプレイヤを含む、コンピュータ可読媒体。
  16. 前記方法では、前記アビューシブな行動は、少なくとも１人の他のプレイヤの少なくとも１つのゲームエクスペリエンスに悪影響を与えるために実行される、請求項１５に記載のコンピュータ可読媒体。
  17. さらに、前記望ましくない可能性があるアクティビティの結果、第２プレイヤが前記ゲームセッションを離脱することになると決定するためのプログラム命令を有する、
    請求項１５に記載のコンピュータ可読媒体。
  18. 前記方法では、前記記録には、
    前記望ましくない可能性があるアクティビティのビデオ録画、または、
    評価、または、
    攻撃性のレベル、または、
    セキュリティ通知、または、
    警告メッセージ、または、
    ポップアップメッセージ、または、
    フラグ、または、
    レポート、または、
    トラッキングログ、または、
    情報、または、
    データ、または、
    ブラックリスト、または、
    統計が含まれる、請求項１５に記載のコンピュータ可読媒体。
  19. コンピュータシステムであって、
    プロセッサと、
    前記プロセッサに結合されたメモリを有し、前記メモリには、前記コンピュータシステムによって実行されると、オンラインゲームの行動を制御する方法を前記コンピュータシステムに実行させる命令が格納され、前記方法は、
    ゲームセッション中の所定期間にわたりゲームサーバで、ビデオゲームをプレイする複数のプレイヤの複数のゲームプレイを監視し、
    前記複数のゲームプレイに関連する複数のアクティビティと関係のある前記複数のゲームプレイからフィーチャを抽出し、前記複数のアクティビティは前記複数のプレイヤによって制御され、
    前記複数のアクティビティをクラス分類するように構成された人工知能（ＡＩ）学習モデルに前記フィーチャを入力し、
    アクティビティをアビューシブな行動としてクラス分類し、
    フラグ付けしているプレイヤから、ゲームセッション中の望ましくない可能性があるアクティビティを示すフラグの開始を受信し、
    前記望ましくない可能性があるアクティビティを制御している第１プレイヤを決定し、
    前記望ましくない可能性があるアクティビティのビデオ録画を生成し、
    前記望ましくない可能性があるアクティビティの記録を生成し、
    前記望ましくない可能性があるアクティビティは、前記アビューシブな行動として分類されるアクティビティに対応し、
    前記所定期間は前記フラグが開始された時点に関連付けられ、前記プレイヤのグループに録画を提示し、
    前記アビューシブな行動として分類される前記アクティビティに対応する、前記望ましくない可能性があるアクティビティがアビューズであるかアビューズでないかを示す決定を前記プレイヤのグループから受信し、かつ、
    前記フラグ付けしているプレイヤによって選択された場合に前記プレイヤのグループによるクラウドソーシングを介した前記アビューシブな行動の確定を要求する選択可能なアイコンの選択を受信し、前記プレイヤのグループは前記フラグ付けしているプレイヤを含む、コンピュータシステム。
  20. 前記方法では、さらに、
    前記望ましくない可能性があるアクティビティの結果、第２プレイヤが前記ゲームセッションを離脱することになると決定し、
    前記アビューシブな行動は、少なくとも１人の他のプレイヤの少なくとも１つのゲームエクスペリエンスに悪影響を与えるために実行される、請求項１９に記載のコンピュータシステム。
  21. 前記方法では、前記記録には、
    前記望ましくない可能性があるアクティビティのビデオ録画、または、
    評価、または、
    攻撃性のレベル、または、
    セキュリティ通知、または、
    警告メッセージ、または、
    ポップアップメッセージ、または、
    フラグ、または、
    レポート、または、
    トラッキングログ、または、
    情報、または、
    データ、または、
    ブラックリスト、または、
    統計が含まれる、請求項１９に記載のコンピュータシステム。
JP2023506106A 2020-07-31 2021-05-20 アビューシブな行動を識別するためのゲームアクティビティのクラス分類 Active JP7383198B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/945,568 2020-07-31
US16/945,568 US11596870B2 (en) 2020-07-31 2020-07-31 Classifying gaming activity to identify abusive behavior
PCT/US2021/033501 WO2022026038A1 (en) 2020-07-31 2021-05-20 Classifying gaming activity to identify abusive behavior

Publications (2)

Publication Number Publication Date
JP2023530199A JP2023530199A (ja) 2023-07-13
JP7383198B2 true JP7383198B2 (ja) 2023-11-17

Family

ID=76641762

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023506106A Active JP7383198B2 (ja) 2020-07-31 2021-05-20 アビューシブな行動を識別するためのゲームアクティビティのクラス分類

Country Status (5)

Country Link
US (2) US11596870B2 (ja)
EP (1) EP4188568A1 (ja)
JP (1) JP7383198B2 (ja)
CN (1) CN116209506A (ja)
WO (1) WO2022026038A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11082467B1 (en) * 2020-09-03 2021-08-03 Facebook, Inc. Live group video streaming
KR102397202B1 (ko) * 2020-09-07 2022-05-12 엘지전자 주식회사 디스플레이 장치 및 이를 이용한 게임 화면 제공 방법
EP4226362A1 (en) 2020-10-08 2023-08-16 Modulate, Inc. Multi-stage adaptive system for content moderation
US11484800B2 (en) * 2020-12-31 2022-11-01 GGWP, Inc. Methods and systems for filtering content in reconstructions of native data of assets
US20220207421A1 (en) * 2020-12-31 2022-06-30 GGWP, Inc. Methods and systems for cross-platform user profiling based on disparate datasets using machine learning models
US11763030B2 (en) * 2020-12-31 2023-09-19 GGWP, Inc. Methods and systems for generating multimedia content based on processed data with variable privacy concerns
US11752435B2 (en) * 2021-07-15 2023-09-12 Rovi Guides, Inc. Systems and methods for behavior-based characterization of avatars in a computer-generated environment
US11770420B2 (en) * 2022-01-20 2023-09-26 Wesley John Boudville Ghost spiders and zombie avatars in the metaverse
US20230267734A1 (en) * 2022-02-23 2023-08-24 Dell Products L.P. Information Extraction from Live Online Sessions
US20230381662A1 (en) * 2022-05-31 2023-11-30 Sony Interactive Entertainment LLC Adaptive difficulty calibration for skills-based activities in virtual environments
US20240033643A1 (en) * 2022-07-26 2024-02-01 Sony Interactive Entertainment LLC Reporting and crowd-sourced review whether game activity is appropriate for user

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090174702A1 (en) 2008-01-07 2009-07-09 Zachary Adam Garbow Predator and Abuse Identification and Prevention in a Virtual Environment
US20190052471A1 (en) 2017-08-10 2019-02-14 Microsoft Technology Licensing, Llc Personalized toxicity shield for multiuser virtual environments
US20190270021A1 (en) 2018-03-01 2019-09-05 Sony Interactive Entertainment Inc. User interaction monitoring
US20200078688A1 (en) 2018-09-07 2020-03-12 Valve Corporation Machine-learned trust scoring for player matchmaking
US20200134298A1 (en) 2018-10-26 2020-04-30 At&T Intellectual Property I, L.P. Identifying and addressing offensive actions in visual communication sessions
US20200164278A1 (en) 2017-06-01 2020-05-28 Spirit Ai Limited Online user monitoring

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7828652B2 (en) * 2004-02-12 2010-11-09 Igt Player verification method and system for remote gaming terminals
US20090111583A1 (en) * 2007-10-31 2009-04-30 Gary Zalewski Systems and method for improving application integrity
KR101319159B1 (ko) * 2009-08-25 2013-10-17 주식회사 홍인터내셔날 다트 게임 장치 및 다트 게임 장치의 게임 데이터 인증 방법
US20150343313A1 (en) * 2014-05-30 2015-12-03 Microsoft Corporation User enforcement reputation scoring algorithm & automated decisioning and enforcement system for non-evidence supported communications misconduct
US10112113B2 (en) * 2016-03-30 2018-10-30 Sony Interactive Entertainment Inc. Personalized data driven game training system
KR101967658B1 (ko) * 2017-05-27 2019-04-29 주식회사 하이퍼커넥트 영상 통화 장치 및 영상 통화 방법
US11217076B1 (en) * 2018-01-30 2022-01-04 Amazon Technologies, Inc. Camera tampering detection based on audio and video
US10576380B1 (en) * 2018-11-05 2020-03-03 Sony Interactive Entertainment LLC Artificial intelligence (AI) model training using cloud gaming network
US10835829B2 (en) * 2018-12-26 2020-11-17 Htc Corporation Method for identifying and describing group, coordinating device, and computer program product
JP7502335B2 (ja) * 2019-05-13 2024-06-18 グーグル エルエルシー 不適切なコンテンツアイテムを特定するための方法、システム、および媒体
CN110090446B (zh) * 2019-05-14 2022-11-08 腾讯科技(成都)有限公司 用于处理游戏中的举报信息的方法和设备
US11032222B2 (en) * 2019-08-22 2021-06-08 Facebook, Inc. Notifying users of offensive content
US11170800B2 (en) * 2020-02-27 2021-11-09 Microsoft Technology Licensing, Llc Adjusting user experience for multiuser sessions based on vocal-characteristic models
US11400378B2 (en) * 2020-06-30 2022-08-02 Sony Interactive Entertainment LLC Automatic separation of abusive players from game interactions

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090174702A1 (en) 2008-01-07 2009-07-09 Zachary Adam Garbow Predator and Abuse Identification and Prevention in a Virtual Environment
US20200164278A1 (en) 2017-06-01 2020-05-28 Spirit Ai Limited Online user monitoring
US20190052471A1 (en) 2017-08-10 2019-02-14 Microsoft Technology Licensing, Llc Personalized toxicity shield for multiuser virtual environments
US20190270021A1 (en) 2018-03-01 2019-09-05 Sony Interactive Entertainment Inc. User interaction monitoring
US20200078688A1 (en) 2018-09-07 2020-03-12 Valve Corporation Machine-learned trust scoring for player matchmaking
US20200134298A1 (en) 2018-10-26 2020-04-30 At&T Intellectual Property I, L.P. Identifying and addressing offensive actions in visual communication sessions

Also Published As

Publication number Publication date
JP2023530199A (ja) 2023-07-13
US11596870B2 (en) 2023-03-07
EP4188568A1 (en) 2023-06-07
CN116209506A (zh) 2023-06-02
US20230219007A1 (en) 2023-07-13
US20220032199A1 (en) 2022-02-03
WO2022026038A1 (en) 2022-02-03

Similar Documents

Publication Publication Date Title
JP7383198B2 (ja) アビューシブな行動を識別するためのゲームアクティビティのクラス分類
KR102291044B1 (ko) 멀티 플레이어 비디오 게임 매치 메이킹 최적화
US11358066B2 (en) User interaction monitoring
US11478713B1 (en) Automated detection of emergent behaviors in interactive agents of an interactive environment
US8616970B2 (en) System and method for managing a multiplicity of text messages in an online game
US8888601B2 (en) Player segmentation based on predicted player interaction score
JP2021517292A (ja) オンラインゲーム環境内のチートソフトウェアの使用を自動的に減らすこと
US11266912B2 (en) Methods and systems for processing disruptive behavior within multi-player video game
KR20180044191A (ko) 멀티플레이어 비디오 게임 매치메이킹 시스템 및 방법들
US10997494B1 (en) Methods and systems for detecting disparate incidents in processed data using a plurality of machine learning models
US12023594B2 (en) Incentivizing fair gameplay through bot detection penalization within online gaming systems
US20220203244A1 (en) Methods and systems for generating multimedia content based on processed data with variable privacy concerns
Frommel et al. Recognizing affiliation: Using behavioural traces to predict the quality of social interactions in online games
JP2023533078A (ja) 自動ハラスメント監視システム
US11727291B2 (en) Predicting disengagement and selectively delivering engagement content
Newman et al. Press start to track privacy and the new questions posed by modern video game technology
US20220207421A1 (en) Methods and systems for cross-platform user profiling based on disparate datasets using machine learning models
US20240037276A1 (en) Methods and systems for generating multimedia content based on processed data with variable privacy concerns
Chesney et al. A study of gamer experience and virtual world behaviour
Costa et al. Artificial intelligence in MOBA games: a multivocal literature mapping
US11484800B2 (en) Methods and systems for filtering content in reconstructions of native data of assets
Headleand et al. The influence of virtual reality on the perception of artificial intelligence characters in games
US20150265928A1 (en) Game behavior bonds

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230327

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230327

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20230327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231018

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231107

R150 Certificate of patent or registration of utility model

Ref document number: 7383198

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150