KR20230133939A

KR20230133939A - 금지된 게이밍 콘텐츠의 자동 검출

Info

Publication number: KR20230133939A
Application number: KR1020237030440A
Authority: KR
Inventors: 매트 커프만; 샤이나 쿠라나; 딘 닐 브라운; 아서 레미 말란
Original assignee: 로브록스 코포레이션
Priority date: 2021-02-10
Filing date: 2022-01-18
Publication date: 2023-09-19
Also published as: US20220249957A1; JP2024507338A; CN116917012A; WO2022173559A1; EP4291314A1; US20240033644A1; US11786824B2

Abstract

여기에 설명된 구현은 금지된 콘텐츠를 자동으로 검출하기 위한 방법, 시스템 및 컴퓨터 판독 가능 매체에 관한 것이다. 예컨대, 방법은 게이밍 플랫폼에서 호스팅되는 게임과 연관된 데이터를 수신하는 단계 - 데이터는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타냄 -; 머신 러닝 모델로 게임에 분류를 자동으로 할당하는 단계 - 분류는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타내는 데이터에 기초함 -; 게임의 분류가 안전 임계값을 충족하는지 여부를 결정하는 단계; 및 게임의 분류가 안전 임계값을 충족하지 않는다는 결정에 기초하여, 금지된 콘텐츠를 갖는 것으로 게임을 식별하는 단계를 포함할 수 있다.

Description

금지된 게이밍 콘텐츠의 자동 검출

본 출원은 2021년 2월 10일에 출원되고, 금지된 게이밍 콘텐츠의 자동 검출(AUTOMATIC DETECTION OF PROHIBITED GAMING CONTENT)이라는 제목의, 미국 특허 출원 번호 17/172,866에 대한 우선권의 이익을 주장하며, 그 전체 내용은 여기에서 참조로 포함된다.

실시예는 일반적으로 컴퓨터 기반 게이밍에 관한 것으로, 보다 구체적으로, 금지된 게이밍 콘텐츠를 자동으로 검출하고 방지하기 위한 방법, 시스템 및 컴퓨터 판독 가능 매체에 관한 것이다.

일부 온라인 게이밍 플랫폼은 사용자가 게임 및 게임 자산과 같은 콘텐츠에 액세스하고, 서로 연결하고, 서로 인터랙팅하고(예컨대, 게임 내에서), 그리고 인터넷을 통해 서로 정보를 공유할 수 있도록 허용한다. 온라인 게이밍 플랫폼의 사용자는 게임 또는 게임의 일부가 인터랙션 및/또는 구매를 위해 제공되는 멀티플레이어 게이밍 환경에 참가할 수 있다.

사용자가 게임 관련 콘텐츠(예컨대, 게임, 게임을 위한 아이템, 아바타를 위한 악세서리 등) 또는 다른 콘텐츠를 검색할 때, 용어 인기도, 사용자에 의한 다운로드의 수, 사용자에 의한 등급(rating) 등과 같은 요소에 기초하는 결과가 사용자에게 제시될 수 있다. 그러나, 새로운 콘텐츠 또는 최근에 개발된 콘텐츠는 분류가 없이 제시될 수 있다. 이러한 상황에서, 부적절하거나 금지된 콘텐츠가 사용자에 의해 쉽게 액세스될 수 있다. 또한, 사용자와 개발자의 수가 증가함에 따라, 분류가 없는 새로운 콘텐츠의 양도 증가한다.

여기에서 제공된 배경 설명은 본 개시의 맥락을 제시하는 목적을 위한 것이다. 출원 당시 선행 기술로 달리 자격이 없을 수 있는 설명의 양태뿐만 아니라, 이 배경 섹션에 설명된 범위 내에서 현재 명명된 발명가의 작업은 명시적으로나 묵시적으로 본 개시에 대한 선행 기술로 인정되지 않는다.

본 출원의 구현은 금지된 콘텐츠가 사용자에게 도달하는 것을 자동으로 검출하고 방지하는 것과 관련된다. 일부 구현에서, 컴퓨터 구현 방법은: 게이밍 플랫폼에서 호스팅되는 게임과 연관된 데이터를 수신하는 단계 - 데이터는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타냄 -; 머신 러닝 모델로 게임에 분류(classification)를 자동으로 할당하는 단계 - 분류는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타내는 데이터에 기초함 -; 게임의 분류가 안전 임계값(safety threshold)을 충족하는지 여부를 결정하는 단계; 및 게임의 분류가 안전 임계값을 충족하지 않는다는 결정에 기초하여, 금지된 콘텐츠를 갖는 것으로 게임을 식별하는 단계를 포함한다.

일부 구현에서, 적어도 하나의 개발자를 나타내는 데이터는: 게이밍 플랫폼에서 개발자의 보유(tenure), 개발자에 의해 게이밍 플랫폼에서 공개된 게임의 수, 게이밍 플랫폼에서 개발자와 연관된 사용자의 행동 데이터, 게이밍 플랫폼에서 개발자의 조정 히스토리(moderation history), 또는 게이밍 플랫폼에서 개발자와 연관된 게임의 평균 분류 중 하나 이상을 포함한다.

일부 구현에서, 적어도 하나의 사용자를 나타내는 데이터는: 사용자의 인구통계(demographics), 사용자의 게임플레이 히스토리, 사용자와 연관된 다른 사용자의 행동 데이터, 사용자의 조정 히스토리, 사용자의 채팅 히스토리, 사용자의 거래 히스토리, 또는 사용자에 의해 플레이된 게임의 평균 분류 중 하나 이상을 포함한다.

일부 구현에서, 게임 콘텐츠를 나타내는 데이터는: 게임의 텍스트 설명, 게임의 제목, 게임의 자산, 게임을 구성하는 모델, 게임 내의 동작, 또는 게임 콘텐츠의 유사성 임계값(similarity threshold) 내의 콘텐츠와 하나 이상의 다른 게임의 평균 분류 중 하나 이상을 포함한다.

일부 구현에서, 방법은 게임 콘텐츠가 금지된 콘텐츠를 포함한다는 결정에 기초하여, 게이밍 플랫폼을 통한 게임 콘텐츠에 대한 액세스를 제한하는 단계를 더 포함한다.

또 다른 양태에 따르면, 컴퓨터 구현 방법이 제공된다. 컴퓨터 구현 방법은 게이밍 플랫폼에서 호스팅되는 게임과 연관된 데이터를 수신하는 단계 - 데이터는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타냄 -; 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타내는 데이터에 기초하여, 머신 러닝 모델의 입력 특징(input features)을 결정하는 단계; 머신 러닝 모델에 입력 특징을 제공하는 단계; 및 입력 특징에 기초하여 머신 러닝 모델의 출력을 획득하는 단계를 포함하고, 출력은 게임의 분류를 포함한다.

일부 구현에서, 적어도 하나의 개발자를 나타내는 데이터는: 게이밍 플랫폼에서 개발자의 보유, 개발자에 의해 게이밍 플랫폼에서 공개된 게임의 수, 게이밍 플랫폼에서 개발자와 연관된 사용자의 행동 데이터, 게이밍 플랫폼에서 개발자의 조정 히스토리, 또는 게이밍 플랫폼에서 개발자와 연관된 게임의 평균 분류 중 하나 이상을 포함한다.

일부 구현에서, 적어도 하나의 사용자를 나타내는 데이터는: 사용자의 인구통계, 사용자의 게임플레이 히스토리, 사용자와 연관된 다른 사용자의 행동 데이터, 사용자의 조정 히스토리, 사용자의 채팅 히스토리, 사용자의 거래 히스토리, 또는 사용자에 의해 플레이된 게임의 평균 분류 중 하나 이상을 포함한다.

일부 구현에서, 게임 콘텐츠를 나타내는 데이터는: 게임의 텍스트 설명, 게임의 제목, 게임의 자산, 게임을 구성하는 모델, 게임 내의 동작, 또는 게임 콘텐츠의 유사성 임계값 내의 콘텐츠와 하나 이상의 다른 게임의 평균 분류 중 하나 이상을 포함한다.

일부 구현에서, 게임의 분류는 게임이 금지된 콘텐츠를 포함하는 확률을 나타내는 값이다.

또 다른 양태에 따르면, 시스템이 제공된다. 시스템은: 명령어가 저장된 메모리; 및 메모리에 결합된 처리 장치를 포함하고, 처리 장치는 메모리에 액세스하고, 명령어를 실행하도록 구성되며, 명령어는 처리 장치로 하여금 동작을 수행하도록 하고, 동작은: 게임과 연관된 데이터를 수신하는 것 - 데이터는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타냄 -; 머신 러닝 모델로 게임에 분류를 자동으로 할당하는 것 - 분류는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타내는 데이터에 기초함 -; 게임의 분류가 안전 임계값을 충족하는지 여부를 결정하는 것; 및 게임의 분류가 안전 임계값을 충족하지 않는다는 결정에 기초하여, 금지된 콘텐츠를 갖는 것으로 게임을 식별하는 것을 포함한다.

일부 구현에서, 동작은 게임 콘텐츠가 금지된 콘텐츠를 포함한다는 결정에 기초하여, 게이밍 플랫폼을 통한 게임 콘텐츠에 대한 액세스를 제한하는 것을 더 포함한다.

또 다른 양태에 따르면, 비일시적 컴퓨터 판독 가능 매체가 제공된다. 비일시적 컴퓨터 판독 가능 매체는 처리 장치에 의한 실행에 응답하여, 처리 장치로 하여금 동작을 수행하도록 하는 저장된 명령어를 갖고, 동작은: 게임과 연관된 데이터를 수신하는 것 - 데이터는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타냄 -; 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타내는 데이터에 기초하여, 머신 러닝 모델의 입력 특징을 결정하는 것; 머신 러닝 모델에 입력 특징을 제공하는 것; 및 입력 특징에 기초하여 머신 러닝 모델의 출력을 획득하는 것을 포함하고, 출력은 게임의 분류를 포함한다.

도 1은 일부 구현에 따른, 금지된 콘텐츠의 자동 검출 및 방지를 위한 예시적인 네트워크 환경의 도식이다.
도 2는 일부 구현에 따른, 금지된 콘텐츠의 자동 검출 및 방지를 위한 예시적인 네트워크 환경의 도식이다.
도 3은 일부 구현에 따른, 예시적인 사용자 데이터 및 입력 특징의 개략도이다.
도 4는 일부 구현에 따른, 예시적인 개발자 데이터 및 입력 특징의 개략도이다.
도 5는 일부 구현에 따른, 예시적인 게임 데이터 및 입력 특징의 개략도이다.
도 6은 일부 구현에 따른, 머신 러닝 모델을 트레이닝하고, 게임 분류를 생성하기 위한 예시적인 방법의 흐름도이다.
도 7은 일부 구현에 따른, 금지되지 않은 게임 콘텐츠를 제시하기 위한 예시적인 방법의 흐름도이다.
도 8은 일부 구현에 따른, 여기에서 설명된 하나 이상의 특징을 구현하는 데 사용될 수 있는 예시적인 컴퓨팅 장치를 나타내는 블록도이다.

여기에 설명된 하나 이상의 구현은 온라인 게이밍 플랫폼과 연관된 금지 아이템의 검출 및 방지에 관한 것이다. 특징은 개발자 데이터, 게임 데이터, 사용자 프로필 데이터, 행동 파라미터 및/또는 다른 요소에 기초하여, 게임 및 아이템을 자동으로 분류하는 것을 포함할 수 있다.

여기에 설명된 특징은 게임 및 연관된 게임 콘텐츠의 지능적인 분류와, 금지된 콘텐츠를 식별하는 것에 특수한 머신 러닝 모델의 트레이닝을 통해 금지된 콘텐츠의 자동 검출 및 방지를 제공한다. 예컨대, 사용자 프로필 데이터, 사용자 행동 파라미터, 사용자 게임플레이 데이터, 개발자 프로필 데이터, 개발자 행동 데이터 및 게임 데이터는 게임을 금지될 가능성이 있는 콘텐츠를 포함하는 것으로 분류하는 데 사용될 수 있다. 또한, 분류는 금지될 가능성이 있는 콘텐츠를 포함하는 새로 제작된 콘텐츠가 이 콘텐츠를 사용자에게 표면화하기 전에 신속하게 식별되도록 피드백 및 관리 기능을 통해 증강될 수 있다.

사용자 인터랙션 및 다른 데이터에 기초하는 머신 러닝 모델의 트레이닝을 통해, 게임 분류는 오직 안전의 임계 분류를 충족하는 게임만 사용자에게 제시되도록 생성될 수 있다. 머신 러닝 모델은 주기적으로 재트레이닝되고, 그로써 새로 제작된 콘텐츠의 분류를 향상시킬 수 있다.

추가적으로, 소셜 네트워크, 온라인 게이밍 플랫폼에 대한 외부 링크 및 다른 외부 데이터와 같은, 내부 & 외부 데이터 소스는 게임 콘텐츠, 사용자 활동, 사용자 행동, 이전에 금지된 콘텐츠와 연관된 사용자의 그룹, 이전에 금지된 콘텐츠와 연관된 개발자의 그룹 및 다른 유사한 기준에 의해 게임을 분류하기 위한 머신 러닝 모델을 트레이닝하는 데 사용될 수 있다.

복수의 데이터 신호에 기초하여 제작되는 게임 콘텐츠를 분류함으로써, 금지된 콘텐츠를 보다 쉽게 제한, 난독화(obfuscated) 및/또는 제거할 수 있다. 따라서, 개시된 특징은 금지된 콘텐츠의 거짓 양성(false positives)을 해석하는 데 소비되는 시간의 감소뿐만 아니라 금지될 가능성이 있는 게임 데이터의 수동 검색의 감소를 포함하는 기술적 이점을 제공하고, 이에 따라 온라인 게이밍 플랫폼을 운영하는 데 사용된 계산 리소스(예컨대, 컴퓨터 메모리, 프로세서, 네트워킹 트래픽, 서버 등)의 사용 감소로 이어진다. 예컨대, 하나의 콘텐츠가 제작되면, 머신 러닝 모델은 외부 데이터, 프로필 데이터 및 행동 데이터에 기초하여, 금지된 콘텐츠를 포함할 가능성을 신속하게 분류할 수 있다. 따라서, 새로운 아이템을 수동으로 검토하기 위한 추가 검색 계산이 제거되고, 이에 따라 금지된 콘텐츠를 모니터링하는 계산 리소스가 절약된다.

온라인 게이밍 플랫폼("사용자 생성 콘텐츠 플랫폼" 또는 "사용자 생성 콘텐츠 시스템"이라고도 지칭됨)은 사용자가 서로 인터랙팅하기 위한 다양한 방법을 제공한다. 예컨대, 온라인 게이밍 플랫폼의 사용자는 게이밍 플랫폼 내에서 게임 또는 다른 콘텐츠 또는 리소스(예컨대, 캐릭터, 그래픽, 가상 세계 내 게임 플레이를 위한 아이템 등)를 제작할 수 있다.

온라인 게이밍 플랫폼의 사용자는 게임 또는 게임 제작에서 공동의 목표를 향해 함께 작업하고, 다양한 가상 게이밍 아이템을 공유하고, 서로에게 전자 메시지를 전송하는 것 등을 할 수 있다. 온라인 게이밍 플랫폼의 사용자는 예컨대, 캐릭터(아바타) 또는 다른 게임 개체 및 메커니즘을 포함하여, 게임을 플레이할 수 있다. 온라인 게이밍 플랫폼은 또한 플랫폼의 사용자가 서로 통신할 수 있도록 허용한다. 예컨대, 온라인 게이밍 플랫폼의 사용자는 음성 메시지(예컨대, 음성 채팅을 통해), 텍스트 메시지, 비디오 메시지 또는 상기의 조합을 사용하여, 서로 통신할 수 있다. 일부 온라인 게이밍 플랫폼은 사용자가 온라인 게임을 플레이할 수 있는 가상의 3차원 환경을 제공할 수 있다.

온라인 게이밍 플랫폼의 엔터테인먼트 가치 향상을 돕기 위하여, 플랫폼은 온라인 게이밍 플랫폼의 사용자가 게임 관련 콘텐츠 또는 검색 엔진을 사용하는 그러한 다른 콘텐츠를 검색할 수 있는 게임, 게임 콘텐츠 또는 다른 게임 관련 리소스에 대한 검색 엔진을 제공할 수 있다. 게임 및 게임 리소스는 다양한 사용자(게임 제작자/개발자 및/또는 게임 플레이어를 포함함)에 의해 빠른 속도로 생성, 변경 및 이용 가능한 게임 데이터에 추가될 수 있으므로, 검색 엔진은 이용 가능한 게임 및 리소스의 향상된 검색 가능성을 제공한다.

예컨대, 사용자는 사용자가 찾는 아이템 또는 리소스에 대한 요청을 나타내는 검색 쿼리를 검색 엔진에 입력할 수 있다. 검색 엔진은 게임 데이터의 세트를 검색하고, 검색 알고리즘에 의해 랭크된, 검색 쿼리와 일치하도록 검색 엔진에 의해 결정된 아이템 및/또는 게임 관련 리소스의 리스트를 포함할 수 있는 검색 결과를 출력으로 제공한다.

그러나, 어떤 상황에서, 그러한 검색 엔진에 의해 제공된 검색 결과는 금지된 게임 및/또는 아이템을 포함할 수 있다. 예컨대, 게임 및/또는 아이템은 사용자 연령, 사용자 위치, 콘텐츠 라이선스 조건(content licensing terms), 콘텐츠 유형, 사용자 장치 등에 기초하여 금지될 수 있다. 검색 엔진은 부적절한 콘텐츠를 포함할 수 있는 게임 또는 아이템을 잠재적으로 포함하는, 많은 수의 검색 결과를 제공할 수 있다. 일부 온라인 게이밍 플랫폼에서, 사용자는 다양한 게임, 게임 유형, 리소스 등을 제작하기 위한 능력을 갖으므로, 이에 따라 잠재적으로 많은 수의 금지된 콘텐츠가 표면화될 수 있다. 또한, 온라인 게이밍 플랫폼에서 사용자 생성 콘텐츠의 많은 수를 고려할 때, 금지된 콘텐츠에 대한 모든 검색 결과를 모니터링하기 어려울 수 있다.

또한, 온라인 게이밍 플랫폼은 그 외 금지된 콘텐츠를 찾아내기 위해 온라인 게이밍 플랫폼 외부의 검색 기능을 사용할 수 있는, 많은 수의 사용자, 예컨대 수백만 명의 사용자를 가질 수 있다. 따라서, 온라인 게이밍 플랫폼 내의 검색 엔진이 알려진 금지된 콘텐츠를 난독화하도록 구성되어 있는 경우에도, 외부 리소스는 동일한 것이 온라인 게이밍 플랫폼을 통해 식별되기 전에, 그러한 금지된 콘텐츠를 가리킬 수 있다.

도 1 & 2: 시스템 아키텍처

도 1은 본 개시의 일부 구현에 따른, 예시적인 네트워크 환경(100)을 예시한다. 네트워크 환경(100)(여기서 "시스템"이라고도 지칭됨)은 온라인 게이밍 플랫폼(102), 제1 클라이언트 장치(110), 제2 클라이언트 장치(116)(일반적으로 여기에서 "클라이언트 장치(110/116)"라고 지칭됨) 및 네트워크(122)를 포함한다. 온라인 게이밍 플랫폼(102)은 그 중에서도, 게임 엔진(104), 하나 이상의 게임(105), 검색 엔진(106), 게임 분류 엔진(107) 및 데이터 저장소(108)를 포함할 수 있다. 클라이언트 장치(110)는 게임 애플리케이션(112)을 포함할 수 있다. 클라이언트 장치(116)는 게임 애플리케이션(118)을 포함할 수 있다. 사용자(114 및 120)는 온라인 게이밍 플랫폼(102)과 인터랙팅하기 위해 각각 클라이언트 장치(110 및 116)를 사용할 수 있다.

네트워크 환경(100)은 예시를 위해 제공된다. 일부 구현에서, 네트워크 환경(100)은 도 1에 도시된 것과 동일하거나 상이한 방식으로 구성된 동일하거나, 더 적거나, 더 많거나, 상이한 요소를 포함할 수 있다.

일부 구현에서, 네트워크(122)는 공중 네트워크(예컨대, 인터넷), 사설 네트워크(예컨대, LAN(local area network) 또는 WAN(wide area network)), 유선 네트워크(예컨대, 이더넷 네트워크), 무선 네트워크(예컨대, 802.11 네트워크, Wi-Fi® 네트워크 또는 무선 LAN(WLAN)), 셀룰러 네트워크(예컨대, LTE(long term evolution) 네트워크), 라우터, 허브, 스위치, 서버 컴퓨터 또는 이들의 조합을 포함할 수 있다.

일부 구현에서, 데이터 저장소(108)는 비일시적 컴퓨터 판독가능 메모리(예컨대, 랜덤 액세스 메모리), 캐시, 드라이브(예컨대, 하드 드라이브), 플래시 드라이브, 데이터베이스 시스템, 또는 데이터를 저장할 수 있는 다른 유형의 컴포넌트 또는 장치일 수 있다. 데이터 저장소(108)는 또한 다수의 컴퓨팅 장치(예컨대, 다수의 서버 컴퓨터)에 걸쳐 있을 수 있는 다수의 저장 컴포넌트(예컨대, 다수의 드라이브 또는 다수의 데이터베이스)를 포함할 수 있다.

일부 구현에서, 온라인 게이밍 플랫폼(102)은 하나 이상의 컴퓨팅 장치(예컨대, 클라우드 컴퓨팅 시스템, 랙마운트 서버(rackmount server), 서버 컴퓨터, 물리적 서버의 클러스터, 가상 서버 등)를 갖는 서버를 포함할 수 있다. 일부 구현에서, 서버는 온라인 게이밍 플랫폼(102)에 포함될 수 있거나, 독립적인 시스템일 수 있거나, 또는 다른 시스템이나 플랫폼의 일부일 수 있다.

일부 구현에서, 온라인 게이밍 플랫폼(102)은 하나 이상의 컴퓨팅 장치(예컨대, 랙마운트 서버, 라우터 컴퓨터, 서버 컴퓨터, 개인용 컴퓨터, 메인프레임 컴퓨터, 랩톱 컴퓨터, 태블릿 컴퓨터, 데스크톱 컴퓨터 등), 데이터 저장소(예컨대, 하드 디스크, 메모리, 데이터베이스), 네트워크, 소프트웨어 컴포넌트 및/또는 온라인 게이밍 플랫폼(102)에서 동작을 수행하고 온라인 게이밍 플랫폼(102)에 대한 액세스를 사용자에게 제공하는 데 사용될 수 있는 하드웨어 컴포넌트를 포함할 수 있다. 온라인 게이밍 플랫폼(102)은 또한 온라인 게이밍 플랫폼(102)에 의해 제공된 콘텐츠에 대한 액세스를 사용자에게 제공하는 데 사용될 수 있는 웹 사이트(예컨대, 하나 이상의 웹페이지) 또는 애플리케이션 백 엔드 소프트웨어(application back-end software)를 포함할 수 있다. 예컨대, 사용자는 각각 클라이언트 장치(110/116) 상의 게임 애플리케이션(112/118)을 사용하여 온라인 게이밍 플랫폼(102)에 액세스할 수 있다.

일부 구현에서, 온라인 게이밍 플랫폼(102)은 사용자 간의 연결을 제공하는 소셜 네트워크의 유형, 또는 사용자(예컨대, 최종 사용자 또는 소비자)가 온라인 게이밍 플랫폼(102)을 통해 다른 사용자와 통신할 수 있도록 허용하는 사용자 생성 콘텐츠 시스템의 유형을 포함할 수 있으며, 여기에서 통신은 음성 채팅(예컨대, 동기 및/또는 비동기 음성 통신), 비디오 채팅(예컨대, 동기 및/또는 비동기 비디오 통신), 또는 텍스트 채팅(예컨대, 동기 및/또는 비동기 텍스트 기반 통신)을 포함할 수 있다. 본 개시의 일부 구현에서, "사용자"는 단일 개인으로 표현될 수 있다. 그러나, 본 개시의 다른 구현은 사용자의 세트 또는 자동화된 소스에 의해 제어되는 엔티티인 "사용자"(예컨대, 사용자 생성)를 포함한다. 예컨대, 사용자 생성 콘텐츠 시스템에서 커뮤니티 또는 그룹으로 연합된 개별 사용자의 세트는 "사용자"로 간주될 수 있다.

일부 구현에서, 온라인 게이밍 플랫폼(102)은 가상 게이밍 플랫폼일 수 있다. 예컨대, 게이밍 플랫폼은 네트워크(122)를 통해 클라이언트 장치(110/116)를 사용하여 게임(예컨대, 사용자 생성 게임 또는 다른 게임)에 액세스하거나 인터랙팅할 수 있는 사용자의 커뮤니티에 싱글 플레이어 또는 멀티 플레이어 게임을 제공할 수 있다. 일부 구현에서, 게임(여기에서 “비디오 게임", “온라인 게임” 또는 "가상 게임"이라고도 지칭함)은 예컨대, 이차원(2D) 게임, 삼차원(3D) 게임(예컨대, 3D 사용자 생성 게임), 가상 현실(VR) 게임 또는 증강 현실(AR) 게임일 수 있다. 일부 구현에서, 사용자는 게임 및 게임 아이템을 검색하고, 하나 이상의 게임에서 다른 사용자와 함께 게임플레이에 참가할 수 있다. 일부 구현에서, 게임은 게임의 다른 사용자와 실시간으로 플레이될 수 있다.

일부 구현에서, 다른 협업 플랫폼이 온라인 게이밍 플랫폼(102) 및/또는 검색 엔진(106) 대신에 또는 이에 추가하여 여기에서 설명된 분류 특징과 함께 사용될 수 있다. 예컨대, 소셜 네트워킹 플랫폼, 구매 플랫폼, 메시징 플랫폼, 생성 플랫폼 등은 금지된 콘텐츠가 사용자에게 표면화되지 않도록 분류 특징과 함께 사용될 수 있다.

일부 구현에서, 게임플레이는 게임(예컨대, 105) 내에서 클라이언트 장치(예컨대, 110 및/또는 116)를 사용하는 하나 이상의 플레이어의 인터랙션 또는 클라이언트 장치(110 또는 116)의 디스플레이 또는 다른 출력 장치 상의 인터랙션의 표시를 지칭할 수 있다.

하나 이상의 게임(105)은 온라인 게이밍 플랫폼에 의해 제공된다. 일부 구현에서, 게임(105)은 게임 콘텐츠(예컨대, 디지털 미디어 아이템)를 엔티티에 제시하도록 구성된 소프트웨어, 펌웨어 또는 하드웨어를 사용하여 실행되거나 로드될 수 있는 전자 파일을 포함할 수 있다. 일부 구현에서, 게임 애플리케이션(112/118)이 실행될 수 있고, 게임(105)은 게임 엔진(104)과 관련하여 렌더링될 수 있다. 일부 구현에서, 게임(105)은 공통 규칙 세트 또는 공통 목표를 가질 수 있으며, 그리고 게임(105)의 환경은 공통 규칙 세트 또는 공통 목표를 공유한다. 일부 구현에서, 상이한 게임은 서로 상이한 규칙 또는 목표를 가질 수 있다.

일부 구현에서, 게임은 복수의 환경이 링크될 수 있는 하나 이상의 환경(여기에서 "게이밍 환경” 또는 "가상 환경"이라고도 지칭함)을 가질 수 있다. 환경의 예시는 삼차원(3D) 환경일 수 있다. 게임(105)의 하나 이상의 환경은 여기에서 "세계” 또는 "게임 세계” 또는 "가상 세계” 또는 "유니버스"로 집합적으로 지칭될 수 있다. 세계의 예시는 게임(105)의 3D 세계일 수 있다. 예컨대, 사용자는 다른 사용자에 의해 생성된 다른 가상 환경에 링크된 가상 환경을 구축할 수 있다. 가상 게임의 캐릭터는 가상 경계를 건너서 인접한 가상 환경으로 들어갈 수 있다.

3D 환경 또는 3D 세계는 게임 콘텐츠를 나타내는 기하학적 데이터의 삼차원 표현을 사용(또는 기하학적 데이터의 3D 표현이 사용되는지 여부에 관계없이 적어도 게임 콘텐츠가 3D 콘텐츠로 나타나도록 제시)하는 그래픽을 사용한다는 점에 유의할 수 있다. 2D 환경 또는 2D 세계는 게임 콘텐츠를 나타내는 기하학적 데이터의 이차원 표현을 사용하는 그래픽을 사용한다.

일부 구현에서, 온라인 게이밍 플랫폼(102)은 하나 이상의 게임(105)을 호스팅할 수 있고, 사용자가 클라이언트 장치(110/116)의 게임 애플리케이션(112/118)을 사용하여 게임(105)과 인터랙팅하도록 허가할 수 있다 (예컨대, 게임, 게임 관련 콘텐츠 또는 다른 콘텐츠를 검색함). 온라인 게이밍 플랫폼(102)의 사용자(예컨대, 114 및/또는 120)는 게임(105)을 플레이하거나, 생성하거나, 인터랙션하거나 또는 구축하고, 게임(105)을 검색하고, 다른 사용자와 통신하고, 게임(105)의 객체(예컨대, 여기에서 "아이템(들)", 또는 "게임 객체" 또는 "가상 게임 아이템(들)"이라고도 지칭됨)를 생성하고 구축하고, 그리고/또는 객체를 검색할 수 있다. 예컨대, 사용자 생성 가상 아이템을 생성할 때, 사용자는 그 중에서도, 캐릭터, 캐릭터를 위한 장식, 인터랙티브 게임을 위한 하나 이상의 가상 환경을 생성하거나, 또는 게임(105)에서 사용된 구조를 구축할 수 있다.

일부 구현에서, 사용자는 온라인 게이밍 플랫폼(102)의 다른 사용자와 플랫폼 내 화폐(예컨대, 가상 화폐)와 같은, 게임 가상 게임 객체를 구매, 판매 또는 거래할 수 있다. 일부 구현에서, 온라인 게이밍 플랫폼(102)은 게임 애플리케이션(예컨대, 112)에 게이밍 콘텐츠(130)를 전송할 수 있다. 일부 구현에서, 게임 콘텐츠(여기에서 "콘텐츠"라고도 지칭됨)는 온라인 게이밍 플랫폼(102) 또는 게임 애플리케이션과 연관된 임의의 데이터 또는 소프트웨어 명령어(예컨대, 게임 객체, 게임, 사용자 정보, 비디오, 이미지, 명령, 미디어 아이템 등)를 지칭할 수 있다.

일부 구현에서, 게임 객체(예컨대, 여기에서 "아이템(들)" 또는 "객체" 또는 "가상 게임 아이템(들)"이라고도 지칭됨)는 온라인 게이밍 플랫폼(102)의 게임 애플리케이션(102) 또는 클라이언트 장치(110/116)의 게임 애플리케이션(112 또는 118)에서 사용, 생성, 공유 또는 그 외 묘사되는 객체를 지칭할 수 있다. 예컨대, 게임 객체는 부품, 모델, 캐릭터, 도구, 무기, 의류, 건물, 차량, 화폐, 식물군, 동물군, 전술한 컴포넌트(예컨대, 건물의 창문) 등을 포함할 수 있다.

게임(105)을 호스팅하는 온라인 게이밍 플랫폼(102)은 제한이 아닌 예시의 목적으로 제공된다는 점에 유의할 수 있다. 일부 구현에서, 온라인 게이밍 플랫폼(102)은 한 사용자로부터 하나 이상의 다른 사용자로의 통신 메시지를 포함할 수 있는 하나 이상의 미디어 아이템을 호스팅할 수 있다. 미디어 아이템은 디지털 비디오, 디지털 영화, 디지털 사진, 디지털 음악, 오디오 콘텐츠, 멜로디, 웹사이트 콘텐츠, 소셜 미디어 업데이트, 전자 서적, 전자 잡지, 디지털 신문, 디지털 오디오 서적, 전자 저널, 웹 블로그, RSS(real simple syndication) 피드, 전자 만화책, 소프트웨어 애플리케이션 등을 포함할 수 있지만, 이에 제한되지 않는다. 일부 구현에서, 미디어 아이템은 디지털 미디어 아이템을 엔티티에 표시하도록 구성된 소프트웨어, 펌웨어 또는 하드웨어를 사용하여 실행하거나 로드할 수 있는 전자 파일일 수 있다.

일부 구현에서, 게임(105)은 특정 사용자 또는 특정 사용자의 그룹과 연관될 수 있거나 (예컨대, 개인 게임), 온라인 게이밍 플랫폼(102)의 사용자에게 널리 이용 가능하도록 할 수 있다 (예컨대, 공개 게임). 온라인 게이밍 플랫폼(102)이 하나 이상의 게임(105)을 특정 사용자 또는 사용자의 그룹과 연관시키는 일부 구현에서, 온라인 게이밍 플랫폼(102)은 사용자 계정 정보(예컨대, 사용자 이름 및 비밀번호와 같은 사용자 계정 식별자)를 사용하여 특정 사용자(들)를 게임(105)과 연관시킬 수 있다. 유사하게, 일부 구현에서, 온라인 게이밍 플랫폼(102)은 개발자 계정 정보(예컨대, 사용자 이름 및 비밀번호와 같은 개발자 계정 식별자)를 사용하여 특정 개발자 또는 개발자 그룹을 게임(105)과 연관시킬 수 있다.

일부 구현에서, 온라인 게이밍 플랫폼(102) 또는 클라이언트 장치(110/116)는 게임 엔진(104) 또는 게임 애플리케이션(112/118)을 포함할 수 있다. 게임 엔진(104)은 게임 애플리케이션(112/118)과 유사한 게임 애플리케이션을 포함할 수 있다. 일부 구현에서, 게임 엔진(104)은 게임(105)의 개발 또는 실행을 위해 사용될 수 있다. 예컨대, 게임 엔진(104)은 다른 특징 중에서도, 2D, 3D, VR 또는 AR 그래픽을 위한 렌더링 엔진(“렌더러"), 물리 엔진, 충돌 감지 엔진(및 충돌 응답), 사운드 엔진, 스크립팅 기능, 애니메이션 엔진, 인공 지능 엔진, 네트워킹 기능, 스트리밍 기능, 메모리 관리 기능, 스레딩 기능, 장면 그래프 기능 또는 시네마틱에 대한 비디오 지원을 포함할 수 있다. 게임 엔진(104)의 컴포넌트는 게임을 컴퓨팅하고 렌더링하는 것을 돕는 명령(예컨대, 렌더링 명령, 충돌 명령, 물리 명령 등)을 생성할 수 있다. 일부 구현에서, 클라이언트 장치(110/116)의 게임 애플리케이션(112/118)은 각각 독립적으로, 온라인 게이밍 플랫폼(102)의 게임 엔진(104)과 협력하여, 또는 둘 다의 조합으로 작동할 수 있다.

일부 구현에서, 온라인 게이밍 플랫폼(102) 및 클라이언트 장치(110/116) 모두는 게임 엔진(104, 112 및 118 각각)을 실행할 수 있다. 게임 엔진(104)을 사용하는 온라인 게이밍 플랫폼(102)은 일부 또는 모든 게임 엔진 기능(예컨대, 물리 명령, 렌더링 명령 등을 생성)을 수행하거나, 일부 또는 모든 게임 엔진 기능을 클라이언트 장치(110)의 게임 엔진(104)으로 오프로드할 수 있다. 일부 구현에서, 각각의 게임(105)은 온라인 게이밍 플랫폼(102) 상에서 수행되는 게임 엔진 기능과 클라이언트 장치(110 및 116) 상에서 수행되는 게임 엔진 기능 사이에 상이한 비율을 가질 수 있다.

예컨대, 온라인 게이밍 플랫폼(102)의 게임 엔진(104)은 적어도 두 개의 게임 객체 사이에 충돌이 있는 경우, 물리 명령을 생성하는 데 사용될 수 있는 한편, 추가 게임 엔진 기능(예컨대, 렌더링 명령 생성)은 클라이언트 장치(110)로 오프로드될 수 있다. 일부 구현에서, 온라인 게이밍 플랫폼(102) 및 클라이언트 장치(110) 상에서 수행된 게임 엔진 기능의 비율은 게임플레이 조건에 기초하여 (예컨대, 동적으로) 변경될 수 있다. 예컨대, 게임(105)의 게임플레이에 참가하는 사용자의 수가 임계값을 초과하면, 온라인 게이밍 플랫폼(102)은 클라이언트 장치(110 또는 116)에 의해 이전에 수행되었던 하나 이상의 게임 엔진 기능을 수행할 수 있다.

예컨대, 사용자는 클라이언트 장치(110 및 116)에서 게임(105)을 플레이할 수 있고, 제어 명령어(예컨대, 오른쪽, 왼쪽, 위, 아래, 사용자 선택 또는 캐릭터 위치 및 속도 정보 등과 같은 사용자 입력)를 온라인 게이밍 플랫폼(102)에 전송할 수 있다. 클라이언트 장치(110 및 116)로부터 제어 명령어를 수신한 이후, 온라인 게이밍 플랫폼(102)은 게임플레이 명령어(예컨대, 그룹 게임플레이에 참가하는 캐릭터의 위치 및 속도 정보 또는 렌더링 명령, 충돌 명령과 같은 명령 등)를 제어 명령어에 기초하여 클라이언트 장치(110 및 116)에 전송할 수 있다. 예컨대, 온라인 게이밍 플랫폼(102)은 클라이언트 장치(110 및 116)에 대한 게임플레이 명령어를 생성하기 위해 제어 명령어의 (예컨대, 게임 엔진(104)을 사용하는) 하나 이상의 논리적 동작을 수행할 수 있다. 다른 경우에, 온라인 게이밍 플랫폼(102)은 하나의 클라이언트 장치(110)로부터 게임(105)에 참가하는 다른 클라이언트 장치(예컨대, 116)로 제어 명령어 중 하나 이상을 전달할 수 있다. 클라이언트 장치(110 및 116)는 게임플레이 명령어를 사용하고, 클라이언트 장치(110 및 116)의 디스플레이 상에서 표시를 위한 게임플레이를 렌더링할 수 있다.

일부 구현에서, 제어 명령어는 사용자 캐릭터의 게임 내 동작을 나타내는 명령어를 지칭할 수 있다. 예컨대, 제어 명령어는 오른쪽, 왼쪽, 위, 아래, 사용자 선택, 자이로스코프 위치 및 방향 데이터, 힘 센서 데이터 등과 같은 게임 내 동작을 제어하기 위한 사용자 입력을 포함할 수 있다. 제어 명령어는 캐릭터 위치 및 속도 정보를 포함할 수 있다. 일부 구현에서, 제어 명령어는 온라인 게이밍 플랫폼(102)으로 직접 전송된다. 다른 구현에서, 제어 명령어는 클라이언트 장치(110)로부터 다른 클라이언트 장치(예컨대, 116)로 전송될 수 있고, 여기에서 다른 클라이언트 장치는 로컬 게임 엔진(104)을 사용하여 게임플레이 명령어를 생성한다. 제어 명령어는 음성 통신 메시지 또는 다른 사용자로부터의 다른 사운드를 오디오 장치(예컨대, 스피커, 헤드폰 등)에서 플레이하기 위한 명령어를 포함할 수 있다.

일부 구현에서, 게임플레이 명령어는 클라이언트 장치(110 (또는 116))가 멀티 플레이어 게임과 같은 게임의 게임플레이를 렌더링하도록 허용하는 명령어를 지칭할 수 있다. 게임플레이 명령어는 사용자 입력(예컨대, 제어 명령어), 캐릭터 위치 및 속도 정보, 또는 명령(예컨대, 물리 명령, 렌더링 명령, 충돌 명령 등) 중 하나 이상을 포함할 수 있다. 여기에서 더 자세히 설명된 바와 같이, 사용자에 의한 게임플레이 명령어 문제는 분류 또는 등급에 영향을 미칠 수 있다. 이 분류는 연관 사용자가 부적절한 방식으로 캐릭터를 조작(예컨대, 캐릭터로 하여금 금지된 또는 성인 인터랙션을 수행하도록 함)하지 않는다는 신뢰 수준의 수치적 표현일 수 있다. 연관된 분류는 온라인 게이밍 플랫폼(102)에 의해 데이터 저장소(108)에 저장될 수 있다.

일부 구현에서, 캐릭터(또는 일반적으로 게임 객체)는 자동으로 함께 결합되어 사용자의 편집을 돕는 컴포넌트로 구성되며, 그 중 하나 이상은 사용자에 의해 선택될 수 있다. 하나 이상의 캐릭터(여기에서 "아바타" 또는 "모델"이라고도 지칭됨)가 사용자와 연관될 수 있으며, 여기에서 사용자는 게임(105)과의 사용자 인터랙션을 용이하게 하기 위해 캐릭터를 제어할 수 있다. 일부 구현에서, 캐릭터는 신체 부위(예컨대, 머리카락, 팔, 다리 등) 및 액세서리(예컨대, 티셔츠, 안경, 장식 이미지, 도구 등)와 같은 컴포넌트를 포함할 수 있다. 일부 구현에서, 커스터마이징 가능한 캐릭터의 신체 부위는 그 중에서도, 머리 유형, 신체 부위 유형(팔, 다리, 몸통 및 손), 얼굴 유형, 머리카락 유형 및 피부 유형을 포함한다. 일부 구현에서, 커스터마이징 가능한 액세서리는 의류(예컨대, 셔츠, 바지, 모자, 신발, 안경 등), 무기 또는 다른 도구를 포함한다.

일부 구현에서, 사용자는 또한 캐릭터의 규모(예컨대, 높이, 폭, 또는 깊이) 또는 캐릭터의 컴포넌트의 규모를 제어할 수 있다. 일부 구현에서, 사용자는 캐릭터의 비율(예컨대, 블록형, 해부학적 등)을 제어할 수 있다. 일부 구현에서 캐릭터는 캐릭터 게임 객체(예컨대, 신체 부위 등)를 포함하지 않을 수 있지만, 사용자는 게임과 사용자의 인터랙션을 용이하게 하기 위해 (캐릭터 게임 객체 없이) 캐릭터를 제어할 수 있음(예컨대, 렌더링된 캐릭터 게임 객체가 없지만 사용자가 게임 내 동작을 제어하기 위해 여전히 캐릭터를 제어하는 퍼즐 게임)을 유의할 수 있다.

일부 구현에서, 신체 부위와 같은 컴포넌트는 블록, 원통, 구 등과 같은 기본 기하학적 형상이거나, 쐐기(wedge), 원환체(torus), 튜브, 채널 등과 같은 일부 다른 기본 형상일 수 있다. 일부 구현에서, 생성기 모듈은 온라인 게이밍 플랫폼(102)의 다른 사용자가 보거나 사용할 수 있도록 사용자의 캐릭터를 공개할 수 있다. 일부 구현에서, 캐릭터, 다른 게임 객체, 게임(105) 또는 게임 환경을 생성, 수정 또는 커스터마이징하는 것은 스크립팅을 사용하거나 사용하지 않고(또는 API(application programming interface)를 사용하거나 사용하지 않고), 사용자 인터페이스(예컨대, 개발자 인터페이스)를 사용하여, 사용자에 의해 수행될 수 있다. 제한보다는 예시의 목적을 위해 캐릭터가 휴머노이드 형태를 갖는 것으로 설명된다는 점에 유의할 수 있다. 또한, 캐릭터는 차량, 동물, 무생물 객체 또는 다른 창의적인 형태와 같은 임의의 형태를 가질 수 있다는 점에 유의할 수 있다.

일부 구현에서, 온라인 게이밍 플랫폼(102)은 사용자에 의해 생성된 캐릭터를 데이터 저장소(108)에 저장할 수 있다. 일부 구현에서, 온라인 게이밍 플랫폼(102)은 검색 엔진(106), 게임 엔진(104), 게임(105) 및/또는 클라이언트 장치(110/116)를 통해 사용자에게 제시될 수 있는 캐릭터 카탈로그 및 게임 카탈로그를 유지한다. 일부 구현에서, 게임 카탈로그는 온라인 게이밍 플랫폼(102)에 저장된 게임의 이미지를 포함한다. 또한, 사용자는 선택된 게임에 참가하기 위해 캐릭터 카탈로그로부터 캐릭터(예컨대, 사용자 또는 다른 사용자에 의해 생성된 캐릭터)를 선택할 수 있다. 캐릭터 카탈로그는 온라인 게이밍 플랫폼(102)에 저장된 캐릭터의 이미지를 포함한다. 일부 구현에서, 캐릭터 카탈로그의 캐릭터 중 하나 이상은 사용자에 의해 생성되거나 커스터마이징되었을 수 있다. 일부 구현에서, 선택된 캐릭터는 캐릭터의 컴포넌트 중 하나 이상을 정의하는 캐릭터 설정을 가질 수 있다.

일부 구현에서, 사용자의 캐릭터는 컴포넌트의 구성을 포함할 수 있으며, 여기에서 컴포넌트의 구성 및 외양, 보다 일반적으로 캐릭터의 외양은 캐릭터 설정에 의해 정의될 수 있다. 일부 구현에서, 사용자 캐릭터의 캐릭터 설정은 사용자에 의해 적어도 부분적으로 선택될 수 있다. 다른 구현에서, 사용자는 디폴트 캐릭터 설정 또는 다른 사용자에 의해 선택된 캐릭터 설정을 가진 캐릭터를 선택할 수 있다. 예컨대, 사용자는 미리 정의된 캐릭터 설정을 갖는 캐릭터 카탈로그에서 디폴트 캐릭터를 선택할 수 있으며, 사용자는 캐릭터 설정 중 일부를 변경(예컨대, 커스터마이징된 로고가 있는 셔츠 추가)하여, 디폴트 캐릭터를 추가로 커스터마이징할 수 있다. 캐릭터 설정은 온라인 게이밍 플랫폼(102)에 의해 특정 캐릭터와 연관될 수 있다.

여기에서 더 자세히 설명된 바와 같이, 캐릭터, 캐릭터 외관, 아바타, 의류, 컴포넌트, 아이템 및 다른 부분을 포함하는 게임의 각 부분은 분류 또는 등급을 포함할 수 있다. 이 분류는 연관 부분이 금지된 콘텐츠를 포함하지 않는다는 신뢰 수준의 수치적 표현일 수 있다. 연관된 분류는 온라인 게이밍 플랫폼(102)에 의해 데이터 저장소(108)에 저장될 수 있다.

일부 구현에서, 클라이언트 장치(들)(110 또는 116)는 개인용 컴퓨터(PC), 모바일 장치(예컨대, 랩톱, 모바일 전화, 스마트 폰, 태블릿 컴퓨터 또는 넷북 컴퓨터), 네트워크 연결된 텔레비전, 게임 콘솔 등과 같은 컴퓨팅 장치를 각각 포함할 수 있다. 일부 구현에서, 클라이언트 장치(110 또는 116)는 또한 "사용자 장치"로 지칭될 수 있다. 일부 구현에서, 하나 이상의 클라이언트 장치(110 또는 116)는 임의의 주어진 순간에 온라인 게이밍 플랫폼(102)에 접속할 수 있다. 클라이언트 장치(110 또는 116)의 수는 제한보다는 예시로서 제공된다는 점에 유의할 수 있다. 일부 구현에서, 임의의 수의 클라이언트 장치(110 또는 116)가 사용될 수 있다.

일부 구현에서, 각각의 클라이언트 장치(110 또는 116)는 각각 게임 애플리케이션(112 또는 118)의 인스턴스를 포함할 수 있다. 일 구현에서, 게임 애플리케이션(112 또는 118)은 사용자가 게임 또는 다른 콘텐츠를 검색하거나, 온라인 게이밍 플랫폼(102)에 의해 호스팅되는 가상 게임에서 가상 캐릭터를 제어하거나, 게임(105), 이미지, 비디오 아이템, 웹 페이지, 문서 등과 같은 콘텐츠를 보거나 업로드하는 것과 같이 온라인 게이밍 플랫폼(102)을 사용하고 인터랙팅하도록 허가할 수 있다. 일 예시에서, 게임 애플리케이션은 웹 서버에 의해 제공된 콘텐츠(예컨대, 가상 환경의 가상 캐릭터 등)를 액세스, 검색, 제시 또는 탐색할 수 있는 웹 애플리케이션(예컨대, 웹 브라우저와 함께 동작하는 애플리케이션)일 수 있다. 다른 예시에서, 게임 애플리케이션은 클라이언트 장치(110 또는 116)에 로컬로 설치되고 실행되며, 사용자가 온라인 게이밍 플랫폼(102)과 인터랙팅하도록 허용하는 네이티브 애플리케이션(예컨대, 모바일 애플리케이션, 앱 또는 게임 프로그램)일 수 있다. 게임 애플리케이션은 사용자에게 콘텐츠(예컨대, 웹 페이지, 사용자 인터페이스, 미디어 뷰어)를 렌더링, 표시 또는 제시할 수 있다. 일 구현에서, 게임 애플리케이션은 또한 웹 페이지에 임베딩되는 임베딩된 미디어 플레이어(예컨대, Flash® 플레이어)를 포함할 수 있다.

본 개시의 양태에 따르면, 게임 애플리케이션(112/118)은 사용자가 온라인 게이밍 플랫폼(102)과 인터랙팅(예컨대, 온라인 게이밍 플랫폼(102)에 의해 호스팅된 게임(105)을 플레이)할뿐만 아니라 온라인 게이밍 플랫폼(102)에 콘텐츠를 구축, 생성, 편집, 업로드하기 위한 온라인 게이밍 플랫폼 애플리케이션일 수 있다. 이와 같이, 게임 애플리케이션(112/118)은 온라인 게이밍 플랫폼(102)에 의해 클라이언트 장치(110 또는 116)에 제공될 수 있다. 다른 예시에서, 게임 애플리케이션(112/118)은 서버로부터 다운로드되는 애플리케이션일 수 있다.

일부 구현에서, 사용자는 게임 애플리케이션을 통해 온라인 게이밍 플랫폼(102)에 로그인할 수 있다. 사용자는 사용자 계정 정보(예컨대, 사용자 이름 및 비밀번호)를 제공함으로써 사용자 계정에 액세스할 수 있으며, 여기에서 사용자 계정은 온라인 게이밍 플랫폼(102)의 하나 이상의 게임(105)에 참가할 수 있는 하나 이상의 캐릭터와 연관되어 있다.

일반적으로, 온라인 게이밍 플랫폼(102)에 의해 수행되는 것으로 설명된 기능은 또한 적절한 경우 다른 구현에서 클라이언트 장치(들)(110 또는 116) 또는 서버에 의해 수행될 수 있다. 또한, 특정 컴포넌트에 기인하는 기능은 함께 동작하는 상이한 컴포넌트 또는 복수의 컴포넌트에 의해 수행될 수 있다. 온라인 게이밍 플랫폼(102)은 또한 적절한 API(application programming interface)를 통해 다른 시스템 또는 장치에 제공된 서비스로서 액세스될 수 있으며, 따라서 웹 사이트에서의 사용에 제한되지 않는다.

일부 구현에서, 온라인 게이밍 플랫폼(102)은 검색 엔진(106)을 포함할 수 있다. 일부 구현에서, 검색 엔진(106)은 온라인 게이밍 플랫폼(102)이 사용자에게 검색 기능을 제공할 수 있도록 허가하는 시스템, 애플리케이션 또는 모듈일 수 있고, 여기에서 검색 기능은 사용자가 온라인 게이밍 플랫폼(102) 내의 게임, 게임 관련 콘텐츠, 아이템, 아이템 목록 또는 다른 콘텐츠를 검색할 수 있도록 허가한다.

일부 구현에서, 온라인 게이밍 플랫폼(102)은 게임 분류 엔진(107)을 포함할 수 있다. 일부 구현에서, 게임 분류 엔진(107)은 게임 또는 연관된 게이밍 콘텐츠, 사용자 및/또는 개발자에 대한 분류를 결정하는 시스템, 애플리케이션 또는 모듈일 수 있다. 분류는 연관된 컴포넌트가 금지된 콘텐츠를 포함할 가능성(또는 사용자나 개발자가 생성할 가능성이 있는 경우)의 수치적 측정일 수 있다. 분류는 특징(또는 특징 벡터)을 입력으로 취하고, 입력 특징이 금지된 콘텐츠와 연관되는 가능성을 나타내는 출력 값을 제공하는 머신 러닝 모델(지도 또는 비지도)을 통해 결정될 수 있다.

여기에서 사용된 바와 같은, "금지된 콘텐츠"라는 문구는 일반적으로 온라인 게이밍 플랫폼에 적절하지 않은 것으로 간주되는 임의의 콘텐츠를 지칭한다. 예컨대, 금지된 콘텐츠는 성인 콘텐츠, 극단주의 콘텐츠, 및 임의의 위험하거나 불법적이거나, 그리고/또는 비윤리적인 활동과 관련된 콘텐츠를 포함할 수 있다. 일 예시로서, 성인 콘텐츠는 아바타/캐릭터 간의 성인 인터랙션, 성인 의류, 성인 액세서리, 성인 언어 및/또는 기타 부적절한 콘텐츠를 포함할 수 있지만 이에 제한되지 않는다. 다른 금지된 콘텐츠는 캐릭터 및/또는 객체 간의 성인 인터랙션을 허용하는 변경된 물리 엔진을 갖는 게임 세션 또는 시나리오를 포함할 수 있다. 또한, 다른 금지된 콘텐츠는 금지된 콘텐츠를 홍보하기 위한 시도에서 사용자에 의해 이용된 언어의 완곡어법(euphemisms) 및 다른 우회 기법을 포함할 수 있다.

일반적으로, 검색 엔진(106)은 결과를 제공하기 전에 임의의 검색된 콘텐츠에 대한 분류 값이 안전 임계값(예컨대, 금지된 콘텐츠를 포함할 가능성이 없음)을 충족하는지를 결정하도록 구성된 필터를 활용할 수 있다. 또한, 온라인 게이밍 플랫폼(102)은 예컨대 홈 스크린, 인터페이스 또는 다른 유사한 특징을 통해 일부 사용자에게 추천을 제공할 수도 있다. 이러한 시나리오에서, 온라인 게이밍 플랫폼(102)은 또한 추천을 제공하기 전에 홍보될 임의의 콘텐츠에 대한 분류 값이 안전 임계값을 충족하는지를 결정하도록 구성된 방법론 및/또는 필터를 이용할 수 있다. 더 나아가, 온라인 게이밍 플랫폼(102)은 액세스되는 임의의 콘텐츠가 안전 임계값을 충족하는지 여부를 결정하기 위해 분류 값에 의해 평가되도록 콘텐츠 인덱싱에서 분류 값을 활용할 수도 있다.

그러나, 일부 금지된 콘텐츠는 예컨대, 외부 데이터 소스로부터의 링크를 통해 온라인 게이밍 플랫폼(102) 외부에 링크될 수 있다. 따라서, 여기에서 검색 엔진(106)이 사용자에 의해 질의되는 콘텐츠를 표면화하는 기능을 하는 것으로 설명되었지만, 게임 분류 엔진(107)에 의해 생성된 분류는 부적절하거나 금지될 가능성이 있는 것으로 간주되는 임의의 콘텐츠에 대한 임의의 링크에 대한 액세스를 제한하는 데에도 사용될 수 있어서, 외부 액세스가 감소되거나 제한될 수 있다.

따라서, 게임 분류 엔진(107)에 의해 생성된 분류 값은 온라인 게이밍 플랫폼(102)을 자동화된 방식으로 관리하는데 사용될 수 있어서, 게임, 콘텐츠, 또는 임계값 미만의 분류를 갖는 다른 미디어가 격리(quarantined)되거나, 또는 클라이언트 장치(110/116) 또는 임의의 외부 링크를 통한 액세스를 허용하기 전에 추가 검토를 위해 보유된다. 이하, 분류 엔진(107)의 동작은 도 2를 참조하여 보다 상세하게 설명한다.

도 2는 본 개시의 일부 구현에 따른, 예시적인 네트워크 환경(200)을 예시한다. 네트워크 환경(200)(여기에서 "시스템"이라고도 지칭됨)은 온라인 게이밍 플랫폼(102), 사용자 데이터 소스(202), 개발자 데이터 소스(204), 게임 데이터 소스(206) 및 네트워크(122)를 포함한다. 온라인 게이밍 플랫폼(102)은 그 중에서도, 게임 엔진(104), 하나 이상의 게임(105), 검색 엔진(106), 게임 분류 엔진(107) 및 데이터 저장소(108)를 포함할 수 있다.

위에서 간략히 설명된 바와 같이, 사용자 계정 정보(예컨대, 사용자 이름 및 비밀번호와 같은 사용자 계정 식별자)는 온라인 게이밍 플랫폼(102)에 의해 유지될 수 있다. 사용자 계정 정보는 사용자가 부여한 적절한 사용자 허가로, 사용자에 의해 사용된 사용자 데이터 소스(202)를 식별하도록 온라인 게이밍 플랫폼을 허용할 수 있다. 이러한 방식으로, 사용자 데이터(221)는 온라인 게이밍 플랫폼(102) 자체뿐만 아니라 공개적으로 이용 가능한 외부 데이터 소스로부터 검색될 수 있다. 공개적으로 이용 가능한 외부 데이터 소스는 소셜 네트워킹 웹사이트, 뉴스 포럼, 뉴스그룹, 온라인 토론 포럼, 또는 온라인 게이밍 플랫폼(102)의 사용자가 온라인 게이밍 플랫폼(102)에 의해 제공된 콘텐츠에 대한 링크를 제공하는 다른 웹페이지를 포함할 수 있지만, 이에 제한되지는 않는다. 사용자 데이터(221)는 또한 금지된 콘텐츠의 이전 사용, 금지된 콘텐츠의 다른 사용자와의 모임, 금지된 콘텐츠의 개발자와의 이전 인터랙션을 포함하여, 온라인 게이밍 플랫폼(102)의 사용과 관련된 임의의 이용 가능한 사용자 데이터를 포함할 수 있다.

각각의 사용자에 대해, 저장된 데이터는 사용자에 의해 제공된 사용자 특정 허가(user-specific permission)에 기초할 수 있다. 사용자는 저장될 수 있는 특정 데이터, 그러한 데이터의 저장과 연관된 파라미터(예컨대, 데이터가 저장될 수 있는 기간) 및 데이터가 사용될 수 있는 방법(예컨대, 집계, 처리, 또는 그 외 분석)을 선택하기 위한 옵션이 제공된다. 또한, 사용자 데이터의 저장은 해당 규정(예컨대, 사용자의 지역)을 준수하여 수행된다. 특정 데이터는 사용자의 개인 식별 정보(personally-identifiable information: PII)가 저장되지 않거나, 저장된 데이터에서 검색할 수 없도록 처리될 수 있다. 특정 사용자 허가 동작을 수행하는 특정 프로그램만 데이터에 액세스할 수 있도록 플랫폼의 다양한 프로그램을 위한데이터에 대한 액세스가 제한된다. 예컨대, 특정 프로그램에 대한 데이터의 제공 전에, 데이터가 집계되거나(예컨대, 다수의 사용자 계정에 대해), 또는 다른 방식으로 처리될 수 있다.

사용자 데이터는 오직 사용자로부터의 특정 허가로만 액세스된다. 사용자는 사용자 데이터가 저장 및/또는 활용될 수 있는 방법, 사용자 데이터에 기초하여 활성화되는 특징/기능에 대한 정보가 제공되며, 사용자 데이터에 대한 액세스를 제한하기 위한 옵션이 제공된다 (예컨대, 데이터의 일부 부분에 대한 액세스 없음, 제한된 액세스 등). 사용자는 언제든지 데이터 액세스에 대한 허가를 변경하고, 액세스될 수 있는 사용자 데이터를 보고, 그리고/또는 사용자 데이터의 일부를 제거할 수 있다.

개발자 계정 정보(예컨대, 사용자 이름 및 비밀번호와 같은 개발자 계정 식별자)는 또한 온라인 게이밍 플랫폼(102)에 의해 유지될 수 있다. 개발자 계정 정보는 개발자가 부여한 적절한 사용자 허가로, 개발자에 의해 사용된 개발자 데이터 소스(204)를 식별하도록 온라인 게이밍 플랫폼(102)을 허용할 수 있다. 이러한 방식으로, 개발자 데이터(241)는 온라인 게이밍 플랫폼(102) 자체뿐만 아니라 공개적으로 이용 가능한 외부 데이터 소스로부터 검색될 수 있다. 공개적으로 이용 가능한 외부 데이터 소스는 소셜 네트워킹 웹사이트, 뉴스 포럼, 뉴스그룹, 온라인 토론 포럼, 또는 온라인 게이밍 플랫폼(102)을 위한 게임 콘텐츠의 개발자가 온라인 게이밍 플랫폼(102)에 의해 제공된 콘텐츠에 대한 링크를 제공하는 다른 웹페이지를 포함할 수 있지만, 이에 제한되지는 않는다. 개발자 데이터(241)는 또한 금지된 콘텐츠의 이전 개발, 금지된 콘텐츠를 피하기 위한 규칙/절차를 피하기 위한 사용자에 의한 조작 촉진, 및 금지된 콘텐츠의 사용자와의 이전 인터랙션을 포함하여, 온라인 게이밍 플랫폼(102)의 사용과 관련된 임의의 이용 가능한 데이터를 포함할 수 있다.

각각의 개발자에 대해, 저장된 데이터는 개발자에 의해 제공된 개발자 특정 허가에 기초할 수 있다. 개발자는 저장될 수 있는 특정 데이터, 그러한 데이터의 저장과 연관된 파라미터(예컨대, 데이터가 저장될 수 있는 기간), 및 데이터가 사용될 수 있는 방법(예컨대, 집계, 처리, 또는 그 외 분석)을 선택하기 위한 옵션이 제공된다. 또한 개발자 데이터 저장은 해당 규정(예컨대, 개발자의 지역)을 준수하여 수행된다. 특정 데이터는 개발자의 개인 식별 정보(PII)가 저장되지 않거나, 저장된 데이터에서 검색할 수 없도록 처리될 수 있다. 특정 개발자 허가 동작을 수행하는 특정 프로그램만 데이터에 액세스할 수 있도록 플랫폼의 다양한 프로그램을 위한 데이터에 대한 액세스가 제한된다. 예컨대, 특정 프로그램에 대한 데이터의 제공 전에, 데이터가 집계되거나(예컨대, 다수의 개발자 계정에 대해), 또는 다른 방식으로 처리될 수 있다.

개발자 데이터는 오직 개발자로부터의 특정 허가로만 액세스된다. 개발자는 개발자 데이터가 저장 및/또는 활용될 수 있는 방법, 개발자 데이터에 기초하여 활성화되는 특징/기능에 대한 정보가 제공되며, 개발자 데이터에 대한 액세스를 제한하기 위한 옵션이 제공된다 (예컨대, 데이터의 일부 부분에 대한 액세스 없음, 제한된 액세스 등). 개발자는 언제든지 데이터 액세스에 대한 허가를 변경하고, 액세스될 수 있는 개발자 데이터를 보고, 그리고/또는 개발자 데이터의 일부를 제거할 수 있다.

게임 데이터(261)는 또한 새로운 웹사이트, 포럼, 등급 웹사이트(ratings website) 및 다른 공개적으로 이용 가능한 데이터 소스 및/또는 외부 게임 데이터 소스와 같은 게임 데이터 소스(206)로부터 검색될 수 있다. 게임 데이터(261)는 또한 온라인 게이밍 플랫폼(102) 자체 내에서 검색된 데이터를 포함할 수 있다. 데이터 소스(206)는 금지될 가능성이 있는 콘텐츠의 등급 또는 텍스트 설명, 금지된 콘텐츠(예컨대, 콘도 게임, HOA 등)에 대한 완곡어법 및 유사한 데이터를 포함할 수 있다. 또한, 데이터 소스(206)는 금지될 가능성이 있는 게임 콘텐츠에 액세스하기 위한 링크(예컨대, 하이퍼링크)를 포함할 수 있다.

게임 데이터는 오직 개발자로부터의 특정 허가로만 액세스된다. 개발자는 게임 데이터가 저장 및/또는 활용될 수 있는 방법, 게임 데이터에 기초하여 활성화되는 특징/기능에 대한 정보가 제공되며, 게임 데이터에 대한 액세스를 제한하기 위한 옵션이 제공된다 (예컨대, 데이터의 일부 부분에 대한 액세스 없음, 제한된 액세스 등). 개발자는 언제든지 데이터 액세스에 대한 허가를 변경하고, 액세스될 수 있는 게임 데이터를 보고, 그리고/또는 게임 데이터의 일부를 제거할 수 있다.

일부 구현에서, 게임 분류 엔진(107)은 사용자 데이터(221), 개발자 데이터(241) 및 게임 데이터(261) 중 하나 이상을 입력으로서, 사용자 데이터(221), 개발자 데이터(241) 및 게임 데이터(261)가 금지된 콘텐츠와 연관될 가능성을 나타내는 값(예컨대, 숫자 값 또는 기타 값)을 출력하도록 구성된 머신 러닝 모델에 제공할 수 있다. 예컨대, 사용자 데이터(221)는 특정 사용자가 금지된 콘텐츠에 액세스하는 빈도를 결정하는 데 사용될 수 있다. 개발자 데이터(241) 및 게임 데이터(261)는 또한 금지된 콘텐츠에 자주 액세스하고, 또한 특정 게임에 모이거나 액세스하는 다수의 사용자를 반영할 수 있다. 이 예시에서, 이 데이터의 입력은 머신 러닝 모델로부터, 액세스된 콘텐츠가 금지된 콘텐츠를 포함할 확률을 출력할 수 있다. 추가적인 예시에서, 머신 러닝 모델은 다수의 상대적으로 새로운 사용자 계정이 금지된 콘텐츠에 자주 액세스한다고 결정할 수 있다. 따라서, 새로운 사용자 상태를 반영하고 게임 데이터(261)에 도시된 동일한 게임에 액세스하는 많은 수의 사용자 데이터(221) 또한 게임이 금지된 콘텐츠를 포함할 확률의 출력을 야기할 수 있다. 또한, 온라인 게이밍 플랫폼(102)에서의 이전 조정 히스토리 또는 이상 행동을 반영하는 사용자 데이터(221)(예컨대, 상대적으로 많은 시간이 지난 후에 부활한 비교적 오래되고 조용한 계정)는 또한 액세스된 게임이 금지된 콘텐츠를 포함할 확률의 출력을 야기할 수 있다. 머신 러닝 모델이 금지된 콘텐츠와 관련된 다른 추세 또는 관계를 추가로 식별할 수 있으므로, 이러한 그리고 다른 예시는 완전하지 않으며(non-exhaustive), 오직 설명 목적을 위한 것이다.

그 후, 출력은 분류(271)를 생성하는 데 사용될 수 있다. 일반적인 분류로 설명되지만, 분류(271)는 또한 분류되는 데이터에 따라, "사용자 분류", "게임 분류" 및/또는 "개발자 분류"일 수 있어서, 금지된 콘텐츠를 사용/제작한 히스토리로 인해 일부 사용자 또는 개발자는 액세스가 금지된다는 점에 유의한다.

생성 시, 분류(271)는 콘텐츠에 대한 액세스(링크를 통한 외부 액세스를 포함함)을 제한하는 데 사용될 수 있다. 추가적으로, 임의의 제한되거나 난독화된 콘텐츠는 금지된 콘텐츠를 제거하기 위해 사용자 또는 개발자에 의해 편집될 수 있다. 이 예시에서, 새로운 분류가 편집 후 생성될 수 있다. 새로운 분류가 임계값을 초과하면, 연관된 콘텐츠는 이후 정상적으로 표면화하고, 사용자에 의해 액세스될 수 있다. 일부 구현에서, 게임 분류 엔진(107)은 도 6 및 7에 도시된 흐름도와 관련하여 아래에서 설명되는 동작 중 하나 이상을 수행할 수 있고, 도 3, 4 및 5에 예시된 특징을 활용한다.

도 3: 사용자 데이터

도 3은 일부 구현에 따른, 사용자 데이터(221)를 예시하는 개략도이다. 일부 구현에서, 사용자로부터의 허가로, 사용자 데이터(221)는 예컨대, 데이터 저장소(108)에서, 온라인 게이밍 플랫폼(102)에 의해 액세스 및/또는 저장될 수 있다. 사용자 데이터(221)는 사용자 ID(301), 프로필 데이터 특징(303), 행동 데이터 특징(305), 플레이어 데이터 특징(307), 및/또는 다른 데이터 특징을 포함할 수 있지만, 이에 제한되지 않는다. 표 형식으로 예시되지만, 임의의 적절한 데이터 저장 형식이 사용자 데이터(221)를 구조화하는 데 사용될 수 있음에 유의한다.

각각의 사용자에 대해, 저장된 데이터는 사용자에 의해 제공된 사용자 특정 허가에 기초할 수 있다. 사용자는 저장될 수 있는 특정 데이터, 그러한 데이터의 저장과 연관된 파라미터(예컨대, 데이터가 저장될 수 있는 기간) 및 데이터가 사용될 수 있는 방법(예컨대, 집계, 처리, 또는 그 외 분석)을 선택하기 위한 옵션이 제공된다. 또한, 사용자 데이터의 저장은 해당 규정(예컨대, 사용자의 지역)을 준수하여 수행된다. 특정 데이터는 사용자의 개인 식별 정보(PII)가 저장되지 않거나, 저장된 데이터에서 검색될 수 없도록 처리될 수 있다. 특정 사용자 허가 동작을 수행하는 특정 프로그램만 데이터에 액세스할 수 있도록 플랫폼의 다양한 프로그램을 위한 데이터에 대한 액세스가 제한된다. 예컨대, 특정 프로그램에 대한 데이터의 제공 전에, 데이터가 집계되거나(예컨대, 다수의 사용자 계정에 대해), 또는 다른 방식으로 처리될 수 있다.

프로필 데이터 특징(303)은 사용자에 대한 상대적으로 정적 특징을 포함할 수 있다. 예컨대, 일부 구현에서, 프로필 데이터 특징(303)은 연령, 등록/가입 데이터, 성별, 언어, 지역/장소, 클라이언트 장치 유형, 액세스 시간, 사용자가 플랫폼 구독자인지 여부, 조정 히스토리(예컨대, 플레이어 히스토리의 임의의 경고 또는 금지) 및/또는 다른 적절한 프로필 데이터 특징을 포함할 수 있다. 다른 적절한 프로필 데이터 특징 또한 적용 가능할 수 있으며, 닉네임, 보조 언어, 가장 많이 사용되는 캐릭터/아바타, 상/업적, 다른 플레이어와의 연결(예컨대, 소셜 그래프), 다른 플랫폼에 대한 링크 및 다른 데이터 특징과 같은, 다른 데이터 특징을 포함할 수 있다.

행동 데이터 특징(305)은 정적 특징뿐만 아니라 동적 특징을 포함할 수 있다. 예컨대, 일부 구현에서, 행동 데이터 특징(305)은 구매 히스토리(예컨대, 지난주에 적어도 하나의 아이템을 구입함), 구매한 아이템의 유형, 시청한 아이템의 유형, 게임플레이 히스토리(예컨대, 한 달 동안 매일 "피자 플레이스"를 플레이한 것), 플레이한 게임 유형, 참여 측정(예컨대, 참여 수준, 참여 시간 등), 새로운 사용자 지정(예컨대, 이전 행동 데이터 없음), 이전 검색 데이터(예컨대, 아바타를 위한 의류 아이템, 무기류, 장식 아이템 등과 같은, 특정 유형의 아이템 검색), 및 온라인 게이밍 플랫폼에 저장되거나 그 외 이용 가능한 다른 적절한 행동 데이터 특징을 포함할 수 있다. 추가적으로, 다른 적절한 행동 데이터는 금지된 게임에서 플레이어의 '집단적 그룹 행동(collective group behavior)'을 포함할 수 있다. 예컨대, 사용자 수준에서 게임플레이 및 구매 히스토리를 조사하는 것에 더하여, "집단 행동(herd-behavior)"이 분석될 수 있다 (예컨대, 게임이 외부 링크에서 갑자기 많은 사용자를 끌어들였는가?). 다른 적절한 행동 데이터 특징도 적용 가능할 수 있다.

플레이어 데이터 특징(307)은 동적 특징을 포함할 수 있다. 예컨대, 일부 구현에서, 플레이어 데이터 특징(307)은 플레이어로서 게임을 플레이하는 사용자와 관련된 데이터를 포함할 수 있다; 이용 가능한 채팅 히스토리, 오디오 전사(audio transcription), 플레이한 게임 유형, 인터랙팅한 다른 플레이어, 계정 연령, 플레이한 게임 유형 기간, IP 주소(예컨대, 사용자가 특정 외부 서비스에서 플레이하는 경우, 자동화 또는 "봇" 계정일 수 있음) 및 다른 적절한 플레이어 데이터 특징을 포함함. 다른 적절한 플레이어 데이터 특징도 적용될 수 있다.

따라서, 사용자 데이터(221)는 적어도 사용자의 연령, 사용자의 인구통계, 사용자의 게임플레이 히스토리, 사용자와 연관된 다른 사용자의 행동 데이터, 사용자의 조정 히스토리, 사용자의 채팅 히스토리, 사용자의 거래 히스토리, 조정 히스토리, 대체 계정 수(이용 가능한 경우), 활동 최신성(예컨대, 플레이어가 플랫폼에서 오랜 시간을 보낸 후 활성화되었는가?), 및 사용자에 의해 플레이한 게임의 평균 분류를 포함할 수 있다. 다른 사용자 데이터(221)도 적용 가능하다. 사용자 데이터(221)는 유사한 사용자의 그룹화를 식별하고, 유사한 사용자가 또한 유사한 행동에 참여할 수 있음을 확립하는 데 활용될 수 있다. 예컨대, 이웃 클러스터링 기능은 사용자 데이터(221)와 연관된 사용자가 금지된 콘텐츠에 참여한 것으로 식별된 사용자와 유사한지를 결정하는 데 사용될 수 있다. 유사하게, 거리 함수는 사용자 데이터(221)와 연관된 사용자 및 금지된 콘텐츠에 참여하는(또는 이전에 참여했던) 예시적인 사용자의 유사성 레벨을 결정하는 데 사용될 수 있다. 추가적으로, 사용자 데이터(202)는 금지된 콘텐츠에 참여할 가능성에 대한 다른 추론이 결정될 수 있도록 사용자 간의 외부 관계를 결정하는 데 사용될 수 있다.

도 4: 개발자 데이터

도 4는 일부 구현에 따른, 개발자 데이터(241)를 예시하는 개략도이다. 일부 구현에서, 개발자로부터의 허가로, 개발자 데이터(241)는 예컨대, 데이터 저장소(108)에서, 온라인 게이밍 플랫폼(102)에 의해 저장될 수 있다. 개발자 데이터(241)는 개발자 ID(401), 프로필 데이터 특징(403), 행동 데이터 특징(405), 및/또는 다른 데이터 특징을 포함할 수 있지만, 이에 제한되지 않는다. 표 형식으로 예시되지만, 임의의 적절한 데이터 저장 형식이 개발자 데이터(241)를 구조화하는 데 사용될 수 있음에 유의한다.

각각의 개발자에 대해, 저장된 데이터는 개발자에 의해 제공된 개발자 특정 허가에 기초할 수 있다. 개발자는 저장될 수 있는 특정 데이터, 그러한 데이터의 저장과 연관된 파라미터(예컨대, 데이터가 저장될 수 있는 기간), 및 데이터가 사용될 수 있는 방법(예컨대, 집계, 처리, 또는 그 외 분석)을 선택하기 위한 옵션이 제공된다. 또한, 개발자 데이터의 저장은 해당 규정(예컨대, 개발자의 지역)을 준수하여 수행된다. 특정 데이터는 개발자의 개인 식별 정보(PII)가 저장되지 않거나, 저장된 데이터에서 검색될 수 없도록 처리될 수 있다. 특정 개발자 허가 동작을 수행하는 특정 프로그램만 데이터에 액세스할 수 있도록 플랫폼의 다양한 프로그램을 위한 데이터에 대한 액세스가 제한된다. 예컨대, 특정 프로그램에 대한 데이터의 제공 전에, 데이터가 집계되거나(예컨대, 다수의 개발자 계정에 대해), 또는 다른 방식으로 처리될 수 있다.

프로필 데이터 특징(403)은 개발자에 대한 상대적으로 정적 특징을 포함할 수 있다. 예컨대, 일부 구현에서, 프로필 데이터 특징(403)은 회사/고용주 협회, 언어, 지역/장소, 장치 유형, 액세스 시간, 개발자가 더 큰 개발자 그룹과 연관되어 있는지 여부 및/또는 다른 적절한 프로필 데이터 특징을 포함할 수 있다. 다른 적절한 프로필 데이터 특징 또한 적용 가능할 수 있으며, 온라인 게이밍 플랫폼에 저장되거나 다른 방식으로 이용 가능한, 닉네임, 보조 언어, 유명 캐릭터/아바타, 포함된 상/업적 목표, 다른 개발자 또는 플레이어와의 연결(예컨대, 소셜 그래프), 다른 플랫폼에 대한 링크 및 다른 데이터 특징과 같은 다른 데이터 특징을 포함할 수 있다.

행동 데이터 특징(405)은 정적 특징뿐만 아니라 동적 특징을 포함할 수 있다. 예컨대, 일부 구현에서, 행동 데이터 특징(405)은 생성된 아이템의 유형, 생성된 게임의 유형, 새로운 콘텐츠 생성 빈도, 참여 측정(예컨대, 참여 수준, 참여 시간 등), 새로운 개발자 지정(예컨대, 이전 행동 데이터 없음), 개발자 계정의 연령, 대체 계정의 존재/수(이용 가능한 경우), 조정 히스토리, 이전 검색 데이터(예컨대, 아바타를 위한 의류 아이템, 무기류, 장식용 아이템 등과 같은, 특정 유형의 아이템 검색 등) 및 다른 적절한 행동 데이터 특징을 포함할 수 있다. 다른 적절한 행동 데이터 특징 또한 적용 가능할 수 있다.

따라서, 개발자 데이터(241)는 적어도 개발자의 보유, 계정 확인 상태, 대체 계정의 존재(이용 가능한 경우), 조정 히스토리, 개발자에 의해 공개된 게임의 수, 게임 공개 빈도, 개발자와 연관된 사용자의 행동 데이터, 개발자의 조정 히스토리 및 개발자와 연관된 게임의 평균 분류를 포함할 수 있다. 다른 개발자 데이터(241) 또한 적용 가능하다. 개발자 데이터(241)는 개발자 데이터(241)와 연관된 개발자 및 금지된 콘텐츠에 참여하는(또는 이전에 참여한) 임의의 사용자의 유사성 레벨을 식별하는 데 활용될 수 있다. 추가적으로, 개발자 데이터(204)는 금지된 콘텐츠를 생성/참여할 가능성에 대한 다른 추론이 결정될 수 있도록 개발자와 사용자 사이의 외부 관계를 결정하는 데 사용될 수 있다.

도 5: 게임 데이터

도 5는 일부 구현에 따른, 게임 데이터(261)를 예시하는 개략도이다. 일부 구현에서, 게임 데이터(261)는 예컨대, 데이터 저장소(108)에서 온라인 게이밍 플랫폼(102)에 의해 저장될 수 있다. 게임 데이터(261)는 게임 ID(501), 콘텐츠 데이터 특징(503), 게임플레이 데이터 특징(505), 및/또는 다른 데이터 특징을 포함할 수 있지만, 이에 제한되지 않는다. 표 형식으로 예시되지만, 임의의 적절한 데이터 저장 형식이 게임 데이터(261)를 구조화하는 데 사용될 수 있음에 유의한다.

일부 구현에서, 게임 데이터(261)는 설명, 자산, 장소 또는 게임 레벨, 의도, 동작 및 게임(105)과 연관된 개발자 평판을 포함한다. 게임 데이터(261)는 따라서 게임 콘텐츠의 텍스트 설명, 게임 콘텐츠의 제목, 게임 콘텐츠의 자산, 게임 콘텐츠를 구성하는 모델(예컨대, 게임 레벨, 모델 등), 게임 콘텐츠 내 동작, 및 게임 콘텐츠와 연관된 유사한 게임의 평균 분류 중 하나 이상을 포함할 수 있다. 다른 게임 데이터(261) 또한 적용 가능하다. 게임 데이터(261)는 연관된 게임이 금지된 콘텐츠를 포함할 가능성을 결정하는 데 사용될 수 있다. 추가적으로, 외부 게임 데이터(106)는 연관된 게임이 금지된 콘텐츠를 포함할 가능성을 결정하는데 유용한 추가적인 텍스트 데이터, 설명 및 완곡어법을 포함할 수 있다. 예컨대, 제한 없이, 단어 사용, 문구 패턴 및 다른 언어 요소의 게임 설명 텍스트 분석은 게임이 금지된 콘텐츠를 포함한다는 지표(indicator)를 제공할 수 있다. 추가적으로, 노골적이거나 금지된 콘텐츠를 호스팅하는 것으로 알려진 웹 사이트에서 반복적으로 설명된 게임은 게임이 금지된 콘텐츠를 포함한다는 지표일 수 있다. 또한, 추가 분석은 게임에 대한 악용 보고(abuse report)의 분석을 포함할 수 있다. 예컨대, 분석은 사용자가 잠재적으로 금지된 콘텐츠가 있는 게임을 플레이했음을 나타내는 키워드/표현을 설명하는 게임에 대한 보고를 포함할 수 있다(예컨대, "이 게임을 내리길 바랍니다. 성인 콘텐츠 또는 노골적인 이미지가 있습니다.").

이하, 도 6을 참조하여 머신 러닝 모델의 트레이닝 및 분류에 관한 상세내용을 설명한다.

도 6: 모델을 트레이닝하고 콘텐츠를 분류하기 위한 예시적인 방법

도 6은 일부 구현에 따른, 머신 러닝 모델을 트레이닝하고 콘텐츠를 분류하기 위한 예시적인 방법(600)의 흐름도이다. 일부 구현에서, 방법(600)은 예컨대, 서버 시스템, 예컨대, 도 1에 도시된 바와 같은 온라인 게이밍 플랫폼(102)에서 구현될 수 있다. 일부 구현에서, 방법(600)의 일부 또는 전부는 도 1에 도시된 바와 같이 하나 이상의 클라이언트 장치(110 및 116)와 같은 시스템 및/또는 서버 시스템과 하나 이상의 클라이언트 시스템 모두에서 구현될 수 있다. 설명된 예시에서, 구현 시스템은 하나 이상의 프로세서 또는 처리 회로, 및 데이터베이스 또는 다른 액세스 가능한 스토리지와 같은 하나 이상의 저장 장치를 포함한다. 일부 구현에서, 하나 이상의 서버 및/또는 클라이언트의 상이한 컴포넌트는 방법(600)의 상이한 블록 또는 다른 부분을 수행할 수 있다. 방법(600)은 블록(602)에서 시작할 수 있다.

블록(602-604)은 머신 러닝 모델을 위한 입력 특징의 생성을 예시한다. 블록(602)에서, 복수의 사용자에 대한 사용자 데이터, 게임 또는 콘텐츠와 연관된 개발자 데이터, 및 게임 또는 콘텐츠와 연관된 게임 데이터가 예컨대, 서버에서, 대응하는 데이터 소유자(예컨대, 게임 플레이어, 다른 사용자, 게임 개발자 등)로부터의 허가로 획득된다. 데이터는 사용자 데이터(예컨대, 221), 개발자 데이터(예컨대, 241), 및 게임 데이터(예컨대, 261)를 포함할 수 있다. 사용자 데이터는 연령, 성별, 언어, 지역/장소, 클라이언트 장치 유형, 액세스 시간 및 다른 적절한 사용자 데이터를 포함할 수 있다. 사용자 데이터는 또한 구매 히스토리, 구매한 아이템의 유형, 시청 히스토리, 시청한 아이템의 유형, 게임플레이 히스토리, 플레이한 게임의 유형, 참여 측정, 새로운 사용자 지정, 이전 검색 데이터 및 다른 적절한 사용자 데이터를 포함할 수 있다. 개발자 데이터는 개발 히스토리, 이전 관리 문제, 이전 금지 콘텐츠 및 다른 적절한 개발자 데이터를 포함할 수 있다. 게임 데이터는 아이템, 동작 및 다른 콘텐츠를 설명하는 텍스트 데이터를 포함할 수 있다. 게임 데이터는 게임플레이 또는 다른 속성을 설명하는 외부 데이터 또한 포함할 수 있다. 블록(602) 다음에 블록(604)이 이어질 수 있다.

블록(604)에서, 입력 특징은 획득된 사용자 데이터(221), 개발자 데이터(241) 및 게임 데이터(261)로부터 결정될 수 있다. 예컨대, 입력 특징은 사용자 ID(301), 개발자 ID(401), 게임 ID(501)로 구조화된 특징(303, 305, 307, 403, 405, 503 및 505)을 포함할 수 있다. 입력 특징은 머신 러닝 알고리즘에 대한 입력을 위한 사용자 활동, 정적 사용자 특징, 개발자 활동, 정적 개발자 특징 및 게임 특징과 관련될 수 있다. 도 3-5는 표 형식의 입력 특징을 도시하고 있지만, 획득된 사용자 데이터(221), 개발자 데이터(241) 및 게임 데이터(261)는 입력 특징을 획득하기 위한 다양한 방식으로 처리될 수 있음을 이해할 수 있다. 예컨대, 일부 구현에서, 각 차원 및/또는 매트릭스 표현에 대한 숫자 값을 갖는 다차원 벡터는 획득된 사용자 데이터(221), 개발자 데이터(241) 및 게임 데이터(261)에 기초하여, 예컨대 입력 데이터를 다차원 벡터로 변환함으로써, 획득될 수 있다. 변환은 머신 러닝 모델 또는 다른 적절한 기법에 의해 수행될 수 있다.

일부 구현에서, 블록(604) 다음에 블록(602)이 이어질 수 있고, 이는 동작(622)에 의해 표시된다. 예컨대, 입력 특징의 결정은 임계 수의 사용자, 개발자 또는 게임에 대한 입력 특징이 결정될 때까지 또는 입력 특징을 결정하기 위해 이용 가능한 데이터가 분석될 때까지, 여러 번 수행될 수 있다. 일부 구현에서, 블록(602-604)은 주기적으로, 예컨대, 매 시간마다 한 번, 매일 한 번 등 또는 이전에 처리되지 않은 사용자/개발자/게임 데이터의 적어도 임계량이 이용 가능해질 때 수행될 수 있다. 일단 입력 특징이 결정되면, 블록(604) 다음에 블록(606)이 이어질 수 있다.

블록(606-612)은 머신 러닝 모델의 트레이닝을 예시한다. 블록(606)에서, 방법은 머신 러닝 모델에 입력 특징을 제공하는 것을 포함할 수 있다. 머신 러닝 모델은 입력 특징에 기초하여 연관된 게임 또는 게임 콘텐츠 아이템이 금지된 콘텐츠와 연관될 가능성을 생성하도록 구성될 수 있다.

머신 러닝 모델은 노드(예컨대, 신경망 노드)에 대한 계수를 포함할 수 있다. 머신 러닝 모델은 초기화되고 트레이닝될 수 있다.

일반적으로, 트레이닝은 지도 또는 비지도 학습으로 수행될 수 있다. 또한, 일부 구현에 따르면, 단일 노드 및 기능을 사용하여 구현되는 경우, 관리자는 머신 러닝 모델(예컨대, 노드 계수) 및/또는 모델 입력(입력 특징의 특징 값) 및 출력을 모델 성능과 함께 (모델에 의해 생성된 출력이 정확도 기준 또는 기본 안전 임계값을 충족하는지 여부) 직접 검사할 수 있다. 예컨대, 일 구현에 따르면, 히스토리 사용자 데이터, 개발자 데이터 및 게임 데이터가 블록(606)에서 입력될 수 있다. 모델 출력이 게임이 미리 결정된 또는 원하는 안전 임계값을 충족한다고 나타내는 경우 (예컨대, 모델이 연관된 콘텐츠가 금지된 콘텐츠를 포함하는지 여부를 정확하게 설정하는 분류를 출력함), 모델 트레이닝 완료된 것으로 간주될 수 있다. 대안적으로, 모델은 미리 결정된 또는 원하는 안전 임계값을 초과할 때까지, 추가 히스토리 사용자 데이터, 개발자 데이터 및 게임 데이터에 기초하여 재트레이닝될 수 있다. 블록(606) 다음에 블록(608)이 이어질 수 있다.

블록(608)에서, 고려되는 각 사용자, 개발자 및 게임에 대한 숫자 값을 포함하는 출력 특징이 머신 러닝 모델로부터 획득된다. 예컨대, 머신 러닝 모델은 사용자, 개발자 및 게임 분류 값의 세트를 출력으로 생성한다. 일반적으로, 출력 값은 입력 특징에 기초하며, 이는 일부 경우에 사용자 및 개발자의 이전 분류를 포함할 수 있다. 일부 구현에 따르면, 머신 러닝 모델의 출력은 게임과 연관된 개발자 및 게임과 인터랙팅하는 사용자에 기초하여, 게임 또는 게임 내 콘텐츠의 분류를 나타내는 단일 값이다. 블록(608) 다음에 블록(610)이 이어질 수 있다.

블록(610)에서, 분류는 출력 특징에 기초하여 각 게임에 대해 생성된다. 일부 구현에서, 분류는 예컨대, 1 - 10 또는 1 - 100과 같은 정의된 수치 척도 내에 있도록 생성될 수 있다. 이러한 방식으로, 안전 임계값은 정의된 수치 척도(예컨대, 5 또는 55) 내의 숫자로 정의될 수 있다. 따라서, 임계값 아래로 떨어지는 분류에 대해, 아이템이 금지된 콘텐츠를 포함할 가능성에 대한 추론이 이루어질 수 있다. 블록(610) 다음에 블록(612)이 이어질 수 있다.

블록(612)에서, 머신 러닝 모델에 대한 적어도 하나의 모델 파라미터는 생성된 분류와 각 아이템에 대한 알려진 분류의 비교에 기초하여 조정된다. 일부 구현에서, 알려진 분류는 게임, 사용자 또는 개발자가 금지된 콘텐츠와 연관되는지 여부를 나타내는 히스토리 데이터에 기초한다.

예컨대, 생성된 분류는 사용자의 서브세트, 개발자의 서브세트 및/또는 금지된 콘텐츠가 있는 실제 게임의 실제 관찰된 행동과 비교될 수 있다. 이러한 비교는 예컨대, 머신 러닝 모델의 노드(들)에 대한 가중치를 조정함으로써, 머신 러닝 모델을 트레이닝하기 위한 피드백으로 사용될 수 있다.

일부 구현에서, 트레이닝은 동작(624)에 도시된 바와 같이 주기적으로 반복될 수 있다. 트레이닝의 다음 라운드를 위한 기간은 매일, 매주, 매월 등과 같이 미리 결정된 또는 원하는 기간일 수 있다. 트레이닝은 또한 생성된 분류 및 알려진 분류가 임계 거리 내에 있을 때까지 반복될 수 있다.

또한, 일부 구현에서, 방법(600)의 다양한 부분은 주기적으로 반복될 수 있다. 예컨대, 블록(602-604)은 예컨대, 일주일에 한 번, 한 달에 한 번, 요청 시, 특정 수의 새로운 사용자가 플랫폼에 가입할 때, 새로운 게임, 새로운 게임 아이템, 새로운 아바타 액세서리 등이 플랫폼에서 이용 가능해지는 것처럼 플랫폼이 다른 방식으로 변경될 때 등에서, 새로운 특징을 생성하기 위해 수행될 수 있다, 또한, 트레이닝(블록(606-612))은 일부 구현에서, 입력 특징의 생성과 별도로 수행될 수 있다. 예컨대, 모델은, 예컨대, 모델 성능이 임계값 아래로 떨어질 때, 금지된 콘텐츠가 초기 트레이닝 후 표면화하기 시작하거나, 플랫폼에 다른 변경 사항이 발생하는 경우, 입력 특징을 변경하지 않고 트레이닝될 수 있다. 이러한 방식으로, 성능 미세 조정(fine-tuning performance)을 위한 동작(622 및 624)을 수행함으로써, 사용자 프로필 데이터 및 행동 파라미터에 기초하는 업데이트된 사용자 데이터, 업데이트된 개발자 데이터 및 업데이트된 게임 데이터가 고려될 수 있다.

블록(602-612)은 전술한 것과 다른 순서로 수행(또는 반복)될 수 있고, 그리고/또는 하나 이상의 블록이 생략될 수 있다. 예컨대, 특징 생성(블록(602-604))은 모델 트레이닝(블록(606-612))과 독립적으로 수행될 수 있다. 또한, 다수의 모델(예컨대, 사용자 분류를 생성하기 위한 하나의 모델, 개발자 분류를 생성하기 위한 하나의 모델 및 게임 분류를 생성하기 위한 하나의 모델)의 트레이닝은 예컨대, 블록(606-612)을 상이한 모델에 대해 병렬로 수행함으로써, 병렬로 수행될 수 있다.

머신 러닝 모델의 초기 세트를 트레이닝한 후, 또는 미리 트레이닝된 또는 디폴트로 초기화된 머신 러닝 모델의 세트를 구현할 때(예컨대, 트레이닝 전), 모델은 도 7을 참조하여 더 자세히 설명된 바와 같이, 온라인 게이밍 플랫폼(102)에서 아이템의 분류를 생성하는 데 사용될 수 있다.

도 7: 분류에 기초하는 콘텐츠 표면화

도 7은 일부 구현에 따른, 분류에 기초하여 콘텐츠를 사용자에게 제공하기 위한 예시적인 방법(700)의 흐름도이다. 일부 구현에서, 방법(700)은 예컨대, 서버 시스템, 예컨대, 도 1 및 도 2에 도시된 바와 같은 온라인 게이밍 플랫폼(102)에서 구현될 수 있다. 일부 구현에서, 방법(700)의 일부 또는 전부는 도 1에 도시된 바와 같이 하나 이상의 클라이언트 장치(110 및 116)와 같은 시스템 및/또는 서버 시스템과 하나 이상의 클라이언트 시스템 모두에서 구현될 수 있다. 설명된 예시에서, 구현 시스템은 하나 이상의 프로세서 또는 처리 회로, 및 데이터베이스 또는 다른 액세스 가능한 스토리지와 같은 하나 이상의 저장 장치를 포함한다. 일부 구현에서, 하나 이상의 서버 및/또는 클라이언트의 상이한 컴포넌트는 방법(700)의 상이한 블록 또는 다른 부분을 수행할 수 있다. 방법(700)은 블록(702)에서 시작할 수 있다.

블록(702)에서, 온라인 게이밍 플랫폼(예컨대, 102)에서 이용 가능한 게임 콘텐츠에 대한 요청이 사용자(예컨대, 114/120)로부터 수신될 수 있다. 예컨대, 사용자는 플랫폼에 의해 제공된 검색 엔진 또는 다른 인터페이스(예컨대, 브라우징 인터페이스)를 활용할 수 있다. 이용 가능한 아이템의 리스트는 일부 구현에서 예컨대, 데이터 저장소(106)를 통해 온라인 게이밍 플랫폼(102)에 저장될 수 있다. 요청은 또한 온라인 게이밍 플랫폼에서 이용 가능한 콘텐츠에 대한 하이퍼링크(예컨대, 웹사이트, 소셜 네트워크 또는 뉴스그룹과 같은 외부 소스로부터의 링크)의 활성화 또는 선택으로 구현될 수 있다. 하이퍼링크 또는 "링크"는 게임 ID(예컨대, 501) 또는 다른 데이터와 같은 식별 데이터를 포함하는 직접 링크 또는 쿼리를 포함할 수 있다. 블록(702) 다음에 블록(704)이 이어질 수 있다.

블록(704)에서, 특정 게임 또는 콘텐츠가 요청에 기초하여 식별된다. 예컨대, 요청이 검색 쿼리인 경우, 일치하는 게임의 리스트는 온라인 게이밍 플랫폼 상의 검색 엔진을 통해 리턴될 수 있다. 유사하게, 데이터베이스 쿼리는 하나 이상의 게임 또는 다른 콘텐츠 아이템을 식별하기 위해 수행될 수 있다. 블록(704) 다음에 블록(706)이 이어질 수 있다.

블록(706)에서, 예컨대, 머신 러닝 모델을 적용함으로써, 게임에 대한 분류(또는 다수의 게임에 대한 다수의 분류)가 수신될 수 있다. 분류(들)는 연관된 콘텐츠가 임계값을 초과하는지를 결정하기 위해 미리 결정된 또는 원하는 안전 임계값과 비교될 수 있다. 분류가 임계값을 초과하지 않는 경우, 방법은 안전 임계값을 초과할 때까지 다른 게임 또는 콘텐츠를 식별하는 것을 포함할 수 있다. 블록(706) 다음에 블록(708)이 이어질 수 있다.

블록(708)에서, 방법에 의해 식별된 다른 게임 또는 콘텐츠가 임계값을 초과하는 것으로 결정될 수 있다. 블록(708) 다음에 블록(710)이 이어질 수 있다.

블록(710)에서, 안전 임계값을 초과하는 아이템(또는 일부 구현에서는 단일 아이템)의 리스트가 생성된다. 따라서, 아이템의 리스트는 도 6의 트레이닝된 머신 러닝 모델에 기초하여 금지되지 않은 콘텐츠만을 포함하도록 조정된다. 블록(710) 다음에 블록(712)이 이어질 수 있다.

블록(712)에서, 게임(들) 및/또는 게임 콘텐츠의 리스트를 포함하는 사용자 인터페이스가 사용자에게 제공된다. 사용자 인터페이스는 따라서 금지된 콘텐츠 없이 제시된다. 블록(702)에서의 요청이 특정 게임 또는 콘텐츠에 대한 링크인 경우, 오직 연관된 게임 또는 콘텐츠만 그 연관된 분류가 안전 임계값을 초과하면 리턴될 수 있다는 점에 유의한다.

전술한 바와 같이, 머신 러닝 모델(또는 별도의 모델)은 주기적으로 재트레이닝될 수 있다. 또한, 금지된 콘텐츠의 합당한 비율이 제한되고, 원하는 안전 파라미터가 충족되거나 초과되도록, 안전 임계값을 주기적으로 변경할 수도 있다. 이와 관련하여, 금지되지 않은 게임 또는 콘텐츠가 너무 많이 제한되면, 안전 임계값이 감소될 수 있다. 유사하게, 하나 이상의 금지된 게임 또는 콘텐츠가 사용자에게 표면화되는 경우, 안전 임계값이 증가될 수 있다. 일부 구현에서, 사용자 피드백 및 개발자 피드백은 분류를 모니터링하고 머신 러닝 모델을 재트레이닝하는 데 사용될 수 있다. 추가적으로, 온라인 게이밍 플랫폼(102)의 관리자는 머신 러닝 모델, 분류 또는 다른 속성을 수동으로 조정하여 금지된 것으로 분류된 금지되지 않은 콘텐츠의 포면화를 변경할 수 있다.

블록(702-712)은 전술한 것과 상이한 순서로 수행(또는 반복)될 수 있고, 그리고/또는 하나 이상의 블록이 생략될 수 있다. 방법(600 및/또는 700)은 서버(예컨대, 102) 및/또는 클라이언트 장치(예컨대, 110 또는 116)에서 수행될 수 있다. 또한, 방법(600 및 700)의 일부는 임의의 원하는 구현에 따라, 결합되고 순차적으로 또는 병렬로 수행될 수 있다.

전술한 바와 같이, 사용자 데이터, 개발자 데이터 및 게임 데이터에 기초하는 분류의 기법은 콘텐츠를 사용자에게 표면화하기 전에 온라인 게이밍 플랫폼에서 콘텐츠를 분류하는 데 사용될 수 있다. 이러한 방식으로, 사용자는 다른 안전 프로토콜을 우회하도록 설계된 외부 링크를 사용하여 온라인 게이밍 플랫폼에 액세스하는 경우에도 금지된 콘텐츠를 제공받지 않는다. 또한, 콘텐츠에 대한 자녀 보호 기능(parental controls) 및 기타 제한이 사용자에게 금지된 콘텐츠의 표면화를 더 잘 식별하고 방지할 수 있도록, 자동 분류는 온라인 게이밍 플랫폼의 전형적인 관리 및/또는 조정(moderating)을 증강하는 데 사용될 수 있다.

이하, 도 8을 참조하여, 도 1 및 도 2에 예시된 상이한 장치를 구현하는 데 사용될 수 있는 다양한 컴퓨팅 장치에 대한 보다 상세한 설명이 제공된다.

도 8은 일부 구현에 따른, 여기에서 설명된 하나 이상의 특징을 구현하는 데 사용될 수 있는 예시적인 컴퓨팅 장치(800)의 블록도이다. 일 예시에서, 장치(800)는 컴퓨터 장치(예컨대, 도 1의 102, 110 및/또는 116)를 구현하고, 여기에서 설명된 적절한 방법 구현을 수행하는 데 사용될 수 있다. 컴퓨팅 장치(800)는 임의의 적절한 컴퓨터 시스템, 서버, 또는 다른 전자 또는 하드웨어 장치일 수 있다. 예컨대, 컴퓨팅 장치(800)는 메인프레임 컴퓨터, 데스크톱 컴퓨터, 워크스테이션, 휴대용 컴퓨터 또는 전자 장치(휴대용 장치, 모바일 장치, 휴대폰, 스마트 폰, 태블릿 컴퓨터, 텔레비전, TV 셋톱 박스, PDA(personal digital assistant), 미디어 플레이어, 게임 장치, 웨어러블 장치 등)일 수 있다. 일부 구현에서, 장치(800)는 프로세서(802), 메모리(804), 입력/출력(I/O) 인터페이스(806) 및 오디오/비디오 입력/출력 장치(814)(예컨대, 디스플레이 스크린, 터치스크린, 디스플레이 고글 또는 안경, 오디오 스피커, 마이크 등)를 포함한다.

프로세서(802)는 프로그램 코드를 실행하고 장치(800)의 기본 동작을 제어하기 위한 하나 이상의 프로세서 및/또는 처리 회로일 수 있다. "프로세서"는 데이터, 신호 또는 기타 정보를 처리하는 임의의 적절한 하드웨어 및/또는 소프트웨어 시스템, 메커니즘 또는 컴포넌트를 포함한다. 프로세서는 범용 중앙 처리 장치(CPU), 다중 처리 장치, 기능을 달성하기 위한 전용 회로 또는 기타 시스템이 있는 시스템을 포함할 수 있다. 처리는 특정 지리적 위치로 제한되거나 일시적인 제한을 가질 필요가 없다. 예컨대, 프로세서는 "실시간", "오프라인", "배치 모드(batch mode)" 등의 기능을 수행할 수 있다. 처리의 일부는 상이한 (또는 동일한) 처리 시스템에 의해 다른 시간과 다른 위치에서 수행될 수 있다. 컴퓨터는 메모리와 통신하는 임의의 프로세서일 수 있다.

메모리(804)는 전형적으로 프로세서(802)에 의한 액세스를 위해 장치(800)에 제공되고, 프로세서에 의한 실행을 위한 명령을 저장하는 데 적합하고 프로세서(802)와 분리되어 위치 및/또는 통합되는, 임의의 적절한 프로세서 판독가능 저장 매체, 예컨대 RAM(random access memory), ROM(read-only memory), EEPROM(Electrical Erasable Read-only Memory), 플래시 메모리 등일 수 있다. 메모리(804)는 운영 체제(808), 검색 엔진 애플리케이션(810) 및 연관 데이터(812)를 포함하는, 프로세서(802)에 의해 서버 장치(800) 상에서 동작하는 소프트웨어를 저장할 수 있다. 일부 구현에서, 검색 엔진 애플리케이션(810)은 프로세서(802)가 여기에서 설명된 기능, 예컨대, 도 6 및 7의 방법의 일부 또는 전부를 수행하도록 하는 명령어를 포함할 수 있다. 일부 구현에서, 검색 엔진 애플리케이션(810)은 또한 여기에서 설명된 바와 같이 콘텐츠 분류를 생성하고, 분류에 기초하는 사용자 인터페이스 및/또는 플랫폼의 다른 기능을 제공하기 위한 하나 이상의 머신 러닝 모델을 포함할 수 있다.

예컨대, 메모리(804)는 온라인 게이밍 플랫폼(예컨대, 102) 내에서 콘텐츠 분류(예컨대, 금지된 콘텐츠를 제한함)를 관찰하면서 검색을 제공할 수 있는 검색 엔진(810)을 위한 소프트웨어 명령을 포함할 수 있다. 메모리(804)에서 소프트웨어 중 임의의 것은 대안적으로 임의의 다른 적절한 저장 위치 또는 컴퓨터 판독가능 매체에 저장될 수 있다. 또한, 메모리(804)(및/또는 다른 연결된 저장 장치(들))는 여기에서 설명된 특징에서 사용되는 명령어 및 데이터를 저장할 수 있다. 메모리(804) 및 임의의 다른 유형의 스토리지(자기 디스크, 광 디스크, 자기 테이프 또는 기타 유형의 매체)는 "스토리지” 또는 "저장 장치"로 간주될 수 있다.

I/O 인터페이스(806)는 서버 장치(800)가 다른 시스템 및 장치와 인터페이스할 수 있도록 하는 기능을 제공할 수 있다. 예컨대, 네트워크 통신 장치, 저장 장치(예컨대, 메모리 및/또는 데이터 저장소(108)) 및 입력/출력 장치는 인터페이스(806)를 통해 통신할 수 있다. 일부 구현에서, I/O 인터페이스는 입력 장치(키보드, 포인팅 장치, 터치 스크린, 마이크, 카메라, 스캐너 등) 및/또는 출력 장치(디스플레이 장치, 스피커 장치, 프린터, 모터 등)를 포함하는 인터페이스 장치에 연결될 수 있다.

설명의 편의를 위해, 도 8은 프로세서(802), 메모리(804), I/O 인터페이스(806), 소프트웨어 블록(808 및 810) 및 데이터베이스(812) 각각에 대한 하나의 블록을 도시한다. 이들 블록은 하나 이상의 프로세서 또는 처리 회로, 운영 체제, 메모리, I/O 인터페이스, 애플리케이션 및/또는 소프트웨어 모듈을 나타낸다. 다른 구현에서, 장치(800)는 도시된 컴포넌트 전부를 갖지 않을 수 있고, 그리고/또는 여기에서 도시된 것 대신에 또는 이에 추가하여 다른 유형의 요소를 포함하는 다른 요소를 가질 수 있다. 온라인 게이밍 플랫폼(102)이 여기에서 일부 구현에 설명된 동작을 수행하는 것으로 설명되지만, 온라인 게이밍 플랫폼(102) 또는 유사한 시스템의 임의의 적절한 컴포넌트 또는 컴포넌트의 조합, 또는 이러한 시스템과 관련된 임의의 적절한 프로세서 또는 프로세서들이 설명된 동작을 수행할 수 있다.

사용자 장치는 또한 여기에서 설명된 특징을 구현 및/또는 사용할 수 있다. 예시적인 사용자 장치는 장치(800), 예컨대 프로세서(들)(802), 메모리(804) 및 I/O 인터페이스(806)와 같은 일부 유사한 컴포넌트를 포함하는 컴퓨터 장치일 수 있다. 클라이언트 장치에 적합한 운영 체제, 소프트웨어 및 애플리케이션이 메모리에 제공되고 프로세서에 의해 사용될 수 있다. 클라이언트 장치를 위한 I/O 인터페이스는 입력 및 출력 장치, 예컨대, 사운드를 포착하기 위한 마이크, 이미지 또는 비디오를 포착하기 위한 카메라, 사운드를 출력하기 위한 오디오 스피커 장치, 이미지 또는 비디오를 출력하기 위한 디스플레이 장치 또는 기타 출력 장치뿐만 아니라 네트워크 통신 장치에 연결될 수 있다. 예컨대, 오디오/비디오 입력/출력 장치(814) 내의 디스플레이 장치는 장치(800)에 연결(또는 포함)되어 여기에서 설명된 바와 같이 이미지 전처리 및 후처리를 디스플레이할 수 있으며, 이러한 디스플레이 장치는 임의의 적절한 디스플레이 장치, 예컨대 LCD, LED 또는 플라즈마 디스플레이 스크린, CRT, 텔레비전, 모니터, 터치 스크린, 3D 디스플레이 스크린, 프로젝터 또는 기타 시각적 디스플레이 장치를 포함할 수 있다. 일부 구현은 오디오 출력 장치, 예컨대 음성 출력 또는 텍스트를 말하는 합성을 제공할 수 있다.

여기에 설명된 방법, 블록 및/또는 동작은 도시되거나 설명된 것과 다른 순서로 수행될 수 있고 및/또는 적절한 경우 다른 블록 또는 동작과 동시에(부분적으로 또는 완전히) 수행될 수 있다. 일부 블록 또는 작업은 데이터의 한 부분에 대해 수행되고 나중에 예컨대 데이터의 다른 부분에 대해 다시 수행될 수 있다. 설명된 모든 블록 및 작업이 다양한 구현에서 수행될 필요는 없다. 일부 구현에서 블록 및 작업은 메서드에서 다른 순서로 및/또는 다른 시간에 여러 번 수행될 수 있다.

일부 구현에서, 방법의 일부 또는 전부는 하나 이상의 클라이언트 장치와 같은 시스템에서 구현될 수 있다. 일부 구현에서, 여기에 설명된 하나 이상의 방법은 예컨대 서버 시스템에서 및/또는 서버 시스템과 클라이언트 시스템 모두에서 구현될 수 있다. 일부 구현에서, 하나 이상의 서버 및/또는 클라이언트의 서로 다른 구성 요소는 메서드의 다른 블록, 작업 또는 다른 부분을 수행할 수 있다.

여기에서 설명된 하나 이상의 방법(예컨대, 방법(600 및/또는 700))은 컴퓨터에서 실행될 수 있는, 컴퓨터 프로그램 명령어 또는 코드에 의해 구현될 수 있다. 예컨대, 코드는 하나 이상의 디지털 프로세서(예컨대, 마이크로프로세서 또는 기타 처리 회로)에 의해 구현될 수 있으며, 비일시적 컴퓨터 판독가능 매체(예컨대, 저장 매체), 예컨대 반도체 또는 솔리드 스테이트 메모리, 자기 테이프, 이동식 컴퓨터 디스켓(removable computer diskette), RAM(random access memory), ROM(read-only memory), 플래시 메모리, 강성 자기 디스크(rigid magnetic disk), 광 디스크, 솔리드 스테이트 메모리 드라이브 등을 포함한 자기, 광학, 전자기 또는 반도체 저장 매체를 포함하는 컴퓨터 프로그램 제품에 저장될 수 있다. 프로그램 명령어는 서버(예컨대, 분산 시스템 및/또는 클라우드 컴퓨팅 시스템)로부터 전달된 예컨대, SaaS(software as a service)의 형태로 전자 신호에 포함되고 제공될 수 있다. 대안적으로, 하나 이상의 방법은 하드웨어(로직 게이트 등) 또는 하드웨어와 소프트웨어의 조합으로 구현될 수 있다. 하드웨어의 예시는 프로그래밍 가능 프로세서(예컨대, FPGA(Field-Programmable Gate Array), 복합 프로그래밍 가능 논리 소자(complex programmable logic device), 범용 프로세서, 그래픽 프로세서, ASIC(Application Specific Integrated Circuit) 등)일 수 있다. 하나 이상의 방법은 시스템에서 실행되는 애플리케이션의 일부 또는 컴포넌트로서, 또는 다른 애플리케이션 및 운영 체제와 함께 실행되는 애플리케이션이 또는 소프트웨어로서 수행될 수 있다.

여기에서 설명된 하나 이상의 방법은 임의의 유형의 컴퓨팅 장치에서 실행될 수 있는 자립형 프로그램(standalone program), 웹 브라우저에서 실행되는 프로그램, 모바일 컴퓨팅 장치(예컨대, 휴대폰, 스마트 폰, 태블릿 컴퓨터, 웨어러블 장치(손목 시계, 암밴드, 장신구, 헤드웨어, 고글, 안경 등), 랩톱 컴퓨터 등)에서 실행하는 모바일 애플리케이션(“앱")에서 실행될 수 있다. 일 예시에서, 클라이언트/서버 아키텍처가 사용될 수 있고, 예컨대, (클라이언트 장치로서) 모바일 컴퓨팅 장치가 사용자 입력 데이터를 서버 장치로 전송하고 서버로부터 출력(예컨대, 디스플레이)을 위한 최종 출력 데이터를 수신한다. 다른 예시에서, 모든 계산은 모바일 컴퓨팅 장치 상의 모바일 앱(및/또는 다른 앱) 내에서 수행될 수 있다. 다른 예시에서, 계산은 모바일 컴퓨팅 장치와 하나 이상의 서버 장치 간에 분할될 수 있다.

설명이 그 특정 구현과 관련하여 설명되었지만, 이러한 특정 구현은 단지 예시적인 것이며, 제한적이지 않다. 예시에 설명된 개념은 다른 예시 및 구현에 적용될 수 있다.

여기에서 논의된 특정 구현이 사용자 데이터(예컨대, 사용자 인구통계, 플랫폼에서의 사용자 행동 데이터, 사용자 검색 히스토리, 구매 및/또는 시청한 아이템, 플랫폼에서의 사용자의 친목 등)를 획득하거나 사용할 수 있는 상황에서. 사용자에게는 이러한 정보의 수집, 저장 또는 사용 여부와 방법을 제어할 수 있는 옵션이 제공된다. 즉, 여기에서 논의된 구현은 명시적인 사용자 인가(user authorization)를 수신하고, 적용 가능한 규정에 따라 사용자 정보를 수집, 저장 및/또는 사용한다.

사용자는 프로그램 또는 특징이 특정 사용자 또는 프로그램 또는 특징과 관련된 다른 사용자에 대한 사용자 정보를 수집하는지 여부에 대한 제어가 제공될 수 있다. 정보를 수집할 각 사용자에게는 사용자가 해당 사용자와 관련된 정보 수집에 대한 제어를 행사하고, 정보가 수집되는지 그리고 정보의 어느 부분을 수집할 것인지에 대한 허가 또는 인가를 제공하도록 허용할 수 있는 옵션(예컨대, 사용자 인터페이스를 통해)이 제시된다. 또한, 특정 데이터는 저장 또는 사용 전에 하나 이상의 방식으로 수정되어, 개인 식별 정보가 제거될 수 있다. 일 예시로서, 개인 식별 정보가 결정될 수 없도록 사용자의 신원이 수정될 수 있다(예컨대, 가명(pseudonym), 숫자 값 등을 사용한 대체). 다른 예시에서, 사용자의 지리적 위치는 더 큰 지역(예컨대, 도시, 우편 번호, 주, 국가 등)으로 일반화될 수 있다.

본 개시에서 설명된 기능 블록, 동작, 특징, 방법, 장치 및 시스템은 당업자에게 알려진 바와 같이 시스템, 장치 및 기능 블록의 상이한 조합으로 통합되거나 분할될 수 있다는 점에 유의한다. 임의의 적절한 프로그래밍 언어 및 프로그래밍 기술이 특정 구현의 루틴을 구현하는 데 사용될 수 있다. 다른 프로그래밍 기술이, 예컨대 절차적 또는 객체 지향적으로 이용될 수 있다. 루틴은 단일 처리 장치 또는 다중 프로세서 상에서 실행할 수 있다. 단계, 동작 또는 계산이 특정 순서로 제시될 수 있지만, 순서는 다른 특정 구현에서 변경될 수 있다. 일부 구현에서, 본 명세서에서 순차적으로 도시된 복수의 단계 또는 동작이 동시에 수행될 수 있다.

Claims

컴퓨터 구현 방법으로서,
게이밍 플랫폼에서 호스팅되는 게임과 연관된 데이터를 수신하는 단계 - 상기 데이터는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타냄 -;
머신 러닝 모델로 상기 게임에 분류(classification)를 자동으로 할당하는 단계 - 상기 분류는 상기 적어도 하나의 개발자, 상기 적어도 하나의 사용자 및 상기 게임 콘텐츠를 나타내는 데이터에 기초함 -;
상기 게임의 분류가 안전 임계값(safety threshold)을 충족하는지 여부를 결정하는 단계; 및
상기 게임의 분류가 상기 안전 임계값을 충족하지 않는다는 결정에 기초하여, 금지된 콘텐츠를 갖는 것으로 상기 게임을 식별하는 단계
를 포함하는 컴퓨터 구현 방법.
제1항에 있어서,
상기 적어도 하나의 개발자를 나타내는 데이터는: 상기 게이밍 플랫폼에서 상기 개발자의 보유(tenure), 상기 개발자에 의해 상기 게이밍 플랫폼에서 공개된 게임의 수, 상기 게이밍 플랫폼에서 상기 개발자와 연관된 사용자의 행동 데이터, 상기 게이밍 플랫폼에서 상기 개발자의 조정 히스토리(moderation history), 또는 상기 게이밍 플랫폼에서 상기 개발자와 연관된 게임의 평균 분류 중 하나 이상을 포함하는 것인, 컴퓨터 구현 방법.
제1항에 있어서,
상기 적어도 하나의 사용자를 나타내는 데이터는: 상기 사용자의 인구통계(demographics), 상기 사용자의 게임플레이 히스토리, 상기 사용자와 연관된 다른 사용자의 행동 데이터, 상기 사용자의 조정 히스토리, 상기 사용자의 채팅 히스토리, 상기 사용자의 거래 히스토리, 또는 상기 사용자에 의해 플레이된 게임의 평균 분류 중 하나 이상을 포함하는 것인, 컴퓨터 구현 방법.
제1항에 있어서,
상기 게임 콘텐츠를 나타내는 데이터는: 상기 게임의 텍스트 설명, 상기 게임의 제목, 상기 게임의 자산, 상기 게임을 구성하는 모델, 상기 게임 내의 동작, 또는 상기 게임 콘텐츠의 유사성 임계값(similarity threshold) 내의 콘텐츠와 하나 이상의 다른 게임의 평균 분류 중 하나 이상을 포함하는 것인, 컴퓨터 구현 방법.
제1항에 있어서,
상기 게임 콘텐츠가 금지된 콘텐츠를 포함한다는 결정에 기초하여, 상기 게이밍 플랫폼을 통한 상기 게임 콘텐츠에 대한 액세스를 제한하는 단계를 더 포함하는 컴퓨터 구현 방법.
컴퓨터 구현 방법으로서,
게이밍 플랫폼에서 호스팅되는 게임과 연관된 데이터를 수신하는 단계 - 상기 데이터는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타냄 -;
상기 적어도 하나의 개발자, 상기 적어도 하나의 사용자 및 상기 게임 콘텐츠를 나타내는 데이터에 기초하여, 머신 러닝 모델의 입력 특징(input features)을 결정하는 단계;
상기 머신 러닝 모델에 상기 입력 특징을 제공하는 단계; 및
상기 입력 특징에 기초하여 상기 머신 러닝 모델의 출력을 획득하는 단계
를 포함하고,
상기 출력은 상기 게임의 분류를 포함하는, 컴퓨터 구현 방법.
제6항에 있어서,
상기 적어도 하나의 개발자를 나타내는 데이터는: 상기 게이밍 플랫폼에서 상기 개발자의 보유, 상기 개발자에 의해 상기 게이밍 플랫폼에서 공개된 게임의 수, 상기 게이밍 플랫폼에서 상기 개발자와 연관된 사용자의 행동 데이터, 상기 게이밍 플랫폼에서 상기 개발자의 조정 히스토리, 또는 상기 게이밍 플랫폼에서 상기 개발자와 연관된 게임의 평균 분류 중 하나 이상을 포함하는 것인, 컴퓨터 구현 방법.
제6항에 있어서,
상기 적어도 하나의 사용자를 나타내는 데이터는: 상기 사용자의 인구통계, 상기 사용자의 게임플레이 히스토리, 상기 사용자와 연관된 다른 사용자의 행동 데이터, 상기 사용자의 조정 히스토리, 상기 사용자의 채팅 히스토리, 상기 사용자의 거래 히스토리, 또는 상기 사용자에 의해 플레이된 게임의 평균 분류 중 하나 이상을 포함하는 것인, 컴퓨터 구현 방법.
제6항에 있어서,
상기 게임 콘텐츠를 나타내는 데이터는: 상기 게임의 텍스트 설명, 상기 게임의 제목, 상기 게임의 자산, 상기 게임을 구성하는 모델, 상기 게임 내의 동작, 또는 상기 게임 콘텐츠의 유사성 임계값 내의 콘텐츠와 하나 이상의 다른 게임의 평균 분류 중 하나 이상을 포함하는 것인, 컴퓨터 구현 방법.
제6항에 있어서,
상기 게임의 분류는 상기 게임이 금지된 콘텐츠를 포함하는 확률을 나타내는 값인, 컴퓨터 구현 방법.
시스템으로서,
명령어가 저장된 메모리; 및
상기 메모리에 결합된 처리 장치
를 포함하고, 상기 처리 장치는 상기 메모리에 액세스하고, 상기 명령어를 실행하도록 구성되며, 상기 명령어는 상기 처리 장치로 하여금 동작을 수행하도록 하고, 상기 동작은:
게임과 연관된 데이터를 수신하는 것 - 상기 데이터는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타냄 -;
머신 러닝 모델로 상기 게임에 분류를 자동으로 할당하는 것 - 상기 분류는 상기 적어도 하나의 개발자, 상기 적어도 하나의 사용자 및 상기 게임 콘텐츠를 나타내는 데이터에 기초함 -;
상기 게임의 분류가 안전 임계값을 충족하는지 여부를 결정하는 것; 및
상기 게임의 분류가 상기 안전 임계값을 충족하지 않는다는 결정에 기초하여, 금지된 콘텐츠를 갖는 것으로 상기 게임을 식별하는 것을 포함하는, 시스템.
제11항에 있어서,
상기 적어도 하나의 개발자를 나타내는 데이터는: 게이밍 플랫폼에서 상기 개발자의 보유, 상기 개발자에 의해 상기 게이밍 플랫폼에서 공개된 게임의 수, 상기 게이밍 플랫폼에서 상기 개발자와 연관된 사용자의 행동 데이터, 상기 게이밍 플랫폼에서 상기 개발자의 조정 히스토리, 또는 상기 게이밍 플랫폼에서 상기 개발자와 연관된 게임의 평균 분류 중 하나 이상을 포함하는 것인, 시스템.
제11항에 있어서,
상기 적어도 하나의 사용자를 나타내는 데이터는: 상기 사용자의 인구통계, 상기 사용자의 게임플레이 히스토리, 상기 사용자와 연관된 다른 사용자의 행동 데이터, 상기 사용자의 조정 히스토리, 상기 사용자의 채팅 히스토리, 상기 사용자의 거래 히스토리, 또는 상기 사용자에 의해 플레이된 게임의 평균 분류 중 하나 이상을 포함하는 것인, 시스템.
제11항에 있어서,
상기 게임 콘텐츠를 나타내는 데이터는: 상기 게임의 텍스트 설명, 상기 게임의 제목, 상기 게임의 자산, 상기 게임을 구성하는 모델, 상기 게임 내의 동작, 또는 상기 게임 콘텐츠의 유사성 임계값 내의 콘텐츠와 하나 이상의 다른 게임의 평균 분류 중 하나 이상을 포함하는 것인, 시스템.
제11항에 있어서,
상기 동작은 상기 게임 콘텐츠가 금지된 콘텐츠를 포함한다는 결정에 기초하여, 게이밍 플랫폼을 통한 상기 게임 콘텐츠에 대한 액세스를 제한하는 것을 더 포함하는, 시스템.
처리 장치에 의한 실행에 응답하여, 상기 처리 장치로 하여금 동작을 수행하도록 하는 저장된 명령어를 갖는 비일시적 컴퓨터 판독 가능 매체로서, 상기 동작은:
게임과 연관된 데이터를 수신하는 것 - 상기 데이터는 적어도 하나의 개발자, 적어도 하나의 사용자 및 게임 콘텐츠를 나타냄 -;
상기 적어도 하나의 개발자, 상기 적어도 하나의 사용자 및 상기 게임 콘텐츠를 나타내는 데이터에 기초하여, 머신 러닝 모델의 입력 특징을 결정하는 것;
상기 머신 러닝 모델에 상기 입력 특징을 제공하는 것; 및
상기 입력 특징에 기초하여 상기 머신 러닝 모델의 출력을 획득하는 것
을 포함하고,
상기 출력은 상기 게임의 분류를 포함하는, 비일시적 컴퓨터 판독 가능 매체.
제16항에 있어서,
상기 적어도 하나의 개발자를 나타내는 데이터는: 게이밍 플랫폼에서 상기 개발자의 보유, 상기 개발자에 의해 상기 게이밍 플랫폼에서 공개된 게임의 수, 상기 게이밍 플랫폼에서 상기 개발자와 연관된 사용자의 행동 데이터, 상기 게이밍 플랫폼에서 상기 개발자의 조정 히스토리, 또는 상기 게이밍 플랫폼에서 상기 개발자와 연관된 게임의 평균 분류 중 하나 이상을 포함하는 것인, 비일시적 컴퓨터 판독 가능 매체.
제16항에 있어서,
상기 적어도 하나의 사용자를 나타내는 데이터는: 상기 사용자의 인구통계, 상기 사용자의 게임플레이 히스토리, 상기 사용자와 연관된 다른 사용자의 행동 데이터, 상기 사용자의 조정 히스토리, 상기 사용자의 채팅 히스토리, 상기 사용자의 거래 히스토리, 또는 상기 사용자에 의해 플레이된 게임의 평균 분류 중 하나 이상을 포함하는 것인, 비일시적 컴퓨터 판독 가능 매체.
제16항에 있어서,
상기 게임 콘텐츠를 나타내는 데이터는: 상기 게임의 텍스트 설명, 상기 게임의 제목, 상기 게임의 자산, 상기 게임을 구성하는 모델, 상기 게임 내의 동작, 또는 상기 게임 콘텐츠의 유사성 임계값 내의 콘텐츠와 하나 이상의 다른 게임의 평균 분류 중 하나 이상을 포함하는 것인, 비일시적 컴퓨터 판독 가능 매체.
제16항에 있어서,
상기 게임의 분류는 상기 게임이 금지된 콘텐츠를 포함하는 확률을 나타내는 값인, 비일시적 컴퓨터 판독 가능 매체.