CN110075524B - 异常行为检测方法和装置 - Google Patents

异常行为检测方法和装置 Download PDF

Info

Publication number
CN110075524B
CN110075524B CN201910390556.9A CN201910390556A CN110075524B CN 110075524 B CN110075524 B CN 110075524B CN 201910390556 A CN201910390556 A CN 201910390556A CN 110075524 B CN110075524 B CN 110075524B
Authority
CN
China
Prior art keywords
behavior
virtual object
information
abnormal
vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910390556.9A
Other languages
English (en)
Other versions
CN110075524A (zh
Inventor
刘福乐
孙钟前
谢志宁
杨巍
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN201910390556.9A priority Critical patent/CN110075524B/zh
Publication of CN110075524A publication Critical patent/CN110075524A/zh
Application granted granted Critical
Publication of CN110075524B publication Critical patent/CN110075524B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/55—Controlling game characters or game objects based on the game progress
    • A63F13/56—Computing the motion of game characters with respect to other game characters, game objects or elements of the game scene, e.g. for simulating the behaviour of a group of virtual soldiers or for path finding
    • A—HUMAN NECESSITIES
    • A63—SPORTS; GAMES; AMUSEMENTS
    • A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/80—Special adaptations for executing a specific game genre or game mode
    • A63F13/822—Strategy games; Role-playing games
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
    • G06V10/464—Salient features, e.g. scale invariant feature transforms [SIFT] using a plurality of salient features, e.g. bag-of-words [BoW] representations

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Human Computer Interaction (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请涉及一种异常行为检测方法和装置，所述方法包括：获取虚拟对象在可操作状态下的信息集；根据所述信息集生成所述虚拟对象对应的特征矩阵；将所述特征矩阵输入至行为检测模型，得到所述虚拟对象所对应的行为类别；当所述行为类别属于目标类别时，确定所述虚拟对象在可操作状态下存在异常行为。本申请提供的方案能够有效的提高异常行为的检测效率。

Description

异常行为检测方法和装置
技术领域
本申请涉及计算机技术领域，特别是涉及一种异常行为检测方法、装置、计算机可读存储介质和计算机设备。
背景技术
在Moba游戏(Multiplayer Online Battle Arena，多人在线战术竞技游戏)中，通常包括两支由多名玩家组成的队伍，两支队伍进行对抗竞技。在游戏进行过程中，部分玩家可能会出现异常行为，例如，辱骂队友或者敌方队伍中的玩家。因此，需要及时检测出游戏中存在的异常行为。
在传统方式中，通常是通过采用固定的规则或者人工审核的方式判断游戏玩家是否存在异常行为。但是，固定规则只能检测到特定的异常行为，无法通过固定规则检测到特定异常行为以外的异常行为。人工审核的方式只能在游戏结束之后进行，不能及时检测游戏中出现的异常行为。而且，人工审核的方式需要工作人员花大量的时间观看游戏的视频记录，才能检测出该局游戏中是否出现了异常行为，检测效率较低。因此，如何提高异常行为的检测效率成为目前需要解决的技术问题。
发明内容
基于此，有必要针对上述异常行为检测效率较低的技术问题，提供一种能够提高检测效率的异常行为检测方法、装置、计算机可读存储介质和计算机设备。
一种异常行为检测方法，包括：
获取虚拟对象在可操作状态下的信息集；
根据所述信息集生成所述虚拟对象对应的特征矩阵；
将所述特征矩阵输入至行为检测模型，得到所述虚拟对象所对应的行为类别；
当所述行为类别属于目标类别时，确定所述虚拟对象在可操作状态下存在异常行为。
一种异常行为检测装置，所述装置包括：
信息集获取模块，用于获取虚拟对象在可操作状态下的信息集；
矩阵生成模块，用于根据所述信息集生成所述虚拟对象对应的特征矩阵；
类别确定模块，用于将所述特征矩阵输入至行为检测模型，得到所述虚拟对象所对应的行为类别；
异常行为确定模块，用于当所述行为类别属于目标类别时，确定所述虚拟对象在可操作状态下存在异常行为。
一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行以下步骤：
获取虚拟对象在可操作状态下的信息集；
根据所述信息集生成所述虚拟对象对应的特征矩阵；
将所述特征矩阵输入至行为检测模型，得到所述虚拟对象所对应的行为类别；
当所述行为类别属于目标类别时，确定所述虚拟对象在可操作状态下存在异常行为。
一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行以下步骤：
获取虚拟对象在可操作状态下的信息集；
根据所述信息集生成所述虚拟对象对应的特征矩阵；
将所述特征矩阵输入至行为检测模型，得到所述虚拟对象所对应的行为类别；
当所述行为类别属于目标类别时，确定所述虚拟对象在可操作状态下存在异常行为。
上述异常行为检测方法、装置、计算机可读存储介质和计算机设备，通过获取虚拟对象在可操作状态下的信息集，以此获取虚拟对象的运行记录。根据信息集生成虚拟对象在可操作状态下的特征矩阵，特征矩阵能够充分表示虚拟对象在可操作状态下的特征。通过利用行为检测模型对虚拟对象对应的特征矩阵进行运算，即可快速准确的得到虚拟对象对应的行为类别，从而根据行为类别检测出虚拟对象是否存在异常行为，不需要工作人员花费大量的时间进行审核，有效的提高了异常行为的检测效率。
附图说明
图1为一个实施例中异常行为检测方法的应用环境图；
图2为一个实施例中异常行为检测方法的流程示意图；
图3为一个实施例中根据信息集生成虚拟对象对应的特征矩阵步骤的流程示意图；
图4为另一个实施例中根据信息集生成虚拟对象对应的特征矩阵步骤的流程示意图；
图5为一个实施例中行为检测模型的网络结构图；
图6为一个实施例中异常行为检测装置的结构框图；
图7为一个实施例中计算机设备的结构框图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
图1为一个实施例中异常行为检测方法的应用环境图。参照图1，该异常行为检测方法应用于异常行为检测系统。该异常行为检测系统包括终端110、终端120和服务器130。终端110和终端120通过网络与服务器120连接。终端110和终端120具体可以是台式终端或移动终端，移动终端具体可以手机、平板电脑、笔记本电脑等中的至少一种。服务器130可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
如图2所示，在一个实施例中，提供了一种异常行为检测方法。本实施例主要以该方法应用于上述图1中的终端来举例说明。参照图2，该异常行为检测方法具体包括如下步骤：
S202，获取虚拟对象在可操作状态下的信息集。
其中，Moba游戏(Miltiplayer Online Battle Arena Games，多人在线战术竞技游戏)应用(以下简称“应用”)可以在终端的操作系统上运行，应用可以通过网络连接多个用户对应的终端共同进行游戏。不同的游戏模式可以对应不同数量的用户，一局游戏中包括两个或两个以上的用户。每个用户可以通过对应的终端控制至少一个虚拟对象。
虚拟对象是指在应用的虚拟场景中的数字化可操作对象。虚拟对象可以包括用户控制的角色。用户控制的角色可以具有各自的名称，且具有相应的技能。在进入游戏后，虚拟对象的状态变更为可操作状态。可操作状态下的虚拟对象可以根据用户对应终端的输入设备输入的控制操作，在虚拟场景中进行活动。其中，输入设备可以包括终端对应的鼠标、键盘、触控屏以及手柄等中的至少一种。
终端可以记录虚拟对象在可操作状态下对应的信息，利用记录的信息生成信息集。其中，记录的信息可以包括虚拟对象对应的行为信息、交互信息以及属性信息中的至少一种。信息集中可以包括一个虚拟对象对应的信息，也可以包括两个或两个以上虚拟对象对应的信息。当信息集中包括两个或两个以上虚拟对象对应的信息时，则可以根据信息集中的信息得到每个虚拟对象对应的行为类别。
进一步的，终端可以按照预设频率记录游戏过程中虚拟对象对应的信息。预设频率为根据实际需求预先设置的终端记录虚拟对象信息的频率。例如，终端可以按照每0.5秒一次的频率记录虚拟对象在可操作状态下的信息。终端也可以按照刷新显示图像的帧率记录虚拟对象对应的信息。在记录了虚拟对象在可操作状态下对应的信息之后，终端可以利用预设时间段内多次记录的信息生成信息集。其中，预设时间段为预设时间长度的时间片段，时间片段可以根据实际需求设置固定的时间长度。例如，预设时间段的时间长度可以设置为15秒。在游戏进行的过程中，终端可以利用预设时间段内记录的信息生成信息集，根据预设时间段对应的信息集实时检测虚拟对象在预设时间段内是否存在异常行为。终端在游戏过程中即可根据实时记录的信息对虚拟对象的异常行为进行检测，不需要等到游戏结束之后再检测虚拟对象是否存在异常行为，有效的提高了异常行为检测的实时性。
S204，根据信息集生成虚拟对象对应的特征矩阵。
终端可以从信息集中读取虚拟对象对应的信息，终端从虚拟对象对应的信息中提取虚拟对象多个维度的特征。其中，多个维度的特征可以包括从行为信息中提取的行为特征，从属性信息中提取的属性特征，以及从交互信息中提取的交互特征中的至少一种。在每个维度的特征中，还可以包括多个子维度对应的特征。终端利用提取到的多个维度的特征生成对应的特征矩阵。
当信息集中包括两个或两个以上虚拟对象对应的信息时，终端从信息集中分别读取每个虚拟对象所对应的信息，从读取到的信息中提取每个虚拟对象对应的特征，利用多个虚拟对象对应的特征生成特征矩阵。其中，终端可以依次提取每个虚拟对象对应的特征，也可以采用多线程同时提取每个虚拟对象对应的特征。
S206，将特征矩阵输入至行为检测模型，得到虚拟对象所对应的行为类别。
终端将生成的特征矩阵输入至行为检测模型中。其中，行为检测模型为通过训练后得到的神经网络模型，行为检测模型的网络结构可以采用一种或多种神经网络对应的结构。例如，行为检测模型的网络结构可以为卷积神经网络(Convolutional NeuralNetworks,英文缩写“CNN”)、循环神经网络(Recurrent Neural Network，英文缩写“RNN”)、深度神经网络(Deep Neural Network，英文缩写“DNN”)以及两种或两种以上神经网络结构的结合中的一种。终端将生成的特征矩阵通过输入层输入行为检测模型，利用行为检测模型对特征矩阵进行运算，通过输出层得到虚拟对象所对应的行为类别。
S208，当行为类别属于目标类别时，确定虚拟对象在可操作状态下存在异常行为。
其中，目标类别包括异常行为所对应的多种行为类别。例如，虚拟对象的异常行为可以包括离线行为、消极行为以及恶意攻击行为中的至少一种。终端将通过行为检测模型得到的虚拟对象对应的行为类别与目标类别进行比对，当虚拟对象对应的行为类别属于目标类别时，则确定该虚拟对象在可操作状态下存在异常行为。当虚拟对象对应的行为类别不属于目标类别时，则确定虚拟对象在可操作状态下不存在异常行为。
在本实施例中，通过获取虚拟对象在可操作状态下的信息集，以此获取虚拟对象的运行记录。根据信息集生成虚拟对象在可操作状态下的特征矩阵，特征矩阵能够充分表示虚拟对象在可操作状态下的特征。通过利用行为检测模型对虚拟对象对应的特征矩阵进行运算，即可快速准确的得到虚拟对象对应的行为类别，从而根据行为类别检测出虚拟对象是否存在异常行为，不需要工作人员花费大量的时间进行审核，有效的提高了异常行为的检测效率。
在一个实施例中，信息集中包括多个时间片段对应的信息子集。根据信息集生成虚拟对象对应的特征矩阵的步骤包括：根据信息子集生成与时间片段对应的子特征矩阵；将多个子特征矩阵进行拼接，得到虚拟对象对应的特征矩阵。
在信息集中，可以包括至少两个时间片段对应的信息子集。具体的，终端可以将获取到的信息集划分为两个或两个以上时间片段对应的信息子集。终端还可以在记录虚拟对象对应的信息时，每一个时间片段生成一个时间片段对应的信息子集，再利用两个或两个以上连续的时间片段对应的信息子集生成虚拟对象对应的信息集。
例如，信息集可以包括一个预设时间段内虚拟对象对应的信息。假设预设时间段的时间长度为15秒，信息子集的时间片段对应的时间长度为3秒。终端可以记录虚拟对象对应的信息，利用每3秒记录的信息生成一个信息子集。终端可以利用连续5个信息子集生成一个预设时间段对应的信息集。
终端可以从每个时间片段对应的信息子集中提取出虚拟对象对应的特征，生成每个时间片段对应的子特征矩阵。终端将生成的多个子特征矩阵进行拼接，得到虚拟对象对应的特征矩阵。终端通过利用行为检测模型对由多个子特征矩阵拼接而成的特征矩阵进行运算，即可快速准确的检测虚拟对象在多个时间片段内是否存在异常行为。
在本实施例中，终端通过信息集中包括的多个时间片段对应的信息子集，分别生成每个时间片段对应的子特征矩阵。相比于根据信息集生成特征矩阵，通过信息子集生成对应的子特征矩阵的过程减少了运算过程中需要处理的信息量。利用由多个子特征矩阵拼接而成的特征矩阵检测虚拟对象是否存在异常行为，保证了用于检测异常行为的特征矩阵所覆盖的时间长度，避免因为特征矩阵所对应的时间长度较小而导致的漏检，有效的提高了虚拟对象异常行为检测的准确性。
如图3所示，在一个实施例中，根据信息集生成虚拟对象对应的特征矩阵的步骤包括：
S302，从信息集中提取虚拟对象对应的行为信息，行为信息包括多种行为数据。
S304，对行为数据进行归一化处理，得到对应的行为特征。
S306，利用行为特征生成行为特征矩阵。
其中，终端在记录虚拟对象对应的信息时，记录的信息中包括虚拟对象对应的行为信息，因此，信息集中包括虚拟对象对应的行为信息。信息集中包括的行为信息可以是虚拟对象整局游戏中对应的行为信息，也可以是游戏中的一个预设时间段内对应的行为信息。
进一步的，终端可以利用游戏过程中预设时间段内的行为信息生成行为特征矩阵，通过将预设时间段对应的行为特征矩阵输入至行为检测模型，得到虚拟对象在预设时间段内符合行为特征的行为类别。进而对预设时间段内虚拟对象是否存在异常行为进行实时检测，不需要等到游戏结束之后再检测虚拟对象是否存在异常行为，有效的提高了异常行为检测的实时性。
终端从信息集中提取虚拟对象对应的行为信息，行为信息包括多种行为数据，每种行为数据还可以包括多个维度的数据。例如，行为信息中可以包括虚拟对象在虚拟场景中的坐标数据以及虚拟对象对应的技能数据，技能数据中可以还包括多个技能中，每个技能对应的施放数据以及每个技能对应的冷却数据等，冷却数据可以包括冷却总时间、待冷却时间等。
终端可以采用多种归一化处理方式对行为数据进行归一化处理，得到每种行为数据对应的行为特征。例如，终端可以采用线性归一化、标准差归一化以及非线性归一化等归一化方式中的一种，对行为数据进行归一化处理，得到每种行为数据对应多个维度的行为特征。终端利用归一化处理后的行为特征生成行为特征矩阵。例如，信息集中包括10个虚拟对象对应的行为信息，行为信息中包括N种行为数据，终端对每种行为数据进行归一化处理后，可以得到M维的行为特征，终端可以根据提取出的行为特征生成一个10*N*M的行为特征矩阵。其中，N和M均为正整数。
在本实施例中，终端通过从信息集中提取虚拟对象对应的行为信息，进行归一化处理后得到对应虚拟对象的行为特征，利用得到的行为特征生成行为特征矩阵。行为检测模型可以通过行为特征矩阵综合虚拟对象在虚拟场景中的行为特征，从而得到符合虚拟对象行为特征的行为类别，有效的提高了行为类别的准确性，进而提高了虚拟对象异常行为检测的准确性。
在一个实施例中，信息集中包括多个时间片段对应的信息子集，每个信息子集中都包括虚拟对象在对应时间片段内的行为信息。终端可以从信息子集中提取虚拟对象在对应时间片段内的行为信息。终端从每个时间片段对应的行为信息中提取虚拟对象对应的行为特征，生成每个时间片段对应的子行为特征矩阵，终端将生成的多个子行为特征矩阵进行拼接，得到虚拟对象在多个时间片段内的行为特征矩阵。终端通过将拼接而成的行为特征矩阵输入至行为检测模型，即可得到符合虚拟对象在多个时间片段内的行为特征的行为类别。
在本实施例中，终端通过多个信息子集中包括的行为信息，分别生成虚拟对象在每个时间片段对应的子行为特征矩阵，减少了运算过程中需要处理的行为信息量。利用由多个子行为特征矩阵拼接而成的行为特征矩阵检测虚拟对象是否存在异常行为，保证了用于检测异常行为的行为特征矩阵所覆盖的时间长度，避免因为行为特征矩阵所对应的时间长度较小而导致的漏检，有效的提高了虚拟对象异常行为检测的准确性。
在一个实施例中，当行为数据中包括非数值类型的行为数据时，终端可以对非数值类型的行为数据进行数值化处理，以便行为检测模型对行为数据进行归一化处理。具体的，终端可以采用多种方式对非数值类型的行为数据进行数值化处理。例如，终端可以针对虚拟对象对应的每个技能的施放数据标记标签。技能处于可施放状态，则标记为“1”，处于不可施放状态，则标记为“0”。
在本实施例中，终端通过对非数值类型的行为数据进行数值化处理，使得可以对所有的行为信息进行行为特征的提取，有效的提高了行为特征提取的通用性。
如图4所示，在一个实施例中，根据信息集生成虚拟对象对应的特征矩阵的步骤包括：
S402,信息集中包括虚拟对象对应的交互信息，从交互信息中提取预设数量的交互文本。
S404,对交互文本进行分词，得到多个词语。
S406,根据多个词语确定每个词语所对应的词向量。
S408,利用词向量生成虚拟对象对应的交互特征矩阵。
终端记录的信息中可以包括虚拟对象对应的交互信息，通过统计多次记录的交互信息，生成包括虚拟对象对应的交互信息的信息集。其中，信息集统计的交互信息可以是整局游戏中虚拟对象对应的交互信息，也可以是游戏中的一个预设时间段内虚拟对象对应的交互信息。
进一步的，终端可以利用游戏过程中预设时间段内的交互信息生成交互特征矩阵，通过将预设时间段对应的交互特征矩阵输入至行为检测模型，得到虚拟对象在预设时间段内符合交互特征的行为类别。进而对预设时间段内虚拟对象是否存在异常行为进行实时检测，不需要等到游戏结束之后再检测虚拟对象是否存在异常行为，有效的提高了异常行为检测的实时性。
交互信息用于与交互对象进行交互，交互对象是指同一局游戏中的其他虚拟对象对应的用户。例如，交互信息可以包括用户通过输入设备输入至聊天页面中的聊天信息，以及在显示页面显示的多种信号。显示的多种信号可以包括攻击信号、撤退信号、危险信号以及支援信号等。其中，交互信息对应的交互对象可以是多样的。例如，交互信息可以与同一局游戏中的一个虚拟对象对应的用户进行交互，也可以与同队的虚拟对象对应的用户进行交互，还可以与同一局游戏中的所有虚拟对象对应的用户进行交互。
终端可以从信息集中的交互信息中，提取虚拟对象对应的预设数量的交互文本。终端提取的交互文本的预设数量为根据实际需求预先设置的，交互文本的数量可以采用多种单位进行限定。例如，终端可以提取包括10句话的交互文本，也可以提取包括100个字的交互文本。
终端可以采用多种方式提取交互文本中虚拟对象对应的交互特征，交互文本中可以提取出多个维度的交互特征。例如，终端可以采用词嵌入向量(Word Embedding)的方式提取交互信息中的交互特征。其中，词嵌入向量的方式还包括基于频率的词嵌入向量和基于预测的词嵌入向量。具体的，终端可以对预设数量的交互文本进行分词，终端可以采用字符串匹配、理解、统计等多种分词方式中的至少一种对交互文本进行分词，得到多个词语。
终端可以采用多种词嵌入向量方式中的一种确定每个词语对应的词向量，利用词向量生成虚拟对象对应的交互特征矩阵。例如，信息集中包括10个虚拟对象对应的交互信息，终端从交互信息中提取I句话的交互文本，终端对每句话的交互文本进行特征提取后，可以得到J维的交互特征。终端可以根据提取出的交互特征生成一个10*I*J的交互特征矩阵。其中，I和J均为正整数。
在本实施例中，终端通过从信息集中提取虚拟对象对应的交互信息，通过词嵌入向量的方式提取交互文本中的交互特征，利用得到的交互特征生成交互特征矩阵。行为检测模型可以通过交互特征矩阵综合虚拟对象在虚拟场景中的交互特征，从而得到符合虚拟对象交互特征的行为类别，有效的提高了行为类别的准确性，进而提高了虚拟对象异常行为检测的准确性。
在一个实施例中，信息集中包括多个时间片段对应的信息子集，每个信息子集中都包括虚拟对象在对应时间片段内的交互信息。终端可以从信息子集中提取虚拟对象在对应时间片段内的交互信息。终端从每个时间片段对应的交互信息中提取虚拟对象对应的交互特征，生成每个时间片段对应的子交互特征矩阵，终端将生成的多个子交互特征矩阵进行拼接，得到虚拟对象在多个时间片段内的交互特征矩阵。终端通过将拼接而成的交互特征矩阵输入至行为检测模型，即可得到符合虚拟对象在多个时间片段内的交互特征的行为类别。
在本实施例中，终端通过多个信息子集中包括的交互信息，分别生成虚拟对象在每个时间片段对应的子交互特征矩阵，减少了运算过程中需要处理的交互信息量。利用由多个子交互特征矩阵拼接而成的交互特征矩阵检测虚拟对象是否存在异常行为，保证了用于检测异常行为的交互特征矩阵所覆盖的时间长度，避免因为交互特征矩阵所对应的时间长度较小而导致的漏检，有效的提高了虚拟对象异常行为检测的准确性。
在一个实施例中，当交互信息中包括非文本信息时，终端可以将非文本信息转换成文本信息。例如，当交互信息中包括语音信息时，终端可以对获取到的语音信息进行语音识别，将语音信息转换为文本信息。当交互信息中包括发出的信号时，终端可以获取信号与对应文本之间的映射关系，信号对应的文本可以为预设的固定文本。比如，危险信号对应的固定文本为“此处可能存在危险”。终端可以根据信号与固定文本之间的映射关系将信号信息转换成文本信息。
在本实施例中，终端通过将交互信息中的非文本信息转换为文本信息，从而可以对所有的交互信息进行交互特征的提取，有效的提高了交互特征提取的通用性。
在一个实施例中，当交互信息中的交互文本数量少于预设数量时，终端在提取的交互文本中增加空字符，补足预设数量的交互文本。例如，当预设数量的交互文本为10句话的交互文本，虚拟对象对应的交互信息中只包括8句话的交互文本时，终端则用两个空字符串补足10句话的交互文本。当交互信息中的交互文本数量大于预设数量时，终端则从交互文本中提取预设数量的交互文本。
进一步的，终端可以通过多种方式提取预设数量的交互文本。例如，终端可以按照输入交互文本的时间先后顺序提取预设数量的交互文本。终端还可以对交互文本进行语义识别，根据交互文本对应的权重提取预设数量的交互文本。
在本实施例中，终端通过提取一定数量的交互文本，使得从每个交互文本中提取的交互特征数量时相同的，确保每个时间段对应的交互特征矩阵的一致性。以使行为检测模型可以利用整齐的交互特征矩阵确定虚拟对象的行为类别，避免因为数据不整齐而产生的误差，有效的提高了判断虚拟对象行为类别的准确性。
在一个实施例中，信息集中还包括虚拟对象对应的属性信息。信息集中包括的属性信息可以是虚拟对象整局游戏中对应的属性信息，也可以是游戏中的一个预设时间段内对应的属性信息。进一步的，终端可以利用游戏过程中预设时间段内的属性信息生成属性特征矩阵，通过将预设时间段对应的属性特征矩阵输入至行为检测模型，得到虚拟对象在预设时间段内符合属性特征的行为类别。进而对预设时间段内虚拟对象是否存在异常行为进行实时检测，不需要等到游戏结束之后再检测虚拟对象是否存在异常行为，有效的提高了异常行为检测的实时性。
其中，属性信息包括虚拟对象对应的自身属性数据以及统计属性数据。自身属性数据包括虚拟对象对应的多种属性值，例如，自身属性数据可以包括虚拟对象对应的体力属性值、物理攻击属性值、魔法攻击属性值、物理防御属性值、魔法防御属性值、韧性属性值、移动速度属性值以及暴击几率属性值等。统计属性数据为虚拟对象在虚拟场景中活动后统计出的多种属性值。例如，统计属性数据可以包括虚拟对象对应的输出属性值、承伤属性值以及经济属性值等。终端对每种属性数据进行标准化处理，得到多个维度的属性特征，利用多个维度的属性特征生成属性特征矩阵。
在本实施例中，终端通过从信息集中提取虚拟对象对应的属性信息，通过对属性信息进行标准化处理，得到多个维度的属性特征，利用多个维度的属性特征生成属性特征矩阵。行为检测模型可以通过属性特征矩阵综合虚拟对象在虚拟场景中的属性特征，从而得到符合虚拟对象属性特征的行为类别，有效的提高了行为类别的准确性，进而提高了虚拟对象异常行为检测的准确性。
在一个实施例中，信息集中包括多个时间片段对应的信息子集，每个信息子集中都包括虚拟对象在对应时间片段内的属性信息。终端可以从信息子集中提取虚拟对象在对应时间片段内的属性信息。终端从每个时间片段对应的属性信息中提取虚拟对象对应的属性特征，生成每个时间片段对应的子属性特征矩阵，终端将生成的多个子属性特征矩阵进行拼接，得到虚拟对象在多个时间片段内的属性特征矩阵。终端通过将拼接而成的属性特征矩阵输入至行为检测模型，即可得到符合虚拟对象在多个时间片段内的属性特征的行为类别。
在本实施例中，终端通过多个信息子集中包括的属性信息，分别生成虚拟对象在每个时间片段对应的子属性特征矩阵，减少了运算过程中需要处理的行为信息量。利用由多个子属性特征矩阵拼接而成的属性特征矩阵检测虚拟对象是否存在异常行为，保证了用于检测异常行为的属性特征矩阵所覆盖的时间长度，避免因为属性特征矩阵所对应的时间长度较小而导致的漏检，有效的提高了虚拟对象异常行为检测的准确性。
在一个实施例中，在将特征矩阵输入至行为检测模型之后，上述异常行为检测方法还包括：通过行为检测模型将特征矩阵转换为多个维度的特征向量，特征向量包括行为向量、交互向量以及属性向量；将行为向量、交互向量以及属性向量进行拼接，生成综合向量；根据综合向量确定虚拟对象所对应的行为类别。
终端输入行为检测模型的特征矩阵包括行为特征矩阵、属性特征矩阵以及聊天特征矩阵。行为特征矩阵、属性特征矩阵以及聊天特征矩阵可以是虚拟对象在整局游戏中对应的特征矩阵，也可以是在预设时间段内对应的特征矩阵。通过训练后的行为检测模型可以将特征矩阵分别转换为特征向量。具体的，通过行为检测模型可以对特征矩阵进行卷积处理和池化处理，得到特征矩阵对应的特征图，对得到的特征图进行向量化处理后，即可得到对应的特征向量。在其中一个实施例中，还可以通过行为检测模型直接从特征矩阵中提取特征向量。
行为检测模型对特征矩阵进行转换，得到包括行为向量、交互向量以及属性向量的多个维度的特征向量。其中，行为向量、交互向量以及属性向量中还可以包括多个维度的向量。将行为向量、属性向量以及交互向量进行拼接，生成虚拟对象对应的综合向量，将综合向量接入行为检测模型中的循环层。行为检测模型的循环层后接入全连接隐层，通过对虚拟对象对应的行为类别进行学习，根据拼接生成的综合向量得到虚拟对象对应的行为类别。
在本实施例中，通过行为检测模型将特征矩阵转换为特征向量，并拼接行为向量、交互向量以及属性向量，生成综合向量。利用由行为向量、交互向量和属性向量拼接生成的综合向量确定虚拟对象的行为类别，充分综合了虚拟对象的行为特征、交互特征以及属性特征，通过多模态的数据，有效的提高了行为类别的准确性，进而提高了虚拟对象异常行为检测的准确性。
在一个实施例中，终端利用行为检测模型对输入的特征矩阵进行运算，行为检测模型的网络结构可以如图5所示。其中，通过输入层输入的特征矩阵可以包括与多个时间片段对应的子特征矩阵。每个子特征矩阵可以包括子行为特征矩阵、子交互特征矩阵以及子属性特征矩阵中的至少一个。如图5所示，通过输入层输入的特征矩阵中可以包括由t1到tL的L个时间片段对应的子特征矩阵。其中，t表示时间片段，L为大于或等于2的正整数。每个子特征矩阵中都可以包括子行为特征矩阵、子交互特征矩阵以及子属性特征矩阵。终端将由多个子特征矩阵拼接而成的特征矩阵输入至行为检测模型。
终端通过行为检测模型分别对每个时间片段对应的子行为特征矩阵、子交互特征矩阵以及子属性特征矩阵转换为子行为向量、子交互向量以及子属性向量。其中，终端可以通过多种方式将子特征矩阵转换为子向量。比如，终端可以通过对子行为特征矩阵和子交互特征矩阵进行卷积处理、池化处理以及向量化处理，得到对应的子行为向量和子交互向量。终端还可以直接从子属性特征矩阵中提取得到子属性向量。终端将每个时间段对应的子行为向量、子交互向量以及子属性向量分别进行拼接，得到每个时间片段对应的子综合向量。终端将L个子综合向量进行拼接，并输入行为检测模型中的循环层，行为检测模型的循环层后接入全连接隐层，从输出层输出虚拟对象对应的行为类别。
在本实施例中，终端利用多个时间片段对应的子特征矩阵，能够实时检测虚拟对象在对应的多个时间片段内是否存在异常行为，减少了运算过程中需要处理的信息量的同时避免了因为子特征矩阵所对应的时间长度较小而导致的漏检。子特征矩阵包括子行为特征矩阵、子交互特征矩阵以及子属性特征矩阵，通过子行为特征矩阵、子交互特征矩阵以及子属性特征矩阵得到符合行为特征、交互特征以及属性特征的行为类别，有效的提高了行为类别的准确性，提高了虚拟对象异常行为检测的准确性。
在一个实施例中，得到虚拟对象所对应的行为类别的步骤包括：利用行为检测模型输出多个标准类别各自的类别概率；将大于预设阈值的类别概率所对应的标准类别确定为虚拟对象对应的行为类别。
标准类别包括虚拟对象可能存在的行为对应的行为类别，标准类别具体可以包括正常行为和异常行为。异常行为包括离线行为、消极行为以及恶意攻击行为中的至少一种。
其中，离线行为是指虚拟对象在虚拟场景中无活动的行为。离线行为可以是由多种方式造成的。例如，终端可以根据接收到的操作使应用断开网络连接，比如断开终端的网络连接、结束应用运行进程等，从而造成虚拟对象的离线行为。用户还可以不对虚拟对象进行控制操作，从而造成虚拟对象的离线行为。消极行为是指由于用户进行的不利于游戏的消极操作而使虚拟对象产生的行为。例如，虚拟对象因为用户的消极操作产生的“送死”行为。恶意攻击行为是指根据终端接收到的控制操作进行的非游戏恶意攻击行为。例如，虚拟对象对应的交互信息中发送的辱骂性聊天信息。
终端可以利用行为检测模型对特征矩阵进行运算，得到行为检测模型输出的多个标准类别分别对应的类别概率。终端将各个标准类别对应的类别概率与预设阈值进行比较。当类别概率大于预设阈值时，则将类别概率对应的标准类别确定为虚拟对象对应的行为类别。其中，预设阈值的大小可以根据实际需求设置，比如可以为75％。行为检测模型可以输出包括正常行为和异常行为的标准类别的类别概率，也可以输出包括正常行为，以及多种异常行为中的至少一种的标准类别的类别概率。
例如，终端可以通过行为检测模型得到虚拟对象对应的正常行为对应的类别概率为5％，异常行为对应的概率为95％。终端将正常行为对应的5％和异常行为对应的95％与预设阈值进行比较，如预设阈值设定为75％，则确定虚拟对象对应的行为类别为异常行为。终端还可以通过行为检测模型得到虚拟对象对应的正常行为对应的类别概率为5％，恶意攻击行为对应的概率为85％，消极行为对应的概率为90％，离线行为对应的概率为12％，如预设阈值设定为75％，终端则可以确定虚拟对象对应的行为类别包括恶意攻击行为以及消极行为。
在本实施例中，终端利用行为检测模型输出的类别概率与预设阈值进行比较，确定大于预设阈值的类别概率对应的标准类别为虚拟对象对应的行为类别，从而判断虚拟对象对应的行为类别是否为异常行为。行为检测模型每根据特征矩阵运算一次，就可以对虚拟对象的异常行为进行一次检测。在游戏过程中可以及时检测虚拟对象的异常行为，不需要花费大量的时间，有效的提高了虚拟对象异常行为的检测效率。
在一个实施例中，终端利用行为检测模型输出多个标准类别对应的类别概率后，还可以将输出的多个类别概率进行比较，将类别概率最大的标准类别确定为虚拟对象对应的行为类别。例如，终端通过行为检测模型得到虚拟对象对应的正常行为对应的概率为2％，消极行为对应的概率为5％，离线行为对应的概率为97％。终端将三种标准类别对应的类别概率进行比较，确定虚拟对象对应的行为类别为概率为97％的离线行为。
在本实施例中，终端通过确定类别概率最大的标准类别为虚拟对象的行为类别，从而判断虚拟对象对应的行为类别是否为异常行为。在游戏过程中就可以及时检测虚拟对象的异常行为，不需要花费大量的时间，有效的提高了虚拟对象异常行为的检测效率。
在一个实施例中，上述异常行为检测方法还包括：根据异常行为生成携带用户标识的异常处理请求，将异常处理请求发送至服务器，用于指示服务器获取与用户标识对应的历史异常行为记录，利用异常行为更新历史异常行为记录，根据更新后的历史异常行为记录确定异常处理结果；接收服务器返回的异常处理结果，并在显示页面进行展示。
终端在确定虚拟对象存在异常行为时，根据确定的异常行为生成异常处理请求，异常处理请求中携带了与虚拟对象对应的用户标识以及虚拟对象对应的异常行为信息。终端将生成的异常处理请求发送至服务器。
服务器接收到终端上传的异常处理请求后，对异常处理请求进行解析，得到异常处理请求中携带的用户标识和异常行为信息。服务器可以从数据库中获取与用户标识对应的历史异常行为记录，利用异常处理请求中的异常行为信息更新用户标识对应的历史异常行为记录。例如，当异常处理请求中携带的异常行为信息包括虚拟对象存在消极行为时，服务器则将用户标识对应的历史异常行为记录中的消极行为记录更新。
服务器根据更新后的历史异常行为记录确定异常处理结果。具体的，服务器可以获取历史异常行为记录与异常处理结果之间的映射关系。其中，历史异常行为记录与异常处理结果之间可以包括多种映射关系。例如，历史异常行为记录与异常处理结果之间的映射关系可以是异常行为次数与异常结果之间的映射关系，还可以是异常行为的发生频率与异常结果之间的映射关系。服务器根据历史异常行为记录与异常处理结果之间的映射关系确定异常处理结果。异常处理结果可以包括容忍处理、警告处理以及惩罚处理等多种处理方式。
服务器可以将根据更新后的历史异常行为记录确定的异常处理结果返回至终端。在其中一个实施例中，服务器还可以将异常处理结果返回至同一局游戏对应的所有终端，以使所有终端都接收到异常处理结果。
终端接收服务器返回的异常处理结果，并将服务器返回的异常处理结果在应用的显示页面进行展示。其中，终端可以在游戏中的显示页面展示异常处理结果，以提示终端对应的用户消除控制虚拟对象进行的异常行为。终端也可以在游戏结束后的显示页面展示异常处理结果，提示存在异常行为的虚拟对象对应的用户不要再进行导致异常行为的操作。终端还可以向同一局游戏对应的其他用户展示异常处理结果，提示其他用户也不要进行产生虚拟对象异常行为的操作。
在本实施例中，终端将检测出的异常行为通过生成的异常处理请求发送至服务器，以使服务器根据异常处理请求更新用户标识对应的历史异常行为记录，并根据更新后的历史异常行为记录确定对应的异常处理结果。终端将接收到的异常处理结果在显示页面进行展示，以供终端对应的用户进行浏览。终端在检测到虚拟对象对应的异常行为后，对异常行为进行处理，并展示异常处理结果，提示用户不进行导致虚拟对象异常行为的操作，从而有效的提高了应用的用户体验，提高了应用的用户粘度。
在一个实施例中，终端通过行为检测模型得到虚拟对象对应的行为类别后，将虚拟对象对应的行为类别发送至服务器。服务器接收同一局游戏中多个终端发送的虚拟对象行为类别，将多个终端发送的虚拟对象行为类别进行比对，以此对终端得到的行为类别进行校验。由于在同一局游戏中的相同时间，每一台终端记录的相同虚拟对象的信息是完全相同的。因此，终端得到的相同时间段内同一个虚拟对象对应的行为类别也应当是相同的。当服务器比对同一局游戏对应的多个终端发送的虚拟对象行为类别相同时，则校验成功。否则，校验失败，表示存在终端的异常行为检测过程出现异常。
在本实施例中，终端通过将得到的虚拟对象对应的行为类别发送至服务器，服务器根据同一局游戏中多个终端发送的虚拟对象行为类别进行比对，以此对终端得到的行为类别进行校验，有效的提高了终端得到的虚拟对象行为类别的准确性，进而提高了虚拟对象异常行为检测的准确性。
在一个实施例中，终端记录的虚拟对象可以包括该局游戏中存在的多个虚拟对象中的至少一个。即终端可以记录本局游戏中一个虚拟对象对应的信息，例如终端对应的虚拟对象的信息。也可以记录两个或两个以上虚拟对象对应的信息，例如本局游戏中的所有虚拟对象的信息。当信息集中包括多个虚拟对象对应的信息时，终端则可以根据该信息集对多个虚拟对象对应的异常行为进行检测。
在本实施例中，不需要每个虚拟对象对应的终端都进行异常行为检测，减少了一局游戏中进行异常行为检测的终端数量，有效的节省了终端在进行异常行为检测的过程中所需的运行资源，例如内存资源等。
在一个实施例中，服务器可以从一局游戏对应的多个终端中，选择其中的部分终端进行异常行为检测，即在游戏过程中不需要每台终端都对游戏中的虚拟对象进行异常行为检测。具体的，服务器在接收到用户通过终端进行的匹配操作后，根据匹配条件查找正在执行匹配操作的其他用户，并建立虚拟房间。虚拟房间中的用户标识数量与游戏模式对应的要求相同。服务器可以从虚拟房间中随机选择部分用户标识，以使用户标识对应的终端进行对虚拟对象异常行为的检测。
其中，部分用户标识可以为虚拟房间中的一个或多个用户标识，每个用户标识对应的终端检测的虚拟对象也可以进行选择。例如，服务器可以从虚拟房间中的两支队伍中各选择一个用户标识，且该用户标识对应的终端在游戏中只检测本队虚拟对象对应的异常行为。
在本实施例中，服务器可以从一局游戏对应的多个终端中选择其中的部分终端进行异常行为检测，减少了一局游戏中进行异常行为检测的终端数量，有效的节省了终端在进行异常行为检测的过程中所需的运行资源，例如内存资源等。
在一个实施例中，异常行为检测方法还包括：获取通过触发显示页面生成的应用启动指令；根据应用启动指令拉取对应的配置文件，配置文件中包括行为检测模型对应的配置信息；根据配置信息加载行为检测模型，行为检测模型用于检测虚拟对象是否存在异常行为。
终端获取用户标识触发显示页面中的启动控件的操作，根据触发启动控件的操作生成应用启动指令，应用启动指令用于触发应用开始游戏。终端根据应用启动指令拉取对应的配置文件。其中，配置文件中可以包括多种运行游戏需要的配置信息。例如，配置文件中可以包括虚拟场景对应的配置信息、虚拟对象对应的配置信息以及控制虚拟对象对应的配置信息等。在终端需要进行异常行为检测时，拉取的配置文件中还包括行为检测模型对应的配置信息。终端在加载配置文件时根据行为检测模型对应的配置信息加载行为检测模型，从而利用行为检测模型检测游戏过程中虚拟对象是否存在异常行为。
在本实施例中，终端通过获取行为检测模型对应的配置信息，根据配置信息加载行为检测模型，从而利用行为检测模型检测游戏过程中虚拟对象是否存在异常行为。相较于传统方式，在游戏运行过程中就可以对虚拟对象进行异常行为的检测，不需要等到游戏结束之后。而且，通过行为检测模型对异常行为进行检测，不需要工作人员花费大量的时间进行审核，有效的提高了异常行为的检测效率。
在一个实施例中，行为检测模型可以根据初始模型训练得到。具体的，可以利用模型训练样本对初始模型进行训练，初始模型为神经网络模型。模型训练样本中包括用于训练初始模型的训练集，以及验证训练后的初始模型的验证集。训练集中的训练数据为已标注样本。例如，当训练集中的训练数据中，对应的虚拟对象存在异常行为时，则将训练数据标记为正样本。当训练集中的训练数据中，对应的虚拟对象不存在异常行为时，则将训练数据标记为负样本。利用标注后的正、负样本对初始模型进行训练，经过多轮神经网络训练后，得到训练后的初始模型。利用验证集对训练后的初始模型进行验证。其中，验证集中的验证数据为未标注样本。通过将验证集中的验证数据输入至训练后的初始模型，得到训练后的初始模型输出的检测结果。将检测结果与目标结果进行校验。当校验成功时，则将训练后的初始模型确定为行为检测模型。当校验失败时，则根据校验结果对训练后的初始模型进行调整，直到校验成功。
在本实施例中，通过对初始模型进行训练，得到行为检测模型。利用行为检测模型检测游戏中虚拟对象是否存在异常行为，不需要工作人员花费大量的时间进行审核，有效的提高了异常行为的检测效率。
图2为一个实施例中异常行为检测方法的流程示意图，图3和图4分别为实施例中根据信息集生成虚拟对象对应的特征矩阵的步骤的流程示意图。应该理解的是，虽然图2、图3和图4的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，图2、图3和图4中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
如图6所示，在一个实施例中，提供了一种异常行为检测装置，该装置包括信息集获取模块602、矩阵生成模块604、类别确定模块606以及异常行为确定模块608，其中：
信息集获取模块602，用于获取虚拟对象在可操作状态下的信息集。
矩阵生成模块604，用于根据信息集生成虚拟对象对应的特征矩阵。
类别确定模块606，用于将特征矩阵输入至行为检测模型，得到虚拟对象所对应的行为类别。
异常行为确定模块608，用于当行为类别属于目标类别时，确定虚拟对象在可操作状态下存在异常行为。
上述异常行为检测装置，通过获取虚拟对象在可操作状态下的信息集，以此获取虚拟对象的运行记录。根据信息集生成虚拟对象在可操作状态下的特征矩阵，特征矩阵能够充分表示虚拟对象在可操作状态下的特征。通过利用行为检测模型对虚拟对象对应的特征矩阵进行运算，即可快速准确的得到虚拟对象对应的行为类别，从而根据行为类别检测出虚拟对象是否存在异常行为，不需要工作人员花费大量的时间进行审核，有效的提高了异常行为的检测效率。
在一个实施例中，上述矩阵生成模块604还用于从信息集中提取虚拟对象对应的行为信息，行为信息包括多种行为数据；对行为数据进行归一化处理，得到对应的行为特征；利用行为特征生成行为特征矩阵。
在一个实施例中，上述矩阵生成模块604还用于信息集中包括虚拟对象对应的交互信息，从交互信息中提取预设数量的交互文本；对交互文本进行分词，得到多个词语；根据多个词语确定每个词语所对应的词向量；利用词向量生成虚拟对象对应的交互特征矩阵。
在一个实施例中，信息集中包括多个时间片段对应的信息子集，上述矩阵生成模块604还用于根据信息子集生成与时间片段对应的子特征矩阵；将多个子特征矩阵进行拼接，得到虚拟对象对应的特征矩阵。
在一个实施例中，上述类别确定模块606还用于通过行为检测模型将特征矩阵转换为多个维度的特征向量，特征向量包括行为向量、交互向量以及属性向量；将行为向量、交互向量以及属性向量进行拼接，生成综合向量；根据综合向量确定虚拟对象所对应的行为类别。
在一个实施例中，上述类别确定模块606还用于利用行为检测模型输出多个标准类别各自的类别概率；将大于预设阈值的类别概率所对应的标准类别确定为虚拟对象对应的行为类别。
在一个实施例中，上述异常行为检测装置还包括异常处理模块，用于根据异常行为生成携带用户标识的异常处理请求；将异常处理请求发送至服务器，用于指示服务器获取与用户标识对应的历史异常行为记录，利用异常行为更新历史异常行为记录，根据更新后的历史异常行为记录确定异常处理结果；接收服务器返回的异常处理结果，并在显示页面进行展示。
在一个实施例中，上述异常行为检测装置还包括模型加载模块，用于获取通过触发显示页面生成的应用启动指令；根据应用启动指令拉取对应的配置文件，配置文件中包括行为检测模型对应的配置信息；根据配置信息加载行为检测模型，行为检测模型用于检测虚拟对象是否存在异常行为。
图7示出了一个实施例中计算机设备的内部结构图。该计算机设备具体可以是图1中的终端。如图7所示，该计算机设备包括该计算机设备包括通过系统总线连接的处理器、存储器、网络接口、输入装置和显示屏。其中，存储器包括非易失性存储介质和内存储器。该计算机设备的非易失性存储介质存储有操作系统，还可存储有计算机程序，该计算机程序被处理器执行时，可使得处理器实现异常行为检测方法。该内存储器中也可储存有计算机程序，该计算机程序被处理器执行时，可使得处理器执行异常行为检测方法。计算机设备的显示屏可以是液晶显示屏或者电子墨水显示屏，计算机设备的输入装置可以是显示屏上覆盖的触摸层，也可以是计算机设备外壳上设置的按键、轨迹球或触控板，还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解，图7中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
在一个实施例中，本申请提供的异常行为检测装置可以实现为一种计算机程序的形式，计算机程序可在如图7所示的计算机设备上运行。计算机设备的存储器中可存储组成该异常行为检测装置的各个程序模块，比如，图6所示的信息集获取模块602、矩阵生成模块604、类别确定模块606和异常行为确定模块608。各个程序模块构成的计算机程序使得处理器执行本说明书中描述的本申请各个实施例的异常行为检测方法中的步骤。
例如，图7所示的计算机设备可以通过如图6所示的异常行为检测装置中的信息集获取模块602执行获取虚拟对象在可操作状态下的信息集。计算机设备可通过矩阵生成模块604执行根据信息集生成虚拟对象对应的特征矩阵。计算机设备可通过类别确定模块606执行将特征矩阵输入至行为检测模型，得到虚拟对象所对应的行为类别。计算机设备可通过异常行为确定模块608执行当行为类别属于目标类别时，确定虚拟对象在可操作状态下存在异常行为。
在一个实施例中，提供了一种计算机设备，包括存储器和处理器，存储器存储有计算机程序，计算机程序被处理器执行时，使得处理器执行上述异常行为检测方法的步骤。此处异常行为检测方法的步骤可以是上述各个实施例的异常行为检测方法中的步骤。
在一个实施例中，提供了一种计算机可读存储介质，存储有计算机程序，计算机程序被处理器执行时，使得处理器执行上述异常行为检测方法的步骤。此处异常行为检测方法的步骤可以是上述各个实施例的异常行为检测方法中的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一非易失性计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对本申请专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。

Claims (18)

1.一种异常行为检测方法，包括：
获取虚拟对象在可操作状态下的信息集，所述虚拟对象是Moba游戏应用的虚拟场景中的数字化可操作对象；
根据所述信息集生成所述虚拟对象对应的特征矩阵，所述信息集包括行为信息，还包括属性信息和交互信息中的至少一种；所述行为信息包括所述虚拟对象对应的坐标数据以及技能数据；
将所述特征矩阵输入至行为检测模型，得到所述虚拟对象所对应的行为类别；
当所述行为类别属于目标类别时，确定所述虚拟对象在可操作状态下存在异常行为。
2.根据权利要求1所述的方法，其特征在于，所述根据所述信息集生成所述虚拟对象对应的特征矩阵包括：
从所述信息集中提取所述虚拟对象对应的行为信息；
对所述行为数据进行归一化处理，得到对应的行为特征；
利用所述行为特征生成行为特征矩阵。
3.根据权利要求1所述的方法，其特征在于，所述根据所述信息集生成所述虚拟对象对应的特征矩阵包括：
所述信息集中包括所述虚拟对象对应的交互信息，从所述交互信息中提取预设数量的交互文本；
对所述交互文本进行分词，得到多个词语；
根据多个词语确定每个词语所对应的词向量；
利用所述词向量生成所述虚拟对象对应的交互特征矩阵。
4.根据权利要求1所述的方法，其特征在于，所述信息集中包括多个时间片段对应的信息子集；所述根据所述信息集生成所述虚拟对象对应的特征矩阵包括：
根据所述信息子集生成与所述时间片段对应的子特征矩阵；
将多个所述子特征矩阵进行拼接，得到所述虚拟对象对应的特征矩阵。
5.根据权利要求1所述的方法，其特征在于，在所述将所述特征矩阵输入至行为检测模型之后，所述方法还包括：
通过所述行为检测模型将所述特征矩阵转换为多个维度的特征向量，所述特征向量包括行为向量、交互向量以及属性向量；
将所述行为向量、交互向量以及属性向量进行拼接，生成综合向量；
根据所述综合向量确定所述虚拟对象所对应的行为类别。
6.根据权利要求1所述的方法，其特征在于，所述得到所述虚拟对象所对应的行为类别包括：
利用所述行为检测模型输出多个标准类别各自的类别概率；
将大于预设阈值的类别概率所对应的标准类别确定为所述虚拟对象对应的行为类别。
7.根据权利要求1所述的方法，其特征在于，所述方法还包括：
根据所述异常行为生成携带用户标识的异常处理请求；
将所述异常处理请求发送至服务器，用于指示所述服务器获取与所述用户标识对应的历史异常行为记录，利用所述异常行为更新所述历史异常行为记录，根据更新后的历史异常行为记录确定异常处理结果；
接收所述服务器返回的所述异常处理结果，并在显示页面进行展示。
8.根据权利要求1所述的方法，其特征在于，所述方法还包括：
获取通过触发显示页面生成的应用启动指令；
根据所述应用启动指令拉取对应的配置文件，所述配置文件中包括所述行为检测模型对应的配置信息；
根据所述配置信息加载所述行为检测模型，所述行为检测模型用于检测所述虚拟对象是否存在异常行为。
9.一种异常行为检测装置，其特征在于，所述装置包括：
信息集获取模块，用于获取虚拟对象在可操作状态下的信息集，所述虚拟对象是Moba游戏应用的虚拟场景中的数字化可操作对象；
矩阵生成模块，用于根据所述信息集生成所述虚拟对象对应的特征矩阵，所述信息集包括行为信息，还包括属性信息和交互信息中的至少一种；所述行为信息包括所述虚拟对象对应的坐标数据以及技能数据；
类别确定模块，用于将所述特征矩阵输入至行为检测模型，得到所述虚拟对象所对应的行为类别；
异常行为确定模块，用于当所述行为类别属于目标类别时，确定所述虚拟对象在可操作状态下存在异常行为。
10.根据权利要求9所述的装置，其特征在于，所述矩阵生成模块还用于从所述信息集中提取所述虚拟对象对应的行为信息；对所述行为数据进行归一化处理，得到对应的行为特征；利用所述行为特征生成行为特征矩阵。
11.根据权利要求9所述的装置，其特征在于，所述矩阵生成模块还用于所述信息集中包括所述虚拟对象对应的交互信息，从所述交互信息中提取预设数量的交互文本；对所述交互文本进行分词，得到多个词语；根据多个词语确定每个词语所对应的词向量；利用所述词向量生成所述虚拟对象对应的交互特征矩阵。
12.根据权利要求9所述的装置，其特征在于，所述信息集中包括多个时间片段对应的信息子集；所述矩阵生成模块还用于根据所述信息子集生成与所述时间片段对应的子特征矩阵；将多个所述子特征矩阵进行拼接，得到所述虚拟对象对应的特征矩阵。
13.根据权利要求9所述的装置，其特征在于，所述类别确定模块还用于通过所述行为检测模型将所述特征矩阵转换为多个维度的特征向量，所述特征向量包括行为向量、交互向量以及属性向量；将所述行为向量、交互向量以及属性向量进行拼接，生成综合向量；根据所述综合向量确定所述虚拟对象所对应的行为类别。
14.根据权利要求9所述的装置，其特征在于，所述类别确定模块还用于利用所述行为检测模型输出多个标准类别各自的类别概率；将大于预设阈值的类别概率所对应的标准类别确定为所述虚拟对象对应的行为类别。
15.根据权利要求9所述的装置，其特征在于，所述装置还包括异常处理模块，用于根据所述异常行为生成携带用户标识的异常处理请求；将所述异常处理请求发送至服务器，用于指示所述服务器获取与所述用户标识对应的历史异常行为记录，利用所述异常行为更新所述历史异常行为记录，根据更新后的历史异常行为记录确定异常处理结果；接收所述服务器返回的所述异常处理结果，并在显示页面进行展示。
16.根据权利要求9所述的装置，其特征在于，所述装置还包括模型加载模块，用于获取通过触发显示页面生成的应用启动指令；根据所述应用启动指令拉取对应的配置文件，所述配置文件中包括所述行为检测模型对应的配置信息；根据所述配置信息加载所述行为检测模型，所述行为检测模型用于检测所述虚拟对象是否存在异常行为。
17.一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如权利要求1至8中任一项所述方法的步骤。
18.一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如权利要求1至8中任一项所述方法的步骤。
CN201910390556.9A 2019-05-10 2019-05-10 异常行为检测方法和装置 Active CN110075524B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910390556.9A CN110075524B (zh) 2019-05-10 2019-05-10 异常行为检测方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910390556.9A CN110075524B (zh) 2019-05-10 2019-05-10 异常行为检测方法和装置

Publications (2)

Publication Number Publication Date
CN110075524A CN110075524A (zh) 2019-08-02
CN110075524B true CN110075524B (zh) 2020-11-13

Family

ID=67419666

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910390556.9A Active CN110075524B (zh) 2019-05-10 2019-05-10 异常行为检测方法和装置

Country Status (1)

Country Link
CN (1) CN110075524B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111143178B (zh) * 2019-12-12 2022-07-29 支付宝(杭州)信息技术有限公司 用户行为分析方法、装置及设备
CN113315742B (zh) * 2020-02-27 2022-08-09 华为技术有限公司 攻击行为检测方法、装置及攻击检测设备
CN111417021B (zh) * 2020-03-16 2022-07-08 广州虎牙科技有限公司 外挂识别方法、装置、计算机设备和可读存储介质
CN111753293B (zh) * 2020-06-29 2022-08-02 苏州浪潮智能科技有限公司 一种操作行为监测方法、装置及电子设备和存储介质
CN112295231A (zh) * 2020-11-05 2021-02-02 中国联合网络通信集团有限公司 一种操作训练方法及服务器
CN112488226B (zh) * 2020-12-10 2022-11-01 中国电子科技集团公司第三十研究所 一种基于机器学习算法的终端异常行为识别方法
CN112973128A (zh) * 2021-03-09 2021-06-18 杭州电魂网络科技股份有限公司 消极游戏行为自动分析处理方法、装置、设备及介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108654091A (zh) * 2018-05-14 2018-10-16 网易（杭州）网络有限公司 用于游戏中作弊校验的方法、介质、装置和计算设备

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1750481A (zh) * 2005-09-29 2006-03-22 西安交大捷普网络科技有限公司 基于时间段加权统计模型的网络异常检测方法
CN103218628A (zh) * 2013-03-22 2013-07-24 中国科学技术大学 一种基于团块与轨迹特征的异常行为描述方法
CN104850846B (zh) * 2015-06-02 2018-08-24 深圳大学 一种基于深度神经网络的人体行为识别方法及识别系统
CN109241994A (zh) * 2018-07-31 2019-01-18 顺丰科技有限公司 一种用户异常行为检测方法、装置、设备及存储介质
CN109241946A (zh) * 2018-10-11 2019-01-18 平安科技（深圳）有限公司 异常行为监控方法、装置、计算机设备及存储介质
CN109464807A (zh) * 2018-11-06 2019-03-15 网易（杭州）网络有限公司 检测游戏外挂的方法、装置和终端
CN109464808A (zh) * 2018-11-06 2019-03-15 网易（杭州）网络有限公司 检测游戏外挂的方法、装置和终端
CN109495479B (zh) * 2018-11-20 2021-12-24 华青融天(北京)软件股份有限公司 一种用户异常行为识别方法及装置
CN109522304B (zh) * 2018-11-23 2021-05-18 中国联合网络通信集团有限公司 异常对象识别方法及装置、存储介质

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108654091A (zh) * 2018-05-14 2018-10-16 网易（杭州）网络有限公司 用于游戏中作弊校验的方法、介质、装置和计算设备

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王者荣耀：排位挂机严重，惩罚太轻建议封号，天美：正在考虑;醉里挑灯上王者;《https://m.sohu.com/a/301105268_120099904/?pvid=000115_3w_a》;20190314;第1-3页 *

Also Published As

Publication number Publication date
CN110075524A (zh) 2019-08-02

Similar Documents

Publication Publication Date Title
CN110075524B (zh) 异常行为检测方法和装置
CN109960726B (zh) 文本分类模型构建方法、装置、终端及存储介质
WO2019184217A1 (zh) 热点事件分类方法、装置及存储介质
CN112533051B (zh) 弹幕信息显示方法、装置、计算机设备和存储介质
WO2018196718A1 (zh) 图像消歧方法、装置、存储介质和电子设备
CN113408278B (zh) 意图识别方法、装置、设备及存储介质
US20230410222A1 (en) Information processing apparatus, control method, and program
CN113538070A (zh) 用户生命价值周期检测方法、装置和计算机设备
CN116431769A (zh) 基于定制化ai云平台服务的交互数据分析方法及软件产品
CN109523613B (zh) 数据处理方法、装置、计算机可读存储介质和计算机设备
US20220387897A1 (en) Systems and methods for video streaming analysis
CN113268589B (zh) 关键用户识别方法、装置、可读存储介质和计算机设备
CN111444906B (zh) 基于人工智能的图像识别方法和相关装置
CN114548263A (zh) 标注数据的校验方法、装置、计算机设备及存储介质
CN113836005A (zh) 一种虚拟用户的生成方法、装置、电子设备和存储介质
CN113827981A (zh) 一种基于朴素贝叶斯的游戏流失用户预测方法和系统
CN111522722A (zh) 一种数据分析方法、电子设备及存储介质
CN112925949B (zh) 视频帧数据采样方法、装置、计算机设备和存储介质
CN113535885B (zh) 基于用户昵称的年龄预测方法、装置及电子设备
CN112863627B (zh) 医疗质控信息检测方法、系统以及存储介质
CN113779237B (zh) 构建社交行为序列图的方法、系统、移动终端及可读存储介质
CN111598159B (zh) 机器学习模型的训练方法、装置、设备及存储介质
CN115374372B (zh) 网络社区虚假信息快速识别方法及装置、设备、存储介质
CN111967518B (zh) 应用标注方法、应用标注装置及终端设备
US11294946B2 (en) Methods and systems for generating textual summary from tabular data

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant