CN111538991A - 对抗样本检测方法、装置及计算机可读存储介质 - Google Patents

Abstract

本发明公开了一种对抗样本检测方法，包括以下步骤：将待检测文件样本输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量；基于各种良性样本对应的贡献度分布向量集以及所述贡献度分布向量进行离群分析，以确定所述贡献度分布向量是否为目标贡献度分布向量集的离群点；若所述贡献度分布向量为目标贡献度分布向量集的离群点，则确定所述待检测文件样本为对抗样本。本发明还公开了一种对抗样本检测装置及计算机可读存储介质。本发明通过贡献度分布向量准确检测对抗样本，并且由于良性样本包括各种良性训练样本，因此能够检测各种对抗样本，进一步提高对抗样本检测的准确性。

Description

对抗样本检测方法、装置及计算机可读存储介质

技术领域

本发明涉及数据处理技术领域，尤其涉及一种对抗样本检测方法、装置及计算机可读存储介质。

背景技术

目前，基于深度学习模型的恶意代码检测方式已经被广泛使用，然而深度学习模型有一定的局限性，例如，针对以PE文件为输入的深度学习检测方式，攻击者在原有的恶意代码的基础上，在不影响原有功能的前提下通过改动文件的少量字节，可以误导检测器将恶意代码识别为良性文件，现有深度学习检测方式则无法准确检测到该恶意代码，导致深度学习模型遭受对抗性样本攻击。

现有的防御对抗性样本方式，如模型蒸馏、对抗性训练等，通过提升模型自身的鲁棒性来增强对对抗性样本的识别能力，这种防御方式一般只能检测一种类型的对抗样本，并不能检测未知的对抗样本，导致对抗样本的检测不准确。

上述内容仅用于辅助理解本发明的技术方案，并不代表承认上述内容是现有技术。

发明内容

本发明的主要目的在于提供一种对抗样本检测方法、装置及计算机可读存储介质，旨在解决现有对抗样本检测方式无法准确检测对抗样本的技术问题。

为实现上述目的，本发明提供一种对抗样本检测方法，所述对抗样本检测方法包括以下步骤：

将待检测文件样本输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量；

基于各种良性样本对应的贡献度分布向量集以及所述贡献度分布向量进行离群分析，以确定所述贡献度分布向量是否为目标贡献度分布向量集的离群点，其中，所述目标贡献度分布向量集包括所述贡献度分布向量集以及所述贡献度分布向量；

若所述贡献度分布向量为目标贡献度分布向量集的离群点，则确定所述待检测文件样本为对抗样本。

进一步地，所述将待检测文件样本输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量的步骤包括：

将待检测文件样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图；

基于各个特征图，确定所述待检测文件样本对应的贡献度向量；

基于所述贡献度向量以及所述待检测文件样本的文件结构，确定所述贡献度分布向量。

进一步地，所述基于各个特征图，确定所述待检测文件样本对应的贡献度向量的步骤包括：

基于所述恶意代码检测模型中分类器的输出结果，确定各个所述特征图对应的权重；

基于各个所述权重对各个所述特征图进行加权平均，并对加权平均结果进行噪声过滤操作，以获得所述贡献度向量。

进一步地，所述基于所述恶意代码检测模型中分类器的输出结果，确定各个所述特征图对应的权重的步骤包括：

基于所述恶意代码检测模型中分类器的输出结果，确定目标卷积层对应的梯度；

基于所述梯度，确定各个所述特征图对应的权重。

进一步地，所述基于所述贡献度向量以及所述待检测文件样本的文件结构，确定所述贡献度分布向量的步骤包括：

基于所述待检测文件样本中各个字节的位置以及所述贡献度向量，确定所述待检测文件样本中各个字节对应的贡献度；

基于各个字节对应的贡献度以及所述待检测文件样本的文件结构，确定所述贡献度分布向量。

进一步地，所述基于各个字节对应的贡献度以及所述待检测文件样本的文件结构，确定所述贡献度分布向量的步骤包括：

基于所述文件结构中文件头位置以及各节的位置，对所述待检测文件样本进行分块，以获得多个文件块；

基于预设规则对各个文件块进行分块，以获得各个文件块对应的预设数量的子文件块；

基于各个字节对应的贡献度以及各个所述子文件块，确定所述贡献度分布向量。

进一步地，所述基于各个字节对应的贡献度以及各个所述子文件块，确定所述贡献度分布向量的步骤包括：

基于各个字节对应的贡献度以及各个所述子文件块所包括的字节，确定各个子文件块对应的贡献度；

基于各个子文件块对应的贡献度，确定各个文件块对应的子贡献度向量；

基于各个文件块对应的子贡献度向量，确定所述贡献度分布向量。

进一步地，基于各个文件块对应的子贡献度向量，确定所述贡献度分布向量的步骤包括：

将各个文件块对应的子贡献度向量相加，以获得目标贡献度分布向量；

对所述目标贡献度分布向量进行归一化处理，以获得所述贡献度分布向量。

进一步地，所述将待检测文件样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图的步骤包括：

将所述将待检测文件样本输入所述恶意代码检测模型，以获取所述恶意代码检测模型中分类器的输出类别；

若所述分类器的输出类别为良性，则通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图。

进一步地，所述基于各种良性样本对应的贡献度分布向量集以及所述贡献度分布向量进行离群分析，以确定所述贡献度分布向量是否为目标贡献度分布向量集的离群点的步骤包括：

对所述目标贡献度分布向量集进行离群分析，以获取所述贡献度分布向量对应的局部离群因子；

确定所述局部离群因子是否大于预设离群因子，其中，若所述局部离群因子大于预设离群因子，则判定所述贡献度分布向量为目标贡献度分布向量集的离群点。

进一步地，所述将待检测矩阵输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量的步骤之前，所述对抗样本检测方法还包括：

将各种良性训练样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得各种良性训练样本对应的多个训练样本特征图；

基于各个训练样本特征图，确定各种良性训练样本对应的训练样本贡献度向量；

基于所述训练样本贡献度向量以及各种良性训练样本的文件结构，确定训练样本贡献度分布向量，并基于各个训练样本贡献度分布向量生成所述贡献度分布向量集。

此外，为实现上述目的，本发明还提供一种对抗样本检测装置，所述对抗样本检测装置包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的对抗样本检测程序，所述对抗样本检测程序被所述处理器执行时实现前述的对抗样本检测方法的步骤。

此外，为实现上述目的，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有对抗样本检测程序，所述对抗样本检测程序被处理器执行时实现前述的对抗样本检测方法的步骤。

本发明通过将待检测文件样本输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量；接着基于各种良性样本对应的贡献度分布向量集以及所述贡献度分布向量，进行离群分析，以确定所述贡献度分布向量是否为目标贡献度分布向量集的离群点，而后若所述贡献度分布向量为目标贡献度分布向量集的离群点，则确定所述待检测文件样本为对抗样本，能够通过贡献度分布向量准确检测对抗样本，并且由于良性样本包括各种良性训练样本，因此能够检测各种对抗样本，进一步提高对抗样本检测的准确性。

附图说明

图1是本发明实施例方案涉及的硬件运行环境中对抗样本检测装置的结构示意图；

图2为本发明对抗样本检测方法第一实施例的流程示意图。

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

如图1所示，图1是本发明实施例方案涉及的硬件运行环境中对抗样本检测装置的结构示意图。

本发明实施例对抗样本检测装置可以是PC，也可以是智能手机、平板电脑、电子书阅读器、MP3（Moving Picture Experts Group Audio Layer III，动态影像专家压缩标准音频层面3）播放器、MP4（Moving Picture Experts Group Audio Layer IV，动态影像专家压缩标准音频层面4）播放器、便携计算机等具有显示功能的可移动式终端设备。

如图1所示，该对抗样本检测装置可以包括：处理器1001，例如CPU，网络接口1004，用户接口1003，存储器1005，通信总线1002。其中，通信总线1002用于实现这些组件之间的连接通信。用户接口1003可以包括显示屏（Display）、输入单元比如键盘（Keyboard），可选用户接口1003还可以包括标准的有线接口、无线接口。网络接口1004可选的可以包括标准的有线接口、无线接口（如WI-FI接口）。存储器1005可以是高速RAM存储器，也可以是稳定的存储器（non-volatile memory），例如磁盘存储器。存储器1005可选的还可以是独立于前述处理器1001的存储装置。

可选地，对抗样本检测装置还可以包括摄像头、RF（Radio Frequency，射频）电路，传感器、音频电路、WiFi模块等等。其中，传感器比如光传感器、运动传感器以及其他传感器。当然，对抗样本检测装置还可配置陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。

本领域技术人员可以理解，图1中示出的结构并不构成对对抗样本检测装置的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。

如图1所示，作为一种计算机存储介质的存储器1005中可以包括操作系统、网络通信模块、用户接口模块以及对抗样本检测程序。

在图1所示的对抗样本检测装置中，网络接口1004主要用于连接后台服务器，与后台服务器进行数据通信；用户接口1003主要用于连接客户端（用户端），与客户端进行数据通信；而处理器1001可以用于调用存储器1005中存储的对抗样本检测程序。

在本实施例中，对抗样本检测装置包括：存储器1005、处理器1001及存储在所述存储器1005上并可在所述处理器1001上运行的对抗样本检测程序，其中，处理器1001调用存储器1005中存储的对抗样本检测程序时，并执行以下操作：

将待检测文件样本输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量；

基于各种良性样本对应的贡献度分布向量集以及所述贡献度分布向量进行离群分析，以确定所述贡献度分布向量是否为目标贡献度分布向量集的离群点，其中，所述目标贡献度分布向量集包括所述贡献度分布向量集以及所述贡献度分布向量；

若所述贡献度分布向量为目标贡献度分布向量集的离群点，则确定所述待检测文件样本为对抗样本。

进一步地，处理器1001可以调用存储器1005中存储的对抗样本检测程序，还执行以下操作：

将待检测文件样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图；

基于各个特征图，确定所述待检测文件样本对应的贡献度向量；

基于所述贡献度向量以及所述待检测文件样本的文件结构，确定所述贡献度分布向量。

进一步地，处理器1001可以调用存储器1005中存储的对抗样本检测程序，还执行以下操作：

基于所述恶意代码检测模型中分类器的输出结果，确定各个所述特征图对应的权重；

基于各个所述权重对各个所述特征图进行加权平均，并对加权平均结果进行噪声过滤操作，以获得所述贡献度向量。

进一步地，处理器1001可以调用存储器1005中存储的对抗样本检测程序，还执行以下操作：

基于所述恶意代码检测模型中分类器的输出结果，确定目标卷积层对应的梯度；

基于所述梯度，确定各个所述特征图对应的权重。

进一步地，处理器1001可以调用存储器1005中存储的对抗样本检测程序，还执行以下操作：

基于所述待检测文件样本中各个字节的位置以及所述贡献度向量，确定所述待检测文件样本中各个字节对应的贡献度；

基于各个字节对应的贡献度以及所述待检测文件样本的文件结构，确定所述贡献度分布向量。

进一步地，处理器1001可以调用存储器1005中存储的对抗样本检测程序，还执行以下操作：

基于所述文件结构中文件头位置以及各节的位置，对所述待检测文件样本进行分块，以获得多个文件块；

基于预设规则对各个文件块进行分块，以获得各个文件块对应的预设数量的子文件块；

基于各个字节对应的贡献度以及各个所述子文件块，确定所述贡献度分布向量。

进一步地，处理器1001可以调用存储器1005中存储的对抗样本检测程序，还执行以下操作：

基于各个字节对应的贡献度以及各个所述子文件块所包括的字节，确定各个子文件块对应的贡献度；

基于各个子文件块对应的贡献度，确定各个文件块对应的子贡献度向量；

基于各个文件块对应的子贡献度向量，确定所述贡献度分布向量。

进一步地，处理器1001可以调用存储器1005中存储的对抗样本检测程序，还执行以下操作：

将各个文件块对应的子贡献度向量相加，以获得目标贡献度分布向量；

对所述目标贡献度分布向量进行归一化处理，以获得所述贡献度分布向量。

进一步地，处理器1001可以调用存储器1005中存储的对抗样本检测程序，还执行以下操作：

将所述将待检测文件样本输入所述恶意代码检测模型，以获取所述恶意代码检测模型中分类器的输出类别；

若所述分类器的输出类别为良性，则通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图。

进一步地，处理器1001可以调用存储器1005中存储的对抗样本检测程序，还执行以下操作：

对所述目标贡献度分布向量集进行离群分析，以获取所述贡献度分布向量对应的局部离群因子；

确定所述局部离群因子是否大于预设离群因子，其中，若所述局部离群因子大于预设离群因子，则判定所述贡献度分布向量为目标贡献度分布向量集的离群点。

进一步地，处理器1001可以调用存储器1005中存储的对抗样本检测程序，还执行以下操作：

将各种良性训练样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得各种良性训练样本对应的多个训练样本特征图；

基于各个训练样本特征图，确定各种良性训练样本对应的训练样本贡献度向量；

基于所述训练样本贡献度向量以及各种良性训练样本的文件结构，确定训练样本贡献度分布向量，并基于各个训练样本贡献度分布向量生成所述贡献度分布向量集。

本发明还提供一种对抗样本检测方法，参照图2，图2为本发明对抗样本检测方法第一实施例的流程示意图。

本实施例中，该对抗样本检测方法包括以下步骤：

步骤S100，将待检测文件样本输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量；

需要说明的是，在进行对抗样本检测之前，先根据大量的良性训练样本通过恶意代码检测模型进行模型训练，得到各种良性样本对应的贡献度分布向量集，其中，良性训练样本为正常训练样本，即该良性训练样本为非对抗样本，其中，该恶意代码检测模型可以为MalConv恶意代码检测模型。由于对抗样本的构造主要针对文件头部、尾部、节间等对文件功能无影响的位置进行修改，这些位置提取的特征会更多地参与决策，造成模型的误判。因此，通过恶意代码检测模型，得到待检测文件样本中的特征对于分类结果的贡献度，得到贡献度分布向量，通过分对抗性样本与正常样本的决策特征在文件结构中的不同分布规律，根据贡献度分布向量检查待检测文件样本的文件头部、尾部、节间等对文件功能无影响的位置是否进行了修改，以达到对抗样本检测的目的。其中，待检测文件样本包括PE文件、ELF文件等可执行格式文件。

本实施例中，在获得待检测文件样本时，将待检测文件样本输入恶意代码检测模型，通过该恶意代码检测模型获得所述待检测文件样本对应的贡献度分布向量，具体地，先通过该恶意代码检测模型判断待检测文件样本是否为良性样本（非对抗样本），若为良性样本则通过该恶意代码检测模型获得所述待检测文件样本对应的贡献度分布向量，避免对对抗样本进行再次检查，以提高对抗样本检测效率。

步骤S200，基于各种良性样本对应的贡献度分布向量集以及所述贡献度分布向量进行离群分析，以确定所述贡献度分布向量是否为目标贡献度分布向量集的离群点，其中，所述目标贡献度分布向量集包括所述贡献度分布向量集以及所述贡献度分布向量；

本实施例中，在获取到待检测文件样本的贡献度分布向量之后，获取各种良性样本对应的贡献度分布向量集，将贡献度分布向量添加至贡献度分布向量集得到目标贡献度分布向量集，并对目标贡献度分布向量集进行离群分析，根据离群分析结果获取贡献度分布向量对应的局部离群因子，根据该局部离群因子，确定该贡献度分布向量是否为目标贡献度分布向量集的离群点，具体地，判断该局部离群因子是否大于预设离群因子，若大于，则判定该贡献度分布向量为离群点。

步骤S300，若所述贡献度分布向量为目标贡献度分布向量集的离群点，则确定所述待检测文件样本为对抗样本。

本实施例中，若通过离群分析判定贡献度分布向量为目标贡献度分布向量集的离群点，则判定该待检测文件样本为对抗样本，由于各种良性样本对应的贡献度分布向量集中的贡献度分布向量为良性样本（正常样本）的贡献度分布向量，因此可准确判定该待检测文件样本为对抗样本，从而提高对抗样本检测的准确性，并且由于良性样本包括各种良性训练样本，因此能够检测各种对抗样本，进一步提高对抗样本检测的准确性。

本实施例提出的对抗样本检测方法，通过将待检测文件样本输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量；接着基于各种良性样本对应的贡献度分布向量集以及所述贡献度分布向量，进行离群分析，以确定所述贡献度分布向量是否为目标贡献度分布向量集的离群点，而后若所述贡献度分布向量为目标贡献度分布向量集的离群点，则确定所述待检测文件样本为对抗样本，能够通过贡献度分布向量准确检测对抗样本，并且由于良性样本包括各种良性训练样本，因此能够检测各种对抗样本，进一步提高对抗样本检测的准确性。

基于第一实施例，提出本发明对抗样本检测方法的第二实施例，在本实施例中，步骤S100包括：

步骤S110，将待检测文件样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图；

步骤S120，基于各个特征图，确定所述待检测文件样本对应的贡献度向量；

步骤S130，基于所述贡献度向量以及所述待检测文件样本的文件结构确定所述贡献度分布向量。

本实施例中，将待检测文件样本输入恶意代码检测模型进行模型训练，通过恶意代码检测模型中目标卷积层的目标通道，获得待检测文件样本对应的多个特征图，由于待检测文件样本为一维字节序列，所以目标卷积层的输出是一维的特征图，本实施例中，将恶意代码检测模型的最后一层卷积层作为卷积层，目标通道为目标卷积层的k通道，采用Grad-Cam的思想，即采用Gating方法，将目标通道的通道特征图作为输出（特征图）。

接着，基于各个特征图，确定待检测文件样本对应的贡献度向量，具体地，先获取各个特征图对应的权重，通过各个权重对各个特征图进行加权平均，以获得贡献度向量。

而后基于贡献度向量以及待检测文件样本的文件结构，确定贡献度分布向量，具体地，根据待检测文件样本的样本结构确定待检测文件样本中各个字节的位置，根据待检测文件样本中各个字节的位置以及贡献度向量，确定所述贡献度分布向量。

本实施例提出的对抗样本检测方法，通过将待检测文件样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图；接着基于各个特征图，确定所述待检测文件样本对应的贡献度向量；而后基于所述贡献度向量以及所述待检测文件样本的文件结构确定所述贡献度分布向量，能够根据特征图以及待检测文件样本的文件结构准确获得贡献度分布向量，以提高贡献度分布向量的准确性，进而提高对抗样本检测的准确性。

基于第二实施例，提出本发明对抗样本检测方法的第三实施例，在本实施例中，步骤S120包括：

步骤S121，基于所述恶意代码检测模型中分类器的输出结果，确定各个所述特征图对应的权重；

步骤S122，基于各个所述权重对各个所述特征图进行加权平均，并对加权平均结果进行噪声过滤操作，以获得所述贡献度向量。

本实施例中，在获取到待检测文件样本对应的多个特征图之后，获取恶意代码检测模型中分类器的输出结果，根据该输出结果计算各个特征图对应的权重，而后基于各个权重对各个特征图进行加权平均，以得到加权平均结果。其中，对各个特征图进行加权平均的具体公式如下：

；

其中，w_k为权重，A^k为特征图，c为分类器的输出类别（例如良性）。

而后，对加权平均结果进行噪声过滤操作，以获得贡献度向量，具体的，通过恶意代码检测模型中的ReLU层进行噪声过滤操作，以过滤掉加权平均结果中负贡献度带来的噪声。

需要说明的是，在对加权平均结果进行噪声过滤操作，得到过滤结果之后，确定过滤结果中的贡献度对应的待检测文件样本中的字节，将过滤结果中的贡献度分布映射回其对应字节在待检测文件样本中的位置，以获得贡献度向量，该贡献度向量可以以分值的形式反应文件中不同区域对良性分类结果的贡献度。

进一步地，在一实施例中，步骤S122包括：

步骤S1221，基于所述恶意代码检测模型中分类器的输出结果，确定目标卷积层对应的梯度；

步骤S1222，基于所述梯度，确定各个所述特征图对应的权重。

本实施例中，在获取到恶意代码检测模型中分类器的输出结果时，根据该输出结果确定目标卷积层对应的梯度，而后根据梯度计算各个特征图对应的权重，具体地，通过全局平均池化以及梯度确定各个特征图对应的权重，其中，权重计算公式如下：

；

其中，n为特征图的数量，y^c为分类器的输出结果。

本实施例提出的对抗样本检测方法，通过基于所述恶意代码检测模型中分类器的输出结果，确定各个所述特征图对应的权重；接着基于各个所述权重对各个所述特征图进行加权平均，并对加权平均结果进行噪声过滤操作，以获得所述贡献度向量，通过特征图以及权重准确得到贡献度向量，进而提高贡献度分布向量的准确性，进一步提高对抗样本检测的准确性。

基于第二实施例，提出本发明对抗样本检测方法的第四实施例，在本实施例中，步骤S130包括：

步骤S131，基于所述待检测文件样本中各个字节的位置以及所述贡献度向量，确定所述待检测文件样本中各个字节对应的贡献度；

步骤S132，基于各个字节对应的贡献度以及所述待检测文件样本的文件结构，确定所述贡献度分布向量。

本实施例中，在获取到贡献度向量之后，根据待检测文件样本的样本结构确定待检测文件样本中各个字节的位置，根据各个字节的位置以及贡献度向量，确定待检测文件样本中各个字节对应的贡献度。

而后，基于各个字节对应的贡献度以及所述待检测文件样本的文件结构，确定贡献度分布向量，具体地，基于文件结构对待检测文件样本进行分块，以获得多个文件块，根据各个字节对应的贡献度计算各个文件块对应的子贡献度向量，根据各个子贡献度向量确定贡献度分布向量，进而准确获得贡献度分布向量。

本实施例提出的对抗样本检测方法，通过基于所述待检测文件样本中各个字节的位置以及所述贡献度向量，确定所述待检测文件样本中各个字节对应的贡献度；接着基于各个字节对应的贡献度以及所述待检测文件样本的文件结构，确定所述贡献度分布向量，能够根据各个字节对应的贡献度准确获得贡献度分布向量，以提高贡献度分布向量的准确性，进一步提高对抗样本检测的准确性。

基于第四实施例，提出本发明对抗样本检测方法的第五实施例，在本实施例中，步骤S132包括：

步骤S501，基于所述文件结构中文件头位置以及各节的位置，对所述待检测文件样本进行分块，以获得多个文件块；

步骤S502，基于预设规则对各个文件块进行分块，以获得各个文件块对应的预设数量的子文件块；

步骤S503，基于各个字节对应的贡献度以及各个所述子文件块，确定所述贡献度分布向量。

在本实施例中，在获取到待检测文件样本中各个字节对应的贡献度时，获取文件结构中文件头位置以及各节的位置，并基于文件结构中文件头位置以及各节的位置，对待检测文件样本进行分块，以获得多个文件块，各个文件块分别包括文件头的字节或者各节的字节。

接着，基于预设规则对各个文件块进行分块，以获得各个文件块对应的预设数量的子文件块，例如，可以对各个文件块进行等长分块，以获得预设数量的子文件块，以使各个文件块所包括的子文件块的数量相同（均为预设数量），且每个文件块的各个子文件块的字节长度相同，当然，在其他实施例中，也可以使每个文件块的各个子文件块的字节长度不相同或者不完全相同。

而后，基于各个字节对应的贡献度以及各个子文件块，确定贡献度分布向量，具体的，可先根据各个字节对应的贡献度，以及各个子文件块包括的字节，计算各个子文件块对应的贡献度，根据各个子文件块对应的贡献度计算贡献度分布向量。

具体地，基于文件结构对待检测文件样本进行分块，以获得多个文件块，根据各个字节对应的贡献度计算各个文件块对应的子贡献度向量，根据各个子贡献度向量确定贡献度分布向量，进而准确获得贡献度分布向量。

本实施例提出的对抗样本检测方法，通过基于所述文件结构中文件头位置以及各节的位置，对所述待检测文件样本进行分块，以获得多个文件块，接着基于预设规则对各个文件块进行分块，以获得各个文件块对应的预设数量的子文件块；而后基于各个字节对应的贡献度以及各个所述子文件块，确定所述贡献度分布向量，通过将待检测文件样本分块后的文件块进行分块，根据各个子文件块准确计算贡献度分布向量，并且能够根据预设数量得到固定长度的贡献度分布向量，使得贡献度分布向量的维数与待检测文件样本的字节长度无关，进一步提高对抗样本检测的准确性。

基于第五实施例，提出本发明对抗样本检测方法的第六实施例，在本实施例中，步骤S503包括：

步骤S601，基于各个字节对应的贡献度以及各个所述子文件块所包括的字节，确定各个子文件块对应的贡献度；

步骤S602，基于各个子文件块对应的贡献度，确定各个文件块对应的子贡献度向量；

步骤S603，基于各个文件块对应的子贡献度向量，确定所述贡献度分布向量。

在本实施例中，在确定各个文件块的子文件块时，根据待检测文件样本中各个字节对应的贡献度以及各个子文件块所包括的字节，计算各个子文件块对应的贡献度，具体的，每个子文件块对应的贡献度为该子文件块所包括的各个字节对应的贡献度之和。

接着，基于各个子文件块对应的贡献度，确定各个文件块对应的子贡献度向量，具体的，按照每个文件块中各个子文件块对应的位置或顺序，对该文件块中各个子文件块对应的贡献度进行排列，根据排列结果生成该文件块对应的子贡献度向量，或者，按照每个文件块中各个子文件块对应的位置或顺序，将该文件块中各个子文件块对应的贡献度添加至预设0向量得到该文件块对应的子贡献度向量。

而后，基于各个文件块对应的子贡献度向量，确定所述贡献度分布向量，具体的，将各个文件块对应的子贡献度向量相加，得到贡献度分布向量。

进一步地，在一实施例中，步骤S603包括：

步骤S6031，将各个文件块对应的子贡献度向量相加，以获得目标贡献度分布向量；

步骤S6032，对所述目标贡献度分布向量进行归一化处理，以获得所述贡献度分布向量。

本实施例中，将各个文件块对应的子贡献度向量相加，通过向量加法得到目标贡献度分布向量，而后对目标贡献度分布向量进行归一化处理，以获得所述贡献度分布向量，以使贡献度分布向量中的各个元素均处于0~1的范围内。

本实施例提出的对抗样本检测方法，通过基于各个字节对应的贡献度以及各个所述子文件块所包括的字节，确定各个子文件块对应的贡献度；接着基于各个子文件块对应的贡献度，确定各个文件块对应的子贡献度向量；而后基于各个文件块对应的子贡献度向量，确定所述贡献度分布向量，通过根据各个子文件块确定文件块的子贡献度向量，并根据子贡献度向量准确计算贡献度分布向量，并且能够根据预设数量得到固定长度的贡献度分布向量，使得贡献度分布向量的维数与待检测文件样本的字节长度无关，进而提升贡献度分布向量的准确性，进一步提升对抗样本检测的准确性。

基于第二实施例，提出本发明对抗样本检测方法的第七实施例，在本实施例中，步骤S110包括：

步骤S111，将所述将待检测文件样本输入所述恶意代码检测模型，以获取所述恶意代码检测模型中分类器的输出类别；

步骤S112，若所述分类器的输出类别为良性，则通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图。

本实施例中，将待检测文件样本输入恶意代码检测模型进行模型训练时，先获取恶意代码检测模型中分类器的输出类别，根据输出类别判断该待检测文件样本是否已被检测为对抗样本，即判断分类器的输出类别是否为良性，若分类器的输出类别为良性，通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图，以执行后续的检测流程，避免待检测文件样本为对抗样本时被误判为良性样本。

需要说明的是，判断分类器的输出类别为对抗样本，则结束流程，避免对已判定为对抗样本的待检测文件样本再次进行对抗样本检测，以提高处理效率。

本实施例提出的对抗样本检测方法，通过将所述将待检测文件样本输入所述恶意代码检测模型，以获取所述恶意代码检测模型中分类器的输出类别；接着若所述分类器的输出类别为良性，则通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图，避免对已判定为对抗样本的待检测文件样本再次进行对抗样本检测，以提高处理效率以及对抗样本检测效率。

基于第一实施例，提出本发明对抗样本检测方法的第八实施例，在本实施例中，步骤S200包括：

步骤S210，对所述目标贡献度分布向量集进行离群分析，以获取所述贡献度分布向量对应的局部离群因子；

步骤S220，确定所述局部离群因子是否大于预设离群因子，其中，若所述局部离群因子大于预设离群因子，则判定所述贡献度分布向量为目标贡献度分布向量集的离群点。

本实施例中，通过对目标贡献度分布向量集进行离群分析，根据离群分析结果得到贡献度分布向量对应的局部离群因子，例如可采用孤立森林Isolation Forest算法或LOF算法对目标贡献度分布向量集进行离群分析，具体的，局部离群因子的公式如下：

；

其中，N_k(X)是点X的k距离邻域，ρ_k(X)是点X的局部可达密度；ρ_k(X)的公式为：

；

其中，d_k(X,P)是点X的第k可达距离。

而后，判断该局部离群因子是否大于预设离群因子，若所述局部离群因子大于预设离群因子，则判定所述贡献度分布向量为目标贡献度分布向量集的离群点，否则，该贡献度分布向量不是离群点，其中，该预设离群因子可设置为1。

本实施例提出的对抗样本检测方法，通过对所述目标贡献度分布向量集进行离群分析，以获取所述贡献度分布向量对应的局部离群因子；接着确定所述局部离群因子是否大于预设离群因子，其中，若所述局部离群因子大于预设离群因子，则判定所述贡献度分布向量为目标贡献度分布向量集的离群点，实现了根据贡献度分布向量对应的局部离群因子准确判断该贡献度分布向量是否为离群点，进一步提高了对抗样本检测的准确性。

基于上述各个实施例，提出本发明对抗样本检测方法的第九实施例，在本实施例中，步骤S100之前，该对抗样本检测方法还包括：

步骤S100，将各种良性训练样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得各种良性训练样本对应的多个训练样本特征图；

步骤S200，基于各个训练样本特征图，确定各种良性训练样本对应的训练样本贡献度向量；

步骤S300，基于所述训练样本贡献度向量以及各种良性训练样本的文件结构，确定训练样本贡献度分布向量，并基于各个训练样本贡献度分布向量生成所述贡献度分布向量集。

需要说明的是，各种良性训练样本包括每一种良性样本中的一个或多个样本。

本实施例中，各种良性训练样本对应的多个训练样本特征图的获取方式，与待检测文件样本对应的多个特征图的获取方式类似；各种良性训练样本对应的训练样本贡献度向量的获取方式，与待检测文件样本对应的贡献度向量的获取方式类似；训练样本贡献度分布向量的获取方式，与贡献度分布向量的获取方式类似；在此均不再赘述。

本实施例中，通过预先训练各种良性样本对应的贡献度分布向量集，以便于后续对待检测文件样本进行对抗样本检测。

本实施例提出的对抗样本检测方法，通过将各种良性训练样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得各种良性训练样本对应的多个训练样本特征图；接着基于各个训练样本特征图，确定各种良性训练样本对应的训练样本贡献度向量；而后基于所述训练样本贡献度向量以及各种良性训练样本的文件结构，确定训练样本贡献度分布向量，并基于各个训练样本贡献度分布向量生成所述贡献度分布向量集，通过预先训练各种良性样本对应的贡献度分布向量集，以便于后续对待检测文件样本进行对抗样本检测，进一步提升对抗样本检测的效率。

此外，本发明实施例还提出一种计算机可读存储介质，所述计算机可读存储介质上存储有对抗样本检测程序，所述对抗样本检测程序被处理器执行时实现如下操作：

将待检测文件样本输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量；

基于各种良性样本对应的贡献度分布向量集以及所述贡献度分布向量进行离群分析，以确定所述贡献度分布向量是否为目标贡献度分布向量集的离群点，其中，所述目标贡献度分布向量集包括所述贡献度分布向量集以及所述贡献度分布向量；

若所述贡献度分布向量为目标贡献度分布向量集的离群点，则确定所述待检测文件样本为对抗样本。

进一步地，所述对抗样本检测程序被处理器执行时还实现如下操作：

将待检测文件样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图；

基于各个特征图，确定所述待检测文件样本对应的贡献度向量；

基于所述贡献度向量以及所述待检测文件样本的文件结构，确定所述贡献度分布向量。

进一步地，所述对抗样本检测程序被处理器执行时还实现如下操作：

基于所述恶意代码检测模型中分类器的输出结果，确定各个所述特征图对应的权重；

基于各个所述权重对各个所述特征图进行加权平均，并对加权平均结果进行噪声过滤操作，以获得所述贡献度向量。

进一步地，所述对抗样本检测程序被处理器执行时还实现如下操作：

基于所述恶意代码检测模型中分类器的输出结果，确定目标卷积层对应的梯度；

基于所述梯度，确定各个所述特征图对应的权重。

进一步地，所述对抗样本检测程序被处理器执行时还实现如下操作：

基于所述待检测文件样本中各个字节的位置以及所述贡献度向量，确定所述待检测文件样本中各个字节对应的贡献度；

基于各个字节对应的贡献度以及所述待检测文件样本的文件结构，确定所述贡献度分布向量。

进一步地，所述对抗样本检测程序被处理器执行时还实现如下操作：

基于所述文件结构中文件头位置以及各节的位置，对所述待检测文件样本进行分块，以获得多个文件块；

基于预设规则对各个文件块进行分块，以获得各个文件块对应的预设数量的子文件块；

基于各个字节对应的贡献度以及各个所述子文件块，确定所述贡献度分布向量。

进一步地，所述对抗样本检测程序被处理器执行时还实现如下操作：

基于各个字节对应的贡献度以及各个所述子文件块所包括的字节，确定各个子文件块对应的贡献度；

基于各个子文件块对应的贡献度，确定各个文件块对应的子贡献度向量；

基于各个文件块对应的子贡献度向量，确定所述贡献度分布向量。

进一步地，所述对抗样本检测程序被处理器执行时还实现如下操作：

将各个文件块对应的子贡献度向量相加，以获得目标贡献度分布向量；

对所述目标贡献度分布向量进行归一化处理，以获得所述贡献度分布向量。

进一步地，所述对抗样本检测程序被处理器执行时还实现如下操作：

将所述将待检测文件样本输入所述恶意代码检测模型，以获取所述恶意代码检测模型中分类器的输出类别；

若所述分类器的输出类别为良性，则通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图。

进一步地，所述对抗样本检测程序被处理器执行时还实现如下操作：

对所述目标贡献度分布向量集进行离群分析，以获取所述贡献度分布向量对应的局部离群因子；

确定所述局部离群因子是否大于预设离群因子，其中，若所述局部离群因子大于预设离群因子，则判定所述贡献度分布向量为目标贡献度分布向量集的离群点。

进一步地，所述对抗样本检测程序被处理器执行时还实现如下操作：

将各种良性训练样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得各种良性训练样本对应的多个训练样本特征图；

基于各个训练样本特征图，确定各种良性训练样本对应的训练样本贡献度向量；

基于所述训练样本贡献度向量以及各种良性训练样本的文件结构，确定训练样本贡献度分布向量，并基于各个训练样本贡献度分布向量生成所述贡献度分布向量集。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者系统不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者系统所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者系统中还存在另外的相同要素。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (13)

1.一种对抗样本检测方法，其特征在于，所述对抗样本检测方法包括以下步骤：

将待检测文件样本输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量；

基于各种良性样本对应的贡献度分布向量集以及所述贡献度分布向量进行离群分析，以确定所述贡献度分布向量是否为目标贡献度分布向量集的离群点，其中，所述目标贡献度分布向量集包括所述贡献度分布向量集以及所述贡献度分布向量；

若所述贡献度分布向量为目标贡献度分布向量集的离群点，则确定所述待检测文件样本为对抗样本。

2.如权利要求1所述的对抗样本检测方法，其特征在于，所述将待检测文件样本输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量的步骤包括：

将待检测文件样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图；

基于各个特征图，确定所述待检测文件样本对应的贡献度向量；

基于所述贡献度向量以及所述待检测文件样本的文件结构，确定所述贡献度分布向量。

3.如权利要求2所述的对抗样本检测方法，其特征在于，所述基于各个特征图，确定所述待检测文件样本对应的贡献度向量的步骤包括：

基于所述恶意代码检测模型中分类器的输出结果，确定各个所述特征图对应的权重；

基于各个所述权重对各个所述特征图进行加权平均，并对加权平均结果进行噪声过滤操作，以获得所述贡献度向量。

4.如权利要求3所述的对抗样本检测方法，其特征在于，所述基于所述恶意代码检测模型中分类器的输出结果，确定各个所述特征图对应的权重的步骤包括：

基于所述恶意代码检测模型中分类器的输出结果，确定目标卷积层对应的梯度；

基于所述梯度，确定各个所述特征图对应的权重。

5.如权利要求2所述的对抗样本检测方法，其特征在于，所述基于所述贡献度向量以及所述待检测文件样本的文件结构，确定所述贡献度分布向量的步骤包括：

基于所述待检测文件样本中各个字节的位置以及所述贡献度向量，确定所述待检测文件样本中各个字节对应的贡献度；

基于各个字节对应的贡献度以及所述待检测文件样本的文件结构，确定所述贡献度分布向量。

6.如权利要求5所述的对抗样本检测方法，其特征在于，所述基于各个字节对应的贡献度以及所述待检测文件样本的文件结构，确定所述贡献度分布向量的步骤包括：

基于所述文件结构中文件头位置以及各节的位置，对所述待检测文件样本进行分块，以获得多个文件块；

基于预设规则对各个文件块进行分块，以获得各个文件块对应的预设数量的子文件块；

基于各个字节对应的贡献度以及各个所述子文件块，确定所述贡献度分布向量。

7.如权利要求6所述的对抗样本检测方法，其特征在于，所述基于各个字节对应的贡献度以及各个所述子文件块，确定所述贡献度分布向量的步骤包括：

基于各个字节对应的贡献度以及各个所述子文件块所包括的字节，确定各个子文件块对应的贡献度；

基于各个子文件块对应的贡献度，确定各个文件块对应的子贡献度向量；

基于各个文件块对应的子贡献度向量，确定所述贡献度分布向量。

8.如权利要求7所述的对抗样本检测方法，其特征在于，基于各个文件块对应的子贡献度向量，确定所述贡献度分布向量的步骤包括：

将各个文件块对应的子贡献度向量相加，以获得目标贡献度分布向量；

对所述目标贡献度分布向量进行归一化处理，以获得所述贡献度分布向量。

9.如权利要求2所述的对抗样本检测方法，其特征在于，所述将待检测文件样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图的步骤包括：

将所述将待检测文件样本输入所述恶意代码检测模型，以获取所述恶意代码检测模型中分类器的输出类别；

若所述分类器的输出类别为良性，则通过所述恶意代码检测模型中目标卷积层的目标通道，获得所述待检测文件样本对应的多个特征图。

10.如权利要求1所述的对抗样本检测方法，其特征在于，所述基于各种良性样本对应的贡献度分布向量集以及所述贡献度分布向量进行离群分析，以确定所述贡献度分布向量是否为目标贡献度分布向量集的离群点的步骤包括：

对所述目标贡献度分布向量集进行离群分析，以获取所述贡献度分布向量对应的局部离群因子；

确定所述局部离群因子是否大于预设离群因子，其中，若所述局部离群因子大于预设离群因子，则判定所述贡献度分布向量为目标贡献度分布向量集的离群点。

11.如权利要求1至10任一项所述的对抗样本检测方法，其特征在于，所述将待检测矩阵输入恶意代码检测模型，以获得所述待检测文件样本对应的贡献度分布向量的步骤之前，所述对抗样本检测方法还包括：

将各种良性训练样本输入所述恶意代码检测模型，以通过所述恶意代码检测模型中目标卷积层的目标通道，获得各种良性训练样本对应的多个训练样本特征图；

基于各个训练样本特征图，确定各种良性训练样本对应的训练样本贡献度向量；

基于所述训练样本贡献度向量以及各种良性训练样本的文件结构，确定训练样本贡献度分布向量，并基于各个训练样本贡献度分布向量生成所述贡献度分布向量集。

12.一种对抗样本检测装置，其特征在于，所述对抗样本检测装置包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的对抗样本检测程序，所述对抗样本检测程序被所述处理器执行时实现如权利要求1至11中任一项所述的对抗样本检测方法的步骤。

13.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有对抗样本检测程序，所述对抗样本检测程序被处理器执行时实现如权利要求1至11中任一项所述的对抗样本检测方法的步骤。

Images