CN116757748B - 基于随机梯度攻击的广告点击预测方法 - Google Patents

Abstract

本发明提供一种基于随机梯度攻击的广告点击预测方法，该方法充分考虑到广告数据中的离散性数据和连续性数据的不同特点，针对嵌入层和网络层的不同情况，分别采用了随机性和非随机性的数学建模，并将两种数学建模予以组合，由此兼顾不同情况。同时，在数学模型中，可以灵活调整每个特征数据的攻击概率，且可攻击的相关特征数据也可以灵活调整，确保了数学模型的灵活性。

Description

基于随机梯度攻击的广告点击预测方法

技术领域

本发明涉及人工智能领域，具体而言，涉及一种基于随机梯度攻击的广告点击预测方法。

背景技术

对抗训练是一种在深度学习领域广泛应用的方法，最初用于提升计算机视觉任务的算法稳定性。它通过利用梯度攻击构造对抗样本，从而使神经网络对噪声和扰动具有更强的鲁棒性。但是，在自然语言处理领域，由于神经网络的输入是离散的符号，无法直接利用梯度攻击来构造对抗样本。而在广告领域中，广告数据也包含大量的字符串数据和离散数据，因此类似于自然语言处理领域的情况，也无法在深度学习的对抗训练中直接利用梯度攻击来构造对抗样本。

目前，针对对抗训练的方法包括了一系列的技术，如FGSM、FGM、PGD、FreeAT、YOPO、FreeLb和SMART等。当前的改进方向主要集中在两个方面：如何找到最大的扰动以及如何提高对抗训练的速度。

传统的FGSM和FGM方法在一步计算中很难找到约束内的最优点。相比之下，PGD、FreeLB和SMART等技术通过多次迭代逐步调整扰动，以寻找最大扰动。PGD方法通过分步计算并将超出扰动半径的扰动映射回最大扰动球面上，但它只利用最后一次的梯度进行更新。FreeLB则取每一次的梯度进行加权平均，以获得更准确的扰动更新。SMART方法与其他对抗训练方法不同，它引入了两种对抗正则损失，并将其直接添加到模型的损失函数中。总之，对抗训练的最新改进主要集中在如何找到最大扰动以及如何提高训练速度上。

以上列举的对抗训练各有所长，但是其主要是应用于计算机领域和自然语言处理领域。然而，相比于自然语言的处理，广告领域既有类似之处，又有显著区别。一方面，广告领域中的语言存在大量的字符串类型，跟自然语言处理领域类似，可以采用先对字符串特征进行字符编码。但另一方面，广告领域的广告特征与自然语言的显著区别在于，并不是所有广告特征都是稀疏的离散类别特征，也会存在一些连续的数值特征。在这种情况下不可以对连续的数值特征进行攻击，对连续的数值特征进行攻击可能会影响特征数值本身的含义。还需要注意的是，传统的随机梯度攻击是只针对嵌入（embedding）层攻击，但是实际上梯度干扰的情况会不仅发生在嵌入层，可能也会发生在网络结构中，一旦梯度干扰发生会严重影响模型的隐向量，从而影响模型的准确率。

发明内容

本发明提供一种基于人工智能的网购系统，有效地解决了衣服网上购物所存在的上述问题。

具体而言，本发明提供一种基于随机梯度攻击的广告点击预测方法，其特征在于，所述方法包括如下步骤：收集与广告点击相关的广告特征数据；所述广告特征数据顺次经嵌入层、深度神经网络、隐藏层，获得数据计算结果；在广告特征数据经过嵌入层之时针对广告特征数据中的离散型数据进行基于第一数学模型的对抗训练，所述第一数学模型为：

在广告特征数据经过深度神经网络中的第一网络层时在第一网络层中构建如下第二数学模型：

将所述第一数学模型和第二数学模型相结合，形成针对所述数据计算结果的综合数学模型：

上述综合数学模型的含义是，在训练数据集D上寻求最优参数θ以最小化扰动Δ引发的结构化风险，其中，训练数据集D是由广告特征数据构成的集合， L是损失函数， f为神经网络，ε表示扰动的约束常数，要求||Δ||≤ε，h_l表示广告特征数据经过第一网络层处理后输出的隐向量，p^l为每个广告特征数据被梯度攻击的概率，x表示源自于训练数据集的输入数据，y表示由于扰动Δ引发的需要拟合的真实数据。

可选地，所述广告特征数据分为用户数据和对象数据。

可选地，所述用户数据和所述对象数据并行地各自经过其嵌入层、深度神经网络、隐藏层的处理，各自获得用户数据计算结果和对象数据计算结果，再计算用户数据计算结果和对象数据计算结果彼此间的相似度距离。

可选地，所述用户数据包括广告所针对的用户群体的年龄段、地域分布、用户喜好，所述对象数据可以包括广告对象的市场占有率、产地分布、对象产品外观。

优选地，在所述第一数学模型中，表示每个广告特征数据被梯度攻击的概率的参数p^l符合伯努利分布，由此令，其中l表示广告特征数据的编号。

本发明所提供的基于随机梯度攻击的广告点击预测方法充分考虑到广告数据中的离散性数据和连续性数据的不同特点，针对嵌入层和网络层的不同情况，分别采用了随机性和非随机性的数学建模，并将两种数学建模予以组合，由此兼顾不同情况。同时，在数学模型中，可以灵活调整每个特征数据的攻击概率，且可攻击的相关特征数据也可以灵活调整，确保了数学模型的灵活性。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，以下将对实施例或现有技术描述中所需要使用的附图进行论述，显然，在结合附图进行描述的技术方案仅仅是本发明的一些实施例，对于本领域普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图所示实施例得到其它的实施例及其附图。

图1示出了根据本发明的基于随机梯度攻击的广告点击预测方法所依据的示例性双塔结构示意图。

图2示出了根据本发明的基于随机梯度攻击的广告点击预测方法的基本流程图。

具体实施方式

以下将结合附图对本发明各实施例的技术方案进行清楚完整描述，显然，所描述的实施例仅为本发明的一部分实施例，而不是全部实施例。基于本发明中所述的实施例，本领域普通技术人员在不需要创造性劳动的前提下所得到的所有其它实施例，都在本发明所保护的范围内。

如上文所述，由于广告领域的广告数据包含大量的字符串数据和离散数据，因此无法直接利用梯度攻击来构造对抗样本。但是，广告领域的广告特征数据往往需要经嵌入层被转换为嵌入数据输入到神经网络进行训练。如果这些转换得到的嵌入数据具有强鲁棒性，则会对模型的预测性能产生积极影响。因此，本发明所提供的基于随机梯度攻击的广告点击预测方法将考虑对广告特征数据转换得到的嵌入数据进行随机梯度攻击。通过这样的攻击方式，可以提升嵌入数据的鲁棒性，进而改善广告领域的预测效果。

在本发明中，通过对广告数据经嵌入层转换的嵌入数据进行适当的随机梯度攻击，可以使嵌入数据具备期望的良好鲁棒性。如此一来，嵌入数据不仅能够抵御噪声和扰动的影响，还能够提高预测模型对广告数据的理解和处理能力。通过这种方式，可以在广告领域中提升广告数据分析模型的稳定性和预测性能，进而改善广告相关任务的广告效应。

具体而言，本发明的基于随机梯度的广告点击方法可例如基于双塔模型对广告点击进行预测。图1示出了根据本发明的基于随机梯度攻击的广告点击预测方法所基于的双塔模型的示意图。

如图1所示，与点击特定广告相关的广告特征数据可分为用户数据和对象数据。所谓用户数据可以包括广告所针对的用户群体的年龄段、地域分布、用户喜好等等。所谓对象数据可以包括广告对象的市场占有率、产地分布、对象产品外观等等。

图1所示的双塔模型分别以用户数据和对象数据为各自起点双线并行处理。用户数据和对象数据各自经过嵌入层（embedding）、深度神经网络（DNN）、隐藏层的处理，各自获得用户数据计算结果和对象数据计算结果，在计算用户数据计算结果和对象数据计算结果彼此间的相似度距离，例如图1中所示的cosine距离。

对抗训练可以考虑在数学建模的基础上解决最大极值和最小极值的问题，对应的数学模型可为：

其含义是在训练数据集D上寻找一个最优的参数θ以最小化扰动引发的风险同时对于扰动Δ也能够达到结构化风险最小。其中L是损失函数，f为神经网络。当然，对于扰动Δ也需要添加约束，由此，要求||Δ||≤ε，其中ε表示扰动的约束常数，其中的x表示源自于训练数据集的输入数据，y表示由于扰动Δ引发的需要拟合的真实数据。

此处的训练数据集D为模型训练所必备，是由广告特征数据构成的集合。

从上式可见，扰动是直接加入到嵌入层的，并没有引入随机的构思，仅仅只是简单的加入扰动后确保网络输出损失最小。

如上文所述，广告特征数据林林总总，既包含连续的数值特征，也包括离散的类别特征。如下表1就列出了广告特征数据的点击特征类型：

表1 广告点击任务特征类型

设定在嵌入层中的一次数据传播中梯度攻击只发生在一个广告特征数据中，再设定其中一个广告特征数据在嵌入层被梯度攻击的概率是p^l，并且p^l服从随机机制分布，则可以得到随机模型（即，第一数学模型）为：

第一数学模型

该第一数学模针对离散型广告特征数据引入了随机概率实现了经过嵌入层时的对抗训练。需要注意的是，如上文所述，广告特征数据包含大量的字符串类型，因此存在种类众多的离散型广告数据，因此，针对经过嵌入层时的数据采用引入随机概率机制的第一数学模型，就显得针对性极强。

上述数学模型表达的是，在训练数据集D上寻找一个最优的参数θ以最小化经验风险同时对于扰动Δ也能够达到结构化风险最小，但在其中针对每个广告特征数据引入了被梯度攻击的概率p^l。其中y是训练集标签， L是损失函数， f为神经网络。也正如上文所述，扰动Δ需要添加约束，由此，要求||Δ||≤ε，其中ε表示扰动的约束常数。

实际上，每次嵌入层被梯度攻击，并不意味着所有广告特征数据在嵌入层中都一定会被攻击，每个广告特征数据被攻击或不被攻击都存在一定的概率。因此正如上述所说，可针对每个广告特征数据在嵌入层中被梯度攻击的概率设为p^l。举例而言，该概率设定可符合伯努利分布，其中某个特征数据被攻击时对应的概率p^l=1，因此令，其中l表示广告特征数据的编号。

需要注意的是，如果现有的对抗训练的梯度攻击仅仅发生在嵌入层中，则其实很难进行充分的深度学习，深度学习的效果未必能达到预期。因此，需要考虑在其他层也进行相应的梯度攻击。

如上文所述，广告特征数据经过嵌入层处理后将进入深度神经网络，深度神经网络中的第一网络层是对经由嵌入层输入的广告特征数据进行编码和学习的首层网络，其对特征编码和学习的效果直接影响了深度神经网络中的其后所有网络层。因此第一网络层的编码能力尤为重要，引入随机梯度攻击有利于优化首层网络结构（即，第一网络层的结构）的学习能力，对模型深度学习的鲁棒性提高具有良好的帮助。

为此，在第一网络层中构建第二数学模型如下：

第二数学模型

此处的h_l表示广告特征数据经过第一网络层处理后输出的隐向量，在此模型中作为变量输入，其余参数的含义可参照上文所述的第一数学模型。

需要注意的是，第二数学模型针对的是源自于广告特征数据经第一网络层处理后输出的所有隐向量，因此无论是连续型数据还是离散型数据都可利用上述第二数学模型。

由此，综合上文所提到的嵌入层和第一网络层中构建的第一数学模型和第二数学模型，可得到根据本发明的基于随机梯度攻击的广告点击预测方法的综合数学模型如下：

综合数学模型

综合数学模型中相关参数的含义已经在上文针对第一和第二数学模型时的描述中提及，在此不再赘述。

在上述综合数学模型的基础上基于训练数据集D就可以寻找出一个最优的参数以在梯度攻击中寻求最小化风险。

上述过程的基本步骤显示于图2，图2示出了根据本发明的基于随机梯度攻击的广告点击预测方法的基本流程图。

到此已经将本发明的基本技术内容进行了详细介绍。本发明所提供的基于随机梯度攻击的广告点击预测方法充分考虑到广告数据中的离散性数据和连续性数据的不同特点，针对嵌入层和网络层的不同情况，分别采用了随机性和非随机性的数学建模，并将两种数学建模予以组合，由此兼顾不同情况。同时，在数学模型中，可以灵活调整每个特征数据的攻击概率，且可攻击的相关特征数据也可以灵活调整，确保了数学模型的灵活性。

以上所述仅为本发明的示例性实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。

Claims (3)

1.一种基于随机梯度攻击的广告点击预测方法，其特征在于，所述方法包括如下步骤：

收集与广告点击相关的广告特征数据，所述广告特征数据分为用户数据和对象数据；

所述用户数据和所述对象数据并行地各自顺次经过其嵌入层、深度神经网络、隐藏层的处理，各自获得用户数据计算结果和对象数据计算结果，再计算用户数据计算结果和对象数据计算结果彼此间的相似度距离；

在广告特征数据经过嵌入层之时针对广告特征数据中的离散型数据进行基于第一数学模型的对抗训练，所述第一数学模型为：

在广告特征数据经过深度神经网络中的第一网络层时在第一网络层中构建如下第二数学模型：

将所述第一数学模型和第二数学模型相结合，形成针对所述数据计算结果的综合数学模型：

上述综合数学模型的含义是，在训练数据集D上寻求最优参数θ以最小化扰动Δ引发的结构化风险，其中，训练数据集D是由广告特征数据构成的集合， L是损失函数， f为神经网络，ε表示扰动的约束常数，要求||Δ||≤ε，h_l表示广告特征数据经过第一网络层处理后输出的隐向量，p^l为每个广告特征数据被梯度攻击的概率，x表示源自于训练数据集的输入数据，y表示由于扰动Δ引发的需要拟合的真实数据，

基于所述综合数学模型，针对训练数据集D，就能够寻求出一个最优的参数以在随机梯度攻击中最小化由扰动Δ引发的风险。

2.根据权利要求1所述的广告点击预测方法，其特征在于，所述用户数据包括广告所针对的用户群体的年龄段、地域分布、用户喜好，所述对象数据包括广告对象的市场占有率、产地分布、对象产品外观。

3.根据权利要求1所述的广告点击预测方法，其特征在于，在所述第一数学模型中，表示每个广告特征数据被梯度攻击的概率的参数p^l符合伯努利分布，由此令，其中l表示广告特征数据的编号。