CN115795536A - 基于扩散模型的推荐系统隐私攻击的防御方法 - Google Patents

基于扩散模型的推荐系统隐私攻击的防御方法 Download PDF

Info

Publication number
CN115795536A
CN115795536A CN202211458469.0A CN202211458469A CN115795536A CN 115795536 A CN115795536 A CN 115795536A CN 202211458469 A CN202211458469 A CN 202211458469A CN 115795536 A CN115795536 A CN 115795536A
Authority
CN
China
Prior art keywords
user
vector
model
commodity
data set
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
CN202211458469.0A
Other languages
English (en)
Inventor
陈晋音
马浩男
郑海斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang University of Technology ZJUT
Original Assignee
Zhejiang University of Technology ZJUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang University of Technology ZJUT filed Critical Zhejiang University of Technology ZJUT
Priority to CN202211458469.0A priority Critical patent/CN115795536A/zh
Publication of CN115795536A publication Critical patent/CN115795536A/zh
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

基于扩散模型的推荐系统隐私攻击的防御方法，包括：S1、获取推荐系统的原始数据集；S2、推荐模型训练；S3、构建成员推断模型；S4、构建基于扩散模型的噪声生成模型；S5，将高斯噪声输入至对抗噪声生成模型得到对抗噪声，再将对抗噪声输入至真实世界数据集，使其具有防御成员推断攻击的能力。本发明通过扩散模型强大的生成能力，通过在数据集中加入高斯噪声，将高斯噪声逐渐生成为对抗噪声，起到防御成员推断攻击的作用；能直接起到防御隐私防御的作用，同时保证数据集能够正常的作用于推荐系统进行推荐。

Description

基于扩散模型的推荐系统隐私攻击的防御方法
技术领域
本发明涉及一种隐私攻击防御方法，尤其涉及一种基于扩散模型的推荐系统隐私攻击的防御方法。
背景技术
近年来互联网的快速发展，互联网上的数据也随之快速增加，但是这使得互联网中的用户在如此庞大的数据中很难找到有用的数据，用户对于如此庞大的数据变得毫无头绪。推荐系统作为一种自动联系用户和物品的工具，能够在信息过载的环境中帮助用户发现他们感兴趣的物品，提高用户的体验。
然而推荐系统的快速发展也带来了一定的隐私安全隐患。一方面平台为了得到更准确的推荐系统，会收集更加详细的用户信息，例如，谷歌在最新的隐私政策中表示，他们会将所有服务中的信息整合到一个配置文件中。这些信息可能会被服务提供商滥用，出售给第三方或者被黑客窃取，造成大量的隐私泄露问题，严重影响用户的隐私安全。另一方面，随着深度学习的发展，恶意用户可以从最终的推荐结果中推断被推荐用户的各种隐私属性(如性别、年龄)以及用户之前的购买记录。如Zhao等人(参照文献1：Zhang M,Ren Z,Wang Z,et al.Membership inference attacks against recommender systems[C].Proceedings of the 2021 ACM SIGSAC Conference on Computer and CommunicationsSecurity.2021:864-879.)就通过多层感知机实现了对用户成员的推断，实现了对用户隐私的窃取。对于第一种隐私泄露问题，现在已有了大量的数据加密，保护方法，防止数据泄露。但对于基于深度学习方法的隐私数据窃取方法并没有有效的制止手段，因此急需一种新的防御手段。
发明内容
针对现有技术不足，本发明提出了一种基于扩散模型的推荐系统隐私攻击的防御方法。
为解决上述技术问题，本发明的技术方案为：
本发明实施例的第一方面提供了基于扩散模型的推荐系统隐私攻击的防御方法，所述方法包括以下步骤：
S1、获取推荐系统的原始数据集；
S2、推荐模型训练；
S21、将步骤S1获取的原始数据集进行预处理，将用户与商品之间的关系构成交易矩阵，根据用户以及商品的特征的独热编码和交易矩阵分别得到用户特征向量和商品特征向量，将数据按一定比例分成影子数据集以及目标数据集；
S22、构建推荐系统模型，这里以神经协同过滤模型(Neural CollaborativeFiltering：NCF)为例，将步骤S21中的影子数据集的用户特征向量和商品特征向量进行拼接得到用户商品向量。
S23、将S22得到的用户商品向量输入NCF推荐系统中的全连接层得到点击率置信度向量。
S24、对于S23得到的点击率置信度向量与步骤S21中的影子数据集的交易矩阵作均方误差，将均方误差作为NCF模型的损失函数，通过梯度的反向传播优化NCF推荐模型，当损失函数达到收敛时，模型训练完成，根据点击率置信度向量可以得到商品推荐结果。
S3、构建成员推断模型；
S31、构建一个成员隐私推断模型，这里由两层全连接层作为输入层和隐藏层的多层感知机(Multilayer Perceptron:MLP)，利用MLP的学习的能力，学习点击率置信度向量的特征，最后得到的一维向量作为输出结果，判断用户是否参与推荐系统的训练。
S32、将步骤S21中的影子数据集和目标数据集分别输入至步骤S5得到的推荐模型，并且分别得到阴影点击率置信度向量和目标点击率置信度向量。
S33、将步骤S32得到的阴影点击率置信度向量和目标点击率置信度向量输入至MLP模型得到推断向量，向量的值为一时表示该用户参与NCF推荐系统训练，为零时表示该用户并没有参与NCF推荐系统训练。
S34、使用交叉熵损失函数作为成员推断模型的损失函数，交叉熵损失函数计算一维推断向量和类标向量(对于每个用户，若用户参与推荐系统训练则类标为1，若用户并没有参与推荐系统训练则类标为0，即在阴影数据集中的用户则为参与训练，在目标数据集中的用户则为未参与训练)之间的损失，通过梯度的反向传播降低交叉熵损失函数，当损失函数趋于收敛时得到最优成员推断模型。
S4、构建基于扩散模型的噪声生成模型；
S41、在交易矩阵中加入符合高斯噪声矩阵，生成噪声交易矩阵。构建基于扩散模型的对抗噪声生成模型，扩散模型由三层多通道图神经网络构成，其输入由高斯噪声构成的邻接矩阵，其最终能够生成符合目标的矩阵。将噪声交易矩阵输入对抗噪声生成模型，其输出得到对抗防御交易矩阵。
S42、通过对抗防御交易矩阵与用户以及商品特征得到用户对抗向量以及商品对抗向量
S43、将S42得到的用户对抗向量输入至S24训练完成的NCF推荐系统模型，输出得到点击率置信度对抗向量。
S44、将S43得到的点击率置信度对抗向量输入至S34训练完成成员推断模型，输出得到对抗推断向量。
S45、将S44得到的点击率置信度向量与步骤S21中的影子数据集作均方差，将S44得到的对抗推断向量与S34中的类标向量作交叉熵。将均方差减去交叉熵作为损失函数，通过梯度的反向传播优化对抗噪声生成模型，当交叉熵损失函数收敛时，得到最优的对抗噪声生成模型。
S5，将高斯噪声输入至对抗噪声生成模型得到对抗噪声，再将对抗噪声输入至真实世界数据集，使其具有防御成员推断攻击的能力。
本发明首先通过在用户隐私中随机生成噪声，其次依靠扩散模型强大的生成能力不断优化生成的噪声，通过噪声实现对隐私窃取模型的误导，最终实现对隐私窃取攻击的防御。其主要思想就是利用扩散模型强大的生成能力的同时，针对隐私推断模型去优化生成的噪声，使得最终带有噪声的数据能够准确的防止其被隐私窃取模型正确的推断，从而起到隐私保护的作用。
本发明的有益效果为：对于现有类型的大部分推荐系统隐私攻击方法，提出了一种推荐系统成员推断的防御方法。通过扩散模型强大的生成能力，通过在数据集中加入高斯噪声，将高斯噪声逐渐生成为对抗噪声，起到防御成员推断攻击的作用。该方法能直接起到防御隐私防御的作用，同时保证数据集能够正常的作用于推荐系统进行推荐。
附图说明
图1是本发明方法的流程图；
图2是本发明方法的基于扩散模型噪声生成模型.
具体实施方式
下面结合附图，对本发明进行详细说明。在不冲突的情况下，下述的实施例及实施方式中的特征可以相互组合。
本发明的技术构思为：对于一个电影推荐系统，其基本功能是能够实现对用户的电影推荐，同时其会为了实现高效率的推荐需要大量的用户信息进行训练。如果有攻击者发动成员推断攻击，依靠一定辅助数据，将推荐结果反向推断用户是否参与推荐系统模型的训练，达到窃取用户隐私的目的。因此本发明提出了一种基于扩散模型的成员推断攻击的防御方法。本方法首先通过影子数据集训练一个基础推荐系统模型，以及基于此推荐系统在进一步训练一个成员推断模型。其次，基于扩散模型针对成员推断模型构建对抗噪声生成模型，通过损失函数的梯度反向传播，优化对抗噪声生成模型，使得对抗噪声生成模型能有效的对抗噪声。其主要思想就是依靠扩散模型的生成能力，通过对抗的方式，得到有效的对抗成员推断攻击的噪声，同时并不会影响推荐系统的推荐效果。
本发明实施例提供了应用本发明的基于扩散模型的推荐系统隐私攻击的防御方法的一种面向链路预测后门攻击的防御方法，请参考图1和图2，所述方法包括以下步骤：
S1、获取推荐系统模型的数据集。
本发明获取的原始数据集选自MovieLens数据集、Amazon数据集，该数据集可以从网络上下载。该原始数据集为针对商品推荐任务，其由三个文件构成即用户交易记录、用户特征、商品特征，其中用户交易记录文件的第一列表示用户，第二列表示商品，第三列表示该行用户对该行商品的评分，评分的高低代表用户对商品的喜欢程度。用户特征以及商品特征的每行分别表示用户的特征以及商品的特征。例如MovieLens数据集，其交易记录文件的第一列为观看电影的用户的ID，第二列表示电影的ID，第三列表式表示该行用户对该行电影的评分(此处为1-5分)。用户特征文件以及商品特征文件分别表示用户的特征以及电影的特征。
S2、推荐模型训练。
S21、将步骤S1获取的原始数据集进行预处理，将用户与商品之间的关系构成交易矩阵Me∈(u+i)*(u+i)，即，若用户u1对电影i1进行过评价则M(u1,u+i1)＝1反之则为零。其次，取交易文件的第三列作为类标向量Lctr，将类标向量分为阴影类标向量
Figure BDA0003954490830000071
和目标类标向量
Figure BDA0003954490830000072
将用户特征以及商品特征转化为独热编码Hu和Hi，根据用户以及商品的特征的独热编码和交易矩阵分别得到用户特征向量Zu和商品特征向量Zi，其过程如下，
Zu,Zi＝Me(Hu,Hi) (1)
将数据按一定比例分成影子用户特征向量
Figure BDA0003954490830000073
和影子商品特征向量
Figure BDA0003954490830000074
以及目标用户特征向量
Figure BDA0003954490830000075
和目标商品特征向量
Figure BDA0003954490830000076
S22、构建推荐系统模型，这里以神经协同过滤模型(Neural CollaborativeFiltering：NCF)为例，将步骤S2中的影子数据集的用户特征向量和商品特征向量进行拼接得到用户商品向量。其拼接过程如下：
Figure BDA0003954490830000077
S23、将S22得到的用户商品向量输入NCF推荐系统中的全连接层得到点击率置信度向量；
Figure BDA0003954490830000078
Zctr＝α2(W2Z1+b2) (3)
其中W1和W2为权重矩阵，b1和b2为偏置矩阵，α1和α2为ReLU(·)激活函数，Z1为中间向量，Zctr为点击率置信度向量。
S24、对于S23得到的点击率置信度向量Zctr与步骤S21中的影子数据集的阴影类标向量
Figure BDA0003954490830000079
作均方误差，具体过程如下，
Figure BDA00039544908300000710
其中，N为Zctr中向量的个数，MSE为均方差计算结果。将均方误差作为NCF模型的损失函数，通过梯度的反向传播优化NCF推荐模型，当损失函数达到收敛时，模型训练完成，根据点击率置信度向量可以得到商品推荐结果。
S3、构建成员推断模型。
S31、构建一个成员隐私推断模型，这里由两层全连接层作为输入层和隐藏层的多层感知机(Multilayer Perceptron:MLP)，利用MLP的学习的能力，学习点击率置信度向量的特征，最后得到的一维向量作为输出结果，判断用户是否参与推荐系统的训练。
S32、将步骤S21中的影子用户特征向量
Figure BDA0003954490830000081
和影子商品特征向量
Figure BDA0003954490830000082
以及目标用户特征向量
Figure BDA0003954490830000083
和目标商品特征向量
Figure BDA0003954490830000084
分别输入至步骤S5得到的推荐模型，并且分别得到阴影点击率置信度向量
Figure BDA0003954490830000085
和目标点击率置信度向量
Figure BDA0003954490830000086
将阴影点击率置信度向量
Figure BDA0003954490830000087
和目标点击率置信度向量
Figure BDA0003954490830000088
进行拼接得到用于成员推断模型训练的点击率置信度向量，其过程如下，
Figure BDA0003954490830000089
S33、将步骤S32得到的阴影点击率置信度向量和目标点击率置信度向量输入至MLP模型得到推断向量，其过程如下：
Figure BDA00039544908300000810
Z2＝α2(W2Z1+b2) (6)
Zinference＝softmax(Z2)
其中W1和W2为权重矩阵，b1和b2为偏置矩阵，α1和α2为ReLU(·)激活函数，Z1和Z2为中间向量，Zinference为推断向量。向量的值接近1时表示该用户参与NCF推荐系统训练，接近0时表示该用户并没有参与NCF推荐系统训练。
S34、使用交叉熵损失函数作为成员推断模型的损失函数，交叉熵损失函数计算一维推断向量Zinference和类标向量Linference(对于每个用户，若用户参与推荐系统训练则类标为1，若用户并没有参与推荐系统训练则类标为0，即在阴影数据集中的用户则为参与训练，在目标数据集中的用户则为未参与训练)之间的损失，其具体过程如下，
Figure BDA0003954490830000091
其中N为用户的数量。通过梯度的反向传播降低交叉熵损失函数，当损失函数趋于收敛时得到最优成员推断模型。
S4、基于扩散模型的噪声生成模型。
S41、在交易矩阵中加入符合高斯噪声矩阵，生成噪声交易矩阵。其过程如下，
Ma＝Me+MG (8)
其中MG为高斯噪声矩阵，Ma为对抗交易矩阵。构建基于扩散模型的对抗噪声生成模型，扩散模型由三层多通道图神经网络构成，其输入由高斯噪声构成的邻接矩阵，其最终能够生成符合目标的矩阵。其中每层网络结构如下，
Figure BDA0003954490830000092
Figure BDA0003954490830000093
Figure BDA0003954490830000094
其中M(n)为将噪声交易矩阵且当n＝0时M(0)＝Ma，Z(n)为特征矩阵当n＝0时H(0)＝CONTACT(Hu,Hi)，
Figure BDA0003954490830000101
和
Figure BDA0003954490830000102
为权重矩阵，ε为学习参数，CONTACT(·)为拼接操作。输入对抗噪声生成模型，经过三层输出得到对抗防御交易矩阵Md＝M(3)。
S42、通过对抗防御交易矩阵Md与用户以及商品特征(Hu,Hi)得到用户对抗向量以及商品对抗向量并进行拼接得到Zd。
S43、将S42得到的用户对抗向量Zd输入至S24训练完成的NCF推荐系统模型，输出得到点击率置信度对抗向量
Figure BDA0003954490830000103
S44、将S43得到的点击率置信度
Figure BDA0003954490830000104
对抗向量输入至S34训练完成成员推断模型，输出得到对抗推断向量
Figure BDA0003954490830000105
S45、将S43得到的点击率置信度向量
Figure BDA0003954490830000106
与步骤S21中的影子数据集类标
Figure BDA0003954490830000107
作均方差，将S44得到的对抗推断向量
Figure BDA0003954490830000108
与S34中的类标向量Linference作交叉熵。将均方差减去交叉熵作为损失函数，其公式如下，
Figure BDA0003954490830000109
其中M为
Figure BDA00039544908300001010
中的个数，为用户数量通过梯度的反向传播优化对抗噪声生成模型，当交叉熵损失函数收敛时，得到最优的对抗噪声生成模型。
S5、将高斯噪声输入至对抗噪声生成模型得到对抗噪声，再将对抗噪声输入至真实世界数据集，使其具有防御成员推断攻击的能力。

Claims (4)

1.基于扩散模型的推荐系统隐私攻击的防御方法，包括以下步骤：
S1、获取推荐系统的原始数据集；
S2、推荐模型训练；
S21、将步骤S1获取的原始数据集进行预处理，将用户与商品之间的关系构成交易矩阵，根据用户以及商品的特征的独热编码和交易矩阵分别得到用户特征向量和商品特征向量，将数据按一定比例分成影子数据集以及目标数据集；
S22、构建推荐系统模型，这里以神经协同过滤模型(Neural CollaborativeFiltering：NCF)为例，将步骤S21中的影子数据集的用户特征向量和商品特征向量进行拼接得到用户商品向量；
S23、将S22得到的用户商品向量输入NCF推荐系统中的全连接层得到点击率置信度向量；
S24、对于S23得到的点击率置信度向量与步骤S21中的影子数据集的交易矩阵作均方误差，将均方误差作为NCF模型的损失函数，通过梯度的反向传播优化NCF推荐模型，当损失函数达到收敛时，模型训练完成，根据点击率置信度向量可以得到商品推荐结果；
S3、构建成员推断模型；
S31、构建一个成员隐私推断模型，这里由两层全连接层作为输入层和隐藏层的多层感知机(Multilayer Perceptron:MLP)，利用MLP的学习的能力，学习点击率置信度向量的特征，最后得到的一维向量作为输出结果，判断用户是否参与推荐系统的训练；
S32、将步骤S21中的影子数据集和目标数据集分别输入至步骤S5得到的推荐模型，并且分别得到阴影点击率置信度向量和目标点击率置信度向量；
S33、将步骤S32得到的阴影点击率置信度向量和目标点击率置信度向量输入至MLP模型得到推断向量，向量的值为一时表示该用户参与NCF推荐系统训练，为零时表示该用户并没有参与NCF推荐系统训练；
S34、使用交叉熵损失函数作为成员推断模型的损失函数，交叉熵损失函数计算一维推断向量和类标向量(对于每个用户，若用户参与推荐系统训练则类标为1，若用户并没有参与推荐系统训练则类标为0，即在阴影数据集中的用户则为参与训练，在目标数据集中的用户则为未参与训练)之间的损失，通过梯度的反向传播降低交叉熵损失函数，当损失函数趋于收敛时得到最优成员推断模型；
S4、构建基于扩散模型的噪声生成模型；
S41、在交易矩阵中加入符合高斯噪声矩阵，生成噪声交易矩阵；构建基于扩散模型的对抗噪声生成模型，扩散模型由三层多通道图神经网络构成，其输入由高斯噪声构成的邻接矩阵，其最终能够生成符合目标的矩阵；将噪声交易矩阵输入对抗噪声生成模型，其输出得到对抗防御交易矩阵；
S42、通过对抗防御交易矩阵与用户以及商品特征得到用户对抗向量以及商品对抗向量；
S43、将S42得到的用户对抗向量输入至S24训练完成的NCF推荐系统模型，输出得到点击率置信度对抗向量；
S44、将S43得到的点击率置信度对抗向量输入至S34训练完成成员推断模型，输出得到对抗推断向量；
S45、将S44得到的点击率置信度向量与步骤S21中的影子数据集作均方差，将S44得到的对抗推断向量与S34中的类标向量作交叉熵；将均方差减去交叉熵作为损失函数，通过梯度的反向传播优化对抗噪声生成模型，当交叉熵损失函数收敛时，得到最优的对抗噪声生成模型；
S5，将高斯噪声输入至对抗噪声生成模型得到对抗噪声，再将对抗噪声输入至真实世界数据集，使其具有防御成员推断攻击的能力。
2.如权利要求1所述的基于扩散模型的推荐系统隐私攻击的防御方法，其特征在于：步骤S1具体包括：获取的原始数据集选自MovieLens数据集、Amazon数据集；该原始数据集为针对商品推荐任务，其由三个文件构成即用户交易记录、用户特征、商品特征，其中用户交易记录文件的第一列表示用户，第二列表示商品，第三列表示该行用户对该行商品的评分，评分的高低代表用户对商品的喜欢程度。用户特征以及商品特征的每行分别表示用户的特征以及商品的特征。
3.如权利要求1所述的基于扩散模型的推荐系统隐私攻击的防御方法，其特征在于：步骤S2具体包括：
S21、将步骤S1获取的原始数据集进行预处理，将用户与商品之间的关系构成交易矩阵Me∈(u+i)*(u+i)，即，若用户u1对电影i1进行过评价则M(u1,u+i1)＝1反之则为零；其次，取交易文件的第三列作为类标向量Lctr，将类标向量分为阴影类标向量
Figure FDA0003954490820000041
和目标类标向量
Figure FDA0003954490820000042
将用户特征以及商品特征转化为独热编码Hu和Hi，根据用户以及商品的特征的独热编码和交易矩阵分别得到用户特征向量Zu和商品特征向量Zi，其过程如下，
Zu,Zi＝Me(Hu,Hi) (1)
将数据按一定比例分成影子用户特征向量
Figure FDA0003954490820000043
和影子商品特征向量
Figure FDA0003954490820000044
以及目标用户特征向量
Figure FDA0003954490820000045
和目标商品特征向量
Figure FDA0003954490820000046
S22、构建推荐系统模型，以神经协同过滤模型(Neural Collaborative Filtering：NCF)将步骤S2中的影子数据集的用户特征向量和商品特征向量进行拼接得到用户商品向量；其拼接过程如下：
Figure FDA0003954490820000047
S23、将S22得到的用户商品向量输入NCF推荐系统中的全连接层得到点击率置信度向量；
Figure FDA0003954490820000048
Zctr＝α2(W2Z1+b2) (3)
其中W1和W2为权重矩阵，b1和b2为偏置矩阵，α1和α2为ReLU(·)激活函数，Z1为中间向量，Zctr为点击率置信度向量；
S24、对于S23得到的点击率置信度向量Zctr与步骤S21中的影子数据集的阴影类标向量
Figure FDA0003954490820000049
作均方误差，具体过程如下，
Figure FDA0003954490820000051
其中，N为Zctr中向量的个数，MSE为均方差计算结果；将均方误差作为NCF模型的损失函数，通过梯度的反向传播优化NCF推荐模型，当损失函数达到收敛时，模型训练完成，根据点击率置信度向量可以得到商品推荐结果。
4.如权利要求1所述的基于扩散模型的推荐系统隐私攻击的防御方法，其特征在于：步骤S3具体包括：
S41、在交易矩阵中加入符合高斯噪声矩阵，生成噪声交易矩阵；其过程如下，
Ma＝Me+MG (8)
其中MG为高斯噪声矩阵，Ma为对抗交易矩阵；构建基于扩散模型的对抗噪声生成模型，扩散模型由三层多通道图神经网络构成，其输入由高斯噪声构成的邻接矩阵，其最终能够生成符合目标的矩阵；其中每层网络结构如下，
Figure FDA0003954490820000052
其中M(n)为将噪声交易矩阵且当n＝0时M(0)＝Ma，Z(n)为特征矩阵当n＝0时H(0)＝CONTACT(Hu,Hi)，
Figure FDA0003954490820000053
和
Figure FDA0003954490820000054
为权重矩阵，ε为学习参数，CONTACT(·)为拼接操作；输入对抗噪声生成模型，经过三层输出得到对抗防御交易矩阵Md＝M(3)；
S42、通过对抗防御交易矩阵Md与用户以及商品特征(Hu,Hi)得到用户对抗向量以及商品对抗向量并进行拼接得到Zd；
S43、将S42得到的用户对抗向量Zd输入至S24训练完成的NCF推荐系统模型，输出得到点击率置信度对抗向量
Figure FDA0003954490820000061
S44、将S43得到的点击率置信度
Figure FDA0003954490820000062
对抗向量输入至S34训练完成成员推断模型，输出得到对抗推断向量
Figure FDA0003954490820000063
S45、将S43得到的点击率置信度向量
Figure FDA0003954490820000064
与步骤S21中的影子数据集类标
Figure FDA0003954490820000065
作均方差，将S44得到的对抗推断向量
Figure FDA0003954490820000066
与S34中的类标向量Linference作交叉熵；将均方差减去交叉熵作为损失函数，其公式如下，
Figure FDA0003954490820000067
其中M为
Figure FDA0003954490820000068
中的个数，为用户数量通过梯度的反向传播优化对抗噪声生成模型，当交叉熵损失函数收敛时，得到最优的对抗噪声生成模型。
CN202211458469.0A 2022-11-17 2022-11-17 基于扩散模型的推荐系统隐私攻击的防御方法 Withdrawn CN115795536A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211458469.0A CN115795536A (zh) 2022-11-17 2022-11-17 基于扩散模型的推荐系统隐私攻击的防御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211458469.0A CN115795536A (zh) 2022-11-17 2022-11-17 基于扩散模型的推荐系统隐私攻击的防御方法

Publications (1)

Publication Number Publication Date
CN115795536A true CN115795536A (zh) 2023-03-14

Family

ID=85439507

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211458469.0A Withdrawn CN115795536A (zh) 2022-11-17 2022-11-17 基于扩散模型的推荐系统隐私攻击的防御方法

Country Status (1)

Country Link
CN (1) CN115795536A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112364372A (zh) * 2020-10-27 2021-02-12 重庆大学 一种有监督矩阵补全的隐私保护方法
CN116186693A (zh) * 2023-04-27 2023-05-30 中国科学技术大学 针对推荐系统的用户隐私保护方法、系统、设备及介质
CN116383884A (zh) * 2023-04-14 2023-07-04 武汉浪科鑫炫网络科技有限公司 一种基于人工智能的数据安全防护方法及系统

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112364372A (zh) * 2020-10-27 2021-02-12 重庆大学 一种有监督矩阵补全的隐私保护方法
CN116383884A (zh) * 2023-04-14 2023-07-04 武汉浪科鑫炫网络科技有限公司 一种基于人工智能的数据安全防护方法及系统
CN116383884B (zh) * 2023-04-14 2024-02-23 天翼安全科技有限公司 一种基于人工智能的数据安全防护方法及系统
CN116186693A (zh) * 2023-04-27 2023-05-30 中国科学技术大学 针对推荐系统的用户隐私保护方法、系统、设备及介质
CN116186693B (zh) * 2023-04-27 2023-08-29 中国科学技术大学 针对推荐系统的用户隐私保护方法、系统、设备及介质

Similar Documents

Publication Publication Date Title
CN115795536A (zh) 基于扩散模型的推荐系统隐私攻击的防御方法
CN112348204B (zh) 一种基于联邦学习和区块链技术的边缘计算框架下海洋物联网数据安全共享方法
Huang et al. Data poisoning attacks to deep learning based recommender systems
Hidano et al. Model inversion attacks for prediction systems: Without knowledge of non-sensitive attributes
Qiu et al. Reputation-aware QoS value prediction of web services
Hu et al. Targeted poisoning attacks on social recommender systems
CN108427891A (zh) 基于差分隐私保护的邻域推荐方法
Kim et al. Building a web of trust without explicit trust ratings
CN114936650A (zh) 基于隐私保护的联合训练业务模型的方法及装置
Anelli et al. A study of defensive methods to protect visual recommendation against adversarial manipulation of images
Sahu et al. Tags and item features as a bridge for cross-domain recommender systems
CN110889759A (zh) 信用数据的确定方法、装置及存储介质
CN111291411A (zh) 基于卷积神经网络的安全视频异常检测系统及方法
CN116049570A (zh) 一种基于联邦对比学习的双塔社交推荐方法
Raziperchikolaei et al. Shared neural item representations for completely cold start problem
Yu et al. Selecting relevant instances for efficient and accurate collaborative filtering
Moradi et al. A New Mechanism for Detecting Shilling Attacks in Recommender Systems Based on Social Network Analysis and Gaussian Rough Neural Network with Emotional Learning
Sun et al. A Survey on Federated Recommendation Systems
CN111429175B (zh) 稀疏特征场景下进行点击转化预测的方法
CN112101946A (zh) 联合训练业务模型的方法及装置
Sahu et al. Matrix factorization in cross-domain recommendations framework by shared users latent factors
CN117094773A (zh) 基于区块链隐私计算的在线迁移学习方法及系统
Liu et al. Securing online reputation systems through trust modeling and temporal analysis
Zhai et al. State of the art on adversarial attacks and defenses in graphs
CN116432039A (zh) 协同训练方法及装置、业务预测方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WW01 Invention patent application withdrawn after publication

Application publication date: 20230314

WW01 Invention patent application withdrawn after publication