CN115952550B - 基于分离学习的纵向图联邦信息推荐方法及相关装置 - Google Patents

Abstract

本申请实施例公开了一种基于分离学习的纵向图联邦信息推荐方法及相关装置，方法包括：将两方用户ID交集作为用户群体训练集；根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示，并对其使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示；使用持有的外部图谱数据计算第二用户神经网络嵌入表示的社会化正则损失项，进行反向传播，得到第二用户神经网络嵌入表示上的第一加密梯度；确定用户和商品的购买意向分值；将其与真实标签计算损失，进行反向传播，得到第二加密梯度以及多层感知机梯度；根据梯度，对第一神经网络模型的模型参数进行优化，得到第二神经网络模型。采用本申请实施例可以提升信息推荐的准确性。

Description

基于分离学习的纵向图联邦信息推荐方法及相关装置

技术领域

本申请涉及隐私计算技术领域或者计算机技术领域，具体涉及一种基于分离学习的纵向图联邦信息推荐方法及相关装置。

背景技术

目前来看，深度学习技术已被广泛应用于各行各业，例如推荐系统，自动驾驶，医疗健康等。由于数据隐私相关法案的不断完善以及人们隐私意识的逐渐提升，传统的数据集中式训练方式将不再适用于许多场景。

实际应用中，联邦学习作为一种具有隐私保护能力的分布式机器学习新范式，可以在原始数据不出本地的情况下利用用户数据和算力协同训练出一个有效的模型，它不再要求用户传输数据而只传输加密后的模型参数以此保护用户隐私。虽然借助联邦学习技术，可以在保证用户隐私不被泄露的前提下进行推荐系统模型的训练，在借助联邦学习技术进行图神经网络的分离学习过程中，用户的神经网络嵌入表示的传输带来了一定的隐私泄露风险，因此，如何提升在分离学习过程中的安全性的问题亟待解决。

发明内容

本申请实施例提供了一种基于分离学习的纵向图联邦信息推荐方法及相关装置，可以提升在分离学习过程中的安全性。

第一方面，本申请实施例提供一种基于分离学习的纵向图联邦信息推荐方法，应用于基于分离学习的纵向图联邦信息推荐系统，所述基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端；所述方法包括：

确定所述媒体端与所述广告需求端之间的两方用户ID交集，将所述两方用户ID交集作为用户群体训练集；

通过所述广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示；

通过所述广告需求端对所述第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示；

通过所述媒体端使用持有的外部图谱数据计算所述第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到所述第二用户神经网络嵌入表示上的第一加密梯度；

确定用户和商品的购买意向分值；

通过所述广告需求端使用所述用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到所述第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度；

根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐。

第二方面，本申请实施例提供了一种基于分离学习的纵向图联邦信息推荐装置，应用于基于分离学习的纵向图联邦信息推荐系统，所述基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端；所述装置包括：确定单元、编码单元、加密单元和优化单元，其中，

所述确定单元，用于确定所述媒体端与所述广告需求端之间的两方用户ID交集，将所述两方用户ID交集作为用户群体训练集；

所述编码单元，用于通过所述广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示；

所述加密单元，用于通过所述广告需求端对所述第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示；

所述确定单元，还用于通过所述媒体端使用持有的外部图谱数据计算所述第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到所述第二用户神经网络嵌入表示上的第一加密梯度；确定用户和商品的购买意向分值；通过所述广告需求端使用所述用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到所述第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度；

所述优化单元，用于根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐。

第三方面，本申请实施例提供一种电子设备，包括处理器、存储器、通信接口以及一个或多个程序，其中，上述一个或多个程序被存储在上述存储器中，并且被配置由上述处理器执行，上述程序包括用于执行本申请实施例第一方面中的步骤的指令。

第四方面，本申请实施例提供了一种计算机可读存储介质，其中，上述计算机可读存储介质存储用于电子数据交换的计算机程序，其中，上述计算机程序使得计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。

第五方面，本申请实施例提供了一种计算机程序产品，其中，上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，上述计算机程序可操作来使计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。

实施本申请实施例，具备如下有益效果：

可以看出，本申请实施例中所描述的基于分离学习的纵向图联邦信息推荐方法及相关装置，应用于基于分离学习的纵向图联邦信息推荐系统，基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端，确定媒体端与广告需求端之间的两方用户ID交集，将两方用户ID交集作为用户群体训练集，通过广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示，通过广告需求端对第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示，通过媒体端使用持有的外部图谱数据计算第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到第二用户神经网络嵌入表示上的第一加密梯度，确定用户和商品的购买意向分值，通过广告需求端使用用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度，根据第一加密梯度、第二加密梯度以及多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，第二神经网络模型用于信息推荐，利用差分隐私技术进行用户神经网络嵌入传输的方案，避免了分离学习过程中用户神经网络传输带来的隐私泄露风险，从而，提升在分离学习过程中的安全性，也有助于提升信息推荐安全性。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本申请实施例提供的一种用于实现基于分离学习的纵向图联邦信息推荐方法的基于分离学习的纵向图联邦信息推荐系统的架构示意图；

图2是本申请实施例提供的一种基于分离学习的纵向图联邦信息推荐方法的流程示意图；

图3是本申请实施例提供的一种电子设备的结构示意图；

图4是本申请实施例提供的一种基于分离学习的纵向图联邦信息推荐装置的功能单元组成框图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

本申请实施例所描述的广告需求端或者媒体端均可以为计算节点，则计算节点可以为电子设备，电子设备可以包括智能手机（如Android手机、iOS手机、Windows Phone手机等）、平板电脑、掌上电脑、行车记录仪、服务器、笔记本电脑、移动互联网设备（MID，MobileInternet Devices）或穿戴式设备（如智能手表、蓝牙耳机）等，上述仅是举例，而非穷举，包含但不限于上述电子设备，该电子设备也可以为云服务器，或者，该电子设备也可以为计算机集群。

本申请实施例中，广告需求端又可以称之为广告主，媒体端也可以简称为媒体，媒体端可以包括媒体端服务器。

下面对本申请实施例进行详细介绍。

请参阅图1，图1是本申请实施例提供的一种用于实现基于分离学习的纵向图联邦信息推荐方法的基于分离学习的纵向图联邦信息推荐系统的架构示意图，如图所示，本基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端；基于该基于分离学习的纵向图联邦信息推荐系统可以实现如下功能：

确定所述媒体端与所述广告需求端之间的两方用户ID交集，将所述两方用户ID交集作为用户群体训练集；

通过所述广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示；

通过所述广告需求端对所述第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示；

通过所述媒体端使用持有的外部图谱数据计算所述第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到所述第二用户神经网络嵌入表示上的第一加密梯度；

通过所述广告需求端确定用户和商品的购买意向分值；

通过所述广告需求端使用所述用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到所述第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度；

通过所述广告需求端根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐。

可选的，所述确定所述媒体端与所述广告需求端之间的两方用户ID交集，包括：

利用隐私集合求交技术进行数据的ID对齐，基于ID对齐的结果确定所述媒体端与所述广告需求端之间的两方用户ID交集。

可选的，所述确定用户和商品的购买意向分值，包括：

通过所述广告需求端提取本地商品神经网络嵌入表示，将该本地商品神经网络嵌入表示与所述用户群体训练集中的每一个训练集中的第二用户神经网络嵌入表示共同输入到解码器中，得到所述用户和商品的购买意向分值。

可选的，所述根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，包括：

通过所述广告需求端叠加所述第一加密梯度和所述第二加密梯度，进行第三次反向传播，得到编码器参数的梯度；

使用至少一个梯度下降优化器，对第一神经网络模型的模型参数进行优化，得到满足所述预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐，所述至少一个梯度下降优化器至少包括所述编码器参数的梯度。

可选的，所述基于分离学习的纵向图联邦信息推荐系统还用于实现如下功能：

通过所述广告需求端使用所述编码器对目标用户和目标商品序列中的商品分别进行编码，得到目标用户与商品的神经网络嵌入表示；

根据所述目标用户与商品的神经网络嵌入表示计算所述目标用户与每个目标商品的购买意向分值，并进行排序；

选取分值大于预设阈值的商品，得到n个商品，将所述n个商品推荐给所述目标用户。

请参阅图2，图2是本申请实施例提供的一种基于分离学习的纵向图联邦信息推荐方法的流程示意图；应用于如图1所示的基于分离学习的纵向图联邦信息推荐系统，所述基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端；所述方法包括：

201、确定所述媒体端与所述广告需求端之间的两方用户ID交集，将所述两方用户ID交集作为用户群体训练集。

本申请实施例中，媒体端可以包括用于实现广告推荐的一些平台，该平台可以包括以下至少一种：抖音、B站、微博、微信、facebook、淘宝、快手等等，在此不做限定。广告需求端可以理解为需要广告投放的机构，该机构可以包括以下至少一种：银行、保险公司等等，在此不做限定。

具体实现中，两方用户ID交集可以包括至少一个用户ID数据，具体的，可以确定媒体端与广告需求端之间的两方用户ID交集，将两方用户ID交集作为用户群体训练集。

可选的，上述步骤201，确定所述媒体端与所述广告需求端之间的两方用户ID交集，可以按照如下方式实施：

利用隐私集合求交技术进行数据的ID对齐，基于ID对齐的结果确定所述媒体端与所述广告需求端之间的两方用户ID交集。

具体实现中，可以通过媒体端和广告需求端利用隐私集合求交（private setintersection，PSI）技术进行数据的ID对齐，再基于ID对齐的结果确定媒体端与广告需求端之间的两方用户ID交集。

可选的，上述步骤201，确定所述媒体端与所述广告需求端之间的两方用户ID交集，可以包括如下步骤：

21、通过所述媒体端使用目标哈希函数计算该媒体端持有的用户ID数据的参考哈希值；

22、通过所述广告需求端使用所述目标哈希函数对本地用户ID数据进行哈希运算，得到本地哈希值，通过比对所述参考哈希值和所述本地哈希值以得到所述两方用户ID交集。

本申请实施例中，广告需求端的用户数据可以包括广告需求端所持有的用户与商品的交互数据，其中，本地用户ID数据可以用于唯一确定用户，例如，在实际应用中，本地用户ID数据可以包括以下至少一种：手机号、身份证号、银行卡号、工号、APP的账号等等，在此不做限定。

本申请实施例中，可以通过媒体端使用目标哈希函数计算该媒体端持有的用户ID数据的参考哈希值，再通过广告需求端使用目标哈希函数对本地用户ID数据进行哈希运算，得到本地哈希值，通过比对参考哈希值和本地哈希值以得到两方用户ID交集。

举例说明下，媒体使用哈希函数H计算持有的用户ID数据的哈希值并发送给广告主；广告主使用相同的哈希函数H对本地用户ID进行哈希获得本地哈希值，并通过比对本地用户ID哈希值与媒体端哈希值获得两方用户ID交集，作为用户群体训练集。

202、通过所述广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示。

本申请实施例中，通过广告需求端使用编码器，以及根据本地数据对训练用户进行编码，即对用户群体训练集进行编码，得到第一用户神经网络嵌入表示。具体实现中，广告主可以使用编码器，根据本地数据对训练用户进行编码，获得各用户的神经网络嵌入表示Ui。

203、通过所述广告需求端对所述第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示。

其中，本地数据可以包括用户的特征数据，用户的特征数据可以包括以下至少一种：性别、年龄、工作职位、收入、性格等等，在此不做限定。

本申请实施例中，神经网络嵌入表示可以是指经过模型编码器所编码的用户特征，用户特征的形态为维数为

的实数向量，其中，n为用户数目，d为模型结构所确定的参数。神经网络嵌入的作用是：1、相较于原始特征向量，该向量经过模型的特征提取后，包含更多与训练相关的信息；2、传输模型编码后的特征，避免了对原始特征数据的直接传输，具备一定加密的效果。

本申请实施例中，可以通过广告需求端对第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示，即广告主可以对用户神经网络嵌入表示使用差分隐私技术进行加密后得到~Ui，再将其发送给媒体，利用差分隐私技术进行用户神经网络嵌入传输的方案，避免了分离学习过程中用户神经网络传输带来的隐私泄露风险。

204、通过所述媒体端使用持有的外部图谱数据计算所述第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到所述第二用户神经网络嵌入表示上的第一加密梯度。

本申请实施例中，外部图谱数据可以包括媒体端所持有的用户与用户之间的社交网络关系数据，其中，上述第一次反向传播的目的为：模型参数关于计算社会化正则损失项的梯度。

本申请实施例中，可以采用用户图谱关系的方法，使得用户社交关系网络可以在推荐系统中被利用以提升营销转化率。利用合作者所持有的图谱关系（例如，社交关系）来进一步改善模型，图谱关系中包含着丰富信息可以利用神经网络来进行提取。

具体实现中，可以通过媒体端使用持有的外部图谱数据计算第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到第二用户神经网络嵌入表示上的第一加密梯度，即媒体使用所持有的外部图谱数据S，计算用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到用户神经网络嵌入表示上的加密梯度g1，发回广告主。

205、通过所述广告需求端确定用户和商品的购买意向分值。

本申请实施例中，可以确定用户和商品的购买意向分值，即用户购买某一商品的意向程度。

可选的，上述步骤205，确定用户和商品的购买意向分值，可以按照如下方式实施：

通过所述广告需求端提取本地商品神经网络嵌入表示，将该本地商品神经网络嵌入表示与所述用户群体训练集中的每一个训练集中的第二用户神经网络嵌入表示共同输入到解码器中，得到所述用户和商品的购买意向分值。

其中，解码器可以包括多层感知机。

本申请实施例中，可以通过广告需求端提取本地商品神经网络嵌入表示，将该本地商品神经网络嵌入表示与用户群体训练集中的每一个训练集中的第二用户神经网络嵌入表示共同输入到解码器中，得到用户和商品的购买意向分值，例如，广告主可以提取本地商品的神经网络嵌入表示V，与每一个训练集中的用户神经网络嵌入表示共同输入到解码器（例如多层感知机）中，得到用户和商品的购买意向分值Rij。

206、通过所述广告需求端使用所述用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到所述第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度。

其中，真实标签指可以包括用户和商品的真实分值，真实分值的具体涵义可以随推荐任务不同而变化，例如：在用户对电影打分（5分制）中，该真实分值为1、2、3、4、5，共5种类型，以此类推。

其中，第二次反向传播的目的是计算模型参数关于任务损失的梯度，该梯度将用于更新模型。

本申请实施例中，可以通过广告需求端使用用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度。具体实现中，广告主可以使用每个用户-商品对的购买意向分值与真实标签（是否购买）计算损失r_{ij}，并进行第二次反向传播，得到用户神经网络嵌入表示的梯度g2以及多层感知机的梯度g_{mlp}。

207、通过所述广告需求端根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐。

其中，预设条件可以预先设置或者系统默认，预设条件可以为达到收敛条件，或者，预设条件可以为训练指定次数等等，在此不做限定，指定次数可以预先设置或者系统默认。

其中，第一神经网络模型可以预先设置或者系统默认，第一神经网络模型可以用于信息推荐。第一神经网络模型可以包括以下至少一种：多层感知机（多层感知模型）、卷积神经网络模型、全连接神经网络模型、循环神经网络模型等等，在此不做限。

本申请实施例中，可以根据第一加密梯度、第二加密梯度以及多层感知机梯度三个中的至少一个梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，第二神经网络模型用于信息推荐，进而解决了当前纵向联邦推荐系统难以利用用户图谱关系，且在联邦训练通信过程中容易泄露用户隐私的问题，提高了推荐系统精确性的同时保证了数据隐私性。

本申请实施例中，在训练阶段，可以通过将媒体持有的用户图谱关系与广告主持有的用户特征两类信息使用图神经网络技术相结合，提升了推荐模型的精准性。

可选的，上述步骤207，通过所述广告需求端根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，可以包括如下步骤：

71、通过所述广告需求端叠加所述第一加密梯度和所述第二加密梯度，进行第三次反向传播，得到编码器参数的梯度；

72、使用至少一个梯度下降优化器，对第一神经网络模型的模型参数进行优化，得到满足所述预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐，所述至少一个梯度下降优化器至少包括所述编码器参数的梯度。

其中，具体模型结构取决于所使用的深度学习模型，编码器参数取决于所使用的深度学习模型，例如，当使用的模型为多层感知机（MLP）时，参数为矩阵w和偏置b。

本申请实施例中，可以通过广告需求端叠加第一加密梯度和第二加密梯度，在此基础上，进行第三次反向传播，得到编码器参数的梯度，即广告主使用每个用户-商品对的购买意向分值与真实标签（是否购买）计算损失r_{ij}，并进行第二次反向传播，得到用户神经网络嵌入表示的梯度g2以及多层感知机的梯度g_{mlp}；广告主叠加用户神经网络嵌入表示的梯度一和梯度二为g_{u}=g1+g2，进行第三次反向传播，得到编码器参数的梯度。

进一步的，再使用至少一个梯度下降优化器，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，即模型参数减去由梯度下降优化器所确定的步长与所计算的相应模型参数梯度的积，该步长通常由梯度下降优化器自动完成。第二神经网络模型用于信息推荐，至少一个梯度下降优化器至少包括编码器参数的梯度，例如，可以基于编码器参数的梯度对第一神经网络模型的模型参数进行优化，又例如，可以基于编码器参数的梯度和多层感知机梯度对第一神经网络模型的模型参数进行优化。即使用梯度下降优化器，对所有模型参数(i.e. 用户神经网络嵌入，用户特征编码器，商品特征编码器，商品嵌入表示，解码器)进行优化，循环步骤201-207直至推荐模型收敛。

可选的，还可以包括如下步骤：

A1、通过所述广告需求端使用所述编码器对目标用户和目标商品序列中的商品分别进行编码，得到目标用户与商品的神经网络嵌入表示；

A2、根据所述目标用户与商品的神经网络嵌入表示计算所述目标用户与每个目标商品的购买意向分值，并进行排序；

A3、选取分值大于预设阈值的商品，得到n个商品，将所述n个商品推荐给所述目标用户。

其中，预设阈值可以预先设置或者系统默认。N为正整数。

本申请实施例中，可以通过广告需求端使用编码器对目标用户和目标商品序列中的商品分别进行编码，得到目标用户与商品的神经网络嵌入表示，根据目标用户与商品的神经网络嵌入表示计算目标用户与每个目标商品的购买意向分值，并进行排序，选取分值大于预设阈值的商品，进而，可以选取用户购买意愿强的商品，得到n个商品，将n个商品推荐给目标用户。具体实现中，广告主使用编码器对用户和目标商品序列中的商品分别进行编码，得到用户、商品的神经网络嵌入表示；计算用户与每个目标商品的购买意向分值，并进行排序；选取分值最大的数个商品，推荐给用户，进而，可以提升商品推荐精准度。

本申请实施例中，可以在训练及推理阶段媒体与广告主双方的每一次相互通信过程中，使用隐私求交、差分隐私等技术可以保护用户包括ID、特征及用户间关系在内的数据隐私不被泄露。

举例说明下，本申请实施例中，算法主体：广告主（如银行、保险公司），媒体（如抖音、B站），在训练阶段：媒体使用哈希函数H计算持有的用户ID数据的哈希值并发送给广告主；广告主使用相同的哈希函数H对本地用户ID进行哈希获得本地哈希值，并通过比对本地用户ID哈希值与媒体端哈希值获得两方用户ID交集，作为用户群体训练集；广告主使用编码器，根据本地数据对训练用户进行编码，获得各用户的神经网络嵌入表示Ui；广告主对用户神经网络嵌入表示使用差分隐私技术进行加密后得到~Ui，发送给媒体；媒体使用所持有的外部图谱数据S，计算用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到用户神经网络嵌入表示上的加密梯度g1，发回广告主；广告主接收媒体发回用户神经网络嵌入表示的梯度g1；广告主提取本地商品的神经网络嵌入表示V，与每一个训练集中的用户神经网络嵌入表示共同输入到解码器（例如多层感知机）中，得到用户和商品的购买意向分值Rij；广告主使用每个用户-商品对的购买意向分值与真实标签（是否购买）计算损失r_{ij}，并进行第二次反向传播，得到用户神经网络嵌入表示的梯度g2以及多层感知机的梯度g_{mlp}；广告主叠加用户神经网络嵌入表示的梯度一和梯度二为g_{u}=g1+g2，进行第三次反向传播，得到编码器参数的梯度；使用梯度下降优化器，对所有模型参数(i.e.用户神经网络嵌入，用户特征编码器，商品特征编码器，商品嵌入表示，解码器)进行优化，直至推荐模型收敛。

具体实现中，在训练阶段，通过将媒体持有的用户图谱关系与广告主持有的用户特征两类信息使用图神经网络技术相结合，提升了推荐模型的精准性。

进一步的，推理阶段：广告主使用编码器对用户和目标商品序列中的商品分别进行编码，得到用户、商品的神经网络嵌入表示；计算用户与每个目标商品的购买意向分值，并进行排序；选取分值最大的数个商品，推荐给用户。

本申请实施例中，可以在训练及推理阶段媒体与广告主双方的每一次相互通信过程中，使用隐私求交、差分隐私等技术可以保护用户包括ID、特征及用户间关系在内的数据隐私不被泄露，进而提升安全性。

可以看出，本申请实施例中所描述的基于分离学习的纵向图联邦信息推荐方法，应用于基于分离学习的纵向图联邦信息推荐系统，基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端，确定媒体端与广告需求端之间的两方用户ID交集，将两方用户ID交集作为用户群体训练集，通过广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示，通过广告需求端对第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示，通过媒体端使用持有的外部图谱数据计算第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到第二用户神经网络嵌入表示上的第一加密梯度，确定用户和商品的购买意向分值，通过广告需求端使用用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度，根据第一加密梯度、第二加密梯度以及多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，第二神经网络模型用于信息推荐，利用差分隐私技术进行用户神经网络嵌入传输的方案，避免了分离学习过程中用户神经网络传输带来的隐私泄露风险，从而，提升在分离学习过程中的安全性，也有助于提升信息推荐安全性。

与上述实施例一致地，请参阅图3，图3是本申请实施例提供的一种电子设备的结构示意图，如图所示，该电子设备包括处理器、存储器、通信接口以及一个或多个程序，上述一个或多个程序被存储在上述存储器中，并且被配置由上述处理器执行，本申请实施例中，该电子设备应用于基于分离学习的纵向图联邦信息推荐系统，所述基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端；上述程序包括用于执行以下步骤的指令：

确定所述媒体端与所述广告需求端之间的两方用户ID交集，将所述两方用户ID交集作为用户群体训练集；

通过所述广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示；

通过所述广告需求端对所述第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示；

通过所述媒体端使用持有的外部图谱数据计算所述第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到所述第二用户神经网络嵌入表示上的第一加密梯度；

通过所述广告需求端确定用户和商品的购买意向分值；

通过所述广告需求端使用所述用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到所述第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度；

通过所述广告需求端根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐。

可选的，在所述确定所述媒体端与所述广告需求端之间的两方用户ID交集方面，上述程序包括用于执行以下步骤的指令：

利用隐私集合求交技术进行数据的ID对齐，基于ID对齐的结果确定所述媒体端与所述广告需求端之间的两方用户ID交集。

进一步的，可选的，在所述确定用户和商品的购买意向分值方面，上述程序包括用于执行以下步骤的指令：

通过所述广告需求端提取本地商品神经网络嵌入表示，将该本地商品神经网络嵌入表示与所述用户群体训练集中的每一个训练集中的第二用户神经网络嵌入表示共同输入到解码器中，得到所述用户和商品的购买意向分值。

可选的，在所述根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型方面，上述程序包括用于执行以下步骤的指令：

通过所述广告需求端叠加所述第一加密梯度和所述第二加密梯度，进行第三次反向传播，得到编码器参数的梯度；

使用至少一个梯度下降优化器，对第一神经网络模型的模型参数进行优化，得到满足所述预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐，所述至少一个梯度下降优化器至少包括所述编码器参数的梯度。

可选的，上述程序还包括用于执行以下步骤的指令：

通过所述广告需求端使用所述编码器对目标用户和目标商品序列中的商品分别进行编码，得到目标用户与商品的神经网络嵌入表示；

根据所述目标用户与商品的神经网络嵌入表示计算所述目标用户与每个目标商品的购买意向分值，并进行排序；

选取分值大于预设阈值的商品，得到n个商品，将所述n个商品推荐给所述目标用户。

可以看出，本申请实施例中所描述的电子设备，应用于基于分离学习的纵向图联邦信息推荐系统，基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端，确定媒体端与广告需求端之间的两方用户ID交集，将两方用户ID交集作为用户群体训练集，通过广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示，通过广告需求端对第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示，通过媒体端使用持有的外部图谱数据计算第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到第二用户神经网络嵌入表示上的第一加密梯度，确定用户和商品的购买意向分值，通过广告需求端使用用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度，根据第一加密梯度、第二加密梯度以及多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，第二神经网络模型用于信息推荐，利用差分隐私技术进行用户神经网络嵌入传输的方案，避免了分离学习过程中用户神经网络传输带来的隐私泄露风险，从而，提升在分离学习过程中的安全性，也有助于提升信息推荐安全性。

图4是本申请实施例中所涉及的一种基于分离学习的纵向图联邦信息推荐装置400的功能单元组成框图，应用于基于分离学习的纵向图联邦信息推荐系统，所述基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端；所述装置400包括：确定单元401、编码单元402、加密单元403和优化单元404，其中，

所述确定单元401，用于确定所述媒体端与所述广告需求端之间的两方用户ID交集，将所述两方用户ID交集作为用户群体训练集；

所述编码单元402，用于通过所述广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示；

所述加密单元403，用于通过所述广告需求端对所述第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示；

所述确定单元401，还用于通过所述媒体端使用持有的外部图谱数据计算所述第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到所述第二用户神经网络嵌入表示上的第一加密梯度；确定用户和商品的购买意向分值；通过所述广告需求端使用所述用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到所述第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度；

所述优化单元404，用于根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐。

可选的，在所述确定所述媒体端与所述广告需求端之间的两方用户ID交集方面，所述确定单元401具体用于：

利用隐私集合求交技术进行数据的ID对齐，基于ID对齐的结果确定所述媒体端与所述广告需求端之间的两方用户ID交集。

可选的，在所述确定用户和商品的购买意向分值方面，所述确定单元401具体用于：

通过所述广告需求端提取本地商品神经网络嵌入表示，将该本地商品神经网络嵌入表示与所述用户群体训练集中的每一个训练集中的第二用户神经网络嵌入表示共同输入到解码器中，得到所述用户和商品的购买意向分值。

可选的，在所述根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型方面，所述优化单元404具体用于：

通过所述广告需求端叠加所述第一加密梯度和所述第二加密梯度，进行第三次反向传播，得到编码器参数的梯度；

使用至少一个梯度下降优化器，对第一神经网络模型的模型参数进行优化，得到满足所述预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐，所述至少一个梯度下降优化器至少包括所述编码器参数的梯度。

可选的，所述装置400还具体用于：

通过所述广告需求端使用所述编码器对目标用户和目标商品序列中的商品分别进行编码，得到目标用户与商品的神经网络嵌入表示；

根据所述目标用户与商品的神经网络嵌入表示计算所述目标用户与每个目标商品的购买意向分值，并进行排序；

选取分值大于预设阈值的商品，得到n个商品，将所述n个商品推荐给所述目标用户。

可以看出，本申请实施例中所描述的基于分离学习的纵向图联邦信息推荐装置，应用于基于分离学习的纵向图联邦信息推荐系统，基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端，确定媒体端与广告需求端之间的两方用户ID交集，将两方用户ID交集作为用户群体训练集，通过广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示，通过广告需求端对第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示，通过媒体端使用持有的外部图谱数据计算第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到第二用户神经网络嵌入表示上的第一加密梯度，确定用户和商品的购买意向分值，通过广告需求端使用用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度，根据第一加密梯度、第二加密梯度以及多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，第二神经网络模型用于信息推荐，利用差分隐私技术进行用户神经网络嵌入传输的方案，避免了分离学习过程中用户神经网络传输带来的隐私泄露风险，从而，提升在分离学习过程中的安全性，也有助于提升信息推荐安全性。

可以理解的是，本实施例的基于分离学习的纵向图联邦信息推荐装置的各程序模块的功能可根据上述方法实施例中的方法具体实现，其具体实现过程可以参照上述方法实施例的相关描述，此处不再赘述。

本申请实施例还提供一种计算机存储介质，其中，该计算机存储介质存储用于电子数据交换的计算机程序，该计算机程序使得计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤，上述计算机包括电子设备。

本申请实施例还提供一种计算机程序产品，上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，上述计算机程序可操作来使计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤。该计算机程序产品可以为一个软件安装包，上述计算机包括电子设备。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的装置，可通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如上述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性或其它的形式。

上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

上述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储器中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储器中，包括若干指令用以使得一台计算机设备（可为个人计算机、服务器或者网络设备等）执行本申请各个实施例上述方法的全部或部分步骤。而前述的存储器包括：U盘、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储器中，存储器可以包括：闪存盘、只读存储器（英文：Read-Only Memory ，简称：ROM）、随机存取器（英文：Random Access Memory，简称：RAM）、磁盘或光盘等。

以上对本申请实施例进行了详细介绍，本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本申请的限制。

Claims (8)

1.一种基于分离学习的纵向图联邦信息推荐方法，其特征在于，应用于基于分离学习的纵向图联邦信息推荐系统，所述基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端；所述方法包括：

确定所述媒体端与所述广告需求端之间的两方用户ID交集，将所述两方用户ID交集作为用户群体训练集；

通过所述广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示；

通过所述广告需求端对所述第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示；

通过所述媒体端使用持有的外部图谱数据计算所述第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到所述第二用户神经网络嵌入表示上的第一加密梯度，所述外部图谱数据包括所述媒体端所持有的用户与用户之间的社交网络关系数据；

通过所述广告需求端确定用户和商品的购买意向分值；

通过所述广告需求端使用所述用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到所述第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度；

通过所述广告需求端根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐；

其中，所述确定用户和商品的购买意向分值，包括：

通过所述广告需求端提取本地商品神经网络嵌入表示，将该本地商品神经网络嵌入表示与所述用户群体训练集中的每一个训练集中的第二用户神经网络嵌入表示共同输入到解码器中，得到所述用户和商品的购买意向分值。

2.根据权利要求1所述的方法，其特征在于，所述确定所述媒体端与所述广告需求端之间的两方用户ID交集，包括：

利用隐私集合求交技术进行数据的ID对齐，基于ID对齐的结果确定所述媒体端与所述广告需求端之间的两方用户ID交集。

3.根据权利要求1或2所述的方法，其特征在于，所述根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，包括：

通过所述广告需求端叠加所述第一加密梯度和所述第二加密梯度，进行第三次反向传播，得到编码器参数的梯度；

使用至少一个梯度下降优化器，对第一神经网络模型的模型参数进行优化，得到满足所述预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐，所述至少一个梯度下降优化器至少包括所述编码器参数的梯度。

4.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：

通过所述广告需求端使用所述编码器对目标用户和目标商品序列中的商品分别进行编码，得到目标用户与商品的神经网络嵌入表示；

根据所述目标用户与商品的神经网络嵌入表示计算所述目标用户与每个目标商品的购买意向分值，并进行排序；

选取分值大于预设阈值的商品，得到n个商品，将所述n个商品推荐给所述目标用户。

5.一种基于分离学习的纵向图联邦信息推荐装置，其特征在于，应用于基于分离学习的纵向图联邦信息推荐系统，所述基于分离学习的纵向图联邦信息推荐系统包括广告需求端和媒体端；所述装置包括：确定单元、编码单元、加密单元和优化单元，其中，

所述确定单元，用于确定所述媒体端与所述广告需求端之间的两方用户ID交集，将所述两方用户ID交集作为用户群体训练集；

所述编码单元，用于通过所述广告需求端使用编码器，以及根据本地数据对训练用户进行编码，得到第一用户神经网络嵌入表示；

所述加密单元，用于通过所述广告需求端对所述第一用户神经网络嵌入表示使用差分隐私技术进行加密，得到第二用户神经网络嵌入表示；

所述确定单元，还用于通过所述媒体端使用持有的外部图谱数据计算所述第二用户神经网络嵌入表示的社会化正则损失项，并进行第一次反向传播，得到所述第二用户神经网络嵌入表示上的第一加密梯度，所述外部图谱数据包括所述媒体端所持有的用户与用户之间的社交网络关系数据；确定用户和商品的购买意向分值；通过所述广告需求端使用所述用户和商品的购买意向分值与真实标签计算损失，并进行第二次反向传播，得到所述第二用户神经网络嵌入表示上的第二加密梯度以及多层感知机梯度；

所述优化单元，用于根据所述第一加密梯度、所述第二加密梯度以及所述多层感知机梯度，对第一神经网络模型的模型参数进行优化，得到满足预设条件的第二神经网络模型，所述第二神经网络模型用于信息推荐；

其中，所述确定用户和商品的购买意向分值，包括：

通过所述广告需求端提取本地商品神经网络嵌入表示，将该本地商品神经网络嵌入表示与所述用户群体训练集中的每一个训练集中的第二用户神经网络嵌入表示共同输入到解码器中，得到所述用户和商品的购买意向分值。

6.根据权利要求5所述的装置，其特征在于，在所述确定所述媒体端与所述广告需求端之间的两方用户ID交集方面，所述确定单元具体用于：

利用隐私集合求交技术进行数据的ID对齐，基于ID对齐的结果确定所述媒体端与所述广告需求端之间的两方用户ID交集。

7.一种电子设备，其特征在于，包括处理器、存储器，所述存储器用于存储一个或多个程序，并且被配置由所述处理器执行，所述程序包括用于执行如权利要求1-4任一项所述的方法中的步骤的指令。

8.一种计算机可读存储介质，其特征在于，存储用于电子数据交换的计算机程序，其中，所述计算机程序使得计算机执行如权利要求1-4任一项所述的方法。

Images