CN110442802B - 一种社交用户的多行为偏好预测方法 - Google Patents

一种社交用户的多行为偏好预测方法 Download PDF

Info

Publication number
CN110442802B
CN110442802B CN201910721441.3A CN201910721441A CN110442802B CN 110442802 B CN110442802 B CN 110442802B CN 201910721441 A CN201910721441 A CN 201910721441A CN 110442802 B CN110442802 B CN 110442802B
Authority
CN
China
Prior art keywords
user
behavior
preference
preferences
node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910721441.3A
Other languages
English (en)
Other versions
CN110442802A (zh
Inventor
陈恩红
王皓
徐童
刘淇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Science and Technology of China USTC
Original Assignee
University of Science and Technology of China USTC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Science and Technology of China USTC filed Critical University of Science and Technology of China USTC
Priority to CN201910721441.3A priority Critical patent/CN110442802B/zh
Publication of CN110442802A publication Critical patent/CN110442802A/zh
Application granted granted Critical
Publication of CN110442802B publication Critical patent/CN110442802B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9536—Search customisation based on social or collaborative filtering

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种社交用户的多行为偏好预测方法，包括：通过社交网络中用户关系初始化各个用户在所有行为上的综合偏好；利用二值掩码层对各个用户在所有行为上的综合偏好进行分离，得到初始的各个用户在每一行为上的偏好；利用多层图卷积网络中的信息发送和接受操作，迭代地聚合社交网络中当前用户的相邻用户的多面偏好的相似信息来更新当前用户在所有行为上的综合偏好，从而利用最终得到的各个用户在所有行为上的综合偏好分离出相应的各个用户在每一行为上的偏好；利用贝叶斯个性化排序准则，来联合学习社交网络中各个用户的多个行为偏好相似性，从而预测各个用户在每一行为上的偏好。该方法可以准确、快捷的得到每个用户不同行为的偏好。

Description

一种社交用户的多行为偏好预测方法
技术领域
本发明涉及网络分析领域，尤其涉及一种社交用户的多行为偏好预测方法。
背景技术
最近，随着表征学习技术的不断发展，一系列的网络表示学习的方法被提出，通过维持节点之间的网络结构的关系来为网络中每个节点学习一个低维的向量表征，这些学习到的节点向量表征能够直接被作为节点的自身特征来应用到后续的网络分析任务中，如节点的分类，链接预测和网络聚类等任务。但之前大部分的工作仅仅为网络中的节点学习一个的向量表示，从而只能反应节点之间单一的相似关系，而无法表达节点之间存在的多面相似关系。
在实际的生活中，社交网络中的用户常常有多种不同类型的用户行为记录，并且在多种用户行为上有着不同的偏好。因此，我们可以利用网络中多类型的用户行为记录，为每个节点学习多个向量表征来表示节点在不同行为上的偏好相似性。而在网络表示学习领域之前大部分的研究工作都只是为节点学习到一个单一的向量表示，无法刻画节点之间存在的多面偏好行为的相似性，因此仍然存在着一些不足需要进一步得到提升。
虽然可以利用之前研究工作的方法为用户在每个行为偏好上单独地学习到对应的条件向量表示(即行为偏好)，但是对每个用户行为的建模都需要一套独立的模型参数，从而会造成大量的参数冗余。其次，独立地建模用户不同的偏好行为忽略了不同行为之间的关联性。由于目前方案存在的种种缺陷，其得到的用户行为偏好不够准确，将影响具体工作的使用效果；例如，由于用户行为偏好不够准确，那么在后续用户行为推荐时，往往也无法取得较好的推荐效果。
鉴于此，有必要对其进行深入研究，来快速、准确得到各用户的行为偏好，以提升具体工作的应用效果。
发明内容
本发明的目的是提供一种社交用户的多行为偏好预测方法，可以准确、快捷的得到每个用户不同行为的偏好，从而提升具体工作的应用效果。
本发明的目的是通过以下技术方案实现的：
一种社交用户的多行为偏好预测方法，包括：
通过社交网络中用户关系初始化各个用户在所有行为上的综合偏好；
利用二值掩码层对各个用户在所有行为上的综合偏好进行分离，得到初始的各个用户在每一行为上的偏好；利用多层图卷积网络中的信息发送和接受操作，迭代地聚合社交网络中当前用户的相邻用户的多面偏好的相似信息来更新当前用户在所有行为上的综合偏好，从而利用最终得到的各个用户在所有行为上的综合偏好分离出相应的各个用户在每一行为上的偏好；
利用贝叶斯个性化排序准则，并结合相应的各个用户在每一行为上的偏好，来联合学习社交网络中各个用户的多个行为偏好相似性，从而预测各个用户在每一行为上的偏好。
由上述本发明提供的技术方案可以看出，通过联合的方法来为社交网络中的用户同时学习多个用户行为所对应的行为偏好，能够同时学习社交网络中的用户在多个偏好行为上的相似关系，最终预测得到每个用户不同行为的偏好；相比于现有技术而言，本发明避免了参数冗余的情况，同时还考虑了不同行为之间的关联性；得到每个用户不同行为的偏好可以直接应用在具体的工作中，例如，可用于用户画像、物品推荐等等，实验表明，通过本发明得到的行为偏好可以极大的提升具体工作的应用效果。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他附图。
图1为本发明实施例提供的一种社交用户的多行为偏好预测方法的流程图；
图2为本发明实施例提供的实现相应方法的模型框架图。
具体实施方式
下面结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明的保护范围。
如何建模用户不同行为之间复杂的交互关系，并通过联合学习来共享多个用户行为间的相似信息来进一步提升模型的泛化性能，在之前的研究工作中都忽略了，因此，本发明实施例提供一种社交用户的多行为偏好预测方法，来避免现有方案所存在的种种缺陷，图1为相应的流程图，图2为为实现相应方法的模型框架图。
如图1所示，该方法主要包括如下步骤：
步骤1、通过社交网络中用户关系初始化各个用户在所有行为上的综合偏好。
本发明实施例中，将每一用户看作一个节点，社交网络中用户关系表示为：G＝(V,E)；其中，V为社交网络中的节点集合，E为表示节点关系的边集合。
本领域技术人员可以理解，社交网络中，用户之间存在一定的关系，比如，朋友关系、同事关系等，具有这些关系的用户所对应的节点则存在相应的连接边。
与之前大部分研究工作相同，本发明实施例中，将所有节点投影到一个低维的向量表示空间，并用矩阵
Figure BDA0002157360700000031
作为所有节点的综合向量表示，其中，||是节点的数量，d0是节点初始向量表征维度，U0的第i行
Figure BDA0002157360700000032
表示节点vi的综合向量表示，也即相应用户在所用行为上的综合偏好。
步骤2、利用二值掩码层对各个用户在所有行为上的综合偏好进行分离，得到初始的各个用户在每一行为上的偏好；利用多层图卷积网络中的信息发送和接受操作，迭代地聚合社交网络中当前用户的相邻用户的多面偏好的相似信息来更新当前用户在所有行为上的综合偏好，从而利用最终得到的各个用户在所有行为上的综合偏好分离出相应的各个用户在每一行为上的偏好。
示例性的，用户行为可以是看书、看电影、听音乐等等行为，偏好反映用户对相应行为的喜好程度。在社交网络中，用户之间有不同的行为偏好相似关系，比如，用户与相邻好友在书籍，电影，音乐等多个行为上的偏好相似性不同。
本步骤主要分为三个部分，下面针对这三个部分的优选实施方式分别进行介绍。
1)二值掩码层(Binary Mask)。
上一步骤中获得了节点的综合向量表示U0，其中的第i行
Figure BDA0002157360700000033
被看成是节点vi在图卷积神经网络第k＝0层的综合向量表示。
为了建模节点在多个不同行为上的条件相似关系，设计了二值掩码层将每层节点的综合向量表示分割成多个向量子空间。具体地，在基础的图卷积神经网络框架上对每层节点的综合向量表示表征都关联上一个实值的掩码权重矩阵
Figure BDA0002157360700000041
其中dk是第k层的节点向量的维度，C是用户行为类别的数量，并额外地增加了一个维度来表示在训练数据集中没有出现的用户行为偏好。
之后，将实值的掩码权重矩阵
Figure BDA0002157360700000042
通过一个硬阈值函数来得到二值掩码矩阵
Figure BDA0002157360700000043
定义如下：
Figure BDA0002157360700000044
其中，
Figure BDA0002157360700000045
表示二值掩码矩阵
Figure BDA0002157360700000046
第p行第q列对应的元素值，
Figure BDA0002157360700000047
表示实值的掩码权重矩阵
Figure BDA0002157360700000048
第p行第q列对应的元素值；
通过硬阈值函数得到二值掩码矩阵后，利用
Figure BDA0002157360700000049
来表示掩码矩阵
Figure BDA00021573607000000410
所对应的第c行，从而得到节点在第c个行为上所对应的条件向量
Figure BDA00021573607000000411
也即用户在第c个行为上的偏好，其表示为：
Figure BDA00021573607000000412
其中，⊙表示两个向量间点乘运算；
Figure BDA00021573607000000413
表示节点vi在图卷积神经网络第k层的综合向量表示。
掩码
Figure BDA00021573607000000414
根据对应的值0或1来动态选择
Figure BDA00021573607000000415
中与第c个行为相关的向量维度，从而根据
Figure BDA00021573607000000416
计算公式能够将一个综合向量表示
Figure BDA00021573607000000417
分离成多个行为所对应的条件向量表征。例如一个节点的综合表示向量[0.1,0.9,-0.5,1通过不同的二值掩码能够获得多个条件向量表示，如[0.1,0,0,1]，[0,0.9,-0.5,0]和[0,0.9,-0.5,1等。
2)多面偏好的相似信息发送操作。
通过二值掩码层，能够获得每一节点的条件向量，然后基于图卷积神经网络框架中的消息发送和接受操作，迭代地聚合网络中节点周围的多面偏好相似性来更新节点的向量表示。本步骤主要介绍改进后的节点间的多面偏好的相似信息发送的操作。
具体的，节点vi向连接边ei,j上发送的多面偏好的相似信息
Figure BDA00021573607000000418
表示为：
Figure BDA00021573607000000419
其中，
Figure BDA00021573607000000420
为在连接边ei,j上行为c所占的权重值；根据权重值将不同行为所对应的条件向量加权累加得到边上传递的多面偏好的相似信息
Figure BDA00021573607000000421
由于节点在不同行为上的偏好并不是等价的，引入注意力机制网络(NeuralAttentional Network)来计算行为c所占的权重值，将邻接节点vi与vj的每个条件向量拼接结果
Figure BDA0002157360700000051
作为注意力机制网络的输入，通过一个多层神经网络得到对应的中间值
Figure BDA0002157360700000052
再利用Softmax函数对中间值
Figure BDA0002157360700000053
进行归一化，表示为：
Figure BDA0002157360700000054
Figure BDA0002157360700000055
其中，
Figure BDA0002157360700000056
和
Figure BDA0002157360700000057
是注意力机制网络的参数，dk是第k层对应的神经注意力网络输入数据的特征维度，t是Relu激活函数输出向量的维度；为激活函数。
通过使用中间值
Figure BDA0002157360700000058
计算公式所定义的注意力机制网络，使得节点间越相似的用户行为被分配更大的权重值。而用为行为所对应的权重值越大，在边上传递上的信息则更多，从而能使用户在对应的行为偏好上更加相似。
3)信息接收操作
在得到边上传递的多面偏好的相似信息后，汇聚节点相邻边上的所有信息来更新得到节点新的向量表示。
接受操作时，对当前节点ci周围随机采样的固定大小的邻居节点集合N(i)，使用平均池化函数AGGRk来汇聚节点周围的多面偏好的相似信息到单一向量
Figure BDA0002157360700000059
再将当前节点vi在图卷积神经网络第k层的综合向量
Figure BDA00021573607000000510
和单一向量
Figure BDA00021573607000000511
拼接起来，并通过一个非线性激活函数σ(σ(x)＝max(0,x))的全连接层来更新得到k+1层的综合向量
Figure BDA00021573607000000512
上述过程表示为：
Figure BDA00021573607000000513
通过图卷积神经网络中的多面性相似信息发送和接受操作，能够汇聚社交网络中每个节点的相邻节点的多面偏好的相似信息；通过叠加使用多层图卷积网络能够地捕捉节点多阶邻居间的相似信息，得到图卷积神经网络的最后一层的节点综合向量
Figure BDA00021573607000000514
也即最终的用户在所有行为上的综合偏好，其中，K为图卷积神经网络的最后一层；再对其进行分离(即前文二值掩码层所介绍的操作方式)得到每一行为对应的条件向量构成的集合
Figure BDA00021573607000000515
也即相应用户在每一行为上的偏好。
步骤3、利用贝叶斯个性化排序准则，并结合相应的各个用户在每一行为上的偏好，来联合学习社交网络中各个用户的多个行为偏好相似性，从而预测各个用户在每一行为上的偏好。
在社交网络中，用户的偏好行为大部分都是隐式反馈数据，因此，使用贝叶斯个性化排序准则来分别学习用户在每个隐式行为上的偏好关系，对于行为c的偏好记录矩阵Rc和对应的条件向量
Figure BDA0002157360700000061
最终的损失函数定义为：
Figure BDA0002157360700000062
其中，λ1表示的是一个提前设好的超参数，用来平衡正则化项||Θc||在损失函数中的权重，机器学习中常见的概念；物品p为用户执行某个行为时曾经交互过的物品，其作为正样本；物品n为用户没有交互过的物品，其作为负样本；zp|c、zn|c均为通过初始化获得的向量表征，分别是在行为c上物品p、物品n所对应的向量表征，Θc为与行为c相关的模型参数，所述模型是指如图2所示的实现本方法的模型；条件向量
Figure BDA0002157360700000063
也即初始的用户在行为c上的偏好；
通过优化上式，使得用户和交互过的物品相似性大于未交互过的物品，从而能够学习到用户在行为c上的物品偏好相似性。
本领域技术人员可以理解，物品与行为是存在对应关系的，如之前介绍的行为可以是看书、看电影、听音乐等等，以看电影这一行为为例，如果用户A在看电影这一行为上，有点击过电影：阿凡达、流浪地球等，则阿凡达、流浪地球均为用户A曾经交互过的物品。
在实际的社交网络中，用户的多个偏好行为之间常常是有一定的关联性。出于这个目的，将每个条件向量的学习看成是单个的任务，并利用多任务学习的框架来联合学习多个条件向量，目标函数定义为：
Figure BDA0002157360700000064
其中，Θ是模型所有的参数，λ为正则化超参数；
Figure BDA0002157360700000065
为所有行为对应的条件向量集合，也即用户在每一行为上的偏好；SR＝{R1,…,C}为行为记录矩阵，行为记录矩阵为记录用户在多个行为上对物品的点击记录，每个元素Rc表示社交网络中所有的用户在行为c(如看电影行为)上对所有物品(所有的电影，如流浪地球等)的点击行为，其中Rc矩阵中每个元素的含义是，用户i是否点击过物品j，如果点击过，对应的值为1，没有点击过，值则为0，SR即为用户在所有行为上的点击记录的矩阵集合。
本步骤的输入为各个用户在每一行为上的偏好，也即各个用户对应的
Figure BDA0002157360700000071
Figure BDA0002157360700000072
通过上述目标函数，输出预测到的相应用户在每一行为上的偏好可以记为
Figure BDA0002157360700000073
S′U和SU表示的含义相同，区别在于S′U是SU损失函数优化后的变量值，比如，要优化二元函数的最小值，需要通过求导得到最终的二元函数的参数值，这里也是相同的道理，优化后的参数使得目标函数值更小，从而能够更好的学习到用户偏好关系。
通过将二值掩码层和多任务学习框架的结合，并利用学习到的向量子空间来共享不同行为间的相关维度信息，能够缓解训练数据的稀疏性和有效地增强学习到的条件向量表征的鲁棒性。
如图2所示的模型框架中，从左至右，第一个虚线框对应前文的步骤1；第二个虚线框对应步骤2中的第一个部分，即二值掩码层；第三个虚线框对应步骤2中第二个部分，即多面偏好相似信息发送操作；第四个虚线框：对应步骤2中第三个部分，即信息接受操作；第五个虚线框对应步骤3；第六个虚线框：表示预测到用户多个不同条件向量表征，每个不同条件向量表征在向量空间中不同的相似关系。
为了提高本发明上述方案的性能，针对模型优化方式进行介绍；此处所述的模型也即图2所示的模型框架，其主要用来学习得到各个节点在各行为上的条件向量(也即，各个用户在每一行为上的偏好)。
1、二值掩码的学习
因为对实数掩码矩阵的变量初始化对模型的收敛和性能有着非常大的影响，所以将详细的描述这一部分的优化过程。在实验中，发现采用固定值来初始化矩阵的参数并不能实现令人满意的性能，因此采用均匀分布来初始化实数掩码矩阵
Figure BDA0002157360700000074
这样的初始化方式也能够使我们更好地体现出可学习的掩码的好处。
在
Figure BDA0002157360700000075
计算公式中，在实值的掩码权重矩阵上使用了一个不可微分的硬阈值函数来得到二值掩码矩阵。而为了能够使用随机梯度下降的算法来更新实值的掩码权重矩阵中的变量，采用在网络二值化领域中使用的训练方法，只在网络的前向和后向传播中对变量进行二值化处理，并使用二值掩码矩阵
Figure BDA0002157360700000076
的梯度来更新实值的掩码权重矩阵
Figure BDA0002157360700000077
中的变量。同时将实值的掩码权重矩中的值约束在[-1,1]的区间内，来避免矩阵的中的值增长过大而失去了对二值变量的更新的影响。最终，可以使用Adam算法以一个端到端的方式来优化模型的目标函数。
2、小批量样本学习
因为大规模的网络中每个节点同时生成多个条件向量表示的计算复杂度常常是非常耗时的，因此为了使模型能够更好地应用在大规模网络上，将模型的训练算法扩展成小批量样本学习。具体的实现方式为，对于网络中的部分节点，在模型训练前，首先提前采样在图卷积神经网络中每层所需要的邻居节点，从而在训练时避免了需要不断地进行邻居节点采样操作，极大地提升了模型优化的速度。如图2所示，设置Mini-batch of size B(训练样本大小为B的小批量样本)。
通过使用小批量样本学习的方法，模型的时间复杂度最终固定为
Figure BDA0002157360700000081
其中M为在小样本学习中节点的数量，k为图卷积神经网络中的层数，Ni是在网络汇总每层所需要采样的邻居数量。在多数情况下，设置k＝2和|N1|·|N2|≤50就能实现较好的实验结果，因此模型的时间复杂度是可以被接受的，并能够被应用到实际的大规模应用中的。
3、模型参数的设置
模型的实现是基于TensorFlow的深度学习框架。首先用均值为0标准差为0.01的高斯分布来初始化模型的参数。设置图卷积神经网络的层数k为2，每层节点向量表征的维度分别为[256,128,100]，每层采样邻居的大小数量为[20,20]，正则化超参数λ为0.0001，负样本的物品数量为5。在训练过程中，设置梯度下降算法的学习率为0.003，每批次的样本数量为128。这组参数适用于本发明实验的数据环境，使用者可根据实际的数据情况自行调整。
以上介绍所涉及的各个参数的具体数值仅为示例，并非构成限制。
为了验证上述模型学习到的各个节点条件向量的好坏，以及在新数据集上的鲁棒性，我们分别设计了社交用户多偏好行为推荐和模型迁移任务，具体的评估方法如下所示：
1、社交用户多偏好行为推荐
为了评估学习到的各个节点条件向量的好坏，随机选择每个用户偏好行为70％的样本作为训练数据，10％的样本作为验证数据，剩余20％的样本作为测试数据。并将学习到的节点条件向量和物品向量表征间的内积作为相似度值，进一步根据相似度值对用户的物品偏好进行排序，并使用常用的两个排序评估指标Recall@K和NDCG@K来验证模型的性能，实验表明，推荐效果相比于现有方案具有显著提升。
2、模型迁移
为了进一步地验证模型的鲁棒性，将在训练数据集上所学习到的模型直接迁移到一个未训练新的数据集上，并在新的用户行为偏好数据集上采用相同的方法和指标对模型进行验证。
最终，通过与之前研究工作的比较，本发明基于传统的图卷积神经网络框架上提出了能够传递用户间多面偏好相似信息的发送和接受操作，并利用多任务学习框架来联合学习社交网络用户的多个行为偏好相似性，能够有效地缓解训练数据稀疏性并提升模型的鲁棒性，并在社交用户多偏好行为推荐和模型迁移的任务上，实验性能得到了显著的提升。
当然，本发明得到的用户行为偏好还可以应用在用户画像等等工作中；值得注意的是，本发明主要关注如何准确、快捷的得到每个用户不同行为的偏好，文中所提及的具体应用仅为举例，并非构成限制；实际工作中，用户可以根据自身需求，选择具体的应用方向。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例可以通过软件实现，也可以借助软件加必要的通用硬件平台的方式来实现。基于这样的理解，上述实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明披露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求书的保护范围为准。

Claims (7)

1.一种社交用户的多行为偏好预测方法，其特征在于，包括：
通过社交网络中用户关系初始化各个用户在所有行为上的综合偏好；
利用二值掩码层对各个用户在所有行为上的综合偏好进行分离，得到初始的各个用户在每一行为上的偏好；利用多层图卷积网络中的信息发送和接受操作，迭代地聚合社交网络中当前用户的相邻用户的多面偏好的相似信息来更新当前用户在所有行为上的综合偏好，从而利用最终得到的各个用户在所有行为上的综合偏好分离出相应的各个用户在每一行为上的偏好；
利用贝叶斯个性化排序准则，并结合相应的各个用户在每一行为上的偏好，来联合学习社交网络中各个用户的多个行为偏好相似性，从而预测各个用户在每一行为上的偏好。
2.根据权利要求1所述的一种社交用户的多行为偏好预测方法，其特征在于，所述通过社交网络中用户关系初始化各个用户在所有行为上的综合偏好包括：
将每一用户看作一个节点，社交网络中用户关系表示为：G＝(V，E)；其中，V为社交网络中的节点集合，E为表示节点关系的边集合；
将所有节点投影到一个向量表示空间，并用矩阵
Figure FDA0002157360690000011
作为所有节点的综合向量表示，其中，|v|是节点的数量，d0是节点初始向量表征维度，U0的第i行
Figure FDA0002157360690000012
表示节点vi的综合向量表示，也即相应用户在所用行为上的综合偏好。
3.根据权利要求1或2所述的一种社交用户的多行为偏好预测方法，其特征在于，所述利用二值掩码层对各个用户在所有行为上的综合偏好进行分离，得到各个用户在每一行为上的偏好包括：
在基础的图卷积神经网络框架上对每层节点的综合向量表示都关联上一个实值的掩码权重矩阵
Figure FDA0002157360690000013
其中dk是第k层的节点向量的维度，C是用户行为类别的数量；初始化得到的一个用户在所有行为上的综合偏好
Figure FDA0002157360690000014
被看成是相应节点vi在图卷积神经网络第k＝0层的综合向量表示；
将实值的掩码权重矩阵
Figure FDA0002157360690000015
通过一个硬阈值函数来得到二值掩码矩阵
Figure FDA0002157360690000016
定义如下：
Figure FDA0002157360690000017
其中，
Figure FDA0002157360690000018
表示二值掩码矩阵
Figure FDA0002157360690000019
第p行第q列对应的元素值，
Figure FDA00021573606900000110
表示实值的掩码权重矩阵
Figure FDA0002157360690000021
第p行第q列对应的元素值；
通过硬阈值函数得到二值掩码矩阵后，利用
Figure FDA0002157360690000022
来表示掩码矩阵
Figure FDA0002157360690000023
所对应的第c行，从而得到节点在第c个行为上所对应的条件向量
Figure FDA0002157360690000024
也即用户在第c个行为上的偏好，其表示为：
Figure FDA0002157360690000025
其中，⊙表示两个向量间点乘运算；
Figure FDA0002157360690000026
表示节点vi在图卷积神经网络第k层的综合向量表示。
4.根据权利要求3所述的一种社交用户的多行为偏好预测方法，其特征在于，信息发送操作时，节点vi向连接边ei，j上发送的多面偏好的相似信息
Figure FDA0002157360690000027
表示为：
v→e：
Figure FDA0002157360690000028
其中，
Figure FDA0002157360690000029
为在连接边ei，j上行为c所占的权重值；
引入注意力机制网络来计算行为c所占的权重值，表示为：
Figure FDA00021573606900000210
Figure FDA00021573606900000211
其中，W和h是注意力机制网络的参数，
Figure FDA00021573606900000212
为邻接节点vi与vj的每个条件向量拼接结果；ReLU为激活函数。
5.根据权利要求4所述的一种社交用户的多行为偏好预测方法，其特征在于，接受操作时，对当前节点vi周围随机采样的固定大小的邻居节点集合N(i)，使用平均池化函数AGGRk来汇聚节点周围的多面偏好的相似信息到单一向量
Figure FDA00021573606900000213
再将当前节点vi在图卷积神经网络第k层的综合向量
Figure FDA00021573606900000214
和单一向量
Figure FDA00021573606900000215
拼接起来，并通过一个非线性激活函数σ的全连接层来更新得到k+1层的综合向量
Figure FDA00021573606900000216
上述过程表示为：
e→v：
Figure FDA00021573606900000217
6.根据权利要求1或4或5所述的一种社交用户的多行为偏好预测方法，其特征在于，
通过图卷积神经网络中的多面性相似信息发送和接受操作，能够汇聚社交网络中每个节点的相邻节点的多面偏好的相似信息；通过叠加使用多层图卷积网络能够地捕捉节点多阶邻居间的相似信息，得到图卷积神经网络的最后一层的节点综合向量
Figure FDA0002157360690000039
也即最终的用户在所有行为上的综合偏好，其中，K为图卷积神经网络的最后一层；再对
Figure FDA00021573606900000310
进行分离得到每一行为对应的条件向量构成的集合
Figure FDA0002157360690000033
也即相应用户在每一行为上的偏好。
7.根据权利要求1或4或5所述的一种社交用户的多行为偏好预测方法，其特征在于，使用贝叶斯个性化排序准则来分别学习用户在每个隐式行为上的偏好关系，对于行为c的偏好记录矩阵Rc和对应的条件向量
Figure FDA0002157360690000034
最终的损失函数定义为：
Figure FDA0002157360690000035
其中，λ1表示的是一个提前设好的超参数，物品p为用户执行某个行为时曾经交互过的物品，其作为正样本；物品n为用户没有交互过的物品，其作为负样本；zp|c、zn|c均为通过初始化获得的向量表征，分别是在行为c上物品p、物品n所对应的向量表征，Θc为优化在行为上c的所有模型参数；条件向量
Figure FDA0002157360690000036
也即最终的用户在行为c上的偏好；
将每个条件向量的学习看成是单个的任务，并利用多任务学习的框架来联合学习多个条件向量，目标函数定义为：
Figure FDA0002157360690000037
其中，
Figure FDA0002157360690000038
为所有行为对应的条件向量集合，也即用户在每一行为上的偏好；SR＝{R1，...，RC}为行为记录矩阵，其中的元素Rc为矩阵形式，记录了相应用户在行为c上与各个物品的交互情况。
CN201910721441.3A 2019-08-06 2019-08-06 一种社交用户的多行为偏好预测方法 Active CN110442802B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910721441.3A CN110442802B (zh) 2019-08-06 2019-08-06 一种社交用户的多行为偏好预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910721441.3A CN110442802B (zh) 2019-08-06 2019-08-06 一种社交用户的多行为偏好预测方法

Publications (2)

Publication Number Publication Date
CN110442802A CN110442802A (zh) 2019-11-12
CN110442802B true CN110442802B (zh) 2022-10-28

Family

ID=68433461

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910721441.3A Active CN110442802B (zh) 2019-08-06 2019-08-06 一种社交用户的多行为偏好预测方法

Country Status (1)

Country Link
CN (1) CN110442802B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110826700B (zh) * 2019-11-13 2021-04-23 中国科学技术大学 建模邻居交互的双线性图神经网络模型的实现及分类方法
CN111582538B (zh) * 2020-03-25 2023-07-04 清华大学 一种基于图神经网络的社群价值预测方法及系统
CN111462088A (zh) * 2020-04-01 2020-07-28 深圳前海微众银行股份有限公司 基于图卷积神经网络的数据处理方法、装置、设备及介质
CN111738403B (zh) * 2020-04-26 2024-06-07 华为技术有限公司 一种神经网络的优化方法及相关设备
CN111784455B (zh) * 2020-06-30 2023-11-07 腾讯科技（深圳）有限公司 一种物品推荐方法及推荐设备
CN113836393A (zh) * 2021-08-12 2021-12-24 中国科学技术大学 基于偏好自适应元学习的冷启动推荐方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109636658A (zh) * 2019-01-17 2019-04-16 电子科技大学 一种基于图卷积的社交网络对齐方法
CN109635989A (zh) * 2018-08-30 2019-04-16 电子科技大学 一种基于多源异构数据融合的社交网络链路预测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150187024A1 (en) * 2013-12-27 2015-07-02 Telefonica Digital España, S.L.U. System and Method for Socially Aware Recommendations Based on Implicit User Feedback

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109635989A (zh) * 2018-08-30 2019-04-16 电子科技大学 一种基于多源异构数据融合的社交网络链路预测方法
CN109636658A (zh) * 2019-01-17 2019-04-16 电子科技大学 一种基于图卷积的社交网络对齐方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于用户偏好和信任度的移动社交网络社区聚类模型;张继东等;《情报杂志》;20180709(第10期);全文 *
融合社交网络信息的协同过滤方法;贺超波等;《暨南大学学报(自然科学与医学版)》;20130615(第03期);全文 *

Also Published As

Publication number Publication date
CN110442802A (zh) 2019-11-12

Similar Documents

Publication Publication Date Title
CN110442802B (zh) 一种社交用户的多行为偏好预测方法
Xiao et al. Learning how to propagate messages in graph neural networks
CN112529168B (zh) 一种基于gcn的属性多层网络表示学习方法
CN111127142B (zh) 一种基于广义神经注意力的物品推荐方法
Wang et al. Autofield: Automating feature selection in deep recommender systems
WO2022166115A1 (en) Recommendation system with adaptive thresholds for neighborhood selection
CN112508085A (zh) 基于感知神经网络的社交网络链路预测方法
Lin et al. AdaFS: Adaptive feature selection in deep recommender system
CN110619081A (zh) 一种基于交互图神经网络的新闻推送方法
CN113918833B (zh) 通过社交网络关系的图卷积协同过滤实现的产品推荐方法
CN110084670A (zh) 一种基于lda-mlp的货架商品组合推荐方法
US20220253688A1 (en) Recommendation system with adaptive weighted baysian personalized ranking loss
CN113918834B (zh) 融合社交关系的图卷积协同过滤推荐方法
CN109933720B (zh) 一种基于用户兴趣自适应演化的动态推荐方法
US20220129708A1 (en) Segmenting an image using a neural network
US20210110299A1 (en) Interactive machine learning
CN113918832A (zh) 基于社交关系的图卷积协同过滤推荐系统
Zarzour et al. RecDNNing: a recommender system using deep neural network with user and item embeddings
Ma et al. Class-imbalanced learning on graphs: A survey
Parimi et al. Community detection on large graph datasets for recommender systems
Wu et al. AFGSL: Automatic feature generation based on graph structure learning
Chen et al. Generative adversarial reward learning for generalized behavior tendency inference
Zhang et al. Knowledge graph driven recommendation model of graph neural network
Zhang et al. Lancet: labeling complex data at scale
Deenadayalan et al. User Feature Similarity Supported Collaborative Filtering for Page Recommendation Using Hybrid Shuffled Frog Leaping Algorithm.

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant