CN110490717A - 基于用户会话及图卷积神经网络的商品推荐方法及系统 - Google Patents

基于用户会话及图卷积神经网络的商品推荐方法及系统 Download PDF

Info

Publication number
CN110490717A
CN110490717A CN201910836929.0A CN201910836929A CN110490717A CN 110490717 A CN110490717 A CN 110490717A CN 201910836929 A CN201910836929 A CN 201910836929A CN 110490717 A CN110490717 A CN 110490717A
Authority
CN
China
Prior art keywords
commodity
session
convolutional neural
neural networks
user conversation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910836929.0A
Other languages
English (en)
Other versions
CN110490717B (zh
Inventor
杨振宇
张鸣鸽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qilu University of Technology
Original Assignee
Qilu University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qilu University of Technology filed Critical Qilu University of Technology
Priority to CN201910836929.0A priority Critical patent/CN110490717B/zh
Publication of CN110490717A publication Critical patent/CN110490717A/zh
Application granted granted Critical
Publication of CN110490717B publication Critical patent/CN110490717B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
    • G06F16/367—Ontology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9535—Search customisation based on user profiles and personalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9537—Spatial or temporal dependent retrieval, e.g. spatiotemporal queries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Item recommendations

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Finance (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Development Economics (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种基于用户会话及图卷积神经网络的商品推荐方法及系统。其中，该商品推荐方法包括接收在同一时间单位内被点击商品序列，作为一个会话并以有向图的形式建模，构建出会话图；其中，会话图采用嵌入向量的形式表示；将嵌入向量形式的多个会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率；按照从大到小的顺序，筛选出后验概率排在前预设位数对应的商品，作为用户偏好商品预测结果并进行逐个推荐。其在考虑商品关联性的前提下，提高了商品推荐的准确性及速度。

Description

基于用户会话及图卷积神经网络的商品推荐方法及系统
技术领域
本公开属于用户偏好商品推荐领域，尤其涉及一种基于用户会话及图卷积神经网络的商品推荐方法及系统。
背景技术
本部分的陈述仅仅是提供了与本公开相关的背景技术信息，不必然构成在先技术。
目前对于处理对话的推荐方法大部分使用循环神经网络和马尔科夫链。在技术层面，发明人发现，使用循环神经网络则会受用户在会话内部行为数量的限制，当用户的点击记录过少或太多的时候都会对推荐模型的效果产生影响；而使用马尔科夫模型时，则只对相邻的两个商品的单向转移关系进行建模，而忽略了会话中其他的商品；而且神经网络在模型训练中表现出训练参数多、时间长等问题，而这一定程度上限制了会话推荐在神经网络的应用，降低了商品推荐的效率。
发明内容
为了解决上述问题，本公开提供一种基于用户会话及图卷积神经网络的商品推荐方法及系统，其通过构建会话图，将会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率，利用后验概率的大小输出商品推荐结果，在考虑商品关联性的前提下，提高了商品推荐的准确性及速度。
本公开的第一个方面提供一种基于用户会话及图卷积神经网络的商品推荐方法。
一种基于用户会话及图卷积神经网络的商品推荐方法，包括：
接收在同一时间单位内被点击商品序列，作为一个会话并以有向图的形式建模，构建出会话图；其中，会话图采用嵌入向量的形式表示；
将嵌入向量形式的多个会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率；
按照从大到小的顺序，筛选出后验概率排在前预设位数对应的商品，作为用户偏好商品预测结果并进行逐个推荐。
本公开的第二个方面提供一种基于用户会话及图卷积神经网络的商品推荐系统。
一种基于用户会话及图卷积神经网络的商品推荐系统，包括：
会话图构建模块，其用于接收在同一时间单位内被点击商品序列，作为一个会话并以有向图的形式建模，构建出会话图；其中，会话图采用嵌入向量的形式表示；
商品后验概率计算模块，其用于将嵌入向量形式的多个会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率；
推荐结果输出模块，其用于按照从大到小的顺序，筛选出后验概率排在前预设位数对应的商品，作为用户偏好商品预测结果并进行逐个推荐。
本公开的第三方面提供一种计算机可读存储介质。
一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述所述的基于用户会话及图卷积神经网络的商品推荐方法中的步骤。
本公开的第四方面提供一种计算机设备。
一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述所述的基于用户会话及图卷积神经网络的商品推荐方法中的步骤。
本公开的有益效果是：
(1)本公开通过构建会话图，综合关注用户的长短时偏好以及波动的离散偏好，考虑用户的每一次会话内部的有序性和多个会话之间的关联性则，能够考虑复杂的数据形式和网络结构，将会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率，利用后验概率的大小输出商品推荐结果，在考虑商品关联性的前提下，提高了商品推荐的准确性及速度。
(2)本公开同时考虑时空信息，通过门控图神经网络对用户会话进行建模，来学习会话内部的有序性和网络内部的空间性，实现了对用户短时偏好的捕捉，提高了商品推荐结果的准确性。
附图说明
构成本公开的一部分的说明书附图用来提供对本公开的进一步理解，本公开的示意性实施例及其说明用于解释本公开，并不构成对本公开的不当限定。
图1是本公开实施例的基于用户会话及图卷积神经网络的商品推荐方法流程图。
图2是本公开实施例的基于用户会话及图卷积神经网络的商品推荐系统结构示意图。
具体实施方式
下面结合附图与实施例对本公开作进一步说明。
应该指出，以下详细说明都是例示性的，旨在对本公开提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本公开所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本公开的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
实施例1
图1给出了本实施例的基于用户会话及图卷积神经网络的商品推荐方法流程图。
结合图1，本实施例的基于用户会话及图卷积神经网络的商品推荐方法，包括：
S101：接收在同一时间单位内被点击商品序列，作为一个会话并以有向图的形式建模，构建出会话图；其中，会话图采用嵌入向量的形式表示。
在步骤S101中，构建会话图的具体过程为：
获取在同一时间单位内，用户的一次点击序列，形成一个会话。例如，7月21日用户在某一购物网站产生的点击序列为(连衣裙→高跟鞋→项链→半身裙)，那么这样的一个点击序列成为一个会话。
利用划分好的会话以有向图的形式建模，这样的有向图成为会话图，将会话图表示为gs＝(vs,εs)。在该会话图中，每一个节点表示一个商品(item)，表示为vs,i∈V，用户在会话中对item的点击作为图的边，表示为(vs,i-1,vs,i)∈εs。考虑到用户的点击序列可能会出现多个重复项的情况，为每一条边分配一个归一化权重，该权重用来计算该边出现的次数除以该边的起始节点的出度。
将每一个item都嵌入一个统一的嵌入空间，节点向量v∈Rd，用于表示通过图神经网络学习到的item的潜在向量，其中d为嵌入空间维数。这样，我们可以看到，每一个会话s可以表示为一个嵌入向量s，该嵌入向量由该会话图中使用的节点向量组成。
S102：将嵌入向量形式的多个会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率。
门控图神经网络是一个较为典型的用于学习空间域信息的神经网络，每个节点既接受相邻节点的信息，又向相邻节点发送信息。
具体地，门控图神经网络结构可以由以下式子表示：
hv (1)＝[xv T,0]T
av (t)＝Av: T[h1 (t-1)T…h|v| (t-1)T]T+b
zv t＝σ(Wzav (t)+Uzhv (t-1))
rv t＝σ(Wrav (t)+Urhv (t-1))
其中，hv (1)表示节点v的D维初始状态，xv T是节点特征，b是偏置系数，A为包含了入度和出度的伴随矩阵，av (t)表示节点和相邻节点间通过边的相互作用的结果的一个2D维向量；来选择遗忘信息，表示用于选择记住信息，来决定从历史信息中产生新的信息；表示新产生的信息，hv (t)表示最终更新的节点状态；
Av表示节点v的邻接矩阵，当某两个节点之间有关系(也就是说用户点击了苹果又点击了桃子，这样苹果和桃子之间就会存在一条边)，邻接矩阵中对应桃子和苹果的点就用1来表示。
h1 (t-1)T和h|v| (t-1)T这两个式子，表示t-1时刻从1到v也就是所有的节点的隐含状态。
σ表示sigmoid激活函数；
Wz表示所有应该记住的信息在更新门中的权重；
Uz表示进入重置门中的应该记住的信息；
Wr表示新产生的信息的权重；
Ur表示进入更新门的从历史信息中产生的新的信息；
Wav：是W乘av(t)，W是所有隐含状态的权重，av(t)就是表示节点和相邻的节点之间通过边的相互作用的结果的一个2D维的向量。
由于伴随矩阵A既包含了入度也包含了出度，所以计算的结果与循环神经网络类似，即包含了双向的信息传递。门控图神经网络以图结构对用户会话信息在空间内进行建模，并能够利用自身网络的“记忆”与“遗忘”特性进一步对item进行更新。
在具体实施中，所述基于用户会话及图卷积神经网络的商品推荐方法，还包括：
利用神经常微分方程的方法进行训练和优化所述门控图神经网络。
在门控图神经网络中，前向传播后需保留所有层的激活值，因为要利用这些激活值在计算路径上进行反传梯度。但是这样会占用较大的内存空间，使得网络的训练过程变得受限。因此，使用神经常微分方程的形式，将门控图神经网络作为模型的识别网络，对门控图神经网络隐藏状态的导数进行参数化，而不是像往常那也直接参数化隐藏状态。这样带来了两个好处：(1)在图网络内部实现了连续性的层级与参数；(2)连续的图网络空间使得我们不需要再分层传播梯度和参数更新。
具体地，将前向传播的常微分方程求解器ODEsessSolver视为一个黑箱操作，梯度根本不需要传递进去，只需要绕过就行了。具体的，该求解器是使用识别网络(即门控图神经网络)来参数化隐藏状态的导数，这里参数化隐藏状态的导数就类似构建了连续性的层级与参数，而不再是离散的层级。因此参数也是一个连续的空间，不需要再分层传播梯度与更新参数。总而言之，神经微分方程在前向传播过程中不储存任何中间结果，因此它只需要近似常数级的内存成本。
要想使网络层级连续化，就要求在一个网络内部，隐藏层之间的误差应该是趋近于无穷小的。因此当门控图神经网络被加入了趋近于无穷的隐藏层时，该网络就近似地可以认为是连续的。将这一连续变换形式表示为一个常微分方程：
其中，g表示门控图神经网络层，t从初始开始变化，直到终止。h(t)的改变就代表前向传播结果，θ为传播的导数。此时可以看到，只要求出该方程的解，就相当于完成了前向传播。形式上，对上式进行变换，以求出所需要的解。给定初始状态h(t0)和门控图网络，来求终止时刻的隐藏状态h(t1)：
注意，ht0和都可以通过常微分方程求解器ODEsessSolver来解出。注意，常微分方程求解器在数学领域的研究已经十分成熟，直接将其当做一个“黑盒工具”来使用。至此，解出了终止状态h(t1)，也就是相当于完成了前向传播。
要让门控图神经网络层级连续化，其重难点在于如何令梯度穿过常微分方程求解器ODEsessSolver。其实如果令梯度沿着前向传播的计算路径反传回去是非常直观的，但是内存占用会比较大而且数值误差也不能控制。使用门控图神经网络来参数化隐藏状态的导数，这里参数化隐藏状态的导数就类似构建了连续性的层级与参数，而不再是离散的层级。因此参数也是一个连续的空间，不需要再分层传播梯度与更新参数。总而言之，神经微分方程在前向传播过程中不储存任何中间结果，因此它只需要近似常数级的内存成本。
以初始状态S(t0)和求解的时刻S(t1)为例，给出损失函数的形式：
应当可以看到，损失函数的输入即是ODEsessSolver的结果。从上式子可以得出，该优化问题即被转换为θ的梯度优化问题。
使用伴随灵敏度方法计算反向梯度。这种方法是通过向后求解第二个增广的常微分方程来计算梯度。这种方法与问题大小成线性关系，内存成本低，并能显式地控制数值误差。在该方法中，所下降的梯度对每一时间点的隐藏状态S(t)的依赖定义为一个伴随量a(t),并有在每一个瞬时上则有：
其中，对于初始时间点t0的伴随量，可以由常微分方程来直接求解。对于[t1，...，tn]可以从它的最终值开始向后计算。
对于参数θ，它的梯度取决于当前隐藏状态S(t)和伴随量a(t):
其中，和为vector-Jacobian products，它们都可以通过自动微分法来进行评估。通过常微分方程对S，的积分形式进行求解。
S103：按照从大到小的顺序，筛选出后验概率排在前预设位数对应的商品，作为用户偏好商品预测结果并进行逐个推荐。
基于连续时间的会话生成的方法来实现推荐：
给出观测的时间T＝{t0,t1,…,tn}，一个初始状态St0。再给出ODEsessSolver，用于计算表示每个时间点的潜在状态同时生成每一个潜在状态的采样输出本实施例的商品推荐模型可以定义为如下形式：
其中，每一层图神经网络在当前的时间点上取值为对应的S，并且输出梯度门控图神经网络在有序地消耗数据后，输出每一个item的后验概率：
对于门控图神经网络来说，其每一个图网络层g是时不变的，在给定任何潜在状态S(t)的情况下，它的反模式导数轨迹应该是唯一的。在任何时刻，可以向前或向后进行任意的会话预测。例如，初始状态S(t0)为当前输入的会话，利用求解器可以求得当前输入会话中的网络状态和梯度，则终止时刻S(t1)就是我们预测出的推荐会话。
下面在两个真实的数据集(分别是YOOCHOOSE和DIGINETICA)上进行了测试：
数据集的具体数据情况如下表所示：
表1数据集中的数据
本实施例选择了Recall和MRR作为评价指标，并与五个主流的推荐方法进行对比实验。
Recall@S：它是推荐系统评价指标中非常重要的一个，用于测量推荐列表中所有测试实例中前S项的召回率。
Recall@20：表示前20个items中正确推荐的项目所占的比例。
Recall@50：表示前50个items中正确推荐的项目所占的比例。
Mean Reciprocal Rank：测量所有测试实例中真实目标项的预测位置的排名取倒数再求平均作为准确度。
MRR@20：表示的是前20项里正确推荐项目的对等级别的平均值
以上两个度量指标均是越大则证明模型的效果越好。
这五种主流算法分别是：
1.Item-KNN(2001):通过计算计算itemA与itemB的相似度，即找到所有与A和B直接相关的用户，计算评价偏差，计算完成后我们得到k个最相似的item。
2.BPR-MF(2009)：该方法是建立在矩阵分解的基础上的，并通过随机梯度下降优化成对排序的目标函数。
3.GRU-Rec(2016)：是一种使用循环神经网络(RNNs)为基于会话的推荐建立用户序列模型。
4.NARM(2017):在循环神经网络的基础上增加了了注意机制，在发挥循环神经网络对顺序行为的分析作用基础上，更近关注用户的主要行为。
5.SR-GNN(2019)：该模型是2019年1月由ShuWu etal.所提出的，是一种将分离的会话序列聚合到图结构数据中。通过图神经网络神经网络实现了综合考虑了全局会话偏好和局部偏好。
本实施例在四个数据集上进行了测试：
为了训练模型对于不规则时间点对数据的预测能力，在每个轨迹中随机无排序抽取时间点。同时，每一轮的新的输入又与下一个预测的时间差相连接，以进一步地提高门控图神经网络的不规则观测的能力。实验结果如表2所示。
实验结果证明，本实施例的商品推荐模型优于目前现有的推荐模型。
表2实验结果
本实施例所提出的推荐模型是一个综合关注用户的长短时偏好以及波动的离散偏好，本实施例的商品推荐模型不仅能够考虑复杂的数据形式和网络结构，而且还同时捕捉时间和空间信息。
在实际的应用场景中，长期的、有序的历史记录对于用户而言可能并非十分重要。用户的行为可能出现周期性波动的情况，也可能近期的行为对用户影响更大。因此，考虑用户的每一次会话内部的有序性和多个会话之间的关联性则成为了最重要的任务目标。为了同时考虑时空信息，通过门控图神经网络对用户会话进行建模，来学习会话内部的有序性和网络内部的空间性，实现了对用户短时偏好的捕捉。
本实施例的商品推荐模型通过常微分方程求解器和门控图神经网络的结合，对复杂的会话进行建模，并使得我们能够在任意时间点向前或向后对非独立意图进行预测和推荐。不仅如此，神经常微分方程的学习模式区别于传统神经网络的训练方法，使得本实施例的商品推荐模型不仅在内存占用或是搜索时间上复杂度都较低。
本实施例的商品推荐模型能够根据用户的任一时间点的状态进行前向预测或后向的推荐，且不必要求所有网络层的激活值，搜索成本小。
本实施例通过构建会话图，综合关注用户的长短时偏好以及波动的离散偏好，考虑用户的每一次会话内部的有序性和多个会话之间的关联性则，能够考虑复杂的数据形式和网络结构，将会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率，利用后验概率的大小输出商品推荐结果，在考虑商品关联性的前提下，提高了商品推荐的准确性及速度。
本实施例同时考虑时空信息，通过门控图神经网络对用户会话进行建模，来学习会话内部的有序性和网络内部的空间性，实现了对用户短时偏好的捕捉，提高了商品推荐结果的准确性。
实施例2
图2给出了本实施例的基于用户会话及图卷积神经网络的商品推荐系统结构示意图。
结合图2，本实施例的基于用户会话及图卷积神经网络的商品推荐系统，包括：
(1)会话图构建模块，其用于接收在同一时间单位内被点击商品序列，作为一个会话并以有向图的形式建模，构建出会话图；其中，会话图采用嵌入向量的形式表示；
具体地，在所述会话图构建模块中，会话图中的每一个节点表示一个商品，每一条边为商品被点击的顺序，每一条边的权重等于该边出现的次数除以该边的起始节点的出度；每个商品都嵌入一个统一的嵌入空间，每个商品采用节点向量表示。
(2)商品后验概率计算模块，其用于将嵌入向量形式的多个会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率；
其中，所述基于用户会话及图卷积神经网络的商品推荐系统，还包括：
门控图神经网络模型训练模块，其用于利用神经常微分方程的方法进行训练和优化所述门控图神经网络。
所述门控图神经网络的结构为：
hv (1)＝[xv T,0]T
av (t)＝Av: T[h1 (t-1)T…h|v| (t-1)T]T+b
zv t＝σ(Wzav (t)+Uzhv (t-1))
rv t＝σ(Wrav (t)+Urhv (t-1))
其中，hv (1)表示节点v的D维初始状态，xv T是节点特征，b是偏置系数，A为包含了入度和出度的伴随矩阵，av (t)表示节点和相邻节点间通过边的相互作用的结果的一个2D维向量；来选择遗忘信息，表示用于选择记住信息，来决定从历史信息中产生新的信息；表示新产生的信息，hv (t)表示最终更新的节点状态；
Av表示节点v的邻接矩阵，当某两个节点之间有关系(也就是说用户点击了苹果又点击了桃子，这样苹果和桃子之间就会存在一条边)，邻接矩阵中对应桃子和苹果的点就用1来表示。
h1 (t-1)T和h|v| (t-1)T这两个式子，表示t-1时刻从1到v也就是所有的节点的隐含状态。
σ表示sigmoid激活函数；
Wz表示所有应该记住的信息在更新门中的权重；
Uz表示进入重置门中的应该记住的信息；
Wr表示新产生的信息的权重；
Ur表示进入更新门的从历史信息中产生的新的信息；
Wav：是W乘av(t)，W是所有隐含状态的权重，av(t)就是表示节点和相邻的节点之间通过边的相互作用的结果的一个2D维的向量。
(3)推荐结果输出模块，其用于按照从大到小的顺序，筛选出后验概率排在前预设位数对应的商品，作为用户偏好商品预测结果并进行逐个推荐。
本实施例通过构建会话图，综合关注用户的长短时偏好以及波动的离散偏好，考虑用户的每一次会话内部的有序性和多个会话之间的关联性则，能够考虑复杂的数据形式和网络结构，将会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率，利用后验概率的大小输出商品推荐结果，在考虑商品关联性的前提下，提高了商品推荐的准确性及速度。
本实施例同时考虑时空信息，通过门控图神经网络对用户会话进行建模，来学习会话内部的有序性和网络内部的空间性，实现了对用户短时偏好的捕捉，提高了商品推荐结果的准确性。
实施例3
本实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如实施例1所述的基于用户会话及图卷积神经网络的商品推荐方法中的步骤。
本实施例通过构建会话图，综合关注用户的长短时偏好以及波动的离散偏好，考虑用户的每一次会话内部的有序性和多个会话之间的关联性则，能够考虑复杂的数据形式和网络结构，将会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率，利用后验概率的大小输出商品推荐结果，在考虑商品关联性的前提下，提高了商品推荐的准确性及速度。
本实施例同时考虑时空信息，通过门控图神经网络对用户会话进行建模，来学习会话内部的有序性和网络内部的空间性，实现了对用户短时偏好的捕捉，提高了商品推荐结果的准确性。
实施例4
本实施例提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如实施例1所述的基于用户会话及图卷积神经网络的商品推荐方法中的步骤。
本实施例通过构建会话图，综合关注用户的长短时偏好以及波动的离散偏好，考虑用户的每一次会话内部的有序性和多个会话之间的关联性则，能够考虑复杂的数据形式和网络结构，将会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率，利用后验概率的大小输出商品推荐结果，在考虑商品关联性的前提下，提高了商品推荐的准确性及速度。
本实施例同时考虑时空信息，通过门控图神经网络对用户会话进行建模，来学习会话内部的有序性和网络内部的空间性，实现了对用户短时偏好的捕捉，提高了商品推荐结果的准确性。
本领域内的技术人员应明白，本公开的实施例可提供为方法、系统、或计算机程序产品。因此，本公开可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且，本公开可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本公开是参照根据本公开实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)或随机存储记忆体(RandomAccessMemory，RAM)等。
以上所述仅为本公开的优选实施例而已，并不用于限制本公开，对于本领域的技术人员来说，本公开可以有各种更改和变化。凡在本公开的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本公开的保护范围之内。

Claims (10)

1.一种基于用户会话及图卷积神经网络的商品推荐方法，其特征在于，包括：
接收在同一时间单位内被点击商品序列，作为一个会话并以有向图的形式建模，构建出会话图；其中，会话图采用嵌入向量的形式表示；
将嵌入向量形式的多个会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率；
按照从大到小的顺序，筛选出后验概率排在前预设位数对应的商品，作为用户偏好商品预测结果并进行逐个推荐。
2.如权利要求1所述的基于用户会话及图卷积神经网络的商品推荐方法，其特征在于，在会话图中，每一个节点表示一个商品，每一条边为商品被点击的顺序，每一条边的权重等于该边出现的次数除以该边的起始节点的出度；每个商品都嵌入一个统一的嵌入空间，每个商品采用节点向量表示。
3.如权利要求1所述的基于用户会话及图卷积神经网络的商品推荐方法，其特征在于，所述基于用户会话及图卷积神经网络的商品推荐方法，还包括：
利用神经常微分方程的方法进行训练和优化所述门控图神经网络。
4.如权利要求1所述的基于用户会话及图卷积神经网络的商品推荐方法，其特征在于，在门控图神经网络中，前向传播后保留所有层的激活值。
5.一种基于用户会话及图卷积神经网络的商品推荐系统，其特征在于，包括：
会话图构建模块，其用于接收在同一时间单位内被点击商品序列，作为一个会话并以有向图的形式建模，构建出会话图；其中，会话图采用嵌入向量的形式表示；
商品后验概率计算模块，其用于将嵌入向量形式的多个会话图输入至门控图神经网络，输出所述会话图中包含的所有商品的后验概率；
推荐结果输出模块，其用于按照从大到小的顺序，筛选出后验概率排在前预设位数对应的商品，作为用户偏好商品预测结果并进行逐个推荐。
6.如权利要求5所述的基于用户会话及图卷积神经网络的商品推荐系统，其特征在于，在所述会话图构建模块中，会话图中的每一个节点表示一个商品，每一条边为商品被点击的顺序，每一条边的权重等于该边出现的次数除以该边的起始节点的出度；每个商品都嵌入一个统一的嵌入空间，每个商品采用节点向量表示。
7.如权利要求5所述的基于用户会话及图卷积神经网络的商品推荐系统，其特征在于，所述基于用户会话及图卷积神经网络的商品推荐系统，还包括：
门控图神经网络模型训练模块，其用于利用神经常微分方程的方法进行训练和优化所述门控图神经网络。
8.如权利要求5所述的基于用户会话及图卷积神经网络的商品推荐系统，其特征在于，在门控图神经网络中，前向传播后保留所有层的激活值。
9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-4中任一项所述的基于用户会话及图卷积神经网络的商品推荐方法中的步骤。
10.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-4中任一项所述的基于用户会话及图卷积神经网络的商品推荐方法中的步骤。
CN201910836929.0A 2019-09-05 2019-09-05 基于用户会话及图卷积神经网络的商品推荐方法及系统 Active CN110490717B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910836929.0A CN110490717B (zh) 2019-09-05 2019-09-05 基于用户会话及图卷积神经网络的商品推荐方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910836929.0A CN110490717B (zh) 2019-09-05 2019-09-05 基于用户会话及图卷积神经网络的商品推荐方法及系统

Publications (2)

Publication Number Publication Date
CN110490717A true CN110490717A (zh) 2019-11-22
CN110490717B CN110490717B (zh) 2021-11-05

Family

ID=68556678

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910836929.0A Active CN110490717B (zh) 2019-09-05 2019-09-05 基于用户会话及图卷积神经网络的商品推荐方法及系统

Country Status (1)

Country Link
CN (1) CN110490717B (zh)

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110969516A (zh) * 2019-12-25 2020-04-07 清华大学 一种商品推荐方法及装置
CN111259254A (zh) * 2020-02-07 2020-06-09 齐鲁工业大学 一种基于会话噪声的滤波推荐方法及系统
CN111461301A (zh) * 2020-03-30 2020-07-28 北京沃东天骏信息技术有限公司 序列化数据处理方法和装置、文本处理方法和装置
CN111523047A (zh) * 2020-04-13 2020-08-11 中南大学 基于图神经网络的多关系协同过滤算法
CN111667067A (zh) * 2020-05-28 2020-09-15 平安医疗健康管理股份有限公司 基于图神经网络的推荐方法、装置和计算机设备
CN111784455A (zh) * 2020-06-30 2020-10-16 腾讯科技（深圳）有限公司 一种物品推荐方法及推荐设备
CN111949865A (zh) * 2020-08-10 2020-11-17 杭州电子科技大学 基于图神经网络与用户长短期偏好的兴趣点推荐方法
CN112150210A (zh) * 2020-06-19 2020-12-29 南京理工大学 一种基于ggnn网络的改进型神经网络推荐方法及系统
CN112396492A (zh) * 2020-11-19 2021-02-23 天津大学 基于图注意力网络和双向长短期记忆网络的会话推荐方法
CN112465611A (zh) * 2021-02-02 2021-03-09 北京淇瑀信息科技有限公司 向用户推送物品信息的方法、装置和电子设备
CN112883149A (zh) * 2021-01-20 2021-06-01 华为技术有限公司 一种自然语言处理方法以及装置
CN112948681A (zh) * 2021-03-12 2021-06-11 北京交通大学 一种融合多维度特征的时间序列数据推荐方法
WO2021114590A1 (zh) * 2019-12-09 2021-06-17 北京百度网讯科技有限公司 会话推荐方法、装置以及电子设备
CN113225331A (zh) * 2021-04-30 2021-08-06 中国科学技术大学 基于图神经网络的主机入侵安全检测方法、系统及装置
CN113239147A (zh) * 2021-05-12 2021-08-10 平安科技（深圳）有限公司 基于图神经网络的智能会话方法、系统及介质
CN113254789A (zh) * 2021-06-30 2021-08-13 中国气象局公共气象服务中心(国家预警信息发布中心) 一种推送气象服务内容的方法及装置
CN113297490A (zh) * 2021-06-04 2021-08-24 西南大学 基于图卷积神经网络的双向推荐方法
CN113360745A (zh) * 2020-03-04 2021-09-07 阿里巴巴集团控股有限公司 一种数据对象推荐方法、装置及电子设备
CN113435927A (zh) * 2021-06-23 2021-09-24 平安科技（深圳）有限公司 用户意愿预测方法、装置、设备和存储介质
CN113569143A (zh) * 2021-07-20 2021-10-29 上海明略人工智能(集团)有限公司 推荐结果的生成方法、装置、电子设备和计算机可读介质
CN113656696A (zh) * 2021-08-24 2021-11-16 工银科技有限公司 一种会话推荐方法及装置
EP3901788A3 (en) * 2020-09-21 2022-03-09 Beijing Baidu Netcom Science And Technology Co. Ltd. Conversation-based recommending method, conversation-based recommending apparatus, and device
CN116342228A (zh) * 2023-05-18 2023-06-27 云筑信息科技(成都)有限公司 一种基于有向图神经网络的相关推荐的方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10248664B1 (en) * 2018-07-02 2019-04-02 Inception Institute Of Artificial Intelligence Zero-shot sketch-based image retrieval techniques using neural networks for sketch-image recognition and retrieval
CN109816101A (zh) * 2019-01-31 2019-05-28 中科人工智能创新技术研究院(青岛)有限公司 一种基于图卷积神经网络的会话序列推荐方法及系统
CN110008408A (zh) * 2019-04-12 2019-07-12 山东大学 一种会话推荐方法、系统、设备及介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10248664B1 (en) * 2018-07-02 2019-04-02 Inception Institute Of Artificial Intelligence Zero-shot sketch-based image retrieval techniques using neural networks for sketch-image recognition and retrieval
CN109816101A (zh) * 2019-01-31 2019-05-28 中科人工智能创新技术研究院(青岛)有限公司 一种基于图卷积神经网络的会话序列推荐方法及系统
CN110008408A (zh) * 2019-04-12 2019-07-12 山东大学 一种会话推荐方法、系统、设备及介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
MINGGE ZHANG等: "GACOforRec: Session-Based Graph Convolutional Neural Networks Recommendation Model", 《IEEE ACCESS》 *
TIAN QI CHEN等: "Neural Ordinary Differential Equations", 《HTTPS://ARXIV.ORG/ABS/1806.07366》 *

Cited By (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7074964B2 (ja) 2019-12-09 2022-05-25 ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド セッション推奨方法、装置及び電子機器
WO2021114590A1 (zh) * 2019-12-09 2021-06-17 北京百度网讯科技有限公司 会话推荐方法、装置以及电子设备
JP2022516593A (ja) * 2019-12-09 2022-03-01 北京百度網訊科技有限公司 セッション推奨方法、装置及び電子機器
CN110969516B (zh) * 2019-12-25 2024-04-26 清华大学 一种商品推荐方法及装置
CN110969516A (zh) * 2019-12-25 2020-04-07 清华大学 一种商品推荐方法及装置
CN111259254A (zh) * 2020-02-07 2020-06-09 齐鲁工业大学 一种基于会话噪声的滤波推荐方法及系统
CN111259254B (zh) * 2020-02-07 2023-08-01 齐鲁工业大学 一种基于会话噪声的滤波推荐方法及系统
CN113360745A (zh) * 2020-03-04 2021-09-07 阿里巴巴集团控股有限公司 一种数据对象推荐方法、装置及电子设备
CN111461301A (zh) * 2020-03-30 2020-07-28 北京沃东天骏信息技术有限公司 序列化数据处理方法和装置、文本处理方法和装置
CN111523047A (zh) * 2020-04-13 2020-08-11 中南大学 基于图神经网络的多关系协同过滤算法
CN111523047B (zh) * 2020-04-13 2022-08-09 中南大学 基于图神经网络的多关系协同过滤算法
CN111667067A (zh) * 2020-05-28 2020-09-15 平安医疗健康管理股份有限公司 基于图神经网络的推荐方法、装置和计算机设备
CN112150210A (zh) * 2020-06-19 2020-12-29 南京理工大学 一种基于ggnn网络的改进型神经网络推荐方法及系统
CN111784455B (zh) * 2020-06-30 2023-11-07 腾讯科技（深圳）有限公司 一种物品推荐方法及推荐设备
CN111784455A (zh) * 2020-06-30 2020-10-16 腾讯科技（深圳）有限公司 一种物品推荐方法及推荐设备
CN111949865A (zh) * 2020-08-10 2020-11-17 杭州电子科技大学 基于图神经网络与用户长短期偏好的兴趣点推荐方法
EP3901788A3 (en) * 2020-09-21 2022-03-09 Beijing Baidu Netcom Science And Technology Co. Ltd. Conversation-based recommending method, conversation-based recommending apparatus, and device
CN112396492A (zh) * 2020-11-19 2021-02-23 天津大学 基于图注意力网络和双向长短期记忆网络的会话推荐方法
CN112883149B (zh) * 2021-01-20 2024-03-26 华为技术有限公司 一种自然语言处理方法以及装置
CN112883149A (zh) * 2021-01-20 2021-06-01 华为技术有限公司 一种自然语言处理方法以及装置
CN112465611A (zh) * 2021-02-02 2021-03-09 北京淇瑀信息科技有限公司 向用户推送物品信息的方法、装置和电子设备
CN112948681B (zh) * 2021-03-12 2024-02-27 北京交通大学 一种融合多维度特征的时间序列数据推荐方法
CN112948681A (zh) * 2021-03-12 2021-06-11 北京交通大学 一种融合多维度特征的时间序列数据推荐方法
CN113225331A (zh) * 2021-04-30 2021-08-06 中国科学技术大学 基于图神经网络的主机入侵安全检测方法、系统及装置
CN113239147A (zh) * 2021-05-12 2021-08-10 平安科技（深圳）有限公司 基于图神经网络的智能会话方法、系统及介质
CN113297490A (zh) * 2021-06-04 2021-08-24 西南大学 基于图卷积神经网络的双向推荐方法
CN113297490B (zh) * 2021-06-04 2022-08-02 西南大学 基于图卷积神经网络的双向推荐方法
CN113435927A (zh) * 2021-06-23 2021-09-24 平安科技（深圳）有限公司 用户意愿预测方法、装置、设备和存储介质
CN113435927B (zh) * 2021-06-23 2024-04-09 平安科技（深圳）有限公司 用户意愿预测方法、装置、设备和存储介质
CN113254789A (zh) * 2021-06-30 2021-08-13 中国气象局公共气象服务中心(国家预警信息发布中心) 一种推送气象服务内容的方法及装置
CN113569143A (zh) * 2021-07-20 2021-10-29 上海明略人工智能(集团)有限公司 推荐结果的生成方法、装置、电子设备和计算机可读介质
CN113569143B (zh) * 2021-07-20 2024-02-27 上海明略人工智能(集团)有限公司 推荐结果的生成方法、装置、电子设备和计算机可读介质
CN113656696A (zh) * 2021-08-24 2021-11-16 工银科技有限公司 一种会话推荐方法及装置
CN116342228A (zh) * 2023-05-18 2023-06-27 云筑信息科技(成都)有限公司 一种基于有向图神经网络的相关推荐的方法
CN116342228B (zh) * 2023-05-18 2023-10-20 云筑信息科技(成都)有限公司 一种基于有向图神经网络的相关推荐的方法

Also Published As

Publication number Publication date
CN110490717B (zh) 2021-11-05

Similar Documents

Publication Publication Date Title
CN110490717A (zh) 基于用户会话及图卷积神经网络的商品推荐方法及系统
Eggensperger et al. Efficient benchmarking of hyperparameter optimizers via surrogates
JP2020510910A (ja) ネットワーク節点においてソフトウェアエージェントを備えるネットワークを使用した後にネットワーク節点をランク付けする機械学習の方法及び装置
Pretorius et al. Tasks for multivariate network analysis
Liu et al. Learning conditional preference networks from inconsistent examples
CN114358657B (zh) 一种基于模型融合的岗位推荐方法及装置
Zhang et al. PePSI: Personalized prediction of scholars’ impact in heterogeneous temporal academic networks
CN113918833A (zh) 通过社交网络关系的图卷积协同过滤实现的产品推荐方法
CN113849725B (zh) 一种基于图注意力对抗网络的社会化推荐方法及系统
Luo et al. Adaptive attention-aware gated recurrent unit for sequential recommendation
Hossain et al. A neural engine for movie recommendation system
CN115953215B (zh) 一种基于时间和图结构的搜索式推荐方法
CN113449176A (zh) 基于知识图谱的推荐方法及装置
Hansen et al. Predicting the timing and quality of responses in online discussion forums
Jeejoe et al. Building a Recommender System Using Collaborative Filtering Algorithms and Analyzing its Performance
US20230140702A1 (en) Search-query suggestions using reinforcement learning
CN114970854A (zh) 一种基于时序邻域聚合的多视野动态网络链接预测方法及系统
Duan et al. Context-aware short-term interest first model for session-based recommendation
CN113435938A (zh) 电力现货市场中分布式特征数据选择方法
Gandhi The stochastic response dynamic: A new approach to learning and computing equilibrium in continuous games
Du et al. Hierarchical hybrid feature model for Top-N context-aware recommendation
Yu et al. Interactive Search Based on Deep Reinforcement Learning
Liu et al. A Graph Neural Network Recommendation Method Integrating Multi Head Attention Mechanism and Improved Gated Recurrent Unit Algorithm
Altaf A Study of Fairness and Information Heterogeneity in Recommendation Systems
Chen et al. High-order collaborative filtering for third-party library recommendation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant