CN115795005A - 一种融合对比学习去噪优化的会话推荐方法及装置 - Google Patents
一种融合对比学习去噪优化的会话推荐方法及装置 Download PDFInfo
- Publication number
- CN115795005A CN115795005A CN202211419448.8A CN202211419448A CN115795005A CN 115795005 A CN115795005 A CN 115795005A CN 202211419448 A CN202211419448 A CN 202211419448A CN 115795005 A CN115795005 A CN 115795005A
- Authority
- CN
- China
- Prior art keywords
- embedding
- session
- nodes
- global
- graph
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000005457 optimization Methods 0.000 title claims abstract description 58
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000007246 mechanism Effects 0.000 claims abstract description 17
- 239000011159 matrix material Substances 0.000 claims description 27
- 230000006870 function Effects 0.000 claims description 22
- 238000004590 computer program Methods 0.000 claims description 17
- 238000012545 processing Methods 0.000 claims description 17
- 239000013598 vector Substances 0.000 claims description 13
- 238000013528 artificial neural network Methods 0.000 claims description 10
- 238000012549 training Methods 0.000 claims description 10
- 238000001914 filtration Methods 0.000 claims description 9
- 230000003044 adaptive effect Effects 0.000 claims description 4
- 230000004931 aggregating effect Effects 0.000 claims description 4
- 238000010606 normalization Methods 0.000 claims description 3
- 238000005516 engineering process Methods 0.000 abstract description 2
- 230000006399 behavior Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供一种融合对比学习去噪优化的会话推荐方法及装置。该方法利用含有噪声滤除器的注意力机制过滤掉不重要的节点局部嵌入,得到去噪增强的全局会话嵌入,同时引入对比学习技术设置优化策略指导模型进行去噪学习,并通过门控机制为节点局部嵌入和全局会话嵌入分配自适应权重,得到最终的会话推荐列表。本发明有效缓解了现有会话推荐方法难以从携带噪声的匿名会话中准确提取用户偏好的问题,从而提升了会话推荐的准确度、鲁棒性以及解释性。
Description
技术领域
本发明涉及会话推荐技术领域,尤其涉及一种融合对比学习去噪优化的会话推荐方法及装置。
背景技术
在互联网信息呈爆炸式增长的时代,推荐系统已经成功进化为信息服务的基础工具之一,它能够帮助用户做出合理的选择和决策,提高数据处理的效率。然而由于隐私策略或用户匿名访问的限制,基于用户的档案资料和长期历史配置文件的传统推荐方法失效,而基于会话的推荐方法的诞生,只需根据当前会话中的点击行为记录来预测用户真正感兴趣的项目,发挥了较高的应用价值。
图神经网络(Graph Neural Networks,GNN)凭借其卓越的性能已经被广泛应用于个性化推荐等日常生活中,在如新冠药物研发等科学前沿领域也不乏其身影。已经有大量方法将会话序列构建为图数据结构来提取会话级特征,展现了了可观的推荐性能。然而尽管在图会话建模方面已经取得了不错的进展,但基于图的会话推荐方法依然存在一定缺陷,尤其是对于会话中的随机数据和嘈杂数据、用户的噪声点击行为以及动态变化的用户意图,现有模型并未进行有效的分析与处理,得到的会话推荐仍然存在鲁棒性差、准确性低和解释性弱的问题。
发明内容
本发明实施例提供了一种融合对比学习去噪优化的会话推荐方法及装置,以解决现有技术中会话推荐仍然存在鲁棒性差、准确性低和解释性弱的的问题。
第一方面,本发明实施例提供了一种融合对比学习去噪优化的会话推荐方法,包括:获取用户会话数据;
将所述用户会话数据构建为图,获取所述图中所有节点对应的局部嵌入;
根据所述所有节点对应的局部嵌入计算第一全局会话嵌入;
对所述所有节点对应的局部嵌入进行去噪处理,得到去噪后的第二全局会话嵌入;
基于所述第一全局会话嵌入和所述第二全局会话嵌入,通过联合对比学习优化,获取第三全局会话嵌入;
为所述所有节点对应的局部嵌入和所述第三全局会话嵌入分配自适应权重,计算得到用户会话表示,并生成用户会话推荐列表。
作为本申请另一实施例,所述将所述用户会话数据构建为图,获取所述图中所有节点对应的局部嵌入,包括:
构建所述用户会话数据对应的出度邻接关系矩阵和入度邻接关系矩阵;
通过所述出度邻接关系矩阵和所述入度邻接关系矩阵,将所述用户会话数据转化为图;
聚合连接所述图中的信息,得到中间向量;
通过图神经网络获取所述图中所有节点的局部嵌入。
作为本申请另一实施例,所述根据所有节点对应的局部嵌入计算第一全局会话嵌入,包括:
将所述所有节点对应的局部嵌入输入到注意力机制中,得到所述图中所有节点对应的第一注意力权重值;
基于所述所有节点对应的第一注意力权重值和所述所有节点对应的局部嵌入,计算得到第一全局会话嵌入。
作为本申请另一实施例,所述对所述所有节点对应的局部嵌入进行去噪处理,得到去噪后的第二全局会话嵌入,包括:
根据所述所有节点对应的第一注意力权重值,计算平均注意力权重;
根据所述平均注意力权重,通过噪声滤除器计算所述图中所有节点去噪后的第二注意力权重值;
基于所述图中所有节点去噪后的第二注意力权重值和所述所有节点对应的局部嵌入,计算得到第二全局会话嵌入。
作为本申请另一实施例,所述根据所述平均注意力权重,通过噪声滤除器计算所述图中所有节点去噪后的第二注意力权重值,包括:
设置控制去噪程度的参数,将所述平均注意力权重和所述参数的乘积作为权重阈值;
检测所述图中节点对应的第一注意力权重值是否大于所述权重阈值;
若所述图中节点对应的第一注意力权重值大于所述权重阈值,则将超出所述权重阈值的权重作为所述图中节点去噪后的第二注意力权重值;
若所述图中节点对应的第一注意力权重值不大于所述权重阈值,则将所述图中节点去噪后的第二注意力权重值置零。
作为本申请另一实施例,所述基于所述第一全局会话嵌入和所述第二全局会话嵌入,通过联合对比学习优化,获取第三全局会话嵌入,包括:
根据所述第一全局会话嵌入和所述第二全局会话嵌入,采用带有标准二值交叉熵损失的噪声对比函数作为对比监督学习的目标,得到第一优化目标;
采用交叉熵损失函数作为目标函数进行学习训练,得到第二优化目标;
结合所述第一优化目标和所述第二优化目标,得到联合对比优化目标;
基于所述联合对比优化目标进行学习训练,得到第三全局会话嵌入。
作为本申请另一实施例,所述为所述所有节点对应的局部嵌入和所述第三全局会话嵌入分配自适应权重,计算得到用户会话表示,并生成用户会话推荐列表,包括:
采用门控机制,为所述所有节点对应的局部嵌入和所述第三全局会话嵌入分配自适应权重,并进行加权求和得到用户会话表示;
对所述用户会话表示中的节点进行归一化处理,生成用户会话推荐列表。
第二方面,本发明实施例提供了一种融合对比学习去噪优化的会话推荐装置,包括:
采集模块,用于获取用户会话数据;
局部嵌入模块,用于将所述用户会话数据构建为图,获取所述图中所有节点对应的局部嵌入;
全局嵌入模块,用于根据所述所有节点对应的局部嵌入计算第一全局会话嵌入;
噪声滤除模块,用于对所述所有节点对应的局部嵌入进行去噪处理,得到去噪后的第二全局会话嵌入;
联合对比优化模块,用于基于所述第一全局会话嵌入和所述第二全局会话嵌入,通过联合对比学习优化,获取第三全局会话嵌入;
会话推荐模块,用于为所述所有节点对应的局部嵌入和所述第三全局会话嵌入分配自适应权重,计算得到用户会话表示,并生成用户会话推荐列表。
本发明实施例提供一种融合对比学习去噪优化的会话推荐方法及装置,提出一种内嵌噪声滤除器的机制,过滤掉与用户主要目的不相关的项目;并通过联合对比学习,辅助模型进行去噪,更为有效地挖掘用户点击行为之间深层次关联;进一步地,为局部嵌入和全局嵌入分配自适应权重,计算并生成最终的用户推荐列表。本发明提供的方法能够有效解决现有技术中在生成用户会话推荐列表时存在的推荐准确度低、鲁棒性差和解释性弱的技术问题。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的会话推荐方法的实现流程图;
图2是本发明实施例提供的会话推荐方法的会话图和邻接矩阵图;
图3是本发明实施例提供的计算去噪后全局会话嵌入的流程图;
图4是本发明实施例提供的对局部嵌入进行去噪处理的流程图;
图5是本发明实施例提供的联合对比学习示意图;
图6是本发明实施例提供的指标对比图;
图7是本发明实施例提供的会话推荐装置的结构示意图;
图8是本发明实施例提供的终端的示意图。
具体实施方式
现有技术中已有大量方法将会话序列构建为图数据结构来提取会话级特征,展现了可观的推荐性能。然而尽管在图会话建模方面已经取得了不错了进展,但基于图的会话推荐方法依然存在一定的局限性和挑战性。
由于会话数据存在随机性和嘈杂性的特点,在会话行为序列中并不是所有的交互行为都对下一个项目预测有帮助,且模型在形成兴趣表征时无法越过与用户主要兴趣不相关的项目,这阻碍了模型进行有效的意图学习,使学习到的会话表示可能存在鲁棒性差和不准确的问题。
对于用户的噪声点击行为,传统解决方法通常采用注意力机制削弱与用户主要目的不相关项目的影响,即赋予不重要项目较小的权重比例,属于一种隐式去噪方式,但是经过多次迭代后,这种小权重嘈杂点击仍会积累大量的噪声,容易形成无效的意图学习。
虽然现有的基于会话预测方法利用强大的表示学习方法在低维空间中编码项目的顺序相关性,但它们也存在一定的局限性。用户兴趣本质上是由用户意图驱动,而用户意图会随时间推移发生动态性变化,用户对项目的兴趣也会随之不断改变,这种变化容易使得模型存在无法准确分析隐式反馈数据内部复杂的相互依赖关系和不能充分捕捉用户真实偏好动态变化规律的问题。
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图通过具体实施例来进行说明。
图1为本发明实施例提供的会话推荐方法的实现流程图,详述如下:
步骤101,获取用户会话数据。
可选的,在一种可能的实施方式中,获取用户点击项目的时间顺序以及交互行为,构成用户会话序列数据。
步骤102,将用户会话数据构建为图,获取图中所有节点对应的局部嵌入。
可选的,本步骤实施例中,可以根据以下计算方式来获取图中所有节点对应的局部嵌入。
首先,构建所述用户会话数据对应的出度邻接关系矩阵和入度邻接关系矩阵。邻接关系矩阵是表示节点之间相邻关系的矩阵,而出度邻接关系矩阵则表示以行节点为起点以列节点为终点的边的集合,入度邻接关系矩阵表示以列节点为起点以行节点为终点的边的集合。
进一步地,通过出度邻接关系矩阵和入度邻接关系矩阵,将用户会话数据转化为图。例如,在图2中,根据用户会话数据中的信息构建与之对应的出度邻接关系矩阵和入度邻接关系矩阵,得到图中节点以及节点之间的相邻关系,从而将邻接矩阵转化为会话图。
进一步地,聚合连接所述图中的信息,得到中间向量:
其中,at为中间向量,Concat代表连接函数,分别表示图中节点对应的入度邻接关系矩阵和出度邻接关系矩阵,bIn,bOut∈Rd分别表示入度偏差向量和出度偏差向量,[s1,...sn]表示图中节点表征向量的拼接向量,表示可训练的参数矩阵。
进一步地,通过图神经网络获取图中所有节点的局部嵌入:
其中,表示神经网络层的输出,分别表示更新门和复位门的运算结果,表示当前迭代的候选结果,vi和分别表示t时刻和t-1时刻节点的嵌入向量,ai t∈R2d表示提取vi t的邻节点信息,σ(·)表示激活函数sigmoid,⊙表示元素型乘法,Wz,Wr,Wh∈R2d×d,Lz,Lr,Lh∈Rd×d均为可训练的参数矩阵。
这种节点局部特征的提取方式能够增强模型表达能力,从而更为充分和准确地学习具有丰富语义的用户会话表示。
步骤103,根据所有节点对应的局部嵌入计算第一全局会话嵌入。
注意力机制本质是根据事物之间的关系进行线性加权得到新的表示,即将有限的计算资源用来处理更重要的信息,是解决信息超载问题的有效手段。
可选的,将所有节点对应的局部嵌入输入到注意力机制中,得到图中所有节点对应的第一注意力权重值:
αi=qΤσ(W1hn+W2hi+c)
其中,αi表示节点对应的第一注意力权重值,qΤ∈Rd,W1,W2∈Rd×d表示控制节点对应的局部嵌入的参数矩阵,c表示常数。
进一步地,基于所有节点对应的第一注意力权重值和所有节点对应的局部嵌入,计算得到第一全局会话嵌入:
其中,Sglobal表示第一全局会话嵌入。
步骤104,对所有节点对应的局部嵌入进行去噪处理,得到去噪后的第二全局会话嵌入。
可选的,本步骤104中对所有节点对应的局部嵌入进行去噪处理,得到去噪后的第二全局会话嵌入,可以包括如图3所示的步骤。
步骤301,根据所有节点对应的第一注意力权重值,计算平均注意力权重。
其中,αavg为平均注意力权重值,αk表示第k个节点的第一注意力权重值。
步骤302,根据平均注意力权重,通过噪声滤除器计算图中所有节点去噪后的第二注意力权重值。
可选的,如图4所示,在根据平均注意力权重,通过噪声滤除器计算图中所有节点去噪后的第二注意力权重值的过程中可以包括:
步骤401,设置控制去噪程度的参数,将平均注意力权重和参数的乘积作为权重阈值。
可选的,本步骤可以根据α0=λαavg得到权重阈值;
其中,α0表示得到的权重阈值,λ表示控制去噪程度的参数。
步骤402,检测图中节点对应的第一注意力权重值是否大于所述权重阈值。
可选的,当图中节点对应的第一注意力权重值大于权重阈值时,则执行步骤403,当图中节点对应的第一注意力权重值不大于权重阈值时,则执行步骤404。
步骤403,若图中节点对应的第一注意力权重值大于权重阈值,则将超出权重阈值的权重作为图中节点去噪后的第二注意力权重值。
可选的,当图中节点对应的第一注意力权重值大于权重阈值时,图中节点去噪后的第二注意力权重值的计算方式为:
α′i=αi-λαavg,(αi-λαavg>0)
其中,α′i为图中节点去噪后的第二注意力权重值。
步骤404,若图中节点对应的第一注意力权重值不大于所述权重阈值,则将图中节点去噪后的第二注意力权重值置零。
可选的,当图中节点对应的第一注意力权重值不大于权重阈值时,图中节点去噪后的第二注意力权重值的计算方式为:
α′i=0,(αi-λαavg≤0)
步骤303,基于图中所有节点去噪后的第二注意力权重值和所有节点对应的局部嵌入,计算得到第二全局会话嵌入。
其中,S′global表示计算得到的第二全局会话嵌入。
通过注意力机制对所有节点对应的局部嵌入分配不同注意力分数值生成注意力参数据帧,利用噪声滤除器对注意力系数进行更加细致的处理,过滤掉权重低于特定阈值的局部嵌入,生成了有效的全局会话向量表示,显示过滤掉与用户主要目的不相关的项目。
步骤105,基于第一全局会话嵌入和第二全局会话嵌入,通过联合对比学习优化,获取第三全局会话嵌入。
对比学习技术(Contrastive Learning)是通过对比信息的一致和不一致视图来帮助模型学习不同视图中相似性较大的表征,进而形成编码丰富的图或节点表示,简而言之,其主要思想为:利用对比学习可以使模型中样本和与之相似的正样本之间的距离远大于样本和与之不相似的负样本之间的距离。随着对比学习在CV和NLP领域的成功应用,它也被相关研究者引入了推荐系统任务中,用来构建辅助任务进行推荐建模。
可选的,如图5所示,本步骤实施例中,为使模型去噪效果达到更佳,将得到的第一全局会话嵌入作为负样本,将经过去噪处理的第二全局会话嵌入作为正样本,进行对比学习训练。通过减小正样本中项目的距离,增大正样本和负样本之间的距离,达到更好地抑制噪声干扰的效果,获得高质量的会话特征向量表示,更为有效地挖掘用户会话之间深层次的关联,增加模型的鲁棒性和可解释性。
基于设置的正样本和负样本,根据第一全局会话嵌入和第二全局会话嵌入,采用带有标准二值交叉熵损失的噪声对比函数作为对比监督学习的目标,得到第一优化目标:
losss=-lnσ(fD(Sglobal,S′global)-lnσ(1-fD(Sglobal,S′global)))
其中,losss表示得到的第一优化目标,fD表示带有标准二值交叉熵损失的噪声对比函数。
进一步地,采用交叉熵损失函数作为目标函数进行学习训练,得到第二优化目标。可选的,本步骤选择对基于图神经网络的会话推荐模型方法进行训练,第二优化目标可以根据以下公式计算:
进一步地,结合第一优化目标和第二优化目标,得到联合对比优化目标:
L=lossr+δlosss
其中,L表示联合对比目标,δ为对比监督学习任务对应第一优化目标的权重。
进一步地,基于联合对比优化目标进行学习训练,得到第三全局会话嵌入。可选的,以联合对比优化目标作为学习目标对基于图神经网络的会话推荐模型进行学习训练,得到更准确的第三全局会话嵌入。
步骤106,为所有节点对应的局部嵌入和第三全局会话嵌入分配自适应权重,计算得到用户会话表示,并生成用户会话推荐列表。
采用门控机制,为所有节点对应的局部嵌入和第三全局会话嵌入分配自适应权重,并进行加权求和得到用户会话表示:
其中,Sv表示得到的用户会话表示,α表示第三全局会话嵌入对应的权重,表示第三全局会话嵌入,Slocal表示由所有节点对应的局部嵌入拼接而成的全局嵌入表示,[p;q]表示拼接操作,Wg表示可训练的参数矩阵。
进一步地,对用户会话表示中的节点进行归一化处理,生成用户会话推荐列表。可选的,本步骤中通过softmax函数生成用户会话推荐列表:
采用门控机制来自适应地融合全局偏好和局部偏好表示,有效建模会话中用户与交互序列中的复杂转换关系,结合全局和局部项目特征来揭示会话序列中用户的兴趣变化规律,获得更准确的会话向量表示,从而形成个性化推荐,预测用户将要点击的下一项项目。
可选的,如图6所示,本步骤实施例将通过有效实验得到的数据与在Diginetica数据集上的实验结果进行对比,对比结果显示在本实施例在召回率、平均倒数排名、归一化折损累计增益以及准确率性能的指标均优于SRGNN和S2-DHCN算法。
本发明实施例通过提出一种融合对比学习去噪优化的会话推荐方法,利用含有噪声滤除器的注意力机制过滤掉不重要的节点局部嵌入,得到去噪增强的全局会话嵌入,同时引入对比学习技术设置优化策略指导模型进行去噪学习,并通过门控机制为节点局部嵌入和全局会话嵌入分配自适应权重,得到最终的会话推荐列表,有效缓解了现有会话推荐方法难以从携带噪声的匿名会话中准确提取用户偏好的问题,从而提升了会话推荐的准确度、鲁棒性以及解释性。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
以下为本发明的装置实施例,对于其中未详尽描述的细节,可以参考上述对应的方法实施例。
图7示出了本发明实施例提供的会话推荐装置的结构示意图,为了便于说明,仅示出了与本发明实施例相关的部分,详述如下:
如图7所示,会话推荐装置700包括:采集模块701、局部嵌入模块702、全局嵌入模块703、噪声滤除模块704、联合对比优化模块705和会话推荐模块706。
采集模块701,用于获取用户会话数据;
局部嵌入模块702,用于将用户会话数据构建为图,获取所述图中所有节点对应的局部嵌入;
全局嵌入模块703,用于根据所有节点对应的局部嵌入计算第一全局会话嵌入;
噪声滤除模块704,用于对所有节点对应的局部嵌入进行去噪处理,得到去噪后的第二全局会话嵌入;
联合对比优化模块705,用于基于第一全局会话嵌入和第二全局会话嵌入,通过联合对比学习优化,获取第三全局会话嵌入;
会话推荐模块706,用于为所有节点对应的局部嵌入和第三全局会话嵌入分配自适应权重,计算得到用户会话表示,并生成用户会话推荐列表。
可选的,局部嵌入模块702将用户会话数据构建为图,获取所述图中所有节点对应的局部嵌入时,可以用于:
构建用户会话数据对应的出度邻接关系矩阵和入度邻接关系矩阵;
通过出度邻接关系矩阵和入度邻接关系矩阵,将用户会话数据转化为图;
聚合连接图中的信息,得到中间向量;
通过图神经网络获取图中所有节点的局部嵌入。
可选的,全局嵌入模块703根据所有节点对应的局部嵌入计算第一全局会话嵌入时,可以用于:
将所有节点对应的局部嵌入输入到注意力机制中,得到图中所有节点对应的第一注意力权重值;
基于所有节点对应的第一注意力权重值和所有节点对应的局部嵌入,计算得到第一全局会话嵌入。
可选的,噪声滤除模块704对所有节点对应的局部嵌入进行去噪处理,得到去噪后的第二全局会话嵌入时,可以用于:
根据所有节点对应的第一注意力权重值,计算平均注意力权重;
根据平均注意力权重,通过噪声滤除器计算图中所有节点去噪后的第二注意力权重值;
基于图中所有节点去噪后的第二注意力权重值和所有节点对应的局部嵌入,计算得到第二全局会话嵌入。
可选的,噪声滤除模块704中根据平均注意力权重,通过噪声滤除器计算图中所有节点去噪后的第二注意力权重值时,可以用于:
设置控制去噪程度的参数,将平均注意力权重和参数的乘积作为权重阈值;
检测图中节点对应的第一注意力权重值是否大于权重阈值;
若图中节点对应的第一注意力权重值大于权重阈值,则将超出权重阈值的权重作为图中节点去噪后的第二注意力权重值;
若图中节点对应的第一注意力权重值不大于权重阈值,则将图中节点去噪后的第二注意力权重值置零。
可选的,联合对比优化模块705基于第一全局会话嵌入和第二全局会话嵌入,通过联合对比学习优化,获取第三全局会话嵌入时,可以用于:
根据第一全局会话嵌入和第二全局会话嵌入,采用带有标准二值交叉熵损失的噪声对比函数作为对比监督学习的目标,得到第一优化目标;
采用交叉熵损失函数作为目标函数进行学习训练,得到第二优化目标;
结合第一优化目标和第二优化目标,得到联合对比优化目标;
基于联合对比优化目标进行学习训练,得到第三全局会话嵌入。
可选的,会话推荐模块706为所有节点对应的局部嵌入和第三全局会话嵌入分配自适应权重,计算得到用户会话表示,并生成用户会话推荐列表时,可以用于:
采用门控机制,为所有节点对应的局部嵌入和第三全局会话嵌入分配自适应权重,并进行加权求和得到用户会话表示;
对用户会话表示中的节点进行归一化处理,生成用户会话推荐列表。
上述会话推荐装置,运用融合对比学习去噪优化的图神经会话推荐方法对基于图神经网络的会话推荐算法进行改进,通过设计一种噪声滤除器过滤掉会话中的噪声嵌入,并结合对比学习策略进行联合优化去噪,能够提高会话推荐的准确性,有效的解决了用户意图的动态变化和用户行为的不确定性问题,能够从会话序列中学习更为精确的会话表示。
图8是本发明实施例提供的终端的示意图。如图8所示,该实施例的终端800包括:处理器801、存储器802以及存储在所述存储器802中并可在所述处理器801上运行的计算机程序803。所述处理器801执行所述计算机程序803时实现上述各个会话推荐方法实施例中的步骤,例如图1所示的步骤101至步骤106。或者,所述处理器801执行所述计算机程序803时实现上述各装置实施例中各模块的功能,例如图7所示模块701至706的功能。
示例性的,所述计算机程序803可以被分割成一个或多个模块,所述一个或者多个模块被存储在所述存储器802中,并由所述处理器801执行,以完成本发明。所述一个或多个模块可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序803在所述终端800中的执行过程。例如,所述计算机程序803可以被分割成图7所示的模块701至706。
所述终端800可包括,但不仅限于,处理器801、存储器802。本领域技术人员可以理解,图8仅仅是终端800的示例,并不构成对终端800的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述终端还可以包括输入输出设备、网络接入设备、总线等。
所称处理器801可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器802可以是所述终端800的内部存储单元,例如终端800的硬盘或内存。所述存储器802也可以是所述终端800的外部存储设备,例如所述终端800上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器802还可以既包括所述终端800的内部存储单元也包括外部存储设备。所述存储器802用于存储所述计算机程序以及所述终端所需的其他程序和数据。所述存储器802还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置、终端和方法,可以通过其它的方式实现。例如,以上所描述的装置、终端实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个会话推荐方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质等。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种融合对比学习去噪优化的会话推荐方法,其特征在于,包括:
获取用户会话数据;
将所述用户会话数据构建为图,获取所述图中所有节点对应的局部嵌入;
根据所述所有节点对应的局部嵌入计算第一全局会话嵌入;
对所述所有节点对应的局部嵌入进行去噪处理,得到去噪后的第二全局会话嵌入;
基于所述第一全局会话嵌入和所述第二全局会话嵌入,通过联合对比学习优化,获取第三全局会话嵌入;
为所述所有节点对应的局部嵌入和所述第三全局会话嵌入分配自适应权重,计算得到用户会话表示,并生成用户会话推荐列表。
2.根据权利要求1所述的会话推荐方法,其特征在于,所述将所述用户会话数据构建为图,获取所述图中所有节点对应的局部嵌入,包括:
构建所述用户会话数据对应的出度邻接关系矩阵和入度邻接关系矩阵;
通过所述出度邻接关系矩阵和所述入度邻接关系矩阵,将所述用户会话数据转化为图;
聚合连接所述图中的信息,得到中间向量;
通过图神经网络获取所述图中所有节点的局部嵌入。
3.根据权利要求2所述的会话推荐方法,其特征在于,所述根据所有节点对应的局部嵌入计算第一全局会话嵌入,包括:
将所述所有节点对应的局部嵌入输入到注意力机制中,得到所述图中所有节点对应的第一注意力权重值;
基于所述所有节点对应的第一注意力权重值和所述所有节点对应的局部嵌入,计算得到第一全局会话嵌入。
4.根据权利要求3所述的会话推荐方法,其特征在于,所述对所述所有节点对应的局部嵌入进行去噪处理,得到去噪后的第二全局会话嵌入,包括:
根据所述所有节点对应的第一注意力权重值,计算平均注意力权重;
根据所述平均注意力权重,通过噪声滤除器计算所述图中所有节点去噪后的第二注意力权重值;
基于所述图中所有节点去噪后的第二注意力权重值和所述所有节点对应的局部嵌入,计算得到第二全局会话嵌入。
5.根据权利要求4所述的会话推荐方法,其特征在于,所述根据所述平均注意力权重,通过噪声滤除器计算所述图中所有节点去噪后的第二注意力权重值,包括:
设置控制去噪程度的参数,将所述平均注意力权重和所述参数的乘积作为权重阈值;
检测所述图中节点对应的第一注意力权重值是否大于所述权重阈值;
若所述图中节点对应的第一注意力权重值大于所述权重阈值,则将超出所述权重阈值的权重作为所述图中节点去噪后的第二注意力权重值;
若所述图中节点对应的第一注意力权重值不大于所述权重阈值,则将所述图中节点去噪后的第二注意力权重值置零。
6.根据权利要求4所述的会话推荐方法,其特征在于,所述基于所述第一全局会话嵌入和所述第二全局会话嵌入,通过联合对比学习优化,获取第三全局会话嵌入,包括:
根据所述第一全局会话嵌入和所述第二全局会话嵌入,采用带有标准二值交叉熵损失的噪声对比函数作为对比监督学习的目标,得到第一优化目标;
采用交叉熵损失函数作为目标函数进行学习训练,得到第二优化目标;
结合所述第一优化目标和所述第二优化目标,得到联合对比优化目标;
基于所述联合对比优化目标进行学习训练,得到第三全局会话嵌入。
7.根据权利要求6所述的会话推荐方法,其特征在于,所述为所述所有节点对应的局部嵌入和所述第三全局会话嵌入分配自适应权重,计算得到用户会话表示,并生成用户会话推荐列表,包括:
采用门控机制,为所述所有节点对应的局部嵌入和所述第三全局会话嵌入分配自适应权重,并进行加权求和得到用户会话表示;
对所述用户会话表示中的节点进行归一化处理,生成用户会话推荐列表。
8.一种融合对比学习去噪优化的会话推荐装置,其特征在于,包括:
采集模块,用于获取用户会话数据;
局部嵌入模块,用于将所述用户会话数据构建为图,获取所述图中所有节点对应的局部嵌入;
全局嵌入模块,用于根据所述所有节点对应的局部嵌入计算第一全局会话嵌入;
噪声滤除模块,用于对所述所有节点对应的局部嵌入进行去噪处理,得到去噪后的第二全局会话嵌入;
联合对比优化模块,用于基于所述第一全局会话嵌入和所述第二全局会话嵌入,通过联合对比学习优化,获取第三全局会话嵌入;
会话推荐模块,用于为所述所有节点对应的局部嵌入和所述第三全局会话嵌入分配自适应权重,计算得到用户会话表示,并生成用户会话推荐列表。
9.一种终端,包括存储器和处理器,所述存储器用于存储计算机程序,所述处理器用于调用并运行所述存储器中存储的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如上的权利要求1至7中任一项所述的方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如上的权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211419448.8A CN115795005A (zh) | 2022-11-14 | 2022-11-14 | 一种融合对比学习去噪优化的会话推荐方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211419448.8A CN115795005A (zh) | 2022-11-14 | 2022-11-14 | 一种融合对比学习去噪优化的会话推荐方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115795005A true CN115795005A (zh) | 2023-03-14 |
Family
ID=85437342
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211419448.8A Pending CN115795005A (zh) | 2022-11-14 | 2022-11-14 | 一种融合对比学习去噪优化的会话推荐方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115795005A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117932040A (zh) * | 2024-03-21 | 2024-04-26 | 成都鱼泡科技有限公司 | 应用于招聘信息化系统的信息推荐方法及系统 |
-
2022
- 2022-11-14 CN CN202211419448.8A patent/CN115795005A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117932040A (zh) * | 2024-03-21 | 2024-04-26 | 成都鱼泡科技有限公司 | 应用于招聘信息化系统的信息推荐方法及系统 |
CN117932040B (zh) * | 2024-03-21 | 2024-05-28 | 成都鱼泡科技有限公司 | 应用于招聘信息化系统的信息推荐方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Xu et al. | Adaptive feature projection with distribution alignment for deep incomplete multi-view clustering | |
CN110138595A (zh) | 动态加权网络的时间链路预测方法、装置、设备及介质 | |
CN111310050A (zh) | 一种基于多层注意力的推荐方法 | |
CN112910710B (zh) | 网络流量时空预测方法、装置、计算机设备和存储介质 | |
CN108563660B (zh) | 服务推荐方法、系统及服务器 | |
CN113919441A (zh) | 一种基于超图变换网络的分类方法 | |
Zhang et al. | Hybrid fuzzy clustering method based on FCM and enhanced logarithmical PSO (ELPSO) | |
CN113095370B (zh) | 图像识别方法、装置、电子设备及存储介质 | |
CN112231592B (zh) | 基于图的网络社团发现方法、装置、设备以及存储介质 | |
Peng et al. | Multiview boosting with information propagation for classification | |
CN110795618B (zh) | 内容推荐方法、装置、设备及计算机可读存储介质 | |
Wang et al. | Fast and efficient algorithm for matrix completion via closed-form 2/3-thresholding operator | |
CN110659394A (zh) | 基于双向邻近度的推荐方法 | |
CN114116995B (zh) | 基于增强图神经网络的会话推荐方法、系统及介质 | |
CN112529068A (zh) | 一种多视图图像分类方法、系统、计算机设备和存储介质 | |
CN115795005A (zh) | 一种融合对比学习去噪优化的会话推荐方法及装置 | |
CN114090401B (zh) | 处理用户行为序列的方法及装置 | |
Luber et al. | Structural neural additive models: Enhanced interpretable machine learning | |
Panigrahi et al. | Multi-scale based Approach for Denoising Real-World noisy image using Curvelet Thresholding: Scope & Beyond | |
Guo et al. | ARLP: Automatic multi-agent transformer reinforcement learning pruner for one-shot neural network pruning | |
CN116303961A (zh) | 基于多跳组合图指纹网络的知识图谱问答方法及系统 | |
CN116758331A (zh) | 物体检测方法、装置及存储介质 | |
CN115544307A (zh) | 基于关联矩阵的有向图数据特征提取与表达方法和系统 | |
Jo et al. | How much a model be trained by passive learning before active learning? | |
CN113468604A (zh) | 基于人工智能的大数据隐私信息解析方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |