CN111222039B - 一种基于长短期兴趣组合的会话推荐方法及系统 - Google Patents

一种基于长短期兴趣组合的会话推荐方法及系统 Download PDF

Info

Publication number
CN111222039B
CN111222039B CN201911113029.XA CN201911113029A CN111222039B CN 111222039 B CN111222039 B CN 111222039B CN 201911113029 A CN201911113029 A CN 201911113029A CN 111222039 B CN111222039 B CN 111222039B
Authority
CN
China
Prior art keywords
term
short
long
interest
item
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911113029.XA
Other languages
English (en)
Other versions
CN111222039A (zh
Inventor
刘峤
蓝天
吴祖峰
孙建强
曾义夫
曾维智
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN201911113029.XA priority Critical patent/CN111222039B/zh
Publication of CN111222039A publication Critical patent/CN111222039A/zh
Application granted granted Critical
Publication of CN111222039B publication Critical patent/CN111222039B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/953Querying, e.g. by the use of web search engines
    • G06F16/9535Search customisation based on user profiles and personalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/047Probabilistic or stochastic networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0631Item recommendations

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Databases & Information Systems (AREA)
  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Probability & Statistics with Applications (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于长短期兴趣组合的会话推荐方法及系统,方法包括以下步骤:S1、生成与物品对应的表示向量;S2、获取会话中物品序列对应的向量表示序列;S3、获取长期记忆和短期记忆;S4、获取短期兴趣抽象状态特征;S5、获取长期兴趣抽象状态特征;S6、对候选物品进行打分,获取各个候选物品的打分结果;S7、基于各个候选物品的打分结果预测各个候选物品作为该用户下一次点击对象的概率,将概率最大的候选物品作为推荐物品。本发明同时考虑了用户浏览过程中长期兴趣和短期兴趣造成的影响,缓解了用户发生兴趣漂移时,现有基于RNN的模型推荐效果差的问题,可以为用户推荐更适应其偏好的物品,进而提高电子商务的服务质量。

Description

一种基于长短期兴趣组合的会话推荐方法及系统
技术领域
本发明涉及电子商务领域,具体涉及一种基于长短期兴趣组合的会话推荐方法及系统。
背景技术
在电子商务系统(如淘宝)中,据浏览器会话机制中记录的用户历史浏览行为为用户做出合理推荐,以提高用户的浏览体验。其目标是根据会话记录中当前用户点击的所有物品集合预测用户下一次可能要点击的物品,进而实际推荐给用户。
用户在实际浏览过程中,通常会以匿名方式访问,因此推荐系统无法持续跟踪同一用户的多次浏览行为,也无法追溯到用户的个人配置信息(如年龄、性别、爱好等)。导致推荐系统难以对某用户生成具体的用户画像,可利用的有效信息非常有限。
现有的推荐方法多引入循环神经网络(recurrent neural network,RNN)机制对会话序列进行建模捕获用户的长期兴趣,但这些方法都没有明确考虑用户当前行为对下一次点击预测的影响,无法及时响应用户当前行为可能带来的结果。同时,在浏览过程中用户的兴趣可能随着浏览到的信息而发生转变,并且这种转变是没有规律的,RNN网络本身难以有效捕捉到实际能表现出用户当前兴趣点的信息,导致模型无法很好的解决兴趣漂移引起的问题。
发明内容
针对现有技术中的上述不足,本发明提供的一种基于长短期兴趣组合的会话推荐方法及系统缓解了用户发生兴趣漂移时,现有基于RNN的模型推荐效果差的问题。
为了达到上述发明目的,本发明采用的技术方案为:
提供一种基于长短期兴趣组合的会话推荐方法,其包括以下步骤:
S1、生成物品字典,并为物品字典中的每个物品生成一个一一对应的向量;
S2、依次记录当前会话中每个被同一用户点击的物品,得到物品序列并获取与其相对应的向量表示序列;
S3、将整个向量表示序列中的点击行为信息作为长期记忆,并将整个向量表示序列中最后k个点击行为信息作为短期记忆;
S4、获取短期记忆中的短期兴趣特征,并对短期兴趣特征进行特征抽象,得到短期兴趣抽象状态特征;
S5、基于长期记忆和短期记忆采用注意力网络获取用户的长期兴趣特征,并对长期兴趣特征进行特征抽象,得到长期兴趣抽象状态特征;
S6、根据短期兴趣抽象状态特征和长期兴趣抽象状态特征对候选物品进行打分,获取各个候选物品的打分结果;
S7、基于各个候选物品的打分结果采用softmax函数预测各个候选物品作为该用户下一次点击对象的概率,将概率最大的候选物品作为推荐物品。
进一步地,步骤S1的具体方法为:
生成包含所有物品的物品字典,并为物品字典中的每个物品采用随机初始化的方式生成一个与物品一一对应的d维实数向量。
进一步地,k的取值为1。
进一步地,步骤S4的具体方法为:
将短期记忆中的向量元素作为该用户的短期兴趣特征,根据公式
ht=f(Wtmt+bt)
采用多层神经网络对短期兴趣特征进行特征抽象,得到短期兴趣抽象状态特征ht;其中f(·)为非线性激活函数;Wt为权重矩阵,
Figure BDA0002273282580000031
表示Wt为实数集
Figure BDA0002273282580000032
上d×d维矩阵,d为与物品相对应的向量的维数;mt为短期兴趣特征;bt为偏置向量,
Figure BDA0002273282580000033
进一步地,步骤S5的具体方法包括以下子步骤:
S5-1、根据公式
Figure BDA0002273282580000034
获取长期记忆的平均兴趣ms;其中t为长期记忆中的点击行为信息的总数;xi为长期记忆中第i个点击行为信息;
S5-2、根据公式
αi=W0σ(W1xi+W2xp+W3ms+b0)
采用前馈神经网络获取每个物品关于短期记忆的注意力权重;其中αi为第i个被点击物品的注意力权重;W0为权重向量,
Figure BDA0002273282580000035
为实数集,d为与物品相对应的向量的维数;W1、W2和W3均为权重矩阵,
Figure BDA0002273282580000036
xi为第i个被点击物品对应的向量;xp为短期记忆中的向量,即最后一个被点击物品对应的向量;b0为偏置向量,
Figure BDA0002273282580000037
σ(·)为sigmoid函数;
S5-3、根据公式
Figure BDA0002273282580000038
获取用户的长期兴趣特征ma
S5-4、根据公式
hs=f(Wsma+b1)
采用多层神经网络对长期兴趣特征进行特征抽象,得到长期兴趣抽象状态特征hs;其中Ws为权重矩阵,
Figure BDA0002273282580000039
b1为偏置向量,
Figure BDA00022732825800000310
进一步地,步骤S6的具体方法为:
根据公式
Figure BDA0002273282580000041
对候选物品vi进行打分,得到候选物品vi的打分结果
Figure BDA0002273282580000042
进而得到各个候选物品的打分结果;其中hs为长期兴趣抽象状态特征;ht为短期兴趣抽象状态特征;(·)T为矩阵的转置;⊙为向量内积运算。
进一步地,步骤S7的具体方法为:
根据公式
Figure BDA0002273282580000043
采用softmax函数预测各个候选物品作为该用户下一次点击对象的概率;其中
Figure BDA0002273282580000044
为候选物品的打分结果;
Figure BDA0002273282580000045
为候选物品相应的预测概率集合;softmax(·)为softmax函数。
提供一种基于长短期兴趣组合的会话推荐系统,其包括物品字典模块、会话输入模块、记忆提取模块、兴趣特征提取模块、打分模块和推荐模块;
物品字典模块,用于生成物品字典,并为物品字典中的每个物品生成一个一一对应的向量;
会话输入模块,用于依次记录当前会话中每个被同一用户点击的物品,得到物品序列并获取与其相对应的向量表示序列;
记忆提取模块,用于将整个向量表示序列中的点击行为信息作为长期记忆,并将整个向量表示序列中最后k个点击行为信息作为短期记忆;
兴趣特征提取模块,用于获取短期记忆中的短期兴趣特征,并对短期兴趣特征进行特征抽象,得到短期兴趣抽象状态特征;并用于基于长期记忆和短期记忆采用注意力网络获取用户的长期兴趣特征,并对长期兴趣特征进行特征抽象,得到长期兴趣抽象状态特征;
打分模块,用于根据短期兴趣抽象状态特征和长期兴趣抽象状态特征对候选物品进行打分,获取各个候选物品的打分结果;
推荐模块,用于基于各个候选物品的打分结果采用softmax函数预测各个候选物品作为该用户下一次点击对象的概率,将概率最大的候选物品作为推荐物品。
本发明的有益效果为:本发明同时考虑了用户浏览过程中长期兴趣和短期兴趣造成的影响,缓解了用户发生兴趣漂移时,现有基于RNN的模型推荐效果差的问题,可以为用户推荐更适应其偏好的物品,进而提高电子商务的服务质量和用户的购物体验。
附图说明
图1为本方法的流程示意图。
具体实施方式
下面对本发明的具体实施方式进行描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
如图1所示,该基于长短期兴趣组合的会话推荐方法包括以下步骤:
S1、生成物品字典,并为物品字典中的每个物品生成一个一一对应的向量;
S2、依次记录当前会话中每个被同一用户点击的物品,得到物品序列并获取与其相对应的向量表示序列;
S3、将整个向量表示序列中的点击行为信息作为长期记忆,并将整个向量表示序列中最后k个点击行为信息作为短期记忆;k的取值为1;
S4、获取短期记忆中的短期兴趣特征,并对短期兴趣特征进行特征抽象,得到短期兴趣抽象状态特征;
S5、基于长期记忆和短期记忆采用注意力网络获取用户的长期兴趣特征,并对长期兴趣特征进行特征抽象,得到长期兴趣抽象状态特征;
S6、根据短期兴趣抽象状态特征和长期兴趣抽象状态特征对候选物品进行打分,获取各个候选物品的打分结果;
S7、基于各个候选物品的打分结果采用softmax函数预测各个候选物品作为该用户下一次点击对象的概率,将概率最大的候选物品作为推荐物品。
步骤S1的具体方法为:生成包含所有物品的物品字典,并为物品字典中的每个物品采用随机初始化的方式生成一个与物品一一对应的d维实数向量。
步骤S4的具体方法为:
将短期记忆中的向量元素作为该用户的短期兴趣特征,根据公式
ht=f(Wtmt+bt)
采用多层神经网络对短期兴趣特征进行特征抽象,得到短期兴趣抽象状态特征ht;其中f(·)为非线性激活函数;Wt为权重矩阵,
Figure BDA0002273282580000061
表示Wt为实数集
Figure BDA0002273282580000062
上d×d维矩阵,d为与物品相对应的向量的维数,本申请中可以取值为100;mt为短期兴趣特征;bt为偏置向量,
Figure BDA0002273282580000063
步骤S5的具体方法包括以下子步骤:
S5-1、根据公式
Figure BDA0002273282580000064
获取长期记忆的平均兴趣ms;其中t为长期记忆中的点击行为信息的总数;xi为长期记忆中第i个点击行为信息;
S5-2、根据公式
αi=W0σ(W1xi+W2xp+W3ms+b0)
采用前馈神经网络获取每个物品关于短期记忆的注意力权重;其中αi为第i个被点击物品的注意力权重;W0为权重向量,
Figure BDA0002273282580000071
为实数集,d为与物品相对应的向量的维数;W1、W2和W3均为权重矩阵,
Figure BDA0002273282580000072
xi为第i个被点击物品对应的向量;xp为短期记忆中的向量,即最后一个被点击物品对应的向量;b0为偏置向量,
Figure BDA0002273282580000073
σ(·)为sigmoid函数;
S5-3、根据公式
Figure BDA0002273282580000074
获取用户的长期兴趣特征ma
S5-4、根据公式
hs=f(Wsma+b1)
采用多层神经网络对长期兴趣特征进行特征抽象,得到长期兴趣抽象状态特征hs;其中Ws为权重矩阵,
Figure BDA0002273282580000075
b1为偏置向量,
Figure BDA0002273282580000076
步骤S6的具体方法为:根据公式
Figure BDA0002273282580000077
对候选物品vi进行打分,得到候选物品vi的打分结果
Figure BDA0002273282580000078
进而得到各个候选物品的打分结果;其中hs为长期兴趣抽象状态特征;ht为短期兴趣抽象状态特征;(·)T为矩阵的转置;⊙为向量内积运算。
步骤S7的具体方法为:根据公式
Figure BDA0002273282580000079
采用softmax函数预测各个候选物品作为该用户下一次点击对象的概率;其中
Figure BDA0002273282580000081
为候选物品的打分结果;
Figure BDA0002273282580000082
为候选物品相应的预测概率集合;softmax(·)为softmax函数。
该基于长短期兴趣组合的会话推荐系统包括物品字典模块、会话输入模块、记忆提取模块、兴趣特征提取模块、打分模块和推荐模块;
物品字典模块,用于生成物品字典,并为物品字典中的每个物品生成一个一一对应的向量;
会话输入模块,用于依次记录当前会话中每个被同一用户点击的物品,得到物品序列并获取与其相对应的向量表示序列;
记忆提取模块,用于将整个向量表示序列中的点击行为信息作为长期记忆,并将整个向量表示序列中最后k个点击行为信息作为短期记忆;
兴趣特征提取模块,用于获取短期记忆中的短期兴趣特征,并对短期兴趣特征进行特征抽象,得到短期兴趣抽象状态特征;并用于基于长期记忆和短期记忆采用注意力网络获取用户的长期兴趣特征,并对长期兴趣特征进行特征抽象,得到长期兴趣抽象状态特征;
打分模块,用于根据短期兴趣抽象状态特征和长期兴趣抽象状态特征对候选物品进行打分,获取各个候选物品的打分结果;
推荐模块,用于基于各个候选物品的打分结果采用softmax函数预测各个候选物品作为该用户下一次点击对象的概率,将概率最大的候选物品作为推荐物品。
本方法或系统相比于基于RNN的深度学习方法(如Gru4Rec,NARM等),本方法或系统在提取用户兴趣的过程中,没有引入RNN等复杂循环计算模块,可以并行计算,快速获得输出。同时与传统机器学习解决方案相比(如MF,FPMC),没有构建全局的用户-物品关联矩阵或物品-物品关联矩阵,无需分配大量内存存储矩阵数据。在同等条件下,本方法或系统对载体内存、处理器等资源性能要求低,能够快速集成到电子商务系统,并投入实际生产使用中。
综上所述,本发明以用户浏览会话中最后几项物品的向量表达作为用户的短期记忆,对该短期记忆建模,提取用户当前浏览过程中表现出的短期兴趣表达;同时,以整个会话中物品的向量表达作为长期记忆,将用户的长期记忆与短期记忆作为输入,采用注意力机制构建用户的长期兴趣表达;最后,本方法将用户的长短期兴趣进行融合,从而生成更精准的物品推荐结果,提高电子商务的服务质量和用户的购物体验。

Claims (5)

1.一种基于长短期兴趣组合的会话推荐方法,其特征在于,包括以下步骤:
S1、生成物品字典,并为物品字典中的每个物品生成一个一一对应的向量;
S2、依次记录当前会话中每个被同一用户点击的物品,得到物品序列并获取与其相对应的向量表示序列;
S3、将整个向量表示序列中的点击行为信息作为长期记忆,并将整个向量表示序列中最后k个点击行为信息作为短期记忆;
S4、获取短期记忆中的短期兴趣特征,并对短期兴趣特征进行特征抽象,得到短期兴趣抽象状态特征;
S5、基于长期记忆和短期记忆采用注意力网络获取用户的长期兴趣特征,并对长期兴趣特征进行特征抽象,得到长期兴趣抽象状态特征;
S6、根据短期兴趣抽象状态特征和长期兴趣抽象状态特征对候选物品进行打分,获取各个候选物品的打分结果;
S7、基于各个候选物品的打分结果采用softmax函数预测各个候选物品作为该用户下一次点击对象的概率,将概率最大的候选物品作为推荐物品;
步骤S1的具体方法为:
生成包含所有物品的物品字典,并为物品字典中的每个物品采用随机初始化的方式生成一个与物品一一对应的d维实数向量;
步骤S4的具体方法为:
将短期记忆中的向量元素作为该用户的短期兴趣特征,根据公式
ht=f(Wtmt+bt)
采用多层神经网络对短期兴趣特征进行特征抽象,得到短期兴趣抽象状态特征ht;其中f(·)为非线性激活函数;Wt为权重矩阵,
Figure FDA0003533739680000011
表示Wt为实数集
Figure FDA0003533739680000012
上d×d维矩阵,d为与物品相对应的向量的维数;mt为短期兴趣特征;bt为偏置向量,
Figure FDA0003533739680000021
步骤S5的具体方法包括以下子步骤:
S5-1、根据公式
Figure FDA0003533739680000022
获取长期记忆的平均兴趣ms;其中t为长期记忆中的点击行为信息的总数;xi为长期记忆中第i个点击行为信息;
S5-2、根据公式
αi=W0σ(W1xi+W2xp+W3ms+b0)
采用前馈神经网络获取每个物品关于短期记忆的注意力权重;其中αi为第i个被点击物品的注意力权重;W0为权重向量,
Figure FDA0003533739680000023
Figure FDA0003533739680000024
为实数集,d为与物品相对应的向量的维数;W1、W2和W3均为权重矩阵,
Figure FDA0003533739680000025
xi为第i个被点击物品对应的向量;xp为短期记忆中的向量,即最后一个被点击物品对应的向量;b0为偏置向量,
Figure FDA0003533739680000026
σ(·)为sigmoid函数;
S5-3、根据公式
Figure FDA0003533739680000027
获取用户的长期兴趣特征ma
S5-4、根据公式
hs=f(Wsma+b1)
采用多层神经网络对长期兴趣特征进行特征抽象,得到长期兴趣抽象状态特征hs;其中Ws为权重矩阵,
Figure FDA0003533739680000028
b1为偏置向量,
Figure FDA0003533739680000029
2.根据权利要求1所述的基于长短期兴趣组合的会话推荐方法,其特征在于,k的取值为1。
3.根据权利要求1所述的基于长短期兴趣组合的会话推荐方法,其特征在于,步骤S6的具体方法为:
根据公式
Figure FDA0003533739680000031
对候选物品vi进行打分,得到候选物品vi的打分结果
Figure FDA0003533739680000032
进而得到各个候选物品的打分结果;其中hs为长期兴趣抽象状态特征;ht为短期兴趣抽象状态特征;(·)T为矩阵的转置;⊙为向量内积运算。
4.根据权利要求1所述的基于长短期兴趣组合的会话推荐方法,其特征在于,步骤S7的具体方法为:
根据公式
Figure FDA0003533739680000033
采用softmax函数预测各个候选物品作为该用户下一次点击对象的概率;其中
Figure FDA0003533739680000034
为候选物品的打分结果;
Figure FDA0003533739680000035
为候选物品相应的预测概率集合;softmax(·)为softmax函数。
5.一种基于长短期兴趣组合的会话推荐系统,其特征在于,包括物品字典模块、会话输入模块、记忆提取模块、兴趣特征提取模块、打分模块和推荐模块;
所述物品字典模块,用于生成包含所有物品的物品字典,并为物品字典中的每个物品采用随机初始化的方式生成一个与物品一一对应的d维实数向量;
所述会话输入模块,用于依次记录当前会话中每个被同一用户点击的物品,得到物品序列并获取与其相对应的向量表示序列;
所述记忆提取模块,用于将整个向量表示序列中的点击行为信息作为长期记忆,并将整个向量表示序列中最后k个点击行为信息作为短期记忆;
所述兴趣特征提取模块,用于将短期记忆中的向量元素作为该用户的短期兴趣特征,并根据公式
ht=f(Wtmt+bt)
采用多层神经网络对短期兴趣特征进行特征抽象,得到短期兴趣抽象状态特征ht;其中f(·)为非线性激活函数;Wt为权重矩阵,
Figure FDA0003533739680000041
表示Wt为实数集
Figure FDA0003533739680000042
上d×d维矩阵,d为与物品相对应的向量的维数;mt为短期兴趣特征;bt为偏置向量,
Figure FDA0003533739680000043
所述兴趣特征提取模块,还用于根据公式
hs=f(Wsma+b1)
采用多层神经网络对长期兴趣特征进行特征抽象,得到长期兴趣抽象状态特征hs;其中Ws为权重矩阵,
Figure FDA0003533739680000044
b1为偏置向量,
Figure FDA0003533739680000045
ma为用户的长期兴趣特征,
Figure FDA0003533739680000046
αi为第i个被点击物品的注意力权重,αi=W0σ(W1xi+W2xp+W3ms+b0);W0为权重向量,
Figure FDA0003533739680000047
Figure FDA0003533739680000048
为实数集,d为与物品相对应的向量的维数;W1、W2和W3均为权重矩阵,
Figure FDA0003533739680000049
xi为第i个被点击物品对应的向量;xp为短期记忆中的向量,即最后一个被点击物品对应的向量;b0为偏置向量,
Figure FDA00035337396800000410
σ(·)为sigmoid函数;ms为长期记忆的平均兴趣,
Figure FDA00035337396800000411
t为长期记忆中的点击行为信息的总数;xi为长期记忆中第i个点击行为信息;
所述打分模块,用于根据短期兴趣抽象状态特征和长期兴趣抽象状态特征对候选物品进行打分,获取各个候选物品的打分结果;
所述推荐模块,用于基于各个候选物品的打分结果采用softmax函数预测各个候选物品作为该用户下一次点击对象的概率,将概率最大的候选物品作为推荐物品。
CN201911113029.XA 2019-11-14 2019-11-14 一种基于长短期兴趣组合的会话推荐方法及系统 Active CN111222039B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911113029.XA CN111222039B (zh) 2019-11-14 2019-11-14 一种基于长短期兴趣组合的会话推荐方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911113029.XA CN111222039B (zh) 2019-11-14 2019-11-14 一种基于长短期兴趣组合的会话推荐方法及系统

Publications (2)

Publication Number Publication Date
CN111222039A CN111222039A (zh) 2020-06-02
CN111222039B true CN111222039B (zh) 2022-05-20

Family

ID=70829009

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911113029.XA Active CN111222039B (zh) 2019-11-14 2019-11-14 一种基于长短期兴趣组合的会话推荐方法及系统

Country Status (1)

Country Link
CN (1) CN111222039B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112163147A (zh) * 2020-06-09 2021-01-01 中森云链(成都)科技有限责任公司 一种用于网站会话场景的推荐方法
CN112115352B (zh) * 2020-08-28 2024-07-05 齐鲁工业大学 基于用户兴趣的会话推荐方法及系统
CN112905887B (zh) * 2021-02-22 2021-12-14 中国计量大学 一种基于多兴趣短期优先模型的会话推荐方法
CN113326425B (zh) * 2021-04-20 2022-09-20 中国电子科技集团公司第五十四研究所 一种基于结构和语义注意力堆叠的会话推荐方法及系统
CN113722599B (zh) * 2021-09-06 2022-05-17 中国计量大学 一种基于用户长期兴趣和短期兴趣建模的会话推荐方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102611785A (zh) * 2011-01-20 2012-07-25 北京邮电大学 面向手机的移动用户个性化新闻主动推荐服务系统及方法
CN105512298A (zh) * 2015-12-10 2016-04-20 成都陌云科技有限公司 基于机器学习的感兴趣内容预测方法
CN109359140A (zh) * 2018-11-30 2019-02-19 苏州大学 一种基于自适应注意力的序列推荐方法及装置
CN110008409A (zh) * 2019-04-12 2019-07-12 苏州市职业大学 基于自注意力机制的序列推荐方法、装置及设备
CN110287335A (zh) * 2019-06-17 2019-09-27 桂林电子科技大学 基于知识图谱和用户长短期偏好的个性化景点推荐方法及装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015054752A1 (en) * 2013-10-17 2015-04-23 Tbt Holdings Australia Pty Ltd Method and system for profiling users of a database and presenting predictive information
US11287894B2 (en) * 2018-03-09 2022-03-29 Adobe Inc. Utilizing a touchpoint attribution attention neural network to identify significant touchpoints and measure touchpoint contribution in multichannel, multi-touch digital content campaigns

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102611785A (zh) * 2011-01-20 2012-07-25 北京邮电大学 面向手机的移动用户个性化新闻主动推荐服务系统及方法
CN105512298A (zh) * 2015-12-10 2016-04-20 成都陌云科技有限公司 基于机器学习的感兴趣内容预测方法
CN109359140A (zh) * 2018-11-30 2019-02-19 苏州大学 一种基于自适应注意力的序列推荐方法及装置
CN110008409A (zh) * 2019-04-12 2019-07-12 苏州市职业大学 基于自注意力机制的序列推荐方法、装置及设备
CN110287335A (zh) * 2019-06-17 2019-09-27 桂林电子科技大学 基于知识图谱和用户长短期偏好的个性化景点推荐方法及装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Attentive Neural Network Recommendation for E-Commerce Based on Various Implicit Feedback;Jinghua Zhu等;《2018 IEEE 9th International Conference on Software Engineering and Service Science (ICSESS)》;20180311;889-892 *
基于标签和信任关系的推荐算法研究;张鹏飞;《中国优秀硕士学位论文全文数据库 信息科技辑》;20190115(第01期);I138-2424 *
基于用户偏好的深度学习推荐系统;汪加林;《中国优秀博硕士学位论文全文数据库(硕士)信息科技辑》;20190615(第06期);I138-654 *

Also Published As

Publication number Publication date
CN111222039A (zh) 2020-06-02

Similar Documents

Publication Publication Date Title
CN111222039B (zh) 一种基于长短期兴趣组合的会话推荐方法及系统
Xin et al. Self-supervised reinforcement learning for recommender systems
CN108763362B (zh) 基于随机锚点对选择的局部模型加权融合Top-N电影推荐方法
CN111797321B (zh) 一种面向不同场景的个性化知识推荐方法及系统
CN106599022B (zh) 基于用户访问数据的用户画像形成方法
CN110609897A (zh) 一种融合全局和局部特征的多类别中文文本分类方法
Jain et al. A comparative study of machine learning and deep learning techniques for sentiment analysis
Bodapati et al. Sentiment Analysis from Movie Reviews Using LSTMs.
CN110232109A (zh) 一种网络舆情分析方法以及系统
CN110543242A (zh) 基于bert技术的表情输入法及其装置
CN113806630B (zh) 基于注意力的多视角特征融合跨域推荐方法及装置
CN110413894B (zh) 内容推荐模型的训练方法、内容推荐的方法及相关装置
Wang et al. Towards accurate and interpretable sequential prediction: A CNN & attention-based feature extractor
Zhang et al. Cross-domain and cross-category emotion tagging for comments of online news
Khoali et al. Advanced recommendation systems through deep learning
Alfarhood et al. DeepHCF: a deep learning based hybrid collaborative filtering approach for recommendation systems
Tan et al. Recommendation Based on Users’ Long‐Term and Short‐Term Interests with Attention
CN112380427A (zh) 基于迭代图注意力网络的用户兴趣预测方法及电子装置
Zhang et al. SEMA: Deeply learning semantic meanings and temporal dynamics for recommendations
Bai et al. Position-aware deep character-level CTR prediction for sponsored search
CN114117233A (zh) 一种基于用户隐式反馈的会话新闻推荐方法及推荐系统
Sun et al. Ta4rec: Recurrent neural networks with time attention factors for session-based recommendations
CN110851694A (zh) 基于用户记忆网络和树形结构的深度模型的个性化推荐系统
Rauf et al. BCE4ZSR: Bi-encoder empowered by teacher cross-encoder for zero-shot cold-start news recommendation
Zeng et al. User Personalized Recommendation Algorithm Based on GRU Network Model in Social Networks

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant