CN110990704A - 时间序列用户与内容互动行为的学习预测方法 - Google Patents

时间序列用户与内容互动行为的学习预测方法 Download PDF

Info

Publication number
CN110990704A
CN110990704A CN201911244612.4A CN201911244612A CN110990704A CN 110990704 A CN110990704 A CN 110990704A CN 201911244612 A CN201911244612 A CN 201911244612A CN 110990704 A CN110990704 A CN 110990704A
Authority
CN
China
Prior art keywords
user
time
sample set
user behavior
learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911244612.4A
Other languages
English (en)
Inventor
周鹏程
张发恩
何君柯
吴腾虎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Innovation Qizhi (chengdu) Technology Co Ltd
Original Assignee
Innovation Qizhi (chengdu) Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Innovation Qizhi (chengdu) Technology Co Ltd filed Critical Innovation Qizhi (chengdu) Technology Co Ltd
Priority to CN201911244612.4A priority Critical patent/CN110990704A/zh
Publication of CN110990704A publication Critical patent/CN110990704A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9535—Search customisation based on user profiles and personalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Item recommendations

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Business, Economics & Management (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明涉及一种时间序列用户与内容互动行为的学习预测方法，利用用户行为数据库和内容属性数据库，将同一个用户不同时刻与不同商品或者内容的互动行为构成的时间序列看作一个独立的样本，从而构筑用户行为序列样本集；使用时间序列统计方法处理上述的用户行为序列样本集，并使用可以引入非线性的激活函数的深度学习模型对上述的用户行为序列样本集进行学习；使用学习过的深度学习模型来预测未来的用户与商品或者内容的互动行为的联合概率分布。本发明可以学到用户行为模式中非线性的变化，从而提高概率预测精度。

Description

时间序列用户与内容互动行为的学习预测方法
技术领域
本专利申请属于推荐系统技术领域，更具体地说，是涉及一种时间序列用户与内容互动行为的学习预测方法。
背景技术
现有的推荐排序模型将不同时间的用户行为、商品的属性看作相互独立的样本。在构建样本时，单个时刻的用户对单个商品的操作(点击、转发、购买)构成了一个样本点。这种独立性是不可靠的，因为不同时刻的同一个用户行为上显然是不独立的，用户的兴趣也可能随着时间的推移而发生变化。现有技术有在该方向上做一些改善，比如使用衰减系数来描述用户的兴趣变化，但这种方式只能描述线性的变化，无法学习非线性的转变。
发明内容
本发明需要解决的技术问题是提供一种时间序列用户与内容互动行为的学习预测方法，可以学到用户行为模式中非线性的变化，从而提高概率预测精度。
为了解决上述问题，本发明所采用的技术方案是：
一种时间序列用户与内容互动行为的学习预测方法，过程为：
S1、利用用户行为数据库和内容属性数据库，将同一个用户不同时刻与不同商品或者内容的互动行为看作是一个时间序列，并作为一个独立的样本存在，从而构筑用户行为序列样本集；
S2、使用时间序列统计方法处理上述的用户行为序列样本集，并使用可以引入非线性的激活函数的深度学习模型对上述的用户行为序列样本集进行学习；
S3、使用学习过的深度学习模型来预测未来的用户与商品或者内容互动行为的联合概率分布。
本发明技术方案的进一步改进在于：具体过程为：
设t时刻用户uit与内容pt的互动行为视为事件Eit，事件Eit的发生概率记为Pr(Eit|uit，pt)，将t时刻用户uit在历史上的所有互动行为进行记录得到一个时间序列Su，i，t＝{(E0，ui0，p0)，...，(Et-1，uit-1，pt-1)，(Et，uit，pt)}，Su，i，t为深度学习模型中的一个独立样本，t时刻所有用户的时间序列构成了深度学习模型的用户行为序列样本集；然后通过时间序列统计方法对该用户行为序列样本集进行处理，并使用RNN(递归神经网络)模型来学习用户行为序列样本集的模式，最后使用学习过的RNN(递归神经网络)模型来进行预测。
本发明技术方案的进一步改进在于：RNN模型还包括基于RNN的变体，基于RNN的变体为LSTM、GRU、Attention机制的一种或多种。
本发明技术方案的进一步改进在于：互动行为包括点击、转发、购买的一种或多种。
本发明技术方案的进一步改进在于：时间序列统计方法包括移动平均法、加权移动平均法和指数平均法的一种或多种。
由于采用了上述技术方案，本发明取得的有益效果是：
1、本发明通过将同一个用户的不同时刻的行为构成的时间序列看成一个独立的样本，可以消除之前由于样本间独立性假设被打破对模型学习效果的影响；
2、使用RNN(递归神经网络)作为深度学习模型，通过引入非线性的激活函数可以学到用户行为模式中非线性的变化。
附图说明
图1为本发明的流程示意图。
具体实施方式
下面结合实施例对本发明做进一步详细说明。
如图1所示，本发明公开了一种时间序列用户与内容互动行为的学习预测方法，过程为：
S1、利用用户行为数据库和内容属性数据库，将同一个用户不同时刻与不同商品或者内容的互动行为(点击、转发、购买的一种或多种)看作是一个时间序列，并作为一个独立的样本存在，从而构筑用户行为序列样本集；
S2、使用时间序列统计方法处理上述的用户行为序列样本集，并使用可以引入非线性的激活函数的深度学习模型对上述的用户行为序列样本集进行学习；
S3、使用学习过的深度学习模型来预测未来的用户与商品或者内容互动行为的联合概率分布。
具体过程为：
设t时刻用户uit与内容pt的互动行为视为事件Eit，事件Eit的发生概率记为Pr(Eit|uit，pt)，将t时刻用户uit在历史上的所有互动行为进行记录得到一个时间序列Su，i，t＝{(E0，ui0，p0)，...，(Et-1，uit-1，pt-1)，(Et，uit，pt)}，Su，i，t为深度学习模型中的一个独立样本，t时刻所有用户的时间序列构成了深度学习模型的用户行为序列样本集；然后通过时间序列统计方法对该用户行为序列样本集进行处理，并使用RNN(递归神经网络)模型来学习用户行为序列样本集的模式，最后使用学习过的RNN(递归神经网络)模型来进行预测。其中的Su，i，t是指的用户ui在t时刻所能得到的t时刻以前的行为序列所组成的时间序列。ui0，uit-1，uit是指的同一个用户ui在不同时刻的用户画像。
RNN模型还包括基于RNN的变体，基于RNN的变体为LSTM、GRU、Attention机制的一种或多种。互动行为包括点击、转发、购买的一种或多种。时间序列统计方法包括移动平均法、加权移动平均法和指数平均法的一种或多种。
通过本发明可以学到用户行为模式中非线性的变化，提高预测精度，提升使用效果。

Claims (5)

1.一种时间序列用户与内容互动行为的学习预测方法，其特征在于过程为：
S1、利用用户行为数据库和内容属性数据库，将同一个用户不同时刻与不同商品或者内容的互动行为看作是一个时间序列，并作为一个独立的样本存在，从而构筑用户行为序列样本集；
S2、使用时间序列统计方法处理上述的用户行为序列样本集，并使用可以引入非线性的激活函数的深度学习模型对上述的用户行为序列样本集进行学习；
S3、使用学习过的深度学习模型来预测未来的用户与商品或者内容的互动行为的联合概率分布。
2.根据权利要求1所述的时间序列用户与内容互动行为的学习预测方法，其特征在于具体过程为：
设t时刻用户uit与内容pt的互动行为视为事件Eit，事件Eit的发生概率记为Pr(Eit|uit，pt)，将t时刻用户uit在历史上的所有互动行为进行记录得到一个时间序列Su，i，t＝{(E0，ui0，p0)，...，(Et-1，uit-1，pt-1)，(Et，uit，pt)}，Su，i，t为深度学习模型中的一个独立样本，t时刻所有用户的时间序列构成了深度学习模型的用户行为序列样本集；然后通过时间序列统计方法对该用户行为序列样本集进行处理，并使用RNN模型来学习用户行为序列样本集的模式，最后使用学习过的RNN模型来进行预测。
3.根据权利要求2所述的时间序列用户与内容互动行为的学习预测方法，其特征在于：RNN模型还包括基于RNN的变体，基于RNN的变体为LSTM、GRU、Attention机制的一种或多种。
4.根据权利要求3所述的时间序列用户与内容互动行为的学习预测方法，其特征在于：互动行为包括点击、转发、购买的一种或多种。
5.根据权利要求4所述的时间序列用户与内容互动行为的学习预测方法，其特征在于：时间序列统计方法包括移动平均法、加权移动平均法和指数平均法的一种或多种。
CN201911244612.4A 2019-12-06 2019-12-06 时间序列用户与内容互动行为的学习预测方法 Pending CN110990704A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911244612.4A CN110990704A (zh) 2019-12-06 2019-12-06 时间序列用户与内容互动行为的学习预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911244612.4A CN110990704A (zh) 2019-12-06 2019-12-06 时间序列用户与内容互动行为的学习预测方法

Publications (1)

Publication Number Publication Date
CN110990704A true CN110990704A (zh) 2020-04-10

Family

ID=70091054

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911244612.4A Pending CN110990704A (zh) 2019-12-06 2019-12-06 时间序列用户与内容互动行为的学习预测方法

Country Status (1)

Country Link
CN (1) CN110990704A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112132345A (zh) * 2020-09-23 2020-12-25 深圳创新奇智科技有限公司 电商用户信息预测方法、装置、电子设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105761102A (zh) * 2016-02-04 2016-07-13 杭州朗和科技有限公司 一种预测用户购买商品行为的方法和装置
CN107705155A (zh) * 2017-10-11 2018-02-16 北京三快在线科技有限公司 一种消费能力预测方法、装置、电子设备及可读存储介质
US20180253637A1 (en) * 2017-03-01 2018-09-06 Microsoft Technology Licensing, Llc Churn prediction using static and dynamic features
CN109460816A (zh) * 2018-11-16 2019-03-12 焦点科技股份有限公司 一种基于深度学习的用户行为预测方法
CN110196946A (zh) * 2019-05-29 2019-09-03 华南理工大学 一种基于深度学习的个性化推荐方法
US20190354836A1 (en) * 2018-05-17 2019-11-21 International Business Machines Corporation Dynamic discovery of dependencies among time series data using neural networks

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105761102A (zh) * 2016-02-04 2016-07-13 杭州朗和科技有限公司 一种预测用户购买商品行为的方法和装置
US20180253637A1 (en) * 2017-03-01 2018-09-06 Microsoft Technology Licensing, Llc Churn prediction using static and dynamic features
CN107705155A (zh) * 2017-10-11 2018-02-16 北京三快在线科技有限公司 一种消费能力预测方法、装置、电子设备及可读存储介质
US20190354836A1 (en) * 2018-05-17 2019-11-21 International Business Machines Corporation Dynamic discovery of dependencies among time series data using neural networks
CN109460816A (zh) * 2018-11-16 2019-03-12 焦点科技股份有限公司 一种基于深度学习的用户行为预测方法
CN110196946A (zh) * 2019-05-29 2019-09-03 华南理工大学 一种基于深度学习的个性化推荐方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112132345A (zh) * 2020-09-23 2020-12-25 深圳创新奇智科技有限公司 电商用户信息预测方法、装置、电子设备及存储介质

Similar Documents

Publication Publication Date Title
US11238228B2 (en) Training systems for pseudo labeling natural language
US11521221B2 (en) Predictive modeling with entity representations computed from neural network models simultaneously trained on multiple tasks
Honegger Shedding light on black box machine learning algorithms: Development of an axiomatic framework to assess the quality of methods that explain individual predictions
CN110796313B (zh) 一种基于带权图卷积和项目吸引力模型的会话推荐方法
CN113590900A (zh) 一种融合动态知识图谱的序列推荐方法
US11694165B2 (en) Key-value memory network for predicting time-series metrics of target entities
CN112053188B (zh) 一种基于混合深度神经网络模型的互联网广告推荐方法
CN112700274A (zh) 一种基于用户偏好的广告点击率预估方法
CN112819575B (zh) 一种考虑重复购买行为的会话推荐方法
CN113570398A (zh) 推广数据处理方法、模型训练方法、系统和存储介质
CN113254675A (zh) 基于自适应少样本关系抽取的知识图谱构建方法
CN110990704A (zh) 时间序列用户与内容互动行为的学习预测方法
CN113297486B (zh) 一种点击率预测方法及相关装置
Adama et al. Adaptive segmentation and sequence learning of human activities from skeleton data
Pratt et al. Bringing advanced technology to strategic decision-making: The Decision Intelligence/Data Science (DI/DS) Integration framework
CN109033378A (zh) 一种Zero-shot Learning在智能客服系统中的应用方法
CN117540336A (zh) 时间序列预测方法、装置及电子设备
CN110390041B (zh) 在线学习方法及装置、计算机可读存储介质
CN116320626A (zh) 一种计算电商直播热度的方法及系统
CN115860872A (zh) 一种目标物品确定方法、装置、电子设备及存储介质
CN116992157B (zh) 一种基于生物神经网络的广告推荐方法
Guo Probabilistic forecasting in decision-making: new methods and applications
Wan et al. Forecasting E-commerce Key Performance Indicators
CN116029770B (zh) 广告创意智能化推送方法、系统、设备与存储介质
WO2022259487A1 (ja) 予測装置、予測方法およびプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20200410

RJ01 Rejection of invention patent application after publication