CN113821682A - 基于深度学习的多目标视频推荐方法、装置及存储介质 - Google Patents

基于深度学习的多目标视频推荐方法、装置及存储介质 Download PDF

Info

Publication number
CN113821682A
CN113821682A CN202111134439.XA CN202111134439A CN113821682A CN 113821682 A CN113821682 A CN 113821682A CN 202111134439 A CN202111134439 A CN 202111134439A CN 113821682 A CN113821682 A CN 113821682A
Authority
CN
China
Prior art keywords
video
interactive
subtask
sequence
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111134439.XA
Other languages
English (en)
Other versions
CN113821682B (zh
Inventor
谢东霖
罗崇军
魏骁勇
张栩禄
杨震群
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Guanglian Zhitong Technology Co ltd
Original Assignee
Shenzhen Guanglian Zhitong Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Guanglian Zhitong Technology Co ltd filed Critical Shenzhen Guanglian Zhitong Technology Co ltd
Priority to CN202111134439.XA priority Critical patent/CN113821682B/zh
Publication of CN113821682A publication Critical patent/CN113821682A/zh
Application granted granted Critical
Publication of CN113821682B publication Critical patent/CN113821682B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/7867—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, title and artist information, manually generated time, location and usage information, user ratings
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Library & Information Science (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Databases & Information Systems (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明涉及推荐系统领域，提供了一种基于深度学习的多目标视频推荐方法、装置及存储介质，解决正样本稀疏以及多个目标的视频推荐问题。主要方案包括：1)准备包含用户在目标上的交互行为的数据集；2)多任务框架的修改与设计，完成每个子任务相应的损失计算；3)对得到的每个子任务的损失函数进行动态加权优化；4)底层共享网络结构设计，得到历史交互序列的权重；5)设计权重衰减结构，对得到历史交互序列的权重进行衰减后用于申请网络的训练；6)网络中的embedding层的预热初始化；7)神经网络的训练。本发明用于视频的多目标推荐。

Description

基于深度学习的多目标视频推荐方法、装置及存储介质
技术领域
本发明涉及视频推荐领域。提供了一种基于深度学习的多目标视频推荐方法、装置及存储介质。
背景技术
推荐系统是一项交互式产品功能，产品为推荐系统提供载体，用户通过使用产品触达及触发推荐系统，推荐系统为用户提供个性化的推荐，从而提升用户体验；和搜索引擎不同，推荐系统本质上是在用户需求不明确的情况下，从海量的信息中为用户寻找其感兴趣的信息的技术手段。推荐系统结合用户的信息(地域，年龄，性别等)，物品信息(价格，产地等)，以及用户过去对物品的行为(是否购买，是否点击，是否播放等)，利用机器学习技术构建用户兴趣模型，为用户提供精准的个性化推荐。
传统的推荐系统算法中经典的便是协同过滤的推荐算法，其主要分为基于用户的协同过滤和基于物品的协同过滤，基本思想根据用户之前的喜好以及其他兴趣相近的用户的选择来给用户推荐物品，基于用户的协同过滤是给用户推荐和他兴趣相似的其他用户喜欢的产品，而基于物品的协同过滤给用户推荐和他之前喜欢的物品相似的物品，但是存在稀疏性、扩展性等缺点。
随着深度学习的发展，深度学习在推荐系统领域也得到了极大的应用，一系列基于深度学习的推荐算法也逐渐问世，例如Wide&Deep、DeepCrossing、DeepFM等模型，深度模型一定程度上减少人工构造特征的成本。而在2018年阿里提出的深度兴趣网络(DIN)，用户对于不同的目标物品可以通过注意力机制结合历史的购买行为生成不同的表达，从而更加准确的表达用户的兴趣。而推荐系统除了应用于购物软件，还广泛的应用于新闻app的咨询推荐以及视频软件的视频推荐等。
发明内容
针对上述技术问题，本发明基于深度学习的推荐算法，解决正样本稀疏以及多个目标的视频推荐问题。
本发明采取的技术方案如下：
步骤1：准备数据集，每个样本包括用户的id，交互过的视频id、视频的作者id、交互日期、背景音乐的id、背景音乐的作者id和用户在这条视频上(是否点赞、是否点击头像、是否转发、是否收藏、是否发表评论、是否关注)这六个目标上的交互情况，通过对这六个目标的预测来对视频进行推荐，基于每个目标不同的重要度，最后加权得到待预测视频的分数，按照分数排序进行推荐；
步骤2：对于用户在(是否点赞、是否点击头像、是否转发、是否收藏、是否发表评论、是否关注)这六个目标上的交互情况作为六个不同但是存在相关性的子任务，因为例如如果用户对某个视频点赞了那么大概率可能也会发生转发或者关注等行为，因此使用多任务框架可以将不同任务之间的信息结合起来，每个任务之间相互补充，这里使用MMoE(Multi-gate Mixture-of-Experts)多任务框架，具体的结构为底层部分共享，上层使用多个不同的专家网络，然后gate层对每个专家网络的输出进行加权，加权后的输出作为顶层tower层的输入，tower层完成具体的每个目标子任务,为了提升在多个目标任务上的表现，使用主流的attention机制替换掉原有的gate层的加权方式，其中attention的具体计算方式如下：
scores＝softmax((expertout*Wkey)*query)
towerinput＝scores*(expertout*Wvalue)
其中expertout表示专家层的输出，Wkey和Wvalue都是需要学习的参数，分别用于生成attention中key和value向量，query是为每个任务生成的向量，也是需要学习的参数。
步骤3：对每个目标子任务进行加权，因为采用相同的权重多任务框架可能无法保证每个子任务都达到最优，并且由于不同子任务在不同时期学习速度不同，采用固定的权重往往也不能达到最优的效果，因此采用动态加权平均(Dynamic Weight Averaging)的方法，同时考虑不同子任务的loss情况以及训练速度，保证各个子任务能够以相近的速度进行学习，权重的具体计算方式如下：
Figure BDA0003281746820000021
Figure BDA0003281746820000031
其中，wi(t)表示任务i在t步时权重，Ln(t-1)和rn(t-1)分别表示任务n在t-1步时的loss和训练速度，r越小，训练速度越快，N表示子任务的数量，T是一个常数。
步骤4：多任务框架中的底层网络结构设计，采用DNN+Attention的结构，首先对离散的id特征进行Embedding嵌入，然后1)DNN部分为三层的全连接层网络，主要进行特征之间的高阶交叉；2)Attention部分，首先使用固定大小L的滑动窗口根据交互日期为每个样本生成序列长度为L的历史交互视频id序列(具体做法是根据用户id进行分组，然后每组根据样本的交互日期排序，对于每个样本选择前L个交互过的视频id生成当前样本的历史交互序列，不足的则用特殊值代替，例如所有视频的id总和+1)，然后将样本中要预测的视频id和历史交互视频id序列进行attention得到历史交互序列的权重，然后对历史交互的embedding加权得到当前用户的行为表达，然后将这个行为表达和1)中生成的高阶交叉特征进行拼接作为多任务框架中专家网络的输入；
步骤5：为底层共享网络设计权重衰减结构，步骤4中attention只考虑了待预测视频和历史序列视频之间的相似度的度量，丢失了历史序列中视频的位置以及交互时间的信息，因为用户的兴趣偏好是随着时间不断变化的，因此不同的时期交互的视频对于当前用户的影响权重也是有变化的，因此对步骤4中attention对于历史视频序列权重进行衰减：
Figure BDA0003281746820000032
scores＝softmax(dnn(q,k,q-k,q*k)*decay)
attentionoutput＝scores*feed_histemb
其中α是衰减系数，T是当前待预测视频的时间，t是历史序列中视频的时间，q是视频id的embedding，k是历史序列视频id的embedding，dnn是一个全连接层网络，feed_histemb是历史序列视频的embedding。
步骤6：为了能够更好的训练网络，因此对网络中id的embedding层进行预热初始化。首先按照用户id对视频id进行分组，然后将每一组视作一个“文本”，通过计算“文本”中每个视频id的tfidf值，得到每个用户的一个表达，然后对其进行svd分解降维，降维后的用户表达作为网络中用户id的embedding层的初始化，同理按照视频id对用户id进行分组以及按照视频作者id对用户id进行分组，分别得到视频id和视频作者id的表达，并对其网络中的embedding层进行初始化，其中tfidf的计算方式如下：
Figure BDA0003281746820000041
Figure BDA0003281746820000042
TFIDFi,j＝TFi,j*IDFi,j
同理，按照视频id对用户id进行分组，得到视频id的表达C：
Figure BDA0003281746820000043
Figure BDA0003281746820000044
TFIDFi,j＝TFi,j*IDFi,j
同理，按照视频作者id对用户id进行分组，得到视频作者id的表达D：
Figure BDA0003281746820000045
Figure BDA0003281746820000046
TFIDFi,j＝TFi,j*IDFi,j
最后用得到的用户id表达，视频id表达和视频作者id表达对网络中的embedding层进行预热初始化。
最后用得到的用户id表达，视频id表达和视频作者id表达对网络中的embedding层进行预热初始化。
步骤7：神经网络训练,将步骤1获得的数据集批量输入神经网络，将标签作为监督信息，采用交叉熵计算每个目标子任务的损失，然后通过步骤3的加权方式对每个子任务的损失加权，然后使用梯度下降的策略训练神经网络，在多次迭代过程后，获得具备基于用户行为序列预测在目标视频上(是否点赞、是否点击头像、是否转发、是否收藏、是否发表评论、是否关注)这六个目标的神经网络，最后通过预测每个用户对视频在这六个的目标上的值，然后根据每个目标的重要度计算得分，然后根据得分进行排序，对视频进行推荐。
本发明采用的上述技术具备以下有益效果：
1.本发明在步骤2采用的多任务框架，避免了为每个子目标单独训练一个模型，同时多任务的框架不仅仅减少了单任务所导致的模型间的冗余，并且通过底层的共享以及专家网络的学习不同子任务之间的信息得到了互补，相比单任务在性能表现上也有所提升。并且步骤3中设计的动态权重加权方式也保证了多个子任务能够以相近的速度学习，最后收敛能够达到最优的效果；
2.本发明在步骤4设计的attention结构，通过结合待预测视频和用户的历史视频序列来生成更加准确的用户表达，保证在面对不同的视频时能够生成不同的用户行为表达，同时步骤5中设计的权重衰减结构兼顾了视频的位置和时间，进一步提升了模型的性能；
3.本发明在步骤6采用的embedding预热的方式通过构造不同用户和其交互视频、视频作者之间的关系，并计算tfidf生成用户、视频和视频作者的表达，用来初始化网络中对应的embedding层，加快网络收敛的同时也提升性能表现。
附图说明
图1为模型框架图。
具体实施方式
本发明实施提出了一种基于行为序列的多目标视频推荐方法，基于用户的行为序列(即用户交互了哪些视频，而不需要视频的具体内容)预测用户对于(是否点赞、是否点击头像、是否转发、是否收藏、是否发表评论、是否关注)这六个目标上的交互情况。
本发明主要流程包括：1)准备数据集；2)多任务框架的修改与设计；3)多任务训练优化的权重设计；4)网络结构设计；5)设计权重衰减结构；6)网络中的embedding层的预热初始化；7)神经网络的训练，具体实现步骤如下：
一、准备数据集
准备数据集，每个样本包括用户的id，交互过的视频id、视频的作者id、交互日期、背景音乐的id、背景音乐的作者id和用户在这条视频上(是否点赞、是否点击头像、是否转发、是否收藏、是否发表评论、是否关注)这六个目标上的交互情况；
二、多任务框架的修改与设计
采用MMoE(Multi-gate Mixture-of-Experts)的多任务框架，底层部分为共享网络部分，然后底层共享网络的输出作为多个专家网络的输入，每个专家网络使用多层的全连接层，然后为每个子任务生成一个query查询向量，然后和专家网络的输出进行attention生成每个子任务的输入，最后将子任务的输入传入到每个子任务的tower层，完成每个子任务相应的损失计算，其中attention的计算放方式如下：
scores＝softmax((expertout*Wkey)*query)
towerinput＝scores*(expertoux*Wvalue)
其中expertout表示专家层的输出，Wkey和Wvalue都是需要学习的参数，分别用于生成attention中key和value向量，query是为每个任务生成的向量，也是需要学习的参数。
三、多任务训练的权重优化
对步骤2中多任务框架中的顶层tower层计算的子任务loss进行加权优化，因为不同子任务的学习难度不同，同时不同子任务的正负样本比例也不一样，例如点赞的正样本比例可能会远大于发表评论等其他的正样本比例，因此子任务之间学习收敛速度也会不同，因此通过采用动态加权平均(Dynamic Weight Averaging)的方法，同时考虑不同子任务的loss情况以及训练速度，保证各个子任务能够以相近的速度进行学习，保证最终每个子任务都能达到最优，动态权重的计算方式如下：
Figure BDA0003281746820000061
Figure BDA0003281746820000062
其中，wi(t)表示任务i在t步时权重，Ln(t-1)和rn(t-1)分别表示任务n在t-1步时的loss和训练速度，r越小，训练速度越快，N表示子任务的数量，T是一个常数。
四、底层共享网络结构设计
步骤2中的底层共享网络部分采用DNN+Attention的结构，首先是embedding层将离散的id特征映射到低维的向量空间，然后1)DNN部分(3层的全连接层)对映射后的embedding向量生成高阶交叉的特征，2)Attention部分，先通过固定大小L的滑动窗口按照交互日期为每个样本生成序列长度为L的历史交互视频id序列(具体做法是根据用户id进行分组，然后每组根据样本的交互日期排序，对于每个样本选择前L个交互过的视频id生成当前样本的历史交互序列，不足的则用特殊值代替，例如所有视频的id总和+1)，然后将样本中要预测的视频id和历史交互视频id序列进行attention得到历史交互序列的权重，再对历史交互的embedding加权得到当前用户的行为表达，然后将这个行为表达和1)中生成的高阶交叉特征进行拼接作为多任务框架中专家网络的输入；
五、设计权重衰减结构
为底层共享网络设计权重衰减结构，步骤4中attention只考虑了待预测视频和历史序列视频之间的相似度的度量，丢失了历史序列中视频的位置以及交互时间的信息，因为用户的兴趣偏好是随着时间不断变化的，因此不同的时期交互的视频对于当前用户的影响权重也是有变化的，因此对步骤4中attention对于历史视频序列权重进行衰减，加入衰减后的attention计算方式如下：
Figure BDA0003281746820000071
scores＝softmax(dnn(q,k,q-k,q*k)*decay)
attentionoutput＝scores*feed_histemb
其中α是衰减系数，T是当前待预测视频的时间，t是历史序列中视频的时间，q是视频id的embedding，k是历史序列视频id的embedding，dnn是一个全连接层网络，feed_histemb是历史序列视频的embedding。
六、网络中embedding层的预热初始化
好的参数初始化不仅能够加快模型的训练速度，也能够让模型收敛达到更好的效果，因此对网络模型中id的embedding层进行预热初始化，基于以下规则生成初始化参数：交互过相同视频的用户可能拥有着类似的兴趣爱好，以及被相同用户相互过的视频可能属于一类视频，以及视频的作者可能同属于一个视频领域。所以首先按照用户id对视频id进行分组，然后将每一组视作一个“文本”，通过计算“文本”中每个视频id的tfidf值，得到每个用户的一个表达，然后对其进行svd分解降维，降维后的用户表达作为网络中用户id的embedding层的初始化，同理按照视频id对用户id进行分组以及按照视频作者id对用户id进行分组，分别得到视频id和视频作者id的表达，并对其网络中的embedding层进行初始化，其中tfidf的计算方式如下：
Figure BDA0003281746820000081
Figure BDA0003281746820000082
TFIDFi,j＝TFi,j*IDFi,j
同理，按照视频id对用户id进行分组，得到视频id的表达C：
Figure BDA0003281746820000083
Figure BDA0003281746820000084
TFIDFi,j＝TFi,j*IDFi,j
同理，按照视频作者id对用户id进行分组，得到视频作者id的表达D：
Figure BDA0003281746820000085
Figure BDA0003281746820000086
TFIDFi,j＝TFi,j*IDFi,j
最后用得到的用户id表达，视频id表达和视频作者id表达对网络中的embedding层进行预热初始化。
七、神经网络的训练
神经网络训练,将步骤1获得的数据集批量输入神经网络，将标签作为监督信息，采用交叉熵计算每个目标子任务的损失，然后通过步骤3的加权方式对每个子任务的损失加权，然后使用梯度下降的策略训练神经网络，在多次迭代过程后，获得具备基于用户行为序列预测在目标视频上(是否点赞、是否点击头像、是否转发、是否收藏、是否发表评论、是否关注)这六个目标的神经网络。最后通过预测每个用户对视频在这六个的目标上的值，然后根据每个目标的重要度计算得分，然后根据得分进行排序，对视频进行推荐。

Claims (9)

1.一种基于深度学习的多目标视频推荐方法，其特征在于，包括以下步骤：
步骤1、准备包含用户在目标上的交互行为的数据集，所述数据集包含有id特征；
步骤2、多任务框架的修改与设计，通过对MMOE多任务框架中的gate层进行修改，采用attention的机制对多任务框架中专家网络的输出进行加权输出，能够得到每个任务更加清晰的特征向量，最后传入到每个子任务的tower层，完成每个子任务相应的损失计算；
步骤3、对步骤2得到的每个子任务的损失函数进行动态加权优化，使得各个子任务能够以相近的速度进行学习，保证最终每个子任务都能达到最优；
步骤4、底层共享网络结构设计，先通过固定大小L的滑动窗口按照交互日期为每个样本生成序列长度为L的历史交互视频id序列，将样本中待预测视频的id和历史交互视频的id序列进行attention得到历史交互序列的权重；
步骤5、设计权重衰减结构，对步骤4中attention得到的历史交互序列的权重进行衰减，用于步骤7的神经网络的训练；
步骤6、网络中的embedding层的预热初始化，生成初始化参数；
步骤7、根据初始化参数进行神经网络的训练，得到用于预测每个用户在视频上的每个交互行为情况的可能性，根据每个交互行为情况的重要度计算得分，然后根据得分进行排序，根据排序对视频进行推荐。
2.根据权利要求1所述的一种基于深度学习的多目标视频推荐方法，其特征在于，步骤2具体包括以下步骤：
采用MMoE的多任务框架，多任务框架的底层部分为底层共享网络，然后底层共享网络的输出作为多个专家网络的输入(多个专家网络是为了增加模型中特征的多样性，学到的不同特征对于不同任务的影响程度不同。)，每个专家网络使用多层的全连接层，然后为每个子任务生成一个query查询向量，然后和专家网络的输出进行attention生成每个子任务的输入，最后将子任务的输入传入到每个子任务的tower层，完成每个子任务相应的损失计算，其中attention的计算放方式如下：
scores＝softmax((expertout*Wkey)*query)
towerinput＝scores*(expertout*Wvalue)
其中expertout表示专家层的输出，Wkey和Wvalue都是需要学习的参数，分别用于生成attention中key和value向量，query是为每个任务生成的向量，也是需要学习的参数。
3.根据权利要求1所述的一种基于深度学习的多目标视频推荐方法，其特征在于，步骤3具体包括以下步骤：
对步骤2中多任务框架中的顶层rower层计算的子任务loss进行加权优化，通过采用动态加权平均的方法，同时考虑不同子任务的loss情况以及训练速度，保证各个子任务能够以相近的速度进行学习，保证最终每个子任务都能达到最优，动态权重的计算方式如下：
Figure FDA0003281746810000021
Figure FDA0003281746810000022
其中，wi(t)表示任务i在t步时权重，Ln(t-1)和rn(t-1)分别表示任务n在t-1步时的loss和训练速度，r越小，训练速度越快，N表示子任务的数量，T是一个常数。
4.根据权利要求1所述的一种基于深度学习的多目标视频推荐方法，其特征在于，步骤4具体包括：
步骤2中的底层共享网络部分采用DNN+Attention的结构，首先是embedding层将步骤1中的数据集中的离散的id特征映射到低维的向量空间，得到embedding向量，然后3层全连接层网络的DNN部分对embedding向量生成高阶交叉特征；
Attention部分，先通过固定大小L的滑动窗口按照交互日期为每个样本生成序列长度为L的历史交互视频id序列(具体做法是根据用户id进行分组，然后每组根据样本的交互日期排序，对于每个样本选择前L个交互过的视频id生成当前样本的历史交互序列，不足的则用特殊值代替，例如所有视频的id总和+1)，然后将样本中待预测视频的id和历史交互视频的id序列进行attention得到历史交互序列的权重，再对历史交互的权重加权得到当前用户的行为表达，然后将这个行为表达和高阶交叉特征进行拼接作为多任务框架中专家网络的输入。
5.根据权利要求1所述的一种基于深度学习的多目标视频推荐方法，其特征在于，步骤5中，对步骤4中attention得到的历史交互序列的权重进行衰减，加入衰减后的attention计算方式如下：
Figure FDA0003281746810000031
scores＝softmax(dnn(q，k，q-k，q*k)*decay)
attentionoutput＝scores*feed_histemb
其中α是衰减系数，T是当前待预测视频的时间，t是历史序列中视频的时间，q是视频id的embedding向量，k是历史序列视频id的embedding向量，dnn是一个全连接层网络，feed_histemb是历史序列视频的embedding向量。
6.根据权利要求1所述的一种基于深度学习的多目标视频推荐方法，其特征在于，步骤6具体包括，对网络模型中id的embedding层进行预热初始化，基于以下规则生成初始化参数：
首先按照用户id对视频id进行分组，然后将每一组视作一个“文本”，通过计算“文本”中每个视频id的tfidf值，得到向量作为每个用户的表达A，然后对表达A进行svd分解降维，得到降维后的用户表达B，降维后的用户表达B作为网络中用户id的embedding层的初始化，其中tfidf的计算方式如下：
Figure FDA0003281746810000032
Figure FDA0003281746810000033
同理，按照视频id对用户id进行分组，得到视频id的表达C：
Figure FDA0003281746810000034
Figure FDA0003281746810000041
同理，按照视频作者id对用户id进行分组，得到视频作者id的表达D：
Figure FDA0003281746810000042
Figure FDA0003281746810000043
最后用得到的用户id表达，视频id表达和视频作者id表达对网络中的embedding层进行预热初始化。
7.根据权利要求1所述的一种基于深度学习的多目标视频推荐方法，其特征在于，步骤7具体包括，神经网络训练,将步骤1获得的数据集批量输入神经网络，将交互行为作为标签用作监督信息，采用交叉熵计算每个目标子任务的损失，然后通过步骤3的加权方式对每个子任务的损失加权，然后使用梯度下降的策略训练神经网络，在多次迭代过程后，获得具备基于用户行为序列预测在目标视频上的交互行为的的神经网络，最后通过预测每个用户对视频在每个交互行为上的的值，值为1或者0，1代表预测存在该交互行为，0为预测不存在该交互行为，然后根据每个交互行为的重要度计算得分，然后根据得分进行排序，对视频进行推荐。
8.一种基于深度学习的多目标视频推荐装置，其特征在于，包括以模块：
数据集模块、准备包含用户在目标上的交互行为的数据集，所述数据集包含有id特征；
损失函数模块、多任务框架的修改与设计，通过对MMOE多任务框架中的gate层进行修改，采用attention的机制对多任务框架中专家网络的输出进行加权输出，能够得到每个任务更加清晰的特征向量，最后传入到每个子任务的tower层，完成每个子任务相应的损失计算；
动态加权模块、对步骤2得到的每个子任务的损失函数进行动态加权优化，使得各个子任务能够以相近的速度进行学习，保证最终每个子任务都能达到最优；
底层共享网络结构模块，先通过固定大小L的滑动窗口按照交互日期为每个样本生成序列长度为L的历史交互视频id序列，将样本中待预测视频的id和历史交互视频的id序列进行attention得到历史交互序列的权重；
权重衰减模块，对步骤4中attention得到的历史交互序列的权重进行衰减，用于步骤7的神经网络的训练；
预热模块，网络中的embedding层的预热初始化，生成初始化参数；
训练模块、根据初始化参数进行神经网络的训练，得到用于预测每个用户在视频上的每个交互行为情况的可能性，根据每个交互行为情况的重要度计算得分，然后根据得分进行排序，根据排序对视频进行推荐。
9.一种存储介质，其特征在于，所述存储介质存储有一种基于深度学习的多目标视频推荐的程序，处理器执行所述程序时实现如权利要求1-7任一所述的一种基于深度学习的多目标视频推荐方法。
CN202111134439.XA 2021-09-27 2021-09-27 基于深度学习的多目标视频推荐方法、装置及存储介质 Active CN113821682B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111134439.XA CN113821682B (zh) 2021-09-27 2021-09-27 基于深度学习的多目标视频推荐方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111134439.XA CN113821682B (zh) 2021-09-27 2021-09-27 基于深度学习的多目标视频推荐方法、装置及存储介质

Publications (2)

Publication Number Publication Date
CN113821682A true CN113821682A (zh) 2021-12-21
CN113821682B CN113821682B (zh) 2023-11-28

Family

ID=78915592

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111134439.XA Active CN113821682B (zh) 2021-09-27 2021-09-27 基于深度学习的多目标视频推荐方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN113821682B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114443896A (zh) * 2022-01-25 2022-05-06 百度在线网络技术（北京）有限公司 数据处理方法和用于训练预测模型的方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103020153A (zh) * 2012-11-23 2013-04-03 黄伟 一种基于视频的广告识别方法
CN108615011A (zh) * 2018-04-24 2018-10-02 东南大学 基于多尺度滑动窗口的非修剪视频行为识别预测方法
CN111246256A (zh) * 2020-02-21 2020-06-05 华南理工大学 基于多模态视频内容和多任务学习的视频推荐方法
CN112579823A (zh) * 2020-12-28 2021-03-30 山东师范大学 基于特征融合和增量滑动窗口的视频摘要生成方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103020153A (zh) * 2012-11-23 2013-04-03 黄伟 一种基于视频的广告识别方法
CN108615011A (zh) * 2018-04-24 2018-10-02 东南大学 基于多尺度滑动窗口的非修剪视频行为识别预测方法
CN111246256A (zh) * 2020-02-21 2020-06-05 华南理工大学 基于多模态视频内容和多任务学习的视频推荐方法
CN112579823A (zh) * 2020-12-28 2021-03-30 山东师范大学 基于特征融合和增量滑动窗口的视频摘要生成方法及系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114443896A (zh) * 2022-01-25 2022-05-06 百度在线网络技术（北京）有限公司 数据处理方法和用于训练预测模型的方法
CN114443896B (zh) * 2022-01-25 2023-09-15 百度在线网络技术（北京）有限公司 数据处理方法和用于训练预测模型的方法

Also Published As

Publication number Publication date
CN113821682B (zh) 2023-11-28

Similar Documents

Publication Publication Date Title
CN110955826B (zh) 基于改进型循环神经网络单元的推荐系统
CN110674979B (zh) 风险预测模型的训练方法、预测方法及装置、介质和设备
CN108647251A (zh) 基于宽深度门循环联合模型的推荐排序方法
CN111932336A (zh) 一种基于长短期兴趣偏好的商品列表推荐方法
Shen et al. A voice of the customer real-time strategy: An integrated quality function deployment approach
CN111950593A (zh) 一种推荐模型训练的方法及装置
CN112508613A (zh) 一种商品推荐方法、装置、电子设备和可读存储介质
CN111242748A (zh) 用于向用户推荐项目的方法、装置和存储介质
CN110175895A (zh) 一种物品推荐方法及装置
Wang A survey of online advertising click-through rate prediction models
CN113190751B (zh) 一种融合关键词生成的推荐方法
CN111241394A (zh) 数据处理方法、装置、计算机可读存储介质及电子设备
CN112860998B (zh) 一种基于多任务学习机制的点击率预估方法
CN115860870A (zh) 一种商品推荐方法、系统、装置及可读介质
Ben-Shimon et al. An ensemble method for top-N recommendations from the SVD
Chen et al. Session-based recommendation: Learning multi-dimension interests via a multi-head attention graph neural network
CN117009650A (zh) 一种推荐方法以及装置
CN113821682A (zh) 基于深度学习的多目标视频推荐方法、装置及存储介质
Pang et al. Efficient deep reinforcement learning-enabled recommendation
CN113836393B (zh) 基于偏好自适应元学习的冷启动推荐方法
CN114529077A (zh) 一种基于会话内异构行为的点击率预测方法
CN114358807A (zh) 基于可预测用户特征属性的用户画像方法及系统
CN108491477A (zh) 基于多维云和用户动态兴趣的神经网络推荐方法
CN116955805A (zh) 业务目标预测模型的训练方法、信息推荐方法及相关装置
CN116484092A (zh) 基于用户长短期偏好的分层注意力网络序列推荐方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant