CN116610872A - 新闻推荐模型的训练方法及装置 - Google Patents

新闻推荐模型的训练方法及装置 Download PDF

Info

Publication number
CN116610872A
CN116610872A CN202310884709.1A CN202310884709A CN116610872A CN 116610872 A CN116610872 A CN 116610872A CN 202310884709 A CN202310884709 A CN 202310884709A CN 116610872 A CN116610872 A CN 116610872A
Authority
CN
China
Prior art keywords
user
news
network
information
feedback
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310884709.1A
Other languages
English (en)
Other versions
CN116610872B (zh
Inventor
王芳
董辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Xumi Yuntu Space Technology Co Ltd
Original Assignee
Shenzhen Xumi Yuntu Space Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Xumi Yuntu Space Technology Co Ltd filed Critical Shenzhen Xumi Yuntu Space Technology Co Ltd
Priority to CN202310884709.1A priority Critical patent/CN116610872B/zh
Publication of CN116610872A publication Critical patent/CN116610872A/zh
Application granted granted Critical
Publication of CN116610872B publication Critical patent/CN116610872B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9535—Search customisation based on user profiles and personalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/092—Reinforcement learning
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computational Linguistics (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请涉及信息处理技术领域，提供了一种新闻推荐模型的训练方法及装置。该方法包括：构建信息表征网络，利用信息表征网络和深度神经网络构建新闻推荐网络；利用应用程序编程接口和卷积神经网络构建在线学习网络；构建新闻融合网络，利用新闻推荐网络、新闻融合网络和在线学习网络构建新闻推荐模型；利用训练数据对新闻推荐模型进行监督学习训练，其中，训练数据包含多个用户的用户信息以及每个用户对应的标签；在利用监督学习训练后的新闻推荐模型为不同用户推荐新闻的过程中，利用在线学习网络收集并处理各个用户对新闻推荐模型提供的推荐结果的反馈，依据在线学习网络处理各个用户的反馈的结果对新闻推荐模型进行强化学习训练。

Description

新闻推荐模型的训练方法及装置
技术领域
本申请涉及信息处理技术领域，尤其涉及一种新闻推荐模型的训练方法及装置。
背景技术
在信息化时代，各种各样的信息围绕着我们，等着我们去接受。股票信息、娱乐新闻、体育新闻等形形色色的信息五花八门，如此多的信息对用户来说，更愿意把时间花在感兴趣的领域。因此，需要结合推荐系统能力，来为用户提供个性化的新闻推荐，帮助用户快速找到感兴趣的新闻。在现有的推荐系统中，更多的还是基于已有的内容（比如用户搜索记录），结合用户与内容的偏好匹配度，为用户推荐可能感兴趣的新闻。这种方法存在推荐新闻质量参差不齐，以及推荐重复或相似的内容。
发明内容
有鉴于此，本申请实施例提供了一种新闻推荐模型的训练方法、装置、电子设备及计算机可读存储介质，以解决现有技术中，推荐新闻质量参差不齐，以及推荐重复或相似的新闻的问题。
本申请实施例的第一方面，提供了一种新闻推荐模型的训练方法，包括：构建信息表征网络，利用信息表征网络和深度神经网络构建新闻推荐网络；利用应用程序编程接口和卷积神经网络构建在线学习网络；构建新闻融合网络，利用新闻推荐网络、新闻融合网络和在线学习网络构建新闻推荐模型；获取训练数据，利用训练数据对新闻推荐模型进行监督学习训练，其中，训练数据包含多个用户的用户信息以及每个用户对应的标签；在利用监督学习训练后的新闻推荐模型为不同用户推荐新闻的过程中，利用在线学习网络收集并处理各个用户对新闻推荐模型提供的推荐结果的反馈，依据在线学习网络处理各个用户的反馈的结果对新闻推荐模型进行强化学习训练。
本申请实施例的第二方面，提供了一种新闻推荐模型的训练装置，包括：构建模块，被配置为构建信息表征网络和在线学习网络，利用信息表征网络、大语言模型和在线学习网络构建新闻推荐模型；第一训练模块，被配置为获取训练数据，将训练数据中的用户信息输入新闻推荐模型：利用信息表征网络处理用户信息，得到用户特征表征，利用大语言模型处理用户特征表征，得到用户信息对应的推荐结果，依据用户信息对应的推荐结果和标签对新闻推荐模型进行监督学习训练；第二训练模块，被配置为在利用监督学习训练后的新闻推荐模型为不同用户推荐新闻的过程中，利用在线学习网络收集并处理各个用户对新闻推荐模型提供的推荐结果的反馈，依据在线学习网络处理各个用户的反馈的结果对新闻推荐模型进行强化学习训练。
本申请实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。
本申请实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。
本申请实施例与现有技术相比存在的有益效果是：因为本申请实施例通过构建信息表征网络，利用信息表征网络和深度神经网络构建新闻推荐网络；利用应用程序编程接口和卷积神经网络构建在线学习网络；构建新闻融合网络，利用新闻推荐网络、新闻融合网络和在线学习网络构建新闻推荐模型；获取训练数据，利用训练数据对新闻推荐模型进行监督学习训练，其中，训练数据包含多个用户的用户信息以及每个用户对应的标签；在利用监督学习训练后的新闻推荐模型为不同用户推荐新闻的过程中，利用在线学习网络收集并处理各个用户对新闻推荐模型提供的推荐结果的反馈，依据在线学习网络处理各个用户的反馈的结果对新闻推荐模型进行强化学习训练，因此，采用上述技术手段，可以解决现有技术中，推荐新闻质量参差不齐，以及推荐重复或相似的新闻的问题，进而提高推荐新闻质量，避免推荐重复或相似的新闻。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
图1是本申请实施例提供的一种新闻推荐模型的训练方法的流程示意图；
图2是本申请实施例提供的一种用户信息的表征方法的流程示意图；
图3是本申请实施例提供的一种新闻推荐模型的训练装置的结构示意图；
图4是本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
图1是本申请实施例提供的一种新闻推荐模型的训练方法的流程示意图。图1的新闻推荐模型的训练方法可以由计算机或服务器，或者计算机或服务器上的软件执行。如图1所示，该新闻推荐模型的训练方法包括：
S101，构建信息表征网络，利用信息表征网络和深度神经网络构建新闻推荐网络；
S102，利用应用程序编程接口和卷积神经网络构建在线学习网络；
S103，构建新闻融合网络，利用新闻推荐网络、新闻融合网络和在线学习网络构建新闻推荐模型；
S104，获取训练数据，利用训练数据对新闻推荐模型进行监督学习训练，其中，训练数据包含多个用户的用户信息以及每个用户对应的标签；
S105，在利用监督学习训练后的新闻推荐模型为不同用户推荐新闻的过程中，利用在线学习网络收集并处理各个用户对新闻推荐模型提供的推荐结果的反馈，依据在线学习网络处理各个用户的反馈的结果对新闻推荐模型进行强化学习训练。
依次连接信息表征网络和深度神经网络，得到新闻推荐网络；依次连接应用程序编程接口和卷积神经网络，得到在线学习网络；依次连接新闻推荐网络、新闻融合网络和在线学习网络，得到新闻推荐模型。无论是对新闻推荐模型进行监督学习训练，还是对新闻推荐模型进行强化学习训练，新闻推荐模型内部的三个网络部分均是参与更新的，对于在线学习网络是更新其内部的卷积神经网络，其内部的应用程序编程接口是不用更新的。训练数据中的一个用户的用户信息就是一个训练样本，训练数据中包含大量的训练样本。
根据本申请实施例提供的技术方案，构建信息表征网络，利用信息表征网络和深度神经网络构建新闻推荐网络；利用应用程序编程接口和卷积神经网络构建在线学习网络；构建新闻融合网络，利用新闻推荐网络、新闻融合网络和在线学习网络构建新闻推荐模型；获取训练数据，利用训练数据对新闻推荐模型进行监督学习训练，其中，训练数据包含多个用户的用户信息以及每个用户对应的标签；在利用监督学习训练后的新闻推荐模型为不同用户推荐新闻的过程中，利用在线学习网络收集并处理各个用户对新闻推荐模型提供的推荐结果的反馈，依据在线学习网络处理各个用户的反馈的结果对新闻推荐模型进行强化学习训练，因此，采用上述技术手段，可以解决现有技术中，推荐新闻质量参差不齐，以及推荐重复或相似的新闻的问题，进而提高推荐新闻质量，避免推荐重复或相似的新闻。
进一步地，利用训练数据对新闻推荐模型进行监督学习训练，包括：将训练数据中各个用户的用户信息输入新闻推荐模型：通过新闻推荐网络处理各个用户的用户信息，以确定各个用户对应的新闻推荐列表；通过新闻融合网络处理各个用户对应的新闻推荐列表，以确定各个用户对应的推荐结果；利用交叉熵损失函数计算各个用户对应的推荐结果和标签之间的损失值；依据损失值更新新闻推荐模型的参数，以完成对新闻推荐模型进行的监督学习训练。
需要说明的是，监督学习训练中，虽然在线学习网络没有参与计算，但是更新新闻推荐模型的参数时是更新在线学习网络内部的卷积神经网络的参数的。卷积神经网络在监督学习训练中学习到的内容，用于辅助卷积神经网络处理各个用户对新闻推荐模型提供的推荐结果的反馈。各个用户的反馈和新闻推荐模型提供的推荐结果是相关的，新闻推荐模型提供的推荐结果和监督学习训练相关，所以本申请实施例在监督学习训练中更新卷积神经网络的参数。
进一步地，通过新闻推荐网络处理各个用户的用户信息，以确定各个用户对应的新闻推荐列表，包括：通过信息表征网络处理训练数据中各个用户的用户信息，得到各个用户的用户特征表征；通过深度神经网络处理各个用户的用户特征表征，确定各个用户对应的新闻推荐列表。
深度神经网络经过监督学习训练，学习并保存有用户特征表征到新闻推荐列表的对应关系。
图2是本申请实施例提供的一种用户信息的表征方法的流程示意图。如图2所示，包括：
对于每个用户：
S201，将该用户的用户信息划分为用户离散信息、用户连续信息和搜索词历史信息，用户信息，包括：用户个人信息、用户历史记录、用户上下文信息；
S202，对用户连续信息进行离散化处理，并分别对用户离散信息和离散化处理后的用户连续信息进行独热编码，得到离散特征表征和连续特征表征；
S203，利用双向编码器对搜索词历史信息进行处理，得到历史特征表征；
S204，对离散特征表征、连续特征表征和历史特征表征进行特征拼接处理，得到该用户的用户特征表征。
本申请实施例是从算法侧介绍的信息表征网络内部处理用户信息的过程，相对应上述算法的四个步骤，信息表征网络内部结构依次包括：信息划分层、独热编码层、双向编码层和特征拼接层。
用户个人信息是用户的年龄、性别、爱好等信息，用户历史记录是阅览新闻的记录以及使用过的搜索词等信息，用户上下文信息是用户当前场景信息，包含此时的时间、使用设备的操作系统类型、正在浏览的页面，用户所处位置等（比如用户是早晨阅读新闻，则推荐昨天晚上的新闻；用户是晚上在家阅读新闻，则推荐娱乐方面的新闻等）。
用户连续信息是关于数字的信息，用户离散信息是关于非数字的信息，搜索词历史信息是用户使用过的搜索词。将用户个人信息、用户历史记录、用户上下文信息划分为用户离散信息、用户连续信息和搜索词历史信息。比如用户A，其用户离散信息为：男，B地区人，喜欢军事题材的新闻，此时处于家中等；其用户连续信息为：23岁，阅览某篇新闻的次数，此时时间是8点钟等；搜索词历史信息为：“最近军事新闻”，“目标商品发布时间”。用户个人信息、用户历史记录、用户上下文信息均包含用户离散信息和用户连续信息，搜索词历史信息只能来源于用户历史记录。
独热编码即 One-Hot 编码，双向编码器是Bert模型中的双向编码器，BERT英文全称是Bidirectional EncoderRepresentations from Transformers。
进一步地，通过新闻融合网络处理各个用户对应的新闻推荐列表，以确定各个用户对应的推荐结果，包括：对于每个用户：计算该用户对应的新闻推荐列表中任意两条新闻的余弦相似度；将余弦相似度大于预设阈值的两条新闻进行文本融合，得到该两条新闻对应的新的新闻；将文本融合得到的新的新闻作为该用户对应的推荐结果。
本申请实施例是从算法侧介绍的新闻融合网络处理内部处理新闻推荐列表的过程，相对应上述算法的三个步骤，新闻融合网络内部结构依次包括：相似度计算层、文本融合层、确定层。
文本融合是将两条新闻中的一条新闻作为主体，将另一条新闻与该条新闻不同的信息添加到该条新闻之后，得到该两条新闻对应的新的新闻。
进一步地，利用在线学习网络收集并处理各个用户对新闻推荐模型提供的推荐结果的反馈，包括：通过应用程序编程接口，收集各个用户对新闻推荐模型提供的推荐结果的反馈；通过卷积神经网络处理各个用户对新闻推荐模型提供的推荐结果的反馈，得到各个用户的反馈对应的处理结果。
进一步地，通过卷积神经网络处理各个用户对新闻推荐模型提供的推荐结果的反馈，得到各个用户的反馈对应的处理结果，包括：判断各个用户对新闻推荐模型提供的推荐结果的反馈是否为正反馈或负反馈；当反馈为正反馈时，确定正反馈的级别，其中，正反馈包括一级正反馈、二级正反馈和三级正反馈三种级别；当反馈为负反馈时，确定负反馈的级别，其中，负反馈包括一级负反馈、二级负反馈和三级负反馈三种级别；其中，正反馈和负反馈的级别与强化学习训练中的奖励相关。
正反馈是用户满意推荐结果，负反馈是用户不满意推荐结果。
正反馈包括一级正反馈、二级正反馈和三级正反馈，比如用户反馈中存在点赞行为，则判定该反馈为一级正反馈，此时奖励的级别是最低的正奖励；用户反馈中存在浏览推荐结果的时长大于预设时长，则判定该反馈为二级正反馈，此时奖励的级别是中等的正奖励；用户反馈中存在用户基于推荐结果进行多次搜索的行为，则判定该反馈为三级正反馈，此时奖励的级别是最高的正奖励。
负反馈包括一级负反馈、二级负反馈和三级负反馈，比如用户反馈中存在点踩行为，则判定该反馈为一级负反馈，此时奖励的级别是最低的负奖励；用户反馈中删除推荐结果的行为，则判定该反馈为二级负反馈，此时奖励的级别是中等的负奖励；用户反馈中存在用户表示推荐结果完全不合适的行为，则判定该反馈为三级负反馈，此时奖励的级别是最高的负奖励。
进一步地，依据在线学习网络处理各个用户的反馈的结果对新闻推荐模型进行强化学习训练，包括：将在线学习网络处理各个用户的反馈的结果作为将该用户的用户信息输入搜索词推荐模型并且输出该用户对应的推荐结果时的奖励；依据每个用户对应的奖励更新搜索词推荐模型的参数，以完成对搜索词推荐模型进行的强化学习训练。
也就是将一个用户的用户信息输入搜索词推荐模型，输出该用户对应的推荐结果，此时的奖励是在线学习网络处理该用户的反馈的结果（还可以理解为此时的奖励和在线学习网络处理该用户的反馈的结果的相关）。强化学习训练的方法为常用方法，不再赘述。
上述所有可选技术方案，可以采用任意结合形成本申请的可选实施例，在此不再一一赘述。
下述为本申请装置实施例，可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节，请参照本申请方法实施例。
图3是本申请实施例提供的一种新闻推荐模型的训练装置的示意图。如图3所示，该新闻推荐模型的训练装置包括：
第一构建模块301，被配置为构建信息表征网络，利用信息表征网络和深度神经网络构建新闻推荐网络；
第二构建模块302，被配置为利用应用程序编程接口和卷积神经网络构建在线学习网络；
第三构建模块303，被配置为构建新闻融合网络，利用新闻推荐网络、新闻融合网络和在线学习网络构建新闻推荐模型；
第一训练模块304，被配置为获取训练数据，利用训练数据对新闻推荐模型进行监督学习训练，其中，训练数据包含多个用户的用户信息以及每个用户对应的标签；
第二训练模块305，被配置为在利用监督学习训练后的新闻推荐模型为不同用户推荐新闻的过程中，利用在线学习网络收集并处理各个用户对新闻推荐模型提供的推荐结果的反馈，依据在线学习网络处理各个用户的反馈的结果对新闻推荐模型进行强化学习训练。
根据本申请实施例提供的技术方案，构建信息表征网络，利用信息表征网络和深度神经网络构建新闻推荐网络；利用应用程序编程接口和卷积神经网络构建在线学习网络；构建新闻融合网络，利用新闻推荐网络、新闻融合网络和在线学习网络构建新闻推荐模型；获取训练数据，利用训练数据对新闻推荐模型进行监督学习训练，其中，训练数据包含多个用户的用户信息以及每个用户对应的标签；在利用监督学习训练后的新闻推荐模型为不同用户推荐新闻的过程中，利用在线学习网络收集并处理各个用户对新闻推荐模型提供的推荐结果的反馈，依据在线学习网络处理各个用户的反馈的结果对新闻推荐模型进行强化学习训练，因此，采用上述技术手段，可以解决现有技术中，推荐新闻质量参差不齐，以及推荐重复或相似的新闻的问题，进而提高推荐新闻质量，避免推荐重复或相似的新闻。
可选地，第一训练模块304还被配置为将训练数据中各个用户的用户信息输入新闻推荐模型：通过新闻推荐网络处理各个用户的用户信息，以确定各个用户对应的新闻推荐列表；通过新闻融合网络处理各个用户对应的新闻推荐列表，以确定各个用户对应的推荐结果；利用交叉熵损失函数计算各个用户对应的推荐结果和标签之间的损失值；依据损失值更新新闻推荐模型的参数，以完成对新闻推荐模型进行的监督学习训练。
可选地，第一训练模块304还被配置为通过信息表征网络处理训练数据中各个用户的用户信息，得到各个用户的用户特征表征；通过深度神经网络处理各个用户的用户特征表征，确定各个用户对应的新闻推荐列表。
可选地，第一训练模块304还被配置为将该用户的用户信息划分为用户离散信息、用户连续信息和搜索词历史信息，用户信息，包括：用户个人信息、用户历史记录、用户上下文信息；对用户连续信息进行离散化处理，并分别对用户离散信息和离散化处理后的用户连续信息进行独热编码，得到离散特征表征和连续特征表征；利用双向编码器对搜索词历史信息进行处理，得到历史特征表征；对离散特征表征、连续特征表征和历史特征表征进行特征拼接处理，得到该用户的用户特征表征。
可选地，第一训练模块304还被配置为对于每个用户：计算该用户对应的新闻推荐列表中任意两条新闻的余弦相似度；将余弦相似度大于预设阈值的两条新闻进行文本融合，得到该两条新闻对应的新的新闻；将文本融合得到的新的新闻作为该用户对应的推荐结果。
可选地，第二训练模块305还被配置为通过应用程序编程接口，收集各个用户对新闻推荐模型提供的推荐结果的反馈；通过卷积神经网络处理各个用户对新闻推荐模型提供的推荐结果的反馈，得到各个用户的反馈对应的处理结果。
可选地，第二训练模块305还被配置为判断各个用户对新闻推荐模型提供的推荐结果的反馈是否为正反馈或负反馈；当反馈为正反馈时，确定正反馈的级别，其中，正反馈包括一级正反馈、二级正反馈和三级正反馈三种级别；当反馈为负反馈时，确定负反馈的级别，其中，负反馈包括一级负反馈、二级负反馈和三级负反馈三种级别；其中，正反馈和负反馈的级别与强化学习训练中的奖励相关。
可选地，第二训练模块305还被配置为将在线学习网络处理各个用户的反馈的结果作为将该用户的用户信息输入搜索词推荐模型并且输出该用户对应的推荐结果时的奖励；依据每个用户对应的奖励更新搜索词推荐模型的参数，以完成对搜索词推荐模型进行的强化学习训练。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
图4是本申请实施例提供的电子设备4的示意图。如图4所示，该实施例的电子设备4包括：处理器401、存储器402以及存储在该存储器402中并且可在处理器401上运行的计算机程序403。处理器401执行计算机程序403时实现上述各个方法实施例中的步骤。或者，处理器401执行计算机程序403时实现上述各装置实施例中各模块/单元的功能。
电子设备4可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备4可以包括但不仅限于处理器401和存储器402。本领域技术人员可以理解，图4仅仅是电子设备4的示例，并不构成对电子设备4的限定，可以包括比图示更多或更少的部件，或者不同的部件。
处理器401可以是中央处理单元（Central Processing Unit，CPU），也可以是其它通用处理器、数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application SpecificIntegrated Circuit，ASIC）、现场可编程门阵列（Field-Programmable Gate Array，FPGA）或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。
存储器402可以是电子设备4的内部存储单元，例如，电子设备4的硬盘或内存。存储器402也可以是电子设备4的外部存储设备，例如，电子设备4上配备的插接式硬盘，智能存储卡（Smart Media Card，SMC），安全数字（Secure Digital，SD）卡，闪存卡（Flash Card）等。存储器402还可以既包括电子设备4的内部存储单元也包括外部存储设备。存储器402用于存储计算机程序以及电子设备所需的其它程序和数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在计算机可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（Read-Only Memory，ROM）、随机存取存储器（Random Access Memory，RAM）、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如，在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种新闻推荐模型的训练方法，其特征在于，包括：
构建信息表征网络，利用所述信息表征网络和深度神经网络构建新闻推荐网络；
利用应用程序编程接口和卷积神经网络构建在线学习网络；
构建新闻融合网络，利用所述新闻推荐网络、所述新闻融合网络和所述在线学习网络构建新闻推荐模型；
获取训练数据，利用所述训练数据对所述新闻推荐模型进行监督学习训练，其中，所述训练数据包含多个用户的用户信息以及每个用户对应的标签；
在利用所述监督学习训练后的新闻推荐模型为不同用户推荐新闻的过程中，利用所述在线学习网络收集并处理各个用户对所述新闻推荐模型提供的推荐结果的反馈，依据所述在线学习网络处理各个用户的反馈的结果对所述新闻推荐模型进行强化学习训练。
2.根据权利要求1所述的方法，其特征在于，利用所述训练数据对所述新闻推荐模型进行监督学习训练，包括：
将所述训练数据中各个用户的用户信息输入所述新闻推荐模型：
通过所述新闻推荐网络处理各个用户的用户信息，以确定各个用户对应的新闻推荐列表；
通过所述新闻融合网络处理各个用户对应的新闻推荐列表，以确定各个用户对应的推荐结果；
利用交叉熵损失函数计算各个用户对应的推荐结果和标签之间的损失值；
依据所述损失值更新所述新闻推荐模型的参数，以完成对所述新闻推荐模型进行的所述监督学习训练。
3.根据权利要求2所述的方法，其特征在于，通过所述新闻推荐网络处理各个用户的用户信息，以确定各个用户对应的新闻推荐列表，包括：
通过所述信息表征网络处理所述训练数据中各个用户的用户信息，得到各个用户的用户特征表征；
通过所述深度神经网络处理各个用户的用户特征表征，确定各个用户对应的新闻推荐列表。
4.根据权利要求3所述的方法，其特征在于，通过所述信息表征网络处理所述训练数据中各个用户的用户信息，得到各个用户的用户特征表征，包括：
对于每个用户：
将该用户的用户信息划分为用户离散信息、用户连续信息和搜索词历史信息，所述用户信息，包括：用户个人信息、用户历史记录、用户上下文信息；
对所述用户连续信息进行离散化处理，并分别对所述用户离散信息和所述离散化处理后的用户连续信息进行独热编码，得到离散特征表征和连续特征表征；
利用双向编码器对所述搜索词历史信息进行处理，得到历史特征表征；
对所述离散特征表征、所述连续特征表征和所述历史特征表征进行特征拼接处理，得到该用户的用户特征表征。
5.根据权利要求2所述的方法，其特征在于，通过所述新闻融合网络处理各个用户对应的新闻推荐列表，以确定各个用户对应的推荐结果，包括：
对于每个用户：
计算该用户对应的新闻推荐列表中任意两条新闻的余弦相似度；
将所述余弦相似度大于预设阈值的两条新闻进行文本融合，得到该两条新闻对应的新的新闻；
将所述文本融合得到的新的新闻作为该用户对应的推荐结果。
6.根据权利要求1所述的方法，其特征在于，利用所述在线学习网络收集并处理各个用户对所述新闻推荐模型提供的推荐结果的反馈，包括：
通过所述应用程序编程接口，收集各个用户对所述新闻推荐模型提供的推荐结果的反馈；
通过所述卷积神经网络处理各个用户对所述新闻推荐模型提供的推荐结果的反馈，得到各个用户的反馈对应的处理结果。
7.根据权利要求6所述的方法，其特征在于，通过所述卷积神经网络处理各个用户对所述新闻推荐模型提供的推荐结果的反馈，得到各个用户的反馈对应的处理结果，包括：
判断各个用户对所述新闻推荐模型提供的推荐结果的反馈是否为正反馈或负反馈；
当所述反馈为所述正反馈时，确定所述正反馈的级别，其中，所述正反馈包括一级正反馈、二级正反馈和三级正反馈三种级别；
当所述反馈为所述负反馈时，确定所述负反馈的级别，其中，所述负反馈包括一级负反馈、二级负反馈和三级负反馈三种级别；
其中，所述正反馈和所述负反馈的级别与所述强化学习训练中的奖励相关。
8.一种新闻推荐模型的训练装置，其特征在于，包括：
第一构建模块，被配置为构建信息表征网络，利用所述信息表征网络和深度神经网络构建新闻推荐网络；
第二构建模块，被配置为利用应用程序编程接口和卷积神经网络构建在线学习网络；
第三构建模块，被配置为构建新闻融合网络，利用所述新闻推荐网络、所述新闻融合网络和所述在线学习网络构建新闻推荐模型；
第一训练模块，被配置为获取训练数据，利用所述训练数据对所述新闻推荐模型进行监督学习训练，其中，所述训练数据包含多个用户的用户信息以及每个用户对应的标签；
第二训练模块，被配置为在利用所述监督学习训练后的新闻推荐模型为不同用户推荐新闻的过程中，利用所述在线学习网络收集并处理各个用户对所述新闻推荐模型提供的推荐结果的反馈，依据所述在线学习网络处理各个用户的反馈的结果对所述新闻推荐模型进行强化学习训练。
9.一种电子设备，包括存储器、处理器以及存储在所述存储器中并且可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述方法的步骤。
CN202310884709.1A 2023-07-19 2023-07-19 新闻推荐模型的训练方法及装置 Active CN116610872B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310884709.1A CN116610872B (zh) 2023-07-19 2023-07-19 新闻推荐模型的训练方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310884709.1A CN116610872B (zh) 2023-07-19 2023-07-19 新闻推荐模型的训练方法及装置

Publications (2)

Publication Number Publication Date
CN116610872A true CN116610872A (zh) 2023-08-18
CN116610872B CN116610872B (zh) 2024-02-20

Family

ID=87676818

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310884709.1A Active CN116610872B (zh) 2023-07-19 2023-07-19 新闻推荐模型的训练方法及装置

Country Status (1)

Country Link
CN (1) CN116610872B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116910382A (zh) * 2023-09-12 2023-10-20 深圳须弥云图空间科技有限公司 一种基于提示学习增强的新闻推荐方法和装置

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030126136A1 (en) * 2001-06-22 2003-07-03 Nosa Omoigui System and method for knowledge retrieval, management, delivery and presentation
US20180260484A1 (en) * 2017-03-06 2018-09-13 Guangzhou Shenma Mobile Information Technology Co., Ltd. Method, Apparatus, and Device for Generating Hot News
KR20200021409A (ko) * 2018-08-20 2020-02-28 삼성전자주식회사 전자 장치 및 그 제어 방법
US20210109954A1 (en) * 2019-10-11 2021-04-15 S&P Global Deep learning-based two-phase clustering algorithm
US20210142387A1 (en) * 2019-11-08 2021-05-13 Microsoft Technology Licensing, Llc Adaptive rewarding for content personalization
CN113238588A (zh) * 2021-04-07 2021-08-10 深圳和而泰智能控制股份有限公司 一种摆臂同步控制方法与摆闸
US20210256403A1 (en) * 2018-11-09 2021-08-19 Huawei Technologies Co., Ltd. Recommendation method and apparatus
CN114202061A (zh) * 2021-12-01 2022-03-18 北京航空航天大学 基于生成对抗网络模型及深度强化学习的物品推荐方法、电子设备及介质
CN114265979A (zh) * 2021-12-17 2022-04-01 北京百度网讯科技有限公司 确定融合参数的方法、信息推荐方法和模型训练方法
US11475211B1 (en) * 2021-07-12 2022-10-18 International Business Machines Corporation Elucidated natural language artifact recombination with contextual awareness
US20220342945A1 (en) * 2021-04-23 2022-10-27 S&P Global Inc. Content-Free System and Method to Recommend News and Articles
CN115599990A (zh) * 2022-09-16 2023-01-13 清华大学（Cn） 一种知识感知结合深度强化学习的跨域推荐方法及系统
KR20230051995A (ko) * 2021-10-12 2023-04-19 주식회사 피씨엔 실감형 확장현실 콘텐츠 관리 플랫폼

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030126136A1 (en) * 2001-06-22 2003-07-03 Nosa Omoigui System and method for knowledge retrieval, management, delivery and presentation
US20180260484A1 (en) * 2017-03-06 2018-09-13 Guangzhou Shenma Mobile Information Technology Co., Ltd. Method, Apparatus, and Device for Generating Hot News
KR20200021409A (ko) * 2018-08-20 2020-02-28 삼성전자주식회사 전자 장치 및 그 제어 방법
US20210256403A1 (en) * 2018-11-09 2021-08-19 Huawei Technologies Co., Ltd. Recommendation method and apparatus
US20210109954A1 (en) * 2019-10-11 2021-04-15 S&P Global Deep learning-based two-phase clustering algorithm
US20210142387A1 (en) * 2019-11-08 2021-05-13 Microsoft Technology Licensing, Llc Adaptive rewarding for content personalization
CN113238588A (zh) * 2021-04-07 2021-08-10 深圳和而泰智能控制股份有限公司 一种摆臂同步控制方法与摆闸
US20220342945A1 (en) * 2021-04-23 2022-10-27 S&P Global Inc. Content-Free System and Method to Recommend News and Articles
US11475211B1 (en) * 2021-07-12 2022-10-18 International Business Machines Corporation Elucidated natural language artifact recombination with contextual awareness
KR20230051995A (ko) * 2021-10-12 2023-04-19 주식회사 피씨엔 실감형 확장현실 콘텐츠 관리 플랫폼
CN114202061A (zh) * 2021-12-01 2022-03-18 北京航空航天大学 基于生成对抗网络模型及深度强化学习的物品推荐方法、电子设备及介质
CN114265979A (zh) * 2021-12-17 2022-04-01 北京百度网讯科技有限公司 确定融合参数的方法、信息推荐方法和模型训练方法
CN115599990A (zh) * 2022-09-16 2023-01-13 清华大学（Cn） 一种知识感知结合深度强化学习的跨域推荐方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
向延桃;: "智能创作技术在新闻媒体中的应用", 科技传播, no. 18 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116910382A (zh) * 2023-09-12 2023-10-20 深圳须弥云图空间科技有限公司 一种基于提示学习增强的新闻推荐方法和装置

Also Published As

Publication number Publication date
CN116610872B (zh) 2024-02-20

Similar Documents

Publication Publication Date Title
Sun et al. Conversational recommender system
CN108829822B (zh) 媒体内容的推荐方法和装置、存储介质、电子装置
CN110717099B (zh) 一种推荐影片的方法及终端
CN110402445B (zh) 使用递归神经网络浏览序列数据的方法和系统
CN111259647A (zh) 基于人工智能的问答文本匹配方法、装置、介质及电子设备
CN112464100B (zh) 信息推荐模型训练方法、信息推荐方法、装置及设备
CN112380331A (zh) 信息推送的方法和装置
CN111506820A (zh) 推荐模型、方法、装置、设备及存储介质
CN116610872B (zh) 新闻推荐模型的训练方法及装置
CN111738807B (zh) 用于推荐目标对象的方法、计算设备和计算机存储介质
CN113221019A (zh) 基于即时学习的个性化推荐方法和系统
CN112149604A (zh) 视频特征提取模型的训练方法、视频推荐方法及装置
Khan et al. Comparative analysis on Facebook post interaction using DNN, ELM and LSTM
CN115687690A (zh) 一种视频推荐方法、装置、电子设备及存储介质
CN117391824B (zh) 基于大语言模型和搜索引擎推荐物品的方法及装置
CN116628346B (zh) 搜索词推荐模型的训练方法及装置
CN114428910A (zh) 资源推荐方法、装置、电子设备、产品及介质
CN112818234B (zh) 一种网络舆情信息分析处理方法及系统
CN116956183A (zh) 多媒体资源推荐方法、模型训练方法、装置及存储介质
Martina et al. A Virtual Assistant for the Movie Domain Exploiting Natural Language Preference Elicitation Strategies
Meng et al. Variational Bayesian representation learning for grocery recommendation
CN111459959B (zh) 用于更新事件集合的方法和装置
Kumar et al. Session-based recommendations with sequential context using attention-driven LSTM
CN114580533A (zh) 特征提取模型的训练方法、装置、设备、介质及程序产品
CN113688633A (zh) 一种提纲确定方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant