CN116578875B - 基于多行为的点击预测模型训练方法及装置 - Google Patents
基于多行为的点击预测模型训练方法及装置 Download PDFInfo
- Publication number
- CN116578875B CN116578875B CN202310849548.2A CN202310849548A CN116578875B CN 116578875 B CN116578875 B CN 116578875B CN 202310849548 A CN202310849548 A CN 202310849548A CN 116578875 B CN116578875 B CN 116578875B
- Authority
- CN
- China
- Prior art keywords
- user
- behavior information
- target
- network
- behavior
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000006399 behavior Effects 0.000 title claims abstract description 289
- 238000012549 training Methods 0.000 title claims abstract description 75
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000012545 processing Methods 0.000 claims abstract description 83
- 230000004927 fusion Effects 0.000 claims abstract description 70
- 230000006870 function Effects 0.000 claims description 30
- 238000004590 computer program Methods 0.000 claims description 17
- 230000009471 action Effects 0.000 claims description 15
- 230000008569 process Effects 0.000 claims description 13
- 230000004913 activation Effects 0.000 claims description 12
- 238000010276 construction Methods 0.000 claims description 4
- 239000011159 matrix material Substances 0.000 claims description 3
- 239000013598 vector Substances 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 2
- 238000003066 decision tree Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000704 physical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请提供了一种基于多行为的点击预测模型训练方法及装置。该方法包括：将多种行为信息输入点击预测模型：通过特征处理网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示和目标的嵌入表示；通过特征系数网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示的系数；通过用户特征融合网络处理多种行为下用户的嵌入表示和各种行为下用户的嵌入表示的系数，得到用户的最终表示，以及通过目标特征融合网络处理多种行为下目标的嵌入表示，得到目标的最终表示；根据用户的最终表示和目标的最终表示，利用目标损失函数计算损失值，依据损失值更新点击预测模型的模型参数。
Description
技术领域
本申请涉及机器学习技术领域，尤其涉及一种基于多行为的点击预测模型训练方法及装置。
背景技术
推荐系统在当今生活扮演着不可或缺的作用，无论是网络购物，新闻阅读，还是视频观看等，都有其身影。用户点击预测(Click Through Rate，CTR)是推荐系统中的关键任务，它可以估计用户点击一个目标的概率，用于执行CTR任务的称之为CTR预测模型或者点击预测模型。点击预测模型是基于用户以往的行为预测用户以后的行为，其中涉及到多种行为，但是目前常用的点击预测模型并没有将多种行为完美结合起来，导致预测准确率低。
发明内容
有鉴于此，本申请实施例提供了一种基于多行为的点击预测模型训练方法、装置、电子设备及计算机可读存储介质，以解决现有技术中，点击预测模型没有将多种用户行为深度结合，导致预测准确率低的问题。
本申请实施例的第一方面，提供了一种基于多行为的点击预测模型训练方法，包括：构建特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，并利用特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络构建点击预测模型；获取训练数据，其中，训练数据包括用户与目标之间的多种行为信息；将多种行为信息输入点击预测模型：通过特征处理网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示和目标的嵌入表示；通过特征系数网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示的系数；通过用户特征融合网络处理多种行为下用户的嵌入表示和各种行为下用户的嵌入表示的系数，得到用户的最终表示，以及通过目标特征融合网络处理多种行为下目标的嵌入表示，得到目标的最终表示；根据用户的最终表示和目标的最终表示，利用目标损失函数计算损失值，依据损失值更新点击预测模型的模型参数，以完成对点击预测模型的训练。
本申请实施例的第二方面，提供了一种基于多行为的点击预测模型训练装置，包括：构建模块，被配置为构建特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，并利用特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络构建点击预测模型；获取模块，被配置为获取训练数据，其中，训练数据包括用户与目标之间的多种行为信息；将多种行为信息输入点击预测模型：第一处理模块，被配置为通过特征处理网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示和目标的嵌入表示；第二处理模块，被配置为通过特征系数网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示的系数；第三处理模块，被配置为通过用户特征融合网络处理多种行为下用户的嵌入表示和各种行为下用户的嵌入表示的系数，得到用户的最终表示，以及通过目标特征融合网络处理多种行为下目标的嵌入表示，得到目标的最终表示；更新模块，被配置为根据用户的最终表示和目标的最终表示，利用目标损失函数计算损失值，依据损失值更新点击预测模型的模型参数，以完成对点击预测模型的训练。
本申请实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现上述方法的步骤。
本申请实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述方法的步骤。
本申请实施例与现有技术相比存在的有益效果是：因为本申请实施例通过构建特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，并利用特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络构建点击预测模型；获取训练数据，其中，训练数据包括用户与目标之间的多种行为信息；将多种行为信息输入点击预测模型：通过特征处理网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示和目标的嵌入表示；通过特征系数网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示的系数；通过用户特征融合网络处理多种行为下用户的嵌入表示和各种行为下用户的嵌入表示的系数，得到用户的最终表示，以及通过目标特征融合网络处理多种行为下目标的嵌入表示，得到目标的最终表示；根据用户的最终表示和目标的最终表示，利用目标损失函数计算损失值，依据损失值更新点击预测模型的模型参数，以完成对点击预测模型的训练，因此，采用上述技术手段，可以解决现有技术中，点击预测模型没有将多种用户行为深度结合，导致预测准确率低的问题，进而提高点击预测的准确率。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
图1是本申请实施例提供的一种基于多行为的点击预测模型训练方法的流程示意图；
图2是本申请实施例提供的一种基于决策树的点击预测方法的流程示意图；
图3是本申请实施例提供的一种基于多行为的点击预测模型训练装置的结构示意图；
图4是本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
图1是本申请实施例提供的一种基于多行为的点击预测模型训练方法的流程示意图。图1的基于多行为的点击预测模型训练方法可以由计算机或服务器，或者计算机或服务器上的软件执行。如图1所示，该基于多行为的点击预测模型训练方法包括：
S101，构建特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，并利用特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络构建点击预测模型；
S102，获取训练数据，其中，训练数据包括用户与目标之间的多种行为信息；
S103，将多种行为信息输入点击预测模型：通过特征处理网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示和目标的嵌入表示；
S104，通过特征系数网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示的系数；
S105，通过用户特征融合网络处理多种行为下用户的嵌入表示和各种行为下用户的嵌入表示的系数，得到用户的最终表示，以及通过目标特征融合网络处理多种行为下目标的嵌入表示，得到目标的最终表示；
S106，根据用户的最终表示和目标的最终表示，利用目标损失函数计算损失值，依据损失值更新点击预测模型的模型参数，以完成对点击预测模型的训练。
本申请实施例可以理解为构建一个CTR预测模型，具体地：构建特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，然后连接特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，得到点击预测模型，其中，特征处理网络和特征系数网络之间是并行的，用户特征融合网络和目标特征融合网络之间是并行的，特征处理网络和特征系数网络并行后连接并行的用户特征融合网络和目标特征融合网络。基于点击预测模型的结构对点击预测模型进行相应的训练，训练完成后在点击预测模型后接全连接层和softmax层，再次对后接全连接层和softmax层后的点击预测模型进行简单训练（简单训练是使用较少样本对后接全连接层和softmax层后的点击预测模型进行微调，训练方法为有监督训练，该方法皆为现有技术，不再赘述），最终得到模型为可以用于点击预测的点击预测模型。因为训练完成后在点击预测模型后接全连接层和softmax层，以及再次简单训练的方法较为简单明了，所以不过多赘述。
训练数据包括多个用户与多个目标，每个用户与每个目标之间都可能存在多种行为信息（有的用户与有的目标之间不存在行为信息），行为信息表示行为种类和每种行为发生的次数。
本申请实施例中训练得到的点击预测模型可以用于网络购物、新闻阅读以及视频观看等场景中预测用户喜欢的目标，将预测的目标推荐给用户。如在网络购物场景中是预测推荐给用户的商品，网络购物场景中的行为有购买行为、点击浏览行为、添加到购物车行为、收藏行为、关注行为、分享行为、和商家交流行为，每个行为有对应的行为信息，一个商品即为一个目标；如在新闻阅读场景中是预测推荐给用户的文本，一条文本即为一个目标；如在视频观看场景中是预测推荐给用户的视频等，一条视频即为一个目标。新闻阅读场景和视频观看场景中的行为和网络购物场景中的行为类似，不再赘述。
根据本申请实施例提供的技术方案，构建特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，并利用特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络构建点击预测模型；获取训练数据，其中，训练数据包括用户与目标之间的多种行为信息；将多种行为信息输入点击预测模型：通过特征处理网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示和目标的嵌入表示；通过特征系数网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示的系数；通过用户特征融合网络处理多种行为下用户的嵌入表示和各种行为下用户的嵌入表示的系数，得到用户的最终表示，以及通过目标特征融合网络处理多种行为下目标的嵌入表示，得到目标的最终表示；根据用户的最终表示和目标的最终表示，利用目标损失函数计算损失值，依据损失值更新点击预测模型的模型参数，以完成对点击预测模型的训练，因此，采用上述技术手段，可以解决现有技术中，点击预测模型没有将多种用户行为深度结合，导致预测准确率低的问题，进而提高点击预测的准确率。
按照如下方式构建特征处理网络，包括：特征处理网络包括多个预设网络层和一个特征划分层，第l个预设网络层如下：
；
为第l个预设网络层输出的第k种行为信息对应的嵌入表示，/>为非线性激活函数，/>为第l-1个预设网络层输出的第k种行为信息对应的嵌入表示，/>为第k种行为信息对应的权重参数；
其中，特征划分层用于将最后一个预设网络层输出的第k种行为信息对应的嵌入表示划分得到第k种行为信息对应的第k种行为下用户的嵌入表示和目标的嵌入表示。
可选地，特征处理网络内部依次包括：一个嵌入层、多个预设网络层、一个特征划分层，多个预设网络层之间串行连接。嵌入层用于将行为信息转换为向量表示，多种行为信息输入特征处理网络，也就是输入了嵌入层，嵌入层将多种行为信息转换为向量表示（向量表示为）并输出；将/>输入第一个预设网络层（嵌入层后接的预设网络层），输出/>……将/>输入第l个预设网络层，输出/>。
第k种行为信息对应行为为第k种行为。最后一个预设网络层输出的第k种行为信息对应的嵌入表示是第k种行为信息对应的第k种行为下用户的嵌入表示和目标的嵌入表示拼接得到的，所以特征划分层按照用户的数量将第k种行为信息对应的嵌入表示划分为第k种行为下用户的嵌入表示和目标的嵌入表示，比如C为所有用户的数量，那么第k种行为信息对应的嵌入表示中前C个向量为第k种行为下用户的嵌入表示，剩下的向量为第k种行为下目标的嵌入表示。
按照如下方式构建特征系数网络，包括：
；
其中，为第k种行为信息对应的第k种行为下第u个用户的嵌入表示的系数，为以自然常数e为底的指数函数，N为所有行为信息的种类的数量，m用于表示行为信息的种类的序号，/>为第m种行为信息对应的权重参数，/>为第u个用户产生第m种行为的次数，m初始值为1，当m等于k，/>为第k种行为信息对应的权重参数，/>为第u个用户产生第k种行为的次数。
特征系数网络用于计算，所以上述公式可以理解为特征系数网络。后文的公式和网络的关系亦然。
按照如下方式构建用户特征融合网络，包括：
；
其中，为第u个用户的最终表示，N为所有行为信息的种类的数量，m用于表示行为信息的种类的序号，m初始值为1，/>为第m种行为信息对应的第m种行为下第u个用户的嵌入表示的系数，/>为第m种行为信息对应的第m种行为下第u个用户的嵌入表示，为第k种行为信息对应的权重参数，/>为非线性激活函数，/>为偏差矩阵。
可以是Sigmoid激活函数。/>是随机初始化得到的，每种行为信息对应一个权重参数。
按照如下方式构建目标特征融合网络，包括：
；
其中，为第i个目标的最终表示，/>为多层感知器，/>为特征拼接函数，表示将所有行为下第i个目标的嵌入表示拼接在一起。
比如i为4，那么)是将所有/>拼接在一起，/>为第m种行为信息对应的第m种行为下第i个目标的嵌入表示。
目标损失函数：
；
其中，为第u个用户的最终表示，/>为第h个目标的最终表示，/>为第j个目标的最终表示，第u个用户在第h个目标上至少产生一种行为，/>是/>的正例，第u个用户在第j个目标上不产生任何一种行为，/>是/>的负例，/>和/>均来自/>，T是转置符号，/>为非线性激活函数，/>表示/>∈[1,C],/>∈[1,D],/>∈[1,P],C为所有用户的数量，D为第u个用户至少产生一种行为的所有目标的数量，P为第u个用户不产生任何一种行为的所有目标的数量。
[1,C]表示大于等于1，小于等于C的整数的闭区间；[1,P]表示大于等于1，小于等于P的整数的闭区间；[1,D]表示大于等于1，小于等于D的整数的闭区间。
图2是本申请实施例提供的一种基于决策树的点击预测方法的流程示意图；如图2所示，包括：
S201，从训练数据中确定出用户与目标之间的目标行为的行为信息以及各种辅助行为的行为信息；
S202，将目标行为的行为信息和每种辅助行为的行为信息作为一个训练样本，得到多个训练样本；
S203，基于多个训练样本，利用对比学习的方法对点击预测模型进行训练，使得点击预测模型捕捉到目标行为和各种辅助行为之间的共性。
以网络购物场景为例：网络购物场景中的行为有购买行为、点击浏览行为、添加到购物车行为、收藏行为、关注行为、分享行为和商家交流行为，其中，购买行为为目标行为，其它行为为购买行为的辅助行为。对比学习训练模型的方法为现有方法，不过多赘述，本申请实施例是将对比学习应用到了新构建的点击预测模型的训练中，训练后的点击预测模型捕捉到目标行为和各种辅助行为之间的共性，可以基于辅助行为预测目标行为，进而提高点击预测模型进行点击预测的准确率。
根据本申请实施例提供的技术方案，从训练数据中确定出用户与目标之间的目标行为的行为信息以及各种辅助行为的行为信息；将目标行为的行为信息和每种辅助行为的行为信息作为一个训练样本，得到多个训练样本；基于多个训练样本，利用对比学习的方法对点击预测模型进行训练，使得点击预测模型捕捉到目标行为和各种辅助行为之间的共性，因此，采用上述技术手段，可以解决现有技术中，点击预测模型没有将多种用户行为深度结合，导致预测准确率低的问题，进而提高点击预测的准确率。
上述所有可选技术方案，可以采用任意结合形成本申请的可选实施例，在此不再一一赘述。
下述为本申请装置实施例，可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节，请参照本申请方法实施例。
图3是本申请实施例提供的一种基于多行为的点击预测模型训练装置的示意图。如图3所示，该基于多行为的点击预测模型训练装置包括：
构建模块301，被配置为构建特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，并利用特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络构建点击预测模型；
获取模块302，被配置为获取训练数据，其中，训练数据包括用户与目标之间的多种行为信息；
第一处理模块303，被配置为将多种行为信息输入点击预测模型：通过特征处理网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示和目标的嵌入表示；
第二处理模块304，被配置为通过特征系数网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示的系数；
第三处理模块305，被配置为通过用户特征融合网络处理多种行为下用户的嵌入表示和各种行为下用户的嵌入表示的系数，得到用户的最终表示，以及通过目标特征融合网络处理多种行为下目标的嵌入表示，得到目标的最终表示；
更新模块306，被配置为根据用户的最终表示和目标的最终表示，利用目标损失函数计算损失值，依据损失值更新点击预测模型的模型参数，以完成对点击预测模型的训练。
根据本申请实施例提供的技术方案，构建特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，并利用特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络构建点击预测模型；获取训练数据，其中，训练数据包括用户与目标之间的多种行为信息；将多种行为信息输入点击预测模型：通过特征处理网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示和目标的嵌入表示；通过特征系数网络处理多种行为信息，得到每种行为信息对应行为下用户的嵌入表示的系数；通过用户特征融合网络处理多种行为下用户的嵌入表示和各种行为下用户的嵌入表示的系数，得到用户的最终表示，以及通过目标特征融合网络处理多种行为下目标的嵌入表示，得到目标的最终表示；根据用户的最终表示和目标的最终表示，利用目标损失函数计算损失值，依据损失值更新点击预测模型的模型参数，以完成对点击预测模型的训练，因此，采用上述技术手段，可以解决现有技术中，点击预测模型没有将多种用户行为深度结合，导致预测准确率低的问题，进而提高点击预测的准确率。
可选地，构建模块301还被配置为按照如下方式构建特征处理网络，包括：特征处理网络包括多个预设网络层和一个特征划分层，第l个预设网络层如下：
；
为第l个预设网络层输出的第k种行为信息对应的嵌入表示，/>为非线性激活函数，/>为第l-1个预设网络层输出的第k种行为信息对应的嵌入表示，/>为第k种行为信息对应的权重参数；
其中，特征划分层用于将最后一个预设网络层输出的第k种行为信息对应的嵌入表示划分得到第k种行为信息对应的第k种行为下用户的嵌入表示和目标的嵌入表示。
可选地，构建模块301还被配置为按照如下方式构建特征系数网络，包括：
；
其中，为第k种行为信息对应的第k种行为下第u个用户的嵌入表示的系数，为以自然常数e为底的指数函数，N为所有行为信息的种类的数量，m用于表示行为信息的种类的序号，/>为第m种行为信息对应的权重参数，/>为第u个用户产生第m种行为的次数，m初始值为1，当m等于k，/>为第k种行为信息对应的权重参数，/>为第u个用户产生第k种行为的次数。
特征系数网络用于计算，所以上述公式可以理解为特征系数网络。后文的公式和网络的关系亦然。
可选地，构建模块301还被配置为按照如下方式构建用户特征融合网络，包括：
；
其中，为第u个用户的最终表示，N为所有行为信息的种类的数量，m用于表示行为信息的种类的序号，m初始值为1，/>为第m种行为信息对应的第m种行为下第u个用户的嵌入表示的系数，/>为第m种行为信息对应的第m种行为下第u个用户的嵌入表示，为第k种行为信息对应的权重参数，/>为非线性激活函数，/>为偏差矩阵。
可以是Sigmoid激活函数。/>是随机初始化得到的，每种行为信息对应一个权重参数。
可选地，构建模块301还被配置为按照如下方式构建目标特征融合网络，包括：
；
其中，为第i个目标的最终表示，/>为多层感知器，/>为特征拼接函数，表示将所有行为下第i个目标的嵌入表示拼接在一起。
目标损失函数：
；
其中，为第u个用户的最终表示，/>为第h个目标的最终表示，/>为第j个目标的最终表示，第u个用户在第h个目标上至少产生一种行为，/>是/>的正例，第u个用户在第j个目标上不产生任何一种行为，/>是/>的负例，/>和/>均来自/>，T是转置符号，/>为非线性激活函数，/>表示/>∈[1,C],/>∈[1,D],/>∈[1,P],C为所有用户的数量，D为第u个用户至少产生一种行为的所有目标的数量，P为第u个用户不产生任何一种行为的所有目标的数量。
[1,C]表示大于等于1，小于等于C的整数的闭区间；[1,P]表示大于等于1，小于等于P的整数的闭区间；[1,D]表示大于等于1，小于等于D的整数的闭区间。
可选地，更新模块301还被配置为从训练数据中确定出用户与目标之间的目标行为的行为信息以及各种辅助行为的行为信息；将目标行为的行为信息和每种辅助行为的行为信息作为一个训练样本，得到多个训练样本；基于多个训练样本，利用对比学习的方法对点击预测模型进行训练，使得点击预测模型捕捉到目标行为和各种辅助行为之间的共性。
应理解，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
图4是本申请实施例提供的电子设备4的示意图。如图4所示，该实施例的电子设备4包括：处理器401、存储器402以及存储在该存储器402中并且可在处理器401上运行的计算机程序403。处理器401执行计算机程序403时实现上述各个方法实施例中的步骤。或者，处理器401执行计算机程序403时实现上述各装置实施例中各模块/单元的功能。
电子设备4可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备4可以包括但不仅限于处理器401和存储器402。本领域技术人员可以理解，图4仅仅是电子设备4的示例，并不构成对电子设备4的限定，可以包括比图示更多或更少的部件，或者不同的部件。
处理器401可以是中央处理单元（Central Processing Unit，CPU），也可以是其它通用处理器、数字信号处理器（Digital Signal Processor，DSP）、专用集成电路（Application SpecificIntegrated Circuit，ASIC）、现场可编程门阵列（Field-Programmable Gate Array，FPGA）或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。
存储器402可以是电子设备4的内部存储单元，例如，电子设备4的硬盘或内存。存储器402也可以是电子设备4的外部存储设备，例如，电子设备4上配备的插接式硬盘，智能存储卡（Smart Media Card，SMC），安全数字（Secure Digital，SD）卡，闪存卡（Flash Card）等。存储器402还可以既包括电子设备4的内部存储单元也包括外部存储设备。存储器402用于存储计算机程序以及电子设备所需的其它程序和数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在计算机可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（Read-Only Memory，ROM）、随机存取存储器（Random Access Memory，RAM）、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如，在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。
Claims (9)
1.一种基于多行为的点击预测模型训练方法，其特征在于，包括：
构建特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，并利用所述特征处理网络、所述特征系数网络、所述用户特征融合网络和所述目标特征融合网络构建点击预测模型；
获取训练数据，其中，所述训练数据包括用户与目标之间的多种行为信息；
将多种行为信息输入所述点击预测模型：
通过所述特征处理网络处理多种行为信息，得到每种行为信息对应行为下所述用户的嵌入表示和所述目标的嵌入表示；
通过所述特征系数网络处理多种行为信息，得到每种行为信息对应行为下所述用户的嵌入表示的系数；
通过所述用户特征融合网络处理多种行为下所述用户的嵌入表示和各种行为下所述用户的嵌入表示的系数，得到所述用户的最终表示，以及通过所述目标特征融合网络处理多种行为下所述目标的嵌入表示，得到所述目标的最终表示；
根据所述用户的最终表示和所述目标的最终表示，利用目标损失函数计算损失值，依据所述损失值更新所述点击预测模型的模型参数，以完成对所述点击预测模型的训练；
其中，按照如下方式构建所述特征处理网络，包括：所述特征处理网络包括多个预设网络层和一个特征划分层，第l个预设网络层如下：
为第l个预设网络层输出的第k种行为信息对应的嵌入表示，/>为非线性激活函数，/>为第l-1个预设网络层输出的第k种行为信息对应的嵌入表示，/>为第k种行为信息对应的权重参数；
其中，所述特征划分层用于将最后一个预设网络层输出的第k种行为信息对应的嵌入表示划分得到第k种行为信息对应的第k种行为下所述用户的嵌入表示和所述目标的嵌入表示。
2.根据权利要求1所述的方法，其特征在于，按照如下方式构建所述特征系数网络，包括：
；
其中，为第k种行为信息对应的第k种行为下第u个用户的嵌入表示的系数，/>为以自然常数e为底的指数函数，N为所有行为信息的种类的数量，m用于表示行为信息的种类的序号，/>为第m种行为信息对应的权重参数，/>为第u个用户产生第m种行为的次数，m初始值为1，当m等于k，/>为第k种行为信息对应的权重参数，/>为第u个用户产生第k种行为的次数。
3.根据权利要求1所述的方法，其特征在于，按照如下方式构建用户特征融合网络，包括：
；
其中，为第u个用户的最终表示，N为所有行为信息的种类的数量，m用于表示行为信息的种类的序号，m初始值为1，/>为第m种行为信息对应的第m种行为下第u个用户的嵌入表示的系数，/>为第m种行为信息对应的第m种行为下第u个用户的嵌入表示，/>为第k种行为信息对应的权重参数，/>为非线性激活函数，/>为偏差矩阵。
4.根据权利要求1所述的方法，其特征在于，按照如下方式构建所述目标特征融合网络，包括：
；
其中，为第i个目标的最终表示，/>为多层感知器，/>为特征拼接函数，/>表示将所有行为下第i个目标的嵌入表示拼接在一起。
5.根据权利要求1所述的方法，其特征在于，所述目标损失函数：
；
其中，为第u个用户的最终表示，/>为第h个目标的最终表示，/>为第j个目标的最终表示，第u个用户在第h个目标上至少产生一种行为，/>是/>的正例，第u个用户在第j个目标上不产生任何一种行为，/>是/>的负例，/>和/>均来自/>，T是转置符号，/>为非线性激活函数，/>表示/>∈[1,C],/>∈[1,D],/>∈[1,P],C为所有用户的数量，D为第u个用户至少产生一种行为的所有目标的数量，P为第u个用户不产生任何一种行为的所有目标的数量。
6.根据权利要求1所述的方法，其特征在于，获取训练数据之后，所述方法还包括：
从所述训练数据中确定出所述用户与所述目标之间的目标行为的行为信息以及各种辅助行为的行为信息；
将所述目标行为的行为信息和每种辅助行为的行为信息作为一个训练样本，得到多个训练样本；
基于多个训练样本，利用对比学习的方法对所述点击预测模型进行训练，使得所述点击预测模型捕捉到所述目标行为和各种辅助行为之间的共性。
7.一种基于多行为的点击预测模型训练装置，其特征在于，包括：
构建模块，被配置为构建特征处理网络、特征系数网络、用户特征融合网络和目标特征融合网络，并利用所述特征处理网络、所述特征系数网络、所述用户特征融合网络和所述目标特征融合网络构建点击预测模型；
获取模块，被配置为获取训练数据，其中，所述训练数据包括用户与目标之间的多种行为信息；
将多种行为信息输入所述点击预测模型：
第一处理模块，被配置为通过所述特征处理网络处理多种行为信息，得到每种行为信息对应行为下所述用户的嵌入表示和所述目标的嵌入表示；
第二处理模块，被配置为通过所述特征系数网络处理多种行为信息，得到每种行为信息对应行为下所述用户的嵌入表示的系数；
第三处理模块，被配置为通过所述用户特征融合网络处理多种行为下所述用户的嵌入表示和各种行为下所述用户的嵌入表示的系数，得到所述用户的最终表示，以及通过所述目标特征融合网络处理多种行为下所述目标的嵌入表示，得到所述目标的最终表示；
更新模块，被配置为根据所述用户的最终表示和所述目标的最终表示，利用目标损失函数计算损失值，依据所述损失值更新所述点击预测模型的模型参数，以完成对所述点击预测模型的训练；
所述构建模块还被配置为按照如下方式构建所述特征处理网络，包括：所述特征处理网络包括多个预设网络层和一个特征划分层，第l个预设网络层如下：
为第l个预设网络层输出的第k种行为信息对应的嵌入表示，/>为非线性激活函数，/>为第l-1个预设网络层输出的第k种行为信息对应的嵌入表示，/>为第k种行为信息对应的权重参数；
其中，所述特征划分层用于将最后一个预设网络层输出的第k种行为信息对应的嵌入表示划分得到第k种行为信息对应的第k种行为下所述用户的嵌入表示和所述目标的嵌入表示。
8.一种电子设备，包括存储器、处理器以及存储在所述存储器中并且可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至6中任一项所述方法的步骤。
9.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310849548.2A CN116578875B (zh) | 2023-07-12 | 2023-07-12 | 基于多行为的点击预测模型训练方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310849548.2A CN116578875B (zh) | 2023-07-12 | 2023-07-12 | 基于多行为的点击预测模型训练方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116578875A CN116578875A (zh) | 2023-08-11 |
| CN116578875B true CN116578875B (zh) | 2023-11-10 |
Family
ID=87536307
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310849548.2A Active CN116578875B (zh) | 2023-07-12 | 2023-07-12 | 基于多行为的点击预测模型训练方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116578875B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117408786B (zh) * | 2023-12-11 | 2024-04-16 | 深圳须弥云图空间科技有限公司 | 一种基于门控机制的物品推荐方法及装置 |
| CN117454016B (zh) * | 2023-12-21 | 2024-03-15 | 深圳须弥云图空间科技有限公司 | 基于改进点击预测模型的对象推荐方法及装置 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109299327A (zh) * | 2018-11-16 | 2019-02-01 | 广州市百果园信息技术有限公司 | 视频推荐方法、装置、设备及存储介质 |
| CN111860986A (zh) * | 2020-07-07 | 2020-10-30 | 北京明略昭辉科技有限公司 | 一种预测模型的训练方法、广告点击预测方法及装置 |
| CN113868523A (zh) * | 2021-09-26 | 2021-12-31 | 腾讯音乐娱乐科技（深圳）有限公司 | 推荐模型训练方法、电子设备及存储介质 |
| CN114117216A (zh) * | 2021-11-23 | 2022-03-01 | 广州博冠信息科技有限公司 | 推荐概率预测方法及装置、计算机存储介质和电子设备 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110751261B (zh) * | 2018-07-23 | 2024-05-28 | 第四范式（北京）技术有限公司 | 神经网络模型的训练方法和系统以及预测方法和系统 |
| CN111259222B (zh) * | 2020-01-22 | 2023-08-22 | 北京百度网讯科技有限公司 | 物品推荐方法、系统、电子设备及存储介质 |
| CN111931062B (zh) * | 2020-08-28 | 2023-11-24 | 腾讯科技（深圳）有限公司 | 一种信息推荐模型的训练方法和相关装置 |
-
2023
- 2023-07-12 CN CN202310849548.2A patent/CN116578875B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109299327A (zh) * | 2018-11-16 | 2019-02-01 | 广州市百果园信息技术有限公司 | 视频推荐方法、装置、设备及存储介质 |
| CN111860986A (zh) * | 2020-07-07 | 2020-10-30 | 北京明略昭辉科技有限公司 | 一种预测模型的训练方法、广告点击预测方法及装置 |
| CN113868523A (zh) * | 2021-09-26 | 2021-12-31 | 腾讯音乐娱乐科技（深圳）有限公司 | 推荐模型训练方法、电子设备及存储介质 |
| CN114117216A (zh) * | 2021-11-23 | 2022-03-01 | 广州博冠信息科技有限公司 | 推荐概率预测方法及装置、计算机存储介质和电子设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116578875A (zh) | 2023-08-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN116578875B (zh) | 基于多行为的点击预测模型训练方法及装置 | |
| CN116541610B (zh) | 一种推荐模型的训练方法及装置 | |
| CN112149604A (zh) | 视频特征提取模型的训练方法、视频推荐方法及装置 | |
| CN116542328B (zh) | Ctr预测模型的知识蒸馏方法及装置 | |
| CN116562357B (zh) | 点击预测模型训练方法及装置 | |
| CN116188118B (zh) | 基于ctr预测模型的目标推荐方法及装置 | |
| CN116541608B (zh) | 房源推荐方法、装置、电子设备及存储介质 | |
| CN113779380A (zh) | 跨域推荐、内容推荐方法、装置及设备 | |
| CN116610872B (zh) | 新闻推荐模型的训练方法及装置 | |
| CN110288444B (zh) | 实现用户相关推荐的方法和系统 | |
| CN117056595A (zh) | 一种交互式的项目推荐方法、装置及计算机可读存储介质 | |
| CN116127083A (zh) | 内容推荐方法、装置、设备及存储介质 | |
| CN111898658B (zh) | 图像分类方法、装置和电子设备 | |
| CN114493674A (zh) | 一种广告点击率预测模型及方法 | |
| CN116911954B (zh) | 基于兴趣和流行度推荐物品的方法及装置 | |
| CN117454016B (zh) | 基于改进点击预测模型的对象推荐方法及装置 | |
| CN116501993B (zh) | 房源数据推荐方法及装置 | |
| CN116911955B (zh) | 目标推荐模型的训练方法及装置 | |
| CN117390295B (zh) | 基于掩码模块推荐对象的方法及装置 | |
| CN111598599A (zh) | 用户表征方法、装置、电子设备及计算机可读介质 | |
| CN116541716B (zh) | 基于序列图和超图的推荐模型训练方法及装置 | |
| CN118297673A (zh) | 物品信息展示方法、装置、电子设备和计算机可读介质 | |
| CN117670470A (zh) | 推荐模型的训练方法及装置 | |
| CN116611858A (zh) | 目标推荐方法及装置 | |
| CN117893279A (zh) | 一种对象推荐的方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |