CN116611497A - 一种点击率预估模型训练方法和装置 - Google Patents
一种点击率预估模型训练方法和装置 Download PDFInfo
- Publication number
- CN116611497A CN116611497A CN202310891849.1A CN202310891849A CN116611497A CN 116611497 A CN116611497 A CN 116611497A CN 202310891849 A CN202310891849 A CN 202310891849A CN 116611497 A CN116611497 A CN 116611497A
- Authority
- CN
- China
- Prior art keywords
- click rate
- rate estimation
- estimation model
- feature
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000012549 training Methods 0.000 title claims abstract description 61
- 230000006870 function Effects 0.000 claims description 35
- 238000004590 computer program Methods 0.000 claims description 18
- 239000003623 enhancer Substances 0.000 claims description 7
- 230000002708 enhancing effect Effects 0.000 claims description 3
- 230000008569 process Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 8
- 238000012512 characterization method Methods 0.000 description 7
- 238000013527 convolutional neural network Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000008707 rearrangement Effects 0.000 description 4
- 230000006399 behavior Effects 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000003066 decision tree Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000032683 aging Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/9035—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/0895—Weakly supervised learning, e.g. semi-supervised or self-supervised learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Image Analysis (AREA)
Abstract
本申请涉及序列推荐技术领域，提供了一种点击率预估模型训练方法和装置。该方法包括：获取训练集，训练集至少包括物品特征和物品属性特征；将物品特征和物品属性特征输入至点击率预估模型，以获得第一增强特征；以及依据第一损失函数迭代更新点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经预训练的点击率预估模型；将第一增强特征和物品特征输入至经预训练的点击率预估模型，以获得点击率预估结果；以及依据第二损失函数迭代更新点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经微调的点击率预估模型。本申请可有效融合序列上下文和物品属性信息，提高点击率预估模型精排结果准确性。
Description
技术领域
本申请涉及序列推荐技术领域，尤其涉及一种点击率预估模型训练方法和装置。
背景技术
序列推荐的目标是根据用户之前的动作序列预测用户的下一个动作。以定位为线上获客的App产品为例，其产品目标是提升用户的线上成交量，因此，为了提升用户浏览时间、留存时长和线上用户体验，需要更准确的序列推荐服务，以帮助用户快速定位意向目标推荐。常用经典序列推荐算法，通常从用户历史行为序列中挖掘序列模型，并利用预测损失来学习模型参数或者嵌入表征，由于可能存在用户线上行为不足，模型容易受数据稀疏问题的影响。此外，上述序列推荐算法关注最终性能，忽略了上下文数据和序列数据之间的关联或者融合，导致序列推荐效果不达预期。
特别是在序列推荐最为关键的精排阶段，通常会采用点击率预估模型来预测用户选择物品的概率，再按照概率大小形成有序的推荐列表，因此如何使得点击率预估模型能够体现序列全局信息和物品之间相关性，以达到获得更好的序列推荐结果，是需要解决的技术问题。
发明内容
有鉴于此，本申请实施例提供了一种点击率预估模型训练方法、装置、电子设备及计算机可读存储介质，以解决现有技术缺乏在点击率预估模型中融合序列上下文和物品属性信息的问题。
本申请实施例的第一方面，提供了一种点击率预估模型训练方法，包括：
获取训练集，其中所述训练集至少包括物品特征和物品属性特征；
将所述物品特征和所述物品属性特征输入至点击率预估模型，以获得第一增强特征；以及依据第一损失函数迭代更新所述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经预训练的所述点击率预估模型；
将所述第一增强特征和所述物品特征输入至经预训练的所述点击率预估模型，以获得点击率预估结果；以及依据第二损失函数迭代更新所述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经微调的所述点击率预估模型。
本申请实施例的第二方面，提供了一种点击率预估模型训练装置，适用于第一方面所述的点击率预估模型训练方法，包括：
训练集获取模块，能够获取训练集，其中所述训练集至少包括物品特征和物品属性特征；
模型预训练模块，能够将所述物品特征和所述物品属性特征输入至点击率预估模型，以获得第一增强特征；以及依据第一损失函数迭代更新所述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经预训练的所述点击率预估模型；
模型微调模块，能够将所述第一增强特征和所述物品特征输入至经预训练的所述点击率预估模型，以获得点击率预估结果；以及依据第二损失函数迭代更新所述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经微调的所述点击率预估模型。
本申请实施例的第三方面，提供了一种电子设备，包括存储器、处理器以及存储在存储器中并且可在处理器上运行的计算机程序，该处理器执行计算机程序时实现第一方面所述方法的步骤。
本申请实施例的第四方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序，该计算机程序被处理器执行时实现第一方面所述方法的步骤。
本申请实施例与现有技术相比存在的有益效果至少包括：本申请实施例通过获取包括物品特征和物品属性特征的训练集，并将物品特征和物品属性特征输入至点击率预估模型并获得第一增强特征，依据第一损失函数迭代更新点击率预估模型的参数并获得经预训练的点击率预估模型；将第一增强特征和物品特征输入至经预训练的点击率预估模型并获得点击率预估结果，依据第二损失函数迭代更新点击率预估模型的参数，最终获得经微调的点击率预估模型。本申请实施例可有效融合序列上下文和物品属性信息，提高点击率预估模型精排结果准确性。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。
图1是本申请实施例提供的序列推荐流程示意图；
图2是本申请实施例提供的点击率预估模型结构示意图之一；
图3是本申请实施例提供的点击率预估模型训练方法的流程示意图之一；
图4是本申请实施例提供的点击率预估模型训练方法的流程示意图之二；
图5是本申请实施例提供的点击率预估模型结构示意图之二；
图6是本申请实施例提供的点击率预估模型训练装置的结构示意图；
图7是本申请实施例提供的电子设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
下面将结合附图详细说明根据本申请实施例的一种点击率预估模型训练方法、装置、电子设备和存储介质。
如背景技术所述，在序列推荐任务中常用的是基于卷积神经网络CNN-based模型，该模型主要工作过程为：首先，将输入的序列，例如文本、音乐、视频等表示成一个矩阵，其中每行表示一个时间步，每列表示一个特征。其次，通过一系列的卷积层来提取输入序列的局部特征，每个卷积层由多个卷积核组成，每个卷积核会对输入矩阵中的一部分进行卷积操作，提取出该部分的局部特征，卷积操作可以通过滑动窗口实现。在卷积层之后，使用池化层来进一步提取输入序列的特征，池化层通常采用最大池化或平均池化的方式，从每个卷积核的输出中选择最大值或平均值作为该卷积核的输出。再将池化层的输出展开成一维向量，作为全连接层的输入。在全连接层中，可以使用多个全连接层来提高模型的表示能力，每个全连接层都可以包含多个神经元。全连接层可以实现输入序列的特征组合和分类。最后，输出层根据具体的任务要求而定，比如在文本推荐任务中，可以使用softmax层来输出每个词的概率，选择概率最高的词作为推荐结果。
通过以上过程，CNN-based序列推荐模型可以学习到输入序列的局部和全局特征，并能够有效地处理不同长度的序列。在训练时，可以使用反向传播算法来更新模型参数，使得模型能够更好地适应训练数据。在预测时，可以将输入序列送入模型中，根据模型的输出进行推荐。但由于CNN-based模型过分强调最终性能，尤其关注局部特征提取，对于序列全局信息、上下文间信息并没有很好捕捉，导致该模型在一些需要全局信息的场景中表现不佳，且更容易受数据稀疏问题的影响。
图1是目前序列推荐系统典型的技术架构，即召回、粗排、精排和重排，其中粗排、精排和重排都属于排序阶段。如图1所示，其中，召回是从上海量物品中选出可能“几千条”用户感兴趣的，但是“几千条”物品仍然不可能直接丢给用户，再通过后续的多层排序，在这“几千条”物品中找出用户最有可能感兴趣的。粗排通常会用比较轻量级的机器学习模型，对“几千条”物品逐一打分，截断分数最高的“几百条”物品进入下一个模型。粗排模型由于模型结构简单，一般计算速度会很快。精排一般会用比较重量级的机器学习模型，比如深度神经网络，给“几百条”物品打分，分数打好之后可以选择再一次做截断，然后送到下一层重排。重排的目的主要是为了保证结果的多样性，重排的结果会是最后真正展现给用户的物品。
如图1所示，精排是多层排序中最关键的环节，也是保证最后结果最重要的环节。通常，精排模型会采用点击率预估模型来预测用户选择物品的概率，然后按照概率大小形成有序的物品推荐列表。但是物品推荐场景下，存在长尾物品得不到有效曝光的问题，在点击率预估模型中引入注意力增强机制来优化点击率预估模型，以提升长尾物品的预测概率值，给予物品有效曝光。所谓长尾物品Tail Items在推荐系统中非常常见，长尾的存在导致了样本不均衡，对于热门头部物品Head Items的样本量多，模型学习此部分的效果越好，而长尾物品的样本量少，导致模型对该部分物品的理解不够充分，效果自然也就较差。
如前所述，点击率预估模型CTR是工业级的序列推荐系统中非常重要的一个环节,其预估效果会直接影响推荐系统的性能。点击率预估模型CTR常伴有训练数据量大、特征高度稀疏、推断性能要求高等特点, 使得算法的设计多围绕这些特点来进行。工业级的序列推荐系统常因为候选集数据量、系统响应时效等因素的影响，需要分多个阶段完成整个推荐的流程。具体地, 常将其分为召回与排序两大阶段。对于具有一定规模的互联网业务而言, 其所面对的待推荐品库通常能达到千万甚至亿量级. 若针对某一特定的用户我们都需要对全体物品进行打分排序以给出最终推荐结果的话, 在有限的计算资源和响应时间下显然是不现实的事情。所以,通常先采用召回策略从待推荐物品库中先召回一批数据,使数据量下降到千量级。由于召回阶段的数据量较大，所以要求该阶段所使用的策略和模型要足够的简单。通过召回阶段, 可以顺利地将待排序数据量降至千量级，此时便可以通过用户画像、物品画像、用户行为记录等数据来进行排序，从而得到用户对每个物品的点击率预估值。因此，点击率预估模型研究的问题是已知当前要推荐的用户、当前所处上下文、待计算的物品，通过模型计算出用户点击该物品概率，将待排序物品全部计算出预估点击率，再由高至低排序输出。
下面基于图2所示的点击率预估模型结构示意图。该点击率预估模型包括特征增强子模型；其中，该特征增强子模型包括物品特征嵌入层、物品属性特征嵌入层和最大化信息增益层；该最大化信息增益层能够基于最大化信息增益融合该物品特征和该物品属性，得到第一增强特征。
在一些实施例中，物品特征输入至物品特征嵌入层得到物品特征嵌入表征序列/>；物品属性特征/>输入至物品属性特征嵌入层后得到物品属性特征嵌入表征序列/>。
具体地，将物品特征嵌入表征序列和物品属性特征嵌入表征序列/>同时输入至最大化信息增益层以便融合该物品特征和该物品属性。
在一些实施例中，物品特征嵌入表征序列还可以经过序列注意力层，该序列注意力层能够增强该物品特征嵌入表示的上下文关联特征。
在一些实施例中，该最大化信息增益层配置有最大信息增益系数，/>即需学习的最大化增益参数。
具体地，最大信息增益属于决策树策略。决策树的每一层都需要根据最大信息增益来进行分类特征的选取，信息增益最大找的是样本之间差异最大的特征。信息增益是指分类前根据原始类别计算的熵值和分类后计算的熵值两者的差值，因此，信息增益最大是指差值最大。一般地，当样本固定后，原始信息熵值是常量，那么最大信息熵值实际上也就说是分类后的熵值要越小越好。由于信息熵值是用来度量信息容量的，即信息量越大，信息越多样，其熵值越大，相反，如果信息很一致，其熵值是很小的。此外，最大信息增益的特征即为最显著特征。也就是说，最大信息熵的所选的特征是分类后熵值最小的特征。分类后熵值最小的特征恰恰是分类结果一致的特征，而分类结果一致的特征必须是两类样本差异最大的特征。对于最大化信息增益的原理，此处不再赘述。
图3是本申请实施例提供的点击率预估模型训练方法流程示意图。图3的点击率预估模型训练方法可以由服务器执行，需要说明的是，服务器可以是硬件，也可以是软件。如图3所示，该点击率预估模型训练方法具体可以包括：
S301：获取训练集，其中上述训练集至少包括物品特征和物品属性特征。
S302：将上述物品特征和上述物品属性特征输入至点击率预估模型，以获得第一增强特征；以及依据第一损失函数迭代更新上述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经预训练的上述点击率预估模型。
S303：将上述第一增强特征和上述物品特征输入至经预训练的上述点击率预估模型，以获得点击率预估结果；以及依据第二损失函数迭代更新上述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经微调的上述点击率预估模型。
在一些实施例中，该点击率预估模型包括特征增强子模型；其中，上述特征增强子模型包括物品特征嵌入层、物品属性特征嵌入层和最大化信息增益层；上述最大化信息增益层能够基于最大化信息增益融合上述物品特征和上述物品属性，以输出上述第一增强特征。
在一些实施例中，如图4所示，将上述物品特征和上述物品属性特征输入至点击率预估模型，以获得第一增强特征的过程，包括：
S411：将上述物品特征输入至上述物品特征嵌入层，获得物品特征嵌入表示。
S412：将上述物品特征属性输入至上述物品属性特征嵌入层，获得物品属性特征嵌入表示。
S413：将上述物品特征嵌入表示和上述物品属性特征嵌入表示输入至上述最大化信息增益层，获得上述第一增强特征。
在一些实施例中，上述最大化信息增益层配置有最大信息增益系数，以及，基于上述最大信息增益系数/>，确定上述物品特征与上述物品属性特征之间的相似性函数，定义为：/>,其中，/>表示上述物品特征嵌入表示，/>上述物品属性特征嵌入表示，/>为可调系数。
需要说明的是，相似性函数在机器学习和数据挖掘中，我们经常需要知道个体间差异的大小，进而评价个体的相似性和类别。在本申请的一个实施例中，可以是基于双向线性网络进行构建来度量物品特征与物品属性特征之间的相似性。
在一些实施例中，基于上述相似性函数，确定上述第一损失函数，定义为：。
在一些实施例中，基于上述相似性函数，构建的第一损失函数用于训练上述特征增强子模型的参数，上述参数包括最大信息增益系数。
需要说明的是，受BERT模型的掩码语言模型的启发，本申请实施例的点击率预估模型还可以通过完形填空任务对物品序列中进行双向神经网络建模。在每个训练步骤中，随机掩盖输入序列中的一部分物品，即将它们替换为特殊标记[mask]。然后，基于两个方向上的上下文从原始序列中预测被标记为[mask]的物品。
在一些实施例中，如图5所示，上述特征增强子模型还包括与上述物品特征嵌入层的输出相连的序列注意力层，上述序列注意力层能够增强上述物品特征嵌入表示的上下文关联特征。
在一些实施例中，上述训练集还包括用户特征和/或交叉特征。上述点击率预估模型还包括排序子模型。
在一些实施例中，将上述第一增强特征、上述物品特征、上述用户特征和/或上述交叉特征输入至上述排序子模型，获得上述点击率预估结果。
需要说明的是，模型训练包括预训练和微调两个阶段，属于两阶段模型。预训练过程中利用引入信息增益最大化的完形填空任务通过无掩码的自注意力机制进行训练，得到高质量的物品表征和属性表征。微调阶段，则利用单向Transformer来构建表征，通过pairwise loss来训练模型。
因此，在一些实施例中，在对上述点击率预估模型的微调阶段，基于Pair-wiseLoss确定上述第二损失函数，定义为：。
综上所述，本申请实施例的点击率预估模型，其模型输入为由用户真实发生的点击构成的物品+用户特征序列；模型输出为物品预测概率。
进一步地，基于信息增益最大化的自监督学习任务可以引入更多的上下文信息，辅助构建高质量的房源/属性嵌入特征，从而可以学习到更加丰富的特征表示，使得模型更好的捕捉输入序列中的语义信息，提升模型的泛化能力，从而更好的适应新环境，提升预测准确度。
进一步地，可以通过与其他自监督学习任务进行结合，如基于掩码的自监督学习、自编码器等，从而可以更好地提高模型的性能和表现。
在一些实施例中，序列推荐的主模型除了CNN-based模型还可以使用 RNN-based模型，包括RCNN、DIN等序列推荐模型。
通过获取包括物品特征和物品属性特征的训练集，并将物品特征和物品属性特征输入至点击率预估模型并获得第一增强特征，依据第一损失函数迭代更新点击率预估模型的参数并获得经预训练的点击率预估模型；将第一增强特征和物品特征输入至经预训练的点击率预估模型并获得点击率预估结果，依据第二损失函数迭代更新点击率预估模型的参数，最终获得经微调的点击率预估模型。本申请实施例可有效融合序列上下文和物品属性信息，提高点击率预估模型精排结果准确性。
上述所有可选技术方案，可以采用任意结合形成本申请的可选实施例，在此不再一一赘述。
下述为本申请装置实施例，可以用于执行本申请方法实施例。对于本申请装置实施例中未披露的细节，请参照本申请方法实施例。
图6是本申请实施例提供的一种点击率预估模型训练装置的示意图。如图6所示，该点击率预估模型训练装置包括：
训练集获取模块601，能够获取训练集，其中上述训练集至少包括物品特征和物品属性特征。
模型预训练模块602，能够将上述物品特征和上述物品属性特征输入至点击率预估模型，以获得第一增强特征；以及依据第一损失函数迭代更新上述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经预训练的上述点击率预估模型。
模型微调模块603，能够将上述第一增强特征和上述物品特征输入至经预训练的上述点击率预估模型，以获得点击率预估结果；以及依据第二损失函数迭代更新上述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经微调的上述点击率预估模型。
应理解，本说明书实施例的一种点击率预估模型训练装置还可执行图1至图5中点击率预估模型训练装置执行的方法，并实现点击率预估模型训练装置在图1至图5所示实例的功能，在此不再赘述。同时，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
图7是本申请实施例提供的电子设备7的示意图。如图7所示，该实施例的电子设备7包括：处理器701、存储器702以及存储在该存储器702中并且可在处理器701上运行的计算机程序703。处理器701执行计算机程序703时实现上述各个方法实施例中的步骤。或者，处理器701执行计算机程序703时实现上述各装置实施例中各模块/单元的功能。
电子设备7可以是桌上型计算机、笔记本、掌上电脑及云端服务器等电子设备。电子设备7可以包括但不仅限于处理器701和存储器702。本领域技术人员可以理解，图7仅仅是电子设备7的示例，并不构成对电子设备7的限定，可以包括比图示更多或更少的部件，或者不同的部件。
存储器702可以是电子设备7的内部存储单元，例如，电子设备7的硬盘或内存。存储器702也可以是电子设备7的外部存储设备，例如，电子设备7上配备的插接式硬盘，智能存储卡（Smart MediaCard，SMC），安全数字（Secure Digital，SD）卡，闪存卡（Flash Card）等。存储器702还可以既包括电子设备7的内部存储单元也包括外部存储设备。存储器702用于存储计算机程序以及电子设备所需的其它程序和数据。
处理器701可以是中央处理单元（CentralProcessing Unit，CPU），也可以是其它通用处理器、数字信号处理器（Digital SignalProcessor，DSP）、专用集成电路（Application Specific Integrated Circuit，ASIC）、现场可编程门阵列（Field-ProgrammableGate Array，FPGA）或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。处理器701从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成共享资源访问控制装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：
获取训练集，其中上述训练集至少包括物品特征和物品属性特征；
将上述物品特征和上述物品属性特征输入至点击率预估模型，以获得第一增强特征；以及依据第一损失函数迭代更新上述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经预训练的上述点击率预估模型；
将上述第一增强特征和上述物品特征输入至经预训练的上述点击率预估模型，以获得点击率预估结果；以及依据第二损失函数迭代更新上述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经微调的上述点击率预估模型。
上述如本说明书图1至图5所示实施例揭示的点击率预估模型训练方法可以应用于处理器701中，或者由处理器701实现。处理器701可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以实现或者执行本说明书实施例中公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。
当然，除了软件实现方式之外，本说明书实施例的电子设备并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，计算机程序可以存储在计算机可读存储介质中，该计算机程序在被处理器执行时，可以实现上述各个方法实施例的步骤。计算机程序可以包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（Read-OnlyMemory，ROM）、随机存取存储器（Random Access Memory，RAM）、电载波信号、电信信号以及软件分发介质等。需要说明的是，计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如，在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
本说明书实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的便携式电子设备执行时，能够使该便携式电子设备执行图1至图5所示实施例的点击率预估模型训练方法，并具体用于执行以下方法：
获取训练集，其中上述训练集至少包括物品特征和物品属性特征；
将上述物品特征和上述物品属性特征输入至点击率预估模型，以获得第一增强特征；以及依据第一损失函数迭代更新上述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经预训练的上述点击率预估模型；
将上述第一增强特征和上述物品特征输入至经预训练的上述点击率预估模型，以获得点击率预估结果；以及依据第二损失函数迭代更新上述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经微调的上述点击率预估模型。
总之，以上该仅为本说明书的较佳实施例而已，并非用于限定本说明书的保护范围。凡在本说明书的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本说明书的保护范围之内。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitorymedia)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、商品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。
Claims (10)
1.一种点击率预估模型训练方法，其特征在于，包括：
获取训练集，其中所述训练集至少包括物品特征和物品属性特征；
将所述物品特征和所述物品属性特征输入至点击率预估模型，以获得第一增强特征；以及依据第一损失函数迭代更新所述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经预训练的所述点击率预估模型；
将所述第一增强特征和所述物品特征输入至经预训练的所述点击率预估模型，以获得点击率预估结果；以及依据第二损失函数迭代更新所述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经微调的所述点击率预估模型。
2.根据权利要求1所述的方法，其特征在于，所述点击率预估模型包括特征增强子模型；其中，所述特征增强子模型包括物品特征嵌入层、物品属性特征嵌入层和最大化信息增益层；所述最大化信息增益层能够基于最大化信息增益融合所述物品特征和所述物品属性，以输出所述第一增强特征。
3.根据权利要求2所述的方法，其特征在于，将所述物品特征和所述物品属性特征输入至点击率预估模型，以获得第一增强特征的过程，包括：
将所述物品特征输入至所述物品特征嵌入层，获得物品特征嵌入表示；
将所述物品特征属性输入至所述物品属性特征嵌入层，获得物品属性特征嵌入表示；
将所述物品特征嵌入表示和所述物品属性特征嵌入表示输入至所述最大化信息增益层，获得所述第一增强特征。
4.根据权利要求2所述的方法，其特征在于，所述最大化信息增益层配置有最大信息增益系数，以及，基于所述最大信息增益系数/>，确定所述物品特征与所述物品属性特征之间的相似性函数，定义为：/>,其中，/>表示所述物品特征嵌入表示，所述物品属性特征嵌入表示，/>为可调系数。
5.根据权利要求4所述的方法，其特征在于，所述第一损失函数用于训练所述特征增强子模型的参数；
和/或，基于所述相似性函数，确定所述第一损失函数，定义为：；
和/或，所述特征增强子模型还包括与所述物品特征嵌入层的输出相连的序列注意力层，所述序列注意力层能够增强所述物品特征嵌入表示的上下文关联特征。
6.根据权利要求1所述的方法，其特征在于，所述训练集还包括用户特征和/或交叉特征；
和/或，所述点击率预估模型还包括排序子模型；
和/或，将所述第一增强特征、所述物品特征、所述用户特征和/或所述交叉特征输入至所述排序子模型，获得所述点击率预估结果。
7.根据权利要求1所述的方法，其特征在于，在对所述点击率预估模型的微调阶段，基于Pair-wise Loss确定所述第二损失函数，定义为：。
8.一种点击率预估模型训练装置，其特征在于，适用于权利要求1至7任一项所述的点击率预估模型训练方法，包括：
训练集获取模块，能够获取训练集，其中所述训练集至少包括物品特征和物品属性特征；
模型预训练模块，能够将所述物品特征和所述物品属性特征输入至点击率预估模型，以获得第一增强特征；以及依据第一损失函数迭代更新所述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经预训练的所述点击率预估模型；
模型微调模块，能够将所述第一增强特征和所述物品特征输入至经预训练的所述点击率预估模型，以获得点击率预估结果；以及依据第二损失函数迭代更新所述点击率预估模型的参数，直至达到预设的迭代终止条件，以获得经微调的所述点击率预估模型。
9.一种电子设备，包括存储器、处理器以及存储在所述存储器中并且可在所述处理器上运行的计算机程序，其特征在于，所述处理器在执行所述计算机程序时，实现如权利要求1至7中任一项所述方法的步骤。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310891849.1A CN116611497B (zh) | 2023-07-20 | 2023-07-20 | 一种点击率预估模型训练方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310891849.1A CN116611497B (zh) | 2023-07-20 | 2023-07-20 | 一种点击率预估模型训练方法和装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116611497A true CN116611497A (zh) | 2023-08-18 |
| CN116611497B CN116611497B (zh) | 2023-10-03 |
Family
ID=87683994
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310891849.1A Active CN116611497B (zh) | 2023-07-20 | 2023-07-20 | 一种点击率预估模型训练方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116611497B (zh) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107622086A (zh) * | 2017-08-16 | 2018-01-23 | 北京京东尚科信息技术有限公司 | 一种点击率预估方法和装置 |
| CN109784537A (zh) * | 2018-12-14 | 2019-05-21 | 北京达佳互联信息技术有限公司 | 广告点击率的预估方法、装置及服务器和存储介质 |
| CN110929206A (zh) * | 2019-11-20 | 2020-03-27 | 腾讯科技（深圳）有限公司 | 点击率预估方法、装置、计算机可读存储介质和设备 |
| CN113010780A (zh) * | 2021-03-11 | 2021-06-22 | 北京三快在线科技有限公司 | 一种模型训练以及点击率预估方法及装置 |
| CN113763031A (zh) * | 2021-07-27 | 2021-12-07 | 清华大学 | 一种商品推荐方法、装置、电子设备及存储介质 |
| CN113887694A (zh) * | 2020-07-01 | 2022-01-04 | 复旦大学 | 一种注意力机制下基于特征表征的点击率预估模型 |
| CN115456039A (zh) * | 2022-07-29 | 2022-12-09 | 天翼云科技有限公司 | 点击率预估模型训练方法、点击率预估方法及电子设备 |
-
2023
- 2023-07-20 CN CN202310891849.1A patent/CN116611497B/zh active Active
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107622086A (zh) * | 2017-08-16 | 2018-01-23 | 北京京东尚科信息技术有限公司 | 一种点击率预估方法和装置 |
| CN109784537A (zh) * | 2018-12-14 | 2019-05-21 | 北京达佳互联信息技术有限公司 | 广告点击率的预估方法、装置及服务器和存储介质 |
| CN110929206A (zh) * | 2019-11-20 | 2020-03-27 | 腾讯科技（深圳）有限公司 | 点击率预估方法、装置、计算机可读存储介质和设备 |
| CN113887694A (zh) * | 2020-07-01 | 2022-01-04 | 复旦大学 | 一种注意力机制下基于特征表征的点击率预估模型 |
| CN113010780A (zh) * | 2021-03-11 | 2021-06-22 | 北京三快在线科技有限公司 | 一种模型训练以及点击率预估方法及装置 |
| CN113763031A (zh) * | 2021-07-27 | 2021-12-07 | 清华大学 | 一种商品推荐方法、装置、电子设备及存储介质 |
| CN115456039A (zh) * | 2022-07-29 | 2022-12-09 | 天翼云科技有限公司 | 点击率预估模型训练方法、点击率预估方法及电子设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116611497B (zh) | 2023-10-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109508584B (zh) | 视频分类的方法、信息处理的方法以及服务器 | |
| US20190108242A1 (en) | Search method and processing device | |
| CN110569427B (zh) | 一种多目标排序模型训练、用户行为预测方法及装置 | |
| CN110069709B (zh) | 意图识别方法、装置、计算机可读介质及电子设备 | |
| CN110717099B (zh) | 一种推荐影片的方法及终端 | |
| CN109522450B (zh) | 一种视频分类的方法以及服务器 | |
| CN107545276B (zh) | 联合低秩表示和稀疏回归的多视角学习方法 | |
| CN107590505B (zh) | 联合低秩表示和稀疏回归的学习方法 | |
| CN111522996A (zh) | 视频片段的检索方法和装置 | |
| CN116822651A (zh) | 基于增量学习的大模型参数微调方法、装置、设备及介质 | |
| WO2024041483A1 (zh) | 一种推荐方法及相关装置 | |
| CN116108267A (zh) | 一种推荐方法及相关设备 | |
| CN116611497B (zh) | 一种点击率预估模型训练方法和装置 | |
| CN114155388B (zh) | 一种图像识别方法、装置、计算机设备和存储介质 | |
| CN116910357A (zh) | 一种数据处理方法及相关装置 | |
| CN114860967A (zh) | 一种模型训练的方法、信息推荐的方法以及装置 | |
| CN113742525A (zh) | 自监督视频哈希学习方法、系统、电子设备及存储介质 | |
| CN115017413A (zh) | 推荐方法、装置、计算设备及计算机存储介质 | |
| CN117150053A (zh) | 多媒体信息推荐模型训练方法、推荐方法及装置 | |
| CN114118411A (zh) | 图像识别网络的训练方法、图像识别方法及装置 | |
| CN114049634B (zh) | 一种图像识别方法、装置、计算机设备和存储介质 | |
| CN115689648B (zh) | 应用于定向投放的用户信息处理方法及系统 | |
| US20230092545A1 (en) | Image data analytics using neural networks for automated design evaluation | |
| CN116028617B (zh) | 资讯推荐方法、装置、设备、可读存储介质及程序产品 | |
| CN117454138A (zh) | 一种融合gbdt和神经网络的推荐排序模型训练方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |