CN113888216A - 广告信息推送方法、装置、电子设备及存储介质 - Google Patents

广告信息推送方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN113888216A
CN113888216A CN202111166925.XA CN202111166925A CN113888216A CN 113888216 A CN113888216 A CN 113888216A CN 202111166925 A CN202111166925 A CN 202111166925A CN 113888216 A CN113888216 A CN 113888216A
Authority
CN
China
Prior art keywords
advertisement information
click rate
user
features
feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111166925.XA
Other languages
English (en)
Inventor
谢雨
侯瑞杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing QIYI Century Science and Technology Co Ltd
Original Assignee
Beijing QIYI Century Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing QIYI Century Science and Technology Co Ltd filed Critical Beijing QIYI Century Science and Technology Co Ltd
Priority to CN202111166925.XA priority Critical patent/CN113888216A/zh
Publication of CN113888216A publication Critical patent/CN113888216A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241—Advertisements
    • G06Q30/0251—Targeted advertisements
    • G06Q30/0255—Targeted advertisements based on user history
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound

Abstract

本申请提供的一种广告信息推送方法、装置、电子设备及存储介质，应用于计算机技术领域，所述方法包括：获取待推送给用户的多个候选广告信息，所述候选广告信息包括：至少两种不同数据类型的广告内容；分别从单个所述候选广告信息的至少两种不同数据类型的广告内容中，提取联合表征特征；基于所述用户的历史偏好记录，预测所述用户对每个所述联合表征特征的预测点击率；将所述预测点击率最高的候选广告信息作为目标广告信息，以将所述目标广告信息推送给所述用户。使得点击率预测可以考虑到广告信息中不同数据类型的广告内容之间相互作用的整体视觉效果，提高了广告信息推送的准确性。

Description

广告信息推送方法、装置、电子设备及存储介质
技术领域
本申请属于计算机技术领域，特别是涉及一种广告信息推送方法、装置、电子设备及存储介质。
背景技术
随着信息技术的发展，人们可以通过终端设备中的应用程序获取到越来越丰富的信息，其中应用程序的提供方也可以通过终端设备向用户推送各种广告信息以供用户查看和点击查看。
而相关技术中为了保证所推送的广告信息可以被用户点击，通常会基于用户以往对于各种广告信息的点击情况来预测用户对于广告信息的点击率，然后依据所预测的点击率来决定是否向用户推送该广告信息。
但是这种方式过于依赖于各种广告信息的历史点击记录，若出现没有历史点击记录或者是历史点击记录较少的广告信息，显然将很难准确地对广告信息的点击率进行预测。
发明内容
有鉴于此，本申请提供一种广告信息推送方法、装置、电子设备及存储介质，以解决相关技术中由于过于依赖于各种广告信息的历史点击记录，在没有点击记录或者是点击记录较少的广告信息时，无法保证所预测广告信息的点击率的准确性低的技术问题。
本申请第一方面提供一种广告信息推送方法，所述方法包括：
获取待推送给用户的多个候选广告信息，所述候选广告信息包括：至少两种不同数据类型的广告内容；
分别从单个所述候选广告信息的至少两种不同数据类型的广告内容中，提取联合表征特征；
基于所述用户的历史偏好记录，预测所述用户对每个所述联合表征特征的预测点击率；
将所述预测点击率最高的候选广告信息作为目标广告信息，以将所述目标广告信息推送给所述用户。
可选地，所述分别从单个所述候选广告信息的至少两种不同数据类型的广告内容中，提取联合表征特征，包括：
分别将单个候选广告信息中的至少两种不同数据类型的广告内容进行串联，得到串联广告内容；
通过预先训练的表征模型从所述串联广告内容中提取联合表征特征。
可选地，所述基于所述用户的历史偏好记录，预测所述用户对每个所述联合表征特征的预测点击率，包括：
将所述联合表征特征输入所述用户相对应的点击率预测模型，得到所述联合表征特征的预测点击率，其中所述点击率预测模型是基于所述用户的历史偏好记录预先训练得到。
可选地，所述点击率预测模型至少包括：深层网络和浅层网络，所述联合表征特征至少包括：稠密特征和稀疏特征；
所述将所述联合表征特征输入所述用户相对应的点击率预测模型，得到所述联合表征特征的预测点击率，包括：
将所述稠密特征输入至所述深层网络进行预测，得到信息点击率，并将所述稀疏特征输入至所述浅层网络进行预测，得到视觉点击率；
将所述信息点击率和所述视觉点击率进行加权求和，得到所述联合表征特征的预测点击率。
可选地，所述浅层网络至少包括：注意力网络和交叉网络；
所述将所述稀疏特征输入至所述浅层网络进行预测，得到视觉点击率，包括：
将所述稀疏特征输入至注意力网络进行权重调整；
将权重调整后的稀疏特征输入至所述交叉网络进行预测，得到视觉点击率。
可选地，所述将所述稀疏特征输入至注意力网络进行权重调整，包括：
将所述稀疏特征与预设嵌入特征进行拼接，得到拼接特征；
对所述拼接特征进行压缩操作后进行提取操作，得到权重特征；
将所述权重特征和所述稀疏特征进行特征融合，以对所述稀疏特征进行权重调整。
可选地，在所述将所述目标广告信息推送给所述用户之后，所述方法还包括：
获取所述用户对于所述目标广告信息的实际点击率；
通过所述实际点击率对所述目标广告信息进行标注后，通过标注后的目标广告信息对所述点击率预测模型进行更新训练。
依据本申请的第二方面，提供的一种广告信息推送装置，所述装置包括：
获取模块，用于获取待推送给用户的多个候选广告信息，所述候选广告信息包括：至少两种不同数据类型的广告内容；
预测模块，用于分别从单个所述候选广告信息的至少两种不同数据类型的广告内容中，提取联合表征特征；
基于所述用户的历史偏好记录，预测所述用户对每个所述联合表征特征的预测点击率；
推送模块，用于将所述预测点击率最高的候选广告信息作为目标广告信息，以将所述目标广告信息推送给所述用户。
可选地，所述预测模块，还用于：
分别将单个候选广告信息中的至少两种不同数据类型的广告内容进行串联，得到串联广告内容；
通过预先训练的表征模型从所述串联广告内容中提取联合表征特征。
可选地，所述预测模块，还用于：
将所述联合表征特征输入所述用户相对应的点击率预测模型，得到所述联合表征特征的预测点击率，其中所述点击率预测模型是基于所述用户的历史偏好记录预先训练得到。
可选地，所述点击率预测模型至少包括：深层网络和浅层网络，所述联合表征特征至少包括：稠密特征和稀疏特征；
可选地，所述预测模块，还用于：
将所述稠密特征输入至所述深层网络进行预测，得到信息点击率，并将所述稀疏特征输入至所述浅层网络进行预测，得到视觉点击率；
将所述信息点击率和所述视觉点击率进行加权求和，得到所述联合表征特征的预测点击率。
可选地，所述浅层网络至少包括：注意力网络和交叉网络；
可选地，所述预测模块，还用于：
将所述稀疏特征输入至注意力网络进行权重调整；
将权重调整后的稀疏特征输入至所述交叉网络进行预测，得到视觉点击率。
可选地，所述预测模块，还用于：
将所述稀疏特征与预设嵌入特征进行拼接，得到拼接特征；
对所述拼接特征进行压缩操作后进行提取操作，得到权重特征；
将所述权重特征和所述稀疏特征进行特征融合，以对所述稀疏特征进行权重调整。
可选的，所述装置还包括：更新模块，用于：
获取所述用户对于所述目标广告信息的实际点击率；
通过所述实际点击率对所述目标广告信息进行标注后，通过标注后的目标广告信息对所述点击率预测模型进行更新训练。
依据本申请第三方面，提供一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述任一方面所述的广告信息推送方法。
依据本申请第四方面，提供一种计算机可读存储介质，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现上述任一方面所述的广告信息推送方法。
针对相关技术，本申请具备如下优点：
本申请提供的一种广告信息推送方法、装置、电子设备及存储介质，通过利用从单个候选广告信息中不同数据类型的广告内容中提取到的联合表征特征，来基于用户的历史偏好信息预测得到预测点击率，筛选出预测点击率最高的目标广告信息来推送给用户，使得点击率预测可以考虑到广告信息中不同数据类型的广告内容之间相互作用的整体视觉效果，提高了广告信息推送的准确性。
上述说明仅是本申请技术方案的概述，为了能够更清楚了解本申请的技术手段，而可依照说明书的内容予以实施，并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂，以下特举本申请的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本申请的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1是本申请实施例提供的一种广告信息推送方法的步骤流程图；
图2是本申请实施例提供的一种点击率预测系统的原理示意图；
图3是本申请实施例提供的另一种广告信息推送方法的步骤流程图之一；
图4是本申请实施例提供的另一种广告信息推送方法的步骤流程图之二；
图5是本申请实施例提供的另一种广告信息推送方法的步骤流程图之三；
图6是本申请实施例提供的一种点击率预测模型的原理示意图之一；
图7是本申请实施例提供的一种点击率预测模型的原理示意图之二；
图8是本申请实施例提供的一种模型更新方法的步骤流程图；
图9是本申请实施例提供的一种广告信息推送装置的结构框图；
图10是本申请实施例提供的一种电子设备的结构框图。
具体实施方式
下面将参照附图更详细地描述本申请的示例性实施例。虽然附图中显示了本申请的示例性实施例，然而应当理解，可以以各种形式实现本申请而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本申请，并且能够将本申请的范围完整的传达给本领域的技术人员。
图1是本申请实施例提供的一种广告信息推送方法的步骤流程图，所述方法包括：
步骤101，获取待推送给用户的多个候选广告信息，所述候选广告信息包括：至少两种不同数据类型的广告内容。
在本申请实施例中，客户端是终端设备中具有广告信息推送功能的应用程序。候选广告信息是可向客户端进行推送的广告信息，该候选广告信息可以是包含广告内容的信息，该广告内容可以是文本、图片、音频、视频、音视频等多种数据类型的内容，例如图像信息可以是静态的图片信息，也可以是动态的视频信息，还可以是具有文字链接功能的文本信息，从而候选广告信息可以基于广告版面模板对图像信息、视频信息和文本信息进行排布得到；当然候选广告信息也可以是通过仅对视频信息和文本进行排布得到，具体可以根据实际需求设置，此处不做限定。
在实际应用中，客户端在启动后或者运行过程中可以主动向服务端发送广告信息推送请求来触发服务端执行本申请实施例的步骤，或者是服务端按照默认设置的推送条件自动触发执行本申请实施例的步骤，例如在达到特定时间点或者是在检测到用户登录时长超过时长阈值等情况下，服务端自动触发执行本申请实施例的步骤，以向客户端进行广告信息推送，本申请实施例对其不做限定。
步骤102，分别从单个所述候选广告信息的至少两种不同数据类型的广告内容中，提取联合表征特征。
在本申请实施例中，数据类型是指广告内容的数据维度，该数据类型可以是图片类型、文本类型、视频类型、音频类型等。可以理解，由于候选广告信息中不同数据类型的广告内容是直接用于向用户展示并供用户进行点击操作，比如用户只是对广告信息中的某部分文本信息，或者是图片信息中的某个人物，或者是视频信息中的某个地点位置的色彩感兴趣，就会对广告信息进行点击操作，但是仅将某部分文本信息或图片新中的某个人物单独作为广告信息向用户展示后，用户不会对其进行点击。这是因为广告信息的呈现给用户的显示效果不仅是单一数据类型的广告内容所决定的，而是广告信息中的不同数据类型的广告内容组合所呈现的整体视觉效果。例如用户在看到某种图片信息后才会选择去查看其中的文本信息，又或者是用户在看到某段文本信息后才会选择去查看图片信息，因此如果我们可以提取到广告信息里面的这些显示特征来作为预测广告信息点击率的依据，将可以更好地对用户点击率进行预测。
具体的，本申请实施例通过将候选广告信息中所包含的至少两种不同数据类型的广告内容进行串联后，从所得到的串联信息中提取特征向量，以得到候选广告信息相对应的联合表征特征，该联合表征特征可以表征到用户对于单个候选广告信息中至少两种类型的广告内容之间相互作用的整体特征。
步骤103，基于所述用户的历史偏好记录，预测所述用户对每个所述联合表征特征的预测点击率。
在本申请实施例中，历史偏好记录是指该用户对于在当前时间点之前推送给其的广告信息的点击记录。具体的，服务端可以基于历史偏好记录来训练得到点击率预测模型，同样的该点击率预测模型也是通过将历史偏好记录中不同数据类型的广告内容进行串联得到联合表征特征进行预先训练得到的，使得点击率预测模型可以依据用户对于不同数据类型的广告内容相互组合的整体视觉效果的偏好来预测个候选广告信息的预测点击率，而不仅仅是基于用户对于单一数据类型的广告内容的点击情况来进行预测，即使在用户的历史点击记录较少的情况下，也可以是基于用户的视觉偏好来对新的候选广告信息的点击率进行预测。当然还可以通过历史偏好记录构建相似度匹配模型，通过将历史偏好记录中对于不同数据类型的广告内容组合得到的参考联合表征特征，与本次提取所得到的联合表征特征进行相似度比对，依据所得到的相似度来确定预测点击率，相似度越高则预测点击率越高。当然还可以基于历史偏好记录构建其他类型的数学模型来计算预测点击率，具体可以根据实际需求设置，此处不做限定。
步骤104，将所述预测点击率最高的候选广告信息作为目标广告信息，以将所述目标广告信息推送给所述用户。
在本申请实施例中，服务端通过基于得到的预测点击率的取值大小进行排序，从而筛选出取值最高的预测点击率所对应的候选广告信息作为目标广告信息；或者服务端还可以通过点击率阈值，将预测点击率大于点击率阈值的候选广告信息作为目标广告信息；或者是预测点击率的数值排序前三个的候选广告信息作为目标广告信息。从而将所筛选出的目标广告信息推送至用户所使用的客户端，使得所推送的信息可以符合用户对于不同数据类型的广告内容组合所达到整体视觉效果的偏好，提高广告信息的点击率和转化率。
示例性的，参照图2示例性地示出本申请实施例提供的一种点击率预测系统10的原理示意图，其中算法模块11通过联合表征信息来训练得到点击预测模型，并且将联合表征信息提供给引擎模块12，并将训练得到的点击预测模型交由预测模块13；引擎模块12依据联合表征信息来从信息点击记录中提取联合表征特征来构造请求，并将构造请求交由预测模块13；预测模块13依据构造请求来生成各候选广告信息的预测点击率后再将预测点击率发送给引擎模块13。可以理解，引擎模块13与客户端通信连接，从而可以从客户端采集信息点击记录并想客户端依据预测点击率来发送目标广告信息。
本申请实施例通过利用从单个候选广告信息中不同数据类型的广告内容中提取到的联合表征特征，来基于用户的历史偏好信息预测得到预测点击率，筛选出预测点击率最高的目标广告信息来推送给用户，使得点击率预测可以考虑到广告信息中不同数据类型的广告内容之间相互作用的整体视觉效果，提高了广告信息推送的准确性。
可选地，参照图3，所述步骤102，可以包括：
步骤1021，分别将单个候选广告信息中的至少两种不同数据类型的广告内容进行串联，得到串联广告内容。
在本申请实施例中，由于不同数据类型的广告内容的数据格式不同，因此需要将不同数据类型的广告内容通过格式转换进行归一化处理。具体的，可以将不同类型的广告内容通过转换函数进行编码，转换为统一编码格式的数据以得到串联广告内容，编码格式可以适应于后续表征模型的输入要求设置，本申请实施例对其不做限定。
步骤1022，通过预先训练的表征模型从所述串联广告内容中提取联合表征特征。
在本申请实施例中，该预先训练的表征模型可以是基于Fasttext(一种词向量与文本分类工具)、Word2vec(一群用来产生词向量的相关模型)，GloVe(一种词义的向量化表示算法)、Transformer(机器翻译)，BERT(Bidirectional Encoder Representation fromTransformers，双向语言表征器)等算法的机器学习模型，本申请实施例对其不加以限定。
服务端通过将串联广告内容输入至表征模型进行特征提取，从而得到可以表征候选广告信息中不同数据类型的广告内容之间相互作用所达到整体视觉效果的联合表征特征。
本申请实施例通过从将不同数据类型的广告内容进行串联后得到的串联广告内容中提取联合表征特征，使得联合表征特征可以表征不同数据类型的广告内容之间相互作用所达到整体视觉效果，提高了后续点击率预测的准确性。
可选地，所述步骤103，可以包括：将所述联合表征特征输入所述用户相对应的点击率预测模型，得到所述联合表征特征的预测点击率，其中所述点击率预测模型是基于所述用户的历史偏好记录预先训练得到。
在本申请实施例中，该点击率预测模型可以基于LR(Logistic Regression，逻辑回归)，GBDT(Gradient Boosting Decision Tree，梯度提升决策树)，FM(FactorizationMachine，因子分解机)，FFM(Field-aware Factorization Machines，场感知因子分解机)，DNN(Deep Neural Networks，深度神经网络)等算法的数学模型，具体可以根据实际需求设置，此处不做限定。
服务端通过预先基于用户的历史偏好记录对点击率预测模型进行训练，使得点击率预测模型可以识别历史偏好记录中用户对于不同数据类型的广告内容所组成的整体视觉效果的偏好，从而在实际使用过程通过调用训练过的预测点击率来对于从候选广告信息中提取到的联合表征特征进行预测，提高了点击率预测的准确性。
可选地，所述点击率预测模型至少包括：深层网络和浅层网络，所述联合表征特征至少包括：稠密特征和稀疏特征，参照图4，所述步骤103，可以包括：
步骤1031，将所述稠密特征输入至所述深层网络进行预测，得到信息点击率，并将所述稀疏特征输入至所述浅层网络进行预测，得到视觉点击率。
在本申请实施例中，待训练的点击率预测模型可以采用wide&deep模型中，也就是包含有deep(深层)网络和wide(浅层)网络两个算法网络。稠密特征是指从样本信息中提取到的高数据类型特征，而稀疏特征是指从样本信息中提取到的低数据类型特征。
在进行模型训练前，需要获取用于对历史广告信息的点击记录，从中提取用户历史点击过的不同数据类型的广告内容作为训练样本，例如历史图像信息和历史文本信息，以供后续样本特征提取使用。点击率预测模型中的深度网络可以提取到稠密特征中点击序列前后的例如图像、文本等至少两个不同数据类型的广告内容的向量表示，在序列中距离越近的历史点击信息，其两者之间特征向量也越相似度，从视觉点击率也越高。然后将稀疏特征输入至浅层网络中，由于稀疏特征是至少两种不同数据类型的广告内容中提取得到的，因此可通过浅层网络提取出每个历史点击信息的视觉相似度，举例来说，用户对于包含有风景视觉效果的信息的视觉相似度越大，其对包含有风景相关广告内容的广告信息的视觉点击率也越大。
步骤1032，将所述信息点击率和所述视觉点击率进行加权求和，得到所述联合表征特征的预测点击率。
在本申请实施例中，通过将深层网络输出的信息点击率和浅层网络输出的视觉点击率进行融合，由于深层网络具有良好的泛化能力，而浅层网络具有良好的记忆能力，因此本申请实施例通过改造网络结构，融合多模态空间信息，提取高阶表达，让模型更容易学习到联合表征信息的特点，从而提升对广告信息进行点击率预测的准确性。具体的，可以通过为信息点击率和视觉点击率设置相应的权重，从而将信息点击率和视觉点击率进行加权求和得到的融合点击率作为预测点击率，使得预测点击率可以同时反映用户对于信息和视觉层面的偏好。
可选地，所述浅层网络至少包括：注意力网络和交叉网络，参照图5，所述步骤1031，可以包括：
步骤10311，将所述稀疏特征输入至注意力网络进行权重调整。
步骤10312，将权重调整后的稀疏特征输入至所述交叉网络进行预测，得到视觉点击率。
在本申请实施例中，参照图6，其中是在wide&deep模型中加入了一层attention(注意力)网络+cross(交叉)网络来提取用户对广告的视觉特征来预测视觉点击率。
其中，首先可以通过将召回项目中的联合表征特征(Collaborative Embeddingfiled 1,2,...,k)输入至注意力网络来对联合表征特征中的向量权重进行调整，然后通过将权重调整后的联合表征特征输入至交叉网络来提取各联合表征特征之间的相似度作为视觉点击率。当然输入至浅层网络的联合表征特征是稀疏特征(Sparse Features)，而输入至深层网络(Deep Network)的联合表征特征是稠密特征(Dense Features)，ActivationUnit为激活单元，其中包含有对联合表征特征进行激活的激活函数。通过对深层网络和浅层网络的数据进行融合，以作为点击率预测模型的输出结果，在输出层(Output Layer)进行输出。
可选地，所述步骤10311，可以包括：
A1，将所述稀疏特征与预设嵌入特征进行拼接，得到拼接特征；
A2，对所述拼接特征进行压缩操作后进行提取操作，得到权重特征；
A3，将所述权重特征和所述稀疏特征进行特征融合，以对所述稀疏特征进行权重调整。
在本申请实施例中，参照图7，其中预训练特征是指当前提取到的联合表征特征，而Embedding是指已有的预设嵌入特征，该预设嵌入特征可以是召回项目中的联合表征特征，用于网络学习其中的权重参数。首先将联合表征特征与预设嵌入特征做sum pooling操作，以进行拼接得到拼接特征，然后通过权联机层进行压缩(squeeze)操作和提取(extract)操作，最后把所得到的特征信息(residual，残差)再乘到之前输入的联合表征特征上，以对联合表征特征进行权重调整，完成attention操作。具体的，可通过将调整权重后的联合表征特征之间进行交叉计算余弦相似度以作为特征相似度，然后基于各联合表征特征的整体特征相似度计算各联合表征特征的视觉点击率。
可选地，参照图8，步骤104之后，所述方法还包括：
步骤201，获取所述用户对于所述目标广告信息的实际点击率。
在本申请实施例中，服务端在向用户所在的客户端推送目标广告信息后，还可从客户端接收用于对于目标广告信息的实际点击率，也就是用户实际对于目标广告信息的点击情况。
步骤202，通过所述实际点击率对所述目标广告信息进行标注后，通过标注后的目标广告信息对所述点击率预测模型进行更新训练。
在本申请实施例中，服务端通过对客户端反馈的实际点击率和之前推测得到的预测点击率进行比对，将实际点击率作为标准点击率来对点击率预测模型进行迭代训练，从而使得点击率预测模型可以不断优化，让预测结果更加符合用户的兴趣偏好。
本申请实施例通过客户端的实际点击率的反馈机制来对点击率预测模型进行更新，使得点击率预测模型可以根据预测的效果来进行更新，进一步提高了点击率预测的准确性。
图9是本申请实施例提供的一种广告信息推送装置30的结构示意图，所述装置包括：
获取模块301，用于获取待推送给用户的多个候选广告信息，所述候选广告信息包括：至少两种不同数据类型的广告内容；
预测模块302，用于分别从单个所述候选广告信息的至少两种不同数据类型的广告内容中，提取联合表征特征；
基于所述用户的历史偏好记录，预测所述用户对每个所述联合表征特征的预测点击率；
推送模块303，用于将所述预测点击率最高的候选广告信息作为目标广告信息，以将所述目标广告信息推送给所述用户。
可选地，所述预测模块302，还用于：
分别将单个候选广告信息中的至少两种不同数据类型的广告内容进行串联，得到串联广告内容；
通过预先训练的表征模型从所述串联广告内容中提取联合表征特征。
可选地，所述预测模块302，还用于：
将所述联合表征特征输入所述用户相对应的点击率预测模型，得到所述联合表征特征的预测点击率，其中所述点击率预测模型是基于所述用户的历史偏好记录预先训练得到。
可选地，所述点击率预测模型至少包括：深层网络和浅层网络，所述联合表征特征至少包括：稠密特征和稀疏特征；
可选地，所述预测模块302，还用于：
将所述稠密特征输入至所述深层网络进行预测，得到信息点击率，并将所述稀疏特征输入至所述浅层网络进行预测，得到视觉点击率；
将所述信息点击率和所述视觉点击率进行加权求和，得到所述联合表征特征的预测点击率。
可选地，所述浅层网络至少包括：注意力网络和交叉网络；
可选地，所述预测模块302，还用于：
将所述稀疏特征输入至注意力网络进行权重调整；
将权重调整后的稀疏特征输入至所述交叉网络进行预测，得到视觉点击率。
可选地，所述预测模块302，还用于：
将所述稀疏特征与预设嵌入特征进行拼接，得到拼接特征；
对所述拼接特征进行压缩操作后进行提取操作，得到权重特征；
将所述权重特征和所述稀疏特征进行特征融合，以对所述稀疏特征进行权重调整。
可选的，所述装置还包括：更新模块，用于：
获取所述用户对于所述目标广告信息的实际点击率；
通过所述实际点击率对所述目标广告信息进行标注后，通过标注后的目标广告信息对所述点击率预测模型进行更新训练。
本申请实施例通过利用从单个候选广告信息中不同数据类型的广告内容中提取到的联合表征特征，来基于用户的历史偏好信息预测得到预测点击率，筛选出预测点击率最高的目标广告信息来推送给用户，使得点击率预测可以考虑到广告信息中不同数据类型的广告内容之间相互作用的整体视觉效果，提高了广告信息推送的准确性。
对于上述服务器的实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
本申请实施例还提供了一种电子设备，如图10所示，包括处理器401、通信接口402、存储器403和通信总线404，其中，处理器401，通信接口402，存储器403通过通信总线404完成相互间的通信，
存储器403，用于存放计算机程序；
处理器401，用于执行存储器403上所存放的程序时，实现上述任一广告信息推送方法的步骤。
上述终端提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，简称EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述终端与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory，简称RAM)，也可以包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。可选地，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital Signal Processing，简称DSP)、专用集成电路(Application SpecificIntegrated Circuit，简称ASIC)、现场可编程门阵列(Field－Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本申请提供的又一实施例中，还提供了一种计算机可读存储介质，该计算机可读存储介质中存储有指令，当其在计算机上运行时，使得计算机执行上述实施例中任一所述的广告信息推送方法。
在本申请提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一所述的广告信息推送方法。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的较佳实施例而已，并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本申请的保护范围内。

Claims (10)

1.一种广告信息推送方法，其特征在于，所述方法包括：
获取待推送给用户的多个候选广告信息，所述候选广告信息包括：至少两种不同数据类型的广告内容；
分别从单个所述候选广告信息的至少两种不同数据类型的广告内容中，提取联合表征特征；
基于所述用户的历史偏好记录，预测所述用户对每个所述联合表征特征的预测点击率；
将所述预测点击率最高的候选广告信息作为目标广告信息，以将所述目标广告信息推送给所述用户。
2.根据权利要求1所述的方法，其特征在于，所述分别从单个所述候选广告信息的至少两种不同数据类型的广告内容中，提取联合表征特征，包括：
分别将单个候选广告信息中的至少两种不同数据类型的广告内容进行串联，得到串联广告内容；
通过预先训练的表征模型从所述串联广告内容中提取联合表征特征。
3.根据权利要求1所述的方法，其特征在于，所述基于所述用户的历史偏好记录，预测所述用户对每个所述联合表征特征的预测点击率，包括：
将所述联合表征特征输入所述用户相对应的点击率预测模型，得到所述联合表征特征的预测点击率，其中所述点击率预测模型是基于所述用户的历史偏好记录预先训练得到。
4.根据权利要求3所述的方法，其特征在于，所述点击率预测模型至少包括：深层网络和浅层网络，所述联合表征特征至少包括：稠密特征和稀疏特征；
所述将所述联合表征特征输入所述用户相对应的点击率预测模型，得到所述联合表征特征的预测点击率，包括：
将所述稠密特征输入至所述深层网络进行预测，得到信息点击率，并将所述稀疏特征输入至所述浅层网络进行预测，得到视觉点击率；
将所述信息点击率和所述视觉点击率进行加权求和，得到所述联合表征特征的预测点击率。
5.根据权利要求4所述的消息推送方法，其特征在于，所述浅层网络至少包括：注意力网络和交叉网络；
所述将所述稀疏特征输入至所述浅层网络进行预测，得到视觉点击率，包括：
将所述稀疏特征输入至注意力网络进行权重调整；
将权重调整后的稀疏特征输入至所述交叉网络进行预测，得到视觉点击率。
6.根据权利要求5所述的消息推送方法，其特征在于，所述将所述稀疏特征输入至注意力网络进行权重调整，包括：
将所述稀疏特征与预设嵌入特征进行拼接，得到拼接特征；
对所述拼接特征进行压缩操作后进行提取操作，得到权重特征；
将所述权重特征和所述稀疏特征进行特征融合，以对所述稀疏特征进行权重调整。
7.根据权利要求1所述的消息推送方法，其特征在于，在所述将所述目标广告信息推送给所述用户之后，所述方法还包括：
获取所述用户对于所述目标广告信息的实际点击率；
通过所述实际点击率对所述目标广告信息进行标注后，通过标注后的目标广告信息对所述点击率预测模型进行更新训练。
8.一种广告信息推送装置，其特征在于，所述装置包括：
获取模块，用于获取待推送给用户的多个候选广告信息，所述候选广告信息包括：至少两种不同数据类型的广告内容；
预测模块，用于分别从单个所述候选广告信息的至少两种不同数据类型的广告内容中，提取联合表征特征；
基于所述用户的历史偏好记录，预测所述用户对每个所述联合表征特征的预测点击率；
推送模块，用于将所述预测点击率最高的候选广告信息作为目标广告信息，以将所述目标广告信息推送给所述用户。
9.一种电子设备，其特征在于，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现权利要求1至7中任一所述的广告信息推送方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现权利要求1至7中任一所述的广告信息推送方法。
CN202111166925.XA 2021-09-30 2021-09-30 广告信息推送方法、装置、电子设备及存储介质 Pending CN113888216A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111166925.XA CN113888216A (zh) 2021-09-30 2021-09-30 广告信息推送方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111166925.XA CN113888216A (zh) 2021-09-30 2021-09-30 广告信息推送方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN113888216A true CN113888216A (zh) 2022-01-04

Family

ID=79005263

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111166925.XA Pending CN113888216A (zh) 2021-09-30 2021-09-30 广告信息推送方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN113888216A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114820060A (zh) * 2022-04-26 2022-07-29 北京有竹居网络技术有限公司 一种广告推荐方法、装置、设备及介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114820060A (zh) * 2022-04-26 2022-07-29 北京有竹居网络技术有限公司 一种广告推荐方法、装置、设备及介质

Similar Documents

Publication Publication Date Title
CN111444428B (zh) 基于人工智能的信息推荐方法、装置、电子设备及存储介质
CN110489639B (zh) 一种内容推荐方法及装置
WO2022041979A1 (zh) 一种信息推荐模型的训练方法和相关装置
US20190163742A1 (en) Method and apparatus for generating information
CN111966914B (zh) 基于人工智能的内容推荐方法、装置和计算机设备
CN106973244A (zh) 使用弱监督为图像配字幕
CN111353091A (zh) 信息处理方法、装置、电子设备及可读存储介质
JP6745384B2 (ja) 情報をプッシュするための方法及び装置
CN111783903B (zh) 文本处理方法、文本模型的处理方法及装置、计算机设备
WO2021155691A1 (zh) 用户画像生成方法、装置、存储介质及设备
CN112364204A (zh) 视频搜索方法、装置、计算机设备及存储介质
CN113806588B (zh) 搜索视频的方法和装置
CN113392236A (zh) 一种数据分类方法、计算机设备及可读存储介质
CN109117442B (zh) 一种应用推荐方法及装置
CN114330966A (zh) 一种风险预测方法、装置、设备以及可读存储介质
CN114896454B (zh) 一种基于标签分析的短视频数据推荐方法及系统
CN114996511A (zh) 一种针对跨模态视频检索模型的训练方法及装置
CN113888216A (zh) 广告信息推送方法、装置、电子设备及存储介质
CN110827078B (zh) 一种信息推荐方法、装置、设备及存储介质
CN116956183A (zh) 多媒体资源推荐方法、模型训练方法、装置及存储介质
CN111382232A (zh) 问答信息处理方法、装置及计算机设备
CN116431912A (zh) 用户画像推送方法及装置
CN113792163B (zh) 多媒体推荐方法、装置、电子设备及存储介质
US11907508B1 (en) Content analytics as part of content creation
CN114417944B (zh) 识别模型训练方法及装置、用户异常行为识别方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination