CN117611282A - 训练点击率预测模型和点击率预测的方法和装置 - Google Patents

训练点击率预测模型和点击率预测的方法和装置 Download PDF

Info

Publication number
CN117611282A
CN117611282A CN202311562339.6A CN202311562339A CN117611282A CN 117611282 A CN117611282 A CN 117611282A CN 202311562339 A CN202311562339 A CN 202311562339A CN 117611282 A CN117611282 A CN 117611282A
Authority
CN
China
Prior art keywords
commodity
click rate
user
user behavior
rate prediction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311562339.6A
Other languages
English (en)
Inventor
夏浩耘
张菡
赵晋媛
耿伟峰
王松林
刘林
徐夙龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Wodong Tianjun Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Wodong Tianjun Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN202311562339.6A priority Critical patent/CN117611282A/zh
Publication of CN117611282A publication Critical patent/CN117611282A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Item recommendations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/901—Indexing; Data structures therefor; Storage structures
    • G06F16/9017—Indexing; Data structures therefor; Storage structures using directory or table look-up
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques
    • G06F18/232—Non-hierarchical techniques
    • G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
    • G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Databases & Information Systems (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Strategic Management (AREA)
  • Software Systems (AREA)
  • General Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Development Economics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本公开的实施例公开了训练点击率预测模型和点击率预测的方法和装置。该方法的具体实施方式包括：获取训练样本和初始的点击率预测模型，其中，训练样本包括：用户行为序列、候选商品向量、用户属性特征、上下文特征；基于乘积量化的方法从用户行为序列中检索出与候选商品向量相似的用户行为子序列；将用户行为子序列输入点击率预测模型中的深度兴趣网络，得到基于用户历史兴趣的表示；将基于用户历史兴趣的表示与候选商品向量、用户属性特征、上下文特征一起输入点击率预测模型中的深度表示网络，输出预测的点击率；基于预测的点击率调整点击率预测模型的参数。解决了用户行为序列建模中的用户子序列提取时间复杂度高、相似性计算精度低的问题。

Description

训练点击率预测模型和点击率预测的方法和装置
技术领域
本公开的实施例涉及计算机技术领域，具体涉及训练点击率预测模型和点击率预测的方法和装置。
背景技术
精排是一般搜索推荐系统中的重要部分，在召回和粗排之后，通过构建二分类(是否点击)的点击率(CTR，Click Through Rate)预估问题，对于粗排后的商品进行打分排序。为了个性化地预估不同用户对待排序商品的点击率，考虑用户的历史行为序列，可以大大提高CTR模型的效果。现在主流的方法是使用深度兴趣网络(DIN，Deep Interest Network)来建模用户的历史行为，提取用户历史行为序列特征，再结合商品特征与用户特征完成CTR预估。使用更长的用户行为序列时能更加充分地表示用户的长期兴趣，进一步提高CTR模型的效果。然而，使用DIN建模历史行为序列时，对应每个历史行为都需要使一个激活单元(Activation Unit)计算当前商品和历史交互商品之间的相似度，当序列过长时，线上的算力服务压力较大。
针对用户长历史行为序列线上计算复杂度高的问题，目前主流解决办法是对用户行为流进行用户子序列(SBS，Sub Behavior Sequence)提取，从而缩短行为流的长度。在电商场景中，用户的历史行为序列的每一个元素为商品，所以用户子序列提取实际上就是根据目标商品，挑选出行为序列中相关的商品。
一种做法是类似基于搜索的用户兴趣建模(SIM，Search-based User InterestModeling)，用当前交互商品的某种属性对行为流进行过滤，直接得到子序列，虽然SIM过滤之后的行为流一般较短，但是SIM的过滤逻辑比较粗暴，容易忽略其他有效信息；另一种做法是端到端目标注意力模型(ETA，End-to-end Target Attention)，用当前商品特征去查找历史行为流中最相似的前k个商品，ETA采用SimHash结合汉明距离的方式，使得点积的计算复杂度从O(n)降到O(1)，但ETA会在近似计算时会产生较大精度损失；还有一种做法是两阶段训练，离线建模长期行为流，线上仅对于短期行为流实时计算，减少实时计算的行为序列长度，但是离线从长期行为流提取的是长期兴趣与用户偏好不是“千物千面”的，无法动态地与当前商品进行特征交互，也无法捕捉实时的用户行为特点。
发明内容
本公开的实施例提出了训练点击率预测模型和点击率预测的方法和装置。
第一方面，本公开的实施例提供了一种训练点击率预测模型的方法，包括：获取训练样本和初始的点击率预测模型，其中，所述训练样本包括：用户行为序列、候选商品向量、用户属性特征、上下文特征；基于乘积量化的方法从所述用户行为序列中检索出与所述候选商品向量相似的用户行为子序列；将所述用户行为子序列输入所述点击率预测模型中的深度兴趣网络，得到基于用户历史兴趣的表示；将所述基于用户历史兴趣的表示与候选商品向量、用户属性特征、上下文特征一起输入所述点击率预测模型中的深度表示网络，输出预测的点击率；基于预测的点击率调整所述点击率预测模型的参数。
在一些实施例中，所述基于乘积量化的方法从所述用户行为序列中检索出与所述候选商品向量相似的用户行为子序列，包括：将所述用户行为序列和候选商品向量分别均匀地划分成预定组，得到每个商品的至少一组子向量，其中，用户行为序列包括历史交互商品向量；基于所述用户行为序列和候选商品向量进行k均值聚类，得到乘积量化聚类中心矩阵的初始值；在乘积量化聚类中心矩阵中查找与每组子向量最接近的聚类中心，并根据查找到的聚类中心在所述乘积量化聚类中心矩阵中的位置对每个商品进行量化编码；基于商品的量化编码从所述用户行为序列中确定出与候选商品向量最相似的预定数目个用户行为组成用户行为子序列。
在一些实施例中，所述方法还包括通过如下步骤进行预训练：随机初始化用户行为序列和候选商品向量；基于向量相似度计算方法从所述用户行为序列中检索出与所述候选商品向量最相似的用户行为子序列；将查找到的用户行为子序列通过所述点击率预测模型得到预测结果；基于所述预测结果调整用户行为序列和候选商品向量。
在一些实施例中，所述方法还包括：基于预测的点击率调整乘积量化聚类中心矩阵。
在一些实施例中，所述基于商品的量化编码从所述用户行为序列中确定出与候选商品向量相似的预定数目个用户行为组成用户行为子序列，包括：从索引文件中根据所述用户行为序列中各商品的量化编码查找与候选商品向量的量化编码距离最近的预定数目个用户行为组成用户行为子序列，其中，所述索引文件通过以下步骤生成：获取全量商品的量化码表；对于乘积量化聚类中心矩阵，计算每个子空间中两两类中心的距离，构成类中心距离查找表；将类中心距离查找表和全量商品的量化码表写入索引文件中。
在一些实施例中，所述方法还包括：基于乘积量化过程中的向量相似度损失调整所述点击率预测模型的参数、商品向量和乘积量化聚类中心矩阵。
第二方面，本公开的实施例提供了一种点击率预测方法，包括：接收包括上下文信息和商品信息的用户请求；根据所述上下文信息和所述商品信息召回候选商品集；获取用户属性特征和上下文特征以及每个候选商品的商品向量和用户行为序列；对于每个候选商品，将用户行为序列与该候选商品的商品向量、用户属性特征、上下文特征一起输入根据第一方面中任一项所述的方法训练的点击率预测模型，输出该候选商品的预测的点击率。
第三方面，本公开的实施例提供了一种训练点击率预测模型的装置，包括：获取单元，被配置成获取训练样本和初始的点击率预测模型，其中，所述训练样本包括：用户行为序列、候选商品向量、用户属性特征、上下文特征；检索单元，被配置成基于乘积量化的方法从所述用户行为序列中检索出与所述候选商品向量相似的用户行为子序列；表示单元，被配置成将所述用户行为子序列输入所述点击率预测模型中的深度兴趣网络，得到基于用户历史兴趣的表示；预测单元，被配置成将所述基于用户历史兴趣的表示与候选商品向量、用户属性特征、上下文特征一起输入所述点击率预测模型中的深度表示网络，输出预测的点击率；调整单元，被配置成基于预测的点击率调整所述点击率预测模型的参数。
在一些实施例中，所述检索单元进一步被配置成：将所述用户行为序列和候选商品向量分别均匀地划分成预定组，得到每个商品的至少一组子向量，其中，用户行为序列包括历史交互商品向量；基于所述用户行为序列和候选商品向量进行k均值聚类，得到乘积量化聚类中心矩阵的初始值；在乘积量化聚类中心矩阵中查找与每组子向量最接近的聚类中心，并根据查找到的聚类中心在所述乘积量化聚类中心矩阵中的位置对每个商品进行量化编码；基于商品的量化编码从所述用户行为序列中确定出与候选商品向量最相似的预定数目个用户行为组成用户行为子序列。
在一些实施例中，所述装置还包括预训练单元，被配置成通过如下步骤进行预训练：随机初始化用户行为序列和候选商品向量；基于向量相似度计算方法从所述用户行为序列中检索出与所述候选商品向量最相似的用户行为子序列；将查找到的用户行为子序列通过所述点击率预测模型得到预测结果；基于所述预测结果调整用户行为序列和候选商品向量。
在一些实施例中，所述调整单元进一步被配置成：基于预测的点击率调整乘积量化聚类中心矩阵。
在一些实施例中，所述检索单元进一步被配置成：从索引文件中根据所述用户行为序列中各商品的量化编码查找与候选商品向量的量化编码距离最近的预定数目个用户行为组成用户行为子序列，其中，所述索引文件通过以下步骤生成：获取全量商品的量化码表；对于乘积量化聚类中心矩阵，计算每个子空间中两两类中心的距离，构成类中心距离查找表；将类中心距离查找表和全量商品的量化码表写入索引文件中。
在一些实施例中，所述调整单元进一步被配置成：基于乘积量化过程中的向量相似度损失调整所述点击率预测模型的参数、商品向量和乘积量化聚类中心矩阵。
第四方面，本公开的实施例提供了一种点击率预测装置，包括：接收单元，被配置成接收包括上下文信息和商品信息的用户请求；召回单元，被配置成根据所述上下文信息和所述商品信息召回候选商品集；获取单元，被配置成获取用户属性特征和上下文特征以及每个候选商品的商品向量和用户行为序列；预测单元，被配置成对于每个候选商品，将用户行为序列与该候选商品的商品向量、用户属性特征、上下文特征一起输入第一方面中任一项所述的方法训练的点击率预测模型，输出该候选商品的预测的点击率。
第五方面，本公开的实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个计算机程序，当所述一个或多个计算机程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如第一方面中任一项所述的方法。
第六方面，本公开的实施例提供了一种计算机可读介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如第一方面中任一项所述的方法。
本公开的实施例提供的训练点击率预测模型和点击率预测的方法和装置，针对超长用户行为序列建模中的用户子序列提取时间复杂度高、相似性计算精度低的问题，我们采用基于向量量化的检索技术，实现高效精准的长期兴趣建模。我们提出一种基于乘积量化(PQ，Product Quantization)的超长行为序列建模的方法。与ETA类似的是，本申请同样用目标商品表示去查找用户行为序列中最相似的k个商品，但计算方式不是用SimHash来计算相似度，而是采用量化后的向量通过查找中心距离查找表计算相似度，提高了相似性计算的精度。并且可以借鉴召回索引联合训练(Poeem)的方式，将量化过程放到模型训练中，进一步减少量化损失，提高子序列提取的准确性。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：
图1是本公开的一个实施例可以应用于其中的示例性系统架构图；
图2是根据本公开的训练点击率预测模型的方法的一个实施例的流程图；
图3a-3d是根据本公开的训练点击率预测模型的方法的应用场景的示意图；
图4是根据本公开的点击率预测方法的一个实施例的流程图；
图5是根据本公开的训练点击率预测模型的装置的一个实施例的结构示意图；
图6是根据本公开的点击率预测装置的一个实施例的结构示意图；
图7是适于用来实现本公开的实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本公开作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本公开。
图1示出了可以应用本公开实施例的训练点击率预测模型的方法、训练点击率预测模型的装置、点击率预测方法或点击率预测装置的示例性系统架构100。
如图1所示，系统架构100可以包括终端101、102，网络103、数据库服务器104和服务器105。网络103用以在终端101、102，数据库服务器104与服务器105之间提供通信链路的介质。网络103可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户110可以使用终端101、102通过网络103与服务器105进行交互，以接收或发送消息等。终端101、102上可以安装有各种客户端应用，例如模型训练类应用、搜索推荐类应用、购物类应用、支付类应用、网页浏览器和即时通讯工具等。
这里的终端101、102可以是硬件，也可以是软件。当终端101、102为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving Picture Experts Group Audio Layer III，动态影像专家压缩标准音频层面3)、膝上型便携计算机和台式计算机等等。当终端101、102为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。
数据库服务器104可以是提供各种服务的数据库服务器。例如数据库服务器中可以存储有训练样本集。训练样本集中包含有大量的训练样本。其中，训练样本可以包括用户行为序列、候选商品向量、用户属性特征、上下文特征，其中，用户行为序列是用户历史交互商品的向量集合，用户点击、购买过的商品都会记录下来，根据商品的SKU生成商品向量，用于表征商品的特征。这里的候选商品是指用户点击过的商品，所以期望的点击率是1。这样，用户110也可以通过终端101、102，从数据库服务器104所存储的训练样本集中选取训练样本。
服务器105也可以是提供各种服务的服务器，例如对终端101、102上显示的各种应用提供支持的后台服务器。后台服务器可以利用终端101、102发送的训练样本集中的训练样本，对初始模型进行训练，并可以将训练生成的点击率预测模型发送给终端101、102。这样，用户可以应用生成的点击率预测模型进行点击率预测。
这里的数据库服务器104和服务器105同样可以是硬件，也可以是软件。当它们为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当它们为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务)，也可以实现成单个软件或软件模块。在此不做具体限定。数据库服务器104和服务器105也可以为分布式系统的服务器，或者是结合了区块链的服务器。数据库服务器104和服务器105也可以是云服务器，或者是带人工智能技术的智能云计算服务器或智能云主机。
需要说明的是，本公开实施例所提供的训练点击率预测模型的方法或点击率预测方法一般由服务器105执行。相应地，训练点击率预测模型的装置或点击率预测装置一般也设置于服务器105中。
需要指出的是，在服务器105可以实现数据库服务器104的相关功能的情况下，系统架构100中可以不设置数据库服务器104。
应该理解，图1中的终端、网络、数据库服务器和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端、网络、数据库服务器和服务器。
继续参见图2，其示出了根据本公开的训练点击率预测模型的方法的一个实施例的流程200。该训练点击率预测模型的方法可以包括以下步骤：
步骤201，获取训练样本和初始的点击率预测模型。
在本实施例中，训练点击率预测模型的方法的执行主体(例如，图1中的服务器105)可以获取训练样本。其中，训练样本包括：用户行为序列、候选商品向量、用户属性特征、上下文特征。用户行为序列是用户历史交互商品的向量。用户属性特征用于表征用户ID、性别、年龄、地理位置等信息；候选商品向量用于表征商品的价格、品牌、类别、属性等信息；上下文特征用于表征时间、天气、促销等与推荐场景相关的信息，上下文特征用以区分当前物料所属的用户偏好场景。这些特征可以用于描述用户、商品和环境等因素，以提高推荐效果。
点击率预测模型的结构如图3a所示。模型将用户属性特征、上下文特征、候选商品向量、超长的用户行为序列作为输入。其中对于用户行为序列，先使用基于乘积量化的方法检索出前k个与目标商品相关的行为，然后使用深度兴趣网络来进行用户兴趣建模。本申请提出的超长序列建模方法可以作为一个插件，加入到现有的各类CTR预测模型中。
步骤202，基于乘积量化的方法从用户行为序列中检索出与候选商品向量相似的用户行为子序列。
在本实施例中，将高维的向量用户行为序列拆分为大小相等的块，称为子向量，将这些子向量中的每一个分配给其最近的质心(向量的聚类中心)，将这些质心值替换为唯一ID(量化编码)，即每个ID代表一个质心。乘积量化(PQ,Product Quantization)可大幅压缩高维向量以减少97％的内存，并使最近邻搜索速度提高5.5倍。通过计算用户行为序列中每个商品向量的量化编码与候选商品向量的量化编码之间的相似度就能快速查找与候选商品相似的历史交互商品。比原始的精确匹配的方式计算用户行为序列中每个商品向量与候选商品向量之间的相似度的计算量小很多。
模型采用将用户行为序列的商品表征成向量之后，用乘积量化得到量化后的商品向量，再用目标商品去用户行为序列中查找相似度前k的商品，构成用户行为子序列，参与深度兴趣网络的训练。量化参数可以与模型参数同步训练。
在本实施例的一些可选的实现方式中，所述基于乘积量化的方法从所述用户行为序列中检索出与所述候选商品向量相似的用户行为子序列，包括：将所述用户行为序列和候选商品向量分别均匀地划分成预定组，得到每个商品的至少一组子向量，其中，用户行为序列包括历史交互商品向量；基于所述用户行为序列和候选商品向量进行k均值聚类，得到乘积量化聚类中心矩阵的初始值；在乘积量化聚类中心矩阵中查找与每组子向量最接近的聚类中心，并根据查找到的聚类中心在所述乘积量化聚类中心矩阵中的位置对每个商品进行量化编码；基于商品的量化编码从所述用户行为序列中确定出与候选商品向量最相似的预定数目个用户行为组成用户行为子序列。
图3b描述了商品使用乘积量化来建立索引的过程。输入为用户行为序列中商品的原始向量表示，为L个d维向量。先将每个商品的向量(表示为e)均匀地划分为D组，有e＝[e1,..,eD]，每一组子向量为乘积量化类中心矩阵中，针对每组子向量，都有K个维度为d/D的聚类中心，整体形状为[K,D,d/D]。针对商品向量中的每个子向量找到与其最近的聚类中心，/>其中，/>代表第j个子向量的第k个聚类中心，定义一个操作φ，φ(e)＝[c1,…,cD]为量化编码后的商品编码。最后输出的商品乘积量化编码为L个D维的向量。
步骤203，将用户行为子序列输入点击率预测模型中的深度兴趣网络，得到基于用户历史兴趣的表示。
在本实施例中，深度兴趣网络(DIN，Deep Interest Network)来建模用户的历史行为，提取用户历史行为序列特征，再结合商品特征与用户特征完成CTR预测。
步骤204，将基于用户历史兴趣的表示与候选商品向量、用户属性特征、上下文特征一起输入点击率预测模型中的深度表示网络，输出预测的点击率。
在本实施例中，深度表示网络根据4种特征预测点击率。
步骤205，基于预测的点击率调整点击率预测模型的参数。
在本实施例中，根据预测的点击率与真实点击率的差异调整点击率预测模型的参数，重复执行步骤201-205直到损失值收敛到预定值，或者训练次数达到最大迭代次数。可选地，还可更新商品向量表示和乘积量化的聚类中心矩阵。
在本实施例的一些可选的实现方式中，所述方法还包括通过如下步骤进行预训练：随机初始化用户行为序列和候选商品向量；基于向量相似度计算方法从所述用户行为序列中检索出与所述候选商品向量最相似的用户行为子序列；将查找到的用户行为子序列通过所述点击率预测模型得到预测结果；基于所述预测结果调整用户行为序列和候选商品向量。
样本中的各种商品的向量表示可通过上述方法训练得到。可通过余弦相似度等向量相似度计算方法计算用户行为序列中每个历史交互商品的向量与候选商品向量之间的相似度。将相似度最高的预定数目个历史交互商品的向量组成用户行为子序列。通过端到端的联合训练过程调整用户行为序列和候选商品向量。
可通过上述方法采用全量商品训练出全量商品的向量表示。该过程也被称为预训练。
在本实施例的一些可选的实现方式中，所述方法还包括：基于预测的点击率调整乘积量化聚类中心矩阵。基于预训练得到的商品向量表示，使用k均值聚类，得到乘积量化的聚类中心的初始值。再基于乘积量化的方法来进行用户行为子序列查找，进行CTR预测模型的训练，并更新商品向量表示和乘积量化聚类中心矩阵。
完整的训练过程如图3c所示：
a.预训练：随机初始化商品向量表示，使用精确匹配进行用户行为子序列查找，在CTR预测模型中通过端到端方式预训练商品向量表示。
b.量化参数初始化：基于当前得到的商品向量表示，使用k均值聚类，得到乘积量化的聚类中心矩阵的初始值。
c.端到端联合训练：使用基于乘积量化的方法来进行用户行为子序列查找，进行CTR预测模型的训练，并更新商品向量表示和乘积量化的聚类中心矩阵。
d.模型导出：导出CTR预测模型参数，商品索引。
在本实施例的一些可选的实现方式中，所述基于乘积量化的方法从所述用户行为序列中检索出与所述候选商品向量相似的用户行为子序列，包括：从索引文件中根据所述用户行为序列中各商品的量化编码查找与候选商品向量的量化编码距离最近的预定数目个用户行为组成用户行为子序列，其中，所述索引文件通过以下步骤生成：获取全量商品的量化码表；对于乘积量化聚类中心矩阵，计算每个子空间中两两类中心的距离，构成类中心距离查找表；将类中心距离查找表和全量商品的量化码表写入索引文件中。
索引建立包含一下几个步骤：
a.参数导出，首先导出模型参数中，乘积量化的类中心矩阵。其次导出全量商品的量化码表；
b.计算类中心距离查找表，对于类中心矩阵，计算每个子空间中两两类中心的距离，构成类中心距离查找表；
c.写索引，将类中心距离查找表和全量商品量化码表写入索引文件中，与模型一起导出。
可直接通过建立好的类中心距离查找表和全量商品量化码表来查询商品之间的距离作为相似度。
系统耗时计算主要在用户历史行为子序列的查找上，如果直接采用精确查找的计算方式，则需要L*d次浮点运算，L是序列长度，d是原始向量表示的维度。如果采用乘积量化索引，对于每个商品，离线需要K*D次浮点运算进行建立索引，线上需要L*D次复杂度为O(1)的查找。K是乘积量化参数，代表每个子空间的聚类中心数，通常在256以内，D为划分的子空间的数量。因为查找运算速度较快，如果忽略查找运算，理论上这里序列长度L可以不受限制。
在本实施例的一些可选的实现方式中，所述方法还包括：基于乘积量化过程中的向量相似度损失调整所述点击率预测模型的参数、商品向量和乘积量化聚类中心矩阵。把索引构建的过程迁移到模型训练中，进行参数化学习，将量化过程的向量相似度损失也作为模型学习的目标之一，联合CTR预估任务损失共同优化，实现端到端的联合训练框架。
可选地，对行为流进行子序列提取可替换为用当前交互商品属性标签进行对行为流进行过滤，或直接精确计算相似性历史行为流中最相似的前k个商品。在线建模长期用户行为子序列可替换为离线计算。
进一步参考图4，其示出了点击率预测方法的一个实施例的流程400。该点击率预测方法的流程400，包括以下步骤：
步骤401，接收包括上下文信息和商品信息的用户请求。
在本实施例中，用户在浏览电商终端产品时，推荐系统对后台发送当前用户请求，该请求包含了用户请求的时间、商品的基本信息以及当前所属的场景等信息，该请求经过解析系统后进入下一阶段。
步骤402，根据上下文信息和商品信息召回候选商品集。
在本实施例中，系统接收到用户发送来的请求后，会从物料库中提取与当前用户兴趣度相关的商品，并放入召回系统中，召回系统会依据不同场景的不同物料进行商品召回，这些从庞大推荐系统库中召回的商品候选会进入下一个阶段。
步骤403，获取用户属性特征和上下文特征以及每个候选商品的商品向量和用户行为序列。
在本实施例中，可直接获取事先已经通过LSTM等网络提取出的用户属性特征和上下文特征。还可获取通过上文中端到端联合训练过程中生成的商品向量，从而得到用户历史交互商品的向量，组成了用户行为序列。
步骤404，对于每个候选商品，将用户行为序列与该候选商品的商品向量、用户属性特征、上下文特征一起输入点击率预测模型，输出该候选商品的预测的点击率。
在本实施例中，点击率预测模型为根据流程200所述的方法训练的点击率预测模型。如图3d所示，输入是用户行为序列和目标商品，用户行为序列中每个元素为一个商品，输出是最相似的前k个商品构成的行为子序列，然后进入到深度兴趣网络得到基于用户历史兴趣的表示，最后与其他特征一起送入CTR预估模型中，预测得到点击率。
其中检索过程具体来说，先查找目标商品和用户行为中的商品的量化表示，利用类中心距离查找表，查表得到目标商品和行为中商品的距离，从而选出相似度最大的k个商品。
进一步参考图5，作为对上述各图所示方法的实现，本公开提供了一种训练点击率预测模型的装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图5所示，本实施例的训练点击率预测模型的装置500包括：获取单元501、检索单元502、表示单元503、预测单元504和调整单元505。其中，获取单元501，被配置成获取训练样本和初始的点击率预测模型，其中，所述训练样本包括：用户行为序列、候选商品向量、用户属性特征、上下文特征；检索单元502，被配置成基于乘积量化的方法从所述用户行为序列中检索出与所述候选商品向量相似的用户行为子序列；表示单元503，被配置成将所述用户行为子序列输入所述点击率预测模型中的深度兴趣网络，得到基于用户历史兴趣的表示；预测单元504，被配置成将所述基于用户历史兴趣的表示与候选商品向量、用户属性特征、上下文特征一起输入所述点击率预测模型中的深度表示网络，输出预测的点击率；调整单元505，被配置成基于预测的点击率调整所述点击率预测模型的参数。
在本实施例中，训练点击率预测模型的装置500的接收单元获取单元501、检索单元502、表示单元503、预测单元504和调整单元505的具体处理可以参考图2对应实施例中的步骤201、步骤202、步骤203、步骤204和步骤205。
在本实施例的一些可选的实现方式中，所述检索单元502进一步被配置成：将所述用户行为序列和候选商品向量分别均匀地划分成预定组，得到每个商品的至少一组子向量，其中，用户行为序列包括历史交互商品向量；基于所述用户行为序列和候选商品向量进行k均值聚类，得到乘积量化聚类中心矩阵的初始值；在乘积量化聚类中心矩阵中查找与每组子向量最接近的聚类中心，并根据查找到的聚类中心在所述乘积量化聚类中心矩阵中的位置对每个商品进行量化编码；基于商品的量化编码从所述用户行为序列中确定出与候选商品向量最相似的预定数目个用户行为组成用户行为子序列。
在本实施例的一些可选的实现方式中，所述装置还包括预训练单元(附图中未示出)，被配置成通过如下步骤进行预训练：随机初始化用户行为序列和候选商品向量；基于向量相似度计算方法从所述用户行为序列中检索出与所述候选商品向量最相似的用户行为子序列；将查找到的用户行为子序列通过所述点击率预测模型得到预测结果；基于所述预测结果调整用户行为序列和候选商品向量。
在本实施例的一些可选的实现方式中，所述调整单元505进一步被配置成：基于预测的点击率调整乘积量化聚类中心矩阵。
在本实施例的一些可选的实现方式中，所述检索单元502进一步被配置成：从索引文件中根据所述用户行为序列中各商品的量化编码查找与候选商品向量的量化编码距离最近的预定数目个用户行为组成用户行为子序列，其中，所述索引文件通过以下步骤生成：获取全量商品的量化码表；对于乘积量化聚类中心矩阵，计算每个子空间中两两类中心的距离，构成类中心距离查找表；将类中心距离查找表和全量商品的量化码表写入索引文件中。
在本实施例的一些可选的实现方式中，所述调整单元505进一步被配置成：基于乘积量化过程中的向量相似度损失调整所述点击率预测模型的参数、商品向量和乘积量化聚类中心矩阵。
进一步参考图6，作为对上述各图所示方法的实现，本公开提供了一种点击率预测装置的一个实施例，该装置实施例与图4所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图6所示，本实施例的点击率预测装置600包括：接收单元601、召回单元602、获取单元603和预测单元604。其中，接收单元601，被配置成接收包括上下文信息和商品信息的用户请求；召回单元602，被配置成根据所述上下文信息和所述商品信息召回候选商品集；获取单元603，被配置成获取用户属性特征和上下文特征以及每个候选商品的商品向量和用户行为序列；预测单元604，被配置成对于每个候选商品，将用户行为序列与该候选商品的商品向量、用户属性特征、上下文特征一起输入装置500训练的点击率预测模型，输出该候选商品的预测的点击率。
需要说明的是，本公开的技术方案中，所涉及的用户个人信息的采集、收集、更新、分析、处理、使用、传输、存储等方面，均符合相关法律法规的规定，被用于合法的用途，且不违背公序良俗。对用户个人信息采取必要措施，防止对用户个人信息数据的非法访问，维护用户个人信息安全、网络安全和国家安全。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质。
一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个计算机程序，当所述一个或多个计算机程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现流程200或400所述的方法。
一种计算机可读介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现流程200或400所述的方法。
图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序，来执行各种适当的动作和处理。在RAM 703中，还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
设备700中的多个部件连接至I/O接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如训练点击率预测模型的方法。例如，在一些实施例中，训练点击率预测模型的方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时，可以执行上文描述的训练点击率预测模型的方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行训练点击率预测模型的方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以为分布式系统的服务器，或者是结合了区块链的服务器。服务器也可以是云服务器，或者是带人工智能技术的智能云计算服务器或智能云主机。服务器可以为分布式系统的服务器，或者是结合了区块链的服务器。服务器也可以是云服务器，或者是带人工智能技术的智能云计算服务器或智能云主机。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (11)

1.一种训练点击率预测模型的方法，包括：
获取训练样本和初始的点击率预测模型，其中，所述训练样本包括：用户行为序列、候选商品向量、用户属性特征、上下文特征；
基于乘积量化的方法从所述用户行为序列中检索出与所述候选商品向量相似的用户行为子序列；
将所述用户行为子序列输入所述点击率预测模型中的深度兴趣网络，得到基于用户历史兴趣的表示；
将所述基于用户历史兴趣的表示与候选商品向量、用户属性特征、上下文特征一起输入所述点击率预测模型中的深度表示网络，输出预测的点击率；
基于预测的点击率调整所述点击率预测模型的参数。
2.根据权利要求1所述的方法，其中，所述基于乘积量化的方法从所述用户行为序列中检索出与所述候选商品向量相似的用户行为子序列，包括：
将所述用户行为序列和候选商品向量分别均匀地划分成预定组，得到每个商品的至少一组子向量，其中，用户行为序列包括历史交互商品向量；
基于所述用户行为序列和候选商品向量进行k均值聚类，得到乘积量化聚类中心矩阵的初始值；
在乘积量化聚类中心矩阵中查找与每组子向量最接近的聚类中心，并根据查找到的聚类中心在所述乘积量化聚类中心矩阵中的位置对每个商品进行量化编码；
基于商品的量化编码从所述用户行为序列中确定出与候选商品向量最相似的预定数目个用户行为组成用户行为子序列。
3.根据权利要求1所述的方法，其中，所述方法还包括通过如下步骤进行预训练：
随机初始化用户行为序列和候选商品向量；
基于向量相似度计算方法从所述用户行为序列中检索出与所述候选商品向量最相似的用户行为子序列；
将查找到的用户行为子序列通过所述点击率预测模型得到预测结果；
基于所述预测结果调整用户行为序列和候选商品向量。
4.根据权利要求2所述的方法，其中，所述方法还包括：
基于预测的点击率调整乘积量化聚类中心矩阵。
5.根据权利要求2所述的方法，其中，所述基于乘积量化的方法从所述用户行为序列中检索出与所述候选商品向量相似的用户行为子序列，包括：
从索引文件中根据所述用户行为序列中各商品的量化编码查找与候选商品向量的量化编码距离最近的预定数目个用户行为组成用户行为子序列，
其中，所述索引文件通过以下步骤生成：
获取全量商品的量化码表；
对于乘积量化聚类中心矩阵，计算每个子空间中两两类中心的距离，构成类中心距离查找表；
将类中心距离查找表和全量商品的量化码表写入索引文件中。
6.根据权利要求1所述的方法，其中，所述方法还包括：
基于乘积量化过程中的向量相似度损失调整所述点击率预测模型的参数、商品向量和乘积量化聚类中心矩阵。
7.一种点击率预测方法，包括：
接收包括上下文信息和商品信息的用户请求；
根据所述上下文信息和所述商品信息召回候选商品集；
获取用户属性特征和上下文特征以及每个候选商品的商品向量和用户行为序列；
对于每个候选商品，将用户行为序列与该候选商品的商品向量、用户属性特征、上下文特征一起输入根据权利要求1-6中任一项所述的方法训练的点击率预测模型，输出该候选商品的预测的点击率。
8.一种训练点击率预测模型的装置，包括：
获取单元，被配置成获取训练样本和初始的点击率预测模型，其中，所述训练样本包括：用户行为序列、候选商品向量、用户属性特征、上下文特征；
检索单元，被配置成基于乘积量化的方法从所述用户行为序列中检索出与所述候选商品向量相似的用户行为子序列；
表示单元，被配置成将所述用户行为子序列输入所述点击率预测模型中的深度兴趣网络，得到基于用户历史兴趣的表示；
预测单元，被配置成将所述基于用户历史兴趣的表示与候选商品向量、用户属性特征、上下文特征一起输入所述点击率预测模型中的深度表示网络，输出预测的点击率；
调整单元，被配置成基于预测的点击率调整所述点击率预测模型的参数。
9.一种点击率预测装置，包括：
接收单元，被配置成接收包括上下文信息和商品信息的用户请求；
召回单元，被配置成根据所述上下文信息和所述商品信息召回候选商品集；
获取单元，被配置成获取用户属性特征和上下文特征以及每个候选商品的商品向量和用户行为序列；
预测单元，被配置成对于每个候选商品，将用户行为序列与该候选商品的商品向量、用户属性特征、上下文特征一起输入根据权利要求1-6中任一项所述的方法训练的点击率预测模型，输出该候选商品的预测的点击率。
10.一种电子设备，包括：
一个或多个处理器；
存储装置，其上存储有一个或多个计算机程序，
当所述一个或多个计算机程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一项所述的方法。
11.一种计算机可读介质，其上存储有计算机程序，其中，所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述的方法。
CN202311562339.6A 2023-11-22 2023-11-22 训练点击率预测模型和点击率预测的方法和装置 Pending CN117611282A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311562339.6A CN117611282A (zh) 2023-11-22 2023-11-22 训练点击率预测模型和点击率预测的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311562339.6A CN117611282A (zh) 2023-11-22 2023-11-22 训练点击率预测模型和点击率预测的方法和装置

Publications (1)

Publication Number Publication Date
CN117611282A true CN117611282A (zh) 2024-02-27

Family

ID=89945567

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311562339.6A Pending CN117611282A (zh) 2023-11-22 2023-11-22 训练点击率预测模型和点击率预测的方法和装置

Country Status (1)

Country Link
CN (1) CN117611282A (zh)

Similar Documents

Publication Publication Date Title
JP7403605B2 (ja) マルチターゲット画像テキストマッチングモデルのトレーニング方法、画像テキスト検索方法と装置
CN113590645B (zh) 搜索方法、装置、电子设备及存储介质
CN114612759B (zh) 视频处理方法、查询视频的方法和模型训练方法、装置
CN111581926B (zh) 文案生成方法、装置、设备和计算机可读存储介质
CN109993627B (zh) 推荐方法、推荐模型的训练方法、装置和存储介质
CN111581923A (zh) 文案生成方法、装置、设备和计算机可读存储介质
CN113806588B (zh) 搜索视频的方法和装置
CN114782719B (zh) 一种特征提取模型的训练方法、对象检索方法以及装置
CN112541125A (zh) 序列标注模型训练方法、装置及电子设备
CN112395487A (zh) 信息推荐方法、装置、计算机可读存储介质及电子设备
CN113407851A (zh) 基于双塔模型的确定推荐信息的方法、装置、设备和介质
CN113450172B (zh) 一种商品推荐方法和装置
CN112765478A (zh) 用于推荐内容的方法、装置、设备、介质和程序产品
CN112765452A (zh) 搜索推荐方法、装置及电子设备
CN110827101A (zh) 一种店铺推荐的方法和装置
CN113378015B (zh) 搜索方法、装置、电子设备、存储介质和程序产品
CN112905885B (zh) 向用户推荐资源的方法、装置、设备、介质和程序产品
CN114037059A (zh) 预训练模型、模型的生成方法、数据处理方法及装置
WO2020211616A1 (zh) 用于处理用户交互信息的方法和装置
CN117271884A (zh) 确定推荐内容的方法、装置、电子设备及存储介质
CN115169489B (zh) 数据检索方法、装置、设备以及存储介质
CN113656689B (zh) 模型生成方法和网络信息的推送方法
CN112860626B (zh) 一种文档排序方法、装置及电子设备
CN117611282A (zh) 训练点击率预测模型和点击率预测的方法和装置
CN114328855A (zh) 文档查询方法、装置、电子设备和可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination