CN117541323A - 用于训练模型的方法和装置 - Google Patents

用于训练模型的方法和装置 Download PDF

Info

Publication number
CN117541323A
CN117541323A CN202210895740.0A CN202210895740A CN117541323A CN 117541323 A CN117541323 A CN 117541323A CN 202210895740 A CN202210895740 A CN 202210895740A CN 117541323 A CN117541323 A CN 117541323A
Authority
CN
China
Prior art keywords
user
commodity
information
model
features
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210895740.0A
Other languages
English (en)
Inventor
刘聪聪
赵夕炜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Wodong Tianjun Information Technology Co Ltd
Original Assignee
Beijing Wodong Tianjun Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Wodong Tianjun Information Technology Co Ltd filed Critical Beijing Wodong Tianjun Information Technology Co Ltd
Priority to CN202210895740.0A priority Critical patent/CN117541323A/zh
Publication of CN117541323A publication Critical patent/CN117541323A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241—Advertisements
    • G06Q30/0242—Determining effectiveness of advertisements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241—Advertisements
    • G06Q30/0251—Targeted advertisements
    • G06Q30/0269—Targeted advertisements based on user profile or attribute
    • G06Q30/0271—Personalized advertisement
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G06Q30/0241—Advertisements
    • G06Q30/0277—Online advertisement

Landscapes

  • Business, Economics & Management (AREA)
  • Engineering & Computer Science (AREA)
  • Accounting & Taxation (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • Finance (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请公开了用于训练模型的方法和装置，涉及计算机技术领域。该方法包括：获取样本用户的用户特征、样本用户的用户行为信息、样本商品的商品基础信息、样本商品的商品附加信息；基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征；基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征；基于兴趣特征、交叉特征以及商品附加信息，训练初始教师模型，以得到目标教师模型；基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型。采用该目标学习模型对用户针对商品的操作行为进行预测时，可以提高预测准确性。

Description

用于训练模型的方法和装置
技术领域
本公开涉及计算机技术领域，具体涉及用于训练模型的方法和装置。
背景技术
对页面待展示的信息(如，广告)进行点击率预测，可以有效提升信息展示的有效率以及可以实现信息的精准投放。通常会采用深度模型对页面待展示的信息进行点击率预测，但是，所训练的深度模型会受到位置偏差的影响(即，样本数据中，信息的展示位置会影响信息的点击结果，所得到的点击结果不能真实的反映用户的点击意愿)，导致所训练的深度模型预测不准确的问题。
现有的避免位置偏差的影响的方法包括：利用结果随机(Result Randomization)或反向倾向加权(Inverse propensity weighting,IPW)方法直接估计位置偏差，或者在深度模型的离线训练期间将位置建模为特征。
然而，现有的避免位置偏差的影响的方法存在导致预测结果不准确的问题。
发明内容
本公开提供了一种用于训练模型的方法、装置、电子设备以及计算机可读存储介质。
根据本公开的第一方面，提供了一种用于训练模型的方法，包括：获取样本用户的用户特征、样本用户的用户行为信息、样本商品的商品基础信息、样本商品的商品附加信息；基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征；基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征；基于兴趣特征、交叉特征以及商品附加信息，训练初始教师模型，以得到目标教师模型；基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型。
在一些实施例中，基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征，包括：将用户行为信息与商品基础信息输入深度兴趣网络，获得兴趣网络输出的兴趣特征；其中，用户行为信息中包括样本用户针对样本商品的操作行为。
在一些实施例中，方法还包括：获取样本商品的展示页面的上下文信息；基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征，包括：基于用户特征、商品基础信息以及上下文信息，提取用户特征与商品基础信息之间的交叉特征。
在一些实施例中，基于用户特征、商品基础信息以及上下文信息，提取用户特征与商品基础信息之间的交叉特征，包括：将用户特征、商品基础信息以及上下文信息输入深度交叉网络，获得深度交叉网络输出的交叉特征。
在一些实施例中，基于兴趣特征、交叉特征以及商品附加信息，训练初始教师模型，以得到目标教师模型，包括：获取初始教师模型以及获取实际标签，其中，实际标签用于表征样本用户针对样本商品的实际操作行为；将兴趣特征、交叉特征以及商品附加信息输入初始教师模型，得到初始教师模型输出的第一标签，其中，第一标签用于表征初始教师模型预测的、样本用户针对样本商品的操作行为；采用第一标签与实际标签之间的损失，训练初始教师模型，以得到目标教师模型。
在一些实施例中，基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型，包括：获取初始学生模型；将兴趣特征、交叉特征输入初始学生模型，得到初始学生模型输出的第二标签，其中，第二标签用于表征初始学生模型预测的、样本用户针对样本商品的操作行为；获取第二标签与实际标签之间的第一损失，以及获取第二标签与第一标签之间的第二损失；采用第一损失与第二损失训练初始学生模型，以得到目标学生模型。
根据本公开的第二方面，提供了一种用于预测信息的方法，包括：获取目标用户的用户特征、目标用户的用户行为信息、目标商品的商品基础信息；基于用户行为信息以及商品基础信息，提取目标用户的兴趣特征；基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征；将兴趣特征以及交叉特征输入目标学生模型，得到预测结果，其中，预测结果用于表征目标用户针对目标商品的操作行为，目标学生模型基于第一方面的方法训练得到。
根据本公开的第三方面，提供了一种用于训练模型的装置，包括：第一获取单元，被配置为获取样本用户的用户特征、样本用户的用户行为信息、样本商品的商品基础信息、样本商品的商品附加信息；第一提取单元，被配置为基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征；第二提取单元，被配置为基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征；第一训练单元，被配置为基于兴趣特征、交叉特征以及商品附加信息，训练初始教师模型，以得到目标教师模型；第二训练单元，被配置为基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型。
在一些实施例中，第一提取单元，包括：第一提取模块，被配置为将用户行为信息与商品基础信息输入深度兴趣网络，获得兴趣网络输出的兴趣特征；其中，用户行为信息中包括样本用户针对样本商品的操作行为。
在一些实施例中，该装置还包括：上下文信息获取单元，被配置为获取样本商品的展示页面的上下文信息；第二提取单元，包括：第二提取模块，被配置为基于用户特征、商品基础信息以及上下文信息，提取用户特征与商品基础信息之间的交叉特征。
在一些实施例中，第二提取模块，包括：提取子模块，被配置为将用户特征、商品基础信息以及上下文信息输入深度交叉网络，获得深度交叉网络输出的交叉特征。
在一些实施例中，第一训练单元，包括：第一模型获取模块，被配置为获取初始教师模型以及获取实际标签，其中，实际标签用于表征样本用户针对样本商品的实际操作行为；第一预测模块，被配置为将兴趣特征、交叉特征以及商品附加信息输入初始教师模型，得到初始教师模型输出的第一标签，其中，第一标签用于表征初始教师模型预测的、样本用户针对样本商品的操作行为；第一训练模块，被配置为采用第一标签与实际标签之间的损失，训练初始教师模型，以得到目标教师模型。
在一些实施例中，第二训练单元，包括：第二模型获取模块，被配置为获取初始学生模型；第二预测模块，被配置为将兴趣特征、交叉特征输入初始学生模型，得到初始学生模型输出的第二标签，其中，第二标签用于表征初始学生模型预测的、样本用户针对样本商品的操作行为；损失计算模块，被配置为获取第二标签与实际标签之间的第一损失，以及获取第二标签与第一标签之间的第二损失；第二训练模块，被配置为采用第一损失与第二损失训练初始学生模型，以得到目标学生模型。
根据本公开的第四方面，提供了一种用于预测信息的装置，包括：第二获取单元，被配置为获取目标用户的用户特征、目标用户的用户行为信息、目标商品的商品基础信息；第三提取单元基于用户行为信息以及商品基础信息，提取目标用户的兴趣特征；第四提取单元，被配置为基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征；预测单元，被配置为将兴趣特征以及交叉特征输入目标学生模型，得到预测结果，其中，预测结果用于表征目标用户针对目标商品的操作行为，目标学生模型基于第一方面的方法训练得到。
根据本公开的第五方面，本公开的实施例提供了一种电子设备，包括：一个或多个处理器：存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如第一方面提供的用于训练模型的方法或者实现如第二方面提供的用于预测信息的方法。
根据本公开的第六方面，本公开的实施例提供了一种计算机可读存储介质，其上存储有计算机程序，其中，程序被处理器执行时实现如第一方面提供的用于训练模型的方法或者实现如第二方面提供的用于预测信息的方法。
本公开提供的用于训练模型的方法、装置，包括：获取样本用户的用户特征、样本用户的用户行为信息、样本商品的商品基础信息、样本商品的商品附加信息；基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征；基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征；基于兴趣特征、交叉特征以及商品附加信息，训练初始教师模型，以得到目标教师模型；基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型，采用该目标学习模型对用户针对商品的操作行为进行预测时，可以提高预测准确性。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本申请的限定。其中：
图1是本申请的实施例可以应用于其中的示例性系统架构图；
图2是根据本申请的用于训练模型的方法的一个实施例的流程图；
图3是根据本申请的用于训练模型的方法的另一个实施例的流程图；
图4是根据本申请的用于训练模型的方法中模型架构的示意图；
图5是根据本申请的用于预测信息的方法的一个实施例的流程图；
图6是根据本申请的用于训练模型的装置的一个实施例的结构示意图；
图7是根据本申请的用于预测信息的装置的一个实施例的结构示意图；
图8是用来实现本申请实施例的用于训练模型的方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
图1示出了可以应用本申请的用于训练模型的方法或用于训练模型的装置的实施例的示例性系统架构100。
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103可以是用户终端设备，其上可以安装有各种客户端应用，例如，模型训练类软件、数据维护类应用、图像类应用、视频类应用、搜索类应用、金融类应用等。
终端设备101、102、103可以是具有显示屏并且支持接收服务器消息的各种电子设备，包括但不限于智能手机、平板电脑、电子书阅读器、电子播放器、膝上型便携计算机和台式计算机等等。
终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是各种电子设备，当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的多个软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以获取样本用户的用户特征、样本用户的用户行为信息、样本商品的商品基础信息、样本商品的商品附加信息；基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征；基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征；基于兴趣特征、交叉特征以及商品附加信息，训练初始教师模型，以得到目标教师模型；基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型。
需要说明的是，本公开的实施例所提供的用于训练模型的方法可以由服务器105执行，相应地，用于训练模型的装置可以设置于服务器105中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
继续参考图2，示出了根据本公开的用于训练模型的方法的一个实施例的流程200，包括以下步骤：
步骤201，获取样本用户的用户特征、样本用户的用户行为信息、样本商品的商品基础信息、样本商品的商品附加信息。
在本实施例中，用于训练模型的方法的执行主体(例如图1所示的服务器)可以获取样本用户的用户特征、样本用户的用户行为信息、样本商品的商品基础信息、样本商品的商品附加信息。其中，用户特征是指用于描述用户的信息，例如用户的年龄、性别、爱好等；用户行为信息是指样本用户对商品进行的操作行为信息，例如，用户针对某商品的购买行为、用户针对商品的推广/广告信息的点击浏览行为、用户针对商品的推广/广告信息的收藏行为等；商品基础信息是指用于描述样本商品本身的信息，例如，衣服的尺寸信息、材质信息，书籍的内容摘要信息、页数信息，冰箱的参数信息等；商品附加信息是指用于描述商品的附加信息而非本身所具有的固定信息，例如，样本商品在展示页面所展示的位置信息(展位信息)、商品的广告被放置在展示页面的位置的信息等。
需要说明的是，本申请中的用户特征以及用户行为行为信息，均是在获得用户授权的情况下获取的。
步骤202，基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征。
在本实施例中，可以从用户行为信息以及商品基础信息中提取出样本用户的兴趣特征，以获得样本用户的行为(如，购买、点击、收藏)与商品的何种特征具有关联。
步骤203，基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征。
在本实施例中，可以从用户特征以及商品基础特征中提取出用户特征与商品基础信息之间的交叉特征，即，获得两种特征之间的交叉特征。
步骤204，基于兴趣特征、交叉特征以及商品附加信息，训练初始教师模型，以得到目标教师模型。
在本实施例中，可以采用兴趣特征、交叉特征以及商品附加信息，对初始教师模型进行训练，以得到训练完成的目标教师模型。教师模型是知识蒸馏训练架构中的一种模型，一般地，大模型往往是单个复杂网络或者是若干网络的集合，拥有良好的性能和泛化能力，而小模型因为网络规模较小，表达能力有限，但迭代速度快，因此，可以利用大模型(教师模型)学习到的知识去指导小模型(学生模型)训练，使得小模型具有与大模型相当的性能，但是参数数量大幅降低，从而实现模型压缩与加速，实现知识蒸馏与迁移学习在模型优化中的应用。
步骤205，基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型。
在本实施例中，可以采用兴趣特征、交叉特征以及教师模型的预测结果对初始学生模型进行多轮迭代训练，以得到训练完成的目标学生模型。学生模型是上述知识蒸馏训练结构中的另一种模型。
本实施例提供的用于训练模型的方法，获取样本用户的用户特征、样本用户的用户行为信息、样本商品的商品基础信息、样本商品的商品附加信息；基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征；基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征；基于兴趣特征、交叉特征以及商品附加信息，训练初始教师模型，以得到目标教师模型；基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型，该方法训练的目标学习模型在训练阶段，学习了教师模型的知识，而教师模型在训练时考虑了所收集的样本本身的不准确因素，即考虑了样本商品的商品附加信息(例如，样本商品展示在页面中的位置/位序信息)，教师模型在预测信息时候可以避免样本商品的商品附加信息对预测结果的影响偏差，(例如，可以避免展示位置靠前会导致样本商品具有较高的点击率，而并非该样本商品的自身特征/基础信息导致样本商品具有较高的点击率，即进行位置影响去偏)。因此，采用该方法训练的目标学习模型预测信息，可以提高预测信息的准确性。
可选地，基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征，包括：将用户行为信息与商品基础信息输入深度兴趣网络，获得兴趣网络输出的兴趣特征；其中，用户行为信息中包括样本用户针对样本商品的操作行为。
在本实施例中，可以将用户行为信息与商品基础信息输入预先训练好的深度兴趣网络(Deep Interest Network，DIN)，以基于该深度兴趣网络提取出的用户的兴趣特征。具体地，如图4所示，DIN网络以用户行为信息/用户行为序列xub和商品基础信息xta为输入，提取用户兴趣信息hdin：
hdin＝DIN(xub，xta)
可选地，用于训练模型的方法还包括：获取样本商品的展示页面的上下文信息；基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征，包括：基于用户特征、商品基础信息以及上下文信息，提取用户特征与商品基础信息之间的交叉特征。
在本实施例中，可以获取样本商品的展示页面的上下文信息，其中，该上下文信息可以是该展示页面所展示的其他商品的信息，可以是该展示页面的展示方式、展示形式、展示时间等信息。之后，基于用户特征、商品基础信息以及该上下文信息提取出三者之间的交叉特征。
在该可选地实施例中，基于用户特征、商品基础信息以及上下文信息，提取用户特征与商品基础信息之间的交叉特征，包括：将用户特征、商品基础信息以及上下文信息输入深度交叉网络，获得深度交叉网络输出的交叉特征。
在本实施例中，可以将用户特征、商品基础信息以及上下文信息输入预先训练好的深度交叉网络(Deep Cross Network，DCN)，以基于该深度交叉网络提取出三者之间的交叉特征。具体地，如图4所示，DCN网络将用户特征xup、上下文信息xc以及商品基础信息xta转换为特征交互嵌入hdcn：
hdcn＝DIN(xup，xc，xta)
继续参考图3，示出了根据本公开的用于训练模型的方法的另一个实施例的流程300，包括以下步骤：
步骤301，获取样本用户的用户特征、样本用户的用户行为信息、样本商品的商品基础信息、样本商品的商品附加信息。
步骤302，基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征。
步骤303，基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征。
步骤304，获取初始教师模型以及获取实际标签，其中，实际标签用于表征样本用户针对样本商品的实际操作行为。
在本实施例中，可以获取未经训练或者仅进行预训练的初始教师模型，以及获取用于表征样本用户针对样本商品的实际操作行为的实际标签，例如，样本商品的点击率(Click-Through rate，CTR)。
步骤305，将兴趣特征、交叉特征以及商品附加信息输入初始教师模型，得到初始教师模型输出的第一标签，其中，第一标签用于表征初始教师模型预测的、样本用户针对样本商品的操作行为。
在本实施例中，可以将兴趣特征、交叉特征以及商品附加信息输入该初始教师模型中，并得到初始教师模型输出的第一标签，该第一标签用于表征该初始教师模型所预测的、样本用户针对样本商品的操作行为。例如，如图4所示，将DIN和DCN所生成的结果拼接起来：
hs＝Concatenate(hdin，hdcn)
嵌入层(Embedding Layer)在训练时将商品附加信息嵌入ep。教师模块将整体特征和商品附加信息作为输入。基于DNN(Deep Neural Network)的编码器(Encoder)将输入转换为特征zt，即
zt＝Encoder(Concatenate(hs，ep))
之后，Zt将被输入到具有sigmoid激活函数的MLP(Multilayer Perceptron，多层感知机)中，以获得教师模型预测的即
步骤306，采用第一标签与实际标签之间的损失，训练初始教师模型，以得到目标教师模型。
在本实施例中，可以采用第一标签与实际标签之间的损失，训练初始教师模型，使训练后的模型的预测标签向实际标签逐渐靠近，以得到训练完成的目标教师模型。
例如，如图4所示，将整体特征hs和商品附加信息ep拼接并输入到教师模块中。而相应地，将hs输入到学生模块中。对于教师模块，在训练过程中教师模块的预测为第一标签真实标签为yg∈{0，1}，采用交叉熵损失来训练教师模块，即
步骤307，基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型。
本实施例中对步骤301、步骤302、步骤303、步骤307的描述与步骤201、步骤202、步骤203、步骤205的描述一致，此处不再赘述。
本实施例提供的用于训练模型的方法，相比于图2描述的实施例，具体描述了教师模型的训练方法。
可选地，基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型，包括：获取初始学生模型；将兴趣特征、交叉特征输入初始学生模型，得到初始学生模型输出的第二标签，其中，第二标签用于表征初始学生模型预测的、样本用户针对样本商品的操作行为；获取第二标签与实际标签之间的第一损失，以及获取第二标签与第一标签之间的第二损失；采用第一损失与第二损失训练初始学生模型，以得到目标学生模型。
在本实施例中，可以获取未经训练或者仅进行预训练的初始学生模型，将兴趣特征以及交叉特征输入初始学生模型，并得到该初始学生模型输出的第二标签，该第二标签用于表征初始学生模型预测的、样本用户针对样本商品的操作行为。获取第二标签与实际标签之间的第一损失，以及获取第二标签与第一标签之间的第二损失，采用第一损失与第二损失训练初始学生模型，以得到目标学生模型。
与教师模块不同的是，只有整体特征hs会被输入到学生模块中。和教师模块相同的是，基于DNN的编码器会将hs转换为嵌入zs。即
Zs＝Encoder(Concatenate(hs))
之后，zs被输入到具有sigmoid激活函数的MLP中，以获得学生模块预测的第二标签即
对于学生模块，从两个角度进行训练。首先，类似于教师模型，采用带有实际标签计算交叉熵损失：
其次，由于教师模块包含了商品附加信息，因此教师模块的中间层和逻辑层的输出包含比学生模块更多的信息。采用知识蒸馏方法来使得学生模块从教师模型中学习到商品附加信息的特征，具体包括两种知识蒸馏方式：基于中间层的特征蒸馏、基于输出结果的蒸馏。
基于中间层的特征蒸馏：使教师模型和学生模型的特征嵌入尽可能相似。为此，采用zt和zs之间的均方误差作为损失，即
基于输出结果的蒸馏：使用教师模型的预测的第一标签作为软标签，计算损失
由此，用于训练模型的方法中模型的整体损失总结为：
其中，蒸馏损失distill_loss可以是基于输出的蒸馏的即教师模型预测的第一标签与学生模型预测的第二标签之间的损失；或者，基于特征的蒸馏的MSE(zs，zt)，即，教师模型的特征提取层提取的特征、与学生模型的特征提取层提取的特征之间的损失。其中，λ表示控制知识蒸馏效果的超参数。通过知识蒸馏过程，可以将教师模块内部的附加信息蒸馏传递至学生模块。
继续参考图5，示出了根据本公开的用于预测信息的方法的一个实施例的流程500，包括以下步骤：
步骤501，获取目标用户的用户特征、目标用户的用户行为信息、目标商品的商品基础信息。
在本实施例中，用于预测信息的方法的执行主体(例如图1所示的服务器)可以获取目标用户的用户特征、目标用户的用户行为信息、目标商品的商品基础信息、目标商品的商品附加信息。其中，用户特征是指用于描述用户的信息，例如用户的年龄、性别、爱好等；用户行为信息是指样本用户对商品进行的操作行为信息，例如，用户针对某商品的购买行为、用户针对商品的推广/广告信息的点击浏览行为、用户针对商品的推广/广告信息的收藏行为等；商品基础信息是指用于描述样本商品本身的信息，例如，衣服的尺寸信息、材质信息，书籍的内容摘要信息、页数信息，冰箱的参数信息等。
步骤502，基于用户行为信息以及商品基础信息，提取目标用户的兴趣特征。
在本实施例中，可以从用户行为信息以及商品基础信息中提取出样本用户的兴趣特征，以获得样本用户的行为(如，购买、点击、收藏)与商品的何种特征具有关联。
步骤503，基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征。
在本实施例中，可以从用户特征以及商品基础特征中提取出用户特征与商品基础信息之间的交叉特征，即，获得两种特征之间的交叉特征。
步骤504，将兴趣特征以及交叉特征输入目标学生模型，得到预测结果，其中，预测结果用于表征目标用户针对目标商品的操作行为，目标学生模型图2或者图3描述的方法训练得到。
在本实施例中，可以将上述兴趣特征以及上述交叉特征输入目标学生模型中，得到目标学生模型预测的目标用户针对目标商品的操作行为，例如，购买行为、点击行为、收藏行为、推荐行为等。
本实施例提供的用于预测信息的方法，采用基于图2或者图3描述的实施例中方法训练的目标学习模型预测信息，可以提高预测信息的准确性。
进一步参考图6，作为对上述各图所示方法的实现，本公开提供了一种用于训练模型的装置的一个实施例，该装置实施例与图2和图3所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图6所示，本实施例的用于训练模型的装置，包括：第一获取单元601、第一提取单元602、第二提取单元603、第一训练单元604、第二训练单元605。其中，第一获取单元，被配置为获取样本用户的用户特征、样本用户的用户行为信息、样本商品的商品基础信息、样本商品的商品附加信息；第一提取单元，被配置为基于用户行为信息以及商品基础信息，提取样本用户的兴趣特征；第二提取单元，被配置为基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征；第一训练单元，被配置为基于兴趣特征、交叉特征以及商品附加信息，训练初始教师模型，以得到目标教师模型；第二训练单元，被配置为基于兴趣特征、交叉特征以及教师模型的预测结果，训练初始学生模型，以得到目标学生模型。
在一些实施例中，第一提取单元，包括：第一提取模块，被配置为将用户行为信息与商品基础信息输入深度兴趣网络，获得兴趣网络输出的兴趣特征；其中，用户行为信息中包括样本用户针对样本商品的操作行为。
在一些实施例中，该装置还包括：上下文信息获取单元，被配置为获取样本商品的展示页面的上下文信息；第二提取单元，包括：第二提取模块，被配置为基于用户特征、商品基础信息以及上下文信息，提取用户特征与商品基础信息之间的交叉特征。
在一些实施例中，第二提取模块，包括：提取子模块，被配置为将用户特征、商品基础信息以及上下文信息输入深度交叉网络，获得深度交叉网络输出的交叉特征。
在一些实施例中，第一训练单元，包括：第一模型获取模块，被配置为获取初始教师模型以及获取实际标签，其中，实际标签用于表征样本用户针对样本商品的实际操作行为；第一预测模块，被配置为将兴趣特征、交叉特征以及商品附加信息输入初始教师模型，得到初始教师模型输出的第一标签，其中，第一标签用于表征初始教师模型预测的、样本用户针对样本商品的操作行为；第一训练模块，被配置为采用第一标签与实际标签之间的损失，训练初始教师模型，以得到目标教师模型。
在一些实施例中，第二训练单元，包括：第二模型获取模块，被配置为获取初始学生模型；第二预测模块，被配置为将兴趣特征、交叉特征输入初始学生模型，得到初始学生模型输出的第二标签，其中，第二标签用于表征初始学生模型预测的、样本用户针对样本商品的操作行为；损失计算模块，被配置为获取第二标签与实际标签之间的第一损失，以及获取第二标签与第一标签之间的第二损失；第二训练模块，被配置为采用第一损失与第二损失训练初始学生模型，以得到目标学生模型。
上述装置600中的各单元与参考图2、图3描述的方法中的步骤相对应。由此上文针对用于训练模型的方法描述的操作、特征及所能达到的技术效果同样适用于装置600及其中包含的单元，在此不再赘述。
进一步参考图7，作为对上述各图所示方法的实现，本公开提供了一种用于训练模型的装置的一个实施例，该装置实施例与图5所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图7所示，本实施例的用于训练模型的装置，包括：第二获取单元701、第三提取单元702、第四提取单元703、预测单元704。其中，第二获取单元，被配置为获取目标用户的用户特征、目标用户的用户行为信息、目标商品的商品基础信息；第三提取单元基于用户行为信息以及商品基础信息，提取目标用户的兴趣特征；第四提取单元，被配置为基于用户特征以及商品基础信息，提取用户特征与商品基础信息之间的交叉特征；预测单元，被配置为将兴趣特征以及交叉特征输入目标学生模型，得到预测结果，其中，预测结果用于表征目标用户针对目标商品的操作行为，目标学生模型基于第一方面的方法训练得到。
上述装置700中的各单元与参考图5描述的方法中的步骤相对应。由此上文针对用于训练模型的方法描述的操作、特征及所能达到的技术效果同样适用于装置700及其中包含的单元，在此不再赘述。
根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。
如图8所示，是根据本申请实施例的用于训练模型的方法的电子设备800的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图8所示，该电子设备包括：一个或多个处理器801、存储器802，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图8中以一个处理器801为例。
存储器802即为本申请所提供的非瞬时计算机可读存储介质。其中，该存储器存储有可由至少一个处理器执行的指令，以使该至少一个处理器执行本申请所提供的用于训练模型的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的用于训练模型的方法。
存储器802作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的用于训练模型的方法对应的程序指令/模块(例如，附图6所示的第一获取单元601、第一提取单元602、第二提取单元603、第一训练单元604、第二训练单元605)。处理器801通过运行存储在存储器802中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的用于训练模型的方法。
存储器802可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据用于提取视频片段的电子设备的使用所创建的数据等。此外，存储器802可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器802可选包括相对于处理器801远程设置的存储器，这些远程存储器可以通过网络连接至用于提取视频片段的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
用于训练模型的方法的电子设备还可以包括：输入装置803、输出装置804以及总线805。处理器801、存储器802、输入装置803和输出装置804可以通过总线805或者其他方式连接，图8中以通过总线805连接为例。
输入装置803可接收输入的数字或字符信息，以及产生与用于提取视频片段的电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置804可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。

Claims (16)

1.一种用于训练模型的方法，包括：
获取样本用户的用户特征、所述样本用户的用户行为信息、样本商品的商品基础信息、所述样本商品的商品附加信息；
基于所述用户行为信息以及所述商品基础信息，提取所述样本用户的兴趣特征；
基于所述用户特征以及所述商品基础信息，提取所述用户特征与所述商品基础信息之间的交叉特征；
基于所述兴趣特征、所述交叉特征以及所述商品附加信息，训练初始教师模型，以得到目标教师模型；
基于所述兴趣特征、所述交叉特征以及所述教师模型的预测结果，训练初始学生模型，以得到目标学生模型。
2.根据权利要求1所述的方法，其中，所述基于所述用户行为信息以及所述商品基础信息，提取所述样本用户的兴趣特征，包括：
将所述用户行为信息与所述商品基础信息输入深度兴趣网络，获得所述兴趣网络输出的所述兴趣特征；其中，所述用户行为信息中包括所述样本用户针对所述样本商品的操作行为。
3.根据权利要求1所述的方法，其中，所述方法还包括：
获取所述样本商品的展示页面的上下文信息；
所述基于所述用户特征以及所述商品基础信息，提取所述用户特征与所述商品基础信息之间的交叉特征，包括：
基于所述用户特征、所述商品基础信息以及所述上下文信息，提取所述用户特征与所述商品基础信息之间的交叉特征。
4.根据权利要求3所述的方法，其中，所述基于所述用户特征、所述商品基础信息以及所述上下文信息，提取所述用户特征与所述商品基础信息之间的交叉特征，包括：
将所述用户特征、所述商品基础信息以及所述上下文信息输入深度交叉网络，获得所述深度交叉网络输出的所述交叉特征。
5.根据权利要求1所述的方法，其中，所述基于所述兴趣特征、所述交叉特征以及所述商品附加信息，训练初始教师模型，以得到目标教师模型，包括：
获取所述初始教师模型以及获取实际标签，其中，所述实际标签用于表征所述样本用户针对所述样本商品的实际操作行为；
将所述兴趣特征、所述交叉特征以及所述商品附加信息输入所述初始教师模型，得到所述初始教师模型输出的第一标签，其中，所述第一标签用于表征所述初始教师模型预测的、所述样本用户针对所述样本商品的操作行为；
采用所述第一标签与所述实际标签之间的损失，训练所述初始教师模型，以得到所述目标教师模型。
6.根据权利要求5所述的方法，其中，所述基于所述兴趣特征、所述交叉特征以及所述教师模型的预测结果，训练初始学生模型，以得到目标学生模型，包括：
获取所述初始学生模型；
将所述兴趣特征、所述交叉特征输入所述初始学生模型，得到所述初始学生模型输出的第二标签，其中，所述第二标签用于表征所述初始学生模型预测的、所述样本用户针对所述样本商品的操作行为；
获取所述第二标签与所述实际标签之间的第一损失，以及获取所述第二标签与所述第一标签之间的第二损失；
采用所述第一损失与所述第二损失训练所述初始学生模型，以得到所述目标学生模型。
7.一种用于预测信息的方法，包括：
获取目标用户的用户特征、所述目标用户的用户行为信息、目标商品的商品基础信息；
基于所述用户行为信息以及所述商品基础信息，提取所述目标用户的兴趣特征；
基于所述用户特征以及所述商品基础信息，提取所述用户特征与所述商品基础信息之间的交叉特征；
将所述兴趣特征以及所述交叉特征输入所述目标学生模型，得到预测结果，其中，所述预测结果用于表征所述目标用户针对所述目标商品的操作行为，所述目标学生模型基于权利要求1-6之一所述的方法训练得到。
8.一种用于训练模型的装置，包括：
第一获取单元，被配置为获取样本用户的用户特征、所述样本用户的用户行为信息、样本商品的商品基础信息、所述样本商品的商品附加信息；
第一提取单元，被配置为基于所述用户行为信息以及所述商品基础信息，提取所述样本用户的兴趣特征；
第二提取单元，被配置为基于所述用户特征以及所述商品基础信息，提取所述用户特征与所述商品基础信息之间的交叉特征；
第一训练单元，被配置为基于所述兴趣特征、所述交叉特征以及所述商品附加信息，训练初始教师模型，以得到目标教师模型；
第二训练单元，被配置为基于所述兴趣特征、所述交叉特征以及所述教师模型的预测结果，训练初始学生模型，以得到目标学生模型。
9.根据权利要求8所述的装置，其中，所述第一提取单元，包括：
第一提取模块，被配置为将所述用户行为信息与所述商品基础信息输入深度兴趣网络，获得所述兴趣网络输出的所述兴趣特征；其中，所述用户行为信息中包括所述样本用户针对所述样本商品的操作行为。
10.根据权利要求8所述的装置，其中，所述装置还包括：
上下文信息获取单元，被配置为获取所述样本商品的展示页面的上下文信息；
所述第二提取单元，包括：
第二提取模块，被配置为基于所述用户特征、所述商品基础信息以及所述上下文信息，提取所述用户特征与所述商品基础信息之间的交叉特征。
11.根据权利要求10所述的装置，其中，所述第二提取模块，包括：
提取子模块，被配置为将所述用户特征、所述商品基础信息以及所述上下文信息输入深度交叉网络，获得所述深度交叉网络输出的所述交叉特征。
12.根据权利要求8所述的装置，其中，所述第一训练单元，包括：
第一模型获取模块，被配置为获取所述初始教师模型以及获取实际标签，其中，所述实际标签用于表征所述样本用户针对所述样本商品的实际操作行为；
第一预测模块，被配置为将所述兴趣特征、所述交叉特征以及所述商品附加信息输入所述初始教师模型，得到所述初始教师模型输出的第一标签，其中，所述第一标签用于表征所述初始教师模型预测的、所述样本用户针对所述样本商品的操作行为；
第一训练模块，被配置为采用所述第一标签与所述实际标签之间的损失，训练所述初始教师模型，以得到所述目标教师模型。
13.根据权利要求12所述的装置，其中，所述第二训练单元，包括：
第二模型获取模块，被配置为获取所述初始学生模型；
第二预测模块，被配置为将所述兴趣特征、所述交叉特征输入所述初始学生模型，得到所述初始学生模型输出的第二标签，其中，所述第二标签用于表征所述初始学生模型预测的、所述样本用户针对所述样本商品的操作行为；
损失计算模块，被配置为获取所述第二标签与所述实际标签之间的第一损失，以及获取所述第二标签与所述第一标签之间的第二损失；
第二训练模块，被配置为采用所述第一损失与所述第二损失训练所述初始学生模型，以得到所述目标学生模型。
14.一种用于预测信息的装置，包括：
第二获取单元，被配置为获取目标用户的用户特征、所述目标用户的用户行为信息、目标商品的商品基础信息；
第三提取单元基于所述用户行为信息以及所述商品基础信息，提取所述目标用户的兴趣特征；
第四提取单元，被配置为基于所述用户特征以及所述商品基础信息，提取所述用户特征与所述商品基础信息之间的交叉特征；
预测单元，被配置为将所述兴趣特征以及所述交叉特征输入所述目标学生模型，得到预测结果，其中，所述预测结果用于表征所述目标用户针对所述目标商品的操作行为，所述目标学生模型基于权利要求1-6之一所述的方法训练得到。
15.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。
CN202210895740.0A 2022-07-27 2022-07-27 用于训练模型的方法和装置 Pending CN117541323A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210895740.0A CN117541323A (zh) 2022-07-27 2022-07-27 用于训练模型的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210895740.0A CN117541323A (zh) 2022-07-27 2022-07-27 用于训练模型的方法和装置

Publications (1)

Publication Number Publication Date
CN117541323A true CN117541323A (zh) 2024-02-09

Family

ID=89792407

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210895740.0A Pending CN117541323A (zh) 2022-07-27 2022-07-27 用于训练模型的方法和装置

Country Status (1)

Country Link
CN (1) CN117541323A (zh)

Similar Documents

Publication Publication Date Title
JP7135255B2 (ja) アイテム推奨方法、システム、プログラム、電子機器及び記憶媒体
JP7166322B2 (ja) モデルを訓練するための方法、装置、電子機器、記憶媒体およびコンピュータプログラム
CN111582479B (zh) 神经网络模型的蒸馏方法和装置
CN112036509A (zh) 用于训练图像识别模型的方法和装置
CN111539514A (zh) 用于生成神经网络的结构的方法和装置
JP7262539B2 (ja) 会話推薦方法、装置及び機器
CN111783981A (zh) 模型训练方法、装置、电子设备及可读存储介质
CN111695695B (zh) 用户决策行为量化分析方法及装置
CN111667056B (zh) 用于搜索模型结构的方法和装置
CN111582477B (zh) 神经网络模型的训练方法和装置
CN112163676A (zh) 多任务服务预测模型训练方法、装置、设备以及存储介质
CN112270711B (zh) 模型训练以及姿态预测方法、装置、设备以及存储介质
CN110852379B (zh) 用于目标物体识别的训练样本生成方法及装置
CN111695680B (zh) 成绩预测方法、成绩预测模型训练方法、装置及电子设备
CN111311321A (zh) 用户消费行为预测模型训练方法、装置、设备及存储介质
CN112529180B (zh) 模型蒸馏的方法和装置
CN111241838B (zh) 文本实体的语义关系处理方法、装置及设备
CN111079945A (zh) 端到端模型的训练方法及装置
CN112417156B (zh) 多任务学习方法、装置、设备以及存储介质
CN112149741A (zh) 图像识别模型的训练方法、装置、电子设备及存储介质
CN114386503A (zh) 用于训练模型的方法和装置
CN112288483A (zh) 用于训练模型的方法和装置、用于生成信息的方法和装置
CN111640103A (zh) 图像检测方法、装置、设备以及存储介质
CN112308145A (zh) 一种分类网络训练方法、分类方法、装置以及电子设备
CN116523554A (zh) 点击率预测模型的训练方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination