CN112288483A - 用于训练模型的方法和装置、用于生成信息的方法和装置 - Google Patents
用于训练模型的方法和装置、用于生成信息的方法和装置 Download PDFInfo
- Publication number
- CN112288483A CN112288483A CN202011184577.4A CN202011184577A CN112288483A CN 112288483 A CN112288483 A CN 112288483A CN 202011184577 A CN202011184577 A CN 202011184577A CN 112288483 A CN112288483 A CN 112288483A
- Authority
- CN
- China
- Prior art keywords
- vector
- user
- behavior
- model
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
- G06Q30/0202—Market predictions or forecasting for commercial activities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0201—Market modelling; Market analysis; Collecting market data
Abstract
本申请公开了用于训练模型的方法和装置,以及用于生成信息的方法和装置。该用于训练模型的方法的实现方案为:获取训练样本集,利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型。该方案实现了使用一个模型同时进行用户行为嵌入、待预测对象嵌入和用户画像偏好预估,使用户偏好信息的预测具有更高的准确率和更广的覆盖面。
Description
技术领域
本申请涉及计算机技术领域,具体涉及大数据技术领域,尤其涉及用于训练模型的方法和装置,以及用于生成信息的方法和装置。
背景技术
用户画像是根据用户身份和行为等信息抽象出的一个或多个用户标签和偏好模型。在电商等许多领域,用户画像作为人工智能算法的基础特征,被广泛应用于搜索、推荐、广告等各种场景。但面对动辄上十亿级别的用户,在有限信息的情况下,如何使得用户画像生产的数据更加准确,如何对仅有少量行为数据的用户进行偏好预估,是目前业界的一个难点。
目前常用方法是为用户近期发生行为的对象进行偏好分析和预测,比如某用户最近浏览过十次手机这个品类商品的页面,并有一次将一个手机商品放入购物车,而对于电脑这个品类的商品,用户可能只浏览了两次,那么这类用户画像方法的结果会认为此用户对于手机品类的偏好高于对于电脑品类的偏好。另外还有一种方法是尝试使用了嵌入(embedding)向量,这种方法虽然能够进一步准确的表征用户行为或者被预测对象的特征,但是嵌入向量来自于另外一个专门进行嵌入产出的系统,这些嵌入产出系统往往需要使用单独的数据和方法进行模型训练。
发明内容
本申请提供了一种用于训练模型的方法、装置、设备以及存储介质,以及一种用于生成信息的方法、装置、设备以及存储介质。
根据本申请的第一方面,提供了一种用于训练模型的方法,该方法包括:获取训练样本集,其中,训练样本集中的训练样本包括用户的行为特征信息、用户除行为特征以外的其他特征信息、待预测对象的对象特征信息、表征用户行为特征的用户行为向量、表征对象特征的对象向量和表征用户对各个待预测对象感兴趣程度的偏好值;利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型,其中,向量及用户偏好生成模型包括第一子模型和第二子模型,第一子模型用于生成用户行为特征信息嵌入后的用户行为向量和对象特征信息嵌入后的对象向量,第二子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。
在一些实施例中,向量及用户偏好生成模型包括用户行为向量生成子模型、对象向量生成子模型和用户偏好生成子模型,用户行为向量生成子模型用于生成用户行为特征信息嵌入后的用户行为向量,对象向量生成子模型用于生成对象特征信息嵌入后的对象向量,用户偏好生成子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。
在一些实施例中,第二子模型用于基于用户行为向量、对象向量、其他特征信息和各个待预测对象之间的关联性对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。
在一些实施例中,行为特征信息以第一行为特征向量表示,第一行为特征向量为表征不同时间用户和每个待预测对象之间发生的各种行为特征的多维向量,用户行为向量生成子模型基于对第一行为特征向量进行池化操作,生成于第一行为特征向量对应的用户行为向量。
在一些实施例中,对象向量生成子模型的模型参数与用户行为向量生成子模型的模型参数相一致。
在一些实施例中,行为特征信息以第二行为特征向量表示,第二行为特征向量为表征用户不同时间点的各种行为特征的多维向量,各种行为特征在第二行为特征向量中顺序排列,用户行为向量生成子模型基于双向的时间序列模型而构建,用户行为向量生成子模型基于对前向的时间序列模型的输出和后向的时间序列模型的输出进行级联操作生成与第二行为特征向量对应的用户行为向量。
在一些实施例中,时间序列模型为多层的时间序列模型。
在一些实施例中,对象向量生成子模型的模型参数与前向的时间序列模型的模型参数相一致;或对象向量生成子模型的模型参数与后向的时间序列模型的模型参数相一致。
根据本申请的第二方面,提供了一种用于生成信息的方法,方法包括:获取用户行为信息、除用户行为信息以外用户的其他信息和待预测对象的对象信息;对用户行为信息、其他信息和对象信息进行特征提取,生成与用户行为信息对应的行为特征信息、与其他信息对应的其他特征信息和与对象信息对应的对象特征信息;将行为特征信息、对象特征信息和其他特征信息输入至预先训练的向量及用户偏好生成模型,生成与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值,其中,向量及用户偏好生成模型通过上述第一方面中任一实现方式描述的方法训练得到。
在一些实施例中,方法还包括:依据用户和各个待预测对象之间的偏好值排序,选取得到目标对象,并将目标对象展示于用户。
根据本申请的第三方面,提供了一种用于训练模型的装置,装置包括:获取单元,被配置成获取训练样本集,其中,训练样本集中的训练样本包括用户的行为特征信息、用户除行为特征以外的其他特征信息、待预测对象的对象特征信息、表征用户行为特征的用户行为向量、表征对象特征的对象向量和表征用户对各个待预测对象感兴趣程度的偏好值;训练单元,被配置成利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型,其中,向量及用户偏好生成模型包括第一子模型和第二子模型,第一子模型用于生成用户行为特征信息嵌入后的用户行为向量和对象特征信息嵌入后的对象向量,第二子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。
在一些实施例中,训练单元中的向量及用户偏好生成模型包括用户行为向量生成子模型、对象向量生成子模型和用户偏好生成子模型,用户行为向量生成子模型用于生成用户行为特征信息嵌入后的用户行为向量,对象向量生成子模型用于生成对象特征信息嵌入后的对象向量,用户偏好生成子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。
在一些实施例中,训练单元中的第二子模型用于基于用户行为向量、对象向量、其他特征信息和各个待预测对象之间的关联性对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。
在一些实施例中,行为特征信息以第一行为特征向量表示,第一行为特征向量为表征不同时间用户和每个待预测对象之间发生的各种行为特征的多维向量,训练单元中的用户行为向量生成子模型基于对第一行为特征向量进行池化操作,生成于第一行为特征向量对应的用户行为向量。
在一些实施例中,训练单元中的对象向量生成子模型的模型参数与训练单元中的用户行为向量生成子模型的模型参数相一致。
在一些实施例中,行为特征信息以第二行为特征向量表示,第二行为特征向量为表征用户不同时间点的各种行为特征的多维向量,各种行为特征在第二行为特征向量中顺序排列,训练单元中的用户行为向量生成子模型基于双向的时间序列模型而构建,训练单元中的用户行为向量生成子模型基于对前向的时间序列模型的输出和后向的时间序列模型的输出进行级联操作生成与第二行为特征向量对应的用户行为向量。
在一些实施例中,训练单元中的时间序列模型为多层的时间序列模型。
在一些实施例中,训练单元中的对象向量生成子模型的模型参数与前向的时间序列模型的模型参数相一致;或训练单元中的对象向量生成子模型的模型参数与后向的时间序列模型的模型参数相一致。
根据本申请的第四方面,提供了一种用于生成信息的装置,装置包括:获取单元,被配置成获取用户行为信息、除用户行为信息以外用户的其他信息和待预测对象的对象信息;特征提取单元,被配置成对用户行为信息、其他信息和对象信息进行特征提取,生成与用户行为信息对应的行为特征信息、与其他信息对应的其他特征信息和与对象信息对应的对象特征信息;生成单元,被配置成将行为特征信息、对象特征信息和其他特征信息输入至预先训练的向量及用户偏好生成模型,生成与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值,其中,向量及用户偏好生成模型通过上述第一方面中任一实现方式描述的方法训练得到。
在一些实施例中,装置还包括:展示单元,被配置成依据用户和各个待预测对象之间的偏好值排序,选取得到目标对象,并将目标对象展示于用户。
根据本申请的第五方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面中任一实现方式描述的方法或执行如第二方面中任一实现方式描述的方法。
根据本申请的第六方面,本申请提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,计算机指令用于使计算机执行如第一方面中任一实现方式描述的方法或执行如第二方面中任一实现方式描述的方法。
根据本申请的技术采用获取训练样本集,利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型,其中,向量及用户偏好生成模型包括第一子模型和第二子模型,第一子模型用于生成用户行为特征信息嵌入后的用户行为向量和对象特征信息嵌入后的对象向量,第二子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。解决了现有技术在预测用户对于某个对象集合的偏好时,对于大量没有发生过行为的对象难以较好的描述用户对其的偏好的问题,实现了构建用户行为嵌入对待预测对象的全集进行偏好预估,而不只针对有行为的对象,提高了模型预测的准确率和扩大了模型预测的覆盖范围。解决了现有技术在使用嵌入向量的方法中,如果嵌入向量和画像方法采用分离的模型和数据,会引入偏差,导致精确率偏低的问题,实现了使用一个模型同时进行用户行为嵌入、待预测对象嵌入和用户画像偏好预估,即在进行偏好预估模型训练时自动完成嵌入向量的构建而不需要单独训练嵌入模型,减少单独训练嵌入向量所引入的偏差,避免嵌入和偏好之间的偏差,使用户偏好信息的预测具有更高的准确率和更广的覆盖面。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。
图1是根据本申请的用于训练模型的方法的第一实施例的示意图;
图2是可以实现本申请实施例的用于训练模型的方法的场景图;
图3是根据本申请的用于训练模型的方法的第二实施例的示意图;
图4是根据本申请的用于生成信息的方法的一个实施例的示意图;
图5是根据本申请的用于训练模型的装置的一个实施例的结构示意图;
图6是根据本申请的用于生成信息的装置的一个实施例的结构示意图;
图7是用来实现本申请实施例的用于训练模型的方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了根据本申请的用于训练模型的方法的第一实施例的示意图100。该用于训练模型的方法,包括以下步骤:
步骤101,获取训练样本集。
在本实施例中,用于训练模型的方法的执行主体(例如服务器或终端设备)可以通过有线连接方式或者无线连接方式从其他电子设备或者本地获取训练样本集。其中,训练样本集中的训练样本包括用户的行为特征信息、用户除行为特征以外的其他特征信息、待预测对象的对象特征信息、表征用户行为特征的用户行为向量、表征对象特征的对象向量和表征用户对各个待预测对象感兴趣程度的偏好值。
步骤102,利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型。
在本实施例中,执行主体可以利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型。向量及用户偏好生成模型包括第一子模型和第二子模型,第一子模型用于生成用户行为特征信息嵌入后的用户行为向量和对象特征信息嵌入后的对象向量,第二子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。嵌入embedding表征将词语转变为一个向量表示,用户行为特征信息嵌入即将用户行为归纳为一个向量来描述;对象特征信息嵌入即把待预测对象转化为一个向量来表示。这里,第二子模型为点击率预估模型(即click through rate CTR模型),用于预测用户与对象之间的偏好值。CTR模型可以为Factorization Machines、Deep Cross Network或xDeepFM等。
在本实施例的一些可选的实现方式中,第二子模型用于基于用户行为向量、对象向量、其他特征信息和各个待预测对象之间的关联性对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。解决了现有技术中用户的偏好仅仅由用户在这个对象下的行为确定,缺乏由对象之间关联关系进行综合偏好预估的机制,导致精确率低的问题,提高了模型预测的精准度。
需要说明的是,技术人员可以根据实际需求,自行设定上述向量及用户偏好生成模型、第一子模型和第二子模型的模型结构,本公开的实施例对此不做限定。第二子模型也可替换为点击转化率模型(即click conversion rate CVR模型),用于预测对象点击后被下单购买形成转化的概率。
继续参见图2,图2是根据本实施例的用于训练模型的方法的应用场景的一个示意图。在图2应用场景下,本实施例的用于训练模型的方法200运行于电子设备201中。电子设备201首先获取训练样本集202,其中,训练样本集中的训练样本包括用户的行为特征信息、用户除行为特征以外的其他特征信息、待预测对象的对象特征信息、表征用户行为特征的用户行为向量、表征对象特征的对象向量和表征用户对各个待预测对象感兴趣程度的偏好值,然后电子设备201利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型203,其中,向量及用户偏好生成模型包括第一子模型和第二子模型,第一子模型用于生成用户行为特征信息嵌入后的用户行为向量和对象特征信息嵌入后的对象向量,第二子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。
本申请的上述实施例提供的用于训练模型的方法采用获取训练样本集,利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型。避免了现有技术中用户在注册时存在信息缺失或者提交了错误信息的问题,解决了现有技术在预测用户对于某个对象集合的偏好时,对于大量没有发生过行为的对象难以较好的描述用户对其的偏好的问题,实现了构建用户行为嵌入对待预测对象的全集进行偏好预估,而不只针对有行为的对象,提高了模型预测的准确率和扩大了模型预测的覆盖范围。解决了现有技术在使用嵌入向量的方法中,如果嵌入向量和画像方法采用分离的模型和数据,会引入偏差,导致精确率偏低的问题,实现了使用一个模型同时进行用户行为嵌入、待预测对象嵌入和用户画像偏好预估,即在进行偏好预估模型训练时自动完成嵌入向量的构建而不需要单独训练嵌入模型,减少单独训练嵌入向量所引入的偏差,避免嵌入和偏好之间的偏差,使用户偏好信息的预测具有更高的准确率和更广的覆盖面。
进一步参考图3,其示出了用于训练模型的方法的第二实施例的示意图300。该方法的流程包括以下步骤:
步骤301,获取训练样本集。
步骤302,利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型。
在本实施例中,执行主体可以利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型。其中,向量及用户偏好生成模型包括用户行为向量生成子模型、对象向量生成子模型和用户偏好生成子模型,用户行为向量生成子模型用于生成用户行为特征信息嵌入后的用户行为向量,对象向量生成子模型用于生成对象特征信息嵌入后的对象向量,用户偏好生成子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。对象向量生成子模型的模型参数与用户行为向量生成子模型的模型参数相一致。用户偏好生成子模型为点击率预估模型,用于预测用户与对象之间的偏好值。
在本实施例的一些可选的实现方式中,行为特征信息以第一行为特征向量表示,第一行为特征向量为表征不同时间用户和每个待预测对象之间发生的各种行为特征的多维向量,用户行为向量生成子模型基于对第一行为特征向量进行池化操作,生成于第一行为特征向量对应的用户行为向量。所述各种行为特征预先设定,所述池化可以包括叠加池化、最大值池化和平均池化中的至少一种。基于叠加、最大值或平均池化的用户行为嵌入,结构设计简洁高效,参数规模不大,训练成功率高,具有很好的实用价值。
进一步举例说明如何生成用户行为向量,假设一个对象的编码特征是一个N维向量,用户行为特征按发生时间进行分桶,假设分K个桶,同一个时间桶内发生的行为一视同仁,假设有L组行为。因为不同时间桶内行为个数不一样,因此跨桶的L不一定相同。为表示方便,统一用L表示。因此输入的用户行为特征共K×L×N维。对每一个时间桶内的输入特征进行一个叠加池化(sum pooling)操作,特征变为K×N维。接着K×N维向量通过一个N×M维的参数矩阵实现到K×M维的变化,生成K×M维的用户行为向量。
在本实施例的一些可选的实现方式中,行为特征信息以第二行为特征向量表示,第二行为特征向量为表征用户不同时间点的各种行为特征的多维向量,各种行为特征在第二行为特征向量中顺序排列,用户行为向量生成子模型基于双向的时间序列模型(LSTM)而构建,双向可以包括前向和后向,用户行为向量生成子模型基于对前向的时间序列模型的输出和后向的时间序列模型的输出进行级联操作生成与第二行为特征向量对应的用户行为向量。LSTM是基于神经网络的机器学习中的一种时间序列模型。使用改进型双向LSTM的用户行为向量生成子模型将用户行为随时间变化的趋势纳入模型考量,分桶更为精确,输出维度更小,对于行为趋势有较大变化的用户画像有更好的表现。根据时间上由近到远的进行用户行为的采集,模型自动对因时间衰减或发展趋势带来的偏好变化进行考量,能够生成更为准确的用户画像。
在本实施例的一些可选的实现方式中,对象向量生成子模型的模型参数与前向的时间序列模型的模型参数相一致;或对象向量生成子模型的模型参数与后向的时间序列模型的模型参数相一致。通过在模型中引入共享参数的用户行为向量生成子模型和对象向量生成子模型来反映用户行为和对象之间的关联性,有利于后续的参数化CTR模型收敛,减少了整个模型的参数规模,使模型预测能够取得较好效果;用户行为是反映用户兴趣和偏好的重要数据来源,此方法解耦了用户对某个对象的行为和这个对象之间的关联,即用户行为特征无需包含对这个对象的行为,因而这个对象可以是一个非常冷门的品牌或者品类;同时因用户行为向量生成子模型和对象向量生成子模型共享参数,并将用户在其他多个对象行为产生的嵌入向量用于对单个对象偏好的评估,无形中将对象之间的关联性考虑进去,有利于产出更准确的用户兴趣偏好。
在本实施例的一些可选的实现方式中,时间序列模型为多层的时间序列模型。从深度学习的角度出发,增加这个结构的层数,比如两层甚至三层双向LSTM结构,在模型能收敛的情况下,能够获得更好的效果。
进一步举例说明,首先第i个N维的用户行为特征Ui按时间顺序排列,将其分别输入到对应下标的前向LSTM模型中,每一个前向LSTM模型输出M维向量,再将M维向量输入到相同下标的后向LSTM模型,分别取前向层和后向层的最末端输出向量做级联操作得到最终的用户行为向量。
需要说明的是,技术人员可以根据实际需求,自行设定上述用户行为向量生成子模型、对象向量生成子模型和用户偏好生成子模型的模型结构,本公开的实施例对此不做限定。
在本实施例中,步骤301具体操作与图1所示的实施例中的步骤101的操作基本相同,在此不再赘述。
从图3中可以看出,与图1对应的实施例相比,本实施例中的用于训练模型的方法的示意图300采用向量及用户偏好生成模型包括用户行为向量生成子模型、对象向量生成子模型和用户偏好生成子模型,用户行为向量生成子模型用于生成用户行为特征信息嵌入后的用户行为向量,对象向量生成子模型用于生成对象特征信息嵌入后的对象向量,用户偏好生成子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值,对象向量生成子模型的模型参数与用户行为向量生成子模型的模型参数相一致,基于不同模型生成用户行为向量和对象向量,使模型的构建更富于针对性,提高了系统处理效率。通过在模型中引入共享参数的用户行为向量生成子模型和对象向量生成子模型来反映用户行为和对象之间的关联性,有利于后续的参数化CTR模型收敛,减少了整个模型的参数规模,使模型预测能够取得较好效果;用户行为是反映用户兴趣和偏好的重要数据来源,此方法解耦了用户对某个对象的行为和这个对象之间的关联,即用户行为特征无需包含对这个对象的行为,因而这个对象可以是一个非常冷门的品牌或者品类;同时因用户行为向量生成子模型和对象向量生成子模型共享参数,并将用户在其他多个对象行为产生的嵌入向量用于对单个对象偏好的评估,无形中将对象之间的关联性考虑进去,有利于产出更准确的用户兴趣偏好。
进一步参看图4,其示出了用于生成信息的方法的一个实施例的示意图400。该用于生成信息的方法,包括以下步骤:
步骤401,获取用户行为信息、除用户行为信息以外用户的其他信息和待预测对象的对象信息。
在本实施例中,执行主体可以通过有线连接方式或者无线连接方式从其他电子设备或者本地获取用户行为信息、除用户行为信息以外用户的其他信息和待预测对象的对象信息。用户行为数据可以表征用户在某平台对各个对象的浏览行为。
步骤402,对用户行为信息、其他信息和对象信息进行特征提取,生成与用户行为信息对应的行为特征信息、与其他信息对应的其他特征信息和与对象信息对应的对象特征信息。
在本实施例中,执行主体可以对步骤401获取到的用户行为信息、其他信息和对象信息进行特征提取,生成与用户行为信息对应的行为特征信息、与其他信息对应的其他特征信息和与对象信息对应的对象特征信息。
步骤403,将行为特征信息、对象特征信息和其他特征信息输入至预先训练的向量及用户偏好生成模型,生成与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值。
在本实施例中,执行主体可以将步骤402中生成的行为特征信息、对象特征信息和其他特征信息输入至预先训练的向量及用户偏好生成模型,生成与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值。向量及用户偏好生成模型通过上述任一实现方式描述的用于训练模型的方法训练得到。
在本实施例的一些可选的实现方式中,方法还包括:依据用户和各个待预测对象之间的偏好值排序,选取得到目标对象,并将目标对象展示于用户。能够帮助用户快速找到感兴趣的对象,提高了用户和平台的处理效率。
需要说明的是,上述利用模型对信息进行预测是目前广泛研究和应用的公知技术,在此不再赘述。
从图4中可以看出,与图1对应的实施例相比,本实施例中的用于生成信息的方法的示意图400突出了采用训练得到的向量及用户偏好生成模型,来生成用户和各个待预测对象之间的偏好值的步骤。由此,本实施例描述的方案可以提高生成用户对各个对象的偏好值的准确性和时效性,扩大了模型预测的覆盖面。
进一步参考图5,作为对上述图1~图3所示方法的实现,本申请提供了一种用于训练模型的装置的一个实施例,该装置实施例与图1所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图5所示,本实施例的用于训练模型的装置500包括:获取单元501和训练单元502,其中,获取单元,被配置成获取训练样本集,其中,训练样本集中的训练样本包括用户的行为特征信息、用户除行为特征以外的其他特征信息、待预测对象的对象特征信息、表征用户行为特征的用户行为向量、表征对象特征的对象向量和表征用户对各个待预测对象感兴趣程度的偏好值;训练单元,被配置成利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型,其中,向量及用户偏好生成模型包括第一子模型和第二子模型,第一子模型用于生成用户行为特征信息嵌入后的用户行为向量和对象特征信息嵌入后的对象向量,第二子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。
在本实施例中,用于训练模型的装置500的获取单元501和训练单元502的具体处理及其所带来的技术效果可分别参考图1对应的实施例中的步骤101到步骤102的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,训练单元中的向量及用户偏好生成模型包括用户行为向量生成子模型、对象向量生成子模型和用户偏好生成子模型,用户行为向量生成子模型用于生成用户行为特征信息嵌入后的用户行为向量,对象向量生成子模型用于生成对象特征信息嵌入后的对象向量,用户偏好生成子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。
在本实施例的一些可选的实现方式中,训练单元中的第二子模型用于基于用户行为向量、对象向量、其他特征信息和各个待预测对象之间的关联性对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。
在本实施例的一些可选的实现方式中,行为特征信息以第一行为特征向量表示,第一行为特征向量为表征不同时间用户和每个待预测对象之间发生的各种行为特征的多维向量,训练单元中的用户行为向量生成子模型基于对第一行为特征向量进行池化操作,生成于第一行为特征向量对应的用户行为向量。
在本实施例的一些可选的实现方式中,训练单元中的对象向量生成子模型的模型参数与训练单元中的用户行为向量生成子模型的模型参数相一致。
在本实施例的一些可选的实现方式中,行为特征信息以第二行为特征向量表示,第二行为特征向量为表征用户不同时间点的各种行为特征的多维向量,各种行为特征在第二行为特征向量中顺序排列,训练单元中的用户行为向量生成子模型基于双向的时间序列模型而构建,训练单元中的用户行为向量生成子模型基于对前向的时间序列模型的输出和后向的时间序列模型的输出进行级联操作生成与第二行为特征向量对应的用户行为向量。
在本实施例的一些可选的实现方式中,训练单元中的时间序列模型为多层的时间序列模型。
在本实施例的一些可选的实现方式中,训练单元中的对象向量生成子模型的模型参数与前向的时间序列模型的模型参数相一致;或训练单元中的对象向量生成子模型的模型参数与后向的时间序列模型的模型参数相一致。
进一步参考图6,作为对上述图4所示方法的实现,本申请提供了一种用于生成信息的装置的一个实施例,该装置实施例与图4所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图6所示,本实施例的用于生成信息的装置600包括:获取单元601、特征提取单元602和生成单元603,其中,获取单元,被配置成获取用户行为信息、除用户行为信息以外用户的其他信息和待预测对象的对象信息;特征提取单元,被配置成对用户行为信息、其他信息和对象信息进行特征提取,生成与用户行为信息对应的行为特征信息、与其他信息对应的其他特征信息和与对象信息对应的对象特征信息;生成单元,被配置成将行为特征信息、对象特征信息和其他特征信息输入至预先训练的向量及用户偏好生成模型,生成与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值,其中,向量及用户偏好生成模型通过上述第一方面中任一实现方式描述的方法训练得到。
在本实施例中,用于生成信息的装置600的获取单元601、特征提取单元602和生成单元603的具体处理及其所带来的技术效果可分别参考图4对应的实施例中的步骤401到步骤403的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,装置还包括:展示单元,被配置成依据用户和各个待预测对象之间的偏好值排序,选取得到目标对象,并将目标对象展示于用户。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图7所示,是根据本申请实施例的用于训练模型的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图7所示,该电子设备包括:一个或多个处理器701、存储器702,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图7中以一个处理器701为例。
存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中,存储器存储有可由至少一个处理器执行的指令,以使至少一个处理器执行本申请所提供的用于训练模型的方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的用于训练模型的方法。
存储器702作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的用于训练模型的方法对应的程序指令/模块(例如,附图5所示的获取单元501和训练单元502)。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的用于训练模型的方法。
存储器702可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据用于训练模型的电子设备的使用所创建的数据等。此外,存储器702可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器702可选包括相对于处理器701远程设置的存储器,这些远程存储器可以通过网络连接至用于训练模型的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
用于训练模型的方法的电子设备还可以包括:输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接,图7中以通过总线连接为例。
输入装置703可接收输入的数字或字符信息,以及产生与用于训练模型的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前侧部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前侧部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,采用获取训练样本集,利用机器学习算法,将训练样本集中的训练样本包括的行为特征信息、其他特征信息和对象特征信息作为输入数据,将与输入的行为特征信息对应的用户行为向量、与输入的对象特征信息对应的对象向量和与输入的其他区特征信息、用户行为向量和对象向量对应的用户和各个待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型,其中,向量及用户偏好生成模型包括第一子模型和第二子模型,第一子模型用于生成用户行为特征信息嵌入后的用户行为向量和对象特征信息嵌入后的对象向量,第二子模型用于基于用户行为向量、对象向量和其他特征信息对用户进行预测,生成用户对各个待预测对象感兴趣程度的偏好值。解决了现有技术在预测用户对于某个对象集合的偏好时,对于大量没有发生过行为的对象难以较好的描述用户对其的偏好的问题,实现了构建用户行为嵌入对待预测对象的全集进行偏好预估,而不只针对有行为的对象,提高了模型预测的准确率和扩大了模型预测的覆盖范围。解决了现有技术在使用嵌入向量的方法中,如果嵌入向量和画像方法采用分离的模型和数据,会引入偏差,导致精确率偏低的问题,实现了使用一个模型同时进行用户行为嵌入、待预测对象嵌入和用户画像偏好预估,即在进行偏好预估模型训练时自动完成嵌入向量的构建而不需要单独训练嵌入模型,减少单独训练嵌入向量所引入的偏差,避免嵌入和偏好之间的偏差,使用户偏好信息的预测具有更高的准确率和更广的覆盖面。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (22)
1.一种用于训练模型的方法,所述方法包括:
获取训练样本集,其中,所述训练样本集中的训练样本包括用户的行为特征信息、所述用户除所述行为特征以外的其他特征信息、待预测对象的对象特征信息、表征所述用户行为特征的用户行为向量、表征对象特征的对象向量和表征所述用户对各个所述待预测对象感兴趣程度的偏好值;
利用机器学习算法,将所述训练样本集中的训练样本包括的所述行为特征信息、所述其他特征信息和所述对象特征信息作为输入数据,将与输入的所述行为特征信息对应的用户行为向量、与输入的所述对象特征信息对应的对象向量和与输入的所述其他区特征信息、所述用户行为向量和所述对象向量对应的所述用户和各个所述待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型,其中,所述向量及用户偏好生成模型包括第一子模型和第二子模型,所述第一子模型用于生成所述用户行为特征信息嵌入后的用户行为向量和所述对象特征信息嵌入后的对象向量,所述第二子模型用于基于所述用户行为向量、所述对象向量和所述其他特征信息对所述用户进行预测,生成所述用户对各个所述待预测对象感兴趣程度的偏好值。
2.根据权利要求1所述的方法,其中,所述向量及用户偏好生成模型包括用户行为向量生成子模型、对象向量生成子模型和用户偏好生成子模型,所述用户行为向量生成子模型用于生成所述用户行为特征信息嵌入后的用户行为向量,所述对象向量生成子模型用于生成所述对象特征信息嵌入后的对象向量,所述用户偏好生成子模型用于基于所述用户行为向量、所述对象向量和所述其他特征信息对所述用户进行预测,生成所述用户对各个所述待预测对象感兴趣程度的偏好值。
3.根据权利要求1所述的方法,其中,所述第二子模型用于基于所述用户行为向量、所述对象向量、所述其他特征信息和各个所述待预测对象之间的关联性对所述用户进行预测,生成所述用户对各个所述待预测对象感兴趣程度的偏好值。
4.根据权利要求2所述的方法,其中,所述行为特征信息以第一行为特征向量表示,所述第一行为特征向量为表征不同时间所述用户和每个待预测对象之间发生的各种行为特征的多维向量,所述用户行为向量生成子模型基于对所述第一行为特征向量进行池化操作,生成于所述第一行为特征向量对应的用户行为向量。
5.根据权利要求2或权利要求4所述的方法,其中,所述对象向量生成子模型的模型参数与所述用户行为向量生成子模型的模型参数相一致。
6.根据权利要求2所述的方法,其中,所述行为特征信息以第二行为特征向量表示,所述第二行为特征向量为表征所述用户不同时间点的各种行为特征的多维向量,所述各种行为特征在所述第二行为特征向量中顺序排列,所述用户行为向量生成子模型基于双向的时间序列模型而构建,所述用户行为向量生成子模型基于对前向的时间序列模型的输出和后向的时间序列模型的输出进行级联操作生成与所述第二行为特征向量对应的用户行为向量。
7.根据权利要求6所述的方法,其中,所述时间序列模型为多层的时间序列模型。
8.根据权利要求6所述的方法,其中,所述对象向量生成子模型的模型参数与前向的所述时间序列模型的模型参数相一致;或所述对象向量生成子模型的模型参数与后向的所述时间序列模型的模型参数相一致。
9.一种用于生成信息的方法,所述方法包括:
获取用户行为信息、除所述用户行为信息以外所述用户的其他信息和待预测对象的对象信息;
对所述用户行为信息、所述其他信息和所述对象信息进行特征提取,生成与所述用户行为信息对应的行为特征信息、与所述其他信息对应的其他特征信息和与所述对象信息对应的对象特征信息;
将所述行为特征信息、所述对象特征信息和所述其他特征信息输入至预先训练的向量及用户偏好生成模型,生成与输入的所述行为特征信息对应的用户行为向量、与输入的所述对象特征信息对应的对象向量和与输入的所述其他特征信息、所述用户行为向量和所述对象向量对应的所述用户和各个所述待预测对象之间的偏好值,其中,所述向量及用户偏好生成模型通过如权利要求1-8之一所述的方法训练得到。
10.根据权利要求9所述的方法,还包括:
依据所述用户和各个所述待预测对象之间的偏好值排序,选取得到目标对象,并将所述目标对象展示于所述用户。
11.一种用于训练模型的装置,所述装置包括:
获取单元,被配置成获取训练样本集,其中,所述训练样本集中的训练样本包括用户的行为特征信息、所述用户除所述行为特征以外的其他特征信息、待预测对象的对象特征信息、表征所述用户行为特征的用户行为向量、表征对象特征的对象向量和表征所述用户对各个所述待预测对象感兴趣程度的偏好值;
训练单元,被配置成利用机器学习算法,将所述训练样本集中的训练样本包括的所述行为特征信息、所述其他特征信息和所述对象特征信息作为输入数据,将与输入的所述行为特征信息对应的用户行为向量、与输入的所述对象特征信息对应的对象向量和与输入的所述其他区特征信息、所述用户行为向量和所述对象向量对应的所述用户和各个所述待预测对象之间的偏好值作为期望输出数据,训练得到向量及用户偏好生成模型,其中,所述向量及用户偏好生成模型包括第一子模型和第二子模型,所述第一子模型用于生成所述用户行为特征信息嵌入后的用户行为向量和所述对象特征信息嵌入后的对象向量,所述第二子模型用于基于所述用户行为向量、所述对象向量和所述其他特征信息对所述用户进行预测,生成所述用户对各个所述待预测对象感兴趣程度的偏好值。
12.根据权利要求11所述的装置,其中,所述训练单元中的所述向量及用户偏好生成模型包括用户行为向量生成子模型、对象向量生成子模型和用户偏好生成子模型,所述用户行为向量生成子模型用于生成所述用户行为特征信息嵌入后的用户行为向量,所述对象向量生成子模型用于生成所述对象特征信息嵌入后的对象向量,所述用户偏好生成子模型用于基于所述用户行为向量、所述对象向量和所述其他特征信息对所述用户进行预测,生成所述用户对各个所述待预测对象感兴趣程度的偏好值。
13.根据权利要求11所述的装置,其中,所述训练单元中的所述第二子模型用于基于所述用户行为向量、所述对象向量、所述其他特征信息和各个所述待预测对象之间的关联性对所述用户进行预测,生成所述用户对各个所述待预测对象感兴趣程度的偏好值。
14.根据权利要求12所述的装置,其中,所述行为特征信息以第一行为特征向量表示,所述第一行为特征向量为表征不同时间所述用户和每个待预测对象之间发生的各种行为特征的多维向量,所述训练单元中的所述用户行为向量生成子模型基于对所述第一行为特征向量进行池化操作,生成于所述第一行为特征向量对应的用户行为向量。
15.根据权利要求12或权利要求14所述的装置,其中,所述训练单元中的所述对象向量生成子模型的模型参数与所述训练单元中的所述用户行为向量生成子模型的模型参数相一致。
16.根据权利要求12所述的装置,其中,所述行为特征信息以第二行为特征向量表示,所述第二行为特征向量为表征所述用户不同时间点的各种行为特征的多维向量,所述各种行为特征在所述第二行为特征向量中顺序排列,所述训练单元中的所述用户行为向量生成子模型基于双向的时间序列模型而构建,所述训练单元中的所述用户行为向量生成子模型基于对前向的时间序列模型的输出和后向的时间序列模型的输出进行级联操作生成与所述第二行为特征向量对应的用户行为向量。
17.根据权利要求16所述的装置,其中,所述训练单元中的所述时间序列模型为多层的时间序列模型。
18.根据权利要求16所述的装置,其中,所述训练单元中的所述对象向量生成子模型的模型参数与前向的所述时间序列模型的模型参数相一致;或所述训练单元中的所述对象向量生成子模型的模型参数与后向的所述时间序列模型的模型参数相一致。
19.一种用于生成信息的装置,所述装置包括:
获取单元,被配置成获取用户行为信息、除所述用户行为信息以外所述用户的其他信息和待预测对象的对象信息;
特征提取单元,被配置成对所述用户行为信息、所述其他信息和所述对象信息进行特征提取,生成与所述用户行为信息对应的行为特征信息、与所述其他信息对应的其他特征信息和与所述对象信息对应的对象特征信息;
生成单元,被配置成将所述行为特征信息、所述对象特征信息和所述其他特征信息输入至预先训练的向量及用户偏好生成模型,生成与输入的所述行为特征信息对应的用户行为向量、与输入的所述对象特征信息对应的对象向量和与输入的所述其他特征信息、所述用户行为向量和所述对象向量对应的所述用户和各个所述待预测对象之间的偏好值,其中,所述向量及用户偏好生成模型通过如权利要求1-8之一所述的方法训练得到。
20.根据权利要求19所述的装置,还包括:
展示单元,被配置成依据所述用户和各个所述待预测对象之间的偏好值排序,选取得到目标对象,并将所述目标对象展示于所述用户。
21.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法或权利要求9-10所述的方法。
22.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述的方法或权利要求9-10所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011184577.4A CN112288483A (zh) | 2020-10-29 | 2020-10-29 | 用于训练模型的方法和装置、用于生成信息的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011184577.4A CN112288483A (zh) | 2020-10-29 | 2020-10-29 | 用于训练模型的方法和装置、用于生成信息的方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112288483A true CN112288483A (zh) | 2021-01-29 |
Family
ID=74352567
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011184577.4A Pending CN112288483A (zh) | 2020-10-29 | 2020-10-29 | 用于训练模型的方法和装置、用于生成信息的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112288483A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112990480A (zh) * | 2021-03-10 | 2021-06-18 | 北京嘀嘀无限科技发展有限公司 | 构建模型的方法、装置、电子设备和存储介质 |
CN113240465A (zh) * | 2021-05-11 | 2021-08-10 | 北京沃东天骏信息技术有限公司 | 信息生成方法和装置 |
CN113486241A (zh) * | 2021-07-08 | 2021-10-08 | 中国建设银行股份有限公司 | 业务偏好分析方法及装置 |
-
2020
- 2020-10-29 CN CN202011184577.4A patent/CN112288483A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112990480A (zh) * | 2021-03-10 | 2021-06-18 | 北京嘀嘀无限科技发展有限公司 | 构建模型的方法、装置、电子设备和存储介质 |
CN113240465A (zh) * | 2021-05-11 | 2021-08-10 | 北京沃东天骏信息技术有限公司 | 信息生成方法和装置 |
CN113486241A (zh) * | 2021-07-08 | 2021-10-08 | 中国建设银行股份有限公司 | 业务偏好分析方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7166322B2 (ja) | モデルを訓練するための方法、装置、電子機器、記憶媒体およびコンピュータプログラム | |
US20220198289A1 (en) | Recommendation model training method, selection probability prediction method, and apparatus | |
CN111539514B (zh) | 用于生成神经网络的结构的方法和装置 | |
US20230088171A1 (en) | Method and apparatus for training search recommendation model, and method and apparatus for sorting search results | |
CN111259222B (zh) | 物品推荐方法、系统、电子设备及存储介质 | |
CN111311321B (zh) | 用户消费行为预测模型训练方法、装置、设备及存储介质 | |
CN111259671B (zh) | 文本实体的语义描述处理方法、装置及设备 | |
CN112288483A (zh) | 用于训练模型的方法和装置、用于生成信息的方法和装置 | |
CN111582479B (zh) | 神经网络模型的蒸馏方法和装置 | |
JP7395445B2 (ja) | 検索データに基づくヒューマンコンピュータ対話型インタラクションの方法、装置及び電子機器 | |
CN112163676B (zh) | 多任务服务预测模型训练方法、装置、设备以及存储介质 | |
CN111695695B (zh) | 用户决策行为量化分析方法及装置 | |
CN112559870B (zh) | 多模型融合方法、装置、电子设备和存储介质 | |
CN111949814A (zh) | 搜索方法、装置、电子设备和存储介质 | |
CN112148975A (zh) | 会话推荐方法、装置及设备 | |
CN111241838A (zh) | 文本实体的语义关系处理方法、装置及设备 | |
CN114386503A (zh) | 用于训练模型的方法和装置 | |
CN111582477A (zh) | 神经网络模型的训练方法和装置 | |
CN112580723B (zh) | 多模型融合方法、装置、电子设备和存储介质 | |
CN112084410B (zh) | 文档类型的推荐方法、装置、电子设备及可读存储介质 | |
CN111461306B (zh) | 特征评估的方法及装置 | |
CN111311000B (zh) | 用户消费行为预测模型训练方法、装置、设备及存储介质 | |
CN112819497B (zh) | 转化率预测方法、装置、设备和存储介质 | |
CN113656689B (zh) | 模型生成方法和网络信息的推送方法 | |
CN114707070A (zh) | 一种用户行为预测方法及其相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |