CN117009639A - 信息推荐方法、装置、电子设备和存储介质 - Google Patents

信息推荐方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN117009639A
CN117009639A CN202211179773.1A CN202211179773A CN117009639A CN 117009639 A CN117009639 A CN 117009639A CN 202211179773 A CN202211179773 A CN 202211179773A CN 117009639 A CN117009639 A CN 117009639A
Authority
CN
China
Prior art keywords
feature
features
matrix
influence
recommended reference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211179773.1A
Other languages
English (en)
Inventor
袁宇辰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202211179773.1A priority Critical patent/CN117009639A/zh
Publication of CN117009639A publication Critical patent/CN117009639A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9535—Search customisation based on user profiles and personalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请提供一种信息推荐方法、装置、电子设备和计算机可读存储介质。该方法包括：提取推荐参考信息的推荐参考特征；对推荐参考特征分别进行特征交叉和影响特征提取，得到与推荐参考特征对应的参考信息交叉特征和特征间影响特征，特征间影响特征为表示推荐参考特征中特征之间互相影响的特征；将参考信息交叉特征和特征间影响特征进行特征融合，得到推荐参考信息对应的推荐参考表征特征；基于推荐参考表征特征，从待推荐信息中筛选与推荐参考表征特征匹配的信息进行推荐。该方法使得对于相同数据在不同数据场景中表达不同含义的情况中，所生成特征表征对于特征数据的表达更准确，有利于提升信息推荐的预测效果。

Description

信息推荐方法、装置、电子设备和存储介质
技术领域
本申请涉及计算机领域，尤其涉及一种信息推荐方法、装置、电子设备和计算机可读存储介质。
背景技术
在信息推荐领域中，输入到推荐模型中的输入数据或者训练数据中特征的稀疏性一般都很高，因此需要将数据转化为稠密的特征表征来供后续使用。
在相关技术中，计算机根据输入数据中各个特征的实际数据和对应的取值范围，将输入数据转换为对应的特征表征，以便于输入到人工智能模型中进行后续的计算。
然而在上述的过程中，相同输入数据所转换的特征表征相同，对于相同数据在不同数据场景中表达不同含义的情况，上述方案所提取的特征表征对输入数据特征的体现不准确，不利于信息推荐结果的预测效果。
发明内容
基于上述技术问题，本申请提供一种信息推荐方法、装置、电子设备和计算机可读存储介质，以使得对于相同数据在不同数据场景中表达不同含义的情况中，所生成特征表征对于特征数据的表达更准确，有利于提升信息推荐的预测效果。
本申请的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本申请的实践而习得。
根据本申请实施例的一个方面，提供一种信息推荐方法，包括：
提取推荐参考信息的推荐参考特征；
对所述推荐参考特征分别进行特征交叉和影响特征提取，得到与所述推荐参考特征对应的参考信息交叉特征和特征间影响特征，所述特征间影响特征为表示所述推荐参考特征中特征之间互相影响的特征；
将所述参考信息交叉特征和所述特征间影响特征进行特征融合，得到所述推荐参考信息对应的推荐参考表征特征；
基于所述推荐参考表征特征，从待推荐信息中筛选与所述推荐参考表征特征匹配的信息进行推荐。
根据本申请实施例的一个方面，提供一种信息推荐装置，包括：
特征矩阵提取模块，用于提取推荐参考信息的推荐参考特征；
特征影响提取模块，用于对所述推荐参考特征分别进行特征交叉和影响特征提取，得到与所述推荐参考特征对应的参考信息交叉特征和特征间影响特征，所述特征间影响特征为表示所述推荐参考特征中特征之间互相影响的特征；
特征融合模块，用于将所述参考信息交叉特征和所述特征间影响特征进行特征融合，得到所述推荐参考信息对应的推荐参考表征特征；
信息推荐模块，用于基于所述推荐参考表征特征，从待推荐信息中筛选与所述推荐参考表征特征匹配的信息进行推荐。
在本申请的一个实施例中，基于以上的技术方案，特征融合模块包括：
特征权重矩阵计算子模块，用于计算所述参考信息交叉特征中的元素与所述特征间影响特征中对应位置元素的乘积，得到特征权重矩阵，所述特征权重矩阵与所述推荐参考特征的维度相同，所述特征权重矩阵中包含对应于所述推荐参考特征中每个特征值的权重；
推荐参考表征特征计算子模块，用于根据所述特征权重矩阵中的权重，对所述推荐参考特征中对应位置的特征值进行加权，得到所述推荐参考信息对应的推荐参考表征特征。
在本申请的一个实施例中，基于以上的技术方案，所述特征间影响特征为1×N的矩阵，所述参考信息交叉特征为M×N的矩阵，特征权重矩阵计算子模块包括：
第一元素乘法单元，用于将所述参考信息交叉特征中的M行向量分别与所述特征间影响特征中对应行的元素相乘，得到M个行乘积结果；
第一矩阵生成单元，用于根据所述M个行乘积结果生成特征权重矩阵。
在本申请的一个实施例中，基于以上的技术方案，信息推荐装置还包括：
补充影响提取模块，用于对所述推荐参考特征分别进行补充特征和影响特征提取，得到与所述推荐参考特征中的补充特征和补充影响特征，所述补充影响特征为表示所述补充特征之间互相影响情况的特征；
补充特征融合模块，用于根据所述特征权重矩阵对所述补充特征和补充影响特征的特征融合结果进行加权处理，生成所述推荐参考特征的补充表征矩阵；
推荐参考表征特征计算子模块包括：
矩阵加权单元，用于将所述特征权重矩阵中的权重与对所述推荐参考特征中对应位置的特征值相乘，得到所述特征权重矩阵与所述推荐参考特征的乘积矩阵；
矩阵加法单元，用于计算所述乘积矩阵与所述补充表征矩阵之和，得到所述推荐参考特征对应的推荐参考表征特征。
在本申请的一个实施例中，基于以上的技术方案，补充特征融合模块包括：
补充特征矩阵计算子模块，用于计算所述补充特征中的元素与所述补充影响特征中对应位置元素的乘积，得到补充特征矩阵，所述补充特征矩阵与所述推荐参考特征的维度相同；
补充表征矩阵计算子模块，用于根据所述特征权重矩阵中的权重对所述补充特征矩阵中对应位置的特征值进行加权处理，得到所述推荐参考特征的补充表征矩阵。
在本申请的一个实施例中，基于以上的技术方案，补充表征矩阵计算子模块包括：
补充权重矩阵计算单元，用于计算权重上限值与所述特征权重矩阵的各个权重值的差值，得到补充权重矩阵；
补充表征计算单元，用于将所述补充权重矩阵与所述补充特征矩阵中对应位置的特征值相乘，得到所述补充特征矩阵的补充表征矩阵。
在本申请的一个实施例中，基于以上的技术方案，所述补充影响特征为1×N的矩阵，所述补充特征为M×N的矩阵，补充特征矩阵计算子模块包括：
第二元素乘法单元，用于将所述补充特征中的M行向量分别与所述补充影响特征中对应行的元素相乘，得到M个行乘积结果；
第二矩阵生成单元，用于根据所述M个行乘积结果生成补充特征矩阵。
在本申请的一个实施例中，基于以上的技术方案，补充影响提取模块包括：
第一矩阵转换子模块，用于将预设的第一查询矩阵、第一键值矩阵和第一取值矩阵，分别与所述推荐参考特征相乘，得到第一查询结果、第一键值结果和第一取值结果；
第一点击计算子模块，用于计算所述第一查询结果和所述第一键值结果的点积，得到第一特征交叉权重；
第一矩阵乘法子模块，用于计算所述第一特征交叉权重和所述第一取值矩阵的乘积，得到所述补充特征；
第一影响提取子模块，用于根据预设的第一映射关系，对所述推荐参考特征中各个补充特征之间的影响关系进行提取，得到所述补充影响特征。
在本申请的一个实施例中，基于以上的技术方案，所述第一映射关系包括P个隐藏层，第一影响提取子模块包括：
第一向量获取单元，用于获取第P-1个隐藏层的输出向量，其中，所述第P-1个隐藏层的输入向量为第P-2个隐藏层的输出向量，第一个隐藏层的输入向量是将所述推荐参考特征转换的一维特征向量得到的；
第一向量计算单元，用于将所述第P-1个隐藏层的输出向量输入所述第P个隐藏层的激活函数中进行计算，得到输出向量作为所述补充影响特征。
在本申请的一个实施例中，基于以上的技术方案，特征影响提取模块包括：
第二矩阵转换子模块，用于将预设的第二查询矩阵、第二键值矩阵和第二取值矩阵，分别与所述推荐参考特征相乘，得到第二查询结果、第二键值结果和第二取值结果；
第二点击计算子模块，用于计算所述第二查询结果和所述第二键值结果的点积，得到第二特征交叉权重；
第二矩阵乘法子模块，用于计算所述第二特征交叉权重和所述第二取值矩阵的乘积，得到所述参考信息交叉特征；
第二影响提取子模块，用于根据预设的第二映射关系，对所述推荐参考特征中各个特征之间的影响关系进行提取，得到所述特征间影响特征。
根据本申请实施例的一个方面，提供一种电子设备，该电子设备包括：处理器；以及存储器，用于存储处理器的可执行指令；其中，该处理器配置为经由执行可执行指令来执行如以上技术方案中的信息推荐方法。
根据本申请实施例的一个方面，提供一种计算机可读存储介质，其上存储有计算机程序，当该计算机程序被处理器执行时实现如以上技术方案中的信息推荐方法。
根据本申请实施例的一个方面，提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述各种可选实现方式中提供的支付方法。
在本申请的实施例中，通过参考信息交叉特征和特征间影响特征并行处理再特征融合对特征矩阵加权的方式，在所生成的推荐参考表征特征中引入特征之间相互影响的关系，从而使得所生成的特征表征能够充分体现特征之间相互的影响关系对特征表征的影响，使得对于相同数据在不同数据场景中表达不同含义的情况中，所生成特征表征对于特征数据的表达更准确，有利于提升信息推荐的预测效果。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本申请。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
在附图中：
图1为本申请实施例在广告推广应用场景中的系统架构图；
图2为本申请实施例中信息推荐功能模块的示意性结构图；
图3为本申请实施例中一种信息推荐方法的示意流程图；
图4为本申请实施例中信息提取模块的结构示意图；
图5为本申请实施例中特征信息推荐结构的示意图；
图6为本申请实施例中补充信息推荐结构的示意图；
图7为本申请实施例中广告推广场景中完整技术方案的示意性流程图；
图8示意性地示出了本申请实施例中信息推荐装置的组成框图；
图9示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本申请将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。
此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本申请的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本申请的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本申请的各方面。
附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
应理解，本申请的方案可以应用将获取到的特征数据转换到特征表征的过程中，并且具体应用在例如广告推荐、新闻推送和数据分析等各类需要进行表征数据生成的场景中。具体地，在广告推荐场景中预测要推荐的广告的时，通常需要将所收集到的数据转换为特征表征以便于进行后续基于特征表征预测要推送的广告，例如转换成嵌入向量。嵌入向量的转换过程通常是针对于各个特征进行编码，例如独热编码，从而得到对应的稀疏向量，随后再将稀疏特征稠密化，从而得到适合的特征表征，例如嵌入向量。在此过程中，每个特征的数据与嵌入向量是直接映射关系，嵌入向量中对应于每个特征的特征值根据其自身的取值和取值范围来确定的。然而，在实际的情况下，存在相同数据表示不同含义的情况。例如，考虑训练样本A{员工,白色,计算机,工作日}和训练样本A{员工,红色,唇膏,周末}；这两例中，“员工”这个特征在不同上下文中，其表征是不同的，前一例更倾向于表述工作中的员工，后一例更倾向于表述美妆活动中的员工，但在特征表征中，对应于“员工”的表征是相同的。然而，在本申请的方案中，在生成特征表征的过程中，会通过自注意力模块和多层感知机模块分别对推荐参考特征进行处理，来提取在输入特征之间的存在的上下文关系，并且根据上下文关系确定对应于各个特征的权重，通过对应权重对推荐参考特征中的各个特征加权，来得到特征表征，从而使得特征表征能够体现特征之间的上下文关系的影响。仍以上述的两条训练样本为例，对于“员工”这个特征，通过各自的上下文，即训练样本A中的“白色,计算机,工作日”和训练样本B中的“红色,唇膏,周末”，可以为对应于“员工”的特征值进行不同的加权，从而得到不同的表征值，体现该特征在不同上下文中的不同含义。特征表征对于特征数据体现的越充分，基于特征表征预测的广告推送就更加准确。
在新闻推送场景中，当要确定要推送的新闻时，则可以采用本申请的方案，将从待推荐的新闻信息中提取出的特征矩阵转换为对应的表征矩阵，该表征矩阵的表达能够更加符合推荐目标的状态或者所处的环境，从而使得所确定的新闻能够更加符合推荐对象所在不同环境或者不同场合。
对于数据分析场景，通过本申请的方案来对待分析数据的特征矩阵进行表征矩阵转换，转换得到的表征矩阵能够更加准确地表达待分析数据中各个特征之间的上下文关系，从而使得基于表征矩阵进行的后续数据分析过程能够更加准确地反应出数据特征之间的影响，从而有利于数据分析的准确性。
上述的自注意力模块和多层感知机模块以及后续基于表征矩阵进行后续预测或者分析的过程都可以基于人工智能技术来实现，人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请方案尤其涉及机器学习/深度学习的方向。机器学习(Machine Learning,ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
在本申请中，以广告推广场景为例对本申请的方案进行介绍。图1为本申请实施例在广告推广应用场景中的系统架构图。如图1所示，该应用场景包括移动终端110、预测服务器120和推送服务器130。移动终端是面向终端对象的计算设备，例如手机或者平板电脑等移动终端。在本申请的方案中，预测服务器120可以根据其中存储的与终端对象相关数据来预测适合向移动终端110推送的广告，并且通知推送服务器130。推送服务器130则根据预测服务器120发送的预测数据来向移动终端110推送广告，并且向预测服务器120反馈其确定的相关推送信息。移动终端110会在适当的时间和场景中展示接收到广告推送，并且可以根据终端对象在移动终端110上对于广告推送的操作向预测服务器120反馈关于推送广告的反馈结果。预测服务器120根据接收到反馈结果来进一步调整其中的机器学习模型来进一步提升其预测效果。
预测服务器120和推送服务器130可以是独立的物理服务器或者在同一个物理服务器上，也可以是多个物理服务器构成的服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(Content Delivery Network，内容分发网络)以及大数据和人工智能平台等基础云计算服务的云服务器，本处不对此进行限制。预测服务器120和推送服务器130可以是一个整体推送系统一部分，并且各自执行其对应的功能。
移动终端110包括但不限于手机、电脑、智能语音交互设备、智能家电、或者车载终端等。移动终端110、预测服务器120和推送服务器130之间可以通过有线或无线通信方式进行直接或间接地连接，本申请在此不做限制。移动终端、预测服务器和推送服务器也不做限制。
下面介绍用于将嵌入矩阵转换为适当的推荐参考表征特征的功能模块。请参阅图2，图2为本申请实施例中信息推荐功能模块的示意性结构图。如图2所示，在结构中主要包括信息提取模块IEUW210和信息选择模块CSGate220。其中，信息提取模块的输入参数为Ei＝[v1；v2；…；vf]∈Rf×d，其中f为域的总数，d为每个域对应的嵌入向量的长度(例如d＝64，表示一个64维的向量)。域用于对于特征数据中特征进行划分，例如，将同属于目标对象的特征划分到一个域中，而将属于广告的特征划分另一个域中等。信息提取模块IEUW210对输入参数E进行处理后，会输出权重矩阵Wb∈Rf×d。该权重矩阵Wb是信息提取模块IEUW210对输入参数E中特征之间的上下文关系进行提取并应用之后的结果，因此，该权重矩阵Wb本身表示的是各个特征对于广告预测结果的作用，但该权重矩阵Wb的结果本身包含了特征之间的上下文关系。该权重矩阵Wb和输入参数E一起被输入到信息选择模块CSGate220中，由信息选择模块CSGate220进行加权计算后得到输出的推荐参考表征特征在后续的步骤中，广告预测模型会根据推荐参考表征特征/>来预测需要推送的广告，从而能够在预测过程中，考虑到特征之间的上下文关系。
下面结合具体实施方式对本申请提供的技术方案做出详细说明。为了便于介绍，请参阅图3，图3为本申请实施例中一种信息推荐方法的示意流程图。该方法可以应用于上述的预测服务器的计算设备中。在本申请实施例中，以预测服务器的计算设备作为执行主体来进行介绍，该信息推荐方法可以包括如下的步骤S310至S340：
步骤S310，提取推荐参考信息的推荐参考特征。
在本申请的实施例中，推荐参考特征是基于待推荐广告等待推荐内容的推荐参考信息获得特征数据后，对特征数据进行特征编码后的嵌入矩阵。推荐参考信息能够用于信息推荐的各类相关参考数据，例如对于推荐的信息的反馈信息、推荐信息的内容以及推荐对象的相关数据等。特征编码方式通常采用独热编码。待推广广告等的推荐参考信息中通常包含与广告本身的属性相关的数据以及与广告被收看的情况相关的数据。这些数据通常是从广告的推送和收看历史中收集得到的。
步骤S320，对所述推荐参考特征分别进行特征交叉和影响特征提取，得到与所述推荐参考特征对应的参考信息交叉特征和特征间影响特征，所述特征间影响特征为表示所述推荐参考特征中特征之间互相影响的特征。
在本实施例中，信息推荐装置对于推荐参考特征的处理过程包括并行的两个处理模块，其中，包括用于进行特征交叉提取的处理模块和影响特征提取的模块。在特征交叉提取的处理模块中配置有训练好的处理机制，例如自注意力机制。该自注意力机制中通常包含多个可学习的转换参数，该自注意力机制通过这些转换函数对推荐参考特征进行数据转换。转换矩阵通过监督训练的过程来进行学习和调整，从而能够根据推荐参考特征中各个特征值对于广告推荐结果重要程度或影响能力来对特征值进行调整，从而使得输出的参考信息交叉特征能够体现出各个特征对于后续的推荐结果的不同重要性。
用于进行影响特征提取的模块中可以配置有训练好的多层感知机等处理机制。信息推荐装置会通过这些处理机制来提取推荐参考特征中各个特征之间的特征关系，从而得到特征间影响特征。具体地，特征间影响特征通常是对应于各个特征类别的向量，其中包含对于不同的特征类别的权重。特征类别指的是推荐参考特征中的不同特征向量所对应的对象属性，例如，对于一条特征数据中包含三个对象属性，性别、颜色偏好和广告物品，其在推荐参考特征中对应于一行向量，例如xi＝(1,…,0,0)(1,0)(0,…,1,0)，其中第一个括号对应于颜色偏好，第二个括号对应性别，第三个括号对应广告物品，这三个括号内的向量分别对应于一个特征类别，对于此示例，其对应的特征间影响特征也存在对应于这三个特征的权重。多层感知机中包含多个可学习的参数，这些参数经过监督训练来进行调整，从而能够根据不同特征类别之间的影响关联关系来调整对应各个特征类别的表征值，从而使得输出的特征间影响特征中的值能够体现出在不同上下文中各个特征类别之间的关联关系。
以自注意力机制和多层感知机为上述的信息提取模块的一部分为例，请参阅图4，图4为本申请实施例中信息提取模块的结构示意图。如图4所示，第一自注意力机制410与第一多层感知机420为并联结构，它们分别接收输入推荐参考特征，并且各自的输出结果被相乘以用于后续对推荐参考特征进行加权。
步骤S330，将所述参考信息交叉特征和所述特征间影响特征进行特征融合，得到所述推荐参考信息对应的推荐参考表征特征。
在本实施例中，将参考信息交叉特征与特征间影响特征特征融合能够得到对应于对应推荐参考特征中每个特征元素的权重值，通过得到的权重值对推荐参考特征中的各个特征元素进行加权处理，从而生成推荐参考特征对应的推荐参考表征特征。特征融合可以采用对应的模型来进行处理，或者直接通过二者相乘或者加权求和来进行计算。该推荐参考表征特征能够体现不同特征类别在各自的上下文中对于结果的影响程度，从而推荐参考表征特征对对象数据的体现更加充分。推荐参考表征特征用于从待推广广告数据中确定要推送的广告数据。这些要推送的广告数据是预测会被推送对象浏览的广告。具体的预测过程可以采用训练好的预测模型或者预测算法的等方法来进行预测。
步骤S340，基于所述推荐参考表征特征，从待推荐信息中筛选与所述推荐参考表征特征匹配的信息进行推荐。
本申请的方案可以应用在广告推广的场景中。推荐参考特征是从待推广数据中获得的。具体地，推荐参考特征是对与广告推广对象相关的对象数据进行特征筛选和编码之后的嵌入向量或者嵌入矩阵。该嵌入矩阵中包括对应于每一条对象数据的数据，并且其中还包括对应于对象数据的每个特征的对应特征值。推荐参考特征在经过上述方案的转换后得到推荐参考表征特征。该推荐参考表征特征会被输入到对应广告推广预测模型中进行计算，预测要向广告推广对象推送的广告数据。通过本申请的方案，在广告推广时，由于推荐时特征之间的上下文关系，因此在进行推送时能够一定程度上考虑到推荐对象所处的场景，例如对于处于美妆场景下的推荐对象则可以针对性的推送美妆广告推广，而对于工作场景下的的推荐对象则推荐更多办公产品等，使得推荐结果能够根据推荐对象所在的场景来推荐更加符合所在的场景的广告推广，从而提升推广的准确性和推广效果。
在本申请的实施例中，通过参考信息交叉特征和特征间影响特征并行处理再特征融合对特征矩阵加权的方式，在所生成的推荐参考表征特征中引入特征之间相互影响的关系，从而使得所生成的特征表征能够充分体现特征之间相互的影响关系对特征表征的影响，使得对于相同数据在不同数据场景中表达不同含义的情况中，所生成特征表征对于特征数据的表达更准确，有利于提升信息推荐的预测效果。
在本申请的一个实施例中，基于以上的技术方案，上述步骤S330，将所述参考信息交叉特征和所述特征间影响特征进行特征融合，得到所述推荐参考信息对应的推荐参考表征特征，具体包括如下的步骤：
计算所述参考信息交叉特征中的元素与所述特征间影响特征中对应位置元素的乘积，得到特征权重矩阵，所述特征权重矩阵与所述推荐参考特征的维度相同，所述特征权重矩阵中包含对应于所述推荐参考特征中每个特征值的权重；
根据所述特征权重矩阵中的权重，对所述推荐参考特征中对应位置的特征值进行加权，得到所述推荐参考信息对应的推荐参考表征特征。
具体地，信息推荐装置会将参考信息交叉特征与特征间影响特征进行对应位置元素相乘，得到对应的乘积。取决于参考信息交叉特征与特征间影响特征之间的形式，相乘的方式可以不同。例如，在参考信息交叉特征与特征间影响特征的维度相同的情况下，可以将按照矩阵中的位置来选择对应位置的元素来相乘，所得到的乘积即哈达玛积，作为特征权重矩阵。所得到的特征权重矩阵与推荐参考特征的维度相同，并且特征权重矩阵中的每个权重是对应推荐参考特征中特征值的权重。对于参考信息交叉特征与特征间影响特征维度不同的情况，则可以将按照特征间影响特征中特征值对应的特征类别，来对参考信息交叉特征中对应类别的特征值进行加权。例如，根据特征间影响特征中按照对应域来对参考信息交叉特征中对应域的特征值进行加权处理，或者特征间影响特征中包含对应多个特征数据分组中的各个特征类别的权重，则按照对应分组对参考信息交叉特征中对应分组进行加权。
随后，将所得到的特征权重矩阵中的权重与推荐参考特征中对应位置的特征值相乘，从而对推荐参考特征进行加权处理，加权后的结果即为推荐参考特征对应的推荐参考表征特征。具体地，推荐参考表征特征的计算方式如下：
其中，Wb为特征权重矩阵，E为推荐参考特征，为推荐参考表征特征，σ为sigmoid函数。特征权重矩阵Wb会被输入到sigmoid函数中进行处理，从而得到输出的包含特征上下文信息的权重σ(Wb)，随后，将权重σ(Wb)与推荐参考特征E∈Rf×d相乘，得到输出的推荐参考表征特征/>
在本申请的实施例中，通过对位乘积的方式来计算特征权重矩阵，并且根据特征权重矩阵来对推荐参考特征进行加权处理，从而使得推荐参考特征对应的推荐参考表征特征中包含特征的上下文关系，提升方案的完整性。
在本申请的一个实施例中，基于以上的技术方案，所述特征间影响特征为1×N的矩阵，所述参考信息交叉特征为M×N的矩阵，上述步骤，根计算所述参考信息交叉特征中的元素与所述特征间影响特征中对应位置元素的乘积，具体包括如下的步骤：
将所述参考信息交叉特征中的M行向量分别与所述特征间影响特征中对应行的元素相乘，得到M个行乘积结果；
根据所述M个行乘积结果生成特征权重矩阵。
在本实施例中，参考信息交叉特征为M×N的矩阵，其中，M为每条数据中的特征类别的数量，而N为对象数量的数量。在进行相乘时，将参考信息交叉特征中的M行向量分别与特征间影响特征中对应行的元素相乘，即相当于特征间影响特征中的每个元素与参考信息交叉特征中对应行的M×1的向量的相乘，也就是特征间影响特征中的每个元素对与参考信息交叉特征中对应行上每个元素的相乘，从而得到对应于M行的M个行乘积结果，再将M行的行乘积结果按照特征数据的顺序排列，从而得到特征权重矩阵。可以理解，特征权重矩阵也是M×N的矩阵。
在本申请的实施例中，通过特征间影响特征中对应行的元素与参考信息交叉特征中对应行中的向量相乘，从而使得每行数据的各个特征类别都能被对应的权重进行加权处理，对每个特征值按照上下文信息进行调整，有利于提升所生成的特征权重矩阵的精细程度。
在本申请的一个实施例中，基于以上的技术方案，上述步骤S310，获取待推广广告数据的推荐参考特征之后，本申请的方法还包括如下的步骤：
对所述推荐参考特征分别进行补充特征和影响特征提取，得到与所述推荐参考特征中的补充特征和补充影响特征，所述补充影响特征为表示所述补充特征之间互相影响情况的特征；
根据所述特征权重矩阵对所述补充特征和补充影响特征的特征融合结果进行加权处理，生成所述推荐参考特征的补充表征矩阵；
上述步骤S330，将所述参考信息交叉特征和所述特征间影响特征进行特征融合，得到所述推荐参考信息对应的推荐参考表征特征，具体包括如下的步骤：
将所述特征权重矩阵中的权重与对所述推荐参考特征中对应位置的特征值相乘，得到所述特征权重矩阵与所述推荐参考特征的乘积矩阵；
计算所述乘积矩阵与所述补充表征矩阵之和，得到所述推荐参考特征对应的推荐参考表征特征。
在本申请的实施例中，信息推荐装置还会生成推荐参考特征的补充表征矩阵，并且补充表征矩阵的生成过程与特征权重矩阵的生成过程是相互独立的，并且可以并行执行。具体地，请参阅图5，图5为本申请实施例中特征信息推荐结构的示意图。如图5所示，在该结构中包含一条与信息提取模块IEUW510的分支相互独立的另一条分支，该分支中有用于生成补充表征矩阵的信息提取模块IEUG520。IEUW510输出特征权重矩阵Wb∈Rf×d，IEUG520输出补充特征矩阵Eg∈Rf×d，特征权重矩阵Wb、补充特征矩阵Eg和输入特征数据E被一起输入到信息选择模块CSGate520进行加权从而得到输出的推荐参考表征特征
信息提取模块IEUG520的具体结构与图2中所示的信息提取模块IEUW510的结构类似，包含并联的第二自注意力机制和第二多层感知机。第二自注意力机制和第二多层感知机分别对于输入特征数据E进行处理，得到补充特征和补充影响特征。信息推荐装置后续会利用特征权重矩阵Wb对二者相乘的乘积Eg进行加权处理，以用于后续生成补充表征矩阵。第二自注意力机制和第二多层感知机与第一自注意力机制和第一多层感知机的结构类似，区别在于，对于第二自注意力机制和第二多层感知机进行监督训练过程不同，因此其中信息提取模块IEUG520中第二自注意力机制中可学习的转换矩阵和第二多层感知机中可学习的参数与信息提取模块IEUW510中的不同，因此，虽然输入相同，所输出的结果也与信息提取模块IEUW510的结果不同，输出结果所表达的含义也不同。信息提取模块IEUG520所输出的补充特征矩阵Eg包含在特征权重矩阵Wb中未被赋予较高权重的特征，然而这些特征作为其高权重特征的上下文信息的一部分，对于预测结果也存在一定的指导性影响，因此，通过第二自注意力机制和第二多层感知机针对这部分较低权重的特征进行特征值调整，从而使得这部分特征能够具备适当的特征值。
所得到的补充表征矩阵会在计算推荐参考表征特征时被引入来作为对特征数据的补充。具体地，对乘积矩阵和补充表征矩阵求和，其具体计算公式如下：
其中，为推荐参考表征特征，E⊙σ(Wb)为特征权重矩阵对于推荐参考特征的加权结果，Eg⊙(1-σ(Wb))为补充权重矩阵对于补充特征矩阵加权的结果。
在本申请的实施例中，通过在推荐参考表征特征中引入补充表征矩阵，避免推荐参考表征特征在加入上下文关系时丢失原始数据中的特征，使得在进行预测时能够充分考虑到低权重特征对于预测结果的影响，有利于提升特征表征的表征效果。
在本申请的一个实施例中，基于以上的技术方案，上述步骤，根据所述特征权重矩阵对所述补充特征和补充影响特征的特征融合结果进行加权处理，生成所述推荐参考特征的补充表征矩阵，具体包括如下的步骤：
计算所述补充特征中的元素与所述补充影响特征中对应位置元素的乘积，得到补充特征矩阵，所述补充特征矩阵与所述推荐参考特征的维度相同；
根据所述特征权重矩阵中的权重对所述补充特征矩阵中对应位置的特征值进行加权处理，得到所述推荐参考特征的补充表征矩阵。
具体地，信息推荐装置会将补充特征与补充影响特征进行对位元素相乘，得到对应的乘积。具体相乘方式与上文中所描述的参考信息交叉特征与特征间影响特征的相乘方式相同。此处不再赘述。随后，信息推荐装置会根据特征权重矩阵中的权重对补充特征矩阵中对应位置的特征值进行加权处理，从而得到推荐参考特征的补充表征矩阵。具体地，为了便于介绍，请参阅图6，图6为本申请实施例中补充信息推荐结构的示意图。如图6所示，在得到包含特征上下文信息的权重σ(Wb)后，权重σ(Wb)会被用于对补充特征矩阵Eg进行加权来得到补充表征矩阵。在图6的两个分支中，权重σ(Wb)对推荐参考特征E加权得到的推荐参考表征特征和权重σ(Wb)对补充特征矩阵Eg加入得到的补充表征矩阵会被合并成输出的推荐参考表征特征从而用于预测需要推送的广告。
在本申请的实施例中，通过特征权重矩阵对补充特征矩阵进行加权处理，从而得到补充表征矩阵，提供了补充表征矩阵的具体生成方式，有利于方案的可操作性。
在本申请的一个实施例中，基于以上的技术方案，上述步骤，根据所述特征权重矩阵中的权重对所述补充特征矩阵中对应位置的特征值进行加权处理，得到所述推荐参考特征的补充表征矩阵，具体包括如下的步骤：
计算权重上限值与所述特征权重矩阵的各个权重值的差值，得到补充权重矩阵；
将所述补充权重矩阵与所述补充特征矩阵中对应位置的特征值相乘，得到所述补充特征矩阵的补充表征矩阵。
在本实施例中，在对补充特征矩阵进行加权时，采用特征权重矩阵中权重的补充权重来进行加权。具体地，信息推荐装置会根据权重上限值与特征权重矩阵的各个权重值的差值，得到补充权重。具体地，在特征权重矩阵Wb经过sigmoid函数处理过后，其取值范围的最大值为1。因此在本实施例中，权重上限值为1，而根据权重上限值与特征权重矩阵的各个权重值的差值得到的补偿权重1-σ(Wb)。补偿权重具体为对应于特征权重矩阵的矩阵，其中，对于补充特征矩阵中的每个特征值，都可以根据特征权重矩阵对应位置的权重值来计算出对应的补偿权重。根据特征权重矩阵的权重所在的矩阵位置，将补充特征矩阵中的位置对应位置的特征值与补偿权重相乘，从而能够得到对应补偿表征值。所得到的补偿表征值按照对应于补充特征矩阵的位置进行排列，就得到补充特征矩阵的补充表征矩阵。补充表征矩阵可以按照如下的公式得到:
Eg⊙(1-σ(Wb))
其中，Eg为补充特征矩阵，Wb为特征权重矩阵，σ为sigmoid函数。
在本申请的实施例中，通过权重上限值与特征权重矩阵的各个权重值的差值来得到补偿权重矩阵，再根据补偿权重矩阵对补充特征矩阵加权来得到补充表征矩阵，从而能够使得补充表征矩阵能够更加充分表征在特征权重矩阵中被赋予低权重的特征，提升特征表征对于对象特征的表征能力。
在本申请的一个实施例中，基于以上的技术方案，补充影响特征为1×N的矩阵，所述补充特征为M×N的矩阵，上述步骤，计算所述补充特征中的元素与所述补充影响特征中对应位置元素的乘积，得到补充特征矩阵，具体包括如下的步骤：
将所述补充特征中的M行向量分别与所述补充影响特征中对应行的元素相乘，得到M个行乘积结果；
根据所述M个行乘积结果生成补充特征矩阵。
在本实施例中，补充特征为M×N的矩阵，其中，M为每条数据中的特征类别的数量，而N为对象数量的数量。需要强调的是，补充特征的维度与参考信息交叉特征的维度是相同的，并且补充影响特征与特征间影响特征的维度也是相同的。具体地，在元素相乘时，将补充特征中的M行向量分别与补充影响特征中对应行的元素相乘，即相当于补充影响特征中的每个元素与补充特征中对应行的M×1向量中的每个元素的相乘，也就是特征间影响特征中的每个元素对与参考信息交叉特征中对应行上每个元素的乘积，从而得到对应于M行的M个行乘积结果，再将M行的行乘积结果按照特征数据的顺序排列，从而得到补充特征矩阵。可以理解，补充特征矩阵也是M×N的矩阵。
在本申请的实施例中，通过补充影响特征中对应行的元素与补充特征中对应行中的向量相乘，使得每行数据的各个特征类别都能被对应的补充权重进行加权处理，对每个补充特征按照补充权重进行调整，补充特征矩阵能够适当地对特征权重矩阵中低权重的特征进行补充，强化了特征的上下文关系在推荐参考表征特征中的表达，有利于提高预测的准确性。
在本申请的一个实施例中，基于上述的技术方案，上述步骤，对所述推荐参考特征分别进行补充特征和影响特征提取，得到与所述推荐参考特征中的补充特征和补充影响特征，具体包括如下的步骤：
将预设的第一查询矩阵、第一键值矩阵和第一取值矩阵，分别与所述推荐参考特征相乘，得到第一查询结果、第一键值结果和第一取值结果；
计算所述第一查询结果和所述第一键值结果的点积，得到第一特征交叉权重；
计算所述第一特征交叉权重和所述第一取值矩阵的乘积，得到所述补充特征；
根据预设的第一映射关系，对所述推荐参考特征中各个补充特征之间的影响关系进行提取，得到所述补充影响特征。
在本实施例中，补充特征提取的过程通过三个矩阵来对推荐参考特征进行转换。这三个矩阵分别为第一查询矩阵、第一键值矩阵和第一取值矩阵，它们作为补充特征提取机制中的参数矩阵，已经在训练的过程中通过监督训练进行调整，从而能够根据推荐参考特征中的特征值对于特征表征的重要性来对其特征值进行调整，使得输出的补充特征强调在参考信息交叉特征中被赋予较低权重的特征，即，补充特征中的特征是对于参考信息交叉特征中特征的补充。例如，对于广告推广，则体现各个特征对于直接影响预测广告的特征属性的影响能力。具体地，例如，存在第一查询矩阵WQ、第一键值矩阵WQ和第一取值矩阵WV，并且其中dk表示注意力向量的大小。三个矩阵分别与推荐参考特征E作用，得到：
Q,K,V＝EWQ,EWK,EWV
其中，Q为第一查询结果，K为第一键值结果Key，V为第一取值结果Value。之后，首先对Q和K做点积，再进行softmax计算，得到第一特征交叉权重。随后，将第一特征交叉权重与V相乘，从而得到参考信息交叉特征，公式如下：
在一个实施例中，通过三个转换矩阵计算得到的输出的维度与推荐参考特征的维度不同，则此时需要对上述公式的结果进行投影。具体地，通过一个可学习的投影矩阵WP来进行投影，从而将上述结果的尺寸变为与推荐参考特征相同，公式如下：
Attentionout＝Attention(Q,K,V)WP∈Rf×d
其中，Attention(Q,K,V)为参考信息交叉特征，WP为投影矩阵。
随后，信息推荐装置会根据预设的第一映射关系，对推荐参考特征中各个补充特征之间的影响关系进行提取，得到补充影响特征。其中第一映射关系可以是训练好的多层感知机等学习模型或者对应的映射算法。将推荐参考特征作为输入参数带入到多层感知机之间进行计算，通过模型中提取补充特征之间相互影响的关系，作为补充影响特征。
在本申请的实施例中，提供了注意力机制的具体执行过程，有利于方案的可操作性。
在本申请的一个实施例中，基于上述的技术方案，所述第一映射关系包括P个隐藏层，上述步骤，根据预设的第一映射关系，对所述推荐参考特征中各个补充特征之间的影响关系进行提取，得到所述补充影响特征，具体包括如下的步骤：
获取第P-1个隐藏层的输出向量，其中，所述第P-1个隐藏层的输入向量为第P-2个隐藏层的输出向量，第一个隐藏层的输入向量是将所述推荐参考特征转换的一维特征向量得到的；
将所述第P-1个隐藏层的输出向量输入所述第P个隐藏层的激活函数中进行计算，得到输出向量作为所述补充影响特征。
在本实施例中，第一映射关系具体可以是包括P个隐藏层的多层感知机，其中，P为大于0的整数。多层感知机通过P个隐藏层对推荐参考特征进行迭代，即第1层的输入为推荐参考特征，对于中间的任意层，第p层的输入为第p-1层的输出，而第p层的输出作为第p+1层的输入，直至最后的第P个隐藏层输出补充影响特征。具体地，各个隐藏层的计算过程可以表示为：
hp+1＝PReLU(Wphp+bp)
其中，其中hp,hp+1分别表示第p层和第p+1层的输出；Wp,bp是第p层的可学习参数。第1隐藏层中的h0＝Econ∈R1×(f*d)，表示拉平为一维的输入参数矩阵E；PReLU(·)表示PReLU函数。最终，多层感知机输出的维度为1×d，即输出一个一维向量，其向量长度等于输入参数矩阵的长度。多层感知机所输出的向量中包含输入特征参数中各个特征之间的关联关系。可以理解，对于长度为d的补充影响特征，其所对应的对象数据中所包含的特征种类也为d，补充影响特征中d个元素值分别对应于一个特征种类。例如，对于对象数据中存在性别、年龄和偏好特征，则，多层感知机输出的补充影响特征为1×3的向量，并且多个元素值分别对应于性别、年龄和偏好特征。
可以理解的是，上述的特征间影响特征的计算过程与补充影响特征的计算过程相同，其区别在于监督训练的目标和回归过程不同，因此，特征间影响特征的各个隐藏层中的可学习参数Wp,bp与补充影响特征中的不同。特征间影响特征用于根据特征之间的关系，调整对预测结果影响较大特征的特征值，而补充影响特征用于根据特征之间的关系，调整对于其他特征值有影响特征的特征值。
在本申请的一个实施例中，基于上述的技术方案，上述步骤S320，所述对所述推荐参考特征分别进行特征交叉和影响特征提取，得到与所述推荐参考特征对应的参考信息交叉特征和特征间影响特征，具体包括如下的步骤：
将预设的第二查询矩阵、第二键值矩阵和第二取值矩阵，分别与所述推荐参考特征相乘，得到第二查询结果、第二键值结果和第二取值结果；
计算所述第二查询结果和所述第二键值结果的点积，得到第二特征交叉权重；
计算所述第二特征交叉权重和所述第二取值矩阵的乘积，得到所述参考信息交叉特征；
根据预设的第二映射关系，对所述推荐参考特征中各个特征之间的影响关系进行提取，得到所述特征间影响特征。
具体地，对于参考信息交叉特征的提取过程与对于补充特征的提取过程相同，区别在于，参考信息交叉特征的监督训练过程与补充特征的监督训练过程不同，因此，第二查询矩阵、第二键值矩阵和第二取值矩阵与补充特征中的第一查询矩阵、第一键值矩阵和第一取值矩阵不同。因此，补充特征与参考信息交叉特征中的特征表达也不同。参考信息交叉特征会强调各个特征对于最终推荐结果的直接影响能力，其中会将对结果影响能力强的特征赋予较高权重，而对于其他间接影响结果的特征赋予较低权重。而补充特征中会强调在参考信息交叉特征中被赋予较低权重的特征，即，补充特征中的特征是对于参考信息交叉特征中特征的补充，从而在最后生成的推荐参考表征特征中，适当地引入对高权重特征存在一定影响或者指导作用的其他特征，从而使得推荐参考表征特征的表达更加全面。
在本申请的一个实施例中，基于上述的技术方案，所述第二映射关系包括Q个隐藏层，上述步骤，根据预设的第二映射关系，对所述推荐参考特征中各个特征之间的影响关系进行提取，得到所述特征间影响特征，具体包括如下的步骤：
获取第Q-1个隐藏层的输出向量，其中，所述第Q-1个隐藏层的输入向量为第Q-2个隐藏层的输出向量，第一个隐藏层的输入向量是将所述推荐参考特征转换的一维特征向量得到的；
将所述第Q-1个隐藏层的输出向量输入所述第Q个隐藏层的激活函数中进行计算，得到输出向量作为所述影响特征提取。
在本实施例中，第二映射关系具体可以是包括Q个隐藏层的多层感知机，其中，Q为大于0的整数。具体地，该多层感知机可以与用于提取补充影响特征的多层感知机具备相同的结果，即通过Q层隐藏层的串联过程来计算，最后第Q层的输出作为输出结果。可以理解的是，特征间影响特征的计算过程与上述补充影响特征的计算过程相同，其区别在于监督训练的目标和回归过程不同，因此，特征间影响特征的各个隐藏层中的可学习参数Wp,bp与补充影响特征中的不同。特征间影响特征用于根据特征之间的关系，调整对预测结果影响较大特征的特征值，而补充影响特征用于根据特征之间的关系，调整对于其他特征值有影响特征的特征值。
下面结合广告推广的场景，介绍本申请技术方案的完整实施例。请参阅图7，图7为本申请实施例中广告推广场景中完整技术方案的示意性流程图。如图7所示，
在步骤701中，广告推广装置从待推广数据中提取推荐参考信息的推荐参考特征。对于所获取的推荐参考特征，在步骤702中，广告推广装置对所述推荐参考特征分别进行特征交叉和影响特征提取，得到与所述推荐参考特征对应的参考信息交叉特征和特征间影响特征，所述特征间影响特征为表示所述推荐参考特征中特征之间互相影响的特征，随后，在步骤703中，广告推广装置将参考信息交叉特征中的M行向量分别与特征间影响特征中对应行的元素相乘，得到M个行乘积结果；并且在步骤704中，根据M个行乘积结果生成特征权重矩阵，特征权重矩阵与推荐参考特征的维度相同，特征权重矩阵中包含对应于推荐参考特征中每个特征值的权重。在与步骤702至704独立的另一个分支中，在步骤705中，广告推广装置对所述推荐参考特征分别进行补充特征和影响特征提取，得到与所述推荐参考特征中的补充特征和补充影响特征，所述补充影响特征为表示所述补充特征之间互相影响情况的特征，补充特征为M×N的矩阵，补充影响特征为1×N的矩阵。随后，在步骤706中，广告推广装置将补充特征中的M行向量分别与补充影响特征中对应行的元素相乘，得到M个行乘积结果；并且在步骤706中，根据M个行乘积结果生成补充特征矩阵，补充特征矩阵与推荐参考特征的维度相同。在步骤708中，根据权重上限值与特征权重矩阵的各个权重值的差值，得到补充权重矩阵；并且在步骤709中，将补充权重矩阵与补充特征矩阵中对应位置的特征值相乘，得到补充特征矩阵的补充表征矩阵。
在得到特征权重矩阵和补充表征矩阵后，在步骤710中，广告推广装置将特征权重矩阵中的权重与对推荐参考特征中对应位置的特征值相乘，得到特征权重矩阵与推荐参考特征的乘积矩阵；并且在步骤711中计算乘积矩阵与补充表征矩阵之和，得到推荐参考特征对应的推荐参考表征特征。最后，在步骤712中，广告推广装置基于所述推荐参考表征特征，从待推荐信息中筛选与所述推荐参考表征特征匹配的信息进行推荐。
以下介绍本申请的装置实施，可以用于执行本申请上述实施例中的信息推荐方法。图8示意性地示出了本申请实施例中信息推荐装置的组成框图。如图8所示，信息推荐装置800主要可以包括：
特征矩阵提取模块810，用于提取推荐参考信息的推荐参考特征；
特征影响提取模块820，用于对所述推荐参考特征分别进行特征交叉和影响特征提取，得到与所述推荐参考特征对应的参考信息交叉特征和特征间影响特征，所述特征间影响特征为表示所述推荐参考特征中特征之间互相影响的特征；
特征融合模块830，用于将所述参考信息交叉特征和所述特征间影响特征进行特征融合，得到所述推荐参考信息对应的推荐参考表征特征；
信息推荐模块840，用于基于所述推荐参考表征特征，从待推荐信息中筛选与所述推荐参考表征特征匹配的信息进行推荐。
在本申请的一个实施例中，基于以上的技术方案，特征融合模块830包括：
特征权重矩阵计算子模块，用于计算所述参考信息交叉特征中的元素与所述特征间影响特征中对应位置元素的乘积，得到特征权重矩阵，所述特征权重矩阵与所述推荐参考特征的维度相同，所述特征权重矩阵中包含对应于所述推荐参考特征中每个特征值的权重；
推荐参考表征特征计算子模块，用于根据所述特征权重矩阵中的权重，对所述推荐参考特征中对应位置的特征值进行加权，得到所述推荐参考信息对应的推荐参考表征特征。
在本申请的一个实施例中，基于以上的技术方案，所述特征间影响特征为1×N的矩阵，所述参考信息交叉特征为M×N的矩阵，特征权重矩阵计算子模块包括：
第一元素乘法单元，用于将所述参考信息交叉特征中的M行向量分别与所述特征间影响特征中对应行的元素相乘，得到M个行乘积结果；
第一矩阵生成单元，用于根据所述M个行乘积结果生成特征权重矩阵。
在本申请的一个实施例中，基于以上的技术方案，信息推荐装置还包括：
补充影响提取模块，用于对所述推荐参考特征分别进行补充特征和影响特征提取，得到与所述推荐参考特征中的补充特征和补充影响特征，所述补充影响特征为表示所述补充特征之间互相影响情况的特征；
补充特征融合模块，用于根据所述特征权重矩阵对所述补充特征和补充影响特征的特征融合结果进行加权处理，生成所述推荐参考特征的补充表征矩阵；
推荐参考表征特征计算子模块包括：
矩阵加权单元，用于将所述特征权重矩阵中的权重与对所述推荐参考特征中对应位置的特征值相乘，得到所述特征权重矩阵与所述推荐参考特征的乘积矩阵；
矩阵加法单元，用于计算所述乘积矩阵与所述补充表征矩阵之和，得到所述推荐参考特征对应的推荐参考表征特征。
在本申请的一个实施例中，基于以上的技术方案，补充特征融合模块包括：
补充特征矩阵计算子模块，用于计算所述补充特征中的元素与所述补充影响特征中对应位置元素的乘积，得到补充特征矩阵，所述补充特征矩阵与所述推荐参考特征的维度相同；
补充表征矩阵计算子模块，用于根据所述特征权重矩阵中的权重对所述补充特征矩阵中对应位置的特征值进行加权处理，得到所述推荐参考特征的补充表征矩阵。
在本申请的一个实施例中，基于以上的技术方案，补充表征矩阵计算子模块包括：
补充权重矩阵计算单元，用于计算权重上限值与所述特征权重矩阵的各个权重值的差值，得到补充权重矩阵；
补充表征计算单元，用于将所述补充权重矩阵与所述补充特征矩阵中对应位置的特征值相乘，得到所述补充特征矩阵的补充表征矩阵。
在本申请的一个实施例中，基于以上的技术方案，所述补充影响特征为1×N的矩阵，所述补充特征为M×N的矩阵，补充特征矩阵计算子模块包括：
第二元素乘法单元，用于将所述补充特征中的M行向量分别与所述补充影响特征中对应行的元素相乘，得到M个行乘积结果；
第二矩阵生成单元，用于根据所述M个行乘积结果生成补充特征矩阵。
在本申请的一个实施例中，基于以上的技术方案，补充影响提取模块包括：
第一矩阵转换子模块，用于将预设的第一查询矩阵、第一键值矩阵和第一取值矩阵，分别与所述推荐参考特征相乘，得到第一查询结果、第一键值结果和第一取值结果；
第一点击计算子模块，用于计算所述第一查询结果和所述第一键值结果的点积，得到第一特征交叉权重；
第一矩阵乘法子模块，用于计算所述第一特征交叉权重和所述第一取值矩阵的乘积，得到所述补充特征；
第一影响提取子模块，用于根据预设的第一映射关系，对所述推荐参考特征中各个补充特征之间的影响关系进行提取，得到所述补充影响特征。
在本申请的一个实施例中，基于以上的技术方案，所述第一映射关系包括P个隐藏层，第一影响提取子模块包括：
第一向量获取单元，用于获取第P-1个隐藏层的输出向量，其中，所述第P-1个隐藏层的输入向量为第P-2个隐藏层的输出向量，第一个隐藏层的输入向量是将所述推荐参考特征转换的一维特征向量得到的；
第一向量计算单元，用于将所述第P-1个隐藏层的输出向量输入所述第P个隐藏层的激活函数中进行计算，得到输出向量作为所述补充影响特征。
在本申请的一个实施例中，基于以上的技术方案，特征影响提取模块820包括：
第二矩阵转换子模块，用于将预设的第二查询矩阵、第二键值矩阵和第二取值矩阵，分别与所述推荐参考特征相乘，得到第二查询结果、第二键值结果和第二取值结果；
第二点击计算子模块，用于计算所述第二查询结果和所述第二键值结果的点积，得到第二特征交叉权重；
第二矩阵乘法子模块，用于计算所述第二特征交叉权重和所述第二取值矩阵的乘积，得到所述参考信息交叉特征；
第二影响提取子模块，用于根据预设的第二映射关系，对所述推荐参考特征中各个特征之间的影响关系进行提取，得到所述特征间影响特征。
需要说明的是，上述实施例所提供的装置与上述实施例所提供的方法属于同一构思，其中各个模块执行操作的具体方式已经在方法实施例中进行了详细描述，此处不再赘述。
图9示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
需要说明的是，图9示出的电子设备的计算机系统900仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图9所示，计算机系统900包括中央处理单元(Central Processing Unit，CPU)901，其可以根据存储在只读存储器(Read-Only Memory，ROM)902中的程序或者从储存部分908加载到随机访问存储器(Random Access Memory，RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中，还存储有系统操作所需的各种程序和数据。CPU 901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(Input/Output，I/O)接口905也连接至总线904。
以下部件连接至I/O接口905：包括键盘、鼠标等的输入部分906；包括诸如阴极射线管(Cathode Ray Tube，CRT)、液晶显示器(Liquid Crystal Display，LCD)等以及扬声器等的输出部分907；包括硬盘等的储存部分908；以及包括诸如LAN(Local Area Network，局域网)卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器910上，以便于从其上读出的计算机程序根据需要被安装入储存部分908。
特别地，根据本申请的实施例，各个方法流程图中所描述的过程可以被实现为计算机软件程序。例如，本申请的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分909从网络上被下载和安装，和/或从可拆卸介质911被安装。在该计算机程序被中央处理单元(CPU)901执行时，执行本申请的系统中限定的各种功能。
需要说明的是，本申请实施例所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory，EPROM)、闪存、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory，CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本申请的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本申请实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本申请实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。
应当理解的是，本申请并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。

Claims (15)

1.一种信息推荐方法，其特征在于，包括：
提取推荐参考信息的推荐参考特征；
对所述推荐参考特征分别进行特征交叉和影响特征提取，得到与所述推荐参考特征对应的参考信息交叉特征和特征间影响特征，所述特征间影响特征为表示所述推荐参考特征中特征之间互相影响的特征；
将所述参考信息交叉特征和所述特征间影响特征进行特征融合，得到所述推荐参考信息对应的推荐参考表征特征；
基于所述推荐参考表征特征，从待推荐信息中筛选与所述推荐参考表征特征匹配的信息进行推荐。
2.根据权利要求1所述的方法，其特征在于，所述将所述参考信息交叉特征和所述特征间影响特征进行特征融合，得到所述推荐参考信息对应的推荐参考表征特征，包括：
计算所述参考信息交叉特征中的元素与所述特征间影响特征中对应位置元素的乘积，得到特征权重矩阵，所述特征权重矩阵与所述推荐参考特征的维度相同，所述特征权重矩阵中包含对应于所述推荐参考特征中每个特征值的权重；
根据所述特征权重矩阵中的权重，对所述推荐参考特征中对应位置的特征值进行加权，得到所述推荐参考信息对应的推荐参考表征特征。
3.根据权利要求2所述的方法，其特征在于，所述特征间影响特征为1×N的矩阵，所述参考信息交叉特征为M×N的矩阵，所述计算所述参考信息交叉特征中的元素与所述特征间影响特征中对应位置元素的乘积，得到特征权重矩阵，包括：
将所述参考信息交叉特征中的M行向量分别与所述特征间影响特征中对应行的元素相乘，得到M个行乘积结果；
根据所述M个行乘积结果生成特征权重矩阵。
4.根据权利要求2所述的方法，其特征在于，所述提取推荐参考信息的推荐参考特征之后，所述方法还包括：
对所述推荐参考特征分别进行补充特征和影响特征提取，得到与所述推荐参考特征中的补充特征和补充影响特征，所述补充影响特征为表示所述补充特征之间互相影响情况的特征；
根据所述特征权重矩阵对所述补充特征和补充影响特征的特征融合结果进行加权处理，生成所述推荐参考特征的补充表征矩阵；
所述将所述参考信息交叉特征和所述特征间影响特征进行特征融合，得到所述推荐参考信息对应的推荐参考表征特征，包括：
将所述特征权重矩阵中的权重与对所述推荐参考特征中对应位置的特征值相乘，得到所述特征权重矩阵与所述推荐参考特征的乘积矩阵；
计算所述乘积矩阵与所述补充表征矩阵之和，得到所述推荐参考特征对应的推荐参考表征特征。
5.根据权利要求4所述的方法，其特征在于，所述根据所述特征权重矩阵对所述补充特征和补充影响特征的特征融合结果进行加权处理，生成所述推荐参考特征的补充表征矩阵，包括：
计算所述补充特征中的元素与所述补充影响特征中对应位置元素的乘积，得到补充特征矩阵，所述补充特征矩阵与所述推荐参考特征的维度相同；
根据所述特征权重矩阵中的权重对所述补充特征矩阵中对应位置的特征值进行加权处理，得到所述推荐参考特征的补充表征矩阵。
6.根据权利要求5所述的方法，其特征在于，所述根据所述特征权重矩阵中的权重对所述补充特征矩阵中对应位置的特征值进行加权处理，得到所述推荐参考特征的补充表征矩阵，包括：
计算权重上限值与所述特征权重矩阵的各个权重值的差值，得到补充权重矩阵；
将所述补充权重矩阵与所述补充特征矩阵中对应位置的特征值相乘，得到所述补充特征矩阵的补充表征矩阵。
7.根据权利要求5所述的方法，其特征在于，所述补充影响特征为1×N的矩阵，所述补充特征为M×N的矩阵，所述计算所述补充特征中的元素与所述补充影响特征中对应位置元素的乘积，得到补充特征矩阵，包括：
将所述补充特征中的M行向量分别与所述补充影响特征中对应行的元素相乘，得到M个行乘积结果；
根据所述M个行乘积结果生成补充特征矩阵。
8.根据权利要求4所述的方法，其特征在于，所述对所述推荐参考特征分别进行补充特征和影响特征提取，得到与所述推荐参考特征中的补充特征和补充影响特征，包括：
将预设的第一查询矩阵、第一键值矩阵和第一取值矩阵，分别与所述推荐参考特征相乘，得到第一查询结果、第一键值结果和第一取值结果；
计算所述第一查询结果和所述第一键值结果的点积，得到第一特征交叉权重；
计算所述第一特征交叉权重和所述第一取值矩阵的乘积，得到所述补充特征；
根据预设的第一映射关系，对所述推荐参考特征中各个补充特征之间的影响关系进行提取，得到所述补充影响特征。
9.根据权利要求8所述的方法，其特征在于，所述第一映射关系包括P个隐藏层，所述根据预设的第一映射关系，对所述推荐参考特征中各个补充特征之间的影响关系进行提取，得到所述补充影响特征，包括：
获取第P-1个隐藏层的输出向量，其中，所述第P-1个隐藏层的输入向量为第P-2个隐藏层的输出向量，第一个隐藏层的输入向量是将所述推荐参考特征转换的一维特征向量得到的；
将所述第P-1个隐藏层的输出向量输入所述第P个隐藏层的激活函数中进行计算，得到输出向量作为所述补充影响特征。
10.根据权利要求1所述的方法，其特征在于，所述对所述推荐参考特征分别进行特征交叉和影响特征提取，得到与所述推荐参考特征对应的参考信息交叉特征和特征间影响特征，包括：
将预设的第二查询矩阵、第二键值矩阵和第二取值矩阵，分别与所述推荐参考特征相乘，得到第二查询结果、第二键值结果和第二取值结果；
计算所述第二查询结果和所述第二键值结果的点积，得到第二特征交叉权重；
计算所述第二特征交叉权重和所述第二取值矩阵的乘积，得到所述参考信息交叉特征；
根据预设的第二映射关系，对所述推荐参考特征中各个特征之间的影响关系进行提取，得到所述特征间影响特征。
11.根据权利要求8所述的方法，其特征在于，所述第二映射关系包括Q个隐藏层，所述根据预设的第二映射关系，对所述推荐参考特征中各个特征之间的影响关系进行提取，得到所述特征间影响特征，包括：
获取第Q-1个隐藏层的输出向量，其中，所述第Q-1个隐藏层的输入向量为第Q-2个隐藏层的输出向量，第一个隐藏层的输入向量是将所述推荐参考特征转换的一维特征向量得到的；
将所述第Q-1个隐藏层的输出向量输入所述第Q个隐藏层的激活函数中进行计算，得到输出向量作为所述影响特征提取。
12.一种信息推荐装置，其特征在于，包括：
特征矩阵提取模块，用于提取推荐参考信息的推荐参考特征；
特征影响提取模块，用于对所述推荐参考特征分别进行特征交叉和影响特征提取，得到与所述推荐参考特征对应的参考信息交叉特征和特征间影响特征，所述特征间影响特征为表示所述推荐参考特征中特征之间互相影响的特征；
特征融合模块，用于将所述参考信息交叉特征和所述特征间影响特征进行特征融合，得到所述推荐参考信息对应的推荐参考表征特征；
信息推荐模块，用于基于所述推荐参考表征特征，从待推荐信息中筛选与所述推荐参考表征特征匹配的信息进行推荐。
13.一种电子设备，其特征在于，包括：
处理器；
存储器，用于存储所述处理器的可执行指令；
其中，所述处理器配置为经由执行所述可执行指令来执行权利要求1至11中任意一项所述的信息推荐方法。
14.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至11中任一项所述的信息推荐方法。
15.一种计算机程序产品，其特征在于，所述计算机程序产品包括计算机指令，所述计算机指令存储在计算机可读存储介质中，计算机设备的处理器从所述计算机可读存储介质读取并执行所述计算机指令，使得所述计算机设备执行如权利要求1至11中任一项所述的信息推荐方法。
CN202211179773.1A 2022-09-26 2022-09-26 信息推荐方法、装置、电子设备和存储介质 Pending CN117009639A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211179773.1A CN117009639A (zh) 2022-09-26 2022-09-26 信息推荐方法、装置、电子设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211179773.1A CN117009639A (zh) 2022-09-26 2022-09-26 信息推荐方法、装置、电子设备和存储介质

Publications (1)

Publication Number Publication Date
CN117009639A true CN117009639A (zh) 2023-11-07

Family

ID=88566077

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211179773.1A Pending CN117009639A (zh) 2022-09-26 2022-09-26 信息推荐方法、装置、电子设备和存储介质

Country Status (1)

Country Link
CN (1) CN117009639A (zh)

Similar Documents

Publication Publication Date Title
US20230102337A1 (en) Method and apparatus for training recommendation model, computer device, and storage medium
CN110851713A (zh) 信息处理方法、推荐方法及相关设备
CN112035743B (zh) 数据推荐方法、装置、计算机设备以及存储介质
CN113254785B (zh) 推荐模型训练方法、推荐方法和相关设备
CN111046275B (zh) 基于人工智能的用户标签确定方法及装置、存储介质
CN113761153B (zh) 基于图片的问答处理方法、装置、可读介质及电子设备
CN111259647A (zh) 基于人工智能的问答文本匹配方法、装置、介质及电子设备
CN113254716B (zh) 视频片段检索方法、装置、电子设备和可读存储介质
CN111461757B (zh) 信息处理方法及装置、计算机存储介质、电子设备
CN115238909A (zh) 一种基于联邦学习的数据价值评估方法及其相关设备
US20220382795A1 (en) Method and system for detection of misinformation
CN113705698B (zh) 基于点击行为预测的信息推送方法及装置
CN111325578B (zh) 预测模型的样本确定方法及装置、介质和设备
CN116910357A (zh) 一种数据处理方法及相关装置
CN116910201A (zh) 一种对话数据生成方法及其相关设备
CN115631008B (zh) 商品推荐方法、装置、设备及介质
CN115129930A (zh) 一种视频的信息处理方法、装置、计算机设备和存储介质
CN117009639A (zh) 信息推荐方法、装置、电子设备和存储介质
CN112101015A (zh) 一种识别多标签对象的方法及装置
CN113626564B (zh) 一种概念标签生成方法、装置、电子设备和存储介质
Lin et al. Modeling Adaptive Fine-grained Task Relatedness for Joint CTR-CVR Estimation
CN116644176A (zh) 一种摘要生成方法及其相关设备
CN116977733A (zh) 物体检测方法、装置、电子设备及存储介质
CN116595252A (zh) 一种数据处理方法及相关装置
CN115687624A (zh) 文本的分类方法、装置、电子设备和介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination