CN110851713A - 信息处理方法、推荐方法及相关设备 - Google Patents
信息处理方法、推荐方法及相关设备 Download PDFInfo
- Publication number
- CN110851713A CN110851713A CN201911077078.2A CN201911077078A CN110851713A CN 110851713 A CN110851713 A CN 110851713A CN 201911077078 A CN201911077078 A CN 201911077078A CN 110851713 A CN110851713 A CN 110851713A
- Authority
- CN
- China
- Prior art keywords
- training sample
- target
- model
- click
- recommended
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开提供一种信息处理方法及装置、推荐方法以及电子设备和计算机可读存储介质，该方法包括：从训练样本集中获取第一训练样本及其点击标签、第二训练样本及其点击标签以及第一训练样本的和第二训练样本之间的类别标签；通过目标模型的第一机器学习模型和第一神经网络模型对第一训练样本进行处理、目标模型的第二机器学习模型和第二神经网络模型对第二训练样本进行处理，获得第一训练样本的预测点击概率、第二训练样本的预测点击概率以及第一训练样本和第二训练样本之间的预测类别信息；根据第一训练样本和第二训练样本的点击标签和预测点击概率以及第一训练样本和第二训练样本之间的类别标签和预测类别信息，确定目标损失以训练目标模型。
Description
技术领域
本公开涉及计算机和通信技术领域，尤其涉及一种信息处理方法及装置、推荐方法、推荐系统、电子设备和计算机可读存储介质。
背景技术
随着云计算、大数据、物联网等技术的快速发展，互联网和信息行业涌现了大量诸如新闻、购物、教育、阅读和娱乐等应用平台，使得多源异构数据的规模也急速增长。这些数据蕴含着丰富的价值，可以指导人们的行为决策模式从经验主义为主转变为数据驱动为主。
在相关技术中，智能推荐方法是一种以用户交互数据为基础的，将用户与物品(例如，商品等)关联起来的方法，它能够在纷繁的物品中帮助用户筛选他们感兴趣的信息，为用户提供个性化的信息服务。
需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开实施例提供一种信息处理方法及装置、推荐方法、推荐系统以及电子设备和计算机可读存储介质，可以根据训练完成的目标模型有效的提高预测点击概率的准确度。
本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。
本公开实施例提出一种信息处理方法，该方法包括：从训练样本集中获取第一训练样本及其点击标签、第二训练样本及其点击标签以及所述第一训练样本的和所述第二训练样本之间的类别标签；通过目标模型的第一机器学习模型和第一神经网络模型对所述第一训练样本进行处理，并通过所述目标模型的第二机器学习模型和第二神经网络模型对所述第二训练样本进行处理，以获得所述第一训练样本的预测点击概率、所述第二训练样本的预测点击概率以及所述第一训练样本和所述第二训练样本之间的预测类别信息；根据所述第一训练样本的点击标签和预测点击概率、所述第二训练样本的点击标签和预测点击概率以及所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定目标损失以训练所述目标模型。
本公开实施例提出一种信息处理方法，该方法包括：获取目标用户的属性信息和待推荐对象的属性信息；根据所述目标对象的属性信息和所述待推荐对象的属性信息生成目标嵌入向量；通过目标模型的第一机器学习模型处理所述目标嵌入向量，获取所述目标嵌入向量的第一特征向量；通过所述目标模型的第一神经网络模型处理所述目标嵌入向量，获取所述目标嵌入向量的第二特征向量；根据所述第一特征向量和所述第二特征向量，获得所述目标用户对所述待推荐对象的预测点击概率，以用于从所述待推荐对象中确定向所述目标用户推荐的目标对象及其推荐顺序。
本公开实施例提出一种推荐方法，该方法包括：获取目标用户的属性信息；根据所述目标用户的属性信息召回待推荐文章；获取所述待推荐文章的属性信息；通过第一机器学习模型和第一神经网络模型对所述目标用户的属性信息和所述待推荐文章的属性信息进行处理，获得所述目标用户对所述待推荐文章的预测点击概率；根据所述目标用户对所述待推荐文章的预测点击概率，对所述待推荐文章进行排序，以获得排序结果；根据所述排序结果从所述待推荐文章中确定向所述目标用户推荐的目标文章及其待推荐顺序。
本公开实施例提出一种推荐系统，该系统包括：召回装置、点击率预测装置以及推荐装置。其中，所述召回装置可以用于根据目标用户的属性信息召回待推荐文章；所述点击率预测装置可以用于根据点击概率预测装置，用于通过第一机器学习模型和第一神经网络模型对所述目标用户的属性信息和所述待推荐文章的属性信息进行处理，获得所述目标用户对所述待推荐文章的预测点击概率；所述推荐装置可以用户根据所述目标用户对所述待推荐文章的预测点击概率，对所述待推荐文章进行排序，并根据排序结果从所述待推荐文章中确定向所述目标用户推荐的目标文章及其推荐顺序。
本公开实施例提出一种信息处理装置，该装置包括：训练样本获取模块，配置为从训练样本集中获取第一训练样本及其点击标签、第二训练样本及其点击标签以及所述第一训练样本的和所述第二训练样本之间的类别标签；数据处理模块，配置为通过目标模型的第一机器学习模型和第一神经网络模型对所述第一训练样本进行处理，并通过所述目标模型的第二机器学习模型和第二神经网络模型对所述第二训练样本进行处理，以获得所述第一训练样本的预测点击概率、所述第二训练样本的预测点击概率以及所述第一训练样本和所述第二训练样本之间的预测类别信息；损失获取模块，配置为根据所述第一训练样本的点击标签和预测点击概率、所述第二训练样本的点击标签和预测点击概率以及所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定目标损失以训练所述目标模型。
本公开实施例提出一种电子设备，该电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现上述任一项所述的信息处理方法。
本公开实施例提出一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如上述任一项所述的信息处理方法。
本公开某些实施例提供的信息处理方法及装置、推荐方法及系统、电子设备和计算机可读存储介质，通过第一训练样本及其点击标签、第二训练样本及其点击标签以及所述第一训练样本和所述第二训练样本之间的类别标签训练了目标模型，所述目标模型的训练过程既考虑了单个样本中的点击特征(即通过点击标签标示出单个样本中的目标用户是否点击了目标对象)，也考虑了多个样本的类别特征(即通过类别标签可以标示出不同样本之间的点击标签是否相同，例如，可以将点击标签相同的一组样本的类别标签标识为0，将点击标签不同的一组样本的类别标签标识为1)，使得根据训练完成后的目标模型预测目标用户点击目标对象的概率更加准确。另外，将根据本公开实施例提供的信息处理方法获得的目标模型用于预测目标用户点击目标对象的点击概率，并根据该点击概率将目标对象向目标用户进行推荐，可以提高用户点击目标对象的点击率。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性的，并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。下面描述的附图仅仅是本公开的一些实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1示出了应用于本公开实施例的信息处理方法或信息处理装置的示例性系统架构的示意图。
图2是根据一示例性实施例示出的一种信息处理方法的流程图。
图3是根据本公开实施例示出的一种目标模型的网络结构。
图4是根据本公开实施例示出的一种因子分解机模型。
图5是根据本公开实施例示出的一种神经网络模型结构。
图6是图2中步骤S202在一示例性实施例中的流程图。
图7是图2中步骤S202在另一示例性实施例中的流程图。
图8是图2中步骤S202在又一示例性实施例中的流程图。
图9是图2中步骤S203在一示例性实施例中的流程图。
图10是根据一示例性实施例示出的一种信息处理方法的流程图。
图11是根据示例性实施例示出的一种推荐方法的流程图。
图12是根据一示例性实施例提出的一种推荐系统的结构图。
图13是根据一示例性实施例示出的一种信息处理装置的框图。
图14是根据一示例性实施例示出的一种应用于信息处理装置的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施例。然而，示例实施例能够以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供这些实施例使得本公开将全面和完整，并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。
本公开所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而省略特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。
附图仅为本公开的示意性图解，图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和步骤，也不是必须按所描述的顺序执行。例如，有的步骤还可以分解，而有的步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。
本说明书中，用语“一个”、“一”、“该”、“所述”和“至少一个”用以表示存在一个或多个要素/组成部分/等；用语“包含”、“包括”和“具有”用以表示开放式的包括在内的意思并且是指除了列出的要素/组成部分/等之外还可存在另外的要素/组成部分/等；用语“第一”、“第二”和“第三”等仅作为标记使用，不是对其对象的数量限制。
下面结合附图对本公开示例实施方式进行详细说明。
图1示出了可以应用于本公开实施例的信息处理方法或信息处理装置的示例性系统架构的示意图。
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。其中，终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机、台式计算机、可穿戴设备、虚拟现实设备、智能家居设备等等。
服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所进行操作的装置提供支持的后台管理服务器。后台管理服务器可以对接收到的请求等数据进行分析等处理，并将处理结果反馈给终端设备。
服务器105可例如从训练样本集中获取第一训练样本及其点击标签、第二训练样本及其点击标签以及所述第一训练样本的和所述第二训练样本之间的类别标签；通过目标模型的第一机器学习模型和第一神经网络模型对所述第一训练样本进行处理，并通过所述目标模型的第二机器学习模型和第二神经网络模型对所述第二训练样本进行处理，以获得所述第一训练样本的预测点击概率、所述第二训练样本的预测点击概率以及所述第一训练样本和所述第二训练样本之间的预测类别信息；根据所述第一训练样本的点击标签和预测点击概率、所述第二训练样本的点击标签和预测点击概率以及所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定目标损失以训练所述目标模型。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的，服务器105可以是一个实体的服务器，还可以为多个服务器组成，根据实际需要，可以具有任意数目的终端设备、网络和服务器。
在相关技术中，人工智能(Artificial Intelligence，AI)技术是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
自然语言处理(Nature Language processing，NLP)是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。因此，这一领域的研究将涉及自然语言，即人们日常使用的语言，所以它与语言学的研究有着密切的联系。自然语言处理技术通常包括文本处理、语义理解、机器翻译、机器人问答、知识图谱等技术。
机器学习(Machine Learning，ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
随着人工智能技术研究和进步，人工智能技术在多个领域展开研究和应用，例如常见的智能家居、智能穿戴设备、虚拟助理、智能音箱、智能营销、无人驾驶、自动驾驶、无人机、机器人、智能医疗、智能客服等，相信随着技术的发展，人工智能技术将在更多的领域得到应用，并发挥越来越重要的价值。
在相关技术中，可以根据目标用户点击目标新闻的预测点击概率向所述目标用户进行新闻推荐。因此，一种能够有效的预测所述目标用户点击所述待目标对象的方法对新闻推荐系统来说至关重要。
本公开实施例将以新闻推荐场景为例对信息处理方法进行说明，但应该理解的是本公开对此不做限制。
图2是根据一示例性实施例示出的一种信息处理方法的流程图。本公开实施例所提供的方法可以由任意具备计算处理能力的电子设备处理，例如上述图1实施例中的服务器105和/或终端设备102、103，在下面的实施例中，以服务器105为执行主体为例进行举例说明，但本公开并不限定于此。
参照图2，本公开实施例提供的信息处理方法可以包括以下步骤。
步骤S201，从训练样本集中获取第一训练样本及其点击标签、第二训练样本及其点击标签以及所述第一训练样本的和所述第二训练样本之间的类别标签。
在一些实施例中，所述训练样本集中可以包括多个训练样本，每个训练样本可以根据目标用户的属性信息和待推荐对象的属性信息生成。
其中，所述目标用户可以指的是有被推荐需求的人或者计算机等，所述目标用户的属性信息可以包括目标用户的年龄、性别、所在地域、收入、喜好等；所述待推荐对象可以指的是物品或者文章等任意一种可以向目标用户推荐的东西，例如所述待推荐对象可以指的是新闻、商品、网站等，所述待推荐对象的属性信息可以包括所述待推荐对象的标题、所属类别、所处地域等。
在一些实施例中，可以根据所述目标用户的属性信息和所述待推荐对象(例如，某新闻或某物品)的属性信息生成训练文本，并将所述训练文本向量化以生成所述训练样本集中的训练样本。可以理解的是，所述训练样本集中的训练样本中的目标用户与待推荐对象的点击关系是已知的(即已知所述目标用户是否点击过所述待推荐对象)，并可以通过所述训练样本的点击标签展示(例如，若某个训练样本中的目标用户曾经点击过对应的待推荐对象，则对应的训练样本的点击标签可以为1；若某个训练样本中的目标用户没有点击过对应的待推荐对象，则对应的训练样本的点击标签可以为0，但本公开并不限定于此)。
在一些实施例中，可以通过所述第一训练样本和所述第二训练样本之间的类别标签标识所述第一训练样本的点击标签与所述第二训练样本的点击标签的类别是否相同。例如，若所述第一训练样本的点击标签与所述第二训练样本的点击标签相同(例如均为1，或者均为0)，则所述第一训练样本和所述第二训练样本的类别标签可以为0；若所述第一训练样本的点击标签与所述第二训练样本的点击标签不同(例如第一训练样本的点击标签为1，第二训练样本的点击标签为0；或者第一训练样本的点击标签为0，第二训练样本的点击标签为1)，则所述第一训练样本和所述第二训练样本的类别标签可以为1。
步骤S202，通过目标模型的第一机器学习模型和第一神经网络模型对所述第一训练样本进行处理，并通过所述目标模型的第二机器学习模型和第二神经网络模型对所述第二训练样本进行处理，以获得所述第一训练样本的预测点击概率、所述第二训练样本的预测点击概率以及所述第一训练样本和所述第二训练样本之间的预测类别信息。
在一些实施例中，所述目标模型可以是孪生网络模型，所述孪生网络模型可以用来衡量两个输入的相似程度，本公开实施例中可以用所述孪生网络模型衡量所述第一训练样本和所述第二训练样本的点击标签的类别相似程度。所述孪生神经网络可以包括两个基本网络，所述两个基本网络可以共享参数。
在一些实施例中，所述孪生网络可以包括第一基本网络和第二基本网络，所述第一基本网络和所述第二基本网络的网络结构相同，并且所述第一基本网络和所述第二基本网络共享参数。
在一些实施例中，所述第一基本网络可以包括第一机器学习模型和第一神经网络模型，所述第二基本网络可以包括第二机器学习模型和所述第二神经网络模型，所述第一机器学习模型与所述第二机器学习模型的模型参数共享，所述第一神经网络模型和所述第二神经网络模型的模型参数共享。
在一些实施例中，所述第一机器学习模型可以用来提取所述第一训练样本中的低阶特征，所述第一神经网络模型可以用来提取所述第一训练样本中的高阶特征，所述第二机器机器模型可以用来提取所述第二训练样本中的低阶特征，所述第二神经网络模型可以用来提取所述第二训练样本中的高阶特征。
在一些实施例中，所述第一训练样本和所述第二训练样本的低阶特征可以指的是所述第一训练样本和所述第二训练样本的全局特征；所述第一训练样本和所述第二训练样本的高阶特征可以指的是所述第一训练样本和所述第二训练样本中的局部特征之间的分布，即多个两两匹配的局部特征对之间的空间分布信息。
在一些实施例中，所述第一机器学习模型可以是因子分解机(FactorizationMachines，FM)模型，所述第一神经网络模型可以是基于注意力(attention)机制的神经网络模型。在另一些实施例中，所述第二机器学习模型也可以是因子分解机(FactorizationMachines，FM)模型，所述第二神经网络模型也可以是基于注意力(attention)机制的神经网络模型。
在一些实施例中，可以采用BERT(Bidirectional Encoder Representation fromTransformers，变压器的双向编码器表示)网络中的模块门限回归模型(ThresholdRegressive Model，TRM)进行attentiaon注意力学习。
在另外一些实施例中，所述第一机器学习模型还可以是逻辑回归(LogisticRegression，LR)模型等，所述第一神经网络模型还可以是深度神经网络、循环神经网络等可以提取所述第一训练样本中的高阶特征的模型。在其他实施例中，所述第二机器学习模型也可以是LR模型，所述第二神经网络模型也可以是深度神经网络、循环神经网络等可以提取所述第二训练样本中的高阶特征的模型。
在另外一些实施例中，所述目标模型可以包括至少两个基本网络(例如三个或者以上)，所述至少两个基本网络可以共享参数，也可以参数不同(即伪孪生网络)。
在其他实施例中，所述目标模型的各个基本网络的网络结构可以不相同，例如第一基本网络的第一机器学习模型采用FM模型，第二基本网络的第二机器学习模型采用LR模型；和/或，第一基本网络的第一神经网络模型采用TRM，第二基本网络的第二神经网络模型采用LSTM或者GRU等等。或者，所述目标模型的部分基本网络的网络结构相同，另一部分基本网络的网络结构不同。在另一些实施例中，所述目标模型的各个基本网络的网络结构相同，各个基本网络之间可以不共享参数。
步骤S203，根据所述第一训练样本的点击标签和预测点击概率、所述第二训练样本的点击标签和预测点击概率以及所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定目标损失以训练所述目标模型。
在一些实施例中，当目标模型训练完成，可以选择所述目标模型(孪生网络)中的任意一个基本网络作为最终的预测网络，以预测目标用户点击目标对象的概率。
本公开实施例提供的信息处理方法，一方面通过第一训练样本及其点击标签、第二训练样本及其点击标签以及所述第一训练样本和所述第二训练样本之间的类别标签训练了目标模型，该训练过程既考虑了单个样本中的点击特征(即通过点击标签标示出单个样本中的目标用户是否点击了目标对象)，也考虑了多个样本的类别特征(即通过类别标签可以标示出不同样本之间的点击标签是否相同，例如，可以将点击标签相同的一组样本的类别标签标识为0，将点击标签不同的一组样本的类别标签标识为1)，使得根据训练完成后的目标模型预测目标用户点击目标对象的概率更加准确。另外，将根据本实施例提供信息处理方法训练获得的目标模型用于预测目标用户点击目标对象的点击概率，并根据该点击概率将目标对象向目标用户进行推荐，可以提高用户点击目标对象的点击率。
图3是根据本公开实施例示出的一种目标模型的网络结构。如图3所示，所述目标模型可以包括：第一嵌入向量生成模块301、第一机器学习模型302、第一神经网络模型303、第二嵌入向量生成模块304、第二机器学习模型305、第二神经网络模型306、全连接层307、预测信息获取模块308以及损失获取模块309。
其中，第一机器学习模型302和第二机器学习模型305可以均是因子分解机模型，第一神经网络模型303和第二神经网络模型306可以均是基于注意力机制的神经网络模型。即第一机器学习模型302与第二机器学习模型305结构相同，第一神经网络模型303和第二神经网络模型306结构相同。其中，第一机器学习模型302与第二机器学习模型305的模型参数可以共享，第一神经网络模型303和第二神经网络模型的模型306参数可以共享。
在一些实施例中，第一嵌入向量生成模块301可以将输入的第一训练样本转化为第一嵌入向量；将所述第一嵌入向量输入至第一机器学习模型302可以获得所述第一嵌入向量的第一特征向量，所述第一嵌入向量的第一特征向量可以用来描述所述第一训练样本的低阶特征；将所述第一嵌入向量输入至所述第一神经网络模型303可以获得所述第一嵌入向量的第二特征向量，所述第一嵌入向量的第二特征向量可以用来描述所述第一训练样本的高阶特征。
在一些实施例中，第二嵌入向量生成模块304可以将输入的第二训练样本转化为第二嵌入向量；将所述第二嵌入向量输入至第二机器学习模型305可以获得所述第二嵌入向量的第一特征向量，所述第二嵌入向量的第一特征向量可以用来描述所述第二训练样本的低阶特征；将所述第二嵌入向量输入至第二神经网络模型306可以获得所述第二嵌入向量的第二特征向量，所述第二嵌入向量的第二特征向量可以用来描述所述第二训练样本的高阶特征。
在一些实施例中，所述全连接层307可以包括第一全连接层、第二全连接层以及第三全连接层。
在一些实施例中，所述第一全连接层可以将拼接后的第一嵌入向量的第一特征向量和第二特征向量映射成1维向量，该一维向量经过预测信息获取模块308的激活函数(例如，sigmod函数)的处理，可以获得所述第一训练样本的预测点击概率(例如，可以指的是预测的所述第一训练样本中的目标用户点击对应待推荐对象的概率)。
在一些实施例中，所述第二连接层可以将拼接后的第二嵌入向量的第一特征向量和第二特征向量映射成1维向量，该一维向量，经过预测信息获取模块308的激活函数(例如，sigmod函数)的处理，可以获得所述第二训练样本的预测点击概率(例如，可以是预测的所述第二训练样本中的目标用户点击对应待推荐对象的概率)。
在一些实施例中，可以将所述第一训练样本的第一特征向量和第二特征向量拼接以形成所述第一训练样本的融合特征向量；可以将所述第二训练样本的第一特征向量和第二特征向量拼接以形成所述第二特征向量的融合特征向量；可以将所述第一训练样本的融合特征向量和所述第二训练样本的融合特征向量拼接，并通过所述第三全连接层映射成一维向量，该一维向量经过预测信息获取模块308中的激活函数(例如，sigmod函数)的处理后，可以获得所述第一训练样本和所述第二训练样本的预测类别信息(例如，所述预测类别信息可以表示所述第一训练样本的点击标签与所述第二训练样本的点击标签是否相同)。
在一些实施例中，通过损失获取模块309对所述第一训练样本的预测点击概率、所述第二训练样本的预测点击概率以及所述第一训练样本和所述第二训练样本的预测类别信息确定所述目标模型的目标损失，然后可以使用所述目标损失更新所述目标模型的参数，以使所述目标模型收敛。
本实施例提供的目标模型，一方面不仅考虑了单个样本中目标用户与待推荐对象之间的特征关系，还考虑了目标用户与其它样本中多个待推荐对象的特征关系，以使得所述目标模型可以基于多个样本中目标用户与待推荐对象的点击特征以及多个样本之间的点击标签的类别特征学习目标用户与待推荐对象之间的点击关系；另一方面，本实施例提供的目标模型还引入了全连接层，以将所述第一嵌入向量的第一特征向量(第一嵌入向量的低阶特征)和第二特征向量(第一嵌入向量的高阶特征)进行信息融合以确定所述第一训练样本的预测点击概率、将所述第二嵌入向量的第一特征向量(第二嵌入向量的低阶特征)和第二特征向量(第二嵌入向量的高阶特征)进行信息融合以确定所述第二训练样本的预测点击概率，并将所述第一嵌入向量的第一特征向量、第二特征向量和所述第二嵌入向量的第一特征向量、第二特征向量进行信息融合以确定所述第一训练样本和所述第二训练样本之间的预测类别信息。通过上述训练完成后的目标模型可以有效的确定目标用户点击待推荐对象的预测点击概率，有利于根据所述预测的点击概率向目标对象进行推荐。
本公开实施例中，通过FM模型可以获取目标向量的低阶特征，该低阶特征不仅考虑了所述目标向量的单个特征，还考虑到了所述目标向量的特征与特征之间的相互关系，因此FM模型是一种可以很好的确定待提取向量中的低阶特征的方法。
图4是根据本公开实施例示出的一种因子分解机模型。
在相关技术中，FM模型包括一阶项、二阶项和偏置项，其中一阶项包括了所有的特征，二阶项组合了所有的二阶项的特征。此时所述二阶项的权重组成了一个稀疏的矩阵，利用矩阵分解的方法，系数矩阵可以分解为两个第二矩阵ei和ej的乘积。因此，FM可以更为如公式(1)所示的一般的公式。
其中，w0代表了偏置项，wi代表了一阶项的权重，(ei，ej)代表了二阶项的权重，ei、ej为xi对应的隐向量，N代表一阶特征项的个数，i、j、k为大于等于1的正整数，xi和xj代表不同的特征项。
图4展示了一种FM模型的结构。如图4所示，所述FM模型中包括目标向量的属性特征层401，所述属性特征层可以包括多个属性特征如4011、4012以及4012等，所述FM模型中还包括隐向量层402，其中所述隐向量层402包括多个隐向量如4021、4022等。
假设样本有三个基本属性，例如年龄(包括青年、壮年、老年三个特征)、性别(包括男女两个特征)、收入(包括0-1000、1000-3000、3000-5000、5000-10000、10000+等五个特征)等。对于样本1：性别：男年龄：中年收入10000+可以对应的用向量表示为1001000001，对于样本2样本2：性别：女年龄：中年收入10000+可以对应的用向量表示为0101000001，对于样本3：性别：女年龄：老年收入：10000+可以对应的用向量表示为0100100001。
使用FM将上述样本分解后可以获得对应属性特征和隐向量以及偏置项，上述样本中的性别、年龄、收入分别可对应一个属性特征，即所述样本的一阶特征(如4011、4012以及4013)。如图4所示，所述样本的一阶特征可以组成所述样本的一阶项，所述样本的隐向量可以生成所述样本的二阶项。
在相关技术中，FM模型相对于传统的组合线性特征的方式，它创造性的提出了交叉项，并利用隐向量的方式解决了交叉项参数系数的问题，可以更好地提取样本中的低阶项。
图5是根据本公开实施例示出的一种神经网络模型结构。
在相关技术中，不同特征之间不是独立分布的，各个特征间存在相互依赖关系。attention(注意力)学习机制被广泛用于Senquence2Sequence(序列至序列)的预测，以将Senquence2Sequence中的query(查询值，Q)和key(关键点)以及value(值)映射到输出上，进行隐向量间关系的学习。其中query、每个key、每个value都是向量，输出是各个value的加权，其中权重是由Query和每个key计算出来的，计算方法分为三步：计算比较query和key的相似度，将各个相似度进行归一化处理；针对计算出来的权重，对各个的value进行加权求和，得到attention(学习)向量，此时attention输出的向量就包含了和其他特征的关系。
Senquence2Sequence是一种比较常见的进行机器翻译的神经网络模型。当给Senquence2Sequence模型输入一串序列，模型输出同样是一串序列的任务和序列标注。
本实施例示出了基于注意力机制搭建神经网络模型。
如图5所示，可以首先根据目标向量的特征层501中的特征得到隐向量层502中的目标向量的隐向量；所述目标向量的特征层501中的特征和所述隐向量层502中的目标向量的隐向量经过注意力学习后可以生成学习向量层503中的学习向量；为了进一步提高所述目标向量的高阶特征的提取，本实施例在注意力学习机制中引入了包含残差的全连接层，所述学习向量层503中的学习向量可以经过所述全连接层进入第四层504、第五层505以继续进行特征的提取。
在一些实施例中，可以采用BERT网络中的模块门限回归模型(ThresholdRegressive Model，TRM)进行attentiaon注意力学习。
图6是图2中步骤S202在一示例性实施例中的流程图。如图6所示，上述步骤S202可以包括以下步骤。
步骤S2021，通过所述第一机器学习模型处理所述第一训练样本，获取所述第一训练样本的第一特征向量。
在一些实施例中，所述第一训练样本的第一特征向量可以指的是所述第一训练样本的低阶特征，可以从全局的角度描述所述第一训练样本。
步骤S2022，通过所述第一神经网络模型处理所述第一训练样本，获取所述第一训练样本的第二特征向量。
在一些实施例中，所述第一训练样本的第二特征向量可以指的所述第一训练样本的高阶特征。
步骤S2023，根据所述第一训练样本的第一特征向量和第二特征向量，获得所述第一训练样本的预测点击概率。
在一些实施例中，可以通过全连接层将拼接后的所述第一训练样本的第一特征向量和第二特征向量映射为一维向量，并通过激活函数sigmod将所述第一训练样本的对应的一维向量映射为0-1之间的概率，该概率可以用来描述所述第一训练样本中的目标用户点击所述第一训练样本中的待推荐对象的概率。
本实施例，一方面通过第一机器学习模型提取了所述第一训练样本的全局特征，通过第一神经网络模型提取了所述第一训练样本的局部特征，提取了所述第一训练样本足够多的特征；另一方面通过全连接层将所述第一训练样本的全局特征和所述第一训练样本的局部特征进行信息融合，以进行所述第一训练样本的预测点击概率的预测，提供了所述第一训练样本的预测点击概率的准确率。
图7是图2中步骤S202在另一示例性实施例中的流程图。如图7所示，上述步骤S202还可以包括以下步骤。
步骤S2024，通过所述第二机器学习模型处理所述第二训练样本，获取所述第二训练样本的第一特征向量。
在一些实施例中，所述第二训练样本的第一特征向量可以指的是所述第二训练样本的低阶特征，可以从全局的角度描述所述第二训练样本。
步骤S2025，通过所述第二神经网络模型处理所述第二训练样本，获取所述第二训练样本的第二特征向量。
在一些实施例中，所述第二训练样本的第二特征向量可以指的所述第二训练样本的高阶特征。
步骤S2026，根据所述第二训练样本的第一特征向量和第二特征向量，获得所述第二训练样本的预测点击概率。
在一些实施例中，可以通过全连接层将拼接后的所述第二训练样本的第一特征向量和第二特征向量映射为一维向量，并通过激活函数sigmod将所述第二训练样本的对应的一维向量映射为0-1之间的概率，该概率可以用来描述所述第二训练样本中的目标用户点击所述第二训练样本中的待推荐对象的概率。
本实施例，一方面通过第二机器学习模型提取了所述第二训练样本的全局特征，通过第二神经网络模型提取了所述第二训练样本的局部特征，提取了所述第二训练样本足够多的特征；另一方面通过全连接层将所述第二训练样本的全局特征和所述第二训练样本的局部特征进行信息融合，以进行所述第二训练样本的预测点击概率的预测，提供了所述第二训练样本的预测点击概率的准确率。
图8是图2中步骤S202在又一示例性实施例中的流程图。如图8所示，上述步骤S202还可以包括以下步骤。
步骤S2027，将所述第一训练样本的第一特征向量与所述第一训练样本的第二特征向量拼接，获得所述第一训练样本的融合特征向量。
步骤S2028，将所述第二训练样本的第一特征向量与所述第二训练样本的第二特征向量拼接，形成所述第二训练样本的融合特征向量。
步骤S2029根据所述第一训练样本的融合特征向量和所述第二训练样本的融合特征向量，获得所述第一训练样本和所述第二训练样本之间的预测类别信息。
在一些实施例中，可以将所述第一训练样本的融合特征向量和所述第二训练样本的融合特征向量拼接，以形成融合特征向量，通过全连接层将所述融合特征向量映射成一维向量，并通过激活函数(例如，sigmod函数)将所述融合特征向量对应的一维向量映射为0或1的预测类别信息，该预测类别信息可以用来描述所述第一训练样本的点击标签与所述第二训练样本的点击标签的类别的一致性(例如，当所述预测类别信息为1时，所述第一训练样本的点击标签与所述第二训练样本的点击标签一致(例如均为1，或者均为0)；当所述预测类别信息为0时，所述第一训练样本的点击标签与所述第二训练样本的点击标签不一致(例如第一训练样本的点击标签为1，第二训练样本的点击标签为0；或者第一训练样本的点击标签为0，第二训练样本的点击标签为1))。
本实施例，通过全连接层将所述第一训练样本的融合特征向量和所述第二训练样本的融合特征向量进行了再次的信息融合，充分考虑了第一训练样本和第二训练样本的点击标签之间的类别差异，以使的最终预测的目标用户点击待推荐对象的概率更加准确。
图9是图2中步骤S203在一示例性实施例中的流程图。如图9所示，上述步骤S203可以包括以下步骤。
步骤S2031，根据所述第一训练样本的点击标签和预测点击概率，确定第一点击预测损失。
在一些实施例中，可以通过下述公式(2)确定所述第一点击预测损失：
L1＝-(y1 log(p1)+(1-y1)log(1-p1)) (2)其中，L1代表所述第一点击预测损失，p1代表所述第一训练样本的预测点击概率(例如，可以是0～1之间的实数)，y1代表所述第一训练样本的点击标签(例如，可以是0或者1)。
步骤S2032，根据所述第二训练样本的点击标签和预测点击概率，确定第二点击预测损失。
在一些实施例中，可以通过下述公式(3)确定所述第二点击预测损失：
L2＝-(y2 log(p2)+(1-y2)log(1-p2)) (3)
其中，L2代表所述第二点击预测损失，p2代表所述第二训练样本的预测点击概率(例如，可以是0～1之间的实数)，y2代表所述第二训练样本的点击标签(例如，可以是0或者1)。
步骤S2033，根据所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定类别预测损失。
在一些实施例中，可以根据下述公式(4)确定所述预测损失：
Lclass＝-(yclass log(pclass)+(1-yclass)l0g(1-pclass)) (4)
其中，Lclass代表所述类别预测损失，yclass代表所述第一训练样本和所述第二训练样本之间的类别标签，Pclass代表所述第一训练样本和所述第二训练样本之间的预测类别信息。
步骤2034，根据所述第一点击预测损失、所述第二点击预测损失和所述类别预测损失，确定所述目标损失。
在一些实施例中，可以通过下述公式(5)确定所述目标损失：
L＝αLclass+L1+L2 (5)其中，L代表所述目标损失，Lclass代表所述类别预测损失，L1代表所述第一点击预测损失，L2代表所述第二点击预测损失，α是用来控制类别预测损失权重的参数，可通过经验进行设定。
本实施例提供的技术方案，在计算目标模型的损失时不仅考虑了第一训练样本的预测点击概率与点击标签之间的差异、第二训练样本的预测点击概率与点击标签之间的差异，还考了了所述第一训练样本与所述第二训练样本之间的类别差异性，使得最终训练完成后的目标模型可以准确、有效的预测出目标用户点击待推荐对象的点击概率。
图10是根据一示例性实施例示出的一种信息处理方法的流程图。
在一些实施例中，上述实施例提供的目标模型训练完成后，可以用来准确的预测目标用户点击待推荐对象的概率。
参考图10，本公开实施例提供的信息处理方法可以包括以下步骤。
步骤S101，获取目标用户的属性信息和待推荐对象的属性信息。
在一些实施例中，所述目标用户可以指的是有被推荐需求的人或者计算机等，所述待推荐对象可以指的是物品或者文章等可以向目标用户推荐的东西，例如所述待推荐对象可以指的是新闻、商品、网站等。
在一些实施例中，所述用户的属性信息可以包括所述目标用户的年龄、性别、地域、收入、喜好等任意可以描述所述目标用户的属性。
在一些实施例中，所述待推荐对象的属性信息可以包括所述待推荐对象的标题、类别等可以描述所述待推荐对象的属性信息。
步骤S102，根据所述目标对象的属性信息和所述待推荐对象的属性信息生成目标嵌入向量。
步骤S103，通过目标模型的第一机器学习模型处理所述目标嵌入向量，获取所述目标嵌入向量的第一特征向量。
在一些实施例中，所述目标模型可以是孪生网络，所述孪生网络可以包括两个结构相同，参数共享的基本网络。在预测过程中，可以任选一个基本网络作为预测网络，例如，可以选择所述第一机器学习模型和所述第一神经网络模型组成的基本网络作为预测网络。
在一些实施例中，所述第一特征向量可以指的是所述目标嵌入向量的低阶特征向量，用以描述目标嵌入向量的全局特征。
步骤S104，通过所述目标模型的第一神经网络模型处理所述目标嵌入向量，获取所述目标嵌入向量的第二特征向量。
在一些实施例中，所述第二特征向量可以指的是所述目标嵌入向量的高阶特征向量，用以细化目标嵌入向量的局部特征。
步骤S105，根据所述第一特征向量和所述第二特征向量，获得所述目标用户对所述待推荐对象的预测点击概率，以用于从所述待推荐对象中确定向所述目标用户推荐的目标对象及其推荐顺序。
在一些实施例中，可以将所述第一特征向量和所述第二特征向量拼接，并使用全连接层来学习所述第一特征向量和所述第二特征向量的特征。拼接后的第一特征向量和第二特征向量可以通过所述全连接层映成一维向量，并通过激活函数以生成所述目标用户对所述待推荐对象的预测点击概率。
本实施例提供的技术方案，可以准确、有效的预测处目标用户点击待推荐对象的点击概率。另外，根据该点击概率将待推荐对象向目标用户进行推荐，可以提高用户点击该待推荐对象的点击概率。
图11是根据示例性实施例示出的一种推荐方法的流程图。
本实施例，以待推荐对象为待推荐文章为例，对所述推荐方法进行说明。可以理解的是，本公开对待推荐对象不做限制。
如图11所示，所述推荐方法可以包括以下步骤。
步骤S111，获取目标用户的属性信息。
步骤S112，根据所述目标用户的属性信息召回待推荐文章。
在一些实施例中，可以根据所述目标用户的属性信息初步从海量文章中召回目标用户潜在感兴趣的文章以作为待推荐文章，所述待推荐文章可例如是待推荐的新闻等。
步骤S113，获取所述待推荐文章的属性信息。
在一些实施例中，可以获取各个待推荐文章的属性信息，所述待推荐文章的属性信息包括但不限于：标题、类别等。
步骤S114，通过第一机器学习模型和第一神经网络模型对所述目标用户的属性信息和所述待推荐文章的属性信息进行处理，获得所述目标用户对所述待推荐文章的预测点击概率。
在一些实施例中，可以根据所述目标用户的属性信息和所述待推荐文章的属性信息生成目标前嵌入向量，并将所述目标嵌入向量分别输入至所述目标模型的第一机器学习模型和第一神经网络模型以获取所述目标嵌入向量的第一特征向量和第二特征向量。
在一些实施例中，可以根据所述第一特征向量和所述第二特征向量获得所述目标用户对所述待推荐文章的预测点击概率。
步骤S115，根据所述目标用户对所述待推荐文章的预测点击概率，对所述待推荐文章进行排序，以获得排序结果。
例如，按照概率从大到小的顺序对所述待推荐文章进行排序。
步骤S116，根据所述排序结果从所述待推荐文章中确定向所述目标用户推荐的目标文章及其推荐顺序。
例如，可以将排序前N的待推荐文章向所述目标用户进行推荐，N为大于等于1的正整数。
本实施例，根据使用上述训练完成的目标模型确定的目标用户点击待推荐文章的点击概率，向所述目标用户推荐所述待推荐文章，可以提高用户点击该待推荐对象的点击概率。
图12是根据一示例性实施例提出的一种推荐系统的结构图。
如图12所示，所述推荐系统可以包括：用户画像数据库1201、召回装置1202、点击率预测装置1203、推荐装置1204以及用户行为统计模块1205。
在一些实施例中，所述用户画像数据库1201可以基于用户过去点击的文章和注册信息，累计和存储了用户的长期、短期兴趣和一些基础信息，为文章召回和排序提供了依据。
在一些实施例中，所述召回装置1202可以用于根据目标用户的属性信息召回待推荐文章，所述召回装置1202可以基于目标用户的一些特征从海量文章中初步寻找所述目标用户潜在感兴趣的文章。
在一些实施例中，所述点击率预测装置1203可以用于通过第一机器学习模型和第一神经网络模型对所述目标用户的属性信息和所述待推荐文章的属性信息进行处理，获得所述目标用户对所述待推荐文章的预测点击概率。
在一些实施例中，点击率预测装置1203可以基于本公开实施例提供的信息处理方法确定所述目标用户对所述待推荐文章的预测点击概率。
在一些实施例中，推荐装置1204可以用户根据所述目标用户对所述待推荐文章的预测点击概率，对所述待推荐文章进行排序，并根据排序结果从所述待推荐文章中确定向所述目标用户推荐的目标文章及其推荐顺序。
在一些实施例中，所述用户行为统计模块1205可以获取所述目标用户的点击结果(即所述目标用户点击了哪些文章)，并将该点击结果是反馈至所述用户画像数据库，以丰富所述目标用户的点击特征。
本实施例提供的技术方案，基于目标模型确定的目标用户点击待推荐对象的预测点击概率，向所述目标用户推荐所述待推荐文章，极大地提高了目标用户点击所述带推荐文章的概率。
图13是根据一示例性实施例示出的一种信息处理装置的框图。参照图13，本公开实施例提供的信息处理装置1300可以包括：训练样本获取模块1301、数据处理模块1302和损失获取模块1303。
其中，所述训练样本获取模块1301可以配置为从训练样本集中获取第一训练样本及其点击标签、第二训练样本及其点击标签以及所述第一训练样本的和所述第二训练样本之间的类别标签；所述数据处理模块1302可以配置为通过目标模型的第一机器学习模型和第一神经网络模型对所述第一训练样本进行处理，并通过所述目标模型的第二机器学习模型和第二神经网络模型对所述第二训练样本进行处理，以获得所述第一训练样本的预测点击概率、所述第二训练样本的预测点击概率以及所述第一训练样本和所述第二训练样本之间的预测类别信息；所述损失获取模块1303可以配置为根据所述第一训练样本的点击标签和预测点击概率、所述第二训练样本的点击标签和预测点击概率以及所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定目标损失以训练所述目标模型。
在一些实施例中，所述数据处理模块1302可以包括：第一机器学习处理单元、第一神经网络模型处理单元以及第一点击概率预测单元。
其中，所述第一机器学习处理单元可以配置为通过所述第一机器学习模型处理所述第一训练样本，获取所述第一训练样本的第一特征向量；所述第一神经网络模型处理单元可以配置为通过所述第一神经网络模型处理所述第一训练样本，获取所述第一训练样本的第二特征向量；所述第一点击概率预测单元可以配置为根据所述第一训练样本的第一特征向量和第二特征向量，获得所述第一训练样本的预测点击概率。
在一些实施例中，所述数据处理模块1302还可以包括：第二机器学习处理单元、第二神经网络模型处理单元以及第二点击概率预测单元。
其中，所述第二机器学习处理单元可以配置为通过所述第二机器学习模型处理所述第二训练样本，获取所述第二训练样本的第一特征向量；所述第二神经网络模型处理单元可以配置为通过所述第二神经网络模型处理所述第二训练样本，获取所述第二训练样本的第二特征向量；所述第二点击概率预测单元可以配置为根据所述第二训练样本的第一特征向量和第二特征向量，获得所述第二训练样本的预测点击概率。
在一些实施例中，所述数据处理模块1302还可以包括：第一拼接单元、第二拼接单元以及类别信息预测单元。
其中，所述第一拼接单元可以配置为将所述第一训练样本的第一特征向量与所述第一训练样本的第二特征向量拼接，以获得所述第一训练样本的融合特征向量；所述第二拼接单元可以配置为将所述第二训练样本的第一特征向量与所述第二训练样本的第二特征向量拼接，以形成所述第二训练样本的融合特征向量；所述类别信息预测单元可以配置为根据所述第一训练样本的融合特征向量和所述第二训练样本的融合特征向量，以获得所述第一训练样本和所述第二训练样本之间的预测类别信息。
在一些实施例中，所述损失获取单元1303可以包括：第一点击预测损失确定单元、第二点击预测损失确定单元、类别预测损失确定单元以及目标损失确定单元。
其中，所述第一点击预测损失确定单元可以配置为根据所述第一训练样本的点击标签和预测点击概率，确定第一点击预测损失；所述第二点击预测损失确定单元可以配置为根据所述第二训练样本的点击标签和预测点击概率，确定第二点击预测损失；所述类别预测损失确定单元可以配置为根据所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定类别预测损失；所述目标损失确定单元可以配置为根据所述第一点击预测损失、所述第二点击预测损失和所述类别预测损失，确定所述目标损失。
在一些实施例中，所述第一机器学习模型与所述第二机器学习模型结构相同，所述第一神经网络模型和所述第二神经网络模型结构相同。
在一些实施例中，所述第一机器学习模型与所述第二机器学习模型的模型参数共享，所述第一神经网络模型和所述第二神经网络模型的模型参数共享。
在一些实施例中，所述第一机器学习模型是因子分解机模型，所述第一神经网络模型是基于注意力机制的神经网络模型。
在一些实施例中，所述类别信息预测单元可以配置为通过全连接层处理所述第一特征向量和所述第二特征向量，以获得所述目标用户对所述待推荐对象的预测点击概率。
由于本公开的示例实施例的信息处理装置1300的各个功能模块与上述信息处理方法的示例实施例的步骤对应，因此在此不再赘述。
本公开实施例还提供了一种信息处理装置，所述信息处理装置包括：目标用户信息获取模块、召回模块、点击概率预测模块、排序模块以及推荐模块。
其中，所述目标用户信息获取模块可以配置为获取目标用户的属性信息和待推荐对象的属性信息；所述召回模块可以配置为根据所述目标对象的属性信息和所述待推荐对象的属性信息生成目标嵌入向量；式破碎机点击概率预测模块可以配置为通过目标模型的第一机器学习模型处理所述目标嵌入向量，获取所述目标嵌入向量的第一特征向量；所述召回模块可以配置为通过所述目标模型的第一神经网络模型处理所述目标嵌入向量，获取所述目标嵌入向量的第二特征向量；所述推荐模块可以配置为根据所述第一特征向量和所述第二特征向量，获得所述目标用户对所述待推荐对象的预测点击概率，以用于从所述待推荐对象中确定向所述目标用户推荐的目标对象及其推荐顺序。
由于本公开的示例实施例的信息处理装置的各个功能模块与上述信息处理方法的示例实施例的步骤对应，因此在此不再赘述。
本公开实施例还提供了一种推荐装置，所述推荐装置包括：目标用户属性获取模块、文章召回模块、文章点击概率预测模块、文章排序模块以及文章推荐模块。
其中，所述目标用户属性获取模块可以配置为获取目标用户的属性信息；所述文章召回模块可以配置为根据所述目标用户的属性信息召回待推荐文章；所述文章召回模块可以配置为获取所述待推荐文章的属性信息；所述文章点击概率预测模块通过第一机器学习模型和第一神经网络模型对所述目标用户的属性信息和所述待推荐文章的属性信息进行处理，获得所述目标用户对所述待推荐文章的预测点击概率；所述文章排序模块可以配置为根据所述目标用户对所述待推荐文章的预测点击概率，对所述待推荐文章进行排序，以获得排序结果；所述文章推荐模块可以配置为根据所述排序结果从所述待推荐文章中确定向所述目标用户推荐的目标文章及其推荐顺序。
由于本公开的示例实施例的推荐装置的各个功能模块与上述推荐方法的示例实施例的步骤对应，因此在此不再赘述。
下面参考图14，其示出了适于用来实现本申请实施例的终端设备的计算机系统1400的结构示意图。图14示出的终端设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图14所示，计算机系统1400包括中央处理单元(CPU)1401，其可以根据存储在只读存储器(ROM)1402中的程序或者从储存部分1408加载到随机访问存储器(RAM)1403中的程序而执行各种适当的动作和处理。在RAM 1403中，还存储有系统1400操作所需的各种程序和数据。CPU 1401、ROM 1402以及RAM 1403通过总线1404彼此相连。输入/输出(I/O)接口1405也连接至总线1404。
以下部件连接至I/O接口1405：包括键盘、鼠标等的输入部分1406；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1407；包括硬盘等的储存部分1408；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1409。通信部分1409经由诸如因特网的网络执行通信处理。驱动器1410也根据需要连接至I/O接口1405。可拆卸介质1411，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1410上，以便于从其上读出的计算机程序根据需要被安装入储存部分1408。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分1409从网络上被下载和安装，和/或从可拆卸介质1411被安装。在该计算机程序被中央处理单元(CPU)1401执行时，执行本申请的系统中限定的上述功能。
需要说明的是，本申请所示的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读存储介质，该计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的模块和/或单元和/或子单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块和/或单元和/或子单元也可以设置在处理器中，例如，可以描述为：一种处理器包括发送单元、获取单元、确定单元和第一处理单元。其中，这些模块和/或单元和/或子单元的名称在某种情况下并不构成对该模块和/或单元和/或子单元本身的限定。
作为另一方面，本申请还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备可实现功能包括：从训练样本集中获取第一训练样本及其点击标签、第二训练样本及其点击标签以及所述第一训练样本的和所述第二训练样本之间的类别标签；通过目标模型的第一机器学习模型和第一神经网络模型对所述第一训练样本进行处理，并通过所述目标模型的第二机器学习模型和第二神经网络模型对所述第二训练样本进行处理，以获得所述第一训练样本的预测点击概率、所述第二训练样本的预测点击概率以及所述第一训练样本和所述第二训练样本之间的预测类别信息；根据所述第一训练样本的点击标签和预测点击概率、所述第二训练样本的点击标签和预测点击概率以及所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定目标损失以训练所述目标模型。
通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，本公开实施例的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中，包括若干指令用以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者智能设备等)执行根据本公开实施例的方法，例如图2的一个或多个所示的步骤。
此外，上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。
本领域技术人员在考虑说明书及实践这里公开的公开后，将容易想到本公开的其他实施例。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未申请的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。
应当理解的是，本公开并不限于这里已经示出的详细结构、附图方式或实现方法，相反，本公开意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。
Claims (15)
1.一种信息处理方法，其特征在于，包括：
从训练样本集中获取第一训练样本及其点击标签、第二训练样本及其点击标签以及所述第一训练样本的和所述第二训练样本之间的类别标签；
通过目标模型的第一机器学习模型和第一神经网络模型对所述第一训练样本进行处理，并通过所述目标模型的第二机器学习模型和第二神经网络模型对所述第二训练样本进行处理，以获得所述第一训练样本的预测点击概率、所述第二训练样本的预测点击概率以及所述第一训练样本和所述第二训练样本之间的预测类别信息；
根据所述第一训练样本的点击标签和预测点击概率、所述第二训练样本的点击标签和预测点击概率以及所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定目标损失以训练所述目标模型。
2.根据权利要求1所述方法，其特征在于，通过目标模型的第一机器学习模型和第一神经网络模型对所述第一训练样本进行处理，以获得所述第一训练样本的预测点击概率，包括：
通过所述第一机器学习模型处理所述第一训练样本，获取所述第一训练样本的第一特征向量；
通过所述第一神经网络模型处理所述第一训练样本，获取所述第一训练样本的第二特征向量；
根据所述第一训练样本的第一特征向量和第二特征向量，获得所述第一训练样本的预测点击概率。
3.根据权利要求2所述方法，其特征在于，通过所述目标模型的第二机器学习模型和第二神经网络模型对所述第二训练样本进行处理，以获得所述第二训练样本的预测点击概率，包括：
通过所述第二机器学习模型处理所述第二训练样本，获取所述第二训练样本的第一特征向量；
通过所述第二神经网络模型处理所述第二训练样本，获取所述第二训练样本的第二特征向量；
根据所述第二训练样本的第一特征向量和第二特征向量，获得所述第二训练样本的预测点击概率。
4.根据权利要求3所述方法，其特征在于，通过目标模型的第一机器学习模型和所述第一神经网络模型对所述第一训练样本进行处理，并通过所述目标模型的第二机器学习模型和第二神经网络模型对所述第二训练样本进行处理，以获得所述第一训练样本和所述第二训练样本之间的预测类别信息，包括：
将所述第一训练样本的第一特征向量与所述第一训练样本的第二特征向量拼接，获得所述第一训练样本的融合特征向量；
将所述第二训练样本的第一特征向量与所述第二训练样本的第二特征向量拼接，形成所述第二训练样本的融合特征向量；
根据所述第一训练样本的融合特征向量和所述第二训练样本的融合特征向量，获得所述第一训练样本和所述第二训练样本之间的预测类别信息。
5.根据权利要求4所述方法，其特征在于，所述目标模型还包括全连接层；其中根据所述第一训练样本的融合特征向量和所述第二训练样本的融合特征向量，获得所述第一训练样本和所述第二训练样本之间的预测类别信息，包括：
通过所述全连接层处理所述第一训练样本和所述第二训练样本的融合特征向量，获得所述第一训练样本和所述第二训练样本之间的预测类别信息。
6.根据权利要求1至5任一项所述方法，其特征在于，根据所述第一训练样本的点击标签和预测点击概率、所述第二训练样本的点击标签和预测点击概率以及所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定目标损失，包括：
根据所述第一训练样本的点击标签和预测点击概率，确定第一点击预测损失；
根据所述第二训练样本的点击标签和预测点击概率，确定第二点击预测损失；
根据所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定类别预测损失；
根据所述第一点击预测损失、所述第二点击预测损失和所述类别预测损失，确定所述目标损失。
7.根据权利要求1至5任一项所述方法，其特征在于，所述第一机器学习模型与所述第二机器学习模型结构相同，所述第一神经网络模型和所述第二神经网络模型结构相同。
8.根据权利要求7所述方法，其特征在于，所述第一机器学习模型与所述第二机器学习模型的模型参数共享，所述第一神经网络模型和所述第二神经网络模型的模型参数共享。
9.根据权利要求8所述方法，其特征在于，所述第一机器学习模型是因子分解机模型，所述第一神经网络模型是基于注意力机制的神经网络模型。
10.一种信息处理方法，其特征在于，包括：
获取目标用户的属性信息和待推荐对象的属性信息；
根据所述目标对象的属性信息和所述待推荐对象的属性信息生成目标嵌入向量；
通过目标模型的第一机器学习模型处理所述目标嵌入向量，获取所述目标嵌入向量的第一特征向量；
通过所述目标模型的第一神经网络模型处理所述目标嵌入向量，获取所述目标嵌入向量的第二特征向量；
根据所述第一特征向量和所述第二特征向量，获得所述目标用户对所述待推荐对象的预测点击概率，以用于从所述待推荐对象中确定向所述目标用户推荐的目标对象及其推荐顺序。
11.一种推荐方法，其特征在于，包括：
获取目标用户的属性信息；
根据所述目标用户的属性信息召回待推荐文章；
获取所述待推荐文章的属性信息；
通过第一机器学习模型和第一神经网络模型对所述目标用户的属性信息和所述待推荐文章的属性信息进行处理，获得所述目标用户对所述待推荐文章的预测点击概率；
根据所述目标用户对所述待推荐文章的预测点击概率，对所述待推荐文章进行排序，以获得排序结果；
根据所述排序结果从所述待推荐文章中确定向所述目标用户推荐的目标文章及其推荐顺序。
12.一种推荐系统，其特征在于，包括：
召回装置，用于根据目标用户的属性信息召回待推荐文章；
点击概率预测装置，用于通过第一机器学习模型和第一神经网络模型对所述目标用户的属性信息和所述待推荐文章的属性信息进行处理，获得所述目标用户对所述待推荐文章的预测点击概率；
推荐装置，用户根据所述目标用户对所述待推荐文章的预测点击概率，对所述待推荐文章进行排序，并根据排序结果从所述待推荐文章中确定向所述目标用户推荐的目标文章及其推荐顺序。
13.一种信息处理装置，其特征在于，包括：
训练样本获取模块，配置为从训练样本集中获取第一训练样本及其点击标签、第二训练样本及其点击标签以及所述第一训练样本的和所述第二训练样本之间的类别标签；
数据处理模块，配置为通过目标模型的第一机器学习模型和第一神经网络模型对所述第一训练样本进行处理，并通过所述目标模型的第二机器学习模型和第二神经网络模型对所述第二训练样本进行处理，以获得所述第一训练样本的预测点击概率、所述第二训练样本的预测点击概率以及所述第一训练样本和所述第二训练样本之间的预测类别信息；
损失获取模块，配置为根据所述第一训练样本的点击标签和预测点击概率、所述第二训练样本的点击标签和预测点击概率以及所述第一训练样本和所述第二训练样本之间的类别标签和预测类别信息，确定目标损失以训练所述目标模型。
14.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-11中任一项所述的方法。
15.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-11中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911077078.2A CN110851713B (zh) | 2019-11-06 | 2019-11-06 | 信息处理方法、推荐方法及相关设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911077078.2A CN110851713B (zh) | 2019-11-06 | 2019-11-06 | 信息处理方法、推荐方法及相关设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110851713A true CN110851713A (zh) | 2020-02-28 |
| CN110851713B CN110851713B (zh) | 2023-05-30 |
Family
ID=69598675
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911077078.2A Active CN110851713B (zh) | 2019-11-06 | 2019-11-06 | 信息处理方法、推荐方法及相关设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110851713B (zh) |
Cited By (22)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111538822A (zh) * | 2020-04-24 | 2020-08-14 | 支付宝(杭州)信息技术有限公司 | 一种智能客户服务机器人训练数据的生成方法和系统 |
| CN111581545A (zh) * | 2020-05-12 | 2020-08-25 | 腾讯科技（深圳）有限公司 | 一种召回文档的排序方法及相关设备 |
| CN111782968A (zh) * | 2020-07-02 | 2020-10-16 | 北京字节跳动网络技术有限公司 | 内容推荐方法、装置、可读介质及电子设备 |
| CN111860870A (zh) * | 2020-07-29 | 2020-10-30 | 北京达佳互联信息技术有限公司 | 交互行为确定模型的训练方法、装置、设备及介质 |
| CN111915216A (zh) * | 2020-08-14 | 2020-11-10 | 南京大学 | 基于二次注意力机制的开源软件项目开发人员推荐方法 |
| CN112036954A (zh) * | 2020-09-07 | 2020-12-04 | 贝壳技术有限公司 | 物品推荐方法和装置、计算机可读存储介质、电子设备 |
| CN112052402A (zh) * | 2020-09-02 | 2020-12-08 | 北京百度网讯科技有限公司 | 信息推荐方法、装置、电子设备及存储介质 |
| CN112070241A (zh) * | 2020-09-11 | 2020-12-11 | 腾讯科技（深圳）有限公司 | 基于机器学习模型的植物生长预测方法、装置和设备 |
| CN112102015A (zh) * | 2020-11-17 | 2020-12-18 | 腾讯科技（深圳）有限公司 | 物品推荐方法、元网络处理方法、装置、存储介质和设备 |
| CN112508613A (zh) * | 2020-12-09 | 2021-03-16 | 天津狮拓信息技术有限公司 | 一种商品推荐方法、装置、电子设备和可读存储介质 |
| CN112507658A (zh) * | 2020-12-04 | 2021-03-16 | 东软集团股份有限公司 | 一种预测模型生成、检测数据归一化的方法、装置及设备 |
| CN113076475A (zh) * | 2021-03-26 | 2021-07-06 | 马上消费金融股份有限公司 | 信息推荐方法、模型训练方法及相关设备 |
| CN113343117A (zh) * | 2021-07-09 | 2021-09-03 | 马上消费金融股份有限公司 | 对抗网络模型的训练方法、信息推荐方法及相关设备 |
| CN113420227A (zh) * | 2021-07-21 | 2021-09-21 | 北京百度网讯科技有限公司 | 点击率预估模型的训练方法、预估点击率的方法、装置 |
| CN113449175A (zh) * | 2020-03-24 | 2021-09-28 | 北京沃东天骏信息技术有限公司 | 热点数据的推荐方法和装置 |
| CN113496304A (zh) * | 2020-04-03 | 2021-10-12 | 北京达佳互联信息技术有限公司 | 网络媒介信息的投放控制方法、装置、设备及存储介质 |
| CN114138989A (zh) * | 2021-11-16 | 2022-03-04 | 杭州网易云音乐科技有限公司 | 相关性预测模型训练方法、装置及相关性预测方法 |
| CN114154050A (zh) * | 2020-09-07 | 2022-03-08 | 北京达佳互联信息技术有限公司 | 推荐方法、特征生成网络的训练方法、装置、电子设备 |
| CN114385359A (zh) * | 2022-01-07 | 2022-04-22 | 重庆邮电大学 | 一种物联网云边端任务时序协同方法 |
| CN114707041A (zh) * | 2022-04-11 | 2022-07-05 | 中国电信股份有限公司 | 消息推荐方法、装置、计算机可读介质及电子设备 |
| CN116432039A (zh) * | 2023-06-13 | 2023-07-14 | 支付宝(杭州)信息技术有限公司 | 协同训练方法及装置、业务预测方法及装置 |
| WO2023236900A1 (zh) * | 2022-06-08 | 2023-12-14 | 华为技术有限公司 | 一种项目推荐方法及其相关设备 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20100250335A1 (en) * | 2009-03-31 | 2010-09-30 | Yahoo! Inc | System and method using text features for click prediction of sponsored search advertisements |
| CN105512156A (zh) * | 2014-10-20 | 2016-04-20 | 腾讯科技（深圳）有限公司 | 点击模型生成方法和装置 |
| CN108665064A (zh) * | 2017-03-31 | 2018-10-16 | 阿里巴巴集团控股有限公司 | 神经网络模型训练、对象推荐方法及装置 |
| CN109145245A (zh) * | 2018-07-26 | 2019-01-04 | 腾讯科技（深圳）有限公司 | 预测点击率的方法、装置、计算机设备及存储介质 |
| CN109582862A (zh) * | 2018-10-31 | 2019-04-05 | 网易传媒科技（北京）有限公司 | 点击率预估方法、介质、系统和计算设备 |
| CN110162701A (zh) * | 2019-05-10 | 2019-08-23 | 腾讯科技（深圳）有限公司 | 内容推送方法、装置、计算机设备和存储介质 |
-
2019
- 2019-11-06 CN CN201911077078.2A patent/CN110851713B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20100250335A1 (en) * | 2009-03-31 | 2010-09-30 | Yahoo! Inc | System and method using text features for click prediction of sponsored search advertisements |
| CN105512156A (zh) * | 2014-10-20 | 2016-04-20 | 腾讯科技（深圳）有限公司 | 点击模型生成方法和装置 |
| CN108665064A (zh) * | 2017-03-31 | 2018-10-16 | 阿里巴巴集团控股有限公司 | 神经网络模型训练、对象推荐方法及装置 |
| CN109145245A (zh) * | 2018-07-26 | 2019-01-04 | 腾讯科技（深圳）有限公司 | 预测点击率的方法、装置、计算机设备及存储介质 |
| CN109582862A (zh) * | 2018-10-31 | 2019-04-05 | 网易传媒科技（北京）有限公司 | 点击率预估方法、介质、系统和计算设备 |
| CN110162701A (zh) * | 2019-05-10 | 2019-08-23 | 腾讯科技（深圳）有限公司 | 内容推送方法、装置、计算机设备和存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 陈检: "基于神经网络与因子分解机的点击率预估应用研究", 《信息技术与信息化》 * |
Cited By (34)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113449175A (zh) * | 2020-03-24 | 2021-09-28 | 北京沃东天骏信息技术有限公司 | 热点数据的推荐方法和装置 |
| CN113496304A (zh) * | 2020-04-03 | 2021-10-12 | 北京达佳互联信息技术有限公司 | 网络媒介信息的投放控制方法、装置、设备及存储介质 |
| CN113496304B (zh) * | 2020-04-03 | 2024-03-08 | 北京达佳互联信息技术有限公司 | 网络媒介信息的投放控制方法、装置、设备及存储介质 |
| CN111538822B (zh) * | 2020-04-24 | 2023-05-09 | 支付宝(杭州)信息技术有限公司 | 一种智能客户服务机器人训练数据的生成方法和系统 |
| CN111538822A (zh) * | 2020-04-24 | 2020-08-14 | 支付宝(杭州)信息技术有限公司 | 一种智能客户服务机器人训练数据的生成方法和系统 |
| CN111581545B (zh) * | 2020-05-12 | 2023-09-19 | 腾讯科技（深圳）有限公司 | 一种召回文档的排序方法及相关设备 |
| CN111581545A (zh) * | 2020-05-12 | 2020-08-25 | 腾讯科技（深圳）有限公司 | 一种召回文档的排序方法及相关设备 |
| CN111782968A (zh) * | 2020-07-02 | 2020-10-16 | 北京字节跳动网络技术有限公司 | 内容推荐方法、装置、可读介质及电子设备 |
| CN111782968B (zh) * | 2020-07-02 | 2022-02-18 | 北京字节跳动网络技术有限公司 | 内容推荐方法、装置、可读介质及电子设备 |
| CN111860870A (zh) * | 2020-07-29 | 2020-10-30 | 北京达佳互联信息技术有限公司 | 交互行为确定模型的训练方法、装置、设备及介质 |
| CN111915216A (zh) * | 2020-08-14 | 2020-11-10 | 南京大学 | 基于二次注意力机制的开源软件项目开发人员推荐方法 |
| CN111915216B (zh) * | 2020-08-14 | 2023-09-12 | 南京大学 | 基于二次注意力机制的开源软件项目开发人员推荐方法 |
| CN112052402B (zh) * | 2020-09-02 | 2024-03-01 | 北京百度网讯科技有限公司 | 信息推荐方法、装置、电子设备及存储介质 |
| CN112052402A (zh) * | 2020-09-02 | 2020-12-08 | 北京百度网讯科技有限公司 | 信息推荐方法、装置、电子设备及存储介质 |
| CN112036954A (zh) * | 2020-09-07 | 2020-12-04 | 贝壳技术有限公司 | 物品推荐方法和装置、计算机可读存储介质、电子设备 |
| CN114154050A (zh) * | 2020-09-07 | 2022-03-08 | 北京达佳互联信息技术有限公司 | 推荐方法、特征生成网络的训练方法、装置、电子设备 |
| CN112070241A (zh) * | 2020-09-11 | 2020-12-11 | 腾讯科技（深圳）有限公司 | 基于机器学习模型的植物生长预测方法、装置和设备 |
| CN112102015A (zh) * | 2020-11-17 | 2020-12-18 | 腾讯科技（深圳）有限公司 | 物品推荐方法、元网络处理方法、装置、存储介质和设备 |
| CN112507658A (zh) * | 2020-12-04 | 2021-03-16 | 东软集团股份有限公司 | 一种预测模型生成、检测数据归一化的方法、装置及设备 |
| CN112508613B (zh) * | 2020-12-09 | 2024-03-19 | 天津狮拓信息技术有限公司 | 一种商品推荐方法、装置、电子设备和可读存储介质 |
| CN112508613A (zh) * | 2020-12-09 | 2021-03-16 | 天津狮拓信息技术有限公司 | 一种商品推荐方法、装置、电子设备和可读存储介质 |
| CN113076475A (zh) * | 2021-03-26 | 2021-07-06 | 马上消费金融股份有限公司 | 信息推荐方法、模型训练方法及相关设备 |
| CN113343117A (zh) * | 2021-07-09 | 2021-09-03 | 马上消费金融股份有限公司 | 对抗网络模型的训练方法、信息推荐方法及相关设备 |
| CN113343117B (zh) * | 2021-07-09 | 2022-05-17 | 马上消费金融股份有限公司 | 对抗网络模型的训练方法、信息推荐方法及相关设备 |
| CN113420227A (zh) * | 2021-07-21 | 2021-09-21 | 北京百度网讯科技有限公司 | 点击率预估模型的训练方法、预估点击率的方法、装置 |
| CN113420227B (zh) * | 2021-07-21 | 2024-05-14 | 北京百度网讯科技有限公司 | 点击率预估模型的训练方法、预估点击率的方法、装置 |
| CN114138989A (zh) * | 2021-11-16 | 2022-03-04 | 杭州网易云音乐科技有限公司 | 相关性预测模型训练方法、装置及相关性预测方法 |
| CN114385359A (zh) * | 2022-01-07 | 2022-04-22 | 重庆邮电大学 | 一种物联网云边端任务时序协同方法 |
| CN114385359B (zh) * | 2022-01-07 | 2024-05-14 | 重庆邮电大学 | 一种物联网云边端任务时序协同方法 |
| CN114707041B (zh) * | 2022-04-11 | 2023-12-01 | 中国电信股份有限公司 | 消息推荐方法、装置、计算机可读介质及电子设备 |
| CN114707041A (zh) * | 2022-04-11 | 2022-07-05 | 中国电信股份有限公司 | 消息推荐方法、装置、计算机可读介质及电子设备 |
| WO2023236900A1 (zh) * | 2022-06-08 | 2023-12-14 | 华为技术有限公司 | 一种项目推荐方法及其相关设备 |
| CN116432039A (zh) * | 2023-06-13 | 2023-07-14 | 支付宝(杭州)信息技术有限公司 | 协同训练方法及装置、业务预测方法及装置 |
| CN116432039B (zh) * | 2023-06-13 | 2023-09-05 | 支付宝(杭州)信息技术有限公司 | 协同训练方法及装置、业务预测方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110851713B (zh) | 2023-05-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110851713B (zh) | 信息处理方法、推荐方法及相关设备 | |
| CN113626719B (zh) | 信息推荐方法、装置、设备、存储介质及计算机程序产品 | |
| CN113254785B (zh) | 推荐模型训练方法、推荐方法和相关设备 | |
| Bhaskaran et al. | An efficient personalized trust based hybrid recommendation (tbhr) strategy for e-learning system in cloud computing | |
| CN112988979B (zh) | 实体识别方法、装置、计算机可读介质及电子设备 | |
| CN115917535A (zh) | 推荐模型的训练方法、推荐方法、装置及计算机可读介质 | |
| CN111368548A (zh) | 语义识别方法及装置、电子设备和计算机可读存储介质 | |
| CN111046275B (zh) | 基于人工智能的用户标签确定方法及装置、存储介质 | |
| US12020267B2 (en) | Method, apparatus, storage medium, and device for generating user profile | |
| CN111259647A (zh) | 基于人工智能的问答文本匹配方法、装置、介质及电子设备 | |
| CN113761153A (zh) | 基于图片的问答处理方法、装置、可读介质及电子设备 | |
| CN112860998B (zh) | 一种基于多任务学习机制的点击率预估方法 | |
| CN113761190A (zh) | 文本识别方法、装置、计算机可读介质及电子设备 | |
| CN112633931A (zh) | 点击率预测方法、装置、电子设备及介质 | |
| CN114511387A (zh) | 产品推荐方法、装置、电子设备及存储介质 | |
| Kouagou et al. | Learning concept lengths accelerates concept learning in ALC | |
| CN112131345A (zh) | 文本质量的识别方法、装置、设备及存储介质 | |
| CN117711001B (zh) | 图像处理方法、装置、设备和介质 | |
| Yuen et al. | An online-updating algorithm on probabilistic matrix factorization with active learning for task recommendation in crowdsourcing systems | |
| CN114239730A (zh) | 一种基于近邻排序关系的跨模态检索方法 | |
| CN116910357A (zh) | 一种数据处理方法及相关装置 | |
| CN116957128A (zh) | 业务指标预测方法、装置、设备和存储介质 | |
| CN112417260B (zh) | 本地化推荐方法、装置及存储介质 | |
| CN113742591A (zh) | 学习伙伴推荐方法和装置、电子设备、存储介质 | |
| CN115203516A (zh) | 基于人工智能的信息推荐方法、装置、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40021079 Country of ref document: HK |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |