CN111259222B - 物品推荐方法、系统、电子设备及存储介质 - Google Patents
物品推荐方法、系统、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111259222B CN111259222B CN202010073347.4A CN202010073347A CN111259222B CN 111259222 B CN111259222 B CN 111259222B CN 202010073347 A CN202010073347 A CN 202010073347A CN 111259222 B CN111259222 B CN 111259222B
- Authority
- CN
- China
- Prior art keywords
- training
- user
- module
- article
- clicking
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/951—Indexing; Web crawling techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0631—Item recommendations
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/60—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
- A63F13/69—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor by enabling or updating specific game elements, e.g. unlocking hidden features, items, levels or versions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0282—Rating or review of business operators or products
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/60—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
- A63F13/67—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor adaptively or by learning from player actions, e.g. skill level adjustment or by storing successful combat sequences for re-use
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/70—Game security or game management aspects
- A63F13/79—Game security or game management aspects involving player-related data, e.g. identities, accounts, preferences or play histories
- A63F13/795—Game security or game management aspects involving player-related data, e.g. identities, accounts, preferences or play histories for finding other players; for building a team; for providing a buddy list
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9536—Search customisation based on social or collaborative filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/50—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
- A63F2300/57—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers details of game services offered to the player
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本申请公开了物品推荐及模型训练方法、系统、电子设备及存储介质,涉及人工智能领域。具体实现方案为:采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库;采用预先训练的用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达;根据用户的特征表达和物品特征表达数据库,获取要推荐的N个物品的标识;基于N个物品的标识,向用户推荐N个物品的相关信息。本申请的技术方案,通过预先训练好的用户点击物品的任务模型来实现物品推荐,能够有效地降低计算量,避免计算错误,提高推荐准确性。而且能够有效地提高物品推荐的智能性,提升物品推荐效率。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及人工智能,具体涉及一种物品推荐及模型训练方法、系统、电子设备及存储介质。
背景技术
互联网发展到今天,衍生出各种互联网产品,如电商之类的购物平台的出现,改变了人们的生活方式,增强了购物的便利性。
在各种互联网应用产品中,用户可以自主选择自己感兴趣的物品,也可以由系统向用户推荐物品。例如,现有的物品推荐系统中,可以采用协同过滤推荐的方式。如业界常用的有基于物品的协同过滤推荐itemCF或者基于用户的协同过滤推荐userCF。itemCF使用两个物品之间共同感兴趣用户重合数量来衡量两个物品之间的相似度,再根据用户历史物品推荐相似的候选物品。userCF使用两个用户之间共同感兴趣的物品的重合数量来衡量两个用户之间的相似度,再根据相似用户群喜爱的物品对目标用户推荐候选物品。
但是,在用户数量或者物品数量都较多的时候,上述推荐方案的计算量代价非常大,容易造成计算错误,导致推荐方案的物品推荐准确性较差。
发明内容
为了解决上述技术问题,本申请提供一种物品推荐及模型训练方法、系统、电子设备及存储介质,用于提高物品推荐的准确性。
一方面,本申请提供一种物品推荐方法,包括:
采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库;
采用所述预先训练的用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达;
根据所述用户的特征表达和所述物品特征表达数据库,获取要推荐的N个物品的标识;
基于所述N个物品的标识,向所述用户推荐所述N个物品的相关信息。
进一步可选地,如上所述的方法中,根据所述用户的特征表达和所述物品特征表达数据库,获取要推荐的N个物品的标识,包括:
在所述物品特征表达数据库中,检索出与所述用户的特征表达最相关的N个物品的特征表达;
获取所述N个物品的特征表达对应的所述N个物品的标识。
进一步可选地,如上所述的方法中,预先训练的所述用户点击物品的任务模型包括召回任务模块和点击率预估任务模块,且所述召回任务模块与所述点击率预估任务模块之间经过联合训练。
另一方面,本申请还提供了一种用户点击物品的任务模型的训练方法,包括:
采集数条训练数据,各所述训练数据中包括训练用户的至少两个训练特征信息、训练物品的至少两个训练特征信息以及所述训练用户对所述训练物品的点击交互信息;
采用所述数条训练数据,对所述用户点击物品的任务模型中的召回任务模块和点击率预估任务模块进行联合训练。
进一步可选地,如上所述的方法中,采用所述数条训练数据,对所述用户点击物品的任务模型中的召回任务模块和点击率预估任务模块进行联合训练,包括:
对于各条所述训练数据,将所述训练用户的至少两个特征信息进行嵌入表达后拼接,得到训练用户的组合特征表达;
将所述训练物品的至少两个训练特征信息进行嵌入表达后拼接,得到训练物品的组合特征表达;
在所述召回任务模块中,将所述训练用户的组合特征表达和所述训练物品的组合特征表达分别经过至少两层包括全连接处理和激活处理的处理层的处理,得到训练用户的特征表达和训练物品的特征表达;
在所述召回任务模块中,将所述训练用户的特征表达和所述训练物品的特征表达进行相乘,得到所述训练物品对所述训练用户的推荐程度指标;
在所述点击率预估任务模块中,将所述训练用户的组合特征表达和所述训练物品的组合特征表达拼接,并依次经过至少两层包括全连接处理和激活处理的处理层、以及sigmoid激活函数处理层的处理,得到所述训练用户对所述训练物品的预测点击概率;
基于所述训练物品对所述训练用户的推荐程度指标、所述训练用户对所述训练物品的预测点击概率、已知的所述训练用户对所述训练物品的点击交互信息,生成综合交叉熵损失函数;
判断所述综合交叉熵损失函数是否收敛;若未收敛,调整所述用户点击物品的任务模型的参数;
若收敛,判断是否在第一连续预设轮数的训练中均收敛;若是,确定所述用户点击物品的任务模型的参数,进而确定所述用户点击物品的任务模型。
进一步可选地,如上所述的方法中,基于所述训练物品对所述训练用户的推荐程度指标、所述训练用户对所述训练物品的预测点击概率、已知的所述训练用户对所述训练物品的点击交互信息,生成综合交叉熵损失函数,包括:
基于所述训练物品对所述训练用户的推荐程度指标和已知的所述训练用户对所述训练物品的点击交互信息,生成第一交叉熵函数;
基于所述训练用户对所述训练物品的预测点击概率和已知的所述训练用户对所述训练物品的点击交互信息,生成第二交叉熵函数;
取所述第一交叉熵函数和所述第二交叉熵函数之和,得到所述综合交叉熵损失函数。
进一步可选地,如上所述的方法中,在确定所述综合交叉熵损失函数在所述第一连续预设轮数的训练中均收敛时,还包括:
继续采用所述数条训练数据,训练所述召回任务模块,直至所述第一交叉熵函数在第二连续预设轮数的训练中均收敛,确定所述召回任务模块的参数,确定所述召回任务模块,进而确定所述用户点击物品的任务模型。
再一方面,本申请还提供了一种物品推荐系统,包括:
构建模块,用于采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库;
特征获取模块,用于采用所述预先训练的用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达;
物品获取模块,用于根据所述用户的特征表达和所述物品特征表达数据库,获取要推荐的N个物品的标识;
推荐模块,用于基于所述N个物品的标识,向所述用户推荐所述N 个物品的相关信息。
又一方面,本申请还提供了一种用户点击物品的任务模型的训练装置,包括:
采集模块,用于采集数条训练数据,各所述训练数据中包括训练用户的至少两个训练特征信息、训练物品的至少两个训练特征信息以及所述训练用户对所述训练物品的点击交互信息;
训练模块,用于采用所述数条训练数据,对所述用户点击物品的任务模型中的召回任务模块和点击率预估任务模块进行联合训练。
再另一方面,本申请还提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上任一项所述的方法。
再又一方面,本申请还提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上任一项所述的方法。
上述申请中的一个实施例具有如下优点或有益效果:通过采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库;采用用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达;根据用户的特征表达和物品特征表达数据库,获取要推荐的N个物品的标识;基于N个物品的标识,向用户推荐N个物品的相关信息,与现有技术相比,本申请的技术方案,通过预先训练好的用户点击物品的任务模型来实现物品推荐,能够有效地降低计算量,避免计算错误,提高推荐准确性。而且能够有效地提高物品推荐的智能性,提升物品推荐效率。
进一步地,本申请中用户点击物品的任务模型中包括召回任务模块和点击率预估模块是两个独立的任务,能够在点击率预估模块中将用户的特征表达和物品的特征表达进行交互。这样,在训练时,该点击率预估模块通过反向传播,能够影响嵌入处理模块中的embedding参数,使得用户的特征表达和物品的特征表达之间存在交互的信息记录在embedding参数中,进而能够影响召回任务,使得召回的效果更佳,从而能够进一步有效地提高物品推荐的效果。
本申请的用户点击物品的任务模型的训练方法中,可以同时训练召回任务和点击率预估任务,能够在训练时,通过反向传播,影响嵌入处理模块中的embedding参数,使得用户的特征表达和物品的特征表达之间存在交互的信息记录在embedding参数中,进而能够影响召回任务,使得召回的效果更佳。因此,通过本申请的技术方案训练的用户点击物品的任务模型,能够有效地提高召回效果,使得基于该用户点击物品的任务模型进行物品推荐时,能够有效地提高推荐的准确性,提升物品推荐效率。
进一步地,本申请中,在确定综合交叉熵损失函数在第一连续预设轮数的训练中均收敛时,还可以继续采用数条训练数据,训练用户点击物品的任务模型中的召回任务模块,直至第一交叉熵函数在第二连续预设轮数的训练中均收敛,确定召回任务模块的参数,确定召回任务模块,进而确定用户点击物品的任务模型,能够进一步提高召回效果,提高推荐的准确性,提升物品推荐效率。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1是根据本申请第一实施例的示意图;
图2是本实施例提供的一种用户点击物品的任务模型的结构图;
图3是根据本申请第二实施例的示意图;
图4是根据本申请第三实施例的示意图;
图5是根据本申请第四实施例的示意图;
图6是用来实现本申请实施例的上述方法的电子设备的框图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本申请第一实施例的示意图;如图1所示,本实施例的物品推荐方法,具体可以包括如下步骤:
S101、采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库;
本实施例的物品推荐方法的执行主体为物品推荐装置,该物品推荐装置可以为一电子实体;或者也可以为程序集成的应用,使用时,运行在计算机设备上即可实现对物品的推荐。
本实施例的物品推荐方法基于预先训练的用户点击物品的任务模型来实现,该用户点击物品的任务模型为一神经网络模型,该神经网络模型能够实现用户点击物品的至少一个任务的模拟,如召回任务和/或点击率预估任务等等。在用户点击物品的任务模拟过程中,必定需要先基于用户的特征信息和物品的特征信息分别对用户和物品进行嵌入(embedding)处理,得到相应的特征表达,然后基于特征表达,实现任务模拟。因此,基于用户点击物品的任务模型中训练好的特征表达的参数,可以实现基于物品的特征信息,获取物品的特征表达。本实施例中的特征表达具体可以采用向量的形式,也可以称之为向量表达。对应地物品特征表达数据库可以为FAISS向量索引数据库。
本实施例的待推荐的物品库中包括预先采集的数个物品的信息,例如每个物品的信息中包括该物品的标识以及该物品的至少两个特征信息。其中物品的标识用于唯一标识该物品,例如物品的标识可以采用数字、字母以及文字中的至少一种或者至少两种的组合。物品的至少两个特征信息可以包括物品的分类、物品的关键词等等其他信息。
本实施例中,基于预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,可以获取到各物品的特征表达;并进一步基于各物品的特征表达,可以构建包括物品库中各物品的特征表达的物品特征表达数据库。其中在该物品特征表达数据库中还可以包括每个物品的标识。
本实施例的特征表达均采用向量的形式,也可以称之为向量表达或者向量。
S102、采用预先训练的用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达;
参考步骤S101的实施方式,也可以基于用户点击物品的任务模型和用户的至少两个特征信息,也获取到用户的特征表达,详细可以参考上述步骤S101的记载,在此不再赘述。
本实施例的用户的至少两个特征信息可以包括用户的行为信息、用户的兴趣标签、用户的人口属性如年龄、性别、人生阶段等等,在此不再一一举例赘述。
S103、根据用户的特征表达和物品特征表达数据库,获取要推荐的N 个物品的标识;
具体地,可以先在物品特征表达数据库中,检索出与用户的特征表达最相关的N个物品的特征表达;然后获取N个物品的特征表达对应的N 个物品的标识。
S104、基于N个物品的标识,向用户推荐N个物品的相关信息。
例如,可以基于N个物品的标识,向用户推荐N个物品的标识、特征信息、详情或者链接等相关信息。本实施例中,向用户推荐的N个物品的相关信息不限制如上几种,实际应用中还可以包括N个物品的其他信息,在此不再一一举例赘述。具体地,可以根据本实施例的技术方案的应用场景,基于N个物品的标识,获取到N个物品的相关信息,并向用户推荐。例如,在互联网购物平台中,可以基于N个物品的标识,获取到N个物品的详情或者购买链接,向用户推荐。
基于以上记载,可以知道,本实施例的物品推荐方法的应用场景为在已知待推荐的物品库和用户的至少两个特征信息时,可以基于已经训练好的用户点击物品的任务模型,实现向用户推荐物品库中N个物品的相关信息。
可选地,本实施例的预先训练的用户点击物品的任务模型中可以包括召回任务模块和点击率预估任务模块,且召回任务模块与点击率预估任务模块之间经过联合训练得到。例如图2是本实施例提供的一种用户点击物品的任务模型的结构图。如图2所示,本实施例的用户点击物品的任务模型除了包括召回任务模块和点击率预估任务模块之外,还包括基础信息的处理模块,即嵌入(embedding)处理模块,嵌入处理模块分别对用户的至少两个特征信息和物品的至少两个特征信息进行嵌入(embedding)处理,并拼接。召回任务模块和点击率预估模块均采用拼接后的表达作为输入进行处理。
其中召回任务模块用于实现物品对用户的推荐程度指标的计算,该推荐程度指标越高,在向该用户推荐物品时该物品被召回的概率就越大;反之,该推荐程度指标越小,该物品被召回的概率就越小。
点击率预估模块用于实现用户对物品的点击率的预测,点击率越大,表示该用户对该物品的兴趣越高,点击该物品的概率越大;反之,若点击率越小,表示用户对该物品的兴趣越低,点击该物品的概率越小。
本实施例的用户点击物品的任务模型中的召回任务模块和点击率预估模块是两个独立的任务。实际应用中,嵌入处理模块可以与召回任务模块组合形成一个独立的任务模型,用于实现召回任务。或者嵌入处理模块也可以与点击率预估模块组合形成一个独立的任务模型,用于实现点击率预估。
例如,本实施例中,用户点击物品的任务模型中也可以仅采用嵌入处理模块与召回任务模块,而删除点击率预估模块。在训练好该任务模型后,可以基于该任务模型中实现上述图1所示实施例的步骤S101和步骤S102。
但是如图2所示,若用户点击物品的任务模型中仅采用嵌入处理模块与召回任务模块,此时用户的特征表达和物品的特征表达除了在顶层计算物品对用户的推荐程度指标时进行相乘外,没有任何交互,而顶层的信息已经经过了压缩,模型缺少了底层特征表达之间的特征交叉交互,导致该用户点击物品的任务模型在训练时,用户的特征表达和物品的特征表达完全独立,学习不到任何用户与物品的交叉信息,导致训练的模型的召回效果较差。
而图2所示的本实施例的用户点击物品的任务模型中,同时还引入了点击率预估模块,该点击率预估模块是基于用户的组合特征表达和物品的组合特征表达的拼接后的特征,来预测点击率。即将用户的特征表达和物品的特征表达做了交互。这样,在训练时,该点击率预估模块通过反向传播,能够影响嵌入处理模块中的embedding参数,使得用户的特征表达和物品的特征表达之间存在交互的信息记录在embedding参数中,进而能够影响召回任务,使得召回的效果更佳。
此时对应地,步骤S101在实施时,可以根据训练好的图2所示的用户点击物品的任务模型中的嵌入处理模块与召回任务模块中的网络结构参数,基于物品库中各物品的至少两个特征信息,获取到物品库中各物品的特征表达。并将物品库中所有物品的特征表达组合在一起,构建为一个物品特征表达数据库。
同理,步骤S102在实施时,也可以根据训练好的图2所示的用户点击物品的任务模型中的嵌入处理模块与召回任务模块中的网络结构参数,基于用户的至少两个特征信息,获取到用户的特征表达。
需要说明的是,本实施例中的物品除了可以为商品,还可以为广告等其他信息,还能够在其他领域实现广告或者其他信息的推荐。
本实施例的物品推荐方法,通过采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库;采用用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达;根据用户的特征表达和物品特征表达数据库,获取要推荐的N个物品的标识;基于N个物品的标识,向用户推荐N个物品的相关信息,与现有技术相比,本实施例的技术方案,通过预先训练好的用户点击物品的任务模型来实现物品推荐,能够有效地降低计算量,避免计算错误,提高推荐准确性。而且能够有效地提高物品推荐的智能性,提升物品推荐效率。
进一步地,本实施例的用户点击物品的任务模型中包括召回任务模块和点击率预估模块是两个独立的任务,能够在点击率预估模块中将用户的特征表达和物品的特征表达进行交互。这样,在训练时,该点击率预估模块通过反向传播,能够影响嵌入处理模块中的embedding参数,使得用户的特征表达和物品的特征表达之间存在交互的信息记录在embedding参数中,进而能够影响召回任务,使得召回的效果更佳,从而能够进一步有效地提高物品推荐的效果。
图3根据本申请第二实施例的示意图;如图3所示,本实施例的用户点击物品的任务模型的训练方法,具体可以包括如下步骤:
S301、采集数条训练数据,各训练数据中包括训练用户的至少两个训练特征信息、训练物品的至少两个训练特征信息以及训练用户对训练物品的点击交互信息;
本实施例的用户点击物品的任务模型的训练方法的执行主体为用户点击物品的任务模型的训练装置,该用户点击物品的任务模型的训练装置可以为一电子实体;或者也可以为软件集成的应用,使用时,将该应用运行在大型计算机设备上,采用本实施例的技术方案,实现对该用户点击物品的任务模型进行训练。
本实施例中,采集的训练数据的数量可以达到百万级以上,采集的训练数据的条数越多,训练的用户点击物品的任务模型便越准确。
本实施例中,采集的各条训练数据中包括训练用户的至少两个训练特征信息和训练物品的至少两个训练特征信息可以参考上述图1所示实施例中的用户的至少两个特征信息和物品的至少两个特征信息,在此不再赘述。其中,训练用户对训练物品的点击交互信息可以包括用户点击了该训练物品,或者用户未点击该训练物品。
本实施例中采集训练数据时,可以通过在网站或者应用(application; app)中埋点获取用户的历史展现点击、行为数据,进而挖掘出训练数据。
S302、采用数条训练数据,对用户点击物品的任务模型中的召回任务模块和点击率预估任务模块进行联合训练。
需要说明的是,在训练之前,需要随机初始化用户点击物品的任务模型中的网络结构中每一层的参数,然后基于随机初始化后的参数开始训练用户点击物品的任务模型。
本实施例的用户点击物品的任务模型可以采用如图2所示的结构。例如,训练时,具体可以包括如下步骤:
(a)对于各条训练数据,将训练用户的至少两个特征信息进行嵌入表达后拼接,得到训练用户的组合特征表达;
(b)将训练物品的至少两个训练特征信息进行嵌入表达后拼接,得到训练物品的组合特征表达;
由于嵌入表达得到的都是向量形式的表达,拼接后训练用户的组合特征表达也可以称为训练用户的组合向量,拼接后的训练物品的组合特征表达也可以称为训练物品的组合向量。
(c)在召回任务模块中,将训练用户的组合特征表达和训练物品的组合特征表达分别经过至少两层包括全连接处理和激活处理的处理层的处理,得到训练用户的特征表达和训练物品的特征表达;
本实施例中,生成训练用户的特征表达和训练物品的特征表达的过程中,需要经过至少两层包括全连接处理和激活处理的处理层,具体地处理层的层数可以由训练用户的特征信息的数量来确定。若训练用户的特征信息的数量较多,此时需要较多层的处理层,使得信息混和更加均匀,得到更加准确地训练用户的特征表达。训练物品的特征表达侧的原理类似,在此不再赘述。例如,如图2的网络结构中所示,召回任务模块中的每一层的处理层中包括全连接处理+激活处理,其中激活处理可以采用ReLU激活处理。
(d)在召回任务模块中,将训练用户的特征表达和训练物品的特征表达进行相乘,得到训练物品对训练用户的推荐程度指标;
本实施例中将训练用户的特征表达和训练物品的特征表达进行相乘得到的是一个点积,该点积用于表示训练物品对训练用户的推荐程度指标。
(e)在点击率预估任务模块中,将训练用户的组合特征表达和训练物品的组合特征表达拼接,并依次经过至少两层包括全连接处理和激活处理的处理层、以及sigmoid激活函数处理层的处理,得到训练用户对训练物品的预测点击概率;
同理,在点击率预估任务模块中,若训练用户的特征信息和训练物品的特征信息的数量较多时,可以设置更多层数的处理层,以对特征信息混合更均匀,得到更加准确的特征信息,提高预测点击概率的值。同理,如图2所示的网络结构中,点击率预估任务模块中的每一层的处理层也包括全连接处理+激活处理,其中激活处理也可以采用ReLU激活处理。
(f)基于训练物品对训练用户的推荐程度指标、训练用户对训练物品的预测点击概率、已知的训练用户对训练物品的点击交互信息,生成综合交叉熵损失函数;
例如,该步骤具体可以包括:
(1)基于训练物品对训练用户的推荐程度指标和已知的训练用户对训练物品的点击交互信息,生成第一交叉熵函数;
(2)基于训练用户对训练物品的预测点击概率和已知的训练用户对训练物品的点击交互信息,生成第二交叉熵函数;
(3)取第一交叉熵函数和第二交叉熵函数之和,得到综合交叉熵损失函数。
例如,本实施例的综合交叉熵损失函数,可以采用如下公式来表示:
其中表示第一交叉熵函数,yrecall为基于召回任务中已知的训练用户对训练物品的点击交互信息,得到的训练物品对训练用户的已知推荐程度指标。例如,若训练用户对训练物品有实际点击行为的,yrecall标记为1,否则,没有实际行为的,yrecall标记为0。/>表示训练物品对训练用户的预测推荐程度指标。
表示第二交叉熵函数,yctr为基于点击率预估任务中已知的训练用户对训练物品的点击交互信息,得到的训练用户对训练物品的真实点击率,若点击为1,非点击为0。/>为模型预测的点击率。
(g)判断综合交叉熵损失函数是否收敛;若未收敛,执行步骤(h);若收敛,执行步骤(i);
(h)调整用户点击物品的任务模型的参数;返回步骤(a)采用下一条训练数据,继续训练。
具体可以包括调整嵌入处理模块、召回任务模块以及点击率预估模块中的网络结构的参数。
(i)判断是否在第一连续预设轮数的训练中均收敛;若是,执行步骤 (j);若不是,返回步骤(a)采用下一条训练数据,继续训练。
(j)确定用户点击物品的任务模型的参数,进而确定用户点击物品的任务模型。
进一步可选地,还可以在步骤(i)确定综合交叉熵损失函数在第一连续预设轮数的训练中均收敛时,还可以包括:继续采用数条训练数据,训练召回任务模块,直至第一交叉熵函数在第二连续预设轮数的训练中均收敛,确定召回任务模块的参数,确定召回任务模块,进而确定用户点击物品的任务模型。
也就是说,由于本实施例的用户点击物品的任务模型中的点击率预估任务模块,仅用于模型训练过程中,用于引入用户的特征表达和物品的特征表达的交互,并再训练时,通过反向传播影响嵌入处理模块中的 embedding参数,使得用户的特征表达和物品的特征表达之间存在交互的信息记录在embedding参数中,进而能够影响召回任务,使得召回的效果更佳。而且,为了进一步提高召回效果,优化召回任务模块中的网络结构参数,本实施例在训练到综合交叉熵损失函数收敛后,还可以进一步调整召回任务模块中的网络结构参数,使得第一交叉熵函数在第二连续预设轮数的训练中均收敛,确定召回任务模块的参数,确定召回任务模块,进而确定用户点击物品的任务模型。
本实施例的第一连续预设轮数和第二连续预设轮数可以根据实际需求设置为100、200或者其他数值,在此不做限定。
图1所示实施例采用的训练好的用户点击物品的任务模型即为采用上述训练方法训练好的用户点击物品的任务模型。
本实施例的用户点击物品的任务模型的训练方法,通过采用上述技术方案,可以同时训练召回任务和点击率预估任务,能够在训练时,通过反向传播,影响嵌入处理模块中的embedding参数,使得用户的特征表达和物品的特征表达之间存在交互的信息记录在embedding参数中,进而能够影响召回任务,使得召回的效果更佳。因此,通过本实施例的技术方案训练的用户点击物品的任务模型,能够有效地提高召回效果,使得基于该用户点击物品的任务模型进行物品推荐时,能够有效地提高推荐的准确性,提升物品推荐效率。
进一步地,本实施例的训练中,在确定综合交叉熵损失函数在第一连续预设轮数的训练中均收敛时,还可以继续采用数条训练数据,训练用户点击物品的任务模型中的召回任务模块,直至第一交叉熵函数在第二连续预设轮数的训练中均收敛,确定召回任务模块的参数,确定召回任务模块,进而确定用户点击物品的任务模型,能够进一步提高召回效果,提高推荐的准确性,提升物品推荐效率。
图4是根据本申请第三实施例的示意图。如图4所示,本实施例的物品推荐系统400,具体可以包括:
构建模块401,用于采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库;
特征获取模块402,用于采用预先训练的用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达;
物品获取模块403,用于根据用户的特征表达和物品特征表达数据库,获取要推荐的N个物品的标识;
推荐模块404,用于基于N个物品的标识,向用户推荐N个物品的相关信息。
进一步可选地,本实施例的物品推荐系统400中,物品获取模块403 用于:
在物品特征表达数据库中,检索出与用户的特征表达最相关的N个物品的特征表达;
获取N个物品的特征表达对应的N个物品的标识。
进一步可选地,本实施例的物品推荐系统400中,预先训练的用户点击物品的任务模型包括召回任务模块和点击率预估任务模块,且召回任务模块与点击率预估任务模块之间经过联合训练。
本实施例的物品推荐系统400,通过采用上述模块实现物品推荐的实现原理以及技术效果与上述相关方法实施例的实现相同,详细可以参考上述相关方法实施例的记载,在此不再赘述。
图5是根据本申请第四实施例的示意图。如图5所示,本实施例的用户点击物品的任务模型的训练装置500,包括:
采集模块501用于采集数条训练数据,各训练数据中包括训练用户的至少两个训练特征信息、训练物品的至少两个训练特征信息以及训练用户对训练物品的点击交互信息;
训练模块502用于采用数条训练数据,对用户点击物品的任务模型中的召回任务模块和点击率预估任务模块进行联合训练。
进一步可选地,本实施例的用户点击物品的任务模型的训练装置500 中,训练模块502具体用于:
对于各条训练数据,将训练用户的至少两个特征信息进行嵌入表达后拼接,得到训练用户的组合特征表达;
将训练物品的至少两个训练特征信息进行嵌入表达后拼接,得到训练物品的组合特征表达;
在召回任务模块中,将训练用户的组合特征表达和训练物品的组合特征表达分别经过至少两层包括全连接处理和激活处理的处理层的处理,得到训练用户的特征表达和训练物品的特征表达;
在召回任务模块中,将训练用户的特征表达和训练物品的特征表达进行相乘,得到训练物品对训练用户的推荐程度指标;
在点击率预估任务模块中,将训练用户的组合特征表达和训练物品的组合特征表达拼接,并依次经过至少两层包括全连接处理和激活处理的处理层、以及sigmoid激活函数处理层的处理,得到训练用户对训练物品的预测点击概率;
基于训练物品对训练用户的推荐程度指标、训练用户对训练物品的预测点击概率、已知的训练用户对训练物品的点击交互信息,生成综合交叉熵损失函数;
判断综合交叉熵损失函数是否收敛;若未收敛,调整用户点击物品的任务模型的参数;
若收敛,判断是否在第一连续预设轮数的训练中均收敛;若是,确定用户点击物品的任务模型的参数,进而确定用户点击物品的任务模型。
进一步可选地,本实施例的用户点击物品的任务模型的训练装置500 中,训练模块502用于:
基于训练物品对训练用户的推荐程度指标和已知的训练用户对训练物品的点击交互信息,生成第一交叉熵函数;
基于训练用户对训练物品的预测点击概率和已知的训练用户对训练物品的点击交互信息,生成第二交叉熵函数;
取第一交叉熵函数和第二交叉熵函数之和,得到综合交叉熵损失函数。
进一步可选地,本实施例的用户点击物品的任务模型的训练装置500 中,训练模块502还用于:
在确定综合交叉熵损失函数在第一连续预设轮数的训练中均收敛时,继续采用数条训练数据,训练召回任务模块,直至第一交叉熵函数在第二连续预设轮数的训练中均收敛,确定召回任务模块的参数,确定召回任务模块,进而确定用户点击物品的任务模型。
本实施例的用户点击物品的任务模型的训练装置500,通过采用上述模块实现用户点击物品的任务模型的训练的实现原理以及技术效果,与上述相关方法实施例的实现相同,详细可以参考上述相关实施例的记载,在此不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储介质。
如图6所示,是根据本申请实施例的实现上述方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图6所示,该电子设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601 为例。
存储器602即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的物品推荐方法或者用户点击物品的任务模型的训练方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的物品推荐方法或者用户点击物品的任务模型的训练方法。
存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的物品推荐方法或者用户点击物品的任务模型的训练方法对应的程序指令/模块 (例如,附图4和图5所示的相关模块)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的物品推荐方法或者用户点击物品的任务模型的训练方法。
存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储实现物品推荐方法或者用户点击物品的任务模型的训练方法的电子设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至实现物品推荐方法或者用户点击物品的任务模型的训练方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
实现物品推荐方法或者用户点击物品的任务模型的训练方法的电子设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息,以及产生与实现物品推荐方法或者用户点击物品的任务模型的训练方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入) 来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,通过采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库;采用用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达;根据用户的特征表达和物品特征表达数据库,获取要推荐的N个物品的标识;基于N个物品的标识,向用户推荐N个物品的相关信息,与现有技术相比,本申请实施例的技术方案,通过预先训练好的用户点击物品的任务模型来实现物品推荐,能够有效地降低计算量,避免计算错误,提高推荐准确性。而且能够有效地提高物品推荐的智能性,提升物品推荐效率。
进一步地,根据本申请实施例的技术方案,用户点击物品的任务模型中包括召回任务模块和点击率预估模块是两个独立的任务,能够在点击率预估模块中将用户的特征表达和物品的特征表达进行交互。这样,在训练时,该点击率预估模块通过反向传播,能够影响嵌入处理模块中的 embedding参数,使得用户的特征表达和物品的特征表达之间存在交互的信息记录在embedding参数中,进而能够影响召回任务,使得召回的效果更佳,从而能够进一步有效地提高物品推荐的效果。
根据本申请实施例的技术方案,用户点击物品的任务模型的训练方法中,可以同时训练召回任务和点击率预估任务,能够在训练时,通过反向传播,影响嵌入处理模块中的embedding参数,使得用户的特征表达和物品的特征表达之间存在交互的信息记录在embedding参数中,进而能够影响召回任务,使得召回的效果更佳。因此,通过本申请实施例的技术方案训练的用户点击物品的任务模型,能够有效地提高召回效果,使得基于该用户点击物品的任务模型进行物品推荐时,能够有效地提高推荐的准确性,提升物品推荐效率。
进一步地,根据本申请实施例的技术方案,在确定综合交叉熵损失函数在第一连续预设轮数的训练中均收敛时,还可以继续采用数条训练数据,训练用户点击物品的任务模型中的召回任务模块,直至第一交叉熵函数在第二连续预设轮数的训练中均收敛,确定召回任务模块的参数,确定召回任务模块,进而确定用户点击物品的任务模型,能够进一步提高召回效果,提高推荐的准确性,提升物品推荐效率。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (14)
1.一种物品推荐方法,其特征在于,包括:
采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库;所述用户点击物品的任务模型包括嵌入处理模块、召回任务模块和点击率预估任务模块;且所述嵌入处理模块、所述召回任务模块与所述点击率预估任务模块之间经过联合训练;
采用所述预先训练的用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达;
根据所述用户的特征表达和所述物品特征表达数据库,获取要推荐的N个物品的标识;
基于所述N个物品的标识,向所述用户推荐所述N个物品的相关信息;
采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库,包括:
采用所述用户点击物品的任务模型中的嵌入处理模块和所述待推荐的物品库中各物品的至少两个特征信息,获取各所述物品的特征表达,进而构建到所述物品特征表达数据库;
采用所述预先训练的用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达,包括:
采用所述用户点击物品的任务模型中的嵌入处理模块和所述用户的至少两个特征信息,获取所述用户的特征表达。
2.根据权利要求1所述的方法,其特征在于,根据所述用户的特征表达和所述物品特征表达数据库,获取要推荐的N个物品的标识,包括:
在所述物品特征表达数据库中,检索出与所述用户的特征表达最相关的N个物品的特征表达;
获取所述N个物品的特征表达对应的所述N个物品的标识。
3.一种用户点击物品的任务模型的训练方法,其特征在于,所述用户点击物品的任务模型使用在如上权利要求1或2所述的方法中,所述方法包括:
采集数条训练数据,各所述训练数据中包括训练用户的至少两个训练特征信息、训练物品的至少两个训练特征信息以及所述训练用户对所述训练物品的点击交互信息;所述训练用户的至少两个训练特征信息和所述训练物品的至少两个训练特征信息,采用用户点击物品的任务模型中嵌入处理模块来得到;
采用所述数条训练数据,对所述用户点击物品的任务模型中的嵌入处理模块、召回任务模块和点击率预估任务模块进行联合训练。
4.根据权利要求3所述的方法,其特征在于,采用所述数条训练数据,对所述用户点击物品的任务模型中的嵌入处理模块、召回任务模块和点击率预估任务模块进行联合训练,包括:
对于各条所述训练数据,将所述训练用户的至少两个特征信息进行嵌入表达后拼接,得到训练用户的组合特征表达;
将所述训练物品的至少两个训练特征信息进行嵌入表达后拼接,得到训练物品的组合特征表达;
在所述召回任务模块中,将所述训练用户的组合特征表达和所述训练物品的组合特征表达分别经过至少两层包括全连接处理和激活处理的处理层的处理,得到训练用户的特征表达和训练物品的特征表达;
在所述召回任务模块中,将所述训练用户的特征表达和所述训练物品的特征表达进行相乘,得到所述训练物品对所述训练用户的推荐程度指标;
在所述点击率预估任务模块中,将所述训练用户的组合特征表达和所述训练物品的组合特征表达拼接,并依次经过至少两层包括全连接处理和激活处理的处理层、以及sigmoid激活函数处理层的处理,得到所述训练用户对所述训练物品的预测点击概率;
基于所述训练物品对所述训练用户的推荐程度指标、所述训练用户对所述训练物品的预测点击概率、已知的所述训练用户对所述训练物品的点击交互信息,生成综合交叉熵损失函数;
判断所述综合交叉熵损失函数是否收敛;若未收敛,调整所述用户点击物品的任务模型的参数;
若收敛,判断是否在第一连续预设轮数的训练中均收敛;若是,确定所述用户点击物品的任务模型的参数,进而确定所述用户点击物品的任务模型。
5.根据权利要求4所述的方法,其特征在于,基于所述训练物品对所述训练用户的推荐程度指标、所述训练用户对所述训练物品的预测点击概率、已知的所述训练用户对所述训练物品的点击交互信息,生成综合交叉熵损失函数,包括:
基于所述训练物品对所述训练用户的推荐程度指标和已知的所述训练用户对所述训练物品的点击交互信息,生成第一交叉熵函数;
基于所述训练用户对所述训练物品的预测点击概率和已知的所述训练用户对所述训练物品的点击交互信息,生成第二交叉熵函数;
取所述第一交叉熵函数和所述第二交叉熵函数之和,得到所述综合交叉熵损失函数。
6.根据权利要求5所述的方法,其特征在于,在确定所述综合交叉熵损失函数在所述第一连续预设轮数的训练中均收敛时,所述方法还包括:
继续采用所述数条训练数据,训练所述召回任务模块,直至所述第一交叉熵函数在第二连续预设轮数的训练中均收敛,确定所述召回任务模块的参数,确定所述召回任务模块,进而确定所述用户点击物品的任务模型。
7.一种物品推荐系统,其特征在于,包括:
构建模块,用于采用预先训练的用户点击物品的任务模型和待推荐的物品库中各物品的至少两个特征信息,构建物品特征表达数据库;所述用户点击物品的任务模型包括嵌入处理模块、召回任务模块和点击率预估任务模块;且所述嵌入处理模块、所述召回任务模块与所述点击率预估任务模块之间经过联合训练;
特征获取模块,用于采用所述预先训练的用户点击物品的任务模型和用户的至少两个特征信息,获取用户的特征表达;
物品获取模块,用于根据所述用户的特征表达和所述物品特征表达数据库,获取要推荐的N个物品的标识;
推荐模块,用于基于所述N个物品的标识,向所述用户推荐所述N个物品的相关信息;
所述构建模块,用于采用所述用户点击物品的任务模型中的嵌入处理模块和所述待推荐的物品库中各物品的至少两个特征信息,获取各所述物品的特征表达,进而构建到所述物品特征表达数据库;
所述特征获取模块,用于采用所述用户点击物品的任务模型中的嵌入处理模块和所述用户的至少两个特征信息,获取所述用户的特征表达。
8.根据权利要求7所述的系统,其特征在于,所述物品获取模块,用于:
在所述物品特征表达数据库中,检索出与所述用户的特征表达最相关的N个物品的特征表达;
获取所述N个物品的特征表达对应的所述N个物品的标识。
9.一种用户点击物品的任务模型的训练装置,其特征在于,所述用户点击物品的任务模型使用在如上权利要求7或8所述的物品推荐系统中,所述装置包括:
采集模块,用于采集数条训练数据,各所述训练数据中包括训练用户的至少两个训练特征信息、训练物品的至少两个训练特征信息以及所述训练用户对所述训练物品的点击交互信息;所述训练用户的至少两个训练特征信息和所述训练物品的至少两个训练特征信息,采用用户点击物品的任务模型中嵌入处理模块来得到;
训练模块,用于采用所述数条训练数据,对所述用户点击物品的任务模型中的嵌入处理模块、召回任务模块和点击率预估任务模块进行联合训练。
10.根据权利要求9所述的装置,其特征在于,所述训练模块,用于:
对于各条所述训练数据,将所述训练用户的至少两个特征信息进行嵌入表达后拼接,得到训练用户的组合特征表达;
将所述训练物品的至少两个训练特征信息进行嵌入表达后拼接,得到训练物品的组合特征表达;
在所述召回任务模块中,将所述训练用户的组合特征表达和所述训练物品的组合特征表达分别经过至少两层包括全连接处理和激活处理的处理层的处理,得到训练用户的特征表达和训练物品的特征表达;
在所述召回任务模块中,将所述训练用户的特征表达和所述训练物品的特征表达进行相乘,得到所述训练物品对所述训练用户的推荐程度指标;
在所述点击率预估任务模块中,将所述训练用户的组合特征表达和所述训练物品的组合特征表达拼接,并依次经过至少两层包括全连接处理和激活处理的处理层、以及sigmoid激活函数处理层的处理,得到所述训练用户对所述训练物品的预测点击概率;
基于所述训练物品对所述训练用户的推荐程度指标、所述训练用户对所述训练物品的预测点击概率、已知的所述训练用户对所述训练物品的点击交互信息,生成综合交叉熵损失函数;
判断所述综合交叉熵损失函数是否收敛;若未收敛,调整所述用户点击物品的任务模型的参数;
若收敛,判断是否在第一连续预设轮数的训练中均收敛;若是,确定所述用户点击物品的任务模型的参数,进而确定所述用户点击物品的任务模型。
11.根据权利要求10所述的装置,其特征在于,所述训练模块,用于:
基于所述训练物品对所述训练用户的推荐程度指标和已知的所述训练用户对所述训练物品的点击交互信息,生成第一交叉熵函数;
基于所述训练用户对所述训练物品的预测点击概率和已知的所述训练用户对所述训练物品的点击交互信息,生成第二交叉熵函数;
取所述第一交叉熵函数和所述第二交叉熵函数之和,得到所述综合交叉熵损失函数。
12.根据权利要求11所述的装置,其特征在于,所述训练模块,还用于:
在确定所述综合交叉熵损失函数在所述第一连续预设轮数的训练中均收敛时,继续采用所述数条训练数据,训练所述召回任务模块,直至所述第一交叉熵函数在第二连续预设轮数的训练中均收敛,确定所述召回任务模块的参数,确定所述召回任务模块,进而确定所述用户点击物品的任务模型。
13.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-2或者3-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-2或者3-6中任一项所述的方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010073347.4A CN111259222B (zh) | 2020-01-22 | 2020-01-22 | 物品推荐方法、系统、电子设备及存储介质 |
US17/152,562 US20210224879A1 (en) | 2020-01-22 | 2021-01-19 | Method, electronic device and storage medium for item recommendation |
EP21152576.1A EP3855369A3 (en) | 2020-01-22 | 2021-01-20 | Method, system, electronic device, storage medium and computer program product for item recommendation |
JP2021007184A JP7135255B2 (ja) | 2020-01-22 | 2021-01-20 | アイテム推奨方法、システム、プログラム、電子機器及び記憶媒体 |
KR1020210008893A KR102476056B1 (ko) | 2020-01-22 | 2021-01-21 | 아이템 추천방법, 시스템, 전자기기 및 기록매체 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010073347.4A CN111259222B (zh) | 2020-01-22 | 2020-01-22 | 物品推荐方法、系统、电子设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111259222A CN111259222A (zh) | 2020-06-09 |
CN111259222B true CN111259222B (zh) | 2023-08-22 |
Family
ID=70950995
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010073347.4A Active CN111259222B (zh) | 2020-01-22 | 2020-01-22 | 物品推荐方法、系统、电子设备及存储介质 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20210224879A1 (zh) |
EP (1) | EP3855369A3 (zh) |
JP (1) | JP7135255B2 (zh) |
KR (1) | KR102476056B1 (zh) |
CN (1) | CN111259222B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113744011A (zh) * | 2020-06-17 | 2021-12-03 | 北京沃东天骏信息技术有限公司 | 物品搭配方法和物品搭配装置 |
CN112766406A (zh) * | 2021-01-29 | 2021-05-07 | 北京达佳互联信息技术有限公司 | 物品图像的处理方法、装置、计算机设备及存储介质 |
CN113360770B (zh) * | 2021-06-30 | 2024-04-12 | 北京百度网讯科技有限公司 | 内容推荐的方法、装置、设备以及存储介质 |
CN113836144B (zh) * | 2021-09-28 | 2023-01-24 | 厦门市美亚柏科信息股份有限公司 | 一种基于字段推荐数据库标准表的方法及装置 |
CN114139052B (zh) * | 2021-11-19 | 2022-10-21 | 北京百度网讯科技有限公司 | 用于智能推荐的排序模型训练方法、智能推荐方法及装置 |
CN114564496B (zh) * | 2022-03-01 | 2023-09-19 | 北京有竹居网络技术有限公司 | 一种内容推荐方法及装置 |
CN114707070A (zh) * | 2022-04-12 | 2022-07-05 | 华为技术有限公司 | 一种用户行为预测方法及其相关设备 |
CN116578875B (zh) * | 2023-07-12 | 2023-11-10 | 深圳须弥云图空间科技有限公司 | 基于多行为的点击预测模型训练方法及装置 |
Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105654329A (zh) * | 2015-01-22 | 2016-06-08 | 香港中文大学深圳研究院 | 一种整合性推荐方法及装置 |
CN106169150A (zh) * | 2016-06-29 | 2016-11-30 | 广州市香港科大霍英东研究院 | 基于用户兴趣预测的物品推荐方法和装置 |
CN107273438A (zh) * | 2017-05-24 | 2017-10-20 | 深圳大学 | 一种推荐方法、装置、设备及存储介质 |
CN107392644A (zh) * | 2017-06-19 | 2017-11-24 | 华南理工大学 | 一种商品购买预测建模方法 |
CN109191196A (zh) * | 2018-08-23 | 2019-01-11 | 深圳码隆科技有限公司 | 一种基于用户特征的商品推荐方法、装置和用户终端 |
CN109191240A (zh) * | 2018-08-14 | 2019-01-11 | 北京九狐时代智能科技有限公司 | 一种进行商品推荐的方法和装置 |
CN109547814A (zh) * | 2018-12-13 | 2019-03-29 | 北京达佳互联信息技术有限公司 | 视频推荐方法、装置、服务器及存储介质 |
CN109543066A (zh) * | 2018-10-31 | 2019-03-29 | 北京达佳互联信息技术有限公司 | 视频推荐方法、装置和计算机可读存储介质 |
CN109903103A (zh) * | 2017-12-07 | 2019-06-18 | 华为技术有限公司 | 一种推荐物品的方法和装置 |
CN109993627A (zh) * | 2019-02-28 | 2019-07-09 | 华为技术有限公司 | 推荐方法、推荐模型的训练方法、装置和存储介质 |
CN110008399A (zh) * | 2019-01-30 | 2019-07-12 | 阿里巴巴集团控股有限公司 | 一种推荐模型的训练方法及装置、一种推荐方法及装置 |
CN110084670A (zh) * | 2019-04-15 | 2019-08-02 | 东北大学 | 一种基于lda-mlp的货架商品组合推荐方法 |
CN110162700A (zh) * | 2019-04-23 | 2019-08-23 | 腾讯科技(深圳)有限公司 | 信息推荐及模型的训练方法、装置、设备以及存储介质 |
CN110298725A (zh) * | 2019-05-24 | 2019-10-01 | 北京三快在线科技有限公司 | 商品组合的推荐方法、装置、电子设备及可读存储介质 |
EP3547155A1 (en) * | 2018-03-30 | 2019-10-02 | Microsoft Technology Licensing, LLC | Entity representation learning for improving digital content recommendations |
CN110457589A (zh) * | 2019-08-19 | 2019-11-15 | 上海新共赢信息科技有限公司 | 一种车辆推荐方法、装置、设备及存储介质 |
CN110599307A (zh) * | 2019-09-17 | 2019-12-20 | 北京三快在线科技有限公司 | 一种商品推荐的方法及装置 |
CN110599295A (zh) * | 2019-08-22 | 2019-12-20 | 阿里巴巴集团控股有限公司 | 物品的推送方法、装置及设备 |
CN110674406A (zh) * | 2019-09-29 | 2020-01-10 | 百度在线网络技术(北京)有限公司 | 推荐方法、装置、电子设备及存储介质 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6558765B2 (ja) * | 2014-12-18 | 2019-08-14 | インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation | 処理装置、処理方法、推測装置、推測方法、およびプログラム |
US10824941B2 (en) * | 2015-12-23 | 2020-11-03 | The Toronto-Dominion Bank | End-to-end deep collaborative filtering |
JP6250106B1 (ja) * | 2016-07-05 | 2017-12-20 | ヤフー株式会社 | 情報解析装置、情報解析方法、および情報解析プログラム |
JP2018063484A (ja) * | 2016-10-11 | 2018-04-19 | 凸版印刷株式会社 | ユーザ評価予測システム、ユーザ評価予測方法及びプログラム |
KR20180121466A (ko) * | 2017-04-06 | 2018-11-07 | 네이버 주식회사 | 딥러닝을 활용한 개인화 상품 추천 |
JP6744353B2 (ja) * | 2017-04-06 | 2020-08-19 | ネイバー コーポレーションNAVER Corporation | ディープラーニングを活用した個人化商品推薦 |
US11093992B2 (en) * | 2017-05-05 | 2021-08-17 | Reai Inc. | Smart matching for real estate transactions |
KR102061331B1 (ko) * | 2018-03-22 | 2019-12-31 | 네이버 주식회사 | 아이템 추천 방법 및 시스템 |
-
2020
- 2020-01-22 CN CN202010073347.4A patent/CN111259222B/zh active Active
-
2021
- 2021-01-19 US US17/152,562 patent/US20210224879A1/en active Pending
- 2021-01-20 EP EP21152576.1A patent/EP3855369A3/en not_active Withdrawn
- 2021-01-20 JP JP2021007184A patent/JP7135255B2/ja active Active
- 2021-01-21 KR KR1020210008893A patent/KR102476056B1/ko active IP Right Grant
Patent Citations (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105654329A (zh) * | 2015-01-22 | 2016-06-08 | 香港中文大学深圳研究院 | 一种整合性推荐方法及装置 |
CN106169150A (zh) * | 2016-06-29 | 2016-11-30 | 广州市香港科大霍英东研究院 | 基于用户兴趣预测的物品推荐方法和装置 |
CN107273438A (zh) * | 2017-05-24 | 2017-10-20 | 深圳大学 | 一种推荐方法、装置、设备及存储介质 |
CN107392644A (zh) * | 2017-06-19 | 2017-11-24 | 华南理工大学 | 一种商品购买预测建模方法 |
CN109903103A (zh) * | 2017-12-07 | 2019-06-18 | 华为技术有限公司 | 一种推荐物品的方法和装置 |
EP3547155A1 (en) * | 2018-03-30 | 2019-10-02 | Microsoft Technology Licensing, LLC | Entity representation learning for improving digital content recommendations |
CN109191240A (zh) * | 2018-08-14 | 2019-01-11 | 北京九狐时代智能科技有限公司 | 一种进行商品推荐的方法和装置 |
CN109191196A (zh) * | 2018-08-23 | 2019-01-11 | 深圳码隆科技有限公司 | 一种基于用户特征的商品推荐方法、装置和用户终端 |
CN109543066A (zh) * | 2018-10-31 | 2019-03-29 | 北京达佳互联信息技术有限公司 | 视频推荐方法、装置和计算机可读存储介质 |
CN109547814A (zh) * | 2018-12-13 | 2019-03-29 | 北京达佳互联信息技术有限公司 | 视频推荐方法、装置、服务器及存储介质 |
CN110008399A (zh) * | 2019-01-30 | 2019-07-12 | 阿里巴巴集团控股有限公司 | 一种推荐模型的训练方法及装置、一种推荐方法及装置 |
CN109993627A (zh) * | 2019-02-28 | 2019-07-09 | 华为技术有限公司 | 推荐方法、推荐模型的训练方法、装置和存储介质 |
CN110084670A (zh) * | 2019-04-15 | 2019-08-02 | 东北大学 | 一种基于lda-mlp的货架商品组合推荐方法 |
CN110162700A (zh) * | 2019-04-23 | 2019-08-23 | 腾讯科技(深圳)有限公司 | 信息推荐及模型的训练方法、装置、设备以及存储介质 |
CN110298725A (zh) * | 2019-05-24 | 2019-10-01 | 北京三快在线科技有限公司 | 商品组合的推荐方法、装置、电子设备及可读存储介质 |
CN110457589A (zh) * | 2019-08-19 | 2019-11-15 | 上海新共赢信息科技有限公司 | 一种车辆推荐方法、装置、设备及存储介质 |
CN110599295A (zh) * | 2019-08-22 | 2019-12-20 | 阿里巴巴集团控股有限公司 | 物品的推送方法、装置及设备 |
CN110599307A (zh) * | 2019-09-17 | 2019-12-20 | 北京三快在线科技有限公司 | 一种商品推荐的方法及装置 |
CN110674406A (zh) * | 2019-09-29 | 2020-01-10 | 百度在线网络技术(北京)有限公司 | 推荐方法、装置、电子设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
基于IPTV的个性化推荐技术的研究;耿小芬;《今传媒》;20170605(第06期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
KR20210095579A (ko) | 2021-08-02 |
EP3855369A2 (en) | 2021-07-28 |
US20210224879A1 (en) | 2021-07-22 |
JP7135255B2 (ja) | 2022-09-13 |
KR102476056B1 (ko) | 2022-12-08 |
CN111259222A (zh) | 2020-06-09 |
JP2021118000A (ja) | 2021-08-10 |
EP3855369A3 (en) | 2022-01-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111259222B (zh) | 物品推荐方法、系统、电子设备及存储介质 | |
CN111144577B (zh) | 异构图之中节点表示的生成方法、装置和电子设备 | |
CN111311321B (zh) | 用户消费行为预测模型训练方法、装置、设备及存储介质 | |
CN111582479B (zh) | 神经网络模型的蒸馏方法和装置 | |
CN111667056B (zh) | 用于搜索模型结构的方法和装置 | |
CN111738414A (zh) | 推荐模型的生成、内容推荐方法、装置、设备和介质 | |
CN112632403B (zh) | 推荐模型的训练方法、推荐方法、装置、设备和介质 | |
CN111737954B (zh) | 文本相似度确定方法、装置、设备和介质 | |
CN111460384B (zh) | 策略的评估方法、装置和设备 | |
CA2953775A1 (en) | Systems and methods for serving product recommendations | |
CN112148975A (zh) | 会话推荐方法、装置及设备 | |
CN110020877A (zh) | 点击率的预测方法、点击率的确定方法及服务器 | |
CN112288483A (zh) | 用于训练模型的方法和装置、用于生成信息的方法和装置 | |
CN108647064A (zh) | 操作路径导航的方法及装置 | |
CN112380104A (zh) | 用户属性识别方法、装置、电子设备及存储介质 | |
CN112819497B (zh) | 转化率预测方法、装置、设备和存储介质 | |
CN113869377A (zh) | 训练方法、装置及电子设备 | |
CN111311000B (zh) | 用户消费行为预测模型训练方法、装置、设备及存储介质 | |
CN112084410B (zh) | 文档类型的推荐方法、装置、电子设备及可读存储介质 | |
CN111652673B (zh) | 智能推荐方法、装置、服务器和存储介质 | |
CN113763072B (zh) | 用于分析信息的方法和装置 | |
CN112541145B (zh) | 一种页面展现方法、装置、设备及存储介质 | |
CN113656689B (zh) | 模型生成方法和网络信息的推送方法 | |
CN111625710B (zh) | 推荐内容的处理方法、装置、电子设备及可读存储介质 | |
CN111475721B (zh) | 信息推送方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |