CN116150465A - 投放信息的确定方法及相关设备 - Google Patents
投放信息的确定方法及相关设备 Download PDFInfo
- Publication number
- CN116150465A CN116150465A CN202111367237.XA CN202111367237A CN116150465A CN 116150465 A CN116150465 A CN 116150465A CN 202111367237 A CN202111367237 A CN 202111367237A CN 116150465 A CN116150465 A CN 116150465A
- Authority
- CN
- China
- Prior art keywords
- merchant
- user
- candidate
- features
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9536—Search customisation based on social or collaborative filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本申请涉及人工智能技术领域,公开了一种投放信息的确定方法及相关设备,该包括:由第一图注意力网络输出目标用户相对于候选商家的第一用户特征;由第二图注意力网络输出候选商家相对于目标用户的第一商家特征;由对偶注意力网络根据互动关系图,确定目标用户的第二用户特征和候选商家的第二商家特征;由互动预测网络根据目标用户的全局用户特征和候选商家的全局商家特征,输出目标用户相对于候选商家的互动概率;根据目标用户相对于候选商家的互动概率在多个候选商家中进行筛选,确定目标商家,以将目标商家的投放信息确定为向目标用户待投放的待投放信息;本方案可以提高用户获取投放信息的效率。
Description
技术领域
本申请涉及人工智能技术领域,更具体地,涉及一种投放信息的确定方法、及相关设备。
背景技术
随着互联网技术的发展,互联网逐渐成为信息传递的重要途径,但是,由于互联网中各种信息种类繁多且信息的数据量大,用户若想要获取得到所需要的信息,可能需要与服务端进行多次交互,然后多次进行信息筛选才能从海量的信息中查找到用户所需要或者感信息兴趣的信息。由于用户需要与服务端进行多次交互才能获得所需要或者感信息兴趣的信息,因此,相关技术中存在用户获取信息的效率低的问题。
发明内容
鉴于上述问题,本申请实施例提出了一种投放信息的确定方法、及相关设备,以改善上述问题。
根据本申请实施例的一个方面,提供了一种投放信息的确定方法,包括:由第一图注意力网络根据目标用户的好友关系图和候选商家的商家嵌入特征,输出所述目标用户相对于所述候选商家的第一用户特征;由第二图注意力网络根据所述候选商家的邻居商家关系图、各邻居商家与所述候选商家之间的距离和所述目标用户的用户嵌入特征,输出所述候选商家相对于所述目标用户的第一商家特征;由对偶注意力网络根据互动关系图,确定所述目标用户的第二用户特征和所述候选商家的第二商家特征,所述互动关系图是根据用户对商家触发的互动行为构建的;将目标用户的用户嵌入特征、第一用户特征和第二用户特征进行融合,得到所述目标用户的全局用户特征;将所述候选商家的商家嵌入特征、第一商家特征和第二商家特征进行融合,得到所述候选商家的全局商家特征;由互动预测网络根据所述目标用户的全局用户特征和所述候选商家的全局商家特征,输出所述目标用户相对于所述候选商家的互动概率;根据所述目标用户相对于所述候选商家的互动概率在多个候选商家中进行筛选,确定目标商家,以将所述目标商家的投放信息确定为向所述目标用户待投放的待投放信息。
根据本申请实施例的一个方面,提供了一种投放信息的确定装置,包括:第一用户特征确定模块,用于由第一图注意力网络根据目标用户的好友关系图和候选商家的商家嵌入特征,输出所述目标用户相对于所述候选商家的第一用户特征;第一商家特征确定模块,用于由第二图注意力网络根据所述候选商家的邻居商家关系图、各邻居商家与所述候选商家之间的距离和所述目标用户的用户嵌入特征,输出所述候选商家相对于所述目标用户的第一商家特征;第二特征确定模块,用于由对偶注意力网络根据互动关系图,确定所述目标用户的第二用户特征和所述候选商家的第二商家特征,所述互动关系图是根据用户对商家触发的互动行为构建的;全局用户特征确定模块,用于将目标用户的用户嵌入特征、第一用户特征和第二用户特征进行融合,得到所述目标用户的全局用户特征;全局商家特征确定模块,用于将所述候选商家的商家嵌入特征、第一商家特征和第二商家特征进行融合,得到所述候选商家的全局商家特征;互动概率确定模块,用于由互动预测网络根据所述目标用户的全局用户特征和所述候选商家的全局商家特征,输出所述目标用户相对于所述候选商家的互动概率;目标商家确定模块,用于根据所述目标用户相对于所述候选商家的互动概率在多个候选商家中进行筛选,确定目标商家,以将所述目标商家的投放信息确定为向所述目标用户待投放的待投放信息。
在一些实施例中,所述第一图注意力网络包括第一编码层、第一注意力层和第一线性层;第一用户特征确定模块,包括:好友编码特征确定单元,用于由所述第一编码层将所述目标用户的好友关系图中的好友进行编码,得到各所述好友的好友编码特征;好友影响权重确定单元,用于由所述第一注意力层根据各所述好友的好友编码特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行注意力计算,得到各好友针对所述目标用户对所述候选商家触发互动行为的好友影响权重;第一线性加权单元,用于由所述第一线性层根据各所述好友对应的好友影响权重和各好友的好友编码特征进行线性加权,得到所述目标用户相对于所述候选商家的第一用户特征。
在一些实施例中,所述第一注意力层包括级联的第一拼接层、第一多层感知机和归一化层;好友影响权重确定单元,包括:第一拼接单元,用于由所述第一拼接层将所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征分别与各所述好友的好友编码特征进行拼接,得到各所述好友对应的拼接特征;初始好友影响权重确定单元,用于由所述第一多层感知机根据各所述好友对应的拼接特征进行处理,得到各所述好友的初始好友影响权重;第一归一化处理单元,用于由所述归一化层对各所述好友的初始好友影响权重进行归一化处理,得到各好友针对所述目标用户对所述候选商家触发互动行为的好友影响权重。
在一些实施例中,所述第二图注意力网络包括第二编码层、第二注意力层和第二线性层;第一商家特征确定模块,包括:邻居编码特征确定单元,用于由所述第二编码层对所述候选商家的邻居商家关系图中各邻居商家进行编码,得到各邻居商家的邻居编码特征;邻居影响权重确定单元,用于由所述第二注意力层根据各邻居商家的邻居编码特征、各邻居商家与所述候选商家之间的距离、所述候选商家的商家嵌入特征和所述目标用户的用户嵌入特征,进行注意力计算,得到各所述邻居商家针对所述目标用户对所述候选商家触发互动行为的邻居影响权重;第二线性加权单元,用于由所述第二线性层根据各所述邻居商家对应的邻居影响权重和各所述邻居商家的邻居编码特征进行线性加权,得到所述候选商家相对于所述目标用户的第一商家特征。
在一些实施例中,所述对偶注意力网络包括第三编码层、第三注意力网络和第四注意力网络;第二特征确定模块,包括:编码单元,用于由所述第三编码层分别对所述互动关系图中的用户和所述互动关系图中的商家进行编码,得到所述互动关系图中各商家的商家编码特征和各用户的用户编码特征;第二商家特征确定单元,用于由所述第三注意力网络根据互动关系图中各商家的商家编码特征、各用户的用户编码特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行处理,得到所述候选商家的第二商家特征;第二用户特征确定单元,用于由所述第四注意力网络根据所述互动关系图中各用户的用户编码特征、所述候选商家的第二商家特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行处理,得到所述目标用户的第二用户特征。
在一些实施例中,所述第三注意力网络包括池化层、第三注意力层和第三线性层;第二商家特征确定单元,包括:池化处理单元,用于由所述池化层根据所述互动关系图中全部用户的用户编码特征进行池化处理,得到中间用户特征;商家权重确定单元,用于由所述第三注意力层根据所述中间用户特征、所述互动关系图中各商家的商家编码特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行注意力计算,得到所述互动关系图中各商家的商家权重,所述商家权重是指所对应商家针对所述目标用户对所述候选商家触发互动行为的权重;第三线性加权单元,用于由所述第三线性层根据所述互动关系图中各商家的商家权重和各商家的商家编码特征进行线性加权,得到所述候选商家的第二商家特征。
在一些实施例中,所述第四注意力网络包括第四注意力层和第四线性层;第二用户特征确定单元,包括:用户权重确定单元,用于由所述第四注意力层根据所述互动关系图中各用户的用户编码特征、所述候选商家的第二商家特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行注意力计算,得到所述互动关系图中各用户的用户权重;所述用户权重是指所对应用户针对目标用户对所述候选商家触发互动行为的权重;第四线性加权单元,用于由所述第四线性层根据所述互动关系图中各用户的用户权重和各用户的用户编码特征进行线性加权,得到所述目标用户的第二用户特征。
在一些实施例中,所述互动预测网络包括第二拼接层、第二多层感知机和分类层;互动概率确定模块,包括:第二拼接单元,用于由所述第二拼接层将所述目标用户的全局用户特征和所述候选商家的全局商家特征进行拼接,得到目标拼接特征;互动得分确定单元,用于由所述多层感知机对所述目标拼接特征进行变换,得到所述目标用户对所述候选商家的互动得分;互动概率确定单元,用于由所述分类层对所述互动得分进行归一化处理,得到目标用户对所述候选商家的互动概率。
在一些实施例中,投放信息的确定装置还包括:训练数据获取模块,用于获取训练数据,所述训练数据包括多个训练样本,所述训练样本指示了样本用户、样本商家和样本标签,所述样本标签用于指示所述样本用户是否对所述样本商家触发互动行为;第一输出模块,用于由所述第一图注意力网络根据样本用户的好友关系图和样本商家的商家嵌入特征,输出所述样本用户相对于所述样本商家的第一用户特征;第二输出模块,用于由所述第二图注意力网络根据所述样本商家的邻居商家关系图、各邻居商家与所述样本商家之间的距离和所述样本用户的用户嵌入特征,输出所述样本商家相对于所述样本用户的第一商家特征;特征确定模块,用于由所述对偶注意力网络根据样本互动关系图,确定所述样本用户的第二用户特征和所述样本商家的第二商家特征;第一融合模块,用于将所述样本用户的用户嵌入特征、第一用户特征和第二用户特征进行融合,得到所述样本用户的全局用户特征;第二融合模块,用于将所述样本商家的商家嵌入特征、第一商家特征和第二商家特征进行融合,得到所述样本商家的全局商家特征;第三输出模块,用于由互动预测网络根据所述样本用户的全局用户特征和所述样本商家的全局商家特征,输出所述样本用户对所述样本商家的互动概率;损失值计算模块,用于根据所述样本用户对所述样本商家的互动概率和所述样本标签,计算损失函数的损失值;反向调整模块,用于根据所述损失值反向调整所述第一图注意力网络、所述第二图注意力网络、所述对偶注意力网络和互动预测网络的参数,直至达到训练结束条件。
在一些实施例中,投放信息的确定装置还包括:距离计算模块,用于计算所述候选商家与其他商家之间的距离;筛选模块,用于根据所述候选商家与其他商家之间的距离,筛选出距离所述候选商家最近的前第一数量个商家,作为所述候选商家的邻居商家;邻居商家关系图构建模块,用于根据所述候选商家的邻居商家构建所述候选商家的邻居商家关系图。
在一些实施例中,投放信息的确定装置还包括:第一被互动记录获取模块,用于获取各商家的被互动记录;互动关系图构建模块,用于根据所述被互动记录中具有互动关系的商家和用户,构建所述互动关系图。
在一些实施例中,投放信息的确定装置还包括:第二被互动记录获取模块,用于获取指定商家的被互动记录;参考商家确定模块,用于若根据所述指定商家的被互动记录确定所述指定商家的被互动次数小于设定的次数阈值,选取所述指定商家的第二数量个邻居商家作为参考商家;用户得分确定模块,用于根据参考用户集合中各参考用户对每一所述参考商家的互动概率,计算各参考用户对应的用户得分;所述参考用户是指对所述参考商家的互动概率超过概率阈值的用户;目标参考用户确定模块,用于根据各参考用户对应的用户得分,从所述参考用户集合中筛选用户得分最高的第三数量个参考用户,作为目标参考用户;发送模块,用于若接收到所述目标参考用户发起的信息请求,向所述目标参考用户返回所述指定商家的投放信息。
根据本申请实施例的一个方面,提供了一种电子设备,包括:处理器;存储器,所述存储器上存储有计算机可读指令,所述计算机可读指令被所述处理器执行时,实现如上所述投放信息的确定方法。
根据本申请实施例的一个方面,提供了一种计算机可读存储介质,其上存储有计算机可读指令,当所述计算机可读指令被处理器执行时,实现如上所述投放信息的确定方法。
根据本申请实施例的一个方面,提供了一种计算机程序产品,包括计算机指令,所述计算机指令被处理器执行时实现如上所述投放信息的确定方法。
在本申请中,由第一图注意力网络根据目标用户的好友关系图确定目标用户在好友影响下的第一用户特征,由第二图注意力网络根据候选商家的邻居商家关系图确定候选商家在邻居商家影响下的第一商家特征,由对偶注意力网络根据互动关系图确定目标用户的第二用户特征和候选商家的第二商家特征,综合目标用户的第一用户特征、第二用户特征和用户嵌入特征所得到目标用户的全局用户特征可以反映了目标用户在多个维度下的用户特征,所表达的用户特征更准确和全面;同理,综合候选商家的第一商家特征、第二商家特征和商家嵌入特征所得到候选商家的全局商家特征反映了候选商家在多个维度下的商家特征,所表达的商家特征更准确和全面;在此基础上,根据目标用户的全局用户特征和候选商家的全局商家特征所预测目标用户对候选商家的互动概率,可以保证所预测到互动概率的准确性。
由于互动概率反映了目标用户对候选商家感兴趣的概率,从而基于互动概率来进行候选商家筛选并确定目标商家,可以保证所确定目标商家与目标用户之间的匹配性,进而保证目标商家的投放信息与目标用户之间的匹配性,因此,将目标商家的投放信息作为向目标用户待投放的待投放信息,对于用户来说,目标商家的投放信息是目标用户所需要的信息的概率较高,从而,用户不需要多次反复进行信息请求或者多次反复修正检索词就能获取到所需要的信息,可以有效提高用户获取信息的效率。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1A是根据一实施例示出的好友关系图的示意图。
图1B是根据一实施例示出的邻居商家关系图的示意图。
图1C是根据一实施例示出的互动关系图的示意图。
图2是根据本申请一实施例示出的投放信息的确定方法的应用场景的示意图。
图3是根据本申请的一个实施例示出的投放信息的确定方法的流程图。
图4是根据本申请一实施例示出预测互动概率的流程图。
图5是根据本申请一实施例示出的步骤310的流程图。
图6是根据本申请一实施例示出的步骤320的流程图。
图7是根据本申请一实施例示出的步骤330的流程图。
图8是根据本申请一实施例示出的对偶注意力网络确定候选商家的第二商家特征和目标用户的第二用户特征的示意图。
图9是根据本申请另一实施例示出的投放信息的确定方法的流程图。
图10是根据本申请另一实施例示出的投放信息的确定方法的流程图。
图11是根据本申请一具体实施例示出的投放信息的确定方法的流程图。
图12是根据本申请一实施例示出的投放信息的确定装置的框图。
图13示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本申请将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本申请的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本申请的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本申请的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
需要说明的是:在本文中提及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。
可以理解的是,在本申请的具体实施方式中,涉及到用户的好友关系、用户访问商家的记录等相关数据,当本申请的实施例运用到具体产品或技术中时,需要获得用户许可或者同意,且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。
在对本申请的方案进行具体说明之前,对涉及的术语进行如下解释:
图注意力网络(Graph Attention networks,GAT):是指将注意力机制(Attentionmechanism)和图神经网络(Graph Neural Network,GNN)相结合起来的神经网络。图神经网络主要用于处理图结构数据,图结构数据是一种由若干个节点(Node)及连接两个节点的边(Edge)构成的数据结构,图结构数据用于刻画不同节点之间的关系,图结构数据例如社交网络、知识图谱、复杂的文件系统、下文中的好友关系图、邻居商家关系图以及互动关系图等。
图注意力网络在聚合图结构数据中的节点信息时,使用注意机制对邻居节点分配对当前的目标节点的重要性权重,然后根据各邻居节点对目标节点的重要性权重来聚合当前的目标节点的特征表示和邻居节点的特征表示,得到目标节点的最终特征表示。
对偶注意力网络(Dual Attention Networks,DAN):是指能够协同学习二重上下文信息的影响,并根据每一重上下文信息来分别分配注意力权重,从而,挖掘节点在双重上下文信息的相互影响下的特征。例如本申请中的互动关系图,其中包括表示用户的用户节点和表示商家的商家节点,而互动关系图中任一节点的特征表示不仅会受该节点所相邻的用户节点的影响,而且会受该节点所相邻的商家节点的影响,其中,节点所相邻的用户节点对该节点的影响可以视为一重上下文信息的影响,而节点所相邻的商家节点对该节点的影响可以视为另一重上下文信息的影响。在本方案中,通过对偶注意力网络来提取节点在互动关系图中受商家节点和用户节点的双重上下文信息的相互影响下的特征。在具体实施例中,对偶注意力网络可以包括两个图注意网络,从而,一个图注意力网络用于关注一重上下文信息作用下的特征。
好友关系图:是根据用户与用户之间的好友关系构建的关系图,好友关系图中的一个节点表示一个用户Pi,连接相邻两节点的边(Pi,Pj)表示用户Pi和用户Pj互为好友关系。其中,好友关系图中所表示互为好友关系的两个用户可以是在同一应用程序下具有好友关系的两个用户,也可以是在不同应用程序下具有好友关系的两个用户。图1A是根据一实施例示出的好友关系图的示意图,如图1A所示,用户P1和用户P2、用户P1和用户P3、用户P1和用户P4、用户P2和用户P3具有好友关系。
邻居商家关系图:是指根据商家与商家之间的距离构建的关系网,其中,邻居商家关系图中的一个节点表示一个商家va,连接相邻两节点的边(Sa,Sb)表示商家Sb是距离商家Sa最近的k个商家之一,其中,k为正整数,k可以根据实际需要进行设定,例如可以设定k为30等,图1B示例性示出了的邻居商家关系图的示意图。
互动关系图:是根据用户对商家触发的互动行为构建的用户与商家之间的关系图,用户对商家触发的互动行为可以是用户访问过商家的商家页面,用户到访过商家、用户在商家购买过商品、用户对商家进行了评论、用户点赞或收藏商家的页面、用户进入过商家的直播间等,在此不进行具体限定。互动关系图中的节点包括表示用户的用户节点和表示商家的商家节点,互动关系图中的边连接用户节点和商家节点,一条边(Pi,Sj)表示用户Pi对商家Sj触发了互动行为,图1C示例性示出了互动关系图的示意图。
人群定向:商家(又称兴趣点POI,Point of Interest)在投放广告之前,需要在投放端圈定定向人群作为定向条件,该圈定定向人群的过程即为人群定向。
相关技术中,随着互联网技术的发展,互联网逐渐成为信息传递的重要途径,但是,由于互联网中各种信息种类繁多且信息的数据量大,用户在进行信息搜索的过程中可能需要与服务端进行多次交互,然后多次进行信息筛选才能从海量的信息中查找到用户所需要或者感信息兴趣的信息。由于用户需要与服务端进行多次交互才能获得所需要或者感信息兴趣的信息,因此,相关技术中存在用户获取信息的效率低的问题。在本申请中,结合人工智能技术中的深度学习技术来解决该问题。
人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
图2是根据本申请一实施例示出的投放信息的确定方法的应用场景的示意图,如图2所示,该应用场景包括终端210、信息投放平台220。终端210可以通过有线或者无线网络与信息投放平台220建立通信连接。
终端210可以是智能手机、平板电脑、笔记本电脑、台式电脑、智能音响、车载终端、智能电视以及其他可以进行交互的电子设备,在此不进行具体限定。
信息投放平台220可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN(Content Delivery Network,内容分发网络)、以及大数据和人工智能平台等基础云计算服务的云服务器。
信息投放平台220可以按照本申请的方法,在构建各用户的好友关系图、商家的邻居商家关系图和基于商家的被互动记录构建互动关系图,并部署第一注意力网络、第二注意力网络和对偶注意力网络,进而,由第一注意力网络根据好友关系图确定目标用户的第一用户特征,由第二注意力网络根据邻居商家关系图确定候选商家的第一商家特征,由对偶注意力网络根据互动关系图确定目标用户的第二用户特征和候选商家的第二商家特征,进而根据目标用户的用户嵌入特征、第一用户特征、第二用户特征,以及候选商家的商家嵌入特征、第一商家特征和第二商家特征进行互动概率预测,得到目标用户对候选商家触发互动行为的互动概率;之后,根据目标用户对候选商家的互动概率为用户筛选确定目标商家。
信息投放平台220可以将目标用户的用户标识与为目标用户所确定的目标商家的商家标识关联存储。从而,在接收终端210发起的信息请求后,信息投放平台220获取信息请求携带的用户标识,并确定与该用户标识相关联存储的商家标识,进而将所确定商家标识所指示商家的投放信息发送到终端210。
商家的投放信息可以是商家的介绍信息(例如介绍文本、介绍视频等)、商家的页面、商家的广告等在此不进行具体限定。终端210在检测到被触发的信息获取操作后,向信息投放平台220发送信息请求,信息获取操作例如页面刷新操作、打开指定页面的操作、视频播放操作等,在此不进行具体限定。
信息投放平台220还可以与商家平台通信连接,从而,信息投放平台220可以从商家平台获取到各商家的投放信息。商家平台可以是网络外卖平台、网络打车平台、网络购物平台、在线票务服务平台或综合生活服务平台,综合生活服务平台是用于提供美食、电影、美容、美甲、运动等多种类型的服务的商家平台。
在一些实施例中,还可以将商家平台作为信息投放平台220,从而,商家平台可以用于执行本申请的方法。
在一些实施例中,信息投放平台220可以是广告投放平台,对应的,商家的投放信息可以是商家的广告。
值得一提的是,本申请的方法不限于由信息投放平台220执行,还可以由具备足够计算处理能力的终端210执行,还可以由信息投放平台220和终端210共同执行。
以下对本申请实施例的技术方案的实现细节进行详细阐述:
图3是根据本申请的一个实施例示出的投放信息的确定方法的流程图,该方法可以由具备处理能力的计算机设备执行,例如服务器等,在此不进行具体限定。参照图3所示,该方法至少包括步骤310至370,详细介绍如下:
步骤310,由第一图注意力网络根据目标用户的好友关系图和候选商家的商家嵌入特征,输出目标用户相对于候选商家的第一用户特征。
目标用户泛指待确定投放信息的用户,目标用户的好友关系图指示了与目标用户具有好友关系的其他用户。
在本申请的方案中,投放信息可以是商家的商家页面(例如商家的商品页面、商家的介绍页面)、商家的推送文章、商家的广告等。投放信息所相关联的商家可以视为本申请中的候选商家。
在一些实施例中,为了保证投放信息的质量,可以预先进行商家筛选,将筛选出来的商家作为本申请中的候选商家。在实际中,商家的被互动次数可以在一定程度上反映商家的综合质量(例如商家的服务质量、商家的商品质量等),因此,可以根据商家的被互动次数来进行商家筛选,例如将被互动次数大于第一次数阈值的商家作为本申请中的候选商家。
商家的被互动次数可以根据商家的被互动记录来进行统计得到,商家的被互动记录是指商家的投放信息在被用户触发互动行为后所生成的记录,用户对商家触发的互动行为可以是用户点击商家的投放信息(例如点击商家的广告、点击商家的商家页面)的行为、用户收藏商家的行为、用户收藏商家的投放信息的行为、用户在商家下单的行为、用户点赞商家的评论信息的行为等。
第一图注意力网络是指用于挖掘在好友关系图来目标用户的用户特征的图注意力网络。对应的,将第一图注意力网络为目标用户所确定的用户特征称为目标用户的第一用户特征。第一图注意力网络中所设置的注意力机制可以是单头注意力机制,也可以是多头注意力机制,在此不进行具体限定。
在本申请的一些实施例中,在步骤310之前,该方法还包括:获取目标用户的好友信息;根据目标用户的好友信息构建目标用户的好友关系图。其中,可以获得目标用户的授权之后,请求目标用户的好友通讯录,对应获得目标用户的好友信息。
如上所描述,图注意力网络在处理图结构数据的过程中,先对图结构数据中待处理节点(为便于描述,称为目标节点)的相邻节点分配权重,然后再将目标节点的邻居节点的特征、对应的权重以及目标节点的特征进行聚合,得到目标节点的特征。具体在本申请中,第一图注意力在处理过程中也是先为目标用户的好友关系图中目标用户的好友分配权重,然后结合好友的权重和好友在好友图中的特征表示来进行特征聚合,以确定目标用户的第一用户特征。
在本申请的方案中,第一图注意力网络为目标用户的好友所分配的权重(即下文中的好友影响权重)用于指示好友针对目标用户对候选商家触发互动行为的影响权重。可以理解的是,候选商家不同,目标用户的好友针对目标用户对候选商家触发互动行为的影响权重也对应存在差异,因此,在本申请的方案中,将候选商家的商家嵌入特征也作为第一图注意力网络的输入之一,以使第一图注意力网络结合目标用户的好友以及候选商家的商家嵌入特征来综合确定目标用户在好友关系图中的特征表示,即目标用户的第一用户特征。
候选商家的商家嵌入特征是指根据候选商家的商家信息确定的商家特征,商家信息例如商家的名称、商家提供的商品或者服务、商家所提供商品或服务所属的行业、商家的门牌号、商家的位置等,在此不进行具体限定。可以理解的是,在本申请中,由于候选商家的商家嵌入特征是根据候选商家的商家信息确定的,因此,候选商家的商家嵌入特征是与候选商家的上下文信息无关的特征,候选商家的上下文信息例如在邻居商家关系图中候选商家的邻居商家和/或互动关系图中候选商家所相邻的用户或者商家。
在一些实施例中,可以是对候选商家的商家基本信息进行初始化得到候选商家的商家嵌入特征;在另一些实施例中,还可以是通过对商家的商家信息进行编码得到商家嵌入特征,例如,将商家信息进行独热编码得到商家嵌入特征,在其他实施例中,还可以借助于其他编码器网络来对商家的商家信息进行编码,在此不进行具体限定。
步骤320,由第二图注意力网络根据候选商家的邻居商家关系图、各邻居商家与候选商家之间的距离和目标用户的用户嵌入特征,输出候选商家相对于目标用户的第一商家特征。
第二图注意力网络是指用于根据候选商家的邻居商家关系图确定商家特征的图注意力网络。对应的,将第二图注意力网络为候选商家所确定的商家特征称为候选商家的第一商家特征。同第一图注意力网络,第二图注意力网络中的注意力机制可以是单头注意力层,也可以是多层注意层。
在确定候选商家的第二商家特征的过程中,第二图注意力网络先为候选商家的邻居商家关系图中的各邻居商家分配权重(即下文中的邻居影响权重),然后聚合邻居商家的权重和邻居商家的特征表示来确定候选商家的第二商家特征。
第二图注意力网络为候选商家的各邻居商家分配的权重用于指示邻居商家针对目标用户对候选商家触发互动行为的影响权重,由于不同的目标用户的需求或者偏好存在差异,因此,目标用户不同,各邻居商家针对目标用户对候选商家触发互动行为的影响权重对应是存在差异的,因此,在本申请中,将目标用户的用户嵌入特征也作为第二图注意力网络的输入之一。
目标用户的用户嵌入特征是指根据目标用户的用户基本信息确定的用户特征,用户基本信息例如用户的户籍地、用户的年龄、用户的标签信息、用户的昵称、用户的所在地等,在此不进行具体限定。可以理解的是,在本申请中,由于目标用户的用户嵌入特征是指根据目标用户的用户信息确定的,因此,目标用户的用户嵌入特征是与目标用户的上下文信息无关的特征,目标用户的上下文信息例如在好友关系图中目标用户的好友和/或在互动关系图中目标用户所相邻的用户或者商家等。
在一些实施例中,可以是通过对目标用户的用户基本信息进行编码得到目标用户的用户嵌入特征,例如,将用户基本信息进行独热编码得到用户嵌入特征,在其他实施例中,还可以借助于其他编码器网络来对用户基本信息进行编码,在此不进行具体限定。
在实际中,对于候选商家而言,邻居商家与候选商家之间的距离也会影响邻居商家针对目标用户对候选商家触发互动行为的影响权重。理论上,当其他因素相同的情况下,邻居商家距离候选商家越远,该邻居商家对目标用户对候选商家触发互动行为的影响权重越小。基于此,在本申请的方案中,将候选商家与各邻居商家的距离也作为第二图注意力网络的输入之一。从而,使第二图注意力网络为邻居商家所分配的权重(即下文中的邻居影响权重)同时参考了目标用户的特征、以及邻居商家与候选商家之间的距离。
在本申请的一些实施例中,步骤330之前,该方法还包括:计算候选商家与其他商家之间的距离;根据候选商家与其他商家之间的距离,筛选出距离候选商家最近的前第一数量个商家,作为候选商家的邻居商家;根据候选商家的邻居商家构建候选商家的邻居商家关系图。
第一数量可以根据实际需要进行设定,例如第一数量为30等。通过筛选出距离候选商家最近的前第一数量个商家作为候选商家的邻居商家,从而,在充分考虑邻居商家对候选商家的影响的基础上,可以减少数据处理量。
在另一些实施例中,还可以预先设定距离阈值,从而将距离候选商家的距离小于该距离阈值的商家作为候选商家的邻居商家,进而构建该候选商家的邻居商家关系图。
步骤330,由对偶注意力网络根据互动关系图,确定目标用户的第二用户特征和候选商家的第二商家特征,互动关系图是根据用户对商家触发的互动行为构建的。
如上所描述,互动关系图中的节点包括表示用户的用户节点和表示商家的商家节点,连接用户节点和商家节点的边表示该用户节点所指示的用户对该商家节点所表示的商家触发了互动行为。对于互动关系图中的节点,该节点的特征不仅受互动关系图中用户节点的特征的影响,也会受到该互动关系图中商家节点的特征的影响,因此,在本申请中,通过对偶注意力网络来根据互动关系图确定在互动关系图中的用户节点和商家节点的双重影响下目标用户的用户特征(即,目标用户的第二用户特征)和候选商家的商家特征(即候选商家的商家特征)。
在本申请中,互动关系图也是一种图结构数据,因此,该对偶注意力网络也可以是对偶图注意力网络。在一些实施例中,对偶注意力网络可以包括两个图注意力网络,其中一个图注意网络用于确定在互动关系图中用户节点和商家节点的双重作用下目标用户的第二用户特征,另一个图注意力网络用于确定在互动关系图中用户节点和商家节点的的双重作用下候选商家的第二商家特征。
在本申请的一些实施例中,步骤330之前,该方法还包括:获取各商家的被互动记录;根据被互动记录中具有互动关系的商家和用户,构建互动关系图。
商家的被互动记录指示了对该商家触发互动行为的用户标识,由此,基于该被互动记录,在互动关系图中确定表示该商家的商家节点,和确定表示该用户标识所指示用户的用户节点,并将所确定的商家节点和用户节点相连;对于各商家的每一互动记录重复该过程,可以对应构建互动关系图。
步骤340,将目标用户的用户嵌入特征、第一用户特征和第二用户特征进行融合,得到目标用户的全局用户特征。
在一些实施例中,可以是将目标用户的用户嵌入特征、第一用户特征和第二用户特征进行特征拼接,将拼接所得到的拼接用户特征作为目标用户的全局用户特征。
在一些实施例中,可以将目标用户的用户嵌入特征、第一用户特征和第二用户特征进行特征叠加,所得到的第一叠加结果作为目标用户的全局用户特征。例如,若目标用户Pi的用户嵌入特征为ui,目标用户Pi的第一用户特征为目标用户Pi的第二用户特征为/>则目标用户的全局用户特征uveci为:
在另一些实施例中,还可以针对用户嵌入特征、第一用户特征和第二用户特征分别设定加权系数,从而在叠加的过程中,按照设定的加权系数将用户嵌入特征、第一用户特征和第二用户特征进行线性加权,得到第一叠加结果。
在一些实施例中,还可以进一步通过第一融合网络将拼接用户特征(或者第一叠加结果)进行进一步融合,以提取深层特征,将所提取的深层特征作为目标用户的全局用户特征,其中,第一融合网络可以是通过全连接网络等构建的,在此不进行具体限定。
步骤350,将候选商家的商家嵌入特征、第一商家特征和第二商家特征进行融合,得到候选商家的全局商家特征。
在一些实施例中,可以是将候选商家的商家嵌入特征、第一商家特征和第二商家特征进行拼接,将拼接所得到的拼接商家特征作为候选商家的全局商家特征。
在一些实施例中,可以将候选商家的商家嵌入特征、第一商家特征和第二商家特征进行特征叠加,将叠加所得到的第二叠加结果作为目标用户的全局用户特征。举例来说,若候选商家Sj的商家嵌入特征为vj,候选商家Sj的第一商家特征候选商家Sj的第二商家特征为/>则候选商家Sj的全局商家特征vvecj为:
在另一些实施例中,还可以针对商家嵌入特征、第一商家特征和第二商家特征分别设定加权系数,从而在叠加的过程中,按照设定的加权系数,将商家嵌入特征、第一商家特征和第二商家特征进行线性加权,得到对应的第二叠加结果。
在一些实施例中,还可以进一步通过第二融合网络将拼接商家特征(或者第二叠加结果)进行进一步融合,以提取深层特征,将所提取的深层特征作为候选商家的全局商家特征,其中,第二融合网络可以是通过全连接网络等构建的,在此不进行具体限定。
步骤360,由互动预测网络根据目标用户的全局用户特征和候选商家的全局商家特征,输出目标用户相对于候选商家的互动概率。
目标用户相对于候选商家的互动概率是指目标用户对候选商家触发互动行为的概率。
互动预测网络是指用于预测互动概率的神经网络模型。在一些实施例中,互动预测网络可以包括一层或者多层全连接网络,通过该一层或者多层全连接网络来根据目标用户的全局用户特征和候选商家的全局商家特征进行非线性变换,然后由分类层进行分类输出目标用户相对于候选商家的互动概率。
在一些实施例中,互动预测网络包括第二拼接层、第二多层感知机和分类层;在本实施例中,步骤360,包括:由第二拼接层将目标用户的全局用户特征和候选商家的全局商家特征进行拼接,得到目标拼接特征;由多层感知机对目标拼接特征进行变换,得到目标用户对候选商家的互动得分;由分类层对互动得分进行归一化处理,得到目标用户对候选商家的互动概率。
多层感知机(Multi-layered Perceptron,MLP)是一个全连接的前馈神经网络,它包括一个输入层、一个输出层和在输入层与输出层之间的一层或多层的隐藏层,这些隐藏层可以视作非线性变换的叠加层,层层递进学习数据的非线性特征。在本申请中,为便于区分,将互动预测网络中的多层感知机称为第二多层感知机。其中,第二多层感知机中隐藏层的层数可根据实际需要设定。
在将目标拼接特征输入到第二多层感知机的输入层后,由第二多层感知机中的隐藏层根据该目标拼接特征逐层进行非线性变换,并由第二多层感知机中的输出层输出线性变换后所得到的非线性变换结果。之后,由分类层根据该非线性变换结果输出目标用户对候选商家的互动概率。在一些实施例中,分类层可以使用如下公式3的分类函数来进行分类,得到目标用户对候选商家的互动概率位于0~1这一范围内。
σ(x)=1/(1+e-x);(公式3)
其中,x为第二多层感知机所输出的非线性变换结果,σ(x)为互动概率。
步骤370,根据目标用户相对于候选商家的互动概率在多个候选商家中进行筛选,确定目标商家,以将目标商家的投放信息确定为向目标用户待投放的待投放信息。
可以理解的是,当候选商家为多个时,对于每一候选商家,重复上述的步骤310-360的过程,可以得到目标用户对每一候选商家的互动概率。
在一些实施例中,针对同一目标用户,当通过如上的步骤310-360得到该目标用户对多个候选商家中每一候选商家的互动频率后,可以按照设定的频率阈值来进行候选商家筛选,具体的,可以将互动频率高于频率阈值的候选商家确定为目标商家。所确定的目标商家的数量不限,可以是一个也可以是多个。
在另一些实施例中,还可以按照设定的商家数量来进行候选商家筛选,设定的商家数量例如为N,N为正整数,具体的,可以将互动频率最高的前N个候选商家确定为目标商家。
目标商家的投放信息可以是目标商家的商家链接、目标商家的介绍信息(例如商家的介绍文本、介绍视频等)、目标商家的广告等,在此不进行具体限定。
同理,当目标用户为多个时,对于每一目标用户,也按照上述的步骤310-360,得到每一目标用户对候选商家的互动概率。在该种情况下,还可以根据多个目标用户对同一候选商家的互动频率,为该候选商家进行目标用户筛选,将筛选出的目标用户作为候选商家的目标投放用户,具体筛选目标用户的过程与筛选候选商家的过程类似,在此不在赘述。在确定候选商家的一个或者多个目标投放用户后,可以将候选商家的投放信息向目标投放用户进行投放。
在一些实施例中,在为目标用户确定目标商家(在为目标商家确定目标投放用户)后,可以将目标用户的用户标识与目标商家的商家标识关联存储(或者目标商家的商家标识与目标投放用户的用户标识关联存储),从而,在接收到终端发起的信息请求后,可以根据信息请求携带的用户标识,确定所关联的商家标识,并将所确定商家标识对应的投放信息返回到信息请求的发起方。
图4是根据本申请一实施例示出预测互动概率的流程图,如图4所示,由第一图注意力网络根据好友关系图输出目标用户的第一用户特征,由对偶注意力网络根据互动关系图输出目标用户的第二用户特征和候选商家的第二商家特征,由第二图注意力网络根据候选商家的邻居商家关系图输出候选商家的第一商家特征;之后,根据目标用户的第一用户特征、用户嵌入特征和第二用户特征,确定目标用户的全局用户特征;并根据候选商家的第一商家特征、商家嵌入特征和第二商家特征确定候选商家的全局商家特征;之后,将目标用户的全局用户特征和候选商家的全局商家特征输入到第二多层感知机中进行非线性变换,进而由分类层输出目标用户对候选商家触发互动行为的互动概率,图4中的表示所预测到样本用户对样本商家的互动概率。
在本申请中,由第一图注意力网络根据目标用户的好友关系图确定目标用户在好友影响下的第一用户特征,由第二图注意力网络根据候选商家的邻居商家关系图确定候选商家在邻居商家影响下的第一商家特征,由对偶注意力网络根据互动关系图确定目标用户的第二用户特征和候选商家的第二商家特征,综合目标用户的第一用户特征、第二用户特征和用户嵌入特征所得到目标用户的全局用户特征可以反映了目标用户在多个维度下的用户特征,所表达的用户特征更准确和全面;同理,综合候选商家的第一商家特征、第二商家特征和商家嵌入特征所得到候选商家的全局商家特征反映了候选商家在多个维度下的商家特征,所表达的商家特征更准确和全面;在此基础上,根据目标用户的全局用户特征和候选商家的全局商家特征所预测目标用户对候选商家的互动概率,可以保证所预测到互动概率的准确性。
由于互动概率反映了目标用户对候选商家感兴趣的概率,从而基于互动概率来进行候选商家筛选并确定目标商家,可以保证所确定目标商家与目标用户之间的匹配性,进而保证目标商家的投放信息与目标用户之间的匹配性,因此,将目标商家的投放信息作为向目标用户待投放的待投放信息,对于用户来说,目标商家的投放信息是目标用户所需要的信息的概率较高,从而,用户不需要多次反复进行信息请求或者多次进行信息筛选就能获取到所需要的信息,可以有效提高用户获取信息的效率。
在本申请的一些实施例中,第一图注意力网络包括第一编码层、第一注意力层和第一线性层;如图5所示,步骤310,包括:
步骤510,由第一编码层将目标用户的好友关系图中的好友进行编码,得到各好友的好友编码特征。
好友编码特征是指由第一编码层对各好友进行编码所得到好友的特征表示。第一编码层根据目标好友的好友关系图,可以从中提取表示目标用户的好友的节点,从而对应将所提取表示好友的节点进行编码,得到该节点的好友编码特征。
步骤520,由第一注意力层根据各好友的好友编码特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行注意力计算,得到各好友针对目标用户对候选商家触发互动行为的好友影响权重。
在本申请中第一注意力层结合目标用户的用户嵌入特征和候选商家的商家嵌入特征与每一好友的好友编码特征来计算每一好友对应的好友影响权重。其中,第一注意力层可以是单头注意力层,也可以是多头注意层,在此不进行具体限定。
对于处于社交网络中的用户来说,好友的偏好或者社会活动在一定程度上会影响用户,因此,在本申请中,根据目标用户的好友关系图来确定在好友影响下目标用户的第二用户特征。
在本申请的一些实施例中,第一注意力层包括级联的第一拼接层、第一多层感知机和第一归一化层;步骤520,包括:由第一拼接层将目标用户的用户嵌入特征和候选商家的商家嵌入特征分别与各好友的好友编码特征进行拼接,得到各好友对应的拼接特征;由第一多层感知机根据各好友对应的拼接特征进行处理,得到各好友的初始好友影响权重;由第一归一化层对各好友的初始好友影响权重进行归一化处理,得到各好友针对目标用户对候选商家触发互动行为的好友影响权重。
举例来说,若目标用户Pi的用户嵌入特征为ui,候选商家Sj的商家嵌入特征为vj,若目标用户Pi的好友关系图中包括目标用户Pi的|Fi|个好友,向量集中的各元素分别表示目标用户Pi的一个好友的好友编码特征,即目标用户Pi的第k个好友Pi,k的好友编码特征为fi,k;候选商家Sj的商家嵌入特征为vj,则第一拼接层可以得到目标用户Pi的第k个好友Pi,k对应的拼接特征Ak为:
Ak=[fi,k;ui;vj]; (公式4)
第一多层感知机所得到目标用户Pi的第k个好友Pi,k的初始好友影响权重a(i,k)为:
第一归一化层可以按照如下的公式进行归一化,得到目标用户Pi的第k个好友Pi,k的好友影响权重α(i,k):
步骤530,由第一线性层根据各好友对应的好友影响权重和各好友的好友编码特征进行线性加权,得到目标用户相对于候选商家的第一用户特征。
具体的,以好友对应的好友影响权重作为加权系数,对目标用户的全部好友的好友编码特征进行线性加权,得到目标用户相对于候选商家的第一用户特征。
通过如上步骤510-530实现了结合目标用户的各好友针对目标用户对候选商家触发互动行为的好友影响权重和各好友的好友编码特征来确定目标用户的第一用户特征。
在本申请的一些实施例中,第二图注意力网络包括第二编码层、第二注意力层和第二线性层;如图6所示,步骤320,包括:
步骤610,由第二编码层对候选商家的邻居商家关系图中各邻居商家进行编码,得到各邻居商家的邻居编码特征。
邻居编码特征是指由第二编码层对候选商家的各邻居商家进行编码所得到邻居商家的特征表示。第二编码层根据候选商家的邻居商家关系图,可以从中提取表示候选商家的邻居商家的节点,从而对应将所提取的节点进行编码,得到该节点的邻居编码特征。
步骤620,由第二注意力层根据各邻居商家的邻居编码特征、各邻居商家与候选商家之间的距离、候选商家的商家嵌入特征和目标用户的用户嵌入特征,进行注意力计算,得到各邻居商家针对目标用户对候选商家触发互动行为的邻居影响权重。
同第一注意力层,第二注意力层可以是单头注意力层,也可以是多头注意层,在此不进行具体限定。
对于用户来说,一商家的邻居商家对用户是否对该商家触发互动行为存在一定的影响,在本方案中,结合候选商家的邻居商家关系图来计算邻居商家针对用户对该候选商家触发互动行为邻居影响权重,进而确定在邻居商家影响下候选商家的第一商家特征。
在一些实施例中,第二注意力层包括第二拼接层、第三多层感知机、和第二归一化层,在该实施例中,步骤620进一步包括:由第二拼接层将候选商家的商家嵌入特征和目标用户的用户嵌入特征与每一邻居商家的邻居编码特征和每一邻居商家对应的距离特征进行拼接,得到各邻居商家对应的邻居商家拼接特征;其中,邻居商家对应的距离特征是根据邻居商家与候选商家之间的距离确定的;由第二多层感知机根据各邻居商家对应的邻居商家拼接特征进行处理,得到各邻居商家对应的初始邻居影响权重;由第二归一化层对各邻居商家对应的初始商家影响权重进行归一化处理,得到各邻居商家针对目标用户对候选商家触发互动行为的邻居影响权重。
步骤630,由第二线性层根据各邻居商家对应的邻居影响权重和各邻居商家的邻居编码特征进行线性加权,得到候选商家相对于目标用户的第一商家特征。
继续上文的举例,若候选商家Sj的邻居商家关系图包括候选商家Sj的|Lj|个邻居商家,候选商家Sj的第k个邻居商家Sj,k的邻居编码特征为lj,k,使用向量集合表示候选商家Sj的|Lj|个邻居商家的邻居编码特征的集合。
先按照下述公式8计算候选商家Sj的第k个邻居商家Sj,k对应的距离特征g(j,k):
g(j,k)=1/(0.5+d(Sj,Sj,k); (公式8)
其中,d(Sj,Sj,k)表示候选商家Sj的第k个邻居商家Sj,k与候选商家Sj之间的距离。
第二拼接层按照如下公式9得到候选商家Sj的第k个邻居商家Sj,k对应的拼接特征Bj,k:
Bj,k=[lj,k;vj;ui;g(j,k)]; (公式9)
第三多层感知机按照如下公式10输出候选商家Sj的第k个邻居商家Sj,k对应的初始邻居影响权重b(j,k)为:
第二归一化层按照如下的公式11输出候选商家Sj的第k个邻居商家Sj,k对应的邻居影响权重β(j,k):
通过如上步骤610-630实现了结合候选商家的各邻居商家针对目标用户对候选商家触发互动行为的邻居影响权重和各邻居商家的邻居编码特征来确定在邻居商家影响下候选商家的第一商家特征。
在本方案中,第一图注意力网络计算好友影响权重和第二图注意力网络计算邻居影响权重不仅使用了目标用户的上下文无关的特征(即用户嵌入特征)、候选商家的上下文无关的特征(即商家嵌入特征),所以这种权重计算方式可以称为上下文注意力网络(context-aware attention network)的计算方法。
在本申请的一些实施例中,对偶注意力网络包括第三编码层、第三注意力网络和第四注意力网络;如图7所示,步骤330包括:
步骤710,由第三编码层分别对互动关系图中的用户和互动关系图中的商家进行编码,得到互动关系图中各商家的商家编码特征和各用户的用户编码特征。
步骤720,由第三注意力网络根据互动关系图中各商家的商家编码特征、各用户的用户编码特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行处理,得到候选商家的第二商家特征。
在本申请的一些实施例中,第三注意力网络包括池化层、第三注意力层和第三线性层;步骤720,包括:由池化层根据互动关系图中全部用户的用户编码特征进行池化处理,得到中间用户特征;由第三注意力层根据中间用户特征、互动关系图中各商家的商家编码特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行注意力计算,得到互动关系图中各商家的商家权重,商家权重是指所对应商家针对目标用户对候选商家触发互动行为的权重;由第三线性层根据互动关系图中各商家的商家权重和各商家的商家编码特征进行线性加权,得到候选商家的第二商家特征。
第三注意力层的网络结构与上文中第一注意力层的网络结构类似,第三注意力层包括第三拼接层、第四多层感知机和第三归一化层;第三拼接层各商家的商家编码特征分别与中间用户特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行拼接,得到各商家对应的第二商家拼接特征。
若使用向量集表示互动关系图中各用户的用户编码特征,其中,pi,k表示互动关系图中第k个用户的用户编码特征(User-POI embeddings);使用向量集/>表示互动关系图中第k个商家的商家编码特征(POI-User embeddings),其中,qj,k表示互动关系图中第k个商家的商家编码特征。
第三拼接层输出互动关系图中第k个商家对应的第二商家拼接特征Ck为:
第四多层感知机根据第k个商家对应的第二商家拼接特征Ck所输出第k个商家对应的初始商家权重c(j,k)为:
第三归一化层将初始商家权重进行归一化,得到第k个商家对应的商家权重γ(j,k):
步骤730,由第四注意力网络根据互动关系图中各用户的用户编码特征、候选商家的第二商家特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行处理,得到目标用户的第二用户特征。
在本申请的一些实施例中,第四注意力网络包括第四注意力层和第四线性层;步骤730,包括:由第四注意力层根据互动关系图中各用户的用户编码特征、候选商家的第二商家特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行注意力计算,得到互动关系图中各用户的用户权重;用户权重是指所对应用户针对目标用户对候选商家触发互动行为的权重;由第四线性层根据互动关系图中各用户的用户权重和各用户的用户编码特征进行线性加权,得到目标用户的第二用户特征。
与第一注意力层类似,第四注意力层包括第四拼接层、第五多层感知机和第四归一化层,第四拼接层输出互动关系图中第k个用户对应的第二用户拼接特征Dk为:
第五多层感知机根据第k个用户对应的第二用户拼接特征Dk所输出第k个用户对应的初始用户权重d(j,k)为:
第四归一化层将第k个用户对应的初始用户权重进行归一化,得到第k个用户对应的用户权重ε(i,k)为:
通过如上的过程,实现了根据互动关系图来确定目标用户的第二用户特征和候选商家的第二用户特征。
在本申请的一些实施例中,上述实施例中的第一感知机、第三感知机、第四感知机以及第五感知机还可以替换为全连接网络,全连接网络的层数和各层所包括的神经元的数量可根据实际需要设定。
图8是根据本申请一实施例示出的对偶注意力网络确定候选商家的第二商家特征和目标用户的第二用户特征的示意图,其中,对偶注意力网络包括第三图注意力网络和第四图注意力网络。如图8所示,将互动关系图中全部用户的用户编码特征进行池化处理,得到中间用户特征,然后将中间用户特征和互动关系图中商家的商家编码特征输入到第三图注意力网络中,由第三图注意力网络输出候选商家的第二商家特征;之后,将互动关系图中用户的用户编码特征和候选商家的第二商家特征输入到第四图注意力网络中,由第四图注意力网络输出目标用户的第二用户特征。
在本申请的另一些实施例中,还可以先对互动关系图中全部商家的商家编码特征进行池化处理,得到中间商家特征;然后将中间商家特征和互动关系图中用户的用户编码特征输入到第四图注意力网络中,由候选商家的第二商家特征输出目标用户的第二用户特征;然后将目标用户的第二用户特征和互动关系图中商家的商家编码特征输入到第三图注意力网络中,由第三图注意力网络输出候选商家的第二商家特征。
在本申请的一些实施例中,由于在确定目标用户的第一用户特征的过程中需要利用目标用户的各好友的好友编码特征,以及在确定候选商家的第一商家特征的过程中需要利用候选商家的各邻居商家的邻居编码特征,而且本申请中可能需要面向多个候选商家进行互动概率计算,因此,为了减少第一图注意力网络和第二图注意力网络的处理量,还可以预先将好友关系图中的各个节点和邻居商家关系图中的各节点进行编码,得到好友关系图中的各个节点的编码特征,以及邻居商家关系图中的各节点的编码特征。
从而,在后续计算过程中,可以将目标用户的好友的编码特征作为上述实施例中的好友编码特征,将候选商家的邻居商家的编码特征作为上述实施例中的邻居编码特征,不需要额外在第一图注意力网络和第二图注意力网络部署对应的编码层,进而,好友关系图和邻居商家关系图中各节点的编码特征可以共用,即用于确定其他目标用户的第二用户特征或者其他候选商家的第二商家特征。而且,这样可以降低第一图注意力网络和第二图注意力网络的复杂度,提高训练速度。
在本申请的一些实施例中,可以使用编码器网络利用Line算法来对好友关系图和邻居商家关系图中的节点进行编码,对应得到各节点的编码特征。Line算法通过两节点的二阶相似度来描述两节点的相似度,其中,两节点的二阶相似度通过该两节点中的每一节点的一阶相似度来表示,具体的,若两节点x,y之间存在直连边,则边权wx,y为该两节点的一阶相似度;若两节点之间不存在直连边,则一阶相似度为零;若另Ox=(wx,1,wx,2,...,wx,|X|)表示顶点x与所有其他顶点间的1阶相似度,则节点x和y的二阶相似度Ox和Oy的相似度表示,如果不存在相同的邻居节点,则二阶相似度为0。
在本申请的一些实施例中,如图9所示,该方法还包括:
步骤910,获取训练数据,训练数据包括多个训练样本,训练样本指示了样本用户、样本商家和样本标签,样本标签用于指示样本用户是否对样本商家触发互动行为。
训练样本包括正样本和负样本,每个负样本可以表示为(样本用户ID,样本商家ID,0),其中,0为指示样本用户未对样本商家触发互动行为的样本标签;每个正样本可以表示为(样本用户ID,样本商家ID,1),1为指示样本用户对样本商家触发了互动行为的样本标签。
在具体实施例中,可以从商家平台获取各商家的被互动记录,以及从用户终端获取用户针对商家的投放信息的反馈记录,例如,若用户点击了商家的投放信息,则可以根据该点击投放信息的反馈记录构建正样本;若反馈记录指示用户未点击商家的投放信息,则可以根据该未点击投放信息的反馈记录构建负样本。
在一些实施例中,为了保证训练效果,避免负样本过多影响训练效果,还可以对负样本进行降采样,以减少负样本的数量。在具体实施例中,可以预先设定正样本和负样本的样本比例,例如正样本与负样本的比例为1:5,并基于该样本比例来确定正样本和负样本的数量。
步骤920,由第一图注意力网络根据样本用户的好友关系图和样本商家的商家嵌入特征,输出样本用户相对于样本商家的第一用户特征。
步骤930,由第二图注意力网络根据样本商家的邻居商家关系图、各邻居商家与样本商家之间的距离和样本用户的用户嵌入特征,输出样本商家相对于样本用户的第一商家特征。
步骤940,由对偶注意力网络根据样本互动关系图,确定样本用户的第二用户特征和样本商家的第二商家特征。
步骤950,将样本用户的用户嵌入特征、第一用户特征和第二用户特征进行融合,得到样本用户的全局用户特征。
步骤960,将样本商家的商家嵌入特征、第一商家特征和第二商家特征进行融合,得到样本商家的全局商家特征。
步骤970,由互动预测网络根据样本用户的全局用户特征和样本商家的全局商家特征,输出样本用户对样本商家的互动概率。
步骤980,根据样本用户对样本商家的互动概率和样本标签,计算损失函数的损失值。
在一些实施例中,损失函数可以是交叉熵损失函数:
在其他实施例中,损失函数还可以是其他绝对值损失函数、平方损失函数等,在此不进行具体限定。
步骤990,根据损失值反向调整第一图注意力网络、第二图注意力网络、对偶注意力网络和互动预测网络的参数,直至达到训练结束条件。
训练结束条件可以是损失函数收敛,也可以是迭代次数达到设定的迭代次数阈值。反向调整第一图注意力网络、第二图注意力网络、对偶注意力网络和互动预测网络的参数后,由调整参数后的第一图注意力网络、第二图注意力网络、对偶注意力网络和互动预测网络重新进行互动概率预测,重复上述过程,使得第一图注意力网络、第二图注意力网络、对偶注意力网络和互动预测网络学习准确预测互动概率的能力。
在本申请的一些实施例中,如图10所示,该方法还包括:
步骤1010,获取指定商家的被互动记录。
步骤1020,若根据指定商家的被互动记录确定指定商家的被互动次数小于设定的次数阈值,选取指定商家的第二数量个邻居商家作为参考商家。
在一些实施例中,若指定商家的被互动次数不小于设定的次数阈值,则可以直接将该指定商家作为候选商家,并按照上述实施例中的方法来预测目标用户对该指定商家触发行为的互动概率。可以理解的是,当指定商家的被互动次数不小于设定的次数阈值的情况下,表明该指定商家的质量(服务质量、商品质量等)受到用户认可,从而,将该指定商家作为候选商家,从而该指定商家的投放信息对应作为候选的投放信息,进而,可以保证按照本申请的方法为目标用户所确定的待投放信息的质量。
可以理解的是,若指定商家的被互动次数小于设定的次数阈值,可能是由于该指定商家是新商家,从而,该指定商家当前的被互动次数小于设定的次数阈值。在该种情况下,可以按照本实施例的方法,来针对指定商家确定候选投放用户,以增加该作为新商家的指定商家被挖掘的概率。
在一些实施例中,在步骤1020中,可以设定筛选条件来选取指定商家的一个或者多个邻居商家作为参考商家。其中,筛选条件可以是距离指定商家的距离小于设定的距离阈值(或者距离指定商家最近的前第三数量个邻居商家),和/或,邻居商家的被互动次数不小于第二次数阈值的,例如将距离指定商家最近的5个邻居商家确定为参考商家,或者将指定商家的邻居商家中被访问次数超过1000次的邻居商家作为参考商家。
步骤1030,根据参考用户集合中各参考用户对每一参考商家的互动概率,计算各参考用户对应的用户得分;参考用户是指对参考商家的互动概率超过概率阈值的用户。
步骤1040,根据各参考用户对应的用户得分,从参考用户集合中筛选用户得分最高的第三数量个参考用户,作为目标参考用户。
步骤1050,若接收到目标参考用户发起的信息请求,向目标参考用户返回指定商家的投放信息。
在本实施例中,借助于用户对参考商家的互动概率来计算用户得分,并根据所得到的用户得分来为指定商家确定目标参考用户,并将指定商家的投放信息发送到目标参考用户,从而实现了为被互动次数较少的指定商家提供投放信息的投放机会,对应的,也提高了向目标用户所投放的投放信息的多样性,可以在保证向目标用户所投放的投放信息与目标用户的匹配度的技术上,丰富所投放的投放信息。
图11是根据一具体实施例示出的投放信息的确定方法的流程图。如图11所示,包括:
步骤1110,获取商家的被访问记录。
步骤1120,构建好友关系图、邻居商家关系图和互动关系图。
步骤1130,构建互动概率预测模型。互动概率预测模型可以包括图4所示的第一图注意力网络、第二图注意力网络、对偶注意力网络和互动预测网络。
步骤1140,对互动概率预测模型进行训练。具体训练的过程可以参见图9中的过程。
步骤1150,根据预测的互动概率确定人群定向。
在本实施例中,可以以商家为单位,将对商家的互动概率高于第二概率阈值的目标用户确定为该商家的定向用户,从而,对于被确定为定向用户的用户而言,该商家的投放信息即为向该用户待投放的待投放信息。
本实施例的方案可以应用于广告投放场景,在该种场景下,商家的投放信息可以是商家的广告。在广告投放场景下,一般需要先进行人群定向,即预先为各商家确定定向人群。相关技术中,一般是工作人员通过分析广告的历史投放数据来分析广告的反馈情况,进而结合广告的反馈情况来进行人群定向。
本申请的方法可以用于自动为商家的广告进行人群定向。即,对于一商家(例如商家A)基于所预测到用户对商家的互动概率,可以将对该商家A的互动概率高于第二概率阈值的用户确定为商家A的定向人群。可以看出,采用本申请的方法,不需要工作人员通过分析广告的反馈情况来人工进行人群定向,而实现了自动进行人群定向,而且,可以保证人群定向的准确度。
通过实际试验发现,105个商家使用本方案生成人群定向,相较于采用相关技术中的人群定向方向,用户的定向点击率和到访率(到访人数/曝光人数)平均提升了30%。可以看出,相较于现相关技术中的人群定向方案,使用本方案能够提高已有投放记录的商家的广告投放效果。
在本申请的方法应用于广告投放的情况下,对于访问记录和用户到访记录较高的商家,例如过去3天有超过1000条点击或者到访记录的商家,采用本申请提供的互动概率预测模型可以计算又投放计划的商家在全量用户上的互动概率,进而针对每个商家,选取互动概率高于第二概率阈值的指定人数的用户作为该商家的目标投放用户,并将所确定的目标投放用户的用户ID输出到一个分布式存储路径存储,以便于向目标投放用户投放该商家的广告。
对于被互动记录(例如访问记录、用户到访记录)较少的商家,例如过去3天到访或者点击记录不够1000条的商家,如果商家(例如商家B)当天有投放计划,则可以按照图10对应的实施例中,先为该商家B确定参考商家,例如将离商家B最近的5个最近到访或者点击记录超过1000条的商家确定为参考商家,然后通过互动概率预测模型预测每一用户对每一参考商家的互动概率,进而,结合每一用户对全部参考商家的互动概率来计算每一用户的用户得分,再选取最高得分的指定人数的用户作为商家B的定向用户。
可以看出,通过本申请的方法,不仅可以为历史被互动记录较多的商家自动进行人群定向,也可以为历史被互动记录较少的商家或者新商家进行人群定向。而且,本方案提供了一种结合用户的关系链信息和商家位置信息来进行人群定向的方式。
在一些实施例中,为了支持线上广告系统召回商家的广告,还可以进一步将为商家所确定定向用户的用户ID写入到线上的数据引擎。当定向用户发起了信息请求,例如打开公众号,互动页面,视频播放页面等,可以通过数据引擎检索出该用户的用户ID对应的商家来定向这个用户,并向该用户发送对应商家的广告。
在广告定向的场景下,本申请的方案可以应用于数据管理平台(Data ManagementPlatform,DMP),由数据管理平台先构建好友关系图、邻居商家关系图和互动关系图,并综合在好友关系图、互动关系图和邻居商家关系图中各节点的特征表示,进而确定目标用户的全局用户特征和候选商家的全局商家特征,最终目标用户的全局用户特征和候选商家的全局商家特征综合了三个关系图中所有用户和商家节点信息;进而根据目标用户的全局用户特征和候选商家的全局商家特征进行互动概率预测和确定各候选商家的定向人群。
以下介绍本申请的装置实施例,可以用于执行本申请上述实施例中的方法。对于本申请装置实施例中未披露的细节,请参照本申请上述方法实施例。
图12是根据一实施例示出的投放信息的确定装置的框图,如图12所示,该投放信息的确定装置包括:第一用户特征确定模块1210,用于由第一图注意力网络根据目标用户的好友关系图和候选商家的商家嵌入特征,输出目标用户相对于候选商家的第一用户特征;第一商家特征确定模块1220,用于由第二图注意力网络根据候选商家的邻居商家关系图、各邻居商家与候选商家之间的距离和目标用户的用户嵌入特征,输出候选商家相对于目标用户的第一商家特征;第二特征确定模块1230,用于由对偶注意力网络根据互动关系图,确定目标用户的第二用户特征和候选商家的第二商家特征,互动关系图是根据用户对商家触发的互动行为构建的;全局用户特征确定模块1240,用于将目标用户的用户嵌入特征、第一用户特征和第二用户特征进行融合,得到目标用户的全局用户特征;全局商家特征确定模块1250,用于将候选商家的商家嵌入特征、第一商家特征和第二商家特征进行融合,得到候选商家的全局商家特征;互动概率确定模块1260,用于由互动预测网络根据目标用户的全局用户特征和候选商家的全局商家特征,输出目标用户相对于候选商家的互动概率;目标商家确定模块1270,用于根据目标用户相对于候选商家的互动概率在多个候选商家中进行筛选,确定目标商家,以将目标商家的投放信息确定为向目标用户待投放的待投放信息。
在一些实施例中,第一图注意力网络包括第一编码层、第一注意力层和第一线性层;第一用户特征确定模块1210,包括:好友编码特征确定单元,用于由第一编码层将目标用户的好友关系图中的好友进行编码,得到各好友的好友编码特征;好友影响权重确定单元,用于由第一注意力层根据各好友的好友编码特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行注意力计算,得到各好友针对目标用户对候选商家触发互动行为的好友影响权重;第一线性加权单元,用于由第一线性层根据各好友对应的好友影响权重和各好友的好友编码特征进行线性加权,得到目标用户相对于候选商家的第一用户特征。
在一些实施例中,第一注意力层包括级联的第一拼接层、第一多层感知机和归一化层;好友影响权重确定单元,包括:第一拼接单元,用于由第一拼接层将目标用户的用户嵌入特征和候选商家的商家嵌入特征分别与各好友的好友编码特征进行拼接,得到各好友对应的拼接特征;初始好友影响权重确定单元,用于由第一多层感知机根据各好友对应的拼接特征进行处理,得到各好友的初始好友影响权重;第一归一化处理单元,用于由归一化层对各好友的初始好友影响权重进行归一化处理,得到各好友针对目标用户对候选商家触发互动行为的好友影响权重。
在一些实施例中,第二图注意力网络包括第二编码层、第二注意力层和第二线性层;第一商家特征确定模块1220,包括:邻居编码特征确定单元,用于由第二编码层对候选商家的邻居商家关系图中各邻居商家进行编码,得到各邻居商家的邻居编码特征;邻居影响权重确定单元,用于由第二注意力层根据各邻居商家的邻居编码特征、各邻居商家与候选商家之间的距离、候选商家的商家嵌入特征和目标用户的用户嵌入特征,进行注意力计算,得到各邻居商家针对目标用户对候选商家触发互动行为的邻居影响权重;第二线性加权单元,用于由第二线性层根据各邻居商家对应的邻居影响权重和各邻居商家的邻居编码特征进行线性加权,得到候选商家相对于目标用户的第一商家特征。
在一些实施例中,对偶注意力网络包括第三编码层、第三注意力网络和第四注意力网络;第二特征确定模块1230,包括:编码单元,用于由第三编码层分别对互动关系图中的用户和互动关系图中的商家进行编码,得到互动关系图中各商家的商家编码特征和各用户的用户编码特征;第二商家特征确定单元,用于由第三注意力网络根据互动关系图中各商家的商家编码特征、各用户的用户编码特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行处理,得到候选商家的第二商家特征;第二用户特征确定单元,用于由第四注意力网络根据互动关系图中各用户的用户编码特征、候选商家的第二商家特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行处理,得到目标用户的第二用户特征。
在一些实施例中,第三注意力网络包括池化层、第三注意力层和第三线性层;第二商家特征确定单元,包括:池化处理单元,用于由池化层根据互动关系图中全部用户的用户编码特征进行池化处理,得到中间用户特征;商家权重确定单元,用于由第三注意力层根据中间用户特征、互动关系图中各商家的商家编码特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行注意力计算,得到互动关系图中各商家的商家权重,商家权重是指所对应商家针对目标用户对候选商家触发互动行为的权重;第三线性加权单元,用于由第三线性层根据互动关系图中各商家的商家权重和各商家的商家编码特征进行线性加权,得到候选商家的第二商家特征。
在一些实施例中,第四注意力网络包括第四注意力层和第四线性层;第二用户特征确定单元,包括:用户权重确定单元,用于由第四注意力层根据互动关系图中各用户的用户编码特征、候选商家的第二商家特征、目标用户的用户嵌入特征和候选商家的商家嵌入特征进行注意力计算,得到互动关系图中各用户的用户权重;用户权重是指所对应用户针对目标用户对候选商家触发互动行为的权重;第四线性加权单元,用于由第四线性层根据互动关系图中各用户的用户权重和各用户的用户编码特征进行线性加权,得到目标用户的第二用户特征。
在一些实施例中,互动预测网络包括第二拼接层、第二多层感知机和分类层;互动概率确定模块1260,包括:第二拼接单元,用于由第二拼接层将目标用户的全局用户特征和候选商家的全局商家特征进行拼接,得到目标拼接特征;互动得分确定单元,用于由多层感知机对目标拼接特征进行变换,得到目标用户对候选商家的互动得分;互动概率确定单元,用于由分类层对互动得分进行归一化处理,得到目标用户对候选商家的互动概率。
在一些实施例中,投放信息的确定装置还包括:训练数据获取模块,用于获取训练数据,训练数据包括多个训练样本,训练样本指示了样本用户、样本商家和样本标签,样本标签用于指示样本用户是否对样本商家触发互动行为;第一输出模块,用于由第一图注意力网络根据样本用户的好友关系图和样本商家的商家嵌入特征,输出样本用户相对于样本商家的第一用户特征;第二输出模块,用于由第二图注意力网络根据样本商家的邻居商家关系图、各邻居商家与样本商家之间的距离和样本用户的用户嵌入特征,输出样本商家相对于样本用户的第一商家特征;特征确定模块,用于由对偶注意力网络根据样本互动关系图,确定样本用户的第二用户特征和样本商家的第二商家特征;第一融合模块,用于将样本用户的用户嵌入特征、第一用户特征和第二用户特征进行融合,得到样本用户的全局用户特征;第二融合模块,用于将样本商家的商家嵌入特征、第一商家特征和第二商家特征进行融合,得到样本商家的全局商家特征;第三输出模块,用于由互动预测网络根据样本用户的全局用户特征和样本商家的全局商家特征,输出样本用户对样本商家的互动概率;损失值计算模块,用于根据样本用户对样本商家的互动概率和样本标签,计算损失函数的损失值;反向调整模块,用于根据损失值反向调整第一图注意力网络、第二图注意力网络、对偶注意力网络和互动预测网络的参数,直至达到训练结束条件。
在一些实施例中,投放信息的确定装置还包括:距离计算模块,用于计算候选商家与其他商家之间的距离;筛选模块,用于根据候选商家与其他商家之间的距离,筛选出距离候选商家最近的前第一数量个商家,作为候选商家的邻居商家;邻居商家关系图构建模块,用于根据候选商家的邻居商家构建候选商家的邻居商家关系图。
在一些实施例中,投放信息的确定装置还包括:第一被互动记录获取模块,用于获取各商家的被互动记录;互动关系图构建模块,用于根据被互动记录中具有互动关系的商家和用户,构建互动关系图。
在一些实施例中,投放信息的确定装置还包括:第二被互动记录获取模块,用于获取指定商家的被互动记录;参考商家确定模块,用于若根据指定商家的被互动记录确定指定商家的被互动次数小于设定的次数阈值,选取指定商家的第二数量个邻居商家作为参考商家;用户得分确定模块,用于根据参考用户集合中各参考用户对每一参考商家的互动概率,计算各参考用户对应的用户得分;参考用户是指对参考商家的互动概率超过概率阈值的用户;目标参考用户确定模块,用于根据各参考用户对应的用户得分,从参考用户集合中筛选用户得分最高的第三数量个参考用户,作为目标参考用户;发送模块,用于若接收到目标参考用户发起的信息请求,向目标参考用户返回指定商家的投放信息。
图13示出了适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。需要说明的是,图13示出的电子设备的计算机系统1300仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图13所示,计算机系统1300包括处理器,处理器可以是中央处理单元(CentralProcessing Unit,CPU)1301,其可以根据存储在只读存储器(Read-Only Memory,ROM)1302中的程序或者从存储部分1308加载到随机访问存储器(Random Access Memory,RAM)1303中的程序而执行各种适当的动作和处理,例如执行上述实施例中的方法。在RAM 1303中,还存储有系统操作所需的各种程序和数据。CPU1301、ROM1302以及RAM 1303通过总线1304彼此相连。输入/输出(Input/Output,I/O)接口1305也连接至总线1304。
以下部件连接至I/O接口1305:包括键盘、鼠标等的输入部分1306;包括诸如阴极射线管(Cathode Ray Tube,CRT)、液晶显示器(Liquid Crystal Display,LCD)等以及扬声器等的输出部分1307;包括硬盘等的存储部分1308;以及包括诸如LAN(Local AreaNetwork,局域网)卡、调制解调器等的网络接口卡的通信部分1309。通信部分1309经由诸如因特网的网络执行通信处理。驱动器1310也根据需要连接至I/O接口1305。可拆卸介质1311,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1310上,以便于从其上读出的计算机程序根据需要被安装入存储部分1308。
特别地,根据本申请的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本申请的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1309从网络上被下载和安装,和/或从可拆卸介质1311被安装。在该计算机程序被中央处理单元(CPU)1301执行时,执行本申请的系统中限定的各种功能。
需要说明的是,本申请实施例所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(Erasable Programmable Read Only Memory,EPROM)、闪存、光纤、便携式紧凑磁盘只读存储器(Compact Disc Read-Only Memory,CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。其中,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读存储介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读存储介质承载计算机可读指令,当该计算机可读存储指令被处理器执行时,实现上述任一实施例中的方法。
根据本申请的一个方面,还提供了一种电子设备,其包括:处理器;存储器,存储器上存储有计算机可读指令,计算机可读指令被处理器执行时,实现上述任一实施例中的方法。
根据本申请实施例的一个方面,提供了计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述任一实施例中的方法。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本申请的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本申请实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本申请实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的实施方式后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。
Claims (16)
1.一种投放信息的确定方法,其特征在于,包括:
由第一图注意力网络根据目标用户的好友关系图和候选商家的商家嵌入特征,输出所述目标用户相对于所述候选商家的第一用户特征;
由第二图注意力网络根据所述候选商家的邻居商家关系图、各邻居商家与所述候选商家之间的距离和所述目标用户的用户嵌入特征,输出所述候选商家相对于所述目标用户的第一商家特征;
由对偶注意力网络根据互动关系图,确定所述目标用户的第二用户特征和所述候选商家的第二商家特征,所述互动关系图是根据用户对商家触发的互动行为构建的;
将目标用户的用户嵌入特征、第一用户特征和第二用户特征进行融合,得到所述目标用户的全局用户特征;
将所述候选商家的商家嵌入特征、第一商家特征和第二商家特征进行融合,得到所述候选商家的全局商家特征;
由互动预测网络根据所述目标用户的全局用户特征和所述候选商家的全局商家特征,输出所述目标用户相对于所述候选商家的互动概率;
根据所述目标用户相对于所述候选商家的互动概率在多个候选商家中进行筛选,确定目标商家,以将所述目标商家的投放信息确定为向所述目标用户待投放的待投放信息。
2.根据权利要求1所述的方法,其特征在于,所述第一图注意力网络包括第一编码层、第一注意力层和第一线性层;
所述由第一图注意力网络根据目标用户的好友关系图和候选商家的商家嵌入特征,输出所述目标用户相对于所述候选商家的第一用户特征,包括:
由所述第一编码层将所述目标用户的好友关系图中的好友进行编码,得到各所述好友的好友编码特征;
由所述第一注意力层根据各所述好友的好友编码特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行注意力计算,得到各好友针对所述目标用户对所述候选商家触发互动行为的好友影响权重;
由所述第一线性层根据各所述好友对应的好友影响权重和各好友的好友编码特征进行线性加权,得到所述目标用户相对于所述候选商家的第一用户特征。
3.根据权利要求2所述的方法,其特征在于,所述第一注意力层包括级联的第一拼接层、第一多层感知机和第一归一化层;
所述由所述第一注意力层根据各所述好友的好友编码特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行注意力计算,得到各好友针对所述目标用户对所述候选商家触发互动行为的好友影响权重,包括:
由所述第一拼接层将所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征分别与各所述好友的好友编码特征进行拼接,得到各所述好友对应的拼接特征;
由所述第一多层感知机根据各所述好友对应的拼接特征进行处理,得到各所述好友的初始好友影响权重;
由所述第一归一化层对各所述好友的初始好友影响权重进行归一化处理,得到各好友针对所述目标用户对所述候选商家触发互动行为的好友影响权重。
4.根据权利要求1所述的方法,其特征在于,所述第二图注意力网络包括第二编码层、第二注意力层和第二线性层;
所述由第二图注意力网络根据所述候选商家的邻居商家关系图、各邻居商家与所述候选商家之间的距离和所述目标用户的用户嵌入特征,输出所述候选商家相对于所述目标用户的第一商家特征,包括:
由所述第二编码层对所述候选商家的邻居商家关系图中各邻居商家进行编码,得到各邻居商家的邻居编码特征;
由所述第二注意力层根据各邻居商家的邻居编码特征、各邻居商家与所述候选商家之间的距离、所述候选商家的商家嵌入特征和所述目标用户的用户嵌入特征,进行注意力计算,得到各所述邻居商家针对所述目标用户对所述候选商家触发互动行为的邻居影响权重;
由所述第二线性层根据各所述邻居商家对应的邻居影响权重和各所述邻居商家的邻居编码特征进行线性加权,得到所述候选商家相对于所述目标用户的第一商家特征。
5.根据权利要求1所述的方法,其特征在于,所述对偶注意力网络包括第三编码层、第三注意力网络和第四注意力网络;
所述由对偶注意力网络根据互动关系图,确定所述目标用户的第二用户特征和所述候选商家的第二商家特征,包括:
由所述第三编码层分别对所述互动关系图中的用户和所述互动关系图中的商家进行编码,得到所述互动关系图中各商家的商家编码特征和各用户的用户编码特征;
由所述第三注意力网络根据互动关系图中各商家的商家编码特征、各用户的用户编码特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行处理,得到所述候选商家的第二商家特征;
由所述第四注意力网络根据所述互动关系图中各用户的用户编码特征、所述候选商家的第二商家特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行处理,得到所述目标用户的第二用户特征。
6.根据权利要求5所述的方法,其特征在于,所述第三注意力网络包括池化层、第三注意力层和第三线性层;
所述由所述第三注意力网络根据互动关系图中各商家的商家编码特征、各用户的用户编码特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行处理,得到所述候选商家的第二商家特征,包括:
由所述池化层根据所述互动关系图中全部用户的用户编码特征进行池化处理,得到中间用户特征;
由所述第三注意力层根据所述中间用户特征、所述互动关系图中各商家的商家编码特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行注意力计算,得到所述互动关系图中各商家的商家权重,所述商家权重是指所对应商家针对所述目标用户对所述候选商家触发互动行为的权重;
由所述第三线性层根据所述互动关系图中各商家的商家权重和各商家的商家编码特征进行线性加权,得到所述候选商家的第二商家特征。
7.根据权利要求5或6所述的方法,其特征在于,所述第四注意力网络包括第四注意力层和第四线性层;
所述由所述第四注意力网络根据所述互动关系图中各用户的用户编码特征、所述候选商家的第二商家特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行处理,得到所述目标用户的第二用户特征,包括:
由所述第四注意力层根据所述互动关系图中各用户的用户编码特征、所述候选商家的第二商家特征、所述目标用户的用户嵌入特征和所述候选商家的商家嵌入特征进行注意力计算,得到所述互动关系图中各用户的用户权重;所述用户权重是指所对应用户针对目标用户对所述候选商家触发互动行为的权重;
由所述第四线性层根据所述互动关系图中各用户的用户权重和各用户的用户编码特征进行线性加权,得到所述目标用户的第二用户特征。
8.根据权利要求1所述的方法,其特征在于,所述互动预测网络包括第二拼接层、第二多层感知机和分类层;
所述由互动预测网络根据所述目标用户的全局用户特征和所述候选商家的全局商家特征,输出所述目标用户相对于所述候选商家的互动概率,包括:
由所述第二拼接层将所述目标用户的全局用户特征和所述候选商家的全局商家特征进行拼接,得到目标拼接特征;
由所述多层感知机对所述目标拼接特征进行变换,得到所述目标用户对所述候选商家的互动得分;
由所述分类层对所述互动得分进行归一化处理,得到目标用户对所述候选商家的互动概率。
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取训练数据,所述训练数据包括多个训练样本,所述训练样本指示了样本用户、样本商家和样本标签,所述样本标签用于指示所述样本用户是否对所述样本商家触发互动行为;
由所述第一图注意力网络根据样本用户的好友关系图和样本商家的商家嵌入特征,输出所述样本用户相对于所述样本商家的第一用户特征;
由所述第二图注意力网络根据所述样本商家的邻居商家关系图、各邻居商家与所述样本商家之间的距离和所述样本用户的用户嵌入特征,输出所述样本商家相对于所述样本用户的第一商家特征;
由所述对偶注意力网络根据样本互动关系图,确定所述样本用户的第二用户特征和所述样本商家的第二商家特征;
将所述样本用户的用户嵌入特征、第一用户特征和第二用户特征进行融合,得到所述样本用户的全局用户特征;
将所述样本商家的商家嵌入特征、第一商家特征和第二商家特征进行融合,得到所述样本商家的全局商家特征;
由互动预测网络根据所述样本用户的全局用户特征和所述样本商家的全局商家特征,输出所述样本用户对所述样本商家的互动概率;
根据所述样本用户对所述样本商家的互动概率和所述样本标签,计算损失函数的损失值;
根据所述损失值反向调整所述第一图注意力网络、所述第二图注意力网络、所述对偶注意力网络和互动预测网络的参数,直至达到训练结束条件。
10.根据权利要求1所述的方法,其特征在于,所述由第二图注意力网络根据所述候选商家的邻居商家关系图、各邻居商家与所述候选商家之间的距离和所述目标用户的用户嵌入特征,输出所述候选商家相对于所述目标用户的第一商家特征之前,所述方法还包括:
计算所述候选商家与其他商家之间的距离;
根据所述候选商家与其他商家之间的距离,筛选出距离所述候选商家最近的前第一数量个商家,作为所述候选商家的邻居商家;
根据所述候选商家的邻居商家构建所述候选商家的邻居商家关系图。
11.根据权利要求1所述的方法,其特征在于,所述由对偶注意力网络根据互动关系图,确定所述目标用户的第二用户特征和所述候选商家的第二商家特征之前,所述方法还包括:
获取各商家的被互动记录;
根据所述被互动记录中具有互动关系的商家和用户,构建所述互动关系图。
12.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取指定商家的被互动记录;
若根据所述指定商家的被互动记录确定所述指定商家的被互动次数小于设定的次数阈值,选取所述指定商家的第二数量个邻居商家作为参考商家;
根据参考用户集合中各参考用户对每一所述参考商家的互动概率,计算各参考用户对应的用户得分;所述参考用户是指对所述参考商家的互动概率超过概率阈值的用户;
根据各参考用户对应的用户得分,从所述参考用户集合中筛选用户得分最高的第三数量个参考用户,作为目标参考用户;
若接收到所述目标参考用户发起的信息请求,向所述目标参考用户返回所述指定商家的投放信息。
13.一种投放信息的确定装置,其特征在于,包括:
第一用户特征确定模块,用于由第一图注意力网络根据目标用户的好友关系图和候选商家的商家嵌入特征,输出所述目标用户相对于所述候选商家的第一用户特征;
第一商家特征确定模块,用于由第二图注意力网络根据所述候选商家的邻居商家关系图、各邻居商家与所述候选商家之间的距离和所述目标用户的用户嵌入特征,输出所述候选商家相对于所述目标用户的第一商家特征;
第二特征确定模块,用于由对偶注意力网络根据互动关系图,确定所述目标用户的第二用户特征和所述候选商家的第二商家特征,所述互动关系图是根据用户对商家触发的互动行为构建的;
全局用户特征确定模块,用于将目标用户的用户嵌入特征、第一用户特征和第二用户特征进行融合,得到所述目标用户的全局用户特征;
全局商家特征确定模块,用于将所述候选商家的商家嵌入特征、第一商家特征和第二商家特征进行融合,得到所述候选商家的全局商家特征;
互动概率确定模块,用于由互动预测网络根据所述目标用户的全局用户特征和所述候选商家的全局商家特征,输出所述目标用户相对于所述候选商家的互动概率;
目标商家确定模块,用于根据所述目标用户相对于所述候选商家的互动概率在多个候选商家中进行筛选,确定目标商家,以将所述目标商家的投放信息确定为向所述目标用户待投放的待投放信息。
14.一种电子设备,其特征在于,包括:
处理器;
存储器,所述存储器上存储有计算机可读指令,所述计算机可读指令被所述处理器执行时,实现如权利要求1-12中任一项所述的方法。
15.一种计算机可读存储介质,其上存储有计算机可读指令,其特征在于,当所述计算机可读指令被处理器执行时,实现如权利要求1-12中任一项所述的方法。
16.一种计算机程序产品,包括计算机指令,其特征在于,所述计算机指令被处理器执行时实现权利要求1-12中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111367237.XA CN116150465A (zh) | 2021-11-18 | 2021-11-18 | 投放信息的确定方法及相关设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111367237.XA CN116150465A (zh) | 2021-11-18 | 2021-11-18 | 投放信息的确定方法及相关设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116150465A true CN116150465A (zh) | 2023-05-23 |
Family
ID=86354810
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111367237.XA Pending CN116150465A (zh) | 2021-11-18 | 2021-11-18 | 投放信息的确定方法及相关设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116150465A (zh) |
-
2021
- 2021-11-18 CN CN202111367237.XA patent/CN116150465A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
You et al. | Image-based appraisal of real estate properties | |
CN109492772B (zh) | 生成信息的方法和装置 | |
US20160170982A1 (en) | Method and System for Joint Representations of Related Concepts | |
CN113688304A (zh) | 搜索推荐模型的训练方法、搜索结果排序的方法及装置 | |
CN108629224A (zh) | 信息呈现方法和装置 | |
CN109471978B (zh) | 一种电子资源推荐方法及装置 | |
CN113569129A (zh) | 点击率预测模型处理方法、内容推荐方法、装置及设备 | |
CN113515690A (zh) | 内容召回模型的训练方法、内容召回方法、装置及设备 | |
CN114417174B (zh) | 内容推荐方法、装置、设备及计算机存储介质 | |
CN113656699B (zh) | 用户特征向量确定方法、相关设备及介质 | |
CN116628345B (zh) | 一种内容推荐方法、装置、电子设备和存储介质 | |
CN113269232B (zh) | 模型训练方法、向量化召回方法、相关设备及存储介质 | |
US20210350202A1 (en) | Methods and systems of automatic creation of user personas | |
CN116205700A (zh) | 目标产品的推荐方法、装置、计算机设备和存储介质 | |
Yang et al. | Attention mechanism and adaptive convolution actuated fusion network for next POI recommendation | |
US20230316106A1 (en) | Method and apparatus for training content recommendation model, device, and storage medium | |
Sakib et al. | A hybrid model for predicting Mobile Price Range using machine learning techniques | |
CN116977701A (zh) | 视频分类模型训练的方法、视频分类的方法和装置 | |
CN114595323B (zh) | 画像构建、推荐、模型训练方法、装置、设备及存储介质 | |
CN116150465A (zh) | 投放信息的确定方法及相关设备 | |
CN115329183A (zh) | 数据处理方法、装置、存储介质及设备 | |
Wen et al. | Pairwise multi-layer nets for learning distributed representation of multi-field categorical data | |
Vathana et al. | Real Estate Price Prediction Using Machine Learning Algorithm | |
CN116628236B (zh) | 多媒体信息的投放方法、装置、电子设备及存储介质 | |
KR102677535B1 (ko) | 맞춤형 부동산 정보 제공 시스템, 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |