CN111104599B - 用于输出信息的方法和装置 - Google Patents
用于输出信息的方法和装置 Download PDFInfo
- Publication number
- CN111104599B CN111104599B CN201911336806.7A CN201911336806A CN111104599B CN 111104599 B CN111104599 B CN 111104599B CN 201911336806 A CN201911336806 A CN 201911336806A CN 111104599 B CN111104599 B CN 111104599B
- Authority
- CN
- China
- Prior art keywords
- information
- feature vector
- training
- feature
- extraction network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/242—Query formulation
- G06F16/2433—Query languages
- G06F16/244—Grouping and aggregation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24553—Query execution of query operations
- G06F16/24554—Unary operations; Data partitioning operations
- G06F16/24556—Aggregation; Duplicate elimination
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例公开了用于输出信息的方法和装置。该方法的一具体实施方式包括:获取用户针对内容的操作信息,利用操作信息,构建二分图;针对二分图中的每个顶点,以该顶点为起点,在二分图中进行随机游走,生成游走路径,对游走路径进行采样,生成训练对;针对训练对中的每个对象,以用于表征该对象的顶点为中心点,对中心点的相邻顶点进行采样,生成二分图的子图,在子图中,对相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息;输出训练样本。该实施方式可以为后续的内容推荐提供更准确的候选集。
Description
技术领域
本申请实施例涉及计算机技术领域,具体涉及用于输出信息的方法和装置。
背景技术
目前,互联网中普遍存在内容推荐需求的问题。例如,用户点击了一篇娱乐新闻,系统可以根据这个点击信息进行相似的娱乐文章推荐,促使用户做出更多点击。现有的推荐系统中通常采用推荐模型进行信息推荐。为了提高推荐模型的推荐效果,推荐模型的训练样本的生成过程显得尤为重要。
发明内容
本申请实施例提出了用于输出信息的方法和装置。
第一方面,本申请实施例提供了一种用于输出信息的方法,包括:获取用户针对内容的操作信息,利用操作信息,构建二分图,其中,二分图包括第一顶点集合和第二顶点集合,第一顶点集合中的顶点用于表征用户,第二顶点集合中的顶点用于表征内容,二分图中的边用于表征用户对内容执行了预设操作;针对二分图中的每个顶点,以该顶点为起点,在二分图中进行随机游走,生成游走路径,对游走路径进行采样,生成训练对;针对训练对中的每个对象,以用于表征该对象的顶点为中心点,对中心点的相邻顶点进行采样,生成二分图的子图,在子图中,对相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息;输出训练样本,其中,训练样本包括训练对中每个对象的特征信息和聚合特征信息。
在一些实施例中,对游走路径进行采样,包括:利用跳字模型采样方法对游走路径进行采样。
在一些实施例中,训练样本还包括:用于表征训练对中的对象是否具有关联关系的标注结果。
第二方面,本申请实施例提供了一种用于输出信息的装置,包括:获取单元,被配置成获取用户针对内容的操作信息,利用操作信息,构建二分图,其中,二分图包括第一顶点集合和第二顶点集合,第一顶点集合中的顶点用于表征用户,第二顶点集合中的顶点用于表征内容,二分图中的边用于表征用户对内容执行了预设操作;生成单元,被配置成针对二分图中的每个顶点,以该顶点为起点,在二分图中进行随机游走,生成游走路径,对游走路径进行采样,生成训练对;聚合单元,被配置成针对训练对中的每个对象,以用于表征该对象的顶点为中心点,对中心点的相邻顶点进行采样,生成二分图的子图,在子图中,对相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息;输出单元,被配置成输出训练样本,其中,训练样本包括训练对中每个对象的特征信息和聚合特征信息。
在一些实施例中,聚合单元进一步被配置成通过如下方式对游走路径进行采样:利用跳字模型采样方法对游走路径进行采样。
在一些实施例中,训练样本还包括:用于表征训练对中的对象是否具有关联关系的标注结果。
第三方面,本申请实施例提供了一种用于生成特征提取网络的方法,包括:获取训练样本集,其中,训练样本包括如上述第一方面的方法输出的训练样本,训练样本中的训练对包括第一对象的特征信息、第一对象的聚合特征信息、第二对象的特征信息和第二对象的聚合特征信息;从训练样本集中选取训练样本,执行以下训练步骤:将选取的训练样本中的第一对象的特征信息、第二对象的特征信息、第一对象的聚合特征信息和第二对象的聚合特征信息分别输入到初始特征提取网络得到第一特征向量、第二特征向量、第一聚合特征向量和第二集合特征向量;拼接第一特征向量与第一聚合特征向量,得到第一融合特征向量;拼接第二特征向量与第二聚合特征向量,得到第二融合特征向量;将第一融合特征向量和第二融合特征向量输入初始全连接层,得到用于表征选取的训练样本中的对象是否具有关联关系的结果;将结果与对应的标注结果进行分析,确定结果损失值;将结果损失值与目标值进行比较;根据比较结果确定初始特征提取网络是否训练完成;响应于确定出初始特征提取网络训练完成,将初始特征提取网络确定为目标特征提取网络。
在一些实施例中,该方法还包括:响应于确定出初始特征提取网络未训练完成,调整初始特征提取网络中的相关参数,以及从训练样本集中重新选取训练样本,使用调整后的初始特征提取网络作为初始特征提取网络,继续执行训练步骤。
第四方面,本申请实施例提供了一种用于生成特征提取网络的装置,包括:获取单元,被配置成获取训练样本集,其中,训练样本包括如上述第一方面的方法输出的训练样本,训练样本中的训练对包括第一对象的特征信息、第一对象的聚合特征信息、第二对象的特征信息和第二对象的聚合特征信息;训练单元,被配置成从训练样本集中选取训练样本,执行以下训练步骤:将选取的训练样本中的第一对象的特征信息、第二对象的特征信息、第一对象的聚合特征信息和第二对象的聚合特征信息分别输入到初始特征提取网络得到第一特征向量、第二特征向量、第一聚合特征向量和第二集合特征向量;拼接第一特征向量与第一聚合特征向量,得到第一融合特征向量;拼接第二特征向量与第二聚合特征向量,得到第二融合特征向量;将第一融合特征向量和第二融合特征向量输入初始全连接层,得到用于表征选取的训练样本中的对象是否具有关联关系的结果;将结果与对应的标注结果进行分析,确定结果损失值;将结果损失值与目标值进行比较;根据比较结果确定初始特征提取网络是否训练完成;响应于确定出初始特征提取网络训练完成,将初始特征提取网络确定为目标特征提取网络。
在一些实施例中,该装置还包括:调整单元,被配置成响应于确定出初始特征提取网络未训练完成,调整初始特征提取网络中的相关参数,以及从训练样本集中重新选取训练样本,使用调整后的初始特征提取网络作为初始特征提取网络,继续执行训练步骤。
第五方面,本申请实施例提供了一种用于生成信息的方法,包括:获取目标用户的相关信息,其中,相关信息包括以下至少一项:用户特征信息和目标内容的内容特征信息,目标内容包括目标用户在预设时间段内执行的操作所针对的内容;将相关信息输入采用如上述第三方面的方法生成的特征提取模型中,得到与目标用户关联的关联特征向量;基于关联特征向量,在候选特征向量集合中查找目标特征向量;将目标特征向量对应的内容作为推荐信息,生成推荐信息集合。
第六方面,本申请实施例提供了一种用于生成信息的装置,包括:获取单元,被配置成获取目标用户的相关信息,其中,相关信息包括以下至少一项:用户特征信息和目标内容的内容特征信息,目标内容包括目标用户在预设时间段内执行的操作所针对的内容;输入单元,被配置成将相关信息输入采用如上述第三方面的方法生成的特征提取模型中,得到与目标用户关联的关联特征向量;查找单元,被配置成基于关联特征向量,在候选特征向量集合中查找目标特征向量;生成单元,被配置成将目标特征向量对应的内容作为推荐信息,生成推荐信息集合。
第七方面,本申请实施例提供了一种电子设备,该电子设备包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当上述一个或多个程序被上述一个或多个处理器执行时,使得上述一个或多个处理器实现如第一方面、第三方面和第五方面中任一实现方式描述的方法。
第八方面,本申请实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,该计算机程序被处理器执行时实现如第一方面、第三方面和第五方面中任一实现方式描述的方法。
本申请的上述实施例提供的用于输出信息的方法和装置,通过首先获取用户针对内容的操作信息,利用上述操作信息,构建二分图;之后,针对上述二分图中的每个顶点,以该顶点为起点,在上述二分图中进行随机游走,生成游走路径,对上述游走路径进行采样,生成训练对;而后,可以针对上述训练对中的每个对象,以用于表征该对象的顶点为中心点,对上述中心点的相邻顶点进行采样,生成上述二分图的子图,在上述子图中,对上述相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息;最后,可以输出包括上述训练对中每个对象的特征信息和聚合特征信息的训练样本。通过这种方式可以充分利用用户与内容之间的邻居关系,为后续的内容推荐提供了更准确的候选集。将所输出的训练样本应用于特征提取网络中,使得所生成的特征提取网络可以更加准确地提取特征。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是本申请的各个实施例可以应用于其中的示例性系统架构图;
图2是根据本申请的用于输出信息的方法的一个实施例的流程图;
图3是根据本申请的用于输出信息的方法中所构建的二分图的一个示意图;
图4是图3所示出的二分图的子图的一个示意图;
图5是根据本申请的用于生成特征提取网络的方法的一个实施例的流程图;
图6是根据本申请的用于生成信息的方法的一个实施例的流程图;
图7是根据本申请的用于输出信息的装置的一个实施例的结构示意图;
图8是根据本申请的用于生成特征提取网络的装置的一个实施例的结构示意图;
图9是根据本申请的用于生成信息的装置的一个实施例的结构示意图;
图10是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请实施例的用于输出信息的方法、用于输出信息的装置、用于生成特征提取网络的方法、用于生成特征提取网络的装置、用于生成信息的方法或用于生成信息的装置的示例性系统架构100。
如图1所示,系统架构100可以包括终端101、102,网络103、输出服务器104、训练服务器105和生成服务器106。网络103用以在终端101、102,输出服务器104,训练服务器105和生成服务器106之间提供通信链路的介质。网络103可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户110可以使用终端101、102通过网络103与服务器105进行交互,以接收或发送消息等。终端101、102上可以安装有各种客户端应用,例如模型训练类应用、购物类应用、支付类应用、网页浏览器和即时通讯工具等。
终端101、102可以是硬件,也可以是软件。当终端101、102为硬件时,可以是支持信息交互的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端101、102为软件时,可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。
输出服务器104可以是提供各种服务的服务器。例如,可以输出训练样本的后台服务器。输出服务器104可以首先获取用户针对内容的操作信息,利用上述操作信息,构建二分图;之后,可以针对上述二分图中的每个顶点,以该顶点为起点,在上述二分图中进行随机游走,生成游走路径,对上述游走路径进行采样,生成训练对;而后,针对上述训练对中的每个对象,以用于表征该对象的顶点为中心点,对上述中心点的相邻顶点进行采样,生成上述二分图的子图,在上述子图中,对上述相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息;最后,可以输出包括上述训练对中每个对象的特征信息和聚合特征信息的训练样本。
训练服务器105可以是提供各种服务的服务器。例如,可以从输出服务器104中获取所输出的训练样本以及对初始特征提取网络进行训练得到目标特征提取网络的后台服务器。训练服务器105可以首先获取训练样本集;之后可以从获取到的训练样本集中选取训练样本,执行以下训练步骤:将选取的训练样本中的第一对象的特征信息、第二对象的特征信息、第一对象的聚合特征信息和第二对象的聚合特征信息分别输入到初始特征提取网络得到第一特征向量、第二特征向量、第一聚合特征向量和第二聚合特征向量;拼接上述第一特征向量与上述第一聚合特征向量,得到第一融合特征向量;拼接上述第二特征向量与上述第二聚合特征向量,得到第二融合特征向量;将上述第一融合特征向量和上述第二融合特征向量输入初始全连接层,得到用于表征选取的训练样本中的对象是否具有关联关系的结果;将结果与对应的标注结果进行分析,确定结果损失值;将结果损失值与目标值进行比较;根据比较结果确定初始特征提取网络是否训练完成;响应于确定出初始特征提取网络训练完成,将初始特征提取网络确定为目标特征提取网络。
生成服务器106可以是提供各种服务的服务器。例如,可以生成推荐信息集合的后台服务器。生成服务器106可以首先获取目标用户的相关信息;之后,可以将上述相关信息输入训练服务器105所生成的特征提取模型中,得到与上述目标用户关联的关联特征向量;而后,可以基于上述关联特征向量,在候选特征向量集合中查找目标特征向量;最后,可以将上述目标特征向量对应的内容作为推荐信息,生成推荐信息集合。
需要说明的是,输出服务器104、训练服务器105和生成服务器106可以是硬件,也可以是软件。当输出服务器104、训练服务器105和生成服务器106为硬件时,可以实现成多个服务器组成的分布式服务器集群,也可以实现成单个服务器。当输出服务器104、训练服务器105和生成服务器106为软件时,可以实现成多个软件或软件模块(例如用来提供分布式服务),也可以实现成单个软件或软件模块。在此不做具体限定。
需要说明的是,本申请实施例所提供的用于输出信息的方法通常由输出服务器104执行,本申请实施例所提供的用于生成特征提取网络的方法通常由训练服务器105执行,本申请实施例所提供的用于生成信息的方法通常由生成服务器106执行。
需要指出的是,在输出服务器104可以实现训练服务器105和生成服务器106的相关功能的情况下,系统架构100中可以不设置训练服务器105和生成服务器106。
应该理解,图1中的终端、网络、输出服务器、训练服务器和生成服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端、网络、输出服务器、训练服务器和生成服务器。
继续参考图2,示出了根据本申请的用于输出信息的方法的一个实施例的流程200。该用于输出信息的方法,包括以下步骤:
步骤201,获取用户针对内容的操作信息,利用操作信息,构建二分图。
在本实施例中,用于输出信息的方法的执行主体(例如图1所示的输出服务器可以获取用户针对内容的操作信息,利用操作信息,构建二分图。在这里,上述内容可以包括但不限于以下至少一项:信息流、物品信息和视频。上述操作信息可以包括但不限于以下至少一项:点击信息、浏览信息、收藏信息、搜索信息和购买信息。
在本实施例中,上述执行主体可以利用上述操作信息,构建二分图。二分图也可以称为二部图,是图论中的一种特殊模型。设G=(V,E)是一个无向图,如果顶点V可分割为两个互不相交的子集(A,B),并且图中的每条边(i,j)所关联的两个顶点i和j分别属于这两个不同的顶点集,则称图G为一个二分图。简单来说,如果图中的点可以被分为两组,并且使得所有边都跨越组的边界,则这就是一个二分图。准确地说,把一个图的顶点划分为两个不相交子集,使得每一条边都分别连接两个集合中的顶点。在这里,所构建的二分图可以包括第一顶点集合和第二顶点集合。上述第一顶点集合中的顶点可以用于表征用户,上述第二顶点集合中的顶点可以用于表征内容,上述二分图中的边可以用于表征用户对内容执行了预设操作,例如,点击操作、浏览操作、搜索操作等。
如图3所示,图3示出了根据本申请的用于输出信息的方法中所构建的二分图的一个示意图。在图3中,顶点301表征用户u1,顶点302表征用户u2,顶点303表征用户u3,顶点304表征用户u4,顶点305表征用户u5,顶点306表征内容i1,顶点307表征内容i2,顶点308表征内容i3,顶点309表征内容i4,边310表征用户u1对内容i1执行了操作,边311表征用户u2对内容i1执行了操作,边312表征用户u1对内容i2执行了操作,边313表征用户u3对内容i2执行了操作,边314表征用户u4对内容i1执行了操作,边315表征用户u4对内容i3执行了操作,边316表征用户u4对内容i4执行了操作,边317表征用户u5对内容i4执行了操作,边318表征用户u1对内容i4执行了操作。
步骤202,针对二分图中的每个顶点,以该顶点为起点,在二分图中进行随机游走,生成游走路径,对游走路径进行采样,生成训练对。
在本实施例中,针对在步骤1中所构建的二分图中的每个顶点,上述执行主体可以以该顶点为起点,在上述二分图中进行随机游走(random walk),生成游走路径。随机游走也可以称为随机漫步,随机行走是指基于过去的表现,无法预测将来的发展步骤和方向。核心概念是指任何无规则行走者所带的守恒量都各对应着一个扩散运输定律,接近于布朗运动,是布朗运动理想的数学状态。
作为示例,若以在图3中的顶点301为起点,在图3中进行随机游走,可以生成游走路径u1-i1-u2、u1-i1-u4-i3和u1-i1-u4-i4-u5。
之后,上述执行主体可以对上述游走路径进行采样,生成训练对。具体地,上述执行主体可以对上述游走路径的相邻边进行采样。作为示例,若对游走路径u1-i1-u2进行采样,可以生成由u1和i1所组成的训练对,也可以生成由i1和u2所组成的训练对。
需要说明的是,上述执行主体可以利用DeepWalk算法执行上述步骤202。DeepWalk算法是第一个以无监督学习的节点嵌入算法。它在训练过程中类似于词嵌入。它的目的是让图中的节点分布和语料库中的单词分布都遵循幂律。
步骤203,针对训练对中的每个对象,以用于表征该对象的顶点为中心点,对中心点的相邻顶点进行采样,生成二分图的子图,在子图中,对相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息。
在本实施例中,针对在步骤202中所生成的训练对中的每个对象(用户和/或内容),上述执行主体可以以用于表征该对象的顶点为中心点,对中心点的相邻顶点进行采样,生成二分图的子图。上述执行主体可以以预设的采样层数和预设的采样点数目对中心点的相邻顶点进行采样。需要说明的是,上述采样层数指的是采样窗口的大小,例如,若采样层数为2,则需要对中心点的一级邻居点和二级邻居点均进行采样。上述采样点数目通常是指对每级邻居点进行采样的采样点的数目。
如图4所示,图4示出了图3所示出的二分图的子图的一个示意图。在图4中,以顶点401所表征的用户u1为中心点,用于表征内容i1的顶点402、用于表征内容i2的顶点403和用于表征内容i4的顶点404为用于表征用户u1的顶点401的相邻顶点。用于表征用户u2的顶点405和用于表征用户u4的顶点406为用于表征内容i1的顶点402的相邻顶点。用于表征用户u3的顶点407为用于表征内容i2的顶点403和相邻顶点。用于表征用户u4的顶点408和用于表征用户u5的顶点409为用于表征内容i4的顶点404和相邻顶点。
之后,在上述生成的子图中,可以对上述中心点的相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息。在这里,上述执行主体可以利用GraphSage算法对中心点的相邻顶点所表征的对象的特征信息进行聚合。GraphSage是以归纳方式学习每个顶点的嵌入。具体来讲,它将每个顶点用其邻域的聚合重新表示。聚合的方式可以包括均值聚合方式、LSTM(Long Short-Term Memory,长短期记忆网络)聚合器和池聚合器。
作为示例,在图4中,上述执行主体可以对顶点402表征的内容i1的特征信息、顶点403表征的内容i2的特征信息和顶点404表征的内容i4的特征信息进行平均聚合,将聚合后所得到的特征信息确定为顶点401所表征的用户u1的聚合特征信息。
步骤204,输出训练样本。
在本实施例中,上述执行主体可以输出训练样本,上述训练样本可以包括上述训练对中每个对象的特征信息和聚合特征信息。若上述训练对中包括第一对象和第二对象,上述训练样本可以包括第一对象的特征信息、第一对象的聚合特征信息、第二对象的特征信息和第二对象的聚合特征信息。
在本实施例的一些可选的实现方式中,上述执行主体可以通过如下方式对上述游走路径进行采样:上述执行主体可以利用跳字(Skip-Gram)模型采样方法对上述游走路径进行采样。跳字模型通常是给定输入词来预测上下文。具体地,上述执行主体可以利用跳字模型,以窗口K的大小对上述游走路径进行采样,也就是说仅选指定输入词前后各两个词和输入此进行组合,生成训练对。作为示例,若K为3,对游走路径u1-i1-u4-i4-u5进行采样,以u1作为输入词,可以生成由u1的特征信息和i1的特征信息所组成的训练对,也可以生成由u1的特征信息和u4的特征信息所组成的训练对,还可以生成由u1的特征信息和i4的特征信息所组成的训练对。需要说明的是,窗口K的大小可以是预先设定的。可以根据所训练的模型的具体应用,对窗口K的大小进行调整。
在本实施例的一些可选的实现方式中,上述训练样本还可以包括用于表征上述训练对中的对象是否具有关联关系的标注结果。作为示例,上述标注结果可以表示为0和1。若上述标注结果表示为0,则表征上述训练对中的对象不具有关联关系;若上述标注结果表示为1,则表征上述训练对中的对象具有关联关系。
本申请的上述实施例提供的方法通过构建用户与内容之间的二分图,充分利用了二分图中用户与内容之间的邻居关系,为后续的内容推荐提供了更准确的候选集。将所输出的训练样本应用于特征提取网络中,使得所生成的特征提取网络可以更加准确地提取特征。
进一步参考图5,其示出了用于生成特征提取网络的方法的一个实施例的流程500。该用于生成特征提取网络的方法的流程500,包括以下步骤:
步骤501,获取训练样本集。
在本实施例中,用于生成特征提取网络的方法的执行主体(例如图1所示的训练服务器)可以获取训练样本集。在这里,上述训练样本集中的训练样本可以包括如上述图2实施例所描述的方法所输出的训练样本。具体输出过程可以参见图2实施例的相关描述,在此不再赘述。在这里,上述训练样本中的训练对可以包括第一对象的特征信息、第一对象的聚合特征信息、第二对象的特征信息和第二对象的聚合特征信息。需要说明的是,训练对中的对象通常为两个,这两个对象可以均为用户;也可以均为内容;还可以一个为用户,另一个为内容。
步骤502,从训练样本集中选取训练样本,执行以下训练步骤:将选取的训练样本中的第一对象的特征信息、第二对象的特征信息、第一对象的聚合特征信息和第二对象的聚合特征信息分别输入到初始特征提取网络得到第一特征向量、第二特征向量、第一聚合特征向量和第二集合特征向量;拼接第一特征向量与第一聚合特征向量,得到第一融合特征向量;拼接第二特征向量与第二聚合特征向量,得到第二融合特征向量;将第一融合特征向量和第二融合特征向量输入初始全连接层,得到用于表征选取的训练样本中的对象是否具有关联关系的结果;将结果与对应的标注结果进行分析,确定结果损失值;将结果损失值与目标值进行比较;根据比较结果确定初始特征提取网络是否训练完成;响应于确定出初始特征提取网络训练完成,将初始特征提取网络确定为目标特征提取网络。
在本实施例中,上述执行主体可以从在步骤501中获取到的训练样本集中选取训练样本。其中,样本的选取方式和选取数量在本申请中并不限制。在选取训练样本之后,上述执行主体可以对已选取的训练样本设置标记,以表征该训练样本已选取。之后,可以执行以下训练步骤5021-步骤5027:
步骤5021,将选取的训练样本中的第一对象的特征信息、第二对象的特征信息、第一对象的聚合特征信息和第二对象的聚合特征信息分别输入到初始特征提取网络得到第一特征向量、第二特征向量、第一聚合特征向量和第二集合特征向量。
在这里,上述执行主体可以将选取的训练样本中的第一对象的特征信息输入到初始特征提取网络得到第一特征向量,将选取的训练样本中的第二对象的特征信息输入到上述初始特征提取网络得到第二特征向量,将选取的训练样本中的第一对象的聚合特征信息输入到上述初始特征提取网络得到第一聚合特征向量以及将选取的训练样本中的第二对象的聚合特征信息输入到上述初始特征提取网络得到第二聚合特征向量。
在这里,上述初始特征提取网络可以是各种具有提取特征功能的神经网络。例如,初始特征提取网络可以是包括至少一个卷积层的卷积神经网络,当然,可以理解的是,初始特征提取网络还可以包括至少一个池化层和/或至少一个激活函数层。
步骤5022,拼接第一特征向量与第一聚合特征向量,得到第一融合特征向量。
在这里,上述执行主体可以拼接上述第一特征向量与上述第一聚合特征向量,得到第一融合特征向量。例如,可以将第一聚合特征向量各个分量拼接在第一特征向量各个分量之后,或者,也可以将第一特征向量各个分量拼接在第一聚合特征向量各个分量之后。
步骤5023,拼接第二特征向量与第二聚合特征向量,得到第二融合特征向量。
在这里,上述执行主体可以拼接上述第二特征向量与上述第二聚合特征向量,得到第二融合特征向量。例如,可以将第二聚合特征向量各个分量拼接在第二特征向量各个分量之后,或者,也可以将第二特征向量各个分量拼接在第二聚合特征向量各个分量之后。
步骤5024,将第一融合特征向量和第二融合特征向量输入初始全连接层,得到用于表征选取的训练样本中的对象是否具有关联关系的结果。
在这里,上述执行主体可以将在步骤5022中拼接得到的第一融合特征向量和在步骤5023中拼接得到的第二融合特征向量输入初始全连接层,得到用于表征选取的训练样本中的训练对中的对象是否具有关联关系的结果。
步骤5025,将结果与对应的标注结果进行分析,确定结果损失值。
在这里,上述执行主体可以将在步骤5024中得到的结果与选取的训练样本中的标注结果进行分析,从而可以确定结果损失值。例如可以将得到的结果与对应的标注结果作为参数,输入指定的损失函数(loss function)中,从而可以计算得到两者之间损失值。
在本实施例中,损失函数通常是用来估量模型的预测值(如得到的结果)与真实值(如标注结果)的不一致程度。它是一个非负实值函数。一般情况下,损失函数越小,模型的鲁棒性就越好。损失函数可以根据实际需求来设置。
步骤5026,将结果损失值与目标值进行比较。
在这里,上述执行主体可以将在步骤5025中确定出的结果损失值与目标值进行比较。目标值一般可以用于表示预测值(即输出的结果)与真值(标注结果)之间的不一致程度的理想情况。也就是说,当结果损失值达到目标值时,可以认为预测值接近或近似真值。目标值可以根据实际需求来设置。
需要说明的是,若选取有多个(至少两个)样本,则上述执行主体可以将每个样本的结果损失值分别与目标值进行比较。从而可以确定每个样本的结果损失值是否达到目标值。
步骤5027,根据比较结果确定初始特征提取网络是否训练完成。
在这里,根据步骤5026中的比较结果,上述执行主体可以确定初始特征提取网络是否训练完成。作为示例,如果选取有多个样本,那么在每个样本的结果损失值均达到目标值的情况下,上述执行主体可以确定初始特征提取网络训练完成。再例如,上述执行主体可以统计结果损失值达到目标值的样本占选取的样本的比例。且在该比例达到预设样本比例(如98%),可以确定初始特征提取网络训练完成。
在本实施例中,若上述执行主体确定初始特征提取网络已训练完成,则可以继续执行步骤5028。
步骤5028,响应于确定出初始特征提取网络训练完成,将初始特征提取网络确定为目标特征提取网络。
在这里,若在步骤5027中确定出初始特征提取网络已训练完成,上述执行主体可以将该初始特征提取网络(即训练完成的初始特征提取网络)确定为目标特征提取网络。
在本实施例的一些可选的实现方式中,若在步骤5027确定出初始特征提取网络未训练完成,上述执行主体可以调整初始特征提取网络中的相关参数。例如可以采用反向传播算法或者随机梯度下降算法调整初始特征提取网络中的相关参数。之后,可以从上述训练样本集中重新选取训练样本,使用调整后的初始特征提取网络作为初始特征提取网络,继续执行步骤5021-步骤5028的训练步骤。需要说明的是,这里的选取方式在本申请中也不限制。例如在样本集中有大量样本的情况下,执行主体可以从中选取未被选取过的样本。
本申请的上述实施例提供的方法通过利用图2描述的用于输出信息的方法所输出的训练样本对特征提取网络进行训练,通过这种方式训练得到的特征提取网络可以更加准确地提取特征。此外,本实施例提供的方法能够得到一种特征提取网络。且有助于丰富模型的生成方式。
进一步参考图6,其示出了用于生成信息的方法的一个实施例的流程600。该用于生成信息的方法的流程600,包括以下步骤:
步骤601,获取目标用户的相关信息。
在本实施例中,用于生成信息的方法的执行主体(例如图1所示的生成服务器)可以获取目标用户的相关信息。上述目标用户可以是待对其进行信息推荐的用户,例如,可以是正在进行信息搜索的用户,也可以是正在进行信息浏览的用户。上述相关信息可以包括以下至少一项:用户特征信息和目标内容的内容特征信息。上述用户特征信息可以包括用户的画像信息。上述画像信息是根据用户人口统计学信息、社交关系、偏好习惯和消费行为等信息而抽象出的标签化画像信息。例如,画像信息可以包括年龄、性别、居住城市、品牌偏好信息和品类偏好信息。上述目标内容可以包括上述目标用户在预设时间段(例如,前一天或前一周)内执行的操作(例如,点击操作、浏览操作和搜索操作等)所针对的内容(例如,信息流、视频和物品信息等)。若内容为视频,则内容的特征向量可以包括视频名称、视频时长、视频类别、视频中出现的人物名称、视频中所包含的歌曲名称等。
步骤602,将相关信息输入特征提取模型中,得到与目标用户关联的关联特征向量。
在本实施例中,上述执行主体可以将在步骤601中获取到的相关信息输入特征提取模型中,得到与上述目标用户关联的关联特征向量。在这里,上述特征提取模型可以是采用如上述图5实施例所描述的方法而生成的。具体生成过程可以参见图5实施例的相关描述,在此不再赘述。
步骤603,基于关联特征向量,在候选特征向量集合中查找目标特征向量。
在本实施例中,上述执行主体可以基于在步骤602中得到的关联特征向量,在候选特征向量集合中查找目标特征向量。上述候选特征向量集合可以包括将候选用户的用户特征信息和候选内容的内容特征信息分别输入至上述特征提取模型中所得到的特征向量。上述候选用户可以包括在预设的第一历史时段(例如,过去一天、过去6个小时)内执行过预设操作(例如,购买操作、收藏操作等)的用户。上述候选内容可以包括上述候选用户在预设的第二历史时段(例如,过去两天)内执行预设操作所针对的内容。
在这里,上述执行主体可以利用预设的近似向量查找工具(例如,annoy工具和faiss工具等)在上述候选特征向量集合中查找与上述关联特征向量近似的预设数目个(例如,3个、5个等)特征向量,将查找到的特征向量确定为目标特征向量。上述近似向量查找工具通常可以查询任意一个词向量对应的k个与其最邻近的向量。
步骤604,将目标特征向量对应的内容作为推荐信息,生成推荐信息集合。
在本实施例中,上述执行主体可以将上述目标特征向量对应的内容作为推荐信息,从而生成推荐信息集合。
本申请的上述实施例提供的方法通过将获取到的目标用户的相关信息输入到利用图5描述的用于生成特征提取网络的方法所生成的特征提取网络中,从而可以更准确地提取特征,进一步提高了所生成的推荐信息集合的准确性。
进一步参考图7,作为对上述图2所示方法的实现,本申请提供了一种用于输出信息的装置的一个实施例,该装置实施例与图7所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图7所示,本实施例的用于输出信息的装置700包括:获取单元701、生成单元702、聚合单元703和输出单元704。其中,获取单元701被配置成获取用户针对内容的操作信息,利用操作信息,构建二分图,其中,二分图包括第一顶点集合和第二顶点集合,第一顶点集合中的顶点用于表征用户,第二顶点集合中的顶点用于表征内容,二分图中的边用于表征用户对内容执行了预设操作;生成单元702被配置成针对二分图中的每个顶点,以该顶点为起点,在二分图中进行随机游走,生成游走路径,对游走路径进行采样,生成训练对;聚合单元703被配置成针对训练对中的每个对象,以用于表征该对象的顶点为中心点,对中心点的相邻顶点进行采样,生成二分图的子图,在子图中,对相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息;输出单元704被配置成输出训练样本,其中,训练样本包括训练对中每个对象的特征信息和聚合特征信息。
在本实施例中,用于输出信息的装置700的获取单元701、生成单元702、聚合单元703和输出单元704的具体处理可以参考图2对应实施例中的步骤201、步骤202、步骤203和步骤204。
在本实施例的一些可选的实现方式中,上述聚合单元702可以通过如下方式对上述游走路径进行采样:上述聚合单元702可以利用跳字模型采样方法对上述游走路径进行采样。跳字模型通常是给定输入词来预测上下文。具体地,上述聚合单元702可以利用跳字模型,以窗口K的大小对上述游走路径进行采样,也就是说仅选指定输入词前后各两个词和输入此进行组合,生成训练对。需要说明的是,窗口K的大小可以是预先设定的。可以根据所训练的模型的具体应用,对窗口K的大小进行调整。
在本实施例的一些可选的实现方式中,上述训练样本还可以包括用于表征上述训练对中的对象是否具有关联关系的标注结果。作为示例,上述标注结果可以表示为0和1。若上述标注结果表示为0,则表征上述训练对中的对象不具有关联关系;若上述标注结果表示为1,则表征上述训练对中的对象具有关联关系。
进一步参考图8,作为对上述图5所示方法的实现,本申请提供了一种用于生成特征提取网络的装置的一个实施例,该装置实施例与图5所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图8所示,本实施例的用于生成特征提取网络的装置800包括:获取单元801和训练单元802。其中,获取单元801被配置成获取训练样本集,其中,训练样本包括如上述图2实施例描述的方法输出的训练样本,训练样本中的训练对包括第一对象的特征信息、第一对象的聚合特征信息、第二对象的特征信息和第二对象的聚合特征信息;训练单元802被配置成从训练样本集中选取训练样本,执行以下训练步骤:将选取的训练样本中的第一对象的特征信息、第二对象的特征信息、第一对象的聚合特征信息和第二对象的聚合特征信息分别输入到初始特征提取网络得到第一特征向量、第二特征向量、第一聚合特征向量和第二集合特征向量;拼接第一特征向量与第一聚合特征向量,得到第一融合特征向量;拼接第二特征向量与第二聚合特征向量,得到第二融合特征向量;将第一融合特征向量和第二融合特征向量输入初始全连接层,得到用于表征选取的训练样本中的对象是否具有关联关系的结果;将结果与对应的标注结果进行分析,确定结果损失值;将结果损失值与目标值进行比较;根据比较结果确定初始特征提取网络是否训练完成;响应于确定出初始特征提取网络训练完成,将初始特征提取网络确定为目标特征提取网络。
在本实施例中,用于生成特征提取网络的装置800的获取单元801和训练单元802的具体处理可以参考图5对应实施例中的步骤501和步骤502。
在本实施例的一些可选的实现方式中,上述用于生成特征提取网络的装置800还可以包括调整单元(图中未示出)。若确定出初始特征提取网络未训练完成,上述调整单元可以调整初始特征提取网络中的相关参数。例如可以采用反向传播算法或者随机梯度下降算法调整初始特征提取网络中的相关参数。之后,可以从上述训练样本集中重新选取训练样本,使用调整后的初始特征提取网络作为初始特征提取网络,继续执行训练步骤。
进一步参考图9,作为对上述图6所示方法的实现,本申请提供了一种用于输出信息的装置的一个实施例,该装置实施例与图6所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图9所示,本实施例的用于生成信息的装置900包括:获取单元901、输入单元902、查找单元903和生成单元904。其中,获取单元901被配置成获取目标用户的相关信息,其中,相关信息包括以下至少一项:用户特征信息和目标内容的内容特征信息,目标内容包括目标用户在预设时间段内执行的操作所针对的内容;输入单元902被配置成将相关信息输入采用如权利要求7或8的方法生成的特征提取模型中,得到与目标用户关联的关联特征向量;查找单元903被配置成基于关联特征向量,在候选特征向量集合中查找目标特征向量;生成单元904被配置成将目标特征向量对应的内容作为推荐信息,生成推荐信息集合。
在本实施例中,用于生成信息的装置900的获取单元901、输入单元902、查找单元903和生成单元904的具体处理可以参考图6对应实施例中的步骤601、步骤602、步骤603和步骤604。
下面参考图10,其示出了适于用来实现本公开的实施例的电子设备(例如图1中的输出服务器104、训练服务器105或生成服务器106)1000的结构示意图。图10示出的电子设备仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图10所示,电子设备1000可以包括处理装置(例如中央处理器、图形处理器等)1001,其可以根据存储在只读存储器(ROM)1002中的程序或者从存储装置1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理。在RAM 1003中,还存储有电子设备1000操作所需的各种程序和数据。处理装置1001、ROM 1002以及RAM 1003通过总线1004彼此相连。输入/输出(I/O)接口1005也连接至总线1004。
通常,以下装置可以连接至I/O接口1005:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置1006;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置1007;包括例如磁带、硬盘等的存储装置1008;以及通信装置1009。通信装置1009可以允许电子设备1000与其他设备进行无线或有线通信以交换数据。虽然图10示出了具有各种装置的电子设备1000,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图10中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置1009从网络上被下载和安装,或者从存储装置1008被安装,或者从ROM 1002被安装。在该计算机程序被处理装置1001执行时,执行本公开的实施例的方法中限定的上述功能。需要说明的是,本公开的实施例的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述输出服务器、训练服务器或生成服务器中所包含的;也可以是单独存在,而未装配入该输出服务器、训练服务器或生成服务器中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该输出服务器:获取用户针对内容的操作信息,利用操作信息,构建二分图,其中,二分图包括第一顶点集合和第二顶点集合,第一顶点集合中的顶点用于表征用户,第二顶点集合中的顶点用于表征内容,二分图中的边用于表征用户对内容执行了预设操作;针对二分图中的每个顶点,以该顶点为起点,在二分图中进行随机游走,生成游走路径,对游走路径进行采样,生成训练对;针对训练对中的每个对象,以用于表征该对象的顶点为中心点,对中心点的相邻顶点进行采样,生成二分图的子图,在子图中,对相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息;输出训练样本,其中,训练样本包括训练对中每个对象的特征信息和聚合特征信息。
或者使得该训练服务器:获取训练样本集,其中,训练样本包括如权利要求3的方法输出的训练样本,训练样本中的训练对包括第一对象的特征信息、第一对象的聚合特征信息、第二对象的特征信息和第二对象的聚合特征信息;从训练样本集中选取训练样本,执行以下训练步骤:将选取的训练样本中的第一对象的特征信息、第二对象的特征信息、第一对象的聚合特征信息和第二对象的聚合特征信息分别输入到初始特征提取网络得到第一特征向量、第二特征向量、第一聚合特征向量和第二集合特征向量;拼接第一特征向量与第一聚合特征向量,得到第一融合特征向量;拼接第二特征向量与第二聚合特征向量,得到第二融合特征向量;将第一融合特征向量和第二融合特征向量输入初始全连接层,得到用于表征选取的训练样本中的对象是否具有关联关系的结果;将结果与对应的标注结果进行分析,确定结果损失值;将结果损失值与目标值进行比较;根据比较结果确定初始特征提取网络是否训练完成;响应于确定出初始特征提取网络训练完成,将初始特征提取网络确定为目标特征提取网络。
或者使得该生成服务器:获取目标用户的相关信息,其中,相关信息包括以下至少一项:用户特征信息和目标内容的内容特征信息,目标内容包括目标用户在预设时间段内执行的操作所针对的内容;将相关信息输入特征提取模型中,得到与目标用户关联的关联特征向量;基于关联特征向量,在候选特征向量集合中查找目标特征向量;将目标特征向量对应的内容作为推荐信息,生成推荐信息集合。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的实施例的操作的计算机程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元、生成单元、聚合单元和输出单元。再例如,也可以描述为:一种处理器包括获取单元和训练单元。再例如,还可以描述为:一种处理器包括获取单元、输入单元、查找单元和生成单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,输出单元还可以被描述为“输出训练样本的单元”。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (14)
1.一种用于输出信息的方法,包括:
获取用户针对内容的操作信息,利用所述操作信息,构建二分图,其中,所述二分图包括第一顶点集合和第二顶点集合,所述第一顶点集合中的顶点用于表征用户,所述第二顶点集合中的顶点用于表征内容,所述二分图中的边用于表征用户对内容执行了预设操作;所述内容包括以下至少一项:信息流、物品信息和视频;所述操作信息包括以下至少一项:点击信息、浏览信息、收藏信息、搜索信息和购买信息;
针对所述二分图中的每个顶点,以该顶点为起点,在所述二分图中进行随机游走,生成游走路径,对所述游走路径进行采样,生成训练对;
针对所述训练对中的每个对象,以用于表征该对象的顶点为中心点,对所述中心点的相邻顶点进行采样,生成所述二分图的子图,在所述子图中,对所述相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息;
输出训练样本,其中,所述训练样本包括所述训练对中每个对象的特征信息和聚合特征信息。
2.根据权利要求1所述的方法,其中,所述对所述游走路径进行采样,包括:
利用跳字模型采样方法对所述游走路径进行采样。
3.根据权利要求1或2所述的方法,其中,所述训练样本还包括:用于表征所述训练对中的对象是否具有关联关系的标注结果。
4.一种用于输出信息的装置,包括:
获取单元,被配置成获取用户针对内容的操作信息,利用所述操作信息,构建二分图,其中,所述二分图包括第一顶点集合和第二顶点集合,所述第一顶点集合中的顶点用于表征用户,所述第二顶点集合中的顶点用于表征内容,所述二分图中的边用于表征用户对内容执行了预设操作;所述内容包括以下至少一项:信息流、物品信息和视频;所述操作信息包括以下至少一项:点击信息、浏览信息、收藏信息、搜索信息和购买信息;
生成单元,被配置成针对所述二分图中的每个顶点,以该顶点为起点,在所述二分图中进行随机游走,生成游走路径,对所述游走路径进行采样,生成训练对;
聚合单元,被配置成针对所述训练对中的每个对象,以用于表征该对象的顶点为中心点,对所述中心点的相邻顶点进行采样,生成所述二分图的子图,在所述子图中,对所述相邻顶点所表征的对象的特征信息进行聚合,将聚合得到的特征信息确定为该对象的聚合特征信息;
输出单元,被配置成输出训练样本,其中,所述训练样本包括所述训练对中每个对象的特征信息和聚合特征信息。
5.根据权利要求4所述的装置,其中,所述聚合单元进一步被配置成通过如下方式对所述游走路径进行采样:
利用跳字模型采样方法对所述游走路径进行采样。
6.根据权利要求4或5所述的装置,其中,所述训练样本还包括:用于表征所述训练对中的对象是否具有关联关系的标注结果。
7.一种用于生成特征提取网络的方法,包括:
获取训练样本集,其中,训练样本包括如权利要求1-3任一项所述的方法输出的训练样本,所述训练样本中的训练对包括第一对象的特征信息、第一对象的聚合特征信息、第二对象的特征信息和第二对象的聚合特征信息;
从所述训练样本集中选取训练样本,执行以下训练步骤:将选取的训练样本中的第一对象的特征信息、第二对象的特征信息、第一对象的聚合特征信息和第二对象的聚合特征信息分别输入到初始特征提取网络得到第一特征向量、第二特征向量、第一聚合特征向量和第二聚合特征向量;拼接所述第一特征向量与所述第一聚合特征向量,得到第一融合特征向量;拼接所述第二特征向量与所述第二聚合特征向量,得到第二融合特征向量;将所述第一融合特征向量和所述第二融合特征向量输入初始全连接层,得到用于表征选取的训练样本中的对象是否具有关联关系的结果;将结果与对应的标注结果进行分析,确定结果损失值;将结果损失值与目标值进行比较;根据比较结果确定初始特征提取网络是否训练完成;响应于确定出初始特征提取网络训练完成,将初始特征提取网络确定为目标特征提取网络。
8.根据权利要求7所述的方法,其中,所述方法还包括:
响应于确定出初始特征提取网络未训练完成,调整初始特征提取网络中的相关参数,以及从所述训练样本集中重新选取训练样本,使用调整后的初始特征提取网络作为初始特征提取网络,继续执行所述训练步骤。
9.一种用于生成特征提取网络的装置,包括:
获取单元,被配置成获取训练样本集,其中,训练样本包括如权利要求1-3任一项所述的方法输出的训练样本,所述训练样本中的训练对包括第一对象的特征信息、第一对象的聚合特征信息、第二对象的特征信息和第二对象的聚合特征信息;
训练单元,被配置成从所述训练样本集中选取训练样本,执行以下训练步骤:将选取的训练样本中的第一对象的特征信息、第二对象的特征信息、第一对象的聚合特征信息和第二对象的聚合特征信息分别输入到初始特征提取网络得到第一特征向量、第二特征向量、第一聚合特征向量和第二聚合特征向量;拼接所述第一特征向量与所述第一聚合特征向量,得到第一融合特征向量;拼接所述第二特征向量与所述第二聚合特征向量,得到第二融合特征向量;将所述第一融合特征向量和所述第二融合特征向量输入初始全连接层,得到用于表征选取的训练样本中的对象是否具有关联关系的结果;将结果与对应的标注结果进行分析,确定结果损失值;将结果损失值与目标值进行比较;根据比较结果确定初始特征提取网络是否训练完成;响应于确定出初始特征提取网络训练完成,将初始特征提取网络确定为目标特征提取网络。
10.根据权利要求9所述的装置,其中,所述装置还包括:
调整单元,被配置成响应于确定出初始特征提取网络未训练完成,调整初始特征提取网络中的相关参数,以及从所述训练样本集中重新选取训练样本,使用调整后的初始特征提取网络作为初始特征提取网络,继续执行所述训练步骤。
11.一种用于生成信息的方法,包括:
获取目标用户的相关信息,其中,所述相关信息包括以下至少一项:用户特征信息和目标内容的内容特征信息,所述目标内容包括所述目标用户在预设时间段内执行的操作所针对的内容;
将所述相关信息输入采用如权利要求7或8所述的方法生成的特征提取模型中,得到与所述目标用户关联的关联特征向量;
基于所述关联特征向量,在候选特征向量集合中查找目标特征向量;
将所述目标特征向量对应的内容作为推荐信息,生成推荐信息集合。
12.一种用于生成信息的装置,包括:
获取单元,被配置成获取目标用户的相关信息,其中,所述相关信息包括以下至少一项:用户特征信息和目标内容的内容特征信息,所述目标内容包括所述目标用户在预设时间段内执行的操作所针对的内容;
输入单元,被配置成将所述相关信息输入采用如权利要求7或8所述的方法生成的特征提取模型中,得到与所述目标用户关联的关联特征向量;
查找单元,被配置成基于所述关联特征向量,在候选特征向量集合中查找目标特征向量;
生成单元,被配置成将所述目标特征向量对应的内容作为推荐信息,生成推荐信息集合。
13.一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-3、7、8、11中任一所述的方法。
14.一种计算机可读介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求1-3、7、8、11中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911336806.7A CN111104599B (zh) | 2019-12-23 | 2019-12-23 | 用于输出信息的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911336806.7A CN111104599B (zh) | 2019-12-23 | 2019-12-23 | 用于输出信息的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111104599A CN111104599A (zh) | 2020-05-05 |
CN111104599B true CN111104599B (zh) | 2023-08-18 |
Family
ID=70423123
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911336806.7A Active CN111104599B (zh) | 2019-12-23 | 2019-12-23 | 用于输出信息的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111104599B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117859139A (zh) * | 2020-07-16 | 2024-04-09 | 华为技术有限公司 | 多图卷积协同过滤 |
CN111914180B (zh) * | 2020-08-19 | 2024-04-16 | 腾讯科技(深圳)有限公司 | 基于图结构的用户特征确定方法、装置、设备及介质 |
CN115495598A (zh) * | 2021-06-17 | 2022-12-20 | 腾讯科技(深圳)有限公司 | 一种对多媒体资源的推荐方法、装置、设备及存储介质 |
CN113780679B (zh) * | 2021-09-27 | 2024-04-16 | 深圳供电局有限公司 | 一种基于泛在电力物联网的负荷预测方法及装置 |
CN114647789A (zh) * | 2022-03-31 | 2022-06-21 | 腾讯科技(深圳)有限公司 | 一种推荐模型的确定方法和相关装置 |
Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103605990A (zh) * | 2013-10-23 | 2014-02-26 | 江苏大学 | 基于图聚类标签传播的集成多分类器融合分类方法和系统 |
CN105956146A (zh) * | 2016-05-12 | 2016-09-21 | 腾讯科技(深圳)有限公司 | 一种物品信息的推荐方法及装置 |
CN106339421A (zh) * | 2016-08-15 | 2017-01-18 | 北京集奥聚合科技有限公司 | 一种用户浏览行为的兴趣挖掘方法 |
CN106708978A (zh) * | 2016-12-07 | 2017-05-24 | 北京邮电大学 | 一种基于二分图的服务推荐方法及装置 |
CN107133262A (zh) * | 2017-03-30 | 2017-09-05 | 浙江大学 | 一种基于多影响嵌入的个性化poi推荐方法 |
CN107391619A (zh) * | 2017-07-05 | 2017-11-24 | 清华大学 | 针对不完整异构数据的自适应哈希方法及装置 |
CN109242633A (zh) * | 2018-09-20 | 2019-01-18 | 阿里巴巴集团控股有限公司 | 一种基于二部图网络的商品推送方法和装置 |
US10255550B1 (en) * | 2017-06-07 | 2019-04-09 | States Title, Inc. | Machine learning using multiple input data types |
CN109829063A (zh) * | 2019-01-29 | 2019-05-31 | 腾讯科技(深圳)有限公司 | 一种数据处理方法、装置及存储介质 |
CN109903103A (zh) * | 2017-12-07 | 2019-06-18 | 华为技术有限公司 | 一种推荐物品的方法和装置 |
CN110020866A (zh) * | 2019-01-22 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 一种识别模型的训练方法、装置及电子设备 |
US10460359B1 (en) * | 2019-03-28 | 2019-10-29 | Coupang, Corp. | Computer-implemented method for arranging hyperlinks on a graphical user-interface |
CN110472087A (zh) * | 2019-08-07 | 2019-11-19 | 腾讯科技(深圳)有限公司 | 一种表情图像推荐方法、装置、设备及介质 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8838512B2 (en) * | 2011-04-18 | 2014-09-16 | Microsoft Corporation | Random walk on query pattern graph for query task classification |
US10599981B2 (en) * | 2012-09-17 | 2020-03-24 | New York University | System and method for estimating audience interest |
US10706103B2 (en) * | 2018-01-30 | 2020-07-07 | Microsoft Technology Licensing, Llc | System and method for hierarchical distributed processing of large bipartite graphs |
US10681162B2 (en) * | 2018-06-03 | 2020-06-09 | Apple Inc. | Segmenting users based on user engagement |
-
2019
- 2019-12-23 CN CN201911336806.7A patent/CN111104599B/zh active Active
Patent Citations (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103605990A (zh) * | 2013-10-23 | 2014-02-26 | 江苏大学 | 基于图聚类标签传播的集成多分类器融合分类方法和系统 |
CN105956146A (zh) * | 2016-05-12 | 2016-09-21 | 腾讯科技(深圳)有限公司 | 一种物品信息的推荐方法及装置 |
CN106339421A (zh) * | 2016-08-15 | 2017-01-18 | 北京集奥聚合科技有限公司 | 一种用户浏览行为的兴趣挖掘方法 |
CN106708978A (zh) * | 2016-12-07 | 2017-05-24 | 北京邮电大学 | 一种基于二分图的服务推荐方法及装置 |
CN107133262A (zh) * | 2017-03-30 | 2017-09-05 | 浙江大学 | 一种基于多影响嵌入的个性化poi推荐方法 |
US10255550B1 (en) * | 2017-06-07 | 2019-04-09 | States Title, Inc. | Machine learning using multiple input data types |
CN107391619A (zh) * | 2017-07-05 | 2017-11-24 | 清华大学 | 针对不完整异构数据的自适应哈希方法及装置 |
CN109903103A (zh) * | 2017-12-07 | 2019-06-18 | 华为技术有限公司 | 一种推荐物品的方法和装置 |
CN109242633A (zh) * | 2018-09-20 | 2019-01-18 | 阿里巴巴集团控股有限公司 | 一种基于二部图网络的商品推送方法和装置 |
CN110020866A (zh) * | 2019-01-22 | 2019-07-16 | 阿里巴巴集团控股有限公司 | 一种识别模型的训练方法、装置及电子设备 |
CN109829063A (zh) * | 2019-01-29 | 2019-05-31 | 腾讯科技(深圳)有限公司 | 一种数据处理方法、装置及存储介质 |
US10460359B1 (en) * | 2019-03-28 | 2019-10-29 | Coupang, Corp. | Computer-implemented method for arranging hyperlinks on a graphical user-interface |
CN110472087A (zh) * | 2019-08-07 | 2019-11-19 | 腾讯科技(深圳)有限公司 | 一种表情图像推荐方法、装置、设备及介质 |
Non-Patent Citations (1)
Title |
---|
A Hybrid Recommendation Model Based on Weighted Bipartite Graph and Collaborative Filtering;Xiaohui Hu 等;《IEEE》;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN111104599A (zh) | 2020-05-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111104599B (zh) | 用于输出信息的方法和装置 | |
US11093857B2 (en) | Method and apparatus for generating information | |
WO2022121801A1 (zh) | 信息处理方法、装置和电子设备 | |
US20200401950A1 (en) | Method and apparatus for generating information | |
CN111340220B (zh) | 用于训练预测模型的方法和装置 | |
CN111738010B (zh) | 用于生成语义匹配模型的方法和装置 | |
CN111368973B (zh) | 用于训练超网络的方法和装置 | |
CN110688528A (zh) | 生成视频的分类信息的方法、装置、电子设备和介质 | |
JP2024503774A (ja) | 融合パラメータの特定方法及び装置、情報推奨方法及び装置、パラメータ測定モデルのトレーニング方法及び装置、電子機器、記憶媒体、並びにコンピュータプログラム | |
CN110619078B (zh) | 用于推送信息的方法和装置 | |
US11962662B2 (en) | Method and apparatus for pushing information | |
CN111783810A (zh) | 用于确定用户的属性信息的方法和装置 | |
US20230367972A1 (en) | Method and apparatus for processing model data, electronic device, and computer readable medium | |
CN113051933B (zh) | 模型训练方法、文本语义相似度确定方法、装置和设备 | |
CN113033707B (zh) | 视频分类方法、装置、可读介质及电子设备 | |
CN116909539A (zh) | 可视化编程方法、装置、设备和存储介质 | |
CN112417260B (zh) | 本地化推荐方法、装置及存储介质 | |
CN113255819B (zh) | 用于识别信息的方法和装置 | |
US20240104623A1 (en) | Method and apparatus for pushing information | |
CN113743973B (zh) | 分析市场热点趋势的方法和装置 | |
CN113159877B (zh) | 数据处理方法、装置、系统、计算机可读存储介质 | |
CN113592607A (zh) | 产品推荐方法、装置、存储介质及电子设备 | |
CN109857838B (zh) | 用于生成信息的方法和装置 | |
CN111767290B (zh) | 用于更新用户画像的方法和装置 | |
CN115687747A (zh) | 一种内容推荐方法及相关装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |