CN111552871A - 基于应用使用记录的信息推送方法、装置及相关设备 - Google Patents

Abstract

本公开实施例提供一种基于应用使用记录的信息推送方法、装置、电子设备及计算机可读介质。该方法包括：获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息；利用无监督神经网络模型对应用安装镜像信息进行编码，获得当前设备的应用安装镜像低维稠密向量；利用变换神经网络模型对应用安装镜像低维稠密向量、应用安装序列信息和应用卸载序列信息进行融合，获得当前设备的应用嵌入式向量；根据当前设备的应用嵌入式向量获得当前设备的推送信息；将推送信息推送至当前设备。本公开实施例的技术方案能够对应用安装镜像低维稠密向量联合应用安装序列信息和应用卸载序列信息进行深度融合，获得更加准确的当前设备的应用嵌入式向量。

Description

基于应用使用记录的信息推送方法、装置及相关设备

技术领域

本公开涉及计算机技术领域，具体而言，涉及一种基于应用使用记录的信息推送方法、装置、电子设备及计算机可读介质。

背景技术

用户使用手机应用的应用使用记录包含了有关用户兴趣偏好的大量信息。例如：如果一位用户在手机上安装了多个手机摄影类的应用，那么这位用户大概率对手机摄影非常感兴趣；如果一位用户近期刚刚安装了航空售票、宾馆预订相关的手机应用，这位用户则很有可能有近期飞行出差或旅行的计划。因此，用户使用手机应用的行为记录，有潜力在广告和推荐等场景下发挥巨大价值。

然而，从手机应用使用记录中挖掘信息的传统做法，依赖于特定于任务的人工特征工程。这不仅意味着效率低下，不同的下游特定任务需要重复进行针对性的特征工程；同时传统做法也很难取得最佳性能，特别是在缺少对于特定任务的深入理解的情况下。

因此，需要一种新的基于应用使用记录的信息推送方法、装置、电子设备及计算机可读介质。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开实施例提供一种基于应用使用记录的信息推送方法、装置、电子设备及计算机可读介质，进而能够自动地挖掘应用使用记录的内部关系，获得较为准确的当前设备的应用嵌入式向量，基于应用嵌入式向量生成命中率较高的推送信息并发送至当前设备。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

本公开实施例提出一种基于应用使用记录的信息推送方法，包括：获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息；利用无监督神经网络模型对所述应用安装镜像信息进行编码，获得所述当前设备的应用安装镜像低维稠密向量；利用变换神经网络模型对所述应用安装镜像低维稠密向量、所述应用安装序列信息和所述应用卸载序列信息进行融合处理，获得所述当前设备的应用嵌入式向量；根据所述当前设备的所述应用嵌入式向量获得所述当前设备的推送信息；将所述当前设备的推送信息推送至所述当前设备。

本公开实施例提出一种基于应用使用记录的信息推送装置，包括：设备数据获取模块，配置为获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息；镜像信息处理模块，配置为利用无监督神经网络模型对所述应用安装镜像信息进行编码，获得所述当前设备的应用安装镜像低维稠密向量；嵌入式向量生成模块，配置为利用变换神经网络模型对所述应用安装镜像低维稠密向量、所述应用安装序列信息和所述应用卸载序列信息进行融合处理，获得所述当前设备的应用嵌入式向量；推送信息生成模块，配置为根据所述当前设备的所述应用嵌入式向量获得所述当前设备的推送信息；推送信息发送模块，配置为将所述当前设备的所述推送信息推送至所述当前设备。

在示例性实施例中，嵌入式向量生成模块包括应用安装特征序列生成单元、应用卸载特征序列生成单元、第一特征生成单元和嵌入式向量生成单元。其中，应用安装特征序列生成单元配置为根据应用安装序列信息生成应用安装特征序列；应用卸载特征序列生成单元配置为根据应用卸载序列信息生成应用卸载特征序列；第一特征生成单元配置为根据应用安装镜像低维稠密向量、应用安装特征序列、应用卸载特征序列，获得第一特征信息；嵌入式向量生成单元配置为通过变换神经网络模型的编码器对第一特征信息进行编码，获得当前设备的应用嵌入式向量。

在示例性实施例中，应用安装序列信息包括应用安装对象序列、应用安装时间序列和应用安装类型序列；其中，应用安装特征序列生成单元包括安装类型嵌入式向量子单元、安装对象嵌入式向量子单元、安装时间嵌入式向量子单元和应用安装特征序列生成子单元。安装类型嵌入式向量子单元配置为对应用安装类型序列进行嵌入式表示，获得应用安装类型序列嵌入式向量；安装对象嵌入式向量子单元配置为对应用安装对象序列进行嵌入式表示，获得应用安装对象序列嵌入式向量；安装时间嵌入式向量子单元配置为对应用安装时间序列进行嵌入式表示，获得应用安装时间序列嵌入式向量；应用安装特征序列生成子单元配置为将应用安装类型序列嵌入式向量、应用安装对象序列嵌入式向量、应用安装时间序列嵌入式向量进行按位相加，获得应用安装特征序列。

在示例性实施例中，应用卸载序列信息包括应用卸载对象序列、应用卸载时间序列和应用卸载类型序列；其中，应用卸载特征序列生成单元包括卸载类型嵌入式向量子单元、卸载对象嵌入式向量子单元、卸载时间嵌入式向量子单元和应用卸载特征序列生成子单元。卸载类型嵌入式向量子单元配置为对应用卸载类型序列进行嵌入式表示，获得应用卸载类型序列嵌入式向量；卸载对象嵌入式向量子单元配置为对应用卸载对象序列进行嵌入式表示，获得应用卸载对象序列嵌入式向量；卸载时间应用嵌入式向量子单元配置为对应用卸载时间序列进行嵌入式表示，获得应用卸载时间序列嵌入式向量；应用卸载特征序列生成子单元配置为将应用卸载类型序列嵌入式向量、应用卸载时间序列嵌入式向量、应用卸载对象序列嵌入式向量进行按位相加，获得应用卸载特征序列。

在示例性实施例中，应用安装镜像信息还包括安装镜像类型序列；其中，第一特征生成单元包括安装镜像类型嵌入式向量子单元、安装镜像特征序列生成子单元和第一特征生成子单元。安装镜像类型嵌入式向量子单元配置为对安装镜像类型序列进行嵌入式表示，获得安装镜像类型序列嵌入式向量；安装镜像特征序列生成子单元配置为将安装镜像类型嵌入式向量和应用安装镜像低维稠密向量进行按位相加，获得应用安装镜像特征序列；第一特征生成子单元配置为根据应用安装镜像特征序列、应用安装特征序列和应用卸载特征序列，获得第一特征信息。

在示例性实施例中，变换神经网络模型还包括第一全连接神经网络；其中，嵌入式向量生成单元包括第一初始表示生成子单元、第二初始表示生成子单元和嵌入式向量生成子单元。第一初始表示生成子单元配置为通过变换神经网络模型的编码器对第一特征信息进行编码，获得第一初始表示；第二初始表示生成子单元配置为根据应用安装镜像低维稠密向量在第一特征信息中的位置对第一初始表示进行截取，获得第二初始表示；嵌入式向量生成子单元配置为通过变换神经网络模型的第一全连接神经网络对第二初始表示进行处理，获得当前设备的应用嵌入式向量。

在示例性实施例中，基于应用使用记录的信息推送装置还包括历史数据获取模块、历史镜像信息处理模块、历史应用嵌入式向量生成模块、变换神经网络模型训练模块和无监督神经网络模型训练模块。其中，历史数据获取模块配置为获取历史设备的历史应用安装镜像信息、历史应用安装序列信息和历史应用卸载序列信息；历史镜像信息处理模块配置为通过无监督神经网络模型的第二全连接神经网络对历史应用安装镜像信息进行编码，获得历史设备的预测应用安装镜像低维稠密向量；历史应用嵌入式向量生成模块配置为通过变换神经网络模型的编码器和第一全连接神经网络对预测应用安装镜像低维稠密向量、历史应用安装序列信息和历史应用卸载序列信息进行编码，获得历史设备的预测应用嵌入式向量；变换神经网络模型训练模块配置为根据预测应用嵌入式向量、历史应用安装序列信息和历史应用卸载序列信息调节变换神经网络模型的参数，获得训练完成的变换神经网络模型；无监督神经网络模型训练模块配置为根据预测应用嵌入式向量与历史应用安装镜像信息调节无监督神经网络模型的参数，获得训练完成的无监督神经网络模型。

在示例性实施例中，无监督神经网络模型还包括第三全连接神经网络；其中，无监督神经网络模型训练模块包括第一预测信息生成单元、第一损失函数生成单元和无监督神经网络模型训练单元。第一预测信息生成单元配置为通过无监督神经网络模型的第三全连接神经网络对预测应用嵌入式向量进行重构处理，获得第一预测信息；第一损失函数生成单元配置为根据历史应用安装镜像信息和第一预测信息生成第一损失函数；无监督神经网络模型训练单元配置为根据第一损失函数调节无监督神经网络模型的参数，获得训练完成的无监督神经网络模型。

在示例性实施例中，变换神经网络模型还包括解码器；变换神经网络模型训练模块包括应用安装查询信息生成单元、应用卸载查询信息生成单元、第二特征信息生成单元、第二预测信息生成单元、第二损失函数生成单元和变换神经网络模型训练单元。应用安装查询信息生成单元配置为根据历史应用安装序列信息生成应用安装查询信息；应用卸载查询信息生成单元配置为根据历史应用卸载序列信息生成应用卸载查询信息；第二特征信息生成单元配置为根据预测应用嵌入式向量、应用安装查询信息、应用卸载查询信息，获得第二特征信息；第二预测信息生成单元配置为通过变换神经网络模型的解码器对第二特征信息进行重构处理，获得第二预测信息；第二损失函数生成单元配置为根据第二预测信息、历史应用安装序列信息和历史应用卸载序列信息生成第二损失函数；变换神经网络模型训练单元配置为根据第二损失函数调节变换神经网络模型的参数，获得训练完成的变换神经网络模型。

在示例性实施例中，历史应用安装序列信息包括历史应用安装时间序列和历史应用安装类型序列；其中，应用安装查询信息生成单元包括历史安装类型嵌入式向量子单元、历史安装时间嵌入式向量子单元和应用安装查询信息生成子单元。历史安装类型嵌入式向量子单元配置为对历史应用安装类型序列进行嵌入式表示，获得历史应用安装类型序列嵌入式向量；历史安装时间嵌入式向量子单元配置为对历史应用安装时间序列进行嵌入式表示，获得历史应用安装时间序列嵌入式向量；应用安装查询信息生成子单元配置为将历史应用安装类型序列嵌入式向量、历史应用安装时间序列嵌入式向量进行按位相加，获得应用安装查询信息。

在示例性实施例中，历史应用卸载序列信息包括历史应用卸载时间序列和历史应用卸载类型序列；其中，应用卸载查询信息生成单元包括：历史卸载类型嵌入式向量子单元、历史卸载时间嵌入式向量子单元和应用卸载查询信息生成子单元。历史卸载类型嵌入式向量子单元配置为对历史应用卸载类型序列进行嵌入式表示，获得历史应用卸载类型序列嵌入式向量；历史卸载时间嵌入式向量子单元配置为对历史应用卸载时间序列进行嵌入式表示，获得历史应用卸载时间序列嵌入式向量；应用卸载查询信息生成子单元配置为将历史应用卸载类型序列嵌入式向量、历史应用卸载时间序列嵌入式向量进行按位相加，获得应用卸载查询信息。

本公开实施例提出一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当一个或多个程序被一个或多个处理器执行时，使得一个或多个处理器实现如上述实施例中的基于应用使用记录的信息推送方法。

本公开实施例提出一种计算机可读介质，其上存储有计算机程序，其特征在于，程序被处理器执行时实现如上述实施例中的基于应用使用记录的信息推送方法。

在本公开的一些实施例所提供的技术方案中，对应用安装镜像信息进行编码处理，获得当前设备的应用安装镜像低维稠密向量，并将应用安装镜像低维稠密向量联合应用安装序列信息、应用卸载序列信息进行融合处理，能够对应用安装镜像信息和应用安装序列信息、应用卸载序列信息进行压缩与深度融合，获得更加准确的当前设备的应用嵌入式向量。能够根据当前设备的应用嵌入式向量生成精准的推送信息并推送至当前设备，提高用户体验。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

在附图中：

图1示出了可以应用本公开实施例的基于应用使用记录的信息推送方法或装置的示例性系统架构的示意图；

图2示意性示出了根据本公开的一个实施例的基于应用使用记录的信息推送方法的流程图；

图3示出根据本公开实施例中基于应用使用记录的信息推送方法或装置的结构示意图；

图4示意性示出了根据本公开的一个实施例的基于应用使用记录的信息推送方法的流程图；

图5示出根据本公开实施例的第一特征信息的结构示意图；

图6示意性示出了根据本公开的一个实施例的基于应用使用记录的信息推送方法的流程图；

图7示意性示出了根据本公开的一个实施例的基于应用使用记录的信息推送方法的流程图；

图8示出根据本公开实施例的第二特征信息的结构示意图；

图9示意性示出了根据本公开的另一个实施例的基于应用使用记录的信息推送方法的流程图；

图10、11示意性示出了根据本公开的一个实施例的推送信息方法的展示界面图；

图12示意性示出了根据本公开的一个实施例的变换神经网络模型的结构图；

图13示意性示出了根据本公开的一个实施例的无监督神经网络模型的结构图；

图14示意性示出了根据本公开的一实施例的对象数据处理装置的框图；

图15示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个综合技术，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。

人工智能技术是一门综合学科，涉及领域广泛，既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术(Nature Language processing,NLP)以及机器学习/深度学习等几大方向。其中，自然语言处理研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。因此，这一领域的研究将涉及自然语言，即人们日常使用的语言，所以它与语言学的研究有着密切的联系。自然语言处理技术通常包括文本处理、语义理解、机器翻译、机器人问答、知识图谱等技术。在信息推送的应用领域中，基于设备的使用记录生成该设备的推送信息有助于根据设备使用者的偏好有目的地向其推送信息，信息推送是自然语言处理中一个重要的研究板块。相关技术中，设备的应用使用记录包括安装镜像、安装与卸载记录。其中，应用安装镜像指在某时刻某用户的设备(例如手机)上所有设备应用的集合。安装与卸载记录指某用户安装与卸载设备应用的记录。该记录包括：操作类型即安装或卸载、操作对象即设备应用标识(Identity，ID)、操作时间。

相关技术中，通常对安装镜像、安装和卸载记录分别进行建模，以分别获得安装镜像的应用嵌入式向量、安装和卸载记录的应用嵌入式向量。上述方式无法对安装镜像、安装和卸载记录两者之间的关联信息进行深度挖掘，以致获得的应用嵌入式向量的质量较低，进而影响生成的推送信息的推送质量。

因此，需要一种新的基于应用使用记录的信息推送方法、装置、电子设备及计算机可读介质。

图1示出了可以应用本公开实施例的基于应用使用记录的信息推送方法或装置的示例性系统架构的示意图。

如图1所示，系统架构100可以包括终端设备101、102、103中的一种或多种，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、便携式计算机、台式计算机、可穿戴设备、虚拟现实设备、智能家居等等。

服务器105可以是提供各种服务的服务器。例如终端设备103(也可以是终端设备101或102)向服务器105上传应用安装镜像信息、应用安装序列信息和应用卸载序列信息。服务器105可以获取终端设备103(当前设备)的应用安装镜像信息、应用安装序列信息和应用卸载序列信息；利用无监督神经网络模型对应用安装镜像信息进行编码，获得终端设备103的应用安装镜像低维稠密向量；利用变换神经网络模型对应用安装镜像低维稠密向量、应用安装序列信息和应用卸载序列信息进行融合处理，获得终端设备103的应用嵌入式向量；根据终端设备103的应用嵌入式向量获得终端设备103的推送信息；将终端设备103的推送信息推送至终端设备103。进而终端设备103可以向操作终端设备103的用户显示推送信息，或基于操作终端设备103的用户的操作行为对推送信息进行后续操作。

图2示意性示出了根据本公开的一个实施例的基于应用使用记录的信息推送方法的流程图。本公开实施例所提供的方法可以由任意具备计算处理能力的电子设备处理，例如上述图1实施例中的服务器105和/或终端设备102、103，在下面的实施例中，以服务器105为执行主体为例进行举例说明，但本公开并不限定于此。

如图2所示，本公开实施例提供的基于应用使用记录的信息推送方法可以包括以下步骤。

在步骤S210中，获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息。

本公开实施例中，当前设备例如终端设备101(也可以是终端设备102或103)。当前设备可以是一个(例如终端设备101)，也可以是多个(例如终端设备101、102、103)。当前设备的应用安装镜像信息指在某时刻当前设备中所有设备应用的集合，应用安装镜像信息可表示如下：

其中，U为当前设备的数量，M为设备应用的数量。对于当前设备u的安装镜像可由向量

表示，例如，x_um＝1表示当前设备u正安装有设备应用m。

当前设备的应用安装序列信息和应用卸载序列信息分别描述了当前设备的应用安装记录和应用卸载记录。其中，应用安装序列信息可包括应用安装对象序列和应用安装时间序列。应用安装对象序列和应用安装时间序列可分别表示如下：

其中，

表示当前设备u第i个安装的设备应用，

表示当前设备u在安装第i个安装的设备应用时的时间。I指应用安装序列信息中包括了I个安装操作。

在示例性实施例中，应用安装序列信息还可包括应用安装类型序列。应用安装类型序列描述了操作类型为安装的类型标识。应用安装类型序列的维度与应用安装对象序列、应用安装时间序列的维度相同，如上，当应用安装对象序列的维度为I时，应用安装类型序列的维度也为I。

当前设备的应用卸载序列信息可包括应用卸载对象序列和应用卸载时间序列。应用卸载对象序列和应用卸载时间序列可分别表示如下：

其中，

表示当前设备u第i个卸载的设备应用，

表示当前设备u在卸载第i个设备应用时的时间。I指应用卸载序列信息中包括了I个卸载操作。

在示例性实施例中，应用卸载序列信息还可包括应用卸载类型序列。应用卸载类型序列描述了操作类型为卸载的类型标识。应用卸载类型序列的维度与应用卸载对象序列、应用卸载时间序列的维度相同，如上，当应用卸载对象序列的维度为I时，应用卸载类型序列的维度也为I。

在步骤S220中，利用无监督神经网络模型对应用安装镜像信息进行编码，获得当前设备的应用安装镜像低维稠密向量。

本公开实施例中，应用安装镜像低维稠密向量是表征应用安装镜像信息的特性的低维向量嵌入式(Embedding)表示。应用嵌入式向量是通过一个低维的向量表示一个对象，该对象可以是一个词、一个商品等，在本公开实施例的设备应用使用记录的应用场景中，安装镜像的嵌入式向量用于通过一个低维的向量表示应用安装镜像信息。应用安装镜像低维稠密向量的向量中，每一维都表示文本的某种潜在的语法或语义特征。应用安装镜像低维稠密向量通过每一维度的信息共同描述了应用安装镜像信息。

本公开实施例中，无监督神经网络模型可为叠层自动编码机。自动编码机是一种无监督的神经网络模型，用于尽可能复现输入信号。它可以对无序的输入数据进行编码，并进一步用编码后的数据重构原始输入数据。自动编码机的输入向量与输出向量同维。叠层自动编码机即在自动编码机中增加中间隐藏层的数目(隐藏层的数目大于1)，从而获取更强的编码和重构能力。最低维度瓶颈层的输出可以作为降维后的特征。在一个实施例中，可通过隐形叠层自动编码机对应用安装镜像信息进行处理，获得当前设备的应用安装镜像低维稠密向量。在另一个实施例中，还可通过显性叠层自动编码机对应用安装镜像信息进行处理，获得当前设备的应用安装镜像低维稠密向量。该实施例能够提升模型训练的效率。显性叠层自动编码机的结构图可见图13所示。如图13所示，显性叠层自动编码机可包括编码部分1310和解码部分1320。编码部分用于对无序的输入数据进行编码，解码部分用于进一步根据编码后的数据重构原始输入数据。隐形叠层自动编码机仅包括编码部分。

图3示出根据本公开实施例中基于应用使用记录的信息推送方法或装置的结构示意图。如图3所示，无监督神经网络模型2可包括第二全连接神经网络21。可通过第二全连接神经网络21对当前设备u的应用安装镜像信息x_u进行处理，获得当前设备u的应用安装镜像低维稠密向量x⁽¹⁾。第二全连接神经网络21对应用安装镜像信息的处理过程可如下式所示：

x⁽¹⁾＝Leaky_ReLU(x_uW⁽¹⁾+b⁽¹⁾) (4)

其中W⁽¹⁾作为第二全连接神经网络21的权重，b⁽¹⁾为偏移向量。在本公开实施例中，W⁽¹⁾也作为全局共享的设备应用的应用嵌入式向量，即W⁽¹⁾＝W^a。

在步骤S230中，利用变换神经网络模型对应用安装镜像低维稠密向量、应用安装序列信息和应用卸载序列信息进行融合处理，获得当前设备的应用嵌入式向量。

本公开实施例中，可对应用安装序列信息、应用卸载序列信息进行嵌入式表示，以对应用安装镜像低维稠密向量、应用安装序列信息的嵌入式表示和应用卸载序列信息的嵌入式标识进行深度融合的处理，以获得当前设备的应用嵌入式向量。

其中，变换神经网络模型(Transformer模型)是基于注意力机制的深度神经网络模型。Transformer模型包括编码器和解码器结构。Transformer模型广泛应用于自然语言领域。

在示例性实施例中，如图3所示，可通过编码器31对应用安装镜像低维稠密向量、应用安装序列信息和应用卸载序列信息进行融合处理，获得当前设备的应用嵌入式向量

其中，编码器31可由多个堆叠的网络块组成，每个网络块由多头自注意力机制(Multi-Head Self-Attention)和前馈神经网络(Feed Forward Network)组成。多头自注意力机制指一类人工神经网络结构，其考虑一个序列内不同元素之间的关联关系，从而具备从一个序列提取多方面信息的能力。具体地，如图3所示，编码器31中，每个网络块311可由多个堆叠的网络块311组成，每个网络块311可包括多头自注意力机制3111和前馈神经网络3112。其中，每个网络块311还可包括残差连接和对层3113以进行规范化(Add&Normalize)，能够更好的优化深度网络。

在步骤S240中，根据当前设备的应用嵌入式向量获得当前设备的推送信息。

本公开实施例中，可离线生成当前设备的推送信息。也可在下游任务(例如具有信息推送功能的设备应用)调用本公开实施例的基于应用使用记录的信息推送方法时，实时生成当前设备的推送信息。

在步骤S250中，将当前设备的推送信息推送至当前设备。

本公开实施方式提供的基于应用使用记录的信息推送方法，对应用安装镜像信息进行编码处理，获得当前设备的应用安装镜像低维稠密向量，并将应用安装镜像低维稠密向量联合应用安装序列信息、应用卸载序列信息进行融合处理，能够对应用安装镜像信息和应用安装序列信息、应用卸载序列信息进行压缩与深度融合，获得更加准确的当前设备的应用嵌入式向量。能够根据当前设备的应用嵌入式向量生成精准的推送信息并推送至当前设备，提高用户体验。

在本公开部分实施例中，可将当前设备的推送信息推送至下游的应用软件中，例如手机管理软件，以便用户在使用手机管理软件时，浏览推送信息，提高用户的浏览体验。还可基于当前设备的应用嵌入式向量进行数据挖掘、用户挖掘，以获得具体场景的目标用户，提高获取的目标用户的命中率。

图4示意性示出了根据本公开的一个实施例的基于应用使用记录的信息推送方法的流程图。

如图4所示，本公开实施例提供的基于应用使用记录的信息推送方法可以包括以下步骤。

步骤S210，获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息。

步骤S220，利用无监督神经网络模型对应用安装镜像信息进行编码，获得当前设备的应用安装镜像低维稠密向量。

在步骤S231中，根据应用安装序列信息生成应用安装特征序列。

在示例性实施例中，应用安装序列信息可包括应用安装对象序列、应用安装时间序列和应用安装类型序列；其中，可对应用安装类型序列进行嵌入式表示，获得应用安装类型序列嵌入式向量；对应用安装对象序列进行嵌入式表示，获得应用安装对象序列嵌入式向量；对应用安装时间序列进行嵌入式表示，获得应用安装时间序列嵌入式向量；将应用安装类型序列嵌入式向量、应用安装对象序列嵌入式向量、应用安装时间序列嵌入式向量进行按位相加，获得应用安装特征序列。

其中，应用安装类型序列的应用嵌入式向量可为下述I维向量：

[wⁿ,...,wⁿ,...,wⁿ] (5)

应用安装对象序列中，若第i个元素

则该第i个元素

的应用嵌入式向量可表示为

应用安装时间序列中，若第i个元素

则该第i个元素

的应用嵌入式向量可表示为

在步骤S232中，根据应用卸载序列信息生成应用卸载特征序列。

在示例性实施例中，应用卸载序列信息可包括应用卸载对象序列、应用卸载时间序列和应用卸载类型序列；其中，可对应用卸载类型序列进行嵌入式表示，获得应用卸载类型序列嵌入式向量；对应用卸载对象序列进行嵌入式表示，获得应用卸载对象序列嵌入式向量；对应用卸载时间序列进行嵌入式表示，获得应用卸载时间序列嵌入式向量；将应用卸载类型序列嵌入式向量、应用卸载时间序列嵌入式向量、应用卸载对象序列嵌入式向量进行按位相加，获得应用卸载特征序列。

其中，应用卸载类型序列的应用嵌入式向量可为下述I维向量：

[w^l,...,w^l,...,w^l] (6)

应用卸载对象序列中，若第i个元素

则该第i个元素

的应用嵌入式向量可表示为

应用卸载时间序列中，若第i个元素

则该第i个元素

的应用嵌入式向量可表示为

在步骤S233中，根据应用安装镜像低维稠密向量、应用安装特征序列、应用卸载特征序列，获得第一特征信息。

本公开实施例中，可对应用安装镜像低维稠密向量、应用安装特征序列、应用卸载特征序列进行拼接，获得第一特征信息。图5示出根据本公开实施例的第一特征信息的结构示意图。如图5所示，对于当前设备u，安装镜像序列嵌入式向量可为e_x。

在示例性实施例中，应用安装镜像信息还包括安装镜像类型序列。可对安装镜像类型序列进行嵌入式表示，获得安装镜像类型序列嵌入式向量；将安装镜像类型嵌入式向量和应用安装镜像低维稠密向量进行按位相加，获得应用安装镜像特征序列；根据应用安装镜像特征序列、应用安装特征序列和应用卸载特征序列，获得第一特征信息。

本公开实施例中，安装镜像类型序列嵌入式向量可表示如下：

wⁿ＝[w^x,...,w^x,...,w^x] (7)

安装镜像类型序列嵌入式向量的维度与应用安装镜像低维稠密向量相同。其中，可将安装镜像类型嵌入式向量wⁿ和应用安装镜像低维稠密向量x⁽¹⁾进行按位相加，获得应用安装镜像特征序列e_x。

应用安装对象序列

应用安装对象序列嵌入式向量可为

应用安装时间序列

应用安装时间序列嵌入式向量可为

应用安装类型序列嵌入式向量可为[wⁿ,wⁿ,wⁿ]。其中，

表示当前设备u安装的第一个应用为标号为3的应用，

表示当前设备u安装第一个应用的时间为4。可对应用安装类型序列嵌入式向量[wⁿ,wⁿ,wⁿ]、应用安装对象序列嵌入式向量

应用安装时间序列嵌入式向量

进行按位相加，获得应用安装特征序列[e_n1,e_n2,e_n3]。

对于当前设备u，其应用卸载对象序列

应用卸载对象序列嵌入式向量可为

应用卸载时间序列

应用卸载时间序列嵌入式向量可为

应用卸载类型序列嵌入式向量可为

其中，

表示当前设备u卸载的第一个应用为标号为7的应用，

表示当前设备u卸载第一个应用的时间为8。可对应用卸载类型序列嵌入式向量[w^l,w^l,w^l]、应用卸载时间序列嵌入式向量

应用卸载对象序列嵌入式向量

进行按位相加，获得应用卸载特征序列[e_l1,e_l2,e_l3]。

其中，可对应用安装镜像特征序列e_x、应用安装特征序列[e_n1,e_n2,e_n3]、应用卸载特征序列[e_l1,e_l2,e_l3]进行拼接，获得第一特征信息。

在步骤S234中，通过变换神经网络模型的编码器对第一特征信息进行编码，获得当前设备的应用嵌入式向量。

本公开实施例中，变换神经网络模型可例如为图3中附图标记3所示。变换神经网络模型3可包括编码器31。在示例性实施例中，变换神经网络模型还包括第一全连接神经网络32；其中，可通过变换神经网络模型3的编码器31对第一特征信息进行处理，获得第一初始表示；根据应用安装镜像低维稠密向量在第一特征信息中的位置对第一初始表示进行截取，获得第二初始表示；通过变换神经网络模型3的第一全连接神经网络32对第二初始表示进行处理，获得当前设备的应用嵌入式向量

通过第一全连接神经网络32，可将信息降维至瓶颈层，获得当前设备的应用嵌入式向量

其中，在根据应用安装镜像低维稠密向量在第一特征信息中的位置对第一初始表示进行截取时，可截取第一初始表示中，与应用安装镜像低维稠密向量在第一特征信息中的位置相同位置的数据，获得第二初始表示。

第一全连接神经网络可为一层或多层，本公开对第一全连接神经网络的具体层数并不作特殊限定。

在步骤S240，根据当前设备的应用嵌入式向量获得当前设备的推送信息。

在步骤S250，将当前设备的推送信息推送至当前设备。

图6示意性示出了根据本公开的一个实施例的基于应用使用记录的信息推送方法的流程图。

如图6所示，本公开实施例提供的基于应用使用记录的信息推送方法可以包括以下步骤。

在步骤S610中，获取历史设备的历史应用安装镜像信息、历史应用安装序列信息和历史应用卸载序列信息。

本公开实施例中，历史设备可例如终端设备101(也可以是终端设备102或103)。历史设备可以是一个(例如终端设备101)，也可以是多个(例如终端设备101、102、103)。优选地，可获取亿级数量的历史设备的历史应用安装镜像信息、历史应用安装序列信息和历史应用卸载序列信息。历史应用安装镜像信息的表示方式与应用安装镜像信息类似，可例如表示为公式(1)所示。历史应用安装序列信息可包括历史应用安装对象序列和历史应用安装时间序列。历史应用安装对象序列和历史应用安装时间序列的表示方式可与应用安装对象序列和应用安装时间序列类似，可例如表示为公式(2)所示。

在步骤S620中，通过无监督神经网络模型的第二全连接神经网络对历史应用安装镜像信息进行编码，获得历史设备的预测应用安装镜像低维稠密向量。

本公开实施例中，如图3所示，可通过无监督神经网络模型2的第二全连接神经网络21对历史应用安装镜像信息进行编码，获得历史设备的预测应用安装镜像低维稠密向量。其中，第二全连接神经网络22通过公式(4)对历史应用安装镜像信息进行编码，获得历史设备的预测应用安装镜像低维稠密向量。

在步骤S630中，通过变换神经网络模型的编码器和第一全连接神经网络对预测应用安装镜像低维稠密向量、历史应用安装序列信息和历史应用卸载序列信息进行编码，获得历史设备的预测应用嵌入式向量。

本公开实施例中，如图3所示，可通过变换神经网络模型3的编码器31和第一全连接神经网络32对预测应用安装镜像低维稠密向量、历史应用安装序列信息和历史应用卸载序列信息进行编码，获得历史设备的预测应用嵌入式向量。

在步骤S640中，根据预测应用嵌入式向量、历史应用安装序列信息和历史应用卸载序列信息调节变换神经网络模型的参数，获得训练完成的变换神经网络模型。

本公开实施例中，可根据预测应用嵌入式向量、历史应用安装序列信息和历史应用卸载序列信息生成第一损失函数，以根据第一损失函数调节变换神经网络模型的参数，获得训练完成的变换神经网络模型。

在步骤S650中，根据预测应用嵌入式向量与历史应用安装镜像信息调节无监督神经网络模型的参数，获得训练完成的无监督神经网络模型。

本公开实施例中，可根据预测应用嵌入式向量与历史应用安装镜像信息生成第二损失函数，以根据第二损失函数调节无监督神经网络模型的参数，获得训练完成的无监督神经网络模型。

在示例性实施例中，无监督神经网络模型还可包括第三全连接神经网络；其中，可通过无监督神经网络模型的第三全连接神经网络对预测应用嵌入式向量进行处理，获得第一预测信息；根据历史应用安装镜像信息和第一预测信息生成第一损失函数；根据第一损失函数调节无监督神经网络模型的参数，获得训练完成的无监督神经网络模型。如图3所示，无监督神经网络模型2还包括第三全连接神经网络22。通过无监督神经网络模型2的第三全连接神经网络22对预测应用嵌入式向量进行处理，获得第一预测信息的过程可如下式表示：

x⁽⁴⁾＝Leaky_ReLU(x⁽³⁾W⁽⁴⁾+b⁽⁴⁾) (8)

其中，

为预测应用嵌入式向量。W⁽³⁾、W⁽⁴⁾分别为第三全连接神经网络22的第一层全连接层和第二全连接层的权重，b⁽³⁾、b⁽⁴⁾分别为第二全连接神经网络22的第一层全连接层和第二全连接层的偏移向量。此处仅为示例，本公开对第三全连接层的具体层数并不作特殊限定。

第一损失函数的计算方式可如下所示：

其中，D表示历史设备的数量。x_u为历史设备u的历史应用安装镜像信息。x⁽⁴⁾为第一预测信息。

在步骤S210，获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息。

在步骤S220，利用无监督神经网络模型对应用安装镜像信息进行编码，获得当前设备的应用安装镜像低维稠密向量。

在步骤S230，利用变换神经网络模型对应用安装镜像低维稠密向量、,应用安装序列信息和应用卸载序列信息进行融合处理，获得当前设备的应用嵌入式向量。

在步骤S240，根据当前设备的应用嵌入式向量获得当前设备的推送信息。

在步骤S250，将所当前设备的推送信息推送至当前设备。

图7示意性示出了根据本公开的一个实施例的基于应用使用记录的信息推送方法的流程图。

如图7所示，变换神经网络模型还包括解码器，本公开实施例提供的基于应用使用记录的信息推送方法可以包括以下步骤。

在步骤S610，获取历史设备的历史应用安装镜像信息、历史应用安装序列信息和历史应用卸载序列信息。

在步骤S620，通过无监督神经网络模型的第二全连接神经网络对历史应用安装镜像信息进行编码，获得历史设备的预测应用安装镜像低维稠密向量。

在步骤S630，通过变换神经网络模型的编码器和第一全连接神经网络对预测应用安装镜像低维稠密向量、历史应用安装序列信息和历史应用卸载序列信息进行编码，获得历史设备的预测应用嵌入式向量。

在步骤S641中，根据历史应用安装序列信息生成应用安装查询信息。

其中，历史应用安装类型序列可与应用安装类型序列相同，历史应用安装类型序列的维度与历史应用安装序列信息的维度相同。历史应用安装类型序列嵌入式向量可如公式(5)所示。

在步骤S642中，根据历史应用卸载序列信息生成应用卸载查询信息。

其中，历史应用卸载类型序列可与应用卸载类型序列相同，历史应用卸载类型序列的维度与历史应用卸载序列信息的维度相同。历史应用卸载类型序列嵌入式向量可如公式(6)所示。

在步骤S643中，根据预测应用嵌入式向量、应用安装查询信息、应用卸载查询信息，获得第二特征信息。

本公开实施例中，可对预测应用嵌入式向量、应用安装查询信息、应用卸载查询信息进行拼接，获得第二特征信息。图12示意性示出了根据本公开的一个实施例的变换神经网络模型的结构图。如图12所示，变换神经网络模型可例如为transformer模型结构。Transformer模型结构包括编码器与解码器。在编码器或解码器中，放缩的点积注意力机制(scaled dot-product attention)通过询问(Queries)与键(Keys)的相似性程度来确定键值(Values)的权重分布。本公开实施例在编码器的键与键值上拼接上应用安装镜像信息，在解码器的键与键值上拼接上当前设备(或历史设备)的嵌入式向量，能够将应用安装镜像信息、当前设备(或历史设备)的嵌入式向量、应用安装序列信息(或历史应用安装序列信息)和应用卸载序列信息(或历史应用卸载序列信息)进行深度融合，提高生产的应用嵌入式向量的质量。

图8示出根据本公开实施例的第二特征信息的结构示意图。如图8所示，在示例性实施例中，历史应用安装序列信息可包括历史应用安装时间序列和历史应用安装类型序列；其中，可对历史应用安装类型序列进行嵌入式表示，获得历史应用安装类型序列嵌入式向量；对历史应用安装时间序列进行嵌入式表示，获得历史应用安装时间序列嵌入式向量；将历史应用安装类型序列嵌入式表示、历史应用安装时间序列嵌入式向量进行按位相加，获得应用安装查询信息。

如图8所示，历史应用安装时间序列

的嵌入式向量可为

历史应用安装类型序列嵌入式向量可为[wⁿ,wⁿ,wⁿ]。可对历史应用安装类型序列嵌入式向量[wⁿ,wⁿ,wⁿ]、历史应用安装时间序列嵌入式向量

进行按位相加，获得应用安装查询信息[e′_n1,e′_n2,e′_n3]。

在示例性实施例中，历史应用卸载序列信息可包括历史应用卸载时间序列和历史应用卸载类型序列；其中，可对历史应用卸载类型序列进行嵌入式表示，获得历史应用卸载类型序列嵌入式向量；对历史应用卸载时间序列进行嵌入式表示，获得历史应用卸载时间序列嵌入式向量；将历史应用卸载类型序列嵌入式表示、历史应用卸载时间序列嵌入式向量进行按位相加，获得应用卸载查询信息。

如图8所示，历史应用卸载时间序列

的嵌入式向量可为

历史应用卸载类型序列嵌入式向量可为

可对历史应用卸载类型序列嵌入式向量

历史应用卸载时间序列嵌入式向量

进行按位相加，获得应用卸载查询信息

其中，对于历史设备u，可对预测应用嵌入式向量

应用安装查询信息[e′_n1,e′_n2,e′_n3]、应用卸载查询信息[e_l′₁,e_l′₂,e_l′₃]进行拼接，获得第二特征信息。

在步骤S644中，通过变换神经网络模型的解码器对第二特征信息进行处理，获得第二预测信息。

如图3所示，变换神经网络模型3的解码器33可由多个堆叠的网络块331组成，每个网络块由多头自注意力机制(Multi-Head Self-Attention)和前馈神经网络(FeedForward Network)组成。每个网络块331可包括多头自注意力机制3311和前馈神经网络3312。其中，每个网络块331还可包括残差连接和对层3313以进行规范化(Add&Normalize)，能够更好的优化深度网络。

在步骤S645中，根据第二预测信息、历史应用安装序列信息和历史应用卸载序列信息生成第二损失函数。

本公开实施例中，第二预测信息可为解码器对历史应用安装序列信息和历史应用卸载序列信息进行的重构，其中，可以第二预测信息为预测值，历史应用安装序列信息和历史应用卸载序列信息为期望值，构建第二损失函数。第二损失函数可例如但不限于为交叉熵损失函数。

在步骤S646中，根据第二损失函数调节变换神经网络模型的参数，获得训练完成的变换神经网络模型。

在步骤S650中，根据预测应用嵌入式向量与历史应用安装镜像信息调节无监督神经网络模型的参数，获得训练完成的无监督神经网络模型。

在步骤S210，获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息。

在步骤S220，利用无监督神经网络模型对应用安装镜像信息进行编码，获得当前设备的应用安装镜像低维稠密向量。

在步骤S230，利用变换神经网络模型对应用安装镜像低维稠密向量、,应用安装序列信息和应用卸载序列信息进行融合处理，获得当前设备的应用嵌入式向量。

在步骤S240，根据当前设备的应用嵌入式向量获得当前设备的推送信息。

在步骤S250，将所当前设备的推送信息推送至当前设备。

根据本公开实施例的基于应用使用记录的信息推送方法，通过无监督神经网络模型对应用安装镜像信息进行编码，获得当前设备的应用安装镜像低维稠密向量，并通过变换神经网络模型对应用安装镜像低维稠密向量和应用安装序列信息、应用卸载序列信息进行联合处理，能够对应用安装镜像信息和应用安装序列信息、应用卸载序列信息进行压缩与深度融合，获得更加准确的当前设备的应用嵌入式向量。实现把尽可能多的对象信息压缩在输出层，生成具有较高质量的当前设备的应用嵌入式向量。能够根据当前设备的应用嵌入式向量生成精准的推送信息并推送至当前设备，提高用户体验。

图9示意性示出了根据本公开的另一个实施例的基于应用使用记录的信息推送方法的流程图。如图9所示，本公开实施例的基于应用使用记录的信息推送方法可以包括以下步骤。

在步骤S910，获取历史设备的历史应用安装镜像信息、历史应用安装序列信息和历史应用卸载序列信息。

在步骤S920中，根据历史应用安装镜像信息、历史应用安装序列信息和历史应用卸载序列信息训练变换神经网络模型和无监督神经网络模型。

本公开实施例中，变换神经网络模型和无监督神经网络模型的训练过程可采用与步骤S610至步骤S650、步骤S641至步骤S646类似的步骤。

在步骤S930中，对当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息进行预处理。

在步骤S940中，调用变换神经网络模型和无监督神经网络模型对当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息进行处理，获得当前设备的应用嵌入式向量。

在步骤S950，通过接口接收下游任务的调用指令，通过变换神经网络模型和无监督神经网络模型对调用指令中的应用安装镜像信息、应用安装序列信息和应用卸载序列信息，获得响应于该调用指令的应用嵌入式向量。

其中，下游任务可例如为设备端中的内置软件生成。该内置软件可根据步骤S950生成的应用嵌入式向量生成推送信息，并在设备端中显示该推送信息。图10、11示意性示出了根据本公开的一个实施例的推送信息的展示界面图。

以下介绍本公开的装置实施例，可以用于执行本公开上述的基于应用使用记录的信息推送方法。对于本公开装置实施例中未披露的细节，请参照本公开上述的基于应用使用记录的信息推送方法的实施例。

图14示意性示出了根据本公开的一实施例的基于应用使用记录的信息推送装置的框图。

参照图14所示，根据本公开的一个实施例的基于应用使用记录的信息推送装置1400，可以包括：设备数据获取模块1410、镜像信息处理模块1420、嵌入式向量生成模块1430、推送信息生成模块1440和推送信息发送模块1450。

设备数据获取模块1410可以配置为获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息。

镜像信息处理模块1420可以配置为利用无监督神经网络模型对应用安装镜像信息进行编码，获得当前设备的应用安装镜像低维稠密向量。

嵌入式向量生成模块1430可以配置为利用变换神经网络模型对应用安装镜像低维稠密向量、应用安装序列信息、应用卸载序列信息进行融合处理，获得当前设备的应用嵌入式向量。

推送信息生成模块1440可以配置为根据当前设备的应用嵌入式向量生成当前设备的推送信息。

推送信息发送模块1450可以配置为将当前设备的推送信息推送至当前设备。

在示例性实施例中，嵌入式向量生成模块1430可包括应用安装特征序列生成单元、应用卸载特征序列生成单元、第一特征生成单元和嵌入式向量生成单元。其中，应用安装特征序列生成单元可配置为根据应用安装序列信息生成应用安装特征序列；应用卸载特征序列生成单元可配置为根据应用卸载序列信息生成应用卸载特征序列；第一特征生成单元可配置为根据应用安装镜像低维稠密向量、应用安装特征序列、应用卸载特征序列，获得第一特征信息；嵌入式向量生成单元可配置为通过变换神经网络模型的编码器对第一特征信息进行编码，获得当前设备的应用嵌入式向量。

在示例性实施例中，应用安装序列信息可包括应用安装对象序列、应用安装时间序列和应用安装类型序列；其中，应用安装特征序列生成单元可包括安装类型嵌入式向量子单元、安装对象嵌入式向量子单元、安装时间嵌入式向量子单元和应用安装特征序列生成子单元。安装类型嵌入式向量子单元可配置为对应用安装类型序列进行嵌入式表示，获得应用安装类型序列嵌入式向量；安装对象嵌入式向量子单元可配置为对应用安装对象序列进行嵌入式表示，获得应用安装对象序列嵌入式向量；安装时间嵌入式向量子单元可配置为对应用安装时间序列进行嵌入式表示，获得应用安装时间序列嵌入式向量；应用安装特征序列生成子单元可配置为将应用安装类型序列嵌入式向量、应用安装对象序列嵌入式向量、应用安装时间序列嵌入式向量进行按位相加，获得应用安装特征序列。

在示例性实施例中，应用卸载序列信息可包括应用卸载对象序列、应用卸载时间序列和应用卸载类型序列；其中，应用卸载特征序列生成单元可包括卸载类型嵌入式向量子单元、卸载对象嵌入式向量子单元、卸载时间嵌入式向量子单元和应用卸载特征序列生成子单元。卸载类型嵌入式向量子单元可配置为对应用卸载类型序列进行嵌入式表示，获得应用卸载类型序列嵌入式向量；卸载对象嵌入式向量子单元可配置为对应用卸载对象序列进行嵌入式表示，获得应用卸载对象序列嵌入式向量；卸载时间嵌入式向量子单元可配置为对应用卸载时间序列进行嵌入式表示，获得应用卸载时间序列嵌入式向量；应用卸载特征序列生成子单元可配置为将应用卸载类型序列嵌入式向量、应用卸载时间序列嵌入式向量、应用卸载对象序列嵌入式向量进行按位相加，获得应用卸载特征序列。

在示例性实施例中，应用安装镜像信息还可包括安装镜像类型序列；其中，第一特征生成单元可包括安装镜像类型嵌入式向量子单元、安装镜像特征序列生成子单元和第一特征生成子单元。安装镜像类型嵌入式向量子单元可配置为对安装镜像类型序列进行嵌入式表示，获得安装镜像类型序列嵌入式向量；安装镜像特征序列生成子单元可配置为将安装镜像类型嵌入式向量和应用安装镜像低维稠密向量进行按位相加，获得应用安装镜像特征序列；第一特征生成子单元可配置为根据应用安装镜像特征序列、应用安装特征序列和应用卸载特征序列，获得第一特征信息。

在示例性实施例中，变换神经网络模型还可包括第一全连接神经网络；其中，嵌入式向量生成单元包括第一初始表示生成子单元、第二初始表示生成子单元和嵌入式向量生成子单元。第一初始表示生成子单可元配置为通过变换神经网络模型的编码器对第一特征信息进行处理，获得第一初始表示；第二初始表示生成子单元可配置为根据应用安装镜像低维稠密向量在第一特征信息中的位置对第一初始表示进行截取，获得第二初始表示；嵌入式向量生成子单元可配置为通过变换神经网络模型的第一全连接神经网络对第二初始表示进行处理，获得当前设备的应用嵌入式向量。

在示例性实施例中，对象数据处理装置1400还可包括历史数据获取模块、历史镜像信息处理模块、历史应用嵌入式向量生成模块、变换神经网络模型训练模块和无监督神经网络模型训练模块。其中，历史数据获取模块可配置为获取历史设备的历史应用安装镜像信息、历史应用安装序列信息和历史应用卸载序列信息；历史镜像信息处理模块可配置为通过无监督神经网络模型的第二全连接神经网络对历史应用安装镜像信息进行处理，获得历史设备的预测应用安装镜像低维稠密向量；历史应用嵌入式向量生成模块可配置为通过变换神经网络模型的编码器和第一全连接神经网络对预测应用安装镜像低维稠密向量、历史应用安装序列信息和历史应用卸载序列信息进行处理，获得历史设备的预测应用嵌入式向量；变换神经网络模型训练模块可配置为根据预测应用嵌入式向量、历史应用安装序列信息和历史应用卸载序列信息调节变换神经网络模型的参数，获得训练完成的变换神经网络模型；无监督神经网络模型训练模块可配置为根据预测应用嵌入式向量与历史应用安装镜像信息调节无监督神经网络模型的参数，获得训练完成的无监督神经网络模型。

在示例性实施例中，无监督神经网络模型还可包括第三全连接神经网络；其中，无监督神经网络模型训练模块可包括第一预测信息生成单元、第一损失函数生成单元和无监督神经网络模型训练单元。第一预测信息生成单元可配置为通过无监督神经网络模型的第三全连接神经网络对预测应用嵌入式向量进行处理，获得第一预测信息；第一损失函数生成单元可配置为根据历史应用安装镜像信息和第一预测信息生成第一损失函数；无监督神经网络模型训练单元可配置为根据第一损失函数调节无监督神经网络模型的参数，获得训练完成的无监督神经网络模型。

在示例性实施例中，变换神经网络模型还可包括解码器；变换神经网络模型训练模块可包括应用安装查询信息生成单元、应用卸载查询信息生成单元、第二特征信息生成单元、第二预测信息生成单元、第二损失函数生成单元和变换神经网络模型训练单元。应用安装查询信息生成单元可配置为根据历史应用安装序列信息生成应用安装查询信息；应用卸载查询信息生成单元可配置为根据历史应用卸载序列信息生成应用卸载查询信息；第二特征信息生成单元可配置为根据预测应用嵌入式向量、应用安装查询信息、应用卸载查询信息，获得第二特征信息；第二预测信息生成单元可配置为通过变换神经网络模型的解码器对第二特征信息进行处理，获得第二预测信息；第二损失函数生成单元可配置为根据第二预测信息、历史应用安装序列信息和历史应用卸载序列信息生成第二损失函数；变换神经网络模型训练单元可配置为根据第二损失函数调节变换神经网络模型的参数，获得训练完成的变换神经网络模型。

在示例性实施例中，历史应用安装序列信息可包括历史应用安装时间序列和历史应用安装类型序列；其中，应用安装查询信息生成单元可包括历史安装类型嵌入式向量子单元、历史安装时间嵌入式向量子单元和应用安装查询信息生成子单元。历史安装类型嵌入式向量子单元可配置为对历史应用安装类型序列进行嵌入式表示，获得历史应用安装类型序列嵌入式向量；历史安装时间嵌入式向量子单元可配置为对历史应用安装时间序列进行嵌入式表示，获得历史应用安装时间序列嵌入式向量；应用安装查询信息生成子单元可配置为将历史应用安装类型序列嵌入式向量、历史应用安装时间序列嵌入式向量进行按位相加，获得应用安装查询信息。

在示例性实施例中，历史应用卸载序列信息可包括历史应用卸载时间序列和历史应用卸载类型序列；其中，应用卸载查询信息生成单元可包括：历史卸载类型嵌入式向量子单元、历史卸载时间嵌入式向量子单元和应用卸载查询信息生成子单元。历史卸载类型嵌入式向量子单元可配置为对历史应用卸载类型序列进行嵌入式表示，获得历史应用卸载类型序列嵌入式向量；历史卸载时间嵌入式向量子单元可配置为对历史应用卸载时间序列进行嵌入式表示，获得历史应用卸载时间序列嵌入式向量；应用卸载查询信息生成子单元可配置为将历史应用卸载类型序列嵌入式向量、历史应用卸载时间序列嵌入式向量进行按位相加，获得应用卸载查询信息。

在本公开的一些实施例提供的对象数据处理装置，对应用安装镜像信息进行编码处理，获得当前设备的应用安装镜像低维稠密向量，并将应用安装镜像低维稠密向量联合应用安装序列信息、应用卸载序列信息进行融合处理，能够对应用安装镜像信息和应用安装序列信息、应用卸载序列信息进行压缩与深度融合，获得更加准确的当前设备的应用嵌入式向量。能够根据当前设备的应用嵌入式向量生成精准的推送信息并推送至当前设备，提高用户体验。

图15示出了适于用来实现本公开实施例的电子设备的计算机系统的结构示意图。需要说明的是，图15示出的电子设备的计算机系统1500仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图15所示，计算机系统1500包括中央处理单元(CPU)1501，其可以根据存储在只读存储器(ROM)1502中的程序或者从储存部分1508加载到随机访问存储器(RAM)1503中的程序而执行各种适当的动作和处理。在RAM 1503中，还存储有系统操作所需的各种程序和数据。CPU1501、ROM 1502以及RAM 1503通过总线1504彼此相连。输入/输出(I/O)接口1505也连接至总线1504。

以下部件连接至I/O接口1505：包括键盘、鼠标等的输入部分1506；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1507；包括硬盘等的储存部分1508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1509。通信部分1509经由诸如因特网的网络执行通信处理。驱动器1510也根据需要连接至I/O接口1505。可拆卸介质1511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1510上，以便于从其上读出的计算机程序根据需要被安装入储存部分1508。

特别地，根据本公开的实施例，下文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分1509从网络上被下载和安装，和/或从可拆卸介质1511被安装。在该计算机程序被中央处理单元(CPU)1501执行时，执行本申请的系统中限定的各种功能。

需要说明的是，本公开所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体是架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本公开实施例中所涉及到的模块和/或单元和/或子单元可以通过软件的方式实现，也可以通过硬件的方式来实现，所描述的模块和/或单元和/或子单元也可以设置在处理器中。其中，这些模块和/或单元和/或子单元的名称在某种情况下并不构成对该模块和/或单元和/或子单元本身的限定。

作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现如下述实施例中所述的方法。例如，所述的电子设备可以实现如图2或图4或图6或图7或图9所示的各个步骤。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元或者子单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元或者子单元的特征和功能可以在一个模块或者单元或者子单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元或者子单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本公开实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由下面的权利要求指出。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (14)

1.一种基于应用使用记录的信息推送方法，其特征在于，包括：

获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息；

利用无监督神经网络模型对所述应用安装镜像信息进行编码，获得所述当前设备的应用安装镜像低维稠密向量；

利用变换神经网络模型对所述应用安装镜像低维稠密向量、所述应用安装序列信息和所述应用卸载序列信息进行融合处理，获得所述当前设备的应用嵌入式向量；

根据所述当前设备的所述应用嵌入式向量获得所述当前设备的推送信息；

将所述当前设备的所述推送信息推送至所述当前设备。

2.如权利要求1的方法，其特征在于，利用变换神经网络模型对所述应用安装镜像低维稠密向量、所述应用安装序列信息和所述应用卸载序列信息进行融合处理，获得所述当前设备的应用嵌入式向量，包括：

根据所述应用安装序列信息生成应用安装特征序列；

根据所述应用卸载序列信息生成应用卸载特征序列；

根据所述应用安装镜像低维稠密向量、所述应用安装特征序列、所述应用卸载特征序列，获得第一特征信息；

通过所述变换神经网络模型的编码器对所述第一特征信息进行编码，获得所述当前设备的所述应用嵌入式向量。

3.如权利要求2的方法，其特征在于，所述应用安装序列信息包括应用安装对象序列、应用安装时间序列和应用安装类型序列；其中，根据所述应用安装序列信息生成应用安装特征序列包括：

对所述应用安装类型序列进行嵌入式表示，获得应用安装类型序列嵌入式向量；

对所述应用安装对象序列进行嵌入式表示，获得应用安装对象序列嵌入式向量；

对所述应用安装时间序列进行嵌入式表示，获得应用安装时间序列嵌入式向量；

将所述应用安装类型序列嵌入式向量、所述应用安装对象序列嵌入式向量、所述应用安装时间序列嵌入式向量进行按位相加，获得所述应用安装特征序列。

4.如权利要求2的方法，其特征在于，所述应用卸载序列信息包括应用卸载对象序列、应用卸载时间序列和应用卸载类型序列；其中，根据所述应用卸载序列信息生成应用卸载特征序列包括：

对所述应用卸载类型序列进行嵌入式表示，获得应用卸载类型序列嵌入式向量；

对所述应用卸载对象序列进行嵌入式表示，获得应用卸载对象序列嵌入式向量；

对所述应用卸载时间序列进行嵌入式表示，获得应用卸载时间序列嵌入式向量；

将所述应用卸载类型序列嵌入式向量、所述应用卸载时间序列嵌入式向量、所述应用卸载对象序列嵌入式向量进行按位相加，获得所述应用卸载特征序列。

5.如权利要求2的方法，其特征在于，所述应用安装镜像信息还包括安装镜像类型序列；其中，根据所述应用安装镜像低维稠密向量、所述应用安装特征序列、所述应用卸载特征序列，获得第一特征信息包括：

对所述安装镜像类型序列进行嵌入式表示，获得安装镜像类型序列嵌入式向量；

将所述安装镜像类型嵌入式向量和所述应用安装镜像低维稠密向量进行按位相加，获得应用安装镜像特征序列；

根据所述应用安装镜像特征序列、所述应用安装特征序列和所述应用卸载特征序列，获得所述第一特征信息。

6.如权利要求2的方法，其特征在于，所述变换神经网络模型还包括第一全连接神经网络；其中，通过所述变换神经网络模型的编码器对所述第一特征信息进行编码，获得所述当前设备的所述应用嵌入式向量包括：

通过所述变换神经网络模型的所述编码器对所述第一特征信息进行编码，获得第一初始表示；

根据所述应用安装镜像低维稠密向量在所述第一特征信息中的位置对所述第一初始表示进行截取，获得第二初始表示；

通过所述第一全连接神经网络对所述第二初始表示进行降维处理，获得所述当前设备的所述应用嵌入式向量。

7.如权利要求1的方法，其特征在于，在获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息之前，所述方法还包括：

获取历史设备的历史应用安装镜像信息、历史应用安装序列信息和历史应用卸载序列信息；

通过所述无监督神经网络模型的第二全连接神经网络对所述历史应用安装镜像信息进行编码，获得所述历史设备的预测应用安装镜像低维稠密向量；

通过所述变换神经网络模型的编码器和第一全连接神经网络对所述预测应用安装镜像低维稠密向量、所述历史应用安装序列信息和所述历史应用卸载序列信息进行编码，获得所述历史设备的预测应用嵌入式向量；

根据所述预测应用嵌入式向量、所述历史应用安装序列信息和所述历史应用卸载序列信息调节所述变换神经网络模型的参数，获得训练完成的所述变换神经网络模型；

根据所述预测应用嵌入式向量和所述历史应用安装镜像信息调节所述无监督神经网络模型的参数，获得训练完成的所述无监督神经网络模型。

8.如权利要求7的方法，其特征在于，所述无监督神经网络模型还包括第三全连接神经网络；其中，根据所述预测应用嵌入式向量和所述历史应用安装镜像信息调节所述无监督神经网络模型的参数，获得训练完成的所述无监督神经网络模型，包括：

通过所述无监督神经网络模型的所述第三全连接神经网络对所述预测应用嵌入式向量进行重构处理，获得第一预测信息；

根据所述历史应用安装镜像信息和所述第一预测信息生成第一损失函数；

根据所述第一损失函数调节所述无监督神经网络模型的参数，获得训练完成的所述无监督神经网络模型。

9.如权利要求7的方法，其特征在于，所述变换神经网络模型还包括解码器；其中，根据所述预测应用嵌入式向量、所述历史应用安装序列信息和所述历史应用卸载序列信息调节所述变换神经网络模型的参数，获得训练完成的所述变换神经网络模型，包括：

根据所述历史应用安装序列信息生成应用安装查询信息；

根据所述历史应用卸载序列信息生成应用卸载查询信息；

根据所述预测应用嵌入式向量、所述应用安装查询信息、所述应用卸载查询信息，获得第二特征信息；

通过所述变换神经网络模型的所述解码器对所述第二特征信息进行重构处理，获得第二预测信息；

根据所述第二预测信息、所述历史应用安装序列信息和所述历史应用卸载序列信息生成第二损失函数；

根据所述第二损失函数调节所述变换神经网络模型的参数，获得训练完成的所述变换神经网络模型。

10.如权利要求9的方法，其特征在于，所述历史应用安装序列信息包括历史应用安装时间序列和历史应用安装类型序列；其中，根据所述历史应用安装序列信息生成应用安装查询信息包括：

对所述历史应用安装类型序列进行嵌入式表示，获得历史应用安装类型序列嵌入式向量；

对所述历史应用安装时间序列进行嵌入式表示，获得历史应用安装时间序列嵌入式向量；

将所述历史应用安装类型序列嵌入式向量、所述历史应用安装时间序列嵌入式向量进行按位相加，获得所述应用安装查询信息。

11.如权利要求9的方法，其特征在于，所述历史应用卸载序列信息包括历史应用卸载时间序列和历史应用卸载类型序列；其中，根据所述历史应用卸载序列信息生成应用卸载查询信息包括：

对所述历史应用卸载类型序列进行嵌入式表示，获得历史应用卸载类型序列嵌入式向量；

对所述历史应用卸载时间序列进行嵌入式表示，获得历史应用卸载时间序列嵌入式向量；

将所述历史应用卸载类型序列嵌入式向量、所述历史应用卸载时间序列嵌入式向量进行按位相加，获得所述应用卸载查询信息。

12.一种基于应用使用记录的信息推送装置，其特征在于，包括：

设备数据获取模块，配置为获取当前设备的应用安装镜像信息、应用安装序列信息和应用卸载序列信息；

镜像信息处理模块，配置为利用无监督神经网络模型对所述应用安装镜像信息进行编码，获得所述当前设备的应用安装镜像低维稠密向量；

嵌入式向量生成模块，配置为利用变换神经网络模型对所述应用安装镜像低维稠密向量、所述应用安装序列信息和所述应用卸载序列信息进行融合处理，获得所述当前设备的应用嵌入式向量；

推送信息生成模块，配置为根据所述当前设备的所述应用嵌入式向量获得所述当前设备的推送信息；

推送信息发送模块，配置为将所述当前设备的所述推送信息推送至所述当前设备。

13.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序；

当一个或多个程序被一个或多个处理器执行，使得一个或多个处理器实现如权利要求1-11中任一的方法。

14.一种计算机可读介质，其上存储有计算机程序，其特征在于，程序被处理器执行时实现如权利要求1-11中任一的方法。

Images