CN110019087A - 数据处理方法及其系统 - Google Patents

Abstract

本公开提供了一种数据处理方法，包括：实时获取用户访问应用程序而产生的流量数据；按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据；将处理后的流量数据作为即时流量数据；以及基于即时流量数据实时更新流量宽表，以使流量宽表中同时存储有用户访问应用程序而产生的历史流量数据和即时流量数据。本公开还提供了一种数据处理系统、计算机系统和计算机可读存储介质。

Description

数据处理方法及其系统

技术领域

本公开涉及互联网技术领域，更具体地，涉及一种数据处理方法、数据处理系统、计算机系统和计算机可读存储介质。

背景技术

随着互联网技术的快速发展，用户越来越依赖于互联网以实现各种目的。因此，在不同的平台上时刻都在产生着流量数据，例如，用户访问网站时会产生浏览日志和点击日志等等，这种日志一旦产生就无法修改，也不能删除。在相关技术中，一般会将流量数据以流量宽表的形式存储在数据库中。

在实现本公开构思的过程中，发明人发现相关技术中至少存在如下问题：

查询数据库中存储的流量宽表，只能查询历史流量数据，无法查询实时流量数据(即当前时刻产生的流量数据)。

发明内容

有鉴于此，本公开提供了一种用于实时查询流量数据的数据处理方法和数据处理系统。

本公开的一个方面提供了一种数据处理方法，包括实时获取用户访问应用程序而产生的流量数据；按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据；将上述处理后的流量数据作为即时流量数据；以及基于上述即时流量数据实时更新流量宽表，以使上述流量宽表中同时存储有上述用户访问上述应用程序而产生的历史流量数据和即时流量数据。

根据本公开的实施例，实时获取用户访问应用程序而产生的流量数据包括获取上述用户访问至少一个应用程序而产生的日志信息；将上述日志信息输入kafka消息队列中，以使上述kafka消息队列对上述日志信息进行实时分类处理；以及基于上述kafka消息队列对上述日志信息的实时分类结果，获取上述用户访问上述至少一个应用程序中的每个应用程序而产生的流量数据。

根据本公开的实施例，按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据包括：按照上述预定规则对上述实时获取的流量数据进行数据清洗和/或数据格式转换和/或衍生字段处理，以得到上述处理后的流量数据。

根据本公开的实施例，按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据包括：检测是否具备对上述应用程序的流量数据进行处理的权限；以及如果具备对上述应用程序的流量数据进行处理的权限，则按照上述预定规则对上述实时获取的流量数据进行实时处理，得到上述处理后的流量数据。

根据本公开的实施例，基于上述即时流量数据实时更新流量宽表包括从redis缓存中获取与上述即时流量数据属于同一会话的历史流量数据；将上述即时流量数据和与上述即时流量数据属于同一会话的历史流量数据进行排序；以及根据排序结果将上述即时流量数据统计到上述流量宽表中的相应衍生字段中。

根据本公开的实施例，上述方法还包括按照预定时间间隔将上述流量宽表写入分布式文件系统；在Hive数据库集群中创建与上述分布式文件系统中的上述流量宽表关联的外部表；以及通过上述外部表对上述应用程序上产生的流量数据进行实时查询。

本公开的另一个方面提供了一种数据处理系统，包括获取模块、第一处理模块、第二处理模块和更新模块。获取模块用于实时获取用户访问应用程序而产生的流量数据；第一处理模块用于按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据；第二处理模块用于将上述处理后的流量数据作为即时流量数据；以及更新模块用于基于上述即时流量数据实时更新流量宽表，以使上述流量宽表中同时存储有上述用户访问上述应用程序而产生的历史流量数据和即时流量数据。

根据本公开的实施例，上述获取模块包括第一获取单元、输入单元和第二获取单元。第一获取单元用于获取上述用户访问至少一个应用程序而产生的日志信息；输入单元用于将上述日志信息输入kafka消息队列中，以使上述kafka消息队列对上述日志信息进行实时分类处理；以及第二获取单元用于基于上述kafka消息队列对上述日志信息的实时分类结果，获取上述用户访问上述至少一个应用程序中的每个应用程序而产生的流量数据。

根据本公开的实施例，上述第一处理模块具体用于按照上述预定规则对上述实时获取的流量数据进行数据清洗和/或数据格式转换和/或衍生字段处理，以得到上述处理后的流量数据。

根据本公开的实施例，上述第一处理模块包括检测单元和处理单元。检测单元用于检测是否具备对上述应用程序的流量数据进行处理的权限；以及处理单元用于如果具备对上述应用程序的流量数据进行处理的权限，则按照上述预定规则对上述实时获取的流量数据进行实时处理，得到上述处理后的流量数据。

根据本公开的实施例，上述更新模块包括第三获取单元、排序单元和统计单元。第三获取单元用于从redis缓存中获取与上述即时流量数据属于同一会话的历史流量数据；排序单元用于将上述即时流量数据和与上述即时流量数据属于同一会话的历史流量数据进行排序；以及统计单元用于根据排序结果将上述即时流量数据统计到上述流量宽表中的相应衍生字段中。

根据本公开的实施例，上述系统还包括写入模块、创建模块和查询模块。写入模块用于按照预定时间间隔将上述流量宽表写入分布式文件系统；创建模块用于在Hive数据库集群中创建与上述分布式文件系统中的上述流量宽表关联的外部表；以及查询模块用于通过上述外部表对上述应用程序上产生的流量数据进行实时查询。

本公开的另一个方面提供了一种计算机系统，包括一个或多个处理器和存储器。存储器用于存储一个或多个程序，其中，当上述一个或多个程序被上述一个或多个处理器执行时，使得上述一个或多个处理器实现如上所述的数据处理方法。

本公开的另一个方面提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器实现如上所述的数据处理方法。

本公开的另一方面提供了一种计算机程序，上述计算机程序包括计算机可执行指令，上述指令在被执行时用于实现如上上述的方法。

根据本公开的实施例，通过实时获取用户访问应用程序产生的流量数据，并对获取的流量数据进行实时处理，将处理后的流量数据作为即时流量数据用于实时更新流量宽表的技术手段，所以至少部分地克服了相关技术中难以实时查询用户访问应用程序后产生的流量数据的技术问题，进而达到了提高数据查询效率的技术效果。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的可以应用数据处理方法和系统的示例性系统架构；

图2示意性示出了根据本公开实施例的数据处理方法的流程图；

图3A示意性示出了根据本公开实施例的实时获取用户访问应用程序而产生的流量数据的流程图；

图3B示意性示出了根据本公开实施例的按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据的流程图；

图3C示意性示出了根据本公开实施例的基于即时流量数据实时更新流量宽表的流程图；

图3D示意性示出了根据本公开另一实施例的数据处理方法的流程图；

图4示意性示出了根据本公开实施例的数据处理系统的框图；

图5A示意性示出了根据本公开实施例的获取模块的框图；

图5B示意性示出了根据本公开实施例的第一处理模块的框图；

图5C示意性示出了根据本公开实施例的更新模块的框图；

图5D示意性示出了根据本公开另一实施例的数据处理系统的框图；以及

图6示意性示出了根据本公开实施例的适于实现数据处理方法的计算机系统的框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。本领域技术人员还应理解，实质上任意表示两个或更多可选项目的转折连词和/或短语，无论是在说明书、权利要求书还是附图中，都应被理解为给出了包括这些项目之一、这些项目任一方、或两个项目的可能性。例如，短语“A或B”应当被理解为包括“A”或“B”、或“A和B”的可能性。

本公开的实施例提供了一种数据处理方法和系统，该方法包括实时获取用户访问应用程序而产生的流量数据；按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据；将上述处理后的流量数据作为即时流量数据；以及基于上述即时流量数据实时更新流量宽表，以使上述流量宽表中同时存储有上述用户访问上述应用程序而产生的历史流量数据和即时流量数据。

图1示意性示出了根据本公开实施例的可以应用数据处理方法和系统的示例性系统架构。

如图1所示，根据该实施例的系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备10l、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线和/或无线通信链路等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端和/或社交平台软件等(仅为示例)。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。

需要说明的是，本公开实施例所提供的数据处理方法一般可以由服务器105执行。相应地，本公开实施例所提供的数据处理系统一般可以设置于服务器105中。本公开实施例所提供的数据处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的数据处理系统也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

图2示意性示出了根据本公开实施例的数据处理方法的流程图。

如图2所示，该方法包括操作S201～S204，其中：

在操作S201，实时获取用户访问应用程序而产生的流量数据。

在操作S202，按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据。

在操作S203，将处理后的流量数据作为即时流量数据。

在操作S204，基于即时流量数据实时更新流量宽表，以使流量宽表中同时存储有用户访问应用程序而产生的历史流量数据和即时流量数据。

根据本公开的实施例，用户访问应用程序而产生的流量数据可以是访问不同应用平台产生的流量数据，例如，用户在京东商城或者淘宝上浏览页面时会消耗流量，当产生流量的情况下，可以实时获取产生的流量数据。同时，可以按照预定的规则对实时获取的流量数据进行实时处理，例如，采用storm程序对获取的流量数据进行即时处理，由于storm程序采用流处理模式，接收一条流量数据就可以及时处理，可以实现实时与线上产生的流量数据进行对接。

根据本公开的实施例，在得到处理后的流量数据之后，将处理后的流量数据作为即时流量数据，并基于该即时流量数据更新流量宽表。

根据本公开的实施例，通过实时获取用户访问应用程序产生的流量数据，并对获取的流量数据进行实时处理，将处理后的流量数据作为即时流量数据用于实时更新流量宽表的技术手段，所以至少部分地克服了相关技术中难以实时查询用户访问应用程序后产生的流量数据的技术问题，进而达到了提高数据查询效率的技术效果。

下面参考图3A～图3D，结合具体实施例对图2所示的方法做进一步说明。

图3A示意性示出了根据本公开实施例的实时获取用户访问应用程序而产生的流量数据的流程图。

如图3A所示，根据本公开的实施例，实时获取用户访问应用程序而产生的流量数据包括操作S2011～操作S2013。

在操作S2011，获取用户访问至少一个应用程序而产生的日志信息。

在操作S2012，将日志信息输入kafka消息队列中，以使kafka消息队列对日志信息进行实时分类处理。

在操作S20l3，基于kafka消息队列对日志信息的实时分类结果，获取用户访问至少一个应用程序中的每个应用程序而产生的流量数据。

根据本公开的实施例，用户访问的应用程序包括一个或多个，可以从线上日志库中获取产生的日志信息。在获取日志信息之后，将日志信息输入kafka消息队列中，可以使得kafka消息队列对日志信息进行实时分类处理。具体地，例如，将日志接入kafka消息队列生成对应的topic。PC端访问日志生成pc-topic，移动端访问日志生成m-topic，微信端访问日志生成wx-topic，APP端访问日志生成app-topic。根据kafka消息队列对日志信息的实时分类结果，获取用户访问至少一个应用程序中的每个应用程序而产生的流量数据。

根据本公开的实施例，按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据包括按照预定规则对实时获取的流量数据进行数据清洗和/或数据格式转换和/或衍生字段处理，以得到处理后的流量数据。

根据本公开的实施例，可以使用storm程序对当前流量数据进行实时处理，例如，对流量数据进行清洗，数据清洗可以包括过滤垃圾数据、去除异常值等等。格式处理节约包含转码操作、类型转换等等；衍生字段处理可以是从当前流量数据中直接衍生出来的字段，该直接衍生出来的字段不需要关联其他表以及或者对流量数据进行排序后得到。

根据本公开的实施例，按照预定规则对实时获取的流量数据进行实时处理，不仅可以使得获取的流量数据满足实时处理的要求，而且可以使得待查询的数据格式满足查询要求。

图3B示意性示出了根据本公开实施例的按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据的流程图。

如图3B所示，根据本公开的实施例，按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据包括操作S2021和S2022。其中：

在操作S2021，检测是否具备对应用程序的流量数据进行处理的权限。

在操作S2022，如果具备对应用程序的流量数据进行处理的权限，则按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据。

根据本公开的实施例，在检测到具备对应用程序的流量数据进行处理的权限的情况下，按照预定规则对实时获取的流量数据进行实时处理。若检测到不具备对应用程序的流量数据进行处理的权限的情况下，则不对实时获取的流量数据进行实时处理。

具体地，例如，在检测到具备对微信访问而产生的流量数据进行处理的权限的情况下，按照预定规则对实时获取的因访问微信而产生的流量数据进行处理。在检测到不具备对淘宝访问而产生的流量数据进行处理的权限的情况下，则不处理获取因访问淘宝而产生的流量数据。

根据本公开的实施例，在对获取的流量数据进行处理之前，检测是否具备对应用程序的流量数据进行处理的权限，对没有处理权限的流量数据不进行处理，减小了系统的数据处理压力，提高了数据处理效率。

图3C示意性示出了根据本公开实施例的基于即时流量数据实时更新流量宽表的流程图。

如图3C所示，根据本公开的实施例，基于即时流量数据实时更新流量宽表包括操作S2041～S2043。其中：

在操作S2041，从redis缓存中获取与即时流量数据属于同一会话的历史流量数据。

在操作S2042，将即时流量数据和与即时流量数据属于同一会话的历史流量数据进行排序。

在操作S2043，根据排序结果将即时流量数据统计到流量宽表中的相应衍生字段中。

根据本公开的实施例，同一会话session的过期时间可以是半小时，即在redis缓存中可以获取与产生即时流量数据时的前半小时内产生的历史流量数据。因此，以在redis缓存中设置单个session-key的有效期为半小时，失效后从redis缓存中移除，这样在保证数据能关联查询的情况下，解决数据占用缓存空间过大的问题。

根据本公开的实施例，将属于同一会话的历史流量数据和即时流量数据进行排序，根据排序结果将即时流量数据统计到流量宽表中的相应衍生字段中。通过排序结果可以分析用户访问不同应用程序的轨迹，同时也可以获取即时流量数据的来源。

根据本公开的实施例，在生成流量宽表之后，还可以将流量宽表与商品维表、分类维表等进行关联，从而可以在流量宽表中生成一些关联字段。根据本公开的实施例，可以在storm程序中维护一个本地内存结构例如CacheBuilder，同时将商品维表全部加载至服务器中存储。在本地内存中维护一定量的商品维表信息，计算时首先读取内存中数据获取不到的值再查询服务器，同时按照一定的规则(例如最近最少使用原则)替换本地内存结构中的商品维表数据，使得程序的读取速度达到最优。其他的各类维表可以按商品维表方式进行扩展。这样就可以生成一些关联的字段。

图3D示意性示出了根据本公开另一实施例的数据处理方法的流程图。

如图3D所示，根据本公开的实施例，数据处理方法还包括操作S205～S207。

在操作S205，按照预定时间间隔将流量宽表写入分布式文件系统。

在操作S206，在Hive数据库集群中创建与分布式文件系统中的流量宽表关联的外部表。

在操作S207，通过外部表对应用程序上产生的流量数据进行实时查询。

根据本公开的实施例，预定时间间隔可以是分钟级别的，具体时间可以根据实际情况设定，在Hive数据库集群中创建与分布式文件系统中的流量宽表关联的外部表，外部表的目录可以指向写入的分布式文件系统的目录，通过直接查询此外部表可以实现对外服务。

根据本公开的实施例，产生一条业务日志立刻处理且处理时间在毫秒级别，处理后将计算结果每隔固定分钟数写入数据库的分布式文件系统，对外通过hive查询提供服务，不需要再次关联其他表以及进行排序处理等操作，实现了流量仓库宽表的即时查询。

图4示意性示出了根据本公开实施例的数据处理系统的框图。

如图4所示，该数据处理系统400包括获取模块410、第一处理模块420、第二处理模块430和更新模块440。

获取模块410用于实时获取用户访问应用程序而产生的流量数据。

第一处理模块420用于按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据。

第二处理模块430用于将处理后的流量数据作为即时流量数据。

更新模块440用于基于即时流量数据实时更新流量宽表，以使流量宽表中同时存储有用户访问应用程序而产生的历史流量数据和即时流量数据。

根据本公开的实施例，通过实时获取用户访问应用程序产生的流量数据，并对获取的流量数据进行实时处理，将处理后的流量数据作为即时流量数据用于实时更新流量宽表的技术手段，所以至少部分地克服了相关技术中难以实时查询用户访问应用程序后产生的流量数据的技术问题，进而达到了提高数据查询效率的技术效果。

图5A示意性示出了根据本公开实施例的获取模块的框图。

如图5A所示，根据本公开的实施例，获取模块410包括第一获取单元411、输入单元412和第二获取单元413。

第一获取单元411用于获取用户访问至少一个应用程序而产生的日志信息。

输入单元412用于将日志信息输入kafka消息队列中，以使kafka消息队列对日志信息进行实时分类处理。

第二获取单元413用于基于kafka消息队列对日志信息的实时分类结果，获取用户访问至少一个应用程序中的每个应用程序而产生的流量数据。

根据本公开的实施例，第一处理模块420具体用于按照预定规则对实时获取的流量数据进行数据清洗和/或数据格式转换和/或衍生字段处理，以得到处理后的流量数据。

根据本公开的实施例，按照预定规则对实时获取的流量数据进行实时处理，不仅可以使得获取的流量数据满足实时处理的要求，而且可以使得待查询的数据格式满足查询要求。

图5B示意性示出了根据本公开实施例的第一处理模块的框图。

如图5B所示，根据本公开的实施例，第一处理模块420包括检测单元421和处理单元422。

检测单元421用于检测是否具备对应用程序的流量数据进行处理的权限。

处理单元422用于如果具备对应用程序的流量数据进行处理的权限，则按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据。

根据本公开的实施例，在对获取的流量数据进行处理之前，检测是否具备对应用程序的流量数据进行处理的权限，对没有处理权限的流量数据不进行处理，减小了系统的数据处理压力，提高了数据处理效率。

图5C示意性示出了根据本公开实施例的更新模块的框图。

如图5C所示，根据本公开的实施例，更新模块440包括第三获取单元441、排序单元442和统计单元443。

第三获取单元441用于从redis缓存中获取与即时流量数据属于同一会话的历史流量数据。

排序单元442用于将即时流量数据和与即时流量数据属于同一会话的历史流量数据进行排序。

统计单元443用于根据排序结果将即时流量数据统计到流量宽表中的相应衍生字段中。

根据本公开的实施例，将属于同一会话的历史流量数据和即时流量数据进行排序，根据排序结果将即时流量数据统计到流量宽表中的相应衍生字段中。通过排序结果可以分析用户访问不同应用程序的轨迹，同时也可以获取即时流量数据的来源。

图5D示意性示出了根据本公开另一实施例的数据处理系统的框图。

如图5D所示，根据本公开的实施例，数据处理系统400除了包括获取模块410、第一处理模块420、第二处理模块430和更新模块440，还包括写入模块450、创建模块460和查询模块470。

写入模块450用于按照预定时间间隔将流量宽表写入分布式文件系统。

创建模块460用于在Hive数据库集群中创建与分布式文件系统中的流量宽表关联的外部表。

查询模块470用于通过外部表对应用程序上产生的流量数据进行实时查询。

根据本公开的实施例，产生一条业务日志立刻处理且处理时间在毫秒级别，处理后将计算结果每隔固定分钟数写入数据库的分布式文件系统，对外通过hive查询提供服务，不需要再次关联其他表以及进行排序处理等操作，实现了流量仓库宽表的即时查询。

可以理解的是，获取模块410、第一处理模块420、第二处理模块430、更新模块440、写入模块450、创建模块460和查询模块470可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本发明的实施例，获取模块410、第一处理模块420、第二处理模块430、更新模块440、写入模块450、创建模块460和查询模块470中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以以对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式的适当组合来实现。或者，获取模块410、第一处理模块420、第二处理模块430、更新模块440、写入模块450、创建模块460和查询模块470中的至少一个可以至少被部分地实现为计算机程序模块，当该程序被计算机运行时，可以执行相应模块的功能。

需要说明的是，本公开的实施例中数据处理系统部分与本公开的实施例中数据处理方法部分是相对应的，数据处理系统部分的描述具体参考数据处理方法部分，在此不再赘述。

图6示意性示出了根据本公开实施例的适于实现数据处理方法的计算机系统的框图。图6示出的计算机系统仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图6所示，根据本公开实施例的计算机系统500包括处理器501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。处理器501例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))，等等。处理器501还可以包括用于缓存用途的板载存储器。处理器501可以包括用于执行参考图2，图3A～图3D描述的根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 503中，存储有系统500操作所需的各种程序和数据。处理器501、ROM 502以及RAM 503通过总线504彼此相连。处理器501通过执行ROM 502和/或RAM 503中的程序来执行以上参考图2，图3A～图3D描述的各种操作。需要注意，所述程序也可以存储在除ROM 502和RAM 503以外的一个或多个存储器中。处理器501也可以通过执行存储在所述一个或多个存储器中的程序来执行以上参考图2，图3A～图3D描述的各种操作。

根据本公开的实施例，系统500还可以包括输入/输出(I/O)接口505，输入/输出(I/O)接口505也连接至总线504。系统500还可以包括连接至I/O接口505的以下部件中的一项或多项：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。

根据本公开的实施例，上文参考流程图描述的方法可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被处理器501执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

需要说明的是，本公开所示的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读存储介质，该计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 502和/或RAM 503和/或ROM502和RAM 503以外的一个或多个存储器。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

作为另一方面，本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。计算机可读存储介质承载有一个或者多个程序，当一个或者多个程序被一个该设备执行时，使得该设备执行：实时获取用户访问应用程序而产生的流量数据；按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据；将处理后的流量数据作为即时流量数据；以及基于即时流量数据实时更新流量宽表，以使流量宽表中同时存储有用户访问应用程序而产生的历史流量数据和即时流量数据，可选地，实时获取用户访问应用程序而产生的流量数据包括获取用户访问至少一个应用程序而产生的日志信息；将日志信息输入kafka消息队列中，以使kafka消息队列对日志信息进行实时分类处理；以及基于kafka消息队列对日志信息的实时分类结果，获取用户访问至少一个应用程序中的每个应用程序而产生的流量数据，可选地，按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据包括：按照预定规则对实时获取的流量数据进行数据清洗和/或数据格式转换和/或衍生字段处理，以得到处理后的流量数据，可选地，按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据包括：检测是否具备对应用程序的流量数据进行处理的权限；以及如果具备对应用程序的流量数据进行处理的权限，则按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据，可选地，基于即时流量数据实时更新流量宽表包括从redis缓存中获取与即时流量数据属于同一会话的历史流量数据；将即时流量数据和与即时流量数据属于同一会话的历史流量数据进行排序；以及根据排序结果将即时流量数据统计到流量宽表中的相应衍生字段中，可选地，还用于执行按照预定时间间隔将流量宽表写入分布式文件系统；在Hive数据库集群中创建与分布式文件系统中的流量宽表关联的外部表；以及通过外部表对应用程序上产生的流量数据进行实时查询。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (14)

1.一种数据处理方法，包括：

实时获取用户访问应用程序而产生的流量数据；

按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据；

将所述处理后的流量数据作为即时流量数据；以及

基于所述即时流量数据实时更新流量宽表，以使所述流量宽表中同时存储有所述用户访问所述应用程序而产生的历史流量数据和即时流量数据。

2.根据权利要求1所述的方法，其中，实时获取用户访问应用程序而产生的流量数据包括：

获取所述用户访问至少一个应用程序而产生的日志信息；

将所述日志信息输入kafka消息队列中，以使所述kafka消息队列对所述日志信息进行实时分类处理；以及

基于所述kafka消息队列对所述日志信息的实时分类结果，获取所述用户访问所述至少一个应用程序中的每个应用程序而产生的流量数据。

3.根据权利要求1所述的方法，其中，按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据包括：

按照所述预定规则对所述实时获取的流量数据进行数据清洗和/或数据格式转换和/或衍生字段处理，以得到所述处理后的流量数据。

4.根据权利要求1至3中任一项所述的方法，其中，按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据包括：

检测是否具备对所述应用程序的流量数据进行处理的权限；以及

如果具备对所述应用程序的流量数据进行处理的权限，则按照所述预定规则对所述实时获取的流量数据进行实时处理，得到所述处理后的流量数据。

5.根据权利要求4所述的方法，其中，基于所述即时流量数据实时更新流量宽表包括：

从redis缓存中获取与所述即时流量数据属于同一会话的历史流量数据；

将所述即时流量数据和与所述即时流量数据属于同一会话的历史流量数据进行排序；以及

根据排序结果将所述即时流量数据统计到所述流量宽表中的相应衍生字段中。

6.根据权利要求1所述的方法，其中，所述方法还包括：

按照预定时间间隔将所述流量宽表写入分布式文件系统；

在Hive数据库集群中创建与所述分布式文件系统中的所述流量宽表关联的外部表；以及

通过所述外部表对所述应用程序上产生的流量数据进行实时查询。

7.一种数据处理系统，包括：

获取模块，用于实时获取用户访问应用程序而产生的流量数据；

第一处理模块，用于按照预定规则对实时获取的流量数据进行实时处理，得到处理后的流量数据；

第二处理模块，用于将所述处理后的流量数据作为即时流量数据；以及

更新模块，用于基于所述即时流量数据实时更新流量宽表，以使所述流量宽表中同时存储有所述用户访问所述应用程序而产生的历史流量数据和即时流量数据。

8.根据权利要求7所述的系统，其中，所述获取模块包括：

第一获取单元，用于获取所述用户访问至少一个应用程序而产生的日志信息；

输入单元，用于将所述日志信息输入kafka消息队列中，以使所述kafka消息队列对所述日志信息进行实时分类处理；以及

第二获取单元，用于基于所述kafka消息队列对所述日志信息的实时分类结果，获取所述用户访问所述至少一个应用程序中的每个应用程序而产生的流量数据。

9.根据权利要求7所述的系统，其中，所述第一处理模块具体用于按照所述预定规则对所述实时获取的流量数据进行数据清洗和/或数据格式转换和/或衍生字段处理，以得到所述处理后的流量数据。

10.根据权利要求7至9中任一项所述的系统，其中，所述第一处理模块包括：

检测单元，用于检测是否具备对所述应用程序的流量数据进行处理的权限；以及

处理单元，用于如果具备对所述应用程序的流量数据进行处理的权限，则按照所述预定规则对所述实时获取的流量数据进行实时处理，得到所述处理后的流量数据。

11.根据权利要求10所述的系统，其中，所述更新模块包括：

第三获取单元，用于从redis缓存中获取与所述即时流量数据属于同一会话的历史流量数据；

排序单元，用于将所述即时流量数据和与所述即时流量数据属于同一会话的历史流量数据进行排序；以及

统计单元，用于根据排序结果将所述即时流量数据统计到所述流量宽表中的相应衍生字段中。

12.根据权利要求7所述的系统，其中，所述系统还包括：

写入模块，用于按照预定时间间隔将所述流量宽表写入分布式文件系统；

创建模块，用于在Hive数据库集群中创建与所述分布式文件系统中的所述流量宽表关联的外部表；以及

查询模块，用于通过所述外部表对所述应用程序上产生的流量数据进行实时查询。

13.一种计算机系统，包括：

一个或多个处理器；

存储器，用于存储一个或多个程序，

其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现权利要求1至6中任一项所述的数据处理方法。

14.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器实现权利要求1至6中任一项所述的数据处理方法。