CN115174667A - 大数据的推送方法、系统和电子设备 - Google Patents

Abstract

本发明提供了一种大数据的推送方法、系统和电子设备，涉及数据推送的技术领域，该方法包括：首先根据待推送数据信息和当前数据库的监控参数，确定第一推送速度；然后以第一推送速度进行数据推送，并实时获取当前交付时间；如果当前交付时间超过目标交互时间，则向数据库管理员和大数据需求方发送告警程序；再接收基于告警程序生成的推送决策，并根据推送决策确定第二推送速度；第二推送速度为将剩余推送数据量在目标交付时间内完成推送的最小速度，通过该方法缓解了现有技术中存在的数据推送不及时、数据库稳定性差的问题，实现了稳定且高效地进行大数据推送的效果。

Description

大数据的推送方法、系统和电子设备

技术领域

本发明涉及数据推送技术领域，尤其是涉及一种大数据的推送方法、系统和电子设备。

背景技术

随着信息化技术和电子渠道的业务发展要求，大数据被广泛应用于各大互联网、电商、游戏、金融等行业，需要将不同业务系统中的数据信息进行处理，然后基于业务要求，通过消息推送的模式在不同的渠道触达用。随着应用场景的增多，大数据需要对接公司内所有核心业务系统，通过对业务数据进行抽取，实现制作商业报表、提供给决策层做合理的决策，或者自动化程序通过报表数据进行个性化、智能化的推荐等应用。

但是在大数据的数据推送场景下，大部分公司没有统一的标准或者平台进行智能化管理，大量数据进行多线程的推送容易导致服务器性能受损，影响数据库稳定性，也容易发生主从延迟的现象。因此现有大数据的推送技术无法在满足时效性、数据库稳定性等多维度的要求下同时满足业务各方面需求。也就是说，现有的技术存在数据推送不及时、数据库稳定性差的问题。

发明内容

本发明的目的在于提供一种大数据的推送方法、系统和电子设备，以缓解现有技术中存在的数据推送不及时、数据库稳定性差的技术问题。

为了实现上述目的，本发明实施例采用的技术方案如下：

第一方面，本发明实施例提供了一种大数据的推送方法，应用于大数据推送系统，上述方法包括：

根据待推送数据信息和当前数据库的监控参数，确定第一推送速度；上述待推送数据信息包括待推送数据量以及目标交付时间；上述第一推送速度为将上述推送数据量在上述目标交付时间内完成推送的最小速度；

以上述第一推送速度进行数据推送，并实时获取当前交付时间；如果上述当前交付时间超过上述目标交互时间，则向数据库管理员和上述大数据需求方发送告警程序；

接收基于上述告警程序生成的推送决策，并根据上述推送决策确定第二推送速度；上述第二推送速度为将剩余推送数据量在上述目标交付时间内完成推送的最小速度。

进一步的，上述数据库的监控参数包括：每秒查询率QPS和每秒事物量TPS；

上述方法还包括：接收上述大数据需求方发送的待推送数据信息；上述待推送数据信息包括待推送数据量以及目标交付时间。

进一步的，根据待推送数据信息和当前数据库的监控参数，确定第一推送速度，包括：

基于当前数据库的监控参数、上述待推送数据量以及上述目标交付时间，确定第一推送速度。

进一步的，接收基于上述告警程序生成的推送决策，并根据上述推送决策确定第二推送速度，包括：

接收上述数据库管理员根据上述告警程序生成的当前数据库的最大监控参数；

接收上述大数据需求方根据上述告警程序生成的可延迟交付时间；

基于上述当前数据库的最大监控参数和上述可延迟交付时间，生成推送决策；

根据上述推送决策确定第二推送速度。

进一步的，上述方法还包括：构建配置管理数据库CMDB作为当前数据库；上述当前数据库包括主数据库，每个上述主数据库包括至少一个从数据库；上述主数据库用于接收大数据推送请求。

进一步的，上述方法还包括：基于上述监控参数生成可视化数据库监控；上述可视化数据库监控用于在上述大数据推送系统上显示数据库的信息。

进一步的，上述方法还包括：基于上述待推送数据信息、已推送数据信息和剩余待推送数据信息，生成任务进度监控；上述任务进度监控用于在上述大数据推送系统上显示当前推送任务的进度，并且将上述当前推送任务的进度向上述数据库管理员和上述大数据需求方发送。

第二方面，本发明实施例提供了一种大数据推送系统，上述大数据推送系统包括：

第一推送速度确定模块，用于根据待推送数据信息和当前数据库的监控参数，确定第一推送速度；上述待推送数据信息包括待推送数据量以及目标交付时间；上述第一推送速度为将上述推送数据量在上述目标交付时间内完成推送的最小速度；

数据推送模块，用于以上述第一推送速度进行数据推送，并实时获取当前交付时间；如果上述当前交付时间超过上述目标交互时间，则向数据库管理员和上述大数据需求方发送告警程序；

第二推送速度确定模块，用于接收基于上述告警程序生成的推送决策，并根据上述推送决策确定第二推送速度；上述第二推送速度为将剩余推送数据量在上述目标交付时间内完成推送的最小速度。

进一步的，上述数据库的监控参数包括：每秒查询率QPS和每秒事物量TPS；上述系统还包括接收模块，用于接收上述大数据需求方发送的待推送数据信息；上述待推送数据信息包括待推送数据量以及目标交付时间。

进一步的，上述第一推送速度确定模块还用于：基于当前数据库的监控参数、上述待推送数据量以及上述目标交付时间，确定第一推送速度。

进一步的，上述第二推送速度确定模块，还用于：接收上述数据库管理员根据上述告警程序生成的当前数据库的最大监控参数；接收上述大数据需求方根据上述告警程序生成的可延迟交付时间；基于上述当前数据库的最大监控参数和上述可延迟交付时间，生成推送决策；根据上述推送决策确定第二推送速度。

进一步的，上述系统还包括数据库构建模块，用于构建配置管理数据库CMDB作为当前数据库；上述当前数据库包括主数据库，每个上述主数据库包括至少一个从数据库；上述主数据库用于接收大数据推送请求。

进一步的，上述系统还包括可视化数据库监控生成模块，用于基于上述监控参数生成可视化数据库监控；上述可视化数据库监控用于在上述大数据推送系统上显示数据库的信息。

进一步的，上述系统还包括任务进度监控生成模块，用于基于上述待推送数据信息、已推送数据信息和剩余待推送数据信息，生成任务进度监控；上述任务进度监控用于在上述大数据推送系统上显示当前推送任务的进度，并且将上述当前推送任务的进度向上述数据库管理员和上述大数据需求方发送。

第三方面，本发明实施例提供了一种电子设备，包括存储器、处理器，所述存储器中存储有可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一方面任一项所述的方法的步骤。

第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有机器可运行指令，所述计算机可运行指令在被处理器调用和运行时，所述计算机可运行指令促使所述处理器运行上述第一方面任一项所述的方法。

本发明提供了一种大数据的推送方法、系统和电子设备，该方法包括：首先根据待推送数据信息和当前数据库的监控参数，确定第一推送速度；然后以第一推送速度进行数据推送，并实时获取当前交付时间；如果当前交付时间超过目标交互时间，则向数据库管理员和大数据需求方发送告警程序；再接收基于告警程序生成的推送决策，并根据推送决策确定第二推送速度；第二推送速度为将剩余推送数据量在目标交付时间内完成推送的最小速度，通过该方法缓解了现有技术中存在的数据推送不及时、数据库稳定性差的问题，实现了稳定且高效地进行大数据推送的效果。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例提供的一种大数据的推送方法的流程示意图；

图2为本发明实施例提供的另一种大数据的推送方法的流程示意图；

图3为本发明实施例提供的一种大数据推送系统的结构示意图；

图4为本发明实施例提供的一种电子设备的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。下面结合附图，对本发明的一些实施方式作详细说明。在不冲突的情况下，下述的实施例及实施例中的特征可以相互组合。

随着信息化技术和电子渠道的业务发展要求，大数据被广泛应用于各大互联网、电商、游戏、金融等行业，需要将不同业务系统中的数据信息进行处理，然后基于业务要求，通过消息推送的模式在不同的渠道触达用。随着应用场景的增多，大数据需要对接公司内所有核心业务系统，通过对业务数据进行抽取，实现制作商业报表、提供给决策层做合理的决策，或者自动化程序通过报表数据进行个性化、智能化的推荐等应用。但是在大数据的数据推送场景下，大部分公司没有统一的标准或者平台进行智能化管理，大量数据进行多线程的推送容易导致服务器性能受损，影响数据库稳定性，也容易发生主从延迟的现象。因此现有大数据的推送技术无法在满足时效性、数据库稳定性等多维度的要求下同时满足业务各方面需求。也就是说，现有的技术存在数据推送不及时、数据库稳定性差的问题。

基于此，本发明实施例提供了一种大数据的推送方法、系统和电子设备，以缓解现有技术中存在的数据推送不及时、数据库稳定性差的技术问题。

为便于对本实施例进行理解，首先对本发明实施例所公开的一种大数据的推送方法进行详细介绍，参见图1所示的一种大数据的推送方法的流程示意图，该方法应用于大数据推送系统，该大数据推送系统用于将数据库内的大数据推送至大数据需求方。该方法可以由电子设备执行，主要包括以下步骤S110至步骤S130：

S110：根据待推送数据信息和当前数据库的监控参数，确定第一推送速度；待推送数据信息包括待推送数据量以及目标交付时间；第一推送速度为将推送数据量在目标交付时间内完成推送的最小速度；

在一种实施例中，数据库的监控参数包括：每秒查询率QPS和每秒事物量TPS。其中，每秒事物量TPS(Transactions Per Second)也称为：每秒传输的事物处理个数，即服务器每秒处理的事务数。通常，一个事务是指一个客户机向服务器发送请求然后服务器做出反应的过程，具体的事务定义可以是一个接口、多个接口、一个业务流程等等。以单接口定义为事务举例，每个事务包括了如下3个过程：(1)向服务器发请求；(2)服务器自己的内部处理(包含应用服务器、数据库服务器等)；(3)服务器返回结果给客户端。如果每秒能够完成N次以上3个过程，TPS就是N。

客户机在发送请求时开始计时，收到服务器响应后结束计时，以此来计算使用的时间和完成的事务个数。一般的，评价系统性能均以每秒钟完成的技术交易的数量来衡量。系统整体处理能力取决于处理能力最低模块的TPS值。

每秒查询率QPS(Queries Per Second)指一台服务器每秒能够响应的查询次数，用于衡量特定的查询服务器在规定时间内所处理流量多少，主要针对专门用于查询的服务器的性能指标。

作为一个具体的示例，上述步骤S110可以包括：根据待推送数据信息和当前数据库的监控参数，确定第一推送速度，包括：基于当前数据库的监控参数、待推送数据量以及目标交付时间，确定第一推送速度。

即在当前数据库的稳定性不会受到影响的前提下，当大数据推送系统以第一推送速度进行数据推送时，理论上至少可以在目标交付时间之前完成待推送数据量的完整推送。也就是说，该第一推送速度为该数据库的正常安全推数速率。

在本实施例中，上述方法在步骤S110根据待推送数据信息和当前数据库的监控参数，确定第一推送速度之前，还应该包括：接收大数据需求方发送的待推送数据信息；待推送数据信息包括待推送数据量以及目标交付时间。其中，大数据需求方即业务开发端，可以是电商、游戏、金融等行业。也就是说，待推送数据信息由数据需求方提出，比如：某银行要求待推送的数据为报表A，目标交付时间为20日早上8点，则第一推送速度为大数据推送系统将报表A的完整数据在20日早上8点之前推送至该银行的最小速度。

S120：以第一推送速度进行数据推送，并实时获取当前交付时间；如果当前交付时间超过目标交互时间，则向数据库管理员和大数据需求方发送告警程序；

为了避免数据推送过程中因突发状况影响最终数据交付，在进行数据推送的过程中，实时获取当前的剩余待推送数据以及当前交付时间，并进行判断。如果按第一推送速度不能按时交付，则需要对当前数据库以及大数据推送系统进行整体评估，然后判断是否需要加大推数的速率。

也就是说，如果距离目标交付时间还有一定时间段，预判按照第一推送速度无法进行交付，但可以调整更大的速率完成任务，可以通过告警程序，将当前状况发送到业务开发端和数据库管理员DBA(Database Administrator)，由多方共同决议判断当前各方面现状，生成新的推送决策。

S130：接收基于告警程序生成的推送决策，并根据推送决策确定第二推送速度；第二推送速度为将剩余推送数据量在目标交付时间内完成推送的最小速度。

在一种实施例中，参见图2，上述S130中接收基于告警程序生成的推送决策，并根据推送决策确定第二推送速度，包括：

S210：接收数据库管理员根据告警程序生成的当前数据库的最大监控参数；

S220：接收大数据需求方根据告警程序生成的可延迟交付时间；

S230：基于当前数据库的最大监控参数和可延迟交付时间，生成推送决策；

S240：根据推送决策确定第二推送速度；该第二推送速度为将剩余推送数据量在目标交付时间内完成推送的最小速度。

在一种实施例中，上述方法还包括：构建配置管理数据库CMDB作为当前数据库；当前数据库包括主数据库，每个主数据库包括至少一个从数据库；主数据库用于接收大数据推送请求。

其中，配置管理数据库(Configuration Management Database，CMDB)是一个逻辑数据库，包含了配置项全生命周期的信息以及配置项之间的关系(包括物理关系、实时通信关系、非实时通信关系和依赖关系)。

CMDB存储与管理企业IT架构中设备的各种配置信息，它与所有服务支持和服务交付流程都紧密相联，支持这些流程的运转、发挥配置信息的价值，同时依赖于相关流程保证数据的准确性。

在一种实施例中，上述方法还包括：基于监控参数生成可视化数据库监控；可视化数据库监控用于在大数据推送系统上显示数据库的信息。

在一种实施例中，方法还包括：基于待推送数据信息、已推送数据信息和剩余待推送数据信息，生成任务进度监控；任务进度监控用于在大数据推送系统上显示当前推送任务的进度，并且将当前推送任务的进度向数据库管理员和大数据需求方发送。

本发明实施例提供了一种大数据的推送方法，该方法包括：首先根据待推送数据信息和当前数据库的监控参数，确定第一推送速度；然后以第一推送速度进行数据推送，并实时获取当前交付时间；如果当前交付时间超过目标交互时间，则向数据库管理员和大数据需求方发送告警程序；再接收基于告警程序生成的推送决策，并根据推送决策确定第二推送速度；第二推送速度为将剩余推送数据量在目标交付时间内完成推送的最小速度，通过该方法缓解了现有技术中存在的数据推送不及时、数据库稳定性差的问题，实现了稳定且高效地进行大数据推送的效果。

作为一个具体的示例，本发明实施例提供了一种大数据推送方法，该方法的核心内容包括以下三点：

(1)首先为大数据统一推数平台构建数据库CMDB，打通数据库管理员DBA和数据集CMDB系统，保证信息的正确性和完整性。并且确定大数据推送系统使用数据库VIP(保证大数据推送系统的推送请求一直请求到主库，防止推送到从库，导致主从数据库不一致，进而可能导致数据库异常)。另外，执行前后实时执行show slave status来判断访问目标是主库。

(2)其次，在第一步保障数据库信息正常的情况下，需要解决时效性和主从延迟风险导致的业务受损情况。时效性主要由业务开发端提供，即由推数的需求方填写，比如：A表需要在凌晨5点前必须完成，推数任务凌晨1点开始，那么大数据推送系统可以通过根据推数的数据量，判断按正常推送数据情况下是否能交付。如果按正常安全推数速率不能按时交付，可以获取当前数据库TPS/QPS、数据库和系统核心监控等指标(比如CPU、主从延迟情况)，在各项监控指标正常的前提下，逐渐加大推数的速率，保障推数数据能按时交付。如果离交付一定时间段内，预判无法进行交付，但可以调整更大的速率完成任务，可以通过告警程序，告警给到业务开发端和数据库管理员DBA，由二者共同决议判断当前各方面现状，包括：继续加大速率，业务方是否可以接收延迟(延迟的影响与数据时效性比较哪个更重要)、以及推数速率数据库是否可抗住，最后做出决策。并提供可视化数据库监控、系统监控、任务工作进度等信息展示给到各方评估。

(3)通过智能化推数程序逻辑以及自动电话告警，协调各方再次人工确认提升推数速率导致延迟或者数据库负载高，与推数任务是否能按时交付进行合理的评估。

本发明实施例提供的大数据的推送方法，通过提前发现时效性可能受阻的情况，并提供给业务端做前置恰当的决策，在保障数据库稳定性的前提下，也保障了数据推送的及时性，满足了业务需求。

此外，本发明实施例还提供了一种大数据推送系统，参见图3所示，该大数据推送系统包括：

第一推送速度确定模块310，用于根据待推送数据信息和当前数据库的监控参数，确定第一推送速度；待推送数据信息包括待推送数据量以及目标交付时间；第一推送速度为将推送数据量在目标交付时间内完成推送的最小速度；

数据推送模块320，用于以第一推送速度进行数据推送，并实时获取当前交付时间；如果当前交付时间超过目标交互时间，则向数据库管理员和大数据需求方发送告警程序；

第二推送速度确定模块330，用于接收基于告警程序生成的推送决策，并根据推送决策确定第二推送速度；第二推送速度为将剩余推送数据量在目标交付时间内完成推送的最小速度。

在一种实施例中，数据库的监控参数包括：每秒查询率QPS和每秒事物量TPS；系统还包括接收模块，用于接收大数据需求方发送的待推送数据信息；待推送数据信息包括待推送数据量以及目标交付时间。

在一种实施例中，第一推送速度确定模块还用于：基于当前数据库的监控参数、待推送数据量以及目标交付时间，确定第一推送速度。

在一种实施例中，第二推送速度确定模块还用于：接收数据库管理员根据告警程序生成的当前数据库的最大监控参数；接收大数据需求方根据告警程序生成的可延迟交付时间；基于当前数据库的最大监控参数和可延迟交付时间，生成推送决策；根据推送决策确定第二推送速度。

在一种实施例中，上述大数据推送系统还可以包括数据库构建模块，用于构建配置管理数据库CMDB作为当前数据库；当前数据库包括主数据库，每个主数据库包括至少一个从数据库；主数据库用于接收大数据推送请求。

在一种实施例中，上述大数据推送系统还可以包括可视化数据库监控生成模块，用于基于监控参数生成可视化数据库监控；可视化数据库监控用于在大数据推送系统上显示数据库的信息。

在一种实施例中，上述大数据推送系统还可以包括任务进度监控生成模块，用于基于待推送数据信息、已推送数据信息和剩余待推送数据信息，生成任务进度监控；任务进度监控用于在大数据推送系统上显示当前推送任务的进度，并且将当前推送任务的进度向数据库管理员和大数据需求方发送。

目前大数据推送功能在各个领域的设计参差不齐，存在极容易导致主从延迟、导致数据库生产故障、不满足业务的时效性、缺少监控告警等手段不利于提前预测到事故的可能性等问题。本实施例提供的大数据的推送方法和系统的目的在于解决上述问题，通过实时获取当前数据库和系统的监控告警指标，更好的满足业务需求，提前预防数据推送不及时对业务造成影响的情况，采用更标准化、自动化、智能化的手段解决业务需求。

本申请实施例所提供的大数据推送系统可以为设备上的特定硬件或者安装于设备上的软件或固件等。本申请实施例所提供的装置，其实现原理及产生的技术效果和前述方法实施例相同，为简要描述，装置实施例部分未提及之处，可参考前述方法实施例中相应内容。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，前述描述的系统、装置和单元的具体工作过程，均可以参考上述方法实施例中的对应过程，在此不再赘述。本申请实施例提供的大数据推送系统与上述实施例提供的大数据推送方法具有相同的技术特征，所以也能解决相同的技术问题，达到相同的技术效果。

本申请实施例还提供了一种电子设备，具体的，该电子设备包括处理器和存储装置；存储装置上存储有计算机程序，计算机程序在被所述处理器运行时执行如上所述实施方式的任一项所述的方法。

图4为本申请实施例提供的一种电子设备的结构示意图，该电子设备400包括：处理器40，存储器41，总线42和通信接口43，所述处理器40、通信接口43和存储器41通过总线42连接；处理器40用于执行存储器41中存储的可执行模块，例如计算机程序。

其中，存储器41可能包含高速随机存取存储器(RAM，Random Access Memory)，也可能还包括非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。通过至少一个通信接口43(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接，可以使用互联网，广域网，本地网，城域网等。

总线42可以是ISA总线、PCI总线或EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

其中，存储器41用于存储程序，所述处理器40在接收到执行指令后，执行所述程序，前述本发明实施例任一实施例揭示的流过程定义的装置所执行的方法可以应用于处理器40中，或者由处理器40实现。

处理器40可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器40中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器40可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital SignalProcessing，简称DSP)、专用集成电路(Application Specific Integrated Circuit，简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器41，处理器40读取存储器41中的信息，结合其硬件完成上述方法的步骤。

对应于上述方法，本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有机器可运行指令，所述计算机可运行指令在被处理器调用和运行时，所述计算机可运行指令促使所述处理器运行上述方法的步骤。

在本申请所提供的实施例中，应该理解到，所揭露装置和方法，可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请提供的实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。

所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，电子设备，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

应注意到：相似的标号和字母在附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释，此外，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (10)

1.一种大数据的推送方法，其特征在于，应用于大数据推送系统，包括：

根据待推送数据信息和当前数据库的监控参数，确定第一推送速度；所述待推送数据信息包括待推送数据量以及目标交付时间；所述第一推送速度为将所述推送数据量在所述目标交付时间内完成推送的最小速度；

以所述第一推送速度进行数据推送，并实时获取当前交付时间；如果所述当前交付时间超过所述目标交互时间，则向数据库管理员和所述大数据需求方发送告警程序；

接收基于所述告警程序生成的推送决策，并根据所述推送决策确定第二推送速度；所述第二推送速度为将剩余推送数据量在所述目标交付时间内完成推送的最小速度。

2.根据权利要求1所述的方法，其特征在于，所述数据库的监控参数包括：每秒查询率QPS和每秒事物量TPS；

所述方法还包括：接收所述大数据需求方发送的待推送数据信息；所述待推送数据信息包括待推送数据量以及目标交付时间。

3.根据权利要求2所述的方法，其特征在于，根据待推送数据信息和当前数据库的监控参数，确定第一推送速度，包括：

基于当前数据库的监控参数、所述待推送数据量以及所述目标交付时间，确定第一推送速度。

4.根据权利要求2所述的方法，其特征在于，接收基于所述告警程序生成的推送决策，并根据所述推送决策确定第二推送速度，包括：

接收所述数据库管理员根据所述告警程序生成的当前数据库的最大监控参数；

接收所述大数据需求方根据所述告警程序生成的可延迟交付时间；

基于所述当前数据库的最大监控参数和所述可延迟交付时间，生成推送决策；

根据所述推送决策确定第二推送速度。

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：

构建配置管理数据库CMDB作为当前数据库；所述当前数据库包括主数据库，每个所述主数据库包括至少一个从数据库；所述主数据库用于接收大数据推送请求。

6.根据权利要求1所述的方法，其特征在于，所述方法还包括：

基于所述监控参数生成可视化数据库监控；所述可视化数据库监控用于在所述大数据推送系统上显示数据库的信息。

7.根据权利要求6所述的方法，其特征在于，所述方法还包括：

基于所述待推送数据信息、已推送数据信息和剩余待推送数据信息，生成任务进度监控；所述任务进度监控用于在所述大数据推送系统上显示当前推送任务的进度，并且将所述当前推送任务的进度向所述数据库管理员和所述大数据需求方发送。

8.一种大数据推送系统，其特征在于，包括：

第一推送速度确定模块，用于根据待推送数据信息和当前数据库的监控参数，确定第一推送速度；所述待推送数据信息包括待推送数据量以及目标交付时间；所述第一推送速度为将所述推送数据量在所述目标交付时间内完成推送的最小速度；

数据推送模块，用于以所述第一推送速度进行数据推送，并实时获取当前交付时间；如果所述当前交付时间超过所述目标交互时间，则向数据库管理员和所述大数据需求方发送告警程序；

第二推送速度确定模块，用于接收基于所述告警程序生成的推送决策，并根据所述推送决策确定第二推送速度；所述第二推送速度为将剩余推送数据量在所述目标交付时间内完成推送的最小速度。

9.一种电子设备，包括存储器、处理器，所述存储器中存储有可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现上述权利要求1至7任一项所述的方法的步骤。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有机器可运行指令，所述计算机可运行指令在被处理器调用和运行时，所述计算机可运行指令促使所述处理器运行所述权利要求1至7任一项所述的方法。

Images