CN105022833A - 一种数据处理的方法、节点及监控系统 - Google Patents
一种数据处理的方法、节点及监控系统 Download PDFInfo
- Publication number
- CN105022833A CN105022833A CN201510487731.8A CN201510487731A CN105022833A CN 105022833 A CN105022833 A CN 105022833A CN 201510487731 A CN201510487731 A CN 201510487731A CN 105022833 A CN105022833 A CN 105022833A
- Authority
- CN
- China
- Prior art keywords
- distributed
- data
- node
- main controlled
- monitor data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种数据处理的方法、节点及监控系统,涉及计算机技术领域,包括:分布式节点获取监控数据;分布式节点将获得的监控数据存储至分布式数据库中。本发明适用于数据共享的场景。通过本发明技术方案,无需主控节点将监控数据存储至分布式数据库中,进而减少了主控节点的工作量,降低了主控节点出现瓶颈的现象,提高了监控数据的处理速度。
Description
技术领域
本发明涉及计算机技术领域,尤指一种数据处理的方法、节点及监控系统。
背景技术
随着云计算时代的到来,为了充分利用资源,网络中的资源被集中起来以便提供更高的性能,从而出现了大量的数据中心。但是随之出现的还有大量的服务器运维工作,然而这给网络中成千上万的服务器设备运行状态的监控及管理带来了巨大的挑战,面对如此多需要监控的设备及复杂的网络环境,对这些大量的设备进行实时准确的性能监控显得尤为必要。
在现有技术中,通过分布式监控系统实现对服务设备的性能的监控。在上述分布式监控系统中包括主控节点和分布式节点。其中,分布式节点可以获取待监控设备的监控数据,并将监控数据上报至主控节点,由主控节点负责将接收的监控数据存储至数据库中,完成监控数据的上报过程。
在实现上述分布式监控系统的监控功能时,发明人发现存在以下问题:各个分布式节点需要将其采集的监控数据上报至主控节点,由主控节点存储至数据库,这使得主控节点的工作量较大,增加了该主控节点出现瓶颈的现象,导致监控数据的处理速度较慢。
发明内容
为了解决上述技术问题,本发明提供了一种数据处理的方法、节点及监控系统,能够减少主控节点的工作量,降低主控节点出现瓶颈的现象,提高监控数据的处理速度。
为了达到本发明目的,第一方面本发明提供了一种数据处理的方法,应用于具有读写分布式数据库功能的分布式节点中,包括:分布式节点获取监控数据;分布式节点将获得的监控数据存储至分布式数据库中。
第二方面,本发明提供了一种数据处理的方法,包括:主控节点从分布式数据库中获取监控数据;主控节点对获取的所述监控数据进行数据处理。
第三方面,本发明提供了一种分布式节点,包括:获取单元,用于获取监控数据;存储单元,用于将所述获取单元获取的所述监控数据存储至分布式数据库中。
第四方面,本发明提供了一种主控节点,包括:获取单元,用于从分布式数据库中获取监控数据;处理单元,用于对所述获取单元获取的所述监控数据进行数据处理。
第五方面,本发明提供了一种监控系统,包括:至少一个分布式节点,主控节点及分布式数据库;其中,所述至少一个分布式节点为上述实施例所述的分布式节点,主控节点为上述实施例所述的主控节点。
与现有技术相比,本发明包括获取监控数据,将监控数据存储至分布式数据库中。这样,相对于现有技术,本发明的分布式节点可以在获取到监控数据后,直接存储至分布式数据库中,而无需通过主控节点将监控数据存储至数据库中,从而减少了主控节点的工作量,降低了主控节点出现瓶颈的现象,提高了监控数据的处理速度。
本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
附图说明
附图用来提供对本发明技术方案的进一步理解,并且构成说明书的一部分,与本申请的实施例一起用于解释本发明的技术方案,并不构成对本发明技术方案的限制。
图1为本发明实施例提供的一种数据处理的方法的流程示意图;
图2为本发明实施例提供的另一种数据处理的方法的流程示意图;
图3为本发明实施例提供的另一种数据处理的方法的流程示意图;
图4为本发明实施例提供的一种分布式节点的结构示意图;
图5为本发明实施例提供的另一种分布式节点的结构示意图;
图6为本发明实施例提供的一种主控节点的结构示意图;
图7为本发明实施例提供的一种监控系统的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,下文中将结合附图对本发明的实施例进行详细说明。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互任意组合。
在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行。并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
本发明实施例提供了一种数据处理的方法,应用于具有读写分布式数据库功能的分布式节点中,如图1所示,所述方法包括:
步骤101、分布式节点获取监控数据。
具体的,分布式节点对待监控设备进行监控获取所需的监控数据,例如,获取待监控设备的CPU(Central Processing Unit,中央处理器)的使用率,内存使用率等。
需要说明的是,在分布式节点中均有DBMS(Database ManagementSystem,数据库管理系统)的一份完整拷贝副本,或者部分拷贝副本,通过DBMS可以对分布式数据库进行读写。
步骤102、分布式节点将监控数据存储至分布式数据库中。
具体的,分布式节点在获取到监控数据后,可以将监控数据存储至此分布式节点可以读写的分布式数据库中。即为,分布式节点将获取的监控数据写入分布式数据库中。
需要说明的是,在本发明实施例中,数据处理的方法可以应用于监控系统,在监控系统中包括分布式数据库、主控节点和分布式节点。在本发明中的分布式数据库是主控节点及分布式节点均可以读写的数据库。即为主控节点及分布式节点均具有读写分布式数据库的功能。因此,分布式节点在获取了监控数据后,可以将自身获取的监控数据存存储至数据库中。
示例的,分布式节点监测待监控设备可以获知此待监控设备的CPU使用率及内存使用率。此时,分布式节点将获取的监控数据,即为待监控设备的CPU使用率及内存使用率存储至分布式数据库中。
需要说明的是,在本方面实施例中,分布式数据库可以独立于分布式节点,也可以集成在分布式节点中,本发明对此不作限制。
本发明实施例提供了一种数据处理的方法,包括分布式节点获取监控数据,并将监控数据存储至分布式数据库中。这样,相对于现有技术,本发明的分布式节点可以在获取到监控数据后,直接存储至分布式数据库中,而无需通过主控节点将监控数据存储至数据库中,从而减少了主控节点的工作量,降低了主控节点出现瓶颈的现象,提高了监控数据的处理速度。
需要说明的是,分布式节点获取的监控数据还可以是待监控设备的其他性能相关参数,本发明对此不作限制。
本发明实施例提供了一种数据处理的方法,应用于具有读写分布式数据库功能的主控节点中,如图2所示,所述方法包括:
步骤201、主控节点从分布式数据库中获取监控数据。
具体的,主控节点在需要获取待监控设备的监控数据时,可以从分布式数据库中获取所需的监控数据。
需要说明的是,主控节点获取的监控数据是由分布式节点在获取监控数据后,存储至分布式数据库中的。此时,主控节点与分布式节点均可以访问分布式数据库。
步骤202、主控节点对监控数据进行数据处理。
具体的,主控节点在获取了所需的待监控设备的监控数据后,可以根据此监控数据进行相应的数据处理。
示例性的,主控节点需要获取待监控设备的CPU使用率时,可以从分布式数据库中获取所需的待监控设备的CPU使用率。在获取了待监控设备的CPU使用率后,根据待监控设备的CPU使用率确定是否需要关闭待监控设备的运行程序。在待监控设备的CPU使用率大于预设阀值时,可以关闭待监控设备的运行程序。
需要说明的是,预设阀值可以是根据实际需要预先设置的。
需要说明的是,主控节点根据监控数据的不同,进行的数据处理可以不同。根据相同的监控数据的不同状态,执行的数据处理也可以不同,本发明对此不作限制。
本发明实施例提供了一种数据处理的方法,包括主控节点从分布式数据库中获取监控数据,对监控数据进行数据处理。这样,主控节点可以仅从分布式数据库中获取监控数据,而无需将分布式节点中的监控数据存储至分布式数据库,从而减少了主控节点的工作量,降低了主控节点出现瓶颈的现象,提高了监控数据的处理速度。
本发明实施例提供了一种数据处理的方法,如图3所示,包括:
步骤301、分布式节点确定获取监控数据的时间。
具体的,数据处理的方法应用于监控系统中,此监控系统包括:分布式节点,主控节点和分布式数据库。在此监控系统中,分布式节点及主控节点共享分布式数据库,即为分布式节点及主控节点均能访问分布式数据库,也均能将数据存储至分布式数据库中。在此监控系统中,分布式节点可以有至少两个,此时,分布式节点间需先同步获取监控数据的时间,这样,分布式节点间在同步时间后,所有的分布式节点的监控数据以此时间为准进行获取,时间刻度保持一致。因此,分布式节点可以根据同步机制,确定出获取监控数据的时间。此时,在监控系统中,各个分布式节点的同步机制是相同,这样才能使各个分布式节点的获取监控数据的时间一致。
需要说明的是,分布式节点确定获取监控数据的时间还可是其他方法,例如,主控节点可以调整各个分布式节点的获取监控数据的时间,并将各个分布式节点的获取监控数据的时间分别发送至各个分布式节点,此时各个分布式节点可以将主控节点方式的时间作为获取监控数据的时间。当然,分布式节点确定获取监控数据的时间还可是其他方法,本发明对此不作限制。
需要说明的是,在监控系统中仅包含有一个分布式节点时,无需与其他分布式节点进行时间同时,此时无需执行步骤301,可以直接执行步骤302。
步骤302、分布式节点获取监控数据。
具体的,可参考步骤101,在此不再赘述。
步骤303、分布式节点将监控数据存储至分布式数据库中。
具体的,可参考步骤102,在此不再赘述。
步骤304、主控节点从分布式数据库中获取监控数据。
具体的,可参考步骤201,在此不再赘述。
步骤305、主控节点对监控数据进行数据处理。
具体的,可参考步骤202,在此不再赘述。
本发明实施例提供了一种数据处理的方法,包括将监控数据存储至分布式数据库中。这样,相对于现有技术,本发明的分布式节点可以在获取到监控数据后,直接存储至分布式数据库中,主控节点在分布式数据库中获取监控数据,并根据监控数据进行数据处理。即为本发明无需通过主控节点将监控数据存储至数据库中,从而减少了主控节点的工作量,降低了主控节点出现瓶颈的现象,提高了监控数据的处理速度。
本发明实施例提供了一种分布式节点,如图4所示,包括:
获取单元401,用于获取监控数据。
存储单元402,用于将获取单元401获取的监控数据存储至分布式数据库中。
进一步的,上述分布式节点,如图5所示,还包括:
确定单元403,用于确定获取单元401获取监控数据的时间。
需要说明的是,本发明实施例所述的分布式节点具有读写分布式数据库的功能。
本发明实施例提供了一种分布式节点,包括分布式节点获取监控数据,并将监控数据存储至分布式数据库中。这样,相对于现有技术,本发明的分布式节点可以在获取到监控数据后,直接存储至分布式数据库中,而无需通过主控节点将监控数据存储至数据库中,从而减少了主控节点的工作量,降低了主控节点出现瓶颈的现象,提高了监控数据的处理速度。
本发明实施例提供了一种主控节点,如图6所示,包括:
获取单元601,用于从分布式数据库中获取监控数据。
处理单元602,用于对获取单元601获取的监控数据进行数据处理。
需要说明的是,本发明实施例所述的主控节点具有读写分布式数据库的功能。
本发明实施例提供了一种主控节点,包括主控节点从分布式数据库中获取监控数据,对监控数据进行数据处理。这样,主控节点可以仅从分布式数据库中获取监控数据,而无需将分布式节点中的监控数据存储至分布式数据库,从而减少了主控节点的工作量,降低了主控节点出现瓶颈的现象,提高了监控数据的处理速度。
本发明实施例提供了一种监控系统,如图7所示,包括:至少一个分布式节点701,主控节点702,分布式数据库703。
其中,至少一个分布式节点701为上述实施例所述的分布式节点。主控节点702位上述实施例所述的主控节点。
分布式数据库703,用于存储监控数据。
需要说明的是,至少一个分布式节点701及主控节点702共享分布式数据库703。即为,分布式节点及主控节点均能访问分布式数据库,也均能将数据存储至分布式数据库中。
本发明实施例提供了一种监控系统,包括将监控数据存储至分布式数据库中。这样,相对于现有技术,本发明的分布式节点可以在获取到监控数据后,直接存储至分布式数据库中,主控节点在分布式数据库中获取监控数据,并根据监控数据进行数据处理。即为本发明无需通过主控节点将监控数据存储至数据库中,从而减少了主控节点的工作量,降低了主控节点出现瓶颈的现象,提高了监控数据的处理速度。
虽然本发明所揭露的实施方式如上,但所述的内容仅为便于理解本发明而采用的实施方式,并非用以限定本发明。任何本发明所属领域内的技术人员,在不脱离本发明所揭露的精神和范围的前提下,可以在实施的形式及细节上进行任何的修改与变化,但本发明的专利保护范围,仍须以所附的权利要求书所界定的范围为准。
Claims (7)
1.一种数据处理的方法,其特征在于,应用于具有读写分布式数据库功能的分布式节点中,包括:
分布式节点获取监控数据;
分布式节点将获得的监控数据存储至分布式数据库中。
2.根据权利要求1所述的数据处理的方法,其特征在于,所述分布式节点获取监控数据之前,还包括:
所述分布式节点确定获取监控数据的时间。
3.一种数据处理的方法,其特征在于,应用于具有读写分布式数据库功能的主控节点中,所述方法包括:
主控节点从分布式数据库中获取监控数据;
主控节点对获取的所述监控数据进行数据处理。
4.一种分布式节点,其特征在于,包括:
获取单元,用于获取监控数据;
存储单元,用于将所述获取单元获取的所述监控数据存储至分布式数据库中。
5.根据权利要求4所述的分布式节点,其特征在于,还包括:
确定单元,用于确定所述获取单元获取监控数据的时间。
6.一种主控节点,其特征在于,包括:
获取单元,用于从分布式数据库中获取监控数据;
处理单元,用于对所述获取单元获取的所述监控数据进行数据处理。
7.一种监控系统,其特征在于,包括:至少一个分布式节点,主控节点及分布式数据库;其中,
所述至少一个分布式节点为权利要求4-5所述的分布式节点;
所述主控节点为权利要求6所述的主控节点;
所述分布式数据库,用于存储监控数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510487731.8A CN105022833A (zh) | 2015-08-10 | 2015-08-10 | 一种数据处理的方法、节点及监控系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510487731.8A CN105022833A (zh) | 2015-08-10 | 2015-08-10 | 一种数据处理的方法、节点及监控系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN105022833A true CN105022833A (zh) | 2015-11-04 |
Family
ID=54412802
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510487731.8A Pending CN105022833A (zh) | 2015-08-10 | 2015-08-10 | 一种数据处理的方法、节点及监控系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105022833A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107291868A (zh) * | 2017-06-14 | 2017-10-24 | 郑州云海信息技术有限公司 | 一种监控数据处理装置及监控数据处理方法 |
CN107463484A (zh) * | 2017-08-02 | 2017-12-12 | 郑州云海信息技术有限公司 | 一种采集监控记录的方法及系统 |
CN108848134A (zh) * | 2018-05-29 | 2018-11-20 | 郑州云海信息技术有限公司 | 一种服务器监控信息采集方法及装置 |
CN110083504A (zh) * | 2019-03-29 | 2019-08-02 | 北京奇安信科技有限公司 | 分布式任务的运行状态监控方法及装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101950297A (zh) * | 2010-09-10 | 2011-01-19 | 北京大学 | 一种海量语义数据的存储和查询方法及装置 |
CN102567505A (zh) * | 2011-12-26 | 2012-07-11 | 中兴通讯股份有限公司 | 一种分布式数据库及其数据操作方法 |
CN102906751A (zh) * | 2012-07-25 | 2013-01-30 | 华为技术有限公司 | 一种数据存储、数据查询的方法及装置 |
-
2015
- 2015-08-10 CN CN201510487731.8A patent/CN105022833A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101950297A (zh) * | 2010-09-10 | 2011-01-19 | 北京大学 | 一种海量语义数据的存储和查询方法及装置 |
CN102567505A (zh) * | 2011-12-26 | 2012-07-11 | 中兴通讯股份有限公司 | 一种分布式数据库及其数据操作方法 |
CN102906751A (zh) * | 2012-07-25 | 2013-01-30 | 华为技术有限公司 | 一种数据存储、数据查询的方法及装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107291868A (zh) * | 2017-06-14 | 2017-10-24 | 郑州云海信息技术有限公司 | 一种监控数据处理装置及监控数据处理方法 |
CN107463484A (zh) * | 2017-08-02 | 2017-12-12 | 郑州云海信息技术有限公司 | 一种采集监控记录的方法及系统 |
CN107463484B (zh) * | 2017-08-02 | 2020-11-20 | 苏州浪潮智能科技有限公司 | 一种采集监控记录的方法及系统 |
CN108848134A (zh) * | 2018-05-29 | 2018-11-20 | 郑州云海信息技术有限公司 | 一种服务器监控信息采集方法及装置 |
CN110083504A (zh) * | 2019-03-29 | 2019-08-02 | 北京奇安信科技有限公司 | 分布式任务的运行状态监控方法及装置 |
CN110083504B (zh) * | 2019-03-29 | 2024-04-26 | 奇安信科技集团股份有限公司 | 分布式任务的运行状态监控方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10922452B2 (en) | Digital simulation system of power distribution network | |
CN107423303B (zh) | 数据同步的方法和系统 | |
CN103502942A (zh) | 虚拟机管理设备、虚拟机管理方法及其程序 | |
CN105022833A (zh) | 一种数据处理的方法、节点及监控系统 | |
CN109274557B (zh) | 一种云环境下的智能cmdb管理及云主机监控方法 | |
CN104504147B (zh) | 一种数据库集群的资源协调方法、装置及系统 | |
CN109245908B (zh) | 一种主从集群切换的方法和装置 | |
US10542086B2 (en) | Dynamic flow control for stream processing | |
CN103297543A (zh) | 一种基于计算机集群作业调度的方法 | |
CN102946410A (zh) | 网络同步方法和装置 | |
CN102929769A (zh) | 一种基于代理服务的虚拟机内部数据采集方法 | |
Zhou et al. | A new solution architecture for online power system analysis | |
CN113193947B (zh) | 实现分布式全局序的方法、设备、介质及程序产品 | |
CN102946411A (zh) | 网络同步系统 | |
CN105871581A (zh) | 云计算中报警信息的处理方法及装置 | |
CN104580432A (zh) | memcached系统及内存缓存数据提供、维护和集群维护方法及装置 | |
CN109284339A (zh) | 一种数据库数据实时同步的方法和装置 | |
CN104268056A (zh) | 基于复杂事件处理的面向cps应用的实时监控系统及方法 | |
CN107295031A (zh) | 一种数据同步方法及装置 | |
Zebari et al. | Improved approach for unbalanced load-division operations implementation on hybrid parallel processing systems | |
CN105871659A (zh) | 新增服务器的监控方法及装置 | |
CN107480364B (zh) | 工程建设信息管理的bim模型动态组织方法 | |
Chen et al. | Big data storage architecture design in cloud computing | |
Kim et al. | MapReduce Based Experimental Frame for Parallel and Distributed Simulation Using Hadoop Platform. | |
CN106033211B (zh) | 一种控制涂胶机台胶头清洗的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20151104 |