CN113590433A - 数据管理方法、数据管理系统和计算机可读存储介质 - Google Patents

数据管理方法、数据管理系统和计算机可读存储介质 Download PDF

Info

Publication number
CN113590433A
CN113590433A CN202111147203.XA CN202111147203A CN113590433A CN 113590433 A CN113590433 A CN 113590433A CN 202111147203 A CN202111147203 A CN 202111147203A CN 113590433 A CN113590433 A CN 113590433A
Authority
CN
China
Prior art keywords
monitoring
data
management server
item
channel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111147203.XA
Other languages
English (en)
Other versions
CN113590433B (zh
Inventor
贾坤
蒋国纬
赵守梅
周高登
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan Barda Technology Co.,Ltd.
Original Assignee
Wuhan Sitong Information Service Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan Sitong Information Service Co ltd filed Critical Wuhan Sitong Information Service Co ltd
Priority to CN202111147203.XA priority Critical patent/CN113590433B/zh
Publication of CN113590433A publication Critical patent/CN113590433A/zh
Application granted granted Critical
Publication of CN113590433B publication Critical patent/CN113590433B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3055Monitoring arrangements for monitoring the status of the computing system or of the computing system component, e.g. monitoring if the computing system is on, off, available, not available
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3065Monitoring arrangements determined by the means or processing involved in reporting the monitored data

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Computer And Data Communications (AREA)

Abstract

本申请实施例提供一种数据管理方法、数据管理系统和计算机可读存储介质,其中方法包括:监控端通过监控作业获取监控对象的监控数据,该监控作业是监控对象根据管理服务器发送的监控配置数据创建,其中,不同监控对象所提供的服务存在不同,根据监控数据所对应的监控项,确定监控项所属的频道,将监控数据通过频道发送至订阅所述频道的管理服务器,管理服务器通过频道接收监控数据,根据监控数据所对应的监控项和监控项所对应的监控类型,将监控数据保存至数据库,数据库根据监控项所对应的数据保留策略,对监控数据进行对应数据保留处理。本申请实施例实现对不同监控服务的不同监控数据的统一监控管理,且降低管理服务器的资源消耗和负载。

Description

数据管理方法、数据管理系统和计算机可读存储介质
技术领域
本申请涉及智慧城市技术领域,具体涉及一种数据管理方法、数据管理系统和计算机可读存储介质。
背景技术
随着技术的进步,越来越多的应用等通过云平台来提供服务。为了保证云平台中的服务正常运行,以及实时了解相应服务的运行状况,需要管理服务器对相应服务进行监控。然而由于云平台的服务各不相同,且每个服务所需要监控的监控数据也各不相同,难以对不同服务进行统一的规划和监控。
发明内容
本申请实施例提供一种数据管理方法、数据管理系统和计算机可读存储介质,可统一对不同服务进行监控,且同时降低管理服务器的资源消耗和负载,提高了不同服务的监控数据获取和管理的效率。
本申请实施例提供了一种数据管理方法,包括:
监控端通过监控作业获取监控对象的监控数据,所述监控作业是所述监控对象根据所述管理服务器发送的监控配置数据创建,所述监控配置数据是所述监控端在所述管理服务器中注册之后,由所述管理服务器根据所述监控端的监控对象的监控类型进行配置得到,其中,不同监控对象所提供的服务存在不同;
根据所述监控数据所对应的监控项,确定所述监控项所属的频道;
将所述监控数据通过所述频道发送至订阅所述频道的管理服务器;
管理服务器通过所述频道接收所述监控数据;
根据所述监控数据所对应的监控项和所述监控项所对应的监控类型,将所述监控数据保存至数据库;
所述数据库根据所述监控项所对应的数据保留策略,对所述监控数据进行对应数据保留处理。
本申请实施例还提供了一种数据管理系统,包括管理服务器、监控端和数据库,其中,
所述监控端,用于通过监控作业获取监控对象的监控数据,所述监控作业是所述监控对象根据所述管理服务器发送的监控配置数据创建,所述监控配置数据是所述监控端在所述管理服务器中注册之后,由所述管理服务器根据所述监控端的监控对象的监控类型进行配置得到,其中,不同监控对象所提供的服务存在不同;根据所述监控数据所对应的监控项,确定所述监控项所属的频道;将所述监控数据通过所述频道发送至订阅所述频道的管理服务器;
所述管理服务器,用于通过所述频道接收所述监控数据;根据所述监控数据所对应的监控项和所述监控项所对应的监控类型,将所述监控数据保存至数据库;
所述数据库,用于根据所述监控项所对应的数据保留策略,对所述监控数据进行对应数据保留处理。
本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时,实现上述任一种数据管理方法中的步骤。
本申请实施例的监控端通过监控作业获取监控对象的监控数据,其中,监控作业是根据管理服务器发送的监控配置数据创建,该监控配置数据是监控端在管理服务器中注册后,由管理服务器根据监控对象的监控类型进行配置得到,不同监控对象所对应的服务存在不同,如此,根据监控对象的监控类型来配置对应的监控配置数据,通过简单的配置,使得不同监控对象的不同监控类型对应不同监控配置数据,不同监控配置数据对应不同监控作业,实现对不同服务的不同监控数据的统一监控管理,监控端根据监控作业自动获取监控数据,无需管理服务器主动获取监控数据,进一步降低了管理服务器的资源消耗和管理服务器的负载;接着监控端确定监控数据对应的监控项所属的频道,将监控数据通过频道发送至订阅所述频道的管理服务器,管理服务器通过频道接收监控数据,如此,通过频道的方式来对各种不同服务的不同监控数据进行统一管理,提高了管理服务器对数据管理的效率,也同时避免管理服务器对各种不同服务的监控数据分别进行不同处理占用更多的管理服务器资源和管理服务器的负载;最后根据监控数据所对应的监控项和监控项所对应的监控类型,将监控数据保存至数据库,数据库根据监控项所对应的数据保留策略,对不同服务的不同监控数据进行保留处理,如此,根据不同服务所对应的监控类型将监控数据保存至数据库,数据库根据数据保留策略自动实现对不同服务的不同监控数据的保留处理,统一对数据库中的不同服务的不同监控数据进行保留处理,且无需管理服务器的任何参与,降低管理服务器的资源消耗和管理服务器的负载。本申请实施例根据监控对象的监控类型来配置监控配置数据,结合频道和数据库的数据保留策略,对不同监控对象的不同监控数据的进行统一监控管理,如此实现统一对不同服务进行监控,且同时降低管理服务器乃至整个系统的资源消耗和负载,提高了不同服务的监控数据获取和管理的效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的数据管理方法的应用场景示意图;
图2是本申请实施例提供的数据管理方法的另一应用场景示意图;
图3是本申请实施例提供的数据管理方法的流程示意图;
图4是本申请实施例提供的预设格式的示意图;
图5是本申请实施例提供的数据管理方法的另一流程示意图;
图6是本申请实施例提供的数据管理方法的又一示意图;
图7是本申请实施例提供的数据管理系统的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请实施例提供一种数据管理方法、数据管理系统计算机可读存储介质。本申请实施例提供的任一种数据管理方法,可以集成在数据管理系统中。该数据管理系统包括管理服务器和至少一个监控端。该管理服务器可以是独立的服务器个体,还可以是服务器集群。监控端可以是服务器,还可以是智能手机、笔记本电脑、智能电视、智能机器人、可穿戴式等终端设备。此外,数据管理系统还集成有发布订阅功能,如Redis发布订阅功能。其中,Redis(Remote Dictionary Server)是一个key-value存储系统。
请参阅图1和图2,是本申请实施例提供的数据管理方法的应用场景示意图。在该应用场景中,包括客户端、管理服务器、多个监控端、Redis系统以及时序数据库。其中,客户端通过网络与管理服务器相互通信,多个监控端通过网络与Redis系统进行通信,Redis系统与管理服务器进行通信,管理服务器通过网络与时序数据库相互通信。其中,监控端为提供服务的服务器,监控端中包括至少一个监控对象,该监控对象可以是虚拟机实例,通过虚拟机实例提供具体的服务,不同的虚拟机实例提供的服务存在不同。
Redis系统中包括发布者、频道、订阅者。其中,如图2所示,发布者功能集成于监控端中,具体地,集成于监控端中的虚拟机实例中,每个虚拟机实例中对应一个发布者功能,订阅者功能集成于管理服务器中,本申请实施例以该种情况为例进行说明。在一些实施例中,如图1所示,发布者功能不集成于监控端中,订阅者功能也不集成于管理服务器中,而是集成在其他的服务器(图中未示出)中,由其他的服务器分别与监控端和管理服务器进行通信。
在虚拟机实例中部署监控代理服务,监控代理服务中集成有管理服务器的IP和端口等信息,以使得部署重启后监控代理服务自动向管理服务器进行注册以及获取监控配置数据。
管理服务器自发现监控代理服务,通过管理服务器查询已注册的监控代理服务,显示未进行监控配置的监控代理服务,以供用户进行监控配置。具体地,根据虚拟机实例的监控类型来进行监控配置,得到监控配置数据,该监控配置数据会发送至对应的虚拟机实例中。对应虚拟机实例中的监控代理服务根据监控配置数据创建监控作业,并根据监控作业获取监控数据。
集成有发布者功能的虚拟机实例将监控作业所获取的监控数据发送至对应的频道,频道检测订阅了该频道的订阅者(管理服务器),将监控数据发送至对应的订阅者(管理服务器)。管理服务器将对应的监控数据进行处理以进行展示,并同时保存至时序数据库中。时序数据库根据预先设置的关于监控数据的数据保留策略,自动实现监控数据的合并、清除等操作。
如此,根据监控对象的监控类型来配置监控配置数据,结合频道和时序数据库的数据保留策略,对不同监控对象的不同监控数据的进行统一监控管理,如此实现统一对不同服务进行监控,且同时降低管理服务器乃至整个系统的资源消耗和负载,提高了不同服务的监控数据获取和管理的效率。
下文中将详细的对本申请实施例中的数据管理方法、数据管理系统以及计算机可读存储介质进行详细的说明。需说明的是,以下实施例的序号不作为对实施例优选顺序的限定。
请参阅图3,是本申请实施例提供的数据管理方法的流程示意图,该数据管理方法应用于数据管理系统中,该数据管理方法包括如下步骤101至106。
101,监控端通过监控作业获取监控对象的监控数据,该监控作业是监控对象根据管理服务器发送的监控配置数据创建,该监控配置数据是监控端在管理服务器中注册之后,由管理服务器根据监控端的监控对象的监控类型进行配置得到,其中,不同监控对象所提供的服务存在不同。
监控对象可以是监控端的某个应用程序/小程序、应用程序/小程序的某个模块/服务;也可以是监控端中部署的虚拟机实例(应用虚拟机实例),如数据库虚拟机实例(提供数据库服务)等,还可以是监控端的某个模块/服务等。
监控端的监控对象可以由人工输入至管理服务器中,还可以是管理服务器自动获取/自发现监控端的监控对象。
监控配置数据包括监控对象对应的监控模板、监控模板对应的监控项、监控项的告警信息、监控项的监控间隔等信息。
监控模板,可理解为针对不同服务的不同监控类型实现的监控内容的分类。将不同服务需要监控的内容以不同的监控模板来表示。以监控数据库虚拟机实例为例进行说明,例如,监控模板包括系统监控模板、Oracle数据库监控模板,SqlServer数据库监控模板等。
监控类型,包括操作系统类型、应用类型等。可以理解地,不同操作系统和不同应用类型所对应的监控模板可以不同。进一步地,可将应用类型分类为数据库类型、数据库版本等。如此,不同数据库类型和不同数据库版本所对应的监控模板也可以不相同。
监控项,监控模板下的具体监控内容的分类,即对监控模板的进一步细分。
例如,系统监控模板的监控项包括:CPU利用率、内存利用率、交换内存SWAP利用率、磁盘使用情况、磁盘读写速度、进程总数、最近一次开机时间、指定端口状态、指定进程状态、指定服务状态、网络接口信息、系统日志等。
例如,Oracle数据库监控模板的监控项包括:高速缓存、重做日志缓冲区、SGA(System Global Area,系统全局区)、PGA(Program Global Areas,程序全局区)、共享池、大型池、数据文件、临时文件、监听日志、告警日志、归档日志、闪回日志、表空间、文件IO(文件输入输出)信息、数据库日志等。
例如,SqlServer数据库监控模板的监控项包括:缓存命中率、日志文件信息、数据文件信息、文件IO信息、文件磁盘使用情况、总连接数、数据库信息、数据库连接信息、数据库进程监控、数据库锁信息、数据库阻塞信息、索引使用情况、文件组空间使用情况等。
需要注意的是,在一些实施例中,监控配置数据可以不包括监控模板,而是直接以具体监控项来进行分类。对应地,监控配置数据包括监控项、监控项的告警信息、监控项的监控间隔等信息。
上述的监控配置数据是监控对象在管理服务器中注册之后,由管理服务器根据监控对象的监控类型进行配置得到。可以理解地,不同监控对象所对应的监控类型存在不同,根据不同监控类型进行配置得到的监控配置数据也会有所不同。如此,不同监控对象所配置的监控配置数据不同。而监控作业是监控对象根据监控配置数据创建,如此,不同监控对象所对应的监控作业也会不同。
其中,针对每个监控项,根据该监控项的告警信息和监控间隔创建对应的定时任务,即监控作业,当达到监控间隔时,触发该定时任务(监控作业),该定时任务调用对应的方法获取监控对象中该监控项所对应的监控数据。
如此,通过监控作业自动获取监控数据,无需管理服务器主动获取监控数据,降低了管理服务器的资源消耗和管理服务器的负载。
102,根据监控数据所对应的监控项,确定监控项所属的频道。
由于监控数据是通过监控作业调用对应的方法来获取的,因此,可通过对应的方法来确定监控数据所对应的监控项。根据监控数据所对应的监控项,确定监控项所属的频道。
监控作业得到的监控数据中包括监控项和监控项的监控值,在将监控数据发送至频道之前,还需对监控数据进行进一步的处理,以监控数据中除了包括监控项、监控项的监控值之外,还包括监控对象的标识信息。当监控对象为数据库虚拟机实例时,监控对象的标识信息包括操作系统类型信息、数据库类型、数据库虚拟机实例名称/IP、端口号等信息。如此,监控项、监控项的值、操作系统类型信息、数据库类型、数据库虚拟机实例名称/IP、端口号等信息按照预设格式来进行封装,得到监控数据。
其中,预先配置多个频道。每个频道包括频道标识和所对应的需发布的监控项,或者每个频道包括频道标识和所对应的需发布的监控模板。每个频道还包括订阅该频道的管理服务器(订阅者)。
在一实施例中,当每个频道包括频道标识和所对应的需发布的监控模板时,上述确定监控项所属的频道的步骤,包括:确定监控项所属的监控模板,其中,每个监控模板包括至少一个监控项;根据所配置的监控模板和频道的对应关系,确定监控项所属的监控模板对应的频道。
其中,监控模板和频道的对应关系预先配置。例如,可配置每种监控模板对应一个自己的发布/订阅的频道,或者可配置多个监控模板对应一个发布/订阅的频道。如此,当确定了监控数据所属的监控模板时,可根据所配置的监控模板与频道的对应关系,确定监控模板对应的频道。
本申请实施例中以每种监控模板对应一个自己的发布/订阅的频道。如此,通过频道的方式可对服务器接收到的监控数据进行简单的分类,以提高服务器对监控数据处理和保存的速度。
103,将监控数据通过频道发送至订阅该频道的管理服务器。
监控对象将监控数据发布至该监控数据对应监控项所属的频道,在发布监控数据时,会将通过频道将监控数据发送至订阅该频道的管理服务器。
104,管理服务器通过频道接收监控数据。
通过频道的方式来对各种不同服务的不同监控数据进行统一管理,提高了管理服务器对不同服务的数据进行管理的效率,也同时避免管理服务器对各种不同服务的监控数据分别进行不同处理占用更多的管理服务器资源和管理服务器的负载。
105,根据监控数据所对应的监控项和监控项所对应的监控类型,将监控数据保存至数据库。
管理服务器确定所接收到的监控数据的监控项和监控项所对应的监控类型,根据监控数据所对应的监控项和监控项所对应的监控类型,将监控数据保存至数据库。
在一实施例中,监控数据所对应的监控项和监控项所对应的监控类型,通过如下步骤确定:按照预设格式解析监控数据,以得到关键字、关键字的属性值,根据关键字确定监控项,根据关键字的属性值确定监控项的监控值、应用虚拟机实例的操作系统类型、应用类型、数据库虚拟机实例名称/IP、端口号等信息;根据操作系统类型和应用类型来确定监控项所对应的监控类型。
其中,预设格式可如图4所示。可以理解地,对于服务器来说,所接收到的监控数据是一串字符。因此,需要将该字符解析出来,以得到对应的数据。具体地,按照预设格式来进行解析,以得到关键字key、关键字的属性值value。对于关键字的属性值value,还需进一步解析,以得到属性值中的监控项的监控值、数据库虚拟机实例的操作系统类型、应用类型、应用虚拟机实例名称/IP、端口号等信息。解析出来之后,根据关键字确定监控项,根据操作系统类型和应用类型来确定监控项所对应的监控类型。例如,将关键字直接确定为监控项,将操作系统类型和应用类型确定为监控项所对应的监控类型等。
根据监控项和监控类型,对监控数据进行进一步的处理和展示,同时将监控数据保存至数据库。其中,该数据库可以为时序数据库,如InfluxDB数据等。
106,数据库根据监控项所对应的数据保留策略,对监控数据进行对应数据保留处理。
时序数据库中预先配置各监控项的数据保留策略,也可修改/删除时序数据库中的数据保留策略。
数据保留策略包括数据保留时长。可对监控项设置数据保留策略,也可对时序数据库中存储数据的表设置数据保留策略。比如,将数据保留30天,将压缩数据保留60天,超过60天的数据进行清除操作,超过30天不到60天的比如CPU使用情况、内存使用情况的监控数据进行压缩处理,每预设时间间隔保留一条CPU使用情况数据,为CPU平均使用率等。对应的,数据保留处理包括保存、清除、合并、压缩等处理。
如此,使用时序数据库自带的配置数据保留策略的功能,只需简单配置,即可自动执行对应的数据保留策略,时序数据库根据数据保留策略自动实现对不同服务的不同监控数据的保留处理,统一对数据库中的不同服务的不同监控数据进行保留处理,且无需管理服务器的任何参与,降低管理服务器的资源消耗和管理服务器的负载。
图5和图6,是本申请实施例提供的数据管理方法的流程示意图。请结合图6参看图5,如图5所示,该数据管理方法应用于数据管理系统中,该数据管理方法包括如下步骤201至211。
201,管理服务器配置各监控项的数据保留策略,并将各监控项的数据保留策略发送至数据库。
在一实施例中,可直接通过管理服务器来配置各监控项的数据保留策略。如通过命令的方式。
在一实施例中,管理服务器对应有客户端。通过客户端来配合实现配置各监控项的数据保留策略。在客户端中,响应于针对监控项的监控项选择操作,确定所选择的监控项;响应于针对所选择的监控项的策略配置操作,确定所选择的监控项的数据保留策略;响应于针对所选择的监控项的策略确定操作,将对应的监控项和监控项的数据保留策略发送至管理服务器端,以使得管理服务器端实现配置对应的监控项和监控项的数据保留策略。
管理服务器将对应的监控项和监控项的数据保留策略发送至数据库,可以是配置一个监控项就发送至数据库,也可以是配置多个监控项后,再将所配置的多个监控项发送至数据库。
需要注意的是,管理服务器也可修改/删除监控项的数据保留策略。
202,数据库接收各监控项的数据保留策略,配置各监控项的数据保留策略。
各监控项可能在数据库的不同数据表中,如此可根据监控项获取数据表,再设置数据表中的监控项的数据保留策略。还可以是直接设置数据表的数据保留策略等。
步骤201和步骤202也可以是在确定监控对象之后来实现,对应的,根据监控对象的监控类型来配置监控对象对应各监控项的数据保留策略;或者根据监控对象的监控类型来配置监控对应的至少一个监控模板,并配置监控模板中的监控项、以及配置各监控项的数据保留策略。
在一实施例中,在获取监控对象的监控数据之前,管理服务器自动获取监控端的监控对象,自动获取监控对象,减低管理服务器的资源消耗和辅助,提高其数据管理效率。如此,数据管理方法还包括如下步骤203至步骤204。
203,在监控端部署监控代理服务,该监控代理服务中包括管理服务器的标识信息和连接端口。
其中,若监控端中包括应用虚拟机实例,则在需要监控的应用虚拟机实例上部署监控代理服务,该监控代理服务中配置有管理服务器的标识信息和连接端口等信息。管理服务器的标识信息包括管理服务器的IP地址等,如此,使得监控代理服务通过管理服务器的IP地址和连接端口等信息连接管理服务器。
204,监控代理服务根据标识信息和连接端口向管理服务器注册,以使得管理服务器自发现监控代理服务。
在监控端的应用虚拟机实例中部署监控代理服务之后,可直接自动根据管理服务器的标识信息和连接端口向管理服务器注册;或者在重启监控代理服务后,自动根据管理服务器的标识信息和连接端口向管理服务器注册,以使得管理服务器自发现该监控代理服务。
其中,根据管理服务器的标识信息和连接端口向管理服务器注册的步骤,包括:根据管理服务器的标识信息和连接端口生成注册请求,并向管理服务器发送注册请求。
在一实施例中,数据管理方法还包括如下步骤205至步骤207。
205,管理服务器根据监控类型对自发现的监控代理服务进行监控配置,以得到监控代理服务所对应的监控对象的监控配置数据,该监控配置数据中包括监控对象对应的监控模板、监控模板对应的监控项、监控项的告警信息和监控项的监控间隔。
管理服务器根据注册请求自发现该监控代理服务,并确定监控代理服务的监控类型。
在一实施例中,管理服务器自发现监控代理服务之后,查询管理服务器中未监控配置的监控代理服务,可直接通过管理服务器对未监控配置的监控代理服务进行监控配置。例如,直接通过命令的方式来实现。
在一实施例中,可通过管理服务器的客户端查询并显示管理服务器中已注册的监控代理服务,查询并显示未进行监控配置的监控代理服务/监控对象(应用虚拟机实例),以供用户对未进行监控配置的监控代理服务进行监控配置。
管理服务器的客户端响应于针对未监控配置的监控对象的模板配置操作,确定至少一个监控模板;响应于针对监控模板的监控项配置操作,确定配置监控模板的至少一个监控项,响应于针对该监控项的告警配置操作和监控间隔配置操作,确定该监控项的告警信息和监控间隔。其中,告警信息包括告警阈值。例如,监控项为CPU使用率,该监控项的告警阈值为90%,意味着CPU使用率大于90%则进行告警提示,监控间隔为1分钟。
响应于针对监控项的确定配置操作,将所配置的监控模板、监控模板的至少一个监控项、至少一个监控项的告警信息和监控间隔等作为监控配置数据,发送至管理服务器,以使得管理服务器保存该监控配置数据。
其中,可以是每个监控模板或者每个监控项配置完成时,各监控模板单独、各监控项单独的发送至管理服务器,还可以是在一个监控模板、该监控模板的各监控项都配置完成之后,将该监控模板、该监控模板的各监控项一起发送至管理服务器。
需要注意的是,不同监控代理服务(监控对象)配置可不同的监控模板、不同监控模板可配置不同的监控项等。
需要注意的是,管理服务器可以修改/删除监控代理服务所对应的监控模板、监控模板所对应的监控项、监控项的告警信息以及监控项的监控间隔等中任何一个。
206,管理服务器将监控配置数据发送至监控代理服务。
在一实施例中,管理服务器中集成有远程连接服务,监控代理服务中也集成有远程连接服务,因此,通过管理服务器的远程连接服务和监控代理服务中的远程连接服务建立远程连接通道,所述管理服务器通过远程连接通道,将监控配置数据发送至监控代理服务。
在其他实施例中,管理服务器也可以通过其他的方式将监控配置数据发送至监控代理服务。
207,监控代理服务根据监控配置数据中的所述监控模板、监控项、告警信息和监控间隔,创建监控作业,以在达到监控间隔时,触发监控作业。
创建的监控作业是循环执行的监控作业。其中,监控作业也可称为监控计划。创建监控作业之后,在监控作业达到监控间隔时,自动触发监控作业,以获取监控数据。具体地,请参看上文中对应部分的描述,在此不再赘述。
208,监控代理服务通过监控作业获取监控对象的监控数据,并根据监控数据所对应的监控项,确定监控项所属的频道。
209,将监控数据通过频道发送至订阅该频道的管理服务器。
210,管理服务器通过频道接收监控数据,并根据监控数据所对应的监控项和监控项所对应的监控类型,将监控数据保存至数据库。
211,数据库根据监控项所对应的数据保留策略,对监控数据进行对应数据保留处理。
其中,步骤208至步骤211与上文中对应步骤一致,具体请参看上文中对应步骤的内容,在此不再赘述。
该实施例中可实现对监控对象进行自动添加,自发现所对应的监控对象,减少管理服务器的内存、CPU压力;而且,可对不同监控对象设置不同的监控模板以及监控项,实现不同监控对象的监控项的个性化配置;另外,基于发布订阅功能实现各监控项的监控数据到管理服务器的自动推送,通过频道的方式来对各种不同服务的不同监控数据进行统一管理,提高了管理服务器对数据管理的效率,也同时避免管理服务器对各种不同服务的监控数据分别进行不同处理占用更多的管理服务器资源和管理服务器的负载;此外,根据不同服务所对应的监控类型将监控数据保存至数据库,数据库根据数据保留策略自动实现对不同服务的不同监控数据的保留处理,统一对数据库中的不同服务的不同监控数据进行保留处理,且无需管理服务器的任何参与,降低管理服务器的资源消耗和管理服务器的负载。
上述方法实施例根据监控对象的监控类型来配置监控配置数据,结合自发现监控对象、频道的方式和数据库的数据保留策略,对不同监控对象的不同监控数据的进行统一监控管理,如此实现统一对不同服务进行监控,且同时降低管理服务器乃至整个系统的资源消耗和负载,提高了不同服务的监控数据获取和管理的效率。
如图7所示,本申请实施例提供了一种数据管理系统,该数据管理系统包括监控端、管理服务器和数据库。
监控端,用于通过监控作业获取监控对象的监控数据,所述监控作业是所述监控对象根据所述管理服务器发送的监控配置数据创建,所述监控配置数据是所述监控端在所述管理服务器中注册之后,由所述管理服务器根据所述监控端的监控对象的监控类型进行配置得到,其中,不同监控对象所提供的服务存在不同;根据所述监控数据所对应的监控项,确定所述监控项所属的频道;将所述监控数据通过所述频道发送至订阅所述频道的管理服务器。
管理服务器,用于通过所述频道接收所述监控数据;根据所述监控数据所对应的监控项和所述监控项所对应的监控类型,将所述监控数据保存至数据库。
数据库,用于根据所述监控项所对应的数据保留策略,对所述监控数据进行对应数据保留处理。
在一实施例中,监控端在执行根据所述监控数据所对应的监控项,确定所述监控项所属的频道的步骤时,具体执行:根据所述监控数据所对应的监控项,确定所述监控项所属的监控模板,其中,每个监控模板包括至少一个监控项;根据所配置的监控模板和频道的对应关系,确定所述监控项所属的监控模板对应的频道。
在一实施例中,所述监控对象包括应用虚拟机实例,所述监控端中包括至少一个应用虚拟机实例,所述管理服务器确定监控数据所对应的监控项和所述监控项所对应的监控类型时,具体包括:按照预设格式解析所述监控数据,以得到关键字、关键字的属性值;根据所述关键字确定所述监控项,根据所述关键字的属性值确定所述监控项的监控值、所述应用虚拟机实例的操作系统类型、应用类型;根据所述操作系统类型和所述应用类型来确定所述监控项所对应的监控类型。
在一实施例中,监控端在执行通过监控作业获取监控对象的监控数据的步骤之前,还用于在所述监控端中部署监控代理服务,所述监控代理服务中包括管理服务器的标识信息和连接端口;所述监控代理服务根据所述标识信息和所述连接端口向所述管理服务器注册,以使得所述管理服务器自发现所述监控代理服务。
在一实施例中,所述管理服务器还用于根据监控类型对自发现的所述监控代理服务进行监控配置,以得到所述监控代理服务所对应的监控对象的监控配置数据,所述监控配置数据中包括所述监控对象对应的监控模板、所述监控模板对应的监控项、所述监控项的告警信息和所述监控项的监控间隔;将所述监控配置数据发送至所述监控代理服务;所述监控代理服务根据所述监控配置数据中的所述监控模板、监控项、告警信息和所述监控间隔,创建监控作业,以在达到所述监控间隔时,触发所述监控作业。
在一实施例中,所述管理服务器在执行所述将所述监控配置数据发送至所述监控代理服务的步骤时,具体执行:通过管理服务器中的远程连接服务和监控代理服务中的远程连接服务建立远程连接通道;所述管理服务器通过所述远程连接通道将所述监控配置信息发送至监控代理服务。
在一实施例中,所述管理服务器还用于根据监控类型配置所述监控对象的至少一个监控模板,以及配置各监控模板所包括的监控项;配置各监控项的数据保留策略;并将各监控模板的各监控项的数据保留策略发送至数据库,以使得所述数据库保存各监控模板的各监控项的数据保留策略。
在一实施例中,管理服务器还包括客户端,在图7中未示出。
具体实施时,以上管理服务器可以作为独立的管理服务器个体,还可以是管理服务器集群。上述管理服务器、监控端、数据库的具体实现过程,以及所达到的有益效果,可以参考前述方法实施例中的相应描述,为了描述的方便和简洁,在此不再赘述。
需要注意的是,上述管理服务器、监控端、数据库中,可以包括一个或者一个以上处理核心的处理器、一个或一个以上计算机可读存储介质的存储器、电源、射频电路等。在本实施例中,每个管理服务器中的处理器、监控端的处理器和数据库中的处理器会按照如下的指令,将一个或一个以上的应用程序的线程对应的可执行文件加载到对应存储器中,并由处理器来运行存储在对应存储器中的应用程序,从而实现上述所述的数据管理方法中的各步骤。
在一实施例中,管理服务器、监控端、数据库中,还可以包括输入单元、显示单元等。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令(计算机程序)来完成,或通过指令(计算机程序)控制相关的硬件来完成,该指令可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。为此,本发明实施例提供一种存储介质,其中存储有多条指令,该指令能够被处理器进行加载,以执行本发明实施例所提供的数据管理方法中任一实施例的步骤。
其中,该存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该存储介质中所存储的指令,可以执行本发明实施例所提供的任一数据管理方法实施例中的步骤,因此,可以实现本发明实施例所提供的任一数据管理方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
以上对本申请实施例所提供的一种数据管理方法、数据管理系统以及计算节可读存储介质进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。

Claims (10)

1.一种数据管理方法,其特征在于,包括:
监控端通过监控作业获取监控对象的监控数据,所述监控作业是所述监控对象根据所述管理服务器发送的监控配置数据创建,所述监控配置数据是所述监控端在所述管理服务器中注册之后,由所述管理服务器根据所述监控端的监控对象的监控类型进行配置得到,其中,不同监控对象所提供的服务存在不同;
根据所述监控数据所对应的监控项,确定所述监控项所属的频道;
将所述监控数据通过所述频道发送至订阅所述频道的管理服务器;
管理服务器通过所述频道接收所述监控数据;
根据所述监控数据所对应的监控项和所述监控项所对应的监控类型,将所述监控数据保存至数据库;
所述数据库根据所述监控项所对应的数据保留策略,对所述监控数据进行对应数据保留处理。
2.根据权利要求1所述的数据管理方法,其特征在于,所述根据所述监控数据所对应的监控项,确定所述监控项所属的频道的步骤,包括:
根据所述监控数据所对应的监控项,确定所述监控项所属的监控模板,其中,每个监控模板包括至少一个监控项;
根据所配置的监控模板和频道的对应关系,确定所述监控项所属的监控模板对应的频道。
3.根据权利要求1所述的数据管理方法,其特征在于,所述监控对象包括应用虚拟机实例,所述监控端中包括至少一个应用虚拟机实例,所述监控数据所对应的监控项和所述监控项所对应的监控类型,根据以下步骤确定:
按照预设格式解析所述监控数据,以得到关键字、关键字的属性值;
根据所述关键字确定所述监控项,根据所述关键字的属性值确定所述监控项的监控值、所述应用虚拟机实例的操作系统类型、应用类型;
根据所述操作系统类型和所述应用类型来确定所述监控项所对应的监控类型。
4.根据权利要求1所述的数据管理方法,其特征在于,在所述监控端通过监控作业获取监控对象的监控数据的步骤之前,还包括:
在所述监控端中部署监控代理服务,所述监控代理服务中包括管理服务器的标识信息和连接端口;
所述监控代理服务根据所述标识信息和所述连接端口向所述管理服务器注册,以使得所述管理服务器自发现所述监控代理服务。
5.根据权利要求4所述的数据管理方法,其特征在于,还包括:
所述管理服务器根据监控类型对自发现的所述监控代理服务进行监控配置,以得到所述监控代理服务所对应的监控对象的监控配置数据,所述监控配置数据中包括所述监控对象对应的监控模板、所述监控模板对应的监控项、所述监控项的告警信息和所述监控项的监控间隔;
将所述监控配置数据发送至所述监控代理服务;
所述监控代理服务根据所述监控配置数据中的所述监控模板、监控项、告警信息和所述监控间隔,创建监控作业,以在达到所述监控间隔时,触发所述监控作业。
6.根据权利要求5所述的数据管理方法,其特征在于,所述将所述监控配置数据发送至所述监控代理服务的步骤,包括:
通过管理服务器中的远程连接服务和监控代理服务中的远程连接服务建立远程连接通道;
所述管理服务器通过所述远程连接通道将所述监控配置信息发送至监控代理服务。
7.根据权利要求1所述的数据管理方法,其特征在于,在所述监控端通过监控作业获取监控对象的监控数据的步骤之前,还包括:
管理服务器根据监控类型配置所述监控对象的至少一个监控模板,以及配置各监控模板所包括的监控项;
配置各监控项的数据保留策略;
并将各监控模板的各监控项的数据保留策略发送至数据库,以使得所述数据库保存各监控模板的各监控项的数据保留策略。
8.一种数据管理系统,其特征在于,包括管理服务器、监控端和数据库,其中,
所述监控端,用于通过监控作业获取监控对象的监控数据,所述监控作业是所述监控对象根据所述管理服务器发送的监控配置数据创建,所述监控配置数据是所述监控端在所述管理服务器中注册之后,由所述管理服务器根据所述监控端的监控对象的监控类型进行配置得到,其中,不同监控对象所提供的服务存在不同;根据所述监控数据所对应的监控项,确定所述监控项所属的频道;将所述监控数据通过所述频道发送至订阅所述频道的管理服务器;
所述管理服务器,用于通过所述频道接收所述监控数据;根据所述监控数据所对应的监控项和所述监控项所对应的监控类型,将所述监控数据保存至数据库;
所述数据库,用于根据所述监控项所对应的数据保留策略,对所述监控数据进行对应数据保留处理。
9.根据权利要求8所述的数据管理系统,其特征在于,
所述监控端,用于部署监控代理服务,所述监控代理服务中包括管理服务器的标识信息和连接端口;所述监控代理服务根据所述标识信息和所述连接端口向所述管理服务器注册,以使得所述管理服务器自发现所述监控代理服务。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时,实现上述权利要求1至8任一种所述的数据管理方法中的步骤。
CN202111147203.XA 2021-09-29 2021-09-29 数据管理方法、数据管理系统和计算机可读存储介质 Active CN113590433B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111147203.XA CN113590433B (zh) 2021-09-29 2021-09-29 数据管理方法、数据管理系统和计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111147203.XA CN113590433B (zh) 2021-09-29 2021-09-29 数据管理方法、数据管理系统和计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN113590433A true CN113590433A (zh) 2021-11-02
CN113590433B CN113590433B (zh) 2021-12-21

Family

ID=78242526

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111147203.XA Active CN113590433B (zh) 2021-09-29 2021-09-29 数据管理方法、数据管理系统和计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN113590433B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114124512A (zh) * 2021-11-18 2022-03-01 中山大学 基于流量行为分析的微信小程序监管方法、系统和设备
CN114640607A (zh) * 2022-05-12 2022-06-17 武汉四通信息服务有限公司 监控服务注册方法、装置、计算机设备和存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106850332A (zh) * 2016-12-12 2017-06-13 中电科华云信息技术有限公司 基于云的应用动态监控方法及系统
CN108234199A (zh) * 2017-12-20 2018-06-29 中国联合网络通信集团有限公司 基于Kafka的监控方法、装置及系统
CN108228430A (zh) * 2017-12-13 2018-06-29 山东浪潮云服务信息科技有限公司 一种服务器监控方法及装置
CN111552612A (zh) * 2020-04-24 2020-08-18 杭州浮云网络科技有限公司 Mssql监控管理方法、管理装置、系统和计算机设备
US10831619B2 (en) * 2017-09-29 2020-11-10 Oracle International Corporation Fault-tolerant stream processing
CN112749060A (zh) * 2021-01-15 2021-05-04 国网上海市电力公司 一种电力系统服务总线监视方法
CN213244058U (zh) * 2020-10-14 2021-05-18 徐州信智科技有限公司 基于mqtt的煤矿新型安全监控系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106850332A (zh) * 2016-12-12 2017-06-13 中电科华云信息技术有限公司 基于云的应用动态监控方法及系统
US10831619B2 (en) * 2017-09-29 2020-11-10 Oracle International Corporation Fault-tolerant stream processing
CN108228430A (zh) * 2017-12-13 2018-06-29 山东浪潮云服务信息科技有限公司 一种服务器监控方法及装置
CN108234199A (zh) * 2017-12-20 2018-06-29 中国联合网络通信集团有限公司 基于Kafka的监控方法、装置及系统
CN111552612A (zh) * 2020-04-24 2020-08-18 杭州浮云网络科技有限公司 Mssql监控管理方法、管理装置、系统和计算机设备
CN213244058U (zh) * 2020-10-14 2021-05-18 徐州信智科技有限公司 基于mqtt的煤矿新型安全监控系统
CN112749060A (zh) * 2021-01-15 2021-05-04 国网上海市电力公司 一种电力系统服务总线监视方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114124512A (zh) * 2021-11-18 2022-03-01 中山大学 基于流量行为分析的微信小程序监管方法、系统和设备
CN114640607A (zh) * 2022-05-12 2022-06-17 武汉四通信息服务有限公司 监控服务注册方法、装置、计算机设备和存储介质

Also Published As

Publication number Publication date
CN113590433B (zh) 2021-12-21

Similar Documents

Publication Publication Date Title
CN108052675B (zh) 日志管理方法、系统及计算机可读存储介质
CN110310034B (zh) 一种应用于SaaS的服务编排、业务流程处理方法和装置
CN107729139B (zh) 一种并发获取资源的方法和装置
CN113590433B (zh) 数据管理方法、数据管理系统和计算机可读存储介质
CN111447102B (zh) Sdn网络设备访问方法、装置、计算机设备及存储介质
CN112506870B (zh) 数据仓库增量更新方法、装置及计算机设备
CN111831191A (zh) 工作流配置方法、装置、计算机设备和存储介质
CN112751847A (zh) 接口调用请求的处理方法、装置、电子设备及存储介质
CN112765166A (zh) 数据处理方法、装置及计算机可读存储介质
CN112883261A (zh) 配置数据的推送方法、装置、电子设备和介质
CN116611411A (zh) 一种业务系统报表生成方法、装置、设备及存储介质
CN111767126A (zh) 分布式批量处理的系统和方法
CN116594834A (zh) 一种用于多协议服务器的运维数据处理方法及装置
CN114564249B (zh) 推荐调度引擎、推荐调度方法及计算机可读存储介质
CN116383207A (zh) 一种数据标签管理方法、装置、电子设备和存储介质
CN115563160A (zh) 数据处理方法、装置、计算机设备和计算机可读存储介质
CN114020368A (zh) 基于状态机的信息处理方法、装置和存储介质
CN112181391A (zh) 一种可动态扩展数据的方法及系统
CN113076343A (zh) 数据查询方法、装置、设备及存储介质
CN112565286A (zh) 一种基于rpc访问的任务响应方法、装置、设备和存储介质
CN112100186A (zh) 基于分布式系统的数据处理方法、装置、计算机设备
CN110990213A (zh) 一种集群环境用户日志实时监控方法及装置
CN116991562B (zh) 一种数据处理方法、装置、电子设备及存储介质
CN113535768A (zh) 生产监控方法和装置
CN113836405B (zh) 信息查询方法、装置以及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
PE01 Entry into force of the registration of the contract for pledge of patent right
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: Data management method, data management system and computer readable storage medium

Effective date of registration: 20220628

Granted publication date: 20211221

Pledgee: Guanggu Branch of Wuhan Rural Commercial Bank Co.,Ltd.

Pledgor: Wuhan Sitong Information Service Co.,Ltd.

Registration number: Y2022420000200

CP01 Change in the name or title of a patent holder

Address after: 430070 No. 1, 2 and 10, floors 1-3, building A7, Rongke Zhigu industrial project phase I, No. 555, Wenhua Avenue, Hongshan District, Wuhan City, Hubei Province

Patentee after: Wuhan Barda Technology Co.,Ltd.

Address before: 430070 No. 1, 2 and 10, floors 1-3, building A7, Rongke Zhigu industrial project phase I, No. 555, Wenhua Avenue, Hongshan District, Wuhan City, Hubei Province

Patentee before: Wuhan Sitong Information Service Co.,Ltd.

CP01 Change in the name or title of a patent holder
PC01 Cancellation of the registration of the contract for pledge of patent right
PC01 Cancellation of the registration of the contract for pledge of patent right

Date of cancellation: 20230625

Granted publication date: 20211221

Pledgee: Guanggu Branch of Wuhan Rural Commercial Bank Co.,Ltd.

Pledgor: Wuhan Sitong Information Service Co.,Ltd.

Registration number: Y2022420000200

PE01 Entry into force of the registration of the contract for pledge of patent right
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: Data management methods, data management systems, and computer-readable storage media

Effective date of registration: 20230627

Granted publication date: 20211221

Pledgee: Guanggu Branch of Wuhan Rural Commercial Bank Co.,Ltd.

Pledgor: Wuhan Barda Technology Co.,Ltd.

Registration number: Y2023420000262

PC01 Cancellation of the registration of the contract for pledge of patent right
PC01 Cancellation of the registration of the contract for pledge of patent right

Granted publication date: 20211221

Pledgee: Guanggu Branch of Wuhan Rural Commercial Bank Co.,Ltd.

Pledgor: Wuhan Barda Technology Co.,Ltd.

Registration number: Y2023420000262

PE01 Entry into force of the registration of the contract for pledge of patent right
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: Data management methods, data management systems, and computer-readable storage media

Granted publication date: 20211221

Pledgee: Guanggu Branch of Wuhan Rural Commercial Bank Co.,Ltd.

Pledgor: Wuhan Barda Technology Co.,Ltd.

Registration number: Y2024980007424