CN111651330A - 数据采集方法、装置、电子设备和计算机可读存储介质 - Google Patents
数据采集方法、装置、电子设备和计算机可读存储介质 Download PDFInfo
- Publication number
- CN111651330A CN111651330A CN202010515475.XA CN202010515475A CN111651330A CN 111651330 A CN111651330 A CN 111651330A CN 202010515475 A CN202010515475 A CN 202010515475A CN 111651330 A CN111651330 A CN 111651330A
- Authority
- CN
- China
- Prior art keywords
- target host
- performance
- data
- network address
- data acquisition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3089—Monitoring arrangements determined by the means or processing involved in sensing the monitored data, e.g. interfaces, connectors, sensors, probes, agents
- G06F11/3093—Configuration details thereof, e.g. installation, enabling, spatial arrangement of the probes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本公开提供了一种数据采集方法,包括:启动目标主机的资源评价组件面板,以提供目标主机的数据采集功能;获取目标主机的网络地址信息;获取与目标主机的性能指标对应的标识信息;根据网络地址信息和与目标主机的性能指标对应的标识信息生成与性能指标对应的网络地址;以及基于与性能指标对应的网络地址采集目标主机的性能数据。本公开还提供了一种数据采集装置、一种电子设备和一种计算机可读存储介质。
Description
技术领域
本公开涉及计算机技术领域,更具体地,涉及一种数据采集方法、一种数据采集装置、一种电子设备和一种计算机可读存储介质。
背景技术
大型主机在金融业承担重要作用,其性能数据直接表征主机运行健康度,是主机运维人员关注的重要指标。随着大数据、人工智能等新兴技术的引入,主机运维人员着力于研究主机性能分析及监控来探索智能化运维。而数据是分析及监控的来源及基础,数据采集的效率及质量将直接影响数据分析及监控的效果。
在实现本公开构思的过程中,发明人发现相关技术中至少存在如下问题:采用相关技术采集主机性能数据的时效性较差,影响了数据分析及监控的效果。
发明内容
有鉴于此,本公开提供了一种数据采集方法、一种数据采集装置、一种电子设备和一种计算机可读存储介质。
本公开的一个方面提供了一种数据采集方法,包括:启动目标主机的资源评价组件面板,以提供上述目标主机的数据采集功能;获取上述目标主机的网络地址信息;获取与上述目标主机的性能指标对应的标识信息;根据上述网络地址信息和与上述目标主机的性能指标对应的标识信息生成与上述性能指标对应的网络地址;以及基于与上述性能指标对应的网络地址采集上述目标主机的性能数据。
根据本公开的实施例,上述的方法还包括:设置上述目标主机的数据采集参数,其中,上述数据采集参数包括以下至少之一:数据采集间隔、文件存储大小、开启的网络端口。
其中,上述基于与上述性能指标对应的网络地址采集上述目标主机的性能数据包括:根据上述与上述性能指标对应的网络地址和上述数据采集参数采集上述目标主机的性能数据。
根据本公开的实施例,上述获取与上述目标主机的性能指标对应的标识信息包括:启动上述资源评价组件面板的查询功能,获得上述目标主机的多个性能指标分别对应的标识信息。
根据本公开的实施例,上述的方法还包括:对上述资源评价组件面板的功能进行验证,以确定上述目标主机和平台端之间是否通信连通,其中,上述平台端用于存储采集的上述目标主机的性能数据;以及在验证结果表明上述目标主机和上述平台端之间通信断开的情况下,检测上述目标主机上运行的与上述资源评价组件面板对应的进程是否正常,以确定上述目标主机和上述平台端之间通信断开的原因。
根据本公开的实施例,上述基于与上述性能指标对应的网络地址采集上述目标主机的性能数据包括:基于与上述性能指标对应的网络地址,向上述目标主机发送访问请求;接收由上述目标主机响应上述访问请求发送的关于上述性能指标的性能数据;以及根据上述与上述性能指标对应的网络地址和预设映射关系,将上述关于上述性能指标的性能数据存入数据库的表中,其中,上述预设映射关系包括不同性能指标对应的网络地址与上述数据库的表的对应关系。
本公开的另一方面提供了一种数据采集装置,包括:启动模块,用于启动目标主机的资源评价组件面板,以提供上述目标主机的数据采集功能;第一获取模块,用于获取上述目标主机的网络地址信息;第二获取模块,用于获取与上述目标主机的性能指标对应的标识信息;生成模块,用于根据上述网络地址信息和与上述目标主机的性能指标对应的标识信息生成与上述性能指标对应的网络地址;以及采集模块,用于基于与上述性能指标对应的网络地址采集上述目标主机的性能数据。
根据本公开的实施例,上述的装置还包括:设置模块,用于设置上述目标主机的数据采集参数,其中,上述数据采集参数包括以下至少之一:数据采集间隔、文件存储大小、开启的网络端口。
其中,上述采集模块用于:根据上述与上述性能指标对应的网络地址和上述数据采集参数采集上述目标主机的性能数据。
根据本公开的实施例,上述第二获取模块用于:启动上述资源评价组件面板的查询功能,获得上述目标主机的多个性能指标分别对应的标识信息。
根据本公开的实施例,上述的装置还包括:验证模块,用于对上述资源评价组件面板的功能进行验证,以确定上述目标主机和平台端之间是否通信连通,其中,上述平台端用于存储采集的上述目标主机的性能数据;以及检测模块,用于在验证结果表明上述目标主机和上述平台端之间通信断开的情况下,检测上述目标主机上运行的与上述资源评价组件面板对应的进程是否正常,以确定上述目标主机和上述平台端之间通信断开的原因。
根据本公开的实施例,上述采集模块包括:发送单元,用于基于与上述性能指标对应的网络地址,向上述目标主机发送访问请求;接收单元,用于接收由上述目标主机响应上述访问请求发送的关于上述性能指标的性能数据;以及存储单元,用于根据上述与上述性能指标对应的网络地址和预设映射关系,将上述关于上述性能指标的性能数据存入数据库的表中,其中,上述预设映射关系包括不同性能指标对应的网络地址与上述数据库的表的对应关系。
本公开的另一方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个指令,其中,当上述一个或多个指令被上述一个或多个处理器执行时,使得上述一个或多个处理器实现如上所述的方法。
本公开的另一方面提供了一种计算机可读存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
本公开的另一方面提供了一种计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
根据本公开的实施例,基于目标主机端的资源评价组件面板,可以对外提供数据实时采集功能,根据与目标主机的性能指标对应的标识信息和目标主机的网络地址信息生成与性能指标对应的网络地址,可以在平台端根据生成的与性能指标对应的网络地址直接请求获取性能数据,无需在主机端开发大量REXX程序,无需将大量主机数据FTP同步到平台端,直接调用资源评价组件面板的接口即可在平台端实时获取主机性能数据。所以至少部分地克服了采用相关技术采集主机性能数据的时效性较差的技术问题,进而达到了提高数据采集的时效性,提高了数据分析及监控的质量的技术效果,有利于主机运维人员研究主机性能分析及监控来探索智能化运维。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的可以应用数据采集方法及装置的示例性系统架构;
图2示意性示出了根据本公开实施例的数据采集方法的流程图;
图3示意性示出了根据本公开另一实施例的数据采集方法的流程图;
图4示意性示出了根据本公开实施例的基于与性能指标对应的网络地址采集目标主机的性能数据的流程图;
图5示意性示出了根据本公开实施例的数据采集装置的框图;以及
图6示意性示出了根据本公开实施例的适于实现上文描述的方法的计算机系统的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
大型主机在金融业等领域担当重要角色,运行着较为核心的业务,其系统性能是主机运维人员关注的重要指标。与开放平台相比,大型主机相对比较封闭、可扩展性较差、对资源依赖性较高、对海量数据查询友好性较差,因此,缺少实时数据采集方案。
大型主机的主机性能数据量庞大、存储空间受限,导致对历史数据缺少快速便捷的查询定位方案;性能数据具有一定的时效性。相比主机端昂贵的存储资源,开放平台端的存储成本要低得多,将主机端性能数据下传到平台端存储,在相同成本情况下,可大大增加存储数据量。
采用相关技术可以基于SMF(System Management Facility系统管理组件,是大型主机的一个标准设施,用来收集系统性能数据和作业日志信息)报表解析。通过定时提交JCL(Job Control Language作业控制语言,用来实现对用户作业的组织和管理的各种控制命令或控制语言的有序集合)作业打印SMF报表,将性能数据输出到文件中;然后编写REXX程序解析文件中关键字段并插入数据库进行存储,用于后续数据分析或展示。其缺点是流程耗时较长、数据实时性较差、数据解析需要编写大量的REXX程序(RestructuredExtended Executor,程序设计语言,用在IBM大型主机上的编程语言)。
或者,采用相关技术也可以基于SYSLOG(System LOG系统日志,记录主机运行日志信息)日志解析。通过FTP协议将主机日志传输到开放平台,对日志进行解析。其缺点是主机日志量较大,通过FTP协议同步到平台有较大的时延,较难做到实时监控。
本公开的实施例提供了一种数据采集方法,包括:启动目标主机的资源评价组件面板,以提供目标主机的数据采集功能;获取目标主机的网络地址信息;获取与目标主机的性能指标对应的标识信息;根据网络地址信息和与目标主机的性能指标对应的标识信息生成与性能指标对应的网络地址;以及基于与性能指标对应的网络地址采集目标主机的性能数据。
图1示意性示出了根据本公开实施例的可以应用数据采集方法及装置的示例性系统架构100。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的系统架构100可以包括终端设备101,网络102和大型主机103。网络102用以在终端设备101和大型主机103之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线和/或无线通信链路等等。
终端设备101可以通过网络102与大型主机103交互,向大型主机103发送用于采集性能数据的请求,并接收消息等。终端设备101上可以安装有各种通讯客户端应用,例如网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端等(仅为示例)。
终端设备101可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
大型主机103可以是提供各种服务的大型主机,例如对用户利用终端设备101办理业务提供支持的后台管理大型主机(仅为示例)。后台管理大型主机可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的数据采集方法一般可以由终端设备101执行。相应地,本公开实施例所提供的数据采集装置一般可以设置于终端设备101中。本公开实施例所提供的数据采集方法也可以由不同于终端设备101且能够与终端设备101和/或大型主机103通信的终端设备执行。相应地,本公开实施例所提供的数据采集装置也可以设置在不同于终端设备101且能够与终端设备101和/或大型主机103通信的终端设备中。
应该理解,图1中的终端设备、网络和大型主机的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和大型主机。
图2示意性示出了根据本公开实施例的数据采集方法的流程图。
如图2所示,该方法包括操作S201~S205。
在操作S201,启动目标主机的资源评价组件面板,以提供目标主机的数据采集功能。
根据本公开的实施例,目标主机可以是金融,电商等平台的大型主机。资源评价组件面板RMF Portal(Resource Measurement Facility Portal)可以开放数据采集端口,提供目标主机的数据采集功能。本公开提供的数据采集方法是基于RMF Portal的主机性能数据实时采集方法,无需在主机端开发大量REXX程序,无需将大量主机数据通过FTP协议同步到平台端,可以直接调用RMF Portal接口即可在平台端实时获取主机性能数据。
在操作S202,获取目标主机的网络地址信息。
根据本公开的实施例,例如,目标主机的网络地址信息可以是http://XX.XX.XX.XX:8803/gpm/perform。
在操作S203,获取与目标主机的性能指标对应的标识信息。
根据本公开的实施例,目标主机的性能指标可以包括多个,例如,包括但不限于系统CPU、内存使用情况,地址空间CPU、内存使用情况,联机交易量、响应时间等。可以为每个性能指标分配对应的标识信息,例如,可以是ID编号。具体地,例如,系统CPU使用情况这一性能指标的标识信息可以是id=8D0460,联机交易量的标识信息可以是id=8D1250。
根据本公开的实施例,获取与目标主机的性能指标对应的标识信息包括:启动资源评价组件面板的查询功能,获得目标主机的多个性能指标分别对应的标识信息。
例如,打开RMF Portal的查询功能,找到对应性能指标对应的ID号,如地址空间CPU性能ID为8D0610。
在操作S204,根据网络地址信息和与目标主机的性能指标对应的标识信息生成与性能指标对应的网络地址。
根据本公开的实施例,引用上述示例,例如,与系统CPU使用情况对应的网络地址例如可以是http://XX.XX.XX.XX:8803/gpm/perform.csv?resource=″PT11,*,PROCESSOR″&id=8D0460′。与联机交易量对应的网络地址例如可以是http://XX.XX.XX.XX:8803/gpm/perform.xml?resource=″,PLEXPP1,SYSPLEX″&id=8D1250。
根据本公开的实施例,针对大型主机大量的性能指标而言,都可以在平台端自动生成与性能指标对应的网络地址,在用户想要采集大型主机的性能数据时,无需手动输入不同的性能指标对应的网络地址,提高了采集效率。进一步的,针对目标主机的多个性能指标,在自动生成与性能指标对应的网络地址之后,可以将多个与性能指标对应的网络地址生成关联表,在用户想要进行数据采集时,用户还可以按需选择该关联表中的网络地址。
在操作S205,基于与性能指标对应的网络地址采集目标主机的性能数据。
根据本公开的实施例,可以基于目标主机的RMF Portal接口,通过与性能指标对应的网络地址直接访问主机端性能数据,实现主机性能数据的实时采集。
根据本公开的实施例,目标主机中的数据可以是CSV格式文件,可以先下载CSV格式文件缓存到本地。
然后,对CSV文件解析,读取缓存的CSV文件,并解析成JSON标准格式文本。例如,将CSV文件(Comma-Separated Values纯文本形式存储表格数据)并解析转换成JSON(JavaScript Object Notation轻量级数据交换格式)标准格式输出,例如{′measurement′:′PLEXPT1_KPI_CPU′,′tags′:{′kpi_name′:′PT11_LPARCPU′},′time′:′2020-03-24T05:04:00Z′,′fields′:{′value′:2.0}}。
最后,将JSON格式数据入库,编写InfluxDB(开源的分布式时序数据库)入库接口程序,将JSON格式文本插入InfluxDB数据表。
在平台端开发通用的URL文件下载、CSV数据解析和JSON入库程序并封装成统一数据采集接口。根据本公开的实施例,通过在平台端标准化解析CSV文件,避免主机端大量数据解析程序开发和运行资源开销,具有较高的普适性和推广行。根据本公开的实施例,将性能数据存入时序数据库InfluxDB,操作简单,存储空间小,数据处理便捷。实现了主机-平台的实时快速交互。
根据本公开的实施例,基于目标主机端的资源评价组件面板,可以对外提供数据实时采集功能,根据与目标主机的性能指标对应的标识信息和目标主机的网络地址信息生成与性能指标对应的网络地址,可以在平台端根据生成的与性能指标对应的网络地址直接请求获取性能数据,无需在主机端开发大量REXX程序,无需将大量主机数据FTP同步到平台端,直接调用资源评价组件面板的接口即可在平台端实时获取主机性能数据。所以至少部分地克服了采用相关技术采集主机性能数据的时效性较差的技术问题,进而达到了提高数据采集的时效性,提高了数据分析及监控的质量的技术效果,有利于主机运维人员研究主机性能分析及监控来探索智能化运维。
根据本公开的实施例,可以设置目标主机的数据采集参数,其中,数据采集参数包括以下至少之一:数据采集间隔、文件存储大小、开启的网络端口。
根据本公开的实施例,数据采集间隔例如可以是1分钟,3分钟等。文件存储大小例如可以是10兆,20兆等。开启的网络端口是允许平台端采集数据的端口。
根据本公开的实施例,可以在主机端开启RMF Portal功能之后,设置数据采集参数,给平台端提供访问主机端数据的URL接口。
例如,在主机端启动地址空间,调用数据采集程序,如GPMDDSRV程序,引用GPMINI、GPMHTC参数,其中,GPMINI为初始化参数,即主机端性能数据与平台端的映射关系;GPMHTC为网络参数,即主机端开启的接口;然后开启主机的平台数据访问功能,即为每类主机性能指标(如系统CPU、内存使用情况,地址空间CPU、内存使用情况,联机交易量、响应时间等)提供一个URL访问接口。
进一步地,在主机端开启RMF Portal功能之后,还可以进行访问安全控制。例如,在主机端配置SYS1.PARMLIB(GPMSRV00)中HTTP_HOST、HTTP_ALLOW参数。HTTP_HOST为HTTP请求监听的网络端口,默认可以为8803端口;HTTP_ALLOW为访问白名单,即有权限访问HTTP_HOST的平台端IP或者域名。
根据本公开的实施例,基于与性能指标对应的网络地址采集目标主机的性能数据包括:根据与性能指标对应的网络地址和数据采集参数采集目标主机的性能数据。
根据本公开的实施例,例如,可以基于定时任务调度,基于分布式任务调度平台的开源工具定时调度工具,编写时间规则,定时调度基于URL接口的数据采集程序。主机运维人员可以获取系统资源使用情况,平台调度模块部署定时调度任务,每分钟发起一次查询请求。
下面参考图3~图4,结合具体实施例对图2所示的方法做进一步说明。
图3示意性示出了根据本公开另一实施例的数据采集方法的流程图。
如图3所示,该方法包括操作S301~S302。在该实施例中,还可以包括操作S201~操作S205,为了描述的简洁起见,在此对操作S201~操作S205不再赘述。
在操作S301,对资源评价组件面板的功能进行验证,以确定目标主机和平台端之间是否通信连通,其中,平台端用于存储采集的目标主机的性能数据。
根据本公开的实施例,在验证结果表明目标主机和平台端之间通信连通的情况下,可以基于与性能指标对应的网络地址采集目标主机的性能数据。
在操作S302,在验证结果表明目标主机和平台端之间通信断开的情况下,检测目标主机上运行的与资源评价组件面板对应的进程是否正常,以确定目标主机和平台端之间通信断开的原因。
根据本公开的实施例,如果进程异常,那么,目标主机和平台端之间通信断开的原因可以是资源评价组件面板关联的进程异常。
如果进程正常,可以检测平台端的IP地址是否已经加入目标主机的访问白名单中。如果平台端的IP地址没有加入目标主机的访问白名单,那么,目标主机和平台端之间通信断开的原因是平台端的IP地址没有加入目标主机的访问白名单,没有访问权限。根据本公开的实施例,为了安全控制,可以在主机端配置白名单,只有符合白名单策略的主机端程序才可以进入执行队列。
根据本公开的实施例,通过对资源评价组件面板的功能进行验证,可以验证主机-平台数据连通性。
图4示意性示出了根据本公开实施例的基于与性能指标对应的网络地址采集目标主机的性能数据的流程图。
如图4所示,该方法包括操作S401~S403。
在操作S401,基于与性能指标对应的网络地址,向目标主机发送访问请求。
在操作S402,接收由目标主机响应访问请求发送的关于性能指标的性能数据。
在操作S403,根据与性能指标对应的网络地址和预设映射关系,将关于性能指标的性能数据存入数据库的表中,其中,预设映射关系包括不同性能指标对应的网络地址与数据库的表的对应关系。
根据本公开的实施例,通过将不同性能指标对应的网络地址与数据库的表对应,可以将采集得到的不同性能指标对应的数据直接存入数据库的目标表中,实现了主机数据的实时自动采集入库,有利于主机运维人员进行数据分析及监控。
根据本公开的实施例,在采集到主机的性能数据之后,可以采用API方式自动生成展示图表,为主机运维人员提供实时、直观的数据可视化方案。
例如,平台端监听主机端端口实时获取下传数据,最后标准化解析插入InfluxDB,进行存储;采用Grafana API的方式,引用InfluxDB数据源,生成标准化的图表,实现主机端数据在平台侧的自动化实时可视化展示。
通过本公开的实施例,有效解决了大型主机封闭性、可视化差问题,能够为主机运维人员提供实时、直观的数据可视化方案;通过数据采集侧基于标准化模板,具有较高通用性,适用于各种应用场景。数据展示侧可以基于开源工具,便于使用者二次开发,便于使用者灵活推广、快速定制。
图5示意性示出了根据本公开实施例的数据采集装置的框图。
如图5所示,数据采集装置500包括:启动模块510、第一获取模块520、第二获取模块530、生成模块540和采集模块550。
启动模块510用于启动目标主机的资源评价组件面板,以提供目标主机的数据采集功能。
第一获取模块520用于获取目标主机的网络地址信息。
第二获取模块530用于获取与目标主机的性能指标对应的标识信息。
生成模块540用于根据网络地址信息和与目标主机的性能指标对应的标识信息生成与性能指标对应的网络地址。
采集模块550用于基于与性能指标对应的网络地址采集目标主机的性能数据。
根据本公开的实施例,基于目标主机端的资源评价组件面板,可以对外提供数据实时采集功能,根据与目标主机的性能指标对应的标识信息和目标主机的网络地址信息生成与性能指标对应的网络地址,可以在平台端根据生成的与性能指标对应的网络地址直接请求获取性能数据,无需在主机端开发大量REXX程序,无需将大量主机数据FTP同步到平台端,直接调用资源评价组件面板的接口即可在平台端实时获取主机性能数据。所以至少部分地克服了采用相关技术采集主机性能数据的时效性较差的技术问题,进而达到了提高数据采集的时效性,提高了数据分析及监控的质量的技术效果,有利于主机运维人员研究主机性能分析及监控来探索智能化运维。
根据本公开的实施例,数据采集装置500还包括设置模块,用于设置目标主机的数据采集参数,其中,数据采集参数包括以下至少之一:数据采集间隔、文件存储大小、开启的网络端口;
其中,采集模块550用于:根据与性能指标对应的网络地址和数据采集参数采集目标主机的性能数据。
根据本公开的实施例,第二获取模块530用于:启动资源评价组件面板的查询功能,获得目标主机的多个性能指标分别对应的标识信息。
根据本公开的实施例,数据采集装置500还包括:验证模块和检测模块。
验证模块用于对资源评价组件面板的功能进行验证,以确定目标主机和平台端之间是否通信连通,其中,平台端用于存储采集的目标主机的性能数据。
检测模块,用于在验证结果表明目标主机和平台端之间通信断开的情况下,检测目标主机上运行的与资源评价组件面板对应的进程是否正常,以确定目标主机和平台端之间通信断开的原因。
根据本公开的实施例,采集模块包括:发送单元、接收单元和存储单元。
发送单元用于基于与性能指标对应的网络地址,向目标主机发送访问请求。
接收单元用于接收由目标主机响应访问请求发送的关于性能指标的性能数据。
存储单元用于根据与性能指标对应的网络地址和预设映射关系,将关于性能指标的性能数据存入数据库的表中,其中,预设映射关系包括不同性能指标对应的网络地址与数据库的表的对应关系。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,启动模块510、第一获取模块520、第二获取模块530、生成模块540和采集模块550中的任意多个可以合并在一个模块/单元/子单元中实现,或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者,这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合,并在一个模块/单元/子单元中实现。根据本公开的实施例,启动模块510、第一获取模块520、第二获取模块530、生成模块540和采集模块550中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及同件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,启动模块510、第一获取模块520、第二获取模块530、生成模块540和采集模块550中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
需要说明的是,本公开的实施例中数据采集装置部分与本公开的实施例中数据采集方法部分是相对应的,数据采集装置部分的描述具体参考数据采集方法部分,在此不再赘述。
图6示意性示出了根据本公开实施例的适于实现上文描述的方法的计算机系统的框图。图6示出的计算机系统仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,根据本公开实施例的计算机系统600包括处理器601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。处理器601例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器601还可以包括用于缓存用途的板载存储器。处理器601可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 603中,存储有系统600操作所需的各种程序和数据。处理器601、ROM 602以及RAM 603通过总线604彼此相连。处理器601通过执行ROM 602和/或RAM 603中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 602和RAM 603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,系统600还可以包括输入/输出(I/O)接口605,输入/输出(I/O)接口605也连接至总线604。系统600还可以包括连接至I/O接口605的以下部件中的一项或多项:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被处理器601执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 602和/或RAM 603和/或ROM 602和RAM 603以外的一个或多个存储器。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (12)
1.一种数据采集方法,包括:
启动目标主机的资源评价组件面板,以提供所述目标主机的数据采集功能;
获取所述目标主机的网络地址信息;
获取与所述目标主机的性能指标对应的标识信息;
根据所述网络地址信息和与所述目标主机的性能指标对应的标识信息生成与所述性能指标对应的网络地址;以及
基于与所述性能指标对应的网络地址采集所述目标主机的性能数据。
2.根据权利要求1所述的方法,还包括:
设置所述目标主机的数据采集参数,其中,所述数据采集参数包括以下至少之一:数据采集间隔、文件存储大小、开启的网络端口;
其中,所述基于与所述性能指标对应的网络地址采集所述目标主机的性能数据包括:
根据所述与所述性能指标对应的网络地址和所述数据采集参数采集所述目标主机的性能数据。
3.根据权利要求1所述的方法,其中,所述获取与所述目标主机的性能指标对应的标识信息包括:
启动所述资源评价组件面板的查询功能,获得所述目标主机的多个性能指标分别对应的标识信息。
4.根据权利要求1所述的方法,还包括:
对所述资源评价组件面板的功能进行验证,以确定所述目标主机和平台端之间是否通信连通,其中,所述平台端用于存储采集的所述目标主机的性能数据;以及
在验证结果表明所述目标主机和所述平台端之间通信断开的情况下,检测所述目标主机上运行的与所述资源评价组件面板对应的进程是否正常,以确定所述目标主机和所述平台端之间通信断开的原因。
5.根据权利要求1所述的方法,其中,所述基于与所述性能指标对应的网络地址采集所述目标主机的性能数据包括:
基于与所述性能指标对应的网络地址,向所述目标主机发送访问请求;
接收由所述目标主机响应所述访问请求发送的关于所述性能指标的性能数据;以及
根据所述与所述性能指标对应的网络地址和预设映射关系,将所述关于所述性能指标的性能数据存入数据库的表中,其中,所述预设映射关系包括不同性能指标对应的网络地址与所述数据库的表的对应关系。
6.一种数据采集装置,包括:
启动模块,用于启动目标主机的资源评价组件面板,以提供所述目标主机的数据采集功能;
第一获取模块,用于获取所述目标主机的网络地址信息;
第二获取模块,用于获取与所述目标主机的性能指标对应的标识信息;
生成模块,用于根据所述网络地址信息和与所述目标主机的性能指标对应的标识信息生成与所述性能指标对应的网络地址;以及
采集模块,用于基于与所述性能指标对应的网络地址采集所述目标主机的性能数据。
7.根据权利要求6所述的装置,还包括:
设置模块,用于设置所述目标主机的数据采集参数,其中,所述数据采集参数包括以下至少之一:数据采集间隔、文件存储大小、开启的网络端口;
其中,所述采集模块用于:
根据所述与所述性能指标对应的网络地址和所述数据采集参数采集所述目标主机的性能数据。
8.根据权利要求6所述的装置,其中,所述第二获取模块用于:
启动所述资源评价组件面板的查询功能,获得所述目标主机的多个性能指标分别对应的标识信息。
9.根据权利要求6所述的装置,还包括:
验证模块,用于对所述资源评价组件面板的功能进行验证,以确定所述目标主机和平台端之间是否通信连通,其中,所述平台端用于存储采集的所述目标主机的性能数据;以及
检测模块,用于在验证结果表明所述目标主机和所述平台端之间通信断开的情况下,检测所述目标主机上运行的与所述资源评价组件面板对应的进程是否正常,以确定所述目标主机和所述平台端之间通信断开的原因。
10.根据权利要求6所述的装置,其中,所述采集模块包括:
发送单元,用于基于与所述性能指标对应的网络地址,向所述目标主机发送访问请求;
接收单元,用于接收由所述目标主机响应所述访问请求发送的关于所述性能指标的性能数据;以及
存储单元,用于根据所述与所述性能指标对应的网络地址和预设映射关系,将所述关于所述性能指标的性能数据存入数据库的表中,其中,所述预设映射关系包括不同性能指标对应的网络地址与所述数据库的表的对应关系。
11.一种电子设备,包括:
一个或多个处理器;
存储器,用于存储一个或多个指令,
其中,当所述一个或多个指令被所述一个或多个处理器执行时,使得所述一个或多个处理器实现权利要求1至5中任一项所述的方法。
12.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器实现权利要求1至5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010515475.XA CN111651330B (zh) | 2020-06-08 | 2020-06-08 | 数据采集方法、装置、电子设备和计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010515475.XA CN111651330B (zh) | 2020-06-08 | 2020-06-08 | 数据采集方法、装置、电子设备和计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111651330A true CN111651330A (zh) | 2020-09-11 |
CN111651330B CN111651330B (zh) | 2023-04-21 |
Family
ID=72349465
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010515475.XA Active CN111651330B (zh) | 2020-06-08 | 2020-06-08 | 数据采集方法、装置、电子设备和计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111651330B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113064777A (zh) * | 2021-04-02 | 2021-07-02 | 中国建设银行股份有限公司 | 数据采集服务的测试方法和装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080049776A1 (en) * | 2006-08-22 | 2008-02-28 | Wiley William L | System and method for using centralized network performance tables to manage network communications |
CN111130938A (zh) * | 2019-12-25 | 2020-05-08 | 北京奇艺世纪科技有限公司 | 指标采集方法、装置、电子设备及计算机可读存储介质 |
-
2020
- 2020-06-08 CN CN202010515475.XA patent/CN111651330B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080049776A1 (en) * | 2006-08-22 | 2008-02-28 | Wiley William L | System and method for using centralized network performance tables to manage network communications |
CN111130938A (zh) * | 2019-12-25 | 2020-05-08 | 北京奇艺世纪科技有限公司 | 指标采集方法、装置、电子设备及计算机可读存储介质 |
Non-Patent Citations (1)
Title |
---|
徐峰: "基于WSN 的轨道客车空调数据采集分析系统" * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113064777A (zh) * | 2021-04-02 | 2021-07-02 | 中国建设银行股份有限公司 | 数据采集服务的测试方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN111651330B (zh) | 2023-04-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9246773B2 (en) | System, method, and graphical user interface for application topology mapping in hosted computing environments | |
CN111131320B (zh) | 资产识别方法、装置、系统和介质 | |
US10362086B2 (en) | Method and system for automating submission of issue reports | |
US10552293B2 (en) | Logging as a service | |
CN113760641A (zh) | 业务监控方法、装置、计算机系统和计算机可读存储介质 | |
US11256590B1 (en) | Agent profiler to monitor activities and performance of software agents | |
US8977746B2 (en) | Systems and methods for scalable network monitoring | |
US20180227326A1 (en) | Detecting sensitive data sent from client device to third-party | |
US20210135959A1 (en) | Support ticket platform for improving network infrastructures | |
CN114297028A (zh) | 一种微服务日志链路追踪方法与系统 | |
CN112783787A (zh) | 接口测试方法、装置、系统和电子设备 | |
US8984124B2 (en) | System and method for adaptive data monitoring | |
CN111651330B (zh) | 数据采集方法、装置、电子设备和计算机可读存储介质 | |
CN113162937A (zh) | 应用安全自动化检测方法、系统、电子设备及存储介质 | |
US20230118838A1 (en) | Advanced agent instrumentation for opentelemetry implementations | |
CN111698109A (zh) | 监控日志的方法和装置 | |
CN115202973A (zh) | 应用运行状态的确定方法、装置、电子设备和介质 | |
CN112887162B (zh) | 用于检测异常的方法及装置 | |
CN113434382A (zh) | 数据库性能监控方法、装置、电子设备及计算机可读介质 | |
US20150222505A1 (en) | Business transaction resource usage tracking | |
CN115484174B (zh) | 基于智能识别的纳管方法、装置、设备及存储介质 | |
CN116401138B (zh) | 操作系统的运行状态检测方法、装置、电子设备和介质 | |
CN116401319B (zh) | 数据同步方法及装置、电子设备和计算机可读存储介质 | |
US11537503B2 (en) | Code editor for user interface component testing | |
CN115033452A (zh) | 应用服务器监控方法、装置、设备、介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |