CN107948016A - 一种监控指标数据的可视化查询及多维度叠加分析的方法 - Google Patents
一种监控指标数据的可视化查询及多维度叠加分析的方法 Download PDFInfo
- Publication number
- CN107948016A CN107948016A CN201711259739.4A CN201711259739A CN107948016A CN 107948016 A CN107948016 A CN 107948016A CN 201711259739 A CN201711259739 A CN 201711259739A CN 107948016 A CN107948016 A CN 107948016A
- Authority
- CN
- China
- Prior art keywords
- data
- elasticsearch
- analysis
- various dimensions
- monitor control
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/04—Processing captured monitoring data, e.g. for logfile generation
- H04L43/045—Processing captured monitoring data, e.g. for logfile generation for graphical visualisation of monitoring data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/248—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/02—Capturing of monitoring data
- H04L43/022—Capturing of monitoring data by sampling
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
- H04L67/025—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP] for remote control or remote monitoring of applications
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Computer And Data Communications (AREA)
- Multi Processors (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种监控指标数据的可视化查询及多维度叠加分析的方法,该方法首先是采集IT系统资源数据,通过对linux命令的整合,利用shell脚本编程提取系统资源信息数据,发送到服务端,然后存储采集到的资源数据,并进行分类存储,提供rest接口供上层客户端查询搜索数据并进行分析,最后运用存储端提供的相应API查询数据并进行曲线实时展示,对数据进行叠加分析提供可配置的告警机制。本发明的优点是:不但能够使单机接入主机的最大数量达到7000台,而且数据采集的方式采用的是客户端push的方式,在主机多的情况下不会影响性能,另外,该方法还能简化数据库表,便于扩展,且图形支持秒级监控,支持多租户使用。
Description
技术领域:
本发明涉及计算机技术领域,具体讲是一种基于搜索引擎实现IT系统监控指标数据的可视化查询及多维度叠加分析的方法。
背景技术:
现有的zabbix产品存在一定的性能瓶颈,监控的机器量越大,数据的增大会使数据库的写入成为一定的瓶颈,zabbix官网给出的单机上限是5000台,届时就需要增加proxy,增加成本。Zabbix采集数据有pull方式,也就是server主动模式,当目标机器量大之后,pull任务会出现积压,采集数据会延迟。如果要对zabbix二次开发,需要分析其MySQL表结构,MySQL表结构比较复杂,通过API开发对开发能力有要求。另外,zabbix产品的图形展示无法做到秒级监控,且不支持多租户,比如多租户共有1套zabbix系统,zabbix无法实现每个用户希望只能看到自己有关的系统的监控界面。
发明内容:
本发明要解决的技术问题是,提供一种基于搜索引擎实现IT系统监控指标数据的可视化查询及多维度叠加分析的方法,该方法不但能够使单机接入主机的最大数量达到7000台,而且数据采集的方式采用的是客户端push的方式,在主机多的情况下不会影响性能,另外,该方法还能简化数据库表,便于扩展,且图形支持秒级监控,支持多租户使用,保证每个用户只看到自己有关的系统的监控界面。
本发明的技术解决方案是,提供一种监控指标数据的可视化查询及多维度叠加分析的方法,该方法包括以下步骤:
步骤1﹒采集IT系统资源数据,具体实现方法是:
通过对linux命令的整合,利用shell脚本编程提取系统资源信息数据,如ip、cpu、内存、磁盘使用情况、tcp连接数、网络延时、inode等指标,并将数据推送至Elasticsearch。
步骤2﹒存储采集到的资源数据,具体实现方法是:
①Elasticsearch开源软件提供rest接口,接收shell采集的数据,按周建立索引存储,如图2所示,索引格式为租户名称+年份+周数;
②使用Tomcat作为服务器访问ElasticSearch,当用户打开页面时,tomcat请求ElasticSearch,获得实时数据;
③提供rest接口供上层客户端查询搜索数据并进行分析。
步骤3﹒查询数据实现多维度分析,具体实现方法是:
①基于数据实现展现、统计、告警等附加模块,运用存储端提供的相应API查询数据并进行曲线实时展示,如图3所示,对数据进行叠加分析提供可配置的告警机制;
②在tomcat中内置h2数据库,使用租户名称和ip地址绑定的方式区别不同的租户。
本发明的有益效果是:
1、单机最大可接入7000台主机。
2、基于客户端push的方式,主机多的情况下不会影响性能。
3、简化数据库表,便于扩展。
4、图形支持秒级监控。
5、支持多租户,每个用户只能看到自己有关的系统的监控界面。
附图说明:
图1为本发明一种监控指标数据的可视化查询及多维度叠加分析的方法的流程图;
图2为本发明中ElasticSearch按周建立索引的图片;
图3为本发明进行曲线实时展示时的页面效果图。
具体实施例:
下面结合附图和具体实施例对本发明一种监控指标数据的可视化查询及多维度叠加分析的方法作进一步说明。
如图1所示,本发明一种监控指标数据的可视化查询及多维度叠加分析的方法的具体步骤如下:
步骤1﹒采集IT系统资源数据,具体实现方法是:
通过对linux命令的整合,利用shell脚本编程提取系统资源信息数据,如ip、cpu、内存、磁盘使用情况、tcp连接数、网络延时、inode等指标,并将数据推送至Elasticsearch。
步骤2﹒存储采集到的资源数据,具体实现方法是:
①Elasticsearch开源软件提供rest接口,接收shell采集的数据,按周建立索引存储,如图2所示,索引格式为租户名称+年份+周数;
②使用Tomcat作为服务器访问ElasticSearch,当用户打开页面时,tomcat请求ElasticSearch,获得实时数据;
③提供rest接口供上层客户端查询搜索数据并进行分析。
步骤3﹒查询数据实现多维度分析,具体实现方法是:
①基于数据实现展现、统计、告警等附加模块,运用存储端提供的相应API查询数据并进行曲线实时展示,如图3所示,对数据进行叠加分析提供可配置的告警机制;
②在tomcat中内置h2数据库,使用租户名称和ip地址绑定的方式区别不同的租户。
以上所述的实施例仅仅是对本发明的优选实施例进行描述,并非对本发明的范围进行限定,在不脱离本发明设计精神的前提下,本领域普通技术人员对本发明的技术方案做出的各种变形和改进,均应落入本发明权利要求书确定的保护范围内。
Claims (1)
1.一种监控指标数据的可视化查询及多维度叠加分析的方法,其特征在于:该方法包括以下步骤:
步骤1﹒采集IT系统资源数据,具体实现方法是:
通过对linux命令的整合,利用shell脚本编程提取系统资源信息数据,如ip、cpu、内存、磁盘使用情况、tcp连接数、网络延时、inode等指标,并将数据推送至Elasticsearch。
步骤2﹒存储采集到的资源数据,具体实现方法是:
①Elasticsearch开源软件提供rest接口,接收shell采集的数据,按周建立索引存储,如图2所示,索引格式为租户名称+年份+周数;
②使用Tomcat作为服务器访问ElasticSearch,当用户打开页面时,tomcat请求ElasticSearch,获得实时数据;
③提供rest接口供上层客户端查询搜索数据并进行分析。
步骤3﹒查询数据实现多维度分析,具体实现方法是:
①基于数据实现展现、统计、告警等附加模块,运用存储端提供的相应API查询数据并进行曲线实时展示,如图3所示,对数据进行叠加分析提供可配置的告警机制;
②在tomcat中内置h2数据库,使用租户名称和ip地址绑定的方式区别不同的租户。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711259739.4A CN107948016A (zh) | 2017-12-04 | 2017-12-04 | 一种监控指标数据的可视化查询及多维度叠加分析的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711259739.4A CN107948016A (zh) | 2017-12-04 | 2017-12-04 | 一种监控指标数据的可视化查询及多维度叠加分析的方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107948016A true CN107948016A (zh) | 2018-04-20 |
Family
ID=61948583
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711259739.4A Pending CN107948016A (zh) | 2017-12-04 | 2017-12-04 | 一种监控指标数据的可视化查询及多维度叠加分析的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107948016A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109165135A (zh) * | 2018-07-18 | 2019-01-08 | 平安科技(深圳)有限公司 | 一种数据管理方法、计算机可读存储介质及终端设备 |
CN109818823A (zh) * | 2018-12-29 | 2019-05-28 | 北京奥鹏远程教育中心有限公司 | 全链路跟踪系统 |
CN110750414A (zh) * | 2019-09-06 | 2020-02-04 | 上海陆家嘴国际金融资产交易市场股份有限公司 | 移动数据监控分析方法、装置、计算机设备和存储介质 |
CN117573953A (zh) * | 2024-01-16 | 2024-02-20 | 成都云祺科技有限公司 | 一种页面大数据可视化渲染方法、系统及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104113605A (zh) * | 2014-07-30 | 2014-10-22 | 浪潮软件股份有限公司 | 一种企业云应用开发的监控处理方法 |
US20160203548A1 (en) * | 2007-02-09 | 2016-07-14 | Xcira, Inc. | Integrated auctioning environment platform |
CN106534114A (zh) * | 2016-11-10 | 2017-03-22 | 北京红马传媒文化发展有限公司 | 基于大数据分析的防恶意攻击系统 |
CN107196910A (zh) * | 2017-04-18 | 2017-09-22 | 国网山东省电力公司电力科学研究院 | 基于大数据分析的威胁预警监测系统、方法及部署架构 |
-
2017
- 2017-12-04 CN CN201711259739.4A patent/CN107948016A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160203548A1 (en) * | 2007-02-09 | 2016-07-14 | Xcira, Inc. | Integrated auctioning environment platform |
CN104113605A (zh) * | 2014-07-30 | 2014-10-22 | 浪潮软件股份有限公司 | 一种企业云应用开发的监控处理方法 |
CN106534114A (zh) * | 2016-11-10 | 2017-03-22 | 北京红马传媒文化发展有限公司 | 基于大数据分析的防恶意攻击系统 |
CN107196910A (zh) * | 2017-04-18 | 2017-09-22 | 国网山东省电力公司电力科学研究院 | 基于大数据分析的威胁预警监测系统、方法及部署架构 |
Non-Patent Citations (3)
Title |
---|
张倩,何汉东: "基于私有云平台的云主机资源监控方案", 《计算机系统应用》 * |
曾亚飞: "基于Elasticsearch的分布式智能搜索引擎的研究与实现", 《中国优秀硕士学位论文全文数据库》 * |
李岚清: "云平台监控系统的研究和实现", 《中国优秀硕士学位论文全文数据库》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109165135A (zh) * | 2018-07-18 | 2019-01-08 | 平安科技(深圳)有限公司 | 一种数据管理方法、计算机可读存储介质及终端设备 |
CN109165135B (zh) * | 2018-07-18 | 2021-05-04 | 平安科技(深圳)有限公司 | 一种数据管理方法、计算机可读存储介质及终端设备 |
CN109818823A (zh) * | 2018-12-29 | 2019-05-28 | 北京奥鹏远程教育中心有限公司 | 全链路跟踪系统 |
CN110750414A (zh) * | 2019-09-06 | 2020-02-04 | 上海陆家嘴国际金融资产交易市场股份有限公司 | 移动数据监控分析方法、装置、计算机设备和存储介质 |
CN110750414B (zh) * | 2019-09-06 | 2023-03-21 | 未鲲(上海)科技服务有限公司 | 移动数据监控分析方法、装置、计算机设备和存储介质 |
CN117573953A (zh) * | 2024-01-16 | 2024-02-20 | 成都云祺科技有限公司 | 一种页面大数据可视化渲染方法、系统及存储介质 |
CN117573953B (zh) * | 2024-01-16 | 2024-03-22 | 成都云祺科技有限公司 | 一种页面大数据可视化渲染方法、系统及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107948016A (zh) | 一种监控指标数据的可视化查询及多维度叠加分析的方法 | |
CN106326381B (zh) | 基于MapDB构建的HBase数据检索方法 | |
KR101619684B1 (ko) | 데이터 특성에 기초한 지능형 데이터 전달 및 저장 | |
CN106709012A (zh) | 一种大数据分析方法及装置 | |
US9158843B1 (en) | Addressing mechanism for data at world wide scale | |
CN101667034B (zh) | 一种易扩展的、支持异构集群的监控系统 | |
CN100481086C (zh) | 一种空间数据集群存储系统及其数据查询方法 | |
US9043184B1 (en) | System and method for identifying underutilized storage capacity | |
US7801929B2 (en) | Pyramid reporting tool | |
CN104111996A (zh) | 基于hadoop平台的医保门诊大数据抽取系统及方法 | |
US9436708B2 (en) | Method and system for providing a federated wide area motion imagery collection service | |
CN108509254A (zh) | Docker Container的监控方法及系统 | |
CN102750326A (zh) | 一种基于精简策略的集群系统的日志管理优化方法 | |
CN103605698A (zh) | 一种用于分布异构数据资源整合的云数据库系统 | |
CN103064933A (zh) | 数据查询方法及系统 | |
US20130339399A1 (en) | Dynamic Schema | |
Lieberman et al. | Supporting rapid processing and interactive map-based exploration of streaming news | |
CN105912609A (zh) | 一种数据文件处理方法和装置 | |
Ghosh et al. | UCR-STAR: The UCR spatio-temporal active repository | |
CN102236720B (zh) | 用于互联网终端的多维伸缩式立体菜单导航系统 | |
CN105868297A (zh) | 基于在线地图的遥感解译样本的调取方法、装置及系统 | |
CN105138275B (zh) | 一种Lustre存储系统数据共享方法 | |
CN103577426B (zh) | 用于提供搜索建议的附加应用信息的方法、装置与系统 | |
Di et al. | The development of a geospatial data Grid by integrating OGC Web services with Globus‐based Grid technology | |
US8868495B2 (en) | System and method for indexing user data on storage systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20180420 |