CN106992886A - 一种基于分布式存储的日志分析方法及装置 - Google Patents
一种基于分布式存储的日志分析方法及装置 Download PDFInfo
- Publication number
- CN106992886A CN106992886A CN201710217523.5A CN201710217523A CN106992886A CN 106992886 A CN106992886 A CN 106992886A CN 201710217523 A CN201710217523 A CN 201710217523A CN 106992886 A CN106992886 A CN 106992886A
- Authority
- CN
- China
- Prior art keywords
- daily record
- record data
- data
- background service
- log
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004458 analytical method Methods 0.000 title claims abstract description 55
- 238000003860 storage Methods 0.000 title claims abstract description 53
- 238000012217 deletion Methods 0.000 claims description 14
- 230000037430 deletion Effects 0.000 claims description 14
- 238000012544 monitoring process Methods 0.000 claims description 11
- 230000002159 abnormal effect Effects 0.000 claims description 10
- 238000001514 detection method Methods 0.000 claims description 8
- 230000009471 action Effects 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 abstract description 7
- 238000000034 method Methods 0.000 abstract description 6
- 230000010076 replication Effects 0.000 abstract description 5
- 230000002045 lasting effect Effects 0.000 abstract description 3
- 239000003795 chemical substances by application Substances 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 239000012634 fragment Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/069—Management of faults, events, alarms or notifications using logs of notifications; Post-processing of notifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Debugging And Monitoring (AREA)
Abstract
Description
Claims (10)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710217523.5A CN106992886A (zh) | 2017-04-05 | 2017-04-05 | 一种基于分布式存储的日志分析方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710217523.5A CN106992886A (zh) | 2017-04-05 | 2017-04-05 | 一种基于分布式存储的日志分析方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106992886A true CN106992886A (zh) | 2017-07-28 |
Family
ID=59415312
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710217523.5A Pending CN106992886A (zh) | 2017-04-05 | 2017-04-05 | 一种基于分布式存储的日志分析方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106992886A (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108427705A (zh) * | 2018-01-17 | 2018-08-21 | 平安科技(深圳)有限公司 | 电子装置、分布式系统日志查询方法及存储介质 |
CN109002534A (zh) * | 2018-07-18 | 2018-12-14 | 杭州安恒信息技术股份有限公司 | 一种日志分析方法、系统、设备及计算机可读存储介质 |
CN109347655A (zh) * | 2018-09-11 | 2019-02-15 | 上海天旦网络科技发展有限公司 | 基于网络数据的故障恢复系统和方法及存储介质 |
CN109408337A (zh) * | 2018-10-31 | 2019-03-01 | 京东方科技集团股份有限公司 | 一种接口运维的方法及装置 |
CN110231998A (zh) * | 2019-06-13 | 2019-09-13 | 泰康保险集团股份有限公司 | 分布式定时任务的检测方法、装置及存储介质 |
CN111541824A (zh) * | 2020-04-21 | 2020-08-14 | 北京思特奇信息技术股份有限公司 | 一种用于通讯信息传递的方法及系统 |
CN112231296A (zh) * | 2020-09-30 | 2021-01-15 | 北京金山云网络技术有限公司 | 一种分布式日志处理方法、装置、系统、设备及介质 |
CN112948328A (zh) * | 2021-01-28 | 2021-06-11 | 长沙市到家悠享网络科技有限公司 | 一种日志数据的检索方法及装置、设备、介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110191394A1 (en) * | 2010-01-29 | 2011-08-04 | Winteregg Joel | Method of processing log files in an information system, and log file processing system |
CN103838867A (zh) * | 2014-03-20 | 2014-06-04 | 网宿科技股份有限公司 | 日志处理方法和装置 |
CN104104734A (zh) * | 2014-08-04 | 2014-10-15 | 浪潮(北京)电子信息产业有限公司 | 日志分析方法和装置 |
CN105099740A (zh) * | 2014-05-15 | 2015-11-25 | 中国移动通信集团浙江有限公司 | 一种日志管理系统及日志采集方法 |
CN105260399A (zh) * | 2015-09-17 | 2016-01-20 | 西安未来国际信息股份有限公司 | 一种分布式日志的采集和检索方法 |
CN106354434A (zh) * | 2016-08-31 | 2017-01-25 | 中国人民大学 | 日志数据的存储方法及系统 |
CN106709003A (zh) * | 2016-12-23 | 2017-05-24 | 长沙理工大学 | 基于Hadoop的海量日志数据处理方法 |
-
2017
- 2017-04-05 CN CN201710217523.5A patent/CN106992886A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110191394A1 (en) * | 2010-01-29 | 2011-08-04 | Winteregg Joel | Method of processing log files in an information system, and log file processing system |
CN103838867A (zh) * | 2014-03-20 | 2014-06-04 | 网宿科技股份有限公司 | 日志处理方法和装置 |
CN105099740A (zh) * | 2014-05-15 | 2015-11-25 | 中国移动通信集团浙江有限公司 | 一种日志管理系统及日志采集方法 |
CN104104734A (zh) * | 2014-08-04 | 2014-10-15 | 浪潮(北京)电子信息产业有限公司 | 日志分析方法和装置 |
CN105260399A (zh) * | 2015-09-17 | 2016-01-20 | 西安未来国际信息股份有限公司 | 一种分布式日志的采集和检索方法 |
CN106354434A (zh) * | 2016-08-31 | 2017-01-25 | 中国人民大学 | 日志数据的存储方法及系统 |
CN106709003A (zh) * | 2016-12-23 | 2017-05-24 | 长沙理工大学 | 基于Hadoop的海量日志数据处理方法 |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108427705A (zh) * | 2018-01-17 | 2018-08-21 | 平安科技(深圳)有限公司 | 电子装置、分布式系统日志查询方法及存储介质 |
CN108427705B (zh) * | 2018-01-17 | 2022-04-12 | 平安科技(深圳)有限公司 | 电子装置、分布式系统日志查询方法及存储介质 |
CN109002534A (zh) * | 2018-07-18 | 2018-12-14 | 杭州安恒信息技术股份有限公司 | 一种日志分析方法、系统、设备及计算机可读存储介质 |
CN109347655A (zh) * | 2018-09-11 | 2019-02-15 | 上海天旦网络科技发展有限公司 | 基于网络数据的故障恢复系统和方法及存储介质 |
CN109347655B (zh) * | 2018-09-11 | 2022-03-01 | 上海天旦网络科技发展有限公司 | 基于网络数据的故障恢复系统和方法及存储介质 |
CN109408337B (zh) * | 2018-10-31 | 2021-12-28 | 京东方科技集团股份有限公司 | 一种接口运维的方法及装置 |
CN109408337A (zh) * | 2018-10-31 | 2019-03-01 | 京东方科技集团股份有限公司 | 一种接口运维的方法及装置 |
US11681697B2 (en) | 2018-10-31 | 2023-06-20 | Boe Technology Group Co., Ltd. | Method and device for interface operation and maintenance |
CN110231998B (zh) * | 2019-06-13 | 2021-07-20 | 泰康保险集团股份有限公司 | 分布式定时任务的检测方法、装置及存储介质 |
CN110231998A (zh) * | 2019-06-13 | 2019-09-13 | 泰康保险集团股份有限公司 | 分布式定时任务的检测方法、装置及存储介质 |
CN111541824A (zh) * | 2020-04-21 | 2020-08-14 | 北京思特奇信息技术股份有限公司 | 一种用于通讯信息传递的方法及系统 |
CN112231296A (zh) * | 2020-09-30 | 2021-01-15 | 北京金山云网络技术有限公司 | 一种分布式日志处理方法、装置、系统、设备及介质 |
CN112231296B (zh) * | 2020-09-30 | 2024-05-28 | 北京金山云网络技术有限公司 | 一种分布式日志处理方法、装置、系统、设备及介质 |
CN112948328A (zh) * | 2021-01-28 | 2021-06-11 | 长沙市到家悠享网络科技有限公司 | 一种日志数据的检索方法及装置、设备、介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106992886A (zh) | 一种基于分布式存储的日志分析方法及装置 | |
WO2020233212A1 (zh) | 一种日志记录的处理方法、服务器及存储介质 | |
CN104301360B (zh) | 一种日志数据记录的方法、日志服务器及系统 | |
CN105677842A (zh) | 基于Hadoop大数据处理技术的日志分析系统 | |
CN107229556A (zh) | 基于elastic组件的日志分析系统 | |
CN107992398A (zh) | 一种业务系统的监控方法和监控系统 | |
CN107273267A (zh) | 基于elastic组件的日志分析方法 | |
CN106202569A (zh) | 一种基于大数据量的清洗方法 | |
CN109460339B (zh) | 日志的流式计算系统 | |
CN106709003A (zh) | 基于Hadoop的海量日志数据处理方法 | |
CN109034580B (zh) | 一种基于大数据分析的信息系统整体健康度评估方法 | |
CN101431434B (zh) | 基于wap的内容监控及封堵系统和方法 | |
CN105631026A (zh) | 一种安全数据分析系统 | |
CN113297183B (zh) | 一种时间窗口的告警分析方法及装置 | |
CN107800808A (zh) | 一种基于Hadoop架构的数据存储系统 | |
CN101408889A (zh) | 一种性能监控的方法、装置及系统 | |
CN113051147A (zh) | 一种数据库集群的监控方法、装置、系统、以及设备 | |
CN111080500A (zh) | 基于spark streaming的实时规则的布控预警方法及装置 | |
CN105955662A (zh) | 一种k-db数据表空间的扩容方法与系统 | |
CN102142983A (zh) | 告警相关性分析方法和装置 | |
CN102902615A (zh) | 一种Lustre并行文件系统错误报警方法及其系统 | |
CN115333966B (zh) | 一种基于拓扑的Nginx日志分析方法、系统及设备 | |
WO2017000592A1 (zh) | 数据处理方法、装置及系统 | |
CN104579782A (zh) | 一种热点安全事件的识别方法及系统 | |
CN108833442A (zh) | 一种分布式网络安全监控装置及其方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB03 | Change of inventor or designer information |
Inventor after: Wang Jiye Inventor after: Gao Lingchao Inventor after: Xia Yuandie Inventor after: Luo Huayong Inventor after: Ge Huali Inventor after: Wang Yufei Inventor before: Wang Jiye Inventor before: Gao Lingchao Inventor before: Yang Ning Inventor before: Luo Huayong Inventor before: Ge Huali Inventor before: Wang Yufei |
|
CB03 | Change of inventor or designer information | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20180425 Address after: 100192 room 710, research building 15, Xiaoying East Road, Qinghe, Haidian District, Beijing Applicant after: Beijing China Power Information Technology Co., Ltd. Applicant after: STATE GRID INFORMATION & TELECOMMUNICATION GROUP CO., LTD. Applicant after: Information and communication branch of Jiangsu Electric Power Co., Ltd. Applicant after: State Grid Corporation of China Address before: 100033 West Chang'an Avenue, Xicheng District, Xicheng District, Beijing Applicant before: State Grid Corporation of China Applicant before: STATE GRID INFORMATION & TELECOMMUNICATION GROUP CO., LTD. Applicant before: Beijing China Power Information Technology Co., Ltd. |
|
TA01 | Transfer of patent application right | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20170728 |
|
RJ01 | Rejection of invention patent application after publication |