CN116701147A - 一种日志数据处理方法、装置、设备及存储介质 - Google Patents

一种日志数据处理方法、装置、设备及存储介质 Download PDF

Info

Publication number
CN116701147A
CN116701147A CN202310695782.4A CN202310695782A CN116701147A CN 116701147 A CN116701147 A CN 116701147A CN 202310695782 A CN202310695782 A CN 202310695782A CN 116701147 A CN116701147 A CN 116701147A
Authority
CN
China
Prior art keywords
log data
original
original log
log
data according
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310695782.4A
Other languages
English (en)
Inventor
张大伟
陈秋华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Youtejie Information Technology Co ltd
Original Assignee
Beijing Youtejie Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Youtejie Information Technology Co ltd filed Critical Beijing Youtejie Information Technology Co ltd
Priority to CN202310695782.4A priority Critical patent/CN116701147A/zh
Publication of CN116701147A publication Critical patent/CN116701147A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466—Performance evaluation by tracing or monitoring
    • G06F11/3476—Data logging
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G06F16/355—Class or cluster creation or modification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/216—Parsing using statistical methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Probability & Statistics with Applications (AREA)
  • Computer Hardware Design (AREA)
  • Databases & Information Systems (AREA)
  • Quality & Reliability (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明公开了一种日志数据处理方法、装置、设备及存储介质，包括：采集多个原始日志数据，对各原始日志数据进行标准化处理，并根据处理后的日志数据，建立与多个原始日志数据匹配的分词库；根据分词库，确定与各原始日志数据对应的日志向量，并根据各原始日志数据对应的日志向量，对多个原始日志数据进行层次聚类；根据聚类结果，确定与多个原始日志数据对应的分析结果。本发明的技术方案可以减少日志数据处理过程中消耗的计算资源，提高日志数据处理效率，以及处理结果的准确性。

Description

一种日志数据处理方法、装置、设备及存储介质
技术领域
本发明涉及计算机技术领域，尤其涉及一种日志数据处理方法、装置、设备及存储介质。
背景技术
随着信息技术的发展，日志数据作为记录系统运行状态和异常情况的重要数据源，在系统管理、故障排查、安全防护等方面扮演着重要角色。然而，由于日志数据量大、形式复杂以及存在一定的噪声和异常值等问题，如何从海量的日志数据中筛选出有意义的信息，对于日志数据分析和应用具有至关重要的意义。
目前，现有的日志数据处理方法主要包括基于规则的方法、基于关键词搜索的方法以及基于机器学习的方法等。
但是，基于规则的方法以及基于关键词搜索的方法，需要依靠人力在日志数据中查询信息，导致日志分析耗时较久，难度较高。基于机器学习的方法针对海量日志数据实时处理、存储和分析等方面，存在着计算资源消耗高、耗时久、精度不足等问题。
发明内容
本发明提供了一种日志数据处理方法、装置、设备及存储介质，可以减少日志数据处理过程中消耗的计算资源，提高日志数据处理效率，以及处理结果的准确性。
根据本发明的一方面，提供了一种日志数据处理方法，所述方法包括：
采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库；
根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类；
根据聚类结果，确定与所述多个原始日志数据对应的分析结果。
可选的，对各所述原始日志数据进行标准化处理，包括：
按照预设的标准字段类型，分别对各所述原始日志数据对应的字段值进行提取；
所述标准字段类型包括时间戳、日志来源以及日志内容。
可选的，根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库，包括：
将每个原始日志数据对应的日志内容进行拆分，得到每个原始日志数据对应的至少一个分词；
根据每个原始日志数据对应的至少一个分词构建分词库；
所述分词库中包括每个分词与对应标识符之间的映射关系。
可选的，根据所述分词库，确定与各所述原始日志数据对应的日志向量，包括：
根据所述分词库中每个分词与对应标识符之间的映射关系，确定与各所述原始日志数据对应的特征向量；
对各所述原始日志数据对应的特征向量进行归一化处理，得到各所述原始日志数据对应的日志向量。
可选的，根据聚类结果，确定与所述多个原始日志数据对应的分析结果，包括：
根据聚类结果在所述多个原始日志数据中，按照目标数据类型筛选有效数据；或者，
根据聚类结果，在所述多个原始日志数据中检测异常数据；所述异常数据对应的异常类型包括模式异常、参数异常以及占比异常。
可选的，根据聚类结果，在所述多个原始日志数据中检测异常数据，包括：
根据所述聚类结果，判断所述多个原始日志数据对应的日志类别中是否存在异常日志类别；
若是，则将所述异常日志类别对应的原始日志数据作为异常数据
根据本发明的另一方面，提供了一种日志数据处理装置，所述装置包括：
日志采集模块，用于采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库；
层次聚类模块，用于根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类；
日志分析模块，用于根据聚类结果，确定与所述多个原始日志数据对应的分析结果。
根据本发明的另一方面，提供了一种电子设备，所述设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的日志数据处理方法。
根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的日志数据处理方法。
本发明实施例提供的技术方案，通过采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库，根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类，根据聚类结果，确定与所述多个原始日志数据对应的分析结果的技术手段，可以减少日志数据处理过程中消耗的计算资源，提高日志数据处理效率，以及处理结果的准确性。
应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是根据本发明实施例提供的一种日志数据处理方法的流程图；
图2是根据本发明实施例提供的另一种日志数据处理方法的流程图；
图3是根据本发明实施例提供的另一种日志数据处理方法的流程图；
图4是根据本发明实施例提供的一种日志数据处理装置的结构示意图；
图5是实现本发明实施例的日志数据处理方法的电子设备结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
图1为本发明实施例一提供的一种日志数据处理方法的流程图，本实施例可适用于对业务系统产生的日志数据进行处理的情况，该方法可以由日志数据处理装置来执行，该日志数据处理装置可以采用硬件和/或软件的形式实现，该日志数据处理装置可配置于电子设备中。如图1所示，该方法包括：
步骤110、采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库。
在本实施例中，可选的，可以通过预设的数据采集工具，采集业务系统对应的多个原始日志数据。具体的，所述数据采集工具可以为基于go语言开发的heka工具，所述heka工具用于收集、整理来自多个不同数据源的日志数据。在获取到多个原始日志数据后，可以对各原始日志数据进行标准化处理，例如将半结构化、非结构化的原始日志转换成结构化日志，以便于提高原始日志数据的处理效率。
在此步骤中，获取到结构化日志后，可以在全部结构化日志中获取所有分词，并将各分词进行编号，得到分词库。
在一个具体的实施例中，可以根据预设的分词筛选规则，在全部分词中剔除无效分词(例如干扰分词、IP地址、端口号以及url链接等)，并根据剩余的分词构建分词库。
步骤120、根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类。
在本实施例中，可选的，可以采用预设的特征提取方法(例如TF-IDF、词袋模型以及N-gram算法等)，获取每个分词对应的特征向量，并根据每个分词对应的特征向量确定各原始日志数据对应的日志向量。
其中，词袋模型可以将文本表示为一个固定长度的向量，其中每个元素表示某个单词在文本中出现的次数；TF-IDF模型则考虑了单词在文本集合中的频率和重要性，从而更准确地表示文本的语义信息；N-gram模型则考虑了相邻单词之间的关系，能够更好地表示文本的上下文信息。
在此步骤中，获取到每个原始日志数据对应的日志向量后，可以采用预设的聚类算法库以及聚类工具(例如scikit-learn、Apache Mahout等)，根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类。
具体的，可以根据原始日志数据的数据量、数据类型、计算资源以及算法性能等，确定聚类算法库、聚类工具、聚类数目、初始化策略以及迭代次数等。在对所述多个原始日志数据进行层次聚类时，用户还可以对聚类算法的细节参数范围进行调整，例如启用IP和URL的模式进行替换，以及设置DATE、TIME、ID、MAC、HOST、NUM以及EMAIL等参数范围。
步骤130、根据聚类结果，确定与所述多个原始日志数据对应的分析结果。
在本实施例中，获取到多个原始日志数据对应的聚类结果后，可以将所述聚类结果以结构化数据的形式存储在Beaver存储引擎中，以便后续分析和和查询。通过对聚类结果的挖掘和分析，可以确定日志数据中潜在的规律和趋势，以便优化系统性能和提高用户体验。具体的，可以使用统计学方法和机器学习方法等对聚类结果进行分析，以确定日志数据中的关键信息和异常情况。
在本实施例中，由于Beaver平台和层次聚类算法均支持多种数据源和数据格式，因此可以处理不同类型和结构的日志数据，并提供灵活的配置和调整选项。通过将Beaver平台与层次聚类算法相结合，可以自动识别和分类具有相似特征的日志数据，降低了人为干预的需求，使得日志数据处理方法应用于异常检测、日志数据分析等场景。相比于现有的日志数据处理方法而言，通过聚类学习的方法提取日志数据中的潜在特征和模式，可以自动地将日志数据聚类到不同的类别中，极大地简化了日志数据处理的流程，由此可以减少日志数据处理过程中消耗的计算资源，提高日志数据处理效率，以及处理结果的准确性。
本发明实施例提供的技术方案，通过采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库，根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类，根据聚类结果，确定与所述多个原始日志数据对应的分析结果的技术手段，可以减少日志数据处理过程中消耗的计算资源，提高日志数据处理效率，以及处理结果的准确性。
图2为本发明实施例二提供的一种日志数据处理方法的流程图，本实施例是对上述实施例的进一步细化。如图2所示，该方法包括：
步骤210、采集多个原始日志数据，按照预设的标准字段类型，分别对各所述原始日志数据对应的字段值进行提取。
在本实施例中，所述标准字段类型包括时间戳、日志来源以及日志内容。假设表1为获取到的两个原始日志数据(syslog1和syslog2)，在使用所述标准字段类型对各原始日志数据进行提取后，可以得到如表2所示的结构化日志数据，每个结构化日志数据中包括标准字段类型以及对应的字段值。
表1
表2
步骤220、将每个原始日志数据对应的日志内容进行拆分，得到每个原始日志数据对应的至少一个分词。
步骤230、根据每个原始日志数据对应的至少一个分词构建分词库。
在本实施例中，以表2所示的日志数据为例，可以构建如下分词库，如表3所示：
表3
其中，所述分词库中包括每个分词与对应标识符之间的映射关系。具体的，所述标识符可以为分词编号或索引等。
步骤240、根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类。
步骤250、根据聚类结果，确定与所述多个原始日志数据对应的分析结果。
本发明实施例提供的技术方案，通过采集多个原始日志数据，按照预设的标准字段类型，分别对各所述原始日志数据对应的字段值进行提取，将每个原始日志数据对应的日志内容进行拆分，得到每个原始日志数据对应的至少一个分词，根据每个原始日志数据对应的至少一个分词构建分词库，根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类，根据聚类结果，确定与所述多个原始日志数据对应的分析结果的技术手段，可以减少日志数据处理过程中消耗的计算资源，提高日志数据处理效率，以及处理结果的准确性。
图3为本发明实施例三提供的另一种日志数据处理方法的流程图，本实施例是对上述实施例的进一步细化。如图3所示，该方法包括：
步骤310、采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库。
步骤320、根据所述分词库中每个分词与对应标识符之间的映射关系，确定与各所述原始日志数据对应的特征向量。
步骤330、对各所述原始日志数据对应的特征向量进行归一化处理，得到各所述原始日志数据对应的日志向量。
在本实施例中，为了避免特征向量中某些维度对聚类结果产生过大的影响，可以对特征向量进行归一化处理。具体的，向量归一化方法可以包括MinMaxScaler和StandardScaler等。
这样设置的好处在于，可以将原始日志数据对应的向量映射到指定的数字范围之内，便于对多个向量进行统一处理。
步骤340、根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类。
步骤350、根据聚类结果在所述多个原始日志数据中，按照目标数据类型筛选有效数据；或者，根据聚类结果，在所述多个原始日志数据中检测异常数据。
在本实施例中，获取到聚类结果后，可以将所述聚类结果进行可视化展示，以便更好地展示系统运行状态和异常情况。可选的，可以采用密度聚类、离群点检测等算法，根据聚类结果在所述多个原始日志数据中检测异常数据。
在一个具体的实施例中，根据聚类结果，在所述多个原始日志数据中检测异常数据，包括：根据所述聚类结果，判断所述多个原始日志数据对应的日志类别中是否存在异常日志类别；若是，则将所述异常日志类别对应的原始日志数据作为异常数据。其中，所述异常数据对应的异常类型包括模式异常、参数异常以及占比异常。
在一个具体的实施例中，一个系统中的日志输出语句通常是有限的，每一个输出语句对应一个日志模式，如果检测到一个日志不能匹配任何正常模式，则可以确定该日志模式异常。如果一个日志匹配到对应模式之后，参数位的值和已有经验不符合，则可以确定该日志参数异常。如果一个模式对应的日志数量在某一个时间区间内发生突变，则可以确定该模式占比异常。
本发明实施例提供的技术方案，通过采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库，根据所述分词库中每个分词与对应标识符之间的映射关系，确定与各所述原始日志数据对应的特征向量，对各所述原始日志数据对应的特征向量进行归一化处理，得到各所述原始日志数据对应的日志向量，根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类，根据聚类结果在所述多个原始日志数据中，按照目标数据类型筛选有效数据或者检测异常数据的技术手段，可以减少日志数据处理过程中消耗的计算资源，提高日志数据处理效率，以及处理结果的准确性。
图4为本发明实施例四提供的一种日志数据处理装置的结构示意图，该装置包括：日志采集模块410、层次聚类模块420和日志分析模块430。
其中，日志采集模块410，用于采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库；
层次聚类模块420，用于根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类；
日志分析模块430，用于根据聚类结果，确定与所述多个原始日志数据对应的分析结果。
本发明实施例提供的技术方案，通过采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库，根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类，根据聚类结果，确定与所述多个原始日志数据对应的分析结果的技术手段，可以减少日志数据处理过程中消耗的计算资源，提高日志数据处理效率，以及处理结果的准确性。
在上述实施例的基础上，日志采集模块410包括：
字段提取单元，用于按照预设的标准字段类型，分别对各所述原始日志数据对应的字段值进行提取；所述标准字段类型包括时间戳、日志来源以及日志内容；
日志拆分单元，用于将每个原始日志数据对应的日志内容进行拆分，得到每个原始日志数据对应的至少一个分词；
词库构建单元，用于根据每个原始日志数据对应的至少一个分词构建分词库；其中，所述分词库中包括每个分词与对应标识符之间的映射关系。
层次聚类模块420包括：
特征向量确定单元，用于根据所述分词库中每个分词与对应标识符之间的映射关系，确定与各所述原始日志数据对应的特征向量；
向量归一化单元，用于对各所述原始日志数据对应的特征向量进行归一化处理，得到各所述原始日志数据对应的日志向量。
日志分析模块430包括：
数据检测单元，用于根据聚类结果在所述多个原始日志数据中，按照目标数据类型筛选有效数据；或者，根据聚类结果，在所述多个原始日志数据中检测异常数据；所述异常数据对应的异常类型包括模式异常、参数异常以及占比异常；
类别判断单元，用于根据所述聚类结果，判断所述多个原始日志数据对应的日志类别中是否存在异常日志类别；若是，则将所述异常日志类别对应的原始日志数据作为异常数据。
上述装置可执行本发明前述所有实施例所提供的方法，具备执行上述方法相应的功能模块和有益效果。未在本发明实施例中详尽描述的技术细节，可参见本发明前述所有实施例所提供的方法。
图5示出了可以用来实施本发明的实施例的电子设备10的结构示意图。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图5所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如日志数据处理方法。
在一些实施例中，日志数据处理方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时，可以执行上文描述的日志数据处理方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行日志数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种日志数据处理方法，其特征在于，包括：
采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库；
根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类；
根据聚类结果，确定与所述多个原始日志数据对应的分析结果。
2.根据权利要求1所述的方法，其特征在于，对各所述原始日志数据进行标准化处理，包括：
按照预设的标准字段类型，分别对各所述原始日志数据对应的字段值进行提取；
所述标准字段类型包括时间戳、日志来源以及日志内容。
3.根据权利要求2所述的方法，其特征在于，根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库，包括：
将每个原始日志数据对应的日志内容进行拆分，得到每个原始日志数据对应的至少一个分词；
根据每个原始日志数据对应的至少一个分词构建分词库；
其中，所述分词库中包括每个分词与对应标识符之间的映射关系。
4.根据权利要求3所述的方法，其特征在于，根据所述分词库，确定与各所述原始日志数据对应的日志向量，包括：
根据所述分词库中每个分词与对应标识符之间的映射关系，确定与各所述原始日志数据对应的特征向量；
对各所述原始日志数据对应的特征向量进行归一化处理，得到各所述原始日志数据对应的日志向量。
5.根据权利要求1所述的方法，其特征在于，根据聚类结果，确定与所述多个原始日志数据对应的分析结果，包括：
根据聚类结果在所述多个原始日志数据中，按照目标数据类型筛选有效数据；或者，
根据聚类结果，在所述多个原始日志数据中检测异常数据；所述异常数据对应的异常类型包括模式异常、参数异常以及占比异常。
6.根据权利要求5所述的方法，其特征在于，根据聚类结果，在所述多个原始日志数据中检测异常数据，包括：
根据所述聚类结果，判断所述多个原始日志数据对应的日志类别中是否存在异常日志类别；
若是，则将所述异常日志类别对应的原始日志数据作为异常数据。
7.一种日志数据处理装置，其特征在于，所述装置包括：
日志采集模块，用于采集多个原始日志数据，对各所述原始日志数据进行标准化处理，并根据处理后的日志数据，建立与所述多个原始日志数据匹配的分词库；
层次聚类模块，用于根据所述分词库，确定与各所述原始日志数据对应的日志向量，并根据各所述原始日志数据对应的日志向量，对所述多个原始日志数据进行层次聚类；
日志分析模块，用于根据聚类结果，确定与所述多个原始日志数据对应的分析结果。
8.一种电子设备，其特征在于，所述设备包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的日志数据处理方法。
9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-6中任一项所述的日志数据处理方法。
10.一种计算机程序产品，其特征在于，所述计算机程序产品包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的日志数据处理方法。
CN202310695782.4A 2023-06-12 2023-06-12 一种日志数据处理方法、装置、设备及存储介质 Pending CN116701147A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310695782.4A CN116701147A (zh) 2023-06-12 2023-06-12 一种日志数据处理方法、装置、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310695782.4A CN116701147A (zh) 2023-06-12 2023-06-12 一种日志数据处理方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
CN116701147A true CN116701147A (zh) 2023-09-05

Family

ID=87835386

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310695782.4A Pending CN116701147A (zh) 2023-06-12 2023-06-12 一种日志数据处理方法、装置、设备及存储介质

Country Status (1)

Country Link
CN (1) CN116701147A (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190095417A1 (en) * 2017-09-28 2019-03-28 Nec Laboratories America, Inc. Content aware heterogeneous log pattern comparative analysis engine
CN112613309A (zh) * 2020-12-24 2021-04-06 北京浪潮数据技术有限公司 一种日志归类分析方法、装置、设备及可读存储介质
CN116126807A (zh) * 2022-12-29 2023-05-16 中国民航信息网络股份有限公司 一种日志分析方法及相关装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190095417A1 (en) * 2017-09-28 2019-03-28 Nec Laboratories America, Inc. Content aware heterogeneous log pattern comparative analysis engine
CN112613309A (zh) * 2020-12-24 2021-04-06 北京浪潮数据技术有限公司 一种日志归类分析方法、装置、设备及可读存储介质
CN116126807A (zh) * 2022-12-29 2023-05-16 中国民航信息网络股份有限公司 一种日志分析方法及相关装置

Similar Documents

Publication Publication Date Title
WO2021068547A1 (zh) 日志模板提取方法及装置
CN112612664B (zh) 电子设备的测试方法、装置、电子设备和存储介质
CN112364637B (zh) 一种敏感词检测方法、装置，电子设备及存储介质
CN113986864A (zh) 日志数据处理方法、装置、电子设备及存储介质
CN115509797A (zh) 一种故障类别的确定方法、装置、设备及介质
CN116471174B (zh) 一种日志数据监测系统、方法、装置和存储介质
CN113963197A (zh) 图像识别方法、装置、电子设备和可读存储介质
CN116955075A (zh) 一种基于日志的解析语句生成方法、装置、设备及介质
CN111984797A (zh) 客户身份识别装置及方法
CN114692778B (zh) 用于智能巡检的多模态样本集生成方法、训练方法及装置
CN116668264A (zh) 一种告警聚类的根因分析方法、装置、设备及存储介质
CN116467461A (zh) 应用于配电网的数据处理方法、装置、设备及介质
CN116701147A (zh) 一种日志数据处理方法、装置、设备及存储介质
CN113535458B (zh) 异常误报的处理方法及装置、存储介质、终端
CN112750047B (zh) 行为关系信息提取方法及装置、存储介质、电子设备
CN114528378A (zh) 文本分类方法、装置、电子设备及存储介质
JP5020274B2 (ja) 意味ドリフトの発生評価方法及び装置
CN116737520B (zh) 一种日志数据的数据编织方法、装置、设备及存储介质
CN115329748B (zh) 一种日志解析方法、装置、设备及存储介质
CN115458103B (zh) 医疗数据处理方法、装置、电子设备及可读存储介质
CN114706956A (zh) 分类信息获取、分类方法、装置、电子设备和存储介质
CN118152341A (zh) 一种日志查询语句生成方法、装置、设备及存储介质
CN117632654A (zh) 一种运维风险等级评估方法、装置、电子设备及存储介质
CN116796229A (zh) 一种设备故障检测方法、装置、设备及存储介质
CN115795304A (zh) 一种数据处理模型训练方法、系统、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination