CN115145924A - 数据处理方法、装置、设备及存储介质 - Google Patents

Abstract

本发明实施例公开了一种数据处理方法、装置、设备及存储介质。具体实施方案为：在进行数据写入时，获取日志数据；根据写入分词器对所述日志数据进行分词，得到日志索引，并将日志索引和所述日志数据进行关联存储；在进行数据查询时，获取查询文本；根据查询分词器对查询文本进行分词，得到查询索引；其中，查询分词器的分词粒度粗于写入分词器的分词粒度；根据查询索引与日志索引的匹配结果，从日志数据中选取目标日志数据。上述方式避免了因查询分词器和写入分词器的分词粒度相同，而造成的仅能获取到与查询索引精细程度相同的日志索引的情况发生，进而有效提高了所确定目标日志数据的准确度，同时有助于提高相应目标日志数据确定的效率。

Description

数据处理方法、装置、设备及存储介质

技术领域

本发明实施例涉及数据处理技术，尤其涉及一种数据处理方法、装置、设备及存储介质。

背景技术

网络设备、系统及服务程序等，在运行过程中均会产生大量的日志，以对所发生的各类事件进行记录。其中，针对各日志数据的写入和查询，一般是基于日志查询分析系统，并利用相应分词器进一步实现的。

现有技术中，在针对各日志数据执行相应写入和查询操作时，通常所采用的是同一种分词器，无法适用更多的搜索场景，降低了相应日志数据查询的准确率以及效率。

发明内容

本发明提供了一种数据处理方法、装置、设备及存储介质，以有效提高相应日志数据查询的准确率及效率。

第一方面，本发明实施例提供了一种数据处理方法，该方法包括：

在进行数据写入时，获取日志数据；

根据写入分词器对所述日志数据进行分词，得到日志索引，并将所述日志索引和所述日志数据进行关联存储；

在进行数据查询时，获取查询文本；

根据查询分词器对所述查询文本进行分词，得到查询索引；其中，所述查询分词器的分词粒度粗于所述写入分词器的分词粒度；

根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据。

第二方面，本发明实施例提供了一种数据处理装置，该装置包括：

日志数据获取模块，用于在进行数据写入时，获取日志数据；

日志索引获取模块，用于根据写入分词器对所述日志数据进行分词，得到日志索引，并将所述日志索引和所述日志数据进行关联存储；

查询文本获取模块，用于在进行数据查询时，获取查询文本；

查询索引获取模块，用于根据查询分词器对所述查询文本进行分词，得到查询索引；其中，所述查询分词器的分词粒度粗于所述写入分词器的分词粒度；

目标日志数据选取模块，用于根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据。

第三方面，本发明实施例提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行如第一方面实施例所提供的任意一种数据处理方法。

第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现如第一方面实施例所提供的任意一种数据处理方法。

本发明实施例通过在进行数据写入时，获取日志数据；根据写入分词器对所述日志数据进行分词，得到日志索引，并将所述日志索引和所述日志数据进行关联存储；在进行数据查询时，获取查询文本；根据查询分词器对所述查询文本进行分词，得到查询索引；其中，所述查询分词器的分词粒度粗于所述写入分词器的分词粒度；根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据。上述技术方案中所采用的查询分词器的分词粒度粗于写入分词器的分词粒度，从而使得在对相应日志数据进行查询的过程中，相应查询索引能够匹配到精细程度更高的查询索引，避免了因查询分词器和写入分词器的分词粒度相同，而造成的仅能获取到与查询索引精细程度相同的日志索引的情况发生，进而有效提高了所确定目标日志数据的准确度，同时有助于提高相应目标日志数据确定的效率。

应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例一所提供的一种数据处理方法的流程图；

图2是本发明实施例二所提供的一种数据处理方法的流程图；

图3是本发明实施例三所提供的一种数据处理装置的结构示意图；

图4是本发明实施例四所提供的一种电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例一

图1为本发明实施例一提供的一种数据处理方法的流程图，本实施例可适用于基于不同分词粒度的分词器对相应日志数据进行写入和查询的情况。该方法可以由一种数据处理装置来执行，该装置可采用软件和/或硬件的形式来实现，可配置于电子设备中。参考图1所示，该方法具体包括如下参考步骤：

S110、在进行数据写入时，获取日志数据。

其中，日志数据可以是系统在运行过程中所产生的各事件的记录数据。

具体地，可以预先配置用于写入和查询相应日志数据的日志查询分析系统，例如可以是Elasticsearch等搜索服务器。相应的，在需要向相应日志查询分析系统对应的数据库中进行数据写入时，可以对相应日志数据进行获取，并针对该日志数据执行写入操作。

S120、根据写入分词器对所述日志数据进行分词，得到日志索引，并将所述日志索引和所述日志数据进行关联存储。

其中，写入分词器可以是按照设定写入规则，将日志数据对应文本拆分成不同词语的分词工具。需要说明的是，本发明实施例对词语的语种不作任何限定，例如可以是中文、英文或其他语言等。其中，设定写入规则可以根据实际需要进行调整，这里并不作具体限制。日志索引可以是用于指向存储在数据库中对应日志数据的指针性信息，例如可以是对相应日志数据进行分词后所得到的各单词等。

具体地，在获取到相应日志数据后，可以采用预先设置的写入分词器对该日志数据进行分词，并可以将该分词操作所获得的各单词作为相应日志索引。相应的，可以建立该日志索引与相应日志数据之间的关联关系，基于该关联关系，可以将该相应日志索引和日志数据进行关联存储。

为了应对日志数据中存在相应无效字符的情况，避免因无法有效识别相应无效字符，而降低相应分词过程的准确率，在一个可选实施例中，根据写入分词器对所述日志数据进行分词，得到日志索引，可以包括：过滤所述日志数据中的无效字符，以更新所述日志数据；根据所述写入分词器对更新后的日志数据进行分词，得到所述日志索引。

其中，无效字符可以是日志数据对应文本中所包含的无用的字符，例如可以是用于连接各词语的““符等的特殊字符。过滤相应日志数据中的无效字符可以是去除相应无效字符或者将相应无效字符转换成空格等。

具体地，可以在相应写入分词器对日志数据进行分词的过程中，可以先对该日志数据中所包含的各无效字符进行识别，并将所识别到的各无效字符进行过滤，进一步地，可将该过滤掉各无效字符后的日志数据作为新的日志数据。相应的，基于写入分词器，可以对该新的日志数据进行分词，以得到相应的日志索引。

可以理解的是，通过过滤所述日志数据中的无效字符，以更新所述日志数据，并根据所述写入分词器对更新后的日志数据进行分词，得到所述日志索引，使得在对相应日志数据进行分词的过程中，能够对该日志数据中所包含的无效字符进行筛除，从而可以避免因无效字符的存在而无法对日志数据中各单词进行准确拆分的情况发生，进而有效提高了对相应日志数据进行分词时的准确率，同时有助于提高相应分词过程的效率。

S130、在进行数据查询时，获取查询文本。

其中，查询文本可以是需要进行查询的日志数据所对应的文本信息。

具体地，可以在需要进行日志数据查询时，获取所要查询的日志数据所对应的文本信息，并将该文本信息作为相应查询文本。

S140、根据查询分词器对所述查询文本进行分词，得到查询索引；其中，所述查询分词器的分词粒度粗于所述写入分词器的分词粒度。

其中，查询分词器可以是按照设定查询规则，将查询文本拆分成不同词语的分词工具。需要说明的是，本发明实施例对词语的语种不作任何限定，例如可以是中文、英文或其他语言等。其中，设定查询规则可以根据实际需要进行调整，这里并不作具体限制。由于查询分词器与写入分词器的分词粒度不同，因此，查询分词器对应的设定查询规则与写入分词器对应的设定写入规则，通常不同。查询索引可以是查找相应查询文本对应日志数据的指针性信息，例如可以是对相应查询文本进行分词后所得到的各单词等。分词粒度可以是对相应文本进行拆分时的精细程度。针对同一文本内容，分词粒度越细，则得到的分词结果越多；若分词粒度越粗，则得到的分词结果越少。通常情况下，分词粒度较细的分词器，得到的分词结果中至少含有部分字符长度较短的分词结果。

具体地，在获取到相应查询文本后，可以采用预先设置的查询分词器对该查询文本进行分词，并可以将该分词操作所获得的各单词作为相应查询索引。

示例性地，根据查询分词器对所述查询文本进行分词，得到查询索引，可以包括：若所述查询文本为中文，则基于条件随机场(conditional random field algorithm，CRF)算法对所述查询文本进行分词，得到所述查询索引。

具体地，在获取到相应查询文本后，可以对该查询文本所对应的语言类型进行判断。相应的，若判断该查询文本所对应的语言类型为中文，则可以选择CRF算法对该查询文本进行分词处理，并将该分词处理操作所得到的各单词作为相应的查询索引。

可以理解的是，通过在查询文本为中文时，选择条件随机场算法对相应查询文本进行分词，以得到相应查询索引，从而使得在相应日志数据的查询过程中，能够基于查询文本的语言类型，对应选取相应的算法对该查询文本执行相应分词操作，从而能够避免因未考虑查询文本的语言类型而造成所选取的分词算法不适合的情况发生，进而有助于提高对相应查询文本进行分词的效率。此外，基于条件随机场算法所进行的分词操作，对歧义词等的识别效果较好，从而有助于提高相应分词操作的准确率。

S150、根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据。

具体地，可以预先建立查询索引与相应日志索引的映射关系。相应的，基于该映射关系，可以根据所得到的查询索引，匹配对应的日志索引。基于所匹配到的日志索引可以确定与该日志索引关联存储的日志数据，并将该日志数据作为相应目标日志数据。

本发明实施例通过在进行数据写入时，获取日志数据；根据写入分词器对所述日志数据进行分词，得到日志索引，并将所述日志索引和所述日志数据进行关联存储；在进行数据查询时，获取查询文本；根据查询分词器对所述查询文本进行分词，得到查询索引；其中，所述查询分词器的分词粒度粗于所述写入分词器的分词粒度；根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据。上述技术方案中所采用的查询分词器的分词粒度粗于写入分词器的分词粒度，从而使得在对相应日志数据进行查询的过程中，相应查询索引能够匹配到精细程度更高的查询索引，避免了因查询分词器和写入分词器的分词粒度相同，而造成的仅能获取到与查询索引精细程度相同的日志索引的情况发生，进而有效提高了所确定目标日志数据的准确度，同时有助于提高相应目标日志数据确定的效率。

实施例二

图2为本发明实施例二提供的一种数据处理方法的流程图，本实施例以上述各实施例为基础，进行了进一步地优化。需要说明的是，在本发明实施例中未详述部分，可参见其他实施例中相关表述。

进一步地，将“根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据”细化为“查找与所述查询索引相匹配的至少一个日志索引，并根据匹配结果，从所述日志数据中选取目标日志数据”，以完善相应目标日志数据的获取机制。

参考图2所示，该方法具体包括如下步骤：

S210、在进行数据写入时，获取日志数据。

S220、根据写入分词器对所述日志数据进行分词，得到日志索引，并将所述日志索引和所述日志数据进行关联存储。

S230、在进行数据查询时，获取查询文本。

S240、根据查询分词器对所述查询文本进行分词，得到查询索引；其中，所述查询分词器的分词粒度粗于所述写入分词器的分词粒度。

S250、查找与所述查询索引相匹配的至少一个日志索引，并根据匹配结果，从所述日志数据中选取目标日志数据。

具体地，可以预先建立相应查询索引与各日志索引之间的第一映射关系以及不同匹配结果与不同目标日志数据之间的第二映射关系。相应的，基于该第一映射关系，可以根据得到的查询索引，匹配对应的各日志索引，并将所匹配到的至少一个日志索引作为相应匹配结果；基于第二映射关系，可以根据所获取的匹配结果，匹配对应的日志数据，并将所匹配到的日志数据作为相应目标日志数据。

示例性地，查找与所述查询索引相匹配的至少一个日志索引，并根据匹配结果，从所述日志数据中选取目标日志数据，可以包括：对所述查询索引进行拆分，得到至少一个查询字；分别查找与各所述查询字相匹配的日志索引；从相匹配的日志索引对应日志数据中，选取所述目标日志数据。

其中，查询字可以是查询文本中所包含的各文字。

具体地，可以预先建立不同查询字与各日志索引之间的映射关系。相应的，基于该映射关系，可以根据所得到的各查询字，分别匹配对应的日志索引。由于日志索引和日志数据是关联存储的，因此，可以根据所匹配到的各日志索引确定相应的日志数据。相应的，可以通过遍历所确定的各日志数据，选取符合要求的日志数据作为相应目标日志数据。

可以理解的是，通过对所述查询索引进行拆分，得到至少一个查询字，使得在查询相应日志数据的过程中，能够将相应查询索引再进一步拆分成至少一个查询字，以基于该查询字进一步匹配相应日志索引，从而能够避免因对相应查询文本引拆分不够彻底导致的所匹配的日志索引不够精确的情况发生，进而有效提高了相应日志索引确定的精细程度，同时有助于提高后续确定相应目标日志数据的准确度。

示例性地，从相匹配的日志索引对应日志数据中，选取所述目标日志数据，可以包括：将相匹配的日志索引对应日志数据作为候选日志数据；根据所述候选日志数据中相匹配的日志索引，确定所述候选日志数据的匹配程度；将匹配程度最高的候选日志数据作为所述目标日志数据。

具体地，可以预先建立各候选日志数据中相匹配的日志索引与相应候选日志数据的匹配程度之间的映射关系。相应的，基于该映射关系，可以根据所确定的各候选日志数据中相匹配的日志索引，匹配对应的匹配程度，并将所匹配到的匹配程度作为各对应候选日志数据的匹配程度。基于此，可以将所确定的各候选日志数据的匹配程度进行比较，并将匹配程度最高的候选日志数据作为相应目标日志数据。

可以理解的是，通过将相匹配的日志索引对应日志数据作为候选日志数据；根据所述候选日志数据中相匹配的日志索引，确定所述候选日志数据的匹配程度；将匹配程度较高(例如最高)的候选日志数据作为所述目标日志数据。上述方式使得在确定相应目标日志数据时，可以基于候选日志数据中相匹配的日志索引对该候选日志数据的匹配程度进行确定，并选取匹配程度较高的候选日志数据作为相应目标日志数据，从而避免了因未参考各候选日志数据的匹配程度，导致所确定的目标日志数据不够精确的情况发生，进而有助于提高相应目标日志数据确定时的准确率。

示例性地，根据所述候选日志数据中相匹配的日志索引，确定所述候选日志数据的匹配程度，可以包括：根据所述候选日志数据中匹配的日志索引数量和位置连续性，确定所述候选日志数据的匹配程度。

其中，位置连续性可以是各日志索引所处位置之间的连续程度。

具体地，可以基于设定规则，预先建立日志索引数量、位置连续性以及匹配程度之间的映射关系。其中，该设定规则可以是日志索引数量越多且位置连续性越强，则相应候选日志数据的匹配程度越高等，这里并不作具体限制。相应的，根据所确定的候选日志数据中匹配的日志索引数量和位置连续性，可以匹配对应的匹配程度，并将所匹配到的匹配程度作为该候选日志数据的匹配程度。

可以理解的是，通过根据所述候选日志数据中匹配的日志索引数量和位置连续性，确定所述候选日志数据的匹配程度，使得在确定相应候选日志数据的匹配程度的过程中，引入对相应日志索引数量和位置连续性的参考，从而避免了因未参考相应日志索引数量和位置联系性的导致的，所确定的匹配程度不够客观的情况发生，进而有助于提高相应匹配程度确定的准确度和可靠性。

本发明实施例通过查找与所述查询索引相匹配的至少一个日志索引，并根据匹配结果，从所述日志数据中选取目标日志数据，使得在选取相应目标日志数据的过程中，能够以与查询索引相匹配的至少一个日志索引为参考依据，从而避免了因根据单一的日志索引确定相应目标日志数据时，所导致的目标日志数据不够准确的情况发生，进而有助于提高相应目标日志数据选取的准确性和可靠性。

实施例三

图3为本发明实施例三提供的一种数据处理方法的结构示意图，本实施例可适用于基于不同分词粒度的分词器对相应日志数据进行写入和查询的情况。该装置可采用软件和/或硬件的形式来实现，可配置于电子设备中。参考图3所示，该装置包括：

日志数据获取模块310，用于在进行数据写入时，获取日志数据；

日志索引获取模块320，用于根据写入分词器对所述日志数据进行分词，得到日志索引，并将所述日志索引和所述日志数据进行关联存储；

查询文本获取模块330，用于在进行数据查询时，获取查询文本；

查询索引获取模块340，用于根据查询分词器对所述查询文本进行分词，得到查询索引；其中，所述查询分词器的分词粒度粗于所述写入分词器的分词粒度；

目标日志数据选取模块350，用于根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据。

本发明实施例通过在进行数据写入时，获取日志数据；根据写入分词器对所述日志数据进行分词，得到日志索引，并将所述日志索引和所述日志数据进行关联存储；在进行数据查询时，获取查询文本；根据查询分词器对所述查询文本进行分词，得到查询索引；其中，所述查询分词器的分词粒度粗于所述写入分词器的分词粒度；根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据。上述技术方案中所采用的查询分词器的分词粒度粗于写入分词器的分词粒度，从而使得在对相应日志数据进行查询的过程中，相应查询索引能够匹配到精细程度更高的查询索引，避免了因查询分词器和写入分词器的分词粒度相同，而造成的仅能获取到与查询索引精细程度相同的日志索引的情况发生，进而有效提高了所确定目标日志数据的准确度，同时有助于提高相应目标日志数据确定的效率。

可选的，目标日志数据选取模块350，可以包括：

目标日志数据选取单元，用于查找与所述查询索引相匹配的至少一个日志索引，并根据匹配结果，从所述日志数据中选取目标日志数据。

可选的，目标日志数据选取单元，可以包括：

查询字获取子单元，用于对所述查询索引进行拆分，得到至少一个查询字；

日志索引查找子单元，用于别查找与各所述查询字相匹配的日志索引；

目标日志数据选取子单元，用于从相匹配的日志索引对应日志数据中，选取所述目标日志数据。

可选的，目标日志数据选取子单元，可以包括：

候选日志数据确定次单元，用于将相匹配的日志索引对应日志数据作为候选日志数据；

匹配程度确定次单元，用于根据所述候选日志数据中相匹配的日志索引，确定所述候选日志数据的匹配程度；

目标日志数据确定次单元，用于将匹配程度最高的候选日志数据作为所述目标日志数据。

可选的，匹配程度确定次单元，具体可以用于：根据所述候选日志数据中匹配的日志索引数量和位置连续性，确定所述候选日志数据的匹配程度。

可选的，日志索引获取模块320，可以包括：

日志数据更新单元，用于过滤所述日志数据中的无效字符，以更新所述日志数据；

日志索引获取单元，用于根据所述写入分词器对更新后的日志数据进行分词，得到所述日志索引。

可选的，查询索引获取模块340，可以包括：

查询索引获取单元，用于若所述查询文本为中文，则基于条件随机场算法对所述查询文本进行分词，得到所述查询索引。

本发明实施例所提供的数据处理装置可以执行本发明实施例所提供的任意一种数据处理方法，具体执行各数据处理方法相应的功能模块和有益效果。本发明实施例未详尽描述的内容可以参考本发明其他实施例中任意一种数据处理方法中的描述。

实施例四

图4示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。

如图4所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。

电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如数据处理方法。

在一些实施例中，数据处理方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时，可以执行上文描述的数据处理方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行数据处理方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种数据处理方法，其特征在于，包括：

在进行数据写入时，获取日志数据；

根据写入分词器对所述日志数据进行分词，得到日志索引，并将所述日志索引和所述日志数据进行关联存储；

在进行数据查询时，获取查询文本；

根据查询分词器对所述查询文本进行分词，得到查询索引；其中，所述查询分词器的分词粒度粗于所述写入分词器的分词粒度；

根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据。

2.根据权利要求1所述的方法，其特征在于，所述根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据，包括：

查找与所述查询索引相匹配的至少一个日志索引，并根据匹配结果，从所述日志数据中选取目标日志数据。

3.根据权利要求2所述的方法，其特征在于，所述查找与所述查询索引相匹配的至少一个日志索引，并根据匹配结果，从所述日志数据中选取目标日志数据，包括：

对所述查询索引进行拆分，得到至少一个查询字；

分别查找与各所述查询字相匹配的日志索引；

从相匹配的日志索引对应日志数据中，选取所述目标日志数据。

4.根据权利要求3所述的方法，其特征在于，所述从相匹配的日志索引对应日志数据中，选取所述目标日志数据，包括：

将相匹配的日志索引对应日志数据作为候选日志数据；

根据所述候选日志数据中相匹配的日志索引，确定所述候选日志数据的匹配程度；

将匹配程度最高的候选日志数据作为所述目标日志数据。

5.根据权利要求4所述的方法，其特征在于，所述根据所述候选日志数据中相匹配的日志索引，确定所述候选日志数据的匹配程度，包括：

根据所述候选日志数据中匹配的日志索引数量和位置连续性，确定所述候选日志数据的匹配程度。

6.根据权利要求1-5任一项所述的方法，其特征在于，所述根据写入分词器对所述日志数据进行分词，得到日志索引，包括：

过滤所述日志数据中的无效字符，以更新所述日志数据；

根据所述写入分词器对更新后的日志数据进行分词，得到所述日志索引。

7.根据权利要求1-5任一项所述的方法，其特征在于，所述根据查询分词器对所述查询文本进行分词，得到查询索引，包括：

若所述查询文本为中文，则基于条件随机场算法对所述查询文本进行分词，得到所述查询索引。

8.一种数据处理装置，其特征在于，包括：

日志数据获取模块，用于在进行数据写入时，获取日志数据；

日志索引获取模块，用于根据写入分词器对所述日志数据进行分词，得到日志索引，并将所述日志索引和所述日志数据进行关联存储；

查询文本获取模块，用于在进行数据查询时，获取查询文本；

查询索引获取模块，用于根据查询分词器对所述查询文本进行分词，得到查询索引；其中，所述查询分词器的分词粒度粗于所述写入分词器的分词粒度；

目标日志数据选取模块，用于根据所述查询索引与所述日志索引的匹配结果，从所述日志数据中选取目标日志数据。

9.一种电子设备，其特征在于，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的数据处理方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的数据处理方法。

Images