CN115292008A - 用于分布式系统的事务处理方法、装置、设备及介质 - Google Patents

用于分布式系统的事务处理方法、装置、设备及介质 Download PDF

Info

Publication number
CN115292008A
CN115292008A CN202210949553.6A CN202210949553A CN115292008A CN 115292008 A CN115292008 A CN 115292008A CN 202210949553 A CN202210949553 A CN 202210949553A CN 115292008 A CN115292008 A CN 115292008A
Authority
CN
China
Prior art keywords
transaction
target
server
keywords
keyword
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210949553.6A
Other languages
English (en)
Inventor
陈锋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Life Insurance Company of China Ltd
Original Assignee
Ping An Life Insurance Company of China Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Life Insurance Company of China Ltd filed Critical Ping An Life Insurance Company of China Ltd
Priority to CN202210949553.6A priority Critical patent/CN115292008A/zh
Publication of CN115292008A publication Critical patent/CN115292008A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/466—Transaction processing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/284—Lexical analysis, e.g. tokenisation or collocates
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/465—Distributed object oriented systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals

Abstract

本发明涉及计算机及网络技术领域，尤其涉及一种用于分布式系统的事务处理方法、装置、设备及介质。该方法对待处理事务请求进行关键词分析以确定关键词，将关键词通过映射表映射得到事务类别，将关键词与事务类别关键词集合进行比对，确定目标事务类别，进而确定目标处理模型，若分布式系统中不存在已加载目标处理模型的服务器，则从分布式系统中任选一空闲服务器为目标服务器，调用目标服务器预加载目标处理模型，将待处理事务请求发送至目标服务器，得到事务处理结果，在分布式系统中对待处理事务请求进行动态分配，避免频繁切换处理模型，且对处理模型进行预加载，缩减了冗余等待时长，提高了事务处理效率。

Description

用于分布式系统的事务处理方法、装置、设备及介质
技术领域
本发明涉及计算机及网络技术领域，尤其涉及一种用于分布式系统的事务处理方法、装置、设备及介质。
背景技术
目前，服务器处理事务通常需要经历完整的处理周期，以语义分析事务为例，需要经历预处理、光符字符识别和自然语言处理三个阶段，其中，光符字符识别通过识别模型实现，自然语言处理通过语言模型实现，在此将识别模型和语言模型统称为处理模型。而服务器处理事务的能力通常采用TPS来描述，TPS(Transactions Per Second)为服务器每秒处理的事务数。
但是，为了保证事务处理速度，处理模型通常是轻量级的，也即针对于具体事务的类型，有对应事务类型的处理模型，因此不同类型的事务需要采用不同的处理模型，在分布式、高并发的事务处理场景下，多类型的事务请求导致服务器在处理时需要频繁切换处理模型，进而导致事务处理效率较低，因此，如何提高分布式场景下的事务处理效率成为了亟需解决的问题。
发明内容
有鉴于此，本发明实施例提供了一种用于分布式系统的事务处理方法、装置、设备及介质，以解决分布式场景下的事务处理效率较低的问题。
第一方面，本发明实施例提供一种用于分布式系统的事务处理方法，所述事务处理方法包括：
对获取的待处理事务请求进行关键词分析，确定N个关键词，N为大于零的整数；
将所述N个关键词分别通过预设的映射表进行映射，确定对应关键词的事务类别，所述映射表包括事务类别与关键词的映射关系；
将所有关键词与预设的至少一组事务类别关键词集合进行比对，根据比对结果确定所述待处理事务请求所属的目标事务类别；
根据所述目标事务类别，确定对应目标事务类别的目标处理模型，检测所述分布式系统中是否存在已加载所述目标处理模型的服务器；
若所述分布式系统中不存在已加载所述目标处理模型的服务器，则从所述分布式系统中任意选取一空闲服务器为目标服务器，并调用所述目标服务器预加载所述目标处理模型；
在所述目标处理模型预加载完成后，将所述待处理事务请求发送至已完成预加载的目标服务器，得到事务处理结果。
第二方面，本发明实施例提供一种用于分布式系统的事务处理装置，所述事务处理装置包括：
关键词分析模块，用于对获取的待处理事务请求进行关键词分析，确定N个关键词，N为大于零的整数；
类别映射模块，用于将所述N个关键词分别通过预设的映射表进行映射，确定对应关键词的事务类别，所述映射表包括事务类别与关键词的映射关系；
关键词比对模块，用于将所有关键词与预设的至少一组事务类别关键词集合进行比对，根据比对结果确定所述待处理事务请求所属的目标事务类别；
模型检测模块，用于根据所述目标事务类别，确定对应目标事务类别的目标处理模型，检测所述分布式系统中是否存在已加载所述目标处理模型的服务器；
预加载模块，用于若所述分布式系统中不存在已加载所述目标处理模型的服务器，则从所述分布式系统中任意选取一空闲服务器为目标服务器，并调用所述目标服务器预加载所述目标处理模型；
事务处理模块，用于在所述目标处理模型预加载完成后，将所述待处理事务请求发送至已完成预加载的目标服务器，得到事务处理结果。
第三方面，本发明实施例提供一种计算机设备，所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第一方面所述的事务处理方法。
第四方面，本发明实施例提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第一方面所述的事务处理方法。
本发明实施例与现有技术相比存在的有益效果是：
对获取的待处理事务请求进行关键词分析，确定N个关键词，将N个关键词分别通过预设的映射表进行映射，确定对应关键词的事务类别，将所有关键词与预设的至少一组事务类别关键词集合进行比对，根据比对结果确定待处理事务请求所属的目标事务类别，根据目标事务类别，确定对应目标事务类别的目标处理模型，检测分布式系统中是否存在已加载目标处理模型的服务器，若分布式系统中不存在已加载目标处理模型的服务器，则从分布式系统中任意选取一空闲服务器为目标服务器，并调用目标服务器预加载目标处理模型，在目标处理模型预加载完成后，将待处理事务请求发送至已完成预加载的目标服务器，得到事务处理结果，基于分布式系统对待处理事务请求进行分配，避免单个服务器频繁切换处理模型，造成额外的时间消耗，从而提高了分布式系统的事务处理效率，且在需要加载处理模型时，对处理模型进行预加载，缩减了处理模型处理事务请求时的冗余等待时长，也有效提高了分布式系统的事务处理效率。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种用于分布式系统的事务处理方法的一应用环境示意图；
图2是本发明实施例一提供的一种用于分布式系统的事务处理方法的流程示意图；
图3是本发明实施例二提供的一种用于分布式系统的事务处理方法的流程示意图；
图4是本发明实施例三提供的一种用于分布式系统的事务处理装置的结构示意图；
图5是本发明实施例四提供的一种计算机设备的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。
应当理解，当在本发明说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本发明说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外，在本发明说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
在本发明说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本发明的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
应理解，以下实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。
为了说明本发明的技术方案，下面通过具体实施例来进行说明。
本发明实施例一提供的一种方法，可应用在如图1的应用环境中，其中，本地客户端与分布式服务端进行通信。其中，本地客户端包括但不限于掌上电脑、桌上型计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer，UMPC)、上网本、云端终端设备、个人数字助理(personal digital assistant，PDA)等计算机设备。分布式服务端可以用多个服务器组成的服务器集群来实现。
参见图2，是本发明实施例一提供的一种用于分布式系统的事务处理方法的流程示意图，上述事务处理方法可以应用于图1中的本地客户端，本地客户端对应的计算机设备与分布式服务器通信，在本地客户端接收到待处理事务请求后，访问分布式服务器以获取各个分布式服务器的加载信息，本地客户端对应的计算机设备具备存储功能，存储有映射表和事务类别关键词集合，映射表可以用于将关键词映射为事务类别，事务类别关键词集合可以用于与关键词比对，确定目标事务类别。如图2所示，该事务处理方法可以包括以下步骤：
步骤S201，对获取的待处理事务请求进行关键词分析，确定N个关键词。
其中，待处理事务请求可以是指本地客户端接收到的请求报文，请求报文可以包括请求的方法、协议、头部和请求数据，关键词可以是指请求数据中能够表示请求内容的词语，N为大于零的整数。
具体地，关键词分析可以是指通过预设的关键词词库对请求数据进行对比查找，从请求数据中提取出存在于关键词词库的关键词，关键词词库可以包括若干个关键词，针对任一关键词，在请求数据中进行查找，若查找结果为请求数据中包含该关键词，则保留该关键词，若查找结果为请求数据中不包含该关键词，则筛除该关键词，得到N个保留的关键词。
上述对获取的待处理事务请求进行关键词分析，确定N个关键词的步骤，从待处理事务请求分析出关键词，便于根据关键词确定待处理事务请求的事务类别，避免了后续需要对待处理事务请求中干扰词语或者通用词语进行分析，有效提高了待处理事务请求的事务类别确定过程的效率，从而提高了事务处理效率。
步骤S202，将N个关键词分别通过预设的映射表进行映射，确定对应关键词的事务类别。
其中，映射表包括事务类别与关键词的映射关系，在本实施例中，事务处理可以是指文本信息提取，相应地，事务类别可以是指文本信息所属的语义类别。
具体地，语义类别可以包括国际、体育、社会等类别，实施者可参照现有的文本分类数据集的标签数据进行语义类别的划分，现有数据集可以选用如THUCNews数据集、SogouCA数据集、Datahub数据集等。
在映射表中的映射方式为{x1,x2,…,xw}→y，其中，x可以是指关键词，y可以是指事务类别，即多个关键词可被映射为同一事务类别。
上述将N个关键词分别通过预设的映射表进行映射，确定对应关键词的事务类别的步骤，通过映射表获取关键词的事务类别，处理效率快且获取结果准确，便于后续进行目标事务类别的分析和确定，从而有效提高了事务处理效率。
步骤S203，将所有关键词与预设的至少一组事务类别关键词集合进行比对，根据比对结果确定待处理事务请求所属的目标事务类别。
其中，事务类别关键词集合可以是指由属于同一事务类别的关键词组成的集合，目标事务类别可以是指待处理事务请求所属的事务类别。
具体地，根据各个关键词的映射结果得到若干个事务类别，每个事务类别对应于事务类别关键词集合，由于同一请求数据中所包含的关键词可能存在对应不同事务类别的情况，因此需要确定请求数据所属的事务类别。
需要说明的是，映射表所包含的映射关系并不完备，即可能有关键词未属于任一映射关系的情况，因此，在确定请求数据所属的事务类别后，可以根据请求数据所属的事务类别与请求数据包含的关键词构建映射关系，对映射表进行更新。
在本实施例中，对各个事务类别映射的关键词数量进行统计，确定统计量最大的事务类别为目标事务类别。
可选的是，事务类别关键词集合包括至少一个存储关键词；
将所有关键词与预设的至少一组事务类别关键词集合进行比对包括：
针对任一关键词，计算关键词与任一存储关键词的距离，得到距离计算结果；
检测距离计算结果是否小于预设的距离阈值，若距离计算结果小于距离阈值，则确定关键词与存储关键词的比对结果一致。
其中，存储关键词可以是指事务类别关键词集合中的元素，距离可以用于表征关键词与存储关键词之间的相似程度，距离阈值可以用于判断关键词与存储关键词是否为同一词语。
具体地，关键词可以视作由字符组成的字符串，在计算距离时需要将关键词与存储关键词扩张至相同尺寸，也即字符串包含的字符数量相同，可以通过字符统计函数分别获取关键词与存储关键词的字符串长度，字符统计函数可以是指len()函数，并确定其中最大的字符串长度为需要扩张到的尺寸，距离阈值在本实施例中设置为0.5。
对比每个位置的关键词字符和存储关键词字符，若字符一致，对比结果为0，否则对比结果为1，则距离计算公式为：
Figure BDA0003788708150000081
其中，D可以是指关键词和存储关键词的距离计算结果，G可以是指扩张到的尺寸中的字符数量，sg可以是指第g个位置关键词字符和存储关键词字符的比对结果。
本实施例通过字符对比计算关键词与存储关键词的距离，避免相近关键词无法准确匹配，从而提高了关键词比对的准确率。
上述将所有关键词与预设的至少一组事务类别关键词集合进行比对，根据比对结果确定待处理事务请求所属的目标事务类别的步骤，通过比对分析确定目标事务类别，避免所确定目标事务类别不准确的情况，提高了事务处理的准确率。
步骤S204，根据目标事务类别，确定对应目标事务类别的目标处理模型，检测分布式系统中是否存在已加载目标处理模型的服务器。
其中，目标处理模型可以是指根据目标事务类别下的训练样本训练得到的处理模型，也即目标处理模型仅在对目标事务类别下的待处理事务请求进行处理时，能够得到准确的事务处理结果。
分布式系统可以是指分布式服务器，分布式服务器由若干个独立服务器集群组成。
具体地，由于待处理事务请求对应文本的多样性和复杂性，采用泛化性强的处理模型不可避免地会丢失一定的精度，也即当处理模型能够处理多事务类别的待处理事务请求时，该处理模型的事务处理结果准确率将会较低，因此，为了保证事务处理的准确率，需要训练多个处理模型以针对不同的事务类别下的待处理事务请求。
而模型的运行需要进行预加载，在多个处理模型的应用场景下，接收到的待处理事务请求并非固定属于某一事务类别，因此，采用独立服务器进行事务处理时，需要频繁的预加载处理模型并注销，极大降低了事务处理效率。
在分布式系统中，各独立服务器之间能够进行通信，进而可以将本地客户端接收的待处理事务请求分配到已加载对应待处理事务请求事务类别的目标处理模型的服务器上，从而尽可能减少模型预加载和注销的损耗，提高事务处理效率。
可选的是，在检测分布式系统中是否存在已加载目标处理模型的服务器之后，还包括：
若检测分布式系统中存在已加载目标处理模型的服务器，则确定已加载目标处理模型的服务器为目标服务器；
将待处理事务请求发送至目标服务器，得到事务处理结果。
其中，目标服务器可以是指将进行待处理事务请求的服务器，在本实施例中，事务请求可以是指语义提取，相应地，事务处理结果可以是指语义提取结果。
具体地，在检测到已加载目标处理模型的服务器后，实施者可以读取该服务器的待处理事务请求队列，在待处理事务请求队列中的待处理事务请求数量小于预设的数量阈值时，将该服务器确定为目标服务器，从而避免该服务器的待处理事务请求队列过长导致当前待处理事务请求难以被及时处理，在本实施例中，数量阈值预设为8，实施者可根据实际当前待处理事务请求的处理时长限制、分布式系统中各服务器的平均待处理事务请求队列长度调整该数量阈值，例如，实际当前待处理事务请求的处理时长限制越短，则数量阈值越小，分布式系统中各服务器的平均待处理事务请求队列长度越短，则数量阈值越小。
需要说明的是，在检测到多个已加载目标处理模型的服务器时，确定满足上述待处理事务请求队列中的待处理事务请求数量小于预设的数量阈值条件且待处理事务请求队列最短的服务器作为目标服务器。
本实施例从分布式系统中查询已加载目标处理模型的服务器，对待处理事务请求进行动态分配，从而尽可能减少目标处理模型的预加载过程，提高分布式系统的事务处理效率。
上述根据目标事务类别，确定对应目标事务类别的目标处理模型，检测分布式系统中是否存在已加载目标处理模型的服务器的步骤，根据目标事务类别，确定目标处理模型，进而能够针对性地在分布式系统中各服务器进行目标处理模型的查询，避免频繁的预加载处理模型，提高分布式系统的整体事务处理效率。
步骤S205，若分布式系统中不存在已加载目标处理模型的服务器，则从分布式系统中任意选取一空闲服务器为目标服务器，并调用目标服务器预加载目标处理模型。
其中，空闲服务器可以是指未加载任何处理模型的服务器，预加载可以是指将训练好的目标处理模型的参数加载至服务器内。
可选的是，目标处理模型包括目标识别模型和目标语言模型；
调用目标服务器预加载目标处理模型包括：
根据待处理事务请求发送给目标服务器的请求时间戳，启动目标识别模型的预加载过程；
根据获取的目标语言模型的历史平均加载时长和请求时间戳，确定目标语言模型的预加载时间戳，在当前时间戳与预加载时间戳一致时，启动目标语言模型的预加载过程。
其中，目标识别模型可以用于对事务处理内容进行文本识别，得到文本识别结果，目标语言模型可以用于对文本识别结果进行语义提取，得到语义提取结果。
请求时间戳可以是指目标服务器接收到待处理事务请求的时间戳，历史平均加载时长可以是指目标语言模型在历史多次预加载过程耗时的均值，预加载时间戳可以是指确定的目标语言模型开始进行预加载的时间戳，当前时间戳可以是指获取的当前时刻的时间戳。
具体地，确定请求时间戳和历史平均加载时长之和为预加载时间戳，从而最大限度地保证待处理事务请求经目标识别模型处理后，以最短时间间隔进行目标语言模型的处理。
本实施例在识别时间戳和预加载时间戳对目标处理模型中的目标识别模型和目标语言模型进行预加载，从而在节省冗余的模型加载等待时长的同时，降低服务器负载，提高事务处理效率。
上述若分布式系统中不存在已加载目标处理模型的服务器，则从分布式系统中任意选取一空闲服务器为目标服务器，并调用目标服务器预加载目标处理模型的步骤，对空闲服务器进行预加载，节省了处理模型运算过程中的冗余等待时长，提高了单待处理事务请求的处理效率，从而提高了分布式系统的事务处理效率。
步骤S206，在目标处理模型预加载完成后，将待处理事务请求发送至已完成预加载的目标服务器，得到事务处理结果。
其中，事务处理结果可以是指待处理事务请求对应的处理结果，在本实施例中，待处理事务处理请求为语义提取请求，相应地，事务处理结果为语义提取结果。
可选的是，在得到事务处理结果之后，还包括：
获取分布式系统的历史事务请求队列；
根据历史事务请求队列，通过训练好的时间卷积网络模型，得到待处理事务请求再次出现的预测概率；
检测预测概率是否满足预设条件，若预测概率满足预设条件，注销目标服务器。
其中，历史事务请求队列可以是指由分布式系统在历史时间段内接收到的事务请求按照接收时间顺序排列得到的序列。时间卷积网络模型可以用于基于历史事务请求队列预测未来事务请求，需要说明的是，预测内容可以是指未来接收的待处理事务请求的事务类别。
预测概率可以是指目标事务类别在预设时间段内再次出现的概率，注销可以是指将所加载的目标处理模型参数删除，也即对服务器内的模型架构进行初始化。
具体地，任意选取一长度为L的样本事务请求队列，设置划窗长度为S，划窗步长设置为1，划窗起始位置位于样本事务请求队列的最左侧，采用划窗对样本事务请求队列进行截取，得到单个训练样本，训练样本对应的标签即为该训练样本最右侧样本事务请求的右侧一位样本事务请求，则按划窗步长将划窗从左至右滑动，可以得到L-S+1个训练样本及对应标签。
需要说明的是，上述样本事务请求队列中每个样本事务请求为事务类型，即时间卷积网络模型的输出端为分类层，在本实施例中，分类层采用全连接层结合归一化指数函数实现。
采用交叉熵损失作为时间卷积网络模型训练时的损失函数，根据分类层输出结果和标签计算交叉熵损失，以交叉熵损失为根据，采用梯度下降法更新时间卷积网络模型的参数，直至交叉熵损失收敛，得到训练好的时间卷积网络模型。
将历史事务请求队列输入训练好的时间卷积网络模型，同样以长度为S的划窗按照步长为1的方式进行滑动确定单次的输入量，例如，历史事务请求队列长度为l，则初始输入量对应于第l-S+1个到第l个事务请求，预测得到第l+1个事务请求，在得到第l+1个事务请求后，划窗向右滑动一个步长，则第二输入量对应于第l-S+2个到第l+1个事务请求，依次类推，直至得到第l+Q个事务请求，Q可以是指预设时间段的长度。
需要说明的是，实施者可以从任一历史事务请求开始进行输入量的提取，此时，以第l-S+1个事务请求之前的事务请求作为起始位置的输入量可以起到验证模型准确率的效果。
全连接层的输出结果为每个事务类别对应的置信度，事务类别的数量为C，例如，假设事务类别数量为3，则得到的输出结果为2,15,7，归一化指数函数的公式为：
Figure BDA0003788708150000131
其中，mc可以是指第c个事务类别的置信度，softmax(mc)可以是指第c个事务类别置信度的指数归一化结果。
将预设时间段内对应目标事务请求的置信度指数归一化结果进行均值计算，确定均值计算结果为待处理事务请求再次出现的预测概率。
本实施例通过时间卷积网络模型预测待处理事务请求再次出现的预测概率，进而确定是否将目标服务器注销，避免了在目标服务器注销后又再次接收到相同事务类别的待处理事务请求，从而需要再次加载目标处理模型，导致事务处理效率降低，能够有效提高分布式系统的事务处理效率。
可选的是，在检测预测概率是否满足预设条件之后，还包括：
若预测概率不满足预设条件，保留目标服务器内目标处理模型的预加载内容；
根据预加载内容生成预加载信息，并将预加载信息同步至分布式系统。
其中，预加载内容可以是指所加载的目标处理模型的参数，预加载信息可以是指服务器ID和已加载目标处理模型对应事务类别的对应关系。
具体地，目标服务器将预加载信息同步至分布式系统中的其他分布式服务器，即每个分布式服务器内均有实时的加载信息，同步也即信息传输的过程，为保证分布式服务器之间信息传输的安全，实施者可以采用非对称加密方式对加载信息进行传输。
本实施例将被保留的预加载目标处理模型信息发送至分布式系统，从而使客户端仅需访问一个分布式服务器即可获取到加载信息，有效节省了客户端获取信息的时间消耗，从而提高了分布式系统中事务处理的效率。
上述在目标处理模型预加载完成后，将待处理事务请求发送至已完成预加载的目标服务器，得到事务处理结果的步骤，采用预加载的目标处理模型直接对待处理事务请求进行处理，在处理过程中无需进行模型加载，从而有效提高了事务处理效率。
参见图3，是本发明实施例二提供的一种基于人工智能的事务处理方法的流程示意图，该事务处理方法中，目标事务类别的确定方式可以是通过对每个事务类别的关键词统计，并确定统计量最大的事务类别为目标事务类别，也可以是通过对每个事务类别的关键词占比进行计算，确定满足预设条件的事务类别为目标事务类别。
通过对每个事务类别的关键词统计，并确定统计量最大的事务类别为目标事务类别的过程，可参见实施例一，在此不再赘述。
通过对每个事务类别的关键词占比进行计算时，比对结果包括比对结果一致，确定满足预设条件的事务类别为目标事务类别的过程包括：
步骤S301，针对任一事务类别关键词集合，将与每个关键词比对结果一致的事务类别关键词集合内的预设关键词保留，得到K个参考关键词；
步骤S302，计算参考关键词组成的集合与事务类别关键词集合的交集；
步骤S303，统计交集内参考关键词的数量，并计算统计结果与K的比值，若比值大于预设的比值阈值，则确定对应事务类别关键词集合的事务类别为目标事务类别。
其中，K为大于零的整数，事务类别关键词集合包含至少一个预设关键词，参考关键词可以是指与关键词比对结果一致的预设关键词。
参考关键词组成的集合可以是指以参考关键词为元素的词集合，交集可以是指参考关键词组成的集合与事务类别关键词集合之间的重复元素。
统计结果与K的比值可以表征每个事务类别的关键词占比，比值阈值可以是指用于判断参考关键词是否能够对应于一事务类别，在本实施例中，比值阈值设置为0.6。
具体地，预设的比值阈值可以包括第一比值阈值和第二比值阈值，第一比值阈值可以用于判断参考关键词是否能够对应于一事务类别，而第二比值阈值可以用于判断对应结果是否能够用于扩张映射表，例如，第一比值阈值可以设置为0.6，当统计结果与K的比值大于0.6时，说明较多参考关键词同属于一事务类别，则大概率可以将待处理事务请求作为该事务类别进行处理，第二比值阈值可以设置为0.9，当统计结果与K的比值大于0.9时，说明几乎全部参考关键词都同属于一事务类别，则可以确定待处理事务请求为该事务类别，此时若统计结果与K的比值不为1，则说明可以根据关键词与该事务类别构建映射关系，并扩充至映射表，以提高后续目标事务类别确定的准确率。
本实施例通过事务类别的关键词占比确定目标事务类别，避免将较复杂的文本对应到不适配的事务类别，避免无效处理，确保所分配目标事务类别的准确性，同时有助于为映射表的扩充提供参考。
对应于上文实施例的基于人工智能的事务处理方法，图4示出了本发明实施例三提供的基于人工智能的事务处理装置的结构框图，上述事务处理装置应用于本地客户端，本地客户端对应的计算机设备与分布式服务器通信，在本地客户端接收到待处理事务请求后，访问分布式服务器以获取各个分布式服务器的加载信息，本地客户端对应的计算机设备具备存储功能，存储有映射表和事务类别关键词集合，映射表可以用于将关键词映射为事务类别，事务类别关键词集合可以用于与关键词比对，确定目标事务类别。为了便于说明，仅示出了与本发明实施例相关的部分。
参见图4，该事务处理装置包括：
关键词分析模块41，用于对获取的待处理事务请求进行关键词分析，确定N个关键词，N为大于零的整数；
类别映射模块42，用于将N个关键词分别通过预设的映射表进行映射，确定对应关键词的事务类别，映射表包括事务类别与关键词的映射关系；
关键词比对模块43，用于将所有关键词与预设的至少一组事务类别关键词集合进行比对，根据比对结果确定待处理事务请求所属的目标事务类别；
模型检测模块44，用于根据目标事务类别，确定对应目标事务类别的目标处理模型，检测分布式系统中是否存在已加载目标处理模型的服务器；
预加载模块45，用于若分布式系统中不存在已加载目标处理模型的服务器，则从分布式系统中任意选取一空闲服务器为目标服务器，并调用目标服务器预加载目标处理模型；
事务处理模块46，用于在目标处理模型预加载完成后，将待处理事务请求发送至已完成预加载的目标服务器，得到事务处理结果。
可选的是，事务类别关键词集合包括至少一个存储关键词；
上述关键词比对模块43包括：
距离计算单元，用于针对任一关键词，计算关键词与任一存储关键词的欧式距离，得到距离计算结果；
距离比对单元，用于检测距离计算结果是否小于预设的距离阈值，若距离计算结果小于距离阈值，则确定关键词与存储关键词的比对结果一致。
可选的是，比对结果包括比对结果一致；
上述关键词比对模块43包括：
关键词筛选单元，用于针对任一事务类别关键词集合，将与每个关键词比对结果一致的事务类别关键词集合内的预设关键词保留，得到K个参考关键词，K为大于零的整数；
交集计算单元，用于计算参考关键词组成的集合与事务类别关键词集合的交集；
比值比对单元，用于统计交集内参考关键词的数量，并计算统计结果与K的比值，若比值大于预设的比值阈值，则确定对应事务类别关键词集合的事务类别为目标事务类别。
可选的是，上述事务处理装置还包括：
服务器确定模块，用于若检测分布式系统中存在已加载目标处理模型的服务器，则确定已加载目标处理模型的服务器为目标服务器；
请求处理模块，用于将待处理事务请求发送至目标服务器，得到事务处理结果。
可选的是，目标处理模型包括目标识别模型和目标语言模型；
上述预加载模块45包括：
识别预加载单元，用于根据待处理事务请求发送给目标服务器的请求时间戳，启动目标识别模型的预加载过程；
语言预加载单元，用于根据获取的目标语言模型的历史平均加载时长和请求时间戳，确定目标语言模型的预加载时间戳，在当前时间戳与预加载时间戳一致时，启动目标语言模型的预加载过程。
可选的是，上述事务处理装置还包括：
队列获取模块，用于获取分布式系统的历史事务请求队列；
概率预测模块，用于根据历史事务请求队列，通过训练好的时间卷积网络模型，得到待处理事务请求再次出现的预测概率；
服务器注销模块，用于检测预测概率是否满足预设条件，若预测概率满足预设条件，注销目标服务器。
可选的是，上述事务处理装置还包括：
内容保留模块，用于若预测概率不满足预设条件，保留目标服务器内目标处理模型的预加载内容；
信息同步模块，用于根据预加载内容生成预加载信息，并将预加载信息同步至分布式系统。
需要说明的是，上述模块、单元之间的信息交互、执行过程等内容，由于与本发明方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
图5为本发明实施例四提供的一种计算机设备的结构示意图。如图5所示，该实施例的计算机设备包括：至少一个处理器(图5中仅示出一个)、存储器以及存储在存储器中并可在至少一个处理器上运行的计算机程序，处理器执行计算机程序时实现上述任意各个事务处理方法实施例中的步骤。
该计算机设备可包括，但不仅限于，处理器、存储器。本领域技术人员可以理解，图5仅仅是计算机设备的举例，并不构成对计算机设备的限定，计算机设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如还可以包括网络接口、显示屏和输入装置等。
所称处理器可以是CPU，该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific IntegratedCircuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器包括可读存储介质、内存储器等，其中，内存储器可以是计算机设备的内存，内存储器为可读存储介质中的操作系统和计算机可读指令的运行提供环境。可读存储介质可以是计算机设备的硬盘，在另一些实施例中也可以是计算机设备的外部存储设备，例如，计算机设备上配备的插接式硬盘、智能存储卡(Smart Media Card，SMC)、安全数字(Secure Digital，SD)卡、闪存卡(Flash Card)等。进一步地，存储器还可以既包括计算机设备的内部存储单元也包括外部存储设备。存储器用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等，该其他程序如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。上述装置中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关的硬件来完成，计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述方法实施例的步骤。其中，计算机程序包括计算机程序代码，计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括：能够携带计算机程序代码的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区，根据立法和专利实践，计算机可读介质不可以是电载波信号和电信信号。
本发明实现上述实施例方法中的全部或部分流程，也可以通过一种计算机程序产品来完成，当计算机程序产品在计算机设备上运行时，使得计算机设备执行时实现可实现上述方法实施例中的步骤。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中，应该理解到，所揭露的装置/计算机设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/计算机设备实施例仅仅是示意性的，例如，模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

Claims (10)

1.一种用于分布式系统的事务处理方法，其特征在于，所述方法包括：
对获取的待处理事务请求进行关键词分析，确定N个关键词，N为大于零的整数；
将所述N个关键词分别通过预设的映射表进行映射，确定对应关键词的事务类别，所述映射表包括事务类别与关键词的映射关系；
将所有关键词与预设的至少一组事务类别关键词集合进行比对，根据比对结果确定所述待处理事务请求所属的目标事务类别；
根据所述目标事务类别，确定对应目标事务类别的目标处理模型，检测所述分布式系统中是否存在已加载所述目标处理模型的服务器；
若所述分布式系统中不存在已加载所述目标处理模型的服务器，则从所述分布式系统中任意选取一空闲服务器为目标服务器，并调用所述目标服务器预加载所述目标处理模型；
在所述目标处理模型预加载完成后，将所述待处理事务请求发送至已完成预加载的目标服务器，得到事务处理结果。
2.根据权利要求1所述的事务处理方法，其特征在于，所述事务类别关键词集合包括至少一个存储关键词；
所述将所有关键词与预设的至少一组事务类别关键词集合进行比对包括：
针对任一关键词，计算所述关键词与任一存储关键词的距离，得到距离计算结果；
检测所述距离计算结果是否小于预设的距离阈值，若所述距离计算结果小于距离阈值，则确定所述关键词与所述存储关键词的比对结果一致。
3.根据权利要求1所述的事务处理方法，其特征在于，所述比对结果包括比对结果一致；
所述根据比对结果确定所述待处理事务请求所属的目标事务类别包括：
针对任一事务类别关键词集合，将与每个关键词比对结果一致的所述事务类别关键词集合内的预设关键词保留，得到K个参考关键词，K为大于零的整数；
计算参考关键词组成的集合与所述事务类别关键词集合的交集；
统计交集内参考关键词的数量，并计算统计结果与K的比值，若所述比值大于预设的比值阈值，则确定对应所述事务类别关键词集合的事务类别为目标事务类别。
4.根据权利要求1所述的事务处理方法，其特征在于，在所述检测所述分布式系统中是否存在已加载所述目标处理模型的服务器之后，还包括：
若所述检测分布式系统中存在已加载所述目标处理模型的服务器，则确定已加载所述目标处理模型的服务器为目标服务器；
将所述待处理事务请求发送至所述目标服务器，得到事务处理结果。
5.根据权利要求4所述的事务处理方法，其特征在于，所述目标处理模型包括目标识别模型和目标语言模型；
所述调用所述目标服务器预加载所述目标处理模型包括：
根据所述待处理事务请求发送给所述目标服务器的请求时间戳，启动所述目标识别模型的预加载过程；
根据获取的所述目标语言模型的历史平均加载时长和所述请求时间戳，确定所述目标识别模型的预加载时间戳，在当前时间戳与所述预加载时间戳一致时，启动所述目标识别模型的预加载过程。
6.根据权利要求1至5任一项所述的事务处理方法，其特征在于，在所述得到事务处理结果之后，还包括：
获取所述分布式系统的历史事务请求队列；
根据所述历史事务请求队列，通过训练好的时间卷积网络模型，得到所述待处理事务请求再次出现的预测概率；
检测所述预测概率是否满足预设条件，若所述预测概率满足所述预设条件，注销所述目标服务器。
7.根据权利要求6所述的事务处理方法，其特征在于，在所述检测所述预测概率是否满足预设条件之后，还包括：
若所述预测概率不满足所述预设条件，保留所述目标服务器内所述目标处理模型的预加载内容；
根据所述预加载内容生成预加载信息，并将所述预加载信息同步至所述分布式系统。
8.一种用于分布式系统的事务处理装置，其特征在于，所述事务处理装置包括：
关键词分析模块，用于对获取的待处理事务请求进行关键词分析，确定N个关键词，N为大于零的整数；
类别映射模块，用于将所述N个关键词分别通过预设的映射表进行映射，确定对应关键词的事务类别，所述映射表包括事务类别与关键词的映射关系；
关键词比对模块，用于将所有关键词与预设的至少一组事务类别关键词集合进行比对，根据比对结果确定所述待处理事务请求所属的目标事务类别；
模型检测模块，用于根据所述目标事务类别，确定对应目标事务类别的目标处理模型，检测所述分布式系统中是否存在已加载所述目标处理模型的服务器；
预加载模块，用于若所述分布式系统中不存在已加载所述目标处理模型的服务器，则从所述分布式系统中任意选取一空闲服务器为目标服务器，并调用所述目标服务器预加载所述目标处理模型；
事务处理模块，用于在所述目标处理模型预加载完成后，将所述待处理事务请求发送至已完成预加载的目标服务器，得到事务处理结果。
9.一种计算机设备，其特征在于，所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的事务处理方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的事务处理方法。
CN202210949553.6A 2022-08-09 2022-08-09 用于分布式系统的事务处理方法、装置、设备及介质 Pending CN115292008A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210949553.6A CN115292008A (zh) 2022-08-09 2022-08-09 用于分布式系统的事务处理方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210949553.6A CN115292008A (zh) 2022-08-09 2022-08-09 用于分布式系统的事务处理方法、装置、设备及介质

Publications (1)

Publication Number Publication Date
CN115292008A true CN115292008A (zh) 2022-11-04

Family

ID=83828061

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210949553.6A Pending CN115292008A (zh) 2022-08-09 2022-08-09 用于分布式系统的事务处理方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN115292008A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115695432A (zh) * 2023-01-04 2023-02-03 河北华通科技股份有限公司 一种负载均衡方法、装置、电子设备及存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115695432A (zh) * 2023-01-04 2023-02-03 河北华通科技股份有限公司 一种负载均衡方法、装置、电子设备及存储介质

Similar Documents

Publication Publication Date Title
CN107992596B (zh) 一种文本聚类方法、装置、服务器和存储介质
CN106897428B (zh) 文本分类特征提取方法、文本分类方法及装置
US11544459B2 (en) Method and apparatus for determining feature words and server
CN107038157B (zh) 基于人工智能的识别错误发现方法、装置及存储介质
CN110276023B (zh) Poi变迁事件发现方法、装置、计算设备和介质
CN111352907A (zh) 流水文件解析方法、装置、计算机设备和存储介质
CN114416998A (zh) 文本标签的识别方法、装置、电子设备及存储介质
CN115392235A (zh) 字符匹配方法、装置、电子设备及可读存储介质
CN115292008A (zh) 用于分布式系统的事务处理方法、装置、设备及介质
CN112579781B (zh) 文本归类方法、装置、电子设备及介质
CN111738290B (zh) 图像检测方法、模型构建和训练方法、装置、设备和介质
CN116383412B (zh) 基于知识图谱的功能点扩增方法和系统
CN115858776A (zh) 一种变体文本分类识别方法、系统、存储介质和电子设备
CN115017256A (zh) 电力数据处理方法、装置、电子设备及存储介质
CN111444319B (zh) 文本匹配方法、装置和电子设备
CN114647727A (zh) 应用于实体信息识别的模型训练方法、装置和设备
CN113963197A (zh) 图像识别方法、装置、电子设备和可读存储介质
CN110059180B (zh) 文章作者身份识别及评估模型训练方法、装置及存储介质
CN110442714B (zh) Poi名称规范性评估方法、装置、设备和存储介质
CN112417310B (zh) 建立智能服务索引以及推荐智能服务的方法
CN114003630B (zh) 一种数据搜索方法、装置、电子设备及存储介质
CN111027994B (zh) 相似对象确定方法、装置、设备和介质
CN109086363B (zh) 文件信息维护度确定方法、装置及设备
CN113868365A (zh) 对抗样本的生成方法及装置、可读存储介质
CN116542237A (zh) 电子病历的文本关系提取方法、装置、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination