CN113656178B - 数据处理方法、装置、设备及可读存储介质 - Google Patents

数据处理方法、装置、设备及可读存储介质 Download PDF

Info

Publication number
CN113656178B
CN113656178B CN202110954593.5A CN202110954593A CN113656178B CN 113656178 B CN113656178 B CN 113656178B CN 202110954593 A CN202110954593 A CN 202110954593A CN 113656178 B CN113656178 B CN 113656178B
Authority
CN
China
Prior art keywords
task
preset
request
combined
tasks
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110954593.5A
Other languages
English (en)
Other versions
CN113656178A (zh
Inventor
申亚坤
刘烨敏
谭莹坤
周慧婷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bank of China Ltd
Original Assignee
Bank of China Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bank of China Ltd filed Critical Bank of China Ltd
Priority to CN202110954593.5A priority Critical patent/CN113656178B/zh
Publication of CN113656178A publication Critical patent/CN113656178A/zh
Application granted granted Critical
Publication of CN113656178B publication Critical patent/CN113656178B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061Partitioning or combining of resources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures

Abstract

本申请实施例提供了一种数据处理方法、装置、设备及可读存储介质,可应用于分布式领域或金融领域。本方法响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度,若待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将目标候选任务作为待合并任务的相似任务。响应于获取到待合并任务的请求结果,将请求结果发送至待合并任务的请求方以及相似任务的请求方。待合并任务和相似任务的请求相似度大于预设相似度阈值,将待合并任务的请求结果作为相似任务的请求结果准确性大,将请求结果发送至待合并任务的请求方以及相似任务的请求方,能够实现同时得到运行任务和至少一项等待任务的请求结果,由此降低响应时间,避免高时延。

Description

数据处理方法、装置、设备及可读存储介质
技术领域
本申请涉及数据处理技术领域,尤其涉及一种数据处理方法、装置、设备及可读存储介质。
背景技术
目前,企业级知识库的知识存储量日益增加,并且越来越多的系统接入知识库并通过与知识库通信实现知识检索、知识管理、以及知识推荐等功能,因此,现有的知识库面临请求高并发的问题,知识库的响应时间则因此增长,响应时间的增长将不可避免的导致知识库反馈信息的高延迟。
发明内容
本申请提供了一种数据处理方法、装置、设备及可读存储介质,目的在于降低响应时间,如下:
一种数据处理方法,包括:
响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度,所述待合并任务为第一预设队列中的任意一项运行任务;所述候选任务为第二预设队列中的等待任务;所述达到预设处理时机包括:达到预设处理周期的开始时间;
若所述待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将所述目标候选任务作为所述待合并任务的相似任务,所述目标候选任务为任意一项所述候选任务;
响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方。
可选地,响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度之前,还包括:
将所述第二预设队列中的每一等待任务作为所述候选任务;
或者,
获取所述待合并任务的请求信息以及所述第二预设队列中的每一等待任务的请求信息,所述请求信息包括:请求时间以及预设属性标识,所述预设属性标识包括第一预设标识或第二预设标识;
将满足预设候选条件的至少一项等待任务作为所述候选任务,所述预设候选条件包括:请求时间与目标时间的时间间隔小于预设时间间隔,且所述预设属性标识为第一预设标识,所述目标时间为所述待合并任务的请求时间。
可选地,请求信息还包括:请求参数和资源地址;
获取所述待合并任务和所述目标候选任务的请求相似度,包括:
判断所述待合并任务的资源地址与所述目标候选任务的资源地址是否一致;
若所述待合并任务的资源地址与所述目标候选任务的资源地址不一致,将所述待合并任务和所述目标候选任务的请求相似度置为0;
若所述待合并任务的资源地址与所述目标候选任务的资源地址一致,获取所述待合并任务的请求参数与所述目标候选任务的请求参数的语义相似度,作为所述待合并任务和所述目标候选任务的请求相似度。
可选地,在所述响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方之后,还包括:
从所述第一预设队列中删除所述待合并任务,且从所述第二预设队列中删除所述相似任务。
可选地,还包括:
响应于接收到请求任务,判断所述第一预设队列中的运行任务的数量是否达到第一预设数量阈值;
若所述第一预设队列中的运行任务的数量没有达到所述第一预设数量阈值,将所述请求任务作为运行任务,加入所述第一预设队列;
若所述第一预设队列中的运行任务的数量达到所述第一预设数量阈值,判断所述第二预设队列中的等待任务的数量是否达到第二预设数量阈值;
若所述第二预设队列中的等待任务的数量没有达到所述第二预设数量阈值,将所述请求任务作为等待任务,加入所述第二预设队列;
若所述第二预设队列中的等待任务的数量达到所述第二预设数量阈值,发出预设指令,所述预设指令用于拒绝所述请求任务。
可选地,还包括:
监测所述第一预设队列中的每一运行任务的运行时间;
将运行时间超过预设运行时间阈值的运行任务作为超时任务;
从所述第一预设队列中删除所述超时任务,并发出预设超时指令。
可选地,还包括:
监测所述第一预设队列中的运行任务的数量;
响应于所述第一预设队列中的运行任务的数量低于所述第一预设数量阈值,获取目标任务,将所述目标任务移动至所述第一预设队列,所述目标任务包括所述第二预设队列中的序位前N的等待任务,所述N不大于数量差值,所述数量差值等于所述第一预设数量阈值减去所述第一预设队列中的运行任务的数量的差值。
一种数据处理装置,包括:
相似度计算单元,用于响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度,所述待合并任务为第一预设队列中的任意一项运行任务;所述候选任务为第二预设队列中的等待任务;所述达到预设处理时机包括:达到预设处理周期的开始时间;
任务合并单元,用于若所述待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将所述目标候选任务作为所述待合并任务的相似任务,所述目标候选任务为任意一项所述候选任务;
结果发送单元,用于响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方。
一种数据处理设备,包括:存储器和处理器;
所述存储器,用于存储程序;
所述处理器,用于执行所述程序,实现数据处理方法的各个步骤。
一种可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时,实现数据处理方法的各个步骤。
由上述技术方案可以看出,本申请实施例提供的数据处理方法、装置、设备及可读存储介质,响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度,若待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将目标候选任务作为待合并任务的相似任务。响应于获取到待合并任务的请求结果,将请求结果发送至待合并任务的请求方以及相似任务的请求方。由于,达到预设处理时机包括:达到预设处理周期的开始时间,待合并任务和相似任务的请求相似度大于预设相似度阈值,所以将待合并任务的请求结果作为相似任务的请求结果准确性大,又由于,待合并任务为第一预设队列中的任意一项运行任务,候选任务为第二预设队列中的等待任务,因此,将请求结果发送至待合并任务的请求方以及相似任务的请求方,能够实现同时得到运行任务和至少一项等待任务的请求结果,由此降低响应时间,避免高时延。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种数据处理方法的具体实施方式的流程示意图;
图2为本申请实施例提供的一种数据处理方法的流程示意图;
图3为本申请实施例提供的一种请求相似度的获取方法的流程示意图;
图4为本申请实施例提供的一种数据处理装置的结构示意图;
图5为本申请实施例提供的一种数据处理设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本实施例提供的一种数据处理方法,应用于但不限于对请求任务的处理流程,目的在于降低响应时间以降低时延。需要说明的是,在实际应用中,请求任务可以是面向任何数据库或者系统的任务,本实施例仅以面向知识库的请求任务的处理流程为例,对此不做限定。
需要说明的是,本发明提供的一种数据处理方法、装置、设备及可读存储介质可用于分布式领域或金融领域。上述仅为示例,并不对本发明提供的一种数据处理方法、装置、设备及可读存储介质的应用领域进行限定。
图1为本申请实施例提供的一种数据处理的方法的具体实现流程,如图1所示,本方法包括:
S101、响应于接收到请求任务,判断第一预设队列中的运行任务的数量是否达到第一预设数量阈值。
本实施例中,请求任务可以为任意一个请求方建立并发送的、用于请求数据的任务,第一预设队列为预先构建的服务队列,第一预设队列中包括多个正在执行的请求任务,也即运行任务。第一预设数量阈值为第一预设队列的最大容量,也即运行任务的最大并发量。
例如,第一预设数量阈值为200,表示第一预设队列最多容纳200个运行任务,也即,运行任务的最大并发量为200。
S102、若第一预设队列中的运行任务的数量没有达到第一预设数量阈值,将请求任务作为运行任务,加入第一预设队列。
具体的,将请求任务加入第一预设队列并记录请求任务的第一请求信息,第一请求信息包括:资源地址、端口号、请求参数、接口名称、请求时间、以及运行时间。
其中,运行时间为计时器的计时时间,当请求任务开始执行时,预设计时器开始从0计时。
S103、若第一预设队列中的运行任务的数量达到第一预设数量阈值,判断第二预设队列中的等待任务的数量是否达到第二预设数量阈值。
本实施例中,第二预设为预先构建的等待队列,第二预设队列中包括多个等待执行的请求任务,也即等待任务。第二预设数量阈值为第二预设队列的最大容量,也即等待任务的最大数量。
例如,第二预设数量阈值为1000,表示第二预设队列最多容纳1000个等待任务,也即,同时等待执行的任务的最大量为1000。
S104、若第二预设队列中的等待任务的数量没有达到第二预设数量阈值,将请求任务作为等待任务,加入第二预设队列。
具体的,将请求任务加入第一预设队列并记录请求任务的第二请求信息,第二请求信息包括资源地址、端口号、请求参数、接口名称、请求时间、预设属性标识,其中预设属性标识包括第一预设标识或第二预设标识。需要说明的是,将请求任务按照请求时间的先后,加入第二预设队列,也即,请求时间靠前的请求任务在第二预设队列中的序位靠前。
本实施例中,预设属性标识依据请求任务的任务属性配置,例如,任务属性包括实时性,当请求任务的实时性低,请求任务的预设属性标识包括第一预设标识,表示请求任务被预先配置为可以合并的任务,当请求任务的实时性高,请求任务的预设属性标识包括第二预设标识,表示请求任务被预先配置为不可以合并的任务。
S105、若第二预设队列中的等待任务的数量达到第二预设数量阈值,发出预设指令,预设指令用于拒绝请求任务。
S106、响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度。
本实施例中,待合并任务为第一预设队列中的任意一项运行任务,达到预设处理时机包括:达到预设处理周期的开始时间。待合并任务和候选任务的请求相似度指示待合并任务和候选任务被合并的概率,也即待合并任务和候选任务属于相同任务(也即请求结果相同)的概率。
例如,预设周期的时长依据任务的平均响应时间确定为10s,当达到预设周期的开始时刻,将任意一项运行任务作为待合并任务,依次获取待合并任务和每一候选任务的请求相似度。获取请求相似度的方法可以参见下述实施例。
本实施例中,候选任务为第二预设队列中的等待任务,可选的一种获取候选任务的方法包括:
1、获取待合并任务的请求信息以及第二预设队列中的每一等待任务的请求时间以及预设属性标识。
2、将满足预设候选条件的至少一项等待任务作为候选任务。
本实施例中,预设候选条件包括:请求时间与目标时间的时间间隔小于预设时间间隔,且预设属性标识为第一预设标识,目标时间为待合并任务的请求时间。
可以理解的是,将满足预设候选条件的等待任务作为候选任务,能够将不满足预设候选条件的等待任务预先筛除,也即筛除请求时间与目标时间不小于预设时间间隔的等待任务,以及被预先配置为不可合并的等待任务,可见,若不满足预设候选条件,等待任务与待合并任务请求结果相同的概率很低,本步骤通过预先获取候选任务,能够降低对计算资源的需求,提高请求相似度计算的准确性。
S107、若待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将目标候选任务作为待合并任务的相似任务。
本实施例中,将待合并任务与目标候选任务建立映射关系,具体的建立映射关系的方法包括多种,例如,为目标候选任务添加合并标签,该合并标签指示目标候选任务为待合并任务的相似任务。
S108、响应于获取到待合并任务的请求结果,将请求结果发送至待合并任务的请求方以及相似任务的请求方。
S109、从第一预设队列中删除待合并任务,且从第二预设队列中删除相似任务。
S110、将第二预设队列中,第一序位的等待任务作为运行任务加入第一预设队列。
本实施例中,从第一预设队列中删除待合并任务后,运行任务的并发量减少,将第二预设队列中,第一序位的等待任务作为运行任务加入第一预设队列,能够保证以最大并发量运行,提高任务的运行效率。
需要说明的是,本方法通过监测第一预设队列中的运行任务的数量,判断运行任务是否处于最大并发量,若第一预设队列中的运行任务的数量低于第一预设数量阈值,获取目标任务,将所述目标任务移动至所述第一预设队列。其中,目标任务包括第二预设队列中的序位前N的等待任务,N不大于数量差值,数量差值等于第一预设数量阈值减去第一预设队列中的运行任务的数量的差值。
由上述技术方案可以看出,本申请实施例提供的一种数据处理的方法,待合并任务和相似任务的请求相似度大于预设相似度阈值,由于,待合并任务和相似任务的请求相似度指示待合并任务和相似任务的请求结果相同的概率,所以,将待合并任务的请求结果作为相似任务的请求结果准确性大,又由于,待合并任务为第一预设队列中的任意一项运行任务,候选任务为第二预设队列中的等待任务,因此,将请求结果发送至待合并任务的请求方以及相似任务的请求方,能够实现同时得到运行任务和至少一项等待任务的请求结果,由此降低响应时间,避免高时延。
例如,服务队列中包括200个并发的运行任务A1~A200,等待队列中包括500个等待执行的等待任务B1~B500,本方法得到运行任务A1的相似任务为等待任务B2、B3、以及B7,本方法在得到运行任务A1的请求结果Y1时,将Y1同时发送至A1、B2、B3、以及B7,可见,本方法使得执行一次A1,同时得到A1、B2、B3、以及B7的请求结果,显然降低了响应时间。
进一步,假设使用现有技术,需要分别执行A1、B2、B3、以及B7(等待任务进入服务队列后才执行),若其中至少一项任务执行延时高,则会导致等待队列中的等待任务等待时间长,可以理解的是,当多个任务延时高时,将导致延迟传导以及渠道端客户的延迟累积,最直观的现象就是在至少一个运行任务延迟以后,后续的等待任务的响应时间将延长。
但是本方法能够依据请求相似度获取等待任务与运行任务的关联关系,将请求结果发送至多个请求方,由此可以避免多个任务中的任一项任务的响应时间长导致的高延时。
图2为本申请实施例提供的一种请求相似度的获取方法,如图2所示,本方法包括:
S201、判断待合并任务的资源地址与目标候选任务的资源地址的是否一致,若不一致,执行S202,若一致,执行S203。
本实施例中任意一项任务(包括任意一项等待任务和任意一项运行任务)的资源地址指示该任务的请求数据的地址,例如,请求方发送的请求信息中包括资源地址为:http://22.11.11.234:8000/kbp/api/open/ask?。该资源地址指示请求结果的地址。
S202、将待合并任务和目标候选任务的请求相似度置为0。
S203、获取待合并任务的请求参数与目标候选任务的请求参数的语义相似度,作为待合并任务和目标候选任务的请求相似度。
本实施例中,任意一项任务(包括任意一项等待任务和任意一项运行任务)的请求参数指示该任务的请求问题,例如,请求方发送的请求信息中包括请求参数为“信用卡如何办理”。需要说明的是,请求参数间的语义相似度的计算方法可以参见现有技术,本实施例不做赘述。
可以理解的是,若待合并任务的资源地址与目标候选任务的资源地址不一致,待合并任务的请求结果和目标候选任务的请求结果相同的概率很低,且,待合并任务的请求参数与目标候选任务的请求参数的语义相似度越高,待合并任务的请求结果和目标候选任务的请求结果相同的概率越大。因此,可见,本方法通过资源地址的简单比对,将资源地址不一致的目标候选任务的请求相似度置为0,避免过多的复杂的语义相似度计算,提高请求相似度的获取效率和准确度。
需要说明的是,图2所示的流程仅为一种可选的请求相似度获取的方法,本申请还包括其他可选的请求相似度获取方法,例如,S201替换为判断待合并任务的资源地址是否包含目标候选任务的资源地址,若不包含,执行S202,若包含,执行S203。
需要说明的是,图1所示的流程仅为本申请实施例提供的数据处理方法的一种可选的具体实现方法,本申请还包括其他的具体实现方法。
例如,本方法还包括:监测第一预设队列中的每一运行任务的运行时间,将运行时间超过预设运行时间阈值的运行任务作为超时任务,并从第一预设队列中删除超时任务,发出预设超时指令。具体地,若目标运行任务(任意一项运行任务)的预设计时器的计时时间超过运行时间阈值K,将目标运行任务移出第一预设队列。目的在于停止时延较高或可能出现故障的运行任务,进一步降低运行时间,以避免高时延。
再例如,本方法还包括:若拒绝请求任务的次数大于预设次数阈值,增大第一预设数量阈值以及第二预设数量阈值。可以理解的是,当拒绝请求任务的次数过高时,为了保证服务质量,适当增加第一预设队列和第二预设队列的大小,能够提高最大并发量,提高实用性和用户体验。
再例如,本方法还包括响应于获取到待合并任务的请求结果,将请求结果与待合并任务的请求参数组合成字符文本,若字符文本与相似任务的请求结果匹配,则将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方。可以理解的是,待合并任务的请求结果是相似任务的请求结果的概率较高,因此,进一步将待合并任务的请求结果与相似任务的请求参数匹配,能够进一步提高请求结果的准确性,并且,匹配过程相比响应相似任务得到请求结果的耗时短。
再例如,S101~S105均为可选的步骤,目的在于实现请求任务的基本调度。再例如,达到预设处理时机还包括第一预设队列新增运行任务。
基于此,将本申请实施例提供的一种数据处理方法总结概括为图3所示的流程,如图3所示,本方法包括:
S301、响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度。
本实施例中,待合并任务为第一预设队列中的任意一项运行任务。候选任务为第二预设队列中的等待任务。达到预设处理时机包括:达到预设处理周期的开始时间。
需要说明的是,候选任务属于第二预设队列,获取候选任务的方法包括可选的多种,例如,将满足预设候选条件的等待任务作为候选任务,具体参见上述实施例,或者,将每一等待任务作为候选任务。
S302、若待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将目标候选任务作为待合并任务的相似任务。
本实施例中,请求相似度至少指示请求结果相同的概率,也即待合并任务与目标候选任务的请求相似度越大,待合并任务与目标候选任务的请求结果相同的概率越大。
S303、响应于获取到待合并任务的请求结果,将请求结果发送至待合并任务的请求方以及相似任务的请求方。
由上述技术方法可以看出,本申请实施例提供的一种数据处理的方法,待合并任务和相似任务的请求相似度大于预设相似度阈值,由于,待合并任务和相似任务的请求相似度指示待合并任务和相似任务的请求结果相同的概率,所以,将待合并任务的请求结果作为相似任务的请求结果准确性大,又由于,待合并任务为第一预设队列中的任意一项运行任务,候选任务为第二预设队列中的等待任务,因此,将请求结果发送至待合并任务的请求方以及相似任务的请求方,能够实现同时得到运行任务和至少一项等待任务的请求结果,由此降低响应时间,避免高时延。
图4示出了本申请实施例提供的一种数据处理装置的结构示意图,如图4所示,该装置可以包括:
相似度计算单元401,用于响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度,所述待合并任务为第一预设队列中的任意一项运行任务;所述候选任务为第二预设队列中的等待任务;所述达到预设处理时机包括:达到预设处理周期的开始时间;
任务合并单元402,用于若所述待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将所述目标候选任务作为所述待合并任务的相似任务,所述目标候选任务为任意一项所述候选任务;
结果发送单元403,用于响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方。
可选地,还包括候选任务获取单元,用于在所述响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度之前:
将所述第二预设队列中的每一等待任务作为所述候选任务;
或者,
获取所述待合并任务的请求信息以及所述第二预设队列中的每一等待任务的请求信息,所述请求信息包括:请求时间以及预设属性标识,所述预设属性标识包括第一预设标识或第二预设标识;
将满足预设候选条件的至少一项等待任务作为所述候选任务,所述预设候选条件包括:请求时间与目标时间的时间间隔小于预设时间间隔,且所述预设属性标识为第一预设标识,所述目标时间为所述待合并任务的请求时间。
可选地,请求信息还包括:请求参数和资源地址;
相似度计算单元用于获取所述待合并任务和所述目标候选任务的请求相似度,包括:相似度计算单元具体用于:
判断所述待合并任务的资源地址与所述目标候选任务的资源地址是否一致;
若所述待合并任务的资源地址与所述目标候选任务的资源地址不一致,将所述待合并任务和所述目标候选任务的请求相似度置为0;
若所述待合并任务的资源地址与所述目标候选任务的资源地址一致,获取所述待合并任务的请求参数与所述目标候选任务的请求参数的语义相似度,作为所述待合并任务和所述目标候选任务的请求相似度。
可选地,还包括队列更新单元,用于在所述响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方之后,从所述第一预设队列中删除所述待合并任务,且从所述第二预设队列中删除所述相似任务。
可选地,还包括任务调度单元,用于:
响应于接收到请求任务,判断所述第一预设队列中的运行任务的数量是否达到第一预设数量阈值;
若所述第一预设队列中的运行任务的数量没有达到所述第一预设数量阈值,将所述请求任务作为运行任务,加入所述第一预设队列;
若所述第一预设队列中的运行任务的数量达到所述第一预设数量阈值,判断所述第二预设队列中的等待任务的数量是否达到第二预设数量阈值;
若所述第二预设队列中的等待任务的数量没有达到所述第二预设数量阈值,将所述请求任务作为等待任务,加入所述第二预设队列;
若所述第二预设队列中的等待任务的数量达到所述第二预设数量阈值,发出预设指令,所述预设指令用于拒绝所述请求任务。
可选地,还包括运行时间监测单元,用于:
监测所述第一预设队列中的每一运行任务的运行时间;
将运行时间超过预设运行时间阈值的运行任务作为超时任务;
从所述第一预设队列中删除所述超时任务,并发出预设超时指令。
可选地,还包括运行数量监测单元,用于:
监测所述第一预设队列中的运行任务的数量;
响应于所述第一预设队列中的运行任务的数量低于所述第一预设数量阈值,获取目标任务,将所述目标任务移动至所述第一预设队列;
所述目标任务包括所述第二预设队列中的序位前N的等待任务,所述N不大于数量差值,所述数量差值等于所述第一预设数量阈值减去所述第一预设队列中的运行任务的数量的差值。
图5示出了该数据处理设备的结构示意图,该设备可以包括:至少一个处理器501,至少一个通信接口502,至少一个存储器503和至少一个通信总线504;
在本申请实施例中,处理器501、通信接口502、存储器503、通信总线504的数量为至少一个,且处理器501、通信接口502、存储器503通过通信总线504完成相互间的通信;
处理器501可能是一个中央处理器CPU,或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit),或者是被配置成实施本发明实施例的一个或多个集成电路等;
存储器503可能包含高速RAM存储器,也可能还包括非易失性存储器(non-volatile memory)等,例如至少一个磁盘存储器;
其中,存储器存储有程序,处理器可执行存储器存储的程序,实现本申请实施例提供的一种数据处理方法的各个步骤,如下:
一种数据处理方法,包括:
响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度,所述待合并任务为第一预设队列中的任意一项运行任务;所述候选任务为第二预设队列中的等待任务;所述达到预设处理时机包括:达到预设处理周期的开始时间;
若所述待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将所述目标候选任务作为所述待合并任务的相似任务,所述目标候选任务为任意一项所述候选任务;
响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方。
可选地,响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度之前,还包括:
将所述第二预设队列中的每一等待任务作为所述候选任务;
或者,
获取所述待合并任务的请求信息以及所述第二预设队列中的每一等待任务的请求信息,所述请求信息包括:请求时间以及预设属性标识,所述预设属性标识包括第一预设标识或第二预设标识;
将满足预设候选条件的至少一项等待任务作为所述候选任务,所述预设候选条件包括:请求时间与目标时间的时间间隔小于预设时间间隔,且所述预设属性标识为第一预设标识,所述目标时间为所述待合并任务的请求时间。
可选地,请求信息还包括:请求参数和资源地址;
获取所述待合并任务和所述目标候选任务的请求相似度,包括:
判断所述待合并任务的资源地址与所述目标候选任务的资源地址是否一致;
若所述待合并任务的资源地址与所述目标候选任务的资源地址不一致,将所述待合并任务和所述目标候选任务的请求相似度置为0;
若所述待合并任务的资源地址与所述目标候选任务的资源地址一致,获取所述待合并任务的请求参数与所述目标候选任务的请求参数的语义相似度,作为所述待合并任务和所述目标候选任务的请求相似度。
可选地,在所述响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方之后,还包括:
从所述第一预设队列中删除所述待合并任务,且从所述第二预设队列中删除所述相似任务。
可选地,还包括:
响应于接收到请求任务,判断所述第一预设队列中的运行任务的数量是否达到第一预设数量阈值;
若所述第一预设队列中的运行任务的数量没有达到所述第一预设数量阈值,将所述请求任务作为运行任务,加入所述第一预设队列;
若所述第一预设队列中的运行任务的数量达到所述第一预设数量阈值,判断所述第二预设队列中的等待任务的数量是否达到第二预设数量阈值;
若所述第二预设队列中的等待任务的数量没有达到所述第二预设数量阈值,将所述请求任务作为等待任务,加入所述第二预设队列;
若所述第二预设队列中的等待任务的数量达到所述第二预设数量阈值,发出预设指令,所述预设指令用于拒绝所述请求任务。
可选地,还包括:
监测所述第一预设队列中的每一运行任务的运行时间;
将运行时间超过预设运行时间阈值的运行任务作为超时任务;
从所述第一预设队列中删除所述超时任务,并发出预设超时指令。
可选地,还包括:
监测所述第一预设队列中的运行任务的数量;
响应于所述第一预设队列中的运行任务的数量低于所述第一预设数量阈值,获取目标任务,将所述目标任务移动至所述第一预设队列,所述目标任务包括所述第二预设队列中的序位前N的等待任务,所述N不大于数量差值,所述数量差值等于所述第一预设数量阈值减去所述第一预设队列中的运行任务的数量的差值。
本申请实施例还提供一种可读存储介质,该可读存储介质可存储有适于处理器执行的计算机程序,计算机程序被处理器执行时,实现本申请实施例提供的一种数据处理方法的各个步骤,如下:
一种数据处理方法,包括:
响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度,所述待合并任务为第一预设队列中的任意一项运行任务;所述候选任务为第二预设队列中的等待任务;所述达到预设处理时机包括:达到预设处理周期的开始时间;
若所述待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将所述目标候选任务作为所述待合并任务的相似任务,所述目标候选任务为任意一项所述候选任务;
响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方。
可选地,响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度之前,还包括:
将所述第二预设队列中的每一等待任务作为所述候选任务;
或者,
获取所述待合并任务的请求信息以及所述第二预设队列中的每一等待任务的请求信息,所述请求信息包括:请求时间以及预设属性标识,所述预设属性标识包括第一预设标识或第二预设标识;
将满足预设候选条件的至少一项等待任务作为所述候选任务,所述预设候选条件包括:请求时间与目标时间的时间间隔小于预设时间间隔,且所述预设属性标识为第一预设标识,所述目标时间为所述待合并任务的请求时间。
可选地,请求信息还包括:请求参数和资源地址;
获取所述待合并任务和所述目标候选任务的请求相似度,包括:
判断所述待合并任务的资源地址与所述目标候选任务的资源地址是否一致;
若所述待合并任务的资源地址与所述目标候选任务的资源地址不一致,将所述待合并任务和所述目标候选任务的请求相似度置为0;
若所述待合并任务的资源地址与所述目标候选任务的资源地址一致,获取所述待合并任务的请求参数与所述目标候选任务的请求参数的语义相似度,作为所述待合并任务和所述目标候选任务的请求相似度。
可选地,在所述响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方之后,还包括:
从所述第一预设队列中删除所述待合并任务,且从所述第二预设队列中删除所述相似任务。
可选地,还包括:
响应于接收到请求任务,判断所述第一预设队列中的运行任务的数量是否达到第一预设数量阈值;
若所述第一预设队列中的运行任务的数量没有达到所述第一预设数量阈值,将所述请求任务作为运行任务,加入所述第一预设队列;
若所述第一预设队列中的运行任务的数量达到所述第一预设数量阈值,判断所述第二预设队列中的等待任务的数量是否达到第二预设数量阈值;
若所述第二预设队列中的等待任务的数量没有达到所述第二预设数量阈值,将所述请求任务作为等待任务,加入所述第二预设队列;
若所述第二预设队列中的等待任务的数量达到所述第二预设数量阈值,发出预设指令,所述预设指令用于拒绝所述请求任务。
可选地,还包括:
监测所述第一预设队列中的每一运行任务的运行时间;
将运行时间超过预设运行时间阈值的运行任务作为超时任务;
从所述第一预设队列中删除所述超时任务,并发出预设超时指令。
可选地,还包括:
监测所述第一预设队列中的运行任务的数量;
响应于所述第一预设队列中的运行任务的数量低于所述第一预设数量阈值,获取目标任务,将所述目标任务移动至所述第一预设队列,所述目标任务包括所述第二预设队列中的序位前N的等待任务,所述N不大于数量差值,所述数量差值等于所述第一预设数量阈值减去所述第一预设队列中的运行任务的数量的差值。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种数据处理方法,其特征在于,包括:
响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度,所述待合并任务为第一预设队列中的任意一项运行任务;所述候选任务为第二预设队列中的等待任务;所述达到预设处理时机包括:达到预设处理周期的开始时间;
若所述待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将所述目标候选任务作为所述待合并任务的相似任务,所述目标候选任务为任意一项所述候选任务;
响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方。
2.根据权利要求1所述的方法,其特征在于,所述响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度之前,还包括:
将所述第二预设队列中的每一等待任务作为所述候选任务;
或者,
获取所述待合并任务的请求信息以及所述第二预设队列中的每一等待任务的请求信息,所述请求信息包括:请求时间以及预设属性标识,所述预设属性标识包括第一预设标识或第二预设标识;
将满足预设候选条件的至少一项等待任务作为所述候选任务,所述预设候选条件包括:请求时间与目标时间的时间间隔小于预设时间间隔,且所述预设属性标识为第一预设标识,所述目标时间为所述待合并任务的请求时间。
3.根据权利要求2所述的方法,其特征在于,所述请求信息还包括:请求参数和资源地址;
获取所述待合并任务和所述目标候选任务的请求相似度,包括:
判断所述待合并任务的资源地址与所述目标候选任务的资源地址是否一致;
若所述待合并任务的资源地址与所述目标候选任务的资源地址不一致,将所述待合并任务和所述目标候选任务的请求相似度置为0;
若所述待合并任务的资源地址与所述目标候选任务的资源地址一致,获取所述待合并任务的请求参数与所述目标候选任务的请求参数的语义相似度,作为所述待合并任务和所述目标候选任务的请求相似度。
4.根据权利要求1所述的方法,其特征在于,在所述响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方之后,还包括:
从所述第一预设队列中删除所述待合并任务,且从所述第二预设队列中删除所述相似任务。
5.根据权利要求1所述的方法,其特征在于,还包括:
响应于接收到请求任务,判断所述第一预设队列中的运行任务的数量是否达到第一预设数量阈值;
若所述第一预设队列中的运行任务的数量没有达到所述第一预设数量阈值,将所述请求任务作为运行任务,加入所述第一预设队列;
若所述第一预设队列中的运行任务的数量达到所述第一预设数量阈值,判断所述第二预设队列中的等待任务的数量是否达到第二预设数量阈值;
若所述第二预设队列中的等待任务的数量没有达到所述第二预设数量阈值,将所述请求任务作为等待任务,加入所述第二预设队列;
若所述第二预设队列中的等待任务的数量达到所述第二预设数量阈值,发出预设指令,所述预设指令用于拒绝所述请求任务。
6.根据权利要求1所述的方法,其特征在于,还包括:
监测所述第一预设队列中的每一运行任务的运行时间;
将运行时间超过预设运行时间阈值的运行任务作为超时任务;
从所述第一预设队列中删除所述超时任务,并发出预设超时指令。
7.根据权利要求5所述的方法,其特征在于,还包括:
监测所述第一预设队列中的运行任务的数量;
响应于所述第一预设队列中的运行任务的数量低于所述第一预设数量阈值,获取目标任务,将所述目标任务移动至所述第一预设队列;
所述目标任务包括所述第二预设队列中的序位前N的等待任务,所述N不大于数量差值,所述数量差值等于所述第一预设数量阈值减去所述第一预设队列中的运行任务的数量的差值。
8.一种数据处理装置,其特征在于,包括:
相似度计算单元,用于响应于达到预设处理时机,获取待合并任务和每一候选任务的请求相似度,所述待合并任务为第一预设队列中的任意一项运行任务;所述候选任务为第二预设队列中的等待任务;所述达到预设处理时机包括:达到预设处理周期的开始时间;
任务合并单元,用于若所述待合并任务与目标候选任务的请求相似度大于预设相似度阈值,将所述目标候选任务作为所述待合并任务的相似任务,所述目标候选任务为任意一项所述候选任务;
结果发送单元,用于响应于获取到所述待合并任务的请求结果,将所述请求结果发送至所述待合并任务的请求方以及所述相似任务的请求方。
9.一种数据处理设备,其特征在于,包括:存储器和处理器;
所述存储器,用于存储程序;
所述处理器,用于执行所述程序,实现如权利要求1~7中任一项所述的数据处理方法的各个步骤。
10.一种可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时,实现如权利要求1~7中任一项所述的数据处理方法的各个步骤。
CN202110954593.5A 2021-08-19 2021-08-19 数据处理方法、装置、设备及可读存储介质 Active CN113656178B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110954593.5A CN113656178B (zh) 2021-08-19 2021-08-19 数据处理方法、装置、设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110954593.5A CN113656178B (zh) 2021-08-19 2021-08-19 数据处理方法、装置、设备及可读存储介质

Publications (2)

Publication Number Publication Date
CN113656178A CN113656178A (zh) 2021-11-16
CN113656178B true CN113656178B (zh) 2024-02-27

Family

ID=78492378

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110954593.5A Active CN113656178B (zh) 2021-08-19 2021-08-19 数据处理方法、装置、设备及可读存储介质

Country Status (1)

Country Link
CN (1) CN113656178B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117421324B (zh) * 2023-12-19 2024-03-12 英诺达(成都)电子科技有限公司 电源状态表的合并方法、装置、设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111061803A (zh) * 2019-12-30 2020-04-24 北京三快在线科技有限公司 任务处理方法、装置、设备及存储介质
CN111400555A (zh) * 2020-03-05 2020-07-10 湖南大学 图数据查询任务处理方法、装置、计算机设备和存储介质
CN113159602A (zh) * 2021-04-30 2021-07-23 中国银行股份有限公司 任务的派发方法、装置、设备及可读存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111061803A (zh) * 2019-12-30 2020-04-24 北京三快在线科技有限公司 任务处理方法、装置、设备及存储介质
CN111400555A (zh) * 2020-03-05 2020-07-10 湖南大学 图数据查询任务处理方法、装置、计算机设备和存储介质
CN113159602A (zh) * 2021-04-30 2021-07-23 中国银行股份有限公司 任务的派发方法、装置、设备及可读存储介质

Also Published As

Publication number Publication date
CN113656178A (zh) 2021-11-16

Similar Documents

Publication Publication Date Title
CN110109953B (zh) 一种数据查询方法、装置及设备
WO2021017884A1 (zh) 数据处理方法、装置及网关服务器
CN104125163B (zh) 一种数据处理方法、装置及终端
US9064013B1 (en) Application of resource limits to request processing
CN110598138A (zh) 基于缓存的处理方法和装置
US9792231B1 (en) Computer system for managing I/O metric information by identifying one or more outliers and comparing set of aggregated I/O metrics
CN110162270B (zh) 基于分布式存储系统的数据存储方法、存储节点及介质
CN108647240B (zh) 一种统计访问量的方法、装置、电子设备及存储介质
CN102780603B (zh) 网站流量控制方法及装置
CN109842621A (zh) 一种减少token存储数量的方法及终端
CN113656178B (zh) 数据处理方法、装置、设备及可读存储介质
CN113886494A (zh) 即时通讯的消息存储方法、装置、设备及计算机可读介质
CN110321364B (zh) 信用卡管理系统的交易数据查询方法、装置及终端
CN111522836A (zh) 一种数据查询方法、装置、电子设备及存储介质
CN111355765B (zh) 一种网络请求的处理、发送方法及装置
CN110750498B (zh) 对象访问方法、装置及存储介质
CN110659272A (zh) 数据清洗方法和系统
CN110688360A (zh) 分布式文件系统存储管理方法、装置、设备及存储介质
CN114281648A (zh) 一种数据采集方法、装置、电子设备及存储介质
CN105893150B (zh) 接口调用频度控制、接口调用请求处理方法及装置
CN111159131A (zh) 性能优化方法、装置、设备及计算机可读存储介质
CN110658980B (zh) 数据处理方法及装置、存储系统
CN111343101A (zh) 服务器限流方法、装置、电子设备及可读存储介质
KR102214185B1 (ko) 자원 획득 방법
CN111061543A (zh) 一种多租户工作流引擎服务方法、装置及服务器

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant