CN103019859A - 一种对服务请求调度的方法和系统 - Google Patents

Abstract

本发明提供了一种对服务请求调度的方法和系统，所述方法包括：为系统中的数据表和数据表的相应操作设置优先级；得到相应服务请求的优先级；将服务请求按优先级的高低在服务器内存中的请求队列中排队；服务线程按顺序调度执行服务请求优先级队列中的服务请求；系统对服务请求优先级队列的排序进行刷新。本发明通过提出服务请求优先级的获取和对服务请求优先级队列中服务请求调度的技术，保证了不同等级的数据表的服务请求获取相应的预置服务性能，并且通过缓存服务请求优先级，使得系统性能几乎不损失。从而实现了在不损失服务器整体性能的前提下，使不同等级数据表的服务性能相互隔离。

Description

一种对服务请求调度的方法和系统

技术领域

本发明涉及计算机领域，尤其涉及一种对不同优先级的服务请求进行优先级调度，实现其服务性能隔离的方法和一种对服务请求调度系统。

背景技术

当数据库上存在多个不同等级的数据表时，应用程序希望获取相应等级的服务性能。目前使不同等级数据表的服务性能的相互隔离的方法，会使系统性能受到损失。现有的数据库系统或分布式系统中，SLA（Service-Level Agreement，服务等级协议）分等级服务方式多基于进程优先级调度或连接优先级调度，这些实现方法具有以下的缺点：①基于系统外部排序方式对系统性能影响较大。②基于系统外部排序方式控制粒度较粗，无法做到表及方法级优先级管理。

对不同优先级的服务请求进行优先级调度，实现其服务性能隔离的问题还属于分布式系统或数据库领域正待解决的技术问题。

发明内容

本发明提出了一种对服务请求调度的方法和系统，实现了在不损失服务器整体性能的前提下，使不同等级数据表的服务性能相互隔离，所述技术方案如下：

一种系统对服务请求调度的方法，包括：

为系统中的数据表和所述数据表的相应操作设置优先级；

根据服务请求所调用的数据表的优先级和对数据表操作的优先级，得到相应服务请求的优先级；

系统中的服务器将服务请求按优先级的高低在所述服务器的内存中排成服务请求优先级队列，优先级高的服务请求排在所述队列前面；

服务线程按从前到后的顺序，调度执行服务请求优先级队列中的服务请求；

每隔一定时间，系统对服务请求优先级队列的排序进行刷新，在服务请求优先级队列中添加新的服务请求，并且，每刷新一次，将刷新前添加在队列中而未被执行的服务请求的优先级提高一级。

进一步的，将系统中所述数据表的优先级和所述数据表相应操作的优先级存储在所述数据表的描述符中，并允许对所述数据表的优先级和所述数据表相应操作的优先级动态修改。

进一步的，所述数据表的描述符是所述数据表的定义，存储在元数据表中。

进一步的，所述对数据表的操作包括写入、读取、删除和更新。

进一步的，所述服务请求的优先级等于所述服务请求所调用的数据表的优先级和所述数据表相应操作的优先级之和。

进一步的，系统中的服务器将服务请求按优先级的高低在所述服务器的内存中排成服务请求优先级队列，对于优先级相同的服务请求，按照添加服务请求的时间顺序排列，添加时间早的服务请求排在添加时间晚的服务请求的前面。

进一步的，所述系统中的服务器通过远程过程调用提取数据表信息和操作信息，获得最终服务请求优先级。

进一步的，系统中的服务器将所述元数据表缓存在缓存系统中，当调用服务请求时，直接从缓存系统的元数据中获取所述服务请求的优先级。

一种对服务请求调度的系统，包括：

数据存储模块，用于存储系统中的数据表；

控制模块，与数据存储模块相连接，用于接收服务请求，从所述数据存储系统调用所述服务请求所需的数据表，获得服务请求的优先级，将所述服务请求执行模块按照优先级排成服务请求优先级队列，定时对服务请求优先级队列的排序进行刷新；

服务请求执行模块，与控制模块相连接，按照所述服务请求优先级队列的排列顺序执行所述服务请求。

进一步的，所述数据存储模块还包括缓存模块，用于缓存元数据表。

本发明通过提出服务请求优先级的获取和对服务请求优先级队列中服务请求调度的技术，保证了不同等级的数据表的服务请求获取相应的预置服务性能，并且通过缓存服务请求优先级，使得系统性能几乎不损失。从而实现了在不损失服务器整体性能的前提下，使不同等级数据表的服务性能相互隔离。

附图说明

图1是本发明实施例一提供的系统对服务请求调度的方法流程图；

图2是本发明实施例二提供的服务器中服务请求优先级调度结构示意图；

图3是本发明实施例三提供的服务器中服务请求优先级调度结构示意图；

图4是本发明实施例四提供的服务器中服务请求优先级调度结构示意图；

图5是本发明实施例五提供的对服务请求调度的系统功能模块框图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例，仅仅用于解释本发明，而非对本发明的限定。

实施例一

图1是本发明实施例一提供的系统对服务请求调度方法流程图。该方法包括：

步骤101：为系统中的数据表和所述数据表的相应操作设置优先级；

为系统中数据表和数据表的相应操作设置的优先级，存储在数据表的描述符中，并允许对数据表的优先级和数据表相应操作的优先级动态修改。

其中，数据表的操作包括写入、读取、删除和更新。数据表的描述符是相应的数据表的定义，存储在元数据表中。在元数据表中，根据描述符可以查找到与描述符对应的数据表和数据表相应操作的优先级，以及数据表的其他信息，所以可以在元数据表中设置数据表和数据表相应操作的优先级。

步骤102：根据服务请求所调用的数据表的优先级和对数据表操作的优先级，得到相应服务请求的优先级；

对于一个服务请求，包括调用数据表，对数据表进行操作，因此服务请求也具有一定的优先级，其优先级等于服务请求所调用的数据表的优先级和对数据表相应操作的优先级之和。

具体来说，系统中的服务器通过远程过程调用，根据数据表的描述符，在元数据表中查找并提取数据表的信息和相应操作的信息，得到服务请求所调用的数据表的优先级和对数据表操作的优先级之和，获得最终的服务请求优先级。

系统中的服务器将元数据表缓存在缓存系统中，当调用服务请求时，直接从缓存系统的元数据中获取所述服务请求的优先级。由于缓存系统的引入，服务器对服务请求的优先级调度没有对系统整体性能造成很大影响，多个不同优先级的数据表也能够充分利用系统的全部计算资源。

其中，远程过程调用（Remote Procedure Call，RPC）由调用信息和答复信息两个不同结构组成，远程过程调用采用客户机/服务器模式，请求程序就是一个客户机，而服务提供程序就是一个服务器。首先，客户机调用进程发送一个有进程参数的调用信息到服务进程，然后等待应答信息。在服务器端，进程保持睡眠状态直到调用信息的到达为止。当一个调用信息到达，服务器获得进程参数，计算结果，发送答复信息，然后等待下一个调用信息，最后，客户端调用进程接收答复信息，获得进程结果，然后调用执行继续进行。

步骤103：系统中的服务器将服务请求按优先级的高低在服务器的内存中排成服务请求优先级队列，优先级高的服务请求排在队列前面；

对于优先级相同的服务请求，按照添加服务请求的时间顺序排列，添加时间早的服务请求排在添加时间晚的服务请求的前面。

步骤104：服务线程按从前到后的顺序，调度执行服务请求优先级队列中的服务请求；

排在队列前面的服务请求被优先执行。

步骤105：每隔一定时间，系统对服务请求优先级队列的排序进行刷新，在服务请求优先级队列中添加新的服务请求，并且，每刷新一次，将刷新前添加在队列中而未被执行的服务请求的优先级提高一级。

由于每隔一段时间，系统的服务请求会增加，而不断添加新的服务请求会使优先级较低的服务请求总是得不到执行，所以，要定时对服务请求优先级队列的排序进行刷新，一方面，按照优先级的高低向服务请求优先级队列添加新的服务请求，另一方面，将刷新前添加在队列中而未被执行的服务请求的优先级提高一级，这样就能避免优先级较低的服务请求总是得不到执行的情况。

实施例二

图2是本发明实施例二提供的服务器中服务请求优先级调度结构示意图；本实施例优选的采用了分布式系统来实现对服务请求调度的方法，如图2所示：

表示在一个服务器中，服务请求优先级调度的一种情况，其中，A和B表示不同的数据表，每个填有A或B的小方框表示一个服务请求，A和B等号后面的数字表示该服务请求的优先级，该服务请求请求的优先级等于该数据表的优先级加上该数据表相应操作的优先级之和，不同优先级的服务请求按照优先级的高低在服务器的内存中进行排队，M行表示执行任务之前服务器中的服务请求优先级队列，N行刷新后的服务请求优先级队列。

由图2可知，调用操作数据表A的服务请求优先级等于1，调用操作数据表B的服务请求优先级等于10，因此，在服务请求优先级队列中，调用操作数据表A的服务请求应排在调用操作数据表B的服务请求之前。在刷新前第一服务请求201、第二服务请求202和第三服务请求203均表示调用操作数据表A的服务请求，优先级均为1，第四服务请求204表示调用操作数据表B的服务请求，优先级为10，因此，第四服务请求204应排在队列的后面。

服务线程按优先级执行服务请求的任务，将第一服务请求201和第二服务请求202执行完毕，而第三服务请求203和第四服务请求204还未执行，队列刷新后，又添加了第五服务请求205、第六服务请求206和第七服务请求207。其中，第五服务请求205和第六服务请求206均表示调用操作数据表A的服务请求，优先级均为1，第七服务请求207表示调用操作数据表B的服务请求，优先级为10。在刷新之后，第三服务请求203和第四服务请求204的优先级获得了提升，第三服务请求203的优先级变成0，第四服务请求204的优先级变成9，因此，第三服务请求203的优先级高于新添加的数据表A相关操作的第五服务请求205和第六服务请求206的优先级，并排在第五服务请求205和第六服务请求206的前面。同样，第四服务请求204的优先级高于新添加的调用操作数据表B的第七服务请求207的优先级，并排在第七服务请求207的前面。这样，等待时间较长的第三服务请求203和第四服务请求204，就会先于新添加的相同数据表相同操作的服务请求被系统执行，而避免一直搁置不被执行。

实施例三

图3是本发明实施例三提供的服务器中服务请求优先级调度结构示意图。本实施例优选的采用了分布式系统来实现对服务请求调度的方法，如图3所示：

初始时，第八服务请求301表示调用操作数据表A的服务请求，优先级为1，第九服务请求302、第十服务请求303和第十一服务请求304均表示调用操作数据表B的服务请求，优先级均为10。在M行执行任务之前服务器中服务请求分布的服务请求优先级队列中，第八服务请求301排列在最前面，后面依次排列为第九服务请求302、第十服务请求303和第十一服务请求304。

服务线程按优先级依次执行服务请求的任务，在执行完第八服务请求301和第九服务请求302后，系统刷新，新添加了第十二服务请求305和第十三服务请求306，第十二服务请求305和第十三服务请求306是调用操作数据表A的服务请求，优先级为1。而刷新前还没执行的第十服务请求303和第十一服务请求304优先级变成了9，这时，第十服务请求303和第十一服务请求304排在第十二服务请求305和第十三服务请求306的后面，等待服务线程执行服务请求的任务。

实施例四

图4是本发明实施例四提供的服务器中服务请求优先级调度结构示意图。本实施例优选的采用了分布式系统来实现服务请求调度的方法，如图4所示：

初始时，第十四服务请求401和第十五服务请求402是调用操作数据表A的服务请求，优先级为1，第十六服务请求403是调用操作数据表B的服务请求，优先级均为10。在M行执行任务之前服务器中服务请求优先级队列中，第十四服务请求401和第十五服务请求402排列在最前面，后面排列为第十六服务请求403。

服务线程按优先级依次执行服务请求的任务，在执行完第十四服务请求401和第十五服务请求402后，系统刷新，新添加了第十七服务请求404和第十八服务请求405，第十七服务请求404是调用操作数据表A的服务请求，优先级为1，第十八服务请求405是调用操作数据表B的服务请求，优先级为10。而刷新前还没执行的第十六服务请求403优先级变成了9。这时，第十七服务请求404排在队列最前面，第十六服务请求403排在第十七服务请求404之后，第十八服务请求405之前。等待服务线程执行服务请求的任务。

实施例五

图5是本发明实施例五提供的对服务请求调度的系统功能模块框图。如图5所示：

一种对服务请求调度的系统，包括：

数据存储模块501，用于存储系统中的数据表；控制模块502，与数据存储模块501相连接，用于接收服务请求，从数据存储系统502调用服务请求所需的数据表，获得服务请求的优先级，将服务请求执行模块503按照优先级排成服务请求优先级队列，定时对服务请求优先级队列的排序进行刷新；服务请求执行模块503，与控制模块相连接502，按照所述服务请求优先级队列的排列顺序执行所述服务请求。

本发明通过提出的请求优先级获取技术和等待队列优先级调度技术，保证了不同等级的数据表的服务请求获取相应的预置服务性能，并且通过缓存请求优先级，使得系统性能几乎不损失。从而实现了在不损失数据节点整体性能的前提下，使不同等级数据表的服务性能相互隔离。

以上仅是针对本发明的优选实施例及其技术原理所做的说明，而并非对本发明的技术内容所进行的限制，任何熟悉本技术领域的技术人员在本发明所公开的技术范围内，所容易想到的变化或替换，都应涵盖在本发明的保护范围内。

Claims (10)

1.一种系统对服务请求调度的方法，包括：

为系统中的数据表和所述数据表的相应操作设置优先级；

根据服务请求所调用的数据表的优先级和对数据表操作的优先级，得到相应服务请求的优先级；

系统中的服务器将服务请求按优先级的高低在所述服务器的内存中排成服务请求优先级队列，优先级高的服务请求排在所述队列前面；

服务线程按从前到后的顺序，调度执行服务请求优先级队列中的服务请求；

每隔一定时间，系统对服务请求优先级队列的排序进行刷新，在服务请求优先级队列中添加新的服务请求，并且，每刷新一次，将刷新前添加在队列中而未被执行的服务请求的优先级提高一级。

2.根据权利要求1所述的方法，其特征在于，将系统中所述数据表的优先级和所述数据表相应操作的优先级存储在所述数据表的描述符中，并允许对所述数据表的优先级和所述数据表相应操作的优先级动态修改。

3.根据权利要求2所述的方法，其特征在于，所述数据表的描述符是所述数据表的定义，存储在元数据表中。

4.根据权利要求1所述的方法，其特征在于，所述对数据表的操作包括写入、读取、删除和更新。

5.根据权利要求1所述的方法，其特征在于，所述服务请求的优先级等于所述服务请求所调用的数据表的优先级和所述数据表相应操作的优先级之和。

6.根据权利要求1所述的方法，其特征在于，系统中的服务器将服务请求按优先级的高低在所述服务器的内存中排成服务请求优先级队列，对于优先级相同的服务请求，按照添加服务请求的时间顺序排列，添加时间早的服务请求排在添加时间晚的服务请求的前面。

7.根据权利要求1所述的方法，其特征在于，所述系统中的服务器通过远程过程调用提取数据表信息和操作信息，获得最终服务请求优先级。

8.根据权利要求3和7中任意所述的方法，其特征在于，系统中的服务器将所述元数据表缓存在缓存系统中，当调用服务请求时，直接从缓存系统的元数据表中获取所述服务请求的优先级。

9.一种对服务请求调度的系统，包括：

数据存储模块，用于存储系统中的数据表；

控制模块，与数据存储模块相连接，用于接收服务请求，从所述数据存储系统调用所述服务请求所需的数据表，获得服务请求的优先级，将所述服务请求执行模块按照优先级排成服务请求优先级队列，定时对服务请求优先级队列的排序进行刷新；

服务请求执行模块，与控制模块相连接，按照所述服务请求优先级队列的排列顺序执行所述服务请求。

10.根据权利要求1所述的系统，其特征在于，所述数据存储模块还包括缓存模块，用于缓存元数据表。

Images