CN114390058A - 服务管理系统、方法、设备及存储介质 - Google Patents

服务管理系统、方法、设备及存储介质 Download PDF

Info

Publication number
CN114390058A
CN114390058A CN202210173197.3A CN202210173197A CN114390058A CN 114390058 A CN114390058 A CN 114390058A CN 202210173197 A CN202210173197 A CN 202210173197A CN 114390058 A CN114390058 A CN 114390058A
Authority
CN
China
Prior art keywords
quota
node
service
pool
allocation request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210173197.3A
Other languages
English (en)
Other versions
CN114390058B (zh
Inventor
王凯
陈培虎
胡啸飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Bigo Technology Pte Ltd
Original Assignee
Bigo Technology Pte Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Bigo Technology Pte Ltd filed Critical Bigo Technology Pte Ltd
Priority to CN202210173197.3A priority Critical patent/CN114390058B/zh
Publication of CN114390058A publication Critical patent/CN114390058A/zh
Application granted granted Critical
Publication of CN114390058B publication Critical patent/CN114390058B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例公开了服务管理系统、方法、设备及存储介质。其中，该系统中包括配额池和至少两个服务节点，服务节点用于根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向配额池发送配额分配请求，配额池用于在接收到服务节点发送的配额分配请求时，根据系统的未分配配额对配额分配请求进行响应。通过采用上述技术方案，由配额池对系统的总配额进行维护，由服务节点动态地向配额池请求分配配额，可以在维持总额度一致的情况下，提高分布式限量服务的吞吐率，且实现节点可以持有动态配额，缓解供求不合理问题。

Description

服务管理系统、方法、设备及存储介质
技术领域
本申请实施例涉及互联网技术领域，尤其涉及服务管理系统、方法、设备及存储介质。
背景技术
在分布式场景下，为保证系统的可用性和稳定性等，让请求和并发在应用可接受的范围内，经常需要对服务进行限流，也即提供限量服务。
目前，分布式系统中的限量服务通常是将配置的总数额放在一个节点上，并保障该数额操作的原子性，从而进行服务数量限制。然而，单点操作通常会限制服务性能，造成较高的延迟，难以保障服务的吞吐率。因此，现有的服务管理方案并不完善，需要改进。
发明内容
本申请实施例提供了服务管理系统、方法、设备及存储介质，可以优化现有的服务管理方案，解决限量服务吞吐率差的问题。
第一方面，本申请实施例提供了一种服务管理系统，包括配额池和服务节点，所述服务节点的数量为至少两个，其中：
所述服务节点，用于根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向所述配额池发送配额分配请求；
所述配额池，用于在接收到所述服务节点发送的所述配额分配请求时，根据系统的未分配配额对所述配额分配请求进行响应。
第二方面，本申请实施例提供了一种服务管理方法，应用于本申请实施例提供的服务管理系统，所述方法包括：
通过服务节点根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向所述配额池发送配额分配请求；
通过配额池在接收到所述服务节点发送的所述配额分配请求时，根据系统的未分配配额对所述配额分配请求进行响应。
第三方面，本申请实施例提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述计算机设备被配置为本申请实施例提供的服务管理系统中的配额池或服务节点，所述处理器执行所述计算机程序时实现所述配额池或所述服务节点的相应功能。
第四方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现本申请实施例提供的服务管理系统中的配额池或服务节点的相应功能。
本申请实施例中提供的服务管理方案，服务管理系统中包括配额池和至少两个服务节点，服务节点用于根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向配额池发送配额分配请求，配额池用于在接收到服务节点发送的配额分配请求时，根据系统的未分配配额对配额分配请求进行响应。通过采用上述技术方案，由配额池对系统的总配额进行维护，由服务节点动态地向配额池请求分配配额，可以在维持总额度一致的情况下，提高分布式限量服务的吞吐率，且实现节点可以持有动态配额，缓解供求不合理问题。
附图说明
图1为本申请实施例提供的一种服务管理系统的结构框图；
图2为本申请实施例提供的一种服务管理系统的工作原理示意图；
图3为本申请实施例提供的一种服务管理方法的流程示意图；
图4为本申请实施例提供的一种计算机设备的结构框图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本申请，而非对本申请的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本申请相关的部分而非全部结构。此外，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。
图1为本申请实施例提供的一种服务管理系统的结构框图，包括配额池101和服务节点102，服务节点的数量为至少两个，图中仅示出了2个服务节点作为示意性说明，服务节点的数量可以根据实际需求设置，可以大于两个，可记为N个。其中，配额池和服务节点可由软件和/或硬件实现，一般可集成在如服务器等计算机设备中。
具体的，所述服务节点102，用于根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向所述配额池发送配额分配请求；所述配额池101，用于在接收到所述服务节点发送的所述配额分配请求时，根据系统的未分配配额对所述配额分配请求进行响应。
示例性的，服务节点为分布式系统中向用户提供服务的节点(以下也可简称为节点)，服务管理系统用于对分布式系统提供的分布式服务的配额进行管理，实现限量服务(也称服务限流)。在分布式场景下，为保证系统的可用性和稳定性等，让请求和并发在应用可接受的范围内，经常需要对服务进行限流，也即限制分布式服务的访问次数，所支持的最大并发访问次数可以理解为限量服务总配额，也可以称为系统的总配额或系统配额，可以用变量Q表示。
相关技术中，通常是将对系统的总配额的管理放在一个节点(可记为管理节点)上，并保障未分配配额操作的原子性，从而进行服务数量限制，这样，服务节点每次接收到用户请求，都需要向管理节点申请配额，申请成功后，再去数据库获取相应的服务资源，以对用户请求进行响应，因此，这样的单点操作会限制服务性能，造成较高的延迟，难以保障服务的吞吐率。相关技术中提出了利用分治思想的改进方案，将总配额分配给各个节点，让每个节点都持有一定的配额，细化分布式锁的粒度，缓解单点压力。然而，这种做法无法动态感知每个节点的请求量，可能导致某些节点配额多余，某些节点配额不足，从而引起供求不合理的问题。
本申请实施例中，提出了配额池的概念，配额池可以将部分的系统配额下发到各服务节点，自己保留剩余的系统配额，也即系统的未分配配额，可以用Q’表示，等待存在配额增加需求的服务节点请求追加配额的分配时，再将未分配配额中的部分或全部分配给需要的服务节点。
可选的，在服务启动时，各服务节点从所述配额池获取对应的预设配额，作为初始的节点剩余配额，可记为ri，也即第i个节点的节点剩余配额，i的取值为0至N，并根据所述预设配额从数据库中获取相应的服务资源进行缓存。其中，不同的服务节点对应的预设配额可以相同，也可以不同，具体可以在服务节点内根据实际需求进行设置，预设配额可记为pi，也即第i个节点的预设配额，初始的ri即为pi。服务节点启动后，可以读取预设配额，并向配额池发送配额初始分配请求，该配额初始分配请求中可以包含预设配额，配额池在接收到配额初始分配请求后，将预设配额分配给相应的服务节点，并更新系统的未分配配额可记为Q’，当N各服务节点的预设配额分配完毕后，Q’＝Q-N*pi。服务节点在获取到预设配额后，从数据库中获取相应的服务资源进行缓存，所获取的服务资源可以理解为用于对用户请求进行响应的相关资源。此外，服务节点可以利用一个原子变量将ri＝pi缓存到内存中，用于对ri进行动态更新。
示例性的，各服务节点分别根据自己接收用户请求的情况对自身的节点剩余配额进行更新。例如，在接收到用户请求时，若节点剩余配额ri大于0，则可接受用户请求，并将节点剩余配额数量减1，也即新ri＝旧ri-1；若节点剩余配额ri等于0，则可拒绝用户请求，节点剩余配额数量不变。可选的，服务节点还可用于在对自身的节点剩余配额进行更新后，将更新后的节点剩余配额写入数据库进行持久化存储，在服务节点发生异常重启等而导致缓存数据丢失的情况下，可以根据数据库中存储的节点剩余配额进行快速恢复。
示例性的，各服务节点可以实时或以预设频率(例如每隔第一预设时间间隔，可记为t1)判断当前的节点剩余配额是否满足预设条件，若满足，则可向配额池发送配额分配请求，其中，配额分配请求中可包含配额请求量，可记为si，该配额请求量可以是预先设置的定值，也可以是由服务节点根据节点剩余配额以及用户请求的接收情况等动态确定的数值。若不满足，可以等待下一次判定。其中，预设条件具体不做限定，例如可以是节点剩余配额小于节点剩余配额阈值，节点剩余配额阈值可以是预先设置的固定值，也可以是动态更新的数值，具体不做限定，可以根据各服务节点的实际需求进行设置。
示例性的，配额池在接收到服务节点发送的配额分配请求时，根据系统的未分配配额对配额分配请求进行响应。可选的，根据系统的未分配配额对配额分配请求进行响应，可包括：根据系统的未分配配额向对应的服务节点分配配额。所分配的配额的具体数量可以根据系统的未分配配额Q’确定，例如可以分配Q’/N；也可以根据系统的未分配配额和配额分配请求中包含的配额请求量确定，例如当Q’大于或等于si时，可以分配s1，当Q’小于si时，可以分配Q’等。
示例性的，服务节点还可用于，根据配额池对自己发送的配额分配请求的响应，对自身的节点剩余配额进行更新。若响应方式为分配新的配额，则更新后的节点剩余配额为更新前的节点剩余配额与新的配额之和，还可以根据新的配额从数据库中获取相应的服务资源进行缓存，以用于对后续接收到的用户请求进行响应，减少数据库访问。
本申请实施例中提供的服务管理方案，服务管理系统中包括配额池和至少两个服务节点，服务节点用于根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向配额池发送配额分配请求，配额池用于在接收到服务节点发送的配额分配请求时，根据系统的未分配配额对配额分配请求进行响应。通过采用上述技术方案，由配额池对系统的总配额进行维护，由服务节点动态地向配额池请求分配配额，可以在维持总额度一致的情况下，提高分布式限量服务的吞吐率，且实现节点可以持有动态配额，缓解供求不合理问题，也即在保证服务性能的同时，尽可能提高供求的合理性。
在一些实施例中，服务节点中可配置有节点配额上限，可记为hi，用于表示该服务节点当前所需拥有的最大配额，初始的节点配额上限可以为上述预设配额pi，也即初始的hi＝pi，该节点配额上限可以在系统运行过程中动态调整，具体调整方式不做限定。
在一些实施例中，所述预设条件包括节点剩余配额小于节点剩余配额阈值，所述节点剩余配额阈值为服务节点自身的节点配额上限与预设比例的乘积。这样设置的好处在于，合理确定发送配额分配请求的时机。其中，预设比例可以根据实际需求设置，例如可以是0.5或0.8等。
在一些实施例中，所述服务节点还用于：基于预设更新方式根据预设时长内的用户请求总量，更新服务节点自身的节点配额上限。这样设置的好处在于，动态更新服务节点自身的节点配额上限，从而动态确定服务节点的配额需求。可选的，服务节点可每隔第二预设时间间隔(可记为t2)来更新节点配额上限，此时预设时长可以为该第二预设时间间隔，第二预设时间间隔可以与第一预设时间间隔相等。其中，更新后的节点配额上限与更新前的节点配额上限的差值可以与用户请求总量正相关。
可选的，所述预设更新方式包括：更新后的节点配额上限为更新前的节点配额上限与所述用户请求总量的加权和。这样设置的好处在于，可以综合当前的节点配额上限和用户请求总量更加合理地更新服务节点的配额需求。其中，用户请求总量记为qi，将更新后的节点配额上限记为新hi，更新前的节点配额上限记为旧hi，则新hi＝k1*旧hi+k2*qi，其中，k1表示第一预设加权值，k2表示第一预设加权值，二者加和为1，具体数值不做限定，例如，k1为0.9，k2为0.1。
在一些实施例中，所述服务节点在向所述配额池发送配额分配请求时，具体用于：根据自身的节点配额上限与节点剩余配额的差值，确定配额请求量；向所述配额池发送配额分配请求，其中，所述配额分配请求中包括所述配额请求量。这样设置的好处在于，服务节点可以根据当前的节点配额上限与节点剩余配额的差值，合理地确定所需申请的配额请求量，使得服务节点能够更好地匹配用户请求情况，满足用户需求。其中，配额请求量si＝hi-ri。
在一些实施例中，所述配额池在根据系统的未分配配额对所述配额分配请求进行响应时，具体用于：在系统的未分配配额大于或等于所接收到的配额分配请求中的配额请求量时，向对应的服务节点分配所述配额请求量对应的额度，并更新未分配配额。这样设置的好处在于，配额池可以根据系统的未分配配额和所接收到的配额分配请求中的配额请求量快速合理地增加对服务节点的配额分配。
可选的，所述配额池在根据系统的未分配配额对所述配额分配请求进行响应时，还用于：在系统的未分配配额为0时，向对应的服务节点发送拒绝分配通知；和/或，在系统的未分配配额大于0且小于所接收到的配额分配请求中的配额请求量时，向对应的服务节点分配未分配配额对应的额度，并更新未分配配额为0。
在一些实施例中，所述配额池还用于：每隔预设时间间隔(可记为第三预设时间间隔T)，对系统的未分配配额进行重置，以对所述多个服务节点的配额进行重新分配。这样设置的好处在于，定期对系统的未分配配额进行重置，使得多个服务节点的配额能够得到重新分配，避免出现配额分配长期过度不均匀的情况发生。其中，系统的未分配配额进行重置时，可以将系统的未分配配额恢复为原始的限量服务总配额，也可根据实际的服务限流策略将系统的未分配配额设置为新的限量服务总配额等。
可选的，所述服务节点还用于：在系统未分配配额重置时，从所述配额池获取对应的预设配额，作为初始的节点剩余配额，并根据所述预设配额从数据库中获取相应的服务资源进行缓存，在接收到用户请求时，根据节点剩余配额和缓存的服务资源对用户请求进行响应。
图2为本申请实施例提供的一种服务管理系统的工作原理示意图，如图2所示，配额池中持有系统的未分配配额Q’，服务节点i持有节点剩余配额ri。当用户向服务节点i发送用户请求时，服务节点i判断节点剩余配额ri是否大于0，若大于0，则接受请求，否则拒绝请求。服务节点i定时根据用户请求总量更新节点配额上限hi，并定时判定是否节点剩余配额ri小于0.5倍的当前节点配额上限hi，若是，则向配额池发送配额分配请求，否则，暂时不发送配额分配请求。配额池接收到配额请求后，判断未分配配额Q’是否大于0，若是，则向服务节点i补充配额，否则，拒绝配额请求。
本申请实施例提供的服务管理系统，可以在维持配额总量一致性的情况下，根据用户请求量动态调整服务节点中的缓存配额，提高分布式限量服务的吞吐率，且实现节点可以持有动态配额，缓解供求不合理问题。
对于吞吐率，假设处理C个请求所使用的时间包含锁等待时间tw和处理时间tp，本申请实施例中，在拥有N个服务节点的情况下，本申请实施例中的锁等待时间为单点加锁方案的1/N，所提升的吞吐率的估算值可以由如下表达式表示，与N成正比关系：
Figure BDA0003519319300000091
在与相关技术中的静态缓存预热方案比较，其每个服务节点上预分配的配额是固定不变的，对于用户活跃度高的节点，静态方案的节点会由于分片配额不足拒绝请求，从而限制了限量服务活跃节点的吞吐率，而本申请实施例中可以根据用户请求动态调节各节点的配额，减少对吞吐率的限制。
此外，本申请实施例提供的服务管理方案，还可以缓解数据丢失情况，当某个服务节点因发生异常而导致崩溃等问题时，配额丢失量最多为该服务节点的节点配额上限，减少对整个分布式系统的影响。
图3为本申请实施例提供的一种服务管理方法的流程示意图，该方法可应用于本申请实施例提供的服务管理系统，所述方法包括：
步骤301、通过服务节点根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向所述配额池发送配额分配请求。
步骤302、通过配额池在接收到所述服务节点发送的所述配额分配请求时，根据系统的未分配配额对所述配额分配请求进行响应。
本申请实施例中提供的服务管理方案，服务管理系统中包括配额池和至少两个服务节点，服务节点用于根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向配额池发送配额分配请求，配额池用于在接收到服务节点发送的配额分配请求时，根据系统的未分配配额对配额分配请求进行响应。通过采用上述技术方案，由配额池对系统的总配额进行维护，由服务节点动态地向配额池请求分配配额，可以在维持总额度一致的情况下，提高分布式限量服务的吞吐率，且实现节点可以持有动态配额，缓解供求不合理问题。
在一些实施例中，所述方法还可包括：通过所述服务节点基于预设更新方式根据预设时长内的用户请求总量，更新服务节点自身的节点配额上限。
在一些实施例中，通过所述服务节点向所述配额池发送配额分配请求，可包括：通过所述服务节点根据自身的节点配额上限与节点剩余配额的差值，确定配额请求量；通过所述服务节点向所述配额池发送配额分配请求，其中，所述配额分配请求中包括所述配额请求量。
在一些实施例中，通过配额池根据系统的未分配配额对所述配额分配请求进行响应，可包括：通过配额池在系统的未分配配额大于或等于所接收到的配额分配请求中的配额请求量时，向对应的服务节点分配所述配额请求量对应的额度，并更新未分配配额。
在一些实施例中，该方法还可包括：通过配额池每隔预设时间间隔，对系统的未分配配额进行重置，以对所述多个服务节点的配额进行重新分配。
在一些实施例中，该方法还可包括：通过所述服务节点，在服务启动时和/或系统未分配配额重置时，从所述配额池获取对应的预设配额，作为初始的节点剩余配额，并根据所述预设配额从数据库中获取相应的服务资源进行缓存，在接收到用户请求时，根据节点剩余配额和缓存的服务资源对用户请求进行响应。
本申请实施例提供了一种计算机设备，所述计算机设备被配置为本申请实施例提供的服务管理系统中的配额池或服务节点。图4为本申请实施例提供的一种计算机设备的结构框图。计算机设备400包括存储器401、处理器402及存储在存储器401上并可在处理器402上运行的计算机程序，所述处理器402执行所述计算机程序时实现本申请实施例提供的服务管理方法中的相应步骤，或，实现所述配额池或所述服务节点的相应功能。
本申请实施例还提供一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行本申请实施例提供的服务管理方法中的相应步骤，或实现本申请实施例提供的服务管理系统中的所述配额池或所述服务节点的相应功能。
上述实施例中提供的服务管理方法、设备以及存储介质可实现本申请任意实施例所提供的服务管理系统中的相应功能，具备相应的功能模块和有益效果。未在上述实施例中详尽描述的技术细节，可参见本申请任意实施例所提供的服务管理系统。

Claims (10)

1.一种服务管理系统，其特征在于，包括配额池和服务节点，所述服务节点的数量为至少两个，其中：
所述服务节点，用于根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向所述配额池发送配额分配请求；
所述配额池，用于在接收到所述服务节点发送的所述配额分配请求时，根据系统的未分配配额对所述配额分配请求进行响应。
2.根据权利要求1所述的系统，其特征在于，所述预设条件包括节点剩余配额小于节点剩余配额阈值，所述节点剩余配额阈值为服务节点自身的节点配额上限与预设比例的乘积。
3.根据权利要求2所述的系统，其特征在于，所述服务节点还用于：
基于预设更新方式根据预设时长内的用户请求总量，更新服务节点自身的节点配额上限。
4.根据权利要求3所述的系统，其特征在于，所述预设更新方式包括：
更新后的节点配额上限为更新前的节点配额上限与所述用户请求总量的加权和。
5.根据权利要求3所述的系统，其特征在于，所述服务节点在向所述配额池发送配额分配请求时，具体用于：
根据自身的节点配额上限与节点剩余配额的差值，确定配额请求量；
向所述配额池发送配额分配请求，其中，所述配额分配请求中包括所述配额请求量；
其中，所述配额池在根据系统的未分配配额对所述配额分配请求进行响应时，具体用于：
在系统的未分配配额大于或等于所接收到的配额分配请求中的配额请求量时，向对应的服务节点分配所述配额请求量对应的额度，并更新未分配配额。
6.根据权利要求1所述的系统，其特征在于，所述配额池还用于：
每隔预设时间间隔，对系统的未分配配额进行重置，以对所述多个服务节点的配额进行重新分配。
7.根据权利要求1-6任一所述的系统，其特征在于，所述服务节点还用于：
在服务启动时和/或系统未分配配额重置时，从所述配额池获取对应的预设配额，作为初始的节点剩余配额，并根据所述预设配额从数据库中获取相应的服务资源进行缓存，在接收到用户请求时，根据节点剩余配额和缓存的服务资源对用户请求进行响应。
8.一种服务管理方法，其特征在于，应用于如权利要求1-7任一所述的服务管理系统，所述方法包括：
通过服务节点根据用户请求的接收情况对自身的节点剩余配额进行更新，在节点剩余配额满足预设条件的情况下，向所述配额池发送配额分配请求；
通过配额池在接收到所述服务节点发送的所述配额分配请求时，根据系统的未分配配额对所述配额分配请求进行响应。
9.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述计算机设备被配置为如权利要求1-7中任一所述的服务管理系统中的配额池或服务节点，所述处理器执行所述计算机程序时实现所述配额池或所述服务节点的相应功能。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的服务管理系统中的配额池或服务节点的相应功能。
CN202210173197.3A 2022-02-24 2022-02-24 服务管理系统、方法、设备及存储介质 Active CN114390058B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210173197.3A CN114390058B (zh) 2022-02-24 2022-02-24 服务管理系统、方法、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210173197.3A CN114390058B (zh) 2022-02-24 2022-02-24 服务管理系统、方法、设备及存储介质

Publications (2)

Publication Number Publication Date
CN114390058A true CN114390058A (zh) 2022-04-22
CN114390058B CN114390058B (zh) 2024-03-08

Family

ID=81204992

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210173197.3A Active CN114390058B (zh) 2022-02-24 2022-02-24 服务管理系统、方法、设备及存储介质

Country Status (1)

Country Link
CN (1) CN114390058B (zh)

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140075029A1 (en) * 2012-09-11 2014-03-13 Maor Lipchuk Virtual resource allocation and resource and consumption management
US20150372881A1 (en) * 2014-06-23 2015-12-24 Synchronoss Technologies, Inc. Apparatus, method and system for dynamic allocation of shared cloud-based resources
CN105827543A (zh) * 2015-01-04 2016-08-03 中国移动通信集团重庆有限公司 一种流量控制方法及电子设备
CN105897484A (zh) * 2016-06-01 2016-08-24 努比亚技术有限公司 一种流量管理装置、服务器和方法
US9519595B1 (en) * 2014-06-27 2016-12-13 Emc Corporation Provisioning resource using quota
CN107018091A (zh) * 2016-02-29 2017-08-04 阿里巴巴集团控股有限公司 资源请求的调度方法和装置
CN110399102A (zh) * 2019-07-19 2019-11-01 苏州浪潮智能科技有限公司 分布式存储系统的数据写入方法、装置、设备及存储介质
CN111176569A (zh) * 2019-12-27 2020-05-19 浪潮电子信息产业股份有限公司 一种流量配额方法、装置、系统和设备及可读存储介质
CN111277640A (zh) * 2020-01-17 2020-06-12 平安科技（深圳）有限公司 用户请求处理方法、装置、系统、计算机设备和存储介质
CN112445857A (zh) * 2019-08-28 2021-03-05 北京京东尚科信息技术有限公司 一种基于数据库的资源配额管理方法和装置
CN112817765A (zh) * 2021-02-08 2021-05-18 北京同有飞骥科技股份有限公司 基于预授权的分布式对象存储桶配额管理方法及系统
CN113076063A (zh) * 2021-04-01 2021-07-06 山东英信计算机技术有限公司 一种目录配额预申请方法、系统、存储介质及设备

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140075029A1 (en) * 2012-09-11 2014-03-13 Maor Lipchuk Virtual resource allocation and resource and consumption management
US20150372881A1 (en) * 2014-06-23 2015-12-24 Synchronoss Technologies, Inc. Apparatus, method and system for dynamic allocation of shared cloud-based resources
US9519595B1 (en) * 2014-06-27 2016-12-13 Emc Corporation Provisioning resource using quota
CN105827543A (zh) * 2015-01-04 2016-08-03 中国移动通信集团重庆有限公司 一种流量控制方法及电子设备
CN107018091A (zh) * 2016-02-29 2017-08-04 阿里巴巴集团控股有限公司 资源请求的调度方法和装置
CN105897484A (zh) * 2016-06-01 2016-08-24 努比亚技术有限公司 一种流量管理装置、服务器和方法
CN110399102A (zh) * 2019-07-19 2019-11-01 苏州浪潮智能科技有限公司 分布式存储系统的数据写入方法、装置、设备及存储介质
CN112445857A (zh) * 2019-08-28 2021-03-05 北京京东尚科信息技术有限公司 一种基于数据库的资源配额管理方法和装置
CN111176569A (zh) * 2019-12-27 2020-05-19 浪潮电子信息产业股份有限公司 一种流量配额方法、装置、系统和设备及可读存储介质
CN111277640A (zh) * 2020-01-17 2020-06-12 平安科技（深圳）有限公司 用户请求处理方法、装置、系统、计算机设备和存储介质
CN112817765A (zh) * 2021-02-08 2021-05-18 北京同有飞骥科技股份有限公司 基于预授权的分布式对象存储桶配额管理方法及系统
CN113076063A (zh) * 2021-04-01 2021-07-06 山东英信计算机技术有限公司 一种目录配额预申请方法、系统、存储介质及设备

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
ABDERRAHIME FILALI等: "SDN Controller Assignment and Load Balancing with Minimum Quota of Processing Capacity", 2018 IEEE INTERNATIONAL CONFERENCE ON COMMUNICATIONS (ICC), 30 July 2018 (2018-07-30) *
卜献伟;: "基于固定配额的在线计费方法优化", 电信技术, no. 06, 25 June 2018 (2018-06-25) *
赵燕;刘心松;邱元杰;周正娟;: "基于数字有机体存储系统配额机制的设计与实现", 成都信息工程学院学报, no. 01 *

Also Published As

Publication number Publication date
CN114390058B (zh) 2024-03-08

Similar Documents

Publication Publication Date Title
CN108667748B (zh) 一种控制带宽的方法、装置、设备和存储介质
US11068301B1 (en) Application hosting in a distributed application execution system
CN109194584B (zh) 一种流量监控方法、装置、计算机设备及存储介质
EP2193472B1 (en) Method and apparatus for managing license capacity in a telecommunication network
JP6881575B2 (ja) 資源割当システム、管理装置、方法およびプログラム
US7437460B2 (en) Service placement for enforcing performance and availability levels in a multi-node system
US20140108681A1 (en) System and method for providing a flexible buffer management interface in a distributed data grid
CN110597858A (zh) 任务数据处理方法、装置、计算机设备和存储介质
CN110297698B (zh) 一种多优先级动态限流方法、装置、服务器及存储介质
CN110244901B (zh) 任务分配方法及装置、分布式存储系统
CN109587220B (zh) 负载均衡方法、装置、计算机设备和存储介质
CN112422610B (zh) 一种基于分布式对象存储的智能网关方法和系统
CN110489227B (zh) 一种资源分配方法、装置、计算机设备和存储介质
CN113486042B (zh) 数据处理方法、装置、计算机可读介质及电子设备
US6009473A (en) Using callbacks to effectively manage resources
WO2019034091A1 (zh) 分布式数据计算的分配方法、装置、服务器及存储介质
CN115168017B (zh) 一种任务调度云平台及其任务调度方法
CN115794396A (zh) 资源分配的方法、系统和电子设备
CN109005071B (zh) 一种决策部署方法和调度设备
CN111045819A (zh) 分布式系统的资源请求方法、装置、设备和存储介质
CN114390058A (zh) 服务管理系统、方法、设备及存储介质
CN113014408A (zh) 分布式系统及其管理方法
CN111813564B (zh) 集群资源管理方法、装置及容器集群管理系统
CN116263715A (zh) 一种面向云原生智能排版服务的自动缩放系统及方法
CN115037752B (zh) 资源再分配方法、装置及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant