CN112236988A - 云计算中用于控制多租户缓存服务的管理操作和共享内存空间的系统和方法 - Google Patents

云计算中用于控制多租户缓存服务的管理操作和共享内存空间的系统和方法 Download PDF

Info

Publication number
CN112236988A
CN112236988A CN201880094304.5A CN201880094304A CN112236988A CN 112236988 A CN112236988 A CN 112236988A CN 201880094304 A CN201880094304 A CN 201880094304A CN 112236988 A CN112236988 A CN 112236988A
Authority
CN
China
Prior art keywords
cloud cache
cache management
service
cloud
management request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201880094304.5A
Other languages
English (en)
Other versions
CN112236988B (zh
Inventor
陈敏
傅贵
胡振华
邝桁
许少辉
赵志
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Cloud Computing Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Publication of CN112236988A publication Critical patent/CN112236988A/zh
Application granted granted Critical
Publication of CN112236988B publication Critical patent/CN112236988B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/02—Standardisation; Integration
    • H04L41/0246—Exchanging or transporting network management information using the Internet; Embedding network management web servers in network elements; Web-services-based protocols
    • H04L41/0273—Exchanging or transporting network management information using the Internet; Embedding network management web servers in network elements; Web-services-based protocols using web services for network management, e.g. simple object access protocol [SOAP]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08—Configuration management of networks or network elements
    • H04L41/0803—Configuration setting
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5003—Managing SLA; Interaction between SLA and QoS
    • H04L41/5019—Ensuring fulfilment of SLA
    • H04L41/5022—Ensuring fulfilment of SLA by giving priorities, e.g. assigning classes of service
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/56—Provisioning of proxy services
    • H04L67/568—Storing data temporarily at an intermediate stage, e.g. caching
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/45583—Memory management, e.g. access or allocation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5072—Grid computing

Abstract

公开了用于控制管理操作和共享内存空间的系统和方法。云缓存管理控制器可以接收多个服务属性集。所述多个服务属性集中的每一个服务属性集都可以与云缓存服务实例相关。所述云缓存管理控制器可以接收第一云缓存管理请求。所述云缓存管理请求可以包括云缓存管理操作。所述云缓存管理控制器可以基于对所述云缓存管理操作的评估，从所述多个服务属性集中检索一个服务属性集。所述云缓存管理控制器可以基于所述第一云缓存管理请求的优先级值向对应的CCSI发送所述第一云缓存管理请求，所述优先级值基于所述检索到的服务属性集计算出。

Description

云计算中用于控制多租户缓存服务的管理操作和共享内存空 间的系统和方法
技术领域
本发明涉及云计算领域，并且在特定实施例中，涉及一种用于控制云缓存服务的管理操作和共享内存空间的系统和方法。
背景技术
云计算是一种基于网络的计算(例如，基于互联网的计算)的形式，其允许访问可配置计算资源和更高级别的服务的共享池。这些共享池通常可以通过互联网以最小的管理工作量来快速地配置。云计算是继基于大型机的计算向以服务形式实现的基于客户端-服务器的计算转变后的又一次模式转变。云计算服务提供商一般通过按需创建虚拟机供客户使用的方式，提供基础设施即服务(infrastructure as a service，简称IaaS)、平台即服务(platform as a service，简称PaaS)和软件即服务(software as a service，简称SaaS)等三种主要类型的服务(以下简称云计算服务)。IaaS提供了可供客户租用的计算基础设施。所述计算基础设施包括虚拟化并在客户之间共享的物理计算资源(例如，处理器、内存、存储器、服务器、网络组件等)。PaaS提供了一个平台，允许客户开发、运行和管理软件应用程序，而无需构建和维护计算基础设施。SaaS以订阅方式提供在互联网上按需运行在计算基础设施上的软件应用程序。云服务提供商提供的一种类型的PaaS是云缓存服务，为在计算基础设施上运行的软件应用程序提供内存数据存储，以缩短数据访问时间，减少延迟，并改善输入/输出(input/output，简称IO)操作。希望改善云缓存服务的性能。
发明内容
本公开的实施例描述了用于控制云缓存服务的管理操作和共享内存空间的系统和方法，总体上具有多项技术优点。
根据实施例，公开了用于控制云缓存管理操作和共享内存空间的方法。云缓存管理控制器可以接收多个服务属性集。所述多个服务属性集中的每一个服务属性集都可以与云缓存服务实例相关。所述云缓存管理控制器可以接收第一云缓存管理请求。所述云缓存管理请求可以包括云缓存管理操作。所述云缓存管理控制器可以基于对所述云缓存管理操作的评估，从所述多个服务属性集中检索一个服务属性集。所述云缓存管理控制器可以基于所述第一云缓存管理请求的优先级值向对应的CCSI发送所述第一云缓存管理请求，所述优先级值基于所述检索到的服务属性集计算出。
还提供了用于执行所述方法的设备以及计算机程序产品。
附图说明
为了更完整地理解本发明及其优点，现在参考下文结合附图进行的描述，其中：
图1A是示出了根据一些实施例的用于提供云计算服务的云计算架构的逻辑框图；
图1B是根据一些实施例的用于提供云缓存服务的云计算架构的云缓存服务系统的图；
图2是传统的云缓存服务系统的图；
图3是根据一些实施例的使用云缓存管理控制器(cloud cache managementcontroller，简称CCMC)的云缓存服务系统的图；
图4是根据一些实施例的使用云缓存管理控制器的云缓存服务系统的消息流的图；
图5是根据一些实施例的用于控制云缓存服务的管理操作和共享内存空间的方法的流程图；
图6是图1A和1B的云计算架构的实施例处理系统的图。
除非另有指示，否则不同图中的对应标号和符号通常指代对应部分。绘制各图是为了清楚地说明实施例的相关方面，因此未必是按比例绘制的。
具体实施方式
下文将详细论述本发明实施例的制作和使用。然而，应了解，本发明提供可在各种具体上下文中体现的许多适用的发明性概念。所论述的具体实施例仅仅说明用以实施和使用本发明的具体方式，而不限制本发明的范围。下面将更详细地描述这些和其他发明方面。
以下详细论述当前实例实施例的操作和其结构。但应了解，本发明提供的许多适用发明概念可实施在多种具体环境中。所论述的具体实施例仅仅说明本发明的具体结构以及用于操作本发明的具体方式，而不应限制本发明的范围。
云缓存服务是一种PasS中间件服务，通常用于提升在云中实例化的虚拟机上运行的应用程序的性能。云缓存服务通常是在云缓存服务节点上提供内存数据存储，以供应用程序高速访问数据。云缓存服务必须能够响应对内存数据存储的大量并发请求，同时保持低延迟和高吞吐量。因此，云缓存服务对提升其性能和资源利用率有较高的要求。提供云缓存服务的系统(以下称为云缓存服务系统)经常处理并响应云缓存管理操作和云缓存用户操作。云缓存管理操作通常涉及云缓存服务的维护，例如云缓存中数据的备份、恢复和迁移等。云缓存用户操作涉及对云应用所使用的缓存数据的访问。
图1A是示意性地示出了可以提供云计算服务的云计算架构的逻辑框图。示出的云计算架构100(以下称为云100)的逻辑图通常包括基础设施平台102(例如，IaaS)、应用平台104(例如，PaaS)和应用106(例如，SaaS)。所述基础设施平台102包括物理硬件资源108和虚拟化层110，所述虚拟化层110向所述应用平台104展示对所述物理硬件资源108的抽象。所述虚拟化层110展示的所述抽象取决于在所述应用平台104上托管的应用112的需求。所述物理硬件资源108包括物理机114(例如，物理计算设备)，其包括物理处理资源(例如，中央处理器(central processing unit，简称CPU)、图形处理器(graphics processing unit，简称GPU)、加速器、张量处理器(tensor processing unit，简称TPU))。所述物理硬件资源108还包括物理存储器116和用于将所述物理机114连接到所述物理存储器116的网络资源(未示出)，以使所述物理机114能够访问所述物理存储器116。所述物理存储器包括存储资源，所述存储资源包括存储器(例如，静态随机存取存储器(static random accessmemory，简称SRAM)、动态随机存取存储器(dynamic random access memory，简称DRAM)、同步DRAM(synchronous DRAM，简称SDRAM)、只读存储器(read-only memory，简称ROM)、永久性存储器(例如，硬盘驱动器、固态驱动器、光盘驱动器等)及其组合。所述物理硬件资源108通常位于数据中心内。如本领域中将理解的，数据中心包括物理硬件资源108(通常为服务器形式)的处理、存储和网络资源的集合，可以作为集体计算资源使用。在数据中心内，多个服务器可以连接在一起以提供计算资源池，在该计算资源池上可以实例化虚拟实体。数据中心可以彼此互连以形成计算资源池，所述计算资源通过连接资源彼此互连。上述连接资源可以采取以太网或光通信链路等物理连接的形式。
所述虚拟化层110通过提供基础设施即服务(Infrastructure as a Service，简称IaaS)设施，为应用112提供灵活高效的多租户运行时间和托管环境支持。所述虚拟化层110包括虚拟化管理器或虚拟机监视器(未示出)，所述虚拟化管理器或虚拟机监视器可以为应用平台104托管的每个应用112提供安全和资源“沙箱”。每个“沙箱”可以实现为虚拟机(Virtual Machine，简称VM)118(例如，虚拟计算设备)，所述VM 118可以包括适当的操作系统以及对虚拟化处理资源、存储资源(例如，虚拟存储器120)和联网资源等虚拟计算资源集合的受控访问。
所述虚拟化层110对所述物理硬件资源108的虚拟化视为所述云100的基础技术。虚拟化是一种允许创建计算资源(例如，处理、存储和网络资源)的虚拟计算资源池，所述计算资源通过连接资源彼此互连。虚拟化可以采取实例化VM 118的形式，对于网络上的另一个实体和在所述VM 118上执行的软件而言，所述形式与物理计算设备并无区别。VM 118具有其自身的计算资源集合(例如，处理、存储和连接资源)，可以在其上执行操作系统。所述VM 118可以具有可以分配网络地址的虚拟网络接口。在底层资源和VM 118之间，通常存在管理资源隔离和网络交互的虚拟机监视器(未示出)。VM 118的目的之一是提供与所述云100上运行的其他进程的隔离。最初开发时，VM 118是一种机制，该机制允许不同进程运行，而无需担心单个错误进程导致整个系统崩溃。相反，错误进程将包含在其自身的VM 118中。这种隔离允许每个VM 118拥有其自身的网络接口集合。通常，单个底层计算资源可以支持多个虚拟化实体。
本领域技术人员将理解，最近的发展是使用容器代替VM 118。如上所述，每个VM118通常包括其自身的操作系统，这通常会增加冗余计算、存储以及连接资源的使用。容器允许单个OS内核支持多个独立的应用程序。取代允许每个VM 118运行其自身OS的虚拟机监视器，单个OS托管容器，这些容器负责执行本将由VM 118提供的资源隔离。
应用平台104能够托管应用112并且包括应用平台服务122。所述应用平台服务122为托管在所述应用平台104上的所述应用112提供一组中间件应用服务和基础设施服务。在如图1A所描述的实施例中，所述应用平台服务122包括用于内存数据存储的云缓存服务系统124、用于应用的数据库服务126、用于将消息发布给订阅客户的消息服务128以及应用编程接口(application programming interface，简称API)网关服务130，所述应用编程接口网关服务130使得客户端能够创建、发布和维护应用编程接口(application programminginterface，简称API)，以访问其他云服务。本领域技术人员将理解，所述应用平台服务122可以向客户提供其他中间件应用服务，例如通知服务、运行时间服务等。来自客户端的应用112可以在各自的VM 118或物理机114内部署和执行。由SaaS提供并由应用平台104托管的应用可以在各自的VM 118或物理机114内运行。
图1B示出了根据一些实施例的云100的云缓存服务系统124的图。在图1B中，客户端设备的用户152可以通过一个或多个网络154访问和使用在所述云100中运行的一个或多个云应用。一个或多个网络154可以是有线和/或无线网络，并且可以包括LAN、WAN、互联网等的任意组合。
云应用(或云APP)158，是在所述云100的虚拟机上部署和执行的软件应用，或由SaaS提供并由所述云100的应用平台104托管的应用112的实例。云应用158是标准Web或移动应用和常规桌面应用的混合。云应用158是一个软件程序，其中该应用的基于云/服务器端的组件和本地/客户端的组件一起工作。云应用158的示例可以包括但不限于基于Web的文字处理程序和基于Web的电子表格应用。云应用的模式依靠驻留在数据中心中的远程服务器来实现处理逻辑和数据，这些逻辑和数据通过具有持续可靠网络连接的本地客户端Web浏览器进行访问。云应用158不需要在用户的客户端设备中进行大量的存储。如果与所述用户152相关联的所述客户端设备具有快速的互联网连接，则高效的云应用可以提供本地/客户端应用的交互以及Web应用的可移植性。例如，与所述用户152相关联的客户端设备可以提供Web浏览器和互联网连接，通过在所述客户端设备的显示器(图1B中未示出)上展示的本地图形用户界面(图1B中未示出)，该网页浏览器和互联网连接可以轻松允许所述用户152访问和使用所述云应用158。
当与所述用户152相关联的所述客户端设备访问并使用一个所述云应用158时，所述应用平台104可以为该云应用实例化一个相应的云应用的实例(以下称为云应用实例160)。例如，如果用户152使用Web浏览器或客户端设备的移动应用打开Word文档，则在所述云100中实例化SaaS提供的云应用(例如，基于云的文字处理应用)的云应用实例160，以处理Word文档。云应用实例160可以读取或修改与Word文档相关联的数据，该数据永久存储在由数据库服务126提供的数据库162中。数据库162可以在云100的一个或多个物理硬件资源108上实例化。
读取和/或修改数据库162中的数据需要访问数据库162使用的物理硬件资源108(例如，物理存储资源)。访问物理硬件资源108(例如，物理存储资源)可能很慢。为了缩短响应时间，云100通常包括用于提供云缓存服务124的云缓存服务系统156。缓存是一种高速数据存储，其存储数据的子集，通常本质上是瞬态的，从而与从物理硬件资源108的物理存储资源中检索数据相比，未来对该数据的请求可以更快地从高速缓存中检索出来。在一个示例中，云缓存服务系统156可以提供托管的内存数据存储和缓存服务，使得托管和管理的云应用能够比从数据库162检索和修改数据更快地(例如，在更少的时间内)检索和修改数据。
缓存服务系统156中的数据通常存储在快速访问的物理硬件资源中，例如随机存取存储器(random access memory，简称RAM)中，比实例化数据库162的物理存储资源速度更快，但是存储容量更小。缓存服务系统156的一些非限制性示例可以包括AmazonElastiCache、Microsoft Azure Redis Cache、Google Memcache、IBM Compose for Redis以及Alibaba ApsaraDB for Redis。缓存服务系统156中的数据可以与云应用实例160等云应用实例相关联地使用。缓存服务系统156的主要目的是通过减少访问实例化数据库162的底层较慢的物理存储资源的需求来提高数据检索性能。相反，实例化数据库162的较大的物理存储资源上存储的数据通常是完整且持久的。
图2示出了传统的云缓存服务系统200的图。图2中的云缓存服务系统200可以是图1B中的云缓存服务系统156的一个示例。云缓存服务系统200包括云缓存服务管理器(cloudcache service manager，简称CCSM)206和云缓存服务节点240、242和244。为了简化说明，图2示出了三个云缓存服务节点。然而，云缓存服务系统200可以包括任何数量的云缓存服务节点。
每个云缓存服务节点包括一个或多个云缓存服务实例(cloud cache serviceinstance，简称CCSI)。例如，云缓存服务节点240包括云缓存服务实例220、222和224。为了简化说明，图2示出了云缓存服务节点240中的三个云缓存服务实例。然而，云缓存服务节点可以具有任何数量的云缓存服务实例。每个云缓存服务实例与云应用158的实例相关联并由其使用。例如，云应用用户204可以使用客户端设备的Web浏览器或移动应用与基于云的文字处理应用进行交互，以打开Word文档，所述基于云的文字处理应用由SaaS提供并由云100的应用平台104托管。云100的应用平台104可以实例化云应用实例，例如图1B中的云应用实例160。所述云应用实例(图2中未示出)与一个所述云缓存服务实例相关联。例如，云应用实例可以与云缓存服务实例224相关联。每个云缓存服务实例可以有自身独立的内存空间。在图2所示的示例中，云缓存服务节点240包括三个独立的内存空间230、232和234。云缓存服务实例220、222和224分别与内存空间230、232和234相关联。
当云应用用户204使用客户端设备的Web浏览器或移动应用阅读或编辑Word文档时，云缓存用户操作(例如，与读取或修改缓存数据有关的操作)被发送到与云应用实例相关联的云缓存服务实例，云应用实例将定位与云缓存服务实例相关联的内存空间。
云缓存服务系统还可以通过云缓存服务管理器206处理云缓存管理操作。云缓存服务管理器206可以在云100的一台或多台物理机114或一台或多台VM 118上运行。云缓存服务管理器206可以从云管理员202接收云缓存管理操作。然后，云缓存服务管理器206可以将包含云缓存管理操作的云缓存管理请求发送到对应的一个或多个云缓存服务实例。云缓存管理操作的示例包括但不限于缓存数据的备份、恢复和迁移。例如，云管理员用户202可能希望备份与云缓存服务实例222和224相关联的数据。在云缓存服务管理器206收到对此类云缓存管理操作的请求之后，云缓存服务管理器206可以转发所述请求到云缓存服务实例222和224以开始备份过程。
在传统的云缓存服务系统中，云缓存用户操作、云缓存管理操作以及云缓存服务实例的服务属性之间没有适当的协调。云缓存用户操作的性能(例如，响应时间)可能会受到云缓存管理操作的严重影响，因为云缓存管理操作通常需要对大量数据进行操作(例如，备份、恢复或迁移)。此外，云缓存服务节点中不同的云缓存服务实例具有其自身独立的内存空间，以处理来自云缓存管理操作和云缓存用户操作的并发请求。为每个单独的云缓存服务实例提供独立的内存空间的方法，不能有效地利用云缓存服务节点上的内存资源。
例如，存在若干个与图2所示的传统云缓存服务系统200相关的技术限制。第一个技术问题是，云缓存管理操作(例如，备份、恢复、迁移)可能会影响云缓存用户操作的性能。用户操作与云应用用户对云应用的使用相关联。基于云的文字处理程序或电子表格应用等许多云应用，都需要与云应用的用户实时交互。因此，云缓存服务系统的性能和响应时间对于云应用至关重要。此外，在云100中，许多多租户服务可以托管在单个物理节点中，所述单个物理节点共享了其资源，例如，所述单个物理节点提供的物理硬件资源108的一部分。多租户服务是指在物理节点上运行并为多个租户提供服务的软件服务。租户可以是一组用户，共享具有对软件实例的特定特权的公共访问权。采用多租户架构，软件应用设计为向每个租户提供专用的实例份额，包括其数据、配置、用户管理以及租户个人功能。尽管物理硬件资源108可以由云100中的许多物理节点提供，但是某些租户可以共享由单个物理节点提供的部分物理硬件资源108。在这一方面，来自多个租户的云缓存服务实例会影响这些租户彼此的性能。此外，云缓存管理操作可能是资源密集型的。例如，备份缓存管理操作可以请求备份100千兆字节的缓存数据。如果云缓存管理操作和云缓存用户操作之间没有适当的协调，则云缓存用户操作的性能会因资源要求高的云缓存管理操作而大打折扣。
第二个技术问题是资源利用效率。如图2所示，每个云缓存服务实例都有其自身的内存空间。为了处理当前的云缓存管理操作和云缓存用户操作，对多个云缓存服务实例的云缓存管理操作需要多份系统交换内存(每个云缓存服务实例一份)。例如，当云缓存服务实例执行备份时，云缓存服务实例处于只读模式。因此，与云应用用户相关联的客户端设备的云缓存用户操作的写入请求可以临时重定向到交换内存。当备份完成时，交换内存中的缓存数据可以写回云缓存服务实例。然而，从资源利用率来看，每个云缓存服务实例具有一个内存空间并不是高效的方案。
因此，需要用于提高云缓存服务系统的性能和资源利用率的技术方案。
为了解决上述技术问题，本发明实施例提供了一种技术方案，其中，云缓存服务系统包括云缓存服务管理器(cloud cache service manager，简称CCSM)和一个或多个云缓存服务节点上的云缓存服务实例(cloud cache service instance，简称CCSI)之间的云缓存服务控制器(cloud cache service controller，简称CCSC)。云缓存服务控制器控制管理操作。在接收到云缓存管理请求之后，云缓存服务控制器可以评估云缓存管理请求中的云缓存管理操作。云缓存服务控制器可以基于相关联的服务属性维度/等级来计算优先级值。然后，云缓存服务控制器使用计算出的优先级值来确定如何控制和转发包括云缓存操作的云缓存管理请求到对应的云缓存服务实例。由于云缓存用户操作不受云缓存管理操作的影响，因此，通过控制云缓存管理操作，云缓存服务控制器提高了云缓存用户操作的性能。此外，云缓存管理控制器提供的控制，使得同一云缓存服务节点中的不同云缓存服务实例可以共享相同的共享内存空间，从而更有效地利用云缓存服务节点上的内存资源。
图3示出了根据一些实施例的使用云缓存管理控制器(cloud cache managementcontroller，简称CCMC)来控制云中的管理操作和共享内存空间的云缓存服务系统300的图。图3中的云缓存服务系统300可以是图1B中的云缓存服务系统156的另一示例。云缓存服务系统300包括云缓存服务管理器(cloud cache service manager，简称CCSM)306、云缓存管理控制器(cloud cache management controller，简称CCMC)308、云缓存服务数据库310以及云缓存服务节点340、342和344。为了简化说明，图3示出了三个云缓存服务节点。然而，云缓存服务系统300可以包括任何数量的云缓存服务节点。
每个云缓存服务节点包括一个或多个云缓存服务实例(cloud cache serviceinstance，简称CCSI)。例如，云缓存服务节点340包括云缓存服务实例320、322和324。为了简化说明，图3示出了云缓存服务节点340中的三个云缓存服务实例。然而，云缓存服务节点可以具有任何数量的云缓存服务实例。每个云缓存服务实例与云应用的实例相关联并由其使用。例如，云应用用户304可以使用客户端设备的Web浏览器或移动应用与基于云的文字处理应用的实例(例如，图1B中的云应用实例160)进行交互，以打开Word文档，所述基于云的文字处理应用的由SaaS提供并由应用平台104托管。所述云应用实例(图3中未示出)与一个所述云缓存服务实例相关联。例如，云应用实例可以与云缓存服务实例324相关联。与图2中描述的传统云缓存服务系统200相比，同一云缓存服务节点中的所有云缓存服务实例可以共享相同的共享内存空间(shared memory space，简称SMS)。在图3所示的示例中，云缓存服务节点340具有一个由云缓存服务实例320、322和324使用和共享的共享内存空间330。
当云应用用户304使用客户端应用的Web浏览器或移动应用访问在云100中运行的文字处理应用以对Word文档执行文档查看或文档编辑等某些操作时，云缓存用户操作(例如，与读取或修改缓存数据有关的操作)被发送到与云应用实例相关联的云缓存服务实例，云应用实例将定位共享内存空间330。
云缓存服务管理器306可以在云100的一台或多台物理机114或一台或多台VM 118上运行。云缓存服务管理器306可以从管理员302接收云缓存管理操作。云缓存管理操作的示例包括但不限于缓存数据的备份、恢复和迁移。
与图2所示的传统的云缓存服务系统200相比，图3中的云缓存服务系统300包括在云缓存服务管理器306和云缓存服务节点340、342和344上的云缓存服务实例之间的云缓存管理控制器308。在一个实施例中，云缓存管理控制器308和云缓存服务管理器306可以运行在云的相同物理机114或VM 118上。在另一个实施例中，云缓存管理控制器308和云缓存服务管理器306可以运行在云100的不同物理机114或VM上。在云缓存服务管理器306从云管理员用户302接收云缓存管理操作之后，云缓存服务管理器306将包含云缓存管理操作的云缓存管理请求发送到云缓存管理控制器308。云缓存管理控制器308可以先对云缓存管理请求中的云缓存管理操作进行评估，而非立即将云缓存管理操作转发给对应的云缓存服务实例。然后，云缓存管理控制器308可以基于所述评估来确定如何控制和转发云缓存管理操作。
云缓存管理控制器308可以基于云缓存管理操作的类型来评估云缓存管理请求中的云缓存管理操作。例如，云缓存管理控制器308可以检索与云缓存管理操作的类型相关联的服务属性维度/等级的集合。所有服务属性维度/等级可以永久存储在云缓存服务数据库310中。在接收任何云缓存管理操作之前，云缓存管理控制器308可以从云缓存服务数据库310收集所有服务属性维度/等级312。在一个示例中，云缓存管理控制器308可以在启动时从云缓存服务数据库310收集所有服务属性维度/等级312。此外，云缓存管理控制器308可以周期性地向云缓存服务数据库310发送收集请求，以使云缓存管理控制器308可以接收关于属性维度/等级的最新更新。
云缓存服务系统300具有多个维度，用于描述云缓存服务124的不同服务等级协议(service-level agreement，简称SLA)。SLA可以具有功能需求，该需求定义了系统或其组件的功能。功能可以描述为一组输入、行为和输出。SLA还可以具有非功能要求，该非功能要求规定了可用于判断系统运行的标准，而非具体行为。系统是指在定义功能/非功能需求方面的计算机系统(例如，软件和/或硬件)。所述系统可以是云缓存系统300或基于云计算架构100的云系统。
维度的示例包括但不限于应用平台服务122的服务计划，所述应用平台服务122包括云缓存服务124、进入下一个维护时间所经过的时间、从上一个维护时间退出所经过的时间、操作执行长度预测以及资源消耗预测。每个维度都可以分配一个权重。系统中所有维度的权重总和为100％。例如，系统可以具有三个维度。服务计划的维度可以具有60％的权重，进入下一个维护时间所经过时间的维度可以具有30％的权重，从上一个维护时间退出所经过时间的维度可以具有10％的权重。
每个维度可以具有一个或多个等级。每个等级可以具有一个级别。在一个示例中，所述级别可以在1至10的范围内。级别越高，分配给维度的SLA等级越高。例如，系统可以有三个等级的服务计划。1级为VIP客户计划。2级为专用客户计划。3级为随用随付客户计划。不同的服务计划可以分配不同的级别，以指示一个服务计划相对于其他服务计划的相对重要性。例如，VIP客户计划的级别可以是10，专用客户计划的级别可以是6，随用随付客户计划的级别可以是3。
基于检索到的服务属性维度/等级，云缓存管理控制器308可以计算云缓存管理操作的优先级值。云缓存管理控制器308使用优先级值来确定如何控制和转发云缓存管理请求到一个或多个对应的云缓存服务实例。优先级值可以是一个总体级别，所述总体级别基于与所述维度中的每个维度相关联的权重以及一个或多个等级计算出。例如，如果有N个维度，并且每个维度都有一个等级，则优先级值可以基于以下内容计算：
优先级值＝维度1.等级*权重1+维度2.等级*权重2+……+维度N.等级*权重N
在上述示例中，维度i.等级表示维度i等级的级别，权重i表示与维度i相关联的权重。
当一个维度有多个等级时，在计算优先级值时可以考虑每个等级的级别。例如，如果有N个维度，并且除了第一个维度有两个等级外，其他每个维度都有一个等级，则优先级值可以基于以下内容计算：
优先级值＝维度1.等级1*权重1+维度1.等级2*权重1+维度2.等级*权重2+……+维度N.等级*权重N
在上述示例中，维度i.等级表示维度i(维度1除外)等级的级别，权重i表示与维度i相关联的权重。此外，维度1.等级1表示维度1的第一个等级的级别，维度1.等级2表示维度1的第二个等级的级别。
计算出优先级值之后，云缓存管理控制器308可以基于优先级值确定如何控制云缓存管理操作。例如，云缓存管理控制器308可以延迟将云缓存管理操作转发到对应的云缓存服务实例，直到下一个维护时间窗口为止。在另一个非限制性示例中，云缓存管理控制器308可以计算多个云缓存管理操作的优先级值，并对云缓存管理操作重新排序。云缓存管理控制器308可以在转发具有较低优先级值的另一云缓存管理操作之前，转发具有较高优先级值的云缓存管理操作。
图4是根据一些实施例的使用云缓存管理控制器的云缓存服务系统的消息流400的图。云缓存管理控制器(cloud cache management controller，简称CCMC)406首先将收集请求发送到云缓存服务数据库(cloud cache service database，简称CCSD)408，以收集服务属性维度/等级的信息。CCSD 408可以永久存储所有服务属性维度/等级的信息。在一个实施例中，CCMC可以发送收集请求以收集存储在CCSD 408中的所有服务属性维度/等级的信息。然后，CCMC 406从CCSD 408接收收集响应。所述收集响应包括所请求的服务属性维度/等级的信息。CCMC 406可以在接收任何云缓存管理请求之前初始收集服务属性维度/等级。此外，CCMC 406可以周期性地向CCSD 408发送收集请求，以使CCMC 406可以接收关于属性维度/等级的最新更新。
为了触发备份、恢复或迁移等云缓存管理操作，管理员可以使用其管理计算设备402上的图形用户界面来发起云缓存管理操作。在另一个实施例中，可以由运行在管理计算设备402上的云缓存管理软件程序自动发起管理操作，而无需任何用户交互。然后，管理计算设备402向云缓存服务管理器(cloud cache service manager，简称CCSM)404发送包括云缓存管理操作的云缓存管理请求。CCSM 404将包括云缓存管理操作的云缓存管理请求转发到云缓存管理控制器(cloud cache management controller，简称CCMC)406，而非直接将管理请求转发到对应的云缓存服务实例(cloud cache service instance，简称CCSI)410。
在CCMC 406从CCSM 404接收到云缓存管理请求之后，CCMC 406对云缓存管理请求进行评估，以确定云缓存管理请求中的云缓存管理操作的管理操作类型。管理操作类型可以是但不限于备份、恢复或迁移中的一种。CCMC 406基于管理操作类型计算云缓存管理操作的优先级值。例如，CCMC 406可以检索与云缓存管理操作的类型相关联的服务属性维度/等级的集合。优先级值可以是一个总体级别，所述总体级别是CCMC 406基于权重以及一个或多个级别计算出的，所述权重和一个或多个级别与检索出的服务属性维度/等级集合中的所述维度中的每个维度相关联。
在计算出优先级值之后，CCMC 406使用优先级值来确定如何控制和转发云缓存管理请求到CCSI 410。CCMC 406可以延迟到下一个维护时间窗口，以基于计算出的优先级值将云缓存管理请求转发到CCSI 410。在另一实施例中，CCMC 406可以接收多个云缓存管理请求，包括对一个或多个CCSI的多个云缓存管理操作。CCMC 406可以计算多个云缓存管理操作中每一个云缓存管理操作的优先级值。然后，CCMC 406基于计算出的优先级值对多个云缓存管理请求进行重新排序，并基于重新排序转发多个云缓存管理请求。
CCMC 406向CCSI 410发送云缓存管理请求，云缓存管理请求指示CCSI 410启动云缓存管理请求中包括的云缓存管理操作。CCSI 410基于云缓存管理操作定位共享内存空间(shared memory space，简称SMS)412。在定位SMS 412之后，CCSI 410执行云缓存管理操作。之后，CCSI将操作完成响应发送回CCMC 406，以指示所请求的云缓存管理操作已成功完成。然后，CCMC 406将操作完成响应转发回CCSM 404，CCSM 404再将操作完成响应发送给管理计算设备402。
图5示出了根据一些实施例的用于控制云100中的管理操作和共享内存空间的方法500的流程图。方法500可以由图3中的云缓存管理控制器308和图4中的CCMC 406等云缓存管理控制器进行或执行。云缓存管理控制器可以包括软件的例程、子例程或模块，当所述软件由云100的一台或多台物理机114或一台或多台VM 118执行时，使得云缓存管理控制器进行或执行方法500。软件的编码完全在本领域普通技术人员考虑到本公开的范围内。方法500可以包括比所示出和描述的操作更多或更少的操作，并且可以以不同的顺序进行或执行。可以由一台或多台物理机114或一台或多台VM 118执行的软件的计算机可读代码或指令可以存储在物理硬件资源108的物理存储器116的物理存储资源上，所述物理存储资源例如是非瞬时性计算机可读介质。
方法500开始于操作502，其中云缓存管理控制器可以接收多个服务属性集。云缓存管理控制器可以在云的计算资源上运行。所述多个服务属性集中的每一个服务属性集都可以与云缓存服务实例(cloud cache service instance，简称CCSI)相关。所述多个服务属性集可以是存储在云缓存服务数据库162中的所有服务属性。在操作504处，云缓存管理控制器可以接收第一云缓存管理请求，所述第一云缓存管理请求包括云缓存管理操作。所述云缓存管理请求可以包括云缓存管理操作。
在操作506处，所述云缓存管理控制器可以基于对所述云缓存管理操作的评估，从所述多个服务属性集中检索一个服务属性集。在一个实施例中，为了评估云缓存管理操作，云缓存管理控制器可以确定云缓存管理操作的管理类型。云缓存管理操作的管理类型可以包括备份、恢复或迁移中的一种。然后，所述云缓存管理控制器可以基于所述确定的管理类型检索所述多个服务属性集中的所述服务属性集。所述检索到的服务属性集可以与对应的CCSI相关联。
所述检索到的服务属性集可以包括与对应的CCSI相关联的多个维度。所述多个维度中的每个维度可以对应于云缓存服务124的不同的服务等级协议(service-levelagreement，简称SLA)。所述多个维度可以包括以下各项中的至少一个：云缓存服务124的服务计划的维度、进入下一个维护时间所经过时间的维度、从上一个维护时间退出所经过时间的维度、操作长度预测的维度、或资源消耗预测的维度。此外，所述多个维度中的每个维度可以与权重和一个或多个服务计划等级相关联。在一个实施例中，与所述多个维度中的所述每个维度相关联的所述权重之和等于100％。
在操作508处，所述云缓存管理控制器可以基于所述第一云缓存管理请求的优先级值向对应的CCSI发送所述第一云缓存管理请求。所述优先级值可以基于所述检索到的服务属性集计算出。在一个实施例中，所述云缓存管理控制器可以基于与所述多个维度中的所述每个维度相关联的所述权重和所述一个或多个等级，计算所述云缓存管理请求的所述优先级值，所述多个维度与所述检索到的服务属性集相关联。
在一个实施例中，所述云缓存管理控制器可以延迟到下一个维护时间窗口，以基于所述优先级值将所述第一云缓存管理请求发送到所述对应的CCSI。
在另一个实施例中，所述云缓存管理控制器可以基于计算出的与各个云缓存管理请求相关联的优先级值，对多个云缓存管理请求进行排序。例如，所述云缓存管理控制器可以在接收到第一云缓存管理请求后，接收第二云缓存管理请求。所述第二云缓存管理请求可以包括第二云缓存管理操作。然后，所述云缓存管理控制器可以基于对所述第二云缓存管理操作的第二评估，从所述多个服务属性集中检索一个第二服务属性集。接着，所述云缓存管理控制器可以基于所述检索到的第二服务属性集计算所述第二云缓存管理请求的第二优先级值。所述云缓存管理控制器可以基于所述第一云缓存管理请求的所述第一优先级值和所述第二云缓存管理请求的所述第二优先级值，对所述第一云缓存管理请求和所述第二云缓存管理请求进行排序。例如，如果所述第二优先级值大于所述第一优先级值，则可以将所述第二云缓存管理请求置于所述第一云缓存管理请求之前。然后，所述云缓存管理控制器可以基于所述排序向一个或多个对应的云缓存服务实例发送所述第一云缓存管理请求和所述第二云缓存管理请求。
图6是用于实现本文描述的云缓存服务系统的实施例处理系统600的框图，所述云缓存服务系统可以是云100的物理硬件资源108的物理机114的一部分。尽管图6描述了单个实施例处理系统，但是本领域技术人员将理解，多个处理系统600可以共同运行在云100的物理硬件资源108的一台或多台物理机114上，从而实现图1B中的云缓存服务系统156和图3所示的云缓存服务系统300。如图所示，处理系统600包括处理器604、存储器606和接口610-614，所述处理器604、存储器606和接口610-614可以(或可以不)如图6所示布置。处理器604可以是用于执行计算和/或其他处理相关任务的任何组件或组件集合。存储器606可以是用于存储由处理器604执行的编程和/或指令的任何组件或组件集合。在一个实施例中，存储器606包括非瞬时性计算机可读介质。接口610、612和614可以是允许处理系统600与其他设备/组件和/或用户通信的任何组件或组件集合。例如，接口610、612和614中的一个或多个可以用于将数据、控制或管理消息从处理器604传送到由应用平台104托管的应用。又例如，接口610、612和614中的一个或多个可以用于允许用户或用户设备(例如，个人计算机(personal computer，简称PC)、智能手机、膝上型计算机等)与处理系统600交互/通信。处理系统600可以包括图6中未示出的附加组件，例如长期存储(例如，非易失性存储器等)。
在一些实施例中，处理系统600包括在访问一个或多个网络154或作为一个或多个网络154的一部分的网络设备中。在其他实施例中，处理系统600处于通过一个或多个网络154访问云100的客户端设备中。所述客户端设备可以是移动通信设备(例如，智能手机)、用户设备(user equipment，简称UE)、个人计算机(personal computer，简称PC)、平板电脑、可穿戴式通信设备(例如，智能手表等)、或用于通过一个或多个网络154访问云100的任何其他客户端设备。
如上所述，所公开的云缓存服务控制器基于优先级值来控制云缓存管理操作和共享内存空间。与传统的云缓存服务系统相比，控制云缓存管理操作主要有两个技术优势。首先，由于云缓存用户操作不受云缓存管理操作的影响，因此，提高了云缓存用户操作的性能。其次，同一云缓存服务节点中的不同云缓存服务实例可以共享相同的共享内存空间。这样的共享更有效地利用了云缓存服务节点的资源。
虽然已参考说明性实施例描述了本发明，但此描述并不意图限制本发明。所属领域的技术人员在参考该描述后，将会明白说明性实施例的各种修改和组合，以及本发明其他实施例。因此，所附权利要求书意图涵盖任何此类修改或实施例。

Claims (45)

1.一种方法，其特征在于，包括：
运行在云计算资源上的云缓存管理控制器(cloud cache management controller，简称CCMC)接收多个服务属性集，所述多个服务属性集中的每一个服务属性集都与云缓存服务实例(cloud cache service instance，简称CCSI)相关；
所述CCMC接收第一云缓存管理请求，所述第一云缓存管理请求包括云缓存管理操作；
所述CCMC基于对所述云缓存管理操作的评估，从所述多个服务属性集中检索一个服务属性集；
所述CCMC基于所述第一云缓存管理请求的优先级值向对应的CCSI发送所述第一云缓存管理请求，所述优先级值基于所述检索到的服务属性集计算出。
2.根据权利要求1所述的方法，其特征在于，所述评估还包括：
所述CCMC确定所述云缓存管理操作的管理类型；
所述CCMC基于所述确定的管理类型检索所述多个服务属性集中的所述服务属性集，所述检索到的服务属性集与所述对应的CCSI相关联。
3.根据权利要求1所述的方法，其特征在于，所述检索到的服务属性集包括与所述对应的CCSI相关联的多个维度，所述多个维度中的每个维度对应于不同的服务等级协议(service-level agreement，简称SLA)。
4.根据权利要求3所述的方法，其特征在于，所述多个维度中的所述每个维度与权重和一个或多个计划等级相关联。
5.根据权利要求4所述的方法，其特征在于，通过以下方式计算所述第一云缓存管理请求的所述优先级值：
所述CCMC基于与所述多个维度中的所述每个维度相关联的所述权重和所述一个或多个计划等级，计算所述第一云缓存管理请求的所述优先级值。
6.根据权利要求4所述的方法，其特征在于，与所述多个维度中的所述每个维度相关联的所述权重之和等于100％。
7.根据权利要求3所述的方法，其特征在于，所述多个维度包括以下各项中的至少一个：服务计划的维度、进入下一个维护时间所经过时间的维度、从上一个维护时间退出所经过时间的维度、操作长度预测的维度、或资源消耗预测的维度。
8.根据权利要求1所述的方法，其特征在于，所述发送包括：
所述CCMC延迟到下一个维护时间窗口，以基于所述优先级值将所述第一云缓存管理请求发送到所述对应的CCSI。
9.根据权利要求1所述的方法，其特征在于，所述云缓存管理操作的管理类型包括备份、恢复或迁移中的一种。
10.根据权利要求1所述的方法，其特征在于，还包括：
所述CCMC接收第二云缓存管理请求，所述第二云缓存管理请求包括第二云缓存管理操作；
所述CCMC基于对所述第二云缓存管理操作的第二评估，从所述多个服务属性集中检索一个第二服务属性集；
所述CCMC基于所述检索到的第二服务属性集计算所述第二云缓存管理请求的第二优先级值；
所述CCMC基于所述优先级值和所述第二优先级值对所述第一云缓存管理请求和所述第二云缓存管理请求进行排序，其中，所述发送包括基于所述排序发送所述第一云缓存管理请求和所述第二云缓存管理请求。
11.根据权利要求1所述的方法，其特征在于，所述发送包括：
所述CCMC向云缓存服务节点上对应的CCSI发送所述第一云缓存管理请求，所述云缓存服务节点包括CCSI集合，所述CCSI集合包括所述对应的CCSI，其中，所述云缓存服务节点上的所述CCSI集合共享同一内存空间。
12.一种非瞬时性计算机可读存储设备，存储有指令，其特征在于，当至少一个计算设备执行所述指令时，所述至少一个计算设备执行以下操作：
接收多个服务属性集，所述多个服务属性集中的每一个服务属性集都与云缓存服务实例(cloud cache service instance，简称CCSI)相关；
接收第一云缓存管理请求，所述第一云缓存管理请求包括云缓存管理操作；
基于对所述云缓存管理操作的评估，从所述多个服务属性集中检索一个服务属性集；
基于所述第一云缓存管理请求的优先级值向对应的CCSI发送所述第一云缓存管理请求，所述优先级值基于所述检索到的服务属性集计算出。
13.根据权利要求12所述的非瞬时性计算机可读存储设备，其特征在于，所述评估还包括：
确定所述云缓存管理操作的管理类型；
基于所述确定的管理类型检索所述多个服务属性集中的所述服务属性集，所述检索到的服务属性集与所述对应的CCSI相关联。
14.根据权利要求12所述的非瞬时性计算机可读存储设备，其特征在于，所述检索到的服务属性集包括与所述对应的CCSI相关联的多个维度，所述多个维度中的每个维度对应于不同的服务等级协议(service-level agreement，简称SLA)。
15.根据权利要求14所述的非瞬时性计算机可读存储设备，其特征在于，所述多个维度中的所述每个维度与权重和一个或多个计划等级相关联。
16.根据权利要求15所述的非瞬时性计算机可读存储设备，其特征在于，通过以下方式计算所述第一云缓存管理请求的所述优先级值：
基于与所述多个维度中的所述每个维度相关联的所述权重和所述一个或多个计划等级，计算所述第一云缓存管理请求的所述优先级值。
17.根据权利要求15所述的非瞬时性计算机可读存储设备，其特征在于，与所述多个维度中的所述每个维度相关联的所述权重之和等于100％。
18.根据权利要求14所述的非瞬时性计算机可读存储设备，其特征在于，所述多个维度包括以下各项中的至少一个：服务计划的维度、进入下一个维护时间所经过时间的维度、从上一个维护时间退出所经过时间的维度、操作长度预测的维度、或资源消耗预测的维度。
19.根据权利要求12所述的非瞬时性计算机可读存储设备，其特征在于，所述发送包括：
延迟到下一个维护时间窗口，以基于所述优先级值将所述第一云缓存管理请求发送到所述对应的CCSI。
20.根据权利要求12所述的非瞬时性计算机可读存储设备，其特征在于，所述云缓存管理操作的管理类型包括备份、恢复或迁移中的一种。
21.根据权利要求12所述的非瞬时性计算机可读存储设备，其特征在于，所述操作还包括：
接收第二云缓存管理请求，所述第二云缓存管理请求包括第二云缓存管理操作；
基于对所述第二云缓存管理操作的第二评估，从所述多个服务属性集中检索一个第二服务属性集；
基于所述检索到的第二服务属性集计算所述第二云缓存管理请求的第二优先级值；
基于所述优先级值和所述第二优先级值对所述第一云缓存管理请求和所述第二云缓存管理请求进行排序，其中，所述发送包括基于所述排序发送所述第一云缓存管理请求和所述第二云缓存管理请求。
22.根据权利要求12所述的非瞬时性计算机可读存储设备，其特征在于，所述发送包括：
向云缓存服务节点上对应的CCSI发送所述第一云缓存管理请求，所述云缓存服务节点包括CCSI集合，所述CCSI集合包括所述对应的CCSI，其中，所述云缓存服务节点上的所述CCSI集合共享同一内存空间。
23.一种设备，其特征在于，包括：
处理器；
存储器，可操作地耦合到所述处理器，并存储计算机可读指令，当所述处理器执行所述计算机可读指令时，所述设备执行以下操作：
接收多个服务属性集，所述多个服务属性集中的每一个服务属性集都与云缓存服务实例(cloud cache service instance，简称CCSI)相关；
接收第一云缓存管理请求，所述第一云缓存管理请求包括云缓存管理操作；
基于对所述云缓存管理操作的评估，从所述多个服务属性集中检索一个服务属性集；
基于所述第一云缓存管理请求的优先级值向对应的CCSI发送所述第一云缓存管理请求，所述优先级值基于所述检索到的服务属性集计算出。
24.根据权利要求23所述的设备，其特征在于，所述评估还包括：
确定所述云缓存管理操作的管理类型；
基于所述确定的管理类型检索所述多个服务属性集中的所述服务属性集，所述检索到的服务属性集与所述对应的CCSI相关联。
25.根据权利要求23所述的设备，其特征在于，所述检索到的服务属性集包括与所述对应的CCSI相关联的多个维度，所述多个维度中的每个维度对应于不同的服务等级协议(service-level agreement，简称SLA)。
26.根据权利要求25所述的设备，其特征在于，所述多个维度中的所述每个维度与权重和一个或多个计划等级相关联。
27.根据权利要求26所述的设备，其特征在于，通过以下方式计算所述第一云缓存管理请求的所述优先级值：
基于与所述多个维度中的所述每个维度相关联的所述权重和所述一个或多个计划等级，计算所述第一云缓存管理请求的所述优先级值。
28.根据权利要求26所述的设备，其特征在于，与所述多个维度中的所述每个维度相关联的所述权重之和等于100％。
29.根据权利要求25所述的设备，其特征在于，所述多个维度包括以下各项中的至少一个：服务计划的维度、进入下一个维护时间所经过时间的维度、从上一个维护时间退出所经过时间的维度、操作长度预测的维度、或资源消耗预测的维度。
30.根据权利要求23所述的设备，其特征在于，所述发送包括：
延迟到下一个维护时间窗口，以基于所述优先级值将所述第一云缓存管理请求发送到所述对应的CCSI。
31.根据权利要求23所述的设备，其特征在于，所述云缓存管理操作的管理类型包括备份、恢复或迁移中的一种。
32.根据权利要求23所述的设备，其特征在于，所述操作还包括：
接收第二云缓存管理请求，所述第二云缓存管理请求包括第二云缓存管理操作；
基于对所述第二云缓存管理操作的第二评估，从所述多个服务属性集中检索一个第二服务属性集；
基于所述检索到的第二服务属性集计算所述第二云缓存管理请求的第二优先级值；
基于所述优先级值和所述第二优先级值对所述第一云缓存管理请求和所述第二云缓存管理请求进行排序，其中，所述发送包括基于所述排序发送所述第一云缓存管理请求和所述第二云缓存管理请求。
33.根据权利要求23所述的设备，其特征在于，所述发送包括：
向云缓存服务节点上对应的CCSI发送所述第一云缓存管理请求，所述云缓存服务节点包括CCSI集合，所述CCSI集合包括所述对应的CCSI，其中，所述云缓存服务节点上的所述CCSI集合共享同一内存空间。
34.一种计算机产品指令，其特征在于，当至少一个计算设备执行所述计算机产品指令时，所述至少一个计算设备执行根据权利要求1至11中任一项所述的方法。
35.一种云缓存服务系统，其特征在于，包括：
云缓存管理控制器(cloud cache management controller，简称CCMC)，用于：
接收多个服务属性集，所述多个服务属性集中的每一个服务属性集都与云缓存服务实例(cloud cache service instance，简称CCSI)相关；
接收第一云缓存管理请求，所述第一云缓存管理请求包括云缓存管理操作；
基于对所述云缓存管理操作的评估，从所述多个服务属性集中检索一个服务属性集；
基于所述第一云缓存管理请求的优先级值向对应的CCSI发送所述第一云缓存管理请求，所述优先级值基于所述检索到的服务属性集计算出。
36.根据权利要求35所述的云缓存服务系统，其特征在于，所述CCMC用于通过以下方式评估所述云缓存管理操作：
确定所述云缓存管理操作的管理类型；
基于所述确定的管理类型检索所述多个服务属性集中的所述服务属性集，所述检索到的服务属性集与所述对应的CCSI相关联。
37.根据权利要求35所述的云缓存服务系统，其特征在于，所述检索到的服务属性集包括与所述对应的CCSI相关联的多个维度，所述多个维度中的每个维度对应于不同的服务等级协议(service-level agreement，简称SLA)。
38.根据权利要求37所述的云缓存服务系统，其特征在于，所述多个维度中的所述每个维度与权重和一个或多个计划等级相关联。
39.根据权利要求38所述的云缓存服务系统，其特征在于，通过以下方式计算所述第一云缓存管理请求的所述优先级值：
基于与所述多个维度中的所述每个维度相关联的所述权重和所述一个或多个计划等级，计算所述第一云缓存管理请求的所述优先级值。
40.根据权利要求39所述的云缓存服务系统，其特征在于，与所述多个维度中的所述每个维度相关联的所述权重之和等于100％。
41.根据权利要求35所述的云缓存服务系统，其特征在于，所述多个维度包括以下各项中的至少一个：服务计划的维度、进入下一个维护时间所经过时间的维度、从上一个维护时间退出所经过时间的维度、操作长度预测的维度、或资源消耗预测的维度。
42.根据权利要求35所述的云缓存服务系统，其特征在于，所述CCMC用于通过以下方式发送所述第一云缓存管理请求：
延迟到下一个维护时间窗口，以基于所述优先级值将所述第一云缓存管理请求发送到所述对应的CCSI。
43.根据权利要求35所述的云缓存服务系统，其特征在于，所述云缓存管理操作的管理类型包括备份、恢复或迁移中的一种。
44.根据权利要求35所述的云缓存服务系统，其特征在于，所述CCMC还用于：
接收第二云缓存管理请求，所述第二云缓存管理请求包括第二云缓存管理操作；
基于对所述第二云缓存管理操作的第二评估，从所述多个服务属性集中检索一个第二服务属性集；
基于所述检索到的第二服务属性集计算所述第二云缓存管理请求的第二优先级值；
基于所述优先级值和所述第二优先级值对所述第一云缓存管理请求和所述第二云缓存管理请求进行排序，其中，所述CCMC还用于基于所述排序发送所述第一云缓存管理请求和所述第二云缓存管理请求。
45.根据权利要求35所述的云缓存服务系统，其特征在于，所述CCMC用于通过以下方式发送所述第一云缓存管理请求：
向云缓存服务节点上对应的CCSI发送所述第一云缓存管理请求，所述云缓存服务节点包括CCSI集合，所述CCSI集合包括所述对应的CCSI，其中，所述云缓存服务节点上的所述CCSI集合共享同一内存空间。
CN201880094304.5A 2018-06-06 2018-06-06 云计算中用于控制多租户缓存服务的管理操作和共享内存空间的系统和方法 Active CN112236988B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2018/090152 WO2019232725A1 (en) 2018-06-06 2018-06-06 System and method for controlling management operations and shared memory space for multi-tenant cache service in cloud computing

Publications (2)

Publication Number Publication Date
CN112236988A true CN112236988A (zh) 2021-01-15
CN112236988B CN112236988B (zh) 2022-05-31

Family

ID=68769729

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201880094304.5A Active CN112236988B (zh) 2018-06-06 2018-06-06 云计算中用于控制多租户缓存服务的管理操作和共享内存空间的系统和方法

Country Status (4)

Country Link
US (1) US11451430B2 (zh)
EP (1) EP3794802A4 (zh)
CN (1) CN112236988B (zh)
WO (1) WO2019232725A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113384873A (zh) * 2021-06-23 2021-09-14 网易（杭州）网络有限公司 短连接游戏的通知信息处理方法、电子设备和存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102739771A (zh) * 2012-04-18 2012-10-17 上海和辰信息技术有限公司 一种支持服务融合的云应用集成管理平台和方法
US20140101237A1 (en) * 2012-10-02 2014-04-10 Nextbit Systems Inc. Mobile application migration to cloud computing platform
CN104854567A (zh) * 2012-09-04 2015-08-19 微软技术许可有限责任公司 鉴于数据使用统计的设备备份和更新
CN106131158A (zh) * 2016-06-30 2016-11-16 上海天玑科技股份有限公司 一种云数据中心环境下基于云租户信用度的资源调度装置
US20180060182A1 (en) * 2016-08-29 2018-03-01 Vmware, Inc. Efficient queueing and scheduling of backups in a multi-tenant cloud computing environment

Family Cites Families (98)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7573808B2 (en) * 2004-08-06 2009-08-11 Fujitsu Limited Smart resync of data between a network management system and a network element
US7484242B2 (en) * 2004-09-16 2009-01-27 International Business Machines Corporation Enabling user control over automated provisioning environment
CN1976246A (zh) * 2005-11-28 2007-06-06 国际商业机器公司 允许移动设备预订和获取服务的方法、装置及移动设备
US7990387B2 (en) * 2007-08-16 2011-08-02 International Business Machines Corporation Method and apparatus for spawning projected avatars in a virtual universe
US9003304B2 (en) * 2007-08-16 2015-04-07 International Business Machines Corporation Method and apparatus for moving an avatar in a virtual universe
US8345049B2 (en) * 2007-08-16 2013-01-01 International Business Machine Corporation Method and apparatus for predicting avatar movement in a virtual universe
US7974197B2 (en) * 2008-01-25 2011-07-05 Alcatel-Lucent Usa Inc. Method of prioritizing user throughput and user throughput limits for best-effort application in cdma2000 1xEV-DO wireless communication system
US8401994B2 (en) * 2009-09-18 2013-03-19 Oracle International Corporation Distributed consistent grid of in-memory database caches
US8261026B2 (en) * 2008-03-07 2012-09-04 Apple Inc. Application cache population from peer application
US8593950B2 (en) * 2008-06-24 2013-11-26 At&T Intellectual Property I, L.P. Method and apparatus for providing a weighted bandwidth allocation for a network
US9047124B2 (en) * 2008-10-14 2015-06-02 Hewlett-Packard Development Company, L.P. Query scheduler
CN101562543B (zh) * 2009-05-25 2013-07-31 阿里巴巴集团控股有限公司 一种缓存数据的处理方法、处理系统和装置
US8250040B2 (en) * 2009-06-15 2012-08-21 Microsoft Corporation Storage or removal actions based on priority
US8159953B2 (en) * 2009-09-24 2012-04-17 Alcatel Lucent Method and apparatus for managing allocation of resources in a network
WO2012034702A1 (en) * 2010-09-16 2012-03-22 Telefonica, S.A. Method and radio station for fair aggregation of internet backhaul throughput using multiple access points
US9098214B1 (en) * 2010-12-28 2015-08-04 Amazon Technologies, Inc. Managing virtual machine migration
US9250863B1 (en) * 2010-12-28 2016-02-02 Amazon Technologies, Inc. Managing virtual machine migration
KR101191544B1 (ko) * 2011-01-21 2012-10-15 엔에이치엔(주) 캐시 클라우드 구조를 이용한 캐시 시스템 및 캐싱 서비스 제공 방법
US9703706B2 (en) * 2011-02-28 2017-07-11 Oracle International Corporation Universal cache management system
US8789062B2 (en) * 2011-04-05 2014-07-22 Teradata Us, Inc. Workload management of a concurrently accessed database server
US8914466B2 (en) * 2011-07-07 2014-12-16 International Business Machines Corporation Multi-level adaptive caching within asset-based web systems
US10200493B2 (en) * 2011-10-17 2019-02-05 Microsoft Technology Licensing, Llc High-density multi-tenant distributed cache as a service
EP3106984B1 (en) * 2011-11-28 2018-11-07 Huawei Technologies Co., Ltd. Method and device for adjusting memory of virtual machine
EP2789142A1 (en) * 2011-12-08 2014-10-15 Telefonaktiebolaget L M Ericsson (publ) Progressive download prioritisation
KR101603290B1 (ko) * 2011-12-14 2016-03-25 엠파이어 테크놀로지 디벨롭먼트 엘엘씨 연결된 장치들을 위한 시맨틱 캐쉬 클라우드 서비스
US9354940B2 (en) * 2012-01-19 2016-05-31 Microsoft Technology Licensing, Llc Provisioning tenants to multi-tenant capable services
US8701109B1 (en) * 2012-02-06 2014-04-15 Amazon Technologies, Inc. Immortal instance type
KR101434887B1 (ko) * 2012-03-21 2014-09-02 네이버 주식회사 네트워크 스위치를 이용한 캐시 시스템 및 캐시 서비스 제공 방법
US9134980B1 (en) * 2012-05-01 2015-09-15 Amazon Technologies, Inc. Compiler optimization in a computing environment
EP2706467A1 (en) * 2012-09-05 2014-03-12 Awingu Nv Method for accessing a content item in a cloud storage system, and a corresponding cloud broker, cloud cache agent and client application
US9009421B2 (en) * 2012-11-13 2015-04-14 International Business Machines Corporation Dynamically improving memory affinity of logical partitions
US9451013B1 (en) * 2013-01-02 2016-09-20 Amazon Technologies, Inc. Providing instance availability information
US8977756B2 (en) * 2013-01-10 2015-03-10 Microsoft Technology Licensing, Llc SWAN: achieving high utilization in networks
US9804994B2 (en) * 2013-03-15 2017-10-31 Microsoft Technology Licensing, Llc Application architecture supporting multiple services and caching
US20140279329A1 (en) * 2013-03-15 2014-09-18 Bernaldo Dancel Debt extinguishment ranking model
US9280503B2 (en) * 2013-04-12 2016-03-08 Apple Inc. Round robin arbiter handling slow transaction sources and preventing block
US9646273B2 (en) * 2013-06-21 2017-05-09 International Business Machines Corporation Systems engineering solution analysis
US10009284B2 (en) * 2013-06-28 2018-06-26 Verizon Patent And Licensing Inc. Policy-based session establishment and transfer in a virtualized/cloud environment
US9521177B2 (en) * 2013-09-11 2016-12-13 Cisco Technology, Inc. Network-based adaptive rate limiting
US9936047B2 (en) * 2013-10-17 2018-04-03 Ciena Corporation Method and apparatus for provisioning virtual network functions from a network service provider
US20150154713A1 (en) * 2013-12-04 2015-06-04 Guidewire Software, Inc. Claim work assignment using weighted workloads
US10936545B1 (en) * 2013-12-20 2021-03-02 EMC IP Holding Company LLC Automatic detection and backup of primary database instance in database cluster
US9648506B2 (en) * 2014-01-29 2017-05-09 Time Warner Cable Enterprises Llc Access point management and usage in a network environment
US9408118B2 (en) * 2014-03-05 2016-08-02 T-Mobile Usa, Inc. Traffic management for heterogenous networks
US9413819B1 (en) * 2014-03-21 2016-08-09 Amazon Technologies, Inc. Operating system interface implementation using network-accessible services
US10298670B2 (en) * 2014-05-13 2019-05-21 Google Llc Real time cloud workload streaming
US9639546B1 (en) * 2014-05-23 2017-05-02 Amazon Technologies, Inc. Object-backed block-based distributed storage
US9338308B1 (en) * 2014-06-06 2016-05-10 Sprint Communications Company L.P. Personalized product package recommendation engine
US9652389B2 (en) * 2014-07-16 2017-05-16 ClearSky Data Hash discriminator process for hierarchical cache system
US9430387B2 (en) * 2014-07-16 2016-08-30 ClearSky Data Decoupling data and metadata in hierarchical cache system
US20170289593A1 (en) * 2014-09-24 2017-10-05 Interdigital Patent Holdings, Inc. Method and system for creating a pre-fetching list for managed caching in small cell networks
US9495655B2 (en) * 2014-09-27 2016-11-15 International Business Machines Corporation Cross-domain multi-attribute hashed and weighted dynamic process prioritization
US9672054B1 (en) * 2014-12-05 2017-06-06 Amazon Technologies, Inc. Managing virtual machine migration
US9858195B2 (en) * 2014-12-10 2018-01-02 International Business Machines Corporation Near-cache distribution of manifest among peer applications in in-memory data grid (IMDG) non structured query language (NO-SQL) environments
GB2533434A (en) * 2014-12-16 2016-06-22 Cisco Tech Inc Networking based redirect for CDN scale-down
US10581944B2 (en) * 2015-01-23 2020-03-03 Telefonaktiebolaget Lm Ericsson (Publ) Transmission resource distribution for streaming of variable bitrate encoded media data
US20160269501A1 (en) * 2015-03-11 2016-09-15 Netapp, Inc. Using a cache cluster of a cloud computing service as a victim cache
JP6551513B2 (ja) * 2015-03-19 2019-07-31 日本電気株式会社 課金装置と方法とシステム並びにプログラム
US9582298B2 (en) * 2015-03-20 2017-02-28 Amazon Technologies, Inc. Executing commands within virtual machine instances
US10409781B2 (en) * 2015-04-29 2019-09-10 Box, Inc. Multi-regime caching in a virtual file system for cloud-based shared content
US9990188B2 (en) * 2015-05-27 2018-06-05 Kaseya International Limited Mechanisms for declarative expression of data types for data storage
CN106302623B (zh) * 2015-06-12 2020-03-03 微软技术许可有限责任公司 承租人控制的云更新
US10970110B1 (en) * 2015-06-25 2021-04-06 Amazon Technologies, Inc. Managed orchestration of virtual machine instance migration
US10176033B1 (en) * 2015-06-25 2019-01-08 Amazon Technologies, Inc. Large-scale event detector
US20160378547A1 (en) * 2015-06-29 2016-12-29 Amazon Technologies, Inc. Preserving state during virtual machine instance migration
US9811376B2 (en) * 2015-06-29 2017-11-07 Amazon Technologies, Inc. Virtual machine instance migration using a triangle approach
US9778923B2 (en) * 2015-08-12 2017-10-03 Oracle International Corporation Peoplesoft cloud manager
US10853111B1 (en) * 2015-09-30 2020-12-01 Amazon Technologies, Inc. Virtual machine instance migration feedback
US9824030B2 (en) * 2015-10-30 2017-11-21 International Business Machines Corporation Adjusting active cache size based on cache usage
US9965515B2 (en) * 2016-02-26 2018-05-08 Sap Se Method and device for cache management
US20170308622A1 (en) * 2016-04-22 2017-10-26 Marc C. Thornburgh Qualitative rating system for multi-compartmented products responsive to search queries
CN107346307B (zh) * 2016-05-04 2021-02-26 北京京东尚科信息技术有限公司 分布式缓存系统及方法
US10007607B2 (en) * 2016-05-31 2018-06-26 Salesforce.Com, Inc. Invalidation and refresh of multi-tier distributed caches
US10102133B2 (en) * 2016-05-31 2018-10-16 Salesforce.Com, Inc. Reducing latency by caching derived data at an edge server
EP3465966B1 (en) * 2016-06-01 2022-04-06 Telefonaktiebolaget LM Ericsson (PUBL) A node of a network and a method of operating the same for resource distribution
US10691502B2 (en) * 2016-06-03 2020-06-23 International Business Machines Corporation Task queuing and dispatching mechanisms in a computational device
US10025718B1 (en) * 2016-06-28 2018-07-17 Amazon Technologies, Inc. Modifying provisioned throughput capacity for data stores according to cache performance
US10547681B2 (en) * 2016-06-30 2020-01-28 Purdue Research Foundation Functional caching in erasure coded storage
WO2018017602A1 (en) * 2016-07-18 2018-01-25 Fugue, Inc. Distributed key/value store system using asynchronous messaging systems
EP3481016A4 (en) * 2016-07-22 2019-07-31 Huawei Technologies Co., Ltd. METHOD AND DEVICE FOR RESOURCE CONFIGURATION
US20180039628A1 (en) * 2016-08-03 2018-02-08 Oracle International Corporation System and method for providing dynamic relocation of tenants in a multi-tenant database environment
US10120734B1 (en) * 2016-08-29 2018-11-06 Equinix, Inc. Application programming interface and services engine with application-level multi-tenancy
EP3513303A4 (en) * 2016-10-31 2020-03-18 Microsoft Technology Licensing, LLC QUICK LOAD CONTENT CACTING
US10649965B2 (en) * 2016-11-14 2020-05-12 International Business Machines Corporation Data migration in a networked computer environment
US10630529B2 (en) * 2016-12-29 2020-04-21 Kodiak Networks, Inc. System and method for push-to-talk (PTT) in mobile edge computing (MEC)
US20190378071A1 (en) * 2017-02-23 2019-12-12 Bing Xu Prioritized list of work tasks
US10628394B1 (en) * 2017-02-27 2020-04-21 Amazon Technologies, Inc. Database analysis service
US10572383B2 (en) * 2017-04-12 2020-02-25 International Business Machines Corporation Caching a block of data in a multi-tenant cache storage device based on space usage boundary estimates
US10489170B2 (en) * 2017-06-19 2019-11-26 Salesforce.Com, Inc. Application warmup engine
CN107493327B (zh) * 2017-08-11 2020-05-15 杭州顺网科技股份有限公司 分布式缓存管理方法、系统及数据管理系统
US10942938B2 (en) * 2017-08-31 2021-03-09 Sap Se Caching for query processing systems
US10705880B2 (en) * 2017-09-22 2020-07-07 Vmware, Inc. Cluster updating using temporary update-monitor pod
US10887198B2 (en) * 2017-09-29 2021-01-05 Nec Corporation System and method to support network slicing in an MEC system providing automatic conflict resolution arising from multiple tenancy in the MEC environment
US10783472B2 (en) * 2017-10-31 2020-09-22 Dell Products L.P. Applying machine learning to dynamically scale computing resources to satisfy a service level agreement (SLA)
US10866894B2 (en) * 2017-12-13 2020-12-15 Salesforce.Com, Inc. Controlling memory usage in a cache
FR3075422B1 (fr) * 2017-12-19 2022-05-20 Atos Information Tech Gmbh Plate-forme de nuage public gere
US10972355B1 (en) * 2018-04-04 2021-04-06 Amazon Technologies, Inc. Managing local storage devices as a service
US11563652B2 (en) * 2020-07-14 2023-01-24 Wipro Limited Method, system, and device for adaptive determination of network slice configuration and resource requirements

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102739771A (zh) * 2012-04-18 2012-10-17 上海和辰信息技术有限公司 一种支持服务融合的云应用集成管理平台和方法
CN104854567A (zh) * 2012-09-04 2015-08-19 微软技术许可有限责任公司 鉴于数据使用统计的设备备份和更新
US20140101237A1 (en) * 2012-10-02 2014-04-10 Nextbit Systems Inc. Mobile application migration to cloud computing platform
CN106131158A (zh) * 2016-06-30 2016-11-16 上海天玑科技股份有限公司 一种云数据中心环境下基于云租户信用度的资源调度装置
US20180060182A1 (en) * 2016-08-29 2018-03-01 Vmware, Inc. Efficient queueing and scheduling of backups in a multi-tenant cloud computing environment

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113384873A (zh) * 2021-06-23 2021-09-14 网易（杭州）网络有限公司 短连接游戏的通知信息处理方法、电子设备和存储介质
CN113384873B (zh) * 2021-06-23 2024-02-23 网易（杭州）网络有限公司 短连接游戏的通知信息处理方法、电子设备和存储介质

Also Published As

Publication number Publication date
US11451430B2 (en) 2022-09-20
WO2019232725A1 (en) 2019-12-12
US20200344110A1 (en) 2020-10-29
EP3794802A1 (en) 2021-03-24
CN112236988B (zh) 2022-05-31
EP3794802A4 (en) 2021-05-19

Similar Documents

Publication Publication Date Title
JP7174739B2 (ja) リモートアクセスされるデータの効率的なライブマイグレーション
US20200264939A1 (en) Container based service management
US10514960B2 (en) Iterative rebalancing of virtual resources among VMs to allocate a second resource capacity by migrating to servers based on resource allocations and priorities of VMs
WO2017143548A1 (zh) 用于应用自动化部署的方法和云管理节点
US20130019015A1 (en) Application Resource Manager over a Cloud
US20130091285A1 (en) Discovery-based identification and migration of easily cloudifiable applications
US20120180041A1 (en) Techniques for dynamically discovering and adapting resource and relationship information in virtualized computing environments
US11297141B2 (en) Filesystem I/O scheduler
US11574243B1 (en) Heterogeneous compute instance auto-scaling with reinforcement learning
US20200082495A1 (en) Interaction monitoring for virtualized graphics processing
US20220318647A1 (en) Single framework for both streaming and on-demand inference
US20170083387A1 (en) High-performance computing framework for cloud computing environments
US11886898B2 (en) GPU-remoting latency aware virtual machine migration
US20210311757A1 (en) Introspection into workloads running within virtual machines
CN112236988B (zh) 云计算中用于控制多租户缓存服务的管理操作和共享内存空间的系统和方法
US20220413902A1 (en) Partition migration with critical task prioritization
US11948010B2 (en) Tag-driven scheduling of computing resources for function execution
Zhou et al. A case for software-defined code scheduling based on transparent computing
US11487670B2 (en) Machine learning based cache management
US11960917B2 (en) Live migration and redundancy for virtualized storage
US11983561B2 (en) Configuring hardware multithreading in containers
US11567796B2 (en) Configuring hardware multithreading in containers
KR20230073338A (ko) 오프로드 컨테이너 실행 환경

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20220208

Address after: 550025 Huawei cloud data center, jiaoxinggong Road, Qianzhong Avenue, Gui'an New District, Guiyang City, Guizhou Province

Applicant after: Huawei Cloud Computing Technology Co.,Ltd.

Address before: 518129 Bantian HUAWEI headquarters office building, Longgang District, Guangdong, Shenzhen

Applicant before: HUAWEI TECHNOLOGIES Co.,Ltd.

GR01 Patent grant
GR01 Patent grant