CN112214293A - 一种无服务器架构下业务部署的方法和函数管理平台 - Google Patents

一种无服务器架构下业务部署的方法和函数管理平台 Download PDF

Info

Publication number
CN112214293A
CN112214293A CN202010954760.1A CN202010954760A CN112214293A CN 112214293 A CN112214293 A CN 112214293A CN 202010954760 A CN202010954760 A CN 202010954760A CN 112214293 A CN112214293 A CN 112214293A
Authority
CN
China
Prior art keywords
function
host
executor
tenant
management platform
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010954760.1A
Other languages
English (en)
Inventor
杨磊
张海娟
刘少辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Cloud Computing Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN202010954760.1A priority Critical patent/CN112214293A/zh
Publication of CN112214293A publication Critical patent/CN112214293A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/104—Peer-to-peer [P2P] networks
    • H04L67/1074—Peer-to-peer [P2P] networks for supporting data block transmission mechanisms
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/28—Data switching networks characterised by path configuration, e.g. LAN [Local Area Networks] or WAN [Wide Area Networks]
    • H04L12/46—Interconnection of networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/51—Discovery or management thereof, e.g. service location protocol [SLP] or web services
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Stored Programmes (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

一种无服务器架构下业务部署的方法，所述方法由函数管理平台执行，所述函数管理平台包括函数调度器以及函数执行器管理器，所述函数调度器接收函数调用请求，根据租户的资源池信息选择可用主机，向函数执行器管理器发送函数实例创建请求；所述函数执行器管理器接收所述函数实例创建请求，在租户资源池中选择主机标识对应的主机，并在所述主机上创建所述函数标识对应的函数执行器，以使得所述函数执行器处理所述函数调用请求。本发明实施例通过在租户资源池中建立函数执行器，由于不同租户的资源池相互隔离，从而使得不同租户的函数执行器运行在相互隔离的资源池中，提高了系统的安全性。

Description

一种无服务器架构下业务部署的方法和函数管理平台
技术领域
本申请涉及IT技术领域，特别涉及一种无服务器架构下业务部署的方法和函数管理平台。
背景技术
传统的互联网应用主要采用客户端-服务器架构，服务器端需长期维持业务进程来处理客户端请求，并调用代码逻辑完成请求响应流程。
无服务器(Serverless)架构是最新兴起的架构模式。在Serverless架构中，应用业务逻辑将基于功能即服务(functions as a service，FAAS)形成多个相互独立的功能组件，并以应用程序编程接口(Application Programming Interface,API)的形式向外提供服务。
跟传统的客户端-服务器架构的不同在于，Serverless架构中，各功能组件的代码可以存储在Amazon Lambda，Azure Function，Google Cloud Functions等产品上，代码仅在函数功能被调用时才会被运行，当调用响应结束后，运行函数所占用的资源便会释放。Serverless架构中函数运行在无状态的容器中，可以由事件触发，完全被第三方管理。因此，租户不需要关心后台服务器或者应用服务的构建，只需关心函数的代码实现即可。
Serverless架构中的不同租户的函数执行器运行在共享服务资源池，且由于容器隔离性较弱，多租户共享服务资源池存在安全风险。
发明内容
本申请实施例提供一种无服务器架构下业务部署的方法和函数管理平台，用以解决Serverless架构中的不同租户的函数执行器运行在共享服务资源池带来的安全风险问题。
本申请实施例提供的具体技术方案如下：
第一方面，提供一种函数管理平台，包括函数调度器以及函数执行器管理器：
网关为函数管理平台与租户应用的中间设备，所述网关接收来自租户应用的函数调用请求，所述函数调用请求携带函数标识，向所述函数调度器转发所述函数调用请求；所述函数调度器根据租户的资源池信息选择可用主机，向函数执行器管理器发送函数实例创建请求，所述函数实例创建请求携带所述可用主机的主机标识和所述函数标识，所述租户的资源池信息包括租户标识、托管标识以及主机标识，所述托管标识用于指示主机托管于函数管理平台，所述主机标识对应的主机位于租户的资源池中；所述函数执行器管理器接收所述函数实例创建请求，根据所述主机标识在租户资源池中选择运行函数执行器的主机，并在所述主机上创建所述函数标识对应的函数执行器，以使得创建的函数执行器处理所述函数调用请求。
本发明实施例在租户资源池中定义了托管主机，托管主机由函数管理平台管理，在用户需要调用函数时，在托管主机上创建函数执行器，从而即保证函数执行器运行于租户资源池，同时保证运行函数执行器的托管主机对用户不可见，不被用户直接操作。
本发明实施例通过在租户资源池中建立函数执行器，由于不同租户的资源池相互隔离，从而使得不同租户的函数执行器运行在相互隔离的资源池中，提高了系统的安全性。
在一种可能的实施方式中，所述函数管理平台记录有执行器运行信息，所述执行器运行信息包括函数标识和所述函数标识对应的函数执行器所在的主机标识和端口，
所述函数调度器根据所述执行器运行信息，确定是否存在与所述函数调用请求携带的函数标识对应的可用函数执行器，如果存在，则获取可用函数执行器所在的主机标识和端口，根据获取的所述主机标识和端口向所述函数执行器转发所述函数调用请求。
所述函数调度器在不存在与所述函数调用请求携带的函数标识对应的可用函数执行器时，向所述函数执行器管理器发送函数实例创建请求，所述函数实例创建请求携带可用主机标识和函数标识；
所述函数执行器管理器接收所述函数实例创建请求，在所述可用主机标识对应的主机上创建所述函数标识对应的函数执行器，为创建的函数执行器分配端口，并向函数调度器返回创建的函数执行器所在的主机的标识和端口。
所述函数调度器向所述主机池管理器发送主机查询请求，所述主机查询请求携带租户标识，接收主机池管理器返回的主机查询响应，所述主机查询响应携带所述可用主机标识。
当所述租户不存在可用主机时，所述主机池管理器根据租户标识在租户的资源池中创建主机，并向函数调度器返回新创建的主机标识作为可用主机标识。
所述函数调度器在从函数执行器管理器获取新创建的函数执行器所在的主机标识和端口，刷新执行器运行信息。
函数管理平台还可以对租户的执行器进行管理，具体的，
函数管理平台的策略引擎判断函数的并发调用发量是否超过所述函数的所有执行器的最大处理门限，如果超过，则执行执行器扩容操作，通过所述函数执行器管理器为所述函数创建新的函数执行器。所述策略引擎还可以判断函数的并发调用发量是否低于所述函数的所有执行器的最小处理门限，如果低于，则执行执行器减容操作。
在执行减容操作时，所述策略引擎选择至少一个主机作为减容对象，减容对象上运行的函数执行器不再处理新的函数调用请求，当减容对象上运行的函数执行器完成当前任务处理后，删除函数执行器，当减容对象上的函数执行器均被删除后，删除该减容对象。
在一种可能的实施方式中，所述租户的资源池信息还包括影子租户标识，函数管理平台为每个租户创建一个影子租户，并记录租户标识和影子租户标识之间的对应关系，当所述租户的资源池信息中包含影子租户标识时，所述租户的资源池信息中包含的主机标识对应的主机为所述影子租户资源池中的主机。所述租户的资源池与所述影子租户的资源池通过租户网络互通。
当所述函数调用请求中携带的函数标识没有对应的可用函数执行器时，所述函数调度器根据租户标识查询租户对应的影子租户，在影子租户资源池中选择可用主机，并在选择的可用主机上运行函数执行器。
第二方面，与前述函数管理平台相对应，本发明实施例还提供了一种业务部署的方法。
前述函数管理平台中的各个功能模块可以通过硬件实现，也可以通过硬件执行相应的软件实现。所述硬件或软件包括一个或多个与上述功能相对应的模块。不同模块的功能可以合并在一个模块中。
在一个可能的实施方式中，运行该函数管理平台的物理服务器包括收发器、处理器和存储器，其中，处理器用于执行存储其中存储的程序代码，以执行第二方面中所述的方法。
第三方面，本发明实施例还提供了一种业务部署的方法，包括：
函数执行器管理器接收来自函数调度器的函数实例创建请求，所述函数实例创建请求用于指示所述函数执行器管理器在所述函数调度器根据所述租户的资源池信息选的可用主机上创建函数执行器，所述函数实例创建请求携带函数标识和所述可用主机的主机标识，所述租户的资源池信息包括租户标识、托管标识以及主机标识，所述托管标识用于指示主机托管于函数管理平台，所述主机标识对应的主机位于租户的资源池中；
所述函数执行器管理器根据所述主机标识在租户资源池中选择运行函数执行器的主机，并在所述主机上创建所述函数标识对应的函数执行器，以使得创建的函数执行器处理所述函数调用请求。
第四方面，本发明实施例提供了一种业务部署的装置，包括处理器和存储器，所述处理器执行存储器中记录的程序指令，以实现如第三方面所述的方法。
第五方面，提供了一种计算机存储介质，用于储存为上述第二方面所述的函数管理平台中各个模块所用的计算机软件指令，其包含用于执行上述方面所设计的程序。
附图说明
图1为Serverless系统架构示意图；
图2为本申请实施例中一种业务部署的流程示意图；
图3为本申请实施例中扩容操作的流程示意图；
图4为本申请实施例中减容操作的流程示意图；
图5为本申请实施例中运行函数管理平台各功能组件的物理服务器的结构示意图。
具体实施方式
为了使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请作进一步描述。
如图1所示，为本发明实施例提供的一种Serverless系统架构示意图。Serverless系统包括管理域(即函数管理平台)和租户域，示例性的，租户域中以两个租户资源池为例进行说明。
管理域包括函数实例管理器(function instance manager)101、函数管理器102、函数调度器103、策略引擎104、资源调度器105、函数执行器管理器106以及主机池管理器107。租户域中，每个租户资源池中包含若干个主机108，主机可以为运行函数的函数执行主机以及运行传统业务的业务主机，函数执行主机上运行有函数执行器(functionexecutor)109，函数执行器109用于接收并处理函数调用请求，所述主机108可以为物理机或者虚拟机。
在本发明实施例中，函数执行器109运行在租户资源池中，每个租户的函数执行器109由于运行的租户资源池不同从而相互隔离，即通过基础设施即服务(Infrastructureas a Service，IaaS)平台基础的资源隔离能力实现不同租户之间的资源池网络隔离。由于不同租户的资源池中的主机相互网络隔离，因此，运行于主机上的函数执行器也是网络隔离的。
以公有云为例，云服务提供商所设计的应用系统会容纳数个以上的租户在同一个环境下使用。为保护租户数据的隐私与安全，不同的租户在共享数据中心的硬件设施的同时，会按照各自的需求定义他们的虚拟化资源，且不同租户的虚拟化资源应相互独立和隔离。通过现有的多租户技术，可以实现不同租户间应用程序环境的隔离(applicationcontext isolation)以及数据的隔离(data isolation)，使得不同租户间应用程序不会相互干扰，同时提高数据的保密性。每个租户在云计算系统中拥有一组虚拟化资源被称为租户的资源池。
主机108启动后，在主机上部署函数执行器109，函数执行器109由IaaS平台提供，是函数运行的环境/沙箱，函数执行器中封装了用于函数执行的上下文，例如，环境变量以及依赖库等等。
当租户的业务触发函数调用时，函数调用请求经过网络传递到管理域，由管理域的函数调度器103或函数执行器管理器106执行请求分发操作，在租户的资源池中选择主机，并将函数调用请求发送给主机上的函数执行器处理。
在一种可能的实施方式中，函数执行器109所在的主机108通过租户网络相连。在租户网络中，运行函数执行器的主机可以与非Serverless架构的其他业务系统中的业务主机互通，实现跨Serverless架构传输数据。
在一种可能的实施方式中，函数执行器109所在的主机108部署于租户的资源池，与非Serverless架构的业务系统不同的是，函数执行器109所在的主机108可以由函数管理平台托管，由函数管理平台负责函数的操作，从而使得租户无感知。在Serverless逻辑架构中，用户授权函数管理平台执行创建和释放资源(主机计算资源以及网络资源等)，托管在函数管理平台的资源对租户不可见，也不会被租户使用和访问，被托管的资源不需要租户进行显式运维，也不会对租户计费。
在本发明实施例中，不同租户的应用调用的函数需要执行在各自租户的资源池中，因此，在函数调用过程中，需要标明函数执行主机属于哪个租户以及函数执行主机由函数管理平台托管。
函数实例管理器101用于对函数执行器的管理，函数实例查询请求由函数调度器103发送到函数实例管理器101，由函数实例管理器101向函数调度器103返回函数实例信息，所述函数实例信息包含可用函数执行器109所在的主机标识和端口，所述主机标识用于指示函数执行器109所在的主机108的地址，所述端口用于指示所述函数执行器109对应的主机108的端口，通过主机标识和端口可以路由到对应的函数执行器109。
函数管理器102用于记录函数信息，包括函数标识以及函数的描述信息，所述描述信息包括函数软件包位置和运行所述函数需要的上下文等。
函数调度器103用于接收来自用户的函数调用请求，并向函数实例管理器101查询可用的函数执行器。进一步的，当无可用函数执行器时，函数调度器103可用发起主机创建操作以及执行器创建操作。需要说明的是，函数调度器103的部分功能可以合并到函数实例管理器101中，由函数实例管理器101发起主机创建操作以及执行器创建操作。
需要说明的是，在可能的实施方式中，函数实例管理器101和函数调度器103可以合设，可以由函数调度器103执行函数实例管理器101的功能，或者，由函数实例管理器101执行函数调度器103的功能。
策略引擎104用于根据规则触发资源控制流程，包括主机的扩容和减容，以及执行器的扩容和减容。
资源调度器105用于接收来自策略引擎104的控制指令，执行主机和执行器的扩容和减容。在一种可能的实施方式中，资源调度器105可以与策略引擎104合设。
函数执行器管理器106用于执行函数执行器的创建和删除。当需要创建新的函数执行器时，所述函数执行器管理器106可以从函数管理器102中获取函数的描述信息，函数执行器管理器106接收执行器创建请求，根据函数的描述信息在指定的主机上创建函数执行器。
上述Serverless架构中的主机池管理器107，用于记录租户专属的函数执行主机列表。当租户的应用需要调用函数时，如果租户的资源池中存在可以运行被调用函数的函数执行器时，则主机池管理器107选择对应的主机，在该主机上的函数执行器中运行被调用的函数；当租户的资源池中没有合适的主机时，主机池管理器107在租户资源池中创建主机，并在新建的主机中的函数执行器中运行被调用函数，新建的主机需要位于租户的资源池，与其他租户保持隔离。
在一种可能的实施方式中，主机池管理器107在资源数据库中记录主机属性，所述主机属性包括主机标识、租户标识以及托管标识，租户标识用于标识主机所属的租户，托管标识用于标识主机托管于函数管理平台，由函数管理平台执行主机资源的创建、释放，以及扩容等等操作。
示例性的，主机属性如下表所示：
标识租户标识(描述资源的属主)托管标识
主机1TenantA Tenant_funtion_service
主机2TenantB Tenant_funtion_service
在另一种可能的实施方式中，可以为租户创建影子租户，为影子租户分配资源池，影子租户的资源池与租户资源池通过租户网络内的路由器互联互通。函数管理平台记录租户与影子租户之间的对应关系，对影子租户的管理，当租户的应用调用函数时，函数管理平台根据该对应关系，在影子租户的资源池中为租户创建主机，并在主机的函数执行器中运行被调用的函数。
基于图1所示的Serverless逻辑架构，如图2所示，为本发明实施例提供的一种函数调用流程示意图。
步骤201：租户应用执行函数调用，函数调用请求通过API网关发送到函数调度器，所述函数调用请求携带函数标识；
本发明实施例所涉及的租户应用可以为各种类型的应用，用于调用资源池中的函数执行器执行预定的函数，实现功能处理，并获得返回的执行结果。租户可以预先把函数代码上传到函数管理平台，函数管理平台可以为租户函数分配函数标识，所述函数标识可以唯一识别一个函数，例如，函数标识为统一资源定位符((Uniform Resoure Locator，URL)或字符串等。
更进一步的，函数管理平台可以记录函数标识与租户标识的对应关系，函数管理平台中的各个模块可以用该函数标识查到租户信息。
租户将函数上传到函数管理平台中，进行函数定义。在一种可能的实施方式中，用户上传函数代码，定义函数访问地址，以及定义函数标识和函数请求地址的对应关系，并在函数管理器中记录上述信息。需要说明的是，函数相关信息可以记录在函数管理平台的数据库中，并可以被函数管理平台上的各个模块所访问。
步骤202：函数调度器向函数管理器发送查询请求，所述函数查询请求携带函数标识，所述函数查询请求用于查询被调用的函数的描述信息。
步骤203：函数管理器根据函数标识查询被调用函数，向函数调度器返回函数的描述信息，比如，函数软件包位置和运行所述函数需要的上下文。
需要说明的是，步骤202和203为可选步骤。当租户资源池中运行有被调用函数对应的执行器时，执行器可以直接处理函数调用请求而无需预先根据函数描述信息获取函数代码。
步骤204：所述函数调度器向函数实例管理器发送函数实例信息查询请求，所述函数实例信息查询请求携带函数标识。
步骤205：所述函数实例管理器根据所述函数标识向函数调度器返回函数实例信息，所述函数实例信息包括执行器所在主机的IP地址和端口。其中，所述端口与主机上运行的执行器一一对应。
在一种可能的实施方式中，云计算系统中包含多个租户，当不同租户定义了相同函数标识的函数时，所述函数实例信息查询请求进一步包括租户标识，所述函数实例管理器根据所述租户标识和函数标识识别对应租户的函数。进一步的，函数实例管理器根据租户标识和函数标识查询租户的资源池中是否有可用的执行器。如果存在可用的执行器，则返回函数实例信息。
在另一种可能的实施方式中，函数标识在Serverless系统中唯一，不存在具备相同函数标识的不同函数，此时，函数实例管理器可以根据函数实例信息查询请求携带的函数标识查询租户的资源池中是否有可用的执行器。
函数管理平台中记录有函数标识和租户标识的对应关系、租户的资源池信息以及空闲执行器的运行信息，所述租户的资源池信息包括租户标识、托管标识以及主机标识，其中，所述主机标识包括主机的IP地址，所述空闲执行器的运行信息包括函数标识，以及与所述函数标识对应的执行器所在的主机标识和端口。
具体的，在一种可能的实施方式中，可以由函数管理平台中的函数实例管理器记录上述信息。当函数执行器的状态发生变化时，函数实例管理器更新上述信息，示例性的，函数执行器的状态发生变化包括：创建新的函数执行器、函数执行器被占用以及函数执行器空闲等。
在本发明实施例中，可用执行器是指可以运行被调用函数的空闲执行器。
更进一步的，租户的资源池中可能存在多个可用执行器，多个执行器运行在至少一个主机上。此时，函数实例管理器可用使用列表的形式，将每个可用执行器所在的主机的IP地址和端口携带在上述列表中发送给函数调度器，由函数调度器从列表中选择一个执行器执行函数调用，具体的选择方式可以为随机选择，或者根据主机的负载选择。示例性的，函数调度器确定租户的资源池中每个主机上运行的执行器的数量，将新创建的执行器部署在负载最小的主机上。
当租户的资源池中不存在可用的执行器时，函数实例管理器向函数调度器返回失败响应。具体的，失败响应携带的可用执行器列表为空。
当存在可用的执行器时，执行步骤206；当不存在可用的执行器时，执行步骤209。
步骤206：函数调度器将携带函数标识的函数调用请求转发到可用的函数执行器。
函数调度器从可用执行器列表中选择可用执行器，获取可用执行器对应的IP地址和端口，将函数调用请求发送到获取的IP地址和端口。
函数调度器可以根据一定的规则选择执行器，保证执行器在各个主机上分布均匀。
步骤207：函数执行器根据函数标识运行被调用函数，生成函数执行结果。
当函数执行器为通用执行器时，函数执行器下载并执行被调用函数的代码，获取函数调用请求的参数，生成函数执行结果。函数执行器获取被调用函数的代码的方式可以采用Serverless架构现有技术，通过框架找到对应的函数，本发明实施例对此并不限定。
当执行器已经运行了被调用函数时，则无需下载被调用函数的代码，而是直接获取函数调用请求的参数，生成函数执行结果。
步骤208：函数执行器向函数调度器返回应答消息，所述应答消息携带函数执行结果。
步骤209：函数调度器接收到函数实施例管理器返回的失败响应后，判断租户资源池中是否存在可用主机，如果租户资源池中存在可用主机，则向函数实例管理器返回主机标识，用于指示函数实例管理器在所述主机标识对应的主机上创建函数执行器；如果租户资源池中不存在可用主机，则向主机池管理器发送主机创建请求，创建运行函数执行器的新主机。
具体的，函数调度器可以向主机池管理器发送主机查询请求以确定是否存在可用主机，所述主机查询请求携带租户标识，主机池管理器查询租户资源池中的空闲主机，向函数调度器返回可用主机列表，所述可用主机列表携带可用主机的标识。
进一步的，当需要保证特定函数的资源时，所述主机查询请求中还可以携带函数标识，主机池管理器选择合适的空闲主机。示例性的，当某个函数有高输入输出IO的需求时，主机池管理器可以根据函数标识为函数选择满足IO性能的空闲主机。
步骤210：函数调度器向函数实例管理器发送函数实例创建请求，所述函数实例创建请求携带主机标识和函数标识。
步骤211：函数实例管理器向函数执行器管理器发送函数实例创建请求，所述函数实例创建请求携带主机标识和函数标识。
步骤212：函数执行器管理器接收函数实例创建请求，根据主机标识在租户资源池选择运行函数执行器的主机，在该主机上创建函数执行器，为函数执行器分配主机上的端口。
函数执行器管理器根据函数标识获取并运行函数代码以及函数上下文，创建执行器。
在函数执行器创建完成后，函数管理平台记录函数标识和函数执行器所在的主机标识和端口，刷新函数管理平台中记录的空闲执行器的运行信息。
步骤213：函数执行器管理器向函数实例管理器返回函数执行器创建响应，所述函数执行器创建响应携带函数执行器所在的主机标识和端口。
步骤214：函数实例管理器向函数调度器转发函数执行器创建响应。
步骤215：函数调度器根据将函数调用请求转发到对应的函数执行器。
步骤216：函数执行器运行被调用函数，生成函数执行结果。
步骤217：函数执行器向函数调度器返回应答消息，所述应答消息携带函数执行结果。
步骤215-步骤217与步骤206-步骤208类似，本发明实施例不再赘述。
步骤218：在函数执行完成后，函数调度器通过API网关向租户的应用返回函数执行结果。
本发明实施例提供基于租户隔离的函数资源池部署函数执行器的方法，将为租户创建函数执行器运行在租户资源池的主机中，避免不同租户的函数执行器运行在同一共享服务资源池中，解决了多租户共享服务资源池存在安全风险的问题。
进一步的，基于上述Serverless逻辑架构，本发明实施例还提供了二层函数调度方法，可以平衡函数运行资源池的资源利用率与隔离性诉求，提高资源利用率的控制粒度。
在本发明实施例中，函数执行主机运行于租户的资源池中，由于租户的资源池相互隔离，因此，函数执行主机由租户独享。函数执行主机的创建和释放所需的时长一般为分钟级别，时间较长，因此，无法频繁执行函数执行主机的创建和释放。为了提高资源利用率，本发明实施例还可以提供了一种资源控制方法，具体的，本发明实施例公开了函数执行器以及函数执行主机两级资源弹性控制方法，当业务高峰时，主机扩容(包括扩大数量或规格)；业务降低时，主机减容(包括缩小数量或规格)。
如图3所述，为本发明实施例提供的一种资源弹性控制的方法流程图，用于执行扩容操作，所述资源弹性控制方法包括：
步骤301：策略引擎触发函数执行主机池扩容，向资源调度器发送扩容请求，所述扩容请求携带租户标识。
在本发明实施例中，策略引擎基于CPU、内存指标等，或者各指标的加权组合，触发函数执行主机的伸缩。即，租户资源池中正在运行的主机的资源占用率超过扩容阈值时，策略引擎触发主机池扩容。扩容的容量可以基于资源利用率的当前值或历史均值，也可以基于历史数据的预测值进行计算。所述扩容的容量可以为主机的数量或者CPU/内存的数量。
步骤302：资源调度器向主机池管理器发送扩容请求，所述扩容请求携带租户标识以及扩容的容量。
步骤303：主机池管理器执行扩容操作，根据租户标识以及扩容的容量在租户的资源池中创建函数执行主机，创建函数执行主机的数量满足扩容的容量。
步骤304：主机池管理器向资源调度器返回扩容响应，所述扩容响应携带已创建的函数执行主机的标识。
进一步的，策略引擎还可以基于函数的并发调用量来判断是否执行函数执行器的伸缩，当函数的并发调用量超过函数的所有执行器的处理门限时，执行该函数对应的处理器扩容操作。策略引擎可以在步骤101中的扩容请求中进一步携带函数标识，用于指示对函数标识对应的执行器进行扩容。或者，策略引擎也可以向资源调度器发送执行器扩容请求，将执行器扩容操作与主机扩容操作独立开。
步骤305：资源调度器向函数执行器管理器发送执行器扩容请求，所述执行器扩容请求携带主机标识、函数标识以及待创建的执行器的数量。
步骤306：函数执行器管理器执行扩容操作，在主机标识对应的主机上创建函数执行器。
步骤307：函数执行器管理器向资源调度器返回执行器扩容响应，所述执行器扩容响应携带函数标识以及执行器所在的主机的标识和端口。
步骤308：资源调度器向策略引擎返回扩容响应，所述扩容响应携带函数标识以及执行器所在的主机的标识和端口
主机层以及执行器层两层伸缩的触发均可以基于资源利用率的当前值或历史均值，也可以基于历史数据的预测值。一般来说，两层伸缩可以协同配合。函数执行主机的伸缩优先于函数执行器的伸缩。函数执行主机的伸缩粒度更大，对业务变化相对不敏感，函数执行器的伸缩粒度小，可以快速跟随业务变化。
在一种可能的实施方式中，可以采用定时或预约类型的资源弹性伸缩，可以基于用户的预估业务量、业务并发量，以及处理时延，计算两层资源的初始分配量，解决可预测型业务的资源预留。
与前述扩容操作相对应，本发明实施例还提供了一种减容操作的执行流程，如图4所述，为本发明实施例提供的另一种资源弹性控制方法流程图，用于执行减容操作，所述资源弹性控制方法包括：
步骤401：策略引擎触发函数执行主机池减容，向资源调度器发送减容请求，所述减容请求携带函数标识。
策略引擎基于与步骤301类似的策略判断是否执行减容操作，示例性的，策略引擎可以判断当前函数的并发调用量是否低于所述函数的所有执行器的最小处理门限，如果是，则说明函数执行器的数量过多，产生了资源浪费，则执行函数执行器的减容操作。进一步的，策略引擎还可以判断当前可用主机上是否存在空闲主机，即是否存在没有运行函数执行器的主机，如果是，则对空闲主机执行减容操作，删除空闲主机。
更进一步，策略引擎可以预定减容策略，当主机池中的主机总体资源使用率较低时，选择部分主机作为减容对象，被选作减容对象的主机不再执行新的任务，当作为减容对象的主机上的任务处理完成后，删除函数执行器，当主机上的所有函数执行器均被删除以后，删除该空闲主机。
当策略引擎确定需要对某个函数的执行器执行减容操作时，向资源调度器发送减容请求，所述减容请求携带函数标识以及待减容的执行器的数量。
步骤402：资源调度器向函数执行器管理器发送执行器减容请求，所述执行器减容请求携带函数标识以及待减容的执行器的数量。
步骤403：函数执行器管理器执行减容操作。
具体的，函数执行器管理器在函数标识对应的函数执行器上的任务完成后，删除指定数量的执行器。
步骤404：函数执行器管理器向资源调度器返回执行器减容响应，所述执行器减容响应携带已删除的执行器所在的主机标识和端口。
步骤405：资源调度器异步通知主机池减容，向主机池管理器发送减容请求，所述减容请求携带租户标识和减容的容量。
步骤406：主机池管理器根据租户标识对租户的主机池执行减容操作，删除符合减容容量的函数执行主机。
步骤407：主机池管理器向资源调度器返回减容响应，所述减容响应携带已删除的主机的标识。
步骤408：资源调度器向策略引擎返回减容响应，所述减容响应携带已删除的主机的标识。
在完成扩容或减容操作后，函数管理平台更新租户的执行器信息，包括更新租户的主机池信息以及函数执行器的运行信息等等。
与前述函数管理平台和业务部署方法相对应，本发明实施例提供了一种运行该函数管理平台的物理服务器，参阅图5所示，一种物理服务器500，包括收发器501、处理器502、存储器503，收发器501、存储器503均与处理器502连接，需要说明的是图5所示的各部分之间的连接方式仅为一种可能的示例，也可以是，收发器501与存储器503均与处理器502连接，且收发器501与存储器503之间没有连接，或者，也可以是其他可能的连接方式。
其中，存储器503中存储一组程序，处理器502用于调用存储器503中存储的程序，以执行前述图2至图4所示的函数管理平台和业务部署方法中各模块的功能。
在图5中，处理器502可以是中央处理器(英文：central processing unit，缩写：CPU)，网络处理器(英文：network processor，缩写：NP)或者CPU和NP的组合。
处理器502还可以进一步包括硬件芯片。上述硬件芯片可以是专用集成电路(英文：application-specific integrated circuit，缩写：ASIC)，可编程逻辑器件(英文：programmable logic device，缩写：PLD)或其组合。上述PLD可以是复杂可编程逻辑器件(英文：complex programmable logic device，缩写：CPLD)，现场可编程逻辑门阵列(英文：field-programmable gate array，缩写：FPGA)，通用阵列逻辑(英文：generic arraylogic,缩写：GAL)或其任意组合。
存储器501可以包括易失性存储器(英文：volatile memory)，例如随机存取存储器(英文：random-access memory，缩写：RAM)；存储器401也可以包括非易失性存储器(英文：non-volatile memory)，例如快闪存储器(英文：flash memory)，硬盘(英文：hard diskdrive，缩写：HDD)或固态硬盘(英文：solid-state drive，缩写：SSD)；存储器501还可以包括上述种类的存储器的组合。
函数管理平台中的每个功能模块均可以单独或者组合运行于如图5所示的物理服务器上，本发明实施例不再赘述。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
这些计算机程序代码可以存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中。
显然，本领域的技术人员可以对本申请实施例进行各种改动和变型而不脱离本申请实施例的精神和范围。这样，倘若本申请实施例的这些修改和变型属于本申请权利要求及其等同技术的范围之内，则本申请也意图包含这些改动和变型在内。

Claims (21)

1.一种无服务器架构下的函数管理平台，其特征在于，包括所述函数管理平台包括函数调度器、函数执行器管理器、资源调度器：
所述资源调度器，用于为所述函数管理平台的多个租户创建隔离的资源池，每个租户的资源池包括至少一个主机；
所述函数调度器，用于接收租户发送的函数调用请求，根据所述函数调用请求在所述租户的资源池内选择可用的主机，向所述函数执行器管理器发送函数实例创建请求；
所述函数执行器管理器，用于根据所述函数实例创建请求，在选择出的所述可用的主机上创建函数执行器，所述函数执行器用于执行所述函数调用请求。
2.如权利要求1所述的函数管理平台，其特征在于，所述函数执行器在所述函数调用请求完成后被释放。
3.如权利要求2所述的函数管理平台，其特征在于，所述函数执行器在所述函数调用请求完成后的被释放无须所述租户操作。
4.如权利要求1至3任一所述的函数管理平台，其特征在于，选择出的所述可用的主机由所述函数管理平台托管，所述函数执行器由所述函数管理平台负责操作，从而使得所述租户在所述函数执行器运行的过程中对所述主机无感知。
5.如权利要求1至4任一所述的函数管理平台，其特征在于，所述函数管理平台，还包括策略引擎；
所述策略引擎，用于判断所述函数调用请求对应的函数的并发调用量是否超过第一处理门限，如果超过，则执行所述函数执行器的扩容操作，通过所述函数执行器管理器为所述函数创建新的函数执行器。
6.如权利要求5所述的函数管理平台，其特征在于，
所述策略引擎，还用于判断所述函数的并发调用量是否低于第二处理门限，如果低于，则执行所述函数执行器的减容操作。
7.如权利要求6所述的函数管理平台，其特征在于，
所述策略引擎，还用于选择至少一个主机作为减容对象，所述减容对象上运行的函数执行器不再处理新的函数调用请求，当所述减容对象上运行的函数执行器完成当前任务处理后，删除所述减容对象上运行的函数执行器，当所述减容对象上的各函数执行器均被删除后，删除所述减容对象。
8.如权利要求1至7任一所述的函数管理平台，其特征在于，所述函数管理平台，还包括主机池管理器；
所述函数调度器，用于向所述主机池管理器发送主机查询请求，所述主机查询请求携带租户标识，接收所述主机池管理器返回的主机查询响应，所述主机查询响应指示选择出的所述可用的主机。
9.如权利要求8所述的函数管理平台，其特征在于，
所述主机池管理器，用于当所述租户的资源池内不存在可用主机时，在所述租户的资源池中创建主机。
10.如权利要求1至9任一所述的函数管理平台，其特征在于，两个租户的资源池之间应用程序环境的隔离且数据隔离。
11.如权利要求1至10任一所述的函数管理平台，其特征在于，所述至少一个主机为物理机或虚拟机。
12.一种无服务器架构下的函数管理平台采用的业务部署的方法，其特征在于，包括所述函数管理平台包括函数调度器、函数执行器管理器、资源调度器：
所述资源调度器为所述函数管理平台的多个租户创建隔离的资源池，每个租户的资源池包括至少一个主机；
所述函数调度器接收租户发送的函数调用请求，根据所述函数调用请求在所述租户的资源池内选择可用的主机，向所述函数执行器管理器发送函数实例创建请求；
所述函数执行器管理器根据所述函数实例创建请求，在选择出的所述可用的主机上创建函数执行器；
所述函数执行器执行所述函数调用请求。
13.如权利要求12所述的方法，其特征在于，所述函数执行器在所述函数调用请求完成后被释放。
14.如权利要求13所述的方法，其特征在于，所述函数执行器在所述函数调用请求完成后的被释放无须所述租户操作。
15.如权利要求12至14任一所述的方法，其特征在于，选择出的所述可用的主机由所述函数管理平台托管，所述函数执行器由所述函数管理平台负责操作，从而使得所述租户在所述函数执行器运行的过程中对所述主机无感知。
16.如权利要求12至15任一所述的方法，其特征在于，所述函数管理平台，还包括策略引擎；
所述策略引擎判断所述函数调用请求对应的函数的并发调用量是否超过第一处理门限，如果超过，则执行所述函数执行器的扩容操作，通过所述函数执行器管理器为所述函数创建新的函数执行器。
17.如权利要求16所述的方法，其特征在于，
所述策略引擎判断所述函数的并发调用量是否低于第二处理门限，如果低于，则执行所述函数执行器的减容操作。
18.如权利要求17所述的方法，其特征在于，
所述策略引擎选择至少一个主机作为减容对象，所述减容对象上运行的函数执行器不再处理新的函数调用请求，当所述减容对象上运行的函数执行器完成当前任务处理后，删除所述减容对象上运行的函数执行器，当所述减容对象上的各函数执行器均被删除后，删除所述减容对象。
19.如权利要求12至18任一所述的方法，其特征在于，所述函数管理平台，还包括主机池管理器；
所述函数调度器向所述主机池管理器发送主机查询请求，所述主机查询请求携带租户标识，接收所述主机池管理器返回的主机查询响应，所述主机查询响应指示选择出的所述可用的主机。
20.如权利要求19所述的方法，其特征在于，
所述主机池管理器当所述租户的资源池内不存在可用主机时，在所述租户的资源池中创建主机。
21.一种业务部署的装置，其特征在于，包括处理器和存储器，所述处理器执行存储器中记录的程序指令，以实现如权利要求12至20任一所述的方法。
CN202010954760.1A 2017-11-08 2017-11-08 一种无服务器架构下业务部署的方法和函数管理平台 Pending CN112214293A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010954760.1A CN112214293A (zh) 2017-11-08 2017-11-08 一种无服务器架构下业务部署的方法和函数管理平台

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
PCT/CN2017/109973 WO2019090523A1 (zh) 2017-11-08 2017-11-08 一种无服务器架构下业务部署的方法和函数管理平台
CN202010954760.1A CN112214293A (zh) 2017-11-08 2017-11-08 一种无服务器架构下业务部署的方法和函数管理平台
CN201780090601.8A CN110612705B (zh) 2017-11-08 2017-11-08 一种无服务器架构下业务部署的方法和函数管理平台

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
CN201780090601.8A Division CN110612705B (zh) 2017-11-08 2017-11-08 一种无服务器架构下业务部署的方法和函数管理平台

Publications (1)

Publication Number Publication Date
CN112214293A true CN112214293A (zh) 2021-01-12

Family

ID=66438208

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201780090601.8A Active CN110612705B (zh) 2017-11-08 2017-11-08 一种无服务器架构下业务部署的方法和函数管理平台
CN202010954760.1A Pending CN112214293A (zh) 2017-11-08 2017-11-08 一种无服务器架构下业务部署的方法和函数管理平台

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN201780090601.8A Active CN110612705B (zh) 2017-11-08 2017-11-08 一种无服务器架构下业务部署的方法和函数管理平台

Country Status (3)

Country Link
US (1) US11431794B2 (zh)
CN (2) CN110612705B (zh)
WO (1) WO2019090523A1 (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113238853A (zh) * 2021-06-15 2021-08-10 上海交通大学 基于函数中间表达的无服务器计算调度系统及方法
CN113282377A (zh) * 2021-07-23 2021-08-20 阿里云计算有限公司 无服务器架构下的代码加载方法、设备、系统及存储介质
CN114598706A (zh) * 2022-03-08 2022-06-07 中南大学 基于Serverless函数的存储系统弹性伸缩方法
CN114629958A (zh) * 2022-03-15 2022-06-14 北京字节跳动网络技术有限公司 资源分配方法、装置、电子设备及存储介质
CN114881235A (zh) * 2022-05-27 2022-08-09 北京百度网讯科技有限公司 推理服务调用方法、装置、电子设备及存储介质
CN115357342A (zh) * 2022-08-23 2022-11-18 北京火山引擎科技有限公司 冷启动资源处理方法及装置
TWI785931B (zh) * 2021-12-14 2022-12-01 中華電信股份有限公司 用於監控無伺服器執行函式過程之系統、方法及電腦可讀媒介
WO2024109005A1 (zh) * 2022-11-22 2024-05-30 华为云计算技术有限公司 一种无服务器应用的执行方法及相关设备

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4145282A1 (en) * 2018-12-21 2023-03-08 Huawei Cloud Computing Technologies Co., Ltd. Mechanism to reduce serverless function startup latency
US11055256B2 (en) * 2019-04-02 2021-07-06 Intel Corporation Edge component computing system having integrated FaaS call handling capability
CN112019475B (zh) * 2019-05-28 2021-12-21 阿里巴巴集团控股有限公司 无服务器架构下的资源访问方法、设备、系统及存储介质
CN112015542A (zh) * 2019-05-29 2020-12-01 潘仲光 资源收集方法、设备及存储介质
US11272015B2 (en) 2019-12-13 2022-03-08 Liveperson, Inc. Function-as-a-service for two-way communication systems
CN111324346B (zh) * 2020-01-21 2021-09-21 中国科学院软件研究所 一种基于Serverless的前端应用构建方法和系统
US11922382B2 (en) * 2020-01-28 2024-03-05 Salesforce, Inc. Transaction system having a serverless architecture that provides multi-language multi-platform transaction support for multiple vendors in conjunction with a cloud-based computing platform
CN113835823A (zh) * 2020-06-23 2021-12-24 中兴通讯股份有限公司 资源调度方法和装置、电子设备、计算机可读存储介质
US11948010B2 (en) * 2020-10-12 2024-04-02 International Business Machines Corporation Tag-driven scheduling of computing resources for function execution
CN112328362B (zh) * 2020-11-03 2023-03-28 浪潮云信息技术股份公司 一种基于容器技术实现函数计算服务的方法
CN114697395A (zh) * 2020-12-11 2022-07-01 北京神州泰岳软件股份有限公司 服务资源调用执行方法、装置、服务网关和可读存储介质
US11809218B2 (en) * 2021-03-11 2023-11-07 Hewlett Packard Enterprise Development Lp Optimal dispatching of function-as-a-service in heterogeneous accelerator environments
CN113300985B (zh) * 2021-03-30 2023-04-07 阿里巴巴（中国）有限公司 数据处理方法、装置、设备和存储介质
CN113296750B (zh) * 2021-05-12 2023-12-08 阿里巴巴新加坡控股有限公司 函数创建方法及系统、函数调用方法及系统
US11995473B2 (en) * 2021-07-28 2024-05-28 International Business Machines Corporation System and apparatus for FaaS business goals optimization
CN116382881A (zh) * 2021-11-27 2023-07-04 华为技术有限公司 无服务器架构下函数资源动态配置方法和函数管理平台
CN114650279B (zh) * 2022-03-25 2023-10-03 阿里巴巴（中国）有限公司 实例处理方法及系统
CN116302218B (zh) * 2023-03-15 2024-05-10 北京百度网讯科技有限公司 函数信息的添加方法、装置、设备以及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104335189A (zh) * 2012-06-28 2015-02-04 国际商业机器公司 对共享存储资源的安全访问
CN106354544A (zh) * 2016-08-24 2017-01-25 华为技术有限公司 虚拟机创建方法、系统以及主机
CN106681834A (zh) * 2016-12-28 2017-05-17 上海优刻得信息科技有限公司 分布式计算方法、管理装置及系统
CN107003866A (zh) * 2014-11-14 2017-08-01 微软技术许可有限责任公司 来自加密模板的加密虚拟机的安全创建
CN107113298A (zh) * 2014-12-29 2017-08-29 Nicira股份有限公司 为rdma提供多租赁支持的方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020143669A1 (en) * 2001-01-22 2002-10-03 Scheer Robert H. Method for managing inventory within an integrated supply chain
US7277984B2 (en) * 2004-06-23 2007-10-02 International Business Machines Corporation Methods, apparatus and computer programs for scheduling storage requests
US7730478B2 (en) * 2006-10-04 2010-06-01 Salesforce.Com, Inc. Method and system for allowing access to developed applications via a multi-tenant on-demand database service
US10007767B1 (en) * 2007-12-21 2018-06-26 EMC IP Holding Company LLC System and method for securing tenant data on a local appliance prior to delivery to a SaaS data center hosted application service
US9842002B2 (en) * 2012-05-01 2017-12-12 Red Hat, Inc. Node selection for a new application in a multi-tenant cloud hosting environment
EP2922251A4 (en) * 2012-12-09 2015-10-14 Huawei Tech Co Ltd PACKET DELIVERY METHOD, DEVICE AND DATA CENTER NETWORK
US10033595B2 (en) * 2013-08-27 2018-07-24 Futurewei Technologies, Inc. System and method for mobile network function virtualization
CN104866513B (zh) * 2014-02-26 2018-09-11 国际商业机器公司 用于跨租户数据访问的系统和方法
US9432267B2 (en) * 2014-03-12 2016-08-30 International Business Machines Corporation Software defined infrastructures that encapsulate physical server resources into logical resource pools
CN104954281B (zh) * 2014-03-31 2018-08-03 中国移动通信集团公司 通信方法、系统、资源池管理系统、交换机和控制装置
WO2015200012A1 (en) * 2014-06-22 2015-12-30 Cisco Technology, Inc. A framework for network technology agnostic multi-cloud elastic extension and isolation
US10019278B2 (en) * 2014-06-22 2018-07-10 Cisco Technology, Inc. Framework for network technology agnostic multi-cloud elastic extension and isolation
US9256467B1 (en) * 2014-11-11 2016-02-09 Amazon Technologies, Inc. System for managing and scheduling containers
CN104579898A (zh) * 2015-01-26 2015-04-29 中国联合网络通信集团有限公司 一种租户隔离方法及系统
CN105095023B (zh) * 2015-08-18 2018-07-06 北京皮尔布莱尼软件有限公司 一种云主机创建装置、方法和计算设备
CN105426250A (zh) * 2015-11-30 2016-03-23 杭州数梦工场科技有限公司 一种资源管理的方法和装置
US10411964B2 (en) * 2016-09-09 2019-09-10 Huawei Technologies Co., Ltd. Method and apparatus for network slicing
US11044145B2 (en) * 2016-12-13 2021-06-22 International Business Machines Corporation Configuring and naming of cloud provisioning entities
US10701182B2 (en) * 2017-03-30 2020-06-30 International Business Machines Corporation Creating new versions of provisioning service templates

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104335189A (zh) * 2012-06-28 2015-02-04 国际商业机器公司 对共享存储资源的安全访问
CN107003866A (zh) * 2014-11-14 2017-08-01 微软技术许可有限责任公司 来自加密模板的加密虚拟机的安全创建
CN107113298A (zh) * 2014-12-29 2017-08-29 Nicira股份有限公司 为rdma提供多租赁支持的方法
CN106354544A (zh) * 2016-08-24 2017-01-25 华为技术有限公司 虚拟机创建方法、系统以及主机
CN106681834A (zh) * 2016-12-28 2017-05-17 上海优刻得信息科技有限公司 分布式计算方法、管理装置及系统

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113238853B (zh) * 2021-06-15 2021-11-12 上海交通大学 基于函数中间表达的无服务器计算调度系统及方法
CN113238853A (zh) * 2021-06-15 2021-08-10 上海交通大学 基于函数中间表达的无服务器计算调度系统及方法
CN113282377A (zh) * 2021-07-23 2021-08-20 阿里云计算有限公司 无服务器架构下的代码加载方法、设备、系统及存储介质
CN113282377B (zh) * 2021-07-23 2022-01-04 阿里云计算有限公司 无服务器架构下的代码加载方法、设备、系统及存储介质
TWI785931B (zh) * 2021-12-14 2022-12-01 中華電信股份有限公司 用於監控無伺服器執行函式過程之系統、方法及電腦可讀媒介
CN114598706B (zh) * 2022-03-08 2023-05-16 中南大学 基于Serverless函数的存储系统弹性伸缩方法
CN114598706A (zh) * 2022-03-08 2022-06-07 中南大学 基于Serverless函数的存储系统弹性伸缩方法
CN114629958A (zh) * 2022-03-15 2022-06-14 北京字节跳动网络技术有限公司 资源分配方法、装置、电子设备及存储介质
CN114629958B (zh) * 2022-03-15 2024-01-30 抖音视界有限公司 资源分配方法、装置、电子设备及存储介质
CN114881235A (zh) * 2022-05-27 2022-08-09 北京百度网讯科技有限公司 推理服务调用方法、装置、电子设备及存储介质
CN115357342A (zh) * 2022-08-23 2022-11-18 北京火山引擎科技有限公司 冷启动资源处理方法及装置
CN115357342B (zh) * 2022-08-23 2024-05-28 北京火山引擎科技有限公司 冷启动资源处理方法及装置
WO2024109005A1 (zh) * 2022-11-22 2024-05-30 华为云计算技术有限公司 一种无服务器应用的执行方法及相关设备

Also Published As

Publication number Publication date
US11431794B2 (en) 2022-08-30
CN110612705B (zh) 2020-09-25
WO2019090523A1 (zh) 2019-05-16
CN110612705A (zh) 2019-12-24
US20200220924A1 (en) 2020-07-09

Similar Documents

Publication Publication Date Title
CN110612705B (zh) 一种无服务器架构下业务部署的方法和函数管理平台
US11960915B2 (en) Method and apparatus for creating virtual machine based on parameter information of a virtual network interface card
US11836516B2 (en) Reducing execution times in an on-demand network code execution system using saved machine states
US11575748B2 (en) Data storage method and apparatus for combining different data distribution policies
JP5510556B2 (ja) 仮想マシンのストレージスペースおよび物理ホストを管理するための方法およびシステム
CN111641515B (zh) Vnf的生命周期管理方法及装置
CN114930295A (zh) 利用预留容量而不抑制缩放的无服务器调用分配
JPWO2012039053A1 (ja) 計算機システムの運用管理方法、計算機システム及びプログラムを記憶する計算機読み取り可能な媒体
CN110716788A (zh) 管理虚拟化资源的方法和装置
CN114615340B (zh) 一种请求处理方法、装置、计算机设备和存储装置
CN110704177A (zh) 计算任务处理方法、装置、计算机设备和存储介质
US20220329651A1 (en) Apparatus for container orchestration in geographically distributed multi-cloud environment and method using the same
CN112948050A (zh) 一种部署pod的方法及装置
CN113438295A (zh) 容器组地址分配方法、装置、设备及存储介质
US11144359B1 (en) Managing sandbox reuse in an on-demand code execution system
CN113485830A (zh) 一种电网监控系统微服务自动扩容方法
CN109933959B (zh) 一种许可证控制方法及相关设备
CN109257201B (zh) 一种License的发送方法和装置
CN112015515B (zh) 一种虚拟网络功能的实例化方法及装置
CN114328650A (zh) 数据库资源管理方法、装置、计算机设备和存储介质
US20170075736A1 (en) Rule engine for application servers
WO2016041202A1 (zh) 一种基于云环境系统的部署方法和装置
CN112073449B (zh) 基于Kubernetes的环境切换处理方法和设备
CN117806775B (zh) Kubernetes集群的容器资源处理方法和装置
CN112073358B (zh) 基于Kubernetes的协议转换处理方法和设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20220222

Address after: 550025 Huawei cloud data center, jiaoxinggong Road, Qianzhong Avenue, Gui'an New District, Guiyang City, Guizhou Province

Applicant after: Huawei Cloud Computing Technologies Co.,Ltd.

Address before: 518129 Bantian HUAWEI headquarters office building, Longgang District, Guangdong, Shenzhen

Applicant before: HUAWEI TECHNOLOGIES Co.,Ltd.