CN113157398A - 云服务方法、装置、设备及存储介质 - Google Patents
云服务方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN113157398A CN113157398A CN202110468568.6A CN202110468568A CN113157398A CN 113157398 A CN113157398 A CN 113157398A CN 202110468568 A CN202110468568 A CN 202110468568A CN 113157398 A CN113157398 A CN 113157398A
- Authority
- CN
- China
- Prior art keywords
- service
- virtual
- cloud platform
- instance
- platform system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 238000013473 artificial intelligence Methods 0.000 claims abstract description 264
- 238000013507 mapping Methods 0.000 claims abstract description 36
- 238000012545 processing Methods 0.000 claims description 28
- 238000004590 computer program Methods 0.000 claims description 15
- 238000007726 management method Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 238000002955 isolation Methods 0.000 description 9
- 230000006978 adaptation Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000004458 analytical method Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000004927 fusion Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
- H04L67/025—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP] for remote control or remote monitoring of applications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Stored Programmes (AREA)
Abstract
公开了一种云服务方法、装置、设备及存储介质，所述方法应用于人工智能AI云平台系统，所述AI云平台系统被虚拟化为多个虚拟AI实例，每个所述虚拟AI实例包含至少一个虚拟AI服务；所述方法包括：获取至少一个租户的服务请求，其中，每个租户对应于所述AI云平台系统的多个虚拟AI实例中的至少一个虚拟AI实例，所述服务请求指示所述租户对应的所述虚拟AI实例中的目标虚拟AI服务；根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务。
Description
技术领域
本公开涉及计算机技术领域，尤其涉及一种云服务方法、装置、设备及存储介质。
背景技术
随着云计算技术的快速发展，云平台的应用越来越广泛。现有的云计算平台通常采用对物理资源进行虚拟化的方法来实现多租户系统，以支持不同的租户在云端独立使用计算服务，但这种方式存在着资源使用重及管理使用开销高等问题。
发明内容
本公开提供一种云服务方案。
根据本公开的一方面，提出一种云服务方法，应用于人工智能AI云平台系统，所述AI云平台系统被虚拟化为多个虚拟AI实例，每个所述虚拟AI实例包含至少一个虚拟AI服务；所述方法包括：获取至少一个租户的服务请求，其中，每个租户对应于所述AI云平台系统的多个虚拟AI实例中的至少一个虚拟AI实例，所述服务请求指示所述租户对应的所述虚拟AI实例中的目标虚拟AI服务；根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务。
结合本公开提供的任一实施方式，所述方法还包括：接收用户信息，所述用户信息用于指示租户对于所述虚拟AI实例以及所述虚拟AI实例中的虚拟AI服务的权限；根据所述用户信息，建立所述租户与所述虚拟AI实例的对应关系，以及所述租户与所述虚拟AI实例中的虚拟AI服务的对应关系。
结合本公开提供的任一实施方式，所述方法还包括：建立网关接口，所述网关接口用于提供面向租户的所述AI云平台系统的多个虚拟AI实例。
结合本公开提供的任一实施方式，根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务，包括：获取针对所述目标虚拟AI服务的待处理数据，并利用所述目标AI服务对所述待处理数据进行处理；在发出所述服务请求的租户对应的命名空间下对所述目标AI服务所产生的数据进行处理、传输、存储中的至少一项。
结合本公开提供的任一实施方式，根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务，包括：根据所述服务请求所指示的所述虚拟AI实例中的目标虚拟AI服务，为发出所述服务请求的租户分配独立的、有状态AI算法资源；利用所述AI算法资源实现所述目标AI服务。
结合本公开提供的任一实施方式，根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务，包括：根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，确定执行与所述目标虚拟AI服务对应的所述AI云平台系统的无状态AI算法资源；利用所述AI算法资源实现所述目标AI服务。
结合本公开提供的任一实施方式，所述AI云平台系统包括多个子系统，所述AI云服务由至少一个所述子系统实现；所述根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务，包括：根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，确定与所述目标虚拟AI服务对应的至少一个子系统；利用所述至少一个子系统实现所述目标AI服务。
根据本公开的一方面，提出一种云服务装置，所述装置包括：获取单元，用于获取至少一个租户的服务请求，其中，每个租户对应于所述AI云平台系统的多个虚拟AI实例中的至少一个虚拟AI实例，所述服务请求指示所述租户对应的所述虚拟AI实例中的目标虚拟AI服务；服务单元，用于根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务。
结合本公开提供的任一实施方式，所述装置还包括映射单元，用于接收用户信息，所述用户信息用于指示租户对于所述虚拟AI实例以及所述虚拟AI实例中的虚拟AI服务的权限；根据所述用户信息，建立所述租户与所述虚拟AI实例的对应关系，以及所述租户与所述虚拟AI实例中的虚拟AI服务的对应关系。
结合本公开提供的任一实施方式，所述装置还包括网关接口建立单元，用于建立网关接口，所述网关接口用于提供面向租户的所述AI云平台系统的多个虚拟AI实例。
结合本公开提供的任一实施方式，所述服务单元具体用于：获取针对所述目标虚拟AI服务的待处理数据，并利用所述目标AI服务对所述待处理数据进行处理；在发出所述服务请求的租户对应的命名空间下对所述目标AI服务所产生的数据进行处理、传输、存储中的至少一项。
结合本公开提供的任一实施方式，所述服务单元具体用于：根据所述服务请求所指示的所述虚拟AI实例中的目标虚拟AI服务，为发出所述服务请求的租户分配独立的、有状态AI算法资源；利用所述AI算法资源实现所述目标AI服务。
结合本公开提供的任一实施方式，所述服务单元具体用于：根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，确定执行与所述目标虚拟AI服务对应的所述AI云平台系统的无状态AI算法资源；利用所述AI算法资源实现所述目标AI服务。
结合本公开提供的任一实施方式，所述AI云平台系统包括多个子系统，所述AI云服务由至少一个所述子系统实现；所述服务单元具体用于：根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，确定与所述目标虚拟AI服务对应的至少一个子系统；利用所述至少一个子系统实现所述目标AI服务。
根据本公开的一方面，提供一种电子设备，包括存储器和处理器，所述存储器用于存储可在所述处理器上运行的计算机指令，所述处理器用于执行所述计算机指令以实现本公开提供的任一实施方式的云服务方法。
根据本公开的一方面，提出一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现本公开提供的任一实施方式的云服务方法。
根据本公开的一方面，提出一种计算机程序产品，包括计算机程序，所述程序被处理器执行时实现本公开提供的任一实施方式的云服务方法。
在本公开实施例中，AI云平台系统的服务层被虚拟化为多个虚拟AI实例，每个所述虚拟AI实例包含至少一个虚拟AI服务；通过获取租户对于虚拟AI实例中的目标虚拟AI服务的服务请求，并根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，可以确定与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务，并调用所述目标AI服务向所述租户提供服务，可以实现AI云服务系统的轻量级虚拟化，以减小资源投入；通过对于虚拟AI实例的配置以及不同虚拟AI实例的组合，可以实现虚拟AI服务的能力多样性和性能多样性。
附图说明
为了更清楚地说明本说明书一个或多个实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书一个或多个实施例中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本公开至少一个实施例提供的一种云服务方法的流程图；
图2为本公开至少一个实施例提供的一种云服务方法的示意图；
图3为本公开至少一个实施例提供的云平台系统的构架图；
图4为本公开至少一个实施例提供的一种云服务装置的结构示意图；
图5为本公开至少一个实施例提供的一种电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本说明书一个或多个实施例中的技术方案，下面将结合本说明书一个或多个实施例中的附图，对本说明书一个或多个实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书一个或多个实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本公开保护的范围。
本公开实施所提出的云服务方法可以应用于人工智能(ArtificialIntelligence,AI)云平台系统，所述AI云平台系统可以基于服务器、服务器集群、存储网络等物理硬件搭建，并通过在所述物理硬件基础上建立的服务层实现。
图1为本公开至少一个实施例提供的一种云服务方法的流程图。所述方法所应用的所述AI云平台系统可以被虚拟化为多个虚拟AI实例，具体地，物理AI云平台系统在服务层被虚拟化为多个AI虚拟实例，每个所述虚拟AI实例包含至少一个虚拟AI服务，所述虚拟AI服务对应于所述AI云平台系统所提供的AI服务。如图1所示，本公开至少一个实施例提供的云服务方法可以包括步骤101～步骤102。
在步骤101中，获取至少一个租户的服务请求。
在本公开实施例中，所述云服务方法所应用的AI云平台系统用于以云计算的方式向租户提供云AI服务，所述AI云服务包括但不限于以下至少一个服务项：图片流入库、视频流创建、人像解析、结构化解析、视频流解析、音频流解析、人像库创建等，其中，所述人像解析包括但不限于人脸识别等操作，结构化解析操作包括但不限于对人脸之前的其他实物，例如车辆、人体部位、动物、植物、建筑物等进行分类解析的操作。
在本公开实施例中，每个租户对应于所述AI云平台系统的多个虚拟AI实例中的至少一个虚拟AI实例，所述服务请求指示所述租户对应的所述虚拟AI实例中的目标虚拟AI服务。其中，每个虚拟AI实例是虚拟的AI云平台系统，也即所述多个虚拟AI实例共享一个物理的AI云平台系统，向租户提供AI计算服务功能。所述虚拟AI实例包含至少一个虚拟AI服务，所述虚拟AI实例可以是完整的具备各种算法能力的AI云平台系统，也可以是特定选择部分功能的AI云平台系统，包括但不限于：独立的AI算法虚拟实例，关联的AI算法的逻辑组合，多AI算法的数据融合，以及完整的AI云平台系统的服务功能。
所述租户的服务请求指示了所述租户对应的所述虚拟AI实例中的目标虚拟AI服务，所述服务请求中可以带有租户在所述AI云平台系统中的唯一性标识。所述租户可以同时请求一个虚拟AI实例中的多个虚拟AI服务，也可以同时请求多个虚拟AI实例进行服务。
在步骤102中，根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务。
由于所述虚拟AI实例是通过对物理AI云平台系统在服务层进行虚拟化得到的，因此所述虚拟AI实例与所述AI云平台系统的AI服务之间具有虚拟化映射关系，因而通过该映射关系可以确定所述虚拟AI实例中的目标虚拟AI服务与所述AI云平台系统的AI服务之间的对应关系，从而可以确定与所述目标虚拟AI服务对应的所述AI云平台系统中的目标AI服务。通过调用调用所述目标AI服务，则可以向租户提供与发出的服务请求相应的服务。
在本公开实施例中，AI云平台系统在服务层被虚拟化为多个虚拟AI实例，每个所述虚拟AI实例包含至少一个虚拟AI服务；通过获取租户对于虚拟AI实例中的目标虚拟AI服务的服务请求，并根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，可以确定与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务，并调用所述目标AI服务向所述租户提供服务，可以实现AI云服务系统的轻量级虚拟化，以减小资源投入；通过对于虚拟AI实例的配置以及不同虚拟AI实例的组合，可以实现虚拟AI服务的能力多样性和性能多样性。
在一些实施例中，所述云服务方法还包括：接收用户信息，其中，所述用户信息中通常包括包括租户的基本信息，例如租户在所述云平台系统中注册的租户名、租户属性等等，还可以包括租户的权限信息，所述权限信息指示指示租户对于所述虚拟AI实例以及所述虚拟AI实例中的虚拟AI服务的权限；根据所述用户信息，可以建立所述租户与所述虚拟AI实例的对应关系，以及所述租户与所述虚拟AI实例中的虚拟AI服务的对应关系。
图2为本公开至少一个实施例提供的一种云服务方法的示意图。如图2所示，通过对物理AI云平台系统在服务层进行虚拟化，得到M个虚拟AI实例{虚拟AI实例1、虚拟AI实例2、...、虚拟AI实例N}。其中，各个虚拟AI实例应于完整服务功能的AI云平台系统，或者对应于特定选择部分功能的AI云平台系统，如图2所示，虚拟AI实例1对应于虚拟AI服务1，也即对应于AI云平台系统的AI服务1；虚拟AI实例2对应于虚拟AI服务2、虚拟AI服务3，也即对应于AI云平台系统的AI服务2、AI服务3；虚拟AI实例N对应于虚拟AI服务1、虚拟AI服务2、...、虚拟AI服务M，也即对应于AI云平台系统的完整的服务功能。
所述AI云平台系统的租户可以通过获得虚拟AI实例的使用权限而建立与至少一个虚拟AI实例的对应关系。如图2所示，租户1可以通过购买虚拟AI实例1和虚拟AI实例2，建立与虚拟AI实例1和虚拟AI实例2的对应关系；租户2可以通过购买虚拟AI实例N，建立与虚拟AI实例N的对应关系。在本公开实施例中，每个虚拟AI实例是面向一个特定租户的，也即虚拟AI实例在与一个租户建立了对应关系后，则是专属于该租户的。
在一个虚拟AI实例包含了多项虚拟AI服务的情况下，一个租户可以对应于所述虚拟AI实例中的部分虚拟AI服务。租户可以通过获得虚拟AI实例中的至少一个虚拟AI服务的使用权限，而建立与所述虚拟AI实例以及所述至少一个虚拟AI服务的对应关系。参见图2，假设租户1仅购买了虚拟AI实例2中的虚拟AI服务3，虽然虚拟AI实例2是对应于租户1的，但是租户1只能请求虚拟AI服务3，而无权请求虚拟AI服务2。
在本公开实施例中，所述AI云平台系统的中间层，即AI云平台系统的虚拟化操作系统(以下简称为AI虚拟OS)，用于将物理AI云平台系统在服务层虚拟化为多个独立的虚拟AI实例。所述AI虚拟OS例如使用AI云平台系统的集群，提供多个虚拟AI实例。
在一些实施例中，所述云服务方法还包括：建立网关接口，所述网关接口用于提供面向租户的所述AI云平台系统的多个虚拟AI实例。例如，可以通过所述AI虚拟OS定义统一的、面向租户的接口网关。所述网关接口的实现包括但不限于：HTTP/HTTPS、JSON、XML、RestFul、ProtocolBuffer数据序列化协议、TCP/UDP等。所述接口网关支持使用租户唯一性标识，也即通过所述标识可以确定发出所述服务请求的租户，该标识可以包括但不限于：独立的IP/域名、URL的特定段、协议的特定字段等。该标识除部分方式外(如IP/域名)通常使用加密模式提供给客户。以HTTP协议，URL特定段做标识为例：
http://ai.sample.io/tenant1_encrypted_id/AI/video_algo，
其中，tenant1_encrypted_id为标识段，video_algo指示目标AI服务。
在一些实施例中，所述AI云平台系统可以包括多个子系统，每个子系统用于执行至少一项子服务，例如数据接入服务、数据存储服务、数据处理服务等等。所述AI云平台系统所提供的多项AI服务中的每一项由至少一个子系统实现，也即通过各个子系统之间的配合，包括数据、参数、指令的传输，可以共同实现一项或多项AI服务。例如，视频流人脸解析服务可以由数据接入子系统、视频流人脸解析子系统、数据存储子系统等共同实现。
在所述AI云平台系统可以包括多个子系统的情况下，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务，包括：根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，确定与所述目标虚拟AI服务对应的至少一个子系统；利用所述至少一个子系统实现所述目标AI服务。
在一些实施例中，可以通过AI虚拟OS类虚拟机监视器(Virtual MachineMonitor,VMM/Hypervisor)，根据所述虚拟AI实例与AI云平台系统的AI服务的映射关系，将租户对于目标虚拟AI实例的请求映射至物理AI云平台系统，从而确定与所述目标虚拟AI实例对应的所述AI云平台系统的目标AI服务，并通过调用所述目标AI服务向所述租户提供所请求的服务。
图3为本公开至少一个实施例提供的AI云平台系统的构架图。如图3所示，AI虚拟OS至少包括以下子系统：虚拟化API引擎301、虚拟化和安全引擎302、适配层引擎303、管理服务引擎304以及其他引擎305。
其中，虚拟化API引擎301提供虚拟AI实例的入口以及对应的安全机制。虚拟化API引擎301用于提供统一的面向租户级别的AI计算服务接口网关，并屏蔽底层不同AI功能虚拟化技术，为上层管理应用系统提供多租户业务独立AI计算服务调度、监控以及生命周期管理。虚拟化API引擎301还用于提供虚拟AI实例的认证、鉴权以及初步数据访问控制，可以采用包括但不限于：租户名/密码、动态token(例如SSO，SAML)、AK/SK、IP ACL等。
虚拟化和安全引擎302可以用于虚拟AI实例的虚拟化实现，维护虚拟AI实例到物理AI云平台系统的AI算力以及算法资源服务分割、隔离的映射关系，提供到虚拟化适配层303的调用路由和API规范化以及平台。虚拟化和安全引擎302还可以用于虚拟AI实例的安全管理，包括但不限于：AI算法资源权限的管理、AI算法资源使用量的管理、数据访问权限管理和数据隔离、虚拟AI实例的审查、及其他数据安全方法。
通过虚拟化和安全引擎302，可以灵活地定义每个算法的性能、灵活地选择一个或多个算法以及多个算法的组合情况，并可以灵活地选择多个算法之间的数据融合功能，该功能是将物理AI云平台系统的多算法数据融合能力虚拟化。虚拟化适配引擎303为AI虚拟OS最低层的引擎，用于根据虚拟化和安全引擎302的调度结果，将虚拟AI实例的业务调用适配到底层AI云平台的子系统中。该虚拟化适配引擎303可以是使用基于轻量级AI虚拟化技术的虚拟化适配引擎。
虚拟化管理服务引擎304用于对虚拟AI实例进行管理，其他引擎305包括但不限于用于状态监控、事件消息处理等。
在一些实施例中，对于复杂算法系统，虚拟化适配引擎303可以是基于名字空间的AI计算服务虚拟化技术的租户名字空间映射引擎。在所述实施例中，可以通过以下方法根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务。
首先，获取针对所述目标云服务的待处理数据。其中，所述待处理数据可以是租户针对所请求的目标云服务上传的数据，或者是云平台系统针对所述目标云服务获取的传感器数据或者其他数据源的数据等等，本公开实施例对于待处理数据来源不进行限制。接着，利用所述目标AI服务对所述待处理数据进行处理，并在发出所述服务请求的租户对应的命名空间下对所述目标AI服务所产生的数据进行处理、传输、存储中的至少一项。
在一个示例中，可以使所述目标AI服务在执行所述目标AI服务时所产生的数据，携带发出所述服务请求的租户所对应的命名空间标识进行传输和/或存储，则对于所述AI云平台系统中所传输或存储的数据，可以确定所述数据所属的命名空间，从而实现多租户之间的数据隔离。具体来说，命名空间所对应的AI处理逻辑，以及处理过程中产生的数据、机器学习模型、特征数据以及配置数据等等，均携带该命名空间标识进行处理、传输、存储，从而实现了AI云平台的轻量级虚拟化，以及在AI服务级别上的服务隔离、数据隔离。
在一个示例中，可以使所述目标AI服务所产生的数据，在发出所述服务请求的租户的命名空间对应的通道中进行传输，和/或在发出所述服务请求的租户的命名空间对应的存储空间中进行存储，也即属于不同命名空间的数据通过不同的通道进行传输，并且存储在不同的存储区域中，实现以命名空间隔离的方式对数据的传输和/或存储，从而实现不同命名空间数据的隔离。所述子系统可以既使传输和/或存储的数据携带命名空间标识，同时也通过不同的通道来传输不同命名空间的数据、在不同的区域存储不同命名空间的数据，以此实现不同命名空间数据的隔离。
在本公开实施例中，所述命名空间可以是在API中实现的机制，例如通过在API中添加命名空间字段或结构体以及其他任意形式的代表命名空间的数据结构。以HTTP格式的API为例，所述命名空间标识可以是HTTP消息头(header)中的整数型字段，例如“AI_namespace:42514”中的“42514”。
在本公开实施例中，通过根据命名空间对处理数据进行隔离以及调度等操作，可以实现对于AI云平台的轻量级虚拟化，简化了租户使用AI云平台系统的成本。在一些实施例中，对于简单算法资源的独立访问，比如特征库的独立访问等，虚拟化适配引擎303可以是基于可逻辑隔离的AI算法的动态算法资源映射引擎。具体地，可以根据所述服务请求所指示的所述虚拟AI实例中的目标虚拟AI服务，为发出所述服务请求的租户分配独立的、有状态AI算法资源；利用所述AI算法资源实现所述目标AI服务在一些实施例中，对于简单无状态的算法，比如图片解析，虚拟化适配引擎303可以是面向无状态算法的虚拟化引擎。具体地，可以根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，确定执行与所述目标虚拟AI服务对应的所述AI云平台系统的无状态AI算法资源；利用所述AI算法资源实现所述目标AI服务。在本公开实施例中，还可以采用其他轻量化虚拟技术。并且可以根据AI算法的复杂程度，同时采用上述多种轻量化虚拟技术。
本公开实施例所提出的AI服务虚拟化操作系统属于虚拟资源的调度、管理系统，相较于通用的虚拟化操作系统，该系统并非对CPU和内存等进行监控和调度，而是对AI云平台系统所提供的AI算力/数据等虚拟化资源进行监控和调度。
图4为本公开至少一个实施例提供的一种云服务装置的结构示意图，如图4所示，所述装置包括：获取单元401，用于获取至少一个租户的服务请求，其中，每个租户对应于所述AI云平台系统的多个虚拟AI实例中的至少一个虚拟AI实例，所述服务请求指示所述租户对应的所述虚拟AI实例中的目标虚拟AI服务；服务单元402，用于根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务。
在一些实施例中，所述装置还包括映射单元，用于接收用户信息，所述用户信息用于指示租户对于所述虚拟AI实例以及所述虚拟AI实例中的虚拟AI服务的权限；根据所述用户信息，建立所述租户与所述虚拟AI实例的对应关系，以及所述租户与所述虚拟AI实例中的虚拟AI服务的对应关系。
在一些实施例中，所述装置还包括网关接口建立单元，用于建立网关接口，所述网关接口用于提供面向租户的所述AI云平台系统的多个虚拟AI实例。
在一些实施例中，所述服务单元具体用于：获取针对所述目标虚拟AI服务的待处理数据，并利用所述目标AI服务对所述待处理数据进行处理；在发出所述服务请求的租户对应的命名空间下对所述目标AI服务所产生的数据进行处理、传输、存储中的至少一项。
在一些实施例中，所述服务单元具体用于：根据所述服务请求所指示的所述虚拟AI实例中的目标虚拟AI服务，为发出所述服务请求的租户分配独立的、有状态AI算法资源；利用所述AI算法资源实现所述目标AI服务。
在一些实施例中，所述服务单元具体用于：根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，确定执行与所述目标虚拟AI服务对应的所述AI云平台系统的无状态AI算法资源；利用所述AI算法资源实现所述目标AI服务。
在一些实施例中，所述AI云平台系统包括多个子系统，所述AI云服务由至少一个所述子系统实现；所述服务单元具体用于：根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，确定与所述目标虚拟AI服务对应的至少一个子系统；利用所述至少一个子系统实现所述目标AI服务。
图5为本公开至少一个实施例提供的电子设备，包括存储器和处理器，所述存储器用于存储可在所述处理器上运行的计算机指令，所述处理器用于执行所述计算机指令以实现本说明书任一实施例所述的云服务方法。
本公开至少一个实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现本说明书任一实施例所述的云服务方法。
本公开至少一个实施例还提供了一种计算机产品，包括计算机程序，所述程序被处理器执行时实现本说明书任一实施例所述的云服务方法。
本领域技术人员应明白，本说明书一个或多个实施例可提供为方法、系统或计算机程序产品。因此，本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于数据处理设备实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的行为或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。
本说明书中描述的主题及功能操作的实施例可以在以下中实现：数字电子电路、有形体现的计算机软件或固件、包括本说明书中公开的结构及其结构性等同物的计算机硬件、或者它们中的一个或多个的组合。本说明书中描述的主题的实施例可以实现为一个或多个计算机程序，即编码在有形非暂时性程序载体上以被数据处理装置执行或控制数据处理装置的操作的计算机程序指令中的一个或多个模块。可替代地或附加地，程序指令可以被编码在人工生成的传播信号上，例如机器生成的电、光或电磁信号，该信号被生成以将信息编码并传输到合适的接收机装置以由数据处理装置执行。计算机存储介质可以是机器可读存储设备、机器可读存储基板、随机或串行存取存储器设备、或它们中的一个或多个的组合。
本说明书中描述的处理及逻辑流程可以由执行一个或多个计算机程序的一个或多个可编程计算机执行，以通过根据输入数据进行操作并生成输出来执行相应的功能。所述处理及逻辑流程还可以由专用逻辑电路—例如FPGA(现场可编程门阵列)或ASIC(专用集成电路)来执行，并且装置也可以实现为专用逻辑电路。
适合用于执行计算机程序的计算机包括，例如通用和/或专用微处理器，或任何其他类型的中央处理单元。通常，中央处理单元将从只读存储器和/或随机存取存储器接收指令和数据。计算机的基本组件包括用于实施或执行指令的中央处理单元以及用于存储指令和数据的一个或多个存储器设备。通常，计算机还将包括用于存储数据的一个或多个大容量存储设备，例如磁盘、磁光盘或光盘等，或者计算机将可操作地与此大容量存储设备耦接以从其接收数据或向其传送数据，抑或两种情况兼而有之。然而，计算机不是必须具有这样的设备。此外，计算机可以嵌入在另一设备中，例如移动电话、个人数字助理(PDA)、移动音频或视频播放器、游戏操纵台、全球定位系统(GPS)接收机、或例如通用串行总线(USB)闪存驱动器的便携式存储设备，仅举几例。
适合于存储计算机程序指令和数据的计算机可读介质包括所有形式的非易失性存储器、媒介和存储器设备，例如包括半导体存储器设备(例如EPROM、EEPROM和闪存设备)、磁盘(例如内部硬盘或可移动盘)、磁光盘以及CD ROM和DVD-ROM盘。处理器和存储器可由专用逻辑电路补充或并入专用逻辑电路中。
虽然本说明书包含许多具体实施细节，但是这些不应被解释为限制任何发明的范围或所要求保护的范围，而是主要用于描述特定发明的具体实施例的特征。本说明书内在多个实施例中描述的某些特征也可以在单个实施例中被组合实施。另一方面，在单个实施例中描述的各种特征也可以在多个实施例中分开实施或以任何合适的子组合来实施。此外，虽然特征可以如上所述在某些组合中起作用并且甚至最初如此要求保护，但是来自所要求保护的组合中的一个或多个特征在一些情况下可以从该组合中去除，并且所要求保护的组合可以指向子组合或子组合的变型。
类似地，虽然在附图中以特定顺序描绘了操作，但是这不应被理解为要求这些操作以所示的特定顺序执行或顺次执行、或者要求所有例示的操作被执行，以实现期望的结果。在某些情况下，多任务和并行处理可能是有利的。此外，上述实施例中的各种系统模块和组件的分离不应被理解为在所有实施例中均需要这样的分离，并且应当理解，所描述的程序组件和系统通常可以一起集成在单个软件产品中，或者封装成多个软件产品。
由此，主题的特定实施例已被描述。其他实施例在所附权利要求书的范围以内。在某些情况下，权利要求书中记载的动作可以以不同的顺序执行并且仍实现期望的结果。此外，附图中描绘的处理并非必需所示的特定顺序或顺次顺序，以实现期望的结果。在某些实现中，多任务和并行处理可能是有利的。
以上所述仅为本说明书一个或多个实施例的较佳实施例而已，并不用以限制本说明书一个或多个实施例，凡在本说明书一个或多个实施例的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本说明书一个或多个实施例保护的范围之内。
Claims (11)
1.一种云服务方法，其特征在于，应用于人工智能AI云平台系统，所述AI云平台系统被虚拟化为多个虚拟AI实例，每个所述虚拟AI实例包含至少一个虚拟AI服务；所述方法包括：
获取至少一个租户的服务请求，其中，每个租户对应于所述AI云平台系统的多个虚拟AI实例中的至少一个虚拟AI实例，所述服务请求指示所述租户对应的所述虚拟AI实例中的目标虚拟AI服务；
根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务。
2.根据权利要求1所述的方法，其特征在于，所述方法还包括：
接收用户信息，所述用户信息用于指示租户对于所述虚拟AI实例以及所述虚拟AI实例中的虚拟AI服务的权限；
根据所述用户信息，建立所述租户与所述虚拟AI实例的对应关系，以及所述租户与所述虚拟AI实例中的虚拟AI服务的对应关系。
3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：建立网关接口，所述网关接口用于提供面向租户的所述AI云平台系统的多个虚拟AI实例。
4.根据权利要求1至3任一项所述的方法，其特征在于，根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务，包括：
获取针对所述目标虚拟AI服务的待处理数据，并利用所述目标AI服务对所述待处理数据进行处理；
在发出所述服务请求的租户对应的命名空间下对所述目标AI服务所产生的数据进行处理、传输、存储中的至少一项。
5.根据权利要求1至3任一项所述的方法，其特征在于，根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务，包括：
根据所述服务请求所指示的所述虚拟AI实例中的目标虚拟AI服务，为发出所述服务请求的租户分配独立的、有状态AI算法资源；
利用所述AI算法资源实现所述目标AI服务。
6.根据权利要求1至3任一项所述的方法，其特征在于，根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务，包括：
根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，确定执行与所述目标虚拟AI服务对应的所述AI云平台系统的无状态AI算法资源；
利用所述AI算法资源实现所述目标AI服务。
7.根据权利要求1至6任一项所述的方法，其特征在于，所述AI云平台系统包括多个子系统，所述AI云服务由至少一个所述子系统实现；所述根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务，包括：
根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，确定与所述目标虚拟AI服务对应的至少一个子系统；
利用所述至少一个子系统实现所述目标AI服务。
8.一种云服务装置，其特征在于，所述装置包括：
获取单元，用于获取至少一个租户的服务请求，其中，每个租户对应于所述AI云平台系统的多个虚拟AI实例中的至少一个虚拟AI实例，所述服务请求指示所述租户对应的所述虚拟AI实例中的目标虚拟AI服务；
服务单元，用于根据所述虚拟AI实例与所述AI云平台系统的AI服务之间的映射关系，调用与所述目标虚拟AI服务对应的所述AI云平台系统的目标AI服务向所述租户提供服务。
9.一种电子设备，其特征在于，包括存储器和处理器，所述存储器用于存储可在所述处理器上运行的计算机指令，所述处理器用于执行所述计算机指令以实现权利要求1至7任一项所述的方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现权利要求1至7任一项所述的方法。
11.一种计算机程序产品，包括计算机程序，其特征在于，所述程序被处理器执行时实现权利要求1至7任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110468568.6A CN113157398A (zh) | 2021-04-28 | 2021-04-28 | 云服务方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110468568.6A CN113157398A (zh) | 2021-04-28 | 2021-04-28 | 云服务方法、装置、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113157398A true CN113157398A (zh) | 2021-07-23 |
Family
ID=76872054
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110468568.6A Withdrawn CN113157398A (zh) | 2021-04-28 | 2021-04-28 | 云服务方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113157398A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114422456A (zh) * | 2022-03-31 | 2022-04-29 | 阿里云计算有限公司 | 任务处理方法以及装置 |
-
2021
- 2021-04-28 CN CN202110468568.6A patent/CN113157398A/zh not_active Withdrawn
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114422456A (zh) * | 2022-03-31 | 2022-04-29 | 阿里云计算有限公司 | 任务处理方法以及装置 |
| CN114422456B (zh) * | 2022-03-31 | 2022-08-16 | 阿里云计算有限公司 | 任务处理方法以及装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11736568B2 (en) | Multi-tenancy via code encapsulated in server requests | |
| EP3798833A1 (en) | Methods, system, articles of manufacture, and apparatus to manage telemetry data in an edge environment | |
| WO2022135167A1 (zh) | 云服务方法、装置、设备及存储介质 | |
| US20130227232A1 (en) | Partition aware quality of service feature | |
| US11909845B2 (en) | Methods and systems for managing applications of a multi-access edge computing environment | |
| EP3948602B1 (en) | Verified isolated run-time environments for enhanced security computations within compute instances | |
| US10038759B2 (en) | Method, management server, and computer-readable storage medium for supporting provision of service desired by client terminal by adaptively modifying network topology depending on properties of service | |
| CN116848528A (zh) | 用于自动配置用于容器应用的最小云服务访问权限的技术 | |
| US20220303616A1 (en) | Methods for media streaming content preparation for an application provider in 5g networks | |
| CN113157398A (zh) | 云服务方法、装置、设备及存储介质 | |
| US9628401B2 (en) | Software product instance placement | |
| Zorrilla et al. | SaW: Video analysis in social media with web-based mobile grid computing | |
| US11722552B2 (en) | Accessing files from virtual desktops and applications during interruptions to connectivity | |
| CN109739615A (zh) | 一种虚拟硬盘的映射方法、设备和云计算平台 | |
| KR101489587B1 (ko) | 미디어 클라우드 서비스를 위한 가상 프레임워크 | |
| US20240232336A9 (en) | Method for definition, consumption, and controlled access of dpu resources and services | |
| US20240134970A1 (en) | Method for definition, consumption, and controlled access of dpu resources and services |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WW01 | Invention patent application withdrawn after publication |
Application publication date: 20210723 |
|
| WW01 | Invention patent application withdrawn after publication |