CN116887357B - 基于人工智能的计算平台管理系统 - Google Patents

基于人工智能的计算平台管理系统 Download PDF

Info

Publication number
CN116887357B
CN116887357B CN202311155398.1A CN202311155398A CN116887357B CN 116887357 B CN116887357 B CN 116887357B CN 202311155398 A CN202311155398 A CN 202311155398A CN 116887357 B CN116887357 B CN 116887357B
Authority
CN
China
Prior art keywords
user
network
computing platform
mec
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311155398.1A
Other languages
English (en)
Other versions
CN116887357A (zh
Inventor
韩东明
王庆焕
邢军鹏
李晓阳
刘其敏
邵龙
李冬冬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Haibo Technology Information System Co ltd
Original Assignee
Shandong Haibo Technology Information System Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong Haibo Technology Information System Co ltd filed Critical Shandong Haibo Technology Information System Co ltd
Priority to CN202311155398.1A priority Critical patent/CN116887357B/zh
Publication of CN116887357A publication Critical patent/CN116887357A/zh
Application granted granted Critical
Publication of CN116887357B publication Critical patent/CN116887357B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W28/00Network traffic management; Network resource management
    • H04W28/02Traffic management, e.g. flow control or congestion control
    • H04W28/08Load balancing or load distribution
    • H04W28/09Management thereof
    • H04W28/0958Management thereof based on metrics or performance parameters
    • H04W28/0967Quality of Service [QoS] parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W24/00Supervisory, monitoring or testing arrangements
    • H04W24/02Arrangements for optimising operational condition
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30Services specially adapted for particular environments, situations or purposes
    • H04W4/40Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
    • H04W4/44Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P] for communication between vehicles and infrastructures, e.g. vehicle-to-cloud [V2C] or vehicle-to-home [V2H]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Computer And Data Communications (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

本发明公开了基于人工智能的计算平台管理系统,包括无线接入层、物理硬件层、开放平台、5GMEC计算平台、Serverless虚拟架构系统,云端数据库;采用的技术方案为:基于人工智能的计算平台管理系统运用Serverless虚拟架构系统的RPB算法思想,结Kubemetes集群模块自动运维编排的优势,提升5GMEC计算平台的计算环境和服务质量;通过SDN技术和RPB算法思想将计算和存储资源靠近车辆,在边缘节点上进行实时资源监控和数据处理,降低了数据传输延迟,同时Serverless虚拟架构系统用于离线数据处理任务,通过事件触发操作模式,在车辆计算需求波动较大的时候,需要根据实时负载情况来动态分配计算资源;本发明对人工智能的计算平台形成统一管理系统,能够提高资源利用率和成本效益。

Description

基于人工智能的计算平台管理系统
技术领域
本发明涉及人工智能领域,尤其是涉及基于人工智能的计算平台管理系统。
背景技术
随着无线通信技术、车载计算和人工智能的不断发展,汽车的性能和智能水平也在迅速提升,以上趋势推动了车联网的进一步发展,但传统车联网难以支持延迟敏感、对带宽要求高和计算密集型的新型车载应用;
现有产品使用大规模的并行处理架构即MassivelyParallelProcessingarchitecture简称MPP架构,当车联网系统中的任务数量和复杂度增加时,车联网系统中涉及的各个节点的大量数据都要参与并行的计算和处理任务,由于MPP架构中的数据分布在多个节点上,而onecomputer分布式计算平台是基于单台服务器的分布式计算框架,当用户请求数据量较大时,会出现性能瓶颈,无法满足实际需求,并行处理数据的一致性难以保证。
MPP架构虽然通过增加节点来提高计算平台的数据处理能力,但是随着车辆数量和数据规模的增长,节点之间数据同步瓶颈和跨多个节点进行并行执行查询都会限制MPP架构的扩展。同时onecomputer分布式计算引擎是基于单台服务器的分布式计算框架,其性能受限于单台服务器的处理能力和存储容量;当处理规模较大或数据量较大时,如果其中一台服务器出现故障,会导致整个计算过程中断或数据丢失。
最后在车联网实际的应用场景中,存在着用户分布不均匀和任务具有异构性的问题,不同边缘设备和远端云的计算能力、存储和带宽资源往往是有限的且不是完全相同的;不当的任务分配和调度会限制MPP延性能的提升,也不利于车联网计算平台系统的负载均衡,同时会导致系统的高功耗和资源浪费;现有的onecomputer分布式计算引擎需要将数据从不同的节点间进行传输和共享,会导致数据传输效率降低,对车辆终端来说,长距离的网络传输导致高延迟和抖动,这不利用户体验;则现有技术需要将人工智能系统部署在一个大型的计算集群中,满足高并发和低延迟的需求,为车联网实际应用场景提供稳定可靠的服务。
发明内容
本发明提供基于人工智能的计算平台管理系统。
为解决上述技术问题,本发明采用的技术方案是,所述人工智能的计算平台管理系统包括无线接入层、物理硬件层、开放平台、5GMEC计算平台、Serverless虚拟架构系统、云端数据库;
所述无线接入层是用户设备和网络之间的连接点,它负责将用户设备通过无线信号与网络进行连接,实现数据的传输和通信;
所述物理硬件层包括边缘云主机和内部局域网交换机,负责部署在网络边缘的云服务器和管理硬件设备的物理连接和操作;
所述开放平台为5GMEC计算平台的用户提供了服务调用与管理相关的接口,是人工智能的计算平台管理系统面向用户的部分;
所述5GMEC计算平台包括MEC系统层、MEC主机层和MEC网络层;MEC系统层负责对整个MEC系统进行全局管理;MEC主机层提供计算和存储资源、处理数据和内容;MEC网络层采用SDN技术将5GMEC计算平台部署于5G网络,结合RPB算法思想和Serverless虚拟架构系统集中管理和调度Docker容器中的资源;MEC主机层和MEC网络层共同构建起5GEMC计算平台的边缘计算环境;
所述Serverless虚拟架构系统提供Serverless架构基本支持,其包括OPenFaaS模块和Kubemetes集群模块;将Serverless用于虚拟架构系统处理车联网后端逻辑、数据处理和轻量微服务,动态分配计算资源;
所述云端数据库集成于Serveress虚拟架构系统中,云端数据库包括用户数据模块和服务数据模块,这两个模块实现用户个性化的功能和数据管理。
进一步地,所述无线接入层来建立用户设备与网络之间的连接;用户根据自身不同的需求选择接入技术,无线接入层提供安全机制,确保用户设备和网络之间的通信安全;这包括身份认证、数据加密、访问控制功能,无线接入层提供的安全机制监控未经授权的设备接入网络以及者数据被窃取篡改。
进一步地,所述物理硬件层包括边缘云主机和内部局域网交换机,所述边缘云主机是指部署在网络边缘的云服务器,位于用户接入网络的边缘节点、最靠近用户的位置,通过控制车载终STM32F103微控制器来采集车载电信号,并通过串口控制北斗定位模块,STM32F103微控制器解析后的数据传递到边缘云服务器,边缘云主机在SDN技术控制下提供计算、存储和网络资源,以支持边缘计算和边缘服务,确保数据采集即控制指令在规定时延内传输到位;所述内部局域网交换机是用于连接局域网内的各种终端设备包含计算机、服务器、车载终端、IP电话,并通过数据包交换技术实现数据的转发和路由。
进一步地,所述开放平台包括边缘服务API接口、服务管理接口、服务镜像接口和用户管理接口;所述边缘服务API接口为用户提供计算平台中服务的调用接口;所述服务管理接口为管理员提供增删查改基本功能;所述服务镜像接口为5GMEC计算平台中MEC系统层提供服务;所述用户管理接口负责对用户进行管理,包括请求服务前,用户在人工智能的计算平台管理系统上的注册,用户在系统注销后清理用户分配的所有资源,完成资源回收工作。
进一步地,所述MEC系统层包括终端用户模块、第三方模块、三维可视化模块和边缘计算系统管理中心,负责对整个MEC系统进行全局管理,并为开发者提供接口;所述MEC主机层由MEC管理器和MEC主机组成,MEC主机管理器对主机层的实体进行管理,MEC主机包括虚拟化架构、MEC应用和MEC平台,MEC应用从MEC主机中获取各类资源和其所需要的时间;所述MEC网络层管理接入本地网络、3GPP网络和外部局域网络,给MEC计算平台提供可靠的网络部署;
所述MEC网络层利用SDN技术将5GMEC计算平台部署于5G网络,根据不同的业务需求,配置网络切片,以满足不同用户对网络资源的需求;所述5GMEC计算平台在网络虚化部署中,根据RPB算法思想结合Serverless虚拟架构系统中Kubernetes集群模块对Docker容器中的资源进行集中管理和调度,取代现有5GMEC计算平台主流NFV技术,实现虚拟化的网络功能;
所述SDN技术通过openFaas模块和Kubernetes集群模块对MEC边缘节点上的计算资源进行管理和控制,同时利用SDN技术能用于监控5GMEC计算平台和整个管理系统网络的运行状态。
进一步地,所述Serverless虚拟架构系统中OPenFaaS模块将函数作为应用程序的构建块,开发人员将自己的代码打包成函数,并通过OpenFaaS进行部署和管理,而无需关心底层的基础设施和扩展性问题,开发人员能实现快速、灵活的系统开发;OpenFaaS使用Docker容器来封装函数,实现容器环境虚拟,并结合Kubemetes技术实现容器的编排与管理任务。
进一步地,所述Serverless虚拟架构系统中Kubemetes集群模块,能自动化地部署、扩展和管理Docker容器化应用程序;Kubernetes集群模块在Serverless虚拟架构系统中提供了一组功能,包括服务发现、负载均衡、自动扩缩容、容器编排、节点监控、Pod监控。
进一步地,所述云端数据库包括用户数据模块和服务数据模块;所述云端数据库包括用户数据模块和服务数据模块;所述用户数据模块用于存储和管理用户的人工智能的计算平台管理系统用户信息和相关数据,它包括用户名、密码、邮箱的用户信息,以及用户的个人设置和偏好,其包含语言偏好、主题偏好;
用户数据模块还存储用户的交互历史记录、权限信息;所述服务数据模块用于存储和管理人工智能的计算平台管理系统或应用程序的业务数据;服务数据包括产品信息、订单信息、库存信息;服务数据模块也用于存储系统运行时的日志信息、错误信息。
本发明较现有技术相比,5GMEC计算平台对减轻核心网络负载以及提升边缘侧车联网用户服务质量,具有巨大的应用前景,由于当前5GMEC计算平台并没有完全解决边缘计算分布异构资源紧张的问题,Serveriess自动运维编排的优势使提升5GMEC计算环境服务质量,特别是5GMEC平台通过将计算和存储资源靠近车辆,在边缘节点上进行实时数据处理,降低了数据传输延迟,Serverless虚拟架构系统则用于处理离线数据处理任务,如对历史数据进行批处理分析,提供更高效的数据分析能力,提供快速响应能力;车联网系统中,车辆的计算需求会有较大的波动,需要根据实时负载情况来动态分配计算资源;5GMEC平台通过Serverless虚拟架构系统的RPB算法思想提供边缘网络资源即实时的计算资源,能够满足车辆的实时计算需求;而Serverless架构则通过事件触发操作模式,具备按需计算的能力,根据车辆的实时负载情况,动态地调整计算资源的规模和数量,提高资源利用率和成本效益。
附图说明
图1为本发明人工智能的计算平台管理系统架构示意图。
图2为本发明5GMEC边缘计算平台架构图。
图3为本发明Serverless虚拟架构系统逻辑示意图。
具体实施方式
下面结合附图对本发明的一种优选实施方式作详细的说明。
如图1所示,基于人工智能的计算平台管理系统,实现动态分配计算资源的统一管理,提高资源利用率和成本效益。
基于人工智能的计算平台管理系统,所述人工智能的计算平台管理系统包括无线接入层、物理硬件层、开放平台、5GMEC计算平台、Serverless虚拟架构系统、云端数据库;
所述无线接入层是指人工智能的计算平台管理系统中无线通信网络的最底层,是用户设备和网络之间的连接点,它负责将用户设备通过无线信号与网络进行连接,实现数据的传输和通信;
所述物理硬件层包括边缘云主机和内部局域网交换机,负责部署在网络边缘的云服务器和管理硬件设备的物理连接和操作;
所述开放平台为5GMEC计算平台的用户提供了服务调用与管理相关的接口,是人工智能的计算平台管理系统面向用户的部分;
所述5GMEC计算平台包括MEC系统层、MEC主机层和MEC网络层;MEC系统层负责对整个MEC系统进行全局管理,为开发者提供调用接口;MEC主机层提供计算和存储资源、处理数据和内容;MEC网络层管理接入本地网络、3GPP网络和外部局域网络,MEC网络层采用SDN技术将5GMEC计算平台部署于5G网络,结合RPB算法思想和Serverless虚拟架构系统中Kubemetes集群模块的Docker容器化技术,集中管理和调度Docker容器中的资源;MEC主机层和MEC网络层共同构建起5GEMC计算平台的边缘计算环境;
所述Serverless虚拟架构系统提供Serverless架构支持,其包括OPenFaaS模块和Kubemetes集群模块;将Serverless用于虚拟架构系统处理车联网后端逻辑、数据处理和轻量微服务,并且通过Serverless架构的自动资源管理,实时监控实际用户需求,动态分配计算资源;
所述云端数据库集成于Serverless虚拟架构系统中,云端数据库包括用户数据模块和服务数据模块;用户数据模块用于管理用户的个人信息和相关数据,服务数据模块用于存储系统或应用程序的业务数据;这两个模块实现用户个性化的功能和数据管理,保证系统业务数据的完整性和安全性。
所述无线接入层来建立用户设备与网络之间的连接;用户根据自身不同的需求选择合适的接入技术,无线接入层需要提供安全机制,确保用户设备和网络之间的通信安全;这包括身份认证、数据加密、访问控制等功能,无线接入层提供的安全机制能监控未经授权的设备接入网络或者数据被窃取篡改。
所述物理硬件层包括边缘云主机和内部局域网交换机,所述边缘云主机是指部署在网络边缘的云服务器,通常位于用户接入网络的边缘节点或者最靠近用户的位置,通过控制车载终STM32F103微控制器来采车载电信号,并通过串口控制北斗定位模块,STM32F103微控制器解析后的数据传递到边缘云服务器,边缘云主机在SDN技术控制下提供计算、存储和网络资源,以支持边缘计算和边缘服务,确保数据采集即控制指令在规定时延内传输到位;所述内部局域网交换机是用于连接局域网内的各种终端设备包含计算机、服务器、车载终端、IP电话,并通过数据包交换技术实现数据的转发和路由。
实施例1:北斗GPS车载定位模块采用的型号是BH-ATGM332D,它具有10HZ的定位更新率。该模块采用TTL电平串口通信标准,并与车载STM32F103微控制器通过USART3接口进行通信。
GSM模块负责车载终端与边缘云主机之间的通信,GSM模块使用的是SIM800A无线收发芯片,该芯片内置了SIM卡槽,并内嵌了TCP/IP协议。SIM800A支持Micro-SIM卡,并且通过串口传输标准的AT命令来控制模块。SIM800A芯片将使用MCU芯片内置的GPS模块,通过外部GPS天线接收卫星信号,并解析出车辆当前的经度、纬度、时间和速度等位置信息。将从GPS模块获取的位置、时间和速度等信息进行处理和封装,通过配置SIM800A芯片的AT指令来建立GPRS连接、发送数据包和关闭连接等操作,使用SIM800A芯片的GPRS无线通信功能,将封装好的数据包传输到边缘云主机,GPRS无线通信技术和GPS结合在一起,通过以太网接口,配置GSM模块的网络参数和使用TCP/IP通信协议,将数据传输到内部网交换机,能够为5GMEC计算云平台边缘计算分配提供网络节点周围车辆行驶过程中的信息。
此外,GSM模块的SIM800A芯片支持语音通信,使用外部音频编解码器来实现语音传输;在使用串口通信控制GSM模块时,通过AT命令来控制GSM模块进行语音呼叫、接听和终止通话等操作。
将GSM模块的音频输入和输出引脚连接到STM32微控制器的相应引脚,这样在通话过程中从STM32发送音频数据到GSM模块,并从GSM模块接收音频数据到STM32。在STM32微控制器上编写代码,使用USART3接口与GSM模块进行串口通信,并发送适当的AT命令来控制语音通信。当使用STM32的ADC模块对音频进行采集,并将采集到的音频数据发送给GSM模块。同时,接收从GSM模块传输过来的音频数据,并通过STM32的DAC模块进行播放。在边缘云主机上使用现有的音频通话协议和代码编写,将接收到来自STM32的音频数据,通过网络连接发送给通话对方。反之,将来自通话对方的音频数据发送给STM32进行播放。
最后GSM模块需要较高的电压(9V)供电,而STM32开发板通常使用5VUSB供电,因此需要使用外部电源为GSM模块提供电源。请确保正确连接电源和地线,以避免烧坏开发板。
所述开放平台包括边缘服务API接口、服务管理接口、服务镜像接口和用户管理接口:边缘服务API接口为用户提供计算平台中服务的调用接口;服务管理接口为管理员提供增删查改等基本功能;服务镜像接口为MEC计算平台中MEC系统层提供服务,获取镜像信息后,镜像信息通过HTTP协议和响应的方式传输返回给调用者;用户通过HTTP请求送,请求恢复服务镜像接口,实现镜像的恢复,镜像恢复会调用镜像提取器对镜像进行转译,最后生成服务容器转由服务执行器进行继续执行;用户管理接口负责对用户进行管理,包括请求服务前,用户在人工智能的计算平台管理系统上的注册;用户在系统注销后清理用户分配的所有资源,完成资源回收工作。
实施例2:用户使用对应URI发送HTTPPOST请求,边缘服务API接口模块解析请求数据,边缘服务API接口模块解析请求数据,并生成一个唯一的token作为该请求的标识符,边缘服务API接口模块将请求分发给5GMEC计算平台中的服务执行器进行服务执行,在服务执行开始之前,边缘服务API接口模块先向用户返回生成的token作为响应,让用户立即获得一个请求标识符;在服务执行过程中,边缘服务API接口模块提供一个回调URL参数,用户通过这个参数指定一个接收结果的回调URL;
服务执行器执行完服务后,将执行结果发送到边缘服务API接口模块,边缘服务API接口模块接收到执行结果后,根据请求标识符将结果存储在云端数据库中;如果用户提供了回调URL,边缘服务API接口模块将执行结果通过POST请求发送到该URL,通知用户服务执行已完成;如果用户未提供回调URL,用户通过发送另一个HTTP请求,携带之前获取的token,来主动查询服务执行结果;为了实现多场景覆盖,边缘服务API接口模块支持同步异步的两者调用形式,以方便用户使用,用户可在条用服务后立即返回,不等待服务执行结束,通过唯一token实现异步的获取服务执行结果。
服务管理接口为管理员提供增删查改功能,完成对服务执行图的定义修改与删除,服务定义作为元数据的一部分存储到云端数据库中;管理员接入5GMEC计算平台后使用MEC系统层提供的RESTful接口对某个服务进行管理操作,边缘计算系统管理中心对用户请求进行解析之后按照解析内容对信息进行增删改查并存储于云端数据库,将操作结果返回给用户;
服务镜像接口为5GMEC计算平台中系统层提供服务,获取镜像信息后,镜像信息通过HTTP协议和响应的方式传输返回给调用者;用户通过HTTP请求送,请求恢复服务镜像接口,实现镜像的恢复,镜像恢复会调用镜像提取器对镜像进行转译,最后生成服务容器转由服务执行器进行继续执行;
用户管理接口负责对用户进行管理,包括请求服务前,用户在人工智能的计算平台管理系统上的注册;用户在系统注销后清理用户分配的所有资源,完成资源回收工作。
用户首先通过用户管理接口向5GMEC计算平台中用户终端模块提出注册申请,用户终端模块查询云端数据库获取当前分配状态,用户终端模块采用base64算法结合时间种子计算生成新Token直到获得一个未分配Token;用户终端模块更新Token分配数据记录新分配的Token,将新分配的Token返回给用户;
用户请求应对的服务RESTful接口,在URL中编码用户Token并在posdbody中上穿服务所需数据,边缘服务API接口接受用户请求,校验Token与请求服务合法性,并在这个过程中查询云端数据库获得必要数据;边缘服务API接口模块验证通过,将解析后请求下发到边缘计算系统管理中心进行执行,服务执行完毕,使用HTTPrespons调用边缘服务API接口返回结果给用户;
用户通过用户管理接口向5GMEC计算平台中用户终端模块申请注销Token,用户终端模块查询持久化存储对当前用户Token进行验证保证当前Token已分配,验证通过的Token才能继续处理流程,验证通过后,用户终端模块通知5GMEC计算平台联合服务执行器于服务生命周期管理器协同结束用户所有服务并对已分配资源进行清理与回收;用户终端模块删除云端数据库中用户Token信息完成内部注销流程,注销完成,用户管理接口返回注销结果。
所述5GMEC计算平台包括MEC系统层、MEC主机层和MEC网络层;MEC系统层包括终端用户模块、第三方模块、三维可视化模块和边缘计算系统管理中心,负责对整个MEC系统进行全局管理,并为开发者提供接口;MEC计算平台中的系统层,包括管理和控制边缘计算资源的功能;它负责边缘服务器的注册、发现、配置、升级和监控等管理任务,还提供对应开放平台的API和开发工具,支持应用程序在边缘环境中的部署和执行;
MEC主机层由MEC管理器和MEC主机组成,MEC主机管理器对主机层的实体进行管理,MEC主机包括虚拟化架构、MEC应用和MEC平台,MEC应用从MEC主机中获取各类资源和其所需要的时间;MEC主机层是MEC计算平台的中间层,它提供计算和存储能力,用于执行部署在边缘环境中的应用程序,并处理实时数据;主机层还负责监控和管理边缘服务器的资源利用率、负载均衡等任务;
MEC网络层管理接入本地网络、3GPP网络和外部局域网络,能够给MEC计算平台提供可靠的网络平台;MEC网络层利用SDN技术将5GMEC计算平台部署于5G网络,根据不同的业务需求,配置网络切片,以满足不同应用对网络资源的需求;在5GMEC网络层中运用SDN技术,用于管理和控制整个网络;根据实际车联网需求,确定MEC边缘节点的部署位置,包括基站、云数据中心或其他有计算资源的节点;将MEC边缘节点连接到5G网络,并进行相关配置,结合Serverless虚拟架构系统中Kubemetes集群模块的Docker容器化技术,根据RPB算法思想对Docker容器中的资源进行集中管理和调度,在网络虚拟化中部署5GMEC计算平台,通过openFaas模块和Kubernetes集群模块对MEC边缘节点上的计算资源进行管理和调度,确保资源的高效利用和任务的平衡分配,帮助实现对网络功能的资源管理和调度,确保网络功能在集群中得到适当分配和利用,取代现有5GMEC计算平台主流NFV技术,实现虚拟化的网络功能,其作用是根据车联网流量负载情况自动扩展或缩减网络功能的实例数量,以满足业务需求,提高资源利用率;同时让人工智能的计算平台管理系统协调不同网络功能之间的服务交互;监控整个人工智能的计算平台管理系统网络的运行状态,进行性能优化和故障排除,确保人工智能的计算平台管理系统的稳定性和可靠性;
5GMEC指的是5G移动边缘计算技术即5GMobileEdgeComputing,是将计算、存储和网络资源推近到5G网络的边缘,具有分散的计算架构、应用服务和计算资源,省去了从数据源到云的通信过程,有着提高应用性能、保证数据隐私和安全、增强回程和减轻核心网络负担等技术优势;以满足低时延、高带宽等对网络性能的要求,通过在离用户更近的位置进行计算和数据处理,降低传输时延,并提供更快速、可靠的网络体验。
所述Serverless虚拟架构系统中Kubemetes集群模块,够自动化地部署、扩展和管理Docker容器化应用程序;Kubernetes集群模块在Serverless虚拟架构系统中提供了一组的功能,包含服务发现、负载均衡、自动扩缩容、容器编排、节点监控、pod监控;使得人工智能的计算平台管理系统中运行和管理应用程序变得更加简单和可靠;
Pod监控:监控集群中的Pod,包括Pod的运行状态、资源使用情况、网络流量等指标。使用Kubernetes的内置指标服务和RPB算法来收集和展示Pod的监控数据。
OpenFaa模块支持在Kubemetes集群上进行部署,并Serverless功能模块部署到Docker容器中,当用户Http请求到来后OpenFaas申请一个新的容器并将用户请求转发到该容易进行执行完成按需资源分配功能,并在执行结束后返回HttpResponse作为执行结果,最后清理该新分配的容器;
Serverless即FunctionasaService又称为无服务计算,指的是它使开发人员能够在无需管理服务器和基础设施的情况下构建和运行应用程序;具体而言,Serverless架构中的应用程序逻辑以函数的形式被部署和执行,函数由云服务动态地扩展和管理;使用Serverless模型,开发人员只需关注应用程序的业务逻辑,而无需处理服务器的配置、部署和维护等任务;Serverless的本质是将计算机建模为单个事件分发与消息处理系统,通过将计算请求建模为事件,Serverless能在事件到达后再分配处理单元所需要的资源,延后了资源分配的时机使计算资源完全被事件处理单元使用,实现了资源的高效按需分配,此外消息处理单元由开发者编写,Serverless具有极大的通用性与灵活性;事件模型能按车联网使用流量进行分配资源;
OpenFaaS模块即FunctionasaService是一个开源的函数计算平台,它允许以一种简单和高效的方式部署和管理无服务器函数;OpenFaaS提供了一个轻量级的容器编排工具,使得将函数运行在Kubernetes集群上变得非常容易;
Kubernetes是一个开源的容器编排引擎,用于自动化应用程序容器的部署、扩展和管理,它提供了高度可扩展的架构,能够处理大规模的容器化应用程序;Kubernetes通过使用容器抽象层包Docker来打包应用程序,并提供了资源调度、服务发现、负载均衡和故障恢复等功能;
OpenFaaS模块与Kubernetes集群模块的关系是,OpenFaaS利用Kubernetes的能力来实现函数的部署和管理;OpenFaaS将函数打包成容器镜像,并利用Kubernetes进行容器的调度和资源管理;Kubernetes提供了强大的容器编排功能,根据需求自动扩展函数的副本数,并确保函数的高可用性;
通过将OpenFaaS模块与Kubernetes集群模块结合使用,轻松地构建和管理无服务器函数,并利用Kubernetes的弹性和可扩展性来满足不同规模和负载的需求;同时,OpenFaaS提供了一个简单易用的命令行工具和Web界面,使得函数的部署和管理变得非常方便。
实施例3:Serverless虚拟架构系统中OpenFaas模块支持在Kubemetes集群上进行部署,并将Serverless功能模块部署到Docker容器中,在车联网项目中我们采用Docker容器技术作为5GMEC边缘计算平台的虚拟化环境;具体采用Docker容器,将Serverless功能封装在Docker容器中,并为容器管理者提供了丰富的操作接口,管理员通过Docker的支持对5GMEC系统层进行边界的管理,Docker提供的镜像抽象共开放平台的服务镜像接口调用,解放了边缘应用分发的难题,是车联网项目中边缘计算环境下容器引擎的优良选择。
为了保证5GMEC计算平台的节点资源可横向扩展,需要引入容器编排引擎以支持集群模式,本发明中引入Kubemetes作为容器编排引擎;Kubemetes能实现集群组建以及管理;5GMEC计算平台能通过Kubemetes将通过网络连接的多台终端设备组成资源池,并通过SDN技术控制master节点实现集群便捷控制,实现底层计算资源的横向扩展以及基于资源池的资源分配与容器编排,使边缘云可用资源能成倍增加;
Serverless虚拟架构系统包含OpenFaas模块,OpenFaas模块支持Serverless功能单元的开发、部署以及自动化运维等操作;OpenFaas模块支持在Kubemetes集群上进行部署,并将Serverless功能单元部署到Docker容器中;当用户Http请求到来后OpenFaas申请一个新的容器并将用户请求转发到该容易进行执行完成按需资源分配功能,并在执行结束后返回HttpResponse作为执行结果,最后清理该新分配的容器。
Serverless虚拟架构系统在调节车联网资源比例平衡时,Kubemetes集群模块采用RPB算法监控网络节点资源使用情况,RPB算法的核心理念是资源比例的平衡;在人工智能的计算平台管理系统中,5GMEC计算平台SDN技术用于网络架构的管理和监控,通过将网络控制平面与数据平面分离,实现对网络设备的集中管理和编程灵活性;而RPB算法则应用于SDN架构中的网络资源的分配和负载均衡,提供更好的服务质量和资源利用率;
Kubernetes集群模块中,用户在离网络资源最近的网络节点上创建一个pod单元时,需要在相应程序文件中设置相关配置,如其中的两个重要参数requests和limits;requests是指资源的最小申请量,代表该pod单元在一般工作情况下请求的资源值;limits是指该pod单元在最大资源负荷的情况下资源的最大允许使用量,表示该pod单元只允许使用这么多的资源,一旦负载超过limits的设定值时,Kubernetes模块会自动把该pod单元用户请求屏蔽;
pod单元有两个容器,分别命名为container1和container2,P单元中的每个容器都设置自己的requests和limits值,每个请求和限制值中都包含一个CPU资源值和内存资源值,因此该pod单元的requests总值为500mCPU、128Mi内存,limits总值为1CPU、256Mi内存;对于Kubernetes集群模块中的各个节点来说,CPU资源和内存资源是评判一个节点性能高低的重要指标;
其RPB算法核心公式概括为:
{1-|P所需CPU资源与网络节点剩余CPU资源的比值-P所需内存资源与节点剩余内存资源的比值|}*Score;
表示P所需CPU与内存资源比例与节点剩余CPU与内存资源比例越接近分数越高;
根据上述提到的用到的各个参数,用Crequest和Mrequest分别表示程序文件中CPU和内存的requests值,Cfree和Mfree分别表示网络节点上CPU空闲态idle的值和内存空闲数量MemFree;所以pod单元所需CPU资源与节点剩余CPU资源的比值Pcpu、pod单元所需内存资源与节点剩余内存资源的比值Pmem分别为:
所以节点评分的计算公式为:
其中表示节点i的得分,最高为10分,Pcpu表示P所需CPU资源与节点剩余CPU资源的比值,Pmem表示pod单元所需内存资源与节点剩余内存资源的比值;节点的得分越高,说明待调度pod单元上所需两类资源的比例与该节点上剩余的两类资源比例越接近,符合优选算法改进的初衷,所以在pod单元进行调度时,将其调度到得分最高的节点上。
详细算法流程如下:
(1)pod单元调度准备,调度器从开放平台的APIServer中监听待调度pod单元的调度信息,并从其中拉取待调度的pod单元队列,之后再从队列中取出一个pod单元开始调度;
(2)预选计算,开始筛选集群中的所有节点,调用一组默认的预选算法来对每个节点进行挑选,选出满足所有预选要求的节点进入下一阶段的优选,若此时没有节点符合条件,那么该pod单元就是被暂时挂起,等待节点释放资源以满足预选规则;
(3)RPB算法得分计算,首先获取该pod单元所需的CPU和内存资源包含程序文件中requests的配置,然后找到各个候选节点的剩余CPU和内存资源,最后根据公式*,计算各个候选节点的得分;
(4)计算总得分,在经过默认节点优选算法之后,与上个阶段扩展的优选算法一起计算出总得分;选择总得分最高的节点进行当前pod单元的调度,然后将pod单元与目标节点绑定在一起的信息写入到etcd中,实现状态信息的持久化;
(5)镜像部署,当Node节点上的kubelet进程获取到绑定信息后,就将应用pod单元的镜像文件拉取到目标节点并完成新建Pod的启动工作;
RPB优选算法有一定的适用场景,在调度过程中如果经常出现某一资源密集型pod单元,是需要考虑性能瓶颈的情况下,RPB优选算法的作用才能发挥出来。
所述云端数据库包括用户数据模块和服务数据模块;用户数据模块用于存储和管理用户的人工智能的计算平台管理系统用户信息和相关数据,它包括用户的用户名、密码、邮箱,以及用户的个人设置和偏好,包含语言偏好、主题偏好;此外,用户数据模块还存储用户的交互历史记录、权限信息等;服务数据模块用于存储和管理人工智能的计算平台管理系统或应用程序的业务数据;数据包括产品信息、订单信息、库存信息等;服务数据模块也用于存储系统运行时的日志信息、错误信息。
在Serverless虚拟架构系统中,Kubemetes集群模块的功能被拆分成小的独立函数,函数由云服务提供商按需执行和管理,函数与各种后端服务进行交互,包括云端数据库。
通过将云端数据库与Serverless函数相连,将数据持久化存储在云端数据库中,这样确保数据的可靠性和持久性,即使函数执行结束后,数据仍然保存在数据库中;云端数据库作为多个Serverless虚拟架构系统中的功能单元之间共享和协作的数据存储介质,不同的功能单元读取、写入和更新共享的数据,实现数据的一致性和共享;云端数据库通常具有高可扩展性的特点,处理大规模的数据存储和访问需求,通过将云端数据库与Serverless虚拟架构系统结合使用,更好地应对web用户应用程序的扩展性需求,Serverless虚拟架构系统能够高效地访问和操作云端数据库,而无需手动管理和配置数据库资源,这使云端数据库通常具有弹性和自动管理能力,根据用户需求自动调整资源和处理负载。
以上公开的本发明优选实施例只是用于帮助阐述本发明,优选实施例并没有详尽叙述所有的细节,也不限制该发明仅为的具体实施方式;显然,根据本说明书的内容,可作很多的修改和变化;本说明书选取并具体描述这些实施例,是为了更好地解释本发明的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本发明;本发明仅受权利要求书及其全部范围和等效物的限制。

Claims (7)

1.基于人工智能的计算平台管理系统,其特征在于,所述人工智能的计算平台管理系统包括无线接入层、物理硬件层、开放平台、5GMEC计算平台、Serverless虚拟架构系统、云端数据库;
所述无线接入层是用户设备和网络之间的连接点,它负责将用户设备通过无线信号与网络进行连接,实现数据的传输和通信;
所述物理硬件层包括边缘云主机和内部局域网交换机,负责部署在网络边缘的云服务器和管理硬件设备的物理连接和操作;
所述开放平台为5GMEC计算平台的用户提供了服务调用与管理相关的接口,是人工智能的计算平台管理系统面向用户的部分;
所述5GMEC计算平台包括MEC系统层、MEC主机层和MEC网络层;MEC系统层负责对整个MEC系统进行全局管理;MEC主机层提供计算和存储资源、处理数据和内容;MEC网络层采用SDN技术将5GMEC计算平台部署于5G网络,结合RPB算法思想和Serverless虚拟架构系统集中管理和调度Docker容器中的资源;MEC主机层和MEC网络层共同构建起5GMEC计算平台的边缘计算环境;
所述MEC网络层利用SDN技术将5GMEC计算平台部署于5G网络,根据不同的业务需求,配置网络切片,以满足不同用户对网络资源的需求;所述5GMEC计算平台在网络虚化部署中,根据RPB算法思想结合Serverless虚拟架构系统中Kubernetes集群模块对Docker容器中的资源进行集中管理和调度,取代现有5GMEC计算平台主流NFV技术,实现虚拟化的网络功能;
所述SDN技术通过openFaas模块和Kubernetes集群模块对MEC边缘节点上的计算资源进行管理和控制,同时利用SDN技术能用于监控5GMEC计算平台和整个管理系统网络的运行状态;
所述Serverless虚拟架构系统提供Serverless架构基本支持,其包括OPenFaaS模块和Kubemetes集群模块;将Serverless用于虚拟架构系统处理车联网后端逻辑、数据处理和轻量微服务,动态分配计算资源;
所述云端数据库集成于Serveress虚拟架构系统中,云端数据库包括用户数据模块和服务数据模块,这两个模块实现用户个性化的功能和数据管理;
所述云端数据库包括用户数据模块和服务数据模块;所述用户数据模块用于存储和管理用户的人工智能的计算平台管理系统用户信息和相关数据,它包括用户名、密码、邮箱的用户信息,以及用户的个人设置和偏好,其包含语言偏好、主题偏好;
用户数据模块还存储用户的交互历史记录、权限信息;所述服务数据模块用于存储和管理人工智能的计算平台管理系统或应用程序的业务数据;服务数据包括产品信息、订单信息、库存信息;服务数据模块也用于存储系统运行时的日志信息、错误信息。
2.如权利要求1所述的基于人工智能的计算平台管理系统,其特征在于,所述无线接入层来建立用户设备与网络之间的连接;用户根据自身不同的需求选择接入技术,无线接入层提供安全机制,确保用户设备和网络之间的通信安全;这包括身份认证、数据加密、访问控制功能,无线接入层提供的安全机制监控未经授权的设备接入网络以及者数据被窃取篡改。
3.如权利要求1或2所述的基于人工智能的计算平台管理系统,其特征在于,所述物理硬件层包括边缘云主机和内部局域网交换机,所述边缘云主机是指部署在网络边缘的云服务器,位于用户接入网络的边缘节点、最靠近用户的位置,通过控制车载终STM32F103微控制器来采集车载电信号,并通过串口控制北斗定位模块,STM32F103微控制器解析后的数据传递到边缘云服务器,边缘云主机在SDN技术控制下提供计算、存储和网络资源,以支持边缘计算和边缘服务,确保数据采集即控制指令在规定时延内传输到位;所述内部局域网交换机是用于连接局域网内的各种终端设备包含计算机、服务器、车载终端、IP电话,并通过数据包交换技术实现数据的转发和路由。
4.如权利要求1所述的基于人工智能的计算平台管理系统,其特征在于,所述开放平台包括边缘服务API接口、服务管理接口、服务镜像接口和用户管理接口;所述边缘服务API接口为用户提供计算平台中服务的调用接口;所述服务管理接口为管理员提供增删查改基本功能;所述服务镜像接口为5GMEC计算平台中MEC系统层提供服务;所述用户管理接口负责对用户进行管理,包括请求服务前,用户在人工智能的计算平台管理系统上的注册,用户在系统注销后清理用户分配的所有资源,完成资源回收工作。
5.如权利要求1或4所述的基于人工智能的计算平台管理系统,其特征在于,所述MEC系统层包括终端用户模块、第三方模块、三维可视化模块和边缘计算系统管理中心,负责对整个MEC系统进行全局管理,并为开发者提供接口;所述MEC主机层由MEC管理器和MEC主机组成,MEC主机管理器对主机层的实体进行管理,MEC主机包括虚拟化架构、MEC应用和MEC平台,MEC应用从MEC主机中获取各类资源和其所需要的时间;所述MEC网络层管理接入本地网络、3GPP网络和外部局域网络,给MEC计算平台提供可靠的网络部署。
6.如权利要求5所述的基于人工智能的计算平台管理系统,其特征在于,所述Serverless虚拟架构系统中OPenFaaS模块将函数作为应用程序的构建块,开发人将自己的代码打包成函数,并通过OpenFaaS进行部署和管理,而无需关心底层的基础设施和扩展性问题,能实现快速、灵活的系统开发;OpenFaaS使用Docker容器来封装函数,实现容器环境虚拟,并结合Kubemetes技术实现容器的编排与管理任务。
7.如权利要求6所述的基于人工智能的计算平台管理系统,其特征在于,所述Serverless虚拟架构系统中Kubemetes集群模块,能自动化地部署、扩展和管理Docker容器化应用程序;Kubernetes集群模块在Serverless虚拟架构系统中提供了一组功能,包括服务发现、负载均衡、自动扩缩容、容器编排、节点监控、Pod监控。
CN202311155398.1A 2023-09-08 2023-09-08 基于人工智能的计算平台管理系统 Active CN116887357B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311155398.1A CN116887357B (zh) 2023-09-08 2023-09-08 基于人工智能的计算平台管理系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311155398.1A CN116887357B (zh) 2023-09-08 2023-09-08 基于人工智能的计算平台管理系统

Publications (2)

Publication Number Publication Date
CN116887357A CN116887357A (zh) 2023-10-13
CN116887357B true CN116887357B (zh) 2023-12-19

Family

ID=88257332

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311155398.1A Active CN116887357B (zh) 2023-09-08 2023-09-08 基于人工智能的计算平台管理系统

Country Status (1)

Country Link
CN (1) CN116887357B (zh)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104735102A (zh) * 2013-12-18 2015-06-24 广州岚萃贸易有限公司 一种基于云平台和云计算的客户关系管理系统
CN108845878A (zh) * 2018-05-08 2018-11-20 南京理工大学 基于无服务器计算的大数据处理方法及装置
CN109525426A (zh) * 2018-11-12 2019-03-26 西安电子科技大学 一种基于fv的开放式mec平台的服务控制系统及方法
CN109644199A (zh) * 2016-10-18 2019-04-16 华为技术有限公司 移动边缘计算中的虚拟网络状态管理
CN112000421A (zh) * 2020-07-15 2020-11-27 北京计算机技术及应用研究所 基于超融合架构的管理调度技术
CN112083932A (zh) * 2020-08-18 2020-12-15 上海交通大学 虚拟化网络设备上的函数预热系统及方法
CN113114758A (zh) * 2021-04-09 2021-07-13 北京邮电大学 一种面向无服务器边缘计算的任务调度方法及装置
CN113965568A (zh) * 2021-10-19 2022-01-21 南京莱斯网信技术研究院有限公司 一种面向城市道路c-v2x网络的边缘计算系统
CN114489925A (zh) * 2021-12-09 2022-05-13 广东电网有限责任公司 一种容器化服务调度框架及弹性调度算法
CN114691299A (zh) * 2022-03-22 2022-07-01 浪潮云信息技术股份公司 一种基于Serverless的边缘计算资源管理系统
CN218387925U (zh) * 2022-08-25 2023-01-24 中国联合网络通信集团有限公司 边缘计算网络安全架构
KR20230059569A (ko) * 2021-10-26 2023-05-03 에스케이텔레콤 주식회사 가상자원운용장치 및 가상자원운용장치의 동작 방법
CN116389491A (zh) * 2023-04-03 2023-07-04 中国电子技术标准化研究院 一种云边算力资源自适应计算系统

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104735102A (zh) * 2013-12-18 2015-06-24 广州岚萃贸易有限公司 一种基于云平台和云计算的客户关系管理系统
CN109644199A (zh) * 2016-10-18 2019-04-16 华为技术有限公司 移动边缘计算中的虚拟网络状态管理
CN108845878A (zh) * 2018-05-08 2018-11-20 南京理工大学 基于无服务器计算的大数据处理方法及装置
CN109525426A (zh) * 2018-11-12 2019-03-26 西安电子科技大学 一种基于fv的开放式mec平台的服务控制系统及方法
CN112000421A (zh) * 2020-07-15 2020-11-27 北京计算机技术及应用研究所 基于超融合架构的管理调度技术
CN112083932A (zh) * 2020-08-18 2020-12-15 上海交通大学 虚拟化网络设备上的函数预热系统及方法
CN113114758A (zh) * 2021-04-09 2021-07-13 北京邮电大学 一种面向无服务器边缘计算的任务调度方法及装置
CN113965568A (zh) * 2021-10-19 2022-01-21 南京莱斯网信技术研究院有限公司 一种面向城市道路c-v2x网络的边缘计算系统
KR20230059569A (ko) * 2021-10-26 2023-05-03 에스케이텔레콤 주식회사 가상자원운용장치 및 가상자원운용장치의 동작 방법
CN114489925A (zh) * 2021-12-09 2022-05-13 广东电网有限责任公司 一种容器化服务调度框架及弹性调度算法
CN114691299A (zh) * 2022-03-22 2022-07-01 浪潮云信息技术股份公司 一种基于Serverless的边缘计算资源管理系统
CN218387925U (zh) * 2022-08-25 2023-01-24 中国联合网络通信集团有限公司 边缘计算网络安全架构
CN116389491A (zh) * 2023-04-03 2023-07-04 中国电子技术标准化研究院 一种云边算力资源自适应计算系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于无服务器架构的边缘AI计算平台;刘畅;毋涛;徐雷;;信息通信技术(05);全文 *
边缘计算:新型计算范式综述与应用研究;郑逢斌;朱东伟;臧文乾;杨劲林;朱光辉;;计算机科学与探索(04);全文 *

Also Published As

Publication number Publication date
CN116887357A (zh) 2023-10-13

Similar Documents

Publication Publication Date Title
CN105607954B (zh) 一种有状态容器在线迁移的方法和装置
CN113448721A (zh) 算力处理的网络系统及算力处理方法
CN112000448A (zh) 基于微服务架构的应用管理方法
CN110022349A (zh) 一种基于边缘计算的异构工业网络设备组态微服务方法
CN111443990B (zh) 一种边缘计算任务迁移仿真系统
CN111541760B (zh) 基于无服务器雾计算系统架构的复杂任务分配方法
EP2838243B1 (en) Capability aggregation and exposure method and system
KR102650892B1 (ko) 지역적으로 분산된 다중 클라우드 환경에서의 컨테이너 오케스트레이션 장치 및 이를 이용한 방법
CN113778615B (zh) 一种快速稳定的网络靶场虚拟机构建系统
CN113852693A (zh) 一种边缘计算服务的迁移方法
CN103078759A (zh) 计算节点的管理方法及装置、系统
CN115297008B (zh) 基于智算网络的协同训练方法、装置、终端及存储介质
CN114296924A (zh) 一种边缘算力共享方法、服务器及系统
CN103677983A (zh) 应用的调度方法及装置
EP2520069B1 (en) Managing session data of a composite service session in a communication network
CN112532301B (zh) 一种北斗用户终端快速网络资源发现和动态信息交互系统
CN116755867B (zh) 一种面向卫星云的计算资源调度系统、方法及存储介质
CN116887357B (zh) 基于人工智能的计算平台管理系统
US11943801B2 (en) Method and apparatus for abstracting network resources to support end user mobility
CN114615268B (zh) 基于Kubernetes集群的服务网络、监控节点、容器节点及设备
CN103067476A (zh) 一种基于虚拟机的动态网络重构方法
CN115915404A (zh) 一种基于nfv-mano的网络切片部署系统和方法
CN106789380A (zh) 一种虚拟机网络一体化监管系统
US20230176913A1 (en) Cross-domain cabin computing system and method based on data resource distribution
Femminella et al. An edge abstraction layer enabling federated and hierarchical orches‑tration of CCAM services in 5G and beyond net‑works

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant