CN111756791A - 用于加速的功能即服务的网络设备负载平衡器的技术 - Google Patents

用于加速的功能即服务的网络设备负载平衡器的技术 Download PDF

Info

Publication number
CN111756791A
CN111756791A CN202010147236.3A CN202010147236A CN111756791A CN 111756791 A CN111756791 A CN 111756791A CN 202010147236 A CN202010147236 A CN 202010147236A CN 111756791 A CN111756791 A CN 111756791A
Authority
CN
China
Prior art keywords
devices
request
network device
network
edge
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010147236.3A
Other languages
English (en)
Inventor
F·圭姆伯纳特
K·库马
N·M·史密斯
M·肯古瓦
R·帕特尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of CN111756791A publication Critical patent/CN111756791A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1029—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers using data related to the state of servers by a load balancer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5003—Managing SLA; Interaction between SLA and QoS
    • H04L41/5006—Creating or negotiating SLA contracts, guarantees or penalties
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5003—Managing SLA; Interaction between SLA and QoS
    • H04L41/5009—Determining service level performance parameters or violations of service level contracts, e.g. violations of agreed response time or mean time between failures [MTBF]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5041—Network service management, e.g. ensuring proper service fulfilment according to agreements characterised by the time relationship between creation and deployment of a service
    • H04L41/5051—Service on demand, e.g. definition and deployment of services in real time
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/20—Traffic policing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
    • H04L47/2425—Traffic characterised by specific attributes, e.g. priority or QoS for supporting services specification, e.g. SLA
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/70—Admission control; Resource allocation
    • H04L47/80—Actions related to the user profile or the type of traffic
    • H04L47/805—QOS or priority aware
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Environmental & Geological Engineering (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

公开了用于在边缘网络中的网络设备上进行负载平衡的技术。根据一个实施例，网络设备在边缘网络中接收访问功能的请求。请求包括一个或多个性能要求。网络设备根据对性能要求的评估以及与网络设备相关联的每个设备的监视的属性来标识用于服务请求的一个或多个设备。网络设备根据负载平衡策略来选择所标识的设备之一，并且将请求发送到所选择的设备。

Description

用于加速的功能即服务的网络设备负载平衡器的技术
背景技术
与云网络中的集中式位置相反，边缘计算提供了用于在距作出请求的设备较近的网络近距离的位置处处理资源的技术。这样做确保设备相对快速地接收关键数据。而且，边缘网络内的服务提供商可以为各种应用提供边缘设备可访问的服务。例如，服务提供商可以实施边缘设备可能请求的功能即服务(FaaS)服务。具体而言，边缘设备可以向FaaS服务发送请求，以在由服务提供商主控的加速器设备上执行加速功能。相比在传统处理器上执行操作，这样做可以使边缘设备相对更快地执行工作负载操作。而且，因为加速功能是通过边缘网络执行的，所以边缘设备可以以相对低的等待时间接收加速功能的结果。
附图说明
在附图中，以示例方式而不是以限制方式例示出本文中所描述的概念。为说明简单和清楚起见，附图中所例示出的元件不一定是按比例绘制的。在认为适当的情况下，已在多个附图之间重复了附图标记以指示对应的或类似的元件。
图1是用于边缘网络中的负载平衡服务请求的系统的至少一个实施例的简化图；
图2是可以与相对于图1所述的系统一起被包括的网络设备的至少一个实施例的简化框图；
图3是可以由图1和图2的网络设备建立的环境的至少一个实施例的简化框图；
图4是可以由图1和图2的网络设备执行的用于向图1和图2的网络设备注册边缘资源的方法的至少一个实施例的简化流程图；
图5是可以由图1和图2的网络设备执行的用于向图1和图2的网络设备注册与边缘资源相关联的功能的方法的至少一个实施例的简化流程图；
图6是可以由图1和图2的网络设备执行的用于边缘网络中的负载平衡服务请求的方法的至少一个实施例的简化流程图；以及
图7是可与图1的系统一起使用的雾和移动边缘计算(MEC)网络拓扑的简化框图。
具体实施方式
尽管本公开的概念易于具有各种修改和替代形式，但是，本公开的特定实施例已作为示例在附图中示出并将在本文中详细描述。然而，应当理解，没有将本公开的概念限制于所公开的特定形式的意图，而相反，意图旨在涵盖符合本公开和所附权利要求书的所有修改、等效方案和替代方案。
说明书中对“一个实施例”、“实施例”、“说明性实施例”等的引用指示所描述的实施例可包括特定特征、结构或特性，但是，每一个实施例可包括或可以不一定包括该特定特征、结构或特性。此外，此类短语不一定是指同一个实施例。进一步地，当结合实施例来描述特定的特征、结构或特性时，认为结合无论是否被明确描述的其他实施例来实施此类特征、结构或特性均落在本领域技术人员的知识范围之内。附加地，应当领会，以“A、B和C中的至少一个”的形式包括在列表中的术语可意指(A)；(B)；(C)；(A和B)；(A和C)；(B和C)；或(A、B和C)。类似地，以“A、B或C中的至少一个”的形式列出的项可以意指(A)；(B)；(C)；(A和B)；(A和C)；(B和C)；或(A、B和C)。
在一些情况下，所公开的实施例能以硬件、固件、软件或其任何组合来实现。所公开的多个实施例也可被实现为由暂态或非暂态机器可读(例如，计算机可读)存储介质承载或存储于其上的可由一个或多个处理器读取并执行的指令。此外，所公开的实施例最初可被编码为(例如，在机器可读存储介质上编码的)初步指令的集合，该初步指令的集合可需要初步处理操作以使指令准备好在目的地设备上执行。初步处理可包括将指令与设备上存在的数据进行组合，将指令转换为不同的格式，执行压缩、解压缩、加密和/或解密，将包括指令的不同部分的多个文件进行组合，将指令与设备(诸如库、操作系统等)上存在的其他代码进行集合或类似的操作。初步处理可以由源计算设备(例如，将要发送指令的设备)、目的地计算设备(例如，将要执行指令的设备)或中间设备来执行。机器可读存储介质可被具体化为用于以可由机器读取的形式存储或传送信息的任何存储设备、机制或其他物理结构(例如，易失性或非易失性存储器、介质盘、或其他介质设备)。
在附图中，一些结构或方法特征可按特定布置和/或排序示出。然而，应当领会，此类特定布置和/或排序可以不是必需的。相反，在一些实施例中，能以与在示例性附图中示出的不同的方式和/或次序来布置此类特征。另外，在特定附图中包括结构或方法特征不意味着暗示在所有实施例中都需要此类特征，并且在一些实施例中，可以不包括此类特征，或此类特征可以与其他特征相结合。
现在参考图1，示出了用于边缘网络中的负载平衡服务请求(例如，功能即服务(FaaS)和加速的功能即服务(AFaaS)服务请求)的系统100。说明性地，系统100包括与边缘网关设备114通信的边缘设备110。边缘网关设备114可被具体化为能够在边缘设备110与一个或多个边缘资源150、152、154(例如，由诸如蜂窝网络运营商这样的一个或多个服务提供商120、122、124分别拥有和/或操作的资源，诸如计算设备和其组件)或位于云中的其他计算设备之间进行数据通信的任何设备。而且，在说明性实施例中，边缘网关设备114被配置成用于接收并响应来自边缘设备110的关于边缘资源150、152、154的特性的请求，边缘资源的特性诸如(例如，在计算设备160、164、168和加速器设备162、166、170中的)边缘资源150、152、154中的处理器、加速器设备和/或其他组件的架构、与利用那些边缘资源150、152、154相关联的等待时间、功耗和成本(例如，货币成本)。在说明性实施例中，边缘网关设备130和边缘资源150、152、154被定位在沿着云的边缘(例如，在边缘网络中)的一个或多个位置(例如，在小的小区、基站等中)。
边缘网络可被具体化为提供边缘计算和/或存储资源的任何类型的网络，该边缘计算和/或存储资源邻近具有无线电接入网络(RAN)能力的端点设备(例如，移动计算设备、物联网(IoT)设备、智能设备等)。换句话说，边缘网络位于端点设备与传统移动网络接入点之间的“边缘”，该“边缘”充当进入到包括运营商网络(例如，全球移动通信系统(GSM)网络、长期演进(LTE)网络、5G网络等)的服务提供商核心网络中的入口点，同时还提供存储和/或计算功能。因此，边缘网络可以为(例如，容纳在远程云、数据中心等中的)企业应用和/或其他基于网络的服务提供无线电接入接口，并使存储/计算资源更接近端点设备。由于可以在边缘网络处执行一些计算/处理，因此可以实现诸如(即，相对于在远程云、数据中心等处执行的此类计算/处理)降低的等待时间、带宽等的效率。取决于边缘网络的预期目的/能力，边缘网络可包括一个或多个边缘计算设备，其可包括一个或多个网关、服务器、移动边缘计算(MEC)设备等。此外，系统100可以以具有多层的层次结构进行组织。例如，给定的层可包括上述边缘计算设备，例如，位于距边缘设备110相似网络近距离的位置中的边缘计算设备。下一层可包括提供边缘资源的蜂窝塔和基站。下一层可包括核心数据中心190中的中央办公站。
应当理解，在一些实施例中，边缘网络可以形成雾网络的一部分或以其他方式提供雾网络的入口(例如，雾或边缘节点180)，该雾网络可被具体化为在核心数据中心190(例如，与边缘资源150、152、154相比远离系统100并位于系统100的更高层次级、并且包括能够执行一个或多个服务(例如，代表一个或多个客户端的进程)的多个计算设备的数据中心)与端点设备(例如，边缘设备110)之间的任何位置分布计算、存储、控制和联网的资源和服务的系统级水平架构。
在实施例中，边缘设备110(例如，使用处理器和/或加速器设备)执行包括在其中的应用112。应用112可包括一个或多个用于处理的服务或工作负载。例如，假设边缘设备110代表连接到形成系统100的边缘网络的自主车辆。应用112可包括用于确保自主车辆的正常操作的各种功能，诸如定位、导航和用于操作车辆其他功能。而且，应用112可以从由边缘资源150、152或154提供的服务请求数据。通常，边缘网关设备114可以接收此类请求。边缘网关设备114此后可以评估请求，并将该请求转发给由服务提供商120、122、124之一操作的边缘位置处的适当服务(或转发至雾或边缘节点180或核心数据中心190)。
而且，边缘资源150、152、154可以将功能即服务(FaaS)或加速的功能即服务(AFaaS)服务提供给作出请求的边缘设备110。边缘设备110可以向作为边缘资源150、152、154的一部分包括的FaaS服务发送请求。每个FaaS服务允许应用112访问由服务提供商120、122、124主控的功能(或加速功能)。加速功能可被具体化为待在由边缘资源140、142、144提供的加速器设备上执行的预定义的位流数据，加速器设备诸如现场可编程门阵列(FPGA)、专用集成电路(ASIC)、图形处理单元(GPU)等)。有利地，应用112可以请求加速功能以加速工作负载操作(例如，AR/VR功能、机器学习功能、矩阵操作等等)的执行。
说明性地，还在服务提供商120、122、124的集合内提供网络设备130、132、134，以执行涉及边缘资源150、152、144的请求的切换和负载平衡功能。更具体地，网络设备130、132、134可以根据一个或多个策略(诸如服务水平协议(SLA)、负载平衡策略、质量服务(QoS)要求、上述每个策略的组合等)确定边缘资源150、152、154的各个计算设备中的哪个应该服务请求。然后，网络设备130、132、134将请求传送到所选择的计算设备以供处理。在一些实施例中，网络设备130、132、134(分别)包括负载平衡器逻辑单元136、138、140，该负载平衡器逻辑单元136、138、140可被具体化为代表服务提供商执行负载平衡任务的任何设备或电路系统。
多个边缘资源(例如，计算设备160、164、168和加速器设备162、166、170)可以提供给定的FaaS服务，使得随着边缘设备110跨不同位置移动，不同的边缘资源可以向应用112提供对该服务的无缝访问。边缘资源可以提供用于跨位置同步边缘服务的机制。边缘设备110可以使用应用编程接口(API)来发送请求。而且，边缘资源中的每一个可以实施允许设备(例如，网络设备130、132、134)从边缘资源中获得性能度量的监视技术。
如本文进一步所述，网络设备130、132、134可以注册各自的计算设备160、164、168、加速器设备162、166、170以及在其上执行的FaaS服务中的每一个。在实施例中，网络设备130、132、143提供用户(例如，数据中心的操作员)可访问的API以配置服务队列，该服务队列可以被映射到向网络设备130、132、134注册的一个或多个FaaS功能。服务队列通常可被具体化位用于存储和管理待转发到一个或多个边缘资源的传入服务请求的任何结构。另外，API允许网络设备130、132、134监视配置的服务队列的性能度量，从而允许网络设备130、132、134确保满足SLA和QoS要求。
现在参考图2，示出了网络设备200的简化框图。网络设备200代表相对于图1描述的网络设备130、132、134中的任何一个。网络设备200可被具体化为一个或多个物理计算设备或虚拟化系统(例如，在诸如(多个)虚拟机或(多个)容器的(多个)虚拟化环境中执行的一个或多个功能，在该虚拟化环境中，底层的硬件资源对于在(多个)虚拟化环境中执行的软件表现为物理硬件、但通过抽象层与软件分开)。而且，说明性网络设备200包括计算引擎(在本文中也称为“计算引擎电路”)212、输入/输出(I/O)子系统216、通信电路218以及一个或多个数据存储设备222。如本文所述，计算设备200还包括一个或多个加速器设备224。当然，在其他实施例中，计算设备200可包括其他或附加组件，诸如在计算机中常见的那些组件(例如，显示器、外围设备等)。另外，在一些实施例中，说明性组件中的一个或多个可被结合到另一组件中，或以其他方式形成另一组件的部分。计算引擎210可被具体化为能够执行如下文所描述的各种计算功能的任何类型的设备或设备集合。在一些实施例中，计算引擎210可被具体化为单个设备，诸如集成电路、嵌入式系统、现场可编程门阵列(FPGA)、片上系统(SOC)或其他集成系统或设备。在说明性实施例中，计算引擎210包括或被具体化为处理器212和存储器214。处理器212可被具体化为能够执行本文所述功能(例如，处理对边缘设备110的边缘资源的服务请求)的任何类型的处理器。例如，处理器212可被具体化为(多个)多核处理器、微控制器、或其他处理器或处理/控制电路。在一些实施例中，处理器212可被具体化为、包括或耦合到FPGA、专用集成电路(ASIC)、可重新配置的硬件或硬件电路系统、其他专用硬件或其虚拟化的版本以促进本文中所述的功能的执行。
存储器214可被具体化为能够执行本文中所述的功能的任何类型的易失性(例如，动态随机存取存储器(DRAM)等)或非易失性存储器或数据存储。易失性存储器可以是需要维持由该介质存储的数据状态的能力的存储介质。易失性存储器的非限制性示例可包括各种类型的随机存取存储器(RAM)，诸如动态随机存取存储器(DRAM)或静态随机存取存储器(SRAM)。可以在存储模块中使用的一个特定类型的DRAM是同步动态随机存取存储器(SDRAM)。在特定实施例中，存储组件的DRAM可符合JEDEC颁布的标准，诸如DDR SDRAM的JESD79F、DDR2 SDRAM的JESD79-2F、DDR3SDRAM的JESD79-3F、DDR4 SDRAM的JESD79-4A、低功率DDR(LPDDR)的JESD209、LPDDR2的JESD209-2、LPDDR3的JESD209-3和LPDDR4的JESD209-4。此类标准(和类似的标准)可被称为基于DDR的标准，而存储设备的实现此类标准的通信接口可被称为基于DDR的接口。
在一个实施例中，存储设备是块可寻址存储设备，诸如基于NAND或NOR技术的那些存储器设备。存储器设备还可包括三维交叉点存储器设备(例如，Intel 3D XPointTM存储器)或其他字节可寻址的就地写入非易失性存储器设备。在一个实施例中，存储器设备可以是或者可以包括使用硫属化物玻璃的存储器设备、多阈值级别NAND闪存、NOR闪存、单级或多级相变存储器(PCM)、电阻式存储器、纳米线存储器、铁电晶体管随机存取存储器(FeTRAM)、反铁电存储器、包含忆阻器技术的磁阻随机存取存储器(MRAM)、包括金属氧化物基底、氧空位基底和导电桥随机存取存储器(CB-RAM)的电阻式存储器、或自旋转移力矩(STT)-MRAM、基于自旋电子磁结存储器的设备、基于磁隧穿结(MTJ)的设备、基于DW(畴壁)和SOT(自旋轨道转移)的设备、基于晶闸管的存储器设备、或者任何上述或其他存储器的组合。存储器设备可指代管芯本身和/或指代封装的存储器产品。
在一些实施例中，3D交叉点存储器(例如，Intel 3D XPointTM存储器)可包括无晶体管的可堆叠的交叉点架构，其中存储单元位于字线和位线的交点处，并且可单独寻址，并且其中位存储基于体电阻的变化。在一些实施例中，存储器214的全部或一部分可以被集成到处理器212中。在操作中，存储器214可以存储在操作期间使用的各种软件和数据，诸如一个或多个应用、通过应用、库以及驱动程序操作的数据。
计算引擎210经由I/O子系统216通信地耦合到网络设备200的其他组件，该I/O子系统216可被具体化为用于促进对计算引擎210(例如，处理器212和/或存储器214)以及网络设备200的其他组件的输入/输出操作的电路系统和/或组件。例如，I/O子系统216可被具体化为或以其他方式包括存储器控制器中枢、输入/输出控制中枢、集成传感器中枢、固件设备、通信链路(即，点对点链路、总线链路、线路、电缆、光导、印刷电路板迹线等)和/或用于促进输入/输出操作的其他组件和子系统。在一些实施例中，I/O子系统216可以形成片上系统(SoC)的部分，并可与网络设备200的处理器212、存储器214和其他组件中的一个或多个一起被合并到计算引擎210中。
通信电路系统218可被具体化为能够实现通过网络在网络设备200与另一计算设备(例如，边缘设备110、边缘网关设备114、边缘资源150、152、154等)之间的通信的任何通信电路、设备或其集合。通信电路系统218可以被配置成使用任何一种或多种通信技术(例如，有线或无线通信)和相关联的协议(例如，蜂窝联网协议、
Figure BDA0002401186770000081
WiMAX、以太网、
Figure BDA0002401186770000082
等)来实行此类通信。
说明性通信电路系统218包括网络接口控制器(NIC)220，其也被称为主机结构接口(HFI)。NIC 220可被具体化为一个或多个附加板、子卡、网络接口卡、控制器芯片、芯片组或可由网络设备200用来与另一计算设备(例如，边缘设备110、边缘网关设备114、边缘资源150、152、154等)连接的其他设备。在一些实施例中，NIC 220可被具体化为包括一个或多个处理器的片上系统(SoC)的一部分，或NIC 148可被包括在也包含一个或多个处理器的多芯片封装上。在一些实施例中，NIC 220可包括均位于NIC 220本地的本地处理器(未示出)和/或本地存储器(未示出)。在此类实施例中，NIC 220的本地处理器可能能够执行本文中描述的计算引擎210的功能中的一个或多个功能。附加地或替代地，在此类实施例中，NIC 220的本地存储器可以在板级、插座级、芯片级和/或其他层级上被集成到网络设备200的一个或多个组件中。说明性地，NIC 220包括负载平衡器逻辑单元221，该负载平衡器逻辑单元代表相对于图1描述的负载平衡器逻辑单元136、138、140。
一个或多个说明性数据存储设备222可被具体化为被配置成用于数据的短期或长期存储的任何类型的设备，诸如例如，存储器设备和电路、存储器卡、硬盘驱动器、固态驱动器或其他数据存储设备。每个数据存储设备222可包括存储数据存储设备222的数据以及固件代码的系统分区。每个数据存储设备222还可包括一个或多个操作系统分区，操作系统分区存储操作系统的数据文件和可执行文件。
每个加速器设备224可被具体化为被配置成用于比能够执行操作的处理器212更快地执行操作(例如，机器学习和人工智能(AI)操作)的集合的任何(多个)设备或电路系统。(多个)加速器设备224可包括一个或多个现场可编程门阵列(FPGA)230，现场可编程门阵列的每一个可被具体化为逻辑门的集合(例如，矩阵)，该逻辑门集合可被配置成用于根据定义的配置(例如，位流)执行操作的集合。(多个)加速器设备224可以附加地或替代地包括图形处理单元(GPU)232，其可被具体化为被配置成用于执行与图形相关的计算(例如，矩阵乘法、向量运算等)的任何设备或电路系统(例如，可编程逻辑芯片、处理器等)。附加地或替代地，(多个)加速器设备224可包括视觉处理单元(VPU)234，其可被具体化为被配置成用于执行与机器视觉相关的操作的任何设备或电路系统(例如，可编程逻辑芯片、处理器等)。
边缘资源150、152、154(例如，计算设备160、164、168和加速器设备162、166、170)、边缘设备110、边缘网关设备114、雾节点180和核心数据中心190可以具有与参考图2中的网络设备200所描述的组件类似的组件。网络设备200的那些组件的描述同样适用于边缘资源150、152、154(例如，计算设备160、162、164、166、168、170)、边缘设备110、边缘网关设备114、雾节点180和核心数据中心190的组件的描述。而且，应当理解，边缘资源150、152、154(例如，计算设备160、164、168和加速器设备162、166、170)、边缘设备110、边缘网关设备114、雾节点180和核心数据中心190中的任何一个可包括计算设备中常见的其他组件、子组件和设备，这些其他组件、子组件和设备没有在上面参考网络设备200讨论并且为描述清楚起见没有在本文讨论。而且，应当理解，计算设备的一个或多个组件可以跨任何距离分布，并且不一定容纳在同一物理单元中。更进一步地，应当理解，网络设备200或边缘资源150、152、154中的计算元件和加速元件可以彼此分开，例如在分开的网络设备上。
网络设备200(或网络设备130、132、134)、边缘网关设备114、边缘资源150、152、154(例如，计算设备160、164、168和加速器设备162、166、170)、边缘设备110、雾节点180和核心数据中心190说明性地经由网络进行通信，该网络可被具体化为任何类型的有线或无线通信网络，或其混合或组合，包括全球网络(例如，互联网)、局域网(LAN)或广域网(WAN)、边缘网络、雾网络、蜂窝网络(例如，全球移动通信系统(GSM)、3G、长期演进(LTE)、全球微波互联接入(WiMAX)等)、无线电接入网络(RAN)、数字用户线(DSL)网络、电缆网络(例如，同轴网络、光纤网络等)或其任意组合。
现在参考图3，网络设备200可以在操作期间建立环境300。说明性环境300包括网络通信器320、服务配置管理器接口330和负载平衡器340。环境300的组件中的每一个可被具体化为硬件、固件、软件或其组合。在一些实施例中，环境300的组件中的一个或多个可被具体化为电路系统或电子设备的集合(例如，网络通信器电路系统320、服务配置管理器接口电路系统330、负载平衡器电路系统340等)。应当理解，在此类实施例中，网络通信器电路系统320或服务配置管理器接口电路系统330中的一个或多个可以形成负载平衡器电路系统340的一部分(或网络设备200的其他组件)。应当理解，在此类实施例中，网络通信器电路系统320或负载平衡器电路系统340中的一个或多个可以形成负载平衡器逻辑单元221的一部分(或网络设备200的其他组件)。
环境300还包括功能信息数据302，其可被具体化为指示由向网络设备200注册的每个边缘资源(例如，计算设备)提供的功能的任何数据。例如，功能信息数据302可被具体化为包括注册的计算设备和相关联的FaaS服务的表结构。功能信息数据302还可以提供描述给定设备(例如，计算资源、存储器资源、网络资源等)的能力的元数据。环境300进一步包括策略数据304，其可被具体化为指示与系统100中的用户相关联的服务水平协议(SLA)、服务质量(QoS)要求、负载平衡策略等的任何数据。
在说明性实施例中，如上所述可被具体化为硬件、固件、软件、虚拟化硬件、仿真架构和/或其组合的网络通信器320被配置成用于促进往返于系统100中的设备的入站和出站无线网络通信(例如，网络通信量、网络分组、网络流等)。为此，网络通信器320被配置成用于接收和处理来自一个系统或计算设备(例如，边缘网关设备114)的数据分组并且准备数据分组并将其发送到另一个计算设备或系统(例如，边缘资源150、152、154)。相应地，在一些实施例中，网络通信器320的功能的至少一部分可以由通信电路系统218执行，并且在说明性实施例中，可以由NIC 220执行。
在说明性实施例中，服务配置管理器接口330被配置成用于执行本文所述的操作，包括接收访问功能的请求、确定用于服务该请求的一个或多个边缘资源、根据策略数据304来选择所标识的边缘资源以及将请求发送到所选择的边缘资源。为此，服务配置管理器接口330包括发现组件332、映射组件334和监视器组件336。服务配置管理器接口330可以提供可由用户(例如，数据中心运营商)访问的API，以用各种边缘资源(诸如计算设备)配置网络设备200。
发现组件332被配置成用于向标识边缘资源(例如，形成边缘资源的计算设备)并且向网络设备200注册边缘资源。在实施例中，发现组件332可以用描述给定的边缘资源(诸如设备ID、网络地址(例如，媒体访问控制(MAC)、IP地址等)、在设备上配置的加速器设备等)的信息来更新功能信息数据302。发现组件332还可以用在边缘资源上注册的FaaS功能来更新功能信息数据302。
映射组件334被配置成用于将与一个或多个设备相关联的功能(或一组功能)映射到给定的服务队列(或一个功能或一组功能)。映射组件334还可将资源监视标识符分配给服务队列。系统100中的服务和其他组件可以使用资源监视标识符来获得与服务队列相关联的遥测和其他度量。这样做使服务配置管理器接口330能够定义各种类别的服务的资源监视标识符。使用资源监视标识符的遥测监视可以通过各种遥测收集技术(诸如
Figure BDA0002401186770000111
资源调配技术(Resource Director Technology))进行。映射组件334还可定义一个功能或一组功能的资源监视标识符。监视器组件336被配置成用于从每个服务队列中获得遥测数据。为此，监视器组件336可以使用与服务队列相关联的资源监视标识符来访问服务队列遥测。一旦被访问，监视器组件336就可以检索并(例如，在网络设备200中的数据存储设备中)存储遥测数据。
说明性负载平衡器340被配置成用于从边缘网关设备114(或应用)接收用于访问边缘资源的请求，以执行处理任务。负载平衡器340可以将一个或多个负载平衡策略应用于请求，以确定该请求的适当的目的地。而且，负载平衡器340评估从服务队列获得的遥测，以进一步确定适当的目的地，例如，基于遥测数据的评估来确定哪些边缘资源(例如，根据给定的SLA)可用于服务请求。注意，负载平衡器340可以在网络设备200的各种硬件和电路系统中实现(诸如在NIC 220内实现或被实现为通信电路系统218中的组件)。
现在参考图4，网络设备200在操作中执行用于向网络设备200注册边缘资源的方法400。如图所示，方法400开始于框402，其中网络设备200接收对边缘资源设备(例如，计算设备160、164、168或加速器设备162、166、170之一)的配置请求。例如，在框404中，网络设备200经由提供给用户的带外接口接收对设备的配置请求。
在框406中，网络设备200发现由边缘资源设备提供的功能。例如，为此，网络设备200可以执行发现服务以标识由边缘资源设备提供的功能即服务(FaaS)功能。在其他情况下，边缘资源设备可以向网络设备200(例如，经由API)传送指示FaaS功能的数据。在框408中，网络设备200注册设备和相关联的FaaS功能。例如，为此，在框410中，网络设备200标识指示设备和相关联功能的元数据。示例包括设备信息(例如，设备ID、类型等)、网络寻址信息(例如，MAC地址、IP地址等)、服务提供商ID等。在框412中，网络设备200更新表(例如，功能信息数据302)以包括设备、相关联的功能以及与设备和功能相关联的所标识的元数据。
现在参考图5，网络设备200在操作中执行用于向网络设备200注册与边缘资源相关联的功能的方法500。如图所示，方法500开始于框502，其中网络设备200接收对边缘资源设备(例如，计算设备160、164、168或加速器设备162、166、170之一)上的FaaS功能的配置请求，该边缘资源设备向网络设备200注册。例如，配置请求可以对应于一个或多个边缘资源的FaaS功能(或FaaS功能组)到服从各种服务要求(例如SLA、QoS和服务等级(CLoS)要求)的服务队列的映射。例如，为此，在框504中，网络设备200经由用户可访问的带外接口接收对与一个或多个边缘资源相关联的FaaS功能(或一组FaaS功能)的配置请求。
在框506中，网络设备200根据请求分配所请求的功能到请求中指定的服务队列的映射。另外，在这样做时，在框508中，网络设备200将请求中指定的服务要求中的一个或多个分配给被映射的服务队列。在框508中，网络设备200根据请求配置一个或多个服务队列到功能的映射。映射可以导致一个或多个功能被映射到多个服务队列。例如，假设网络设备200与提供功能A、B、C和D的边缘资源连接。网络设备200可以将功能A和B映射到给定的服务队列，将功能C和D映射到另一个服务队列，以及将功能A和D映射到又一个服务队列。
在框510中，网络设备200根据请求配置用于所分配的映射的一个或多个监视参数。例如，为此，在框512中，网络设备200可以根据请求来定义资源监视标识符以与映射相关联。在框514中，网络设备200可以使用资源监视标识符来激活监视。网络设备200可以经由资源监视标识符来收集与服务队列相关联的遥测数据。
现在参考图6，网络设备200在操作中执行用于边缘网络中的负载平衡服务请求的方法600。如图所示，方法600开始于框602，其中网络设备200接收访问FaaS功能的请求。在实施例中，请求由边缘设备110之一(例如，经由应用112)发送。在框604中，网络设备200评估请求。例如，在框606中，网络设备200可以评估与请求相关联的QoS要求(例如，QoS期限、等待时间要求、吞吐量要求等)。作为另一示例，在框608中，网络设备200可以评估与请求相关联的SLA，以确定请求的性能要求。作为另一示例，在框610中，网络设备200可以评估FaaS功能的属性，诸如功能类型、输入参数等。
在框612中，网络设备200基于对性能要求的评估以及向网络设备200注册的边缘资源的监视的属性，来确定一个或多个用于服务请求的边缘资源设备。例如，为此，在框614中，网络设备200标识提供所请求的FaaS功能的边缘设备。网络设备200可以通过评估(例如，如功能信息数据302所提供的)注册的设备的表来这样做。在框616中，网络设备200评估与所标识的设备的每一个相关联的服务队列的监视的属性。例如，为此，在框618中，网络设备200获得与设备相关联的每个服务队列的性能度量和遥测。为了获得遥测和度量，网络设备200可以基于与服务队列相关联的资源监视标识符来这样做。在框620中，网络设备200根据负载平衡策略来选择设备之一。一旦被选择，则网络设备200将请求发送到所选择的设备。
简要地参考图7，示出了MEC和雾网络拓扑700。网络拓扑700包括(在端点/物网络层750处的)端点、(在网关层740处的)网关、(例如，在邻域节点层730处的)接入或边缘计算节点、(例如，在区域或中央办公层720处的)核心网络或路由器。(例如，建立在网关层740处的)雾网络可以表示近用户边缘设备(例如，雾节点)的密集地理分布，这些设备配备有存储能力(例如，避免需要在云数据中心存储数据)、通信能力(例如，而不是通过互联网主干路由)、控制能力、配置能力、测量和管理能力(而不是主要由诸如LTE或5G核心网中的网络网关控制)等。在该上下文中，图7示出了通用架构，该通用架构集成了(基于它们的位置、连接性和处理能力等)被分类在不同的层的多个MEC和雾节点。然而，将理解，可以通过边缘计算处理节点来代替或增强此类雾节点。
可以取决于雾节点所位于的拓扑和层对雾节点进行分类。相反，从MEC标准的角度来看，每个雾节点可以被视为移动边缘(ME)主机，或者是主控ME应用和轻量ME平台的简单实体。在示例中，MEC或雾节点可被定义为连接到或运行在主控ME平台的设备(ME主机)上的应用实例。这样，应用可以使用MEC服务，并与系统中的ME主机关联。节点可以被迁移、关联到不同的ME主机，或者使用来自其他(例如，本地或远程)ME平台的MEC服务。
与使用边缘相反，如上所述，传统应用可依赖于远程云数据存储和处理以交换和协调信息。云数据安排允许长期的数据收集和存储，但对于高时变的数据并不是最佳的，并且可能无法尝试应对等待时间挑战(例如，当孩子跑到街上时停下车辆)。如上所述的边缘资源的使用使得能够以低等待时间的方式提供服务(例如，功能的执行)，并且在一些实施例中，可以利用现有MEC服务中提供最小开销的特征。
除了上述的MEC实施方案之外，应当理解，前述系统和方法可以在其中布置有设备并且设备以类似于参考图1描述的方式进行互操作的任何环境(例如，智能工厂、智能城市、智能建筑等)中实现，尽管各个设备的名称在不同的实施方案中可能有所不同。例如，在智能工厂中，以上系统和方法可以提高执行一个或多个制造操作的准确性、效率和/或安全性，特别是在其中实时或接近实时(例如，低延迟非常重要)执行操作的情况下。在智能城市中，以上系统和方法可以提高交通控制系统、环境监测系统和/或其他自动化或半自动化系统的操作的准确性、效率和/或安全性。同样，在智能建筑中，以上公开可应用于改善依赖传感器来收集信息并对所收集的信息采取行动的任何系统(例如，威胁检测和疏散管理系统、视频监视系统、电梯控制系统等)的操作。
示例
下面提供了本文中所公开的技术的说明性示例。这些技术的实施例可包括下文所描述的示例中的任何一个或多个以及其任何组合。
示例1包括一种网络设备，该网络设备包括电路系统，该电路系统用于：在边缘网络中接收访问功能的请求，该请求包括一个或多个性能要求；根据对性能要求的评估以及与网络设备相关联的多个设备中每一个的监视的属性，标识用于服务请求的多个设备中的一个或多个；根据负载平衡策略选择所标识的设备之一；以及将请求发送到所选择的设备。
示例2包括示例1的主题，并且其中，对性能要求的评估包括对与请求相关联的一个或多个服务质量要求的评估。
示例3包括示例1和2中任一项的主题，并且其中，对性能要求的评估包括对与请求相关联的服务水平协议的评估。
示例4包括示例1-3中任一项的主题，并且其中，标识用于服务请求的多个设备中的一个或多个包括：确定提供所请求的功能的多个设备中的一个或多个；以及评估与提供所请求功能的每个所标识的设备相关联的服务队列的监视的属性。
示例5包括示例1-4中任一项的主题，并且其中，评估与提供所请求功能的每个所标识的设备相关联的服务队列的监视的属性包括：使用与服务队列相关联的资源监视标识符来获得服务队列的一个或多个性能度量。
示例6包括示例1-5中任一项的主题，并且其中，标识提供所请求功能的多个设备中的一个或多个包括：使用列出多个设备及其相关联功能的表来标识提供所请求功能的多个设备中的一个或多个。
示例7包括示例1-6中任一项的主题，并且其中，向网络设备注册多个设备中的每一个。
示例8包括一种或多种存储指令的机器可读存储介质，这些指令在一个或多个处理器上被执行时，使网络设备用于：在边缘网络中接收访问功能的请求，该请求包括一个或更多性能要求；根据对性能要求的评估以及与网络设备相关联的多个设备中每一个的监视的属性，标识用于服务请求的多个设备中的一个或多个；根据负载平衡策略选择所标识的设备之一；以及将请求发送到所选择的设备。
示例9包括示例8的主题，并且其中，对性能要求的评估包括对与请求相关联的一个或多个服务质量要求的评估。
示例10包括示例8和9中任一项的主题，并且其中，对性能要求的评估包括对与请求相关联的服务水平协议的评估。
示例11包括示例8-10中任一项的主题，并且其中，标识用于服务请求的多个设备中的一个或多个包括：标识提供所请求的功能的多个设备中的一个或多个；以及评估与提供所请求的功能的每个所标识的设备相关联的服务队列的监视的属性。
示例12包括示例8-11中任一项的主题，并且其中，评估与提供所请求功能的每个所标识的设备相关联的服务队列的监视属性包括：使用与服务队列相关联的资源监视标识符来获得服务队列的一个或多个性能度量。
示例13包括示例8-12中任一项的主题，并且其中，标识提供所请求功能的多个设备中的一个或多个包括：使用列出多个设备及其相关联功能的表来标识提供所请求功能的多个设备中的一个或多个。
示例14包括示例8-13中任一项的主题，并且其中，向网络设备注册多个设备中的每一个。
示例15包括一种网络设备，该网络设备包括：用于在边缘网络中接收访问功能的请求的电路系统，该请求包括一个或多个性能要求；用于根据对性能要求的评估以及与网络设备相关联的多个设备中每一个的监视的属性、标识用于服务请求的多个设备中的一个或多个的装置；用于根据负载平衡策略选择所标识的设备之一的装置；以及用于将请求发送到所选择的设备的电路系统。
示例16包括示例15的主题，并且其中，对性能要求的评估包括对与请求相关联的一个或多个服务质量要求的评估。
示例17包括示例15和16中任一项的主题，并且其中，对性能要求的评估包括对与请求相关联的服务水平协议的评估。
示例18包括示例15-17中任一项的主题，并且其中，用于标识用于服务请求的多个设备中的一个或多个的装置包括：用于标识提供所请求功能的多个设备中的一个或多个的装置；以及用于评估与提供所请求功能的每个所标识的设备相关联的服务队列的监视的属性的装置，其中用于评估监视的属性的装置包括用于使用与服务队列相关联的资源监视标识符来获得服务队列的一个或多个性能度量的电路系统。
示例19包括示例15-18中任一项的主题，并且其中，用于标识提供所请求功能的多个设备中的一个或多个的装置包括：用于使用列出多个设备及其相关联功能的表来标识提供所请求功能的多个设备中的一个或多个的装置。
示例20包括示例15-19中任一项的主题，并且其中，向网络设备注册多个设备中的每一个。

Claims (25)

1.一种网络设备，包括：
电路系统，所述电路系统用于：
在边缘网络中接收访问功能的请求，所述请求包括一个或多个性能要求；
根据对所述性能要求的评估以及与所述网络设备相关联的多个设备中每一个的监视的属性，标识用于服务所述请求的多个设备中的一个或多个；以及
根据负载平衡策略来选择所标识的设备之一。
2.如权利要求1所述的网络设备，其中，所述电路系统进一步用于将所述请求发送到所选择的设备。
3.如权利要求1所述的网络设备，其中，对所述性能要求的评估包括对与所述请求相关联的一个或多个服务质量要求的评估。
4.如权利要求1所述的网络设备，其中，对所述性能要求的评估包括对与所述请求相关联的服务水平协议的评估。
5.如权利要求1所述的网络设备，其中，标识用于服务所述请求的多个设备中的一个或多个包括：标识提供所请求的功能的多个设备中的一个或多个。
6.如权利要求5所述的网络设备，其中，标识用于服务所述请求的多个设备中的一个或多个进一步包括：评估与提供所请求功能的每个所标识的设备相关联的服务队列的监视的属性。
7.如权利要求6所述的网络设备，其中，评估与提供所请求功能的每个所标识的设备相关联的服务队列的监视的属性包括：使用与所述服务队列相关联的资源监视标识符来获得所述服务队列的一个或多个性能度量。
8.如权利要求1所述的网络设备，其中，标识提供所请求功能的多个设备中的一个或多个包括：使用列出多个设备及其相关联功能的表来标识提供所请求功能的多个设备中的一个或多个。
9.如权利要求1所述的网络设备，其中，向所述网络设备注册所述多个设备中的每一个。
10.一种网络设备，包括：
用于在边缘网络中接收访问功能的请求的电路系统，所述请求包括一个或多个性能要求；
用于根据对所述性能要求的评估以及与所述网络设备相关联的多个设备中每一个的监视的属性、标识用于服务所述请求的多个设备中的一个或多个的装置；
用于根据负载平衡策略来选择所标识的设备之一的装置；以及
用于将所述请求发送到所选择的设备的电路系统。
11.如权利要求10所述的网络设备，其中，对所述性能要求的评估包括对与所述请求相关联的一个或多个服务质量要求的评估。
12.如权利要求10所述的网络设备，其中，对所述性能要求的评估包括对与所述请求相关联的服务水平协议的评估。
13.如权利要求10所述的网络设备，其中，用于标识用于服务所述请求的多个设备中的一个或多个的装置包括：用于标识提供所请求的功能的多个设备中的一个或多个的电路系统。
14.如权利要求13所述的网络设备，其中，用于标识用于服务所述请求的多个设备中的一个或多个的装置进一步包括：用于评估与提供所请求功能的每个所标识的设备相关联的服务队列的监视的属性的电路系统。
15.如权利要求14所述的网络设备，其中，用于评估与提供所请求功能的每个所标识的设备相关联的服务队列的监视的属性的电路系统包括：用于使用与所述服务队列相关联的资源监视标识符来获得所述服务队列的一个或多个性能度量的电路系统。
16.如权利要求10所述的网络设备，其中，用于标识提供所请求功能的多个设备中的一个或多个的装置包括：用于使用列出多个设备及其相关联功能的表来标识提供所请求功能的多个设备中的一个或多个的电路系统。
17.如权利要求10所述的网络设备，其中，向所述网络设备注册所述多个设备中的每一个。
18.一种方法，包括：
在边缘网络中接收访问功能的请求，所述请求包括一个或多个性能要求；
根据对所述性能要求的评估以及与所述网络设备相关联的多个设备中每一个的监视的属性，标识用于服务所述请求的多个设备中的一个或多个；
根据负载平衡策略来选择所标识的设备之一；以及
将所述请求发送到所选择的设备。
19.如权利要求18所述的方法，其中，对所述性能要求的评估包括对与所述请求相关联的一个或多个服务质量要求的评估。
20.如权利要求18所述的方法，其中，对所述性能要求的评估包括对与所述请求相关联的服务水平协议的评估。
21.如权利要求18所述的方法，其中，标识用于服务所述请求的多个设备中的一个或多个包括：标识提供所请求的功能的多个设备中的一个或多个。
22.如权利要求21所述的方法，其中，标识用于服务所述请求的多个设备中的一个或多个进一步包括：评估与提供所请求功能的每个所标识的设备相关联的服务队列的监视的属性。
23.如权利要求22所述的方法，其中，评估与提供所请求功能的每个所标识的设备相关联的服务队列的监视的属性包括：使用与所述服务队列相关联的资源监视标识符来获得所述服务队列的一个或多个性能度量。
24.如权利要求18所述的方法，其中，标识提供所请求功能的多个设备中的一个或多个包括：使用列出多个设备及其相关联功能的表来标识提供所请求功能的多个设备中的一个或多个。
25.如权利要求18所述的方法，其中，向所述网络设备注册所述多个设备中的每一个。
CN202010147236.3A 2019-03-29 2020-03-05 用于加速的功能即服务的网络设备负载平衡器的技术 Pending CN111756791A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/369,430 2019-03-29
US16/369,430 US11240155B2 (en) 2019-03-29 2019-03-29 Technologies for network device load balancers for accelerated functions as a service

Publications (1)

Publication Number Publication Date
CN111756791A true CN111756791A (zh) 2020-10-09

Family

ID=67214468

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010147236.3A Pending CN111756791A (zh) 2019-03-29 2020-03-05 用于加速的功能即服务的网络设备负载平衡器的技术

Country Status (3)

Country Link
US (2) US11240155B2 (zh)
CN (1) CN111756791A (zh)
DE (1) DE102020201834A1 (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11240155B2 (en) * 2019-03-29 2022-02-01 Intel Corporation Technologies for network device load balancers for accelerated functions as a service
EP3981106A4 (en) * 2019-06-07 2022-12-21 Telefonaktiebolaget LM Ericsson (publ) ALLOCATING NODE RESOURCES IN FOG
US11245538B2 (en) * 2019-09-28 2022-02-08 Intel Corporation Methods and apparatus to aggregate telemetry data in an edge environment
US11818576B2 (en) * 2019-10-03 2023-11-14 Verizon Patent And Licensing Inc. Systems and methods for low latency cloud computing for mobile applications
WO2021111523A1 (ja) * 2019-12-03 2021-06-10 日本電信電話株式会社 制御装置、制御方法、及びプログラム
US11044173B1 (en) * 2020-01-13 2021-06-22 Cisco Technology, Inc. Management of serverless function deployments in computing networks
WO2022061587A1 (zh) * 2020-09-23 2022-03-31 西门子股份公司 边缘计算方法及系统、边缘设备和控制服务器
US11436054B1 (en) 2021-04-05 2022-09-06 Hewlett Packard Enterprise Development Lp Directing queries to nodes of a cluster of a container orchestration platform distributed across a host system and a hardware accelerator of the host system
US11606267B1 (en) * 2021-09-10 2023-03-14 Microsoft Technology Licensing, Llc Detecting and quantifying latency components in accessing cloud services
US11973824B2 (en) * 2021-09-23 2024-04-30 Shanghai Anviz Technology Co., Ltd. Method for data transmission of audio and video in end-to-end system
US11553038B1 (en) * 2021-10-22 2023-01-10 Kyndryl, Inc. Optimizing device-to-device communication protocol selection in an edge computing environment
US20220224637A1 (en) * 2022-04-01 2022-07-14 Deepak S Methods and apparatus for traffic control for application-independent service mesh

Family Cites Families (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6854013B2 (en) * 2001-06-25 2005-02-08 Nortel Networks Limited Method and apparatus for optimizing network service
US7343399B2 (en) * 2001-06-25 2008-03-11 Nortel Networks Limited Apparatus and method for managing internet resource requests
US7584262B1 (en) * 2002-02-11 2009-09-01 Extreme Networks Method of and system for allocating resources to resource requests based on application of persistence policies
CA2531970A1 (en) * 2003-07-10 2005-01-27 Comcast Cable Holdings, Llc Distributed and scalable architecture for on demand session and resource management
US20060117020A1 (en) * 2004-12-01 2006-06-01 John Toebes Arrangement for selecting a server to provide distributed services from among multiple servers based on a location of a client device
US7860013B2 (en) * 2005-03-09 2010-12-28 Comcast Cable Holdings, Llc Methods and systems for using in-stream data within an on demand content delivery path
US8180896B2 (en) * 2008-08-06 2012-05-15 Edgecast Networks, Inc. Global load balancing on a content delivery network
US8959219B2 (en) * 2010-10-18 2015-02-17 Microsoft Technology Licensing, Llc Dynamic rerouting of service requests between service endpoints for web services in a composite service
CN103095597B (zh) * 2011-10-28 2017-04-26 华为技术有限公司 一种用于负载均衡的方法和装置
KR101383905B1 (ko) * 2011-12-19 2014-04-17 주식회사 솔박스 해시 함수 결과를 이용한 서버 부하 분산 처리 방법 및 그 장치
US9400641B2 (en) * 2012-02-29 2016-07-26 Red Hat, Inc. Adaptable middleware layer
US8787966B2 (en) * 2012-05-17 2014-07-22 Liveu Ltd. Multi-modem communication using virtual identity modules
EP2684398A4 (en) * 2012-05-17 2015-05-13 Liveu Ltd MULTIMODEM COMMUNICATION USING VIRTUAL IDENTITY MODULES
US8724626B1 (en) * 2013-10-07 2014-05-13 tw telecom holdings inc. Redirecting network traffic based on content
US9917781B2 (en) * 2014-06-05 2018-03-13 KEMP Technologies Inc. Methods for intelligent data traffic steering
WO2015187946A1 (en) * 2014-06-05 2015-12-10 KEMP Technologies Inc. Adaptive load balancer and methods for intelligent data traffic steering
US9923959B2 (en) * 2014-06-05 2018-03-20 Microsoft Technology Licensing, Llc Load balancing with layered edge servers
US9755898B2 (en) * 2014-09-30 2017-09-05 Nicira, Inc. Elastically managing a service node group
US10243914B2 (en) * 2015-07-15 2019-03-26 Nicira, Inc. Managing link aggregation traffic in edge nodes
US20170026461A1 (en) * 2015-07-24 2017-01-26 Cisco Technology, Inc. Intelligent load balancer
EP3348038B1 (en) * 2015-09-10 2021-09-08 Vimmi Communications Ltd. Content delivery network
US10812393B2 (en) * 2015-12-28 2020-10-20 Hewlett Packard Enterprise Development Lp Packet distribution based on an identified service function
WO2017171743A1 (en) * 2016-03-30 2017-10-05 Ale Usa Inc. Edge network node and method for configuring a service therein
US10432722B2 (en) * 2016-05-06 2019-10-01 Microsoft Technology Licensing, Llc Cloud storage platform providing performance-based service level agreements
US10742750B2 (en) * 2017-07-20 2020-08-11 Cisco Technology, Inc. Managing a distributed network of function execution environments
US11467881B2 (en) * 2017-09-13 2022-10-11 At&T Intellectual Property I, L.P. Framework, method and apparatus for network function as a service for hosted network functions in a cloud environment
WO2019135773A1 (en) * 2018-01-08 2019-07-11 Hewlett-Packard Development Company, L.P. Brokering servers based on remote access performance
US10541942B2 (en) * 2018-03-30 2020-01-21 Intel Corporation Technologies for accelerating edge device workloads
US10841397B2 (en) * 2018-04-17 2020-11-17 Vmware, Inc. Methods, apparatus, and systems to dynamically discover and host services in fog servers
US20190377592A1 (en) * 2018-06-12 2019-12-12 Vmware, Inc. System and method for provisioning devices of a decentralized cloud
US10944689B2 (en) * 2018-06-29 2021-03-09 Intel Corporation Scalable edge computing
US10819571B2 (en) * 2018-06-29 2020-10-27 Cisco Technology, Inc. Network traffic optimization using in-situ notification system
US10678737B2 (en) * 2018-12-28 2020-06-09 Intel Corporation Technologies for providing dynamic communication path modification for accelerator device kernels
US10798157B2 (en) * 2018-12-28 2020-10-06 Intel Corporation Technologies for transparent function as a service arbitration for edge systems
US11412052B2 (en) * 2018-12-28 2022-08-09 Intel Corporation Quality of service (QoS) management in edge computing environments
US11799952B2 (en) * 2019-01-07 2023-10-24 Intel Corporation Computing resource discovery and allocation
US11240155B2 (en) * 2019-03-29 2022-02-01 Intel Corporation Technologies for network device load balancers for accelerated functions as a service

Also Published As

Publication number Publication date
US20220210073A1 (en) 2022-06-30
US20190222518A1 (en) 2019-07-18
DE102020201834A1 (de) 2020-10-01
US11240155B2 (en) 2022-02-01

Similar Documents

Publication Publication Date Title
US11334382B2 (en) Technologies for batching requests in an edge infrastructure
US11240155B2 (en) Technologies for network device load balancers for accelerated functions as a service
US11082525B2 (en) Technologies for managing sensor and telemetry data on an edge networking platform
US20210243247A1 (en) Service mesh offload to network devices
US11695628B2 (en) Technologies for autonomous edge compute instance optimization and auto-healing using local hardware platform QoS services
US11265235B2 (en) Technologies for capturing processing resource metrics as a function of time
US11243817B2 (en) Technologies for data migration between edge accelerators hosted on different edge locations
US11880714B2 (en) Technologies for providing dynamic selection of edge and local accelerator resources
US20210266253A1 (en) Pooling of network processing resources
US11936571B2 (en) Reliable transport offloaded to network devices
US11617227B2 (en) Technologies for providing hardware resources as a service with direct resource addressability
US11606417B2 (en) Technologies for matching security requirements of function-as-a-service in edge clouds
US20220166847A1 (en) Technologies for multi-tier prefetching in a context-aware edge gateway
US20220086226A1 (en) Virtual device portability
EP4030284A1 (en) Virtual device portability
WO2024098232A1 (en) Adaptive live migration of a virtual machine for a physical storage device controller

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination