CN107925588B - 用于平台处理核心配置的方法、设备、装置及介质 - Google Patents

用于平台处理核心配置的方法、设备、装置及介质 Download PDF

Info

Publication number
CN107925588B
CN107925588B CN201680048806.5A CN201680048806A CN107925588B CN 107925588 B CN107925588 B CN 107925588B CN 201680048806 A CN201680048806 A CN 201680048806A CN 107925588 B CN107925588 B CN 107925588B
Authority
CN
China
Prior art keywords
core
platform
processing
telemetry
performance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201680048806.5A
Other languages
English (en)
Other versions
CN107925588A (zh
Inventor
A·J·赫德里奇
P·L·康纳
D·库玛尔
A·W·民
D·J·达勒
K·索德
J·B·肖
E·韦尔普兰科
S·P·杜巴尔
J·R·赫恩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of CN107925588A publication Critical patent/CN107925588A/zh
Application granted granted Critical
Publication of CN107925588B publication Critical patent/CN107925588B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04Q—SELECTING
    • H04Q9/00—Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
    • H04Q9/02—Automatically-operated arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/40—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using virtualisation of network functions or resources, e.g. SDN or NFV entities
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5003—Managing SLA; Interaction between SLA and QoS
    • H04L41/5009—Determining service level performance parameters or violations of service level contracts, e.g. violations of agreed response time or mean time between failures [MTBF]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5003—Managing SLA; Interaction between SLA and QoS
    • H04L41/5019—Ensuring fulfilment of SLA
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/10—Active monitoring, e.g. heartbeat, ping or trace-route
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/20—Arrangements for monitoring or testing data switching networks the monitoring system or the monitored elements being virtualised, abstracted or software-defined entities, e.g. SDN or NFV

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Cardiology (AREA)
  • General Health & Medical Sciences (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本文中描述了用于带外平台调整和配置的设备和技术。设备可以包括到遥测收集系统的遥测接口和到网络适配器硬件的网络接口。该设备可以从遥测收集系统接收平台遥测度量，并通过网络接口接收网络适配器硅硬件统计，以采集收集的统计。设备可以使用收集的统计来应用启发式算法，以确定由通信地耦合到设备的多个软件系统的操作所生成的处理核心工作负载。响应于检测到至少一个处理核心上的过载状态，设备可以基于处理核心工作负载来提供重新配置消息以指示至少一个软件系统将操作切换到不同的处理核心。还描述了其他实施例。

Description

用于平台处理核心配置的方法、设备、装置及介质
优先权要求
本专利申请要求于2015年9月25日提交的序列号为14/866,567的美国专利申请的优先权的权益，其全部内容通过引用并入本文。
技术领域
本文所描述的实施例总体上涉及运营商网络中资源的管理。一些实施例涉及联网资源的动态分配以及资源分配的调整和监测。
背景技术
当前的云数据中心已经经历了针对I/O设备的大规模的纵向扩展和横向扩展，并且这带来了针对数据中心的可管理性、可靠性和性能的新的挑战。遥测技术可以协助数据中心软件进行工作负载的放置和映射，但是提供这样的遥测技术可能会对数据中心资源造成进一步流失。
发明内容
本发明提供了一种用于具有多核计算平台架构和多个网络适配器的计算机系统的编排控制器设备，所述多核计算平台架构和网络适配器为至少一个软件系统提供用于促进带内数据流的资源，所述设备包括：到遥测收集系统的至少一个遥测接口，所述遥测收集系统经由对所述多核计算平台的处理核心的带外(OOB)访问来收集平台遥测度量，所述平台遥测度量包括处理核心工作负载；到所述网络适配器的网络适配器硬件的至少一个网络硬件接口，所述至少一个网络硬件接口用于经由对所述网络适配器的OOB访问来收集网络适配器硬件统计信息；其中，对处理核心和对所述网络适配器的所述OOB访问避免利用所述用于促进带内数据流的资源；以及处理电路，其被配置为从所述遥测收集系统接收所述平台遥测度量，以及通过所述至少一个网络硬件接口接收所述网络适配器硬件统计信息，以采集收集的统计信息，使用所述收集的统计信息来应用启发式算法，以确定由通信地耦合到所述设备的多个软件系统的操作生成的处理核心工作负载，以及响应于检测到所述处理核心中的至少一个处理核心上的过载状态，基于所述处理核心工作负载来提供重新配置消息以指示所述至少一个软件系统将操作切换到不同的处理核心。
本发明还提供了一种用于计算机系统的平台处理核心配置的方法，所述计算机系统具有多核计算平台架构和多个网络适配器，所述多核计算平台架构和网络适配器促进所述计算机系统上托管的多个虚拟机(VM)和管理程序的带内数据流，所述方法包括：从遥测收集系统接收平台遥测度量，所述遥测收集系统经由对所述多核计算平台的处理核心的带外(OOB)访问来收集平台遥测度量，所述平台遥测度量包括处理核心工作负载，其中，所述OOB访问避免利用用于促进所述带内数据流的资源；通过至少一个网络硬件接口经由对所述网络适配器的OOB访问来收集网络适配器硬件统计信息，以采集收集的统计信息；使用所述收集的统计信息来应用启发式算法以确定由所述多个VM的操作生成的处理核心工作负载；以及响应于检测到所述处理核心中的至少一个处理核心上的过载状态，基于所述处理核心工作负载将重新配置消息提供给所述管理程序以指示与所述管理程序相关联的所述VM中的至少一个VM将操作切换到不同的处理核心。
本发明还提供了一种用于计算机系统的平台处理核心配置的装置，所述计算机系统具有多核计算平台架构和多个网络适配器，所述多核计算平台架构和网络适配器促进所述计算机系统上托管的多个虚拟机(VM)和管理程序的带内数据流，所述装置包括用于执行如本发明所述的方法中的任一项的单元。
本发明还提供了一种存储有指令的机器可读介质，所述指令当在机器上被执行时使得所述机器执行如本发明所述的方法中的任何一个。
本发明还提供了一种用于计算机系统的平台处理核心配置的设备，所述计算机系统具有多核计算平台架构和多个网络适配器，所述多核计算平台架构和网络适配器促进所述计算机系统上托管的多个虚拟机(VM)和管理程序的带内数据流，所述设备包括：存储指令的存储器；以及耦合到所述存储器的处理器，所述指令在被所述处理器执行时执行如本发明所述的方法。
附图说明
在不一定是按比例绘制的附图中，相似的附图标记可以在不同的视图中描述相似的部件。具有不同的字母后缀的相似的附图标记可以表示相似部件的不同实例。附图通过示例而非限制的方式一般地示出了本文档中所论述的各个实施例。
图1示出了根据一些实施例的用于提供带外遥测的平台的组件。
图2示出了根据一些实施例的包括用于提供带外遥测的遥测收集逻辑的设备。
图3是根据一些实施例的网络接口卡(NIC)亲和算法的初始化和基准测试阶段的流程图。
图4是根据一些实施例的NIC亲和算法的操作阶段的流程图。
图5示出了根据一些实施例的网络功能虚拟化(NFV)系统架构和数据流。
图6是根据一些实施例的用于带外平台配置参数可配置性的系统的框图。
图7示出了高速缓存敏感的工作负载的性能对高速缓存占用。
图8示出了不向高速缓存资源展示敏感度的受计算限制的工作负载的性能与高速缓存敏感度。
图9是根据一些实施例的用于实现性能监测和聚集算法的示例硬件实现的方法的流程图。
图10示出了根据一些实施例的可以被分析以用于进行配置决策的高速缓存敏感的工作负载的高速缓存敏感度数据。
具体实施方式
近来，数据中心运营商在针对诸如以太网10/40/100Gbps/++设备、Infiniband设备、RSA光结构/互连、交换机等之类的I/O设备提供大规模可管理性、可靠性和性能方面遇到了挑战。此外，随着运营商纵向扩展/横向扩展，保证单个网络流或业务类型的性能变得越来越困难，特别是在诸如欧洲电信标准协会(ETSI)网络功能虚拟化(NFV)和软件定义的网络(SDN)云之类的网络云实现方式中。更进一步，网络运营商和服务提供商要求网络云系统具有高水平的恢复性。使情况更为复杂的是，随着客户将更新的机器添加到其部署的机器队列中，而不必引退更旧的机器，部署的服务器系统之间的特征、能力以及性能的范围也随之增加，并且异构性也随之增加。
可以通过依赖于从平台I/O设备(例如，网络接口卡(NIC)、交换机等)到外部自动编排逻辑的可靠和连续的遥测输送的机制在云数据中心中实现I/O横向扩展/纵向扩展并且整体上进行更好的管理，以用于更灵活的和软件定义的基础架构。然而，提供这样的遥测会对运营商系统带来进一步的阻力，使得遵守服务等级协议(SLA)变得越来越困难。
实施例提供了一种编排控制器，在检测到过载条件或其他不利条件时，该编排控制器通过将工作负载指派到特定平台并在平台之间迁移来主动和被动地处理连续的遥测流，以管理以网络为中心的工作负载。根据各种实施例，通过维护上下文并协助工作负载放置和映射到特定平台，运营商可以在时间和仪器方面花费更少的资源，直接管理复杂异构服务器队列上的工作负载放置。因此，实施例提供了针对与可靠性和性能的大规模纵向扩展/横向扩展管理相关联的问题的解决方案。实施例还可以向以计算为中心的平台提供益处。
另外，根据各种实施例的方法和系统提供跨机架内的服务器、跨数据中心以及跨跨越了多个地理位置的多个数据中心的改进的同步和准确的遥测。这样的同步是数据中心操作中的问题，重要的是用户始终观察数据的最新的副本。
同步问题不仅应用于时间，还应用于配置状态。配置状态可以包括许多不同的参数，包括电源管理积极性、系统功能状态(如可靠性、可用性和可服务性(RAS)功能动态配置)以及用于
Figure GDA0003252269070000041
资源调配技术(RDT)或平台QoS或PQoS)的共享资源监测/分配配置。这些技术中的任何或所有都能够对共享平台资源(如最后一级高速缓存空间、存储器带宽以及将来的I/O带宽)进行监测和控制。
一些数据中心运营商使用带内方法来维持时间和配置状态同步，其中来自在系统上运行的操作系统(OS)或虚拟机管理器(VMM)的参与被提供来接受和应用更新的参数，诸如时间值或配置设置。通过中断OS/VMM的正常操作并消耗计算周期，来自OS或VMM的这样的参与引入开销和延迟。根据各种实施例，通过将这些任务卸载到带外(OOB)系统，可以在不使用
Figure GDA0003252269070000051
架构(IA)核心或实现OS或VMM的其他核心的情况下执行数据的收集、聚合和分析。
尽管一些实施例使用
Figure GDA0003252269070000052
管理引擎(ME)或创新引擎(IE)，但是在使用能够从外部源接收参数并且应用它们以更新当前的系统配置的固件以及能够OOB的微控制器的其他组合的各种其他实施例中，其他实例化是可能的。
尽管使用ME和支持软件来执行OOB管理和同步任务是可能的，但是也可以向数据中心运营商提供用于IE的打开示例代码以完成OOB平台调整和优化，从而允许调整参数以及甚至调整算法由数据中心运营商根据自己的需求进行修改。
针对运营商网络的平台遥测驱动网络功能部署
如本文早前简要提及的，I/O横向扩展/纵向扩展可以通过依赖于从平台I/O设备(例如，网络接口卡(NIC)、交换机等)到外部自动编排逻辑的可靠且连续的遥测输送的机制在云数据中心中实现。然而，提供这样的遥测技术会对运营商系统造成进一步的阻力，使得遵守服务等级协议(SLA)变得越来越困难。
实施例通过在云系统上提供SLA服务、故障管理、警报和高可用性的交付来解决这些和其他问题。根据各种实施例的遥测遵循使用作为非限制性示例的
Figure GDA0003252269070000053
软件防护扩展(SGX)、可信平台模块(TPM)或安全可信执行环境(TEE)的租户实施的遥测的安全接收和输送。在NFV开放平台(OPNFV)和ETSI NFV中正在进行的行业努力旨在针对这些用途定义正式的要求。
实施例针对
Figure GDA0003252269070000054
IE、OOB Core、
Figure GDA0003252269070000055
ME或其他部署、平台和软件提供重新配置或访问物理或虚拟NIC的能力。实施例提供对NIC的OOB或侧通道访问，而不会干扰从运行NIC驱动的Intel架构
Figure GDA0003252269070000056
核心进行的带内访问。
与一些遥测供应系统相反，根据各种实施例的遥测代理除了本文描述的其它数据之外还从NIC收集数据。实施例根据ETSI NFV标准组规定的SLA要求的规定提供服务质量度量，ETSI NFV标准组规定了对详细NIC、I/O和平台遥测的需求。根据各种实施例描述的消息传递、OOB遥测、度量和定期性可以用于满足对基于IA的NFV平台(诸如开源OPNFV和SunriseTrail平台)的运营商ETSI NFV要求。这样的遥测的一些类别可以包括虚拟机(VM)操作或虚拟网络功能(VNF)操作(例如，延迟、VM时钟错误、到达VM死亡等)、虚拟网络操作(例如，分组延迟、延迟变化、网络中断、端口状态、策略完整性等)。各种实施例的遥测代理处理来自以下的数据：处理器核心、芯片组、存储器、平台、NIC、存储装置、虚拟交换机(vSwitch)、加速单元(例如，加密、压缩等)。
根据各种实施例的设备可以计算或生成SLA度量。例如，某些设备将检查SLA是否在可接受的限值内，或通过向编排器或其他运营商报告违规来强制SLA违规。设备还可以提供审计能力，在OOB环境下，移除向应用软件通知不利条件、SLA违规、变更等的需要。
各种实施例的OOB方法可以增强或改进性能调试，因为OOB方法不会将自检开销添加到已经运行在峰值容量附近的系统。因此，实施例可以避免性能结果的偏差。根据各种实施例，对NIC的OOB或侧通道访问避免干扰从运行NIC驱动器的IA核心的带内访问。相应地，实施例可以减少开销并且中断重新配置的速率。
可用的以太网I/O仅显露有限的遥测集合，并且实施例指定由I/O适配器(包括类似于vSwitch的虚拟I/O适配器)显露的附加遥测，其可以通过按照各种实施例的带外技术来访问。
在一些以网络负载为中心的运营商部署中，I/O设备被直接指派给以网络为中心的工作负载(通常称为虚拟网络功能-VNF)，并且几乎没有或者没有来自管理程序/VMM的干预。在这样的部署中，CPU核心或线程被指派给这些VNF，并且不能用于遥测和编排，因为VM的延迟要求非常严格，以至于VM业务不能被暂停。相应地，各种实施例的OOB机制可以是合乎需要的，这是因为这样的OOB机制可以与VM同时且异步地运行，而不占用或竞争VM所依赖的平台资源以满足其延迟/带宽目标。另外，这些机制能够通过例如管理端口(聚合、分解)并且允许/限制业务来匹配已建立的SLA来实施SLA。
在另一个实施例中，多个VNF可以在平台上运行，并且每个VNF可以被指派给一个或多个物理或虚拟I/O设备。因此，OOB机制成为用于跨所有工作负载和平台上所有设备的遥测和编排的综合机制。
图1示出了根据一些实施例的用于提供OOB遥测的平台100的组件。平台100包括收集来自CPU/SoC的信息的遥测收集引擎110。虽然实施例不限于在PCH中实现，遥测收集引擎110可以位于南方综合体中的平台控制器(PCH)中，从其它应用的套接字视角看，该平台控制器单独运行。
平台环境控制接口(PECI)120将CPU遥测传递到设备150以进行协调。尽管实施例不限于此，但是设备150可以包括或被包括在
Figure GDA0003252269070000071
IE中。PECI是用于收集本文描述的数据的协议，但是实施例不限于使用PECI。
PQoS 130收集QoS信息并将QoS信息发送到设备150以进行协调。QoS信息可以包括(但不限于)高速缓存使用度量、存储器带宽度量、IO度量等。
网络适配器硬件140收集或包括统计信息计数器、健康状态、故障、业务模式、端口状态等，并将该信息或其他信息发送到设备150。
设备150包括遥测收集器逻辑，并将启发式应用于收集的遥测和统计信息。设备150因此用作SLA、故障管理和高可用性中介的本地平台检测和实施点。关于各种实施例描述的启发式可以涉及过滤。例如，遥测可以被过滤以专注于特定的VM来做出关于该特定VM的操作的决策。
设备150可以重新计算改进的或适宜的配置，并向VM 160的全部或一些发送重新配置命令。设备150或其他系统可以向管理程序170通知重新配置已经发生。重新配置可以包括重新平衡。例如，PQoS 130可以收集QoS数据，使得设备150可以返回IA核心以通知IA核心特定的VM 160正在使用大量的资源，使得VM 160可以被指派为运行在不同的核心上。
实施例可以提供关于NIC的睡眠状态和统计信息收集。可以意识到的是，NIC上的每个端口具有多达1000个可以与处理元件相关联的队列，并且队列可以与应用相关联。如果队列中的一个或多个运行时分组不足，可以做出决策，例如，将相对应的NIC或一组NIC设置为休眠一段时间，直到队列填满，之后又会有另外一个NIC被唤醒继续处理。实施例消除了从IA核心获得这样的NIC统计信息的负担。
分析还可以是时间定向的，使得运营商可以检查工作负载和配置以随着时间的推移进行优化。中央控制器，例如在数据中心级别，可以执行这样的过滤和基于时间的分析来检测错误和不寻常的趋势。
因此，图1描绘了多个平台元件以及闭环系统，其用于监测硬件和软件度量并且为了达到改进的或适宜的平台100状态而做出VM 160中的每个的决策和重新配置。
图2示出了根据一些实施例的包括用于提供带外遥测的遥测收集逻辑的设备150。
设备150包括到遥测收集系统的至少一个遥测接口210。例如，至少一个遥测接口210可以与遥测收集引擎110进行接合，以用于收集如前所述的统计信息。至少一个遥测接口210可以实现PECI 120或另一协议。设备150还可以包括到平台度量收集系统的至少一个平台接口(也被并入元件210中)。如前所述，处理电路可以通过至少一个平台接口210收集PQoS度量，并且使用PQoS度量作为对启发式算法的输入。处理电路200可以基于启发式算法来确定是否已经满足SLA标准，并且如果根据本文早前描述的决策或算法SLA标准尚未被满足，则向数据中心管理软件报告SLA违反。设备150可以包括到网络适配器硬件206的至少一个网络接口204。
设备150包括处理电路200，处理电路200被配置为从遥测收集系统接收平台遥测度量以及通过至少一个网络接口204接收网络适配器硬件统计信息，以采集收集的统计信息。在实施例中，平台遥测度量包括从包括以下的分组中选择的至少两个度量类型中的度量：处理核心数据、芯片组数据、存储器元件性能数据、从加密单元接收的数据、从压缩单元接收的数据、存储数据、虚拟交换机(vSwitch)数据以及通过网络接口卡(NIC)连接接收的数据。然而，可以向处理电路200提供或由处理电路200使用本文早前描述的或由ETSI NFV或其他联网标准或数据中心标准指定的任何度量。
处理电路200可以使用收集的统计信息来应用早前所述的启发式算法，以确定由通信地耦合到设备150的多个VM 160的操作所生成的处理核心工作负载。
响应于检测到至少一个处理核心上的过载状态，基于处理核心工作负载，处理电路200可以提供如本文早前所述的重新配置消息，以指示至少一个VM 160将操作切换到不同的处理核心。在一些实施例中，处理电路200被配置为将请求内的重新配置消息提供给管理程序170。
图3是根据一些实施例的NIC亲和算法的初始化和基准测试阶段300的流程图。图4是根据一些实施例的NIC亲和算法的操作阶段400的流程图。处理电路200(图2)可以执行图3和图4中所示的操作中的任一个或全部操作，但是平台100(图1)的其他元件也可以执行这些操作中的一些或全部。在一些实施例中，设备150或处理电路200可以指示平台100的其他元件执行参照图3和图4描述的任何或全部操作。
参考图3，在操作304中，处理电路200可以选择要执行的核心(例如IA核心)和基准测试操作的类型。基准测试操作可以包括对核心到高速缓存带宽、核心到I/O带宽、核心到存储器带宽或者在确定NIC配置、VM配置等中感兴趣的其他基准的基准测试或其他评估。为了执行基准测试，处理电路200将指示一组至少两个处理核心(例如，将被基准测试的处理核心)按照顺序进入离线状态。在该组至少两个处理核心中的相应一个处理核心进入离线状态之后，处理电路200将提供用于对该组的至少两个处理核心中的每一个执行测试的指令。在操作306中，处理电路200将基于基准测试操作期间的性能来对该组至少两个处理核心进行排序。在执行测试之后，处理电路200将生成排序的一组处理核心。排序和测试的结果可以被存储在数据库或其他存储装置中、在远程或本地数据中心中心位置或其他位置、或设备150本地、或其一些组合。方法300以操作310结束，但是可以在操作308中在任何时间处重复。
参考图4，在操作402处，可以在平台100的NIC处接收业务。在操作404处，如果传入流是高优先级，则在操作406处可以将相关联的NIC中断引导至高性能核心(如根据早前所述生成和存储的排序所确定的)。否则，如果传入流不是高优先级的，则相关联的NIC中断可以发送到低性能核心。
实现方法300和400或其他类似方法的实施例可以提供共享平台资源中的动态检测不均匀性(例如，在一些平台实施例中，某些核心可以具有较高的可用存储器带宽，而其他核心可以具有较高的I/O带宽)。NIC驱动可以将它们仿射到最高性能的核心和/或最高存储器/高速缓存/IO带宽核心，以提高或改进性能。通过确定哪些核心最适合运行用于某些硬件设备的NIC驱动，实施例提供(在节点内)更好的纵向扩展、更好的整合和工作负载密度，以及可能改进的系统级或工作负载级度量，例如更高的吞吐量、减少抖动或减少延迟。
处理电路200还可以用于执行下面关于图5-图10所描述的其他功能。
图5示出了根据一些实施例的NFV系统架构500和数据流。如图5所示，设备150安全地收集I/O 502、交换机504、以及虚拟/物理功能506遥测。遥测经由OOB网络508被传送到NFV云OS代理(例如，诸如Ceilometer之类的遥测代理)510。遥测被传送到VNF管理器(例如，用于Cisco PDN网关或Juniper IDS/IPS的管理控制台系统)512，它根据VNF(例如CiscoPDN网关或Juniper IDS/IPS)的要求来确定底层的NFV基础架构(NFVI)的健康。
如果NFVI遥测被认为是有问题的(例如，如果错误太多、丢包、基于网络的威胁正在进行、拒绝服务(DoS)攻击、每流/每租户/临时业务量差异等)，或者如果VNF基础架构(VNFI)不符合根据ETSI NFV系列标准中的标准或类似标准定义的ETSI NFV定义的服务质量度量，则可以向例如编排器514或其他系统报告这样的情况。
除了遥测之外，设备150还将使能审计、警报和控制，作为用于提供SLA以及遵守已建立的SLA的合法证明的机制。设备150(例如，OOB
Figure GDA0003252269070000101
或ME)将向管理程序170、OS或云OS传送由本规范中的运营商定义的各种服务质量度量要求，包括失误、故障、警报和操作错误配置等。服务质量度量包括但不限于：先进先出(FIFO)深度、流量控制事件、丢失分组计数、主机缓冲区或描述符利用、传输控制协议(TCP)拥塞窗口更改、内联互联网协议安全性(IPsec)或安全套接字层(SSL)处理度量和安全策略，例如利用安全策略、密钥生命周期检查、OOB密钥管理等检查业务模式。度量还可以包括SLA、带宽、延迟、抖动等的性能。度量可以包括平台级度量，每个VM、应用或线程的，例如当前高速缓存占用、存储器带宽使用、I/O使用等。
任何上述系统中的任何的多个实例516、518可以提供或接收数据流，如图5所示。实施例不限于图5中所示的确切组件或组件数量。
在实施例中，NFV管理器可以并入在编排器514中，并且如果VNF或NFVI没有如服务质量所要求的执行，则编排器514可以对所接收的遥测(服务质量度量)采取补救动作。在这样的情况下，VNF管理器512可以与编排器514通信以采取补救动作。编排器514可以指示VIM工作负载VNF生命周期管理代理(例如，增强的OpenStack Nova)520来针对VNF找到合适的平台。VNF生命周期管理代理520可以执行补救动作(例如，从现有平台PI到新的平台P2的VNF实时迁移，其可以满足VNF和VNF管理器的期望)。新平台P2的选择可以通过VNF生命周期管理代理520基于从VNF管理器512接收的一组参数(例如，VNF描述符)以及潜在平台上的可用资源来执行。
作为非限制性示例，OOB遥测可以包括：NIC的数量、每个NIC的供应商和型号、每个NIC的快速外围组件互连(PCIe)设备的类型、每个NIC的通道或端口的数量、每秒分组、分组大小和其他分组参数、每个NIC的每个端口的PCI设备ID、每个端口的类型和大小等。关于VM，遥测可以包括每个NIC是否有资格由每个VM使用，每个NIC是否将在VM当中专用或共享等。如果要共享NIC，则遥测可以包括NIC是否与单根I/O虚拟化(SR-IOV)共享或通过vSwitch共享。如果通过SR-IOV共享，则OOB遥测可以包括配置的虚拟功能的数量、每个VF的PCI设备ID、每个VF的带宽或者步调等。如果通过vSwitch共享，OOB遥测可以包括相对应的vSwitch是在桥接模式还是网络地址转换(NAT)模式中、虚拟接口的数量等。OOB遥测可以包括支持的和禁用的功能的配置、NIC或交换机功能的卸载方面、每个租户、每个流、每个SL所有者等的卸载或硬件加速策略、卸载错误、警报、审计等。OOB遥测可以包括非一致性存储器访问(NUMA)节点之间的带宽，包括总带宽和使用的带宽。然而，本文列出的OOB遥测示例不被视为对任何特定的OOB遥测的限制性实施例。
OOB平台调整、配置和优化
如本文早前简要提及的，实施例还提供跨机架内的服务器、跨数据中心以及跨横跨多个地理位置的多个数据中心的改进的同步和准确的遥测。这样的同步是数据中心操作中的问题，它阻碍了云服务的同步交付，确保用户始终观察数据的最新的副本。实施例提供改进的平台和工作负载的性能调整，以及随时间推移的行为跟踪，并共享资源重新分配以满足SLA目标。
一些同步方法使用带内方法，其需要在涉及的每个系统上的OS/VMM参与。实施例提供了本文描述的OOB方法。
图6是根据一些实施例的用于OOB平台配置参数可配置性的系统600的框图。
如图6所示，独立硬件/固件代理602与管理和策略服务器604通信以发送/接收包括配置输入606和性能反馈608的信息。该硬件/固件代理602可以通过标准网络链路或通过具有较低拥塞的专用网络与管理和策略服务器604进行通信来降低延迟。
硬件/固件代理602可以经由其他接口或协议与平台元件610的其余部分(共享资源、OS/VMM、应用软件等)进行通信，其他接口或协议可以包括共享存储器区域(邮箱式方法)或中断。
尽管实施例不限于此，硬件/固件代理602可以在
Figure GDA0003252269070000121
IE(客户可定制的)或
Figure GDA0003252269070000122
ME(封闭的源)中实现。设备150(图1)的组件也可以被包括在硬件/固件代理602中。
由于硬件/固件代理602独立于平台600的其余部分而操作，所以硬件/固件代理602可以异步地接收来自数据中心中的管理和策略服务器604(其继而已经接收来自地理上不同地区的另一数据中心的策略更新)的配置输入。因此，硬件/固件代理602可以在处理之后将这些更新应用于平台600，其中处理包括配置检查、合并、适用性过滤、参数修改等。硬件/固件代理602还可以与许多其他平台元件610(如OS/VMM软件、单个应用、性能监测计数器或共享资源(例如，L3高速缓存和存储器))进行通信来在每应用基础上测量这样的共享资源的共享。然后可以将这些度量提供回管理和策略服务器604，以便引导高级资源感知调度决策、满足SLA或其他平均性能目标、或者向数据中心管理员提供度量以测量在每平台上聚合或报告的诸如高速缓存和存储器争用和带宽利用之类的度量。
除了配置改变之外，实施例还可以基于正在运行的工作负载实时地提供平台优化，例如调整预取器，以便提供更高的性能。取决于数据中心目标以及所需的记录和可视性级别，这样的细粒度的调整算法可以在管理和策略服务器604处或在硬件/固件代理602处运行。
异步硬件/固件代理602及其到管理和策略服务器604以及平台600的其余部分(包括硬件和软件)的接口提供如本文所述的一组OOB能力。硬件/固件代理602可以包括由多个核心中的一个、存储器资源、遥测和其他数据、可以在应用于系统早前本地修改的从管理和策略服务器604传递下来的配置状态、以及从平台600回读的性能数据组成的计算资源。在硬件/固件代理602或其中的核心中运行的算法可以对性能反馈数据和节点/工作负载映射和策略(其可以包括性能目标)进行动作以确定性能目标是否满足。这些算法可以包括使单个变量(例如系统吞吐量或者特定工作负载的性能)最大化或者更复杂(例如涉及多个平台输入和多变量参数最大化或者优化方案或者用于将多个工作负载的性能与单个性能目标进行比较的复杂算法)的简单策略。这些算法可以对输入性能数据进行动作以做出重新配置决策以提供给平台600的其余部分。这些重新配置改变可以改变平台600的行为，由此修改报告回硬件/固件代理602的性能度量，由此形成由硬件/固件代理602、管理和策略服务器604、性能反馈以及平台的其余部分组成的闭环控制系统。在各种实施例中，管理和策略服务器604可以是集中式或分布式的。
管理和策略服务器604可以包括跟踪工作负载的每节点状态，策略，高速缓存敏感度、带宽敏感度和其他相关的工作负载敏感度数据和性能度量的状态表或类似的跟踪系统。
硬件/固件代理602向管理和策略服务器604提供性能监测数据。性能监测数据可以从各种来源采样，包括应用反馈、OS反馈或硬件源，诸如性能监测计数器和资源监测计数器。性能监测数据可以提供关于L3高速缓存利用、存储器带宽利用、I/O带宽利用等的详细信息。这些信息的源可以在发送到管理和策略服务器604之前被清理并且可选地被平均和/或压缩，管理和策略服务器604通过将节点和工作负载映射到参数中的每个以及在这些数据之上运行算法来维护该信息从而确定最佳的配置设置。管理和策略服务器604可以维护映射工作负载、节点和性能特性的表或数据库，以帮助跨越时间进行应用特性的决策和跟踪。
管理和策略服务器604可以将定时数据或配置状态的改变推送给每个服务器或其他数据中心。示例可以包括使用这些OOB机制以用于时间同步，或者在低负载时间期间推送配置改变以切换到针对一些服务器更高功率效率的操作模式。这些更新可以通过标准或专用网络接口推送到每个平台(取决于数据中心网络拓扑)。
一旦硬件/固件代理602从管理和策略服务器604接收配置更新请求，硬件/固件代理602就可以执行基本检查(例如，检查所请求的值是否在安全范围内，所请求的配置参数在本平台上是否受支持等)。硬件/固件代理602或者可以缓冲改变以在预设时间应用(预设时间可以利用消息指定)，或者硬件/固件代理可以立即或者在给定网络条件等技术上可行的情况下立即应用该请求。
硬件/固件代理602可以更新参数，诸如，预取器设置、数据指向的I/O(DDIO)、RDT分配设置、PQoS、C状态设置、P状态设置(例如，SpeedStep)、OS配置设置、应用配置设置或由管理和策略服务器604请求的其他配置参数。
硬件/固件代理602还可以独立运行算法以调整系统状态，调制先前列出的参数或其他。性能聚合算法以及其有效性的评估在下面关于图7-图8提供。图7示出了高速缓存敏感工作负载的性能与高速缓存占用。图8示出了不向高速缓存资源展示敏感度的受计算量限制的工作负载的性能与高速缓存敏感度。
类似于图7所示的绘图可以通过在平台600(图6)或类似平台上存在许多其他应用(包括高速缓存密集型、计算密集型和存储器密集型应用)的情况下运行高速缓存敏感应用来生成。图7示出了性能与高速缓存占用(例如，高速缓存敏感度)的详细和准确的视图。实施例可以构建这样的敏感度曲线以使得能够针对服务器上的单个工作负载以及数据中心中的所有工作负载进行调度。
图8示出了可以通过在平台600(图6)或正如典型的数据中心所见的类似的平台上存在许多其他应用(包括高速缓存密集型、计算密集型和存储器密集型应用)的情况下运行计算敏感的工作负载来生成的另一示例绘图。可以意识到的是，计算敏感的工作负载不向诸如最后一级高速缓存之类的共享资源示出敏感度。实施例可以在动态数据中心中以细粒度级别检测和跟踪这样的工作负载。
图9是根据一些实施例的用于实现性能监测和聚合算法的示例硬件实现的方法900的流程图。设备150(图1)、硬件/固件代理602或另一设备或装置可以执行示例硬件实现的方法900的一个或多个操作。相应地，硬件/固件代理602可以执行各种实施例中的性能监测聚合算法来剖析应用，作为多面剖析算法集合的一部分。
示例方法900以操作902开始，其中硬件/固件代理602向应用的每个线程指派资源监测标识符(RMID)。在操作902中，硬件/固件代理602可以使用诸如Intel高速缓存监测技术(CMT)或Intel存储器带宽监测(MBM)之类的技术，但是实施例不限于此。
示例方法900继续到操作904，其中硬件/固件代理602将RMID与硬件线程相关联。在一些实施例中，硬件/固件代理602可以对上下文交换到核上执行操作904。因此，在操作904中，软件指示硬件监测线程，相对于软件线程监测来说，这可以在计算上更有效率。软件可以稍后取回诸如每周期指令等之类的度量。
示例方法900继续到操作906，硬件/固件代理602定期地对针对高速缓存占用和存储器带宽的性能监测事件代码进行采样(例如经由IA32_QM_EVTSEL和IA32_QM_CTR MSR接口)，并且对应用的性能进行采样(经由每周期指令(IPC)、应用报告的性能，如每秒事务处理，等)。
示例方法900继续操作908，创建性能预测。在执行操作908中，硬件/固件代理602可以存储在存储器中取回的值以随着时间建立历史。在从几秒到几天的一段时间之后，硬件/固件代理602可以通过“桶装”为高速缓存占用的类别(例如，0-1MB、1-2MB、2-3MB等等，作为用于缓存占用的桶)来处理数据并且对每个“桶”的性能值进行平均。硬件/固件代理602可以将曲线拟合到给定的点，从而创建针对存储器带宽或高速缓存占用与性能的拟合。
硬件/固件代理602或其他系统可以检查相关系数以确认相关系数足够高以提供针对高速缓存占用或存储器带宽输入的可用且准确的性能预测。这些系数可以保存在早前参考图6所述的表格或其他存储器中。
硬件/固件代理602可以取曲线的导数来创建对性能敏感度与高速缓存占用或性能带宽进行建模的曲线。平台600(图6)的硬件/固件代理602或其他组件可以使用这些模型来做出关于应用实际需要多少高速缓存或存储器带宽的基于阈值的决策。
例如，参照图10，应用的适宜高速缓存操作点可以定义为A，在该点处应用性能通过提供L3高速缓存的附加的1MB而提高小于2％(或某个其他阈值量或百分比)。图10示出了根据一些实施例的可以被分析以用于进行配置决策的高速缓存敏感的工作负载的高速缓存敏感度数据。图10是通过对拟合到原始数据的曲线取导数而针对高速缓存敏感的工作负载形成的。在实施例中，本文描述的平台600的一个或多个组件或其他组件或计算系统可以包括用于显示图10的曲线、或者在提供高速缓存敏感度、高速缓存操作点等分析的过程中产生的任何其它曲线的显示，等等。
再次参考图9，可以定期地重复示例方法900的操作中的任何或所有，以在每应用/线程/VM的基础上重建或增强性能预测曲线。如上所述的分析可以允许实时做出高级工作负载放置决策。例如，如果发现某个工作负载是高速缓存敏感的，并且由数据中心管理员指定为高优先级，则可以将该工作负载移至具有低高速缓存利用的服务器，以获得更好的性能。可选地，使用根据各种实施例的系统和装置，中央控制器/数据中心管理器可以将更新推送到服务器，以使系统重新配置高速缓存，以针对高速缓存敏感工作负载预留高速缓存的较大部分。实时地这些类型的更新是可能的，而不需要数据中心管理员干预，这是由于各种实施例中提供的闭环软件控制。
尽管上述示例实施例是基于可运行裸金属或虚拟化工作负载的数据中心环境的，但是根据各种实施例的OOB平台监测和配置可适用于多个场景，包括通信工作负载和NFV/SDN场景，例如，某些流的优先级实时地利用低延迟更新。
示例方法900可以包括以上关于图1-图8描述的设备150、硬件/固件代理602或其使用模型的任何其他操作或功能。操作可以以任何顺序、在适当的时候并行执行。方法900可以通过硬件、固件、软件或其任何组合来执行。
例如，在一些实施例中，示例方法900可以包括处理电路200(图2)或其他元件从管理和策略服务器604接收配置状态，其中配置状态包括至少一个处理核心标识符和针对相应的至少一个处理核心标识符的工作负载、策略、高速缓存敏感度和带宽敏感度中的至少一个；向所述管理和策略服务器提供针对由所述至少一个处理核心标识符识别的至少一个处理核心的性能反馈；并且从所述管理和策略服务器接收用于基于所述性能反馈来提供重新配置消息的推荐。在接收与感兴趣的参数相对应的性能监测事件代码时，处理电路200或其他组件可以检测应用性能以生成将应用性能与感兴趣的参数相关的性能曲线；根据性能曲线来生成敏感度曲线，以确定应用性能对感兴趣的参数的敏感度；并提供敏感度曲线作为对生成重新配置决策的算法的输入。感兴趣的参数可以包括缓存占用和存储器带宽中的一个。
如本文所述，示例可以包括逻辑或者多个组件、模块或机构，或者可以对其进行操作。模块是能够执行指定操作的有形实体(例如，硬件)，并且可以以某种方式被配置或布置。在示例中，电路可以以指定的方式被布置(例如，在内部或者相对于诸如其他电路之类的外部实体)作为模块。在一个示例中，设备150或硬件/固件代理602的一个或多个计算机系统(例如，独立的、客户端或服务器计算机系统)或一个或多个处理器的至少一部分可以由固件或软件(例如，指令202(图2)、应用部分或应用)配置作为操作以执行指定操作的模块。在示例中，软件可以驻留在至少一个机器可读介质上。在示例中，软件当由模块的底层硬件(例如，设备150或硬件/固件代理602)执行时可以包括用于使硬件执行指定的操作的指令202(图2)。
例如，指令202可以使得硬件在一持续时间内定期地接收与计算平台的存储器带宽和高速缓存占用中的至少一个相关的性能监测事件代码。指令202可以响应于定期地接收性能监测事件代码而定期地检测在计算平台上执行的应用的应用性能，以使得生成将应用性能与计算平台的存储器带宽和高速缓存占用中的至少一个相关的至少一个曲线。
在各种实施例中，指令202可以使硬件基于至少一个曲线的一阶导数来确定应用性能对存储器带宽和高速缓存占用中的至少一个的敏感度。指令202可以使得硬件基于应用性能对存储器带宽和高速缓存占用中的至少一个的敏感度来生成针对计算平台的配置决策。
在一些实施例中，指令202可以使得硬件向应用的每个线程指派资源监测标识符(RMTD)，并基于相应的RMID来分析每周期的指令和应用线程的每秒事务中的一个。
术语“模块”被理解为包括有形实体，可以是物理构造的、专门配置的(例如硬连线的)、或临时的(例如，暂时的)配置(例如编程)以在指定的方式下操作或执行本文所述的任何操作的至少一部分的实体。考虑到模块是临时配置的示例，模块不需要在任何时刻实例化。例如，在模块包括使用软件配置的通用硬件处理器的情况下；通用硬件处理器可以在不同时间被配置为相应的不同的模块。软件可以相应地配置硬件处理器，例如在一个时刻构成特定的模块，并且在不同的时刻构成不同的模块。术语“应用”或其变形在本文中被广泛地使用以包括例程、程序模块、程序、组件等，并且可以在各种系统配置上实现，包括单处理器或多处理器系统、基于微处理器的电子器件、单核或多核系统、其组合等。因此，术语“应用”可以用来指代软件的实施例或者被布置为执行本文描述的任何操作的至少一部分的硬件。
尽管机器可读介质可以包括单个介质，但术语“机器可读介质”可以包括单个介质或多个介质(例如，集中式或分布式数据库，和/或相关联的高速缓存和服务器)。
术语“机器可读介质”可以包括能够存储、编码或携带以用于由机器(例如，设备150或任何其它模块)执行并且使机器执行本公开的技术中的任意一种或多种的指令202或能够存储、编码或携带由这些指令使用或与这些指令相关联的数据结构的任何介质。换句话说，处理电路200(图2)可以包括指令，并且因此可以在各种实施例的上下文中被称为机器可读介质。其他非限制性的机器可读介质示例可以包括固态存储器以及光学和磁性介质。机器可读介质的具体示例可以包括：非易失性存储器，诸如半导体存储器设备(例如，电可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM))以及闪存设备；磁盘，如内部硬盘和可移动磁盘；磁光盘；以及CD-ROM和DVD-ROM盘。
指令202还可以利用使用多个传输协议(例如，帧中继、因特网协议(IP)、TCP、用户数据报协议(UDP)、超文本传输协议(HTTP)等)中的任何一个的传输介质在通信网络上发送或接收。示例性通信网络可以包括局域网(LAN)、广域网(WAN)、分组数据网络(例如因特网)、移动电话网络((例如，包括码分多址(CDMA)、时分多址(TDMA)、频分多址(FDMA)和正交频分多址(OFDMA)的通道访问方法，以及蜂窝网络，诸如全球移动通信系统(GSM)、通用移动电信系统(UMTS)、CDMA 20001x*标准和长期演进(LTE)等)、普通老式电话(POTS)网络和无线数据网络(例如电气和电子工程师协会(IEEE)802系列标准，包括IEEE 802.11标准(WiFi)、IEEE 802.16标准
Figure GDA0003252269070000191
以及其它)、对等(P2P)网络或现在已知或以后开发的其他协议。
术语“传输介质”应被理解为包括能够存储、编码或携带用于由硬件处理电路执行的指令，并且包括数字或模拟通信信号或促进这样的软件的通信的其它无形介质的任何无形介质。
其他注意事项和示例：
示例1包括主题(诸如控制设备、面间控制设备、控制面处理器、计算机设备和/或任何其它电气装置、设备或处理器)包括：到遥测收集系统的至少一个遥测接口；到网络适配器硬件的至少一个网络接口；以及处理电路，其被配置为从所述遥测收集系统接收平台遥测度量，以及通过所述至少一个网络接口接收网络适配器硬件统计信息来采集收集的统计信息，使用所述收集的统计信息来应用启发式算法以确定由通信地耦合到所述设备的多个软件系统的操作生成的处理核心工作负载，以及响应于检测到至少一个处理核心上的过载状态，基于所述处理核心工作负载提供重新配置消息以指示至少一个软件系统将操作切换到不同的处理核心。
在示例2中，示例1所述的主题可以可选地包括，其中，所述多个软件系统包括至少一个虚拟机(VM)。
在示例3中，示例1-2中的任何示例所述的主题可以可选地包括，其中，所述处理电路被配置为将请求内的所述重新配置消息提供给管理程序。
在示例4中，示例1-3中的任何示例的主题可以可选地包括，其中，所述平台遥测度量包括从包括以下的分组中选择的至少两个度量类型中的度量：处理核心数据、芯片组数据、存储器元件性能数据、从加密单元接收的数据、从压缩单元接收的数据、存储数据、虚拟交换机(vSwitch)数据、以及通过网络接口卡(NIC)连接接收的数据，其中，通过所述NIC接收的数据包括NIC遥测，其中NIC遥测包括在NIC处接收的每秒分组的指示和在NIC处接收的平均分组大小中的至少一个。
在示例5中，示例1-4中的任何示例的主题可以可选地包括到平台度量收集系统的至少一个平台接口，并且其中，所述处理电路还被配置为通过所述至少一个平台接口来采集平台服务质量(PQoS)度量，并且使用所述PQoS度量作为对启发式算法的输入。
在示例6中，示例1-5中的任何示例的主题可以可选地包括，其中，所述处理电路还被配置为指示一组至少两个处理核心按顺序进入离线状态；提供用于在所述一组至少两个处理核心中的相应的一个处理核心已进入所述离线状态之后对所述一组至少两个处理核心中的每一个处理核心执行测试的指令；以及在执行测试之后，基于在所述测试期间的性能对所述一组至少两个处理核心进行排序以生成排序的一组处理核心。
在示例7中，示例6的主题可以可选地包括，其中，所述测试包括对以下中的至少一个的评估：核心到高速缓存带宽、核心到存储器带宽、以及核心到I/O带宽。
在示例8中，示例6-7中的任何示例的主题可以可选地包括，其中，所述处理电路还被配置为提供用于基于传入NIC业务的优先级将所述传入NIC业务引导至所述排序的一组处理核心中的处理核心的指令。
在示例9中，示例1-8中的任何示例的主题可以可选地在本文中包括，所述处理电路还被布置为基于所述启发式算法来确定服务级别协议(SLA)标准是否满足；以及如果SLA标准没有被满足，则将SLA违规报告给数据中心管理软件。
在示例10中，示例1-9中的任何示例的主题可以可选地包括，其中，所述处理电路还被配置为从管理和策略服务器接收配置状态，所述配置状态包括至少一个处理核心标识符以及针对相应的至少一个处理核心标识符的工作负载、策略、高速缓存敏感度和带宽敏感度中的至少一个；针对由所述至少一个处理核心标识符识别的至少一个处理核心，将性能反馈提供给所述管理和策略服务器；以及从所述管理和策略服务器接收用于基于所述性能反馈来提供所述重新配置消息的推荐。
在示例11中，示例10的主题可以可选地包括，其中，所述处理电路还被布置为在接收与感兴趣的参数相对应的性能监测事件代码时，检测应用性能以生成将应用性能与所述感兴趣的参数相关的性能曲线；根据所述性能曲线来生成敏感度曲线，以确定应用性能对所述感兴趣的参数的敏感度；以及提供所述敏感度曲线作为对用于生成重新配置决策的算法的输入。
在示例12中，示例11的主题可以可选地包括，其中感兴趣的参数包括高速缓存占用和存储器带宽中的一个，并且其中高速缓存占用与存储器带宽无关。
示例13包括诸如包括指令的机器可读介质之类的主题，所述指令在机器(诸如控制设备、面间控制设备、创新引擎、管理引擎、控制面处理器、计算设备、NIC卡等)上执行时使所述机器在一持续时间定期地接收与计算平台的存储器带宽和高速缓存占用中的至少一个相关的性能监测事件代码；响应于定期地接收所述性能监测事件代码，定期地检测在所述计算平台上执行的应用的应用性能，以生成将应用性能与所述计算平台的存储器带宽和高速缓存占用中的至少一个相关的至少一个曲线；基于所述至少一个曲线的一阶导数来确定应用性能对存储器带宽和高速缓存占用中的至少一个的敏感度；以及基于应用性能对存储器带宽和高速缓存占用中的至少一个的敏感度来生成针对所述计算平台的配置决策。
在示例14中，示例13的主题可以可选地包括进一步的指令，其用于使机器将资源监测标识符(RMID)指派给所述应用的每个线程；以及基于相应的RMID来对每周期指令和应用线程的每秒事务中的一个进行分析。
在示例15中，示例14的主题可以可选地包括进一步的指令，其用于使机器通过基于应用敏感度曲线来确定如下点从而生成针对所述应用的高速缓存操作点，在所述点处应用性能提高了小于用于高速缓存的附加单位测量的阈值量，以及提供配置决策以指定如果所述高速缓存操作点指示所述应用具有高级别的高速缓存敏感度，则所述应用应该在具有低高速缓存利用的处理核心上执行。
在示例16中，示例15的主题可以可选地包括进一步的指令，其用于使机器提供将应用性能与存储器带宽和高速缓存占用中的至少一个相关的所述至少一个曲线以用于在中央管理引擎上显示。
示例17包括主题，所述主题包括一种方法，所述方法包括从遥测收集系统接收平台遥测度量，以及通过至少一个网络接口接收网络适配器硬件统计信息，来采集收集的统计信息，使用所述收集的统计信息来应用启发式算法以确定由通信地耦合到所述设备的多个虚拟机(VM)的操作生成的处理核心工作负载，以及响应于检测到至少一个处理核心上的过载状态，基于所述处理核心工作负载来将重新配置消息提供给管理程序以指示与所述管理程序相关联的至少一个VM将操作切换到不同的处理核心。
在示例18中，示例17的主题可以可选地包括，其中，所述平台遥测度量包括从包括以下的分组中选择的至少两个度量类型中的度量：处理核心数据、芯片组数据、存储器元件性能数据、从加密单元接收的数据、从压缩单元接收的数据、存储数据、虚拟交换机(vSwitch)数据、以及通过网络接口卡(NIC)连接接收的数据。
在示例19中，示例17-18中的任何示例的主题可以可选地包括指示一组至少两个处理核心按顺序进入离线状态；提供指令以用于在所述一组至少两个处理核心中的相应一个处理核心已经进入所述离线状态之后对所述一组至少两个处理核心中的每一个处理核心执行测试；在执行测试之后，基于所述测试期间的性能来对所述一组至少两个处理核心进行排序以生成排序的一组处理核心；以及提供指令以用于基于传入网络接口卡(NIC)业务的优先级来将所述传入NIC业务引导到所述排序的一组处理核心中的处理核心。
在示例20中，示例19的主题可以可选地在本文中包括所述测试包括对以下中的至少一个的评估：核心到高速缓存带宽、核心到存储器带宽、以及核心到输入/输出的带宽。
在示例21中，示例17-20中的任何示例的主题可以可选地包括在一持续时间定期地接收与包括所述处理核心的计算平台的存储器带宽和高速缓存占用中的至少一个相关的性能监测事件代码；响应于定期地接收所述性能监测事件代码，定期地检测在所述计算平台上执行的应用的应用性能，以生成将应用性能与所述计算平台的存储器带宽和高速缓存占用中的至少一个相关的至少一个曲线；基于所述至少一个曲线的一阶导数来确定应用性能对存储器带宽和高速缓存占用中的至少一个的敏感度；以及基于应用性能对存储器带宽和高速缓存占用中的至少一个的敏感度来生成针对所述计算平台的配置决策。
上文的详述包括对附图的参考，附图形成详述的部分。附图通过示出的方式图示了可实施的具体的实施例。这些实施例在本文还称为“示例”。这些示例可以包括除了所图示和所描述的之外的元件。然而，还构思包括所图示或所描述的元件的示例。而且，还构思使用所图示或所描述的那些元件(或其一个或多个方面)的任意组合或置换的示例，或者针对特定的示例(或其一个或多个方面)或者针对所图示或所描述的其它示例(或其一个或多个方面)。
在该文档中提及的出版物、专利和专利文献的全文通过引用的方式被并入到本文中，正如单独地通过引用被并入一样。在本文档与如此通过引用被并入的那些文档之间有不一致的用法的情况下，在并入的引用中的用法是本文档中的用法的补充；对于无法协调的不一致，以本文档中的用法为准。
在本文档中，使用了如在专利文献中常用的术语“一(a)”或“一个(an)”，来包括一个或多于一个，独立于“至少一个”或“一个或多个”的任何其它实例或用法。在本文档中，术语“或者”用来指代非排他或者，使得“A或B”包括“A而不是B”、“B而不是A”和“A和B”，除非另作说明。在随附的权利要求中，术语“包括”和“在其中”用作相应的术语“包含”和“其中”的通俗英语等价词。而且，在以上权利要求中，术语“包括”和“包含”是开放式的，即，包括除了在权利要求中该术语之后所列的那些元件之外的元件的系统、设备、物品或过程仍认为落入该权利要求的范围内。此外，在以上权利要求中，术语“第一”、“第二”和“第三”等仅用作标签，并且不旨在暗示用于其对象的数字顺序。
上面的说明旨在示例性的，而非限制性的。例如，上述的示例(或其一个或多个方面)可与其它示例组合使用。例如，本领域普通技术人员在阅览上述说明时可使用其它实施例。摘要允许读者快速地确定技术公开的本质，并且应当理解，摘要不被认为用于解释或限制权利要求的范围或含义。而且，在上面的具体实施方式中，可以将各种特征组合在一起以使得公开内容流畅。然而，权利要求可以不阐述本文公开的特征，这是因为实施例可以包括所述特征的子集。此外，实施例可以包括比在特定示例中公开的那些更少的特征。

Claims (20)

1.一种用于具有多核计算平台架构和多个网络适配器的计算机系统的编排控制器设备，所述多核计算平台架构和网络适配器为至少一个软件系统提供用于促进带内数据流的资源，所述设备包括：
到遥测收集系统的至少一个遥测接口，所述遥测收集系统经由对所述多核计算平台的处理核心的带外（OOB）访问来收集平台遥测度量，所述平台遥测度量包括处理核心工作负载；
到所述网络适配器的网络适配器硬件的至少一个网络硬件接口，所述至少一个网络硬件接口用于经由对所述网络适配器的OOB访问来收集网络适配器硬件统计信息；
其中，对处理核心和对所述网络适配器的所述OOB访问避免利用所述用于促进带内数据流的资源；以及
处理电路，其被配置为
从所述遥测收集系统接收所述平台遥测度量，以及通过所述至少一个网络硬件接口接收所述网络适配器硬件统计信息，以采集收集的统计信息，
使用所述收集的统计信息来应用启发式算法，以确定由通信地耦合到所述设备的多个软件系统的操作生成的处理核心工作负载，以及
响应于检测到所述处理核心中的至少一个处理核心上的过载状态，基于所述处理核心工作负载来提供重新配置消息以指示所述至少一个软件系统将操作切换到不同的处理核心。
2.如权利要求1所述的设备，其中，所述多个软件系统包括至少一个虚拟机（VM）。
3.如权利要求1所述的设备，其中，所述处理电路被配置为将在请求内的所述重新配置消息提供给管理程序。
4.如权利要求1所述的设备，其中，所述平台遥测度量包括从包括以下的组中选择的至少两个度量类型的度量：处理核心数据、芯片组数据、存储器元件性能数据、从加密单元接收的数据、从压缩单元接收的数据、存储数据、虚拟交换机（vSwitch）数据以及通过网络接口卡（NIC）连接接收的数据，其中，通过所述NIC连接接收的数据包括NIC遥测，其中，NIC遥测包括在NIC处接收到的每秒分组的指示和在所述NIC处接收到的平均分组大小中的至少一个。
5.如权利要求1所述的设备，还包括：
到平台度量收集系统的至少一个平台接口，并且其中，
所述处理电路被进一步配置为通过所述至少一个平台接口采集平台服务质量（PQoS）度量，并且使用所述PQoS度量作为对所述启发式算法的输入。
6.如权利要求1所述的设备，其中，所述处理电路被进一步配置为：
指示一组至少两个处理核心按顺序进入离线状态；
提供指令，所述指令用于在所述一组至少两个处理核心中的相应一个处理核心进入所述离线状态之后对所述一组至少两个处理核心中的每一个处理核心执行测试；以及
在执行测试之后，基于在测试期间的性能对所述一组至少两个处理核心进行排序以生成排序的一组处理核心。
7.如权利要求6所述的设备，其中，所述测试包括对以下中的至少一个的评估：
核心到高速缓存的带宽，
核心到存储器的带宽，以及
核心到I/O的带宽。
8.如权利要求7所述的设备，其中，所述处理电路被进一步配置为：
提供指令，所述指令用于基于传入的NIC业务的优先级将所述传入的NIC业务引导至所述排序的一组处理核心的处理核心。
9.如权利要求1所述的设备，其中，所述处理电路被进一步布置为：
基于所述启发式算法来确定服务等级协议（SLA）标准是否被满足；以及
如果SLA标准未被满足，则向数据中心管理软件报告SLA违规。
10.如权利要求1所述的设备，其中，所述处理电路进一步被布置为：
从管理和策略服务器接收配置状态，所述配置状态包括至少一个处理核心标识符以及针对相应的至少一个处理核心标识符的工作负载、策略、高速缓存敏感度和带宽敏感度中的至少一个；
针对由所述至少一个处理核心标识符标识的至少一个处理核心，向所述管理和策略服务器提供性能反馈；以及
从所述管理和策略服务器接收用于基于所述性能反馈来提供所述重新配置消息的推荐。
11.如权利要求10所述的设备，其中，所述处理电路进一步被布置为：
在接收到与感兴趣的参数相对应的性能监测事件代码时，检测应用性能以生成将应用性能与所述感兴趣的参数相关的性能曲线；
根据所述性能曲线来生成敏感度曲线，以确定应用性能对所述感兴趣的参数的敏感度；以及
提供所述敏感度曲线作为对用于生成重新配置决策的算法的输入。
12.如权利要求11所述的设备，其中，所述感兴趣的参数包括高速缓存占用和存储器带宽中的一个，并且其中，高速缓存占用独立于存储器带宽。
13.一种用于计算机系统的平台处理核心配置的方法，所述计算机系统具有多核计算平台架构和多个网络适配器，所述多核计算平台架构和网络适配器促进所述计算机系统上托管的多个虚拟机（VM）和管理程序的带内数据流，所述方法包括：
从遥测收集系统接收平台遥测度量，所述遥测收集系统经由对所述多核计算平台的处理核心的带外（OOB）访问来收集平台遥测度量，所述平台遥测度量包括处理核心工作负载，其中，所述OOB访问避免利用用于促进所述带内数据流的资源；
通过至少一个网络硬件接口经由对所述网络适配器的OOB访问来收集网络适配器硬件统计信息，以采集收集的统计信息；
使用所述收集的统计信息来应用启发式算法以确定由所述多个VM的操作生成的处理核心工作负载；以及
响应于检测到所述处理核心中的至少一个处理核心上的过载状态，基于所述处理核心工作负载将重新配置消息提供给所述管理程序以指示与所述管理程序相关联的所述VM中的至少一个VM将操作切换到不同的处理核心。
14.如权利要求13所述的方法，其中，所述平台遥测度量包括从包括以下的组中选择的至少两个度量类型中的度量：处理核心数据、芯片组数据、存储器元件性能数据、从加密单元接收的数据、从压缩单元接收的数据、存储数据、虚拟交换机（vSwitch）数据、以及通过网络接口卡（NIC）连接接收的数据。
15.如权利要求13所述的方法，还包括：
指示一组至少两个处理核心按顺序进入离线状态；
提供指令，所述指令用于在所述一组至少两个处理核心中的相应一个处理核心进入所述离线状态之后对所述一组至少两个处理核心中的每一个处理核心执行测试；
在执行测试之后，基于在测试期间的性能来对所述一组至少两个处理核心进行排序以生成排序的一组处理核心；以及
提供指令，所述指令用于基于传入的网络接口卡（NIC）业务的优先级来将所述传入的NIC业务引导到所述排序的一组处理核心的处理核心。
16.如权利要求15所述的方法，其中，所述测试包括对以下中的至少一个的评估：
核心到高速缓存的带宽，
核心到存储器的带宽，以及
核心到输入/输出的带宽。
17.如权利要求13所述的方法，还包括：
在一持续时间定期地接收与所述多核计算平台的存储器带宽和高速缓存占用中的至少一个相关的性能监测事件代码；
响应于定期地接收到所述性能监测事件代码，定期地检测在所述多核计算平台上执行的应用的应用性能，以生成将应用性能与所述多核计算平台的存储器带宽和高速缓存占用中的至少一个相关的至少一个曲线；
基于所述至少一个曲线的一阶导数来确定应用性能对存储器带宽和高速缓存占用中的至少一个的敏感度；以及
基于应用性能对存储器带宽和高速缓存占用中的至少一个的敏感度来生成针对所述多核计算平台的配置决策。
18.一种用于计算机系统的平台处理核心配置的装置，所述计算机系统具有多核计算平台架构和多个网络适配器，所述多核计算平台架构和网络适配器促进所述计算机系统上托管的多个虚拟机（VM）和管理程序的带内数据流，所述装置包括用于执行如权利要求13-17中的任一项所述的方法的单元。
19.一种存储有指令的机器可读介质，所述指令当在机器上被执行时使得所述机器执行如权利要求13-17中的任一项所述的方法。
20.一种用于计算机系统的平台处理核心配置的设备，所述计算机系统具有多核计算平台架构和多个网络适配器，所述多核计算平台架构和网络适配器促进所述计算机系统上托管的多个虚拟机（VM）和管理程序的带内数据流，所述设备包括：
存储指令的存储器；以及
耦合到所述存储器的处理器，所述指令在被所述处理器执行时执行如权利要求13-17中的任一项所述的方法。
CN201680048806.5A 2015-09-25 2016-08-24 用于平台处理核心配置的方法、设备、装置及介质 Active CN107925588B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/866,567 2015-09-25
US14/866,567 US9942631B2 (en) 2015-09-25 2015-09-25 Out-of-band platform tuning and configuration
PCT/US2016/048478 WO2017052935A1 (en) 2015-09-25 2016-08-24 Out-of-band platform tuning and configuration

Publications (2)

Publication Number Publication Date
CN107925588A CN107925588A (zh) 2018-04-17
CN107925588B true CN107925588B (zh) 2022-02-25

Family

ID=58387330

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201680048806.5A Active CN107925588B (zh) 2015-09-25 2016-08-24 用于平台处理核心配置的方法、设备、装置及介质

Country Status (3)

Country Link
US (4) US9942631B2 (zh)
CN (1) CN107925588B (zh)
WO (1) WO2017052935A1 (zh)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10355997B2 (en) 2013-09-26 2019-07-16 Appformix Inc. System and method for improving TCP performance in virtualized environments
US10581687B2 (en) 2013-09-26 2020-03-03 Appformix Inc. Real-time cloud-infrastructure policy implementation and management
US10291472B2 (en) 2015-07-29 2019-05-14 AppFormix, Inc. Assessment of operational states of a computing environment
US9560078B2 (en) 2015-02-04 2017-01-31 Intel Corporation Technologies for scalable security architecture of virtualized networks
US9942631B2 (en) 2015-09-25 2018-04-10 Intel Corporation Out-of-band platform tuning and configuration
US10860374B2 (en) 2015-09-26 2020-12-08 Intel Corporation Real-time local and global datacenter network optimizations based on platform telemetry data
CN106572047A (zh) * 2015-10-09 2017-04-19 东软集团股份有限公司 物理网络安全设备及其控制方法
US10225846B2 (en) * 2015-12-15 2019-03-05 Intel Corporation Deterministic service chaining between NFV-PoP's
US11831654B2 (en) * 2015-12-22 2023-11-28 Mcafee, Llc Secure over-the-air updates
CN105700961B (zh) * 2016-02-29 2019-03-08 华为技术有限公司 业务容器创建方法及装置
US9985890B2 (en) * 2016-03-14 2018-05-29 International Business Machines Corporation Identifying a local congestion control algorithm of a virtual machine
US10389837B2 (en) * 2016-06-17 2019-08-20 International Business Machines Corporation Multi-tier dynamic data caching
US10390114B2 (en) * 2016-07-22 2019-08-20 Intel Corporation Memory sharing for physical accelerator resources in a data center
US11895200B2 (en) * 2017-03-24 2024-02-06 Lenovo Enterprise Solutions (Singapore) Pte. Ltd. Access to an operator panel over an out-of-band local network domain
US10868742B2 (en) 2017-03-29 2020-12-15 Juniper Networks, Inc. Multi-cluster dashboard for distributed virtualization infrastructure element monitoring and policy control
US11068314B2 (en) * 2017-03-29 2021-07-20 Juniper Networks, Inc. Micro-level monitoring, visibility and control of shared resources internal to a processor of a host machine for a virtual environment
US11323327B1 (en) 2017-04-19 2022-05-03 Juniper Networks, Inc. Virtualization infrastructure element monitoring and policy control in a cloud environment using profiles
WO2018200397A1 (en) * 2017-04-24 2018-11-01 Intel IP Corporation Network function virtualization infrastructure performance
CN109257240B (zh) * 2017-07-12 2021-02-23 上海诺基亚贝尔股份有限公司 一种监测虚拟化网络功能单元性能的方法和装置
CN109286494B (zh) * 2017-07-20 2020-10-23 华为技术有限公司 一种虚拟网络功能vnf的初始化凭据生成方法及设备
CN113727369A (zh) * 2017-08-10 2021-11-30 华为技术有限公司 网络组件的管理方法和网络设备
FR3081582A1 (fr) * 2018-06-18 2019-11-29 Orange Procede d'installation d'une fonction reseau virtualisee
US10754783B2 (en) * 2018-06-29 2020-08-25 Intel Corporation Techniques to manage cache resource allocations for a processor cache
US10855546B2 (en) * 2018-09-14 2020-12-01 Juniper Networks, Inc. Systems and methods for non-intrusive network performance monitoring
US10855757B2 (en) * 2018-12-19 2020-12-01 At&T Intellectual Property I, L.P. High availability and high utilization cloud data center architecture for supporting telecommunications services
US11861049B2 (en) * 2019-01-30 2024-01-02 The George Washington University System and method for defense against cache timing channel attacks using cache management hardware
US11050635B2 (en) * 2019-02-05 2021-06-29 International Business Machines Corporation Managing bare metal networking in a cloud computing environment
US11099999B2 (en) * 2019-04-19 2021-08-24 Chengdu Haiguang Integrated Circuit Design Co., Ltd. Cache management method, cache controller, processor and storage medium
CN110377106B (zh) * 2019-06-21 2021-01-19 湖南麒麟信安科技股份有限公司 一种时统卡虚拟化方法、系统及介质
US11016755B2 (en) * 2019-07-31 2021-05-25 Dell Products L.P. System and method to secure embedded controller flashing process
US11341247B2 (en) 2019-08-27 2022-05-24 Red Hat, Inc. Use of a trusted execution environment as a safe build environment
US11601434B1 (en) * 2019-12-12 2023-03-07 Trace Systems, Inc. System and method for providing a dynamically reconfigurable integrated virtual environment
US11544096B2 (en) * 2020-02-27 2023-01-03 Hewlett Packard Enterprise Development Lp Virtual trusted platform modules
US20200287813A1 (en) * 2020-04-16 2020-09-10 Patrick KUTCH Method and apparatus for workload feedback mechanism facilitating a closed loop architecture
US11005721B1 (en) 2020-06-30 2021-05-11 Juniper Networks, Inc. Scalable control plane for telemetry data collection within a distributed computing system
US11456941B2 (en) * 2020-07-24 2022-09-27 Nvidia Corporation Extensible network traffic engineering platform for increasing network resiliency in cloud applications
US20210119878A1 (en) * 2020-12-09 2021-04-22 Intel Corporation Detection and remediation of virtual environment performance issues
US20220365857A1 (en) * 2021-05-13 2022-11-17 Nvidia Corporation Runtime in-system testing
US11956123B1 (en) 2021-09-29 2024-04-09 Cisco Technology, Inc. Monitoring interface configurations for network devices in fabrics
US11909656B1 (en) * 2023-01-17 2024-02-20 Nokia Solutions And Networks Oy In-network decision for end-server-based network function acceleration

Family Cites Families (147)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6771594B1 (en) * 1997-03-31 2004-08-03 Intel Corporation Reliable/non-reliable transmission of voice using TCP/UDP based on network quality of service
US6526070B1 (en) * 1999-10-09 2003-02-25 Conexant Systems, Inc. Method and apparatus for upstream burst transmissions synchronization in cable modems
US20030028583A1 (en) 2001-07-31 2003-02-06 International Business Machines Corporation Method and apparatus for providing dynamic workload transition during workload simulation on e-business application server
US20040076150A1 (en) * 2002-10-17 2004-04-22 Miao Kai X. Method and apparatus for storing a media file
US7324460B2 (en) * 2002-11-28 2008-01-29 International Business Machines Corporation Event-driven flow control for a very high-speed switching node
US8020163B2 (en) * 2003-06-02 2011-09-13 Interuniversitair Microelektronica Centrum (Imec) Heterogeneous multiprocessor network on chip devices, methods and operating systems for control thereof
US7996839B2 (en) * 2003-07-16 2011-08-09 Hewlett-Packard Development Company, L.P. Heterogeneous processor core systems for improved throughput
US8238241B2 (en) * 2003-07-29 2012-08-07 Citrix Systems, Inc. Automatic detection and window virtualization for flow control
US7734748B1 (en) * 2003-10-03 2010-06-08 Nortel Networks Limited Method and apparatus for intelligent management of a network element
US20050086349A1 (en) * 2003-10-16 2005-04-21 Nagarajan Subramaniyan Methods and apparatus for offloading TCP/IP processing using a protocol driver interface filter driver
US7610057B2 (en) * 2004-04-23 2009-10-27 Microsoft Corporation Selecting a wireless networking technology on a device capable of carrying out wireless network communications via multiple wireless technologies
CN100499516C (zh) * 2004-09-29 2009-06-10 重庆邮电学院 分组交换设备流量监测查询方法及线卡采集器
US7788670B2 (en) * 2004-10-26 2010-08-31 Intel Corporation Performance-based workload scheduling in multi-core architectures
US7450498B2 (en) * 2004-10-27 2008-11-11 Morgan Stanley Fault tolerant network architecture
US7979862B2 (en) * 2004-12-21 2011-07-12 Hewlett-Packard Development Company, L.P. System and method for replacing an inoperable master workload management process
CA2596997C (en) * 2005-02-04 2015-07-14 Kabushiki Kaisha Toshiba Optimal channel assignment for multi-class, multi-channel wireless lans and the like
US7290076B2 (en) * 2005-04-14 2007-10-30 Intel Corporation Optmizing an interrupt-latency or a polling rate for a hardware platform and network profile combination by adjusting current timer values for both receive and transmit directions of traffic and calculating a new timer value to be used for both receive and transmit directions of traffic
US7552213B2 (en) * 2005-05-12 2009-06-23 Avocent Fremont Corp. Remote network node management system and method
US20060280195A1 (en) * 2005-06-10 2006-12-14 Dell Products L.P. Systems and methods for providing dedicated or shared network interface functionality via a single MAC
US7953002B2 (en) * 2005-11-10 2011-05-31 Broadcom Corporation Buffer management and flow control mechanism including packet-based dynamic thresholding
US7757214B1 (en) * 2005-11-10 2010-07-13 Symantec Operating Coporation Automated concurrency configuration of multi-threaded programs
US7898550B2 (en) * 2006-06-09 2011-03-01 Via Technologies, Inc. System and method for memory bandwidth compressor
US7583677B1 (en) * 2006-11-03 2009-09-01 Juniper Networks, Inc. Dynamic flow-based multi-path load balancing with quality of service assurances
US20080133836A1 (en) * 2006-11-30 2008-06-05 Magid Robert M Apparatus, system, and method for a defined multilevel cache
US8159960B2 (en) * 2006-12-18 2012-04-17 Verizon Patent And Licensing Inc. Content processing device monitoring
KR100867269B1 (ko) * 2007-02-22 2008-11-06 삼성전자주식회사 프로세서의 추론적 로드 명령 실행 방법 및 상기 방법을채용한 프로세서
US7921276B2 (en) * 2007-03-21 2011-04-05 Intel Corporation Applying quality of service (QoS) to a translation lookaside buffer (TLB)
WO2008137132A2 (en) * 2007-05-04 2008-11-13 Kabushiki Kaisha Toshiba Intelligent connectivity framework for the simul taneous use of multiple interfaces (intelicon)
US8090819B1 (en) * 2007-05-31 2012-01-03 American Megatrends, Inc. Communicating with an in-band management application through an out-of band communications channel
KR101183655B1 (ko) * 2007-09-03 2012-09-17 삼성전자주식회사 데이터 방송 녹화 및 컨텐츠 제공 방법 및 장치
US8132185B2 (en) 2007-09-24 2012-03-06 International Business Machines Corporation Device, system, and method of classifying a workload of a software service
US8886918B2 (en) * 2007-11-28 2014-11-11 International Business Machines Corporation Dynamic instruction execution based on transaction priority tagging
US20090172229A1 (en) * 2007-12-28 2009-07-02 Krystof Zmudzinski Methods for selecting cores to execute system management interrupts
US7841436B2 (en) * 2008-01-21 2010-11-30 Amigo Mobility International Personal mobility vehicle
US8391157B2 (en) * 2008-06-16 2013-03-05 Ixia Distributed flow analysis
EP2148125A1 (en) 2008-07-25 2010-01-27 Armacell Enterprise GmbH Composite insulation structure for the insulation of the interior surface of annular ducts
US8699430B2 (en) * 2008-10-10 2014-04-15 The Trustees Of The Stevens Institute Of Technology Method and apparatus for dynamic spectrum access
US8984309B2 (en) * 2008-11-21 2015-03-17 Intel Corporation Reducing network latency during low power operation
US20100138567A1 (en) * 2008-12-02 2010-06-03 International Business Machines Corporation Apparatus, system, and method for transparent ethernet link pairing
KR101543326B1 (ko) * 2009-01-05 2015-08-10 삼성전자주식회사 시스템 온 칩 및 그 구동 방법
US8930953B2 (en) * 2009-01-16 2015-01-06 International Business Machines Corporation Dynamic checking of hardware resources for virtual environments
US8190930B2 (en) * 2009-03-30 2012-05-29 Intel Corporation Methods and apparatuses for controlling thread contention
US9600332B2 (en) * 2009-04-28 2017-03-21 Cisco Technology, Inc. Server load balancing based on virtual utilization, physical utilization, and feedback
US8463820B2 (en) 2009-05-26 2013-06-11 Intel Corporation System and method for memory bandwidth friendly sorting on multi-core architectures
US8392657B2 (en) * 2009-10-09 2013-03-05 Intel Corporation Monitoring cache usage in a distributed shared cache
TW201118767A (en) * 2009-11-17 2011-06-01 Inst Information Industry Service workflow generation apparatus and method
US8271645B2 (en) * 2009-11-25 2012-09-18 Citrix Systems, Inc. Systems and methods for trace filters by association of client to vserver to services
US8255528B2 (en) * 2009-12-23 2012-08-28 Citrix Systems, Inc. Systems and methods for GSLB spillover
US9081501B2 (en) * 2010-01-08 2015-07-14 International Business Machines Corporation Multi-petascale highly efficient parallel supercomputer
US9152463B2 (en) * 2010-01-20 2015-10-06 Xyratex Technology Limited—A Seagate Company Electronic data store
US8433802B2 (en) * 2010-01-26 2013-04-30 International Business Machines Corporation System and method for fair and economical resource partitioning using virtual hypervisor
CN102195930B (zh) * 2010-03-02 2014-12-10 华为技术有限公司 设备间安全接入方法和通信设备
US8533719B2 (en) * 2010-04-05 2013-09-10 Oracle International Corporation Cache-aware thread scheduling in multi-threaded systems
US9391716B2 (en) * 2010-04-05 2016-07-12 Microsoft Technology Licensing, Llc Data center using wireless communication
KR20110116553A (ko) * 2010-04-19 2011-10-26 삼성전자주식회사 미디어 프로세싱 애플리케이션 실행 장치 및 방법
US9207993B2 (en) * 2010-05-13 2015-12-08 Microsoft Technology Licensing, Llc Dynamic application placement based on cost and availability of energy in datacenters
JP5458308B2 (ja) * 2010-06-11 2014-04-02 株式会社日立製作所 仮想計算機システム、仮想計算機システムの監視方法及びネットワーク装置
US8719833B2 (en) * 2010-06-24 2014-05-06 Sap Ag Adaptive demand-driven load balancing
US8315156B2 (en) * 2010-06-30 2012-11-20 Oracle America, Inc. Method and system for distributing network traffic among multiple direct hardware access datapaths
US8838783B2 (en) 2010-07-26 2014-09-16 Seven Networks, Inc. Distributed caching for resource and mobile network traffic management
US9787608B2 (en) * 2010-10-19 2017-10-10 International Business Machines Corporation Unified fabric port
US8750862B2 (en) * 2010-10-26 2014-06-10 At&T Intellectual Property I, L.P. Performance diagnosis of wireless equipment and a wireless network over out-of-band communication
KR101803303B1 (ko) * 2010-12-21 2017-12-29 삼성전자주식회사 멀티미디어 아키텍처 패턴 결정 방법, 싱글코어에서 멀티코어 기반으로의 아키텍처 전환 장치 및 방법
US9098214B1 (en) * 2010-12-28 2015-08-04 Amazon Technologies, Inc. Managing virtual machine migration
US8683243B2 (en) * 2011-03-11 2014-03-25 Intel Corporation Dynamic core selection for heterogeneous multi-core systems
EP2715560B8 (en) * 2011-05-24 2019-08-21 Citrix Systems, Inc. Systems and methods for analyzing network metrics
US8185758B2 (en) * 2011-06-30 2012-05-22 Intel Corporation Method and system for determining an energy-efficient operating point of a platform
US8584136B2 (en) * 2011-08-15 2013-11-12 Sap Ag Context-aware request dispatching in clustered environments
US8601300B2 (en) * 2011-09-21 2013-12-03 Qualcomm Incorporated System and method for managing thermal energy generation in a heterogeneous multi-core processor
US9158693B2 (en) * 2011-10-31 2015-10-13 Intel Corporation Dynamically controlling cache size to maximize energy efficiency
US9298607B2 (en) * 2011-11-22 2016-03-29 Intel Corporation Access control for non-volatile random access memory across platform agents
CN102508718B (zh) * 2011-11-22 2015-04-15 杭州华三通信技术有限公司 一种虚拟机负载均衡方法和装置
US20130138419A1 (en) * 2011-11-30 2013-05-30 Oracle International Corporation Method and system for the assessment of computer system reliability using quantitative cumulative stress metrics
US9563532B1 (en) * 2011-12-02 2017-02-07 Google Inc. Allocation of tasks in large scale computing systems
US9372524B2 (en) * 2011-12-15 2016-06-21 Intel Corporation Dynamically modifying a power/performance tradeoff based on processor utilization
US20120095607A1 (en) * 2011-12-22 2012-04-19 Wells Ryan D Method, Apparatus, and System for Energy Efficiency and Energy Conservation Through Dynamic Management of Memory and Input/Output Subsystems
US8984311B2 (en) * 2011-12-30 2015-03-17 Intel Corporation Method, apparatus, and system for energy efficiency and energy conservation including dynamic C0-state cache resizing
US8732291B2 (en) * 2012-01-13 2014-05-20 Accenture Global Services Limited Performance interference model for managing consolidated workloads in QOS-aware clouds
US8630177B2 (en) * 2012-02-27 2014-01-14 Cisco Technology, Inc. Dynamic directed acyclic graph (DAG) root bypass for computer networks
US20130238785A1 (en) * 2012-03-06 2013-09-12 Rackspace Us, Inc. System and Method for Metadata Discovery and Metadata-Aware Scheduling
CN104380660B (zh) * 2012-04-13 2017-09-29 思杰系统有限公司 用于在多核和集群系统中进行陷阱监控的系统和方法
US10990407B2 (en) * 2012-04-24 2021-04-27 Intel Corporation Dynamic interrupt reconfiguration for effective power management
US9027024B2 (en) 2012-05-09 2015-05-05 Rackspace Us, Inc. Market-based virtual machine allocation
US9100852B2 (en) * 2012-05-15 2015-08-04 Futurewei Technologies, Inc. System and method for network detection and selection
US9086878B2 (en) * 2012-06-29 2015-07-21 Broadcom Corporation Oversubscribing to a packet processing device to adjust power consumption
US9104498B2 (en) * 2012-07-31 2015-08-11 Hewlett-Packard Development Company, L.P. Maximizing server utilization within a datacenter
US20140071223A1 (en) * 2012-09-10 2014-03-13 Rebaca Technologies Peer-to-peer video conferencing
US10554505B2 (en) * 2012-09-28 2020-02-04 Intel Corporation Managing data center resources to achieve a quality of service
CN103729248B (zh) * 2012-10-16 2017-12-15 华为技术有限公司 一种基于缓存感知的确定待迁移任务的方法和装置
US8880809B2 (en) * 2012-10-29 2014-11-04 Advanced Micro Devices Inc. Memory controller with inter-core interference detection
US10025686B2 (en) 2012-10-30 2018-07-17 Intel Corporation Generating and communicating platform event digests from a processor of a system
US9311209B2 (en) * 2012-11-27 2016-04-12 International Business Machines Corporation Associating energy consumption with a virtual machine
US10713183B2 (en) * 2012-11-28 2020-07-14 Red Hat Israel, Ltd. Virtual machine backup using snapshots and current configuration
US9047238B2 (en) * 2012-11-28 2015-06-02 Red Hat Israel, Ltd. Creating a virtual machine from a snapshot
US9819729B2 (en) * 2012-12-21 2017-11-14 Bmc Software, Inc. Application monitoring for cloud-based architectures
US9235252B2 (en) * 2012-12-21 2016-01-12 Intel Corporation Dynamic balancing of power across a plurality of processor domains according to power policy control bias
US9075952B2 (en) * 2013-01-17 2015-07-07 Intel Corporation Controlling bandwidth allocations in a system on a chip (SoC)
CN103150264B (zh) * 2013-01-18 2014-09-17 浪潮电子信息产业股份有限公司 一种基于扩展型Cache Coherence协议的多级一致性域仿真验证和测试方法
US9110592B2 (en) * 2013-02-04 2015-08-18 Microsoft Technology Licensing, Llc Dynamic allocation of heterogenous memory in a computing system
US9383790B2 (en) * 2013-03-11 2016-07-05 Intel Corporation Internal communication interconnect scalability
US9405686B2 (en) * 2013-03-13 2016-08-02 Cloud Physics, Inc Cache allocation system and method using a sampled cache utility curve in constant space
US9148465B2 (en) * 2013-04-01 2015-09-29 Oracle International Corporation Update management for a distributed computing system
US9706004B2 (en) * 2013-04-06 2017-07-11 Citrix Systems, Inc. Systems and methods for exporting client and server timing information for webpage and embedded object access
US10148544B2 (en) * 2013-04-06 2018-12-04 Citrix Systems, Inc. Systems and methods for cluster statistics aggregation
US9577892B2 (en) * 2013-04-06 2017-02-21 Citrix Systems, Inc. Systems and methods for providing monitoring in a cluster system
US9246773B2 (en) * 2013-07-30 2016-01-26 Draios Inc. System, method, and graphical user interface for application topology mapping in hosted computing environments
US9401860B2 (en) * 2013-08-09 2016-07-26 Citrix Systems, Inc. High performance quality-of-service packet scheduling for multiple packet processing engines
US9495001B2 (en) * 2013-08-21 2016-11-15 Intel Corporation Forcing core low power states in a processor
US10386900B2 (en) * 2013-09-24 2019-08-20 Intel Corporation Thread aware power management
US20150124622A1 (en) * 2013-11-01 2015-05-07 Movik Networks, Inc. Multi-Interface, Multi-Layer State-full Load Balancer For RAN-Analytics Deployments In Multi-Chassis, Cloud And Virtual Server Environments
US9229690B2 (en) * 2013-11-27 2016-01-05 Metis-Mp Ltd. Automatic computer code parallelization
US9813335B2 (en) * 2014-08-05 2017-11-07 Amdocs Software Systems Limited System, method, and computer program for augmenting a physical system utilizing a network function virtualization orchestrator (NFV-O)
US9838265B2 (en) * 2013-12-19 2017-12-05 Amdocs Software Systems Limited System, method, and computer program for inter-module communication in a network based on network function virtualization (NFV)
US9942265B2 (en) * 2014-01-06 2018-04-10 International Business Machines Corporation Preventing application-level denial-of-service in a multi-tenant system
US9571394B1 (en) * 2014-01-10 2017-02-14 Juniper Networks, Inc. Tunneled packet aggregation for virtual networks
US9742682B2 (en) * 2014-03-11 2017-08-22 Vmware, Inc. Large receive offload for virtual machines
US9594584B2 (en) * 2014-03-31 2017-03-14 Electronics And Telecommunications Research Institute Apparatus and method for mapping of tenant based dynamic processor
US8937941B1 (en) * 2014-03-31 2015-01-20 Ringcentral, Inc. Techniques for VoIP provider interconnection over the internet using a shared subscriber contact identifier translation service
US9507566B2 (en) * 2014-04-01 2016-11-29 Oracle International Corporation Entropy generation for a distributed computing system
US20150295793A1 (en) * 2014-04-10 2015-10-15 International Business Machines Corporation High-performance computing evaluation
US10050901B2 (en) * 2014-04-22 2018-08-14 Cisco Technology, Inc. Efficient management and configuration of in-band resources
US9715663B2 (en) * 2014-05-01 2017-07-25 International Business Machines Corporation Predicting application performance on hardware accelerators
US9264320B1 (en) * 2014-06-17 2016-02-16 Ca, Inc. Efficient network monitoring
US9755957B2 (en) * 2014-06-20 2017-09-05 Verizon Patent And Licensing Inc. Pseudowire control channel for signaling events
US10511694B2 (en) * 2014-07-23 2019-12-17 Citrix Systems, Inc. Systems and methods for application specific load balancing
US10476764B2 (en) * 2014-08-19 2019-11-12 Citrix Systems, Inc. Systems and methods for high volume logging and synchronization for large scale network address translation
US9652022B2 (en) * 2014-08-28 2017-05-16 Qualcomm Incorporated System and method for providing dynamic quality of service levels based on coprocessor operation
US9774537B2 (en) * 2014-09-30 2017-09-26 Nicira, Inc. Dynamically adjusting load balancing
US9703358B2 (en) * 2014-11-24 2017-07-11 Intel Corporation Controlling turbo mode frequency operation in a processor
US10389652B2 (en) * 2014-12-19 2019-08-20 International Business Machines Corporation Connection pool management
US10126950B2 (en) * 2014-12-22 2018-11-13 Intel Corporation Allocating and configuring persistent memory
US9753526B2 (en) * 2014-12-23 2017-09-05 Intel Corporation Systems and methods for synergistic software-hardware power budget management
US9769050B2 (en) * 2014-12-23 2017-09-19 Intel Corporation End-to-end datacenter performance control
US9910481B2 (en) * 2015-02-13 2018-03-06 Intel Corporation Performing power management in a multicore processor
US10833940B2 (en) * 2015-03-09 2020-11-10 Vapor IO Inc. Autonomous distributed workload and infrastructure scheduling
US20160323144A1 (en) * 2015-04-29 2016-11-03 Futurewei Technologies, Inc. Traffic-driven network controller placement in software-defined networks
US20160378545A1 (en) * 2015-05-10 2016-12-29 Apl Software Inc. Methods and architecture for enhanced computer performance
US10048989B2 (en) * 2015-05-18 2018-08-14 Krystallize Technologies, Inc. Automated workload analysis and simulation process
US9942131B2 (en) * 2015-07-29 2018-04-10 International Business Machines Corporation Multipathing using flow tunneling through bound overlay virtual machines
US10594580B2 (en) * 2015-08-03 2020-03-17 Avago Technologies International Sales Pte. Limited Network function virtualization management system
US10270687B2 (en) * 2015-09-07 2019-04-23 Citrix Systems, Inc. Systems and methods for dynamic routing on a shared IP address
US9942631B2 (en) 2015-09-25 2018-04-10 Intel Corporation Out-of-band platform tuning and configuration
WO2017144432A1 (en) * 2016-02-26 2017-08-31 Nokia Solutions And Networks Oy Cloud verification and test automation
JP2017207834A (ja) * 2016-05-16 2017-11-24 富士通株式会社 プログラム、情報処理装置、情報処理システム、及び情報処理方法
US10616335B2 (en) * 2016-08-17 2020-04-07 Cisco Technology, Inc. Controller-based configuration proxy
US10728206B2 (en) * 2017-03-22 2020-07-28 Citrix Systems, Inc. Method for DNS response reordering based on path quality and connection priority for better QOS
US10341748B2 (en) * 2017-07-05 2019-07-02 Infinera Corporation Packet-optical in-band telemetry (POINT) framework

Also Published As

Publication number Publication date
CN107925588A (zh) 2018-04-17
WO2017052935A1 (en) 2017-03-30
US9942631B2 (en) 2018-04-10
US20170094377A1 (en) 2017-03-30
US20220191602A1 (en) 2022-06-16
US20190356971A1 (en) 2019-11-21
US20180352311A1 (en) 2018-12-06
US11272267B2 (en) 2022-03-08

Similar Documents

Publication Publication Date Title
CN107925588B (zh) 用于平台处理核心配置的方法、设备、装置及介质
US10608914B2 (en) Methods and devices for monitoring of network performance for container virtualization
US10708149B2 (en) Context-aware virtualized control decision support system for providing quality of experience assurance for internet protocol streaming video services
DE102020132078A1 (de) Ressourcenzuteilung basierend auf anwendbarem service level agreement
US9992212B2 (en) Technologies for handling malicious activity of a virtual network driver
EP2849064B1 (en) Method and apparatus for network virtualization
Tso et al. Network and server resource management strategies for data centre infrastructures: A survey
TWI497286B (zh) 虛擬機至實體機之間相關性能問題的根源分析的方法與系統
US11095755B2 (en) Telemetry for disaggregated resources
US9766947B2 (en) Methods and apparatus to monitor server loads
US20190104022A1 (en) Policy-based network service fingerprinting
US20150156086A1 (en) Behavioral network intelligence system and method thereof
US20150263906A1 (en) Method and apparatus for ensuring application and network service performance in an automated manner
TWI722145B (zh) 網路功能虛擬化
CN108965239A (zh) 加速网络安全监控
US11005968B2 (en) Fabric support for quality of service
US20200028764A1 (en) Network costs for hyper-converged infrastructures
US20130282895A1 (en) Correlation based adaptive system monitoring
US20180335824A1 (en) Data Center Power Management
Borylo et al. Unified and standalone monitoring module for NFV/SDN infrastructures
Clouet et al. A unified monitoring framework for energy consumption and network traffic
JP2018519753A (ja) マルチテナント型データセンタにおけるｖｍからｖｍのトラフィック推定
Liu et al. On causes of GridFTP transfer throughput variance
Caba et al. Mitigating the controller performance bottlenecks in software defined networks
EP4261751A1 (en) Machine learning for metric collection

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant