CN115150278A - 使用数据处理单元(dpu)作为基于图形处理单元(gpu)的机器学习的预处理器 - Google Patents
使用数据处理单元(dpu)作为基于图形处理单元(gpu)的机器学习的预处理器 Download PDFInfo
- Publication number
- CN115150278A CN115150278A CN202210238246.7A CN202210238246A CN115150278A CN 115150278 A CN115150278 A CN 115150278A CN 202210238246 A CN202210238246 A CN 202210238246A CN 115150278 A CN115150278 A CN 115150278A
- Authority
- CN
- China
- Prior art keywords
- packet
- policy
- network adapter
- dpu
- gpu
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 28
- 238000010801 machine learning Methods 0.000 title claims abstract description 20
- 238000000034 method Methods 0.000 claims abstract description 27
- 230000008569 process Effects 0.000 claims abstract description 8
- 230000004044 response Effects 0.000 claims description 13
- 230000009467 reduction Effects 0.000 claims description 9
- 238000004422 calculation algorithm Methods 0.000 claims description 8
- 238000007493 shaping process Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 description 15
- 238000004891 communication Methods 0.000 description 11
- 238000012544 monitoring process Methods 0.000 description 11
- 238000000605 extraction Methods 0.000 description 10
- 230000003044 adaptive effect Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 230000002265 prevention Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 241000406668 Loxodonta cyclotis Species 0.000 description 1
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 230000009118 appropriate response Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000004140 cleaning Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003012 network analysis Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000003449 preventive effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000005201 scrubbing Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
- H04L43/0876—Network utilisation, e.g. volume of load or congestion level
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/02—Capturing of monitoring data
- H04L43/026—Capturing of monitoring data using flow identification
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0893—Assignment of logical groups to network elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
- H04L41/5003—Managing SLA; Interaction between SLA and QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/22—Traffic shaping
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
- H04L63/1425—Traffic logging, e.g. anomaly detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L63/00—Network architectures or network communication protocols for network security
- H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
- H04L63/1441—Countermeasures against malicious traffic
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Security & Cryptography (AREA)
- Computer Hardware Design (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Environmental & Geological Engineering (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
公开了使用数据处理单元(DPU)作为基于图形处理单元(GPU)的机器学习的预处理器。一种系统包括网络适配器和处理器。网络适配器被配置为从网络接收分组，根据策略处理接收到的分组，并从接收到的分组中导出分组摘要。处理器被配置为基于网络适配器导出的分组摘要来调整策略，并将调整后的策略提供给网络适配器，用于后续分组处理。
Description
技术领域
本发明一般涉及网络通信，尤其涉及通信网络中数据流量的监控和管理。
背景技术
以前在专利文献中已经提出了用于监控和管理网络通信的系统。例如，中国专利CN102299843描述了一种基于图形处理单元(GPU)和缓冲区的网络数据处理方法。该方法的特征在于：预处理线程组中的预处理线程对接收到的网络分组进行不间断的预处理，从而形成计算任务，计算任务发送到缓冲区；计算线程组中的计算线程不间断地从缓冲区中取出一个计算任务交给CPU进行计算或取出多个计算任务供GPU进行计算，然后发送计算结果到后续线程组；在完成计算任务后，后续处理线程组中的后续处理线程不间断地对计算线程组的计算线程发送的计算结果进行后续处理。本发明还公开了一种基于GPU和缓冲区的网络数据处理系统。
发明内容
下文描述的本发明实施例提供了一种系统，包括网络适配器和处理器。网络适配器被配置为从网络接收分组，根据策略处理接收到的分组，并从接收到的分组中导出分组摘要。处理器被配置为基于网络适配器导出的分组摘要来调整策略，并将调整后的策略提供给网络适配器，用于后续分组处理。
在一些实施例中，网络适配器被配置为通过执行(i)从接收到的分组中提取元数据和(ii)对接收到的分组应用数据缩减中的至少一项来导出分组摘要。
在一些实施例中，网络适配器被配置为通过响应于接收到的分组而设置一个或更多个计数器来导出分组摘要，并且处理器被配置为响应于一个或更多个计数器而调整策略。
在一个实施例中，网络适配器被配置为将安全策略应用于接收到的分组，并通过导出接收到的分组中的至少一些分组的流量模式来导出分组摘要，并且处理器被配置为检测流量模式中的异常，并响应于所述异常而调整由网络适配器应用的安全策略。
在另一个实施例中，网络适配器被配置为根据服务质量(QoS)策略对接收到的分组应用流量整形，并且处理器被配置为响应于分组摘要而调整由网络适配器应用的QoS策略。
在一些实施例中，处理器被配置为通过将机器学习(ML)算法应用于由网络适配器导出的分组摘要来调整策略。
在一些实施例中，网络适配器是数据处理单元(DPU)。在其他实施例中，处理器是图形处理单元(GPU)。
根据本发明的另一个实施例，另外提供了一种方法，包括：在网络适配器中，从网络接收分组，根据策略处理接收的分组，以及从接收的分组导出分组摘要。在与网络适配器分离的处理器中，基于网络适配器导出的分组摘要来调整策略，并将调整后的策略提供给网络适配器，用于后续分组处理。
结合附图，通过以下实施例的详细描述，将更充分地理解本发明。
附图说明
图1是示意性说明根据本发明实施例的用于对网络数据流量进行自适应监控和策略执行的系统的框图；
图2是示意性地示出根据本发明的实施例从多个通信层提取元数据的图；以及
图3是示意性描述根据本发明实施例的使用图1的系统在网络上进行自适应监控和策略执行的方法的流程图。
具体实施方式
概述
通信基础设施需要动态策略来执行预防性维护和安全等任务，例如检测即将发生的硬件故障和零日攻击预防。数据缩减和元数据提取可用于获取此类策略的有用指标。但是，网络流量会因应用程序的使用、地理、网络拓扑和其他因素而显著变化。因此，可从网络流量中获得的信息通常是嘈杂的，具有不均匀的准确性，并且不容易用于生产性监控。用于元数据提取和数据缩减的通用软件解决方案无法支持所需的业务量规模。
在下文中描述的本发明的实施例提供了组合处理器(例如，图形处理单元(GPU))和网络适配器(例如，数据处理单元(DPU)或“智能NIC”)来解决上述动态策略的需求的系统和方法。在一些实施例中，DPU接收来自网络的分组，并根据策略(例如安全或服务质量(QoS)策略)来处理接收的分组。此外，DPU使用元数据提取和/或数据缩减从分组中获取“分组摘要”，并将分组摘要提供给GPU。GPU根据分组摘要调整策略，例如，通过运行机器学习(ML)算法。调整后的策略被反馈给DPU，DPU又使用它来处理后续的分组。上述过程通常由DPU和GPU在持续的基础上重复。结果，该策略不断地与分组流量的当前特征相匹配。
在一些实施例中，DPU可编程以对分组和流进行分类，并对它们应用各种策略。分类能力可以包括例如解析、分类和提供通信层的各种相关字段的能力，这些字段(i)定义通信数据格式(例如，在OSI模型的第2层中)，(ii)决定通信流量路径(例如，在第3层)，以及(iii)使用通信传输协议，例如TCP和UDP(在第4层)。
在一些实施例中，DPU执行第4层双向连接(例如，TCP或UDP)的状态识别。DPU软件/硬件架构进一步允许传输层安全(TLS)和互联网协议安全(IPsec)解密。这些功能与DPU中的搜索功能(例如，使用正则表达式)和深度分组检查相结合，允许访问几乎任何第2层到第7层(L2-L7)字段。
在一些实施例中，DPU包括硬件引擎，其可以通过执行诸如解密、加密、计数、标记、整形、丢弃、转发、修改等的分组/流动作来应用合适的策略。
在一些实施例中，DPU提供的分类能力和计数器被所公开的技术用于分组摘要推导，例如，数据缩减和/或元数据提取。DPU将分组摘要提供给GPU以运行动态ML模型。DPU的可编程策略能力由GPU设置，符合GPU ML模型的输出。因此，通过DPU到包含DPU-GPU对的系统主机的流量由GPU人工智能(AI)计算的结果来控制。
在一个实施例中，包括如上所述一起工作的DPU和GPU的系统用于接收到的分组中的异常检测，以及用于调整和执行安全策略。在本示例实施例中，DPU向GPU运行模型提供以下元数据：L7应用程序ID、L3-L4流标识(例如5元组)、每个流的分组和字节计数器、采样连接的时序信息以及其他相关提取字段。DPU也可以提供加密流量的此类元数据。整个元数据提取过程由DPU以加速方式完成，无需主机干预。
以这种方式，可以将整个数据流缩减为与流的大小无关的有限大小的统一摘要。因此，例如，DPU可以为大型“大象”流和诸如DNS的短流导出相似大小的分组摘要。在GPU上运行的AI模型可以在各个层上针对适用的流量模式进行预训练，并且能够通过对分组摘要进行推理来识别流量模式中的各种异常。一旦GPU运行的模型检测到异常，DPU就会相应地调整安全策略。更新后的策略可以使DPU执行例如将流量引导到清理服务器(scrubbingserver)、生成相关安全日志、丢弃相关流量和/或进一步分类可疑分组等动作。
另一个示例用例是DPU和GPU动态处理流量的服务质量(QoS)的系统。在许多实际场景中，希望根据各种L4-L7特性来对流量整形。然而，这些特性经常随着地理位置和时间而改变和变化(例如，在一天中的不同时间，或在工作日与周末)。预定义的刚性策略不太可能足够灵活，无法对网络中不同位置或随时间变化的流量模式做出反应。因此，在一些实施例中，DPU导出上述L4-L7元数据，并将该摘要提供给GPU。GPU将ML模型应用于元数据，以适应DPU应用的有状态流量整形策略。
另外或替代地，所公开的技术可用于调整与网络监控、网络工程、分布式拒绝服务(DDoS)检测和预防、网络防火墙等有关的策略。
通过使用处理器(例如，GPU)和网络适配器(例如，DPU)之间的上述交互和“分工”，所公开的技术能够识别动态策略并将其应用于网络流量，同时最佳地利用每个系统元素的相对优势。
系统描述
图1是示意性说明根据本发明实施例的用于对从网络11接收的数据流量进行自适应监视和策略实施的系统100的框图。例如，系统100可以是数据中心中的服务器的一部分。
图1的系统100包括网络适配器(在本示例中为DPU 102)和处理器(在本示例中为GPU 104)。虽然以下描述的实施例主要涉及DPU和GPU，但所公开的技术可以分别使用任何其他合适的网络适配器和处理器来实现。在各种实施例中，网络适配器可以包括例如DPU(也称为“智能NIC”)、以太网网络接口控制器(NIC)、Infiniband主机通道适配器(HCA)、支持网络的GPU、或任何其他合适类型的网络适配器。处理器可以包括例如GPU、CPU或任何其他合适类型的处理器。
如图所示，系统100的DPU 102通过网络链路106从网络11接收分组，并根据策略处理接收的分组。DPU 102从接收到的分组中导出“分组摘要”，并通过接口108将该分组摘要提供给GPU 104。GPU 104基于分组摘要调整策略，并通过接口110向DPU 102提供调整后的策略以用于分组的后续处理。在典型实施例中，接口108和110都在连接DPU 102和GPU 104的总线上实现，例如PCIe总线。
在本上下文中，一组分组(例如，一个流)的术语“分组摘要”指的是一组分组的任何适当压缩表示，其中该表示在数据大小上比该组分组小得多，但仍然表征该组。在一些实施例中，DPU 102被配置为通过执行(i)从接收到的分组中提取元数据和(ii)对接收到的分组应用数据缩减中的至少一项来导出分组摘要。为此，DPU 102可以包括一个或更多个计数器(未示出)，例如，计数器对每个流、每个端口号或每个其他合适的分组属性或分组属性的组合的分组数目进行计数。
在一些实施例中，DPU 102将某个策略应用于接收的分组。GPU 104运行基于AI的算法，以根据分组摘要检测DPU 102看到的流量模式中的异常。GPU 104响应异常而调整由DPU 102应用的安全策略。这种自适应策略的一个示例是QoS策略，另一个示例是安全策略，例如用于DDoS检测和预防的策略。
在一些实施例中，系统100的DPU 102和GPU 104可以在单个片上系统(SoC)中实现。在各种实施例中，图1中所示的系统100的不同元件可以使用合适的硬件来实现，例如使用一个或更多个分立组件、一个或更多个专用集成电路(ASIC)和/或一个或更多个现场可编程门阵列(FPGA)，或以任何其他合适的方式。DPU 102和/或GPU 104的一些功能可以在一个或更多个通用处理器中实现，该处理器以软件编程以执行本文描述的功能。例如，软件可以通过网络或从主机以电子形式下载到处理器，或者它可以替代地或附加地提供和/或存储在非易失性有形介质，诸如磁性、光学、或电子存储器。
使用多层元数据提取用于监控和流量管理的联合DPU-GPU操作
图2是说明根据本发明的实施例的图1的系统如何从接收到的流量的多个OSI模型层中提取元数据的示意图。在本示例中，元数据用于应用安全策略，以检测与L7中的给定应用相关的L4层中的流量异常。
在所示实施例中，GPU 104对DPU 102提供的元数据运行ML算法。元数据包括以下内容：L7应用程序ID(通过链路206提供)、L3-L4双向流量、每个流的分组和字节计数器、采样连接的定时信息，以及其他相关的提取字段。
GPU 104已通过链路208设置策略，以便只有相关流量(204)到达DPU。当分组到达时，DPU会验证该分组是否属于新的L4双向连接。如果是这样，DPU在连接表中创建一个新条目，保存连接详细信息，为连接设置硬件标记规则，为连接设置采样率(由硬件强制执行)并将硬件计数器连接到规则(使用链接208)。
DPU继续分析第7层的连接，例如，使用深度分组检测(DPI)库和合适的正则表达式(Regex)卸载。当收集到足够的DPI信息时(例如，在四个承载有效载荷的分组之后)，DPU将连接设置为硬件绕过模式。从这一点开始，不需要对该连接的后续分组进行进一步的深度分组检查，因为已经做出了决定。
对于采样的流，DPU收集更多与分组相关的信息。当硬件/软件识别出流已终止时，DPU使用提取的L7元数据(例如，L7应用程序名称、字段值等)、L4连接特性、采样数据和相关硬件计数器生成数据结构。此数据结构用作基于ML GPU的训练和推理的输入。在推理时，经过训练的基于GPU的ML模型的结果由DPU处理，然后将必要的动作应用于其余流量。
如果ML模型检测到可能指示网络攻击的异常，GPU 104指示DPU102启动适当的响应动作，例如丢弃属于正在进行的攻击的分组、将流量转发到清理服务器、通知其他节点该攻击以及生成日志和警报。
图2仅显示了一个可能的实施例。在另一个示例中，当ML模型用于自主流量整形时，DPU可以使用GPU的结果来更改流量整形策略，以更好地适应不断变化的流量场景。
使用运行ML算法的DPU和GPU对网络数据流量进行自适应监控和管理的方法
图3是示意性描述根据本发明实施例的使用图1的系统在网络上进行自适应监控和策略执行的方法的流程图。根据所提出的实施例的算法在流量工程步骤304执行以DPU102执行网络流量302的流量工程开始的过程。步骤304包括层L4-L7的分组解析、分组引导、数据解密和状态数据检查。
接下来，DPU 102在元数据生成步骤308执行数据缩减和元数据提取。该步骤包括提取分组头、提取关于分组有效载荷的信息、提取业务流模式和接收硬件遥测(例如，所涉及组件的温度和功耗)。
如所见，在丢弃步骤310中DPU 102丢弃非信息性数据。
接下来，在网络分析和策略设置步骤312，GPU 104运行ML模型以检测例如流量异常或流量低效，并设置更新的策略。
如所见，基于步骤312的输出，GPU 104在策略设置步骤314命令DPU 102更新已经存在的策略306。更新的策略在策略通信步骤307被传送到包括DPU-GPU对的系统的主机。
图3中所示的流程图以示例的方式被描绘，以描述所公开技术的概念。其他合适的应用程序可以使用DPU和GPU运行，例如用于预防性维护。
尽管本文描述的实施例主要针对网络通信，但是本文描述的方法和系统也可以用于其他应用，例如网络监控、网络工程、反分布式拒绝服务(DDoS)、网络防火墙等。
因此应当理解，上述实施例是作为示例引用的，并且本发明不限于上文已经具体示出和描述的内容。相反，本发明的范围包括上文描述的各种特征的组合和子组合，以及本领域技术人员在阅读上述描述后会想到的并且在现有技术中未公开的变化和修改。通过引用并入本专利申请的文件应被视为本申请的组成部分，除非在这些并入的文件中以与本说明书中明确或隐含的定义相冲突的方式定义的任何术语，仅应考虑本说明书中的定义。
Claims (16)
1.一种系统，包括：
网络适配器，其被配置为接收来自网络的分组，根据策略处理接收到的分组，并从所述接收到的分组中导出分组摘要；以及
处理器，其被配置为基于由所述网络适配器导出的所述分组摘要来调整所述策略，并将调整后的策略提供给所述网络适配器，用于后续分组处理。
2.根据权利要求1所述的系统，其中，所述网络适配器被配置为通过执行(i)从所述接收到的分组中提取元数据和(ii)对所述接收到的分组应用数据缩减中的至少一项来导出所述分组摘要。
3.根据权利要求1所述的系统，其中，所述网络适配器被配置为通过响应于所述接收到的分组设置一个或更多个计数器来导出所述分组摘要，并且其中所述处理器被配置为响应于所述一个或更多个计数器而调整所述策略。
4.根据权利要求1所述的系统，其中：
所述网络适配器被配置为将安全策略应用于所述接收到的分组，并通过导出所述接收到的分组中的至少一些的流量模式来导出所述分组摘要；以及
所述处理器被配置为检测所述流量模式中的异常，并响应于所述异常而调整由所述网络适配器应用的所述安全策略。
5.根据权利要求1所述的系统，其中：
所述网络适配器被配置为根据服务质量QoS策略对所述接收到的分组应用流量整形；以及
所述处理器被配置为响应于所述分组摘要而调整由所述网络适配器应用的所述QoS策略。
6.根据权利要求1所述的系统，其中，所述处理器被配置为通过将机器学习(ML)算法应用于由所述网络适配器导出的分组摘要来调整所述策略。
7.根据权利要求1所述的系统，其中，所述网络适配器是数据处理单元DPU。
8.根据权利要求1所述的系统，其中，所述处理器是图形处理单元GPU。
9.一种方法，包括：
在网络适配器中，从网络接收分组，根据策略处理接收到的分组，并从所述接收到的分组中导出分组摘要；以及
在与所述网络适配器分离的处理器中，基于由所述网络适配器导出的分组摘要来调整所述策略，并将调整后的策略提供给所述网络适配器，用于后续分组处理。
10.根据权利要求9所述的方法，其中，导出所述分组摘要包括：执行(i)从所述接收到的分组提取元数据和(ii)对所述接收到的分组应用数据缩减中的至少一项。
11.根据权利要求9所述的方法，其中，导出所述分组摘要包括：响应于所述接收到的分组而设置一个或更多个计数器，并且其中响应于所述一个或更多个计数器而执行调整所述策略。
12.根据权利要求9所述的方法，其中：
应用所述策略包括：将安全策略应用于所述接收到的分组，并且其中导出所述分组摘要包括：导出所述接收到的分组中的至少一些的流量模式；以及
调整所述策略包括：检测所述流量模式中的异常，以及响应于所述异常而调整所述安全策略。
13.根据权利要求9所述的方法，其中：
应用所述策略包括：根据服务质量QoS策略对所述接收到的分组应用流量整形；以及
调整所述策略包括：响应于所述分组摘要而调整所述QoS策略。
14.根据权利要求9所述的方法，其中，调整所述策略包括：将机器学习ML算法应用于由所述网络适配器导出的所述分组摘要。
15.根据权利要求9所述的方法，其中，所述网络适配器是数据处理单元DPU。
16.根据权利要求9所述的方法，其中，所述处理器是图形处理单元GPU。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US17/214,945 | 2021-03-29 | ||
| US17/214,945 US11374838B1 (en) | 2021-03-29 | 2021-03-29 | Using a data processing unit (DPU) as a pre-processor for graphics processing unit (GPU) based machine learning |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115150278A true CN115150278A (zh) | 2022-10-04 |
| CN115150278B CN115150278B (zh) | 2024-09-20 |
Family
ID=82320262
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210238246.7A Active CN115150278B (zh) | 2021-03-29 | 2022-03-11 | 使用数据处理单元(dpu)作为基于图形处理单元(gpu)的机器学习的预处理器 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11374838B1 (zh) |
| CN (1) | CN115150278B (zh) |
| DE (1) | DE102022202878A1 (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US12095793B2 (en) * | 2022-04-13 | 2024-09-17 | Mellanox Technologies, Ltd. | Accelerated data movement between data processing unit (DPU) and graphics processing unit (GPU) to address real-time cybersecurity requirements |
Citations (24)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20020040396A1 (en) * | 2000-09-29 | 2002-04-04 | Kddi Corporation | Management device and managed device in policy based management system |
| US20050108518A1 (en) * | 2003-06-10 | 2005-05-19 | Pandya Ashish A. | Runtime adaptable security processor |
| WO2009107117A2 (en) * | 2008-02-28 | 2009-09-03 | Alcatel Lucent | Compressed ip flow recognition for in-line integrated mobile dpi |
| CN101682526A (zh) * | 2007-03-12 | 2010-03-24 | 思杰系统有限公司 | 用于配置、应用和管理网络装置的面向对象策略表达式的系统和方法 |
| US20130117847A1 (en) * | 2011-11-07 | 2013-05-09 | William G. Friedman | Streaming Method and System for Processing Network Metadata |
| WO2013078824A1 (zh) * | 2011-11-30 | 2013-06-06 | 华为技术有限公司 | 实现网卡卸载功能的方法、网卡、主机系统及网络设备 |
| US20140122834A1 (en) * | 2012-10-30 | 2014-05-01 | Mrittika Ganguli | Generating And Communicating Platform Event Digests From A Processor Of A System |
| CN104883362A (zh) * | 2015-05-11 | 2015-09-02 | 北京交通大学 | 异常访问行为控制方法及装置 |
| US20150332145A1 (en) * | 2014-05-13 | 2015-11-19 | Cisco Technology, Inc. | Traffic shaping based on predicted network resources |
| US20170126725A1 (en) * | 2015-11-04 | 2017-05-04 | Avaya Inc. | Selective traffic analysis at a communication network edge |
| US20170201537A1 (en) * | 2016-01-08 | 2017-07-13 | Belden, Inc. | Method and protection apparatus to prevent malicious information communication in ip networks by exploiting benign networking protocols |
| US20170245170A1 (en) * | 2016-02-24 | 2017-08-24 | Cisco Technology, Inc. | Dynamic Application QoS Profile Provisioning |
| KR101859740B1 (ko) * | 2017-11-24 | 2018-05-21 | 주식회사 나온웍스 | 산업용 네트워크 프로토콜의 데이터 분석 및 학습을 통한 네트워크 보안 방법 및 이를 이용한 네트워크 보안 장치 |
| US20180159898A1 (en) * | 2016-12-01 | 2018-06-07 | Gigamon Inc. | Analysis of network traffic rules at a network visibility node |
| EP3382989A1 (en) * | 2017-03-31 | 2018-10-03 | Solarflare Communications Inc | Network interface device |
| US20190012350A1 (en) * | 2017-07-10 | 2019-01-10 | Fungible, Inc. | Data processing unit for stream processing |
| US20190068507A1 (en) * | 2018-10-30 | 2019-02-28 | Intel Corporation | Techniques for packet transmit scheduling |
| US20190288937A1 (en) * | 2018-03-15 | 2019-09-19 | Interdigital Ce Patent Holdings | Method and device for sending data packets on a first and a second links |
| CN110521179A (zh) * | 2017-03-22 | 2019-11-29 | 赛门铁克公司 | 用于强制执行动态网络安全策略的系统和方法 |
| US20200021532A1 (en) * | 2018-07-10 | 2020-01-16 | Cisco Technology, Inc. | Automatic rate limiting based on explicit network congestion notification in smart network interface card |
| US20200043128A1 (en) * | 2016-12-28 | 2020-02-06 | Daegu Gyeongbuk Institute Of Science And Technology | Processing system for graphs and operating method thereof |
| US20200371842A1 (en) * | 2019-05-24 | 2020-11-26 | Microsoft Technology Licensing, Llc | Third-party hardware integration in virtual networks |
| WO2020256210A1 (ko) * | 2019-06-20 | 2020-12-24 | 주식회사 쿼드마이너 | 네트워크 포렌식 시스템 및 이를 이용한 네트워크 포렌식 방법 |
| CN112567698A (zh) * | 2018-08-21 | 2021-03-26 | 思科技术公司 | 多云服务网格中的服务业务复制和动态策略实施 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6564267B1 (en) * | 1999-11-22 | 2003-05-13 | Intel Corporation | Network adapter with large frame transfer emulation |
| CN102299843B (zh) | 2011-06-28 | 2015-01-07 | 北京安天电子设备有限公司 | 一种基于gpu和缓冲区的网络数据处理方法及系统 |
| US10116674B2 (en) * | 2015-10-30 | 2018-10-30 | Citrix Systems, Inc. | Framework for explaining anomalies in accessing web applications |
| US10902121B2 (en) * | 2017-10-19 | 2021-01-26 | International Business Machines Corporation | Policy-based detection of anomalous control and data flow paths in an application program |
| US11238366B2 (en) * | 2018-05-10 | 2022-02-01 | International Business Machines Corporation | Adaptive object modeling and differential data ingestion for machine learning |
-
2021
- 2021-03-29 US US17/214,945 patent/US11374838B1/en active Active
-
2022
- 2022-03-11 CN CN202210238246.7A patent/CN115150278B/zh active Active
- 2022-03-24 DE DE102022202878.3A patent/DE102022202878A1/de active Pending
Patent Citations (24)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20020040396A1 (en) * | 2000-09-29 | 2002-04-04 | Kddi Corporation | Management device and managed device in policy based management system |
| US20050108518A1 (en) * | 2003-06-10 | 2005-05-19 | Pandya Ashish A. | Runtime adaptable security processor |
| CN101682526A (zh) * | 2007-03-12 | 2010-03-24 | 思杰系统有限公司 | 用于配置、应用和管理网络装置的面向对象策略表达式的系统和方法 |
| WO2009107117A2 (en) * | 2008-02-28 | 2009-09-03 | Alcatel Lucent | Compressed ip flow recognition for in-line integrated mobile dpi |
| US20130117847A1 (en) * | 2011-11-07 | 2013-05-09 | William G. Friedman | Streaming Method and System for Processing Network Metadata |
| WO2013078824A1 (zh) * | 2011-11-30 | 2013-06-06 | 华为技术有限公司 | 实现网卡卸载功能的方法、网卡、主机系统及网络设备 |
| US20140122834A1 (en) * | 2012-10-30 | 2014-05-01 | Mrittika Ganguli | Generating And Communicating Platform Event Digests From A Processor Of A System |
| US20150332145A1 (en) * | 2014-05-13 | 2015-11-19 | Cisco Technology, Inc. | Traffic shaping based on predicted network resources |
| CN104883362A (zh) * | 2015-05-11 | 2015-09-02 | 北京交通大学 | 异常访问行为控制方法及装置 |
| US20170126725A1 (en) * | 2015-11-04 | 2017-05-04 | Avaya Inc. | Selective traffic analysis at a communication network edge |
| US20170201537A1 (en) * | 2016-01-08 | 2017-07-13 | Belden, Inc. | Method and protection apparatus to prevent malicious information communication in ip networks by exploiting benign networking protocols |
| US20170245170A1 (en) * | 2016-02-24 | 2017-08-24 | Cisco Technology, Inc. | Dynamic Application QoS Profile Provisioning |
| US20180159898A1 (en) * | 2016-12-01 | 2018-06-07 | Gigamon Inc. | Analysis of network traffic rules at a network visibility node |
| US20200043128A1 (en) * | 2016-12-28 | 2020-02-06 | Daegu Gyeongbuk Institute Of Science And Technology | Processing system for graphs and operating method thereof |
| CN110521179A (zh) * | 2017-03-22 | 2019-11-29 | 赛门铁克公司 | 用于强制执行动态网络安全策略的系统和方法 |
| EP3382989A1 (en) * | 2017-03-31 | 2018-10-03 | Solarflare Communications Inc | Network interface device |
| US20190012350A1 (en) * | 2017-07-10 | 2019-01-10 | Fungible, Inc. | Data processing unit for stream processing |
| KR101859740B1 (ko) * | 2017-11-24 | 2018-05-21 | 주식회사 나온웍스 | 산업용 네트워크 프로토콜의 데이터 분석 및 학습을 통한 네트워크 보안 방법 및 이를 이용한 네트워크 보안 장치 |
| US20190288937A1 (en) * | 2018-03-15 | 2019-09-19 | Interdigital Ce Patent Holdings | Method and device for sending data packets on a first and a second links |
| US20200021532A1 (en) * | 2018-07-10 | 2020-01-16 | Cisco Technology, Inc. | Automatic rate limiting based on explicit network congestion notification in smart network interface card |
| CN112567698A (zh) * | 2018-08-21 | 2021-03-26 | 思科技术公司 | 多云服务网格中的服务业务复制和动态策略实施 |
| US20190068507A1 (en) * | 2018-10-30 | 2019-02-28 | Intel Corporation | Techniques for packet transmit scheduling |
| US20200371842A1 (en) * | 2019-05-24 | 2020-11-26 | Microsoft Technology Licensing, Llc | Third-party hardware integration in virtual networks |
| WO2020256210A1 (ko) * | 2019-06-20 | 2020-12-24 | 주식회사 쿼드마이너 | 네트워크 포렌식 시스템 및 이를 이용한 네트워크 포렌식 방법 |
Also Published As
| Publication number | Publication date |
|---|---|
| US11374838B1 (en) | 2022-06-28 |
| CN115150278B (zh) | 2024-09-20 |
| DE102022202878A1 (de) | 2022-09-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11979430B2 (en) | Network telemetry collection with packet metadata filtering | |
| US8149705B2 (en) | Packet communications unit | |
| US9009830B2 (en) | Inline intrusion detection | |
| EP3382989A1 (en) | Network interface device | |
| US20210194894A1 (en) | Packet metadata capture in a software-defined network | |
| US9356844B2 (en) | Efficient application recognition in network traffic | |
| US20060268876A1 (en) | Packet classification acceleration using spectral analysis | |
| US20190356564A1 (en) | Mode determining apparatus, method, network system, and program | |
| US9319322B2 (en) | Network device and method for processing traffic using multi-network interface card | |
| EP3890279A1 (en) | Network information transmission system | |
| US20210409316A1 (en) | Methods and systems for classifying traffic flows based on packet processing metadata | |
| US20170041242A1 (en) | Network system, communication analysis method and analysis apparatus | |
| CN111611280A (zh) | 一种基于cnn和sae的加密流量识别方法 | |
| CN115150278B (zh) | 使用数据处理单元(dpu)作为基于图形处理单元(gpu)的机器学习的预处理器 | |
| CN108667804B (zh) | 一种基于SDN架构的DDoS攻击检测及防护方法和系统 | |
| US20210105319A1 (en) | Identification of a protocol of a data stream | |
| Singh | Machine learning in openflow network: comparative analysis of DDoS detection techniques. | |
| CN105099799A (zh) | 僵尸网络检测方法和控制器 | |
| KR102016626B1 (ko) | 점보 프레임을 이용하는 고속 저지연 네트워크 인터페이스 장치 | |
| WO2019235403A1 (ja) | 感染拡大攻撃検知システム及び方法、並びに、プログラム | |
| Chang et al. | Enabling malware detection with machine learning on programmable switch | |
| CN116264520A (zh) | 使用数据处理单元的人工智能支持的网络遥测 | |
| Leira et al. | Multimedia flow classification at 10 Gbps using acceleration techniques on commodity hardware | |
| Wang et al. | Supporting Large Random Forests in the Pipelines of a Hardware Switch to Classify Packets at 100 Gbps Line Rate | |
| Vrána et al. | Acceleration of Feature Extraction for Real-Time Analysis of Encrypted Network Traffic |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant |