CN109691038A - 时间敏感的软件定义的网络 - Google Patents
时间敏感的软件定义的网络 Download PDFInfo
- Publication number
- CN109691038A CN109691038A CN201780056021.7A CN201780056021A CN109691038A CN 109691038 A CN109691038 A CN 109691038A CN 201780056021 A CN201780056021 A CN 201780056021A CN 109691038 A CN109691038 A CN 109691038A
- Authority
- CN
- China
- Prior art keywords
- network
- time
- equipment
- sensitive
- data grouping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/12—Shortest path evaluation
- H04L45/121—Shortest path evaluation by minimising delays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/12—Shortest path evaluation
- H04L45/123—Evaluation of link metrics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/302—Route determination based on requested QoS
- H04L45/306—Route determination based on the nature of the carried application
- H04L45/3065—Route determination based on the nature of the carried application for real time traffic
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/42—Centralised routing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/64—Routing or path finding of packets in data switching networks using an overlay routing layer
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
公开了一种用于确定通过网络的网络路径的系统和方法,该网络由结合时间管理的软件定义网络(Ts SDN)控制器管理。在一些实施例中,SDN控制器可以确定源自发送设备并且指向接收设备的数据分组与以下之一相关联:时间敏感、时间感知或尽力特性。然后,控制器可以确定用于将数据分组从发送设备运输到接收设备的网络路径,该运输具有有保证的端到端延迟以满足所述特征。端到端延迟考虑在发送设备的应用层被过渡之后数据分组经过的每一层的等待时间。然后,数据分组经由网络路径从发送设备发送到接收设备。
Description
相关申请的交叉引用
本申请要求于2017年7月19日提交的标题为“Time Sensitive Software DefinedNetwork”的美国临时申请序列第62/364,313号的优先权和权益,其全部内容通过引用并入本文。
背景技术
通信网络(或简称为网络)实现例如计算机、计算机和外围设备以及其它设备之间的数据通信。不同领域对数据通信有不同的要求。例如,在工业领域中,物理处理具有严格的定时要求,出于安全和其它原因而需要对其进行控制和监视。以高速奶酪切片系统为例,其中高速刀片切割被马达驱动的奶酪块送料器向前推的一块奶酪。由分析奶酪块中的孔的扫描系统确定奶酪块进料器需要向前推多少。为了使奶酪切片系统生产出大致相同重量的奶酪切片,刀片的运动必须与奶酪块的移动同步。在这个系统中即使小的延迟(或者在处理中或者在网络中)也会意味着奶酪切片的重量不均匀,从而导致浪费和生产力损失。类似地,在汽车领域中,实现安全特征(例如,自动制动)和实现自主驾驶的安全关键应用也对通信具有严格的定时要求。系统中任何未解决的延迟都会产生严重的安全隐患。
在工业和汽车领域中,将以太网技术用于网络骨干以支持物联网(IoT)/工业物联网(IIoT)连接性有更大的期望,以受益于远程监视和管理、集中分析等。但是,以太网标准无法保证关键数据将及时通过网络从设备A输送送到设备B-这对于工业和汽车应用都是关键要求。提供完全确定性的以太网流量实时输送的时间敏感联网(TSN)是可以满足工业和汽车应用要求的解决方案。
发明内容
在示例性实施例中,一种用于确定通过网络的网络路径的系统包括:结合时域的软件定义联网(SDN)控制器,其中SDN控制器在一个或多个分布式硬件上执行;以及网络,包括多个用于转发数据分组的时间敏感和非时间敏感的网络设备。SDN控制器被配置为通过确定数据分组与以下之一相关联来管理网络:时间敏感、时间感知或尽力时间敏感性特征,数据分组源自发送设备并且要被输送到接收设备,确定用于将数据分组从发送设备运输到接收设备的网络路径,其具有有保证的端到端延迟以满足时间敏感性特征,以及经由网络路径从发送设备向接收设备发送数据分组。用于数据分组的端到端延迟可以考虑数据分组在发送设备的应用层显现(conjured)之后经过的每一层过渡(transition)的等待时间。
在另一个示例性实施例中,一种用于通过包括时间敏感和非时间敏感的网络设备的网络基础设施发送时间敏感数据分组的方法,包括由时间敏感软件定义的网络(TsSDN)控制器接收对于跨包括时间敏感和非时间敏感的网络设备的网络基础设施将源自第一实体的时间敏感数据分组输送到第二实体的定时要求。该方法还包括仅使用时间敏感的网络设备中的一个或多个确定通过网络基础设施的第一网络路径,所述第一网络路径具有可预测的等待时间,所述等待时间使得用于时间敏感数据分组的端到端延迟小于与时间敏感数据分组相关联的定时要求,以及将时间敏感数据分组从第一实体通过第一网络路径发送到第二实体。时间敏感数据分组可以在第一和第二实体中的每一个处经过应用层、操作系统堆栈、控制平面和数据平面。用于数据分组的端到端延迟可以考虑数据分组在发送设备的应用层显现之后经过的每一层过渡的等待时间。
在一些实例中,TsSDN控制器可以接收源自第一实体的数据分组,并且基于从第一实体检测到的流预留协议活动来确定该数据分组是包括时间敏感数据的时间敏感数据分组。响应于确定数据分组是要在网络设备处接收的新类型的数据分组,可以由网络基础设施中的网络设备向TsSDN控制器报告数据分组。
在一些实例中,第一和第二实体包括物理设备、托管在机器上的虚拟设备,或托管在一个或多个分布式机器上的服务。
在一些实例中,TsSDN控制器可以经由网络应用接收定时要求,其中网络应用经由应用编程接口与TsSDN控制器接口。
在一些实例中,时间敏感数据分组是流的一部分,并且与该流相关联的所有时间敏感数据分组都通过相同的第一网络路径发送。
在一些实例中,TsSDN控制器可以基于分组的内容确定源自第一设备的数据分组是时间敏感的数据分组。
在一些实例中,TsSDN控制器可以是软件定义网络(SDN)控制器,其具有能够区分时间敏感、时间感知或尽力的数据分组的时间管理模块。
在一些实例中,TsSDN控制器可以是具有时间敏感网络(TSN)应用的软件定义网络(SDN)控制器,所述TSN应用能够配置时间敏感的网络设备以保留TSN建立的时域。
在一些实例中,TsSDN控制器可以是具有实现链路状态协议的时间敏感多路径路由模块的软件定义网络(SDN)控制器,其中链路状态协议使用等开销多树(ECMT)算法来计算基于时间敏感性和网络负载的最高效路径。
在一些实例中,TsSDN控制器可以接收要跨网络基础设施从第一实体输送到第三实体的数据分组。控制器可以基于与数据分组相关联的网络配置信息来确定数据分组是包括时间感知数据的时间感知数据分组。控制器还可以使用时间敏感的网络设备和非时间敏感的网络设备中的一个或多个来确定通过网络基础设施的第二网络路径,其中网络路径具有可预测的等待时间,该等待时间使得用于时间感知数据分组的端到端延迟小于与时间感知数据分组相关联的定时要求,并且将时间感知数据分组从第一实体通过第二网络路径发送到第三实体。
在一些实例中,网络配置信息包括以下当中的至少一个:服务质量(QoS)或虚拟局域网(VLAN)组ID。
在一些实例中,TsSDN控制器可以接收将跨网络基础设施从第一实体输送到第四实体的数据分组,基于流预留协议活动的缺少和服务质量来确定数据分组是没有时间敏感性或时间感知的尽力数据分组,仅使用非时间敏感的网络设备中的一个或多个确定通过网络基础设施输送尽力数据分组的第三网络路径,并从第一实体通过第三网络路径向第四实体发送尽力数据分组。
在一些实例中,第一和第二实体中的每一个可以是工业自动化系统中的实体。
在一些实例中,第一和第二实体中的每一个可以是车辆自动化系统中的实体。
在另一个示例性实施例中,一种其上存储有指令序列的非瞬态计算机可读介质,当指令序列由一个或多个机器执行时,使得机器接收用于将源自第一实体的时间敏感数据分组通过包括时间敏感和非时间敏感的网络设备的网络基础设施输送到第二实体的定时要求,仅使用时间敏感的网络设备中的一个或多个确定通过网络基础设施的第一网络路径,所述第一网络路径具有可预测的等待时间,其使得用于时间敏感数据分组的端到端延迟小于与时间敏感数据分组相关联的定时要求,以及将时间敏感数据分组从第一实体通过第一网络路径发送到第二实体。时间敏感数据分组可以在第一和第二实体中的每一个处经过应用层、操作系统堆栈、控制平面和数据平面。用于数据分组的端到端延迟可以考虑数据分组在发送设备的应用层显现之后经过的每一层过渡的等待时间。
在另一个示例性实施例中,一种用于通过包括时间敏感和非时间敏感的网络设备的网络基础设施发送数据分组的方法可以包括由时间敏感的软件定义网络(TsSDN)控制器接收对于从讲话者设备到收听者设备的通信的定时要求以及来自多个网络设备的网络负载信息。控制器可以基于定时要求和网络负载信息确定通过网络基础设施的网络路径,其中网络路径具有可预测的等待时间,该等待时间使得用于通信的端到端延迟满足定时要求。控制器可以对网络路径中的多个网络设备中的一个或多个进行编程以预留带宽,以保证从讲话者设备到收听者设备的通信的定时要求,并且通过网络路径将数据分组从讲话者设备发送到收听者设备。
在一些实例中,可以在从讲话者设备到TsSDN控制器的请求中指定定时要求。
在一些实例中,控制器可以从讲话者设备和收听者设备中的每一个接收设备延迟。
在一些实例中,可以基于从讲话者和收听者设备接收的设备延迟以及与网络路径中的多个网络设备中的一个或多个相关联的网络设备延迟来计算端到端延迟。
在一些实例中,设备延迟可以是数据分组在其经过讲话者或收听者设备的应用层、操作系统堆栈、控制平面和设备平面时经历的延迟的总和。
在一些实例中,讲话者设备和收听者设备可以包括托管在机器上的物理设备或虚拟设备。
在一些实例中,TsSDN控制器可以是具有时间管理模块的软件定义网络(SDN)控制器。
在一些实例中,讲话者和收听者设备中的每一个可以是工业自动化系统设备。
在一些实例中,讲话者和收听者设备中的每一个可以是车辆自动化系统设备。
在另一个示例性实施例中,一种其上存储有指令的非瞬态计算机可读介质,当所述指令由一个或多个机器执行时,使得机器接收对于从讲话者设备到收听者设备的通信的定时要求以及来自多个网络设备的网络负载信息,基于定时要求和网络负载信息确定通过网络基础设施的网络路径,其中网络路径具有可预测的等待时间,所述等待时间使得用于通信的端到端延迟满足定时要求,对网络路径中的多个网络设备中的一个或多个进行编程以预留带宽,以保证从讲话者设备到收听者设备的通信的定时要求,并且通过网络路径将数据分组从讲话者设备发送到收听者设备。
在另一个示例性实施例中,一种确定在时间敏感的软件定义网络中从讲话者设备到收听者设备的最短路径的方法可以包括使用Dijkstra算法来计算在时间敏感的软件定义网络中从讲话者设备到收听者设备的所有可能路径的开销以确定具有最小开销的网络路径,沿着从讲话者设备到收听者设备的网络路径检测链路上负载的增加,响应于检测到负载的增加而动态地更新链路的开销以包括基于负载的开销,并使用Dijkstra算法重新计算从讲话者设备到收听者设备的所有可能路径的开销以确定从讲话者设备到收听者设备的最短路径,其中最短路径与具有最小开销的网络路径对应。
在一些实例中,从讲话者设备到收听者设备的所有可能路径可以包括仅通过时间敏感的网络设备的路径,其中时间敏感的软件定义网络包括时间敏感的和非时间敏感的网络设备。
在一些实例中,可以监视跨时间敏感的网络设备的时间敏感的流以检测新流向时间敏感的网络设备的添加,作为响应,可以调整到时间敏感的网络设备的链路的开销,并且可以执行重新计算以确定从讲话者设备到收听者设备的最短路径。
在一些其它实例中,可以监视跨时间敏感的网络设备的时间敏感流以检测时间敏感的网络设备何时超过通过它的流的阈值数量,作为响应,可以调整到时间敏感的网络设备的链路的开销,并且可以执行重新计算以确定最短路径。
在一些实例中,从讲话者设备到收听者设备的所有可能路径可以包括仅通过非时间敏感的网络设备的路径,其中时间敏感的软件定义网络包括时间敏感的和非时间敏感的网络设备。
在一些实例中,Dijkstra算法可以在逻辑上集中的时间敏感的软件定义网络控制器上实现。
在一些实例中,可以基于由TsSDN控制器接收的信息(例如,来自与OpenFlow或统计监视模块相关联的诊断服务)来检测链路上负载的增加。
在另一个示例性实施例中,一种其上存储有指令的非瞬态计算机可读介质,当所述指令由一个或多个机器执行时,使得机器在时间敏感的软件定义网络中确定从讲话者设备到收听者设备的最短路径,该方法可以包括使用Dijkstra算法来计算在时间敏感的软件定义网络中从讲话者设备到收听者设备的所有可能路径的开销以确定具有最小开销的网络路径,沿着从讲话者设备到收听者设备的网络路径检测链路上负载的增加,响应于检测到负载的增加而动态地更新链路的开销以包括基于负载的开销,并使用Dijkstra算法重新计算从讲话者设备到收听者设备的所有可能路径的开销以确定用于从讲话者设备到收听者设备的数据分组运输的最短路径,其中最短路径与具有最小开销的网络路径对应。
附图说明
图1A是图示与软件定义联网(“SDN”)相比的传统联网的框图。
图1B是图示与SDN设备实现相比的传统网络设备实现的框图。
图1C是图示SDN体系架构的框图。
图1D是图示SDN控制器的示例部件的框图。
图2是图示根据一些实施例的工业SDN控制域的框图。
图3A是图示根据第一实施例的时间敏感SDN(TsSDN)控制器的示例部件的框图。
图3B是图示根据第二实施例的TsSDN控制器的示例部件的框图。
图3C是图示根据第三实施例的TsSDN控制器的示例部件的框图。
图3D是图示根据第三实施例的、由TsSDN控制器确定的替代最短路径的框图。
图3E是图示根据一些实施例的各种类型的流量的多路径路由的框图。
图3E和3F是图示根据一些实施例的经修改的Dijkstra算法的实现的框图,该算法考虑基于负载和等待时间的开销以确定通过网络的最短路径。
图3G是图示根据一些实施例的、由TsSDN控制器管理的基础设施设备的框图。
图4是图示通过基础设施的网络路径的发现的框图,该基础设施包括时间敏感网络(TSN)和非TSN设备的混合,用于以有保证的确定性性能输送时间敏感数据。
图5是图示时间敏感和非时间敏感通信的处理的框图。
图6A、6B和6C是图示分别通过包括时间敏感和非时间敏感的网络设备的网络基础设施发送时间敏感、时间感知和尽力数据分组的示例方法的逻辑流程图。
图6D是图示通过预留的网络路径发送分组流以保证指定的定时要求的示例方法的逻辑流程图。
图7示出了计算机系统的示例形式的机器的图形表示,在该计算机系统中可以执行用于使机器执行本文讨论的任何一种或多种方法的指令集。
具体实施方式
本公开描述了用于在结合时间管理或时域的软件定义网络(SDN)中处理具有时间敏感、时间感知和尽力特征的消息的系统和方法。这种时间敏感的SDN(TsSDN)可以包括时间敏感以及非时间敏感的网络设备。在一些实施例中,TsSDN控制器可以通过确定源自发送设备并且要被输送到接收设备的数据分组是否与以下之一相关联来管理网络:时间敏感、时间感知或尽力特征。然后,TsSDN控制器可以确定用于以有保证的端到端延迟将数据分组从发送设备运输到接收设备的网络路径,以满足该特征。然后,数据分组可以经由网络路径从发送设备发送到接收设备。在一些实施例中,用于数据分组的端到端延迟考虑数据分组在发送设备的应用层被过渡之后经过的每一层的等待时间。具体而言,可以基于在发送和接收设备中的应用和堆栈层处遇到的设备延迟以及TsSDN控制器所在的控制平面和转发数据分组的网络设备所在的数据平面中的延迟来确定端到端延迟。
现在将详细描述TsSDN网络的这些和其它实施例和方面及其优点。
1.软件定义网络(SDN)
工业控制系统网络体系架构本质上是复杂且分层的。典型的工业控制系统使用联网级别的层次结构将关注点(concern)分离为分层的体系架构。例如,ICS网络体系架构可以包括设备网络、控制网络、企业网络和办公室网络。在最低级别,体系架构被分段为功能单元,其中诸如PLC之类的每个工业设备具有明确定义的影响范围。这是复杂且难以管理的,因为设备之间和跨级别的连接受到严格控制。这个解决方案需要通过单独的物理网络或虚拟局域网(VLAN)和网关实现的多个子网,这些子网需要困难的手动配置。实现和维护这些网络需要高联网技能程度,这在安装时常常是不可用的。
在考虑以太网交换技术时,有两个值得关注的领域-控制平面和数据平面。数据平面是流经交换机的流量。控制平面涉及交换机的管理和配置,以控制数据流量如何被定向、整形或分段到网络的各个部分。在工业自动化中常见的传统交换技术(参考图1A和图1B描述)中,每个交换机管理其自己的控制平面。因此,每个交换机都是单独配置的,并且与其相邻的交换机在某种程度上自主地起作用。这难以管理并且诸如VLAN和服务质量(QoS)之类的系统范围的参数必须小心地单独应用于每个交换机。
SDN呈现了这种体系架构的替代方案。SDN是一种网络体系架构,其中做出关于发送流量的位置的决定的系统(即,控制平面)与将流量转发到所选择的目的地(即,数据平面)的底层系统解耦。简单来说,SDN使网络可编程。利用SDN,网络管理员可以通过更高级别的功能的抽象来管理网络服务。
SDN体系架构是基于三个基本原理的分层体系架构:
(1)控制和数据平面的解耦:这个原理允许转发机制与网络资源控制的单独演进。换句话说,网络控制在抽象的转发机制上操作,从而允许网络元素成为商品。
(2)逻辑集中的控制:在SDN视图中,控制器是网络元素的编排器(orchestrator)。逻辑集中的控制是指网络基础设施作为整体实体的视图,使SDN控制器对所有网络资源进行全局控制,即,控制器表现为中央管理和控制实体。
(3)抽象的网络资源和状态向外部应用的暴露:作为虚拟功能的网络是这一原理背后的主要驱动力。控制和数据平面的分离允许SDN控制器向其它控制器或应用提供网络抽象,这是网络及其元素的递归抽象。
图1A是图示与SDN相比的传统联网的框图。图1B是图示与SDN设备实现相比的传统网络设备实现的框图。
传统的联网体系架构包括专用联网设备102,诸如但不限于:由各种供应商提供的路由器、交换机、防火墙等,其中控制平面105和数据平面110都在同一设备上。而且,多供应商联网基础设施保证使用供应商专有接口单独管理每个设备,从而使供应、维护和取消调试非常耗时且开销高昂。使用专用硬件,有时甚至是定制协议,保证联网特征实现和可用性由供应商规定。它还遵循供应商的业务模型和产品生命周期,而不是网络部署需求。例如,在图1A中,交换机102a、102b和102c每个都可以分别需要其自己的专有应用和配置接口104a、104b和104c。
与传统联网相比,SDN的特征在于网络控制和转发功能的分离。网络控制或智能在逻辑上集中在SDN控制器120中,这使得网络管理员能够动态调整网络范围的流量流以满足不断变化的需求。而且,即使在基于软件的SDN控制器维护网络的全局视图时,它对于应用106、策略引擎和/或其它实体看起来也是单个逻辑实体。当通过开放标准(例如,OpenFlow)实现时,SDN简化了网络设计和操作,因为指令由SDN控制器120而不是多个特定于供应商的设备和协议提供。SDN控制器120直接控制物理网络设备108a以及托管在服务器或其它硬件上的软件网络设备108b(例如,Open vSwitch)。
参考图1B,在诸如路由器或交换机之类的典型联网设备102中,所有智能都在设备本身中。设备通常在三个平面中实现:数据平面110a、控制平面105a和管理平面115a。数据平面110a是负责移动分组的层,并且通常在具有固定转发方法的提供商专有硬件中实现。控制平面105a是负责配置转发决定以及与其它设备交换那些决定的层。它可以在具有特定于供应商的协议和特征的硬件和/或固件中实现。这种类型的实现导致存在复杂且专用的联网设备。管理平面115是提供管理接口的层,并且通常以命令行接口(CLI)的形式实现为软件。CLI实现是供应商特定的,并且因此难以在多供应商环境中自动化。因此,传统的联网设备102需要专有的应用和配置104来进行操作。
与传统的联网设备102相反,SDN中的主要方法是控制平面和数据平面的分离,并且通常利用开放协议将它们连接起来。这种方法允许控制平面协议和要求与数据平面分开部署,从而创建用于一般化的开口。
在SDN设备实现108中,控制平面可以在通用CPU上实现,因此降低了联网硬件的复杂性并且去除了固件中协议的复杂实现。此外,控制平面不再绑定到特定联网设备,因此可以整合所有设备的控制平面。这种整合是所谓的SDN控制器120。是SDN控制器120提供了集中的网络智能并且能够实现网络的整体视图。SDN设备108中的管理平面115b是SDN应用本身。这是SDN的可编程部分,并且旨在提供网络管理的自由和特定于用户的网络需求的设计。
基于“OpenFlow”的SDN的一个方面是数据平面110b对流而不是静态查找表(如交换机中的MAC表或路由器中的路由表)进行操作。SDN中的流最好描述为用于分组交换的模式匹配规则。OpenFlow是供应商中立标准,是SDN控制器用于对底层数据平面硬件进行编程的最常用协议之一。这种将控制协议的复杂性降低到一个协议并使用高速存储器(诸如三元内容可寻址存储器(TCAM))实现基于流的查找的原理可以导致基础设施设备的简化和商品化的硬件。
SDN控制器120的目的是将网络控制与数据路径分离并提供网络服务的抽象。如图1C中所示,SDN控制器是网络应用或SDN应用106与包括网络元件108的底层网络基础设施之间的中介。
在控制平面105a中,SDN控制器120实现应用-控制器平面接口(A-CPI)并向SDN控制器的用户暴露北向接口(NBI)或API 125以开发网络中心应用而无需担心网络实现细节。
控制平面105a是SDN控制器120本身。这个平面表示SDN网络的中心智能。虽然SDN控制器120可以物理地分布,但是它在这个平面中在逻辑上集中。控制器的详细体系架构是特定于实现的,但是一般而言,SDN控制器230实现数据-控制器平面接口(D-CPI)并且暴露南向API 130以与驻留在数据平面110b中的网络元素或设备108通信并直接控制它们。
当前的SDN控制器格局可以被划分为开源和专有控制器。开源主要针对通用特征丰富的SDN控制器,而专有控制器则面向具体应用。对于互操作性,SDN控制器最好与供应商无关。SDN控制器的非限制性示例包括提供许多网络服务的OpenDaylight(ODL)以及提供高性能的南向协议和ONOS。
控制平面由SDN控制器集中管理,该控制平面将配置发放(dole out)给各个交换机或网络设备。但对于支持SDN的交换机,这种配置可以更加通用,并提供对流的控制的测量,这是利用常规交换机之前从来都不可能的。这个控制允许两个设备之间的通信流被挑出并在整个网络中随意指向。例如,考虑两个设备之间的两个不同的同时通信流,例如HTTP和Modbus TCP。利用SDN,两个流可以通过网络被指引通过非常不同的路径。Modbus TCP可以在两个设备之间采用直接路径,而HTTP可以通过虚拟防火墙被指引到云平台中,然后指引到另一个设备上。这对于常规交换机是不可能的,因为这些交换机不能看到消息的内容,并且被降级为对两个设备之间的通信的全有或全无控制。
对流的这种控制级别避免了对当今工业网络中使用的分层和分段体系架构的需求。因而,通过被SDN控制器启用,可以单独控制每个流以实现简单的扁平网络,以供在相同拓扑级别连接的所有设备使用。
流的控制的粒度级别的一个优点是提高了安全级别,因为仅允许批准的流进入该段。这种控制流的能力也可以用于网络和设备冗余。对于网络冗余,SDN控制器可以围绕已关闭或正在经历某种性能下降的链路重定向流。可以使用相同的能力来对网络链路进行负载平衡。
以这种方式,SDN可以在网络内提供对流的前所未有的控制,从而实现用在ICS中的扁平网络体系架构。SDN控制器可以管理网络中的流,以提供先前通过复杂的分层拓扑实现的必要的流分离,从而实现ICS中更简单和更容易管理的扁平体系架构。
已经提出或可以在市场上获得许多不同的SDN控制器,并且如前所述,SDN控制器的体系架构是特定于实现的,其中不同的控制器具有不同的部件和特性集。具有示例部件集的SDN控制器120在图1D中示出。一些SDN控制器包括服务层抽象(SLA)136,其支持若干不同南向API(例如,OpenFlow、OVSDB)和协议(例如,SNMP、NETCONF)的共存。所有SDN控制器都包括某种形式的SDN控制逻辑122,其利用由诸如设备管理器124、拓扑管理器126、统计管理器128、通知模块132、安全模块134等部件提供的网络控制功能。设备管理器124可以管理网络中的设备。例如,设备管理器124可以检测何时将设备添加到网络或从网络移除。拓扑管理器126可以检测网络中的拓扑改变并维护网络的最新拓扑。统计管理器128可以收集与网络功能和设备的监视相关的统计数据(例如,由转发设备生成的流统计数据)。通知模块132例如可以关于事件(例如,警报通知、状态改变)接收、处理和采取动作。安全模块可以提供安全实施。
图2是图示根据一些实施例的工业SDN控制域的框图。SDN可以部署在工业环境中,以管理工业网络和设备。除了真实的物理网络设备和真实的物理工业设备之外,基础设施层110b还可以具有虚拟网络设备和虚拟工业设备。虚拟环境202中描绘的设备是物理设备的虚拟化实例,包括诸如交换机、路由器、防火墙等网络设备208,以及诸如PC 202、PLC 206等其它设备。它们经由虚拟链路连接。具有虚拟链路的虚拟设备的网络被称为虚拟化网络。虚拟设备和网络驻留在云计算环境212中的物理服务器节点上,云计算环境212提供计算、存储、身份和联网资源。云计算环境212是真实网络的一部分。这意味着真实网络和虚拟化网络互连以形成SDN控制器的控制域。
工业领域中的一些基础设施设备将基础设施和终端设备集成到一个设备中。例如,PLC充当PLC和交换机。照此,这些类型的工业设备适于由SDN控制器直接管理。为了由SDN控制器管理,设备应当实现所选择的SDN控制器的至少一个南向接口。一个示例解决方案是让这种设备实现OpenFlow或类似协议。在工业设备级实现OpenFlow会将SDN控制带到设备级别。
2.时间敏感网络(TSN)
时间敏感网络(TSN)是驱动完全确定性实时通信的主要技术集之一。TSN通过使用集中控制、时间同步和调度来实现确定性的实时通信。在TSN网络中,基于时间表和优先级发送消息或数据分组,以保证最大有界等待时间和可靠性。由此,TSN技术可以使控制应用(诸如工业和汽车领域中的控制应用)通过标准以太网基础设施发送时间关键数据,从而避免需要专用协议来处理实时数据。
在经典网络设备体系架构具有以下各点的意义上,基础设施设备遵循经典网络设备体系架构:
(i)数据平面-实际转发发生的地方
(ii)控制平面-配置转发决定的地方
(iii)管理平面-设备由其所有者管理的地方
然后可以基于设备网络能力和目的来表征基础设施。从网络角度来看,有以下类型的设备:
(i)边缘设备-产生和/或消费数据的设备,诸如PLC和I/O。
(ii)运输设备-仅通过网络转发数据的设备,如交换机和路由器
(iii)网络服务设备-执行数据处理和转发的设备,诸如DPI
基于上述设备分类,关于基础设施的整个会话实际上可以被变换为关于数据的会话,其中基础设施运输支配数据分发的策略。
数据(例如,在工业领域中、在汽车领域中)可以被描述为:
(i)时间敏感数据(TSD)-这种类型的数据需要可靠且即时地从生产者输送到消费者。照此,它需要具有六个不错的可靠性的端到端时间感知。这种类型的数据的应用响应时间(ART)通常被视为小于1ms。
(ii)时间感知数据(TAD)-这种类型的数据预计具有确定性质量。虽然它不是时间敏感的,但是由于具有超时概念,因此是时间感知的。这种类型的数据的ART大约在毫秒范围内。
(iii)尽力数据(BED)-这种类型的数据是非必要信息,可以通过尽力服务简单地翻译成一般网络流量。
以上数据类型可以与以下联网标准相关联:
(i)TSN(IEEE 802.1AS-rev、IEEE 802.1Qbv、IEEE 802.1Qbu、IEEE 802.1Qca、IEEE 802.1CB、IEEE 802.1Qcc、IEEE 802.1Qci、IEEE 802.1Qch):控制和支配时间敏感的数据
(ii)QoS(IEEE 802.1Q、IEEE 802.1P):控制和支配时间感知数据和尽力数据
3.时间敏感SDN(TsSDN)
虽然SDN允许对网络资源和流进行前所未有的粒度控制,但它没有时间的概念。SDN控制器可以实现常规的时间戳机制,用于在接收或发送每个消息时给每个消息加时间戳。但是,这种机制在它们无法解释或理解时间的含义上没有时间的概念。例如,SDN控制器/设备不能拒绝在午夜之后接收的分组,或者允许分组在凌晨1点到凌晨4点之间经过网络设备。类似地,SDN控制器可以确定通过网络基础设施的路径,但这种路径不考虑要发送的数据是时间敏感的、时间感知的还是尽力的。
根据本公开,可以通过将时域管理集成到SDN控制器中以创建时间敏感的SDN(TsSDN)控制器来克服SDN技术的这种限制。在图3A中描绘了根据第一实施例的TsSDN控制器的示例部件。TsSDN控制器325A包括具有设备管理器324、拓扑管理器326、统计管理器328、通知模块332和安全模块334的TsSDN控制逻辑322A。这些部件具有与图1D的SDN控制器120的部件类似/相同的功能。TsSDN控制逻辑322A还包括负责带来时间感知的时间管理模块338。时间管理模块338可以具有用于与应用接口的北向接口和用于与网络设备接口的南向接口。
将时间感知带入SDN控制器不一定意味着TSN要求的完全实现(即,整套TSN协议)。在一些实施例中,时间感知可以包括区分时间敏感的流(用于OpenFlow实现)或数据与不是时间敏感的流或数据的能力。然后,TsSDN控制器能够将时间敏感路径与一般流量路径分开,从而创建适当的覆盖以适应设备能力在时间感知方面的差异。以这种方式,TsSDN控制器可以通过使用TSN技术的原理来提供ART的端到端管理,包括集中管理和全球时间以及时间感知。因此,TsSDN将能够保证跨越具有TSN能力的设备(或TSN设备)的网络的消息运输,其中TSN设备具有有界低延迟、低分组延迟变化和低分组丢失。如本文所使用地,具有TSN能力的设备是包括支持或实现TSN协议中的一些或全部的网络设备的设备。在一些实施例中,参考图6A-6D描述由时间管理模块338实现的示例方法。
TSN包括实现与控制和支配时间敏感数据相关的TSN协议的TSN设备或实体。虽然TSN技术在特殊TSN配置器可以配置整个TSN的方向上快速发展,但是该技术仍然依赖于遵循具体标准定义的具体硬件以及使用预定义协议和一种专用网络在TSN实体之间的信息交换。另一方面,TsSDN控制器接管设备的控制平面的职责。例如,TsSDN控制器可以代表所有设备实现SRP。类似地,可以扩展作为SDN协议的OpenFlow,以满足TSN协议库。通过适当的功能合并,可以创建TsOpenFlow,以直接从TsSDN控制器配置TSN设备的所有方面。
图3B图示了根据第二实施例的TsSDN控制器325B的示例部件。在这个实施例中,SDN控制器可以通过扩展控制器(例如,Open Daylight)来与TSN应用342集成以实现TSN应用342,TSN应用342使用南向接口来直接感测和控制TSN设备的能力。在这种情况下,OpenFlow协议不能用于实现时域,而是用于以保留TSN建立的时域的方式配置TSN设备。
图3C图示了根据第三实施例的TsSDN控制器325C的示例部件。在这个实施例中,可以提供时间敏感的多路径路由模块344,用于集中计算用于路由的最有效路径,从而提供冗余并提高整个Ts-SDN控制网络的可靠性。模块344可以实现任何链路状态协议(诸如最短路径桥接协议(SPB)、许多链路的透明互连(TRILL)等),并使用诸如等开销多树(ECMT)、Dijkstra算法和/或流量工程之类的技术来基于时间敏感性和/或网络负载确定或计算最高效的路径。时间敏感多路径路由模块344的一个具体实现可以是时间敏感的SPB模块(Ts-SPB模块),其实现最短路径桥接(SPB)协议。SPB协议是IEEE 802.1aq标准中规定的标准化协议,其创建网络实体之间的最短通信路径。在标准网络中,它由每个网络设备在其固件中实现。在这个示例中,SPB协议实现可以被移动到TsSDN控制器325C(例如,在Ts-SPB模块中),并且结合OpenFlow或其它控制协议,TsSDN控制器325C可以生成所有最短路径的集中视图。在这个示例中,SPB协议被增强以包括时间和网络负载,作为等开销多树(ECMT)路由中的属性。根据这个实施例,Ts-SPB模块可以使用增强的SPB协议和ECMT技术来基于网络的时间灵敏度或负载或其组合创建或确定替代最短路径。可以由SDN负载平衡器346收集指示网络负载的拥塞信息。这个行为在图3D中示出,其描绘了通过TSN设备312和非TSN设备308的多条最短路径,Ts-SPB模块可以确定这些路径。在该图中,用于将分组流从设备A运输到设备B的最短路径被示为通过网络设备312A、308A、308B、312F,并且从设备A到设备B的替代最短路径通过网络设备312A、312B、308D、312F。对于两条路径,都不提供关于时间的保证,因此这些路径可能不适合于时间敏感的分组流。不过,可以在两条路径之间分布分组流以用于负载平衡。在同一个图中还描绘了通过网络设备312A、312B、312C、312E、312F从设备A到设备B的最短TSN路径。替代最短TSN路径可以是通过网络设备312A、312B、312C、312D、312E和312F。两条TSN路径都提供了关于时间的保证,并且因此可以在两条TSN路径之间分布分组流以用于负载平衡。当考虑网络拥塞时,最短的TSN路径不再相同。在该图中,从设备M到设备N的用于繁忙TSN流量的最短路径是通过网络设备312C和312E。这条网络路径提供时间敏感的最短路径。最后,从设备X到设备Y的用于非时间敏感的繁忙流量的最短路径可以通过网络设备308A和308B。这条路径是非时间敏感的最短路径。以这种方式,TsSDN控制器325C经由Ts-SPB模块和负载平衡器346可以确定也是时间敏感和负载平衡的最短路径桥接,使得流量工程的所有方面都在TsSDN控制器325C的范围内。
在一些实施例中,时间敏感的多路径路由模块344可以利用Dijkstra算法来识别通过网络的TSN流量和/或非TSN流量的最短路径。Dijkstra算法不断消除源或起始节点与所有可能的目标节点之间的较长路径。较长的路径可以具有较高的开销,这通常归因于链路速度(即,开销与链路速度负相关)。该算法首先通过已确认或已访问和未确认/未访问的集合开始。未确认集中的节点具有到初始节点的路径,但正在等待评估。确认集中的节点已进行了评估。可以采取以下步骤:
1.将初始节点的距离设置为0。
2.将所有其它距离设置为非常高的值。
3.将初始节点设置为当前,并将所有节点添加到未确认集。
4.当未确认集不为空时,重复以下步骤a-c:
a.从当前节点,计算到其所有邻居的距离,并将新计算的距离与当前指定的值进行比较,并指派较小的距离。
b.将当前节点添加到确认集,并在步骤a完成后从未确认集中删除。
c.从未确认集中选择最短距离的节点,并将其设置为新的当前节点。
这个算法的结果是确定从初始节点到所有可能目的地的最短路径。为了使网络能够确定最短路径,必须在每个网络设备上实现Dijkstra算法,这增加了网络设备的复杂性。而且,该算法没有考虑基于时间和负载的开销。例如,通过网络设备A的高速路径可以预留其带宽的50%,从而使数据平面完全加载。这个负载信息可以用于避免高速路径,例如为了时间敏感的流量。现在将讨论已经被增强以包括克服Dijkstra算法的这些和其它问题的基于负载和时间的开销的Dijkstra算法。
在图3E中图示了可以由TsSDN控制器325C实现的增强Dijkstra算法的示例(例如,经由时间敏感多路径路由模块344)。在图中,一些路径与开销值相关联。假设所有未标记的路径具有100的开销,因此这些未标记的路径将不被排序并且将不被修改后的Dijkstra算法选择。在这个示例中,基于基于负载的开销评估网络路径。换句话说,开销计算可以考虑网络负载条件。在一些实施例中,诸如链路速度之类的其它附加因素可以包括在开销计算中。
Dijkstra算法可以确定设备A和设备B之间的最短路径是通过网络设备312A、308A、308B、312F,因为路径开销是1+1+1或3而不是通过网络设备312A、312B、308D、312F的2+2+2或6。现在假定通过网络设备308A和308B在设备X和设备Y之间运行繁忙流量。当TsSDN控制器检测到这种流量水平(例如,使用OpenFlow诊断特征)时,它可以动态地将网络设备308A和308B之间的链路开销改变为基于负载的数量。例如,如果负载为50%,那么将现有开销加50将导致新开销为51。现在再次运行Dijkstra算法时,通过312A、308A、308B、312F的路径将产生1+51+1或53的开销,而通过312A、312B、308D、312F的路径将具有2+2+2或6的开销。在这个示例中,第二路径将是最短路径,因此将被选择用于分组运输。
可以以类似的方式处理时间敏感数据。在这种情况下,除了基于负载的开销之外,还存在基于等待时间的开销。这意味着网络设备越慢,等待时间越大,因此开销越高。例如,参考图3F,我们仅考虑TSN路径。Dijkstra算法可以确定通过网络设备312A、312B、312C、312E、312F的快速卸载路径的开销是2+3+3+1=9。通过网络设备312A、312B、312C、312D、312E、312F的慢速无负载路径是2+3+3+1+1=10。现在假设在312C和312E上有一些附加负载,第一条路径的开销将更新为2+3+53+1=59。在这种情况下,将选择第二条路径用于运输TSN流量。以这种方式,意识到有多少TSN流经过网络中的单个点的TsSDN控制器可以调整到那个设备的链路的开销并相应地重新计算最短路径。
而且,如图3F中所示,TSN设备可以容易地与非TSN设备隔离。这是集中式系统的另一个优点。这种集中化使Dijkstra算法能够通过基于负载和延迟的开销考虑因素在网络子集或整个网络上运行来增强。
图3G是图示在TsSDN控制器的管理下的网络基础设施的框图。如所描绘的,TsSDN控制器可以管理TSN设备312,TSN设备312实现TSN协议以提供跨网络从一个设备到另一个设备的消息的有保证运输。如所描绘的,除了TSN设备312之外,现有的网络基础设施有可能具有非TSN设备308。在这种情况下,SDN设备312也由Ts-SDN控制器管理。Ts-SDN控制器325可以直接对这些TSN设备308和SDN设备312中的每一个进行编程,以实现各种网络策略,包括如何管理或处理(例如,优先化、转发/拒绝)不同类别的数据。
图4描绘了跨越网络基础设施的讲话者设备416和收听者设备418之间的通信,该网络基础设施包括存在于相同时域中的TSN设备412和非TSN设备408的混合。在“SDN作为底层”部署模型中,从所有联网角度对联网基础设施(例如,408、412)的整体控制由TsSDN控制器425管理。这意味着诸如OpenFlow和TSN协议套件之类的基础协议直接由SDN控制。而且,TsSDN控制器425、讲话者设备416、收听者设备418以及网络基础设施实现时间同步432。时间同步432通过使所有设备的实时时钟以高准确度同步到主时钟来实现。(例如,在纳秒范围内)。这为在讲话者设备处过渡并在收听者设备处呈现的消息提供了共同的时基,以具有相同的相对定时。
时间敏感SDN可以被视为包括控制平面、数据平面和时域。控制平面实现TsSDN控制器,而数据平面通过及时提供数据运输实现通信。时域在SDN控制域中强制执行时间感知。这些平面与两个责任概念相关联:
(i)编排:负责自动布置、协调和管理复杂的联网元素和协议,以便为时间敏感的应用提供服务。
(ii)信息:负责收集、分析、解释、呈现和组织网络信息,这进而使时间敏感的应用能够对网络状况作出反应。
在一些实施例中,作为整个网络的终极控制器的SDN可能或者通过隔离路径选择或者TSN的彻底部署和编排来潜在地对时域进行终极控制。这种终极控制使其适于确保网络级别的真正确定性数据输送。
考虑棕地工业网络的示例,其中存在TSN意识设备412和无意识设备408的混合。TsSDN控制器425可以发现并确保通过现有基础设施的时间敏感消息的网络路径的时间。为了发现满足要运输的消息的时间灵敏度要求的网络路径,需要确定消息的端到端延迟。通常,网络延迟计算仅考虑网络的数据平面中的延迟,即,从一个网络设备到另一个网络设备。但是,实际上,从在应用层422处显现数据分组的时间开始,数据分组在到达数据平面428之前经过若干层。例如,在讲话者设备416处(即,数据分组的源或发送设备),数据分组从应用层422过渡通过堆栈424,堆栈424包括在过渡到控制平面426并最后过渡到讲话者设备的数据平面428之前提供通信手段(例如,TCP/IP堆栈、UDP堆栈、Linux、Windows等)的操作系统。从那里,数据分组过渡到网络的数据平面,其包括转发元件408、412,即,负责跨网络运输的网络设备。然后,数据分组过渡通过控制平面426、堆栈424和收听者设备418(即,接收设备)的应用层422。在计算端到端延迟时考虑数据分组在通过层的这些过渡中的每一个处遇到的延迟。当时间同步432使得讲话者设备级别416处的延迟、收听者设备级别418处的延迟和网络数据平面级别的延迟传播到TsSDN控制器时,TsSDN控制器425可以计算端到端延迟。
在图4中,TsSDN控制器已经发现了用于仅使用TSN设备412将时间敏感消息从讲话者设备416运输到收听者设备418的网络路径。网络路径414保证用于时间敏感的消息的端到端延迟满足时间敏感的消息或过渡时间敏感的消息的应用的时间要求,从而实现端到端的确定性通信。
在SDN/OpenFlow中,流是源和目的地之间的分组序列。图5描绘了工业领域中Ts-SDN控制器(例如,325A、325B、325C)对时间敏感和非时间敏感流的处理。示例PLC设备516可以产生两个流,包括分别要运输到诊断服务518和工业装备522的数据分组。当网络设备接收到与要输送到工业装备522的流相关联的数据分组时,如果网络设备没有用于转发数据分组的规则,那么首先将其转发或报告给Ts-SDN控制器525。然后,TsSDN控制器525确定数据分组是否包括时间敏感或时间感知数据。如前所述,时间敏感数据(TSD)是需要即时和可靠输送的关键任务数据,其中ART通常小于1ms,而时间感知数据(TAD)具有通常在毫秒范围内的ART。在一些实施例中,可以基于从源设备接收的信息来确定数据分组是否具有TSD或TAD。例如,当用户将流量限定或指定为TSD或TAD时(例如,经由在PLC 516上执行的工业控制应用或通过与TsSDN控制器525连接的网络应用),每个这样的限定可以被翻译为网络配置信息,其可以是VLAN ID组、QoS参数等形式。在一些实现中,指示时间敏感性特征的网络配置信息可以包括在流预留协议(SRP)讲话者广告消息中。换句话说,TsSDN控制器525可以基于从源设备检测到的任何SRP活动(其是特定于TSN的协议)确定数据分组包括TSD。TsSDN控制器525还可以基于与数据分组相关联的QoS参数来检测来自源设备的数据分组是TAD。所有其它数据包都可以被认为是尽力。如果数据分组是时间敏感的,那么Ts-SDN控制器525确定具有最大等待时间的网络路径,使得数据分组的端到端延迟小于与数据分组相关联的时间敏感性要求。在一些实现中,TsSDN控制器525可以从在PLC 516上执行的工业控制应用或经由与TsSDN控制器525接口的网络应用(例如,经由控制器的北向侧的RESTFULL接口)获得时间敏感性要求。如前所述,可以基于与源设备(即,PLC 516)和/或目的地设备(即,工业装备522)和网络设备相关联的信息来计算端到端延迟。在一些实施例中,源和/或目的地设备和网络设备可以向TsSDN控制器报告网络使用的意图,包括有助于端到端延迟的相关联延迟或等待时间、数据分组的时间敏感性特征点。网络设备的能力(例如,相关联的等待时间、可用带宽、队列中数据分组的类型)可以由Ts-SDN控制器通过直接询问来确定。参考图5,发现用于将时间敏感的流从PLC 516运输到工业装备522的网络路径是通过TSN设备512a和512b。TsSDN控制器525选择仅包括时间敏感设备的这条路径,以保证与流相关联的数据分组的运输中的端到端延迟满足与时间敏感数据相关联的严格定时要求。
对于从PLC 516到诊断服务518的第二个流,TsSDN控制器525可以类似地基于与流相关联的数据分组的内容来确定流是时间敏感的还是时间感知的。假定流被TsSDN控制器525确定为两者都不是(即,尽力数据),那么TsSDN控制器525可以确定仅通过非TSN设备的网络路径。如图5所示,尽力流的网络路径是通过SDN设备508a和508c。
图6A是图示通过包括时间敏感和非时间敏感的网络设备的网络基础设施发送时间敏感数据分组的示例方法的逻辑流程图。该示例方法包括在方框602处接收源自第一设备并跨时间敏感的SDN被指引到第二设备的数据分组。基于与数据分组相关联的网络配置信息(例如,SRP活动、QoS、VLAN ID组),TsSDN控制器可以在方框604处确定数据分组是包括时间敏感数据的时间敏感数据分组。在方框606处,TsSDN控制器可以接收或确定与时间敏感数据分组相关联的定时要求。在方框608处,TsSDN控制器可以使用仅一个或多个时间敏感的网络设备来确定通过网络基础设施的网络路径。网络路径具有可预测的等待时间,该等待时间使得用于时间敏感数据分组的端到端延迟小于定时要求。在一些实施例中,用于数据分组的端到端延迟考虑数据分组在第一实体的应用层被过渡之后经过的每一层的等待时间。例如,时间敏感数据分组可以经过第一和第二设备中的每一个处的应用层和操作系统栈以及经过与TsSDN控制器相关联的TsSDN网络的控制平面和数据平面。在一些实施例中,确定网络路径可以包括对网络路径中的网络设备进行编程,使得可以使用相同的网络路径来运输作为相同流的一部分的其它数据分组。在方框610处,时间敏感数据分组经由网络路径从第一设备发送到第二设备。
图6B是图示通过图6A中的第一设备和网络基础设施发送时间感知数据分组的示例方法的逻辑流程图。在这个方法中,TsSDN控制器在方框620处接收将跨网络基础设施从第一设备输送到第三设备的数据分组。在方框622处,TsSDN控制器基于与数据分组相关联的网络配置信息(例如,QoS)可以确定数据分组是包括时间感知数据的时间感知数据分组。在方框624处,TsSDN控制器确定输送时间感知数据分组的定时要求。在方框626处,TsSDN控制器使用从包括网络基础设施的时间敏感的网络设备和非时间敏感的网络设备中选择的一个或多个网络设备来确定通过网络基础设施的第二网络路径。第二网络路径具有可预测的等待时间,该等待时间使得用于时间感知数据分组的端到端延迟小于与时间感知数据分组相关联的定时要求。然后,时间感知数据分组通过第二网络路径从第一设备发送到第三设备。
图6C是图示通过图6A和6B中的第一设备和网络基础设施发送尽力数据分组的示例方法的逻辑流程图。在方框630处,TsSDN控制器接收要跨网络基础设施从第一设备输送到第四设备的数据分组。基于与数据分组相关联的网络配置信息,TsSDN控制器在方框632处确定数据分组是没有时间敏感性或时间感知的尽力数据分组。在方框634处,TsSDN控制器确定使用仅一个或多个非时间敏感的网络设备通过网络基础设施的第三网络路径,以输送尽力数据分组。然后,尽力数据分组从第一设备通过第三网络路径发送到第四设备。
图6D是图示通过被预留以保证指定的定时要求的网络路径发送分组流的示例方法的逻辑流程图。在示例方法中,在方框640处,TsSDN控制器(例如,经由时间管理模块338的TsSDN控制器325A)可以接收指定用于在讲话者设备和收听者设备之间进行通信的定时要求的请求。在一些实施例中,该请求可以是由讲话者设备发送到TsSDN控制器的标准网络分组的形式。在方框642处,TsSDN控制器可以接收与讲话者设备和收听者设备相关联的设备延迟。当数据分组从应用层经过堆栈到达控制平面和/或数据平面时,这些设备延迟可以与在设备级遇到的延迟相关联。在方框644处,TsSDN控制器从网络中的网络设备接收网络负载信息。网络负载信息可以指示网络设备处理附加分组流的可用带宽。在方框646处,TsSDN控制器基于指定的定时要求和网络负载信息确定讲话者设备可以用于与收听者设备通信的网络路径。网络路径具有可预测的等待时间,该等待时间使得从讲话者设备到收听者设备的通信的端到端延迟小于或等于指定的定时要求。在方框648处,TsSDN控制器对网络路径中的一个或多个网络设备进行编程以预留带宽,以保证对讲话者设备和收听者设备之间的通信的定时要求。在方框650处,TsSDN控制器经由网络路径以确定性方式将数据分组从讲话者设备发送到收听者设备。
上述方法也可以反向使用,即,当收听者设备想要以时间保证将数据分组发送到讲话者设备时。应当注意的是,取决于定时要求,通信可以是时间敏感的或时间感知的。类似地,取决于定时要求,网络路径可以仅包括TSN设备、仅包括非TSN设备或TSN和非TSN设备。
因此,TsSDN控制器的角色是基础设施中TSN服务的中介者的角色。讲话者设备可以从TsSDN控制器获取流,该TsSDN控制器进而通过配置到收听者设备的路径上的所有设备来确保到收听者设备的路径。这使得TsSDN控制器能够更广泛地查看所有可以向其智能指派资源的流、当前和可用流。TsSDN与TSN之间的关键区别之一是TSN具有对等支配权,要求所有参与者理解所有TSN协议以保证TSN服务级别。在TsSDN中,时间管理在逻辑上是集中的,并且它可以从TSN设备中消除许多TSN协议,只留下数据平面标准。这种方法具有显著简化时间管理以及TSN设备本身的优点。
4.计算机系统化
图7是根据一些实施例的可以执行各种操作并且存储由这样的操作生成和/或使用的各种信息的示例性机器/计算机/装置的框图。计算机700旨在图示可以在其上实现图1A-5的示例中描绘的任何实体、部件或服务(以及本说明书中描述的任何其它部件)和图6A-6C的示例中描述的方法的硬件设备,诸如服务器、客户端设备、计算节点、诸如SDN控制器(例如,120)、TsSDN控制器(例如,325、325A、325B、325C、425、525)之类的控制器节点、存储设备/节点、数据库、工业设备(例如,PLC、PAC)、网络设备等。计算机700包括耦合到互连的一个或多个处理器705和存储器710。互连可以表示任何一个或多个单独的物理总线、点对点连接,或通过适当的桥接器、适配器或控制器连接的两者。
处理器705是计算机的中央处理单元(CPU),因此控制计算机的整体操作。在某些实施例中,处理器通过执行存储在存储器中的软件或固件来实现这一点。处理器可以是或可以包括一个或多个可编程通用或专用微处理器、数字信号处理器(DSP)、可编程控制器、专用集成电路(ASIC)、可编程逻辑器件(PLD)、可信任平台模块(TPM)等,或这些设备的组合。
存储器710是或包括计算机的主存储器。存储器表示任何形式的随机存取存储器(RAM)、只读存储器(ROM)、三元内容可寻址存储器(TCAM)、闪存等,或这些设备的组合。在使用中,存储器可以包含代码。在一个实施例中,代码包括通用编程模块,其被配置为识别经由计算机总线接口接收的通用程序并准备通用程序以在处理器处执行。在另一个实施例中,通用编程模块可以使用诸如ASIC、PLD或现场可编程门阵列(FPGA)之类的硬件电路系统来实现。
还通过互连连接到处理器的是网络适配器725、存储设备715和I/O设备720。网络适配器向计算机提供通过网络与远程设备通信的能力,并且可以是例如以太网适配器或光纤通道适配器或无线无线电收发装置。网络适配器还可以为计算机提供与集群内的其它计算机通信的能力。在一些实施例中,计算机可以使用多于一个网络适配器来分别处理集群内部和外部的通信。
I/O设备可以包括例如键盘、鼠标或其它定点设备、盘驱动器、打印机、扫描仪以及包括显示设备的其它输入和/或输出设备。显示设备可以包括例如阴极射线管(CRT)、液晶显示器(LCD)或某种其它适用的已知或方便的显示设备。
存储在存储器中的代码可以被实现为软件和/或固件,以对处理器进行编程以执行上述动作。在某些实施例中,这种软件或固件可以最初通过计算机从远程系统下载(例如,经由网络适配器)提供给计算机。在一些实施例中,存储器710和存储设备715可以是单个实体。
本文介绍的部件可以通过例如用软件和/或固件编程的可编程电路系统(例如,一个或多个微处理器)来实现,或者完全在专用硬连线(不可编程)电路系统中实现,或者在这些形式的组合中实现。专用硬连线电路系统可以是例如一个或多个ASIC、PLD、FPGA等的形式。
这里介绍的用在SDN/TsSDN系统中的软件或固件可以存储在机器可读存储介质上,并且可以由一个或多个通用或专用可编程微处理器执行。作为本文使用的术语,“机器可读存储介质”包括可以以机器可访问的形式存储信息的任何机制。
计算机还可以是服务器计算机、客户端计算机、个人计算机(PC)、平板PC、膝上型计算机、机顶盒(STB)、个人数字助理(PDA)、蜂窝电话、智能电话、平板电脑、平板电话、处理器、电话、web设备、网络路由器、交换机或网桥、控制器(例如,PLC、PAC)或任何能够(顺序或以其它方式)执行指定要由那个机器采取的动作的指令集。
机器可访问存储介质或存储设备包括例如可记录/不可记录介质(例如,ROM;RAM;磁盘存储介质;光存储介质;闪存设备;等等)等,或其任意组合。存储介质通常可以是非瞬态的或包括非瞬态设备。在这个上下文中,非瞬态存储介质可以包括有形的设备,意味着该设备具有具体的物理形式,但是该设备可以改变其物理状态。因此,例如,非瞬态是指虽然状态发生这种改变但仍然保持有形的设备。
如本文所使用的,术语“逻辑”可以包括例如用具体软件和/或固件编程的可编程电路系统、专用硬连线电路系统或其组合。
5.结论
除非上下文明确要求,否则在整个描述和权利要求书中,词语“包括”、“包含”等应在包含性的意义而不是排他性或穷举性的意义上来解释;即,在“包括但不限于”的意义上。如本文所使用的,术语“连接”、“耦合”或其任何变体是指两个或更多个元件之间的或者直接或者间接的任何连接或耦合;元件之间的连接的耦合可以是物理的、逻辑的或其组合。此外,当在本申请中使用时,词语“本文”、“以上”、“以下”和类似含义的词语应当指代本申请的整体而不是指本申请的任何特定部分。在上下文允许的情况下,以上具体实施方式中使用单数或复数的词语也可以分别包括复数或单数。参考两个或更多个项的列表,词语“或”覆盖了该词的所有以下解释:列表中的任何项、列表中的所有项,以及列表中的项的任意组合。
本公开的实施例的以上详细描述并非旨在穷举或将教导限制为上文公开的精确形式。虽然以上出于说明性目的描述了本公开的具体实施例和示例,但是如相关领域的技术人员将认识到的,在本公开的范围内可以进行各种等同的修改。例如,虽然以给定次序呈现处理或方框,但是替代实施例可以执行具有步骤的例程,或者采用具有不同次序的方框的系统,并且可以删除、移动、添加、细分、组合和/或修改一些处理或方框,以提供替代方案或子组合。这些处理或方框中的每一个可以以各种不同的方式实现。而且,虽然有时将处理或方框示出为串行执行,但是这些处理或方框可以替代地并行执行,或者可以在不同时间执行。另外,本文中提到的任何具体数字仅是示例:替代实现可以采用不同的值或范围。
本文提供的公开的教导可以应用于其它系统,而不一定是上述系统。可以组合上述各种实施例的元件和动作,以提供进一步的实施例。
上面提到的任何专利和申请以及其它参考文献,包括可能在随附的文件中列出的任何参考文献,都通过引用并入本文。如果需要,可以修改本公开的各方面以采用上述各种参考文献的系统、功能和概念,以提供本公开的又一些实施例。
鉴于以上具体实施方式,可以对本公开做出这些和其它改变。虽然以上描述描述了本公开的某些实施例,并且描述了预期的最佳模式,但无论上文如何以文字详细描述,该教导都可以以多种方式实践。系统的细节可以在其实现细节方面有很大变化,但仍然被涵盖在本文公开的主题中。如上所述,在描述本公开的某些特征或方面时使用的特定术语不应当被视为暗示本文中重新定义术语以限于与该术语相关联的本公开的任何特定特征、特征或方面。一般而言,以下权利要求中使用的术语不应当被解释为将本公开限于说明书中公开的具体实施例,除非以上具体实施方式部分明确地定义了这些术语。因而,本公开的实际范围不仅涵盖所公开的实施例,而且还涵盖在权利要求下实践或实现本公开的所有等同方式。
从前述内容将认识到的是,本文已经出于说明的目的描述了所公开的系统/技术的具体实施例,但是在不脱离实施例的精神和范围的情况下可以进行各种修改。因而,除了由所附权利要求限制之外,实施例不受限制。
Claims (35)
1.一种用于确定通过网络的网络路径的系统,包括:
结合时域的软件定义联网(SDN)控制器,所述SDN控制器在一个或多个分布式硬件上执行;
网络,包括多个用于转发数据分组的时间敏感和非时间敏感的网络设备;以及
所述SDN控制器被配置为通过以下操作来管理所述网络:
确定数据分组与以下之一相关联:时间敏感、时间感知或尽力时间敏感性特征,所述数据分组源自发送设备并且要被输送到接收设备;
确定用于将所述数据分组从所述发送设备运输到所述接收设备的网络路径,所述运输具有有保证的端到端延迟以满足所述时间敏感性特征;以及
经由所述网络路径从所述发送设备向所述接收设备发送所述数据分组。
2.如权利要求1所述的系统,其中用于所述数据分组的端到端延迟考虑所述数据分组在所述发送设备的应用层显现之后经过每一层过渡的等待时间。
3.一种用于通过包括时间敏感和非时间敏感的网络设备的网络基础设施发送时间敏感数据分组的方法,包括:
由时间敏感软件定义网络(TsSDN)控制器接收用于跨包括时间敏感和非时间敏感的网络设备的网络基础设施将源自第一实体的时间敏感数据分组输送到第二实体的定时要求;
仅使用所述时间敏感的网络设备中的一个或多个确定通过所述网络基础设施的第一网络路径,所述第一网络路径具有可预测的等待时间,所述等待时间使得用于所述时间敏感数据分组的端到端延迟小于与所述时间敏感数据分组相关联的所述定时要求;以及
将所述时间敏感数据分组从所述第一实体通过所述第一网络路径发送到所述第二实体。
4.如权利要求3所述的方法,其中用于数据分组的端到端延迟考虑所述数据分组在所述第一实体的应用层显现之后经过每一层过渡的等待时间。
5.如权利要求4所述的方法,其中所述时间敏感数据分组可以在所述第一和第二实体中的每一个处经过应用层、操作系统堆栈、控制平面和数据平面。
6.如权利要求3所述的方法,还包括:
由所述TsSDN控制器接收源自所述第一实体的数据分组;以及
基于从所述第一实体检测到的流预留协议活动来确定所述数据分组是包括时间敏感数据的时间敏感数据分组。
7.如权利要求5所述的方法,其中响应于确定所述数据分组是要在所述网络设备处接收的新类型的数据分组,由所述网络基础设施中的网络设备向所述TsSDN控制器报告所述数据分组。
8.如权利要求3所述的方法,其中所述第一和第二实体包括物理设备、托管在机器上的虚拟设备,或托管在一个或多个分布式机器上的服务。
9.如权利要求3所述的方法,其中所述TsSDN控制器经由网络应用接收所述定时要求,其中所述网络应用经由应用编程接口与所述TsSDN控制器接口。
10.如权利要求3所述的方法,其中所述时间敏感数据分组是流的一部分,并且与所述流相关联的所有时间敏感数据分组都通过所述相同的第一网络路径发送。
11.如权利要求3所述的方法,还包括由所述TsSDN控制器基于所述分组的内容确定源自所述第一设备的数据分组是时间敏感的数据分组。
12.如权利要求3所述的方法,其中所述TsSDN控制器是软件定义网络(SDN)控制器,具有能够区分时间敏感、时间感知或尽力的数据分组的时间管理模块。
13.如权利要求3所述的方法,其中所述TsSDN控制器是具有时间敏感网络(TSN)应用的软件定义网络(SDN)控制器,所述时间敏感网络(TSN)应用能够配置所述时间敏感的网络设备以保留TSN建立的时域。
14.如权利要求3所述的方法,其中所述TsSDN控制器是具有实现链路状态协议的时间敏感多路径路由模块的软件定义网络(SDN)控制器,所述链路状态协议使用等开销多树(ECMT)算法基于时间敏感性和网络负载来计算最高效路径。
15.如权利要求4所述的方法,还包括:
由所述TsSDN控制器接收要跨所述网络基础设施从所述第一实体输送到第三实体的数据分组;
基于与所述数据分组相关联的网络配置信息来确定所述数据分组是包括时间感知数据的时间感知数据分组;
使用所述时间敏感的网络设备和所述非时间敏感的网络设备中的一个或多个来确定通过所述网络基础设施的第二网络路径,所述网络路径具有可预测的等待时间,所述等待时间使得用于所述时间感知数据分组的端到端延迟小于与所述时间感知数据分组相关联的定时要求;以及
将所述时间感知数据分组从所述第一实体通过第二网络路径发送到第三实体。
16.如权利要求12所述的方法,其中所述网络配置信息包括以下当中的至少一个:服务质量(QoS)或虚拟局域网(VLAN)组ID。
17.如权利要求3所述的方法,还包括:
由所述TsSDN控制器接收将跨所述网络基础设施从所述第一实体输送到第四实体的数据分组;
基于缺少流预留协议活动和所述服务质量来确定所述数据分组是没有时间敏感性或时间感知的尽力数据分组;
仅使用所述非时间敏感的网络设备中的一个或多个确定通过网络基础设施的第三网络路径以输送所述尽力数据分组;以及
从所述第一实体通过所述第三网络路径向所述第四实体发送所述尽力数据分组。
18.如权利要求3所述的方法,其中所述第一和第二实体中的每一个是工业自动化系统中的实体。
19.如权利要求3所述的方法,其中所述第一和第二实体中的每一个是车辆自动化系统中的实体。
20.一种用于通过包括时间敏感和非时间敏感的网络设备的网络基础设施发送数据分组的方法,包括:
由时间敏感的软件定义网络(TsSDN)控制器接收用于从讲话者设备到收听者设备的通信的定时要求;
从多个网络设备接收网络负载信息;
基于所述定时要求和所述网络负载信息确定通过所述网络基础设施的网络路径,其中所述网络路径具有可预测的等待时间,所述等待时间使得用于所述通信的端到端延迟满足所述定时要求;
对所述网络路径中的所述多个网络设备中的一个或多个网络设备进行编程以预留带宽,以保证用于从所述讲话者设备到所述收听者设备的所述通信的所述定时要求;以及
通过所述网络路径将数据分组从所述讲话者设备发送到所述收听者设备。
21.如权利要求20所述的方法,其中在从所述讲话者设备到所述TsSDN控制器的请求中指定所述定时要求。
22.如权利要求20所述的方法,还包括从所述讲话者设备和所述收听者设备中的每一个接收设备延迟。
23.如权利要求22所述的方法,其中基于从所述讲话者和所述收听者设备接收的所述设备延迟以及与所述网络路径中的所述多个网络设备中的一个或多个网络设备相关联的网络设备延迟来计算所述端到端延迟。
24.如权利要求22所述的方法,其中所述设备延迟是数据分组在其通过所述讲话者或收听者设备的应用层、操作系统堆栈、控制平面和设备平面时经历的延迟的总和。
25.如权利要求20所述的方法,其中所述讲话者设备和所述收听者设备包括托管在机器上的物理设备或虚拟设备。
26.如权利要求20所述的方法,其中所述TsSDN控制器是具有时间管理模块的软件定义网络(SDN)控制器。
27.如权利要求20所述的方法,其中所述讲话者和收听者设备中的每一个是工业自动化系统设备。
28.如权利要求20所述的方法,其中所述讲话者和收听者设备中的每一个是车辆自动化系统设备。
29.一种确定在时间敏感的软件定义网络中从讲话者设备到收听者设备的最短路径的方法,包括:
使用Dijkstra算法来计算在时间敏感的软件定义网络中从讲话者设备到收听者设备的所有可能路径的开销,以确定具有最小开销的网络路径;
沿着从所述讲话者设备到所述收听者设备的网络路径检测链路上负载的增加;
响应于检测到负载的增加而动态地更新链路的开销以包括基于负载的开销;
使用所述Dijkstra算法重新计算从所述讲话者设备到所述收听者设备的所有可能路径的开销,以确定用于从所述讲话者设备到所述收听者设备数据分组运输的最短路径,其中所述最短路径与具有所述最小开销的网络路径对应。
30.权利要求29所述的方法,其中从所述讲话者设备到所述收听者设备的所有可能路径包括仅通过时间敏感的网络设备的路径,其中所述时间敏感的软件定义网络包括时间敏感的和非时间敏感的网络设备。
31.如利要求30所述的方法,还包括:
监视跨所述时间敏感的网络设备的时间敏感的流,以检测新流向时间敏感的网络设备的添加,
作为响应,调整到所述时间敏感的网络设备的链路的开销,以及
重新计算以确定从所述讲话者设备到所述收听者设备的所述最短路径。
32.如权利要求30所述的方法,还包括:
监视跨所述时间敏感的网络设备的时间敏感的流,以检测时间敏感的网络设备何时超过通过它的流的阈值数量,
作为响应,调整到所述时间敏感的网络设备的链路的开销,以及
重新计算以确定所述最短路径。
33.如权利要求29所述的方法,其中从所述讲话者设备到所述收听者设备的所有可能路径包括仅通过非时间敏感的网络设备的路径,其中所述时间敏感的软件定义网络包括时间敏感的和非时间敏感的网络设备。
34.如权利要求29所述的方法,其中所述Dijkstra算法在逻辑上集中的时间敏感的软件定义网络控制器上实现。
35.如权利要求29所述的方法,其中基于来自与OpenFlow相关联的诊断服务的信息来检测所述链路上负载的增加。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662364313P | 2016-07-19 | 2016-07-19 | |
US62/364,313 | 2016-07-19 | ||
PCT/EP2017/068213 WO2018015425A1 (en) | 2016-07-19 | 2017-07-19 | Time-sensitive software defined networking |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109691038A true CN109691038A (zh) | 2019-04-26 |
CN109691038B CN109691038B (zh) | 2021-12-17 |
Family
ID=59501404
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780056021.7A Active CN109691038B (zh) | 2016-07-19 | 2017-07-19 | 时间敏感的软件定义的网络 |
Country Status (7)
Country | Link |
---|---|
US (2) | US10805205B2 (zh) |
EP (1) | EP3488570A1 (zh) |
CN (1) | CN109691038B (zh) |
AU (2) | AU2017300019B2 (zh) |
CA (1) | CA3031250A1 (zh) |
RU (1) | RU2734895C2 (zh) |
WO (1) | WO2018015425A1 (zh) |
Cited By (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110708678A (zh) * | 2019-09-17 | 2020-01-17 | 中国联合网络通信集团有限公司 | 一种通信方法及设备 |
CN111211854A (zh) * | 2019-12-26 | 2020-05-29 | 北京控制工程研究所 | 基于时间确定性网络的分布式容错航电控制系统及方法 |
CN111600754A (zh) * | 2020-05-11 | 2020-08-28 | 重庆邮电大学 | 一种面向tsn和非tsn互联的工业异构网络调度方法 |
WO2020233430A1 (zh) * | 2019-05-20 | 2020-11-26 | 华为技术有限公司 | Tsn中控制器间通信的方法、装置及系统 |
CN112243270A (zh) * | 2019-07-19 | 2021-01-19 | 中国移动通信有限公司研究院 | 一种数据包的传输方法、装置和计算机可读存储介质 |
CN112422234A (zh) * | 2020-11-06 | 2021-02-26 | 应急管理部通信信息中心 | 一种基于时间感知的自适应深度学习的数据治理服务方法 |
CN112822770A (zh) * | 2020-06-18 | 2021-05-18 | 中兴通讯股份有限公司 | 业务处理、发起方法、处理节点、发起节点、系统及介质 |
CN112929117A (zh) * | 2021-01-28 | 2021-06-08 | 广州瓦良格机器人科技有限公司 | 一种兼容可定义确定性通信以太网 |
CN113271291A (zh) * | 2020-02-17 | 2021-08-17 | Abb瑞士股份有限公司 | Tsn装置与非tsn装置之间的接口设备 |
WO2021233419A1 (zh) * | 2020-05-21 | 2021-11-25 | 维沃移动通信有限公司 | 支持数据传输的方法及设备 |
CN113810291A (zh) * | 2020-06-15 | 2021-12-17 | 四零四科技股份有限公司 | 通过置换虚拟区网标签而为时间敏感网络路由封包的装置及方法 |
CN113835079A (zh) * | 2021-07-29 | 2021-12-24 | 中汽创智科技有限公司 | 一种车载激光雷达系统、数据处理方法、装置及存储介质 |
CN114073043A (zh) * | 2019-05-03 | 2022-02-18 | 诺基亚技术有限公司 | 以太网网桥端口管理的方法和装置 |
CN114124689A (zh) * | 2020-08-27 | 2022-03-01 | Abb瑞士股份有限公司 | 用于实现tsn流配置的系统和方法 |
CN114513404A (zh) * | 2021-12-30 | 2022-05-17 | 网络通信与安全紫金山实验室 | 时间敏感网络的配置方法、装置及计算机可读存储介质 |
CN114666280A (zh) * | 2022-03-10 | 2022-06-24 | 山东大学 | 基于时间敏感软件定义网络的工业互联网时延优化方法 |
CN114830611A (zh) * | 2019-10-15 | 2022-07-29 | 汉阳大学校Erica产学协力团 | 集中式网络配置实体及包括该实体的时间敏感网络控制系统 |
CN115244911A (zh) * | 2020-03-10 | 2022-10-25 | 三菱电机株式会社 | 控制器、网络系统以及流管理方法 |
CN115280739A (zh) * | 2020-03-11 | 2022-11-01 | Abb瑞士股份有限公司 | 通过以太网网络传送来自工业终端设备的消息 |
CN115550212A (zh) * | 2021-06-30 | 2022-12-30 | 瞻博网络公司 | 网络测量不准确性的检测 |
CN115632925A (zh) * | 2022-12-26 | 2023-01-20 | 北京交通大学 | 一种时间内生确定性融合网络架构及数据通信方法 |
Families Citing this family (44)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11277746B2 (en) * | 2016-02-26 | 2022-03-15 | Cable Television Laboratories, Inc. | Systems and method for micro network segmentation |
US11072356B2 (en) * | 2016-06-30 | 2021-07-27 | Transportation Ip Holdings, Llc | Vehicle control system |
CN113472673A (zh) | 2016-08-27 | 2021-10-01 | 华为技术有限公司 | 一种获取控制信息的方法和设备 |
US10491719B2 (en) * | 2017-07-24 | 2019-11-26 | Cisco Technology, Inc. | Insertion of management packet into a wired deterministic path |
US11067968B2 (en) * | 2017-11-03 | 2021-07-20 | Honeywell International Inc. | IIOT (industrial internet of things) communications interface |
GB2578268B (en) * | 2018-01-29 | 2021-12-29 | Ge Aviat Systems Ltd | Configurable network switch for industrial control systems including deterministic networks |
CN108449275B (zh) * | 2018-03-21 | 2020-07-31 | 常熟理工学院 | 一种可靠的软件定义网络实现方法 |
EP3753205B1 (de) * | 2018-04-04 | 2024-01-24 | Siemens Aktiengesellschaft | Datenübertragung in zeitsensitiven datennetzen |
EP3824613A1 (en) * | 2018-08-14 | 2021-05-26 | Huawei Technologies Co., Ltd. | Time-aware quality-of-service in communication systems |
CN113473500A (zh) * | 2018-10-08 | 2021-10-01 | 华为技术有限公司 | 时延敏感网络通信方法及其装置 |
US11172397B2 (en) * | 2018-10-15 | 2021-11-09 | Qualcomm Incorporated | Timing information for multiple periodic traffic streams sharing a same quality of service |
US10743269B2 (en) * | 2018-11-26 | 2020-08-11 | Nokia Solutions And Networks Oy | Coordinated timing syncronization and time-aware shaping |
EP3664465B1 (de) * | 2018-12-04 | 2024-01-24 | Siemens Aktiengesellschaft | Verfahren zum betrieb eines kommunikationssystems zur übermittlung zeitkritischer daten, und kommunikationssteuerungseinrichtung |
CN109600259A (zh) * | 2018-12-11 | 2019-04-09 | 浙江工商大学 | 一种基于软件可定义的实时传输机制 |
CN113196712B (zh) * | 2018-12-26 | 2023-01-13 | Abb瑞士股份有限公司 | Tsn使能控制器 |
CN111278049B (zh) * | 2019-01-11 | 2022-02-18 | 维沃移动通信有限公司 | 支持时间敏感通信服务质量的方法及通信设备 |
EP3874333B1 (de) * | 2019-01-23 | 2023-03-08 | Siemens Aktiengesellschaft | Verfahren zur ausfallsicheren datenübertragung, netzwerk-knoten, computerprogramm und computerlesbares medium |
US11005783B2 (en) | 2019-03-22 | 2021-05-11 | Nokia Solutions And Networks Oy | Notification of timing mismatches for queues in time sensitive networking |
WO2020200432A1 (en) * | 2019-04-02 | 2020-10-08 | Nokia Solutions And Networks Oy | Communication control mechanism for time sensitive traffic |
DE102019205634A1 (de) * | 2019-04-17 | 2020-10-22 | Robert Bosch Gmbh | Verfahren zum Betreiben von TSN-fähigen Netzwerkkopplungselementen |
US11337184B2 (en) * | 2019-04-25 | 2022-05-17 | Hyundai Motor Company | Method and apparatus for transmitting and receiving data stream performed in vehicle network |
CN114051715A (zh) * | 2019-07-22 | 2022-02-15 | 华为技术有限公司 | 控制设备、交换设备和方法 |
CN110493076B (zh) * | 2019-08-05 | 2022-03-25 | 电子科技大学 | 一种基于sdn的链路往返时延测量方法 |
CN112422432B (zh) * | 2019-08-20 | 2023-06-20 | 中兴通讯股份有限公司 | 链路路径计算方法、装置、终端及计算机可读存储介质 |
US11075958B2 (en) | 2019-09-12 | 2021-07-27 | General Electric Company | Communication system and method for applying security for a time sensitive network |
US11012365B2 (en) * | 2019-09-27 | 2021-05-18 | Intel Corporation | Changing a time sensitive networking schedule implemented by a softswitch |
CN112787952A (zh) * | 2019-11-08 | 2021-05-11 | 华为技术有限公司 | 一种业务流量调整方法及装置 |
EP4072187A4 (en) * | 2020-01-22 | 2022-12-28 | Huawei Technologies Co., Ltd. | METHOD AND DEVICE FOR TIME-SENSITIVE NETWORK TIME SYNCHRONIZATION |
EP3869752B1 (en) * | 2020-02-24 | 2024-02-14 | Moxa Inc. | Device for handling routing paths for streams in a time-sensitive networking network |
EP3879763A1 (en) * | 2020-03-11 | 2021-09-15 | ABB Schweiz AG | Establishing time-sensitive communications between industrial end devices and an ethernet network |
BR112022018474A2 (pt) * | 2020-03-17 | 2022-11-01 | Beijing Xiaomi Mobile Software Co Ltd | Métodos para transmitir dados e receber dados, dispositivo para transmitir dados, e, meio de armazenamento de memória |
US11228942B2 (en) * | 2020-03-27 | 2022-01-18 | Mitsubishi Electric Research Laboratories, Inc. | Scheduling data traffic in wireless time sensitive networks |
CN111786900B (zh) * | 2020-06-15 | 2022-04-29 | 北京交通大学 | 一种基于时间队列的时态感知流量整形器 |
US11121889B1 (en) * | 2020-06-15 | 2021-09-14 | Moxa Inc. | Apparatuses and methods for routing packets between a time-sensitive networking (TSN) network and a non-TSN network by virtual local area network (VLAN) tag manipulation |
DE102020207744A1 (de) | 2020-06-23 | 2021-12-23 | Robert Bosch Gesellschaft mit beschränkter Haftung | Verfahren zum Betreiben eines echtzeitbasierten Kommunikationssystems, Kommunikationssystem und Kommunikationseinheit |
CN112087461B (zh) * | 2020-09-11 | 2022-12-20 | 工业互联网创新中心(上海)有限公司 | Modbus/tcp协议的数据在tsn网络中流转的系统、方法、装置及设备 |
US11736359B2 (en) * | 2020-11-20 | 2023-08-22 | Ge Aviation Systems Llc | Method and system for generating a time-sensitive network configuration |
CN112491493B (zh) * | 2020-11-23 | 2022-12-13 | 鹏城实验室 | 一种时间敏感网络时隙分配方法及报文转发方法 |
US20220239591A1 (en) * | 2021-01-27 | 2022-07-28 | Cisco Technology, Inc. | Coordination of sdn underlay and overlay for deterministic traffic |
CN113114587A (zh) * | 2021-03-29 | 2021-07-13 | 华南理工大学 | 基于SDN的QoS保障系统及其宽带资源预留方法 |
WO2023115391A1 (en) * | 2021-12-22 | 2023-06-29 | Apple Inc. | Reduction of latency in wireless communication systems |
CN114802058B (zh) * | 2022-06-23 | 2022-09-30 | 北京理工大学 | 智能电动汽车区域架构车载网络化控制系统及调度方法 |
US11805021B1 (en) * | 2022-11-08 | 2023-10-31 | Salesforce, Inc. | Network path recommendations for services executing on cloud platforms |
CN116260762B (zh) * | 2023-02-22 | 2024-04-16 | 重庆邮电大学 | 一种提高时间敏感网络数据传输可靠性的方法 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060268713A1 (en) * | 2005-05-27 | 2006-11-30 | Telefonaktiebolaget L M Ericsson (Publ) | Method and apparatus for improving scheduling in packet data networks |
US20100260047A1 (en) * | 2005-01-28 | 2010-10-14 | Nortel Networks Limited | Optimized Scheduling Method for Delay-Sensitive Traffic on High Speed Shared Packet Data Channels |
US20130070745A1 (en) * | 2011-09-15 | 2013-03-21 | Fisher-Rosemount Systems, Inc. | Communicating data frames across communication networks that use incompatible network routing protocols |
US8477616B1 (en) * | 2001-06-05 | 2013-07-02 | Avaya Inc. | Method for achieving high-availability of itineraries in a real-time network scheduled packet routing system |
US20140369348A1 (en) * | 2013-06-17 | 2014-12-18 | Futurewei Technologies, Inc. | Enhanced Flow Entry Table Cache Replacement in a Software-Defined Networking Switch |
CN104734957A (zh) * | 2013-12-24 | 2015-06-24 | 中国移动通信集团公司 | 一种软件定义网络sdn中业务传输方法及装置 |
US20160065422A1 (en) * | 2013-04-12 | 2016-03-03 | Extreme Networks | Bandwidth on demand in sdn networks |
US20160080266A1 (en) * | 2014-09-16 | 2016-03-17 | Fujitsu Limited | Control method, information processing device, and communication system |
WO2016045637A1 (en) * | 2014-09-28 | 2016-03-31 | Hangzhou H3C Technologies Co., Ltd. | Forwarding data packets in software defined network |
CN105471764A (zh) * | 2015-11-16 | 2016-04-06 | 中国科学院信息工程研究所 | 一种SDN网络中端到端QoS保障的方法 |
US20160149788A1 (en) * | 2014-11-20 | 2016-05-26 | Telefonaktiebolaget L M Ericsson (pubI) | Passive Performance Measurement for Inline Service Chaining |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8385233B2 (en) * | 2007-06-12 | 2013-02-26 | Microsoft Corporation | Active speaker identification |
US8223767B2 (en) * | 2009-12-31 | 2012-07-17 | Telefonaktiebolaget L M Ericsson (Publ) | Driven multicast traffic distribution on link-aggregate-group |
US9001666B2 (en) * | 2013-03-15 | 2015-04-07 | Twilio, Inc. | System and method for improving routing in a distributed communication platform |
US10009287B2 (en) * | 2013-12-26 | 2018-06-26 | Huawei Technologies Co., Ltd. | Hierarchical software-defined network traffic engineering controller |
US10098051B2 (en) * | 2014-01-22 | 2018-10-09 | Cisco Technology, Inc. | Gateways and routing in software-defined manets |
WO2015152871A1 (en) * | 2014-03-31 | 2015-10-08 | Hewlett-Packard Development Company, L.P. | Prioritization of network traffic in a distributed processing system |
US9634867B2 (en) * | 2014-05-02 | 2017-04-25 | Futurewei Technologies, Inc. | Computing service chain-aware paths |
US9641429B2 (en) * | 2014-06-18 | 2017-05-02 | Radware, Ltd. | Predictive traffic steering over software defined networks |
US9838311B2 (en) * | 2015-01-30 | 2017-12-05 | Huawei Technologies Co., Ltd. | Node, network controller, and associated methods for routing data packets in a network |
WO2016123040A1 (en) * | 2015-01-30 | 2016-08-04 | Hewlett-Packard Development Company, L.P. | Adjusted spanning tree protocol path cost values in a software defined network |
US10298503B2 (en) * | 2016-06-30 | 2019-05-21 | General Electric Company | Communication system and method for integrating a data distribution service into a time sensitive network |
-
2017
- 2017-07-19 AU AU2017300019A patent/AU2017300019B2/en active Active
- 2017-07-19 US US16/318,683 patent/US10805205B2/en active Active
- 2017-07-19 WO PCT/EP2017/068213 patent/WO2018015425A1/en unknown
- 2017-07-19 EP EP17746018.5A patent/EP3488570A1/en active Pending
- 2017-07-19 CA CA3031250A patent/CA3031250A1/en active Pending
- 2017-07-19 RU RU2019104412A patent/RU2734895C2/ru active
- 2017-07-19 CN CN201780056021.7A patent/CN109691038B/zh active Active
-
2020
- 2020-09-14 US US17/020,538 patent/US11706123B2/en active Active
-
2022
- 2022-03-28 AU AU2022202090A patent/AU2022202090B2/en active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8477616B1 (en) * | 2001-06-05 | 2013-07-02 | Avaya Inc. | Method for achieving high-availability of itineraries in a real-time network scheduled packet routing system |
US20100260047A1 (en) * | 2005-01-28 | 2010-10-14 | Nortel Networks Limited | Optimized Scheduling Method for Delay-Sensitive Traffic on High Speed Shared Packet Data Channels |
US20060268713A1 (en) * | 2005-05-27 | 2006-11-30 | Telefonaktiebolaget L M Ericsson (Publ) | Method and apparatus for improving scheduling in packet data networks |
US20130070745A1 (en) * | 2011-09-15 | 2013-03-21 | Fisher-Rosemount Systems, Inc. | Communicating data frames across communication networks that use incompatible network routing protocols |
US20160065422A1 (en) * | 2013-04-12 | 2016-03-03 | Extreme Networks | Bandwidth on demand in sdn networks |
US20140369348A1 (en) * | 2013-06-17 | 2014-12-18 | Futurewei Technologies, Inc. | Enhanced Flow Entry Table Cache Replacement in a Software-Defined Networking Switch |
CN104734957A (zh) * | 2013-12-24 | 2015-06-24 | 中国移动通信集团公司 | 一种软件定义网络sdn中业务传输方法及装置 |
US20160080266A1 (en) * | 2014-09-16 | 2016-03-17 | Fujitsu Limited | Control method, information processing device, and communication system |
WO2016045637A1 (en) * | 2014-09-28 | 2016-03-31 | Hangzhou H3C Technologies Co., Ltd. | Forwarding data packets in software defined network |
US20160149788A1 (en) * | 2014-11-20 | 2016-05-26 | Telefonaktiebolaget L M Ericsson (pubI) | Passive Performance Measurement for Inline Service Chaining |
CN105471764A (zh) * | 2015-11-16 | 2016-04-06 | 中国科学院信息工程研究所 | 一种SDN网络中端到端QoS保障的方法 |
Non-Patent Citations (3)
Title |
---|
CHEN ET AL: "framework for temporal tunnel services", 《FRAMEWORK FOR TTS》 * |
DANIEL THIELE AT AL: "formal anaylsis based evaluation of software defined networking for time sensitive ethernet", 《DESIGN AUTOMATION & TEST IN EUROPE》 * |
SLAVICA TOMOVIC,IGOR RADUSINOVIC: "Fast and efficient bandwidth-delay constrained routing algorithm for SDN networks", 《2016 IEEE NETSOFT CONFERENCE AND WORKSHOPS (NETSOFT)》 * |
Cited By (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114073043A (zh) * | 2019-05-03 | 2022-02-18 | 诺基亚技术有限公司 | 以太网网桥端口管理的方法和装置 |
CN114073043B (zh) * | 2019-05-03 | 2023-09-05 | 诺基亚技术有限公司 | 以太网网桥端口管理的方法和装置 |
US11811511B2 (en) | 2019-05-20 | 2023-11-07 | Huawei Technologies Co., Ltd. | Method, apparatus, and system for communication between controllers in TSN |
WO2020233430A1 (zh) * | 2019-05-20 | 2020-11-26 | 华为技术有限公司 | Tsn中控制器间通信的方法、装置及系统 |
CN112243270A (zh) * | 2019-07-19 | 2021-01-19 | 中国移动通信有限公司研究院 | 一种数据包的传输方法、装置和计算机可读存储介质 |
CN110708678A (zh) * | 2019-09-17 | 2020-01-17 | 中国联合网络通信集团有限公司 | 一种通信方法及设备 |
CN114830611A (zh) * | 2019-10-15 | 2022-07-29 | 汉阳大学校Erica产学协力团 | 集中式网络配置实体及包括该实体的时间敏感网络控制系统 |
CN111211854A (zh) * | 2019-12-26 | 2020-05-29 | 北京控制工程研究所 | 基于时间确定性网络的分布式容错航电控制系统及方法 |
CN111211854B (zh) * | 2019-12-26 | 2022-04-12 | 北京控制工程研究所 | 基于时间确定性网络的分布式容错航电控制系统及方法 |
CN113271291A (zh) * | 2020-02-17 | 2021-08-17 | Abb瑞士股份有限公司 | Tsn装置与非tsn装置之间的接口设备 |
CN113271291B (zh) * | 2020-02-17 | 2023-04-25 | Abb瑞士股份有限公司 | Tsn装置与非tsn装置之间传数据分组的方法和装置 |
US11929936B2 (en) | 2020-02-17 | 2024-03-12 | Abb Schweiz Ag | Interface apparatus between TSN-devices and non-TSN-devices |
CN115244911A (zh) * | 2020-03-10 | 2022-10-25 | 三菱电机株式会社 | 控制器、网络系统以及流管理方法 |
CN115280739B (zh) * | 2020-03-11 | 2024-05-14 | Abb瑞士股份有限公司 | 通过以太网网络传送来自工业终端设备的消息 |
CN115280739A (zh) * | 2020-03-11 | 2022-11-01 | Abb瑞士股份有限公司 | 通过以太网网络传送来自工业终端设备的消息 |
CN111600754B (zh) * | 2020-05-11 | 2022-02-25 | 重庆邮电大学 | 一种面向tsn和非tsn互联的工业异构网络调度方法 |
CN111600754A (zh) * | 2020-05-11 | 2020-08-28 | 重庆邮电大学 | 一种面向tsn和非tsn互联的工业异构网络调度方法 |
WO2021233419A1 (zh) * | 2020-05-21 | 2021-11-25 | 维沃移动通信有限公司 | 支持数据传输的方法及设备 |
CN113810291A (zh) * | 2020-06-15 | 2021-12-17 | 四零四科技股份有限公司 | 通过置换虚拟区网标签而为时间敏感网络路由封包的装置及方法 |
CN113810291B (zh) * | 2020-06-15 | 2023-04-07 | 四零四科技股份有限公司 | 通过置换虚拟区网标签而为时间敏感网络路由封包的装置及方法 |
CN112822770A (zh) * | 2020-06-18 | 2021-05-18 | 中兴通讯股份有限公司 | 业务处理、发起方法、处理节点、发起节点、系统及介质 |
CN112822770B (zh) * | 2020-06-18 | 2022-03-29 | 中兴通讯股份有限公司 | 业务处理、发起方法、处理节点、发起节点、系统及介质 |
CN114124689B (zh) * | 2020-08-27 | 2024-04-26 | Abb瑞士股份有限公司 | 用于实现tsn流配置的系统和方法 |
CN114124689A (zh) * | 2020-08-27 | 2022-03-01 | Abb瑞士股份有限公司 | 用于实现tsn流配置的系统和方法 |
CN112422234A (zh) * | 2020-11-06 | 2021-02-26 | 应急管理部通信信息中心 | 一种基于时间感知的自适应深度学习的数据治理服务方法 |
CN112929117A (zh) * | 2021-01-28 | 2021-06-08 | 广州瓦良格机器人科技有限公司 | 一种兼容可定义确定性通信以太网 |
CN115550212A (zh) * | 2021-06-30 | 2022-12-30 | 瞻博网络公司 | 网络测量不准确性的检测 |
CN113835079A (zh) * | 2021-07-29 | 2021-12-24 | 中汽创智科技有限公司 | 一种车载激光雷达系统、数据处理方法、装置及存储介质 |
CN114513404A (zh) * | 2021-12-30 | 2022-05-17 | 网络通信与安全紫金山实验室 | 时间敏感网络的配置方法、装置及计算机可读存储介质 |
CN114513404B (zh) * | 2021-12-30 | 2023-11-03 | 网络通信与安全紫金山实验室 | 时间敏感网络的配置方法、装置及计算机可读存储介质 |
CN114666280A (zh) * | 2022-03-10 | 2022-06-24 | 山东大学 | 基于时间敏感软件定义网络的工业互联网时延优化方法 |
CN114666280B (zh) * | 2022-03-10 | 2023-09-01 | 山东大学 | 基于时间敏感软件定义网络的工业互联网时延优化方法 |
CN115632925A (zh) * | 2022-12-26 | 2023-01-20 | 北京交通大学 | 一种时间内生确定性融合网络架构及数据通信方法 |
Also Published As
Publication number | Publication date |
---|---|
CA3031250A1 (en) | 2018-01-25 |
US10805205B2 (en) | 2020-10-13 |
AU2022202090B2 (en) | 2023-12-14 |
WO2018015425A1 (en) | 2018-01-25 |
RU2734895C2 (ru) | 2020-10-26 |
AU2017300019A1 (en) | 2019-01-31 |
US11706123B2 (en) | 2023-07-18 |
CN109691038B (zh) | 2021-12-17 |
US20190253339A1 (en) | 2019-08-15 |
RU2019104412A3 (zh) | 2020-08-19 |
US20200412638A1 (en) | 2020-12-31 |
RU2019104412A (ru) | 2020-08-19 |
AU2022202090A1 (en) | 2022-04-14 |
EP3488570A1 (en) | 2019-05-29 |
AU2017300019B2 (en) | 2022-04-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109691038A (zh) | 时间敏感的软件定义的网络 | |
Balasubramanian et al. | An SDN architecture for time sensitive industrial IoT | |
US10834004B2 (en) | Path determination method and system for delay-optimized service function chaining | |
US20200162371A1 (en) | Route optimization using real time traffic feedback | |
US9350635B2 (en) | Efficient network probing for deterministic wireless networks | |
CN103516602B (zh) | 用于传输数据的方法、网络设备以及网络系统 | |
Silva et al. | On the adequacy of SDN and TSN for Industry 4.0 | |
Bagaa et al. | On SDN-driven network optimization and QoS aware routing using multiple paths | |
EP2919423B1 (en) | A network element of a software-defined network | |
Lin et al. | Jointly optimized QoS-aware virtualization and routing in software defined networks | |
EP2797261B1 (en) | A method and a device for optimizing a configuration system of a network element of a software-defined network | |
Hakiri et al. | Data-centric publish/subscribe routing middleware for realizing proactive overlay software-defined networking | |
Alexandris et al. | Configuration and evaluation of multi-CQF shapers in IEEE 802.1 time-sensitive networking (TSN) | |
CN110140328A (zh) | 用于运行工业自动化系统的包括多个通信设备的通信网络的方法和控制单元 | |
Nandha Kumar et al. | SRv6‐based Time‐Sensitive Networks (TSN) with low‐overhead rerouting | |
CN105207906B (zh) | 一种业务路径确定方法及装置 | |
Singh | Routing algorithms for time sensitive networks | |
EP2753034B1 (en) | A method and a device for defining implementation of a look-up table for a network element of a software-defined network | |
Ganesan et al. | Pox Controller based Qos Evaluation for 5G Systems-Network Slicing | |
US9432291B2 (en) | Method and a device for defining a look-up system for a network element of a software-defined network | |
Alkasassbeh et al. | Optimizing traffic engineering in software defined networking | |
EP2278754B1 (en) | Method and system for network communications utilizing shared scalable resources | |
Perrot et al. | Future Networks: Overview of Optimization Problems in Decision-Making Procedures | |
Sedaghat et al. | FRT-SDN: an effective firm real time routing for SDN by early removal of late packets | |
Saadoon | OLSR Protocol based on Fog Computing and SDN in VANet |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |