CN113132233B - 数据处理方法、软件定义网络控制器和数据处理系统 - Google Patents
数据处理方法、软件定义网络控制器和数据处理系统 Download PDFInfo
- Publication number
- CN113132233B CN113132233B CN202110366792.4A CN202110366792A CN113132233B CN 113132233 B CN113132233 B CN 113132233B CN 202110366792 A CN202110366792 A CN 202110366792A CN 113132233 B CN113132233 B CN 113132233B
- Authority
- CN
- China
- Prior art keywords
- node
- data processing
- data
- file system
- distributed file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/12—Shortest path evaluation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种数据处理方法、软件定义网络控制器和数据处理系统。该方法包括:接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文,其中,数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息;基于起始节点的地址信息和目标节点的地址信息获取起始节点至目标节点的全部传输路径,基于该全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从全部传输路径中确定出第一目标传输路径;基于第一目标传输路径,并将第一流表发送至分布式文件系统,以供所述分布式文件系统基于第一流表进行数据处理。本发明能够提高数据处理效率。
Description
技术领域
本发明涉及通信技术领域,具体涉及数据处理方法、软件定义网络控制器和数据处理系统。
背景技术
分布式文件系统(Distributed File System,DFS)是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连,或是若干不同的逻辑磁盘分区或卷标组合在一起而形成的完整的有层次的文件系统。DFS为分布在网络上任意位置的资源提供一个逻辑上的树形文件系统结构,从而使用户访问分布在网络上的共享文件更加简便。
当前用户基于分布式文件系统进行数据处理的流程中,分布式文件系统常常仅依靠数据的标签进行数据处理。随着数据出现指数级增长,当前的数据处理的流程已经不能满足用户对于数据处理的效率的需求。
发明内容
本发明旨在至少解决现有技术中存在的技术问题之一,提供一种数据处理方法、软件定义网络控制器和数据处理系统,以提高数据处理效率。
为了实现上述目的,本发明第一方面提供一种数据处理方法,该方法包括:
接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文;所述数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息;
基于所述起始节点的地址信息和所述目标节点的地址信息获取所述起始节点至所述目标节点的全部传输路径;
基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从所述全部传输路径中确定出第一目标传输路径;
基于所述第一目标传输路径生成第一流表,并将所述第一流表发送至所述分布式文件系统,以供所述分布式文件系统基于所述第一流表进行数据处理。
可选地,所述分布式文件系统包括多个数据节点,所述数据处理请求包括读数据请求,所述起始节点为所述分布式文件系统中与所述读数据请求对应的所述数据节点,所述目标节点为所述客户端。
可选地,所述分布式文件系统包括多个数据节点,所述数据处理请求包括写数据请求,所述起始节点为所请求写入的数据所在的数据存储节点,所述目标节点为所述分布式文件系统中与所述写数据请求对应的所述数据节点。
可选地,所述基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从所述全部传输路径中确定出第一目标传输路径的步骤,包括:
基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,获取各传输路径的路径评分;
基于所述路径评分从所述全部传输路径中确定出第一目标传输路径。
可选地,所述实时带宽信息包括路径带宽参数;所述跳数信息包括路径跳数参数;所述基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,获取各传输路径的路径评分的步骤,包括:
对所述路径跳数参数与所述路径带宽参数进行加权求和,得到所述路径评分;所述路径跳数参数为传输路径对应的跳数与全部传输路径的跳数之和的比值;所述路径带宽参数为传输路径对应的实时已使用带宽与最大带宽的比值;
所述基于所述路径评分获取第一目标传输路径的步骤,包括:
获取评分最小的传输路径作为所述第一目标传输路径。
可选地,所述目标节点为所述分布式文件系统中与所述写数据请求对应的一个所述数据节点,所述分布式文件系统中的多个数据节点包括所述目标节点和多个备份数据节点;
所述数据处理响应报文为写数据响应报文的情况下,所述基于所述第一目标传输路径生成第一流表,并将所述第一流表发送至所述分布式文件系统,以供所述分布式文件系统基于所述第一流表进行数据处理之后,还包括:
接收所述分布式文件系统的目标节点发送的数据分发同步请求报文,所述数据分发同步请求报文包括目标节点的地址信息和多个备份数据节点的地址信息;
基于所述目标节点的地址信息和每个备份数据节点的地址信息获取所述目标节点至所述备份数据节点的第二目标传输路径;
基于所述第二目标传输路径生成第二流表,并将所述第二流表发送至所述目标节点,以供所述目标节点基于所述第二流表进行数据分发。
可选地,所述接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文的步骤,包括:
接收分布式文件系统的控制节点响应于客户端的数据处理请求而发送的数据处理响应报文;
所述将所述第一流表发送至所述分布式文件系统,以供所述分布式文件系统基于所述第一流表进行数据处理的步骤,包括:
将所述第一流表发送至所述控制节点,以供所述控制节点基于所述第一流表进行数据处理。
可选地,所述接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文之前,还包括:
接收所述分布式文件系统的各节点通过交换机发送的接口注册请求;
基于所述接口注册请求获取所述分布式文件系统的各节点对应的所述交换机的网络设备标识、接口标识和协议列表,并基于所述网络设备标识、所述接口标识和所述协议列表对分布式文件系统的各节点进行接口注册。
本发明第二方面提供一种软件定义网络控制器,该控制器包括:
接收模块,用于接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文;所述数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息;
获取模块,用于基于所述起始节点的地址信息和所述目标节点的地址信息获取所述起始节点至所述目标节点的全部传输路径;
处理模块,用于基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从所述全部传输路径中确定出第一目标传输路径;
生成模块,用于基于所述第一目标传输路径生成第一流表;
发送模块,用于将所述第一流表发送至所述分布式文件系统,以供所述分布式文件系统基于所述第一流表进行数据处理。
可选地,控制器还包括注册模块;
所述接收模块,还用于接收所述分布式文件系统的各节点通过交换机发送的接口注册请求;
所述注册模块,用于基于所述接口注册请求获取所述分布式文件系统的各节点对应的所述交换机的网络设备标识、接口标识和协议列表,并基于所述网络设备标识、所述接口标识和所述协议列表对分布式文件系统的各节点进行接口注册。
本发明第三方面提供一种数据处理系统,该系统包括本发明第二方面提供的软件定义网络控制器和分布式文件系统。
本发明具有如下优点:
本发明提供一种数据处理方法、软件定义网络控制器和数据处理系统,该方法包括:首先,接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文,其中,数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息;然后,基于起始节点的地址信息和目标节点的地址信息获取起始节点至目标节点的全部传输路径,基于该全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从全部传输路径中确定出第一目标传输路径;最后,基于第一目标传输路径,并将第一流表发送至分布式文件系统,以供所述分布式文件系统基于第一流表进行数据处理,能够提高数据处理过程中的数据传输速度,进而提高数据处理效率。
附图说明
附图是用来提供对本发明的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本发明,但并不构成对本发明的限制。
图1是本发明实施例提供的一种数据处理方法的流程图;
图2是本发明实施例提供的一种步骤S103的具体实施方式的流程图;
图3是本发明实施例提供的另一种数据处理方法的流程图;
图4为本发明实施例提供的一种软件定义网络控制器的结构示意图;
图5为本发明实施例提供的一种数据处理系统的结构示意图。
具体实施方式
以下结合附图对本发明的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本发明,并不用于限制本发明。
分布式文件系统(Distributed File System,DFS)是指文件系统管理的物理存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连,或是若干不同的逻辑磁盘分区或卷标组合在一起而形成的完整的有层次的文件系统。DFS为分布在网络上任意位置的资源提供一个逻辑上的树形文件系统结构,从而使用户访问分布在网络上的共享文件更加简便。
当前用户基于分布式文件系统进行数据处理的流程中,分布式文件系统常常仅依靠数据的标签进行数据处理,并未考虑网络的实时性能状态。例如,分布式文件系统中,数据库服务器在接收客户端发送的文件写入请求后,根据文件写入请求写入文件,并为每一文件的各分片打上标签;分布式文件系统中元数据服务器当监控到存储服务器状态异常时,向存储服务器发起分片迁移请求;存储服务器根据本地存储文件的各分片的标签以及分片迁移请求携带的异常信息,重新分配分片位置,并发起迁移;当迁移成功后,将分片新的位置信息上报至数据库服务器。然而,随着数据出现指数级增长,当前的数据处理的流程已经不能满足用户对于数据处理的效率的需求。
为了解决上述难题,本发明实施例提供数据处理方法,应用于软件定义网络(Software Defined Network,SDN)中的软件定义网络控制器(SDN控制器)。其中,软件定义网络由SDN控制器和openflow交换机组成。该软件定义网络是一种新型网络创新架构,是网络虚拟化的一种实现方式,其核心技术OpenFlow通过将网络设备的控制面与数据面分离开来,从而实现了网络流量的灵活控制,使网络作为管道变得更加智能,为核心网络及应用的创新提供了良好的平台。
图1是本发明实施例提供的一种数据处理方法的流程图。如图1所示,该数据处理方法包括以下步骤:
步骤S101,接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文。
其中,数据处理请求是客户端向分布式文件系统发送的请求信息,该数据处理请求包含请求类型标识、起始节点的地址信息和数据处理请求对应的目标节点的地址信息。其中,请求类型标识用于标识该数据处理请求的类型,例如该数据处理请求为读数据请求或者写数据请求。不同的请求类型对应不同的数据处理/传输过程。起始节点指的是与该数据处理请求的请求类型相对应的数据传输过程的数据传输起点,目标节点指的是与该数据处理请求的请求类型相对应的数据传输过程的数据传输终点。数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息。
在一个实施方式中,为了保障数据处理的正常有序进行,在步骤S101之前,即SDN控制器接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文之前,还包括:
步骤一、接收分布式文件系统的各节点通过交换机发送的接口注册请求。
其中,接口注册请求包括分布式文件系统的各节点对应的交换机的网络设备标识、接口标识和协议列表。交换机为OpenFlow交换机。
在一些实施例中,分布式文件系统由控制节点和数据节点组成。控制节点和数据节点可以分别通过交换机向SDN控制器发送接口注册请求,以注册指定的接口。
步骤二、基于接口注册请求获取分布式文件系统的各节点对应的交换机的网络设备标识、接口标识和协议列表,并基于该网络设备标识、接口标识和协议列表对各节点进行接口注册。
其中,SDN控制器基于网络设备标识、接口标识和协议列表对各节点进行接口注册之后,形成管理列表,该管理列表包含分布式文件系统的各节点与交换机的网络设备标识、接口标识和协议列表之间的对应关系。在后续数据处理流程中,SDN控制器可以基于该管理列表控制分布式文件系统中各节点之间的数据流量。
在接口注册完成后,分布式文件系统的各节点均可通过各自对应的接口与SDN控制器进行信息交互。
在一个实施方式中,分布式文件系统由控制节点和数据节点构成。分布式文件系统的各节点向SDN控制器注册接口成功后,分布式文件系统中的控制节点接收客户端发送的数据处理请求,该数据处理请求包含请求类型标识、起始节点的地址信息和目标节点的地址信息。其中,起始节点指的是与该数据处理请求的请求类型相对应的数据传输过程的数据传输起点,目标节点指的是与该数据处理请求的请求类型相对应的数据传输过程的数据传输终点。
分布式文件系统的控制节点响应于该数据处理请求生成并发送数据处理响应报文至SDN控制器,SDN控制器接收分布式文件系统的控制节点响应于客户端的数据处理请求而发送的数据处理响应报文。其中,数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息。
步骤S102,基于起始节点的地址信息和目标节点的地址信息获取起始节点至目标节点的全部传输路径。
步骤S103,基于全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从全部传输路径中确定出第一目标传输路径。
其中,跳数信息包括路径跳数参数;实时带宽信息包括路径带宽参数。
图2是本发明实施例提供的一种步骤S103的具体实施方式的流程图。如图2所示,SDN控制器基于全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从全部传输路径中确定出第一目标传输路径的步骤,包括:
步骤S1031、基于全部传输路径中各传输路径对应的跳数信息和实时带宽信息,获取各传输路径的路径评分。
步骤S1032、基于路径评分从全部传输路径中确定出第一目标传输路径。
在一个实施方式中,实时带宽信息包括路径带宽参数;跳数信息包括路径跳数参数。上述步骤S1031中,SDN控制器基于全部传输路径中各传输路径对应的跳数信息和实时带宽信息,获取各传输路径的路径评分的步骤,包括:
对路径跳数参数与路径带宽参数进行加权求和,得到路径评分。具体地,基于下述公式(1)对路径跳数参数与路径带宽参数进行加权求和,得到路径评分。
P=A*u+B*(1-u) 公式(1)
其中,P为路径评分;A为路径跳数参数,路径跳数参数为传输路径对应的跳数与全部传输路径的跳数之和的比值,该传输路径对应的跳数指的是起始节点至目标节点中间所经过的节点的个数。B为路径带宽参数,路径带宽参数为传输路径对应的实时已使用带宽与最大带宽的比值,该最大带宽指的是SDN网络中预存的该条传输路径对应的最大数据传输带宽。u为权重,u的取值为(0,1)。
在本实施方式中,传输路径的跳数越少、实时已使用带宽越少,评分越小,该条传输路径的性能越优。因此,上述步骤S1032,基于所述路径评分获取第一目标传输路径的步骤,具体包括:获取评分最小的传输路径作为第一目标传输路径。
步骤S104,基于第一目标传输路径生成第一流表,并将第一流表发送至分布式文件系统,以供分布式文件系统基于第一流表进行数据处理。
其中,第一流表是分布式文件系统进行数据处理的依据,该第一流表包SDN控制器基于第一目标传输路径生成的动作表,该动作表用于指示分布式文件系统如何进行数据处理。
需要说明的是,由于该第一目标传输路径是考量了网络的实时带宽信息后确定的传输路径,因此,基于该第一目标传输路径生成的第一流表也包含对网络的实时带宽信息的考量,SDN控制器发送该第一流表至分布式文件系统,以供所述分布式文件系统基于第一流表进行数据处理能够提高数据处理过程中的数据传输速度,进而提高数据处理效率。
在一个实施方式中,分布式文件系统由控制节点和数据节点构成,则步骤S104中,SDN控制器基于第一目标传输路径生成第一流表之后,将第一流表发送至分布式文件系统中的控制节点,以供分布式文件系统中的控制节点基于第一流表进行数据处理。
本发明实施例提供一种数据处理方法,该方法包括:首先,接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文,其中,数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息;然后,基于起始节点的地址信息和目标节点的地址信息获取起始节点至目标节点的全部传输路径,基于该全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从全部传输路径中确定出第一目标传输路径;最后,基于第一目标传输路径,并将第一流表发送至分布式文件系统,以供所述分布式文件系统基于第一流表进行数据处理,能够提高数据处理过程中的数据传输速度,进而提高数据处理效率。
在一个实施方式中,分布式文件系统包括控制节点和多个数据节点。分布式文件系统的控制节点接收客户端发送的数据处理请求,该数据处理请求包含请求类型标识、起始节点的地址信息和目标节点的地址信息,控制节点基于请求类型标识识别该数据处理请求的类型,不同的请求类型对应不同的数据处理/传输过程。
在一个实施方式中,上述步骤S101中,SDN控制器接收分布式文件系统的控制节点响应于客户端的数据处理请求而发送的数据处理响应报文。该数据处理请求为读数据请求,该数据处理响应报文为读数据响应报文。该数据处理响应报文包括读数据请求对应的待读取数据标识、起始节点的地址信息和数据处理请求对应的目标节点的地址信息,其中,待读取数据标识可以是待读取的数据的名称,起始节点为分布式文件系统中与读数据请求对应的数据节点,即该起始节点为客户端想要读取的数据所在的数据节点;目标节点为客户端。
在本实施方式中,上述步骤S104,分布式文件系统的控制节点基于第一流表进行数据处理的步骤,包括:
步骤一、分布式文件系统的控制节点基于该第一流表对读数据请求进行处理,并将处理后的读数据请求发送至客户端,以供客户端将该处理后的读数据请求发送至起始节点,即与该读数据请求对应的数据节点,其中,处理后的读数据请求包含待读取数据标识、第一目标传输路径。
在一些实施例中,分布式文件系统的控制节点基于该第一流表对读数据请求进行处理的步骤,包括:控制节点从该第一流表中提取第一目标传输路径的信息,并将该第一目标传输路径添加到读数据请求中。
步骤二、起始节点基于该处理后的读数据请求所包含的第一目标传输路径,将待读取数据标识所对应的数据传输到目标节点,即客户端,以供客户端接收数据并在校验数据无误的情况下,向控制节点发送数据读取成功提示信息,控制节点响应于客户端的读取成功提示信息,将基于第一流表存储的第一目标传输路径删除。
在另一个实施方式中,上述步骤S101中,SDN控制器接收分布式文件系统的控制节点响应于客户端的数据处理请求而发送的数据处理响应报文。该数据处理请求为写数据请求,该数据处理响应报文为写数据响应报文。该数据处理响应报文包括写数据处理请求对应的待写入数据标识、起始节点的地址信息和数据处理请求对应的目标节点的地址信息,其中,待写入数据标识可以是所请求写入的数据的名称,起始节点为所请求写入的数据所在的数据存储节点;需要说明的是,该数据存储节点可以是分布式文件系统的任一个数据节点,也可以是系统外部的数据存储节点。目标节点为分布式文件系统中与写数据请求对应的数据节点,即该目标节点为客户端想要写入数据的数据节点。
在本实施方式中,上述步骤S104,分布式文件系统的控制节点基于第一流表进行数据处理的步骤,包括:
步骤一、分布式文件系统的控制节点基于该第一流表对写数据请求进行处理,并将处理后的写数据请求发送至客户端,客户端将该处理后的写数据请求发送至起始节点,即所请求写入的数据所在的数据存储节点。其中,处理后的写数据请求包含所请求写入的数据的名称、第一目标传输路径等信息。
在一些实施例中,分布式文件系统的控制节点基于该第一流表对写数据请求进行处理的步骤,包括:控制节点从该第一流表中提取第一目标传输路径的信息,并将该第一目标传输路径添加到写数据请求中。
步骤二、所请求写入的数据所在的数据存储节点基于该处理后的写数据请求所包含的第一目标传输路径,将所请求写入的数据传输到目标节点,即与写数据请求对应的数据节点,以供与写数据请求对应的数据节点接收所请求写入的数据。
在一些实施例中,目标节点为分布式文件系统中与写数据请求对应的一个数据节点,分布式文件系统中的多个数据节点包括目标节点和多个备份数据节点。图3是本发明实施例提供的另一种数据处理方法的流程图,应用于SDN控制器,如图3所示,数据处理响应报文为写数据响应报文的情况下,上述基于第一目标传输路径生成第一流表,并将第一流表发送至分布式文件系统,以供分布式文件系统基于第一流表进行数据处理的步骤之后,即在目标节点接收到起始节点传输的所请求写入的数据之后,还包括:
步骤S301,接收分布式文件系统的目标节点发送的数据分发同步请求报文,其中,数据分发同步请求报文包括目标节点的地址信息和多个备份数据节点的地址信息。
步骤S302,基于目标节点的地址信息和每个备份数据节点的地址信息获取目标节点至备份数据节点的第二目标传输路径。
其中,SDN控制器获取第二目标传输路径的具体方式与获取第一目标传输路径的方式类似,前述已对SDN控制器获取第一目标传输路径的方式进行详细描述,此处对SDN控制器获取第二目标传输路径的具体方式不再赘述。
步骤S303,基于第二目标传输路径生成第二流表,并将第二流表发送至目标节点,以供该目标节点基于第二流表进行数据分发。
在一个实施方式中,目标节点基于第二流表将所请求写入的数据分发至各备份数据节点之后,即目标节点基于第二流表完成数据分发之后,向控制节点发送数据分发成功提示信息,控制节点响应于该数据分发成功提示信息,将基于第一流表存储的第一目标传输路径以及基于第二流表存储的第二目标传输路径删除。
本发明实施例还提供一种软件定义网络控制器(SDN控制器),如图4所示,该SDN控制器包括:接收模块41、获取模块42、处理模块43、生成模块44和发送模块45。
接收模块41,用于接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文,其中,数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息。
获取模块42,用于基于起始节点的地址信息和目标节点的地址信息获取起始节点至目标节点的全部传输路径。
处理模块43,用于基于全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从全部传输路径中确定出第一目标传输路径。
生成模块44,用于基于第一目标传输路径生成第一流表。
发送模块45,用于将第一流表发送至分布式文件系统,以供分布式文件系统基于第一流表进行数据处理。
在一个实施方式中,SDN控制器还包括注册模块。上述接收模块41,还用于接收分布式文件系统的各节点通过交换机发送的接口注册请求,上注册模块,用于基于接口注册请求获取分布式文件系统的各节点对应的交换机的网络设备标识、接口标识和协议列表,并基于网络设备标识、接口标识和协议列表对分布式文件系统的各节点进行接口注册。
本发明实施例提供的SDN控制器中各模块的工作方式与应用于SDN控制器的数据处理方法中各步骤对应,因此,SDN控制器中各模块的工作方式可参见本发明实施例提供的应用于SDN控制器的数据处理方法。
本发明实施例提供一种软件定义网络控制器,该软件定义网络控制器包括:接收模块接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文,其中,数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息;获取模块用于基于起始节点的地址信息和目标节点的地址信息获取起始节点至目标节点的全部传输路径,处理模块用于基于该全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从全部传输路径中确定出第一目标传输路径;发送模块用于基于第一目标传输路径,并将第一流表发送至分布式文件系统,以供所述分布式文件系统基于第一流表进行数据处理,能够提高数据处理过程中的数据传输速度,进而提高数据处理效率。
本发明实施例还提供一种数据处理系统,如图5所示,该系统包括:软件定义网络控制器51和分布式文件系统52。其中,分布式文件系统52包括控制节点和数据节点。
在一个实施方式中,数据处理系统还包括交换机。
上述软件定义网络控制器和分布式文件系统的具体工作方式详见本发明前述实施例,此处不再赘述。
本发明实施例提供又一种数据处理方法,应用于上述数据处系统,该数据处理方法包括以下步骤:
步骤一、SDN控制器接收分布式文件系统的各节点通过交换机发送的接口注册请求。其中,分布式文件系统的各节点包括控制节点和数据节点。
步骤二、SDN控制器基于接口注册请求获取分布式文件系统的各节点对应的交换机的网络设备标识、接口标识和协议列表,并基于该网络设备标识、接口标识和协议列表对各节点进行接口注册。
步骤三、分布式文件系统中的控制节点接收客户端发送的数据处理请求,并基于该数据处理请求包含的请求类型标识判断该数据处理请求的类型。
控制节点在判断该数据处理请求为读数据请求的情况下,响应于该读数据请求生成并发送读数据响应报文至SDN控制器,以供数据处理系统执行下述步骤四至步骤十;控制节点在判断该数据处理请求为写数据请求的情况下,响应于该写数据请求生成并发送写数据响应报文至SDN控制器,以供数据处理系统执行下述步骤十一至步骤二十。其中,数据处理请求包含请求类型标识、起始节点的地址信息和目标节点的地址信息。
步骤四、SDN控制器接收分布式文件系统的控制节点响应于客户端的读数据请求而发送的读数据响应报文。
其中,读数据响应报文包括读数据请求对应的待读取数据标识、起始节点的地址信息和数据处理请求对应的目标节点的地址信息。该起始节点为分布式文件系统中与读数据请求对应的数据节点,即该起始节点为客户端想要读取的数据所在的数据节点;目标节点为客户端。
步骤五、SDN控制器基于起始节点的地址信息和目标节点的地址信息获取起始节点至目标节点的全部传输路径,并基于全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从全部传输路径中确定出第一目标传输路径;SDN控制器还基于第一目标传输路径生成第一流表,并将第一流表发送至分布式文件系统的控制节点。
步骤六、分布式文件系统的控制节点基于该第一流表对读数据请求进行处理,并将处理后的读数据请求发送至与客户端。
步骤七、客户端将该处理后的读数据请求发送至起始节点,即与该读数据请求对应的数据节点。
步骤八、起始节点基于该处理后的读数据请求所包含的第一目标传输路径,将待读取数据标识所对应的数据传输到目标节点,即客户端。
步骤九、客户端接收数据并在校验数据无误的情况下,向控制节点发送数据读取成功提示信息
步骤十、控制节点响应于客户端的读取成功提示信息,将基于第一流表存储的第一目标传输路径删除。
步骤十一、SDN控制器接收分布式文件系统的控制节点响应于客户端的写数据请求而发送的写数据响应报文。
其中,写数据响应报文包括写数据处理请求对应的待写入数据标识、起始节点的地址信息和数据处理请求对应的目标节点的地址信息,起始节点为所请求写入的数据所在的数据存储节点;目标节点为分布式文件系统中与写数据请求对应的数据节点,即该目标节点为客户端想要写入数据的数据节点。
步骤十二、SDN控制器基于起始节点的地址信息和目标节点的地址信息获取起始节点至目标节点的全部传输路径,并基于全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从全部传输路径中确定出第一目标传输路径;SDN控制器还基于第一目标传输路径生成第一流表,并将第一流表发送至分布式文件系统的控制节点。
步骤十三、分布式文件系统的控制节点基于该第一流表对写数据请求进行处理,并将处理后的写数据请求发送至与客户端。
步骤十四、客户端将该处理后的写数据请求发送至起始节点,即所请求写入的数据所在的数据存储节点。
其中,处理后的写数据请求包含所请求写入的数据的名称、第一目标传输路径等信息。
步骤十五、起始节点,即所请求写入的数据所在的数据存储节点基于该处理后的写数据请求所包含的第一目标传输路径,将所请求写入的数据传输到目标节点,即与写数据请求对应的数据节点。
该目标节点为分布式文件系统中的数据节点。
步骤十六、目标节点,即与写数据请求对应的数据节点,向SDN控制器发送数据分发同步请求报文。
其中,数据分发同步请求报文包括目标节点的地址信息和多个备份数据节点的地址信息。
步骤十七、SDN控制器接收目标节点发送的数据分发同步请求报文,并基于目标节点的地址信息和每个备份数据节点的地址信息获取目标节点至备份数据节点的第二目标传输路径,基于第二目标传输路径生成第二流表,并将第二流表发送至目标节点。
步骤十八、目标节点基于第二流表进行数据分发,以将所请求写入的数据分发至各备份数据节点。
步骤十九、目标节点基于第二流表完成数据分发之后,向控制节点发送数据分发成功提示信息。
步骤二十、控制节点响应于该数据分发成功提示信息,将基于第一流表存储的第一目标传输路径以及基于第二流表存储的第二目标传输路径删除。
可以理解的是,以上实施方式仅仅是为了说明本发明的原理而采用的示例性实施方式,然而本发明并不局限于此。对于本领域内的普通技术人员而言,在不脱离本发明的精神和实质的情况下,可以做出各种变型和改进,这些变型和改进也视为本发明的保护范围。
Claims (9)
1.一种数据处理方法,其特征在于,所述方法包括:
接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文;所述数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息;
基于所述起始节点的地址信息和所述目标节点的地址信息获取所述起始节点至所述目标节点的全部传输路径;
基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从所述全部传输路径中确定出第一目标传输路径;
基于所述第一目标传输路径生成第一流表,并将所述第一流表发送至所述分布式文件系统,以供所述分布式文件系统基于所述第一流表进行数据处理;
所述基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从所述全部传输路径中确定出第一目标传输路径的步骤,包括:
基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,获取各传输路径的路径评分;
基于所述路径评分从所述全部传输路径中确定出第一目标传输路径;
所述实时带宽信息包括路径带宽参数;所述跳数信息包括路径跳数参数;所述基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,获取各传输路径的路径评分的步骤,包括:
对所述路径跳数参数与所述路径带宽参数进行加权求和,得到所述路径评分;所述路径跳数参数为传输路径对应的跳数与全部传输路径的跳数之和的比值;所述路径带宽参数为传输路径对应的实时已使用带宽与最大带宽的比值;
所述基于所述路径评分获取第一目标传输路径的步骤,包括:
获取评分最小的传输路径作为所述第一目标传输路径。
2.根据权利要求1所述的方法,其特征在于,所述分布式文件系统包括多个数据节点,所述数据处理请求包括读数据请求,所述起始节点为所述分布式文件系统中与所述读数据请求对应的所述数据节点,所述目标节点为所述客户端。
3.根据权利要求1所述的方法,其特征在于,所述分布式文件系统包括多个数据节点,所述数据处理请求包括写数据请求,所述起始节点为所请求写入的数据所在的数据存储节点,所述目标节点为所述分布式文件系统中与所述写数据请求对应的所述数据节点。
4.根据权利要求3所述的方法,其特征在于,所述目标节点为所述分布式文件系统中与所述写数据请求对应的一个所述数据节点,所述分布式文件系统中的多个数据节点包括所述目标节点和多个备份数据节点;
所述数据处理响应报文为写数据响应报文的情况下,所述基于所述第一目标传输路径生成第一流表,并将所述第一流表发送至所述分布式文件系统,以供所述分布式文件系统基于所述第一流表进行数据处理之后,还包括:
接收所述分布式文件系统的目标节点发送的数据分发同步请求报文,所述数据分发同步请求报文包括目标节点的地址信息和多个备份数据节点的地址信息;
基于所述目标节点的地址信息和每个备份数据节点的地址信息获取所述目标节点至所述备份数据节点的第二目标传输路径;
基于所述第二目标传输路径生成第二流表,并将所述第二流表发送至所述目标节点,以供所述目标节点基于所述第二流表进行数据分发。
5.根据权利要求1所述的方法,其特征在于,所述接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文的步骤,包括:
接收分布式文件系统的控制节点响应于客户端的数据处理请求而发送的数据处理响应报文;
所述将所述第一流表发送至所述分布式文件系统,以供所述分布式文件系统基于所述第一流表进行数据处理的步骤,包括:
将所述第一流表发送至所述控制节点,以供所述控制节点基于所述第一流表进行数据处理。
6.根据权利要求1所述的方法,其特征在于,所述接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文之前,还包括:
接收所述分布式文件系统的各节点通过交换机发送的接口注册请求;
基于所述接口注册请求获取所述分布式文件系统的各节点对应的所述交换机的网络设备标识、接口标识和协议列表,并基于所述网络设备标识、所述接口标识和所述协议列表对分布式文件系统的各节点进行接口注册。
7.一种软件定义网络控制器,其特征在于,所述控制器包括:
接收模块,用于接收分布式文件系统响应于客户端的数据处理请求而发送的数据处理响应报文;所述数据处理响应报文包括数据处理请求对应的起始节点的地址信息和数据处理请求对应的目标节点的地址信息;
获取模块,用于基于所述起始节点的地址信息和所述目标节点的地址信息获取所述起始节点至所述目标节点的全部传输路径;
处理模块,用于基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,从所述全部传输路径中确定出第一目标传输路径;
生成模块,用于基于所述第一目标传输路径生成第一流表;
发送模块,用于将所述第一流表发送至所述分布式文件系统,以供所述分布式文件系统基于所述第一流表进行数据处理;
所述处理模块,还用于基于所述全部传输路径中各传输路径对应的跳数信息和实时带宽信息,获取各传输路径的路径评分,并基于所述路径评分从所述全部传输路径中确定出第一目标传输路径;所述实时带宽信息包括路径带宽参数;所述跳数信息包括路径跳数参数;
所述处理模块,还用于:对所述路径跳数参数与所述路径带宽参数进行加权求和,得到所述路径评分,并获取评分最小的传输路径作为所述第一目标传输路径;所述路径跳数参数为传输路径对应的跳数与全部传输路径的跳数之和的比值;所述路径带宽参数为传输路径对应的实时已使用带宽与最大带宽的比值。
8.根据权利要求7所述的控制器,其特征在于,所述控制器还包括注册模块;
所述接收模块,还用于接收所述分布式文件系统的各节点通过交换机发送的接口注册请求;
所述注册模块,用于基于所述接口注册请求获取所述分布式文件系统的各节点对应的所述交换机的网络设备标识、接口标识和协议列表,并基于所述网络设备标识、所述接口标识和所述协议列表对分布式文件系统的各节点进行接口注册。
9.一种数据处理系统,其特征在于,所述系统包括权利要求7或8所述的软件定义网络控制器和分布式文件系统。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110366792.4A CN113132233B (zh) | 2021-04-06 | 2021-04-06 | 数据处理方法、软件定义网络控制器和数据处理系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110366792.4A CN113132233B (zh) | 2021-04-06 | 2021-04-06 | 数据处理方法、软件定义网络控制器和数据处理系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113132233A CN113132233A (zh) | 2021-07-16 |
CN113132233B true CN113132233B (zh) | 2022-09-23 |
Family
ID=76774964
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110366792.4A Active CN113132233B (zh) | 2021-04-06 | 2021-04-06 | 数据处理方法、软件定义网络控制器和数据处理系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113132233B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108600102A (zh) * | 2018-03-29 | 2018-09-28 | 北京交通大学 | 一种基于智慧协同网络中的柔性数据传输系统 |
CN110049527A (zh) * | 2019-04-19 | 2019-07-23 | 厦门大学 | 基于软件定义车联网路由的方法及系统 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104135539B (zh) * | 2014-08-15 | 2018-03-16 | 华为技术有限公司 | 数据存储方法、sdn控制器和分布式网络存储系统 |
CN105933376B (zh) * | 2016-03-31 | 2019-09-03 | 华为技术有限公司 | 一种数据操作方法,服务器及存储系统 |
KR102154653B1 (ko) * | 2017-01-18 | 2020-09-10 | 한국전자통신연구원 | 토러스 네트워크 기반의 분산 파일 시스템을 위한 파일 접근 경로 설정 방법 및 이를 위한 장치 |
-
2021
- 2021-04-06 CN CN202110366792.4A patent/CN113132233B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108600102A (zh) * | 2018-03-29 | 2018-09-28 | 北京交通大学 | 一种基于智慧协同网络中的柔性数据传输系统 |
CN110049527A (zh) * | 2019-04-19 | 2019-07-23 | 厦门大学 | 基于软件定义车联网路由的方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN113132233A (zh) | 2021-07-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9917884B2 (en) | File transmission method, apparatus, and distributed cluster file system | |
US10831612B2 (en) | Primary node-standby node data transmission method, control node, and database system | |
CN112953774B (zh) | 一种网络拓扑生成方法、系统、设备及计算机存储介质 | |
CN109886693B (zh) | 区块链系统的共识实现方法、装置、设备和介质 | |
US20010056499A1 (en) | Method of and device for deciding network address, and computer product | |
CN115913937B (zh) | 一种容器多网卡网络配置方法、装置、设备及存储介质 | |
CN114091610A (zh) | 智能决策方法及装置 | |
CN101110827A (zh) | 一种多维地址域名解析的方法和装置以及系统 | |
CN112073212B (zh) | 参数配置方法、装置、终端设备和存储介质 | |
CN108768849A (zh) | 报文处理方法及装置 | |
CN113132233B (zh) | 数据处理方法、软件定义网络控制器和数据处理系统 | |
CN105049463A (zh) | 分散数据库、数据共享方法、用于分散数据库的装置 | |
CN112468317A (zh) | 一种集群拓扑更新方法、系统、设备及计算机存储介质 | |
CN111600929A (zh) | 传输线路探测方法、路由策略生成方法及代理服务器 | |
CN112395313A (zh) | 全局序列生成方法、装置、电子设备及计算机存储介质 | |
CN112527453B (zh) | 虚拟化信息仿真系统、方法及计算机可读存储介质 | |
CN109451090A (zh) | 一种域名解析方法及装置 | |
CN107493181B (zh) | 虚拟扩展端口的指示方法和装置 | |
CN110932879A (zh) | 网络性能测试方法、数据处理设备和存储介质 | |
CN106559439B (zh) | 一种业务处理方法及设备 | |
CN112738153B (zh) | 业务系统中的网关选择方法、系统、装置、服务器及介质 | |
CN110109933B (zh) | 信息维护方法、配置管理数据库系统及存储介质 | |
CN112765056B (zh) | 一种预留存储集群lun的方法、系统、设备及介质 | |
CN116545895A (zh) | 一种全链路压测方法、装置及电子设备 | |
CN117527883A (zh) | 业务隔离处理方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |