CN116760847A - Nfs网关、分布式文件存储方法、装置、设备及存储介质 - Google Patents
Nfs网关、分布式文件存储方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN116760847A CN116760847A CN202310731093.4A CN202310731093A CN116760847A CN 116760847 A CN116760847 A CN 116760847A CN 202310731093 A CN202310731093 A CN 202310731093A CN 116760847 A CN116760847 A CN 116760847A
- Authority
- CN
- China
- Prior art keywords
- target
- nfs
- file access
- gateway
- file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003860 storage Methods 0.000 title claims abstract description 130
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000013500 data storage Methods 0.000 claims abstract description 12
- 238000004590 computer program Methods 0.000 claims description 19
- 238000004891 communication Methods 0.000 claims description 16
- 238000007726 management method Methods 0.000 claims description 8
- 230000004044 response Effects 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 17
- 230000015654 memory Effects 0.000 description 13
- 238000012545 processing Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 8
- 238000004458 analytical method Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000033228 biological regulation Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 230000014759 maintenance of location Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 241001522296 Erithacus rubecula Species 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/09—Mapping addresses
- H04L61/10—Mapping addresses of different types
- H04L61/103—Mapping addresses of different types across network layers, e.g. resolution of network layer into physical layer addresses or address resolution protocol [ARP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L61/00—Network arrangements, protocols or services for addressing or naming
- H04L61/45—Network directories; Name-to-address mapping
- H04L61/4505—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols
- H04L61/4511—Network directories; Name-to-address mapping using standardised directories; using standardised directory access protocols using domain name system [DNS]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1023—Server selection for load balancing based on a hash applied to IP addresses or costs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/104—Peer-to-peer [P2P] networks
- H04L67/1044—Group management mechanisms
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Theoretical Computer Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种分布式文件存储方法、装置、设备及存储介质,可以应用于数据存储技术领域。该方法包括:响应于多个文件访问请求,采用DNS轮询方式,确定各文件访问请求的目标NFS网关;通过目标NFS网关对各文件访问请求进行驱动匹配,得到目标驱动;通过目标驱动来驱动与各文件访问请求相对应的客户端对目标存储集群进行访问,以将各文件访问请求中的数据存储到目标存储集群;其中,目标NFS网关以容器形态部署在kubernetes集群中。
Description
技术领域
本公开涉及数据存储技术领域,尤其涉及一种NFS网关、分布式文件存储方法、装置、设备、介质和程序产品。
背景技术
信息时代对文件的存储越来越频繁,也越来越重要,从而产生了很多分布式文件存储。不同的分布式文件存储都有特定的存储接口,给文件存储带来了不便。虽然有些可以兼容POSIX接口,但其只是将适配的工作转移给了操作系统,若操作系统驱动对其不支持,也同样无法做到接口兼容。
现有的开源NFS网关(如:NFS-Ganesha)可以将多种存储系统的文件系统导出为NFS共享,来提供文件存储的访问服务。由于该网关与传统NFS Server一样,只提供集中式的NFS服务,自身不提供分布式能力,当并发量增加时单点瓶颈突出。通常需要配置HA(HighAvailability,高可用)的解决方案来提高可靠性。而HA多采用主备方式,可以提高网关的可靠性,但不能对流量进行负载均衡,仍无法解决单点流量瓶颈的问题。
发明内容
鉴于上述问题,本公开提供了一种NFS网关、分布式文件存储方法、装置、设备、介质和程序产品。
根据本公开的第一个方面,提供了一种分布式文件存储方法,包括:响应于多个文件访问请求,采用DNS轮询方式,确定各文件访问请求的目标NFS网关;通过目标NFS网关对各文件访问请求进行驱动匹配,得到目标驱动;通过目标驱动来驱动与各文件访问请求相对应的客户端对目标存储集群进行访问,以将各文件访问请求中的数据存储到目标存储集群;其中,目标NFS网关以容器形态部署在kubernetes集群中。
根据本公开的实施例,响应于多个文件访问请求,采用DNS轮询方式,确定各文件访问请求的目标NFS网关包括:根据多个文件访问请求,确定NFS网关对外服务的域名;通过DNS服务器解析域名,得到与各文件访问请求相对应的NFS服务端IP地址;根据NFS服务端IP地址,确定各文件访问请求的目标NFS网关。
根据本公开的实施例,分布式文件存储方法还包括:确定当前NFS网关的资源占用率;根据资源占用率,调用kubernetes资源管理服务,对当前NFS网关的数量进行优化。
根据本公开的实施例,根据资源占用率,对当前NFS网关的数量进行优化包括:确定资源占用率的低限阈值和高限阈值;分别比较当前NFS网关的资源占用率与低限阈值和高限阈值的大小;在当前NFS网关的资源占用率大于高限阈值的情况下,增加当前NFS网关的数量;以及在当前NFS网关的资源占用率小于低限阈值的情况下,减少当前NFS网关的数量。
根据本公开的实施例,通过目标NFS网关对各文件访问请求进行驱动匹配,得到目标驱动包括:根据多个文件访问请求,确定NFS协议数据包;解析NFS协议数据包,得到目标文件存储位置;根据目标文件存储位置,确定目标驱动。
根据本公开的实施例,通过目标驱动来驱动与各文件访问请求相对应的客户端对目标存储集群进行访问,以将各文件访问请求中的数据存储到目标存储集群包括:解析NFS协议数据包,得到待存储数据;通过目标驱动转发待存储数据到目标存储集群。
根据本公开的实施例,在确定NFS协议数据包之前,通过目标NFS网关对各文件访问请求进行驱动匹配,得到目标驱动还包括:通过RPC协议,接收多个文件访问请求。
本公开的第二方面提供了一种NFS网关,用于实现本公开任一实施例的方法,包括:RPC通信层,用于接收文件访问请求;NFS协议层,用于解析文件访问请求中的数据包,得到目标文件存储位置和待存储数据;后端接口层,用于根据目标文件存储位置,确定待存储数据的目标驱动;以及后端驱动层,用于通过目标驱动转发待存储数据到目标存储集群。
本公开的第三方面提供了一种分布式文件存储装置,包括:网关确定模块,用于响应于多个文件访问请求,采用DNS轮询方式,确定各文件访问请求的目标NFS网关;驱动匹配模块,用于通过目标NFS网关对各文件访问请求进行驱动匹配,得到目标驱动;以及数据存储模块,用于通过目标驱动来驱动与各文件访问请求相对应的客户端对目标存储集群进行访问,以将各文件访问请求中的数据存储到目标存储集群;其中,目标NFS网关以容器形态部署在kubernetes集群中。
本公开的第四方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述方法。
本公开的第五方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述方法。
本公开的第六方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述方法。
根据本公开提供的分布式文件存储方法、装置、设备、介质和程序产品,通过采用DNS轮询,分别为多个文件访问请求中的每个请求分配一个目标NFS网关,通过NFS网关对各文件访问请求进行解析来确定各文件访问请求的目标驱动,并驱动对应的文件访问请求访问其目标存储集群。由于具有不同访问目标存储集群的文件访问请求在NFS网关中统一进行驱动匹配,并且通过DNS轮询的方式将访问流量均衡到了每个NFS网关上,因此,至少部分的解决了不同的文件存储集群的接口不统一,以及单个NFS网关的流量瓶颈问题,实现了提高不同的分布式文件存储集群的数据存储效率的技术效果。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的分布式文件存储方法、装置、设备、介质和程序产品的应用场景图;
图2示意性示出了根据本公开实施例的分布式文件存储方法的流程图;
图3示意性示出了根据本公开实施例的确定各文件访问请求的目标NFS网关的方法流程图;
图4示意性示出了根据本公开实施例的DNS服务器对多个文件访问请求的轮询结果图;
图5示意性示出了根据本公开另一实施例的分布式文件存储方法的流程图;
图6示意性示出了根据本公开另一实施例的分布式文件存储方法的流程图;
图7示意性示出了根据本公开实施例的匹配目标驱动的方法流程图;
图8示意性示出了根据本公开实施例的存储数据到目标存储集群的方法流程图;
图9示意性示出了根据本公开实施例的分布式文件存储装置的结构框图;以及
图10示意性示出了根据本公开实施例的适于实现分布式文件存储方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在本公开的技术方案中,所涉及的数据(如包括但不限于用户个人信息)的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
本公开的实施例提供了一种分布式文件存储方法,包括:响应于多个文件访问请求,采用DNS轮询方式,确定各文件访问请求的目标NFS网关;通过目标NFS网关对各文件访问请求进行驱动匹配,得到目标驱动;通过目标驱动来驱动与各文件访问请求相对应的客户端对目标存储集群进行访问,以将各文件访问请求中的数据存储到目标存储集群;其中,目标NFS网关以容器形态部署在kubernetes集群中。
图1示意性示出了根据本公开实施例的分布式文件存储方法、装置、设备、介质和程序产品的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括第一终端设备101、第二终端设备102、第三终端设备103、网络104和服务器105。网络104用以在第一终端设备101、第二终端设备102、第三终端设备103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用第一终端设备101、第二终端设备102、第三终端设备103中的至少一个通过网络104与服务器105交互,以接收或发送消息等。第一终端设备101、第二终端设备102、第三终端设备103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
第一终端设备101、第二终端设备102、第三终端设备103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用第一终端设备101、第二终端设备102、第三终端设备103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
服务器105也可以是对用户利用第一终端设备101、第二终端设备102、第三终端设备103所请求的文件存储提供支持的NFS网关服务器。NFS网关服务器可以对接收到的用户请求等数据进行NFS协议解析等处理,并将解析后的数据存储到相应的分布式文件存储集群中。
服务器105也可以是对用户利用第一终端设备101、第二终端设备102、第三终端设备103所请求的文件存储提供支持的DNS(Domain Name System,域名系统)服务器。DNS服务器可以可以对接收到的用户请求等数据进行轮询等处理,为每个文件存储请求分配相应的NFS网关。
需要说明的是,本公开实施例所提供的分布式文件存储方法一般可以由服务器105执行。相应地,本公开实施例所提供的分布式文件存储装置一般可以设置于服务器105中。本公开实施例所提供的分布式文件存储方法也可以由不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的分布式文件存储装置也可以设置于不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
NFS(Network File System,网络文件系统)网关:一种用于连接不同网络存储的设备,其主要作用是将NFS协议转换为其他协议,例如CephFS或HDFS协议,从而使不同存储都能以NFS服务方式提供服务。NFS网关可以实现文件系统的透明跨平台访问,提高了数据共享的灵活性和可扩展性。
Kubernetes:一个开源的容器编排和管理平台,可以根据性能需要自动化地部署、扩展和管理容器化的应用程序。
以下将基于图1描述的场景,通过图2~图8对公开实施例的分布式文件存储方法进行详细描述。
图2示意性示出了根据本公开实施例的分布式文件存储方法的流程图。
根据本公开的实施例,如图2所示,该实施例的分布式文件存储方法例如包括操作S210~操作S230。
在操作S210,响应于多个文件访问请求,采用DNS轮询方式,确定各文件访问请求的目标NFS网关。
例如,多个文件访问请求分别访问不同的分布式文件存储集群。多个文件访问请求可以是来自于一个客户端,也可以是来自多个客户端。不同的分布式文件存储集群例如可以是Ceph集群、Gluster集群或HDFS(Hadoop Distributed File System,Hadoop分布式文件系统)集群等,具有不同的存储接口。
例如,多个文件访问请求通过NFS网关集群来访问不同的分布式文件存储集群。为了使每个NFS网关中的访问流量均衡,可以采用DNS服务器来为多个文件访问请求分别分配不同的NFS网关。
在操作S220,通过目标NFS网关对各文件访问请求进行驱动匹配,得到目标驱动。
图2示意性示出了根据本公开实施例的NFS网关的架构图。
根据本公开的实施例,如图2所示,本公开提供了一种NFS网关,用于实现本公开任一实施例的方法,包括:RPC通信层,用于接收文件访问请求。NFS协议层,用于解析文件访问请求中的数据包,得到目标文件存储位置和待存储数据。后端接口层,用于根据目标文件存储位置,确定待存储数据的目标驱动。以及后端驱动层,用于通过目标驱动转发待存储数据到目标存储集群。
例如,后端(对应图2中的backend)。后端驱动层包括Cephs Backend驱动、GlusterBackend驱动、HDFS Backend驱动等,分别对应Ceph集群、Gluster集群和HDFS集群。通过NFS网关解析各文件访问请求,确定各文件访问请求所需要访问的目标文件存储集群的类型后,对各文件访问请求进行相应的目标驱动匹配。各文件访问请求包括需要访问的分布式文件存储集群的位置和待存储的数据。需要访问的分布式文件存储集群的位置中包含需要访问的分布式文件存储集群的名称,根据需要访问的分布式文件存储集群的名称即可确定各文件访问请求的目标驱动。
在操作S230,通过目标驱动来驱动与各文件访问请求相对应的客户端对目标存储集群进行访问,以将各文件访问请求中的数据存储到目标存储集群。其中,目标NFS网关以容器形态部署在kubernetes集群中。
例如,待存储的数据根据NFS协议封装在数据包中,NFS网关根据NFS协议解析各文件访问请求中的数据包后,即可得到无确定存储接口信息的待存储数据,并由目标驱动将该待存储数据转发给对应的目标分布式文件存储集群,解决了不同的分布式文件存储集群的接口不统一问题,提高了向不同的分布式文件存储集群存储数据的效率。
例如,通过kubernetes集群来管理NFS网关实例。其中,Kubernetes集群中管理资源的单位为Pod,一个Pod中可以有3个NFS网关实例。通过kubernetes集群来管理NFS网关实例,可以根据文件访问请求的流量,自动灵活调整NFS网关实例的数量,减小了技术人员的运维压力。
可以理解的是,为了提高数据的存储效率,Kubernetes集群中一个Pod中也可以有多于3个的NFS网关实例。
图3示意性示出了根据本公开实施例的确定各文件访问请求的目标NFS网关的方法流程图。
根据本公开的实施例,如图3所示,例如通过操作S311~操作S313来确定各文件访问请求的目标NFS网关。
操作S311,根据多个文件访问请求,确定NFS网关对外服务的域名。
例如,传统NFS客户端挂载使用的是服务端IP,而本公开中客户端使用NFS服务端域名进行挂载。为了便于DNS服务器对NFS网关的逐一分配,NFS网关对外服务采用域名挂载,而不是IP挂载。一个域名可以对应多个IP地址,IP地址与NFS网关一一对应。设置在同一个kubernetes集群中的NFS网关集群,挂载一个NFS网关服务域名。每个文件访问请求根据NFS网关服务域名,确定需要访问的NFS网关集群。
操作S312,通过DNS服务器解析域名,得到与各文件访问请求相对应的NFS服务端IP地址。
图4示意性示出了根据本公开实施例的DNS服务器对多个文件访问请求的轮询结果图。
例如,如图4所示,NFS客户端通过DNS服务器将NFS服务端域名转化成IP地址再进行I/O访问。通过DNS服务器来解析各文件访问请求所要访问的NFS网关集群所对应的域名。由于DNS服务是以轮询方式进行域名解析的,也就是对相同的域名进行解析每次得到的IP地址是不同的,例如第一次访问(即第一个文件访问请求)得到的地址是“192.168.1.11”,第二次访问(即第二个文件访问请求)得到的是“192.168.1.12”,第三次访问(即第三个文件访问请求)得到的是“192.168.1.13”,第四次访问(即第四个文件访问请求)得到的是“192.168.1.11”。以此类推,将客户端的访问流量分别负载均衡到每一个NFS网关实例上。DNS服务器例如每次只返回一个NFS网关IP地址到NFS客户端。
操作S313,根据NFS服务端IP地址,确定各文件访问请求的目标NFS网关。
例如,根据第一个文件访问请求对应的IP地址“192.168.1.11”访问地址为“192.168.1.11”的NFS网关。根据第二个文件访问请求对应的IP地址“192.168.1.12”访问地址为“192.168.1.12”的NFS网关。根据第三个文件访问请求对应的IP地址“192.168.1.13”访问地址为“192.168.1.13”的NFS网关。根据第四个文件访问请求对应的IP地址“192.168.1.11”访问地址为“192.168.1.11”的NFS网关,以此类推。
图5示意性示出了根据本公开另一实施例的分布式文件存储方法的流程图。
根据本公开的实施例,如图5所示,分布式文件存储方法例如还包括操作S540~操作S550。
操作S540,确定当前NFS网关的资源占用率。
例如,资源占用率包括NFS网关的CPU使用率或内存使用率。
操作S550,根据资源占用率,调用kubernetes资源管理服务,对当前NFS网关的数量进行优化。
例如,可以通过Kubernetes集群配置资源占用率的范围。当文件访问请求的数量增多或者文件访问请求的数据包增大时,NFS网关的CPU使用率或内存使用率会相应增加。为了减少处理文件访问请求的延迟,需要相应增加NFS网关的数量。通过调用kubernetes资源管理服务,可以高效调整NFS网关集群的规模,减少处理文件访问请求的延迟,进一步提高了文件访问请求的处理效率。
图6示意性示出了根据本公开另一实施例的分布式文件存储方法的流程图。
根据本公开的实施例,如图6所示,例如通过操作S651~操作S654对当前NFS网关的数量进行优化。
操作S651,确定资源占用率的低限阈值和高限阈值。
例如,文件访问请求的数量可以增多,文件访问请求的数据包可以增大,文件访问请求的数量也可以减少,以及文件访问请求的数据包也可以减小。因而,可以根据文件访问请求的数量、文件访问请求的数据包大小以及kubernetes集群的可用资源情况来设置合理的资源占用率范围,使NFS网关的数量根据文件访问请求的变化而变化,以保证NFS网关的利用率以及文件访问请求的处理效率。资源占用率范围的下端值即为设置的低限阈值,上端值即为设置的高限阈值。
操作S652,分别比较当前NFS网关的资源占用率与低限阈值和高限阈值的大小。
例如,资源占用率的范围可以设置为30%~80%,即低限阈值为30%,高限阈值为80%。再获取当前NFS网关的资源占用率。当当前NFS网关的资源占用率处于30%~80%时,说明通过NFS网关集群处理多个NFS客户端的文件访问请求处于正常工作状态。
可以理解的是,资源占用率的范围还可以设置为其他数值范围。低限阈值和高限阈值不宜设置的过低或过高,以减少Kubernetes调整NFS网关实例数量的次数,保证系统运行的稳定性。
操作S653,在当前NFS网关的资源占用率大于高限阈值的情况下,增加当前NFS网关的数量。以及
例如,当NFS客户端增加(并发量增大)时,Kubernetes会自动将NFS网关集群进行水平扩展,当NFS网关的CPU利用率或内存使用率达到一定阈值,Kubernetes会扩容NFS网关实例,并将数据流量分配到新网关实例上。增加NFS网关实例数量同时在DNS域名解析记录中增加新网关实例IP地址。
操作S654,在当前NFS网关的资源占用率小于低限阈值的情况下,减少当前NFS网关的数量。
例如,当NFS客户端减少时,Kubernetes会先删除DNS服务中的域名解析记录中的相关NFS网关实例的IP地址,以确保不会有新的请求流入。然后Kubernetes再将NFS网关集群中相应的NFS网关实例删除。
图7示意性示出了根据本公开实施例的匹配目标驱动的方法流程图。
根据本公开的实施例,如图7所示,例如通过操作S721~操作S723来对各文件访问请求进行驱动匹配,得到目标驱动。
操作S721,根据多个文件访问请求,确定NFS协议数据包。
例如,通过NFS网关实例处理的文件访问请求,采用NFS协议对目标文件的存储位置以及待存储数据进行封装。在NFS网关接收NFS客户端的I/O请求(文件访问请求)后,获取对应的NFS协议数据包。通过NFS协议对文件访问请求进行封装,将分布式文件存储中的接口匹配问题,转化成了NFS网关的功能架构设置,即通过设置目标驱动,实现了文件存储的路径规划。
操作S722,解析NFS协议数据包,得到目标文件存储位置。
例如,在NFS协议层对各文件访问请求的NFS协议数据包进行NFS协议解析,可以得到文件访问请求所请求访问的目标文件存储位置,例如Ceph集群。
操作S723,根据目标文件存储位置,确定目标驱动。
例如,根据Ceph集群,可以确定与该文件访问请求相匹配的驱动为Cephs Backend驱动。
根据本公开的实施例,在确定NFS协议数据包之前,通过目标NFS网关对各文件访问请求进行驱动匹配,得到目标驱动例如还包括:通过RPC协议,接收多个文件访问请求。
例如,在RPC(Remote Procedure Call,远程过程调用协议)通信层接收处理NFS客户端发来的I/O请求。NFS通信例如使用的是RPC协议,因而与客户端通信需要RPC通信层的支持。通过RPC协议接收文件访问请求,实现了远程调用NFS网关服务。
图8示意性示出了根据本公开实施例的存储数据到目标存储集群的方法流程图。
根据本公开的实施例,如图8所示,例如通过操作S831~操作S832来驱动与各文件访问请求相对应的客户端对目标存储集群进行访问,以将各文件访问请求中的数据存储到目标存储集群中。
操作S831,解析NFS协议数据包,得到待存储数据。
例如,在RPC通信层处理完请求后,将其转发给NFS协议层处理,根据客户端的请求选择使用NFSv3或NFSv4对各文件访问请求的NFS协议数据包进行NFS协议解析,可以得到文件访问请求中的待存储数据。
操作S832,通过目标驱动转发待存储数据到目标存储集群。
例如,在解析NFS协议后,NFS网关将NFS协议中的I/O请求转发给Backend(后端)接口层,Backend接口层根据当前配置中设置的Backend驱动类别,将I/O请求中的待存储数据转发到相应的Backend驱动上,由Backend驱动再去访问与之对应的分布式文件存储集群。通过NFS协议对文件访问请求进行封装,实现了数据与接口标签的解耦,数据只需要通过驱动转发,即可实现数据在目标存储集群的存储。
基于上述分布式文件存储方法,本公开还提供了一种分布式文件存储装置。以下将结合图9对该装置进行详细描述。
图9示意性示出了根据本公开实施例的分布式文件存储装置的结构框图。
如图9所示,该实施例的分布式文件存储装置900例如包括:网关确定模块910、驱动匹配模块920和数据存储模块930。
网关确定模块910用于响应于多个文件访问请求,采用DNS轮询方式,确定各文件访问请求的目标NFS网关。在一实施例中,网关确定模块910可以用于执行前文描述的操作S210,在此不再赘述。
驱动匹配模块920用于通过目标NFS网关对各文件访问请求进行驱动匹配,得到目标驱动。在一实施例中,驱动匹配模块920可以用于执行前文描述的操作S220,在此不再赘述。
数据存储模块930用于通过目标驱动来驱动与各文件访问请求相对应的客户端对目标存储集群进行访问,以将各文件访问请求中的数据存储到目标存储集群;其中,目标NFS网关以容器形态部署在kubernetes集群中。在一实施例中,数据存储模块930可以用于执行前文描述的操作S230,在此不再赘述。
根据本公开的实施例,网关确定模块910、驱动匹配模块920和数据存储模块930中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,网关确定模块910、驱动匹配模块920和数据存储模块930中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,网关确定模块910、驱动匹配模块920和数据存储模块930中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图10示意性示出了根据本公开实施例的适于实现分布式文件存储方法的电子设备的方框图。
如图10所示,根据本公开实施例的电子设备1000包括处理器1001,其可以根据存储在只读存储器(ROM)1002中的程序或者从存储部分1008加载到随机访问存储器(RAM)1003中的程序而执行各种适当的动作和处理。处理器1001例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器1001还可以包括用于缓存用途的板载存储器。处理器1001可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 1003中,存储有电子设备900操作所需的各种程序和数据。处理器1001、ROM1002以及RAM 1003通过总线1004彼此相连。处理器1001通过执行ROM 1002和/或RAM 1003中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 1002和RAM 1003以外的一个或多个存储器中。处理器1001也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备900还可以包括输入/输出(I/O)接口1005,输入/输出(I/O)接口1005也连接至总线1004。电子设备900还可以包括连接至I/O接口1005的以下部件中的一项或多项:包括键盘、鼠标等的输入部分1006;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1007;包括硬盘等的存储部分1008;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1009。通信部分1009经由诸如因特网的网络执行通信处理。驱动器1010也根据需要连接至I/O接口1005。可拆卸介质1011,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1010上,以便于从其上读出的计算机程序根据需要被安装入存储部分1008。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 1002和/或RAM 1003和/或ROM 1002和RAM 1003以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的物品推荐方法。
在该计算机程序被处理器1001执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分1009被下载和安装,和/或从可拆卸介质1011被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分1009从网络上被下载和安装,和/或从可拆卸介质1011被安装。在该计算机程序被处理器1001执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (12)
1.一种分布式文件存储方法,包括:
响应于多个文件访问请求,采用DNS轮询方式,确定各所述文件访问请求的目标NFS网关;
通过所述目标NFS网关对各所述文件访问请求进行驱动匹配,得到目标驱动;
通过所述目标驱动来驱动与各所述文件访问请求相对应的客户端对目标存储集群进行访问,以将各所述文件访问请求中的数据存储到所述目标存储集群;
其中,所述目标NFS网关以容器形态部署在kubernetes集群中。
2.根据权利要求1所述的方法,所述响应于多个文件访问请求,采用DNS轮询方式,确定各所述文件访问请求的目标NFS网关包括:
根据所述多个文件访问请求,确定NFS网关对外服务的域名;
通过DNS服务器解析所述域名,得到与各所述文件访问请求相对应的NFS服务端IP地址;
根据所述NFS服务端IP地址,确定各所述文件访问请求的目标NFS网关。
3.根据权利要求1所述的方法,还包括:
确定当前NFS网关的资源占用率;
根据所述资源占用率,调用kubernetes资源管理服务,对所述当前NFS网关的数量进行优化。
4.根据权利要求3所述的方法,所述根据所述资源占用率,对所述当前NFS网关的数量进行优化包括:
确定资源占用率的低限阈值和高限阈值;
分别比较所述当前NFS网关的资源占用率与所述低限阈值和所述高限阈值的大小;
在所述当前NFS网关的资源占用率大于所述高限阈值的情况下,增加所述当前NFS网关的数量;以及
在所述当前NFS网关的资源占用率小于所述低限阈值的情况下,减少所述当前NFS网关的数量。
5.根据权利要求1所述的方法,所述通过所述目标NFS网关对各所述文件访问请求进行驱动匹配,得到目标驱动包括:
根据所述多个文件访问请求,确定NFS协议数据包;
解析所述NFS协议数据包,得到目标文件存储位置;
根据所述目标文件存储位置,确定所述目标驱动。
6.根据权利要求5所述的方法,所述通过所述目标驱动来驱动与各所述文件访问请求相对应的客户端对目标存储集群进行访问,以将各所述文件访问请求中的数据存储到所述目标存储集群包括:
解析所述NFS协议数据包,得到待存储数据;
通过所述目标驱动转发所述待存储数据到所述目标存储集群。
7.根据权利要求5所述的方法,在确定NFS协议数据包之前,所述通过所述目标NFS网关对各所述文件访问请求进行驱动匹配,得到目标驱动还包括:
通过RPC协议,接收所述多个文件访问请求。
8.一种NFS网关,用于实现权利要求1~7任一项所述的方法,包括:
RPC通信层,用于接收文件访问请求;
NFS协议层,用于解析所述文件访问请求中的数据包,得到目标文件存储位置和待存储数据;
后端接口层,用于根据所述目标文件存储位置,确定所述待存储数据的目标驱动;以及
后端驱动层,用于通过所述目标驱动转发所述待存储数据到目标存储集群。
9.一种分布式文件存储装置,包括:
网关确定模块,用于响应于多个文件访问请求,采用DNS轮询方式,确定各所述文件访问请求的目标NFS网关;
驱动匹配模块,用于通过所述目标NFS网关对各所述文件访问请求进行驱动匹配,得到目标驱动;以及
数据存储模块,用于通过所述目标驱动来驱动与各所述文件访问请求相对应的客户端对目标存储集群进行访问,以将各所述文件访问请求中的数据存储到所述目标存储集群;其中,所述目标NFS网关以容器形态部署在kubernetes集群中。
10.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~7中任一项所述的方法。
11.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~7中任一项所述的方法。
12.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310731093.4A CN116760847A (zh) | 2023-06-19 | 2023-06-19 | Nfs网关、分布式文件存储方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310731093.4A CN116760847A (zh) | 2023-06-19 | 2023-06-19 | Nfs网关、分布式文件存储方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116760847A true CN116760847A (zh) | 2023-09-15 |
Family
ID=87958535
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310731093.4A Pending CN116760847A (zh) | 2023-06-19 | 2023-06-19 | Nfs网关、分布式文件存储方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116760847A (zh) |
-
2023
- 2023-06-19 CN CN202310731093.4A patent/CN116760847A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107590001B (zh) | 负载均衡方法及装置、存储介质、电子设备 | |
US9858124B1 (en) | Dynamic management of data stream processing | |
US8260757B1 (en) | Data access layer | |
CN111294415B (zh) | 域名解析的方法和装置 | |
US10075549B2 (en) | Optimizer module in high load client/server systems | |
CN110830374B (zh) | 一种基于sdk的灰度发布的方法和装置 | |
US8266630B2 (en) | High-performance XML processing in a common event infrastructure | |
US9218226B2 (en) | System and methods for remote access to IMS databases | |
US11416564B1 (en) | Web scraper history management across multiple data centers | |
CN111010453B (zh) | 服务请求处理方法、系统、电子设备及计算机可读介质 | |
US10853367B1 (en) | Dynamic prioritization of attributes to determine search space size of each term, then index on those sizes as attributes | |
US10015086B2 (en) | Multi GTM based routing to avoid latencies | |
CN112882895B (zh) | 健康检查方法、装置、计算机系统及可读存储介质 | |
CN116599855A (zh) | 数据传输方法、系统、电子设备及存储介质 | |
US10771283B2 (en) | Virtual cloud node | |
CN116760847A (zh) | Nfs网关、分布式文件存储方法、装置、设备及存储介质 | |
US10616317B2 (en) | Method and system for affinity load balancing | |
CN114448976B (zh) | 网络报文的组装方法、装置、设备、介质和程序产品 | |
KR102722879B1 (ko) | 프록시 기반의 클라우드 보안 모니터링 시스템 | |
CN115604358B (zh) | 业务处理方法、系统、装置、管理服务器及存储介质 | |
US12063267B1 (en) | Network traffic distribution for network-based services | |
CN114979004B (zh) | 信息处理方法、装置、设备及介质 | |
US20240272819A1 (en) | Architecture for a multi-resolution, in-flight and programmable analytics platform | |
KR20230141180A (ko) | 프록시 기반의 클라우드 보안 모니터링 시스템 | |
CN109981806B (zh) | 域名处理、注册方法及系统、计算机系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |