CN114116655A - 基于虚拟机的并行文件存储方法、装置、设备及存储介质 - Google Patents
基于虚拟机的并行文件存储方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN114116655A CN114116655A CN202111489035.2A CN202111489035A CN114116655A CN 114116655 A CN114116655 A CN 114116655A CN 202111489035 A CN202111489035 A CN 202111489035A CN 114116655 A CN114116655 A CN 114116655A
- Authority
- CN
- China
- Prior art keywords
- virtual machine
- file
- metadata server
- sub
- file processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000012545 processing Methods 0.000 claims abstract description 110
- 238000013508 migration Methods 0.000 claims description 17
- 230000005012 migration Effects 0.000 claims description 17
- 230000000694 effects Effects 0.000 abstract description 7
- 239000012634 fragment Substances 0.000 description 17
- 238000010586 diagram Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000013509 system migration Methods 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 230000009191 jumping Effects 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000008707 rearrangement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
- G06F16/1824—Distributed file systems implemented using Network-attached Storage [NAS] architecture
- G06F16/1827—Management specifically adapted to NAS
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/1858—Parallel file systems, i.e. file systems supporting multiple processors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/188—Virtual file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/907—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Library & Information Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例提供了一种基于虚拟机的并行文件存储方法、装置、设备及存储介质,应用于并行文件处理系统,并行文件处理系统包括多台子虚拟机和多台主虚拟机,该方法包括:基于第一子虚拟机获取文件处理请求,多台子虚拟机包括第一子虚拟机;利用第一元数据服务器根据文件处理请求,确定与第一子虚拟机对应的第一主虚拟机,多台主虚拟机包括第一主虚拟机和第一元数据服务器;基于第一主虚拟机基于文件处理请求生成处理结果。本发明实施例提供的一种基于虚拟机的并行文件存储方法,通过子虚拟机获取文件处理请求并与对应主虚拟机连接,通过主虚拟机对文件处理请求进行处理,实现了提高系统资源利用率的效果。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种基于虚拟机的并行文件存储方法、装置、设备及存储介质。
背景技术
并行文件系统是应用于多机环境的网络文件系统,多台主机并行读写一套文件系统,每个主机有单独的中央处理器(central processing unit,CPU)和内存,单个数据采用条带化形式存放于不同的I/O节点(即输入输出节点)之上,支持多机多台进程的并发存取,并提供单一的目录空间。
但这些并行文件系统都是在物理机上运行,使用物理服务器构建并行文件系统,服务器CPU在存储服务之外任务之上,在大多数情况下都处于空闲状态,资源利用率低。
发明内容
本发明实施例提供的一种基于虚拟机的并行文件存储方法、装置、设备及存储介质,解决了现有技术中并行文件系统资源利用率低的问题。
第一方面,本发明实施例提供了一种基于虚拟机的并行文件存储方法,应用于并行文件处理系统,所述并行文件处理系统包括多台子虚拟机和多台主虚拟机,所述方法包括:
基于第一子虚拟机获取文件处理请求,所述多台子虚拟机包括所述第一子虚拟机;
利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,所述多台主虚拟机包括所述第一主虚拟机和所述第一元数据服务器;
基于所述第一主虚拟机基于所述文件处理请求生成处理结果。
可选的,所述基于第一子虚拟机获取文件处理请求,包括;
控制所述第一子虚拟机请求连接所述第一元数据服务器;
若所述第一子虚拟机与所述第一元数据服务器连接失败,则在所述多台主虚拟机中根据预设规则重新选择第二元数据服务器。
可选的,所述文件处理请求为文件存储请求,所述利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,包括:
利用所述第一元数据服务器根据所述文件存储请求,确定与所述第一子虚拟机对应的第一主虚拟机;
控制所述第一主虚拟机与所述第一子虚拟机建立连接;
控制所述第一子虚拟机将预存文件存储到所述第一主虚拟机上,若存储成功则更新所述第一元数据服务器的存储记录。
可选的,所述文件处理请求为文件读取请求,所述利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,包括:
利用所述第一元数据服务器根据所述文件读取请求,确定与所述第一子虚拟机对应的第一主虚拟机;
控制所述第一主虚拟机与所述第一子虚拟机建立连接;
控制所述第一子虚拟机从所述第一主虚拟机中获取读取文件,若获取成功则更新所述第一元数据服务器的存储记录。
可选的,所述文件处理请求为文件迁移请求,在所述基于第一子虚拟机获取文件处理请求之后,所述利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机之前,所述方法还包括:
控制所述第一子虚拟机向所述第一元数据服务器发送目标虚拟机地址;
利用所述第一元数据服务器基于所述目标虚拟机地址确定目标虚拟机;
控制所述第一子虚拟机与所述目标虚拟机建立连接,其中,所述第一主虚拟机包括所述目标虚拟机。
可选的,在所述控制所述第一子虚拟机与所述目标虚拟机建立连接之后,在所述基于所述第一主虚拟机基于所述文件处理请求生成处理结果之前,所述方法还包括:
控制所述第一子虚拟机向所述目标虚拟机传输迁移文件;
更新所述第一元数据服务器的存储记录。
第二方面,本发明实施例还提供了一种基于虚拟机的并行文件存储装置,应用于并行文件处理系统,所述并行文件处理系统包括多台子虚拟机和多台主虚拟机,包括:
获取模块,用于基于第一子虚拟机获取文件处理请求,所述多台子虚拟机包括所述第一子虚拟机;
确定模块,用于利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,所述多台主虚拟机包括所述第一主虚拟机和所述第一元数据服务器;
处理模块,用于基于所述第一主虚拟机基于所述文件处理请求生成处理结果。
可选的,所述获取模块包括:
连接子模块,用于控制所述第一子虚拟机请求连接所述第一元数据服务器;
选择子模块,用于若所述第一子虚拟机与所述第一元数据服务器连接失败,则在所述多台主虚拟机中根据预设规则重新选择第二元数据服务器。
第三方面,本发明实施例还提供了一种电子设备,包括处理器,存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如上述任一项所述的基于虚拟机的并行文件存储方法的步骤。
第四方面,本发明实施例还提供了计算机可读存储介质,所述可读存储介质上存储有程序或指令,所述程序或指令被处理器执行时实现如上述任一项所述的基于虚拟机的并行文件存储方法的步骤。
本发明实施例提供的一种基于虚拟机的并行文件存储方法,应用于并行文件处理系统,所述并行文件处理系统包括多台子虚拟机和多台主虚拟机,所述方法包括:基于第一子虚拟机获取文件处理请求,所述多台子虚拟机包括所述第一子虚拟机;利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,所述多台主虚拟机包括所述第一主虚拟机和所述第一元数据服务器;基于所述第一主虚拟机基于所述文件处理请求生成处理结果。本发明实施例提供的一种基于虚拟机的并行文件存储方法,通过子虚拟机获取文件处理请求并与对应主虚拟机连接,通过主虚拟机对文件处理请求进行处理,实现了提高系统资源利用率的效果。
附图说明
图1为本发明实施例提供的一种基于虚拟机的并行文件存储方法的方法流程图;
图2为本发明实施例中并行文件系统的结构示意图;
图3为本发明实施例提供的基于虚拟机的并行文件存储装置的结构示意图;
图4为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员获得的所有其他实施例,都属于本申请保护的范围。
本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象,而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施,且“第一”、“第二”等所区分的对象通常为一类,并不限定对象的个数,例如第一对象可以是一个,也可以是多个。此外,说明书以及权利要求中“和/或”表示所连接对象的至少其中之一,字符“/”,一般表示前后关联对象是一种“或”的关系。
下面结合附图,通过具体的实施例及其应用场景对本申请实施例提供的一种基于虚拟机的并行文件存储方法进行详细地说明。
图1为本发明实施例提供的一种基于虚拟机的并行文件存储方法的方法流程图,所述并行文件处理系统包括多台子虚拟机和多台主虚拟机,本实施例提供的一种基于虚拟机的并行文件存储方法包括:
步骤101、基于第一子虚拟机获取文件处理请求,所述多台子虚拟机包括所述第一子虚拟机。
在本实施例中,并行文件系统通过多台子虚拟机和多台主虚拟机组成,其中在物理机上运行一台或多台虚拟机以达到完整架构,具体地,并行文件系统是对象存储服务提供的一种经过优化的高性能文件系统,提供毫秒级别访问时延,能够快速处理高性能计算工作负载。作为对象存储服务的子产品,并行文件系统支持用户按照标准的接口读取数据。用户可以将创建的并行文件系统挂载到云端Linux服务器上,并能像操作本地文件系统一样对并行文件系统内的文件和目录进行在线处理,包括:创建和删除文件/目录,重命名文件/目录,修改写文件等操作。虚拟机指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。在实体计算机中能够完成的工作在虚拟机中都能够实现。在计算机中创建虚拟机时,需要将实体机的部分硬盘和内存容量作为虚拟机的硬盘和内存容量。每个虚拟机都有独立的硬盘和操作系统,可以像使用实体机一样对虚拟机进行操作。
具体地,参阅图2,图2为本实施例中并行文件系统的结构示意图,其中,包括了多台子虚拟机110和多台主虚拟机120。子虚拟机110上部署了并行文件的客户端,主虚拟机120上设置于并行文件的服务器端,其中包括但不限于提供并行文件系统存储、访问服务外,剩余资源可以用作其它计算用途,充分利用了服务器的全部资源。在本实施例中,还可以通过对并行文件系统的核心进行修改,使得所有虚拟机上的并行文件系统具有软件磁盘阵列的能力,其中软件磁盘阵列指通过用操作系统来完成磁盘阵列功能,直接通过软件层实现的磁盘阵列,所有功能都是操作系统与CPU来完成。
在本实施例中,基于第一子虚拟机获取的文件处理请求可以包括多种文件处理请求,示例性的,可以包括存储、读取和迁移等等,具体地根据用户的需求进行确定,其中,第一子虚拟机为用户端的物理机运行的虚拟机,其可以操作并行文件系统并与主虚拟机进行连接。
步骤102、利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,所述多台主虚拟机包括所述第一主虚拟机和所述第一元数据服务器。
在本实施例中,第一元数据服务器为多台主虚拟机中选择生成,生成之后会通知到各子虚拟机和各主虚拟机,第一元数据服务器主要用于存储操作数据、操作记录等等。第一元数据服务器获取到第一子虚拟机的文件处理请求后会根据并行文件系统的实际处理情况选择与第一子虚拟机匹配的第一主虚拟机,从而将第一虚拟机与第一主虚拟机进行连接,连接完成之后,第一子虚拟机即可访问并行文件系统的存储。
步骤103、基于所述第一主虚拟机基于所述文件处理请求生成处理结果。
在本实施例中,第一主虚拟机与第一子虚拟机连接成功后,第一主虚拟机会与第一子虚拟机的文件处理请求进行处理计算并生成处理结构反馈第一子虚拟机,而第一元数据服务器用于存储处理过程中的数据记录和处理结果。示例性的,例如文件处理请求为文件存储请求,此时第一主虚拟机会将第一子虚拟机需要存储的文件在并行文件系统中进行分片保存,当保存成功后会生成存储成功的处理结果并返回第一子虚拟机提示存储完成。
本发明实施例提供的一种基于虚拟机的并行文件存储方法,通过子虚拟机获取文件处理请求并与对应主虚拟机连接,通过主虚拟机对文件处理请求进行处理,实现了提高系统资源利用率的效果。
可选的,步骤101包括:
控制所述第一子虚拟机请求连接所述第一元数据服务器。
在本实施例中,在第一子虚拟机需要进行文件处理请求之前,需要与第一元数据服务器建立连接,其中,该请求中包括了需要处理的文件,连接完成之后通过第一元数据服务器分配对象存储服务器将根据文件情况分配对象存储服务器,包括分配分片大小、存储服务器顺序,等等。
若所述第一子虚拟机与所述第一元数据服务器连接失败,则在所述多台主虚拟机中根据预设规则重新选择第二元数据服务器。
在本实施例中,当第一子虚拟机与第一元数据服务器连接失败之后,说明该并行文件系统的第一元数据服务器存在问题,就需要启动元数据服务器的选举过程。选举过程可以用各种选举方法,预设规则为例如Paxos、Raft等协议规定的方法等。在元数据服务器选举完成后,将把新的第二元数据服务器地址广播给个客户端,每个客户端将再次连接元数据服务器。
可选的,所述文件处理请求为文件存储请求时,步骤102包括:
利用所述第一元数据服务器根据所述文件存储请求,确定与所述第一子虚拟机对应的第一主虚拟机。
控制所述第一主虚拟机与所述第一子虚拟机建立连接。
在本实施例中,当第一子虚拟机与第一元数据服务器连接成功之后,并行文件系统元数据服务器分配对象存储服务器即第一主虚拟机,并将根据文件情况分配对象存储服务器,包括分配分片大小、存储服务器顺序,等等。并行文件客户端根据元数据服务器分配的对象存储服务器情况来计算分片,并分别存储到对象存储服务器上。
控制所述第一子虚拟机将预存文件存储到所述第一主虚拟机上,若存储成功则更新所述第一元数据服务器的存储记录。
在本实施例中,如果上述的存储过程成功,第一子虚拟机计算校验码分片,并存储到相应的对象存储服务器上,整个存储过程结束,并将存储记录保存到第一元数据服务器上。在本实施例中,如果上述存储过程中存在不成功的情况,将清除已经存储的分片,并把失效情况通知给第一元数据服务器。第一元数据服务器将根据情况更新对象存储服务器列表,并进行既有数据的存储更新过程。最后,流程将回到并行文件客户端连接并行文件系统元数据服务器的步骤,并将清除已经存储的分片和校验码分片,并把失效情况通知给第一元数据服务器。第一元数据服务器将根据情况更新对象存储服务器列表,并进行既有数据的存储更新过程。
可选的,所述文件处理请求为文件读取请求时,步骤102还包括:
利用所述第一元数据服务器根据所述文件读取请求,确定与所述第一子虚拟机对应的第一主虚拟机。
控制所述第一主虚拟机与所述第一子虚拟机建立连接。
在本实施例中,当第一子虚拟机与第一元数据服务器连接成功之后,并行文件系统元数据服务器分配对象存储服务器即第一主虚拟机,并将根据文件情况分配对象存储服务器,包括分配分片大小、存储服务器顺序,等等。并行文件客户端根据元数据服务器分配的对象存储服务器情况来计算分片,并分别存储到对象存储服务器上。
控制所述第一子虚拟机从所述第一主虚拟机中获取读取文件,若获取成功则更新所述第一元数据服务器的存储记录。
在本实施例中,如果上述的读取过程成功,第一子虚拟机从对象存储服务器上读取每一片文件分片并判断是否把全部分片都读取到了,读取完成之后把失效情况通知给第一元数据服务器。元数据服务器将根据情况更新对象存储服务器列表,并进行既有数据的存储更新过程。然后,将进行下一片的数据分片读取。如果上述读取过程中不成功,第一子虚拟机将从对象存储服务器上读取相关校验码文件分片,并计算分片内容。如果上述验码文件分片读取和计算不成功,将直接跳转至读取过程结束,并返回不成功信息。
可选的,所述文件处理请求为文件迁移请求时,步骤101之后和步骤102之前还包括:
控制所述第一子虚拟机向所述第一元数据服务器发送目标虚拟机地址。
在本实施例中,第一子虚拟机发起文件系统迁移过程并且向第一元数据服务器指定需要迁移的目标地址。
利用所述第一元数据服务器基于所述目标虚拟机地址确定目标虚拟机。
在本实施例中,第一元数据服务器基于所述目标虚拟机地址启动目标虚拟机,并控制第一子虚拟机开始于目标虚拟机建立连接。
控制所述第一子虚拟机与所述目标虚拟机建立连接,其中,所述第一主虚拟机包括所述目标虚拟机。
在本实施例中,第一子虚拟机通过文件系统迁移服务连接到目标虚拟机,如果连接失败,此时直接跳转到迁移结束步骤,并且返回错误信息;如果连接成功,文件系统迁移服务向目标虚拟机传输在该节点上存储的所有数据。
可选的,步骤102之后还包括:
控制所述第一子虚拟机向所述目标虚拟机传输迁移文件。
在本实施例中,如果在传输过程中出现了传输失败,则直接跳转到迁移结束步骤,并且返回错误信息。如果传输成功,则更新并行文件系统的第一元数据服务器,把该并行文件服务器替换成目标并行文件服务器。
更新所述第一元数据服务器的存储记录。
在本实施例中,如果更新过程失败,就需要启动元数据服务器的选举过程。选举过程可以用各种选举方法,例如Paxos、Raft等协议规定的方法等。在元数据服务器选举完成后,将把新的元数据服务器地址广播给个客户端。并再次更新元数据服务器。如果更新过程成功,将跳转至迁移结束步骤,并返回成功信息。
本发明实施例提供的一种基于虚拟机的并行文件存储方法,通过子虚拟机获取文件处理请求并与对应主虚拟机连接,通过主虚拟机对文件处理请求进行处理,实现了提高系统资源利用率的效果。
参阅图3,图3为本发明实施例提供的一种基于虚拟机的并行文件存储装置的结构示意图,本实施例提供的一种基于虚拟机的并行文件存储装置300包括:
获取模块310,用于基于第一子虚拟机获取文件处理请求,所述多台子虚拟机包括所述第一子虚拟机;
确定模块320,用于利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,所述多台主虚拟机包括所述第一主虚拟机和所述第一元数据服务器;
处理模块330,用于基于所述第一主虚拟机基于所述文件处理请求生成处理结果。
可选的,所述获取模块310包括:
连接子模块,用于控制所述第一子虚拟机请求连接所述第一元数据服务器;
选择子模块,用于若所述第一子虚拟机与所述第一元数据服务器连接失败,则在所述多台主虚拟机中根据预设规则重新选择第二元数据服务器。
可选的,所述文件处理请求为文件存储请求,所述确定模块320包括:
第一存储子模块,用于利用所述第一元数据服务器根据所述文件存储请求,确定与所述第一子虚拟机对应的第一主虚拟机;
第二存储子模块,用于控制所述第一主虚拟机与所述第一子虚拟机建立连接;
第三存储子模块,用于控制所述第一子虚拟机将预存文件存储到所述第一主虚拟机上,若存储成功则更新所述第一元数据服务器的存储记录。
可选的,所述文件处理请求为文件读取请求,所述确定模块320包括:
第一读取子模块,用于利用所述第一元数据服务器根据所述文件存储请求,确定与所述第一子虚拟机对应的第一主虚拟机;
第二读取子模块,用于控制所述第一主虚拟机与所述第一子虚拟机建立连接;
第三读取子模块,用于控制所述第一子虚拟机从所述第一主虚拟机中获取读取文件,若获取成功则更新所述第一元数据服务器的存储记录。
可选的,所述文件处理请求为文件迁移请求,所述装置300还包括:
第一迁移模块,用于控制所述第一子虚拟机向所述第一元数据服务器发送目标虚拟机地址;
第二迁移模块,用于利用所述第一元数据服务器基于所述目标虚拟机地址确定目标虚拟机;
第三迁移模块,用于控制所述第一子虚拟机与所述目标虚拟机建立连接,其中,所述第一主虚拟机包括所述目标虚拟机。
可选的,所述装置300还包括:
第一传输模块,用于控制所述第一子虚拟机向所述目标虚拟机传输迁移文件;
第二传输模块,用于更新所述第一元数据服务器的存储记录。
本申请实施例提供的基于虚拟机的并行文件存储装置300能够实现图1的方法实施例实现的各个过程,并达到相同的技术效果,为避免重复,这里不再赘述。
图4为本发明实施例提供的一种电子设备的结构示意图,如图4所示,该电子设备500包括存储器510、处理器520,电子设备500中处理器520的数量可以是一个或多个,图4中以一个处理器520为例;服务器中的存储器510、处理器520可以通过总线或其他方式连接,图4中以通过总线连接为例。
存储器510作为一种计算机可读存储介质,可用于存储软件程序、计算机可执行程序以及模块,如本发明实施例中的基于虚拟机的并行文件存储方法对应的程序指令/模块,处理器520通过运行存储在存储器510中的软件程序、指令以及模块,从而执行服务器/终端/服务器的各种功能应用以及数据处理,即实现上述的基于虚拟机的并行文件存储方法。
其中,处理器520用于运行存储在存储器510中的计算机程序,实现如下步骤:
基于第一子虚拟机获取文件处理请求,所述多台子虚拟机包括所述第一子虚拟机;
利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,所述多台主虚拟机包括所述第一主虚拟机和所述第一元数据服务器;
基于所述第一主虚拟机基于所述文件处理请求生成处理结果。
可选的,所述基于第一子虚拟机获取文件处理请求,包括;
控制所述第一子虚拟机请求连接所述第一元数据服务器;
若所述第一子虚拟机与所述第一元数据服务器连接失败,则在所述多台主虚拟机中根据预设规则重新选择第二元数据服务器。
可选的,所述文件处理请求为文件存储请求,所述利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,包括:
利用所述第一元数据服务器根据所述文件存储请求,确定与所述第一子虚拟机对应的第一主虚拟机;
控制所述第一主虚拟机与所述第一子虚拟机建立连接;
控制所述第一子虚拟机将预存文件存储到所述第一主虚拟机上,若存储成功则更新所述第一元数据服务器的存储记录。
可选的,所述文件处理请求为文件读取请求,所述利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,包括:
利用所述第一元数据服务器根据所述文件存储请求,确定与所述第一子虚拟机对应的第一主虚拟机;
控制所述第一主虚拟机与所述第一子虚拟机建立连接;
控制所述第一子虚拟机从所述第一主虚拟机中获取读取文件,若获取成功则更新所述第一元数据服务器的存储记录。
可选的,所述文件处理请求为文件迁移请求,在所述基于第一子虚拟机获取文件处理请求之后,所述利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机之前,所述方法还包括:
控制所述第一子虚拟机向所述第一元数据服务器发送目标虚拟机地址;
利用所述第一元数据服务器基于所述目标虚拟机地址确定目标虚拟机;
控制所述第一子虚拟机与所述目标虚拟机建立连接,其中,所述第一主虚拟机包括所述目标虚拟机。
可选的,在所述控制所述第一子虚拟机与所述目标虚拟机建立连接之后,在所述基于所述第一主虚拟机基于所述文件处理请求生成处理结果之前,所述方法还包括:
控制所述第一子虚拟机向所述目标虚拟机传输迁移文件;
更新所述第一元数据服务器的存储记录。
本申请实施例提供的电子设备500能够实现图1的方法实施例实现的各个过程,并达到相同的技术效果,为避免重复,这里不再赘述。
存储器510可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序;存储数据区可存储根据终端的使用所创建的数据等。此外,存储器510可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中,存储器510可进一步包括相对于处理器520远程设置的存储器,这些远程存储器可以通过网络连接至服务器/终端/服务器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例还提供一种可读存储介质,所述可读存储介质上存储有程序或指令,该程序或指令被处理器执行时实现图1所述方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
本发明实施例的计算机可读存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或终端上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络:包括局域网(LAN)或广域网(WAN)连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种基于虚拟机的并行文件存储方法,应用于并行文件处理系统,所述并行文件处理系统包括多台子虚拟机和多台主虚拟机,其特征在于,所述方法包括:
基于第一子虚拟机获取文件处理请求,所述多台子虚拟机包括所述第一子虚拟机;
利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,所述多台主虚拟机包括所述第一主虚拟机和所述第一元数据服务器;
基于所述第一主虚拟机基于所述文件处理请求生成处理结果。
2.根据权利要求1中所述的方法,其特征在于,所述基于第一子虚拟机获取文件处理请求,包括;
控制所述第一子虚拟机请求连接所述第一元数据服务器;
若所述第一子虚拟机与所述第一元数据服务器连接失败,则在所述多台主虚拟机中根据预设规则重新选择第二元数据服务器。
3.根据权利要求1中所述的方法,其特征在于,所述文件处理请求为文件存储请求,所述利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,包括:
利用所述第一元数据服务器根据所述文件存储请求,确定与所述第一子虚拟机对应的第一主虚拟机;
控制所述第一主虚拟机与所述第一子虚拟机建立连接;
控制所述第一子虚拟机将预存文件存储到所述第一主虚拟机上,若存储成功则更新所述第一元数据服务器的存储记录。
4.根据权利要求1中所述的方法,其特征在于,所述文件处理请求为文件读取请求,所述利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,包括:
利用所述第一元数据服务器根据所述文件读取请求,确定与所述第一子虚拟机对应的第一主虚拟机;
控制所述第一主虚拟机与所述第一子虚拟机建立连接;
控制所述第一子虚拟机从所述第一主虚拟机中获取读取文件,若获取成功则更新所述第一元数据服务器的存储记录。
5.根据权利要求1中所述的方法,其特征在于,所述文件处理请求为文件迁移请求,在所述基于第一子虚拟机获取文件处理请求之后,所述利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机之前,所述方法还包括:
控制所述第一子虚拟机向所述第一元数据服务器发送目标虚拟机地址;
利用所述第一元数据服务器基于所述目标虚拟机地址确定目标虚拟机;
控制所述第一子虚拟机与所述目标虚拟机建立连接,其中,所述第一主虚拟机包括所述目标虚拟机。
6.根据权利要求5中所述的方法,其特征在于,在所述控制所述第一子虚拟机与所述目标虚拟机建立连接之后,在所述基于所述第一主虚拟机基于所述文件处理请求生成处理结果之前,所述方法还包括:
控制所述第一子虚拟机向所述目标虚拟机传输迁移文件;
更新所述第一元数据服务器的存储记录。
7.一种基于虚拟机的并行文件存储装置,应用于并行文件处理系统,所述并行文件处理系统包括多台子虚拟机和多台主虚拟机,其特征在于,包括:
获取模块,用于基于第一子虚拟机获取文件处理请求,所述多台子虚拟机包括所述第一子虚拟机;
确定模块,用于利用第一元数据服务器根据所述文件处理请求,确定与所述第一子虚拟机对应的第一主虚拟机,所述多台主虚拟机包括所述第一主虚拟机和所述第一元数据服务器;
处理模块,用于基于所述第一主虚拟机基于所述文件处理请求生成处理结果。
8.根据权利要求7中所述的装置,其特征在于,所述获取模块包括:
连接子模块,用于控制所述第一子虚拟机请求连接所述第一元数据服务器;
选择子模块,用于若所述第一子虚拟机与所述第一元数据服务器连接失败,则在所述多台主虚拟机中根据预设规则重新选择第二元数据服务器。
9.一种电子设备,其特征在于,包括处理器,存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如权利要求1至6中任一项所述的基于虚拟机的并行文件存储方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述可读存储介质上存储有程序或指令,所述程序或指令被处理器执行时实现如权利要求1至6中任一项所述的基于虚拟机的并行文件存储方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111489035.2A CN114116655A (zh) | 2021-12-08 | 2021-12-08 | 基于虚拟机的并行文件存储方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111489035.2A CN114116655A (zh) | 2021-12-08 | 2021-12-08 | 基于虚拟机的并行文件存储方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114116655A true CN114116655A (zh) | 2022-03-01 |
Family
ID=80367376
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111489035.2A Pending CN114116655A (zh) | 2021-12-08 | 2021-12-08 | 基于虚拟机的并行文件存储方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114116655A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116257320A (zh) * | 2022-12-23 | 2023-06-13 | 中科驭数(北京)科技有限公司 | 一种基于dpu虚拟化配置管理方法、装置、设备及介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103077055A (zh) * | 2012-12-31 | 2013-05-01 | 清华大学 | pNFS系统高效支持海量虚拟机在线启动运行的方法 |
CN104239125A (zh) * | 2014-09-28 | 2014-12-24 | 北京奇艺世纪科技有限公司 | 对象处理方法、分布式文件系统及客户端设备 |
CN104506625A (zh) * | 2014-12-22 | 2015-04-08 | 国云科技股份有限公司 | 一种提升云数据库元数据节点可靠性的方法 |
CN105446794A (zh) * | 2014-09-30 | 2016-03-30 | 北京金山云网络技术有限公司 | 一种基于虚拟机的磁盘操作方法、装置及系统 |
US20180046491A1 (en) * | 2016-08-15 | 2018-02-15 | Fujitsu Limited | Information processing system and information processing method |
CN111625496A (zh) * | 2020-05-22 | 2020-09-04 | 柏科数据技术(深圳)股份有限公司 | 分布式文件系统在虚拟机环境下的部署方法、装置及设备 |
CN112433822A (zh) * | 2020-12-07 | 2021-03-02 | 北京远为软件有限公司 | 基于三权分立的跨域网络终端虚拟机的实现方法 |
-
2021
- 2021-12-08 CN CN202111489035.2A patent/CN114116655A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103077055A (zh) * | 2012-12-31 | 2013-05-01 | 清华大学 | pNFS系统高效支持海量虚拟机在线启动运行的方法 |
CN104239125A (zh) * | 2014-09-28 | 2014-12-24 | 北京奇艺世纪科技有限公司 | 对象处理方法、分布式文件系统及客户端设备 |
CN105446794A (zh) * | 2014-09-30 | 2016-03-30 | 北京金山云网络技术有限公司 | 一种基于虚拟机的磁盘操作方法、装置及系统 |
CN104506625A (zh) * | 2014-12-22 | 2015-04-08 | 国云科技股份有限公司 | 一种提升云数据库元数据节点可靠性的方法 |
US20180046491A1 (en) * | 2016-08-15 | 2018-02-15 | Fujitsu Limited | Information processing system and information processing method |
CN111625496A (zh) * | 2020-05-22 | 2020-09-04 | 柏科数据技术(深圳)股份有限公司 | 分布式文件系统在虚拟机环境下的部署方法、装置及设备 |
CN112433822A (zh) * | 2020-12-07 | 2021-03-02 | 北京远为软件有限公司 | 基于三权分立的跨域网络终端虚拟机的实现方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116257320A (zh) * | 2022-12-23 | 2023-06-13 | 中科驭数(北京)科技有限公司 | 一种基于dpu虚拟化配置管理方法、装置、设备及介质 |
CN116257320B (zh) * | 2022-12-23 | 2024-03-08 | 中科驭数(北京)科技有限公司 | 一种基于dpu虚拟化配置管理方法、装置、设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10613788B2 (en) | Data migration between cloud storage systems | |
US11336583B2 (en) | Background processes in update load balancers of an auto scaling group | |
US9094404B2 (en) | Reconfigurable cloud computing | |
US11296940B2 (en) | Centralized configuration data in a distributed file system | |
US10341426B2 (en) | Managing load balancers associated with auto-scaling groups | |
US10038640B2 (en) | Managing state for updates to load balancers of an auto scaling group | |
US8732702B2 (en) | File system for storage area network | |
US20190196875A1 (en) | Method, system and computer program product for processing computing task | |
US20210019314A1 (en) | Query routing and rewriting | |
CN110928557A (zh) | 一种操作系统迁移的实现方法、装置及系统 | |
CN107301090B (zh) | 在存储服务器中为应用设置数据处理路径的方法及装置 | |
CN112199567A (zh) | 一种分布式数据采集方法、系统、服务器和存储介质 | |
CN110781159B (zh) | Ceph目录文件信息读取方法、装置、服务器及存储介质 | |
CN108112268B (zh) | 管理与自动扩展组相关的负载平衡器 | |
CN114116655A (zh) | 基于虚拟机的并行文件存储方法、装置、设备及存储介质 | |
CN108595574B (zh) | 数据库集群的连接方法、装置、设备及存储介质 | |
CN113992662A (zh) | 文件传输方法、装置及存储介质 | |
CN111800511B (zh) | 同步登录态的处理方法、系统、设备及可读存储介质 | |
CN112491940B (zh) | 代理服务器的请求转发方法及装置、存储介质及电子设备 | |
US11881996B2 (en) | Input and output for target device communication | |
CN109478151B (zh) | 网络可访问数据卷修改 | |
US11163636B2 (en) | Chronologically ordered log-structured key-value store from failures during garbage collection | |
US11121981B1 (en) | Optimistically granting permission to host computing resources | |
US9298597B2 (en) | Automated testing of websites based on mode | |
US11526286B1 (en) | Adaptive snapshot chunk sizing for snapshots of block storage volumes |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |