CN109783193A - 一种可在多域云平台中复用的镜像文件管理方法 - Google Patents
一种可在多域云平台中复用的镜像文件管理方法 Download PDFInfo
- Publication number
- CN109783193A CN109783193A CN201811612148.5A CN201811612148A CN109783193A CN 109783193 A CN109783193 A CN 109783193A CN 201811612148 A CN201811612148 A CN 201811612148A CN 109783193 A CN109783193 A CN 109783193A
- Authority
- CN
- China
- Prior art keywords
- file
- mirror image
- domain
- cloud platform
- image file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Information Transfer Between Computers (AREA)
Abstract
发明公开了一种可在多域云平台中复用的镜像文件管理方法,具体步骤如下:步骤一,用户在云平台提出在指定域创建虚拟机,云平台根据现有的域与镜像之间的映射关系创建虚拟机;步骤二,虚拟机镜像文件的传输,上传文件前先对文件进行校验,确定对镜像文件采用递归的方式进行分片上传,并在上传完每个分片后,更新镜像的分片索引和传输起始位置,以便在需要的时候进行续传。本发明在云平台中提供统一的镜像管理方法,避免在多域环境中将镜像文件多次重复上传到各个域中,并且采用的是客户端直接上传到文件服务器这样的点对点方式,避免文件在多个服务器之间传输,提高传输效率。
Description
技术领域
本发明属于云计算技术领域,具体涉及一种可在多域云平台中复用的虚拟机镜像传输和存储的方法。
背景技术
随着云计算基础设施规模的不断扩大,云平台不只需要提供对单个数据中心承载的业务的管理,也有提供跨数据中心通信业务的管理需求。目前Openstack各域中的镜像管理服务是相互独立的,虚拟机创建依然依赖其各自本身的镜像服务。但各域中的镜像文件可能是相同的,这就需要云平台对虚拟机镜像进行统一的管理,完全不依赖具体某个域的openstack服务,尽可能减少镜像文件的冗余传输和存储。
我们将基于一个openstack平台模拟搭建的数据中心称作为一个“域”。各个域在提供任何服务之前,都需要获取相应的虚拟机镜像文件,并且虚拟机镜像文件可能在各域中是复用的。
发明内容
针对上述现有技术中的问题,本发明提出了
本发明针对多域云平台的虚拟机镜像使用需求,提出了一种可在平台间复用的镜像传输和存储的方法,具体步骤如下:
步骤一,用户在云平台提出在指定域创建虚拟机,云平台根据现有的域与镜像之间的映射关系创建虚拟机;
步骤二,虚拟机镜像文件的传输,上传文件前先对文件进行校验,确定对镜像文件采用递归的方式进行分片上传,并在上传完每个分片后,更新镜像的分片索引和传输起始位置,以便在需要的时候进行续传。
进一步的,所述步骤一具体为:
当用户在云平台提出在指定域创建虚拟机时,云平台检测是否本身保存有域与镜像之间的映射关系;如果有,提交虚拟机创建请求到域,域从文件存储服务器中获取镜像文件,创建虚拟机;如果不存在,提交镜像信息到域,包括镜像的location信息,更新镜像映射表,此过程中没有镜像文件传输步骤,完成镜像文件在各域中的复用功能。
进一步的,所述步骤二中,虚拟机镜像文件的传输,上传文件前先对文件进行校验的具体过程为:
步骤2.1,计算该镜像的md5值,并在云平台中检索是否已经存在该镜像;
步骤2.2,如果有相同md5值镜像且状态为可用,提示用户镜像已经存在;
步骤2.3,如果有相同md5值镜像且状态为不可用,表明之前有上传过相同的镜像文件,但是出现了异常,需要获取当前传输起始点和分片索引,继续传输该文件;
步骤2.4,如果没有相同md5值,即新传输的文件,进入传输过程。
进一步的,所述步骤二中,确定对镜像文件采用递归的方式进行分片上传的具体过程为:
步骤2.5,获取文件的传输起始点和分片索引;
步骤2.6,将文件按固定大小切片,将分片的文件上传到支持分片存储的文件服务器,本发明采用的是openstack 的swift服务;
步骤2.7,上传每个分片成功后,更新文件传输起始点和分片索引,以备下次传输,或者中断后续传;
步骤2.8,重复步骤2.6和步骤2.7直到文件传输完成;
步骤2.9,保存文件在服务器中的location url,并更新文件的状态为可用。
本发明采用以上技术方案与现有技术相比,具有以下技术效果:
本发明在云平台中提供统一的镜像管理方法,避免在多域环境中将镜像文件多次重复上传到各个域中。并且采用的是客户端直接上传到文件服务器这样的点对点方式,避免文件在多个服务器之间传输,提高传输效率。
附图说明
图1为本发明提出的多域云平台与镜像存储服务的架构示意图;
图2为本发明镜像文件传输和存储的时序图;
图3为本发明域平台复用镜像的时序图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行描述。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例1
本发明提供的一种可在多域云平台中复用的镜像文件管理方法包括两部分内容:
1)虚拟机镜像文件的存储方法,可以适用于各个openstack云平台,具体步骤如下:
11)openstack的swift对象存储能够提供弹性可伸缩、高可用的分布式对象存储服务,并且支持超大文件的分片存储和管理。可见,它相当符合镜像文件的存储需求,因此选择部署swift对象存储服务来存储镜像文件。
12)将镜像文件采用递归的方式进行分片上传,通过调用swift对象存储服务所提供的Rest API接口处理每个分片上传请求。
13)swift对象存储服务将接受到的请求文件进行分片存储。
14)上传文件完成后,记录下swift服务返回的唯一的文件URL地址来标识镜像文件的位置。后续通过位置信息便可在多域云平台中复用镜像文件。
2)虚拟机镜像文件的传输方法,可以对文件进行去重,续传和重传,本发明提供的具体功能如下:
21)本地云平台对镜像信息进行统一管理,虚拟机镜像分为镜像的metadata信息和镜像文件本身。Metadata信息除了镜像描述的基本信息外,还记录传输时使用到的关键信息,如文件总大小、文件传输起始点、分片传输当前索引、文件md5值等。
22)为了防止镜像文件的重复传输,在上传文件的一开始就要对文件进行校验,但镜像文件本身大小都在GB的数量级,获取完整的md5值太耗费时间,所以取文件的前段、中段和后段的部分数据的md5值,计算出一个综合的值,用来标识文件的唯一性。
23)文件传输过程中,可能因为外部网络原因或者服务器本身原因导致文件传输中断,为避免前段已上传的文件重复上传,需要镜像文件的续传功能。
24)对于云平台来说,平台本身维护的镜像metadata信息是用户获取和使用镜像的唯一标识,同样的镜像信息可能在某些场景下替换成不同的文件,需要镜像的重传功能。
3)进一步的,为实现上述目的,本发明提供的具体的实现方法,具体步骤如下:
31)云平台提供用户管理镜像的入口,填写镜像的基本信息后,选择镜像文件;
32)计算用户选择的镜像文件md5值,并对系统中已有的镜像进行检索,若发现有相同md5值的镜像信息时,判断该镜像的状态,是否为传输完成,如果是,则阻止用户下一步操作,反馈该镜像的基本信息,提示用户使用。否则提示用户续传该文件。
33)如果上述两种情况皆不存在,则先保存镜像的基本信息,然后将文件采用递归的方式进行分片上传,并在上传完每个分片后,更新镜像的分片索引和传输起始位置,以便在需要的时候进行续传。
34)上传完成后对文件大小进行校验,最终文件大小和实际上传文件大小一致时,表示上传成功,更新镜像文件的状态为可用状态,并存储镜像文件的位置存储信息location url。
4)上述描述了云平台本身对镜像的管理的功能和实现,进一步的,本发明还提供了镜像在多域间复用的方法,具体步骤如下:
41)云平台保存多域中镜像id与本地镜像信息的映射关系;
42)利用openstack支持使用镜像location创建镜像的功能,当用户需要在指定域使用镜像时,先在本地镜像映射表中检索,确定目标域中是否创建了此镜像的信息,如果有,直接返回该域中的镜像id,否则去目标域中创建,由于提供的是镜像的location信息,此次创建不需要任何文件传输过程。
43)由于openstack nova有镜像缓存功能,并以镜像id为标识。为了防止镜像重传时,镜像文件无法更新,在重传文件之前,先将域中的镜像信息删除,后续重传成功后,再到域中新建镜像信息,可以保障用户使用的都是最新的镜像文件。
如图1所示为本发明提到的多域云平台与镜像存储服务的架构示意图。
具体的,云平台对多个域进行管理,而每个域在创建虚拟机实例时,需要从文件存储服务器中获取到镜像文件。用户通过客户端浏览器只需要将文件上传到文件服务器,并记录到云平台,即可。文件存储服务器中的镜像文件是被各个域共用的。
图2为本发明中镜像文件传输和存储的过程时序图,从图中可以直观的看出,镜像的传输和存储部分屏蔽了底层域,用户通过客户端浏览器直接与云平台和文件存储服务器交互。
以上所述的具体实施方式,对本发明的目的,技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改,等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (4)
1.一种可在多域云平台中复用的镜像文件管理方法,其特征在于,具体步骤如下:
步骤一,用户在云平台提出在指定域创建虚拟机,云平台根据现有的域与镜像之间的映射关系创建虚拟机;
步骤二,虚拟机镜像文件的传输,上传文件前先对文件进行校验,确定对镜像文件采用递归的方式进行分片上传,并在上传完每个分片后,更新镜像的分片索引和传输起始位置,以便在需要的时候进行续传。
2.根据权利要求1所述的一种可在多域云平台中复用的镜像文件管理方法,其特征在于,所述步骤一具体为:
当用户在云平台提出在指定域创建虚拟机时,云平台检测是否本身保存有域与镜像之间的映射关系;如果有,提交虚拟机创建请求到域,域从文件存储服务器中获取镜像文件,创建虚拟机;如果不存在,提交镜像信息到域,包括镜像的location信息,更新镜像映射表,此过程中没有镜像文件传输步骤,完成镜像文件在各域中的复用功能。
3.根据权利要求1所述的一种可在多域云平台中复用的镜像文件管理方法,其特征在于,所述步骤二中,虚拟机镜像文件的传输,上传文件前先对文件进行校验的具体过程为:
步骤2.1,计算该镜像的md5值,并在云平台中检索是否已经存在该镜像;
步骤2.2,如果有相同md5值镜像且状态为可用,提示用户镜像已经存在;
步骤2.3,如果有相同md5值镜像且状态为不可用,表明之前有上传过相同的镜像文件,但是出现了异常,需要获取当前传输起始点和分片索引,继续传输该文件;
步骤2.4,如果没有相同md5值,即新传输的文件,进入传输过程。
4.根据权利要求1所述的一种可在多域云平台中复用的镜像文件管理方法,其特征在于,所述步骤二中,确定对镜像文件采用递归的方式进行分片上传的具体过程为:
步骤2.5,获取文件的传输起始点和分片索引;
步骤2.6,将文件按固定大小切片,将分片的文件上传到支持分片存储的文件服务器,本发明采用的是openstack 的swift服务;
步骤2.7,上传每个分片成功后,更新文件传输起始点和分片索引,以备下次传输,或者中断后续传;
步骤2.8,重复步骤2.6和步骤2.7直到文件传输完成;
步骤2.9,保存文件在服务器中的location url,并更新文件的状态为可用。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811612148.5A CN109783193A (zh) | 2018-12-27 | 2018-12-27 | 一种可在多域云平台中复用的镜像文件管理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811612148.5A CN109783193A (zh) | 2018-12-27 | 2018-12-27 | 一种可在多域云平台中复用的镜像文件管理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109783193A true CN109783193A (zh) | 2019-05-21 |
Family
ID=66498601
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811612148.5A Pending CN109783193A (zh) | 2018-12-27 | 2018-12-27 | 一种可在多域云平台中复用的镜像文件管理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109783193A (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110740188A (zh) * | 2019-10-25 | 2020-01-31 | 北京浪潮数据技术有限公司 | 镜像文件上传方法、装置、设备及计算机可读存储介质 |
CN112491953A (zh) * | 2020-10-21 | 2021-03-12 | 苏州浪潮智能科技有限公司 | 支持云平台镜像数据续传的实现方法、系统、设备和介质 |
CN112540776A (zh) * | 2020-12-25 | 2021-03-23 | 麒麟软件有限公司 | 一种基于iso9660镜像分片去重技术的操作系统镜像管理方法 |
CN112910962A (zh) * | 2021-01-15 | 2021-06-04 | 杭州安恒信息技术股份有限公司 | 云资源池的产品纳管方法、系统、装置及存储介质 |
CN113297158A (zh) * | 2021-05-26 | 2021-08-24 | 杭州安恒信息技术股份有限公司 | 一种云安全产品管理方法、装置、设备及存储介质 |
WO2021184992A1 (zh) * | 2020-03-16 | 2021-09-23 | 华为技术有限公司 | 一种镜像文件的上传方法、相关设备及计算机存储介质 |
CN114567496A (zh) * | 2022-03-03 | 2022-05-31 | 浪潮云信息技术股份公司 | 一种进行云服务器镜像完整性校验的方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108234587A (zh) * | 2016-12-22 | 2018-06-29 | 航天信息股份有限公司 | 一种基于OpenStack多region镜像资源共享的方法 |
CN108322496A (zh) * | 2017-01-17 | 2018-07-24 | 北京京东尚科信息技术有限公司 | 镜像文件分发方法及系统、计算机可读存储介质、电子设备 |
-
2018
- 2018-12-27 CN CN201811612148.5A patent/CN109783193A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108234587A (zh) * | 2016-12-22 | 2018-06-29 | 航天信息股份有限公司 | 一种基于OpenStack多region镜像资源共享的方法 |
CN108322496A (zh) * | 2017-01-17 | 2018-07-24 | 北京京东尚科信息技术有限公司 | 镜像文件分发方法及系统、计算机可读存储介质、电子设备 |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110740188A (zh) * | 2019-10-25 | 2020-01-31 | 北京浪潮数据技术有限公司 | 镜像文件上传方法、装置、设备及计算机可读存储介质 |
WO2021184992A1 (zh) * | 2020-03-16 | 2021-09-23 | 华为技术有限公司 | 一种镜像文件的上传方法、相关设备及计算机存储介质 |
CN112491953A (zh) * | 2020-10-21 | 2021-03-12 | 苏州浪潮智能科技有限公司 | 支持云平台镜像数据续传的实现方法、系统、设备和介质 |
CN112491953B (zh) * | 2020-10-21 | 2022-06-14 | 苏州浪潮智能科技有限公司 | 支持云平台镜像数据续传的实现方法、系统、设备和介质 |
CN112540776A (zh) * | 2020-12-25 | 2021-03-23 | 麒麟软件有限公司 | 一种基于iso9660镜像分片去重技术的操作系统镜像管理方法 |
WO2022134324A1 (zh) * | 2020-12-25 | 2022-06-30 | 麒麟软件有限公司 | 一种基于iso9660镜像分片去重技术的操作系统镜像管理方法 |
CN112910962A (zh) * | 2021-01-15 | 2021-06-04 | 杭州安恒信息技术股份有限公司 | 云资源池的产品纳管方法、系统、装置及存储介质 |
CN113297158A (zh) * | 2021-05-26 | 2021-08-24 | 杭州安恒信息技术股份有限公司 | 一种云安全产品管理方法、装置、设备及存储介质 |
CN114567496A (zh) * | 2022-03-03 | 2022-05-31 | 浪潮云信息技术股份公司 | 一种进行云服务器镜像完整性校验的方法及系统 |
CN114567496B (zh) * | 2022-03-03 | 2024-02-20 | 浪潮云信息技术股份公司 | 一种进行云服务器镜像完整性校验的方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109783193A (zh) | 一种可在多域云平台中复用的镜像文件管理方法 | |
US11943291B2 (en) | Hosted file sync with stateless sync nodes | |
US10852961B2 (en) | Overlapping write detection and processing for sync replication | |
EP2998881B1 (en) | A computer implemented method for dynamic sharding | |
US8510404B2 (en) | Peer to peer Synchronization system and method | |
CN100593165C (zh) | 用于自动升级无线设备的系统和方法 | |
CN102307210B (zh) | 一种数据下载系统及其数据管理和下载方法 | |
US9286298B1 (en) | Methods for enhancing management of backup data sets and devices thereof | |
CN106161523B (zh) | 一种数据处理方法和设备 | |
US20140081911A1 (en) | Optimizing automatic deletion of backup files | |
CN103095769B (zh) | 跨机房的数据同步方法以及系统 | |
US9582387B2 (en) | Server, backup system and backup method | |
CN102045400B (zh) | 一种文件内容同步方法和系统 | |
CN103384876A (zh) | 信息处理系统和数据处理方法 | |
CN111221469B (zh) | 同步缓存数据的方法、装置和系统 | |
US9690796B2 (en) | Non-transitory computer-readable media storing file management program, file management apparatus, and file management method | |
CN104573064A (zh) | 一种大数据环境下的数据处理方法 | |
CN103605798A (zh) | 一种直接操作云端存储文件的方法 | |
CN110502572A (zh) | 一种数据同步的方法及服务器 | |
CN105868251A (zh) | 一种缓存数据更新方法及装置 | |
CN105069152A (zh) | 数据处理方法及装置 | |
KR20130011130A (ko) | 메모 데이터의 동기화를 위한 메모 동기화 시스템, 모바일 시스템 및 메모 동기화 방법 | |
CN109597903A (zh) | 图像文件处理装置和方法、文件存储系统及存储介质 | |
EP3039568A1 (en) | Distributed disaster recovery file sync server system | |
CN111221861A (zh) | 一种本地缓存与数据库数据同步方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190521 |