CN102609365B - 一种虚拟磁盘系统和基于虚拟磁盘系统的文件存储方法 - Google Patents

一种虚拟磁盘系统和基于虚拟磁盘系统的文件存储方法 Download PDF

Info

Publication number
CN102609365B
CN102609365B CN201210033271.8A CN201210033271A CN102609365B CN 102609365 B CN102609365 B CN 102609365B CN 201210033271 A CN201210033271 A CN 201210033271A CN 102609365 B CN102609365 B CN 102609365B
Authority
CN
China
Prior art keywords
file
virtual disk
index node
disk system
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201210033271.8A
Other languages
English (en)
Other versions
CN102609365A (zh
Inventor
王峰
姚键
阙宏宇
杨敬宇
张士波
潘柏宇
卢述奇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba China Co Ltd
Youku Network Technology Beijing Co Ltd
Original Assignee
1Verge Internet Technology Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 1Verge Internet Technology Beijing Co Ltd filed Critical 1Verge Internet Technology Beijing Co Ltd
Priority to CN201210033271.8A priority Critical patent/CN102609365B/zh
Publication of CN102609365A publication Critical patent/CN102609365A/zh
Application granted granted Critical
Publication of CN102609365B publication Critical patent/CN102609365B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种虚拟磁盘系统,包括多个逻辑块组,其中,所述逻辑块组包括:多个数据块单元,用于存储文件内容数据或者文件元数据;块位图单元,用于存储以二进制位形态表示的数据块是否被使用的信息;索引节点位图单元,用于存储以二进制位形态表示索引节点是否被使用的信息;索引节点表单元,用于存储多个索引节点项信息,其中,每个索引项对应一个文件且至少存储对应的文件的大小、文件具体的位置、存取修改时间元信息。本发明能够满足P2P媒体文件存储的可靠性、高效性、可用性、可迁移性、可扩展性、内容版权保护性方面的需求。此外,本发明还公开了一种基于虚拟磁盘系统的文件存储方法。

Description

一种虚拟磁盘系统和基于虚拟磁盘系统的文件存储方法
技术领域
本发明属于点对点网络技术领域,具体涉及到一种用于点对点计算过程中存储媒体数据的数据存储方法和系统。
背景技术
在P2P的应用中,很多场合需要把从P2P网络中获取到的数据存储到当前peer节点的本地存储中。
但是,采用何种方案来管理和存储这些媒体数据是一个较为复杂和困难的问题,其中,在现有技术中,对于视频类的P2P应用软件,一种方案是在宿主机操作系统(譬如Windows,Mac)里的一个文件中基于预定义的一种格式存储和管理这些媒体数据,也就是把众多媒体文件的内容存放到一个实际的物理文件中去。
由此,引出了一个如何既能高效地管理空间又能保证数据的高可靠性还能方便后续的升级、维护、可扩展方面的问题。个角度讲,我们可以把这个文件当作一个虚拟的磁盘,那么实际上这个问题就变换成如何在一个文件里实现一个满足需求的轻量级文件系统。
针对媒体数据的P2P存储,这个虚拟磁盘须满足以下特性:
可靠性---能够应对诸如掉电后文件或目录损坏等突发事件并能实现灾难恢复;
高效性---能够实现高效的存取和管理效率;
可用性---能够存储大小不等的各类媒体文件;
可迁移性---支持虚拟磁盘的迁移;
可扩展性---要求具有整齐规整的结构方便将来开发各种扩展性质的应用;
内容版权保护性---能够方便支持媒体内容的DRM存储;
而现有技术的文件存储方法和磁盘系统都无法满足现有技术的需求,因此,需要采取合适的手段实现对媒体文件的存储。
发明内容
本发明针对现有技术的缺点,提供了一种虚拟磁盘系统以及基于该虚拟磁盘系统的文件存储方法,该种方法具有很好的媒体存储技术效果。
其中,根据本申请的一个方面,本发明提供了一种虚拟磁盘系统,包括多个逻辑块组,所述逻辑块组包括:
多个数据块单元,用于存储文件内容数据或者文件元数据;
块位图单元,用于存储以二进制位形态表示的数据块是否被使用的信息;
索引节点位图单元,用于存储以二进制位形态表示的索引节点是否被使用的信息;
索引节点表单元,用于存储多个索引节点项信息,其中,每个索引节点项对应一个文件且至少存储对应的文件的大小、文件具体的位置、存取修改时间元信息。
进一步地,优选的是,还设有虚盘标识块单元,用于存储标用于标注当前虚拟磁盘文件的标识识信息和媒体文件版权保护的数字证书。
进一步地,优选的是,所述逻辑块组中,还设有:
超级块单元,用于存储当前虚拟磁盘系统相关的索引节点数、剩余索引节点数、块数、剩余空间块数信息;
组描述符表单元,用于存储当前逻辑块组中块位图、索引节点位图、索引节点表的位置信息。
进一步地,优选的是,所述索引节点表单元,包括:
操作子单元,用于根据记录区段的形式记载对应的媒体文件的内容所在的数据块位置。
此外,根据本发明的又一目的,本发明提供了一种基于虚拟磁盘系统的文件存储方法,包括:
A、在物理磁盘上设置至少一个虚拟磁盘系统文件用以存储媒体文件,将标注当前虚拟磁盘系统文件的标识信息和媒体内容DRM存储的数字证书信息位存储到虚盘标识块单元中,所述虚盘标识块单元中还包括逻辑块组和对应的块组集;
所述逻辑块组包括:
多个数据块单元,用于存储文件内容数据或者文件元数据;
B、将文件内容数据或者文件元数据到虚拟磁盘系统中的所述数据块单元中;
C、分别存储以二进制位形态表示的数据块、索引节点是否被使用的信息;以及索引节点表单元中的当前的文件的大小、文件具体的位置、存取修改时间元信息。
优选的方法是,进一步包括:
将标注当前虚拟磁盘文件的标识信息存储到虚盘标识块单元中。
优选的方法是,进一步包括:存储当前虚拟磁盘系统相关的索引节点数、剩余索引节点数、块数、剩余空间块数信息;
存储当前逻辑块组中块位图、索引节点位图、索引节点表的位置信息。
优选的方法是,进一步包括:
根据记录区段的形式记载所述对应的媒体文件的内容所在的数据块位置。
优选的方法是,进一步包括:
通过在虚拟磁盘系统中动态追加逻辑块组的方式以调整所述虚拟磁盘系统的大小。
优选的方法是,进一步包括:
通过在虚拟磁盘系统中对文件进行加密存储的方式以实现对媒体文件内容的版权保护。
本发明采取了上述技术方案以后,能够满足P2P媒体文件存储的可靠性、高效性、可用性、可迁移性、可扩展性、内容版权保护性方面的需求,并且,该种方法具有跨平台、跨运行态的技术效果。
附图说明
下面结合附图对本发明进行详细的描述,以使得本发明的上述优点更加明确。
图1是本发明虚拟磁盘系统的原理的一个逻辑结构示意图;
图2是本发明虚拟磁盘系统的原理的一个逻辑结构示意图;
图3是本发明基于虚拟磁盘系统的文件存储方法的流程示意图。
具体实施方式
下面结合附图和具体实施例对本发明进行详细的说明。
系统实施例一:
本发明针对现有的P2P文件的特点,设置一个用于P2P存储的虚拟磁盘,以满足可靠性、高效性、可用性、可迁移性、可扩展性、内容版权保护性方面的需求。
其中,图1是本发明虚拟磁盘系统的原理的一个逻辑结构示意图;
其中,如图1所示,在本申请之中,一个虚拟磁盘对应一个实际的物理文件。
所述虚拟磁盘文件根据一定大小分成均等大小的众多的逻辑块。在文件头的虚盘标识块中存储的是当前虚拟磁盘的一种特定标识,根据此标识可以区分不同的虚拟磁盘文件。此外,虚拟磁盘标识块中还存储有媒体内容版权保护用途的数字证书等信息。
具体来说,多个逻辑块单元形成一个逻辑块组,并且,所述逻辑块组包括:多个数据块单元,用于存储文件内容数据或者文件元数据;
块位图单元,用于存储以二进制位形态表示的数据块是否被使用的信息;
索引节点位图单元,用于存储以二进制位形态表示的索引节点是否被使用的信息;
索引节点表单元,用于存储多个索引节点项信息,其中,每个索引节点项对应于一个文件且至少存储对应的文件的大小、文件具体的位置、存取修改时间元信息。
并且,还设有虚盘标识块单元,用于存储标用于标注当前虚拟磁盘文件的标识信息以及用于内容版权保护的数字证书。
此外,所述逻辑块组中,还设有:
超级块单元,用于存储当前虚拟磁盘系统相关的索引节点数、剩余索引节点数、块数、剩余空间块数信息;
组描述符表单元,用于存储当前逻辑块组中块位图、索引节点位图、索引节点表的位置信息。
从图1中可以看出,并不是每个块组集里都会保存着超级块和组描述符表,只在0和13的幂次的块组集里保存着副本。
此外,进一步地,优选的是,所述索引节点表单元,包括:
操作子单元,用于根据记录区段的形式记载所述在索引节点中对应的文件的内容所在的数据块位置。
由此,该申请相对于现有技术来说,而不再使用传统的扩展文件系统中常见的直接/间接块映射表的方式,而是使用记录区段的方式,进而减少需要存储的文件位置元数据的大小。由此,其作为P2P媒体文件的存储介质,具有较好的文件存储效果。
图2是本发明虚拟磁盘系统的原理的一个结构示意图;
如图2所示,图中所描述的情况是当前文件的内容存储在从编号为300开始的500个逻辑块单元和从编号为1080开始的400个逻辑块单元中。
此外,为使每个媒体文件的数据存放时位置尽量局部集中化,在为媒体文件分配逻辑块单元时,采取多块整齐、连续分配逻辑块单元的方法来予以保证。
其中,本发明在所有涉及到虚拟磁盘元数据、文件元数据的改动都记录在日志文件中,不但如此,还为需要改动的元数据计算检验和,方便在灾难恢复和数据抢救的时候,可以通过分析、重放日志文件和校验检验和的方式来发现和修正错误。
此外,从图1知道,整个物理文件的逻辑结构是一个逻辑块组紧接着另外一个逻辑块组。
本发明采取了上述技术方案以后,可以实现根据需要在线调整虚拟磁盘文件所占用的物理空间大小。在当前的磁盘空间不能满足需要时,同时并未达到配额上限时,可以通过在虚拟磁盘文件尾端生成并追加块组集的方式来实现在线调整虚拟磁盘文件的大小来满足存储的需求。
方法实施例一:
以下针对本发明的具体实施例进行详细的说明,其中,图3是本发明基于上述实施例的虚拟磁盘系统的文件存储方法的流程示意图。
如图3所示,所述方法包括下列步骤;
S101:在物理磁盘上设置至少一个虚拟磁盘系统文件用以存储媒体文件,其中,每一个虚拟磁盘系统包括多个逻辑块组,所述逻辑块组包括:
多个数据块单元,用于存储文件内容数据或者文件元数据;
S102:将文件内容数据或者文件元数据存储到虚拟磁盘系统中的所述数据块单元中;
S103:存储以二进制位形态表示的数据块、索引节点是否被使用的信息;
S104:在索引节点表单元中对应的表项里存储当前媒体文件的大小、文件位置信息、存取修改时间等元信息。
本发明采取了上述技术方案以后,能够满足P2P媒体文件存储的可靠性、高效性、可用性、可迁移性、可扩展性、内容版权性方面的需求,并且,该种方法具有跨平台、跨运行态的技术效果。
其中,进一步地,优选的方法是,将标注当前虚拟磁盘文件的标识信息和用于内容版权保护的数字证书存储到虚盘标识块单元中。
并且,进一步包括:存储当前虚拟磁盘系统相关的索引节点数、剩余索引节点数、块数、剩余空间块数信息;
存储当前逻辑块组中块位图、索引节点位图、索引节点表的位置信息。
此外,该申请相对于现有技术来说,而不再使用传统的扩展文件系统中常见的直接/间接块映射表的方式,而是使用记录区段的方式,进而减少需要存储的文件位置元数据的大小,由此,其作为P2P媒体文件的存储介质,具有较好的文件存储效果。
并且,所述方法采用区段的方式来记录文件内容所在数据块的位置信息,和传统的扩展文件系统默认采用的直接/间接块映射的方式相比,会极大地减少文件元数据的存储量,提高了存储利用率,也减少了发生错误的概率。
此外,通过在虚拟磁盘系统中追加逻辑块组的方式以调整所述虚拟磁盘系统的大小。
其中,本发明采取了上述方案以后,能够使得一个媒体文件的内容所在的数据块局部集中,能够提高查找效率以及存取效率。
此外,本申请中,对元数据改动时记录日志和校验检验和,能够保证一旦虚拟磁盘遇到极端情况时能够实现灾难恢复和数据抢救。
并且,由于元数据和内容数据保存在同一个文件中而不是分散存放,一方面方便虚拟磁盘在系统间迁移;另外一方面避免分离存放元数据和内容数据带来的潜在问题。
此外,本申请中的每2个逻辑块组之间基本上都是独立的、隔离的,对数据损坏的风险可控在局部范围内,避免实行点对点计算时由于有错误的数据被传播、复制、分发到P2P网络中造成数据污染。
另外,超级块、组描述符表稀疏地在一些块组集中有多个副本分散存储在不同的地方,保证在极端情况下实现超级块和组描述符的恢复和数据抢救工作。
另外,和简单的自定义逻辑格式相比,由于这种设计既可以存储目录也可以存储媒体文件,使得具有在虚拟磁盘中通过创建不同的目录文件就可以对众多的媒体文件进行分类、整理、存储的好处。
需要注意的是,上述具体实施例仅仅是示例性的,在本发明的上述教导下,本领域技术人员可以在上述实施例的基础上进行各种改进和变形,而这些改进或者变形落在本发明的保护范围内。
本领域技术人员应该明白,上面的具体描述只是为了解释本发明的目的,并非用于限制本发明。本发明的保护范围由权利要求及其等同物限定。

Claims (6)

1.一种虚拟磁盘系统,其特征在于,包括多个逻辑块组和对应的块组集,所述块组集设于虚盘标识块单元中,所述逻辑块组包括:
多个数据块单元,用于存储文件内容数据或者文件元数据;
块位图单元,用于存储以二进制位形态表示的数据块是否被使用的信息;
索引节点位图单元,用于存储以二进制位形态表示的索引节点是否被使用的信息;
索引节点表单元,用于存储多个索引节点项信息,其中,每个索引节点项对应一个媒体文件且至少存储对应的文件的大小、文件在虚拟磁盘系统中的位置、存取修改时间元信息;
其中,在0和13的幂次的块组集对应的逻辑块组中,还设有:
超级块单元,用于存储当前虚拟磁盘系统相关的索引节点数、剩余索引节点数、块数、剩余空间块数、虚拟磁盘空间配额信息;
组描述符表单元,用于存储当前逻辑块组中块位图、索引节点位图、索引节点表的位置信息。
2.根据权利要求1所述的虚拟磁盘系统,其特征在于,所述虚盘标识块单元,还用于存储标注当前虚拟磁盘文件的标识信息和媒体文件版权保护的数字证书。
3.根据权利要求2所述的虚拟磁盘系统,其特征在于,所述索引节点表单元,包括:
操作子单元,用于根据记录区段的形式记载对应的媒体文件的内容所在的数据块位置。
4.一种基于虚拟磁盘系统的文件存储方法,包括:
A、在物理磁盘上设置至少一个虚拟磁盘系统文件用以存储媒体文件,将标注当前虚拟磁盘系统文件的标识信息和媒体内容DRM存储的数字证书信息位存储到虚盘标识块单元中,所述虚盘标识块单元中还包括逻辑块组和对应的块组集;
所述逻辑块组包括:
多个数据块单元,用于存储文件内容数据或者文件元数据;
B、将文件内容数据或者文件元数据存储到虚拟磁盘系统中的所述数据块单元中;
C、分别存储以二进制位形态表示的数据块、索引节点是否被使用的信息;以及索引节点表单元中媒体文件的大小、媒体文件在虚拟磁盘系统中的位置、存取修改时间元信息;
在0和13的幂次的块组集对应的逻辑块组中,还存储当前虚拟磁盘系统相关的索引节点数、剩余索引节点数、块数、剩余空间块数、虚拟磁盘空间配额信息;
存储当前逻辑块组中块位图、索引节点位图、索引节点表的位置信息。
5.根据权利要求4所述的基于虚拟磁盘系统的文件存储方法,其特征在于,进一步包括:
根据记录区段的形式记载对应的媒体文件在虚拟磁盘系统中所在的位置信息。
6.根据权利要求5所述的基于虚拟磁盘系统的文件存储方法,其特征在于,进一步包括:
通过在虚拟磁盘系统中追加逻辑块组的方式以调整所述虚拟磁盘系统的大小。
CN201210033271.8A 2012-02-15 2012-02-15 一种虚拟磁盘系统和基于虚拟磁盘系统的文件存储方法 Active CN102609365B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210033271.8A CN102609365B (zh) 2012-02-15 2012-02-15 一种虚拟磁盘系统和基于虚拟磁盘系统的文件存储方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210033271.8A CN102609365B (zh) 2012-02-15 2012-02-15 一种虚拟磁盘系统和基于虚拟磁盘系统的文件存储方法

Publications (2)

Publication Number Publication Date
CN102609365A CN102609365A (zh) 2012-07-25
CN102609365B true CN102609365B (zh) 2015-09-23

Family

ID=46526755

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210033271.8A Active CN102609365B (zh) 2012-02-15 2012-02-15 一种虚拟磁盘系统和基于虚拟磁盘系统的文件存储方法

Country Status (1)

Country Link
CN (1) CN102609365B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103838639B (zh) * 2012-11-23 2018-04-27 华为技术有限公司 一种恢复虚拟磁盘元数据的方法、装置及系统
CN106155921B (zh) * 2015-04-03 2019-06-25 联想(北京)有限公司 一种信息处理方法和电子设备
CN105224607B (zh) * 2015-09-06 2019-05-24 浪潮(北京)电子信息产业有限公司 一种模拟云存储设备的虚拟文件系统设计方法
CN106598496A (zh) * 2016-12-08 2017-04-26 蓝信工场(北京)科技有限公司 构建虚拟磁盘及其数据处理的方法和装置
CN108845895B (zh) * 2018-07-06 2022-02-08 无锡地铁集团有限公司 基于虚拟磁盘文件的流式增量备份方法及装置
CN111381769B (zh) * 2018-12-29 2023-11-14 深圳市茁壮网络股份有限公司 一种分布式数据存储方法及系统
CN111159123B (zh) * 2019-12-30 2023-07-14 中国兵器装备集团自动化研究所 一种嵌入式可靠参数储存文件系统及方法
CN111984365B (zh) * 2020-07-22 2022-05-31 苏州浪潮智能科技有限公司 一种虚拟机虚拟磁盘双活实现方法及系统
CN114138566B (zh) * 2022-02-07 2022-04-29 苏州浪潮智能科技有限公司 虚拟机的数据存储方法、装置、虚拟机及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1517906A (zh) * 2003-01-14 2004-08-04 联想(北京)有限公司 文件系统及文件管理方法
CN1536509A (zh) * 2003-04-11 2004-10-13 �Ҵ���˾ 倒排索引存储方法、倒排索引机制以及在线更新的方法
JP2011188358A (ja) * 2010-03-10 2011-09-22 Panasonic Corp Vpn装置及びip通信装置
CN102201005A (zh) * 2011-05-20 2011-09-28 苏州安源汇信软件有限公司 一种文件系统的流媒体增强文件布局方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8489654B2 (en) * 2009-08-28 2013-07-16 Beijing Innovation Works Technology Company Limited Method and system for forming a virtual file system at a computing device

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1517906A (zh) * 2003-01-14 2004-08-04 联想(北京)有限公司 文件系统及文件管理方法
CN1536509A (zh) * 2003-04-11 2004-10-13 �Ҵ���˾ 倒排索引存储方法、倒排索引机制以及在线更新的方法
JP2011188358A (ja) * 2010-03-10 2011-09-22 Panasonic Corp Vpn装置及びip通信装置
CN102201005A (zh) * 2011-05-20 2011-09-28 苏州安源汇信软件有限公司 一种文件系统的流媒体增强文件布局方法

Also Published As

Publication number Publication date
CN102609365A (zh) 2012-07-25

Similar Documents

Publication Publication Date Title
CN102609365B (zh) 一种虚拟磁盘系统和基于虚拟磁盘系统的文件存储方法
CN103064639B (zh) 数据存储方法及装置
CN104217290A (zh) 一种档案管理系统
CN101777017B (zh) 一种连续数据保护系统的快速恢复方法
CN102779180A (zh) 数据存储系统的操作处理方法,数据存储系统
CN103890738A (zh) 用于保留克隆分离操作之后的存储对象中的消重的系统和方法
CN105103114B (zh) 提供多个层的数据存储、文件和卷系统
CN103049355B (zh) 一种数据库系统恢复方法及设备
CN103095758B (zh) 一种分布式文件系统及该系统中处理文件数据的方法
CN104346357A (zh) 一种嵌入式终端的文件存取方法及系统
CN104407935A (zh) 快照回滚方法和存储设备
CN105938457A (zh) 数据的过滤方法、装置及数据读取系统
CN102970373B (zh) 一种数据同步方法、装置及系统
CN104461685A (zh) 虚拟机处理方法和虚拟计算机系统
CN102831069A (zh) 内存处理方法、内存管理设备
CN104360914A (zh) 增量快照方法和装置
CN107786638A (zh) 一种数据处理方法、装置及系统
CN107885616A (zh) 一种基于文件系统解析的海量小文件备份恢复方法
CN105653396A (zh) 备份系统及其备份方法
CN109634873A (zh) 固态盘存储主机系统日志信息方法、装置、设备及介质
CN103473258A (zh) 云存储文件系统
CN104965835A (zh) 一种分布式文件系统的文件读写方法及装置
CN102257498B (zh) 配置文件的注释生成方法及配置文件生成设备
CN104063752A (zh) 基于业务规则的档案组卷方法
CN107562372A (zh) 一种电子设备及其数据管理方法、计算机可读存储介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: 100080 Beijing Haidian District city Haidian street A Sinosteel International Plaza No. 8 block 5 layer A, C

Patentee after: Youku network technology (Beijing) Co.,Ltd.

Address before: 100080 Beijing Haidian District city Haidian street A Sinosteel International Plaza No. 8 block 5 layer A, C

Patentee before: 1VERGE INTERNET TECHNOLOGY (BEIJING) Co.,Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20200323

Address after: 310009 room 508, floor 5, building 4, No. 699, Wangshang Road, Changhe street, Binjiang District, Hangzhou City, Zhejiang Province

Patentee after: Alibaba (China) Co.,Ltd.

Address before: 100080 Beijing Haidian District city Haidian street A Sinosteel International Plaza No. 8 block 5 layer A, C

Patentee before: Youku network technology (Beijing) Co.,Ltd.