CN109154880A - 在分散存储网络中一致的存储数据 - Google Patents
在分散存储网络中一致的存储数据 Download PDFInfo
- Publication number
- CN109154880A CN109154880A CN201780026336.7A CN201780026336A CN109154880A CN 109154880 A CN109154880 A CN 109154880A CN 201780026336 A CN201780026336 A CN 201780026336A CN 109154880 A CN109154880 A CN 109154880A
- Authority
- CN
- China
- Prior art keywords
- collection
- coded data
- data slice
- write
- write request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/219—Managing data history or versioning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
- G06F11/1076—Parity data used in redundant arrays of independent storages, e.g. in RAID systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
- G06F16/1824—Distributed file systems implemented using Network-attached Storage [NAS] architecture
- G06F16/183—Provision of network file services by network file servers, e.g. by using NFS, CIFS
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Quality & Reliability (AREA)
- Fuzzy Systems (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Computer And Data Communications (AREA)
Abstract
一种方法包括,对于有关编码数据切片集的写操作,由计算设备,确定写操作是否是写编码数据切片集的第一实例(200)。该方法还包括,当写操作是第一实例时,由计算设备向存储单元发送写请求集,其中写请求包括编码数据切片集,切片名称和第一实例的指示(202)。该方法还包括:响应于写请求集的写请求,由存储单元确定编码数据切片的已有版本是否当前存储在存储单元中(204)。当已有版本当前存储在存储单元中时,由存储单元,向计算设备发送冲突消息(206)。该方法还包括,由计算设备,基于冲突消息更新写请求(208)。
Description
技术领域
本发明的各方面一般涉及计算机网络,更具体地说,涉及数据的分散存储和数据的分布式任务处理。
背景技术
已知计算设备可以传送数据,处理数据和/或存储数据。这样的计算设备包括无线智能电话、笔记本电脑、平板电脑、个人计算机(PC)、工作站和视频游戏设备、及每天支持数百万网络搜索、股票交易或在线购买的数据中心。总之,计算设备包括中央处理单元(CPU)、存储器系统、用户输入/输出接口、外围设备接口和互连总线结构。
如进一步已知的,计算机可以通过使用“云计算”代表计算机执行一个或多个计算功能(例如,服务、应用、算法、算术逻辑功能等)来有效地扩展其CPU。此外,对于大型服务,应用和/或功能,云计算可以由分布式方式由多个云计算资源执行,以改善完成服务、应用和/或功能的响应时间。例如,Hadoop是一个开源软件框架,支持分布式应用程序,使数千台计算机能够执行应用程序。
除了云计算之外,计算机可以使用“云存储”作为其存储系统的一部分。众所周知,云存储使用户能够通过其计算机在因特网存储系统上存储文件,应用程序等。因特网储存系统可以包括RAID(独立磁盘冗余阵列)系统和/或分散存储系统,其对用于存储的编码数据使用纠错方案。
已知分布式存储系统利用三阶段流程在分散存储网络(DSN)存储器中一致地写,其中三个阶段包括:
1写阶段;
2使其可用阶段;和
3最后阶段。
这三个阶段解决了可能由持有编码数据切片的不同修改的DSN的不同存储单元产生的一致性问题,其中数据被分散存储错误编码以产生编码数据切片。已知这三个阶段利用阈值方法将写过程推进到下一阶段,或者在出现冲突和错误时反转流程以维持修改存储的一致性。
因此,需要解决本领域的上述问题。
发明内容
从另一方面来看,本发明提供了一种用于分散存储网络(DSN)的计算设备的方法,该方法包括:对关于将要写入DSN的存储单元的编码数据切片集的写操作,确定写操作是否是写编码数据切片集的第一实例,其中数据对象的数据段作为分散存储错误被编码到编码数据切片集中;当写操作是写编码数据切片集的第一实例时,向存储单元发送写请求集,其中写请求集包括编码数据切片集,切片名称集,以及写编码数据切片集的第一实例;接收来自至少一些存储单元的关于写请求集的多个响应;当多个响应的响应是冲突消息时,基于冲突消息更新写请求集,其中冲突消息指示编码数据切片集的至少一个编码数据切片的已有版本存储在多个存储单元的存储单元中;当写阈值数量的响应是有利的写响应时,向存储单元发送写提交请求集。
从另一方面来看,本发明提供了一种存储系统,包括第一模块,当在分散存储网络(DSN)的计算设备内操作时,第一模块使计算设备:对于关于将要写入DSN的存储单元的编码数据切片集的写操作,确定写操作是否是写编码数据切片集的第一实例,其中数据对象的数据段作为分散存储错误被编码到编码数据切片集中;当写操作是写编码数据切片集的第一实例时,向存储单元发送写请求集,其中写请求集包括编码数据切片集,切片名称集,以及写编码数据切片集的第一实例;第二模块,当在多个存储单元的存储单元内操作时,使存储单元:响应于写请求集的写请求,确定编码数据切片集的编码数据切片的已有版本是否当前被存储在存储单元中;当编码数据切片集的编码数据切片的已有版本当前存储在存储单元中时,向计算设备发送冲突消息;和第三模块,当在计算设备内操作时,使计算设备:根据冲突消息更新写请求集。
从另一方面来看,本发明提供了一种用于关于将要写入分散存储网络(DSN)的存储单元的编码数据切片集的写操作的计算机程序产品,该计算机程序产品包括:计算机可读存储介质,其可由处理电路读并存储用于由处理电路执行的指令,用于执行用于执行本发明的各个步骤的方法。
从另一方面来看,本发明提供了一种存储在计算机可读介质上并可加载到数字计算机的内部存储器中的计算机程序,包括软件代码部分,当所述程序在计算机上运行时用于执行本发明的各个步骤。
附图的简要说明
现在仅通过示例的方式参考附图描述本发明的实施例,附图中::
图1是根据本发明的分布式计算系统的实施例的示意框图。
图2是根据本发明的计算核的实施例的示意框图。
图3-5是根据本发明的分散存储网络(DSN)的实施例的示意框图。
图6是根据本发明的存储数据的例子的流程图。和
图7是根据本发明的存储数据的另一个例子的流程图。
具体实施方式
图1是分布式计算系统10的实施例的示意性框图,该分布式计算系统10包括用户设备12和/或用户设备14、分布式存储和/或任务(DST)处理单元16、分布式存储和/或任务网络(DSTN)管理单元18、DST完整性处理单元20、以及分布式存储和/或任务网络(DSTN)模块22。分布式计算系统10的组件经由网络24耦合,网络24可包括一个或更多无线和/或有线通信系统、一个或多个非公共内联网系统和/或公共互联网系统、和/或一个或多个局域网(LAN)和/或广域网(WAN)。此后,分布式计算系统10可以可互换地称为分散存储网络(DSN)。
DSTN模块22包括多个分布式存储和/或任务(DST)执行单元36,其可以位于地理上不同的站点(例如,一个在芝加哥,一个在密尔沃基等)。每个DST执行单元可操作以,存储分散的错误编码的数据,和/或以分布式方式,执行数据上的一个或多个任务。任务可以是简单的功能(例如,数学函数、逻辑函数、识别函数、查找函数、搜索引擎函数、替换函数等),复杂函数(例如,压缩、人和/或计算机语言翻译、文本到语音转换、语音到文本转换等),多个简单和/或复杂函数,一个或多个算法,一个或多个应用程序等。此后,DST执行单元可以可互换地称为存储单元,并且DST执行单元集可以可互换地称为存储单元集。
用户设备12-14、DST处理单元16、DSTN管理单元18和DST完整性处理单元20中的每一个包括计算核26,并且可以是便携式计算设备和/或固定计算设备。便携式计算设备可以是社交网络设备、游戏设备、手机、智能电话、数字助理、数字音乐播放器、数字视频播放器、膝上型计算机、手持式计算机、平板电脑、视频游戏控制器、和/或包括计算核的任何其它便携式设备。固定计算设备可以是计算机(PC)、计算机服务器、有线机顶盒、卫星接收器、电视机、打印机、传真机、家庭娱乐设备、视频游戏控制台和/或任何类型的家庭或办公室计算设备。用户设备12和DST处理单元16被配置为包括DST客户模块34。
关于接口,每个接口30,32和33包括软件和/或硬件,以间接和/或直接地经由网络24支持一个或多个通信链路。例如,接口30支持用户设备14和DST处理单元16之间的通信链路(例如,有线、无线、直接,经由LAN、经由网络24等)。作为另一示例,接口32支持在用户设备12和DSTN模块22之间以及在DST处理单元16和DSTN模块之间的通信链路(例如,有线连接,无线连接,LAN连接和/或与网络24的任何其它类型的连接)。作为又一示例,接口33支持DSTN管理单元18和DST完整性处理单元20中的每一个到网络24的通信链路。
分布式计算系统10可操作以支持分散存储(DS)错误编码的数据存储和检索,以支持对接收数据的分布式任务处理,和/或支持对存储数据的分布式任务处理。通常并且关于DS错误编码数据存储和检索,分布式计算系统10支持三种主要操作:存储管理,数据存储和检索以及数据存储完整性验证。根据这三个主要功能,可以对数据进行编码(例如,利用信息分散算法information dispersal algorithm(IDA),利用分散的存储错误编码流程),分布式地存储在物理上不同的位置,并且随后以可靠和安全的方式检索。此后,分布式存储可以互换地称为分散存储。这样的系统容忍大量的故障(例如,达到故障级别,其可以大于或等于支柱宽度(pillar width)(例如,IDA的IDA宽度)减去解码阈值减去1),其源自各个存储设备(例如,DST执行单元36)故障和/或网络设备故障而不丢失数据并且不需要冗余或备份副本。此外,分布式计算系统10允许数据被无限期地并且以安全的方式存储而没有数据丢失(例如,系统非常抵抗未经授权的访问数据的尝试)。
第二主要功能(即,分布式数据存储和检索)以用户设备12-14开始和结束。例如,如果第二类型的用户设备14具有要存储在DSTN模块22中的数据40,则它发送数据40通过其接口30到达DST处理单元16。接口30用于模仿传统的操作系统(OS)文件系统接口(例如,网络文件系统(NFS)、闪存文件系统(FFS)、磁盘文件系统(DFS)、文件传输协议(FTP),基于web的分布式授权和版本控制(WebDAV)等)和/或块存储器接口(例如,小型计算机系统接口(SCSI)、互联网小型计算机系统接口(iSCSI)、等等)。另外,接口30可以将用户识别码(ID)附加到数据40。
为了支持存储管理,DSTN管理单元18执行DS管理服务。一种这样的DS管理服务包括DSTN管理单元18单独地或作为用户设备组一部分的为用户设备12-14建立分布式数据存储参数(例如,库创建,分布式存储参数,安全参数,计费信息,用户简档信息等)。例如,DSTN管理单元18协调用于用户设备,设备集的DSTN模块22的存储器内的库(例如,与DSN的整个命名空间的一部分相关联的虚拟存储器块)的创建,或者用于公共访问并为库构建按库的分散存储(DS)错误编码参数。DSTN管理单元18可以通过更新分布式计算系统10的注册表信息来促进为多个库的每个库存储DS错误编码参数。该促进包括将更新的系统注册表信息存储在DSTN模块22中,用户设备12、DST处理单元16和DST完整性处理单元20的一个或多个中。
DS错误编码参数(例如,或用于编码和解码的分散存储错误编码参数)包括数据分段信息(例如,分割了多少段数据(例如,文件、文件集、数据块等),分段安全信息(例如,每段加密、压缩、完整性校验和等),错误编码信息(例如,柱/IDA宽度、解码阈值、读阈值、写阈值等),切片信息(例如,将为每个数据段创建的编码数据切片的数量);切片安全信息(例如,每个编码数据切片加密、压缩、完整性校验和等)。
DSTN管理单元18在本地存储器中和/或DSTN模块22的存储器内创建和存储用户简档信息(例如,访问控制列表(ACL))。用户简档信息包括认证信息,许可和/或安全参数。安全参数可以包括加密/解密方案、一个或多个加密密钥、密钥生成方案和/或数据编码/解码方案。
DSTN管理单元18为特定用户,用户集,库访问,公共库访问等创建计费信息。例如,DSTN管理单元18跟踪用户访问非公共库和/或或公共库的次数,可用于生成按访问计费信息。在另一实例中,DSTN管理单元18跟踪由用户设备和/或用户集存储和/或检索的数据量,其可用于生成按数据量的计费信息。
另一DS管理服务包括DSTN管理单元18,其执行网络操作,网络管理和/或网络维护。网络操作包括验证用户数据分配请求(例如,读和/或写请求),管理库的创建,为用户设备建立认证凭证,添加/删除来自分布式计算系统10的组件(例如,用户设备、DST执行单元和/或DST处理),和/或为DST执行单元36建立认证凭证。网络管理包括监视设备和/或单元的故障,维护库信息,确定设备和/或单元激活状态,确定设备和/或单元加载,和/或确定影响系统10的性能水平的任何其它系统级操作。网络维护包括促进更换,升级,修复和/或扩展系统10的设备和/或单元。
为了支持分布式计算系统10内的数据存储完整性验证,DST完整性处理单元20执行“坏”或丢失编码数据切片的重建。概括的,DST完整性处理单元20通过周期性地尝试从DSTN模块22检索/列出编码数据切片,和/或编码数据切片的切片名称来执行重建。对于检索到的编码切片,检查它们由于数据损坏,过期版本等导致的错误。如果切片包含错误,则会将其标记为“坏”切片。对于未接收和/或未列出的编码数据切片,它们被标记为丢失切片。随后使用被认为是良好切片的其它检索的编码数据切片来重建坏的和/或丢失的切片以产生重建的切片。重建的切片存储在DSTN模块22的存储器中。注意,DST完整性处理单元20可以是如图所示的单独单元,它可以包括在DSTN模块22中,它可以包括在DST处理单元16中,和/或分布在DST执行单元36之间。每个切片名称对于相应的编码数据切片是唯一的,并且包括与DSN的整个命名空间相关联的多个字段。例如,字段可以包括支柱编号/支柱索引,库标识符,与用于存储的特定文件唯一关联的对象编号,以及多个数据段的数据段标识符,其中特定文件被划分为多个数据段。例如,对应于已经从公共数据段编码的分散存储错误编码的数据切片集的切片名称集的每个切片名称,仅按照支柱编号字段的条目变化,因为其每个共享公共库标识符,公共对象编号和公共数据段标识符。
为了支持对所接收数据的分布式任务处理,分布式计算系统10具有两个主要操作:DST(分布式存储和/或任务处理)管理和对接收数据的DST执行。关于DST管理的存储部分,DSTN管理单元18如前所述地起作用。关于DST管理的任务处理,DSTN管理单元18执行分布式任务处理(DTP)管理服务。一种这样的DTP管理服务包括DSTN管理单元18单独地或作为用户设备组的一部分为用户设备12-14建立DTP参数(例如,用户库附属信息、计费信息、用户任务信息等)。
另一DTP管理服务包括DSTN管理单元18执行DTP网络操作,网络管理(其基本上与上述相同)和/或网络维护(其基本上与上述相同)。网络操作包括但不限于认证用户任务处理请求(例如,有效请求、有效用户等),认证结果和/或部分结果,为用户设备建立DTP认证凭证,添加/删除来自分布式计算系统的组件(例如,用户设备、DST执行单元和/或DST处理单元),和/或为DST执行单元建立DTP认证凭证。
为了支持对存储数据的分布式任务处理,分布式计算系统10具有两个主要操作:DST(分布式存储和/或任务)管理和对存储数据的DST执行。关于对存储数据的DST执行,如果第二类型用户设备14具有由DSTN模块22执行的任务请求38,则它通过其接口30将任务请求38发送到DST处理单元16。对于DST管理,它基本上类似于DST管理,以支持对接收数据的分布式任务处理。
图2是计算核26的实施例的示意性框图,计算核26包括处理模块50、存储器控制器52、主存储器54、视频图片处理单元55、输入/输出(IO)控制器56、外围设备组件互连(PCI)接口58、IO接口模块60、至少一个IO设备接口模块62、只读存储器(ROM)基本输入输出系统(BIOS)64、以及一个或多个存储器接口模块。一个或多个存储器接口模块包括通用串行总线(USB)接口模块66、机总线适配器(HBA)接口模块68、网络接口模块70、闪存接口模块72、硬盘驱动器接口模块74和DSTN接口模块76中的一个或多个。
DSTN接口模块76用于模仿传统的操作系统(OS)文件系统接口(例如,网络文件系统(NFS)、闪存文件系统(FFS)、磁盘文件系统(DFS)、文件传输协议(FTP)、基于网络的分布式授权和版本控制(WebDAV)等)和/或块存储器接口(例如,小型计算机系统接口(SCSI)、互联网小型计算机系统接口(iSCSI)等)。DSTN接口模块76和/或网络接口模块70可以用作图1的用户设备14的接口30。还要注意,IO设备接口模块62和/或存储器接口模块可以被集体或单独引用作为IO端口。
图3-5是分散存储网络(DSN)的实施例的示意性框图,该DSN包括图1的分布式存储和任务(DST)处理单元16,图1的网络24和DST执行单元集1-n。每个DST执行单元包括图2的处理模块50和存储器88。存储器88可以利用固态存储器,磁盘驱动器存储器,光盘驱动器存储器等中的一个或多个来实现。此后,DST执行单元集可以互换地称为存储单元集。
在DSN内,DST处理单元16分散的存储错误编码数据对象的数据段以产生编码数据切片集,用于存储在DST执行单元集1-n中。随着时间的过去,所述数据对象的数据段可以被编辑或以其它方式修改,并且对于每个编辑或修改时,DST处理单元分散的存储错误编码数据段,以创建编码数据切片集。对于每个版本(例如,原来的或随后的编辑和/或修改)的编码数据切片集,每个版本分享类似的切片名称集,每个版本具有不同的修改级别(例如,修改级别0的初始版本,第一次编辑的修改级别1,等等。
在DSN中,多个用户设备可能试图在基本相同的时间编辑/修改编码数据切片集。在现有DSN中,为了保持将数据写入存储单元的并发性,写操作使用三阶段过程。当用户设备希望写编码数据片集时,无论是原始集还是修改/编辑集,用户都向存储单元发送写请求集。写请求包括编码数据切片之一及其对应的切片名称。在接收到写请求时,存储单元确定是否存在在处理中的对切片名称的另一个写请求(例如,关于来自不同用户设备的编码数据片的另一写请求)。例如,当三阶段写操作未决时,在接收到写请求并验证另一个写请求未挂起之后,存储单元锁定对编码数据片的访问,直到写操作完成。如果未锁定对编码数据切片的访问,则存储单元将其锁定以用于当前写操作,临时存储编码数据切片但不允许访问它,并发送写响应消息,指示存储单元能够处理用户的写请求。
如果用户设备从存储单元获得写阈值数量的有利写响应,则它向存储单元发送可用请求。在接收到可用请求时,存储单元使编码数据切片可用于访问,并向用户设备发送写可用响应。
当用户设备接收到存储单元的写阈值数量的有利写可用响应时,它将向存储单元发送写最终请求。在接收到写最终请求时,存储单元将新存储的编码数据切片的状态更新为编码数据切片的最新版本,释放锁定,并且可以删除编码数据切片的旧版本。
参考图3,当用户设备(例如,DST处理单元或计算设备)具有要存储在存储单元中的编码数据切片集时,它确定这是否是写编码数据切片集的第一实例。计算设备基于以下中的一个或多个进行确定:检测到写操作与新的虚拟存储库相关联,检测到最近已经随机生成与数据相关联的虚拟DSN地址,检测到数据基本上是新数据,检测到存储库基本上是空的中,解释历史访问记录,其指示写新数据的实例远远超过与执行新写操作相关联的重写已有存储数据、预定和模式的实例的数量。
当写操作是写的第一实例时,DST处理单元16经由网络24向存储单元发送写请求集1-n,其中写请求集包括编码数据切片集,切片名称集,以及写编码数据切片集的第一实例的指示。写的第一实例的指示可以包括在每个写请求内的与第一修改相关联的修改级别(例如,0或1)。或者,在每个写请求中省略修改级别指示可以指示写的第一实例。例如,DST处理单元16基于以下中的一个或多个生成切片名称集:数据的属性(例如,数据名称),请求实体的属性(例如,虚拟库从属关系),以及随机生成方法;生成写请求集以包括切片名称集,编码数据切片集(例如,A1-An),以及省略修改级别;并且经由网络24将该写切片请求集发送到DST执行单元集1-n以进行存储。
响应于写请求,存储单元确定它是否正在存储具有相同切片名称的编码数据切片的已有版本。例如,当其没有存储具有该切片名称的编码数据切片的记录时,DST执行单元1的处理模块50指示它不存储编码数据片段的已有版本。作为替代示例,如果其具有存储具有该切片名称的编码数据切片的记录时,DST执行单元1(或存储单元1)的处理模块指示它正在存储编码数据切片的已有版本。
当存储单元当前不存储编码数据切片的已有版本时,存储单元向DST处理单元16发出有利的写响应。有利的写响应指示相应的写切片请求被有利地处理,而没有由于先前存储的编码数据切片的修改的冲突。此外,存储单元使编码数据切片可用于访问。
当DST处理单元16从至少一些存储单元接收到有利的写响应(例如,写阈值)时,DST处理单元16向存储单元发出写提交请求集,以便于后续检索至少一些存储的编码数据切片。收到写提交请求后;存储单元完成写操作。在这种情况下,在三阶段写流程中,在用户设备和存储单元之间存在两次交换,而不是三次交换。
图4说明了存储数据的另一个例子。在该示例中,DST处理单元16确定用于编码数据切片集的写操作是否是写的第一实例。当写操作是第一实例时,DST处理单元16经由网络24向存储单元发送写请求集,其中写请求集包括编码数据切片集,切片名称集,以及写编码数据切片集的第一实例的指示。
在该示例中,DST处理单元16是错误的;它不是写编码数据切片集的第一实例。如图所示,每个DST执行单元1存储编码数据切片的已有版本。例如,DST执行单元1的处理模块50确定它正在存储编码数据切片的两个已有版本(修改1和2)。类似地,DST执行单元2确定它正在存储一个已有版本,并且DST执行单元n确定它还存储两个已有版本。
当这发生时,DST执行单元向DST处理单元16发送冲突响应,指示已经存储了编码数据切片的已有版本。在接收到冲突请求时,DST处理单元16确定写操作不是第一实例。这样,DST处理单元16经由网络向存储单元发出关于编码数据切片集的读请求集。在发出该读请求集之后,DST处理单元16基于来自至少一些存储单元的读响应来确定编码数据切片集的当前修改级别。例如,当DST处理单元16确定至少修改2的编码数据切片的解码阈值数量存储在DST执行单元集中时,DST处理单元16指示当前修改级别是级别2,其中接收的读响应指示存储的编码数据切片的修改级别。
在确定了当前修改级别,所述DST处理单元16发送一个新的写请求集到存储单元,其中写请求集包括编码数据切片集,切片名称集,以及下一个编码数据切片集的修改级别。例如,DST处理单元16基于当前修改级别2将下一修改级别确定为级别3,并且在写请求集中包括级别3的下一修改级别。当已经接收到写阈值数量的有利写响应时,DST处理单元16向存储单元发送可用请求集,以使得随后能够恢复编码数据切片集。
这样,当写编码数据切片集是第一实例,图3的流程是使用两次交换。如果,事实证明它不是第一实例,则使用三次交换实现图4的流程。
图5还示出了存储数据的另一个例子,其中DST处理单元16在接收冲突消息时,基于冲突消息更新写请求集。更新写请求集包括DST处理单元16基于来自一个或多个存储单元(例如,修改2)的冲突消息确定编码数据切片集的当前修改级别,更新写请求集以包括编码数据切片集的下一修改级别(例如,修改级别3),并将更新的写请求集发送到存储单元,其中更新的写请求集包括编码数据切片集,切片名称集,以及编码数据切片集的下一个修改级别。例如,DST处理单元16发送,经由网络24,对DST执行单元集1-n的更新的写请求集,其中更新的写请求集包括修改级别3。
或者,当写操作是写编码数据切片集的第一实例,并且DST处理单元16从至少一些存储单元接收有利的写响应时,并且当已经接收到写阈值数量的有利的写响应时,DST处理单元16向存储单元发送写提交请求集。
图6示出了存储数据的一个例子的流程图。特别地,提出了一种方法,用于结合图1-2、3-5和图6描述的一个或多个功能和特征。该方法开始于步骤200,其中分散存储网络(DSN)的一个或多个计算设备的计算设备,对关于将要写入DSN的存储单元的编码数据切片集的写操作,确定写操作是否是写编码切片集的第一实例,其中数据对象的数据段作为分散存储错误被编码到编码数据切片集中。该确定可以基于以下中的一个或多个:检测到写操作与新虚拟存储库相关联,检测到最近已经随机生成与数据对象相关联的虚拟DSN地址,检测到数据对象基本上是新数据,检测到存储库基本上是空的,解释历史访问记录以指示写新数据的实例远远超过与执行新写操作相关联的重写已有存储数据、预定和模式的实例的数量。当计算设备确定写操作不是写的第一实例时,该方法分支到步骤210。当计算设备确定写操作是写的第一实例时,该方法继续到步骤202。
当该写操作是写编码数据切片集的第一实例,该方法继续到步骤202,其中计算设备发送写请求集到存储单元,其中写请求集包括编码数据切片集、切片名称集、以及写编码数据切片集的第一实例的指示。写编码数据切片集的第一实例的指示包括:在写请求集的每个写请求内,提供零修改级别,在写请求集的每个写请求内,省略修改级别指示。
响应于写请求集的写请求,则该方法在步骤204继续,其中在存储单元集中的存储单元确定编码数据切片集的编码数据切片的已有版本是否当前存储在存储单元中。响应于写请求集的另一个写请求,该存储单元集中的另一个存储单元确定编码数据切片集的另一个编码数据切片的已有版本当前是否存储在另一个存储单元中。
当编码数据切片集的编码数据切片的已有版本当前存储在所述存储单元中,该方法在步骤206继续,其中所述存储单元发送冲突消息到所述计算装置。当另一个编码数据切片由另一个存储单元存储时,另一个存储单元发送另一个冲突消息,指示另一个存储单元正在存储另一个编码数据切片的已有版本。
该方法继续到步骤208,其中所述计算设备,基于所述冲突消息,更新写请求集。更新包括计算设备基于来自一个或多个存储单元的冲突消息,确定编码数据切片集的当前修改级别,更新写请求集以包括编码数据切片集的下一修改级别,并将更新的写请求集发送到存储单元,其中更新的写请求集包括编码数据切片集,切片名称集和编码数据切片集的下一修改级别。
可选地,当写操作是写编码数据切片的第一实例时,计算设备从至少一些存储单元,接收有利写响应,并且当已经接收到写阈值数量的有利的写响应时,计算设备向存储单元发送写提交请求集。
当写操作不是写编码数据切片集的第一实例时,该方法在步骤210继续,其中计算设备向存储单元发送关于编码数据切片集的读请求集。该方法在步骤212继续,其中计算设备基于来自至少一些存储单元的读响应(例如,下一修改级别)来确定编码数据切片集的当前修改级别。该方法在步骤214继续,其中计算设备将写请求集发送到存储单元,其中写请求集包括编码数据切片集,切片名称集以及编码数据切片的下一个修改级别。当已经接收到写阈值数量的有利写响应时,该方法在步骤216继续,其中计算设备向存储单元发送写提交请求集。
与所述计算装置和所述存储单元结合的上述的方法可以可选地由分散存储网络的其它模块或由其它设备执行。例如,计算设备和存储单元的第一模块,第二模块,第三模块,第四模块等的任何组合可以执行上述方法。此外,非易失性计算机可读的存储操作指令的至少一个存储器部分(例如,第一存储器部分,第二存储器部分,第三存储器部分,第四存储器部分,第五存储器部分,第六存储器部分等)可以,当由一个或多个计算设备的一个或多个处理模块和/或由分散存储网络(DSN)的存储单元执行时,导致计算设备和/或存储单元中的一个或多个执行上述方法中的任何步骤。
图7示出存储数据的另一示例的流程图。特别地,提出了一种方法,用于结合图1-2、3-5和图7描述的一个或多个功能和特征。该方法开始于步骤230,其中分散存储网络(DSN)的一个或多个计算设备的计算设备的处理模块,用于对关于将要写入DSN的存储单元的编码数据切片集的写操作,确定写操作是否是写编码数据切片集的第一实例。其中数据对象的数据段作为分散存储错误被编码到编码数据切片集合中。当写操作不是写编码数据切片集的第一实例时,该方法分支到步骤240。当写操作是第一实例时,该方法继续到步骤232。
当该写操作是写编码数据切片集的第一实例,该方法继续到步骤232,其中处理模块发送写请求集到存储单元,其中写请求集包括编码数据切片集,切片名称集,以及写编码数据切片集的第一实例的指示。该方法在步骤234继续,其中处理模块从至少一些存储单元接收关于写请求集的响应。当没有响应包括冲突消息时,该方法分支到步骤238。当至少一个响应包括冲突消息时,该方法到步骤236继续。
当多个响应的响应是冲突消息时,该方法在步骤236继续,其中处理模块基于冲突消息更新写请求集,其中冲突消息指示编码数据切片集的至少一个编码数据切片的已有版本存储在存储单元集的存储单元存储中。更新写请求集包括基于来自一个或多个存储单元的冲突消息处理模块确定编码数据切片集的当前修改级别,更新写请求集以包括编码数据切片集的下一修改级别,并向存储单元发送更新的写请求集,其中更新的写请求集包括编码数据切片集、切片名称集,和编码数据切片集的下一修改级别。当没有响应包括冲突消息并且当写阈值数量的响应是有利的写响应时,该方法在步骤238继续,其中处理模块向存储单元发送写提交请求集。
当该写操作不是写编码数据切片集的第一实例时,该方法在步骤240继续,其中该处理模块向存储单元发送关于编码数据切片集的读请求集。或者,处理模块向存储单元发送关于编码数据切片集的切片名称的列表请求集。该方法在步骤242继续,其中处理模块基于来自至少一些存储单元的读响应(例如,或者替代地,来自列表响应)来确定编码数据切片集的当前修改级别。
该方法继续在步骤244继续,其中处理模块发送写请求集到存储单元,其中写请求集包括编码数据切片集,切片名称名字集,和编码数据切片集的下一修改级别。当已经接收到写阈值数量的有利写响应时,该方法在步骤246继续,其中处理模块向存储单元发送写提交请求集。
结合处理模块,上述方法可以替代地通过在分散存储网络的其它模块或通过其它设备来执行。例如,处理模块的第一模块,第二模块,第三模块,第四模块等的任何组合执行上述方法。此外,至少一个存储器部分(例如,非易失性计算机可读存储介质和/或计算机可读存储设备的第一存储器部分,第二存储器部分,第三存储器部分,第四存储器部分,第五存储器部分,第六存储器部分等)存储操作指令,当由分散存储网络(DSN)的一个或多个处理模块执行时,可以使一个或多个计算设备执行上述方法步骤的任意一个和全部。
如本文可能使用的,术语“基本上”和“大致”为其对应的术语和/或项目之间的相对性提供了行业可接受的容差。这种业界可接受的容差范围从小于百分之一到百分之五十,并且对应于但不限于元件值,集成电路工艺变化,温度变化,上升和下降时间和/或热噪声。项目之间的这种相关性的范围从几个百分点的差异到数量级差异。如本文中还可以使用的,术语“可操作地耦合到”,“耦合到”和/或“耦合”包括项目之间的直接耦合和/或项目之间通过中间项目(例如,项目,包括但不限于组件,元件,电路和/或模块)的间接耦合。其中,对于间接耦合,中间项不会修改信号的信息,但可以调整其当前电平,电压电平和/或功率电平。如本文中可进一步使用的,推断的耦合(即,其中一个元件通过推断耦合到另一个元件)包括以与“耦合到”相同的方式在两个项目之间的直接和间接耦合。如本文中甚至可以进一步使用的,术语“可操作地”或“可操作地耦合到”指示项目包括以下中的一个或多个:电源连接,输入,输出等,以在激活时执行一个或多个其相应的功能,并且还可以包括推断的耦合到一个或多个其它项目。如本文中还可进一步使用的,术语“与......相关联”包括分开的项目的直接和/或间接耦合和/或一个项目嵌入在另一项目中。如本文可能使用的,术语“有利地比较”表示两个或更多个项目、信号等之间的比较提供了期望的关系。例如,当期望的关系是信号1具有比信号2更大的幅度时,当信号1的幅度大于信号2的幅度或者当信号2的幅度小于信号1的幅度时,可以实现有利的比较。
如本文还可使用的,术语“处理模块”,“处理电路”和/或“处理单元”可以是单个处理设备或多个处理设备。这种处理装置可以是微处理器,微控制器,数字信号处理器,微机,中央处理单元,现场可编程门阵列,可编程逻辑设备,状态机,逻辑电路,模拟电路,数字电路和/或基于电路和/或操作指令的硬编码来操纵信号(模拟和/或数字)的任何设备。处理模块,模块,处理电路和/或处理单元可以是或者进一步包括存储器和/或集成存储器元件,其可以是单个存储器设备,多个存储器设备和/或另一处理模块,模块,处理电路和/或处理单元的嵌入式电路。这样的存储器设备可以是只读存储器,随机存取存储器,易失性存储器,非易失性存储器,静态存储器,动态存储器,闪存,高速缓冲存储器和/或存储数字信息的任何设备。注意,如果是处理模块,模块,处理电路,和/或处理单元包括一个以上的处理设备,处理设备可以中心的位于(例如,经由有线和/或无线总线结构直接耦合在一起)或者可以分布式的位于(例如,通过局域网和/或广域网间接耦合的云计算)。进一步注意,如果处理模块,模块,处理电路和/或处理单元经由状态机,模拟电路,数字电路和/或逻辑电路实现其一个或多个功能,则存储器和/或存储器元件存储相应的操作指令可以嵌入在包括状态机,模拟电路,数字电路和/或逻辑电路的电路内或外部。还要注意,存储元件可以存储,处理模块,模块,处理电路和/或处理单元执行与一个或多个图中所示的至少一些步骤和/或功能相对应的硬编码和/或操作指令。这种存储器件或存储元件可以包括在制品中。
上述本发明的描述借助方法步骤示例指定的功能及其关系的性能。为了便于描述,这里任意定义了这些功能构建块和方法步骤的边界和顺序。只要适当地执行指定的函数和关系,就可以定义替代边界和序列。因此,任何这样的替代边界或序列都在要求保护的本发明的范围内。此外,为了便于描述,这些功能构建块的边界已被任意定义。只要适当地执行某些重要功能,就可以定义替代边界。类似地,流程图块可能被任意定义以说明某些重要功能。在使用的范围内,流程图块边界和序列可以另外定义,并且仍然执行某些重要功能。因此,功能构建块和流程图块和序列的这种替代定义在要求保护的本发明的范围内。本领域普通技术人员还将认识到,本文中的功能构建块和其它说明性块,模块和组件可以如图所示实现,或者由分立组件,专用集成电路,执行适当软件的处理器等,或其集合,实现。
还可以至少部分地根据一个或多个实施例描述本发明。这里使用本发明的实施例来说明本发明,其一个方面,其特征,概念和/或其示例。体现本发明的装置,制品,机器和/或过程的物理实施例可包括参考一个或多个所讨论的实施例描述的特征,概念,示例等的一个或多个方面。此外,从图到图,实施例可以包含相同或类似命名的功能,步骤,模块等,其可以使用相同或不同的附图标记,并且因此,功能,步骤,模块等可以是相同或相似的或不同的功能,步骤,模块等。
除非特别声明相反,在任何多个附图中的附图所呈现的到/从,和/或之间的信号,可以是模拟的或数字的,连续时间或离散时间的,以及单端或差分。例如,如果信号路径显示为单端路径,则它还表示差分信号路径。类似地,如果信号路径显示为差分路径,则它还表示单端信号路径。虽然本文描述了一个或多个特定体系结构,但是同样可以实现其它体系结构,其使用本领域普通技术人员认识到的未明确示出的一个或多个数据总线,元件之间的直接连接,和/或其它元件之间的间接耦合。
该术语“模块”在本发明的各种实施例的描述中使用。模块包括处理模块,功能块,硬件和/或存储在存储器上的软件,用于执行如本文所述的一个或多个功能。注意,如果模块是通过硬件实现的,则硬件可以独立操作和/或与软件和/或固件一起操作。如这里所使用的,模块可以包含一个或多个子模块,每个子模块可以是一个或多个模块。
尽管已经在本文中明确描述的各种功能和本发明的特征的特定集合,但是这些特征和功能的其它集合也是可能的。本发明不受本文公开的具体实施例的限制,并且明确地包含这些其它集合。
Claims (18)
1.一种用于关于将要写入分散存储网络(DSN)的多个存储单元的编码数据切片集的写操作的方法,所述方法包括:
由计算设备,确定写操作是否是写编码数据切片集的第一实例,其中数据对象的数据段作为分散存储错误被编码到编码数据切片集中;
当写操作是写编码数据切片集的第一实例时,由计算设备,向多个存储单元发送写请求集,其中写请求集包括编码数据切片集,切片名称集,以及写编码数据切片集的第一实例的指示;
响应于多个写请求集的写请求,由多个存储单元的存储单元,确定编码数据切片集的编码数据切片的已有版本是否当前存储在存储单元中;
当编码数据切片集的编码数据切片的已有版本当前存储在存储单元中,由存储单元,向计算设备发送冲突消息;和
由计算设备,基于冲突消息更新写请求集。
2.根据权利要求1所述的方法,其中写编码数据切片集的第一实例的指示包括以下之一:
在写请求集的每个写请求内,提供零修改级别;和
在写请求集的每个写请求中,省略修改级别指示。
3.根据前述权利要求之一所述的方法,进一步包括:
当写操作不是写编码数据切片集的第一实例时:
由计算设备,向多个存储单元发送关于编码数据切片集的读请求集;
由计算设备,基于来自多个存储单元的至少一些的读响应,确定编码数据切片集的当前修改级别;
由计算设备,向多个存储单元发送写请求集,其中写请求集包括编码数据切片集,切片名称集,以及编码数据切片集的下一修改级别;和
当已经接收到写阈值数量的有利写响应时,由计算设备,向多个存储单元发送写提交请求集。
4.根据前述权利要求中任意一个所述的方法,进一步包括:
当写操作是写编码数据切片集的第一实例时:
从多个存储单元的至少一些接收有利的写响应;和
当已经接收到写阈值数量的有利写响应时,由计算设备,向多个存储单元发送写提交请求集。
5.根据前述权利要求中任意一个所述的方法,其中更新写请求集包括:
由计算设备,基于来自多个存储单元的一个或多个的冲突消息,确定编码数据切片集的当前修改级别;
由计算设备,更新写请求集以包括编码数据切片集的下一修改级别;和
由计算设备,向多个存储单元发送更新的写请求集,其中更新的写请求集包括编码数据切片集,切片名称集和编码数据切片集的下一修改级别。
6.根据前述权利要求中任意一个所述的方法,进一步包括:
响应于写请求集的另一个写请求,由多个存储单元的另一个存储单元,确定编码数据切片集的另一个编码数据切片的已有版本当前是否存储在另一个存储单元中;和
当另一个编码数据切片存储在另一个存储单元中时,由另一个存储单元,发送另一个冲突消息,指示另一个存储单元正在存储另一个编码数据切片的已有版本。
7.一种用于分散存储网络(DSN)计算设备的方法,该方法包括:
对关于将要写入DSN的多个存储单元的编码数据切片集的写操作,确定写操作是否是写编码数据切片集的第一实例,其中数据对象的数据段作为分散存储错误被编码到编码数据切片集中;
当写操作是写编码数据切片集的第一实例时,向多个存储单元发送写请求集,其中写请求集包括编码数据切片集,切片名称集,以及写编码数据切片集的第一实例;
接收来自至少一些存储单元的关于写请求集的多个响应;
当多个响应的响应是冲突消息时,基于冲突消息,更新写请求集,其中冲突消息指示编码数据切片集的至少一个编码数据切片的已有版本被存储在多个存储单元的存储单元中;和
当写阈值数量的响应是有利的写响应时,向多个存储单元发送写提交请求集。
8.如权利要求7所述的方法,其中更新写请求集包括:
基于来自多个存储单元的一个或多个的冲突消息确定编码数据切片集的当前修改级别;
更新写请求集以包括编码数据切片集的下一修改级别;和
向多个存储单元发送更新的写请求集,其中更新的写请求集包括编码数据切片集,切片名称集和编码数据切片集的下一修改级别。
9.如权利要求7或8中任意一个所述的方法,其中写编码数据切片集的第一实例的指示包括以下之一:
在写请求集的每个写请求内,提供零修改级别;和
在写请求集的每个写请求中,省略修改级别指示。
10.如权利要求7至9中任意一个的方法,进一步包括:
当写操作不是写编码数据切片集的第一实例时:
向多个存储单元发送关于编码数据切片集的读请求集;
基于来自多个存储单元的至少一些的读响应,确定编码数据切片集的当前修改级别;
向多个存储单元发送写请求集,其中写请求集包括编码数据切片集,切片名称集,以及编码数据切片集的下一修改级别;和
当已经接收到写阈值数量的有利写响应时,向多个存储单元发送写提交请求集。
11.存储系统,包括:
第一模块,当在分散存储网络(DSN)的计算设备内操作时,使计算设备:
对于关于将要写入DSN的多个存储单元的编码数据切片集的写操作,确定写操作是否是写编码数据切片集的第一实例,其中数据对象的数据段作为分散存储错误被编码到编码数据切片集中;
当写操作是写编码数据切片集的第一实例时,向多个存储单元发送写请求集,其中写请求集包括编码数据切片集,切片名称集,以及写编码数据切片集的第一实例的指示;
第二模块,当在多个存储单元的存储单元内操作时,使存储单元:
响应于写请求集的写请求,确定编码数据切片集的编码数据切片的已有版本当前是否存储在存储单元中;和
当编码数据切片集的编码数据切片的已有版本当前存储在存储单元中时,向计算设备发送冲突消息;和
第三模块,当在计算设备内操作时,使计算设备:
基于冲突消息更新写请求集。
12.如权利要求11所述的存储系统,其中写编码数据切片集的第一实例的指示包括以下之一:
在写请求集的每个写请求内,提供零修改级别;和
在写请求集的每个写请求中,省略修改级别指示。
13.如权利要求11或12所述的存储系统,进一步包括:
第四模块,当在计算设备内操作时,使计算设备:
当写操作不是写编码数据切片集的第一实例时:
向多个存储单元发送关于编码数据切片集的读请求集;
基于来自多个存储单元的至少一些的读响应,确定编码数据切片集的当前修改级别;
向多个存储单元发送写请求集,其中写请求集包括编码数据切片集,切片名称集,以及编码数据切片集的下一修改级别;和
当已经接收到写阈值数量的有利写响应时,向多个存储单元发送写提交请求集。
14.根据权利要求11到13中任一个所述的存储系统,其中第一模块,当在计算设备内操作时,进一步使计算设备:
当写操作是写编码数据切片集的第一实例时:
从多个存储单元的至少一些接收有利的写响应;和
当已经接收到写阈值数量的有利写响应时,
向多个存储单元发送写提交请求集。
15.根据权利要求11至14中任意一项所述的存储系统,其中第一模块,当在计算设备内操作时,还使计算设备通过以下方式更新写请求集:
基于来自多个存储单元的一个或多个的冲突消息,确定编码数据切片集的当前修改级别;
更新写请求集以包括编码数据切片集的下一修改级别;和
向多个存储单元发送更新的写请求集,其中更新的写请求集包括编码数据切片集,切片名称集和编码数据切片集的下一修改级。
16.如权利要求11至15中任意一个所述的存储系统,进一步包括:
第四模块,当在多个存储单元的另一个存储单元内操作时,使另一个存储单元:
响应于写请求集的另一个写请求,确定编码数据切片集的另一个编码数据切片的已有版本当前是否存储在另一个存储单元中;和
当另一个编码数据切片存储在另一个存储单元存储中时,发送另一个冲突消息,指示另一个存储单元正在存储另一个编码数据切片的已有版本。
17.一种用于关于将要被写入分散存储网络(DSN)的多个存储单元的编码数据切片集的写操作的计算机程序产品,所述计算机程序产品包括:
计算机可读存储介质,其可由处理电路读并存储用于由处理电路执行的指令,用于执行根据权利要求1至10中任意一项所述的方法。
18.一种存储在计算机可读介质上并可加载到数字计算机的内部存储器中的计算机程序,包括软件代码部分,当所述程序在计算机上运行时,用于执行权利要求1到10中任意一项的方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/142,297 | 2016-04-29 | ||
US15/142,297 US10628399B2 (en) | 2016-04-29 | 2016-04-29 | Storing data in a dispersed storage network with consistency |
PCT/IB2017/050949 WO2017187280A1 (en) | 2016-04-29 | 2017-02-20 | Storing data in dispersed storage network with consistency |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109154880A true CN109154880A (zh) | 2019-01-04 |
CN109154880B CN109154880B (zh) | 2021-08-13 |
Family
ID=60158450
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780026336.7A Active CN109154880B (zh) | 2016-04-29 | 2017-02-20 | 在分散存储网络中一致的存储数据 |
Country Status (6)
Country | Link |
---|---|
US (1) | US10628399B2 (zh) |
JP (1) | JP6931005B2 (zh) |
CN (1) | CN109154880B (zh) |
DE (1) | DE112017000530T5 (zh) |
GB (1) | GB2565932B (zh) |
WO (1) | WO2017187280A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112748867A (zh) * | 2019-10-31 | 2021-05-04 | 伊姆西Ip控股有限责任公司 | 用于存储管理的方法、电子设备以及计算机程序产品 |
CN113661490A (zh) * | 2019-04-29 | 2021-11-16 | 国际商业机器公司 | 基于通过分发混淆的安全数据存储 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110071988A1 (en) * | 2007-10-09 | 2011-03-24 | Cleversafe, Inc. | Data revision synchronization in a dispersed storage network |
CN103297448A (zh) * | 2012-02-24 | 2013-09-11 | 华为技术有限公司 | 私有云存储的融合方法及系统 |
US20130283094A1 (en) * | 2010-04-26 | 2013-10-24 | Cleversafe, Inc. | Indicating an error within a dispersed storage network |
US20140075112A1 (en) * | 2012-09-13 | 2014-03-13 | Cleversafe, Inc. | Writing data avoiding write conflicts in a dispersed storage network |
US20140325305A1 (en) * | 2009-12-29 | 2014-10-30 | Cleversafe, Inc. | Cache for file-based dispersed storage |
CN104866435A (zh) * | 2015-06-06 | 2015-08-26 | 成都云祺科技有限公司 | 一种连续数据保护方法 |
US20150319244A1 (en) * | 2014-04-30 | 2015-11-05 | Cleversafe, Inc. | Retrieving multi-generational stored data in a dispersed storage network |
Family Cites Families (87)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4092732A (en) | 1977-05-31 | 1978-05-30 | International Business Machines Corporation | System for recovering data stored in failed memory unit |
US5485474A (en) | 1988-02-25 | 1996-01-16 | The President And Fellows Of Harvard College | Scheme for information dispersal and reconstruction |
US5454101A (en) | 1992-09-15 | 1995-09-26 | Universal Firmware Industries, Ltd. | Data storage system with set lists which contain elements associated with parents for defining a logical hierarchy and general record pointers identifying specific data sets |
US5987622A (en) | 1993-12-10 | 1999-11-16 | Tm Patents, Lp | Parallel computer system including parallel storage subsystem including facility for correction of data in the event of failure of a storage device in parallel storage subsystem |
US6175571B1 (en) | 1994-07-22 | 2001-01-16 | Network Peripherals, Inc. | Distributed memory switching hub |
US5848230A (en) | 1995-05-25 | 1998-12-08 | Tandem Computers Incorporated | Continuously available computer memory systems |
US5774643A (en) | 1995-10-13 | 1998-06-30 | Digital Equipment Corporation | Enhanced raid write hole protection and recovery |
US5809285A (en) | 1995-12-21 | 1998-09-15 | Compaq Computer Corporation | Computer system having a virtual drive array controller |
US6012159A (en) | 1996-01-17 | 2000-01-04 | Kencast, Inc. | Method and system for error-free data transfer |
US5802364A (en) | 1996-04-15 | 1998-09-01 | Sun Microsystems, Inc. | Metadevice driver rename/exchange technique for a computer system incorporating a plurality of independent device drivers |
US5890156A (en) | 1996-05-02 | 1999-03-30 | Alcatel Usa, Inc. | Distributed redundant database |
US6058454A (en) | 1997-06-09 | 2000-05-02 | International Business Machines Corporation | Method and system for automatically configuring redundant arrays of disk memory devices |
US6088330A (en) | 1997-09-09 | 2000-07-11 | Bruck; Joshua | Reliable array of distributed computing nodes |
US5991414A (en) | 1997-09-12 | 1999-11-23 | International Business Machines Corporation | Method and apparatus for the secure distributed storage and retrieval of information |
US6272658B1 (en) | 1997-10-27 | 2001-08-07 | Kencast, Inc. | Method and system for reliable broadcasting of data files and streams |
JPH11161505A (ja) | 1997-12-01 | 1999-06-18 | Matsushita Electric Ind Co Ltd | メディア送出装置 |
JPH11167443A (ja) | 1997-12-02 | 1999-06-22 | Casio Comput Co Ltd | インターフェイス装置 |
US6415373B1 (en) | 1997-12-24 | 2002-07-02 | Avid Technology, Inc. | Computer system and process for transferring multiple high bandwidth streams of data between multiple storage units and multiple applications in a scalable and reliable manner |
US6374336B1 (en) | 1997-12-24 | 2002-04-16 | Avid Technology, Inc. | Computer system and process for transferring multiple high bandwidth streams of data between multiple storage units and multiple applications in a scalable and reliable manner |
CA2341014A1 (en) | 1998-08-19 | 2000-03-02 | Alexander Roger Deas | A system and method for defining transforms of memory device addresses |
US6356949B1 (en) | 1999-01-29 | 2002-03-12 | Intermec Ip Corp. | Automatic data collection device that receives data output instruction from data consumer |
US6609223B1 (en) | 1999-04-06 | 2003-08-19 | Kencast, Inc. | Method for packet-level fec encoding, in which on a source packet-by-source packet basis, the error correction contributions of a source packet to a plurality of wildcard packets are computed, and the source packet is transmitted thereafter |
US6571282B1 (en) | 1999-08-31 | 2003-05-27 | Accenture Llp | Block-based communication in a communication services patterns environment |
US6826711B2 (en) | 2000-02-18 | 2004-11-30 | Avamar Technologies, Inc. | System and method for data protection with multidimensional parity |
US6718361B1 (en) | 2000-04-07 | 2004-04-06 | Network Appliance Inc. | Method and apparatus for reliable and scalable distribution of data files in distributed networks |
US7272613B2 (en) | 2000-10-26 | 2007-09-18 | Intel Corporation | Method and system for managing distributed content and related metadata |
US7146644B2 (en) | 2000-11-13 | 2006-12-05 | Digital Doors, Inc. | Data security system and method responsive to electronic attacks |
US7103915B2 (en) | 2000-11-13 | 2006-09-05 | Digital Doors, Inc. | Data security system and method |
US8176563B2 (en) | 2000-11-13 | 2012-05-08 | DigitalDoors, Inc. | Data security system and method with editor |
US7140044B2 (en) | 2000-11-13 | 2006-11-21 | Digital Doors, Inc. | Data security system and method for separation of user communities |
GB2369206B (en) | 2000-11-18 | 2004-11-03 | Ibm | Method for rebuilding meta-data in a data storage system and a data storage system |
US6785783B2 (en) | 2000-11-30 | 2004-08-31 | International Business Machines Corporation | NUMA system with redundant main memory architecture |
US7080101B1 (en) | 2000-12-01 | 2006-07-18 | Ncr Corp. | Method and apparatus for partitioning data for storage in a database |
US20020080888A1 (en) | 2000-12-22 | 2002-06-27 | Li Shu | Message splitting and spatially diversified message routing for increasing transmission assurance and data security over distributed networks |
US6857059B2 (en) | 2001-01-11 | 2005-02-15 | Yottayotta, Inc. | Storage virtualization system and methods |
US20020156973A1 (en) | 2001-01-29 | 2002-10-24 | Ulrich Thomas R. | Enhanced disk array |
US20030037261A1 (en) | 2001-03-26 | 2003-02-20 | Ilumin Corporation | Secured content delivery system and method |
US6879596B1 (en) | 2001-04-11 | 2005-04-12 | Applied Micro Circuits Corporation | System and method for systolic array sorting of information segments |
US7024609B2 (en) | 2001-04-20 | 2006-04-04 | Kencast, Inc. | System for protecting the transmission of live data streams, and upon reception, for reconstructing the live data streams and recording them into files |
GB2377049A (en) | 2001-06-30 | 2002-12-31 | Hewlett Packard Co | Billing for utilisation of a data storage array |
US6944785B2 (en) | 2001-07-23 | 2005-09-13 | Network Appliance, Inc. | High-availability cluster virtual server system |
US7636724B2 (en) | 2001-08-31 | 2009-12-22 | Peerify Technologies LLC | Data storage system and method by shredding and deshredding |
US7024451B2 (en) | 2001-11-05 | 2006-04-04 | Hewlett-Packard Development Company, L.P. | System and method for maintaining consistent independent server-side state among collaborating servers |
US7003688B1 (en) | 2001-11-15 | 2006-02-21 | Xiotech Corporation | System and method for a reserved memory area shared by all redundant storage controllers |
US7171493B2 (en) | 2001-12-19 | 2007-01-30 | The Charles Stark Draper Laboratory | Camouflage of network traffic to resist attack |
EP1547252A4 (en) | 2002-07-29 | 2011-04-20 | Robert Halford | MULTIDIMENSIONAL DATA PROTECTION AND MIRRORING METHOD FOR MICROBIAL DATA |
US7051155B2 (en) | 2002-08-05 | 2006-05-23 | Sun Microsystems, Inc. | Method and system for striping data to accommodate integrity metadata |
US20040122917A1 (en) | 2002-12-18 | 2004-06-24 | Menon Jaishankar Moothedath | Distributed storage system for data-sharing among client computers running defferent operating system types |
JP2006526204A (ja) | 2003-03-13 | 2006-11-16 | ディーアールエム テクノロジーズ、エルエルシー | セキュアストリーミングコンテナ |
US7185144B2 (en) | 2003-11-24 | 2007-02-27 | Network Appliance, Inc. | Semi-static distribution technique |
GB0308262D0 (en) | 2003-04-10 | 2003-05-14 | Ibm | Recovery from failures within data processing systems |
GB0308264D0 (en) | 2003-04-10 | 2003-05-14 | Ibm | Recovery from failures within data processing systems |
US7415115B2 (en) | 2003-05-14 | 2008-08-19 | Broadcom Corporation | Method and system for disaster recovery of data from a storage device |
CN101566931B (zh) | 2003-08-14 | 2011-05-18 | 克姆佩棱特科技公司 | 虚拟磁盘驱动系统和方法 |
US7899059B2 (en) | 2003-11-12 | 2011-03-01 | Agere Systems Inc. | Media delivery using quality of service differentiation within a media stream |
US8332483B2 (en) | 2003-12-15 | 2012-12-11 | International Business Machines Corporation | Apparatus, system, and method for autonomic control of grid system resources |
US7206899B2 (en) | 2003-12-29 | 2007-04-17 | Intel Corporation | Method, system, and program for managing data transfer and construction |
US7222133B1 (en) | 2004-02-05 | 2007-05-22 | Unisys Corporation | Method for reducing database recovery time |
US7240236B2 (en) | 2004-03-23 | 2007-07-03 | Archivas, Inc. | Fixed content distributed data storage using permutation ring encoding |
US7231578B2 (en) | 2004-04-02 | 2007-06-12 | Hitachi Global Storage Technologies Netherlands B.V. | Techniques for detecting and correcting errors using multiple interleave erasure pointers |
JP4446839B2 (ja) | 2004-08-30 | 2010-04-07 | 株式会社日立製作所 | ストレージ装置及びストレージ管理装置 |
US7680771B2 (en) | 2004-12-20 | 2010-03-16 | International Business Machines Corporation | Apparatus, system, and method for database provisioning |
US7386758B2 (en) | 2005-01-13 | 2008-06-10 | Hitachi, Ltd. | Method and apparatus for reconstructing data in object-based storage arrays |
US7672930B2 (en) | 2005-04-05 | 2010-03-02 | Wal-Mart Stores, Inc. | System and methods for facilitating a linear grid database with data organization by dimension |
US8171101B2 (en) | 2005-09-30 | 2012-05-01 | Cleversafe, Inc. | Smart access to a dispersed data storage network |
US7953937B2 (en) | 2005-09-30 | 2011-05-31 | Cleversafe, Inc. | Systems, methods, and apparatus for subdividing data for storage in a dispersed data storage grid |
US8285878B2 (en) | 2007-10-09 | 2012-10-09 | Cleversafe, Inc. | Block based access to a dispersed data storage network |
US7574570B2 (en) | 2005-09-30 | 2009-08-11 | Cleversafe Inc | Billing system for information dispersal system |
US7546427B2 (en) | 2005-09-30 | 2009-06-09 | Cleversafe, Inc. | System for rebuilding dispersed data |
US7904475B2 (en) | 2007-10-09 | 2011-03-08 | Cleversafe, Inc. | Virtualized data storage vaults on a dispersed data storage network |
US8595435B2 (en) | 2009-07-30 | 2013-11-26 | Cleversafe, Inc. | Dispersed storage write process |
US7574579B2 (en) | 2005-09-30 | 2009-08-11 | Cleversafe, Inc. | Metadata management system for an information dispersed storage system |
US20070214285A1 (en) | 2006-03-08 | 2007-09-13 | Omneon Video Networks | Gateway server |
US8549351B2 (en) | 2007-10-09 | 2013-10-01 | Cleversafe, Inc. | Pessimistic data reading in a dispersed storage network |
US8572429B2 (en) | 2007-10-09 | 2013-10-29 | Cleversafe, Inc. | Optimistic data writing in a dispersed storage network |
US9898373B2 (en) | 2010-04-26 | 2018-02-20 | International Business Machines Corporation | Prioritizing rebuilding of stored data in a dispersed storage network |
US8625635B2 (en) | 2010-04-26 | 2014-01-07 | Cleversafe, Inc. | Dispersed storage network frame protocol header |
US9231768B2 (en) | 2010-06-22 | 2016-01-05 | International Business Machines Corporation | Utilizing a deterministic all or nothing transformation in a dispersed storage network |
US9794337B2 (en) | 2012-10-30 | 2017-10-17 | International Business Machines Corporation | Balancing storage node utilization of a dispersed storage network |
US9521197B2 (en) | 2012-12-05 | 2016-12-13 | International Business Machines Corporation | Utilizing data object storage tracking in a dispersed storage network |
CN103067471B (zh) | 2012-12-24 | 2019-01-11 | 北京华科力扬科技有限公司 | 一种分布式存储的数据获取方法 |
US9274908B2 (en) | 2013-02-26 | 2016-03-01 | International Business Machines Corporation | Resolving write conflicts in a dispersed storage network |
US9652470B2 (en) | 2013-07-01 | 2017-05-16 | International Business Machines Corporation | Storing data in a dispersed storage network |
US9594639B2 (en) | 2014-01-06 | 2017-03-14 | International Business Machines Corporation | Configuring storage resources of a dispersed storage network |
US9778987B2 (en) | 2014-01-31 | 2017-10-03 | International Business Machines Corporation | Writing encoded data slices in a dispersed storage network |
US9690520B2 (en) | 2014-06-30 | 2017-06-27 | International Business Machines Corporation | Recovering an encoded data slice in a dispersed storage network |
US10069915B2 (en) | 2015-02-27 | 2018-09-04 | International Business Machines Corporation | Storing data in a dispersed storage network |
-
2016
- 2016-04-29 US US15/142,297 patent/US10628399B2/en not_active Expired - Fee Related
-
2017
- 2017-02-20 GB GB1818999.3A patent/GB2565932B/en active Active
- 2017-02-20 WO PCT/IB2017/050949 patent/WO2017187280A1/en active Application Filing
- 2017-02-20 CN CN201780026336.7A patent/CN109154880B/zh active Active
- 2017-02-20 DE DE112017000530.2T patent/DE112017000530T5/de active Pending
- 2017-02-20 JP JP2018555582A patent/JP6931005B2/ja active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110071988A1 (en) * | 2007-10-09 | 2011-03-24 | Cleversafe, Inc. | Data revision synchronization in a dispersed storage network |
US20140325305A1 (en) * | 2009-12-29 | 2014-10-30 | Cleversafe, Inc. | Cache for file-based dispersed storage |
US20130283094A1 (en) * | 2010-04-26 | 2013-10-24 | Cleversafe, Inc. | Indicating an error within a dispersed storage network |
CN103297448A (zh) * | 2012-02-24 | 2013-09-11 | 华为技术有限公司 | 私有云存储的融合方法及系统 |
US20140075112A1 (en) * | 2012-09-13 | 2014-03-13 | Cleversafe, Inc. | Writing data avoiding write conflicts in a dispersed storage network |
US20150319244A1 (en) * | 2014-04-30 | 2015-11-05 | Cleversafe, Inc. | Retrieving multi-generational stored data in a dispersed storage network |
CN104866435A (zh) * | 2015-06-06 | 2015-08-26 | 成都云祺科技有限公司 | 一种连续数据保护方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113661490A (zh) * | 2019-04-29 | 2021-11-16 | 国际商业机器公司 | 基于通过分发混淆的安全数据存储 |
CN113661490B (zh) * | 2019-04-29 | 2022-11-22 | 国际商业机器公司 | 用于安全地存储数据的方法和系统 |
CN112748867A (zh) * | 2019-10-31 | 2021-05-04 | 伊姆西Ip控股有限责任公司 | 用于存储管理的方法、电子设备以及计算机程序产品 |
CN112748867B (zh) * | 2019-10-31 | 2024-04-19 | 伊姆西Ip控股有限责任公司 | 用于存储管理的方法、电子设备以及计算机程序产品 |
Also Published As
Publication number | Publication date |
---|---|
GB201818999D0 (en) | 2019-01-09 |
US20170316037A1 (en) | 2017-11-02 |
JP2019515381A (ja) | 2019-06-06 |
JP6931005B2 (ja) | 2021-09-01 |
WO2017187280A1 (en) | 2017-11-02 |
US10628399B2 (en) | 2020-04-21 |
GB2565932A (en) | 2019-02-27 |
GB2565932B (en) | 2019-08-28 |
DE112017000530T5 (de) | 2018-10-18 |
CN109154880B (zh) | 2021-08-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11928366B2 (en) | Scaling a cloud-based storage system in response to a change in workload | |
US11399063B2 (en) | Network authentication for a storage system | |
US11947683B2 (en) | Replicating a storage system | |
US11888846B2 (en) | Configuring storage systems in a fleet of storage systems | |
CN110291509A (zh) | 在分散存储网络的区域中顺序地存储数据 | |
US11729251B2 (en) | Remote and secure management of a storage system | |
WO2019178470A1 (en) | Servicing i/o operations in a cloud-based storage system | |
US10936191B1 (en) | Access control for a computing system | |
US11604583B2 (en) | Policy based data tiering | |
US11936654B2 (en) | Cloud-based user authorization control for storage system access | |
CN103959264A (zh) | 在存储云中使用去重复来管理不可变冗余文件 | |
US11340837B1 (en) | Storage system management via a remote console | |
US20210263667A1 (en) | Multi-cloud orchestration as-a-service | |
US11995315B2 (en) | Converting data formats in a storage system | |
US20220253389A1 (en) | Instant Rekey In A Storage System | |
US20220269601A1 (en) | Cost Effective Storage Management | |
WO2019226652A1 (en) | Auto-scaling a software application | |
US20230254127A1 (en) | Sharing Encryption Information Amongst Storage Devices In A Storage System | |
WO2021163189A1 (en) | Ensuring compliance with geography-based data movement restrictions | |
Ahmed et al. | Big Data Analytics and Cloud Computing: A Beginner's Guide | |
CN109154880A (zh) | 在分散存储网络中一致的存储数据 | |
US20230236767A1 (en) | Balancing Data Transfer Amongst Paths Between A Host and A Storage System | |
US20220382455A1 (en) | Providing Storage Services And Managing A Pool Of Storage Resources | |
US11922052B2 (en) | Managing links between storage objects | |
US20230345659A1 (en) | Retractable pivoting trap door |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |