CN107094186A - 一种分布式存储系统的纠删码优化方法 - Google Patents
一种分布式存储系统的纠删码优化方法 Download PDFInfo
- Publication number
- CN107094186A CN107094186A CN201710453949.0A CN201710453949A CN107094186A CN 107094186 A CN107094186 A CN 107094186A CN 201710453949 A CN201710453949 A CN 201710453949A CN 107094186 A CN107094186 A CN 107094186A
- Authority
- CN
- China
- Prior art keywords
- data
- correcting
- band
- eleting codes
- storage
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
Claims (1)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710453949.0A CN107094186B (zh) | 2017-06-15 | 2017-06-15 | 一种分布式存储系统的纠删码优化方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710453949.0A CN107094186B (zh) | 2017-06-15 | 2017-06-15 | 一种分布式存储系统的纠删码优化方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107094186A true CN107094186A (zh) | 2017-08-25 |
CN107094186B CN107094186B (zh) | 2019-10-01 |
Family
ID=59640178
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710453949.0A Expired - Fee Related CN107094186B (zh) | 2017-06-15 | 2017-06-15 | 一种分布式存储系统的纠删码优化方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107094186B (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107608820A (zh) * | 2017-09-26 | 2018-01-19 | 郑州云海信息技术有限公司 | 一种基于纠删码的文件写入方法及相关装置 |
CN107632780A (zh) * | 2017-08-28 | 2018-01-26 | 深圳市云舒网络技术有限公司 | 一种基于分布式存储系统的条带卷实现方法及其存储架构 |
CN108197484A (zh) * | 2018-01-23 | 2018-06-22 | 中南民族大学 | 一种分布式存储环境下实现节点数据安全的方法 |
CN108255429A (zh) * | 2018-01-10 | 2018-07-06 | 郑州云海信息技术有限公司 | 一种写操作控制方法、系统、装置及计算机可读存储介质 |
CN110515541A (zh) * | 2019-07-29 | 2019-11-29 | 西安交通大学 | 分布式存储中纠删码非对齐数据更新方法 |
CN110568993A (zh) * | 2019-08-06 | 2019-12-13 | 新华三技术有限公司成都分公司 | 一种数据更新方法及相关装置 |
CN110874283A (zh) * | 2018-08-31 | 2020-03-10 | 杭州海康威视系统技术有限公司 | 一种基于纠删码的数据存储方法、装置及电子设备 |
CN111399765A (zh) * | 2019-12-31 | 2020-07-10 | 杭州海康威视系统技术有限公司 | 数据处理方法、装置、电子设备及可读存储介质 |
CN111400083A (zh) * | 2020-03-17 | 2020-07-10 | 上海七牛信息技术有限公司 | 数据存储方法及系统、存储介质 |
CN111736771A (zh) * | 2020-06-12 | 2020-10-02 | 广东浪潮大数据研究有限公司 | 一种数据迁移方法、装置、设备及计算机可读存储介质 |
CN112256206A (zh) * | 2020-10-30 | 2021-01-22 | 新华三技术有限公司成都分公司 | 一种io处理方法及装置 |
CN113326006A (zh) * | 2021-06-17 | 2021-08-31 | 上海天玑科技股份有限公司 | 一种基于纠删码的分布式块存储系统 |
CN113672431A (zh) * | 2021-07-29 | 2021-11-19 | 济南浪潮数据技术有限公司 | 实现分布式存储的加速芯片纠删码插件的优化方法及装置 |
CN114115735A (zh) * | 2021-11-18 | 2022-03-01 | 北京奥星贝斯科技有限公司 | 写入数据的方法及装置 |
CN115437581A (zh) * | 2022-11-08 | 2022-12-06 | 浪潮电子信息产业股份有限公司 | 一种数据处理方法、装置、设备及可读存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8612680B1 (en) * | 2010-06-30 | 2013-12-17 | Emc Corporation | Data caching system and method |
CN104484130A (zh) * | 2014-12-04 | 2015-04-01 | 北京同有飞骥科技股份有限公司 | 一种横向扩展存储系统的构建方法 |
CN105824720A (zh) * | 2016-03-10 | 2016-08-03 | 中国人民解放军国防科学技术大学 | 一种面向数据连续读取的重删纠删混合系统的数据放置方法器 |
CN106293526A (zh) * | 2016-08-05 | 2017-01-04 | 上海交通大学 | 一种三盘容错阵列的可扩展方法及系统 |
-
2017
- 2017-06-15 CN CN201710453949.0A patent/CN107094186B/zh not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8612680B1 (en) * | 2010-06-30 | 2013-12-17 | Emc Corporation | Data caching system and method |
CN104484130A (zh) * | 2014-12-04 | 2015-04-01 | 北京同有飞骥科技股份有限公司 | 一种横向扩展存储系统的构建方法 |
CN105824720A (zh) * | 2016-03-10 | 2016-08-03 | 中国人民解放军国防科学技术大学 | 一种面向数据连续读取的重删纠删混合系统的数据放置方法器 |
CN106293526A (zh) * | 2016-08-05 | 2017-01-04 | 上海交通大学 | 一种三盘容错阵列的可扩展方法及系统 |
Non-Patent Citations (1)
Title |
---|
王意洁等: ""分布式存储中的纠删码容错技术研究"", 《计算机学报》 * |
Cited By (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107632780A (zh) * | 2017-08-28 | 2018-01-26 | 深圳市云舒网络技术有限公司 | 一种基于分布式存储系统的条带卷实现方法及其存储架构 |
CN107608820B (zh) * | 2017-09-26 | 2020-08-21 | 苏州浪潮智能科技有限公司 | 一种基于纠删码的文件写入方法及相关装置 |
CN107608820A (zh) * | 2017-09-26 | 2018-01-19 | 郑州云海信息技术有限公司 | 一种基于纠删码的文件写入方法及相关装置 |
CN108255429A (zh) * | 2018-01-10 | 2018-07-06 | 郑州云海信息技术有限公司 | 一种写操作控制方法、系统、装置及计算机可读存储介质 |
CN108255429B (zh) * | 2018-01-10 | 2021-07-02 | 郑州云海信息技术有限公司 | 一种写操作控制方法、系统、装置及计算机可读存储介质 |
CN108197484A (zh) * | 2018-01-23 | 2018-06-22 | 中南民族大学 | 一种分布式存储环境下实现节点数据安全的方法 |
CN108197484B (zh) * | 2018-01-23 | 2020-03-10 | 中南民族大学 | 一种分布式存储环境下实现节点数据安全的方法 |
CN110874283A (zh) * | 2018-08-31 | 2020-03-10 | 杭州海康威视系统技术有限公司 | 一种基于纠删码的数据存储方法、装置及电子设备 |
CN110874283B (zh) * | 2018-08-31 | 2021-07-20 | 杭州海康威视系统技术有限公司 | 一种基于纠删码的数据存储方法、装置及电子设备 |
CN110515541A (zh) * | 2019-07-29 | 2019-11-29 | 西安交通大学 | 分布式存储中纠删码非对齐数据更新方法 |
CN110568993B (zh) * | 2019-08-06 | 2022-04-12 | 新华三技术有限公司成都分公司 | 一种数据更新方法及相关装置 |
CN110568993A (zh) * | 2019-08-06 | 2019-12-13 | 新华三技术有限公司成都分公司 | 一种数据更新方法及相关装置 |
CN111399765B (zh) * | 2019-12-31 | 2022-11-01 | 杭州海康威视系统技术有限公司 | 数据处理方法、装置、电子设备及可读存储介质 |
CN111399765A (zh) * | 2019-12-31 | 2020-07-10 | 杭州海康威视系统技术有限公司 | 数据处理方法、装置、电子设备及可读存储介质 |
CN111400083A (zh) * | 2020-03-17 | 2020-07-10 | 上海七牛信息技术有限公司 | 数据存储方法及系统、存储介质 |
CN111400083B (zh) * | 2020-03-17 | 2024-02-23 | 上海七牛信息技术有限公司 | 数据存储方法及系统、存储介质 |
CN111736771A (zh) * | 2020-06-12 | 2020-10-02 | 广东浪潮大数据研究有限公司 | 一种数据迁移方法、装置、设备及计算机可读存储介质 |
CN111736771B (zh) * | 2020-06-12 | 2024-02-23 | 广东浪潮大数据研究有限公司 | 一种数据迁移方法、装置、设备及计算机可读存储介质 |
CN112256206A (zh) * | 2020-10-30 | 2021-01-22 | 新华三技术有限公司成都分公司 | 一种io处理方法及装置 |
CN112256206B (zh) * | 2020-10-30 | 2022-05-27 | 新华三技术有限公司成都分公司 | 一种io处理方法及装置 |
CN113326006A (zh) * | 2021-06-17 | 2021-08-31 | 上海天玑科技股份有限公司 | 一种基于纠删码的分布式块存储系统 |
CN113326006B (zh) * | 2021-06-17 | 2023-09-29 | 上海天玑科技股份有限公司 | 一种基于纠删码的分布式块存储系统 |
CN113672431B (zh) * | 2021-07-29 | 2023-12-22 | 济南浪潮数据技术有限公司 | 实现分布式存储的加速芯片纠删码插件的优化方法及装置 |
CN113672431A (zh) * | 2021-07-29 | 2021-11-19 | 济南浪潮数据技术有限公司 | 实现分布式存储的加速芯片纠删码插件的优化方法及装置 |
CN114115735B (zh) * | 2021-11-18 | 2024-02-09 | 北京奥星贝斯科技有限公司 | 写入数据的方法及装置 |
CN114115735A (zh) * | 2021-11-18 | 2022-03-01 | 北京奥星贝斯科技有限公司 | 写入数据的方法及装置 |
CN115437581A (zh) * | 2022-11-08 | 2022-12-06 | 浪潮电子信息产业股份有限公司 | 一种数据处理方法、装置、设备及可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN107094186B (zh) | 2019-10-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107094186A (zh) | 一种分布式存储系统的纠删码优化方法 | |
US8706687B2 (en) | Log driven storage controller with network persistent memory | |
CN102222085B (zh) | 一种基于相似性与局部性结合的重复数据删除方法 | |
CN102831222B (zh) | 一种基于重复数据删除的差量压缩方法 | |
CN101727299B (zh) | 连续数据存储中面向raid5的写操作优化设计方法 | |
CN103218176B (zh) | 数据处理方法及装置 | |
CN104765574A (zh) | 数据云端存储方法 | |
US20160291881A1 (en) | Method and apparatus for improving disk array performance | |
CN110262922A (zh) | 基于副本数据日志的纠删码更新方法及系统 | |
CN109298935A (zh) | 一种多进程单写多读无锁共享内存的方法及应用 | |
CN103399823B (zh) | 业务数据的存储方法、设备和系统 | |
CN103020257A (zh) | 数据操作的实现方法和装置 | |
CN102637147A (zh) | 利用固态硬盘作为计算机写缓存的存储系统以及相应的管理调度方法 | |
CN106503051A (zh) | 一种基于元数据分类的贪婪预取型数据恢复系统及恢复方法 | |
CN109902125A (zh) | 一种基于现有数据库的分布式储存方法 | |
CN103595571B (zh) | 网站访问日志的预处理方法、装置及系统 | |
CN104050057B (zh) | 一种历史感知的数据去重碎片消除方法与系统 | |
CN114706836B (zh) | 一种基于机载嵌入式数据库的数据生命周期管理方法 | |
CN104519103A (zh) | 网络数据的同步处理方法、服务器及相关系统 | |
WO2023185111A1 (zh) | 一种数据文件的快速存取方法及装置 | |
CN102044115B (zh) | 税控盘 | |
CN104778100A (zh) | 一种安全备份数据的方法 | |
CN114138200B (zh) | 一种基于RocksDB的预写日志方法及系统 | |
CN102929935A (zh) | 一种基于事务的大容量数据读写方法 | |
CN113779087A (zh) | 一种基于远程直接内存访问的数据库高可用的方法、系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20200514 Address after: 812, block B, phase I, Tianan Innovation Technology Plaza, No. 25, Tairan 4th Road, Tianan community, Shatou street, Futian District, Shenzhen City, Guangdong Province Patentee after: Shenzhen Lianyungang Technology Co., Ltd Address before: 518001, A902, room nine, building A, building 006, Industrial Research Institute, Nanshan New South Road, Nanshan District, Shenzhen, Guangdong Patentee before: CLOUDSOAR NETWORKS Inc. |
|
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20191001 Termination date: 20200615 |