CN102855294A - 一种智能哈希数据布局方法、集群存储系统及其方法 - Google Patents
一种智能哈希数据布局方法、集群存储系统及其方法 Download PDFInfo
- Publication number
- CN102855294A CN102855294A CN2012102872744A CN201210287274A CN102855294A CN 102855294 A CN102855294 A CN 102855294A CN 2012102872744 A CN2012102872744 A CN 2012102872744A CN 201210287274 A CN201210287274 A CN 201210287274A CN 102855294 A CN102855294 A CN 102855294A
- Authority
- CN
- China
- Prior art keywords
- data
- storage
- memory node
- file
- data layout
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003860 storage Methods 0.000 title claims abstract description 124
- 238000000034 method Methods 0.000 title claims abstract description 86
- 238000009826 distribution Methods 0.000 claims abstract description 54
- 238000005516 engineering process Methods 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 9
- 238000013500 data storage Methods 0.000 claims description 8
- 238000009499 grossing Methods 0.000 claims description 3
- 238000013507 mapping Methods 0.000 abstract description 2
- 238000007726 management method Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 7
- 230000009021 linear effect Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 238000013523 data management Methods 0.000 description 4
- 230000005012 migration Effects 0.000 description 4
- 238000013508 migration Methods 0.000 description 4
- 230000008447 perception Effects 0.000 description 4
- 239000002131 composite material Substances 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 238000005303 weighing Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 239000012467 final product Substances 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000006116 polymerization reaction Methods 0.000 description 2
- 241001522296 Erithacus rubecula Species 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 239000011449 brick Substances 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 239000002360 explosive Substances 0.000 description 1
- 238000013467 fragmentation Methods 0.000 description 1
- 238000006062 fragmentation reaction Methods 0.000 description 1
- 230000002045 lasting effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000007789 sealing Methods 0.000 description 1
- 230000000153 supplemental effect Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 239000002023 wood Substances 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
Claims (9)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210287274.4A CN102855294B (zh) | 2012-08-13 | 2012-08-13 | 一种智能哈希数据布局方法、集群存储系统及其方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210287274.4A CN102855294B (zh) | 2012-08-13 | 2012-08-13 | 一种智能哈希数据布局方法、集群存储系统及其方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102855294A true CN102855294A (zh) | 2013-01-02 |
CN102855294B CN102855294B (zh) | 2016-12-21 |
Family
ID=47401882
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210287274.4A Active CN102855294B (zh) | 2012-08-13 | 2012-08-13 | 一种智能哈希数据布局方法、集群存储系统及其方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102855294B (zh) |
Cited By (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103281358A (zh) * | 2013-05-07 | 2013-09-04 | 汉柏科技有限公司 | 一种基于一致性hash算法存储资源的方法 |
CN103441906A (zh) * | 2013-09-25 | 2013-12-11 | 哈尔滨工业大学 | 基于自主计算的代理缓存集群异常检测系统 |
CN103914264A (zh) * | 2014-03-12 | 2014-07-09 | 汉柏科技有限公司 | 一种矩阵硬盘的数据存储方法及系统 |
CN104508699A (zh) * | 2012-07-27 | 2015-04-08 | 三星电子株式会社 | 内容传输方法和使用该方法的系统、装置和计算机可读记录介质 |
CN104580393A (zh) * | 2014-12-18 | 2015-04-29 | 北京蓝汛通信技术有限责任公司 | 用于服务器集群系统的扩容方法、装置及服务器集群系统 |
CN104580439A (zh) * | 2014-12-30 | 2015-04-29 | 创新科存储技术(深圳)有限公司 | 一种云存储系统中使数据均匀分布的方法 |
CN105007330A (zh) * | 2015-08-04 | 2015-10-28 | 电子科技大学 | 分布式流数据存储系统的存储资源调度模型的建模方法 |
CN106021462A (zh) * | 2016-05-17 | 2016-10-12 | 深圳市中博科创信息技术有限公司 | 集群文件系统文件存储的方法及集群文件系统 |
CN106339181A (zh) * | 2016-08-19 | 2017-01-18 | 华为技术有限公司 | 存储系统中数据处理方法和装置 |
CN106412612A (zh) * | 2016-09-27 | 2017-02-15 | 中央电视台 | 一种节目文件的整备方法、装置及系统 |
CN106446263A (zh) * | 2016-10-18 | 2017-02-22 | 北京航空航天大学 | 一种多媒体文件云存储平台及使用该云存储平台去冗的方法 |
CN106570091A (zh) * | 2016-10-20 | 2017-04-19 | 北京鲸鲨软件科技有限公司 | 一种增强分布式集群文件系统的高可用性的方法 |
CN107810501A (zh) * | 2015-04-30 | 2018-03-16 | 奈飞公司 | 分层高速缓存填充 |
US10210174B2 (en) | 2015-12-17 | 2019-02-19 | Red Hat, Inc. | Enforcing consistency of file to storage node mapping |
CN109413130A (zh) * | 2017-12-30 | 2019-03-01 | 广东技术师范学院 | 一种云存储系统 |
CN109815174A (zh) * | 2018-12-13 | 2019-05-28 | 创新科软件技术(深圳)有限公司 | 一种多磁盘并发访问方法和装置 |
WO2019134222A1 (zh) * | 2018-01-08 | 2019-07-11 | 平安科技(深圳)有限公司 | Docker镜像库文件存储方法、终端、设备以及存储介质 |
CN110222013A (zh) * | 2019-06-11 | 2019-09-10 | 深信服科技股份有限公司 | 一种集群存储容量确定的方法、系统、设备及存储介质 |
CN110245122A (zh) * | 2019-05-08 | 2019-09-17 | 华为技术有限公司 | 一种数据处理的方法和kv存储系统 |
CN110765094A (zh) * | 2019-10-24 | 2020-02-07 | 重庆紫光华山智安科技有限公司 | 文件创建方法、装置、系统及存储介质 |
CN111338571A (zh) * | 2020-02-18 | 2020-06-26 | 腾讯科技(深圳)有限公司 | 任务处理方法、装置、设备及存储介质 |
CN111723148A (zh) * | 2020-04-10 | 2020-09-29 | 浙江大华技术股份有限公司 | 数据存储方法及装置、存储介质、电子装置 |
CN112306688A (zh) * | 2020-10-30 | 2021-02-02 | 天地伟业技术有限公司 | 一种创新的适用于云存储的哈希一致算法 |
CN112749136A (zh) * | 2021-01-21 | 2021-05-04 | 北京明略昭辉科技有限公司 | 一种基于GlusterFS的文件存储方法及系统 |
CN113010526A (zh) * | 2021-04-19 | 2021-06-22 | 星辰天合(北京)数据科技有限公司 | 基于对象存储服务的存储方法及装置 |
CN113505177A (zh) * | 2021-07-08 | 2021-10-15 | 中国工商银行股份有限公司 | 分布式系统集群在线分片扩容方法及装置 |
CN114629908A (zh) * | 2022-03-28 | 2022-06-14 | 浙江邦盛科技股份有限公司 | 一种基于服务器节点硬件资源密度的数据分片方法 |
WO2024002349A1 (zh) * | 2022-07-01 | 2024-01-04 | 中兴通讯股份有限公司 | 文件管理方法、服务器、存储节点、文件存储系统、客户端 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008033662A1 (en) * | 2006-09-11 | 2008-03-20 | Microsoft Corporation | Dynamic network load balancing using roundtrip heuristic |
CN101692239A (zh) * | 2009-10-19 | 2010-04-07 | 浙江大学 | 一种分布式文件系统元数据分配方法 |
CN102624911A (zh) * | 2012-03-14 | 2012-08-01 | 中山大学 | 一种基于集群的可视媒体存储系统 |
CN102855284A (zh) * | 2012-08-03 | 2013-01-02 | 北京联创信安科技有限公司 | 一种集群存储系统的数据管理方法及系统 |
-
2012
- 2012-08-13 CN CN201210287274.4A patent/CN102855294B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008033662A1 (en) * | 2006-09-11 | 2008-03-20 | Microsoft Corporation | Dynamic network load balancing using roundtrip heuristic |
CN101692239A (zh) * | 2009-10-19 | 2010-04-07 | 浙江大学 | 一种分布式文件系统元数据分配方法 |
CN102624911A (zh) * | 2012-03-14 | 2012-08-01 | 中山大学 | 一种基于集群的可视媒体存储系统 |
CN102855284A (zh) * | 2012-08-03 | 2013-01-02 | 北京联创信安科技有限公司 | 一种集群存储系统的数据管理方法及系统 |
Cited By (48)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104508699A (zh) * | 2012-07-27 | 2015-04-08 | 三星电子株式会社 | 内容传输方法和使用该方法的系统、装置和计算机可读记录介质 |
CN104508699B (zh) * | 2012-07-27 | 2019-12-10 | 三星电子株式会社 | 内容传输方法和使用该方法的系统、装置和计算机可读记录介质 |
US9826026B2 (en) | 2012-07-27 | 2017-11-21 | Samsung Electronics Co., Ltd. | Content transmission method and system, device and computer-readable recording medium that uses the same |
CN103281358A (zh) * | 2013-05-07 | 2013-09-04 | 汉柏科技有限公司 | 一种基于一致性hash算法存储资源的方法 |
WO2014180139A1 (zh) * | 2013-05-07 | 2014-11-13 | 汉柏科技有限公司 | 一种基于一致性hash算法存储资源的方法 |
CN103281358B (zh) * | 2013-05-07 | 2016-04-20 | 汉柏科技有限公司 | 一种基于一致性hash算法存储资源的方法 |
CN103441906A (zh) * | 2013-09-25 | 2013-12-11 | 哈尔滨工业大学 | 基于自主计算的代理缓存集群异常检测系统 |
CN103914264A (zh) * | 2014-03-12 | 2014-07-09 | 汉柏科技有限公司 | 一种矩阵硬盘的数据存储方法及系统 |
CN103914264B (zh) * | 2014-03-12 | 2017-09-12 | 汉柏科技有限公司 | 一种矩阵硬盘的数据存储方法及系统 |
CN104580393B (zh) * | 2014-12-18 | 2017-12-15 | 北京蓝汛通信技术有限责任公司 | 用于服务器集群系统的扩容方法、装置及服务器集群系统 |
CN104580393A (zh) * | 2014-12-18 | 2015-04-29 | 北京蓝汛通信技术有限责任公司 | 用于服务器集群系统的扩容方法、装置及服务器集群系统 |
CN104580439A (zh) * | 2014-12-30 | 2015-04-29 | 创新科存储技术(深圳)有限公司 | 一种云存储系统中使数据均匀分布的方法 |
CN107810501A (zh) * | 2015-04-30 | 2018-03-16 | 奈飞公司 | 分层高速缓存填充 |
US11675740B2 (en) | 2015-04-30 | 2023-06-13 | Netflix, Inc. | Tiered cache filling |
US11010341B2 (en) | 2015-04-30 | 2021-05-18 | Netflix, Inc. | Tiered cache filling |
CN107810501B (zh) * | 2015-04-30 | 2022-01-11 | 奈飞公司 | 分层高速缓存填充 |
CN105007330B (zh) * | 2015-08-04 | 2019-01-08 | 电子科技大学 | 分布式流数据存储系统的存储资源调度模型的建模方法 |
CN105007330A (zh) * | 2015-08-04 | 2015-10-28 | 电子科技大学 | 分布式流数据存储系统的存储资源调度模型的建模方法 |
US11243918B2 (en) | 2015-12-17 | 2022-02-08 | Red Hat, Inc. | Enforcing consistency of file to storage node mapping |
US10210174B2 (en) | 2015-12-17 | 2019-02-19 | Red Hat, Inc. | Enforcing consistency of file to storage node mapping |
CN106021462A (zh) * | 2016-05-17 | 2016-10-12 | 深圳市中博科创信息技术有限公司 | 集群文件系统文件存储的方法及集群文件系统 |
CN106339181A (zh) * | 2016-08-19 | 2017-01-18 | 华为技术有限公司 | 存储系统中数据处理方法和装置 |
CN106339181B (zh) * | 2016-08-19 | 2019-05-24 | 华为技术有限公司 | 存储系统中数据处理方法和装置 |
CN106412612A (zh) * | 2016-09-27 | 2017-02-15 | 中央电视台 | 一种节目文件的整备方法、装置及系统 |
CN106412612B (zh) * | 2016-09-27 | 2019-09-17 | 中央电视台 | 一种节目文件的整备方法、装置及系统 |
CN106446263B (zh) * | 2016-10-18 | 2020-06-09 | 北京航空航天大学 | 一种多媒体文件云存储平台及使用该云存储平台去冗的方法 |
CN106446263A (zh) * | 2016-10-18 | 2017-02-22 | 北京航空航天大学 | 一种多媒体文件云存储平台及使用该云存储平台去冗的方法 |
CN106570091A (zh) * | 2016-10-20 | 2017-04-19 | 北京鲸鲨软件科技有限公司 | 一种增强分布式集群文件系统的高可用性的方法 |
CN109413130A (zh) * | 2017-12-30 | 2019-03-01 | 广东技术师范学院 | 一种云存储系统 |
WO2019134222A1 (zh) * | 2018-01-08 | 2019-07-11 | 平安科技(深圳)有限公司 | Docker镜像库文件存储方法、终端、设备以及存储介质 |
CN109815174A (zh) * | 2018-12-13 | 2019-05-28 | 创新科软件技术(深圳)有限公司 | 一种多磁盘并发访问方法和装置 |
CN110245122A (zh) * | 2019-05-08 | 2019-09-17 | 华为技术有限公司 | 一种数据处理的方法和kv存储系统 |
CN110245122B (zh) * | 2019-05-08 | 2022-08-09 | 华为技术有限公司 | 一种数据处理的方法和kv存储系统 |
CN110222013A (zh) * | 2019-06-11 | 2019-09-10 | 深信服科技股份有限公司 | 一种集群存储容量确定的方法、系统、设备及存储介质 |
CN110765094A (zh) * | 2019-10-24 | 2020-02-07 | 重庆紫光华山智安科技有限公司 | 文件创建方法、装置、系统及存储介质 |
CN110765094B (zh) * | 2019-10-24 | 2020-08-11 | 重庆紫光华山智安科技有限公司 | 文件创建方法、装置、系统及存储介质 |
CN111338571A (zh) * | 2020-02-18 | 2020-06-26 | 腾讯科技(深圳)有限公司 | 任务处理方法、装置、设备及存储介质 |
CN111338571B (zh) * | 2020-02-18 | 2021-08-17 | 腾讯科技(深圳)有限公司 | 任务处理方法、装置、设备及存储介质 |
CN111723148A (zh) * | 2020-04-10 | 2020-09-29 | 浙江大华技术股份有限公司 | 数据存储方法及装置、存储介质、电子装置 |
CN111723148B (zh) * | 2020-04-10 | 2024-01-26 | 浙江大华技术股份有限公司 | 数据存储方法及装置、存储介质、电子装置 |
CN112306688A (zh) * | 2020-10-30 | 2021-02-02 | 天地伟业技术有限公司 | 一种创新的适用于云存储的哈希一致算法 |
CN112749136A (zh) * | 2021-01-21 | 2021-05-04 | 北京明略昭辉科技有限公司 | 一种基于GlusterFS的文件存储方法及系统 |
CN112749136B (zh) * | 2021-01-21 | 2024-04-19 | 北京明略昭辉科技有限公司 | 一种基于GlusterFS的文件存储方法及系统 |
CN113010526A (zh) * | 2021-04-19 | 2021-06-22 | 星辰天合(北京)数据科技有限公司 | 基于对象存储服务的存储方法及装置 |
CN113505177A (zh) * | 2021-07-08 | 2021-10-15 | 中国工商银行股份有限公司 | 分布式系统集群在线分片扩容方法及装置 |
CN114629908B (zh) * | 2022-03-28 | 2023-10-13 | 浙江邦盛科技股份有限公司 | 一种基于服务器节点硬件资源密度的数据分片方法 |
CN114629908A (zh) * | 2022-03-28 | 2022-06-14 | 浙江邦盛科技股份有限公司 | 一种基于服务器节点硬件资源密度的数据分片方法 |
WO2024002349A1 (zh) * | 2022-07-01 | 2024-01-04 | 中兴通讯股份有限公司 | 文件管理方法、服务器、存储节点、文件存储系统、客户端 |
Also Published As
Publication number | Publication date |
---|---|
CN102855294B (zh) | 2016-12-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102855294A (zh) | 一种智能哈希数据布局方法、集群存储系统及其方法 | |
CN101997918B (zh) | 异构san环境中的海量存储资源按需分配的实现方法 | |
US7721044B1 (en) | Expanding the storage capacity of a virtualized data storage system | |
CN102255962B (zh) | 一种分布式存储方法、装置和系统 | |
JP5539683B2 (ja) | 拡張可能な2次ストレージシステムと方法 | |
CN102096557B (zh) | 一种独立磁盘冗余阵列的扩容方法、装置及系统 | |
CN100452046C (zh) | 一种海量文件的存储方法及系统 | |
CN103761059B (zh) | 一种用于海量数据管理的多盘位存储方法及系统 | |
CN102123176B (zh) | 一种网络存储系统空间分配管理方法及装置 | |
CN104317742A (zh) | 一种优化空间管理的自动精简配置方法 | |
CN102821138A (zh) | 一种适用于云存储系统的元数据分布式存储方法 | |
CN110058822A (zh) | 一种磁盘阵列横向拓展方法 | |
CN102523258A (zh) | 一种面向云操作系统的数据存储架构及其负载均衡方法 | |
CN101976181A (zh) | 一种存储资源的管理方法及管理装置 | |
CN102201005A (zh) | 一种文件系统的流媒体增强文件布局方法 | |
CN104054071A (zh) | 访问存储设备的方法和存储设备 | |
CN110188084A (zh) | 一种分布式文件存储系统及文件存储方法 | |
Shirinbab et al. | Performance Evaluation of Distributed Storage Systems for Cloud Computing. | |
US20200341639A1 (en) | Lattice layout of replicated data across different failure domains | |
CN103473258A (zh) | 云存储文件系统 | |
CN104054076A (zh) | 数据存储方法、数据库存储节点故障处理方法及装置 | |
JP2006331076A (ja) | データ記憶システム及び記憶方法 | |
CN103823641B (zh) | 一种在线扩容的虚拟卷系统及其实现方法 | |
US11188258B2 (en) | Distributed storage system | |
CN101997919B (zh) | 一种存储资源的管理方法及管理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: 100085 No. 1, building 3, building ten, No. 8, 813 street, Beijing, Haidian District Applicant after: Beijing Lianchuang Xinan Technology Co.,Ltd. Address before: 100085, room 712, room 7, block D, Jinyu Ka Wah building, No. 9, 3rd Street, Haidian District, Beijing Applicant before: Beijing Lianchuang Xinan Technology Co.,Ltd. |
|
COR | Change of bibliographic data | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20220511 Address after: 1610, 16th floor, 101-2-16th floor, building 21, Rongda Road, Chaoyang District, Beijing 100012 Patentee after: Zhongguancun Technology Leasing Co.,Ltd. Address before: 100085 813, 8th floor, building 3, courtyard 1, Shangdi 10th Street, Haidian District, Beijing Patentee before: Beijing Lianchuang Xinan Technology Co.,Ltd. |
|
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20240308 Address after: Room 01, 3rd Floor, Building 1, No. 33 Dijin Road, Haidian District, Beijing, 100095 Patentee after: Beijing Lianchuang Xinan Technology Co.,Ltd. Country or region after: China Address before: 1610, 16th floor, 101-2-16th floor, building 21, Rongda Road, Chaoyang District, Beijing 100012 Patentee before: Zhongguancun Technology Leasing Co.,Ltd. Country or region before: China |