CN114356239A - 一种分布式存储io卸载方法、系统、设备和存储介质 - Google Patents
一种分布式存储io卸载方法、系统、设备和存储介质 Download PDFInfo
- Publication number
- CN114356239A CN114356239A CN202111680516.1A CN202111680516A CN114356239A CN 114356239 A CN114356239 A CN 114356239A CN 202111680516 A CN202111680516 A CN 202111680516A CN 114356239 A CN114356239 A CN 114356239A
- Authority
- CN
- China
- Prior art keywords
- distributed storage
- copies
- slices
- volume
- source volume
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 238000012545 processing Methods 0.000 claims abstract description 24
- 230000010076 replication Effects 0.000 claims abstract description 9
- 230000015654 memory Effects 0.000 claims description 31
- 238000004590 computer program Methods 0.000 claims description 14
- 238000004422 calculation algorithm Methods 0.000 claims description 8
- 238000007781 pre-processing Methods 0.000 claims description 6
- 238000007726 management method Methods 0.000 description 21
- 230000008569 process Effects 0.000 description 6
- 230000001360 synchronised effect Effects 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000013500 data storage Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000012634 fragment Substances 0.000 description 3
- 230000004807 localization Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000013467 fragmentation Methods 0.000 description 2
- 238000006062 fragmentation reaction Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提出了一种分布式存储IO卸载方法、系统、设备和存储介质，该方法包括接收复制请求之后进行IO切片处理；根据分布式存储实现方式进行资源协调；如果实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；如果实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。基于该方法，还提出了一种分布式存储IO卸载系统、设备和存储介质。本发明使得分布式存储复制内部进行IO分流和卸载，减少了分布式存储资源损耗和网络转发，达到更好的卸载存储流量。
Description
技术领域
本发明属于分布式存储技术领域，特别涉及一种分布式存储IO卸载方法、系统、设备和存储介质。
背景技术
在信息爆炸增长的时代，CPU发展遇到瓶颈，摩尔定律在CPU的发展中逐步失效，因此如何提高单机性能提上议题：其中一个方式就是通过旁路卸载，减少耗时应用对CPU的使用，让CPU只关注计算，提高CPU的利用率；因此提出网络卸载和存储卸载。海量数据的增长，传统存储成本高，效率低下无法满足用户数据的增长速度，高效智能的分布式存储技术解决这一痛楚；分布式存储具有以下几个特征：高性能、高可靠性、高可扩展性、透明性、自治性。分布式存储数据存放首先要进行分片切割处理，之后通过一定算法或者是元数据服务，计算或查找出数据存放位置，由于用户数据被分为多个数据块，因此任何一个数据块丢失都可以造成数据不可用，因此分布式存储必须考虑合理的冗余存储模型，为用户的数据分块提供多个冗余的存储副本，从而保证数据的安全性和可靠性，同时提供了海量数据存储，降低存储成本，因此分布式存储需要支持硬件卸载指令，通过分布式存储进行IO卸载，提高CPU利用率，同时提高分布式存储性能；因为分布式存储的数据离散性，因此导致支持xcopy协议时候会导致分布式存储内部CPU和内存使用率较高，因此需要一种合理的方案，降低分布式存储内部IO流转时候的资源损耗，尽量将资源做到内部流转，避免浪费网络资源、CPU资源和内存资源。
传统实现方式为收到请求之后再该节点上读取源卷的数据内容，之后根据目的卷的副本位置进行数据转发，之后等待所有的数据完成下发之后完成xcopy。
发明内容
为了解决上述技术问题，本发明提出了一种分布式存储IO卸载方法、系统、设备和存储介质。本发明使得分布式存储xcopy内部进行IO分流和卸载，减少了分布式存储资源损耗和网络转发，更容易的发挥出硬件的性能，提高分布式存储xcopy的性能，达到更好的卸载存储流量。
为实现上述目的，本发明采用以下技术方案：
一种分布式存储IO卸载方法，包括以下步骤：
接收复制请求之后通过分布式存储进行IO切片处理；
根据分布式存储实现方式进行资源协调；如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。
进一步的，所述接收复制请求之后通过分布式存储进行IO切片处理具体包括：修改分布式存储对SCSI协议xcopy支持，收到xcopy请求之后通过分布式存储实现切片大小进行切片处理。
进一步的，在所述分布式存储实现方式为带有元数据管理的的分布式存储时，如果一个节点中无法容纳目的卷的obj文件，则发送读写请求到源卷所在的主机，在所述源卷所在的主机内部进行读取操作，之后进行网络转发写入目的卷所在的主机中。
进一步的，所述如果没有带有元数据的分布式存储收到xcopy请求时，首先通过一致性算法计算出源卷的切片所有副本的位置和目的卷的切片所有副本的位置。
进一步的，所述计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理具体包括：
如果源卷的切片所有副本和目的卷的切片所有副本均位于同一主机，在主机内发送内部读写请求，在主机内部中完成源卷数据和目的卷数据的内部拷贝；
如果源卷的切片部分副本和目的卷的切片部分副本位于同一主机，则部分副本在节点内部下发，同时通过网络转发达到其他副本IO正常下发，达到一次读取和多次写入；
如果源卷的切片所有副本和目的卷切片的所有副本均不位于同一主机，则通过IO下发至源卷所在的存储节点上，通过源卷节点进行数据读取和网络转发，实现一次读取和多次转发。
进一步的，所述在一次读取和多次转发时，智能的选取IO负载低的节点进行IO读取和网络转发。
本发明还提出了一种分布式存储IO卸载系统，包括预处理模块和资源协调模块；
所述预处理模块用于接收复制请求之后通过分布式存储进行IO切片处理；
所述资源协调模块用于根据分布式存储实现方式进行资源协调；如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。
进一步的，所述资源调节模块包括第一调节模块和第二调节模块；
所述第一调节模块用于如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；
所述第二调节模块用于如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。
本发明还提出了一种设备，包括：
存储器，用于存储计算机程序；
处理器，用于执行所述计算机程序时实现所述的方法步骤。
本发明还提出了一种可读存储介质，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如所述的方法步骤。
发明内容中提供的效果仅仅是实施例的效果，而不是发明所有的全部效果，上述技术方案中的一个技术方案具有如下优点或有益效果：
本发明提出了一种分布式存储IO卸载方法、系统、设备和存储介质，该方法包括接收复制请求之后通过分布式存储进行IO切片处理；根据分布式存储实现方式进行资源协调；如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。基于一种分布式存储IO卸载方法，还提出了一种分布式存储IO卸载系统、设备和存储介质。本发明修改分布式存储对SCSI协议xcopy支持，将数据分片处理；通过算法达到尽量目的卷和源卷对象临近，从而减少对象间的数据拷贝，无法达到一致则将请求转发到源卷副本所在主机上，让副本所在的主机通过本地读取直接write请求写入远端副本，达到流量均分和减少数据转发提高卸载速度，减少分布式存储资源损耗。本发明使得分布式存储xcopy内部进行IO分流和卸载，减少了分布式存储资源损耗和网络转发，更容易的发挥出硬件的性能，提高分布式存储xcopy的性能，达到更好的卸载存储流量。
附图说明
如图1为本发明实施例1一种分布式存储IO卸载方法流程图；
如图2为本发明实施例1一种分布式存储IO卸载系统示意图。
具体实施方式
为能清楚说明本方案的技术特点，下面通过具体实施方式，并结合其附图，对本发明进行详细阐述。下文的公开提供了许多不同的实施例或例子用来实现本发明的不同结构。为了简化本发明的公开，下文中对特定例子的部件和设置进行描述。此外，本发明可以在不同例子中重复参考数字和/或字母。这种重复是为了简化和清楚的目的，其本身不指示所讨论各种实施例和/或设置之间的关系。应当注意，在附图中所图示的部件不一定按比例绘制。本发明省略了对公知组件和处理技术及工艺的描述以避免不必要地限制本发明。
实施例1
本发明实施例1提出了一种分布式存储IO卸载方法。本发明主要应用在HCI场景下，在支持SCSI语义xcopy情况下，通过分布式存储底层处理转发，达到分布式存储内部数据拷贝，卸载分布式存储内部IO，提高超融合xcopy性能。其中HCI：Hyper ConvergedInfrastructure(超融合基础架构)。
通过优化分布式存储对xcopy协议支持，通过内部片段划分，尽量做到资源本地化，减少资源的内部流通，降低分布式存储内部资源损耗，同时提升存储卸载速率。
如图1为本发明实施例1一种分布式存储IO卸载方法流程图；
在步骤S101中，修改分布式存储对SCSI协议xcopy支持，将数据分片处理。即修改scsi server端实现，收到xcopy请求之后通过分布式存储实现切片大小进行切片处理。
在步骤S102中，根据分布式存储实现方式进行资源协调；如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。
在分布式存储实现方式为带有元数据管理的的分布式存储时，带有元数据管理的分布式存储收到xcopy请求之后调整目的卷的obj位置，达到目标卷的位置和源卷的obj位置在同一个主机上；之后发送内部请求，直接从源卷数据在主机内部进行数据拷贝，不经过网络传输，直接主机内部盘内部数据拷贝或者是盘间数据拷贝。如果一个节点中无法容纳目的卷的obj的话则发送读写请求到源卷所在的主机，源卷所在的主机在内部进行读取操作，之后进行网络转发写入目的卷所在的主机中。分布式存储直接内部进行数据拷贝，不涉及网络转发，同时因为对象均分在每一个物理磁盘上，因此可以发挥出所有磁盘的性能；提高分布式存储卸载速率，提高分布式存储性能
在分布式存储实现方式为没有带有元数据的分布式存储时，不带有元数据管理的分布式存储收到xcopy请求则通过一致性算法计算出所有副本位置，
如果源卷的切片所有副本和目的卷的切片所有副本均位于同一主机，在主机内发送内部读写请求，在主机内部中完成源卷数据和目的卷数据的内部拷贝；
如果源卷的切片部分副本和目的卷的切片部分副本位于同一主机，则部分副本在节点内部下发，同时通过网络转发达到其他副本IO正常下发，达到一次读取和多次写入；
如果源卷的切片所有副本和目的卷切片的所有副本均不位于同一主机，则通过IO下发至源卷所在的存储节点上，通过源卷节点进行数据读取和网络转发，实现一次读取和多次转发。如果源卷的副本和目的卷的副本都不在同一个主机上的话则挑选源卷副本所在的主机压力最小的主机进行IO转发，压力最小的副本所在的主机进行本地读取之后进行网络转发到目的卷所在的主机上。在一次读取和多次转发时，智能的选取IO负载低的较节点进行IO读取和网络转发。
本发明实施例1提出的一种分布式存储IO卸载方法，通过智能的副本切换，达到内部进行IO转发，不经过网络转发处理，同时通过智能副本转发和协调，调动分布式存储所有节点的存储性能，提高xcopy在分布式存储中性能，降低分布式存储卷拷贝时候资源损耗，提高分布式存储的性能。使得分布式存储xcopy内部进行IO分流和卸载，减少了分布式存储资源损耗和网络转发，更容易的发挥出硬件的性能，提高分布式存储xcopy的性能，达到更好的卸载存储流量。
实施例2
基于本发明实施例1提出的一种分布式存储IO卸载方法，本发明实施例2还提出了一种分布式存储IO卸载系统。如图2为本发明实施例1一种分布式存储IO卸载系统示意图，该系统包括预处理模块和资源协调模块；
预处理模块用于接收复制请求之后通过分布式存储进行IO切片处理；
资源协调模块用于根据分布式存储实现方式进行资源协调；如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。
其中资源调节模块包括第一调节模块和第二调节模块；
第一调节模块执行的过程包括：在分布式存储实现方式为带有元数据管理的的分布式存储时，带有元数据管理的分布式存储收到xcopy请求之后调整目的卷的obj位置，达到目标卷的位置和源卷的obj位置在同一个主机上；之后发送内部请求，直接从源卷数据在主机内部进行数据拷贝，不经过网络传输，直接主机内部盘内部数据拷贝或者是盘间数据拷贝。如果一个节点中无法容纳目的卷的obj的话则发送读写请求到源卷所在的主机，源卷所在的主机在内部进行读取操作，之后进行网络转发写入目的卷所在的主机中。分布式存储直接内部进行数据拷贝，不涉及网络转发，同时因为对象均分在每一个物理磁盘上，因此可以发挥出所有磁盘的性能；提高分布式存储卸载速率，提高分布式存储性能。
第二调节模块执行的过程包括：在分布式存储实现方式为没有带有元数据的分布式存储时，不带有元数据管理的分布式存储收到xcopy请求则通过一致性算法计算出所有副本位置，
如果源卷的切片所有副本和目的卷的切片所有副本均位于同一主机，在主机内发送内部读写请求，在主机内部中完成源卷数据和目的卷数据的内部拷贝；
如果源卷的切片部分副本和目的卷的切片部分副本位于同一主机，则部分副本在节点内部下发，同时通过网络转发达到其他副本IO正常下发，达到一次读取和多次写入；
如果源卷的切片所有副本和目的卷切片的所有副本均不位于同一主机，则通过IO下发至源卷所在的存储节点上，通过源卷节点进行数据读取和网络转发，实现一次读取和多次转发。如果源卷的副本和目的卷的副本都不在同一个主机上的话则挑选源卷副本所在的主机压力最小的主机进行IO转发，压力最小的副本所在的主机进行本地读取之后进行网络转发到目的卷所在的主机上。在一次读取和多次转发时，智能的选取IO负载低的较节点进行IO读取和网络转发。
本发明实施例2提出的一种分布式存储IO卸载系统，通过智能的副本切换，达到内部进行IO转发，不经过网络转发处理，同时通过智能副本转发和协调，调动分布式存储所有节点的存储性能，提高xcopy在分布式存储中性能，降低分布式存储卷拷贝时候资源损耗，提高分布式存储的性能。使得分布式存储xcopy内部进行IO分流和卸载，减少了分布式存储资源损耗和网络转发，更容易的发挥出硬件的性能，提高分布式存储xcopy的性能，达到更好的卸载存储流量。
实施例3
本发明还提出了一种设备，包括：
存储器，用于存储计算机程序；
处理器，用于执行所述计算机程序时实现方法步骤如下：
通过优化分布式存储对xcopy协议支持，通过内部片段划分，尽量做到资源本地化，减少资源的内部流通，降低分布式存储内部资源损耗，同时提升存储卸载速率。
如图1为本发明实施例1一种分布式存储IO卸载方法流程图；
在步骤S101中，修改分布式存储对SCSI协议xcopy支持，将数据分片处理。即修改scsi server端实现，收到xcopy请求之后通过分布式存储实现切片大小进行切片处理。
在步骤S102中，根据分布式存储实现方式进行资源协调；如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。
在分布式存储实现方式为带有元数据管理的的分布式存储时，带有元数据管理的分布式存储收到xcopy请求之后调整目的卷的obj位置，达到目标卷的位置和源卷的obj位置在同一个主机上；之后发送内部请求，直接从源卷数据在主机内部进行数据拷贝，不经过网络传输，直接主机内部盘内部数据拷贝或者是盘间数据拷贝。如果一个节点中无法容纳目的卷的obj的话则发送读写请求到源卷所在的主机，源卷所在的主机在内部进行读取操作，之后进行网络转发写入目的卷所在的主机中。分布式存储直接内部进行数据拷贝，不涉及网络转发，同时因为对象均分在每一个物理磁盘上，因此可以发挥出所有磁盘的性能；提高分布式存储卸载速率，提高分布式存储性能
在分布式存储实现方式为没有带有元数据的分布式存储时，不带有元数据管理的分布式存储收到xcopy请求则通过一致性算法计算出所有副本位置，
如果源卷的切片所有副本和目的卷的切片所有副本均位于同一主机，在主机内发送内部读写请求，在主机内部中完成源卷数据和目的卷数据的内部拷贝；
如果源卷的切片部分副本和目的卷的切片部分副本位于同一主机，则部分副本在节点内部下发，同时通过网络转发达到其他副本IO正常下发，达到一次读取和多次写入；
如果源卷的切片所有副本和目的卷切片的所有副本均不位于同一主机，则通过IO下发至源卷所在的存储节点上，通过源卷节点进行数据读取和网络转发，实现一次读取和多次转发。如果源卷的副本和目的卷的副本都不在同一个主机上的话则挑选源卷副本所在的主机压力最小的主机进行IO转发，压力最小的副本所在的主机进行本地读取之后进行网络转发到目的卷所在的主机上。在一次读取和多次转发时，智能的选取IO负载低的较节点进行IO读取和网络转发。
本发明实施例3提出的一种分布式存储IO卸载设备，通过智能的副本切换，达到内部进行IO转发，不经过网络转发处理，同时通过智能副本转发和协调，调动分布式存储所有节点的存储性能，提高xcopy在分布式存储中性能，降低分布式存储卷拷贝时候资源损耗，提高分布式存储的性能。使得分布式存储xcopy内部进行IO分流和卸载，减少了分布式存储资源损耗和网络转发，更容易的发挥出硬件的性能，提高分布式存储xcopy的性能，达到更好的卸载存储流量。
需要说明：本发明技术方案还提供了一种电子设备，包括：通信接口，能够与其它设备比如网络设备等进行信息交互；处理器，与通信接口连接，以实现与其它设备进行信息交互，用于运行计算机程序时，执行上述一个或多个技术方案提供的一种分布式存储IO卸载方法，而所述计算机程序存储在存储器上。当然，实际应用时，电子设备中的各个组件通过总线系统耦合在一起。可理解，总线系统用于实现这些组件之间的连接通信。总线系统除包括数据总线之外，还包括电源总线、控制总线和状态信号总线。本申请实施例中的存储器用于存储各种类型的数据以支持电子设备的操作。这些数据的示例包括：用于在电子设备上操作的任何计算机程序。可以理解，存储器可以是易失性存储器或非易失性存储器，也可包括易失性和非易失性存储器两者。其中，非易失性存储器可以是只读存储器(ROM，ReadOnly Memory)、可编程只读存储器(PROM，Programmable Read-Only Memory)、可擦除可编程只读存储器(EPROM，Erasable Programmable Read-Only Memory)、电可擦除可编程只读存储器(EEPROM，Electrically Erasable Programmable Read-Only Memory)、磁性随机存取存储器(FRAM，ferromagnetic random access memory)、快闪存储器(Flash Memory)、磁表面存储器、光盘、或只读光盘(CD-ROM，Compact Disc Read-Only Memory)；磁表面存储器可以是磁盘存储器或磁带存储器。易失性存储器可以是随机存取存储器(RAM，RandomAccessMemory)，其用作外部高速缓存。通过示例性但不是限制性说明，许多形式的RAM可用，例如静态随机存取存储器(SRAM，Static Random Access Memory)、同步静态随机存取存储器(SSRAM，Synchronous Static Random Access Memory)、动态随机存取存储器(DRAM，Dynamic Random Access Memory)、同步动态随机存取存储器(SDRAM，SynchronousDynamic Random Access Memory)、双倍数据速率同步动态随机存取存储器(DDRSDRAM，Double Data Rate Synchronous Dynamic Random Access Memory)、增强型同步动态随机存取存储器(ESDRAM，Enhanced Synchronous Dynamic Random AccessMemory)、同步连接动态随机存取存储器(SLDRAM，SyncLink Dynamic Random AccessMemory)、直接内存总线随机存取存储器(DRRAM，Direct Rambus Random Access Memory)。本申请实施例描述的存储器旨在包括但不限于这些和任意其它适合类型的存储器。上述本申请实施例揭示的方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器、DSP(Digital Signal Processing，即指能够实现数字信号处理技术的芯片)，或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。处理器可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者任何常规的处理器等。结合本申请实施例所公开的方法的步骤，可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于存储介质中，该存储介质位于存储器，处理器读取存储器中的程序，结合其硬件完成前述方法的步骤。处理器执行所述程序时实现本申请实施例的各个方法中的相应流程，为了简洁，在此不再赘述。
实施例4
本发明还提出了一种可读存储介质，可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现方法步骤如下：
通过优化分布式存储对xcopy协议支持，通过内部片段划分，尽量做到资源本地化，减少资源的内部流通，降低分布式存储内部资源损耗，同时提升存储卸载速率。
如图1为本发明实施例1一种分布式存储IO卸载方法流程图；
在步骤S101中，修改分布式存储对SCSI协议xcopy支持，将数据分片处理。即修改scsi server端实现，收到xcopy请求之后通过分布式存储实现切片大小进行切片处理。
在步骤S102中，根据分布式存储实现方式进行资源协调；如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。
在分布式存储实现方式为带有元数据管理的的分布式存储时，带有元数据管理的分布式存储收到xcopy请求之后调整目的卷的obj位置，达到目标卷的位置和源卷的obj位置在同一个主机上；之后发送内部请求，直接从源卷数据在主机内部进行数据拷贝，不经过网络传输，直接主机内部盘内部数据拷贝或者是盘间数据拷贝。如果一个节点中无法容纳目的卷的obj的话则发送读写请求到源卷所在的主机，源卷所在的主机在内部进行读取操作，之后进行网络转发写入目的卷所在的主机中。分布式存储直接内部进行数据拷贝，不涉及网络转发，同时因为对象均分在每一个物理磁盘上，因此可以发挥出所有磁盘的性能；提高分布式存储卸载速率，提高分布式存储性能
在分布式存储实现方式为没有带有元数据的分布式存储时，不带有元数据管理的分布式存储收到xcopy请求则通过一致性算法计算出所有副本位置，
如果源卷的切片所有副本和目的卷的切片所有副本均位于同一主机，在主机内发送内部读写请求，在主机内部中完成源卷数据和目的卷数据的内部拷贝；
如果源卷的切片部分副本和目的卷的切片部分副本位于同一主机，则部分副本在节点内部下发，同时通过网络转发达到其他副本IO正常下发，达到一次读取和多次写入；
如果源卷的切片所有副本和目的卷切片的所有副本均不位于同一主机，则通过IO下发至源卷所在的存储节点上，通过源卷节点进行数据读取和网络转发，实现一次读取和多次转发。如果源卷的副本和目的卷的副本都不在同一个主机上的话则挑选源卷副本所在的主机压力最小的主机进行IO转发，压力最小的副本所在的主机进行本地读取之后进行网络转发到目的卷所在的主机上。在一次读取和多次转发时，智能的选取IO负载低的较节点进行IO读取和网络转发。
本发明实施例4提出的一种分布式存储IO卸载存储介质，通过智能的副本切换，达到内部进行IO转发，不经过网络转发处理，同时通过智能副本转发和协调，调动分布式存储所有节点的存储性能，提高xcopy在分布式存储中性能，降低分布式存储卷拷贝时候资源损耗，提高分布式存储的性能。使得分布式存储xcopy内部进行IO分流和卸载，减少了分布式存储资源损耗和网络转发，更容易的发挥出硬件的性能，提高分布式存储xcopy的性能，达到更好的卸载存储流量。
本申请实施例还提供了一种存储介质，即计算机存储介质，具体为计算机可读存储介质，例如包括存储计算机程序的存储器，上述计算机程序可由处理器执行，以完成前述方法所述步骤。计算机可读存储介质可以是FRAM、ROM、PROM、EPROM、EEPROM、Flash Memory、磁表面存储器、光盘、或CD-ROM等存储器。
本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储于一计算机可读取存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：移动存储设备、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。或者，本申请上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台电子设备(可以是个人计算机、服务器、或者网络设备等)执行本申请各个实施例所述方法的全部或部分。而前述的存储介质包括：移动存储设备、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
本申请实施例提供的一一种分布式存储IO卸载设备和存储介质中相关部分的说明可以参见本申请实施例1提供的一种分布式存储IO卸载方法中对应部分的详细说明，在此不再赘述。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。另外，本申请实施例提供的上述技术方案中与现有技术中对应技术方案实现原理一致的部分并未详细说明，以免过多赘述。
上述虽然结合附图对本发明的具体实施方式进行了描述，但并非对本发明保护范围的限制。对于所属领域的技术人员来说，在上述说明的基础上还可以做出其它不同形式的修改或变形。这里无需也无法对所有的实施方式予以穷举。在本发明的技术方案的基础上，本领域技术人员不需要付出创造性劳动即可做出的各种修改或变形仍在本发明的保护范围以内。
Claims (10)
1.一种分布式存储IO卸载方法，其特征在于，包括以下步骤：
接收复制请求之后通过分布式存储进行IO切片处理；
根据分布式存储实现方式进行资源协调；如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。
2.根据权利要求1所述的一种分布式存储IO卸载方法，其特征在于，所述接收复制请求之后通过分布式存储进行IO切片处理具体包括：修改分布式存储对SCSI协议xcopy支持，收到xcopy请求之后通过分布式存储实现切片大小进行切片处理。
3.根据权利要求1所述的一种分布式存储IO卸载方法，其特征在于，在所述分布式存储实现方式为带有元数据管理的的分布式存储时，如果一个节点中无法容纳目的卷的obj文件，则发送读写请求到源卷所在的主机，在所述源卷所在的主机内部进行读取操作，之后进行网络转发写入目的卷所在的主机中。
4.根据权利要求1所述的一种分布式存储IO卸载方法，其特征在于，所述如果没有带有元数据的分布式存储收到xcopy请求时，首先通过一致性算法计算出源卷的切片所有副本的位置和目的卷的切片所有副本的位置。
5.根据权利要求4所述的一种分布式存储IO卸载方法，其特征在于，所述计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理具体包括：
如果源卷的切片所有副本和目的卷的切片所有副本均位于同一主机，在主机内发送内部读写请求，在主机内部中完成源卷数据和目的卷数据的内部拷贝；
如果源卷的切片部分副本和目的卷的切片部分副本位于同一主机，则部分副本在节点内部下发，同时通过网络转发达到其他副本IO正常下发，达到一次读取和多次写入；
如果源卷的切片所有副本和目的卷切片的所有副本均不位于同一主机，则通过IO下发至源卷所在的存储节点上，通过源卷节点进行数据读取和网络转发，实现一次读取和多次转发。
6.根据权利要求5所述的一种分布式存储IO卸载方法，其特征在于，所述在一次读取和多次转发时，智能的选取IO负载低的节点进行IO读取和网络转发。
7.一种分布式存储IO卸载系统，其特征在于，包括预处理模块和资源协调模块；
所述预处理模块用于接收复制请求之后通过分布式存储进行IO切片处理；
所述资源协调模块用于根据分布式存储实现方式进行资源协调；如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。
8.根据权利要求7所述的一种分布式存储IO卸载系统，其特征在于，所述资源调节模块包括第一调节模块和第二调节模块；
所述第一调节模块用于如果分布式存储实现方式为带有元数据管理的的分布式存储，使源卷obj文件的位置和目的卷obj文件的位置位于相同节点上，并下发内部数据拷贝；
所述第二调节模块用于如果分布式存储实现方式为没有带有元数据的分布式存储，计算源卷的切片所有副本的位置和目的卷的切片所有副本的位置；使源卷的切片所有副本和目的卷的切片所有副本均在本地处理。
9.一种设备，其特征在于，包括：
存储器，用于存储计算机程序；
处理器，用于执行所述计算机程序时实现如权利要求1至6任意一项所述的方法步骤。
10.一种可读存储介质，其特征在于，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至6任意一项所述的方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111680516.1A CN114356239B (zh) | 2021-12-30 | 2021-12-30 | 一种分布式存储io卸载方法、系统、设备和存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111680516.1A CN114356239B (zh) | 2021-12-30 | 2021-12-30 | 一种分布式存储io卸载方法、系统、设备和存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114356239A true CN114356239A (zh) | 2022-04-15 |
| CN114356239B CN114356239B (zh) | 2023-08-29 |
Family
ID=81106034
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111680516.1A Active CN114356239B (zh) | 2021-12-30 | 2021-12-30 | 一种分布式存储io卸载方法、系统、设备和存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114356239B (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105589660A (zh) * | 2015-10-27 | 2016-05-18 | 杭州华三通信技术有限公司 | 一种数据分布方法及装置 |
| CN107332888A (zh) * | 2017-06-21 | 2017-11-07 | 上海优刻得信息科技有限公司 | 在分布式存储系统中写入数据副本的方法、装置及其系统 |
| CN107608632A (zh) * | 2017-09-21 | 2018-01-19 | 郑州云海信息技术有限公司 | 一种分布式存储集群的通信方法、装置及系统 |
| US20180107394A1 (en) * | 2016-10-14 | 2018-04-19 | International Business Machines Corporation | Tape backup in large scale distributed systems |
| CN108595116A (zh) * | 2018-03-29 | 2018-09-28 | 浙江慧优科技有限公司 | 基于Oracle RAC集群数据读写性能优化方法 |
| CN113721849A (zh) * | 2021-08-23 | 2021-11-30 | 深圳市杉岩数据技术有限公司 | 一种基于分布式存储的数据复制卸载方法及终端设备 |
-
2021
- 2021-12-30 CN CN202111680516.1A patent/CN114356239B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105589660A (zh) * | 2015-10-27 | 2016-05-18 | 杭州华三通信技术有限公司 | 一种数据分布方法及装置 |
| US20180107394A1 (en) * | 2016-10-14 | 2018-04-19 | International Business Machines Corporation | Tape backup in large scale distributed systems |
| CN107332888A (zh) * | 2017-06-21 | 2017-11-07 | 上海优刻得信息科技有限公司 | 在分布式存储系统中写入数据副本的方法、装置及其系统 |
| CN107608632A (zh) * | 2017-09-21 | 2018-01-19 | 郑州云海信息技术有限公司 | 一种分布式存储集群的通信方法、装置及系统 |
| CN108595116A (zh) * | 2018-03-29 | 2018-09-28 | 浙江慧优科技有限公司 | 基于Oracle RAC集群数据读写性能优化方法 |
| CN113721849A (zh) * | 2021-08-23 | 2021-11-30 | 深圳市杉岩数据技术有限公司 | 一种基于分布式存储的数据复制卸载方法及终端设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114356239B (zh) | 2023-08-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20210255952A1 (en) | Namespace change propagation in non-volatile memory devices | |
| US8745011B2 (en) | Method and system for scrubbing data within a data storage subsystem | |
| US20210278998A1 (en) | Architecture and design of a storage device controller for hyperscale infrastructure | |
| EP3206128B1 (en) | Data storage method, data storage apparatus, and storage device | |
| US9182912B2 (en) | Method to allow storage cache acceleration when the slow tier is on independent controller | |
| TW201237624A (en) | Two-level system main memory | |
| CN101840362A (zh) | 一种改进的写时拷贝快照的实现方法和装置 | |
| BR112021009920A2 (pt) | aquecimento de cache: agilidade para um serviço com estado | |
| WO2017148242A1 (zh) | 一种访问叠瓦式磁记录smr硬盘的方法及服务器 | |
| CN103678166A (zh) | 一种采用固态硬盘作为计算机高速缓存的实现方法及系统 | |
| WO2024119775A1 (zh) | 一种raid卡的节点更新方法、系统及相关装置 | |
| CN103412929A (zh) | 一种海量数据的存储方法 | |
| US20190042152A1 (en) | Atomic cross-media writes on a storage device | |
| JP5556025B2 (ja) | ストレージシステム | |
| WO2014100954A1 (zh) | 数据控制方法及系统 | |
| US20240070120A1 (en) | Data processing method and apparatus | |
| CN107193693A (zh) | 一种基于存储系统的在线数据存储优化方法 | |
| JP4461089B2 (ja) | ストレージ制御装置およびストレージ制御方法 | |
| CN114356239A (zh) | 一种分布式存储io卸载方法、系统、设备和存储介质 | |
| KR102175999B1 (ko) | 컴퓨터 시스템에서의 입출력 완료 방법 및 이를 위한 컴퓨터 시스템 | |
| KR101103900B1 (ko) | 데이터 복사 시스템, 장치, 및 방법 | |
| EP4270167A1 (en) | Capacity adjustment method and related device | |
| CN115981559A (zh) | 分布式数据存储方法、装置、电子设备和可读介质 | |
| US9032169B2 (en) | Method for high performance dump data set creation | |
| KR101229851B1 (ko) | 데이터의 병렬적 중복제거 시스템 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |