CN106104500B - 存储数据的方法和设备 - Google Patents

存储数据的方法和设备 Download PDF

Info

Publication number
CN106104500B
CN106104500B CN201380080521.6A CN201380080521A CN106104500B CN 106104500 B CN106104500 B CN 106104500B CN 201380080521 A CN201380080521 A CN 201380080521A CN 106104500 B CN106104500 B CN 106104500B
Authority
CN
China
Prior art keywords
storage
host
protocol
interface
request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201380080521.6A
Other languages
English (en)
Other versions
CN106104500A (zh
Inventor
K·S·格里姆斯鲁德
J·B·可汗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intel Corp
Original Assignee
Intel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intel Corp filed Critical Intel Corp
Publication of CN106104500A publication Critical patent/CN106104500A/zh
Application granted granted Critical
Publication of CN106104500B publication Critical patent/CN106104500B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/061Improving I/O performance
    • G06F3/0613Improving I/O performance in relation to throughput
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38Information transfer, e.g. on bus
    • G06F13/382Information transfer, e.g. on bus using universal interface adapter
    • G06F13/385Information transfer, e.g. on bus using universal interface adapter for adaptation of a particular data processing system to different peripheral devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38Information transfer, e.g. on bus
    • G06F13/42Bus transfer protocol, e.g. handshake; Synchronisation
    • G06F13/4282Bus transfer protocol, e.g. handshake; Synchronisation on a serial bus, e.g. I2C bus, SPI bus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0604Improving or facilitating administration, e.g. storage management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0604Improving or facilitating administration, e.g. storage management
    • G06F3/0607Improving or facilitating administration, e.g. storage management by facilitating the process of upgrading existing storage systems, e.g. for improving compatibility between host and storage device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0661Format or protocol conversion arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • G06F3/0683Plurality of storage devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671In-line storage system
    • G06F3/0683Plurality of storage devices
    • G06F3/0685Hybrid storage combining heterogeneous device types, e.g. hierarchical storage, hybrid arrays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2213/00Indexing scheme relating to interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F2213/0026PCI express

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Information Transfer Systems (AREA)

Abstract

SSD控制器操作接口装置,所述接口装置有关于主机协议和存储协议,其支持相应的主机和存储接口,以用于给主机提供整个存储系统的视界。主机具有呈现存储系统作为逻辑装置的存储协议的可见性,以及通过主机协议(其适合用于访问诸如固态驱动(SSD)的高速装置)访问存储装置。存储协议支持多种可能的不同的装置,允许主机有效访问如由存储系统所定义的传统存储和SSD的组合。以此方式,较好地适合于SSD的,诸如NVMe(非易失性快速存储器)的主机协议准许对存储系统(诸如存储阵列)的高效访问,因此整个存储系统(阵列或者网络)对上游主机被呈现为NVMe存储装置。

Description

存储数据的方法和设备
背景技术
固态驱动(SSD)是高性能的存储装置,其不包含移动部分。SSD比具有常规的磁旋媒体的典型的硬盘驱动(HDD)要快得多,以及通常包括管理数据存储的控制器。控制器管理SSD的操作,包括数据存储和访问,以及在SSD与主机装置之间的通信。因为SSD比它们的前任HDD对应物(counterpart)显著地要更快,以前被I/O(输入/输出)束缚(由非易失性存储能够被完成的速度所限制)的计算任务可以发现计算瓶颈由主机能够排队I/O请求的速度所限制。因此,诸如
Figure BPA0000225300040000011
(外围组件快速互连(Peripheral Component InterconnectExpress),或者PCI
Figure BPA0000225300040000012
)的主机协议旨在更好地适应该新生代非易失性存储。
附图说明
本发明的上述和其它对象、特征和益处将从如附图中示出的本发明的具体实施例的以下描述而显而易见,在所述附图中,贯穿不同视图,相同的引用字符指相同的部分。附图不必需按比例缩放,代替地强调依据示出本发明的原理而被放置。
图1是适合与本文的配置一起使用的计算和存储环境的上下文图;
图2是图1的环境中所公开的方法的流程图;
图3是用于与图2的方法一起使用的接口装置的框图;
图4更详细地示出图3的接口装置;
图5示出图4的接口装置的冗余配置;以及
图6示出图1的环境中存储元件的互连。
具体实施方式
SSD控制器操作作为接口装置,所述接口装置有关于主机协议和存储协议,其支持相应的主机和存储接口,以用于给主机提供存储装置的视界。主机具有呈现存储装置作为逻辑装置的存储协议的可见性(visibility),以及通过主机协议(其较好地适合用于访问诸如固态驱动(SSD)的高速装置)访问存储装置。因为主机与存储装置接口一起呈现,同时存储协议支持多个装置,存储接口可以包括多个装置,范围上至整个存储阵列。存储协议支持多种可能的不同的装置,允许主机有效访问如由存储装置所定义的传统存储和SSD的组合。各个存储装置被直接连接至存储系统,其对主机正被显露为单个NVMe装置(当前NVMe规范在nvmexpress.org可得到)。以此方式,较好地适合于SSD的、诸如NVMe(非易失性快速存储器(Non-volatile Memory Express))的主机协议准许对存储装置(诸如存储阵列或者类似的或不同的存储体的其它布置)的高效访问,因此整个存储系统(存储阵列、网络或者其它适合的配置)对上游主机被呈现为NVMe存储装置。
相比于对主机呈现单个SSD的常规NVMe装置,本文公开的方法“反转(reverse)”NVMe接口,以便该接口“会话”至存储元件的组、集合或者系统中,使得系统从外面显现为SSD。作为结果的接口呈现为具有对主机的NVMe接口的直接附连的PCIe存储装置,但是在其后具有整个存储系统,因此,定义一种类型的NVMe直接附连存储装置(NDAS)。
通过显露实行NVMe目标注册器接口的仿真的一个或者更多接口至上游主机或者启动器,具体地通过
Figure BPA0000225300040000021
(外围组件快速互连,或者
Figure BPA0000225300040000022
),本文的配置提出NVMe直接附连存储(NDAS)系统。NDAS系统允许在提取各种以及可能不同的存储装置中的灵活性,所述存储装置能够包括SATA(串行高级技术附件,当前规范在sata-io.org可得到)HDD(硬盘驱动)、具有NAND的PCIe/NVMe SSD和SATA SSD或者其它类型的非易失性存储器。NDAS系统内的存储装置然后能够被用于实现各种存储优化,诸如聚合、缓存和层叠。
作为背景,NVMe是可按比例缩放的主机控制器接口,设计成致力于可以采用固态驱动的企业、数据中心和客户系统的需要。NVMe通常被采用为SSD装置接口以用于对主机呈现存储体接口。本文的配置定义存储子系统接口以用于整个存储解决方案(系统),但是其通过呈现SSD存储接口上游而显现为SSD。NVMe基于成对的提交和完成队列机制。命令由主机软件放置至提交队列中。完成由控制器放置至关联的完成队列中。多个提交队列可以利用相同的完成队列。提交和完成队列在主机存储器中被分配。
PCIe是高速串行计算机扩展总线标准,被设计成替代更老的PCI、PCI-X和AGP总线标准。PCIe实现对上述的总线标准的改善,包括更高的最大系统总线吞吐量、更低的I/O引线数以及更小的物理管脚、对于总线装置的更好的性能伸缩以及更详细的错误检测和报告机制。NVM Express定义了对于基于PCI Express的固态驱动(SSD)的优化的注册器接口、命令集合和特征集合,以及被定位以利用PCIe SSD的潜力,以及标准化PCIe SSD接口。
PCIe总线和更老的PCI之间的显著不同是总线拓扑。PCI使用共享的并行总线架构,其中PCI主机和所有连接的装置共享地址/数据/控制线的共同集合。相比,PCIe基于点对点拓扑,具有连接每个装置至根复合体(complex)(主机)的分开的串行链路。由于它的共享的总线拓扑,对更老的PCI总线的访问通常被仲裁(arbitrate)(在多个主的情况下),以及每次限于一个主,以单个方向。更老的PCI计时(clocking)方案也限制总线时钟(clock)至总线上最慢的外围(不管总线事务中涉及的装置)。相比,PCIe总线链路支持任何两个端点之间的全双工通信,以及因此促进跨多个端点的并行访问。
本文的配置是基于观察到用于与大容量存储或者非易失性存储相互作用的当前主机协议(诸如NVMe)趋向于被聚焦在具体存储装置或者装置类型上以及可以没有较好地适合于访问各种装置。令人遗憾的是,对主机协议的常规方法没有给予足够的灵活性给服务主机的大容量装置的布置。例如,大多数个人和/或便携式计算装置采用初始的大容量存储装置,以及通常这是由卖主来与具体装置匹配的。例如,大多数现货供应的膝上型计算机、智能电话和音频装置与挑选的单个存储装置一起装运以及由卖主封装。常规的装置可以没有聚焦在对其它装置的访问上,因为此类访问从期望的使用模式偏移。
因此,本文的配置通过提供接口装置或者桥接来充分地克服了以上描述的缺点,所述接口装置或者桥接显露诸如NVMe的基于主机的协议(主机协议)至用户计算装置,以及采用基于存储的协议(存储协议)以用于实现存储和检索请求,因此拓宽了可用装置的范围至存储协议下被识别的那些。例如,NDAS(网络直接附连存储)通过跨共同总线容纳不同的存储媒体(SSD、HDD、光学)和装置类型(即不同容量)而允许各种不同的存储装置经由共同总线被互连和访问。网络上的所有用户或者系统能够直接地控制、使用和共享所互连的存储装置。以此方式,基于主机的协议对用户呈现单独的存储装置,以及映射器关联经由主机协议的请求至经由存储协议的多个存储元件(即,各个驱动或者其它装置),因此允许多个互连的装置(有时被称作“存储阵列”或者“特大容量磁盘”)来满足请求,即使在主机协议下用户装置仅“看见”单个装置。
例如,NVMe通过实现多个并行队列以用于避免I/O瓶颈以及高效地处理源于多个始发器的请求来帮助对于SSD的访问。常规HDD通常被期望遇到I/O束缚实现,因为计算的结果可能相比常规HDD能够写它们而更快地生成。NVMe意在通过高效地管理增加的速率(通过此,I/O请求可以被满足)较好地有助于SSD(对常规HDD)。
以下描绘的是根据本文所公开的系统、方法和设备的具有示例配置的计算和存储环境的示例配置。主机计算装置(主机)使用存储接口装置(接口装置)与多个连网的存储装置接口。所公开的布置是示例,以及其它互连和配置可以与接口装置一起被采用,它们中的一些在以下图5和6中被进一步描绘。
参考图1,适合与本文的配置一起使用的计算和存储环境100的上下文图被示出。在计算和存储环境100中,主机系统(主机)110响应于一个或者更多用户112以用于计算服务。主机110采用存储装置120,诸如SSD,其可以内部于或者外部于主机110。主机110通过经由由存储装置120所识别的主机协议114发布请求116来与存储装置120互动。在本文的配置中,存储协议124经由映射器140使用存储元件142的集合或者多个存储元件142来满足请求116,所述映射器呈现主机协议114至主机110(用户装置)以及使用存储协议124来关联请求116至所述多个存储元件142。映射器140采用接口装置(示出为云150)的形式,其在主机协议114和存储协议124之间桥接或者关联请求和响应。
图1的示例描绘了具有接口装置150的所公开系统的高等级架构。在一个使用场景中,接口装置150是用于在主机/启动器与NDAS系统之间接口的NVMe桥接卡。若干不同的存储元件可以在NDAS系统中被采用以用于提供背端存储。这些元件能够采用SATA HDD、SATASSD、PCIe SSD、NVMe SSD或者其它NDAS系统的形式。各种端用户装置可以被预见通过此方法受益,包括缓存解决方案,其中主机写能够被缓存至更快的但是昂贵的NVM装置以及以后被转储清除(flush)至不昂贵的但是更慢的NVM存储装置。层叠解决方案能够被预见,其中两个不同类型的背端NVM存储装置被使用。在多端口实现中,此系统还能够提供高可用性能力。
在图1的示例中,以及还在以下图3中进一步讨论,接口装置150采用NVMe桥接卡的形式,其可以被用在现货供应服务器系统中以用于实现NVMe直接附连存储系统。NVMe桥接卡通过显露完全适应的NVMe接口来显露NVMe协议至上游主机/启动器110。在下游侧上,接口装置150通过简化的NVMe接口来提供PCIe功能性以用于至NDAS系统的连接,所述NDAS系统由所述多个存储元件142所定义。接口装置150具有优化的物理接口能力,诸如用于连接至NDAS系统的金手指以及用于连接至主机/启动器系统的缆线连接器。接口装置150可以显露一个或者更多端口至上游启动器/主机以及作为结果整个NDAS系统被呈现给上游启动器/主机作为NVMe存储装置。
图2是图1的环境中所公开的方法的流程图。参考图1和2,如本文所示出和公开的经由接口装置150在存储装置上存储数据的方法包括在步骤200经由至主机装置110的接口来接收请求116,其中主机装置110发布请求116以用于存储和检索服务。主机接口响应于主机装置110以用于履行所发布的请求,其中所述请求相应于主机协议114以用于定义由接口装置150识别的所发布的请求。如在步骤201所描绘,接口装置150调用存储协议124以用于确定相应于所发布的请求116的在多个存储元件142上的存储位置,其中存储协议124有关于主机协议114的至少一个子集。如在步骤202所示出,接口装置150映射相应于所发布的请求116的主机110上的有效负载至一位置以用于在存储元件142的至少一个中遮蔽(shadow)标识的有效负载的未决存储。这涉及从主机110上的队列拷贝有效负载至在存储元件的传输存储器或者缓冲器。如在步骤203所描绘,基于映射,接口装置150经由接口传送请求116以及关联的有效负载至所述多个存储元件142,其中所述多个存储元件142相关于存储协议124,以及存储协议在所述多个存储元件中的各个存储元件中的每一个之间是共同的,以及呈现共同的存储体至主机装置110,以及进一步响应于从主机装置110的发布的请求116。在示例布置中,主机110采用主机协议114,以便主机接口响应于主机协议114以用于接收由主机110所发布以及定向至当前存储装置的请求116,同时主机协议114未察觉由存储协议所映射的特定存储元件。换言之,主机视所述多个存储元件142为单个存储装置,与它的本机主机协议相一致,以及存储协议处理到特定存储装置和位置的映射。
图3是与图2的方法一起使用的接口装置的框图。参考图1和3,在示例配置中,主机协议(第一协议)是NVMe以及所呈现的存储装置是NVMe驱动,以及存储协议(第二协议)是NDAS以及存储元件包括以下中的至少一个:SATA SSD、SATA HDD、PCIe SSD、NVMe SSD、闪速存储器或者基于NAND的媒体。在此示例配置中,主机110包括处理器111和存储器113,其经由本地PCIe总线118耦合至I/O路径152。在示出的示例中,接口装置150采用NDAS桥接卡的形式以用于与所述多个存储元件142通信。存储元件142被连接为通过NDAS配置的直接附连存储系统160,包括接口装置150、处理器162、本地存储器(DRAM)164以及总线166互连,其诸如PCIe总线或其它基于以太网的总线,以用于根据存储协议124来耦合各个存储元件144-1……144-4(144,一般地)中的每一个。
主机协议114定义多个主机队列117,包括提交和完成队列,用于基于至接口装置150的请求116未决传送来存储命令和有效负载。映射器140维持至在NDAS侧上本地存储器164中定义的传输队列130的映射132,以用于在如示例箭头134所示根据存储协议124写数据至存储元件144-3之前传输和缓冲数据。
因此,接口装置150包括响应于由主机110所发布的请求的主机接口,以便主机接口呈现用于由主机110访问的存储装置。存储协议124定义所有的所述多个存储元件142为单个逻辑存储卷(volume)。在装置150中,存储接口耦合至多个不同的存储装置,以便所述多个存储装置相关于共同于所述多个存储装置中的每一个的存储协议。所述存储协议接合各个存储元件之间的逻辑的和物理的不同,以便存储协议能够呈现共同的、统一的接口至主机110。映射器140在主机接口与存储接口之间连接以及被配置成映射在主机接口上接收的请求116到连接至存储接口的特定的存储元件144,以便所映射的请求116基于存储协议来指示特定存储元件,以及特定存储元件144独立于所呈现的存储装置,以便主机协议不需要指定任何关于哪个存储元件被采用的参数。
接口装置150包括映射器140中的FIFO传输逻辑,其中FIFO传输逻辑用于映射在主机接口上接收的请求至连接至存储接口的特定存储元件144,以及以便映射的请求基于存储协议124指示特定存储元件144。主机接口呈现相应于所述多个存储元件的单个逻辑存储装置,以及不同的存储元件中的每一个响应于存储协议以用于履行所发布的请求。
在示例配置中,采用NVMe作为主机协议,NVMe提供接口至多个主机队列117,以便主机队列进一步包括提交队列和完成队列,以及其中提交队列用于存储未决请求和相应的有效负载,以及完成队列指示请求的完成。提交队列进一步包括命令条目和有效负载条目。多个队列被采用,因为SSD的速度将由常规的、单个维度(FIFO)队列结构所折衷(compromise),这是由于每个请求将被保持而等待前任请求完成。提交和完成队列允许多个请求的并发排队和处理,以便更大的和/或更慢的请求不会妨碍其它请求116。
在NVMe作为主机协议的情况下,队列的使用进一步包括至影子存储器(shadowmemory)的接口,所述影子存储器由本地存储器164在图3中定义,以便接口响应于接口装置110以用于从主机110传输有效负载条目至影子存储器。影子存储器存储来自提交队列的有效负载直到相应的命令条目由背端逻辑124’接收以用于管理所述多个存储元件142。映射器140响应于背端逻辑124’以用于识别所述多个存储元件142中的存储元件144,以及基于存储协议124存储有效负载条目在标识的存储元件144中。
在存储协议侧上,存储元件144的每一个可以是任何适合的物理存储装置,诸如SSD、HDD、光学(DVD/CD)或者闪速存储器/NAND,以及可以是至其它装置的集线器或者网关,因此形成分级结构(在以下图6中进一步讨论。存储装置144的每一个相关于存储协议124,NDAS(在所公开示例中),以及根据主机协议114经由接口装置150被呈现给主机110作为单个逻辑存储元件。
图4示出用于单个端口实现的关于NVMe桥接卡架构的更多的细节,以易于理解本概念(多个端口是可能的以及被预见的)。两个PCIe核在NVMe桥接卡中被呈现:一个PCIe核提供至上游主机启动器的连接以及第二个PCIe核提供至NDAS系统的连接。NVMe协议因此显露至上游主机以及NDAS侧逻辑提供简化的NVMe协议,以用于至NDAS系统的附连。
在图4中,图3的接口装置被更详细地示出。参考图3和4,接口装置150包括响应于主机协议核逻辑114’的主机网络核136,以及响应于存储网络协议(背端)逻辑124’并且相关于主机协议114的子集的存储网络核138,。
在示例布置中,除了由NVMe协议定义的提交和完成队列之外,在背端逻辑124’中简化的NVMe协议包括直接映射的位置,以用于用于在具体提交队列117中的每个命令的数据缓冲器。接口装置可以采用任何适合的物理配置,诸如在SSD内,如主机或者存储阵列装置中的卡或者如独立的装置,以及可以包括微控制器/处理器。备选的是,接口装置150可以不要求板上处理器,而是它的功能是HW自动的或者由NDAS驱动器/SW所控制。上游主机110系统使用NVMe驱动器以用于与NVMe NDAS系统通信。NDAS系统将加载顾客驱动器以用于简化的NVMe协议以及将运行顾客软件应用以用于控制接口卡150的功能性以及响应于由主机/启动器110所发布的NVMe命令以及还管理所有下游存储装置144。
主机协议114是点对点协议以用于从所述多个主机队列117映射请求116至存储元件144,以及存储协议响应于主机协议114以用于标识存储元件144以用于满足请求,主机协议仅涉及请求以及未察觉处理请求的存储元件。因此,主机队列中的每一个相应于主机与共同存储体之间的点对点链路。完成队列响应于主机协议以用于基于主机协议标识完成的请求,主机协议用于映射请求至相应的完成队列中的完成条目。
图5示出图4的接口装置的冗余配置。参考图4和5,在具体配置中,多个接口装置150、150’响应于多个主机110、110’。在所示示例中,多个I/O路径152、152’耦合相应的主机110、110’至接口装置150、150’以及然后至存储元件(存储协议124)侧上的共同总线互连166。主机110、110’中的任何一个能够发布请求116,对于所述请求,接口装置150、150’有权访问整个多个存储阵列142。此类配置有益于弹性(resilient)安装,其中,多个主机采用冗余技术,诸如卷遮蔽和RAID(互连磁盘的冗余阵列)布置。
在图5的示例配置中,存储装置110采用双端NDAS架构,其使用两个分离的NDAS桥接卡作为接口装置150、150’来显露两个NVMe端口以用于至上游主机110、110’的I/O路径152、152’。单个NDAS桥接卡上的本机双端口连接也被预见。这些端口采用主动(active)/主动模式来工作以及被相应连接至两个不同的上游主机150、150’。这些主机能够访问NDAS系统上的数据,同时用于相互排斥性的任何语义(semantic)能够通过NVMe预约的使用在NDAS系统中或者由主机来实现。如果主机110、110’中的一个被淘汰,双端口选择还提供故障切换机制,以便其它主机能够接管和有权访问迄今存储的所有数据。多个端口还可以由公开的架构所采用。其它配置可以采用多个接口装置150,以便所述多个接口装置中的每一个耦合至多个主机110,以及主机110中的每一个经由接口装置110中的每一个有权访问多个存储元件142。
图6示出图1的环境中存储元件的互连。参考图6,多个接口装置150被布置在分级结构中。在图6的配置中,接口装置150”连接作为至接口装置150’的存储元件144。整个多个存储装置142”被视为被包括作为存储装置142’的单个存储元件144。此布置可以被采用来提供分级或者排队,其中所述多个存储元件142由存储装置的分级结构所定义,以便存储装置包括更高吞吐量装置以用于缓存数据以用于更慢吞吐量装置上的存储。
通过简单地插入NDAS系统作为存储装置到另一个NDAS系统中,图6因此允许分级结构或者分层的NDAS存储架构。此类系统的树能够被设计以用于非常大的容量/性能的系统。在此类架构中,共同存储体是NVMe存储装置,以及多个存储体中的每一个是NDAS有关的。
本领域技术人员应当容易地领会,本文所定义的程序和方法采用多种形式可送达给用户处理和呈现装置,包括但不限于a)永久存储在诸如ROM装置的不可写存储媒体上的信息,b)可变地存储在可写非暂态存储媒体(诸如软盘、磁带、CD、RAM装置和其它磁和光学媒体)上的信息,或者c)通过通信媒体传递给计算机的信息,如在电子网络中,诸如因特网或者电话调制解调器线路。操作和方法可以在软件可执行对象中实现或者作为响应于指令由处理器执行的编码的指令集来实现。备选地是,本文所公开的操作和方法可以使用硬件组件完全或者部分地被体现,所述硬件组件诸如专用集成电路(ASIC)、现场可编程门阵列(FPGA)、状态机、控制器或者其它硬件组件或者装置,或者硬件、软件和固件组件的组合。
虽然本文所定义的系统和方法已经参考其实施例被具体地示出和描述,但是本领域技术人员将理解,形式和细节中的各种变化可以在其中做出,而没有脱离由所附权利要求所包括的本发明的范围。

Claims (36)

1.一种接口装置,包括:
主机接口,响应于由主机发布的请求,所述主机接口呈现由所述主机访问的存储装置;
存储接口,耦合至多个不同的存储元件,该多个不同的存储元件有关于共同于所述多个不同的存储元件中的每一个的存储协议;以及
映射器,连接在所述主机接口至所述存储接口之间,以及被配置成映射所述主机接口上接收的请求至连接至所述存储接口的特定存储元件,基于所述存储协议而所映射的请求指示所述特定存储元件,所述特定存储元件独立于所呈现的存储装置。
2.如权利要求1所述的接口装置,所述装置进一步包括主机协议,所述主机接口响应于所述主机协议以用于接收由所述主机发布的以及定向至所述呈现的存储装置的请求,所述主机协议未意识到由所述存储协议映射的所述特定的存储元件。
3.如权利要求1-2中任一项所述的接口装置,所述装置进一步包括所述映射器中的FIFO传输逻辑,所述FIFO传送逻辑用于映射所述主机接口上接收的请求至连接至所述存储接口的特定存储元件,所映射的请求基于所述存储协议指示所述特定存储元件。
4.如权利要求1-2中任一项所述的接口装置,其中所述主机接口呈现相应于所述多个不同的存储元件的单个逻辑存储装置,以及所述不同的存储元件中的每一个响应于所述存储协议以用于履行所述发布的请求。
5.如权利要求1-2中任一项所述的接口装置,其中所述存储协议是NDAS以及所述存储元件包括以下中的至少一个:SATA SSD、SATA HDD、PCIe SSD、NVMe SSD、闪速存储器或者基于NAND的媒体。
6.如权利要求2所述的接口装置,其中所述主机协议是NVMe以及所述呈现的存储装置是NVMe驱动。
7.如权利要求1-2中任一项所述的接口装置,所述装置进一步包括至多个主机队列的接口,所述主机队列进一步包括提交队列和完成队列,所述提交队列用于存储未决请求以及相应的有效负载,以及所述完成队列指示所述请求的完成。
8.如权利要求2所述的接口装置,其中所述主机协议是点对点协议以用于从多个主机队列映射请求至存储体,以及所述存储协议响应于所述主机协议以用于标识存储元件以用于满足所述请求,所述主机协议仅涉及所述请求以及未意识到处理所述请求的所述存储元件。
9.如权利要求7所述的接口装置,所述接口装置进一步包括至影子存储器的接口,所述至影子存储器的接口响应于所述接口装置以用于从所述主机传输有效负载条目至所述影子存储器,所述影子存储器用于存储来自所述提交队列的有效负载直到相应的命令条目由背端逻辑接收以用于管理所述多个不同的存储元件;以及
所述映射器响应于所述背端逻辑以用于:
标识所述多个不同的存储元件中的存储元件;以及
基于所述存储协议存储所述有效负载条目在标识的存储元件中。
10.如权利要求1-2中任一项所述的接口装置,其中所述多个不同的存储元件由存储装置的分级结构所定义,所述存储装置包括更高吞吐量的装置以用于缓存数据以用于在更慢的吞吐量装置上存储。
11.如权利要求1-2中任一项所述的接口装置,所述接口装置进一步包括多个接口装置,所述多个接口装置中的每一个被耦合至多个主机,所述主机中的每一个经由所述接口装置中的每一个有权访问所述多个不同的存储元件。
12.一种在存储网络上存储数据的方法,包括:
经由至主机装置的主机接口来接收请求,所述主机装置发布所述请求以用于存储和检索服务,所述主机接口响应于所述主机装置以用于履行所发布的请求,所述请求相应于主机协议以用于定义由所述主机接口识别的所述发布的请求;
调用存储协议以用于确定相应于所述发布的请求的多个不同的存储元件上的存储位置,所述存储协议相关于所述主机协议的至少一个子集;
经由所调用的存储协议映射相应于所述发布的请求的所述主机上的有效负载至一位置以用于在所述存储元件的至少一个中遮蔽标识的有效负载的未决存储;以及
经由存储接口传送所述请求至所述多个不同的存储元件,所述多个不同的存储元件相关于所述存储协议,所述存储协议共同于所述多个不同的存储元件中的所述存储元件的每一个间,所述存储协议呈现共同的存储体至所述主机装置,以及进一步响应于来自所述主机装置的所述发布的请求。
13.如权利要求12所述的方法,所述方法进一步包括映射所述主机接口上接收的所述请求至连接至所述存储接口的特定存储元件,所映射的请求基于所述存储协议指示所述特定存储元件。
14.如权利要求12-13中任一项所述的方法,其中所述主机接口呈现相应于所述多个不同的存储元件的单个逻辑存储装置,以及所述不同的存储元件中的每一个响应于所述存储协议以用于履行所述发布的请求。
15.如权利要求12-13中任一项所述的方法,其中所述主机协议未意识到由所述存储协议所映射的特定存储元件。
16.如权利要求12-13中任一项所述的方法,其中所述存储协议是NDAS以及所述存储元件包括以下中的至少一个:SATA SSD、SATA HDD、PCIe SSD、NVMe SSD、闪速存储器或者基于NAND的媒体。
17.如权利要求12-13中任一项所述的方法,其中所述主机协议是NVMe以及所呈现的存储装置是NVMe驱动。
18.如权利要求12-13中任一项所述的方法,所述方法进一步包括从多个主机队列中的一个接收所述请求,所述主机队列进一步包括提交队列和完成队列,所述提交队列用于存储未决请求以及相应的有效负载,以及所述完成队列指示所述请求的完成。
19.如权利要求18所述的方法,其中所述主机协议是点对点协议以用于从所述多个主机队列映射请求至存储体,以及所述存储协议响应于所述主机协议以用于标识存储元件以用于满足所述请求,所述主机协议仅涉及所述请求以及未意识到处理所述请求的所述存储元件。
20.如权利要求18所述的方法,所述方法进一步包括:存储所述请求在影子存储器中,以及从所述主机传输有效负载条目至所述影子存储器,所述影子存储器用于存储来自所述提交队列的有效负载直到相应的命令条目由背端逻辑接收以用于管理所述多个不同的存储元件;以及
连接在所述主机接口至所述存储接口之间的映射器响应于所述背端逻辑以用于:
标识所述多个不同的存储元件中的存储元件;以及
基于所述存储协议存储所述有效负载条目在标识的存储元件中。
21.如权利要求12-13中任一项所述的方法,其中所述多个不同的存储元件由存储装置的分级结构所定义,所述存储装置包括更高吞吐量的装置以用于缓存数据以用于在更慢的吞吐量装置上存储。
22.如权利要求12-13中任一项所述的方法,其中所述主机接口进一步包括多个接口装置,所述多个接口装置中的每一个被耦合至多个主机,所述主机中的每一个经由所述接口装置中的每一个有权访问所述多个不同的存储元件。
23.一种包括代码的机器可读媒体,当所述代码被执行时导致机器实行如权利要求12-22中任一项所述的方法。
24.如权利要求23所述的机器可读媒体,其中所述共同的存储体是NVMe存储装置。
25.如权利要求23所述的机器可读媒体,其中所述多个不同的存储元件是NDAS有关的。
26.一种在存储网络上存储数据的装置,包括:
用于经由至主机装置的主机接口来接收请求的部件,所述主机装置发布所述请求以用于存储和检索服务,所述主机接口响应于所述主机装置以用于履行所发布的请求,所述请求相应于主机协议以用于定义由所述主机接口识别的所述发布的请求;
用于调用存储协议以用于确定相应于所述发布的请求的多个不同的存储元件上的存储位置的部件,所述存储协议相关于所述主机协议的至少一个子集;
用于经由所调用的存储协议映射相应于所述发布的请求的所述主机上的有效负载至一位置以用于在所述存储元件的至少一个中遮蔽标识的有效负载的未决存储的部件;以及
用于经由存储接口传送所述请求至所述多个不同的存储元件的部件,所述多个不同的存储元件相关于所述存储协议,所述存储协议共同于所述多个不同的存储元件中的所述存储元件的每一个间,所述存储协议呈现共同的存储体至所述主机装置,以及进一步响应于来自所述主机装置的所述发布的请求。
27.如权利要求26所述的装置,还包括用于映射所述主机接口上接收的所述请求至连接至所述存储接口的特定存储元件的部件,所映射的请求基于所述存储协议指示所述特定存储元件。
28.如权利要求26-27中任一项所述的装置,其中所述主机接口呈现相应于所述多个不同的存储元件的单个逻辑存储装置,以及所述不同的存储元件中的每一个响应于所述存储协议以用于履行所述发布的请求。
29.如权利要求26-27中任一项所述的装置,其中所述主机协议未意识到由所述存储协议所映射的特定存储元件。
30.如权利要求26-27中任一项所述的装置,其中所述存储协议是NDAS以及所述存储元件包括以下中的至少一个:SATA SSD、SATA HDD、PCIe SSD、NVMe SSD、闪速存储器或者基于NAND的媒体。
31.如权利要求26-27中任一项所述的装置,其中所述主机协议是NVMe以及所呈现的存储装置是NVMe驱动。
32.如权利要求26-27中任一项所述的装置,还包括用于从多个主机队列中的一个接收所述请求的部件,所述主机队列进一步包括提交队列和完成队列,所述提交队列用于存储未决请求以及相应的有效负载,以及所述完成队列指示所述请求的完成。
33.如权利要求32所述的装置,其中所述主机协议是点对点协议以用于从所述多个主机队列映射请求至存储体,以及所述存储协议响应于所述主机协议以用于标识存储元件以用于满足所述请求,所述主机协议仅涉及所述请求以及未意识到处理所述请求的所述存储元件。
34.如权利要求32所述的装置,还包括:
用于存储所述请求在影子存储器中的部件,
用于从所述主机传输有效负载条目至所述影子存储器的部件,所述影子存储器用于存储来自所述提交队列的有效负载直到相应的命令条目由背端逻辑接收以用于管理所述多个不同的存储元件;以及
用于映射的所述部件响应于所述背端逻辑以用于:
标识所述多个不同的存储元件中的存储元件;以及
基于所述存储协议存储所述有效负载条目在标识的存储元件中。
35.如权利要求26-27中任一项所述的装置,其中所述多个不同的存储元件由存储装置的分级结构所定义,所述存储装置包括更高吞吐量的装置以用于缓存数据以用于在更慢的吞吐量装置上存储。
36.如权利要求26-27中任一项所述的装置,其中所述主机接口进一步包括多个接口装置,所述多个接口装置中的每一个被耦合至多个主机,所述主机中的每一个经由所述接口装置中的每一个有权访问所述多个不同的存储元件。
CN201380080521.6A 2013-11-26 2013-11-26 存储数据的方法和设备 Active CN106104500B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2013/071842 WO2015080690A1 (en) 2013-11-26 2013-11-26 Method and apparatus for storing data

Publications (2)

Publication Number Publication Date
CN106104500A CN106104500A (zh) 2016-11-09
CN106104500B true CN106104500B (zh) 2020-05-19

Family

ID=53199476

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201380080521.6A Active CN106104500B (zh) 2013-11-26 2013-11-26 存储数据的方法和设备

Country Status (5)

Country Link
US (1) US20160259568A1 (zh)
EP (1) EP3074873A4 (zh)
KR (1) KR101744465B1 (zh)
CN (1) CN106104500B (zh)
WO (1) WO2015080690A1 (zh)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9973424B1 (en) * 2013-12-31 2018-05-15 Sanmina Corporation Storage system with flow based services for flash storage
US20150244804A1 (en) * 2014-02-21 2015-08-27 Coho Data, Inc. Methods, systems and devices for parallel network interface data structures with differential data storage service capabilities
US10275160B2 (en) * 2015-12-21 2019-04-30 Intel Corporation Method and apparatus to enable individual non volatile memory express (NVME) input/output (IO) Queues on differing network addresses of an NVME controller
US10320906B2 (en) * 2016-04-29 2019-06-11 Netapp, Inc. Self-organizing storage system for asynchronous storage service
US10387353B2 (en) 2016-07-26 2019-08-20 Samsung Electronics Co., Ltd. System architecture for supporting active pass-through board for multi-mode NMVE over fabrics devices
US10762023B2 (en) 2016-07-26 2020-09-01 Samsung Electronics Co., Ltd. System architecture for supporting active pass-through board for multi-mode NMVe over fabrics devices
US10509592B1 (en) * 2016-07-26 2019-12-17 Pavilion Data Systems, Inc. Parallel data transfer for solid state drives using queue pair subsets
US10200376B2 (en) 2016-08-24 2019-02-05 Intel Corporation Computer product, method, and system to dynamically provide discovery services for host nodes of target systems and storage resources in a network
US10176116B2 (en) 2016-09-28 2019-01-08 Intel Corporation Computer product, method, and system to provide discovery services to discover target storage resources and register a configuration of virtual target storage resources mapping to the target storage resources and an access control list of host nodes allowed to access the virtual target storage resources
US10754732B1 (en) * 2016-09-30 2020-08-25 EMC IP Holding Company LLC Systems and methods for backing up a mainframe computing system
CN106649156B (zh) * 2016-12-07 2019-09-17 英业达科技有限公司 服务器
US10509569B2 (en) 2017-03-24 2019-12-17 Western Digital Technologies, Inc. System and method for adaptive command fetch aggregation
US10452278B2 (en) 2017-03-24 2019-10-22 Western Digital Technologies, Inc. System and method for adaptive early completion posting using controller memory buffer
WO2018175059A1 (en) * 2017-03-24 2018-09-27 Western Digital Technologies, Inc. System and method for speculative execution of commands using the controller memory buffer
US10282094B2 (en) * 2017-03-31 2019-05-07 Samsung Electronics Co., Ltd. Method for aggregated NVME-over-fabrics ESSD
CN107105021A (zh) * 2017-04-06 2017-08-29 南京三宝弘正视觉科技有限公司 一种数据读写方法和装置
US10852990B2 (en) 2017-08-02 2020-12-01 Samsung Electronics Co., Ltd. Hybrid framework of NVMe-based storage system in cloud computing environment
KR20190051564A (ko) * 2017-11-07 2019-05-15 에스케이하이닉스 주식회사 메모리 시스템 및 그것의 동작 방법
KR102410671B1 (ko) 2017-11-24 2022-06-17 삼성전자주식회사 스토리지 장치, 스토리지 장치를 제어하는 호스트 장치, 및 스토리지 장치의 동작 방법
US10521378B2 (en) * 2018-03-09 2019-12-31 Samsung Electronics Co., Ltd. Adaptive interface storage device with multiple storage protocols including NVME and NVME over fabrics storage devices
CN108804035A (zh) * 2018-05-22 2018-11-13 深圳忆联信息系统有限公司 降低io延时的方法、装置、计算机设备及存储介质
US11614986B2 (en) * 2018-08-07 2023-03-28 Marvell Asia Pte Ltd Non-volatile memory switch with host isolation
US11544000B2 (en) 2018-08-08 2023-01-03 Marvell Asia Pte Ltd. Managed switching between one or more hosts and solid state drives (SSDs) based on the NVMe protocol to provide host storage services
US10977199B2 (en) 2018-08-08 2021-04-13 Marvell Asia Pte, Ltd. Modifying NVMe physical region page list pointers and data pointers to facilitate routing of PCIe memory requests
US10846155B2 (en) * 2018-10-16 2020-11-24 Samsung Electronics Co., Ltd. Method for NVMe SSD based storage service using RPC and gRPC tunneling over PCIe +
CN110163011B (zh) * 2019-05-14 2021-06-08 北京计算机技术及应用研究所 一种高速安全硬盘设计方法
CN110245099B (zh) * 2019-05-24 2024-03-29 上海威固信息技术股份有限公司 一种基于fpga的数据存储与转储系统
US11054993B2 (en) 2019-05-28 2021-07-06 Intel Corporation Mass storage system having peer-to-peer data movements between a cache and a backend store
US11044300B2 (en) 2019-10-21 2021-06-22 Citrix Systems, Inc. File transfer control systems and methods
CN111399771B (zh) * 2020-02-28 2023-01-10 苏州浪潮智能科技有限公司 一种mcs存储系统的协议配置方法、装置及设备
US11429544B2 (en) * 2020-12-18 2022-08-30 Micron Technology, Inc. Enabling devices with enhanced persistent memory region access
US20240004823A1 (en) * 2022-06-30 2024-01-04 Advanced Micro Devices, Inc. Dynamic topology discovery and management

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101281454A (zh) * 2008-05-27 2008-10-08 中国科学院计算技术研究所 一种绑定计算资源和存储资源的装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2284947C (en) * 1999-10-04 2005-12-20 Storagequest Inc. Apparatus and method for managing data storage
EP2175440A3 (en) * 2001-03-23 2011-01-12 Yamaha Corporation Music sound synthesis with waveform changing by prediction
US7873700B2 (en) * 2002-08-09 2011-01-18 Netapp, Inc. Multi-protocol storage appliance that provides integrated support for file and block access protocols
US7289975B2 (en) * 2003-08-11 2007-10-30 Teamon Systems, Inc. Communications system with data storage device interface protocol connectors and related methods
JP2007272357A (ja) * 2006-03-30 2007-10-18 Toshiba Corp ストレージクラスタシステム、データ処理方法、及びプログラム
EP2263145B1 (en) * 2008-02-12 2020-02-05 NetApp, Inc. Hybrid media storage system architecture
US9323658B2 (en) * 2009-06-02 2016-04-26 Avago Technologies General Ip (Singapore) Pte. Ltd. Multi-mapped flash RAID
US8588228B1 (en) 2010-08-16 2013-11-19 Pmc-Sierra Us, Inc. Nonvolatile memory controller with host controller interface for retrieving and dispatching nonvolatile memory commands in a distributed manner
US8966172B2 (en) 2011-11-15 2015-02-24 Pavilion Data Systems, Inc. Processor agnostic data storage in a PCIE based shared storage enviroment
CN104246742B (zh) 2012-01-17 2017-11-10 英特尔公司 用于远程客户端访问存储设备的命令验证的技术

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101281454A (zh) * 2008-05-27 2008-10-08 中国科学院计算技术研究所 一种绑定计算资源和存储资源的装置

Also Published As

Publication number Publication date
US20160259568A1 (en) 2016-09-08
EP3074873A1 (en) 2016-10-05
EP3074873A4 (en) 2017-08-16
WO2015080690A1 (en) 2015-06-04
KR20160060119A (ko) 2016-05-27
CN106104500A (zh) 2016-11-09
KR101744465B1 (ko) 2017-06-07

Similar Documents

Publication Publication Date Title
CN106104500B (zh) 存储数据的方法和设备
KR101466592B1 (ko) 스케일러블 스토리지 디바이스들
US10318164B2 (en) Programmable input/output (PIO) engine interface architecture with direct memory access (DMA) for multi-tagging scheme for storage devices
US10732893B2 (en) Non-volatile memory over fabric controller with memory bypass
US9298648B2 (en) Method and system for I/O flow management using RAID controller with DMA capabilitiy to directly send data to PCI-E devices connected to PCI-E switch
US7970953B2 (en) Serial ATA port addressing
US11379374B2 (en) Systems and methods for streaming storage device content
US7805543B2 (en) Hardware oriented host-side native command queuing tag management
US10540307B1 (en) Providing an active/active front end by coupled controllers in a storage system
US8583853B1 (en) Error-handling for write-distribute command in raid mirroring
US9740409B2 (en) Virtualized storage systems
US10620841B2 (en) Transfer of object memory references in a data storage device
US8949509B2 (en) Mass storage systems and methods using solid-state storage media and ancillary interfaces for direct communication between memory cards
CN115495389B (zh) 存储控制器、计算存储装置以及计算存储装置的操作方法
CN110609659A (zh) 用于执行读取命令的NVMeoF RAID实现方法
CN114442916A (zh) 存储器设备、主机系统及操作存储器设备的方法
US10564847B1 (en) Data movement bulk copy operation
US20230325277A1 (en) Memory controller performing selective and parallel error correction, system including the same and operating method of memory device
US11822816B2 (en) Networking device/storage device direct read/write system
US10846020B2 (en) Drive assisted storage controller system and method
CN116225315A (zh) 基于pci-e光纤卡的宽带数据高速录取系统、存储架构和方法
US20200065140A1 (en) Data storage device
US20130132621A1 (en) Method and apparatus to share hardware resources across storage controllers within a system using resource sharing module

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant