CN103229155A - 高速内存系统 - Google Patents
高速内存系统 Download PDFInfo
- Publication number
- CN103229155A CN103229155A CN2011800566767A CN201180056676A CN103229155A CN 103229155 A CN103229155 A CN 103229155A CN 2011800566767 A CN2011800566767 A CN 2011800566767A CN 201180056676 A CN201180056676 A CN 201180056676A CN 103229155 A CN103229155 A CN 103229155A
- Authority
- CN
- China
- Prior art keywords
- memory
- data
- module
- bit
- word
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/14—Handling requests for interconnection or transfer
- G06F13/16—Handling requests for interconnection or transfer for access to memory bus
- G06F13/1605—Handling requests for interconnection or transfer for access to memory bus based on arbitration
- G06F13/1652—Handling requests for interconnection or transfer for access to memory bus based on arbitration in a multiprocessor architecture
- G06F13/1663—Access to shared memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
- G06F11/1008—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
- G06F11/1008—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices
- G06F11/1012—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices using codes or arrangements adapted for a specific type of error
- G06F11/1016—Error in accessing a memory location, i.e. addressing error
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
- G06F11/1008—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices
- G06F11/1068—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices in sector programmable memories, e.g. flash disk
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/08—Error detection or correction by redundancy in data representation, e.g. by using checking codes
- G06F11/10—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's
- G06F11/1008—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices
- G06F11/1072—Adding special bits or symbols to the coded information, e.g. parity check, casting out 9's or 11's in individual solid state devices in multilevel memories
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/02—Addressing or allocation; Relocation
- G06F12/0223—User address space allocation, e.g. contiguous or non contiguous base addressing
- G06F12/023—Free address space management
- G06F12/0238—Memory management in non-volatile memory, e.g. resistive RAM or ferroelectric memory
- G06F12/0246—Memory management in non-volatile memory, e.g. resistive RAM or ferroelectric memory in block erasable memory, e.g. flash memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/14—Handling requests for interconnection or transfer
- G06F13/16—Handling requests for interconnection or transfer for access to memory bus
- G06F13/1668—Details of memory controller
- G06F13/1673—Details of memory controller using buffers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/14—Handling requests for interconnection or transfer
- G06F13/20—Handling requests for interconnection or transfer for access to input/output bus
- G06F13/28—Handling requests for interconnection or transfer for access to input/output bus using burst mode transfer, e.g. direct memory access DMA, cycle steal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/38—Information transfer, e.g. on bus
- G06F13/40—Bus structure
- G06F13/4004—Coupling between buses
- G06F13/4022—Coupling between buses using switching circuits, e.g. switching matrix, connection or expansion network
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/38—Information transfer, e.g. on bus
- G06F13/42—Bus transfer protocol, e.g. handshake; Synchronisation
- G06F13/4204—Bus transfer protocol, e.g. handshake; Synchronisation on a parallel bus
- G06F13/4221—Bus transfer protocol, e.g. handshake; Synchronisation on a parallel bus being an input/output bus, e.g. ISA bus, EISA bus, PCI bus, SCSI bus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
- G06F3/0673—Single storage device
- G06F3/0679—Non-volatile semiconductor memory device, e.g. flash memory, one time programmable memory [OTP]
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11C—STATIC STORES
- G11C7/00—Arrangements for writing information into, or reading information out from, a digital store
- G11C7/10—Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers
- G11C7/1072—Input/output [I/O] data interface arrangements, e.g. I/O data control circuits, I/O data buffers for memories with random access ports synchronised on clock signal pulse trains, e.g. synchronous memories, self timed memories
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/14—Handling requests for interconnection or transfer
- G06F13/16—Handling requests for interconnection or transfer for access to memory bus
- G06F13/1605—Handling requests for interconnection or transfer for access to memory bus based on arbitration
- G06F13/1652—Handling requests for interconnection or transfer for access to memory bus based on arbitration in a multiprocessor architecture
- G06F13/1657—Access to multiple memories
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
- G06F2212/72—Details relating to flash memory management
- G06F2212/7208—Multiple device management, e.g. distributing data over multiple flash devices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2213/00—Indexing scheme relating to interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F2213/0038—System on Chip
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/061—Improving I/O performance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/0671—In-line storage system
- G06F3/0683—Plurality of storage devices
Abstract
本发明所公开的实施例涉及具有高速串行通信的基于闪存的内存模块。该基于闪存的内存模块包括:多个I/O模块,其分别被配置成通过一个或多个外部通信链路与外部装置通信、多个基于闪存的内存卡,其分别包括多个闪存式内存装置,以及多个纵横交换元件,其分别被连接至这些基于闪存的内存卡中相应的一个上,并被配置成使I/O模块中的每一个能够与这些基于闪存的内存卡中相应的一个进行通信。每一个I/O模块通过高速串行通信链路被连接至每一个纵横交换元件上,并且每一个纵横交换元件通过多个并行通信链路被连接至这些基于闪存的内存卡中相应的一个上。
Description
相关申请的交叉引用
本申请要求根据提交于2010年9月24日的第61/386,237号,名称为“High-Speed Memory System”的美国临时申请的优先权的利益,在此结合该临时申请的全部内容作为参考。
技术领域
本公开内容一般涉及通过外部主机装置和/或外部通信装置访问的存储系统。
背景技术
存储系统经常使用各种各样的方法和装置来接收入局数据(incomingdata)和数据请求,并对那些请求进行处理以存储或重新取回数据。通常这样的存储系统受限于它们的带宽,这是因为它们的输入/输出端口数量有限,以及/或者因为该系统中存在瓶颈。出现这样的瓶颈可能是由于使用了相对较慢的数据总线,以及使用了复杂的转换或传输构架和/或协议。
据此,需要一种更有效、更高效且优化的高速内存系统。
发明内容
所公开的实施例涉及用于提供更有效、更高效和优化的高速内存系统的方法和设备。通常,一方面,所公开的实施例涉及具有高速串行通信的基于闪存的内存模块。这种基于闪存的内存模块包括:多个输入/输出(I/O)模块,每一个I/O模块被配置成通过一个或多个外部通信链路与外部装置通信;多个基于闪存的内存卡,每一个基于闪存的内存卡包括多个闪存式内存装置,每一个闪存式内存装置具有物理内存空间,其被划分成块,每一块进一步被划分成页面,每一个页面代表了可单独寻址的内存位置,内存操作在该位置上执行,在一个块组群中的多个这样的内存位置可同时被擦除,以及,多个纵横交换元件(crossbar switching element),每一个纵横交换元件被连接至基于闪存的内存卡中相应的一个内存卡上,并被配置成使得I/O模块中的每一个都与该相应的一个基于闪存的内存卡通信。每一个I/O模块都通过高速串行通信链路被连接至每一个纵横交换元件上,每一个高速串行通信链路使得每一个I/O模块都向每一个纵横交换元件发送代表命令、指令和/或数据的比特和从每一个纵横交换元件接收代表命令、指令和/或数据的比特,并且,每一个纵横交换元件都通过多个并行通信链路被连接至基于闪存的内存卡中相应的一个上,每一个并行通信链路将一个纵横交换元件连接至基于闪存的内存卡中的相应的一个内存卡的闪存式内存装置中的一个上。
通常,另一方面,所公开的实施例涉及可扩展高速内存。该可扩展高速内存包括:印刷电路板(PCB);接口电路,其被安装在PCB上并被配置成使高速内存卡通过一个或多个高速串行通信链路从一个或多个外部装置接收代表指令、命令和/或数据的比特;多个内存装置,其被安装在PCB上,每一个内存装置具有物理内存空间,在其中执行内存操作,以及,控制器,其被安装在PCB上并被连接至接口电路和多个内存装置,该控制器被配置成控制接口电路和每一个内存装置之间的通信以执行这些内存操作。接口电路通过多个高速串行通信线被连接至控制器,每一个高速串行通信线对应于高速串行通信链路中的一个,并且该控制器通过预定数量的并行通信线被连接至多个内存装置,该控制器被配置成将来自高速串行通信链路的代表命令、指令和/或数据的比特从串行格式转换成并行格式。
通常,再一方面,所公开的实施例涉及具有高速串行通信的内存模块。该内存模块包括:第一多个输入处理块和第二多个输入处理块,每一个输入处理块被配置成依据串行格式接收代表命令、指令,和/或数据的比特,并依据并行格式重新配置这些代表命令、指令,和/或数据的比特;多个内存装置,每一个内存装置具有物理内存空间,在其中执行内存操作,以及,控制器,其被连接至第一和第二多个输入处理块和内存装置,该处理器被配置成控制该第一和第二多个输入处理块与每一个内存装置之间的通信以执行内存操作。该控制器包括:(a)第一多信道缓冲器和第二多信道缓冲器,其分别被连接至第一和第二多个输入处理块,每一个多信道缓冲器被配置成分别从第一和第二多个输入处理块以并行格式接收代表命令、指令和/或数据的比特,并将根据这些代表命令、指令,和/或数据的比特构建预定数量的字,每个字包括预定数量的比特;(b)第一纠错和数据保护电路以及第二纠错和数据保护电路,其分别被连接至第一和第二多信道缓冲器,该第一和第二纠错和数据保护电路被配置成分别从第一和第二多信道缓冲器接收字,用这些字生成一个或多个纠错码比特,将用于每一个字的纠错码比特添加到该字中,并输出已添加纠错码比特的每一个字;(c)第一输出缓冲器和第二输出缓冲器,其分别被连接至第一和第二纠错和数据保护电路,该第一和第二输出缓冲器被配置成从第一和第二纠错和数据保护电路依次接收具有已添加纠错码比特的字,使得来自第一和第二纠错和数据保护电路中的一个的第一个字被提供给第一和第二输出缓冲器中的一个,并且来自第一和第二纠错和数据保护电路中另一个的下一个字被提供给第一和第二输出缓冲器中的另一个,以及(d)内存缓冲器,其被配置成从第一和第二输出缓冲器接收已添加纠错码比特的字,并以预定方式将预定数量的字进行组合以形成超字(super-word)。
附图说明
图1示出了依据本公开内容的一定的教导而构建的高速存储系统;
图1A至图1C示出了DMA读取-修改-写入操作的示例,其可在本公开内容中的高速存储系统中执行;
图2示出了I/O模块的示例性实施例,其可被用于本公开内容中的高速存储系统;
图3示出了I/O模块的可替换示例性实施例,其可被用于本公开内容中的高速存储系统;
图4示出了用于实现在以上结合图1说明的该类纵横模块的一个示例性手段;
图5示出了内存卡的示例性实施例,其可被用于本公开内容中的系统;
图6示出了内存卡的可替换实施例,其可被用于本公开内容中的高速存储系统;
图7示出了可替换的高速存储系统,其中I/O模块与内存板直接通信,而未使用纵横模块;
图8示出了高速内存板的示例性实施例,其可被用于图7中的高速存储系统;
图9更详细地示出了示例性高速内存板的部件;
图10A示出了用于高速内存板的串行器/解串行器和分组模块的示例性实施例;
图10B至图10D示出了用于高速内存板的先入-先出(FIFO)存储缓冲器的示例性实施例;
图11示出了用于高速内存板的多信道FIFO缓冲器的示例性实施例;
图12和图12A示出了将数据从纠错和数据保护电路移至高速内存板的输出FIFO缓冲器的示例性处理;
图13A和图13B说明了用于通过多个单独的高速串行通信链路转移数据的示例性处理;
图14A至图14D示出了用于在高速串行通信链路上转移数据时,避免来自不同的写入操作的数据不适当地“混合”的示例性处理;
图15示出了本公开内容中的高速存储系统中,用于在访问在高速串行通信链路上移动的数据的READ(读取)和WRITE(写入)之间进行裁定的示例性处理;
图16示出了在本公开内容中的高速存储系统中的示例性控制器,以及在该控制器和物理RAM内存之间的连接;
图17示出了在本公开内容中的高速存储系统中的两个基本内存周期内对图16中的控制器的示例性操作。
具体实施方式
以上说明的附图和下面对特定构造和功能的文字说明并不体现为限制本申请所创造出的发明或随附的权利要求书的范围。而是,提供这些附图和文字说明是用于教导本领域任何技术人员以制造和使用这些寻求专利保护的发明。那些本领域技术人员将体会到,为了清楚和便于理解的原因,并未说明或示出了本发明的商用实施例的所有特征。本领域技术人员还将体会到,对结合本发明各方面的实际商用实施例的研发将需要做出许多具体实施决策,以达到研发者对该商用实施例的最终目标。这样的具体实施决策可包括,且很可能并不限于,符合系统相关的、商业相关的、政府相关的以及其它的规定,其可能根据具体的实施方式、位置以及时间变迁而改变。虽然研发者的努力可能在绝对意义上是很复杂并且很耗时的,然而,这样的努力对于那些获得本公开内容利益的本领域技术人员是日常工作。必须理解的是,本文所公开和教导的发明可具有大量的且各种各样的变形和可替换形式。最后,单数性术语,例如但不限于“某一个”,的使用并非旨在限制对象的数量。而且,在本文字性说明书中的关系性术语,例如但不限于“顶部”、“底部”、“左”、“右”、“上部”、“下部”、“向下”、“向上”、“侧面”等都是为了具体参考附图时清楚的目的而使用的,而非意图限制本发明的或随附的权利要求书的范围。
示例性存储系统
转向附图并尤其参考图1,示出了依据本公开内容的一定的教导而构建的高速存储系统100。通常,该高速存储系统100从外部主机装置接收数据相关的请求,诸如READ和WRITE请求,并处理那些请求,以向物理内存存储数据和/或从物理内存重新取回数据。
该示例性存储系统100包括并使用了多个输入/输出模块、高速串行通信信道、可配置纵横模块、并行内存总线,和物理内存卡,以提供连接的高带宽存储系统。在下面提供了该系统的额外的细节及其许多新颖的方面。
参考图1,系统100包括多个输入/输出(I/O)接口模块102、104、106、108和110。在该示例中,示出了五个I/O模块,但是I/O模块的数量并不是一定的,而是可以改变的。每一个I/O模块经由主机通信信道(分别为102a、104a、106a、108a和110a)被耦接至一个或多个外部主机装置。这些信道102a、104a、106a、108a和110a使得外部装置-诸如服务器或可作为主机操作的任意其它的装置-向/从该I/O接口模块102、104、106、108和110提供和/或接收命令、指令和数据。
这些主机通信信道可采用不同的形式并且附带不同的协议,这些协议包括但不限于:光纤信道(Fibre Channel)、无限带宽(InfiniBand)、以太网,和前面板数据端口(FPDP)。虽然由本公开系统提供的好处具有完全的优势,但是这些通信链路的精确的物理和逻辑构架并不一定是所公开的系统这样的。可优选的是,这些主机通信链路能够支持高带宽数据传输。
在图1的示例中,I/O模块102、104、106、108和110中的每一个都通过多个高速串行通信信道(在图1中全部标记为115)被耦接至四个可配置纵横模块120、122、124和126。这些信道使I/O模块将命令、指令和/或数据发送至纵横模块,正如下面详细说明的。
在所示出的实施例中具有四个纵横模块120、122、124和126,但是可以体会到的是,纵横模块的数量并不是一定的,也可以是不同的。在图1中,四个纵横模块中的每一个经由分别的串行系统通信信道被耦接至五个I/O模块中的每一个上。可以设想到,在可替换的实施例中,可将一个或多个纵横模块耦接至全部I/O模块中较少的几个上。
如图1所反映出的,在该示例性实施例中,每一个纵横模块都通过多个并行内存总线被耦接至成组的内存卡上。例如,在所示出的示例中,纵横模块120通过第一组并行内存总线130被耦接至第一组内存卡140。通过类似的方式,纵横模块122、124和126分别经由并行内存总线组群132、134和136被耦接至内存卡组群142、144和146上。在所示出的示例中,每一个纵横模块通过五个多路并行总线被耦接至一组五个内存卡,其可分别被用于通信控制、命令,或监控信息,以及传输数据。将体会到的是,内存卡的数量以及内存接口总线的类型可能不同,而不背离本公开内容的教导。
在所示出的示例中,每一个内存卡,并且因此每一组内存卡,将一般地对应于特定范围的存储位置。该特定范围可以是实际的物理地址范围(例如,在该地址范围中,每一个地址对应于与该内存卡相关联的特定物理存储位置),或者可以是逻辑地址范围(例如,在该逻辑地址范围中,每一个逻辑地址可通过内存卡上的控制器或者外部控制器映射到与该内存卡相关联的物理存储位置)。
在图1的示例中,总体系统100将向外部主机提供许多可用的存储地址,并且每一个内存卡将通常对应于由该系统100所提供的特定范围的地址。此外,因为每一组内存卡与特定范围的地址相关联,所以每一个纵横块(crossbar)也与对应于其连接的该组内存卡的地址范围相关联。
在图1的系统100中,系统控制器150被耦接至I/O模块102、104、106、108和110中的每一个以及纵横模块120、122、124和126中的每一个上。虽然在图1中该系统控制器连接至全部五个I/O模块,但是仅示出了一个这样的连接。同样地,在系统控制器和纵横模块之间的四个连接中仅示出了一个连接。通常,系统控制器150提供了定时和同步信号,但是其也可被用于执行监控、报告,以及其它监管任务。
在一般的操作中,每一个I/O模块通过其主机通信链路从连接该I/O模块的外部主机装置接收外部数据相关的请求。每一个I/O模块处理这些数据相关的请求,以能够向存储系统100存储数据和/或从存储系统100重新取回数据。在图1的实施例中是以不同的通信“分组”形式接收数据请求并且返回响应的,但是也可使用可替换的通信协议。
虽然精确的协议细节取决于应用,但是应该针对低通信开销选择外部协议,这有利于高数据吞吐量。在图1的系统中,I/O模块接收和处理的通信分组典型地包括头部(header)以及,如果该分组要传送数据,则包括数据有效载荷(payload)。虽然头部的准确内容和格式根据不同应用而不同,但是头部将典型地包括:(a)指示请求类型的标识符(例如,该请求是要将数据存储到系统中的WRITE请求,还是要重新取回先前被存储在该系统中的数据的READ请求);(b)指示与该请求相关联的特定ADDRESS的标识符(例如,特定的逻辑或物理“地址”,其对于WRITE请求将通常标识出与该请求相关联的数据存储的开始位置,或者,对于READ请求为重新获取与该请求相关联的数据的起始位置-这些地址中的每一个有时被称为“TARGETADDRESS(目标地址)”);以及,对于一些系统,(c)对该数据相关的请求的源的识别(有时被称为“SOURCE ADDRESS(源地址)”);以及,(d)指示与该请求相关联的数据量的标识符(例如,对将作为该请求的一部分被存储到系统或从系统重新取回的字节数、页面数或其它数据量的指示)。对于一些通信协议,将所有外部数据相关的请求推断为与数据的特定量相关联,诸如特定大小的数据页面,或特定数量的数据字。在这样的协议中,可能不需要具体指明与特定外部请求相关联的数据量,因为对于该特定协议,该请求涉及的数据的标准数量将隐含在内。
正如外部装置向它们附带的I/O模块发出数据相关的请求那样,I/O模块也向它们连接的纵横模块以及它们附带的内存卡发出请求,这被称为DMA(direct memory access,直接内存访问)请求,简称为DMA。每一个外部请求可要求访问一定范围的系统地址,这些地址跨越多个内存卡和纵横模块。即使特定的外部请求仅要求访问一个内存卡,与该外部请求相关联的数据量也可能超过与单个DMA请求相关联的最大数据量。由于这个原因,I/O模块可针对其接收的每一个外部请求发出多于一个的DMA请求。在这种情景下,DMA请求以这样的方式被引导至内存卡,即:在该系统内的正确的物理位置处进行数据存储或重新读取。在外部READ请求的情况下,例如,I/O模块将发出一个或多个DMA READ请求,以便从其被存储的不同位置“收集”被请求的数据。在外部WRITE请求的情况下,I/O模块一般将发出一个或多个DMA WRITE请求,以便将所有被接收的数据“传递”至其应该被存储的不同的位置。
通常,DMA WRITE请求被整合到“分组”中,该请求及其相关联的数据驻留在同一个分组内。另一方面,DMA READ请求通常仅包括请求信息(地址、数据量等)。对这些请求类型中每一种请求的响应是大致的补充。对于由I/O模块发出的每一个DMA WRITE请求,纵横块将返回DMAWRITE响应分组,其最低限度包括指示WRITE操作成功或失败的状态信息。对于由I/O模块发出的每一个DMA READ请求,纵横块将返回DMAREAD响应分组,其包含所请求的数据,以及,最低限度包含指示所返回数据有效性的状态信息。
在一个实施例中,系统内的内存卡中的每一个都采用了闪存式内存,每一个DMA请求指定了对固定量数据的传输,该固定量等于被存储在单个闪存式内存“页面”中的数据量。在该示例中,页面一般是可被分散地写入该闪存式内存的最小信息量。
在图1的系统100中,DMA请求通常被定义成向与固定的地址边界对准的地址和从与固定的地址边界对准的地址传输固定的数据量(4Kbytes)。在一些情况下,外部WRITE请求所跨越的地址范围有可能并不与这些固定的DMA请求地址边界对准。如图1A至图1C所示,外部WRITE请求可能在并不对应于所允许的DMA请求的起始地址的地址处开始。类似地,DMAWRITE请求可能在并不对应于DMA请求的结束地址的地址处结束。当出现这种“不对准”时,I/O卡可执行一次或多次读取-改变-写入(RMW)操作。在一次读取-改变-写入操作中,I/O模块发出DMA READ请求,以从系统内存中从跨外部WRITE请求的开始和/或结尾的地址范围中重新取回数据。然后I/O模块使用来自未对准的WRITE请求的外部数据改变(重置)一部分被重新取回的数据,并且然后通过发出补充DMA WRITE请求,将改变后的数据返回系统内存。通过这种方式,I/O模块能够将数据存储至系统内存中没有符合单独DMA请求的对准限制的地址范围处。
图1A示出了“包含在内”的情况的示例,在这种情况下,外部WRITE请求指定完全被包含在一个页面之内的地址和数据量160,但是这将导致读取-改变-写入操作被执行,因为起始地址并不与DMA地址边界对准。在这种情况下,仅需要一个DMA READ请求。使用与DMA READ请求相同(对准)的地址发出的DMA WRITE请求代替先前存储的数据覆盖新(被改变)的数据。图1B示出了具有跨两个闪存页面的指定地址和数据量170的外部WRITE请求。这种“跨地址”的情况将产生两个重新取回数据的DMA READ请求,并随后产生两个DMA WRITE请求以返回新的数据图像。图1C示出了外部WRITE请求,该外部WRITE请求的指定地址和数据量180横跨了三个页面。在这种“横跨”的情况下,I/O卡将发出针对第一页面的DMAREAD请求,覆盖新数据,并发出DMA WRITE请求以适应这些改变。由于下一个页面将完全被新的数据改写,I/O卡将无需在该页面上执行读取-改变-写入操作,并将简单地向该对准的地址发出DMA WRITE请求。但是,新数据集合剩下的数据并未完全填满第三页面。因此,I/O卡将以前述方式针对该页面执行读取-改变-写入。将体会到的是,这三种情况仅是可能进行操作的外部WRITE请求操作类型的子集,并且仅仅旨在说明读取-改变-写入操作。
虽然外部请求的结构通常是取决于协议的,但是对于特定的系统,内部DMA请求/响应协议通常是固定的,并且被设计成使系统性能最大化。在图1的系统中,DMA请求和DMA响应被构造成分组那样,包括头部和,如果该分组传输数据,则包括数据有效载荷。
DMA请求典型地包括:(a)指示DMA请求类型的标识符(即,DMA请求是要将数据存储到系统中的WRITE请求,还是要重新取回前面被存储到系统中的数据的READ请求);(b)指示与该DMA请求相关联的特定的ADDRESS的标识符(例如,特定的逻辑或物理“地址”,其对于DMA WRITE请求将一般标识出与请求相关联的数据存储开始的位置,或者,对于DMAREAD请求,将标识出与该请求相关联的数据的重新取回应该开始的位置);(c)指示该DMA请求起源的I/O模块的标识符;以及(d)“标签(tag)”,其对于每一个I/O模块,唯一地标识出起源于该模块的特定的DMA请求。对于DMA WRITE请求,该请求还包括要被存储在用于该请求的系统内存中的数据。在图1的系统100中,与每一个DMA请求相关联的数据量是固定的。对于数据量可变的系统,头部可还包括(e)指示与该请求相关联的数据量的标识符。
DMA响应典型地包括:(a)指示DMA响应类型的标识符(即,该响应是对应于DMA WRITE请求,还是DMA READ请求),(b)用于每一个I/O模块的“标签”,其可被I/O模块用于将每一个DMA响应与其对应的DMA请求唯一地关联起来,以及,(c)状态标识符,用于DMA WRITE响应的状态标识符指示了对应的写入操作是成功还是失败,或者,用于DMA READ请求的状态标识符指示了重新取回的数据的有效性。对于DMA READ响应,该响应还包括通过原始DMA READ请求所请求的数据。
在图1的系统100中,I/O模块将通过最低限度地处理该请求来响应外部数据相关的请求,以确定其为READ请求还是WRITE请求,并且确定对应的DMA请求要被引导至其上的纵横块(并在可能时确定内存板),以便满足外部请求。
如上所提供的,I/O模块在最低程度上处理了外部数据相关的请求之后,该系统的组件将进行操作以满足该请求。例如,I/O模块将初始处理每一个外部数据相关的请求,以识别出其类型(是READ还是WRITE),以及确定需要发出的特定的DMA请求,以满足该外部请求。然后I/O模块将所需的DMA请求传达给适宜的纵横模块,用于进一步处理。该纵横模块依次将(a)确定内存卡,每一个接收到的DMA请求应该被引导至该内存卡上,(b)将每一个接收到的DMA请求由其串行格式转变成可适用于呈现给内存卡的并行格式,以及然后(c)将每一个DMA请求的所有或者部分转发给内存卡,该内存卡的地址范围横跨与该DMA请求相关联的地址。如在下面更详细地说明的,该内存卡中的电路将进一步处理DMA请求,以将所提供的数据存储在物理内存中(针对DMA WRITE请求)或者,从物理内存重新取回数据(针对DMA READ请求)。重要的是注意与每一个DMA WRITE请求相关联的数据有效载荷通常被作为该请求的一部分进行传达。在一些实施例中,在纵横模块和内存卡之间可具有确认(ACK)信号以确定该数据已经被成功地发送给这些内存卡。
通过使用用于I/O模块和纵横模块的高速串行系统通信链路、可配置纵横模块,以及,用于纵横模块和内存卡的高速并行内存通信链路的组合,存储系统100提供了甚高带宽(extremely high-bandwidth)系统。
在以上所讨论的示例中,将I/O接口模块耦接至纵横模块的高速串行通信链路被用于运载命令以及控制信息(例如,在DMA请求的头部中发现的类型信息)和数据(例如,在数据有效载荷中所提供的信息)。可替换的实施例被设想成,在其中,一些附加的最小串行通信链路被用于提供不涉及传输在数据有效载荷中所接收的类型数据的通信。例如,将实施例设想成,其中相关的低带宽、低速串行通信链路可被用于特定的通信类别,从而从该高速链路上卸载一定量的业务量(traffic),并在这些链路性能上获得相应的加速。例如,每一个DMA READ请求和DMA WRITE响应可以这种方式被发送,针对DMA WRITE请求和DMA READ响应分别预留高速串行链路,这两者都在它们各自的分组内传输数据。由于DMA READ请求和DMA WRITE响应并不传送任何数据有效载荷,它们通常在尺寸上小得多,并可利用较慢的通信链路,而无须牺牲较大的性能作为代价。在可替换的实施例中,DMAREAD请求和DMA WRITE响应可在可替换的低带宽串行信道上发送至所有纵横模块,或者从所有纵横模块通过单独共享的高速链路被广播。
高速串行链路还可被用于使用多点总线将所有纵横块连接至所有I/O模块,以类似于数据的信号速率提供这种边带数据。可替换地,这种边带链路可被实现成环形构造(ring structure)。在这两种情况下,其可在额外的判决逻辑和硬件的代价下减少系统中点到点连接的数量,但额外的好处是带来了的更高的数据吞吐量和带宽。
在下面提供了涉及以上所讨论的特定元件的额外的细节,以及元件和/或总体系统的可替换的实施例。
I/O模块
图1中的I/O模块可采用多种形式。在图2中提供了可适用的I/O模块的一个示范性实施。
参考图2,示出了示范性I/O模块200。在该示例中,I/O模块200提供了具有两个分开的光纤信道(“FC”)端口(201和203)的接口,每个都使特定的I/O模块200连接至光纤信道主机总线适配器(未示出),从而使外部主机作为SCSI装置访问系统100。每一个端口(201或203)包括单个发送链路和单个接收链路,每一个链路以每秒2.125gigabits(Gb/s)或4.25Gb/s工作。每一个端口可支持点到点和判决环光纤信道协议(Arbitrated LoopFibre Channel protocols)。将体会到的是,这种物理接口和SCSI和光纤信道(FC)协议是示例性的,而且也可使用其它的物理接口和协议。
参考图2,示例性I/O模块200包括光电转换器202a和202b,用于在光和电的格式之间转换信息。通常,这些装置(202a和202b)中的每一个将从其外部光纤接收链路(201或203)上接收的信号转换成电信号,然后将该电信号转发至高速控制器204。同样地,这些装置中的每一个将从高速控制器204接收到的电信号转换成在其外部光发送链路上被发送的光信号。已知的光电转换器可被使用。
如以上所提到的光电转换器被耦接至高速控制器204上。在图2的示例中,高速控制器204为经配置的场可编程门阵列(FPGA),例如Xilinx Virtex-4FPGA装置。控制器204通过通信链路被耦接至可编程微处理器(CPU)206,诸如Freescale MPC8547处理器206,并连接至内存208。在所说明的示例中,内存208是由DDP内存组件组成的。
正如可看出的,控制器204提供了四个高速串行系统通信信道210、212、214和216。处理器206和控制器204一起实现了在外部光纤信道端口(201和203)和四个串行系统通信信道210、212、214和216之间的协议变换功能。在所示出的示例中,串行系统通信信道中的每一个都包括全双工物理层,其包括发送(TX)子信道和接收(RX)子信道。每一个子信道进一步包括两个区别为5Gb/s的串行通信链路,它们被绑定在一起,以形成能够具有10Gb/s数据传输速度的单个子信道。在该示例中,在串行系统通信信道发送数据之前将数据进行8B/10B编码,产生8Gb/Sec(或每秒1GByte(1GB/sec))的数据传输速率。可替换的编码方案(例如,64B/66B编码)也可被采用。在图2的示例中,使用了在Xilinx Vertex-4FPGA装置中可用的多千兆位收发器(MGT)模块来实现每一个串行通信信道,但是可体会到的是,也可采用其它类似的实现方法,而不背离本公开内容的教导。绑定通信链路的有效过程,诸如那些可通过FPGA装置中的Xilinx Virtex-4族实现的,可被用于形成通信信道。可替换地,与其它串行化/解串行化(SerDes)协议相关联的其它的绑定方案也可被采用。
在图2的示例中,I/O接口模块200提供了四个串行系统通信信道210、212、214和216,其分别连接至不同的纵横模块。对这四个全双工串行系统通信信道的使用共同地向每一个I/O模块提供了潜在的4GB/sec的读取带宽和4GB/sec的写入带宽。假设图1的系统100使用五个I/O模块的情况下,示例性示出的系统将具有20GB/sec的总读取带宽和20GB/sec的总写入带宽。
通常,高速控制器204接收并处理在FC接口201和203上接收的外部数据相关的请求。如以上所说明的,每一个外部数据相关的请求将典型地包括头部,其指示了:(a)该请求是READ还是WRITE请求,以及(b)TARGETADDRESS(目标地址)。头部可选择性地指示(c)SOURCE ADDRESS(源地址),以及(d)该请求相关联的数据量的指示。对于WRITE请求,这些请求将还包括数据有效载荷。高速控制器204将处理该请求,并可将许多头部信息(但无任何数据有效载荷)提供给处理器或CPU206。该CPU206将管理该FC协议的至少一些部分并辅助总系统接口的管理。
如前面所讨论的,高速控制器204和CPU206一起工作,以管理外部光纤信道链路。除一些最低限度的CPU辅助外,该高速控制器204在大多数实施例中独自负责发出内部DMA请求,其需要满足外部数据相关的请求中的每一个请求。尤其是,为了满足每个外部需求,高速控制器204确定了必须被发出的特定的DMA请求,以及该DMA请求必须被发送到的纵横块。一旦该高速控制器识别出适用的纵横模块和满足外部请求所需要的DMA请求,其向适当的纵横块开始发出DMA请求。通常,可由I/O模块200发出的待处理DMA请求(尚未接收到响应的那些请求)的数量受DMA头部中标签字段(tag field)的大小的限制。对于相对较小的传输,所需DMA请求的数量将是较小的,并且高速控制器204可发出它们所有,而不用等待任何响应的接收。对于较大的传输,所需DMA请求的数量可能是较大的,并且高速控制器204可能被迫延迟对DMA请求的发出。例如在给定标签值为8bit的情况下,该高速控制器可初始地发出256个DMA请求而不必重复使用任何标签值。每一个待处理的DMA请求将被唯一地贴上标签,使高速控制器能够将每一个DMA响应与其对应的DMA请求关联起来。在返回对这些DMA请求的响应时,高速控制器可开始重复使用这些来自已完成的DMA请求(那些已经接收到DMA响应的DMA请求)的标签,从而能够发出后续DMA请求。
通常,DMA请求和它们对应的DMA响应在串行系统通信信道210、212、214和216上传输。因为每一个I/O模块提供了四个串行通信信道,其可同时或接近同时地向不同纵横模块独立地发送数据和/或从不同纵横模块独立地接收数据。
如早前所说明的,为了满足每一个外部数据相关的请求,高速控制器204负责将READ和WRITE DMA请求传达给正确的纵横模块。在一个实施例中,高速控制器204确定了哪个纵横模块应该通过使用在该高速控制器内存208中所维护的查询表格接收每一个DMA请求。在该实施例中,控制器204将访问并维护查询表格,其将包括信息,该信息将由系统所呈现的总地址范围内的特定地址范围的信息与特定纵横模块相关联。这种方法的一个好处是,其在对系统进行配置和重配置方面提供了一定程度的灵活性。在再进一步的实施例中,在内存208中的查询表格将进一步将所呈现的特定地址范围与给定的内存卡相关联起来,并将不同的内存卡与纵横模块关联起来,使得所接收的地址将与给定的纵横模块相对应,并且与被耦接至该给定的纵横模块的特定的内存卡相对应。
在可替换的实施例中,给定的纵横模块和所接收的地址之间的关系是“硬件连线的”,使得给定的地址范围将总是对应于特定的纵横模块。
在另一个实施例中,给定的纵横块和所接收到的地址之间的关系是动态的,从而使失败的或其它不可用的内存卡或纵横块能够被“重新映射”到另一个内存卡或纵横模块上。
通过I/O模块(诸如图2中的I/O接口模块200)发出的DMA传输,可指定固定或可变数据量的传输。在DMA传输尺寸固定的实施例中,DMA请求可不必提供关于要被传输的数据量的信息。在内存卡使用闪存式内存的实施例中,DMA传输大小被固定成在单个闪存式内存页面中所存储的数据量。
DMA操作可传输可变的数据量。在这样的实施例中,每一个DMA请求将典型地包括对要被传输的数据量的指示(通常按照最小数据量的倍数)。
在DMA WRITE操作过程中,不管DMA传输是使用固定的还是可变的传输尺寸执行的,高速控制器204将从连接的外部主机装置接收的数据排成队列。对于包括多个DMA WRITE请求的较大的数据传输,I/O接口在开始发出DMA WRITE请求之前不需要等待接收到所有的外部数据。而是,只要数据足够支持每一个DMA WRITE请求,高速控制器就可开始发出DMAWRITE请求,并继续发出DMA WRITE请求。
在DMA READ操作过程中,高速控制器将在相反方向(离开系统内存)上流动的数据排成队列。在这种情况下,高速控制器将发出多个DMA READ请求,并然后等待要从各个纵横模块被返回DMA READ响应。由于这些响应可以与它们对应的DMA READ请求不同的顺序被接收,高速控制器必须将从纵横模块接收的数据排成队列,直到数据可以其正确的顺序被传送。在假设外部数据请求需要发出256个DMA READ请求的场景下,可能发生的是,最后的DMA READ响应将对应于第一个DMA READ请求,从而需要I/O接口将来自256个DMA传输的数据排成队列。只要数据可按顺序被传送,I/O接口就可以仅将数据卸载到外部请求器(主机装置)中。
通过上述方式,I/O接口模块200可从外部主机接收数据相关的请求,访问系统100内的内存,以完成该请求,并在外部将所请求的数据提供给主机装置。
应该体会到的是,图2中的I/O接口模块只是可被用在本公开内容中的系统中的I/O接口模块的一个示例。也可以使用可替换的I/O接口。在图3中提供了可替换接口的一个示例。
图3示出了可替换的I/O接口模块300,其能够通过多个高速无限带宽端口(一起被称为301)接收数据相关的请求。
参考图3,示例性可替换I/O模块300包括无限带宽接口芯片302,其能够在多个无限带宽的端口301上接收和发送数据相关的请求和响应。该无限带宽接口芯片可以是标准的无限带宽芯片,诸如那些可从Mellanox获得的。
通常,无限带宽接口芯片302经由无限带宽端口301接收数据相关的请求,并在最低程度上将所接收到的请求至少解码成识别出命令头部,并且对于外部WRITE请求解码出数据有效载荷的程度。然后接口芯片302将使得命令头部信息通过使用转换元件、路由元件或共享内存元件305(其在图3的示例中为PCI Express(PCIe)转换器)能够用于控制CPU306。使用转换/路由/内存元件305,接口芯片302还将使接收到的数据可被高速控制器304(其可以是经配置的FPGA)使用。该高速控制器304将多个串行系统通信信道310、312、314和316提供给纵横模块,并且对所接收的数据相关的请求进行操作以与以上结合图2中的高速控制器200说明的相似的方式,向纵横模块提供信息和数据且从纵横模块接收信息和数据。
将体会到的是,以上所讨论的I/O接口模块200和300仅是示例性的,并且还可使用其它类型的I/O接口模块,包括那些使用不同的物理层的、不同通信协议的、以及分立的装置(与经配置的FPGA相对)的I/O接口模块,而不背离本公开的内容。
通常,对I/O模块的主要要求是,其能够接收和响应外部提供的数据相关的请求,并且其能够在多个高速系统通信信道上将那些请求转达给多个纵横模块。
纵横模块
如以上所说明的,本公开内容的系统中每一个纵横模块的总体一般功能为:(a)从I/O模块接收DMA请求并将那些DMA请求(加上所有关联的数据有效载荷)提供给连接至该纵横模块的适当的内存卡,以及(b)从被连接至纵横模块的内存卡接收重新取回的数据,并将重新取回的数据(和潜在的一些相关信息)提供给与该重新取回的数据相关联的I/O模块。
可使用不同的手段来实现本公开系统中的纵横模块。图4示出了用于实现以上结合图1说明的类型的纵横模块的一个示例性手段。
参考图4,示出了示例性纵横模块400。虽然该纵横模块可通过使用分立电路、特殊应用集成电路(ASIC),或者两者混合来实现,但是在图4的实施例中,纵横模块400是通过使用经配置的FPGA(诸如Xilinx Vertex4FPGA)实现的。
在该示例中,经配置的FPGA被配置成提供五个串行系统通信端口402、404、406、408和410。每一个串行通信端口被配和被连接以提供了在其本身和I/O模块的高速通信端口中的一个端口之间的高速的、双向通信信道。因此,在该示例中,由于纵横模块400提供了五个全双工通信模块,其能够同时且分别地与系统100中的I/O模块中的每一个进行通信。因此,可将通信端口402耦接至I/O接口模块102的串行通信端口中的一个上,将端口404耦接至I/O接口模块104的端口上等等,使得在每一个I/O模块和纵横模块400之间存在串行连接。
除提供了以上所说明的五个串行通信端口以外,图4中的纵横模块400还提供了多个并行的通信总线,其被用于使得在纵横模块400和多个内存卡之间能够通信。在图4的示例中有五个内存卡412、414、416、418和420,并且纵横模块400使用并行总线与内存卡通信。在图4的示例中,纵横模块400和每一个单独的内存卡之间的通信是使用并行总线完成的,其在本示例中对于每一个内存卡包括十六比特(16)宽数据总线和五比特(5)宽控制总线。
在一般操作中,纵横模块400主要起到一个装置的作用,用于经由串行系统链路中的一个链路接收DMA请求,识别出DMA请求应被引导到其上的特定内存卡,将接收到的DMA请求由串行格式转换成并行格式,以及将并行格式的DMA请求提供给适当的内存卡。此外,纵横模块400将典型地接收由内存卡提供的数据、确定数据将用于哪个I/O模块,以及通过串行系统通信链路中的一个通信链路将所接收的数据作为DMA响应传送给适当的I/O模块。
在该示例性的情况下,纵横模块400使用串行接口总线与每一个I/O模块通信,并使用并行接口总线与每一个内存卡通信。应该注意到,I/O接口总线的实现取决于I/O模块,并且内存接口总线取决于内存卡。理论上,这两种总线将被实现成串行或并行接口,假设该总线可在要求的数据速率下执行。接口总线可取决于应用,并且对于那些本领域技术人员,影响特定总线选择的设计决策应该是清楚明了的。例如,为了使连接器密度最小化,内存卡接口可被实现成高速串行连接,其与I/O模块本质上相似,使纵横块到内存(crossbar-to-memory)的接口简单化。
由于将纵横块端口连接至I/O模块的总线中的每一个总线都是点到点连接,所以使判决最小化,并且由被设计成在必要时使纵横块能够拖延I/O总线的机制进行调节,以防止交叉运行(over-run)。
对FPGA进行配置来执行这些任务对于那些受益于本公开内容的本领域普通技术人员来说应该是显而易见的。
内存卡
可在本公开系统中使用的内存卡可采用许多种形式。其可利用各种各样的内存,包括不同类型的随机访问内存(诸如,DDR RAM、DDR2RAM、DDR3RAM等),以及不同类型的闪存式内存(包括MLC闪存式内存和SLC闪存式内存等)。部分地取决于所使用的内存类型,这些内存卡的构造也可以是不同的。
图5示出了内存卡500的一个示例性实施例,其采用了闪存式内存并且可被用于本公开内容的系统中。在图5的示例中,该闪存式内存为SLC闪存式内存,但是采用MLC闪存式内存的实施例也是可以设想到的。
参考图5,闪存式内存卡500包括系统控制器502,其通过将系统控制器耦接到纵横模块中的一个模块(图5中未示出)的并行总线504接收信息。如上所提及的,该并行总线504包括十六比特(16)宽数据总线和五比特(5)宽控制总线。由纵横模块提供的DMA请求是由系统控制器502接收并处理的。系统控制器502在内存卡和纵横模块之间管理通信协议,并可实现诸如对总线错误进行管理的纠错的功能。此外,系统控制器502还可部分地处理所接收的TARGET ADDRESS(目标地址),以确定在内存卡上的哪个特定内存元件与该TARGET ADDRESS相关联。
在示例性的系统中,系统控制器502通过直接的连接与许多个单独的闪存控制器506、508、510和512通信。系统控制器502还与CPU503通信,CPU503可同时与单独的闪存控制器通信。这种通信可以是通过与闪存控制器的直接连接(如图5所示),或者通过“直接通过(pass-though)”连接进行的,其中,为了访问闪存控制器,CPU503与系统控制器502通信。这样做一般是为了减少总线扇出(fan-out),并且是出于让那些本领域技术人员更清楚的设计考虑的。
在所示出的示例中,系统控制器502和闪存控制器506、508、510和512之间的通信是使用独立的十六比特(16)宽并行总线完成的,一个这样的独立并行总线被耦接在系统控制器502与这些单独的闪存控制器506、508、510和512中的每一个之间。类似的独立十六比特(16)宽并行总线可被用在CPU503与每一个闪存式控制器506、508、510和512直接通信的实施例中。
这些单独的闪存式控制器中的每一个分别被耦接至物理闪存式内存空间513、514、515和516,并且被耦接至控制器内存517、518、519和520(其可以是例如DDR RAM内存)。在所示出的示例中,每一个物理闪存式内存空间(513-516)是由十个独立的闪存式内存芯片形成的。在操作中,闪存式控制器502将处理DMA请求,以将所提供的数据存储在指定的物理闪存式内存中,并重新取回所请求的数据,并将其提供给系统控制器502。可采用许多个不同类型的闪存控制器。在提交于2009年9月5日的第12/554,888、12/554,891和12/554,892号共同未决的美国专利申请中更详细地说明了一个优选的控制器及其操作,在此结合其内容作为参考。
可注意到,因为本公开内容的系统100是以这样的方式进行处理的,即,由I/O接口模块接收的TARGET ADDRESS为被提供给内存卡的地址,所以本系统可以使用闪存式内存(其最终需要将所接收的TARGET ADDRESS转译成物理闪存地址位置)和RAM内存(或者无需进行逻辑到物理地址转译的其它内存)。而且,由于从TARGET ADDRESS到物理闪存地址的任何转换都是在将DMA请求提供给内存卡之后发生的,所以闪存式内存卡和RAM内存卡都能够被本系统使用。这是因为闪存控制器将所接收到的TARGETADDRES映射到特定的物理闪存地址上的操作对于将纵横模块耦接至内存卡的接口总线来说在很大程度上是透明的。
图6示出了内存卡600的可替换的实施例,其采用了RAM内存,并且可被用在本公开内容的系统中。在该实施例中,由纵横模块提供给内存卡的地址被用作访问RAM内存的物理地址。参考图示,内存卡600包括许多个元件,其可全部被定位在并固定到单个多层印刷电路板上。
通常地,内存卡600包括系统控制器602,就像图5中的控制器502,其从纵横模块接收DMA请求,并使用适合于该系统的协议(其可包括或结合纠错)处理该请求。然后系统控制器将该请求和所有数据有效载荷传递给内存控制器604,其可将为所接收数据的快速DMA传输分配对应于TARGETADDRESS(针对WRITE请求)的适当的物理地址,或者使用DMA传输从RAM内存606(其可以是DDR、DDR2、DDR3或任意其它的高速RAM内存)重新取回数据,并将该数据提供给系统控制器602(针对READ请求)。将体会到的是,图6中示出的箭头的指向仅表示对WRITE操作示例的描述。还将体会到的是,为了实现的目的,控制器602和控制器604都可被合并到一个FPGA装置中。
可替换系统实施例
在以上所说明的系统100中,纵横模块被用于接收串行发送数据相关的请求,以及将那些请求转换成被提供给内存卡的并行发送的请求。可以设想可替换的实施例,其中,可除去纵横模块,并且可将数据相关的请求从I/O模块直接串行发送至内存卡。
图7示出了可替换的存储系统700,其中,I/O模块或装置可使用高速串行通信链路与内存板直接通信,而不使用纵横模块。
参考图7,可替换的存储系统700包括多个I/O模块701、702、703、704、705、706、707、708、709、710、711和712,其经由一个或多个通信信道分别被耦接至一个或多个外部主机。在所示出的示例中,每一个I/O模块提供了多个高速双向全双工串行通信信道,其使每一个I/O模块与多个内存板740、742、744和746中的每一个进行通信。在图7的示例中,每一个I/O模块701至712提供了八个串行通信端口,并且连接I/O模块和内存板的每一条线都旨在反映出两个分开的全双工通信信道。
I/O模块701至712以这样的方式被耦接至内存板740、742、744和746,即,能够使用甚高带宽通信。例如,第一I/O模块701提供了八个串行数据端口(每一个内存板两个端口)。因此,I/O模块701可接受的最大数据速率将是串行通信信道最大带宽的8倍。
在操作中,I/O模块701至712的操作类似于以上结合图2和图3所说明的I/O模块。但是,由于图7中的I/O模块提供了更多个串行通信信道,它们能够对更多数据相关的请求或响应进行同时且独立地传送。这在通常用于存储系统700的而且特别是在I/O模块701至712和内存板740、742、744和746之间产生了更高的带宽。例如,由于I/O模块701提供了八个串行通信端口(每个内存板两个),其能够向内存板740、742、744和746中的每一个同时地(或接近同时地)并且独立地发出两个WRITE请求,总共八个同时地(或接近同时地)被处理的WRITE请求。在一些实施例中,没有纵横块,而是将与参考原始的系统100中相同的判决和拖延机制放置在每一个内存板上。
在图7的示例中,每一个串行系统通信链路被用于向I/O模块或通信装置和内存板传递数据和控制信息,并且从I/O模块或通信装置和内存板传递数据和控制信息。此外,每一个内存板将接收数字数据并将响应于WRITE请求(以将数字数据存储在该内存板的物理内存空间中特定的位置)并且将响应于READ请求(以重新取回和提供被存储在该板上物理内存的特定位置处的数字数据)。因为每一个高速串行通信链路可以非常高的速率(在本示例中为625MB/sec)接收或发送串行数据,所以在图7中的系统可以非常高的数据速率存储和重新取回数据。
图8示出了关于图7的系统700中使用的示例性内存板800的构造的细节。
转到图8,内存板800包括由多个单独的内存芯片组成的存储控制单元802和物理内存空间804。该内存板进一步包括适当的接口电路806,以允许内存板接收多个串行通信链路。在图8中,该接口电路806使内存板800从24个串行通信链路上接收输入。在图8的示例中,各种组件都被放置在同一个印刷电路板800上。
存储控制单元802可通过使用场可编程门阵列,或者“FPGA”(诸如可从Xilinx获得的Virtex-6FPGA(XC6VLX240T-2FFG1156CES)其工作在333MHz)组成。但是,应该理解的是,存储控制单元802可以可替换地使用其它类型的FPGA装置、分立电路、编程的微处理器,或者以上中的任何的或所有的组合来实现。
在所示出的示例中,物理内存空间804是使用了多个双倍数据速率动态随机访问内存芯片、DDR(诸如可从Micron Technologies,Inc.获得的DDR3-800(MT4J128M8BY-25E),其工作在333MHz)构建成的。但是将理解到的是,也可以采用其它形式的内存,诸如可替换的DDR装置、闪存和其它类型的内存,而不背离本公开内容的教导。
在本示例中,存储控制单元802驱动288外部并行数据链路(在图9中更好地看出)至物理内存空间804。因为内存空间使用了主频在333MHz的DDR内存,图8中的高速内存板将能够在每一个时钟周期内在物理内存空间中存储高达576比特的数字信息(512比特数据和64比特ECC),因此提供的总体存储速率对于数据和ECC为大约24000MB/秒,单独用于数据的为20.83GB/秒。
图9详细示出了示例性高速内存板的结构的部件。尤其是,图9示出了图8中的存储控制单元802内的结构,其可被用于从串行通信链路接收数字数据并对这样的数据进行操作以存储在物理内存空间804中。
参考图9,示出了高速串行通信链路中的一个,串行链路900,其被耦接至存储控制单元802上。高速串行通信链路900被提供给串行器/解串行器以及分组模块912,其将被放置在存储控制电路802中。在图10A中进一步说明的这种串行器/解串行器和分组模块912描绘了被输入多千兆位收发器(MGT)1010的串行链路,该MGT1010将被放置在存储控制单元802中。该MGT1010将从串行通信链路接收串行数据,并且,在周期性的基础上,将所接收到的串行数据转换成并行数据。进而参考图10A的示例,MGT1010接收串行数据,并以156.25MHz提供并行的32比特宽数据。
在图10A的示例中,来自MGT1010的32比特宽的并行数据以这样的方式被提供给256比特宽的多字深先进先出(FIFO)存储缓存1012,即,从MGT1010所接收到的32比特宽的数据被分组成256比特宽的数据字。在图10B至图10D中一般地说明了这种处理。
参考图10B,示意性地说明了256比特宽的FIFO存储器1012,其被分组成256比特宽字A1至A8。所示出的系统将来自MGT1010的32比特宽数据分组以形成256比特宽字的方法如下:首先,从MGT1010接收初始的32比特宽字,在本例中为A1。该初始的32比特宽字A1将被存储在初始的数据位置,如图10B所反映的。从MGT1010接收下一个32比特宽字,在本例中为A2,其将被存储在第二个位置,第三个字A3将被存储在第三个位置,等等,直到八个字A1至A8已经被接收并被存储在FIFO1012中以形成256比特宽的字A1至A8,如图10B所反映的。
一旦通过以上所说明的处理形成了256比特宽字A1至A8,并且从MGT1010接收到另一个32比特宽字,本例中为B1,初始的字A1至A8将被“向下”转移至FIFO1012中的另一个位置,并且新接收到的32比特宽的字将被存储在该初始位置,如图10C所反映的。该处理将重复直到构建成第二个全部256比特宽的字B1至B8,如图10C所反映的。从MGT1010接收32比特字、将所接收到的32比特的字分组成256比特的字,以及通过FIFO1012转移256比特宽的字的处理将持续直到在该FIFO1012中的256比特宽的内存位置被完全移满。在图10D中示出了更加完全移满的FIFO1012的示例。
虽然堆栈FIFO1012的“深度(depth)”可能根据实现方式而不同,但是图9和图10A至图10D的示例中,FIFO1012具有至少32个256比特宽字的深度。这是因为,在本示例中,一组32个256比特宽字是用于向物理内存空间804传送数据和从物理内存空间804传送数据的基本单元。这样,在此每一组32个256比特宽字将被称为基本内存周期(“BMC”)单元。在本示例中,每一个BMC单元将包括8,192数据比特(32×256)或1KB数据。
参考回到图9,来自分组FIFO912的数据被提供给多信道FIFO缓存914,在图9中仅示出了其中一个信道。在所示出的示例中,多信道FIFO缓存914为256比特宽,其能够接收以256比特/秒的速率接收数据,并且以27.7MHz的速率作为主频。使用“突发(burst)”传输将数据从串行器/解串行器和分组模块912被提供给多信道FIFO缓冲器914,在此情况下,完整的数据的BMC单元在32个时钟周期内被传输。
一旦完整的数据BMC单元从串行器/解串行器和分组模块912被传送到多信道FIFO缓冲器914,该多信道FIFO缓冲器914将包括具有32个连贯的256比特“字”的形式的完整的数据BMC单元。在所示出的示例中,多信道FIFO缓冲器914的深度为,其将能够存储多个数据BMC单元。这在图11中大体反映出,在此情况下,多信道FIFO缓冲器914的内容被描述为包括三个数据BMC单元(由框1140a、1140b和1140c体现出)。
参考回图9,被存储在多信道FIFO缓冲器914中的数据经由工作在333MHz的256比特宽并行数据总线被提供给纠错和数据保护电路916。该纠错和数据保护电路916处理所接收到的数据,以引入一个或多个纠错码比特(“ECC”比特),并对数据进行处理,以加强保护防止数据出错。对于那些本领域普通技术人员来说,ECC处理的示例是已知的,并且任意可用的ECC处理机制都是可被使用的。此外,纠错和数据保护电路也可实现其它数据保护技术或变换,诸如“Chipkill”和常用于加强数据保护的其它技术。如那些本领域普通技术人员所理解的,Chipkill是由IBM研发的先进的ECC形式,其保护计算机内存系统,防止任意的一个内存芯片出错,以及防止单个内存芯片的任何部分的多比特错误。关于Chipkill的额外的信息可在以下文件中找到,在此结合其内容作为参考:Timothy.J.Dell,A WhitePaper on the Benefits of Chipkill-Correct ECC for PC Server Main Memory(1997),IBM Microelectronics Division。
作为纠错和数据保护电路916的操作结果,将在被提供给该电路的每一个256比特“字”中添加比特,并且针对每256比特的输入,在本示例中,该电路的合成的输出将是288比特。这288比特输出将对应于被提供给ECC和数据保护电路916的输入数据,并对应于由电路916加入的保护和ECC比特。
来自数据保护电路916的这288比特宽的输出经由288比特宽的并行总线被提供给两个输出FIFO缓冲器918和920。在本示例中,该并行总线的主频是333MHz。来自数据保护电路的数据以“ping-pong”的方式被提供给输出FIFO缓冲器918和920,使得来自该电路的第一个288比特“字”被提供个输出FIFO缓冲器中的一个(例如,输出FIFO缓冲器918),同时下一个288比特“字”在随后的时钟周期被提供给输出FIFO缓冲器中的另一个(例如,FIFO缓冲器920)。以这种方式,对应于完整的BMC单元的数据被放置在两个输出FIFO缓冲器918和920中,使得每一个输出FIFO缓冲器中有一半的数据。在本示例中,每一个输出FIFO缓冲器918和920的深度使得每一个缓冲器可存储对应于多个BMC单元的数据。
在图12和图12A中一般地示出了将数据从电路916移至输出FIFO缓冲器918和920的处理,其中示出了在BMC单元传输之后的输出FIFO缓冲器918和920的示例性内容。如图所反映的,在两个缓冲器中都包含了示例性BMC单元的数据,并且弥补该完整的BMC单元的数据被“交织”穿过两个输出FIFO缓冲器918和920。
参考回图9,来自两个输出FIFO缓冲器918和920的数据被提供给高速的576比特宽的输出内存缓冲器922。在图9的示例中,每一个FIFO输出缓冲器918和920每个时钟周期将288比特的数据和错误保护信息提供给高速输出内存缓冲器922,并且进入该高速内存缓冲器922的输入在本示例中主频是333MHz。在该速度和数据传输速率下,完整的数据BMC单元(32个字)可在16个时钟周期内被传输。此时,将16个字存储在FIFO输出缓冲器918和920中的每一个中,并且因此传输整个BMC需要16个周期。
输出FIFO缓冲器918和920与高速输出内存缓冲器922之间的耦接使得之前被存储在输出FIFO缓冲器918和920中的“交织”的数据合并形成单个的顺序正确的576比特“超字”,在这里数据反映出了其最初穿过高速串行通信链路900而被接收的顺序。
参考回图9,将来自高速输出缓冲器的数据通过主频为333MHz的DDR的288比特宽并行总线提供给物理内存804(未示出)。由于DDR时钟在两个时钟边沿发送数据,来自输出内存缓冲器922的数据以667MHz的速率被有效传输。结果,传输至图9中电路的内存上的有效数据传输速率为20.83GB/s。
为了解释的目的,图9的示例仅结合单个高速串行输入,在本示例中为串行输入701(见图7),示出并说明了对本系统的操作。在全部示例性系统中,可提供高达24个单独的高速串行通信链路。在图13A至图13B中反映出了由本系统对来自这样的具有多个串行通信链路的系统的数据进行处理的方法。
首先参考图13A,示出了与以上结合图9所讨论的非常相似的系统。但是,在图13A的示例中,用于该示例性高速输入的输入MGT1010和分组FIFO缓冲器1012被合并以形成输入处理块1370。另外,还示出了11个其它的串行输入1371至1381,其分别具有其本身对应的输入处理块。这些输入处理块中的每一个就像以上结合图9和图10A至图10D所说明的电路那样工作,以能够以突发模式的方式将完整的数据BMC单元提供给多信道FIFO缓冲器914。
由于图13A中的系统的设计,该系统可以非常高的速率接收数据,使得,在峰值操作条件下,来自WRITE操作的数据几乎总是被提供给多信道FIFO缓冲器914,而来自多信道FIFO缓冲器914的数据几乎总是被提供给纠错和数据保护电路916。
但是,图13A的系统优选地处理来自由所说明的系统所提供的一半高速串行通信链路的数据。如图13B所示,该示例性系统包括另一组电路,类似于那些以上所说明的,包括另一个多信道FIFO缓冲器914’,其处理来自剩余的12个串行通信链路的数据,并将数据提供给第二纠错和数据保护电路916’。
如图13B所反映的,第二纠错和数据保护电路916’以“ping-pong”的方式将其输出提供给FIFO缓冲器918和920。但是,在该示例性系统中,用于从第二纠错和数据保护电路916’传输数据的过程与第一纠错和数据保护电路916“异相(out-of-phase)”操作,使得,虽然第一数据保护电路916正在将数据传输至输出FIFO缓冲器中的一个(例如,输出FIFO缓冲器918),但是第二纠错和数据传输电路916’正在将数据传输至另一个输出FIFO缓冲器(例如,输出FIFO缓冲器920)。在下一个时钟周期期间,该传输将“交换”。以这种方式,数据可在每一个时钟周期期间总是被传送至两个输出FIFO缓冲器918和920。
为了避免将来自不同的WRITE操作的数据错误地“混合”,通过第一和第二纠错和数据保护电路916和916’提供的数据优选地以这样的方式被传输至输出FIFO缓冲器918和920,即,其能够被重新组合成看起来像是在单个串行通信链路上接收的数据。在图14A和图14B中反映出了一种实现该方法的手段。
参考图14A和图14B,在第一数据传输操作期间,已经准备好从第一纠错和数据保护电路916被传输的BMC单元的第一偶数字(例如,word0,a0)将被第一电路916传输至被预留给第一电路916的输出FIFO缓冲器918的一部分。同时,已经准备好从第二纠错和数据保护电路916’传输的来自BMC单元的第一偶数字(word0,b0)将被传输至被预留用于存储来自第二电路916’的数据的输出FIFO缓冲器920的一部分。在下一个时钟周期期间,来自第一电路916中的BMC的第一奇数字(例如,Word1,a1)将被存储在输出FIFO缓冲器920的预留空间中,而且来自FIFO916’中的BMC的第一奇数字(例如,word1,b1)将被存储在输出FIFO缓冲器918中的预留空间中。在该方法中,数据总是被传输至两个输出FIFO缓冲器918和920,使得最大带宽得到保持。
在可替换的方法中,对来自第二纠错和数据保护电路916’的数据进行的写入操作可被延迟一个周期,使得所有偶数字被存储在输出FIFO缓冲器918中,而所有奇数字被存储在输出FIFO缓冲器920中(见图14C和14D)。
除了如图9所反映出的以及以上其它图所讨论的那样提供电路用于接收和处理数据,每一个内存卡也可包括类似的构造(本质上进行反向操作),用于以高数据速率从RAM内存重新取回数据,并将所接收到的数据拆包,使得其能够通过高速串行通信信道中的一个,被传输至I/O接口模块,然后I/O接口模块可将所请求的数据提供给适当的主机。
在所示出的示例中,将内存控制器802耦接到物理RAM内存804的数据和地址线使得,在任意的给定的时刻,只能完成READ访问或只能完成WRITE访问。因此,为提供最佳性能,控制器802必须实现一些形式的判决,如图15一般所示的。在一个实施例中,通过在控制器802中包括判决模块1504来完成这种判决,该判决模块1504将接收每一数据相关请求的命令头部信息并将该信息存储在与提供该请求的I/O接口模块相关联的缓冲器中。在优选的实施例中,该判决模块1504将维护用于READ操作的分开的缓冲器器1500和1503,以及用于WRITE操作的分开的缓冲器器1501和1503,使得控制器802将以I/O接口模块接着I/O接口模块为基础,在缓冲存储器中维护从每一个I/O接口模块接收的READ和WRITE请求或命令的列表。通常,该列表可在时间戳或时间顺序基础上维护,并且每一个列表入口可包括与从I/O接口模块接收到的每一数据相关的请求相关联的命令信息,也就是TARGET ADDRESS、字计数(或要被传输的数据量的其它指示),以及传输方向的指示(例如,其为一个READ还是WRITE操作)。
为了优化性能,可对READ和WRITE请求进行如下的处理。
通常,判决模块1504将给予READ请求优先权,并且,除非遇到以下所讨论的特定情况,将在先进先被处理的基础上处理在用于不同的I/O接口模块的READ请求缓冲器中的READ请求。
如果判决模块1504和控制器802已经处理了所有的READ请求,使得没有READ请求仍然待处理,则该判决模块1504和控制器802将在先进先被处理的基础(first-come,first-served)上处理在WRITE请求缓冲器中的所有待处理的WRITE请求。
为了避免具有太多的WRITE请求待处理,并帮助解决等待和相干扰的问题,如果确定待处理WRITE请求的数量已经超出特定的阈值数,则判决模块1504和控制器802将处理WRITE请求。判决模块1504通过考虑到以下的因素来进行阈值超出判断,即:(i)总计来自所有I/O接口模块的待处理WRITE请求的总数量;(ii)来自给定的I/O接口模块的待处理WRITE请求的总数量;或者(iii)以上所述的一些组合。例如,如果对给定的I/O接口模块的待处理WRITE请求的总数量和WRITE请求的数量两者都予以考虑,则在下列两种情况中的任一种情况下,判决模块1504可使控制器802处理WRITE请求,即:(i)待处理WRITE请求的总数量超出第一阈值(在该情况下,待处理WRITE请求可以先进先被处理为基础进行处理),或者,(ii)对于给定的I/O接口模块的待处理WRITE请求的数量超出第二阈值(其可比第一阈值低),在该情况下,判决模块1504将使控制器802在先进先被处理的基础上处理来自该与超阈值缓冲器相关联的特定I/O接口模块的WRITE请求。
而且,如果确定在与接收数据相关联的输出FIFO缓冲器中的一个FIFO缓冲器中所存储的数据已经超出了一定的限制,诸如超出该输出FIFO缓冲器存储能力1/2的量,该判决器可处理WRITE请求,在该情况下,将处理与输出FIFO缓冲器相关联的WRITE请求,使得I/O接口模块可持续发出数据和数据相关的请求,而不出现中断或节流(throttling)。
除以上所述以外,判决模块1504还可控制如何处理READ和WRITE请求,使得数据相干性得到保护。例如,如果确定出待处理的READ请求被引导至特定的地址,并且那里存在更早时间的待处理WRITE请求,则判决模块1504可使得控制器802处理该待处理WRITE请求,以保证响应于该WRITE请求返回适宜的数据。
内存芯片访问
存在各种各样的手段和方法可使内存控制器802用于将数据传输到物理RAM内存或从物理RAM内存传输出数据。在一个实施例中,控制器802可作为,或包括,DDR3内存控制模块操作,其随着起始指示符从判决模块1504接收命令信息以控制数据传输的定时。通常,由判决模块1504提供的命令信息可包括:被存储在可用于判决目的缓冲器中的相同的信息,也就是TARGET ADDRESS,以及更特定地,用于传输的起始地址;要被传输的数据量的标识符,其可以是字计数;以及传输方向。然后起到内存控制模块作用的控制器802将如TARGET ADDRESS(起始地址)所指示的,启动适当的内存芯片。
如果传输方向指示到内存的WRITE,控制器802将配合向内存芯片发出命令(例如,定时和地址命令),同时传输来自输出内存缓冲器922的数据。
如果传输方向指示从RAM内存READ,控制器802将配合向内存芯片发出适当的地址和定时命令,同时将来自这些内存芯片的数据传输到与数据被指引到的I/O接口模块相关联的输出FIFO缓冲器。
在一个示例中,控制器802将在与前面的命令相关联的数据传输完成之前接收下一组命令信息,因此,使得该系统能够在最大的带宽下操作。
在图16和图17中大体上反映出了在控制器802将数据传输进物理RAM内存和从物理RAM内存传输数据时对其的一般操作。
首先参考图16,示出了一种物理RAM内存的特定的布置。在图16的实施例中,示出了控制器802,并且示出了在控制器802和物理RAM内存之间的连接。在该示例中,被耦接至控制器802的物理RAM内存采用了七十二(72)个内存芯片,其被划分成四个区段(1602、1604、1606和1608),每一个区段具有18个内存芯片。在该示例中,每一个内存芯片具有四个存储体(A、B、C、D)。将内存芯片耦接起来,使得它们共享:(a)地址和控制线(本示例中为22),以及(b)数据线(本示例中为72)。在图16中示出的这种耦接只是将物理内存芯片连接至控制器802的一种方法。所有四个区段,尽管具有单独的控制总线,但是它们操作一致,并且在同一时刻向同一存储体发出命令。
在图17中可找到关于内存控制器802的操作的额外的细节。图17示出了在两个基本内存周期内对控制器802的操作(在此所处的第二个基本内存周期未完成)。通常,每一个内存周期包括将32个288比特字的传输到(或出)DDR内存。在特定的示例中,传输发生在16个实际的时钟周期内。针对每一个内存卡在333MHz下提供了每48ns传输1KB的数据传输速率,或者20.83GB/sec(仅数据)。考虑到该系统,如图7所反映的,可具有许多个内存卡,该系统的总体带宽可明显高于20.83GBytes/sec,并且,如果使用五个或更多个内存卡,则可超过100GBytes/sec。
参考图17,基本内存周期由通过与每一个区段相关联的命令总线启动内存的存储体Bank A而被初始化。这在图17的示例中是在时钟周期1中发生的。四个时钟周期之后,在时钟周期5,激活命令被提供给存储体Bank B。在其四个周期之后,在时钟周期9,存储体Bank C被激活,并且在四个周期之后,在时钟周期13,存储体Bank D被激活。由于存储体Bank A将在周期6和周期19之间进行预充电,在发出后续的激活Bank A命令时,这种可选性地激活不同的存储体的手段考虑到了不会被妨碍的任意的物理预充电时间。
对于不同存储体中的每一个,在存储体被实施激活之后的五个周期,将针对该特定的存储体推断出指示数据传输是READ还是WRITE的命令。因此,这是在Bank A的时钟周期6、Bank B的时钟周期10、Bank C的时钟周期14,以及Bank D的时钟周期18发生的。
在提供该传输是READ还是WRITE的指示之后的五个时钟周期,数据将在四个连续周期中被提供给数据线。因为是以双倍的数据速率(DDR)传输的,所以每一个内存时钟周期将传输两个字。因此,对于每一个存储体,在整个基本内存周期内将传输八个288比特字数据(图17中的数据总线的符号,W0,包含两个288比特字)。
根据讨论,在基本内存周期的数据传输过程期间,下一个内存周期的基本内存周期将通过断定出在时钟周期19时用于Bank A的激活命令而被初始化。在剩余的后续基本内存周期后跟随的是前面以上关于第一基本内存周期所讨论的。
正如以上所指示的,每一个基本内存周期将传输完整的1KB数据。在一个实施例中,该系统提供了“半写入(half-write)”周期,在此仅传输512字节。对于这样的“半写入”周期,仅断定出对两个连续的存储体(例如,Bank A和B或者Bank C和D)的激活。在该周期期间其它存储体将保持空闲。用于该传输的TARGET ADDRESS将确定四个存储体中的哪两个被激活用于该传输。
以上实施例是说明性的,并不构成限制感。还可以利用以上所说明的本发明的一个或多个方面设计出其它的和进一步的实施例,而不背离所公开的实施例的精神。而且,在此所说明的步骤的顺序可按照不同的顺序出现,除非另外特别限制。在此所说明的这些不同的步骤可与其它步骤合并,插入一定的步骤,和/或分裂成多个步骤。类似地,元件已经在功能上进行了说明,而且可被实施成分开组件,或可被合并成具有多个功能的组件。
在优选的和其它的实施例的上下文中已经说明了所公开的实施例,而并非说明了本发明的每一个实施例。对于那些本领域普通技术人员来说,所说明的实施例的明显的变形和可替换也是可用的。本公开的和未公开的实施例并非旨在限制或约束申请者所考虑的本发明的应用范围。申请者意图完全地保护落入随附的权利要求书的等价物的范围或程度的所有这样的变形和改进。
Claims (20)
1.一种具有高速串行通信的基于闪存的内存模块,包括:
多个输入/输出(I/O)模块,每一个I/O模块被配置成通过一个或多个外部通信链路与外部装置通信;
多个基于闪存的内存卡,每一个基于闪存的内存卡包括多个闪存式内存装置,每一个闪存式内存装置具有物理内存空间,其被划分成块,每一个块进一步被划分成页面,每一个页面代表单独的可寻址内存位置,在该位置上执行内存操作,在一个块组群中可同时擦除多个这样的内存位置;以及
多个纵横交换元件,每一个纵横交换元件被连接至所述基于闪存的内存卡中相应的一个内存卡上,并且被配置成使所述I/O模块中的每一个I/O模块与所述基于闪存的内存卡中所述相应的一个内存卡进行通信;
其中,每一个I/O模块通过高速串行通信链路被连接至每一个纵横交换元件,每一个高速串行通信链路使每一个I/O模块向每一个纵横交换元件发送代表命令、指令和/或数据的比特和从每一个纵横交换元件接收代表命令、指令和/或数据的比特;并且
其中,每一个纵横交换元件通过多个并行通信链路被连接至所述基于闪存的内存卡中所述相应的一个内存卡上,每个并行通信链路将一个纵横交换元件连接至所述基于闪存的内存卡中的所述相应的一个内存卡的所述闪存式内存装置中的一个闪存式内存装置上。
2.如权利要求1所述的基于闪存的内存模块,其中,由所述I/O模块发送的代表命令、指令和/或数据的所述比特是直接内存访问(DMA)请求的一部分,这样的DMA请求包括读取-修改-写入DMA请求。
3.如权利要求1所述的基于闪存的内存模块,其中,所述I/O模块被配置成通过所述一个或多个外部通信链路与所述外部装置通信,所述一个或多个外部通信链路使用高速通信协议,其包括以下协议中的一个:光纤信道、无限带宽、以太网,以及前面板数据端口。
4.如权利要求3所述的基于闪存的内存模块,其中,每个I/O模块包括高速接口,其被配置成使所述I/O模块通过所述一个或多个外部通信链路与所述外部装置通信,所述一个或多个外部通信链路使用所述高速通信协议。
5.如权利要求4所述的基于闪存的内存模块,其中,每个I/O模块进一步包括高速控制器,其具有多个多千兆位收发器,被连接至所述I/O模块的每一个高速串行通信链路使用一个多千兆位收发器,每一个I/O模块被配置成使用所述多千兆位收发器向每一个纵横交换元件发送代表命令、指令和/或数据的所述比特,和从每一个纵横交换元件接收代表命令、指令和/或数据的所述比特。
6.如权利要求5所述的基于闪存的内存模块,其中,每一个I/O模块进一步包括CPU和共享交换元件,所述共享交换元件被配置成调节所述CPU、经由所述一个或多个外部通信链路的所述外部装置,以及所述多千兆位收发器之间的通信。
7.如权利要求1所述的基于闪存的内存模块,其中,每一个纵横交换元件包括高速控制器,其具有多个多千兆位收发器,被连接至所述纵横交换元件的每一个高速串行通信链路使用一个多千兆位收发器,每一个纵横交换元件被配置成使用所述多千兆位收发器向每一个I/O模块发送代表命令、指令和/或数据的所述比特,和从每一个I/O模块接收代表命令、指令和/或数据的所述比特。
8.一种可扩展高速内存卡,包括:
印刷电路板(PCB);
接口电路,其被安装到所述PCB上并被配置成使所述高速内存卡通过一个或多个高速串行通信链路从一个或多个外部装置接收代表指令、命令、和/或数据的比特;
多个内存装置,其被安装到所述PCB上,每一个内存装置具有在其中执行内存操作的物理内存空间;以及
控制器,其被安装到所述PCB上并被连接至所述接口电路和所述多个内存装置,所述控制器被配置成控制所述接口电路和所述内存装置之间的通信以执行所述内存操作;
其中,所述接口电路通过多个高速串行通信线被连接至所述控制器,每一个高速串行通信线对应于所述高速串行通信链路中的一个;并且
其中,所述控制器通过预定数量的并行通信线被连接至所述多个内存装置,所述控制器被配置成将来自所述高速串行通信链路的代表命令、指令和/或数据的所述比特从串行格式转换成并行格式。
9.如权利要求8所述的可扩展高速内存卡,其中,所述一个或多个高速串行通信链路包括24个高速串行通信链路,并且其中,每一个高速串行通信链路包括两个全双工串行通信信道,每一个串行通信信道被配置成运载独立于所述其它串行通信信道的通信。
10.如权利要求8所述的可扩展高速内存卡,其中,将所述控制器连接至所述多个内存装置的所述预定数量的并行通信线包括288个并行通信线。
11.如权利要求8所述的可扩展高速内存卡,其中,所述控制器包括串行器/解串行器和分组模块,所述串行器/解串行器和分组模块被配置成依据串行格式输入来自所述接口电路的代表命令、指令和/或数据的所述比特,并依据并行格式重新配置代表命令、指令和/或数据的所述比特。
12.如权利要求11所述的可扩展高速内存卡,其中,所述串行器/解串行器和分组模块使用驻留在所述串行器/解串行器和分组模块中的多千兆位收发器和存储缓存器,依据并行格式重新配置代表命令、指令和/或数据的所述比特。
13.如权利要求11所述的可扩展高速内存卡,其中,所述控制器进一步包括多信道缓冲器,其被配置成接收通过所述串行器/解串行器和分组模块以并行格式被重新配置的代表命令、指令和/或数据的所述比特,并根据代表命令、指令和/或数据的所述比特构建预定数量的字,每一个字包括预定数量的比特。
14.如权利要求13所述的可扩展高速内存卡,其中,所述控制器进一步包括至少一个纠错和数据保护电路,其被配置成从所述多信道缓冲器接收所述字,使用所述字生成一个或多个纠错码比特,将用于每一个字的所述纠错码比特添加到所述字中,并且输出已添加所述纠错码比特的每一个字。
15.如权利要求14所述的可扩展高速内存卡,其中,所述控制器进一步包括输出缓冲器,其被连接至所述至少一个纠错和数据保护电路,所述输出缓冲器被配置成从所述至少一个纠错和数据保护电路依次接收已添加所述纠错码比特的所述字,使得来自所述至少一个纠错和数据保护电路的第一个字被提供给所述输出缓冲器中的一个输出缓冲器,并且来自所述至少一个纠错和数据保护电路的下一个字被提供给所述输出缓冲器中的另一个输出缓冲器。
16.如权利要求15所述的可扩展高速内存卡,其中,所述控制器进一步包括内存缓冲器,其被配置成从所述输出缓冲器接收已添加所述纠错码比特的所述字,并以预定的方式将预定数量的所述字组合成超字。
17.一种具有高速串行通信的内存模块,包括:
第一多个输入处理块和第二多个输入处理块,每一个输入处理块被配置成依据串行格式接收代表命令、指令和/或数据的比特,并依据并行格式重新配置代表命令、指令和/或数据的所述比特;
多个内存装置,每一个内存装置具有在其中执行内存操作的物理内存空间;以及
控制器,其被连接至所述第一和第二多个输入处理块和所述内存装置,所述控制器被配置成控制在所述第一和第二多个输入处理块与每一个内存装置之间的通信,以执行所述内存操作,所述控制器包括:
(a)第一多信道缓冲器和第二多信道缓冲器,其分别被连接至所述第一和第二多个输入处理块,每一个多信道缓冲器被配置成分别从所述第一和第二多个输入处理块以并行格式接收代表命令、指令和/或数据的所述比特,并且根据代表命令、指令和/或数据的所述比特构建预定数量的字,每一个字包括预定数量的比特;
(b)第一纠错和数据保护电路和第二纠错和数据保护电路,其被分别连接至所述第一和第二多信道缓冲器,所述第一和第二纠错和数据保护电路被配置成分别从所述第一和第二多信道缓冲器接收所述字,使用所述字生成一个或多个纠错码比特,将用于每一个字的所述纠错码比特添加到所述字中,并且输出已添加所述纠错码比特的每一个字;
(c)第一输出缓冲器和第二输出缓冲器,其分别被连接至所述第一和第二纠错和数据保护电路,所述第一和第二输出缓冲器被配置成从所述第一和第二纠错和数据保护电路依次接收已添加所述纠错码比特的所述字,使得来自所述第一和第二纠错和数据保护电路中的一个的第一个字被提供给所述第一和第二输出缓冲器中的一个,并且来自所述第一和第二纠错和数据保护电路中的另一个的下一个字被提供给所述第一和第二输出缓冲器中的另一个;以及
(d)内存缓冲器,其被配置成从所述第一和第二输出缓冲器接收具有被添加到其中的所述纠错码比特的所述字,并以预定的方式将预定数量的所述字组合以形成超字。
18.如权利要求17所述的内存模块,其中,所述控制器进一步包括判决模块,其被配置成确定每一个内存操作是READ操作还是WRITE操作,所述判决模块进一步被配置成优先处理作为READ操作的内存操作,除非作为WRITE操作的内存操作满足预定的条件。
19.如权利要求17所述的内存模块,其中,所述内存模块为基于闪存的内存模块,所述基于闪存的内存模块包括一个或多个所述下列类型的闪存式内存:单级单元闪存式内存,和多级单元闪存式内存。
20.如权利要求17所述的内存模块,其中,所述内存模块为基于RAM的内存模块,所述基于RAM的内存模块包括一个或多个所述下列类型的RAM:DDR RAM、DDR2RAM,和DDR3RAM。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US38623710P | 2010-09-24 | 2010-09-24 | |
US61/386,237 | 2010-09-24 | ||
PCT/US2011/053129 WO2012040649A2 (en) | 2010-09-24 | 2011-09-23 | High-speed memory system |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103229155A true CN103229155A (zh) | 2013-07-31 |
CN103229155B CN103229155B (zh) | 2016-11-09 |
Family
ID=45871943
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180056676.7A Expired - Fee Related CN103229155B (zh) | 2010-09-24 | 2011-09-23 | 高速内存系统 |
Country Status (6)
Country | Link |
---|---|
US (4) | US8386887B2 (zh) |
JP (1) | JP5872560B2 (zh) |
CN (1) | CN103229155B (zh) |
DE (1) | DE112011103208T5 (zh) |
GB (1) | GB2513551B (zh) |
WO (1) | WO2012040649A2 (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103645999A (zh) * | 2013-12-07 | 2014-03-19 | 天津光电通信技术有限公司 | 基于fpga实现8通道收发串口的高速板卡 |
CN104424124A (zh) * | 2013-09-10 | 2015-03-18 | 联想(北京)有限公司 | 内存装置、电子设备和用于控制内存装置的方法 |
CN105117163A (zh) * | 2014-03-13 | 2015-12-02 | Aupera技术有限公司 | 基于闪存的存储系统中的分布式raid架构 |
CN109144943A (zh) * | 2018-06-26 | 2019-01-04 | 深圳市安信智控科技有限公司 | 基于高速串行通道互连的计算芯片与存储器芯片组合系统 |
CN110321247A (zh) * | 2015-07-23 | 2019-10-11 | 东芝存储器株式会社 | 内存系统 |
Families Citing this family (63)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8959307B1 (en) | 2007-11-16 | 2015-02-17 | Bitmicro Networks, Inc. | Reduced latency memory read transactions in storage devices |
US8665601B1 (en) | 2009-09-04 | 2014-03-04 | Bitmicro Networks, Inc. | Solid state drive with improved enclosure assembly |
US8447908B2 (en) | 2009-09-07 | 2013-05-21 | Bitmicro Networks, Inc. | Multilevel memory bus system for solid-state mass storage |
US8560804B2 (en) | 2009-09-14 | 2013-10-15 | Bitmicro Networks, Inc. | Reducing erase cycles in an electronic storage device that uses at least one erase-limited memory device |
US8386887B2 (en) * | 2010-09-24 | 2013-02-26 | Texas Memory Systems, Inc. | High-speed memory system |
US8949509B2 (en) * | 2010-12-06 | 2015-02-03 | OCZ Storage Solutions Inc. | Mass storage systems and methods using solid-state storage media and ancillary interfaces for direct communication between memory cards |
US8446170B2 (en) | 2011-05-05 | 2013-05-21 | Actel Corporation | FPGA RAM blocks optimized for use as register files |
US9065644B2 (en) * | 2011-06-23 | 2015-06-23 | Futurewei Technologies, Inc. | Full duplex transmission method for high speed backplane system |
US9372755B1 (en) | 2011-10-05 | 2016-06-21 | Bitmicro Networks, Inc. | Adaptive power cycle sequences for data recovery |
US9740439B2 (en) * | 2011-12-23 | 2017-08-22 | International Business Machines Corporation | Solid-state storage management |
US9043669B1 (en) | 2012-05-18 | 2015-05-26 | Bitmicro Networks, Inc. | Distributed ECC engine for storage media |
US20130318276A1 (en) | 2012-05-22 | 2013-11-28 | Xockets IP, LLC | Offloading of computation for rack level servers and corresponding methods and systems |
US20130318268A1 (en) | 2012-05-22 | 2013-11-28 | Xockets IP, LLC | Offloading of computation for rack level servers and corresponding methods and systems |
US20140089561A1 (en) | 2012-09-26 | 2014-03-27 | Kiran Pangal | Techniques Associated with Protecting System Critical Data Written to Non-Volatile Memory |
CN104137083B (zh) * | 2012-12-28 | 2018-08-28 | 松下知识产权经营株式会社 | 接口装置及存储器总线系统 |
US9378161B1 (en) | 2013-01-17 | 2016-06-28 | Xockets, Inc. | Full bandwidth packet handling with server systems including offload processors |
KR20160037827A (ko) | 2013-01-17 | 2016-04-06 | 엑소케츠 인코포레이티드 | 시스템 메모리로의 연결을 위한 오프로드 프로세서 모듈들 |
US10025735B2 (en) * | 2013-01-31 | 2018-07-17 | Seagate Technology Llc | Decoupled locking DMA architecture |
US9423457B2 (en) | 2013-03-14 | 2016-08-23 | Bitmicro Networks, Inc. | Self-test solution for delay locked loops |
US9971524B1 (en) | 2013-03-15 | 2018-05-15 | Bitmicro Networks, Inc. | Scatter-gather approach for parallel data transfer in a mass storage system |
US9639356B2 (en) | 2013-03-15 | 2017-05-02 | Qualcomm Incorporated | Arbitrary size table lookup and permutes with crossbar |
US9672178B1 (en) | 2013-03-15 | 2017-06-06 | Bitmicro Networks, Inc. | Bit-mapped DMA transfer with dependency table configured to monitor status so that a processor is not rendered as a bottleneck in a system |
US9798688B1 (en) | 2013-03-15 | 2017-10-24 | Bitmicro Networks, Inc. | Bus arbitration with routing and failover mechanism |
US9501436B1 (en) | 2013-03-15 | 2016-11-22 | Bitmicro Networks, Inc. | Multi-level message passing descriptor |
US9430386B2 (en) | 2013-03-15 | 2016-08-30 | Bitmicro Networks, Inc. | Multi-leveled cache management in a hybrid storage system |
US9400617B2 (en) | 2013-03-15 | 2016-07-26 | Bitmicro Networks, Inc. | Hardware-assisted DMA transfer with dependency table configured to permit-in parallel-data drain from cache without processor intervention when filled or drained |
US9734067B1 (en) | 2013-03-15 | 2017-08-15 | Bitmicro Networks, Inc. | Write buffering |
US9858084B2 (en) | 2013-03-15 | 2018-01-02 | Bitmicro Networks, Inc. | Copying of power-on reset sequencer descriptor from nonvolatile memory to random access memory |
US9934045B1 (en) | 2013-03-15 | 2018-04-03 | Bitmicro Networks, Inc. | Embedded system boot from a storage device |
US9875205B1 (en) * | 2013-03-15 | 2018-01-23 | Bitmicro Networks, Inc. | Network of memory systems |
US10489318B1 (en) | 2013-03-15 | 2019-11-26 | Bitmicro Networks, Inc. | Scatter-gather approach for parallel data transfer in a mass storage system |
US9720603B1 (en) | 2013-03-15 | 2017-08-01 | Bitmicro Networks, Inc. | IOC to IOC distributed caching architecture |
CN105339905B (zh) * | 2013-04-09 | 2018-11-06 | 伊姆西公司 | 具有对大容量固态存储器资源的独立直接访问的多处理器系统 |
US10055150B1 (en) | 2014-04-17 | 2018-08-21 | Bitmicro Networks, Inc. | Writing volatile scattered memory metadata to flash device |
US10042792B1 (en) | 2014-04-17 | 2018-08-07 | Bitmicro Networks, Inc. | Method for transferring and receiving frames across PCI express bus for SSD device |
US10078604B1 (en) | 2014-04-17 | 2018-09-18 | Bitmicro Networks, Inc. | Interrupt coalescing |
US9952991B1 (en) | 2014-04-17 | 2018-04-24 | Bitmicro Networks, Inc. | Systematic method on queuing of descriptors for multiple flash intelligent DMA engine operation |
US10025736B1 (en) | 2014-04-17 | 2018-07-17 | Bitmicro Networks, Inc. | Exchange message protocol message transmission between two devices |
US9733847B2 (en) | 2014-06-02 | 2017-08-15 | Micron Technology, Inc. | Systems and methods for transmitting packets in a scalable memory system protocol |
US10031860B2 (en) | 2014-09-24 | 2018-07-24 | Western Digital Technologies, Inc. | Memory transfer of objects in a data storage device |
US9851901B2 (en) | 2014-09-26 | 2017-12-26 | Western Digital Technologies, Inc. | Transfer of object memory references in a data storage device |
TWI553483B (zh) * | 2014-10-13 | 2016-10-11 | 瑞昱半導體股份有限公司 | 處理器及存取記憶體的方法 |
US10452557B2 (en) | 2015-01-28 | 2019-10-22 | Hitachi, Ltd. | Storage apparatus, computer system, and method for improved read operation handling |
JP5939323B1 (ja) | 2015-02-10 | 2016-06-22 | 日本電気株式会社 | 情報処理装置、情報処理方法、及び、プログラム |
KR102417182B1 (ko) | 2015-06-22 | 2022-07-05 | 삼성전자주식회사 | 데이터 저장 장치와 이를 포함하는 데이터 처리 시스템 |
US9577854B1 (en) | 2015-08-20 | 2017-02-21 | Micron Technology, Inc. | Apparatuses and methods for asymmetric bi-directional signaling incorporating multi-level encoding |
US10423354B2 (en) * | 2015-09-23 | 2019-09-24 | Advanced Micro Devices, Inc. | Selective data copying between memory modules |
WO2017072868A1 (ja) * | 2015-10-28 | 2017-05-04 | 株式会社日立製作所 | ストレージ装置 |
US10120749B2 (en) * | 2016-09-30 | 2018-11-06 | Intel Corporation | Extended application of error checking and correction code in memory |
KR20180092476A (ko) * | 2017-02-09 | 2018-08-20 | 에스케이하이닉스 주식회사 | 저장 장치 및 그 동작 방법 |
US10164817B2 (en) | 2017-03-21 | 2018-12-25 | Micron Technology, Inc. | Methods and apparatuses for signal translation in a buffered memory |
US10552050B1 (en) | 2017-04-07 | 2020-02-04 | Bitmicro Llc | Multi-dimensional computer storage system |
US10705912B2 (en) | 2017-06-07 | 2020-07-07 | Rambus Inc. | Energy efficient storage of error-correction-detection information |
US10216685B1 (en) * | 2017-07-19 | 2019-02-26 | Agiga Tech Inc. | Memory modules with nonvolatile storage and rapid, sustained transfer rates |
KR102504293B1 (ko) | 2017-11-29 | 2023-02-27 | 삼성전자 주식회사 | 패키지 온 패키지 형태의 반도체 패키지 |
US10515173B2 (en) * | 2017-12-29 | 2019-12-24 | Advanced Micro Devices, Inc. | Input-output processing on a remote integrated circuit chip |
US10635610B1 (en) | 2019-03-14 | 2020-04-28 | Toshiba Memory Corporation | System and method for serial interface memory using switched architecture |
CN109933292B (zh) * | 2019-03-21 | 2023-06-09 | 深圳文脉国际传媒有限公司 | 存储器命令处理方法、终端及存储介质 |
CN110188066B (zh) * | 2019-05-07 | 2021-02-02 | 方一信息科技(上海)有限公司 | 一种针对大容量数据的FPGA和基于opencl的FPGA算法 |
US11385837B2 (en) | 2020-01-07 | 2022-07-12 | SK Hynix Inc. | Memory system |
TW202141290A (zh) | 2020-01-07 | 2021-11-01 | 韓商愛思開海力士有限公司 | 記憶體中處理(pim)系統和pim系統的操作方法 |
US11315611B2 (en) * | 2020-01-07 | 2022-04-26 | SK Hynix Inc. | Processing-in-memory (PIM) system and operating methods of the PIM system |
US20230205420A1 (en) * | 2021-12-29 | 2023-06-29 | Advanced Micro Devices, Inc. | Flexible memory system |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6654831B1 (en) * | 2000-03-07 | 2003-11-25 | International Business Machine Corporation | Using multiple controllers together to create data spans |
US20040255054A1 (en) * | 2003-06-10 | 2004-12-16 | Khein-Seng Pua | High-speed data transmission device |
US20080126851A1 (en) * | 2006-08-31 | 2008-05-29 | Dell Products L.P. | Redundant storage enclosure processor (sep) implementation for use in serial attached scsi (sas) environment |
CN101965559A (zh) * | 2007-12-27 | 2011-02-02 | 普莱恩特技术股份有限公司 | 包括将处理器与内部存储器连接的交叉切换器的用于闪存的存储控制器 |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6438146B1 (en) | 1998-04-13 | 2002-08-20 | International Business Machines Corporation | Multiplexed asynchronous serial communication systems methods and computer program products |
US6609167B1 (en) | 1999-03-17 | 2003-08-19 | Adaptec, Inc. | Host and device serial communication protocols and communication packet formats |
US6148354A (en) | 1999-04-05 | 2000-11-14 | M-Systems Flash Disk Pioneers Ltd. | Architecture for a universal serial bus-based PC flash disk |
KR100462069B1 (ko) * | 2000-12-21 | 2004-12-17 | 엘지전자 주식회사 | 인터넷 텔레포니 게이트웨이 시스템에서 상태 관리 방법 |
ITVA20010035A1 (it) * | 2001-10-16 | 2003-04-16 | St Microelectronics Srl | Dispositivo di memoria non volatile con doppia interfaccia di comunicazione seriale/parallela |
JP2003124997A (ja) * | 2001-10-17 | 2003-04-25 | Fujitsu Ltd | パケット処理を行う伝送路終端装置 |
CA2366397A1 (en) * | 2001-12-31 | 2003-06-30 | Tropic Networks Inc. | An interface for data transfer between integrated circuits |
JP3815400B2 (ja) * | 2002-08-08 | 2006-08-30 | ソニー株式会社 | アダプタ装置 |
EP1424635B1 (en) * | 2002-11-28 | 2008-10-29 | STMicroelectronics S.r.l. | Non volatile memory device architecture, for instance a flash kind, having a serial communication interface |
US7109728B2 (en) * | 2003-02-25 | 2006-09-19 | Agilent Technologies, Inc. | Probe based information storage for probes used for opens detection in in-circuit testing |
US7000056B2 (en) * | 2003-03-28 | 2006-02-14 | Intel Corporation | Method and apparatus for detecting low pin count and serial peripheral interfaces |
US20050050237A1 (en) * | 2003-08-28 | 2005-03-03 | Jeddeloh Joseph M. | Memory module and method having on-board data search capabilities and processor-based system using such memory modules |
JP4080980B2 (ja) * | 2003-09-26 | 2008-04-23 | 三菱電機株式会社 | 電子制御装置 |
JP5193045B2 (ja) * | 2005-09-30 | 2013-05-08 | モサイド・テクノロジーズ・インコーポレーテッド | 出力制御部を備えたメモリ |
US7652922B2 (en) * | 2005-09-30 | 2010-01-26 | Mosaid Technologies Incorporated | Multiple independent serial link memory |
US7360137B2 (en) * | 2006-05-04 | 2008-04-15 | Westell Technologies, Inc. | Flash programmer for programming NAND flash and NOR/NAND combined flash |
US7676729B2 (en) * | 2006-08-23 | 2010-03-09 | Sun Microsystems, Inc. | Data corruption avoidance in DRAM chip sparing |
US7918398B2 (en) * | 2007-06-04 | 2011-04-05 | Hand Held Products, Inc. | Indicia reading terminal having multiple setting imaging lens |
JP4760778B2 (ja) * | 2007-06-11 | 2011-08-31 | Tdk株式会社 | フラッシュメモリシステム及び同システムに組み込まれるフラッシュメモリモジュール |
KR100934227B1 (ko) * | 2007-09-21 | 2009-12-29 | 한국전자통신연구원 | 개방형 시리얼 정합 방식을 이용한 메모리 스위칭 컨트롤장치, 그의 동작 방법 및 이에 적용되는 데이터 저장 장치 |
US8386887B2 (en) * | 2010-09-24 | 2013-02-26 | Texas Memory Systems, Inc. | High-speed memory system |
-
2011
- 2011-09-23 US US13/244,074 patent/US8386887B2/en not_active Expired - Fee Related
- 2011-09-23 GB GB1304421.9A patent/GB2513551B/en active Active
- 2011-09-23 JP JP2013530377A patent/JP5872560B2/ja not_active Expired - Fee Related
- 2011-09-23 WO PCT/US2011/053129 patent/WO2012040649A2/en active Application Filing
- 2011-09-23 CN CN201180056676.7A patent/CN103229155B/zh not_active Expired - Fee Related
- 2011-09-23 DE DE112011103208T patent/DE112011103208T5/de not_active Withdrawn
-
2013
- 2013-02-04 US US13/758,093 patent/US8694863B2/en not_active Expired - Fee Related
-
2014
- 2014-04-01 US US14/242,532 patent/US9110831B2/en not_active Expired - Fee Related
-
2015
- 2015-08-17 US US14/827,566 patent/US9619419B2/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6654831B1 (en) * | 2000-03-07 | 2003-11-25 | International Business Machine Corporation | Using multiple controllers together to create data spans |
US20040255054A1 (en) * | 2003-06-10 | 2004-12-16 | Khein-Seng Pua | High-speed data transmission device |
US20080126851A1 (en) * | 2006-08-31 | 2008-05-29 | Dell Products L.P. | Redundant storage enclosure processor (sep) implementation for use in serial attached scsi (sas) environment |
CN101965559A (zh) * | 2007-12-27 | 2011-02-02 | 普莱恩特技术股份有限公司 | 包括将处理器与内部存储器连接的交叉切换器的用于闪存的存储控制器 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104424124A (zh) * | 2013-09-10 | 2015-03-18 | 联想(北京)有限公司 | 内存装置、电子设备和用于控制内存装置的方法 |
CN104424124B (zh) * | 2013-09-10 | 2018-07-06 | 联想(北京)有限公司 | 内存装置、电子设备和用于控制内存装置的方法 |
CN103645999A (zh) * | 2013-12-07 | 2014-03-19 | 天津光电通信技术有限公司 | 基于fpga实现8通道收发串口的高速板卡 |
CN105117163A (zh) * | 2014-03-13 | 2015-12-02 | Aupera技术有限公司 | 基于闪存的存储系统中的分布式raid架构 |
CN110321247A (zh) * | 2015-07-23 | 2019-10-11 | 东芝存储器株式会社 | 内存系统 |
CN110321247B (zh) * | 2015-07-23 | 2023-05-26 | 铠侠股份有限公司 | 内存系统 |
CN109144943A (zh) * | 2018-06-26 | 2019-01-04 | 深圳市安信智控科技有限公司 | 基于高速串行通道互连的计算芯片与存储器芯片组合系统 |
Also Published As
Publication number | Publication date |
---|---|
GB2513551A (en) | 2014-11-05 |
GB201304421D0 (en) | 2013-04-24 |
US8386887B2 (en) | 2013-02-26 |
US20120079352A1 (en) | 2012-03-29 |
JP2014501950A (ja) | 2014-01-23 |
US20140215290A1 (en) | 2014-07-31 |
CN103229155B (zh) | 2016-11-09 |
US9110831B2 (en) | 2015-08-18 |
US8694863B2 (en) | 2014-04-08 |
WO2012040649A2 (en) | 2012-03-29 |
WO2012040649A3 (en) | 2012-06-28 |
GB2513551B (en) | 2018-01-10 |
US20130145088A1 (en) | 2013-06-06 |
US20150356044A1 (en) | 2015-12-10 |
JP5872560B2 (ja) | 2016-03-01 |
DE112011103208T5 (de) | 2013-10-02 |
US9619419B2 (en) | 2017-04-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103229155A (zh) | 高速内存系统 | |
US5809328A (en) | Apparatus for fibre channel transmission having interface logic, buffer memory, multiplexor/control device, fibre channel controller, gigabit link module, microprocessor, and bus control device | |
EP1622020B1 (en) | Segment level interconnect replacement in a memory subsystem | |
US8156270B2 (en) | Dual port serial advanced technology attachment (SATA) disk drive | |
US7849242B2 (en) | PCI express-compatible controller and interface that provides PCI express functionality and flash memory operations to host device | |
US7660922B2 (en) | Mechanism to flexibly support multiple device numbers on point-to-point interconnect upstream ports | |
US8549209B2 (en) | Bridging device having a configurable virtual page size | |
EP2506149B1 (en) | Memory system including variable write command scheduling | |
JP4928732B2 (ja) | データ転送システム及び電子機器 | |
US20100115172A1 (en) | Bridge device having a virtual page buffer | |
US20060242353A1 (en) | Virtualized PCI switch | |
CN1095127C (zh) | 用于处理器类型和总线协议变化的通用结构的计算机系统 | |
CN103959255A (zh) | 跨多个内存口使用选择性复制降低内存访问延迟的系统及方法 | |
US20060095671A1 (en) | System, method and storage medium for providing data caching and data compression in a memory subsystem | |
CN105718390A (zh) | 共享存储器链路中的低功率进入 | |
US20090150636A1 (en) | Memory subsystem with positional read data latency | |
KR100934227B1 (ko) | 개방형 시리얼 정합 방식을 이용한 메모리 스위칭 컨트롤장치, 그의 동작 방법 및 이에 적용되는 데이터 저장 장치 | |
CN103907088A (zh) | 用于可扩展低时延固态驱动器接口的方法和装置 | |
CN106569969A (zh) | 一种服务器 | |
US20180253391A1 (en) | Multiple channel memory controller using virtual channel | |
US20090043946A1 (en) | Architecture for very large capacity solid state memory systems | |
CN101819562A (zh) | 集线器链路读取返回流动 | |
CN1176432A (zh) | 在处理器和高性能系统总线之间的信令协议转换 | |
CN111984558A (zh) | 数据转换控制装置、存储设备以及存储器系统 | |
CN109616149A (zh) | 一种eMMC主机控制器、eMMC控制系统及控制方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C41 | Transfer of patent application or patent right or utility model | ||
TR01 | Transfer of patent right |
Effective date of registration: 20161202 Address after: New York grams of Armand Patentee after: International Business Machines Corp. Address before: Texas, USA Patentee before: Texas Storage System Co.,Ltd. |
|
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20161109 |
|
CF01 | Termination of patent right due to non-payment of annual fee |