CN101694639B - 一种计算机数据的缓存方法 - Google Patents
一种计算机数据的缓存方法 Download PDFInfo
- Publication number
- CN101694639B CN101694639B CN200910235723.9A CN200910235723A CN101694639B CN 101694639 B CN101694639 B CN 101694639B CN 200910235723 A CN200910235723 A CN 200910235723A CN 101694639 B CN101694639 B CN 101694639B
- Authority
- CN
- China
- Prior art keywords
- data
- modified
- cache
- interval
- memory address
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 30
- 230000004083 survival effect Effects 0.000 claims abstract description 36
- 230000008033 biological extinction Effects 0.000 claims description 16
- 230000008569 process Effects 0.000 claims description 3
- 238000003780 insertion Methods 0.000 claims 1
- 230000037431 insertion Effects 0.000 claims 1
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
Images
Landscapes
- Memory System Of A Hierarchy Structure (AREA)
Abstract
本发明涉及一种计算机数据的缓存方法，属于计算机系统结构技术领域。本发明方法中，首先定义数据存活区间和消亡区间。通过增加指令，标识出数据存活区间和数据消亡区间的位置。当数据从缓存中被替换出时，如果处于数据消亡区间，即使数据被修改过，也不再将其写回内存，从而有效降低了写内存的次数，缓解了处理器与内存之间的速度差距。
Description
技术领域
本发明涉及一种计算机数据的缓存方法，属于计算机系统结构技术领域。
背景技术
根据摩尔定律，计算机处理器的性能每18至24个月增加一倍，然而，内存的访问速度仅以每年7％-10％的速度增长，远远落后于处理器的增长速度。相对于处理器来说，内存访问延迟以每十年5倍的速度增长，处理器与存储器的差距不断增加，造成了系统结构的失衡，形成了阻碍性能提升的“存储墙”，从而使得内存访问成为整个计算机系统的性能瓶颈。
为了缓解“存储墙”对计算机系统性能的影响，需要对内存访问进行优化。降低内存的访问次数是访存优化的一种方法。Lepak等人通过研究，观察到由于许多写指令写入内存的值都与内存中原有的值相同，因此这些写指令都没有产生实际效果。基于这一观察，Lepak等人提出了沉默存储(silent store)结构。在这种结构中，一个写操作被转换为三个操作，即读操作、比较操作和实际的写操作(如果这个写操作不是沉默的)，这样系统就可能减少内存的写操作，但是这种结构同时可能会增加读操作的次数。
发明内容
本发明的目的是提出一种计算机数据的缓存方法，以克服已有数据缓存方法中可能进行无意义的内存写操作的缺点。本发明提出的数据缓存方法降低了内存的访问次数，缓解了处理器和内存之间的速度差距。
本发明提出的计算机数据的缓存方法，包括以下步骤：
(1-1)定义：从对计算机内存地址的写操作至对该内存地址的下一次写操作之前的对该地址的最后一次读指令为数据存活区间，从对计算机内存地址的最后一次读操作到对该内侧地址的下一次写操作为数据消亡区间；
(1-2)计算机的一个缓存行中的数据被修改过，若在该缓存行被替换时，修改的数据所在的内存地址处于上述数据存活区间中，则将修改的数据写回内存中，若在缓存行被替换时，修改的数据所在的内存地址处于上述数据消亡区间中，则修改的数据保持在缓存中；
(1-3)在数据存活区间结束和数据消亡区间开始的位置，插入一条最后一次读操作指令M，在数据消亡区间中读操作指令已经进行后插入一条该数据的存活区间结束消亡区间从此开始的标识指令N；
(1-4)当处理器执行读指令M或标识指令N时，对计算机缓存行的状态进行修改。
上述缓存方法中，步骤(1-2)计算机的一个缓存行中的数据被修改过，若在该缓存行被替换时，修改的数据所在的内存地址处于上述数据存活区间中，则将修改的数据写回内存中，若在缓存行被替换时，修改的数据所在的内存地址处于上述数据消亡区间中，则修改的数据保持在缓存中，其过程如下：
(2-1)计算机的缓存为一级，若缓存行被替换时被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若在缓存行被替换时被修改的数据所在的内存地址处于所述的数据消亡区间中，则被修改的数据保持在缓存中；
(2-2)计算机的缓存为两级，其中一级为写直达方式，二级为写回方式，且二级缓存的缓存行中的数据被修改过，若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的消亡区间中，则被修改的数据保持在缓存中；
(2-3)计算机的缓存有两级，其中一级和二级同时为写回方式，若一级缓存的缓存行中的数据被修改过，则当该一级缓存行被替换时，若一级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若一级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的消亡区间中，则被修改的数据保持在缓存中；若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的消亡区间中，则被修改的数据保持在缓存中。
上述缓存方法中，步骤(1-4)当处理器执行读指令M或标识指令N时，对计算机缓存行的状态进行修改的方法，包括以下步骤：
(3-1)计算机的缓存为一级，计算机处理器执行最后一次读操作指令M或数据的存活区间结束消亡区间从此开始的标识指令N时，若与指令的内存地址相对应的缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的缓存行的状态为“缓存行中的数据未被修改过”，则不作修改；
(3-2)计算机的缓存为两级，其中一级为写直达方式，二级为写回方式，计算机处理器执行最后一次读操作指令M或数据的存活区间结束消亡区间从此开始的标识指令N时，若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据未被修改过”，则不作修改；
(3-3)计算机的缓存为两级，其中一级和二级同时为写回方式，计算机处理器执行最后一次读操作指令M或数据的存活区间结束消亡区间从此开始的标识指令N时，若与指令的内存地址相对应的一级缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的一级缓存行的状态为“缓存行中的数据未被修改过”，则不作修改；若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据未被修改过”，则不作修改。
本发明提出的计算机数据的缓存方法，其优点是：减少了写内存的次数，缓解了处理器与内存之间的速度差距。
附图说明
图1本发明方法中定义的数据存活区间和消亡区间的定义示意图。
具体实施方式
本发明提出的计算机数据的缓存方法，包括以下步骤：
(1-1)定义：从对计算机内存地址的写操作至对该内存地址的下一次写操作之前的对该地址的最后一次读指令为数据存活区间，从对计算机内存地址的最后一次读操作到对该内侧地址的下一次写操作为数据消亡区间，如图1所示；
(1-2)计算机的一个缓存行中的数据被修改过，若在该缓存行被替换时，修改的数据所在的内存地址处于上述数据存活区间中，则将修改的数据写回内存中，若在缓存行被替换时，修改的数据所在的内存地址处于上述数据消亡区间中，则修改的数据保持在缓存中；
(1-3)在数据存活区间结束和数据消亡区间开始的位置，插入一条最后一次读操作指令M，在数据消亡区间中读操作指令已经进行后插入一条该数据的存活区间结束消亡区间从此开始的标识指令N；
(1-4)当处理器执行读指令M或标识指令N时，对计算机缓存行的状态进行修改。
上述缓存方法中，步骤(1-2)计算机的一个缓存行中的数据被修改过，若在该缓存行被替换时，修改的数据所在的内存地址处于上述数据存活区间中，则将修改的数据写回内存中，若在缓存行被替换时，修改的数据所在的内存地址处于上述数据消亡区间中，则修改的数据保持在缓存中，其过程如下：
(2-1)计算机的缓存为一级，若缓存行被替换时被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若在缓存行被替换时被修改的数据所在的内存地址处于所述的数据消亡区间中，则被修改的数据保持在缓存中；
(2-2)计算机的缓存为两级，其中一级为写直达方式，二级为写回方式，且二级缓存的缓存行中的数据被修改过，若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的消亡区间中，则被修改的数据保持在缓存中；
(2-3)计算机的缓存有两级，其中一级和二级同时为写回方式，若一级缓存的缓存行中的数据被修改过，则当该一级缓存行被替换时，若一级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若一级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的消亡区间中，则被修改的数据保持在缓存中；若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的消亡区间中，则被修改的数据保持在缓存中。
上述缓存方法中，步骤(1-4)当处理器执行读指令M或标识指令N时，对计算机缓存行的状态进行修改的方法，包括以下步骤：
(3-1)计算机的缓存为一级，计算机处理器执行最后一次读操作指令M或数据的存活区间结束消亡区间从此开始的标识指令N时，若与指令的内存地址相对应的缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的缓存行的状态为“缓存行中的数据未被修改过”，则不作修改；
(3-2)计算机的缓存未两级，其中一级为写直达方式，二级为写回方式，计算机处理器执行最后一次读操作指令M或数据的存活区间结束消亡区间从此开始的标识指令N时，若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据未被修改过”，则不作修改；
(3-3)计算机的缓存为两级，其中一级和二级同时为写回方式，计算机处理器执行最后一次读操作指令M或数据的存活区间结束消亡区间从此开始的标识指令N时，若与指令的内存地址相对应的一级缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的一级缓存行的状态为“缓存行中的数据未被修改过”，则不作修改；若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据未被修改过”，则不作修改。
Claims (1)
1.一种计算机数据的缓存方法，其特征在于该方法包括以下步骤：
(1-1)定义：从对计算机内存地址的写操作至对该内存地址的下一次写操作之前的对该地址的最后一次读指令为数据存活区间，从对计算机内存地址的最后一次读操作到对该内存地址的下一次写操作为数据消亡区间；
(1-2)计算机的一个缓存行中的数据被修改过，若在该缓存行被替换时，修改的数据所在的内存地址处于上述数据存活区间中，则将修改的数据写回内存中，若在缓存行被替换时，修改的数据所在的内存地址处于上述数据消亡区间中，则修改的数据保持在缓存中，其过程如下：
(1-2-1)计算机的缓存为一级，若缓存行被替换时被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若在缓存行被替换时被修改的数据所在的内存地址处于所述的数据消亡区间中，则被修改的数据保持在缓存中；
(1-2-2)计算机的缓存为两级，其中一级为写直达方式，二级为写回方式，且二级缓存的缓存行中的数据被修改过，若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的消亡区间中，则被修改的数据保持在缓存中；
(1-2-3)计算机的缓存有两级，其中一级和二级同时为写回方式，若一级缓存的缓存行中的数据被修改过，则当该一级缓存行被替换时，若一级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若一级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的消亡区间中，则被修改的数据保持在缓存中；若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的数据存活区间中，则将被修改的数据写回内存中，若二级缓存行被替换时缓存行中被修改的数据所在的内存地址处于所述的消亡区间中，则被修改的数据保持在缓存中；
(1-3)在数据存活区间结束和数据消亡区间开始的位置，插入一条最后一次读操作指令M，在数据消亡区间中读操作指令已经进行后插入一条该数据的存活区间结束消亡区间从此开始的标识指令N；
(1-4)当处理器执行读指令M或标识指令N时，对计算机缓存行的状态进行修改，包括以下步骤：
(1-4-1)计算机的缓存为一级，计算机处理器执行最后一次读操作指令M或数据的存活区间结束消亡区间从此开始的标识指令N时，若与指令的内存地址相对应的缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的缓存行的状态为“缓存行中的数据未被修改过”，则 不作修改；
(1-4-2)计算机的缓存为两级，其中一级为写直达方式，二级为写回方式，计算机处理器执行最后一次读操作指令M或数据的存活区间结束消亡区间从此开始的标识指令N时，若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据未被修改过”，则不作修改；
(1-4-3)计算机的缓存为两级，其中一级和二级同时为写回方式，计算机处理器执行最后一次读操作指令M或数据的存活区间结束消亡区间从此开始的标识指令N时，若与指令的内存地址相对应的一级缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的一级缓存行的状态为“缓存行中的数据未被修改过”，则不作修改；若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据被修改过”，则将该缓存行状态修改为“缓存行中的数据未修改过”，若与指令的内存地址相对应的二级缓存行的状态为“缓存行中的数据未被修改过”，则不作修改。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN200910235723.9A CN101694639B (zh) | 2009-10-15 | 2009-10-15 | 一种计算机数据的缓存方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN200910235723.9A CN101694639B (zh) | 2009-10-15 | 2009-10-15 | 一种计算机数据的缓存方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN101694639A CN101694639A (zh) | 2010-04-14 |
| CN101694639B true CN101694639B (zh) | 2011-06-01 |
Family
ID=42093612
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN200910235723.9A Expired - Fee Related CN101694639B (zh) | 2009-10-15 | 2009-10-15 | 一种计算机数据的缓存方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN101694639B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115878507B (zh) * | 2023-01-19 | 2023-07-21 | 北京象帝先计算技术有限公司 | 系统级芯片的内存访问方法、装置及电子设备 |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101968795B (zh) * | 2010-09-03 | 2012-05-09 | 清华大学 | 一种数据块长度可变的文件系统缓存方法 |
| CN101958834B (zh) * | 2010-09-27 | 2012-09-05 | 清华大学 | 支持高速缓存一致的片上网络系统及数据请求方法 |
| CN104268102A (zh) * | 2014-10-10 | 2015-01-07 | 浪潮集团有限公司 | 一种存储服务器采用混合方式写缓存的方法 |
| CN105335305B (zh) * | 2015-10-30 | 2018-05-15 | 深圳盛思科教文化有限公司 | 一种交互式可编程硬件的缓冲机制实现方法及装置 |
| CN106708417B (zh) * | 2015-11-13 | 2020-08-11 | 阿里巴巴集团控股有限公司 | 缓存数据的管理方法及装置 |
| GB2572780B (en) * | 2018-04-10 | 2020-07-15 | Advanced Risc Mach Ltd | An Apparatus and Method for Controlling Allocation Of Instructions Into An Instruction Cache Storage |
| CN113342265B (zh) * | 2021-05-11 | 2023-11-24 | 中天恒星(上海)科技有限公司 | 缓存管理方法、装置、处理器及计算机装置 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6609177B1 (en) * | 1999-11-12 | 2003-08-19 | Maxtor Corporation | Method and apparatus for extending cache history |
| CN1542623A (zh) * | 2003-04-29 | 2004-11-03 | 华为技术有限公司 | 一种实现内存管理的方法 |
| CN101510176A (zh) * | 2009-03-26 | 2009-08-19 | 浙江大学 | 通用操作系统对cpu二级缓存访问的控制方法 |
-
2009
- 2009-10-15 CN CN200910235723.9A patent/CN101694639B/zh not_active Expired - Fee Related
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6609177B1 (en) * | 1999-11-12 | 2003-08-19 | Maxtor Corporation | Method and apparatus for extending cache history |
| CN1542623A (zh) * | 2003-04-29 | 2004-11-03 | 华为技术有限公司 | 一种实现内存管理的方法 |
| CN101510176A (zh) * | 2009-03-26 | 2009-08-19 | 浙江大学 | 通用操作系统对cpu二级缓存访问的控制方法 |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115878507B (zh) * | 2023-01-19 | 2023-07-21 | 北京象帝先计算技术有限公司 | 系统级芯片的内存访问方法、装置及电子设备 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN101694639A (zh) | 2010-04-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN101694639B (zh) | 一种计算机数据的缓存方法 | |
| Kaplan et al. | Cache-based computer systems | |
| CN107479860B (zh) | 一种处理器芯片以及指令缓存的预取方法 | |
| CN100478918C (zh) | 微处理器中分段高速缓存的设计方法及分段高速缓存 | |
| CN109461113B (zh) | 一种面向数据结构的图形处理器数据预取方法及装置 | |
| US10185498B2 (en) | Write buffer design for high-latency memories | |
| CN102541510B (zh) | 一种指令缓存系统及其取指方法 | |
| CN100392623C (zh) | 用于从地址高速缓存去除条目的方法和设备 | |
| JP2012203560A (ja) | キャッシュメモリおよびキャッシュシステム | |
| CN104679681B (zh) | Ahb总线访问片上sram的高速桥装置及其工作方法 | |
| CN101526896A (zh) | 嵌入式处理器的加载/存储单元 | |
| CN111045957B (zh) | 一种与处理器流水线伪同频的ICache实现方法 | |
| CN103019959A (zh) | 一种指令高速缓冲存储器 | |
| CN114911724B (zh) | 一种基于多bank的cache预取技术的访存结构 | |
| CN105955711A (zh) | 一种支持非阻塞缺失处理的缓冲方法 | |
| CN108874690A (zh) | 数据预取的实现方法和处理器 | |
| CN103257850A (zh) | 一种基于标志位访问踪迹的指令高速缓冲存储器 | |
| CN102646073B (zh) | 数据处理方法及装置 | |
| KR100840011B1 (ko) | 3차원 그래픽 연산을 위한 캐쉬 메모리 장치 및 3차원그래픽 연산 처리 방법 | |
| CN118503151A (zh) | 一种gpgpu二级数据缓存动态旁路方法 | |
| US10747669B2 (en) | Prefetching data | |
| CN101699412A (zh) | 一种计算机事务存储方法 | |
| TWI435267B (zh) | 處理器電路及讀取資料的方法 | |
| CN103186474B (zh) | 对处理器的高速缓存进行清除的方法以及该处理器 | |
| CN102722446B (zh) | 一种面向流处理器的局部内存访问模式动态记录器 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C14 | Grant of patent or utility model | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20110601 Termination date: 20211015 |
|
| CF01 | Termination of patent right due to non-payment of annual fee |