CN117648266A - 一种数据缓存方法、系统、设备及计算机可读存储介质 - Google Patents

一种数据缓存方法、系统、设备及计算机可读存储介质 Download PDF

Info

Publication number
CN117648266A
CN117648266A CN202311613188.2A CN202311613188A CN117648266A CN 117648266 A CN117648266 A CN 117648266A CN 202311613188 A CN202311613188 A CN 202311613188A CN 117648266 A CN117648266 A CN 117648266A
Authority
CN
China
Prior art keywords
memory data
current
data
priority
memory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311613188.2A
Other languages
English (en)
Inventor
黄宬
王彦伟
樊嘉恒
徐冉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Inspur Beijing Electronic Information Industry Co Ltd
Original Assignee
Inspur Beijing Electronic Information Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Inspur Beijing Electronic Information Industry Co Ltd filed Critical Inspur Beijing Electronic Information Industry Co Ltd
Priority to CN202311613188.2A priority Critical patent/CN117648266A/zh
Publication of CN117648266A publication Critical patent/CN117648266A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10Providing a specific technical effect
    • G06F2212/1016Performance improvement
    • G06F2212/1024Latency reduction
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Memory System Of A Hierarchy Structure (AREA)

Abstract

本发明公开了一种数据缓存方法、系统、设备及计算机可读存储介质,涉及数据处理领域,为解决现有缓存方案需要多次访问远端设备的问题,该数据缓存方法包括:通过计算高速链路模块获取其他计算设备的当前内存数据;确定当前内存数据的类型及存在优先级;基于类型和存在优先级确定当前存储位置;当前存储位置为目标存储空间或原生缓存;将当前内存数据写入当前存储位置。本发明能够提高缓存速度,此外将存在优先级较高的内存数据写入响应速度更快的原生缓存,提高数据访问效率。

Description

一种数据缓存方法、系统、设备及计算机可读存储介质
技术领域
本发明涉及数据处理领域,特别涉及一种数据缓存方法、系统、设备及计算机可读存储介质。
背景技术
CXL(Compute Express Link,计算高速链路)作为一种互联技术标准,其能够让CPU与GPU、FPGA或其他加速器之间实现高速高效的互联,从而满足高性能计算系统的要求,并且其维护CPU和异构设备之间的Cache、内存一致性。计算系统中任一个主机的CXL设备可以通过CXL Switch(交换机)访问远端其他主机的CXL设备,从而缓存远端设备的内存数据,目前远端设备的内存数据保存在CXL设备的原生缓存上,如果原生缓存的容量较小,而请求的远端设备的内存数据较大时,需要多次访问远端设备,效率低。
因此,如何提供一种解决上述技术问题的方案是本领域技术人员目前需要解决的问题。
发明内容
本发明的目的是提供一种数据缓存方法、系统、设备及计算机可读存储介质,能够提高缓存速度,此外将存在优先级较高的内存数据写入响应速度更快的原生缓存,提高数据访问效率。
为解决上述技术问题,本发明提供了一种数据缓存方法,应用于计算设备中的处理器,所述计算设备还包括内存、计算高速链路模块及原生缓存,所述内存包括目标存储空间,所述数据缓存方法包括:
通过所述计算高速链路模块获取其他计算设备的当前内存数据;
确定所述当前内存数据的类型及存在优先级;
基于所述类型和所述存在优先级确定当前存储位置;所述当前存储位置为所述目标存储空间或所述原生缓存;
将所述当前内存数据写入所述当前存储位置。
在一示例性实施例中,确定所述当前内存数据的类型的过程包括:
判断所述其他计算设备是否为与自身处于同一主机的本地计算设备;
若是,确定所述当前内存数据的类型为本地数据;
若否,确定所述当前内存数据的类型为远端数据。
在一示例性实施例中,基于所述类型和所述存在优先级确定当前存储位置的过程包括:
当所述类型为所述本地数据,确定当前存储位置为所述原生缓存。
在一示例性实施例中,将所述当前内存数据写入所述当前存储位置之前,该数据缓存方法还包括:
将所述原生缓存划分为本地缓存区域和远端缓存区域;
将所述当前内存数据写入所述当前存储位置的过程包括:
当所述当前存储位置为所述原生缓存,且所述当前内存数据的类型为所述本地数据,将所述当前内存数据写入所述原生缓存的本地缓存区域;
当所述当前存储位置为所述原生缓存,且所述当前内存数据的类型为所述远端数据,将所述当前内存数据写入所述原生缓存的远端缓存区域。
在一示例性实施例中,基于所述类型和所述存在优先级确定当前存储位置的过程包括:
当所述类型为所述远端数据,将所述原生缓存中的各所述内存数据的所述存在优先级、所述目标存储空间中的各所述内存数据的所述存在优先级及所述当前内存数据的存在优先级按照从高到低的顺序进行排序;
根据排序结果,确定所述当前内存数据的存在优先级的排序位置;
当所述排序位置处于第一预设范围内,确定所述当前存储位置为所述原生缓存;
当所述排序位置处于第二预设范围内,确定所述当前存储位置为所述目标存储空间;
所述第一预设范围内的所有所述存在优先级均大于所述第二预设范围内的所有所述存在优先级。
在一示例性实施例中,将所述当前内存数据写入所述当前存储位置的过程包括:
判断所述当前存储位置是否写满;
若是,将所述当前存储位置中的所述存在优先级最低的内存数据从所述当前存储位置中删除,并将所述当前内存数据写入所述当前存储位置;
若否,直接将所述当前内存数据写入所述当前存储位置。
在一示例性实施例中,将所述当前存储位置中的所述存在优先级最低的内存数据从所述当前存储位置中删除的同时,所述数据缓存方法还包括:
当所述当前存储位置为所述原生缓存,将所述原生缓存中的所述存在优先级最低的内存数据写入所述目标存储空间。
在一示例性实施例中,将所述原生缓存中的所述存在优先级最低的内存数据写入所述目标存储空间的过程包括:
判断所述目标存储空间是否写满;
若是,将所述目标存储空间中的所述存在优先级最低的内存数据从所述目标存储空间中删除,并将所述原生缓存中的所述存在优先级最低的内存数据写入所述目标存储空间。
在一示例性实施例中,将所述当前存储位置中的所述存在优先级最低的内存数据从所述当前存储位置中删除的过程包括:
当所述当前存储位置为所述目标存储空间,直接将所述目标存储空间中的所述存在优先级最低的内存数据删除。
在一示例性实施例中,所述数据缓存方法还包括:
每当对所述原生缓存中的目标内存数据执行读取操作,将所述目标内存数据的使用时间调整为当前读取时间,基于所述原生缓存中的各个所述内存数据的所述使用时间,更新所述原生缓存中各个所述内存数据的存在优先级。
在一示例性实施例中,更新所述原生缓存中各个所述内存数据的存在优先级之后,所述数据缓存方法还包括:
对所述原生缓存中的各个所述内存数据的所述存在优先级、所述目标存储空间中的各个所述内存数据的所述存在优先级按从高到低的顺序进行排序;
根据排序结果,确定各个所述内存数据的排序位置;
针对每一所述内存数据,若所述内存数据的排序位置处于第一预设范围内,将所述内存数据写入所述原生缓存中,若所述内存数据的排序位置处于第二预设范围内,将所述内存数据写入所述原生缓存中;
所述第一预设范围内的所有所述存在优先级均大于所述第二预设范围内的所有所述存在优先级。
在一示例性实施例中,所述数据缓存方法还包括:
每当对所述目标存储空间中的目标内存数据执行读取操作,将所述目标内存数据的使用时间调整为当前读取时间,基于所述目标存储空间中的各个所述内存数据的所述使用时间,更新所述目标存储空间中各个所述内存数据的存在优先级。
在一示例性实施例中,更新所述目标存储空间中各个所述内存数据的存在优先级之后,所述数据缓存方法还包括:
对所述原生缓存中的各个所述内存数据的所述存在优先级、所述目标存储空间中的各个所述内存数据的所述存在优先级按从高到低的顺序进行排序;
根据排序结果,确定各个所述内存数据的排序位置;
针对每一所述内存数据,若所述内存数据的排序位置处于第一预设范围内,将所述内存数据写入所述原生缓存中,若所述内存数据的排序位置处于第二预设范围内,将所述内存数据写入所述原生缓存中;
所述第一预设范围内的所有所述存在优先级均大于所述第二预设范围内的所有所述存在优先级。
在一示例性实施例中,确定所述当前内存数据的存在优先级的过程包括:
确定所述当前内存数据对应的传输时延及使用时间差;所述使用时间差为当前时间与所述当前内存数据最近一次的使用时间的差值;
根据所述传输时延和所述使用时间差确定所述当前内存数据的存在优先级。
在一示例性实施例中,根据所述传输时延和所述使用时间差确定所述当前内存数据的存在优先级的过程包括:
根据第一关系式计算所述当前内存数据的存在优先级,所述第一关系式为P=delay/time,P为所述存在优先级,delay为所述传输时延,time为所述使用时间差。
为解决上述技术问题,本发明还提供了一种数据缓存系统,应用于计算设备中的处理器,所述计算设备还包括内存、计算高速链路模块及原生缓存,所述内存包括目标存储空间,所述数据缓存系统包括:
第一获取模块,用于通过所述计算高速链路模块获取其他计算设备的当前内存数据;
第一确定模块,用于确定所述当前内存数据的类型及存在优先级;
第二确定模块,用于基于所述类型和所述存在优先级确定当前存储位置;所述当前存储位置为所述目标存储空间或所述原生缓存;
写入模块,用于将所述当前内存数据写入所述当前存储位置。
为解决上述技术问题,本发明还提供了一种计算设备,包括:
内存、计算高速链路模块及原生缓存,所述内存包括目标存储空间;
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如上文任意一项所述的数据缓存方法的步骤。
在一示例性实施例中,所述内存为双倍速率同步动态随机存储器。
为解决上述技术问题,本发明还提供了一种计算系统,包括计算高速链路交换机以及连接于所述计算高速链路交换机上的多个主机,每个所述主机中包括至少一个如上文所述的计算设备。
在一示例性实施例中,所述计算设备为中央处理器设备或加速器设备。
为解决上述技术问题,本发明还提供了一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上文任意一项所述的数据缓存方法的步骤。
本发明提供了一种数据缓存方法,在计算设备的内存中划分一部分空间作为目标存储空间,计算设备中的处理器通过高速计算链路模块可以访问其他计算设备的内存,当计算设备通过高速计算链路模块获取到其他计算设备的当前内存数据后,能够根据内存数据的类型和存在优先级,将接收到的内存数据写入到对应的目标存储空间或者原生缓存中,避免原生缓存容量不足时需要多次访问远端设备,提高缓存速度,此外将存在优先级较高的内存数据写入响应速度更快的原生缓存,提高数据访问效率。本发明还提供了一种数据缓存系统、计算设备、计算系统及计算机可读存储介质,具有和上述数据缓存方法相同的有益效果。
附图说明
为了更清楚地说明本发明实施例,下面将对实施例中所需要使用的附图做简单的介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明所提供的一种数据缓存方法的步骤流程图;
图2为本发明所提供的一种数据缓存系统的结构示意图;
图3为本发明所提供的一种计算设备的结构示意图;
图4为本发明所提供的一种计算系统的结构示意图。
具体实施方式
本发明的核心是提供一种数据缓存方法、系统、设备及计算机可读存储介质,能够提高缓存速度,此外将存在优先级较高的内存数据写入响应速度更快的原生缓存,提高数据访问效率。
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
第一方面,请参照图1,图1为本发明所提供的一种数据缓存方法的步骤流程图,应用于计算设备中的处理器,计算设备还包括内存、计算高速链路模块、原生缓存、以及对内存进行划分得到的目标存储空间,数据缓存方法包括:
S101:通过计算高速链路模块获取其他计算设备的当前内存数据;
本实例中,计算设备具体可以为中央处理器设备或加速器设备,加速器设备具体可以为GPU(Graphics Processing Unit,图形处理器)设备或者FPGA(Field ProgrammableGate Array,现场可编程逻辑门阵列)设备,可以理解,每个主机可以包括多个计算设备,设于同一主机上计算设备互为本地设备,设于不同主机上的计算设备互为远端设备,多个主机通过交换机连接,计算高速链路模块具体为支持CXL协议的接口,用于与其他计算设备的计算高速链路模块进行数据交互。
可以理解,每个计算设备上均设有本地内存和本地缓存,本地缓存即原生缓存,本地内存包括但不限于DDR(Double Data Rate,双倍速率)存储器,为避免原生缓存容量小导致的访问效率低的问题,本实施例从计算设备的本地内存中划分出部分区域作为目标存储空间,该目标存储空间作为缓存使用,与原生缓存共同对从计算高速链路模块接收到的数据进行缓存。
本实施例中,其他计算设备可以为与本计算设备处于同一主机的本地计算设备,还可以为与本计算设备处于不同主机的远端计算设备。当前内存数据即当前时刻从计算高速链路模块获取的其他计算设备的内存数据。
示例性地,计算设备A可以通过计算高速链路接口向计算设备B发送计算高速链路请求,计算设备B在接收到计算高速链路请求后,执行内存一致性操作,将该请求对应的数据通过计算高速链路接口返回给计算设备A。
S102:确定当前内存数据的类型及存在优先级;
在一示例性实施例中,确定当前内存数据的类型的过程包括:
判断其他计算设备是否为与自身处于同一主机的本地计算设备;
若是,确定当前内存数据的类型为本地数据;
若否,确定当前内存数据的类型为远端数据。
本计算设备在接收到当前内存数据后,对当前内存数据的类型和存在优先级进行获取,类型用于确定当前内存数据的数据来源,如该当前内存数据是由本地计算设备发送的,或当前内存数据是由远端计算设备发送,不同的数据来源对于当前内存数据的使用频率也不同;存在优先级可以用于确定当前内存数据的缓存价值和使用频率。
S103:基于类型和存在优先级确定当前存储位置;当前存储位置为目标存储空间或原生缓存;
S104:将当前内存数据写入当前存储位置。
可以理解,目标存储空间是从内存中划分出的区域,原生缓存的响应速度要优于目标存储空间,因此,基于类型和存在优先级确定当前存储位置为目标存储空间或者原生缓存,将当前内存数据写入目标存储空间或者原生缓存。本实施例中,将存在优先级较高的当前内存数据写入原生缓存,从而进一步提高对当前内存数据的访问速度。
可见,本实施例中,在计算设备的内存中划分一部分空间作为目标存储空间,计算设备中的处理器通过高速计算链路模块可以访问其他计算设备的内存,当计算设备通过高速计算链路模块获取到其他计算设备的当前内存数据后,能够根据内存数据的类型和存在优先级,将接收到的内存数据写入到对应的目标存储空间或者原生缓存中,避免原生缓存容量不足时需要多次访问远端设备,提高缓存速度,此外将存在优先级较高的内存数据写入响应速度更快的原生缓存,提高数据访问效率。
在上述实施例的基础上:
在一示例性实施例中,基于类型和存在优先级确定当前存储位置的过程包括:
当类型为本地数据,确定当前存储位置为原生缓存。
本实施例中,如果当前内存数据是由本地计算设备发送的本地数据,考虑该内存数据很大概率会被计算设备再次使用,可将该当前内存数据写入原生缓存。
在一示例性实施例中,将当前内存数据写入当前存储位置之前,该数据缓存方法还包括:
将原生缓存划分为本地缓存区域和远端缓存区域;
将当前内存数据写入当前存储位置的过程包括:
当当前存储位置为原生缓存,且当前内存数据的类型为本地数据,将当前内存数据写入原生缓存的本地缓存区域;
当当前存储位置为原生缓存,且当前内存数据的类型为远端数据,将当前内存数据写入原生缓存的远端缓存区域。
本实施例中,为了降低远端对本地计算高速链路的干扰,对原生缓存进行了进一步划分,将其划分为本地缓存区域和远端缓存区域,根据数据的类型将当前内存数据写入到与类型对应的缓存区域中。
示例性地,可设置分配系数a和(1-a)分别用于划分原生缓存中的本地缓存区域以及远端缓存区域。
在一示例性实施例中,基于类型和存在优先级确定当前存储位置的过程包括:
当类型为远端数据,将原生缓存中的各内存数据的存在优先级、目标存储空间中的各内存数据的存在优先级及当前内存数据的存在优先级按照从高到低的顺序进行排序;
根据排序结果,确定当前内存数据的存在优先级的排序位置;
当排序位置处于第一预设范围内,确定当前存储位置为原生缓存;
当排序位置处于第二预设范围内,确定当前存储位置为目标存储空间;
第一预设范围内的所有存在优先级均大于第二预设范围内的所有存在优先级。
本实施例中,如果当前内存数据为远端数据,根据当前内存数据的存在优先级确定当前内存数据是写入原生缓存或目标存储空间。当接收到当前内存数据后,对当前内存数据的存在优先级进行计算,计算完成后与该计算设备中所有内存数据的存在优先级由高到低的顺序进行排序,假设该计算设备中共有100个内存数据,前30个存在优先级较高的内存数据写入原生缓存,后70个内存数据写入目标存储空间,假设当前内存数据的排序位置处于前30个的范围内,确定当前内存数据的当前存储位置为原生缓存,否则确定当前内存数据的当前存储位置为目标存储空间。
在一示例性实施例中,将当前内存数据写入当前存储位置的过程包括:
判断当前存储位置是否写满;
若是,将当前存储位置中的存在优先级最低的内存数据从当前存储位置中删除,并将当前内存数据写入当前存储位置;
若否,直接将当前内存数据写入当前存储位置。
本实施例中,在向当前存储位置写入当前内存数据之前,首先判断当前存储位置是否写满,如果是,则将当前存储位置中的存在优先级最低的内存数据删除,再将当前内存数据写入当前存储位置,若未写满,则直接写入当前存储位置。
在一示例性实施例中,将当前存储位置中的存在优先级最低的内存数据从当前存储位置中删除的同时,数据缓存方法还包括:
当当前存储位置为原生缓存,将原生缓存中的存在优先级最低的内存数据写入目标存储空间。
本实施例中,如果当前存储位置为原生缓存,将存在优先级最低的内存数据从原生缓存中删除后写入目标存储空间中。
在一示例性实施例中,将原生缓存中的存在优先级最低的内存数据写入目标存储空间的过程包括:
判断目标存储空间是否写满;
若是,将目标存储空间中的存在优先级最低的内存数据从目标存储空间中删除,并将原生缓存中的存在优先级最低的内存数据写入目标存储空间。
本实施例中,再将原生缓存的内存数据写入目标存储空间时,同样对目标存储空间是否写满进行判断,如果写满,将目标存储空间中存在优先级最低的内存数据删除,再将原生缓存中的内存数据写入目标存储空间,否则,直接写入目标存储空间。
在一示例性实施例中,将当前存储位置中的存在优先级最低的内存数据从当前存储位置中删除的过程包括:
当当前存储位置为目标存储空间,直接将目标存储空间中的存在优先级最低的内存数据删除。
在一示例性实施例中,数据缓存方法还包括:
每当对原生缓存中的目标内存数据执行读取操作,将目标内存数据的使用时间调整为当前读取时间,基于原生缓存中的各个内存数据的使用时间,更新原生缓存中各个内存数据的存在优先级。
在一示例性实施例中,更新原生缓存中各个内存数据的存在优先级之后,数据缓存方法还包括:
对原生缓存中的各个内存数据的存在优先级、目标存储空间中的各个内存数据的存在优先级按从高到低的顺序进行排序;
根据排序结果,确定各个内存数据的排序位置;
针对每一内存数据,若内存数据的排序位置处于第一预设范围内,将内存数据写入原生缓存中,若内存数据的排序位置处于第二预设范围内,将内存数据写入原生缓存中;
第一预设范围内的所有存在优先级均大于第二预设范围内的所有存在优先级。
在一示例性实施例中,数据缓存方法还包括:
每当对目标存储空间中的目标内存数据执行读取操作,将目标内存数据的使用时间调整为当前读取时间,基于目标存储空间中的各个内存数据的使用时间,更新目标存储空间中各个内存数据的存在优先级。
在一示例性实施例中,更新目标存储空间中各个内存数据的存在优先级之后,数据缓存方法还包括:
对原生缓存中的各个内存数据的存在优先级、目标存储空间中的各个内存数据的存在优先级按从高到低的顺序进行排序;
根据排序结果,确定各个内存数据的排序位置;
针对每一内存数据,若内存数据的排序位置处于第一预设范围内,将内存数据写入原生缓存中,若内存数据的排序位置处于第二预设范围内,将内存数据写入原生缓存中;
第一预设范围内的所有存在优先级均大于第二预设范围内的所有存在优先级。
本实施例中,当对计算设备中的任一缓存中的内存数据进行操作之后,都对被操作的内存数据的使用时间进行更新,将其调整为对其进行操作时的时间,即当前读取时间,更新完被操作的内存数据的使用时间后,触发对该内存数据所在缓存的整体的存在优先级的更新,更新结束后,可以对该计算设备内原生缓存和目标存储空间中的内存数据按存在优先级从高到低的顺序重新进行排序,根据排序结果对各个内存数据的存储位置进行调整,如将存在优先级较高的写入原生缓存,将存在优先级较低的写入目标存储空间。
在一示例性实施例中,确定当前内存数据的存在优先级的过程包括:
确定当前内存数据对应的传输时延及使用时间差;使用时间差为当前时间与当前内存数据最近一次的使用时间的差值;
根据传输时延和使用时间差确定当前内存数据的存在优先级。
在一示例性实施例中,根据传输时延和使用时间差确定当前内存数据的存在优先级的过程包括:
根据第一关系式计算当前内存数据的存在优先级,第一关系式为P=delay/time,P为存在优先级,delay为传输时延,time为使用时间差。
本实施例中,为了给远程内存的重要性增加一个权重校正,时延越大优先级越高,因为其缓存价值大,缓存存在时间越短优先级越高,因为最近使用的数据很大概率将会再次被使用。
第二方面,请参照图2,图2为本发明所提供的一种数据缓存系统,应用于计算设备中的处理器,计算设备还包括内存、计算高速链路模块、原生缓存、以及对内存进行划分得到的目标存储空间,数据缓存系统包括:
第一获取模块21,用于通过计算高速链路模块获取其他计算设备的当前内存数据;
第一确定模块22,用于确定当前内存数据的类型及存在优先级;
第二确定模块23,用于基于类型和存在优先级确定当前存储位置;当前存储位置为目标存储空间或原生缓存;
写入模块24,用于将当前内存数据写入当前存储位置。
可见,在计算设备的内存中划分一部分空间作为目标存储空间,计算设备中的处理器通过高速计算链路模块可以访问其他计算设备的内存,当计算设备通过高速计算链路模块获取到其他计算设备的当前内存数据后,能够根据内存数据的类型和存在优先级,将接收到的内存数据写入到对应的目标存储空间或者原生缓存中,避免原生缓存容量不足时需要多次访问远端设备,提高缓存速度,此外将存在优先级较高的内存数据写入响应速度更快的原生缓存,提高数据访问效率。
在一示例性实施例中,确定当前内存数据的类型的过程包括:
判断其他计算设备是否为与自身处于同一主机的本地计算设备;
若是,确定当前内存数据的类型为本地数据;
若否,确定当前内存数据的类型为远端数据。
在一示例性实施例中,基于类型和存在优先级确定当前存储位置的过程包括:
当类型为本地数据,确定当前存储位置为原生缓存。
在一示例性实施例中,该数据缓存系统还包括:
划分模块,用于将当前内存数据写入当前存储位置之前,将原生缓存划分为本地缓存区域和远端缓存区域;
将当前内存数据写入当前存储位置的过程包括:
当当前存储位置为原生缓存,且当前内存数据的类型为本地数据,将当前内存数据写入原生缓存的本地缓存区域;
当当前存储位置为原生缓存,且当前内存数据的类型为远端数据,将当前内存数据写入原生缓存的远端缓存区域。
在一示例性实施例中,基于类型和存在优先级确定当前存储位置的过程包括:
当类型为远端数据,将原生缓存中的各内存数据的存在优先级、目标存储空间中的各内存数据的存在优先级及当前内存数据的存在优先级按照从高到低的顺序进行排序;
根据排序结果,确定当前内存数据的存在优先级的排序位置;
当排序位置处于第一预设范围内,确定当前存储位置为原生缓存;
当排序位置处于第二预设范围内,确定当前存储位置为目标存储空间;
第一预设范围内的所有存在优先级均大于第二预设范围内的所有存在优先级。
在一示例性实施例中,将当前内存数据写入当前存储位置的过程包括:
判断当前存储位置是否写满;
若是,将当前存储位置中的存在优先级最低的内存数据从当前存储位置中删除,并将当前内存数据写入当前存储位置;
若否,直接将当前内存数据写入当前存储位置。
在一示例性实施例中,将当前存储位置中的存在优先级最低的内存数据从当前存储位置中删除的同时,数据缓存方法还包括:
当当前存储位置为原生缓存,将原生缓存中的存在优先级最低的内存数据写入目标存储空间。
在一示例性实施例中,将原生缓存中的存在优先级最低的内存数据写入目标存储空间的过程包括:
判断目标存储空间是否写满;
若是,将目标存储空间中的存在优先级最低的内存数据从目标存储空间中删除,并将原生缓存中的存在优先级最低的内存数据写入目标存储空间。
在一示例性实施例中,将当前存储位置中的存在优先级最低的内存数据从当前存储位置中删除的过程包括:
当当前存储位置为目标存储空间,直接将目标存储空间中的存在优先级最低的内存数据删除。
在一示例性实施例中,数据缓存系统还包括:
第一调整模块,用于每当对原生缓存中的目标内存数据执行读取操作,将目标内存数据的使用时间调整为当前读取时间,基于原生缓存中的各个内存数据的使用时间,更新原生缓存中各个内存数据的存在优先级。
在一示例性实施例中,数据缓存系统还包括:
第一更新模块,用于更新原生缓存中各个内存数据的存在优先级之后,对原生缓存中的各个内存数据的存在优先级、目标存储空间中的各个内存数据的存在优先级按从高到低的顺序进行排序;
根据排序结果,确定各个内存数据的排序位置;
针对每一内存数据,若内存数据的排序位置处于第一预设范围内,将内存数据写入原生缓存中,若内存数据的排序位置处于第二预设范围内,将内存数据写入原生缓存中;
第一预设范围内的所有存在优先级均大于第二预设范围内的所有存在优先级。
在一示例性实施例中,数据缓存系统还包括:
第二调整模块,用于每当对目标存储空间中的目标内存数据执行读取操作,将目标内存数据的使用时间调整为当前读取时间,基于目标存储空间中的各个内存数据的使用时间,更新目标存储空间中各个内存数据的存在优先级。
在一示例性实施例中,数据缓存系统还包括:
第二更新模块,用于在更新目标存储空间中各个内存数据的存在优先级之后,对原生缓存中的各个内存数据的存在优先级、目标存储空间中的各个内存数据的存在优先级按从高到低的顺序进行排序;
根据排序结果,确定各个内存数据的排序位置;
针对每一内存数据,若内存数据的排序位置处于第一预设范围内,将内存数据写入原生缓存中,若内存数据的排序位置处于第二预设范围内,将内存数据写入原生缓存中;
第一预设范围内的所有存在优先级均大于第二预设范围内的所有存在优先级。
在一示例性实施例中,确定当前内存数据的存在优先级的过程包括:
确定当前内存数据对应的传输时延及使用时间差;使用时间差为当前时间与当前内存数据最近一次的使用时间的差值;
根据传输时延和使用时间差确定当前内存数据的存在优先级。
在一示例性实施例中,根据传输时延和使用时间差确定当前内存数据的存在优先级的过程包括:
根据第一关系式计算当前内存数据的存在优先级,第一关系式为P=delay/time,P为存在优先级,delay为传输时延,time为使用时间差。
第三方面,请参照图3,图3为本发明所提供的一种计算设备的结构示意图,包括:
内存31、计算高速链路模块32、原生缓存33,内存31包括目标存储空间311;
存储器,用于存储计算机程序;
处理器35,用于执行计算机程序时实现如上文任意一个实施例所描述的数据缓存方法的步骤。
在一示例性实施例中,内存31为双倍速率同步动态随机存储器。
其中,存储器包括非易失性存储介质、内存储器。该非易失性存储介质存储有操作系统和计算机可读指令,该内存储器为非易失性存储介质中的操作系统和计算机可读指令的运行提供环境。处理器35执行存储器中保存的计算机程序时,可以实现以下步骤:通过计算高速链路模块32获取其他计算设备的当前内存数据;确定当前内存数据的类型及存在优先级;基于类型和存在优先级确定当前存储位置;当前存储位置为目标存储空间311或原生缓存33;将当前内存数据写入当前存储位置。
可见,本实施例中,在计算设备的内存31中划分一部分空间作为目标存储空间311,当计算设备接收到其他计算设备发送的内存31数据后,根据内存31数据的类型和存在优先级,将接收到的内存31数据写入到对应的目标存储空间311或者原生缓存33中,避免原生缓存33容量不足时需要多次访问远端设备,提高缓存速度,此外将存在优先级较高的内存31数据写入响应速度更快的原生缓存33,提高数据访问效率。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:判断其他计算设备是否为与自身处于同一主机的本地计算设备;若是,确定当前内存数据的类型为本地数据;若否,确定当前内存数据的类型为远端数据。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:当类型为本地数据,确定当前存储位置为原生缓存33。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:将原生缓存33划分为本地缓存区域和远端缓存区域;当当前存储位置为原生缓存33,且当前内存数据的类型为本地数据,将当前内存数据写入原生缓存33的本地缓存区域;当当前存储位置为原生缓存33,且当前内存数据的类型为远端数据,将当前内存数据写入原生缓存33的远端缓存区域。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:当类型为远端数据,将原生缓存33中的各内存31数据的存在优先级、目标存储空间311中的各内存31数据的存在优先级及当前内存数据的存在优先级按照从高到低的顺序进行排序;根据排序结果,确定当前内存数据的存在优先级的排序位置;当排序位置处于第一预设范围内,确定当前存储位置为原生缓存33;当排序位置处于第二预设范围内,确定当前存储位置为目标存储空间311;第一预设范围内的所有存在优先级均大于第二预设范围内的所有存在优先级。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:判断当前存储位置是否写满;若是,将当前存储位置中的存在优先级最低的内存31数据从当前存储位置中删除,并将当前内存数据写入当前存储位置;若否,直接将当前内存数据写入当前存储位置。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:当当前存储位置为原生缓存33,将原生缓存33中的存在优先级最低的内存31数据写入目标存储空间311。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:判断目标存储空间311是否写满;若是,将目标存储空间311中的存在优先级最低的内存31数据从目标存储空间311中删除,并将原生缓存33中的存在优先级最低的内存31数据写入目标存储空间311。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:当当前存储位置为目标存储空间311,直接将目标存储空间311中的存在优先级最低的内存31数据删除。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:每当对原生缓存33中的目标内存31数据执行读取操作,将目标内存31数据的使用时间调整为当前读取时间,基于原生缓存33中的各个内存31数据的使用时间,更新原生缓存33中各个内存31数据的存在优先级。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:对原生缓存33中的各个内存31数据的存在优先级、目标存储空间311中的各个内存31数据的存在优先级按从高到低的顺序进行排序;根据排序结果,确定各个内存31数据的排序位置;针对每一内存31数据,若内存31数据的排序位置处于第一预设范围内,将内存31数据写入原生缓存33中,若内存31数据的排序位置处于第二预设范围内,将内存31数据写入原生缓存33中;第一预设范围内的所有存在优先级均大于第二预设范围内的所有存在优先级。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:每当对目标存储空间311中的目标内存31数据执行读取操作,将目标内存31数据的使用时间调整为当前读取时间,基于目标存储空间311中的各个内存31数据的使用时间,更新目标存储空间311中各个内存31数据的存在优先级。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:对原生缓存33中的各个内存31数据的存在优先级、目标存储空间311中的各个内存31数据的存在优先级按从高到低的顺序进行排序;根据排序结果,确定各个内存31数据的排序位置;针对每一内存31数据,若内存31数据的排序位置处于第一预设范围内,将内存31数据写入原生缓存33中,若内存31数据的排序位置处于第二预设范围内,将内存31数据写入原生缓存33中;第一预设范围内的所有存在优先级均大于第二预设范围内的所有存在优先级。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:确定当前内存数据对应的传输时延及使用时间差;使用时间差为当前时间与当前内存数据最近一次的使用时间的差值;根据传输时延和使用时间差确定当前内存数据的存在优先级。
在一示例性实施例中,处理器35执行存储器中保存的计算机子程序时,可以实现以下步骤:根据第一关系式计算当前内存数据的存在优先级,第一关系式为P=delay/time,P为存在优先级,delay为传输时延,time为使用时间差。
在上述实施例的基础上,计算设备还包括:
输入接口,与处理器35相连,用于获取外部导入的计算机程序、参数和指令,经处理器35控制保存至存储器中。该输入接口可以与输入装置相连,接收用户手动输入的参数或指令。该输入装置可以是显示屏上覆盖的触摸层,也可以是终端外壳上设置的按键、轨迹球或触控板。
显示单元,与处理器35相连,用于显示处理器35发送的数据。该显示单元可以为液晶显示屏或者电子墨水显示屏等。
网络端口,与处理器35相连,用于与外部各终端设备进行通信连接。该通信连接所采用的通信技术可以为有线通信技术或无线通信技术,如移动高清链接技术、通用串行总线、高清多媒体接口、无线保真技术、蓝牙通信技术、低功耗蓝牙通信技术、基于IEEE802.11s的通信技术等。
第四方面,请参照图4,图4为本发明所提供的一种计算系统的结构示意图,包括计算高速链路交换机以及连接于计算高速链路交换机上的多个主机,每个主机中包括至少一个如上文的计算设备,图4中仅示意出两个主机,且每个主机仅包括两个计算设备。
在一示例性实施例中,计算设备为中央处理器设备或加速器设备。
可以理解,计算系统中同时包括不同类型的计算设备时,如同时包括中央处理器设备以及加速器设备时,该计算系统为异构计算系统,其中,加速器设备包括但不限于FPGA设备、GPU设备等,由中央处理器设备完成不可加速部分的计算以及整个系统的控制调度,由加速器设备完成的特定的任务和加速处理。
第五方面,本发明还提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现如上文任意一个实施例所描述的数据缓存方法的步骤。
对于本发明所提供的一种计算系统和计算机可读存储介质的介绍请参照上述实施例,本发明在此不再赘述。
本发明中的一种计算系统和计算机可读存储介质具有和上述数据缓存方法相同的有益效果。
还需要说明的是,在本说明书中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的状况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其他实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (21)

1.一种数据缓存方法,其特征在于,应用于计算设备中的处理器,所述计算设备还包括内存、计算高速链路模块及原生缓存,所述内存包括目标存储空间,所述数据缓存方法包括:
通过所述计算高速链路模块获取其他计算设备的当前内存数据;
确定所述当前内存数据的类型及存在优先级;
基于所述类型和所述存在优先级确定当前存储位置;所述当前存储位置为所述目标存储空间或所述原生缓存;
将所述当前内存数据写入所述当前存储位置。
2.根据权利要求1所述的数据缓存方法,其特征在于,确定所述当前内存数据的类型的过程包括:
判断所述其他计算设备是否为与自身处于同一主机的本地计算设备;
若是,确定所述当前内存数据的类型为本地数据;
若否,确定所述当前内存数据的类型为远端数据。
3.根据权利要求2所述的数据缓存方法,其特征在于,基于所述类型和所述存在优先级确定当前存储位置的过程包括:
当所述类型为所述本地数据,确定当前存储位置为所述原生缓存。
4.根据权利要求2所述的数据缓存方法,其特征在于,将所述当前内存数据写入所述当前存储位置之前,该数据缓存方法还包括:
将所述原生缓存划分为本地缓存区域和远端缓存区域;
将所述当前内存数据写入所述当前存储位置的过程包括:
当所述当前存储位置为所述原生缓存,且所述当前内存数据的类型为所述本地数据,将所述当前内存数据写入所述原生缓存的本地缓存区域;
当所述当前存储位置为所述原生缓存,且所述当前内存数据的类型为所述远端数据,将所述当前内存数据写入所述原生缓存的远端缓存区域。
5.根据权利要求2所述的数据缓存方法,其特征在于,基于所述类型和所述存在优先级确定当前存储位置的过程包括:
当所述类型为所述远端数据,将所述原生缓存中的各所述内存数据的所述存在优先级、所述目标存储空间中的各所述内存数据的所述存在优先级及所述当前内存数据的存在优先级按照从高到低的顺序进行排序;
根据排序结果,确定所述当前内存数据的存在优先级的排序位置;
当所述排序位置处于第一预设范围内,确定所述当前存储位置为所述原生缓存;
当所述排序位置处于第二预设范围内,确定所述当前存储位置为所述目标存储空间;
所述第一预设范围内的所有所述存在优先级均大于所述第二预设范围内的所有所述存在优先级。
6.根据权利要求1所述的数据缓存方法,其特征在于,将所述当前内存数据写入所述当前存储位置的过程包括:
判断所述当前存储位置是否写满;
若是,将所述当前存储位置中的所述存在优先级最低的内存数据从所述当前存储位置中删除,并将所述当前内存数据写入所述当前存储位置;
若否,直接将所述当前内存数据写入所述当前存储位置。
7.根据权利要求6所述的数据缓存方法,其特征在于,将所述当前存储位置中的所述存在优先级最低的内存数据从所述当前存储位置中删除的同时,所述数据缓存方法还包括:
当所述当前存储位置为所述原生缓存,将所述原生缓存中的所述存在优先级最低的内存数据写入所述目标存储空间。
8.根据权利要求7所述的数据缓存方法,其特征在于,将所述原生缓存中的所述存在优先级最低的内存数据写入所述目标存储空间的过程包括:
判断所述目标存储空间是否写满;
若是,将所述目标存储空间中的所述存在优先级最低的内存数据从所述目标存储空间中删除,并将所述原生缓存中的所述存在优先级最低的内存数据写入所述目标存储空间。
9.根据权利要求7所述的数据缓存方法,其特征在于,将所述当前存储位置中的所述存在优先级最低的内存数据从所述当前存储位置中删除的过程包括:
当所述当前存储位置为所述目标存储空间,直接将所述目标存储空间中的所述存在优先级最低的内存数据删除。
10.根据权利要求1所述的数据缓存方法,其特征在于,所述数据缓存方法还包括:
每当对所述原生缓存中的目标内存数据执行读取操作,将所述目标内存数据的使用时间调整为当前读取时间,基于所述原生缓存中的各个所述内存数据的所述使用时间,更新所述原生缓存中各个所述内存数据的存在优先级。
11.根据权利要求10所述的数据缓存方法,其特征在于,更新所述原生缓存中各个所述内存数据的存在优先级之后,所述数据缓存方法还包括:
对所述原生缓存中的各个所述内存数据的所述存在优先级、所述目标存储空间中的各个所述内存数据的所述存在优先级按从高到低的顺序进行排序;
根据排序结果,确定各个所述内存数据的排序位置;
针对每一所述内存数据,若所述内存数据的排序位置处于第一预设范围内,将所述内存数据写入所述原生缓存中,若所述内存数据的排序位置处于第二预设范围内,将所述内存数据写入所述原生缓存中;
所述第一预设范围内的所有所述存在优先级均大于所述第二预设范围内的所有所述存在优先级。
12.根据权利要求1所述的数据缓存方法,其特征在于,所述数据缓存方法还包括:
每当对所述目标存储空间中的目标内存数据执行读取操作,将所述目标内存数据的使用时间调整为当前读取时间,基于所述目标存储空间中的各个所述内存数据的所述使用时间,更新所述目标存储空间中各个所述内存数据的存在优先级。
13.根据权利要求12所述的数据缓存方法,其特征在于,更新所述目标存储空间中各个所述内存数据的存在优先级之后,所述数据缓存方法还包括:
对所述原生缓存中的各个所述内存数据的所述存在优先级、所述目标存储空间中的各个所述内存数据的所述存在优先级按从高到低的顺序进行排序;
根据排序结果,确定各个所述内存数据的排序位置;
针对每一所述内存数据,若所述内存数据的排序位置处于第一预设范围内,将所述内存数据写入所述原生缓存中,若所述内存数据的排序位置处于第二预设范围内,将所述内存数据写入所述原生缓存中;
所述第一预设范围内的所有所述存在优先级均大于所述第二预设范围内的所有所述存在优先级。
14.根据权利要求1-13任意一项所述的数据缓存方法,其特征在于,确定所述当前内存数据的存在优先级的过程包括:
确定所述当前内存数据对应的传输时延及使用时间差;所述使用时间差为当前时间与所述当前内存数据最近一次的使用时间的差值;
根据所述传输时延和所述使用时间差确定所述当前内存数据的存在优先级。
15.根据权利要求14所述的数据缓存方法,其特征在于,根据所述传输时延和所述使用时间差确定所述当前内存数据的存在优先级的过程包括:
根据第一关系式计算所述当前内存数据的存在优先级,所述第一关系式为P=delay/time,P为所述存在优先级,delay为所述传输时延,time为所述使用时间差。
16.一种数据缓存系统,其特征在于,应用于计算设备中的处理器,所述计算设备还包括内存、计算高速链路模块及原生缓存,所述内存包括目标存储空间,所述数据缓存系统包括:
第一获取模块,用于通过所述计算高速链路模块获取其他计算设备的当前内存数据;
第一确定模块,用于确定所述当前内存数据的类型及存在优先级;
第二确定模块,用于基于所述类型和所述存在优先级确定当前存储位置;所述当前存储位置为所述目标存储空间或所述原生缓存;
写入模块,用于将所述当前内存数据写入所述当前存储位置。
17.一种计算设备,其特征在于,包括:
内存、计算高速链路模块及原生缓存,所述内存包括目标存储空间;
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1-15任意一项所述的数据缓存方法的步骤。
18.根据权利要求17所述的计算设备,其特征在于,所述内存为双倍速率同步动态随机存储器。
19.一种计算系统,其特征在于,包括计算高速链路交换机以及连接于所述计算高速链路交换机上的多个主机,每个所述主机中包括至少一个如权利要求17或18所述的计算设备。
20.根据权利要求19所述的计算系统,其特征在于,所述计算设备为中央处理器设备或加速器设备。
21.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1-15任意一项所述的数据缓存方法的步骤。
CN202311613188.2A 2023-11-29 2023-11-29 一种数据缓存方法、系统、设备及计算机可读存储介质 Pending CN117648266A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311613188.2A CN117648266A (zh) 2023-11-29 2023-11-29 一种数据缓存方法、系统、设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311613188.2A CN117648266A (zh) 2023-11-29 2023-11-29 一种数据缓存方法、系统、设备及计算机可读存储介质

Publications (1)

Publication Number Publication Date
CN117648266A true CN117648266A (zh) 2024-03-05

Family

ID=90042786

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311613188.2A Pending CN117648266A (zh) 2023-11-29 2023-11-29 一种数据缓存方法、系统、设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN117648266A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117891754A (zh) * 2024-03-13 2024-04-16 广东琴智科技研究院有限公司 处理器Cache结构的缓存方法、计算子系统以及智能计算平台

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117891754A (zh) * 2024-03-13 2024-04-16 广东琴智科技研究院有限公司 处理器Cache结构的缓存方法、计算子系统以及智能计算平台
CN117891754B (zh) * 2024-03-13 2024-05-10 广东琴智科技研究院有限公司 处理器Cache结构的缓存方法、计算子系统以及智能计算平台

Similar Documents

Publication Publication Date Title
KR102545726B1 (ko) 프로세서-기반 시스템들에서 공간 QoS(Quality of Service) 태깅을 사용한 이종 메모리 시스템들의 유연한 관리의 제공
CN109062512B (zh) 一种分布式存储集群、数据读写方法、系统及相关装置
US9898338B2 (en) Network computer system and method for dynamically changing execution sequence of application programs
TWI750243B (zh) 非揮發性記憶體儲存裝置
KR101999132B1 (ko) 가상 머신 환경에서 메모리 관리 방법 및 장치
KR102147356B1 (ko) 캐시 메모리 시스템 및 그 동작방법
CN105512251B (zh) 一种页面缓存方法和装置
JP2018518733A (ja) ファイル操作方法及び装置
CN117648266A (zh) 一种数据缓存方法、系统、设备及计算机可读存储介质
US20170212840A1 (en) Providing scalable dynamic random access memory (dram) cache management using tag directory caches
CN107562645B (zh) 一种内存页管理方法及计算设备
CN112799696B (zh) 固件升级方法和相关设备
US20180074965A1 (en) System and method for efficient pointer chasing
KR20180019595A (ko) 주변 컴포넌트 상호접속(PCI)익스프레스 (PCIe) 트랜잭션 계층에 대한 코히런시 구동 강화
WO2019010703A1 (zh) 读、部分写数据方法以及相关装置
CN103324599A (zh) 处理器间通信方法与系统级芯片
CN110955614B (zh) 文件缓存的回收方法、装置、存储介质及终端
CN114402304A (zh) 存储器共享
US9405470B2 (en) Data processing system and data processing method
EP3420460B1 (en) Providing scalable dynamic random access memory (dram) cache management using dram cache indicator caches
CN112463028B (zh) 一种i/o处理方法、系统、设备及计算机可读存储介质
CN116048377A (zh) 固态硬盘的数据处理方法及相关设备
US9354812B1 (en) Dynamic memory utilization in a system on a chip
CN108780422A (zh) 在基于中央处理单元cpu的系统中使用压缩指示符ci提示目录来提供存储器带宽压缩
CN109634514A (zh) 一种芯片存储器的读、写数据方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination