CN112114748B - 一种用于冷热数据的分离方法和系统 - Google Patents

Abstract

本发明给出了一种用于冷热数据的分离方法和系统，包括在预设的时间轴内根据数据被调用的频率将数据标记为冷数据或热数据；利用DMA引擎将热数据拷贝至内存的内核缓冲区，冷数据拷贝至内存中的内核预热区；响应于服务器应用的请求，将内核缓冲区的热数据的属性信息拷贝至套接字缓冲区；网卡调用套接字缓冲区的属性信息获取内核缓冲区的热数据，并将热数据传达至服务器应用。利用该方法或系统在数据的拷贝过程中通过DMA引擎直接将数据从内核缓冲区传输到协议引擎，减少了cpu拷贝，极大地提升了IO通道间大量拷贝数据过程的性能。

Description

一种用于冷热数据的分离方法和系统

技术领域

本发明涉及数据处理的技术领域，尤其是一种用于冷热数据的分离方法和系统。

背景技术

DMA(Direct Memory Access直接内存访问)。它是现代电脑的重要特征之一，允许不同速度的硬件之间直接交互，而不需要占用CPU的中断负载。DMA传输将一个地址空间复制到另一个地址空间，当CPU初始化这个传输之后，实际的数据传输是有DMA设备之间完成，这样可以大大的减少CPU的消耗。

现有冷热数据分离技术，目前传统的技术采用数据库分库不分表的形式实现，热数据只占用全部数据的一部分，因此每次优先查询热库，当查询条件未命中(结果集为空)和当查询条件部分命中时，查询冷库。为了区分部分命中和全部命中，可以在热库中建一张R表存放每次查询冷库的查询条件和查询结果数量和查询结果的主键，每次查询热库时，对比相同查询条件的查询结果数量是否一致。如果一致，则本次查询结束。如果不一致，则需要到冷库中进行查询。

现有技术需要冷热数据进行数据库分离，并且要通过数据同步机制，将热数据转冷数据同步至冷数据存储库中，冷热数据的同步机制大大提高io和cpu的负载。

发明内容

为了解决现有技术中要通过数据同步机制，将热数据转冷数据同步至冷数据存储库中，冷热数据的同步机制大大提高io和cpu的负载的技术问题，本发明提出了一种用于冷热数据的分离方法和系统。

在一个方面，本发明提出了一种用于冷热数据的分离方法，包括以下步骤：

S1：在预设的时间轴内根据数据被调用的频率将数据标记为冷数据或热数据；

S2：利用DMA引擎将热数据拷贝至内存的内核缓冲区，冷数据拷贝至内存中的内核预热区；

S3：响应于服务器应用的请求，将内核缓冲区的热数据的属性信息拷贝至套接字缓冲区；以及

S4：网卡调用套接字缓冲区的属性信息获取内核缓冲区的热数据，并将热数据传达至服务器应用。

优选的，预设的时间轴为7天内。通过时间轴的设定可以便于定义时间轴内的冷热数据。

优选的，步骤S2还包括：响应于冷数据被调用频率大于预设阈值，将冷数据升级为热数据。通过对冷数据的升级可以更新数据的状态。

进一步优选的，预设阈值为10。预设阈值可以便于直接地判定冷热数据的状态。

优选的，热数据的载体包括内存、闪存或固态硬盘，冷数据的载体包括机械硬盘或固态硬盘。利用读取速度更快的载体存储热数据能够便于快速的调用获取热数据。

进一步优选的，属性信息包括数据的位置和长度信息。利用属性信息可以减少缓存的数据量，降低内存消耗。

根据本发明的第二方面，提出了一种计算机可读存储介质，其上存储有一或多个计算机程序，该一或多个计算机程序被计算机处理器执行时实施上述方法。

根据本发明的第三方面，提出了一种用于冷热数据的分离系统，其特征在于，该系统包括：

数据标记单元：配置用于在预设的时间轴内根据数据被调用的频率将数据标记为冷数据或热数据，其中，预设的时间轴为7天内；

冷热数据分离单元：配置用于利用DMA引擎将热数据拷贝至内存的内核缓冲区，冷数据拷贝至内存中的内核预热区；

数据请求单元：配置用于响应于服务器应用的请求，将内核缓冲区的热数据的属性信息拷贝至套接字缓冲区；以及

热数据获取单元：配置用于通过网卡调用套接字缓冲区的属性信息获取内核缓冲区的热数据，并将热数据传达至服务器应用。

优选的，冷热数据分离单元还配置用于响应于冷数据被调用频率大于预设阈值，将冷数据升级为热数据，其中，预设阈值为10。通过对冷数据的升级可以更新数据的状态,预设阈值可以便于直接地判定冷热数据的状态。

优选的，属性信息包括数据的位置和长度信息。利用属性信息可以减少缓存的数据量，降低内存消耗。

本发明提供的技术方案是指将数据直接从磁盘文件复制到网卡设备中，而不需要经由应用程序之手。在数据的拷贝过程中通过DMA引擎直接将数据从内核缓冲区传输到协议引擎，减少了cpu拷贝。将数据直接从磁盘文件复制到网卡设备中，而不需要经由应用程序之手，零拷贝大大提高了应用程序的性能，减少了内核和用户模式之间的上下文切换。

附图说明

包括附图以提供对实施例的进一步理解并且附图被并入本说明书中并且构成本说明书的一部分。附图图示了实施例并且与描述一起用于解释本发明的原理。将容易认识到其它实施例和实施例的很多预期优点，因为通过引用以下详细描述，它们变得被更好地理解。通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是现有技术中冷热数据的分离方法的流程图；

图2是本申请的一个实施例的一种基于用于冷热数据的分离方法的流程图；

图3是本申请的一个具体的实施例的用于冷热数据的分离方法的流程图；

图4是本申请的一个实施例的一种用于冷热数据的分离系统的框架图；

图5是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1是现有技术中冷热数据的分离方法的流程图。如图1所示，现有技术中的冷热数据的分离是使用java语言实现，服务器应用内存发送数据请求，通过FileChannal.transferTo()方法，它的底层实现就是sendFile()方法。需要先将热数据内容从磁盘复制出来放到一个内存buf中，然后将这个buf通过套接字(socket)传输给用户，进而用户获得热数据内容。从上面描述来看，这个是再正常不过的实现方式了，但实际上这是很低效的流程，根据上面的情形我们可以抽象成下面的过程：

read(file,hot_buf,len)；

read(file,cool_buf,count,len)；

write(socket,hot_buf,len)；

write(socket,cool_buf,count,len)；

首先调用read()将数据读取到read_buffer，然后调用write()将read_buffer写入socket，如下所示。在这个过程中数据经历了多次复制过程：

1、调用read(file,hot_buf,len)时，hot被复制到内核模式下的readbuf中。

2、调用read(file,cool_buf,count,len)时，cool被复制到内核模式下的预热区，并进行设置频度值。

3、CPU控制将内核模式的热数据复制到用户模式下。

4、调用write(socket,cool_buf,count,len)将预热区的冷数据进行复制到内核模式下的 socket buffer中。

5、调用write(socket,hot_buf,len)时，将用户模式下的内容复制到内核模式下的socket buffer中。

6、将内核模式下的socket buffer的数据复制到网卡(NIC:network interfacecard)设备中传迭。

根据本申请的一个实施例的用于冷热数据的分离方法，图2示出了本申请的一个实施例的一种基于用于冷热数据的分离方法的流程图，如图2所示，包括以下步骤：

S201：在预设的时间轴内根据数据被调用的频率将数据标记为冷数据或热数据。预设的时间轴可以为7天内，便于进行该时间轴内的冷热数据的定义，减少数据的处理量。可替代的，时间轴的天数还可以根据具体的数据量进行调整，设置为除了7天之外的其他时间范围，同样可以实现本发明的技术效果。

在具体的实施例中，热数据的载体包括内存、闪存或固态硬盘，冷数据的载体包括机械硬盘或固态硬盘。利用读取速度更快的载体存储热数据能够便于快速的调用获取热数据，利用机械硬盘或固态硬盘存储冷数据能够相对降低成数据存储成本，冷数据无需较快的读取速度。

S202：利用DMA引擎将热数据拷贝至内存的内核缓冲区，冷数据拷贝至内存中的内核预热区。

在具体的实施例中，当冷数据被调用频率大于预设阈值，将冷数据升级为热数据，该预设阈值可以设置为10。该步骤可以对冷数据进行更新，将经常被调用的冷数据更新为热数据，保证数据的准确性。预设阈值可以根据实际的应用进行调整，以满足不同的使用需求。

S203：响应于服务器应用的请求，将内核缓冲区的热数据的属性信息拷贝至套接字缓冲区。属性信息包括数据的位置和长度信息。通过属性信息的传输而非直接将热数据完整缓存，极大地降低了对内核缓存的压力，同时也提升了传输的效率。

S204：网卡调用套接字缓冲区的属性信息获取内核缓冲区的热数据，并将热数据传达至服务器应用。通过网卡调用套接字缓冲区的属性信息，获取热数据，减少了CPU对数据的拷贝，直接通过网卡从内核缓冲中获取热数据，大大降低了IO和CPU的负载。

图3示出了根据本申请的一个具体的实施例的用于冷热数据的分离方法的流程图，如图3所示，服务器应用内存发送数据请求，根据现有技术中存在的不足，采用零拷贝(zero-copy)技术来实现冷热数据分离技术，首先我们定义热数据的时间轴为最近7天内的数据，给数据设置hot标识；其次，不在最近7天内的数据；根据用户域需求，将冷数据不断加温，当达到阈值(频度>10)，升级为热数据，若其升级为热数据之后被调用次数骤减，继续降为冷数据，其独立的生命周期变冷；最后，利用零拷贝技术，请求内核把磁盘中的数据传输给Socket，网卡缓存从Socket中获取数据的位置信息并直接从内存内核缓冲区中获取到该数据。可替代的，时间轴和阈值的设定除了上述值之外，还可以根据实际需要选择其他数值，同样能够实现本发明的技术效果。

在具体的实施例中，数据池根据时间轴和频度值进行顺序排序进行代表热度值，通过时间轴和频度值能够快速定义冷热数据。transferTo()方法引发DMA引擎将达到热度的数据拷贝到内存中的内核缓冲区。利用重载transferTo()方法，引发DMA引擎将冷数据拷贝到内核的预热区，并设置频度值。数据未被拷贝到套接字缓冲区。取而代之的是，只有包含关于数据的位置和长度的信息的描述被追加到了套接字缓冲区。DMA引擎直接把数据从内核缓冲区传输到协议引擎，从而消除了剩下的最后一次CPU拷贝。减少了对 CPU的消耗。

继续参考图4，图4示出了根据本发明的实施例的一种用于冷热数据的分离系统的框架图。该系统具体包括数据标记单元401、冷热数据分离单元402、数据请求单元403 和数据获取单元404。

在具体的实施例中，数据标记单元401：配置用于在预设的时间轴内根据数据被调用的频率将数据标记为冷数据或热数据，其中，预设的时间轴为7天内；冷热数据分离单元402：配置用于利用DMA引擎将热数据拷贝至内存的内核缓冲区，冷数据拷贝至内存中的内核预热区；数据请求单元403：配置用于响应于服务器应用的请求，将内核缓冲区的热数据的属性信息拷贝至套接字缓冲区；热数据获取单元404：配置用于通过网卡调用套接字缓冲区的属性信息获取内核缓冲区的热数据，并将热数据传达至服务器应用。

在具体的实施例中，冷热数据分离单元还配置用于响应于冷数据被调用频率大于预设阈值，将冷数据升级为热数据，其中，预设阈值为10，属性信息包括数据的位置和长度信息。通过对冷数据的升级可以更新数据的状态,预设阈值可以便于直接地判定冷热数据的状态。利用属性信息可以减少缓存的数据量，降低内存消耗。

下面参考图5，其示出了适于用来实现本申请实施例的电子设备的计算机系统500的结构示意图。图5示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图5所示，计算机系统500包括中央处理单元(CPU)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中，还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O) 接口505也连接至总线504。

以下部件连接至I/O接口505：包括键盘、鼠标等的输入部分506；包括诸如液晶显示器(LCD)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时，执行本申请的方法中限定的上述功能。需要说明的是，本申请的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读存储介质，该计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN) 或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。

作为另一方面，本申请还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：在预设的时间轴内根据数据被调用的频率将数据标记为冷数据或热数据；利用DMA引擎将热数据拷贝至内存的内核缓冲区，冷数据拷贝至内存中的内核预热区；响应于服务器应用的请求，将内核缓冲区的热数据的属性信息拷贝至套接字缓冲区；网卡调用套接字缓冲区的属性信息获取内核缓冲区的热数据，并将热数据传达至服务器应用。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (9)

1.一种用于冷热数据的分离方法，其特征在于，包括以下步骤：

S1：在预设的时间轴内根据数据被调用的频率将所述数据标记为冷数据或热数据；

S2：利用DMA引擎将所述热数据拷贝至内存的内核缓冲区，所述冷数据拷贝至所述内存中的内核预热区；

S3：响应于服务器应用的请求，将所述内核缓冲区的所述热数据的属性信息拷贝至套接字缓冲区，所述属性信息包括所述数据的位置和长度信息；以及

S4：网卡调用所述套接字缓冲区的所述属性信息获取所述内核缓冲区的所述热数据，并将所述热数据传达至所述服务器应用；

利用transferTo()方法引发所述DMA引擎将所述热数据拷贝到所述内存中的所述内核缓冲区；利用重载transferTo()方法，引发所述DMA引擎将所述冷数据拷贝到所述内核预热区，并设置频度值；只有包含关于数据的位置和长度的信息的描述被追加到了套接字缓冲区，所述DMA引擎直接把所述热数据从所述内核缓冲区传输到协议引擎。

2.根据权利要求1述的用于冷热数据的分离方法，其特征在于，所述预设的时间轴为7天内。

3.根据权利要求1所述的用于冷热数据的分离方法，其特征在于，所述步骤S2还包括：响应于所述冷数据被调用频率大于预设阈值，将所述冷数据升级为热数据。

4.根据权利要求3所述的用于冷热数据的分离方法，其特征在于，所述预设阈值为10。

5.根据权利要求1所述的用于冷热数据的分离方法，其特征在于，所述热数据的载体包括内存、闪存或固态硬盘，所述冷数据的载体包括机械硬盘或固态硬盘。

6.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被计算机处理器执行时实施权利要求1至5中任一项所述的方法。

7.一种用于冷热数据的分离系统，其特征在于，包括：

数据标记单元：配置用于在预设的时间轴内根据数据被调用的频率将所述数据标记为冷数据或热数据，其中，预设的时间轴为7天内；

冷热数据分离单元：配置用于利用DMA引擎将所述热数据拷贝至内存的内核缓冲区，所述冷数据拷贝至所述内存中的内核预热区；

数据请求单元：配置用于响应于服务器应用的请求，将所述内核缓冲区的所述热数据的属性信息拷贝至套接字缓冲区，所述属性信息包括所述数据的位置和长度信息；以及

热数据获取单元：配置用于通过网卡调用所述套接字缓冲区的所述属性信息获取所述内核缓冲区的所述热数据，并将所述热数据传达至所述服务器应用；

利用transferTo()方法引发所述DMA引擎将所述热数据拷贝到所述内存中的所述内核缓冲区；利用重载transferTo()方法，引发所述DMA引擎将所述冷数据拷贝到所述内核预热区，并设置频度值；只有包含关于数据的位置和长度的信息的描述被追加到了套接字缓冲区，所述DMA引擎直接把所述热数据从所述内核缓冲区传输到协议引擎。

8.根据权利要求7所述的一种用于冷热数据的分离系统，其特征在于，所述冷热数据分离单元还配置用于响应于所述冷数据被调用频率大于预设阈值，将所述冷数据升级为热数据，其中，预设阈值为10。

9.根据权利要求7所述的一种用于冷热数据的分离系统，其特征在于，所述属性信息包括所述数据的位置和长度信息。

Images