CN110489425B

CN110489425B - 一种数据访问方法、装置、设备及存储介质

Info

Publication number: CN110489425B
Application number: CN201910791078.2A
Authority: CN
Inventors: 王海龙; 韩朱忠
Original assignee: Shanghai Dameng Database Co Ltd
Current assignee: Shanghai Dameng Database Co Ltd
Priority date: 2019-08-26
Filing date: 2019-08-26
Publication date: 2022-04-12
Anticipated expiration: 2039-08-26
Also published as: CN110489425A

Abstract

本发明实施例公开了一种数据访问方法、装置、设备及存储介质。包括：将设定数据页加载至快速池中，并创建所述快速池对应的哈希表；根据目标数据页地址计算哈希值，根据所述哈希值在所述快速池对应的哈希表中查找所述目标数据页是否在所述快速池中；若在，则根据访问模式访问所述快速池中的目标数据页。本实施例提供的数据访问方法，将设定数据页加载至快速池中，若目标数据页在快速池中，则可以根据访问模式直接访问快速池中的目标数据页，无需临界区进行并发访问保护，可以降低高频访问数据页引起的并发冲突，从而提高数据库的访问效率。

Description

一种数据访问方法、装置、设备及存储介质

技术领域

本发明实施例涉及数据库技术领域，尤其涉及一种数据访问方法、装置、设备及存储介质。

背景技术

数据库管理系统一般使用固定大小的页(Page)作为保存数据的基本单位，并使用内存缓存(Buffer Pool)来保存最近从磁盘读取或修改的数据页，以减少磁盘I/O，提高数据库访问速度。访问数据页的一般流程是先从Buffer Pool获取数据页，如果数据页不在Buffer Pool中，则从磁盘加载数据页到Buffer Pool。如果Buffer Pool已经填充满，没有空闲数据页的情况下，需要淘汰一个当前未在使用的数据页，再从磁盘加载数据页。BufferPool通过哈希表(Hash Table)用来快速查找数据页，维护一个LRU(Least Recently Used)链表来确定数据页淘汰顺序，维护一个更新(Update)链表用来记录哪些数据页被修改。每个数据页对应一个控制结构buf_ctl，包含一个n_fixed字段，用来标识数据页是否正在使用，包含一个闩(LATCH)对象，用来控制数据页的并发访问、修改。为了保证在并发场景下，Hash Table、LRU链表、Update链表的正确性，一般会使用临界访问区(Mutex)对BufferPool进行保护。

为了降低Buffer Pool临界区访问冲突，很多数据库管理系统采用分片思路，同时维护多个Buffer Pool，根据一定规则将数据页加入不同的Buffer Pool。采用缓存分片技术降低了Buffer Pool临界区冲突，提高了系统并发效率。但是在数据库管理系统中，不同类型数据页的访问频度是不一致的，一些高频访问的数据页仍然会造成的Buffer Pool临界区并发冲突，从而降低数据库管系统的性能。

发明内容

本发明实施例提供一种数据访问方法、装置、设备及存储介质，可以降低高频访问数据页引起的并发冲突，从而提高数据库的访问效率。

第一方面，本发明实施例提供了一种数据访问方法，包括：

将设定数据页加载至快速池中，并创建所述快速池对应的哈希表；

根据目标数据页地址计算哈希值，根据所述哈希值在所述快速池对应的哈希表中查找所述目标数据页是否在所述快速池中；

若在，则根据访问模式访问所述快速池中的目标数据页。

进一步地，将设定数据页填充至快速池中，并创建所述快速池对应的哈希表，包括：

根据快速池的内存大小分配临时地址缓存数组；

将所述设定数据页的地址记录至所述临时地址缓存数组中，并清空缓存池中存储的所述设定数据页；

创建空哈希表，根据临时地址缓存数组的数据页地址将设定数据页加载至快速池中，并生成各设定数据页对应的控制结构数据；

将所述控制结构数据添加至所述空哈希表中，获得所述快速池对应的哈希表。

进一步地，所述设定数据页包括如下至少一项：B+树的根页、回滚页、描述页及B+页树根页的子页；将所述设定数据页的地址记录至所述临时地址缓存数组中，包括：

将B+树的根页地址记录至所述临时地址缓存数组中；

若所述临时地址缓存数组未满，则将回滚页地址记录至所述临时地址缓存数组中；

若所述临时地址缓存数组未满，则将描述页地址记录至所述临时地址缓存数组中；

若所述临时地址缓存数组未满，则将B+页树根页的子页记录至所述临时地址缓存数组中。

进一步地，在根据访问模式访问所述快速池中的目标数据页之前，还包括：

若所述目标数据页不在所述快速池中，则进入缓存池的临界区；

在所述临界区中根据所述哈希值获取所述目标数据页，并更新所述目标数据页的访问状态信息；

退出缓存池的临界区。

进一步地，根据访问模式访问所述快速池中的目标数据页，包括：

根据访问模式对所述目标数据页进行封锁；

按照所述访问模式对封锁后的目标数据页进行访问；所述访问模式包括只读模式或者修改模式。

进一步地，若目标数据页在缓存池中，则在按照所述访问模式对封锁后的目标数据页进行访问之后，还包括：

进入缓存池的临界区，在缓存池的临界区中再一次更新目标数据页的状态信息；

若是首次修改所述目标数据页，则将所述目标数据页的控制结构数据添加至更新链表；

退出所述临界区。

进一步地，在按照所述访问模式对封锁后的目标数据页进行访问之后，还包括：

释放对所述目标数据页的封锁。

第二方面，本发明实施例还提供了一种数据访问装置，包括：

设定数据页加载模块，用于将设定数据页加载至快速池中，并创建所述快速池对应的哈希表；

目标数据页判断模块，用于根据目标数据页地址计算哈希值，根据所述哈希值在所述快速池对应的哈希表中查找所述目标数据页是否在所述快速池中；

目标数据页访问模块，用于当目标数据页在所述快速池中时，则根据访问模式访问所述快速池中的目标数据页。

第三方面，本发明实施例还提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如本发明实施例所述的数据访问方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例所述的数据访问方法。

本发明实施例，首先将设定数据页加载至快速池中，并创建快速池对应的哈希表，然后根据目标数据页地址计算哈希值，根据哈希值在快速池对应的哈希表中查找目标数据页是否在快速池中，若在，则根据访问模式访问快速池中的目标数据页。本实施例提供的数据访问方法，将设定数据页加载至快速池中，若目标数据页在快速池中，则可以根据访问模式直接访问快速池中的目标数据页，无需临界区进行并发访问保护，可以降低高频访问数据页引起的并发冲突，从而提高数据库的访问效率。

附图说明

图1是本发明实施例一中的一种数据访问方法的流程图；

图2是本发明实施例二中的一种数据访问装置的结构示意图；

图3是本发明实施例三中的一种计算机设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1为本发明实施例一提供的一种数据访问方法的流程图，本实施例可适用于对数据库数据进行访问的情况，该方法可以由数据访问装置来执行，该装置可由硬件和/或软件组成，并一般可集成在具有数据访问功能的设备中，该设备可以是服务器、移动终端或服务器集群等电子设备。如图1所示，该方法具体包括如下步骤：

步骤110，将设定数据页加载至快速池中，并创建所述快速池对应的哈希表。

其中，快速池(Fast Pool)是在数据库启动时创建的，快速池中的数据页是固定的，数据库中的数据一旦加载至快速池中就不会被淘汰，数据库启动完成后，也不会再有新的数据页加载至快速池。即快速池中的哈希表不会发生改变，无需维护LUR链表及Update链表，快速池中不需要临界区进行并发访问保护。用户在访问数据页时，可以直接查找快速池的哈希表，获得数据页对应的控制结构数据，其中控制结构数据由buf_ctl表征。

具体的，将设定数据页填充至快速池中，并创建快速池对应的哈希表的过程可以是：根据快速池的内存大小分配临时地址缓存数组；将设定数据页的地址记录至临时地址缓存数组中，并清空缓存池中存储的设定数据页；初始化快速池，创建空哈希表，根据临时地址缓存数组的数据页地址将设定数据页加载至快速池中，并生成各设定数据页对应的控制结构数据；将控制结构数据添加至空哈希表中，获得快速池对应的哈希表。

其中，设定数据页可以是访问频率高于设定阈值的数据页，本实施例中设定数据页可以包括B+树的根页、回滚页、描述页及B+页树根页的子页。快速池的内存大小是预设的。按照优先级高低依次将B+树的根页、回滚页、描述页及B+页树根页的子页的地址记录至临时地址缓存数组，直至临时地址缓存数组填满。填满临时地址缓存数组后，初始化快速池，并创建空哈希表，根据临时地址缓存数组的数据页地址将设定数据页加载至快速池中，并分配控制结构数据，然后扫描临时地址缓存数组，依次将各设定数据页的地址设置到控制结构数据上，将设置好的控制结构数据添加至所述空哈希表中，获得所述快速池对应的哈希表。

具体的，将设定数据页的地址记录至临时地址缓存数组中的过程可以是：将B+树的根页地址记录至临时地址缓存数组中；若临时地址缓存数组未满，则将回滚页地址记录至临时地址缓存数组中；若临时地址缓存数组未满，则将描述页地址记录至临时地址缓存数组中；若临时地址缓存数组未满，则将B+页树根页的子页记录至临时地址缓存数组中。

本实施例中，在将B+树的根页地址记录至临时地址缓存数组的过程中，若临时地址缓存数组已满，则剩余的B+树的根页地址不再记录至临时地址缓存数组，若未满，及继续将B+树的根页地址记录至临时地址缓存数组，以此类推，按照优先级高低继续依次将回滚页、描述页及B+页树根页的子页的地址记录至临时地址缓存数组，直至临时地址缓存数组填满。

步骤120，根据目标数据页地址计算哈希值，根据所述哈希值在所述快速池对应的哈希表中查找所述目标数据页是否在所述快速池中，若在，则执行步骤130。

其中，目标数据页可以是待访问的数据页。本实施例中，由于增加了快速池，所以目标数据页可能在快速池中，也可能在缓存池中。

具体的，首先根据目标数据页地址的表空间号、文件号及页号计算哈希(HashFold)值，根据哈希值在快速池的哈希表中查找目标数据页对应的控制结构数据，若查找到，则目标数据页在快速池中，若没有查到，则目标数据页在缓存池中。

步骤130，根据访问模式访问所述快速池中的目标数据页。

其中，访问模式包括只读模式和修改模式。

具体的，若目标数据页在快速池中，则根据访问模式对目标数据页进行封锁，然后对封锁后的目标数据页进行访问(读取或修改)。

可选的，在根据访问模式访问快速池中的目标数据页之前，还包括如下步骤：若目标数据页不在快速池中，则进入缓存池的临界区；在临界区中根据哈希值获取目标数据页，并更新目标数据页的访问状态信息；退出缓存池的临界区。

其中，访问状态信息由控制结构数据中的n_fixed字段表征，本实施例中，获取到目标数据页后，增加n_fixed计数，以实现访问状态信息的更新。具体的，若目标数据页在缓存池中，则首先进入缓存池的临界区，然后查找缓存池的哈希表获取目标数据页的控制结构数据buf_ctl，增加n_fixed计数，将buf_ctl移动到LRU链表头，最后退出临界区。

可选的，若目标数据页在缓存池中，在按照访问模式对封锁后的目标数据页进行访问之后，还包括如下步骤：进入缓存池的临界区，在缓存池的临界区中再一次更新目标数据页的状态信息；若是首次修改目标数据页，则将目标数据页的控制结构数据添加至更新链表；退出临界区。

可选的，在按照访问模式对封锁后的目标数据页进行访问之后，还包括：释放对目标数据页的封锁。

示例性的，下述是本发明实施例中数据访问的一种详细流程：

步骤1，根据数据页地址计算Hash Fold值。

步骤2，查找快速池(Fast Pool)获取此Hash Fold值对应的buf_ctl。

步骤3，若获取成功，Fast Pool中找到对应数据页，跳转到步骤8。

步骤4，否则，Fast pool中未找到对应数据页，根据数据页号计算数据页所在Buffer Pool。

步骤5，进入所在Buffer Pool临界区。

步骤6，查找Buffer Pool的Hash Table获取buf_ctl，增加n_fixed计数，将buf_ctl移动到LRU链表头。

步骤7，退出Buffer Pool临界区。

步骤8，根据数据页访问模式，使用S或X方式的栓锁封锁数据页。

步骤9，访问或修改数据页。

步骤10，若为Fast Pool中的数据页则直接跳转到步骤15。

步骤11，Buffer Pool中的数据页进入所在Buffer Pool临界区。

步骤12，减少buf_ctl的n_fixed计数。

步骤13，如果是首次修改数据页，则将buf_ctl加入Update链表。

步骤14，退出Buffer Pool临界区。

步骤15，释放buf_ctl的S或X类型栓锁。

本实施例的技术方案，首先将设定数据页加载至快速池中，并创建快速池对应的哈希表，然后根据目标数据页地址计算哈希值，根据哈希值在快速池对应的哈希表中查找目标数据页是否在快速池中，若在，则根据访问模式访问快速池中的目标数据页。本实施例提供的数据访问方法，将设定数据页加载至快速池中，若目标数据页在快速池中，则可以根据访问模式直接访问快速池中的目标数据页，无需临界区进行并发访问保护，可以降低高频访问数据页引起的并发冲突，从而提高数据库的访问效率。

实施例二

图2为本发明实施例二提供的一种数据访问装置的结构示意图。如图2所示，该装置包括：设定数据页加载模块210，目标数据页判断模块220和目标数据页访问模块230。

设定数据页加载模块210，用于将设定数据页加载至快速池中，并创建所述快速池对应的哈希表；

目标数据页判断模块220，用于根据目标数据页地址计算哈希值，根据所述哈希值在所述快速池对应的哈希表中查找所述目标数据页是否在所述快速池中；

目标数据页访问模块230，用于当目标数据页在所述快速池中时，则根据访问模式访问所述快速池中的目标数据页。

可选的，设定数据页加载模块210，还用于：

根据快速池的内存大小分配临时地址缓存数组；

可选的，所述设定数据页包括如下至少一项：B+树的根页、回滚页、描述页及B+页树根页的子页；设定数据页加载模块210，还用于：

将B+树的根页地址记录至所述临时地址缓存数组中；

可选的，该装置还包括：缓存池数据页访问模块，用于：

退出缓存池的临界区。

可选的，目标数据页访问模块230，还用于：

根据访问模式对所述目标数据页进行封锁；

可选的，若目标数据页在缓存池中，则在按照所述访问模式对封锁后的目标数据页进行访问之后，还包括：

退出所述临界区。

可选的，在按照所述访问模式对封锁后的目标数据页进行访问之后，还包括：

释放对所述目标数据页的封锁。

上述装置可执行本发明前述所有实施例所提供的方法，具备执行上述方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本发明前述所有实施例所提供的方法。

实施例三

图3为本发明实施例三提供的一种计算机设备的结构示意图。图3示出了适于用来实现本发明实施方式的计算机设备312的框图。图3显示的计算机设备312仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。设备312典型的是承担数据访问功能的计算设备。

如图3所示，计算机设备312以通用计算设备的形式表现。计算机设备312的组件可以包括但不限于：一个或者多个处理器316，存储装置328，连接不同系统组件(包括存储装置328和处理器316)的总线318。

总线318表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture，ISA)总线，微通道体系结构(Micro Channel Architecture，MCA)总线，增强型ISA总线、视频电子标准协会(Video Electronics Standards Association，VESA)局域总线以及外围组件互连(Peripheral Component Interconnect，PCI)总线。

计算机设备312典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备312访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

存储装置328可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(Random Access Memory，RAM)330和/或高速缓存存储器332。计算机设备312可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统334可以用于读写不可移动的、非易失性磁介质(图3未显示，通常称为“硬盘驱动器”)。尽管图3中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如只读光盘(Compact Disc-Read Only Memory，CD-ROM)、数字视盘(Digital Video Disc-Read Only Memory，DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线318相连。存储装置328可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块326的程序336，可以存储在例如存储装置328中，这样的程序模块326包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块326通常执行本发明所描述的实施例中的功能和/或方法。

计算机设备312也可以与一个或多个外部设备314(例如键盘、指向设备、摄像头、显示器324等)通信，还可与一个或者多个使得用户能与该计算机设备312交互的设备通信，和/或与使得该计算机设备312能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口322进行。并且，计算机设备312还可以通过网络适配器320与一个或者多个网络(例如局域网(Local AreaNetwork，LAN)，广域网Wide Area Network，WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器320通过总线318与计算机设备312的其它模块通信。应当明白，尽管图中未示出，可以结合计算机设备312使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of IndependentDisks，RAID)系统、磁带驱动器以及数据备份存储系统等。

处理器316通过运行存储在存储装置328中的程序，从而执行各种功能应用以及数据处理，例如实现本发明上述实施例所提供的数据访问方法。

实施例四

本发明实施例四还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例所提供的数据访问方法。

当然，本发明实施例所提供的一种计算机可读存储介质，其上存储的计算机程序不限于如上所述的方法操作，还可以执行本发明任意实施例所提供的数据访问方法中的相关操作。

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims

1.一种数据访问方法，其特征在于，包括：

若在，则根据访问模式访问所述快速池中的目标数据页；

其中，将设定数据页填充至快速池中，并创建所述快速池对应的哈希表，包括：

根据快速池的内存大小分配临时地址缓存数组；

2.根据权利要求1所述的方法，其特征在于，所述设定数据页包括如下至少一项：B+树的根页、回滚页、描述页及B+页树根页的子页；将所述设定数据页的地址记录至所述临时地址缓存数组中，包括：

将B+树的根页地址记录至所述临时地址缓存数组中；

3.根据权利要求1所述的方法，其特征在于，在根据访问模式访问所述快速池中的目标数据页之前，还包括：

退出缓存池的临界区。

4.根据权利要求1或3所述的方法，其特征在于，根据访问模式访问所述快速池中的目标数据页，包括：

根据访问模式对所述目标数据页进行封锁；

5.根据权利要求4所述的方法，其特征在于，若目标数据页在缓存池中，则在按照所述访问模式对封锁后的目标数据页进行访问之后，还包括：

退出所述临界区。

6.根据权利要求4所述的方法，其特征在于，在按照所述访问模式对封锁后的目标数据页进行访问之后，还包括：

释放对所述目标数据页的封锁。

7.一种数据访问装置，其特征在于，包括：

目标数据页访问模块，用于当目标数据页在所述快速池中时，则根据访问模式访问所述快速池中的目标数据页；

其中，设定数据页加载模块，还用于：

根据快速池的内存大小分配临时地址缓存数组；

8.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-6中任一所述的数据访问方法。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-6中任一所述的数据访问方法。