CN114362870A - 一种用于分布式事务型数据库的片区逻辑时钟方法 - Google Patents

Abstract

本发明提供了一种用于分布式事务型数据库的片区逻辑时钟方法，为了提供比分布数据节点更准确的物理时钟服务，同时考虑均衡服务的需要，将分布式事务型数据库集群划分多个片区，每个片区都设立一个片区时钟服务节点，用于为片区内所有节点提供统一的物理时钟服务，包括片区时钟，所述片区时钟用于为分布式事务型数据库提供全局的时钟服务，同时片区时钟用于记录全局的事件发生时间。本发明有益效果：一种用于分布式事务型数据库的片区逻辑时钟方法，提供一种分布与集中相结合的片区时钟，为分布式事务型数据库提供时钟服务，同时兼备集中式和分布式时钟的优点，弥补了集中式和分布式时钟的不足。

Description

一种用于分布式事务型数据库的片区逻辑时钟方法

技术领域

本发明属于数据库领域，尤其是涉及一种用于分布式事务型数据库的片区逻辑时钟方法。

背景技术

时钟对分布式数据库系统十分重要，在分布式事务型数据库集群中(以下简称集群)，由于集群中各节点存在时钟偏移，使得在分布数据库的事务发生先后顺序不容易精准确定，增加了保证事务强一致性的难度。虽然Google Spanner使用了统一的高精度原子时钟，但由于需要配套的昂贵硬件设施，难以推广。目前分布式数据库常用的时钟有TSO(中心化授时)和HLC(混合逻辑时钟)，或者这两种改进的时钟。

TSO时钟能够为集群各节点提供统一的、来源唯一的时钟，其优点是原理简单、使用方法与传统单机机制相当，而且容易理解和使用，但高精度的统一时钟其成本很高，而且由于统一提供时钟容易带来时钟服务器的单点问题(故障及瓶颈)，需要有特别的机制予以防范；

不同于TSO的集中，HLC时钟是由集群的每个节点自己提供，其优点是成本相对低，通过逻辑关系能够确认数据库关联事务的先后发生顺序，而且还进一步通过集群各节点物理时钟偏差容忍，解决事务一致性冲突，但由于众多节点的物理时钟差异可能较大，降低了数据库一致性处理的效率。

目前已有数据库公司对TSO进行改进，没有使用高成本的原子钟，降低系统成本，但依然存在统一时钟精度问题、统一时钟带来的单点问题及统一时钟主从服务器之间的协同问题。也有数据库公司对HLC时钟进行改进，在由集群各个节点提供混合逻辑时钟的基础上又增加了全局的统一逻辑时钟，用来校对所有节点的时钟，这样虽然各个节点的时钟精度比单纯的HLC有所提高，但又增加统一时钟固有的问题，即单点和服务器主从协同问题，还有统一时钟响应延时问题，也影响了整体性能。

综上所述，集中式统一时钟控制精度难度大，而且存在单点问题，而由各节点承担的分布式时钟，由于节点多，各节点时钟偏差波动大，虽然增加了逻辑控制，但其造成的事务顺序的不确定性问题依然较大。

发明内容

有鉴于此，本发明旨在提出一种用于分布式事务型数据库的片区逻辑时钟方法，提供一种分布与集中相结合的片区时钟，为分布式事务型数据库提供时钟服务，同时兼备集中式和分布式时钟的优点，弥补了集中式和分布式时钟的不足。

为达到上述目的，本发明的技术方案是这样实现的：

一种用于分布式事务型数据库的片区逻辑时钟方法，为了提供比分布数据节点更准确的物理时钟服务，同时考虑均衡服务的需要，将分布式事务型数据库集群划分多个片区，每个片区都设立一个片区时钟服务节点，用于为片区内所有节点提供统一的物理时钟服务，包括片区时钟，所述片区时钟用于为分布式事务型数据库提供全局的时钟服务，同时片区时钟用于记录全局的事件发生时间；

片区时钟包括感知物理时钟和逻辑时钟，所述感知物理时钟用于与NTP时间同步，所述感知物理时钟根据事件发生时关联到的片区时钟服务节点的物理时钟进行确定；所述逻辑时钟用于记录事件的发生顺序；

还包括片区时钟更新机制，片区内或片区间的事件发生时通过片区时钟更新机制确定跨节点事件发生的先后关系，用于保证全局事务一致性；

还包括事务一致性冲突机制，事务一致性冲突机制用于实现分布式事务型数据库的全局强一致性。

还需要在分布式事务型数据库集群的基础上，搭建片区时钟服务专用网络，在片区时钟服务专用网络中，节点个数根据分布式数据库网络规模的需要进行配置。

各片区时钟采用专用网络部署，片区根据网段或负载均衡策略划分，比如不同的网段可以设置各自的片区时钟，如果只有一个网段，可以考虑按等量划分片区，比如每40个数据库节点一个片区。片区时钟采用专用网络还可以避免数据库的网络堵塞，相对目前的TSO或HLC时钟，其时钟服务更加稳定可靠；

为了确保时钟服务可靠，需要设置时钟响应时间阈值，如果本地节点从发送请求至接收到片区的时钟给的时间超过阈值(比如0.3ms)则为无效时间，控制规则是：从本地发出时钟申请到返回这段时间如果这个值在给定的阈值内则可以可被接受，反之重新发出时钟申请。

由于片区时钟服务节点也集中提供时间服务，所以，为了防止单点问题，每个节点指定2个片区时钟服务节点，第一个为默认的主片区时钟服务节点，第二个为从片区时钟服务节点。第二个片区时钟服务节点是在主片区时钟服务节点响应时间超过阈值时使用；

片区时钟服务节点需要安装后台的探测Damon程序，除了探测当前时钟偏差并同步调整外，还要完成统计，如果每小时片区时钟服务节点的物理时钟偏差幅度超过设定限值的次数过多，需要警示提醒，同时也对片区时钟服务节点响应控制进行统计，时钟服务节点响应超时的次数过多也需要发出警示提醒。

还需要进行软件配置及参数设置，配置分布式数据库需要的操作系统以及系统软件，通过对片区时钟安装NTP授时软件，用于实现与NTP标准时钟的更新；

通过片区时钟更新方法，用于确定跨节点的事件发生的先后关系，保证全局事务一致性，分布式数据库通过时钟确认事务发生先后顺序，这个时钟可以不用是绝对标准的时间，为了保证这个相对时钟的精度，各片区时钟服务节点之间的物理时钟需要通过定期的同步，使得各个片区时钟服务节点之间的物理时钟偏差极小化。通过定期计算各片区时钟服务节点的物理时钟的中位数，用中位数统一更新各个片区时钟服务节点的物理时钟，更新频率可以设的比较短，比如每30秒一次。这样，各片区时钟服务节点的物理时钟的最大偏差很小，比如可以控制在20ms以内。虽然片区时钟为数据库提供的时钟不要求是绝对标准时间，但考虑到和标准时钟同步的必要性，片区时钟服务节点通过后台NTP服务，采用平滑、缓慢的渐进式的微调与标准时间实现同步微调。NTP同步可以采用默认频率,微调幅度很小，比如平均每秒0.2ms以内。片区时钟节点之间物理时钟同步机制见图4；

通过事务一致性冲突方法，用于保证分布式事务型数据库的全局强一致性，还需要采用数据库并发事务冲突控制机制，用于确保高效实现分布式事务型数据库的一致性；

事务冲突控制机制需要采用了事务发生不确定窗口，在并发事务发生的时间间隔在该窗口内，由于机器物理时间存在偏差，难以确认事件发生的实际先后，需要采用并发事务冲突控制；

进一步的，片区时钟服务节点之间的物理时钟通过同步机制，使片区时钟服务节点之间的物理时钟偏差很小，其平均或最大偏差小于采用混合逻辑时钟HLC时各节点间的物理时钟偏差。

进一步的，还需要完成片区时钟参数的如下设置：

设置本地时钟申请往返阈值，即为本地发出时钟请求到收到片区时钟服务节点反馈的间隔时间；

设置片区时钟服务节点探测同步频率，预设片区时钟服务节点探测同步频率，时钟探测按照同步频率对片区时钟服务节点的物理时钟偏差进行探测，如果发现片区时钟服务节点之间的物理时钟偏差超过30ms，需要通过各片区时钟服务节点中位数计算，更新各个片区时钟服务节点的物理时钟；

设置默认片区时钟服务节点最大偏差值，即为片区时钟服务节点之间的最大偏差值，最大偏差值为片区时钟服务节点偏差的最大容忍值；

设置集群节点使用的片区时钟服务节点位置，在节点设置片区时钟服务节点，需要设置两个，一个是默认的主片区时钟服务节点，另外一个是备用的从片区时钟服务节点。

进一步的，在事务一致性冲突机制中，包括以下情况：

当读操作碰到时间戳在不确定窗口内的数据时，需要重启事务；

当读操作碰到时间戳较旧写数据时，需要通过指针查看事务记录表，如果事务已经提交了，那么直接读取该数据并将其变成可见版本数据即可；如果事务没有提交，那么需要根据隔离要求及读写优先级，重启写或读事务；

当写操作碰到未提交的写，如果写操作的优先级较高，那么重启未提交的事务；如果相等或者较低，则重启写操作事务并给一个较高的优先级；

当写操作碰到最近新提交的值，需要重启写操作事务；

当写操作碰到最近被读过的值，最近读操作的时间戳会存在cache中，如果写操作的时间戳小于cache中读操作的时间戳，使写操作事务以一个新的时间戳重启。

相对于现有技术，本发明所述的一种用于分布式事务型数据库的片区逻辑时钟方法具有以下有益效果：

本发明所述的一种用于分布式事务型数据库的片区逻辑时钟方法，提供一种分布与集中相结合的片区时钟，为分布式事务型数据库提供时钟服务，同时兼备集中式和分布式时钟的优点，弥补了集中式和分布式时钟的不足。

附图说明

构成本发明的一部分的附图用来提供对本发明的进一步理解，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1为本发明实施例所述的一种用于分布式事务型数据库的片区逻辑时钟方法的DC结构示意图；

图2为本发明实施例所述的一种用于分布式事务型数据库的片区逻辑时钟方法的DC部署示意图；

图3为本发明实施例所述的一种用于分布式事务型数据库的片区逻辑时钟方法的DC节点物理时钟更新优化示意图；

图4为本发明实施例所述的一种用于分布式事务型数据库的片区逻辑时钟方法的事务发生不确定窗口示意图。

具体实施方式

需要说明的是，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。

下面将参考附图并结合实施例来详细说明本发明。

一种用于分布式事务型数据库的片区逻辑时钟方法，该方法首先将分布式事务型数据库集群划分为多个片区，每个片区都设置唯一的片区时钟服务节点，为片区时钟提供物理时钟。片区时钟包括两部分，第一部分为感知物理时钟，与NTP时间同步，是通过事件发生时从关联的片区时钟服务节点获得的物理时钟；第二部分为逻辑时钟，用于作为事件发生顺序的计数器；

还包括片区时钟更新机制，片区内或片区间的事件发生时通过片区时钟更新机制确定跨节点的事件发生的先后关系，用于保证全局事务一致性；

还包括事务一致性冲突机制，事务一致性冲突机制用于实现分布式事务型数据库的全局强一致性。

同时在分布式事务型数据库集群的基础上，搭建片区时钟服务专用网络，片区时钟的节点个数根据分布式数据库网络规模的需要进行配置；

各片区时钟采用专用网络部署，片区可以根据网段或负载均衡策略划分，比如不同的网段可以设置各自的片区时钟，如果只有一个网段，可以考虑按等量划分片区，比如每40个数据库节点一个片区。片区时钟采用专用网络还可以避免数据库的网络堵塞，相对目前的TSO或HLC时钟，其时钟服务更加稳定可靠。时钟专用网络部署参见图3；

为了确保时钟服务可靠，需要设置时钟响应时间阈值，如果本地节点从发送请求至接收到时间超过阈值(比如0.3ms)则为无效时间，控制规则是：从本地发出时钟申请到返回这段时间如果这个值在给定的阈值内则可以可被接受，反之重新发出时钟申请。

由于片区时钟服务节点也集中提供时间服务，所以，为了防止单点问题，每个节点指定2个片区时钟服务节点，第一个为默认的主片区时钟服务节点，第二个为从片区时钟服务节点。第二个片区时钟是在主片区时钟服务节点响应时间超过阈值时使用；

片区时钟服务节点需要安装后台的探测Damon程序，除了探测当前时钟偏差并同步调整外，还要完成统计，如果每小时片区时钟服务节点物理时钟偏差幅度超过设定限值的次数过多，需要警示提醒，同时也对片区时钟服务节点响应控制进行统计，时钟服务响应超时的次数过多也需要发出警示提醒。

同时还需要进行软件配置及参数设置，配置分布式数据库需要的操作系统以及系统软件，通过对片区时钟安装NTP授时软件，用于实现与NTP标准时钟的更新；

同时还需要通过片区时钟更新方法，用于确定跨节点的事件发生的先后关系，保证全局事务一致性；

分布式数据库通过时钟确认事务发生先后顺序，这个时钟可以不用是绝对标准的时间，为了保证这个相对时钟的精度，各片区时钟服务节点之间的物理时钟需要通过定期的同步，使得各个片区时钟服务节点之间的物理时钟偏差极小化。片区时钟服务节点通过定期计算各片区时钟服务节点的物理时钟的中位数，用中位数统一更新各个片区时钟服务节点的物理时钟，更新频率可以设的比较短，比如每30秒一次。这样，各片区时钟服务节点的物理时钟的最大偏差很小，比如可以控制在20ms以内。虽然片区时钟为数据库提供的时钟不要求是绝对标准时间，但考虑到和标准时钟同步的必要性，片区时钟服务节点通过后台NTP服务，采用平滑、缓慢的渐进式的微调与标准时间实现同步微调。NTP同步可以采用默认频率,微调幅度很小，比如平均每秒0.2ms以内。片区时钟节点之间物理时钟同步机制见图4；

同时还需要通过事务一致性冲突方法，用于保证分布式事务型数据库的全局强一致性。

还需要采用数据库并发事务冲突控制机制，确保高效实现分布式事务型数据库的一致性。事务冲突控制机制需要采用了事务发生不确定窗口，也就是说，如果并发事务发生的时间间隔在该窗口内，那么由于机器物理时间存在偏差，难以确认事件发生的实际先后，需要采用并发事务冲突控制。事务发生不确定窗口大小是数据库节点之间的物理时钟的最大容忍偏差(max_clock_offset)。在采用HLC时设置的偏差达到200ms或以上，而采用片区时钟时，这里设置的片区节点物理时钟最大容忍偏差可以设置为30ms，因为片区时钟节点的物理时钟偏差很小。

片区内或片区间的事件发生时通过片区时钟更新机制，确定跨节点的事件发生的先后关系，用于保证全局事务一致性；

片区时钟服务节点之间的物理时钟通过同步机制，使片区时钟服务节点之间的物理时钟偏差很小，其平均或最大偏差显著小于采用混合逻辑时钟HLC时各节点间的物理时钟偏差。

还需要完成片区时钟参数的如下设置：

设置本地时钟申请往返阈值，即为本地发出时钟请求到收到片区时钟反馈的间隔时间；

设置片区时钟探测同步频率，预设片区时钟探测同步频率，时钟探测按照同步频率对片区时钟偏差进行探测，如果发现片区时钟服务节点之间的物理时钟偏差超过30ms，需要通过各片区时钟服务节点中位数计算，更新各个片区时钟服务节点的物理时钟；

设置默认片区时钟最大偏差值，即为片区时钟服务节点之间的最大偏差值，最大偏差值为片区时钟服务节点偏差最大容忍值；

设置集群节点使用的片区时钟服务节点位置，在节点设置片区时钟服务节点，需要设置不少于两个，一个是默认的主时钟服务节点，另外一个是备用的从时钟服务节点，例如在片区内设置有100个片区节点以及10个片区时钟服务节点，对片区节点指定不少于两个片区时钟服务节点为片区节点提供时钟服务。

当读操作碰到时间戳在不确定窗口内的数据时，需要重启事务；

当读操作碰到时间戳较旧于写数据时，需要通过指针查看事务记录表，如果事务已经提交了，那么直接读取该数据并将其变成可见版本数据即可；如果事务没有提交，那么需要根据隔离要求及读写优先级，重启写或读事务；

当写操作碰到未提交的写，如果写操作的优先级较高，那么重启未提交的事务；如果相等或者较低，则重启写操作事务并给一个较高的优先级；

当写操作碰到最近新提交的值，需要重启写操作事务；

当写操作碰到最近被读过的值，最近读操作的时间戳会存在cache中，如果写操作的时间戳小于cache中读操作的时间戳，使写操作事务以一个新的时间戳重启。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及方法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本申请所提供的几个实施例中，应该理解到，所揭露的方法和系统，可以通过其它的方式实现。例如，以上所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。上述单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围，其均应涵盖在本发明的权利要求和说明书的范围当中。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (8)

1.一种用于分布式事务型数据库的片区逻辑时钟方法，其特征在于：

将分布式事务型数据库划分为多个片区，片区内设置有片区节点和不少于一个的片区时钟服务节点，片区时钟服务节点为片区节点提供统一的片区时钟；

片区时钟包括感知物理时钟和逻辑时钟，所述感知物理时钟与NTP时间同步，通过感知物理时钟为片区节点发生的事件进行授时，形成事件发生时间；

所述逻辑时钟根据各个片区节点的事件发生时间，确定片区节点发生的事件的发生顺序。

2.根据权利要求1所述的一种用于分布式事务型数据库的片区逻辑时钟方法，其特征在于：

还包括基于逻辑时钟的片区时钟更新机制，通过事件发生时间确定片区内以及跨片区的事件的发生顺序。

3.根据权利要求1所述的一种用于分布式事务型数据库的片区逻辑时钟方法，其特征在于：

还需要搭建片区时钟服务节点的专用网络，在片区时钟服务节点的专用网络中，片区时钟服务节点的数量根据片区内片区节点的数量进行配置。

4.根据权利要求1所述的一种用于分布式事务型数据库的片区逻辑时钟方法，其特征在于：还需要设置时钟响应时间阈值，片区节点向片区时钟服务节点发出授时请求，片区时钟服务节点的感知物理时钟收到授时请求后，向片区节点进行授时，如果片区节点发出授时请求的时间距接收到授时的时间间隔超过时间阈值，则认定为无效时间。

5.根据权利要求1所述的一种用于分布式事务型数据库的片区逻辑时钟方法，其特征在于：对片区内每个节点指定不少于两个片区时钟服务节点，其中一个片区时钟服务节点为默认的主片区时钟服务节点，其他的为从片区时钟服务节点，从片区时钟服务节点在主片区时钟服务节点响应时间超过阈值时使用。

6.根据权利要求1所述的一种用于分布式事务型数据库的片区逻辑时钟方法，其特征在于：片区时钟服务节点安装有后台探测程序，片区时钟服务节点按照预设的时间同步频率与NTP进行时间同步，用于校正感知物理时钟的时钟偏差；

通过后台探测程序记录每次同步时感知物理时钟与NTP的时钟偏差；

设定时钟的偏差阈值，当时钟偏差超过偏差阈值时，通过后台探测程序记录为超阈值；

设定允许的超阈值次数，当超阈值的次数超过设定的超阈值次数时，进行警示提醒。

7.根据权利要求6所述的一种用于分布式事务型数据库的片区逻辑时钟方法，其特征在于，还包括各片区时钟服务节点的感知物理时钟保持一致的方法：

各片区时钟服务节点按照预设的时间同步频率与NTP进行时间同步，通过NTP对各片区时钟服务节点的统一授时，各片区时钟服务节点的感知物理时钟与NTP的标准时钟保持一致。

8.根据权利要求2所述的一种用于分布式事务型数据库的片区逻辑时钟方法，其特征在于：各片区时钟服务节点的感知物理时钟保持一致的方法还包括：

各片区时钟服务节点按照预设的时间同步频率与NTP进行时间同步，通过NTP采集各个片区时钟服务节点的时钟，然后获取各个片区时钟服务节点的时钟的平均值或者中位数，形成平均时钟，将各片区时钟服务节点的感知物理时钟与平均时钟进行同步，与平均时钟保持一致。

Images