CN116204584A - 一种写入日志的方法、装置、可读存储介质及电子设备 - Google Patents
一种写入日志的方法、装置、可读存储介质及电子设备 Download PDFInfo
- Publication number
- CN116204584A CN116204584A CN202211739510.1A CN202211739510A CN116204584A CN 116204584 A CN116204584 A CN 116204584A CN 202211739510 A CN202211739510 A CN 202211739510A CN 116204584 A CN116204584 A CN 116204584A
- Authority
- CN
- China
- Prior art keywords
- written
- log
- writing
- node
- shared buffer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
- G06F13/14—Handling requests for interconnection or transfer
- G06F13/20—Handling requests for interconnection or transfer for access to input/output bus
- G06F13/28—Handling requests for interconnection or transfer for access to input/output bus using burst mode transfer, e.g. direct memory access DMA, cycle steal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
- G06F16/1815—Journaling file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/544—Buffers; Shared memory; Pipes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/54—Indexing scheme relating to G06F9/54
- G06F2209/544—Remote
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本说明书公开了一种写入日志的方法、装置、可读存储介质及电子设备,本方法通过将分布式数据库中被写入节点预留的多个其他写入节点相应的日志缓冲区,合并成对应于两个以上写入节点的共享缓冲区,多个写入节点向同一个被写入节点写入日志时,均对被写入节点中的共享缓冲区操作即可,因此不会造成存储空间浪费,当分布式数据库增加节点时,也无需每增加节点就添加新的日志缓冲区,不会限制整个分布式数据库的规模。并且,当多个写入节点向同一个被写入节点同时写入日志时,本方法可通过原子操作,为不同的写入节点分配互不冲突的写入起始位置,从而可在共享日志缓冲区的前提下,避免写入日志冲突的问题。
Description
技术领域
本说明书涉及计算机技术领域,尤其涉及一种写入日志的方法、装置、可读存储介质及电子设备。
背景技术
目前,随着互联网的发展,分布式数据库也得到了广泛应用,以更好的保护用户的隐私数据。为了应对分布式数据库的节点因故障而导致的数据丢失,备份节点中的数据是非常必要的。
通常的,第二节点(以下称为被写入节点)备份第一节点(以下称为写入节点)中的数据时,写入节点需要将自身保存的数据操作的日志写入被写入节点,被写入节点根据写入的日志进行回放,即可实现对写入节点的数据的备份。
如何实现写入节点向被写入节点写入日志是一个亟待解决的问题。
发明内容
本说明书提供一种写入日志的方法、装置、可读存储介质及电子设备,以至少部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案:
本说明书提供了一种写入日志的方法,所述方法应用于分布式数据库中的写入节点,所述分布式数据库中的被写入节点中包括对应于两个以上写入节点的共享缓冲区;所述方法包括:
所述写入节点生成待写入日志;
对所述被写入节点发起原子操作,并接收所述被写入节点基于所述原子操作返回的返回值;
根据所述返回值,确定所述待写入日志在所述共享缓冲区中写入的起始位置;
根据所述起始位置,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
可选地,所述写入节点生成待写入日志,具体包括:
所述写入节点生成长度为预设长度的待写入日志;
当两个以上写入节点同时对所述被写入节点发起原子操作时,所述被写入节点返回给所述两个以上写入节点的返回值各不相同,且各返回值之间的间隔至少为所述预设长度。
可选地,对所述被写入节点发起原子操作,具体包括:
对所述被写入节点发起基于远程直接数据存取RDMA的FAA操作。
可选地,所述共享缓冲区为环形缓冲区;
将所述待写入日志写入到所述被写入节点的共享缓冲区中,具体包括:
所述写入节点确定自身记录的所述被写入节点的共享缓冲区中存储的有效日志的头位置,并确定将所述待写入日志写入到所述共享缓冲区后所述共享缓冲区中存储的有效日志的尾位置;
判断从所述头位置到所述尾位置对应的存储空间是否大于所述共享缓冲区的存储空间;
若否,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
可选地,当从所述头位置到所述尾位置对应的存储空间大于所述共享缓冲区的存储空间时,所述方法还包括:
从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置;
判断从读取的头位置到所述尾位置对应的存储空间是否大于所述共享缓冲区的存储空间;
若是,则重新从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置,直至从读取的头位置到所述尾位置对应的存储空间不大于所述共享缓冲区的存储空间为止;
若否,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
可选地,从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置之后,所述方法还包括:
将所述写入节点自身记录的所述被写入节点的共享缓冲区中存储的有效日志的头位置更新为读取的头位置。
可选地,将所述待写入日志写入到所述被写入节点的共享缓冲区中,具体包括:
通过基于远程直接数据存取RDMA的写操作,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
本说明书提供了一种写入日志的装置,所述装置应用于分布式数据库中的写入节点,所述分布式数据库中的被写入节点中包括对应于两个以上写入节点的共享缓冲区;所述装置包括:
生成模块,用于生成待写入日志;
定位模块,用于对所述被写入节点发起原子操作,并接收所述被写入节点基于所述原子操作返回的返回值;
确定模块,用于根据所述返回值,确定所述待写入日志在所述共享缓冲区中写入的起始位置;
写入模块,用于根据所述起始位置,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
可选地,所述生成模块具体用于,生成长度为预设长度的待写入日志;当两个以上写入节点同时对所述被写入节点发起原子操作时,所述被写入节点返回给所述两个以上写入节点的返回值各不相同,且各返回值之间的间隔至少为所述预设长度。
可选地,所述定位模块具体用于,对所述被写入节点发起基于远程直接数据存取RDMA的FAA操作。
可选地,所述共享缓冲区为环形缓冲区;
所述写入模块具体用于,确定本装置记录的所述被写入节点的共享缓冲区中存储的有效日志的头位置,并确定将所述待写入日志写入到所述共享缓冲区后所述共享缓冲区中存储的有效日志的尾位置;判断从所述头位置到所述尾位置对应的存储空间是否大于所述共享缓冲区的存储空间;若否,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
可选地,所述写入模块还用于,当从所述头位置到所述尾位置对应的存储空间大于所述共享缓冲区的存储空间时,从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置;判断从读取的头位置到所述尾位置对应的存储空间是否大于所述共享缓冲区的存储空间;若是,则重新从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置,直至从读取的头位置到所述尾位置对应的存储空间不大于所述共享缓冲区的存储空间为止;若否,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
可选地,所述写入模块还用于,从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置之后,将所属装置记录的所述被写入节点的共享缓冲区中存储的有效日志的头位置更新为读取的头位置。
可选地,所述写入模块具体用于,通过基于远程直接数据存取RDMA的写操作,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
本说明书提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述写入日志的方法。
本说明书提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述写入日志的方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果:
从上述方法中可以看出,本方法通过将分布式数据库中被写入节点预留的多个其他写入节点相应的日志缓冲区,合并成对应于两个以上写入节点的共享缓冲区,多个写入节点向同一个被写入节点写入日志时,均对被写入节点中的共享缓冲区操作即可,因此不会造成存储空间浪费,当分布式数据库增加节点时,也无需每增加节点就添加新的日志缓冲区,不会限制整个分布式数据库的规模。并且,当多个写入节点向同一个被写入节点同时写入日志时,本方法可通过原子操作,为不同的写入节点分配互不冲突的写入起始位置,从而可在共享日志缓冲区的前提下,避免写入日志冲突的问题。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解,构成本说明书的一部分,本说明书的示意性实施例及其说明用于解释本说明书,并不构成对本说明书的不当限定。在附图中:
图1为本说明书提供的一种写入日志方法的流程示意图;
图2为本说明书提供的分布式数据库的节点的结构示意图;
图3为本说明书中提供的分布式数据库的节点的环形缓冲区的示意图;
图4为本说明书中日志写入具体执行时各位置示意图;
图5为本说明书提供的一种写入日志装置的示意图;
图6为本说明书提供的对应于图1的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
以下结合附图,详细说明本申请各实施例提供的技术方案。
图1为本说明书提供的一种写入日志方法的流程示意图,具体包括以下步骤:
S100:所述写入节点生成待写入日志。
在本申请实施例中,可由分布式数据库中的写入节点执行如图1所示的方法,用以将该写入节点的日志写入到该分布式数据库中的其他节点。其中,写入节点是指需向其他节点写入日志的节点,相应的,被写入节点则是指需要接受并存储写入节点写入日志的节点。本说明书中提到的写入节点、被写入节点可以是能够执行本说明书方案的诸如台式机、笔记本电脑等任何电子设备。基于此,在本说明书中,所述写入节点生成待写入日志。待写入日志是根据数据操作行为生成的,其中数据操作是对写入节点自身保存的数据进行的操作。之所以称之为待写入日志,是因为待写入日志将写入但还未写入被写入节点中,后续可供写入被写入节点中。
上述分布式数据库中的被写入节点中包括对应于两个以上写入节点的共享缓冲区,如图2所示。若向被写入节点写入日志的多个写入节点对应于同一个共享缓冲区,则多个写入节点均在此共享缓冲区写入日志,而不是写入被写入节点预留的针对各写入节点的日志缓冲区,由此解决了存储空间的浪费问题。例如,在分布式数据库中有100个节点,被写入节点中有对应于100个节点中的50个节点的共享缓冲区1和对应于另外50个节点的共享缓冲区2。当然,被写入节点中也可仅有对应于分布式数据库中所有节点的一个共享缓冲区,则分布式数据库中的其他节点,即多个写入节点对被写入节点写入日志时只需对这一个共享缓冲区操作。
但是,当不同写入节点同时对同一被写入节点写入日志时,不同的写入节点很可能对同一被写入节点的共享缓冲区中的同一位置进行写入,这就会造成写入日志相互冲突。
S102:对所述被写入节点发起原子操作,并接收所述被写入节点基于所述原子操作返回的返回值。
为了解决上述的冲突问题,当两个以上写入节点同时对所述被写入节点写入日志,即不同写入节点同时对被写入节点的共享缓冲区的同一位置进行写入时,若不通过原子操作,则会造成写入冲突问题。而通过对所述被写入节点发起原子操作,可以使所述被写入节点返回给所述两个以上写入节点的返回值各不相同。
例如,节点1(写入节点)和节点2(写入节点)同时对节点3(被写入节点)写入日志,节点1和节点2同时对节点3发起原子操作,节点1接收节点3基于该原子操作返回的返回值为x,节点2接收节点3基于该原子操作返回的返回值为x+c,其中c为正整数。
具体的,上述分布式数据库可为基于远程直接数据存取(Remote Direct MemoryAccess,RDMA)技术的分布式数据库,则对被写入节点发起的原子操作可为RDMA的原子取和原子加(Fetch And Add,FAA)操作。
S104:根据所述返回值,确定所述待写入日志在所述共享缓冲区中写入的起始位置。
根据通过步骤S102接收到的返回值,可确定所述待写入日志在被写入节点共享缓冲区中写入的起始位置。例如,步骤S102接收到的返回值可直接作为待写入日志写入的起始位置。
当然,除直接将接收到的返回值作为待写入日志写入的起始位置以外,还可通过其他方法,根据接收到的返回值,确定起始位置,只要保证根据不同的返回值确定出的起始位置不同即可。
S106:根据所述起始位置,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
由于当不同写入节点同时对同一被写入节点写入日志时,写入位置相同,会造成写入冲突问题,而根据步骤S104,可使不同写入节点确定的待写入日志在共享缓冲区中写入的起始位置不同,即日志写入的位置是不同的,所以可避免了写入冲突的问题。
具体的,当上述分布式数据库为基于RDMA技术的分布式数据库时,可通过RDMA的写操作将待写入日志写入被写入节点的共享缓冲区中。
基于图1所示的写入日志的方法,通过将分布式数据库中被写入节点预留的多个其他写入节点相应的日志缓冲区,合并成对应于两个以上写入节点的共享缓冲区。当多个写入节点向同一个被写入节点写入日志时,均对被写入节点中的共享缓冲区操作即可,因此不会造成存储空间浪费,当分布式数据库增加节点时,也无需每增加节点就添加新的日志缓冲区,不会限制整个分布式数据库的规模。虽然共享缓冲区解决了空间浪费问题,但在应用过程中可能会引起写入冲突问题,而本方法可通过原子操作,不同的写入节点接收不同的返回值,进而确定不同的写入日志的起始位置,即为不同的写入节点分配互不冲突的写入起始位置,从而可在通过共享日志缓冲区避免节点的存储空间浪费的前提下,避免写入日志冲突的问题。
上述方法中的待写入日志可以为任意长度,为了方便步骤S102操作,也可在步骤S100时生成固定长度的待写入日志,其中,所述的固定长度可以是预设的,即,在步骤S100中写入节点每次生成待写入日志时,均生成预设长度的待写入日志。若待写入日志为预设长度,则在步骤S102中,不同写入节点接收到的不同返回值间的间隔至少为预设长度,如两个写入节点同时对同一个被写入节点发起原子操作,一个写入节点接收到的返回值为x,另一个写入节点接收到的返回值为x+c,其中c至少为预设长度,相应的,步骤S104中,不同的写入节点根据接收到的不同的返回值确定的写入日志的起始位置之间的间隔也至少为预设长度,以使不同的写入节点写入的日志不发生冲突。
在本说明书实施例中,被写入节点的共享缓冲区具体可以是环形缓冲区,如图3所示,共享缓冲区为环形缓冲区,以日志顺时针写入为例进行说明。
在上述步骤S106中写入节点写入日志时,有可能会覆盖被写入节点共享缓冲区中的已写入但未提交或未回滚的日志(下文将共享缓冲区中的已写入但未提交或未回滚的日志称为有效日志)。当被写入节点的环形缓冲区的存储空间均被写入日志,若要继续写入只能覆盖已写入的日志继续写入待写入日志,被覆盖的日志有可能是有效日志,例如,在图3中,日志1-8均已写入环形缓冲区,若需继续写入日志9,则只能在日志1所占的存储空间覆盖日志1进行写入。若日志1为有效日志,则日志9覆盖后会导致后续操作有误。
为避免写入时覆盖有效日志,所以在进行步骤S106之前需对待写入日志的写入是否会覆盖有效日志进行判断。
在本说明书实施例中,写入节点可记录被写入节点的共享缓冲区中存储的有效日志的头位置,从而,在判断待写入日志写入后是否会覆盖有效日志时,具体可确定将待写入日志写入到被写入节点的共享缓冲区后,共享缓冲区中存储的有效日志的尾位置,再判断从确定的共享缓冲区中存储的有效日志的头位置到确定的将待写入日志写入到被写入节点的共享缓冲区后有效日志的尾位置对应的存储空间是否大于被写入节点的共享缓冲区的存储空间,若否,则确定待写入日志写入后不会覆盖有效日志,将待写入日志写入到被写入节点的共享缓冲区中,若是,则确定待写入日志写入后会覆盖有效日志,暂不能将待写入日志写入到被写入节点的共享缓冲区中。
之所以采用上述方法来判断待写入日志写入后是否会覆盖有效日志,是因为共享缓冲区为环形缓冲区,以图4为例进行说明,日志按顺时针方向循环写入图4所示的共享缓冲区,若当前写入节点记录的有效日志的头位置为日志1的头所在的位置a,通过图1所示的步骤S104确定的待写入日志的起始位置为日志8的尾所在的位置b,则写入待写入日志后,有效日志的尾位置为位置c。
需要说明的是,在图4中虽然位置a和位置b看起来是在同一个位置,但实际上,位置b是从位置a开始顺时针增加了8个日志(日志1~日志8)的长度后得到的位置,因此,位置a到位置b的长度实际上就是整个共享缓冲区的存储空间的长度,即8个日志的长度,若继续写入待写入日志,则从起始位置b再增加1个日志的长度,有效日志的尾位置为位置c,此时位置a到位置c的长度是9个日志的长度,大于整个共享缓冲区的长度,因此会造成有效日志的覆盖,即日志1将被覆盖。
可见,采用上述判断方法,依赖于写入节点自身记录的被写入节点的共享缓冲区中存储的有效日志的头位置。在实际应用中,被写入节点自身也记录有自身共享缓冲区中存储的有效日志的头位置,写入节点自身记录的被写入节点的共享缓冲区中存储的有效日志的头位置可与被写入节点自身记录的共享缓冲区中存储的有效日志的头位置同步更新。例如,每当被写入节点自身记录的共享缓冲区中存储的有效日志的头位置发生变化时,就将变化后的头位置通知给写入节点,使写入节点更新自身记录的被写入节点的共享缓冲区中存储的有效日志的头位置,或者,写入节点周期性的读取被写入节点自身记录的共享缓冲区中存储的有效日志的头位置,并根据读取到的头位置更新写入节点自身记录的共享缓冲区中存储的有效日志的头位置。
但是,采用上述同步更新的方法会造成写入节点和被写入节点之间较大的网络开销,因此,在本说明书实施例中,写入节点自身记录的被写入节点的共享缓冲区中存储的有效日志的头位置采用异步更新的方法进行更新。具体的,当写入节点确定待写入日志写入后不会覆盖有效日志时,无需更新自身记录的共享缓冲区中存储的有效日志的头位置,而当写入节点确定待写入日志写入后会覆盖有效日志时,需要从被写入节点中读取共享缓冲区中存储的有效日志的头位置,并将写入节点自身记录的被写入节点的共享缓冲区中存储的有效日志的头位置更新为读取的头位置。
在更新了自身记录的共享缓冲区中存储的有效日志的头位置后,可再次判断从读取的头位置到确定的尾位置对应的存储空间是否大于所述共享缓冲区的存储空间。若是,则重新从被写入节点中读取共享缓冲区中存储的有效日志的头位置,直至从读取的头位置到确定的尾位置对应的存储空间不大于所述共享缓冲区的存储空间为止。若否,将待写入日志写入到所述被写入节点的共享缓冲区中。
继续以图4为例进行说明,位置a为写入节点自身记录的被写入节点的共享缓冲区中存储的有效日志的头位置,位置b为待写入日志写入的起始位置,其中位置a到位置b的长度实际为整个共享缓冲区的存储空间的长度,即8个日志的长度。位置c为待写入日志写入到被写入节点的共享缓冲区后的尾位置,位置c根据位置b和待写入日志长度确定,位置d为被写入节点记录的自身共享缓冲区中存储的有效日志的头位置。如图4所示位置,位置a和位置c之间对应的存储空间为环形缓冲区的存储空间加日志1所占的存储空间,即9个日志的长度,大于被写入节点的共享缓冲区的存储空间,因此待写入日志写入后会覆盖有效日志,会覆盖日志1。写入节点从被写入节点中读取共享缓冲区中存储的有效日志的头位置,即位置d,将位置a更新为读取的位置d,即位置a指向的位置更新后为位置d指向的位置。
在更新了自身记录的共享缓冲区中存储的有效日志的头位置后,再次判断从读取的头位置(即为位置d)与位置c之间对应的存储空间是否大于所述共享缓冲区的存储空间。本例中从位置d到位置c间对应的存储空间的长度为顺时针方向日志5~日志1的长度,即5个日志的长度,小于整个共享缓冲区的存储空间的长度,即8个日志的长度,进而写入节点确定待写入日志写入后不会覆盖有效日志,则将待写入日志写入到被写入节点的共享缓冲区中。
另外,被写入节点自身记录共享缓冲区中存储的有效日志的头位置的方式可以通过维护共享缓冲区的指针来记录。具体的,被写入节点可维护指向共享缓冲区中有效日志的头位置的指针,通过该指针所指向的位置来记录共享缓冲区中有效日志的头位置。仍以图4为例进行说明,当前被写入节点的共享缓冲区的指针所指向的位置为位置d,则被写入节点自身记录共享缓冲区中存储的有效日志的头位置就是位置d,假设日志5完成了提交或回滚,则日志5对于被写入节点为无效日志。共享缓冲区的指针顺时针后移一个日志的长度,指向的位置更新为日志6的头,则被写入节点自身记录的有效日志的头位置更新为日志6的头位置。日志每被提交或回滚,共享缓冲区的指针后移被提交或回滚的日志的长度,指向的位置更新为下一日志的头位置,则被写入节点自身记录的有效日志的头位置更新为下一日志的头位置。
基于上述写入日志的方法,写入节点可以在不浪费存储空间的前提下,避免可能的日志覆盖,互不冲突地写入日志。
图5为本说明书提供的一种写入日志的装置的示意图,所述装置应用于分布式数据库中的写入节点,所述分布式数据库中的被写入节点中包括对应于两个以上写入节点的共享缓冲区,装置具体包括:
生成模块500,用于生成待写入日志;
定位模块502,用于对所述被写入节点发起原子操作,并接收所述被写入节点基于所述原子操作返回的返回值;
确定模块504,用于根据所述返回值,确定所述待写入日志在所述共享缓冲区中写入的起始位置;
写入模块506,用于根据所述起始位置,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
可选地,所述生成模块500具体用于,生成长度为预设长度的待写入日志;当两个以上写入节点同时对所述被写入节点发起原子操作时,所述被写入节点返回给所述两个以上写入节点的返回值各不相同,且各返回值之间的间隔至少为所述预设长度。
可选地,所述定位模块502具体用于,对所述被写入节点发起基于远程直接数据存取RDMA的FAA操作。
可选地,所述共享缓冲区为环形缓冲区;
所述写入模块506具体用于,确定本装置记录的所述被写入节点的共享缓冲区中存储的有效日志的头位置,并确定将所述待写入日志写入到所述共享缓冲区后所述共享缓冲区中存储的有效日志的尾位置;判断从所述头位置到所述尾位置对应的存储空间是否大于所述共享缓冲区的存储空间;若否,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
可选地,所述写入模块506还用于,当从所述头位置到所述尾位置对应的存储空间大于所述共享缓冲区的存储空间时,从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置;判断从读取的头位置到所述尾位置对应的存储空间是否大于所述共享缓冲区的存储空间;若是,则重新从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置,直至从读取的头位置到所述尾位置对应的存储空间不大于所述共享缓冲区的存储空间为止;若否,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
可选地,所述写入模块506还用于,从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置之后,将所属装置记录的所述被写入节点的共享缓冲区中存储的有效日志的头位置更新为读取的头位置。
可选地,所述写入模块506具体用于,通过基于远程直接数据存取RDMA的写操作,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
本说明书还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1提供的写入日志的方法。
本说明书还提供了图6所示的电子设备的结构示意图。如图6所述,在硬件层面,该无人驾驶设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1提供的写入日志的方法。当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (16)
1.一种写入日志的方法,所述方法应用于分布式数据库中的写入节点,所述分布式数据库中的被写入节点中包括对应于两个以上写入节点的共享缓冲区;所述方法包括:
所述写入节点生成待写入日志;
对所述被写入节点发起原子操作,并接收所述被写入节点基于所述原子操作返回的返回值;
根据所述返回值,确定所述待写入日志在所述共享缓冲区中写入的起始位置;
根据所述起始位置,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
2.如权利要求1所述的方法,所述写入节点生成待写入日志,具体包括:
所述写入节点生成长度为预设长度的待写入日志;
当两个以上写入节点同时对所述被写入节点发起原子操作时,所述被写入节点返回给所述两个以上写入节点的返回值各不相同,且各返回值之间的间隔至少为所述预设长度。
3.如权利要求1所述的方法,对所述被写入节点发起原子操作,具体包括:
对所述被写入节点发起基于远程直接数据存取RDMA的FAA操作。
4.如权利要求1所述的方法,所述共享缓冲区为环形缓冲区;
将所述待写入日志写入到所述被写入节点的共享缓冲区中,具体包括:
所述写入节点确定自身记录的所述被写入节点的共享缓冲区中存储的有效日志的头位置,并确定将所述待写入日志写入到所述共享缓冲区后所述共享缓冲区中存储的有效日志的尾位置;
判断从所述头位置到所述尾位置对应的存储空间是否大于所述共享缓冲区的存储空间;
若否,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
5.如权利要求4所述的方法,当从所述头位置到所述尾位置对应的存储空间大于所述共享缓冲区的存储空间时,所述方法还包括:
从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置;
判断从读取的头位置到所述尾位置对应的存储空间是否大于所述共享缓冲区的存储空间;
若是,则重新从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置,直至从读取的头位置到所述尾位置对应的存储空间不大于所述共享缓冲区的存储空间为止;
若否,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
6.如权利要求5所述的方法,从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置之后,所述方法还包括:
将所述写入节点自身记录的所述被写入节点的共享缓冲区中存储的有效日志的头位置更新为读取的头位置。
7.如权利要求1所述的方法,将所述待写入日志写入到所述被写入节点的共享缓冲区中,具体包括:
通过基于远程直接数据存取RDMA的写操作,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
8.一种写入日志的装置,所述装置应用于分布式数据库中的写入节点,所述分布式数据库中的被写入节点中包括对应于两个以上写入节点的共享缓冲区;所述装置包括:
生成模块,用于生成待写入日志;
定位模块,用于对所述被写入节点发起原子操作,并接收所述被写入节点基于所述原子操作返回的返回值;
确定模块,用于根据所述返回值,确定所述待写入日志在所述共享缓冲区中写入的起始位置;
写入模块,用于根据所述起始位置,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
9.如权利要求8所述的装置,所述生成模块具体用于,生成长度为预设长度的待写入日志;当两个以上写入节点同时对所述被写入节点发起原子操作时,所述被写入节点返回给所述两个以上写入节点的返回值各不相同,且各返回值之间的间隔至少为所述预设长度。
10.如权利要求8所述的装置,所述定位模块具体用于,对所述被写入节点发起基于远程直接数据存取RDMA的FAA操作。
11.如权利要求8所述的装置,所述共享缓冲区为环形缓冲区;
所述写入模块具体用于,确定所述装置记录的所述被写入节点的共享缓冲区中存储的有效日志的头位置,并确定将所述待写入日志写入到所述共享缓冲区后所述共享缓冲区中存储的有效日志的尾位置;判断从所述头位置到所述尾位置对应的存储空间是否大于所述共享缓冲区的存储空间;若否,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
12.如权利要求11所述的装置,所述写入模块还用于,当从所述头位置到所述尾位置对应的存储空间大于所述共享缓冲区的存储空间时,从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置;判断从读取的头位置到所述尾位置对应的存储空间是否大于所述共享缓冲区的存储空间;若是,则重新从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置,直至从读取的头位置到所述尾位置对应的存储空间不大于所述共享缓冲区的存储空间为止;若否,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
13.如权利要求12所述的装置,所述写入模块还用于,从所述被写入节点中读取所述共享缓冲区中存储的有效日志的头位置之后,将所述装置记录的所述被写入节点的共享缓冲区中存储的有效日志的头位置更新为读取的头位置。
14.如权利要求8所述的装置,所述写入模块具体用于,通过基于远程直接数据存取RDMA的写操作,将所述待写入日志写入到所述被写入节点的共享缓冲区中。
15.一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1~7任一项所述的方法。
16.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述权利要求1~7任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211739510.1A CN116204584A (zh) | 2022-12-31 | 2022-12-31 | 一种写入日志的方法、装置、可读存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211739510.1A CN116204584A (zh) | 2022-12-31 | 2022-12-31 | 一种写入日志的方法、装置、可读存储介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116204584A true CN116204584A (zh) | 2023-06-02 |
Family
ID=86510503
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211739510.1A Pending CN116204584A (zh) | 2022-12-31 | 2022-12-31 | 一种写入日志的方法、装置、可读存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116204584A (zh) |
-
2022
- 2022-12-31 CN CN202211739510.1A patent/CN116204584A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3547168A1 (en) | Block chain based data processing method and device | |
CN108628688B (zh) | 一种消息处理方法、装置及设备 | |
CA3048739C (en) | Blockchain-based data processing method and equipment | |
CN112905365B (zh) | 一种数据处理方法、装置、设备及介质 | |
CN110737608B (zh) | 一种数据操作方法、装置及系统 | |
CN110807013B (zh) | 用于分布式数据存储集群的数据迁移方法和装置 | |
CN111459724B (zh) | 节点切换方法、装置、设备及计算机可读存储介质 | |
CN116048800A (zh) | 一种数据处理的方法、装置、存储介质及电子设备 | |
CN116822657B (zh) | 一种模型训练加速的方法、装置、存储介质及电子设备 | |
CN116048977B (zh) | 一种基于数据还原的测试方法及装置 | |
CN116166614A (zh) | 一种日志归档的方法、装置、存储介质及电子设备 | |
CN110908429B (zh) | 一种定时器操作方法及装置 | |
CN116204584A (zh) | 一种写入日志的方法、装置、可读存储介质及电子设备 | |
CN115033350A (zh) | 一种分布式事务的执行方法及装置 | |
CN109614388B (zh) | 一种预算扣减方法和装置 | |
CN107645541B (zh) | 数据存储方法、装置及服务器 | |
CN116541407B (zh) | 一种数据处理的方法、装置、存储介质及电子设备 | |
CN117873789B (zh) | 一种基于分段量化的检查点写入方法及装置 | |
CN116880905B (zh) | 一种数据存储方法、装置、存储介质及电子设备 | |
CN117041980B (zh) | 一种网元管理方法、装置、存储介质及电子设备 | |
CN116089434B (zh) | 一种数据存储方法、装置、存储介质及电子设备 | |
CN117152040B (zh) | 一种基于深度图的点云融合方法及装置 | |
CN116743550B (zh) | 一种分布式存储集群的故障存储节点的处理方法 | |
CN116737367B (zh) | 一种基于Minio的数据保鲜方法、设备及介质 | |
CN117435101A (zh) | 一种表单数据处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |