CN116383333A - 数据存储方法、装置、设备及存储介质 - Google Patents
数据存储方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN116383333A CN116383333A CN202310465247.XA CN202310465247A CN116383333A CN 116383333 A CN116383333 A CN 116383333A CN 202310465247 A CN202310465247 A CN 202310465247A CN 116383333 A CN116383333 A CN 116383333A
- Authority
- CN
- China
- Prior art keywords
- target
- identification information
- key value
- value pair
- key
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000013500 data storage Methods 0.000 title claims abstract description 47
- 238000000926 separation method Methods 0.000 claims abstract description 9
- 238000004590 computer program Methods 0.000 claims description 14
- 230000003321 amplification Effects 0.000 abstract description 11
- 238000003199 nucleic acid amplification method Methods 0.000 abstract description 11
- 238000012545 processing Methods 0.000 abstract description 9
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/31—Indexing; Data structures therefor; Storage structures
- G06F16/316—Indexing structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Signal Processing For Digital Recording And Reproducing (AREA)
- Management Or Editing Of Information On Record Carriers (AREA)
Abstract
本公开提供一种数据存储方法、装置、设备及存储介质,涉及数据处理技术领域,具体涉及数据存储、数据分离、数据读取等技术领域,可应用于存储文本、图片、音视频等非结构化数据的场景下。具体实现方案包括:将目标数据对应的目标键值对中的关键字和值分离,得到目标关键字和目标值;为目标键值对生成唯一的标识信息,建立目标关键字和标识信息的第一对应关系、标识信息和目标值的第二对应关系;将标识信息、目标关键字、目标值、第一对应关系和第二对应关系预写入日志中;当应用侧访问目标数据时,将目标关键字、标识信息和第一对应关系写入应用侧。本公开可以减少存储数据时的数据写入量,降低写放大,提升存储性能。
Description
技术领域
本公开涉及数据处理技术领域,具体涉及数据存储、数据分离、数据读取等技术领域,可应用于存储文本、图片、音视频等非结构化数据的场景下,尤其涉及一种数据存储方法、装置、设备及存储介质。
背景技术
键值(key-value,KV)存储是NoSQL数据库中的一种存储方式。NoSQL数据库是指不是关系型数据库的数据库,可以存储文本、图片、音视频等非结构化数据。在KV存储方式中,数据可以按照键值(KV)对的形式进行组织、索引和存储。
目前,KV存储方式在向数据库存储数据(即键值对)时,可以通过RAFT算法将键值对预写到日志中。应用侧在访问数据时,可以通过RAFT算法,将日志中预写入的键值对再写入到应用侧。
但是,目前的KV存储方式中,数据对应的实际写入量远远超过数据自身大小,造成了写放大,严重影响了存储性能。
发明内容
本公开提供了一种数据存储方法、装置、设备及存储介质,可以减少存储数据时的数据写入量,降低写放大,提升存储性能。
根据本公开的第一方面,提供了一种数据存储方法,所述方法包括:将待存储的目标数据对应的目标键值对中的关键字和值分离,得到目标关键字和目标值;为目标键值对生成唯一的标识信息,并建立目标关键字和标识信息的第一对应关系、以及标识信息和目标值的第二对应关系;将标识信息、目标关键字、目标值、以及第一对应关系和第二对应关系预写入日志中;当应用侧访问目标数据时,将目标关键字、标识信息、以及第一对应关系写入应用侧,标识信息用于应用侧从日志中查找目标值。
根据本公开的第二方面,提供了一种数据存储方法,所述方法包括:
为待存储的目标数据对应的目标键值对生成唯一的标识信息,并将目标键值对、以及标识信息预写入日志中;当应用侧访问目标数据时,将目标键值对中的关键字和值分离,得到目标关键字和目标值,并建立目标关键字和标识信息的第一对应关系;将目标关键字、标识信息、以及第一对应关系写入应用侧,标识信息用于应用侧从日志中查找目标值。
根据本公开的第三方面,提供了一种数据存储装置,所述装置包括:分离单元、生成单元、预写单元、写入单元。
分离单元,用于将待存储的目标数据对应的目标键值对中的关键字和值分离,得到目标关键字和目标值;生成单元,用于为目标键值对生成唯一的标识信息,并建立目标关键字和标识信息的第一对应关系、以及标识信息和目标值的第二对应关系;预写单元,用于将标识信息、目标关键字、目标值、以及第一对应关系和第二对应关系预写入日志中;写入单元,用于当应用侧访问目标数据时,将目标关键字、标识信息、以及第一对应关系写入应用侧,标识信息用于应用侧从日志中查找目标值。
根据本公开的第四方面,提供了一种数据存储装置,所述装置包括:生成单元、分离单元、写入单元。
生成单元,用于为待存储的目标数据对应的目标键值对生成唯一的标识信息,并将目标键值对、以及标识信息预写入日志中;分离单元,用于当应用侧访问目标数据时,将目标键值对中的关键字和值分离,得到目标关键字和目标值,并建立目标关键字和标识信息的第一对应关系;写入单元,用于将目标关键字、标识信息、以及第一对应关系写入应用侧,标识信息用于应用侧从日志中查找目标值。
根据本公开的第五方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中,存储器存储有可被至少一个处理器执行的指令,指令被至少一个处理器执行,以使至少一个处理器能够执行如第一方面或第二方面的方法。
根据本公开的第六方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,计算机指令用于使计算机执行根据第一方面或第二方面的方法。
根据本公开的第七方面,提供了一种计算机程序产品,包括计算机程序,计算机程序在被处理器执行时实现根据第一方面或第二方面的方法。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1为本公开实施例提供的数据存储方法的流程示意图;
图2为本公开实施例提供的S102的一种实现流程示意图;
图3为本公开实施例提供的数据存储方法的另一流程示意图;
图4为本公开实施例提供的数据存储方法的原理示意图;
图5为本公开实施例提供的数据存储装置的组成示意图;
图6为本公开实施例提供的数据存储装置的另一组成示意图;
图7为本公开实施例提供的可以用来实施本公开的实施例的示例电子设备700的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
应当理解,在本公开各实施例中,字符“/”一般表示前后关联对象是一种“或”的关系。术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。
键值(key-value,KV)存储是NoSQL数据库中的一种存储方式。NoSQL数据库泛指非关系型数据库,可以存储文本、图片、音视频等非结构化数据。在KV存储方式中,数据可以按照键值(KV)对的形式进行组织、索引和存储。
示例性地,NoSQL数据库的全称可以是非关系型数据库(not only structuredquery language,NoSQL),NoSQL数据库种类繁多,且数据与数据之间没有关系,非常容易扩展,具有非常高的读写性能。
目前,KV存储方式在向数据库存储数据(即键值对)时,可以通过RAFT算法将键值对预写到日志中。应用侧在访问数据时,可以通过RAFT算法,将日志中预写入的键值对再写入到应用侧。
示例性地,KV存储方式是以键值对的形式向数据库存储数据的,目前,KV存储方式在向数据库存储数据(即键值对)时,可以通过RAFT算法将键值对预写到日志(log,如称为RAFT log)中进行存储,RAFT是一种简单方便易于理解的分布式算法,主要解决了分布式中的一致性问题。当应用侧在访问数据时,可以通过RAFT算法,将raft log预写入的键值对再写入到应用侧。其中,应用侧可以是某个应用程序,也可以是某个应用在应用侧的服务器。
但是,目前的KV存储方式中,数据对应的实际写入量远远超过数据自身大小,造成了写放大,严重影响了存储性能。
示例性地,目前的KV存储方式中,基于RAFT的写入机制,会先预写日志,当应用侧在访问数据时,将预写的日志再写入到应用侧,这样数据会写两次,导致实际写入的物理数据量是写入数据量的多倍,影响了存储性能。
在此背景技术下,本公开提供了一种数据存储方法,本公开可以减少存储数据时的数据写入量,降低写放大,提升存储性能。
示例性地,该数据存储方法的执行主体可以是计算机或服务器,或者还可以是其他具有数据处理能力的设备。在此对该方法的执行主体不作限制。
例如,该数据存储方法的执行主体可以是部署有存储系统或数据库的计算机或服务器。或者,该数据存储方法的执行主体还可以是存储系统,或者管理或维护存储系统或数据库的软件模块。
一些实施例中,服务器可以是单独的一个服务器,或者,也可以是由多个服务器构成的服务器集群。部分实施方式中,服务器集群还可以是分布式集群。本公开对服务器的具体实现方式也不作限制。
图1为本公开实施例提供的数据存储方法的流程示意图。如图1所示,该方法可以包括S101-S104。
S101、将待存储的目标数据对应的目标键值对中的关键字和值分离,得到目标关键字和目标值。
示例性地,在KV存储方式中,数据可以按照键值(KV)对的形式进行组织、索引和存储,可以将待存储的目标数据对应的目标键值对中的关键字和值分离,得到目标关键字和目标值。
例如,可以将待存储的目标数据对应的目标键值对中的关键字和值分离,得到目标关键字key和目标值value。
S102、为目标键值对生成唯一的标识信息,并建立目标关键字和标识信息的第一对应关系、以及标识信息和目标值的第二对应关系。
示例性地,可以为目标键值对生成唯一的标识信息,目标关键字和标识信息的第一对应关系,标识信息和目标值的第二对应关系。其中,目标键值对中的目标关键字和目标值的标识信息相同,标识信息可以作为目标关键字的新值,标识信息同时可以作为目标值的新关键字。标识信息作为目标关键字的新值,与目标关键字之间存在对应关系,可以称为第一对应关系。标识信息作为目标值的新关键字,与目标值之间存在对应关系,可以称为第二对应关系。
例如,假设目标键值对的目标关键字为k,目标值为v,标识信息为1,那么1可以作为k的新值,1同时也可以作为v的新关键字。
S103、将标识信息、目标关键字、目标值、以及第一对应关系和第二对应关系预写入日志中。
示例性地,可以通过RAFT算法将为目标键值对生成的唯一标识信息、分离后的目标关键字、目标值、以及目标关键字和标识信息的第一对应关系、标识信息和目标值的第二对应关系预写入日志中。
S104、当应用侧访问目标数据时,将目标关键字、标识信息、以及第一对应关系写入应用侧,标识信息用于应用侧从日志中查找目标值。
示例性地,当应用侧访问目标数据时,可以通过RAFT算法将目标关键字、标识信息、以及目标关键字和标识信息的第一对应关系写入应用侧,用户可以根据写入应用侧的目标关键字通过第一对应关系找到目标关键字对应的唯一标识信息,再根据唯一标识信息从预写的日志中找到唯一标识信息对应的目标值。其中,应用侧可以是某个应用软件,也可以是某个服务器。
例如,假设目标关键字为k,标识信息为1,目标值为v,当应用侧访问目标数据时,可以将目标关键字k,标识信息1以及目标关键字k和标识信息1的第一对应关系写入应用侧,用户可以根据写入应用侧的目标关键字k以及k和标识信息1的第一对应关系找到目标关键字k对应的标识信息1,再根据标识信息1在预写的日志中找到标识信息1对应的目标值v。
本公开通过将待存储的目标数据对应的目标键值对中的关键字和值分离,得到目标关键字和目标值;为目标键值对生成唯一的标识信息,并建立目标关键字和标识信息的第一对应关系、以及标识信息和目标值的第二对应关系;将标识信息、目标关键字、目标值、以及第一对应关系和第二对应关系预写入日志中;当应用侧访问目标数据时,将目标关键字、标识信息、以及第一对应关系写入应用侧,标识信息用于应用侧从日志中查找目标值,可以减少存储数据时的数据写入量,降低写放大,提升存储性能。
一些实施例中,上述为目标键值对生成唯一的标识信息,可以包括:
在目标时刻,为目标键值对生成时间戳,作为目标键值对的标识信息。
示例性地,在目标时刻,可以为目标键值对生成唯一的标识信息,生成的唯一的标识信息可以是时间戳的形式。
例如,假设目标键值对为X,可以为目标键值对X生成一个时间戳1,这个时间戳1就是目标键值对X的唯一的标识信息。
本实施例通过在目标时刻,为目标键值对生成时间戳,作为目标键值对的唯一标识信息,可以大大减少写入的数据量,降低写放大。
一些实施例中,上述目标时刻在将目标键值对中的关键字和值分离的时刻之前;或者,目标时刻为将目标键值对中的关键字和值分离的时刻;又或者,目标时刻在将目标键值对中的关键字和值分离的时刻之后。
示例性地,可以在将目标键值对中的关键字和值分离的同时为目标键值对生成时间戳,也可以在将目标键值对中的关键字和值分离之前为目标键值对生成时间戳,还可以在将目标键值对中的关键字和值分离之后为目标键值对生成时间戳。
本实施例通过限定目标时刻可以为将目标键值对中的关键字和值分离的时刻,也可以在将目标键值对中的关键字和值分离的时刻之前,还可以在将目标键值对中的关键字和值分离的时刻之后,提高了生成时间戳时刻的灵活性,提升了数据存储的效率。
一些实施例中,上述为目标键值对生成唯一的标识信息,可以包括:
按照预设编号规则,确定目标键值对对应的唯一编号,作为目标键值对的标识信息。
示例性地,为目标键值对生成的唯一的标识信息可以是按照预设编号规则确定的目标键值对对应的唯一编号。唯一的标识信息的形式可以是多种,在此不做限制。
例如,可以按照预设编号规则,为目标键值对X生成对应的唯一编号①,编号①就是目标键值对X的唯一标识信息。
本实施例通过按照预设编号规则,确定目标键值对对应的唯一编号,可以提高标识信息的丰富度,提升生成标识信息的灵活性。
图2为本公开实施例提供的S102的一种实现流程示意图。如图2所示,在一些实施例中,上述S102中所述的建立目标关键字和标识信息的第一对应关系、以及标识信息和目标值的第二对应关系的步骤,可以包括S201-S202。
S201、将标识信息作为目标关键字对应的新值,得到第一键值对,第一键值对用于表征第一对应关系。
示例性地,可以将生成的唯一标识信息作为目标关键字对应的新值,得到一个新的键值对,这个新的键值对就是第一键值对,第一键值对用于指示目标关键字和唯一标识信息的第一对应关系。
例如,假设目标键值对的目标关键字为k,目标值为v,生成的唯一标识信息为X,可以将标识信息X作为目标关键字k的新值,得到第一键值对,第一键值对用于指示目标关键字k和标识信息X的第一对应关系。
S202、将标识信息作为目标值对应的新关键字,得到第二键值对,第二键值对用于表征第二对应关系。
示例性地,可以将生成的唯一标识信息作为目标值对应的新关键字,得到一个新的键值对,这个新的键值对就是第二键值对,第二键值对用于指示目标值和唯一标识信息的第二对应关系。
例如,假设目标键值对的目标关键字为k,目标值为v,生成的唯一标识信息为X,可以将标识信息X作为目标值v的新关键字,得到第二键值对,第二键值对用于指示标识信息X和目标值v的第二对应关系。
在本实施例中,上述S103可以包括:将第一键值对和第二键值对预写入日志中。上述S104中所述的将目标关键字、标识信息、以及第一对应关系写入应用侧的步骤,可以包括:将第一键值对写入应用侧。
示例性地,可以将目标关键字和标识信息生成的第一键值对、标识信息和目标值组成的第二键值对通过RAFT算法预写入日志中。当应用侧在访问数据时,可以通过RAFT算法将预写入日志中的第一键值对再写入到应用侧。
例如,假设目标键值对的目标关键字为k,目标值为v,生成的唯一标识信息为X,可以得到目标关键字k和标识信息X组成的第一键值对,标识信息X和目标值v组成的第二键值对,当应用侧在访问数据时,只需要将第二键值对写入到应用侧。
本实施例通过将标识信息作为目标关键字对应的新值,得到第一键值对,将标识信息作为目标值对应的新关键字,得到第二键值对,将第一键值对和第二键值对预写入日志中,将第一键值对写入应用侧,进一步减少了写入数据的数据量,降低了写放大,从而进一步提升了存储性能。
本公开实施例还提供了一种数据存储方法,该数据存储方法的执行主体可以参考前述实施例所述,不再赘述。图3为本公开实施例提供的数据存储方法的另一流程示意图。如图3所示,该方法可以包括S301-S303。
S301、为待存储的目标数据对应的目标键值对生成唯一的标识信息,并将目标键值对、以及标识信息预写入日志中。
示例性地,可以为目标键值对生成唯一的标识信息,并通过RAFT算法将目标键值对和为目标键值对生成的唯一标识信息预写入日志中。
例如,假设目标键值对为X,唯一标识信息为y,可以通过RAFT算法将目标键值对X和唯一标识信息y都预写入日志中。
S302、当应用侧访问目标数据时,将目标键值对中的关键字和值分离,得到目标关键字和目标值,并建立目标关键字和标识信息的第一对应关系。
示例性地,当应用侧访问目标数据时,可以目标数据对应的目标键值对中的关键字和值分离,得到目标关键字和目标值,并建立目标关键字和为目标键值对生成的唯一标识信息的第一对应关系。
例如,假设目标键值对的目标关键字为k,目标值为v,标识信息为1,当应用侧访问目标数据时,将目标键值对的目标关键字k和目标值v分离,标识信息1可以作为目标关键字k的新值。
S303、将目标关键字、标识信息、以及第一对应关系写入应用侧,标识信息用于应用侧从日志中查找目标值。
示例性地,可以将目标键值对的目标关键字、为目标键值对生成的唯一标识信息、以及目标关键字和为目标键值对生成的唯一标识信息的第一对应关系写入应用侧,用户可以根据写入应用侧的目标关键字通过第一对应关系找到目标关键字对应的唯一标识信息,再根据唯一标识信息从预写的日志中找到唯一标识信息对应的目标值。
例如,假设目标关键字为k,标识信息为1,目标值为v,可以将目标关键字k,标识信息1以及目标关键字k和标识信息1的第一对应关系写入应用侧,用户可以根据写入应用侧的目标关键字k以及k和标识信息1的第一对应关系找到目标关键字k对应的标识信息1,再根据标识信息1在预写的日志中找到标识信息1对应的目标值v。
与上述图1所示的实施例类似,图3所示的实施例,通过为待存储的目标数据对应的目标键值对生成唯一的标识信息,并将目标键值对、以及标识信息预写入日志中,当应用侧访问目标数据时,将目标键值对中的关键字和值分离,得到目标关键字和目标值,并建立目标关键字和标识信息的第一对应关系,将目标关键字、标识信息、以及第一对应关系写入应用侧,也可以减少存储数据时的数据写入量,降低写放大,提升存储性能。
一些实施例中,上述为待存储的目标数据对应的目标键值对生成唯一的标识信息,可以包括:在目标时刻,为目标键值对生成时间戳,作为目标键值对的标识信息。
示例性地,在目标时刻,可以为目标键值对生成唯一的标识信息,生成的唯一的标识信息可以是时间戳的形式。
例如,假设目标键值对为X,可以为目标键值对X生成一个时间戳1,这个时间戳1就是目标键值对X的唯一的标识信息。
本实施例通过在目标时刻,为目标键值对生成时间戳,作为目标键值对的唯一标识信息,可以进一步减少写入的数据量,降低写放大。
一些实施例中,上述目标时刻可以在将目标键值对预写入日志的时刻之前;或者,目标时刻为将目标键值对预写入日志的时刻。
示例性地,为目标键值对生成唯一的标识信息的时刻可以在将目标键值对预写入日志的时刻之前;也可以在将目标键值对预写入日志的同时为目标键值对生成唯一的标识信息。
本实施例通过说明为目标键值对生成唯一的标识信息的时刻可以在将目标键值对预写入日志的时刻之前,也可以在将目标键值对预写入日志的同时为目标键值对生成唯一的标识信息,提高了生成唯一标识信息时刻的灵活性,提升了数据存储的效率。
一些实施例中,上述为待存储的目标数据对应的目标键值对生成唯一的标识信息,可以包括:按照预设编号规则,确定目标键值对对应的唯一编号,作为目标键值对的标识信息。
示例性地,为目标键值对生成的唯一的标识信息可以是按照预设编号规则确定的目标键值对对应的唯一编号。唯一的标识信息的形式可以是多种,在此不做限制。
例如,可以按照预设编号规则,为目标键值对X生成对应的唯一编号①,编号①就是目标键值对X的唯一标识信息。
本实施例通过按照预设编号规则,确定目标键值对对应的唯一编号,可以提高标识信息的丰富度,提升生成标识信息的灵活性。
一些实施例中,上述S302可以包括:将标识信息作为目标关键字对应的新值,得到第一键值对,第一键值对用于表征第一对应关系。
示例性地,可以将生成的唯一标识信息作为目标关键字对应的新值,得到一个新的键值对,这个新的键值对就是第一键值对,第一键值对用于指示目标关键字和唯一标识信息的第一对应关系。
例如,假设目标键值对的目标关键字为k,目标值为v,生成的唯一标识信息为X,可以将标识信息X作为目标关键字k的新值,得到第一键值对,第一键值对用于指示目标关键字k和标识信息X的第一对应关系。
在本实施例中,上述S303可以包括:将第一键值对写入应用侧。
示例性地,可以通过RAFT算法将标识信息和目标关键字组成的第一键值对写入到应用侧。
例如,假设目标键值对的目标关键字为k,目标值为v,生成的唯一标识信息为X,可以得到目标关键字k和标识信息X组成的第一键值对,将第一键值对写入到应用侧。
本实施例通过将标识信息作为目标关键字对应的新值,得到第一键值对,将第一键值对写入应用侧,进一步减少了存储数据时的数据写入量,降低了写放大。
以下结合图4对本公开实施例提供的数据存储方法的原理进行示例性说明。
图4为本公开实施例提供的数据存储方法的原理示意图。如图4所示,将目标数据对应的目标键值对中的关键字和值分离,得到目标关键字k和目标值v,可以为目标键值对1生成时间戳1,为目标键值对2生成时间戳3,为目标键值对3生成时间戳5,为目标键值对4生成时间戳7,将所有目标键值对的关键字和值以及时间戳全部预写入日志中,当应用侧访问目标数据时,将时间戳1作为目标键值对1的目标关键字的新值得到键值对1,将时间戳3作为目标键值对2的目标关键字的新值得到键值对2,将时间戳5作为目标键值对3的目标关键字的新值得到键值对3,将时间戳7作为目标键值对4的目标关键字的新值得到键值对4;将时间戳1作为目标键值对1的目标值的新关键字得到键值对5,将时间戳3作为目标键值对2的目标值的新关键字得到键值对6,将时间戳5作为目标键值对3的目标值的新关键字得到键值对7,将时间戳7作为目标键值对4的目标值的新关键字得到第八键值对;将键值对1、键值对2、键值对3、键值对4写入应用侧,读取时可以根据写入应用侧的目标关键字读取到对应的时间戳,然后通过时间戳索引到目标键值对的目标值。
示例性实施例中,本公开实施例还提供一种数据存储装置,可以用于实现如前述图1至图2所示的实施例中所述的数据存储方法。
图5为本公开实施例提供的数据存储装置的组成示意图。如图5所示,该装置可以包括:分离单元501、生成单元502、预写单元503、写入单元504。
分离单元501,用于将待存储的目标数据对应的目标键值对中的关键字和值分离,得到目标关键字和目标值。
生成单元502,用于为目标键值对生成唯一的标识信息,并建立目标关键字和标识信息的第一对应关系、以及标识信息和目标值的第二对应关系。
预写单元503,用于将标识信息、目标关键字、目标值、以及第一对应关系和第二对应关系预写入日志中。
写入单元504,用于当应用侧访问目标数据时,将目标关键字、标识信息、以及第一对应关系写入应用侧,标识信息用于应用侧从日志中查找目标值。
可选地,生成单元502,具体用于在目标时刻,为目标键值对生成时间戳,作为目标键值对的标识信息。
可选地,目标时刻在将目标键值对中的关键字和值分离的时刻之前;或者,目标时刻为将目标键值对中的关键字和值分离的时刻;又或者,目标时刻在将目标键值对中的关键字和值分离的时刻之后。
可选地,生成单元502,具体用于按照预设编号规则,确定目标键值对对应的唯一编号,作为目标键值对的标识信息。
可选地,生成单元502,具体用于将标识信息作为目标关键字对应的新值,得到第一键值对,第一键值对用于表征第一对应关系;将标识信息作为目标值对应的新关键字,得到第二键值对,第二键值对用于表征第二对应关系;预写单元503,具体用于将第一键值对和第二键值对预写入日志中;写入单元504,具体用于将第一键值对写入应用侧。
示例性实施例中,本公开实施例还提供一种数据存储装置,可以用于实现如前述图3所示的实施例中所述的数据存储方法。
图6为本公开实施例提供的数据存储装置的另一组成示意图。如图6所示,该装置可以包括:生成单元601、分离单元602、写入单元603。
生成单元601,用于为待存储的目标数据对应的目标键值对生成唯一的标识信息,并将目标键值对、以及标识信息预写入日志中。
分离单元602,用于当应用侧访问目标数据时,将目标键值对中的关键字和值分离,得到目标关键字和目标值,并建立目标关键字和标识信息的第一对应关系。
写入单元603,用于将目标关键字、标识信息、以及第一对应关系写入应用侧,标识信息用于应用侧从日志中查找目标值。
可选地,生成单元601,具体用于在目标时刻,为目标键值对生成时间戳,作为目标键值对的标识信息。
可选地,目标时刻在将目标键值对预写入日志的时刻之前;或者,目标时刻为将目标键值对预写入日志的时刻。
可选地,生成单元601,具体用于按照预设编号规则,确定目标键值对对应的唯一编号,作为目标键值对的标识信息。
可选地,生成单元601,具体用于将标识信息作为目标关键字对应的新值,得到第一键值对,第一键值对用于表征第一对应关系;写入单元603,具体用于将第一键值对写入应用侧。
本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质、一种计算机程序产品。
示例性实施例中,电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如以上实施例所述的方法。
示例性实施例中,可读存储介质可以是存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使计算机执行根据以上实施例所述的方法。
示例性实施例中,计算机程序产品包括计算机程序,所述计算机程序在被处理器执行时实现根据以上实施例所述的方法。
图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示,电子设备700包括计算单元701,其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序,来执行各种适当的动作和处理。在RAM 703中,还可存储电子设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
电子设备700中的多个部件连接至I/O接口705,包括:输入单元706,例如键盘、鼠标等;输出单元707,例如各种类型的显示器、扬声器等;存储单元708,例如磁盘、光盘等;以及通信单元709,例如网卡、调制解调器、无线通信收发机等。通信单元709允许电子设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理,例如数据存储方法。例如,在一些实施例中,数据存储方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元708。在一些实施例中,计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到电子设备700上。当计算机程序加载到RAM 703并由计算单元701执行时,可以执行上文描述的数据存储方法的一个或多个步骤。备选地,在其他实施例中,计算单元701可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据存储方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (20)
1.一种数据存储方法,所述方法包括:
将待存储的目标数据对应的目标键值对中的关键字和值分离,得到目标关键字和目标值;
为所述目标键值对生成唯一的标识信息,并建立所述目标关键字和所述标识信息的第一对应关系、以及所述标识信息和所述目标值的第二对应关系;
将所述标识信息、所述目标关键字、所述目标值、以及所述第一对应关系和所述第二对应关系预写入日志中;
当应用侧访问所述目标数据时,将所述目标关键字、所述标识信息、以及所述第一对应关系写入所述应用侧,所述标识信息用于所述应用侧从所述日志中查找所述目标值。
2.根据权利要求1所述的方法,所述为所述目标键值对生成唯一的标识信息,包括:
在目标时刻,为所述目标键值对生成时间戳,作为所述目标键值对的标识信息。
3.根据权利要求2所述的方法,所述目标时刻在将所述目标键值对中的关键字和值分离的时刻之前;
或者,所述目标时刻为将所述目标键值对中的关键字和值分离的时刻;
又或者,所述目标时刻在将所述目标键值对中的关键字和值分离的时刻之后。
4.根据权利要求1所述的方法,所述为所述目标键值对生成唯一的标识信息,包括:
按照预设编号规则,确定所述目标键值对对应的唯一编号,作为所述目标键值对的标识信息。
5.根据权利要求1-4任一项所述的方法,所述建立所述目标关键字和所述标识信息的第一对应关系、以及所述标识信息和所述目标值的第二对应关系,包括:
将所述标识信息作为所述目标关键字对应的新值,得到第一键值对,所述第一键值对用于表征所述第一对应关系;
将所述标识信息作为所述目标值对应的新关键字,得到第二键值对,所述第二键值对用于表征所述第二对应关系;
所述将所述标识信息、所述目标关键字、所述目标值、以及所述第一对应关系和所述第二对应关系预写入日志中,包括:
将所述第一键值对和所述第二键值对预写入日志中;
所述将所述目标关键字、所述标识信息、以及所述第一对应关系写入所述应用侧,包括:
将所述第一键值对写入所述应用侧。
6.一种数据存储方法,所述方法包括:
为待存储的目标数据对应的目标键值对生成唯一的标识信息,并将所述目标键值对、以及所述标识信息预写入日志中;
当应用侧访问所述目标数据时,将所述目标键值对中的关键字和值分离,得到目标关键字和目标值,并建立所述目标关键字和所述标识信息的第一对应关系;
将所述目标关键字、所述标识信息、以及所述第一对应关系写入所述应用侧,所述标识信息用于所述应用侧从所述日志中查找所述目标值。
7.根据权利要求6所述的方法,所述为待存储的目标数据对应的目标键值对生成唯一的标识信息,包括:
在目标时刻,为所述目标键值对生成时间戳,作为所述目标键值对的标识信息。
8.根据权利要求7所述的方法,所述目标时刻在将所述目标键值对预写入日志的时刻之前;
或者,所述目标时刻为将所述目标键值对预写入日志的时刻。
9.根据权利要求6所述的方法,所述为待存储的目标数据对应的目标键值对生成唯一的标识信息,包括:
按照预设编号规则,确定所述目标键值对对应的唯一编号,作为所述目标键值对的标识信息。
10.根据权利要求6-9任一项所述的方法,所述建立所述目标关键字和所述标识信息的第一对应关系,包括:
将所述标识信息作为所述目标关键字对应的新值,得到第一键值对,所述第一键值对用于表征所述第一对应关系;
所述将所述目标关键字、所述标识信息、以及所述第一对应关系写入所述应用侧,包括:
将所述第一键值对写入所述应用侧。
11.一种数据存储装置,所述装置包括:
分离单元,用于将待存储的目标数据对应的目标键值对中的关键字和值分离,得到目标关键字和目标值;
生成单元,用于为所述目标键值对生成唯一的标识信息,并建立所述目标关键字和所述标识信息的第一对应关系、以及所述标识信息和所述目标值的第二对应关系;
预写单元,用于将所述标识信息、所述目标关键字、所述目标值、以及所述第一对应关系和所述第二对应关系预写入日志中;
写入单元,用于当应用侧访问所述目标数据时,将所述目标关键字、所述标识信息、以及所述第一对应关系写入所述应用侧,所述标识信息用于所述应用侧从所述日志中查找所述目标值。
12.根据权利要求11所述的装置,所述生成单元,具体用于:
在目标时刻,为所述目标键值对生成时间戳,作为所述目标键值对的标识信息。
13.根据权利要求12所述的装置,所述目标时刻在将所述目标键值对中的关键字和值分离的时刻之前;
或者,所述目标时刻为将所述目标键值对中的关键字和值分离的时刻;
又或者,所述目标时刻在将所述目标键值对中的关键字和值分离的时刻之后。
14.根据权利要求11-13任一项所述的装置,所述生成单元,具体用于:
将所述标识信息作为所述目标关键字对应的新值,得到第一键值对,所述第一键值对用于表征所述第一对应关系;
将所述标识信息作为所述目标值对应的新关键字,得到第二键值对,所述第二键值对用于表征所述第二对应关系;
所述预写单元,具体用于:
将所述第一键值对和所述第二键值对预写入日志中;
所述写入单元,具体用于:
将所述第一键值对写入所述应用侧。
15.一种数据存储装置,所述装置包括:
生成单元,用于为待存储的目标数据对应的目标键值对生成唯一的标识信息,并将所述目标键值对、以及所述标识信息预写入日志中;
分离单元,用于当应用侧访问所述目标数据时,将所述目标键值对中的关键字和值分离,得到目标关键字和目标值,并建立所述目标关键字和所述标识信息的第一对应关系;
写入单元,用于将所述目标关键字、所述标识信息、以及所述第一对应关系写入所述应用侧,所述标识信息用于所述应用侧从所述日志中查找所述目标值。
16.根据权利要求15所述的装置,所述生成单元,具体用于:
在目标时刻,为所述目标键值对生成时间戳,作为所述目标键值对的标识信息。
17.根据权利要求15或16所述的装置,所述生成单元,具体用于:
将所述标识信息作为所述目标关键字对应的新值,得到第一键值对,所述第一键值对用于表征所述第一对应关系;
所述写入单元,具体用于:
将所述第一键值对写入所述应用侧。
18.一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5任一项所述的方法或者权利要求6-10任一项所述的方法。
19.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使计算机执行根据权利要求1-5任一项所述的方法或者权利要求6-10任一项所述的方法。
20.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-5任一项所述的方法或者权利要求6-10任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310465247.XA CN116383333A (zh) | 2023-04-26 | 2023-04-26 | 数据存储方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310465247.XA CN116383333A (zh) | 2023-04-26 | 2023-04-26 | 数据存储方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116383333A true CN116383333A (zh) | 2023-07-04 |
Family
ID=86975148
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310465247.XA Pending CN116383333A (zh) | 2023-04-26 | 2023-04-26 | 数据存储方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116383333A (zh) |
-
2023
- 2023-04-26 CN CN202310465247.XA patent/CN116383333A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113609100B (zh) | 数据存储方法、数据查询方法、装置及电子设备 | |
CN114816578A (zh) | 基于配置表的程序配置文件生成方法、装置及设备 | |
CN114064925A (zh) | 知识图谱的构建方法、数据查询方法、装置、设备和介质 | |
CN109542912B (zh) | 区间数据存储方法、装置、服务器及存储介质 | |
CN116955856A (zh) | 信息展示方法、装置、电子设备以及存储介质 | |
CN103530345A (zh) | 短文本特征扩展及拟合特征库构建方法、装置 | |
CN112887426B (zh) | 信息流的推送方法、装置、电子设备以及存储介质 | |
CN116185389A (zh) | 一种代码生成方法、装置、电子设备及介质 | |
CN115905322A (zh) | 业务处理方法、装置、电子设备及存储介质 | |
CN115328917A (zh) | 一种查询方法、装置、设备及存储介质 | |
CN114238611B (zh) | 用于输出信息的方法、装置、设备以及存储介质 | |
CN115454971A (zh) | 数据迁移方法、装置、电子设备及存储介质 | |
CN116383333A (zh) | 数据存储方法、装置、设备及存储介质 | |
CN113190718A (zh) | 图数据库的数据处理方法、装置、电子设备及存储介质 | |
CN114218431A (zh) | 视频搜索方法、装置、电子设备以及存储介质 | |
CN113868254A (zh) | 图数据库中的实体节点去重方法、设备和存储介质 | |
CN113220710B (zh) | 数据查询方法、装置、电子设备以及存储介质 | |
CN113032402B (zh) | 存储数据和获取数据的方法、装置、设备和存储介质 | |
CN113449155B (zh) | 用于特征表示处理的方法、装置、设备和介质 | |
CN117271840B (zh) | 图数据库的数据查询方法、装置及电子设备 | |
CN115454977A (zh) | 一种数据迁移方法、装置、设备和存储介质 | |
CN113220710A (zh) | 数据查询方法、装置、电子设备以及存储介质 | |
CN117806965A (zh) | 一种数据库测试方法、装置、电子设备和存储介质 | |
CN117194435A (zh) | 索引数据更新方法、装置、设备及存储介质 | |
CN117331994A (zh) | 数据的实时处理方法及装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |