CN113360287B - 数据处理方法及装置 - Google Patents
数据处理方法及装置 Download PDFInfo
- Publication number
- CN113360287B CN113360287B CN202110688468.4A CN202110688468A CN113360287B CN 113360287 B CN113360287 B CN 113360287B CN 202110688468 A CN202110688468 A CN 202110688468A CN 113360287 B CN113360287 B CN 113360287B
- Authority
- CN
- China
- Prior art keywords
- service data
- identification
- data
- target
- read
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5013—Request control
Abstract
本申请提供数据处理方法及装置,其中所述数据处理方法应用于终端,包括:接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识;获取所述目标业务数据的数据容量值;根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识;基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。通过本方法无需借助第三方工具即可快速确定异步写操作带来的数据冗余,减轻服务负载,提高数据读写效率。
Description
技术领域
本申请涉及计算机技术领域,特别涉及数据处理方法。本申请同时涉及数据处理装置,一种计算设备,以及一种计算机可读存储介质。
背景技术
Direct IO是Linux文件系统的一种异步操作模式,使用条件较为严格,即数据大小、内存地址、偏移量等均需要被页大小(PageSize)整除,因此在写入数据时就需要用多余的脏数据来保证数据大小可以被PageSize整除,而在Direct IO的写场景下往往需要一些第三方存储服务来辨别写操作带来的有效数据和冗余数据,因此会带来较大的服务负载。
发明内容
有鉴于此,本申请实施例提供了一种数据处理方法。本申请同时涉及一种数据处理装置,一种计算设备,以及一种计算机可读存储介质,以解决现有技术中存在的引入第三方存储服务带来的服务负载问题。
根据本申请实施例的第一方面,提供了一种数据处理方法,应用于终端,包括:
接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识;
获取所述目标业务数据的数据容量值;
根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识;
基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。
根据本申请实施例的第二方面,提供了一种数据处理方法,应用于终端,包括:
接收读请求,其中,所述读请求中携带有待读取业务数据原生标识;
在标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系;
在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据;
根据所述待读取业务数据定制标识读取所述目标读取业务数据;
返回所述目标读取业务数据。
根据本申请实施例的第三方面,提供了一种数据处理装置,应用于终端,包括:
第一接收模块,被配置为接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识;
获取模块,被配置为获取所述目标业务数据的数据容量值;
生成模块,被配置为根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识;
保存模块,被配置为基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。
根据本申请实施例的第四方面,提供了一种数据处理装置,应用于终端,包括:
第二接收模块,被配置为接收读请求,其中,所述读请求中携带有待读取业务数据原生标识;
查找模块,被配置为在标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系;
确定模块,被配置为在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据;
读取模块,被配置为根据所述待读取业务数据定制标识读取所述目标读取业务数据;
返回模块,被配置为返回所述目标读取业务数据。
根据本申请实施例的第五方面,提供了一种计算设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机指令,所述处理器执行所述计算机指令时实现所述数据处理方法的步骤。
根据本申请实施例的第六方面,提供了一种计算机可读存储介质,其存储有计算机指令,该计算机指令被处理器执行时实现所述数据处理方法的步骤。
本申请提供的数据处理方法,应用于终端,包括接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识;获取所述目标业务数据的数据容量值;根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识;基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。通过本方法无需借助第三方工具即可快速确定异步写操作带来的数据冗余,减轻服务负载,提高数据读写效率。
附图说明
图1是本申请第一实施例提供的一种数据处理方法的流程图;
图2是本申请一实施例提供的生成标识对应表的流程图;
图3是本申请第二实施例提供的一种应用于Direct IO写场景的数据处理方法的处理流程图;
图4是本申请第三实施例提供的一种数据处理方法的流程图;
图5是本申请第四实施例提供的一种数据处理装置的结构示意图;
图6是本申请第五实施例提供的一种数据处理装置的结构示意图;
图7是本申请一实施例提供的一种计算设备的结构框图。
具体实施方式
在下面的描述中阐述了很多具体细节以便于充分理解本申请。但是本申请能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此本申请不受下面公开的具体实施的限制。
在本申请一个或多个实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请一个或多个实施例。在本申请一个或多个实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本申请一个或多个实施例中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请一个或多个实施例中可能采用术语第一、第二等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请一个或多个实施例范围的情况下,第一也可以被称为第二,类似地,第二也可以被称为第一。取决于语境,如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
首先,对本申请一个或多个实施例涉及的名词术语进行解释。
Linux:一种操作系统。
Direct IO:是Linux文件系统的一种异步操作模式。
异步操作:无需等待操作完成结果,可以先做其他任务。
PageSize:物理内存的页大小。
存储服务:用来存储信息的服务。
KV列表:Key-Value列表,可以通过Key查询到Value的哈希表格。
KV关系:Key-Value关系,一种Key到Value的映射关系。
Direct IO是Linux文件系统的一种异步操作模式,但是使用条件相当严格(数据大小,内存地址,偏移量都需要能被PageSize整除),在写场景下就需要判断多余出来的冗余数据是哪些(假设数据大小100字节,但是PageSize是4096字节,那么这导致一次写操作最少都要写4096字节,所以我们需要能辨别出这个文件后面的3996字节是冗余数据)。Direct IO在写场景下往往需要借助一些存储服务(用来存储文件的真实大小信息,以此来辨别由Direct IO带来的冗余数据),这也加大了服务负载。
基于此,在本申请中,提供了数据处理方法,本申请同时涉及数据处理装置,一种计算设备,以及一种计算机可读存储介质,在下面的实施例中逐一进行详细说明。
需要注意的是,本申请提供一种解决Direct IO模式下写操作时存在的问题的解决方案,本申请提供的数据处理方法对终端没有限制,可以应用在服务器或客户端,只要是使用Direct IO模式下写操作即可。
图1示出了根据本申请第一实施例提供的一种数据处理方法的流程图,所述方法应用于终端,具体包括以下步骤:
步骤102:接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识。
目标业务数据是指与具体业务相关的数据,例如在视频处理业务中,目标业务数据可以是视频;在音频处理业务中,目标业务数据可以是音频;在图片处理业务中,目标业务数据可以是图片等等。
写请求具体是指在Direct IO模式下接收的将目标业务数据写入到终端的写入请求,本申请的终端可以是服务器,也可以是客户端,终端使用的是Direct IO模式进行写操作。
在写请求中具体会携带有要写入终端的目标业务数据,以及所述目标业务数据原生标识,所述目标业务数据原生标识具体是指目标业务数据的原始文件名,例如一个目标业务数据的原始文件名为“视频A”,则目标业务数据原生标识为“视频A”;如果目标业务数据的原始文件名为“图片B”,则目标业务数据原生标识为“图片B”。
在本申请提供的一具体实施方式中,以接收文本数据的写请求为例,接收文本数据的写请求,在写请求中携带有文本数据和文本数据的原生标识“文件F”。
步骤104:获取所述目标业务数据的数据容量值。
数据容量值具体是指目标业务数据的实际占用存储空间的容量大小,例如对于一个图片,图片的大小为3072Kb,则图片的数据容量值为3072Kb;对于一个音频,音频的大小为10Mb,则音频的数据容量值为10Mb。
在本申请提供的一具体实施方式中,沿用上例,获取文本数据的数据容量值为200Kb。
步骤106:根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识。
目标业务数据定制标识具体是指目标业务数据根据数据容量值和目标业务数据原生标识生成的新的数据标识,换句话说,在目标业务数据定制标识中即包括目标业务数据原生标识,又包括目标业务数据的数据容量值。
具体的,根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识,包括:
根据预设拼接标识拼接所述目标业务数据原生标识和所述数据容量值,生成所述目标业务数据的目标业务数据定制标识。
在实际应用中,通常会设置一个预设拼接标识,例如“@”、“#”、“&”等等。通过预设拼接标识将目标业务数据原生标识和数据容量值进行拼接,获得目标业务数据定制标识,例如目标业务数据原生标识为“视频A”,数据容量值为680Mb,预设拼接标识为“&”,则目标业务数据定制标识可以为“视频A&680Mb”;又比如目标业务数据原生标识为“图片B”,数据容量值为5021Kb,预设拼接标识为“@”,则目标业务数据定制标识可以为“图片B@5021Kb”。
在本申请提供的一具体实施方式中,沿用上例,文本数据的原生标识为“文件F”,文本数据的数据容量值为200Kb,预设拼接标识为“@”,则文本数据的定制标识为“文件F@200Kb”。
步骤108:基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。
在确定目标业务数据定制标识后,即可根据目标业务数据定制标识将目标业务数据保存至所述终端。
具体的,基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,包括:
根据所述目标业务数据定制标识在所述终端创建目标业务数据文件,并将所述目标业务数据定制标识作为所述目标业务数据文件名称;
将所述目标业务数据写入到所述目标业务数据文件。
目标业务数据文件具体是指目标业务数据对应的文件格式,例如对于文本数据,目标业务数据文件可以为DOC、TXT等文本文件;对于图片数据,目标业务数据文件可以为图片文件;对于视频数据,目标业务数据文件可以为视频文件等等。
根据目标业务数据定制标识在所述终端创建目标业务数据对应的目标业务数据文件,并将目标业务数据定制标识作为目标业务数据文件的文件名称。例如目标业务数据为视频,其对应的目标业务数据定制标识为“视频A@650Mb”,为其创建视频文件“视频A.mp4”,并将目标业务数据定制标识“视频A@650Mb”作为目标业务数据文件的文件名称,即创建文件名为“视频A@650Mb”的视频文件。再将目标业务数据写入到“视频A@650Mb”的视频文件中,以完成对应的写请求。
在实际应用中,将目标业务数据写入到目标业务数据文件中之后,还需要将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表中。该标识对应表具体为保存业务数据原生标识与业务数据定制标识之间对应KV(Key-Value)关系的KV(Key-Value)列表。具体的,可以根据目标业务数据原生标识唯一确定目标业务数据定制标识,也可以根据目标业务数据定制标识唯一确定目标业务数据原生标识。
该标识对应表可以是一个保存在终端磁盘中的标识对应关系表,也可以是写入到终端内存中的标识关系对应表。当标识对应表保存在终端的磁盘中时,可以直接调用;当标识对应表保存在终端的内存中时,需要在每次服务启动或重启之后,重新获取目标业务数据原生标识和目标业务数据定制标识之间的对应关系,再将该对应关系写入到内存的标识对应表中。
在本申请提供的一具体实施方式中,沿用上例,将文本数据以“文件F@200Kb”进行命名并保存至终端的磁盘中,同时将“文件F@200Kb”与“文件F”对应保存在标识对应表中。
在实际应用中,以标识对应表保存在终端的内存中为例,在终端启动或重启时,需要在终端的内存中生成标识对应表,参见图2,图2示出了本申请一实施例提供的生成标识对应表的流程图,如图2所示,包括步骤202至步骤208:
步骤202:创建标识对应表。
在内存中创建空的标识对应表,所述空的标识对应表即没有任何标识对应关系的标识对应表。
步骤204:扫描所述终端的磁盘,获取至少一个业务数据以及每个业务数据的业务数据定制标识。
扫描终端中保存业务数据的磁盘,获取至少一个业务数据以及每个业务数据对应的业务数据定制标识。例如在磁盘中共获取到3个业务数据,各自对应的业务数据定制标识分别为“视频A@739Mb”、“音频B@10Mb”和“图片C@3847Kb”。
步骤206:解析每个业务数据定制标识,获取每个业务数据定制标识对应的业务数据原生标识。
其中,解析每个业务数据定制标识,包括:
根据预设拼接标识解析每个业务数据定制标识。
在业务数据定制标识中,预设拼接标识即在上述步骤106中描述的拼接标识,通过对业务数据定制标识的解析,可以获得业务数据原生标识,至此可以确定每个业务数据定制标识对应的业务数据原生标识。例如业务数据定制标识“视频A@739Mb”对应的业务数据原生标识为“视频A”;又比如业务数据定制标识“音频B@10Mb”对应的业务数据原生标识为“音频B”等等。
步骤208:将每个业务数据原生标识和对应的业务数据定制标识对应存储至所述标识对应表。
再将每个业务数据原生标识和对应的业务数据定制标识对应存储至在步骤202中创建的标识对应表中,所述标识对应表的表现形式参见下述表1,需要注意的是,下述表1仅是标识对应表的一种具体表现形式,在实际应用中,标识对应表的具体实施以实际应用为准。在本申请中对此不做限定。
表1
编号 | 业务数据原生标识 | 业务数据定制标识 |
1 | 视频A | 视频A@739Mb |
2 | 音频B | 音频B@10Mb |
3 | 图片C | 图片C@3847Kb |
4 | 文本D | 文本D@200Kb |
5 | …… | …… |
在本申请提供的另一具体实施方式中,所述方法还包括S1102-S1110:
S1102、接收读请求,其中,所述读请求中携带有待读取业务数据原生标识。
在本申请提供的一具体实施方式中,沿用上例,接收针对“文件F”的读请求,其中,“文件F”即为待读取业务数据原生标识。
S1104、在所述标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识。
在本申请提供的一具体实施方式中,沿用上例,在标识对应表中查找是否存在与待读取业务数据原生标识“文件F”对应的待读取业务数据定制标识,若不存在则结束读请求,若存在则执行后续步骤。
S1106、在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据。
在本申请提供的一具体实施方式中,沿用上例,在所述标识对应表中查找到待读取业务数据原生标识“文件F”对应的待读取业务数据定制标识“文件F@200Kb”的情况下,确定待读取业务数据定制标识“文件F@200Kb”的文件数据为目标读取业务数据。
S1108、根据所述待读取业务数据定制标识读取所述目标读取业务数据。
在确定目标读取业务数据后,还需要根据待读取业务数据定制标识读取所述目标读取业务数据。
具体的,根据所述待读取业务数据定制标识读取所述目标读取业务数据,包括:
解析所述待读取业务数据定制标识,获得所述待读取业务数据定制标识对应的待读取数据容量值;
根据所述待读取数据容量值读取所述目标读取业务数据。
解析所述待读取业务数据定制标识,具体是指根据预设拼接标识对待读取业务数据定制标识进行拆解,获得待读取业务数据定制标识中的待读取数据容量值。再根据所述待读取数据容量值读取所述目标读取业务数据。例如,待读取数据容量值的大小为100字节,而一个PageSize的大小是4096字节,则在读取该目标读取业务数据时,只需读取对应PageSize的前100字节即可。
S1110、返回所述目标读取业务数据。
将读取到的目标读取业务数据返回给用户。
本申请提供的数据处理方法,应用于终端,包括接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识;获取所述目标业务数据的数据容量值;根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识;基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。通过本方法无需借助第三方工具即可快速确定异步写操作带来的数据冗余,减轻服务负载,提高数据读写效率。
下述结合图3,以本申请提供的数据处理方法在Direct IO写场景下的应用为例,对所述数据处理方法进行进一步说明。其中,图3示出了本申请第二实施例提供的一种应用于Direct IO写场景的数据处理方法的处理流程图,具体包括以下步骤:
步骤302:接收目标业务数据的写请求。
在本申请提供的一具体实施方式中,以接收音频数据为例,接收“音频V”的写请求。
步骤304:接收所述目标业务数据。
在本申请提供的一具体实施方式中,沿用上例,接收音频V的业务数据。
步骤306:判断所述目标业务数据是否接收完成,若是,则执行步骤308,若否,则执行步骤304。
在本申请提供的一具体实施方式中,沿用上例,判断音频V的业务数据是否接收完成,若是,则执行步骤308,若否,则执行步骤306继续接收视频V的业务数据。
步骤308:获取所述目标业务数据的数据容量值。
在本申请提供的一具体实施方式中,沿用上例,在接收完视频V的业务数据后,获取视频V的业务数据的数据容量值5983Kb。
步骤310:根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识。
在本申请提供的一具体实施方式中,沿用上例,根据预设拼接标识“@”,将数据容量值“5983Kb”和视频V的业务数据原生标识“视频V”进行拼接,生成视频V的业务数据定制标识“视频V@5983Kb”。
步骤312:根据所述目标业务数据定制标识在所述终端创建目标业务数据文件,并将所述目标业务数据定制标识作为所述目标业务数据文件名称。
在本申请提供的一具体实施方式中,沿用上例,以业务数据定制标识“视频V@5983Kb”作为文件名在终端创建业务数据文件。
步骤314:将所述目标业务数据写入到所述目标业务数据文件。
在本申请提供的一具体实施方式中,沿用上例,将视频V的业务数据写入到以“视频V@5983Kb”作为文件名的业务数据文件中。
步骤316:将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表。
在本申请提供的一具体实施方式中,沿用上例,将业务数据原生标识“视频V”和业务数据定制标识“视频V@5983Kb”对应存储至标识对应表,便于在后续的读请求中用于查询。
本申请提供的数据处理方法,应用于终端,包括接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识;获取所述目标业务数据的数据容量值;根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识;基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。通过本方法无需借助第三方工具即可快速确定异步写操作带来的数据冗余,减轻服务负载,提高数据读写效率。
图4示出了根据本申请第三实施例提供的一种数据处理方法的流程图,具体包括以下步骤:
步骤402:接收读请求,其中,所述读请求中携带有待读取业务数据原生标识。
其中,读请求具体是指终端接收到的用于读取终端中保存数据的请求,具体的,读请求中携带有待读取业务数据原生标识,读请求对应的业务数据即为待读取业务数据。
在本申请提供的一具体实施方式中,接收到用户发送的读请求“读取图片P”,其中,“图片P”即为待读取业务数据原生标识。
步骤404:在标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。
标识对应表具体用于保存业务数据原生标识与业务数据定制标识的对应关系,关于标识对应表如何应用,参见前述实施例的内容,在此不再赘述。
在标识对应表中查找是否存在待读取业务数据原生标识对应的待读取业务数据定制标识,若存在,则说明在当前终端的磁盘中保存有该读请求对应的业务数据,若不存在,则说明在当前终端的磁盘中未保存该读请求对应的业务数据。
在本申请提供的一具体实施方式中,沿用上例,在标识对应表中查询待读取业务数据原生标识“图片P”是否存在对应的待读取业务数据定制标识。
步骤406:在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据。
在本申请提供的一具体实施方式中,沿用上例,在标识对应表中查找到待读取业务数据原生标识“图片P”对应的待读取业务数据定制标识“图片P@2418Kb”的情况下,确定“图片P@2418Kb”对应的业务数据为目标读取业务数据。
步骤408:根据所述待读取业务数据定制标识读取所述目标读取业务数据。
具体的,根据所述待读取业务数据定制标识读取所述目标读取业务数据,包括:
解析所述待读取业务数据定制标识,获得所述待读取业务数据定制标识对应的待读取数据容量值;
根据所述待读取数据容量值读取所述目标读取业务数据。
在获取待读取业务数据定制标识后,根据预设拼接标识解析所述待读取业务数据定制标识,获得待读取业务数据定制标识中的待读取数据容量值,再根据待读取数据容量值读取目标读取业务数据。
在本申请提供的一具体实施方式中,沿用上例,根据预设拼接标识“@”解析所述待读取业务数据定制标识“图片P@2418Kb”,获得待读取数据容量值“2418Kb”。根据待读取数据容量值“2418Kb”读取目标读取业务数据。
步骤410:返回所述目标读取业务数据。
将读取到的目标读取业务数据返回给读请求的发起者,完成读请求。
本申请提供的数据处理方法,应用于终端,包括接收读请求,其中,所述读请求中携带有待读取业务数据原生标识;在标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系;在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据;根据所述待读取业务数据定制标识读取所述目标读取业务数据;返回所述目标读取业务数据。通过本方法在处理读请求时,无需借助第三方工具辨别PageSize中的冗余数据,快速准确的读取读请求对应的业务数据,提高读请求效率。
与上述第一实施例提供的数据处理方法实施例相对应,本申请还提供了数据处理装置实施例,图5示出了本申请第四实施例提供的一种数据处理装置的结构示意图。如图5所示,该装置包括:
第一接收模块502,被配置为接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识;
获取模块504,被配置为获取所述目标业务数据的数据容量值;
生成模块506,被配置为根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识;
保存模块508,被配置为基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。
可选的,所述生成模块506,进一步被配置为:
根据预设拼接标识拼接所述目标业务数据原生标识和所述数据容量值,生成所述目标业务数据的目标业务数据定制标识。
可选的,所述装置还包括:
创建模块,被配置为创建标识对应表;
扫描模块,被配置为扫描所述终端的磁盘,获取至少一个业务数据以及每个业务数据的业务数据定制标识;
解析模块,被配置为解析每个业务数据定制标识,获取每个业务数据定制标识对应的业务数据原生标识;
存储模块,被配置为将每个业务数据原生标识和对应的业务数据定制标识对应存储至所述标识对应表。
可选的,所述解析模块,进一步被配置为:
根据预设拼接标识解析每个业务数据定制标识。
可选的,所述保存模块508,进一步被配置为:
根据所述目标业务数据定制标识在所述终端创建目标业务数据文件,并将所述目标业务数据定制标识作为所述目标业务数据文件名称;
将所述目标业务数据写入到所述目标业务数据文件。
可选的,所述装置还包括:
第二接收模块,被配置为接收读请求,其中,所述读请求中携带有待读取业务数据原生标识;
查找模块,被配置为在所述标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识;
确定模块,被配置为在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据;
读取模块,被配置为根据所述待读取业务数据定制标识读取所述目标读取业务数据;
返回模块,被配置为返回所述目标读取业务数据。
可选的,所述读取模块,进一步被配置为:
解析所述待读取业务数据定制标识,获得所述待读取业务数据定制标识对应的待读取数据容量值;
根据所述待读取数据容量值读取所述目标读取业务数据。
本申请提供的数据处理装置,应用于终端,包括接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识;获取所述目标业务数据的数据容量值;根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识;基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。通过本装置无需借助第三方工具即可快速确定异步写操作带来的数据冗余,减轻服务负载,提高数据读写效率。
上述为本实施例的一种数据处理装置的示意性方案。需要说明的是,该数据处理装置的技术方案与上述的第一实施例提供的数据处理方法的技术方案属于同一构思,数据处理装置的技术方案未详细描述的细节内容,均可以参见上述第一实施例提供的数据处理方法的技术方案的描述。
与上述第三实施例提供的数据处理方法实施例相对应,本申请还提供了数据处理装置实施例,图6示出了本申请第五实施例提供的一种数据处理装置的结构示意图。如图6所示,该装置包括:
第二接收模块602,被配置为接收读请求,其中,所述读请求中携带有待读取业务数据原生标识;
查找模块604,被配置为在标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系;
确定模块606,被配置为在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据;
读取模块608,被配置为根据所述待读取业务数据定制标识读取所述目标读取业务数据;
返回模块610,被配置为返回所述目标读取业务数据。
可选的,所述读取模块608,进一步被配置为:
解析所述待读取业务数据定制标识,获得所述待读取业务数据定制标识对应的待读取数据容量值;
根据所述待读取数据容量值读取所述目标读取业务数据。
本申请提供的数据处理装置,应用于终端,包括接收读请求,其中,所述读请求中携带有待读取业务数据原生标识;在标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系;在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据;根据所述待读取业务数据定制标识读取所述目标读取业务数据;返回所述目标读取业务数据。通过本装置在处理读请求时,无需借助第三方工具辨别PageSize中的冗余数据,快速准确的读取读请求对应的业务数据,提高读请求效率。
上述为本实施例的一种数据处理装置的示意性方案。需要说明的是,该数据处理装置的技术方案与上述的第三实施例提供的数据处理方法的技术方案属于同一构思,数据处理装置的技术方案未详细描述的细节内容,均可以参见上述第三实施例提供的数据处理方法的技术方案的描述。
图7示出了根据本申请一实施例提供的一种计算设备700的结构框图。该计算设备700的部件包括但不限于存储器710和处理器720。处理器720与存储器710通过总线730相连接,数据库750用于保存数据。
计算设备700还包括接入设备740,接入设备740使得计算设备700能够经由一个或多个网络760通信。这些网络的示例包括公用交换电话网(PSTN)、局域网(LAN)、广域网(WAN)、个域网(PAN)或诸如因特网的通信网络的组合。接入设备740可以包括有线或无线的任何类型的网络接口(例如,网络接口卡(NIC))中的一个或多个,诸如IEEE802.11无线局域网(WLAN)无线接口、全球微波互联接入(Wi-MAX)接口、以太网接口、通用串行总线(USB)接口、蜂窝网络接口、蓝牙接口、近场通信(NFC)接口,等等。
在本申请的一个实施例中,计算设备700的上述部件以及图7中未示出的其他部件也可以彼此相连接,例如通过总线。应当理解,图7所示的计算设备结构框图仅仅是出于示例的目的,而不是对本申请范围的限制。本领域技术人员可以根据需要,增添或替换其他部件。
计算设备700可以是任何类型的静止或移动计算设备,包括移动计算机或移动计算设备(例如,平板计算机、个人数字助理、膝上型计算机、笔记本计算机、上网本等)、移动电话(例如,智能手机)、可佩戴的计算设备(例如,智能手表、智能眼镜等)或其他类型的移动设备,或者诸如台式计算机或PC的静止计算设备。计算设备700还可以是移动式或静止式的服务器。
其中,处理器720执行所述计算机指令时实现所述的数据处理方法的步骤。
上述为本实施例的一种计算设备的示意性方案。需要说明的是,该计算设备的技术方案与上述的数据处理方法的技术方案属于同一构思,计算设备的技术方案未详细描述的细节内容,均可以参见上述数据处理方法的技术方案的描述。
本申请一实施例还提供一种计算机可读存储介质,其存储有计算机指令,该计算机指令被处理器执行时实现如前所述数据处理方法的步骤。
上述为本实施例的一种计算机可读存储介质的示意性方案。需要说明的是,该存储介质的技术方案与上述的数据处理方法的技术方案属于同一构思,存储介质的技术方案未详细描述的细节内容,均可以参见上述数据处理方法的技术方案的描述。
上述对本申请特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
所述计算机指令包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
需要说明的是,对于前述的各方法实施例,为了简便描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其它顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定都是本申请所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其它实施例的相关描述。
以上公开的本申请优选实施例只是用于帮助阐述本申请。可选实施例并没有详尽叙述所有的细节,也不限制该发明仅为所述的具体实施方式。显然,根据本申请的内容,可作很多的修改和变化。本申请选取并具体描述这些实施例,是为了更好地解释本申请的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本申请。本申请仅受权利要求书及其全部范围和等效物的限制。
Claims (13)
1.一种数据处理方法,其特征在于,应用于终端,包括:
接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识;
获取所述目标业务数据的数据容量值;
根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识,其中,所述目标业务数据定制标识包括所述目标业务数据原生标识和所述数据容量值;
基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。
2.如权利要求1所述的数据处理方法,其特征在于,根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识,包括:
根据预设拼接标识拼接所述目标业务数据原生标识和所述数据容量值,生成所述目标业务数据的目标业务数据定制标识。
3.如权利要求1所述的数据处理方法,其特征在于,在接收目标业务数据的写请求之前,所述方法还包括:
创建标识对应表;
扫描所述终端的磁盘,获取至少一个业务数据以及每个业务数据的业务数据定制标识;
解析每个业务数据定制标识,获取每个业务数据定制标识对应的业务数据原生标识;
将每个业务数据原生标识和对应的业务数据定制标识对应存储至所述标识对应表。
4.如权利要求3所述的数据处理方法,其特征在于,解析每个业务数据定制标识,包括:
根据预设拼接标识解析每个业务数据定制标识。
5.如权利要求1所述的数据处理方法,其特征在于,基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,包括:
根据所述目标业务数据定制标识在所述终端创建目标业务数据文件,并将所述目标业务数据定制标识作为所述目标业务数据文件名称;
将所述目标业务数据写入到所述目标业务数据文件。
6.如权利要求1所述的数据处理方法,其特征在于,所述方法还包括:
接收读请求,其中,所述读请求中携带有待读取业务数据原生标识;
在所述标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识;
在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据;
根据所述待读取业务数据定制标识读取所述目标读取业务数据;
返回所述目标读取业务数据。
7.如权利要求6所述的数据处理方法,其特征在于,根据所述待读取业务数据定制标识读取所述目标读取业务数据,包括:
解析所述待读取业务数据定制标识,获得所述待读取业务数据定制标识对应的待读取数据容量值;
根据所述待读取数据容量值读取所述目标读取业务数据。
8.一种数据处理方法,其特征在于,应用于终端,包括:
接收读请求,其中,所述读请求中携带有待读取业务数据原生标识;
在标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系,所述业务数据定制标识包括所述业务数据原生标识和数据容量值;
在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据;
根据所述待读取业务数据定制标识读取所述目标读取业务数据;
返回所述目标读取业务数据。
9.如权利要求8所述的数据处理方法,其特征在于,根据所述待读取业务数据定制标识读取所述目标读取业务数据,包括:
解析所述待读取业务数据定制标识,获得所述待读取业务数据定制标识对应的待读取数据容量值;
根据所述待读取数据容量值读取所述目标读取业务数据。
10.一种数据处理装置,其特征在于,应用于终端,包括:
第一接收模块,被配置为接收目标业务数据的写请求,其中,所述写请求中携带有目标业务数据和目标业务数据原生标识;
获取模块,被配置为获取所述目标业务数据的数据容量值;
生成模块,被配置为根据所述数据容量值和所述目标业务数据原生标识生成所述目标业务数据的目标业务数据定制标识,其中,所述目标业务数据定制标识包括所述目标业务数据原生标识和所述数据容量值;
保存模块,被配置为基于所述目标业务数据定制标识将所述目标业务数据保存至所述终端,并将所述目标业务数据原生标识和所述目标业务数据定制标识对应保存至标识对应表,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系。
11.一种数据处理装置,其特征在于,应用于终端,包括:
第二接收模块,被配置为接收读请求,其中,所述读请求中携带有待读取业务数据原生标识;
查找模块,被配置为在标识对应表中查找所述待读取业务数据原生标识对应的待读取业务数据定制标识,其中,所述标识对应表用于保存业务数据原生标识和业务数据定制标识的对应关系,所述业务数据定制标识包括所述业务数据原生标识和数据容量值;
确定模块,被配置为在所述标识对应表中找到所述待读取业务数据定制标识的情况下,确定所述待读取业务数据定制标识对应的业务数据为目标读取业务数据;
读取模块,被配置为根据所述待读取业务数据定制标识读取所述目标读取业务数据;
返回模块,被配置为返回所述目标读取业务数据。
12.一种计算设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机指令,其特征在于,所述处理器执行所述计算机指令时实现权利要求1-7或者8-9任意一项所述方法的步骤。
13.一种计算机可读存储介质,其存储有计算机指令,其特征在于,该计算机指令被处理器执行时实现权利要求1-7或者8-9任意一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110688468.4A CN113360287B (zh) | 2021-06-21 | 2021-06-21 | 数据处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110688468.4A CN113360287B (zh) | 2021-06-21 | 2021-06-21 | 数据处理方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113360287A CN113360287A (zh) | 2021-09-07 |
CN113360287B true CN113360287B (zh) | 2022-09-23 |
Family
ID=77535488
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110688468.4A Active CN113360287B (zh) | 2021-06-21 | 2021-06-21 | 数据处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113360287B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111813550A (zh) * | 2020-07-08 | 2020-10-23 | 深圳市腾讯网域计算机网络有限公司 | 数据处理方法、装置、服务器和存储介质 |
CN112559908A (zh) * | 2020-12-16 | 2021-03-26 | 北京百度网讯科技有限公司 | 数据标识生成方法、装置、设备、介质和程序产品 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101504670A (zh) * | 2009-03-04 | 2009-08-12 | 成都市华为赛门铁克科技有限公司 | 数据操作方法、系统、客户端和数据服务器 |
CN106484311B (zh) * | 2015-08-31 | 2019-07-19 | 华为数字技术(成都)有限公司 | 一种数据处理方法及装置 |
CN108008911A (zh) * | 2016-11-01 | 2018-05-08 | 阿里巴巴集团控股有限公司 | 读写请求处理方法及装置 |
CN111178309B (zh) * | 2019-12-31 | 2023-03-28 | 蚂蚁财富(上海)金融信息服务有限公司 | 业务处理方法及装置 |
-
2021
- 2021-06-21 CN CN202110688468.4A patent/CN113360287B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111813550A (zh) * | 2020-07-08 | 2020-10-23 | 深圳市腾讯网域计算机网络有限公司 | 数据处理方法、装置、服务器和存储介质 |
CN112559908A (zh) * | 2020-12-16 | 2021-03-26 | 北京百度网讯科技有限公司 | 数据标识生成方法、装置、设备、介质和程序产品 |
Also Published As
Publication number | Publication date |
---|---|
CN113360287A (zh) | 2021-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106936441B (zh) | 一种数据压缩方法和装置 | |
US9619512B2 (en) | Memory searching system and method, real-time searching system and method, and computer storage medium | |
CN107911461B (zh) | 云存储系统中的对象处理方法、存储服务器及云存储系统 | |
CN109885577B (zh) | 数据处理方法、装置、终端及存储介质 | |
EP3444725A1 (en) | Man-machine interaction method and device therefor | |
CN111935227A (zh) | 通过浏览器上传文件的方法、浏览器和电子设备 | |
CN113297269A (zh) | 数据查询方法及装置 | |
CN112214465A (zh) | 日志存储系统及方法 | |
CN114328632A (zh) | 基于位图的用户数据分析方法、装置及计算机设备 | |
CN114579570A (zh) | 数据处理方法及装置 | |
CN113360287B (zh) | 数据处理方法及装置 | |
CN111090623B (zh) | 一种数据审计方法、装置、电子设备及存储介质 | |
CN115422270A (zh) | 信息处理方法及装置 | |
CN115658768A (zh) | 一种状态数据库的属性查询方法、装置及相关介质 | |
CN113342813B (zh) | 键值数据处理方法、装置、计算机设备及可读存储介质 | |
CN112286947B (zh) | 保持不同存储系统的数据一致的方法以及装置 | |
CN111310088B (zh) | 一种页面渲染方法及装置 | |
CN112632266B (zh) | 数据写入方法、装置、计算机设备及可读存储介质 | |
CN109462868B (zh) | 无线接入点查询目标信息的方法与设备 | |
CN113467823A (zh) | 一种配置信息的获取方法、装置、系统及存储介质 | |
CN114675776A (zh) | 资源存储方法和装置、存储介质和电子设备 | |
CN111475492A (zh) | 数据处理方法以及装置 | |
CN111161047A (zh) | 银行业务数据处理、查询方法及装置 | |
CN113449196B (zh) | 信息生成方法及装置、电子设备和可读存储介质 | |
CN113297306B (zh) | 数据处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |