CN114372060A - 数据存储方法、装置、设备及存储介质 - Google Patents
数据存储方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN114372060A CN114372060A CN202210033881.1A CN202210033881A CN114372060A CN 114372060 A CN114372060 A CN 114372060A CN 202210033881 A CN202210033881 A CN 202210033881A CN 114372060 A CN114372060 A CN 114372060A
- Authority
- CN
- China
- Prior art keywords
- storage
- data
- capacity
- entity
- stored
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2255—Hash tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Quality & Reliability (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及数据展示,提供一种数据存储方法、装置、设备及存储介质。该方法能够接收存储请求,根据存储请求识别存储实体的运行信息,若运行信息小于预设阈值,则对存储实体进行扩容处理,得到多个存储节点,基于存储请求提取待存储数据,待存储数据包括数据对象,根据数据对象生成待存储数据的哈希值,基于哈希值遍历每个存储节点的存储对象表,若存储对象表中不存在哈希值,则统计每个存储节点上的容量信息,根据容量信息从存储节点中选取出目标节点,将待存储数据写入目标节点中,能够提高数据查询效率及确保数据分布均衡。此外,本发明还涉及区块链技术,所述目标节点可存储于区块链中。
Description
技术领域
本发明涉及数据存储技术领域,尤其涉及一种数据存储方法、装置、设备及存储介质。
背景技术
随着数据库中存储的数据量的增多,导致数据库处理事务的效率降低。针对事务处理效率低下这一问题,目前主要通过对数据库进行分库分表的方式来缓解。目前在对数据库进行分库分表处理时,通常是基于关键属性对数据进行全局散列分库,然而,在对聚合数据进行查询时,当聚合数据存储在不同的数据库或者数据表中,会导致聚合数据的查询效率低下。此外,由于不同的属性产生的数据量差异较大,导致这种方式无法达到数据分布均衡的效果。
发明内容
鉴于以上内容,有必要提供一种数据存储方法、装置、设备及存储介质,不仅能够提高数据查询效率,还能实现数据分布均衡。
一方面,本发明提出一种数据存储方法,所述数据存储方法包括:
接收存储请求,并根据所述存储请求识别存储实体的运行信息;
若所述运行信息小于预设阈值,则对所述存储实体进行扩容处理,得到多个存储节点;
基于所述存储请求提取待存储数据,所述待存储数据包括数据对象;
根据所述数据对象生成所述待存储数据的哈希值;
基于所述哈希值遍历每个存储节点的存储对象表;
若多个所述存储对象表中不存在所述哈希值,则统计每个存储节点上的容量信息;
根据所述容量信息从所述多个存储节点中选取出目标节点;
将所述待存储数据写入所述目标节点中。
根据本发明优选实施例,所述根据所述存储请求识别存储实体的运行信息包括:
解析所述存储请求的请求报文,得到所述请求报文携带的数据信息;
从所述数据信息中提取实体标识,并将与所述实体标识对应的实体确定为所述存储实体;
统计所述存储实体的存储量,并获取所述存储实体的容量限度值;
监测所述存储实体中实体线程的线程处理效率;
根据所述存储量、所述容量限度值及所述线程处理效率生成所述运行信息。
根据本发明优选实施例,所述根据所述存储量、所述容量限度值及所述线程处理效率生成所述运行信息包括:
计算所述存储量在所述容量限度值上的比值,得到所述存储实体的实体容量占比;
根据所述实体容量占比及所述线程处理效率生成所述运行信息,包括:
其中,y是指所述运行信息,v是指所述线程处理效率,n是指所述实体容量占比,k为非零常数。
根据本发明优选实施例,所述对所述存储实体进行扩容处理,得到多个存储节点包括:
统计所述存储实体在多个时刻的增量数据所占的增量容量;
根据所述增量容量及所述多个时刻计算所述存储实体的数据增长率;
基于所述数据增长率及所述存储量计算所述存储实体在预设时段内所占的目标容量;
计算所述目标容量与所述容量限度值的比值,得到节点数量;
基于所述节点数量对所述存储实体进行扩容,并对所述存储实体上的已存数据进行迁移处理,得到所述多个存储节点。
根据本发明优选实施例,所述基于所述存储请求提取待存储数据包括:
从所述数据信息中提取数据源标识及数据标识;
将与所述数据源标识对应的数据源确定为目标数据源;
从所述目标数据源中获取与所述数据标识对应的信息作为所述待存储数据。
根据本发明优选实施例,在基于所述哈希值遍历每个存储节点的存储对象表之后,所述数据存储方法还包括:
若任一存储对象表中存在所述哈希值,则将与所述任一存储对象表对应的存储节点确定为所述目标节点。
根据本发明优选实施例,所述根据所述容量信息从所述多个存储节点中选取出目标节点包括:
将所述容量信息最小的存储节点确定为所述目标节点。
另一方面,本发明还提出一种数据存储装置,所述数据存储装置包括:
识别单元,用于接收存储请求,并根据所述存储请求识别存储实体的运行信息;
扩容单元,用于若所述运行信息小于预设阈值,则对所述存储实体进行扩容处理,得到多个存储节点;
提取单元,用于基于所述存储请求提取待存储数据,所述待存储数据包括数据对象;
生成单元,用于根据所述数据对象生成所述待存储数据的哈希值;
遍历单元,用于基于所述哈希值遍历每个存储节点的存储对象表;
统计单元,用于若多个所述存储对象表中不存在所述哈希值,则统计每个存储节点上的容量信息;
选取单元,用于根据所述容量信息从所述多个存储节点中选取出目标节点;
写入单元,用于将所述待存储数据写入所述目标节点中。
另一方面,本发明还提出一种电子设备,所述电子设备包括:
存储器,存储计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现所述数据存储方法。
另一方面,本发明还提出一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现所述数据存储方法。
由以上技术方案可以看出,本发明基于所述运行信息对所述存储实体进行扩容,能够避免因所述存储实体的数据量较大而造成所述存储实体的事务响应缓慢,基于所述数据对象所对应的哈希值遍历所述存储对象表,能够实现将同一对象的数据存储在同一节点中,从而能够避免在获取同一数据对象的多个属性时需要对多个存储节点进行查询,进而提高了查询效率。此外,本发明在多个所述存储对象表中不存在所述哈希值时,根据所述容量信息确定所述待存储数据的写入节点,能够确保每个存储节点在一定周期内保持一个较为平衡的存储容量,从而能够降低因数据量大而引起的数据库事务响应问题。
附图说明
图1是本发明数据存储方法的较佳实施例的流程图。
图2是本发明数据存储装置的较佳实施例的功能模块图。
图3是本发明实现数据存储方法的较佳实施例的电子设备的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
如图1所示,是本发明数据存储方法的较佳实施例的流程图。根据不同的需求,该流程图中步骤的顺序可以改变,某些步骤可以省略。
所述数据存储方法可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
所述数据存储方法应用于一个或者多个电子设备中,所述电子设备是一种能够按照事先设定或存储的计算机可读指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable Gate Array,FPGA)、数字信号处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述电子设备可以是任何一种可与用户进行人机交互的电子产品,例如,个人计算机、平板电脑、智能手机、个人数字助理(Personal Digital Assistant,PDA)、游戏机、交互式网络电视(Internet Protocol Television,IPTV)、智能穿戴式设备等。
所述电子设备可以包括网络设备和/或用户设备。其中,所述网络设备包括,但不限于单个网络电子设备、多个网络电子设备组成的电子设备组或基于云计算(CloudComputing)的由大量主机或网络电子设备构成的云。
所述电子设备所处的网络包括,但不限于:互联网、广域网、城域网、局域网、虚拟专用网络(Virtual Private Network,VPN)等。
S10,接收存储请求,并根据所述存储请求识别存储实体的运行信息。
在本发明的至少一个实施例中,所述存储请求在有数据产生时触发生成。
所述存储实体是指数据需要进行存储的位置。所述存储实体可以是任意数据库服务器。
所述运行信息是指所述存储实体处理事务的效率。
在本发明的至少一个实施例中,所述电子设备根据所述存储请求识别存储实体的运行信息包括:
解析所述存储请求的请求报文,得到所述请求报文携带的数据信息;
从所述数据信息中提取实体标识,并将与所述实体标识对应的实体确定为所述存储实体;
统计所述存储实体的存储量,并获取所述存储实体的容量限度值;
监测所述存储实体中实体线程的线程处理效率;
根据所述存储量、所述容量限度值及所述线程处理效率生成所述运行信息。
其中,所述数据信息包括,但不限于:所述实体标识等。所述实体标识用于指示所述存储实体。
所述存储量是指在接收到所述存储请求时所述存储实体中所有数据所占的容量。
所述容量限度值是指所述存储实体中能够用于数据存储的最大容量。
所述线程处理效率是指所述实体线程处理请求的实际效率。
通过对所述实体线程的监测,能够准确的捕获到所述线程处理效率,进而利用所述存储量、所述容量限度值与所述线程处理效率的关系能够准确的生成所述运行信息。
具体地,所述电子设备根据所述存储量、所述容量限度值及所述线程处理效率生成所述运行信息包括:
计算所述存储量在所述容量限度值上的比值,得到所述存储实体的实体容量占比;
根据所述实体容量占比及所述线程处理效率生成所述运行信息,包括:
其中,y是指所述运行信息,v是指所述线程处理效率,n是指所述实体容量占比,k为非零常数。
通过在所述运行信息的计算公式中加入k,能够避免计算公式中的分母为0,造成生成无意义的运行信息,提高所述运行信息的准确性。
S11,若所述运行信息小于预设阈值,则对所述存储实体进行扩容处理,得到多个存储节点。
在本发明的至少一个实施例中,所述预设阈值可以根据对所述存储实体的运行需求设定,本发明对所述预设阈值的取值不作限制。
所述多个存储节点是根据所述存储实体进行扩容后生成的节点。可以理解的是,每个存储节点中存储数据的容量与所述存储实体中存储数据的容量相同。每个存储节点中处理事务的能力与所述存储实体中处理事务的能力相同。
在本发明的至少一个实施例中,所述电子设备对所述存储实体进行扩容处理,得到多个存储节点包括:
统计所述存储实体在多个时刻的增量数据所占的增量容量;
根据所述增量容量及所述多个时刻计算所述存储实体的数据增长率;
基于所述数据增长率及所述存储量计算所述存储实体在预设时段内所占的目标容量;
计算所述目标容量与所述容量限度值的比值,得到节点数量;
基于所述节点数量对所述存储实体进行扩容,并对所述存储实体上的已存数据进行迁移处理,得到所述多个存储节点。
其中,所述增量数据是指在所述多个时刻写入所述存储实体的数据信息。
所述数据增长率是指在任意两个不同时刻上,所述存储实体中新增数据的增长量与原有数据的数据量的比值。本实施例中,若计算得到的数据增长率有多个,则可以将多个计算得到的数据增长率的均值用于确定所述目标容量。
所述预设时段可以根据对所述多个存储节点进行扩容的时间需求来确定,例如,下次对所述多个存储节点进行扩容的计划时间为10月5号,当前时间是5月5号,则所述预设时段可以设置为5个月。
所述目标容量是指在所述预设时段内新增的数据所占的容量与所述存储量的总和。
通过所述数据增长率,能够快速的确定出所述目标容量,进而根据所述目标容量能够准确的确定出所述节点数量,从而能够对所述存储实体进行适度扩容,提高所述多个存储节点的准确性。
S12,基于所述存储请求提取待存储数据,所述待存储数据包括数据对象。
在本发明的至少一个实施例中,所述待存储数据是指需要进行存储的数据信息。
所述数据对象可以用于指示所述待存储数据所属的具体对象。例如,所属数据对象可以是商户号,所述待存储数据可以是指该商户号下不同维度上所对应的数据。
在本发明的至少一个实施例中,所述电子设备基于所述存储请求提取待存储数据包括:
从所述数据信息中提取数据源标识及数据标识;
将与所述数据源标识对应的数据源确定为目标数据源;
从所述目标数据源中获取与所述数据标识对应的信息作为所述待存储数据。
其中,所述数据源标识是指用于指示生成所述待存储数据的目标数据源。
所述数据标识用于指示所述待存储数据的具体标识。所述数据标识可以是具体的维度信息。
通过上述实施方式,由于所述存储请求中包含所述数据源标识及所述数据标识,而非直接包含所述待存储数据,因此,能够避免所述存储请求过大而造成无法快速接收所述存储请求,同时,基于所述数据源标识能够直接从所述目标数据源中获取所述待存储数据,而无需逐个遍历每个数据源,提高了所述待存储数据的提取效率。
S13,根据所述数据对象生成所述待存储数据的哈希值。
在本发明的至少一个实施例中,所述哈希值可以用于唯一指示所述数据对象。
在本发明的至少一个实施例中,所述电子设备根据所述数据对象生成所述待存储数据的哈希值包括:
基于预设散列函数处理所述数据对象,得到所述哈希值。
其中,所述预设散列函数可以根据散列表直接设定的,本发明对所述预设散列函数不作限制。
通过所述预设散列函数能够快速生成所述哈希值。
本实施例中,通过生成所述哈希值,能够有利于快速检测所述多个存储节点中是否包含有所述数据对象。
S14,基于所述哈希值遍历每个存储节点的存储对象表。
在本发明的至少一个实施例中,所述存储对象表中包含有所述存储节点上已经存储的具体对象。
在本发明的至少一个实施例中,所述电子设备基于所述哈希值遍历每个存储节点的存储对象表包括:
将所述哈希值写入预设模板中,得到查询语句;
基于所述存储对象表运行所述查询语句,得到查询结果;
若所述查询结果中包含有所述哈希值,则确定该存储对象表存在所述哈希值。
其中,所述预设模板可以是SQL语句。
通过所述哈希值能够快速生成所述查询语句,并基于所述查询语句能够快速获取到所述查询结果,提高对所述存储节点的遍历效率。
S15,若多个所述存储对象表中不存在所述哈希值,则统计每个存储节点上的容量信息。
在本发明的至少一个实施例中,所述容量信息是指将所述存储实体上的已存数据迁移至每个存储节点后,迁移后的数据在每个存储节点上所占有的容量。
在本发明的至少一个实施例中,在基于所述哈希值遍历每个存储节点的存储对象表之后,所述数据存储方法还包括:
若任一存储对象表中存在所述哈希值,则将与所述任一存储对象表对应的存储节点确定为所述目标节点。
通过上述实施方式,能够实现将同一对象的数据存储在同一节点中,从而能够避免在获取同一数据对象的多个属性时需要对多个存储节点进行查询,进而提高了查询效率。
S16,根据所述容量信息从所述多个存储节点中选取出目标节点。
在本发明的至少一个实施例中,所述目标节点是指需要写入所述待存储数据的存储节点。
需要强调的是,为进一步保证上述目标节点的私密和安全性,上述目标节点还可以存储于一区块链的节点中。
在本发明的至少一个实施例中,所述电子设备根据所述容量信息从所述多个存储节点中选取出目标节点包括:
将所述容量信息最小的存储节点确定为所述目标节点。
通过将所述容量信息最小的存储节点确定为所述目标节点,能够避免某一存储节点上的存储容量过大而造成数据不均衡。
S17,将所述待存储数据写入所述目标节点中。
在本发明的至少一个实施例中,所述电子设备在所述目标节点中对所述待存储数据执行写入操作。
由以上技术方案可以看出,本发明基于所述运行信息对所述存储实体进行扩容,能够避免因所述存储实体的数据量较大而造成所述存储实体的事务响应缓慢,基于所述数据对象所对应的哈希值遍历所述存储对象表,能够实现将同一对象的数据存储在同一节点中,从而能够避免在获取同一数据对象的多个属性时需要对多个存储节点进行查询,进而提高了查询效率。此外,本发明在多个所述存储对象表中不存在所述哈希值时,根据所述容量信息确定所述待存储数据的写入节点,能够确保每个存储节点在一定周期内保持一个较为平衡的存储容量,从而能够降低因数据量大而引起的数据库事务响应问题。
如图2所示,是本发明数据存储装置的较佳实施例的功能模块图。所述数据存储装置11包括识别单元110、扩容单元111、提取单元112、生成单元113、遍历单元114、统计单元115、选取单元116、写入单元117及确定单元118。本发明所称的模块/单元是指一种能够被处理器13所获取,并且能够完成固定功能的一系列计算机可读指令段,其存储在存储器12中。在本实施例中,关于各模块/单元的功能将在后续的实施例中详述。
识别单元110接收存储请求,并根据所述存储请求识别存储实体的运行信息。
在本发明的至少一个实施例中,所述存储请求在有数据产生时触发生成。
所述存储实体是指数据需要进行存储的位置。所述存储实体可以是任意数据库服务器。
所述运行信息是指所述存储实体处理事务的效率。
在本发明的至少一个实施例中,所述识别单元110根据所述存储请求识别存储实体的运行信息包括:
解析所述存储请求的请求报文,得到所述请求报文携带的数据信息;
从所述数据信息中提取实体标识,并将与所述实体标识对应的实体确定为所述存储实体;
统计所述存储实体的存储量,并获取所述存储实体的容量限度值;
监测所述存储实体中实体线程的线程处理效率;
根据所述存储量、所述容量限度值及所述线程处理效率生成所述运行信息。
其中,所述数据信息包括,但不限于:所述实体标识等。所述实体标识用于指示所述存储实体。
所述存储量是指在接收到所述存储请求时所述存储实体中所有数据所占的容量。
所述容量限度值是指所述存储实体中能够用于数据存储的最大容量。
所述线程处理效率是指所述实体线程处理请求的实际效率。
通过对所述实体线程的监测,能够准确的捕获到所述线程处理效率,进而利用所述存储量、所述容量限度值与所述线程处理效率的关系能够准确的生成所述运行信息。
具体地,所述识别单元110根据所述存储量、所述容量限度值及所述线程处理效率生成所述运行信息包括:
计算所述存储量在所述容量限度值上的比值,得到所述存储实体的实体容量占比;
根据所述实体容量占比及所述线程处理效率生成所述运行信息,包括:
其中,y是指所述运行信息,v是指所述线程处理效率,n是指所述实体容量占比,k为非零常数。
通过在所述运行信息的计算公式中加入k,能够避免计算公式中的分母为0,造成生成无意义的运行信息,提高所述运行信息的准确性。
若所述运行信息小于预设阈值,则扩容单元111对所述存储实体进行扩容处理,得到多个存储节点。
在本发明的至少一个实施例中,所述预设阈值可以根据对所述存储实体的运行需求设定,本发明对所述预设阈值的取值不作限制。
所述多个存储节点是根据所述存储实体进行扩容后生成的节点。可以理解的是,每个存储节点中存储数据的容量与所述存储实体中存储数据的容量相同。每个存储节点中处理事务的能力与所述存储实体中处理事务的能力相同。
在本发明的至少一个实施例中,所述扩容单元111对所述存储实体进行扩容处理,得到多个存储节点包括:
统计所述存储实体在多个时刻的增量数据所占的增量容量;
根据所述增量容量及所述多个时刻计算所述存储实体的数据增长率;
基于所述数据增长率及所述存储量计算所述存储实体在预设时段内所占的目标容量;
计算所述目标容量与所述容量限度值的比值,得到节点数量;
基于所述节点数量对所述存储实体进行扩容,并对所述存储实体上的已存数据进行迁移处理,得到所述多个存储节点。
其中,所述增量数据是指在所述多个时刻写入所述存储实体的数据信息。
所述数据增长率是指在任意两个不同时刻上,所述存储实体中新增数据的增长量与原有数据的数据量的比值。本实施例中,若计算得到的数据增长率有多个,则可以将多个计算得到的数据增长率的均值用于确定所述目标容量。
所述预设时段可以根据对所述多个存储节点进行扩容的时间需求来确定,例如,下次对所述多个存储节点进行扩容的计划时间为10月5号,当前时间是5月5号,则所述预设时段可以设置为5个月。
所述目标容量是指在所述预设时段内新增的数据所占的容量与所述存储量的总和。
通过所述数据增长率,能够快速的确定出所述目标容量,进而根据所述目标容量能够准确的确定出所述节点数量,从而能够对所述存储实体进行适度扩容,提高所述多个存储节点的准确性。
提取单元112基于所述存储请求提取待存储数据,所述待存储数据包括数据对象。
在本发明的至少一个实施例中,所述待存储数据是指需要进行存储的数据信息。
所述数据对象可以用于指示所述待存储数据所属的具体对象。例如,所属数据对象可以是商户号,所述待存储数据可以是指该商户号下不同维度上所对应的数据。
在本发明的至少一个实施例中,所述提取单元112基于所述存储请求提取待存储数据包括:
从所述数据信息中提取数据源标识及数据标识;
将与所述数据源标识对应的数据源确定为目标数据源;
从所述目标数据源中获取与所述数据标识对应的信息作为所述待存储数据。
其中,所述数据源标识是指用于指示生成所述待存储数据的目标数据源。
所述数据标识用于指示所述待存储数据的具体标识。所述数据标识可以是具体的维度信息。
通过上述实施方式,由于所述存储请求中包含所述数据源标识及所述数据标识,而非直接包含所述待存储数据,因此,能够避免所述存储请求过大而造成无法快速接收所述存储请求,同时,基于所述数据源标识能够直接从所述目标数据源中获取所述待存储数据,而无需逐个遍历每个数据源,提高了所述待存储数据的提取效率。
生成单元113根据所述数据对象生成所述待存储数据的哈希值。
在本发明的至少一个实施例中,所述哈希值可以用于唯一指示所述数据对象。
在本发明的至少一个实施例中,所述生成单元113根据所述数据对象生成所述待存储数据的哈希值包括:
基于预设散列函数处理所述数据对象,得到所述哈希值。
其中,所述预设散列函数可以根据散列表直接设定的,本发明对所述预设散列函数不作限制。
通过所述预设散列函数能够快速生成所述哈希值。
本实施例中,通过生成所述哈希值,能够有利于快速检测所述多个存储节点中是否包含有所述数据对象。
遍历单元114基于所述哈希值遍历每个存储节点的存储对象表。
在本发明的至少一个实施例中,所述存储对象表中包含有所述存储节点上已经存储的具体对象。
在本发明的至少一个实施例中,所述遍历单元114基于所述哈希值遍历每个存储节点的存储对象表包括:
将所述哈希值写入预设模板中,得到查询语句;
基于所述存储对象表运行所述查询语句,得到查询结果;
若所述查询结果中包含有所述哈希值,则确定该存储对象表存在所述哈希值。
其中,所述预设模板可以是SQL语句。
通过所述哈希值能够快速生成所述查询语句,并基于所述查询语句能够快速获取到所述查询结果,提高对所述存储节点的遍历效率。
若多个所述存储对象表中不存在所述哈希值,则统计单元115统计每个存储节点上的容量信息。
在本发明的至少一个实施例中,所述容量信息是指将所述存储实体上的已存数据迁移至每个存储节点后,迁移后的数据在每个存储节点上所占有的容量。
在本发明的至少一个实施例中,若任一存储对象表中存在所述哈希值,确定单元118则将与所述任一存储对象表对应的存储节点确定为所述目标节点。
通过上述实施方式,能够实现将同一对象的数据存储在同一节点中,从而能够避免在获取同一数据对象的多个属性时需要对多个存储节点进行查询,进而提高了查询效率。
选取单元116根据所述容量信息从所述多个存储节点中选取出目标节点。
在本发明的至少一个实施例中,所述目标节点是指需要写入所述待存储数据的存储节点。
需要强调的是,为进一步保证上述目标节点的私密和安全性,上述目标节点还可以存储于一区块链的节点中。
在本发明的至少一个实施例中,所述选取单元116根据所述容量信息从所述多个存储节点中选取出目标节点包括:
将所述容量信息最小的存储节点确定为所述目标节点。
通过将所述容量信息最小的存储节点确定为所述目标节点,能够避免某一存储节点上的存储容量过大而造成数据不均衡。
写入单元117将所述待存储数据写入所述目标节点中。
在本发明的至少一个实施例中,所述写入单元117在所述目标节点中对所述待存储数据执行写入操作。
由以上技术方案可以看出,本发明基于所述运行信息对所述存储实体进行扩容,能够避免因所述存储实体的数据量较大而造成所述存储实体的事务响应缓慢,基于所述数据对象所对应的哈希值遍历所述存储对象表,能够实现将同一对象的数据存储在同一节点中,从而能够避免在获取同一数据对象的多个属性时需要对多个存储节点进行查询,进而提高了查询效率。此外,本发明在多个所述存储对象表中不存在所述哈希值时,根据所述容量信息确定所述待存储数据的写入节点,能够确保每个存储节点在一定周期内保持一个较为平衡的存储容量,从而能够降低因数据量大而引起的数据库事务响应问题。
如图3所示,是本发明实现数据存储方法的较佳实施例的电子设备的结构示意图。
在本发明的一个实施例中,所述电子设备1包括,但不限于,存储器12、处理器13,以及存储在所述存储器12中并可在所述处理器13上运行的计算机可读指令,例如数据存储程序。
本领域技术人员可以理解,所述示意图仅仅是电子设备1的示例,并不构成对电子设备1的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述电子设备1还可以包括输入输出设备、网络接入设备、总线等。
所述处理器13可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,所述处理器13是所述电子设备1的运算核心和控制中心,利用各种接口和线路连接整个电子设备1的各个部分,及执行所述电子设备1的操作系统以及安装的各类应用程序、程序代码等。
示例性的,所述计算机可读指令可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器12中,并由所述处理器13执行,以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机可读指令段,该计算机可读指令段用于描述所述计算机可读指令在所述电子设备1中的执行过程。例如,所述计算机可读指令可以被分割成识别单元110、扩容单元111、提取单元112、生成单元113、遍历单元114、统计单元115、选取单元116、写入单元117及确定单元118。
所述存储器12可用于存储所述计算机可读指令和/或模块,所述处理器13通过运行或执行存储在所述存储器12内的计算机可读指令和/或模块,以及调用存储在存储器12内的数据,实现所述电子设备1的各种功能。所述存储器12可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备的使用所创建的数据等。存储器12可以包括非易失性和易失性存储器,例如:硬盘、内存、插接式硬盘,智能存储卡(SmartMedia Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他存储器件。
所述存储器12可以是电子设备1的外部存储器和/或内部存储器。进一步地,所述存储器12可以是具有实物形式的存储器,如内存条、TF卡(Trans-flash Card)等等。
所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机可读指令来指令相关的硬件来完成,所述的计算机可读指令可存储于一计算机可读存储介质中,该计算机可读指令在被处理器执行时,可实现上述各个方法实施例的步骤。
其中,所述计算机可读指令包括计算机可读指令代码,所述计算机可读指令代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机可读指令代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
结合图1,所述电子设备1中的所述存储器12存储计算机可读指令实现一种数据存储方法,所述处理器13可执行所述计算机可读指令从而实现:
接收存储请求,并根据所述存储请求识别存储实体的运行信息;
若所述运行信息小于预设阈值,则对所述存储实体进行扩容处理,得到多个存储节点;
基于所述存储请求提取待存储数据,所述待存储数据包括数据对象;
根据所述数据对象生成所述待存储数据的哈希值;
基于所述哈希值遍历每个存储节点的存储对象表;
若多个所述存储对象表中不存在所述哈希值,则统计每个存储节点上的容量信息;
根据所述容量信息从所述多个存储节点中选取出目标节点;
将所述待存储数据写入所述目标节点中。
具体地,所述处理器13对上述计算机可读指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述计算机可读存储介质上存储有计算机可读指令,其中,所述计算机可读指令被处理器13执行时用以实现以下步骤:
接收存储请求,并根据所述存储请求识别存储实体的运行信息;
若所述运行信息小于预设阈值,则对所述存储实体进行扩容处理,得到多个存储节点;
基于所述存储请求提取待存储数据,所述待存储数据包括数据对象;
根据所述数据对象生成所述待存储数据的哈希值;
基于所述哈希值遍历每个存储节点的存储对象表;
若多个所述存储对象表中不存在所述哈希值,则统计每个存储节点上的容量信息;
根据所述容量信息从所述多个存储节点中选取出目标节点;
将所述待存储数据写入所述目标节点中。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。所述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种数据存储方法,其特征在于,所述数据存储方法包括:
接收存储请求,并根据所述存储请求识别存储实体的运行信息;
若所述运行信息小于预设阈值,则对所述存储实体进行扩容处理,得到多个存储节点;
基于所述存储请求提取待存储数据,所述待存储数据包括数据对象;
根据所述数据对象生成所述待存储数据的哈希值;
基于所述哈希值遍历每个存储节点的存储对象表;
若多个所述存储对象表中不存在所述哈希值,则统计每个存储节点上的容量信息;
根据所述容量信息从所述多个存储节点中选取出目标节点;
将所述待存储数据写入所述目标节点中。
2.如权利要求1所述的数据存储方法,其特征在于,所述根据所述存储请求识别存储实体的运行信息包括:
解析所述存储请求的请求报文,得到所述请求报文携带的数据信息;
从所述数据信息中提取实体标识,并将与所述实体标识对应的实体确定为所述存储实体;
统计所述存储实体的存储量,并获取所述存储实体的容量限度值;
监测所述存储实体中实体线程的线程处理效率;
根据所述存储量、所述容量限度值及所述线程处理效率生成所述运行信息。
4.如权利要求2所述的数据存储方法,其特征在于,所述对所述存储实体进行扩容处理,得到多个存储节点包括:
统计所述存储实体在多个时刻的增量数据所占的增量容量;
根据所述增量容量及所述多个时刻计算所述存储实体的数据增长率;
基于所述数据增长率及所述存储量计算所述存储实体在预设时段内所占的目标容量;
计算所述目标容量与所述容量限度值的比值,得到节点数量;
基于所述节点数量对所述存储实体进行扩容,并对所述存储实体上的已存数据进行迁移处理,得到所述多个存储节点。
5.如权利要求2所述的数据存储方法,其特征在于,所述基于所述存储请求提取待存储数据包括:
从所述数据信息中提取数据源标识及数据标识;
将与所述数据源标识对应的数据源确定为目标数据源;
从所述目标数据源中获取与所述数据标识对应的信息作为所述待存储数据。
6.如权利要求1所述的数据存储方法,其特征在于,在基于所述哈希值遍历每个存储节点的存储对象表之后,所述数据存储方法还包括:
若任一存储对象表中存在所述哈希值,则将与所述任一存储对象表对应的存储节点确定为所述目标节点。
7.如权利要求1所述的数据存储方法,其特征在于,所述根据所述容量信息从所述多个存储节点中选取出目标节点包括:
将所述容量信息最小的存储节点确定为所述目标节点。
8.一种数据存储装置,其特征在于,所述数据存储装置包括:
识别单元,用于接收存储请求,并根据所述存储请求识别存储实体的运行信息;
扩容单元,用于若所述运行信息小于预设阈值,则对所述存储实体进行扩容处理,得到多个存储节点;
提取单元,用于基于所述存储请求提取待存储数据,所述待存储数据包括数据对象;
生成单元,用于根据所述数据对象生成所述待存储数据的哈希值;
遍历单元,用于基于所述哈希值遍历每个存储节点的存储对象表;
统计单元,用于若多个所述存储对象表中不存在所述哈希值,则统计每个存储节点上的容量信息;
选取单元,用于根据所述容量信息从所述多个存储节点中选取出目标节点;
写入单元,用于将所述待存储数据写入所述目标节点中。
9.一种电子设备,其特征在于,所述电子设备包括:
存储器,存储有计算机可读指令;及
处理器,执行所述存储器中存储的计算机可读指令以实现如权利要求1至7中任意一项所述的数据存储方法。
10.一种计算机可读存储介质,其特征在于:所述计算机可读存储介质中存储有计算机可读指令,所述计算机可读指令被电子设备中的处理器执行以实现如权利要求1至7中任意一项所述的数据存储方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210033881.1A CN114372060A (zh) | 2022-01-12 | 2022-01-12 | 数据存储方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210033881.1A CN114372060A (zh) | 2022-01-12 | 2022-01-12 | 数据存储方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114372060A true CN114372060A (zh) | 2022-04-19 |
Family
ID=81143610
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210033881.1A Pending CN114372060A (zh) | 2022-01-12 | 2022-01-12 | 数据存储方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114372060A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115857837A (zh) * | 2023-02-27 | 2023-03-28 | 中国华能集团清洁能源技术研究院有限公司 | 一种大数据环境下的数据分布方法、装置、设备及介质 |
CN116304257A (zh) * | 2023-05-19 | 2023-06-23 | 天云融创数据科技(北京)有限公司 | 一种基于大数据的分类存储方法及系统 |
-
2022
- 2022-01-12 CN CN202210033881.1A patent/CN114372060A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115857837A (zh) * | 2023-02-27 | 2023-03-28 | 中国华能集团清洁能源技术研究院有限公司 | 一种大数据环境下的数据分布方法、装置、设备及介质 |
CN116304257A (zh) * | 2023-05-19 | 2023-06-23 | 天云融创数据科技(北京)有限公司 | 一种基于大数据的分类存储方法及系统 |
CN116304257B (zh) * | 2023-05-19 | 2023-08-08 | 天云融创数据科技(北京)有限公司 | 一种基于大数据的分类存储方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114372060A (zh) | 数据存储方法、装置、设备及存储介质 | |
CN113283675B (zh) | 指标数据分析方法、装置、设备及存储介质 | |
CN112632163B (zh) | 大数据报表导出方法及相关设备 | |
CN112711398A (zh) | 埋点文件生成方法、装置、设备及存储介质 | |
CN112506486A (zh) | 搜索系统建立方法、装置、电子设备及可读存储介质 | |
CN112948418A (zh) | 动态查询方法、装置、设备及存储介质 | |
CN114510487A (zh) | 数据表合并方法、装置、设备及存储介质 | |
CN115222443A (zh) | 客户群体划分方法、装置、设备及存储介质 | |
CN113900955A (zh) | 自动化测试方法、装置、设备及存储介质 | |
CN112819305A (zh) | 业务指标分析方法、装置、设备及存储介质 | |
CN112395401A (zh) | 自适应负样本对采样方法、装置、电子设备及存储介质 | |
CN111986771A (zh) | 医疗处方查询方法、装置、电子设备及存储介质 | |
CN116150185A (zh) | 基于人工智能的数据标准提取方法、装置、设备及介质 | |
CN114238296A (zh) | 产品指标数据展示方法、装置、设备及存储介质 | |
CN113516205B (zh) | 基于人工智能的员工稳定性分类方法及相关设备 | |
CN113283677B (zh) | 指标数据处理方法、装置、设备及存储介质 | |
CN115794621A (zh) | 代码覆盖测试方法、装置、设备及存储介质 | |
CN113343700B (zh) | 数据处理方法、装置、设备及存储介质 | |
CN113282218A (zh) | 多维报表生成方法、装置、设备及存储介质 | |
CN115205032A (zh) | 征信查询方法、装置、设备及存储介质 | |
CN114329095A (zh) | 系统逻辑图生成方法、装置、设备及存储介质 | |
CN112667721A (zh) | 数据分析方法、装置、设备及存储介质 | |
CN114692204A (zh) | 数据查询方法、装置、设备及存储介质 | |
CN112632098A (zh) | 结构化查询语句动态生成方法及相关设备 | |
CN115114297A (zh) | 数据轻量存储及查找方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |