CN109542907B - 数据库缓存构建方法、装置、计算机设备以及存储介质 - Google Patents
数据库缓存构建方法、装置、计算机设备以及存储介质 Download PDFInfo
- Publication number
- CN109542907B CN109542907B CN201811392489.6A CN201811392489A CN109542907B CN 109542907 B CN109542907 B CN 109542907B CN 201811392489 A CN201811392489 A CN 201811392489A CN 109542907 B CN109542907 B CN 109542907B
- Authority
- CN
- China
- Prior art keywords
- index
- cache
- database
- time interval
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开了一种数据库缓存构建方法、装置、计算机设备以及存储介质,其中,所述方法包括:预先设置内存数据库以存储目标数据库中所有数据表的表名;若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名;创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引;根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。本发明针对目标数据库中的每张数据表均创建索引模块缓存数据表中的数据,能够提高数据的访问效率,同时减轻数据库的访问压力。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据库缓存构建方法、装置、计算机设备以及存储介质。
背景技术
在大数据时代,随着业务不断丰富,数据的爆炸式增长对数据库的查询能力提出了严峻的挑战,高并发和海量数据的处理日益成为影响系统性能的重要因素。当数据库单表数据量达到一定量级时,若采用直接访问数据库的方式获取数据,将增加数据库的I/O压力,导致数据查询性能下降,并且严重影响用户的使用体验。
发明内容
有鉴于此,本发明实施例提供一种数据库缓存构建方法、装置、计算机设备以及存储介质,能够提高数据的访问效率,同时减轻数据库的访问压力。
一方面,本发明实施例提供了一种数据库缓存构建方法,该方法包括:
预先设置内存数据库以存储目标数据库中所有数据表的表名;
若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名;
创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引;
根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
另一方面,本发明实施例提供了一种数据库缓存构建装置,所述装置包括:
设置单元,用于预先设置内存数据库以存储目标数据库中所有数据表的表名;
获取单元,用于若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名;
创建单元,用于创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引;
构建单元,用于根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
又一方面,本发明实施例还提供了一种计算机设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如上所述的数据库缓存构建方法。
再一方面,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有一个或者一个以上计算机程序,所述一个或者一个以上计算机程序可被一个或者一个以上的处理器执行,以实现如上所述的数据库缓存构建方法。
本发明实施例提供一种数据库缓存构建方法、装置、计算机设备以及存储介质,其中方法包括:预先设置内存数据库以存储目标数据库中所有数据表的表名;若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名;创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引;根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。本发明针对目标数据库中的每张数据表均创建索引模块缓存数据表中的数据,能够提高数据的访问效率,同时减轻数据库的访问压力。
附图说明
为了更清楚地说明本发明实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种数据库缓存构建方法的应用场景示意图;
图2是本发明实施例提供的一种数据库缓存构建方法的示意流程图;
图3是本发明另一实施例提供的一种数据库缓存构建方法的示意流程图;
图4是本发明另一实施例提供的一种数据库缓存构建方法的示意流程图;
图5是本发明另一实施例提供的一种数据库缓存构建方法的示意流程图;
图6是本发明实施例提供的一种数据库缓存构建装置的示意性框图;
图7是本发明实施例提供的一种数据库缓存构建装置的另一示意性框图;
图8是本发明另一实施例提供的一种数据库缓存构建装置的示意性框图;
图9是本发明另一实施例提供的一种数据库缓存构建装置的示意性框图;
图10是本发明另一实施例提供的一种数据库缓存构建装置的示意性框图;
图11是本发明实施例提供的一种计算机设备的结构组成示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本发明说明山里和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
请参阅图1,图1为本发明实施例提供的一种数据库缓存构建方法的示意流程图。如图1所示,该方法包括以下步骤S101~S104。
S101,预先设置内存数据库以存储目标数据库中所有数据表的表名。
在本发明实施例中,所述预先设置内存数据库以存储目标数据库中所有数据表的表名,包括以下步骤:获取目标数据库中所有数据表的表名,以各个数据表的表名作为键,将其存储到内存数据库中。所述内存数据库可以为Redis数据库,所述目标数据库可以为MySQL数据库,所述Redis数据库通过编写SQL连接语句与MySQL数据库进行连接,所述Redis数据库连接MySQL数据库后,通过Redis数据库上的传输管道以及SQL查询语句获取MySQL数据库中所有数据表的表名,并将MySQL数据库中的各个数据表的表名作为键,将各个数据表的表名对应的数据作为值存储至Redis数据库中。本实施例利用Redis数据库跨平台存储MySQL数据库中所有数据表的表名,在大数据量的情况下能够提高数据的读取效率,并且由于Redis数据库是使用键-值形式的存储方式,能够缓解MySQL数据库的存储压力。
S102,若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名。
在本发明实施例中,所述内存数据库的键存储各个数据表的表名,若接收到缓存创建请求,可以从所述内存数据库的键中获取其所存储的各个数据表的表名。
S103,创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引。
在本发明实施例中,针对各个数据表创建相对应的索引模块,每个索引模块包括三个子模块,分别为主索引,增量索引以及实时索引,即每一张数据表对应三个子模块。
进一步地,如图2所示,在一实施例中,所述步骤S103具体包括步骤S202~S204:
S202,获取预设的索引配置模板。
S204,根据所述预设的索引配置模板,使用预设命令行针对各个数据表的表名创建相对应的索引模块。
在本实施例中,在创建索引模块时,可以利用Sphinx(SQL Phrase Index,基于SQL的全文检索引擎)提供的索引配置模板按照实际需要进行配置,并使用Sphinx提供的命令行创建所需的索引模块,具体的,本实施例利用Sphinx提供的索引配置模板为每张数据表创建以下三个模块:index主索引、day_delta增量索引以及delta实时索引。
需要说明的是,利用Sphinx提供的索引配置模板为每张数据表创建索引模块,当目标数据库中有新表被创建时,只需通过索引配置模板创建对应新表的索引模块即可,无需再进行复杂的编码过程。
S104,根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
在本发明实施例中,当目标数据库中的数据表有大量记录时,传统的方式中,若要对数据表进行查询,需要进行全表搜索并将所有记录一一取出,这样做会消耗大量目标数据库的系统时间,并增加数据库的I/O压力,导致数据查询性能下降;本实施例通过在数据表中配置索引模块,针对每张数据表分别建立三个子模块,分别为主索引、增量索引以及实时索引,然后在各索引中找到符合查询条件的索引值,最后通过保存在索引中的ROWID(相当于页码)快速找到对应的数据表中的记录,从而达到缓存的目的,本实施例通过针对每张数据表均创建索引模块从而建立数据表的索引缓存数据表中的数据,能够提高数据的访问效率,同时减轻数据库的访问压力。
由以上可见,本发明实施例通过预先设置内存数据库以存储目标数据库中所有数据表的表名;若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名;创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引;根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。本发明针对目标数据库中的每张数据表均创建索引模块缓存数据表中的数据,能够提高数据的访问效率,同时减轻数据库的访问压力。
请参阅图3,图3为本发明另一实施例提供的一种数据库缓存构建方法的示意流程图。如图3所示,该方法包括以下步骤S301~S310:
S301,预先设置内存数据库以存储目标数据库中所有数据表的表名。
S302,若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名。
S303,创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引。
S304,根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
S305,判断当前时间与构建所述缓存的时间间隔是否达到第一预设时间间隔。
在本发明实施例中,由于目标数据库的数据表中随时都会新增数据,通过在实时索引中设置第一预设时间间隔,并判断当前时间与构建所述缓存的时间间隔是否达到第一预设时间间隔,若当前时间与构建所述缓存的时间间隔达到第一预设时间间隔,合并所述实时索引与增量索引,从而实现所述实时索引自动存储数据表新增的数据以及将已存储的数据合并到增量索引中。
S306,若当前时间与构建所述缓存的时间间隔达到第一预设时间间隔,合并所述实时索引与增量索引。
具体的,在实际应用中,所述第一预设时间为5分钟,每隔5分钟自动生成delta实时索引存储数据表的新增数据,并使用merge参数合并一次delta实时索引到day_delta增量索引中。
S307,判断当前时间与构建所述缓存的时间间隔是否达到第二预设时间间隔。
在本发明实施例中,由于目标数据库的数据表中随时都会新增数据,通过在增量索引中设置第二预设时间间隔,并判断当前时间与构建所述缓存的时间间隔是否达到第二预设时间间隔,若当前时间与构建所述缓存的时间间隔达到第二预设时间间隔,合并所述增量索引与主索引,从而实现所述增量索引自动存储数据表新增的数据以及将已存储的数据合并到主索引中。
S308,若当前时间与构建所述缓存的时间间隔达到第二预设时间间隔,合并所述增量索引与主索引。
具体的,在实际应用中,所述第二预设时间为一天,每隔一天将自动生成day_delta增量索引存储数据表的新增数据,并使用merge参数合并一次day_delta增量索引到index主索引中。
S309,判断当前时间与构建所述缓存的时间间隔是否达到第三预设时间间隔。
在本发明实施例中,由于目标数据库的数据表中随时都会新增数据,通过在主索引中设置第三预设时间间隔,并判断当前时间与构建所述缓存的时间间隔是否达到第三预设时间间隔,若当前时间与构建所述缓存的时间间隔达到第三预设时间间隔,将重新创建所述索引模块。
S310,若当前时间与构建所述缓存的时间间隔达到第三预设时间间隔,执行重新创建所述索引模块的操作。
具体的,在实际应用中,所述第三预设时间为一个月,每隔一个月将自动重新创建索引模块以删除原索引模块所存储的数据表的数据,并通过重新创建的索引模块存储数据表的新增数据。
需要说明的是,本发明实施例通过步骤S305~S310实现了自动化识别数据表中的新增的数据,通过增量索引和实时索引,避免频繁直接将细碎新增索引直接合并到主索引,导致服务器内存开销过大,设置并规定每月自动重建一次主索引,可以清除索引模块中的旧数据并定时更新主索引的缓存数据。
请参阅图4,图4为本发明另一实施例提供的一种数据库缓存构建方法的示意流程图。如图4所示,该方法包括以下步骤S401~S406:
S401,预先设置内存数据库以存储目标数据库中所有数据表的表名。
S402,判断所述目标数据库是否创建新的数据表。
在本发明实施例中,利用内存数据库的反馈机制实时检测所述目标数据库中是否有新的数据表被创建,具体的,所述内存数据库的反馈机制通过判断所述目标数据库中所有数据表的表名的数量是否大于所述内存数据库存储的表名的数量,若是,判定所述目标数据库创建新的数据表。
S403,若所述目标数据库创建新的数据表,使用预先设置的内存数据库重新获取所述目标数据库中所有数据表的表名。
在本发明实施例中,当目标数据库创建新的数据表时,使用预先设置的内存数据库重新获取所述目标数据库中所有数据表的表名,本实施例能够实时检测目标数据库中数据表的动态新增情况,并且针对目标数据库的动态新增情况,构建目标数据库的动态缓存机制。
S404,若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名。
S405,创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引。
S406,根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
需要说明的是,本发明实施例中通过步骤S403~S404能够实时检测目标数据库中数据表的动态新增情况,并且针对目标数据库的动态新增情况,构建目标数据库的动态缓存机制。
请参阅图5,请参阅图5,图5为本发明另一实施例提供的一种数据库缓存构建方法的示意流程图。如图5所示,该方法包括以下步骤S501~S506:
S501,预先设置内存数据库以存储目标数据库中所有数据表的表名。
S502,若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名。
S503,创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引。
S504,根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
S505,若接收到用户的访问请求,根据所述访问请求在所构建的缓存中访问相对应的数据表。
S506,若检测到访问异常,根据所述访问请求从所构建的缓存中切换至所述目标数据库进行访问。
在本发明实施例中,所述访问异常指的是在所构建的索引模块中无法查询到数据表的数据或者无法访问到索引模块,本实施例通过设置异常访问机制,实现异常的平滑过渡,即在访问异常时无缝切换到目标数据库中进行访问。
请参阅图6,对应上述一种数据库缓存构建方法,本发明实施例还提出一种数据库缓存构建装置,该装置100包括:设置单元101、获取单元102、创建单元103、构建单元104。
其中,所述设置单元101,用于预先设置内存数据库以存储目标数据库中所有数据表的表名。
所述获取单元102,用于若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名。
所述创建单元103,用于创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引。
所述构建单元104,用于根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
在一个实施例中,所述设置单元101,具体用于获取目标数据库中所有数据表的表名,以各个数据表的表名作为键,将其存储到内存数据库中。
由以上可见,本发明实施例通过预先设置内存数据库以存储目标数据库中所有数据表的表名;若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名;创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引;根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。本发明针对目标数据库中的每张数据表均创建索引模块缓存数据表中的数据,能够提高数据的访问效率,同时减轻数据库的访问压力。
请参阅图7,所述创建单元103,包括:
模板获取单元103a,用于获取预设的索引配置模板。
创建子单元103b,用于根据所述预设的索引配置模板,使用预设命令行针对各个数据表的表名创建相对应的索引模块。
请参阅图8,对应上述一种数据库缓存构建方法,本发明实施例还提出一种数据库缓存构建装置,该装置200包括:设置单元201、获取单元202、创建单元203、构建单元204、第一判断单元205、第一合并单元206、第二判断单元207、第二合并单元208、第三判断单元209、执行单元210。
其中,所述设置单元201,用于预先设置内存数据库以存储目标数据库中所有数据表的表名。
所述获取单元202,用于若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名。
所述创建单元203,用于创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引。
所述构建单元204,用于根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
所述第一判断单元205,用于判断当前时间与构建所述缓存的时间间隔是否达到第一预设时间间隔。
所述第一合并单元206,用于若当前时间与构建所述缓存的时间间隔达到第一预设时间间隔,合并所述实时索引与增量索引;
所述第二判断单元207,用于判断当前时间与构建所述缓存的时间间隔是否达到第二预设时间间隔。
所述第二合并单元208,用于若当前时间与构建所述缓存的时间间隔达到第二预设时间间隔,合并所述增量索引与主索引。
所述第三判断单元209,用于判断当前时间与构建所述缓存的时间间隔是否达到第三预设时间间隔。
所述执行单元210,用于若当前时间与构建所述缓存的时间间隔达到第三预设时间间隔,执行重新创建所述索引模块的操作。
请参阅图9,对应上述一种数据库缓存构建方法,本发明实施例还提出一种数据库缓存构建装置,该装置300包括:设置单元301、第四判断单元302、重新获取单元303、获取单元304、创建单元305、构建单元306。
其中,所述设置单元301,用于预先设置内存数据库以存储目标数据库中所有数据表的表名。
所述第四判断单元302,判断所述目标数据库是否创建新的数据表。
所述重新获取单元303,用于若所述目标数据库创建新的数据表,使用预先设置的内存数据库重新获取所述目标数据库中所有数据表的表名。
所述获取单元304,用于若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名。
所述创建单元305,用于创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引。
所述构建单元306,用于根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
请参阅图10,对应上述一种数据库缓存构建方法,本发明实施例还提出一种数据库缓存构建装置,该装置400包括:设置单元401、获取单元402、创建单元403、构建单元404、访问单元405、切换单元406。
其中,所述设置单元401,用于预先设置内存数据库以存储目标数据库中所有数据表的表名。
所述获取单元402,用于若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名。
所述创建单元403,用于创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引。
所述构建单元404,用于根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
所述访问单元405,用于若接收到用户的访问请求,根据所述访问请求在所构建的缓存中访问相对应的数据表。
所述切换单元406,用于若检测到访问异常,根据所述访问请求从所构建的缓存中切换至所述目标数据库进行访问。
上述数据库缓存构建装置与上述数据库缓存构建方法一一对应,其具体的原理和过程与上述实施例所述方法相同,不再赘述。
上述数据库缓存构建装置可以实现为一种计算机程序的形式,计算机程序可以在如图11所示的计算机设备上运行。
图11为本发明一种计算机设备的结构组成示意图。该设备可以是终端,也可以是服务器,其中,终端可以是智能手机、平板电脑、笔记本电脑、台式电脑、个人数字助理和穿戴式装置等具有通信功能和语音输入功能的电子装置。服务器可以是独立的服务器,也可以是多个服务器组成的服务器集群,服务器可通过与终端通信来获取用户输入的待认证声纹数据。参照图11,该计算机设备500包括通过系统总线501连接的处理器502、非易失性存储介质503、内存储器504和网络接口505。其中,该计算机设备500的非易失性存储介质503可存储操作系统5031和计算机程序5032,该计算机程序5032被执行时,可使得处理器502执行一种数据库缓存构建方法。该计算机设备500的处理器502用于提供计算和控制能力,支撑整个计算机设备500的运行。该内存储器504为非易失性存储介质503中的计算机程序5032的运行提供环境,该计算机程序被处理器执行时,可使得处理器502执行一种数据库缓存构建方法。计算机设备500的网络接口505用于进行网络通信。本领域技术人员可以理解,图11中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
其中,所述处理器502执行所述计算机程序时实现如下操作:
预先设置内存数据库以存储目标数据库中所有数据表的表名;
若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名;
创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引;
根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
在一个实施例中,所述预先设置内存数据库以存储目标数据库中所有数据表的表名,包括:
获取目标数据库中所有数据表的表名,以各个数据表的表名作为键,将其存储到内存数据库中。
在一个实施例中,所述创建与各个数据表的表名相对应的索引模块,包括:
获取预设的索引配置模板;
根据所述预设的索引配置模板,使用预设命令行针对各个数据表的表名创建相对应的索引模块。
在一个实施例中,所述处理器502执行所述计算机程序时还实现如下操作:
判断当前时间与构建所述缓存的时间间隔是否达到第一预设时间间隔;
若当前时间与构建所述缓存的时间间隔达到第一预设时间间隔,合并所述实时索引与增量索引;
判断当前时间与构建所述缓存的时间间隔是否达到第二预设时间间隔;
若当前时间与构建所述缓存的时间间隔达到第二预设时间间隔,合并所述增量索引与主索引;
判断当前时间与构建所述缓存的时间间隔是否达到第三预设时间间隔;
若当前时间与构建所述缓存的时间间隔达到第三预设时间间隔,执行重新创建所述索引模块的操作。
在一个实施例中,所述处理器502执行所述计算机程序时还实现如下操作:
判断所述目标数据库是否创建新的数据表;
若所述目标数据库创建新的数据表,使用预先设置的内存数据库重新获取所述目标数据库中所有数据表的表名。
在一个实施例中,所述处理器502执行所述计算机程序时还实现如下操作:
若接收到用户的访问请求,根据所述访问请求在所构建的缓存中访问相对应的数据表;
若检测到访问异常,根据所述访问请求从所构建的缓存中切换至所述目标数据库进行访问。
本领域技术人员可以理解,图11中示出的计算机设备的实施例并不构成对计算机设备具体构成的限定,在其他实施例中,计算机设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。例如,在一些实施例中,计算机设备仅包括存储器及处理器,在这样的实施例中,存储器及处理器的结构及功能与图11所示实施例一致,在此不再赘述。
本发明提供了一种计算机可读存储介质,计算机可读存储介质存储有一个或者一个以上计算机程序,所述一个或者一个以上计算机程序可被一个或者一个以上的处理器执行,以实现以下步骤:
预先设置内存数据库以存储目标数据库中所有数据表的表名;
若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名;
创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引;
根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存。
在一个实施例中,所述预先设置内存数据库以存储目标数据库中所有数据表的表名,包括:
获取目标数据库中所有数据表的表名,以各个数据表的表名作为键,将其存储到内存数据库中。
在一个实施例中,所述创建与各个数据表的表名相对应的索引模块,包括:
获取预设的索引配置模板;
根据所述预设的索引配置模板,使用预设命令行针对各个数据表的表名创建相对应的索引模块。
在一个实施例中,所述一个或者一个以上计算机程序可被一个或者一个以上的处理器执行,还实现以下步骤:
判断当前时间与构建所述缓存的时间间隔是否达到第一预设时间间隔;
若当前时间与构建所述缓存的时间间隔达到第一预设时间间隔,合并所述实时索引与增量索引;
判断当前时间与构建所述缓存的时间间隔是否达到第二预设时间间隔;
若当前时间与构建所述缓存的时间间隔达到第二预设时间间隔,合并所述增量索引与主索引;
判断当前时间与构建所述缓存的时间间隔是否达到第三预设时间间隔;
若当前时间与构建所述缓存的时间间隔达到第三预设时间间隔,执行重新创建所述索引模块的操作。
在一个实施例中,所述一个或者一个以上计算机程序可被一个或者一个以上的处理器执行,还实现以下步骤:
判断所述目标数据库是否创建新的数据表;
若所述目标数据库创建新的数据表,使用预先设置的内存数据库重新获取所述目标数据库中所有数据表的表名。
在一个实施例中,所述一个或者一个以上计算机程序可被一个或者一个以上的处理器执行,还实现以下步骤:
若接收到用户的访问请求,根据所述访问请求在所构建的缓存中访问相对应的数据表;
若检测到访问异常,根据所述访问请求从所构建的缓存中切换至所述目标数据库进行访问。
本发明前述的存储介质包括:磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)等各种可以存储程序代码的介质。
本发明所有实施例中的单元可以通过通用集成电路,例如CPU(CentralProcessing Unit,中央处理器),或通过ASIC(Application Specific IntegratedCircuit,专用集成电路)来实现。
本发明实施例数据库缓存构建方法中的步骤可以根据实际需要进行顺序调整、合并和删减。
本发明实施例数据库缓存构建装置中的单元可以根据实际需要进行合并、划分和删减。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (9)
1.一种数据库缓存构建方法,其特征在于,所述方法包括:
预先设置内存数据库以存储目标数据库中所有数据表的表名;
若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名;
创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引;
根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存;
判断当前时间与构建所述缓存的时间间隔是否达到第一预设时间间隔;
若当前时间与构建所述缓存的时间间隔达到第一预设时间间隔,合并所述实时索引与增量索引,其中,所述合并所述实时索引与增量索引包括生成delta实时索引存储数据表的新增数据,并使用merge参数合并所述delta实时索引到day_delta增量索引中;
判断当前时间与构建所述缓存的时间间隔是否达到第二预设时间间隔;
若当前时间与构建所述缓存的时间间隔达到第二预设时间间隔,合并所述增量索引与主索引,其中,所述合并所述增量索引与主索引包括生成day_delta增量索引存储数据表的新增数据,并使用merge参数合并所述day_delta增量索引到index主索引中;
判断当前时间与构建所述缓存的时间间隔是否达到第三预设时间间隔;
若当前时间与构建所述缓存的时间间隔达到第三预设时间间隔,执行重新创建所述索引模块的操作,其中,所述执行重新创建所述索引模块的操作包括重新创建所述索引模块以删除原索引模块所存储的数据表的数据,并通过重新创建的所述索引模块存储数据表的新增数据。
2.如权利要求1所述的方法,其特征在于,所述预先设置内存数据库以存储目标数据库中所有数据表的表名,包括:
获取目标数据库中所有数据表的表名,以各个数据表的表名作为键,将其存储到内存数据库中。
3.如权利要求1所述的方法,其特征在于,所述创建与各个数据表的表名相对应的索引模块,包括:
获取预设的索引配置模板;
根据所述预设的索引配置模板,使用预设命令行针对各个数据表的表名创建相对应的索引模块。
4.如权利要求1所述的方法,其特征在于,在所述若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名之前,所述方法还包括:
判断所述目标数据库是否创建新的数据表;
若所述目标数据库创建新的数据表,使用预先设置的内存数据库重新获取所述目标数据库中所有数据表的表名。
5.如权利要求1所述的方法,其特征在于,所述方法还包括:
若接收到用户的访问请求,根据所述访问请求在所构建的缓存中访问相对应的数据表;
若检测到访问异常,根据所述访问请求从所构建的缓存中切换至所述目标数据库进行访问。
6.一种数据库缓存构建装置,其特征在于,所述装置包括:
设置单元,用于预先设置内存数据库以存储目标数据库中所有数据表的表名;
获取单元,用于若接收到缓存创建请求,获取所述内存数据库中所存储的各个数据表的表名;
创建单元,用于创建与各个数据表的表名相对应的索引模块,所述索引模块包括主索引、增量索引以及实时索引;
构建单元,用于根据所述主索引、增量索引以及实时索引构建所述目标数据库的缓存;
第一判断单元,用于判断当前时间与构建所述缓存的时间间隔是否达到第一预设时间间隔;
第一合并单元,用于若当前时间与构建所述缓存的时间间隔达到第一预设时间间隔,合并所述实时索引与增量索引,其中,所述合并所述实时索引与增量索引包括生成delta实时索引存储数据表的新增数据,并使用merge参数合并所述delta实时索引到day_delta增量索引中;
第二判断单元,用于判断当前时间与构建所述缓存的时间间隔是否达到第二预设时间间隔;
第二合并单元,用于若当前时间与构建所述缓存的时间间隔达到第二预设时间间隔,合并所述增量索引与主索引,其中,所述合并所述增量索引与主索引包括生成day_delta增量索引存储数据表的新增数据,并使用merge参数合并所述day_delta增量索引到index主索引中;
第三判断单元,用于判断当前时间与构建所述缓存的时间间隔是否达到第三预设时间间隔;
执行单元,用于若当前时间与构建所述缓存的时间间隔达到第三预设时间间隔,执行重新创建所述索引模块的操作,其中,所述执行重新创建所述索引模块的操作包括重新创建所述索引模块以删除原索引模块所存储的数据表的数据,并通过重新创建的所述索引模块存储数据表的新增数据。
7.如权利要求6所述的装置,其特征在于,所述设置单元具体用于:获取目标数据库中所有数据表的表名,以各个数据表的表名作为键,将其存储到内存数据库中。
8.一种计算机设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1-5任一项所述的数据库缓存构建方法。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有一个或者一个以上计算机程序,所述一个或者一个以上计算机程序可被一个或者一个以上的处理器执行,以实现如权利要求1-5任一项所述的数据库缓存构建方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811392489.6A CN109542907B (zh) | 2018-11-21 | 2018-11-21 | 数据库缓存构建方法、装置、计算机设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811392489.6A CN109542907B (zh) | 2018-11-21 | 2018-11-21 | 数据库缓存构建方法、装置、计算机设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109542907A CN109542907A (zh) | 2019-03-29 |
CN109542907B true CN109542907B (zh) | 2021-09-03 |
Family
ID=65849179
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811392489.6A Active CN109542907B (zh) | 2018-11-21 | 2018-11-21 | 数据库缓存构建方法、装置、计算机设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109542907B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111090635B (zh) * | 2019-11-29 | 2023-11-07 | 北京明略软件系统有限公司 | 一种预警方案的配置方法、装置及计算机可读存储介质 |
CN110968603B (zh) * | 2019-11-29 | 2023-07-04 | 中国银行股份有限公司 | 一种数据访问方法及装置 |
CN111190928A (zh) * | 2019-12-24 | 2020-05-22 | 平安普惠企业管理有限公司 | 缓存处理方法、装置、计算机设备以及存储介质 |
CN111382179B (zh) * | 2020-03-10 | 2023-12-01 | 北京金山云网络技术有限公司 | 数据处理方法、装置及电子设备 |
CN111506572A (zh) * | 2020-03-16 | 2020-08-07 | 北京物资学院 | 一种数据库智能预缓冲方法及装置 |
CN111597402A (zh) * | 2020-05-21 | 2020-08-28 | 北京字节跳动网络技术有限公司 | 更新图索引数据的方法、装置、电子设备及存储介质 |
CN111782659B (zh) * | 2020-07-10 | 2023-10-17 | 东北大学 | 数据库索引创建方法、装置、计算机设备和存储介质 |
CN113535777B (zh) * | 2021-06-24 | 2023-05-23 | 上海浦东发展银行股份有限公司 | 数据库查询方法、装置和系统 |
CN117688013B (zh) * | 2024-02-01 | 2024-04-30 | 北方健康医疗大数据科技有限公司 | 一种基于缓存索引的主索引生成方法、装置、设备及介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101021875A (zh) * | 2007-03-22 | 2007-08-22 | 金蝶软件(中国)有限公司 | 面向对象的数据库访问方法及系统 |
CN101127048A (zh) * | 2007-08-20 | 2008-02-20 | 华为技术有限公司 | 一种查询结果处理方法与装置 |
CN108460041A (zh) * | 2017-02-20 | 2018-08-28 | 腾讯科技(深圳)有限公司 | 数据的处理方法和装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10698921B2 (en) * | 2017-02-28 | 2020-06-30 | Sap Se | Persistence and initialization of synchronization state for serialized data log replay in database systems |
-
2018
- 2018-11-21 CN CN201811392489.6A patent/CN109542907B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101021875A (zh) * | 2007-03-22 | 2007-08-22 | 金蝶软件(中国)有限公司 | 面向对象的数据库访问方法及系统 |
CN101127048A (zh) * | 2007-08-20 | 2008-02-20 | 华为技术有限公司 | 一种查询结果处理方法与装置 |
CN108460041A (zh) * | 2017-02-20 | 2018-08-28 | 腾讯科技(深圳)有限公司 | 数据的处理方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN109542907A (zh) | 2019-03-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109542907B (zh) | 数据库缓存构建方法、装置、计算机设备以及存储介质 | |
CN107480198B (zh) | 一种分布式NewSQL数据库系统和全文检索方法 | |
US9298775B2 (en) | Changing the compression level of query plans | |
US20180121127A1 (en) | Distributed storage method and device | |
CN106156088B (zh) | 一种索引数据处理方法、数据查询方法及装置 | |
CN106407360B (zh) | 一种数据的处理方法及装置 | |
CN107766343B (zh) | 一种数据存储方法、装置及存储服务器 | |
CN112559529B (zh) | 数据存储方法、装置、计算机设备及存储介质 | |
CN108965450B (zh) | 业务请求响应方法、装置、计算机设备和存储介质 | |
US8396858B2 (en) | Adding entries to an index based on use of the index | |
CN112416907A (zh) | 一种数据库表数据导入导出方法、终端设备及存储介质 | |
CN110222046B (zh) | 列表数据的处理方法、装置、服务器和存储介质 | |
US10866960B2 (en) | Dynamic execution of ETL jobs without metadata repository | |
CN117009389A (zh) | 数据缓存方法、装置、电子设备和可读存储介质 | |
US10042957B2 (en) | Devices and methods for implementing dynamic collaborative workflow systems | |
CN110798222B (zh) | 一种数据压缩方法及装置 | |
US10423599B2 (en) | Global and local temporary database tables | |
CN114020745A (zh) | 一种索引构建方法、装置、电子设备和存储介质 | |
US9679015B2 (en) | Script converter | |
US11074244B1 (en) | Transactional range delete in distributed databases | |
CN109325057B (zh) | 中间件管理方法、装置、计算机设备以及存储介质 | |
CN113127717A (zh) | 一种密钥检索方法和系统 | |
CN111125108A (zh) | 基于Lucene的HBASE二级索引方法、装置及计算机设备 | |
CN111324614A (zh) | 一种表的配置方法、装置、终端设备以及存储介质 | |
CN111078736A (zh) | 一种数据聚合处理方法、装置、终端及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |