CN109344142B - 数据处理方法、装置、电子设备及存储介质 - Google Patents

数据处理方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN109344142B
CN109344142B CN201810962463.4A CN201810962463A CN109344142B CN 109344142 B CN109344142 B CN 109344142B CN 201810962463 A CN201810962463 A CN 201810962463A CN 109344142 B CN109344142 B CN 109344142B
Authority
CN
China
Prior art keywords
data
database
data table
heat
determining
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810962463.4A
Other languages
English (en)
Other versions
CN109344142A (zh
Inventor
向荣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Life Insurance Company of China Ltd
Original Assignee
Ping An Life Insurance Company of China Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Life Insurance Company of China Ltd filed Critical Ping An Life Insurance Company of China Ltd
Priority to CN201810962463.4A priority Critical patent/CN109344142B/zh
Publication of CN109344142A publication Critical patent/CN109344142A/zh
Application granted granted Critical
Publication of CN109344142B publication Critical patent/CN109344142B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明的实施例提供了一种数据处理方法、装置、电子设备及存储介质,涉及大数据技术领域。该方法包括:基于第一数据库的数据操作的信息确定第一数据库中各个数据表的使用频次;基于第一数据库中各个数据表的数据量确定各个数据表的热度权重;将第一数据库中各个数据表的使用频次与对应的热度权重相乘确定各个数据表的热度值;将第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中。本发明实施例的技术方案能够提高海量数据的数据处理效率,减少程序响应时间,从而能够满足报表的时效要求。

Description

数据处理方法、装置、电子设备及存储介质
技术领域
本发明涉及大数据技术领域,具体而言,涉及一种数据处理方法、数据处理装置、电子设备以及计算机可读存储介质。
背景技术
随着互联网技术的发展,各种网站平台的用户也快速增长,需要处理的数据量也呈指数级增长。
由于数据库中的数据量越来越大,在业务处理程序对数据库执行数据操作时,经常会出现程序运行时间过长的情况,导致日报表不能及时发送。
因此,需要提供一种能够解决上述问题中的一个或多个问题的数据处理方法、数据处理装置、电子设备以及计算机可读存储介质。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本发明背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明实施例的目的在于提供一种数据处理方法、数据处理装置、电子设备以及计算机可读存储介质,进而至少在一定程度上克服由于相关技术的限制和缺陷而导致的一个或者多个问题。
根据本发明实施例的第一方面,提供了一种数据处理方法,包括:基于第一数据库的数据操作的信息确定所述第一数据库中各个数据表的使用频次;基于所述第一数据库中各个数据表的数据量确定各个数据表的热度权重;将所述第一数据库中各个数据表的使用频次与对应的热度权重相乘确定各个数据表的热度值;将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中。
在本发明的一些实施例中,基于前述方案,基于所述第一数据库中各个数据表的数据量确定各个数据表的热度权重,包括:统计所述第一数据库中的各个数据表的数据量,基于统计结果确定所述第一数据库的总数据量;将所述总数据量除以所述第一数据库中的数据表的数量得到所述第一数据库中的数据表的平均数据量;将所述平均数据量除以各个数据表的数据量得到各个数据表的热度权重。
在本发明的一些实施例中,基于前述方案,将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中,包括:基于所述热度值对所述第一数据库中各个数据表进行排序;基于排序结果将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中。
在本发明的一些实施例中,基于前述方案,所述数据处理方法还包括:接收对所述第一数据库的数据查询请求,所述数据查询请求中包含待查询数据表;获取所述待查询数据表的标识信息,并基于所述标识信息获取所述待查询数据表的存储状态值;基于所述存储状态值从所述第一数据库或所述第二数据库中查找对应的数据。
在本发明的一些实施例中,基于前述方案,基于所述第一数据库的数据操作的信息确定所述第一数据库中各个数据表的使用频次,包括:基于所述第一数据库的数据操作的信息确定所述第一数据库中各个数据表的查询数据次数、新增数据次数、删除数据次数以及修改数据次数;基于所述查询数据次数、新增数据次数、删除数据次数以及修改数据次数确定所述第一数据库中各个数据表的使用频次。
在本发明的一些实施例中,基于前述方案,所述第二数据库为内存数据库。
在本发明的一些实施例中,基于前述方案,所述数据处理方法还包括:获取第一数据库的数据操作的日志信息,基于所述日志信息获取第一数据库的数据操作的信息。
根据本发明实施例的第二方面,提供了一种数据处理装置,包括:使用频次确定单元,用于基于第一数据库的数据操作的信息确定所述第一数据库中各个数据表的使用频次;热度权重确定单元,用于基于所述第一数据库中各个数据表的数据量确定各个数据表的热度权重;热度值确定单元,用于将所述第一数据库中各个数据表的使用频次与对应的热度权重相乘确定各个数据表的热度值;数据迁移单元,用于将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中。
根据本发明实施例的第三方面,提供了一种电子设备,包括:处理器;以及存储器,所述存储器上存储有计算机可读指令,所述计算机可读指令被所述处理器执行时实现如上述第一方面所述的数据处理方法。
根据本发明实施例的第四方面,提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如上述第一方面所述的数据处理方法。
在本发明的一些实施例所提供的技术方案中,一方面,确定第一数据库中各数据表的使用频次以及热度权重,基于热度权重以及使用频次确定各个数据表的热度值,能够得到各个数据表中热数据的占比情况;另一方面,基于热度值将第一数据库中的数据表迁移到第二数据库中,能够将热数据占比较高的数据表迁移到第二数据库中,从而能够通过第二数据库来处理热数据,提高了海量数据的数据处理效率,减少了程序响应时间,从而能够满足报表的时效要求。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了根据本发明的一些实施例的数据处理方法的流程示意图;
图2示出了根据本发明的示例性实施例响应数据查询请求的数据处理过程的流程示意图;
图3示出了根据本发明的一些示例性实施例的数据处理装置的示意框图;
图4示出了适于用来实现本发明实施例的电子设备的计算机系统的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施例。然而,示例实施例能够以多种形式实施,且不应被理解为限于在此阐述的实施例;相反,提供这些实施例使得本发明将全面和完整,并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本发明的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
图1示出了根据本发明的一些实施例的数据处理方法的流程示意图。
参照图1所示,在步骤S110中,基于第一数据库的数据操作的信息确定所述第一数据库中各个数据表的使用频次。
在示例实施例中,第一数据库可以为SQL server数据库和Oracle数据库,但是本公开的示例实施例中的数据库不限于此,例如数据库还可以为MySQL数据库、DB2数据库等,这同样在本发明的保护范围内。
在示例实施例中,获取第一数据库的数据操作的日志信息,基于所述日志信息获取第一数据库的数据操作的信息。第一数据库的数据操作可以包括:查询数据、新增数据、删除数据、以及修改数据等数据操作。在对第一数据库进行数据操作时,可以通过日志记录该数据操作,基于日志信息可以获取第一数据库的数据操作的信息,第一数据库的数据操作的信息包括:查询数据、新增数据、删除数据、以及修改数据的信息。
进一步地,基于第一数据库的数据操作的信息确定第一数据库中各个数据表的查询数据次数、新增数据次数、删除数据次数以及修改数据次数;基于所述查询数据次数、新增数据次数、删除数据次数以及修改数据次数确定第一数据库中各个数据表的使用频次。例如,可以分别按日、月、年统计第一数据库中各数据表的查询数据的次数、新增数据的次数、删除数据的次数以及修改数据的次数。对数据表的查询数据的次数、新增数据的次数、删除数据的次数以及修改数据的次数进行求和运算确定各数据表的日、月、年使用频次。
在步骤S120中,基于所述第一数据库中各个数据表的数据量确定各个数据表的热度权重。
由于有的数据表的数据量较大,仅通过使用频次不能反映该数据表中的热数据的比例,而对数据表的使用频次乘以一个与数据表的数据量有关的权重,能够更准确地确定数据表中的热数据的比例。
在示例实施例中,可以统计各数据表的数据量,计算所有数据表的数据量之和,将所有数据表的数据量之和除以数据表的个数得到所有数据表的平均数据量,将所有数据表的平均数据量除以各数据表的数据量得到的值作为各数据表的热度权重。该热度权重能够反映数据量大小对热数据占比的影响。假设表1的数据量为10k,表2的数据量为20k,表1和表2的数据量之和为30k;表1和表2的平均数据量为15k,因此表1的热度权重是1.5,表2的热度权重是0.75。
在步骤S130中,将所述第一数据库中各个数据表的使用频次与对应的热度权重相乘确定各个数据表的热度值。
在示例实施例中,获取第一数据库中各个数据表的热度权重值,将各个数据表的热度权重值与各个数据表的使用频次相乘确定各个数据表的热度值。热度值可以表示各个数据表中的热数据的比例。
在步骤S140中,将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中。
在示例实施例中,可以判断各个数据表的热度值是否大于预定阈值,若判定热度值大于预定阈值时,将该数据表迁移到第二数据库中。预定阈值可以根据第一数据库中各个数据表在一段时间的平均使用频次以及平均数据量来确定。
将第一数据库中热数据占比较多的数据表迁移到第二数据库中,在业务处理程序使用该数据表中的数据时,从第二数据库中调用该数据表,从而能够提高数据处理效率,减少程序响应时间。还能够减少第一数据库中的数据量,防止第一数据库中数据量过大。
进一步地,在一些实施例中,第二数据库可以为内存数据库,例如MemSQL数据库、MongoDB数据库或Apache Ignite数据库,内存数据库由于将数据放在内存中操作,因此读写速度要比传统数据库高10倍以上,从而能够进一步地提高数据处理效率。
根据图1中的数据处理方法,一方面,确定第一数据库中各数据表的使用频次以及热度权重,基于热度权重以及使用频次确定各个数据表的热度值,能够得到各个数据表中热数据的占比情况;另一方面,基于热度值将第一数据库中的数据表迁移到第二数据库中,能够将热数据占比较高的数据表迁移到第二数据库中,从而能够通过第二数据库来处理热数据,提高了数据处理效率,减少了程序响应时间,从而能够满足报表的时效要求。
图2示出了根据本发明的示例性实施例响应数据查询请求的数据处理过程的流程示意图。
参照图2所示,在步骤S210中,接收对所述第一数据库的数据查询请求,所述数据查询请求中包含待查询数据表。
在示例实施例中,第一数据库可以为SQL server数据库和Oracle数据库,但是本公开的示例实施例中的数据库不限于此,例如数据库还可以为MySQL数据库、DB2数据库等,这同样在本发明的保护范围内。
在接收到对第一数据库的数据查询请求时,可以解析该数据查询请求,从该数据查询请求中获取待查询数据表。
在步骤S220中,获取所述待查询数据表的标识信息,并基于所述标识信息获取所述待查询数据表的存储状态值。
在示例实施例中,可以基于待查询数据表的表名获取待查询数据表的标识信息,基于该标识信息获取待查询数据表的存储状态值。第一数据库中的各数据表的存储状态值可以表示该数据表是存储在第一数据库中还是存储在第二数据库中。
进一步地,可以通过键值对的形式存储各个数据表的标识信息以及存储状态。通过键值对的形式存储各个数据表的标识信息以及存储状态,可以提高查询效率。
在步骤S230中,基于所述存储状态值从所述第一数据库或所述第二数据库中查找对应的数据。
在示例实施例中,在存储状态值为1表示数据表存储在第一数据库中,从第一数据库查找相应的数据,存储状态值为2数据表存储在第二数据库中,从第二数据库查找相应的数据。
此外,在本发明的实施例中,还提供了一种数据处理装置。参照图3所示,该数据处理装置可以包括:使用频次确定单元310、热度权重确定单元320、热度值确定单元330以及数据迁移单元340。其中,使用频次确定单元310用于基于第一数据库的数据操作的信息确定所述第一数据库中各个数据表的使用频次;热度权重确定单元320用于基于所述第一数据库中各个数据表的数据量确定各个数据表的热度权重;热度值确定单元330用于将所述第一数据库中各个数据表的使用频次与对应的热度权重相乘确定各个数据表的热度值;数据迁移单元340用于将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中。
在本发明的一些实施例中,基于前述方案,热度权重确定单元320包括:数据量统计单元,用于统计所述第一数据库中的各个数据表的数据量,基于统计结果确定所述第一数据库的总数据量;平均数据量确定单元,用于将所述总数据量除以所述第一数据库中的数据表的数量得到所述第一数据库中的数据表的平均数据量;热度权重计算单元,用于将所述平均数据量除以各个数据表的数据量得到各个数据表的热度权重。
在本发明的一些实施例中,基于前述方案,数据迁移单元340包括:排序单元,用于基于所述热度值对所述第一数据库中各个数据表进行排序;迁移单元,用于基于排序结果将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中。
在本发明的一些实施例中,基于前述方案,所述数据处理装置300还包括:接收单元,用于接收对所述第一数据库的数据查询请求,所述数据查询请求中包含待查询数据表;存储状态值获取单元,用于获取所述待查询数据表的标识信息,并基于所述标识信息获取所述待查询数据表的存储状态值;数据查找单元,用于基于所述存储状态值从所述第一数据库或所述第二数据库中查找对应的数据。
在本发明的一些实施例中,基于前述方案,使用频次确定单元310被配置为:基于所述第一数据库的数据操作的信息确定所述第一数据库中各个数据表的查询数据次数、新增数据次数、删除数据次数以及修改数据次数;基于所述查询数据次数、新增数据次数、删除数据次数以及修改数据次数确定所述第一数据库中各个数据表的使用频次。
在本发明的一些实施例中,基于前述方案,所述第二数据库为内存数据库。
在本发明的一些实施例中,基于前述方案,所述数据处理装置300还包括:获取单元,用于获取第一数据库的数据操作的日志信息,基于所述日志信息获取第一数据库的数据操作的信息。
由于本发明的示例实施例的数据处理装置300的各个功能模块与上述数据处理方法的示例实施例的步骤对应,因此在此不再赘述。
在本发明的示例性实施例中,还提供了一种能够实现上述方法的电子设备。
下面参考图4,其示出了适于用来实现本发明实施例的电子设备的计算机系统400的结构示意图。图4示出的电子设备的计算机系统400仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,计算机系统400包括中央处理单元(CPU)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储部分408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有系统操作所需的各种程序和数据。CPU401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
以下部件连接至I/O接口405:包括键盘、鼠标等的输入部分406;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407;包括硬盘等的存储部分408;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器410上,以便于从其上读出的计算机程序根据需要被安装入存储部分408。
特别地,根据本发明的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分409从网络上被下载和安装,和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元(CPU)401执行时,执行本申请的系统中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如上述实施例中所述的数据处理方法。
例如,所述电子设备可以实现如图1中所示的:步骤S110,基于第一数据库的数据操作的信息确定所述第一数据库中各个数据表的使用频次;步骤S120,基于所述第一数据库中各个数据表的数据量确定各个数据表的热度权重;步骤S130,将所述第一数据库中各个数据表的使用频次与对应的热度权重相乘确定各个数据表的热度值;步骤S140,将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备或装置的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (7)

1.一种数据处理方法,其特征在于,包括:
基于第一数据库的数据操作的信息确定所述第一数据库中各个数据表的使用频次,包括:基于所述第一数据库的数据操作的信息确定所述第一数据库中各个数据表的查询数据次数、新增数据次数、删除数据次数以及修改数据次数;基于所述查询数据次数、新增数据次数、删除数据次数以及修改数据次数确定所述第一数据库中各个数据表的使用频次;
基于所述第一数据库中各个数据表的数据量确定各个数据表的热度权重,包括:统计所述第一数据库中的各个数据表的数据量,基于统计结果确定所述第一数据库的总数据量;将所述总数据量除以所述第一数据库中的数据表的数量得到所述第一数据库中的数据表的平均数据量;将所述平均数据量除以各个数据表的数据量得到各个数据表的热度权重;
将所述第一数据库中各个数据表的使用频次与对应的热度权重相乘确定各个数据表的热度值;
将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中,包括:基于所述热度值对所述第一数据库中各个数据表进行排序;基于排序结果将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中。
2.根据权利要求1所述的数据处理方法,其特征在于,所述数据处理方法还包括:
接收对所述第一数据库的数据查询请求,所述数据查询请求中包含待查询数据表;
获取所述待查询数据表的标识信息,并基于所述标识信息获取所述待查询数据表的存储状态值;
基于所述存储状态值从所述第一数据库或所述第二数据库中查找对应的数据。
3.根据权利要求1或2中任一项所述的数据处理方法,其特征在于,所述第二数据库为内存数据库。
4.根据权利要求3所述的数据处理方法,其特征在于,所述数据处理方法还包括:
获取第一数据库的数据操作的日志信息,基于所述日志信息获取第一数据库的数据操作的信息。
5.一种数据处理装置,其特征在于,包括:
使用频次确定单元,用于基于第一数据库的数据操作的信息确定所述第一数据库中各个数据表的使用频次,包括,基于所述第一数据库的数据操作的信息确定所述第一数据库中各个数据表的查询数据次数、新增数据次数、删除数据次数以及修改数据次数;基于所述查询数据次数、新增数据次数、删除数据次数以及修改数据次数确定所述第一数据库中各个数据表的使用频次;
热度权重确定单元,用于基于所述第一数据库中各个数据表的数据量确定各个数据表的热度权重;所述热度权重确定单元包括,数据量统计单元,用于统计所述第一数据库中的各个数据表的数据量,基于统计结果确定所述第一数据库的总数据量;平均数据量确定单元,用于将所述总数据量除以所述第一数据库中的数据表的数量得到所述第一数据库中的数据表的平均数据量;热度权重计算单元,用于将所述平均数据量除以各个数据表的数据量得到各个数据表的热度权重;
热度值确定单元,用于将所述第一数据库中各个数据表的使用频次与对应的热度权重相乘确定各个数据表的热度值;
数据迁移单元,用于将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中;所述数据迁移单元包括,排序单元,用于基于所述热度值对所述第一数据库中各个数据表进行排序;迁移单元,用于基于排序结果将所述第一数据库中所述热度值大于预定阈值的数据表迁移到第二数据库中。
6.一种电子设备,其特征在于,包括:
处理器;以及
存储器,所述存储器上存储有计算机可读指令,所述计算机可读指令被所述处理器执行时实现如权利要求1至4中任一项所述的数据处理方法。
7.一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至4中任一项所述的数据处理方法。
CN201810962463.4A 2018-08-22 2018-08-22 数据处理方法、装置、电子设备及存储介质 Active CN109344142B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810962463.4A CN109344142B (zh) 2018-08-22 2018-08-22 数据处理方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810962463.4A CN109344142B (zh) 2018-08-22 2018-08-22 数据处理方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN109344142A CN109344142A (zh) 2019-02-15
CN109344142B true CN109344142B (zh) 2023-05-30

Family

ID=65292060

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810962463.4A Active CN109344142B (zh) 2018-08-22 2018-08-22 数据处理方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN109344142B (zh)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110069378A (zh) * 2019-03-16 2019-07-30 平安城市建设科技(深圳)有限公司 数据监控方法、装置、终端及计算机可读存储介质
CN110162672B (zh) * 2019-05-10 2021-07-27 上海赜睿信息科技有限公司 数据处理方法及装置、电子设备和可读存储介质
CN112951437B (zh) * 2019-12-11 2023-08-08 北京懿医云科技有限公司 医疗数据管理方法、装置、存储介质与电子设备
CN111858654A (zh) * 2020-07-21 2020-10-30 威讯柏睿数据科技(北京)有限公司 一种基于内存计算的数据查询加速方法和设备
CN113407513B (zh) * 2020-11-24 2024-03-12 腾讯科技(深圳)有限公司 特征库的调度方法、装置和特征库检索方法、装置
CN112765443B (zh) * 2020-12-31 2023-10-24 广州技象科技有限公司 基于历史操作数据的物联网数据查询方法及装置
CN114722243A (zh) * 2022-04-15 2022-07-08 北京科杰科技有限公司 一种数据表排序方法及装置、电子设备、存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013210759A (ja) * 2012-03-30 2013-10-10 Mitsubishi Electric Information Systems Corp 特異データ検出方法、特異データ検出プログラムおよび特異データ検出装置
US9582524B1 (en) * 2012-06-19 2017-02-28 Amazon Technologies, Inc. Transformative migration of static data
CN107590277A (zh) * 2017-09-28 2018-01-16 泰康保险集团股份有限公司 数据同步方法、装置、电子设备及存储介质
CN107943846A (zh) * 2017-11-01 2018-04-20 内蒙古科电数据服务有限公司 数据处理方法、装置及电子设备
CN108009883A (zh) * 2017-11-30 2018-05-08 泰康保险集团股份有限公司 用于订单处理的方法及装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8375063B2 (en) * 2006-01-31 2013-02-12 International Business Machines Corporation Method and program product for migrating data from a legacy system
US10754833B2 (en) * 2017-01-26 2020-08-25 Sap Se Combined database migration and structure conversion within maintenance procedures

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013210759A (ja) * 2012-03-30 2013-10-10 Mitsubishi Electric Information Systems Corp 特異データ検出方法、特異データ検出プログラムおよび特異データ検出装置
US9582524B1 (en) * 2012-06-19 2017-02-28 Amazon Technologies, Inc. Transformative migration of static data
CN107590277A (zh) * 2017-09-28 2018-01-16 泰康保险集团股份有限公司 数据同步方法、装置、电子设备及存储介质
CN107943846A (zh) * 2017-11-01 2018-04-20 内蒙古科电数据服务有限公司 数据处理方法、装置及电子设备
CN108009883A (zh) * 2017-11-30 2018-05-08 泰康保险集团股份有限公司 用于订单处理的方法及装置

Also Published As

Publication number Publication date
CN109344142A (zh) 2019-02-15

Similar Documents

Publication Publication Date Title
CN109344142B (zh) 数据处理方法、装置、电子设备及存储介质
CN109947668B (zh) 存储数据的方法和装置
CN112597126B (zh) 一种数据迁移方法和装置
CN110689268B (zh) 一种提取指标的方法和装置
CN111125107A (zh) 数据处理方法、装置、电子设备和介质
US20240054110A1 (en) Method, apparatus and electronic device for creating quantum vehicle model parts basic database, and storage medium
CN107229674A (zh) 一种数据迁移装置、服务器及方法
CN116611411A (zh) 一种业务系统报表生成方法、装置、设备及存储介质
CN117591744A (zh) 查询方法及相关设备
CN111881110B (zh) 数据迁移方法及装置
CN112184370A (zh) 一种推送产品的方法和装置
CN110738509B (zh) 量化用户之间关联程度的方法和装置
CN117130979A (zh) 一种业务资源的迁移方法、装置及电子设备
CN109087097B (zh) 一种更新链码同一标识的方法和装置
CN115563310A (zh) 一种关键业务节点的确定方法、装置、设备及介质
CN114064693A (zh) 处理账户数据的方法、装置、电子设备和计算机可读介质
CN110110211B (zh) 基于通用模型的数据查询方法和装置
CN107463628A (zh) 数据填充方法及其系统
CN109543079B (zh) 数据查询方法、装置、计算设备及存储介质
CN113590322A (zh) 一种数据处理方法和装置
CN110019671B (zh) 一种处理实时消息的方法和系统
CN110851533A (zh) 跨异构数据库的数据同步方法、装置、介质及电子设备
CN110851438A (zh) 一种数据库索引优化建议与验证的方法和装置
CN112667627B (zh) 一种数据处理方法及装置
CN111290927A (zh) 一种数据监控方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant