CN110175163A - 基于业务功能智能解析的多库分离方法、系统及介质 - Google Patents
基于业务功能智能解析的多库分离方法、系统及介质 Download PDFInfo
- Publication number
- CN110175163A CN110175163A CN201910440746.7A CN201910440746A CN110175163A CN 110175163 A CN110175163 A CN 110175163A CN 201910440746 A CN201910440746 A CN 201910440746A CN 110175163 A CN110175163 A CN 110175163A
- Authority
- CN
- China
- Prior art keywords
- data
- access
- migration
- sentence
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/214—Database migration support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/217—Database tuning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Quality & Reliability (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种基于业务数据智能解析的多库分离方法，包括：获取前端业务数据的访问请求；对访问请求进行语义分析；对访问对象情况进行分析，生成访问策略，根据语句的类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；定期智能分析访问频率表中的对象，生成迁移策略；对业务数据进行分析确定访问频率表中需要迁移的对象；将确定需要迁移的对象迁移到相应的数据库中；数据迁移完成后，更新数据访问策略，将迁移前的数据库进行数据清理。该方法对业务访问的数据进行分类和智能分析，能自动分析和探测业务处理数据库对象的访问频率及访问内容，完成对象自动迁移和清理，实现多数据库的数据物理分离、读写分离。
Description
技术领域
本发明涉及数据处理技术领域，具体涉及一种通过业务功能智能解析的多库分离方法、系统、终端及介质。
背景技术
目前大型企业的核心信息化交易系统主要以关系型数据库为主，通过关系型数据库对业务数据进行增删改查操作来实现复杂的业务逻辑，信息化系统的数据库容量基本超过TB级，甚至达PB级。核心数据库中单表数据高达到100G以上，有的甚至达TB级以上，大表查询往往影响数据库的查询效率，影响业务处理流程，系统性能大大降低。
系统设计初期，数据库存储容量规划缺乏有效的数据依据，信息系统设计人员对业务的后期数据增长量评估不准确，导致数据库的存储容量无法承载业务数据。前期规划中存储硬件比较旧，存储硬件支持的容量存在局限性，数据库无法扩容存储，因而需要人工对生产数据库进行人工转储或清理，需要耗费大量的人力及时间成本。同时还需要承担人为误操作而带来的损失；数据迁移之后，前台业务需要通过DBLINK跨数据库的方式对数据进行访问，不但加大了数据库管理员的维护难度，而且严重影响业务系统的性能。
人工对数据库表数据进行数据转储，需要业务人员对预转储的表进行评估，根据业务的访问频率及前台业务需要查询周期来评判该表是否满足转储条件，而核心数据库中表的数量多达上百张，无法对所有表进行评估，因而只有少量的表可进行转储。
发明内容
针对现有技术中的缺陷，本发明实施例提供一种基于业务数据智能解析的多库分离方法、系统、终端及介质，对业务访问的数据进行分类和智能分析，能自动分析和探测业务处理数据库对象的访问频率及访问内容，完成对象自动迁移和清理，实现多数据库的数据物理分离、读写分离。
第一方面，本发明实施例提供的一种基于业务数据智能解析的多库分离方法，包括：
根据不同业务特点对数据库进行分类；
获取前端业务数据的访问请求；
对所述访问请求进行语义分析，根据语句类型对访问请求进行分类；对访问对象情况进行分析，生成访问策略，根据语句的类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；定期智能分析访问频率表中的对象，生成迁移策略；
对业务数据进行分析确定访问频率表中需要迁移的对象；将确定需要迁移的对象迁移到相应的数据库中；数据迁移完成后，更新数据访问策略，将迁移前的数据库进行数据清理。
可选地，语句类型包括查询语句和更新语句。
可选地，所述根据语句的类型执行相对应的访问策略的具体方法包括：
若语句类型为查询语句，则判断查询语句所需的访问数据是否在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据；
若语句类型为更新语句，则判断更新语句所需的数据块是否在数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。
可选地，所述对业务数据进行分析确定访问频率表中需要迁移的对象的具体方法包括：
智能分析访问频率表中的业务数据，根据业务数据的特点生成自动迁移脚本；
定时查询访问频率表，查看表中的对象的访问频率，将访问频率与预设访问频率的阈值进行比较；
若达到预设阈值，则所述对象为迁移对象。
第二方面，本发明实施例提供的一种基于业务数据智能解析的多库分离系统，包括数据库组、获取模块、智能分析模块和数据迁移模块，
所述数据库组根据不同业务特点进行分类；
所述获取模块用于获取前端业务数据的访问请求；
所述智能分析模块用于对所述访问请求进行语义分析，根据语句类型对访问请求进行分类；对访问对象情况进行分析，生成访问策略，根据语句的类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；定期智能分析访问频率表中的对象，生成迁移策略；
所述数据迁移模块用于根据迁移策略确定访问频率表中需要迁移的对象；将确定需要迁移的对象迁移到相应的数据库中；数据迁移完成后，更新数据访问策略，将迁移前的数据库进行数据清理。
可选地，语句类型包括查询语句和更新语句。
可选地，智能分析模块包括语义分析子模块，语义分析子模块包括查询语句分析单元和更新语句分析单元，
所述查询语句分析单元用于当语句类型为查询语句时，判断查询语句所需的访问数据是否在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据；
所述更新语句分析单元用于当语句类型为更新语句时，判断更新语句所需的数据块是否在数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。
可选地，所述数据库包括生产库和历史库，所述数据迁移模块包括迁移自动化脚本生成单元、历史库数据迁移单元和生产库数据清理单元，
所述自动化脚本生成单元用于智能分析访问频率表中的业务数据，根据业务数据的特点生成自动迁移脚本；
所述历史库数据迁移单元用于定时查询访问频率表，查看表中的对象的访问频率，将访问频率与预设访问频率的阈值进行比较，若达到预设阈值，则所述对象为迁移对象；
所述生产库数据清理单元用于在数据迁移完成后，更新数据访问策略，将迁移前的生产库进行数据清理。
第三方面，本发明实施例还提供一种智能终端，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行上述实施例描述的方法。
第四方面，本发明实施例还提供一种计算机可读存储介质，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行上述实施例描述的方法。
本发明的有益效果：
本发明实施例提供的基于业务数据智能解析的多库分离方法、系统、终端及介质，适用于海量存储、表设计规则和普通表命名方式的场景。对业务访问的数据进行分类和智能分析，能自动分析和探测业务处理数据库对象的访问频率及访问内容，完成对象自动迁移和清理，实现多数据库的数据物理分离、读写分离。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍。在所有附图中，类似的元件或部分一般由类似的附图标记标识。附图中，各元件或部分并不一定按照实际的比例绘制。
图1示出了本发明第一实施例所提供的一种基于业务数据智能解析的多库分离方法的流程图；
图2示出了本发明第二实施例所提供的一种基于业务数据智能解析的多库分离系统的结构示意图；
图3示出了本发明第三实施例所提供的智能终端的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
需要注意的是，除非另有说明，本申请使用的技术术语或者科学术语应当为本发明所属领域技术人员所理解的通常意义。
图1示出了本发明第一实施例所提供的一种基于业务数据智能解析的多库分离方法的流程图。该多库分离方法包括以下步骤：
S1:根据不同业务特点对数据库进行分类。
具体地，在本实施例中，数据库包括基础库、生产库、历史库、日志库和数据仓库。基础库用于存储业务所需要的配置文件数据；生产库用于存储生产业务、短信、语音等业务数据；日志库用于存储日志记录的相关数据；历史库用于存储短时间内的产生的业务数据；数据仓库用于存储长时间的业务数据。在本实施例中，生产库用于存储7天内产生的业务数据，历史库用于存储3个月内产生的业务数据，数据仓库可存储5～10年内的业务数据。将不同的数据存储在不同的数据库中，在进行数据访问时可提高访问速度。数据库需安装IAMAgent(智能分析模块代理)，并创建IAM相关数据的表。基础库、生产库、历史库、日志库和数据仓库均包括执行代理单元、对象采集单元和对象分析单元，执行代理单元用于将访问对象记录更新至访问频率表，查询数据缓存区是否有该条记录的缓存，如果没有则从数据库加载所需要的数据存放在数据缓存区，然后将数据返回给用户。对象采集单元用于采集存储访问对象信息。对象分析单元用于分析数据库中的对象信息，在发现有不适合存储在本数据库中的，可以迁移到其他数据库中。
S2:获取业务数据的访问请求。用户通过前端平台发起业务数据的访问请求。
S3:对所述访问请求进行语义分析，根据语句类型对访问请求进行分类；对访问对象情况进行分析，生成访问策略，根据语句的类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；定期智能分析访问频率表中的对象，生成迁移策略。
具体地，语句类型包括查询语句和更新语句，更新语句包括新增语句和修改语句。对访问请求进行语义分析，判断访问请求语句是查询语句还是更新语句，对访问请求进行分类。
根据语句的类型对业务对象进行分析，确定数据路由和访问策略。数据路由是指根据业务对象的存储位置确定访问存储业务对象数据的数据库，访问策略是指访问目标数据库的方法。
若语句类型为查询语句，则判断查询语句所需的访问数据是否在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据。
若语句类型为更新语句，则判断更新语句所需的数据块是否在数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。
S4:对业务数据进行分析确定访问频率表中需要迁移的对象；将确定需要迁移的对象迁移到相应的数据库中；数据迁移完成后，更新数据访问策略，将迁移前的数据库进行数据清理。
具体地，对业务数据进行分析确定访问频率表中需要迁移的对象的具体方法包括：智能分析访问频率表中的业务数据，根据业务数据的特点生成自动迁移脚本；定时查询访问频率表，查看表中的对象的访问频率，将访问频率与预设访问频率的阈值进行比较；若达到预设阈值，则所述对象为迁移对象。将确定需要迁移的对象迁移到相应的数据库中；数据迁移完成后，更新数据访问策略，将迁移前的数据库进行数据清理。
数据迁移的过程：1)语句解析方式，当前台业务需要对数据库进行查询执行如下SQL语句，
“select*from yt_report_info where reportKey＝'111682019-18831112494-4912010748125472476'”，智能分析模块首先会对该SQL语句进行语义分析，判断该SQL语句为查询语句，并记录该查询语句访问的对象为“yt_report_info”表，IAM Agent代理会将该对象记录更新至数据库的访问频率表，然后IAM Agent代理会查询数据缓存区是否有该条记录的Buffer，如果存在该条记录，则直接返回用户数据，如果数据缓存区没有该条记录的Buffer，则IAM会通过IAM Agent进程从数据库加载所需要的数据，存放在数据缓存区，然后将数据返回给用户。此过程中，首先IAM会向数据库加载一次数据到数据缓存区，然后在数据库中更新“yt_report_info”表的访问次数。
当前台业务需对数据库进行新增/更新时，执行SQL语句如下，
“insert into yt_report_gateway(cid,code,accountID,userName,rank,agentID,agentNam e,mobile,seqid,status,statusj,error,gateway,count,operaid,returntim e,receivetime,submmdd,mmdd,userCid)values(1115085366455678980,'5292533',110492,'302619',1,100000,'SYS','18526282947','3000030204081054031876233179','DELIVRD','DELIVRD','0',122684001,1,2,'2019-04-08 10:54:07.728','2019-04-0810:54:07.253','0408','0408','0,408105403,164275747')”。
智能分析模块同样对语义进行解析，判断该条语句为插入语句，并记录该条SQL语句的访问对象为“yt_report_gateway”表，IAM会将更新的数据放入数据库缓存区，然后由IAM Agent进程将更新的Buffer更新到数据库中。此过程中，首先IAM会更新数据缓存区的Buffer(缓存)，当Buffer到达一定的数量时，则有IAM Agent进程将Buffer更新到数据库，然后在数据库中更新“yt_report_gateway”表的访问次数。更新语句与插入语句过程类似，在此不再赘述。
2)迁移策略生成
智能分析模块定时会查询访问频率表，查看表的访问频率，根据访问频率设置的百分比阈值生成相应的迁移策略。
3)迁移执行
IAM Agent更新迁移策略，生产库的yt_report_success按指定业务条件迁移至历史库，同步完成IAM会将热点数据进行自清理。
当前台业务需要查询或这更新该表时，IAM Agent代理从历史库加载数据或更新该表的信息。
本发明实施例提供的基于业务数据智能解析的多库分离方法，适用于海量存储、表设计规则和普通表命名方式的场景。该方法对业务访问的数据进行分类和智能分析，能自动分析和探测业务处理数据库对象的访问频率及访问内容，完成对象自动迁移和清理，实现多数据库的数据物理分离、读写分离。
实施例2
在上述的第一实施例中，提供了一种基于业务数据智能解析的多库分离方法，与之相对应的，本申请还提供一种基于业务数据智能解析的多库分离系统。请参考图2，其为本发明第二实施例提供的一种基于业务数据智能解析的多库分离系统的示意图。由于装置实施例基本相似于方法实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。
本发明实施例提供的一种基于业务数据智能解析的多库分离系统，包括数据库组、获取模块、智能分析模块和数据迁移模块，所述数据库组根据不同业务特点进行分类；所述获取模块用于获取前端业务数据的访问请求；所述智能分析模块用于对所述访问请求进行语义分析，根据语句类型对访问请求进行分类；对访问对象情况进行分析，生成访问策略，根据语句的类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；定期智能分析访问频率表中的对象，生成迁移策略；所述数据迁移模块用于根据迁移策略确定访问频率表中需要迁移的对象；将确定需要迁移的对象迁移到相应的数据库中；数据迁移完成后，更新数据访问策略，将迁移前的数据库进行数据清理。语句类型包括查询语句和更新语句。
智能分析模块包括语义分析子模块，语义分析子模块包括查询语句分析单元和更新语句分析单元，
查询语句分析单元用于当语句类型为查询语句时，判断查询语句所需的访问数据是否在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据；
更新语句分析单元用于当语句类型为更新语句时，判断更新语句所需的数据块是否在数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。
智能分析模块还包括对象分析子模块、访问策略子模块、对象跟踪子模块、数据路由子模块和迁移策略子模块，对象分析子模块用于对访问对象进行分析。访问策略子模块用于生成和存储访问策略。对象跟踪子模块用于对访问请求的流程和访问的页面进行跟踪和监控，便于数据分析。数据路由子模块用于根据访问策略确定访问的目标数据库。迁移策略子模块用于定期智能分析访问频率表中的对象，生成迁移策略并储存迁移策略。
数据库包括生产库和历史库，所述数据迁移模块包括迁移自动化脚本生成单元、历史库数据迁移单元和生产库数据清理单元，自动化脚本生成单元用于智能分析访问频率表中的业务数据，根据业务数据的特点生成自动迁移脚本；历史库数据迁移单元用于定时查询访问频率表，查看表中的对象的访问频率，将访问频率与预设访问频率的阈值进行比较，若达到预设阈值，则表中的对象对象为迁移对象；生产库数据清理单元用于在数据迁移完成后，更新数据访问策略，将迁移前的生产库进行数据清理。
以上，为本发明第二实施例提供的一种基于业务数据智能解析的多库分离系统的实施例说明。
本发明提供的一种基于业务数据智能解析的多库分离系统与上述基于业务数据智能解析的多库分离方法出于相同的发明构思，具有相同的有益效果。本发明实施例提供的基于业务数据智能解析的多库分离系统，对业务访问的数据进行分类和智能分析，能自动分析和探测业务处理数据库对象的访问频率及访问内容，完成对象自动迁移和清理，实现多数据库的数据物理分离、读写分离。
实施例3
在本发明还提供一种智能终端的第一实施例，如图3所示，示出了智能终端的结构示意图，该终端包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行上述实施例描述的方法。
应当理解，在本发明实施例中，所称处理器可以是中央处理单元(CentralProcessing Unit，CPU)，该处理器还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
输入设备可以包括触控板、指纹采传感器(用于采集用户的指纹信息和指纹的方向信息)、麦克风等，输出设备可以包括显示器(LCD等)、扬声器等。
该存储器可以包括只读存储器和随机存取存储器，并向处理器提供指令和数据。存储器的一部分还可以包括非易失性随机存取存储器。例如，存储器还可以存储设备类型的信息。
具体实现中，本发明实施例中所描述的处理器、输入设备、输出设备可执行本发明实施例提供的方法实施例所描述的实现方式，也可执行本发明实施例所描述的系统实施例的实现方式，在此不再赘述。
实施例4
在本发明实施例还提供一种计算机可读存储介质的，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执上述第一实施例描述的方法。
所述计算机可读存储介质可以是前述实施例所述的终端的内部存储单元，例如终端的硬盘或内存。所述计算机可读存储介质也可以是所述终端的外部存储设备，例如所述终端上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(SecureDigital,SD)卡，闪存卡(Flash Card)等。进一步地，所述计算机可读存储介质还可以既包括所述终端的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述终端所需的其他程序和数据。所述计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的终端和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露终端和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。
最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围，其均应涵盖在本发明的权利要求和说明书的范围当中。
Claims (10)
1.一种基于业务数据智能解析的多库分离方法，其特征在于，包括：
根据不同业务特点对数据库进行分类；
获取前端业务数据的访问请求；
对所述访问请求进行语义分析，根据语句类型对访问请求进行分类；对访问对象情况进行分析，生成访问策略，根据语句的类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；定期智能分析访问频率表中的对象，生成迁移策略；
对业务数据进行分析确定访问频率表中需要迁移的对象；将确定需要迁移的对象迁移到相应的数据库中；数据迁移完成后，更新数据访问策略，将迁移前的数据库进行数据清理。
2.如权利要求1所述的基于业务数据智能解析的多库分离方法，其特征在于，所述语句类型包括查询语句和更新语句。
3.如权利要求2所述的基于业务数据智能解析的多库分离方法，其特征在于，所述根据语句的类型执行相对应的访问策略的具体方法包括：
若语句类型为查询语句，则判断查询语句所需的访问数据是否在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据；
若语句类型为更新语句，则判断更新语句所需的数据块是否在数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。
4.如权利要求2所述的基于业务数据智能解析的多库分离方法，其特征在于，所述对业务数据进行分析确定访问频率表中需要迁移的对象的具体方法包括：
智能分析访问频率表中的业务数据，根据业务数据的特点生成自动迁移脚本；
定时查询访问频率表，查看表中的对象的访问频率，将访问频率与预设访问频率的阈值进行比较；
若达到预设阈值，则所述对象为迁移对象。
5.一种基于业务数据智能解析的多库分离系统，其特征在于，包括数据库组、获取模块、智能分析模块和数据迁移模块，
所述数据库组根据不同业务特点进行分类；
所述获取模块用于获取前端业务数据的访问请求；
所述智能分析模块用于对所述访问请求进行语义分析，根据语句类型对访问请求进行分类；对访问对象情况进行分析，生成访问策略，根据语句的类型执行相对应的访问策略，对语句访问对象信息进行记录，生成访问频率表；定期智能分析访问频率表中的对象，生成迁移策略；
所述数据迁移模块用于根据迁移策略确定访问频率表中需要迁移的对象；将确定需要迁移的对象迁移到相应的数据库中；数据迁移完成后，更新数据访问策略，将迁移前的数据库进行数据清理。
6.如权利要求5所述的基于业务数据智能解析的多库分离系统，其特征在于，所述语句类型包括查询语句和更新语句。
7.如权利要求6所述的基于业务数据智能解析的多库分离系统，其特征在于，智能分析模块包括语义分析子模块，语义分析子模块包括查询语句分析单元和更新语句分析单元，
所述查询语句分析单元用于当语句类型为查询语句时，判断查询语句所需的访问数据是否在数据缓存区，若是，则直接返回用户访问的数据；若否，则从目标数据库中将访问的数据加载到数据缓存区，再向用户返回访问的数据；
所述更新语句分析单元用于当语句类型为更新语句时，判断更新语句所需的数据块是否在数据缓存区，若是，则在数据缓存区更新数据；若否，则将更新的数据写入目标数据库。
8.如权利要求6所述的业务数据智能解析的多库分离系统，其特征在于，所述数据库包括生产库和历史库，所述数据迁移模块包括迁移自动化脚本生成单元、历史库数据迁移单元和生产库数据清理单元，
所述自动化脚本生成单元用于智能分析访问频率表中的业务数据，根据业务数据的特点生成自动迁移脚本；
所述历史库数据迁移单元用于定时查询访问频率表，查看表中的对象的访问频率，将访问频率与预设访问频率的阈值进行比较，若达到预设阈值，则所述对象为迁移对象；
所述生产库数据清理单元用于在数据迁移完成后，更新数据访问策略，将迁移前的生产库进行数据清理。
9.一种智能终端，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，其特征在于，所述处理器被配置用于调用所述程序指令，执行如权利要求1-4任一项所述的方法。
10.一种计算机可读存储介质，其特征在于，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行如权利要求1-4任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910440746.7A CN110175163A (zh) | 2019-05-24 | 2019-05-24 | 基于业务功能智能解析的多库分离方法、系统及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201910440746.7A CN110175163A (zh) | 2019-05-24 | 2019-05-24 | 基于业务功能智能解析的多库分离方法、系统及介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN110175163A true CN110175163A (zh) | 2019-08-27 |
Family
ID=67695674
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201910440746.7A Pending CN110175163A (zh) | 2019-05-24 | 2019-05-24 | 基于业务功能智能解析的多库分离方法、系统及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110175163A (zh) |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111367890A (zh) * | 2020-03-13 | 2020-07-03 | 深圳壹账通智能科技有限公司 | 一种数据迁移的方法、装置、计算机设备及可读存储介质 |
| CN111782692A (zh) * | 2020-06-01 | 2020-10-16 | 京东数字科技控股有限公司 | 一种频率控制方法及装置 |
| CN112579705A (zh) * | 2019-09-27 | 2021-03-30 | 北京国双科技有限公司 | 元数据采集方法、装置、计算机设备和存储介质 |
| CN112667632A (zh) * | 2020-12-24 | 2021-04-16 | 浙江大华技术股份有限公司 | 一种元数据处理方法及装置 |
| CN112860188A (zh) * | 2021-02-09 | 2021-05-28 | 山东英信计算机技术有限公司 | 一种数据迁移方法、系统、设备以及介质 |
| CN112883124A (zh) * | 2021-03-17 | 2021-06-01 | 重庆紫光华山智安科技有限公司 | 数据处理方法、装置、计算机设备及存储介质 |
| CN113064912A (zh) * | 2021-03-24 | 2021-07-02 | 西安热工研究院有限公司 | 一种dcs后台快速查询历史告警信息的方法 |
| CN113849476A (zh) * | 2020-06-28 | 2021-12-28 | 中兴通讯股份有限公司 | 数据迁移方法、装置、网络设备和存储介质 |
| CN114442934A (zh) * | 2021-12-27 | 2022-05-06 | 天翼云科技有限公司 | 数据处理方法、装置及存储引擎 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20070136308A1 (en) * | 2005-09-30 | 2007-06-14 | Panagiotis Tsirigotis | Accumulating access frequency and file attributes for supporting policy based storage management |
| CN103106045A (zh) * | 2012-12-20 | 2013-05-15 | 华为技术有限公司 | 数据迁移方法和系统、主机端设备 |
| CN106897409A (zh) * | 2017-02-16 | 2017-06-27 | 北京致远互联软件股份有限公司 | 数据分库存储方法及装置 |
| CN109597829A (zh) * | 2018-11-20 | 2019-04-09 | 南京邮电大学 | 一种实现可搜索加密关系型数据库缓存的中间件方法 |
| CN109614039A (zh) * | 2018-11-26 | 2019-04-12 | 新华三大数据技术有限公司 | 数据迁移方法及装置 |
-
2019
- 2019-05-24 CN CN201910440746.7A patent/CN110175163A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20070136308A1 (en) * | 2005-09-30 | 2007-06-14 | Panagiotis Tsirigotis | Accumulating access frequency and file attributes for supporting policy based storage management |
| CN103106045A (zh) * | 2012-12-20 | 2013-05-15 | 华为技术有限公司 | 数据迁移方法和系统、主机端设备 |
| CN106897409A (zh) * | 2017-02-16 | 2017-06-27 | 北京致远互联软件股份有限公司 | 数据分库存储方法及装置 |
| CN109597829A (zh) * | 2018-11-20 | 2019-04-09 | 南京邮电大学 | 一种实现可搜索加密关系型数据库缓存的中间件方法 |
| CN109614039A (zh) * | 2018-11-26 | 2019-04-12 | 新华三大数据技术有限公司 | 数据迁移方法及装置 |
Cited By (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112579705A (zh) * | 2019-09-27 | 2021-03-30 | 北京国双科技有限公司 | 元数据采集方法、装置、计算机设备和存储介质 |
| CN111367890A (zh) * | 2020-03-13 | 2020-07-03 | 深圳壹账通智能科技有限公司 | 一种数据迁移的方法、装置、计算机设备及可读存储介质 |
| CN111782692A (zh) * | 2020-06-01 | 2020-10-16 | 京东数字科技控股有限公司 | 一种频率控制方法及装置 |
| CN111782692B (zh) * | 2020-06-01 | 2024-04-16 | 京东科技控股股份有限公司 | 一种频率控制方法及装置 |
| CN113849476A (zh) * | 2020-06-28 | 2021-12-28 | 中兴通讯股份有限公司 | 数据迁移方法、装置、网络设备和存储介质 |
| CN112667632A (zh) * | 2020-12-24 | 2021-04-16 | 浙江大华技术股份有限公司 | 一种元数据处理方法及装置 |
| CN112667632B (zh) * | 2020-12-24 | 2024-02-02 | 浙江大华技术股份有限公司 | 一种元数据处理方法及装置 |
| CN112860188A (zh) * | 2021-02-09 | 2021-05-28 | 山东英信计算机技术有限公司 | 一种数据迁移方法、系统、设备以及介质 |
| CN112883124B (zh) * | 2021-03-17 | 2022-12-02 | 重庆紫光华山智安科技有限公司 | 数据处理方法、装置、计算机设备及存储介质 |
| CN112883124A (zh) * | 2021-03-17 | 2021-06-01 | 重庆紫光华山智安科技有限公司 | 数据处理方法、装置、计算机设备及存储介质 |
| CN113064912A (zh) * | 2021-03-24 | 2021-07-02 | 西安热工研究院有限公司 | 一种dcs后台快速查询历史告警信息的方法 |
| CN114442934A (zh) * | 2021-12-27 | 2022-05-06 | 天翼云科技有限公司 | 数据处理方法、装置及存储引擎 |
| CN114442934B (zh) * | 2021-12-27 | 2024-01-02 | 天翼云科技有限公司 | 数据处理方法、装置及存储引擎 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110175163A (zh) | 基于业务功能智能解析的多库分离方法、系统及介质 | |
| CN107506451B (zh) | 用于数据交互的异常信息监控方法及装置 | |
| CN102236672B (zh) | 一种数据导入方法及装置 | |
| CN102542382A (zh) | 业务规则的管理方法和装置 | |
| CN110175206A (zh) | 用于多数据库分离的智能分析业务方法、系统及介质 | |
| EP2797013A1 (en) | Database update execution according to power management schemes | |
| CN109344153A (zh) | 业务数据的处理方法及终端设备 | |
| US20060225026A1 (en) | User-defined type consistency checker | |
| CN104408073B (zh) | 数据操作方法和装置 | |
| CN108108483B (zh) | 基于SpringAop拦截DAO层校验SQL的方法、装置和系统 | |
| CN106803799A (zh) | 一种性能测试方法和装置 | |
| CN105989163A (zh) | 数据实时处理方法及系统 | |
| US9740994B2 (en) | Simulation of supply chain plans using data model | |
| US10089385B2 (en) | Method and apparatus for asynchroinzed de-serialization of E-R model in a huge data trunk | |
| CN110399089B (zh) | 数据存储方法、装置、设备和介质 | |
| CN106021566A (zh) | 一种提高单台数据库并发处理能力的方法、装置及系统 | |
| WO2023165271A1 (zh) | 知识图谱的构建、和图计算 | |
| CN114564500A (zh) | 在区块链系统中实现结构化数据存储和查询的方法和系统 | |
| CN114443615A (zh) | 数据库管理系统、相关装置、方法和介质 | |
| CN107783728A (zh) | 数据存储方法、装置和设备 | |
| CN115329011A (zh) | 数据模型的构建方法、数据查询的方法、装置及存储介质 | |
| CN111913937B (zh) | 数据库运维方法和装置 | |
| CN111523921B (zh) | 漏斗分析方法、分析设备、电子设备及可读存储介质 | |
| CN116089518A (zh) | 一种数据模型抽取方法及系统、终端、介质 | |
| CN104111962A (zh) | 具有批量操作的增强型事务高速缓存 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |