CN115640278B - 一种数据库性能智能优化的方法及系统 - Google Patents
一种数据库性能智能优化的方法及系统 Download PDFInfo
- Publication number
- CN115640278B CN115640278B CN202211219319.4A CN202211219319A CN115640278B CN 115640278 B CN115640278 B CN 115640278B CN 202211219319 A CN202211219319 A CN 202211219319A CN 115640278 B CN115640278 B CN 115640278B
- Authority
- CN
- China
- Prior art keywords
- database performance
- model
- execution
- database
- performance optimization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 28
- 238000005457 optimization Methods 0.000 claims abstract description 219
- 238000002360 preparation method Methods 0.000 claims abstract description 7
- 238000012544 monitoring process Methods 0.000 claims abstract description 6
- 238000012549 training Methods 0.000 claims description 26
- 238000009826 distribution Methods 0.000 claims description 9
- 238000007781 pre-processing Methods 0.000 claims description 9
- 238000003860 storage Methods 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 4
- 238000013144 data compression Methods 0.000 claims description 3
- 238000007726 management method Methods 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 230000004044 response Effects 0.000 claims description 3
- 238000010219 correlation analysis Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种数据库性能智能优化的方法及系统，该方法包括：根据预设数据库性能参数及运行环境参数，建立数据库性能优化模型，并对其进行初始化；实时对数据库系统执行的任务指令进行监听，根据任务类型调用所述数据库性能优化模型执行所述任务指令，并在任务执行结束后生成模型调用结果；根据所述模型调用结果，调整所述数据库性能优化参数，对所述数据库性能优化模型进行训练，得到优化后的数据库性能优化模型；根据优化后的所述数据库性能优化模型，对所述数据库系统进行自动优化配置；其中，所述建立数据库性能优化模型的步骤包括数据准备、特征关联、运行并确定最终优化模型，从而提升了数据库系统性能优化的实时性和全面性。
Description
技术领域
本申请涉及数据库技术领域，更具体地，涉及一种数据库性能智能优化的方法及系统。
背景技术
数据库性能取决于诸多因素，从操作系统来说，涉及执行任务的线程数、系统参数配置等；从数据库层面来说，涉及表结构、存储方式、查询方案、SQL执行顺序、参数设置、数据存储位置等；从硬件的层面来说，涉及磁盘吞吐量、寻道时间、内存空间、CPU资源等。因此，数据库性能的优化，可以从硬件系统、操作系统和数据库本身多个层面进行调整和优化。
当前，数据库性能优化的方案涵盖了硬件层面的优化、操作系统的优化和数据库系统优化，具体方案包括磁盘寻道优化、磁盘读写优化、CPU计算资源优化、内存优化、分库分表、分布式缓存优化、一主多备、存储系统优化、命令查询分离(CQS)、数据同步、查询计划优化等，其中有单一优化方案的应用，也有多种优化方案组合的应用。但是，无论哪种优化方案都要依赖于技术人员的手动配置或部署，优化的内容也只是针对数据库性能可优化的一部分进行调整，使得数据库性能的优化无法实现自动的智能优化，且无法为数据库性能的提升提供整体的优化，所谓的性能提升也仅仅局限于局部性能的提升，导致数据库性能优化遇到瓶颈，提升困难、优化方案提出总是跟不上系统需求，且耗费了大量的人力、物力和时间成本。
基于此，有必要引入一种新的方法及系统，能够自动化综合多方面数据库性能的影响因素，快速地提供覆盖硬件系统、操作系统和数据库系统三层的整体优化方案，以解决现有技术中数据库性能优化方案的局限性、延迟性和依赖性，进而快速、全面地提升数据库系统的整体性能，实现数据库性能优化的自动化和智能化。
发明内容
针对上面提到的技术问题，本发明提供一种数据库性能智能优化的方法及系统，通过数据库的性能参数与运行环境参数的关联分析，构建数据库性能优化模型，并数据库操作类型和数据库性能优化模型的调用结果，在数据库系统闲置时，通过动态调整数据库系统的运行参数，完成数据库性能优化模型的智能化训练和配置优化，进而实现从软件和硬件多个层面对数据库性能进行智能优化，解决了当前数据库性能优化依赖于技术人员的手动配置或部署的技术难题，提升了数据库系统性能优化的实时性和全面性，以及数据库系统运行的性能、运维效率和资源利用率，且节省了大量的人力、物力和时间成本。
本发明提供一种数据库性能智能优化方法，所述方法包括：
步骤1：模型初始化，根据预设数据库性能参数及运行环境参数，建立数据库性能优化模型，并对其进行初始化；
步骤2：模型调用，实时对数据库系统执行的任务指令进行监听，根据任务类型调用所述数据库性能优化模型执行所述任务指令，并在任务执行结束后生成模型调用结果；
步骤3：模型训练，根据所述模型调用结果，调整所述数据库性能优化参数，对所述数据库性能优化模型进行训练，得到优化后的数据库性能优化模型；
步骤4：模型配置优化，根据优化后的所述数据库性能优化模型，对所述数据库系统进行自动优化配置；
其中，所述建立数据库性能优化模型的步骤为：
数据准备，将数据库性能参数与运行环境参数进行分类并标记关键参数；
特征关联，将数据库性能参数与运行环境参数进行分析，根据分析结果进行特征关联，得到参数特征关联集合；
运行并确定最终优化模型。
如上所述，将数据库性能参数与运行环境参数进行分析，根据分析结果进行特征关联的步骤为：
1)配置所述运行环境参数，将每个所述运行环境参数的最小值作为初始值；
2)根据数据操作类型，将所述运行环境参数的初始值输入所述数据库性能优化模型，得到初始数据库性能运行结果；
3)按照预设增量值逐一增加所述运行环境参数的初始值，得到所述运行环境参数的增量值，并将所述增量值分别输入所述数据库性能优化模型，得到增量数据库性能运行结果；
4)分析所述初始数据库性能运行结果和所述增量数据库性能运行结果，确定所述运行环境参数与所述数据库性能参数的关联特征，得到参数特征关联集合；
其中，所述操作类型包括增加、删除、修改和查询，预设增量值为数据库管理人员设置默认值。
所述预设数据库性能参数包括：单位时间处理的并发事务数、请求响应时间、单条SQL指令执行时间、数据压缩比、批量查询速度；
所述运行环境参数包括：处理器数量、缓存类型、缓存空间大小、存储空间大小、磁盘读写速度、核心线程数、内存空间大小、执行优化方案、数据分布、表查询顺序。
如上所述，根据任务类型调用所述数据库性能优化模型执行所述任务指令的步骤为：
对SQL指令进行解析，得到执行计划，并判断确定所述执行计划的操作类型；
根据所述操作类型确定对应的数据库性能优化模型，如果存在与所述操作类型对应的数据库性能优化模型，则按照所述数据库性能优化模型执行所述执行计划，并标记所述模型调用结果为true；如果不存在与所述类型对应的数据库性能优化模型，则按照初始化的数据库性能优化模型执行所述执行计划，并标记所述模型调用结果为false；
任务执行完成，返回执行结果。
如上所述，根据所述模型调用结果，调整所述数据库性能优化参数，对所述数据库性能优化模型进行训练的具体步骤为：
1)根据所述模型调用结果，对所述数据库性能优化模型进行预处理；
2)数据库性能优化模型训练，根据预处理结果和所述参数特征关联集合分析影响数据库性能的所述运行环境参数，对所述运行环境参数进行调优处理，得到数据库性能优化结果；
3)分析模型训练结果，将所述数据库性能优化结果和所述模型调用结果进行比较分析，得到最优的所述参数特征关联集合；并根据所述参数特征关联集合，确定所述运行环境参数的值；
4)确定数据库性能优化模型，将所述运行环境参数的值进行计算，得到优化后的数据库性能优化模型；
如上所述，根据所述模型调用结果，对所述数据库性能优化模型进行预处理，所述预处理的步骤为：
如果所述模型调用结果为true，则将调用的所述数据库性能模型的数据库性能参数值与数据库性能参数阈值进行比较；
如果所述模型调用结果为false，则根据所述操作类型初始化对应的数据库性能优化模型。
其中，所述数据库性能参数阈值为数据库管理人员根据所述预设数据库性能参数预设的参数指标，用于评价数据库运行性能。
如上所述，对所述运行环境参数进行调优处理，所述调优处理的步骤为：
1)分别调用系统提供的每个所述执行优化方案替代数据库性能优化模型中的执行优化方案，执行所述执行计划，并对执行结果进行比较，得到第一数据库性能优化结果；
2)根据所述执行计划获得任务执行中涉及的数据表，并根据数据表的从小到大的顺序重新排列所述表查询顺序，执行所述执行计划，并对执行结果进行比较，得到第二数据库性能优化结果；
3)根据所述数据表中数据在数据库中的分布区域，重新调整所述数据分布，并执行所述执行计划，对执行结果进行比较，得到第三数据库性能优化结果；
4)分别调整所述处理器数量、所述缓存类型、所述缓存空间大小、所述存储空间大小、所述磁盘读写速度、所述核心线程数和所述内存空间大小，并分别得到对应的执行结果，对执行结果进行比较，得到第四数据库性能优化结果；
5)将第一数据库性能优化结果、第二数据库性能优化结果、第三数据库性能优化结果和第四数据库性能优化结果对应的所述运行环境参数进行组合，得到所述数据库性能优化结果。
其中，所述执行优化方案包括：
对所述执行计划进行解析，得到对应第一执行计划树和第一执行代价；
根据执行节点对所述执行计划树进行分解，并对分解后的所述执行节点按照所述运行环境参数进行映射，得到与所述运行环境参数匹配的执行树；
将所述执行树的执行节点合并输出，得到第二执行计划树和第二执行代价；
将第一执行代价与第二执行代价进行比较，如果第一执行代价大于第二执行代价，则选择第一执行计划树作为所述执行优化方案；如果第一执行代价小于第二执行代价，则选择第二执行计划树作为所述执行优化方案。
相应的，本发明还提供了一种实施所述数据库性能智能优化方法的系统，所述系统包括模型初始化模块、模型调用模块、模型训练模块和配置优化模块，其中，
模型初始化模块用于根据预设数据库性能参数及运行环境参数，建立数据库性能优化模型，并对其进行初始化；
模型调用模块用于实时对数据库系统执行的任务指令进行监听，根据任务类型调用所述数据库性能优化模型执行所述任务指令，并在任务执行结束后生成模型调用结果；
模型训练模块用于根据所述模型调用结果，调整所述数据库性能优化参数，对所述数据库性能优化模型进行训练，得到优化后的数据库性能优化模型；
配置优化模块用于根据优化后的所述数据库性能优化模型，对所述数据库系统进行自动优化配置；
所述建立数据库性能优化模型的步骤为：
数据准备，将数据库性能参数与运行环境参数进行分类并标记关键参数；
特征关联，将数据库性能参数与运行环境参数进行分析，根据分析结果进行特征关联，得到参数特征关联集合；
运行并确定最终优化模型。
本发明通过应用以上技术方案，实现了通过数据库的性能参数与运行环境参数的关联分析，构建数据库性能优化模型，并数据库操作类型和数据库性能优化模型的调用结果，在数据库系统闲置时，通过动态调整数据库系统的运行参数，完成数据库性能优化模型的智能化训练和配置优化，避免了数据库性能优化依赖于技术人员的手动配置或部署，或对数据库性能的优化仅仅局限于部分数据库系统运行的参数，进而实现了从软件和硬件多个层面对数据库性能进行智能优化，提升了数据库系统性能优化的实时性和全面性，以及数据库系统运行的性能、运维效率和资源利用率，且节省了大量的人力、物力和时间成本。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1示出了本发明实施例提出的一种数据库性能智能优化方法的流程示意图；
图2示出了本发明实施例提出的一种数据库性能智能优化方法的数据库性能参数与运行环境参数特征关联的流程示意图；
图3示出了本发明实施例提出的一种数据库性能智能优化方法的数据库性能优化模型训练的流程示意图；
图4示出了本发明实施例提出的一种数据库性能智能优化方法的对运行环境参数进行调优处理的流程示意图；
图5示出了本发明实施例提出的一种数据库性能智能优化系统的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
如图1所示，本发明的一种数据库性能智能优化方法，所述方法包括以下步骤：
S101，模型初始化，根据预设数据库性能参数及运行环境参数，建立数据库性能优化模型，并对其进行初始化；
其中，所述建立数据库性能优化模型的步骤为：
数据准备，将数据库性能参数与运行环境参数进行分类并标记关键参数；
特征关联，将数据库性能参数与运行环境参数进行分析，根据分析结果进行特征关联，得到参数特征关联集合；
运行并确定最终优化模型；
S102，模型调用，实时对数据库系统执行的任务指令进行监听，根据任务类型调用所述数据库性能优化模型执行所述任务指令，并在任务执行结束后生成模型调用结果；
其中，根据任务类型调用所述数据库性能优化模型执行所述任务指令的步骤为：
对SQL指令进行解析，得到执行计划，并判断确定所述执行计划的操作类型；
根据所述操作类型确定对应的数据库性能优化模型，如果存在与所述操作类型对应的数据库性能优化模型，则按照所述数据库性能优化模型执行所述执行计划，并标记所述模型调用结果为true；如果不存在与所述类型对应的数据库性能优化模型，则按照初始化的数据库性能优化模型执行所述执行计划，并标记所述模型调用结果为false；
任务执行完成，返回执行结果。
S103，模型训练，根据所述模型调用结果，调整所述数据库性能优化参数，对所述数据库性能优化模型进行训练，得到优化后的数据库性能优化模型；
S104，模型配置优化，根据优化后的所述数据库性能优化模型，对所述数据库系统进行自动优化配置。
如图2所示，将数据库性能参数与运行环境参数进行分析，根据分析结果进行特征关联的步骤为：
S201，配置所述运行环境参数，将每个所述运行环境参数的最小值作为初始值；
S202，根据数据操作类型，将所述运行环境参数的初始值输入所述数据库性能优化模型，得到初始数据库性能运行结果；
S203，按照预设增量值逐一增加所述运行环境参数的初始值，得到所述运行环境参数的增量值，并将所述增量值分别输入所述数据库性能优化模型，得到增量数据库性能运行结果；
S204，分析所述初始数据库性能运行结果和所述增量数据库性能运行结果，确定所述运行环境参数与所述数据库性能参数的关联特征，得到参数特征关联集合；
其中，所述操作类型包括增加、删除、修改和查询，预设增量值为数据库管理人员设置默认值。
所述预设数据库性能参数包括：单位时间处理的并发事务数、请求响应时间、单条SQL指令执行时间、数据压缩比、批量查询速度；
所述运行环境参数包括：处理器数量、缓存类型、缓存空间大小、存储空间大小、磁盘读写速度、核心线程数、内存空间大小、执行优化方案、数据分布、表查询顺序。
如图3所示，根据所述模型调用结果，调整所述数据库性能优化参数，对所述数据库性能优化模型进行训练的具体步骤为：
S301，根据所述模型调用结果，对所述数据库性能优化模型进行预处理；
其中，所述预处理的步骤为：
如果所述模型调用结果为true，则将调用的所述数据库性能模型的数据库性能参数值与数据库性能参数阈值进行比较；
如果所述模型调用结果为false，则根据所述操作类型初始化对应的数据库性能优化模型。
所述数据库性能参数阈值为数据库管理人员根据所述预设数据库性能参数预设的参数指标，用于评价数据库运行性能。
S302，数据库性能优化模型训练，根据预处理结果和所述参数特征关联集合分析影响数据库性能的所述运行环境参数，对所述运行环境参数进行调优处理，得到数据库性能优化结果；
S303，分析模型训练结果，将所述数据库性能优化结果和所述模型调用结果进行比较分析，得到最优的所述参数特征关联集合；并根据所述参数特征关联集合，确定所述运行环境参数的值；
S304，确定数据库性能优化模型，将所述运行环境参数的值进行计算，得到优化后的数据库性能优化模型；
如图4所示，对所述运行环境参数进行调优处理，所述调优处理的步骤为：
S401，分别调用系统提供的每个所述执行优化方案替代数据库性能优化模型中的执行优化方案，执行所述执行计划，并对执行结果进行比较，得到第一数据库性能优化结果；
S402，根据所述执行计划获得任务执行中涉及的数据表，并根据数据表的从小到大的顺序重新排列所述表查询顺序，执行所述执行计划，并对执行结果进行比较，得到第二数据库性能优化结果；
其中，所述执行优化方案包括：
对所述执行计划进行解析，得到对应第一执行计划树和第一执行代价；
根据执行节点对所述执行计划树进行分解，并对分解后的所述执行节点按照所述运行环境参数进行映射，得到与所述运行环境参数匹配的执行树；
将所述执行树的执行节点合并输出，得到第二执行计划树和第二执行代价；
将第一执行代价与第二执行代价进行比较，如果第一执行代价大于第二执行代价，则选择第一执行计划树作为所述执行优化方案；如果第一执行代价小于第二执行代价，则选择第二执行计划树作为所述执行优化方案；
S403，根据所述数据表中数据在数据库中的分布区域，重新调整所述数据分布，并执行所述执行计划，对执行结果进行比较，得到第三数据库性能优化结果；
S404，分别调整所述处理器数量、所述缓存类型、所述缓存空间大小、所述存储空间大小、所述磁盘读写速度、所述核心线程数和所述内存空间大小，并分别得到对应的执行结果，对执行结果进行比较，得到第四数据库性能优化结果；
S405，将第一数据库性能优化结果、第二数据库性能优化结果、第三数据库性能优化结果和第四数据库性能优化结果对应的所述运行环境参数进行组合，得到所述数据库性能优化结果。
如图5所示，本发明公开了一种数据库性能智能优化系统，所述系统包括模型初始化模块、模型调用模块、模型训练模块和配置优化模块，其中：
模型初始化模块用于根据预设数据库性能参数及运行环境参数，建立数据库性能优化模型，并对其进行初始化；
模型调用模块用于实时对数据库系统执行的任务指令进行监听，根据任务类型调用所述数据库性能优化模型执行所述任务指令，并在任务执行结束后生成模型调用结果；
模型训练模块用于根据所述模型调用结果，调整所述数据库性能优化参数，对所述数据库性能优化模型进行训练，得到优化后的数据库性能优化模型；
配置优化模块用于根据优化后的所述数据库性能优化模型，对所述数据库系统进行自动优化配置；
所述建立数据库性能优化模型的步骤为：
数据准备，将数据库性能参数与运行环境参数进行分类并标记关键参数；
特征关联，将数据库性能参数与运行环境参数进行分析，根据分析结果进行特征关联，得到参数特征关联集合；
运行并确定最终优化模型。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。
以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。
Claims (5)
1.一种数据库性能智能优化方法，所述方法包括：
步骤1：模型初始化，根据预设数据库性能参数及运行环境参数，建立数据库性能优化模型，并对其进行初始化；
步骤2：模型调用，实时对数据库系统执行的任务指令进行监听，根据任务类型调用所述数据库性能优化模型执行所述任务指令，并在任务执行结束后生成模型调用结果；
步骤3：模型训练，根据所述模型调用结果，调整所述数据库性能优化参数，对所述数据库性能优化模型进行训练，得到优化后的数据库性能优化模型，其具体步骤为：
1)根据所述模型调用结果，对所述数据库性能优化模型进行预处理；
2)数据库性能优化模型训练，根据预处理结果和所述参数特征关联集合分析影响数据库性能的所述运行环境参数，对所述运行环境参数进行调优处理，得到数据库性能优化结果；
其中，所述调优处理的步骤为：
i)分别调用系统提供的每个执行优化方案替代数据库性能优化模型中的执行方案，执行执行计划，并对执行结果进行比较，得到第一数据库性能优化结果；
其中，所述执行优化方案包括：
对所述执行计划进行解析，得到对应第一执行计划树和第一执行代价；
根据执行节点对所述执行计划树进行分解，并对分解后的所述执行节点按照所述运行环境参数进行映射，得到与所述运行环境参数匹配的执行树；
将所述执行树的执行节点合并输出，得到第二执行计划树和第二执行代价；
将第一执行代价与第二执行代价进行比较，如果第一执行代价大于第二执行代价，则选择第一执行计划树作为所述执行优化方案；如果第一执行代价小于第二执行代价，则选择第二执行计划树作为所述执行优化方案；
ii)根据所述执行计划获得任务执行中涉及的数据表，并根据数据表的从小到大的顺序重新排列表查询顺序，执行所述执行计划，并对执行结果进行比较，得到第二数据库性能优化结果；
iii)根据所述数据表中数据在数据库中的分布区域，重新调整数据分布，并执行所述执行计划，对执行结果进行比较，得到第三数据库性能优化结果；
iv)分别调整处理器数量、缓存类型、缓存空间大小、存储空间大小、磁盘读写速度、核心线程数和内存空间大小，并分别得到对应的执行结果，对执行结果进行比较，得到第四数据库性能优化结果；
v)将第一数据库性能优化结果、第二数据库性能优化结果、第三数据库性能优化结果和第四数据库性能优化结果对应的所述运行环境参数进行组合，得到所述数据库性能优化结果；
3)分析模型训练结果，将所述数据库性能优化结果和所述模型调用结果进行比较分析，得到最优的所述参数特征关联集合；并根据所述参数特征关联集合，确定所述运行环境参数的值；
4)确定数据库性能优化模型，将所述运行环境参数的值进行计算，得到优化后的数据库性能优化模型；
步骤4：模型配置优化，根据优化后的所述数据库性能优化模型，对所述数据库系统进行自动优化配置；
其特征在于，所述建立数据库性能优化模型的步骤为：
数据准备，将数据库性能参数与运行环境参数进行分类并标记关键参数；
特征关联，将数据库性能参数与运行环境参数进行分析，根据分析结果进行特征关联，得到参数特征关联集合；
运行并确定最终优化模型；
其中，所述将数据库性能参数与运行环境参数进行分析，根据分析结果进行特征关联的步骤为：
a)配置所述运行环境参数，将每个所述运行环境参数的最小值作为初始值；
b)根据数据操作类型，将所述运行环境参数的初始值输入所述数据库性能优化模型，得到初始数据库性能运行结果；
c)按照预设增量值逐一增加所述运行环境参数的初始值，得到所述运行环境参数的增量值，并将所述增量值分别输入所述数据库性能优化模型，得到增量数据库性能运行结果；
d)分析所述初始数据库性能运行结果和所述增量数据库性能运行结果，确定所述运行环境参数与所述数据库性能参数的关联特征，得到参数特征关联集合；
所述操作类型包括增加、删除、修改和查询，预设增量值为数据库管理人员设置默认值。
2.如权利要求1所述的方法，其特征在于，所述预设数据库性能参数包括：单位时间处理的并发事务数、请求响应时间、单条SQL指令执行时间、数据压缩比、批量查询速度；
所述运行环境参数包括：所述处理器数量、所述缓存类型、所述缓存空间大小、所述存储空间大小、所述磁盘读写速度、所述核心线程数、所述内存空间大小、所述执行优化方案、所述数据分布、所述表查询顺序。
3.如权利要求1所述的方法，其特征在于，根据任务类型调用所述数据库性能优化模型执行所述任务指令的步骤为：
对SQL指令进行解析，得到所述执行计划，并判断确定所述执行计划的操作类型；
根据所述操作类型确定对应的数据库性能优化模型，如果存在与所述操作类型对应的数据库性能优化模型，则按照所述数据库性能优化模型执行所述执行计划，并标记所述模型调用结果为true；如果不存在与所述类型对应的数据库性能优化模型，则按照初始化的数据库性能优化模型执行所述执行计划，并标记所述模型调用结果为false；
任务执行完成，返回执行结果。
4.如权利要求1所述的方法，其特征在于，根据所述模型调用结果，对所述数据库性能优化模型进行预处理，所述预处理的步骤为：
如果所述模型调用结果为true，则将调用的所述数据库性能模型的数据库性能参数值与数据库性能参数阈值进行比较；
如果所述模型调用结果为false，则根据操作类型初始化对应的数据库性能优化模型；
其中，所述数据库性能参数阈值为数据库管理人员根据所述预设数据库性能参数预设的参数指标，用于评价数据库运行性能。
5.一种实施权利要求1所述数据库性能智能优化方法的系统，所述系统包括模型初始化模块、模型调用模块、模型训练模块和配置优化模块，其中，
模型初始化模块用于根据预设数据库性能参数及运行环境参数，建立数据库性能优化模型，并对其进行初始化；
模型调用模块用于实时对数据库系统执行的任务指令进行监听，根据任务类型调用所述数据库性能优化模型执行所述任务指令，并在任务执行结束后生成模型调用结果；
模型训练模块用于根据所述模型调用结果，调整所述数据库性能优化参数，对所述数据库性能优化模型进行训练，得到优化后的数据库性能优化模型；
配置优化模块用于根据优化后的所述数据库性能优化模型，对所述数据库系统进行自动优化配置；
所述建立数据库性能优化模型的步骤为：
数据准备，将数据库性能参数与运行环境参数进行分类并标记关键参数；
特征关联，将数据库性能参数与运行环境参数进行分析，根据分析结果进行特征关联，得到参数特征关联集合；
运行并确定最终优化模型。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211219319.4A CN115640278B (zh) | 2022-09-30 | 2022-09-30 | 一种数据库性能智能优化的方法及系统 |
| PCT/CN2023/105360 WO2024066635A1 (zh) | 2022-09-30 | 2023-06-30 | 一种数据库性能智能优化的方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211219319.4A CN115640278B (zh) | 2022-09-30 | 2022-09-30 | 一种数据库性能智能优化的方法及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115640278A CN115640278A (zh) | 2023-01-24 |
| CN115640278B true CN115640278B (zh) | 2023-08-08 |
Family
ID=84943021
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211219319.4A Active CN115640278B (zh) | 2022-09-30 | 2022-09-30 | 一种数据库性能智能优化的方法及系统 |
Country Status (2)
| Country | Link |
|---|---|
| CN (1) | CN115640278B (zh) |
| WO (1) | WO2024066635A1 (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115640278B (zh) * | 2022-09-30 | 2023-08-08 | 北京柏睿数据技术股份有限公司 | 一种数据库性能智能优化的方法及系统 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102622441A (zh) * | 2012-03-09 | 2012-08-01 | 山东大学 | 一种基于Oracle数据库的自动性能识别调优系统 |
| CN112486780A (zh) * | 2020-12-17 | 2021-03-12 | 中职物联(湖北)信息科技有限公司 | 一种基于消息中间件的数据库性能实时监控和诊断方法和系统 |
| CN113010547A (zh) * | 2021-05-06 | 2021-06-22 | 电子科技大学 | 一种基于图神经网络的数据库查询优化方法及系统 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103853786B (zh) * | 2012-12-06 | 2017-07-07 | 中国电信股份有限公司 | 数据库参数的优化方法与系统 |
| KR102511927B1 (ko) * | 2018-01-18 | 2023-03-21 | 한국전자통신연구원 | Jit 컴파일 기반 데이터베이스 시스템, 이의 질의 처리 방법 및 이의 저장 프로시저 최적화 방법 |
| CN113872788A (zh) * | 2020-06-30 | 2021-12-31 | 中兴通讯股份有限公司 | 数据库配置参数调整方法、设备及存储介质 |
| CN113064879B (zh) * | 2021-03-12 | 2023-03-10 | 腾讯科技（深圳）有限公司 | 数据库参数调整方法、装置及计算机可读存储介质 |
| CN115640278B (zh) * | 2022-09-30 | 2023-08-08 | 北京柏睿数据技术股份有限公司 | 一种数据库性能智能优化的方法及系统 |
-
2022
- 2022-09-30 CN CN202211219319.4A patent/CN115640278B/zh active Active
-
2023
- 2023-06-30 WO PCT/CN2023/105360 patent/WO2024066635A1/zh unknown
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102622441A (zh) * | 2012-03-09 | 2012-08-01 | 山东大学 | 一种基于Oracle数据库的自动性能识别调优系统 |
| CN112486780A (zh) * | 2020-12-17 | 2021-03-12 | 中职物联(湖北)信息科技有限公司 | 一种基于消息中间件的数据库性能实时监控和诊断方法和系统 |
| CN113010547A (zh) * | 2021-05-06 | 2021-06-22 | 电子科技大学 | 一种基于图神经网络的数据库查询优化方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2024066635A1 (zh) | 2024-04-04 |
| CN115640278A (zh) | 2023-01-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Liu et al. | A task scheduling algorithm based on classification mining in fog computing environment | |
| CN107239335B (zh) | 分布式系统的作业调度系统及方法 | |
| CN107612886B (zh) | 一种Spark平台Shuffle过程压缩算法决策方法 | |
| US6996576B2 (en) | Database management system and method which automatically schedules and performs actions and monitors results | |
| US6339771B1 (en) | Method and system for managing connections to a database management system | |
| US20070094270A1 (en) | Method and apparatus for the processing of heterogeneous units of work | |
| CN112540849B (zh) | 一种分布式计算作业的参数配置优化方法及系统 | |
| US20070094023A1 (en) | Method and apparatus for processing heterogeneous units of work | |
| CN115640278B (zh) | 一种数据库性能智能优化的方法及系统 | |
| Viswanathan et al. | Query and resource optimization: Bridging the gap | |
| CN114564726B (zh) | 一种基于大数据办公的软件漏洞分析方法及系统 | |
| CN112052082B (zh) | 任务属性优化方法、装置、服务器及存储介质 | |
| US20070106773A1 (en) | Method and apparatus for processing of heterogeneous units of work | |
| CN110928666B (zh) | 一种Spark环境中基于内存优化任务并行度的方法和系统 | |
| US11675515B2 (en) | Intelligent partitioning engine for cluster computing | |
| CN116974994A (zh) | 一种基于集群的高效能文件协作系统 | |
| US20200356885A1 (en) | Service management in a dbms | |
| CN116775041A (zh) | 基于流计算框架和rete算法的大数据实时决策引擎 | |
| CN115982230A (zh) | 数据库的跨数据源查询方法、系统、设备及存储介质 | |
| CN115237885A (zh) | 数据存储系统的参数调整方法及装置 | |
| CN114579280A (zh) | 一种准实时调度方法及系统 | |
| US11822550B2 (en) | Query processing based on stochastic prediction model | |
| CN117992070A (zh) | 面向装备智能运维程序的端-边-云部署优化方法 | |
| CN118093644A (zh) | 一种基于历史负载和即时负载的openGauss数据库并行优化方法 | |
| CN113608829A (zh) | 一种分布式服务流程驱动管控系统及方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |