CN112115123B - 用于分布式数据库的性能优化的方法和装置 - Google Patents
用于分布式数据库的性能优化的方法和装置 Download PDFInfo
- Publication number
- CN112115123B CN112115123B CN202010997097.3A CN202010997097A CN112115123B CN 112115123 B CN112115123 B CN 112115123B CN 202010997097 A CN202010997097 A CN 202010997097A CN 112115123 B CN112115123 B CN 112115123B
- Authority
- CN
- China
- Prior art keywords
- node
- sub
- distributed database
- optimizing
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 75
- 238000005457 optimization Methods 0.000 title claims description 38
- 230000008569 process Effects 0.000 claims abstract description 32
- 238000003860 storage Methods 0.000 claims description 28
- 238000009826 distribution Methods 0.000 claims description 25
- 238000005192 partition Methods 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 10
- 230000006835 compression Effects 0.000 claims description 8
- 238000007906 compression Methods 0.000 claims description 8
- 238000011084 recovery Methods 0.000 claims description 7
- 238000012545 processing Methods 0.000 abstract description 37
- 230000015556 catabolic process Effects 0.000 abstract description 5
- 238000006731 degradation reaction Methods 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000010276 construction Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000013480 data collection Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000013433 optimization analysis Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000013468 resource allocation Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/217—Database tuning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了用于分布式数据库的性能优化的方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括：在分布式数据库的运行过程中，采集所述分布式数据库的主节点负载和各个子节点的子节点负载；判断所述主节点负载是否大于目标子节点的子节点负载，所述目标子节点是指所述各个子节点中子节点负载最大的子节点；若是，则对所述分布式数据库的主节点进行优化处理；否则，对所述分布式数据库的各个子节点进行优化处理。该实施方式能够通过数据库运行情况检测分布式数据库的性能，有助于快速定位数据库性能下降原因，并及时进行干预处理，保障数据库高效稳定运行。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种用于分布式数据库的性能优化的方法和装置。
背景技术
MPP架构是对传统单节点数据库的一种扩展，允许数据在更多节点上存储，同时对系统的业务逻辑不会产生太大影响，是被较多企业优先选择的一种大数据存储和数据处理的解决方案。
目前常用的分布式存储架构为master-segment节点，由一个master节点与多个segment节点构成，master节点用于建立查询计划、协调各个segment节点的工作以及为用户提供访问入口等，segment节点主要用于存放数据并完成master节点分配的计算任务等，每个segment节点都有自治处理能并完成局部应用，在逻辑上master和多个segment节点构成一个数据库整体。
但在分布式使用的过程中，当系统资源分配不均、用户建表结构与使用不当、数据库系统表膨胀等问题出现未被及时发现时，将大大影响数据库运行效率。
发明内容
有鉴于此，本发明实施例提供一种用于分布式数据库的性能优化的方法和装置，能够通过数据库运行情况检测分布式数据库的性能，有助于快速定位数据库性能下降原因，并及时进行干预处理，保障数据库高效稳定运行。
为实现上述目的，根据本发明实施例的一个方面，提供了一种用于分布式数据库的性能优化的方法，包括：
在分布式数据库的运行过程中，采集所述分布式数据库的主节点负载和各个子节点的子节点负载；
判断所述主节点负载是否大于目标子节点的子节点负载；所述目标子节点是指所述各个子节点中子节点负载最大的子节点；
若是，则对所述分布式数据库的主节点进行优化处理；否则，对所述分布式数据库的各个子节点进行优化处理。
可选地，对所述分布式数据库的主节点进行优化处理，包括：
判断所述分布式数据库的系统表是否膨胀；所述系统表用于收集所述分布式数据库的统计信息；
若是，则对所述系统表进行维护；否则，对运行在所述主节点上的进程进行优化处理。
可选地，判断所述分布式数据库的系统表是否膨胀，包括：
在所述主节点创建一张插入所述系统表中全部数据的临时表；
判断所述临时表的大小与所述系统表的大小之间的差值是否小于等于设定阈值；
若是，则表明所述系统表膨胀；否则，表明所述系统表未膨胀。
可选地，对所述系统表进行维护，包括：
对所述系统表进行空间回收，然后重新收集统计信息。
可选地，对所述分布式数据库的各个子节点进行优化处理，包括：
判断所述目标子节点的子节点负载是否大于等于设定子节点负载阈值；
若是，则对所述各个子节点的磁盘IO读写速率和/或数据库中运行的SQL语句类型进行优化处理；否则，根据所述分布式数据库中各个SQL的执行时长对所述各个子节点进行优化处理。
可选地，对所述各个子节点的磁盘IO读写速率进行优化处理，包括：
优化所述系统表的建表模式；所述建表模式包括以下至少之一：数据类型，存储模式，分区方式，索引方式。
可选地，对所述各个子节点的磁盘IO读写速率进行优化处理，包括：
优化所述系统表的压缩方式。
可选地，根据所述分布式数据库中各个SQL的执行时长对所述各个子节点进行优化处理，包括：
判断所述分布式数据库中是否存在执行时长大于设定的执行时长阈值的长时间运行SQL；
若是，则根据所述长时间运行SQL的库表数据在所述分布式数据库的各个子节点中的数据分布对所述各个子节点进行优化处理；否则，根据所述分布式数据库中的SQL并发数对所述各个子节点进行优化处理。
可选地，根据所述长时间运行SQL的库表数据在所述分布式数据库的各个子节点中的数据分布对所述各个子节点进行优化处理，包括：
判断所述库表数据在所述各个子节点中的数据分布是否均匀；
若是，则根据所述库表数据在所述各个子节点中的数据记录数对所述各个子节点进行优化处理；否则，重新定义所述库表数据的分布键，以使所述库表数据在所述各个子节点中均匀分布。
可选地，根据所述库表数据在所述各个子节点中的数据记录数对所述各个子节点进行优化处理，包括：
判断所述库表数据在所述各个子节点中的数据记录数是否大于等于设定的记录数阈值；
若是，则对所述库表数据进行分区统计；否则定期收集所述库表数据的统计信息。
可选地，根据所述分布式数据库中的SQL并发数对所述各个子节点进行优化处理，包括：
整改或查杀所述各个子节点中运行的SQL。
可选地，对所述分布式数据库的各个子节点进行优化处理之前，还包括：
确认所述分布式数据库的性能不符合预设性能条件。
根据本发明实施例的第二方面，提供一种用于分布式数据库的性能优化的装置，包括：
采集模块，在分布式数据库的运行过程中，采集所述分布式数据库的主节点负载和各个子节点的子节点负载；
判断模块，判断所述主节点负载是否大于目标子节点的子节点负载；所述目标子节点是指所述各个子节点中子节点负载最大的子节点；
优化模块，若是，则对所述分布式数据库的主节点进行优化处理；否则，对所述分布式数据库的各个子节点进行优化处理。
可选地，所述优化模块对所述分布式数据库的主节点进行优化处理，包括：
判断所述分布式数据库的系统表是否膨胀；所述系统表用于收集所述分布式数据库的统计信息；
若是，则对所述系统表进行维护；否则，对运行在所述主节点上的进程进行优化处理。
可选地，所述优化模块判断所述分布式数据库的系统表是否膨胀，包括：
在所述主节点创建一张插入所述系统表中全部数据的临时表；
判断所述临时表的大小与所述系统表的大小之间的差值是否小于等于设定阈值；
若是，则表明所述系统表膨胀；否则，表明所述系统表未膨胀。
可选地，所述优化模块对所述系统表进行维护，包括：
对所述系统表进行空间回收，然后重新收集统计信息。
可选地，所述优化模块对所述分布式数据库的各个子节点进行优化处理，包括：
判断所述目标子节点的子节点负载是否大于等于设定子节点负载阈值；
若是，则对所述各个子节点的磁盘IO读写速率和/或数据库中运行的SQL语句类型进行优化处理；否则，根据所述分布式数据库中各个SQL的执行时长对所述各个子节点进行优化处理。
可选地，所述优化模块对所述各个子节点的磁盘IO读写速率进行优化处理，包括：
优化所述系统表的建表模式；所述建表模式包括以下至少之一：数据类型，存储模式，分区方式，索引方式。
可选地，所述优化模块对所述各个子节点的磁盘IO读写速率进行优化处理，包括：
优化所述系统表的压缩方式。
可选地，所述优化模块根据所述分布式数据库中各个SQL的执行时长对所述各个子节点进行优化处理，包括：
判断所述分布式数据库中是否存在执行时长大于设定的执行时长阈值的长时间运行SQL；
若是，则根据所述长时间运行SQL的库表数据在所述分布式数据库的各个子节点中的数据分布对所述各个子节点进行优化处理；否则，根据所述分布式数据库中的SQL并发数对所述各个子节点进行优化处理。
可选地，所述优化模块根据所述长时间运行SQL的库表数据在所述分布式数据库的各个子节点中的数据分布对所述各个子节点进行优化处理，包括：
判断所述库表数据在所述各个子节点中的数据分布是否均匀；
若是，则根据所述库表数据在所述各个子节点中的数据记录数对所述各个子节点进行优化处理；否则，重新定义所述库表数据的分布键，以使所述库表数据在所述各个子节点中均匀分布。
可选地，所述优化模块根据所述库表数据在所个子节点中的数据记录数对所述子节点进行优化处理，包括：
判断所述库表数据在所述各个子节点中的数据记录数是否大于等于设定的记录数阈值；
若是，则对所述库表数据进行分区统计；否则定期收集所述库表数据的统计信息。
可选地，所述优化模块根据所述分布式数据库中的SQL并发数对所述各个子节点进行优化处理，包括：
整改或查杀所述各个子节点中运行的SQL。
可选地，所述优化模块还用于：对所述分布式数据库的各个子节点进行优化处理之前，确认所述分布式数据库的性能不符合预设性能条件。
根据本发明实施例的第三方面，提供一种用于分布式数据库的性能优化的电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明实施例第一方面提供的方法。
根据本发明实施例的第四方面，提供一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现本发明实施例第一方面提供的方法。
上述发明中的一个实施例具有如下优点或有益效果：通过采集分布式数据库的主节点负载和子节点负载，能够根据数据库整体运行情况检测分布式数据库的性能。通过对分布式数据库各个子节点运行的SQL进行分析，能够根据SQL运行情况检测分布式数据库的性能。本发明实施例有助于快速定位数据库性能下降原因，并及时进行干预处理，保障数据库高效稳定运行。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明，不构成对本发明的不当限定。其中：
图1是本发明实施例的用于分布式数据库的性能优化的方法的主要流程的示意图；
图2是本发明可选实施例中用于分布式数据库的性能优化的方法的示意图；
图3是本发明实施例的用于分布式数据库的性能优化的方法的主要模块的示意图；
图4是本发明实施例可以应用于其中的示例性系统架构图；
图5是适于用来实现本发明实施例的终端设备或服务器的计算机系统的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
根据本发明实施例的一个方面，提供了一种用于分布式数据库的性能优化的方法。
图1是本发明实施例的用于分布式数据库的性能优化的方法的主要流程的示意图，如图1所示，用于分布式数据库的性能优化的方法，包括：步骤S101、步骤S102和步骤S103。
在步骤S101中，在分布式数据库的运行过程中，采集所述分布式数据库的主节点负载和各个子节点的子节点负载。本步骤中采集分布式各个节点的节点负载。节点负载的指标可以根据实际情况进行选择性设定，例如负载、磁盘读写速率、CPU使用率和网络收发速率等参数。本步骤可以周期性地执行，也可以在数据运行高峰时执行。
在步骤S102中，判断所述主节点负载是否大于目标子节点的子节点负载。目标子节点是指各个子节点中子节点负载最大的子节点。由于分布式集群中的计算任务都由子节点(segment节点)承担，因此集群正常运行的情况下是segment节点的负载高于主节点(mater节点)的负载。若出现master节点的负载与segment节点的负载相近或是高于segment节点的负载，则表明主节点负载过高，此时跳转至步骤S103，对分布式数据库的主节点进行优化处理。否则，跳转至步骤S104，对所述分布式数据库的各个子节点进行优化处理。
步骤S103对分布式数据库的主节点进行优化处理的过程，本质是关注有可能引起主节点负载升高的各种因素，例如主节点系统故障、数据库的系统表膨胀等。
数据库的系统表也称系统表库表，用于存储数据库表、用户、权限等等属性信息。可以直接用数据库命令analyze table收集系统表中的统计信息，收集时，可以选择对系统表表中索引、分区、不同字段进行统计信息收集，也可以收集系统表表中所有信息。
当用户提交SQL(Structured Query Language，结构化查询语言)语句，数据库会先通过系统表查到对应的数据库表，然后再进行对应的读写。可选地，对分布式数据库的主节点进行优化处理包括：判断所述分布式数据库的系统表是否膨胀；所述系统表用于收集所述分布式数据库的统计信息；若是，则对所述系统表进行维护；否则，对运行在所述主节点上的进程进行优化处理。
数据库在运行过程，系统表中不断更新或删除的记录数增多之后，若根据统计信息发现系统表中预期的记录数与实际的记录数相差很大，表明系统表的膨胀程度很大，对master节点上任务分配也会照成一定影响。通过对系统表是否膨胀进行检查，能够及时发现数据库系统表膨胀等问题并进行响应处理，避免由于系统表过度膨胀而导致的数据库运行效率降低，保障数据库的高效稳定运行。
判断系统表是否膨胀的方法可以根据实际情况进行选择性设定，例如系统表的大小超过设定的阈值。可选地，判断分布式数据库的系统表是否膨胀，包括：在主节点创建一张插入系统表中全部数据的临时表；判断临时表的大小与系统表的大小之间的差值是否小于等于设定阈值；若是，则表明系统表膨胀；否则，表明系统表未膨胀。该阈值的取值可以根据实际情况进行选择性设定。一般来说系统表大小是临时表的三四倍是可以接受的，但是一旦达到十倍以上就说明系统膨胀比较严重了。采用这种方式判断系统表是否膨胀，简单易行。
对系统表进行维护的方式可以根据实际情况进行选择性设定，例如调整系统表中数据库表的数量、数据类型、存储模式(如行存储、列存储)等。可选地，对系统表进行维护包括：对系统表进行空间回收，然后重新收集统计信息。通过对系统表进行空间回收，能够及时删除不必要的数据记录，保证数据库的高效运行。实际应用过程中，可以采用数据库命令进行空间回收，例如用vacuum table(一种清理数据库的命令)收缩系统表，或者直接用Alter table set with(reorganiz e＝true)指令(一种清理数据库的命令)对系统表进行重分布。
可选地，对分布式数据库的各个子节点进行优化处理，包括：判断目标子节点的子节点负载是否大于等于设定子节点负载阈值；若是，则对各个子节点的磁盘IO(Input/Output，输入/输出)读写速率和/或数据库中运行的SQL语句类型进行优化处理；否则，根据分布式数据库中各个SQL的执行时长对各个子节点进行优化处理。
若子节点负载大于等于设定子节点负载阈值，表明子节点负载过高，此时需检查磁盘的IO读写速率情况，例如检查是否是由于库表的建表模式或压缩方式不当导致的。对各个子节点的磁盘IO读写速率进行优化处理可以包括：优化系统表的建表模式；其中，建表模式包括以下至少之一：数据类型，存储模式，分区方式，索引方式。合适地选择字段的数据类型可以提高效率、减小空间占用。例如，人的年龄不使用int(整型变量)，采用TINYINT(一种字段类型，占用1字节，范围为0～255)。例如，行存表适用于对数据需要经常更新的场景，列存表适合数据批量插入、更新较少和以查询为主统计分析类的场景等。
可选地，对各个子节点的磁盘IO读写速率进行优化处理包括：优化系统表的压缩方式。系统表的压缩方式对数据库性能具有一定影响，通过调整系统表的压缩方式，可以优化数据库的性能。
可选地，根据分布式数据库中各个SQL的执行时长对各个子节点进行优化处理，包括：判断分布式数据库中是否存在执行时长大于设定的执行时长阈值的长时间运行SQL；若是，则根据长时间运行SQL的库表数据(库表数据是指数据库表中的数据。SQL的库表数据是指，SQL查询的数据所在的数据库表中的数据)在分布式数据库的各个子节点中的数据分布对各个子节点进行优化处理；否则，根据分布式数据库中的SQL并发数对子节点进行优化处理。执行时长大于设定的执行时长阈值的SQL称为长时间运行SQL。有的SQL执行时间过长，很可能是数据库漏洞、表数据存在问题、SQL自身问题等导致的，通过定期进行分析并结束掉这部分SQL，能够提升数据库性能。
可选地，根据长时间运行SQL的库表数据在分布式数据库的系统表中的数据分布对各个子节点进行优化处理，包括：判断库表数据在各个子节点中的数据分布是否均匀；若是，则根据库表数据在各个子节点中的数据记录数对各个子节点进行优化处理；否则，重新定义库表数据的分布键，以使库表数据在各个子节点中均匀分布。当数据倾斜时在查询或计算过程中会导致在各个segment节点上的分配不均，进程卡在某一个实例上，无法达到所有的节点实例都能够等量处理的工作负载、尽可能达到最好性能的目的，严重影响数据查询和处理操作的执行效率，此时可以重新定义库表的分布键，使数据均匀分布。
可选地，根据库表数据在各个子节点中的数据记录数对各个子节点进行优化处理包括：判断库表数据在各个子节点中的数据记录数是否大于等于设定的记录数阈值；若是，则对库表数据进行分区统计；否则定期收集库表数据的统计信息。当数据在各个节点上的数据记录数过多时也会导致查询性能低于预期，从逻辑上把表分成较小的分区可以改善数据库性能。
可选地，根据分布式数据库中的SQL并发数对各个子节点进行优化处理包括：整改或查杀各个子节点中运行的SQL。实际应用过程中，可以对各个子节点中不必要的SQL进行整改或查杀。
当数据库表被频繁更新或是有插入删除操作时，及时收集统计信息也能提高数据库的作业执行效率，有鉴于此，可以分别从操作系统层面和数据库层面进行数据采集。其中，操作系统层面采集的是数据运行高峰期各个节点上的负载、磁盘读写速率、CPU使用率和网络收发速率等参数，并将采集的性能参数定期存储。当发现数据库性能下降时，通过存储的日志比对前后各项参数差异。数据库层面采集的是数据库单位时间内消化的作业量、长时间运行的SQL语句、系统表的膨胀情况、库表数据分布情况等参数。在进行优化分析分析时，可以分别从数据库系统、SQL语句及库表方面对数据库当前运行情况进行分析，根据当前的数据库整体运行情况或SQL语句情况的分析结果进数据库性能优化。
可选地，对分布式数据库的各个子节点进行优化处理之前还包括：确认分布式数据库的性能不符合预设性能条件。例如，若接收到用户反馈运行效率低，则确认分布式数据库的性能不符合预设性能条件。再例如，数据库的查询响应时间超过设定响应时间阈值时确认分布式数据库的性能不符合预设性能条件。在确认分布式数据库的性能不符合预设性能条件时进行优化，能够在保证数据库性能的基础上降低资源消耗。
图2是本发明可选实施例中用于分布式数据库的性能优化的方法的示意图。如图2所示，本例中，当用户反馈数据库操作缓慢时，采集分布式数据库各节点负载。判断主节点负载是否大于目标子节点的子节点负载。若是，则判断系统表是否膨胀；负载判断目标子节点的子节点CPU使用率是否接近100％。若系统表膨胀，则对系统表进行空间回收，然后重新收集统计信息；若系统表未膨胀，则检查主节点上消耗负载的具体进程。若目标子节点的子节点CPU使用率接近100％，则检查磁盘读写繁忙程度以及数据库中运行SQL语句类型；若目标子节点的子节点CPU使用率不接近100％，则检查分布式数据库中是否存在长时间运行SQL。若是，则检查分布式数据库中SQL并发数，整改或查杀不必要的SQL；否则，检查库表数据在系统表中的分布是否均匀。若不均匀，则重新定义库表数据的分布键。若均匀，检查库表数据在系统表中的数据记录是否大于等于200万(该数值可以选择性设置)。若是，则从逻辑上将该库表数据划分成较小的分区对库表数据进行分区统计；否则定期收集该库表数据的统计信息。
本实施例通过数据整体运行情况及SQL运行情况检测分布式集群性能情况，针对于分布式数据库性能提出几种常见的情况分析及性能优化方案，有助于数据应用人员及运维人员排查问题，快速定位性能下降原因，并及时进行干预处理，保障数据库高效稳定运行。
根据本发明实施例的第二方面，提供一种实现上述方法的装置。
图3是本发明实施例的用于分布式数据库的性能优化的方法的主要模块的示意图。如图3所示，用于分布式数据库的性能优化的装置300包括：
采集模块301，在分布式数据库的运行过程中，采集所述分布式数据库的主节点负载和各个子节点的子节点负载；
判断模块302，判断所述主节点负载是否大于目标子节点的子节点负载；所述目标子节点是指所述各个子节点中子节点负载最大的子节点；
优化模块303，若是，则对所述分布式数据库的主节点进行优化处理；否则，对所述分布式数据库的各个子节点进行优化处理。
可选地，所述优化模块对所述分布式数据库的主节点进行优化处理，包括：
判断所述分布式数据库的系统表是否膨胀；所述系统表用于收集所述分布式数据库的统计信息；
若是，则对所述系统表进行维护；否则，对运行在所述主节点上的进程进行优化处理。
可选地，所述优化模块判断所述分布式数据库的系统表是否膨胀，包括：
在所述主节点创建一张插入所述系统表中全部数据的临时表；
判断所述临时表的大小与所述系统表的大小之间的差值是否小于等于设定阈值；
若是，则表明所述系统表膨胀；否则，表明所述系统表未膨胀。
可选地，所述优化模块对所述系统表进行维护，包括：
对所述系统表进行空间回收，然后重新收集统计信息。
可选地，所述优化模块对所述分布式数据库的各个子节点进行优化处理，包括：
判断所述目标子节点的子节点负载是否大于等于设定子节点负载阈值；
若是，则对所述各个子节点的磁盘IO读写速率和/或数据库中运行的SQL语句类型进行优化处理；否则，根据所述分布式数据库中各个SQL的执行时长对所述各个子节点进行优化处理。
可选地，所述优化模块对所述各个子节点的磁盘IO读写速率进行优化处理，包括：
优化所述系统表的建表模式；所述建表模式包括以下至少之一：数据类型，存储模式，分区方式，索引方式。
可选地，所述优化模块对所述各个子节点的磁盘IO读写速率进行优化处理，包括：
优化所述系统表的压缩方式。
可选地，所述优化模块根据所述分布式数据库中各个SQL的执行时长对所述各个子节点进行优化处理，包括：
判断所述分布式数据库中是否存在执行时长大于设定的执行时长阈值的长时间运行SQL；
若是，则根据所述长时间运行SQL的库表数据在所述分布式数据库的各个子节点中的数据分布对所述各个子节点进行优化处理；否则，根据所述分布式数据库中的SQL并发数对所述各个子节点进行优化处理。
可选地，所述优化模块根据所述长时间运行SQL的库表数据在所述分布式数据库的各个子节点中的数据分布对所述各个子节点进行优化处理，包括：
判断所述库表数据在所述各个子节点中的数据分布是否均匀；
若是，则根据所述库表数据在所述各个子节点中的数据记录数对所述各个子节点进行优化处理；否则，重新定义所述库表数据的分布键，以使所述库表数据在所述各个子节点中均匀分布。
可选地，所述优化模块根据所述库表数据在所述各个子节点中的数据记录数对所述各个子节点进行优化处理，包括：
判断所述库表数据在所述各个子节点中的数据记录数是否大于等于设定的记录数阈值；
若是，则对所述库表数据进行分区统计；否则定期收集所述库表数据的统计信息。
可选地，所述优化模块根据所述分布式数据库中的SQL并发数对所述各个子节点进行优化处理，包括：
整改或查杀所述各个子节点中运行的SQL。
可选地，所述优化模块还用于：对所述分布式数据库的各个子节点进行优化处理之前，确认所述分布式数据库的性能不符合预设性能条件。
根据本发明实施例的第三方面，提供一种用于分布式数据库的性能优化的电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明实施例第一方面提供的方法。
根据本发明实施例的第四方面，提供一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现本发明实施例第一方面提供的方法。
图4示出了可以应用本发明实施例的用于分布式数据库的性能优化的方法或用于分布式数据库的性能优化的装置的示例性系统架构400。
如图4所示，系统架构400可以包括终端设备401、402、403，网络404和服务器405。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备401、402、403通过网络404与服务器405交互，以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器405可以是提供各种服务的服务器，例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理，并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是，本发明实施例所提供的用于分布式数据库的性能优化的方法一般由服务器405执行，相应地，用于分布式数据库的性能优化的装置一般设置于服务器405中。
应该理解，图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
下面参考图5，其示出了适于用来实现本发明实施例的终端设备的计算机系统500的结构示意图。图5示出的终端设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示，计算机系统500包括中央处理单元(CPU)501，其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中，还存储有系统500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505：包括键盘、鼠标等的输入部分506；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507；包括硬盘等的存储部分508；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器510上，以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地，根据本发明公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分509从网络上被下载和安装，和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时，执行本发明的系统中限定的上述功能。
需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括：采集模块，在分布式数据库的运行过程中，采集所述分布式数据库的主节点负载和各个子节点的子节点负载；判断模块，判断所述主节点负载是否大于目标子节点的子节点负载；优化模块，若是，则对所述分布式数据库的主节点进行优化处理；否则，对所述分布式数据库的各个子节点进行优化处理。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定，例如，采集模块还可以被描述为“判断所述主节点负载是否大于所述子节点负载的模块”。
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括：在分布式数据库的运行过程中，采集所述分布式数据库的主节点负载和子节点负载；判断所述主节点负载是否大于所述子节点负载；若是，则对所述分布式数据库的主节点进行优化处理；否则，对所述分布式数据库的子节点进行优化处理。
根据本发明实施例的技术方案，通过采集分布式数据库的主节点负载和子节点负载，能够根据数据库整体运行情况检测分布式数据库的性能。通过对分布式数据库各个子节点运行的SQL进行分析，能够根据SQL运行情况检测分布式数据库的性能。本发明实施例有助于快速定位数据库性能下降原因，并及时进行干预处理，保障数据库高效稳定运行。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。
Claims (13)
1.一种用于分布式数据库的性能优化的方法，其特征在于，包括：
在分布式数据库的运行过程中，采集所述分布式数据库的主节点负载和各个子节点的子节点负载；
判断所述主节点负载是否大于目标子节点的子节点负载；所述目标子节点是指所述各个子节点中子节点负载最大的子节点；
若是，则判断所述分布式数据库的系统表是否膨胀，若所述系统表膨胀，则对所述系统表进行维护，若系统表未膨胀，则检查主节点上消耗负载的目标进程，对所述目标进程进行优化处理，其中，所述系统表是用于收集所述分布式数据库的统计信息；否则，判断所述目标子节点的子节点负载是否大于等于设定子节点负载阈值，若是，则对所述各个子节点的磁盘IO读写速率和/或数据库中运行的SQL语句类型进行优化处理，否则，根据所述分布式数据库中各个SQL的执行时长对所述各个子节点进行优化处理。
2.如权利要求1所述的方法，其特征在于，判断所述分布式数据库的系统表是否膨胀，包括：
在所述主节点创建一张插入所述系统表中全部数据的临时表；
判断所述临时表的大小与所述系统表的大小之间的差值是否小于等于设定阈值；
若是，则表明所述系统表膨胀；否则，表明所述系统表未膨胀。
3.如权利要求1所述的方法，其特征在于，对所述系统表进行维护，包括：
对所述系统表进行空间回收，然后重新收集统计信息。
4.如权利要求1所述的方法，其特征在于，对所述各个子节点的磁盘IO读写速率进行优化处理，包括：
优化所述系统表的建表模式；所述建表模式包括以下至少之一：数据类型，存储模式，分区方式，索引方式。
5.如权利要求1所述的方法，其特征在于，对所述各个子节点的磁盘IO读写速率进行优化处理，包括：
优化所述系统表的压缩方式。
6.如权利要求1所述的方法，其特征在于，根据所述分布式数据库中各个SQL的执行时长对所述子节点进行优化处理，包括：
判断所述分布式数据库中是否存在执行时长大于设定的执行时长阈值的长时间运行SQL；
若是，则根据所述长时间运行SQL的库表数据在所述分布式数据库的各个子节点中的数据分布对所述子节点进行优化处理；否则，根据所述分布式数据库中的SQL并发数对所述各个子节点进行优化处理。
7.如权利要求6所述的方法，其特征在于，根据所述长时间运行SQL的库表数据在所述分布式数据库的各个子节点中的数据分布对所述各个子节点进行优化处理，包括：
判断所述库表数据在所述各个子节点中的数据分布是否均匀；
若是，则根据所述库表数据在所述各个子节点中的数据记录数对所述各个子节点进行优化处理；否则，重新定义所述库表数据的分布键，以使所述库表数据在所述各个子节点中均匀分布。
8.如权利要求7所述的方法，其特征在于，根据所述库表数据在所述各个子节点中的数据记录数对所述各个子节点进行优化处理，包括：
判断所述库表数据在所述各个子节点中的数据记录数是否大于等于设定的记录数阈值；
若是，则对所述库表数据进行分区统计；否则定期收集所述库表数据的统计信息。
9.如权利要求6所述的方法，其特征在于，根据所述分布式数据库中的SQL并发数对所述各个子节点进行优化处理，包括：
整改或查杀所述各个子节点中运行的SQL。
10.如权利要求1-9任一所述的方法，其特征在于，对所述分布式数据库的各个子节点进行优化处理之前，还包括：
确认所述分布式数据库的性能不符合预设性能条件。
11.一种用于分布式数据库的性能优化的装置，其特征在于，包括：
采集模块，在分布式数据库的运行过程中，采集所述分布式数据库的主节点负载和各个子节点的子节点负载；
判断模块，判断所述主节点负载是否大于目标子节点的子节点负载；所述目标子节点是指所述各个子节点中子节点负载最大的子节点；
优化模块，若是，则判断所述分布式数据库的系统表是否膨胀，若所述系统表膨胀，则对所述系统表进行维护，若系统表未膨胀，则检查主节点上消耗负载的目标进程，对所述目标进程进行优化处理，其中，所述系统表是用于收集所述分布式数据库的统计信息；否则，判断所述目标子节点的子节点负载是否大于等于设定子节点负载阈值，若是，则对所述各个子节点的磁盘IO读写速率和/或数据库中运行的SQL语句类型进行优化处理，否则，根据所述分布式数据库中各个SQL的执行时长对所述各个子节点进行优化处理。
12.一种用于分布式数据库的性能优化的电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-10中任一所述的方法。
13.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-10中任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010997097.3A CN112115123B (zh) | 2020-09-21 | 2020-09-21 | 用于分布式数据库的性能优化的方法和装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010997097.3A CN112115123B (zh) | 2020-09-21 | 2020-09-21 | 用于分布式数据库的性能优化的方法和装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112115123A CN112115123A (zh) | 2020-12-22 |
| CN112115123B true CN112115123B (zh) | 2024-05-28 |
Family
ID=73800936
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010997097.3A Active CN112115123B (zh) | 2020-09-21 | 2020-09-21 | 用于分布式数据库的性能优化的方法和装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112115123B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117435594B (zh) * | 2023-12-18 | 2024-04-16 | 天津南大通用数据技术股份有限公司 | 一种分布式数据库分布键的优选方法 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104881418A (zh) * | 2014-02-28 | 2015-09-02 | 阿里巴巴集团控股有限公司 | 用于MySQL的快速回收回滚空间的方法和装置 |
| CN106611064A (zh) * | 2017-01-03 | 2017-05-03 | 北京华胜信泰数据技术有限公司 | 分布式关系数据库的数据处理方法和装置 |
| CN107241448A (zh) * | 2017-08-01 | 2017-10-10 | 成都鼎智汇科技有限公司 | 一种云存储节点负载均衡方法 |
| CN111046059A (zh) * | 2019-12-09 | 2020-04-21 | 中国建设银行股份有限公司 | 基于分布式数据库集群的低效sql语句分析方法及系统 |
| CN111625592A (zh) * | 2019-02-28 | 2020-09-04 | 北京京东尚科信息技术有限公司 | 分布式数据库的负载均衡方法和装置 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7240059B2 (en) * | 2002-11-14 | 2007-07-03 | Seisint, Inc. | System and method for configuring a parallel-processing database system |
| US20090055368A1 (en) * | 2007-08-24 | 2009-02-26 | Gaurav Rewari | Content classification and extraction apparatus, systems, and methods |
-
2020
- 2020-09-21 CN CN202010997097.3A patent/CN112115123B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104881418A (zh) * | 2014-02-28 | 2015-09-02 | 阿里巴巴集团控股有限公司 | 用于MySQL的快速回收回滚空间的方法和装置 |
| CN106611064A (zh) * | 2017-01-03 | 2017-05-03 | 北京华胜信泰数据技术有限公司 | 分布式关系数据库的数据处理方法和装置 |
| CN107241448A (zh) * | 2017-08-01 | 2017-10-10 | 成都鼎智汇科技有限公司 | 一种云存储节点负载均衡方法 |
| CN111625592A (zh) * | 2019-02-28 | 2020-09-04 | 北京京东尚科信息技术有限公司 | 分布式数据库的负载均衡方法和装置 |
| CN111046059A (zh) * | 2019-12-09 | 2020-04-21 | 中国建设银行股份有限公司 | 基于分布式数据库集群的低效sql语句分析方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112115123A (zh) | 2020-12-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9645756B2 (en) | Optimization of in-memory data grid placement | |
| CN109947668B (zh) | 存储数据的方法和装置 | |
| US20160275094A1 (en) | Compaction policy | |
| CN109194711B (zh) | 一种组织架构的同步方法、客户端、服务端及介质 | |
| CN110858194A (zh) | 一种数据库扩容的方法和装置 | |
| CN104216962A (zh) | 一种基于HBase的海量网管数据索引设计方法 | |
| CN103581332A (zh) | HDFS架构及HDFS架构中NameNode节点的压力分解方法 | |
| KR101686919B1 (ko) | 빅데이터에 기반한 추론 엔진을 관리하는 방법 및 장치 | |
| CN112115123B (zh) | 用于分布式数据库的性能优化的方法和装置 | |
| CN111723089B (zh) | 一种基于列式存储格式处理数据的方法和装置 | |
| CN109947736B (zh) | 实时计算的方法和系统 | |
| CN117633116A (zh) | 数据同步方法、装置、电子设备及存储介质 | |
| CN109710401A (zh) | 一种云计算资源成本优化方法 | |
| CN113609090A (zh) | 数据存储方法及装置、计算机可读存储介质、电子设备 | |
| CN117950850A (zh) | 一种数据传输方法、装置、电子设备及计算机可读介质 | |
| CN117370451A (zh) | 一种基于区块链的大数据访问控制方法 | |
| CN115630122A (zh) | 一种数据同步方法、装置、存储介质和计算机设备 | |
| WO2023015809A1 (zh) | 一种分布式内存数据查询优化的方法和设备 | |
| CN113641670B (zh) | 数据存储及数据检索方法、装置、电子设备及存储介质 | |
| CN106713051A (zh) | 一种网络管理系统 | |
| CN113568892A (zh) | 一种基于内存计算对数据源进行数据查询的方法和设备 | |
| CN113282489A (zh) | 一种接口测试方法和装置 | |
| CN113760890A (zh) | 关系型数据库管理的方法和装置 | |
| CN112487111A (zh) | 基于kv数据库的数据表关联方法及装置 | |
| CN108984431B (zh) | 用于清空过期缓存的方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |