CN110990148A - 一种存储性能优化的方法、设备及介质 - Google Patents
一种存储性能优化的方法、设备及介质 Download PDFInfo
- Publication number
- CN110990148A CN110990148A CN201911120366.1A CN201911120366A CN110990148A CN 110990148 A CN110990148 A CN 110990148A CN 201911120366 A CN201911120366 A CN 201911120366A CN 110990148 A CN110990148 A CN 110990148A
- Authority
- CN
- China
- Prior art keywords
- thread
- management module
- queue
- resource management
- data processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000012545 processing Methods 0.000 claims abstract description 82
- 238000004458 analytical method Methods 0.000 claims abstract description 13
- 229920006395 saturated elastomer Polymers 0.000 claims description 20
- 230000004044 response Effects 0.000 claims description 16
- 238000012217 deletion Methods 0.000 claims description 13
- 230000037430 deletion Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 8
- 238000005457 optimization Methods 0.000 claims description 5
- 230000007334 memory performance Effects 0.000 claims description 3
- 238000009738 saturating Methods 0.000 claims 2
- 238000007726 management method Methods 0.000 description 92
- 238000005516 engineering process Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000006378 damage Effects 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5018—Thread allocation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/508—Monitor
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种存储性能优化的方法,包括以下步骤:若干数据处理模块通过各自的线程管理模块周期地收集所述数据处理模块中队列和线程的状态信息,并将所述状态信息上报给资源管理模块;所述资源管理模块接收所述状态信息并对所述状态信息进行分析;以及所述资源管理模块根据所述分析结果向对应的所述线程管理模块下达增加或删除线程的指令。本发明还公开了一种计算机设备和可读存储介质。本发明提出的存储性能优化的方法、设备及介质利用CPU的多线程多核心,根据数据处理模块的队列使用情况,利用线程的创建及销毁更细粒度发挥出CPU的最大存储性能。
Description
技术领域
本发明涉及存储技术领域,更具体地,特别是指一种存储性能优化的方法、设备及可读介质。
背景技术
在大数据、云计算的潮流下,数据存储的重要性日益凸显,全闪产品是存储系统发展的必然趋势。随着SSD技术的飞速发展,SSD盘的性能飙升,底层闪存带宽越来越宽,介质访问延时越来越低,系统性能瓶颈已经由硬件转移到上层软件,利用有限的CPU资源最大限度的发挥存储性能成为各厂商争相研究的课题之一。
然而存储系统中数据处理模块之间使用队列进行IO处理,队列的自由扩展和线程的自由扩展;对于多IO模型,不同的处理线程所占用的CPU情况也有差异,根据IO模型分配不同的线程及CPU核心策略是现有技术无法实现的。
发明内容
有鉴于此,本发明实施例的目的在于提出一种存储性能优化的方法、设备及介质,利用CPU的多线程多核心,根据数据处理模块的队列使用情况,利用线程的创建及销毁更细粒度发挥出CPU的最大存储性能。
基于上述目的,本发明实施例的一方面提供了一种存储性能优化的方法,包括如下步骤:若干数据处理模块通过各自的线程管理模块周期地收集数据处理模块中队列和线程的状态信息,并将状态信息上报给资源管理模块;资源管理模块接收状态信息并对状态信息进行分析;以及资源管理模块根据分析结果向对应的线程管理模块下达增加或删除线程的指令。
在一些实施方式中,资源管理模块接收状态信息并对状态信息进行分析包括:资源管理模块对数据处理模块的队列情况进行分析;资源管理模块根据分析结果向对应的线程管理模块下达增加或删除线程的指令包括:响应于数据处理模块的队列饱和且超过预定防抖阈值,资源管理模块对线程管理模块下达增加线程的指令;响应于数据处理模块的线程闲置过半且超过预定防抖阈值,资源管理模块对线程管理模块下达删除线程的指令。
在一些实施方式中,响应于数据处理模块的队列饱和且超过预定防抖阈值,资源管理模块对线程管理模块下达增加线程的指令还包括:线程管理模块收到增加线程的指令,将饱和队列作为输入队列,并创建新线程;将饱和队列与新线程绑定,新线程轮询输入队列,对数据进行处理。
在一些实施方式中,响应于数据处理模块的线程闲置过半且超过预定防抖阈值,资源管理模块对线程管理模块下达删除线程的指令还包括:线程管理模块收到删除线程的指令,在队列中加入删除标记;线程识别到删除标记,停止将处理数据传递给队列。
在一些实施方式中,数据处理模块为对IO队列的处理模块,队列为IO队列。
本发明实施例的另一方面,还提供了一种计算机设备,包括:至少一个处理器;以及存储器,存储器存储有可在处理器上运行的计算机指令,指令由处理器执行以实现如下步骤:若干数据处理模块通过各自的线程管理模块周期地收集数据处理模块中队列和线程的状态信息,并将状态信息上报给资源管理模块;资源管理模块接收状态信息并对状态信息进行分析;以及资源管理模块根据分析结果向对应的线程管理模块下达增加或删除线程的指令。
在一些实施方式中,资源管理模块接收状态信息并对状态信息进行分析包括:资源管理模块对数据处理模块的队列情况进行分析;资源管理模块根据分析结果向对应的线程管理模块下达增加或删除线程的指令包括:响应于数据处理模块的队列饱和且超过预定防抖阈值,资源管理模块对线程管理模块下达增加线程的指令;响应于数据处理模块的线程闲置过半且超过预定防抖阈值,资源管理模块对线程管理模块下达删除线程的指令。
在一些实施方式中,响应于数据处理模块的队列饱和且超过预定防抖阈值,资源管理模块对线程管理模块下达增加线程的指令还包括:线程管理模块收到增加线程的指令,将饱和队列作为输入队列,并创建新线程;将饱和队列与新线程绑定,新线程轮询输入队列,对数据进行处理。
在一些实施方式中,响应于数据处理模块的线程闲置过半且超过预定防抖阈值,资源管理模块对线程管理模块下达删除线程的指令还包括:线程管理模块收到删除线程的指令,在队列中加入删除标记;线程识别到删除标记,停止将处理数据传递给队列。
在一些实施方式中,数据处理模块为对IO队列的处理模块,队列为IO队列。
本发明实施例的再一方面,还提供了一种计算机可读存储介质,计算机可读存储介质存储有被处理器执行时实现如上方法步骤的计算机程序。
本发明具有以下有益技术效果:利用CPU的多线程多核心,根据数据处理模块的队列使用情况,利用线程的创建及销毁更细粒度发挥出CPU的最大存储性能。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的实施例。
图1为本发明提供的存储性能优化的方法的实施例的示意图;
图2为本发明提供的存储性能优化的方法的实施例的结构框图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明实施例进一步详细说明。
需要说明的是,本发明实施例中所有使用“第一”和“第二”的表述均是为了区分两个相同名称非相同的实体或者非相同的参量,可见“第一”“第二”仅为了表述的方便,不应理解为对本发明实施例的限定,后续实施例对此不再一一说明。
基于上述目的,本发明实施例的第一个方面,提出了一种存储性能优化的方法的实施例。图1示出的是本发明提供的存储性能优化方法的实施例的示意图。如图1所示,本发明实施例包括如下步骤:
S1、若干数据处理模块通过各自的线程管理模块周期地收集数据处理模块中队列和线程的状态信息,并将状态信息上报给资源管理模块;
S2、资源管理模块接收状态信息并对状态信息进行分析;以及
S3、资源管理模块根据分析结果向对应的线程管理模块下达增加或删除线程的指令。
在本实施例中,系统中初始化资源管理模块,初始化数据处理模块并分配基础CPU资源,待数据处理模块初始化完成之后,统计CPU利用率,作为线程创建销毁的依据。将CPU资源池化,CPU的资源管理模块,即任务管理线程周期性收集各个数据处理模块上报的队列使用情况及延时,并对其进行分析,动态地增加或删除各数据处理模块的线程及队列资源,最大限度地发挥存储性能。
在本发明的一些实施方式中,资源管理模块接收状态信息并对状态信息进行分析包括:资源管理模块对数据处理模块的队列情况进行分析。资源管理模块根据分析结果向对应的线程管理模块下达增加或删除线程的指令包括:响应于数据处理模块的队列饱和且超过预定防抖阈值,资源管理模块对线程管理模块下达增加线程的指令;响应于数据处理模块的线程闲置过半且超过预定防抖阈值,资源管理模块对线程管理模块下达删除线程的指令。
在本发明的一些实施方式中,响应于数据处理模块的队列饱和且超过预定防抖阈值,资源管理模块对线程管理模块下达增加线程的指令还包括:线程管理模块收到增加线程的指令,将饱和队列作为输入队列,并创建新线程;将饱和队列与新线程绑定,新线程轮询输入队列,对数据进行处理。
在本发明的一些实施方式中,响应于数据处理模块的线程闲置过半且超过预定防抖阈值,资源管理模块对线程管理模块下达删除线程的指令还包括:线程管理模块收到删除线程的指令,在队列中加入删除标记;线程识别到删除标记,停止将处理数据传递给队列。在本发明的一些实施方式中,数据处理模块为对IO队列的处理模块,队列为IO队列。
图2示出的是本发明提供的存储性能优化的方法的实施例的结构框图。其中,100为资源管理模块,101为数据处理模块,102为线程管理模块,103为线程,104为队列。如图2所示,本发明实施例还包括如下步骤:
资源管理模块100对数据处理模块101a的队列104a情况进行分析;响应于数据处理模块101a的队列104a饱和且超过预定防抖阈值,资源管理模块100对线程管理模块102a下达增加线程103a的指令;响应于数据处理模块101b的线程103b闲置过半且超过预定防抖阈值,资源管理模块100对线程管理模块101b下达删除线程103b的指令。
响应于数据处理模块101a的队列104a饱和且超过预定防抖阈值,资源管理模块100对线程管理模块102a下达增加线程103a的指令还包括:线程管理模块102a收到指令,将饱和队列104a作为输入队列,并创建新线程;饱和队列104a与新线程绑定,新线程轮询输入队列,对数据进行处理。数据处理模块101a的线程103a轮询自己的输入队列,检测head头与tail尾不相等时,取出队列104a,处理完成后,放入下级数据处理模块101b的输入队列104b,由数据处理模块101b进行检测。
响应于数据处理模块101b的线程103b闲置过半且超过预定防抖阈值,资源管理模块100对线程管理模块101b下达删除线程103b的指令还包括:当检测当线程103b空转次数超过50%以上,且超过预定防抖次数时,线程管理模块102b收到指令,在队列104b中加入删除标记;线程103b识别到删除标记,停止将处理数据传递给队列。
在一些实施方式中,数据处理模块101为对IO队列的处理模块,队列104为IO队列。伴随着云计算迅速普及和各行业对于数据资产保存和利用意识的增强,以及通过互联网、大数据对产业进行变革的意愿,以大容量非易失性闪存作为介质的阵列存储技术正在数据中心迅速兴起,快速取代传统机械硬盘技术。数据中心、服务器通过通信网络连接众多的客户端计算机。用户在客户端通过通信网络,将IO请求发往阵列存储控制器,完成数据的获取和更新。由于终端用户众多,发往数据中心的IO请求数量庞大,如果不采取有效的策略进行调度,易造成IO请求堆积,存储介质接口带宽利用率不足的问题,进而造成客户服务满意度下降。通过本实施例可以实现动态地增加和减少IO队列数据处理模块的线程及队列资源,最大限度的发挥存储性能。
需要特别指出的是,上述存储性能优化的方法的各个实施例中的各个步骤均可以相互交叉、替换、增加、删减,因此,这些合理的排列组合变换之于基于软链接的文件保护的方法也应当属于本发明的保护范围,并且不应将本发明的保护范围局限在实施例之上。
基于上述目的,本发明实施例的第二个方面,提出了一种计算机设备,包括:至少一个处理器;以及存储器,存储器存储有可在处理器上运行的计算机指令,指令由处理器执行以实现如下步骤:S1、若干数据处理模块通过各自的线程管理模块周期地收集数据处理模块中队列和线程的状态信息,并将状态信息上报给资源管理模块;S2、资源管理模块接收状态信息并对状态信息进行分析;以及S3、资源管理模块根据分析结果向对应的线程管理模块下达增加或删除线程的指令。
在一些实施方式中,资源管理模块接收状态信息并对状态信息进行分析包括:资源管理模块对数据处理模块的队列情况进行分析。资源管理模块根据分析结果向对应的线程管理模块下达增加或删除线程的指令包括:响应于数据处理模块的队列饱和且超过预定防抖阈值,资源管理模块对线程管理模块下达增加线程的指令;响应于数据处理模块的线程闲置过半且超过预定防抖阈值,资源管理模块对线程管理模块下达删除线程的指令。
在一些实施方式中,响应于数据处理模块的队列饱和且超过预定防抖阈值,资源管理模块对线程管理模块下达增加线程的指令还包括:线程管理模块收到增加线程的指令,将饱和队列作为输入队列,并创建新线程;将饱和队列与新线程绑定,新线程轮询输入队列,对数据进行处理。
在一些实施方式中,响应于数据处理模块的线程闲置过半且超过预定防抖阈值,资源管理模块对线程管理模块下达删除线程的指令还包括:线程管理模块收到删除线程的指令,在队列中加入删除标记;线程识别到删除标记,停止将处理数据传递给队列。
本发明还提供了一种计算机可读存储介质,计算机可读存储介质存储有被处理器执行时执行如上方法的计算机程序。
最后需要说明的是,本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关硬件来完成,基于软链接的文件保护的方法的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,程序的存储介质可为磁碟、光盘、只读存储记忆体(ROM)或随机存储记忆体(RAM)等。上述计算机程序的实施例,可以达到与之对应的前述任意方法实施例相同或者相类似的效果。
此外,根据本发明实施例公开的方法还可以被实现为由处理器执行的计算机程序,该计算机程序可以存储在计算机可读存储介质中。在该计算机程序被处理器执行时,执行本发明实施例公开的方法中限定的上述功能。
此外,上述方法步骤以及系统单元也可以利用控制器以及用于存储使得控制器实现上述步骤或单元功能的计算机程序的计算机可读存储介质实现。
此外,应该明白的是,本文的计算机可读存储介质(例如,存储器)可以是易失性存储器或非易失性存储器,或者可以包括易失性存储器和非易失性存储器两者。作为例子而非限制性的,非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦写可编程ROM(EEPROM)或快闪存储器。易失性存储器可以包括随机存取存储器(RAM),该RAM可以充当外部高速缓存存储器。作为例子而非限制性的,RAM可以以多种形式获得,比如同步RAM(DRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据速率SDRAM(DDRSDRAM)、增强SDRAM(ESDRAM)、同步链路DRAM(SLDRAM)、以及直接Rambus RAM(DRRAM)。所公开的方面的存储设备意在包括但不限于这些和其它合适类型的存储器。
本领域技术人员还将明白的是,结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。为了清楚地说明硬件和软件的这种可互换性,已经就各种示意性组件、方块、模块、电路和步骤的功能对其进行了一般性的描述。这种功能是被实现为软件还是被实现为硬件取决于具体应用以及施加给整个系统的设计约束。本领域技术人员可以针对每种具体应用以各种方式来实现的功能,但是这种实现决定不应被解释为导致脱离本发明实施例公开的范围。
结合这里的公开所描述的各种示例性逻辑块、模块和电路可以利用被设计成用于执行这里功能的下列部件来实现或执行:通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件组件或者这些部件的任何组合。通用处理器可以是微处理器,但是可替换地,处理器可以是任何传统处理器、控制器、微控制器或状态机。处理器也可以被实现为计算设备的组合,例如,DSP和微处理器的组合、多个微处理器、一个或多个微处理器结合DSP和/或任何其它这种配置。
结合这里的公开所描述的方法或算法的步骤可以直接包含在硬件中、由处理器执行的软件模块中或这两者的组合中。软件模块可以驻留在RAM存储器、快闪存储器、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动盘、CD-ROM、或本领域已知的任何其它形式的存储介质中。示例性的存储介质被耦合到处理器,使得处理器能够从该存储介质中读取信息或向该存储介质写入信息。在一个替换方案中,存储介质可以与处理器集成在一起。处理器和存储介质可以驻留在ASIC中。ASIC可以驻留在用户终端中。在一个替换方案中,处理器和存储介质可以作为分立组件驻留在用户终端中。
在一个或多个示例性设计中,功能可以在硬件、软件、固件或其任意组合中实现。如果在软件中实现,则可以将功能作为一个或多个指令或代码存储在计算机可读介质上或通过计算机可读介质来传送。计算机可读介质包括计算机存储介质和通信介质,该通信介质包括有助于将计算机程序从一个位置传送到另一个位置的任何介质。存储介质可以是能够被通用或专用计算机访问的任何可用介质。作为例子而非限制性的,该计算机可读介质可以包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储设备、磁盘存储设备或其它磁性存储设备,或者是可以用于携带或存储形式为指令或数据结构的所需程序代码并且能够被通用或专用计算机或者通用或专用处理器访问的任何其它介质。此外,任何连接都可以适当地称为计算机可读介质。例如,如果使用同轴线缆、光纤线缆、双绞线、数字用户线路(DSL)或诸如红外线、无线电和微波的无线技术来从网站、服务器或其它远程源发送软件,则上述同轴线缆、光纤线缆、双绞线、DSL或诸如红外线、无线电和微波的无线技术均包括在介质的定义。如这里所使用的,磁盘和光盘包括压缩盘(CD)、激光盘、光盘、数字多功能盘(DVD)、软盘、蓝光盘,其中磁盘通常磁性地再现数据,而光盘利用激光光学地再现数据。上述内容的组合也应当包括在计算机可读介质的范围内。
以上是本发明公开的示例性实施例,但是应当注意,在不背离权利要求限定的本发明实施例公开的范围的前提下,可以进行多种改变和修改。根据这里描述的公开实施例的方法权利要求的功能、步骤和/或动作不需以任何特定顺序执行。此外,尽管本发明实施例公开的元素可以以个体形式描述或要求,但除非明确限制为单数,也可以理解为多个。
应当理解的是,在本文中使用的,除非上下文清楚地支持例外情况,单数形式“一个”旨在也包括复数形式。还应当理解的是,在本文中使用的“和/或”是指包括一个或者一个以上相关联地列出的项目的任意和所有可能组合。
上述本发明实施例公开实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
所属领域的普通技术人员应当理解:以上任何实施例的讨论仅为示例性的,并非旨在暗示本发明实施例公开的范围(包括权利要求)被限于这些例子;在本发明实施例的思路下,以上实施例或者不同实施例中的技术特征之间也可以进行组合,并存在如上的本发明实施例的不同方面的许多其它变化,为了简明它们没有在细节中提供。因此,凡在本发明实施例的精神和原则之内,所做的任何省略、修改、等同替换、改进等,均应包含在本发明实施例的保护范围之内。
Claims (10)
1.一种存储性能优化的方法,其特征在于,包括以下步骤:
若干数据处理模块通过各自的线程管理模块周期地收集所述数据处理模块中队列和线程的状态信息,并将所述状态信息上报给资源管理模块;
所述资源管理模块接收所述状态信息并对所述状态信息进行分析;以及
所述资源管理模块根据所述分析结果向对应的所述线程管理模块下达增加或删除线程的指令。
2.根据权利要求1所述的方法,其特征在于,所述资源管理模块接收所述状态信息并对所述状态信息进行分析包括:所述资源管理模块对所述数据处理模块的所述队列情况进行分析;
所述资源管理模块根据所述分析结果向对应的所述线程管理模块下达增加或删除线程的指令包括:
响应于所述数据处理模块的所述队列饱和且超过预定防抖阈值,所述资源管理模块对所述线程管理模块下达增加线程的指令;
响应于所述数据处理模块的所述线程闲置过半且超过预定防抖阈值,所述资源管理模块对所述线程管理模块下达删除线程的指令。
3.根据权利要求2所述的方法,其特征在于,响应于所述数据处理模块的所述队列饱和且超过预定防抖阈值,所述资源管理模块对所述线程管理模块下达增加线程的指令还包括:
所述线程管理模块收到增加线程的指令,将饱和队列作为输入队列,并创建新线程;
将所述饱和队列与所述新线程绑定,所述新线程轮询所述输入队列,对数据进行处理。
4.根据权利要求2所述的方法,其特征在于,响应于所述数据处理模块的所述线程闲置过半且超过预定防抖阈值,所述资源管理模块对所述线程管理模块下达删除线程的指令还包括:
所述线程管理模块收到删除线程的指令,在所述队列中加入删除标记;
所述线程识别到所述删除标记,停止将处理数据传递给所述队列。
5.根据权利要求1所述的方法,其特征在于,所述数据处理模块为对IO队列的处理模块,所述队列为IO队列。
6.一种计算机设备,其特征在于,包括:
至少一个处理器;以及
存储器,所述存储器存储有可在所述处理器上运行的计算机指令,所述指令由所述处理器执行时实现以下步骤:
若干数据处理模块通过各自的线程管理模块周期地收集所述数据处理模块中队列和线程的状态信息,并将所述状态信息上报给资源管理模块;
所述资源管理模块接收所述状态信息并对所述状态信息进行分析;以及
所述资源管理模块根据所述分析结果向对应的所述线程管理模块下达增加或删除线程的指令。
7.根据权利要求6所述的计算机设备,其特征在于,所述资源管理模块接收所述状态信息并对所述状态信息进行分析包括:所述资源管理模块对所述数据处理模块的所述队列情况进行分析;
所述资源管理模块根据所述分析结果向对应的所述线程管理模块下达增加或删除线程的指令包括:
响应于所述数据处理模块的所述队列饱和且超过预定防抖阈值,所述资源管理模块对所述线程管理模块下达增加线程的指令;
响应于所述数据处理模块的所述线程闲置过半且超过预定防抖阈值,所述资源管理模块对所述线程管理模块下达删除线程的指令。
8.根据权利要求7所述的计算机设备,其特征在于,响应于所述数据处理模块的所述队列饱和且超过预定防抖阈值,所述资源管理模块对所述线程管理模块下达增加线程的指令还包括:
所述线程管理模块收到增加线程的指令,将饱和队列作为输入队列,并创建新线程;
将所述饱和队列与所述新线程绑定,所述新线程轮询所述输入队列,对数据进行处理。
9.根据权利要求7所述的计算机设备,其特征在于,响应于所述数据处理模块的所述线程闲置过半且超过预定防抖阈值,所述资源管理模块对所述线程管理模块下达删除线程的指令还包括:
所述线程管理模块收到删除线程的指令,在所述队列中加入删除标记;
所述线程识别到所述删除标记,停止将处理数据传递给所述队列。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-5任意一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911120366.1A CN110990148A (zh) | 2019-11-15 | 2019-11-15 | 一种存储性能优化的方法、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911120366.1A CN110990148A (zh) | 2019-11-15 | 2019-11-15 | 一种存储性能优化的方法、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110990148A true CN110990148A (zh) | 2020-04-10 |
Family
ID=70084592
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911120366.1A Withdrawn CN110990148A (zh) | 2019-11-15 | 2019-11-15 | 一种存储性能优化的方法、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110990148A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111984383A (zh) * | 2020-08-18 | 2020-11-24 | 薛东 | 基于云网融合和人工智能的业务数据处理方法及云端平台 |
CN113727210A (zh) * | 2021-08-06 | 2021-11-30 | 济南浪潮数据技术有限公司 | 一种设备信息管理方法、系统、存储介质及设备 |
-
2019
- 2019-11-15 CN CN201911120366.1A patent/CN110990148A/zh not_active Withdrawn
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111984383A (zh) * | 2020-08-18 | 2020-11-24 | 薛东 | 基于云网融合和人工智能的业务数据处理方法及云端平台 |
CN111984383B (zh) * | 2020-08-18 | 2021-05-14 | 上海悟景信息科技有限公司 | 基于云网融合和人工智能的业务数据处理方法及云端平台 |
CN113727210A (zh) * | 2021-08-06 | 2021-11-30 | 济南浪潮数据技术有限公司 | 一种设备信息管理方法、系统、存储介质及设备 |
CN113727210B (zh) * | 2021-08-06 | 2023-08-22 | 济南浪潮数据技术有限公司 | 一种设备信息管理方法、系统、存储介质及设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11711420B2 (en) | Automated management of resource attributes across network-based services | |
CN113010818B (zh) | 访问限流方法、装置、电子设备及存储介质 | |
WO2021051531A1 (zh) | 处理多集群作业记录的方法、装置、设备及存储介质 | |
CN110232010A (zh) | 一种告警方法、告警服务器及监控服务器 | |
CN111045782A (zh) | 日志处理方法、装置、电子设备和计算机可读存储介质 | |
CN106027595A (zh) | 用于cdn节点的访问日志处理方法及系统 | |
CN107070709B (zh) | 一种基于底层numa感知的nfv实现方法 | |
CN110995616B (zh) | 一种大流量服务器的管理方法、设备及可读介质 | |
CN108228322B (zh) | 一种分布式链路跟踪、分析方法及服务器、全局调度器 | |
WO2021169275A1 (zh) | Sdn 网络设备访问方法、装置、计算机设备及存储介质 | |
JP2012521042A (ja) | ウェブフロントエンドスロットリング | |
CN111309466B (zh) | 一种基于云平台多线程调度的方法、系统、设备及介质 | |
US10182104B1 (en) | Automatic propagation of resource attributes in a provider network according to propagation criteria | |
WO2021068205A1 (zh) | 访问控制方法、装置、服务器和计算机可读介质 | |
KR20160056944A (ko) | 캐싱된 플로우들에 기초한 가속 | |
CN110990148A (zh) | 一种存储性能优化的方法、设备及介质 | |
JP2021523429A (ja) | 自動データベースクエリ負荷評価および適応処理 | |
CN115004156A (zh) | 实时多租户工作负载跟踪和自动节流 | |
US11762860B1 (en) | Dynamic concurrency level management for database queries | |
CN114385674A (zh) | 一种平台消息跟踪方法、系统、装置及存储介质 | |
Medvedev et al. | Data ingestion and storage performance of IoT platforms: Study of OpenIoT | |
CN111200637B (zh) | 一种缓存的处理方法及装置 | |
US9760576B1 (en) | System and method for performing object-modifying commands in an unstructured storage service | |
KR101830504B1 (ko) | 분산 환경 기반 빅데이터 실시간 분석을 위한 인-메모리 db 연결 지원형 스케줄링 방법 및 시스템 | |
WO2021087970A1 (zh) | 标签数据的更新方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20200410 |