CN114861039A - 一种搜索引擎的参数配置方法、装置、设备及存储介质 - Google Patents
一种搜索引擎的参数配置方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN114861039A CN114861039A CN202210346160.6A CN202210346160A CN114861039A CN 114861039 A CN114861039 A CN 114861039A CN 202210346160 A CN202210346160 A CN 202210346160A CN 114861039 A CN114861039 A CN 114861039A
- Authority
- CN
- China
- Prior art keywords
- search engine
- operation parameters
- initial
- updated
- index
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/445—Program loading or initiating
- G06F9/44505—Configuring for program initiating, e.g. using registry, configuration files
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Combined Controls Of Internal Combustion Engines (AREA)
Abstract
本发明公开了一种搜索引擎的参数配置方法、装置、设备及存储介质,包括:获取搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集多个初始指标值;对多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集多个更新指标值;将更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止;根据搜索引擎对应的初始指标值以及更新指标值确定目标运行参数。本发明实施例的技术方案可以提高搜索引擎的参数配置效率,降低开发人员的工作量。
Description
技术领域
本发明实施例涉及搜索引擎优化技术领域,尤其涉及一种搜索引擎的参数配置方法、装置、设备及存储介质。
背景技术
随着大数据时代的来临,日志数据产生速度加快、数据体量巨大,单凭人力无法跟上机器产生数据的速度。为了提高对日志数据的处理效率,搜索引擎已普遍应用于大型分布式系统中,用于对分布式系统生成的日志数据进行存储和分析。
搜索引擎中往往拥有大量与性能相关的参数项,参数项的配置结果直接影响了搜索引擎的处理性能。现有的搜索引擎在运行之前,需要依赖开发人员对各参数项进行手动配置,以使配置后的参数项适配特定的工作环境。
但是,由于搜索引擎对应的工作环境(包括硬件配置以及工作负载等)时常发生变化,搜索引擎在开启后不能简单地重复使用前几次配置好的参数项,因此开发人员需要消耗大量时间及经验对搜索引擎的参数项进行配置。
发明内容
本发明实施例提供一种搜索引擎的参数配置方法、装置、设备及存储介质,可以提高搜索引擎的参数配置效率,降低开发人员的工作量。
第一方面,本发明实施例提供了一种搜索引擎的参数配置方法,该方法包括:
获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值;
对所述多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在多个核心评价指标下的更新指标值;
将所述更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止;
根据搜索引擎对应的多个初始指标值以及更新指标值,确定与所述搜索引擎匹配的目标运行参数。
第二方面,本发明实施例还提供了一种搜索引擎的参数配置装置,该装置包括:
参数获取模块,用于获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值;
高斯拟合模块,用于对所述多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在多个核心评价指标下的更新指标值;
迭代处理模块,用于将所述更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止;
参数确定模块,用于根据搜索引擎对应的多个初始指标值以及更新指标值,确定与所述搜索引擎匹配的目标运行参数。
第三方面,本发明实施例还提供了一种电子设备,该电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器执行所述程序时实现本发明任意实施例提供的搜索引擎的参数配置方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,该程序被处理器执行时实现本发明任意实施例提供的搜索引擎的参数配置方法。
第五方面,本发明实施例还提供了一种计算机程序产品,所述计算机程序产品包括计算机程序,所述计算机程序在被处理器执行时实现本发明任意实施例提供的搜索引擎的参数配置方法。
本发明实施例的技术方案通过获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值,对多个初始运行参数进行高斯拟合得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在多个核心评价指标下的更新指标值,将更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止,根据搜索引擎对应的多个初始指标值以及更新指标值确定目标运行参数的技术手段,可以提高搜索引擎的参数配置效率,降低开发人员的工作量。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种搜索引擎的参数配置方法的流程图;
图2是根据本发明实施例二提供的一种搜索引擎的参数配置方法的流程图;
图3是根据本发明实施例三提供的一种搜索引擎的参数配置方法的流程图;
图4是根据本发明实施例四提供的一种搜索引擎的参数配置装置的结构示意图;
图5是实现本发明实施例的搜索引擎的参数配置方法的电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一提供的一种搜索引擎的参数配置方法的流程图,本实施例可适用于对搜索引擎的运行参数进行配置的情况,该方法可以由搜索引擎的参数配置装置来执行。所述搜索引擎的参数配置装置可以由软件和/或硬件来实现,一般可以集成在具有数据处理功能的电子设备中,具体包括如下步骤:
步骤110、获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值。
在本实施例中,所述搜索引擎是指根据用户输入的执行指令,按照特定算法和策略从预设的数据库中获取对应的日志数据,并对所述日志数据进行分析、存储或计算等操作的处理工具。在对搜索引擎的运行参数进行配置的过程中,可以获取搜索引擎在当前时刻下对应的多个初始运行参数。
其中,如果搜索引擎在当前时刻之前运行过用户输入的执行指令,则可以将搜索引擎在当前时刻之前的最后一次运行过程中的参数作为初始运行参数;如果搜索引擎在当前时刻之前没有运行过任何执行指令,则可以将搜索引擎默认的运行参数作为初始运行参数。具体的,所述运行参数可以包括搜索引擎每次处理的日志文件大小、以及缓存空间大小等。
在此步骤中,获取到搜索引擎对应的多个初始运行参数后,可以控制搜索引擎按照初始运行参数执行相应的指令,并在指令执行完成之后,采集搜索引擎在多个核心评价指标下的初始指标值。
在本实施例中,搜索引擎对应多个评价指标,所述评价指标(例如搜索结果时延、内存占比、cpu占比等)用于对搜索引擎的性能进行评估。为了提高对搜索引擎的参数配置效率,可以在多个评价指标中选取具有代表性的,能够客观准确地评估搜索引擎运行性能的指标作为核心评价指标。所述初始指标值,可以为搜索引擎在初始运行参数下,针对各核心评价指标衍生的数据值。
在一个具体的实施例中,假设核心评价指标为搜索结果时延和内存占比,在控制搜索引擎按照初始运行参数运行后,可以采集搜索引擎在本次运行过程中的搜索结果时延数据和内存占比数据作为初始指标值。
步骤120、对所述多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在多个核心评价指标下的更新指标值。
在此步骤中,可以对上述步骤中的多个初始运行参数进行高斯拟合,得到多个拟合后的运行参数(也即更新运行参数)。具体的,可以在上述多个初始运行参数中随机选取预设数量的运行参数作为待处理参数,然后采用预设的高斯函数对多个待处理参数进行函数逼近,得到多个更新运行参数。
在本实施例中,对多个初始运行参数进行高斯拟合得到多个更新运行参数后,可以控制搜索引擎按照更新运行参数执行相应的指令,并在指令执行完成之后,采集搜索引擎在多个核心评价指标下的更新指标值。所述更新指标值,可以为搜索引擎在更新运行参数下,针对各核心评价指标衍生的数据值。
在一个具体的实施例中,假设核心评价指标为搜索结果时延和内存占比,在控制搜索引擎按照更新运行参数运行后,可以采集搜索引擎在本次运行过程中的搜索结果时延数据和内存占比数据作为更新指标值。
步骤130、将所述更新运行参数作为初始运行参数,返回执行步骤120中对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止。
在本实施例中,可以根据预设的迭代次数,对搜索引擎的运行参数依次进行高斯拟合,并控制搜索引擎按照每次得到的更新运行参数运行,然后采集每次运行过程对应的更新指标值。
在此步骤中,具体的,可以将更新运行参数作为初始运行参数,然后返回执行步骤120中对多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在多个核心评价指标下的更新指标值的操作,直至搜索引擎的运行次数等于预设迭代次数为止。
步骤140、根据搜索引擎对应的多个初始指标值以及更新指标值,确定与所述搜索引擎匹配的目标运行参数。
在本实施例中,可选的,获取到搜索引擎经过多次运行过程得到的多个指标值(包括初始指标值和更新指标值)后,可以对各指标值进行比较,并根据比较结果确定与搜索引擎匹配的最优运行参数(也即目标运行参数)。
在一个具体的实施例中,假设核心评价指标为搜索结果时延和内存占比,通过上述步骤控制搜索引擎进行多次迭代运行后,确定搜索引擎在第N(N>0)次运行过程中的搜索结果时延最短,在第M(M>0)次运行过程中的内存占比最低,则可以根据第N次和第M次分别对应的运行参数,确定与搜索引擎匹配的目标运行参数。
在本实施例中,通过对搜索引擎对应的运行参数进行多次高斯拟合,并采集每次运行过程对应的指标值,可以自动确定与搜索引擎匹配的最优运行参数,无需开发人员对搜索引擎的参数进行手动配置,由此可以降低开发人员的工作量;其次,通过对运行参数进行高斯过程回归处理,可以减少对运行参数的计算量,提高搜索引擎的参数配置效率。
本发明实施例的技术方案通过获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值,对多个初始运行参数进行高斯拟合得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在多个核心评价指标下的更新指标值,将更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止,根据搜索引擎对应的多个初始指标值以及更新指标值确定目标运行参数的技术手段,可以提高搜索引擎的参数配置效率,降低开发人员的工作量。
实施例二
本实施例是对上述实施例的进一步细化,与上述实施例相同或相应的术语解释,本实施例不再赘述。图2为本实施例二提供的一种搜索引擎的参数配置方法的流程图,在本实施例中,本实施例的技术方案可以与上述实施例的方案中的一种或者多种方法进行组合,如图2所示,本实施例提供的方法还可以包括:
步骤210、获取与搜索引擎对应的多个评价指标,以及各评价指标在搜索引擎历史运行过程中对应的历史指标序列。
在本实施例中,可以获取搜索引擎对应的多个评价指标(例如搜索结果时延、内存占比、cpu占比、准确率以及召回率等),然后获取搜索引擎在历史运行过程中,针对每个评价指标产生的历史指标序列。其中,每个评价指标对应的历史指标序列中,包括搜索引擎针对该评价指标产生的多个指标值。
步骤220、根据各评价指标对应的历史指标序列,对各评价指标进行时序聚类,得到多个聚类簇,并将每个聚类簇对应的簇中心作为核心评价指标。
在此步骤中,可选的,可以采用预设的时序聚类算法,根据各评价指标对应的历史指标序列,对各评价指标进行时序聚类,得到多个聚类簇,并将每个聚类簇对应的簇中心作为核心评价指标。具体的,所述时序聚类算法可以为具有噪声的基于密度的聚类方法(Density-Based Spatial Clustering of Applications with Noise,DBSCAN),或者ROCKA聚类算法等,本实施例对此并不进行限制。
这样设置的好处在于,通过对多个评价指标进行聚类,并根据聚类结果确定核心评价指标,可以保证核心评价指标是多个评价指标中最具代表性的指标,由此可以提高后续搜索引擎参数配置结果的有效性。
步骤230、获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下分别对应的初始指标值,并对所述多个初始运行参数与初始指标值之间的映射关系进行保存。
在本实施例中,采集到初始指标值后,可以将多个初始运行参数与初始指标值之间的映射关系保存在预设的存储区域中。
步骤240、对多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在各核心评价指标下的更新指标值,并对所述多个更新运行参数与更新指标值之间的映射关系进行保存。
在本实施例中,采集到更新指标值后,可以将多个更新运行参数与更新指标值之间的映射关系保存在预设的存储区域中。
步骤250、将所述更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止。
在此步骤中,可以将更新运行参数作为初始运行参数,然后返回执行步骤240中对多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在各核心评价指标下的更新指标值,并对多个更新运行参数与更新指标值之间的映射关系进行保存的操作,直至搜索引擎的运行次数等于预设迭代次数为止。
步骤260、根据所述多个初始运行参数与初始指标值之间的映射关系,以及多个更新运行参数与更新指标值之间的映射关系,确定运行参数集与指标集之间的函数关系。
在此步骤中,可以从预设的存储区域中获取多个初始运行参数与初始指标值之间的映射关系,以及多个更新运行参数与更新指标值之间的映射关系,然后采用预设的线性回归算法,对上述多个映射关系进行处理,得到运行参数集与指标集之间的函数关系。
其中,所述运行参数集中包括搜索引擎对应的多个运行参数项,指标集中包括搜索引擎对应的多个核心评价指标。
步骤270、根据所述函数关系,计算指标集中的核心评价指标为目标值时,运行参数集对应的目标运行参数。
在此步骤中,可以对指标集中的各核心评价指标进行赋值,得到多个目标值,然后根据所述函数关系以及多个目标值,计算各运行参数项对应的目标数据值(也即目标运行参数)。
这样设置的好处在于,通过建立运行参数集与指标集之间的函数关系,可以快速计算出搜索引擎性能最优时对应的运行参数,由此可以实现对搜索引擎进行自动优化,提高搜索引擎参数配置结果的有效性。
本发明实施例的技术方案通过获取与搜索引擎对应的多个评价指标,以及各评价指标对应的历史指标序列,对各评价指标进行时序聚类,将每个聚类簇对应的簇中心作为核心评价指标,获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后采集多个初始指标值,对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行后采集多个更新指标值,将更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止,根据多个初始运行参数与初始指标值之间的映射关系,以及多个更新运行参数与更新指标值之间的映射关系,确定运行参数集与指标集之间的函数关系,根据函数关系,计算指标集中的核心评价指标为目标值时,运行参数集对应的目标运行参数的技术手段,可以提高搜索引擎的参数配置效率,降低开发人员的工作量。
实施例三
本实施例是对上述实施例的进一步细化,与上述实施例相同或相应的术语解释,本实施例不再赘述。图3为本实施例三提供的一种搜索引擎的参数配置方法的流程图,在本实施例中,本实施例的技术方案可以与上述实施例的方案中的一种或者多种方法进行组合,如图3所示,本实施例提供的方法还可以包括:
步骤310、根据搜索引擎对应的搜索指令类型、功能请求类型以及搜索规模,构建与所述搜索引擎匹配的测试环境。
在本实施例中,搜索引擎对应的搜索指令可以为搜索处理语言(SearchProcessing Language,SPL)指令。其中,SPL指令的指令类型可以包括并行流式、中心流式以及分布式。搜索引擎对应的功能请求类型可以包括查询请求以及统计请求等。搜索引擎对应的搜索规模可以为搜索引擎连接的设备数量等。
在本发明实施例的一个实施方式中,根据搜索引擎对应的搜索指令类型、功能请求类型以及搜索规模,构建与所述搜索引擎匹配的测试环境,包括:
步骤311、根据搜索引擎中纯流式查询请求和分布式统计请求分别对应的比例,建立与所述搜索引擎匹配的请求线程;
在此步骤中,可选的,可以建立查询请求线程和分布式统计请求线程。其中,查询请求线程和分布式统计请求线程之间的比例,与搜索引擎中纯流式查询请求和分布式统计请求之间的比例一致。
步骤312、获取搜索引擎对应的索引规模和负载规模,对所述索引规模和负载规模进行等比例缩减,得到与所述搜索引擎匹配的测试规模;
在此步骤中,所述索引规模可以包括搜索引擎对应的索引数据以及索引容量等,所述负载规模可以包括搜索引擎连接的设备数量等。
步骤313、根据所述搜索引擎对应的搜索指令类型、请求线程以及测试规模,构建与所述搜索引擎匹配的测试环境。
在此步骤中,可以根据SPL指令的指令类型、请求线程以及测试规模,构建与所述搜索引擎匹配的测试环境。
步骤320、获取与搜索引擎对应的多个初始运行参数,控制搜索引擎在所述测试环境中,按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值。
在此步骤中,可以控制搜索引擎在所述测试环境中,按照初始运行参数运行,并采集搜索引擎在多个核心评价指标下的初始指标值。这样设置的好处在于,可以保证搜索引擎对应的指标值与真实的开发环境相匹配,由此可以提高运行参数配置结果的准确性。
步骤330、对多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎在所述测试环境中,按照更新运行参数运行后,采集搜索引擎在各核心评价指标下的更新指标值。
步骤340、将所述更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止。
步骤350、根据搜索引擎对应的多个初始指标值以及更新指标值,确定与所述搜索引擎匹配的目标运行参数。
在本发明实施例的一个实施方式中,在确定与所述搜索引擎匹配的目标运行参数之后,还包括:判断所述目标运行参数是否处于预设的标准参数区间之内;若否,则对搜索引擎对应的资源参数进行调整,以使所述目标运行参数与调整后的资源参数相适配。
在本实施例中,在获取与搜索引擎对应的多个初始运行参数之前,可以预先为每项运行参数设置对应的标准参数区间,以保证搜索引擎有效运行。通过上述步骤确定出目标运行参数后,如果检测到目标运行参数不处于预设的标准参数区间内,则可以对搜索引擎的资源配置参数进行调整,以使目标运行参数与调整后的资源参数相适配,进而保证搜索引擎有效运行。
在一个具体的实施例中,对搜索引擎的资源配置参数进行调整时,可以对搜索引擎中的broker和data node的数量进行重新分配,或者可以对搜索引擎中的shard数量进行重新调整等。
本发明实施例的技术方案通过根据搜索引擎对应的搜索指令类型、功能请求类型以及搜索规模构建测试环境,获取与搜索引擎对应的多个初始运行参数,控制搜索引擎在测试环境中按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值,对多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎在测试环境中按照更新运行参数运行后,采集搜索引擎在各核心评价指标下的更新指标值,将更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止,根据搜索引擎对应的多个初始指标值以及更新指标值,确定与搜索引擎匹配的目标运行参数的技术手段,可以提高搜索引擎的参数配置效率,降低开发人员的工作量。
实施例四
图4为本发明实施例四提供的一种搜索引擎的参数配置装置的结构示意图,如图4所示,该装置包括:参数获取模块410、高斯拟合模块420、迭代处理模块430和参数确定模块440。
其中,参数获取模块410,用于获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值;
高斯拟合模块420,用于对所述多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在多个核心评价指标下的更新指标值;
迭代处理模块430,用于将所述更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止;
参数确定模块440,用于根据搜索引擎对应的多个初始指标值以及更新指标值,确定与所述搜索引擎匹配的目标运行参数。
本发明实施例提供的技术方案,通过获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值,对多个初始运行参数进行高斯拟合得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在多个核心评价指标下的更新指标值,将更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止,根据搜索引擎对应的多个初始指标值以及更新指标值确定目标运行参数的技术手段,可以提高搜索引擎的参数配置效率,降低开发人员的工作量。
在上述实施例的基础上,所述参数获取模块410包括:
初始映射关系保存单元,用于对所述多个初始运行参数与初始指标值之间的映射关系进行保存;
指标值采集单元,用于控制搜索引擎在所述测试环境中,按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值。
所述高斯拟合模块420包括:
更新映射关系保存单元,用于对所述多个更新运行参数与更新指标值之间的映射关系进行保存。
所述参数确定模块440包括:
函数关系确定单元,用于根据所述多个初始运行参数与初始指标值之间的映射关系,以及多个更新运行参数与更新指标值之间的映射关系,确定运行参数集与指标集之间的函数关系;
参数计算单元,用于根据所述函数关系,计算指标集中的核心评价指标为目标值时,运行参数集对应的目标运行参数。
所述搜索引擎的参数配置装置,还包括:
指标获取模块,用于获取与搜索引擎对应的多个评价指标,以及各评价指标在搜索引擎历史运行过程中对应的历史指标序列;
核心指标确定模块,用于根据各评价指标对应的历史指标序列,对各评价指标进行时序聚类,得到多个聚类簇,并将每个聚类簇对应的簇中心作为核心评价指标;
参数判断模块,用于判断所述目标运行参数是否处于预设的标准参数区间之内;
参数调整模块,用于所述目标运行参数不处于预设的标准参数区间之内时,则对搜索引擎对应的资源参数进行调整,以使所述目标运行参数与调整后的资源参数相适配;
环境构建模块,用于根据搜索引擎对应的搜索指令类型、功能请求类型以及搜索规模,构建与所述搜索引擎匹配的测试环境。
所述环境构建模块,包括:
线程建立单元,用于根据搜索引擎中纯流式查询请求和分布式统计请求分别对应的比例,建立与所述搜索引擎匹配的请求线程;
规模处理单元,用于获取搜索引擎对应的索引规模和负载规模,对所述索引规模和负载规模进行等比例缩减,得到与所述搜索引擎匹配的测试规模;
测试环境构建单元,用于根据所述搜索引擎对应的搜索指令类型、请求线程以及测试规模,构建与所述搜索引擎匹配的测试环境。
上述装置可执行本发明前述所有实施例所提供的方法,具备执行上述方法相应的功能模块和有益效果。未在本发明实施例中详尽描述的技术细节,可参见本发明前述所有实施例所提供的方法。
实施例五
图5示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图5所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如搜索引擎的参数配置方法。
在一些实施例中,搜索引擎的参数配置方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的搜索引擎的参数配置方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行搜索引擎的参数配置方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种搜索引擎的参数配置方法,其特征在于,所述方法包括:
获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下分别对应的初始指标值;
对多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在各核心评价指标下的更新指标值;
将所述更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止;
根据搜索引擎对应的多个初始指标值以及更新指标值,确定与所述搜索引擎匹配的目标运行参数。
2.根据权利要求1所述方法,其特征在于,在采集搜索引擎在多个核心评价指标下的初始指标值之后,还包括:
对所述多个初始运行参数与初始指标值之间的映射关系进行保存;
在采集搜索引擎在多个核心评价指标下的更新指标值之后,还包括:
对所述多个更新运行参数与更新指标值之间的映射关系进行保存;
根据搜索引擎对应的多个初始指标值以及更新指标值,确定与所述搜索引擎匹配的目标运行参数,包括:
根据所述多个初始运行参数与初始指标值之间的映射关系,以及多个更新运行参数与更新指标值之间的映射关系,确定运行参数集与指标集之间的函数关系;
根据所述函数关系,计算指标集中的核心评价指标为目标值时,运行参数集对应的目标运行参数。
3.根据权利要求1所述的方法,其特征在于,在获取与搜索引擎对应的多个初始运行参数之前,还包括:
获取与搜索引擎对应的多个评价指标,以及各评价指标在搜索引擎历史运行过程中对应的历史指标序列;
根据各评价指标对应的历史指标序列,对各评价指标进行时序聚类,得到多个聚类簇,并将每个聚类簇对应的簇中心作为核心评价指标。
4.根据权利要求1所述的方法,其特征在于,在确定与所述搜索引擎匹配的目标运行参数之后,还包括:
判断所述目标运行参数是否处于预设的标准参数区间之内;
若否,则对搜索引擎对应的资源参数进行调整,以使所述目标运行参数与调整后的资源参数相适配。
5.根据权利要求1所述方法,其特征在于,在获取与搜索引擎对应的多个初始运行参数之前,还包括:
根据搜索引擎对应的搜索指令类型、功能请求类型以及搜索规模,构建与所述搜索引擎匹配的测试环境;
控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值,包括:
控制搜索引擎在所述测试环境中,按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值。
6.根据权利要求5所述的方法,其特征在于,根据搜索引擎对应的搜索指令类型、功能请求类型以及搜索规模,构建与所述搜索引擎匹配的测试环境,包括:
根据搜索引擎中纯流式查询请求和分布式统计请求分别对应的比例,建立与所述搜索引擎匹配的请求线程;
获取搜索引擎对应的索引规模和负载规模,对所述索引规模和负载规模进行等比例缩减,得到与所述搜索引擎匹配的测试规模;
根据所述搜索引擎对应的搜索指令类型、请求线程以及测试规模,构建与所述搜索引擎匹配的测试环境。
7.一种搜索引擎的参数配置装置,其特征在于,所述装置包括:
参数获取模块,用于获取与搜索引擎对应的多个初始运行参数,控制搜索引擎按照初始运行参数运行后,采集搜索引擎在多个核心评价指标下的初始指标值;
高斯拟合模块,用于对所述多个初始运行参数进行高斯拟合,得到多个更新运行参数,控制搜索引擎按照更新运行参数运行后,采集搜索引擎在多个核心评价指标下的更新指标值;
迭代处理模块,用于将所述更新运行参数作为初始运行参数,返回执行对多个初始运行参数进行高斯拟合,控制搜索引擎按照更新运行参数运行的操作,直至搜索引擎的运行次数等于预设迭代次数为止;
参数确定模块,用于根据搜索引擎对应的多个初始指标值以及更新指标值,确定与所述搜索引擎匹配的目标运行参数。
8.一种电子设备,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器执行所述程序时实现如权利要求1-6中任一所述的搜索引擎的参数配置方法。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-6中任一所述的搜索引擎的参数配置方法。
10.一种计算机程序产品,其特征在于,所述计算机程序产品包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的搜索引擎的参数配置方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210346160.6A CN114861039B (zh) | 2022-03-31 | 2022-03-31 | 一种搜索引擎的参数配置方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210346160.6A CN114861039B (zh) | 2022-03-31 | 2022-03-31 | 一种搜索引擎的参数配置方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114861039A true CN114861039A (zh) | 2022-08-05 |
CN114861039B CN114861039B (zh) | 2023-03-24 |
Family
ID=82628882
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210346160.6A Active CN114861039B (zh) | 2022-03-31 | 2022-03-31 | 一种搜索引擎的参数配置方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114861039B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115766453A (zh) * | 2022-12-07 | 2023-03-07 | 中国工商银行股份有限公司 | 报警系统配置方法、装置、设备、介质及产品 |
CN116089022A (zh) * | 2023-04-11 | 2023-05-09 | 广州嘉为科技有限公司 | 一种日志搜索引擎的参数配置调整方法、系统及存储介质 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN202033748U (zh) * | 2011-04-22 | 2011-11-09 | 阿里巴巴集团控股有限公司 | 搜索引擎性能测试系统 |
CN104216783A (zh) * | 2014-08-20 | 2014-12-17 | 上海交通大学 | 云游戏中虚拟gpu资源自主管理与控制方法 |
CN108052442A (zh) * | 2017-10-30 | 2018-05-18 | 努比亚技术有限公司 | 一种引擎测试方法、终端和计算机可读存储介质 |
CN110110419A (zh) * | 2019-04-28 | 2019-08-09 | 中铁工程装备集团有限公司 | 一种基于多目标学习的tbm掘进参数预测方法 |
CN111159524A (zh) * | 2019-12-30 | 2020-05-15 | 北京同邦卓益科技有限公司 | 监控方法和系统,及存储介质 |
CN111368166A (zh) * | 2020-03-05 | 2020-07-03 | 深圳中兴网信科技有限公司 | 资源搜索方法、资源搜索装置和计算机可读存储介质 |
CN111723018A (zh) * | 2020-06-28 | 2020-09-29 | 中国平安财产保险股份有限公司 | 性能压力测试方法、装置、设备及存储介质 |
CN112084580A (zh) * | 2020-09-14 | 2020-12-15 | 西南交通大学 | 基于回归分析和满意度函数法的agv系统优化配置方法 |
CN112328254A (zh) * | 2020-10-22 | 2021-02-05 | 武汉达梦数据库有限公司 | 一种数据同步软件的性能优化方法与装置 |
CN113238920A (zh) * | 2021-05-14 | 2021-08-10 | 杭州志卓科技股份有限公司 | 一种搜索引擎优化结果量化评估的数据分析系统及方法 |
-
2022
- 2022-03-31 CN CN202210346160.6A patent/CN114861039B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN202033748U (zh) * | 2011-04-22 | 2011-11-09 | 阿里巴巴集团控股有限公司 | 搜索引擎性能测试系统 |
CN104216783A (zh) * | 2014-08-20 | 2014-12-17 | 上海交通大学 | 云游戏中虚拟gpu资源自主管理与控制方法 |
CN108052442A (zh) * | 2017-10-30 | 2018-05-18 | 努比亚技术有限公司 | 一种引擎测试方法、终端和计算机可读存储介质 |
CN110110419A (zh) * | 2019-04-28 | 2019-08-09 | 中铁工程装备集团有限公司 | 一种基于多目标学习的tbm掘进参数预测方法 |
CN111159524A (zh) * | 2019-12-30 | 2020-05-15 | 北京同邦卓益科技有限公司 | 监控方法和系统,及存储介质 |
CN111368166A (zh) * | 2020-03-05 | 2020-07-03 | 深圳中兴网信科技有限公司 | 资源搜索方法、资源搜索装置和计算机可读存储介质 |
CN111723018A (zh) * | 2020-06-28 | 2020-09-29 | 中国平安财产保险股份有限公司 | 性能压力测试方法、装置、设备及存储介质 |
CN112084580A (zh) * | 2020-09-14 | 2020-12-15 | 西南交通大学 | 基于回归分析和满意度函数法的agv系统优化配置方法 |
CN112328254A (zh) * | 2020-10-22 | 2021-02-05 | 武汉达梦数据库有限公司 | 一种数据同步软件的性能优化方法与装置 |
CN113238920A (zh) * | 2021-05-14 | 2021-08-10 | 杭州志卓科技股份有限公司 | 一种搜索引擎优化结果量化评估的数据分析系统及方法 |
Non-Patent Citations (1)
Title |
---|
王成 等: "Web前端性能优化方案与实践", 《计算机应用与软件》 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115766453A (zh) * | 2022-12-07 | 2023-03-07 | 中国工商银行股份有限公司 | 报警系统配置方法、装置、设备、介质及产品 |
CN116089022A (zh) * | 2023-04-11 | 2023-05-09 | 广州嘉为科技有限公司 | 一种日志搜索引擎的参数配置调整方法、系统及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114861039B (zh) | 2023-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114861039B (zh) | 一种搜索引擎的参数配置方法、装置、设备及存储介质 | |
CN115335821B (zh) | 卸载统计收集 | |
CN114610719B (zh) | 跨集群数据处理方法、装置、电子设备以及存储介质 | |
CN115438056A (zh) | 一种数据获取方法、装置、设备以及存储介质 | |
CN116011677A (zh) | 时序数据的预测方法、装置、电子设备及存储介质 | |
CN114896418A (zh) | 知识图谱构建方法、装置、电子设备及存储介质 | |
CN115509931A (zh) | 基于系统的性能测试方法、装置、电子设备及存储介质 | |
CN115438007A (zh) | 一种文件合并方法、装置、电子设备及介质 | |
CN113052325A (zh) | 在线模型的优化方法、装置、设备、存储介质及程序产品 | |
CN113032209B (zh) | 运行监控方法、装置、服务器及介质 | |
CN114615144B (zh) | 网络优化方法及系统 | |
CN113791904B (zh) | 用于处理查询输入的方法、装置、设备和可读存储介质 | |
CN114780021B (zh) | 副本修复方法、装置、电子设备及存储介质 | |
CN117827840A (zh) | 一种索引创建方法、装置、电子设备及存储介质 | |
CN115758142A (zh) | 深度学习模型的训练方法、数据处理方法和装置 | |
CN116401281A (zh) | 一种sql查询时间预测方法、装置、设备及介质 | |
CN116069764A (zh) | 数据校验方法、装置、电子设备和存储介质 | |
CN116610707A (zh) | 数据库操作任务执行时间的确定方法、装置和电子设备 | |
CN115757275A (zh) | 一种资产信息管理方法、装置、电子设备及存储介质 | |
CN114626546A (zh) | 一种大气污染源数据分析方法、装置、设备及存储介质 | |
CN117215589A (zh) | 一种云原生状态评估方法、装置、设备及存储介质 | |
CN115794860A (zh) | 数据查询方法、装置、设备及存储介质 | |
CN112783507A (zh) | 数据引流回放方法、装置、电子设备及可读存储介质 | |
CN116401269A (zh) | 一种数据查询方法、装置、电子设备及存储介质 | |
CN116610453A (zh) | 一种任务分配方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |