CN115203157A - Nas文件的消费系统、方法、设备以及存储介质 - Google Patents
Nas文件的消费系统、方法、设备以及存储介质 Download PDFInfo
- Publication number
- CN115203157A CN115203157A CN202210731977.5A CN202210731977A CN115203157A CN 115203157 A CN115203157 A CN 115203157A CN 202210731977 A CN202210731977 A CN 202210731977A CN 115203157 A CN115203157 A CN 115203157A
- Authority
- CN
- China
- Prior art keywords
- nas
- files
- consumption
- parameters
- configuration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
- G06F16/1824—Distributed file systems implemented using Network-attached Storage [NAS] architecture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/445—Program loading or initiating
- G06F9/44505—Configuring for program initiating, e.g. using registry, configuration files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请提供的一种NAS文件的消费系统、方法、设备以及存储介质,该消费系统包括配置中心、调度器以及执行器集群;配置中心存储有多个NAS文件的配置参数;调度器中建立有调度任务,调度器用于当调度任务被触发时,根据调度任务从配置中心获取调度任务需要的多个NAS文件的配置参数,通过调度任务将多个NAS文件的配置参数分配至执行器集群;执行器集群包括多个执行器,多个执行器用于接收对应多个NAS文件的配置参数,并根据多个NAS文件的配置参数在多个NAS文件中确定每个执行器需要执行的NAS文件,以对多个NAS文件分片执行消费。由于多个NAS文件的配置参数可以通过调度任务自动获取,有利于提高NAS文件消费的自动化程度。
Description
技术领域
本发明涉及数据处理领域,尤其涉及一种NAS文件的消费系统、方法、设备以及存储介质。
背景技术
离线数据一般是其他系统计算好以后,汇总到指定的目录,一般通过消费NAS(Network Attached Storage,网络附属存储)文件来获取数据。
对于每个NAS文件,一般都需要手动导入对应的一个任务,以对该NAS文件进行管理。这种方式虽然可行,但是弊端十分明显,一是随着需求的迭代,NAS文件的不断增多会带来越来越多的任务,导致任务管理的混乱,需要花费更多的人力去维护这些任务;二是由于需要手动导入任务,并在任务中配置关于NAS文件的相关参数,这就意味着面对紧急需求需要花费更多的时间去做上线时的配置和维护,而且手工配置总是容易出错。
发明内容
本申请提供一种NAS文件的消费系统、方法、设备以及存储介质,旨在提高NAS文件消费的自动化程度,降低NAS文件的相关参数配置出错的概率。
为了解决上述问题,第一方面,本申请提供一种NAS文件的消费系统,包括配置中心、调度器以及执行器集群;所述配置中心存储有多个NAS文件的配置参数;所述调度器中建立有调度任务,所述调度器用于当所述调度任务被触发时,根据所述调度任务从所述配置中心获取所述调度任务需要的所述多个NAS文件的所述配置参数,通过所述调度任务将所述多个NAS文件的所述配置参数分配至所述执行器集群;所述执行器集群包括多个执行器,所述多个执行器用于接收对应所述多个NAS文件的所述配置参数,并根据所述多个NAS文件的所述配置参数在所述多个NAS文件中确定每个所述执行器需要执行的NAS文件,以对所述多个NAS文件分片执行消费。
在本申请一些实施例中,所述配置中心还存储有所述多个NAS文件的消费参数;所述多个执行器还用于从所述配置中心获取所述多个NAS文件的所述消费参数,并根据所述多个NAS文件的所述消费参数对所述多个NAS文件进行消费。
在本申请一些实施例中,所述多个执行器具体根据所述多个NAS文件的所述消费参数访问存储有所述多个NAS文件的存储系统,并根据所述多个NAS文件的所述消费参数,对存储在所述存储系统中的所述多个NAS文件的元数据进行解析以将所述多个NAS文件的格式转换为目标格式。
在本申请一些实施例中,所述调度器中建立有多个所述调度任务,所述调度器还用于当被触发的一个所述调度任务发生中断时,利用另外的一个所述调度任务从所述配置中心获取所述多个NAS文件的所述配置参数,并将所述多个NAS文件的所述配置参数分配至所述执行器集群。
在本申请一些实施例中,所述调度器中建立有多个备用调度任务,所述调度器还用于当被触发的一个所述调度任务发生中断时,利用所述多个备用调度任务从所述配置中心对应获取所述多个NAS文件的所述配置参数,并将所述多个NAS文件的所述配置参数对应分配至所述执行器集群的所述多个执行器。
第二方面,本申请还提供一种NAS文件的消费方法,应用于NAS文件消费系统的执行器集群中的多个执行器,所述NAS文件消费系统除了所述执行器集群还包括配置中心和调度器,所述配置中心存储有多个NAS文件的配置参数,所述调度器中建立有调度任务;所述方法包括:
接收所述调度器通过所述调度任务发送的所述多个NAS文件的所述配置参数,所述多个NAS文件的所述配置参数为所述调度器在所述调度任务被触发时根据所述调度任务从所述配置中心获得;
根据所述多个NAS文件的所述配置参数,在所述多个NAS文件中确定每个所述执行器需要执行的NAS文件;
对所述多个NAS文件分片执行消费。
在本申请一些实施例中,所述配置中心存储有多个NAS文件的消费参数,所述对所述多个NAS文件分片执行消费的步骤,包括:
从所述配置中心获取所述多个NAS文件的所述消费参数;根据所述多个NAS文件的所述消费参数,对所述多个NAS文件进行消费。
在本申请一些实施例中,所述根据所述多个NAS文件的所述消费参数,对所述多个NAS文件分片执行消费的步骤包括:
根据所述多个NAS文件的所述消费参数访问存储有所述多个NAS文件的存储系统;
根据所述多个NAS文件的所述消费参数,对存储在所述存储系统中的所述多个NAS文件的元数据进行解析以将所述多个NAS文件的格式转换为目标格式。
第三方面,本申请还提供一种电子设备,包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序,所述存储器与所述处理器耦接,且所述处理器执行所述计算机程序时,实现如上述所述的消费方法。
第四方面,本申请还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其中,在所述计算机程序运行时控制所述计算机可读存储介质所在的设备执行如上述所述的消费方法。
本申请的有益效果为:本申请提供一种NAS文件的消费系统、方法、设备以及存储介质,NAS文件的消费系统,包括配置中心、调度器以及执行器集群;所述配置中心存储有多个NAS文件的配置参数;所述调度器中建立有调度任务,所述调度器用于当所述调度任务被触发时,根据所述调度任务从所述配置中心获取所述调度任务需要的所述多个NAS文件的所述配置参数,通过所述调度任务将所述多个NAS文件的所述配置参数分配至所述执行器集群;所述执行器集群包括多个执行器,所述多个执行器用于接收对应所述多个NAS文件的所述配置参数,并根据所述多个NAS文件的所述配置参数在所述多个NAS文件中确定每个所述执行器需要执行的NAS文件,以对所述多个NAS文件分片执行消费。在本申请中,由于调度任务触发后会去配置中心获取需要消费的多个NAS文件的配置参数,然后分配给执行器集群以进行分片执行,有效降低单节点执行的压力,并且通过在配置中心统一收口多个NAS文件相关参数的设置,使得只需要在配置中心完成配置参数的设置,配置参数就能被调度任务所获取,从而不需要对应每个NAS文件导入相应的任务并在任务中配置相关参数,因此,提高NAS文件消费的自动化程度,降低NAS文件的相关参数配置出错的概率。
附图说明
为了更清楚地说明本申请的技术方案,下面将对根据本申请而成的各实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的NAS文件的消费系统的整体架构图;
图2是本申请实施例提供的NAS文件的消费方法的流程示意图;
图3是本申请实施例提供的步骤S203的进一步流程示意图;
图4是本申请实施例提供的步骤S2032的进一步流程示意图;
图5是本申请实施例提供的一种电子设备的结构示意框图;
图6是本申请实施例提供的另一种电子设备的结构示意图框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”、“顺时针”、“逆时针”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接或可以相互通讯;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通或两个元件的相互作用关系。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
在本发明中,除非另有明确的规定和限定,第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接触,也可以包括第一和第二特征不是直接接触而是通过它们之间的另外的特征接触。而且,第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正下方和斜下方,或仅仅表示第一特征水平高度小于第二特征。
下文的公开提供了许多不同的实施方式或例子用来实现本发明的不同结构。为了简化本发明的公开,下文中对特定例子的部件和设置进行描述。当然,它们仅仅为示例,并且目的不在于限制本发明。此外,本发明可以在不同例子中重复参考数字和/或参考字母,这种重复是为了简化和清楚的目的,其本身不指示所讨论各种实施方式和/或设置之间的关系。此外,本发明提供了的各种特定的工艺和材料的例子,但是本领域普通技术人员可以意识到其他工艺的应用和/或其他材料的使用。
请参阅图1,图1是本申请实施例提供的NAS文件的消费系统的整体架构图。如图1所示,本申请提供一种NAS文件的消费系统,包括配置中心、调度器以及执行器集群。其中,配置中心存储有多个NAS文件的配置参数,调度器中建立有调度任务,执行器集群包括多个执行器。调度器用于当调度任务被触发时,根据调度任务从配置中心获取调度任务需要的多个NAS文件的配置参数,通过调度任务将多个NAS文件的配置参数分配至执行器集群。多个执行器用于接收对应多个NAS文件的配置参数,并根据多个NAS文件的配置参数在多个NAS文件中确定每个执行器需要执行的NAS文件,以对多个NAS文件分片执行消费。
在本申请实施例提供的消费系统中,由于调度任务触发后会去配置中心获取需要消费的多个NAS文件的配置参数,然后分配给执行器集群以进行分片执行,有效降低单节点执行的压力,并且通过在配置中心统一收口NAS文件的相关参数的配置,使得只需要在配置中心完成配置参数的设置,配置参数就能被调度任务所获取并由调度任务分配至多个执行器,从而不需要对应每个NAS文件在调度器中导入相应的任务并在任务中配置相关参数以将多个NAS文件分配给各个执行器执行,因此,提高NAS文件消费的自动化程度,降低NAS文件的相关参数配置出错的概率。
可选地,调度任务触发的条件可以是按时触发,具体可以是:当调度器接收到消费多个NAS文件的消费指令后,检测当前时间是否处于调度任务的执行时间段内,如果是,则触发该调度任务。该执行时间段可以人为进行设定,从而可根据实际需要设定调度任务被触发的时间。
可选地,在通过调度任务将多个NAS文件的配置参数分配至执行器集群之前,可以先获取与调度器连接的各个执行器当前的中央处理器CPU资源利用率并按照CPU资源利用率的大小对多个执行器进行排序。之后,根据排序的结果,将多个NAS文件的配置参数优先分配至CPU资源利用率较低的执行器,以达到提高多个执行器的运行效率的效果。
可选地,在通过调度任务将多个NAS文件的配置参数分配至执行器集群之前,可以先获取与调度器连接的各个执行器的可用内存空间,并按照各个执行器可用内存空间的大小(即内存占用率)对多个执行器进行排序。之后,根据排序的结果,将多个NAS文件的配置参数优先分配至可用内存空间较大(内存占用率较小)的执行器,以达到提高多个执行器的运行效率的效果。
可选地,还可设置内存占用率和CPU资源利用率对应的权重,将各个执行器对应的内存占用率和CPU资源利用率乘以对应的权重后相加,根据相加后所得的值对各个执行器进行排序,之后,根据排序的结果,将多个NAS文件的配置参数优先分配至该相加后所得的值较小的执行器,以达到提高多个执行器的运行效率的效果。其中,内存占用率和CPU资源利用率对应的权重可根据具体需要而设置,本发明实施例对内存占用率和CPU资源利用率对应权重的大小不做具体限制。
可选地,根据多个NAS文件的配置参数在多个NAS文件中确定每个执行器需要执行的NAS文件可以是一个或者多个。每个执行器需要执行的NAS文件为一个时,例如,如果需要消费的NAS文件为100个,且分别存放在不同的目录中,那么可以根据一种配置参数,利用执行器1、执行器2…执行器100分别对不同目录中的NAS文件进行执行。每个执行器需要执行的NAS文件为多个时,例如,例如,如果需要消费的NAS文件为100个,且分别存放在不同的目录中,可以根据另一种配置参数,利用执行器1来执行目录1-20中的NAS文件,利用执行器2来执行目录21-40中的NAS文件,利用执行器3来执行目录41-60中的NAS文件,利用执行器4来执行目录61-80中的NAS文件,利用执行器5来执行目录81-100中的NAS文件。在本申请实施例中,可根据NAS文件的数量和配置参数设置执行器的数量。
在本申请的一种实施例中,配置中心还存储有多个NAS文件的消费参数。多个执行器还用于从配置中心获取多个NAS文件的消费参数,并根据多个NAS文件的消费参数对多个NAS文件进行消费。
在本申请实施例提供的消费系统中,当执行器集群接收到多个NAS文件的配置参数后,多个执行器从配置中心获取需要消费的多个NAS文件的消费参数,通过在配置中心统一收口NAS文件的消费参数的设置,使得只需要在配置中心完成消费参数的设置,消费参数就能被执行器所获取,从而不需要对应每个NAS文件在调度器中导入相应的任务并在任务中配置相关参数以交给执行器去执行,因此,提高NAS文件消费的自动化程度,降低NAS文件的相关参数配置出错的概率,快速对NAS文件进行消费。另外,多个执行器直接根据该消费参数就能对NAS文件进行消费,进一步提升了NAS文件消费的速度。
其中,多个执行器具体根据多个NAS文件的消费参数访问存储有多个NAS文件的存储系统,并根据多个NAS文件的消费参数,对存储在存储系统中的多个NAS文件的元数据进行解析以将多个NAS文件的格式转换为目标格式。
具体的,根据多个NAS文件的消费参数可以确定该存储系统的接口路径,从而根据该接口路径访问该存储系统。多个执行器具体根据多个NAS文件的消费参数自动对多个NAS文件的元数据进行解析,对多个NAS文件的元数据的数据结构、字段以及数据类型进行识别并转填到具有目标格式的表结构中,从而将多个NAS文件的格式转换为目标格式,之后可以将具有目标格式的多个NAS文件存储到数据库中。
在一种实施例中,未被消费前,多个NAS文件的元数据的格式为excel类型的数据,在消费后,多个NAS文件的格式为ES(Elastic Search)类型的数据。
在本申请一些实施例中,调度器中建立有多个调度任务,调度器还用于当被触发的一个调度任务发生中断时,利用另外的一个调度任务从配置中心获取多个NAS文件的配置参数,并将多个NAS文件的配置参数分配至执行器集群。
考虑到当其中一个调度任务发生中断时,会影响到对多个NAS文件进行消费的过程,因此,本申请一种实施例提供了一种容灾方案,即调度器中建立多个调度任务,当调度器检测到当被触发的一个调度任务发生中断时,自动触发另一个调度任务来完成发生中断的调度任务的工作,从而避免其中一个调度任务中断时导致的多个NAS文件的消费过程的停滞。
本申请另外一种实施例还提供了另一种容灾方案,即调度器中建立有多个备用调度任务,调度器还用于当被触发的一个调度任务发生中断时,利用多个备用调度任务从配置中心对应获取多个NAS文件的配置参数,并将多个NAS文件的配置参数对应分配至执行器集群的多个执行器。
在本申请提供的NAS文件的消费系统中,通过将多个NAS文件的消费参数和配置参数均设置在配置中心中,调度任务可以根据需要从配置中心自动获取多个NAS文件的配置参数,多个执行器可以根据需要从配置中心自动获取多个NAS文件的消费参数,因此,在本申请实施例中,由于在调度器中建立调度任务时不需要在调度任务中配置多个NAS文件的相关参数,使得调度任务的数量可以极大地缩少,如果不考虑容灾需要,最少可以缩减到一个,从而避免调度任务过多而导致消费系统中出现管理混乱。进一步地,当有新增的NAS文件时,也只需要在配置中心添加新增的NAS文件的配置参数和消费参数,故也不需要再针对每个新增的NAS文件来建立一个调度任务,即应对紧急需求时不需要频繁的提生产变更,只需要在配置中心更新相应的配置参数和消费参数即可,有利于NAS文件的消费系统的管理和维护。
根据上述实施例所描述的消费系统,本实施例将从NAS文件的消费方法的角度进一步进行描述,请参阅图2,图2是本申请实施例提供的一种NAS文件的消费方法流程示意图,该方法应用于NAS文件消费系统的执行器集群中的多个执行器,NAS文件消费系统除了执行器集群还包括配置中心和调度器,配置中心存储有多个NAS文件的配置参数,调度器中建立有调度任务。如图2所示,该方法包括:
步骤S201:接收调度器通过调度任务发送的多个NAS文件的配置参数,多个NAS文件的配置参数为调度器在调度任务被触发时根据调度任务从配置中心获得。
在本申请实施例提供的消费方法中,通过在配置中心统一收口NAS文件的相关参数的配置,使得只需要在配置中心完成配置参数的设置,配置参数就能被调度任务所获取并由调度任务分配至执行器,从而不需要对应每个NAS文件在调度器中导入相应的任务并在任务中配置相关参数以将多个NAS文件分配给各个执行器去执行,因此,提高NAS文件消费的自动化程度,降低NAS文件的相关参数配置出错的概率。
可选地,调度任务触发的条件可以是按时触发,具体可以是:当调度器接收到消费多个NAS文件的消费指令后,检测当前时间是否处于调度任务的执行时间段内,如果是,则触发该调度任务。该执行时间段可以人为进行设定,从而可根据实际需要设定调度任务被触发的时间。
可选地,多个执行器接收调度器通过调度任务发送的多个NAS文件的配置参数之前,调度器可以先获取与调度器连接的各个执行器当前的中央处理器CPU资源利用率并按照CPU资源利用率的大小对多个执行器进行排序。之后,根据排序的结果,调度器将多个NAS文件的配置参数优先分配至CPU资源利用率较低的执行器,以达到提高多个执行器的运行效率的效果。
可选地,多个执行器接收调度器通过调度任务发送的多个NAS文件的配置参数之前,调度器可以先获取与调度器连接的各个执行器的可用内存空间,并按照各个执行器可用内存空间的大小(即内存占用率)对多个执行器进行排序。之后,根据排序的结果,调度器将多个NAS文件的配置参数优先分配至可用内存空间较大(内存占用率较小)的执行器,以达到提高多个执行器的运行效率的效果。
可选地,调度器还可设置内存占用率和CPU资源利用率对应的权重,将各个执行器对应的内存占用率和CPU资源利用率乘以对应的权重后相加,根据相加后所得的值对各个执行器进行排序,之后,根据排序的结果,调度器将多个NAS文件的配置参数优先分配至该相加后所得的值较小的执行器,以达到提高多个执行器的运行效率的效果。其中,内存占用率和CPU资源利用率对应的权重可根据具体需要而设置,本申请实施例对内存占用率和CPU资源利用率对应权重的大小不做具体限制。
步骤S202:根据多个NAS文件的配置参数,在多个NAS文件中确定每个执行器需要执行的NAS文件;
可选地,根据多个NAS文件的配置参数在多个NAS文件中确定每个执行器需要执行的NAS文件可以是一个或者多个。每个执行器需要执行的NAS文件为一个时,例如,如果需要消费的NAS文件为100个,且分别存放在不同的目录中,那么可以根据一种配置参数,利用执行器1、执行器2…执行器100分别对不同目录中的NAS文件进行执行。每个执行器需要执行的NAS文件为多个时,例如,例如,如果需要消费的NAS文件为100个,且分别存放在不同的目录中,可以根据另一种配置参数,利用执行器1来执行目录1-20中的NAS文件,利用执行器2来执行目录21-40中的NAS文件,利用执行器3来执行目录41-60中的NAS文件,利用执行器4来执行目录61-80中的NAS文件,利用执行器5来执行目录81-100中的NAS文件。在本申请实施例中,可根据NAS文件的数量和配置参数设置执行器的数量。步骤S203:对多个NAS文件分片执行消费。
其中,配置中心存储有多个NAS文件的消费参数。请参阅图3,图3是本申请实施例提供的步骤S203的进一步流程示意图,如图3所示,步骤S203可进一步包括:
步骤S2031:从配置中心获取多个NAS文件的消费参数;
步骤S2032:根据多个NAS文件的消费参数,对多个NAS文件进行消费。
在一种实施例中,如图4所示,步骤S2032可进一步包括:
步骤S20321:根据多个NAS文件的消费参数访问存储有多个NAS文件的存储系统;
步骤S20322:根据多个NAS文件的消费参数,对存储在存储系统中的多个NAS文件的元数据进行解析以将多个NAS文件的格式转换为目标格式。
具体的,多个执行器根据多个NAS文件的消费参数可以确定该存储系统的接口路径,从而根据该接口路径访问该存储系统。多个执行器具体根据多个NAS文件的消费参数自动对多个NAS文件的元数据进行解析,对多个NAS文件的元数据的数据结构、字段以及数据类型进行识别并转填到具有目标格式的表结构中,从而将多个NAS文件的格式转换为目标格式,之后可以将具有目标格式的多个NAS文件存储到数据库中。在一种实施例中,未被消费前,多个NAS文件的元数据的格式为excel类型的数据,在消费后,多个NAS文件的格式为ES(Elastic Search)类型的数据。
在本申请实施例提供的消费方法中,当多个执行器接收到多个NAS文件的配置参数后,多个执行器从配置中心获取需要消费的多个NAS文件的消费参数,通过在配置中心统一收口NAS文件的消费参数的设置,使得只需要在配置中心完成消费参数的设置,消费参数就能被执行器所获取,从而不需要对应每个NAS文件在调度器中导入相应的任务并在任务中配置相关参数以交给执行器去执行,因此,提高NAS文件消费的自动化程度,降低NAS文件的相关参数配置出错的概率,快速对NAS文件进行消费。
请参见图5,图5是本申请实施例提供的电子设备的一种结构示意图,该电子设备可以是PC,便携计算机等终端设备。如图5所示,电子设备500包括处理器501、存储器502。其中,处理器501与存储器502电性连接。
处理器501是电子设备500的控制中心,利用各种接口和线路连接整个电子设备的各个部分,通过运行或加载存储在存储器502内的应用程序,以及调用存储在存储器502内的数据,执行电子设备500的各种功能和处理数据,从而对电子设备500进行整体监控。
在本实施例中,当该电子设备500包括多个执行器时,电子设备500中的处理器501会按照如下的步骤,将一个或一个以上的应用程序的进程对应的指令加载到存储器502中,并由处理器501来运行存储在存储器502中的应用程序,从而实现各种功能:
接收调度器通过调度任务发送的多个NAS文件的配置参数,多个NAS文件的配置参数为调度器在调度任务被触发时根据调度任务从配置中心获得;
根据多个NAS文件的配置参数,在多个NAS文件中确定每个执行器需要执行的NAS文件;
对多个NAS文件分片执行消费。
该电子设备500可以实现本申请实施例所提供的NAS文件的消费方法任一实施例中的步骤,因此,可以实现本申请实施例所提供的任一消费方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
请参见图6,图6是本申请实施例提供的电子设备的另一种结构示意图,如图6所示,图6示出了本申请实施例提供的电子设备的具体结构框图,该电子设备600可以包括多个执行器,用于实施上述实施例中提供的NAS文件的消费方法。该电子设备600可以为PC,便携计算机等终端设备。
RF电路610用于接收以及发送电磁波,实现电磁波与电信号的相互转换,从而与通讯网络或者其他设备进行通讯。RF电路610可包括各种现有的用于执行这些功能的电路元件,例如,天线、射频收发器、数字信号处理器、加密/解密芯片、用户身份模块(SIM)卡、存储器等等。RF电路610可与各种网络如互联网、企业内部网、无线网络进行通讯或者通过无线网络与其他设备进行通讯。上述的无线网络可包括蜂窝式电话网、无线局域网或者城域网。上述的无线网络可以使用各种通信标准、协议及技术,包括但并不限于全球移动通信系统(Global System for Mobile Communication,GSM)、增强型移动通信技术(Enhanced DataGSM Environment,EDGE),宽带码分多址技术(Wideband Code Division MultipleAccess,WCDMA),码分多址技术(Code Division Access,CDMA)、时分多址技术(TimeDivision Multiple Access,TDMA),无线保真技术(Wireless Fidelity,Wi-Fi)(如美国电气和电子工程师协会标准IEEE802.11a,IEEE 802.11b,IEEE802.11g和/或IEEE 802.11n)、网络电话(Voice over Internet Protocol,VoIP)、全球微波互联接入(WorldwideInteroperability for Microwave Access,Wi-Max)、其他用于邮件、即时通讯及短消息的协议,以及任何其他合适的通讯协议,甚至可包括那些当前仍未被开发出来的协议。
该电子设备600包括多个执行器时,存储器620可用于存储软件程序以及模块,如上述实施例中NAS文件的消费方法对应的程序指令/模块,处理器680通过运行存储在存储器620内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现如下功能:
接收调度器通过调度任务发送的多个NAS文件的配置参数,多个NAS文件的配置参数为调度器在调度任务被触发时根据调度任务从配置中心获得;
根据多个NAS文件的配置参数,在多个NAS文件中确定每个执行器需要执行的NAS文件;
对多个NAS文件分片执行消费。
存储器620可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器620可进一步包括相对于处理器680远程设置的存储器,这些远程存储器可以通过网络连接至电子设备600。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入单元630可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。具体地,输入单元630可包括触敏表面631以及其他输入设备图。触敏表面631,也称为触摸显示屏或者触控板,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触敏表面631上或在触敏表面631附近的操作),并根据预先设定的程式驱动相应的连接装置。
可选的,触敏表面631可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器680,并能接收处理器680发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触敏表面631。除了触敏表面631,输入单元630还可以包括其他输入设备632。具体地,其他输入设备632可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。
显示单元640可用于显示由用户输入的信息或提供给用户的信息以及电子设备600的各种图形用户接口,这些图形用户接口可以由图形、文本、图标、视频和其任意组合来构成。显示单元640可包括显示面板641,可选的,可以采用LCD(Liquid Crystal Display,液晶显示器)、OLED(Organic Light-Emitting Diode,有机发光二极管)等形式来配置显示面板641。进一步的,触敏表面631可覆盖显示面板641,当触敏表面631检测到在其上或附近的触摸操作后,传送给处理器680以确定触摸事件的类型,随后处理器680根据触摸事件的类型在显示面板641上提供相应的视觉输出。虽然在图中,触敏表面631与显示面板641是作为两个独立的部件来实现输入和输出功能,但是在某些实施例中,可以将触敏表面631与显示面板641集成而实现输入和输出功能。
电子设备600还可包括至少一种传感器650,比如光传感器、运动传感器以及其他传感器。具体地,光传感器可包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板641的亮度,接近传感器可在翻盖合上或者关闭时产生中断。作为运动传感器的一种,重力加速度传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于电子设备600还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
音频电路660、扬声器661,传声器662可提供用户与电子设备600之间的音频接口。音频电路660可将接收到的音频数据转换后的电信号,传输到扬声器661,由扬声器661转换为声音信号输出;另一方面,传声器662将收集的声音信号转换为电信号,由音频电路660接收后转换为音频数据,再将音频数据输出处理器680处理后,经RF电路610以发送给比如另一终端,或者将音频数据输出至存储器620以便进一步处理。音频电路660还可能包括耳塞插孔,以提供外设耳机与电子设备600的通信。
电子设备600通过传输模块670(例如Wi-Fi模块)可以帮助用户接收请求、发送信息等,它为用户提供了无线的宽带互联网访问。虽然图中示出了传输模块670,但是可以理解的是,其并不属于电子设备600的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
处理器680是电子设备600的控制中心,利用各种接口和线路连接整个手机的各个部分,通过运行或执行存储在存储器620内的软件程序和/或模块,以及调用存储在存储器620内的数据,执行电子设备600的各种功能和处理数据,从而对电子设备进行整体监控。可选的,处理器680可包括一个或多个处理核心;在一些实施例中,处理器680可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解地,上述调制解调处理器也可以不集成到处理器680中。
电子设备600还包括给各个部件供电的电源690(比如电池),在一些实施例中,电源可以通过电源管理系统与处理器680逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源690还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
尽管未示出,电子设备600还包括摄像头(如前置摄像头、后置摄像头)、蓝牙模块等,在此不再赘述。具体在本实施例中,电子设备的显示单元是触摸屏显示器,移动终端还包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且经配置以由一个或者一个以上处理器执行一个或者一个以上程序包含用于进行以下操作的指令:
接收调度器通过调度任务发送的多个NAS文件的配置参数,多个NAS文件的配置参数为调度器在调度任务被触发时根据调度任务从配置中心获得;
根据多个NAS文件的配置参数,在多个NAS文件中确定每个执行器需要执行的NAS文件;
对多个NAS文件分片执行消费。
具体实施时,以上各个模块可以作为独立的实体来实现,也可以进行任意组合,作为同一或若干个实体来实现,以上各个模块的具体实施可参见前面的方法实施例,在此不再赘述。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令来完成,或通过指令控制相关的硬件来完成,该指令可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。为此,本申请实施例提供一种存储介质,其中存储有多条指令,该指令能够被处理器进行加载,以执行本申请实施例所提供的消费方法中任一实施例的步骤。
其中,该存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该存储介质中所存储的指令,可以执行本申请实施例所提供的NAS文件的消费方法任一实施例中的步骤,因此,可以实现本申请实施例所提供的任一NAS文件的消费方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
以上对本申请实施例所提供的一种NAS文件的消费系统、方法、设备及存储介质进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上,本说明书内容不应理解为对本申请的限制。并且,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也视为本申请的保护范围。
Claims (10)
1.一种NAS文件的消费系统,其特征在于,包括配置中心、调度器以及执行器集群;
所述配置中心存储有多个NAS文件的配置参数;
所述调度器中建立有调度任务,所述调度器用于当所述调度任务被触发时,根据所述调度任务从所述配置中心获取所述调度任务需要的所述多个NAS文件的所述配置参数,通过所述调度任务将所述多个NAS文件的所述配置参数分配至所述执行器集群;
所述执行器集群包括多个执行器,所述多个执行器用于接收对应所述多个NAS文件的所述配置参数,并根据所述多个NAS文件的所述配置参数在所述多个NAS文件中确定每个所述执行器需要执行的NAS文件,以对所述多个NAS文件分片执行消费。
2.根据权利要求1所述的NAS文件的消费系统,其特征在于,所述配置中心还存储有所述多个NAS文件的消费参数;所述多个执行器还用于从所述配置中心获取所述多个NAS文件的所述消费参数,并根据所述多个NAS文件的所述消费参数对所述多个NAS文件进行消费。
3.根据权利要求2所述的NAS文件的消费系统,其特征在于,所述多个执行器具体用于根据所述多个NAS文件的所述消费参数访问存储有所述多个NAS文件的存储系统,并根据所述多个NAS文件的所述消费参数,对存储在所述存储系统中的所述多个NAS文件的元数据进行解析以将所述多个NAS文件的元数据的格式转换为目标格式。
4.根据权利要求1所述的NAS文件的消费系统,其特征在于,所述调度器中建立有多个所述调度任务,所述调度器还用于当被触发的一个所述调度任务发生中断时,利用另外的一个所述调度任务从所述配置中心获取所述多个NAS文件的所述配置参数,并将所述多个NAS文件的所述配置参数分配至所述执行器集群。
5.根据权利要求1所述的NAS文件的消费系统,其特征在于,所述调度器中建立有多个备用调度任务,所述调度器还用于当被触发的一个所述调度任务发生中断时,利用所述多个备用调度任务从所述配置中心对应获取所述多个NAS文件的所述配置参数,并将所述多个NAS文件的所述配置参数对应分配至所述执行器集群的所述多个执行器。
6.一种NAS文件的消费方法,其特征在于,应用于NAS文件消费系统的执行器集群中的多个执行器,所述NAS文件消费系统除了所述执行器集群还包括配置中心和调度器,所述配置中心存储有多个NAS文件的配置参数,所述调度器中建立有调度任务;所述方法包括:
接收所述调度器通过所述调度任务发送的所述多个NAS文件的所述配置参数,所述多个NAS文件的所述配置参数为所述调度器在所述调度任务被触发时根据所述调度任务从所述配置中心获得;
根据所述多个NAS文件的所述配置参数,在所述多个NAS文件中确定每个所述执行器需要执行的NAS文件;
对所述多个NAS文件分片执行消费。
7.根据权利要求6所述的NAS文件的消费方法,其特征在于,所述配置中心存储有多个NAS文件的消费参数,所述对所述多个NAS文件分片执行消费的步骤,包括:
从所述配置中心获取所述多个NAS文件的消费参数;
根据所述多个NAS文件的所述消费参数,对所述多个NAS文件进行消费。
8.根据权利要求7所述的NAS文件的消费方法,其特征在于,所述根据所述多个NAS文件的所述消费参数,对所述多个NAS文件分片执行消费的步骤包括:
根据所述多个NAS文件的所述消费参数访问存储有所述多个NAS文件的存储系统;
根据所述多个NAS文件的所述消费参数,对存储在所述存储系统中的所述多个NAS文件的元数据进行解析以将所述多个NAS文件的格式转换为目标格式。
9.一种电子设备,其特征在于,包括处理器、存储器以及存储在所述存储器中且被配置为由所述处理器执行的计算机程序,所述存储器与所述处理器耦接,且所述处理器执行所述计算机程序时,实现如权利要求6至8中任一项所述的消费方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,其中,在所述计算机程序运行时控制所述计算机可读存储介质所在的设备执行如权利要求6至8中任一项所述的消费方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210731977.5A CN115203157A (zh) | 2022-06-26 | 2022-06-26 | Nas文件的消费系统、方法、设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210731977.5A CN115203157A (zh) | 2022-06-26 | 2022-06-26 | Nas文件的消费系统、方法、设备以及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115203157A true CN115203157A (zh) | 2022-10-18 |
Family
ID=83578995
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210731977.5A Pending CN115203157A (zh) | 2022-06-26 | 2022-06-26 | Nas文件的消费系统、方法、设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115203157A (zh) |
-
2022
- 2022-06-26 CN CN202210731977.5A patent/CN115203157A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10956280B2 (en) | Data backup method, electronic device, and storage medium | |
CN107391259B (zh) | 资源处理方法和装置、计算机可读存储介质、移动终端 | |
EP3525417A1 (en) | Data processing method, device, storage medium, electronic device and server | |
CN108268366B (zh) | 测试用例执行方法及装置 | |
CN108039963B (zh) | 一种容器配置方法、装置及存储介质 | |
US10922193B2 (en) | Data backup method, storage medium, and terminal | |
CN111338745B (zh) | 一种虚拟机的部署方法、装置及智能设备 | |
CN109714476B (zh) | 数据处理方法、装置、移动终端及存储介质 | |
CN108270839B (zh) | 访问频率控制系统及方法 | |
CN115237618A (zh) | 请求处理方法、装置、计算机设备及可读存储介质 | |
CN109688611B (zh) | 一种频段参数的配置方法、装置、终端和存储介质 | |
US20230004273A1 (en) | Ranging method and apparatus thereof, storage medium, and terminal device | |
CN116596202A (zh) | 工单处理方法、相关装置及存储介质 | |
CN115203157A (zh) | Nas文件的消费系统、方法、设备以及存储介质 | |
CN114518718A (zh) | 设备控制方法、装置、存储介质及电子设备 | |
CN112367428A (zh) | 电量的显示方法、系统、存储介质及移动终端 | |
CN111488123B (zh) | 存储空间管理方法、装置、存储介质及移动终端 | |
CN114661247B (zh) | 自动扩容方法、装置、电子设备及存储介质 | |
CN105278967B (zh) | 一种移动终端的系统更新方法、装置和系统 | |
CN114189436B (zh) | 一种多集群配置部署方法、装置、电子设备和存储介质 | |
CN112218338B (zh) | 数据的获取方法及系统、存储介质及移动终端 | |
CN114095585B (zh) | 数据传输方法、装置、存储介质及电子设备 | |
CN111221782B (zh) | 一种文件查找方法、装置、存储介质及移动终端 | |
CN117742883A (zh) | 异构容器的扩容方法、系统、电子设备及存储介质 | |
CN115080411A (zh) | 一种接口测试用例生成方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |