CN117707602A - 数据请求的处理方法、装置、服务器和存储介质 - Google Patents

数据请求的处理方法、装置、服务器和存储介质 Download PDF

Info

Publication number
CN117707602A
CN117707602A CN202311758623.0A CN202311758623A CN117707602A CN 117707602 A CN117707602 A CN 117707602A CN 202311758623 A CN202311758623 A CN 202311758623A CN 117707602 A CN117707602 A CN 117707602A
Authority
CN
China
Prior art keywords
processing
data
request
configuration file
server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311758623.0A
Other languages
English (en)
Inventor
贾利民
罗圆
庞江川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shuguang Cloud Computing Group Co ltd
Baotou City Cloud Computing Technology Co ltd
Original Assignee
Shuguang Cloud Computing Group Co ltd
Baotou City Cloud Computing Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shuguang Cloud Computing Group Co ltd, Baotou City Cloud Computing Technology Co ltd filed Critical Shuguang Cloud Computing Group Co ltd
Priority to CN202311758623.0A priority Critical patent/CN117707602A/zh
Publication of CN117707602A publication Critical patent/CN117707602A/zh
Pending legal-status Critical Current

Links

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请涉及一种数据请求的处理方法、装置、服务器和存储介质。所述方法包括:获取接收到的数据处理请求对应的配置文件;所述数据处理请求为第一服务器发送的;根据所述配置文件,获取所述数据处理请求对应的待处理数据、处理命令和处理工具类型;调用所述处理工具类型对应的处理工具运行所述处理命令,获取所述待处理数据的处理结果,并将所述处理结果发送给所述第一服务器。采用本方法能够提供多种数据集成功能。

Description

数据请求的处理方法、装置、服务器和存储介质
技术领域
本申请涉及大数据技术领域,特别是涉及一种数据请求的处理方法、装置、服务器和存储介质。
背景技术
随着数字化的发展,数据的流通越来越重要,需要将分散在不同数据源中的数据集成到统一的服务器中,以实现不同业务系统之间的数据流通。
传统技术中,基于数据离线同步工具将异构数据源的数据集成到统一的服务器中。但是,传统技术中存在数据集成功能单一的问题。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提供多种数据集成功能的数据请求的处理方法、装置、服务器和存储介质。
第一方面,本申请提供了一种数据请求的处理方法。所述方法包括:
获取接收到的数据处理请求对应的配置文件;所述数据处理请求为第一服务器发送的;
根据所述配置文件,获取所述数据处理请求对应的待处理数据、处理命令和处理工具类型;
调用所述处理工具类型对应的处理工具运行所述处理命令,获取所述待处理数据的处理结果,并将所述处理结果发送给所述第一服务器。
在其中一个实施例中,所述根据所述配置文件,获取所述数据处理请求对应的待处理数据、处理命令和处理工具类型,包括:
对所述配置文件进行解析,获取所述待处理数据对应的数据源信息、所述处理命令和所述处理工具类型;
根据所述数据源信息,获取所述待处理数据。
在其中一个实施例中,所述根据所述数据源信息,获取所述待处理数据,包括:
确定所述数据源信息对应的第二服务器;
向所述第二服务器发送数据获取请求,获取所述待处理数据。
在其中一个实施例中,所述方法还包括:
对所述数据处理请求进行解析,获取所述待处理数据的数据源信息、所述数据处理请求对应的处理类型和处理需求;
根据所述数据源信息、所述处理类型和所述处理需求,生成所述配置文件。
在其中一个实施例中,所述根据所述数据源信息、所述处理类型和所述处理需求,生成所述配置文件,包括:
根据所述处理类型确定所述处理工具类型和所述数据处理请求对应的执行命令;
根据所述处理工具类型、所述处理需求、所述执行命令和所述数据源信息,生成所述配置文件。
在其中一个实施例中,所述根据所述处理工具类型、所述处理需求、所述执行命令和所述数据源信息,生成所述配置文件,包括:
根据所述处理需求,确定所述数据处理请求对应的转换函数;
根据所述转换函数和所述执行命令,生成所述处理命令;
根据所述处理工具类型、所述数据源信息和所述处理命令,生成所述配置文件。
在其中一个实施例中,所述方法还包括:
建立所述配置文件与所述数据处理请求之间的对应关系;
将所述对应关系和所述配置文件,存储至预设的存储区。
第二方面,本申请还提供了一种数据请求的处理装置。所述装置包括:
第一获取模块,用于获取接收到的数据处理请求对应的配置文件;所述数据处理请求为第一服务器发送的;
第二获取模块,用于根据所述配置文件,获取所述数据处理请求对应的待处理数据、处理命令和处理工具类型;
第三获取模块,用于调用所述处理工具类型对应的处理工具运行所述处理命令,获取所述待处理数据的处理结果,并将所述处理结果发送给所述第一服务器。
第三方面,本申请还提供了一种服务器。所述服务器包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述的方法的步骤。
第四方面,本申请还提供了一种计算机可读存储介质。所述计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的方法的步骤。
第五方面,本申请还提供了一种计算机程序产品。所述计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述第一方面所述的方法的步骤。
上述数据请求的处理方法、装置、服务器和存储介质,中转服务器通过获取接收到的第一服务器发送的数据处理请求对应的配置文件,能够根据配置文件,获取数据处理请求对应的待处理数据、处理命令和处理工具类型,由于获取的处理命令和处理工具类型是通过配置文件获取的,配置文件是根据数据处理请求得到的,则根据不同的数据处理请求能够得到不同的配置文件,进一步地,根据不同的配置文件能够得到不同的处理工具类型和处理命令,从而能够通过调用不同的处理工具类型对应的处理工具运行处理命令,得到不同的待处理数据的处理结果,并将处理结果发送给第一服务器,进而能够满足第一服务器的不同数据处理请求,为第一服务器提供多种满足不同数据处理请求的数据集成功能。
附图说明
图1为一个实施例中数据请求的处理方法的应用环境图;
图2为一个实施例中数据请求的处理方法的流程示意图;
图3为另一个实施例中数据请求的处理方法的流程示意图;
图4为另一个实施例中数据请求的处理方法的流程示意图;
图5为另一个实施例中数据请求的处理方法的流程示意图;
图6为另一个实施例中数据请求的处理方法的流程示意图;
图7为另一个实施例中数据请求的处理方法的流程示意图;
图8为另一个实施例中数据请求的处理方法的流程示意图;
图9为一个实施例中数据请求的处理装置的结构框图;
图10为另一个实施例中数据请求的处理装置的结构框图;
图11为一个实施例中服务器的内部结构图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
在数据集成场景中,通常可以在服务器中部署数据离线工具,对待集成的数据进行处理,并将处理结果发送至继承数据的服务器中,然而,传统技术中,只能满足离线数据处理需求,无法实时的处理数据,也无法处理部分增量数据处理请求,从而无法满足数据的增量化处理;对待处理数据的数据转换处理的形式单一,无法解决当前数据集成场景中,对数据按照不同规范进行转换的需求;无法对数据处理过程中进行直观的跟踪等问题,因此,传统技术中存在数据集成单一的问题。基于此,本申请提出了一种提供多种数据集成功能的数据请求的处理方法。
本申请实施例提供的数据请求的处理方法,可以应用于如图1所示的应用环境中。其中,中转服务器102通过网络分别与第一服务器104和第二服务器106进行通信。中转服务器102的数据存储系统可以存储中转服务器102需要处理的数据,第一服务器104的数据存储系统可以存储第一服务器104需要处理的数据,第二服务器106的数据存储系统可以存储第二服务器106需要处理的数据,其中,数据存储系统可以分别集成在各服务器上,也可以放在云上或其他网络服务器上。中转服务器102可以通过网络接收第一服务器104发送的数据处理请求,并根据数据处理请求从第二服务器106中获取待处理数据,从而对待处理数据进行处理之后,将处理结果通过网络发送给第一服务器104。其中,中转服务器102、第一服务器104和第二服务器106均可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
在一个实施例中,如图2所示,提供了一种数据请求的处理方法,以该方法应用于图1中的中转服务器102为例进行说明,包括以下步骤:
S201,获取接收到的数据处理请求对应的配置文件;数据处理请求为第一服务器发送的。
需要说明的是,在数据集成场景中,由于来自不同数据源中的数据的格式不同,进行数据集成时,需要对来自不同数据源的数据进行处理,从而使得数据能够在不同系统中进行传输,进一步地,基于对数据处理的算力和资源的考虑,可以采用独立于集成数据的服务器之外的服务器进行数据处理,然后将处理结果发送至集成数据的服务器中,可选的,服务器可以是单独的服务器,也可以是服务器集群。在本实施例中,以单独的服务器为例对数据请求的处理方法进行介绍,其中,进行数据处理的中转服务器为执行主体,用于接收集成数据的第一服务器发送的数据处理请求,可选的,数据处理请求可以为数据离线处理请求,或者,数据处理请求也可以为数据实时处理请求,又或者,数据处理请求还可以为增量数据处理请求。
可以理解的是,对于不同的数据处理请求,中转服务器中可以提供对应的配置文件,并通过配置文件确定对数据进行的处理,从而得到数据处理结果,其中,配置文件中是用于配置处理系统和应用程序的文件,能够保存处理系统和应用程序的设置信息,通常,配置文件以文本方式存储,可以通过编辑配置文件来添加或修改系统和应用程序的设置信息。在本实施例中,数据处理请求对应的配置文件中可以包括数据处理的类型、数据处理的处理工具类型、数据处理的数据来源等信息,在中转服务器接收到第一服务器发送的数据处理请求时,可以根据数据处理请求从预先存储的配置文件库中获取对应的配置文件。
作为一种可选的实施方式,中转服务器可以提供可视化界面,向用户提供交互界面,从而在接收到第一服务器发送的数据处理请求时,中转服务器可以通过可视化界面接收用户根据数据处理请求选择的配置文件。
S202,根据配置文件,获取数据处理请求对应的待处理数据、处理命令和处理工具类型。
其中,待处理数据是根据接收的数据处理请求进行相应数据处理的数据;处理命令指的是根据数据处理请求的处理类型,根据处理命令可以调用对应的处理工具和执行程序对待处理数据进行的处理;处理工具类型指的是根据数据处理请求对待处理数据集进行相应处理的应用程序的类型,可选的,处理工具类型可以包括实时数据处理的工具、离线数据处理的工具、增量数据处理的工具等类型。示例性地,离线数据处理工具可以为数据离线同步工具(Datax),实时数据处理工具可以为捕获数据库中数据变更的技术(Flink CDC),增量数据处理工具可以为管理的数据库层上构建具有增量数据管道的流式的平台(Hadoop Upserts Deletes and Incrementals,HUDI)。
其中,Datax是进行数据离线任务处理的处理工具,可以通过数据的来源表查询到相关的字段,获取对应的数据,并对数据进行处理。通过Datax可以对全量数据进行处理,也可以对增量数据进行处理,若数据的来源表中存在create_time、update_time等字段,可以根据这些字段获取变更的数据,从而对变更的数据进行处理。作为一种可选的实施方式,可以在Datax中添加钩子函数,用于在第一次数据处理之后,通过钩子函数记录增量字段和增量值,从而在第二次数据处理时,能够根据记录的增量字段和增量值从数据库中查询并获取增量数据,从而实现增量数据的数据处理。若数据的来源表中没有增量数据相关的字段,则可以通过HUDI实现增量数据处理。作为一种可选的实施方式,可以将Flink CDC工具和HUDI工具中的数据处理发送到任务调度平台进行处理,从而可以控制服务器资源的消耗。
需要说明的是,在本实施例中,可以根据数据集成场景中需要对待处理数据进行数据处理的类型确定对应的处理工具,从而在服务器中部署各种处理工具,使得服务器能够针对不同的数据处理请求,采用对应的数据处理工具对待处理数据进行处理,满足数据集成场景中的多种数据集成功能。
在本实施例中,可以根据配置文件中包括的信息确定待处理请求所对应的待处理数据,以及对待处理数据进行处理的处理命令和处理工具类型。
S203,调用处理工具类型对应的处理工具运行处理命令,获取待处理数据的处理结果,并将处理结果发送给第一服务器。
其中,处理工具是进行数据分析和处理的软件,通过启动处理工具,能够使得处理工具通过运行处理命令,对待处理数据进行相应的处理,从而得到处理结果。需要说明的是,处理命令可以是预先设置好的,或者,处理命令也可以是根据数据处理需求生成的。
在本实施例中,可以通过中转服务器中预设的任务调度器将处理命令发送到处理工具类型对应的处理工具中,从而控制处理工具运行处理命令,将运行结果确定为待处理数据的处理结果,并通过网络将处理结果发送给第一服务器。
上述数据处理方法中,中转服务器通过获取接收到的第一服务器发送的数据处理请求对应的配置文件,能够根据配置文件,获取数据处理请求对应的待处理数据、处理命令和处理工具类型,由于获取的处理命令和处理工具类型是通过配置文件获取的,配置文件是根据数据处理请求得到的,则根据不同的数据处理请求能够得到不同的配置文件,进一步地,根据不同的配置文件能够得到不同的处理工具类型和处理命令,从而能够通过调用不同的处理工具类型对应的处理工具运行处理命令,得到不同的待处理数据的处理结果,并将处理结果发送给第一服务器,进而能够满足第一服务器的不同数据处理请求,为第一服务器提供多种满足不同数据处理请求的数据集成功能。
在上述根据配置文件,获取数据处理请求对应的待处理数据、处理命令和处理工具类型的场景中,可以通过对配置文件进行解析得到待处理数据、处理命令和处理工具类型。在一个实施例中,如图3所示,上述S202,包括:
S301,对配置文件进行解析,获取待处理数据对应的数据源信息、处理命令和处理工具类型。
其中,数据源信息指的是提供待处理数据的来源,可选的,待处理数据的数据源可以为服务器、数据库等,可以通过数据名称能够从数据源中获取到待处理数据。
在本实施例中,可以通过运行解析工具读取配置文件的所有行信息,通过对配置文件的行信息进行键和值的分割,对配置文件进行解析,得到对应的解析信息,其中,通过得到的解析信息能够获取数据源信息、处理命令和处理工具类型。在本实施例中,只要能够对配置文件进行解析得到待处理数据对应的信息即可,对于解析工具不做限制。
S302,根据数据源信息,获取待处理数据。
在本实施例中,可以根据数据源信息,确定待处理数据的来源,从而从来源处获取待处理数据,可选的,根据数据源确定的待处理数据的来源可以是数据采集设备,从数据采集设备获取待处理数据;或者,根据数据源确定的待处理数据的来源也可以是数据库,从数据库获取待处理数据。
本实施例中,通过对配置文件进行解析,能够获取待处理数据对应的数据源信息、处理命令和处理工具类型,从而能够根据数据源信息,获取待处理数据,由于服务器对配置文件进行解析的过程比较简单,能够快速的获取待处理数据对应的数据源信息、处理命令和处理工具类型,从而能够快速的获取待处理数据,进而能够快速的获取待处理数据的处理结果。
在上述根据数据源信息,获取待处理数据的场景中,可以从数据源对应的服务器中获取待处理数据。在一个实施例中,如图4所示,上述S301,包括:
S401,确定数据源信息对应的第二服务器。
其中,第二服务器指的是提供待处理数据的服务器,可以理解的是,第二服务器可以为一个,也可以为多个,第二服务器中可以包含来自同一个数据库的数据,也可以包含来自不同数据库的数据。为了提高获取待处理数据的效率,服务器可以预先与第二服务器建立网络连接,用于传输待处理数据。在本实施例中,可以根据数据源信息中的数据源标识确定对应的第二服务器。
S402,向第二服务器发送数据获取请求,获取待处理数据。
在本实施例中,可以根据数据处理请求中的待处理数据的数据量、数据类型等信息生成数据获取请求,并通过与第二服务器之间的网络连接向第二服务器发送数据获取请求,第二服务器在接收到数据获取请求之后,对数据获取请求进行响应,发送对应的待处理数据,从而可以获取待处理数据。
本实施例中,通过确定数据源信息对应的第二服务器,并向第二服务器发送数据获取请求,能够快速的获取待处理数据,从而能够提高获取待处理数据的效率。
在上述获取接收到的数据处理请求对应的配置文件的场景中,还可以根据数据处理请求生成配置文件。在一个实施例中,如图5所示,上述方法还包括:
S501,对数据处理请求进行解析,获取待处理数据的数据源信息、数据处理请求对应的处理类型和处理需求。
可以理解的是,在数据集成场景中,服务器可以接收第一服务器发送的数据处理请求,在数据处理请求的数据包中可以包括第一服务器需要集成的数据的来源,即数据源信息,以及需要对待处理数据进行处理的处理类型、需要对待处理数据进行处理的处理需求,其中,处理需求可以为对数据进行的数据类型的转换处理、数据的筛选、数据的排序的等处理方式。
在本实施例中,可以通过对数据处理请求进行解析,得到解析结果,从解析结果中获取数据处理请求的数据包中关于待处理数据的信息,从而得到数据源信息、处理类型和处理需求。
S502,根据数据源信息、处理类型和处理需求,生成配置文件。
可以理解的是,服务器可以根据接收的每个数据处理请求对应的信息生成对应的配置文件,对于不同的数据处理请求,可以生成不同的配置文件。
在本实施例中,服务器可以根据数据源信息确定待处理数据的来源,以及根据处理类型确定根据处理需求确定第一服务器需要获取的数据信息,从而根据数据源信息、处理类型和处理需求生成配置文件,以使得服务器能够根据配置文件获取待处理数据并对数据进行相应的处理。
本实施例中,通过对数据处理请求进行解析,能够获取待处理数据的数据源信息、数据处理请求对应的处理类型和处理需求,从而能够根据数据源信息、处理类型和处理需求,生成配置文件,由于生成配置文件的信息是通过对数据处理请求进行解析后生成的,对于不同的数据处理请求,能够生成不同的配置文件,从而能够根据配置文件进行相应的数据处理,满足不同数据处理请求的处理要求,为发送数据处理请求的第一服务器提供多种数据集成功能。
在上述根据数据源信息、处理类型和处理需求,生成配置文件的场景中,可以根据处理类型确定处理工具类型和执行命令,从而根据处理工具类型、执行命令、处理需求和数据源信息生成配置信息。在一个实施例中,如图6所示,上述S502,包括:
S601,根据处理类型确定处理工具类型和数据处理请求对应的执行命令。
需要说明的是,在本实施例中,可以在服务器中部署多个用于处理不同处理类型的处理工具,当接收到数据处理请求时,可以利用对应的处理工具处理待处理数据,得到处理结果。
在本实施例中,可以根据处理类型确定需要对待处理数据进行的处理,从而确定对应的处理工具的类型,以及将该处理工具对应的执行命令确定为数据处理请求的执行命令。
S602,根据处理工具类型、处理需求、执行命令和数据源信息,生成配置文件。
在本实施例中,服务器可以根据处理工具类型、处理需求和数据源信息生成初始配置文件,并根据处理工具类型将初始配置文件发送至对应的处理工具,然后将该处理工具中对应的执行命令添加至初始配置文件,生成配置文件。
本实施例中,通过根据处理类型确定处理工具类型和数据处理请求对应的执行命令,能够根据处理工具类型、处理需求、执行命令和数据源信息,生成配置文件,由于根据处理类型能够快速准确的确定处理工具类型和对应的执行命令,从而能够快速准确的生成配置文件,提高生成的配置文件的准确度和效率。
下面对根据处理工具类型、处理需求、执行命令和数据源信息,生成配置文件的具体过程进行详细描述。在一个实施例中,如图7所示,上述S602,包括:
S701,根据处理需求,确定数据处理请求对应的转换函数。
需要说明的是,进行数据集成时,由于不同数据源的存储规范不同,为了使得集成后的数据能够在不同数据系统中传输,需要按照数据处理请求对数据进行统一处理,例如,对字符串长度进行统一,或者,对字符串进行部分替换,又或者,对数据的数据存储类型进行转换。因此,在对待处理数据进行处理时,可以预先设置转换函数,对待处理数据进行转换处理。
可选的,在本实施例中,可以根据处理需求,从函数库中选择对应的转换函数,从而确定数据处理请求对应的转换函数,或者,也可以根据处理需求,对自定义的策略函数进行设置,得到数据处理请求对应的转换函数。示例性地,可以在Datax工具中添加策略函数,当数据处理请求为离线数据处理时,可以根据数据处理请求中对待处理数据的转换需求选择对应的策略函数,从而对待处理数据进行处理。或者,也可以在HUDI或者Flink CDC中添加策略函数,以得到对应的转换函数。
S702,根据转换函数和执行命令,生成处理命令。
其中,执行命令指的是不同的处理工具中运行转换函数的程序,可选的,执行命令可以采用java语言编写,或者,执行命令也可以采用python语言编写。可以理解的是,不同的数据处理工具中可以预先存储对应的通用程序段作为执行命令,进而结合不同数据处理请求对应的转换函数生成处理命令,可选的,每个数据处理工具可以对应多个处理命令,用于处理对应的数据处理请求中的待处理数据。
在本实施例中,可以将不同数据处理请求对应的转换函数添加至各数据处理工具的执行命令中,从而生成处理命令,在运行处理命令时,可以通过运行转换函数对待处理数据进行数据转换。
S703,根据处理工具类型、数据源信息和处理命令,生成配置文件。
在本实施例中,可以根据处理工具类型生成每个处理工具对应的初始配置文件,然后根据数据源信息对应的提供待处理数据的服务器的标识、以及根据转换函数生成的处理命令和初始配置文件生成每个数据处理请求对应的配置文件。可以理解的是,每个数据处理请求可以对应不同的配置文件。
作为一种可选的实施方式,为了生成不同数据处理需求的配置文件,可以预先根据通用的配置信息生成配置文件模板,从而将每个数据处理需求对应的信息添加至配置文件模板中,生成对应的配置文件。
本实施例中,根据处理需求,确定数据处理请求对应的转换函数,并根据转换函数和执行命令,生成处理命令,以及根据处理工具类型、数据源信息和处理命令,生成配置文件,由于第一服务器发送的数据处理请求中可以包括不同的处理需求,能够确定不同的转换函数,从而生成不同的处理命令,以及不同的配置文件,进而能够根据生成的配置文件对待处理数据进行不同的处理,满足不同的数据处理请求,提供多种数据集成功能。
在上述获取接收到的数据处理请求对应的配置文件的场景中,可以预先建立配置文件与数据处理请求之间的对应关系,从而根据对应关系获取数据处理请求对应的配置文件。在一个实施例中,如图8所示,上述方法还包括:
S801,建立配置文件与数据处理请求之间的对应关系。
需要说明的是,配置文件与数据处理请求之间的对应关系中可以包括多个配置文件和多个数据处理请求,其中,每个配置文件与每个数据处理请求一一对应,根据数据处理请求的请求标识能够从该对应关系中确定出对应的配置文件。
在本实施例中,可以预先根据不同的处理工具的运行信息生成初始配置文件,然后根据不同的数据处理请求对应的处理需求对初始配置文件进行调整,从而生成每个数据处理请求对应的配置文件,并根据配置文件的处理标识和数据处理请求的处理标识建立每个数据处理请求对应的配置文件与数据处理请求之间的对应关系。
S802,将对应关系和配置文件,存储至预设的存储区。
其中,预设的存储区为服务器中用于存放数据的存储空间,可选的,服务器中的存储区中可以提供不同的存储服务,从而满足不同的数据处理请求的存储需求。例如,存储区可以提供关系型数据库管理系统(My Structured Query Language,MySQL)用于存储数据,或者,也可以提供远程字典服务(Remote Dictionary Server,Rsdis)用于存储数据,又或者,还可以提供消息队列(Message Queue,MQ)用于存储数据,又或者,还可以提供数据仓库工具(Hive)用于对存储的数据进行管理。
在本实施例中,可以将建立的对应关系和配置文件存储至预设的存储区,从而能够在接收到数据处理请求时,根据数据处理请求的标识从对应关系中确定对应的配置文件,并从存储区中获取配置文件。
本实施例中,通过建立配置文件与数据处理请求之间的对应关系,能够将对应关系和配置文件存储至预设的存储区,从而能够在接收到第一服务器发送的数据处理请求时,快速的从存储区中获取接收的数据处理请求对应的配置文件,进而能够提高根据配置文件对待处理数据进行处理的效率。
为了便于本领域技术人员的理解,下边对本申请提供的数据请求的处理方法进行详细介绍,该方法可以包括:
S1,接收第一服务器发送的数据处理请求。
S2,对数据处理请求进行解析,获取待处理数据的数据源信息、数据处理请求对应的处理类型和处理需求。
S3,根据处理类型确定处理工具类型和数据处理请求对应的执行命令。
S4,根据处理需求,确定数据处理请求对应的转换函数。
S5,根据转换函数和执行命令,生成处理命令。
S6,根据处理工具类型、数据源信息和处理命令,生成配置文件。
S7,建立配置文件与数据处理请求之间的对应关系。
S8,将对应关系和配置文件,存储至预设的存储区。
S9,获取接收到的数据处理请求对应的配置文件。
S10,对配置文件进行解析,获取待处理数据对应的数据源信息、处理命令和处理工具类型。
S11,确定数据源信息对应的第二服务器。
S12,向第二服务器发送数据获取请求,获取待处理数据。
S13,调用处理工具类型对应的处理工具运行处理命令,获取待处理数据的处理结果,并将处理结果发送给第一服务器。
需要说明的是,针对上述S1-S13中的描述可以参见上述实施例中相关的描述,且其效果类似,本实施例在此不再赘述。
应该理解的是,虽然如上的各实施例所涉及的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,如上的各实施例所涉及的流程图中的至少一部分步骤可以包括多个步骤或者多个阶段,这些步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤中的步骤或者阶段的至少一部分轮流或者交替地执行。
基于同样的发明构思,本申请实施例还提供了一种用于实现上述所涉及的数据请求的处理方法的数据请求的处理装置。该装置所提供的解决问题的实现方案与上述方法中所记载的实现方案相似,故下面所提供的一个或多个数据请求的处理装置实施例中的具体限定可以参见上文中对于数据请求的处理方法的限定,在此不再赘述。
在一个实施例中,如图9所示,提供了一种数据请求的处理装置,包括:第一获取模块11、第二获取模块12和第三获取模块13,其中:
第一获取模块11,用于获取接收到的数据处理请求对应的配置文件;数据处理请求为第一服务器发送的;
第二获取模块12,用于根据配置文件,获取数据处理请求对应的待处理数据、处理命令和处理工具类型;
第三获取模块13,用于调用处理工具类型对应的处理工具运行处理命令,获取待处理数据的处理结果,并将处理结果发送给第一服务器。
本实施例提供的数据请求的处理装置,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
在一个实施例中,如10所示,上述第二获取模块12,包括:第一获取单元121和第二获取单元122,其中:
第一获取单元121,用于对配置文件进行解析,获取待处理数据对应的数据源信息、处理命令和处理工具类型;
第二获取单元122,用于根据数据源信息,获取待处理数据。
本实施例提供的数据请求的处理装置,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
在一个实施例中,请继续参照图10,上述第二获取单元122,具体用于:确定数据源信息对应的第二服务器;向第二服务器发送数据获取请求,获取待处理数据。
本实施例提供的数据请求的处理装置,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
在一个实施例中,请继续参照图10,上述装置还包括:第四获取模块14和生成模块15,其中:
第四获取模块14,用于对数据处理请求进行解析,获取待处理数据的数据源信息、数据处理请求对应的处理类型和处理需求;
生成模块15,用于根据数据源信息、处理类型和处理需求,生成配置文件。
本实施例提供的数据请求的处理装置,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
在一个实施例中,请继续参照图10,上述生成模块15,包括:确定单元151和生成单元152,其中:
确定单元151,用于根据处理类型确定处理工具类型和数据处理请求对应的执行命令;
生成单元152,用于根据处理工具类型、处理需求、执行命令和数据源信息,生成配置文件。
本实施例提供的数据请求的处理装置,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
在一个实施例中,请继续参照图10,上述生成单元152,具体用于:根据处理需求,确定数据处理请求对应的转换函数;根据转换函数和执行命令,生成处理命令;根据处理工具类型、数据源信息和处理命令,生成配置文件。
本实施例提供的数据请求的处理装置,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
在一个实施例中,请继续参照图10,上述装置还包括:建立模块16和存储模块17,其中:
建立模块16,用于建立配置文件与数据处理请求之间的对应关系;
存储模块17,用于将对应关系和配置文件,存储至预设的存储区。
本实施例提供的数据请求的处理装置,可以执行上述方法实施例,其实现原理和技术效果类似,在此不再赘述。
上述数据请求的处理装置中的各个模块可全部或部分通过软件、硬件及其组合来实现。上述各模块可以硬件形式内嵌于或独立于服务器中的处理器中,也可以以软件形式存储于服务器中的存储器中,以便于处理器调用执行以上各个模块对应的操作。
在一个实施例中,提供了一种服务器,该服务器也可以是终端,其内部结构图可以如图11所示。该服务器包括处理器、存储器、输入/输出接口、通信接口、显示单元和输入装置。其中,处理器、存储器和输入/输出接口通过系统总线连接,通信接口、显示单元和输入装置通过输入/输出接口连接到系统总线。其中,该服务器的处理器用于提供计算和控制能力。该服务器的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统和计算机程序。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该服务器的输入/输出接口用于处理器与外部设备之间交换信息。该服务器的通信接口用于与外部的终端进行有线或无线方式的通信,无线方式可通过WIFI、移动蜂窝网络、NFC(近场通信)或其他技术实现。该计算机程序被处理器执行时以实现一种数据请求的处理方法。该服务器的显示单元用于形成视觉可见的画面,可以是显示屏、投影装置或虚拟现实成像装置。显示屏可以是液晶显示屏或者电子墨水显示屏,该服务器的输入装置可以是显示屏上覆盖的触摸层,也可以是服务器外壳上设置的按键、轨迹球或触控板,还可以是外接的键盘、触控板或鼠标等。
本领域技术人员可以理解,图11中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的服务器的限定,具体的服务器可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种服务器,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现以下步骤:
获取接收到的数据处理请求对应的配置文件;数据处理请求为第一服务器发送的;
根据配置文件,获取数据处理请求对应的待处理数据、处理命令和处理工具类型;
调用处理工具类型对应的处理工具运行处理命令,获取待处理数据的处理结果,并将处理结果发送给第一服务器。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
对配置文件进行解析,获取待处理数据对应的数据源信息、处理命令和处理工具类型;
根据数据源信息,获取待处理数据。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
确定数据源信息对应的第二服务器;
向第二服务器发送数据获取请求,获取待处理数据。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
对数据处理请求进行解析,获取待处理数据的数据源信息、数据处理请求对应的处理类型和处理需求;
根据数据源信息、处理类型和处理需求,生成配置文件。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
根据处理类型确定处理工具类型和数据处理请求对应的执行命令;
根据处理工具类型、处理需求、执行命令和数据源信息,生成配置文件。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
根据处理需求,确定数据处理请求对应的转换函数;
根据转换函数和执行命令,生成处理命令;
根据处理工具类型、数据源信息和处理命令,生成配置文件。
在一个实施例中,处理器执行计算机程序时还实现以下步骤:
建立配置文件与数据处理请求之间的对应关系;
将对应关系和配置文件,存储至预设的存储区。
在一个实施例中,提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
获取接收到的数据处理请求对应的配置文件;数据处理请求为第一服务器发送的;
根据配置文件,获取数据处理请求对应的待处理数据、处理命令和处理工具类型;
调用处理工具类型对应的处理工具运行处理命令,获取待处理数据的处理结果,并将处理结果发送给第一服务器。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
对配置文件进行解析,获取待处理数据对应的数据源信息、处理命令和处理工具类型;
根据数据源信息,获取待处理数据。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
确定数据源信息对应的第二服务器;
向第二服务器发送数据获取请求,获取待处理数据。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
对数据处理请求进行解析,获取待处理数据的数据源信息、数据处理请求对应的处理类型和处理需求;
根据数据源信息、处理类型和处理需求,生成配置文件。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
根据处理类型确定处理工具类型和数据处理请求对应的执行命令;
根据处理工具类型、处理需求、执行命令和数据源信息,生成配置文件。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
根据处理需求,确定数据处理请求对应的转换函数;
根据转换函数和执行命令,生成处理命令;
根据处理工具类型、数据源信息和处理命令,生成配置文件。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
建立配置文件与数据处理请求之间的对应关系;
将对应关系和配置文件,存储至预设的存储区。
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
获取接收到的数据处理请求对应的配置文件;数据处理请求为第一服务器发送的;
根据配置文件,获取数据处理请求对应的待处理数据、处理命令和处理工具类型;
调用处理工具类型对应的处理工具运行处理命令,获取待处理数据的处理结果,并将处理结果发送给第一服务器。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
对配置文件进行解析,获取待处理数据对应的数据源信息、处理命令和处理工具类型;
根据数据源信息,获取待处理数据。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
确定数据源信息对应的第二服务器;
向第二服务器发送数据获取请求,获取待处理数据。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
对数据处理请求进行解析,获取待处理数据的数据源信息、数据处理请求对应的处理类型和处理需求;
根据数据源信息、处理类型和处理需求,生成配置文件。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
根据处理类型确定处理工具类型和数据处理请求对应的执行命令;
根据处理工具类型、处理需求、执行命令和数据源信息,生成配置文件。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
根据处理需求,确定数据处理请求对应的转换函数;
根据转换函数和执行命令,生成处理命令;
根据处理工具类型、数据源信息和处理命令,生成配置文件。
在一个实施例中,计算机程序被处理器执行时还实现以下步骤:
建立配置文件与数据处理请求之间的对应关系;
将对应关系和配置文件,存储至预设的存储区。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric Random Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。

Claims (11)

1.一种数据请求的处理方法,其特征在于,所述方法包括:
获取接收到的数据处理请求对应的配置文件;所述数据处理请求为第一服务器发送的;
根据所述配置文件,获取所述数据处理请求对应的待处理数据、处理命令和处理工具类型;
调用所述处理工具类型对应的处理工具运行所述处理命令,获取所述待处理数据的处理结果,并将所述处理结果发送给所述第一服务器。
2.根据权利要求1所述的方法,其特征在于,所述根据所述配置文件,获取所述数据处理请求对应的待处理数据、处理命令和处理工具类型,包括:
对所述配置文件进行解析,获取所述待处理数据对应的数据源信息、所述处理命令和所述处理工具类型;
根据所述数据源信息,获取所述待处理数据。
3.根据权利要求2所述的方法,其特征在于,所述根据所述数据源信息,获取所述待处理数据,包括:
确定所述数据源信息对应的第二服务器;
向所述第二服务器发送数据获取请求,获取所述待处理数据。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述方法还包括:
对所述数据处理请求进行解析,获取所述待处理数据的数据源信息、所述数据处理请求对应的处理类型和处理需求;
根据所述数据源信息、所述处理类型和所述处理需求,生成所述配置文件。
5.根据权利要求4所述的方法,其特征在于,所述根据所述数据源信息、所述处理类型和所述处理需求,生成所述配置文件,包括:
根据所述处理类型确定所述处理工具类型和所述数据处理请求对应的执行命令;
根据所述处理工具类型、所述处理需求、所述执行命令和所述数据源信息,生成所述配置文件。
6.根据权利要求5所述的方法,其特征在于,所述根据所述处理工具类型、所述处理需求、所述执行命令和所述数据源信息,生成所述配置文件,包括:
根据所述处理需求,确定所述数据处理请求对应的转换函数;
根据所述转换函数和所述执行命令,生成所述处理命令;
根据所述处理工具类型、所述数据源信息和所述处理命令,生成所述配置文件。
7.根据权利要求4所述的方法,其特征在于,所述方法还包括:
建立所述配置文件与所述数据处理请求之间的对应关系;
将所述对应关系和所述配置文件,存储至预设的存储区。
8.一种数据请求的处理装置,其特征在于,所述装置包括:
第一获取模块,用于获取接收到的数据处理请求对应的配置文件;所述数据处理请求为第一服务器发送的;
第二获取模块,用于根据所述配置文件,获取所述数据处理请求对应的待处理数据、处理命令和处理工具类型;
第三获取模块,用于调用所述处理工具类型对应的处理工具运行所述处理命令,获取所述待处理数据的处理结果,并将所述处理结果发送给所述第一服务器。
9.一种服务器,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
11.一种计算机程序产品,包括计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
CN202311758623.0A 2023-12-19 2023-12-19 数据请求的处理方法、装置、服务器和存储介质 Pending CN117707602A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311758623.0A CN117707602A (zh) 2023-12-19 2023-12-19 数据请求的处理方法、装置、服务器和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311758623.0A CN117707602A (zh) 2023-12-19 2023-12-19 数据请求的处理方法、装置、服务器和存储介质

Publications (1)

Publication Number Publication Date
CN117707602A true CN117707602A (zh) 2024-03-15

Family

ID=90149532

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311758623.0A Pending CN117707602A (zh) 2023-12-19 2023-12-19 数据请求的处理方法、装置、服务器和存储介质

Country Status (1)

Country Link
CN (1) CN117707602A (zh)

Similar Documents

Publication Publication Date Title
US11243704B2 (en) Data pipeline architecture for analytics processing stack
US10996878B2 (en) Data pipeline architecture for cloud processing of structured and unstructured data
CN109074377B (zh) 用于实时处理数据流的受管理功能执行
CN109976667B (zh) 一种镜像管理方法、装置及系统
US10291704B2 (en) Networked solutions integration using a cloud business object broker
CN108513657B (zh) 数据转换方法及备份服务器
US9596279B2 (en) Cloud-based streaming data receiver and persister
CN105045607A (zh) 一种实现多种大数据计算框架统一接口的方法
US10505863B1 (en) Multi-framework distributed computation
CN111475506B (zh) 数据存储、查询的方法、装置、系统、设备、存储介质
CN115658978B (zh) 图数据库系统多源数据导入方法和装置
CN109729121B (zh) 一种云存储系统及用于云存储系统中实现自定义数据处理的方法
WO2020232158A1 (en) System and methods for securely storing data for efficient access by cloud-based computing instances
Huang et al. A geospatial hybrid cloud platform based on multi-sourced computing and model resources for geosciences
CN112905596B (zh) 数据处理的方法、装置、计算机设备以及存储介质
US10944814B1 (en) Independent resource scheduling for distributed data processing programs
CN116360918A (zh) 建模数据处理方法、装置、计算机设备和存储介质
CN113609168B (zh) 数据导出方法、装置、终端以及可读存储介质
CN115982133A (zh) 数据处理方法及装置
CN117707602A (zh) 数据请求的处理方法、装置、服务器和存储介质
CN117632395A (zh) 工作流处理方法、装置、设备、存储介质和程序产品
CN111767345B (zh) 建模数据同步方法、装置、计算机设备及可读存储介质
CN117435215A (zh) 研发环境部署方法、系统、计算机设备和存储介质
US10114864B1 (en) List element query support and processing
CN115604191A (zh) 业务流量控制方法、装置、电子设备及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
CB02 Change of applicant information

Country or region after: China

Address after: 014030 No. 8 Qingshan Road, Xinjian District, Equipment Manufacturing Industrial Park, Qingshan District, Baotou City, Inner Mongolia Autonomous Region

Applicant after: Baotou City Cloud Computing Technology Co.,Ltd.

Applicant after: Shuguang Cloud Computing Group Co.,Ltd.

Address before: 014030 No. 8 Qingshan Road, Xinjian District, Equipment Manufacturing Industrial Park, Qingshan District, Baotou City, Inner Mongolia Autonomous Region

Applicant before: Baotou City Cloud Computing Technology Co.,Ltd.

Country or region before: China

Applicant before: Shuguang Cloud Computing Group Co.,Ltd.

CB02 Change of applicant information
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination