CN112035443B - 基于Linux平台的大数据执行方法、系统、设备及存储介质 - Google Patents
基于Linux平台的大数据执行方法、系统、设备及存储介质 Download PDFInfo
- Publication number
- CN112035443B CN112035443B CN202010911284.5A CN202010911284A CN112035443B CN 112035443 B CN112035443 B CN 112035443B CN 202010911284 A CN202010911284 A CN 202010911284A CN 112035443 B CN112035443 B CN 112035443B
- Authority
- CN
- China
- Prior art keywords
- configuration file
- target
- business logic
- execution
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/30—Creation or generation of source code
- G06F8/31—Programming languages or programming paradigms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/70—Software maintenance or management
- G06F8/71—Version control; Configuration management
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Computer Security & Cryptography (AREA)
- Stored Programmes (AREA)
Abstract
本发明提供了一种基于Linux平台的大数据执行方法、系统、设备及存储介质,所述方法包括步骤:建立多个数据库配置文件,形成配置文件库;建立业务逻辑封装模型;建立业务逻辑执行函数,业务逻辑执行函数具有一参数组,参数组至少包括配置文件参数和业务逻辑字符串参数;获取配置文件参数位置上对应的目标配置文件名,以及业务逻辑字符串参数位置上对应的目标业务逻辑代码;依据目标配置文件名,从配置文件库中获得目标配置文件;依据目标配置文件以及目标业务逻辑代码,执行业务逻辑封装模型,获得数据执行结果;本申请降低了基于ClickHouse数据库的大数据开发复杂度,提高开发效率;且基于Linux平台的shell脚本实现,提高数据访问速度。
Description
技术领域
本发明涉及大数据技术领域,具体地说,涉及一种基于Linux平台的大数据执行方法、系统、设备及存储介质。
背景技术
随着云计算大数据技术的发展,在大数据分析领域,分析型数据库ClickHouse由于其读写速度快、支持功能全面等优点,比如支持类SQL查询、支持支持繁多库函数以及支持数组和嵌套数据结构,所以越来越受到开发人员的欢迎。
但是现有技术中,开发人员在开发ClickHouse数据库相关业务逻辑时,很多业务逻辑代码存在重复开发的情况,这导致数据库平台上存在大量冗余代码,开发效率低下。
并且开发人员调度使用ClickHouse数据库内的大数据时,每个人都需要输入用户名、密码、服务器IP,使用不便。在数据库执行出错之后,只能依赖人工在执行代码中寻找错误信息,排错效率低,不利于快速开发。
发明内容
针对现有技术中的问题,本发明的目的在于提供一种基于Linux平台的大数据执行方法、系统、设备及存储介质,提高ClickHouse数据库相关业务逻辑的开发效率。
为实现上述目的,本发明提供了一种基于Linux平台的大数据执行方法,所述方法包括以下步骤:
建立多个数据库配置文件,形成配置文件库;
建立业务逻辑封装模型;
建立业务逻辑执行函数,所述业务逻辑执行函数具有一参数组,所述参数组至少包括配置文件参数和业务逻辑字符串参数;
获取所述配置文件参数位置上对应的目标配置文件名,以及所述业务逻辑字符串参数位置上对应的目标业务逻辑代码;
依据所述目标配置文件名,从所述配置文件库中获得目标配置文件;
依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果。
优选地,所述依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果,包括:
对所述目标业务逻辑代码中的操作方式进行解析,获得数据表执行请求;所述操作方式包括左连接、右连接以及内连接;
根据数据表执行请求,获取对应的数据表表名和执行字段;
根据所述数据表表名和执行字段,获取与所述执行字段匹配的数据执行结果。
优选地,所述依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果,还包括:
根据数据表执行请求,获取对应的数据过滤条件;
根据所述数据表表名、数据过滤条件和执行字段,获取与所述执行字段以及数据过滤条件匹配的数据执行结果。
优选地,所述业务逻辑封装模型中包含第一读取路径和第二读取路径;
所述依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果,包括:
基于所述配置文件参数位置匹配所述第一读取路径或者第二读取路径,确定第一目标路径;
基于所述业务逻辑字符串参数位置匹配所述第一读取路径或者第二读取路径,确定第二目标路径;
将所述目标配置文件作为所述业务逻辑封装模型中所述第一目标路径对应的输入,将所述目标业务逻辑代码作为所述业务逻辑封装模型中所述第二目标路径对应的输入,获得数据执行结果。
优选地,所述业务逻辑封装模型中还包含第一输出路径;
所述依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果,包括:
基于所述第一输出路径生成所述业务逻辑封装模型执行过程对应的日志文件。
优选地,所述方法还包括步骤:
在所述业务逻辑封装模型执行中断时,获取所述日志文件中的与预设字段相匹配的错误关键字信息;
将所述业务逻辑执行函数中包含有所述错误关键字信息的代码片段按照第一预设样式进行显示。
优选地,所述根据所述数据表表名和执行字段,获取与所述执行字段匹配的数据执行结果,包括:
将对所述执行字段查询得到的查询结果,按照所述目标业务逻辑代码中的预设字段顺序进行拼接;
拼接后插入所述目标业务逻辑代码中的目标数据表,生成数据执行结果。
优选地,所述建立多个数据库配置文件包括:
对链接的服务器IP地址或者服务器集群IP地址进行配置;
对数据库的用户名以及密码进行配置。
优选地,所述业务逻辑封装模型基于shell脚本生成,所述数据库配置文件为基于ClickHouse数据库的配置文件。
本发明还提供了一种基于Linux平台的大数据执行系统,所述系统包括:
配置文件库生成模块,用于建立多个数据库配置文件,形成配置文件库;
封装模型建立模块,用于建立业务逻辑封装模型;
执行函数建立模块,用于建立业务逻辑执行函数,所述业务逻辑执行函数具有一参数组,所述参数组至少包括配置文件参数和业务逻辑字符串参数;
参数匹配模块,用于获取所述配置文件参数位置上对应的目标配置文件名,以及所述业务逻辑字符串参数位置上对应的目标业务逻辑代码;
目标文件获取模块,用于依据所述目标配置文件名,从所述配置文件库中获得目标配置文件;
执行模块,用于依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果。
本发明还提供了一种基于Linux平台的大数据执行设备,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一项基于Linux平台的大数据执行方法的步骤。
本发明还提供了一种计算机可读存储介质,用于存储程序,所述程序被处理器执行时实现上述任意一项基于Linux平台的大数据执行方法的步骤。
本发明与现有技术相比,具有以下优点及突出性效果:
本发明提供的基于Linux平台的大数据执行方法、系统、设备及存储介质通过对数据库配置文件单独建立,不必再每次输入配置字段,这样访问数据库时更加便捷;然后对业务逻辑抽象封装,开发人员只需建立业务逻辑执行函数,即可实现对数据库的执行,减少代码开发的冗余,提高开发效率。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显。
图1为本发明实施例公开的一种基于Linux平台的大数据执行方法的示意图;
图2为本实施例的图1中步骤S60的流程示意图;
图3为本发明实施例公开的一种基于Linux平台的大数据执行系统的结构示意图;
图4为本发明实施例公开的一种基于Linux平台的大数据执行设备的结构示意图;
图5为本发明实施例公开的一种计算机可读存储介质的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的实施方式。相反,提供这些实施方式使得本发明将全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的结构,因而将省略对它们的重复描述。
如图1所示,本发明实施例公开了一种基于Linux平台的大数据执行方法,该方法包括以下步骤:
S10,建立多个数据库配置文件,形成配置文件库。具体而言,本申请中,数据库配置文件为基于ClickHouse数据库的配置文件。其中,步骤S10包括:
对链接的服务器IP地址或者服务器集群IP地址进行配置;
对数据库的用户名以及密码进行配置。
示例性地,本实施例示出一数据库配置文件的代码示例:
<config>
<host>102.33.6.85</host>
<user>ckuser</user>
<password>ckpassword</password>
<send_logs_level>trace</send_logs_level>
<max_memory_usage>20000</max_memory_usage>
<max_memory_usage_for_user>2000</max_memory_usage_for_user>
<send_timeout>300</send_timeout>
</config>
在本申请中,在配置文件中预设了服务器IP(host)、数据库用户名(user)、密码(password)等字段,用户只需按照配置文件上述预设字段要求输入对应的值即可,不必输入字段名称,这样访问数据库更加方便,提高数据库开发效率。
当然,也可以在该配置文件中添加针对服务器集群IP地址的配置项,本申请对配置文件的字段设置不作限制。
S20,建立业务逻辑封装模型。本申请中,上述业务逻辑封装模型是基于Linux平台的shell脚本生成的。由于shell脚本是解释性语言,不需要编译。所以,相比采用其他系统平台内的语言,这样可以提高数据库访问速度。示例性地,本实施例示出一业务逻辑封装模型的代码示例:
本实施例中,上述业务逻辑封装模型中包含第一读取路径和第二读取路径、第一输出路径。以上述业务逻辑封装模型的代码为例,第一读取路径为$1,第二读取路径为$2,第一输出路径为${logfil}。
S30,建立业务逻辑执行函数。具体而言,本申请中,上述业务逻辑执行函数具有一参数组,上述参数组至少包括配置文件参数和业务逻辑字符串参数。
示例性地,本实施例示出一业务逻辑执行函数的代码示例:
S40,获取上述配置文件参数位置上对应的目标配置文件名,以及上述业务逻辑字符串参数位置上对应的目标业务逻辑代码。
具体而言,本实施例中,对于上述业务逻辑执行函数,通过识别参数类型判断该参数为配置文件参数或业务逻辑字符串参数。当参数类型为字符串类型时,该参数即为业务逻辑字符串参数,即可以获取到目标业务逻辑代码。当参数类型为文件类型时,该参数即为配置文件参数,即可以获取到目标配置文件名。比如,上述业务逻辑执行函数中,目标业务逻辑代码即为:
上述目标业务逻辑代码是实现从订单日志表、订单表以及付款日志表生成订单收款明细增量数据,并插入收款订单明细表中。
S50,依据上述目标配置文件名,从上述配置文件库中获得目标配置文件。具体而言,本实施例中,ck.xml即为目标配置文件名。然后从配置文件库中查找文件名为ck.xml的目标配置文件。
S60,依据上述目标配置文件以及上述目标业务逻辑代码,执行上述业务逻辑封装模型,获得数据执行结果。
具体而言,如图2所示,本实施例中,步骤S60包括:
S601,对上述目标业务逻辑代码中的操作方式进行解析,获得数据表执行请求。上述操作方式包括左连接、右连接以及内连接。具体而言,通过识别目标业务逻辑代码中的数据库操作语句的关键字,得到数据表执行请求。比如,参照上述目标业务逻辑代码,“LEFTJOIN”即为左连接的关键字,以及“INSERT”等SQL类语句中的关键字进行识别,得到数据表执行请求。通过识别“FROM”关键字得到数据表表名,识别“SELECT”关键字得到执行字段。
当然,上述操作方式的关键字不限于SQL类语句,也可以采用其他数据库操作语句。
S602,根据数据表执行请求,获取对应的数据表表名和执行字段。具体而言,比如,参照上述目标业务逻辑代码,该数据表执行请求中包含的数据表表名有ods_xxxbdb.xxb_yyyylog_dddlog(订单日志表)、ods_xxx_yyydb.cyyyorders(订单表)以及ods_xxx_yyydb.cyyyrefundlog(付款日志表),执行字段有s.orderid(订单ID)字段。
S603,基于上述配置文件参数位置匹配上述第一读取路径或者第二读取路径,确定第一目标路径。具体而言,本实施例中,配置文件参数位置匹配第二读取路径,也即匹配的是$2。所以,第一目标路径即为$2。
S604,基于上述业务逻辑字符串参数位置匹配上述第一读取路径或者第二读取路径,确定第二目标路径。具体而言,本实施例中,业务逻辑字符串参数位置匹配第一读取路径,也即匹配的是$1。所以,第二目标路径即为$1。
S605,根据上述数据表表名和执行字段,同时将上述目标配置文件作为上述业务逻辑封装模型中上述第一目标路径对应的输入,将上述目标业务逻辑代码作为上述业务逻辑封装模型中上述第二目标路径对应的输入,获取与上述执行字段匹配的数据执行结果。
本实施例中,步骤S605包括:
将对上述执行字段查询得到的查询结果,按照上述目标业务逻辑代码中的预设字段顺序进行拼接。需要说明的是,预设字段顺序可以根据需要设置。
拼接后插入上述目标业务逻辑代码中的目标数据表,生成数据执行结果。本实施例中,目标数据表即为收款订单明细表dwxxxdb.edw_xxa_xxx_finance_incr,所以也即拼接后插入收款订单明细表中。
S606,基于上述第一输出路径生成上述业务逻辑封装模型执行过程对应的日志文件。本实施例中,即通过第一输出路径${logfil}输出日志文件。该日志文件会保存执行出错对应的错误关键字信息,比如,错误关键字信息可以为“Date”、“Invalid or unexpectedtoken”等,然后可以根据该错误关键字信息在目标业务逻辑代码中快速确定出错位置,有利于快速排错,提高开发效率。
在本申请的另一实施例中,上述步骤S602还包括:根据数据表执行请求,获取对应的数据过滤条件。比如,参照上述目标业务逻辑代码,“WHERE”字段即为过滤条件的字段识别信息。该实施例中,上述过滤条件包括“WHERE d=CAST('${CurrentDate}'AS date)”等。
上述步骤S603还包括:根据上述数据表表名、数据过滤条件和执行字段,获取与上述执行字段以及数据过滤条件匹配的数据执行结果。
在本申请的另一实施例中,上述方法还包括步骤:
S70,在上述业务逻辑封装模型执行中断时,获取上述日志文件中的与预设字段相匹配的错误关键字信息。
S80,将上述业务逻辑执行函数中包含有上述错误关键字信息的代码片段按照第一预设样式进行显示。该第一预设样式可以为将上述代码片段以黄色为背景色进行显示等。本发明不以此为限。
如图3所示,本发明实施例还公开了一种基于Linux平台的大数据执行系统3,该系统包括:
配置文件库生成模块31,用于建立多个数据库配置文件,形成配置文件库。
封装模型建立模块32,用于建立业务逻辑封装模型。
执行函数建立模块33,用于建立业务逻辑执行函数,上述业务逻辑执行函数具有一参数组,上述参数组至少包括配置文件参数和业务逻辑字符串参数。
参数匹配模块34,用于获取上述配置文件参数位置上对应的目标配置文件名,以及上述业务逻辑字符串参数位置上对应的目标业务逻辑代码。
目标文件获取模块35,用于依据上述目标配置文件名,从上述配置文件库中获得目标配置文件。
执行模块36,用于依据上述目标配置文件以及上述目标业务逻辑代码,执行上述业务逻辑封装模型,获得数据执行结果。
可以理解的是,本发明的基于Linux平台的大数据执行系统还包括其他支持基于Linux平台的大数据执行系统运行的现有功能模块。图3显示的基于Linux平台的大数据执行系统仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
本实施例中的基于Linux平台的大数据执行系统用于实现上述的基于Linux平台的大数据执行的方法,因此对于基于Linux平台的大数据执行系统的具体实施步骤可以参照上述对基于Linux平台的大数据执行的方法的描述,此处不再赘述。
本发明实施例还公开了一种基于Linux平台的大数据执行设备,包括处理器和存储器,其中存储器存储有所述处理器的可执行指令;处理器配置为经由执行可执行指令来执行上述基于Linux平台的大数据执行方法中的步骤。图4是本发明公开的基于Linux平台的大数据执行设备的结构示意图。下面参照图4来描述根据本发明的这种实施方式的电子设备600。图4显示的电子设备600仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,电子设备600以通用计算设备的形式表现。电子设备600的组件可以包括但不限于:至少一个处理单元610、至少一个存储单元620、连接不同平台组件(包括存储单元620和处理单元610)的总线630、显示单元640等。
其中,存储单元存储有程序代码,程序代码可以被处理单元610执行,使得处理单元610执行本说明书上述基于Linux平台的大数据执行方法部分中描述的根据本发明各种示例性实施方式的步骤。例如,处理单元610可以执行如图1中所示的步骤。
存储单元620可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202,还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204,这样的程序模块6205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备600交互的设备通信,和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且,电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备600使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储平台等。
本发明还公开了一种计算机可读存储介质,用于存储程序,所述程序被执行时实现上述基于Linux平台的大数据执行方法中的步骤。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述基于Linux平台的大数据执行方法中描述的根据本发明各种示例性实施方式的步骤。
如上所示,该实施例的计算机可读存储介质的程序在执行时,通过对数据库配置文件单独建立,不必再每次输入配置字段,这样访问数据库时更加便捷;然后对业务逻辑抽象封装,开发人员只需建立业务逻辑执行函数,即可实现对数据库的执行,减少代码开发的冗余,提高开发效率。
图5是本发明的计算机可读存储介质的结构示意图。参考图5所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品800,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
本发明实施例提供的基于Linux平台的大数据执行方法、系统、设备及存储介质通过对数据库配置文件单独建立,不必再每次输入配置字段,这样访问数据库时更加便捷;另外基于Linux平台的shell脚本实现,提高数据访问速度。并且对业务逻辑抽象封装,开发人员只需建立业务逻辑执行函数,即可实现对数据库的执行,减少代码开发的冗余,提高开发效率。另一方面,通过确定一路径输出日志文件,保存执行出错对应的错误关键字信息,然后可以根据该错误关键字信息在目标业务逻辑代码中快速确定出错位置,有利于快速排错,提高开发效率。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
Claims (11)
1.一种基于Linux平台的大数据执行方法,其特征在于,包括以下步骤:
建立多个数据库配置文件,形成配置文件库;
建立业务逻辑封装模型;
建立业务逻辑执行函数,所述业务逻辑执行函数具有一参数组,所述参数组至少包括配置文件参数和业务逻辑字符串参数;
获取所述配置文件参数位置上对应的目标配置文件名,以及所述业务逻辑字符串参数位置上对应的目标业务逻辑代码;
依据所述目标配置文件名,从所述配置文件库中获得目标配置文件;
依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果;
所述业务逻辑封装模型中包含第一读取路径和第二读取路径;
所述依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果,包括:
基于所述配置文件参数位置匹配所述第一读取路径或者第二读取路径,确定第一目标路径;
基于所述业务逻辑字符串参数位置匹配所述第一读取路径或者第二读取路径,确定第二目标路径;
将所述目标配置文件作为所述业务逻辑封装模型中所述第一目标路径对应的输入,将所述目标业务逻辑代码作为所述业务逻辑封装模型中所述第二目标路径对应的输入,获得数据执行结果。
2.如权利要求1所述的基于Linux平台的大数据执行方法,其特征在于,所述依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果,包括:
对所述目标业务逻辑代码中的操作方式进行解析,获得数据表执行请求;所述操作方式包括左连接、右连接以及内连接;
根据数据表执行请求,获取对应的数据表表名和执行字段;
根据所述数据表表名和执行字段,获取与所述执行字段匹配的数据执行结果。
3.如权利要求2所述的基于Linux平台的大数据执行方法,其特征在于,所述依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果,还包括:
根据数据表执行请求,获取对应的数据过滤条件;
根据所述数据表表名、数据过滤条件和执行字段,获取与所述执行字段以及数据过滤条件匹配的数据执行结果。
4.如权利要求1所述的基于Linux平台的大数据执行方法,其特征在于,所述业务逻辑封装模型中还包含第一输出路径;
所述依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果,包括:
基于所述第一输出路径生成所述业务逻辑封装模型执行过程对应的日志文件。
5.如权利要求4所述的基于Linux平台的大数据执行方法,其特征在于,所述方法还包括步骤:
在所述业务逻辑封装模型执行中断时,获取所述日志文件中的与预设字段相匹配的错误关键字信息;
将所述业务逻辑执行函数中包含有所述错误关键字信息的代码片段按照第一预设样式进行显示。
6.如权利要求2所述的基于Linux平台的大数据执行方法,其特征在于,所述根据所述数据表表名和执行字段,获取与所述执行字段匹配的数据执行结果,包括:
将对所述执行字段查询得到的查询结果,按照所述目标业务逻辑代码中的预设字段顺序进行拼接;
拼接后插入所述目标业务逻辑代码中的目标数据表,生成数据执行结果。
7.如权利要求1所述的基于Linux平台的大数据执行方法,其特征在于,所述建立多个数据库配置文件包括:
对链接的服务器IP地址或者服务器集群IP地址进行配置;
对数据库的用户名以及密码进行配置。
8.如权利要求1所述的基于Linux平台的大数据执行方法,其特征在于,所述业务逻辑封装模型基于shell脚本生成,所述数据库配置文件为基于ClickHouse数据库的配置文件。
9.一种基于Linux平台的大数据执行系统,用于实现如权利要求1所述的基于Linux平台的大数据执行方法,其特征在于,所述系统包括:
配置文件库生成模块,用于建立多个数据库配置文件,形成配置文件库;
封装模型建立模块,用于建立业务逻辑封装模型;
执行函数建立模块,用于建立业务逻辑执行函数,所述业务逻辑执行函数具有一参数组,所述参数组至少包括配置文件参数和业务逻辑字符串参数;
参数匹配模块,用于获取所述配置文件参数位置上对应的目标配置文件名,以及所述业务逻辑字符串参数位置上对应的目标业务逻辑代码;
目标文件获取模块,用于依据所述目标配置文件名,从所述配置文件库中获得目标配置文件;
执行模块,用于依据所述目标配置文件以及所述目标业务逻辑代码,执行所述业务逻辑封装模型,获得数据执行结果。
10.一种基于Linux平台的大数据执行设备,其特征在于,包括:
处理器;
存储器,其中存储有所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1至8中任意一项所述基于Linux平台的大数据执行方法的步骤。
11.一种计算机可读存储介质,用于存储程序,其特征在于,所述程序被处理器执行时实现权利要求1至8中任意一项所述基于Linux平台的大数据执行方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010911284.5A CN112035443B (zh) | 2020-09-02 | 2020-09-02 | 基于Linux平台的大数据执行方法、系统、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010911284.5A CN112035443B (zh) | 2020-09-02 | 2020-09-02 | 基于Linux平台的大数据执行方法、系统、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112035443A CN112035443A (zh) | 2020-12-04 |
CN112035443B true CN112035443B (zh) | 2023-07-07 |
Family
ID=73591271
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010911284.5A Active CN112035443B (zh) | 2020-09-02 | 2020-09-02 | 基于Linux平台的大数据执行方法、系统、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112035443B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113760242A (zh) * | 2021-03-09 | 2021-12-07 | 北京京东振世信息技术有限公司 | 一种数据处理方法、装置、服务器和介质 |
CN113032398B (zh) * | 2021-03-26 | 2022-12-13 | 苏宁易购集团股份有限公司 | 多类型业务的业务处理方法、计算机设备和存储介质 |
CN114090541A (zh) * | 2021-10-15 | 2022-02-25 | 阿里云计算有限公司 | 数据库业务处理方法和装置 |
CN116107549B (zh) * | 2023-04-13 | 2023-06-23 | 成都新希望金融信息有限公司 | 逻辑编排和变更业务逻辑处理方法、系统及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102142007A (zh) * | 2010-11-23 | 2011-08-03 | 北京中创信测科技股份有限公司 | 一种通用统计方法和装置 |
CN106021071A (zh) * | 2016-05-04 | 2016-10-12 | 北京思特奇信息技术股份有限公司 | 一种监控sql运行过程的方法和系统 |
CN109033329A (zh) * | 2018-07-19 | 2018-12-18 | 郑州云海信息技术有限公司 | 一种数据快速导入数据库的方法、装置、设备及存储介质 |
CN109101415A (zh) * | 2018-06-25 | 2018-12-28 | 平安科技(深圳)有限公司 | 基于数据库比对的接口测试方法、系统、设备和存储介质 |
CN111324474A (zh) * | 2020-02-18 | 2020-06-23 | 上海携程商务有限公司 | Celery任务管理方法、系统、设备及存储介质 |
CN111506300A (zh) * | 2020-04-22 | 2020-08-07 | 上海极链网络科技有限公司 | 一种小程序生成方法、装置、设备及存储介质 |
-
2020
- 2020-09-02 CN CN202010911284.5A patent/CN112035443B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102142007A (zh) * | 2010-11-23 | 2011-08-03 | 北京中创信测科技股份有限公司 | 一种通用统计方法和装置 |
CN106021071A (zh) * | 2016-05-04 | 2016-10-12 | 北京思特奇信息技术股份有限公司 | 一种监控sql运行过程的方法和系统 |
CN109101415A (zh) * | 2018-06-25 | 2018-12-28 | 平安科技(深圳)有限公司 | 基于数据库比对的接口测试方法、系统、设备和存储介质 |
CN109033329A (zh) * | 2018-07-19 | 2018-12-18 | 郑州云海信息技术有限公司 | 一种数据快速导入数据库的方法、装置、设备及存储介质 |
CN111324474A (zh) * | 2020-02-18 | 2020-06-23 | 上海携程商务有限公司 | Celery任务管理方法、系统、设备及存储介质 |
CN111506300A (zh) * | 2020-04-22 | 2020-08-07 | 上海极链网络科技有限公司 | 一种小程序生成方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112035443A (zh) | 2020-12-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112035443B (zh) | 基于Linux平台的大数据执行方法、系统、设备及存储介质 | |
US20240045850A1 (en) | Systems and methods for database orientation transformation | |
US11481200B1 (en) | Checking source code validity at time of code update | |
US20120317561A1 (en) | Automatic recognition of web application | |
CN109564540B (zh) | 用于jit编译器的调试的系统、方法和设备 | |
CN110543297B (zh) | 用于生成源码的方法和装置 | |
CN111309760A (zh) | 数据检索方法、系统、设备及存储介质 | |
US9141344B2 (en) | Hover help support for application source code | |
CN113901083B (zh) | 基于多解析器的异构数据源操作资源解析定位方法和设备 | |
CN101866315A (zh) | 软件开发工具的测试方法及系统 | |
CN113051514A (zh) | 元素的定位方法、装置、电子设备及存储介质 | |
US9116714B2 (en) | Methods and systems for file processing | |
US11500619B1 (en) | Indexing and accessing source code snippets contained in documents | |
CN113094625B (zh) | 页面元素定位方法、装置、电子设备及存储介质 | |
CN114356964A (zh) | 数据血缘构建方法、装置、存储介质及电子设备 | |
CN116991381B (zh) | 一种应用交叉编译方法、装置、计算设备及存储介质 | |
CN113238739A (zh) | 一种插件开发和数据获取方法、装置、电子设备及介质 | |
CN113377342B (zh) | 一种项目构建方法、装置、电子设备及存储介质 | |
CN116107524B (zh) | 低代码应用日志处理方法、介质、装置和计算设备 | |
US10606569B2 (en) | Declarative configuration elements | |
CN112988163A (zh) | 编程语言智能适配方法、装置、电子设备和介质 | |
CN112230904A (zh) | 基于接口文档的代码生成方法、装置、存储介质及服务器 | |
US20230259444A1 (en) | Setting breakpoints for source code segments enclosed by macros | |
US11947966B2 (en) | Identifying computer instructions enclosed by macros and conflicting macros at build time | |
US20190317877A1 (en) | Application state monitoring |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |