CN111897572A - 一种数据处理方法、系统、计算机设备及可读存储介质 - Google Patents

一种数据处理方法、系统、计算机设备及可读存储介质 Download PDF

Info

Publication number
CN111897572A
CN111897572A CN202010782910.5A CN202010782910A CN111897572A CN 111897572 A CN111897572 A CN 111897572A CN 202010782910 A CN202010782910 A CN 202010782910A CN 111897572 A CN111897572 A CN 111897572A
Authority
CN
China
Prior art keywords
data
data processing
type
event
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010782910.5A
Other languages
English (en)
Inventor
葛见奎
邱城铨
姜晨立
孙畅
王鹏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Youzan Technology Co ltd
Original Assignee
Hangzhou Youzan Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Youzan Technology Co ltd filed Critical Hangzhou Youzan Technology Co ltd
Priority to CN202010782910.5A priority Critical patent/CN111897572A/zh
Publication of CN111897572A publication Critical patent/CN111897572A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/70Software maintenance or management
    • G06F8/71Version control; Configuration management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/30Creation or generation of source code
    • G06F8/38Creation or generation of source code for implementing user interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • Human Computer Interaction (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种数据处理方法、系统、计算机设备及可读存储介质,涉及数据处理技术领域,包括如下步骤:进行数据处理任务的任务配置;根据任务配置加载数据处理任务,并初始化数据入口、数据管道以及数据出口,完成对拦截器链的初始化;启动调度器,将数据组装成event提交线程池处理;加载拦截器链,将event代入拦截器链进行聚合加工;聚合加工后的数据流向数据出口对外输出。本发明所提供的方法解决可视化动态界面和流程配置,使得使用方能够快速接入系统,便捷地实现从业务方事件中的数据转化成自身业务需要的数据,并输出到指定应用,同时能够通过控制台对某些数据处理流程进行重载和关闭,使配置变更可以动态实时生效。

Description

一种数据处理方法、系统、计算机设备及可读存储介质
【技术领域】
本发明涉及数据处理技术领域,具体涉及一种数据处理方法、系统、计算机设备及可读存储介质。
【背景技术】
对于大型互联网公司,系统中涉及到的领域众多,电商场景下商户对于订单、商品、用户的搜索需求日益复杂,无论是根据用户的行为进行搜索还是根据用户的资产进行筛选,都会涉及到对用户属性、行为、资产等相关数据的同步。现有的处理方式大多是将收集的数据按照所要求的格式SOAP封装成XML格式的数据包并上传至服务器,收集客户端定时调用下载进程下载XML格式的数据包,下载完成后将新下载的数据包按照不同应用的需求进行分类队列管理,然后调用转档组件将相应队列中的数据包还原到对应的应用中。
但这类方式仍有不足:一方面,随着业务的发展,需要处理同步的数据越来越多,直接针对每个字段进行处理需要大量的开发工作量,无法通过界面和配置快速支持现有场景,同时当下游性能出现瓶颈,有调整处理速度的诉求时,也无法通过快速修改配置参数,实时的动态生效;另一方面,当不同的业务方数据处理方式接近时,因为业务领域不同,业务方需要不断重复写类似代码进行处理,且当同一个数据来源需要处理后将相同数据交给不同的业务方时也需要重复建设。
【发明内容】
为解决前述问题,本发明提供了一种数据处理方法,解决可视化动态界面和流程配置,使得使用方能够快速接入系统,便捷地实现从业务方事件中的数据转化成自身业务需要的数据,并输出到指定应用,同时能够通过控制台对某些数据处理流程进行重载和关闭,使配置变更可以动态实时生效。
为了达到上述目的,本发明采用如下技术方案:
一种数据处理方法,包括如下步骤:
进行数据处理任务的任务配置;
根据任务配置加载数据处理任务,所述数据处理任务根据所述任务配置加载并初始化数据入口、数据管道以及数据出口,所述数据入口用以对外部数据进行监听,将监听到的数据写入内部队列;所述数据管道内具有拦截器链,所述数据管道根据任务配置构建数据处理核心逻辑,完成对拦截器链的初始化;所述数据出口用以根据任务配置构建数据出口核心逻辑,并与任务配置中的数据接收方进行建联;
启动调度器,将数据入口写入内部队列的数据组装成event提交线程池处理;
加载拦截器链,将event代入拦截器链,由拦截器链中的每个拦截器对组装成event的数据进行聚合加工;
聚合加工后的数据流向数据出口,由数据出口根据任务配置对外输出。
可选的,数据处理任务的任务配置在后台管理系统中进行,数据处理任务的任务配置包括处理速度、最大重试次数、告警通知、调度周期以及数据处理核心逻辑的元数据。
可选的,写入内部队列的数据组装成event后形成event队列,调度器根据调度周期定时调度,每次从event队列中获取一个event,将event与初始化数据入口、数据管道和数据出口组成执行器,所述执行器实现多线程,并提交至线程池处理。
可选的,所述数据处理核心逻辑为:将event交至数据管道,当event在拦截器链中进行流转时,拦截器链中的每个拦截器均对组装成event的数据进行聚合加工处理。
可选的,对组装成event的数据进行聚合加工处理的具体步骤包括:
获取组装成event的数据;
过滤入参:配置datafield,包括参与查询的参数;
入参别名映射:配置paramMapping,组装成event的数据的字段转换为接口所需的别名;
入参类型转换:配置typeMapping,指定原始类型和映射类型;
驼峰转换:配置toCamel,其中,toCamel中的boolean类型表示是否转换为驼峰;
下划线转换:配置toUnderscore,其中,toUnderscore中的boolean类型表示是否转换为下划线;
额外附加字段:配置extraField,其中,extraField中的key为附加的字段,value为默认值;
获取接口入参类型配置,判断参数类型是否自定义,如果为自定义类型,则使用处理完的参数map构建list,如果为多参数或非自定义类型,则根据入参配置依次取值构建list;
调用接口,获取返回值配置,判断返回值是否为包装类型,如果是,获取包装类型中的真实数据,如果不是,返回值本身即为真实数据;
获取返回值类型,如果返回值类型为map,获取配置的取值方式,根据指定的关键词回写数据,如果返回值类型为其他类型,直接取值并根据指定的关键词回写数据;如果返回值类型为pojo,过滤需要的字段数据后回写数据;
重复上述步骤,直至遍历拦截器链中的所有拦截器。
可选的,对组装成event的数据进行聚合加工后,通过数据入口进入的消息进行ack应答,以确保数据的提供方正确响应处理结果。
可选的,对组装成event的数据进行聚合加工后,对处理异常的数据进行fail应答,将数据回填内部队列,等待重试,重试次数不超过最大重试次数。
可选的,最大重试次数仍然重试失败,则进行告警通知。
本发明具有如下有益效果:
发明了所提供的技术方案,通过一种基于元数据配置、组件编排的海量数据流式处理系统,快速解决电商场景大规模业务数据同步、处理操作。数据处理系统启动后加载所有数据处理任务的配置任务的元数据,按照不同数据处理需求拆分,各自启用独立链路进行,装载配置元数据,启动处理链路,任务之间互不干扰,不同任务处理链路单独限速流控。
发明了所提供的技术方案,可以解析元数据配置的系统内置核心组件,用来解析开发者定义的计算机描述性语言,通过系统核心组件可以加载使用开发者定义的计算机描述性语言构建的元数据配置,进行多种数据加工组件编排组装,通过核心控制组件进行编排控制,可以快速实现业务数据聚合加工处理,无需进行代码开发。
发明了所提供的技术方案,在任务管理中心对运行任务进行统一管控,支持加载、重置、关闭,保证对每个任务的实时管控。通过可视化配置,动态化快速实现海量数据处理功能,实现动态调整,同时对于异常场景和流式,计算速度都有机制保证数据处理任务执行完成。
此外,本发明还提供了一种数据处理系统,所述数据处理系统采用上述任意一项所述的数据处理方法处理数据。本发明所提供的数据处理系统的有益效果,其推理过程与前述数据处理方法的有益效果推理过程相类似,在此不再赘述。
此外,本发明还提供了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述任一项所述的方法。
同时,本发明还提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任一项所述的方法。
本发明的这些特点和优点将会在下面的具体实施方式以及附图中进行详细的揭露。本发明最佳的实施方式或手段将结合附图来详尽表现,但并非是对本发明技术方案的限制。另外,在每个下文和附图中出现的这些特征、要素和组件是具有多个,并且为了表示方便而标记了不同的符号或数字,但均表示相同或相似构造或功能的部件。
【附图说明】
下面结合附图对本发明作进一步说明:
图1为本发明实施例一的流程图;
图2为本发明实施例一中对组装成event的数据进行聚合加工处理的流程图。
【具体实施方式】
下面结合本发明实施例的附图对本发明实施例的技术方案进行解释和说明,但下述实施例仅为本发明的优选实施例,并非全部。基于实施方式中的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得其他实施例,都属于本发明的保护范围。
在本说明书中引用的“一个实施例”或“实例”或“例子”意指结合实施例本身描述的特定特征、结构或特性可被包括在本专利公开的至少一个实施例中。短语“在一个实施例中”在说明书中的各位置的出现不必都是指同一个实施例。
实施例一:
如图1所示,本实施例提供了一种数据处理方法,包括如下步骤:
进行数据处理任务的任务配置。数据处理任务的任务配置在后台管理系统中进行,数据处理任务的任务配置包括处理速度、最大重试次数、告警通知、调度周期以及数据处理核心逻辑的元数据。元数据可以理解为开发者定义的一套计算机描述性语言,用来替代传统直接编码的方式。解析元数据配置的系统内置核心组件,用以解析开发者定义的计算机描述性语言,通过系统核心组件可以加载使用开发者定义的计算机描述性语言构建的元数据配置,进行多种数据加工组件编排组装,通过核心控制组件进行编排控制,可以快速实现业务数据聚合加工处理,无需进行代码开发。
数据处理任务的任务配置在后台管理系统中进行可以当使用者在后台管理系统中修改相应配置时,不会影响正在执行的数据处理任务,不需要通过重置操作对数据处理任务的核心组件进行销毁并重新加载。
根据任务配置加载数据处理任务,数据处理任务根据任务配置加载并初始化数据入口、数据管道以及数据出口,每个数据处理任务依次被加载,每个数据处理任务的加载都基于该数据处理任务的元数据配置。数据入口、数据管道以及数据出口构成完整的数据处理链路。数据入口用以对外部数据进行监听,将监听到的数据写入内部队列;数据管道内具有拦截器链,数据管道根据任务配置构建数据处理核心逻辑,完成对拦截器链的初始化;数据出口用以根据任务配置构建数据出口核心逻辑,并与任务配置中的数据接收方进行建联;
启动调度器,将数据入口写入内部队列的数据组装成event,然后形成event队列,调度器根据调度周期定时调度,每次从event队列中获取一个event,将event与初始化数据入口、数据管道和数据出口组成执行器,执行器作为多线程的实现,提交线程池处理;
加载拦截器链,将event代入拦截器链,由拦截器链中的每个拦截器根据数据处理的核心逻辑对组装成event的数据进行聚合加工,数据处理核心逻辑为:将event交至数据管道,当event在拦截器链中进行流转时,拦截器链中的每个拦截器均对组装成event的数据进行聚合加工处理,最终会将此处理任务所需的数据完善后再交由Sink进行输出。如图2所示,对组装成event的数据进行聚合加工处理的具体步骤包括:
获取组装成event的数据;
过滤入参:配置datafield,包括参与查询的参数;
入参别名映射:配置paramMapping,组装成event的数据,即数据源的字段转换为接口所需的别名;
入参类型转换:配置typeMapping,指定原始类型和映射类型;
驼峰转换:配置toCamel,其中,toCamel中的boolean类型表示是否转换为驼峰;
下划线转换:配置toUnderscore,其中,toUnderscore中的boolean类型表示是否转换为下划线;
额外附加字段:配置extraField,其中,extraField中的key为附加的字段,value为默认值,服务于一些需要提供默认值的接口,但数据源中并未提供的字段。
获取接口入参类型配置,判断参数类型是否自定义,如果为自定义类型,说明是pojo类型的入参,直接将入参处理阶段的map构建为list作为泛化调用的入参即可,如果为多参数或非自定义类型,说明不是pojo类型的入参,需要将入参直接构建为list,不能用map来包装,则根据入参配置依次取值构建list;
调用接口,获取返回值配置,判断返回值是否为包装类型,在这一步骤中,isWrap是包装类型,多数据接口会包装返回结果,其中的data才是真实的数据。如果是,dataKey根据配置的key来获取包装类的真实数据,如果不是,返回值本身即为真实数据;
获取返回值类型,如果返回值类型为map,获取配置的取值方式,根据指定的关键词回写数据,如果返回值类型为其他类型,直接取值并根据指定的关键词回写数据,其中,指定的关键词为writeBackKey查询结果回写时指定的key。如果返回值类型为pojo,过滤需要的字段数据,根据返回值配置的datafield过滤结果集中对应字段的数据放入最终的event中,然后后回写数据;
重复上述步骤,直至遍历拦截器链中的所有拦截器。
聚合加工后的数据流向数据出口,由数据出口根据任务配置对外输出。同时,对组装成event的数据进行聚合加工后,通过数据入口进入的消息进行ack应答,以确保数据的提供方正确响应处理结果;对处理异常的数据进行fail应答,将数据回填内部队列,等待重试,重试次数不超过最大重试次数。最大重试次数仍然重试失败,则进行告警通知。
本实施例所提供的技术方案,通过一种基于元数据配置、组件编排的海量数据流式处理系统,快速解决电商场景大规模业务数据同步、处理操作。数据处理系统启动后加载所有数据处理任务的配置任务的元数据,按照不同数据处理需求拆分,各自启用独立链路进行,装载配置元数据,启动处理链路,任务之间互不干扰,不同任务处理链路单独限速流控。在任务管理中心对运行任务进行统一管控,支持加载、重置、关闭,保证对每个任务的实时管控。通过可视化配置,动态化快速实现海量数据处理功能,实现动态调整,同时对于异常场景和流式,计算速度都有机制保证数据处理任务执行完成。
实施例二
本实施例提供了一种数据处理系统,本实施例所提供的数据处理系统采用实施例一中任意一项所述的数据处理方法处理数据。
实施例三
本实施例提供了一种计算机设备,包括存储器和处理器,存储器中存储有计算机程序,该处理器执行计算机程序时实现如上的任意实施例中的方法。本领域普通技术人员可以理解,实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成。据此,的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可实现上述任意一项实施例的方法。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)以及存储器总线动态RAM(RDRAM)等。
以上,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,熟悉该本领域的技术人员应该明白本发明包括但不限于附图和上面具体实施方式中描述的内容。任何不偏离本发明的功能和结构原理的修改都将包括在权利要求书的范围中。

Claims (10)

1.一种数据处理方法,其特征在于,所述数据处理方法包括如下步骤:
进行数据处理任务的任务配置;
根据任务配置加载数据处理任务,所述数据处理任务根据所述任务配置加载并初始化数据入口、数据管道以及数据出口,所述数据入口用以对外部数据进行监听,将监听到的数据写入内部队列;所述数据管道内具有拦截器链,所述数据管道根据任务配置构建数据处理核心逻辑,完成对拦截器链的初始化;所述数据出口用以根据任务配置构建数据出口核心逻辑,并与任务配置中的数据接收方进行建联;
启动调度器,将数据入口写入内部队列的数据组装成event提交线程池处理;
加载拦截器链,将event代入拦截器链,由拦截器链中的每个拦截器对组装成event的数据进行聚合加工;
聚合加工后的数据流向数据出口,由数据出口根据任务配置对外输出。
2.根据权利要求1所述的数据处理方法,其特征在于,数据处理任务的任务配置在后台管理系统中进行,数据处理任务的任务配置包括处理速度、最大重试次数、告警通知、调度周期以及数据处理核心逻辑的元数据。
3.根据权利要求2所述的数据处理方法,其特征在于,写入内部队列的数据组装成event后形成event队列,调度器根据调度周期定时调度,每次从event队列中获取一个event,将event与初始化数据入口、数据管道和数据出口组成执行器,所述执行器实现多线程,并提交至线程池处理。
4.根据权利要求1所述的数据处理方法,其特征在于,所述数据处理核心逻辑为:将event交至数据管道,当event在拦截器链中进行流转时,拦截器链中的每个拦截器均对组装成event的数据进行聚合加工处理。
5.根据权利要求4所述的数据处理方法,其特征在于,对组装成event的数据进行聚合加工处理的具体步骤包括:
获取组装成event的数据;
过滤入参:配置datafield,包括参与查询的参数;
入参别名映射:配置paramMapping,组装成event的数据的字段转换为接口所需的别名;
入参类型转换:配置typeMapping,指定原始类型和映射类型;
驼峰转换:配置toCamel,其中,toCamel中的boolean类型表示是否转换为驼峰;
下划线转换:配置toUnderscore,其中,toUnderscore中的boolean类型表示是否转换为下划线;
额外附加字段:配置extraField,其中,extraField中的key为附加的字段,value为默认值;
获取接口入参类型配置,判断参数类型是否自定义,如果为自定义类型,则使用处理完的参数map构建list,如果为多参数或非自定义类型,则根据入参配置依次取值构建list;
调用接口,获取返回值配置,判断返回值是否为包装类型,如果是,获取包装类型中的真实数据,如果不是,返回值本身即为真实数据;
获取返回值类型,如果返回值类型为map,获取配置的取值方式,根据指定的关键词回写数据,如果返回值类型为其他类型,直接取值并根据指定的关键词回写数据;如果返回值类型为pojo,过滤需要的字段数据后回写数据;
重复上述步骤,直至遍历拦截器链中的所有拦截器。
6.根据权利要求2所述的数据处理方法,其特征在于,对组装成event的数据进行聚合加工后,通过数据入口进入的消息进行ack应答,以确保数据的提供方正确响应处理结果;对组装成event的数据进行聚合加工后,对处理异常的数据进行fail应答,将数据回填内部队列,等待重试,重试次数不超过最大重试次数。
7.根据权利要求6所述的数据处理方法,其特征在于,最大重试次数仍然重试失败,则进行告警通知。
8.一种数据处理系统,其特征在于,所述数据处理系统采用权利要求1至6中任意一项所述的数据处理方法处理数据。
9.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至8中任一项所述的方法。
CN202010782910.5A 2020-08-06 2020-08-06 一种数据处理方法、系统、计算机设备及可读存储介质 Pending CN111897572A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010782910.5A CN111897572A (zh) 2020-08-06 2020-08-06 一种数据处理方法、系统、计算机设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010782910.5A CN111897572A (zh) 2020-08-06 2020-08-06 一种数据处理方法、系统、计算机设备及可读存储介质

Publications (1)

Publication Number Publication Date
CN111897572A true CN111897572A (zh) 2020-11-06

Family

ID=73246566

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010782910.5A Pending CN111897572A (zh) 2020-08-06 2020-08-06 一种数据处理方法、系统、计算机设备及可读存储介质

Country Status (1)

Country Link
CN (1) CN111897572A (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040060055A1 (en) * 2000-01-28 2004-03-25 Kukura Robert A. Method and system for dynamic configuration of interceptors in a client-server environment
US20060206903A1 (en) * 2005-03-10 2006-09-14 Microsoft Corporation System data interfaces, related architectures, print system data interfaces and related print system architectures
US20090138893A1 (en) * 2007-11-23 2009-05-28 Ketera Technologies Inc. Interceptor Framework Using Java Dynamic Proxies
US20100329269A1 (en) * 2009-06-24 2010-12-30 Oracle International Corporation System and method for processing communications using service interceptors
US20130074101A1 (en) * 2011-09-15 2013-03-21 Oracle International Corporation System and method for supporting a server-side event model in a distributed data grid
CN107506183A (zh) * 2017-08-03 2017-12-22 武汉斗鱼网络科技有限公司 一种数据拦截处理方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040060055A1 (en) * 2000-01-28 2004-03-25 Kukura Robert A. Method and system for dynamic configuration of interceptors in a client-server environment
US20060206903A1 (en) * 2005-03-10 2006-09-14 Microsoft Corporation System data interfaces, related architectures, print system data interfaces and related print system architectures
US20090138893A1 (en) * 2007-11-23 2009-05-28 Ketera Technologies Inc. Interceptor Framework Using Java Dynamic Proxies
US20100329269A1 (en) * 2009-06-24 2010-12-30 Oracle International Corporation System and method for processing communications using service interceptors
US20130074101A1 (en) * 2011-09-15 2013-03-21 Oracle International Corporation System and method for supporting a server-side event model in a distributed data grid
CN107506183A (zh) * 2017-08-03 2017-12-22 武汉斗鱼网络科技有限公司 一种数据拦截处理方法及装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
张家福;张新荣;焦红爱;: "WebWork2中的Interceptor机制研究", 计算机工程与设计, no. 03, 16 February 2007 (2007-02-16) *
胡海青;凌咏红;: "拦截器在Java EE安全领域中的应用与研究", 福建电脑, no. 11, 1 November 2007 (2007-11-01) *
闫波, 战守义: "基于拦截器实现EJB容器方法调用", 北京理工大学学报, no. 02, 28 February 2004 (2004-02-28) *

Similar Documents

Publication Publication Date Title
US10901791B2 (en) Providing configurable workflow capabilities
US9904585B1 (en) Error handling in executing workflow state machines
US9766927B1 (en) Data flow management in processing workflows
CN108319656A (zh) 实现灰度发布的方法、装置及计算节点和系统
WO2020197624A1 (en) Method for predicting the successfulness of the execution of a devops release pipeline
CN107590188A (zh) 一种自动化垂直细分领域的爬虫爬取方法及其管理系统
CN110249312B (zh) 用于将数据集成作业从源框架转换到目标框架的方法和系统
CN110162344B (zh) 一种隔离限流的方法、装置、计算机设备及可读存储介质
US10203937B1 (en) Grand unified processor
CN110347494B (zh) 上下文信息管理方法、装置、系统及计算机可读存储介质
CN110908641A (zh) 基于可视化的流计算平台、方法、设备和存储介质
CN110781180B (zh) 一种数据筛选方法和数据筛选装置
CN111580793A (zh) 执行服务的方法、装置、计算机设备和存储介质
US10303558B2 (en) Checkpointing higher order query operators
CN111897572A (zh) 一种数据处理方法、系统、计算机设备及可读存储介质
CN114650310B (zh) 基于物联网的设备控制方法、装置、电子设备及存储介质
CN112367205B (zh) 一种对http调度请求的处理方法及调度系统
US9235382B2 (en) Input filters and filter-driven input processing
CN114911523A (zh) 海量数据处理方法、装置、设备及介质
US20230281040A1 (en) Pipeline-based machine learning method and apparatus, electronic device, and computer readable storage medium
Baxter Mastering Akka
Yahia A language-based approach for web service composition
Luu et al. Spark Streaming
US20190259059A1 (en) System and method for predicting analytics
Permana Building Web Mashups of Data Wrangling Operations for Traffic Data

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination