CN108614862A - 基于流计算引擎的实时标签处理方法和装置 - Google Patents

基于流计算引擎的实时标签处理方法和装置 Download PDF

Info

Publication number
CN108614862A
CN108614862A CN201810265932.7A CN201810265932A CN108614862A CN 108614862 A CN108614862 A CN 108614862A CN 201810265932 A CN201810265932 A CN 201810265932A CN 108614862 A CN108614862 A CN 108614862A
Authority
CN
China
Prior art keywords
tag processes
data
tag
data source
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810265932.7A
Other languages
English (en)
Inventor
陈阳
刘婧
朱天
饶毓
张帅
雷君
徐小琳
王振宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Computer Network and Information Security Management Center
Original Assignee
National Computer Network and Information Security Management Center
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Computer Network and Information Security Management Center filed Critical National Computer Network and Information Security Management Center
Priority to CN201810265932.7A priority Critical patent/CN108614862A/zh
Publication of CN108614862A publication Critical patent/CN108614862A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/30Creation or generation of source code
    • G06F8/31Programming languages or programming paradigms

Abstract

本发明涉及一种基于流计算引擎的实时标签处理方法和装置,所述方法包括:步骤1、根据标签处理任务的需求设定标签处理任务类型;步骤2、根据所设定的标签处理任务类型,配置数据源信息、标签处理信息和数据输出信息;步骤3、根据所配置的数据源信息、标签处理信息和数据输出信息,生成标签处理任务配置元数据;步骤4、根据所述标签处理任务配置元数据,创建并执行所述标签处理任务。本发明通过简单配置自动化构建数据标签处理的任务流程。在标签处理任务中,根据元数据定义及标签处理规则定义进行标签处理,实现对多源数据进行标签处理,使数据标签处理过程规范化,提高了大数据实时标签处理方法的通用性和效率。

Description

基于流计算引擎的实时标签处理方法和装置
技术领域
本发明涉及大数据处理技术领域,尤其涉及一种基于流计算引擎的实时标签处理方法和装置。
背景技术
随着互联网应用的快速发展,数据分析在业务决策中重要性日渐提升。数据分析业务通常需要对所要分析数据进行标签提取、过滤等预处理操作。但是,数据标签处理过程中数据来源众多、标签规则多样且网络环境复杂。传统的数据标签处理方法需要过多的人工干预,标签处理过程自动化程度低,处理方法复杂,数据分析工作的效率低,且无法适用于多种数据来源的标签处理,因此,通用性差、准确度低。
由此可知,如何实现对多源数据灵活进行标签提取,使数据标签处理过程规范化,提高数据标签处理方案的通用性成为亟待解决的技术问题。
发明内容
本发明所要解决的技术问题在于,提供一种基于流计算引擎的实时标签处理方法和装置,提高了大数据实时标签处理方法的通用性和效率。
根据本发明一方面,提供了一种基于流计算引擎的实时标签处理方法,包括:
步骤1、根据标签处理任务的需求设定标签处理任务类型;
步骤2、根据所设定的标签处理任务类型,配置数据源信息、标签处理信息和数据输出信息;
步骤3、根据所配置的数据源信息、标签处理信息和数据输出信息,生成标签处理任务配置元数据;
步骤4、根据所述标签处理任务配置元数据,创建并执行所述标签处理任务。
进一步的,所述步骤1中,所述标签处理类型包括键-值对提取、正则匹配和字段映射。
进一步的,所述步骤2中,配置数据源信息包括以下步骤:
步骤2.1.1、编辑数据源信息,并发送数据源添加请求;
步骤2.1.2、根据所述数据源添加请求判断对应的数据源信息是否为新添加的数据源信息,若是,则执行步骤2.3,否则执行步骤2.4;
步骤2.1.3、添加所述数据源信息;
步骤2.1.4、判断所述数据源信息是否需要更新,若需要,更新对应的数据源信息,否则,结束数据源信息添加流程。
进一步的,所述数据源信息包括:数据源存储类型、数据源位置或路径以及数据源访问账户信息和数据源描述信息中的一种或多种;
其中,所述数据源存储类型包括本地文件、分布式数据仓库H IVE、消息队列、网络文件传输FTP;
所述数据源描述信息包括数据源名称、数据字段名称、数据字段类型、数据文件分隔符,所述数据源名称包括文件名、数据表名、消息类型或队列名称。
进一步的,所述标签处理信息包括待处理数据源字段、结果标签字段名称、结果标签字段类型和标签处理规则列表中的一种或多种,其中,所述标签处理规则列表对应一个以上标签处理操作,所述标签处理规则列表通过对应每个标签处理操作,进行标签处理规则注册所得。
进一步的,所述标签处理规则注册述包括以下步骤:
步骤2.2.1、编辑标签处理规则描述数据,并发送标签处理规则注册请求;
所述标签处理规则描述数据包括标签处理输入参数、标签处理输出参数和规则程序信息;
步骤2.2.2、根据所述标签处理规则注册请求判断对应的标签处理规则是否为新注册的标签处理规则,若是,则执行步骤2.2.3,否则执行步骤2.2.4;
步骤2.2.3、注册所述所述标签处理规则;
步骤2.2.5、判断所述所述标签处理规则是否需要更新,若需要更新,则更新对应的标签处理规则,否则,结束标签处理规则注册流程。
进一步的,所述数据输出信息包括结果数据存储类型、结果数据存储位置或路径、结果数据名称和结果数据存储系统的访问账户信息中的一种或多种;
其中,所述结果数据存储类型包括本地文件、分布式数据仓库HIVE、消息队列、FTP;
所述结果数据名称包括文件名、数据表名、消息队列消息类型或队列名称。
进一步的,所述步骤3包括:组合所配置的数据源信息、标签处理信息和数据输出信息,生成标签处理任务配置元数据。
进一步的,所述步骤4包括:
步骤4.1、读取所述标签处理任务配置元数据;
步骤4.2、解析所读取的标签处理任务配置元数据;
步骤4.3、根据所解析的标签处理任务配置元数据,创建所述标签处理任务;
步骤4.4、执行所创建的标签处理任务。
根据本发明另一方面,提供一种基于流计算引擎的实时标签处理装置,包括元数据管理模块、数据标签处理模块和计算平台模块,其中,
所述元数据管理模块用于管理数据源信息、标签处理信息和数据输出信息;
所述数据标签处理模块用于根据标签处理任务的需求,从所述元数据管理模块获取对应的数据源信息、标签处理信息和数据输出信息,并进行配置,从而创建所述标签处理任务,并提交至所述计算平台模块;
所述计算平台模块用于执行所述标签处理任务。
根据本发明又一方面,提供一种控制器,其包括存储器与处理器,所述存储器存储有计算机程序,所述程序在被所述处理器执行时能够实现所述方法的步骤。
根据本发明又一方面,提供一种计算机可读存储介质,用于存储计算机指令,所述指令在由一计算机或处理器执行时实现所述方法的步骤。
本发明与现有技术相比具有明显的优点和有益效果。借由上述技术方案,本发明一种基于流计算引擎的实时标签处理方法和装置可达到相当的技术进步性及实用性,并具有产业上的广泛利用价值,其至少具有下列优点:
本发明通过简单配置自动化构建数据标签处理的任务流程。在标签处理任务中,根据元数据定义及标签处理规则定义进行标签处理,实现对多源数据进行标签处理,使数据标签处理过程规范化,提高了大数据实时标签处理方法的通用性和效率。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其他目的、特征和优点能够更明显易懂,以下特举较佳实施例,并配合附图,详细说明如下。
附图说明
图1为本发明一实施例提供基于流计算引擎的实时标签处理方法流程图;
图2为本发明一实施例提供的基于流计算引擎的实时标签处理方法的配置数据源信息流程图;
图3为本发明一实施例提供的基于流计算引擎的实时标签处理方法的局标签处理规则注册流程图;
图4为本发明一实施例提供的基于流计算引擎的实时标签处理装置示意图。
符号说明:
1:元数据管理模块 2:数据标签处理模块
3:计算平台模块
具体实施方式
为更进一步阐述本发明为达成预定发明目的所采取的技术手段及功效,以下结合附图及较佳实施例,对依据本发明提出的一种基于流计算引擎的实时标签处理方法的具体实施方式及其功效,详细说明如后。
本发明实施例提供了一种基于流计算引擎的实时标签处理方法,如图1所示,包括以下步骤:
步骤S1、根据标签处理任务的需求设定标签处理任务类型;
根据标签处理任务的需求的不同,标签处理任务类型可分为键-值对提取(K-V提取)、正则匹配和字段映射等。
步骤S2、根据所设定的标签处理任务类型,配置数据源信息、标签处理信息和数据输出信息;
作为示例,数据源信息信息即数据输入信息,数据源信息包括:数据源存储类型、数据源位置或路径以及数据源访问账户信息和数据源描述信息中的一种或多种;其中,数据源存储类型包括本地文件、分布式数据仓库HIVE、消息队列、网络文件传输FTP;数据源描述信息包括数据源名称、数据字段名称、数据字段类型、数据文件分隔符等信息,所述数据源名称包括文件名、数据表名、消息类型或队列名称等。
如图2所示,所述步骤S2中,配置数据源信息包括以下步骤:
步骤S2.1.1、编辑数据源信息,并发送数据源添加请求;
作为示例,可采用JSON(JavaScript Object Notation,JS对象标记,一种轻量级的数据交换格式)或XML(Extensible Markup Language,可扩展标记语言)等格式来编辑数据源信息,可通过设置HTTP(超文本传输协议)或Socket(网络套接字)接口来发送数据源添加请求。
以JSON格式为例,数据源信息示例如下:
其中各键值对含义如下:
data_type:数据源类型,如,Hive、Kafka消息队列、HDFS、FTP、本地文件等;
name:数据源名称,例如Hive数据源类型中指表名,Kafka数据源类型中指消息类型名,文件类数据指文件名等;
location:数据源位置或路径,例如,Hive数据源类型是指所在数据中心和数据库名称,Kafka数据源类型中指bootstrap_server地址,文件类数据是指文件所在路径;
fields:包含源数据字段名称和类型,其中,name标识字段名,type标识字段类型,字段类型支持简单类型或简单类型的组合。
步骤S2.1.2、根据所述数据源添加请求判断对应的数据源信息是否为新添加的数据源信息,若是,则执行步骤2.3,否则执行步骤2.4;
步骤S2.1.3、添加所述数据源信息;
步骤S2.1.4、判断所述数据源信息是否需要更新,若需要,更新对应的数据源信息,否则,结束数据源信息添加流程。
所述标签处理信息包括待处理数据源字段、结果标签字段名称、结果标签字段类型和标签处理规则列表中的一种或多种,其中,所述标签处理规则列表对应一个以上标签处理操作,所述标签处理规则列表通过对应每个标签处理操作,进行标签处理规则注册所得。
如图3所示,标签处理规则注册述包括以下步骤:
步骤S2.2.1、编辑标签处理规则描述数据,并发送标签处理规则注册请求;
其中,所述标签处理规则描述数据包括标签处理输入参数、标签处理输出参数、规则的名称、版本、描述说明和规则程序信息等。
作为示例,可采用JSON或XML等格式来编辑标签处理规则描述数据,可通过设置Restful或Socket接口来发送标签处理规则注册请求。
以JSON格式为例,标签处理规则描述数据如下:
其中各键值对含义如下:
name:标识标签处理规则名称;
alias:标签处理规则别名;
version:标签处理规则的版本信息,用以跟踪标签处理方法注册、更新、删除操作;
type:描述标签处理规则所用计算框架;
provider:标签处理规则开发者标识;
descriptor:标签处理规则的功能信息描述;
tags:标签处理规则标签定义;
runclass:标签处理规则对应的处理程序信息,如完整的类名称。
步骤S2.2.2、根据所述标签处理规则注册请求判断对应的标签处理规则是否为新注册的标签处理规则,若是,则执行步骤2.2.3,否则执行步骤2.2.4;
步骤S2.2.3、注册所述标签处理规则;
步骤S2.2.5、判断所述标签处理规则是否需要更新,若需要更新,则更新对应的标签处理规则,否则,结束标签处理规则注册流程。
数据输出信息包括结果数据存储类型、结果数据存储位置或路径、结果数据名称和结果数据存储系统的访问账户信息中的一种或多种;
其中,所述结果数据存储类型包括本地文件、HIVE、消息队列、FTP;
所述结果数据名称包括文件名、数据表名、消息类型或队列名称。
步骤S3、根据所配置的数据源信息、标签处理信息和数据输出信息,生成标签处理任务配置元数据;
作为一种示例,所述步骤S3包括:组合所配置的数据源信息、标签处理信息和数据输出信息,生成标签处理任务配置元数据。
步骤S4、根据所述标签处理任务配置元数据,创建并执行所述标签处理任务。
作为一种示例,步骤S4包括:
步骤S4.1、读取所述标签处理任务配置元数据;
步骤S4.2、解析所读取的标签处理任务配置元数据;
步骤S4.3、根据所解析的标签处理任务配置元数据,创建所述标签处理任务;
步骤S4.4、执行所创建的标签处理任务。
基于上述方法,本发明实施例还提供一种基于流计算引擎的实时标签处理装置,如图4所示,所述装置包括元数据管理模块1、数据标签处理模块2和计算平台模块3,其中,元数据管理模块1用于管理数据源信息、标签处理信息和数据输出信息;数据标签处理模块2用于根据标签处理任务的需求,从元数据管理模块1获取对应的数据源信息、标签处理信息和数据输出信息,并进行配置,从而创建所述标签处理任务,并提交至所述计算平台模块3;计算平台模块3用于执行所述标签处理任务。
作为示例,所述装置通过接收用户指定数据输入输出、标签处理规则等基本配置信息,自动创建实时标签处理任务。具体地,元数据管理模块1进行标签处理任务中所涉及的数据(输入输出)描述、处理任务描述说明、标签处理规则描述等元数据(meta-data)信息的管理,及根据标签任务处理需求配置创建标签处理任务描述数据。数据标签处理模块2从元数据管理模块1接收标签处理任务配置元数据,并根据配置元数据中所包含的数据描述、任务描述及处理规则描述创建标签处理任务,提交至计算平台模块3。计算平台模块3提供流式计算引擎、标签规则程序管理及处理任务管理功能,运行标签处理任务程序的和进行状态管理。
作为示例,元数据管理模块1管理一个标签处理任务所依赖的各项配置信息,具体实现提供数据输入输出、标签处理规则等处理任务配置元数据的预注册和管理功能。根据数据标签处理需求,选择已在所述数据管理模块1中注册的常用配置所对应的元数据,或者新添加上述各项元数据。所述装置标签处理任务对应的元数据组合生成处理任务描述数据,并创建对应的标签处理任务。其中,一个标签处理任务定义多个结果标签字段,并且一个标签字段可使用若干个标签处理规则,形成一个规则列表,列表中标签规则按顺序依次执行。
作为示例,所述装置的据输入输出描述信息,可采用JSON或XML格式描述数据输入输出存储类型、数据路径、字段名称、字段类型等;标签规则描述信息可使用JSON或XML格式,描述标签规则的名称、别名、业务类型、版本、说明信息、规则处理程序等。所述装置可通过元数据管理模块1提供Restful或Socket接口,实现对各项元数据的注册、更新、删除、访问获取等管理操作。此外,通过元数据管理模块将1与用户指定的数据配置、标签处理规则配置及任务描述说明配置等元数据组合生成一个完整的标签处理任务描述数据(可使用JSON或XML格式表示),包含输入输出数据结构、存储类型、存储路径或位置、结果标签字段定义及引用的标签处理规则等配置信息。在所述装置内部,标签处理任务描述数据进一步将被应用于标签处理程序的创建。
本发明实施例还提供一种控制器,其包括存储器与处理器,所述存储器存储有计算机程序,所述程序在被所述处理器执行时能够实现所述方法的步骤。
本发明实施例还提供一种计算机可读存储介质,用于存储计算机指令,所述指令在由一计算机或处理器执行时实现所述方法的步骤。
本发明通过简单配置自动化构建数据标签处理的任务流程。在标签处理任务中,根据元数据定义及标签处理规则定义进行标签处理,实现对多源数据进行标签处理,使数据标签处理过程规范化,提高了大数据实时标签处理方法的通用性和效率。
以上所述,仅是本发明的较佳实施例而已,并非对本发明作任何形式上的限制,虽然本发明已以较佳实施例揭露如上,然而并非用以限定本发明,任何熟悉本专业的技术人员,在不脱离本发明技术方案范围内,当可利用上述揭示的技术内容作出些许更动或修饰为等同变化的等效实施例,但凡是未脱离本发明技术方案的内容,依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与修饰,均仍属于本发明技术方案的范围内。

Claims (10)

1.一种基于流计算引擎的实时标签处理方法,其特征在于:所述方法包括:
步骤1、根据标签处理任务的需求设定标签处理任务类型;
步骤2、根据所设定的标签处理任务类型,配置数据源信息、标签处理信息和数据输出信息;
步骤3、根据所配置的数据源信息、标签处理信息和数据输出信息,生成标签处理任务配置元数据;
步骤4、根据所述标签处理任务配置元数据,创建并执行所述标签处理任务。
2.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述步骤1中,所述标签处理类型包括键-值对提取、正则匹配和字段映射。
3.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述步骤2中,配置数据源信息包括以下步骤:
步骤2.1.1、编辑数据源信息,并发送数据源添加请求;
步骤2.1.2、根据所述数据源添加请求判断对应的数据源信息是否为新添加的数据源信息,若是,则执行步骤2.3,否则执行步骤2.4;
步骤2.1.3、添加所述数据源信息;
步骤2.1.4、判断所述数据源信息是否需要更新,若需要,更新对应的数据源信息,否则,结束数据源信息添加流程。
4.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述数据源信息包括:数据源存储类型、数据源位置或路径以及数据源访问账户信息和数据源描述信息中的一种或多种;
其中,所述数据源存储类型包括本地文件、分布式数据仓库H IVE、消息队列、网络文件传输FTP;
所述数据源描述信息包括数据源名称、数据字段名称、数据字段类型、数据文件分隔符,所述数据源名称包括文件名、数据表名、消息类型或队列名称。
5.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述标签处理信息包括待处理数据源字段、结果标签字段名称、结果标签字段类型和标签处理规则列表中的一种或多种,其中,所述标签处理规则列表对应一个以上标签处理操作,所述标签处理规则列表通过对应每个标签处理操作,进行标签处理规则注册所得。
6.根据权利要求5所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述标签处理规则注册述包括以下步骤:
步骤2.2.1、编辑标签处理规则描述数据,并发送标签处理规则注册请求;
所述标签处理规则描述数据包括标签处理输入参数、标签处理输出参数和规则程序信息;
步骤2.2.2、根据所述标签处理规则注册请求判断对应的标签处理规则是否为新注册的标签处理规则,若是,则执行步骤2.2.3,否则执行步骤2.2.4;
步骤2.2.3、注册所述所述标签处理规则;
步骤2.2.5、判断所述所述标签处理规则是否需要更新,若需要更新,则更新对应的标签处理规则,否则,结束标签处理规则注册流程。
7.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述数据输出信息包括结果数据存储类型、结果数据存储位置或路径、结果数据名称和结果数据存储系统的访问账户信息中的一种或多种;
其中,所述结果数据存储类型包括本地文件、分布式数据仓库H IVE、消息队列、网络文件传输FTP;
所述结果数据名称包括文件名、数据表名、消息类型或队列名称。
8.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述步骤3包括:组合所配置的数据源信息、标签处理信息和数据输出信息,生成标签处理任务配置元数据。
9.根据权利要求1所述的基于流计算引擎的实时标签处理方法,其特征在于:
所述步骤4包括:
步骤4.1、读取所述标签处理任务配置元数据;
步骤4.2、解析所读取的标签处理任务配置元数据;
步骤4.3、根据所解析的标签处理任务配置元数据,创建所述标签处理任务;
步骤4.4、执行所创建的标签处理任务。
10.一种基于流计算引擎的实时标签处理装置,其特征在于,所述装置包括元数据管理模块、数据标签处理模块和计算平台模块,其中,
所述元数据管理模块用于管理数据源信息、标签处理信息和数据输出信息;
所述数据标签处理模块用于根据标签处理任务的需求,从所述元数据管理模块获取对应的数据源信息、标签处理信息和数据输出信息,并进行配置,从而创建所述标签处理任务,并提交至所述计算平台模块;
所述计算平台模块用于执行所述标签处理任务。
CN201810265932.7A 2018-03-28 2018-03-28 基于流计算引擎的实时标签处理方法和装置 Pending CN108614862A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810265932.7A CN108614862A (zh) 2018-03-28 2018-03-28 基于流计算引擎的实时标签处理方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810265932.7A CN108614862A (zh) 2018-03-28 2018-03-28 基于流计算引擎的实时标签处理方法和装置

Publications (1)

Publication Number Publication Date
CN108614862A true CN108614862A (zh) 2018-10-02

Family

ID=63659206

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810265932.7A Pending CN108614862A (zh) 2018-03-28 2018-03-28 基于流计算引擎的实时标签处理方法和装置

Country Status (1)

Country Link
CN (1) CN108614862A (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109684566A (zh) * 2018-11-08 2019-04-26 百度在线网络技术(北京)有限公司 标签引擎实现方法、装置、计算机设备及存储介质
CN109710231A (zh) * 2018-12-21 2019-05-03 成都四方伟业软件股份有限公司 一种可视化脚本编辑方法与装置
CN110083342A (zh) * 2019-04-26 2019-08-02 重庆紫光华山智安科技有限公司 一种程序生成方法、装置以及计算机可读存储介质
CN110532487A (zh) * 2019-09-11 2019-12-03 北京百度网讯科技有限公司 标签的生成方法及装置
CN111414619A (zh) * 2020-03-17 2020-07-14 深信服科技股份有限公司 一种数据安全检测方法、装置、设备及可读存储介质
CN111431926A (zh) * 2020-04-02 2020-07-17 深信服科技股份有限公司 一种数据关联分析的方法、系统、设备及可读存储介质
CN111984380A (zh) * 2020-08-21 2020-11-24 北京金山云网络技术有限公司 流计算服务系统及其控制方法和装置
CN112491991A (zh) * 2020-11-17 2021-03-12 上海企翔智能科技有限公司 工业大数据处理方法、装置和计算机设备
CN114979263A (zh) * 2022-03-28 2022-08-30 慧之安信息技术股份有限公司 基于Gin框架的高并发网关SIP代理方法和装置
CN116955427A (zh) * 2023-09-18 2023-10-27 北京长亭科技有限公司 一种基于Flink框架的实时多规则动态表达式数据处理方法以及装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1549162A (zh) * 2003-05-21 2004-11-24 联想(北京)有限公司 可扩展的安全信息处理方法及系统
US20050131970A1 (en) * 2003-12-15 2005-06-16 International Business Machines Corporation Customizable data translation method and system
CN101751382A (zh) * 2008-11-28 2010-06-23 方正国际软件(北京)有限公司 一种基于标签的数据采集方法与系统
CN104778189A (zh) * 2014-02-24 2015-07-15 贵州电网公司信息通信分公司 一种基于xml标签语言的日志管理方法和系统
CN106156307A (zh) * 2016-06-30 2016-11-23 北京奇虎科技有限公司 一种实时计算平台的数据处理系统和方法
CN107797826A (zh) * 2017-05-19 2018-03-13 平安科技(深圳)有限公司 一种基于规则引擎的规则配置方法、终端以及设备

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1549162A (zh) * 2003-05-21 2004-11-24 联想(北京)有限公司 可扩展的安全信息处理方法及系统
US20050131970A1 (en) * 2003-12-15 2005-06-16 International Business Machines Corporation Customizable data translation method and system
CN101751382A (zh) * 2008-11-28 2010-06-23 方正国际软件(北京)有限公司 一种基于标签的数据采集方法与系统
CN104778189A (zh) * 2014-02-24 2015-07-15 贵州电网公司信息通信分公司 一种基于xml标签语言的日志管理方法和系统
CN106156307A (zh) * 2016-06-30 2016-11-23 北京奇虎科技有限公司 一种实时计算平台的数据处理系统和方法
CN107797826A (zh) * 2017-05-19 2018-03-13 平安科技(深圳)有限公司 一种基于规则引擎的规则配置方法、终端以及设备

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109684566A (zh) * 2018-11-08 2019-04-26 百度在线网络技术(北京)有限公司 标签引擎实现方法、装置、计算机设备及存储介质
CN109710231A (zh) * 2018-12-21 2019-05-03 成都四方伟业软件股份有限公司 一种可视化脚本编辑方法与装置
CN110083342B (zh) * 2019-04-26 2023-04-18 重庆紫光华山智安科技有限公司 一种程序生成方法、装置以及计算机可读存储介质
CN110083342A (zh) * 2019-04-26 2019-08-02 重庆紫光华山智安科技有限公司 一种程序生成方法、装置以及计算机可读存储介质
CN110532487A (zh) * 2019-09-11 2019-12-03 北京百度网讯科技有限公司 标签的生成方法及装置
CN110532487B (zh) * 2019-09-11 2022-07-29 北京百度网讯科技有限公司 标签的生成方法及装置
CN111414619A (zh) * 2020-03-17 2020-07-14 深信服科技股份有限公司 一种数据安全检测方法、装置、设备及可读存储介质
CN111414619B (zh) * 2020-03-17 2023-11-07 深信服科技股份有限公司 一种数据安全检测方法、装置、设备及可读存储介质
CN111431926A (zh) * 2020-04-02 2020-07-17 深信服科技股份有限公司 一种数据关联分析的方法、系统、设备及可读存储介质
CN111984380A (zh) * 2020-08-21 2020-11-24 北京金山云网络技术有限公司 流计算服务系统及其控制方法和装置
CN112491991A (zh) * 2020-11-17 2021-03-12 上海企翔智能科技有限公司 工业大数据处理方法、装置和计算机设备
CN114979263A (zh) * 2022-03-28 2022-08-30 慧之安信息技术股份有限公司 基于Gin框架的高并发网关SIP代理方法和装置
CN114979263B (zh) * 2022-03-28 2023-09-15 慧之安信息技术股份有限公司 基于Gin框架的高并发网关SIP代理方法和装置
CN116955427A (zh) * 2023-09-18 2023-10-27 北京长亭科技有限公司 一种基于Flink框架的实时多规则动态表达式数据处理方法以及装置
CN116955427B (zh) * 2023-09-18 2023-12-15 北京长亭科技有限公司 一种基于Flink框架的实时多规则动态表达式数据处理方法以及装置

Similar Documents

Publication Publication Date Title
CN108614862A (zh) 基于流计算引擎的实时标签处理方法和装置
US11907244B2 (en) Modifying field definitions to include post-processing instructions
RU2371759C2 (ru) Программируемая объектная модель для поддержки библиотеки пространств имен или схем в программном приложении
CN103049271B (zh) 自动生成api接口的描述文档的方法和装置
CN100430939C (zh) 用于表的客户端操作的方法和系统
US20130166563A1 (en) Integration of Text Analysis and Search Functionality
US20110178981A1 (en) Collecting community feedback for collaborative document development
US20100211580A1 (en) Semantics-based data transformation over a wire in mashups
US20080189206A1 (en) System Offering a Data-Skin Based on Standard Schema and the Method
US7792857B1 (en) Migration of content when accessed using federated search
US20160350323A1 (en) Metadata representation and storage
US9305032B2 (en) Framework for generating programs to process beacons
CN110851136A (zh) 数据获取方法、装置、电子设备及存储介质
CN111258564B (zh) 一种基于qt自动生成代码的方法及装置
EP2874071A1 (en) Method of implementing structured and non-structured data in xml document
US20120310893A1 (en) Systems and methods for manipulating and archiving web content
US20180173776A1 (en) Mapping 1:Many Relationships for Elements in a Database System
CN106209936B (zh) 第三方系统数据获取方法和装置
Ma et al. A simple scheme for bibliography acquisition using DOI content negotiation proxy
JPWO2007046446A1 (ja) データ管理装置及び端末装置
CN113553826A (zh) 结合rpa和ai的信息录入方法、装置及电子设备
CN111178025A (zh) 核电站运行导则的编辑方法、装置、计算机设备及存储介质
JP3660390B2 (ja) 用語辞書管理装置
Coleman Data flow sequences: A revision of data flow diagrams for modelling applications using XML.
Sidler et al. Design of a Web-Service for Formal Descriptions of Domain-Specific Data

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20181002

WD01 Invention patent application deemed withdrawn after publication