CN106445626A - 数据分析方法及装置 - Google Patents
数据分析方法及装置 Download PDFInfo
- Publication number
- CN106445626A CN106445626A CN201610877104.XA CN201610877104A CN106445626A CN 106445626 A CN106445626 A CN 106445626A CN 201610877104 A CN201610877104 A CN 201610877104A CN 106445626 A CN106445626 A CN 106445626A
- Authority
- CN
- China
- Prior art keywords
- data
- code snippet
- preset rules
- carried out
- rule
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F8/00—Arrangements for software engineering
- G06F8/40—Transformation of program code
- G06F8/41—Compilation
Abstract
本发明公开了一种数据分析方法及装置,涉及信息技术领域,可以实现对数据进行规则匹配,可以提高数据规则匹配的效率。所述方法包括:将待匹配数据进行对象化处理;通过预先加载的代码片段,对处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;根据匹配结果,确定是否执行与所述预设规则对应的预定操作。本发明适用于数据规则匹配分析。
Description
技术领域
本发明涉及一种信息技术领域,特别是涉及一种数据分析方法及装置。
背景技术
随着科学技术的不断发展,数据分析技术的应用越来越广泛。数据分析技术开始在互联网、零售、医疗、物联网等多个行业里成为商业变革的主导力量。数据分析技术是根据需要对网上海量的文本、图像和视频数据进行采集、分析、加工和利用的一项技术。
目前,在数据分析过程中,有需要对数据进行规则匹配的需求。例如,当数据进行病毒查杀时,需要对该数据进行病毒规则匹配,以便根据匹配结果进行查杀操作。
发明内容
有鉴于此,本发明提供了一种数据分析方法及装置,主要目的在于可以实现对数据进行规则匹配,可以提高数据规则匹配的效率。
依据本发明一个方面,提供了一种数据分析方法,该方法包括:
将待匹配数据进行对象化处理;
通过预先加载的代码片段,对处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;
根据匹配结果,确定是否执行与所述预设规则对应的预定操作。
依据本发明另一个方面,提供了一种数据分析装置,该装置包括:
处理单元,用于将待匹配数据进行对象化处理;
匹配单元,用于通过预先加载的代码片段,对所述处理单元处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;
确定单元,用于根据所述匹配单元的匹配结果,确定是否执行与所述预设规则对应的预定操作。
借由上述技术方案,本发明实施例提供的技术方案至少具有下列优点:
本发明提供的一种数据分析方法及装置,首先将待匹配数据进行对象化处理;然后通过预先加载的代码片段,对处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;最后根据匹配结果,确定是否执行与所述预设规则对应的预定操作。本发明通过预先加载的代码片段,将对象化处理后的数据进行规则匹配,可以实现对数据进行规则匹配,并且加载后的代码片段中保存有不同预设规则,进而可以实现将不同的预设规则预编译到内存中进行数据的规则匹配,当需要对大量数据进行规则匹配时,可以提高数据规则匹配的效率。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了本发明实施例提供的一种数据分析方法流程示意图;
图2示出了本发明实施例提供的另一种数据分析方法流程示意图;
图3示出了本发明实施例提供的一种数据分析装置结构示意图;
图4示出了本发明实施例提供的另一种数据分析装置结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
本发明实施例提供了一种数据分析方法,如图1所示,所述方法包括:
101、将待匹配数据进行对象化处理。
其中,所述待匹配数据可以为json数据、XML(Extensible Markup Language,可扩展标记语言)数据等。
例如,将待匹配的json数据进行对象化处理,得到Python(计算机程序设计语言)对象,以便通过Python语言编写的代码片段,对其进行规则匹配。
102、通过预先加载的代码片段,对处理后的数据进行规则匹配。
其中,所述代码片段中包含不同的预设规则,所述预设规则可以根据实际需求进行配置。所述处理后的数据为与所述代码片段的编写语言对应的对象数据。例如,该代码片段可以由技术人员事先利用Python语言进行编写配置,而对象化处理后的数据可以为Python对象数据。
例如,预设规则的结构可以采取三段式:规则名,匹配条件、匹配结果,中间用特定符号分隔,一行一条规则;预设规则采取至上而下的原则,越靠前的规则越先匹配,整个匹配过程中只要命中一条规则就表明匹配成功并立即返回匹配结果。其中,匹配条件可以支持任意待匹配数据,直接取对象化处理后的待匹配数据做条件运算、逻辑运算等,如果结果为真,返回匹配结果,如果结果为假,继续下一条规则匹配。匹配条件、匹配结果均可支持正则匹配、自定义函数,以及Python语言本身的一些特性。
对于本发明实施例,通过预先加载的代码片段进行规则匹配,加载后的代码片段中保存有不同预设规则,可以实现将不同的预设规则预编译到内存中进行数据的规则匹配,当需要对大量数据进行规则匹配时,可以提高数据规则匹配的效率。
103、根据匹配结果,确定是否执行与预设规则对应的预定操作。
其中,所述预定操作可以根据实际需求进行配置,例如,预定操作可以为返回字符串、获取json数据、修改原始json数据等操作。
例如,预设规则为scan_by_powershell||data.cmdline.find("powershell.exe")>-1and data.cmdline.find("192.168.133.1")>-1||"OK",其中,该预设规则的规则名为scan_by_powershell,匹配条件为data.cmdline.find("powershell.exe")>-1and data.cmdline.find("192.168.133.1")>-1,匹配成功后执行的预定操作是返回“OK”。当对象处理化后的待匹配数据与该预设规则匹配时,如cmdline里找到了"powershell.exe"字符串,则返回“OK”,作为执行与该预设规则对应的预定操作。
本发明实施例提供的一种数据分析方法,首先将待匹配数据进行对象化处理;然后通过预先加载的代码片段,对处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;最后根据匹配结果,确定是否执行与所述预设规则对应的预定操作。本发明通过预先加载的代码片段,将对象化处理后的数据进行规则匹配,可以实现对数据进行规则匹配,并且加载后的代码片段中保存有不同预设规则,进而可以实现将不同的预设规则预编译到内存中进行数据的规则匹配,当需要对大量数据进行规则匹配时,可以提高数据规则匹配的效率。
具体地,本发明实施例提供了另一种数据分析方法,如图2所示,所述方法包括:
201、按照待匹配数据对应的存储时间的先后顺序,从预设缓存队列中获取待匹配数据。
其中,所述预设缓存队列中保存有不同的待匹配处理的数据。所述存储时间可以为待匹配数据存入预设缓存队列时的时间。对于本发明实施例,当需要处理大量的待匹配数据时,可以将这些数据存储在预先设置的缓存队列中等待处理,还可以应用在分布式系统中,例如,可以将不同机器需要处理的待匹配数据存储在预设缓存队列中等待处理。
在本发明实施例中,可以按照待匹配数据存入预设缓存队列的时间的先后顺序,从预设缓存队列中获取待匹配数据。
需要说明的是,对于本发明实施例,预设缓存队列可以存储待匹配数据,也可以存储对象化处理后的待匹配数据,具体可以根据实际需求进行配置,本发明实施例不做限定。
202、将获取到的待匹配数据进行对象化处理。
例如,将从预设缓存队列中获取的json数据进行对象化处理,得到Python对象,以便通过Python语言编写的代码片段,对其进行规则匹配。
203、通过预先加载的代码片段,对处理后的数据进行规则匹配。
其中,所述代码片段中包含不同的预设规则。所述代码片段中保存的预设规则按照处理优先级的先后顺序排列。所述处理优先级可以根据实际需求进行选择设定,所述预设规则中包含规则标识信息、匹配条件信息及匹配结果信息,所述匹配结果信息中包含规则匹配成功时执行的预定操作信息。所述规则标识信息可以为规则名称、ID(Identity,身份标识号码)。
在本发明实施例中,所述处理后的数据可以为与所述代码片段的编写语言对应的对象数据,以便通过所述代码片段,对待匹配数据进行规则匹配。具体地,所述处理后的数据可以为Python对象数据,所述代码片段可以为利用Python语言编写的代码片段。需要说明的是,利用Python语言编写代码片段,其包含的预设规则更加灵活多样,应用更加广泛,例如,对于一组关于分数的待匹配数据,根据实际需要可以取分数中的最大值进行规则匹配,也可以取分数中的最小值进行规则匹配,还可以取分数中的平均值进行规则匹配。
对于本发明实施例,通过预先加载的代码片段进行规则匹配,加载后的代码片段中保存有不同预设规则,可以实现将不同的预设规则预编译到内存中进行数据的规则匹配,当需要对大量数据进行规则匹配时,可以提高数据规则匹配的效率。
具体地,所述步骤203具体可以包括:按照所述排列的先后顺序,对处理后的数据依次进行规则匹配。
例如,代码片段中保存有五条预设规则,分别为规则A、规则B、规则C、规则D、规则E,其中这五条规则按照处理优先级的先后顺序排列,该排列顺序具体为规则A—>规则D—>规则C—>规则E—>规则B,当需要对Python对象数据进行规则匹配时,按照上述排列顺序,对该Python对象数据依次进行规则匹配。
需要说明的是,对于本发明实施例,通过按照所述排列的先后顺序,对处理后的数据依次进行规则匹配,可以实现处理优先级越高的规则越先进行匹配,可以满足业务的需求。
在本发明实施例中,为了防止在规则中被注入恶意代码,保证数据的安全性,在步骤203之前,所述方法还可以包括:对所述代码片段进行安全处理;步骤203具体可以包括:通过安全处理后的代码片段,对处理后的数据进行规则匹配。
具体地,对所述代码片段进行安全处理的步骤具体可以包括:对所述代码片段中的危险函数进行屏蔽处理;和/或对所述代码片段中的特定函数进行注释处理。其中,危险函数可以为eval函数、exec函数、execfile函数等。特定函数可以为input函数、import函数等。
例如,可以检测预先加载的代码片段中是否存在与预置危险函数库中的危险函数匹配的函数,若存在,则将该代码片段中的危险函数进行屏蔽处理,同时还可以检测预先加载的代码片段中是否存在与预置特定函数库中的特定函数匹配的函数,若存在,则将加载的更新后的代码片段中的特定函数进行注释处理,进而可以防止在规则中被注入恶意代码,保证数据的安全性。
进一步地,所述方法还可以包括:按照预置时间间隔获取所述代码片段的更新信息,其中,所述预置时间间隔可以根据实际需求进行配置,例如,预置时间间隔可以配置为1小时、1天等;根据所述更新信息进行所述代码片段的更新。
例如,预置时间间隔可以为配置为30分钟,即每隔30分钟获取代码片段的更新信息,根据该更新信息进行代码片段的更新。
所述步骤203具体可以包括:通过预先加载的更新后的代码片段,对处理后的数据进行规则匹配。需要说明的是,通过预先加载的更新后的代码片段,对处理后的数据进行规则匹配,可以更好的进行数据的规则匹配,可以提高规则匹配的准确率以及成功率,可以满足用户最新的需求。
204、根据匹配结果,确定是否执行与预设规则对应的预定操作。
其中,所述预定操作可以根据实际需求进行配置,例如,预定操作可以为获取json数据、修改原始json数据、通过自定义函数设置json数据、返回预定字符串等操作。
具体地,所述步骤204具体可以包括:根据所述预定操作信息和匹配结果,确定是否执行与匹配成功的预设规则对应的预定操作。
当存在一个预设规则与所述处理后的数据匹配成功时,则确定执行与所述匹配成功的预设规则对应的预定操作。
例如,预先加载的代码片段中存在四条规则,分别为规则A、规则B、规则C、规则D,具体如下所示:
规则A:scan_by_powershell||data.cmdline.find("powershell.exe")>-1anddata.cmdline.find("192.168.133.1")>-1||"OK"
规则B:scan_by_process_md5||data.process_md5=="92f44e405db16ac55d97e3bfe3b132fa"||data.process_md5
规则C:scan_by_imagepath||re.match(r"searchfilterhost\.exe",data.imagepath,re.I)||data.imagepath
规则D:scan_by_tags||len(data.tags)==1||data.set_value("rule_name","rule_ok")
待匹配数据为json数据,具体如下所示:
当预设规则按A、B、C、D顺序出现时,以上json数据命中规则A,即cmdline里找到了"powershell.exe"字符串,则返回“OK”,作为执行与该规则A对应的预定操作。
当预设规则按B、A、C、D顺序出现时,以上json数据命中规则B,即process_md5为"92f44e405db16ac55d97e3bfe3b132fa",则将"92f44e405db16ac55d97e3bfe3b132fa"作为返回结果,进而作为执行与该规则B对应的预定操作。
当预设规则按C、A、B、D顺序出现时,以上json数据命中规则C,即通过正则匹配到imagepath带有"searchfilterhost.exe"字符串,则将"C:\\Windows\\Sysnative\\SearchFilterHost.exe"作为返回结果,进而作为执行与该规则C对应的预定操作。
当预设规则按D、A、B、C顺序出现时,以上json数据命中规则D,即tags的长度大小为1,则将匹配结果通过自定义函数设置该json数据,并将value值"rule_ok"作为返回结果,进而作为执行与该规则D对应的预定操作。
进一步地,所述方法还可以包括:从预定文本信息或预定脚本程序或预定在线编辑器中获取所述代码片段并进行加载。其中,所述预定文本信息、预定脚本程序、预定在线编辑器可以根据用户的实际需求进行选择配置。需要说明的是,通过从预定文本信息或预定脚本程序或预定在线编辑器中获取所述代码片段并进行加载,可以实现多种方式获取得到代码片段并进行加载,可以根据用户的实际需要,满足用户的不同需求。
例如,技术人员可以预先将包含预设规则的代码片段编辑在预定文本中,通过该文本进行加载代码片段;还可以预先将代码片段编辑在预定脚本程序中,通过内存加载该预定脚本程序,得到该代码片段;还可以预先利用网站提供的在线编辑器编辑包含预设规则的代码片段,通过网上加载该代码片段。
本发明实施例提供的另一种数据分析方法,首先将待匹配数据进行对象化处理;然后通过预先加载的代码片段,对处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;最后根据匹配结果,确定是否执行与所述预设规则对应的预定操作。本发明通过预先加载的代码片段,将对象化处理后的数据进行规则匹配,可以实现对数据进行规则匹配,并且加载后的代码片段中保存有不同预设规则,进而可以实现将不同的预设规则预编译到内存中进行数据的规则匹配,当需要对大量数据进行规则匹配时,可以提高数据规则匹配的效率。
进一步地,作为图1所述方法的具体实现,本发明实施例提供了一种数据处理装置,如图3所示,所述装置包括:处理单元31、匹配单元32、确定单元33。
所述处理单元31,可以用于将待匹配数据进行对象化处理。
所述匹配单元32,可以用于通过预先加载的代码片段,对所述处理单元31处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据。
所述确定单元33,可以用于根据所述匹配单元32的匹配结果,确定是否执行与所述预设规则对应的预定操作。
需要说明的是,本发明实施例提供的一种数据分析装置所涉及各功能单元的其他相应描述,可以参考图1中的对应描述,在此不再赘述。
本发明实施例提供的一种数据分析装置,首先将待匹配数据进行对象化处理;然后通过预先加载的代码片段,对处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;最后根据匹配结果,确定是否执行与所述预设规则对应的预定操作。本发明通过预先加载的代码片段,将对象化处理后的数据进行规则匹配,可以实现对数据进行规则匹配,并且加载后的代码片段中保存有不同预设规则,进而可以实现将不同的预设规则预编译到内存中进行数据的规则匹配,当需要对大量数据进行规则匹配时,可以提高数据规则匹配的效率。
进一步地,作为图2所述方法的具体实现,本发明实施例提供了另一种数据处理装置,如图4所示,所述装置包括:处理单元41、匹配单元42、确定单元43。
所述处理单元41,可以用于将待匹配数据进行对象化处理。
所述匹配单元42,可以用于通过预先加载的代码片段,对所述处理单元41处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据。
所述确定单元43,可以用于根据所述匹配单元42的匹配结果,确定是否执行与所述预设规则对应的预定操作。
可选地,所述代码片段中保存的预设规则按照处理优先级的先后顺序排列。
所述匹配单元42,具体可以用于按照所述排列的先后顺序,对处理后的数据依次进行规则匹配。
所述确定单元43,具体可以用于当存在一个预设规则与所述处理后的数据匹配成功时,则确定执行与所述匹配成功的预设规则对应的预定操作。
可选地,所述预设规则中包含规则标识信息、匹配条件信息及匹配结果信息,所述匹配结果信息中包含规则匹配成功时执行的预定操作信息。
所述确定单元43,具体可以用于根据所述预定操作信息和匹配结果,确定是否执行与匹配成功的预设规则对应的预定操作。
所述处理单元41,还可以用于对所述代码片段进行安全处理。
所述匹配单元42,具体可以用于通过安全处理后的代码片段,对处理后的数据进行规则匹配。
所述处理单元41,具体可以用于对所述代码片段中的危险函数进行屏蔽处理;和/或对所述代码片段中的预定函数进行注释处理。
进一步地,所述装置还包括:获取单元44。
所述获取单元44,可以用于按照待匹配数据对应的存储时间的先后顺序,从预设缓存队列中获取待匹配数据,所述预设缓存队列中保存有不同的待匹配处理的数据。
所述处理单元41,具体可以用于将所述获取单元44获取到的待匹配数据进行对象化处理。
进一步地,所述装置还包括:加载单元45。
所述获取单元44,还可以用于从预定文本信息或预定脚本程序或预定在线编辑器中获取所述代码片段。
所述加载单元45,可以用于将所述获取单元44获取到的代码片段进行加载。
进一步地,所述装置还包括:更新单元46。
所述获取单元44,还可以用于按照预置时间间隔获取所述代码片段的更新信息。
所述更新单元46,可以用于根据所述获取单元44获取到的更新信息进行所述代码片段的更新。
所述匹配单元42,具体可以用于通过预先加载的更新后的代码片段,对处理后的数据进行规则匹配。
可选地,所述处理后的数据可以为Python对象数据,所述代码片段可以为利用Python语言编写的代码片段。
需要说明的是,本发明实施例提供的另一种数据分析装置所涉及各功能单元的其他相应描述,可以参考图2中的对应描述,在此不再赘述。
本发明实施例提供的另一种数据分析装置,首先将待匹配数据进行对象化处理;然后通过预先加载的代码片段,对处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;最后根据匹配结果,确定是否执行与所述预设规则对应的预定操作。本发明通过预先加载的代码片段,将对象化处理后的数据进行规则匹配,可以实现对数据进行规则匹配,并且加载后的代码片段中保存有不同预设规则,进而可以实现将不同的预设规则预编译到内存中进行数据的规则匹配,当需要对大量数据进行规则匹配时,可以提高数据规则匹配的效率。
本发明实施例公开了:
A1、一种数据分析方法,包括:
将待匹配数据进行对象化处理;
通过预先加载的代码片段,对处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;
根据匹配结果,确定是否执行与所述预设规则对应的预定操作。
A 2、如A 1所述的数据分析方法,所述代码片段中保存的预设规则按照处理优先级的先后顺序排列,所述通过预先加载的代码片段,对处理后的数据进行规则匹配包括:
按照所述排列的先后顺序,对处理后的数据依次进行规则匹配;
所述根据匹配结果,确定是否执行与所述预设规则对应的预定操作包括:
当存在一个预设规则与所述处理后的数据匹配成功时,则确定执行与所述匹配成功的预设规则对应的预定操作。
A 3、如A1所述的数据分析方法,所述预设规则中包含规则标识信息、匹配条件信息及匹配结果信息,所述匹配结果信息中包含规则匹配成功时执行的预定操作信息,所述根据匹配结果,确定是否执行与所述预设规则对应的预定操作包括:
根据所述预定操作信息和匹配结果,确定是否执行与匹配成功的预设规则对应的预定操作。
A 4、如A1所述的数据分析方法,所述通过预先加载的代码片段,对处理后的数据进行规则匹配之前,所述方法还包括:
对所述代码片段进行安全处理;
所述通过预先加载的代码片段,对处理后的数据进行规则匹配包括:
通过安全处理后的代码片段,对处理后的数据进行规则匹配。
A 5、如A4所述的数据分析方法,所述对所述代码片段进行安全处理包括:
对所述代码片段中的危险函数进行屏蔽处理;和/或
对所述代码片段中的特定函数进行注释处理。
A 6、如A1所述的数据分析方法,所述将待匹配数据进行对象化处理之前,所述方法还包括:
按照待匹配数据对应的存储时间的先后顺序,从预设缓存队列中获取待匹配数据,所述预设缓存队列中保存有不同的待匹配处理的数据;
所述将待匹配数据进行对象化处理包括:
将获取到的待匹配数据进行对象化处理。
A 7、如A 1所述的数据分析方法,所述方法还包括:
从预定文本信息或预定脚本程序或预定在线编辑器中获取所述代码片段并进行加载。
A 8、如A 1所述的数据分析方法,所述方法还包括:
按照预置时间间隔获取所述代码片段的更新信息;
根据所述更新信息进行所述代码片段的更新;
所述通过预先加载的代码片段,对处理后的数据进行规则匹配包括:
通过预先加载的更新后的代码片段,对处理后的数据进行规则匹配。
A9、如A 1至A 8任一项所述的数据分析方法,所述处理后的数据为Python对象数据,所述代码片段为利用Python语言编写的代码片段。
B10、一种数据分析装置,包括:
处理单元,用于将待匹配数据进行对象化处理;
匹配单元,用于通过预先加载的代码片段,对所述处理单元处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;
确定单元,用于根据所述匹配单元的匹配结果,确定是否执行与所述预设规则对应的预定操作。
B 11、如B 10所述的数据分析装置,所述代码片段中保存的预设规则按照处理优先级的先后顺序排列,
所述匹配单元,具体用于按照所述排列的先后顺序,对处理后的数据依次进行规则匹配;
所述确定单元,具体用于当存在一个预设规则与所述处理后的数据匹配成功时,则确定执行与所述匹配成功的预设规则对应的预定操作。
B 12、如B 10所述的数据分析装置,所述预设规则中包含规则标识信息、匹配条件信息及匹配结果信息,所述匹配结果信息中包含规则匹配成功时执行的预定操作信息,
所述确定单元,具体用于根据所述预定操作信息和匹配结果,确定是否执行与匹配成功的预设规则对应的预定操作。
B 13、如B 10所述的数据分析装置,
所述处理单元,还用于对所述代码片段进行安全处理;
所述匹配单元,具体用于通过安全处理后的代码片段,对处理后的数据进行规则匹配。
B 14、如B 13所述的数据分析装置,
所述处理单元,具体用于对所述代码片段中的危险函数进行屏蔽处理;和/或
对所述代码片段中的预定函数进行注释处理。
B 15、如B 10所述的数据分析装置,所述装置还包括:获取单元;
所述获取单元,用于按照待匹配数据对应的存储时间的先后顺序,从预设缓存队列中获取待匹配数据,所述预设缓存队列中保存有不同的待匹配处理的数据;
所述处理单元,具体用于将所述获取单元获取到的待匹配数据进行对象化处理。
B 16、如B 10所述的数据分析装置,所述装置还包括:
获取单元,用于从预定文本信息或预定脚本程序或预定在线编辑器中获取所述代码片段;
加载单元,用于将所述获取单元获取到的代码片段进行加载。
B 17、如B 10所述的数据分析装置,所述装置还包括:获取单元和更新单元;
所述获取单元,用于按照预置时间间隔获取所述代码片段的更新信息;
所述更新单元,用于根据所述获取单元获取到的更新信息进行所述代码片段的更新;
所述匹配单元,具体用于通过预先加载的更新后的代码片段,对处理后的数据进行规则匹配。
B 18、如B 10至B 17任一项所述的数据分析装置,所述处理后的数据为Python对象数据,所述代码片段为利用Python语言编写的代码片段。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
可以理解的是,上述方法及装置中的相关特征可以相互参考。另外,上述实施例中的“第一”、“第二”等是用于区分各实施例,而并不代表各实施例的优劣。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一种数据分析方法及装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
Claims (10)
1.一种数据分析方法,其特征在于,包括:
将待匹配数据进行对象化处理;
通过预先加载的代码片段,对处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;
根据匹配结果,确定是否执行与所述预设规则对应的预定操作。
2.根据权利要求1所述的数据分析方法,其特征在于,所述代码片段中保存的预设规则按照处理优先级的先后顺序排列,所述通过预先加载的代码片段,对处理后的数据进行规则匹配包括:
按照所述排列的先后顺序,对处理后的数据依次进行规则匹配;
所述根据匹配结果,确定是否执行与所述预设规则对应的预定操作包括:
当存在一个预设规则与所述处理后的数据匹配成功时,则确定执行与所述匹配成功的预设规则对应的预定操作。
3.根据权利要求1所述的数据分析方法,其特征在于,所述预设规则中包含规则标识信息、匹配条件信息及匹配结果信息,所述匹配结果信息中包含规则匹配成功时执行的预定操作信息,所述根据匹配结果,确定是否执行与所述预设规则对应的预定操作包括:
根据所述预定操作信息和匹配结果,确定是否执行与匹配成功的预设规则对应的预定操作。
4.根据权利要求1所述的数据分析方法,其特征在于,所述通过预先加载的代码片段,对处理后的数据进行规则匹配之前,所述方法还包括:
对所述代码片段进行安全处理;
所述通过预先加载的代码片段,对处理后的数据进行规则匹配包括:
通过安全处理后的代码片段,对处理后的数据进行规则匹配。
5.根据权利要求4所述的数据分析方法,其特征在于,所述对所述代码片段进行安全处理包括:
对所述代码片段中的危险函数进行屏蔽处理;和/或
对所述代码片段中的特定函数进行注释处理。
6.根据权利要求1所述的数据分析方法,其特征在于,所述将待匹配数据进行对象化处理之前,所述方法还包括:
按照待匹配数据对应的存储时间的先后顺序,从预设缓存队列中获取待匹配数据,所述预设缓存队列中保存有不同的待匹配处理的数据;
所述将待匹配数据进行对象化处理包括:
将获取到的待匹配数据进行对象化处理。
7.根据权利要求1所述的数据分析方法,其特征在于,所述方法还包括:
从预定文本信息或预定脚本程序或预定在线编辑器中获取所述代码片段并进行加载。
8.根据权利要求1所述的数据分析方法,其特征在于,所述方法还包括:
按照预置时间间隔获取所述代码片段的更新信息;
根据所述更新信息进行所述代码片段的更新;
所述通过预先加载的代码片段,对处理后的数据进行规则匹配包括:
通过预先加载的更新后的代码片段,对处理后的数据进行规则匹配。
9.根据权利要求1至8任一项所述的数据分析方法,其特征在于,所述处理后的数据为Python对象数据,所述代码片段为利用Python语言编写的代码片段。
10.一种数据分析装置,其特征在于,包括:
处理单元,用于将待匹配数据进行对象化处理;
匹配单元,用于通过预先加载的代码片段,对所述处理单元处理后的数据进行规则匹配,所述代码片段中包含不同的预设规则,所述处理后的数据为与所述代码片段的编写语言对应的对象数据;
确定单元,用于根据所述匹配单元的匹配结果,确定是否执行与所述预设规则对应的预定操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610877104.XA CN106445626B (zh) | 2016-09-30 | 2016-09-30 | 数据分析方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610877104.XA CN106445626B (zh) | 2016-09-30 | 2016-09-30 | 数据分析方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106445626A true CN106445626A (zh) | 2017-02-22 |
CN106445626B CN106445626B (zh) | 2020-03-06 |
Family
ID=58171950
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610877104.XA Active CN106445626B (zh) | 2016-09-30 | 2016-09-30 | 数据分析方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106445626B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108874847A (zh) * | 2017-12-26 | 2018-11-23 | 北京安天网络安全技术有限公司 | 自定义规则的匹配方法、装置、电子设备及存储介质 |
WO2019100646A1 (zh) * | 2017-11-23 | 2019-05-31 | 平安科技(深圳)有限公司 | 规则引擎文件的拆分调用方法、电子装置及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101014062A (zh) * | 2007-02-09 | 2007-08-08 | 华为技术有限公司 | 一种规则处理方法和装置及数据引用方法 |
CN101964036A (zh) * | 2010-10-29 | 2011-02-02 | 北京椒图科技有限公司 | 漏洞检测方法及装置 |
CN102523219A (zh) * | 2011-12-16 | 2012-06-27 | 清华大学 | 正则表达式匹配系统及匹配方法 |
CN103678118A (zh) * | 2013-10-18 | 2014-03-26 | 北京奇虎测腾科技有限公司 | 一种Java源代码的合规性检测方法和装置 |
CN104462971A (zh) * | 2014-12-17 | 2015-03-25 | 北京奇虎科技有限公司 | 根据应用程序声明特征识别恶意应用程序的方法和装置 |
US9256831B2 (en) * | 2009-07-31 | 2016-02-09 | International Business Machines Corporation | Match engine for detection of multi-pattern rules |
-
2016
- 2016-09-30 CN CN201610877104.XA patent/CN106445626B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101014062A (zh) * | 2007-02-09 | 2007-08-08 | 华为技术有限公司 | 一种规则处理方法和装置及数据引用方法 |
US9256831B2 (en) * | 2009-07-31 | 2016-02-09 | International Business Machines Corporation | Match engine for detection of multi-pattern rules |
CN101964036A (zh) * | 2010-10-29 | 2011-02-02 | 北京椒图科技有限公司 | 漏洞检测方法及装置 |
CN102523219A (zh) * | 2011-12-16 | 2012-06-27 | 清华大学 | 正则表达式匹配系统及匹配方法 |
CN103678118A (zh) * | 2013-10-18 | 2014-03-26 | 北京奇虎测腾科技有限公司 | 一种Java源代码的合规性检测方法和装置 |
CN104462971A (zh) * | 2014-12-17 | 2015-03-25 | 北京奇虎科技有限公司 | 根据应用程序声明特征识别恶意应用程序的方法和装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019100646A1 (zh) * | 2017-11-23 | 2019-05-31 | 平安科技(深圳)有限公司 | 规则引擎文件的拆分调用方法、电子装置及存储介质 |
CN108874847A (zh) * | 2017-12-26 | 2018-11-23 | 北京安天网络安全技术有限公司 | 自定义规则的匹配方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN106445626B (zh) | 2020-03-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104487941B (zh) | 在向量处理过程中控制处理数据元素的顺序 | |
CN107741903A (zh) | 应用程序兼容性测试方法、装置、计算机设备和存储介质 | |
CN107688618A (zh) | 数据对比方法、装置、计算机设备和存储介质 | |
CN106776334B (zh) | 基于注释生成测试用例方法及装置 | |
CN110888720A (zh) | 任务处理方法、装置、计算机设备及存储介质 | |
CN106708704A (zh) | 一种对崩溃日志进行分类的方法和装置 | |
Angelini et al. | Ropmate: Visually assisting the creation of rop-based exploits | |
CN105760450A (zh) | 一种表单文件解析方法及装置 | |
CN108427637B (zh) | 测试案例推荐方法、电子装置及可读存储介质 | |
US20120221934A1 (en) | Form bundling | |
CN107678968A (zh) | 源码函数的样本提取方法、装置、计算设备及存储介质 | |
EP3819770A1 (en) | System and method for software verification | |
CN106445626A (zh) | 数据分析方法及装置 | |
KR102013657B1 (ko) | 연관된 다중 파일 정적 분석 장치 | |
US20220067136A1 (en) | Verification method and apparatus, and computer readable storage medium | |
CN105608205B (zh) | 结构化数据的指纹校验方法及装置 | |
JPWO2017141893A1 (ja) | ソフトウェア分析装置及びソフトウェア分析方法 | |
CN103838865B (zh) | 用于挖掘时效性种子页的方法及装置 | |
US9563540B2 (en) | Automated defect positioning based on historical data | |
CN107688595A (zh) | 信息检索准确性评估方法、装置及计算机可读存储介质 | |
CN106446221A (zh) | 数据分析方法及装置 | |
CN113177392B (zh) | 校对界面中行段信息同步方法、计算设备及存储介质 | |
CN106570004A (zh) | 一种数据管理方法及装置 | |
CN113935037A (zh) | 恶意进程检测方法、装置、系统及计算机可读存储介质 | |
US20130036350A1 (en) | Modular tool for constructing a link to a rights program from article information |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: 100088 Beijing city Xicheng District xinjiekouwai Street 28, block D room 112 (Desheng Park) Applicant after: Beijing Qihu Technology Co., Ltd. Applicant after: Qianxin Technology Group Co., Ltd. Address before: 100088 Beijing city Xicheng District xinjiekouwai Street 28, block D room 112 (Desheng Park) Applicant before: Beijing Qihu Technology Co., Ltd. Applicant before: BEIJING QI'ANXIN SCIENCE & TECHNOLOGY CO., LTD. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |