CN106779485A - 基于soa架构的综合管理系统及数据处理方法 - Google Patents
基于soa架构的综合管理系统及数据处理方法 Download PDFInfo
- Publication number
- CN106779485A CN106779485A CN201710030801.6A CN201710030801A CN106779485A CN 106779485 A CN106779485 A CN 106779485A CN 201710030801 A CN201710030801 A CN 201710030801A CN 106779485 A CN106779485 A CN 106779485A
- Authority
- CN
- China
- Prior art keywords
- component
- management
- system module
- data
- data processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 12
- 238000012545 processing Methods 0.000 claims abstract description 97
- 230000008878 coupling Effects 0.000 claims abstract description 34
- 238000010168 coupling process Methods 0.000 claims abstract description 34
- 238000005859 coupling reaction Methods 0.000 claims abstract description 34
- 230000002452 interceptive effect Effects 0.000 claims abstract description 8
- 238000007726 management method Methods 0.000 claims description 227
- 238000004458 analytical method Methods 0.000 claims description 35
- 238000007781 pre-processing Methods 0.000 claims description 22
- 238000000034 method Methods 0.000 claims description 19
- 238000004891 communication Methods 0.000 claims description 11
- 238000007619 statistical method Methods 0.000 claims description 11
- 230000001747 exhibiting effect Effects 0.000 claims description 10
- 230000036544 posture Effects 0.000 claims description 10
- 238000010219 correlation analysis Methods 0.000 claims description 9
- 230000004913 activation Effects 0.000 claims description 8
- 230000005540 biological transmission Effects 0.000 claims description 8
- 238000012958 reprocessing Methods 0.000 claims description 8
- 230000004044 response Effects 0.000 claims description 8
- 238000013475 authorization Methods 0.000 claims description 6
- 238000007418 data mining Methods 0.000 claims description 6
- 238000012550 audit Methods 0.000 claims description 4
- 238000013480 data collection Methods 0.000 claims 1
- 238000010276 construction Methods 0.000 abstract description 4
- 230000006870 function Effects 0.000 description 27
- 210000003746 feather Anatomy 0.000 description 7
- 244000144992 flock Species 0.000 description 7
- 238000012423 maintenance Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 238000012098 association analyses Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 239000012141 concentrate Substances 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000002547 anomalous effect Effects 0.000 description 2
- 230000006399 behavior Effects 0.000 description 2
- 230000003542 behavioural effect Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000007405 data analysis Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000007123 defense Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000008439 repair process Effects 0.000 description 2
- 241000894007 species Species 0.000 description 2
- 101000797623 Homo sapiens Protein AMBP Proteins 0.000 description 1
- 235000008331 Pinus X rigitaeda Nutrition 0.000 description 1
- 235000011613 Pinus brutia Nutrition 0.000 description 1
- 241000018646 Pinus brutia Species 0.000 description 1
- 102100032859 Protein AMBP Human genes 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000002155 anti-virotic effect Effects 0.000 description 1
- 238000009412 basement excavation Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000003339 best practice Methods 0.000 description 1
- 230000009172 bursting Effects 0.000 description 1
- 230000000739 chaotic effect Effects 0.000 description 1
- 238000005352 clarification Methods 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012806 monitoring device Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000002203 pretreatment Methods 0.000 description 1
- 238000001303 quality assessment method Methods 0.000 description 1
- 238000011158 quantitative evaluation Methods 0.000 description 1
- 238000012502 risk assessment Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
Abstract
本发明实施例提供了一种基于SOA架构的综合管理系统及数据处理方法,涉及信息系统综合管理技术领域。所述基于SOA架构的综合管理系统包括数据采集预处理系统模块、大数据处理系统模块、中心系统模块以及级联中心系统模块。所述中心系统模块分别与所述数据采集预处理系统模块、大数据处理系统模块以及所述级联中心系统模块采用松耦合联系并交互通讯。所述大数据处理系统模块与所述数据采集预处理系统模块采用松耦合联系并交互通讯。所述综合管理系统采用模块化结构,以此实现信息系统中各组成要素所产生数据的分布式采集与预处理、集中式数据处理、系统级联部署管理。
Description
技术领域
本发明涉及信息系统综合管理技术领域,具体而言,涉及一种基于SOA架构的综合管理系统及数据处理方法。
背景技术
现有的针对信息系统管理的系统类型种类繁多,比如传统的网管系统、运维监管系统、安全管理中心、安全态势分析中心、综合审计系统、IT服务管理系统等等。这些产品要么只注重信息系统中一部分组成要素的管理,基本分为偏重性能与状态监管的运维监管系统、日志与事件管理的事件管理系统、以及基于日志与事件进行安全风险管理、安全态势分析等的安全管理系统、IT服务管理系统等;要么是在原来的产品和系统架构基础上不断扩展、增加新的功能以满足市场需要,导致系统架构混乱,系统自身出现故障或性能低下却不知道从什么地方着手调优;并且这些系统大部分都是低类聚、高耦合的系统,对信息系统中各组成要素的数据采集、处理、存储、分析、监管、告警、展现和应急处理等业务流程和服务功能模块,开发成了一套封闭的大系统,其中一处的修改、调整都有可能牵发全身做多处调整,给功能扩展、系统维护带来了很大的困难。
发明内容
本发明的目的在于提供一种基于SOA架构的综合管理系统及数据处理方法,其以改善上述问题。为了实现上述目的,本发明采取的技术方案如下:
第一方面,本发明实施例提供了一种基于SOA架构的综合管理系统,应用于管理信息系统,所述基于SOA架构的综合管理系统包括数据采集预处理系统模块、大数据处理系统模块、中心系统模块以及级联中心系统模块。所述中心系统模块分别与所述数据采集预处理系统模块、大数据处理系统模块以及所述级联中心系统模块采用松耦合联系并交互通讯。所述大数据处理系统模块与所述数据采集预处理系统模块采用松耦合联系并交互通讯。所述中心系统模块用于对所述数据采集预处理系统模块发送数据采集与预处理任务指令。所述数据采集预处理系统模块用于采集数据、将所述采集到的数据进行预处理,并将预处理后的数据发送给所述大数据处理系统模块。所述大数据处理系统模块用于接收所述数据采集预处理系统模块发送的数据、进行分类存储以及基于所述中心系统模块对所述大数据处理系统模块发送业务需求指令再处理,为所述中心系统模块提供主题数据和数据集市。所述中心系统模块还用于基于所述大数据处理系统模块的主题数据和数据集市,为所述信息系统定时生成多项统计、分析报告,并向所述级联中心系统模块发送所述多项统计、分析报告信息。所述级联中心系统模块用于接收并展示所述中心系统发送的所述多项统计、分析报告信息。
在本发明较佳的实施例中,上述基于SOA架构的综合管理系统还包括数据采集预处理服务器、大数据处理服务器、中心服务器以及级联服务器。所述中心服务器分别与所述数据采集预处理服务器、大数据处理服务器以及所述级联服务器通讯连接。所述大数据处理服务器与所述数据采集预处理服务器通讯连接。所述数据采集预处理服务器上设置有所述数据采集预处理系统模块。所述大数据处理服务器设置有所述大数据处理系统模块。所述中心服务器设置有所述中心系统模块。所述级联服务器设置有所述级联中心系统模块。
在本发明较佳的实施例中,上述数据采集预处理系统模块包括数据采集功能组件以及数据预处理功能组件。所述数据预处理功能组件分别与所述数据采集功能组件、所述大数据处理系统模块之间采用松耦合联系,以及采用WEB Service进行通讯。所述数据采集功能组件用于采集数据。所述数据预处理功能组件用于接收所述数据采集功能组件采集的数据进行预处理并发送给所述大数据处理系统模块。
在本发明较佳的实施例中,上述数据采集预处理系统模块还包括第一WEB控制台。所述第一WEB控制台用于接收管理员用户对所述数据采集预处理系统模块发送任务的指令。
在本发明较佳的实施例中,上述大数据处理系统模块采用集群部署,包括预处理后数据分类存储服务组件、统计分析服务组件、时序关联分析服务组件、因果关联分析服务组件、交叉关联分析服务组件、数据挖掘服务组件、流程管理服务组件、内容管理服务组件、目录管理服务组件以及企业服务总线组件。各组件之间采用松耦合联系,并通过所述企业服务总线组件进行通讯,所述大数据处理系统模块通过所述企业服务总线组件分别与所述数据采集预处理系统模块、中心系统模块通讯。
在本发明较佳的实施例中,上述大数据处理系统模块还包括第二WEB控制台。所述第二WEB控制台用于接收管理员用户对所述大数据处理系统模块发送任务的指令。
在本发明较佳的实施例中,上述中心系统模块包括第三WEB控制台、任务管理组件和授权管理支撑组件。所述任务管理组件分别与所述第三WEB控制台、所述授权管理支撑组件采用松耦合联系。所述任务管理组件包括资产管理组件、性能与状态管理组件、流量管理组件、日志与事件管理组件、安全策略管理组件、脆弱性管理组件、安全风险管理组件、合规性评估管理组件、安全态势分析组件、线索追溯管理组件、安全责任认定管理组件、预警响应管理组件、安全登录管理组件、服务流程管理组件以及服务水平管理组件。所述资产管理组件、性能与状态管理组件、流量管理组件、日志与事件管理组件、安全策略管理组件、脆弱性管理组件、安全风险管理组件、合规性评估管理组件、安全态势分析组件、线索追溯管理组件、安全责任认定管理组件、预警响应管理组件、安全登录管理组件、服务流程管理组件、服务水平管理组件、所述授权管理支撑组件相互之间采用松耦合联系,均以所述授权管理支撑组件为基础认证授权管理。
在本发明较佳的实施例中,上述授权管理支撑组件包括统一身份认证服务组件、统一访问控制服务组件、统一授权管理服务组件、统一安全审计服务组件。
在本发明较佳的实施例中,上述中心系统模块还包括视图展示组件。所述视图展示组件分别与所述第三WEB控制台、所述任务管理组件和授权管理支撑组件采用松耦合联系。所述视图展示组件用于直观地展示所述任务管理组件的各功能。
第二方面,本发明实施例提供了一种数据处理方法,应用于上述的基于SOA架构的综合管理系统,所述方法包括:所述中心系统模块对所述数据采集预处理系统模块发送数据采集与预处理任务指令;所述数据采集预处理系统模块采集数据,将所述采集到的数据进行预处理并将预处理后的数据发送给所述大数据处理系统模块;所述大数据处理系统模块接收所述数据采集预处理系统模块发送的数据、进行分类存储以及基于所述中心系统模块对所述大数据处理系统模块发送业务需求指令再处理,为所述中心系统模块提供主题数据和数据集市;所述中心系统模块还基于所述大数据处理系统模块的主题数据和数据集市,为所述信息系统提供多项统计、分析报告信息,并向所述级联中心系统模块发送所述多项统计、分析报告信息;所述级联中心系统模块接收并展示所述中心系统模块发送的所述多项统计、分析报告信息。
本发明实施例提供了一种基于SOA架构的综合管理系统及数据处理方法,应用于管理信息系统,所述基于SOA架构的综合管理系统包括数据采集预处理系统模块、大数据处理系统模块、中心系统模块以及级联中心系统模块。所述中心系统模块分别与所述数据采集预处理系统模块、大数据处理系统模块以及所述级联中心系统模块采用松耦合联系并交互通讯。所述大数据处理系统模块与所述数据采集预处理系统模块采用松耦合联系并交互通讯。所述基于SOA架构的综合管理系统采用模块化结构,以此实现信息系统中各组成要素所产生数据的分布式采集与预处理、集中式数据处理、系统级联部署管理。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明第一实施例提供的一种综合管理系统的结构框图;
图2为本发明第一实施例提供的另一种综合管理系统的结构框图;
图3为本发明第一实施例提供的应用于数据采集预处理模块采集的环境;
图4为本发明第一实施例提供的大数据处理系统模块的结构框图;
图5为本发明第一实施例提供的中心系统模块的结构框图;
图6为本发明第二实施例提供的数据处理方法的流程图。
图中:100-基于SOA架构的综合管理系统;110-数据采集预处理系统模块;111-数据采集预处理服务器;112-数据采集功能组件;113-数据预处理功能组件;114-第一WEB控制台;115-原始数据存储功能组件;116-待采集的信息系统组成要素;120-大数据处理系统模块;121-大数据处理服务器;122-企业服务总线组件;122a-预处理后数据分类存储服务组件;122b-统计分析服务组件;122c-时序关联分析服务组件;122d-因果关联分析服务组件;122e-交叉关联分析服务组件;122f-数据挖掘服务组件;122g-流程管理服务组件;122h-内容管理服务组件;122i-目录管理服务组件;123-第二WEB控制台;130-中心系统模块;131-中心服务器;132-任务管理组件;133-授权管理支撑组件;134-第三WEB控制台;135-视图展示组件;140-级联中心系统模块;141-级联服务器。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
在本发明的描述中,需要说明的是,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本发明的描述中,还需要说明的是,除非另有明确的规定和限定,术语“设置”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
随着信息系统建设越来越复杂,它包括的组成要素也越来越多,包括有:接入信息系统的安防监控、机房环境监控等各类监控设备;组成网络的传输线路、路由与交换等网络设备,组成中心计算环境的主机终端、主机服务器、存储设备、数据库系统、云计算、大数据平台、操作系统、中间件系统和应用系统等;建立安全防护体系的防火墙、入侵检测系统、漏洞扫描系统、主机监控与审计系统、网络防病毒系统、APT防御系统、综合运维监管和安全管理系统等,以信息系统为业务支撑的各机构与操作使用人员等,还将有接入信息系统的物联网设备等,这些组成要素在信息系统中各司其责时,自身会产生各种类型的数据,从什么样的视角、以什么样的技术对这些组成要素进行综合管理至关重要,它将严重影响到信息系统的可用性、连续性、安全性等方面。
目前由于信息系统各组成要素所产生信息的多样性、种类繁多,现有的技术方案不能灵活的针对采集方式、采集协议和采集的数据进行扩展支持;低类聚高耦合的各管理系统之间很难适应已明确分工的运维管理部门、安全管理部门之间的管理协同,运维监管、安全管理、IT服务管理等管理角色在一个大系统中不能分工明确,各司其责;对数据的各种处理都在一台服务上,对服务器的单个网口网络吞吐能力、计算能力有极高要求,对服务器的性能负荷要求比较高,服务器工作一段时间可能会出现CPU、内存长期负载过高而导致系统宕机等。
有鉴于此,本发明实施例提供了一种基于SOA架构的综合管理系统及数据处理方法,以改善上述问题。
第一实施例
请参照图1,本实施例提供一种基于SOA架构的综合管理系统100,应用于管理信息系统,所述基于SOA架构的综合管理系统100包括数据采集预处理系统模块110、大数据处理系统模块120、中心系统模块130以及级联中心系统模块140。所述中心系统模块130分别与所述数据采集预处理系统模块110、大数据处理系统模块120以及所述级联中心系统模块140采用松耦合联系并交互通讯。所述大数据处理系统模块120与所述数据采集预处理系统模块110采用松耦合联系并交互通讯。
请参照图2,所述基于SOA架构的综合管理系统100还包括数据采集预处理服务器111、大数据处理服务器121、中心服务器131以及级联服务器141。所述中心服务器131分别与所述数据采集预处理服务器111、大数据处理服务器121以及所述级联服务器141通讯连接。所述大数据处理服务器121与所述数据采集预处理服务器111通讯连接。所述数据采集预处理服务器111上设置有所述数据采集预处理系统模块110,所述大数据处理服务器121设置有所述大数据处理系统模块120,所述中心服务器131设置有所述中心系统模块130,所述级联服务器141设置有所述级联中心系统模块140。
所述数据采集预处理系统模块110用于采集数据、将所述采集到的数据进行预处理,并将预处理后的数据发送给所述大数据处理系统模块120。请参照图3,所述数据采集预处理系统模块110包括数据采集功能组件112以及数据预处理功能组件113。所述数据预处理功能组件113分别与所述数据采集功能组件112、所述大数据处理系统模块120之间采用松耦合联系,以及采用WEB Service进行通讯。所述数据采集功能组件112用于采集数据。
作为一种实施方式,本发明以服务引擎方式封装数据采集功能组件112以及数据预处理功能组件113。所述数据采集功能组件112可以支持HTTP、JDBC、SSH、SNMP、SNMPTRAP、WMI、FLOW、SYSLOG、flume等采集协议和指标集,并可以灵活增加采集类的方式扩展开发支持,实现采集的高类聚。
所述数据预处理功能组件113用于接收所述数据采集功能组件112采集的数据进行预处理并发送给所述大数据处理系统模块120。具体地,所述数据预处理功能组件113可以对数据进行清洗、转换、压缩、过滤、合并等预处理。
为了在本地保存数据,所述数据采集预处理系统模块110还可以包括原始数据存储功能组件115。所述原始数据存储功能组件115与所述数据采集功能组件112采用松耦合联系。数据采集功能组件112可以在原始数据存储功能组件115保存一份原始数据,再将原始数据发送给所述数据预处理功能组件113进行清洗、转换、压缩、过滤、合并等预处理,再发送给所述大数据处理系统模块120。
此外,数据采集功能组件112对待采集的信息系统组成要素116进行数据采集。所述待采集的信息系统组成要素116包括各自治域内安防监控系统与设备、机房环境系统与设备、IT基础设施系统与设备、计算环境系统与设备、安全防护系统与设备等。
为了分担所述大数据处理系统模块120以及中心系统模块130的计算、数据采集与处理职能,所述数据采集预处理系统模块110还包括第一WEB控制台114,所述第一WEB控制台114用于接收管理员用户对所述数据采集预处理系统模块110发送任务的指令。用户可以直接通过第一WEB控制台114管理所述数据采集功能组件112和数据预处理功能组件113。
所述大数据处理系统模块120用于接收所述数据采集预处理系统模块110发送的数据、进行分类存储以及基于所述中心系统模块130对所述大数据处理系统模块120发送业务需求指令进行数据再处理,为所述中心系统模块130提供主题数据和数据集市。
请参照图4,所述大数据处理系统模块120采用集群部署,包括预处理后数据分类存储服务组件122a、统计分析服务组件122b、时序关联分析服务组件122c、因果关联分析服务组件122d、交叉关联分析服务组件122e、数据挖掘服务组件122f、流程管理服务组件122g、内容管理服务组件122h、目录管理服务组件122i以及企业服务总线组件122。预处理后数据分类存储服务组件122a、统计分析服务组件122b、时序关联分析服务组件122c、因果关联分析服务组件122d、交叉关联分析服务组件122e、数据挖掘服务组件122f、流程管理服务组件122g、内容管理服务组件122h、目录管理服务组件122i以及企业服务总线组件122之间采用松耦合联系,并通过所述企业服务总线组件122进行通讯,支持一种或多种算法、可视化定义算法的输入、可视化定义算法的输出,实现算法与数据范畴的无关性;在服务中可以定制开发扩展支持各类算法引擎,实现高类聚。
所述大数据处理系统模块120通过所述企业服务总线组件122分别与所述数据采集预处理系统模块110、中心系统模块130通讯。所述大数据处理系统模块120中的各数据管理服务组件基于企业服务总线组件122进行服务编排、接口定义和信息通信协议支持,接受中心系统模块130的业务数据建模和分析策略,以数据采集预处理系统模块110发送的分类存储数据为基础,执行统计分析、关联分析、数据挖掘服务,形成新的主题数据库、数据集市和数据仓库,并为中心系统模块130提供数据集中存储。
所述大数据处理系统模块120还包括第二WEB控制台123,所述第二WEB控制台123用于接收管理员用户对所述大数据处理系统模块120发送任务的指令。
大数据处理系统模块120因为需要适应党政内网等涉密信息系统的需要,需要适应各行业公共服务平台、智慧城市运营平台等的需要,会存在基于国产数据库系统、国产数据仓库系统、国产企业服务总线等为生态链的技术架构、系统架构,以及以SPARK、HADOOP开源生态链为主导的技术架构、系统架构。需要大数据处理系统模块120支持这些主流类型的技术架构和系统架构。
所述中心系统模块130还用于基于所述大数据处理系统模块120的主题数据和数据集市,为所述信息系统提供多项统计、分析报告信息,并向所述级联中心系统模块140发送所述多项统计、分析报告信息。
所述中心系统模块130以大数据处理系统模块120作为数据支撑,以统一身份认证服务、统一访问控制服务、统一授权管理服务、统一安全审计服务为系统的授权管理支撑框架,根据机构部门职责分工和管理需要,可以以部门职责为纲划分子系统,再确定各子系统的功能组件。各子系统的授权认证体系可以细化到基于角色、资源、功能组件甚至按钮的授权管理。
请参照图5,中心系统模块130基于大数据处理系统模块120中分类存储的各类数据信息,包括任务管理组件132、授权管理支撑组件133、和第三WEB控制台134。所述任务管理组件132分别与所述第三WEB控制台134、所述授权管理支撑组件133采用松耦合联系。任务管理组件132包括但不仅限于资产管理组件、性能与状态管理组件、流量管理组件、日志与事件管理组件、安全策略管理组件、脆弱性管理组件、安全风险管理组件、合规性评估管理组件、安全态势分析组件、线索追溯管理组件、安全责任认定管理组件、预警响应管理组件、安全登录管理组件、服务流程管理组件以及服务水平管理组件。
所述资产管理组件、性能与状态管理组件、流量管理组件、日志与事件管理组件、安全策略管理组件、脆弱性管理组件、安全风险管理组件、合规性评估管理组件、安全态势分析组件、线索追溯管理组件、安全责任认定管理组件、预警响应管理组件、安全登录管理组件、服务流程管理组件、服务水平管理组件、所述授权管理支撑组件133相互之间采用松耦合联系,均以所述授权管理支撑组件133为基础认证授权管理。
所述授权管理支撑组件133包括统一身份认证服务组件、统一访问控制服务组件、统一授权管理服务组件、统一安全审计服务组件。
资产管理组件实现信息系统中各组成要素及相互关系的管理,提供增加、删除、修改、查询和统计功能。
性能与状态管理组件实现信息系统中各组成要素运行中的CPU、内存、存储空间等使用情况的性能指标、指定参数的性能指标和运行状态管理。
流量管理组件实现信息系统各协议流量、各组成要素网络吞吐量等的统计分析管理。
日志与事件管理组件实现信息系统中各组成要素运行中产生的各类日志与事件的管理,发现异常事件、安全事件及时告警与响应。
安全策略管理组件实现信息系统中各组成要素的安全策略集中存储、展示、分析、编辑和下发等方面的管理。
脆弱性管理组件实现信息系统中各组成要素的漏洞识别和报告管理。
安全风险管理组件实现信息系统中各组成要素和整体的安全风险评估、安全风险报告、安全风险处置等方面的管理。
合规性评估管理组件实现信息系统中各组成要素和整体基于分级保护、等级保护、ISO27000、ITSS等信息安全管理体系、运维服务管理体系的合规性评估和管理。
安全态势分析组件实现信息系统中异常事件态势、安全事件态势、违规操作行为发展态势、威胁操作行为发展态势、整体安全指数运行态势等方面的综合分析与管理。
线索追溯管理组件基于信息系统中各组成要素提供的数据进行异常事件、安全事件、泄密事件等的线索分析和管理。
安全责任认定管理组件基于信息系统中各组成要素运行中产生的原始数据和线索追溯数据实现安全责任认定管理。
预警响应管理组件实现信息系统中各组成要素自身预警和系统设置的阀值预警的统一响应管理。
安全登录管理组件实现信息系统中各组成要素的安全登录的统一入口管理,减轻管理员需要记住多个系统设备登录方式、登录IP、登录用户名和口令的负担。
服务流程管理组件实现对信息系统中各组成要素提供各类服务的流程化智能管理,按照ITSS和ITIL最佳实践提供各类流程服务。
服务水平管理组件基于签订的服务水平协议,实现各类服务过程、服务质量、服务能力、服务结果等方面的量化评估和绩效考核管理。
为了直观、形象都展示任务管理组件132中的各功能,所述中心系统模块130还包括视图展示组件135,所述视图展示组件135分别与所述第三WEB控制台134、所述任务管理组件132和授权管理支撑组件133采用松耦合联系,所述视图展示组件135用于直观地展示所述任务管理组件132中的各功能。视图展示组件135包括但不限于以区域电子地图展现、机房机柜视图展现、网络拓扑视图展现、安全域视图展现、列表图表视图展现和统一门户展现等,支持大屏、远程管理终端和移动接入终端的浏览查看。
中心系统模块130包括第三WEB控制台134,集中对系统配置管理、授权管理、各功能组件和视图展现方式等进行管理;也可以集中对数据采集预处理系统模块110、大数据处理系统模块120进行管理,制定数据采集模板、数据预处理策略下发采集任务模板与策略配置文件给数据采集预处理系统模块110;制定数据再处理策略、定义数据处理输入输出条件和参数配置后下发配置文件给大数据处理系统模块120。
数据采集预处理系统模块110、大数据处理系统模块120既可以主动向中心系统模块130发起注册请求,实行注册管理,也可以在中心系统模块130注册数据采集预处理系统模块110、大数据处理系统模块120相关信息后分别下发给各系统模块。
所述级联中心系统模块140用于接收并展示所述中心系统发送的多项统计、分析报告信息。
所述级联中心系统模块140可以独立部署,基于标准WEB service技术接收XML报文数据,接收中心系统模块130上报的统计、分析数据,包括但不仅限于资产统计分析报、异常事件统计分析报、安全事件统计分析报、违规操作行为统计分析报、威胁行为统计分析报、安全态势分析报、合规性评估报、责任认定审批报、服务水平能力报、服务质量评估报等,级联中心系统模块140以图表、统计分析报表等方式展示和查看,并支持授权认证、访问控制和安全责任审计。
所述基于SOA架构的综合管理系统100采用模块化结构,以此实现信息系统各组成要素所产生数据的分布式采集与预处理、集中式数据处理、系统级联部署管理。以“数据采集->数据预处理->数据分析与挖掘->数据展现->告警响应->线索分析->责任认定”为主线,基于SOA架构思想,形成数据采集与预处理的高类聚、松耦合,形成数据分析与挖掘的高类聚、松耦合,形成所有业务功能与管理职责的高类聚、松耦合,将其分为数据采集预处理系统模块110、大数据处理系统模块120、中心系统模块130和级联中心系统模块140,各模块各司其责,减少一个系统的变动影响到多个系统的变动,层次清晰。
各系统模块可以独立部署、支持一个中心系统模块130管理多个数据采集预处理系统模块110,一个级联中心系统模块140可以管理多个中心系统模块130的格局,可以适应具有多个分支机构、垂直机构等复杂应用场景的部署需求,减少总体采购成本、部署成本、运维管理成本。
大数据处理系统模块120专注于数据采集预处理系统模块110和中心系统模块130之间的承上启下,提供标准的接口、数据通信机制和服务可编排的功能,提供多样化的数据统计分析、关联分析、挖据分析工具和算法引擎,实现与具体业务逻辑的松耦合,极大的分担了中心系统模块130的计算性能要求,使得中心系统模块130专注于用户体验,从而使系统可用性、实用性、智能性得到很大提高。
本发明实施例提供了一种基于SOA架构的综合管理系统100,应用于管理信息系统,所述基于SOA架构的综合管理系统100包括数据采集预处理系统模块110、大数据处理系统模块120、中心系统模块130以及级联中心系统模块140。所述中心系统模块130分别与所述数据采集预处理系统模块110、大数据处理系统模块120以及所述级联中心系统模块140采用松耦合联系并交互通讯。所述大数据处理系统模块120与所述数据采集预处理系统模块110采用松耦合联系并交互通讯。所述基于SOA架构的综合管理系统100采用模块化结构,以此实现信息系统各组成要素所产生数据的分布式采集与预处理、集中式数据处理、系统级联部署管理。
第二实施例
请参照图6,本发明实施例提供了一种数据处理方法,应用于上述的基于SOA架构的综合管理系统100,所述方法包括:
步骤S200:所述中心系统模块对所述数据采集预处理系统模块发送数据采集与预处理任务指令;
所述中心系统模块130制定数据采集模板、数据预处理策略,下发数据采集任务、预处理策略给数据采集预处理系统模块110。
步骤S210:所述数据采集预处理系统模块采集数据,将所述采集到的数据按照中心系统模块下发的预处理策略进行预处理并将预处理后的数据发送给所述大数据处理系统模块;
步骤S220:所述大数据处理系统模块接收所述数据采集预处理系统模块发送的数据、进行分类存储以及基于所述中心系统模块对所述大数据处理系统模块发送业务需求指令再处理,为所述中心系统模块提供主题数据和数据集市;
步骤S230:所述中心系统模块还基于所述大数据处理系统模块的主题数据和数据集市,为所述信息系统提供多项统计、分析报告信息,并向所述级联中心系统模块发送所述多项统计、分析报告信息;
步骤S240:所述级联中心系统模块接收并展示所述中心系统模块发送的所述多项统计、分析报告信息。
所述级联中心系统模块140以图表、统计分析报表等方式展示和查看,并支持授权认证、访问控制和安全责任审计。
本发明实施例提供了一种数据处理方法,应用于上述的基于SOA架构的综合管理系统,所述方法包括:所述中心系统模块对所述数据采集预处理系统模块发送数据采集与预处理任务指令;所述数据采集预处理系统模块采集数据,将所述采集到的数据进行预处理并将预处理后的数据发送给所述大数据处理系统模块;所述大数据处理系统模块接收所述数据采集预处理系统模块发送的数据、进行分类存储以及基于所述中心系统模块对所述大数据处理系统模块发送业务需求指令再处理,为所述中心系统模块提供主题数据和数据集市;所述中心系统模块还基于所述大数据处理系统模块的主题数据和数据集市,为所述信息系统提供多项统计、分析报告信息,并向所述级联中心系统模块发送所述多项统计、分析报告信息;所述级联中心系统模块接收并展示所述中心系统模块发送的所述多项统计、分析报告信息,以此实现信息系统中各组成要素所产生数据的分布式采集与预处理、集中式数据处理、系统级联部署管理。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的数据处理方法的具体工作过程,可以参考前述系统实施例中的对应过程,在此不再赘述。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于SOA架构的综合管理系统,其特征在于,应用于管理信息系统,所述基于SOA架构的综合管理系统包括数据采集预处理系统模块、大数据处理系统模块、中心系统模块以及级联中心系统模块,所述中心系统模块分别与所述数据采集预处理系统模块、大数据处理系统模块以及所述级联中心系统模块采用松耦合联系并交互通讯,所述大数据处理系统模块与所述数据采集预处理系统模块采用松耦合联系并交互通讯,所述中心系统模块用于对所述数据采集预处理系统模块发送数据采集与预处理任务指令,所述数据采集预处理系统模块用于采集数据、将所述采集到的数据进行预处理,并将预处理后的数据发送给所述大数据处理系统模块,所述大数据处理系统模块用于接收所述数据采集预处理系统模块发送的数据、进行分类存储,以及基于所述中心系统模块对所述大数据处理系统模块发送业务需求指令进行数据再处理,为所述中心系统模块提供主题数据和数据集市,所述中心系统模块还用于基于所述大数据处理系统模块的主题数据和数据集市,为所述信息系统定时生成多项统计、分析报告,并向所述级联中心系统模块发送所述多项统计、分析报告信息,所述级联中心系统模块用于接收并展示所述中心系统模块发送的所述多项统计、分析报告信息。
2.根据权利要求1所述的基于SOA架构的综合管理系统,其特征在于,所述基于SOA架构的综合管理系统还包括数据采集预处理服务器、大数据处理服务器、中心服务器以及级联服务器,所述中心服务器分别与所述数据采集预处理服务器、大数据处理服务器以及所述级联服务器通讯连接,所述大数据处理服务器与所述数据采集预处理服务器通讯连接,所述数据采集预处理服务器上设置有所述数据采集预处理系统模块,所述大数据处理服务器设置有所述大数据处理系统模块,所述中心服务器设置有所述中心系统模块,所述级联服务器设置有所述级联中心系统模块。
3.根据权利要求1所述的基于SOA架构的综合管理系统,其特征在于,所述数据采集预处理系统模块包括数据采集功能组件以及数据预处理功能组件,所述数据预处理功能组件分别与所述数据采集功能组件、所述大数据处理系统模块之间采用松耦合联系,以及采用WEB Service进行通讯,所述数据采集功能组件用于采集数据,所述数据预处理功能组件用于接收所述数据采集功能组件采集的数据进行预处理并发送给所述大数据处理系统模块。
4.根据权利要求1所述的基于SOA架构的综合管理系统,其特征在于,所述数据采集预处理系统模块还包括第一WEB控制台,所述第一WEB控制台用于接收管理员用户对所述数据采集预处理系统模块发送任务的指令。
5.根据权利要求1所述的基于SOA架构的综合管理系统,其特征在于,所述大数据处理系统模块采用集群部署,包括预处理后数据分类存储服务组件、统计分析服务组件、时序关联分析服务组件、因果关联分析服务组件、交叉关联分析服务组件、数据挖掘服务组件、流程管理服务组件、内容管理服务组件、目录管理服务组件以及企业服务总线组件,各组件之间采用松耦合联系,并通过所述企业服务总线组件进行通讯,所述大数据处理系统模块通过所述企业服务总线组件分别与所述数据采集预处理系统模块、中心系统模块通讯。
6.根据权利要求1所述的基于SOA架构的综合管理系统,其特征在于,所述大数据处理系统模块还包括第二WEB控制台,所述第二WEB控制台用于接收管理员用户对所述大数据处理系统模块发送任务的指令。
7.根据权利要求1所述的基于SOA架构的综合管理系统,其特征在于,所述中心系统模块包括第三WEB控制台、任务管理组件和授权管理支撑组件,所述任务管理组件分别与所述第三WEB控制台、所述授权管理支撑组件采用松耦合联系,所述任务管理组件包括资产管理组件、性能与状态管理组件、流量管理组件、日志与事件管理组件、安全策略管理组件、脆弱性管理组件、安全风险管理组件、合规性评估管理组件、安全态势分析组件、线索追溯管理组件、安全责任认定管理组件、预警响应管理组件、安全登录管理组件、服务流程管理组件以及服务水平管理组件,所述资产管理组件、性能与状态管理组件、流量管理组件、日志与事件管理组件、安全策略管理组件、脆弱性管理组件、安全风险管理组件、合规性评估管理组件、安全态势分析组件、线索追溯管理组件、安全责任认定管理组件、预警响应管理组件、安全登录管理组件、服务流程管理组件、服务水平管理组件、所述授权管理支撑组件相互之间采用松耦合联系,均以所述授权管理支撑组件为基础认证授权管理。
8.根据权利要求7所述的基于SOA架构的综合管理系统,其特征在于,所述授权管理支撑组件包括统一身份认证服务组件、统一访问控制服务组件、统一授权管理服务组件、统一安全审计服务组件。
9.根据权利要求7所述的基于SOA架构的综合管理系统,其特征在于,所述中心系统模块还包括视图展示组件,所述视图展示组件分别与所述第三WEB控制台、所述任务管理组件和授权管理支撑组件采用松耦合联系,所述视图展示组件用于直观地展示所述任务管理组件的各功能。
10.一种数据处理方法,其特征在于,应用于如权利要求1-9任一项所述的基于SOA架构的综合管理系统,所述方法包括:
所述中心系统模块对所述数据采集预处理系统模块发送数据采集与预处理任务指令;
所述数据采集预处理系统模块采集数据,将所述采集到的数据进行预处理并将预处理后的数据发送给所述大数据处理系统模块;
所述大数据处理系统模块接收所述数据采集预处理系统模块发送的数据、进行分类存储以及基于所述中心系统模块对所述大数据处理系统模块发送业务需求指令再处理,为所述中心系统模块提供主题数据和数据集市;
所述中心系统模块还基于所述大数据处理系统模块的主题数据和数据集市,为所述信息系统提供多项统计、分析报告信息,并向所述级联中心系统模块发送所述多项统计、分析报告信息;
所述级联中心系统模块接收并展示所述中心系统模块发送的所述多项统计、分析报告信息。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710030801.6A CN106779485B (zh) | 2017-01-17 | 2017-01-17 | 基于soa架构的综合管理系统及数据处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710030801.6A CN106779485B (zh) | 2017-01-17 | 2017-01-17 | 基于soa架构的综合管理系统及数据处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106779485A true CN106779485A (zh) | 2017-05-31 |
CN106779485B CN106779485B (zh) | 2020-11-17 |
Family
ID=58945795
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710030801.6A Expired - Fee Related CN106779485B (zh) | 2017-01-17 | 2017-01-17 | 基于soa架构的综合管理系统及数据处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106779485B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107566498A (zh) * | 2017-09-08 | 2018-01-09 | 深圳市智物联网络有限公司 | 一种基于物联网的数控机床监控方法及系统 |
CN108833368A (zh) * | 2018-05-25 | 2018-11-16 | 深圳市量智信息技术有限公司 | 一种网络空间漏洞归并平台系统 |
CN109756499A (zh) * | 2019-01-07 | 2019-05-14 | 陈庆梅 | 大数据安全访问控制系统 |
CN110995639A (zh) * | 2019-08-30 | 2020-04-10 | 深圳精匠云创科技有限公司 | 数据传输方法 |
CN111212035A (zh) * | 2019-12-19 | 2020-05-29 | 杭州安恒信息技术股份有限公司 | 一种主机失陷确认及自动修复方法及基于此的系统 |
CN113656123A (zh) * | 2021-07-28 | 2021-11-16 | 上海纽盾科技股份有限公司 | 面向等保测评的信息评估方法、装置及系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130018703A1 (en) * | 2011-07-15 | 2013-01-17 | Khalifa University of Science, Technology, and Research | Method and system for distributed and collaborative monitoring |
CN103166794A (zh) * | 2013-02-22 | 2013-06-19 | 中国人民解放军91655部队 | 一种具有一体化安全管控功能的信息安全管理方法 |
CN105119750A (zh) * | 2015-09-08 | 2015-12-02 | 南京联成科技发展有限公司 | 一种基于大数据的分布式信息安全运维管理平台 |
CN105868395A (zh) * | 2016-04-19 | 2016-08-17 | 武汉邮电科学研究院 | 基于事件驱动的智慧城市大数据体系及处理方法 |
CN105931168A (zh) * | 2016-04-15 | 2016-09-07 | 广州葵翼信息科技有限公司 | 一种基于信息栅格服务的智慧城市服务架构 |
CN106227842A (zh) * | 2016-07-27 | 2016-12-14 | 成都三零凯天通信实业有限公司 | 一种用于智慧平安城市的异源异构数据整合系统与方法 |
-
2017
- 2017-01-17 CN CN201710030801.6A patent/CN106779485B/zh not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130018703A1 (en) * | 2011-07-15 | 2013-01-17 | Khalifa University of Science, Technology, and Research | Method and system for distributed and collaborative monitoring |
CN103166794A (zh) * | 2013-02-22 | 2013-06-19 | 中国人民解放军91655部队 | 一种具有一体化安全管控功能的信息安全管理方法 |
CN105119750A (zh) * | 2015-09-08 | 2015-12-02 | 南京联成科技发展有限公司 | 一种基于大数据的分布式信息安全运维管理平台 |
CN105931168A (zh) * | 2016-04-15 | 2016-09-07 | 广州葵翼信息科技有限公司 | 一种基于信息栅格服务的智慧城市服务架构 |
CN105868395A (zh) * | 2016-04-19 | 2016-08-17 | 武汉邮电科学研究院 | 基于事件驱动的智慧城市大数据体系及处理方法 |
CN106227842A (zh) * | 2016-07-27 | 2016-12-14 | 成都三零凯天通信实业有限公司 | 一种用于智慧平安城市的异源异构数据整合系统与方法 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107566498A (zh) * | 2017-09-08 | 2018-01-09 | 深圳市智物联网络有限公司 | 一种基于物联网的数控机床监控方法及系统 |
CN108833368A (zh) * | 2018-05-25 | 2018-11-16 | 深圳市量智信息技术有限公司 | 一种网络空间漏洞归并平台系统 |
CN108833368B (zh) * | 2018-05-25 | 2021-06-04 | 深圳市量智信息技术有限公司 | 一种网络空间漏洞归并平台系统 |
CN109756499A (zh) * | 2019-01-07 | 2019-05-14 | 陈庆梅 | 大数据安全访问控制系统 |
CN109756499B (zh) * | 2019-01-07 | 2020-02-21 | 武汉东湖大数据交易中心股份有限公司 | 大数据安全访问控制系统 |
CN110995639A (zh) * | 2019-08-30 | 2020-04-10 | 深圳精匠云创科技有限公司 | 数据传输方法 |
CN111212035A (zh) * | 2019-12-19 | 2020-05-29 | 杭州安恒信息技术股份有限公司 | 一种主机失陷确认及自动修复方法及基于此的系统 |
CN113656123A (zh) * | 2021-07-28 | 2021-11-16 | 上海纽盾科技股份有限公司 | 面向等保测评的信息评估方法、装置及系统 |
CN113656123B (zh) * | 2021-07-28 | 2023-05-16 | 上海纽盾科技股份有限公司 | 面向等保测评的信息评估方法、装置及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN106779485B (zh) | 2020-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105119750B (zh) | 一种基于大数据的分布式信息安全运维管理平台系统 | |
CN106779485A (zh) | 基于soa架构的综合管理系统及数据处理方法 | |
CN112102111B (zh) | 一种发电厂数据智能处理系统 | |
CN208227074U (zh) | 电力监控系统网络安全监测终端 | |
CN107196910B (zh) | 基于大数据分析的威胁预警监测系统、方法及部署架构 | |
CN106411578B (zh) | 一种适应于电力行业的网站监控系统及方法 | |
CN105139139B (zh) | 用于运维审计的数据处理方法和装置及系统 | |
CN109660526A (zh) | 一种应用于信息安全领域的大数据分析方法 | |
CN104166812B (zh) | 一种基于独立授权的数据库安全访问控制方法 | |
CN109861995A (zh) | 一种网络空间安全大数据智能分析方法、计算机可读介质 | |
CN108960456A (zh) | 私有云安全一体化运维平台 | |
CN111209269A (zh) | 一种智慧城市大数据管理系统 | |
CN106778253A (zh) | 基于大数据的威胁情景感知信息安全主动防御模型 | |
CN107958322A (zh) | 一种城市网络空间综合治理系统 | |
CN106055984A (zh) | 一种应用于安全基线软件的分级管理方法 | |
CN103338128A (zh) | 一种具有一体化安全管控功能的信息安全管理系统 | |
CN112632135A (zh) | 一种大数据平台 | |
CN107733863A (zh) | 一种分布式hadoop环境下的日志调试方法和装置 | |
CN103166777A (zh) | 一种设备远程运维操作方法和装置 | |
CN109639756A (zh) | 一种终端网络关联关系展示和设备接入实时监测系统 | |
CN113794276A (zh) | 一种基于人工智能的配电网终端安全行为监测系统及方法 | |
KR100918370B1 (ko) | 웹관리시스템 및 그 방법 | |
El Arass et al. | Smart SIEM: From big data logs and events to smart data alerts | |
Liang et al. | Information security monitoring and management method based on big data in the internet of things environment | |
CN105933300A (zh) | 一种安全管理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20201117 |