CN106302522A - 一种基于神经网络和大数据的网络安全态势分析方法和系统 - Google Patents

一种基于神经网络和大数据的网络安全态势分析方法和系统 Download PDF

Info

Publication number
CN106302522A
CN106302522A CN201610833485.1A CN201610833485A CN106302522A CN 106302522 A CN106302522 A CN 106302522A CN 201610833485 A CN201610833485 A CN 201610833485A CN 106302522 A CN106302522 A CN 106302522A
Authority
CN
China
Prior art keywords
data
neutral net
layer
big data
neuron
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610833485.1A
Other languages
English (en)
Other versions
CN106302522B (zh
Inventor
陈永红
朱博文
田晖
王田
蔡奕侨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huaqiao University
Original Assignee
Huaqiao University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huaqiao University filed Critical Huaqiao University
Priority to CN201610833485.1A priority Critical patent/CN106302522B/zh
Publication of CN106302522A publication Critical patent/CN106302522A/zh
Application granted granted Critical
Publication of CN106302522B publication Critical patent/CN106302522B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/20Network architectures or network communication protocols for network security for managing network security; network security policies in general
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/142Network analysis or design using statistical or mathematical methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • H04L41/147Network analysis or design for predicting network behaviour

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Security & Cryptography (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Physics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Pure & Applied Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Algebra (AREA)
  • Computer Hardware Design (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于神经网络和大数据的网络安全态势分析方法和系统,系统包括数据采集模块,数据分析模块和态势预测模块;数据采集模块在Flume组件上实现分布式的大数据采集;数据分析模块基于MapReduce并行化计算框架实现大数据的分布式处理,包括关联规则的挖掘和基于时间维度的初步态势预测;前两个模块包含在神经网络的输入层中,通过隐含层对输入层数据的融合处理传送给输出层,输出层通过局部态势判决结果,得出总体的安全态势分析预测情况,将这些有价值的数据存储在HBASE数据库中方便后续查询和展示。本发明通过神经网络和大数据分析进行自我学习和调整,实现了对大数据的网络安全态势分析。

Description

一种基于神经网络和大数据的网络安全态势分析方法和系统
技术领域
本项发明涉及网络安全、大数据分析、机器学习领域,特别涉及一种基于神经网络和大数据的网络安全态势分析方法和系统。
背景技术
计算机技术和通信技术迅速发展,用户需求快速增长,使得计算机网络的应用越来越广、规模越来越大.在日益复杂的计算机网络环境和动态变化的攻防场景下,获取网络当前的安全状况并预测其未来的变化趋势,可以为安全管理员的安全操作和决策提供依据和指导,从而提高网络防御的主动性。同时,在大数据时代下,网络安全事件层出不穷,传统单一的防御设备或者检测设备无法满足安全需求。传统的网络安全态势分析虽然能够综合各方面的安全因素,从整体上动态反映网络安全状况,并对安全状况的发展趋势进行预测和预警,但是在面对大数据时也显得有些无能为力。
发明内容
本发明的目的在于克服现有技术的不足,提出一种基于神经网络和大数据的网络安全态势分析方法和系统,解决了传统的网络安全态势系统面对大数据时不能进行有效分析处理的问题,通过神经网络和大数据分析进行自我学习和调整,实现了对大数据的网络安全态势分析。
本发明解决其技术问题所采用的技术方案是:
一种基于神经网络和大数据的网络安全态势分析方法,应用在包括输入层、隐含层和输出层的神经网络上,包括如下步骤:
通过Flume组件在神经网络的输入层实现分布式的大数据采集;
通过MapReduce并行化计算在神经网络的输入层实现对采集的大数据进行清洗预处理、清洗和态势分析,将获得的初步态势预测结果输出给神经网络的隐含层;所述清洗包括数据降维和聚类分析;所述态势分析包括关联规则挖掘和基于时间维度的初步态势预测;
神经网络隐含层的每一个神经元接收所述输入层输出的初步态势预测结果,隐含层根据输入层与隐含层神经元之间的连接权值及隐含层神经元的输出阈值进行信息融合获得局部态势判决结果并输出给神经网络的输出层;
神经网络输出层的每一个神经元接收所述隐含层输出的局部态势判决结果,输出层根据隐含层与输出层神经元之间的连接权值及输出层神经元的输出阈值进行信息融合和自学习获得总体的安全态势判决结果,并存储到HBASE数据库中。
优选的,所述清洗预处理的步骤包括:
分片采集到的大数据;
数字化分片数据中每一条记录中的流量特征;
去除记录中的无关特征和符号;
合并预处理好的数据并输出。
优选的,所述数据降维采用特征分解算法对数据进行降维,包括:
将清洗预处理后的数据转化为矩阵A;
通过矩阵A转换得到临时的对角矩阵B;
将对角矩阵B进行特征分解得到特征向量矩阵C;
将特征向量矩阵C和矩阵A相乘得到待处理数据的特征向量矩阵D;
将原始矩阵A和矩阵D的转置相乘得到最终的降维数据。
优选的,所述聚类分析采用欧氏距离来判断,把每一条记录属于哪一个类别进行划分,包括:
扫描降维后的数据,随机选取若干个点作为初始的聚类中心;
将降维后的数据按照相同的大小进行分片处理;
每个计算节点读取数据,根据初始聚类中心进行聚类;
重新计算新划分的每一个类别的中心;
汇总所有的新的聚类中心;
判断是否满足聚类分析的结束阈值,若满足条件则根据新的聚类中心输出数据。
优选的,所述关联规则挖掘采用并行频繁项集挖掘算法来发现每一条记录之间的关联规
则,包括:
扫描聚类后的数据并进行数据的切片分组;
将每一个分组的数据生成一棵蕴含频繁项集的FP树;
对生成的FP树进行关联规则和频繁项集的挖掘;
根据挖掘的频繁项集分析并存储安全状况和危险状况下的记录特征。
优选的,所述基于时间维度的初步态势预测,包括:基于数据记录采集的时间先后,将
数据按照时间段进行分片,划分时间段后,通过对比前一个时间段和当前时间段数据记
录的安全状况和危险状况进行初步态势预测。
优选的,所述信息融合和自学习的步骤包括:
隐含层的神经元和输出层的神经元全连接,输出层接收来自隐含层的所有局部态势判决结果;
初始化每一层中的每一个神经元所包含的权值和阈值;
输出层将隐含层的所有输出和对应的权值相乘后进行累加,并将所有的局部态势判决结果进行融合;
把本次融合后的结果和前一次融合后输出层的结果进行比较,获得学习误差;
根据获得的学习误差调整每一个神经元的权值和阈值;如果学习误差为正值,则按照比例减小权值和阈值;如果学习误差为负值,则按照比例增大权值和阈值;
判断学习误差是否在预设的可接受的范围之内或者是否达到学习的最大次数;如果是,输出安全态势判决结果。
优选的,所述输入层的神经元和隐含层的神经元全连接。
一种基于神经网络和大数据的网络安全态势分析系统,包括:数据采集模块、数据分析模块和态势预测模块;所述数据采集模块用于通过Flume组件在神经网络的输入层实现分布式的大数据采集,并将采集到的大数据输出给所述数据分析模块;所述数据分析模块用于通过MapReduce并行化计算在神经网络的输入层实现对输入的大数据进行初步态势预测,并将初步态势预测结果输出给所述态势预测模块;所述态势预测模块用于通过神经网络隐含层和输出层的信息融合和自学习获得总体的安全态势判决结果,并将所述安全态势判决结果存储到HBASE数据库。
本发明具有如下有益效果:
(1)本发明将采集的大数据划分为多个子集,由于数据量巨大,单一节点或处理器不能同时处理,因此把整个数据划分为大小相同的分片,每一个分片就是整个数据的一个子集,具体划分过程由MapReduce编成框架透明的执行,在Hadoop平台的每个节点上同时处理分片后的一块数据,提高整体运行的效率,具有很好的伸缩性和鲁棒性;
(2)本发明对于网络安全的态势预测是通过综合所有的局部结果得到的一个全面而综合的判决;得到判决结果后存储在数据仓库中,为后续的误差调整提供了可靠的数据依赖,从而实现一个不断优化的自适应过程;
(3)通过神经网络和大数据分析进行自我学习和调整,实现了对大数据的网络安全态势分析,同时提高了网络安全态势分析预测的处理效率和准确性;
(4)将最终的计算结果中有价值的部分数据写入HBase中;用户通过接口读取存储在HBase中的预测结果。
以下结合附图及实施例对本发明作进一步详细说明,但本发明的一种基于神经网络和大数据的网络安全态势分析方法和系统不局限于实施例。
附图说明
图1是本发明方法的流程图;
图2是本发明方法的清洗预处理的流程图;
图3是本发明方法的数据降维的流程图;
图4是本发明方法的聚类分析的流程图;
图5是本发明方法的关联规则挖掘的流程图;
图6是本发明方法的信息融合和自学习的流程图;
图7是本发明系统的逻辑图;
图8是本发明系统的架构图;
图9是本发明系统的工作流程图。
具体实施方式
一种基于神经网络和大数据的网络安全态势分析方法,应用在包括输入层、隐含层和输出层的神经网络上,如图1所示,包括如下步骤:
步骤101,通过Flume组件在神经网络的输入层实现分布式的大数据采集;
步骤102,通过MapReduce并行化计算在神经网络的输入层实现对采集的大数据进行清洗预处理、清洗和态势分析,将获得的初步态势预测结果输出给神经网络的隐含层;所述清洗包括数据降维和聚类分析;所述态势分析包括关联规则挖掘和基于时间维度的初步态势预测;
步骤103,神经网络隐含层的每一个神经元接收所述输入层输出的初步态势预测结果,隐含层根据输入层与隐含层神经元之间的连接权值及隐含层神经元的输出阈值进行信息融合获得局部态势判决结果并输出给神经网络的输出层;所述输入层的神经元和隐含层的神经元全连接;
步骤104,神经网络输出层的每一个神经元接收所述隐含层输出的局部态势判决结果,输出层根据隐含层与输出层神经元之间的连接权值及输出层神经元的输出阈值进行信息融合和自学习获得总体的安全态势判决结果,并存储到HBASE数据库中。
进一步的,如图2所示,所述清洗预处理的步骤包括:
步骤201,分片采集到的大数据;
步骤202,数字化分片数据中每一条记录中的流量特征;
步骤203,去除记录中的无关特征和符号;
步骤204,合并预处理好的数据并输出。
进一步的,如图3所示,所述数据降维采用特征分解算法对数据进行降维,包括:
步骤301,将清洗预处理后的数据转化为矩阵A;
步骤302,通过矩阵A转换得到临时的对角矩阵B;
步骤303,将对角矩阵B进行特征分解得到特征向量矩阵C;
步骤304,将特征向量矩阵C和矩阵A相乘得到待处理数据的特征向量矩阵D;
步骤305,将原始矩阵A和矩阵D的转置相乘得到最终的降维数据。
进一步的,如图4所示,所述聚类分析采用欧氏距离来判断,把每一条记录属于哪一个类别进行划分,包括:
步骤401,扫描降维后的数据,随机选取若干个点作为初始的聚类中心;
步骤402,将降维后的数据按照相同的大小进行分片处理;
步骤403,每个计算节点读取数据,根据初始聚类中心进行聚类;
步骤404,重新计算新划分的每一个类别的中心;
步骤405,汇总所有的新的聚类中心;
步骤406,判断是否满足聚类分析的结束阈值,若满足条件则根据新的聚类中心输出
数据。
进一步的,如图5所示,所述关联规则挖掘采用并行频繁项集挖掘算法来发现每一条记录之间的关联规则,包括:
步骤501,扫描聚类后的数据并进行数据的切片分组;
步骤502,将每一个分组的数据生成一颗蕴含频繁项集的FP树;
步骤503,对生成的FP树进行关联规则和频繁项集的挖掘;
步骤504,根据挖掘的频繁项集分析并存储安全状况和危险状况下的记录特征。
优选的,所述基于时间维度的初步态势预测,包括:基于数据记录采集的时间先后,将
数据按照时间段进行分片,划分时间段后,通过对比前一个时间段和当前时间段数据记
录的安全状况和危险状况进行初步态势预测。
进一步的,如图6所示,所述信息融合和自学习的步骤包括:
步骤601,隐含层的神经元和输出层的神经元全连接,输出层接收来自隐含层的所有局部态势判决结果;
步骤602,初始化每一层中的每一个神经元所包含的权值和阈值;
步骤603,输出层将隐含层的所有输出和对应的权值相乘后进行累加,并将所有的局部态势判决结果进行融合;
步骤604,把本次融合后的结果和前一次融合后输出层的结果进行比较,获得学习误差;
步骤605,根据获得的学习误差调整每一个神经元的权值和阈值;如果学习误差为正值,则按照比例减小权值和阈值;如果学习误差为负值,则按照比例增大权值和阈值;
步骤606,判断学习误差是否在预设的可接受的范围之内或者是否达到学习的最大次数;如果是,输出安全态势判决结果。
一种基于神经网络和大数据的网络安全态势分析系统包括数据采集模块、数据分析模块和态势预测模块,如图7所示为本发明系统的逻辑图。
所述数据采集模块用于在Flume组件上实现分布式的大数据采集。
在所述数据分析模块处理数据前,对采集的原始数据采用基于MapReduce并行化计算框架的方式进行数据清洗预处理,原始数据以一行一行的记录形式保存,其中包含许多的流量特征,由于在后续的处理中主要针对的是数字形式的特征处理,因此数据清洗预处理的第一步就是把每一条记录中的流量特征数字化,第二步把记录中的一些与特征无关的符号清洗去除掉。数据清洗预处理之后进行数据清洗的第一步为减少数据的维度,数据降维采用特征分解算法。特征分解算法主要求解的是协方差矩阵的特征向量和特征值,对于每一个特征值和特征向量,可以根据算法中的公式推导,从而得到相应的特征矩阵,并实现样本数据的降维。进行数据分析首先要根据数据的特征进行聚类汇总,相关的数据记录在一个类别中,便于发现后续规律,因此数据清洗的第二步就是进行数据的聚类分析。具体的,所述聚类分析采用欧氏距离来判断,把每一条记录属于哪一个类别进行划分。进一步的,数据分析模块基于MapReduce并行化计算框架实现大数据的分布式处理,包括关联规则的挖掘和基于时间维度的初步态势预测。具体的,采用并行频繁项集挖掘算法来发现每一条记录之间的关联规则,算法分为2个阶段,第一阶段,通过扫描所有的数据生成蕴含所有频繁项集的FP树,第二阶段对已经生成的FP树进行挖掘关联规则和频繁项集,存储安全状况和危险状况下的记录特征,数据记录的采集有时间先后,在算法中把数据按照时间段进行分片,划分时间段后,通过对比前一个时间段和当前时间段数据记录的安全状况和危险状况进行初步的预测。
如上所述的所述数据采集模块和数据分析模块包含在神经网络的输入层中,数据集切分后的每一个分片交给神经网络输入层的一个神经元处理,得到的一个初步的态势预测结果就是输入层向隐含层传递的输出值。各层神经元之间实现全连接,隐含层中的每一个神经元都会收到输入层的所有输出,输入层和隐含层之间的每一个连接都有一个权值,把对应的输入值和权值相乘后进行汇总再和该神经元的阈值比较,得出隐含层的输出值,通过隐含层对输入层数据的这种融合处理方式把初步结果传送给输出层。输入层中的每一个神经元处理的是整个数据中的一个局部记录,因此通过隐含层的汇总后得到的是一个局部的态势判决结果输出层通过和隐含层一样的方法把所有的局部态势结果融合处理,得出总体的安全态势分析预测情况,将这些有价值的数据存储在HBASE数据库中方便后续查询和展示。
进一步的,如图8所示为本发明系统的架构图,包括:Flume数据采集组件801、HDFS分布式文件系统802、Hive数据仓库803、MapReduce并行化计算框架804、Zookeeper组件805和HBASE数据库806。具体的,Flume组建一个分布式的数据采集模块,基于多台数据服务器进行并行化的数据收集。采集到的数据是杂乱的包含很多无效信息的原始数据,存储在HDFS中,便于集群中的所有节点对原始数据进行清洗等。得到有效的数据从HDFS中将数据装载入数据仓库Hive中等待MapReduce计算框架进行下一步的处理。对装载的数据进行分析,在MapReduce框架中完成了态势的分析得到有价值的数据存储在HBASE数据库中,应用程序端通过HBASE查询数据并展现,Zookeeper实现平台的配置和系统进程的协调工作。
如图9所示为图8所示系统的工作流程图,在本发明的系统中Zookeeper组件起着至关重要的作用,与FLUME服务器的交互,写入FLUME配置与读取HDFS配置信息,FLUME根据HDFS的配置信息将数据写入到HDFS中;与Hadoop集群的交互,Hadoop集群将HDFS的配置信息写入到Zookeeper;与Hive服务器的交互,Hive服务器读取HDFS的配置,读取HBASE的配置;与HBASE K/V分布式数据库的交互,把HBASE配置信息写入Zookeeper。Zookeeper充当一个配置管理的角色;FLUME一般部署在业务服务器上。Zookeeper是一个核心组件,协调控制整个系统。
工作流程的具体步骤如下:
步骤901,启动系统,等待接收数据;
步骤902,启动ZooKeeper组件,对FLUME、HDFS、MapReduce、Hive、HBase的配置信息进行交互;
步骤903,接收采集数据,并向HDFS中存储数据;
步骤904,存储原始数据和步骤905中处理的中间数据;
步骤905,读取存储在HDFS中的数据,并进行数据数据分析处理;
步骤906,从HDFS中读取处理的中间结果,并对中间结果进行分析;
步骤907,将最终的计算结果中有价值的部分数据写入在HBase中;
步骤908,用户通过接口读取存储在HBase中的预测结果。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (9)

1.一种基于神经网络和大数据的网络安全态势分析方法,其特征在于,应用在包括输入层、隐含层和输出层的神经网络上,包括:
通过Flume组件在神经网络的输入层实现分布式的大数据采集;
通过MapReduce并行化计算在神经网络的输入层实现对采集的大数据进行清洗预处理、清洗和态势分析,将获得的初步态势预测结果输出给神经网络的隐含层;所述清洗包括数据降维和聚类分析;所述态势分析包括关联规则挖掘和基于时间维度的初步态势预测;
神经网络隐含层的每一个神经元接收所述输入层输出的初步态势预测结果,隐含层根据输入层与隐含层神经元之间的连接权值及隐含层神经元的输出阈值进行信息融合获得局部态势判决结果并输出给神经网络的输出层;
神经网络输出层的每一个神经元接收所述隐含层输出的局部态势判决结果,输出层根据隐含层与输出层神经元之间的连接权值及输出层神经元的输出阈值进行信息融合和自学习获得总体的安全态势判决结果,并存储到HBASE数据库中。
2.根据权利要求1所述的基于神经网络和大数据的网络安全态势分析方法,其特征在于,所述清洗预处理的步骤包括:
分片采集到的大数据;
数字化分片数据中每一条记录中的流量特征;
去除记录中的无关特征和符号;
合并预处理好的数据并输出。
3.根据权利要求2所述的基于神经网络和大数据的网络安全态势分析方法,其特征在于,所述数据降维采用特征分解算法对数据进行降维,包括:
将清洗预处理后的数据转化为矩阵A;
通过矩阵A转换得到临时的对角矩阵B;
将对角矩阵B进行特征分解得到特征向量矩阵C;
将特征向量矩阵C和矩阵A相乘得到待处理数据的特征向量矩阵D;
将原始矩阵A和矩阵D的转置相乘得到最终的降维数据。
4.根据权利要求3所述的基于神经网络和大数据的网络安全态势分析方法,其特征在于,所述聚类分析采用欧氏距离来判断,把每一条记录属于哪一个类别进行划分,包括:
扫描降维后的数据,随机选取若干个点作为初始的聚类中心;
将降维后的数据按照相同的大小进行分片处理;
每个计算节点读取数据,根据初始聚类中心进行聚类;
重新计算新划分的每一个类别的中心;
汇总所有的新的聚类中心;
判断是否满足聚类分析的结束阈值,若满足条件则根据新的聚类中心输出数据。
5.根据权利要求4所述的基于神经网络和大数据的网络安全态势分析方法,其特征在于,所述关联规则挖掘采用并行频繁项集挖掘算法来发现每一条记录之间的关联规则,包括:
扫描聚类后的数据并进行数据的切片分组;
将每一个分组的数据生成一棵蕴含频繁项集的FP树;
对生成的FP树进行关联规则和频繁项集的挖掘;
根据挖掘的频繁项集分析并存储安全状况和危险状况下的记录特征。
6.根据权利要求5所述的基于神经网络和大数据的网络安全态势分析方法,其特征在于,所述基于时间维度的初步态势预测,包括:基于数据记录采集的时间先后,将数据按照时间段进行分片,划分时间段后,通过对比前一个时间段和当前时间段数据记录的安全状况和危险状况进行初步态势预测。
7.根据权利要求6所述的基于神经网络和大数据的网络安全态势分析方法,其特征在于,
所述信息融合和自学习的步骤包括:
隐含层的神经元和输出层的神经元全连接,输出层接收来自隐含层的所有局部态势判决结果;
初始化每一层中的每一个神经元所包含的权值和阈值;
输出层将隐含层的所有输出和对应的权值相乘后进行累加,并将所有的局部态势判决结果进行融合;
把本次融合后的结果和前一次融合后输出层的结果进行比较,获得学习误差;
根据获得的学习误差调整每一个神经元的权值和阈值;如果学习误差为正值,则按照比例减小权值和阈值;如果学习误差为负值,则按照比例增大权值和阈值;
判断学习误差是否在预设的可接受的范围之内或者是否达到学习的最大次数;如果是,输出安全态势判决结果。
8.根据权利要求1所述的基于神经网络和大数据的网络安全态势分析方法,其特征在于,所述输入层的神经元和隐含层的神经元全连接。
9.一种基于神经网络和大数据的网络安全态势分析系统,其特征在于,包括:数据采集模块、数据分析模块和态势预测模块;所述数据采集模块用于通过Flume组件在神经网络的输入层实现分布式的大数据采集,并将采集到的大数据输出给所述数据分析模块;所述数据分析模块用于通过MapReduce并行化计算在神经网络的输入层实现对输入的大数据进行初步态势预测,并将初步态势预测结果输出给所述态势预测模块;所述态势预测模块用于通过神经网络隐含层和输出层的信息融合和自学习获得总体的安全态势判决结果,并将所述安全态势判决结果存储到HBASE数据库。
CN201610833485.1A 2016-09-20 2016-09-20 一种基于神经网络和大数据的网络安全态势分析方法和系统 Active CN106302522B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610833485.1A CN106302522B (zh) 2016-09-20 2016-09-20 一种基于神经网络和大数据的网络安全态势分析方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610833485.1A CN106302522B (zh) 2016-09-20 2016-09-20 一种基于神经网络和大数据的网络安全态势分析方法和系统

Publications (2)

Publication Number Publication Date
CN106302522A true CN106302522A (zh) 2017-01-04
CN106302522B CN106302522B (zh) 2019-08-06

Family

ID=57711497

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610833485.1A Active CN106302522B (zh) 2016-09-20 2016-09-20 一种基于神经网络和大数据的网络安全态势分析方法和系统

Country Status (1)

Country Link
CN (1) CN106302522B (zh)

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107181612A (zh) * 2017-05-08 2017-09-19 深圳市众泰兄弟科技发展有限公司 一种基于大数据的可视化网络安全监控方法
CN107453921A (zh) * 2017-09-08 2017-12-08 四川省电科互联网加产业技术研究院有限公司 基于非线性神经网络的智慧城市系统人工智能评价方法
CN107944180A (zh) * 2017-12-08 2018-04-20 成都谷问信息技术有限公司 适用于大数据分析的系统
CN108133148A (zh) * 2017-12-22 2018-06-08 北京明朝万达科技股份有限公司 数据安全检查方法及系统
CN108197488A (zh) * 2017-12-25 2018-06-22 大国创新智能科技(东莞)有限公司 基于大数据与神经网络的信息隐藏、提取方法及系统
CN109471965A (zh) * 2018-10-26 2019-03-15 四川才子软件信息网络有限公司 一种基于大数据的网络舆情数据采集、处理方法及监测平台
CN110109906A (zh) * 2019-05-08 2019-08-09 上海泰豪迈能能源科技有限公司 数据存储系统及方法
CN111585948A (zh) * 2020-03-18 2020-08-25 宁波送变电建设有限公司永耀科技分公司 一种基于电网大数据的网络安全态势智能预测方法
CN111600735A (zh) * 2019-02-21 2020-08-28 烽火通信科技股份有限公司 一种样本数据的处理方法、系统及装置
CN111899106A (zh) * 2020-08-06 2020-11-06 天津大学 一种期货大数据可视分析系统
CN112214928A (zh) * 2020-09-27 2021-01-12 贵州电网有限责任公司 一种低压配电网多源数据处理与融合方法及系统
CN112949821A (zh) * 2021-01-28 2021-06-11 河北师范大学 基于双重注意力机制的网络安全态势感知方法
TWI745761B (zh) * 2019-04-16 2021-11-11 日商三菱電機股份有限公司 安全通訊裝置、安全通訊方法以及安全通訊程式產品
CN116074127A (zh) * 2023-04-03 2023-05-05 成都工业职业技术学院 一种基于大数据的自适应网络安全态势评估模型
CN116582249A (zh) * 2023-07-14 2023-08-11 山东极光智能科技有限公司 一种基于大数据的网络安全分析方法及系统
CN116708208A (zh) * 2023-08-07 2023-09-05 山东慧贝行信息技术有限公司 一种基于机器学习的网络数据传输态势预测方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103905440A (zh) * 2014-03-28 2014-07-02 哈尔滨工程大学 一种基于日志和snmp信息融合的网络安全态势感知分析方法
CN104123368A (zh) * 2014-07-24 2014-10-29 中国软件与技术服务股份有限公司 基于聚类的大数据属性重要性和辨识度的预警方法及系统
CN104142986A (zh) * 2014-07-24 2014-11-12 中国软件与技术服务股份有限公司 一种基于聚类的大数据态势分析预警方法及系统
CN104410992A (zh) * 2014-10-30 2015-03-11 重庆邮电大学 分布式传感网络基于信任的态势数据融合方法
CN106254330A (zh) * 2016-07-29 2016-12-21 中国电子科技集团公司第五十四研究所 一种基于bp神经网络的软件定义网络入侵检测方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103905440A (zh) * 2014-03-28 2014-07-02 哈尔滨工程大学 一种基于日志和snmp信息融合的网络安全态势感知分析方法
CN104123368A (zh) * 2014-07-24 2014-10-29 中国软件与技术服务股份有限公司 基于聚类的大数据属性重要性和辨识度的预警方法及系统
CN104142986A (zh) * 2014-07-24 2014-11-12 中国软件与技术服务股份有限公司 一种基于聚类的大数据态势分析预警方法及系统
CN104410992A (zh) * 2014-10-30 2015-03-11 重庆邮电大学 分布式传感网络基于信任的态势数据融合方法
CN106254330A (zh) * 2016-07-29 2016-12-21 中国电子科技集团公司第五十四研究所 一种基于bp神经网络的软件定义网络入侵检测方法

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107181612A (zh) * 2017-05-08 2017-09-19 深圳市众泰兄弟科技发展有限公司 一种基于大数据的可视化网络安全监控方法
CN107453921A (zh) * 2017-09-08 2017-12-08 四川省电科互联网加产业技术研究院有限公司 基于非线性神经网络的智慧城市系统人工智能评价方法
CN107944180A (zh) * 2017-12-08 2018-04-20 成都谷问信息技术有限公司 适用于大数据分析的系统
CN108133148A (zh) * 2017-12-22 2018-06-08 北京明朝万达科技股份有限公司 数据安全检查方法及系统
CN108197488A (zh) * 2017-12-25 2018-06-22 大国创新智能科技(东莞)有限公司 基于大数据与神经网络的信息隐藏、提取方法及系统
CN109471965A (zh) * 2018-10-26 2019-03-15 四川才子软件信息网络有限公司 一种基于大数据的网络舆情数据采集、处理方法及监测平台
CN111600735B (zh) * 2019-02-21 2021-08-03 烽火通信科技股份有限公司 一种样本数据的处理方法、系统及装置
CN111600735A (zh) * 2019-02-21 2020-08-28 烽火通信科技股份有限公司 一种样本数据的处理方法、系统及装置
TWI745761B (zh) * 2019-04-16 2021-11-11 日商三菱電機股份有限公司 安全通訊裝置、安全通訊方法以及安全通訊程式產品
CN110109906A (zh) * 2019-05-08 2019-08-09 上海泰豪迈能能源科技有限公司 数据存储系统及方法
CN111585948B (zh) * 2020-03-18 2022-07-26 宁波送变电建设有限公司永耀科技分公司 一种基于电网大数据的网络安全态势智能预测方法
CN111585948A (zh) * 2020-03-18 2020-08-25 宁波送变电建设有限公司永耀科技分公司 一种基于电网大数据的网络安全态势智能预测方法
CN111899106A (zh) * 2020-08-06 2020-11-06 天津大学 一种期货大数据可视分析系统
CN112214928A (zh) * 2020-09-27 2021-01-12 贵州电网有限责任公司 一种低压配电网多源数据处理与融合方法及系统
CN112949821A (zh) * 2021-01-28 2021-06-11 河北师范大学 基于双重注意力机制的网络安全态势感知方法
CN112949821B (zh) * 2021-01-28 2024-02-02 河北师范大学 基于双重注意力机制的网络安全态势感知方法
CN116074127A (zh) * 2023-04-03 2023-05-05 成都工业职业技术学院 一种基于大数据的自适应网络安全态势评估模型
CN116074127B (zh) * 2023-04-03 2023-07-04 成都工业职业技术学院 一种基于大数据的自适应网络安全态势评估系统
CN116582249A (zh) * 2023-07-14 2023-08-11 山东极光智能科技有限公司 一种基于大数据的网络安全分析方法及系统
CN116582249B (zh) * 2023-07-14 2023-09-29 山东极光智能科技有限公司 一种基于大数据的网络安全分析方法及系统
CN116708208A (zh) * 2023-08-07 2023-09-05 山东慧贝行信息技术有限公司 一种基于机器学习的网络数据传输态势预测方法
CN116708208B (zh) * 2023-08-07 2023-10-13 山东慧贝行信息技术有限公司 一种基于机器学习的网络数据传输态势预测方法

Also Published As

Publication number Publication date
CN106302522B (zh) 2019-08-06

Similar Documents

Publication Publication Date Title
CN106302522A (zh) 一种基于神经网络和大数据的网络安全态势分析方法和系统
Li et al. Spatio-temporal graph routing for skeleton-based action recognition
Savage et al. Detection of money laundering groups using supervised learning in networks
CN109543067A (zh) 基于人工智能的企业生产状况实时监控分析系统
CN111556016B (zh) 一种基于自动编码器的网络流量异常行为识别方法
CN109284626A (zh) 面向差分隐私保护的随机森林算法
CN110290022A (zh) 一种基于自适应聚类的未知应用层协议识别方法
CN103237201A (zh) 一种基于社会化标注的案件视频研判方法
CN112668688B (zh) 一种入侵检测方法、系统、设备及可读存储介质
CN113420294A (zh) 基于多尺度卷积神经网络的恶意代码检测方法
CN111401149B (zh) 基于长短期时域建模算法的轻量级视频行为识别方法
CN109886334A (zh) 一种隐私保护的共享近邻密度峰聚类方法
CN105630797B (zh) 数据处理方法及系统
CN113641906A (zh) 基于资金交易关系数据实现相似目标人员识别处理的系统、方法、装置、处理器及其介质
CN106547890B (zh) 海量图像特征向量中的快速聚类预处理方法
Rashid et al. Analysis of dimensionality reduction techniques on Internet of Things data using machine learning
Liu et al. Simple primitives with feasibility-and contextuality-dependence for open-world compositional zero-shot learning
KR102039244B1 (ko) 반딧불 알고리즘을 이용한 데이터 클러스터링 방법 및 시스템
CN113055372B (zh) 一种恶意软件的传播预测方法
CN112287674B (zh) 企业间同名大节点识别方法、系统、电子设备及存储介质
CN118018260A (zh) 网络攻击的检测方法、系统、设备及介质
CN112949778A (zh) 基于局部敏感哈希的智能合约分类方法、系统及电子设备
CN112336354A (zh) 一种基于eeg信号癫痫监测方法
CN114841212B (zh) 基于胶囊网络的智能电网时间序列异常检测方法及系统
Zhang et al. Heterogeneous Feature Based Time Series Classification With Attention Mechanism

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant