CN104869074B - 服务器爆发式数据交换智能处理系统及其方法 - Google Patents
服务器爆发式数据交换智能处理系统及其方法 Download PDFInfo
- Publication number
- CN104869074B CN104869074B CN201510154986.2A CN201510154986A CN104869074B CN 104869074 B CN104869074 B CN 104869074B CN 201510154986 A CN201510154986 A CN 201510154986A CN 104869074 B CN104869074 B CN 104869074B
- Authority
- CN
- China
- Prior art keywords
- data
- processing
- stream
- delivered
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
Abstract
本发明公开了一种服务器爆发式数据交换智能处理系统及其方法,涉及计算机网络技术领域。本系统包括依次连接的数据过滤单元(10)、数据处理单元(20)和数据传输单元(30);本方法是:①基于串行数据处理的数据过滤方法;②基于匹配算法的数据处理方法;③基于交互服务器的数据传输方法。本发明鉴于用户对特定数据流可以进行针对性的处理操作,针对性强,无需用鸟枪法来处理数据;在处理数据时避免了洪泛现象,区别于流氓软件和恶意攻击软件,减轻了网络负担;适用于监测、临侦和取证的设备和系统。
Description
技术领域
本发明涉及计算机网络技术领域,尤其涉及一种服务器爆发式数据交换智能处理系统及其方法,具体涉及无线网络和移动互联网突发性数据选择性处理和传输。
背景技术
目前,由于通信技术的发展,光纤通信也越发成熟,而在接入端的情况却变得复杂,在接入端目前应用较多的有光纤到户(ftth)、以太网(有线或者无线)和移动互联网等。在这种复杂环境下,数据传输模式变得复杂,特别是突发性数据事件经常发生。而在信息安全方面,需要从突发性数据中获取必要的信息,并且做相应的处理。
在突发性数据中获取指定信息有两种技术,一种是将数据并行拷贝一份进行处理,另一种是串行数据处理,两种方式各有利弊。
并行数据处理,适合用于只需要对数据信息的截获和分析而不需要作出过多回应的数据处理情景。优点是可以对数据快速处理并且能够在短时间内处理大量数据;缺点是不能对数据完全截断,不能做出过多复杂的回应。
串行数据处理,适合用于需要对数据信息截获并且要求做出相应回应或者对数据流进行劫持的数据处理情景。优点是可以对数据进行截断和做出较为复杂的回应;缺点是透传数据需要另外的模块处理,在大量数据处理方面达不到前一种方式的效果。
发明内容
本发明的目的在于克服现有数据流处理中大量无关数据流干扰和在回应时出现回应洪泛的问题,提供一种服务器爆发式数据交换智能处理系统及其方法,以解决在大量数据流中无关数据干扰和回应洪范的情况,同时克服了串行数据处理方法在处理大量数据时效率低的困难。
本发明解决其技术问题所采用的技术方案是:
采用串行数据处理方法,在需要处理数据流中加上标签,运用数据包组包方法将标签数据重组,将不同标签的数据流交付给不同的模块处理;采用地址重定向技术截断数据流,对数据进行分析然后做出指定流方向的回应,同时运用交互服务器技术解决中转需要透传的数据流或者获取真实服务器返回信息的需求。
具体地说:
一、服务器爆发式数据交换智能处理系统(简称系统)
本系统包括依次连接的数据过滤单元、数据处理单元和数据传输单元;
二、服务器爆发式数据交换智能处理方法(简称方法)
本方法包括以下步骤:
①基于串行数据处理的数据过滤方法
配置好捕获数据网卡参数,存入系统的普通配置文件中;
对重定向特征配置文件填写重定向内容特征;
对特定网卡上选择性数据加上特定标签,形成特定数据流;
在接收端的地址重定向模块对特定数据流进行重组形成完整的应用层数据;
对应用层数据包进行选择性重定向,便于对重定向数据进行选择性处理和传输;
②基于匹配算法的数据处理方法
根据树形匹配算法匹配数据流中关键字符,交付给不同的处理通道;
对不需要交叉传输的数据,直接进行修改或者重写后交付输出数据流;
对需要交叉传输的数据交付数据传输单元处理;
③基于交互服务器的数据传输方法
对需要透传的域名进行注册;
服务器交互模块获取域名对应IP;
对需要透传的数据做简单处理之后进行交叉传输实现透传;
对需要修改的数据进行处理后交叉传输;
传输模块保存数据传输流的状态直到数据流窗口关闭。
本发明具有下列特点:
①在未知网络突发性事件中,针对大量数据和用户需求能对特定数据流进行有效处理;
②运用地址重定向技术,极大提高了数据处理效率和成功率;
③运用交互服务器技术,极大提高了串行数据处理的传输效率和成功率;
④运用标签来标记需要处理的数据流,能够剔除无关数据,提高数据处理效率和速率。
依据上述特点和实际应用,本发明收到下列的有益效果:
①用户对特定数据流可以进行针对性的处理操作,针对性强,无需用鸟枪法来处理数据;
②在处理数据时避免了洪泛现象,区别于流氓软件和恶意攻击软件,减轻了网络负担;
③适用于监测、临侦和取证的设备和系统。
附图说明
图1是本系统的结构方框图;
图2是数据过滤单元10工作流程图;
图3是数据处理单元20工作流程图;
图4是数据传输单元30工作流程图。
其中:
10—数据过滤单元;
11—选择数据流标记模块,12—地址重定向模块,
13—普通配置文件,14—重定向特征配置文件;
20—数据处理单元;
21—数据选择性处理模块;
30—数据传输单元;
31—服务器交互模块,32—传输模块;
40—输入数据流;
50—输出数据流。
具体实施方式
以下结合附图和实施例详细说明:
一、系统
1、总体
如图1,本系统包括依次连接的数据过滤单元10、数据处理单元20和数据传输单元30;
2、功能块
1)数据过滤单元10
数据过滤单元10的硬件配置包括内存单元和I/O传输单元;
数据过滤单元10的软件配置是linux操作系统,包括前后交互的选择数据流标记模块11和地址重定向模块12;
普通配置文件13和数据流标记模块11交互,重定向特征配置文件14和地址重定向模块12交互;
(1)选择数据流标记模块11是一种对特定网口数据获取并做特定标记的功能模块;
(2)地址重定向模块12是一种利用重定向特征配置文件中的特征内容和DNS重定向技术,对特定数据流进行地址重定向的功能模块。
2)数据处理单元20
数据处理单元20的硬件配置包括I/O传输单元和CPU;
数据处理单元20的软件配置是linux操作系统包括数据选择性处理模块21。
(1)数据选择性处理模块21是一种利用树形匹配算法,对重定向数据流进行数据的修改、重写和阻断处理的功能模块。
3)数据传输单元30
数据传输单元30的硬件配置包括I/O传输单元、内存单元和网卡;
数据传输单元30的软件配置是linux操作系统,包括前后交互的服务器交互模块31和数据选择性处理模块32;
(1)服务器交互模块31是一种利用交互服务器技术,对选定的数据流进行数据交互处理的功能模块;
(2)数据选择性处理模块32是一种运用套接字和多线程方法对数据进行快速传输的功能模块。
3、工作机理
1)其数据流向是:
数据过滤单元10将接收的输入数据流40过滤后交付数据处理单元20,数据处理单元20按照需求将能够直接处理的数据处理后直接交付输出数据流50,不能直接交付的处理的交付传输单元30处理,数据传输单元30将需要做传输处理数据加工后也交付输出数据流。
2)其工作原理是:
①数据过滤单元10负责将输入数据流40交付的数据进行打标、重组后按照配置文件对重组数据流完成地址重定向的工作;
②数据处理单元20负责将劫持的数据流按照用户需求做相应处理之后做两方面的交付处理:如果无需透传处理或者无需获取远端服务器数据可直接交付输出数据流50,如果需要透传处理或者需要获取远端服务器数据则交付交互服务器做相应处理;
③数据传输单元30负责接收数据处理单元交付的数据,注册相应域名和相关处理函数后完成数据加工和透传任务。
④数据流重组用到了5个元素:源IP、源端口、目的IP、目的端口和标签,通过这五个元素对特定的数据流进行重组,形成新的数据流。
二、方法
1、数据过滤单元10的工作流程
如图2,数据过滤单元10的工作流程包括下列步骤:
A、接收数据流-101
对输入的数据流进行接收处理;
B、截取指定网口数据流-102
获取指定的网口数据;
C、打标-103
对获取到指定端口数据打上标记,并传递给内部端口用于过滤;
D、判断数据是否有标记-104
是则进入下一步骤E,否则进入步骤J;
E、数据流重组-105
对打标的数据进行数据流重组;
F、解析出数据包重定向内容与配置文件比较-106
解析所有标记的重定向数据包,解析出内容,然后与配置文件里配置的重定向内容特征进行比较;
G、判断是否匹配-107
是则进入下一个步骤H,否则进入步骤J;
H、对此数据流进行地址重定向-108
对匹配到的重定向包进行地址重定向;
I、交付数据处理单元-109
将过滤之后的数据交付给处理模块进行处理;
J、交付输出数据流-110
直接将数据交付给输出流。
2、数据处理单元20的工作流程
如图3,数据处理单元的工作流程包括下列步骤:
a、过滤后数据流-201
接收过滤后的数据位数据处理做准备;
b、创建新的套接字通信-202
运用地址重定向创建新的套接字与源数据流进行通信;
c、匹配用户指令-203
对于用户下达的不同命令对数据进行不同的处理需要进行命令匹配;
d、判断数据是否匹配-204
是则进入下一步骤e,否则进入步骤i;
e、调用处理方法处理数据-205
根据匹配到的处理方式进行相应的处理;
f、判断是否需要透传-206
是则进入下一个步骤g,否则进入步骤h;
g、交付数据传输单元-207
将需要透传数据或者需要获取远端数据交付给数据传输单元处理;
h、交付输出数据流-208
直接交付给输出数据流;
i、简单截断数据流-209
如果对过滤后的数据不做处理则默认是直接截断数据流。
3、数据传输单元30的工作流程
如图4,数据传输单元30的工作流程包括下列步骤:
ⅰ、处理后数据流-301
接收处理后的数据位数据传输做准备;
ⅱ、注册域名到交互服务器-302
由于进行了地址重定向,所以需要将域名注册到交互服务器上,用来获取新的IP地址;
ⅲ、注册处理方法到交互服务器-303
对于需要处理的数据需要将处理数据的方法添加到交互服务器中;
ⅳ、是否需要处理透传数据-304
是则进入下一步骤ⅴ,否则进入步骤ⅵ;
ⅴ、调用处理方法处理数据-305
根据不同的数据进行不同的加工处理更好的服务于用户的意愿;
ⅵ、交付数据输出流-306
将透传数据交付输出数据流。
Claims (1)
1.一种基于服务器爆发式数据交换智能处理系统的处理方法,其特征在于:
所述的处理系统包括依次连接的数据过滤单元(10)、数据处理单元(20)和数据传输单元(30);
所述的数据过滤单元(10)的工作流程包括下列步骤:
A、接收数据流(101)
对输入的数据流进行接收处理;
B、截取指定网口数据流(102)
获取指定的网口数据;
C、打标(103)
对获取到指定端口数据打上标记,并传递给内部端口用于过滤;
D、判断数据是否有标记(104)
是则进入下一步骤E,否则进入步骤J;
E、数据流重组(105)
对打标的数据进行数据流重组;
F、解析出数据包重定向内容与配置文件比较(106)
解析所有标记的重定向数据包,解析出内容,然后与配置文件里配置的重定向内容特征进行比较;
G、判断是否匹配(107)
是则进入下一个步骤H,否则进入步骤J;
H、对此数据流进行地址重定向(108)
对匹配到的重定向包进行地址重定向;
I、交付数据处理单元(109)
将过滤之后的数据交付给处理模块进行处理;
J、交付输出数据流(110)
直接将数据交付给输出流;
所述的数据处理单元(20)的工作流程包括下列步骤:
a、过滤后数据流(201)
接收过滤后的数据位数据处理做准备;
b、创建新的套接字通信(202)
运用地址重定向创建新的套接字与源数据流进行通信;
c、匹配用户指令(203)
对于用户下达的不同命令对数据进行不同的处理需要进行命令匹配;
d、判断数据是否匹配(204)
是则进入下一步骤e,否则进入步骤i;
e、调用处理方法处理数据(205)
根据匹配到的处理方式进行相应的处理;
f、判断是否需要透传(206)
是则进入下一个步骤g,否则进入步骤h;
g、交付数据传输单元(207)
将需要透传数据或者需要获取远端数据交付给数据传输单元(30)处理;
h、交付输出数据流(208)
直接交付给输出数据流;
i、简单截断数据流(209)
如果对过滤后的数据不做处理则默认是直接截断数据流;
所述的数据传输单元(30)的工作流程包括下列步骤:
ⅰ、处理后数据流(301)
接收处理后的数据位数据传输做准备;
ⅱ、注册域名到交互服务器(302)
由于进行了地址重定向,所以需要将域名注册到交互服务器上,用来获取新的IP地址;
ⅲ、注册处理方法到交互服务器(303)
对于需要处理的数据需要将处理数据的方法添加到交互服务器中;
ⅳ、是否需要处理透传数据(304)
是则进入下一步骤ⅴ,否则进入步骤ⅵ;
ⅴ、调用处理方法处理数据(305)
根据不同的数据进行不同的加工处理更好的服务于用户的意愿;
ⅵ、交付数据输出流(306)
将透传数据交付输出数据流;
所述的处理方法是:
①基于串行数据处理的数据过滤方法
配置好捕获数据网卡参数,存入系统的普通配置文件(13)中;
对重定向特征配置文件(14)填写重定向内容特征;
对特定网卡上选择性数据加上特定标签,形成特定数据流;
在接收端的地址重定向模块(12)对特定数据流进行重组形成完整的应用层数据;
对应用层数据包进行选择性重定向,便于对重定向数据进行选择性处理和传输;
②基于匹配算法的数据处理方法
根据树形匹配算法匹配数据流中关键字符,交付给不同的处理通道;
对不需要交叉传输的数据,直接进行修改或者重写后交付输出特定数据流;
对需要交叉传输的数据交付数据传输单元(20)处理;
③基于交互服务器的数据传输方法
对需要透传的域名进行注册;
服务器交互模块(31)获取域名对应IP;
对需要透传的数据做简单处理之后进行交叉传输实现透传;
对需要修改的数据进行处理后交叉传输;
传输模块(32)保存数据传输流的状态直到数据流窗口关闭。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510154986.2A CN104869074B (zh) | 2015-04-02 | 2015-04-02 | 服务器爆发式数据交换智能处理系统及其方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510154986.2A CN104869074B (zh) | 2015-04-02 | 2015-04-02 | 服务器爆发式数据交换智能处理系统及其方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104869074A CN104869074A (zh) | 2015-08-26 |
CN104869074B true CN104869074B (zh) | 2018-02-13 |
Family
ID=53914606
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510154986.2A Active CN104869074B (zh) | 2015-04-02 | 2015-04-02 | 服务器爆发式数据交换智能处理系统及其方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104869074B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106713360B (zh) * | 2017-02-15 | 2020-05-08 | 上海市共进通信技术有限公司 | 基于网关设备实现web加密访问及信息加密存储的方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103701710A (zh) * | 2013-12-20 | 2014-04-02 | 杭州华为数字技术有限公司 | 一种数据传输方法、核心转发设备以及端点转发设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011018850A1 (ja) * | 2009-08-12 | 2011-02-17 | 三菱電機株式会社 | データ転送装置、データ転送方法及びデータ転送システム |
-
2015
- 2015-04-02 CN CN201510154986.2A patent/CN104869074B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103701710A (zh) * | 2013-12-20 | 2014-04-02 | 杭州华为数字技术有限公司 | 一种数据传输方法、核心转发设备以及端点转发设备 |
Also Published As
Publication number | Publication date |
---|---|
CN104869074A (zh) | 2015-08-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104685507B (zh) | 向虚拟云基础结构提供虚拟安全装置架构 | |
CN109417517A (zh) | 针对应用提供数据平面服务 | |
CN107005584A (zh) | 内联服务交换机 | |
CN108881158A (zh) | 数据交互系统和方法 | |
CN104125167A (zh) | 一种流量控制方法和装置 | |
CN104618237B (zh) | 一种基于tcp/udp的广域网加速系统及方法 | |
CN102315974A (zh) | 基于层次化特征分析的tcp、udp流量在线识别方法和装置 | |
CN104601467B (zh) | 一种发送报文的方法和装置 | |
CN102638582B (zh) | 数据通信方法及通信端 | |
CN110290093A (zh) | Sd-wan网络架构及组网方法、报文转发方法 | |
CN103873356B (zh) | 基于家庭网关的应用识别方法、系统和家庭网关 | |
EP3629557B1 (en) | System and method of delivering data that provides service differentiation and monetization in mobile data networks | |
CN105141637A (zh) | 一种以流为粒度的传输加密方法 | |
WO2017058188A1 (en) | Identification of an sdn action path based on a measured flow rate | |
CN107566237A (zh) | 一种数据报文处理方法及装置 | |
CN107181698A (zh) | 单队列多流业务整形的系统和方法 | |
CN109302642A (zh) | 数据采集方法和装置 | |
CN104980461A (zh) | 页面推送方法、装置、服务器和集中式网络管理控制器 | |
CN110034970A (zh) | 网络设备区分判别方法及装置 | |
CN107508828B (zh) | 一种超远程数据交互系统及方法 | |
CN101360090A (zh) | 应用层协议识别方法 | |
CN109889558A (zh) | 面向物联网应用的数据传输方法、中间件及系统 | |
CN104869074B (zh) | 服务器爆发式数据交换智能处理系统及其方法 | |
CN107483341A (zh) | 一种跨防火墙报文快速转发方法及装置 | |
CN107368334A (zh) | 一种业务插件交互系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
EXSB | Decision made by sipo to initiate substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |