CN116225571B - 数据采集系统、存储系统以及交换方法 - Google Patents
数据采集系统、存储系统以及交换方法 Download PDFInfo
- Publication number
- CN116225571B CN116225571B CN202310256618.3A CN202310256618A CN116225571B CN 116225571 B CN116225571 B CN 116225571B CN 202310256618 A CN202310256618 A CN 202310256618A CN 116225571 B CN116225571 B CN 116225571B
- Authority
- CN
- China
- Prior art keywords
- data
- storage
- exchanger
- verification
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/445—Program loading or initiating
- G06F9/44505—Configuring for program initiating, e.g. using registry, configuration files
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Stored Programmes (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供了一种数据采集系统、存储系统以及交换方法,其中,所述数据采集系统包括:配置多个采集器与多个客户端一一连接,以及配置一个采集控制器;在所述采集器中配置一个分类模型、分发控制单元、任务调度分析单元以及多个缓存区;在本申请中,通过在采集器内设置分类模型,在采集的同时将数据进行分类整理,同时根据每一个采集器获得的不同类别数据占用缓存内存的大小来对应的匹配传输信道,将同一类别的数据同步传输到数据交换器中,由于所有的数据都是按照设定周期进行采集的,因此在采集周期完成后,在下一周期没有开始之前,可以将数据初步整理的工作分配在每一个采集器中,节约了数据整理的时间。
Description
技术领域
本申请属于数据采集、存储以及交换技术领域,具体的涉及一种数据采集系统、存储系统以及交换方法。
背景技术
目前企业级数据采集一般都是在客户端或者应用端配置采集软件,以获取客户端和应用端的运行数据、运行日志、监控视频或者采集到的图像数据等。采集到数据后分发至服务器进行数据处理、整理、分析以及清洗等,这种方式造成服务器后端处理任务量大,占用服务器资源;且对于企业级大数据的安全,传统的技术手段基本采用的数据加密、安全隔离以及通过构建防火墙来保证数据安全,但是,只要数据要在网络上进行传输和对应的交换,就有可能通过互联网的安全漏洞、病毒软件等攻入到大数据的数据库,导致数据被窃取。
发明内容
有鉴于此,本发明的主要目的在于提供一种数据采集系统、存储系统以及交换方法。
本发明采用的技术方案如下:
数据采集系统,包括:
配置多个采集器与多个客户端一一连接,所述采集器用于按照设定周期从所述客户端获取资源数据;以及配置一个采集控制器,所述采集控制器被配置为通过控制所述采集器按照设定方式将采集器获取的资源数据发送至数据交换器;
在所述采集器中配置一个分类模型、分发控制单元、任务调度分析单元以及多个缓存区;
所述分类模型用于接收到客户端的资源数据后,将所述资源数据根据资源数据的基础属性进行分类,并将同一类别的资源数据划分成多个独立的数据单元;
所述缓存区连接所述分类模型,用于将同一类别的所述数据单元存储在同一个所述缓存区下;
所述任务调度分析单元连接所述缓存区和所述分发控制单元;
当采集器完成一个周期的采集任务后,向所述采集控制器发送反馈指令,基于,所述反馈指令所述采集控制器向所述分发控制单元发送分发控制指令;
基于所述分发控制指令,所述分发控制单元控制任务调度分析单元来获取每一采集器下不同缓存区中数据单元占用对应缓存区的基础内存,并将每一采集器下不同数据单元占用对应缓存区的基础内存发送至所述采集控制器;
所述采集控制器按照相同类别的数据单元在每一采集器下占用对应缓存区的基础内存的大小来分配采集器与数据交换器之间的网络传输资源,从而实现多个采集器与数据交换器之间同一类别数据单元的同步传输。
进一步地,所述网络传输资源按照如下的方法进行分配:
将多个采集器、数据交换器以及采集控制器进行组网;
获取在采集器中每一类别的数据单元占用对应缓存区的基础内存;
基于在不同的采集器下每一类别的数据单元占用对应缓存区的基础内存的大小来驱动所述采集控制器对应匹配每一采集器和数据交换器之间从传输信道以及传输信道的带宽大小。
本发明还提供了一种数据存储系统,包含上述所述的数据采集系统,其中包括;数据交换器以及存储服务器;
所述存储服务器被配置成具有多个存储模块,配置每一存储模块的存储路径并形成存储配置文件;
所述数据交换器具有:任务管理模块、分析模型、分割模块、验证模块、数据加载规则以及多个交换存储区;
所述分析模型被配置成多个分析单元和分析任务管理器,通过分析任务管理器调度分析任务以及基于分析任务的进行来配置数据单元在分析模型中匹配的训练资源,使得每一所述分析单元在训练资源的支持下对数据单元进行分析,以获取数据单元所对应的多个索引实体,由所述索引实体构成数据单元的索引表;
所述分割模块用于将每一数据单元分割为多个数据区块,记录每一数据区块所对应的区块码,并将所述区块码对应地写在所述索引表的二级目类下;
所述任务管理模块用于获取所述存储配置文件,基于所述存储配置文件,根据存储数据任务的进行来构建至少一个数据存储通道以将数据交换器和对应的存储模块连通,将所述数据区块按照不同的数据存储通道存储到对应的存储模块中,并将对应的存储路径写入对应的索引表的三级目类下;
所述加载规则用于当数据交换器接收客户端的数据交换请求指令时,先通过验证模块完成初始验证后,验证完毕后自动激活任务管理模块,所述任务管理模块按照请求指令所包含的请求数据内容在索引表中查找对应的数据单元和所述数据单元对应的区块码以及区块码对应的存储路径;任务管理模块依次将每一数据单元对应的区块码同步给验证模块,所述验证模块基于同一数据单元对应的区块码形成一个验证规则,所述验证规则为:当任务管理模块以每一区块码对应的存储路径来启用数据存储通道之前,所述数据交换器在验证规则下向客户端发送接入验证;验证通过后,对应的数据存储通道被开启,数据交换器通过数据存储通道依次从对应的存储模块获取数据区块存放至交换存储区,待同一数据单元下的所有数据区块全部存放至交换存储区后,所述数据交换器再将数据区块以及对应的区块码发送至客户端。
进一步地,所述分析模型通过如下的方法进行建立:
获取大量的数据单元进行人工专家进行标记;
标记后按照数据单元的基本属性依次输入至神经网络单元进行迭代训练;
将多个神经网络单元进行组合,得到神经网络模型,即所述分析模型。
进一步地,每一所述数据单元下设置的区块码具有相同的组合结构,所述组合结构至少包含表示数据单元的字段、每一数据区块字段和顺序字段以及数据区块之间相互融合的组合字段。
进一步地,所述数据交换器在验证规则下向客户端发送接入验证,具体包括:
在数据交换器中构建一个监听模块,所述监听模块用于监测客户端与数据交换器之间的接入验证响应;
通过监听客户端与数据交换器之间的验证响应频次来控制验证规则,即当验证响应频次增大时,则控制验证规则对应地增大数据交换器与客户端之间的接入验证,当验证响应频次超过设定阈值时,监听模块形成一个断开指令,数据交换器基于所述断开指令断开数据交换器与客户端之间的连接。
进一步地,所述数据交换器与存储服务器之间通过局域网进行连接。
进一步地,在所述数据交换器中设置一个融合检测模块,所述融合检测模块用于对交换存储区中数据区块所对应的区块码进行融合验证,当融合检测模块检测到多个区块码构成一个完整的数据单元后,向数据交换器发送一个交换确认指令,数据交换器基于交换确认指令将交换存储区内的多个数据区块以及对应的区块码发送至客户端。
进一步地,所述任务管理模块具有:
数据存储通道构建模块,用于根据存储数据任务的进行对应地加载存储路径以在数据交换器和存储模块之间构建数据存储通道;
存储控制模块,用于将得到的所述数据区块按照不同的数据存储通道存储到对应的存储模块中;或,通过所述数据存储通道从存储模块中对应的将数据区块发送至交换存储区;
以及同步模块,用于与验证模块进行数据同步。
数据交换方法,包括上述所述的数据存储系统,其中,所述方法包括如下步骤:
客户端向数据交换器发送数据交换请求,所述数据交换器接收到数据交换请求后通过验证模块向客户端发送初始验证;
验证通过后对所述数据交换请求进行解析,以获取数据交换请求中所包含的请求数据内容;
激活任务管理模块,所述任务管理模块基于所述请求数据内容在索引表中进行对应的检索,以获取对应的数据单元和所述数据单元对应的区块码以及区块码对应的存储路径;同时,所述任务管理模块依次将每一数据单元对应的区块码同步给验证模块,
通过监听客户端与数据交换器之间的验证响应频次来控制验证规则,当任务管理模块以每一区块码对应的存储路径来启用数据存储通道之前,所述数据交换器在验证规则下向客户端发送接入验证;验证通过后,对应的数据存储通道被开启,数据交换器通过数据存储通道依次从对应的存储模块获取数据区块存放至交换存储区,待同一数据单元下的所有数据区块全部存放至交换存储区后,所述数据交换器再将数据区块以及对应的区块码发送至客户端。
进一步地,所述验证规则为当验证响应频次增大时,则控制验证规则对应的增大数据交换器与客户端之间的接入验证,当验证响应频次超过设定阈值时,监听模块形成一个断开指令,数据交换器基于所述断开指令断开数据交换器与客户端之间的连接。
在本申请中,通过在采集器内设置分类模型,在采集的同时将数据进行分类整理,同时根据每一个采集器获得的不同类别数据占用缓存内存的大小来对应的匹配传输信道,将同一类别的数据同步传输到数据交换器中,由于所有的数据都是按照设定周期进行采集的,因此在采集周期完成后,在下一周期没有开始之前,可以将数据初步整理的工作分配在每一个采集器中,节约了数据整理的时间。
在本申请中,通过设置一个数据交换器,该数据交换器作为存储服务器与客户端之间的连接纽带,数据交换器与存储服务器之间通过局域网连接,数据交换器与客户端通过互联网连接,局域网是最好最安全的网络安全物理隔离,相对于互联网来讲,局域网更佳不易通过安全漏洞、病毒软件窃取数据资源;同时,为了满足数据交换的需求,通过在数据交换器中构建数据的存储规则和取出规则来增加数据安全性。
为了保证数据的完整性,在存储规则下,同一个完整的数据单元,被分割成多个数据区块,比如可以按照数据单元的大小进行等量分割,在进行存储时,多个不同类型的数据区块被存储到数据服务器内对应的存储模块中,即便人为的获取了这些数据资源,在没有获取融合规则或者组合规则时,各种数据之间都是不完整的。
在上述中,通过监听客户端与数据交换器之间的验证响应频次来控制验证规则,即当验证响应频次增大时,则控制验证规则对应地增大数据交换器与客户端之间的接入验证,当验证响应频次超过设定阈值时,监听模块形成一个断开指令,数据交换器基于所述断开指令断开数据交换器与客户端之间的连接。也就是当客户端在与数据交换器进行数据交换时,若检测到客户端在重复性的与数据交换器进行验证时,说明此时客户端行为异常,有可能发生了客户端被篡改。
同时数据交换器是没有数据单元的,只有数据交换器与存储服务器通过局域网进行数据交换后,客户端才能从数据交换器获取对应的数据资源,为了便于安全性的建立,数据交换器只有完整的获取一个数据单元后,才能向客户端进行数据的传输,这个过程中,检测到客户端异常后,客户端是不会获取任何数据的,如果同一个客户端存在大量的数据请求,也被视为客户端异常,因此即便获取了部分数据单元,也不会出现大量的数据被泄露。
附图说明
以下附图仅对本发明作示意性的说明和解释,并不用于限定本发明的范围,其中:
图1为本发明中数据采集系统的框架原理图;
图2为本发明中数据存储系统的框架原理示意图;
图3为本发明中数据交换方法的流程图。
具体实施方式
为了使本发明的目的、技术方案、设计方法及优点更加清楚明了,以下结合附图通过具体实施例对本发明进一步详细说明。应当理解,此处所描述的具体实施例仅用于解释本发明,并不用于限定本发明。
实施例1:
参照图1,本发明提供了一种数据采集系统,包括:
配置多个采集器与多个客户端一一连接,所述采集器用于按照设定周期从所述客户端获取资源数据;以及配置一个采集控制器,所述采集控制器被配置为通过控制所述采集器按照设定方式将采集器获取的资源数据发送至数据交换器;
在所述采集器中配置一个分类模型、分发控制单元、任务调度分析单元以及多个缓存区;
所述分类模型用于接收到客户端的资源数据后,将所述资源数据根据资源数据的基础属性进行分类,并将同一类别的资源数据划分成多个独立的数据单元;
所述缓存区连接所述分类模型,用于将同一类别的所述数据单元存储在同一个所述缓存区下;
所述任务调度分析单元连接所述缓存区和所述分发控制单元;
当采集器完成一个周期的采集任务后,向所述采集控制器发送反馈指令,基于所述反馈指令,所述采集控制器向所述分发控制单元发送分发控制指令;
基于所述分发控制指令,所述分发控制单元控制任务调度分析单元来获取每一采集器下不同缓存区中数据单元占用对应缓存区的基础内存,并将每一采集器下不同数据单元占用对应缓存区的基础内存发送至所述采集控制器;
所述采集控制器按照相同类别的数据单元在每一采集器下占用对应缓存区的基础内存的大小来分配采集器与数据交换器之间的网络传输资源,从而实现多个采集器与数据交换器之间同一类别数据单元的同步传输。
在上述中,所述网络传输资源按照如下的方法进行分配:
将多个采集器、数据交换器以及采集控制器进行组网;
获取在采集器中每一类别的数据单元占用对应缓存区的基础内存;
基于在不同的采集器下每一类别的数据单元占用对应缓存区的基础内存的大小来驱动所述采集控制器对应匹配每一采集器和数据交换器之间从传输信道以及传输信道的带宽大小。
在上述中,由于采集器采集到的数据包含了文本、图像、视频等,因此,通过构建一个分类模型,用于接收采集器转发的资源数据,将所述资源数据根据资源数据的基础属性进行分类,分类后将同一类别的资源数据划分成多个独立的数据单元;其中,基础属性可以视为文件的格式,为了便于实施,在分类模块中可以嵌入一个分类模型,具体的,先通过大量的数据样本进行人工专家标注,标注完毕后输入至神经网络模型进行迭代训练,训练完毕后引入至分类模块中,通过分类模型,可以精准的识别不同资源数据的基本格式。
在本申请中,通过在采集器内设置分类模型,在采集的同时将数据进行分类整理,同时根据每一个采集器获得的不同类别数据占用缓存内存的大小来对应的匹配传输信道,将同一类别的数据同步传输到数据交换器中,由于所有的数据都是按照设定周期进行采集的,因此在采集周期完成后,在下一周期没有开始之前,可以将数据初步整理的工作分配在每一个采集器中,节约了数据整理的时间。
上述描述了通过在数据采集过程中进行数据整理的技术方案,其中,采集器通过采集控制器进行统一的控制,比如采集周期设定,采集后传输控制等,保证了数据资源在传输到数据交换器后具有统一格式规范,也便于进行后端存储处理。
为不同的采集器配置不同的传输信道和带宽的目的在于,通过这种设置,在同一规定的时间内,可以完成所有采集器内相同类型的数据单元的传输,便于数据采集器进行二次整理。
实施例2:
参照图2,本实施例公开了一种数据存储系统,包含上述数据采集系统,其中包括;数据交换器以及存储服务器;
所述存储服务器被配置成具有多个存储模块,配置每一存储模块的存储路径并形成存储配置文件;
所述数据交换器具有:任务管理模块、分析模型、分割模块、验证模块、数据加载规则以及多个交换存储区;
所述分析模型被配置成多个分析单元和分析任务管理器,通过分析任务管理器调度分析任务以及基于分析任务的进行来配置数据单元在分析模型中匹配的训练资源,使得每一所述分析单元在训练资源的支持下对数据单元进行分析,以获取数据单元所对应的多个索引实体,由所述索引实体构成数据单元的索引表;
所述分割模块用于将每一数据单元分割为多个数据区块,记录每一数据区块所对应的区块码,并将所述区块码对应地写在所述索引表的二级目类下;
所述任务管理模块用于获取所述存储配置文件,基于所述存储配置文件,根据存储数据任务的进行来构建至少一个数据存储通道以将数据交换器和对应的存储模块连通,将所述数据区块按照不同的数据存储通道存储到对应的存储模块中;并将对应的存储路径写入对应的索引表的三级目类下;
所述加载规则用于当数据交换器接收客户端的数据交换请求指令时,先通过验证模块完成初始验证后,验证完毕后自动激活任务管理模块,所述任务管理模块按照请求指令所包含的请求数据内容在索引表中查找对应的数据单元和所述数据单元对应的区块码以及区块码对应的存储路径;任务管理模块依次将每一数据单元对应的区块码同步给验证模块,所述验证模块基于同一数据单元对应的区块码形成一个验证规则,所述验证规则为:当任务管理模块以每一区块码对应的存储路径来启用数据存储通道之前,所述数据交换器在验证规则下向客户端发送接入验证;验证通过后,对应的数据存储通道被开启,数据交换器通过数据存储通道依次从对应的存储模块获取数据区块存放至交换存储区,待同一数据单元下的所有数据区块全部存放至交换存储区后,所述数据交换器再将数据区块以及对应的区块码发送至客户端。
进一步地,所述分析模型通过如下的方法进行建立:
获取大量的数据单元进行人工专家进行标记;
标记后按照数据单元的基本属性依次输入至神经网络单元进行迭代训练;
将多个神经网络单元进行组合,得到神经网络模型,即所述分析模型。
进一步地,每一所述数据单元下设置的区块码具有相同的组合结构,所述组合结构至少包含表示数据单元的字段、每一数据区块字段和顺序字段以及数据区块之间相互融合的组合字段。
进一步地,所述数据交换器在验证规则下向客户端发送接入验证,具体包括:
在数据交换器中构建一个监听模块,所述监听模块用于监测客户端与数据交换器之间的接入验证响应;
通过监听客户端与数据交换器之间的验证响应频次来控制验证规则,即当验证响应频次增大时,则控制验证规则对应地增大数据交换器与客户端之间的接入验证,当验证响应频次超过设定阈值时,监听模块形成一个断开指令,数据交换器基于所述断开指令断开数据交换器与客户端之间的连接。
进一步地,所述数据交换器与存储服务器之间通过局域网进行连接。
进一步地,在所述数据交换器中设置一个融合检测模块,所述融合检测模块用于对交换存储区中数据区块所对应的区块码进行融合验证,当融合检测模块检测到多个区块码构成一个完整的数据单元后,向数据交换器发送一个交换确认指令,数据交换器基于交换确认指令将交换存储区内的多个数据区块以及对应的区块码发送至客户端。
进一步地,所述任务管理模块具有:
数据存储通道构建模块,用于根据存储数据任务的进行对应地加载存储路径以在数据交换器和存储模块之间构建数据存储通道;
存储控制模块,用于将得到的所述数据区块按照不同的数据存储通道存储到对应的存储模块中;或,通过所述数据存储通道从存储模块中对应地将数据区块发送至交换存储区;
以及同步模块,用于与验证模块进行数据同步。
在本申请中,通过设置一个数据交换器,该数据交换器作为存储服务器与客户端之间的连接纽带,数据交换器与存储服务器之间通过局域网连接,数据交换器与客户端通过互联网连接,局域网是最好最安全的网络安全物理隔离,相对于互联网来讲,局域网更佳不易通过安全漏洞、病毒软件窃取数据资源;同时,为了满足数据交换的需求,通过在数据交换器中构建数据的存储规则和取出规则来增加数据安全性。
为了保证数据的完整性,在存储规则下,同一个完整的数据单元,被分割成多个数据区块,比如可以按照数据单元的大小进行等量分割,在进行存储时,多个不同类型的数据区块被存储到数据服务器内对应的存储模块中,即便人为的获取了这些数据资源,在没有获取融合规则或者组合规则时,各种数据之间都是不完整的。
构成融合规则或者组合规则的区块码在数据交换器中存储,与数据服务器之间具有相对的物理隔离(仅通过局域网连接),增加数据安全性。
在进行数据取出交换时,客户端与数据交换器直接连接,数据交换器中并没有数据资源,只有当客户端向数据交换器发送数据交换请求时,数据交换器根据请求指令所包含的请求数据内容在索引表中查找对应的数据单元和所述数据单元对应的区块码以及区块码对应的存储路径,从而激活任务管理模块,任务管理模块依次将每一数据单元对应的区块码同步给验证模块,所述验证模块基于同一数据单元对应的区块码形成一个验证规则,所述验证规则为:当任务管理模块以每一区块码对应的存储路径来启用数据存储通道之前,所述数据交换器在验证规则下向客户端发送接入验证;验证通过后,对应的数据存储通道被开启,数据交换器通过数据存储通道依次从对应的存储模块获取数据区块存放至交换存储区,待同一数据单元下的所有数据区块全部存放至交换存储区后,所述数据交换器再将数据区块以及对应的区块码发送至客户端。
实施例3:
参照图3,本发明还提供了一种数据交换方法,包括上述数据存储系统,其中,所述方法包括如下步骤:
客户端向数据交换器发送数据交换请求,所述数据交换器接收到数据交换请求后通过验证模块向客户端发送初始验证;
验证通过后对所述数据交换请求进行解析,以获取数据交换请求中所包含的请求数据内容;
激活任务管理模块,所述任务管理模块基于所述请求数据内容在索引表中进行对应的检索,以获取对应的数据单元和所述数据单元对应的区块码以及区块码对应的存储路径;同时,所述任务管理模块依次将每一数据单元对应的区块码同步给验证模块,
通过监听客户端与数据交换器之间的验证响应频次来控制验证规则,当任务管理模块以每一区块码对应的存储路径来启用数据存储通道之前,所述数据交换器在验证规则下向客户端发送接入验证;验证通过后,对应的数据存储通道被开启,数据交换器通过数据存储通道依次的从对应存储模块获取数据区块存放至交换存储区,待同一数据单元下的所有数据区块全部存放至交换存储区后,所述数据交换器再将数据区块以及对应的区块码发送至客户端。
进一步地,所述验证规则为当验证响应频次增大时,则控制验证规则对应地增大数据交换器与客户端之间的接入验证,当验证响应频次超过设定阈值时,监听模块形成一个断开指令,数据交换器基于所述断开指令断开数据交换器与客户端之间的连接。
在上述中,通过监听客户端与数据交换器之间的验证响应频次来控制验证规则,即当验证响应频次增大时,则控制验证规则对应的增大数据交换器与客户端之间的接入验证,当验证响应频次超过设定阈值时,监听模块形成一个断开指令,数据交换器基于所述断开指令断开数据交换器与客户端之间的连接。也就是当客户端在与数据交换器进行数据交换时,若检测到客户端在重复性的与数据交换器进行验证时,说明此时客户端行为异常,有可能发生了客户端被篡改。
同时数据交换器是没有数据单元的,只有数据交换器与存储服务器通过局域网进行数据交换后,客户端才能从数据交换器获取对应的数据资源,为了便于安全性的建立,数据交换器只有完整的获取一个数据单元后,才能向客户端进行数据的传输,这个过程中,检测到客户端异常后,客户端是不会获取任何数据的,如果同一个客户端存在大量的数据请求,也被视为客户端异常,因此即便获取了部分数据单元,也不会出现大量的数据被泄露。
以上已经描述了本发明的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (4)
1.数据采集系统,其特征在于,包括:
配置多个采集器与多个客户端一一连接,所述采集器用于按照设定周期从所述客户端获取资源数据;以及配置一个采集控制器,所述采集控制器被配置为通过控制所述采集器按照设定方式将采集器获取的资源数据发送至数据交换器;
在所述采集器中配置一个分类模型、分发控制单元、任务调度分析单元以及多个缓存区;
所述分类模型用于接收到客户端的资源数据后,将所述资源数据根据资源数据的基础属性进行分类,并将同一类别的资源数据划分成多个独立的数据单元;
所述缓存区连接所述分类模型,用于将同一类别的所述数据单元存储在同一个所述缓存区下;
所述任务调度分析单元连接所述缓存区和所述分发控制单元;
当采集器完成一个周期的采集任务后,向所述采集控制器发送反馈指令,基于所述反馈指令,所述采集控制器向所述分发控制单元发送分发控制指令;
基于所述分发控制指令,所述分发控制单元控制任务调度分析单元来获取每一采集器下不同缓存区中数据单元占用对应缓存区的基础内存,并将每一采集器下不同数据单元占用对应缓存区的基础内存发送至所述采集控制器;
所述采集控制器按照相同类别的数据单元在每一采集器下占用对应缓存区的基础内存的大小来分配采集器与数据交换器之间的网络传输资源,从而实现多个采集器与数据交换器之间同一类别数据单元的同步传输;
所述网络传输资源按照如下的方法进行分配:
将多个采集器、数据交换器以及采集控制器进行组网;
获取在采集器中每一类别的数据单元占用对应缓存区的基础内存;
基于在不同的采集器下每一类别的数据单元占用对应缓存区的基础内存的大小来驱动所述采集控制器对应匹配每一采集器和数据交换器之间从传输信道以及传输信道的带宽大小。
2.数据存储系统,其特征在于,包含权利要求1所述的数据采集系统,其中包括;
数据交换器以及存储服务器;
所述存储服务器被配置成具有多个存储模块,配置每一存储模块的存储路径并形成存储配置文件;
所述数据交换器具有:任务管理模块、分析模型、分割模块、验证模块、数据加载规则以及多个交换存储区;
所述分析模型被配置成多个分析单元和分析任务管理器,通过分析任务管理器调度分析任务以及基于分析任务的进行来配置数据单元在分析模型中匹配的训练资源,使得每一所述分析单元在训练资源的支持下对数据单元进行分析,以获取数据单元所对应的多个索引实体,由所述索引实体构成数据单元的索引表;
所述分割模块用于将每一数据单元分割为多个数据区块,记录每一数据区块所对应的区块码,并将所述区块码对应地写在所述索引表的二级目类下;
所述任务管理模块用于获取所述存储配置文件,基于所述存储配置文件,根据存储数据任务的进行来构建至少一个数据存储通道以将数据交换器和对应的存储模块连通,将所述数据区块按照不同的数据存储通道存储到对应的存储模块中,并将对应的存储路径写入对应的索引表的三级目类下;
所述加载规则用于当数据交换器接收客户端的数据交换请求指令时,先通过验证模块完成初始验证后,验证完毕后自动激活任务管理模块,所述任务管理模块按照请求指令所包含的请求数据内容在索引表中查找对应的数据单元和所述数据单元对应的区块码以及区块码对应的存储路径;任务管理模块依次将每一数据单元对应的区块码同步给验证模块,所述验证模块基于同一数据单元对应的区块码形成一个验证规则,所述验证规则为:当任务管理模块以每一区块码对应的存储路径来启用数据存储通道之前,所述数据交换器在验证规则下向客户端发送接入验证;验证通过后,对应的数据存储通道被开启,数据交换器通过数据存储通道依次从对应的存储模块获取数据区块存放至交换存储区,待同一数据单元下的所有数据区块全部存放至交换存储区后,所述数据交换器再将数据区块以及对应的区块码发送至客户端;
所述分析模型通过如下的方法进行建立:
获取大量的数据单元进行人工专家进行标记;
标记后按照数据单元的基本属性依次输入至神经网络单元进行迭代训练;将多个神经网络单元进行组合,得到神经网络模型,即所述分析模型;
每一所述数据单元下设置的区块码具有相同的组合结构,所述组合结构至少包含表示数据单元的字段、每一数据区块字段和顺序字段以及数据区块之间相互融合的组合字段;
所述数据交换器在验证规则下向客户端发送接入验证,具体包括:
在数据交换器中构建一个监听模块,所述监听模块用于监测客户端与数据交换器之间的接入验证响应;
通过监听客户端与数据交换器之间的验证响应频次来控制验证规则,即当验证响应频次增大时,则控制验证规则对应地增大数据交换器与客户端之间的接入验证,当验证响应频次超过设定阈值时,监听模块形成一个断开指令,数据交换器基于所述断开指令断开数据交换器与客户端之间的连接;
在所述数据交换器中设置一个融合检测模块,所述融合检测模块用于对交换存储区中数据区块所对应的区块码进行融合验证,当融合检测模块检测到多个区块码构成一个完整的数据单元后,向数据交换器发送一个交换确认指令,数据交换器基于交换确认指令将交换存储区内的多个数据区块以及对应的区块码发送至客户端;
所述任务管理模块具有:
数据存储通道构建模块,用于根据存储数据任务的进行对应地加载存储路径以在数据交换器和存储模块之间构建数据存储通道;
存储控制模块,用于将得到的所述数据区块按照不同的数据存储通道存储到对应的存储模块中;或,通过所述数据存储通道从存储模块中对应地将数据区块发送至交换存储区;
以及同步模块,用于与验证模块进行数据同步。
3.根据权利要求2所述的数据存储系统,其特征在于,所述数据交换器与存储服务器之间通过局域网进行连接。
4.数据交换方法,其特征在于,包括权利要求2-3任意一项所述的数据存储系统,其中,所述方法包括如下步骤:
客户端向数据交换器发送数据交换请求,所述数据交换器接收到数据交换请求后通过验证模块向客户端发送初始验证;
验证通过后对所述数据交换请求进行解析,以获取数据交换请求中所包含的请求数据内容;
激活任务管理模块,所述任务管理模块基于所述请求数据内容在索引表中进行对应的检索,以获取对应的数据单元和所述数据单元对应的区块码以及区块码对应的存储路径;同时,所述任务管理模块依次将每一数据单元对应的区块码同步给验证模块,
通过监听客户端与数据交换器之间的验证响应频次来控制验证规则,当任务管理模块以每一区块码对应的存储路径来启用数据存储通道之前,所述数据交换器在验证规则下向客户端发送接入验证;验证通过后,对应的数据存储通道被开启,数据交换器通过数据存储通道依次从对应的存储模块获取数据区块存放至交换存储区,待同一数据单元下的所有数据区块全部存放至交换存储区后,所述数据交换器再将数据区块以及对应的区块码发送至客户端;
所述验证规则为当验证响应频次增大时,则控制验证规则对应地增大数据交换器与客户端之间的接入验证,当验证响应频次超过设定阈值时,监听模块形成一个断开指令,数据交换器基于所述断开指令断开数据交换器与客户端之间的连接。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310256618.3A CN116225571B (zh) | 2023-03-16 | 2023-03-16 | 数据采集系统、存储系统以及交换方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310256618.3A CN116225571B (zh) | 2023-03-16 | 2023-03-16 | 数据采集系统、存储系统以及交换方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116225571A CN116225571A (zh) | 2023-06-06 |
CN116225571B true CN116225571B (zh) | 2023-09-29 |
Family
ID=86576883
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310256618.3A Active CN116225571B (zh) | 2023-03-16 | 2023-03-16 | 数据采集系统、存储系统以及交换方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116225571B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114401461A (zh) * | 2022-03-22 | 2022-04-26 | 深圳市讯禾实业有限公司 | 基于物联网技术多路数据采集及存储系统 |
CN114943287A (zh) * | 2022-05-20 | 2022-08-26 | 辽东学院 | 一种计算机大数据采集处理系统、方法、设备及介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10992533B1 (en) * | 2018-01-30 | 2021-04-27 | Pure Storage, Inc. | Policy based path management |
-
2023
- 2023-03-16 CN CN202310256618.3A patent/CN116225571B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114401461A (zh) * | 2022-03-22 | 2022-04-26 | 深圳市讯禾实业有限公司 | 基于物联网技术多路数据采集及存储系统 |
CN114943287A (zh) * | 2022-05-20 | 2022-08-26 | 辽东学院 | 一种计算机大数据采集处理系统、方法、设备及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN116225571A (zh) | 2023-06-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2022151815A1 (zh) | 一种终端设备的安全状态判断方法及装置 | |
CN112243205A (zh) | 一种基于物联网的多协议融合处理方法 | |
US10972703B2 (en) | Method, device, and storage medium for processing webcam data | |
CN114641080A (zh) | 数据交互方法、传感器网络和存储介质 | |
CN114140082A (zh) | 企业内容管理系统 | |
CN107872435A (zh) | 一种安全验证的方法及装置 | |
CN114925391A (zh) | 隐私信息的流转监管方法、装置、电子设备和存储介质 | |
CN116225571B (zh) | 数据采集系统、存储系统以及交换方法 | |
CN109818831A (zh) | 一种基于dmz的跨专网的系统数据动态监控装置及方法 | |
CN114003600A (zh) | 数据处理方法、系统、电子设备和存储介质 | |
CN105894602A (zh) | 工单处理方法及装置 | |
CN116719956A (zh) | 一种基于大数据的档案分类管理系统和方法 | |
CN109635193B (zh) | 一种书籍阅读共享平台 | |
CN115689277B (zh) | 云边协同技术下的化工园区风险预警系统 | |
CN115426363B (zh) | 智能板材加工工厂的数据采集方法及终端 | |
CN115964754B (zh) | 大数据安全存储方法及装置 | |
CN116049797A (zh) | 一种基于数据分类系统的智能存储系统 | |
WO2022089220A1 (zh) | 图像数据处理方法、装置、设备、存储介质及产品 | |
KR102390000B1 (ko) | 문서 이미지 내 텍스트 추출 서비스 시스템 및 방법 | |
CN107529190B (zh) | 用户数据获取系统和方法 | |
CN110544182B (zh) | 一种基于机器学习技术的配电通信网融合控制方法及系统 | |
CN114546957A (zh) | 一种数据智能集中处理服务平台 | |
KR102580835B1 (ko) | 보안정책 자동화 관리시스템 | |
Sun et al. | Key technology research for mobile police terminal fingerprint collection for quick comparison using automated fingerprint identification system | |
US11835989B1 (en) | FPGA search in a cloud compute node |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB03 | Change of inventor or designer information |
Inventor after: Huang Guangyu Inventor after: Xing Chunyi Inventor after: Sun Linxin Inventor before: Huang Guangyu Inventor before: Xing Chunyi Inventor before: Jia Junping Inventor before: Sun Linxin |
|
CB03 | Change of inventor or designer information | ||
GR01 | Patent grant | ||
GR01 | Patent grant |