CN114546957A - 一种数据智能集中处理服务平台 - Google Patents
一种数据智能集中处理服务平台 Download PDFInfo
- Publication number
- CN114546957A CN114546957A CN202210170642.0A CN202210170642A CN114546957A CN 114546957 A CN114546957 A CN 114546957A CN 202210170642 A CN202210170642 A CN 202210170642A CN 114546957 A CN114546957 A CN 114546957A
- Authority
- CN
- China
- Prior art keywords
- data
- sample data
- sample
- subfolder
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/16—File or folder operations, e.g. details of user interfaces specifically adapted to file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/43—Querying
- G06F16/435—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
- G06F16/45—Clustering; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
- G06F21/55—Detecting local intrusion or implementing counter-measures
- G06F21/56—Computer malware detection or handling, e.g. anti-virus arrangements
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Security & Cryptography (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Multimedia (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- General Health & Medical Sciences (AREA)
- Virology (AREA)
- Storage Device Security (AREA)
Abstract
本发明公开了一种数据智能集中处理服务平台,包括:样本数据处理设备接收样本数据;样本数据预存储模块对样本数据进行预先存储;样本数据检验处理模块对样本数据进行检验筛分,并对病毒数据及垃圾数据进行标记;样本数据杀毒模块将标记的病毒数据及垃圾数据进行粉碎删除处理;样本数据分析模块对粉碎删除处理后的样本数据进行数据类型分析;样本子文件创建模块创建子文件夹;样本数据存储模块按照数据类型分析结果将粉碎删除处理后的样本数据分别集中储存至子文件夹中。本发明通过样本数据检验处理模块与样本数据杀毒模块对样本数据中的病毒数据及垃圾数据进行粉碎删除,减少数据容量,提高数据智能集中处理服务平台对数据的读写速度。
Description
技术领域
本发明涉及数据处理技术领域,具体为一种数据智能集中处理服务平台。
背景技术
数据是对事实、概念或指令的一种表达形式,可由人工或自动化装置进行处理,数据经过解释并赋予一定的意义之后,便成为信息。数据处理是对数据的采集、存储、检索、加工、变换和传输,数据处理的基本目的是从大量的、可能是杂乱无章的、难以理解的数据中抽取并推导出对于某些特定的人们来说是有价值、有意义的数据。
常见的数据智能集中处理服务平台一般直接将样本数据集中存储至存储模块中以供后续处理,但样本数据其自身可能携带有病毒数据或垃圾数据,大量垃圾数据会对平台的存储空间进行占用,使得平台在处理数据时对数据的读取速度降低,影响数据处理的正常进行,同时病毒数据还可能对其他模块或数据进行攻击,导致数据缺失,为此提出一种数据智能集中处理服务平台。
发明内容
(一)解决的技术问题
针对现有技术的不足,本发明提供了一种数据智能集中处理服务平台,以解决上述背景技术中提出的问题。
(二)技术方案
为实现上述目的,本发明提供如下技术方案:一种数据智能集中处理服务平台,包括:样本数据处理设备、样本数据预存储模块、样本数据检验处理模块、样本数据杀毒模块、样本数据分析模块、样本子文件创建模块和样本数据存储模块,所述样本数据处理设备主要作为样本数据的接收基站,接收样本数据;所述样本数据预存储模块主要用于对所述样本数据处理设备接收到的样本数据进行预先存储;所述样本数据检验处理模块用于对样本数据处理设备接收到的样本数据进行检验筛分,并对病毒数据及垃圾数据进行标记;所述样本数据杀毒模块用于针对经过所述样本数据检验处理模块标记的病毒数据及垃圾数据进行粉碎删除处理;所述样本数据分析模块用于对粉碎删除处理后的样本数据进行数据类型分析,获得数据类型分析结果;所述样本子文件创建模块用于根据所述数据类型分析结果创建子文件夹;所述样本数据存储模块用于按照所述数据类型分析结果将粉碎删除处理后的样本数据分别集中储存至所述子文件夹中。
优选的,所述样本数据检验处理模块用于对样本数据处理设备接收到的样本数据进行检验筛分,并对病毒数据及垃圾数据进行标记,包括:
S1、设置病毒数据判断条件以及确认垃圾数据中包含的关键词信息;
S2、将所述样本数据处理设备接收的样本数据导入所述样本数据检验处理模块中;
S3、所述样本数据检验处理模块根据所述病毒数据判断条件对所述样本数据中的病毒数据进行识别与标记,同时根据所述关键词信息对所述样本数据进行检索,确实所述样本数据中的垃圾数据,并对所述样本数据中的垃圾数据进行标记。
优选的,所述数据类型包括:文字、图片、视频及音频,所述样本数据分析模块在对粉碎删除处理后的样本数据进行数据类型分析时,依次分析粉碎删除处理后的样本数据中的数据属于文字、图片、视频还是音频,从而得到数据类型分析结果。
优选的,所述样本子文件创建模块在根据所述数据类型分析结果创建子文件夹时,分别创建文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹,所述文字子文件夹用于集中存储数据类型为文本的样本数据,所述图片子文件夹用于集中存储数据类型为图片的样本数据,视频子文件夹用于集中存储数据类型为视频的样本数据,所述音频子文件夹用于集中存储数据类型为音频的样本数据。
优选的,所述样本数据杀毒模块的内部信息输出端设有数据加密单元和原数据存储单元,将未进行粉碎删除处理的样本数据通过所述数据加密单元进行加密出来后保存到所述原文件存储单元中。
优选的,所述样本子文件创建模块包括:文件夹创建单元和文件夹设置单元;所述样本子文件创建模块在根据所述数据类型分析结果创建子文件夹时,所述文件夹创建单元用于创建基础文件夹,所述文件夹设置单元包括:文字子文件夹设置小单元、图片子文件夹设置小单元、视频子文件夹设置小单元和音频子文件夹设置小单元,所述文字子文件夹设置小单元、图片子文件夹设置小单元、视频子文件夹设置小单元和音频子文件夹设置小单元分别复制所述文件夹创建单元中创建的基础文件夹,获得子文件夹;并按照自身小单元的类型特征分别对所述子文件夹进行属性设置、权限设置以及名称设置,得到文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹。
优选的,所述样本数据存储模块在按照所述数据类型分析结果将粉碎删除处理后的样本数据分别集中储存至所述子文件夹中时,包括:根据所述数据类型分析结果分别确定数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据;针对所述数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据进行传输路线匹配,并传输至与匹配的传输路线对应的传输单元中;在所述传输单元中采用不同的压缩方法对所述数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据分别进行压缩处理,并且在压缩处理完成后将压缩后的数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据传输至对应的文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹进行保存。
优选的,所述样本数据杀毒模块包括:数据粉碎处理单元、数据加密单元和优化数据存储单元,所述数据粉碎处理单元对经过所述样本数据检验处理模块标记的病毒数据及垃圾数据进行粉碎删除处理,获得优化样本数据,所述数据加密单元针对所述优化样本数据进行加密处理后保存到所述优化数据存储单元中,同时将所述优化样本数据输向所述样本数据分析模块。
优选的,所述样本数据分析模块包括:数据接收单元、控制处理单元、数据解密单元和指令输入终端,所述数据接收单元、数据解密单元和指令输入终端均与所述控制处理单元连接,所述控制处理单元还与所述优化数据存储单元连接;所述数据接收单元,用于接收所述样本数据杀毒模块传输的优化样本数据,所述指令输入终端,用于获取所述样本数据分析模块的运行指令,并将所述运行指令输入到所述控制处理单元中,所述控制处理单元按照所述运行指令对所述优化样本数据进行数据类型分析,而且在运行指令出错时,所述控制处理单元获取所述优化数据存储单元中保存的数据信息,并利用所述数据解密单元进行解密后再次进行数据类型分析。
优选的,所述样本数据存储模块还连接有数据提取接口,所述数据提取接口连接外接装置,当所述数据提取接口连接外接装置时,所述外接装置向所述样本数据存储模块发送数据读取指令;所述样本数据存储模块接收所述数据读取指令,并针对所述数据读取指令进行响应,获得数据读取信息,包括:针对所述数据读取指令进行解析,获得数据读取请求信息,然后再根据所述数据读取请求信息确定目标数据以及目标数据所在位置,接着参照所述目标数据所在位置进行目标数据读取,获得数据读取信息;获取所述外接装置的数据传输的状况,确定所述外接装置是仅支持有线数据传输,还是仅支持无线数据传输,还是同时支持有线数据传输和无线数据传输;根据所述外接装置的数据传输的状况,在仅支持有线数据传输时,通过连接线将所述数据读取信息传输至所述外接装置,在仅支持无线数据传输时,根据所述数据读取信息的数据包大小以及上下行数据传输速率确定数据传输的能耗,并结合无线数据传输的特性建立数据传输方案,按照所述数据传输方案进行传输,并在传输时,根据传输数据的时间特点计算所述数据读取信息成功传输的概率,分析所述数据读取信息成功传输的概率并对所述数据传输方案进行动态调整,在同时支持有线数据传输和无线数据传输时,将所述数据读取信息按照比例划分,将部分数据读取信息按照有线数据传输方式进行传输,另一部分按照无线数据传输方式进行传输。
优选的,所述数据加密单元在针对所述优化样本数据进行加密处理时,包括:将所述优化样本数据进行分块,获得多个待加密数据块;判断所述多个待加密数据块的相对重要程度,获得所述待加密数据块的重要性排序;按照所述待加密数据块的重要性排序将重要性排在预设名次之前的待加密数据块采用第一加密策略进行加密处理,对所述待加密数据块中剩余的待加密数据块采用第二加密策略进行加密处理,得到加密后的数据块;其中所述第一加密策略的复杂程度大于所述第二加密策略的复杂程度。
(三)有益效果
与现有技术相比,本发明提供了一种数据智能集中处理服务平台,具备以下有益效果:
1、该数据智能集中处理服务平台,通过样本数据检验处理模块依照关键字对样本数据中含有的病毒数据或垃圾广告数据进行标记,并与样本数据杀毒模块配合,由杀毒模块对带有标记的垃圾数据进行清理粉碎,可减少数据容量,避免数据较大占据大量存储空间而影响平台对数据的读写速度,同时可避免病毒数据对其他数据进行攻击,使得数据缺失而影响数据后续的正常显示读取;
2、该数据智能集中处理服务平台,通过样本数据分析模块及样本子文件创建模块,将样本数据分割为文字、图片、视频及音频四类数据,并对应创建文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹对四类数据进行存放,根据数据类型对样本数据进行分类,使得样本数据可分散存储,避免单一文件夹存放数据过多,便于数据查找处理的同时,不影响平台的读取处理速度。
附图说明
图1为本发明所述的一种数据智能集中处理服务平台的示意图;
图2为本发明所述的一种数据智能集中处理服务平台中样本数据检验处理模块的步骤示意图;
图3为本发明所述的一种数据智能集中处理服务平台中样本子文件创建模块的示意图;
图4为本发明所述的一种数据智能集中处理服务平台中样本杀毒模块的示意图;
图5为本发明所述的一种数据智能集中处理服务平台中样本数据分析模块的示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明提供一种技术方案,一种数据智能集中处理服务平台,包括:样本数据处理设备、样本数据预存储模块、样本数据检验处理模块、样本数据杀毒模块、样本数据分析模块、样本子文件创建模块和样本数据存储模块,所述样本数据处理设备主要作为样本数据的接收基站,接收样本数据;所述样本数据预存储模块主要用于对所述样本数据处理设备接收到的样本数据进行预先存储;所述样本数据检验处理模块用于对样本数据处理设备接收到的样本数据进行检验筛分,并对病毒数据及垃圾数据进行标记;所述样本数据杀毒模块用于针对经过所述样本数据检验处理模块标记的病毒数据及垃圾数据进行粉碎删除处理;所述样本数据分析模块用于对粉碎删除处理后的样本数据进行数据类型分析,获得数据类型分析结果;所述样本子文件创建模块用于根据所述数据类型分析结果创建子文件夹;所述样本数据存储模块用于按照所述数据类型分析结果将粉碎删除处理后的样本数据分别集中储存至所述子文件夹中。
上述技术方案提供的一种数据智能集中处理服务平台中至少设有样本数据处理设备、样本数据预存储模块、样本数据检验处理模块、样本数据杀毒模块、样本数据分析模块、样本子文件创建模块和样本数据存储模块,如图1所示,样本数据处理设备与样本数据预存储模块连接,样本数据处理设备还与样本数据检验处理模块连接,样本数据检验处理模块的另一端连接着样本数据杀毒模块,样本数据杀毒模块还与样本数据分析模块,样本数据分析模块的输出端分别与样本子文件创建模块和样本数据存储模块连接,样本数据存储模块还与样本子文件创建模块连接;在数据智能集中处理服务平台对样本数据进行处理时,样本数据处理设备作为样本数据的接收基站,接收样本数据,然后将样本数据处理设备接收到的样本数据通过预先存储保存到样本数据预存储模块中,同时,样本数据检验处理模块对样本数据处理设备接收到的样本数据进行检验筛分,将样本数据中的病毒数据以及垃圾数据检验处理,并进行标记,接着通过样本数据杀毒模块对经过样本数据检验处理模块标记的病毒数据及垃圾数据进行粉碎删除处理,得到粉碎删除处理后的样本数据,然后再在样本数据分析模块中对粉碎删除处理后的样本数据进行数据类型分析,确定粉碎删除处理后的样本数据中数据的类型,获得数据类型分析结果;样本子文件创建模块根据数据类型分析结果创建子文件夹,最后由样本数据存储模块用于按照数据类型分析结果将粉碎删除处理后的样本数据分别集中储存至子文件夹中。
上述技术方案中的数据智能集中处理服务平台通过样本数据检验处理模块与样本数据杀毒模块对样本数据中的病毒数据及垃圾数据进行粉碎删除,从而将样本数据其自身可能携带有病毒数据或垃圾数据除去,减少病毒数据对数据智能集中处理服务平台的危害,避免病毒数据对数据智能集中处理服务平台中模块或数据进行攻击导致数据缺失,以及避免数据缺失而影响数据后续的正常显示读取,同时还减少了垃圾数据在数据智能集中处理服务平台中存储空间的占用大小,使得数据智能集中处理服务平台中的数据容量富余,避免数据较大占据大量存储空间而影响平台对数据的读写速度,进而提高数据智能集中处理服务平台对数据的读写速度。
进一步地,如图2所示,所述样本数据检验处理模块用于对样本数据处理设备接收到的样本数据进行检验筛分,并对病毒数据及垃圾数据进行标记,包括:
S1、设置病毒数据判断条件以及确认垃圾数据中包含的关键词信息;
S2、将所述样本数据处理设备接收的样本数据导入所述样本数据检验处理模块中;
S3、所述样本数据检验处理模块根据所述病毒数据判断条件对所述样本数据中的病毒数据进行识别与标记,同时根据所述关键词信息对所述样本数据进行检索,确实所述样本数据中的垃圾数据,并对所述样本数据中的垃圾数据进行标记。
上述技术方案的样本数据检验处理模块在根据病毒数据判断条件对样本数据中的病毒数据进行识别与标记时,首先设置病毒数据判断条件以及确认垃圾数据中包含的关键词信息,将病毒数据与垃圾数据的相关判定信息引入到样本数据检验处理模块中,在这里设置病毒数据判断条件以及垃圾数据中包含的关键词信息时可以根据实际情况的样本数据中可能存在的病毒数据和垃圾数据进行确定;然后将样本数据处理设备接收的样本数据导入样本数据检验处理模块中,使得样本数据检验处理模块中存在待处理数据,最后再在样本数据检验处理模块中,根据病毒数据判断条件对样本数据中的病毒数据进行识别与标记,根据关键词信息对样本数据进行检索,确实样本数据中的垃圾数据,并对样本数据中的垃圾数据进行标记。
其中,在根据关键词信息对样本数据进行检索时,通过如步骤进行:
通过如下公式按照关键词信息中的信息在样本数据中进行匹配;
上述公式中,Di为关键词信息中第i个字信息的匹配值,ri为关键词信息中第i个字信息的向量,tj为样本数据中第j个数据信息向量,m为样本数据中数据信息向量的数目,max为取最大值,n为关键词信息中字信息的数目;
在关键词信息中将Di=1的情况筛选出来,并按照次序得到匹配信息集{rk},其中,k的取值范围是大于0小于等于n的,而且与Di=1时的i是相同的;
通过如下公式对匹配信息集进行判断;
上述公式中,a为参数,在这里取2;Y为中间量表示为Y=MATCH(rk,G,O)-MATCH(rk-1,G,O),其中,MATCH为匹配函数;G为样本数据;O表示匹配精度;w为判断值,如果判断值w>0,则表示该关键词信息在样本数据中存在,即样本数据中存在与该关键词信息匹配的垃圾数据,否则样本数据中不存在与该关键词信息匹配的垃圾数据。
上述技术方案通过设置病毒数据判断条件以及确认垃圾数据中包含的关键词信息使得在样本数据检验处理模块中,从而使得按照设置的条件进行检验处理,而且设置病毒数据判断条件以及垃圾数据中包含的关键词信息时可以根据实际情况的样本数据中可能存在的病毒数据和垃圾数据进行确定,能够使得根据样本数据的实际情况进行设置,从而避免病毒数据判断条件以及垃圾数据中包含的关键词信息与样本数据无关的信息过多影响样本数据检验处理模块对样本数据检验处理的效率,提高样本数据中病毒数据及垃圾数据的确定效率,进而使得能够快速对病毒数据及垃圾数据进行标记。
进一步地,所述数据类型包括:文字、图片、视频及音频,所述样本数据分析模块在对粉碎删除处理后的样本数据进行数据类型分析时,依次分析粉碎删除处理后的样本数据中的数据属于文字、图片、视频还是音频,从而得到数据类型分析结果。
上述技术方案中的数据类型分为文字、图片、视频以及音频,样本数据分析模块在对在对粉碎删除处理后的样本数据进行数据类型分析时,针对样本数据依次分析粉碎删除处理后的样本数据中的数据属于文字、图片、视频还是音频,从而得到数据类型分析结果。
上述技术方案通过样本数据分析模块进行数据类型分析明确粉碎删除处理后的样本数据中数据的类型,进而使得能够根据数据类型对样本数据进行分类,进而实现样本数据可分散存储,避免单一文件夹存放数据过多,便于数据查找处理的同时,不影响平台的读取处理速度。
进一步地,如图3所示,所述样本子文件创建模块在根据所述数据类型分析结果创建子文件夹时,分别创建文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹,所述文字子文件夹用于集中存储数据类型为文本的样本数据,所述图片子文件夹用于集中存储数据类型为图片的样本数据,视频子文件夹用于集中存储数据类型为视频的样本数据,所述音频子文件夹用于集中存储数据类型为音频的样本数据。
上述技术方案中的样本子文件创建模块在根据所述数据类型分析结果创建子文件夹时,按照数据类型分别创建文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹,并且使得样本数据存储模块在对粉碎删除处理后的样本数据进行存储时,把数据类型为文本的样本数据集中存储到文字子文件夹,把数据类型为图片的样本数据集中存储到图片子文件夹,把数据类型为视频的样本数据集中存储到视频子文件夹,把数据类型为音频的样本数据集中存储到音频子文件夹。
上述技术方案通过样本子文件创建模块创建文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹,为样本数据提供分散存储的地方,使得相同类型样本数据存储相同的子文件夹中,方便管理以及方便对数据进行读写。
进一步地,所述样本子文件创建模块包括:文件夹创建单元和文件夹设置单元;所述样本子文件创建模块在根据所述数据类型分析结果创建子文件夹时,所述文件夹创建单元用于创建基础文件夹,所述文件夹设置单元包括:文字子文件夹设置小单元、图片子文件夹设置小单元、视频子文件夹设置小单元和音频子文件夹设置小单元,所述文字子文件夹设置小单元、图片子文件夹设置小单元、视频子文件夹设置小单元和音频子文件夹设置小单元分别复制所述文件夹创建单元中创建的基础文件夹,获得子文件夹;并按照自身小单元的类型特征分别对所述子文件夹进行属性设置、权限设置以及名称设置,得到文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹。
上述技术方案中的样本子文件创建模块包括:文件夹创建单元和文件夹设置单元,文件夹设置单元又包括:文字子文件夹设置小单元、图片子文件夹设置小单元、视频子文件夹设置小单元和音频子文件夹设置小单元;样本子文件创建模块在根据数据类型分析结果创建子文件夹时,首先由文件夹创建单元用于创建基础文件夹,这里的基础文件夹只是限制了文件夹是样本数据存储模块将粉碎删除处理后的样本数据存储到基础文件夹中,然后文字子文件夹设置小单元、图片子文件夹设置小单元、视频子文件夹设置小单元和音频子文件夹设置小单元分别将文件夹创建单元创建的基础文件夹复制过来,分别得到子文件夹,接着再分别对子文件进行属性设置、权限设置以及名称设置,从而得到文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹。
上述技术方案通过文件夹创建单元建立一个基础文件夹之后由文字子文件夹设置小单元、图片子文件夹设置小单元、视频子文件夹设置小单元和音频子文件夹设置小单元进行复制,从而避免在建立文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹时重复相同的文件夹创建步骤,进而减少时间浪费,而且在对子文件进行属性设置、权限设置以及名称设置时,文字子文件夹设置小单元、图片子文件夹设置小单元、视频子文件夹设置小单元和音频子文件夹设置小单元可以同时同步进行,从而有效提高得到文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹的效率。
进一步地,所述样本数据存储模块在按照所述数据类型分析结果将粉碎删除处理后的样本数据分别集中储存至所述子文件夹中时,包括:根据所述数据类型分析结果分别确定数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据;针对所述数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据进行传输路线匹配,并传输至与匹配的传输路线对应的传输单元中;在所述传输单元中采用不同的压缩方法对所述数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据分别进行压缩处理,并且在压缩处理完成后将压缩后的数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据传输至对应的文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹进行保存。
上述技术方案中样本数据存储模块在按照数据类型分析结果将粉碎删除处理后的样本数据分别集中储存至子文件夹中时,首先,根据数据类型分析结果分别确定数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据;然后,针对数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据进行传输路线匹配,并传输至与匹配的传输路线对应的传输单元中;接着,在传输单元中采用不同的压缩方法对数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据分别进行压缩处理,对数据类型为文本的样本数据采用文本压缩方法进行压缩处理,对数据类型为图片的样本数据采用图像压缩方法进行压缩处理,对数据类型为视频的样本数据采用视频压缩方法进行压缩处理,对音频的样本数据采用音频压缩方法进行压缩处理,并且在压缩处理完成后将压缩后的数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据传输至对应的文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹进行保存。
上述技术方案通过压缩处理使得数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据分别在文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹中占用较小的空间,使得文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹能够保存较多的数据,而且样本数据存储模块是将压缩后的数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据传输至对应的文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹进行保存,使得传输压缩后的样本数据,从而提高对样本数据的传输效率。
进一步地,如图4所示,所述样本数据杀毒模块包括:数据粉碎处理单元、数据加密单元和优化数据存储单元,所述数据粉碎处理单元对经过所述样本数据检验处理模块标记的病毒数据及垃圾数据进行粉碎删除处理,获得优化样本数据,所述数据加密单元针对所述优化样本数据进行加密处理后保存到所述优化数据存储单元中,同时将所述优化样本数据输向所述样本数据分析模块。
上述技术方案中的样本数据杀毒模块包括:数据粉碎处理单元、数据加密单元和优化数据存储单元,数据粉碎处理单元与样本数据检验处理模块和样本数据分析模块分别连接,而且数据粉碎处理单元还通过数据加密单元与优化数据存储单元连接,样本数据杀毒模块在对经过样本数据检验处理模块标记的病毒数据及垃圾数据进行粉碎删除处理时,数据粉碎处理单元针对样本数据检验处理模块中得到的标记的病毒数据及垃圾数据进行粉碎删除处理,从而获得优化样本数据,数据加密单元针对优化样本数据进行加密处理后保存到优化数据存储单元中,同时数据粉碎处理单元将优化样本数据输向样本数据分析模块。
上述技术方案通过数据加密单元和优化数据存储单元实现数据的保存,方便后期找回,避免在后面步骤出现错误时重新进行处理与操作,也为以后对数据智能集中处理服务平台中的数据复盘提供参照依据。
进一步地,如图5所示,所述样本数据分析模块包括:数据接收单元、控制处理单元、数据解密单元和指令输入终端,所述数据接收单元、数据解密单元和指令输入终端均与所述控制处理单元连接,所述控制处理单元还与所述优化数据存储单元连接;所述数据接收单元,用于接收所述样本数据杀毒模块传输的优化样本数据,所述指令输入终端,用于获取所述样本数据分析模块的运行指令,并将所述运行指令输入到所述控制处理单元中,所述控制处理单元按照所述运行指令对所述优化样本数据进行数据类型分析,而且在运行指令出错时,所述控制处理单元获取所述优化数据存储单元中保存的数据信息,并利用所述数据解密单元进行解密后再次进行数据类型分析。
上述技术方案中的样本数据分析模块包括:数据接收单元、控制处理单元、数据解密单元和指令输入终端,数据接收单元、数据解密单元和指令输入终端均与控制处理单元连接,控制处理单元还与优化数据存储单元连接;数据接收单元,用于接收样本数据杀毒模块传输的优化样本数据,指令输入终端,用于获取样本数据分析模块的运行指令,并将运行指令输入到控制处理单元中,控制处理单元按照运行指令对优化样本数据进行数据类型分析,而且在运行指令出错时,控制处理单元获取优化数据存储单元中保存的数据信息,并利用数据解密单元进行解密后再次进行数据类型分析。
上述技术方案在指令操作失误后,导致数据误删时,将原文件数据进行提取,以实现指令的撤回操作,同时加解密操作避免了数据的泄露。
进一步地,所述样本数据存储模块还连接有数据提取接口,所述数据提取接口连接外接装置,当所述数据提取接口连接外接装置时,所述外接装置向所述样本数据存储模块发送数据读取指令;所述样本数据存储模块接收所述数据读取指令,并针对所述数据读取指令进行响应,获得数据读取信息,包括:针对所述数据读取指令进行解析,获得数据读取请求信息,然后再根据所述数据读取请求信息确定目标数据以及目标数据所在位置,接着参照所述目标数据所在位置进行目标数据读取,获得数据读取信息;获取所述外接装置的数据传输的状况,确定所述外接装置是仅支持有线数据传输,还是仅支持无线数据传输,还是同时支持有线数据传输和无线数据传输;根据所述外接装置的数据传输的状况,在仅支持有线数据传输时,通过连接线将所述数据读取信息传输至所述外接装置,在仅支持无线数据传输时,根据所述数据读取信息的数据包大小以及上下行数据传输速率确定数据传输的能耗,并结合无线数据传输的特性建立数据传输方案,按照所述数据传输方案进行传输,并在传输时,根据传输数据的时间特点计算所述数据读取信息成功传输的概率,分析所述数据读取信息成功传输的概率并对所述数据传输方案进行动态调整,在同时支持有线数据传输和无线数据传输时,将所述数据读取信息按照比例划分,将部分数据读取信息按照有线数据传输方式进行传输,另一部分按照无线数据传输方式进行传输。
上述技术方案中的样本数据存储模块还连接有数据提取接口,数据提取接口连接外接装置,当数据提取接口连接外接装置时,首先,外接装置向样本数据存储模块发送数据读取指令;然后,样本数据存储模块接收数据读取指令,并针对数据读取指令进行响应,获得数据读取信息,在样本数据存储模块对数据读取指令进行响应时包括如下步骤:
针对数据读取指令进行解析,获得数据读取请求信息;
根据数据读取请求信息确定目标数据以及目标数据所在位置,接着参照目标数据所在位置进行目标数据读取,获得数据读取信息;
获取外接装置的数据传输的状况,确定外接装置是仅支持有线数据传输,还是仅支持无线数据传输,还是同时支持有线数据传输和无线数据传输;
根据外接装置的数据传输的状况,如果仅支持有线数据传输,则通过连接线将数据读取信息传输至外接装置,如果仅支持无线数据传输,则根据数据读取信息的数据包大小以及上下行数据传输速率确定数据传输的能耗,并结合无线数据传输的特性建立数据传输方案,按照数据传输方案进行传输,并在传输时,根据传输数据的时间特点计算数据读取信息成功传输的概率,分析数据读取信息成功传输的概率并对数据传输方案进行动态调整,如果同时支持有线数据传输和无线数据传输,则将数据读取信息按照比例划分,将部分数据读取信息按照有线数据传输方式进行传输,另一部分按照无线数据传输方式进行传输。
上述技术方案通过样本数据存储模块连接数据提取接口方便建立数据智能集中处理服务平台与外接装置之间的联系,实现对数据智能集中处理服务平台的提取和保存,而且样本数据存储模块在将数据读取信息向外接装置进行传输时根据外接装置的数据传输的状况进行传输,不仅能够提高数据传输的效率和有效性,而且还使得针对有线数据传输、无线数据传输、有线数据传输无线数据传输共存的外界装置均能够适用,从而提高数据智能集中处理服务平台的使用范围。
进一步地,所述数据加密单元在针对所述优化样本数据进行加密处理时,包括:将所述优化样本数据进行分块,获得多个待加密数据块;判断所述多个待加密数据块的相对重要程度,获得所述待加密数据块的重要性排序;按照所述待加密数据块的重要性排序将重要性排在预设名次之前的待加密数据块采用第一加密策略进行加密处理,对所述待加密数据块中剩余的待加密数据块采用第二加密策略进行加密处理,得到加密后的数据块;其中所述第一加密策略的复杂程度大于所述第二加密策略的复杂程度。
上述技术方案中的数据加密单元在对优化样本数据在针对优化样本数据进行加密处理时,包括:将优化样本数据进行分块,获得多个待加密数据块;判断多个待加密数据块的相对重要程度,获得待加密数据块的重要性排序;按照待加密数据块的重要性排序将重要性排在预设名次之前的待加密数据块采用第一加密策略进行加密处理,对待加密数据块中剩余的待加密数据块采用第二加密策略进行加密处理,得到加密后的数据块;其中第一加密策略的复杂程度大于第二加密策略的复杂程度。
上述技术方案通过将优化样本数据按照重要程度采取不同加密策略使得优化样本数据中重要数据安全性更高,进而提高优化样本数据的安全性,同时提高优化样本数据的安全性,而且通过第一加密策略的复杂程度大于第二加密策略的复杂程度使得对重要性相对来说不重要的数据利用第二加密策略消耗较少时间来进行加密,从而提高整体的加密效率。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。
尽管已经示出和描述了本发明的实施例,对于本领域的普通技术人员而言,可以理解在不脱离本发明的原理和精神的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由所附权利要求及其等同物限定。
Claims (10)
1.一种数据智能集中处理服务平台,包括:样本数据处理设备、样本数据预存储模块、样本数据检验处理模块、样本数据杀毒模块、样本数据分析模块、样本子文件创建模块和样本数据存储模块,其特征在于:所述样本数据处理设备主要作为样本数据的接收基站,接收样本数据;所述样本数据预存储模块主要用于对所述样本数据处理设备接收到的样本数据进行预先存储;所述样本数据检验处理模块用于对样本数据处理设备接收到的样本数据进行检验筛分,并对病毒数据及垃圾数据进行标记;所述样本数据杀毒模块用于针对经过所述样本数据检验处理模块标记的病毒数据及垃圾数据进行粉碎删除处理;所述样本数据分析模块用于对粉碎删除处理后的样本数据进行数据类型分析,获得数据类型分析结果;所述样本子文件创建模块用于根据所述数据类型分析结果创建子文件夹;所述样本数据存储模块用于按照所述数据类型分析结果将粉碎删除处理后的样本数据分别集中储存至所述子文件夹中。
2.根据权利要求1所述的一种数据智能集中处理服务平台,其特征在于:所述样本数据检验处理模块用于对样本数据处理设备接收到的样本数据进行检验筛分,并对病毒数据及垃圾数据进行标记,包括:
S1、设置病毒数据判断条件以及确认垃圾数据中包含的关键词信息;
S2、将所述样本数据处理设备接收的样本数据导入所述样本数据检验处理模块中;
S3、所述样本数据检验处理模块根据所述病毒数据判断条件对所述样本数据中的病毒数据进行识别与标记,同时根据所述关键词信息对所述样本数据进行检索,确实所述样本数据中的垃圾数据,并对所述样本数据中的垃圾数据进行标记。
3.根据权利要求1所述的一种数据智能集中处理服务平台,其特征在于:所述数据类型包括:文字、图片、视频及音频,所述样本数据分析模块在对粉碎删除处理后的样本数据进行数据类型分析时,依次分析粉碎删除处理后的样本数据中的数据属于文字、图片、视频还是音频,从而得到数据类型分析结果。
4.根据权利要求3所述的一种数据智能集中处理服务平台,其特征在于:所述样本子文件创建模块在根据所述数据类型分析结果创建子文件夹时,分别创建文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹,所述文字子文件夹用于集中存储数据类型为文本的样本数据,所述图片子文件夹用于集中存储数据类型为图片的样本数据,视频子文件夹用于集中存储数据类型为视频的样本数据,所述音频子文件夹用于集中存储数据类型为音频的样本数据。
5.根据权利要求4所述的一种数据智能集中处理服务平台,其特征在于:所述样本子文件创建模块包括:文件夹创建单元和文件夹设置单元;所述样本子文件创建模块在根据所述数据类型分析结果创建子文件夹时,所述文件夹创建单元用于创建基础文件夹,所述文件夹设置单元包括:文字子文件夹设置小单元、图片子文件夹设置小单元、视频子文件夹设置小单元和音频子文件夹设置小单元,所述文字子文件夹设置小单元、图片子文件夹设置小单元、视频子文件夹设置小单元和音频子文件夹设置小单元分别复制所述文件夹创建单元中创建的基础文件夹,获得子文件夹;并按照自身小单元的类型特征分别对所述子文件夹进行属性设置、权限设置以及名称设置,得到文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹。
6.根据权利要求5所述的一种数据智能集中处理服务平台,其特征在于:所述样本数据存储模块在按照所述数据类型分析结果将粉碎删除处理后的样本数据分别集中储存至所述子文件夹中时,包括:根据所述数据类型分析结果分别确定数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据;针对所述数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据进行传输路线匹配,并传输至与匹配的传输路线对应的传输单元中;在所述传输单元中采用不同的压缩方法对所述数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据分别进行压缩处理,并且在压缩处理完成后将压缩后的数据类型为文本的样本数据、数据类型为图片的样本数据、数据类型为视频的样本数据以及数据类型为音频的样本数据传输至对应的文字子文件夹、图片子文件夹、视频子文件夹与音频子文件夹进行保存。
7.根据权利要求1所述的一种数据智能集中处理服务平台,其特征在于:所述样本数据杀毒模块包括:数据粉碎处理单元、数据加密单元和优化数据存储单元,所述数据粉碎处理单元对经过所述样本数据检验处理模块标记的病毒数据及垃圾数据进行粉碎删除处理,获得优化样本数据,所述数据加密单元针对所述优化样本数据进行加密处理后保存到所述优化数据存储单元中,同时将所述优化样本数据输向所述样本数据分析模块。
8.根据权利要求7所述的一种数据智能集中处理服务平台,其特征在于:所述样本数据分析模块包括:数据接收单元、控制处理单元、数据解密单元和指令输入终端,所述数据接收单元、数据解密单元和指令输入终端均与所述控制处理单元连接,所述控制处理单元还与所述优化数据存储单元连接;所述数据接收单元,用于接收所述样本数据杀毒模块传输的优化样本数据,所述指令输入终端,用于获取所述样本数据分析模块的运行指令,并将所述运行指令输入到所述控制处理单元中,所述控制处理单元按照所述运行指令对所述优化样本数据进行数据类型分析,而且在运行指令出错时,所述控制处理单元获取所述优化数据存储单元中保存的数据信息,并利用所述数据解密单元进行解密后再次进行数据类型分析。
9.根据权利要求1所述的一种数据智能集中处理服务平台,其特征在于:所述样本数据存储模块还连接有数据提取接口,所述数据提取接口连接外接装置,当所述数据提取接口连接外接装置时,所述外接装置向所述样本数据存储模块发送数据读取指令;所述样本数据存储模块接收所述数据读取指令,并针对所述数据读取指令进行响应,获得数据读取信息,包括:针对所述数据读取指令进行解析,获得数据读取请求信息,然后再根据所述数据读取请求信息确定目标数据以及目标数据所在位置,接着参照所述目标数据所在位置进行目标数据读取,获得数据读取信息;获取所述外接装置的数据传输的状况,确定所述外接装置是仅支持有线数据传输,还是仅支持无线数据传输,还是同时支持有线数据传输和无线数据传输;根据所述外接装置的数据传输的状况,在仅支持有线数据传输时,通过连接线将所述数据读取信息传输至所述外接装置,在仅支持无线数据传输时,根据所述数据读取信息的数据包大小以及上下行数据传输速率确定数据传输的能耗,并结合无线数据传输的特性建立数据传输方案,按照所述数据传输方案进行传输,并在传输时,根据传输数据的时间特点计算所述数据读取信息成功传输的概率,分析所述数据读取信息成功传输的概率并对所述数据传输方案进行动态调整,在同时支持有线数据传输和无线数据传输时,将所述数据读取信息按照比例划分,将部分数据读取信息按照有线数据传输方式进行传输,另一部分按照无线数据传输方式进行传输。
10.根据权利要求7所述的一种数据智能集中处理服务平台,其特征在于:所述数据加密单元在针对所述优化样本数据进行加密处理时,包括:将所述优化样本数据进行分块,获得多个待加密数据块;判断所述多个待加密数据块的相对重要程度,获得所述待加密数据块的重要性排序;按照所述待加密数据块的重要性排序将重要性排在预设名次之前的待加密数据块采用第一加密策略进行加密处理,对所述待加密数据块中剩余的待加密数据块采用第二加密策略进行加密处理,得到加密后的数据块;其中所述第一加密策略的复杂程度大于所述第二加密策略的复杂程度。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210170642.0A CN114546957A (zh) | 2022-02-24 | 2022-02-24 | 一种数据智能集中处理服务平台 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210170642.0A CN114546957A (zh) | 2022-02-24 | 2022-02-24 | 一种数据智能集中处理服务平台 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114546957A true CN114546957A (zh) | 2022-05-27 |
Family
ID=81677292
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210170642.0A Withdrawn CN114546957A (zh) | 2022-02-24 | 2022-02-24 | 一种数据智能集中处理服务平台 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114546957A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115208690A (zh) * | 2022-08-09 | 2022-10-18 | 中国光大银行股份有限公司 | 一种基于数据分类分级的筛查处理系统 |
-
2022
- 2022-02-24 CN CN202210170642.0A patent/CN114546957A/zh not_active Withdrawn
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115208690A (zh) * | 2022-08-09 | 2022-10-18 | 中国光大银行股份有限公司 | 一种基于数据分类分级的筛查处理系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106534344B (zh) | 一种云平台视频处理系统及其应用方法 | |
CN107818150B (zh) | 一种日志审计方法及装置 | |
US8422730B2 (en) | System for analyzing forensic evidence using image filter and method thereof | |
CN109471853A (zh) | 数据降噪方法、装置、计算机设备和存储介质 | |
CN110417643A (zh) | 邮件处理方法和装置 | |
CN104021217A (zh) | 一种提取手机碎片文件和被删除文件的系统和方法 | |
CN114546957A (zh) | 一种数据智能集中处理服务平台 | |
CN116232696A (zh) | 基于深度神经网络的加密流量分类方法 | |
CN117857177A (zh) | 一种数据安全存储系统 | |
CN110569295B (zh) | 通过定位关键词提高文档预警的方法 | |
CN107590233A (zh) | 一种文件管理方法及装置 | |
Murphy | Developing process for mobile device forensics | |
CN115495280A (zh) | 一种基于SQLite模糊匹配的通用删除数据定位方法及装置 | |
CN111666525A (zh) | 一种信息拦截系统及方法 | |
US11263177B2 (en) | Identification of portions of data | |
CN111309689A (zh) | 文件查重方法及装置 | |
CN105718334B (zh) | 基于特征的多个文件提取方法 | |
Alghafli et al. | Investigating and measuring capabilities of the forensics file carving techniques | |
Rosselina et al. | Framework design for the retrieval of instant messaging in social media as electronic evidence | |
CN116795304B (zh) | 一种针对智慧云服务的用户信息保护方法 | |
CN117540176B (zh) | 一种基于固态硬盘的数据恢复分析方法及系统 | |
CN116318985B (zh) | 一种基于大数据的计算机网络安全预警系统及方法 | |
CN112506873B (zh) | 实物档案数据自动录入管理系统 | |
CN116527303B (zh) | 基于标记流量对比的工控设备信息提取方法及装置 | |
CN113590903B (zh) | 一种情报数据的管理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20220527 |
|
WW01 | Invention patent application withdrawn after publication |