CN117312296A - 一种多平台协作的数据处理方法 - Google Patents
一种多平台协作的数据处理方法 Download PDFInfo
- Publication number
- CN117312296A CN117312296A CN202311609725.6A CN202311609725A CN117312296A CN 117312296 A CN117312296 A CN 117312296A CN 202311609725 A CN202311609725 A CN 202311609725A CN 117312296 A CN117312296 A CN 117312296A
- Authority
- CN
- China
- Prior art keywords
- data
- rate
- processing
- safety
- initial
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 16
- 238000012545 processing Methods 0.000 claims abstract description 255
- 238000000034 method Methods 0.000 claims abstract description 32
- 230000002159 abnormal effect Effects 0.000 claims abstract description 12
- 238000007781 pre-processing Methods 0.000 claims abstract description 10
- 238000012937 correction Methods 0.000 claims description 36
- 231100000279 safety data Toxicity 0.000 claims description 28
- 239000011159 matrix material Substances 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 10
- 230000003139 buffering effect Effects 0.000 claims description 9
- 238000013507 mapping Methods 0.000 claims description 7
- 230000008569 process Effects 0.000 claims description 3
- 238000000638 solvent extraction Methods 0.000 claims 2
- 230000004044 response Effects 0.000 abstract description 3
- 230000009286 beneficial effect Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本发明涉及数据处理技术领域,公开了一种多平台协作的数据处理方法,接收所有待协作平台发送的初始处理数据,对初始处理数据进行数据预处理,得到目标处理数据;对目标处理数据进行数据划分,并删除异常数据,得到安全处理数据;将安全处理数据划分至第一数据集合和第二数据集合;提取第一数据集合和第二数据集合中安全处理数据的数据特征,根据数据特征确定第一数据集合和第二数据集合的关联度,根据关联度和预设关联度建立待协作平台之间的逻辑关系,基于逻辑关系对安全处理数据进行协作处理,本发明可以解决多平台之间无法实现数据协作处理的技术问题,可以将分散在不同平台中的数据整合在一起,使数据更容易处理,提升了业务响应速度。
Description
技术领域
本发明涉及数据处理技术领域,特别是涉及一种多平台协作的数据处理方法。
背景技术
随着网络技术的飞速发展,网络技术的持续升级,产生的数据越来越多,将有更多的企业需要大数据技术,大数据技术逐渐地演变成一种应用广泛的平民架构。在上述背景下,一些企业获取的数据逐步增长,达到了一个新的量级。
但是在进行数据处理时,由于受原始网络结构、通信策略、防火墙布局等种种限制,很多需要相互协作的平台所对应的部署机器是无法相互间通信的。例如协同研发平台中有的子系统保存了项目的基本信息,有的子系统中保存着需求信息,这些数据保存在不同的平台中。此时,如果想要查询满足某些需求的项目的基本信息时,就会导致操作比较复杂,耗时较大。
因此,如何提供一种多平台协作的数据处理方法,是目前有待解决的技术问题。
发明内容
本发明实施例提供一种多平台协作的数据处理方法,用以解决现有技术中多平台之间无法实现数据交互,无法提高数据处理效率的技术问题。
为了实现上述目的,本发明提供了一种多平台协作的数据处理方法,包括:
接收所有待协作平台发送的初始处理数据,对初始处理数据进行数据预处理,得到目标处理数据;
基于预设条件对目标处理数据进行数据划分,基于数据划分结果删除目标处理数据中存在的异常数据,并得到安全处理数据;
将安全处理数据划分至第一数据集合和第二数据集合;
提取所述第一数据集合和所述第二数据集合中安全处理数据的数据特征,并根据所述数据特征确定所述第一数据集合和所述第二数据集合之间的关联度,其中,所述数据特征包括安全处理数据的数据处理价值和数据关注热度;
根据所述关联度和预设关联度之间的关系建立待协作平台之间的逻辑关系,并基于所述逻辑关系对安全处理数据进行协作处理。
在其中一个实施例中,在接收所有待协作平台发送的初始处理数据,对初始处理数据进行数据预处理,得到目标处理数据时,包括:
将初始处理数据输入至预先构建的数据完整性计算模型,得到每个初始处理数据的完整值;
对所有的完整值进行数值大小排序,并基于排序结果生成完整值集合,其中,所述完整值集合中头数据的完整值最大,所述完整值集合中尾数据的完整值最小;
获取所述数据完整性计算模型中设置的完整性阈值,根据所述完整性阈值对所述完整值集合设置截取线;
根据所述完整值集合中的头数据与所述截取线之间的数据生成第三数据集合,并根据所述完整值集合中的尾数据与所述截取线之间的数据生成第四数据集合;
删除所述第四数据集合,将所述第三数据集合中所有完整值对应的初始处理数据作为目标处理数据。
在其中一个实施例中,在基于预设条件对目标处理数据进行数据划分,基于数据划分结果删除目标处理数据中存在的异常数据,并得到安全处理数据时,包括:
基于所述预设条件将目标处理数据进行数据划分,将目标处理数据中的已知安全数据划分至已知安全数据集合,将目标数据中的未知安全数据划分至未知安全数据集合;
将所述未知安全数据集合中的目标处理数据依次输入至预先构建的数据安全度模型;
基于所述数据安全度模型输出所述未知安全数据集合中目标处理数据对应的安全度;
基于所有的安全度和安全度阈值之间的关系计算所述未知安全数据集合的总体安全度;
当所述总体安全度大于或等于总体安全度阈值时,则判断所述未知安全数据集合安全,将目标处理数据作为安全处理数据;
当所述总体安全度小于总体安全度阈值时,则判断所述未知安全数据集合不安全,并删除所述未知安全数据集合中的目标处理数据,将所述已知安全数据集合中的目标处理数据作为安全处理数据。
在其中一个实施例中,在基于所有的安全度和安全度阈值之间的关系计算所述未知安全数据集合的总体安全度时,包括:
根据下式计算所述未知安全数据集合的总体安全度:
;
其中,Z为未知安全数据集合的总体安全度,m1为未知安全数据集合中目标处理数据的数量,Ki为未知安全数据集合中第i个目标处理数据的安全度,R为安全度阈值。
在其中一个实施例中,在提取所述第一数据集合和所述第二数据集合中安全处理数据的数据特征,并根据所述数据特征确定所述第一数据集合和所述第二数据集合之间的关联度时,包括:
确定所述第一数据集合中安全处理数据的第一数据处理价值和第一数据关注热度,并构建第一数据处理价值集合和第一数据关注热度集合;
确定所述第二数据集合中安全处理数据的第二数据处理价值和第二数据关注热度,并构建第二数据处理价值集合和第二数据关注热度集合;
将所述第一数据处理价值集合、所述第一数据关注热度集合、所述第二数据处理价值集合和所述第二数据关注热度集合与关联数据库进行匹配,得到第一关联因子;
根据所述第一数据集合中的最右侧的安全处理数据和所述第二数据集合中的最左侧的安全处理数据,确定第二关联因子;
根据所述第一关联因子和所述第二关联因子,确定所述第一数据集合和所述第二数据集合之间的关联度:
X=y(p1)+y(p2);
其中,X为第一数据集合和第二数据集合之间的关联度,y(p1)为基于第一关联因子确定的关联度计算函数,y(p2)为基于第二关联因子确定的关联度修正函数。
在其中一个实施例中,在根据所述关联度和预设关联度之间的关系建立待协作平台之间的逻辑关系之后,还包括:
获取数据暂存区的缓存数据量A;
根据所述数据暂存区的缓存数据量A设定安全处理数据的初始缓存速率。
在其中一个实施例中,在根据所述数据暂存区的缓存数据量A设定安全处理数据的初始缓存速率时,包括:
预设数据暂存区的缓存数据量矩阵B,设定B(B1,B2,B3,B4),其中,B1为第一预设缓存数据量,B2为第二预设缓存数据量,B3为第三预设缓存数据量,B4为第四预设缓存数据量,且B1<B2<B3<B4;
预设安全处理数据的初始缓存速率矩阵C,设定C(C1,C2,C3,C4,C5),其中,C1为第一预设初始缓存速率,C2为第二预设初始缓存速率,C3为第三预设初始缓存速率,C4为第四预设初始缓存速率,C5为第五预设初始缓存速率,且C1<C2<C3<C4<C5;
根据所述数据暂存区的缓存数据量A与各预设缓存数据量之间的关系设定安全处理数据的初始缓存速率:
当A<B1时,选定所述第五预设初始缓存速率C5作为安全处理数据的初始缓存速率;
当B1≤A<B2时,选定所述第四预设初始缓存速率C4作为安全处理数据的初始缓存速率;
当B2≤A<B3时,选定所述第三预设初始缓存速率C3作为安全处理数据的初始缓存速率;
当B3≤A<B4时,选定所述第二预设初始缓存速率C2作为安全处理数据的初始缓存速率;
当B4≤A时,选定所述第一预设初始缓存速率C1作为安全处理数据的初始缓存速率。
在其中一个实施例中,在根据所述数据暂存区的缓存数据量A设定安全处理数据的初始缓存速率之后,还包括:
基于所述初始缓存速率调取速率-数据影响率映射表,并根据所述速率-数据影响率映射表确定与所述初始缓存速率相对应的数据影响率E;
根据所述数据影响率E对安全处理数据的初始缓存速率进行修正,并将修正后的初始缓存速率作为安全处理数据的目标缓存速率;
基于所述目标缓存速率将安全处理数据缓存至所述数据暂存区。
在其中一个实施例中,在根据所述数据影响率E对安全处理数据的初始缓存速率进行修正时,包括:
预设数据影响率矩阵G,设定G(G1,G2,G3,G4),其中,G1为第一预设数据影响率,G2为第二预设数据影响率,G3为第三预设数据影响率,G4为第四预设数据影响率,且G1<G2<G3<G4;
预设安全处理数据的初始缓存速率修正系数矩阵h,设定h(h1,h2,h3,h4,h5),其中,h1为第一预设初始缓存速率修正系数,h2为第二预设初始缓存速率修正系数,h3为第三预设初始缓存速率修正系数,h4为第四预设初始缓存速率修正系数,h5为第五预设初始缓存速率修正系数,且0.8<h1<h2<h3<h4<h5<1.2;
在将安全处理数据的初始缓存速率设定为第i预设初始缓存速率Ci时,i=1,2,3,4,5,根据所述数据影响率E与各预设数据影响率之间的关系对安全处理数据的初始缓存速率进行修正:
当E<G1时,选定所述第五预设初始缓存速率修正系数h5对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h5;
当G1≤E<G2时,选定所述第四预设初始缓存速率修正系数h4对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h4;
当G2≤E<G3时,选定所述第三预设初始缓存速率修正系数h3对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h3;
当G3≤E<G4时,选定所述第二预设初始缓存速率修正系数h2对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h2;
当G4≤E时,选定所述第一预设初始缓存速率修正系数h1对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h1。
在其中一个实施例中,在基于所述逻辑关系对安全处理数据进行协作处理时,包括:
基于所述逻辑关系对所有待协作平台之间进行关联,并获得处理流程分支;
设置每个处理流程分支的执行参数,并基于所述执行参数对安全处理数据进行协作处理。
本发明提供了一种多平台协作的数据处理方法,相较现有技术,具有以下有益效果:
本发明公开了一种多平台协作的数据处理方法,接收所有待协作平台发送的初始处理数据,对初始处理数据进行数据预处理,得到目标处理数据;对目标处理数据进行数据划分,并删除异常数据,得到安全处理数据;将安全处理数据划分至第一数据集合和第二数据集合;提取第一数据集合和第二数据集合中安全处理数据的数据特征,根据数据特征确定第一数据集合和第二数据集合的关联度,根据关联度和预设关联度建立待协作平台之间的逻辑关系,基于逻辑关系对安全处理数据进行协作处理,本发明可以解决多平台之间无法实现数据协作处理的技术问题,可以将分散在不同平台中的数据整合在一起,使数据更容易处理,提升了业务响应速度。
附图说明
图1示出了本发明实施例中一种多平台协作的数据处理方法的流程示意图;
图2示出了本发明实施例中对初始处理数据进行数据预处理的流程示意图。
具体实施方式
下面结合附图和实施例,对本发明的具体实施方式做进一步详细描述。以下实施例用于说明本发明,但不用来限制本发明的范围。
在本申请的描述中,需要理解的是,术语“中心”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本申请和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本申请的限制。
术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本申请的描述中,除非另有说明,“多个”的含义是两个或两个以上。
在本申请的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体的连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本申请中的具体含义。
下文是结合附图对本发明的优选的实施例说明。
如图1所示,本发明的实施例公开了一种多平台协作的数据处理方法,包括以下步骤:
S110:接收所有待协作平台发送的初始处理数据,对初始处理数据进行数据预处理,得到目标处理数据。
结合图2所示,在本申请的一些实施例中,在接收所有待协作平台发送的初始处理数据,对初始处理数据进行数据预处理,得到目标处理数据时,包括以下步骤:
S111:将初始处理数据输入至预先构建的数据完整性计算模型,得到每个初始处理数据的完整值;
S112:对所有的完整值进行数值大小排序,并基于排序结果生成完整值集合,其中,所述完整值集合中头数据的完整值最大,所述完整值集合中尾数据的完整值最小;
S113:获取所述数据完整性计算模型中设置的完整性阈值,根据所述完整性阈值对所述完整值集合设置截取线;
S114:根据所述完整值集合中的头数据与所述截取线之间的数据生成第三数据集合,并根据所述完整值集合中的尾数据与所述截取线之间的数据生成第四数据集合;
S115:删除所述第四数据集合,将所述第三数据集合中所有完整值对应的初始处理数据作为目标处理数据。
本实施例中,数据完整性计算模型指的是由数据以及相对应的完整性计算而来的,能够计算数据的完整值,从而达到对数据进行筛选的目的。
本实施例中,完整性是指数据是否包含了所有必要的信息,是否没有遗漏或缺失,完整值是衡量数据缺失率、数据遗漏率的一个数值。
本实施例中,完整性阈值可以根据实际情况进行设置,在此不作具体限定。
本实施例中,在根据完整性阈值对完整值集合设置截取线时,若存在完整值相同的情况,则选取右边一个完整值作为截取线,例如当完整值6在完整值集合中处于多个位置时,完整值6分别在完整值集合中处于第五个,以及完整值6在完整值集合中还处于第六个,则选取第六个完整值作为截取线。
上述技术方案的有益效果是:本发明通过对初始处理数据进行数据预处理,得到目标处理数据,可以达到对初始处理数据进行筛选的目的,将干扰、无用的数据进行剔除,筛选出可用数据。
S120:基于预设条件对目标处理数据进行数据划分,基于数据划分结果删除目标处理数据中存在的异常数据,并得到安全处理数据。
在本申请的一些实施例中,在基于预设条件对目标处理数据进行数据划分,基于数据划分结果删除目标处理数据中存在的异常数据,并得到安全处理数据时,包括:
基于所述预设条件将目标处理数据进行数据划分,将目标处理数据中的已知安全数据划分至已知安全数据集合,将目标数据中的未知安全数据划分至未知安全数据集合;
将所述未知安全数据集合中的目标处理数据依次输入至预先构建的数据安全度模型;
基于所述数据安全度模型输出所述未知安全数据集合中目标处理数据对应的安全度;
基于所有的安全度和安全度阈值之间的关系计算所述未知安全数据集合的总体安全度;
当所述总体安全度大于或等于总体安全度阈值时,则判断所述未知安全数据集合安全,将目标处理数据作为安全处理数据;
当所述总体安全度小于总体安全度阈值时,则判断所述未知安全数据集合不安全,并删除所述未知安全数据集合中的目标处理数据,将所述已知安全数据集合中的目标处理数据作为安全处理数据。
本实施例中,已知安全数据是指可以用当前的异常数据检测方法可以直接检测出来的安全数据,用当前的异常数据检测方法不可以直接检测出来的数据为未知安全数据。
本实施例中,数据安全度模型可以得到数据的安全度,当安全度越高时,说明当前的数据越安全。
本实施例中,当总体安全度大于或等于总体安全度阈值时,则直接将目标处理数据作为安全处理数据。
本实施例中,当所述总体安全度小于总体安全度阈值时,则将已知安全数据集合中的目标处理数据作为安全处理数据。
上述技术方案的有益效果是:本发明可以避免处理一些异常数据,避免对安全数据造成影响,保证数据的安全性。
在本申请的一些实施例中,在基于所有的安全度和安全度阈值之间的关系计算所述未知安全数据集合的总体安全度时,包括:
根据下式计算所述未知安全数据集合的总体安全度:
;
其中,Z为未知安全数据集合的总体安全度,m1为未知安全数据集合中目标处理数据的数量,Ki为未知安全数据集合中第i个目标处理数据的安全度,R为安全度阈值。
S130:将安全处理数据划分至第一数据集合和第二数据集合。
S140:提取所述第一数据集合和所述第二数据集合中安全处理数据的数据特征,并根据所述数据特征确定所述第一数据集合和所述第二数据集合之间的关联度,其中,所述数据特征包括安全处理数据的数据处理价值和数据关注热度。
在本申请的一些实施例中,在提取所述第一数据集合和所述第二数据集合中安全处理数据的数据特征,并根据所述数据特征确定所述第一数据集合和所述第二数据集合之间的关联度时,包括:
确定所述第一数据集合中安全处理数据的第一数据处理价值和第一数据关注热度,并构建第一数据处理价值集合和第一数据关注热度集合;
确定所述第二数据集合中安全处理数据的第二数据处理价值和第二数据关注热度,并构建第二数据处理价值集合和第二数据关注热度集合;
将所述第一数据处理价值集合、所述第一数据关注热度集合、所述第二数据处理价值集合和所述第二数据关注热度集合与关联数据库进行匹配,得到第一关联因子;
根据所述第一数据集合中的最右侧的安全处理数据和所述第二数据集合中的最左侧的安全处理数据,确定第二关联因子;
根据所述第一关联因子和所述第二关联因子,确定所述第一数据集合和所述第二数据集合之间的关联度:
X=y(p1)+y(p2);
其中,X为第一数据集合和第二数据集合之间的关联度,y(p1)为基于第一关联因子确定的关联度计算函数,y(p2)为基于第二关联因子确定的关联度修正函数。
本实施例中,数据处理价值可以根据数据规划成本、数据采集成本、数据加工成本和数据存储成本等来决定。
本实施例中,数据关注热度可以根据用户的点击浏览次数,下载次数和转载次数等来决定。
本实施例中,关联数据库指的是包括不同数量数组集合、边缘类型数组集合等的各种组合以及所对应的衔接因子在内的,主要是为了后续计算数据之间的关联度提供基础。
本实施例中,y(p1)的取值范围为(0,1),y(p2)的取值范围为(0,0.1)。
上述技术方案的有益效果是:本发明根据第一关联因子和第二关联因子,确定第一数据集合和第二数据集合之间的关联度,本发明通过确定第一数据集合和第二数据集合之间的关联,进而可以为后续建立待协作平台之间的逻辑关系奠定基础,保证待协作平台的正常交互。
S150:根据所述关联度和预设关联度之间的关系建立待协作平台之间的逻辑关系,并基于所述逻辑关系对安全处理数据进行协作处理。
本实施例中,当关联度大于或等于预设关联度时,才建立待协作平台之间的逻辑关系,当关联度小于预设关联度时,此时说明第一数据集合和第二数据集合之间的关联较小,无法进行多平台协作处理。
在本申请的一些实施例中,在根据所述关联度和预设关联度之间的关系建立待协作平台之间的逻辑关系之后,还包括:
获取数据暂存区的缓存数据量A;
根据所述数据暂存区的缓存数据量A设定安全处理数据的初始缓存速率。
在本申请的一些实施例中,在根据所述数据暂存区的缓存数据量A设定安全处理数据的初始缓存速率时,包括:
预设数据暂存区的缓存数据量矩阵B,设定B(B1,B2,B3,B4),其中,B1为第一预设缓存数据量,B2为第二预设缓存数据量,B3为第三预设缓存数据量,B4为第四预设缓存数据量,且B1<B2<B3<B4;
预设安全处理数据的初始缓存速率矩阵C,设定C(C1,C2,C3,C4,C5),其中,C1为第一预设初始缓存速率,C2为第二预设初始缓存速率,C3为第三预设初始缓存速率,C4为第四预设初始缓存速率,C5为第五预设初始缓存速率,且C1<C2<C3<C4<C5;
根据所述数据暂存区的缓存数据量A与各预设缓存数据量之间的关系设定安全处理数据的初始缓存速率:
当A<B1时,选定所述第五预设初始缓存速率C5作为安全处理数据的初始缓存速率;
当B1≤A<B2时,选定所述第四预设初始缓存速率C4作为安全处理数据的初始缓存速率;
当B2≤A<B3时,选定所述第三预设初始缓存速率C3作为安全处理数据的初始缓存速率;
当B3≤A<B4时,选定所述第二预设初始缓存速率C2作为安全处理数据的初始缓存速率;
当B4≤A时,选定所述第一预设初始缓存速率C1作为安全处理数据的初始缓存速率。
本实施例中,数据暂存区可以用来暂存数据,将安全处理数据暂存于数据暂存区,当多平台之间需要对数据协作处理时,直接从数据暂存区中导出数据即可。
本实施例中,缓存数据量是指数据暂存区当前还需要存储的数据量。
上述技术方案的有益效果是:本发明根据数据暂存区的缓存数据量A与各预设缓存数据量之间的关系设定安全处理数据的初始缓存速率,本发明通过设定安全处理数据的初始缓存速率,可以保证安全处理数据的正常存储,降低网络资源消耗。
在本申请的一些实施例中,在根据所述数据暂存区的缓存数据量A设定安全处理数据的初始缓存速率之后,还包括:
基于所述初始缓存速率调取速率-数据影响率映射表,并根据所述速率-数据影响率映射表确定与所述初始缓存速率相对应的数据影响率E;
根据所述数据影响率E对安全处理数据的初始缓存速率进行修正,并将修正后的初始缓存速率作为安全处理数据的目标缓存速率;
基于所述目标缓存速率将安全处理数据缓存至所述数据暂存区。
在本申请的一些实施例中,在根据所述数据影响率E对安全处理数据的初始缓存速率进行修正时,包括:
预设数据影响率矩阵G,设定G(G1,G2,G3,G4),其中,G1为第一预设数据影响率,G2为第二预设数据影响率,G3为第三预设数据影响率,G4为第四预设数据影响率,且G1<G2<G3<G4;
预设安全处理数据的初始缓存速率修正系数矩阵h,设定h(h1,h2,h3,h4,h5),其中,h1为第一预设初始缓存速率修正系数,h2为第二预设初始缓存速率修正系数,h3为第三预设初始缓存速率修正系数,h4为第四预设初始缓存速率修正系数,h5为第五预设初始缓存速率修正系数,且0.8<h1<h2<h3<h4<h5<1.2;
在将安全处理数据的初始缓存速率设定为第i预设初始缓存速率Ci时,i=1,2,3,4,5,根据所述数据影响率E与各预设数据影响率之间的关系对安全处理数据的初始缓存速率进行修正:
当E<G1时,选定所述第五预设初始缓存速率修正系数h5对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h5;
当G1≤E<G2时,选定所述第四预设初始缓存速率修正系数h4对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h4;
当G2≤E<G3时,选定所述第三预设初始缓存速率修正系数h3对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h3;
当G3≤E<G4时,选定所述第二预设初始缓存速率修正系数h2对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h2;
当G4≤E时,选定所述第一预设初始缓存速率修正系数h1对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h1。
本实施例中,速率-数据影响率映射表可以根据历史数据得到,每一个数据缓存速率都会对应有数据影响率。
本实施例中,数据影响率是指对数据缓存产生影响的数值,如数据丢包率。
上述技术方案的有益效果是:本发明在将安全处理数据的初始缓存速率设定为第i预设初始缓存速率Ci时,i=1,2,3,4,5,根据数据影响率E与各预设数据影响率之间的关系对安全处理数据的初始缓存速率进行修正,本发明通过对安全处理数据的初始缓存速率进行修正,可以进一步保证安全处理数据的缓存效果,保证安全处理数据合理利用网络资源,既可以保证安全处理数据的缓存速率,又可以保证安全处理数据的稳定缓存。
在本申请的一些实施例中,在基于所述逻辑关系对安全处理数据进行协作处理时,包括:
基于所述逻辑关系对所有待协作平台之间进行关联,并获得处理流程分支;
设置每个处理流程分支的执行参数,并基于所述执行参数对安全处理数据进行协作处理。
本实施例中,执行参数包括数据执行次数、数据出现异常情况时的预置处理手段、处理流程分支中参数的引用规则等等。
上述技术方案的有益效果是:本发明基于逻辑关系对所有待协作平台之间进行关联,并对安全处理数据进行协作处理,有效解决了现有技术中多平台之间无法实现数据协作处理的技术问题,可以将分散在不同平台中的数据整合在一起,使数据更容易处理,提升了业务响应速度。
在本申请的一些实施例中,对安全处理数据进行协作处理之后,还根据不同平台对数据进行分发持续协同。
在上述实施方式的描述中,具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
虽然在上文中已经参考实施例对本发明进行了描述,然而在不脱离本发明的范围的情况下,可以对其进行各种改进并且可以用等效物替换其中的部件。尤其是,只要不存在结构冲突,本发明所披露的实施例中的各项特征均可通过任意方式相互结合起来使用,在本说明书中未对这些组合的情况进行全部的描述仅仅是出于省略篇幅和节约资源的考虑。因此,本发明并不局限于文中公开的特定实施例,而是包括落入权利要求的范围内的所有技术方案。
本领域普通技术人员可以理解:以上仅为本发明的优选实施例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种多平台协作的数据处理方法,其特征在于,包括:
接收所有待协作平台发送的初始处理数据,对初始处理数据进行数据预处理,得到目标处理数据;
基于预设条件对目标处理数据进行数据划分,基于数据划分结果删除目标处理数据中存在的异常数据,并得到安全处理数据;
将安全处理数据划分至第一数据集合和第二数据集合;
提取所述第一数据集合和所述第二数据集合中安全处理数据的数据特征,并根据所述数据特征确定所述第一数据集合和所述第二数据集合之间的关联度,其中,所述数据特征包括安全处理数据的数据处理价值和数据关注热度;
根据所述关联度和预设关联度之间的关系建立待协作平台之间的逻辑关系,并基于所述逻辑关系对安全处理数据进行协作处理。
2.根据权利要求1所述的多平台协作的数据处理方法,其特征在于,在接收所有待协作平台发送的初始处理数据,对初始处理数据进行数据预处理,得到目标处理数据时,包括:
将初始处理数据输入至预先构建的数据完整性计算模型,得到每个初始处理数据的完整值;
对所有的完整值进行数值大小排序,并基于排序结果生成完整值集合,其中,所述完整值集合中头数据的完整值最大,所述完整值集合中尾数据的完整值最小;
获取所述数据完整性计算模型中设置的完整性阈值,根据所述完整性阈值对所述完整值集合设置截取线;
根据所述完整值集合中的头数据与所述截取线之间的数据生成第三数据集合,并根据所述完整值集合中的尾数据与所述截取线之间的数据生成第四数据集合;
删除所述第四数据集合,将所述第三数据集合中所有完整值对应的初始处理数据作为目标处理数据。
3.根据权利要求1所述的多平台协作的数据处理方法,其特征在于,在基于预设条件对目标处理数据进行数据划分,基于数据划分结果删除目标处理数据中存在的异常数据,并得到安全处理数据时,包括:
基于所述预设条件将目标处理数据进行数据划分,将目标处理数据中的已知安全数据划分至已知安全数据集合,将目标数据中的未知安全数据划分至未知安全数据集合;
将所述未知安全数据集合中的目标处理数据依次输入至预先构建的数据安全度模型;
基于所述数据安全度模型输出所述未知安全数据集合中目标处理数据对应的安全度;
基于所有的安全度和安全度阈值之间的关系计算所述未知安全数据集合的总体安全度;
当所述总体安全度大于或等于总体安全度阈值时,则判断所述未知安全数据集合安全,将目标处理数据作为安全处理数据;
当所述总体安全度小于总体安全度阈值时,则判断所述未知安全数据集合不安全,并删除所述未知安全数据集合中的目标处理数据,将所述已知安全数据集合中的目标处理数据作为安全处理数据。
4.根据权利要求3所述的多平台协作的数据处理方法,其特征在于,在基于所有的安全度和安全度阈值之间的关系计算所述未知安全数据集合的总体安全度时,包括:
根据下式计算所述未知安全数据集合的总体安全度:
;
其中,Z为未知安全数据集合的总体安全度,m1为未知安全数据集合中目标处理数据的数量,Ki为未知安全数据集合中第i个目标处理数据的安全度,R为安全度阈值。
5.根据权利要求1所述的多平台协作的数据处理方法,其特征在于,在提取所述第一数据集合和所述第二数据集合中安全处理数据的数据特征,并根据所述数据特征确定所述第一数据集合和所述第二数据集合之间的关联度时,包括:
确定所述第一数据集合中安全处理数据的第一数据处理价值和第一数据关注热度,并构建第一数据处理价值集合和第一数据关注热度集合;
确定所述第二数据集合中安全处理数据的第二数据处理价值和第二数据关注热度,并构建第二数据处理价值集合和第二数据关注热度集合;
将所述第一数据处理价值集合、所述第一数据关注热度集合、所述第二数据处理价值集合和所述第二数据关注热度集合与关联数据库进行匹配,得到第一关联因子;
根据所述第一数据集合中的最右侧的安全处理数据和所述第二数据集合中的最左侧的安全处理数据,确定第二关联因子;
根据所述第一关联因子和所述第二关联因子,确定所述第一数据集合和所述第二数据集合之间的关联度:
X=y(p1)+y(p2);
其中,X为第一数据集合和第二数据集合之间的关联度,y(p1)为基于第一关联因子确定的关联度计算函数,y(p2)为基于第二关联因子确定的关联度修正函数。
6.根据权利要求1所述的多平台协作的数据处理方法,其特征在于,在根据所述关联度和预设关联度之间的关系建立待协作平台之间的逻辑关系之后,还包括:
获取数据暂存区的缓存数据量A;
根据所述数据暂存区的缓存数据量A设定安全处理数据的初始缓存速率。
7.根据权利要求6所述的多平台协作的数据处理方法,其特征在于,在根据所述数据暂存区的缓存数据量A设定安全处理数据的初始缓存速率时,包括:
预设数据暂存区的缓存数据量矩阵B,设定B(B1,B2,B3,B4),其中,B1为第一预设缓存数据量,B2为第二预设缓存数据量,B3为第三预设缓存数据量,B4为第四预设缓存数据量,且B1<B2<B3<B4;
预设安全处理数据的初始缓存速率矩阵C,设定C(C1,C2,C3,C4,C5),其中,C1为第一预设初始缓存速率,C2为第二预设初始缓存速率,C3为第三预设初始缓存速率,C4为第四预设初始缓存速率,C5为第五预设初始缓存速率,且C1<C2<C3<C4<C5;
根据所述数据暂存区的缓存数据量A与各预设缓存数据量之间的关系设定安全处理数据的初始缓存速率:
当A<B1时,选定所述第五预设初始缓存速率C5作为安全处理数据的初始缓存速率;
当B1≤A<B2时,选定所述第四预设初始缓存速率C4作为安全处理数据的初始缓存速率;
当B2≤A<B3时,选定所述第三预设初始缓存速率C3作为安全处理数据的初始缓存速率;
当B3≤A<B4时,选定所述第二预设初始缓存速率C2作为安全处理数据的初始缓存速率;
当B4≤A时,选定所述第一预设初始缓存速率C1作为安全处理数据的初始缓存速率。
8.根据权利要求7所述的多平台协作的数据处理方法,其特征在于,在根据所述数据暂存区的缓存数据量A设定安全处理数据的初始缓存速率之后,还包括:
基于所述初始缓存速率调取速率-数据影响率映射表,并根据所述速率-数据影响率映射表确定与所述初始缓存速率相对应的数据影响率E;
根据所述数据影响率E对安全处理数据的初始缓存速率进行修正,并将修正后的初始缓存速率作为安全处理数据的目标缓存速率;
基于所述目标缓存速率将安全处理数据缓存至所述数据暂存区。
9.根据权利要求8所述的多平台协作的数据处理方法,其特征在于,在根据所述数据影响率E对安全处理数据的初始缓存速率进行修正时,包括:
预设数据影响率矩阵G,设定G(G1,G2,G3,G4),其中,G1为第一预设数据影响率,G2为第二预设数据影响率,G3为第三预设数据影响率,G4为第四预设数据影响率,且G1<G2<G3<G4;
预设安全处理数据的初始缓存速率修正系数矩阵h,设定h(h1,h2,h3,h4,h5),其中,h1为第一预设初始缓存速率修正系数,h2为第二预设初始缓存速率修正系数,h3为第三预设初始缓存速率修正系数,h4为第四预设初始缓存速率修正系数,h5为第五预设初始缓存速率修正系数,且0.8<h1<h2<h3<h4<h5<1.2;
在将安全处理数据的初始缓存速率设定为第i预设初始缓存速率Ci时,i=1,2,3,4,5,根据所述数据影响率E与各预设数据影响率之间的关系对安全处理数据的初始缓存速率进行修正:
当E<G1时,选定所述第五预设初始缓存速率修正系数h5对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h5;
当G1≤E<G2时,选定所述第四预设初始缓存速率修正系数h4对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h4;
当G2≤E<G3时,选定所述第三预设初始缓存速率修正系数h3对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h3;
当G3≤E<G4时,选定所述第二预设初始缓存速率修正系数h2对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h2;
当G4≤E时,选定所述第一预设初始缓存速率修正系数h1对所述第i预设初始缓存速率Ci进行修正,修正后的安全处理数据的初始缓存速率为Ci*h1。
10.根据权利要求1所述的多平台协作的数据处理方法,其特征在于,在基于所述逻辑关系对安全处理数据进行协作处理时,包括:
基于所述逻辑关系对所有待协作平台之间进行关联,并获得处理流程分支;
设置每个处理流程分支的执行参数,并基于所述执行参数对安全处理数据进行协作处理。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311609725.6A CN117312296B (zh) | 2023-11-29 | 2023-11-29 | 一种多平台协作的数据处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311609725.6A CN117312296B (zh) | 2023-11-29 | 2023-11-29 | 一种多平台协作的数据处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117312296A true CN117312296A (zh) | 2023-12-29 |
CN117312296B CN117312296B (zh) | 2024-02-20 |
Family
ID=89288809
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311609725.6A Active CN117312296B (zh) | 2023-11-29 | 2023-11-29 | 一种多平台协作的数据处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117312296B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117555937A (zh) * | 2024-01-12 | 2024-02-13 | 山东街景智能制造科技股份有限公司 | 一种用于产品推荐的数据采集方法及系统 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2231458A1 (en) * | 1997-03-07 | 1998-09-07 | Fujikin Incorporated | Device for heating fluid control apparatus |
US20050288080A1 (en) * | 2004-06-28 | 2005-12-29 | Airplay Network, Inc. | Methods and apparatus for distributed gaming over a mobile device |
WO2012073233A1 (en) * | 2010-11-29 | 2012-06-07 | Biocatch Ltd. | Method and device for confirming computer end-user identity |
US20160099963A1 (en) * | 2008-10-21 | 2016-04-07 | Lookout, Inc. | Methods and systems for sharing risk responses between collections of mobile communications devices |
CN105988451A (zh) * | 2015-03-16 | 2016-10-05 | 洛克威尔自动控制技术股份有限公司 | 针对工业自动化的基于云的分析 |
CN109714421A (zh) * | 2018-12-28 | 2019-05-03 | 国汽(北京)智能网联汽车研究院有限公司 | 基于车路协同的智能网联汽车运行系统 |
CN113552855A (zh) * | 2021-07-23 | 2021-10-26 | 重庆英科铸数网络科技有限公司 | 工业设备动态阈值设定方法、装置、电子设备及存储介质 |
CN114022051A (zh) * | 2021-12-31 | 2022-02-08 | 阿里云计算有限公司 | 一种指标波动分析方法,存储介质和电子设备 |
CN116866374A (zh) * | 2023-05-29 | 2023-10-10 | 华能山东发电有限公司烟台发电厂 | 一种基于通讯的灰斗料位计数据集中采集方法及系统 |
CN116963662A (zh) * | 2021-01-07 | 2023-10-27 | 阿比奥梅德公司 | 基于网络的医疗设备控制和数据管理系统 |
CN117034572A (zh) * | 2023-07-19 | 2023-11-10 | 国家石油天然气管网集团有限公司 | 一种基于流通系数的等比例阀门的建模方法 |
-
2023
- 2023-11-29 CN CN202311609725.6A patent/CN117312296B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2231458A1 (en) * | 1997-03-07 | 1998-09-07 | Fujikin Incorporated | Device for heating fluid control apparatus |
US20050288080A1 (en) * | 2004-06-28 | 2005-12-29 | Airplay Network, Inc. | Methods and apparatus for distributed gaming over a mobile device |
US20160099963A1 (en) * | 2008-10-21 | 2016-04-07 | Lookout, Inc. | Methods and systems for sharing risk responses between collections of mobile communications devices |
WO2012073233A1 (en) * | 2010-11-29 | 2012-06-07 | Biocatch Ltd. | Method and device for confirming computer end-user identity |
CN105988451A (zh) * | 2015-03-16 | 2016-10-05 | 洛克威尔自动控制技术股份有限公司 | 针对工业自动化的基于云的分析 |
CN109714421A (zh) * | 2018-12-28 | 2019-05-03 | 国汽(北京)智能网联汽车研究院有限公司 | 基于车路协同的智能网联汽车运行系统 |
CN116963662A (zh) * | 2021-01-07 | 2023-10-27 | 阿比奥梅德公司 | 基于网络的医疗设备控制和数据管理系统 |
CN113552855A (zh) * | 2021-07-23 | 2021-10-26 | 重庆英科铸数网络科技有限公司 | 工业设备动态阈值设定方法、装置、电子设备及存储介质 |
CN114022051A (zh) * | 2021-12-31 | 2022-02-08 | 阿里云计算有限公司 | 一种指标波动分析方法,存储介质和电子设备 |
CN116866374A (zh) * | 2023-05-29 | 2023-10-10 | 华能山东发电有限公司烟台发电厂 | 一种基于通讯的灰斗料位计数据集中采集方法及系统 |
CN117034572A (zh) * | 2023-07-19 | 2023-11-10 | 国家石油天然气管网集团有限公司 | 一种基于流通系数的等比例阀门的建模方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117555937A (zh) * | 2024-01-12 | 2024-02-13 | 山东街景智能制造科技股份有限公司 | 一种用于产品推荐的数据采集方法及系统 |
CN117555937B (zh) * | 2024-01-12 | 2024-04-19 | 山东街景智能制造科技股份有限公司 | 一种用于产品推荐的数据采集方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN117312296B (zh) | 2024-02-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN117312296B (zh) | 一种多平台协作的数据处理方法 | |
US11336431B2 (en) | Verification system and method for cooperating with blockchain and off-chain devices | |
CN109326323B (zh) | 一种基因组的组装方法及装置 | |
WO2021022875A1 (zh) | 数据的分布式存储方法及系统 | |
CN102420771B (zh) | 高速网络环境中提高tcp并发连接速度的方法 | |
CN109117275A (zh) | 基于数据分片的对账方法、装置、计算机设备及存储介质 | |
CN103970879B (zh) | 一种调整数据块存储位置的方法及系统 | |
CN106789912A (zh) | 基于分类回归决策树的路由器数据平面异常行为检测方法 | |
CN114189347B (zh) | 一种数据粒子化与网闸相结合的数据安全传输方法 | |
CN108123962A (zh) | 一种利用Spark实现BFS算法生成攻击图的方法 | |
CN104506356A (zh) | 一种确定ip地址信誉度的方法和装置 | |
CN112417507B (zh) | 一种基于隐私保护的大型图的节点三角形计数的发布方法 | |
CN116192242B (zh) | 一种无人飞机低空遥感数据自适应分片处理算法 | |
CN112463881A (zh) | 一种面向云边聚合计算环境的高效区块链系统及处理方法 | |
CN114584374B (zh) | 一种基于区块链的大数据隐私共享安全保护系统及方法 | |
CN108881241A (zh) | 一种面向软件定义网络的动态源地址验证方法 | |
CN104270466A (zh) | 数据上报方法及相关设备 | |
CN110598930B (zh) | 一种公交线路优化调整方法及装置 | |
CN102223382B (zh) | 以数据分布特征为密码的云安全方法和系统 | |
CN104951557B (zh) | 基于树形结构对行政区划资源进行升级的系统及方法 | |
CN106649352A (zh) | 数据处理方法及装置 | |
CN106888237A (zh) | 一种数据调度方法及系统 | |
CN110020087A (zh) | 一种基于相似度估计的分布式PageRank加速方法 | |
CN110413589A (zh) | 基于星际文件系统的信息管理方法及平台 | |
CN115277044B (zh) | OpenStack加密链路节点分层方法与系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |