CN106203164B - 基于可信计算和云计算的信息安全大数据资源管理系统 - Google Patents

基于可信计算和云计算的信息安全大数据资源管理系统 Download PDF

Info

Publication number
CN106203164B
CN106203164B CN201610525125.5A CN201610525125A CN106203164B CN 106203164 B CN106203164 B CN 106203164B CN 201610525125 A CN201610525125 A CN 201610525125A CN 106203164 B CN106203164 B CN 106203164B
Authority
CN
China
Prior art keywords
resource
data
mrow
msub
node
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610525125.5A
Other languages
English (en)
Other versions
CN106203164A (zh
Inventor
安森宾
童炜明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai wide benefit network Polytron Technologies Inc
Original Assignee
Shanghai Wide Benefit Network Polytron Technologies Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Wide Benefit Network Polytron Technologies Inc filed Critical Shanghai Wide Benefit Network Polytron Technologies Inc
Priority to CN201610525125.5A priority Critical patent/CN106203164B/zh
Publication of CN106203164A publication Critical patent/CN106203164A/zh
Application granted granted Critical
Publication of CN106203164B publication Critical patent/CN106203164B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/62Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6227Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database where protection concerns the structure of data, e.g. records, types, queries

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Bioethics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Computer And Data Communications (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了基于可信计算和云计算的信息安全大数据资源管理系统,包括数据资源存储单元、数据资源分类单元、基于可信计算的密钥单元、数据资源查找单元、任务规划单元、可信组合评估单元和服务部署单元。该系统架构是在具有保护性功能、认证和完整性度量等特征基础上构建一种可信度评估机制和可信关系传递机制,进而建立一个从数据资源存储到数据资源查找,再到数据资源服务分配的可信链。本发明实现了大数据资源的有效管理,增加了系统的安全性和可信性。

Description

基于可信计算和云计算的信息安全大数据资源管理系统
技术领域
本发明涉及大数据领域,具体涉及基于可信计算和云计算的信息安全大数据资源管理系统。
背景技术
在云环境中大规模的分布式数据节点中执行数据资源的搜集,首先需要对分散在各处的数据资源节点进行管理,并设计高效的数据资源查找方法。在目前的相关研究工作中,传统的集中式数据资源管理和查找方法,采用基于注册中心的数据资源节点管理方式,面临着单点故障、可扩展性差等问题,无法满足云环境下灵活、可扩展及健壮的数据资源查找需求。因此,如何采用非集中式的数据资源节点管理和数据查找方法,以满足构建大数据服务的可扩展数据资源节点管理与数据资源搜集需求,是一个有挑战性的问题。
可信计算技术提供基于硬件和加密的终端安全保护,对于信息安全大数据资源管理系统而言,可以有效保证数据不会传递给恶意终端,保障数据安全,是一种很好的增强信息安全大数据资源管理系统可信性的解决方案。有关可信计算的概念,在ISO/IEC 15408标准中给出了以下定义:一个可信的组件、操作或过程的行为在任意操作条件下是可预测的,并能很好地抵抗应用程序软件、病毒以及一定的物理干扰造成的破坏。可信计算的基本思路是在硬件平台上引入安全芯片(可信平台模块)来提高终端系统的安全性,也就是说在每个终端平台上植入一个信任根,让计算机从BIOS到操作系统内核层,再到应用层都构建信任关系;以此为基础,扩大到网络上,建立相应的信任链,从而进入计算机免疫时代。当终端受到攻击时,可实现自我保护、自我管理和自我恢复。可信计算是在计算和通信系统中广泛使用基于硬件安全模块支持下的可信计算平台,以提高系统整体的安全性,可信计算为行为安全而生,行为安全应该包括:行为的机密性、行为的完整性、行为的真实性等特征。可信计算包括5个核心的概念,即:密钥、安全输入输出、储存器屏蔽等,其中密钥的运用是可信系统的重中之重,基于密钥算法进行数据储存和传输,是整个可信安全防护系统的基础保障。不同的密钥算法,衍生了不一样的可信度安全系统。
发明内容
针对上述问题,本发明提供基于可信计算和云计算的信息安全大数据资源管理系统。
本发明的目的采用以下技术方案来实现:
基于可信计算和云计算的信息安全大数据资源管理系统,包括数据资源存储单元、数据资源分类单元、基于可信计算的密钥单元、数据资源查找单元、任务规划单元、可信组合评估单元和服务部署单元,具体地:
(1)数据资源存储单元:包括数据存储模块和数据备份模块,所述数据存储模块认证所需进行信息存储的网络中的硬件节点,判断网络硬件节点可信度,建立所存储信息的信任关系,建立信任关系后,以分布在云环境下的数据资源为基础,对数据资源进行封装存储;所述数据备份模块用于数据丢失或者遭到破坏的情况下恢复数据;
(2)数据资源分类单元:用于采用K-means聚类的方法对数据进行分类管理;
(3)基于可信计算的密钥单元:用于保证数据不能被随意获取,包括基于可信技术设置的密钥生成模块、身份验证模块和解密模块;所述密钥生成模块具体执行以下操作:
1)将数据划分为多个密钥字符串长度大小的块;
2)用0~26范围的整数取代明文和密钥的每个字符,空格符=00,对字符A至Z按照英文字母排序的顺序依次赋予整数值01,02,…,26;
3)对明文的每个块,将其每个字符用对应的计算值取代,所述对应的计算值为将对应字符的整数编码与密钥中相应位置的字符的整数编码相加后除27再取余所得到的值;
4)将用对应的计算值取代的字符再用其等价字符替代;
所述身份验证模块通过用户登录和指纹验证实现;身份验证成功的用户即可通过解密模块获得密钥,完成解密;
(4)数据资源查找单元:用于根据大数据服务的需求,在已验证的安全网络环境下从数据资源层中分散在云中各处的数据资源提供者处查找并匹配满足应用需求的数据资源,并通过搜集整理形成待处理的大数据资源,作为大数据服务的输入;包括依次连接的建模模块、资源复制模块和资源查找模块,所述建模模块用于采用非结构化对等网络对云环境下的资源节点形成的覆盖网络进行建模,所述资源复制模块用于在所述覆盖网络中的各邻居节点之间进行资源信息的复制,所述资源查找模块用于查找并匹配满足应用需求的数据资源;
设xi为非结构化对等网络中的一个对等节点,{xi1,xi2,…xim}为xi的邻居节点集,为本地资源池,为邻居节点资源信息池,i∈[1,n],n为对等网络包含节点的总数,m表示邻居节点的个数,m<n;
A、所述资源复制模块在进行资源信息的复制时采用基于邻居节点间的数据资源信息主动复制协议:
当xi加入覆盖网络时,将xi与{xi1,xi2,…xim}建立连接,xi进一步根据中的服务信息,创建一个资源信息的复制消息,并将所述复制消息转发给所有邻居节点xim进行复制,若对等网络中的任一节点接收到一个复制消息时,根据复制消息的编号信息判断是否接收过所述复制消息,若已接收过,丢弃所述复制消息,若首次接收,则根据复制消息的资源信息和节点位置信息,更新中的内容,并根据复制消息的生命值,决定转发或丢弃所述复制消息,其中,资源信息需要定期在邻居节点之间进行同步;
B、所述资源查找模块具体执行的操作为:
设发起查询请求Mj的节点为xj,在xj的邻居节点集合中按照概率pj随机挑选出的对等节点集为{xj1,xj2,…xjm′},m′<m,j∈[1,n];
当对等节点xi收到xj发送的查询请求Mj时,检查中是否含有满足查询请求Mj的数据资源信息,若是,根据所述数据资源信息和数据资源信息所在对等节点的位置信息,创建查询的响应消息并根据xj的位置信息,将所述响应信息返回给xj,然后将xj的生命值减1,若xj的生命值为0,丢弃查询请求Mj,若不为0,采用Q学习算法计算{xj1,xj2,…xjm′}中各对等节点的Q值,将查询请求Mj转发给{xj1,xj2,…xjm′}中Q值最大的节点;
设定Q值的计算公式为:
其中,Qnew表示Q的新值,Qold表示Q的老值,Qlearn表示被学习的值,α表示学习速率,β表示拥塞因素,表示时刻t节点x的缓存队列中待处理的查询请求消息数,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息所规定的时间,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息实际所需的时间;函数I[x]在x>0时取值为1,x≤0时取值为0,α的取值范围是[0.25,0.3],β的取值范围是[0.45,0.5];
(5)任务规划单元:用于对大数据处理过程进行任务规划,将复杂的大数据处理计算任务拆分至一组功能单一且独立的子任务,并为子任务匹配满足其需求的云端服务资源池,形成云服务组合方案,以获得大数据处理过程中所需的存储资源或计算资源;
(6)可信组合评估单元:用于根据任务规划单元生成的大数据服务的任务规划,执行云服务组合方案的评估,包括评估模块和评估优化模块;所述评估模块具体执行的操作为:
A、根据SPv和对应的(服务质量)历史记录,进行CSγ的效用函数X的建模并根据应用实例初始化模型中效用函数的各参数,设由任务规划单元获得的任务规划对应的约束为C={C1,C2,..,Cd},每个子任务Gv对应的云端服务资源池SPv共有mv个服务,对于云端服务资源池SPv中的每一个服务SP,其包含的历史记录个数为L,由SPv形成的第γ个可行的云服务组合方案为CSγω∈[1,mv],定义模型为:
其中,为第k维度的最大值,为第k维度的最小值,d为对应于的最大维度,SPRh为隶属于SP的一条历史记录,xvω-h表示模型中效用函数的参数,wk为第k维度的权重值,qk(SPRh)表示与SPRh对应的第k维度的服务质量值;
B、根据效用函数值按从小到大的顺序对各可行云服务组合方案进行排序,选择前Z个可行云服务组合方案作为优选云服务组合方案,Z的取值根据应用实例进行设定;
C、对每一组优选云服务组合方案计算其效用函数值;
D、选择效用函数值为最大的优选云服务组合方案作为最优的云服务组合方案;
所述评估优化模块能够记录优选云服务组合方案的效用函数值和最优的云服务组合方案,并将其作为样本进行学习,如果新的优选云服务组合方案已经出现过,则直接调用其函数值,且随着使用时间的变长,样本量的增大,越能发挥其效能;
(7)服务部署单元:用于根据可信组合评估单元选择出的最优的云服务组合方案,自动选择相应大数据分析算法,完成大数据服务的实现和部署。
本发明的有益效果为:设置数据备份模块和基于可信计算的密钥单元,能够保障数据存储和数据传输的安全性,增加了数据处理的可信性;设置数据资源分类单元,加快了数据处理速度,提高了数据处理效率;针对云环境下数据资源节点通常分散在云端各处的现状,且集中式的数据资源管理与查找方法面临着单点故障、可扩展性差等问题,在数据资源查找单元中设置依次连接的建模模块、资源复制模块和资源查找模块,采用非结构化的对等网络作为云环境下数据资源节点的拓扑组织结构,并服务封装数据资源,方便了使用者通过匹配服务描述信息来使用数据资源,其中提出了基于邻居节点间的资源信息主动复制协议和查找算法,进一步增加了数据资源信息在网络中的覆盖率,提高了数据资源查找的效率;设置可信组合评估单元,提高了支撑大数据服务的云服务组合方案的可信度;在可信组合评估单元中,定义了基于(服务质量)历史记录的评估算法,提高了组合评估的计算速度,为通过使用云端服务提供的计算资源或存储资源来开发构建大数据服务提供了一个可行的技术方案;采用评估优化模块,节约了评估时间,提高了评估速度。
附图说明
利用附图对本发明作进一步说明,但附图中的实施例不构成对本发明的任何限制,对于本领域的普通技术人员,在不付出创造性劳动的前提下,还可以根据以下附图获得其它的附图。
图1是本发明各模块连接示意图;
图2是本发明的原理示意图。
附图标记:
数据资源存储单元10、数据资源分类单元20、基于可信计算的密钥单元30、数据资源查找单元40、任务规划单元50、可信组合评估单元60、可信组合评估单元70。
具体实施方式
结合以下实施例对本发明作进一步描述。
实施例1:如图1、图2所示的基于可信计算和云计算的信息安全大数据资源管理系统,包括数据资源存储单元10、数据资源分类单元20、基于可信计算的密钥单元30、数据资源查找单元40、任务规划单元50、可信组合评估单元60和可信组合评估单元70,具体地:
(1)数据资源存储单元10:包括数据存储模块11和数据备份模块12,所述数据存储模块11认证所需进行信息存储的网络中的硬件节点,判断网络硬件节点可信度,建立所存储信息的信任关系,建立信任关系后,以分布在云环境下的数据资源为基础,对数据资源进行封装存储;所述数据备份模块12用于数据丢失或者遭到破坏的情况下恢复数据;
(2)数据资源分类单元20:用于采用K-means聚类的方法对数据进行分类管理;
(3)基于可信计算的密钥单元30:用于保证数据不能被随意获取,包括基于可信技术设置的密钥生成模块31、身份验证模块32和解密模块33;所述密钥生成模块31密钥生成算法如下:
1)将数据划分为多个密钥字符串长度大小的块;
2)用0~26范围的整数取代明文和密钥的每个字符,空格符=00,对字符A至Z按照英文字母排序的顺序依次赋予整数值01,02,…,26;
3)对明文的每个块,将其每个字符用对应的计算值取代,所述对应的计算值为将对应字符的整数编码与密钥中相应位置的字符的整数编码相加后除27再取余所得到的值;
4)将用对应的计算值取代的字符再用其等价字符替代;
所述身份验证模块32通过用户登录和指纹验证实现;身份验证成功的用户即可通过解密模块获得密钥,完成解密;
(4)数据资源查找单元40:用于根据大数据服务的需求,在已验证的安全网络环境下从数据资源层中分散在云中各处的数据资源提供者处查找并匹配满足应用需求的数据资源,并通过搜集整理形成待处理的大数据资源,作为大数据服务的输入;包括依次连接的建模模块41、资源复制模块42和资源查找模块43,所述建模模块41用于采用非结构化对等网络对云环境下的资源节点形成的覆盖网络进行建模,所述资源复制模块42用于在所述覆盖网络中的各邻居节点之间进行资源信息的复制,所述资源查找模块43用于查找并匹配满足应用需求的数据资源;
设xi为非结构化对等网络中的一个对等节点,{xi1,xi2,…xim}为xi的邻居节点集,为本地资源池,为邻居节点资源信息池,i∈[1,n],n为对等网络包含节点的总数,m表示邻居节点的个数,m<n;
A、所述资源复制模块在进行资源信息的复制时采用基于邻居节点间的数据资源信息主动复制协议:
当xi加入覆盖网络时,将xi与{xi1,xi2,…xim}建立连接,xi进一步根据中的服务信息,创建一个资源信息的复制消息,并将所述复制消息转发给所有邻居节点xim进行复制,若对等网络中的任一节点接收到一个复制消息时,根据复制消息的编号信息判断是否接收过所述复制消息,若已接收过,丢弃所述复制消息,若首次接收,则根据复制消息的资源信息和节点位置信息,更新中的内容,并根据复制消息的生命值,决定转发或丢弃所述复制消息,其中,资源信息需要定期在邻居节点之间进行同步;
B、所述资源查找模块具体执行的操作为:
设发起查询请求Mj的节点为xj,在xj的邻居节点集合中按照概率pj随机挑选出的对等节点集为{xj1,xj2,…xjm′},m′<m,j∈[1,n];
当对等节点xi收到xj发送的查询请求Mj时,检查中是否含有满足查询请求Mj的数据资源信息,若是,根据所述数据资源信息和数据资源信息所在对等节点的位置信息,创建查询的响应消息并根据xj的位置信息,将所述响应信息返回给xj,然后将xj的生命值减1,若xj的生命值为0,丢弃查询请求Mj,若不为0,采用Q学习算法计算{xj1,xj2,…xjm′}中各对等节点的Q值,将查询请求Mj转发给{xj1,xj2,…xjm′}中Q值最大的节点;
设定Q值的计算公式为:
其中,Qnew表示Q的新值,Qold表示Q的老值,Qlearn表示被学习的值,α表示学习速率,β表示拥塞因素,表示时刻t节点x的缓存队列中待处理的查询请求消息数,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息所规定的时间,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息实际所需的时间;函数I[x]在x>0时取值为1,x≤0时取值为0,α的取值范围是[0.25,0.3],β的取值范围是[0.45,0.5];
(5)任务规划单元50:用于对大数据处理过程进行任务规划,将复杂的大数据处理计算任务拆分至一组功能单一且独立的子任务,并为子任务匹配满足其需求的云端服务资源池,形成云服务组合方案,以获得大数据处理过程中所需的存储资源或计算资源;
(6)可信组合评估单元60:用于根据任务规划单元生成的大数据服务的任务规划,执行云服务组合方案的评估,包括评估模块61和评估优化模块62;所述评估模块61具体执行的操作为:
A、根据SPv和对应的(服务质量)历史记录,进行CSγ的效用函数X的建模并根据应用实例初始化模型中效用函数的各参数,设由任务规划单元获得的任务规划对应的约束为C={C1,C2,..,Cd},每个子任务Gv对应的云端服务资源池SPv共有mv个服务,对于云端服务资源池SPv中的每一个服务SP,其包含的历史记录个数为L,由SPv形成的第γ个可行的云服务组合方案为CSγω∈[1,mv],定义模型为:
其中,为第k维度的最大值,为第k维度的最小值,d为对应于的最大维度,SPRh为隶属于SP的一条历史记录,xvω-h表示模型中效用函数的参数,wk为第k维度的权重值,qk(SPRh)表示与SPRh对应的第k维度的服务质量值;
B、根据效用函数值按从小到大的顺序对各可行云服务组合方案进行排序,选择前Z个可行云服务组合方案作为优选云服务组合方案,Z的取值根据应用实例进行设定;
C、对每一组优选云服务组合方案计算其效用函数值;
D、选择效用函数值为最大的优选云服务组合方案作为最优的云服务组合方案;
所述评估优化模块62能够记录优选云服务组合方案的效用函数值和最优的云服务组合方案,并将其作为样本进行学习,如果新的优选云服务组合方案已经出现过,则直接调用其函数值,且随着使用时间的变长,样本量的增大,越能发挥其效能;
(7)可信组合评估单元70:用于根据可信组合评估单元选择出的最优的云服务组合方案,自动选择相应大数据分析算法,完成大数据服务的实现和部署。
在此实施例中:设置数据备份模块和基于可信计算的密钥单元,增加了数据安全性和可信性;设置数据资源分类单元,加快了数据处理速度,提高了数据处理效率;针对云环境下数据资源节点通常分散在云端各处的现状,且集中式的数据资源管理与查找方法面临着单点故障、可扩展性差等问题,在数据资源查找单元中设置依次连接的建模模块、资源复制模块和资源查找模块,采用非结构化的对等网络作为云环境下数据资源节点的拓扑组织结构,并服务封装数据资源,方便了使用者通过匹配服务描述信息来使用数据资源,其中提出了基于邻居节点间的资源信息主动复制协议和查找算法,进一步增加了数据资源信息在网络中的覆盖率,提高了数据资源查找的效率;设置可信组合评估单元,提高了支撑大数据服务的云服务组合方案的可信度;在可信组合评估单元中,定义了基于(服务质量)历史记录的评估算法,提高了组合评估的计算速度,为通过使用云端服务提供的计算资源或存储资源来开发构建大数据服务提供了一个可行的技术方案;采用评估优化模块,节约了评估时间,提高了评估速度;α=0.3,β=0.45,数据资源查找效率提高了4%。
实施例2:如图1、图2所示的基于可信计算和云计算的信息安全大数据资源管理系统,包括数据资源存储单元10、数据资源分类单元20、基于可信计算的密钥单元30、数据资源查找单元40、任务规划单元50、可信组合评估单元60和可信组合评估单元70,具体地:
(1)数据资源存储单元10:包括数据存储模块11和数据备份模块12,所述数据存储模块11认证所需进行信息存储的网络中的硬件节点,判断网络硬件节点可信度,建立所存储信息的信任关系,建立信任关系后,以分布在云环境下的数据资源为基础,对数据资源进行封装存储;所述数据备份模块12用于数据丢失或者遭到破坏的情况下恢复数据;
(2)数据资源分类单元20:用于采用K-means聚类的方法对数据进行分类管理;
(3)基于可信计算的密钥单元30:用于保证数据不能被随意获取,包括基于可信技术设置的密钥生成模块31、身份验证模块32和解密模块33;所述密钥生成模块31密钥生成算法如下:
1)将数据划分为多个密钥字符串长度大小的块;
2)用0~26范围的整数取代明文和密钥的每个字符,空格符=00,对字符A至Z按照英文字母排序的顺序依次赋予整数值01,02,…,26;
3)对明文的每个块,将其每个字符用对应的计算值取代,所述对应的计算值为将对应字符的整数编码与密钥中相应位置的字符的整数编码相加后除27再取余所得到的值;
4)将用对应的计算值取代的字符再用其等价字符替代;
所述身份验证模块32通过用户登录和指纹验证实现;身份验证成功的用户即可通过解密模块33获得密钥,完成解密;
(4)数据资源查找单元40:用于根据大数据服务的需求,在已验证的安全网络环境下从数据资源层中分散在云中各处的数据资源提供者处查找并匹配满足应用需求的数据资源,并通过搜集整理形成待处理的大数据资源,作为大数据服务的输入;包括依次连接的建模模块41、资源复制模块42和资源查找模块43,所述建模模块41用于采用非结构化对等网络对云环境下的资源节点形成的覆盖网络进行建模,所述资源复制模块42用于在所述覆盖网络中的各邻居节点之间进行资源信息的复制,所述资源查找模块43用于查找并匹配满足应用需求的数据资源;
设xi为非结构化对等网络中的一个对等节点,{xi1,xi2,…xim}为xi的邻居节点集,为本地资源池,为邻居节点资源信息池,i∈[1,n],n为对等网络包含节点的总数,m表示邻居节点的个数,m<n;
A、所述资源复制模块在进行资源信息的复制时采用基于邻居节点间的数据资源信息主动复制协议:
当xi加入覆盖网络时,将xi与{xi1,xi2,…xim}建立连接,xi进一步根据中的服务信息,创建一个资源信息的复制消息,并将所述复制消息转发给所有邻居节点xim进行复制,若对等网络中的任一节点接收到一个复制消息时,根据复制消息的编号信息判断是否接收过所述复制消息,若已接收过,丢弃所述复制消息,若首次接收,则根据复制消息的资源信息和节点位置信息,更新中的内容,并根据复制消息的生命值,决定转发或丢弃所述复制消息,其中,资源信息需要定期在邻居节点之间进行同步;
B、所述资源查找模块具体执行的操作为:
设发起查询请求Mj的节点为xj,在xj的邻居节点集合中按照概率pj随机挑选出的对等节点集为{xj1,xj2,…xjm′},m′<m,j∈[1,n];
当对等节点xi收到xj发送的查询请求Mj时,检查中是否含有满足查询请求Mj的数据资源信息,若是,根据所述数据资源信息和数据资源信息所在对等节点的位置信息,创建查询的响应消息并根据xj的位置信息,将所述响应信息返回给xj,然后将xj的生命值减1,若xj的生命值为0,丢弃查询请求Mj,若不为0,采用Q学习算法计算{xj1,xj2,…xjm′}中各对等节点的Q值,将查询请求Mj转发给{xj1,xj2,…xjm′}中Q值最大的节点;
设定Q值的计算公式为:
其中,Qnew表示Q的新值,Qold表示Q的老值,Qlearn表示被学习的值,α表示学习速率,β表示拥塞因素,表示时刻t节点x的缓存队列中待处理的查询请求消息数,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息所规定的时间,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息实际所需的时间;函数I[x]在x>0时取值为1,x≤0时取值为0,α的取值范围是[0.25,0.3],β的取值范围是[0.45,0.5];
(5)任务规划单元50:用于对大数据处理过程进行任务规划,将复杂的大数据处理计算任务拆分至一组功能单一且独立的子任务,并为子任务匹配满足其需求的云端服务资源池,形成云服务组合方案,以获得大数据处理过程中所需的存储资源或计算资源;
(6)可信组合评估单元60:用于根据任务规划单元生成的大数据服务的任务规划,执行云服务组合方案的评估,包括评估模块61和评估优化模块62;所述评估模块61具体执行的操作为:
A、根据SPv和对应的(服务质量)历史记录,进行CSγ的效用函数X的建模并根据应用实例初始化模型中效用函数的各参数,设由任务规划单元获得的任务规划对应的约束为C={C1,C2,..,Cd},每个子任务Gv对应的云端服务资源池SPv共有mv个服务,对于云端服务资源池SPv中的每一个服务SP,其包含的历史记录个数为L,由SPv形成的第γ个可行的云服务组合方案为CSγω∈[1,mv],定义模型为:
其中,为第k维度的最大值,为第k维度的最小值,d为对应于的最大维度,SPRh为隶属于SP的一条历史记录,xvω-h表示模型中效用函数的参数,wk为第k维度的权重值,qd(SPRh)表示与SPRh对应的第d维度的服务质量值,qk(SPRh)表示与SPRh对应的第k维度的服务质量值;
B、根据效用函数值按从小到大的顺序对各可行云服务组合方案进行排序,选择前Z个可行云服务组合方案作为优选云服务组合方案,Z的取值根据应用实例进行设定;
C、对每一组优选云服务组合方案计算其效用函数值;
D、选择效用函数值为最大的优选云服务组合方案作为最优的云服务组合方案;
所述评估优化模块62能够记录优选云服务组合方案的效用函数值和最优的云服务组合方案,并将其作为样本进行学习,如果新的优选云服务组合方案已经出现过,则直接调用其函数值,且随着使用时间的变长,样本量的增大,越能发挥其效能;
(7)可信组合评估单元70:用于根据可信组合评估单元选择出的最优的云服务组合方案,自动选择相应大数据分析算法,完成大数据服务的实现和部署。
在此实施例中:设置数据备份模块和基于可信计算的密钥单元,增加了数据安全性和可信性;设置数据资源分类单元,加快了数据处理速度,提高了数据处理效率;针对云环境下数据资源节点通常分散在云端各处的现状,且集中式的数据资源管理与查找方法面临着单点故障、可扩展性差等问题,在数据资源查找单元中设置依次连接的建模模块、资源复制模块和资源查找模块,采用非结构化的对等网络作为云环境下数据资源节点的拓扑组织结构,并服务封装数据资源,方便了使用者通过匹配服务描述信息来使用数据资源,其中提出了基于邻居节点间的资源信息主动复制协议和查找算法,进一步增加了数据资源信息在网络中的覆盖率,提高了数据资源查找的效率;设置可信组合评估单元,提高了支撑大数据服务的云服务组合方案的可信度;在可信组合评估单元中,定义了基于(服务质量)历史记录的评估算法,提高了组合评估的计算速度,为通过使用云端服务提供的计算资源或存储资源来开发构建大数据服务提供了一个可行的技术方案;采用评估优化模块,节约了评估时间,提高了评估速度;α=0.28,β=0.45,数据资源查找效率提高了5%。
实施例3:如图1、图2所示的基于可信计算和云计算的信息安全大数据资源管理系统,包括数据资源存储单元10、数据资源分类单元20、基于可信计算的密钥单元30、数据资源查找单元40、任务规划单元50、可信组合评估单元60和可信组合评估单元70,具体地:
(1)数据资源存储单元10:包括数据存储模块11和数据备份模块12,所述数据存储模块11认证所需进行信息存储的网络中的硬件节点,判断网络硬件节点可信度,建立所存储信息的信任关系,建立信任关系后,以分布在云环境下的数据资源为基础,对数据资源进行封装存储;所述数据备份模块12用于数据丢失或者遭到破坏的情况下恢复数据;
(2)数据资源分类单元20:用于采用K-means聚类的方法对数据进行分类管理;
(3)基于可信计算的密钥单元30:用于保证数据不能被随意获取,包括基于可信技术设置的密钥生成模块31、身份验证模块32和解密模块33;所述密钥生成模块31密钥生成算法如下:
1)将数据划分为多个密钥字符串长度大小的块;
2)用0~26范围的整数取代明文和密钥的每个字符,空格符=00,对字符A至Z按照英文字母排序的顺序依次赋予整数值01,02,…,26;
3)对明文的每个块,将其每个字符用对应的计算值取代,所述对应的计算值为将对应字符的整数编码与密钥中相应位置的字符的整数编码相加后除27再取余所得到的值;
4)将用对应的计算值取代的字符再用其等价字符替代;
所述身份验证模块32通过用户登录和指纹验证实现;身份验证成功的用户即可通过解密模块33获得密钥,完成解密;
(4)数据资源查找单元40:用于根据大数据服务的需求,在已验证的安全网络环境下从数据资源层中分散在云中各处的数据资源提供者处查找并匹配满足应用需求的数据资源,并通过搜集整理形成待处理的大数据资源,作为大数据服务的输入;包括依次连接的建模模块41、资源复制模块42和资源查找模块43,所述建模模块41用于采用非结构化对等网络对云环境下的资源节点形成的覆盖网络进行建模,所述资源复制模块42用于在所述覆盖网络中的各邻居节点之间进行资源信息的复制,所述资源查找模块43用于查找并匹配满足应用需求的数据资源;
设xi为非结构化对等网络中的一个对等节点,{xi1,xi2,…xim}为xi的邻居节点集,为本地资源池,为邻居节点资源信息池,i∈[1,n],n为对等网络包含节点的总数,m表示邻居节点的个数,m<n;
A、所述资源复制模块在进行资源信息的复制时采用基于邻居节点间的数据资源信息主动复制协议:
当xi加入覆盖网络时,将xi与{xi1,xi2,…xim}建立连接,xi进一步根据中的服务信息,创建一个资源信息的复制消息,并将所述复制消息转发给所有邻居节点xim进行复制,若对等网络中的任一节点接收到一个复制消息时,根据复制消息的编号信息判断是否接收过所述复制消息,若已接收过,丢弃所述复制消息,若首次接收,则根据复制消息的资源信息和节点位置信息,更新中的内容,并根据复制消息的生命值,决定转发或丢弃所述复制消息,其中,资源信息需要定期在邻居节点之间进行同步;
B、所述资源查找模块具体执行的操作为:
设发起查询请求Mj的节点为xj,在xj的邻居节点集合中按照概率pj随机挑选出的对等节点集为{xj1,xj2,…xjm′},m′<m,j∈[1,n];
当对等节点xi收到xj发送的查询请求Mj时,检查中是否含有满足查询请求Mj的数据资源信息,若是,根据所述数据资源信息和数据资源信息所在对等节点的位置信息,创建查询的响应消息并根据xj的位置信息,将所述响应信息返回给xj,然后将xj的生命值减1,若xj的生命值为0,丢弃查询请求Mj,若不为0,采用Q学习算法计算{xj1,xj2,…xjm′}中各对等节点的Q值,将查询请求Mj转发给{xj1,xj2,…xjm′}中Q值最大的节点;
设定Q值的计算公式为:
其中,Qnew表示Q的新值,Qold表示Q的老值,Qlearn表示被学习的值,α表示学习速率,β表示拥塞因素,表示时刻t节点x的缓存队列中待处理的查询请求消息数,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息所规定的时间,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息实际所需的时间;函数I[x]在x>0时取值为1,x≤0时取值为0,α的取值范围是[0.25,0.3],β的取值范围是[0.45,0.5];
(5)任务规划单元50:用于对大数据处理过程进行任务规划,将复杂的大数据处理计算任务拆分至一组功能单一且独立的子任务,并为子任务匹配满足其需求的云端服务资源池,形成云服务组合方案,以获得大数据处理过程中所需的存储资源或计算资源;
(6)可信组合评估单元60:用于根据任务规划单元生成的大数据服务的任务规划,执行云服务组合方案的评估,包括评估模块61和评估优化模块62;所述评估模块61具体执行的操作为:
A、根据SPv和对应的(服务质量)历史记录,进行CSγ的效用函数X的建模并根据应用实例初始化模型中效用函数的各参数,设由任务规划单元获得的任务规划对应的约束为C={C1,C2,..,Cd},每个子任务Gv对应的云端服务资源池SPv共有mv个服务,对于云端服务资源池SPv中的每一个服务SP,其包含的历史记录个数为L,由SPv形成的第γ个可行的云服务组合方案为CSγω∈[1,mv],定义模型为:
其中,为第k维度的最大值,为第k维度的最小值,d为对应于的最大维度,SPRh为隶属于SP的一条历史记录,xvω-h表示模型中效用函数的参数,wk为第k维度的权重值,qk(SPRh)表示与SPRh对应的第k维度的服务质量值;
B、根据效用函数值按从小到大的顺序对各可行云服务组合方案进行排序,选择前Z个可行云服务组合方案作为优选云服务组合方案,Z的取值根据应用实例进行设定;
C、对每一组优选云服务组合方案计算其效用函数值;
D、选择效用函数值为最大的优选云服务组合方案作为最优的云服务组合方案;
所述评估优化模块62能够记录优选云服务组合方案的效用函数值和最优的云服务组合方案,并将其作为样本进行学习,如果新的优选云服务组合方案已经出现过,则直接调用其函数值,且随着使用时间的变长,样本量的增大,越能发挥其效能;
(7)可信组合评估单元70:用于根据可信组合评估单元选择出的最优的云服务组合方案,自动选择相应大数据分析算法,完成大数据服务的实现和部署。
在此实施例中:设置数据备份模块和基于可信计算的密钥单元,增加了数据安全性和可信性;设置数据资源分类单元,加快了数据处理速度,提高了数据处理效率;针对云环境下数据资源节点通常分散在云端各处的现状,且集中式的数据资源管理与查找方法面临着单点故障、可扩展性差等问题,在数据资源查找单元中设置依次连接的建模模块、资源复制模块和资源查找模块,采用非结构化的对等网络作为云环境下数据资源节点的拓扑组织结构,并服务封装数据资源,方便了使用者通过匹配服务描述信息来使用数据资源,其中提出了基于邻居节点间的资源信息主动复制协议和查找算法,进一步增加了数据资源信息在网络中的覆盖率,提高了数据资源查找的效率;设置可信组合评估单元,提高了支撑大数据服务的云服务组合方案的可信度;在可信组合评估单元中,定义了基于(服务质量)历史记录的评估算法,提高了组合评估的计算速度,为通过使用云端服务提供的计算资源或存储资源来开发构建大数据服务提供了一个可行的技术方案;采用评估优化模块,节约了评估时间,提高了评估速度;α=0.3,β=0.47,数据资源查找效率提高了3%。
实施例4:如图1、图2所示的基于可信计算和云计算的信息安全大数据资源管理系统,包括数据资源存储单元10、数据资源分类单元20、基于可信计算的密钥单元30、数据资源查找单元40、任务规划单元50、可信组合评估单元60和可信组合评估单元70,具体地:
(1)数据资源存储单元10:包括数据存储模块11和数据备份模块12,所述数据存储模块11认证所需进行信息存储的网络中的硬件节点,判断网络硬件节点可信度,建立所存储信息的信任关系,建立信任关系后,以分布在云环境下的数据资源为基础,对数据资源进行封装存储;所述数据备份模块12用于数据丢失或者遭到破坏的情况下恢复数据;
(2)数据资源分类单元20:用于采用K-means聚类的方法对数据进行分类管理;
(3)基于可信计算的密钥单元30:用于保证数据不能被随意获取,包括基于可信技术设置的密钥生成模块31、身份验证模块32和解密模块33;所述密钥生成模块31密钥生成算法如下:
1)将数据划分为多个密钥字符串长度大小的块;
2)用0~26范围的整数取代明文和密钥的每个字符,空格符=00,对字符A至Z按照英文字母排序的顺序依次赋予整数值01,02,…,26;
3)对明文的每个块,将其每个字符用对应的计算值取代,所述对应的计算值为将对应字符的整数编码与密钥中相应位置的字符的整数编码相加后除27再取余所得到的值;
4)将用对应的计算值取代的字符再用其等价字符替代;
所述身份验证模块32通过用户登录和指纹验证实现;身份验证成功的用户即可通过解密模块33获得密钥,完成解密;
(4)数据资源查找单元40:用于根据大数据服务的需求,在已验证的安全网络环境下从数据资源层中分散在云中各处的数据资源提供者处查找并匹配满足应用需求的数据资源,并通过搜集整理形成待处理的大数据资源,作为大数据服务的输入;包括依次连接的建模模块41、资源复制模块42和资源查找模块43,所述建模模块41用于采用非结构化对等网络对云环境下的资源节点形成的覆盖网络进行建模,所述资源复制模块42用于在所述覆盖网络中的各邻居节点之间进行资源信息的复制,所述资源查找模块43用于查找并匹配满足应用需求的数据资源;
设xi为非结构化对等网络中的一个对等节点,{xi1,xi2,…xim}为xi的邻居节点集,为本地资源池,oi为邻居节点资源信息池,i∈[1,n],n为对等网络包含节点的总数,m表示邻居节点的个数,m<n;
A、所述资源复制模块在进行资源信息的复制时采用基于邻居节点间的数据资源信息主动复制协议:
当xi加入覆盖网络时,将xi与{xi1,xi2,…xim}建立连接,xi进一步根据中的服务信息,创建一个资源信息的复制消息,并将所述复制消息转发给所有邻居节点xim进行复制,若对等网络中的任一节点接收到一个复制消息时,根据复制消息的编号信息判断是否接收过所述复制消息,若已接收过,丢弃所述复制消息,若首次接收,则根据复制消息的资源信息和节点位置信息,更新中的内容,并根据复制消息的生命值,决定转发或丢弃所述复制消息,其中,资源信息需要定期在邻居节点之间进行同步;
B、所述资源查找模块具体执行的操作为:
设发起查询请求Mj的节点为xj,在xj的邻居节点集合中按照概率pj随机挑选出的对等节点集为{xj1,xj2,…xjm′},m′<m,j∈[1,n];
当对等节点xi收到xj发送的查询请求Mj时,检查中是否含有满足查询请求Mj的数据资源信息,若是,根据所述数据资源信息和数据资源信息所在对等节点的位置信息,创建查询的响应消息并根据xj的位置信息,将所述响应信息返回给xj,然后将xj的生命值减1,若xj的生命值为0,丢弃查询请求Mj,若不为0,采用Q学习算法计算{xj1,xj2,…xjm′}中各对等节点的Q值,将查询请求Mj转发给{xj1,xj2,…xjm′}中Q值最大的节点;
设定Q值的计算公式为:
其中,Qnew表示Q的新值,Qold表示Q的老值,Qlearn表示被学习的值,α表示学习速率,β表示拥塞因素,表示时刻t节点x的缓存队列中待处理的查询请求消息数,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息所规定的时间,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息实际所需的时间;函数I[x]在x>0时取值为1,x≤0时取值为0,α的取值范围是[0.25,0.3],β的取值范围是[0.45,0.5];
(5)任务规划单元50:用于对大数据处理过程进行任务规划,将复杂的大数据处理计算任务拆分至一组功能单一且独立的子任务,并为子任务匹配满足其需求的云端服务资源池,形成云服务组合方案,以获得大数据处理过程中所需的存储资源或计算资源;
(6)可信组合评估单元60:用于根据任务规划单元生成的大数据服务的任务规划,执行云服务组合方案的评估,包括评估模块61和评估优化模块62;所述评估模块61具体执行的操作为:
A、根据SPv和对应的(服务质量)历史记录,进行CSγ的效用函数X的建模并根据应用实例初始化模型中效用函数的各参数,设由任务规划单元获得的任务规划对应的约束为C={C1,C2,..,Cd},每个子任务Gv对应的云端服务资源池SPv共有mv个服务,对于云端服务资源池SPv中的每一个服务SP,其包含的历史记录个数为L,由SPv形成的第γ个可行的云服务组合方案为CSγω∈[1,mv],定义模型为:
其中,为第k维度的最大值,为第k维度的最小值,d为对应于的最大维度,SPRh为隶属于SP的一条历史记录,xvω-h表示模型中效用函数的参数,wk为第k维度的权重值,qk(SPRh)表示与SPRh对应的第k维度的服务质量值;
B、根据效用函数值按从小到大的顺序对各可行云服务组合方案进行排序,选择前Z个可行云服务组合方案作为优选云服务组合方案,Z的取值根据应用实例进行设定;
C、对每一组优选云服务组合方案计算其效用函数值;
D、选择效用函数值为最大的优选云服务组合方案作为最优的云服务组合方案;
所述评估优化模块62能够记录优选云服务组合方案的效用函数值和最优的云服务组合方案,并将其作为样本进行学习,如果新的优选云服务组合方案已经出现过,则直接调用其函数值,且随着使用时间的变长,样本量的增大,越能发挥其效能;
(7)可信组合评估单元70:用于根据可信组合评估单元选择出的最优的云服务组合方案,自动选择相应大数据分析算法,完成大数据服务的实现和部署。
在此实施例中:设置数据备份模块和基于可信计算的密钥单元,增加了数据安全性和可信性;设置数据资源分类单元,加快了数据处理速度,提高了数据处理效率;针对云环境下数据资源节点通常分散在云端各处的现状,且集中式的数据资源管理与查找方法面临着单点故障、可扩展性差等问题,在数据资源查找单元中设置依次连接的建模模块、资源复制模块和资源查找模块,采用非结构化的对等网络作为云环境下数据资源节点的拓扑组织结构,并服务封装数据资源,方便了使用者通过匹配服务描述信息来使用数据资源,其中提出了基于邻居节点间的资源信息主动复制协议和查找算法,进一步增加了数据资源信息在网络中的覆盖率,提高了数据资源查找的效率;设置可信组合评估单元,提高了支撑大数据服务的云服务组合方案的可信度;在可信组合评估单元中,定义了基于(服务质量)历史记录的评估算法,提高了组合评估的计算速度,为通过使用云端服务提供的计算资源或存储资源来开发构建大数据服务提供了一个可行的技术方案;采用评估优化模块,节约了评估时间,提高了评估速度;α=0.28,β=0.47,数据资源查找效率提高了2%。
实施例5:如图1、图2所示的基于可信计算和云计算的信息安全大数据资源管理系统,包括数据资源存储单元10、数据资源分类单元20、基于可信计算的密钥单元30、数据资源查找单元40、任务规划单元50、可信组合评估单元60和可信组合评估单元70,具体地:
(1)数据资源存储单元10:包括数据存储模块11和数据备份模块12,所述数据存储模块11认证所需进行信息存储的网络中的硬件节点,判断网络硬件节点可信度,建立所存储信息的信任关系,建立信任关系后,以分布在云环境下的数据资源为基础,对数据资源进行封装存储;所述数据备份模块12用于数据丢失或者遭到破坏的情况下恢复数据;
(2)数据资源分类单元20:用于采用K-means聚类的方法对数据进行分类管理;
(3)基于可信计算的密钥单元30:用于保证数据不能被随意获取,包括基于可信技术设置的密钥生成模块31、身份验证模块32和解密模块33;所述密钥生成模块31密钥生成算法如下:
1)将数据划分为多个密钥字符串长度大小的块;
2)用0~26范围的整数取代明文和密钥的每个字符,空格符=00,对字符A至Z按照英文字母排序的顺序依次赋予整数值01,02,…,26;
3)对明文的每个块,将其每个字符用对应的计算值取代,所述对应的计算值为将对应字符的整数编码与密钥中相应位置的字符的整数编码相加后除27再取余所得到的值;
4)将用对应的计算值取代的字符再用其等价字符替代;
所述身份验证模块32通过用户登录和指纹验证实现;身份验证成功的用户即可通过解密模块33获得密钥,完成解密;
(4)数据资源查找单元40:用于根据大数据服务的需求,在已验证的安全网络环境下从数据资源层中分散在云中各处的数据资源提供者处查找并匹配满足应用需求的数据资源,并通过搜集整理形成待处理的大数据资源,作为大数据服务的输入;包括依次连接的建模模块41、资源复制模块42和资源查找模块43,所述建模模块41用于采用非结构化对等网络对云环境下的资源节点形成的覆盖网络进行建模,所述资源复制模块42用于在所述覆盖网络中的各邻居节点之间进行资源信息的复制,所述资源查找模块43用于查找并匹配满足应用需求的数据资源;
设xi为非结构化对等网络中的一个对等节点,{xi1,xi2,…xim}为xi的邻居节点集,为本地资源池,oi为邻居节点资源信息池,i∈[1,n],n为对等网络包含节点的总数,m表示邻居节点的个数,m<n;
A、所述资源复制模块在进行资源信息的复制时采用基于邻居节点间的数据资源信息主动复制协议:
当xi加入覆盖网络时,将xi与{xi1,xi2,…xim}建立连接,xi进一步根据中的服务信息,创建一个资源信息的复制消息,并将所述复制消息转发给所有邻居节点xim进行复制,若对等网络中的任一节点接收到一个复制消息时,根据复制消息的编号信息判断是否接收过所述复制消息,若已接收过,丢弃所述复制消息,若首次接收,则根据复制消息的资源信息和节点位置信息,更新中的内容,并根据复制消息的生命值,决定转发或丢弃所述复制消息,其中,资源信息需要定期在邻居节点之间进行同步;
B、所述资源查找模块具体执行的操作为:
设发起查询请求Mj的节点为xj,在xj的邻居节点集合中按照概率pj随机挑选出的对等节点集为{xj1,xj2,…xjm′},m′<m,j∈[1,n];
当对等节点xi收到xj发送的查询请求Mj时,检查中是否含有满足查询请求Mj的数据资源信息,若是,根据所述数据资源信息和数据资源信息所在对等节点的位置信息,创建查询的响应消息并根据xj的位置信息,将所述响应信息返回给xj,然后将xj的生命值减1,若xj的生命值为0,丢弃查询请求Mj,若不为0,采用Q学习算法计算{xj1,xj2,…xjm′}中各对等节点的Q值,将查询请求Mj转发给{xj1,xj2,…xjm′}中Q值最大的节点;
设定Q值的计算公式为:
其中,Qnew表示Q的新值,Qold表示Q的老值,Qlearn表示被学习的值,α表示学习速率,β表示拥塞因素,表示时刻t节点x的缓存队列中待处理的查询请求消息数,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息所规定的时间,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息实际所需的时间;函数I[x]在x>0时取值为1,x≤0时取值为0,α的取值范围是[0.25,0.3],β的取值范围是[0.45,0.5];
(5)任务规划单元50:用于对大数据处理过程进行任务规划,将复杂的大数据处理计算任务拆分至一组功能单一且独立的子任务,并为子任务匹配满足其需求的云端服务资源池,形成云服务组合方案,以获得大数据处理过程中所需的存储资源或计算资源;
(6)可信组合评估单元60:用于根据任务规划单元生成的大数据服务的任务规划,执行云服务组合方案的评估,包括评估模块61和评估优化模块62;所述评估模块61具体执行的操作为:
A、根据SPv和对应的服务质量)历史记录,进行CSγ的效用函数X的建模并根据应用实例初始化模型中效用函数的各参数,设由任务规划单元获得的任务规划对应的约束为C={C1,C2,..,Cd},每个子任务Gv对应的云端服务资源池SPv共有mv个服务,对于云端服务资源池SPv中的每一个服务SP,其包含的历史记录个数为L,由SPv形成的第γ个可行的云服务组合方案为CSγω∈[1,mv],定义模型为:
其中,为第k维度的最大值,为第k维度的最小值,d为对应于的最大维度,SPRh为隶属于SP的一条历史记录,xvω-h表示模型中效用函数的参数,wk为第k维度的权重值,qk(SPRh)表示与SPRh对应的第k维度的服务质量值;
B、根据效用函数值按从小到大的顺序对各可行云服务组合方案进行排序,选择前Z个可行云服务组合方案作为优选云服务组合方案,Z的取值根据应用实例进行设定;
C、对每一组优选云服务组合方案计算其效用函数值;
D、选择效用函数值为最大的优选云服务组合方案作为最优的云服务组合方案;
所述评估优化模块62能够记录优选云服务组合方案的效用函数值和最优的云服务组合方案,并将其作为样本进行学习,如果新的优选云服务组合方案已经出现过,则直接调用其函数值,且随着使用时间的变长,样本量的增大,越能发挥其效能;
(7)可信组合评估单元70:用于根据可信组合评估单元选择出的最优的云服务组合方案,自动选择相应大数据分析算法,完成大数据服务的实现和部署。
在此实施例中:设置数据备份模块和基于可信计算的密钥单元,增加了数据安全性和可信性;设置数据资源分类单元,加快了数据处理速度,提高了数据处理效率;针对云环境下数据资源节点通常分散在云端各处的现状,且集中式的数据资源管理与查找方法面临着单点故障、可扩展性差等问题,在数据资源查找单元中设置依次连接的建模模块、资源复制模块和资源查找模块,采用非结构化的对等网络作为云环境下数据资源节点的拓扑组织结构,并服务封装数据资源,方便了使用者通过匹配服务描述信息来使用数据资源,其中提出了基于邻居节点间的资源信息主动复制协议和查找算法,进一步增加了数据资源信息在网络中的覆盖率,提高了数据资源查找的效率;设置可信组合评估单元,提高了支撑大数据服务的云服务组合方案的可信度;在可信组合评估单元中,定义了基于(服务质量)历史记录的评估算法,提高了组合评估的计算速度,为通过使用云端服务提供的计算资源或存储资源来开发构建大数据服务提供了一个可行的技术方案;采用评估优化模块,节约了评估时间,提高了评估速度;α=0.25,β=0.5,数据资源查找效率提高了1.5%。
最后应当说明的是,以上实施例仅用以说明本发明的技术方案,而非对本发明保护范围的限制,尽管参照较佳实施例对本发明作了详细地说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的实质和范围。

Claims (1)

1.基于可信计算和云计算的信息安全大数据资源管理系统,其特征在于,包括数据资源存储单元、数据资源分类单元、基于可信计算的密钥单元、数据资源查找单元、任务规划单元、可信组合评估单元和服务部署单元,具体地:
(1)数据资源存储单元:包括数据存储模块和数据备份模块,所述数据存储模块认证所需进行信息存储的网络中的硬件节点,判断网络硬件节点可信度,建立所存储信息的信任关系,建立信任关系后,以分布在云环境下的数据资源为基础,对数据资源进行封装存储;所述数据备份模块用于数据丢失或者遭到破坏的情况下恢复数据;
(2)数据资源分类单元:用于采用K-means聚类的方法对数据进行分类管理;
(3)基于可信计算的密钥单元:用于保证数据不能被随意获取,包括基于可信技术设置的密钥生成模块、身份验证模块和解密模块;所述密钥生成模块具体执行以下操作:
1)将数据划分为多个密钥字符串长度大小的块;
2)用0~26范围的整数取代明文和密钥的每个字符,空格符=00,对字符A至Z按照英文字母排序的顺序依次赋予整数值01,02,…,26;
3)对明文的每个块,将其每个字符用对应的计算值取代,所述对应的计算值为将对应字符的整数编码与密钥中相应位置的字符的整数编码相加后除27再取余所得到的值;
4)将用对应的计算值取代的字符再用其等价字符替代;
所述身份验证模块通过用户登录和指纹验证实现;身份验证成功的用户即可通过解密模块获得密钥,完成解密;
(4)数据资源查找单元:用于根据大数据服务的需求,在已验证的安全网络环境下从数据资源层中分散在云中各处的数据资源提供者处查找并匹配满足应用需求的数据资源,并通过搜集整理形成待处理的大数据资源,作为大数据服务的输入;包括依次连接的建模模块、资源复制模块和资源查找模块,所述建模模块用于采用非结构化对等网络对云环境下的资源节点形成的覆盖网络进行建模,所述资源复制模块用于在所述覆盖网络中的各邻居节点之间进行资源信息的复制,所述资源查找模块用于查找并匹配满足应用需求的数据资源;
设xi为非结构化对等网络中的一个对等节点,{xi1,xi2,…xim}为xi的邻居节点集,为本地资源池,为邻居节点资源信息池,i∈[1,n],n为对等网络包含节点的总数,m表示邻居节点的个数,m<n;
A、所述资源复制模块在进行资源信息的复制时采用基于邻居节点间的数据资源信息主动复制协议:
当xi加入覆盖网络时,将xi与{xi1,xi2,…xim}建立连接,xi进一步根据中的服务信息,创建一个资源信息的复制消息,并将所述复制消息转发给所有邻居节点xim进行复制,若对等网络中的任一节点接收到一个复制消息时,根据复制消息的编号信息判断是否接收过所述复制消息,若已接收过,丢弃所述复制消息,若首次接收,则根据复制消息的资源信息和节点位置信息,更新中的内容,并根据复制消息的生命值,决定转发或丢弃所述复制消息,其中,资源信息需要定期在邻居节点之间进行同步;
B、所述资源查找模块具体执行的操作为:
设发起查询请求Mj的节点为xj,在xj的邻居节点集合中按照概率pj随机挑选出的对等节点集为{xj1,xj2,…xjm′},m′<m,j∈[1,n];
当对等节点xi收到xj发送的查询请求Mj时,检查中是否含有满足查询请求Mj的数据资源信息,若是,根据所述数据资源信息和数据资源信息所在对等节点的位置信息,创建查询的响应消息并根据xj的位置信息,将所述响应信息返回给xj,然后将xj的生命值减1,若xj的生命值为0,丢弃查询请求Mj,若不为0,采用Q学习算法计算{xj1,xj2,…xjm′}中各对等节点的Q值,将查询请求Mj转发给{xj1,xj2,…xjm′}中Q值最大的节点;
设定Q值的计算公式为:
<mrow> <msub> <mi>Q</mi> <mrow> <mi>n</mi> <mi>e</mi> <mi>w</mi> </mrow> </msub> <mo>=</mo> <msub> <mi>Q</mi> <mrow> <mi>o</mi> <mi>l</mi> <mi>d</mi> </mrow> </msub> <mo>+</mo> <msub> <mi>&amp;alpha;Q</mi> <mrow> <mi>l</mi> <mi>e</mi> <mi>a</mi> <mi>r</mi> <mi>n</mi> </mrow> </msub> <mo>+</mo> <mi>&amp;beta;</mi> <mo>&amp;times;</mo> <mi>I</mi> <mrow> <mo>&amp;lsqb;</mo> <mfrac> <mrow> <msub> <mi>N</mi> <msub> <mi>x</mi> <mrow> <mi>j</mi> <mi>&amp;mu;</mi> </mrow> </msub> </msub> <mrow> <mo>(</mo> <mi>t</mi> <mo>)</mo> </mrow> <mrow> <mo>(</mo> <mrow> <msub> <mi>T</mi> <msub> <mi>x</mi> <mrow> <mi>j</mi> <mi>&amp;mu;</mi> </mrow> </msub> </msub> <mo>-</mo> <msub> <msup> <mi>T</mi> <mo>&amp;prime;</mo> </msup> <msub> <mi>x</mi> <mrow> <mi>j</mi> <mi>&amp;mu;</mi> </mrow> </msub> </msub> </mrow> <mo>)</mo> </mrow> </mrow> <mrow> <msub> <msup> <mi>T</mi> <mo>&amp;prime;</mo> </msup> <msub> <mi>x</mi> <mrow> <mi>j</mi> <mi>&amp;mu;</mi> </mrow> </msub> </msub> <mo>&amp;times;</mo> <msub> <mi>T</mi> <msub> <mi>x</mi> <mrow> <mi>j</mi> <mi>&amp;mu;</mi> </mrow> </msub> </msub> </mrow> </mfrac> <mo>&amp;rsqb;</mo> </mrow> <mo>&amp;times;</mo> <mfrac> <mrow> <mn>1</mn> <mo>+</mo> <msub> <mi>N</mi> <msub> <mi>x</mi> <mrow> <mi>j</mi> <mi>&amp;mu;</mi> </mrow> </msub> </msub> <mrow> <mo>(</mo> <mi>t</mi> <mo>)</mo> </mrow> </mrow> <msub> <mi>T</mi> <msub> <mi>x</mi> <mrow> <mi>j</mi> <mi>&amp;mu;</mi> </mrow> </msub> </msub> </mfrac> </mrow>
其中,Qnew表示Q的新值,Qold表示Q的老值,Qlearn表示被学习的值,α表示学习速率,β表示拥塞因素,表示时刻t节点x的缓存队列中待处理的查询请求消息数,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息所规定的时间,表示{xj1,xj2,…xjm′}中的节点x处理一条查询请求消息实际所需的时间;函数I[x]在x>0时取值为1,x≤0时取值为0,α的取值范围是[0.25,0.3],β的取值范围是[0.45,0.5];
(5)任务规划单元:用于对大数据处理过程进行任务规划,将复杂的大数据处理计算任务拆分至一组功能单一且独立的子任务,并为子任务匹配满足其需求的云端服务资源池,形成云服务组合方案,以获得大数据处理过程中所需的存储资源或计算资源;
(6)可信组合评估单元:用于根据任务规划单元生成的大数据服务的任务规划,执行云服务组合方案的评估;
(7)服务部署单元:用于根据可信组合评估单元选择出的最优的云服务组合方案,自动选择相应大数据分析算法,完成大数据服务的实现和部署。
CN201610525125.5A 2016-07-01 2016-07-01 基于可信计算和云计算的信息安全大数据资源管理系统 Active CN106203164B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610525125.5A CN106203164B (zh) 2016-07-01 2016-07-01 基于可信计算和云计算的信息安全大数据资源管理系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610525125.5A CN106203164B (zh) 2016-07-01 2016-07-01 基于可信计算和云计算的信息安全大数据资源管理系统

Publications (2)

Publication Number Publication Date
CN106203164A CN106203164A (zh) 2016-12-07
CN106203164B true CN106203164B (zh) 2017-10-27

Family

ID=57466441

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610525125.5A Active CN106203164B (zh) 2016-07-01 2016-07-01 基于可信计算和云计算的信息安全大数据资源管理系统

Country Status (1)

Country Link
CN (1) CN106203164B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106960125A (zh) * 2017-03-23 2017-07-18 华南师范大学 一种大数据下基于可信组合评估的医疗自诊断服务设计方法
CN110083610B (zh) * 2019-04-29 2022-11-04 百度在线网络技术(北京)有限公司 数据处理方法、装置、系统、可信计算装置、设备和介质
CN110532804B (zh) * 2019-09-05 2020-06-05 上海威固信息技术股份有限公司 一种基于大数据的安全存储控制方法
CN116627618B (zh) * 2023-07-21 2023-09-19 北京万界数据科技有限责任公司 一种计算资源预调度方法及系统
CN117032587B (zh) * 2023-09-26 2024-01-09 深圳市智赋新能源有限公司 一种基于分布式架构的光储一体化信息管理系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102419832A (zh) * 2010-09-28 2012-04-18 上海可鲁系统软件有限公司 一种分布式环境下资源定位方法及其系统
CN105246077A (zh) * 2015-08-28 2016-01-13 厦门大学 一种移动终端的云病毒检测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9720940B2 (en) * 2013-03-15 2017-08-01 Konstantinos (Constantin) F. Aliferis Data analysis computer system and method for parallelized and modularized analysis of big data

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102419832A (zh) * 2010-09-28 2012-04-18 上海可鲁系统软件有限公司 一种分布式环境下资源定位方法及其系统
CN105246077A (zh) * 2015-08-28 2016-01-13 厦门大学 一种移动终端的云病毒检测方法

Also Published As

Publication number Publication date
CN106203164A (zh) 2016-12-07

Similar Documents

Publication Publication Date Title
CN106203164B (zh) 基于可信计算和云计算的信息安全大数据资源管理系统
Li et al. Lass: Local-activity and social-similarity based data forwarding in mobile social networks
Mohmand et al. A machine learning-based classification and prediction technique for DDoS attacks
CN105933361B (zh) 基于可信计算的大数据安全防护云系统
CN112165462A (zh) 基于画像的攻击预测方法、装置、电子设备及存储介质
CN110135986A (zh) 一种基于区块链智能合约实现的可搜索加密文件数据方法
CN107423632A (zh) 可定制的敏感数据脱敏方法和系统
CN108805710A (zh) 一种基于区块链智能合约技术的分布式电能交易方法
CN102752303B (zh) 一种基于旁路的数据获取方法及系统
CN109450685B (zh) 一种基于局部链节点离线的共识方法及节点
Lu et al. Wireless sensor networks for environmental monitoring applications: A design framework
Sharma et al. An intrusion detection system for detecting denial-of-service attack in cloud using artificial bee colony
Fu et al. CT-GCN: A phishing identification model for blockchain cryptocurrency transactions
CN113886817A (zh) 主机入侵检测方法及装置、电子设备、存储介质
CN106993027B (zh) 远程数据存储位置验证方法
Wang et al. MailLeak: Obfuscation-Robust Character Extraction Using Transfer Learning
Yi et al. Ranking spreaders in complex networks based on the most influential neighbors
Xu et al. SWMQ: Secure wildcard pattern matching with query
Singh Blockchain and IOT integrated Smart City Architecture
Zhang et al. A Blockchain‐Based Microgrid Data Disaster Backup Scheme in Edge Computing
Saadawi et al. Secure resilient edge cloud designed network
Wang et al. Construction of Audit Internal Control Intelligent System Based on Blockchain and Cloud Storage
La Salle et al. Joint modeling of hyperledger fabric and sybil attack: petri net approach
Hu et al. Temporal Weighted Heterogeneous Multigraph Embedding for Ethereum Phishing Scams Detection
Rao et al. Role of IoT in the ages of digital to smart cities: Security challenges and countermeasures

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information

Inventor after: Chen Zubin

Inventor after: Tang Lingli

Inventor after: Huang Lianyue

Inventor after: Zheng Junming

Inventor after: Ou Yangzhe

Inventor after: Hang Cong

Inventor after: Song Junhao

Inventor after: He Zhongzhu

Inventor after: Xie Ming

Inventor after: Hu Jijun

Inventor after: Weng Xiaoyun

Inventor after: Yuan Yong

Inventor after: Deng Gefeng

Inventor after: Mo Yinghong

Inventor after: Xie Jing

Inventor after: Zhang Peng

Inventor before: Chen Zubin

Inventor before: Tang Lingli

Inventor before: Huang Lianyue

Inventor before: Zheng Junming

Inventor before: Ou Yangzhe

Inventor before: Hang Cong

Inventor before: Song Junhao

Inventor before: Xie Ming

Inventor before: Hu Jijun

Inventor before: Weng Xiaoyun

Inventor before: Yuan Yong

Inventor before: Deng Gefeng

Inventor before: Mo Yinghong

Inventor before: Xie Jing

Inventor before: Zhang Peng

CB03 Change of inventor or designer information
TA01 Transfer of patent application right

Effective date of registration: 20170210

Address after: 530000 Xingning, Nanning District, democratic road, No. 6,

Applicant after: GUANGXI POWER GRID CO., LTD.

Address before: 530000 Xingning, Nanning District, democratic road, No. 6,

Applicant before: He Zhongzhu

TA01 Transfer of patent application right
CB03 Change of inventor or designer information
CB03 Change of inventor or designer information

Inventor after: An Senbin

Inventor after: Tong Weiming

Inventor before: Chen Zubin

Inventor before: Tang Lingli

Inventor before: Huang Lianyue

Inventor before: Zheng Junming

Inventor before: Ou Yangzhe

Inventor before: Hang Cong

Inventor before: Song Junhao

Inventor before: He Zhongzhu

Inventor before: Xie Ming

Inventor before: Hu Jijun

Inventor before: Weng Xiaoyun

Inventor before: Yuan Yong

Inventor before: Deng Gefeng

Inventor before: Mo Yinghong

Inventor before: Xie Jing

Inventor before: Zhang Peng

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20170915

Address after: 200000 Shanghai city Changning District Admiralty Road No. 968 Building No. 7 Room 501

Applicant after: Shanghai wide benefit network Polytron Technologies Inc

Address before: 530000 Xingning, Nanning District, democratic road, No. 6,

Applicant before: GUANGXI POWER GRID CO., LTD.

GR01 Patent grant
GR01 Patent grant