CN106997368A - 一种数据仓库中的数据保护方法及装置 - Google Patents
一种数据仓库中的数据保护方法及装置 Download PDFInfo
- Publication number
- CN106997368A CN106997368A CN201610053324.0A CN201610053324A CN106997368A CN 106997368 A CN106997368 A CN 106997368A CN 201610053324 A CN201610053324 A CN 201610053324A CN 106997368 A CN106997368 A CN 106997368A
- Authority
- CN
- China
- Prior art keywords
- data
- encryption
- title
- bucket
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/283—Multi-dimensional databases or data warehouses, e.g. MOLAP or ROLAP
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/602—Providing cryptographic facilities or services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F2221/2141—Access rights, e.g. capability lists, access control lists, access tables, access matrices
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Bioethics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Software Systems (AREA)
- Storage Device Security (AREA)
Abstract
本发明提供了一种数据仓库中的数据保护方法及装置,该方法包括:接收用户输入的用户请求,用户请求中携带有用户身份信息和操作请求,其中,操作请求包括表级别的操作请求、列级别的操作请求、分区级别的操作请求和桶级别的操作请求中的一种或多种;判断用户身份信息及操作请求是否合法;若身份信息和操作请求均合法,则判断操作请求的操作类型;若操作请求为非授权操作,则对数据仓库中的新增数据或已有数据进行加密。本发明的方案,通过对数据仓库用户实施接入控制及列、分区或桶级别的权限控制,并结合对用户数据进行加密,实现了对数据仓库中的数据的有效保护。
Description
技术领域
本发明涉及数据安全领域,尤其涉及一种数据仓库中的数据保护方法及装置。
背景技术
Hive是一种数据仓库基础构架。它是一种可以存储、查询和分析存储在分布式文件系统(HDFS)中的数据的机制,它将传统的结构化数据表与HDFS上的数据文件进行映射,并提供简单的类结构化查询语言(SQL),进行查询。其中,SQL也称作查询语言(HQL),同时它可以将SQL语句转换为编程模型(MapReduce)任务进行运行,从而实现大规模数据的处理。Hive中用于承载数据的资源实体包括数据库、表、分区和桶,其中库可以看成多个表的集合,所以可以认为用户数据实际上都是存放在表、分区及桶三种实体对象中,所以,Hive中所有的操作实际上都可以看成是对表、列、分区或桶的操作。
Hive作为大规模的数据仓库和离线分析平台,目前已得到了非常广泛的应用,但随之而来的数据安全性问题却没有引起足够的重视。其中,Hive的数据安全性问题体现在下面几个方面:
1、Hive中所有用户都是平行的,没有系统超级管理员,无法对系统进行全局管理,无法限制某些非法用户的访问。
2、Hive中的各用户之间可以相互授权,但是只能对表的操作进行授权,对于列、分区或桶无法进行授权,即只能允许或禁止用户访问某个表,导致无法根据需要对表数据进行列级别、分区级别、桶级别的操作控制,如只允许或禁止用户访问某几列或访问某几个桶的数据等。
3、更为重要的是,Hive中的数据对应的数据文件是存放在HDFS上,Hive对于存放在HDFS上的文件,通常采用的存储格式是文本格式(TEXT)或者记录列文件格式(Record Columnar File,RCFile),如果某个Hive用户没有得到其他Hive用户的授权,获得查询其他用户创建的表、列、分区或桶的权限,但仍然能通过其他方式直接获取底层HDFS文件的方式,获取数据信息,这样相当于绕过了Hive的上层的权限控制机制,给数据仓库的数据安全造成了严重威胁。
针对上述问题,目前暂时没有发现完整、系统化的方案提出,现有技术往往通过第三方工具对数据进行简单加密来进行数据保护或者通过引入安全认证(Kerberos)组件对用户进行认证。具体方法如下:
现有方法1:Hive现有的权限控制流程不变,在数据导入Hive的表之前,就对原始数据采用第三方加密工具进行加密,再导入到Hive的表中,收到查询请求,先将数据从Hive表中导出,再手工进行解密。
缺点:只能有限的解决问题;由于要反复进行数据的导入导出,操作繁琐、耗时;第二,数据是在Hive之外通过部署其他加密工具实现的,增加了系统的复杂性,而且,数据加密后,数据长度一般会增加,再导入到Hive中时,会降低Hive系统的导入效率。并且,由于数据是在进入Hive之前加密的,无法借用Hive的MapReduce处理能力。最后,只能按照指定方式(通常是一个表)进行数据加密,无法灵活的选择加密对象,比如选择某一个或几个表、列、分区或桶等。
现有方法2:在Hive权限控制中引入第三方Kerberos(网络认证协议)组件:在Hive的权限控制模块中可以直接接入第三方的Kerberos组件,作为权限控制模块的一部分,通过Kerberos组件进一步对用户进行认证,防止恶意用户伪造用户。
但这种方式部署成本比较高,而且非常复杂,Kerberos组件生成证书和配置的步骤相当繁琐,首次配置也许可以接受,但是对于用户权限的修改,机器的减容扩容,会造成证书要重新生成,再分发证书,重启系统。而且还要考虑Kerberos的宕机导致整个集群无法服务的风险,加上Kerberos的自身配置也比较复杂,而且存在效率问题,这些考虑,也导致Kerberos在大数据上的应用比较稀少。另外,这个方式无法解决授权的级别问题,且这种方式无法对底层HDFS的数据施加保护。
综上所述,现有技术中的数据保护方法,存在安全机制不健全、操作繁琐、耗时,无法对表、列、分区及桶进行灵活操作,且保密程度不高、效率低下及部署成本较高的问题。
发明内容
为了克服现有技术存在的上述问题,本发明的实施例提供了一种数据仓库中的数据保护方法及装置,能够通过对数据仓库用户实施接入控制及列、分区或桶级别的权限控制,并结合对用户数据进行加密,实现了对数据仓库中的数据的有效保护。
为了解决上述技术问题,本发明采用如下技术方案:
依据本发明实施例的一个方面,提供了一种数据仓库中的数据保护方法,包括:
接收用户输入的用户请求,所述用户请求中携带有用户身份信息和操作请求,其中,所述操作请求包括表级别的操作请求、列级别的操作请求、分区级别的操作请求和桶级别的操作请求中的一种或多种;
判断所述用户身份信息及所述操作请求是否合法;
若所述身份信息和所述操作请求均合法,则判断所述操作请求的操作类型;
若所述操作请求为非授权操作,则对数据仓库中的新增数据或已有数据进行加密。
其中,上述方案中,所述判断所述用户身份信息及所述操作请求是否合法,包括:
根据所述用户身份信息,判断所述用户是否存在于预先存储的白名单中,若存在,则所述用户身份信息合法;
判断执行所述操作请求的权限是否是所述用户所具有的预设操作权限,若是,则所述操作请求合法。
其中,上述方案中,所述非授权操作包括:创建表操作、数据导入操作、修改表操作、对已有数据的加密操作、数据查询操作。
其中,上述方案中,对数据仓库中的新增数据进行加密,包括:
获取创建表操作,并根据所述创建表操作中携带的表的结构信息创建表;
判断所述创建表操作中是否携带有第一加密配置信息,其中,所述第一加密配置信息包括需要加密的表的名称、列的名称、分区的名称和桶的名称中的一种或多种,以及加密/解密算法;
若是,将所述第一加密配置信息存储在加密信息表中;
获取数据导入操作,其中,所述数据导入操作中携带有需要导入数据的第一目标表的名称、第一目标列的名称、第一目标分区的名称和第一目标桶的名称中的一种或多种,其中,所述第一目标表包括创建的表中的一个或多个,所述第一目标列包括创建的表的一个或多个列,所述第一目标分区包括创建的表的一个或多个分区,所述第一目标桶包括创建的表的一个或多个桶;
判断所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种在所述加密信息表中是否存储有对应的加密算法;
若是,则获取与所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种对应的加密算法;
获取所要导入的数据,并利用获取的加密算法对所要导入的数据进行加密,获得第一加密数据;
将所述第一加密数据对应写入到所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种中。
其中,上述方案中,对数据仓库中的已有数据进行加密,包括:
获取修改表操作;
判断所述修改表操作中是否携带有第二加密配置信息,所述第二加密配置信息包括需要加密的第二目标表的名称、第二目标列的名称、第二目标分区的名称和第二目标桶的名称中的一种或多种,以及加密/解密算法;
若是,利用所述修改表操作中携带的加密算法对所述第二目标表、所述第二目标列、所述第二目标分区、所述第二目标桶中的一种或多种中的数据进行加密;
将所述第二加密配置信息存储在所述加密信息表中。
其中,上述方案中,对数据仓库中的已有数据进行加密,包括:
获取对已有数据的加密操作,其中,所述对已有数据的加密操作中携带有待处理表的名称以及第三加密配置信息,其中,所述第三加密配置信息包括需要加密的第三目标表的名称、第三目标列的名称、第三目标分区的名称和第三目标桶的名称中的一种或多种,以及加密/解密算法,其中,所述第三目标表包括所述待处理表中的一个或多个,所述第三目标列包括所述待处理表的一个或多个列,所述第三目标分区包括所述待处理表的一个或多个分区,所述第三目标桶包括所述待处理表的一个或多个桶;
创建与所述待处理表具有相同结构的临时表;
获取数据查询操作,并依据所述数据查询操作查询所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据,获得查询数据;
将所述查询数据对应写入所述临时表中;
利用所述对已有数据的加密操作中携带的加密算法,对写入所述临时表中的查询数据进行加密,获得第二加密数据;
将所述第二加密数据以覆盖方式对应写入所述待处理表中;
将所述第三加密配置信息存储在所述加密信息表中;
删除所述临时表。
其中,上述方案中,所述获取数据查询操作,并依据所述数据查询操作查询所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据,获得查询数据,包括:
获取所述数据查询操作,其中,所述数据查询操作中携带所述第三目标表的名称、所述第三目标列的名称、所述第三目标分区的名称、所述第三目标桶的名称中的一种或多种;
根据所述数据查询操作,从分布式文件系统中读取所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据;
判断所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中是否存在已加密数据;
若是,从所述加密信息表中获取与所述已加密数据所在的表、列、分区和桶中的一种或多种相对应的解密算法;
利用所述解密算法,对所述已加密数据进行解密,获得所述查询数据。
其中,上述方案中,所述判断所述操作请求的操作类型之后,还包括:
若所述操作请求为授权操作,则判断所述授权操作中携带的所述用户授权其他用户进行操作的表、列、分区和桶中的一种或多种是否属于所述用户;
若是,则执行所述授权操作,否则,取消所述授权操作。
其中,上述方案中,将所述第一加密配置信息或所述第二加密配置信息或所述第三加密配置信息存储在所述加密信息表中之后,还包括:
采用预设加密算法,对所述加密信息表中的数据进行加密。
依据本发明实施例的另一个方面,还提供了一种数据仓库中的数据保护装置,包括:
接收模块,用于接收用户输入的用户请求,所述用户请求中携带有用户身份信息和操作请求,其中,所述操作请求包括表级别的操作请求、列级别的操作请求、分区级别的操作请求和桶级别的操作请求中的一种或多种;
第一判断模块,用于判断所述用户身份信息及所述操作请求是否合法;
第二判断模块,用于当所述第一判断模块的判断结果为是时,判断所述操作请求的操作类型;
加密模块,用于当所述第二判断模块判断所述操作请求为非授权操作时,对数据仓库的新增数据或已有数据进行加密。
其中,上述方案中,所述第一判断模块包括:
第一判断单元,用于根据所述用户身份信息,判断所述用户是否存在于预先存储的白名单中,若存在,则所述用户身份信息合法;
第二判断单元,用于判断执行所述操作请求的权限是否是所述用户所具有的预设操作权限,若是,则所述操作请求合法。
其中,上述方案中,所述非授权操作包括:创建表操作、数据导入操作、修改表操作、对已有数据的加密操作、数据查询操作。
其中,上述方案中,所述加密模块包括:
第一获取单元,用于获取创建表操作,并根据所述创建表操作中携带的表的结构信息创建表;
第三判断单元,用于判断所述创建表操作中是否携带有第一加密配置信息,其中,所述第一加密配置信息包括需要加密的表的名称、列的名称、分区的名称和桶的名称中的一种或多种,以及加密/解密算法;
第一存储单元,用于当所述第三判断单元的判断结果为是时,将所述第一加密配置信息存储在加密信息表中;
第二获取单元,用于获取数据导入操作,其中,所述数据导入操作中携带有需要导入数据的第一目标表的名称、第一目标列的名称、第一目标分区的名称和第一目标桶的名称中的一种或多种,其中,所述第一目标表包括创建的表中的一个或多个,所述第一目标列包括创建的表的一个或多个列,所述第一目标分区包括创建的表的一个或多个分区,所述第一目标桶包括创建的表的一个或多个桶;
第四判断单元,用于判断所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种在所述加密信息表中是否存储有对应的加密算法;
第三获取单元,用于当所述第四判断单元的判断结果为是时,获取与所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种对应的加密算法;
第一加密单元,用于获取所要导入的数据,并利用获取的加密算法对所要导入的数据进行加密,获得第一加密数据;
第一写入单元,用于将所述第一加密数据对应写入到所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种中。
其中,上述方案中,所述加密模块包括:
第四获取单元,用于获取修改表操作;
第五判断单元,用于判断所述修改表操作中是否携带有第二加密配置信息,所述第二加密配置信息包括需要加密的第二目标表的名称、第二目标列的名称、第二目标分区的名称和第二目标桶的名称中的一种或多种,以及加密/解密算法;
第二加密单元,用于在所述第五判断单元的判断结果为是时,利用所述修改表操作中携带的加密算法对所述第二目标表、所述第二目标列、所述第二目标分区、所述第二目标桶中的一种或多种中的数据进行加密;
第二存储单元,用于将所述第二加密配置信息存储在所述加密信息表中。
其中,上述方案中,所述加密模块包括:
第五获取单元,用于获取对已有数据的加密操作,其中,所述对已有数据的加密操作中携带有待处理表的名称以及第三加密配置信息,其中,所述第三加密配置信息包括需要加密的第三目标表的名称、第三目标列的名称、第三目标分区的名称和第三目标桶的名称中的一种或多种,以及加密/解密算法,其中,所述第三目标表包括所述待处理表中的一个或多个,所述第三目标列包括所述待处理表的一个或多个列,所述第三目标分区包括所述待处理表的一个或多个分区,所述第三目标桶包括所述待处理表的一个或多个桶;
创建单元,用于创建与所述待处理表具有相同结构的临时表;
查询单元,用于获取数据查询操作,并依据所述数据查询操作查询所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据,获得查询数据;
第二写入单元,用于将所述查询数据对应写入所述临时表中;
第三加密单元,用于利用所述对已有数据的加密操作中携带的加密算法,对写入所述临时表中的查询数据进行加密,获得第二加密数据;
第三写入单元,用于将所述第二加密数据以覆盖方式对应写入所述待处理表中;
第三存储单元,用于将所述第三加密配置信息存储在所述加密信息表中;
删除单元,用于删除所述临时表。
其中,上述方案中,所述查询单元包括:
第一获取子单元,用于获取所述数据查询操作,其中,所述数据查询操作中携带所述第三目标表的名称、所述第三目标列的名称、所述第三目标分区的名称、所述第三目标桶的名称中的一种或多种;
查询子单元,用于根据所述数据查询操作,从分布式文件系统中读取所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据;
判断子单元,用于判断所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中是否存在已加密数据;
第二获取子单元,用于当所述判断子单元的判断结果为是时,从所述加密信息表中获取与所述已加密数据所在的表、列、分区和桶中的一种或多种相对应的解密算法;
解密子单元,用于利用所述解密算法,对所述已加密数据进行解密,获得所述查询数据。
其中,上述方案中,其特征在于,还包括:
授权模块,用于当所述第二判断模块判断所述操作请求为授权操作,判断所述授权操作中携带的所述用户授权其他用户进行操作的表、列、分区和桶中的一种或多种是否属于所述用户,若是,则执行所述授权操作,否则,取消所述授权操作。
其中,上述方案中,所述加密模块还包括:
第四加密单元,用于采用预设加密算法,对所述加密信息表中的数据进行加密。
本发明实施例的有益效果是:
本发明实施例的数据仓库中的数据保护方法,通过对接收的用户请求中携带的用户身份信息及操作请求的合法性判断,实现了对数据仓库用户的接入控制,防止了非法用户的访问;通过表级别、列级别、分区级别以及桶级别的操作请求实现了对用户数据的灵活操作;通过对用户数据的加密,进一步实现了对数据仓库中的数据的保护。因此,本发明实施例的数据仓库中的数据保护方法,能够实现对数据仓库中的数据的有效保护。
附图说明
图1表示本发明第一实施例的数据仓库中的数据保护方法的流程图;
图2表示本发明第二实施例的数据仓库中的数据保护装置的结构框图之一;
图3表示本发明第二实施例的数据仓库中的数据保护装置的结构框图之二;
图4表示本发明第三实施例的数据仓库中的数据保护装置的结构框图;
图5表示本发明第三实施例的数据仓库中的数据保护装置的应用主流程图;
图6表示本发明第三实施例的数据仓库中的数据保护装置的应用的第一分支流程图;
图7表示本发明第三实施例的数据仓库中的数据保护装置的应用的第二分支流程图;
图8表示本发明第三实施例的数据仓库中的数据保护装置的应用的第三分支流程图;
图9表示本发明第三实施例的数据仓库中的数据保护装置的应用的第四分支流程图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
第一实施例
依据本发明实施例的一个方面,提供了一种数据仓库中的数据保护方法,该方法,首先,接收用户输入的用户请求,所述用户请求中携带有用户身份信息和操作请求,其中,所述操作请求包括表级别的操作请求、列级别的操作请求、分区级别的操作请求和桶级别的操作请求中的一种或多种;接着,判断所述用户身份信息及所述操作请求是否合法;再次,若所述身份信息和所述操作请求均合法,则判断所述操作请求的操作类型;最后,若所述操作请求为非授权操作,则对数据仓库中的新增数据或已有数据进行加密。
因此,本发明实施例的数据仓库中的数据保护方法,通过对数据仓库用户实施接入控制及列、分区或桶级别的权限控制,并结合对用户数据进行加密,实现了对数据仓库中的数据的有效保护。
如图1所示,该方法包括:
步骤S11、接收用户输入的用户请求。
其中,所述用户请求中携带有用户身份信息和操作请求,其中,所述操作请求包括表级别的操作请求、列级别的操作请求、分区级别的操作请求和桶级别的操作请求中的一种或多种。
当用户需要接入Hive系统,进行某一数据操作时,该用户会向Hive系统输入一用户请求。为了方便对用户的身份信息进行核查,判断该用户是否是合法用户,需要在该用户请求中携带用户的身份信息,例如用户名称,用户的接入IP等。
步骤S13、判断所述用户身份信息及所述操作请求是否合法。
其中,步骤S13包括:
根据所述用户身份信息,判断所述用户是否存在于预先存储的白名单中,若存在,则所述用户身份信息合法;
判断执行所述操作请求的权限是否是所述用户所具有的预设操作权限,若是,则所述操作请求合法。
在本发明实施例中,在Hive系统中存储有白名单,该白名单中保存着具有数据访问权限的用户的身份信息,例如用户名称,用户的接入IP等。当收到用户请求时,通过读取白名单来判断携带在用户请求中的用户身份信息是否合法,即判断该用户是否是白名单中记录的用户,若是,则该用户身份信息合法,允许该用户接入,否则,拒绝。
另外,在Hive系统中还存储有合法用户对Hive系统中的数据进行操作的预设操作权限。例如,将各个合法用户所具有的预设操作权限存储在操作权限表中。当判断接入Hive系统的用户属于合法用户后,通过读取操作权限表,判断执行操作请求的权限,是否是该用户所具有的预设操作权限,即判断该用户是否具有对操作请求针对的表或列或分区或桶的操作权限(例如判断该用户是否具有创建表的权限),若是,则该操作请求合法,否则拒绝执行该操作请求,流程结束。
步骤S15、若所述身份信息和所述操作请求均合法,则判断所述操作请求的操作类型。
其中,操作请求的操作类型分为授权操作和非授权操作。授权操作指的是Hive系统的合法用户可以授权其他用户访问该合法用户的某个列、某个分区或某个桶。非授权操作包括创建表操作、数据导入操作、修改表操作、对已有数据的加密操作、数据查询操作。
其中,当操作请求为授权操作时,需要判断所述授权操作中携带的所述用户授权其他用户进行操作的表、列、分区和桶中的一种或多种是否属于所述用户;若是,则执行所述授权操作,否则,取消所述授权操作。由此可知,本发明实施例,提供基于表、列、分区、桶级别的灵活授权,允许Hive用户授权其他用户访问某个列、某个分区或某个桶。
当操作请求为非授权操作时,执行步骤S17。
步骤S17、若所述操作请求为非授权操作,则对数据仓库中的新增数据或已有数据进行加密。
其中,对数据仓库中的新增数据进行加密的过程包括在创建表和数据导入的过程中。具体地,包括:
获取创建表操作,并根据所述创建表操作中携带的表的结构信息创建表;
判断所述创建表操作中是否携带有第一加密配置信息,其中,所述第一加密配置信息包括需要加密的表的名称、列的名称、分区的名称和桶的名称中的一种或多种,以及加密/解密算法;
若是,将所述第一加密配置信息存储在加密信息表中;
获取数据导入操作,其中,所述数据导入操作中携带有需要导入数据的第一目标表的名称、第一目标列的名称、第一目标分区的名称和第一目标桶的名称中的一种或多种,其中,所述第一目标表包括创建的表中的一个或多个,所述第一目标列包括创建的表的一个或多个列,所述第一目标分区包括创建的表的一个或多个分区,所述第一目标桶包括创建的表的一个或多个桶;
判断所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种在所述加密信息表中是否存储有对应的加密算法;
若是,则获取与所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种对应的加密算法;
获取所要导入的数据,并利用获取的加密算法对所要导入的数据进行加密,获得第一加密数据;
将所述第一加密数据对应写入到所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种中。
例如,需要创建一个表X,且要求位于表X的A列和B列中的数据加密。所以,首先需要根据创建表操作中携带的表的结构信息,例如,字段名称、数据类型等,创建一个只具有结构的空表X。由于该表X中存在需要加密的数据,所以在创建表操作中携带有对表X的加密配置信息,即需要加密的A列和B列的名称,以及加密/解密算法。
例如A列的名称为id,B列的名称为name,具体的SQL语句举例如下:
create table encode_test(id INT,name STRING)ROW FORMAT SERDE
'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe'
WITH SERDEPROPERTIES('column.encode.columns'='id,name',
'column.encode.classname'='com.zte.encode.DESRewriter')
STORED AS TEXTFILE;
其中:column.encode.columns指示了加密的列,如果为空,则表示全表加密,上面的示例中需要对2个列进行加密:id和name;column.encode.classname指示了加密的算法(类库),这里是DES。其中,本发明实施例中采用开放式的插件架构,即Hive系统中包括加密器和解密器类库,因此,可以调用对应于加密/解密算法的加密器/解密器来进行加密/解密,而且替换十分方便。
另外,为了方便在数据导入时对需要加密的数据进行加密,需要将对应于表X的加密配置信息存储在加密信息表中。其中,加密信息表中包括基于表或列或分区或桶进行加密时所采用的加密算法。
创建表完毕后,需要向创建的空表中导入数据。例如,需要向表X中的A列导入数据,则数据导入操作中会携带有A列的名称。然后,从加密信息表中读取与A列对应的加密算法,并采用该加密算法对需要导入的数据进行加密,最后将加密后的数据写入到表X的A列中。
其中,由于Hive中的数据对应的数据文件是存放在HDFS上,所以创建表X,就是在HDFS中创建一个对应与表X的空目录,并将该表X的结构信息(字段名称,字段类型等),也称作字典信息,存储在物理数据库中(如MySQL、PostgreSQL等)。
其中,对数据仓库中的已有数据进行加密的过程可通过修改表的方式进行加密,也可通过创建临时表的方式实现。
方式一:采用修改表的方式
对数据仓库中的已有数据进行加密,包括:
获取修改表操作;
判断所述修改表操作中是否携带有第二加密配置信息,所述第二加密配置信息包括需要加密的第二目标表的名称、第二目标列的名称、第二目标分区的名称和第二目标桶的名称中的一种或多种,以及加密/解密算法;
若是,利用所述修改表操作中携带的加密算法对所述第二目标表、所述第二目标列、所述第二目标分区、所述第二目标桶中的一种或多种中的数据进行加密;
将所述第二加密配置信息存储在所述加密信息表中。
即,将加密配置信息作为修改表操作的携带信息,当需要对某个表、某个列、某个分区或某个桶的数据进行加密时,可在修改表操作中携带某个表、某个列、某个分区或某个桶的名称(当然,也可以是表、列、分区、桶中多种的组合)以及加密/解密算法。在执行修改表操作时,直接调用与加密算法对应的加密器,对需要加密的表、列、分区或桶进行加密即可。其中,还可以修改加密时采用的加密算法,只需要将相应的表、列、分区或桶的加密算法修改为需要的算法即可,比如将分区DS=’2015’的加密算法改为DES,如下:
ALTER TABLE C SET PARTITION(DS=’2015’)'partition.encode.classname'='com.zte.encode.DESRewriter'。其中,需要注意的是,对于修改表操作中携带的加密配置信息同样需要保存在加密信息表中。
方式二:创建临时表方式
对数据仓库中的已有数据进行加密,包括:
获取对已有数据的加密操作,其中,所述对已有数据的加密操作中携带有待处理表的名称以及第三加密配置信息,其中,所述第三加密配置信息包括需要加密的第三目标表的名称、第三目标列的名称、第三目标分区的名称和第三目标桶的名称中的一种或多种,以及加密/解密算法,其中,所述第三目标表包括所述待处理表中的一个或多个,所述第三目标列包括所述待处理表的一个或多个列,所述第三目标分区包括所述待处理表的一个或多个分区,所述第三目标桶包括所述待处理表的一个或多个桶;
创建与所述待处理表具有相同结构的临时表;
获取数据查询操作,并依据所述数据查询操作查询所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据,获得查询数据;
将所述查询数据对应写入所述临时表中;
利用所述对已有数据的加密操作中携带的加密算法,对写入所述临时表中的查询数据进行加密,获得第二加密数据;
将所述第二加密数据以覆盖方式对应写入所述待处理表中;
将所述第三加密配置信息存储在所述加密信息表中;
删除所述临时表。
其中,所述获取数据查询操作,并依据所述数据查询操作查询所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据,获得查询数据,包括:
获取所述数据查询操作,其中,所述数据查询操作中携带所述第三目标表的名称、所述第三目标列的名称、所述第三目标分区的名称、所述第三目标桶的名称中的一种或多种;
根据所述数据查询操作,从分布式文件系统中读取所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据;
判断所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中是否存在已加密数据;
若是,从所述加密信息表中获取与所述已加密数据所在的表、列、分区和桶中的一种或多种相对应的解密算法;
利用所述解密算法,对所述已加密数据进行解密,获得所述查询数据。
例如,需要对表Y中M分区、N分区以及H分区中的已有数据进行加密。首先,需要创建一个与表Y具有相同结构的临时表L,即创建一个与表Y数据字典相同,但不加密的临时表L。然后,以数据查询的方式将分区M、分区N和H分区中的数据从HDFS中读出。
其中,在对表Y进行查询时,需要首先从数据查询操作中获取需要查询的分区M、分区N和分区H的名称;然后,从HDFS中读取分区M、分区N和分区H中的数据。其中,可能在读取的数据中存在有已加密数据,那么在将读出的数据写入到临时表L中之前,需要对已加密数据进行解密。在进行解密时,需要在加密信息表中查找对应与已加密数据所在的表或列或分区或桶的解密算法,查找到时,应用对应与该解密算法的解密器对已加密数据进行解密,从而获得所查询的数据。
当获得查询到的M分区、N分区和H分区的数据后,将这些数据对应写入到临时表L中。由于临时表L与表Y具有相同的结构,所以临时表L中存在相同的分区。因此,所查询的数据实际上对应写入的临时表L中的M分区、N分区和H分区中。
此时,可采用对已有数据加密操作中携带的加密算法对临时表L中M分区、N分区和H分区中的数据进行加密。加密完毕后,将加密后的M分区、N分区和H分区中的数据以覆盖方式写入到表Y中的M分区、N分区和H分区中,并将之前创建的临时表L删除。其中,为了方便后续用户对表Y中M分区、N分区和H分区中的数据进行某些数据操作,需要将M分区、N分区和H分区中所对应的加密/解密算法存储在加密信息表中。
当对Hive系统中的数据采用上述方法进行了加密后,在后续用户进行数据查询时,则需要从数据查询操作中获取需要查询的表的名称、列的名称、分区的名称和桶的名称中的一种或多种;然后,从HDFS中读取所要查询的表、列、分区和桶中的一种或多种中的数据;再次,从加密信息表中查找与所读取的表、列、分区和桶中的一种或多种对应的解密算法,若查找到,则利用查找到的解密算法进行解密,并将解密后的数据返回给用户;若未查找到,则直接将读取的数据返回给用户。
另外,在Hive系统中,加密信息表在元数据中采用隐藏表的形式进行保护。其中,也可采用对加密信息表进行加密的方式来保护加密信息表中的数据。那么,在上述方法中,将第一加密配置信息、第二加密配置信息或第三加密配置信息保存在加密信息表中之后,可采用预设加密算法,对加密信息表中的数据进行加密。
操作权限表和白名单也属于元数据的一部分,所以,对操作权限表和白名单进行加密,同样可以保护操作权限表以及白名单中的数据的安全。
其中,部署方法只需要设置hive.metastore.encode.class(元数据加密/解密类)配置参数为指定的加密/解密算法,比如AES加密/解密算法:com.zte.encode.AESRewriter。在元数据表(即加密信息表、操作权限表、白名单)写入到物理库之前,对表字段的所有内容调用加密算法进行加密,反之,当元数据从物理库中读取出来后,则对字段内容调用解密算法进行解密。
在本发明实施例的另外一方面,在某些特殊情况下,如果Hive系统超级管理员没有配置权限控制,此时不能进行用户的接入控制,用户之间也不能相互授权,但数据还是同样可以进行加密保护,此时,在进行加密数据查询时,只有数据的所有者(表、列、分区或桶数据的所有者)来查询时,才会进行数据解密展示,非数据的所有者则看不到真实的数据(只能看到加密后的数据)。
另外,Hive系统的大规模数据处理是在MapReduce任务进行运行时实现的。在MapReduce运行时,中间过程会产生一些临时数据。因此,在某些情况下,需要对MapReduce的中间过程生成的临时数据做保护,MapReduce在执行过程中,可能需要将部分数据临时写到HDFS或磁盘上,这个数据就称为中间过程(如Map阶段)生成的临时数据,这个数据往往是真实数据的一个小小片段,如果要对这个数据也做保护,可以将加密/解密算法也应用到MapReduce的中间过程,在中间过程的数据往HDFS或磁盘写入数据时,调用加密算法加密,在中间过程从HDFS或磁盘读入数据时,调用解密算法解密。
其中,只需要设置hive.intermediate.compression.codec(中间数据编码方式)配置参数为指定的加密/解密算法,比如AES加密/解密算法:com.zte.encode.AESRewriter,即可实现中间生成数据的加密保护。
第二实施例
依据本发明实施例的另一个方面,还提供了一种数据仓库中的数据保护装置,如图2所示,该装置20包括:
接收模块21,用于接收用户输入的用户请求,所述用户请求中携带有用户身份信息和操作请求,其中,所述操作请求包括表级别的操作请求、列级别的操作请求、分区级别的操作请求和桶级别的操作请求中的一种或多种;
第一判断模块23,用于判断所述用户身份信息及所述操作请求是否合法;
第二判断模块25,用于当所述第一判断模块23的判断结果为是时,判断所述操作请求的操作类型;
加密模块27,用于当所述第二判断模块25判断所述操作请求为非授权操作时,对数据仓库的新增数据或已有数据进行加密。
可选地,如图3所示,所述第一判断模块23包括:
第一判断单元231,用于根据所述用户身份信息,判断所述用户是否存在于预先存储的白名单中,若存在,则所述用户身份信息合法;
第二判断单元232,用于判断执行所述操作请求的权限是否是所述用户所具有的预设操作权限,若是,则所述操作请求合法。
可选地,所述非授权操作包括:创建表操作、数据导入操作、修改表操作、对已有数据的加密操作、数据查询操作。
可选地,如图3所示,所述加密模块27包括:
第一获取单元271,用于获取创建表操作,并根据所述创建表操作中携带的表的结构信息创建表;
第三判断单元272,用于判断所述创建表操作中是否携带有第一加密配置信息,其中,所述第一加密配置信息包括需要加密的表的名称、列的名称、分区的名称和桶的名称中的一种或多种,以及加密/解密算法;
第一存储单元273,用于当所述第三判断单元272的判断结果为是时,将所述第一加密配置信息存储在加密信息表中;
第二获取单元274,用于获取数据导入操作,其中,所述数据导入操作中携带有需要导入数据的第一目标表的名称、第一目标列的名称、第一目标分区的名称和第一目标桶的名称中的一种或多种,其中,所述第一目标表包括创建的表中的一个或多个,所述第一目标列包括创建的表的一个或多个列,所述第一目标分区包括创建的表的一个或多个分区,所述第一目标桶包括创建的表的一个或多个桶;
第四判断单元275,用于判断所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种在所述加密信息表中是否存储有对应的加密算法;
第三获取单元276,用于当所述第四判断单元275的判断结果为是时,获取与所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种对应的加密算法;
第一加密单元277,用于获取所要导入的数据,并利用获取的加密算法对所要导入的数据进行加密,获得第一加密数据;
第一写入单元278,用于将所述第一加密数据对应写入到所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种中。
可选地,如图3所示,所述加密模块27还包括:
第四获取单元279,用于获取修改表操作;
第五判断单元2710,用于判断所述修改表操作中是否携带有第二加密配置信息,所述第二加密配置信息包括需要加密的第二目标表的名称、第二目标列的名称、第二目标分区的名称和第二目标桶的名称中的一种或多种,以及加密/解密算法;
第二加密单元2711,用于在所述第五判断单元2710的判断结果为是时,利用所述修改表操作中携带的加密算法对所述第二目标表、所述第二目标列、所述第二目标分区、所述第二目标桶中的一种或多种中的数据进行加密;
第二存储单元2712,用于将所述第二加密配置信息存储在所述加密信息表中。
可选地,如图3所示,所述加密模块27还包括:
第五获取单元2713,用于获取对已有数据的加密操作,其中,所述对已有数据的加密操作中携带有待处理表的名称以及第三加密配置信息,其中,所述第三加密配置信息包括需要加密的第三目标表的名称、第三目标列的名称、第三目标分区的名称和第三目标桶的名称中的一种或多种,以及加密/解密算法,其中,所述第三目标表包括所述待处理表中的一个或多个,所述第三目标列包括所述待处理表的一个或多个列,所述第三目标分区包括所述待处理表的一个或多个分区,所述第三目标桶包括所述待处理表的一个或多个桶;
创建单元2714,用于创建与所述待处理表具有相同结构的临时表;
查询单元2715,用于获取数据查询操作,并依据所述数据查询操作查询所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据,获得查询数据;
第二写入单元2716,用于将所述查询数据对应写入所述临时表中;
第三加密单元2717,用于利用所述对已有数据的加密操作中携带的加密算法,对写入所述临时表中的查询数据进行加密,获得第二加密数据;
第三写入单元2718,用于将所述第二加密数据以覆盖方式对应写入所述待处理表中;
第三存储单元2719,用于将所述第三加密配置信息存储在所述加密信息表中;
删除单元2720,用于删除所述临时表。
可选地,所述查询单元2715包括:
第一获取子单元,用于获取所述数据查询操作,其中,所述数据查询操作中携带所述第三目标表的名称、所述第三目标列的名称、所述第三目标分区的名称、所述第三目标桶的名称中的一种或多种;
查询子单元,用于根据所述数据查询操作,从分布式文件系统中读取所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据;
判断子单元,用于判断所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中是否存在已加密数据;
第二获取子单元,用于当所述判断子单元的判断结果为是时,从所述加密信息表中获取与所述已加密数据所在的表、列、分区和桶中的一种或多种相对应的解密算法;
解密子单元,用于利用所述解密算法,对所述已加密数据进行解密,获得所述查询数据。
可选地,如图3所示,还包括:
授权模块29,用于当所述第二判断模块判断所述操作请求为授权操作,判断所述授权操作中携带的所述用户授权其他用户进行操作的表、列、分区和桶中的一种或多种是否属于所述用户,若是,则执行所述授权操作,否则,取消所述授权操作。
可选地,如图3所示所述加密模块27还包括:
第四加密单元2721,用于采用预设加密算法,对所述加密信息表中的数据进行加密。
第三实施例
如图4所示,为本发明另一实施例的数据仓库中的数据保护装置的结构框图。
接入控制模块431:提供白名单功能,被权限控制模块43调用,只有用户在白名单之中,才允许接入系统,否则不允许接入。白名单由系统超级管理员根据指定的接口配置,通常以配置表(白名单表)的形式存储在元数据模块41,也可以以配置文件存储在本地硬盘。接入控制模块431是插件式组件,用户可以继承指定的接口,开发自定义的白名单功能。
权限控制模块43:在Hive原有权限控制模块的基础上,提供Hive系统超级管理员功能,调用接入控制模块431提供的白名单功能进行接入控制,并提供基于列、分区、桶级别的灵活授权,允许Hive用户授权其他用户访问某个列、某个分区或某个桶。
语句解析模块44:对SQL语句进行解析,本发明的加密信息是在创建表或修改表的SQL语句中时定义的,所以在原有Hive语句解析模块的基础上,增加对加密信息的解析,并将加密信息作为一张表写入到元数据模块41中,包括表是否加密,加密的列,分区、桶名称、加密器名称。
序列化模块45:提供将数据写入到HDFS47中的功能。在序列化的过程中,数据长度往往会扩大,为了减少MapReduce网络传输的开销,所以在数据写入HDFS47的时候,进行数据加密。
反序列化模块46:提供将从HDFS47上将表文件读入的功能,由于数据解密长度会减少,同样为了减少MapReduce网络传输的开销,所在反序列化的过程中,就进行数据解密。
HDFS47:存储Hive中的数据对应的数据文件,其中,HDFS47中的数据可通过反序列化模块46读取,通过序列化模块45将数据写入HDFS47中。
元数据模块41:定义加密信息表、白名单表和操作权限表,存储表的加密信息、白名单信息和用户所具有的预设操作权限。表的加密信息包括表是否加密,加密的列,分区、桶、加密器名称。为了将对用户SQL程序的影响减到最低,本发明在定义表时,将加密信息作为表数据字典定义信息的一部分,持久化到元数据模块41中,当有数据操作时,要做任何变动,由序列化模块45/反序列化模块46根据加密信息判断是否需要加密或解密。白名单表则存储用户名称、用户的接入IP等。
数据加密/解密模块42:一个独立的插件式组件,只分别被序列化模块45和反序列化模块46调用,提供数据加密/解密算法,实现数据加密/解密功能。本发明实现了高级加密标准(Advanced Encryption Standard,AES)加密/解密算法,AES在密码学中又称Rijndael加密法,是美国联邦政府采用的一种区块加密标准。这个标准用来替代原先的DES,已经被多方分析且广为全世界所使用。目前,高级加密标准已然成为对称密钥加密中最流行的算法之一。该加密算法具有加密速度快,编码紧凑,安全性极高的优点。同时,该加密算法生成的加密数据在任何情况下只与原始数据和加密密钥相关,也就是只要加密的原始数据和密钥确定,那么在任何情况下,生成的加密数据都是相同的,反之对于解密也是同样的,只要获取到密钥,就能对加密数据进行解密,这也方便可以将该算法使用到MapReduce这样的多主机、多节点的运算环境中。同时由于本发明采用一种插件式架构,用户只要通过继承本发明定义的接口,也可以开发自定义的加密/解密插件。
密钥配置模块421:数据加密/解密模块42的子模块,专门用于合成加密/解密的密钥,在加密过程中,Hive系统为每个用户分配一个32位长的用于加密的加密密钥(key),该分配的key与用户的自定义key合成用户的加密密钥,并通过JDBC接口写入到元数据模块41中。
基于图4的结构框图,当有用户接入时,图4所示的各个模块按照如图5所示的流程图执行,即按照步骤S51~S513执行。具体地,
步骤S51、用户请求,即用户输入用户请求。
步骤S52、通过元数据模块41读取用户白名单;因为白名单中存储着具有合法接入权限的用户的身份信息,所以为了便于对输入用户请求的用户的身份信息进行判断,需要从元数据模块41中读取白名单。
步骤S53、判断该用户是否在白名单内;即权限控制模块43调用接入控制模块431提供的白名单功能,判断用户是否在白名单之内,若在,则允许接入,并执行步骤S54,否则不允许接入,进入步骤S513中,即结束流程。因此,只有通过权限控制模块43认证的用户才允许接入Hive进行后面的操作。
步骤S54、权限控制模块43获取用户权限,与操作中要求的权限对比,即权限控制模块43从元数据模块41中读取操作权限控制表。
步骤S55、判断是否是授权操作;若属于授权操作,执行步骤S56,否则执行步骤S57。
步骤S56、若授权的表、列、分区或桶属于该用户,则成功授权,否则失败返回。
步骤S57、判断用户是否具备相应操作权限,若具备,执行步骤S58,若不具备,执行步骤S513。
步骤S58、判断用户的操作请求类别;其中,请求类别包括创建表、修改表、数据导入、数据查询、对已有数据加密保护。具体地,
当操作请求为创建表或修改表时,执行步骤S59,参见图6的第一分支流程;
当操作请求为数据导入时,执行步骤S510,参见图7的第二分支流程;
当操作请求为数据查询时,执行步骤S511,参见图8的第三分支流程;
当操作请求为对已有数据加密保护时,执行步骤S512,参见图9的第四分支流程。
其中,如图6所示,当操作请求为创建表或修改表时,执行步骤S591~S595。具体如下:
步骤S591、执行创建表或修改表语句(其中,如果需要创建加密的表、列、分区或桶,则要在数据字典中定义加密的表、列、分区或桶)。
步骤S592、将表的数据字典信息通过元数据模块41写入到物理数据库中。
步骤S593、判断创建表或修改表的语句中是否携带了加密配置信息,若是,执行步骤S594,若否,执行步骤S595。
步骤S594、将加密配置信息通过元数据模块41写入到物理库中的加密信息表中。
步骤S595、流程结束。
其中,如图7所示,当操作请求为数据导入时,执行步骤S5101~S5107。具体如下:
步骤S5101、执行MapReduce流程。
步骤S5102、在MapReduce流程的最后,调用序列化模块45向HDFS47序列化数据。
步骤S5103、通过元数据模块41读取元数据表信息,包括加密信息。
步骤S5104、判断导入的目标表、列、分区或桶是否加密,若是,执行步骤S5105,若否,执行步骤S5106。
步骤S5105、在序列化过程中,调用加密/解密模块42提供的加密算法进行数据加密。即序列化模块45调用密钥配置模块421合成密钥,调用元数据模块41获取待加密的列、分区或桶及加密/解密算法名,加载指定的加密/解密算法,根据指定的加密数据(待加密的列、分区或桶)和密钥完成数据加密。
步骤S5106、数据写入HDFS47中,MapReduce结束。
步骤S5107、流程结束,即将数据写入到HDFS47中后,此部分的流程结束。
其中,如图8所示,当操作请求为数据查询时,执行步骤S5111~S5118。具体如下:
步骤S5111、开始执行MapReduce流程。
步骤S5112、在MapReduce的开始,调用反序列化模块46从HDFS47上读取数据。
步骤S5113、通过元数据模块41读取元数据信息,包括加密表信息.
步骤S5114、判断查询的表、列、分区或桶是否有加密,若有加密,执行步骤S5115,若没有加密,执行步骤S5116。
步骤S5115、在反序列化过程中,调用加密/解密模块42提供的解密算法进行数据解密。
步骤S5116、数据读取完毕后,MapReduce结束。
步骤S5117、将查询数据返回给用户。
步骤S5118、流程结束,即,将查询数据返回给用户后,流程结束。
其中,如图9所示,当操作请求为对已有数据加密保护时,执行步骤S5121~S51211。具体如下:
步骤S5121、对源表(列、分区或桶)执行查询。
步骤S5122、查询流程参见图8,查询完成后,获取所要查询的数据。
步骤S5123、创建同源表数据字典相同,但不加密的普通临时表。
步骤S5124、将上面查询的数据导入到临时表中。
步骤S5125、执行MapReduce。
步骤S5126、在MapReduce流程的最后,调用序列化模块45向HDFS47序列化数据。
步骤S5127、判断源表的某些表、列、分区或桶是否需要加密;若是,执行步骤S5128,否则执行步骤S5129。
步骤S5128、在序列化过程中,调用加密/解密模块42提供的加密算法进行数据加密。
步骤S5129、数据写入HDFS47中,MapReduce流程结束。即,将加密后的数据以覆盖方式写入源表中。
步骤S51210、删除普通临时表,以节省系统的存储空间。
步骤S51211、流程结束,即,删除普通临时表后,该部分流程结束。
其中,创建临时表的步骤与对源表的查询步骤的先后顺序并不局限于此。
在图4所示的结构框图中,由于数据加密/解密模块42的存在,使得加密/解密算法已经加载到系统中,所以可以延伸处一种简化实施方式,即直接通过自定义函数(UDF)定义加密/解密函数,而无需再进行数据字典的定义,从而可以不需要通过语句解析模块44解析获取加密信息,以及将加密信息存储元数据库的过程。
比如:select a,encode(b)from tbl,通过加密算法中的encode接口对表tbl的b字段内容进行了加密,再将加密后的结果a和encode(b)导入到另一张预先定义的表tbl_encrypt,此表作为数据加密后的存放地,收到查询请求时,则调用解密函数decode,如:select a,decode(c)from tbl_encrypt,c的内容即为encode(b),以此进行数据解密展示,这种方式不需要像在创建表或修改表那样需要在数据字典中定义,但需要对原始SQL进行改造,增加对自定义函数的调用,并且要人为的保证加密的表、列、分区或桶和解密时完全一致。
综上所述,本发明通过用户权限控制和数据加密来实现的Hive数据保护,旨在通过对Hive用户实施接入控制及列、分区或桶级别的权限控制,并结合对用户数据进行基于表、列、分区或桶级别的加密/解密,实现保护Hive数据仓库中的数据的目的,从而克服了现有技术中存在的安全机制不健全、操作繁琐、耗时,无法对表、列、分区及桶进行灵活加密、保密程度不高、效率低下及部署成本较高的问题。
以上所述的是本发明的优选实施方式,应当指出对于本技术领域的普通人员来说,在不脱离本发明所述的原理前提下还可以作出若干改进和润饰,这些改进和润饰也在本发明的保护范围内。
Claims (18)
1.一种数据仓库中的数据保护方法,其特征在于,包括:
接收用户输入的用户请求,所述用户请求中携带有用户身份信息和操作请求,其中,所述操作请求包括表级别的操作请求、列级别的操作请求、分区级别的操作请求和桶级别的操作请求中的一种或多种;
判断所述用户身份信息及所述操作请求是否合法;
若所述身份信息和所述操作请求均合法,则判断所述操作请求的操作类型;
若所述操作请求为非授权操作,则对数据仓库中的新增数据或已有数据进行加密。
2.如权利要求1所述的方法,其特征在于,所述判断所述用户身份信息及所述操作请求是否合法,包括:
根据所述用户身份信息,判断所述用户是否存在于预先存储的白名单中,若存在,则所述用户身份信息合法;
判断执行所述操作请求的权限是否是所述用户所具有的预设操作权限,若是,则所述操作请求合法。
3.如权利要求2所述的方法,其特征在于,所述非授权操作包括:创建表操作、数据导入操作、修改表操作、对已有数据的加密操作、数据查询操作。
4.如权利要求3所述的方法,其特征在于,对数据仓库中的新增数据进行加密,包括:
获取创建表操作,并根据所述创建表操作中携带的表的结构信息创建表;
判断所述创建表操作中是否携带有第一加密配置信息,其中,所述第一加密配置信息包括需要加密的表的名称、列的名称、分区的名称和桶的名称中的一种或多种,以及加密/解密算法;
若是,将所述第一加密配置信息存储在加密信息表中;
获取数据导入操作,其中,所述数据导入操作中携带有需要导入数据的第一目标表的名称、第一目标列的名称、第一目标分区的名称和第一目标桶的名称中的一种或多种,其中,所述第一目标表包括创建的表中的一个或多个,所述第一目标列包括创建的表的一个或多个列,所述第一目标分区包括创建的表的一个或多个分区,所述第一目标桶包括创建的表的一个或多个桶;
判断所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种在所述加密信息表中是否存储有对应的加密算法;
若是,则获取与所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种对应的加密算法;
获取所要导入的数据,并利用获取的加密算法对所要导入的数据进行加密,获得第一加密数据;
将所述第一加密数据对应写入到所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种中。
5.如权利要求4所述的方法,其特征在于,对数据仓库中的已有数据进行加密,包括:
获取修改表操作;
判断所述修改表操作中是否携带有第二加密配置信息,所述第二加密配置信息包括需要加密的第二目标表的名称、第二目标列的名称、第二目标分区的名称和第二目标桶的名称中的一种或多种,以及加密/解密算法;
若是,利用所述修改表操作中携带的加密算法对所述第二目标表、所述第二目标列、所述第二目标分区、所述第二目标桶中的一种或多种中的数据进行加密;
将所述第二加密配置信息存储在所述加密信息表中。
6.如权利要求4所述的方法,其特征在于,对数据仓库中的已有数据进行加密,包括:
获取对已有数据的加密操作,其中,所述对已有数据的加密操作中携带有待处理表的名称以及第三加密配置信息,其中,所述第三加密配置信息包括需要加密的第三目标表的名称、第三目标列的名称、第三目标分区的名称和第三目标桶的名称中的一种或多种,以及加密/解密算法,其中,所述第三目标表包括所述待处理表中的一个或多个,所述第三目标列包括所述待处理表的一个或多个列,所述第三目标分区包括所述待处理表的一个或多个分区,所述第三目标桶包括所述待处理表的一个或多个桶;
创建与所述待处理表具有相同结构的临时表;
获取数据查询操作,并依据所述数据查询操作查询所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据,获得查询数据;
将所述查询数据对应写入所述临时表中;
利用所述对已有数据的加密操作中携带的加密算法,对写入所述临时表中的查询数据进行加密,获得第二加密数据;
将所述第二加密数据以覆盖方式对应写入所述待处理表中;
将所述第三加密配置信息存储在所述加密信息表中;
删除所述临时表。
7.如权利要求6所述的方法,其特征在于,所述获取数据查询操作,并依据所述数据查询操作查询所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据,获得查询数据,包括:
获取所述数据查询操作,其中,所述数据查询操作中携带所述第三目标表的名称、所述第三目标列的名称、所述第三目标分区的名称、所述第三目标桶的名称中的一种或多种;
根据所述数据查询操作,从分布式文件系统中读取所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据;
判断所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中是否存在已加密数据;
若是,从所述加密信息表中获取与所述已加密数据所在的表、列、分区和桶中的一种或多种相对应的解密算法;
利用所述解密算法,对所述已加密数据进行解密,获得所述查询数据。
8.如权利要求1所述的方法,其特征在于,所述判断所述操作请求的操作类型之后,还包括:
若所述操作请求为授权操作,则判断所述授权操作中携带的所述用户授权其他用户进行操作的表、列、分区和桶中的一种或多种是否属于所述用户;
若是,则执行所述授权操作,否则,取消所述授权操作。
9.如权利要求4~6任意一项所述的方法,其特征在于,将所述第一加密配置信息或所述第二加密配置信息或所述第三加密配置信息存储在所述加密信息表中之后,还包括:
采用预设加密算法,对所述加密信息表中的数据进行加密。
10.一种数据仓库中的数据保护装置,其特征在于,包括:
接收模块,用于接收用户输入的用户请求,所述用户请求中携带有用户身份信息和操作请求,其中,所述操作请求包括表级别的操作请求、列级别的操作请求、分区级别的操作请求和桶级别的操作请求中的一种或多种;
第一判断模块,用于判断所述用户身份信息及所述操作请求是否合法;
第二判断模块,用于当所述第一判断模块的判断结果为是时,判断所述操作请求的操作类型;
加密模块,用于当所述第二判断模块判断所述操作请求为非授权操作时,对数据仓库的新增数据或已有数据进行加密。
11.如权利要求10所述的装置,其特征在于,所述第一判断模块包括:
第一判断单元,用于根据所述用户身份信息,判断所述用户是否存在于预先存储的白名单中,若存在,则所述用户身份信息合法;
第二判断单元,用于判断执行所述操作请求的权限是否是所述用户所具有的预设操作权限,若是,则所述操作请求合法。
12.如权利要求11所述的装置,其特征在于,所述非授权操作包括:创建表操作、数据导入操作、修改表操作、对已有数据的加密操作、数据查询操作。
13.如权利要求12所述的装置,其特征在于,所述加密模块包括:
第一获取单元,用于获取创建表操作,并根据所述创建表操作中携带的表的结构信息创建表;
第三判断单元,用于判断所述创建表操作中是否携带有第一加密配置信息,其中,所述第一加密配置信息包括需要加密的表的名称、列的名称、分区的名称和桶的名称中的一种或多种,以及加密/解密算法;
第一存储单元,用于当所述第三判断单元的判断结果为是时,将所述第一加密配置信息存储在加密信息表中;
第二获取单元,用于获取数据导入操作,其中,所述数据导入操作中携带有需要导入数据的第一目标表的名称、第一目标列的名称、第一目标分区的名称和第一目标桶的名称中的一种或多种,其中,所述第一目标表包括创建的表中的一个或多个,所述第一目标列包括创建的表的一个或多个列,所述第一目标分区包括创建的表的一个或多个分区,所述第一目标桶包括创建的表的一个或多个桶;
第四判断单元,用于判断所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种在所述加密信息表中是否存储有对应的加密算法;
第三获取单元,用于当所述第四判断单元的判断结果为是时,获取与所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种对应的加密算法;
第一加密单元,用于获取所要导入的数据,并利用获取的加密算法对所要导入的数据进行加密,获得第一加密数据;
第一写入单元,用于将所述第一加密数据对应写入到所述第一目标表、所述第一目标列、所述第一目标分区和所述第一目标桶中的一种或多种中。
14.如权利要求13所述的装置,其特征在于,所述加密模块包括:
第四获取单元,用于获取修改表操作;
第五判断单元,用于判断所述修改表操作中是否携带有第二加密配置信息,所述第二加密配置信息包括需要加密的第二目标表的名称、第二目标列的名称、第二目标分区的名称和第二目标桶的名称中的一种或多种,以及加密/解密算法;
第二加密单元,用于在所述第五判断单元的判断结果为是时,利用所述修改表操作中携带的加密算法对所述第二目标表、所述第二目标列、所述第二目标分区、所述第二目标桶中的一种或多种中的数据进行加密;
第二存储单元,用于将所述第二加密配置信息存储在所述加密信息表中。
15.如权利要求13所述的装置,其特征在于,所述加密模块包括:
第五获取单元,用于获取对已有数据的加密操作,其中,所述对已有数据的加密操作中携带有待处理表的名称以及第三加密配置信息,其中,所述第三加密配置信息包括需要加密的第三目标表的名称、第三目标列的名称、第三目标分区的名称和第三目标桶的名称中的一种或多种,以及加密/解密算法,其中,所述第三目标表包括所述待处理表中的一个或多个,所述第三目标列包括所述待处理表的一个或多个列,所述第三目标分区包括所述待处理表的一个或多个分区,所述第三目标桶包括所述待处理表的一个或多个桶;
创建单元,用于创建与所述待处理表具有相同结构的临时表;
查询单元,用于获取数据查询操作,并依据所述数据查询操作查询所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据,获得查询数据;
第二写入单元,用于将所述查询数据对应写入所述临时表中;
第三加密单元,用于利用所述对已有数据的加密操作中携带的加密算法,对写入所述临时表中的查询数据进行加密,获得第二加密数据;
第三写入单元,用于将所述第二加密数据以覆盖方式对应写入所述待处理表中;
第三存储单元,用于将所述第三加密配置信息存储在所述加密信息表中;
删除单元,用于删除所述临时表。
16.如权利要求15所述的装置,其特征在于,所述查询单元包括:
第一获取子单元,用于获取所述数据查询操作,其中,所述数据查询操作中携带所述第三目标表的名称、所述第三目标列的名称、所述第三目标分区的名称、所述第三目标桶的名称中的一种或多种;
查询子单元,用于根据所述数据查询操作,从分布式文件系统中读取所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中的数据;
判断子单元,用于判断所述第三目标表、所述第三目标列、所述第三目标分区、所述第三目标桶中的一种或多种中是否存在已加密数据;
第二获取子单元,用于当所述判断子单元的判断结果为是时,从所述加密信息表中获取与所述已加密数据所在的表、列、分区和桶中的一种或多种相对应的解密算法;
解密子单元,用于利用所述解密算法,对所述已加密数据进行解密,获得所述查询数据。
17.如权利要求10所述的装置,其特征在于,还包括:
授权模块,用于当所述第二判断模块判断所述操作请求为授权操作,判断所述授权操作中携带的所述用户授权其他用户进行操作的表、列、分区和桶中的一种或多种是否属于所述用户,若是,则执行所述授权操作,否则,取消所述授权操作。
18.如权利要求13~15任意一项所述的装置,其特征在于,所述加密模块还包括:
第四加密单元,用于采用预设加密算法,对所述加密信息表中的数据进行加密。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610053324.0A CN106997368A (zh) | 2016-01-26 | 2016-01-26 | 一种数据仓库中的数据保护方法及装置 |
PCT/CN2017/072699 WO2017129138A1 (zh) | 2016-01-26 | 2017-01-25 | 数据仓库中的数据保护方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610053324.0A CN106997368A (zh) | 2016-01-26 | 2016-01-26 | 一种数据仓库中的数据保护方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106997368A true CN106997368A (zh) | 2017-08-01 |
Family
ID=59397402
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610053324.0A Withdrawn CN106997368A (zh) | 2016-01-26 | 2016-01-26 | 一种数据仓库中的数据保护方法及装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN106997368A (zh) |
WO (1) | WO2017129138A1 (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110457307A (zh) * | 2018-05-03 | 2019-11-15 | 阿里巴巴集团控股有限公司 | 元数据管理系统、用户集群创建方法、装置、设备和介质 |
CN110532787A (zh) * | 2019-07-26 | 2019-12-03 | 苏州浪潮智能科技有限公司 | 一种用于强化集群中的保密资源的安全性的方法和装置 |
CN110636043A (zh) * | 2019-08-16 | 2019-12-31 | 中国人民银行数字货币研究所 | 一种基于区块链的文件授权访问方法、装置及系统 |
CN110717153A (zh) * | 2019-09-30 | 2020-01-21 | 新华三大数据技术有限公司 | 一种权限验证方法和装置 |
CN111177753A (zh) * | 2019-12-24 | 2020-05-19 | 广州极点三维信息科技有限公司 | 一种对Java内容仓库数据的加密处理方法、装置和设备 |
CN111324799A (zh) * | 2020-02-05 | 2020-06-23 | 星辰天合(北京)数据科技有限公司 | 搜索请求的处理方法及装置 |
WO2021204068A1 (zh) * | 2020-04-10 | 2021-10-14 | 支付宝(杭州)信息技术有限公司 | 可验证声明的存储 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110222046B (zh) * | 2019-04-28 | 2023-11-03 | 北京奥星贝斯科技有限公司 | 列表数据的处理方法、装置、服务器和存储介质 |
CN110188573B (zh) * | 2019-05-27 | 2024-06-04 | 深圳前海微众银行股份有限公司 | 分区授权方法、装置、设备及计算机可读存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1822014A (zh) * | 2006-03-23 | 2006-08-23 | 沈明峰 | 协同工作环境下涉密文档的保护方法 |
CN101866360A (zh) * | 2010-06-28 | 2010-10-20 | 北京用友政务软件有限公司 | 基于对象多维属性空间的数据仓库鉴权方法及系统 |
US20150006902A1 (en) * | 2013-01-21 | 2015-01-01 | International Business Machines Corporation | Controlling Exposure of Sensitive Data and Operation Using Process Bound Security Tokens in Cloud Computing Environment |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8438611B2 (en) * | 2007-10-11 | 2013-05-07 | Varonis Systems Inc. | Visualization of access permission status |
CN102917006B (zh) * | 2012-08-31 | 2015-12-02 | 杭州斯凯网络科技有限公司 | 一种实现计算资源和对象权限的统一控制管理方法及装置 |
US10339157B2 (en) * | 2013-02-13 | 2019-07-02 | Facebook, Inc. | Hive table links |
-
2016
- 2016-01-26 CN CN201610053324.0A patent/CN106997368A/zh not_active Withdrawn
-
2017
- 2017-01-25 WO PCT/CN2017/072699 patent/WO2017129138A1/zh active Application Filing
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1822014A (zh) * | 2006-03-23 | 2006-08-23 | 沈明峰 | 协同工作环境下涉密文档的保护方法 |
CN101866360A (zh) * | 2010-06-28 | 2010-10-20 | 北京用友政务软件有限公司 | 基于对象多维属性空间的数据仓库鉴权方法及系统 |
US20150006902A1 (en) * | 2013-01-21 | 2015-01-01 | International Business Machines Corporation | Controlling Exposure of Sensitive Data and Operation Using Process Bound Security Tokens in Cloud Computing Environment |
Non-Patent Citations (1)
Title |
---|
李瑛等: "基于动态加密技术的网络数据防护系统的研究", 《第二十次全国计算机安全学术交流会》 * |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110457307A (zh) * | 2018-05-03 | 2019-11-15 | 阿里巴巴集团控股有限公司 | 元数据管理系统、用户集群创建方法、装置、设备和介质 |
CN110457307B (zh) * | 2018-05-03 | 2023-10-24 | 阿里巴巴集团控股有限公司 | 元数据管理系统、用户集群创建方法、装置、设备和介质 |
CN110532787A (zh) * | 2019-07-26 | 2019-12-03 | 苏州浪潮智能科技有限公司 | 一种用于强化集群中的保密资源的安全性的方法和装置 |
CN110636043A (zh) * | 2019-08-16 | 2019-12-31 | 中国人民银行数字货币研究所 | 一种基于区块链的文件授权访问方法、装置及系统 |
CN110717153A (zh) * | 2019-09-30 | 2020-01-21 | 新华三大数据技术有限公司 | 一种权限验证方法和装置 |
CN110717153B (zh) * | 2019-09-30 | 2021-08-24 | 新华三大数据技术有限公司 | 一种权限验证方法和装置 |
CN111177753A (zh) * | 2019-12-24 | 2020-05-19 | 广州极点三维信息科技有限公司 | 一种对Java内容仓库数据的加密处理方法、装置和设备 |
CN111177753B (zh) * | 2019-12-24 | 2021-03-23 | 广州极点三维信息科技有限公司 | 一种对Java内容仓库数据的加密处理方法、装置和设备 |
CN111324799A (zh) * | 2020-02-05 | 2020-06-23 | 星辰天合(北京)数据科技有限公司 | 搜索请求的处理方法及装置 |
WO2021204068A1 (zh) * | 2020-04-10 | 2021-10-14 | 支付宝(杭州)信息技术有限公司 | 可验证声明的存储 |
Also Published As
Publication number | Publication date |
---|---|
WO2017129138A1 (zh) | 2017-08-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106997368A (zh) | 一种数据仓库中的数据保护方法及装置 | |
CN103392178B (zh) | 数据库加密系统、方法和程序 | |
US9866375B2 (en) | Multi-level key management | |
US10733329B1 (en) | Robotic process automation system and method with secure credential vault | |
US7587608B2 (en) | Method and apparatus for storing data on the application layer in mobile devices | |
CN110365670A (zh) | 黑名单共享方法、装置、计算机设备和存储介质 | |
WO2013069770A1 (ja) | データベース装置と方法及びプログラム | |
US20090240956A1 (en) | Transparent encryption using secure encryption device | |
CN111274599A (zh) | 一种基于区块链的数据共享方法及相关装置 | |
US20170099144A1 (en) | Embedded encryption platform comprising an algorithmically flexible multiple parameter encryption system | |
KR20130039354A (ko) | Dbms 및 데이터베이스에서 암호화 방법 | |
CN109802832B (zh) | 一种数据文件的处理方法、系统、大数据处理服务器和计算机存储介质 | |
CN112887085B (zh) | 一种ssd固态硬盘主控芯片安全密钥生成方法、装置和系统 | |
CN111586065A (zh) | 一种基于区块链的数据授权方法 | |
CN107209843A (zh) | 安全执行环境通信 | |
CN112272090B (zh) | 一种密钥产生方法和装置 | |
CN102752112A (zh) | 基于sm1/sm2算法的权限控制方法及装置 | |
US20160148021A1 (en) | Systems and Methods for Trading of Text based Data Representation | |
CN108494724A (zh) | 基于多授权机构属性加密算法的云存储加密系统及方法 | |
JPH04245368A (ja) | 電子ファイルキャビネットシステム | |
KR102211937B1 (ko) | 블록체인 네트워크 상에서 오프체인 원장을 이용한 역할기반의 데이터 보호 시스템 | |
CN213817804U (zh) | 一种密钥产生装置 | |
KR20190099984A (ko) | 개인 키 관리 시스템 | |
CN111639349B (zh) | 一种数据加密处理方法、装置和存储介质 | |
CN100486157C (zh) | 一种分布式数据加密方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20170801 |