CN115906131B - 一种数据管理方法、系统、设备及存储介质 - Google Patents

一种数据管理方法、系统、设备及存储介质 Download PDF

Info

Publication number
CN115906131B
CN115906131B CN202211667382.4A CN202211667382A CN115906131B CN 115906131 B CN115906131 B CN 115906131B CN 202211667382 A CN202211667382 A CN 202211667382A CN 115906131 B CN115906131 B CN 115906131B
Authority
CN
China
Prior art keywords
data
product
target
machine
security policy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211667382.4A
Other languages
English (en)
Other versions
CN115906131A (zh
Inventor
刘汪根
赵志强
张丰璐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Transwarp Technology Shanghai Co Ltd
Original Assignee
Transwarp Technology Shanghai Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Transwarp Technology Shanghai Co Ltd filed Critical Transwarp Technology Shanghai Co Ltd
Priority to CN202211667382.4A priority Critical patent/CN115906131B/zh
Publication of CN115906131A publication Critical patent/CN115906131A/zh
Application granted granted Critical
Publication of CN115906131B publication Critical patent/CN115906131B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Storage Device Security (AREA)

Abstract

本发明公开了一种数据管理方法、系统、设备及存储介质,该方法应用在数据一体机,包括:获取至少一个数据产品,数据产品由数据提供方根据数据产品协议生成并通过数据发布平台提供;根据各数据产品确定至少一个目标数据产品,生成数据订阅请求,并发送至对应的目标数据发布平台;接收目标数据发布平台在数据订阅请求验证通过后所反馈的目标数据产品;根据目标数据产品进行数据安全配置,并在完成配置后将实际运行数据存储到数据库;解决了数据管理过程中无法保证数据安全的问题,避免数据泄露,保证数据安全。通过数据一体机实现数据安全存储以及安全访问,方案易于实现、成本低,可以实现对数据的高效管理。

Description

一种数据管理方法、系统、设备及存储介质
技术领域
本发明涉及数据管理技术领域,尤其涉及一种数据管理方法、系统、设备及存储介质。
背景技术
数据提供方向数据消费方提供数据的方式可以是数据提供方对数据处理后上传到第三方数据交易平台进行交易,由第三方开放给消费用户下载数据,由第三方数据交易平台限制数据消费的边界;或者,数据提供方提供数据共享平台,数据提供方通过云计算、大数据、数据中台等技术构建数据共享平台,为数据消费方提供逻辑隔离的数据共享API和账户,由数据消费方来获取数据。
但是,由第三方的数据存储方案保证数据安全,存在数据交易过程中数据实体泄露风险,并且无法解决数据提供方和数据交易方的数据安全策略的定制化需求。数据提供方建设数据共享平台的方案,依赖数据安全、访问安全、合规安全等集成技术对所有消费方生效,对于头部数据提供方的数据交易过程存在从0到1系统建设的复杂度高、成本高、难管理等问题,无法保障真正的落地。
发明内容
本发明提供了一种数据管理方法、系统、设备及存储介质,以解决数据交易过程中无法保证安全的问题。
根据本发明的一方面,提供了一种数据管理方法,应用于数据一体机,包括:
获取至少一个数据产品,所述数据产品由数据提供方根据数据产品协议生成并通过数据发布平台提供,所述数据产品包括:产品交付信息和安全策略信息,所述安全策略信息包括:接入安全策略和数据安全策略;
根据各所述数据产品确定至少一个目标数据产品,生成数据订阅请求,并发送至对应的目标数据发布平台;
接收所述目标数据发布平台在所述数据订阅请求验证通过后所反馈的目标数据产品;
根据所述目标数据产品进行数据安全配置,并在完成配置后将实际运行数据存储到数据库;
接收所对应的数据消费方的数据访问请求,根据所述数据访问请求查询数据库,并返回响应数据。
根据本发明的一方面,提供了一种数据管理方法,应用于数据发布平台,包括:
接收数据提供方根据数据产品协议生成并发布的至少一个数据产品,所述数据产品包括:产品交付信息和安全策略信息,所述安全策略信息包括:接入安全策略和数据安全策略;
向所对应的数据一体机反馈至少一个数据产品;
接收所述数据一体机根据至少一个目标数据产品生成并发送的数据订阅请求;
对所述数据订阅请求进行验证,并在验证通过后反馈目标数据产品至所述数据一体机。
根据本发明的另一方面,提供了一种数据管理系统,包括:至少一个数据发布平台、至少一个数据消费方,每个所述数据消费方所对应的至少一个数据一体机、以及至少一个数据提供方;
各所述数据提供方,用于根据数据产品协议生成数据产品,并向对应的数据发布平台发送各所述数据产品,以便各所述数据发布平台向对应的数据一体机反馈至少一个数据产品,所述数据产品包括:产品交付信息和安全策略信息,所述安全策略信息包括:接入安全策略和数据安全策略;
所述数据一体机,用于根据所选择的至少一个目标数据产品生成数据订阅请求,并发送至对应的目标数据发布平台;
各所述数据发布平台,在作为目标数据发布平台时,用于对所接收的所述数据订阅请求进行验证,并在验证通过后,将各所述目标数据产品发送至对应的数据一体机;
所述数据一体机,还用于根据所述目标数据产品进行数据安全配置,将实际运行数据存储到数据库,以及接收所对应的数据消费方的数据访问请求,根据所述数据访问请求查询数据库,并返回响应数据。
本发明实施例提供了一种数据管理方法,包括:获取至少一个数据产品,所述数据产品由数据提供方根据数据产品协议生成并通过数据发布平台提供,所述数据产品包括:产品交付信息和安全策略信息,所述安全策略信息包括:接入安全策略和数据安全策略;根据各所述数据产品确定至少一个目标数据产品,生成数据订阅请求,并发送至对应的目标数据发布平台;接收所述目标数据发布平台在所述数据订阅请求验证通过后所反馈的目标数据产品;根据所述目标数据产品进行数据安全配置,并在完成配置后将实际运行数据存储到数据库;接收所对应的数据消费方的数据访问请求,根据所述数据访问请求查询数据库,并返回响应数据,解决了数据管理过程中无法保证数据安全的问题,数据提供方通过数据产品协议定义数据产品,将数据产品发送至数据发布平台,由数据发布平台上架,通过数据产品定义接入安全策略和数据安全策略,满足交易过程中数据安全策略的定制化需求。通过数据一体机进行数据产品订阅,避免数据产品对所有数据消费方生效,数据一体机在订阅目标数据产品后根据目标数据产品进行相应的数据安全配置,并对实际运行数据进行存储,避免了数据泄露,保证了数据安全。通过数据一体机实现数据安全存储以及安全访问,方案易于实现、成本低,可以实现对数据的高效管理。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种数据管理方法的流程图;
图2是根据本发明实施例一提供的一种数据管理系统的结构示意图;
图3是根据本发明实施例二提供的一种数据管理方法的流程图;
图4是根据本发明实施例三提供的一种数据管理方法的流程图;
图5是根据本发明实施例四提供的一种数据管理系统的结构示意图;
图6是根据本发明实施例四提供的一种数据管理系统的示例图;
图7是根据本发明实施例四提供的一种数据管理的实现示例图;
图8是实现本发明实施例的数据管理方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1为本发明实施例一提供了一种数据管理方法的流程图,本实施例可适用于对数据进行安全管理的情况。该方法可以由数据管理系统中的数据一体机来执行,该数据一体机可以采用硬件和/或软件的形式实现。示例性的,图2提供了一种数据管理系统的结构示意图,如图2所示,该系统包括:数据发布平台11、数据消费方12,数据消费方12所对应的数据一体机13、以及数据提供方14,其中,数据发布平台11、数据消费方12,数据消费方12、数据一体机13、以及数据提供方14的数量可以是一个或者多个,图2中均以1个为例。
S101、获取至少一个数据产品,数据产品由数据提供方通过数据发布平台提供,数据产品包括:产品交付信息和安全策略信息,安全策略信息包括:接入安全策略和数据安全策略。
在本实施例中,数据提供方具体可以理解为提供数据管理过程中所涉及到的数据以及数据产品的主体,数据提供方可以通过终端、系统等方式提供数据;数据发布平台具体可以理解为供数据提供方向数据消费方提供数据产品的平台。数据产品具体可以理解为由数据提供方定义的,包含可提供数据基本信息以及为满足数据流通安全需求的必要配置信息的产品;数据产品协议具体可以理解为用于定义如何生成数据产品、以及数据产品中所包括的信息等规则的协议;产品交付信息具体可以理解为用以描述数据产品的实体数据如何交付给数据消费方使用的信息,其中可包括如交付形式等信息,示例性的,交付形式可包括应用程序接口API调用、联邦学习等,本发明实施例对此不进行限制;安全策略信息具体可理解为根据国家法律法规或者行业指南制定的,对数据产品所对应数据进行访问时的防护策略,其可为针对某种安全等级的字段,或某种字段类型的字段进行拒绝访问或脱敏的策略,也可为其他根据数据产品对应数据敏感性制定的访问策略,本发明实施例对此不进行限制。接入安全策略具体可以理解为对数据查询等接入请求是否符合安全要求进行判断的策略,接入安全策略可以对数据消费方的互联网协议地址、用户身份和参数合法性等信息进行校验。数据安全策略具体可以理解为对数据进行安全处理以保证数据安全的策略,数据安全策略可以包括敏感识别规则、脱敏规则等。
可选的,数据产品还包括数据连通信息。数据连通信息具体可理解为用以描述数据产品在一体机中缓存数据所需的库表定义信息,其可根据交付形式的不同以不同形式表示。需要明确的是,数据连通信息并不向数据消费方开放,仅在确定交付形式后进行调用,属默认加密的信息,以避免数据泄露。
数据提供方预先根据数据的安全合规要求以及分类分级等法规要求定义数据产品协议,通过数据产品协议可以定义数据流通的链路、安全合规的策略以及针对消费方在数据消费过程中所产生的消费行为的管控策略等,通过数据产品协议所定义的规则生成数据产品。本申请中的数据产品中至少包括产品交付信息、安全策略信息,通过产品交付信息定义数据消费方消费数据的方式,数据消费方通过订阅数据产品确定产品交付信息,并根据产品交付信息确定消费数据的方式,例如,产品交付信息包括应用程序接口,将应用程序接口写入到底层代码中,在消费数据时可直接运行底层代码调用应用程序接口;通过接入安全策略保证数据消费方在调用应用程序接口时的数据安全;通过数据安全策略保证数据消费方查询数据时的数据安全,从多个方面保证数据安全,避免数据泄露。不同的数据产品所上架的数据发布平台可能不同,预先确定不同的数据产品对应的数据发布平台,数据提供方在生成数据产品后,相应确定数据产品对应的数据发布平台,并将数据产品发布到数据发布平台上,以供数据消费方订阅。数据提供方可以提供一种或者多种类型的数据产品。在发布数据产品时,由于数据产品中不包括真实运行数据,可以避免数据暴露。
数据一体机可通过通信请求向数据发布平台请求浏览数据产品,其中,通信请求可以由数据一体机生成,也可以由数据消费方生成后发送给数据一体机。以通信请求由数据一体机生成为例,可以通过解析业务需求文档等方式确定业务需求,根据业务需求确定一个或者多个数据发布平台,进而生成相应的通信请求以获取至少一个数据发布平台所提供的数据产品,或者用户可以手动触发生成通信请求以获取至少一个数据发布平台所提供的数据产品。获取到各数据产品后,可以对数据产品进行展示,以便用户选择相应的数据产品进行订阅。
S102、根据各数据产品确定至少一个目标数据产品,生成数据订阅请求,并发送至对应的目标数据发布平台。
在本实施例中,目标数据产品具体可以理解为目标数据一体机所订阅的数据产品,数据产品在订阅后可进行相应消费。数据订阅请求具体可以理解为具体可以理解为用于订阅数据产品的通信请求。目标数据发布平台具体可以理解为发布目标数据产品的数据发布平台。
具体的,可预先确定业务需求,根据业务需求自动选选择相应的目标数据产品,也可以由工作人员手动选择目标数据产品,例如,用户可以通过单击、双击的订阅操作选择所需订阅的目标数据产品。可以同时订阅多个目标数据产品,在订阅多个目标数据产品时,可以选择一个目标数据产品后生成一个相应的数据订阅请求,也可以选择多个目标数据产品后一起生成一个数据订阅请求,多个目标数据产品生成一个数据订阅请求时可以将对应同一数据发布平台的多个目标数据产品生成一个数据订阅请求,本申请实施例对此不进行限定。预先确定数据请阅请求的格式,根据各目标数据产品结合数据订阅请求的格式生成数据订阅请求,确定每个目标数据产品所对应的目标数据发布平台,将数据订阅请求发送给对应的目标数据发布平台。
S103、接收目标数据发布平台在数据订阅请求验证通过后所反馈的目标数据产品。
具体的,每个数据发布平台均接收所对应的数据提供方所提供的数据产品,数据发布平台在作为目标数据发布平台时,接收其对应的数据一体机所发送的数据订阅请求,对数据订阅请求进行产品订阅权限的验证,判断数据一体机对应的数据消费方是否具有此目标数据产品的订阅权限,对于数据订阅请求进行验证可以是预先对数据消费方的权限进行标记,存储不同数据消费方的权限,在验证时根据所存储的权限信息进行验证。在验证通过后,将各目标数据产品发送至对应的数据一体机。数据一体机接收到目标数据产品后完成数据产品的订阅,以便进行后续的数据消费。
S104、根据目标数据产品进行数据安全配置,并在完成配置后将实际运行数据存储到数据库。
具体的,数据一体机在订阅目标数据产品后,通过解析目标数据产品,确定目标数据产品中所包括的接入安全策略和数据安全策略,通过接入安全策略和数据安全策略进行数据安全配置,配置后的目标数据一体机在进行数据查询时可通过接入安全策略和数据安全策略保证数据安全。
在完成数据安全配置后,确定目标数据产品对应的实际运行数据,通过目标数据发布平台从数据提供方获取实际运行数据并存储到数据库。在存储时,可通过数据安全配置对实际运行数据进行处理,避免数据泄露。在完成数据存储后,数据消费方可查询数据进行数据消费。
S105、接收所对应的数据消费方的数据访问请求,根据数据访问请求查询数据库,并返回响应数据。
在本实施例中,数据访问请求具体可以理解为数据消费方访问数据一体机获取数据的通信请求,数据访问请求中可以包括输入参数、数据消费方的身份信息、请求的发送时间等信息;响应报文具体可以理解为响应数据消费方的数据访问请求所反馈的报文数据。
具体的,数据消费方在具有数据查询需求时,生成相应的数据访问请求,数据访问请求可根据产品交付信息发送至相应的数据一体机。数据一体机在接收到数据访问请求后,通过解析数据访问请求确定用户输入的信息,根据输入的信息作为查询条件,查询数据库得到查询结果,通过数据安全配置对查询结果进行安全处理,得到响应数据,并将响应数据反馈给数据消费方。
需要知道的是,本申请在进行数据管理过程中,需保证数据提供方和数据消费方的数据安全是双方认同的安全等级,避免出现因为不同的安全管理制度导致的数据泄露等风险。
本发明实施例提供了一种数据管理方法,应用在数据一体机中,解决了数据管理过程中无法保证数据安全的问题,数据提供方通过数据产品协议定义数据产品,将数据产品发送至数据发布平台,由数据发布平台上架,通过数据产品定义接入安全策略和数据安全策略,满足交易过程中数据安全策略的定制化需求。通过数据一体机进行数据产品订阅避免数据产品对所有数据消费方生效,目标数据一体机在订阅目标数据产品后根据目标数据产品进行相应的数据安全配置,并对实际运行数据进行存储,避免了数据泄露,保证了数据安全。通过数据一体机实现数据安全存储以及安全访问,方案易于实现、成本低,可以实现对数据的高效管理。
实施例二
图3为本发明实施例二提供的一种数据管理方法的流程图,本实施例在上述实施例的基础上进行细化。如图3所示,该方法包括:
S201、获取至少一个数据产品,数据产品由数据提供方根据数据产品协议生成并通过数据发布平台提供,数据产品包括:产品交付信息和安全策略信息,安全策略信息包括接入安全策略和数据安全策略。
S202、根据各数据产品确定至少一个目标数据产品,生成数据订阅请求,并发送至对应的目标数据发布平台。
S203、接收目标数据发布平台在数据订阅请求验证通过后所反馈的目标数据产品。
S204、根据目标数据产品确定数据消费配置信息和数据存储配置信息。
在本实施例中,数据消费配置信息具体可以理解为一种配置信息,用于配置数据消费过程中对数据进行安全处理的信息;目标产品交付信息具体可以理解为目标数据产品中的产品交付信息;在目标数据产品中的目标产品交付信息包括应用程序接口时,数据消费配置至少包括以下一种:数据物理链路的搭建,数据库的安全策略、应用程序接口网关的分组配置、应用程序接口的创建发布与分组配置和数据一体机自检;需要知道的是,在目标数据产品中的目标产品交付信息中不包括应用程序接口时,数据消费配置至少包括以下一种:数据物理链路的搭建,数据库的安全策略和数据一体机自检。数据存储配置信息具体可以理解为一种配置信息,用于配置数据管理过程中对数据进行安全存储的信息。
通过解析目标数据产品,确定目标数据产品中所包括的接入安全策略和数据安全策略,根据接入安全策略和数据安全策略确定数据消费过程中所需的数据消费配置信息,以及数据存储过程中所需的数据存储配置信息。例如,数据消费过程中需要数据物理链路的搭建,以实现数据传输;数据库的安全策略可以实现数据查询安全;应用程序接口网关的分组配置可实现将应用程序接口按照所对应的数据服务网关进行分组,避免响应服务超载;数据一体机通过应用程序接口的创建发布将数据查询封装为应用程序接口,以便数据消费方可以通过调用应用程序接口实现数据的快速查询,同时通过对应用程序接口进行分组配置,可以实现不同业务类型的应用程序接口分类,进而实现业务资源隔离,对于同一类型的应用程序接口可以调用相同的服务引擎完成数据查询;数据一体机在配置过程中可以进行数据自检,避免软件或硬件运行错误导致无法完成数据消费。
在配置时,还可以通过应用分组,对不同数据产品定义限流操作;并且通过应用分组,不同数据产品使用不同的内存进程支撑消费,防止数据泄露。
S205、根据数据消费配置信息对数据服务网关进行数据消费配置,根据数据存储配置信息对数据库进行数据存储配置。
在本实施例中,数据服务网关具体可以理解为执行数据存储、查询等功能的网关,可用于实现数据一体机与外部设备之间的交互。数据库可以是任意类型的数据库,数量可以是一个也可以是多个,例如,SQL数据库、NoSQL数据库等,用户还可以根据需求自定义数据库。数据服务网关和数据库可设置为数据一体机中。
具体的,根据数据消费配置信息对数据服务网关进行数据消费配置,保证数据消费过程的安全性,避免数据泄露。根据数据存储配置信息对数据库进行配置,对数据库进行初始化工作,可通过数据存储配置信息定义数据库存储数据的格式以及要求,例如,数据表A的第m列在存储数据时进行数据脱敏。
S206、在完成配置后,根据目标数据产品生成数据同步请求,并发送给目标数据发布平台。
在本实施例中,数据同步请求具体可以理解为请求同步实际运行数据的通信信息。数据服务网关1316在完成数据配置后进行数据存储,以便后续进行数据消费。数据服务网关1316在完成配置后,根据所订阅的目标数据产品生成数据同步请求,在目标数据产品具有多个时,可以对每个目标数据产品均生成一个数据同步请求,也可以将同一个目标数据发布平台111的多个目标数据产品生成一个数据同步请求,确定每个数据同步请求对应的目标数据发布平台111,将数据同步请求并发送给对应的目标数据发布平台111。
S207、接收目标数据发布平台根据数据同步请求反馈的实际运行数据。
具体的,目标数据发布平台可以预先在数据源中存储该平台上所有数据产品对应的实际运行数据,也可以在接收到数据同步请求后从数据提供方获取相应的实际运行数据。目标数据发布平台在接收到数据同步请求后,确定数据同步请求对应的目标数据产品,进而确定相应的实际运行数据,将实际运行数据发送给对应的数据一体机。目标数据发布平台可以将实际运行数据发送给数据一体机中的数据服务网关。
S208、根据数据库的安全策略对实际运行数据进行处理并存储到数据库中。
具体的,数据一体机接收实际运行数据,并根据数据库的安全策略对实际运行数据进行安全处理,例如,对数据表A的第3个字段的数据的后4位进行数据脱敏,对第4个字段的数据全部进行数据脱敏等,得到处理后的数据并存储到对应的数据库中。目标数据发布平台在向数据一体机提供实际运行数据时,可以指定数据存储的数据库;数据一体机也可以自动选择数据库进行数据存储。
可选的,目标数据发布平台与数据服务网关通过虚拟专用网络或私有云网络建立网络通道,以通过网络通道传输数据产品和/或实际运行数据。
本申请实施例中的目标数据发布平台与数据服务网关可以通过虚拟专用网络VPN或私有云网络VPC建立私密网络通道,实现数据产品和/或实际运行数据的传输,解决跨域物理链路的通信需求,并且通过网络通道发布数据,不是以数据实体直接暴露在数据流通过程中,保证了数据安全。本申请中的网络通道还可以采用SSL进行加密,还可以对数据产品访问凭证进行检查。
作为本实施例的一个可选实施例,本可选实施例进一步将接收所述目标数据发布平台根据所述数据同步请求反馈的实际运行数据优化为:
A1、确定实际运行数据对应存储的数据表。
具体的,数据存储时序存储至对应的数据表中,可以预先在数据库中创建数据表,并定义数据表所存储的数据类型。在获取实际运行数据后,可通过对实际运行数据进行分析,确定实际运行数据对应的数据表,或者在接收实际运行数据之前,由发送数据的数据提供方或者目标数据发布平台定义好存储数据的数据表。
A2、根据数据库的安全策略确定数据表的存储策略,根据存储策略对实际运行数据中每列数据分别进行处理,将处理后的数据存储至数据库中。
其中,存储策略包括对目标数据列进行脱敏处理和/或加密处理。
在本实施例中,存储策略可以是直接存储、部分字段中的部分数据进行脱敏后存储,部分字段中的全部数据进行脱敏后存储等。目标数据列具体可以理解为数据表中指定进行处理的数据列,例如,第3列、第5列或者字段为name的数据列等。本申请中的存储策略至少包括对数据表中目标数据列进行脱敏处理和/或加密处理。
通过分析数据库的安全策略确定数据库中每个数据表存储数据时所使用的存储策略。确定实际运行数据所存储到的数据列n,根据存储策略中定义的进行加密或脱敏处理的目标数据列判断数据列n是否需要进行处理,以及需要处理时如何进行处理,进而对实际运行数据中每列数据进行相应处理,将处理后的数据存储到数据库中。本申请在存储目标数据产品对应的实际运行数据时,可以仅缓存必要部分数据。
本申请实施例中的数据库,可以提供只读服务,并且对高危的SQL会进行阻断,防控SQL注入之类的风险。
S209、接收所对应的数据消费方调用应用程序接口所发送的数据访问请求,数据访问请求至少包括输入参数,应用程序接口与所对应的数据消费方的业务关联。
在本实施例中,输入参数具体可以理解为数据查询时用于对数据进行过滤的参数,输入参数可以由用户输入。
具体的,用户可以在数据消费方的系统或应用操作界面进行操作,触发数据查询业务并通过点击、滑动等方式进行输入参数的输入,数据消费方可以有多个业务系统以及多个应用程序,每个业务系统和应用程序所能提供的业务类型是确定的,在对系统或应用进行操作时,每个输入界面或窗口对应的业务类型也是确定的。数据服务网关提供多种应用程序接口供外部调用,满足不同业务场景的业务类型需求。数据消费方在开发过程中预先将应用程序接口写入对应的业务或操作界面的代码逻辑中,用户可以通过登录不同用户账号实现参数输入,数据消费方在接收到输入参数后,执行输入参数的输入界面对应的代码逻辑,确定其对应的应用程序接口,根据输入参数形成数据访问请求,调用应用程序接口将数据访问请求发送给数据服务网关。数据服务网关通过数据访问请求接收模块接收数据消费方所发送的数据访问请求。
S210、对数据访问请求进行服务验证,并在验证通过后,根据输入参数以及数据消费配置进行数据查询,确定目标数据。
其中,服务验证包括以下至少一种:数据消费方的互联网协议地址验证、用户权限验证和应用名称验证。
在本实施例中,目标数据具体可以理解为与输入参数匹配的数据。可以在进行数据消费配置时配置一个或者多个接入安全策略,并将接入安全策略与应用程序接口进行关联,以便接入安全策略作用到应用程序接口。根据应用程序接口与接入安全策略之间的对应关系,确定数据消费方所调用的应用程序对应的接入安全策略。当接入安全策略仅有一个时,接入安全策略可以作用到多个或者所有的应用程序接口。根据接入安全策略所包含的安全信息和具体策略对数据访问请求进行服务安全验证,从而判断数据消费方是否可以进行数据消费,保证数据安全。通过接入安全策略对数据访问请求进行安全验证,避免数据消费方直接调用应用程序接口进行数据查询导致的数据泄露等问题。如果验证通过,此时数据接入安全,根据数据消费配置确定执行数据查询的服务引擎,进而根据输入参数查询数据一体机中的数据缓存或者数据库,获取输入参数所匹配对应的目标数据。在根据输入参数进行数据查询数据库时,可以根据输入参数形成数据库所能识别的查询语句,例如,SQL语句,通过查询语句查询数据库得到目标数据。对数据访问请求进行服务验证至少包括以下一种:数据消费方的互联网协议地址验证、用户权限验证和应用名称验证;通过设置IP黑白名单的形式对数据消费方的互联网协议地址进行验证,避免非法访问;通过设置用户密钥等方式对用户权限进行验证;通过设置可访问的应用程序名单对应用程序的名称进行验证,实现对数据消费方中不同应用程序的访问限制。
S211、根据数据消费配置对目标数据进行数据安全处理,确定响应数据,并反馈给数据消费方。
在本实施例中,在进行数据消费配置时配置一个或者多个数据安全策略,同时将数据安全策略与应用程序接口进行关联,以便数据安全策略作用到应用程序接口。根据应用程序接口与数据安全策略之间的对应关系,确定数据消费方所调用的应用程序对应的数据安全策略。当数据安全策略仅有一个时,数据安全策略可以作用到多个或者所有的应用程序接口。根据数据安全策略识别目标数据中是否具有敏感数据,若存在敏感数据,则可以根据脱敏规则对敏感数据进行脱敏处理,避免数据泄露,保证数据安全。通过对目标数据进行安全处理,形成响应报文,然后将响应报文反馈给数据消费方。
作为本实施例的一个可选实施例,本可选实施例进一步优化包括了根据数据库的安全策略对数据库进行查询和分析,并根据分析结果对应用程序接口进行诊断。
可在遵循数据库的安全策略的情况下,对数据库中的数据进行查询和分析,即在进行数据查询和分析时对数据通过安全策略进行查询。分析结果可以是数据一体机查询数据是否准确,例如,应用程序接口被调用后完成了相应的数据查询,得到响应数据,此时通过直接查询数据库得到查询结果,比较两个数据查询的查询结果,进行数据查询分析,确定通过应用程序接口进行数据查询时查询结果是否正确,实现应用程序接口的正确性问题的诊断。
作为本实施例的一个可选实施例,本可选实施例进一步优化包括了对数据服务网关对应的安全策略以及数据操作信息进行合规审计,生成审计报告以便数据提供方和数据消费方进行确认;
其中,安全策略的合规审计至少包括策略生效审计以及漏洞审计,数据操作信息至少包括数据查询信息。
在本实施例中,数据操作信息具体可以理解为数据管理过程中记录数据存储、查询等操作的信息,例如,数据查询请求的发起时间,数据查询请求所查询的数据类型。审计报告具体可以理解为记录数据安全合规审计的审计信息、审计结果等数据的报告,可以以数据形式存储,也可以以文档等任意形式存储。对数据服务网关对应的安全策略是否生效(例如,安全策略未加载成功,或者被篡改等),以及安全策略是否存在漏洞(例如,个人隐私信息没有在安全策略中定义为脱敏列等)等进行检测,完成合规审计,同时还可以根据数据操作信息确定数据的消费操作是否安全合规(例如高频访问敏感字段,对高频敏感字段修改等)完成合规审计,生成审计报告,审计报告可以提供给数据提供方和数据消费方进行确认。在合规审计过程中,若发现异常可以实时进行告警,审计报告可以实时或定期生成。审计报告还可以提供给第三方监管机构,由第三方监管机构进行监管。
本发明实施例提供了一种数据管理方法,解决了数据管理过程中无法保证数据安全的问题,通过数据产品定义接入安全策略和数据安全策略,满足交易过程中数据安全策略的定制化需求。数据消费方通过数据一体机订阅数据产品,通过数据产品订阅避免数据产品对所有数据消费方生效,数据一体机在订阅目标数据产品后根据目标数据产品进行相应的数据安全配置,并对实际运行数据进行存储,避免了数据泄露,保证了数据安全。通过数据一体机实现数据安全存储以及安全访问,方案易于实现、成本低,可以实现对数据的高效管理,并且数据提供方和数据消费方通过数据一体机自建数据交易通道,避免数据通过第三方渠道产生数据泄露的风险,通过数据一体机可实现安全增强;同时数据提供方和数据消费方之间的数据交易和流通产生在数据一体机内,合规审计范围不涉及双方其它系统,覆盖数据流通事前、事中、事后的安全审计。
实施例三
图4为本发明实施例三提供了一种数据管理方法的流程图,本实施例可适用于对数据进行安全管理的情况,该方法可以由数据管理系统中的数据发布平台来执行,该数据发布平台可以采用硬件和/或软件的形式实现。如图4所示,该方法包括:
S301、接收数据提供方根据数据产品协议生成并发布的至少一个数据产品,数据产品包括:产品交付信息和安全策略信息,安全策略信息包括:接入安全策略和数据安全策略。
具体的,数据提供方预先定义数据产品协议,根据数据产品协议生成一个或者多个数据产品,将数据产品发送给对应的数据发布平台。数据发布平台接收数据产品并上架,以供数据消费方的数据一体机对数据产品进行浏览以及订阅。
可选的,数据产品还包括数据连通信息。
S302、向所对应的数据一体机反馈至少一个数据产品。
具体的,数据发布平台在接收到数据产品后可以将数据产品发送至数据一体机进行展示,此时可以仅展示数据产品的名称、业务等信息;例如,数据发布平台中设置数据产品市场端,在数据一体机中设置数据产品消费端,数据发布平台通过数据产品市场端接收数据提供方所发布的数据产品,并发送至数据产品消费端,通过数据产品消费端在数据一体机中进行展示。或者数据一体机在订阅数据产品时,向数据发布平台发送请求,数据发布平台可以响应此请求将数据产品提供给数据一体机。
S303、接收数据一体机根据至少一个目标数据产品生成并发送的数据订阅请求。
数据一体机在选择好目标数据产品后,生成相应的数据订阅请求,并确定相应的目标数据发布平台,将数据订阅请求发送至目标数据发布平台。目标数据发布平台接收数据订阅请求。
S304、对数据订阅请求进行验证,并在验证通过后反馈目标数据产品至数据一体机。
接收数据订阅请求后,对数据订阅请求进行产品订阅权限的验证,判断数据一体机对应的数据消费方是否具有此目标数据产品的订阅权限,对于数据订阅请求进行验证可以是预先对数据消费方的权限进行标记,存储不同数据消费方的权限,在验证时根据所存储的权限信息进行验证。在验证通过后,将各目标数据产品发送至对应的数据一体机,数据一体机实现数据产品的订阅,以便进行后续的数据消费。
本发明实施例提供了一种数据管理系统,解决了数据管理过程中无法保证数据安全的问题,数据提供方通过数据产品协议定义数据产品,将数据产品发送至数据发布平台,由数据发布平台上架,通过数据产品定义接入安全策略和数据安全策略,满足交易过程中数据安全策略的定制化需求。数据发布平台提供用于数据一体机订阅的数据产品,避免数据产品对所有数据消费方生效,数据一体机在订阅目标数据产品后根据目标数据产品进行相应的数据安全配置,并对实际运行数据进行存储,避免了数据泄露,保证了数据安全。通过数据一体机及数据发布平台的配合,实现数据安全存储以及安全访问,方案易于实现、成本低,可以实现对数据的高效管理。
作为本实施例的一个可选实施例,本可选实施例进一步将对所述数据订阅请求进行验证,并在验证通过后反馈目标数据产品至所述数据一体机优化为:
B1、根据所接收的数据订阅请求确定待验证消费方,根据待验证消费方的消费信息对各目标数据产品进行消费权限验证。
在本实施例中,待验证消费方具体可以理解为具有验证需求的数据消费方;消费信息具体可以理解为数据消费方对某一个数据产品是否具有消费权限、以及如何进行消费的信息。
具体的,在接收到数据订阅请求后,确定发送数据订阅请求的数据一体机,根据数据一体机与数据消费方的对应关系确定数据一体机对应的数据消费方,将此数据消费方确定为待验证消费方。预先存储每个数据消费方的消费信息,消费信息可以由数据消费方与数据提供方协议约定。在确定待验证消费方后,根据存储的消费信息确定待验证消费方的消费信息,进而根据消费信息中约定的权限信息确定待验证消费方是否对各目标数据产品具有消费权限。
B2、在验证通过后,根据消费信息对各目标数据产品进行配置,并将配置后的目标数据产品发送至对应的数据一体机。
具体的,在验证通过后,可以确定待验证消费方具有消费权限的各目标数据产品,根据消费信息对目标数据产品进行安全策略配置,确定待验证消费方对应具体的安全策略信息,例如,对L2安全级别的数据不具有访问权限。将配置好的目标数据产品发送给对应的数据一体机。
本申请中的目标数据发布平台在发送目标数据产品的同时,还可以生成目标数据产品的许可证书,将许可证书发送给对应的数据一体机,以便数据消费方获得数据产品的许可证书。本申请还可以定期更新许可证书。
本申请通过确定待验证消费方,并通过待验证消费方的消费信息对各目标数据产品进行消费权限验证,保证数据安全。避免数据消费方通过数据一体机非法订阅数据产品,避免数据泄露,保证数据安全。
实施例四
图5为本发明实施例四提供了一种数据管理系统的结构示意图,本实施例可适用于对数据进行安全管理的情况。如图5所示,该系统包括:至少一个数据发布平台21、至少一个数据消费方22,每个数据消费方22所对应的至少一个数据一体机23、以及至少一个数据提供方24。
各数据提供方24,用于根据数据产品协议生成数据产品,并向对应的数据发布平台21发送各数据产品,以便各数据发布平台21向对应的数据一体机23反馈至少一个数据产品,数据产品包括:产品交付信息和安全策略信息,安全策略信息包括:接入安全策略和数据安全策略;
数据一体机23,用于根据所选择的至少一个目标数据产品生成数据订阅请求,并发送至对应的目标数据发布平台211;
各数据发布平台21,在作为目标数据发布平台211时,用于对所接收的数据订阅请求进行验证,并在验证通过后,将各目标数据产品发送至对应的目标数据一体机231;
目标数据一体机231,还用于根据目标数据产品进行数据安全配置,将实际运行数据存储到数据库,以及接收所对应的数据消费方22的数据访问请求,根据数据访问请求查询数据库,并返回响应数据。
本申请实施例中的数据一体机23与数据消费方22具有一定的对应关系,数据一体机23唯一对应一个数据消费方22,数据消费方22可以部署多个业务系统,每个业务系统均可以访问数据一体机23,通过数据一体机23获取数据。本申请中的数据一体机23可以处理不同业务类型的数据,也可以仅处理一种业务类型的数据,例如,数据一体机23可以处理征信类数据,也可以处理税务类数据,还可以处理其他类型的数据;或者,数据一体机23仅处理一种类型的数据,例如,仅处理征信类数据,此种情况下,数据消费方22若根据业务需求,需要多种类型的数据,可以部署多个数据一体机23,通过不同的数据一体机23获取不同的数据。
如图5所示,数据提供方24可以向任意一个或者多个数据发布平台21发布数据产品,数据一体机23与任意一个或者多个数据发布平台21通信,进行数据产品的订阅。图5以任意一个数据一体机231进行目标数据产品的订阅为例,目标数据产品对应的数据发布平台21即为目标数据发布平台211。
数据提供方24预先定义数据产品协议,通过数据产品协议可以定义数据流通的链路、安全合规的策略以及针对消费方在数据消费过程中所产生的消费行为的管控策略等,通过数据产品协议所定义的规则生成数据产品。不同的数据产品所上架的数据发布平台21可能不同,预先确定不同的数据产品对应的数据发布平台21,数据提供方24在生成数据产品后,相应确定数据产品对应的数据发布平台21,并将数据产品发布到数据发布平台21上,以供数据消费方22订阅。数据提供方24可以提供一种或者多种类型的数据产品。在发布数据产品时,由于数据产品中不包括真实运行数据,可以避免数据暴露。
数据发布平台21可以将数据产品发送至数据一体机23进行展示,此时可以仅展示数据产品的名称、业务等信息,例如,数据发布平台21中设置数据产品市场端,在数据一体机23中设置数据产品消费端,数据发布平台21通过数据产品市场端接收数据提供方24所发布的数据产品,并发送至数据产品消费端,通过数据产品消费端在数据一体机23中进行展示;或者数据一体机23在订阅数据产品时,向数据发布平台21发送请求,数据发布平台21可以通过请求将数据产品提供给数据一体机23。
数据消费方22可以根据业务需求选择一个数据一体机231进行数据产品订阅,数据消费方22可以根据业务需求自动筛选出对应的数据一体机231,也可以由工作人员手动选择数据一体机231。数据一体机23中展示了由数据提供方24通过数据发布平台21所提供的数据产品,可预先确定业务需求,根据业务需求自动选选择相应的目标数据产品,也可以由工作人员手动选择目标数据产品。预先确定数据请阅请求的格式,根据各目标数据产品结合数据订阅请求的格式生成数据订阅请求,确定每个目标数据产品所对应的目标数据发布平台211,将数据订阅请求发送给对应的目标数据发布平台211。
目标数据发布平台211接收所对应的数据一体机231所发送的数据订阅请求,对数据订阅请求进行产品订阅权限的验证,判断所对应的数据一体机231对应的数据消费方22是否具有此目标数据产品的订阅权限。在验证通过后,将各目标数据产品发送至对应的数据一体机231,数据一体机231实现数据产品的订阅,以便进行后续的数据消费。
数据一体机231在订阅目标数据产品后,通过解析目标数据产品,确定目标数据产品中所包括的接入安全策略和数据安全策略,通过接入安全策略和数据安全策略进行数据安全配置,配置后的数据一体机231在进行数据查询时可通过接入安全策略和数据安全策略保证数据安全。在完成数据安全配置后,确定目标数据产品对应的实际运行数据,通过目标数据发布平台211从数据提供方24获取实际运行数据并存储到数据库,在存储时,可通过数据安全配置对实际运行数据进行处理,避免数据泄露。在完成数据存储后,数据消费方22可查询数据进行数据消费。数据消费方22在具有数据查询需求时,生成相应的数据访问请求,数据访问请求可根据产品交付信息发送至数据一体机231。数据一体机231在接收到数据访问请求后,通过解析数据访问请求确定用户输入的信息,根据输入的信息作为查询条件,查询数据库得到查询结果,通过数据安全配置对查询结果进行安全处理,得到响应数据。
本发明实施例提供了一种数据管理系统,解决了数据管理过程中无法保证数据安全的问题,数据提供方通过数据产品协议定义数据产品,将数据产品发送至数据发布平台,由数据发布平台上架,通过数据产品定义接入安全策略和数据安全策略,满足交易过程中数据安全策略的定制化需求。数据消费方通过数据一体机订阅数据产品,通过数据产品订阅避免数据产品对所有数据消费方生效,数据一体机在订阅目标数据产品后根据目标数据产品进行相应的数据安全配置,并对实际运行数据进行存储,避免了数据泄露,保证了数据安全。通过数据一体机实现数据安全存储以及安全访问,方案易于实现、成本低,可以实现对数据的高效管理。
示例性的,图6提供了一种数据管理系统的示例图,数据管理系统包括数据提供方31、数据发布平台32、数据一体机33和数据消费方34,图3以数据提供方31、数据发布平台32、数据一体机33和数据消费方34的数量均为一个为例。数据发布平台32包括数据安全管理平台321、数据产品市场端322、数据源323和数据产品开发工具324;数据一体机33包括数据流通合规审计工具331、数据产品消费端332、数据库333和数据服务网关334;数据消费方34包括至少一个应用程序341。数据提供方31向数据发布平台32提供数据产品,数据产品市场端322将数据产品上架至数据一体机中的数据产品消费端332,数据安全管理平台321可以用于根据消费信息配置数据产品中的具体数据安全策略;数据产品开发工具324可以在数据发布平台32作为数据提供方的一部分时,用于实现数据产品的开发。数据一体机部署在数据消费方的前置网络区域,以购买数据提供方数据产品的方式达成数据交易的契约,在双方认可的数据安全策略许可内消费数据。数据一体机可以订阅多个数据提供方的多个数据产品,数据产品可以通过版本迭代的方式进行安全策略的调整和数据的调整。数据发布平台32中的数据源323向数据一体机33提供实际运行数据,并存储到数据缓存333中,数据源323向数据库333提供实际运行数据时,可以基于数据产品中定义的同步链路发送数据流。数据服务网关334可以接收数据消费方34中的应用程序341根据产品交付信息所发送的数据访问请求进行实现数据查询。数据流通合规审计工具331可实现数据合规审计功能。数据一体机可以标准化的方式实现快速部署和数据流通的业务流程,除了基础的硬件运维,不需要人员进入数据一体机内部对组件和数据进行操作。
示例性的,图7提供了一种数据管理的实现示例图,以图6中的数据管理系统为例,说明数据管理的过程,数据管理过程中以产品交付信息为应用程序接口为例。
步骤1、数据发布平台32从数据提供方31获取到数据产品以及许可证书,上架到数据一体机33中的数据产品消费端332。
步骤2、数据产品消费端332中上架数据产品A、数据产品B和数据从产品C等数据产品,并进行数据产品的订阅。数据产品中可以包括数据提供方的数据接口、安全策略和数据消费方的接口定义等信息。
步骤3、在接收到数据产品后,根据所订阅的数据产品对数据库333进行数据存储配置,数据存储配置可以配置许可证书、数据安全策略,包括脱敏加密规则、查询语句阻断规则和水印规则等。同时对数据服务网关334进行数据消费配置,例如配置接收/消费API,并设置访问黑白名单、限流、组件分组等。
通过安全策略配置,对高危查询语句(例如,套取数据内容)和高危行为(例如,频繁访问)进行阻断。同时还可以对于数据入库和出库进行水印处理,可以保证完整性和可溯源。并且可通过动态脱敏等做实时敏感数据处理。
步骤4、在配置完成后,数据发布平台32发布实际运行数据到数据服务网关334,由数据服务网关334存储到数据库333。
步骤5、数据消费方34的应用程序341(或业务系统)在进行数据查询时通过调用应用程序接口向数据服务网关334发送数据访问请求。
步骤6、数据服务网关334通过查询语句从数据库333查询数据,得到目标数据。
步骤7、数据服务网关334对目标数据进行安全处理,得到响应报文并反馈给数据消费方34的应用程序341(或业务系统)。
步骤8、数据一体机33中还包括可视化分析工具335,进行数据库策略查看以及基础数据分析。
步骤9、数据发布平台32获取数据流通合规审计工具331在数据产品上架、数据流通等过程中所形成的审计报告。
本发明实施例所提供的数据管理系统中的数据发布平台以及数据一体机可执行本发明相应实施例所提供的数据管理方法,具备执行方法相应的功能模块和有益效果。
实施例五
图8示出了可以用来实施本发明的实施例的电子设备40的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图8所示,电子设备40包括至少一个处理器41,以及与至少一个处理器41通信连接的存储器,如只读存储器(ROM)42、随机访问存储器(RAM)43等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器41可以根据存储在只读存储器(ROM)42中的计算机程序或者从存储单元48加载到随机访问存储器(RAM)43中的计算机程序,来执行各种适当的动作和处理。在RAM 43中,还可存储电子设备40操作所需的各种程序和数据。处理器41、ROM 42以及RAM 43通过总线44彼此相连。输入/输出(I/O)接口45也连接至总线44。
电子设备40中的多个部件连接至I/O接口45,包括:输入单元46,例如键盘、鼠标等;输出单元47,例如各种类型的显示器、扬声器等;存储单元48,例如磁盘、光盘等;以及通信单元49,例如网卡、调制解调器、无线通信收发机等。通信单元49允许电子设备40通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器41可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器41的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器41执行上文所描述的各个方法和处理,例如数据管理方法。
在一些实施例中,数据管理方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元48。在一些实施例中,计算机程序的部分或者全部可以经由ROM 42和/或通信单元49而被载入和/或安装到电子设备40上。当计算机程序加载到RAM 43并由处理器41执行时,可以执行上文描述的数据管理方法的一个或多个步骤。备选地,在其他实施例中,处理器41可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据管理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在电子设备为数据一体机的情况下,上述提供的设备可设置为执行上述任意实施例提供的应用于数据一体机的数据管理方法,具备相应的功能和效果。
在电子设备为数据发布平台的情况下,上述提供的设备可设置为执行上述任意实施例提供的应用于数据发布平台的数据管理方法,具备相应的功能和效果。
本申请实施例提供的包含计算机指令的存储介质,计算机指令在由计算机处理器执行时用于执行一种应用于数据一体机的数据管理方法,该方法包括:获取至少一个数据产品,所述数据产品由数据提供方根据数据产品协议生成并通过数据发布平台提供,所述数据产品包括:产品交付信息和安全策略信息,所述安全策略信息包括:接入安全策略和数据安全策略;根据各所述数据产品确定至少一个目标数据产品,生成数据订阅请求,并发送至对应的目标数据发布平台;接收所述目标数据发布平台在所述数据订阅请求验证通过后所反馈的目标数据产品;根据所述目标数据产品进行数据安全配置,并在完成配置后将实际运行数据存储到数据库;接收所对应的数据消费方的数据访问请求,根据所述数据访问请求查询数据库,并返回响应数据。
本申请实施例提供的包含计算机指令的存储介质,计算机指令在由计算机处理器执行时用于执行一种应用于数据发布平台的数据管理方法,该方法包括:接收数据提供方根据数据产品协议生成并发布的至少一个数据产品,所述数据产品包括:产品交付信息和安全策略信息,所述安全策略信息包括:接入安全策略和数据安全策略;向所对应的数据一体机反馈至少一个数据产品;接收所述数据一体机根据至少一个目标数据产品生成并发送的数据订阅请求;对所述数据订阅请求进行验证,并在验证通过后反馈目标数据产品至所述数据一体机。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。

Claims (11)

1.一种数据管理方法,其特征在于,应用于数据一体机,包括:
获取至少一个数据产品,所述数据产品由数据提供方根据数据产品协议生成并通过数据发布平台提供,所述数据产品包括:产品交付信息和安全策略信息,所述安全策略信息包括:接入安全策略和数据安全策略;
根据各所述数据产品确定至少一个目标数据产品,生成数据订阅请求,并发送至对应的目标数据发布平台;
接收所述目标数据发布平台在所述数据订阅请求验证通过后所反馈的目标数据产品;
根据所述目标数据产品进行数据安全配置,并在完成配置后将实际运行数据存储到数据库;
接收所对应的数据消费方的数据访问请求,根据所述数据访问请求查询数据库,并返回响应数据;
所述目标数据产品中的目标产品交付信息包括应用程序接口,所述根据所述目标数据产品进行数据安全配置,包括:
根据所述目标数据产品确定数据消费配置信息和数据存储配置信息;
根据所述数据消费配置信息对数据服务网关进行数据消费配置,根据所述数据存储配置信息对数据库进行数据存储配置;
其中,所述数据消费配置至少包括以下一种:数据物理链路的搭建,数据库的安全策略、应用程序接口网关的分组配置、应用程序接口的创建发布与分组配置和数据一体机自检。
2.根据权利要求1所述的方法,其特征在于,将实际运行数据存储到数据库,包括:
根据所述目标数据产品生成数据同步请求,并发送给目标数据发布平台;
接收所述目标数据发布平台根据所述数据同步请求反馈的实际运行数据;
根据数据库的安全策略对所述实际运行数据进行处理并存储到数据库中。
3.根据权利要求2所述的方法,其特征在于,所述目标数据发布平台与所述数据服务网关通过虚拟专用网络或私有云网络建立网络通道,以通过所述网络通道传输数据产品和/或实际运行数据。
4.根据权利要求2所述的方法,其特征在于,所述根据数据库的安全策略对所述实际运行数据进行处理并存储到数据库中,包括:
确定所述实际运行数据对应存储的数据表;
根据数据库的安全策略确定数据表的存储策略,根据存储策略对所述实际运行数据中每列数据分别进行处理,将处理后的数据存储至数据库中;
其中,所述存储策略包括对目标数据列进行脱敏处理和/或加密处理。
5.根据权利要求1所述的方法,其特征在于,所述接收所对应的数据消费方的数据访问请求,根据所述数据访问请求查询数据库,并返回响应数据,包括:
接收所对应的数据消费方调用应用程序接口所发送的数据访问请求,所述数据访问请求至少包括输入参数,所述应用程序接口与所对应的数据消费方的业务关联;
对所述数据访问请求进行服务验证,并在验证通过后,根据输入参数以及所述数据消费配置进行数据查询,确定目标数据,所述服务验证包括以下至少一种:数据消费方的互联网协议地址验证、用户权限验证和应用名称验证;
根据所述数据消费配置对所述目标数据进行数据安全处理,确定响应数据。
6.根据权利要求1所述的方法,其特征在于,还包括:
根据所述数据库的安全策略对所述数据库进行查询和分析,并根据分析结果对应用程序接口进行诊断。
7.根据权利要求1所述的方法,其特征在于,还包括:
对所述数据服务网关对应的安全策略以及数据操作信息进行合规审计,生成审计报告以便数据提供方和数据消费方进行确认;
其中,所述安全策略的合规审计至少包括策略生效审计以及漏洞审计,数据操作信息至少包括数据查询信息。
8.一种数据管理方法,其特征在于,应用于数据发布平台,包括:
接收数据提供方根据数据产品协议生成并发布的至少一个数据产品,所述数据产品包括:产品交付信息和安全策略信息,所述安全策略信息包括:接入安全策略和数据安全策略;
向所对应的数据一体机反馈至少一个数据产品;
接收所述数据一体机根据至少一个目标数据产品生成并发送的数据订阅请求;
对所述数据订阅请求进行验证,并在验证通过后反馈目标数据产品至所述数据一体机;
所述对所述数据订阅请求进行验证,并在验证通过后反馈目标数据产品至所述数据一体机,包括:
根据所接收的所述数据订阅请求确定待验证消费方,根据所述待验证消费方的消费信息对各所述目标数据产品进行消费权限验证;
在验证通过后,根据所述目标数据产品进行数据安全配置,并将配置后的目标数据产品发送至对应的所述数据一体机;
所述目标数据产品中的目标产品交付信息包括应用程序接口,所述根据所述目标数据产品进行数据安全配置,包括:
根据所述目标数据产品确定数据消费配置信息和数据存储配置信息;
根据所述数据消费配置信息对数据服务网关进行数据消费配置,根据所述数据存储配置信息对数据库进行数据存储配置;
其中,所述数据消费配置至少包括以下一种:数据物理链路的搭建,数据库的安全策略、应用程序接口网关的分组配置、应用程序接口的创建发布与分组配置和数据一体机自检。
9.一种数据管理系统,其特征在于,包括:至少一个数据发布平台、至少一个数据消费方,每个所述数据消费方所对应的至少一个数据一体机、以及至少一个数据提供方;
各所述数据提供方,用于根据数据产品协议生成数据产品,并向对应的数据发布平台发送各所述数据产品,以便各所述数据发布平台向对应的数据一体机反馈至少一个数据产品,所述数据产品包括:产品交付信息和安全策略信息,所述安全策略信息包括:接入安全策略和数据安全策略;
所述数据一体机,用于根据所选择的至少一个目标数据产品生成数据订阅请求,并发送至对应的目标数据发布平台;
各所述数据发布平台,在作为目标数据发布平台时,用于对所接收的所述数据订阅请求进行验证,并在验证通过后,将各所述目标数据产品发送至对应的数据一体机;
所述数据一体机,还用于根据所述目标数据产品进行数据安全配置,将实际运行数据存储到数据库,以及接收所对应的数据消费方的数据访问请求,根据所述数据访问请求查询数据库,并返回响应数据;
所述目标数据产品中的目标产品交付信息包括应用程序接口,所述根据所述目标数据产品进行数据安全配置,包括:
根据所述目标数据产品确定数据消费配置信息和数据存储配置信息;
根据所述数据消费配置信息对数据服务网关进行数据消费配置,根据所述数据存储配置信息对数据库进行数据存储配置;
其中,所述数据消费配置至少包括以下一种:数据物理链路的搭建,数据库的安全策略、应用程序接口网关的分组配置、应用程序接口的创建发布与分组配置和数据一体机自检。
10.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的数据管理方法。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-8中任一项所述的数据管理方法。
CN202211667382.4A 2022-12-23 2022-12-23 一种数据管理方法、系统、设备及存储介质 Active CN115906131B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211667382.4A CN115906131B (zh) 2022-12-23 2022-12-23 一种数据管理方法、系统、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211667382.4A CN115906131B (zh) 2022-12-23 2022-12-23 一种数据管理方法、系统、设备及存储介质

Publications (2)

Publication Number Publication Date
CN115906131A CN115906131A (zh) 2023-04-04
CN115906131B true CN115906131B (zh) 2024-01-26

Family

ID=86479580

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211667382.4A Active CN115906131B (zh) 2022-12-23 2022-12-23 一种数据管理方法、系统、设备及存储介质

Country Status (1)

Country Link
CN (1) CN115906131B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210243017A1 (en) * 2020-01-31 2021-08-05 Versa Networks, Inc. Systems and methods for using push notifications for security policy enforcement
CN114372286A (zh) * 2021-12-17 2022-04-19 刘维炜 数据安全管理方法、装置、计算机设备及存储介质
CN114741396A (zh) * 2022-04-28 2022-07-12 北京远舢智能科技有限公司 一种数据服务的处理方法、装置、电子设备及存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210243017A1 (en) * 2020-01-31 2021-08-05 Versa Networks, Inc. Systems and methods for using push notifications for security policy enforcement
CN114372286A (zh) * 2021-12-17 2022-04-19 刘维炜 数据安全管理方法、装置、计算机设备及存储介质
CN114741396A (zh) * 2022-04-28 2022-07-12 北京远舢智能科技有限公司 一种数据服务的处理方法、装置、电子设备及存储介质

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
"Benchmark Testing for Transwarp Inceptor—A big data analysis system based on in-memory computing";Chen Mingang 等;《Proceedings of the 2015 4th National Conference on Electrical, Electronics and Computer Engineering》;全文 *
"大数据3.0——后Hadoop时代大数据的核心技术";刘汪根 等;《数据与计算发展前沿》;第1卷(第1期);全文 *
"大数据平台安全管控系统的研究与实践";刘东 等;《电信网技术》;全文 *

Also Published As

Publication number Publication date
CN115906131A (zh) 2023-04-04

Similar Documents

Publication Publication Date Title
EP3149583B1 (en) Method and apparatus for automating the building of threat models for the public cloud
US20190227856A1 (en) Application programming interface (api) service apparatus and application programming interface (api) service system
US8881224B2 (en) Method and system for providing masking services
US8726349B2 (en) Optimizing interactions between co-located processes
CN107819743B (zh) 资源访问控制方法及终端设备
US11916964B2 (en) Dynamic, runtime application programming interface parameter labeling, flow parameter tracking and security policy enforcement using API call graph
US10192262B2 (en) System for periodically updating backings for resource requests
US10013237B2 (en) Automated approval
CN116015840B (zh) 一种数据操作审计方法、系统、设备及存储介质
CN112507668A (zh) 项目数据存证方法、存证系统、终端设备及可读存储介质
CN115906131B (zh) 一种数据管理方法、系统、设备及存储介质
CN113254944B (zh) 漏洞处理方法、系统、电子设备、存储介质及程序产品
CN115242433A (zh) 数据处理方法、系统、电子设备及计算机可读存储介质
CN114745185A (zh) 集群访问方法及装置
CN115795553B (zh) 一种数据处理方法、系统、设备及存储介质
CN110647757A (zh) 基于智能合约的数据处理方法及相关装置
CN110659260A (zh) 基于四聚理念的大数据生态系统构建方法以及装置
CN115935421B (zh) 一种数据产品发布方法、系统及存储介质
CN115712513A (zh) 调用接口的方法、装置、电子设备及存储介质
US20240056423A1 (en) System and method for efficient allocation of range as a service in a cloud computing environment
US20240112259A1 (en) Real time system, with automatic trade execution, for integrating trading account security with associate investment policy (aip) governance
CN115658186A (zh) 接口调用方法及装置、电子设备和计算机可读存储介质
CN116318769A (zh) 网关拦截方法、装置、电子设备和存储介质
CN117931612A (zh) 测试用例生成方法、装置、计算设备集群及存储介质
CN113946767A (zh) 盗链行为的识别方法、装置、设备以及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant