CN115795553A - 一种数据处理方法、系统、设备及存储介质 - Google Patents
一种数据处理方法、系统、设备及存储介质 Download PDFInfo
- Publication number
- CN115795553A CN115795553A CN202211664361.7A CN202211664361A CN115795553A CN 115795553 A CN115795553 A CN 115795553A CN 202211664361 A CN202211664361 A CN 202211664361A CN 115795553 A CN115795553 A CN 115795553A
- Authority
- CN
- China
- Prior art keywords
- data
- machine
- target
- contract information
- contract
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 38
- 238000004364 calculation method Methods 0.000 claims abstract description 164
- 238000012545 processing Methods 0.000 claims abstract description 113
- 238000000034 method Methods 0.000 claims abstract description 84
- 230000008569 process Effects 0.000 claims abstract description 31
- 238000004422 calculation algorithm Methods 0.000 claims description 26
- 238000004590 computer program Methods 0.000 claims description 16
- 238000012795 verification Methods 0.000 claims description 16
- 230000004044 response Effects 0.000 claims description 13
- 239000000047 product Substances 0.000 description 88
- 238000012550 audit Methods 0.000 description 16
- 238000004891 communication Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 11
- 238000007726 management method Methods 0.000 description 11
- 230000006399 behavior Effects 0.000 description 5
- 238000000586 desensitisation Methods 0.000 description 5
- 238000010801 machine learning Methods 0.000 description 5
- 238000012384 transportation and delivery Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000012423 maintenance Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000011217 control strategy Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000001502 supplementing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种数据处理方法、系统、设备及存储介质。该方法包括:获取待处理数据类型和待订阅数据产品;根据待处理数据类型和待订阅数据产品确定第一合约信息,并将第一合约信息发送至对应的数据提供方一体机进行审核,其中,第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;接收各数据提供方一体机所反馈的第二合约信息,生成目标合约并将目标合约发送至对应的各数据提供方一体机;根据目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据目标数据得到数据处理结果,解决了多方协同处理数据时无法保证数据安全的问题,提高数据安全性,实现过程简单方便。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种数据处理方法、系统、设备及存储介质。
背景技术
数据流通交易时,通常直接使用数据接口获取数据,或者通过部署私有云、公有云、混合部署的方案获取数据。使用数据接口获取数据时,数据提供方使用HTTP、RPC、Socket等协议开放隐私计算应用的部分API供数据需求方调用访问。通过部署云平台的方案获取数据时,将服务分别手工部署在数据交易各方的服务器上,然后通过网络专线或公网来实现通信。
但是,数据接口获取数据时,对API请求及响应没有安全策略管控,无法防止数据泄露与数据滥用;通过部署云平台的方案获取数据时,部署耗时耗力,数据交易各方的服务器软硬件环境的差异,隐私计算平台统一升级到指定版本的风险与成本较大。若隐私计算平台在某方的服务器上兼容性较差,可能会导致隐私计算平台性能有较大损失,在极端情况下将导致平台升级失败,其余各方必须回退到同一隐私计算平台版本才能保证隐私计算流程可用。因此,如何在多个数据交易方协作对数据进行处理时,对数据进行高效、便捷的安全管理成为有待解决的问题。
发明内容
本发明提供了一种数据处理方法、系统、设备及存储介质,以解决数据安全的问题,对数据安全进行高效、便捷管理。
根据本发明的一方面,提供了一种数据处理方法,应用于数据消费方一体机,包括:
获取待处理数据类型和待订阅数据产品;
根据所述待处理数据类型和待订阅数据产品确定第一合约信息,并将所述第一合约信息发送至对应的数据提供方一体机进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;
接收各所述数据提供方一体机所反馈的第二合约信息,生成目标合约并将所述目标合约发送至对应的各所述数据提供方一体机;
根据所述目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据所述目标数据得到数据处理结果。
根据本发明的另一方面,提供了一种数据处理方法,应用于数据提供方一体机,包括:
接收数据消费方一体机所发送的第一合约信息,并对所述第一合约信息进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;
在审核通过后生成第二合约信息,并向所述数据消费方一体机反馈所述第二合约信息;
接收所述数据消费方一体机根据所述第二合约信息生成并反馈的目标合约;
基于所述目标合约的目标合约信息对所述数据消费方一体机的查询进行响应,确定并反馈目标数据。
根据本发明的另一方面,提供了一种数据处理系统,包括:数据消费方一体机和数据提供方一体机;
所述数据消费方一体机,用于获取待处理数据类型和待订阅数据产品;根据所述待处理数据类型和待订阅数据产品确定第一合约信息,并将所述第一合约信息发送至对应的数据提供方一体机进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;接收各所述数据提供方一体机所反馈的第二合约信息,生成目标合约并将所述目标合约发送至对应的各所述数据提供方一体机;根据所述目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据所述目标数据得到数据处理结果。
所述数据提供方一体机,用于接收数据消费方一体机所发送的第一合约信息,并对所述第一合约信息进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;在审核通过后生成第二合约信息,并向所述数据消费方一体机反馈所述第二合约信息;接收所述数据消费方一体机根据所述第二合约信息生成并反馈的目标合约;基于所述目标合约的目标合约信息对所述数据消费方一体机的查询进行响应,确定并反馈目标数据。
根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的数据处理方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的数据处理方法。
本发明实施例的技术方案,通过获取待处理数据类型和待订阅数据产品;根据所述待处理数据类型和待订阅数据产品确定第一合约信息,并将所述第一合约信息发送至对应的数据提供方一体机进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;接收各所述数据提供方一体机所反馈的第二合约信息,生成目标合约并将所述目标合约发送至对应的各所述数据提供方一体机;根据所述目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据所述目标数据得到数据处理结果,解决了多方协同处理数据时无法保证数据安全的问题,通过待处理数据类型和待订阅数据产品确定第一合约信息并发送至对应的数据提供方一体机进行审核,第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数,各数据提供方一体机对第一合约信息审核后反馈第二合约信息,数据消费方一体机根据各第二合约信息生成目标合约,通过目标合约的目标合约信息查询数据并进行隐私计算,在保证数据安全的情况下完成数据协作处理;并且通过目标合约定义数据隐私处理流程更加方便,可直接通过修改或生成新的目标合约的方式对数据隐私处理流程进行更新,实现过程简单方便,无需部署云平台,且通过目标合约信息可以统一隐私计算标准,提高数据安全性和协调统一性。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例一提供的一种数据处理方法的流程图;
图2是根据本发明实施例二提供的一种数据处理方法的流程图;
图3是根据本发明实施例三提供的一种数据处理方法的流程图;
图4是根据本发明实施例四提供的一种数据处理方法的流程图;
图5是根据本发明实施例四提供的一种数据提供方一体机进行数据处理的实现示例图;
图6是根据本发明实施例四提供的一种实现数据处理的架构图;
图7是根据本发明实施例五提供的一种数据处理系统的结构示意图;
图8是根据本发明实施例五提供的一种数据处理系统中多方协作进行数据处理的实现示例图;
图9是实现本发明实施例的数据处理方法的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1为本发明实施例一提供了一种数据处理方法的流程图,本实施例可适用于多方协作进行数据处理的情况,该方法可以由数据消费方一体机来执行。如图1所示,该方法包括:
S101、获取待处理数据类型和待订阅数据产品。
在本实施例中,数据消费方一体机具体可以理解为部署在数据消费方的数据一体机,数据消费方通过数据消费方一体机与外部系统、设备等进行交互,实现数据消费;数据提供方一体机具体可以理解为部署在数据提供方的数据一体机,数据提供方通过数据提供方一体机与外部系统、设备等进行交互,实现数据消费;本申请实施例中的数据消费方与数据提供方可通过各自对应的数据一体机进行数据交互。待处理数据类型具体可以理解为用于参与隐私计算的数据类型,例如,交易金额、年龄等。待订阅数据产品具体可以理解为由数据提供方一体机所提供的参与隐私计算的数据产品,数据产品可以理解为由数据提供方通过数据提供方一体机定义的,包含可提供数据基本信息以及为满足数据流通安全需求的必要配置信息的产品。本申请实施例提供的数据产品用于描述数据提供方一体机的基本信息、数据源信息(数据所属业务类型、数据分类、数据量等)、数据元信息(字段名、字段含义、字段类型、字段隐私敏感级别等)等信息,并不包含真实的数据。
具体的,待处理数据类型为数据消费方一体机可以提供的数据类型,待订阅数据产品可以从数据提供方一体机所提供的数据产品中选择。数据消费方一体机在进行数据协作处理之前,可以确定自身所能提供的数据类型;同时,数据消费方一体机可以接收一个或者多个数据提供方一体机所提供的数据产品,每个数据提供方一体机可以提供一个或者多个数据产品。数据消费方一体机可以根据业务需求确定待处理数据类型,并从多个数据产品中选择出待订阅数据产品。待处理数据类型和待订阅数据产品的数量均可以是一个或者多个。待订阅数据产品可以由同一个数据提供方一体机,也可以由多个数据提供方一体机提供。
S102、根据待处理数据类型和待订阅数据产品确定第一合约信息,并将第一合约信息发送至对应的数据提供方一体机进行审核,其中,第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数。
在本实施例中,第一合约信息具体可以理解为由数据消费方一体机所发起的合约的信息,用于描述数据隐私处理的流程;数据消费方一体机和数据提供方一体机可以通过合约信息达成一致,对数据进行安全处理。数据提供方信息可以是数据提供方一体机的标识、名称等唯一标识数据提供方一体机身份的信息;隐私计算任务类型可以是联邦机器学习、匿踪查询、隐私求交等;隐私计算任务类型对应的数据类型包括待处理数据类型和待订阅数据产品,用于确定参与数据协作处理的数据。通过隐私计算任务类型确定数据处理的方式,例如,隐私计算任务类型是联邦机器学习时,隐私计算任务类型所对应的数据类型为A、B和C,其中,A为数据消费方一体机所能提供的数据类型,B为数据提供方一体机1提供的数据类型,C为数据提供方一体机2提供的数据类型。隐私计算参数具体可以理解为对各数据进行隐私计算时所采用的算法的参数。
具体的,每个数据产品均具有对应的数据提供方一体机,数据消费方一体机可以在接收到数据提供方一体机所发送的数据产品后将数据产品与数据提供方一体机对应关联或存储;或者,数据提供方一体机在提供数据产品时对数据产品进行标识,数据消费方一体机可以通过数据产品的标识确定其对应的数据提供方一体机。数据消费方一体机在确定待订阅数据产品后,根据数据产品和数据提供方一体机之间的对应关系或者标识确定待订阅数据产品对应的数据提供方信息。根据业务类型、需求等信息确定隐私计算任务类型,隐私计算任务类型也可以由用户指定。在确定隐私计算任务类型的同时确定隐私计算时所采用的数据类型,即隐私计算任务类型对应的数据类型。同时确定隐私计算算法,隐私计算算法可以根据隐私计算任务类型选择,在确定隐私计算算法后相应确定隐私计算算法在进行隐私计算时所采用的隐私计算参数。数据消费方一体机在确定第一合约信息后,将第一合约信息根据数据提供方信息发送给对应的数据提供方一体机进行审核,数据提供方一体机可通过审核确定是否协作进行数据处理。第一合约信息发送给涉及隐私协作计算的所有数据提供方一体机。
S103、接收各数据提供方一体机所反馈的第二合约信息,生成目标合约并将目标合约发送至对应的各数据提供方一体机。
在本实施例中,第二合约信息具体可以理解为数据提供方一体机所反馈的合约信息;目标合约具体可以理解为多方进行数据协作处理时所达成一致且采用的合约。
具体的,各数据提供方一体机对所接收到的第一合约信息进行审核,确定按照第一合约信息进行数据协作处理时是否会发生数据泄露的风险,同时还可以审核数据消费方一体机是否具有待订阅数据产品的消费权限等。数据提供方一体机在完成审核后,生成第二合约信息。第二合约信息可以与第一合约信息相同,也可以不同,即数据提供方一体机可以不对第一合约信息进行修改,直接将第一合约信息作为第二合约信息反馈给数据消费方一体机;数据提供方一体机也可以对第一合约信息进行修改(例如,增加或者删除),形成第二合约信息,保证数据安全,或者,数据消费方一体机在形成第一合约信息时可以保留部分信息由数据提供方一体机填写。数据提供方一体机在形成第二合约信息后将第二合约信息反馈给数据消费方一体机。数据消费方一体机接收各数据提供方一体机所反馈的第二合约信息,将各第二合约信息综合处理,得到目标合约。
S104、根据目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据目标数据得到数据处理结果。
在本实施例中,目标合约信息具体可以理解为用于描述目标合约的信息,目标合约信息中同样包括数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数。目标数据具体可以理解为数据提供方一体机所提供的数据。
具体的,在形成目标合约后执行目标合约,执行目标合约即根据目标合约信息执行相应数据协作处理,通过目标合约信息确定隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数,根据隐私计算任务类型及对应数据类型查询对应的数据提供方一体机,数据提供方一体机响应数据消费方一体机的查询操作,查询得到目标数据,并将目标数据反馈给数据消费方一体机。数据提供方一体机在保证数据安全的条件下向数据消费方一体机提供目标数据,目标数据可以是直接查询得到的数据,也可以是经过安全处理后得到的数据,安全处理可以是脱敏处理,加密处理等。数据消费方一体机获取数据提供方一体机反馈的目标数据,通过隐私计算参数对目标数据进行数据处理,得到数据处理结果。在对目标数据进行处理时,可以单独处理,也可以结合本地、多各数据提供方一体机所提供的目标数据协作进行数据处理。由于数据提供方一体机提供的目标数据是安全的数据,可以避免数据泄露,保证数据安全。
本申请实施例中的第一合约信息、第二合约信息和目标合约信息中还可以包括数据量、使用期限等信息。
本发明实施例的数据处理方法,解决了多方协同处理数据时无法保证数据安全的问题,通过待处理数据类型和待订阅数据产品确定第一合约信息并发送至对应的数据提供方一体机进行审核,第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数,各数据提供方一体机对第一合约信息审核后反馈第二合约信息,数据消费方一体机根据各第二合约信息生成目标合约,通过目标合约的目标合约信息查询数据并进行隐私计算,在保证数据安全的情况下完成数据协作处理;并且通过目标合约定义数据隐私处理流程更加方便,可直接通过修改或生成新的目标合约的方式对数据隐私处理流程进行更新,实现过程简单方便,无需部署云平台,且通过目标合约信息可以统一隐私计算标准,提高数据安全性和协调统一性。
实施例二
图2为本发明实施例二提供的一种数据处理方法的流程图,本实施例在上述实施例的基础上进行细化。如图2所示,该方法包括:
S201、接收至少一个数据提供方一体机创建并配置的数据产品。
数据提供方一体机按照一定规则和协议创建并配置数据产品,将所生成的数据产品发送给数据消费方一体机;数据消费方一体机接收一个或者多个数据提供方一体机所提供的数据产品,每个数据提供方一体机可以提供一个或者多个数据产品。
S202、获取待处理数据类型和待订阅数据产品。
S203、根据待处理数据类型和待订阅数据产品确定第一合约信息,并将第一合约信息发送至对应的数据提供方一体机进行审核,其中,第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数。
S204、接收各数据提供方一体机所反馈的第二合约信息,第二合约信息由数据提供方一体机在第一合约信息审核通过后对第一合约信息配置任务信息后生成。
在本实施例中,任务信息可以是隐私计算建模任务、多方安全查询任务等任务的信息。数据提供方一体机在对第一合约信息进行审核,确定审核通过后对第一合约信息配置任务信息,生成第二合约信息并反馈给数据消费方一体机。数据消费方一体机接收各数据提供方一体机反馈的第二合约信息。数据消费方一体机所接收到的每个第二合约信息可以是对第一合约信息配置任务信息后生成的,也可以不配置任务信息直接生成的,无需同时配置任务信息,也不需要同时不配置任务信息,各数据提供方一体机可以根据自身的实际需求选择合适的方式生成第二合约信息。
S205、对各第二合约信息进行处理,确定目标合约信息,根据目标合约信息生成目标合约。
对各数据提供方一体机反馈的第二合约信息综合进行处理,得到目标合约信息,可以将第二合约信息中的各信息按照类型进行归类,例如,将各第二目标合约信息中的隐私计算参数综合处理或分类整理等,得到最终用于隐私计算的参数,作为目标合约信息中的隐私计算参数。根据目标合约信息形成目标合约。
S206、根据目标合约信息中的数据类型确定所对应的至少一个数据提供方一体机和数据消费方一体机的本地数据。
在本实施例中,本地数据是指由数据消费方一体机自身提供的数据。确定目标合约信息中的数据类型,数据类型包括待处理数据类型和待订阅数据产品。根据数据类型中的待订阅数据产品以及数据产品与数据提供方一体机的对应关系,确定提供待订阅数据产品所对应的实际数据的数据提供方一体机。同时根据数据类型中的待处理数据类型确定参与数据协作处理的数据消费方一体机的本地数据的数据类型,进而查询本地数据库,得到本地数据。
S207、根据隐私计算任务类型生成隐私计算协作请求并发送给对应的各数据提供方一体机。
在本实施例中,隐私计算协作请求具体可以理解为请求数据提供方一体机提供数据进行隐私协作计算的通信请求。根据目标合约信息确定隐私计算任务类型,根据隐私计算任务类型确定所要实现的隐私计算,形成相应的隐私计算协作请求发送给对应的数据提供方一体机。目标合约信息中可以包括一种或者多种类型的隐私计算任务类型,实现不同的数据隐私计算。在形成隐私计算协作请求时,可以针对每个隐私计算任务类型分别形成对应的隐私计算协作请求,也可以根据多个或者所有的隐私计算任务类型生成一个隐私计算协作请求并发送给对应的一个或者多个数据提供方一体机。
S208、获取各数据提供方一体机所反馈的目标数据,目标数据为加密处理后得到的数据。
各数据提供方一体机分别根据隐私计算协作请求查询对应的数据,对数据进行加密处理得到目标数据后反馈给数据消费方一体机。数据消费方一体机获取一个或者多个数据提供方一体机反馈的目标数据,以便进行隐私协作计算。
S209、根据目标合约信息中的隐私计算算法对目标数据和本地数据进行运算,得到数据处理结果。
通过目标合约信息中的隐私计算算法对目标数据和本地数据进行运算,在目标数据为加密数据的情况下计算得到数据处理结果,保证数据安全。
示例性的,隐私计算任务类型为求m和n的平均值,m为消费方所可以提供的本地数据,n为数据提供方一体机所需提供的目标数据,数据提供方一体机根据隐私计算协作请求提供加密后的目标数据,目标数据中包括每个数据以及数据的数量,由于数据和数量均为加密数据,因此不会发生数据泄露风险。通过隐私计算算法对目标数据和本地数据进行计算,得到平均值。在实现数据协作处理的同时保证数据安全。
作为本实施例的一个可选实施例,本可选实施例进一步优化包括了将目标合约发送至数据协调方。
在本实施例中,数据协调方作为第三方,可以对数据进行处理,保证数据安全。数据消费方一体机在生成目标合约后将目标合约发送给数据协调方,以便数据协调方进行数据协调处理。
作为本实施例的一个可选实施例,本可选实施例进一步将根据目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据目标数据得到数据处理结果,优化为:
A1、根据目标合约信息中的数据类型确定所对应的至少一个数据提供方一体机和数据消费方一体机的本地数据。
确定目标合约信息中的数据类型,数据类型包括待处理数据类型和待订阅数据产品。根据数据类型中的待订阅数据产品以及数据产品与数据提供方一体机的对应关系,确定提供待订阅数据产品所对应的实际数据的数据提供方一体机。同时根据数据类型中的待处理数据类型确定参与数据协作处理的数据消费方一体机的本地数据的数据类型,进而查询本地数据库,得到本地数据。
A2、根据隐私计算任务类型生成隐私计算协作请求并发送给对应的各数据提供方一体机,以便各数据提供方一体机向数据协调方反馈目标数据,目标数据为加密处理后得到的数据。
根据目标合约信息确定隐私计算任务类型,根据隐私计算任务类型确定所要实现的隐私计算,形成相应的隐私计算协作请求发送给对应的数据提供方一体机。本步骤的实现方式与S207相同,在此不再赘述。数据提供方一体机在确定目标数据后将目标数据发送至数据协调方,由数据协调方进行数据隐私处理。
A3、将本地数据发送至数据协调方。
A4、接收数据协调方根据目标合约信息中的隐私计算算法对目标数据和本地数据进行运算后得到并反馈的数据处理结果。
数据协调方得到数据处理结果的方式与数据消费方一体机得到数据处理结果的方式相同,实现步骤与S209相同,在此不再赘述。
作为本实施例的一个可选实施例,本可选实施例进一步优化包括在将目标合约发送至数据协调方之前,将第一合约信息发送至数据协调方进行审批;接收数据协调方所反馈的第三合约信息。
相应的,生成目标合约,包括:
对各第二合约信息和第三合约信息进行处理,确定目标合约信息,根据目标合约信息生成目标合约。
在本实施例中,第三合约信息具体可以理解为数据协调方所反馈的合约信息。本申请实施例中的数据协调方也可以对第一合约信息进行审批,保障数据安全。数据消费方一体机在确定第一合约信息后将第一合约信息发送至数据协调方,由数据协调方进行安全审批。数据协调方在审批通过后,形成第三合约信息。第三合约信息可以与第一合约信息相同,也可以不同,即数据协调方可以不对第一合约信息进行修改,直接将第一合约信息作为第三合约信息反馈给数据消费方一体机;数据协调方也可以对第一合约信息进行修改(例如,增加或者删除),形成第三合约信息,保证数据安全,或者,数据消费方一体机在形成第三合约信息时可以保留部分信息由数据协调方填写。数据协调方在形成第三合约信息后将第三合约信息反馈给数据消费方一体机。
数据消费方一体机在接收到第三合约信息后,将所接收到各第二合约信息和第三合约信息综合进行处理,得到目标合约信息,进而根据目标合约信息生成目标合约。本步骤生成目标合约信息的原理与S205相同,可参考S205步骤的说明,本申请在此不再赘述。
作为本实施例的一个可选实施例,本可选实施例进一步优化还包括对数据处理过程进行审计。
本申请实施例还提供了审计方法,对数据处理过程中所执行的操作进行审计记录,生成审计日志。例如,记录第一合约信息、执行合约过程所得到的目标数据等。在进行审计记录时,还可以设置关键操作行为,对关键操作行为进行审计记录,生成审计日志。
本申请实施例中的方法还可以选择非一体机的部署方式。数据消费方一体机所消费的数据均为审批通过的数据,并执行审批通过的操作,保证数据安全。在计算资源不足时,可以自由拓展数据一体机数量,集群会自动选举master节点并分配计算资源,实现安全扩容,资源池化,即扩即用。基于数据一体机实现隐私计算可以以租用的方式授权使用,方便计费。
本申请在实现隐私计算时,可以在物理资源、网络层面上划分出软硬件隔离区进行隐私计算,确保网络、计算、数据、用户操作方面的安全。
本发明实施例的数据处理方法,解决了多方协同处理数据时无法保证数据安全的问题,通过待处理数据类型和待订阅数据产品确定第一合约信息并发送至对应的数据提供方一体机进行审核,第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数,各数据提供方一体机对第一合约信息审核后反馈第二合约信息,数据消费方一体机根据各第二合约信息生成目标合约,通过目标合约的目标合约信息查询数据并进行隐私计算,在保证数据安全的情况下完成数据协作处理;并且通过目标合约定义数据隐私处理流程更加方便,可直接通过修改或生成新的目标合约的方式对数据隐私处理流程进行更新,实现过程简单方便,无需部署云平台,且通过目标合约信息可以统一隐私计算标准,提高数据安全性和协调统一性。通过部署一体机结合隐私计算,协作完成数据处理,保证数据安全,部署方式简单,易于实现。
实施例三
图3为本发明实施例三提供了一种数据处理方法的流程图,本实施例可适用于多方协作进行数据处理的情况,该方法可以由数据提供方一体机来执行。如图3所示,该方法包括:
S301、接收数据消费方一体机所发送的第一合约信息,并对第一合约信息进行审核,其中,第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数。
数据提供方一体机接收数据消费方一体机生成并发送的第一合约信息,对第一合约信息进行数据安全审核,确定是否进行数据协作处理。可以预先设置审核的规则、要求等,按照预先设置的审核规则和要求对第一合约信息进行安全审核,确定按照第一合约信息进行数据协作处理时是否会发生数据泄露的风险,同时还可以审核数据消费方一体机是否具有待订阅数据产品的消费权限等。
S302、在审核通过后生成第二合约信息,并向数据消费方一体机反馈第二合约信息。
数据提供方一体机对所接收到的第一合约信息审核通过后,对第一合约信息进行分析,确定需要补充或修改的内容,对第一合约信息进行完善,生成第二合约信息,并将第二合约信息反馈给数据消费方一体机。第二合约信息可以与第一合约信息相同,也可以不同,即数据提供方一体机可以不对第一合约信息进行修改,直接将第一合约信息作为第二合约信息反馈给数据消费方一体机;数据提供方一体机也可以对第一合约信息进行修改或补充,形成第二合约信息,保证数据安全。
S303、接收数据消费方一体机根据第二合约信息生成并反馈的目标合约。
数据消费方一体机根据第二合约信息确定目标合约信息并生成目标合约并反馈给数据提供方一体机。数据提供方一体机直接接收数据消费方一体机所反馈的目标合约。
S304、基于目标合约的目标合约信息对数据消费方一体机的查询进行响应,确定并反馈目标数据。
数据消费方一体机根据目标合约的目标合约信息对数据提供方一体机的数据进行查询,响应于此查询,数据提供方一体机查询本地的数据库,得到相应的数据,并对数据进行安全处理得到目标数据,数据提供方一体机将目标数据反馈给数据消费方一体机,以便数据消费方一体机完成数据协同处理。
本发明实施例的数据处理方法,解决了多方协同处理数据时无法保证数据安全的问题,通过对第一合约信息进行审核确定数据安全,第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数,数据提供方一体机对第一合约信息审核后反馈第二合约信息,并接收数据消费方一体机根据第二合约信息生成并反馈的目标合约,基于目标合约的目标合约信息响应数据查询以便实现隐私计算,在保证数据安全的情况下完成数据协作处理;并且通过目标合约定义数据隐私处理流程更加方便,可直接通过修改或生成新的目标合约的方式对数据隐私处理流程进行更新,实现过程简单方便,无需部署云平台,且通过目标合约信息可以统一隐私计算标准,提高数据安全性和协调统一性。
实施例四
图4为本发明实施例四提供的一种数据处理方法的流程图,本实施例在上述实施例三的基础上进行细化。如图4所示,该方法包括:
S401、创建并配置至少一个数据产品,将各数据产品发送至数据消费方一体机。
数据提供方一体机根据所能提供的数据以及数据安全要求生成数据产品,通过数据产品描述数据的信息,由于数据产品中并不包含真实的数据,因此可以保证数据安全。数据产品中除了数据提供方一体机的基本信息、数据源信息、数据元信息以外,还可以包括数据连通信息、产品交付信息和安全策略信息。数据连通信息具体可理解为用以描述数据产品在一体机中缓存数据所需的库表定义信息,其可根据交付形式的不同以不同形式表示。需要明确的是,数据连通信息并不向数据消费方一体机开放,仅在确定交付形式后进行调用,属默认加密的信息,以避免数据泄露。产品交付信息可以理解为用以描述数据产品的实体数据如何交付给数据消费方一体机使用的信息,其中可包括如交付形式等信息,示例性的,交付形式可以是应用程序接口API调用、联邦学习等;安全策略信息可以理解为根据国家法律法规或者行业指南制定的,对数据产品所对应数据进行访问时的防护策略,其可为针对某种安全等级的字段,或某种字段类型的字段进行拒绝访问或脱敏的策略,也可为其他根据数据产品对应数据敏感性制定的访问策略,本发明实施例对此不进行限制。
数据提供方一体机预先根据数据的安全合规要求以及分类分级等法规要求定义数据产品协议,通过数据产品协议可以定义数据流通的链路、安全合规的策略以及针对数据消费方一体机在数据消费过程中所产生的消费行为的管控策略等,通过数据产品协议所定义的规则创建并配置数据产品,并将数据产品发送给数据消费方一体机。
需要知道的是,数据产品可以由数据提供方一体机自动推送到数据消费方一体机,在数据产品更新后,数据提供方一体机可以自动将更新的数据产品推送至数据消费方一体机。数据产品更新可以是增加、删除或者修改数据产品。保证数据安全性和实时性。
S402、接收数据消费方一体机所发送的第一合约信息,并对第一合约信息进行审核,其中,第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数。
S403、在审核通过后,根据第一合约信息确定任务信息。
数据提供方一体机在第一合约信息审核通过后,根据第一合约信息确定数据消费方一体机所需协作处理的数据类型、隐私计算任务类型和隐私计算参数,对数据类型、隐私计算任务类型和隐私计算参数进行分析,确定执行具体数据处理任务所需的任务信息,例如,任务信息可以是隐私计算建模任务、多方安全查询任务等任务的信息。可以预先设置不同任务的任务信息,在确定第一合约信息后,确定对应的任务类型,进而确定对应的任务信息。
S404、根据任务信息和第一合约信息生成第二合约信息,向数据消费方一体机反馈第二合约信息。
根据任务信息对第一合约信息进行修改、补充等操作,形成第二合约信息。将第二合约信息反馈给数据消费方一体机。
S405、接收数据消费方一体机根据第二合约信息生成并反馈的目标合约。
S406、接收数据消费方一体机发送的隐私计算协作请求。
S407、基于安全策略和隐私计算协作请求进行数据查询,确定待反馈数据,安全策略根据目标合约信息配置。
在本实施例中,安全策略具体可以理解为数据消费过程中对数据进行安全验证,保证数据安全的策略;安全策略可以是物理安全策略、网络安全策略、主机安全策略、应用安全策略、数据安全策略中的一种或者多种。安全策略可以实现对接入安全进行验证、对查询到的数据进行安全验证等。待反馈数据具体可以理解为根据隐私计算协作请求查询数据库所得到的数据。
预先根据目标合约信息进行安全策略的配置,可以对不同类型的隐私计算任务类型和对应的数据类型设置不同的安全策略。数据提供方一体机在接收到隐私计算协作请求后,确定数据需求方所要查询的数据类型,进而进行数据查询得到待反馈数据。在接收到隐私计算协作请求后可以先对隐私计算协作请求进行安全验证,判断隐私计算协作请求是否安全,若安全,则继续进行数据查询,若不安全,则拒绝查询数据。在查询数据后,可以直接将查询得到的数据作为待反馈数据,也可以对查询得到的数据进行安全处理,将处理后的数据作为待反馈数据,避免数据泄露。
作为本实施例的一个可选实施例,本可选实施例进一步将基于安全策略进行数据查询,确定待反馈数据,优化为:
B1、根据安全策略中的接入安全策略对隐私计算协作请求进行接入安全验证。
在本实施例中,接入安全策略具体可以理解为对隐私计算协作请求是否符合安全要求进行判断的策略,接入安全策略可以对数据消费方一体机的互联网协议地址、用户身份等信息进行校验。
具体的,根据接入安全策略所包含的安全信息和具体策略对隐私计算协作请求进行安全验证,从而判断数据消费方一体机是否可以进行数据消费,保证数据安全;例如,对互联网协议地址进行校验时,其对应的安全策略包括预先设置的IP黑白名单,根据IP黑白名单对互联网协议地址进行校验,对于处理黑名单的互联网协议地址,校验不通过,拒绝其访问数据。通过接入安全策略对隐私计算协作请求进行安全验证,避免数据消费方一体机直接进行数据查询导致的数据泄露等问题。
B2、在验证通过后,根据隐私计算协作请求进行数据查询确定响应数据。
在本实施例中,响应数据具体可以理解为对隐私计算协作请求进行响应的数据。在验证通过后,确定隐私计算协作请求是安全的,根据隐私计算协作请求确定所需查询的数据类型,确定数据所在数据库以及数据表,进行相应查询,得到响应数据。
B3、根据安全策略中的数据安全策略对响应数据进行处理,确定待反馈数据。
在本实施例中,数据安全策略具体可以理解为对响应数据进行安全处理以保证数据安全的策略。数据安全策略可以包括敏感识别规则、脱敏规则等。
具体的,根据数据安全策略识别响应数据中是否具有敏感数据,若存在敏感数据,则可以根据脱敏规则对敏感数据进行脱敏处理,形成待反馈数据。
S408、对待反馈数据进行加密处理,得到目标数据,并将目标数据反馈给数据消费方一体机或数据协调方。
确定待反馈数据的加密处理方法,根据相应的加密处理方法对待反馈数据进行加密处理,加密处理方法可以根据数据类型、数据的敏感程度等确定,可以对敏感数据进行加密,对于非敏感数据也可以不加密。对待反馈数据进行加密处理后得到目标数据,将目标数据反馈给数据消费方一体机或数据协调方。可以预先约定好由数据消费方一体机还是数据协调方进行数据协调处理,也可以在目标合约信息中定义,将确定的目标数据反馈给进行数据协调处理的数据消费方一体机或者数据协调方。
作为本实施例的一个可选实施例,本可选实施例进一步将对待反馈数据进行加密处理,得到目标数据,优化为:
C1、根据目标合约信息中的隐私计算任务类型确定加密算法。
预先定义不同隐私计算任务类型对应的加密算法,在选择加密算法时还可以根据数据类型考虑数据的安全级别等,加密算法可以是同态加密、差分隐私、秘密分享、不经意传输、混淆电路等。在确定目标合约后,根据目标合约的目标合约信息中的隐私计算任务类型确定加密算法。
C2、根据加密算法对待反馈数据进行加密处理,得到目标数据。
根据加密算法对待反馈数据进行处理,得到的目标数据可以是加密后的密文数据,也可以是未加密的非敏感明文数据。
作为本实施例的一个可选实施例,本可选实施例进一步优化还包括对数据处理过程进行审计。
本申请实施例还提供了审计方法,数据提供方一体机可以对数据处理过程中所执行的操作进行审计记录,生成审计日志。例如,记录所接收的第一合约信息和目标合约信息、生成的第二合约信息,以及执行目标合约时查询数据的过程等。在进行审计记录时,还可以设置关键操作行为,对关键操作行为进行审计记录,生成审计日志。本申请实施例中的方法还可以通过非一体机部署方式实现。在计算资源不足时,可以自由拓展数据一体机数量,集群会自动选举master节点并分配计算资源,实现安全扩容,资源池化,即扩即用。并且可以统一各交易方的数据一体机的运行环境,做到即开即用。
需要知道的是,本申请实施例中数据一体机既可以作为数据消费方一体机,也可以作为数据提供方一体机,即对于任意交易方来说,其既可以作为数据提供方为其他交易方提供数据完成数据隐私计算,也可以作为数据消费方从其他交易方获取数据完成数据隐私计算;因此,其对应的数据一体机既可以作为数据提供方一体机,也可以作为数据消费方一体机。
示例性的,图5提供了一种数据提供方一体机进行数据处理的实现示例图,数据提供方一体机50包括:数据网关服务51、隐私计算服务52、数据平台服务53、数据库54和数据审计服务55,数据处理包括如下步骤:
1、数据消费方一体机60发起隐私计算协作请求并发送给数据提供方一体机50的数据网关服务51。
2、数据网关服务51对隐私计算协作请求进行认证鉴权,敏感接口识别等接入安全验证,在校验通过后,数据网关服务51转发隐私计算协作请求到隐私计算服务52。
3、数据提供方一体机50的隐私计算服务52根据目标合约中通过数据类型约定的待订阅数据产品,确定待订阅数据产品对应的数据源,通过数据平台服务53读取数据源对应的数据库54。
4、从数据库54中读取响应数据后,遵循数据源的分类分级规则,数据平台服务53对响应数据进行脱敏处理,得到待反馈数据,将待反馈数据返回给隐私计算服务52。
本步骤可以保障敏感数据不出库。
5、隐私计算服务52根据隐私计算任务类型确定加密算法及加密协议,对待反馈数据进行加密运算,生成目标数据。
6、隐私计算服务52将目标数据发送给数据网关服务51。
7、数据网关服务51将目标数据返回给数据消费方一体机60,目标数据为密文数据或非敏感明文数据。
8、数据审计服务55对数据处理过程中的操作进行审计,生成审计日志。
示例性的,数据审计服务55的审计可以是对S502-S504、S506步骤中的操作进行审计。需要知道的是,审计可以在执行完相应操作后即进行审计,也可以在确定目标数据后统一进行审计,本实施以在确定目标数据后统一进行审计为例。
数据消费方一体机60根据目标合约中的隐私计算任务类型,确定是否进行下一轮次的隐私计算协作过程。
示例性的,图6提供了一种实现数据处理的架构图,交易方既可以作为数据消费方一体机,也可以作为数据提供方一体机。交易方包括应用层71、算法层72、加密协议层73和基础设施层74。
应用层71主要包括数据市场711、合约管理712、模型运维713。数据市场711中可以上架数据产品,并进行数据发布,数据市场中的数据具有安全实时的特点。基于数据隐私保护的原因,数据产品中描述了数据提供方一体机的基本信息、数据源信息、数据元信息,并不包含真实的数据;数据提供方一体机定义的数据产品可发布到数据消费方一体机。合约管理712可以实现对目标合约的创建、发布、审批、管控、审计提供了全生命周期的管理。目标合约中明确了数据协作隐私计算中涉及到的数据提供方信息、隐私计算任务类型、隐私计算算法的隐私计算参数设置等信息。目标合约生效后,各参与方还可以生成相关数据交易凭证,各参与方通过数据交易凭证确保目标合约的安全执行。模型运维713对通过隐私计算平台训练出的用于实现联邦机器学习的模型提供全生命周期的模型运维能力,包括模型上线、模型发布、模型管理、模型服务管理、模型服务监控等。
算法层72基于MPC和FL技术,提供了面向联邦/安全机器学习、匿踪查询、隐私求交、联邦/安全数据分析、联邦/安全数据治理、联邦/安全数据统计等功能。
加密协议层73通过密码协议进行数据加密处理,包括:同态加密、差分隐私、秘密分享、不经意传输和混淆电路。
基础设施层74用于实现通信网络的安全设置、管理、监控等、执行引擎和数据存储。通信网络的安全设置包括:防火墙、白名单、通信加密协议等;可以依据业务场景和算法加密需求,提供多类型隐私计算任务执行引擎。
本发明实施例的数据处理方法,解决了多方协同处理数据时无法保证数据安全的问题,通过对第一合约信息进行审核确定数据安全,第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数,数据提供方一体机对第一合约信息审核后反馈第二合约信息,并接收数据消费方一体机根据第二合约信息生成并反馈的目标合约,基于目标合约的目标合约信息响应数据查询以便实现隐私计算,在保证数据安全的情况下完成数据协作处理;并且通过目标合约定义数据隐私处理流程更加方便,可直接通过修改或生成新的目标合约的方式对数据隐私处理流程进行更新,实现过程简单方便,无需部署云平台,且通过目标合约信息可以统一隐私计算标准,提高数据安全性和协调统一性。数据提供方一体机完全掌握数据的管控权,可以实现安全且精确审计。通过部署一体机结合隐私计算,协作完成数据处理,保证数据安全,部署方式简单,易于实现。
实施例五
图7为本发明实施例五提供的一种数据处理系统的结构示意图。如图7所示,该数据处理系统包括:数据消费方一体机81和数据提供方一体机82;
所述数据消费方一体机81,用于获取待处理数据类型和待订阅数据产品;根据所述待处理数据类型和待订阅数据产品确定第一合约信息,并将所述第一合约信息发送至对应的数据提供方一体机进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;接收各所述数据提供方一体机所反馈的第二合约信息,生成目标合约并将所述目标合约发送至对应的各所述数据提供方一体机;根据所述目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据所述目标数据得到数据处理结果。
所述数据提供方一体机82,用于接收数据消费方一体机所发送的第一合约信息,并对所述第一合约信息进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;在审核通过后生成第二合约信息,并向所述数据消费方一体机反馈所述第二合约信息;接收所述数据消费方一体机根据所述第二合约信息生成并反馈的目标合约;基于所述目标合约的目标合约信息对所述数据消费方一体机的查询进行响应,确定并反馈目标数据。
本申请实施例所提供的数据处理系统中所包括的数据消费方一体机81和数据提供方一体机82的数量可以是一个或者多个。每个数据消费方一体机81均可以与一个或者多个数据提供方一体机82协同进行数据隐私处理,保证数据安全。
示例性的,图8提供了一种数据处理系统中多方协作进行数据处理的实现示例图,以数据处理系统包括数据消费方一体机91、数据提供方一体机92和数据协调方93为例。其中数据提供方一体机92以一个为例。
S1、数据提供方一体机92进行数据产品的配置。
需要知道的是,数据消费方一体机91也可以进行数据产品的配置。
S2、数据提供方一体机92将数据产品发送给数据消费方一体机的数据市场,以便数据消费方一体机91在数据市场显示数据信息。
S3、数据消费方一体机91选择待处理数据类型和待订阅数据产品。
S4、数据消费方一体机91生成第一合约信息并发送至数据提供方一体机92进行合约审批,以实现合约发起。
S5、数据消费方一体机91将第一合约信息发送至数据协调方93进行合约审批。
S6、数据提供方一体机92合约审批通过后向数据消费方一体机91反馈第二合约信息。
S7、数据协调方93合约审批通过后向数据消费方一体机91反馈第三合约信息。
S8、数据消费方一体机91根据第二合约信息和第三合约信息确定目标合约信息,生成目标合约。
S9、数据消费方一体机91将目标合约发送给数据提供方一体机92。
S10、数据消费方一体机91将目标合约发送给数据协调方93。
数据提供方一体机92和数据协调方93可以对目标合约进行保存和显示。例如,数据提供方一体机92可以在显示界面中设置合约管理模块,通过在合约管理模块中显示目标合约。同理,数据协调方93也可以在合约管理模块中显示目标合约,并且,数据协调方93还可以将目标合约进行区块链上链,保证目标合约安全。
S10、数据消费方一体机91执行目标合约。
需要知道的是,数据消费方一体机91执行目标合约的过程即根据目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据目标数据得到数据处理结果的过程。
本发明实施例所提供的数据消费方一体机可执行本发明实施例一或二所提供的数据处理方法,数据提供方一体机可执行本发明实施例三或四所提供的数据处理方法,具备执行方法相应的功能模块和有益效果。
实施例六
图9示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图9所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如数据处理方法。
在一些实施例中,数据处理方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时,可以执行上文描述的数据处理方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在电子设备为数据消费方一体机的情况下,上述提供的电子设备可设置为执行上述任意实施例提供的应用于数据消费方一体机的数据处理方法,具备相应的功能和效果。
在电子设备为数据提供方一体机的情况下,上述提供的电子设备可设置为执行上述任意实施例提供的应用于数据提供方一体机的数据管理方法,具备相应的功能和效果。
本申请实施例提供的包含计算机指令的存储介质,计算机指令在由计算机处理器执行时用于执行一种应用于数据消费方一体机的数据处理方法,该方法包括:获取待处理数据类型和待订阅数据产品;根据所述待处理数据类型和待订阅数据产品确定第一合约信息,并将所述第一合约信息发送至对应的数据提供方一体机进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;接收各所述数据提供方一体机所反馈的第二合约信息,生成目标合约并将所述目标合约发送至对应的各所述数据提供方一体机;根据所述目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据所述目标数据得到数据处理结果。
本申请实施例提供的包含计算机指令的存储介质,计算机指令在由计算机处理器执行时用于执行一种应用于数据提供方一体机的数据处理方法,该方法包括:接收数据消费方一体机所发送的第一合约信息,并对所述第一合约信息进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;在审核通过后生成第二合约信息,并向所述数据消费方一体机反馈所述第二合约信息;接收所述数据消费方一体机根据所述第二合约信息生成并反馈的目标合约;基于所述目标合约的目标合约信息对所述数据消费方一体机的查询进行响应,确定并反馈目标数据。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (18)
1.一种数据处理方法,其特征在于,应用于数据消费方一体机,包括:
获取待处理数据类型和待订阅数据产品;
根据所述待处理数据类型和待订阅数据产品确定第一合约信息,并将所述第一合约信息发送至对应的数据提供方一体机进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;
接收各所述数据提供方一体机所反馈的第二合约信息,生成目标合约并将所述目标合约发送至对应的各所述数据提供方一体机;
根据所述目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据所述目标数据得到数据处理结果。
2.根据权利要求1所述的方法,其特征在于,在获取待订阅数据产品之前,还包括:
接收至少一个数据提供方一体机创建并配置的数据产品。
3.根据权利要求1所述的方法,其特征在于,接收各所述数据提供方所反馈的第二合约信息,生成目标合约,包括:
接收各所述数据提供方一体机所反馈的第二合约信息,所述第二合约信息由所述数据提供方一体机在所述第一合约信息审核通过后对所述第一合约信息配置任务信息后生成;
对各所述第二合约信息进行处理,确定目标合约信息,根据所述目标合约信息生成目标合约。
4.根据权利要求1所述的方法,其特征在于,所述根据所述目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据所述目标数据得到数据处理结果,包括:
根据所述目标合约信息中的数据类型确定所对应的至少一个数据提供方一体机和数据消费方一体机的本地数据;
根据所述隐私计算任务类型生成隐私计算协作请求并发送给对应的各所述数据提供方一体机;
获取各所述数据提供方一体机所反馈的目标数据,所述目标数据为加密处理后得到的数据;
根据所述目标合约信息中的隐私计算算法对所述目标数据和本地数据进行运算,得到数据处理结果。
5.根据权利要求1所述的方法,其特征在于,还包括:
将所述目标合约发送至数据协调方。
6.根据权利要求5所述的方法,其特征在于,所述根据所述目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据所述目标数据得到数据处理结果,包括:
根据所述目标合约信息中的数据类型确定所对应的至少一个数据提供方和数据消费方一体机的本地数据;
根据所述隐私计算任务类型生成隐私计算协作请求并发送给对应的各所述数据提供方一体机,以便各所述数据提供方一体机向所述数据协调方反馈目标数据,所述目标数据为加密处理后得到的数据;
将所述本地数据发送至所述数据协调方;
接收所述数据协调方根据所述目标合约信息中的隐私计算算法对所述目标数据和本地数据进行运算后得到并反馈的数据处理结果。
7.根据权利要求5所述的方法,其特征在于,在所述将所述目标合约发送至数据协调方之前,还包括:
将所述第一合约信息发送至所述数据协调方进行审批;
接收所述数据协调方所反馈的第三合约信息;
相应的,生成目标合约,包括:
对各所述第二合约信息和第三合约信息进行处理,确定目标合约信息,根据所述目标合约信息生成目标合约。
8.根据权利要求1-7任一项所述的方法,其特征在于,还包括:
对数据处理过程进行审计。
9.一种数据处理方法,其特征在于,应用于数据提供方一体机,包括:
接收数据消费方一体机所发送的第一合约信息,并对所述第一合约信息进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;
在审核通过后生成第二合约信息,并向所述数据消费方一体机反馈所述第二合约信息;
接收所述数据消费方一体机根据所述第二合约信息生成并反馈的目标合约;
基于所述目标合约的目标合约信息对所述数据消费方一体机的查询进行响应,确定并反馈目标数据。
10.根据权利要求9所述的方法,其特征在于,在接收数据消费方一体机所发送的第一合约信息之前,还包括:
创建并配置至少一个数据产品,将各所述数据产品发送至数据消费方一体机。
11.根据权利要求9所述的方法,其特征在于,生成第二合约信息,包括:
根据所述第一合约信息确定任务信息;
根据所述任务信息和第一合约信息生成第二合约信息。
12.根据权利要求9所述的方法,其特征在于,所述基于所述目标合约的目标合约信息对所述数据消费方一体机的查询进行响应,确定并反馈目标数据,包括:
接收所述数据消费方一体机发送的隐私计算协作请求;
基于安全策略和所述隐私计算协作请求进行数据查询,确定待反馈数据,所述安全策略根据目标合约信息配置;
对所述待反馈数据进行加密处理,得到目标数据,并将所述目标数据反馈给数据消费方一体机或数据协调方。
13.根据权利要求12所述的方法,其特征在于,所述基于安全策略进行数据查询,确定待反馈数据,包括:
根据所述安全策略中的接入安全策略对所述隐私计算协作请求进行接入安全验证;
在验证通过后,根据所述隐私计算协作请求进行数据查询确定响应数据;
根据所述安全策略中的数据安全策略对所述响应数据进行处理,确定待反馈数据。
14.根据权利要求12所述的方法,其特征在于,所述对所述待反馈数据进行加密处理,得到目标数据,包括:
根据所述目标合约信息中的隐私计算任务类型确定加密算法;
根据所述加密算法对所述待反馈数据进行加密处理,得到目标数据。
15.根据权利要求9-14中任一项所述的方法,其特征在于,还包括:
对数据处理过程进行审计。
16.一种数据处理系统,其特征在于,包括:数据消费方一体机和数据提供方一体机;
所述数据消费方一体机,用于获取待处理数据类型和待订阅数据产品;根据所述待处理数据类型和待订阅数据产品确定第一合约信息,并将所述第一合约信息发送至对应的数据提供方一体机进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;接收各所述数据提供方一体机所反馈的第二合约信息,生成目标合约并将所述目标合约发送至对应的各所述数据提供方一体机;根据所述目标合约的目标合约信息查询对应的数据提供方一体机,得到目标数据并根据所述目标数据得到数据处理结果;
所述数据提供方一体机,用于接收数据消费方一体机所发送的第一合约信息,并对所述第一合约信息进行审核,其中,所述第一合约信息至少包括:数据提供方信息、隐私计算任务类型、隐私计算任务类型所对应的数据类型和隐私计算参数;在审核通过后生成第二合约信息,并向所述数据消费方一体机反馈所述第二合约信息;接收所述数据消费方一体机根据所述第二合约信息生成并反馈的目标合约;基于所述目标合约的目标合约信息对所述数据消费方一体机的查询进行响应,确定并反馈目标数据。
17.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-15中任一项所述的数据处理方法。
18.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-15中任一项所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211664361.7A CN115795553B (zh) | 2022-12-23 | 2022-12-23 | 一种数据处理方法、系统、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211664361.7A CN115795553B (zh) | 2022-12-23 | 2022-12-23 | 一种数据处理方法、系统、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115795553A true CN115795553A (zh) | 2023-03-14 |
CN115795553B CN115795553B (zh) | 2024-02-06 |
Family
ID=85426518
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211664361.7A Active CN115795553B (zh) | 2022-12-23 | 2022-12-23 | 一种数据处理方法、系统、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115795553B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200210423A1 (en) * | 2018-12-28 | 2020-07-02 | Baidu Online Network Technology (Beijing) Co., Ltd. | Multi-party data joint query method, device, server and storage medium |
CN112561085A (zh) * | 2021-02-20 | 2021-03-26 | 支付宝(杭州)信息技术有限公司 | 一种基于多方安全计算的多分类模型训练方法和系统 |
US20210105608A1 (en) * | 2019-10-04 | 2021-04-08 | Microsoft Technology Licensing, Llc | Subscription to dependencies in smart contracts |
US20210192651A1 (en) * | 2019-12-20 | 2021-06-24 | Cambrian Designs, Inc. | System & Method for Analyzing Privacy Policies |
CN113326523A (zh) * | 2021-06-18 | 2021-08-31 | 深圳前海微众银行股份有限公司 | 一种隐私计算方法、装置及电子设备 |
CN114154199A (zh) * | 2021-12-09 | 2022-03-08 | 兴业银行股份有限公司 | 基于区块链和联邦计算的隐私数据查询方法及系统 |
CN115065461A (zh) * | 2022-05-13 | 2022-09-16 | 浪潮云信息技术股份公司 | 安全多方计算方法、系统及计算机可读介质 |
CN115495768A (zh) * | 2022-11-15 | 2022-12-20 | 金网络(北京)电子商务有限公司 | 基于区块链及多方安全计算的涉密信息处理方法及系统 |
-
2022
- 2022-12-23 CN CN202211664361.7A patent/CN115795553B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200210423A1 (en) * | 2018-12-28 | 2020-07-02 | Baidu Online Network Technology (Beijing) Co., Ltd. | Multi-party data joint query method, device, server and storage medium |
US20210105608A1 (en) * | 2019-10-04 | 2021-04-08 | Microsoft Technology Licensing, Llc | Subscription to dependencies in smart contracts |
US20210192651A1 (en) * | 2019-12-20 | 2021-06-24 | Cambrian Designs, Inc. | System & Method for Analyzing Privacy Policies |
CN112561085A (zh) * | 2021-02-20 | 2021-03-26 | 支付宝(杭州)信息技术有限公司 | 一种基于多方安全计算的多分类模型训练方法和系统 |
CN113326523A (zh) * | 2021-06-18 | 2021-08-31 | 深圳前海微众银行股份有限公司 | 一种隐私计算方法、装置及电子设备 |
CN114154199A (zh) * | 2021-12-09 | 2022-03-08 | 兴业银行股份有限公司 | 基于区块链和联邦计算的隐私数据查询方法及系统 |
CN115065461A (zh) * | 2022-05-13 | 2022-09-16 | 浪潮云信息技术股份公司 | 安全多方计算方法、系统及计算机可读介质 |
CN115495768A (zh) * | 2022-11-15 | 2022-12-20 | 金网络(北京)电子商务有限公司 | 基于区块链及多方安全计算的涉密信息处理方法及系统 |
Non-Patent Citations (2)
Title |
---|
KEKE GAI 等: "Privacy-Preserving Data Encryption Strategy for Big Data in Mobile Cloud Computing", 《IEEE TRANSACTIONS ON BIG DATA》, vol. 7, no. 4, pages 678, XP011871155, DOI: 10.1109/TBDATA.2017.2705807 * |
朱珂 等: "基于安全多方计算的BGP策略冲突检测算法", 《计算机工程与科学》, vol. 28, no. 12, pages 85 - 89 * |
Also Published As
Publication number | Publication date |
---|---|
CN115795553B (zh) | 2024-02-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Paniagua et al. | Industrial frameworks for internet of things: A survey | |
CN107807991B (zh) | 用于处理区块链数据的方法及装置 | |
EP3149583B1 (en) | Method and apparatus for automating the building of threat models for the public cloud | |
US10397213B2 (en) | Systems, methods, and software to provide access control in cloud computing environments | |
CN109683936B (zh) | 灰度发布方法及装置、存储介质及电子设备 | |
CN111400676A (zh) | 基于共享权限的业务数据处理方法、装置、设备和介质 | |
US20180025166A1 (en) | Validating computer resource usage | |
CN110601896B (zh) | 一种基于区块链节点的数据处理方法以及设备 | |
KR102569409B1 (ko) | 가상 분산 원장 네트워크를 위한 시스템 및 방법 | |
Mahallat | A trust model based on quality of service in cloud computing environment | |
WO2022156594A1 (zh) | 联邦模型训练方法、装置、电子设备、计算机程序产品及计算机可读存储介质 | |
Lahmar et al. | Multicloud service composition: a survey of current approaches and issues | |
Barati et al. | Privacy‐aware cloud ecosystems: Architecture and performance | |
Motta et al. | Cloud computing: a business and economical perspective | |
CN114969832B (zh) | 一种基于无服务器架构的隐私数据管理方法和系统 | |
CN116015840A (zh) | 一种数据操作审计方法、系统、设备及存储介质 | |
CN115795553B (zh) | 一种数据处理方法、系统、设备及存储介质 | |
US10482397B2 (en) | Managing identifiers | |
CN115860953A (zh) | 一种信息获取方法、装置、设备及存储介质 | |
CN115964726A (zh) | 机器人流程自动化数据的处理方法、装置、设备及存储介质 | |
CN115114642A (zh) | 基于链下可信计算的融资租赁核验方法、装置以及设备 | |
CN116932617A (zh) | 跨平台的数据处理方法、装置、设备和介质 | |
CN110602074B (zh) | 一种基于主从关联的业务身份使用方法、装置及系统 | |
Kuada | Trust management system for opportunistic cloud services | |
CN115906131B (zh) | 一种数据管理方法、系统、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |