CN113472538A

CN113472538A - 多方安全计算的结果隐私性检测方法、装置、设备及介质

Info

Publication number: CN113472538A
Application number: CN202111023319.2A
Authority: CN
Inventors: 黄翠婷; 卞阳
Original assignee: Fucun Technology Shanghai Co ltd
Current assignee: Fucun Technology Shanghai Co ltd
Priority date: 2021-09-02
Filing date: 2021-09-02
Publication date: 2021-10-01
Anticipated expiration: 2041-09-02
Also published as: CN113472538B

Abstract

本发明提供一种多方安全计算的结果隐私性检测方法、装置、设备及介质，所述方法包括：当某个所述参与节点作为发起方发起多方安全计算任务时，所述任一参与节点与其它参与节点一起利用各自预先配置的测试样例数据，基于多方安全计算协议执行所述发起方编写的算法逻辑，并得到相应的测试计算结果；所述任一参与节点与其它参与节点一起基于秘密共享机制计算各参与节点预先配置的所述测试样例数据与所述测试计算结果之间的相关系数；所述任一参与节点获取已方的所述测试样例数据与所述测试计算结果之间的相关系数，以便根据获取到的所述相关系数对所述算法逻辑的安全性进行判断。本发明能够实现多方安全计算的结果隐私性自动检测。

Description

多方安全计算的结果隐私性检测方法、装置、设备及介质

技术领域

本发明涉及计算机安全领域，具及涉及一种多方安全计算的结果隐私性检测方法、装置、设备及介质。

背景技术

多方安全计算（MPC）是指在无可信第三方情况下，通过多方共同参与，安全地完成某种协同计算。即在一个分布式的网络中，每个参与者都各自持有秘密输入，希望共同完成对某个函数的计算，但要求每个参与者除计算结果外均不能得到其他参与实体的任何输入信息。也就是说多方安全计算技术可以实现数据的可用不可见，获取数据使用价值，同时不泄露原始数据内容，实现数据安全与隐私保护。因此在大数据发展并立法保护的今天，多方安全计算技术变得具有巨大的商业价值。

多方安全计算在协议层面能确保输入数据和中间计算因子的隐私性，但在实际应用中更加关注的是整个计算流程以及结果的隐私性。也就是说，除了需要保证协议层面上的安全性，也需要保证应用算法层面的安全性。因为多方安全计算相关技术通常用于多个参与方之间的协同计算或统计，往往是基于底层的多方全计算算子进行组合成实际应用算法，从应用算法上来看具有多样性，因此即使底层多方安全计算算子的协议安全可以得到保证，但是参与者通过自定义复杂的计算逻辑，存在泄露某一参与方的隐私数据，或是变形后的隐私数据的风险，例如基于秘密共享来多方安全计算A+B+C-B-C，计算流程是完全遵循多方安全计算的协议，都是基于随机碎片的计算，每一个计算参与者的计算结果也是一个碎片化随机结果，没有造成隐私数据泄露，但是结果方遵循协议要求把各个参与方的计算结果合并得到最终结果,实际上却泄露了某一参与方的原始数据A，这与实际应用中所期望的不泄露任一参与方原始数据的目的相违背。

目前为了解决上述的安全问题，通常是在多方安全计算任务发起方定义好应用算法逻辑（简称算法逻辑）后，该应用算法逻辑需要通过所有参与方的审核，确保应用算法逻辑的结果不会泄露任一参与方的原始数据。只有通过所有参与方的审核确认后，该多方安全计算任务才可以运行计算。但这种方式导致每次计算任务各个参与方都需要人工参与审核，极大影响计算效率，此外某些恶意的参与方，通过把应用算法逻辑设计成一个复杂算法但最终得到的结果仍是某一输入值的原始值或是可推断的变形值，在这种情况下，人工审核往往难以直接检测出来。

发明内容

针对上述现有技术的不足，本发明的目的在于提供一种多方安全计算的结果隐私性检测方法、装置、设备及介质，以实现对多方安全计算结果的隐私性自动检测。

为了实现上述目的，本发明提供一种多方安全计算的结果隐私性检测方法，适用于分布式网络中部署的多个参与节点中的任一参与节点，所述方法包括：

当某个所述参与节点作为发起方发起多方安全计算任务时，所述任一参与节点与其它参与节点一起利用各自预先配置的测试样例数据，基于多方安全计算协议执行所述发起方编写的算法逻辑，并得到相应的测试计算结果；

所述任一参与节点与其它参与节点一起基于秘密共享机制计算各参与节点预先配置的所述测试样例数据与所述测试计算结果之间的相关系数；

所述任一参与节点获取已方的所述测试样例数据与所述测试计算结果之间的相关系数，以便根据获取到的所述相关系数对所述算法逻辑的安全性进行判断。

优选地，所述相关系数为皮尔森相关系数。

优选地，当所述任一参与节点获取到已方的所述测试样例数据与所述测试计算结果之间的相关系数之后，所述方法还包括：

所述任一参与节点根据获取到的所述相关系数，对所述算法逻辑进行自动审批、或者输出人工审批通知信息。

优选地，所述根据获取到的所述相关系数，对所述多方安全计算任务进行自动审批、或者输出人工审批通知信息，包括：

当获取到的所述相关系数大于预设的上限值时，将所述算法逻辑自动审批为审批不通过；

当获取到的所述相关系数小于预设的下限值时，将所述算法逻辑自动审批为审批通过；

当获取到的所述相关系数介于所述下限值与所述上限值之间时，输出所述人工审批通知信息。

优选地，所述方法还包括：

所述任一参与节点根据已方的所述测试样例数据与对应的所述测试计算结果绘制相应的曲线。

为了实现上述目的，本发明还提供一种多方安全计算的结果隐私性检测装置，适用于分布式网络中部署的多个参与节点中的任一参与节点，所述装置包括：

测试模块，用于当某个所述参与节点作为发起方发起多方安全计算任务时，与其它参与节点一起利用各自预先配置的测试样例数据，基于多方安全计算协议执行所述发起方编写的算法逻辑，并得到相应的测试计算结果；

相关系数计算模块，用于与其它参与节点一起基于秘密共享机制计算各参与节点预先配置的所述测试样例数据与所述测试计算结果之间的相关系数；

相关系数获取模块，用于获取已方的所述测试样例数据与所述测试计算结果之间的相关系数，以便根据获取到的所述相关系数对所述算法逻辑的安全性进行判断。

优选地，所述相关系数为皮尔森相关系数。

优选地，所述装置还包括：

审批模块，用于在获取到已方的所述测试样例数据与所述测试计算结果之间的相关系数之后，根据获取到的所述相关系数，对所述算法逻辑进行自动审批、或者输出人工审批通知信息。

优选地，所述审批模块具体用于：

优选地，所述装置还包括：

曲线绘制模块，用于根据已方的所述测试样例数据与对应的所述测试计算结果绘制相应的曲线。

为了实现上述目的，本发明还提供一种电子设备，包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现前述方法的步骤。

为了实现上述目的，本发明还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现前述方法的步骤。

通过采用上述技术方案，本发明具有如下有益效果：

在本发明中，当某个所述参与节点作为发起方发起多方安全计算任务时，各参与节点首先利用各自预先配置的测试样例数据，基于多方安全计算协议执行所述发起方编写的算法逻辑，得到相应的测试计算结果；而后各参与节点基于秘密共享机制计算各参与节点预先配置的所述测试样例数据与所述测试计算结果之间的相关系数；最后各参与节点分别获取已方的所述测试样例数据与所述测试计算结果之间的相关系数，以便根据获取到的所述相关系数对所述算法逻辑的安全性进行判断。其中，相关系数的绝对值越大，说明测试样例数据与所述测试计算结果之间的相关性越高，则对应参与方的隐私数据泄露风险也越高；相关系数的绝对值越小，说明测试样例数据与所述测试计算结果之间的相关性越低，则对应参与方的隐私数据泄露风险也越低，因而根据所述相关系数即可得到所述多方安全计算任务的结果隐私性情况。

附图说明

图1为本发明实施例1提供的多方安全计算的结果隐私性检测方法的流程图；

图2为本发明实施例1提供的多方安全计算的结果隐私性检测方法的时序图；

图3为本发明实施例2提供的多方安全计算的结果隐私性检测装置的结构框图；

图4为本发明实施例3提供的电子设备的硬件架构图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

在本发明使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本公开。在本公开和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

实施例1

本实施例提供一种多方安全计算（MPC）的结果隐私性检测方法，适用于分布式网络中部署的多个参与节点中的任一参与节点，各参与节点可以根据各自持有的隐私数据共同参与多方安全计算。如图1和2所示，该方法具体包括以下步骤：

S1，当某个所述参与节点作为发起方发起多方安全计算任务时，所述任一参与节点与其它参与节点一起利用各自预先配置的测试样例数据，基于多方安全计算协议执行所述发起方编写的算法逻辑，得到测试计算结果。

在本实施例中，每个参与节点预先分别配置有用于结果隐私性检测的测试样例数据，该测试样例数据为经过ID脱敏的数据。

当某个所述参与节点作为MPC任务发起方而发起多方安全计算任务时，会根据实际多方联合分析需求编写基于平台提供的基础多方安全算子（例如：加、减、乘、除、比较、最大值、最小值的基础运算）的算法逻辑。

当算法逻辑编写完成后，各参与节点利用各自预先配置的测试样例数据，基于多方安全计算协议执行所述算法逻辑，以实现对所述算法逻辑的测试，并得到相应的测试计算结果。

S2，所述任一参与节点与其它参与节点一起基于秘密共享（Secret Share，SS ）机制计算各参与节点预先配置的所述测试样例数据与所述测试计算结果之间的相关系数。

在本实施例中，相关系数优选为皮尔森相关系数，其主要通过将测试样例数据与对应测试计算结果进行皮尔森相关性计算得到。具体地，皮尔森相关系数计算公式如下：

其中，

表示皮尔森相关系数，

表示用于对算法逻辑进行测试的测试样例数据，Y表示与

对应的测试计算结果，

表示

与Y的协方差，

和

分别是

与Y各自的标准差。

根据上述公式计算得到的相关系数的取值范围为-1到1。应该理解，相关系数的绝对值越大，说明测试样例数据与所述测试计算结果之间的相关性越高，则对应参与方的隐私数据泄露风险也越高；相关系数的绝对值越小，说明测试样例数据与所述测试计算结果之间的相关性越低，则对应参与方的隐私数据泄露风险也越低，因而根据所述相关系数即可得到所述算法逻辑的安全性（即结果隐私性）情况。

在本实施例中，由于各参与节点的所述测试样例数据与所述测试计算结果之间的相关系数是基于秘密共享机制计算得到的，即所述测试样例数据以随机碎片的密态方式参与跨节点计算，因而能够确保所述测试样例数据不出对应的参与方节点，不会泄漏原始数据。

S3，所述任一参与节点获取已方的所述测试样例数据与所述测试计算结果之间的相关系数。

在本实施例中，各参与节点只能获取已方的所述测试样例数据与所述测试计算结果之间的相关系数，而无法获取其它参与节点的所述测试样例数据与所述测试计算结果之间的相关系数，进一步增强了整个流程的安全性。

S4，所述任一参与节点根据获取到的相关系数，对所述算法逻辑进行自动审批、或者输出人工审批通知信息。

具体地，当所述相关系数大于预设的上限值（如0.9）时，相应参与节点将所述算法逻辑自动审批为审批不通过；当所述相关系数小于预设的下限值（如0.5）时，相应参与节点将所述算法逻辑自动审批为审批通过；当所述相关系数介于所述下限值与所述上限值之间时，相应参与节点输出所述人工审批通知信息，以提示人工对算法逻辑的代码进行审批。

此外，各参与节点也可以设置为无论得到的相关系数的大小如何，均需要进行人工审批，在进行人工审批时，审批人员可以结合算法逻辑的代码、以及对应的相关系数，对多方安全计算任务进行审批，相关系数用于提供指导。在本实施例中，只有算法逻辑在所有参与节点均审批通过后，发起方才可以执行基于各方真实数据的相应多方安全计算任务，以得到基于各参与节点的真实数据的计算结果。

此外，本实施例中各参与节点在获得测试计算结果Y后，进而可以基于测试计算结果Y和己方参与计算的特征变量

（即测试样例数据），绘制相应的曲线，其中横坐标为数组序列号，纵坐标为各个特征变量对应的值以及测试计算结果，将这些离散的点相连构建出曲线。这些构建出来的曲线，会在算法逻辑审核过程中，进行可视化展示，便于人工审批过程能够更加直观的看到测试计算结果与对应的测试样例数据之间的相互关系。

为了验证本实施例的可行性，采用了模拟数据进行结果隐私性验证。具体数据如下表所示：其中A，B，C分别模拟三个MPC节点提供的参与计算原始数据；A+B、A+B+C、A+B-B、A/100、A*A、A+10、A*B*C、A>=B为模拟的基于A、B、C三个节点原始数据进行的MPC任务应用算法逻辑，其中A+B-B、A/100、A*A、A+10通过多次运算或是平移等方式会造成A的信息泄露。

通过对A与各个应用算法逻辑得到的计算结果之间进行相关系数计算，得到的结果分别如下：A vs B：相关系数为-0.28475；A vs A+B：相关系数为0.559442；A vs A+B+C：相关系数为0.447242；A vs A+B-B：相关系数为1；A vs A/100：相关系数为1；A vs A*A：相关系数为0.963863；A vs A+10：相关系数为1；A vs A*B*C：相关系数为0.114783；A vs A>=B: 相关系数为0.757373。

验证结果表明，会造成高风险泄露或反推参与计算数据A的应用算法逻辑的相关系数均接近1，符合本实施例的预期效果，即，根据所述相关系数即可得到多方安全计算任务的结果隐私性情况。

此外，本发明中相关系数的计算基于秘密共享协议实现，是以原始测试数据碎片化的方式进行协同计算，不会泄露原始测试数据，而且计算所得的相关系数，各个参与节点只能获取本方提供的测试样例数据对应的相关系数，无法获取其他参与节点提供的测试样例数据对应的相关系数，进一步增强了整个流程的安全性。同时，相关系数的计算是直接基于协同计算、根据测试计算结果与相应测试数据实现，不依赖于具体的任务算法逻辑和计算流程，实现与实际应用算法逻辑的松耦合，可以具有更广泛的适用性和通用性。

实施例2

本实施例提供一种多方安全计算的结果隐私性检测装置，适用于分布式网络中部署的多个参与节点中的任一参与节点，如图3所示，所述装置包括：

测试模块11，用于当某个所述参与节点作为发起方发起多方安全计算任务时，与其它参与节点一起利用各自预先配置的测试样例数据，基于多方安全计算协议执行所述发起方编写的算法逻辑，并得到相应的测试计算结果；

相关系数计算模块12，用于与其它参与节点一起基于秘密共享机制计算各参与节点预先配置的所述测试样例数据与所述测试计算结果之间的相关系数；

相关系数获取模块13，用于获取已方的所述测试样例数据与所述测试计算结果之间的相关系数，以便根据获取到的所述相关系数对所述算法逻辑的安全性进行判断。

优选地，所述相关系数为皮尔森相关系数。

优选地，所述装置还包括：审批模块14，用于在获取到已方的所述测试样例数据与所述测试计算结果之间的相关系数之后，根据获取到的所述相关系数，对所述算法逻辑进行自动审批、或者输出人工审批通知信息。

优选地，所述审批模块具体用于：

优选地，所述装置还包括：

根据本实施例得到的相关系数能够反映测试样例数据与对应的测试计算结果之间的相关性，相关系数的绝对值越大，说明测试样例数据与所述测试计算结果之间的相关性越高，则对应参与方的隐私数据泄露风险也越高；相关系数的绝对值越小，说明测试样例数据与所述测试计算结果之间的相关性越低，则对应参与方的隐私数据泄露风险也越低，因而根据所述相关系数即可得到所述算法逻辑的结果隐私性情况。

对于装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本发明方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

实施例3

本实施例提供一种电子设备，电子设备可以通过计算设备的形式表现（例如可以为服务器设备），包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其中处理器执行计算机程序时可以实现实施例1提供的多方安全计算的结果隐私性检测方法。

图4示出了本实施例的硬件结构示意图，如图4所示，电子设备9具体包括：

至少一个处理器91、至少一个存储器92以及用于连接不同系统组件（包括处理器91和存储器92）的总线93，其中：

总线93包括数据总线、地址总线和控制总线。

存储器92包括易失性存储器，例如随机存取存储器（RAM）921和/或高速缓存存储器922，还可以进一步包括只读存储器（ROM）923。

存储器92还包括具有一组（至少一个）程序器924的程序/实用工具925，这样的程序器924包括但不限于：操作系统、一个或者多个应用程序、其它程序器以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

处理器91通过运行存储在存储器92中的计算机程序，从而执行各种功能应用以及数据处理，例如本发明实施例1所提供的多方安全计算的结果隐私性检测方法。

电子设备9进一步可以与一个或多个外部设备94（例如键盘、指向设备等）通信。这种通信可以通过输入/输出（I/O）接口95进行。并且，电子设备9还可以通过网络适配器96与一个或者多个网络（例如局域网（LAN），广域网（WAN）和/或公共网络，例如因特网）通信。网络适配器96通过总线93与电子设备9的其它器通信。应当明白，尽管图中未示出，可以结合电子设备9使用其它硬件和/或软件器，包括但不限于：微代码、设备驱动器、冗余处理器、外部磁盘驱动阵列、RAID（磁盘阵列）系统、磁带驱动器以及数据备份存储系统等。

应当注意，尽管在上文详细描述中提及了电子设备的若干单元/器或子单元/器，但是这种划分仅仅是示例性的并非强制性的。实际上，根据本申请的实施方式，上文描述的两个或更多单元/器的特征和功能可以在一个单元/器中具体化。反之，上文描述的一个单元/器的特征和功能可以进一步划分为由多个单元/器来具体化。

实施例6

本实施例提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现实施例1所提供的多方安全计算的结果隐私性检测方法的步骤。

其中，可读存储介质可以采用的更具体可以包括但不限于：便携式盘、硬盘、随机存取存储器、只读存储器、可擦拭可编程只读存储器、光存储器件、磁存储器件或上述的任意合适的组合。

在可能的实施方式中，本发明还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行实现实施例1所述的多方安全计算的结果隐私性检测方法的步骤。

其中，可以以一种或多种程序设计语言的任意组合来编写用于执行本发明的程序代码，所述程序代码可以完全地在用户设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户设备上部分在远程设备上执行或完全在远程设备上执行。

虽然以上描述了本发明的具体实施方式，但是本领域的技术人员应当理解，这仅是举例说明，本发明的保护范围是由所附权利要求书限定的。本领域的技术人员在不背离本发明的原理和实质的前提下，可以对这些实施方式做出多种变更或修改，但这些变更和修改均落入本发明的保护范围。

Claims

1.一种多方安全计算的结果隐私性检测方法，适用于分布式网络中部署的多个参与节点中的任一参与节点，其特征在于，所述方法包括：

2.根据权利要求1所述的多方安全计算的结果隐私性检测方法，其特征在于，所述相关系数为皮尔森相关系数。

3.根据权利要求1所述的多方安全计算的结果隐私性检测方法，其特征在于，当所述任一参与节点获取到已方的所述测试样例数据与所述测试计算结果之间的相关系数之后，所述方法还包括：

4.根据权利要求3所述的多方安全计算的结果隐私性检测方法，其特征在于，所述根据获取到的所述相关系数，对所述多方安全计算任务进行自动审批、或者输出人工审批通知信息，包括：

5.根据权利要求1所述的多方安全计算的结果隐私性检测方法，其特征在于，所述方法还包括：

6.一种多方安全计算的结果隐私性检测装置，适用于分布式网络中部署的多个参与节点中的任一参与节点，其特征在于，所述装置包括：

7.根据权利要求6所述的多方安全计算的结果隐私性检测装置，其特征在于，所述相关系数为皮尔森相关系数。

8.根据权利要求6所述的多方安全计算的结果隐私性检测装置，其特征在于，所述装置还包括：

9.根据权利要求8所述的多方安全计算的结果隐私性检测装置，其特征在于，所述审批模块具体用于：

10.根据权利要求6所述的多方安全计算的结果隐私性检测装置，其特征在于，所述装置还包括：

11.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至5中任一项所述方法的步骤。

12.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至5中任一项所述方法的步骤。