CN115048676B - 隐私计算应用中的安全智能校验方法及相关装置 - Google Patents
隐私计算应用中的安全智能校验方法及相关装置 Download PDFInfo
- Publication number
- CN115048676B CN115048676B CN202210967050.1A CN202210967050A CN115048676B CN 115048676 B CN115048676 B CN 115048676B CN 202210967050 A CN202210967050 A CN 202210967050A CN 115048676 B CN115048676 B CN 115048676B
- Authority
- CN
- China
- Prior art keywords
- calculation formula
- mathematical calculation
- determining
- mathematical
- task
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Computational Mathematics (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Bioethics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Operations Research (AREA)
- Algebra (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Medical Informatics (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Storage Device Security (AREA)
Abstract
本申请实施例公开了一种隐私计算应用中的安全智能校验方法及相关装置，应用于多方计算系统，多方计算系统包括多个参与方，该方法包括：在单次任务校验模式下，将多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式，将第一数学计算公式进行第一简化处理，得到第二数学计算公式，根据预设比例阈值对第二数学计算公式进行第二简化处理，得到第三数学计算公式，根据第三数学计算公式统计多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量，根据多个特征数量确定单次校验模式的校验结果。采用本申请实施例可以提升隐私计算安全性。
Description
技术领域
本申请涉及隐私计算技术领域以及计算机技术领域，具体涉及一种隐私计算应用中的安全智能校验方法及相关装置。
背景技术
随着隐私保护方面法律、法规的日趋严格，越来越多的公司采用隐私计算在“数据不出本地”的前提下释放自身数据的价值。隐私计算是一类技术方案的合集，包括了联邦学习（federated learning，FL），多方安全计算(secure multi-party computation，MPC)，可信计算（trusted execution environment，TEE）等，在处理和分析计算数据的过程中能保持数据不透明、不泄露、无法被计算方法以及其他非授权方获取。然而，很多隐私计算的技术仅保证了计算过程的安全性，而无法保证计算结果的安全性，给使用者以虚假的安全感，即在计算的过程中，隐私数据是无泄露的，但获得计算结果的一方可由本次计算的结果和本方已知数据推测出其他参与方的数据。因此，如何提升隐私计算安全性的问题亟待解决。
发明内容
本申请实施例提供了一种隐私计算应用中的安全智能校验方法及相关装置，可以提升隐私计算的安全性。
第一方面，本申请实施例提供一种隐私计算应用中的安全智能校验方法，应用于多方计算系统，所述多方计算系统包括多个参与方；所述方法包括：
在单次任务校验模式下，将所述多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式；
将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式；
根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式；
根据所述第三数学计算公式统计所述多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量；
根据所述多个特征数量确定所述单次校验模式的校验结果。
第二方面，本申请实施例提供了一种多方计算装置，应用于多方计算系统，所述多方计算系统包括多个参与方；所述装置包括：简化处理单元、统计单元和确定单元，其中，
所述简化处理单元，用于在单次任务校验模式下，将所述多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式；将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式；根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式；
所述统计单元，用于根据所述第三数学计算公式统计所述多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量；
所述确定单元，用于根据所述多个特征数量确定所述单次校验模式的校验结果。
第三方面，本申请实施例提供一种电子设备，包括处理器、存储器、通信接口以及一个或多个程序，其中，上述一个或多个程序被存储在上述存储器中，并且被配置由上述处理器执行，上述程序包括用于执行本申请实施例第一方面中的步骤的指令。
第四方面，本申请实施例提供了一种计算机可读存储介质，其中，上述计算机可读存储介质存储用于电子数据交换的计算机程序，其中，上述计算机程序使得计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。
第五方面，本申请实施例提供了一种计算机程序产品，其中，上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，上述计算机程序可操作来使计算机执行如本申请实施例第一方面中所描述的部分或全部步骤。该计算机程序产品可以为一个软件安装包。
实施本申请实施例，具备如下有益效果：
可以看出，本申请实施例中所描述的隐私计算应用中的安全智能校验方法及相关装置，应用于多方计算系统，多方计算系统包括多个参与方；在单次任务校验模式下，将多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式，将第一数学计算公式进行第一简化处理，得到第二数学计算公式，根据预设比例阈值对第二数学计算公式进行第二简化处理，得到第三数学计算公式，根据第三数学计算公式统计多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量，根据多个特征数量确定单次校验模式的校验结果，一方面，可以简化隐私计算过程，提升隐私计算效率，另一方面，通过校验结果可以智能化自动发现隐私计算算法逻辑中存在的隐私数据泄露风险，提升隐私计算安全性。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种用于实现隐私计算应用中的安全智能校验方法的多方计算系统的架构示意图；
图2是本申请实施例提供的一种隐私计算应用中的安全智能校验方法的流程示意图；
图3是本申请实施例提供的另一种隐私计算应用中的安全智能校验方法的流程示意图；
图4是本申请实施例提供的一种电子设备的结构示意图；
图5是本申请实施例提供的一种隐私计算应用中的安全智能校验装置的功能单元组成框图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其他步骤或单元。
在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。
本申请实施例所描述计算节点可以为电子设备，电子设备可以包括智能手机（如Android手机、iOS手机、Windows Phone手机等）、平板电脑、掌上电脑、行车记录仪、服务器、笔记本电脑、移动互联网设备（MID，Mobile Internet Devices）或穿戴式设备（如智能手表、蓝牙耳机）等，上述仅是举例，而非穷举，包含但不限于上述电子设备，该电子设备也可以为云服务器，或者，该电子设备也可以为计算机集群。本申请实施例中，结果方、发送方均可以为上述电子设备。
下面对本申请实施例进行详细介绍。
实际应用中，隐私计算会存在如下问题，两个参与方A、B分别拥有隐私数据a和b。则A和B利用MPC技术计算出了a与b的和，则获得该结果的一方减去本方数据即可推断出另一方的隐私数据。
相关技术中，解决上述问题的方法多是加上一层人工审核，即发起运算的一方（通常也是获得结果的一方）将计算逻辑发送给参与方审核，参与方审核计算逻辑不会暴漏原始数据后再进行运算。该方法存在两个问题，一个是发起方的计算逻辑暴露，在很多场景下是不合适的，如银行的信用评分计算公式，如果暴露，可能会对银行的风控系统产生暴露风险；另一个是很依赖参与方本身的能力，容易误判。此外也无法解决多次任务联合推断出隐私数据的情况。
为了解决相关技术中的缺陷，请参阅图1，图1是本申请实施例提供的一种用于实现隐私计算应用中的安全智能校验方法的多方计算系统的架构示意图，如图所示，本多方计算系统可以多个参与方；基于该多方计算系统可以实现如下功能：
在单次任务校验模式下，将所述多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式；
将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式；
根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式；
根据所述第三数学计算公式统计所述多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量；
根据所述多个特征数量确定所述单次校验模式的校验结果。
可选的，在所述将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式，包括：
对所述第一数学计算公式进行预设操作，得到所述第二数学计算公式，所述预设操作包括以下至少一种：合并同类项、括号展开、消元。
可选的，所述根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式，包括：
提取所述第二数学计算公式中的变量的系数，得到多个第一系数；
确定所述多个第一系数中每一系数的绝对值，得到多个绝对值，从所述多个绝对值中选取出最大绝对值；
将所述多个绝对值均与所述最大绝对值进行除法运算，得到多个第二系数；
将所述多个第二系数中小于所述预设比例阈值的第二系数对应的第一系数赋值为0，整理所述第二数学计算公式，得到所述第三数学计算公式。
可选的，所述根据所述多个特征数量确定所述单次校验模式的校验结果，包括：
确定所述多个特征数量中的每一特征数量对应的对象标签，所述对象标签包括以下至少一种：结果方、参与方；
在存在除所述结果方以外，只有一个参与方的一个特征参与运算，则阻止本次运算，确定单次任务校验失败，否则，进行计算，并确定所述单次任务校验通过，所述结果方为所述多个参与方中的一个参与方。
可选的，在所述单次任务校验通过时，还可以执行如下功能：
在多次任务校验模式下，读取至少一次被校验成功的历史单次任务的数学计算公式，得到至少一个数学计算公式；
将所述第三数学计算公式和所述至少一个数学计算公式组成方程组；
确定所述方程组中的变量的解，得到P个解集合，每一解集合对应一个变量，P为大于或等于1的整数；
根据所述P个解集合确定所述多次任务校验模式的校验结果。
可选的，所述根据所述P个解集合确定所述多次任务校验模式的校验结果，包括：
在所述P个解集合中存在Q个解集合是唯一解时，则阻止运算，确定多次任务校验失败，Q为小于或等于P的正整数；
在所述P个解集合中的任一解集合均不是唯一解时，继续执行运算，确定所述多次任务校验成功。
其中，上述功能可以由多方计算系统中的至少一个参与方实施。
请参阅图2，图2是本申请实施例提供的一种隐私计算应用中的安全智能校验方法的流程示意图，应用于图1所示的多方计算系统，所述多方计算系统包括多个参与方；如图所示，本隐私计算应用中的安全智能校验方法包括：
201、在单次任务校验模式下，将所述多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式。
其中，本申请实施例中，多方计算系统可以包括多个参与方，该多个参与方中包括一个发起方，结果方可以为多个参与方中的一个参与方或者多个参与方，例如，4个参与方中的一个参与方或者2个参与方可以作为结果方。
具体实现中，在单次任务校验模式下，则可以将多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式，即可以基于多个参与方的本地数据，基于用户的隐私计算的目的，获取相应的隐私数据间的计算逻辑形式，将隐私数据间的计算逻辑形式转化为第一数学计算公式。
举例说明下，银行A和电商B利用隐私计算技术联合构建了一个评分卡模型用于评估用户的违约风险，这里面假设银行A提供了用户年龄、性别、银行储蓄金额等特征，电商B提供了用户消费评级、近一个月消费金额等特征，在预测阶段，银行A要利用评分卡模型的计算公式（用户年龄、性别、银行储蓄金额、用户消费评级、近一个月消费金额间的一个计算逻辑）来评估新用户的信用评分。电商B会担忧银行是否真的使用了评分卡计算公式，或者，评分卡的计算公式是否会暴漏自身的特征信息；银行A也不愿直接将评分卡计算公式交给电商B审核，信用评分计算公式如果暴露，可能会对银行的风控系统产生暴露风险。本申请实施例中的方案则可在银行A本地完成智能校验。
实际应用中，计算逻辑可以为用户年龄、性别、银行储蓄金额、用户消费评级、近一个月消费金额间的一个评分卡计算公式，假设为：“用户年龄+性别+银行储蓄金额+用户消费评级+近一个月消费金额”，但这些不便于后面判断特征来源，一种可行的方法是将特征名前加上特征来源，即将计算逻辑形式化为“A_用户年龄+A_性别+A_银行储蓄金额+B_用户消费评级+B_近一个月消费金额”，并且为了让计算机能够只进行化简操作而不计算结果，即化简为符号计算，计算结果为数值计算，需将其抽离原始数据，只进行逻辑上的化简，一种可行的方法是将特征名形式化为数学符号，即“symbols（A_用户年龄）+symbols（A_性别）+symbols（A_银行储蓄金额）+symbols（B_用户消费评级）+symbols（B_近一个月消费金额）”。
202、将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式。
具体实现中，可以将第一数学计算公式进行第一简化处理，得到第二数学计算公式，例如，可以将第一数学计算公式进行合并同类项，得到第二数学计算公式，又例如，在第一数学计算公式存在括号的情况下，也可以第一数学计算公式进行括号展开，得到第二数学计算公式。
可选的，上述步骤202，将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式，可以按照如下方式实施：
对所述第一数学计算公式进行预设操作，得到所述第二数学计算公式，所述预设操作包括以下至少一种：合并同类项、括号展开、消元。
具体实现中，预设操作可以预先设置或者系统默认。预设操作可以包括以下至少一种：合并同类项、括号展开、消元等等，在此不再赘述。
具体的，可以对第一数学计算公式进行预设操作，得到第二数学计算公式，从而，达到简化数学计算公式的目的，有助于提升后续运算效率。
203、根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式。
其中，预设比例阈值可以预先设置或者系统默认。可以获取第二数学计算公式中每一变量的系数，基于预设比例阈值可以将其中的部分系数进行消除，进而，达到进一步简化数学计算公式的目的，有助于提升后续运算效率。
可选的，上述步骤203，根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式，可以包括如下步骤：
31、提取所述第二数学计算公式中的变量的系数，得到多个第一系数；
32、确定所述多个第一系数中每一系数的绝对值，得到多个绝对值，从所述多个绝对值中选取出最大绝对值；
33、将所述多个绝对值均与所述最大绝对值进行除法运算，得到多个第二系数；
34、将所述多个第二系数中小于所述预设比例阈值的第二系数对应的第一系数赋值为0，整理所述第二数学计算公式，得到所述第三数学计算公式。
本申请实施例中，举例说明下，ax+by=1，a、b为常数，则x和y可以称之为变量，由于变量是未知的，因此，变量也可以称之为未知数。
具体实现中，则可以提取第二数学计算公式中的变量的系数，得到多个第一系数，确定多个第一系数中每一系数的绝对值，得到多个绝对值，从多个绝对值中选取出最大绝对值，再将多个绝对值均与最大绝对值进行除法运算，得到多个第二系数，最后可以将多个第二系数中小于预设比例阈值的第二系数对应的第一系数赋值为0，整理第二数学计算公式，即将第二数学计算公式中为0的项进行合并，得到第三数学计算公式，如此，可以简化数学计算公式。
204、根据所述第三数学计算公式统计所述多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量。
具体实现中，可以基于第三数学计算公式统计多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量，其中，特征数量可以理解为每一方剩余的标签数量。
本申请实施例中，每一参与方均有相应的本地数据，本地数据均可以为一个数据集合，该数据集合可以包括多条数据组，每一数据组可以包括多个数据，每一数据可以对应一个特征，每一数据可以理解为一个信息字段，其用于表述特征的内容，特征可以包括以下至少一种：性别、年龄、收入水平、消费水平、消费金额、储蓄金额、贷款金额等等，在此不做限定。
具体的，基于上述例子，第三数学计算公式中，以"A_"开头的数学符号则来自A方，以"B_"开头的数学符号来自B方，分别统计"A_"开头和"B_"开头数学符号数量，即为每一参与方中参与运算的特征数量，上述例子中A方3个，B方2个。
205、根据所述多个特征数量确定所述单次校验模式的校验结果。
其中，不同的特征数量则可以看出隐私计算的安全性，进而，基于多个特征数量可以确定单次校验模式的校验结果，该校验结果要么为校验成功，要么为校验失败。利用校验结果则可以识别隐私计算算法逻辑中是否存在隐私数据泄露风险，进而，提升隐私计算的安全性。
本申请实施例中，可以智能化自动发现隐私计算算法逻辑中存在的隐私数据泄露风险，提升隐私计算安全性。
可选的，上述步骤205，根据所述多个特征数量确定所述单次校验模式的校验结果，可以包括如下步骤：
51、确定所述多个特征数量中的每一特征数量对应的对象标签，所述对象标签包括以下至少一种：结果方、参与方；
52、在存在除所述结果方以外，只有一个参与方的一个特征参与运算时，则阻止本次运算，确定单次任务校验失败，否则，进行计算，并确定所述单次任务校验通过，所述结果方为所述多个参与方中的一个参与方。
具体实现中，不同的参与方其扮演的角色不一样，不同的角色可以对应不同的对象标签，对象标签可以包括以下至少一种：结果方、参与方。
具体的，可以确定多个特征数量中的每一特征数量对应的对象标签，对象标签包括以下至少一种：结果方、参与方。在存在除结果方以外，只有一个参与方的一个特征参与运算，则阻止本次运算，确定单次任务校验失败，否则，进行计算，并确定单次任务校验通过，结果方为多个参与方中的一个参与方，在单次任务校验失败时，则说明隐私计算算法逻辑中存在的隐私数据泄露风险，可以进行阻止运算，从而达到隐私保护的目的，有助于提升隐私计算的安全性，反之，在单次任务校验成功时，则说明隐私计算算法逻辑中不存在的隐私数据泄露风险，可以继续进行运算，保证隐私计算安全进行，从而，保证隐私计算安全性。
进一步的，可选的，在所述单次任务校验通过时，还可以包括如下步骤：
S1、在多次任务校验模式下，读取至少一次被校验成功的历史单次任务的数学计算公式，得到至少一个数学计算公式；
S2、将所述第三数学计算公式和所述至少一个数学计算公式组成方程组；
S3、确定所述方程组中的变量的解，得到P个解集合，每一解集合对应一个变量，P为大于或等于1的整数；
S4、根据所述P个解集合确定所述多次任务校验模式的校验结果。
本申请实施例中，还可以深度考虑多次任务校验模式，该多次任务校验模式需要建立在单次任务校验模式校验成功的情况下。
具体的，在多次任务校验模式下，可以读取至少一次被校验成功的历史单次任务的数学计算公式，得到至少一个数学计算公式，再将第三数学计算公式和至少一个数学计算公式组成方程组，可以确定方程组中的变量的解，得到P个解集合，P为大于或等于1的整数，每一解集合对应一个变量，每一解集合可以包括一个或者多个解，最后，可以根据P个解集合确定多次任务校验模式的校验结果，解集合的唯一性则可以用于识别隐私计算算法逻辑中是否存在隐私数据泄露风险，进而，保证隐私计算的安全性。解集合的唯一性可以理解为一个解集合中是否有且仅有一个解。
可选的，上述步骤S4，根据所述P个解集合确定所述多次任务校验模式的校验结果，可以包括如下步骤：
S41、在所述P个解集合中存在Q个解集合是唯一解时，则阻止运算，确定多次任务校验失败，Q为小于或等于P的正整数；
S42、在所述P个解集合中的任一解集合均不是唯一解时，继续执行运算，确定所述多次任务校验成功。
本申请实施例中，在P个解集合中存在Q个解集合是唯一解，则说明隐私计算算法逻辑中存在的隐私数据泄露风险，则阻止运算，确定多次任务校验失败，当然，还可以进行预警操作，以提示用户安全性，在P个解集合中的任一解集合均不是唯一解时，即每一个解集合均包括2个或者2个以上的解，则说明隐私计算算法逻辑中不存在的隐私数据泄露风险，继续执行运算，确定多次任务校验成功，保证隐私计算安全进行，从而，保证隐私计算安全性。
进一步的，还可以在多次任务校验成功时，保存记录信息，该记录信息可以包括参与方所有特征对应的参数系数，本次没有参与运算的参数系数记为0，其中，可以将本次任务记录在本地或者区块链上。
实际应用中，要实现应用安全的校验，主要的难点是潜在的计算逻辑多种多样很难考虑全面，如可能是线性运算，也可能是非线性运算；可能单次运算就可以推断出隐私数据，也可能要多次运算才可以。并且可能存在很多冗余运算，风险不易察觉，如非隐私数据和0（或者很小的数）做乘法去推测隐私数据；隐私数据加上一个数据再减去一个数据等。本申请实施例中，则可以通过将隐私数据泄露的问题形式化为“运算过程中，某个变量只有唯一解”的数学问题，利用计算机程序化简计算逻辑，从而很容易判断单次任务是否会泄露隐私数据。另一方面，本申请实施例中，记录历史任务，同样利用计算机程序预求解方程组，判断是否存在某个变量只有唯一解。
举例说明下，具体实现过程：考虑如下场景，隐私计算过程中有一个运算发起方和n个运算参与方，n为正整数，其中，发起方和参与方均可能有多个特征参与运算，则隐私泄露问题转变为，某个参与方的某个或某些特征会被推测出来。本申请实施例中，可分为单次任务校验和多次任务校验，其中，单次任务智能化校验流程如下步骤：
A1、将计算隐私数据间的计算逻辑形式化为数学符号计算，即数学计算公式；
A2、利用计算机程序化简数学计算公式，即化简数学符号的计算逻辑，主要手段可以包括合并同类项，括号展开，消元等等；
A3、提取化简后数学计算公式中变量对应的系数，并计算出绝对值最大的系数，记为最大系数；
A4、将所有系数除以最大系数；
A5、设置比例阈值，步骤A4中结果系数绝对值小于该阈值则认为系数为0，在化简后的数学计算公式中消除该项；
A6、基于步骤A5中的数学计算公式，统计每个参与方中参与运算的特征数量；
A7、在通过特征数量观察到除了结果方，如果只有一个参与方的一个特征参与运算时，则阻止此次运算，确认校验失败，否则，可进行计算，确认校验通过。
进一步的，多次任务校验流程可以包括如下步骤：
B1、执行单次任务验证流程；
B2、如果单次任务验证未通过，则阻止此次运算；
B3、如果单次任务验证通过，则读取历史任务，利用计算机程序判断历史任务组成的方程组解的情况；
B4、如果某个变量是唯一解，则阻止运行，确认校验失败，否则执行本次运算，确认校验成功，并记录该次任务，记录信息包括参与方所有特征对应的参数系数，本次没有参与运算的参数系数记为0，其中可以将本次任务记录在本地或者区块链上。
具体的，举例说明下，如图3所示，发起方发起任务，单次任务校验，检测是否通过，若否，阻止本次运算，若是，读取历史任务，组成方程组，判断方程组解的情况，判断某个未知数是唯一解，若是，阻止本次运算，若否，执行计算，并记录该次任务。
本申请实施例，通过将隐私数据泄露的问题形式化为“运算过程中，某个变量只有唯一解”的数学问题，并利用计算机程序预求解，如果某个变量只有唯一解，则阻止此次运算。从而实现在发起方侧的自动化安全性验证，提升隐私计算的安全性。
可以看出，本申请实施例中所描述的隐私计算应用中的安全智能校验方法，应用于多方计算系统，多方计算系统包括多个参与方；在单次任务校验模式下，将多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式，将第一数学计算公式进行第一简化处理，得到第二数学计算公式，根据预设比例阈值对第二数学计算公式进行第二简化处理，得到第三数学计算公式，根据第三数学计算公式统计多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量，根据多个特征数量确定单次校验模式的校验结果，一方面，可以简化隐私计算过程，提升隐私计算效率，另一方面，通过校验结果可以智能化自动发现隐私计算算法逻辑中存在的隐私数据泄露风险，提升隐私计算安全性。
与上述实施例一致地，请参阅图4，图4是本申请实施例提供的一种电子设备的结构示意图，如图所示，该电子设备包括处理器、存储器、通信接口以及一个或多个程序，上述一个或多个程序被存储在上述存储器中，并且被配置由上述处理器执行，应用于多方计算系统，所述多方计算系统包括多个参与方；本申请实施例中，上述程序包括用于执行以下步骤的指令：
在单次任务校验模式下，将所述多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式；
将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式；
根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式；
根据所述第三数学计算公式统计所述多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量；
根据所述多个特征数量确定所述单次校验模式的校验结果。
可选的，在所述将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式方面，上述程序包括用于执行以下步骤的指令：
对所述第一数学计算公式进行预设操作，得到所述第二数学计算公式，所述预设操作包括以下至少一种：合并同类项、括号展开、消元。
可选的，在所述根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式方面，上述程序包括用于执行以下步骤的指令：
提取所述第二数学计算公式中的变量的系数，得到多个第一系数；
确定所述多个第一系数中每一系数的绝对值，得到多个绝对值，从所述多个绝对值中选取出最大绝对值；
将所述多个绝对值均与所述最大绝对值进行除法运算，得到多个第二系数；
将所述多个绝对值中小于所述预设比例阈值的绝对值对应的第一系数赋值为0，整理所述第二数学计算公式，得到所述第三数学计算公式。
可选的，在所述根据所述多个特征数量确定所述单次校验模式的校验结果方面，上述程序包括用于执行以下步骤的指令：
确定所述多个特征数量中的每一特征数量对应的对象标签，所述对象标签包括以下至少一种：结果方、参与方；
在存在除所述结果方以外，只有一个参与方的一个特征参与运算时，则阻止本次运算，确定单次任务校验失败，否则，进行计算，并确定所述单次任务校验通过，所述结果方为所述多个参与方中的一个参与方。
可选的，在所述单次任务校验通过时，上述程序还包括用于执行以下步骤的指令：
在多次任务校验模式下，读取至少一次被校验成功的历史单次任务的数学计算公式，得到至少一个数学计算公式；
将所述第三数学计算公式和所述至少一个数学计算公式组成方程组；
确定所述方程组中的变量的解，得到P个解集合，每一解集合对应一个变量，P为大于或等于1的整数；
根据所述P个解集合确定所述多次任务校验模式的校验结果。
可选的，在所述根据所述P个解集合确定所述多次任务校验模式的校验结果方面，上述程序包括用于执行以下步骤的指令：
在所述P个解集合中存在Q个解集合是唯一解时，则阻止运算，确定多次任务校验失败，Q为小于或等于P的正整数；
在所述P个解集合中的任一解集合均不是唯一解时，继续执行运算，确定所述多次任务校验成功。
图5是本申请实施例中所涉及的一种隐私计算应用中的安全智能校验装置500的功能单元组成框图，该隐私计算应用中的安全智能校验装置500应用于多方计算系统，所述多方计算系统包括多个参与方，该隐私计算应用中的安全智能校验装置500可以包括：简化处理单元501、统计单元502和确定单元503，其中，
所述简化处理单元501，用于在单次任务校验模式下，将所述多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式；将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式；根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式；
所述统计单元502，用于根据所述第三数学计算公式统计所述多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量；
所述确定单元503，用于根据所述多个特征数量确定所述单次校验模式的校验结果。
可选的，在所述将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式方面，所述简化处理单元501具体用于：
对所述第一数学计算公式进行预设操作，得到所述第二数学计算公式，所述预设操作包括以下至少一种：合并同类项、括号展开、消元。
可选的，在所述根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式方面，所述简化处理单元501具体用于：
提取所述第二数学计算公式中的变量的系数，得到多个第一系数；
确定所述多个第一系数中每一系数的绝对值，得到多个绝对值，从所述多个绝对值中选取出最大绝对值；
将所述多个绝对值均与所述最大绝对值进行除法运算，得到多个第二系数；
将所述多个绝对值中小于所述预设比例阈值的绝对值对应的第一系数赋值为0，整理所述第二数学计算公式，得到所述第三数学计算公式。
可选的，在所述根据所述多个特征数量确定所述单次校验模式的校验结果方面，所述确定单元503具体用于：
确定所述多个特征数量中的每一特征数量对应的对象标签，所述对象标签包括以下至少一种：结果方、参与方；
在存在除所述结果方以外，只有一个参与方的一个特征参与运算时，则阻止本次运算，确定单次任务校验失败，否则，进行计算，并确定所述单次任务校验通过，所述结果方为所述多个参与方中的一个参与方。
可选的，在所述单次任务校验通过时，所述装置500还具体用于：
在多次任务校验模式下，读取至少一次被校验成功的历史单次任务的数学计算公式，得到至少一个数学计算公式；
将所述第三数学计算公式和所述至少一个数学计算公式组成方程组；
确定所述方程组中的变量的解，得到P个解集合，每一解集合对应一个变量，P为大于或等于1的整数；
根据所述P个解集合确定所述多次任务校验模式的校验结果。
可选的，在所述根据所述P个解集合确定所述多次任务校验模式的校验结果方面，所述装置500还具体用于：
在所述P个解集合中存在Q个解集合是唯一解时，则阻止运算，确定多次任务校验失败，Q为小于或等于P的正整数；
在所述P个解集合中的任一解集合均不是唯一解时，继续执行运算，确定所述多次任务校验成功。
可以看出，本申请实施例中所描述的隐私计算应用中的安全智能校验装置，应用于多方计算系统，多方计算系统包括多个参与方；在单次任务校验模式下，将多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式，将第一数学计算公式进行第一简化处理，得到第二数学计算公式，根据预设比例阈值对第二数学计算公式进行第二简化处理，得到第三数学计算公式，根据第三数学计算公式统计多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量，根据多个特征数量确定单次校验模式的校验结果，一方面，可以简化隐私计算过程，提升隐私计算效率，另一方面，通过校验结果可以智能化自动发现隐私计算算法逻辑中存在的隐私数据泄露风险，提升隐私计算安全性。
可以理解的是，本实施例的隐私计算应用中的安全智能校验装置的各程序模块的功能可根据上述方法实施例中的方法具体实现，其具体实现过程可以参照上述方法实施例的相关描述，此处不再赘述。
本申请实施例还提供一种计算机存储介质，其中，该计算机存储介质存储用于电子数据交换的计算机程序，该计算机程序使得计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤，上述计算机包括电子设备。
本申请实施例还提供一种计算机程序产品，上述计算机程序产品包括存储了计算机程序的非瞬时性计算机可读存储介质，上述计算机程序可操作来使计算机执行如上述方法实施例中记载的任一方法的部分或全部步骤。该计算机程序产品可以为一个软件安装包，上述计算机包括电子设备。
需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置，可通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如上述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
上述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储器中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储器中，包括若干指令用以使得一台计算机设备（可为个人计算机、服务器或者网络设备等）执行本申请各个实施例上述方法的全部或部分步骤。而前述的存储器包括：U盘、只读存储器（ROM，Read-Only Memory）、随机存取存储器（RAM，Random Access Memory）、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储器中，存储器可以包括：闪存盘、只读存储器（英文：Read-Only Memory ，简称：ROM）、随机存取器（英文：Random Access Memory，简称：RAM）、磁盘或光盘等。
以上对本申请实施例进行了详细介绍，本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本申请的限制。
Claims (9)
1.一种隐私计算应用中的安全智能校验方法，其特征在于，应用于多方计算系统，所述多方计算系统包括多个参与方；所述方法包括：
在单次任务校验模式下，将所述多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式；
将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式；
根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式；
根据所述第三数学计算公式统计所述多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量；
根据所述多个特征数量确定所述单次任务校验模式的校验结果；
其中，所述根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式，包括：
提取所述第二数学计算公式中的变量的系数，得到多个第一系数；
确定所述多个第一系数中每一系数的绝对值，得到多个绝对值，从所述多个绝对值中选取出最大绝对值；
将所述多个绝对值均与所述最大绝对值进行除法运算，得到多个第二系数；
将所述多个第二系数中小于所述预设比例阈值的第二系数对应的第一系数赋值为0，整理所述第二数学计算公式，得到所述第三数学计算公式。
2.根据权利要求1所述的方法，其特征在于，所述将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式，包括：
对所述第一数学计算公式进行预设操作，得到所述第二数学计算公式，所述预设操作包括以下至少一种：合并同类项、括号展开、消元。
3.根据权利要求1或2所述的方法，其特征在于，所述根据所述多个特征数量确定所述单次任务校验模式的校验结果，包括：
确定所述多个特征数量中的每一特征数量对应的对象标签，所述对象标签包括以下至少一种：结果方、参与方；
在存在除所述结果方以外，只有一个参与方的一个特征参与运算时，则阻止本次运算，确定单次任务校验失败，否则，进行计算，并确定所述单次任务校验通过，所述结果方为所述多个参与方中的一个参与方。
4.根据权利要求3所述的方法，其特征在于，在所述单次任务校验通过时，所述方法还包括：
在多次任务校验模式下，读取至少一次被校验成功的历史单次任务的数学计算公式，得到至少一个数学计算公式；
将所述第三数学计算公式和所述至少一个数学计算公式组成方程组；
确定所述方程组中的变量的解，得到P个解集合，每一解集合对应一个变量，P为大于或等于1的整数；
根据所述P个解集合确定所述多次任务校验模式的校验结果。
5.根据权利要求4所述的方法，其特征在于，所述根据所述P个解集合确定所述多次任务校验模式的校验结果，包括：
在所述P个解集合中存在Q个解集合是唯一解时，则阻止运算，确定多次任务校验失败，Q为小于或等于P的正整数；
在所述P个解集合中的任一解集合均不是唯一解时，继续执行运算，确定所述多次任务校验成功。
6.一种隐私计算应用中的安全智能校验装置，其特征在于，应用于多方计算系统，所述多方计算系统包括多个参与方；所述装置包括：简化处理单元、统计单元和确定单元，其中，
所述简化处理单元，用于在单次任务校验模式下，将所述多个参与方的隐私数据间的计算逻辑形式化为第一数学计算公式；将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式；根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式；
所述统计单元，用于根据所述第三数学计算公式统计所述多个参与方中每一参与方中参与运算的特征数量，得到多个特征数量；
所述确定单元，用于根据所述多个特征数量确定所述单次任务校验模式的校验结果；
其中，所述根据预设比例阈值对所述第二数学计算公式进行第二简化处理，得到第三数学计算公式，包括：
提取所述第二数学计算公式中的变量的系数，得到多个第一系数；
确定所述多个第一系数中每一系数的绝对值，得到多个绝对值，从所述多个绝对值中选取出最大绝对值；
将所述多个绝对值均与所述最大绝对值进行除法运算，得到多个第二系数；
将所述多个第二系数中小于所述预设比例阈值的第二系数对应的第一系数赋值为0，整理所述第二数学计算公式，得到所述第三数学计算公式。
7.根据权利要求6所述的装置，其特征在于，在所述将所述第一数学计算公式进行第一简化处理，得到第二数学计算公式方面，所述简化处理单元具体用于：
对所述第一数学计算公式进行预设操作，得到所述第二数学计算公式，所述预设操作包括以下至少一种：合并同类项、括号展开、消元。
8.一种电子设备，其特征在于，包括处理器、存储器，所述存储器用于存储一个或多个程序，并且被配置由所述处理器执行，所述程序包括用于执行如权利要求1-5任一项所述的方法中的步骤的指令。
9.一种计算机可读存储介质，其特征在于，存储用于电子数据交换的计算机程序，其中，所述计算机程序使得计算机执行如权利要求1-5任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210967050.1A CN115048676B (zh) | 2022-08-12 | 2022-08-12 | 隐私计算应用中的安全智能校验方法及相关装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210967050.1A CN115048676B (zh) | 2022-08-12 | 2022-08-12 | 隐私计算应用中的安全智能校验方法及相关装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115048676A CN115048676A (zh) | 2022-09-13 |
| CN115048676B true CN115048676B (zh) | 2022-11-18 |
Family
ID=83167670
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210967050.1A Active CN115048676B (zh) | 2022-08-12 | 2022-08-12 | 隐私计算应用中的安全智能校验方法及相关装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115048676B (zh) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112487415A (zh) * | 2020-12-09 | 2021-03-12 | 华控清交信息科技(北京)有限公司 | 计算任务的安全性检测方法及装置 |
| CN113472538A (zh) * | 2021-09-02 | 2021-10-01 | 富算科技(上海)有限公司 | 多方安全计算的结果隐私性检测方法、装置、设备及介质 |
| CN114662155A (zh) * | 2022-05-23 | 2022-06-24 | 广州中平智能科技有限公司 | 面向联邦学习的数据隐私安全机制评估方法、设备及介质 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021223104A1 (zh) * | 2020-05-06 | 2021-11-11 | 云图技术有限公司 | 系统测试方法和装置 |
| US11645730B2 (en) * | 2020-11-16 | 2023-05-09 | Here Global B.V. | Method, apparatus, and computer program product for identifying privacy risks in datasets |
-
2022
- 2022-08-12 CN CN202210967050.1A patent/CN115048676B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112487415A (zh) * | 2020-12-09 | 2021-03-12 | 华控清交信息科技(北京)有限公司 | 计算任务的安全性检测方法及装置 |
| CN113472538A (zh) * | 2021-09-02 | 2021-10-01 | 富算科技(上海)有限公司 | 多方安全计算的结果隐私性检测方法、装置、设备及介质 |
| CN114662155A (zh) * | 2022-05-23 | 2022-06-24 | 广州中平智能科技有限公司 | 面向联邦学习的数据隐私安全机制评估方法、设备及介质 |
Non-Patent Citations (2)
| Title |
|---|
| 基于"隐私计算+ 政务金融"的;关杏元 等;《金融电子化》;20211231;第79-80页 * |
| 隐私计算为掘金大数据保驾护航;朱军 等;《中国电信业》;20220630;第14-18页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115048676A (zh) | 2022-09-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN105337928B (zh) | 用户身份识别方法、安全保护问题生成方法及装置 | |
| CN111507638A (zh) | 一种风险信息输出、风险信息构建方法及装置 | |
| CN110276178B (zh) | 一种基于身份验证的风险控制方法、装置及设备 | |
| CN110009365B (zh) | 非正常转移电子资产的用户群体检测方法、装置和设备 | |
| CN110362689A (zh) | 一种风险评估方法、装置、存储介质和服务器 | |
| CN111539811A (zh) | 风险账户的识别方法及装置 | |
| CN112529584A (zh) | 交易纠纷数据处理方法、装置、设备及存储介质 | |
| CN108366052A (zh) | 验证短信的处理方法及系统 | |
| CN111931172A (zh) | 一种金融系统业务流程异常预警方法及装置 | |
| CN110570188A (zh) | 用于处理交易请求的方法和系统 | |
| CN110913354A (zh) | 短信分类方法、装置及电子设备 | |
| CN114782161A (zh) | 识别风险用户的方法、装置、存储介质及电子装置 | |
| CN112788269A (zh) | 视频处理方法、装置、服务器及存储介质 | |
| CN112990583B (zh) | 一种数据预测模型的入模特征确定方法及设备 | |
| CN115048676B (zh) | 隐私计算应用中的安全智能校验方法及相关装置 | |
| CN112837149A (zh) | 一种企业信贷风险的识别方法和装置 | |
| CN116776193A (zh) | 基于注意力机制的跨社交网络虚拟身份关联方法及装置 | |
| CN115660636A (zh) | 基于物联网数据的楼宇智能运维方法、装置、设备及介质 | |
| CN112071331B (zh) | 语音文件修复方法、装置、计算机设备及存储介质 | |
| CN109919414A (zh) | P2p网络借贷平台风险分析方法、装置及存储介质 | |
| CN115203487A (zh) | 基于多方安全图的数据处理方法及相关装置 | |
| CN114493850A (zh) | 基于人工智能的在线公证方法、系统及存储介质 | |
| Parthasarathy et al. | A framework for managing ethics in data science projects | |
| CN113657902A (zh) | 基于图数据库的金融安全管理方法、系统及存储介质 | |
| CN112686343B (zh) | 一种肺结节样本数据的分类方法、装置和电子设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |