CN107368752B - 一种基于生成式对抗网络的深度差分隐私保护方法 - Google Patents

一种基于生成式对抗网络的深度差分隐私保护方法 Download PDF

Info

Publication number
CN107368752B
CN107368752B CN201710611972.8A CN201710611972A CN107368752B CN 107368752 B CN107368752 B CN 107368752B CN 201710611972 A CN201710611972 A CN 201710611972A CN 107368752 B CN107368752 B CN 107368752B
Authority
CN
China
Prior art keywords
data
privacy
depth
secret protection
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201710611972.8A
Other languages
English (en)
Other versions
CN107368752A (zh
Inventor
毛典辉
李子沁
蔡强
李海生
曹健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Technology and Business University
Original Assignee
Beijing Technology and Business University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Technology and Business University filed Critical Beijing Technology and Business University
Priority to CN201710611972.8A priority Critical patent/CN107368752B/zh
Publication of CN107368752A publication Critical patent/CN107368752A/zh
Application granted granted Critical
Publication of CN107368752B publication Critical patent/CN107368752B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245—Protecting personal data, e.g. for financial or medical purposes

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Bioethics (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Databases & Information Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Storage Device Security (AREA)

Abstract

本发明提供一种基于生成式对抗网络反馈的深度差分隐私保护方法，用于解决深度学习模型应用中攻击者利用自编码等方法还原出训练集数据的问题，应用深度差分隐私保护方法实现训练数据集中用户隐私保护目的。本发明包括：依据输入训练数据集的潜在数据集规模，查询敏感度、攻击者最大攻击概率出隐私预算的上界；在深度网络参数优化计算中融合差分隐私思想添加噪声数据，基于差分隐私与高斯分布可组合特点，计算深度网络每一层的隐私预算，在随机梯度下降计算中添加高斯噪声使之总体隐私预算最小；利用生成式对抗网络生成攻击者可能得到的最优结果，通过对比攻击结果和原始数据间差别反馈调节深度差分隐私模型的参数，实现训练数据集可用性与隐私保护度的平衡。

Description

一种基于生成式对抗网络的深度差分隐私保护方法
技术领域
本发明涉及深度学习和隐私保护领域，具体涉及一种基于生成式对抗网络的深度差分隐私保护方法。
背景技术
近年来深度学习在目标检测和计算机视觉、自然语言处理、语音识别和语义分析等领域成效卓然，受到了越来越多研究者的关注。深度学习通过神经网络的分层处理，将低层特征组合形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示，其模型性能与训练数据集的规模和质量密切相关，而训练数据集中通常包含较多的敏感信息，训练数据集在很多领域有广泛应用，包括安防领域的人脸识别、色情图片检测以及金融企业数据分析等，该领域可以将训练好的模型公布供大家使用，但是数据集中涉及敏感信息而不希望被推断出来。目前攻击者通过一定的攻击手段可以还原出训练数据集，从而使得用户隐私信息泄露。如公安机关发布犯罪嫌疑人识别模型，其训练数据集包含全国人口图像信息，当攻击者使用某一攻击手段还原出训练数据集中的图像时使得个人敏感信息得到泄露，因此如何在不泄露个人敏感信息的前提下提升数据可用性，是当前深度学习应用面临的主要问题，将极大影响深度学习未来的发展与应用。
目前关于敏感信息保护问题研究前提主要基于攻击者对用户背景知识的掌握程度，在此条件下攻击者可以进行身份链接攻击、属性链接攻击、成员链接攻击等隐私攻击，因此相关学者提出了K-匿名、L-多样性以及相关的方法。该类方法通过泛化或抑制用户敏感属性并修改数据集中的原始信息的策略，从而达到保护用户隐私的目的，而深度学习模型主要通过提取并抽象训练数据集中的特征，并不改变数据集的原始信息，因此与传统方法融合时存在较大难度。差分隐私技术是2006年微软研究院提出的一种基于数据失真的隐私保护方法，该方法建立在坚实的数学基础之上，对隐私保护进行了严格的定义并提供了量化评估方法，使得不同参数处理下的数据集所提供的隐私保护水平具有可比较性。其基本思想是对原始数据、对原始数据的转换或者是对统计结果添加噪音来达到隐私保护效果。该保护方法可以确保在某一数据集中插入或者删除一条记录的操作不会影响任何计算的输出结果。另外，该保护模型不关心攻击者所具有的背景知识，即使攻击者已经掌握除某一条记录之外的所有记录的信息。所有有利于保护训练数据集，与敏感信息保护的根本宗旨高度契合。
针对上述问题，本发明在无需考虑攻击者所拥有的任何可能的背景知识的情况下，首先依据训练数据集的潜在数据集规模，查询敏感度、攻击者最大攻击概率计算隐私预算的上界；然后在深度网络参数优化计算中融合差分隐私思想添加噪声数据，基于差分隐私与高斯分布可组合特点，计算深度网络每一层的隐私预算，在随机梯度下降计算中添加高斯噪音使之总体隐私预算最小；最后利用生成式对抗网络生成攻击者可能得到的最优结果，通过对比攻击结果和原始数据间差别反馈调节深度差分隐私模型参数，实现训练数据集可用性与隐私保护度的平衡。但根据现有的了解，还没有任何机构或组织将深度差分隐私模型与生成式对抗网络进行结合。
发明内容
本发明技术解决问题：克服现有技术的不足，提供一种基于生成式对抗网络的深度差分隐私保护方法，以采用差分隐私技术来解决深度模型训练和应用过程中泄露用户敏感信息的问题。
本发明技术解决方案：一种基于生成式对抗网络反馈的深度差分隐私保护方法，用于解决深度学习模型应用中攻击者利用自编码等方法还原出训练集数据的问题，应用深度差分隐私保护方法实现训练数据集的隐私保护目的。本发明包括：依据输入训练数据集的潜在数据集规模，查询敏感度、攻击者最大攻击概率计算出隐私预算的上界；在深度网络参数优化计算中融合差分隐私思想添加噪声数据，基于差分隐私与高斯分布可组合特点，计算深度网络每一层的隐私预算，在随机梯度下降计算中添加高斯噪声使之总体隐私预算最小；利用生成式对抗网络生成攻击者可能得到的最优结果，通过对比攻击结果和原始数据间差别反馈调节深度差分隐私模型参数，实现训练数据集可用性与隐私保护度的平衡。
具体步骤如下：
(1)依据输入训练数据集的潜在数据集规模，查询敏感度、攻击者最大攻击概率计算隐私预算的上界；
(2)本步骤主要是依据深度差分隐私模型训练输入数据集，其具体过程为：在深度网络参数优化计算中融合差分隐私思想添加噪声数据，根据步骤(1)设置隐私预算上界，在此条件下随机选取隐私预算，然后基于差分隐私与高斯分布组合特点，在随机梯度下降中计算深度网络每一层的实际隐私预算，并据此添加高斯噪声使总体隐私预算最小；
(3)利用步骤(2)中深度差分隐私模型进行深度网络模型训练，并提取训练过程中隐私保护后生成数据的数据特征信息；将随机噪声数据输入到生成式对抗网络中，以隐私保护后生成数据特征信息为参考，调节输入的随机噪声数据使生成器生成的模拟数据尽可能近似隐私保护后生成数据特征分布，并对生成的模拟数据进行分类得到分类准确率；
(4)将原始数据集输入到生成式对抗网络中，生成近似隐私保护前数据特征分布的模拟数据，与步骤(3)中得到的隐私保护后生成数据进行分类准确率对比，设置准确率误差阈值，确保步骤(3)分类准确率对与步骤(4)的分类准确率的差值在预先设定阈值范围内，否则重复步骤(2)调整隐私预算参数，重新训练深度差分隐私模型直至满足预先设定阈值条件为止。
所述步骤1中，计算隐私预算的上界的方式如下：
其中ε为隐私预算，n为输入数据集的潜在数据集规模，潜在数据集规模是指，假设输入数据集为D，该数据集的近邻数据集D'可能的取值方法为n，其中D与D'仅相差一条数据；△q为针对数据集D和D'的查询函数q的敏感度，△v为查询函数q在相邻数据集上最大差异值，ρ为攻击者得出攻击对象在或者不在结果集中的概率。
在步骤(2)中，计算深度网络每一层的隐私预算，在随机梯度下降计算中添加高斯噪音使深度差分隐私模型中总体隐私预算最小，根据差分隐私与高斯分布组合特点，总体隐私预算值由深度网络每层预算值累加而成，深度网络每层噪声添加方式如下：
其中xi为输入值，σ为噪声规模，C为梯度阈值，为根据梯度阈值剪枝后的梯度值，S为训练batch数据的大小，N(0,σ2C2)为均值是0、方差是σC的高斯分布的噪声。
在步骤(3)和步骤(4)中，所述生成式对抗网络由生成器G和判别器D构成，在整个训练过程中G和D为“博弈”双方，生成器G捕捉样本数据的分布，判别器D是一个二分类器，用于判断输入的结果是来自于训练数据的概率；G和D均为非线性映射函数，是多层感知机或卷积神经网络；在训练过程中，生成器G的目标是尽量生成与原始数据接近的结果去欺骗判别器D；而D的目标是尽量把G生成的结果和真实数据区分开来，G和D形成了一个动态的“博弈过程”，G和D之间的关系定义为：
GAN的优化问题是一个极小-极大化问题,GAN的目标函数为其中x为真实数据，z为随机变量，pdata(x)真实数据服从的分布，pz(z)为随机变量服从的分布，G(z)则为由G生成的尽量服从真实数据分布pdata(x)的样本，E(·)表示计算期望值。
在步骤(4)中，利用生成式对抗网络中生成器生成攻击者可能得到的最优结果，并从中选出最接近真实数据集的攻击结果，通过比较隐私保护后生成数据分类准确率和隐私保护前生成数据分类准确率，若相似度超过设定阈值，则重新对深度差分隐私模型进行参数调优，直到满足条件为止。
本发明与现有技术相比的优点在于：
(1)相比现有技术，本发明给出了差分隐私中隐私预算的上界的计算式，缩减了该参数随机选取时的选择范围，加快了深度差分隐私保护模型训练速度，进而优化了模型隐私保护度选择的准确性。
(2)相比现有技术，本发明利用生成式对抗网络对深度差分隐私模型进行反馈以及评价，提前评估了攻击者反推原始数据集的可能性，同时对隐私保护效果进行了定量评价，实现训练数据集可用性与隐私保护度的平衡，避免用户敏感信息的泄露，提高了安全性和可靠性。
附图说明
图1为本发明方法的实现流程图；
图2为本发明中深度差分隐私保护模型；
图3是根据本发明使用的生成式对抗网络过程的示意图。
具体实施方式
下面结合附图和具体实施方式对本发明进行描述。其中附图1描述了基于生成式对抗网络的深度差分隐私保护方法处理过程。
如图1所示，本发明具体的实现步骤：
(1)依据输入数据集的规模，查询敏感度、攻击者得出的概率计算出隐私预算的上界，隐私预算上界的计算方式：
其中ε为隐私预算，n为输入数据集的潜在数据集(潜在数据集是指，假设输入数据集为D，该数据集的近邻数据集D'可能的取值方法为n，其中D与D'仅相差一条数据)，△q为针对数据集D和D'的查询函数q的敏感度，△v为查询函数q在相邻数据集上最大差异值，ρ为攻击者得出攻击对象在或者不在结果集中的概率。
(2)利用深度差分隐私模型训练数据，深度网络参数优化计算中融合差分隐私思想添加噪声数据，基于差分隐私与高斯分布可组合特点，计算深度网络每一层的隐私预算，在随机梯度下降计算中添加高斯噪音使之总体隐私预算最小，其算法实现过程为：采用随机梯度下降算法随机选取小量训练输入样本，计算每一个样本的梯度值其次判断gt(xi)是否满足阈值C，若不满足则调整gt(xi)使其在梯度阈值C范围内得到新的梯度值然后在梯度值中添加高斯噪声最后将添加噪音梯度朝相反方向变化，进行下一次的计算，其流程图如图2所示。其中，L(·)为损失函数，θt为损失函数的参数，gt(xi)为依据输入值xi计算的梯度值，C为梯度阈值，为根据梯度阈值剪枝后的梯度值，σ为噪声规模，S为训练batch数据的大小。
(3)生成式对抗网络在整个训练过程中G和D为“博弈”双方，生成器G捕捉样本数据的分布，判别器是一个二分类器，用于判断输入的结果是来自于训练数据还是生成数据。G和D一般均为非线性映射函数，可以是多层感知机、卷积神经网络等，具体如图3所示。在训练过程中，生成器G的目标就是尽量生成与原始数据接近的结果去欺骗判别器D；而D的目标就是尽量把G生成的结果和真实数据区分开来。这样，G和D形成了一个动态的“博弈过程”，G和D之间的关系可以定义为：
其中x为真实数据，z为随机变量，pdata(x)真实数据服从的分布，pz(z)为随机变量服从的分布，G(z)则为由G生成的尽量服从真实数据分布pdata(x)的样本，E(·)表示计算期望值。
本发明中判别器的输入来源：一是隐私保护前的数据或隐私保护后的数据，二是生成器生成数据，判别器的损失函数d_loss由d_loss_fake和d_loss_real组成，其中d_loss_real是深度差分隐私算法处理后的数据集输入到判别器中的结果和预期的为1的结果之间的交叉熵，d_loss_fake是生成器生成的数据输入到判别器中的结果和预期为0的结果之间的交叉熵，如果判别器的输入来自真实数据,标注为1.如果输入样本为G(z),标注为0。这里D的目标是实现对数据来源的二分类判别:真(来源于真实数据x的分布)或者伪(来源于生成器的伪数据G(z))，而G的目标是使自己生成的伪数据G(z)在D上的表现D(G(z))和真实数据x在D上的表现D(x)一致,这两个相互对抗并迭代优化的过程使得D和G的性能不断提升，当生成器与判别器达到平衡时训练结束。利用深度差分隐私模型训练数据，提取训练过程中数据特征，同时将随机噪声数据输入到生成式对抗网络中，调节参数使得生成器生成尽可能的近似隐私保护后的数据特征分布的模拟数据进行分类。
(4)将原始数据集输入到生成式对抗网络中，生成尽可能的近似隐私保护前的数据特征分布的模拟数据进行分类，利用生成式对抗网络中生成器生成攻击者可能得到的最优结果，并从中选出最接近真实数据集的攻击结果，对生成器中的数据进行分类得到分类准确率与保护后生成数据分类准确率进行对比，确保差值在设定阈值内则达到需求，否则调整深度差分隐私的参数继续训练。
提供以上实施例仅仅是为了描述本发明的目的，而并非要限制本发明的范围。本发明的范围由所附权利要求限定。不脱离本发明的精神和原理而做出的各种等同替换和修改，均应涵盖在本发明的范围之内。

Claims (5)

1.一种基于生成式对抗网络反馈的深度差分隐私保护方法，其特征在于包括以下步骤：
(1)依据输入训练数据集的潜在数据集规模，查询敏感度、攻击者最大攻击概率计算隐私预算的上界；
(2)依据深度差分隐私模型训练输入数据集，具体过程为：在深度网络参数优化计算中融合差分隐私思想添加噪声数据，根据步骤(1)设置隐私预算上界，在此条件下随机选取隐私预算，然后基于差分隐私与高斯分布组合特点，在随机梯度下降中计算深度网络每一层的实际隐私预算，并据此添加高斯噪声使总体隐私预算最小；
(3)利用步骤(2)中深度差分隐私模型进行深度网络模型训练，并提取训练过程中隐私保护后生成数据的数据特征信息；将随机噪声数据输入到生成式对抗网络中，以隐私保护后生成数据特征信息为参考，调节输入的随机噪声数据使生成器生成的模拟数据尽可能近似隐私保护后生成数据特征分布，并对生成的模拟数据进行分类得到分类准确率；
(4)将原始数据集输入到生成式对抗网络中，生成近似隐私保护前数据特征分布的模拟数据，与步骤(3)中得到的隐私保护后生成数据进行分类准确率对比，设置准确率误差阈值，确保步骤(3)分类准确率对与步骤(4)的分类准确率的差值在预先设定阈值范围内，否则重复步骤(2)调整隐私预算参数，重新训练深度差分隐私模型直至满足预先设定阈值条件为止。
2.根据权利要求1所述的基于生成式对抗网络反馈的深度差分隐私保护方法，其特征在于：所述步骤1中，计算隐私预算的上界的方式如下：
其中ε为隐私预算，n为输入数据集的潜在数据集规模，潜在数据集规模是指，假设输入数据集为D，该数据集的近邻数据集D'可能的取值方法为n，其中D与D'仅相差一条数据；Δq为针对数据集D和D'的查询函数q的敏感度，Δv为查询函数q在相邻数据集上最大差异值，ρ为攻击者得出攻击对象在或者不在结果集中的概率。
3.根据权利要求1所述的基于生成式对抗网络反馈的深度差分隐私保护方法，其特征在于：在步骤(2)中，计算深度网络每一层的隐私预算，在随机梯度下降计算中添加高斯噪音使深度差分隐私模型中总体隐私预算最小，根据差分隐私与高斯分布组合特点，总体隐私预算值由深度网络每层预算值累加而成，深度网络每层噪声添加方式如下：
其中xi为输入值，σ为噪声规模，C为梯度阈值，为根据梯度阈值剪枝后的梯度值，S为训练batch数据的大小，N(0,σ2C2)为均值是0、方差是σC的高斯分布的噪声。
4.根据权利要求1所述的基于生成式对抗网络反馈的深度差分隐私保护方法，其特征在于：在步骤(3)和步骤(4)中，所述生成式对抗网络由生成器G和判别器D构成，在整个训练过程中G和D为“博弈”双方，生成器G捕捉样本数据的分布，判别器D是一个二分类器，用于判断输入的结果是来自于训练数据的概率；G和D均为非线性映射函数，是多层感知机或卷积神经网络；在训练过程中，生成器G的目标是尽量生成与原始数据接近的结果去欺骗判别器D；而D的目标是尽量把G生成的结果和真实数据区分开来，G和D形成了一个动态的“博弈过程”，G和D之间的关系定义为：
GAN的优化问题是一个极小-极大化问题,GAN的目标函数为其中x为真实数据，z为随机变量，pdata(x)真实数据服从的分布，pz(z)为随机变量服从的分布，G(z)则为由G生成的尽可能服从真实数据分布pdata(x)的样本，E(·)表示计算期望值。
5.根据权利要求1所述的基于生成式对抗网络反馈的深度差分隐私保护方法，其特征在于：在步骤(4)中，利用生成式对抗网络中生成器生成攻击者可能得到的最优结果，并从中选出最接近真实数据集的攻击结果，通过比较隐私保护后生成数据分类准确率和隐私保护前生成数据分类准确率，若相似度超过设定阈值，则重新对深度差分隐私模型进行参数调优，直到满足条件为止。
CN201710611972.8A 2017-07-25 2017-07-25 一种基于生成式对抗网络的深度差分隐私保护方法 Active CN107368752B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710611972.8A CN107368752B (zh) 2017-07-25 2017-07-25 一种基于生成式对抗网络的深度差分隐私保护方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710611972.8A CN107368752B (zh) 2017-07-25 2017-07-25 一种基于生成式对抗网络的深度差分隐私保护方法

Publications (2)

Publication Number Publication Date
CN107368752A CN107368752A (zh) 2017-11-21
CN107368752B true CN107368752B (zh) 2019-06-28

Family

ID=60307798

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710611972.8A Active CN107368752B (zh) 2017-07-25 2017-07-25 一种基于生成式对抗网络的深度差分隐私保护方法

Country Status (1)

Country Link
CN (1) CN107368752B (zh)

Families Citing this family (95)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108171320B (zh) * 2017-12-06 2021-10-19 西安工业大学 一种基于生成式对抗网络的图像域转换网络和转换方法
CN109934340B (zh) * 2017-12-19 2021-11-23 郑州芯兰德网络科技有限公司 一种深度学习系统及模型参数调整方法
CN108171266A (zh) * 2017-12-25 2018-06-15 中国矿业大学 一种多目标深度卷积生成式对抗网络模型的学习方法
CN108364018A (zh) * 2018-01-25 2018-08-03 北京墨丘科技有限公司 一种标注数据的保护方法、终端设备和系统
CN108062782A (zh) * 2018-01-30 2018-05-22 哈尔滨福特威尔科技有限公司 一种鞋楦平面轮廓线自动生成装置及方法
CN108322349B (zh) * 2018-02-11 2021-04-06 浙江工业大学 基于对抗式生成网络的深度学习对抗性攻击防御方法
CN108549940B (zh) * 2018-03-05 2021-10-29 浙江大学 基于多种对抗样例攻击的智能防御算法推荐方法及系统
CN108491874B (zh) * 2018-03-19 2021-10-12 天津大学 一种基于生成式对抗网络的图像单分类方法
CN108520181B (zh) * 2018-03-26 2022-04-22 联想(北京)有限公司 数据模型训练方法和装置
CN108629680A (zh) * 2018-04-03 2018-10-09 中国农业银行股份有限公司 一种风险识别方法及系统
CN108647525B (zh) * 2018-05-09 2022-02-01 西安电子科技大学 可验证的隐私保护单层感知机批量训练方法
CN108769993A (zh) * 2018-05-15 2018-11-06 南京邮电大学 基于生成对抗网络的通信网络异常用户检测方法
CN108763954B (zh) * 2018-05-17 2022-03-01 西安电子科技大学 线性回归模型多维高斯差分隐私保护方法、信息安全系统
US11501156B2 (en) * 2018-06-28 2022-11-15 International Business Machines Corporation Detecting adversarial attacks through decoy training
CN110659731B (zh) * 2018-06-30 2022-05-17 华为技术有限公司 一种神经网络训练方法及装置
CN110858253B (zh) * 2018-08-17 2024-09-27 第四范式（北京）技术有限公司 在数据隐私保护下执行机器学习的方法和系统
WO2020046398A1 (en) * 2018-08-31 2020-03-05 Google Llc Privacy-first on-device federated health modeling and intervention
CN112948889B (zh) * 2018-09-28 2024-04-09 第四范式（北京）技术有限公司 在数据隐私保护下执行机器学习的方法和系统
CN109120652A (zh) * 2018-11-09 2019-01-01 重庆邮电大学 基于差分wgan网络安全态势预测
CN111241571B (zh) * 2018-11-28 2023-08-01 创新工场(北京)企业管理股份有限公司 一种数据共享方法及模型系统、存储介质
CN111382459B (zh) * 2018-12-27 2022-05-17 财团法人工业技术研究院 隐私数据整合方法与服务器
CN109753921A (zh) * 2018-12-29 2019-05-14 上海交通大学 一种人脸特征向量隐私保护识别方法
CN109784091B (zh) * 2019-01-16 2022-11-22 福州大学 一种融合差分隐私gan和pate模型的表格数据隐私保护方法
CN111625572B (zh) * 2019-02-27 2023-01-06 第四范式（北京）技术有限公司 在数据隐私保护下执行机器学习的方法和系统
CN109993212B (zh) * 2019-03-06 2023-06-20 西安电子科技大学 社交网络图片分享中的位置隐私保护方法、社交网络平台
CN110084365B (zh) * 2019-03-13 2023-08-11 西安电子科技大学 一种基于深度学习的服务提供系统及方法
CN110097079B (zh) * 2019-03-29 2021-03-30 浙江工业大学 一种基于分类边界的用户隐私保护方法
CN110097119A (zh) * 2019-04-30 2019-08-06 西安理工大学 基于对偶变量扰动的差分隐私保护支持向量机分类器算法
CN110263133B (zh) * 2019-05-07 2023-11-24 平安科技（深圳）有限公司 基于知识图谱的问答方法、电子装置、设备及存储介质
CN110135193A (zh) * 2019-05-15 2019-08-16 广东工业大学 一种数据脱敏方法、装置、设备及计算机可读存储介质
CN110263928A (zh) * 2019-06-18 2019-09-20 中国科学技术大学 保护数据隐私的基于移动设备的分布式深度学习训练方法
CN110363183B (zh) * 2019-07-30 2020-05-08 贵州大学 基于生成式对抗网络的服务机器人视觉图片隐私保护方法
CN110569663A (zh) * 2019-08-15 2019-12-13 深圳市莱法照明通信科技有限公司 一种教育数据共享的方法、装置、系统和存储介质
CN112448916B (zh) * 2019-08-29 2023-04-07 闫晓丹 一种防止gan模型攻击并保护cdl训练信息的隐私防护方法
CN110728297B (zh) * 2019-09-04 2021-08-06 电子科技大学 一种基于gan的低代价对抗性网络攻击样本生成方法
CN110493262B (zh) * 2019-09-17 2021-07-23 武汉思普崚技术有限公司 一种改进分类的网络攻击检测方法及系统
CN110505241B (zh) * 2019-09-17 2021-07-23 武汉思普崚技术有限公司 一种网络攻击面检测方法及系统
CN110874484A (zh) * 2019-10-16 2020-03-10 众安信息技术服务有限公司 基于神经网络和联邦学习的数据处理方法和系统
CN110807207B (zh) * 2019-10-30 2021-10-08 腾讯科技（深圳）有限公司 数据处理方法、装置、电子设备及存储介质
CN111091193B (zh) * 2019-10-31 2022-07-05 武汉大学 一种面向深度神经网络的基于差分隐私的域适应隐私保护方法
CN110874471B (zh) * 2019-11-19 2021-02-23 支付宝(杭州)信息技术有限公司 保护隐私安全的神经网络模型的训练方法和装置
CN110889141B (zh) * 2019-12-11 2022-02-08 百度在线网络技术（北京）有限公司 数据分布图隐私处理方法、装置和电子设备
CN111027717A (zh) * 2019-12-11 2020-04-17 支付宝(杭州)信息技术有限公司 一种模型训练方法和系统
CN111091199B (zh) * 2019-12-20 2023-05-16 哈尔滨工业大学（深圳） 一种基于差分隐私的联邦学习方法、装置及存储介质
CN111079946A (zh) * 2019-12-20 2020-04-28 支付宝(杭州)信息技术有限公司 模型训练方法、成员探测装置的训练方法及其系统
CN113032795B (zh) * 2019-12-24 2023-10-13 图灵人工智能研究院（南京）有限公司 用电数据的数据处理方法、系统及存储介质
CN111199538B (zh) * 2019-12-25 2022-11-25 杭州中威电子股份有限公司 一种针对多层压缩感知图像的隐私保护度评价方法
CN111177757A (zh) * 2019-12-27 2020-05-19 支付宝(杭州)信息技术有限公司 一种图片中隐私信息保护的处理方法及装置
CN111222570B (zh) * 2020-01-06 2022-08-26 广西师范大学 基于差分隐私的集成学习分类方法
US11941520B2 (en) 2020-01-09 2024-03-26 International Business Machines Corporation Hyperparameter determination for a differentially private federated learning process
CN111227796A (zh) * 2020-01-13 2020-06-05 南京医科大学 一种基于支持向量机多模态融合下的平衡障碍量化评估方法及系统
CN111134670A (zh) * 2020-01-13 2020-05-12 南京医科大学 一种基于生成对抗网络多模态平衡障碍量化评估方法及系统
CN111460422B (zh) * 2020-02-11 2021-10-01 北京京东尚科信息技术有限公司 生成验证码的方法和装置
CN113379062B (zh) * 2020-03-10 2023-07-14 百度在线网络技术（北京）有限公司 用于训练模型的方法和装置
CN111400754B (zh) * 2020-03-11 2021-10-01 支付宝(杭州)信息技术有限公司 保护用户隐私的用户分类系统的构建方法及装置
CN111460505A (zh) * 2020-04-02 2020-07-28 深圳前海微众银行股份有限公司 基于隐私保护的建模方法、装置、设备及存储介质
CN111768325B (zh) * 2020-04-03 2023-07-25 南京信息工程大学 大数据隐私保护中基于生成对抗样本的安全性提升方法
US11475365B2 (en) 2020-04-09 2022-10-18 International Business Machines Corporation Verification of stochastic gradient descent
CN113515770B (zh) * 2020-04-10 2024-06-18 支付宝(杭州)信息技术有限公司 基于隐私保护确定目标业务模型的方法及装置
CN111539769A (zh) * 2020-04-27 2020-08-14 支付宝(杭州)信息技术有限公司 基于差分隐私的异常检测模型的训练方法及装置
CN111475848B (zh) * 2020-04-30 2022-10-11 北京理工大学 保障边缘计算数据隐私的全局和局部低噪声训练方法
CN111523668B (zh) * 2020-05-06 2021-08-20 支付宝(杭州)信息技术有限公司 基于差分隐私的数据生成系统的训练方法及装置
CN111666588B (zh) * 2020-05-14 2023-06-23 武汉大学 一种基于生成对抗网络的情绪差分隐私保护方法
CN111597551B (zh) * 2020-05-20 2024-02-27 中国科学技术大学 针对深度学习算法的侧信道攻击的防护方法
CN111737743B (zh) * 2020-06-22 2024-08-23 安徽工业大学 一种深度学习差分隐私保护方法
CN111814165B (zh) * 2020-07-07 2024-01-26 重庆大学 一种基于深度神经网络中间层的图像隐私保护方法
CN111563275B (zh) * 2020-07-14 2020-10-20 中国人民解放军国防科技大学 一种基于生成对抗网络的数据脱敏方法
CN111767326B (zh) * 2020-09-03 2020-11-27 国网浙江省电力有限公司营销服务中心 基于生成式对抗网络的关系型表格数据的生成方法及装置
CN112269987B (zh) * 2020-09-27 2023-01-24 西安电子科技大学 一种智能模型信息泄漏程度评估方法、系统、介质、设备
CN112199717B (zh) * 2020-09-30 2024-03-22 中国科学院信息工程研究所 一种基于少量公共数据的隐私模型训练方法及装置
CN112235787B (zh) * 2020-09-30 2023-04-28 南京工业大学 一种基于生成对抗网络的位置隐私保护方法
CN112215176A (zh) * 2020-10-19 2021-01-12 河南财经政法大学 一种基于差分隐私的人脸图像发布方法及装置
WO2022111789A1 (en) * 2020-11-24 2022-06-02 Huawei Technologies Co., Ltd. Distributed training with random secure averaging
CN112613231B (zh) * 2020-12-17 2022-09-20 大连理工大学 一种机器学习中隐私可用均衡的轨迹训练数据扰动机制
CN112668044B (zh) * 2020-12-21 2022-04-12 中国科学院信息工程研究所 面向联邦学习的隐私保护方法及装置
CN112883070B (zh) * 2021-01-22 2022-05-10 东北大学 一种带有差分隐私的生成式对抗网络推荐方法
US20220249906A1 (en) * 2021-02-05 2022-08-11 Google Llc On-device activity recognition
CN113158230B (zh) * 2021-03-16 2024-02-09 陕西数盾慧安数据科技有限公司 一种基于差分隐私的在线分类方法
CN113268991B (zh) * 2021-05-19 2022-09-23 北京邮电大学 一种基于cgan模型的用户人格隐私保护方法
CN113268990B (zh) * 2021-05-19 2022-11-11 北京邮电大学 一种基于对抗攻击的用户人格隐私保护方法
CN113254927B (zh) * 2021-05-28 2022-05-17 浙江工业大学 一种基于网络防御的模型处理方法、装置及存储介质
CN113298238B (zh) * 2021-06-28 2023-06-20 上海观安信息技术股份有限公司 使用定向攻击探索黑盒神经网络的方法、装置、处理设备、存储介质
CN113360945B (zh) * 2021-06-29 2023-04-07 招商局金融科技有限公司 基于差分隐私的噪声添加方法、装置、设备及介质
CN113282961A (zh) * 2021-07-22 2021-08-20 武汉中原电子信息有限公司 一种基于电网数据采集的数据脱敏方法及系统
CN113869384B (zh) * 2021-09-17 2024-05-10 大连理工大学 基于领域自适应的隐私保护图像分类方法
CN113886885A (zh) * 2021-10-21 2022-01-04 平安科技（深圳）有限公司 数据脱敏方法、数据脱敏装置、设备及存储介质
CN114220137A (zh) * 2021-11-08 2022-03-22 南京理工大学 一种基于MindSpore的隐私保护人脸识别方法
CN114090656B (zh) * 2021-11-23 2023-05-26 抖音视界有限公司 一种数据处理方法、装置、计算机设备及存储介质
CN114169007B (zh) * 2021-12-10 2024-05-14 西安电子科技大学 基于动态神经网络的医疗隐私数据识别方法
CN114417427B (zh) * 2022-03-30 2022-08-02 浙江大学 一种面向深度学习的数据敏感属性脱敏系统及方法
CN115935405A (zh) * 2022-09-15 2023-04-07 广州大学 一种基于差分隐私的文本内容保护方法
CN115659408B (zh) * 2022-12-05 2023-04-07 国网湖北省电力有限公司信息通信公司 一种电力系统敏感数据共享方法、系统及存储介质
CN116244739A (zh) * 2023-01-05 2023-06-09 内蒙古工业大学 基于本地差分隐私的非离散数据生成模型的方法和装置
CN116665914B (zh) * 2023-08-01 2023-12-08 深圳市震有智联科技有限公司 一种基于健康管理的老人监控方法及系统
CN118095359B (zh) * 2024-04-25 2024-10-15 蚂蚁科技集团股份有限公司 用于隐私保护的大语言模型训练方法及装置、介质、设备

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103279499A (zh) * 2013-05-09 2013-09-04 北京信息科技大学 个性化信息检索中用户隐私保护方法
CN104809408A (zh) * 2015-05-08 2015-07-29 中国科学技术大学 一种基于差分隐私的直方图发布方法
CN105046160A (zh) * 2015-07-21 2015-11-11 东华大学 一种基于直方图的面向数据流差分隐私发布方法
CN105376243A (zh) * 2015-11-27 2016-03-02 中国人民解放军国防科学技术大学 基于分层随机图的在线社会网络差分隐私保护方法
CN105512247A (zh) * 2015-11-30 2016-04-20 上海交通大学 基于一致性特征的非交互式差分隐私发布模型的优化方法
CN105608389A (zh) * 2015-10-22 2016-05-25 广西师范大学 医疗数据发布的差分隐私保护方法
CN106570422A (zh) * 2016-11-16 2017-04-19 南京邮电大学 一种差分隐私噪声动态分配的实现方法
CN106874779A (zh) * 2017-03-10 2017-06-20 广东工业大学 一种数据挖掘隐私保护方法及系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170124152A1 (en) * 2015-11-02 2017-05-04 LeapYear Technologies, Inc. Differentially private processing and database storage

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103279499A (zh) * 2013-05-09 2013-09-04 北京信息科技大学 个性化信息检索中用户隐私保护方法
CN104809408A (zh) * 2015-05-08 2015-07-29 中国科学技术大学 一种基于差分隐私的直方图发布方法
CN105046160A (zh) * 2015-07-21 2015-11-11 东华大学 一种基于直方图的面向数据流差分隐私发布方法
CN105608389A (zh) * 2015-10-22 2016-05-25 广西师范大学 医疗数据发布的差分隐私保护方法
CN105376243A (zh) * 2015-11-27 2016-03-02 中国人民解放军国防科学技术大学 基于分层随机图的在线社会网络差分隐私保护方法
CN105512247A (zh) * 2015-11-30 2016-04-20 上海交通大学 基于一致性特征的非交互式差分隐私发布模型的优化方法
CN106570422A (zh) * 2016-11-16 2017-04-19 南京邮电大学 一种差分隐私噪声动态分配的实现方法
CN106874779A (zh) * 2017-03-10 2017-06-20 广东工业大学 一种数据挖掘隐私保护方法及系统

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
《Large Margin Gaussian Mixture Models with Differential Privacy》;Manas A. Pathak等;《IEEE Transactions on Dependable and Secure Computing 》;20120511;第9卷(第4期);第463-469页
《基于差分隐私的流式直方图发布方法》;张啸剑等;《通信学报》;20160229;第27卷(第2期);第381-393页
《面向数据发布和分析的差分隐私保护》;张啸剑等;《软件学报》;20140430;第37卷(第4期);第927-949页

Also Published As

Publication number Publication date
CN107368752A (zh) 2017-11-21

Similar Documents

Publication Publication Date Title
CN107368752B (zh) 一种基于生成式对抗网络的深度差分隐私保护方法
Yu et al. GA-SVM wrapper approach for feature subset selection in keystroke dynamics identity verification
Melin et al. Face recognition with an improved interval type-2 fuzzy logic sugeno integral and modular neural networks
CN107886064A (zh) 一种基于卷积神经网络的人脸识别场景适应的方法
JP2022508333A (ja) マルチセンターモードにおけるランダムフォレストアルゴリズムに基づく特徴重要度ソートシステム
CN105160249B (zh) 一种基于改进的神经网络集成的病毒检测方法
CN110084149B (zh) 一种基于难样本四元组动态边界损失函数的人脸验证方法
CN105184254B (zh) 一种身份认证方法及系统
CN110414350A (zh) 基于注意力模型的双路卷积神经网络的人脸防伪检测方法
CN103745002B (zh) 一种基于行为特征与内容特征融合的水军识别方法及系统
CN109447099A (zh) 一种基于pca降维的多分类器融合方法
Huang et al. PLFace: Progressive learning for face recognition with mask bias
Mhenni et al. Analysis of Doddington zoo classification for user dependent template update: Application to keystroke dynamics recognition
Liang et al. Uncertainty learning for noise resistant sketch-based 3d shape retrieval
CN113343198B (zh) 一种基于视频的随机手势认证方法及系统
Gong et al. Deepfake forensics, an ai-synthesized detection with deep convolutional generative adversarial networks
Bi et al. SmartEar: Rhythm-based tap authentication using earphone in information-centric wireless sensor network
Sae-Bae et al. Distinctiveness, complexity, and repeatability of online signature templates
Ooi et al. Touch-stroke dynamics authentication using temporal regression forest
Tsai et al. An approach for user authentication on non-keyboard devices using mouse click characteristics and statistical-based classification
Liu et al. A collaborative deep learning microservice for backdoor defenses in Industrial IoT networks
Chessa et al. Complex networks for community detection of basketball players
Tun et al. Federated learning with intermediate representation regularization
Mhenni et al. User dependent template update for keystroke dynamics recognition
Kang et al. A hybrid novelty score and its use in keystroke dynamics-based user authentication

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant