CN111639688B - 一种基于线性核svm的物联网智能模型的局部解释方法 - Google Patents

一种基于线性核svm的物联网智能模型的局部解释方法 Download PDF

Info

Publication number
CN111639688B
CN111639688B CN202010425869.6A CN202010425869A CN111639688B CN 111639688 B CN111639688 B CN 111639688B CN 202010425869 A CN202010425869 A CN 202010425869A CN 111639688 B CN111639688 B CN 111639688B
Authority
CN
China
Prior art keywords
sample
model
internet
things
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010425869.6A
Other languages
English (en)
Other versions
CN111639688A (zh
Inventor
王琛
刘高扬
赵健雄
彭凯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huazhong University of Science and Technology
Original Assignee
Huazhong University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huazhong University of Science and Technology filed Critical Huazhong University of Science and Technology
Priority to CN202010425869.6A priority Critical patent/CN111639688B/zh
Publication of CN111639688A publication Critical patent/CN111639688A/zh
Application granted granted Critical
Publication of CN111639688B publication Critical patent/CN111639688B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/03—Credit; Loans; Processing thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Finance (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Accounting & Taxation (AREA)
  • Evolutionary Biology (AREA)
  • Development Economics (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • Technology Law (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于线性核SVM的物联网智能模型的局部解释方法，属于物联网领域。包括：将待解释的物联网目标样本与扰动样本输入至物联网智能模型得到对应的预测结果；将目标样本与扰动样本及其对应的预测值输入至局部线性核SVM模型进行训练；从训练后的局部SVM模型中提取与目标样本分类相同且与物联网智能模型预测结果一致的支持向量，计算每个特征的重要度；各个特征和对应的重要度构成参考决策集，将其与已知的标准决策集进行匹配，根据匹配结果评价物联网智能模型预测结果的准确度。本发明能够有效解析出物联网智能模型决策所依据的特征，以及各个特征的重要度，将其与标准判据进行比较，能够有效验证模型决策结果的准确度。

Description

一种基于线性核SVM的物联网智能模型的局部解释方法
技术领域
本发明属于物联网技术领域，更具体地，涉及一种基于线性核SVM的物联网智能模型的局部解释方法。
背景技术
随着5G通信的研究逐渐成熟，物联网在近几年也发展迅速，该技术在多个领域得到了广泛的应用及部署，例如医疗诊断、智能家居以及车联网等，这些应用需要借助机器学习模型对采集到的相关数据进行分析再回传给终端，然而机器学习领域中的诸多模型内部结构复杂且通常仅提供一个可调用的预测接口，相对于使用者来说相当于一个黑匣子。因而，使用者无法获悉机器学习模型内部的预测流程以及模型为什么得到最终预测结果的依据。使用者难以理解机器学习模型的行为可能会导致在高度依赖模型预测场景下的使用风险，例如医疗诊断这种需要高准确度的领域，因此怎样展示机器学习算法的分析过程(即机器学习模型预测行为解释)并让使用者相信“黑匣子”的特定输出值是近几年研究的一个重点。
现有模型解释技术的研究中，包含全局模型解释和局部模型解释两大主体研究方向。在全局模型解释中，可解释性是基于对模型特征和每个学习部分(如权重、其他参数和结构)的整体认知来理解模型是如何做出决策的，需要在将模型运用到真实数据集之前对整个模型进行评估。虽然全局的模型可解释性有助于基于特征理解预测结果的分布，但在实践中很难实现全局模型可解释性，且对于人类而言全局解释往往过于复杂难以理解；在局部模型解释中，研究人员着眼于一个样本，检查目标模型对某个样本的预测并解释原因。Marco TulioRibeiro等人提出了一种LIME算法，它可以用一种比较可信的方式解释任何分类器或回归器的预测；之后Marco TulioRibeiro等人又引入了一个运用称作“Anchor”的高精度方法解释复杂模型的预测值。局部解释方法相比于全局方法，在目标样本及其周围的预测行为更加接近于黑盒目标模型，具有更高的保真度。此外，局部解释方法可以在目标样本周围提供更高的预测准确性。局部解释方法最突出的优势在于，它提供的解释(线性模型中非零权重的特征的数量，决策规则的数量等等)通常比全局解释更简单，更容易被人类所理解。
但是，现有的局部模型解释方法都用的线性回归模型，对离目标模型决策边界较远的数据点特别敏感，会严重影响解释结果，影响用户对于模型性能和公平性的判断。
发明内容
针对现有技术的以上缺陷或改进需求，本发明提供了一种基于线性核SVM的物联网智能模型的局部解释方法，其目的在于解析物联网智能模型做出决策所依靠的特征，以及各个特征的重要度，从而准确判断模型预测结果的准确度。
为实现上述目的，本发明提供了一种基于线性核SVM的物联网智能模型的局部解释方法，包括：
S1.从物联网中获取待解释的目标样本，并对待解释的目标样本进行随机扰动，得到扰动样本；
S2.根据目标样本与扰动样本间的差异，对扰动样本赋予权重；
S3.将目标样本与扰动样本输入至已构建的物联网智能模型，得到对应的预测结果；
S4.将目标样本与扰动样本及其对应的预测值输入至局部线性核SVM模型进行训练，得到在目标样本周围与物联网智能模型预测结果相近的局部SVM模型；
S5.从训练后的局部SVM模型中提取与目标样本分类相同且与物联网智能模型预测结果一致的支持向量，并根据所选取的支持向量计算每个特征的重要度；
S6.各个特征和对应的重要度构成参考决策集，将所述参考决策集与已知的标准决策集进行匹配，根据匹配结果评价物联网智能模型预测结果的准确度。
进一步地，步骤S1具体包括：
S1.1.给定任意的物联网智能模型，并从该物联网智能模型的训练集或测试集中随机选取一个数据样本作为待解释的目标样本Rtarget；
S1.2.对目标样本Rtarget进行多次随机扰动得到扰动样本集Data'。
进一步地，根据以下公式计算扰动样本集Data'中每一个样本x与目标样本Rtarget之间的距离πRtarget(x)：
Figure BDA0002498640770000031
Figure BDA0002498640770000032
其中，min(Datai)与max(Datai)表示Data在数值特征i中取到的最大值和最小值，xi表示扰动样本x的第i个特征的取值。
进一步地，训练局部线性核SVM模型采用的损失函数如下：
Figure BDA0002498640770000033
其中，Ft(x)表示物联网智能模型在扰动样本x上的预测结果，g(x)表示局部SVM模型在扰动样本x上的预测结果，
Figure BDA0002498640770000034
表示物联网智能模型与局部SVM模型在扰动样本集Data'上的预测差异的加权总和。
进一步地，步骤S5具体包括：
S5.1.提取训练后的线性核SVM模型中分类正确且与目标样本分类相同的支持向量点PSV；
S5.2.将线性核SVM模型对上述支持向量点PSV的预测值PSVy与步骤S3所述预测结果中对应的值对比，筛选结果相同的支持向量点PSV'，再从PSV'中筛选与目标样本Rtarget类标签相同的支持向量点PSV″；
S5.3.提取训练后的线性核SVM模型的特征权重值W＝[w1,w2,w3,...,wM]；
S5.4.对PSV″中的每一个特征遍历访问，找出第i个特征与目标样本相同的样本，记为Ki，最终得到与目标样本中每一个特征值相同的样本集K1,K2,K3,…,KM；
S5.5.采用以下公式计算第i个特征对于目标样本的重要度FIi，最终得到M个特征对于目标样本的重要度FI＝[FI1,FI2,FI3,...,FIM]；
Figure BDA0002498640770000041
其中πRtarget(x)表示样本集Ki中的样本x与Rtarget之间的距离，wi表示特征权重值W在第i个特征下的分量，M表示物联网智能模型训练集Data的维度。
进一步地，所述物联网智能模型为逻辑回归模型，随机森林模型，最近邻模型或深度网络模型。
本发明还提供了一种计算机存储介质，该计算机存储介质运行时执行上述一种基于线性核SVM的物联网智能模型的局部解释方法。
总体而言，通过本发明所构思的以上技术方案与现有技术相比，能够取得下列有益效果。
(1)本发明运用线性核SVM(SupportVectorMachine，支持向量机)机器学习模型，解释物联网智能模型在目标样本上的预测行为。由于SVM模型在小样本、非线性及高维模式识别问题中具有良好的泛化能力，因此，相较于基于线性模型的局部解释技术，本发明提出的局部线型和SVM模型在目标样本周围具有更高的准确性及保真性，在远离物联网智能模型决策边界上的样本点，局部SVM模型可以更好的拟合物联网智能模型的行为，得到更好的解释效果，包括模型决策依据的特征，以及各个特征的重要度，通过将智能模型的判断依据与根据经验获得的标准判据进行比较，验证物联网智能模型决策结果的准确度。
(2)本发明方法能够有效解析出智能模型决策所依据的特征，以及各个特征的重要度，进而根据经验筛选、调整决策特征，以及各个特征的重要度(例如对于实际影响较小，而智能模型分配了较大权重的特征，减小其重要度；对于实际影响较大，而智能模型分配了较小权重的特征，增大其权重)，有效帮助物联网智能模型选择合适的特征，降低模型计算复杂度，提高模型的性能。
附图说明
图1是本发明提出的一种基于线性核SVM的物联网智能模型的局部解释方法示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。此外，下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。
参考图1，本发明实施例提供了一种基于线性核SVM的物联网智能模型的局部解释方法，包括：
S1.从物联网中获取待解释的目标样本，对待解释的目标样本进行随机扰动，得到扰动样本；
步骤S1具体包括：
S1.1.给定任意的物联网智能模型，并从该物联网智能模型的训练集或测试集中随机选取一个数据样本作为待解释的目标样本Rtarget；
本发明实施例给定基于随机森林算法构建的物联网智能模型Ft，从其AdultIncome(成年人收入数据集)训练集Data中随机选取一个数据作为待解释的目标样本Rtarget，根据Data的大小选取合适的扰动样本大小5000，Data的特征维度是14，则需要获得的扰动样本Data'是一个5000×14的矩阵；
S1.2.对目标样本Rtarget进行多次随机扰动得到扰动样本Data'。
从Rtarget中随机挑选部分特征进行扰动，得到一个扰动样本。随后对目标样本重复上述扰动操作5000次，得到扰动样本集Data'。
S2.根据目标样本与扰动样本间的差异，对扰动样本赋予权重；
根据以下公式计算扰动样本集Data'中每一个样本x与目标样本Rtarget之间的距离πRtarget(x)：
Figure BDA0002498640770000061
Figure BDA0002498640770000062
其中，min(Datai)与max(Datai)表示Data在数值特征i中取到的最大值和最小值，xi表示扰动样本x的第i个特征的取值。
对每一个Data'中的数据按照公式(1)和公式(2)计算出距离πRtarget(x)，最后得到一个1×5000的距离矩阵Ddist。
S3.将目标样本与扰动样本输入至物联网智能模型，得到对应的预测结果；
将Data'及Rtarget传入Ft得到物联网智能模型的预测结果Y’、ytarget。
S4.将目标样本与扰动样本及其对应的预测值输入至局部线性核SVM模型进行训练，得到在目标样本周围与物联网智能模型预测结果相近的局部SVM模型；
将Data'和Y’，Rtarget和ytarget传入线性核SVM模型g进行训练；
训练局部线性核SVM模型采用的损失函数如下：
Figure BDA0002498640770000071
其中，Ft(x)表示物联网智能模型在扰动样本x上的预测结果，g(x)表示局部SVM模型在扰动样本x上的预测结果，
Figure BDA0002498640770000072
表示物联网智能模型与局部SVM模型在扰动样本Data'上的预测差异的加权总和。
S5.从训练后的局部SVM模型中提取与目标样本分类相同且与物联网智能模型预测结果一致的支持向量，并根据所选取的支持向量计算每个特征的重要度。
步骤S5具体包括：
S5.1.提取训练后的线性核SVM模型中分类正确且与目标样本分类相同的支持向量点PSV；
S5.2.将线性核SVM模型对上述支持向量点PSV的预测值PSVy与步骤S3所述预测结果中对应的值对比，筛选结果相同的支持向量点PSV'，再从PSV'中筛选与目标样本Rtarget类标签相同的支持向量点PSV″；
S5.3.提取训练后的线性核SVM模型的特征权重值W＝[w1,w2,w3,...,wM]；
S5.4.对PSV″中的每一个特征遍历访问，找出第i个特征与目标样本相同的样本，记为Ki，最终得到与目标样本中每一个特征值相同的样本集K1,K2,K3,…,KM；
S5.5.采用以下公式计算第i个特征对于目标样本的重要度FIi，最终得到M个特征对于目标样本的重要度FI＝[FI1,FI2,FI3,...,FIM]；
Figure BDA0002498640770000073
其中πRtarget(x)表示样本集Ki中的样本x与Rtarget之间的距离，wi表示特征权重值W在第i个特征下的分量，M表示物联网智能模型训练集Data的维度。FIi值越大代表这个特征对于目标样本越重要。
S6.各个特征和对应的重要度构成参考决策集，将所述参考决策集与已知的标准决策集进行匹配，根据匹配结果评价物联网智能模型预测结果的准确度。
本发明可对任意类型在物联网下工作的机器学习模型(如逻辑回归模型，随机森林模型，最近邻模型，深度网络模型等)提供关于输入特征对预测结果影响的权重，且无需模型内部细节及其训练数据的先验信息，包括但不限于统计信息，部分样本等。当应用在医疗诊断时，可以将CT扫描图像作为目标样本，输出结果是在扫描图像中对预测结果具有较大影响的图像区域，再把这些图像区域进行分析，分析判断出疾病诊断模型做出该决策的原因，包括依靠哪些特征，以及各个特征的重要度，这些特征和对应的重要度构成模型决策的判据集，将其与根据经验获得的标准判据集进行匹配；如匹配度能够达到期望值，则认为模型判断结果是准确可信的，如匹配度达不到期望值，则认为模型判断结果不合理，不可信；当应用在金融分析时，可以将关系型数据作为目标样本，具体包括年龄、性别、工资、个人征信等基本信息(即目标样本的特征)，输出结果是当前用户样本中，对金融风险模型预测结果有较大影响的特征，通过经验判断这些对判断结果影响较大的特征是否合理、可信，进而判断金融风险模型给出的预测结果是否合理并决定是否提供贷款。除上述应用场景外，本发明方法还可适用于智能家居、计算机视觉、自然语言处理、检测信用卡欺诈、证券市场分析等多种物联网应用场景。
本发明方法的原型代码采用Python语言实现，并在有48842条记录的Adult数据集上进行了可行性和有效性的实验验证。本发明找到了30个没有系统学习过机器学习的人来进行实验，试图确定测试人员能否依据本发明方法给出的样本预测行为解释正确判断Adult数据集中的一个样本的年收入范围。为此，对测试人员提供与目标样本相似的10个样本的物联网智能模型的预测结果及相应解释，该解释即为基于线性核SVM的物联网智能模型的局部解释方法给出的，然后让测试人员对目标样本的年收入范围进行预测，实验结果显示89％的人能够准确地依靠本发明提供的预测解释进行判断。实验还测试了本发明方法的时间消耗，并将方法的输出结果与LIME算法的输出结果进行对比，结果显示，在相同平台上，LIME算法在解释时间为3秒，本发明方法仅需2.3秒，采用LIME算法仅有73％的人可以正确预测，低于本发明方法的准确率，验证了本发明方法的可行性和有效性。
本领域的技术人员容易理解，以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (6)

1.一种基于线性核SVM的物联网智能模型局部解释方法，其特征在于，包括：
S1.从物联网中获取待解释的目标样本，并对待解释的目标样本进行随机扰动，得到扰动样本；
S2.根据目标样本与扰动样本间的差异，对扰动样本赋予权重；
S3.将目标样本与扰动样本输入至已构建的物联网智能模型，得到对应的预测结果；
S4.将目标样本与扰动样本及其对应的预测值输入至局部线性核SVM模型进行训练，得到在目标样本周围与物联网智能模型预测结果相近的局部SVM模型；训练局部线性核SVM模型采用的损失函数如下：
Figure FDA0002758292430000011
其中，Ft(x)表示物联网智能模型在扰动样本x上的预测结果，g(x)表示局部SVM模型在扰动样本x上的预测结果，l()表示物联网智能模型与局部SVM模型在扰动样本集Data'上的预测差异的加权总和；
Figure FDA0002758292430000012
为扰动样本集Data'中每一个样本x与目标样本Rtarget之间的距离；
S5.从训练后的局部SVM模型中提取与目标样本分类相同且与物联网智能模型预测结果一致的支持向量，并根据所选取的支持向量计算每个特征的重要度；
S6.各个特征和对应的重要度构成参考决策集，将所述参考决策集与已知的标准决策集进行匹配，根据匹配结果评价物联网智能模型预测结果的准确度。
2.根据权利要求1所述的一种基于线性核SVM的物联网智能模型局部解释方法，其特征在于，步骤S1具体包括：
S1.1.给定任意的物联网智能模型，并从该物联网智能模型的训练集或测试集中随机选取一个数据样本作为待解释的目标样本Rtarget；
S1.2.对目标样本Rtarget进行多次随机扰动得到扰动样本集Data'。
3.根据权利要求2所述的一种基于线性核SVM的物联网智能模型局部解释方法，其特征在于，根据以下公式计算扰动样本集Data'中每一个样本x与目标样本Rtarget之间的距离πRtarget(x)：
Figure FDA0002758292430000021
Figure FDA0002758292430000022
其中，min(Datai)与max(Datai)表示Data在数值特征i中取到的最大值和最小值，xi表示扰动样本x的第i个特征的取值，M表示物联网智能模型训练集的维度,Data表示训练集。
4.根据权利要求1所述的一种基于线性核SVM的物联网智能模型局部解释方法，其特征在于，步骤S5具体包括：
S5.1.提取训练后的线性核SVM模型中分类正确且与目标样本分类相同的支持向量点PSV；
S5.2.将线性核SVM模型对上述支持向量点PSV的预测值PSVy与步骤S3所述预测结果中对应的值对比，筛选结果相同的支持向量点PSV'，再从PSV'中筛选与目标样本Rtarget类标签相同的支持向量点PSV”；
S5.3.提取训练后的线性核SVM模型的特征权重值W＝[w1,w2,w3,...,wM]；
S5.4.对PSV”中的每一个特征遍历访问，找出第i个特征与目标样本相同的样本，记为Ki，最终得到与目标样本中每一个特征值相同的样本集K1,K2,K3,…,KM；
S5.5.采用以下公式计算第i个特征对于目标样本的重要度FIi，最终得到M个特征对于目标样本的重要度FI＝[FI1,FI2,FI3,...,FIM]；
Figure FDA0002758292430000031
其中πRtarget(x)表示样本集Ki中的样本x与Rtarget之间的距离，wi表示特征权重值W在第i个特征下的分量，M表示物联网智能模型训练集Data的维度。
5.根据权利要求2所述的一种基于线性核SVM的物联网智能模型局部解释方法，其特征在于，所述物联网智能模型为逻辑回归模型、随机森林模型、最近邻模型或深度网络模型。
6.一种计算机存储介质，其特征在于，该计算机存储介质运行时执行上述权利要求1-5所述的一种基于线性核SVM的物联网智能模型局部解释方法。
CN202010425869.6A 2020-05-19 2020-05-19 一种基于线性核svm的物联网智能模型的局部解释方法 Active CN111639688B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010425869.6A CN111639688B (zh) 2020-05-19 2020-05-19 一种基于线性核svm的物联网智能模型的局部解释方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010425869.6A CN111639688B (zh) 2020-05-19 2020-05-19 一种基于线性核svm的物联网智能模型的局部解释方法

Publications (2)

Publication Number Publication Date
CN111639688A CN111639688A (zh) 2020-09-08
CN111639688B true CN111639688B (zh) 2021-02-05

Family

ID=72331071

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010425869.6A Active CN111639688B (zh) 2020-05-19 2020-05-19 一种基于线性核svm的物联网智能模型的局部解释方法

Country Status (1)

Country Link
CN (1) CN111639688B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112116028B (zh) * 2020-09-29 2024-04-26 联想(北京)有限公司 模型决策解释实现方法、装置及计算机设备
CN113259369B (zh) * 2021-06-02 2021-09-07 华中科技大学 一种基于机器学习成员推断攻击的数据集认证方法及系统

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101315670B (zh) * 2007-06-01 2010-08-11 清华大学 特定被摄体检测装置及其学习装置和学习方法
CN105488297B (zh) * 2015-12-15 2019-01-08 东北大学 一种基于小样本建立复杂产品优化设计代理模型的方法
US10346228B2 (en) * 2017-07-12 2019-07-09 Siemens Aktiengesellschaft Method and system for deviation detection in sensor datasets
CN107392318A (zh) * 2017-07-26 2017-11-24 清华大学 基于局部线性化的复杂机器学习模型解释方法及装置
CN108306894A (zh) * 2018-03-19 2018-07-20 西安电子科技大学 一种基于攻击发生置信度的网络安全态势评估方法及系统
CN110647918B (zh) * 2019-08-26 2020-12-25 浙江工业大学 面向深度学习模型对抗攻击的拟态防御方法
CN111079944B (zh) * 2019-12-18 2023-03-10 支付宝(杭州)信息技术有限公司 迁移学习模型解释实现方法及装置、电子设备、存储介质

Also Published As

Publication number Publication date
CN111639688A (zh) 2020-09-08

Similar Documents

Publication Publication Date Title
CN110070141B (zh) 一种网络入侵检测方法
Chen et al. A population-based incremental learning approach with artificial immune system for network intrusion detection
Salehi et al. SMKFC-ER: Semi-supervised multiple kernel fuzzy clustering based on entropy and relative entropy
Wang et al. Fault recognition using an ensemble classifier based on Dempster–Shafer Theory
CN111444951B (zh) 样本识别模型的生成方法、装置、计算机设备和存储介质
CA3133729A1 (en) System and method for machine learning fairness test
CN111639688B (zh) 一种基于线性核svm的物联网智能模型的局部解释方法
CN112949954B (zh) 基于识别学习建立财务欺诈识别模型的方法
CN111353607B (zh) 一种量子态判别模型的获得方法、装置
Zhou et al. Personal credit default prediction model based on convolution neural network
Hu et al. EAR: an enhanced adversarial regularization approach against membership inference attacks
CN115587884A (zh) 一种基于改进的极限学习机的用户贷款违约预测方法
EP4002230A1 (en) Information processing apparatus and information processing method
Wang et al. Ask: Adversarial soft k-nearest neighbor attack and defense
CN112949524B (zh) 一种基于经验模态分解与多核学习的发动机故障检测方法
Carrillo et al. Individual Explanations in Machine Learning Models: A Case Study on Poverty Estimation
CN114095268A (zh) 用于网络入侵检测的方法、终端及存储介质
Infant Cyril et al. Deep learning based loan eligibility prediction with Social Border Collie Optimization
CN117094817B (zh) 一种信用风险控制智能预测方法及系统
CN117009883B (zh) 对象分类模型构建方法、对象分类方法、装置和设备
Kusy et al. Detection of Fraudulent Credit Card Transactions by Computational Intelligence Models as a Tool in Digital Forensics
CN114281994B (zh) 一种基于三层加权模型的文本聚类集成方法及系统
Liu et al. A Big Data-Based Anti-Fraud Model for Internet Finance.
Duch et al. Computational intelligence methods and data understanding
Monea et al. Development of signal analysis algorithms for nqr detection

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant