CN112561074A - 一种机器学习可解释方法、装置及存储介质 - Google Patents
一种机器学习可解释方法、装置及存储介质 Download PDFInfo
- Publication number
- CN112561074A CN112561074A CN202011241293.4A CN202011241293A CN112561074A CN 112561074 A CN112561074 A CN 112561074A CN 202011241293 A CN202011241293 A CN 202011241293A CN 112561074 A CN112561074 A CN 112561074A
- Authority
- CN
- China
- Prior art keywords
- sample
- sampling
- interpretable
- interpreted
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 238000010801 machine learning Methods 0.000 title claims abstract description 35
- 238000005070 sampling Methods 0.000 claims abstract description 103
- 238000004891 communication Methods 0.000 claims description 5
- 238000003709 image segmentation Methods 0.000 claims description 5
- 238000010845 search algorithm Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 7
- 239000004571 lime Substances 0.000 description 6
- 235000008733 Citrus aurantifolia Nutrition 0.000 description 5
- 235000011941 Tilia x europaea Nutrition 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 235000000332 black box Nutrition 0.000 description 1
- 238000010219 correlation analysis Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种机器学习可解释方法、装置及计算机可读存储介质，首先获取待解释样本；再基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；接着利用所述若干采样值进行模型训练，得到可解释模型；最后利用所述可解释模型对所述待解释样本进行解释，得到解释结果。
Description
技术领域
本发明涉及人工智能技术领域，尤其涉及一种机器学习可解释方法、装置及计算机可读存储介质。
背景技术
与模型无关的局部可解释性算法(LIME，Local Interpretable Model-agnosticExplanations)的主要思想是利用可解释性模型(如线性模型)局部近似目标黑盒模型的预测。LIME在局部采样过程中采用了特征随机采样方式，即假设信号的特征之间是相互独立的，采样时随机对特征进行抽取，这种采样方式简单又直观。
然而，对于图像、自然语言以及结构化数据来讲，特征之间往往存在很强的相关性，如果采用特征随机采样方式会忽略特征相关性，必然损失大量有用信息，从而影响解释结果的保真性和解释性。
发明内容
本发明实施例为了解决LIME算法中采样方案所存在的问题，创造性地提出了一种机器学习可解释方法、装置及计算机可读存储介质。
根据本发明第一方面，提供了一种机器学习可解释方法，该方法包括：获取待解释样本；基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；利用所述若干采样值进行模型训练，得到可解释模型；利用所述可解释模型对所述待解释样本进行解释，得到解释结果。
根据本发明一实施方式，所述待解释样本包括如下数据类型至少之一：图像数据、自然语言及结构化数据。
根据本发明一实施方式，利用所述若干采样值进行模型训练，得到可解释模型，包括：对所述若干采样值进行线性拟合，得到线性模型；相应的，利用所述可解释模型对所述待解释样本进行解释，包括：通过分类器得到所述待解释样本的分类结果；利用所述线性模型对所述分类结果的进行解释。
根据本发明一实施方式，所述待解释样本为原始图像；基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集，包括：对原始图像进行图像分割，得到超像素块图像；将超像素块图像转化为无向图；寻找所述无向图中的所有团，所述团为无向图中的一个子集，且所述子集中的任意两个顶点都有边相连。
根据本发明一实施方式，所述将超像素块图像转化为无向图，包括：将所述超像素块图像对应无向图的顶点；若存在相邻的两个超像素块图像，则将无向图中对应的两个顶点通过无向边相连。
根据本发明一实施方式，利用深度优化搜索算法寻找所述无向图中的所有团。
根据本发明第二方面，还提供了一种机器学习可解释装置，所述装置包括：获取模块，用于获取待解释样本；相关性采样模块，用于基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；训练模块，用于利用所述若干采样值进行模型训练，得到可解释模型；解释模块，用于利用所述可解释模型对所述待解释样本进行解释，得到解释结果。
根据本发明一实施方式，所述训练模块，具体用于对所述若干采样值进行线性拟合，得到线性模型；相应的，所述解释模块，还用于通过分类器得到所述待解释样本的分类结果；利用所述线性模型对所述分类结果的进行解释。
根据本发明一实施方式，所述待解释样本为原始图像；所述相关性采样模块具体用于，对原始图像进行图像分割，得到超像素块图像；将超像素块图像转化为无向图；寻找所述无向图中的所有团，所述团为无向图中的一个子集，且所述子集中的任意两个顶点都有边相连。
根据本发明一实施方式，所述相关性采样模块还用于，将所述超像素块图像对应无向图的顶点；若存在相邻的两个超像素块图像，则将无向图中对应的两个顶点通过无向边相连。
根据本发明一实施方式，所述相关性采样模块还用于，利用深度优化搜索算法寻找所述无向图中的所有团。
根据本发明第三方面，又提供了一种机器学习可解释装置，其特征在于，所述装置至少包括一个处理器、以及于所述处理器连接的至少一个存储器、总线；其中，所述处理器、所述内存其通过总线完成相互间的通信；所述处理器用于调用存储器中的程序指令，以执行前述任一机器学习可解释方法。
根据本发明第四方面，还提供了一种计算机可读存储介质，所述存储介质包括一组计算机可执行指令，当所述指令被执行时用于执行前述任一机器学习可解释方法。
本发明实施例机器学习可解释方法、装置及计算机可读存储介质，首先获取待解释样本；再基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；接着利用所述若干采样值进行模型训练，得到可解释模型；最后利用所述可解释模型对所述待解释样本进行解释，得到解释结果。如此，本发明基于特征相关性的采样方式，相比现有技术中随机采样方式，采样数量更少，拟合的可解释模型与待解释样本(即原始样本)保真度更强，从而在有效降低采样耗时的情况下，使得解释结果的保真度和可解释性都得到很好的提高，进而给用户提供了更好的解释能力。
需要理解的是，本发明的教导并不需要实现上面所述的全部有益效果，而是特定的技术方案可以实现特定的技术效果，并且本发明的其他实施方式还能够实现上面未提到的有益效果。
附图说明
通过参考附图阅读下文的详细描述，本发明示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本发明的若干实施方式，其中：
在附图中，相同或对应的标号表示相同或对应的部分。
图1示出了本发明实施例机器学习可解释方法的实现流程示意图一；
图2示出了本发明实施例机器学习可解释方法的实现流程示意图二；
图3示出了本发明实施例机器学习可解释方法中基于特征相关性进行采样的实现流程示意图；
图4示出了本发明一应用示例基于特征相关性对原始图像进行采样的图像演示效果图；
图5示出了本发明一应用示例采用特征相关性采用前后的可解释图像效果对比图；
图6示出了本发明实施例机器学习可解释装置的组成结构示意图。
具体实施方式
下面将参考若干示例性实施方式来描述本发明的原理和精神。应当理解，给出这些实施方式仅仅是为使本领域技术人员能够更好地理解进而实现本发明，而并非以任何方式限制本发明的范围。相反，提供这些实施方式是为使本发明更加透彻和完整，并能够将本发明的范围完整地传达给本领域的技术人员。
下面结合附图和具体实施例对本发明的技术方案进一步详细阐述。
图1示出了本发明实施例机器学习可解释方法的实现流程示意图一。
参考图1，本发明实施例提供了一种机器学习可解释方法，该方法包括：操作101，获取待解释样本；操作102，基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；操作103，利用所述若干采样值进行模型训练，得到可解释模型；操作104，利用所述可解释模型对所述待解释样本进行解释，得到解释结果。
在操作101，待解释样本可以包括如下数据类型至少之一：图像数据、自然语言及结构化数据。
具体地，电子设备在获取待解释样本之后，会根据待解释样本的数据类型分别采用适合的方式进行预处理，之后再执行后续操作102。比如，对自然语言进行句法分析及分词处理，得到用于表征自然语言的特征词。其中，电子设备可以是现有已开发或未来将要开发的任意形式的智能设备。
在操作102，电子设备基于所述待解释样本的特征相关性对所述待解释样本进行采样，包括：首先对待解释样本(即原始样本)进行特征相关性分析；再基于待解释样本的特征相关性对待解释样本进行采样，得到包括若干采样值的采样集。在实际应用中，电子设备会针对不同数据类型的待解释样本采用不同特征相关性的采样方式进行采样。后续实施例中将着重以图像数据为例进行采样过程的详细阐述。
在操作103～104，电子设备在获得包括若干采样值的采样集之后，即可利用进行模型训练，得到可解释模型；再利用可解释模型对所述待解释样本进行解释，得到解释结果。
具体地，以可解释性模型为线性模型为例，电子设备首先对所述若干采样值进行线性拟合，得到线性模型；再利用线性模型对分类结果的进行解释；其中，分类结果为通过分类器得到的待解释样本的分类结果。
本发明实施例机器学习可解释方法，首先获取待解释样本；再基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；接着利用所述若干采样值进行模型训练，得到可解释模型；最后利用所述可解释模型对所述待解释样本进行解释，得到解释结果。如此，本发明基于特征相关性的采样方式，相比现有技术中随机采样方式，采样数量更少，拟合的可解释模型与待解释样本(即原始样本)保真度更强，从而在有效降低采样耗时的情况下，使得解释结果的保真度和可解释性都得到很好的提高，进而给用户提供了更好的解释能力。
图2示出了本发明实施例机器学习可解释方法的实现流程示意图二；图3示出了本发明实施例机器学习可解释方法中基于特征相关性进行采样的实现流程示意图；图4示出了本发明一应用示例基于特征相关性对原始图像进行采样的图像演示效果图；图5示出了本发明一应用示例采用特征相关性采用前后的可解释图像效果对比图；
参考图2，本发明实施例机器学习可解释方法，包括：操作201，获取待解释样本，待解释样本为原始图像；操作202，基于待解释样本的特征相关性对待解释样本进行采样，得到包括若干采样值的采样集；操作203，对所述若干采样值进行线性拟合，得到线性模型；操作204，通过分类器得到待解释样本的分类结果；操作205，利用线性模型对所述分类结果的进行解释。
在操作201，待解释样本为原始图像，即待解释样本为图像数据类型。
具体地，电子设备在获取待解释样本之后，会首先进行图像预处理，之后再执行后续操作202。
在操作202，参考图3，电子设备基于待解释样本的特征相关性对待解释样本进行采样，得到包括若干采样值的采样集，包括：操作2021，对原始图像进行图像分割，得到超像素块图像；操作2022，将超像素块图像转化为无向图；操作2023，寻找所述无向图中的所有团，所述团为无向图中的一个子集，且所述子集中的任意两个顶点都有边相连。
在操作2021～2023，参考图4，首先，对原始图像进行超像素分块，每个超像素块图像作为主要的特征处理单元，是一组具有相同或相近的相互连接的像素的集合；接着，将超像素块转化为无向图，超像素块对应无向图的顶点，如果两个超像素块相邻，则无向图中对应的两个顶点之间有无向边相连；最后，寻找无向图中的所有团，团是指无向图中的一个子集，子集中的任意两个顶点都有边相连，如基数为1的团，基数为2的团，基数为3的团。具体地，在操作2023，可以采用深度优先DFS的搜索方法寻找所述无向图中的所有团。
在操作203，电子设备对若干采样值进行线性拟合，得到线性模型。当然，在线性拟合过程中，还会得到特征对应的幅值w。其中，幅值w越大，说明该特征对应的采样值更接近于待检测样本。
操作204～205，通过分类器得到待解释样本的分类结果；再利用操作203得到的线性模型对该分类结果的进行解释。
需要补充说明的是，本发明实施例操作204的实施并不局限于在操作203之后实施，还可以在操作201～203任一操作流程之前实施。
在一示例中，参考图5所示的采用特征相关性采用前后的可解释图像效果对比图，其中第一行为原始图像，第二行为采用LIME解释的图像(随机采样)，第三行为采用MPS-LIME解释的图像(特征相关性采样)，不难得到如下实验结果数据如下表所示，其中，表一为采用时间对比(s)，表二为误差(Err)和保真度(R2)：
表一
| img1 | img2 | img3 | img4 | img5 | img6 | |
| LIME | 232.2 | 230.45 | 245.36 | 264.51 | 223.79 | 226.58 |
| 本方案 | 91.02 | 113.85 | 109.29 | 154.57 | 117.21 | 152.84 |
表二
由此可见，本发明实施例充分考虑特征的相关性，采样值可以更好的保留原始图像的有用信息。该基于特征相关性的采样方式，相比现有技术中随机采样方式，采样数量更少，拟合的线性模型与原始图像保真度更强，从而在有效降低采样耗时的情况下，使得解释结果的保真度和可解释性都得到很好的提高，进而给用户提供了更好的解释能力。
同理，基于如上文所述机器学习可解释方法，本发明实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有程序，当所述程序被处理器执行时，使得所述处理器至少执行如下所述的操作步骤：操作101，获取待解释样本；操作102，基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；操作103，利用所述若干采样值进行模型训练，得到可解释模型；操作104，利用所述可解释模型对所述待解释样本进行解释，得到解释结果。
进一步地，基于如上文机器学习可解释方法，本发明实施例还提供一种机器学习可解释装置，所述机器学习可解释装置至少包括一个处理器、以及于所述处理器连接的至少一个存储器、总线；其中，所述处理器、所述内存其通过总线完成相互间的通信；所述处理器用于调用存储器中的程序指令，以执行如下所述的操作步骤：操作101，获取待解释样本；操作102，基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；操作103，利用所述若干采样值进行模型训练，得到可解释模型；操作104，利用所述可解释模型对所述待解释样本进行解释，得到解释结果。
进一步地，基于如上文机器学习可解释方法，本发明实施例还提供一种机器学习可解释装置，如图6所示，该机器学习可解释装置60包括：获取模块601，用于获取待解释样本；相关性采样模块602，用于基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；训练模块603，用于利用所述若干采样值进行模型训练，得到可解释模型；解释模块604，用于利用所述可解释模型对所述待解释样本进行解释，得到解释结果。
根据本发明一实施方式，训练模块603，具体用于对所述若干采样值进行线性拟合，得到线性模型；相应的，解释模块604，还用于通过分类器得到所述待解释样本的分类结果；利用所述线性模型对所述分类结果的进行解释。
其中，待解释样本包括如下数据类型至少之一：图像数据、自然语言及结构化数据。
根据本发明一实施方式，所述待解释样本为原始图像；相关性采样模块602具体用于，对原始图像进行图像分割，得到超像素块图像；将超像素块图像转化为无向图；寻找所述无向图中的所有团，所述团为无向图中的一个子集，且所述子集中的任意两个顶点都有边相连。
根据本发明一实施方式，相关性采样模块602还用于，将所述超像素块图像对应无向图的顶点；若存在相邻的两个超像素块图像，则将无向图中对应的两个顶点通过无向边相连。
根据本发明一实施方式，相关性采样模块602还用于，利用深度优化搜索算法寻找所述无向图中的所有团。
这里需要指出的是：以上对机器学习可解释装置实施例的描述，与前述图1至5所示的方法实施例的描述是类似的，具有同前述图1至5所示的方法实施例相似的有益效果，因此不做赘述。对于本发明机器学习可解释装置实施例中未披露的技术细节，请参照本发明前述图1至5所示的方法实施例的描述而理解，为节约篇幅，因此不再赘述。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
在本申请所提供的几个实施例中，应该理解到，所揭露的设备和方法，可以通过其它的方式实现。以上所描述的设备实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，如：多个单元或组件可以结合，或可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的各组成部分相互之间的耦合、或直接耦合、或通信连接可以是通过一些接口，设备或单元的间接耦合或通信连接，可以是电性的、机械的或其它形式的。
上述作为分离部件说明的单元可以是、或也可以不是物理上分开的，作为单元显示的部件可以是、或也可以不是物理单元；既可以位于一个地方，也可以分布到多个网络单元上；可以根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外，在本发明各实施例中的各功能单元可以全部集成在一个处理单元中，也可以是各单元分别单独作为一个单元，也可以两个或两个以上单元集成在一个单元中；上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。
本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成，前述的程序可以存储于计算机可读取存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的存储介质包括：移动存储设备、只读存储器(Read Only Memory，ROM)、磁碟或者光盘等各种可以存储程序代码的介质。
或者，本发明上述集成的单元如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例所述方法的全部或部分。而前述的存储介质包括：移动存储设备、ROM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种机器学习可解释方法，其特征在于，所述方法包括：
获取待解释样本；
基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；
利用所述若干采样值进行模型训练，得到可解释模型；
利用所述可解释模型对所述待解释样本进行解释，得到解释结果。
2.根据权利要求1所述的方法，其特征在于，所述待解释样本包括如下数据类型至少之一：图像数据、自然语言及结构化数据。
3.根据权利要求1所述的方法，其特征在于，利用所述若干采样值进行模型训练，得到可解释模型，包括：
对所述若干采样值进行线性拟合，得到线性模型；
相应的，利用所述可解释模型对所述待解释样本进行解释，包括：
通过分类器得到所述待解释样本的分类结果；
利用所述线性模型对所述分类结果的进行解释。
4.根据权利要求1至3任一项所述的方法，其特征在于，所述待解释样本为原始图像；基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集，包括：
对原始图像进行图像分割，得到超像素块图像；
将超像素块图像转化为无向图；
寻找所述无向图中的所有团，所述团为无向图中的一个子集，且所述子集中的任意两个顶点都有边相连。
5.根据权利要求4所述的方法，其特征在于，所述将超像素块图像转化为无向图，包括：
将所述超像素块图像对应无向图的顶点；
若存在相邻的两个超像素块图像，则将无向图中对应的两个顶点通过无向边相连。
6.根据权利要求4所述的方法，其特征在于，利用深度优化搜索算法寻找所述无向图中的所有团。
7.一种机器学习可解释装置，其特征在于，所述装置包括：
获取模块，用于获取待解释样本；
相关性采样模块，用于基于所述待解释样本的特征相关性对所述待解释样本进行采样，得到包括若干采样值的采样集；
训练模块，用于利用所述若干采样值进行模型训练，得到可解释模型；
解释模块，用于利用所述可解释模型对所述待解释样本进行解释，得到解释结果。
8.根据权利要求7所述的装置，其特征在于，
所述训练模块，具体用于对所述若干采样值进行线性拟合，得到线性模型；
相应的，所述解释模块，还用于通过分类器得到所述待解释样本的分类结果；利用所述线性模型对所述分类结果的进行解释。
9.一种机器学习可解释装置，其特征在于，所述装置至少包括一个处理器、以及于所述处理器连接的至少一个存储器、总线；其中，所述处理器、所述内存其通过总线完成相互间的通信；所述处理器用于调用存储器中的程序指令，以执行权利要求1至6任一项所述的机器学习可解释方法。
10.一种计算机可读存储介质，其特征在于，所述存储介质包括一组计算机可执行指令，当所述指令被执行时用于执行权利要求1至6任一项所述的机器学习可解释方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011241293.4A CN112561074A (zh) | 2020-11-09 | 2020-11-09 | 一种机器学习可解释方法、装置及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011241293.4A CN112561074A (zh) | 2020-11-09 | 2020-11-09 | 一种机器学习可解释方法、装置及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112561074A true CN112561074A (zh) | 2021-03-26 |
Family
ID=75041699
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011241293.4A Pending CN112561074A (zh) | 2020-11-09 | 2020-11-09 | 一种机器学习可解释方法、装置及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112561074A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112907145A (zh) * | 2021-03-31 | 2021-06-04 | 重庆度小满优扬科技有限公司 | 模型解释方法以及电子设备 |
| CN116704208A (zh) * | 2023-08-04 | 2023-09-05 | 南京理工大学 | 基于特征关系的局部可解释方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20190080253A1 (en) * | 2017-09-12 | 2019-03-14 | Sas Institute Inc. | Analytic system for graphical interpretability of and improvement of machine learning models |
| CN109902167A (zh) * | 2018-12-04 | 2019-06-18 | 阿里巴巴集团控股有限公司 | 嵌入结果的解释方法和装置 |
-
2020
- 2020-11-09 CN CN202011241293.4A patent/CN112561074A/zh active Pending
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20190080253A1 (en) * | 2017-09-12 | 2019-03-14 | Sas Institute Inc. | Analytic system for graphical interpretability of and improvement of machine learning models |
| CN109902167A (zh) * | 2018-12-04 | 2019-06-18 | 阿里巴巴集团控股有限公司 | 嵌入结果的解释方法和装置 |
Non-Patent Citations (1)
| Title |
|---|
| SHENG SHI ET AL: "A MODIFIED PERTURBED SAMPLING METHOD FOR LOCAL INTERPRETABLE MODEL-AGNOSTIC EXPLANATION", pages 1 - 3 * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112907145A (zh) * | 2021-03-31 | 2021-06-04 | 重庆度小满优扬科技有限公司 | 模型解释方法以及电子设备 |
| CN112907145B (zh) * | 2021-03-31 | 2024-05-28 | 重庆度小满优扬科技有限公司 | 模型解释方法以及电子设备 |
| CN116704208A (zh) * | 2023-08-04 | 2023-09-05 | 南京理工大学 | 基于特征关系的局部可解释方法 |
| CN116704208B (zh) * | 2023-08-04 | 2023-10-20 | 南京理工大学 | 基于特征关系的局部可解释方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Lei et al. | Coupled adversarial training for remote sensing image super-resolution | |
| US10740640B2 (en) | Image processing method and processing device | |
| US20190385054A1 (en) | Text field detection using neural networks | |
| CN112597941B (zh) | 一种人脸识别方法、装置及电子设备 | |
| US9036905B2 (en) | Training classifiers for deblurring images | |
| EP2450808A2 (en) | Semantic visual search engine | |
| Hegazi et al. | An improved copy-move forgery detection based on density-based clustering and guaranteed outlier removal | |
| WO2014205231A1 (en) | Deep learning framework for generic object detection | |
| CN116258719B (zh) | 基于多模态数据融合的浮选泡沫图像分割方法和装置 | |
| CN112561074A (zh) | 一种机器学习可解释方法、装置及存储介质 | |
| CN109241299B (zh) | 多媒体资源搜索方法、装置、存储介质及设备 | |
| Sikha et al. | Multi-resolution dynamic mode decomposition-based salient region detection in noisy images | |
| Feng et al. | Cacnet: Salient object detection via context aggregation and contrast embedding | |
| KR102576157B1 (ko) | 인공 신경망을 이용한 고속 객체 검출 방법 및 장치 | |
| CN112906800B (zh) | 基于图像组自适应的协同显著性检测方法 | |
| CN111353514A (zh) | 模型训练方法、图像识别方法、装置及终端设备 | |
| US20240013516A1 (en) | Method and system for deep learning based image feature extraction | |
| CN112785601B (zh) | 一种图像分割方法、系统、介质及电子终端 | |
| CN115424293A (zh) | 活体检测方法、活体检测模型的训练方法及装置 | |
| CN114692715A (zh) | 一种样本标注方法及装置 | |
| CN113591857A (zh) | 字符图像处理方法、装置及古代汉籍图像的识别方法 | |
| Kawano et al. | TAG: Guidance-free Open-Vocabulary Semantic Segmentation | |
| CN113255665B (zh) | 一种目标文本提取方法及系统 | |
| Han et al. | Hyperbolic Face Anti-Spoofing | |
| CN118015644B (zh) | 基于图片和文字的社交媒体关键词数据分析方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |