CN113378941A - 多决策融合的小样本图像分类方法 - Google Patents

多决策融合的小样本图像分类方法 Download PDF

Info

Publication number
CN113378941A
CN113378941A CN202110667350.3A CN202110667350A CN113378941A CN 113378941 A CN113378941 A CN 113378941A CN 202110667350 A CN202110667350 A CN 202110667350A CN 113378941 A CN113378941 A CN 113378941A
Authority
CN
China
Prior art keywords
classifier
set data
prediction
data
representing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110667350.3A
Other languages
English (en)
Other versions
CN113378941B (zh
Inventor
刘宝弟
兴雷
邵帅
刘伟锋
王延江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China University of Petroleum East China
Original Assignee
China University of Petroleum East China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China University of Petroleum East China filed Critical China University of Petroleum East China
Priority to CN202110667350.3A priority Critical patent/CN113378941B/zh
Publication of CN113378941A publication Critical patent/CN113378941A/zh
Application granted granted Critical
Publication of CN113378941B publication Critical patent/CN113378941B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/285—Selection of pattern recognition techniques, e.g. of classifiers in a multi-classifier system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种多决策融合的小样本图像分类方法，属于模式识别技术领域，通过综合考虑多个分类器的决策，从而提高模型的有效性和鲁棒性。该方法是一种简单的非参数方法，能够有效解决训练数据有限时，不能很好地适应新的类别的问题，同时可以解决新数据的嵌入可能导致分布移位的问题，较大幅度的提高小样本图像分类的分类性能。

Description

多决策融合的小样本图像分类方法
技术领域
本发明涉及模式识别技术领域，特别涉及一种多决策融合的小样本图像分类方法。
背景技术
近年来，深度学习作为一种强大的工具，已经帮助机器在各种视觉任务中达到甚至超过人类的水平，其中一个不可缺少的因素是大规模标记数据，但是由于实际情况的限制，在现实世界中收集大量的标注数据可能是不行的，因此，在标记样本稀缺的情况下解决这一问题的小样本学习越来越受到人们的关注。目前流行的小样本学习模型通常包括两个部分：预训练部分：使用基础数据生成一个基于神经网络的特征提取模型；测试阶段部分：首先提取测试数据的嵌入特征，然后设计一个分类器来识别查询样本。
目前，主要的小样本图像分类方法有以下几种：
(1)基于数据的小样本图像分类方法：基于数据的小样本学习利用先验知识来增强训练集，增加样本的数量从I到I',其中I'＞＞I。标准的机器学习模型和算法可以用于增强的数据，并可以获得更精确的经验风险最小化算法。2017年Tsai和Salakhutdinov等人从一个辅助文本语料库中提取聚合权值，由于这些样本可能不是来自目标小样本学习的类，因此直接将聚合的样本扩展到训练集可能会产生误导，因此，在2018年Gao等人使用生成对抗网络，用来从一个数据集生成新的样本，它有两个生成器，一个将小概率类的样本映射到大概率类，另一个将大概率类的样本映射到小概率类，以弥补生成对抗网络训练中样本的不足。但是由于小样本学习训练数据过少，极大地限制了生成对抗网络训练的效果。
(2)基于算法的小样本图像分类方法：基于算法的小样本图像分类方法主要是改进现有的参数需要进行预训练并逐渐适应训练集，预训练可以通过微调实现。2018年Arik等人提出提前停止,它需要从训练集中分离一个验证集来监视培训过程，当验证集没有性能改进时，学习就停止了；2018年Keshari等人提出有选择的更新一部分参数，对于给定一组预先训练好的滤波器，它只学习一个与滤波器相乘的强度参数；2018年Yoo等人提出同时更新相关联的多个参数；2016年Wang等人使用模型回归网络捕获了任务无关的转换，该转换将通过对少数样本的训练得到的参数值映射到将通过对大量样本的训练得到的参数值，除此之外，也可以使用新参数微调现有参数。但是由于神经网络中有大量的参数需要优化，在微调时样本数量不足很容易导致模型过拟合，影响最终的分类性能。
(3)基于优化的小样本图像分类方法：基于优化的小样本学习主要是使用2017年Finn等人提出的MAML以及其改进方法，MAML在试图利用随机策略的反向传播估计二阶导数时遇到了很大的困难；2019年Song等人提出了一个基于进化策略一个新框架ES-MAML，避免二阶导数估计问题的算法，并且可以处理新型的非平滑自适应算子；2019年Jiang等人对MAML进行了改进，采用两阶段的训练和fine-tune进行优化，大大提升了训练速度。如果监督信息丰富，可以通过梯度下降法进行学习并进行交叉验证，但是小样本学习的样本数量少不足以支撑这种方法。
发明内容
为了解决现有技术的小样本图像分类方法在图像分类过程中存在的问题，本发明实施例提供一种多决策融合的小样本图像分类方法，通过综合考虑多个分类器的决策，从而提高模型的有效性和鲁棒性，有效解决训练数据有限时，不能很好地适应新的类别的问题，较大幅度的提高小样本图像分类的分类性能。所述技术方案如下：
本发明提供了一种多决策融合的小样本图像分类方法包括：
使用训练数据训练卷积神经网络来提取图像特征，训练好后固定网络参数；
通过直接优化分类器目标函数得到分类器，利用预测公式预测测试样本的类别，其中，所述分类器目标函数为：
Figure BDA0003117405030000021
其中，
Figure BDA0003117405030000022
dim和N分别表示样本的尺寸和数量，C表示类别数，xi，yi(i＝1，2，...)表示第i个样本的嵌入特征向量和标签向量；
Figure BDA0003117405030000023
表示要学习的分类器；||·||F表示对(·)做正则化；μ表示分类器W约束项的权重；
所述分类器W为：
W＝(XTX)-1XTY
所述预测公式为：
C(xt)＝max{Wxt}
其中，
Figure BDA0003117405030000031
表示一个测试样本；max表示获取向量中最大值索引的操作符；
引入不同视角样本的多种特征表示，通过权重组合目标函数求解最优权重组合，根据最优权重组合并利用所述预测公式来预测测试样本的类别，每个视角通过所述预测公式得到一个决策，其中，所述权重组合目标函数为：
Figure BDA0003117405030000032
Figure BDA0003117405030000033
其中，V表示视角总数，Ω＝[Ω1，Ω2，...，ΩV]T，Ωv表示第v种视角的权重，
Figure BDA0003117405030000034
表示第v种视角的损失；
根据最优权重组合并利用所述预测公式预测的测试样本的类别为：
Figure BDA0003117405030000035
其中，xt表示测试样本，Wv＝(XvTXv)-1XvTY，xt v表示xt的第v种视角的嵌入特征；
将多决策融合的小样本图像特征扩展到归纳设置或半监督设置或转导设置，利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测，所述预测公式为：
Figure BDA0003117405030000036
其中，
Figure BDA0003117405030000037
表示
Figure BDA0003117405030000038
的第v种视角的特征，
Figure BDA0003117405030000039
Figure BDA00031174050300000310
分别表示支持集数据、未标记数据和查询集数据在第v种视角上的特征嵌入；
Figure BDA00031174050300000311
表示第v种视角上支持数据的标签矩阵；
Figure BDA00031174050300000312
表示一个超参数。
可选的，所述通过权重组合目标函数求解最优权重组合，具体为：在所述权重组合目标函数基础上引入拉格朗日量，并采用牛顿法，获得最优权重组合，其中，第v种视角的最优权重为：
Figure BDA0003117405030000041
可选的，所述将多决策融合的小样本图像特征类方法扩展到归纳设置，利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测，具体为：
采用支持集对分类器进行训练，利用预测公式直接预测查询集的类别。
可选的，所述将多决策融合的小样本图像特征类方法扩展到半监督设置，利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测，具体为：
第一步：使用支持集数据训练一个基本分类器，然后使用经过训练的分类器预测未标记数据，得到：
Figure BDA0003117405030000042
其中，
Figure BDA0003117405030000043
表示第v种视角上未标记数据的预测软伪标签矩阵；
第二步：通过未标记数据的预测软标签矩阵选择一个最信任样本，将其加入到支持集数据中，得到：
Figure BDA0003117405030000044
其中，
Figure BDA0003117405030000045
表示第v种视角上支持集数据的预测软伪标签矩阵，xSelect v表示一个最信任样本；yselect v表示xSelect v的软伪标签；
第三步：重复第一步和第二步直到分类器的性能稳定，然后利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测。
可选的，所述将多决策融合的小样本图像特征类方法扩展到转导设置，利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测，具体为：
第一步：使用支持集数据训练一个基本分类器，然后使用经过训练的分类器预测查询集数据，得到：
Figure BDA0003117405030000046
其中，
Figure BDA0003117405030000047
表示第v种视角上查询集数据的预测软标签矩阵；
第二步：通过查询集数据的预测软标签矩阵选择一个最信任样本，将其加入到支持集数据中，得到：
Figure BDA0003117405030000051
其中，
Figure BDA0003117405030000052
表示第v种视角上支持集数据的预测软伪标签矩阵，xSelect v表示一个最信任样本；yselect v表示xSelectvt v的软伪标签；
第三步：重复第一步和第二步直到分类器的性能稳定，然后利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测。
本发明实施例提供的技术方案带来的有益效果是：
本发明实施例提供的一种多决策融合的小样本图像分类方法，通过综合考虑多个分类器的决策，从而提高模型的有效性和鲁棒性。该方法是一种简单的非参数方法，能够有效解决训练数据有限时，不能很好地适应新的类别的问题，同时可以解决新数据的嵌入可能导致分布移位的问题，较大幅度的提高小样本图像分类的分类性能。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种多决策融合的小样本图像分类方法的流程示意图；
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明实施方式作进一步地详细描述。
下面将结合附图1，对本发明实施例的一种多决策融合的小样本图像分类方法进行详细说明。
参考附图1所示，本发明实施例的一种多决策融合的小样本图像分类方法包括：
步骤110：使用训练数据训练卷积神经网络来提取图像特征，训练好后固定网络参数。
采用卷积神经网络模型Resnet-12模型提取图像特征。其中，采用卷积神经网络提取图像特征的过程并不是本发明的保护内容，采用卷积神经网络提取图像特征属于已有技术，是一种常用的图像特征提取方法，本领域技术人员可以参考已有技术，本发明实施例在此不再累述。
步骤120：通过直接优化分类器目标函数得到分类器，利用预测公式预测测试样本的类别。
分类器目标函数如下：
Figure BDA0003117405030000061
其中，
Figure BDA0003117405030000062
dim和N分别表示样本的尺寸和数量，C表示类别数，xi，yi(i＝1，2，...)表示第i个样本的嵌入特征向量和标签向量；
Figure BDA0003117405030000063
表示要学习的分类器；||·||F表示对(·)做正则化；μ表示分类器W约束项的权重；
直接优化分类器目标函数得到的分类器W为：
W＝(XTX)-1XTY
给出一个测试样本
Figure BDA0003117405030000064
通过如下的预测公式预测测试样本的类别：
C(xt)＝max{Wxt}
其中，max表示获取向量中最大值索引的操作符。
步骤130：引入不同视角样本的多种特征表示，通过权重组合目标函数求解最优权重组合，根据最优权重组合并利用所述预测公式来预测测试样本的类别，每个视角通过所述预测公式得到一个决策。
为了在实际应用中充分提取少量镜头数据的更多信息，本发明引入不同视角样本的多种特征表示，假设总共有V种视角，每个视角都有相应的特征嵌入和分类器，例如[(X1，W1)，(X2，W2)，...，(XV，WV)]，其中，(·)v，(v＝1，2，...，V)表示第v种视角上的变量。每个视角通过步骤120中的预测公式得到一个决策。尝试找出Ω＝[Ω1，Ω2，...，ΩV]T的组合权值，使弱分类器对最终决策产生积极影响。
权重组合目标函数为：
Figure BDA0003117405030000065
Figure BDA0003117405030000066
其中，Ωv表示第v种视角的权重，
Figure BDA0003117405030000067
表示第v种视角的损失；
引入拉格朗日量，权重组合目标函数改写成：
Figure BDA0003117405030000071
式中，ζ是一个常数，Λ＝[Λ1，Λ2，...，ΛV]T是一个向量。
为方便计算，将上述方程(1)改写成矩阵形式，如下所示：
Figure BDA0003117405030000072
其中，
Figure BDA0003117405030000073
假设
Figure BDA0003117405030000074
是最优解，根据Karush-Kuhn-Tucker(KKT)条件，对于
Figure BDA0003117405030000075
得到：
Figure BDA0003117405030000076
权重组合目标函数改写成如下形式：
Figure BDA0003117405030000077
求解
Figure BDA0003117405030000078
的过程如下所示：
Figure BDA0003117405030000079
求解
Figure BDA00031174050300000710
的过程如下所示：
Figure BDA00031174050300000711
令
Figure BDA00031174050300000712
其中
Figure BDA00031174050300000713
是
Figure BDA00031174050300000714
的平均值，上述公式(3)改写成如下形式：
Figure BDA00031174050300000715
Figure BDA0003117405030000081
因此，第v种特征的最优
Figure BDA0003117405030000082
表示为：
Figure BDA0003117405030000083
令
Figure BDA0003117405030000084
上述公式(3)改写为：
Figure BDA0003117405030000085
结合上述公式(2)，上述公式(5)改写为：
Figure BDA0003117405030000086
因此，
Figure BDA0003117405030000087
改写为：
Figure BDA0003117405030000088
令
Figure BDA0003117405030000089
结合权重组合目标函数、上述公式(6)、上述公式(7)，得到：
Figure BDA00031174050300000810
结合牛顿法得到：
Figure BDA00031174050300000811
其中，f′(·)表示f(·)的导数函数，t为迭代数，表示通过t迭代可以得到最优解
Figure BDA00031174050300000812
最终得到第ν种特征的最优权重为：
Figure BDA0003117405030000091
利用所提出的多决策融合的小样本图像分类方法对测试样本xt进行预测，步骤120中的预测公式改写为：
Figure BDA0003117405030000092
其中，Wv＝(XvTXv)-1XvTY，xt v表示xt的第v种视角的嵌入特征；
步骤140：将多决策融合的小样本图像特征扩展到归纳设置或半监督设置或转导设置，利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测。
定义
Figure BDA0003117405030000093
的第v种视角的特征为
Figure BDA0003117405030000094
其中，
Figure BDA0003117405030000095
Figure BDA0003117405030000096
分别表示支持集数据、未标记数据和查询集数据在第v种视角上的特征嵌入。研究人员使用不同的数据来设计分类器，这些方法可以分为归纳设置、半监督设置和转导设置三种。
所述预测公式为：
Figure BDA0003117405030000097
其中，
Figure BDA0003117405030000098
表示第v种视角上支持数据的标签矩阵；
Figure BDA0003117405030000099
表示一个超参数。
归纳设置采用支持集对分类器进行训练，利用预测公式直接预测查询集的类别。
半监督设置的步骤如下所示：
第一步：使用支持集数据
Figure BDA00031174050300000910
训练一个基本分类器，然后使用经过训练的分类器预测未标记数据
Figure BDA00031174050300000911
得到：
Figure BDA00031174050300000912
其中，
Figure BDA00031174050300000913
表示第v种视角上未标记数据的预测软伪标签矩阵；
第二步：通过未标记数据的预测软标签矩阵
Figure BDA00031174050300000914
选择一个最信任样本xSelect v，它的软伪标签为
Figure BDA00031174050300000915
将其加入到支持集数据中，得到：
Figure BDA0003117405030000101
其中，
Figure BDA0003117405030000102
表示第v种视角上支持集数据的预测软伪标签矩阵；
第三步：重复第一步和第二步直到分类器的性能稳定，然后利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测。
转导设置的步骤如下所示：
第一步：使用支持数据训练一个基本分类器，然后使用经过训练的分类器预测查询集数据Q，得到：
Figure BDA0003117405030000103
其中，
Figure BDA0003117405030000104
表示第v种视角上查询集数据的预测软标签矩阵；
第二步：通过查询集数据的预测软标签矩阵
Figure BDA0003117405030000105
选择一个最信任样本xSelect v，它的软伪标签为
Figure BDA0003117405030000106
将其加入到支持集数据中，得到：
Figure BDA0003117405030000107
其中，
Figure BDA0003117405030000108
表示第v种视角上支持集数据的预测软伪标签矩阵；
第三步：重复第一步和第二步直到分类器的性能稳定，然后利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测。
本发明实施例提供的一种多决策融合的小样本图像分类方法，通过综合考虑多个分类器的决策，从而提高模型的有效性和鲁棒性。该方法是一种简单的非参数方法，能够有效解决训练数据有限时，不能很好地适应新的类别的问题，同时可以解决新数据的嵌入可能导致分布移位的问题，较大幅度的提高小样本图像分类的分类性能。
以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (5)

1.一种多决策融合的小样本图像分类方法，其特征在于，所述方法包括：
使用训练数据训练卷积神经网络来提取图像特征，训练好后固定网络参数。
通过直接优化分类器目标函数得到分类器，利用预测公式预测测试样本的类别，其中，所述分类器目标函数为：
Figure FDA0003117405020000011
其中，
Figure FDA0003117405020000012
dim和N分别表示样本的尺寸和数量，C表示类别数，xi，yi(i＝1，2，...)表示第i个样本的嵌入特征向量和标签向量；
Figure FDA0003117405020000013
表示要学习的分类器；||·||F表示对(·)做正则化；μ表示分类器W约束项的权重；
所述分类器W为：
W＝(XTX)-1XTY
所述预测公式为：
Figure FDA0003117405020000014
其中，
Figure FDA0003117405020000015
表示一个测试样本；max表示获取向量中最大值索引的操作符。
引入不同视角样本的多种特征表示，通过权重组合目标函数求解最优权重组合，根据最优权重组合并利用所述预测公式来预测测试样本的类别，每个视角通过所述预测公式得到一个决策，其中，所述权重组合目标函数为：
Figure FDA0003117405020000016
Figure FDA0003117405020000017
其中，V表示视角总数，Ω＝[Ω1，Ω2，...，ΩV]T，Ωv表示第v种视角的权重，
Figure FDA0003117405020000018
表示第v种视角的损失；
根据最优权重组合并利用所述预测公式预测的测试样本的类别为：
Figure FDA0003117405020000019
其中，xt表示测试样本，Wv＝(XvTXv)-1XvTY，xt v表示xt的第v种视角的嵌入特征。
将多决策融合的小样本图像特征扩展到归纳设置或半监督设置或转导设置，利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测，所述预测公式为：
Figure FDA0003117405020000021
其中，
Figure FDA0003117405020000022
表示
Figure FDA0003117405020000023
的第v种视角的特征，
Figure FDA0003117405020000024
Figure FDA0003117405020000025
分别表示支持集数据、未标记数据和查询集数据在第v种视角上的特征嵌入；
Figure FDA0003117405020000026
表示第v种视角上支持数据的标签矩阵；
Figure FDA0003117405020000027
表示一个超参数。
2.根据权利要求1所述的图像分类方法，其特征在于，所述通过权重组合目标函数求解最优权重组合，具体为：在所述权重组合目标函数基础上引入拉格朗日量，并采用牛顿法，获得最优权重组合，其中，第v种视角的最优权重为：
Figure FDA0003117405020000028
3.根据权利要求1或2所述的图像分类方法，其特征在于，所述将多决策融合的小样本图像特征类方法扩展到归纳设置，利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测，具体为：
采用支持集对分类器进行训练，利用预测公式直接预测查询集的类别。
4.根据权利要求1或2所述的图像分类方法，其特征在于，所述将多决策融合的小样本图像特征类方法扩展到半监督设置，利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测，具体为：
第一步：使用支持集数据训练一个基本分类器，然后使用经过训练的分类器预测未标记数据，得到：
Figure FDA0003117405020000029
其中，
Figure FDA00031174050200000210
表示第v种视角上未标记数据的预测软伪标签矩阵。
第二步：通过未标记数据的预测软标签矩阵选择一个最信任样本，将其加入到支持集数据中，得到：
Figure FDA00031174050200000211
其中，
Figure FDA00031174050200000212
表示第v种视角上支持集数据的预测软伪标签矩阵，xSelect v表示一个最信任样本；yselect v表示xSelect v的软伪标签。
第三步：重复第一步和第二步直到分类器的性能稳定，然后利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测。
5.根据权利要求1或2所述的图像分类方法，其特征在于，所述将多决策融合的小样本图像特征类方法扩展到转导设置，利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测，具体为：
第一步：使用支持集数据训练一个基本分类器，然后使用经过训练的分类器预测查询集数据，得到：
Figure FDA0003117405020000031
其中，
Figure FDA0003117405020000032
表示第v种视角上查询集数据的预测软标签矩阵。
第二步：通过查询集数据的预测软标签矩阵选择一个最信任样本，将其加入到支持集数据中，得到：
Figure FDA0003117405020000033
其中，
Figure FDA0003117405020000034
表示第v种视角上支持集数据的预测软伪标签矩阵，xSelect v表示一个最信任样本；yselect v表示xSelect v的软伪标签。
第三步：重复第一步和第二步直到分类器的性能稳定，然后利用预测公式对不同视角上的最优分类器进行查询集数据的标签预测。
CN202110667350.3A 2021-06-16 2021-06-16 多决策融合的小样本图像分类方法 Active CN113378941B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110667350.3A CN113378941B (zh) 2021-06-16 2021-06-16 多决策融合的小样本图像分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110667350.3A CN113378941B (zh) 2021-06-16 2021-06-16 多决策融合的小样本图像分类方法

Publications (2)

Publication Number Publication Date
CN113378941A true CN113378941A (zh) 2021-09-10
CN113378941B CN113378941B (zh) 2022-05-03

Family

ID=77574659

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110667350.3A Active CN113378941B (zh) 2021-06-16 2021-06-16 多决策融合的小样本图像分类方法

Country Status (1)

Country Link
CN (1) CN113378941B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114782752A (zh) * 2022-05-06 2022-07-22 兰州理工大学 基于自训练的小样本图像集成分类方法及装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170071483A1 (en) * 2015-09-15 2017-03-16 Huami Inc. Wearable biometric measurement device
CN106951915A (zh) * 2017-02-23 2017-07-14 南京航空航天大学 一种基于类别置信度的一维距离像多分类器融合识别法
CN108596154A (zh) * 2018-05-14 2018-09-28 河海大学 基于高维特征选择与多级融合的遥感图像分类方法
CN110222778A (zh) * 2019-06-11 2019-09-10 中国科学院自动化研究所 基于深度森林的在线多视角分类方法、系统、装置
CN110245874A (zh) * 2019-03-27 2019-09-17 中国海洋大学 一种基于机器学习和知识推理的决策融合方法
CN111488760A (zh) * 2019-01-25 2020-08-04 复旦大学 基于深度多示例学习的少样本行人重识别方法
CN112434734A (zh) * 2020-11-20 2021-03-02 贵州大学 基于动态分类器序列组合的选择性集成方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170071483A1 (en) * 2015-09-15 2017-03-16 Huami Inc. Wearable biometric measurement device
CN106951915A (zh) * 2017-02-23 2017-07-14 南京航空航天大学 一种基于类别置信度的一维距离像多分类器融合识别法
CN108596154A (zh) * 2018-05-14 2018-09-28 河海大学 基于高维特征选择与多级融合的遥感图像分类方法
CN111488760A (zh) * 2019-01-25 2020-08-04 复旦大学 基于深度多示例学习的少样本行人重识别方法
CN110245874A (zh) * 2019-03-27 2019-09-17 中国海洋大学 一种基于机器学习和知识推理的决策融合方法
CN110222778A (zh) * 2019-06-11 2019-09-10 中国科学院自动化研究所 基于深度森林的在线多视角分类方法、系统、装置
CN112434734A (zh) * 2020-11-20 2021-03-02 贵州大学 基于动态分类器序列组合的选择性集成方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114782752A (zh) * 2022-05-06 2022-07-22 兰州理工大学 基于自训练的小样本图像集成分类方法及装置
CN114782752B (zh) * 2022-05-06 2023-09-05 兰州理工大学 基于自训练的小样本图像集成分类方法及装置

Also Published As

Publication number Publication date
CN113378941B (zh) 2022-05-03

Similar Documents

Publication Publication Date Title
KR102641116B1 (ko) 데이터 증강에 기초한 인식 모델 트레이닝 방법 및 장치, 이미지 인식 방법 및 장치
CN101315670B (zh) 特定被摄体检测装置及其学习装置和学习方法
CN110188725A (zh) 高分辨率遥感图像的场景识别系统及模型生成方法
CN109657552A (zh) 基于迁移学习实现跨场景冷启动的车型识别装置与方法
CN112052818B (zh) 无监督域适应的行人检测方法、系统及存储介质
CN112949693B (zh) 图像分类模型的训练方法、图像分类方法、装置和设备
CN110083700A (zh) 一种基于卷积神经网络的企业舆情情感分类方法及系统
KR102517513B1 (ko) 인공지능 기반 수목 데이터 관리 시스템 및 수목 데이터 관리 방법
CN113139536B (zh) 一种基于跨域元学习的文本验证码识别方法、设备及存储介质
JP6897749B2 (ja) 学習方法、学習システム、および学習プログラム
CN111639540A (zh) 基于相机风格和人体姿态适应的半监督人物重识别方法
CN104091038A (zh) 基于大间隔分类准则的多示例学习特征加权方法
CN108133233A (zh) 一种多标签图像识别方法及装置
CN110222215A (zh) 一种基于f-ssd-iv3的作物害虫检测方法
CN103324954A (zh) 一种基于树结构的图像分类方法及其系统
Jadli et al. Toward a deep smart waste management system based on pattern recognition and transfer learning
CN113378941B (zh) 多决策融合的小样本图像分类方法
CN104954741A (zh) 深层次自我学习网络实现矿车空满状态的检测方法和系统
Razmjooy et al. Skin color segmentation based on artificial neural network improved by a modified grasshopper optimization algorithm
NL2029214A (en) Target re-indentification method and system based on non-supervised pyramid similarity learning
CN109993187A (zh) 一种用于识别物体类别的建模方法、机器人及存储装置
CN113887643A (zh) 一种基于伪标签自训练和源域再训练的新对话意图识别方法
CN114821204A (zh) 一种基于元学习嵌入半监督学习图像分类方法与系统
CN112115826A (zh) 一种基于双边分支网络的人脸活体检测方法及系统
CN114782752A (zh) 基于自训练的小样本图像集成分类方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant