CN109558898A - 一种基于深度神经网络的高置信度的多选择学习方法 - Google Patents

一种基于深度神经网络的高置信度的多选择学习方法 Download PDF

Info

Publication number
CN109558898A
CN109558898A CN201811333067.1A CN201811333067A CN109558898A CN 109558898 A CN109558898 A CN 109558898A CN 201811333067 A CN201811333067 A CN 201811333067A CN 109558898 A CN109558898 A CN 109558898A
Authority
CN
China
Prior art keywords
network
experts
prediction
selection
loss
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811333067.1A
Other languages
English (en)
Other versions
CN109558898B (zh
Inventor
周水庚
田凯
关佶红
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fudan University
Original Assignee
Fudan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fudan University filed Critical Fudan University
Priority to CN201811333067.1A priority Critical patent/CN109558898B/zh
Publication of CN109558898A publication Critical patent/CN109558898A/zh
Application granted granted Critical
Publication of CN109558898B publication Critical patent/CN109558898B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00—Road transport of goods or passengers
    • Y02T10/10—Internal combustion engine [ICE] based vehicles
    • Y02T10/40—Engine management systems

Abstract

本发明属于机器学习技术领域，具体为一种基于深度神经网络的高置信度多选择学习方法。本发明方法中，提出了一个置信合页损失来解决专家网络过度自信的问题，防止非专家模型以高可信度进行不准确的预测；采用选择网络来学习每个专家网络的可信度，使得最终可以从多样性的预测结果这聚合一个更可靠的决策预测。本发明方法框架简单、使用方便、可扩展性强；在图像分类和图像语义分割的任务上进行实验，达到或超过现有最好方法的水平。本发明能够为计算机视觉、数据挖掘等领域，提供基础框架和算法的支持。

Description

一种基于深度神经网络的高置信度的多选择学习方法
技术领域
本发明属于机器学习技术领域，具体涉及一种基于深度神经网络的高置信度的多选择学习方法。
背景技术
在许多应用场景中如计算机视觉领域，语言理解和推荐系统等，人工智能的任务通常伴随着模糊性。人类通过各种类型的信息与世界交互。有时很难从数据的一面做出正确的认知。由于这种模糊性的存在，我们不能期望从一个模型中获得对于所有数据准确的预测。因此，研究人员建议生成多种合理的输出。这对于交互式智能系统，如图像分类和去噪和机器翻译等非常重要。生成多个合理的预测同时促进了解决方案的多样性。
要生成多种不同的预测，有两种类型方法。一个是训练模型并生成推理过程中的多重预测。通常，这类方法使用图模型生成结构化的输出。通过优化不同之间的差异解决方案，这些方法可以找到一组m-best配置。另一个是训练多个模型和聚合他们的预测产生最终输出。这样的方法专注于学习过程的设计。在第二种方法中，有些方法集成许多独立模型并收集它们的预测到一个候选集中。这些方法包括贝叶斯平均，Boosting和Bagging，经常比使用单个模型得到更好的结果，尤其是分类任务。集成学习方法通常独立训练所有嵌入式模型，因此它们的产出可能会获得较低的多样性。因此，多选择学习(MCL)建议在训练所有嵌入式模型时建立合作来克服这一缺陷，经过训练以后，每个模型成为一个特定数据子集的专家。并提出了oracle损失概念，其重点是一个为每个样本提供最准确预测的模型。
最近，(Lee等人，2016)采用了将深度神经网络应用于MCL并提出随机多选择学习(sMCL)训练各种深度集成模型。通过直接最小化oracle损失，sMCL的性能优于许多现有基准方法。但是，sMCL经常无法做出令人满意的最终决策，因为每个网络在其自己的预测中往往过于自信。因此，简单地通过平均来集成这些预测或投票将导致糟糕的最终预测。为了解决过度自信问题，(Lee等人.2017)提出采用置信MCL(CMCL)算法并提出一个新的损失函数，名为confident oracle损失。confident oracle损失在sMCL之后增加了一个oracle的损失最小化非专家模型的预测分布和均匀分之间的Kullback-Leibler距离。虽然CMCL提升了sMCL的集成结果的准确性，它在oracle错误率指标上表现不佳。这意味着CMCL的预测的多样性不如sMCL。
发明内容
针对以上现有技术中的问题，本发明的目的在于提出一种预测准确率高的基于深度神经网络的高置信度的多选择学习方法。
本发明提出的基于深度神经网络的高置信度的多选择学习方法，是一种新的MCL方法，称为多功能方法MCL(versatile Multiple Choice learning，简称vMCL)，该方法保存现有的MCL方法的优势，同时克服它们的缺点。具体而言，vMCL旨在维护预测结果的高度多样化，同时抑制过度自信问题。vMCL的要点：(1)提出了一个置信合页损失来解决专家网络(Expert Network)过度自信的问题，可以防止非专家模型以高可信度进行不准确的预测。(2)采用选择网络(Choice Network)来学习每个专家网络的可信度，使得最终可以从多样性的预测结果这聚合一个更可靠的决策预测。
本发明在同一个任务上训练多个神经网络，将每个神经网络模型训练成为整个任务的一个小任务的专家，这种学习方法称为多选择学习。多选择学习能够为同一个输入数据给出多个输出结果，这些结果具有多样性，往往有一个或多个预测是准确的。这对于机器学习中的某些问题具有很大的意义，例如对于分类问题，图像分割，图像去燥等，如果能够给出多个候选结果，能够较大提升最终的预测的准确率。为了从多个候选结果这选择一个最好的，本发明提出一个专家选择网络，用于从多个专家中选择一个预测最准确的。
本发明提出的基于深度神经网络的高置信度的多选择学习方法，以分类任务为例，具体描述如下：假设已知有N个独立同分布的数据集D，其属于C个类别；每个样本xi有一个标签yi，假设有M个专家网络，第m个网络对第i个样本给出的预测结果为模型的优化目标函数如下：
其中，l(·)为交叉熵损失函数，是多个侯选结果的聚合，其中wi是选择网络对xi的预测分布，为第i个样本选择第m个专家网络的指示函数，如果则表示第i个样本选择第m个专家网络；反之vi表示第i个样本对应的指示函数向量，为wi的第m个专家网络对应的权重；α，β为超参，需要根据数据集手工设定。
所述模型的结构分为两个部分：多个专家网络(Expert Networks)，选择网络(Choice Network)；其中：
(1)专家网络(Expert Network)：由多层神经网络组成(可以为全连接网络，卷积神经网络或循环神经网络)，其输入是原始数据本身如图像、文本等，主要功能是在指定任务上对数据进行预测。这些任务包括但不限于图像分类，图像分割等等；
(2)选择网络(Choice Network)：由多层神经网络组成(可以为全连接网络，卷积神经网络)，其输入是原始数据或各个专家网络的高层语义特征，输出为一个one-hot的向量，该向量的长度就是专家网络的数量。如果该向量的某个位置为1，其他位置为0，那么说明对于给定的样本数据，选择网络认为该位置对应的专家网络是最准确的。
具体而言，对于每个样本，它只用于优化对它预测最准确的那个模型。随着训练的迭代进行，每个网络逐渐成为某些数据子集上的专家(在这些数据上预测的准确率很高)。
本发明方法，通过在多个专家网络的高维特征层上构建一个选择网络(ChoiceNetwork)，使得对于某些只需要一个准确预测的任务，多选择学习能够从多样性较大的几个候选结果中选择一个最准确的；同时通过置信合页损失(Confident Hinge Loss)的帮助，能够防止每个模型对不属于它的领域内的样本给出过高的预测值。
其中，优化目标的实现依赖于损失函数的设计，本发明的损失函数总共分为三个部分：
(1)oracle损失函数，旨在最大限度地减少损失最准确的模型；
(2)选择网络的损失函数，通过学习每个专家的可信度，能够生成准确预测的损失。该选择网络抑制非专家网络给出过高的预测值(这里我们只考虑一位专家每个例子)。它看起来像混合专家模型(MoE)方法(Masoudnia and Ebrahimpour 2014)。他们都提供一种决定依赖哪种模式的方法。主要区别在于本发明方法有明确的目标标签用于选择网络，而MoE不提供门控神经网络的真实标签，因为它不需要知道哪个模型专家对一个具体的样本是最好的。MoE只考虑聚合输出的正确性，因此不能提供多种多样化的输出；
(3)置信合页损失函数，旨在解决专家网络过度自信问题。合页损失是为聚合预测概率设置一个间距，使得预测的概率分布在正确类别上比错误类别具有更高的概率。
整个模型的算法具体步骤如下：
步骤1：设计专家网络的网络结构和选择网络的网络结构，并进行参数随机初始化。以图像分类任务为例，专家网络可以采用目前较先进的ResNet、VggNet等；选择网络则是加在这些专家网络的倒数第二个卷积层上；选择网络的前两层为卷积层，后面为全连接层，最后一层为softmax层，其中输出层的维度为专家网络的个数。所有网络的参数，包括卷积层和全连接层的参数，都采用Xavier初始化方法；
步骤2：从训练集中随机采样出一批样本记为S，对每个专家网络，将S作为输入进行前向传播；
步骤3：对于S中的每一个样本Si，根据多个专家网络给出的预测，计算它们与真实标签的损失，然后选择预测损失最小的那个网络对应的损失累加到当前损失(如果第m个专家网络对Si的损失最小，则否则)；同时计算选择网络给出的预测，并根据下面的损失函数计算置信合页损失：
步骤4：计算关于专家网络和选择网络的参数对应的梯度，并进行反向传播更新参数；
步骤5：重复步骤2，步骤3和步骤4，直到训练收敛。
本发明，多选择学习方法能够为同一个输入数据给出多个输出结果，这些结果具有多样性，往往有一个或多个预测是准确的。这对于机器学习中的某些问题具有很大的意义，例如对于分类问题，图像分割，图像去燥等，如果能够给出多个候选结果，能够较大提升最终的预测的准确率。为了从多个候选结果这选择一个最好的，本发明提出一个专家选择网络，用于从多个专家中选择一个预测最准确的。
本发明方法框架简单、使用方便、可扩展性强、可解释性强，并在图像分类和图像语义分割的任务上进行了实验，并达到或超过现有最好方法的水平。本发明能够为计算机视觉、数据挖掘等领域，提供基础框架和算法的支持。
附图说明
图1为多选择学习的框架图。
图2实验所用小网络的结构图。
图3为本发明VMCL与其他方法的预测的专业性对比。其中(a)为经典集成方法的结果，(b)为sMCL的结果，(c)为CMCL的结果，(d)为本方面的方法的结果。每一列代表一个模型对于10个类别的分类的准确度，越稀疏且集中越好。
图4大网络结构ResNet20在3个数据集上各方法的性能对比。其中(a)为在3个数据集上oracle指标的对比，(b)为在3个数据集上top1错误率的对比，(c)为考虑每个样本用来优化预测最准确的k个模型的情况下，各个方法的性能对比。
具体实施方式
下面给出本发明方法的具体实现设置，并给出本发明方法的性能测试与分析，以对本发明方法的实施过程进行更具体的描述。
本发明是一种高置信度的多选择学习方法，能够对给定任务训练多个专家网络，这些专家网络在一部分数据子集上的预测结果比单独在整个数据集上训练一个网络更加准确。针对不同的任务，需要的数据也不同，但是数据输入和训练单个模型的要求是一样的。例如做分类任务只需要样本和类别标签。
本发明方法的具体步骤如下：
步骤1：设计专家网络的网络结构和选择网络的网络结构，并进行参数随机初始化；
步骤2：从训练数据中随机采样出一部分记为S.对每个专家网络，将S作为输入进行前向传播；
步骤3：对于S中的每一个样本，根据多个专家网络给出的预测，计算它们与真实标签的损失，同时计算置信合页损失，然后选择预测损失最小的那个网络的损失与置信合页损失累加到一起进行梯度计算和反向传播。其他网络不进行；
步骤4：重复步骤2和3，直到训练收敛。
性能测试与分析
1、对于分类任务选用了3个图像数据集：CIFAR-10,CIFAR-100和SVHN。对于图像分割任务选用了1个图像数据集iCoseg。CIFAR-10是一个图像大小为32*32像素的数据集共10个类别，训练样本5万张，测试样本1万张。CIFAR-100与CIFAR-10类似，但是具有100个类别。SVHN是Google构建的街景门牌号数据集，共10个类别，训练集73267个样本，测试集26032个样本。iCoseg数据集有38个类别，每个图片有像素级别的前后背景标签标注。
2、训练设置及超参数设置
为了测试算法的稳定性，在分类任务上，采用了小网络结构和大网络结构，小网络结构见附图2；大网络结构为ResNet20；在实验过程中，对于分类任务，每个专家网络共享前面几个卷积层，使得低层的特征提取更加多样化；
在图像分割数据集上，采用了全卷积神经网络，参考FCN；
实验中所有任务的专家网络使用了5个。所有模型使用随机梯度下降进行优化，初始学习率为0.1，并线性衰减，使用Nesterov动量，并设置为0.9。同时使用权重衰减为5e-4，批大小为128；所有实验均采用单张12G显存的Nvidia Titan X(Pascal)，神经网络通过Pytorch框架实现。
3、对比方法
为了比较本发明的方法性能，选择传统的独立训练的Ensemble(IE)，随机多选择学习(SMCL)和置信多选择学习(CMCL)。
4、性能测试结果
评价指标：本实验采用Top-1错误率和Oracle错误率作为算法性能的评价指标。其中Oracle错误率定义如下：
表1在CIFAR-10,CIFAR-100和SVHN数据集上的性能对比
在小网络上四种方法的性能如上表所示，在CIFAR-10上，vMCL有最低的Oracle错误率，比sMCL低近43％。在Top-1个错误率中，vMCL相对于比CMCL效果好12.95％。
在SVHN数据集上vMCL仍然比sMCL和CMCL有更低的top-1错误率和Oracle的错误率。在oracle错误率方面，改善率高达27.05％。对于CIFAR-100，其类别数量相对较多，vMCL仍然可以实现更低的oracle错误率令人惊讶的是，sMCL的改进率提高了约20％。
附图3中给出了四种集成方法在CIFAR-10的测试集上的经验分类精度结果。对于这些方法中的每个模型，不同类别的准确度分布表明它的专业度。分布越均匀，说明该模型对这些类别不太专业。我们可以看到IE缺乏多样性因为每个模型表现相似并且几乎一致分配。sMCL和vMCL比CMCL模型更高的专注度，因为sMCL和vMCL每个模型专注于较少的类别，并且精度很高。
由于IE缺乏多样性，它的在Oracle错误率指标上比MCL的方法差。sMCL中的每个网络都经过精心设计专注于某些数据子集，然而由于overconfident问题使其在top-1错误率指标上表现不佳。虽然CMCL显著改善了top-1错误速率，它无法减少oracle错误率。这是因为其confidentoracle损失影响了它的专家网络，通过最小化其在非专业数据上的预测分布和均匀分布之间的KL差异。而vMCL提出的新的损失函数，具有稀疏性特点，在Oracle错误率指标上甚至比sMCL更好。
附图4中给出在大网络结构如ResNet20，在三个数据集上的各种方法的实验对比。可以看出本发明的方法在oracle指标和top-1指标上均比CMCL方法优异，同时在oracle指标上大部分实验结果显示本发明的方法超过sMCL方法。
本发明提出了一种基于深度神经网络的高置信度的多选择学习方法。主要解决了现有方法存在的两个问题，过度置信问题和候选预测聚合问题。本发明提出了置信合页损失，使得每个非专家网络给出的置信度不再过高，同时引入选择网络用于学习每个专家网络的可信度。在图像分类和图像分割任务上的实验进行性能评估，结果显示本发明的方法无论是在聚合结果的准确率上还是预测候选集的多样性指标上均优于目前最好的方法。

Claims (4)

1.一种基于深度神经网络的高置信度的多选择学习方法，其特征在于，假设已知有N个独立同分布的数据集D，其属于C个类别；每个样本xi有一个标签yi，假设有M个专家网络，第m个网络对第i个样本给出的预测结果为模型的优化目标函数如下：
其中，l(·)为交叉熵损失函数，是多个侯选结果的聚合，wi是选择网络对xi的预测分布，为第i个样本选择第m个专家网络的指示函数，如果则表示第i个样本选择第m个专家网络；反之vi表示第i个样本对应的指示函数向量，为wi的第m个专家网络对应的权重；α，β为超参，根据数据集手工设定；
模型的结构分为两个部分：多个专家网络，选择网络；其中：
所述专家网络，由多层神经网络组成，所述多层神经网络为全连接网络、卷积神经网络或循环神经网络；其输入是原始数据本身；专家网络的主要功能是在指定任务上对数据进行预测；所述任务包括图像分类、图像分割；
所述选择网络，由多层神经网络组成，所述多层神经网络为全连接网络或卷积神经网络；其输入是原始数据或各个专家网络的高层语义特征，输出为一个one-hot的向量，该向量的长度就是专家网络的数量；如果该向量的某个位置为1，其他位置为0，那么说明对于给定的样本数据，选择网络认为该位置对应的专家网络是最准确的；
对于每个样本，它只用于优化对它预测最准确的那个模型；随着训练的迭代进行，每个网络逐渐成为某些数据子集上的专家，在这些数据上预测的准确率高。
2.根据权利要求1所述的基于深度神经网络的高置信度的多选择学习方法，其特征在于，通过在多个专家网络的高维特征层上构建一个选择网络，使得对于某些只需要一个准确预测的任务，通过多选择学习，从多样性较大的几个候选结果中选择一个最准确的；同时通过置信合页损失的帮助，防止每个模型对不属于它的领域内的样本给出过高的预测值；
其中，优化目标的实现依赖于损失函数的设计，所述损失函数分为三个部分：
(1)oracle损失函数，用于最大限度地减少损失最准确的模型；
(2)选择网络的损失函数，通过学习每个专家的可信度，生成准确预测的损失；该选择网络抑制非专家网络给出过高的预测值；
(3)置信合页损失函数，用于解决专家网络过度自信问题；合页损失是为聚合预测概率设置一个间距，使得预测的概率分布在正确类别上比错误类别具有更高的概率。
3.根据权利要求2所述的基于深度神经网络的高置信度的多选择学习方法，其特征在于，算法具体步骤如下：
步骤1：设计专家网络的网络结构和选择网络的网络结构，并进行参数随机初始化；
步骤2：从训练集中随机采样出一批样本记为S，对每个专家网络，将S作为输入进行前向传播；
步骤3：对于S中的每一个样本Si，根据多个专家网络给出的预测，计算它们与真实标签的损失，然后选择预测损失最小的那个网络对应的损失累加到当前损失，如果第m个专家网络对Si的损失最小，则否则同时计算选择网络给出的预测，并根据下面的损失函数计算置信合页损失：
步骤4：计算关于专家网络和选择网络的参数对应的梯度，并进行反向传播更新参数；
步骤5：重复步骤2、步骤3和步骤4，直到训练收敛。
4.根据权利要求3所述的基于深度神经网络的高置信度的多选择学习方法，其特征在于，步骤1中，专家网络采用ResNet或VggNet；选择网络则是加在这些专家网络的倒数第二个卷积层上；选择网络的前两层为卷积层，后面为全连接层，最后一层为softmax层；其中输出层的维度为专家网络的个数；所有网络的参数，包括卷积层和全连接层的参数，采用Xavier方法初始化。
CN201811333067.1A 2018-11-09 2018-11-09 一种基于深度神经网络的高置信度的多选择学习方法 Active CN109558898B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811333067.1A CN109558898B (zh) 2018-11-09 2018-11-09 一种基于深度神经网络的高置信度的多选择学习方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811333067.1A CN109558898B (zh) 2018-11-09 2018-11-09 一种基于深度神经网络的高置信度的多选择学习方法

Publications (2)

Publication Number Publication Date
CN109558898A true CN109558898A (zh) 2019-04-02
CN109558898B CN109558898B (zh) 2023-09-05

Family

ID=65865947

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811333067.1A Active CN109558898B (zh) 2018-11-09 2018-11-09 一种基于深度神经网络的高置信度的多选择学习方法

Country Status (1)

Country Link
CN (1) CN109558898B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110111340A (zh) * 2019-04-28 2019-08-09 南开大学 基于多路割的弱监督实例分割方法
CN110399800A (zh) * 2019-06-28 2019-11-01 智慧眼科技股份有限公司 基于深度学习vgg16框架的车牌检测方法及系统、存储介质
CN112507366A (zh) * 2020-12-18 2021-03-16 北京国电通网络技术有限公司 一种智能电网中多维数据高效数据聚合的方法和系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108095716A (zh) * 2017-11-21 2018-06-01 郑州鼎创智能科技有限公司 一种基于置信规则库和深度神经网络的心电信号检测方法
WO2018137358A1 (zh) * 2017-01-24 2018-08-02 北京大学 基于深度度量学习的目标精确检索方法
CN108399421A (zh) * 2018-01-31 2018-08-14 南京邮电大学 一种基于词嵌入的深度零样本分类方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018137358A1 (zh) * 2017-01-24 2018-08-02 北京大学 基于深度度量学习的目标精确检索方法
CN108095716A (zh) * 2017-11-21 2018-06-01 郑州鼎创智能科技有限公司 一种基于置信规则库和深度神经网络的心电信号检测方法
CN108399421A (zh) * 2018-01-31 2018-08-14 南京邮电大学 一种基于词嵌入的深度零样本分类方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
徐晓祥;李凡长;张莉;张召: "范畴表示机器学习算法", 计算机研究与发展, vol. 54, no. 11 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110111340A (zh) * 2019-04-28 2019-08-09 南开大学 基于多路割的弱监督实例分割方法
CN110399800A (zh) * 2019-06-28 2019-11-01 智慧眼科技股份有限公司 基于深度学习vgg16框架的车牌检测方法及系统、存储介质
CN110399800B (zh) * 2019-06-28 2021-05-07 智慧眼科技股份有限公司 基于深度学习vgg16框架的车牌检测方法及系统、存储介质
CN112507366A (zh) * 2020-12-18 2021-03-16 北京国电通网络技术有限公司 一种智能电网中多维数据高效数据聚合的方法和系统
CN112507366B (zh) * 2020-12-18 2024-03-26 北京国电通网络技术有限公司 一种智能电网中多维数据高效数据聚合的方法和系统

Also Published As

Publication number Publication date
CN109558898B (zh) 2023-09-05

Similar Documents

Publication Publication Date Title
Dogo et al. A comparative analysis of gradient descent-based optimization algorithms on convolutional neural networks
CN110084294A (zh) 一种基于多尺度深度特征的遥感影像分类方法
CN105243388B (zh) 基于动态时间规整和划分算法的波形分类方法
CN110197286A (zh) 一种基于混合高斯模型和稀疏贝叶斯的主动学习分类方法
CN109558898A (zh) 一种基于深度神经网络的高置信度的多选择学习方法
CN105354595A (zh) 一种鲁棒视觉图像分类方法及系统
CN104966105A (zh) 一种鲁棒机器错误检索方法与系统
CN106203534A (zh) 一种基于Boosting的代价敏感软件缺陷预测方法
CN110188192A (zh) 一种多任务网络构建与多尺度的罪名法条联合预测方法
CN113469186B (zh) 一种基于少量点标注的跨域迁移图像分割方法
CN110263979A (zh) 基于强化学习模型预测样本标签的方法及装置
CN105095494A (zh) 一种对分类数据集进行测试的方法
CN106228139A (zh) 一种基于卷积网络的表观年龄预测算法及其系统
CN109063759A (zh) 一种应用于图片多属性预测的神经网络结构搜索方法
CN107870321A (zh) 基于伪标签学习的雷达一维距离像目标识别方法
CN110188780A (zh) 用于定位多目标特征点的深度学习模型的构建方法及装置
Yu et al. Lppn: A lightweight network for fast phase picking
CN109325125A (zh) 一种基于cnn优化的社交网络谣言方法
CN115391553A (zh) 一种自动搜索时序知识图谱补全模型的方法
CN101226521A (zh) 一种用于多义性数据对象预测建模的机器学习方法
Lei et al. Convolutional recurrent neural networks based waveform classification in seismic facies analysis
CN109948589A (zh) 基于量子深度信念网络的人脸表情识别方法
CN103605493B (zh) 基于图形处理单元的并行排序学习方法及系统
Pierce et al. Evaluation of neural network robust reliability using information-gap theory
CN109242579A (zh) 基于卷积神经网络的机票价格预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant