CN112819090B - 一种基于生成对抗网络的知识蒸馏数据增强方法与系统 - Google Patents
一种基于生成对抗网络的知识蒸馏数据增强方法与系统 Download PDFInfo
- Publication number
- CN112819090B CN112819090B CN202110197819.1A CN202110197819A CN112819090B CN 112819090 B CN112819090 B CN 112819090B CN 202110197819 A CN202110197819 A CN 202110197819A CN 112819090 B CN112819090 B CN 112819090B
- Authority
- CN
- China
- Prior art keywords
- image
- enhanced
- module
- knowledge distillation
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 238000013140 knowledge distillation Methods 0.000 title claims abstract description 39
- 238000009826 distribution Methods 0.000 claims abstract description 10
- 238000012549 training Methods 0.000 claims description 43
- 238000013528 artificial neural network Methods 0.000 claims description 15
- 238000011049 filling Methods 0.000 claims description 15
- 239000002131 composite material Substances 0.000 claims description 12
- 238000010586 diagram Methods 0.000 claims description 7
- 238000002156 mixing Methods 0.000 claims description 7
- 238000007689 inspection Methods 0.000 claims description 5
- 238000012795 verification Methods 0.000 claims description 5
- 238000004590 computer program Methods 0.000 claims description 4
- 230000004913 activation Effects 0.000 claims description 3
- 238000003860 storage Methods 0.000 claims description 3
- 238000013527 convolutional neural network Methods 0.000 claims description 2
- 230000001172 regenerating effect Effects 0.000 claims description 2
- 230000011218 segmentation Effects 0.000 abstract description 6
- 238000004422 calculation algorithm Methods 0.000 abstract description 5
- 238000002372 labelling Methods 0.000 abstract description 4
- 238000001514 detection method Methods 0.000 abstract description 3
- 238000004519 manufacturing process Methods 0.000 abstract description 2
- 238000003062 neural network model Methods 0.000 abstract description 2
- 238000002474 experimental method Methods 0.000 description 4
- 238000012733 comparative method Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 101100153586 Caenorhabditis elegans top-1 gene Proteins 0.000 description 1
- 101100370075 Mus musculus Top1 gene Proteins 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000004821 distillation Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000008014 freezing Effects 0.000 description 1
- 238000007710 freezing Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000012956 testing procedure Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明提供了一种基于生成对抗网络的知识蒸馏数据增强方法与系统，通过易操作的数据增强方式，提高了卷积网络对工业数据集的定位能力和识别准确率。本发明结合了生成对抗网络高效拟合样本数据分布和知识蒸馏中对神经网络模型容错率改善的算法，实现了在生成增强样本时不引入非信息噪声、提高了模型对错误标签的鲁棒性。本发明降低了工业数据集正负样本标注错误而产生的对模型的误导，提升了工业数据集在语义分割任务上的表征表达性能，提高了模型在特征粒度区分小的情况下对样本特征的学习能力，在汽车零部件检测与制造、铁路零部件定位等应用中发挥了重要的作用。
Description
技术领域
本发明属于数据增强技术领域，具体涉及一种基于生成对抗网络的知识蒸馏数据增强方法与系统。
背景技术
数据增强是一种在原有数据集上通过一定的变换方式增加数据量的方法。其目的在于训练神经网络分类器时，有足够比例的样本使得分类器在训练过程中将数百万的参数调整到模型损失最佳点。
现有数据增强的丢弃、填充和融合策略往往会引入较多的非信息噪声，降低样本的信噪比，在语义分割时会将目标区域识别错误。另外工业数据正负样本区别小，在人工标注过程中存在误差，出现标注区域偏移，错误等问题。这些方法在定位能力和识别准确率上都难以令人满意。
发明内容
本发明要解决的技术问题是：提供一种基于生成对抗网络的知识蒸馏数据增强方法与系统，用于提高卷积网络对工业数据集的定位能力。
本发明为解决上述技术问题所采取的技术方案为：一种基于生成对抗网络的知识蒸馏数据增强方法，包括以下步骤：
S1：搭建一种基于生成对抗网络的知识蒸馏数据增强方法的数据增强系统，包括输入模块、增强图像模块、网络训练模块和知识蒸馏模块；输入模块的输出端分别连接增强图像模块的输入端和网络训练模块的输入端，增强图像模块的输出端和网络训练模块的输出端分别连接知识蒸馏模块的输入端；
S2：向系统输入待增强数据集并确认待增强图像的格式；
S3：选取固定尺寸的掩模与待增强图像相乘运算，进行区域丢弃得到补丁图像；
S4：生成对抗网络对丢弃区域填补补丁，根据补丁图像的像素分布，生成一块填补区域补全补丁图像，进行再生成得到增强后图像；
S5：通过卷积神经网络对待增强数据集进行五折交叉检验训练得到神经网络分类器模型；
S6：神经网络分类器模型对增强后图像进行计算得到预测值S；
S7：进行知识蒸馏，将原始图像标签ground_truth与预测值S加权相加混和得到增强图像标签；
S8：系统输出图像形式的包括增强后图像和增强图像标签的最终结果。
按上述方案，所述的步骤S2中，待增强数据集中的待增强图像为RGB三通道图；若待增强数据集中的图像为单色图、ARGB四通道图或BGR三通道图，则系统读入待增强图像后进行通道转化变为RGB三通道图。
按上述方案，所述的步骤S3中，具体步骤为：
S31：在待增强图像的宽的取值范围内和高的取值范围内生成一块由像素值0组成的掩模，掩模的大小为待增强图像的大小的
S32：将图像与掩模进行乘法运算。
按上述方案，所述的步骤S4中，具体步骤为：
S41：通过生成对抗网络生成判别器；判别器包括3个卷积层和1个全连接层；
S42：通过生成对抗网络生成生成器；生成器包括编码器和解码器，编码器包括4个卷积层，解码器包括2个上采样层和3个卷积层；
S43：冻结判别器，训练生成器；
S44：当生成器的损失达到目标时，将生成器生成的填补区域输入到判别器中，解冻并训练判别器；
S45：得到与补丁图像像素分布一致的填补区域并对补丁图像进行填补，获得增强后图像。
按上述方案，所述的步骤S5中，具体步骤为：
S51：将待增强数据集分为训练集和验证集分别进行训练；
S52：设最小学习率
为0，最大学习率
为0.01，当前周期为Tcur，最大周期Ti的初始值为10，每当Tcur＝Ti时，将Ti扩大两倍；则在训练过程中根据式(1)计算学习率调整策略：
进一步的，所述的步骤S6中，具体步骤为：设神经网络分类器模型共有j个输出，则第i个待增强图像的预测值Si为：
进一步的，所述的步骤S7中，具体步骤为：设第i个增强后图像的标签为labeli，第i个原始标签值为ground_truthi，则通过式(3)得到增强图像标签为：
labeli＝0.7×ground_truthi+0.3×Si (3)。
一种基于生成对抗网络的知识蒸馏数据增强系统，包括输入模块、增强图像模块、网络训练模块和知识蒸馏模块；输入模块的输出端分别连接增强图像模块的输入端和网络训练模块的输入端，增强图像模块的输出端和网络训练模块的输出端分别连接知识蒸馏模块的输入端；输入模块用于读入待增强数据集；增强图像模块用于对待增强图像进行区域丢弃获得补丁图像，并通过生成对抗网络生成增强后图像；网络训练模块用于对待增强数据集进行五折交叉检验训练获得神经网络分类器模型，神经网络分类器模型用于对增强后图像进行计算得到预测值；知识蒸馏模块用于混和原始图像标签与预测值计算得到增强图像标签。
进一步的，对抗生成网络包括生成器与判别器；生成器包括编码器和解码器，编码器包括4个按信号流向依次连接的编码复合结构，每个复合结构包括按信号流向依次连接的1个用于提取特征的卷积层和1个用于分布调整特征激活值的BN层；解码器包括2个按信号流向依次连接的解码复合结构，每个解码复合结构包括按信号流向依次连接的1个用于放大特征图的上采样层和、1个卷积层和1个BN层；判别器包括按信号流向依次连接的3个判别复合结构和1个全连接层，每个判别复合结构包括按信号流向依次连接的1个卷积层和1个BN层；卷积层的核尺寸为K、卷积层数为N、步长为S、填充宽度为P。
一种计算机存储介质，其内存储有可被计算机处理器执行的计算机程序，该计算机程序执行一种基于生成对抗网络的知识蒸馏数据增强方法。
本发明的有益效果为：
1.本发明的一种基于生成对抗网络的知识蒸馏数据增强方法与系统，通过易操作的数据增强方式，提高了卷积网络对工业数据集的定位能力和识别准确率。
2.本发明结合了生成对抗网络高效拟合样本数据分布和知识蒸馏中对神经网络模型容错率改善的算法，实现了在生成增强样本时不引入非信息噪声、提高了模型对错误标签的鲁棒性。
3.本发明降低了工业数据集正负样本标注错误而产生的对模型的误导，提升了工业数据集在语义分割任务上的表征表达性能，提高了模型在特征粒度区分小的情况下对样本特征的学习能力，在汽车零部件检测与制造、铁路零部件定位等应用中发挥了重要的作用。
附图说明
图1是本发明实施例的流程图。
图2是本发明实施例的网络训练流程图。
图3是本发明实施例的生成对抗网络结构的生成器图。
图4是本发明实施例的生成器与现有技术的生成器的对比图。
图5是本发明实施例的生成对抗网络结构的判别器图。
图6是本发明实施例的判别器与现有技术的判别器的对比图。
图7是本发明实施例的方法与对比方法在CIFAR-100数据集上实验的结果对比图表。
图8是本发明实施例的方法与对比方法在CIFAR-10数据集上实验的结果对比图表。
图9是本发明实施例的方法与对比方法在工业数据集上实验的结果对比图表。
具体实施方式
下面结合附图和具体实施方式对本发明作进一步详细的说明。
本发明实施例的一种基于生成对抗网络的知识蒸馏数据增强系统，包括输入模块，增强图像模块，网络训练模块和知识蒸馏模块；
所述输入模块，用于读入待测数据集；
所述增强图像模块，用于通过区域丢弃，获得补丁图像图像，利用生成对抗网络生成增强图像；所述区域丢弃为利用掩模与图像进行乘法运算；所述生成对抗网络为利用生成对抗网络根据补丁图像生成数据分布相同的增强图像；
所述网络训练模块，用于对数据集按照五折交叉检验训练获得神经网络分类器；
所述知识蒸馏模块，用于通过混和增强图像真实标签与预测标签计算得到增强图像的标签值；所述预测标签由网络训练模块得到的分类器对增强图像模块得到的图像进行预测。
如图3、图4、图5和图6所示，所述对抗生成网络的结构由生成器与判别器组成。生成器由3个卷积层进行特征提取，每个卷积层后通过1个BatchNorm层进行特征激活值的分布调整，然后通过2个上采样层，把特征图放大。判别器由3个卷积层和1个全连接层组成。卷积层的核尺寸为K、卷积层数为N、步长为S、填充宽度为P。卷积层、上采样层、BatchNorm层在Caffe、TensorFlow、Pytorch等基础框架中已有实现。
参见图1和图2，本发明实施例的一种基于生成对抗网络的知识蒸馏数据增强方法，包括以下步骤：
S1、读入待增强数据集；
待增强数据集图像应当为RGB三通道图，如果输入的是单色图、ARGB四通道图或BGR三通道图，则应当在读入后进行通道转化，变为RGB三通道图。
S2、通过区域丢弃，获得补丁图像；所述区域丢弃为利用固定尺寸的掩模与图像进行相乘运算；具体步骤为：
S2.1、在图像的宽、高取值范围内生成一块由像素值0组成的掩模；掩模尺寸为图像大小的
S2.2、将图像与掩模进行乘法运算；
S3、生成对抗网络填补补丁表示生成对抗网络根据补丁图像的像素分布生成一块填补区域补全补丁图像得到增强后的图像；
S3.1、利用补丁生成对抗网络，首先生成判别器discriminator，判别器的输入为生成器生成的补丁块。判别器由3个卷积层和1个全连接层组成；
S3.2、生成判别器后，再生成生成器generator。生成器分为编码和解码两个部分，其中编码由4个卷积层组成，解码由2个上采样层和3个卷积层组成；
S3.3、冻结判别器，对生成器进行训练；
S3.4、当生成器的loss达到目标时，解冻并训练判别器；
S3.5、得到与图像像素分布一致的补丁并对补丁图像进行填补，获得增强后的图像。
S4、基于卷积网络对数据集通过五折交叉检验方法进行训练，得到神络网络分类器模型；
S4.1、将输入数据集分为5份，其中4份作为训练集，1份作为验证集。分别进行训练；
S4.2、训练过程中，学习率调整策略根据式(1)计算：
式中
表示最小学习率，将其设置为0，
表示最大学习率，设置为0.01。Tcur表示当前周期。Ti表示最大周期，设置初始值为10，每当Tcur＝Ti时，将Ti扩大两倍。
S5、利用分类器模型对增强后的图像进行预测得到预测值S；
利用S4中获得的神经网络分类器对S3中增强后的图像进行计算获得预测值S，计算公式根据式(2)：
式中Si表示样本i的预测值，j表示神经网络分类器共有j个输出；
S6、增强后的图像标签由真实标签ground_truth与预测值S按照7：3的比例进行加权相加混和获得；
利用式(3)获得增强样本的标签，
labeli＝0.7×ground_truthi+0.3×Si (3)，
式中labeli表示第i个增强样本的标签，ground_truthi表示第i个样本的原始标签值，Si表示S5中获得的预测值。
S7、将增强图像以及混和获得的标签作为最终结果输出。
检测结果为图像形式。
测试实施例：测试环节使用多分类数据集(CIFAR-100、CIFAR-10)和工业摄像机获得的汽车转向器轴承数据集。使用多分类数据集作为验证分类任务效果的数据集，在CIFAR-100和CIFAR-10数据集中，实验每个类别使用4000张作为训练样本，另1000张作为校验样本。使用汽车转向器轴承工业数据集作为验证语义分割效果的数据集，数据集共包含2020张图像，按照训练集：测试集：验证集＝6：2：2的比例分割。在网络的每次迭代训练中使用余弦退货算法进行优化，网络在第20次、第40次、第80次和第160次迭代后，学习率进行一次重启。通过平均交并比(mean Intersection over Union,mIoU)和准确率来证明本发明中算法在语义分割任务上的有效性和优越性，通过最高5错误率(Top-5error)和最高1错误率(Top-1error)来证明本发明中算法在多分类任务上的有效性和优越性。以下提供实验对比结果说明本方法的有效性和优越性。如图7、图8和图9所示，与其他方法相比，在多分类任务中本发明方法的Top-5err小值和Top-1err小高于其他对比方法，在语义分割任务中本发明方法的准确率值和mIoU值高于其他对比方法。
基于上述基于生成对抗网络的知识蒸馏数据增强方法，本发明还提供一种计算机存储介质。
上述根据本发明的方法可在硬件、固件中实现，或者被实现为可存储在记录介质(诸如CD-ROM、RAM、软盘、硬盘或磁光盘)中的软件或计算机代码，或者被实现通过网络下载的原始存储在远程记录介质或非暂时机器可读介质中并将被存储在本地记录介质中的计算机代码，从而在此描述的方法可被存储在使用通用计算机、专用处理器或者可编程或专用硬件(诸如ASIC或FPGA)的记录介质上的这样的软件处理。可以理解，计算机、处理器、微处理器控制器或可编程硬件包括可存储或接收软件或计算机代码的存储组件(例如，RAM、ROM、闪存等)，当所述软件或计算机代码被计算机、处理器或硬件访问且执行时，实现在此描述的基于生成对抗网络的知识蒸馏数据增强方法。此外，当通用计算机访问用于实现在此示出的处理的代码时，代码的执行将通用计算机转换为用于执行在此示出的处理的专用计算机。
以上实施例仅用于说明本发明的设计思想和特点，其目的在于使本领域内的技术人员能够了解本发明的内容并据以实施，本发明的保护范围不限于上述实施例。所以，凡依据本发明所揭示的原理、设计思路所作的等同变化或修饰，均在本发明的保护范围之内。
Claims (10)
1.一种基于生成对抗网络的知识蒸馏数据增强方法，其特征在于：包括以下步骤：
S1：搭建一种基于生成对抗网络的知识蒸馏数据增强方法的数据增强系统，包括输入模块、增强图像模块、网络训练模块和知识蒸馏模块；输入模块的输出端分别连接增强图像模块的输入端和网络训练模块的输入端，增强图像模块的输出端和网络训练模块的输出端分别连接知识蒸馏模块的输入端；
S2：向系统输入待增强数据集并确认待增强图像的格式；
S3：选取固定尺寸的掩模与待增强图像相乘运算，进行区域丢弃得到补丁图像；
S4：生成对抗网络对丢弃区域填补补丁，根据补丁图像的像素分布，生成一块填补区域补全补丁图像，进行再生成得到增强后图像；
S5：通过卷积神经网络对待增强数据集进行五折交叉检验训练得到神经网络分类器模型；
S6：神经网络分类器模型对增强后图像进行计算得到预测值S；
S7：进行知识蒸馏，将原始图像标签ground_truth与预测值S加权相加混和得到增强图像标签；
S8：系统输出图像形式的包括增强后图像和增强图像标签的最终结果。
2.根据权利要求1所述的一种基于生成对抗网络的知识蒸馏数据增强方法，其特征在于：所述的步骤S2中，待增强数据集中的待增强图像为RGB三通道图；若待增强数据集中的图像为单色图、ARGB四通道图或BGR三通道图，则系统读入待增强图像后进行通道转化变为RGB三通道图。
3.根据权利要求1所述的一种基于生成对抗网络的知识蒸馏数据增强方法，其特征在于：所述的步骤S3中，具体步骤为：
S31：在待增强图像的宽的取值范围内和高的取值范围内生成一块由像素值0组成的掩模，掩模的大小为待增强图像的大小的
S32：将图像与掩模进行乘法运算。
4.根据权利要求1所述的一种基于生成对抗网络的知识蒸馏数据增强方法，其特征在于：所述的步骤S4中，具体步骤为：
S41：通过生成对抗网络生成判别器；判别器包括3个卷积层和1个全连接层；
S42：通过生成对抗网络生成生成器；生成器包括编码器和解码器，编码器包括4个卷积层，解码器包括2个上采样层和3个卷积层；
S43：冻结判别器，训练生成器；
S44：当生成器的损失达到目标时，将生成器生成的填补区域输入到判别器中，解冻并训练判别器；
S45：得到与补丁图像像素分布一致的填补区域并对补丁图像进行填补，获得增强后图像。
5.根据权利要求1所述的一种基于生成对抗网络的知识蒸馏数据增强方法，其特征在于：所述的步骤S5中，具体步骤为：
S51：将待增强数据集分为训练集和验证集分别进行训练；
S52：设最小学习率
为0，最大学习率
为0.01，当前周期为Tcur，最大周期Ti的初始值为10，每当Tcur＝Ti时，将Ti扩大两倍；则在训练过程中根据式(1)计算学习率调整策略：
6.根据权利要求5所述的一种基于生成对抗网络的知识蒸馏数据增强方法，其特征在于：所述的步骤S6中，具体步骤为：设神经网络分类器模型共有j个输出，则第i个待增强图像的预测值Si为：
7.根据权利要求6所述的一种基于生成对抗网络的知识蒸馏数据增强方法，其特征在于：所述的步骤S7中，具体步骤为：设第i个增强后图像的标签为labeli，第i个原始标签值为ground_truthi，则通过式(3)得到增强图像标签为：
labeli＝0.7×ground_truthi+0.3×Si (3)。
8.用于权利要求1至7中任意一项所述的一种基于生成对抗网络的知识蒸馏数据增强方法的数据增强系统，其特征在于：包括输入模块、增强图像模块、网络训练模块和知识蒸馏模块；输入模块的输出端分别连接增强图像模块的输入端和网络训练模块的输入端，增强图像模块的输出端和网络训练模块的输出端分别连接知识蒸馏模块的输入端；
输入模块用于读入待增强数据集；
增强图像模块用于对待增强图像进行区域丢弃获得补丁图像，并通过生成对抗网络生成增强后图像；
网络训练模块用于对待增强数据集进行五折交叉检验训练获得神经网络分类器模型，神经网络分类器模型用于对增强后图像进行计算得到预测值；
知识蒸馏模块用于混和原始图像标签与预测值计算得到增强图像标签。
9.根据权利要求8所述的系统，其特征在于：对抗生成网络包括生成器与判别器；生成器包括编码器和解码器，编码器包括4个按信号流向依次连接的编码复合结构，每个复合结构包括按信号流向依次连接的1个用于提取特征的卷积层和1个用于分布调整特征激活值的BN层；解码器包括2个按信号流向依次连接的解码复合结构，每个解码复合结构包括按信号流向依次连接的1个用于放大特征图的上采样层和、1个卷积层和1个BN层；
判别器包括按信号流向依次连接的3个判别复合结构和1个全连接层，每个判别复合结构包括按信号流向依次连接的1个卷积层和1个BN层；卷积层的核尺寸为K、卷积层数为N、步长为S、填充宽度为P。
10.一种计算机存储介质，其特征在于：其内存储有可被计算机处理器执行的计算机程序，该计算机程序执行如权利要求1至权利要求7中任意一项所述的一种基于生成对抗网络的知识蒸馏数据增强方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110197819.1A CN112819090B (zh) | 2021-02-22 | 2021-02-22 | 一种基于生成对抗网络的知识蒸馏数据增强方法与系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110197819.1A CN112819090B (zh) | 2021-02-22 | 2021-02-22 | 一种基于生成对抗网络的知识蒸馏数据增强方法与系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112819090A CN112819090A (zh) | 2021-05-18 |
| CN112819090B true CN112819090B (zh) | 2022-05-10 |
Family
ID=75864781
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110197819.1A Active CN112819090B (zh) | 2021-02-22 | 2021-02-22 | 一种基于生成对抗网络的知识蒸馏数据增强方法与系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112819090B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113271469B (zh) * | 2021-07-16 | 2021-10-29 | 南京大学 | 一种安全可逆的视频隐私安全保护系统及保护方法 |
| CN114332567A (zh) * | 2022-03-16 | 2022-04-12 | 成都数之联科技股份有限公司 | 训练样本的获取方法、装置、计算机设备及存储介质 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111199522A (zh) * | 2019-12-24 | 2020-05-26 | 重庆邮电大学 | 一种基于多尺度残差生成对抗网络的单图像盲去运动模糊方法 |
| CN111783729A (zh) * | 2020-07-17 | 2020-10-16 | 商汤集团有限公司 | 视频分类方法、装置、设备及存储介质 |
| CN111967534A (zh) * | 2020-09-03 | 2020-11-20 | 福州大学 | 基于生成对抗网络知识蒸馏的增量学习方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11790264B2 (en) * | 2019-06-19 | 2023-10-17 | Google Llc | Systems and methods for performing knowledge distillation |
-
2021
- 2021-02-22 CN CN202110197819.1A patent/CN112819090B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111199522A (zh) * | 2019-12-24 | 2020-05-26 | 重庆邮电大学 | 一种基于多尺度残差生成对抗网络的单图像盲去运动模糊方法 |
| CN111783729A (zh) * | 2020-07-17 | 2020-10-16 | 商汤集团有限公司 | 视频分类方法、装置、设备及存储介质 |
| CN111967534A (zh) * | 2020-09-03 | 2020-11-20 | 福州大学 | 基于生成对抗网络知识蒸馏的增量学习方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112819090A (zh) | 2021-05-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112819090B (zh) | 一种基于生成对抗网络的知识蒸馏数据增强方法与系统 | |
| CN110490205B (zh) | 基于全残差空洞卷积神经网络的道路场景语义分割方法 | |
| CN112233129B (zh) | 基于深度学习的并行多尺度注意力机制语义分割方法及装置 | |
| US20200065664A1 (en) | System and method of measuring the robustness of a deep neural network | |
| CN113642390A (zh) | 一种基于局部注意力网络的街景图像语义分割方法 | |
| CN112418212A (zh) | 一种基于EIoU改进的YOLOv3算法 | |
| CN114255403A (zh) | 基于深度学习的光学遥感图像数据处理方法及系统 | |
| US20220058431A1 (en) | Semantic input sampling for explanation (sise) of convolutional neural networks | |
| CN116612280A (zh) | 车辆分割方法、装置、计算机设备和计算机可读存储介质 | |
| CN114419406A (zh) | 图像变化检测方法、训练方法、装置和计算机设备 | |
| CN113222998A (zh) | 基于自监督低秩网络的半监督图像语义分割方法及装置 | |
| CN116665153A (zh) | 一种基于改进型Deeplabv3+网络模型的道路场景分割方法 | |
| CN113657225B (zh) | 一种目标检测方法 | |
| CN114913424A (zh) | 一种基于改进的U-net模型的崩岗提取方法及系统 | |
| JP7294275B2 (ja) | 画像処理装置、画像処理プログラムおよび画像処理方法 | |
| CN116563285B (zh) | 一种基于全神经网络的病灶特征识别与分割方法及系统 | |
| CN116310850B (zh) | 基于改进型RetinaNet的遥感图像目标检测方法 | |
| CN113096133A (zh) | 一种基于注意力机制的语义分割网络的构建方法 | |
| CN115346206B (zh) | 基于改进超分辨的深度卷积特征识别的车牌检测方法 | |
| CN116631190A (zh) | 智能交通监控系统及其方法 | |
| CN116953702A (zh) | 基于演绎范式的旋转目标检测方法及装置 | |
| CN110659724A (zh) | 一种基于目标尺度范围的目标检测卷积神经网络构建方法 | |
| CN115331078A (zh) | 一种基于ESR-YOLOv5的光学遥感图像目标检测方法 | |
| CN115331254A (zh) | 一种免锚框的实例人像语义解析方法 | |
| CN117423116B (zh) | 一种文本检测模型的训练方法、文本检测方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20231017 Address after: Room 01, 10th Floor, Unit 2, Building 8, Hongteng Babilenburg, No. 17, Software Park 3rd Road, Donghu New Technology Development Zone, Wuhan City, Hubei Province, 430073 Patentee after: WUHAN YINXING TECHNOLOGY Co.,Ltd. Address before: 430074, No. 693 Xiong Chu street, Hongshan District, Hubei, Wuhan Patentee before: WUHAN INSTITUTE OF TECHNOLOGY |
|
| TR01 | Transfer of patent right |