CN111831956B - 高自由度类不平衡性损失函数的调整方法和存储介质 - Google Patents

高自由度类不平衡性损失函数的调整方法和存储介质 Download PDF

Info

Publication number
CN111831956B
CN111831956B CN202010548112.6A CN202010548112A CN111831956B CN 111831956 B CN111831956 B CN 111831956B CN 202010548112 A CN202010548112 A CN 202010548112A CN 111831956 B CN111831956 B CN 111831956B
Authority
CN
China
Prior art keywords
loss function
gradient
length
sample
cross entropy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010548112.6A
Other languages
English (en)
Other versions
CN111831956A (zh
Inventor
曾军英
王璠
朱伯远
朱京明
秦传波
翟懿奎
甘俊英
李泳韩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuyi University
Original Assignee
Wuyi University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuyi University filed Critical Wuyi University
Priority to CN202010548112.6A priority Critical patent/CN111831956B/zh
Publication of CN111831956A publication Critical patent/CN111831956A/zh
Application granted granted Critical
Publication of CN111831956B publication Critical patent/CN111831956B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Software Systems (AREA)
  • Computational Mathematics (AREA)
  • Algebra (AREA)
  • Mathematical Optimization (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种高自由度类不平衡性损失函数的调整方法和存储介质，包括：采用标准交叉熵损失函数来对训练网络进行训练；根据收敛后的所述训练网络计算所述标准交叉熵损失函数的梯度模长；根据所述梯度模长来选择梯度均衡损失函数或者自适应调整权重损失函数；其中，所述梯度均衡损失函数用于均衡batch数据内落入所述梯度模长中每个区间的数量；所述自适应调整权重损失函数用于使每个所述batch数据自适应调整权重。本发明实施例可以根据数据集的特点自适应选取损失函数，然后在网络训练过程中再次自适应调整权重来充分学习图像特征，尤其是学习难度较大的样本，能够在充分利用有限数据资源的前提下有效解决类别不平衡问题。

Description

高自由度类不平衡性损失函数的调整方法和存储介质
技术领域
本发明涉及神经网络技术领域，特别涉及一种高自由度类不平衡性损失函数的调整方法和存储介质。
背景技术
对于分类任务来说，通常会有不同类别的训练样例数目差别很大的情况，若同源样本较少，异源样本较多，全部拿来作训练集会使网络对异源图像对敏感，弱化同源图像对的学习能力。
对于上述情况，现有解决该问题的方法主要有以下几种：
欠采样方法：去除部分训练集中的类别较多的样本，使正负样本数目接近，然后再进行网络训练或学习。典型的欠采样方法有EasyEnsemble和BalanceCascade两种。一般来讲，欠采样方法会丢失部分有用信息。
过采样方法：通过复制或数据扩充技术增加少数样本使得正负样本间数目接近，然后再进行网络训练或学习。典型的过采样方法是SMOTE算法，通过合成少数样本来达到正负样本均衡的目的。该方法会造成训练复杂度增大，也容易造成过拟合问题，不利于学习器的泛化能力。
代价敏感学习法：考虑到不同的错误分类造成的结果不同，为了权衡不同结果产生的不同损失，将错误分类赋予非均等代价。
发明内容
本发明旨在至少解决现有技术中存在的技术问题之一。为此，本发明提出一种高自由度类不平衡性损失函数的调整方法和存储介质，能够在充分利用有限数据资源的前提下有效解决类别不平衡问题。
根据本发明的第一方面实施例的高自由度类不平衡性损失函数的调整方法，包括：
采用标准交叉熵损失函数来对训练网络进行训练；
根据收敛后的所述训练网络计算所述标准交叉熵损失函数的梯度模长；
根据所述梯度模长来选择梯度均衡损失函数或者自适应调整权重损失函数；其中，所述梯度均衡损失函数用于均衡batch数据内落入所述梯度模长中每个区间的数量；所述自适应调整权重损失函数用于使每个所述batch数据自适应调整权重。
根据本发明实施例的高自由度类不平衡性损失函数的调整方法，至少具有如下有益效果：本发明实施例首先计算标准交叉熵损失函数的梯度模长，然后根据梯度模长的特点也就是本身数据集的特点自适应选取不同的损失函数，如选择梯度均衡损失函数或者自适应调整权重损失函数。因此，本发明实施例可以根据数据集的特点自适应选取损失函数，然后在网络训练过程中再次自适应调整权重来充分学习图像特征，尤其是学习难度较大的样本，能够在充分利用有限数据资源的前提下有效解决类别不平衡问题。
根据本发明的一些实施例，所述计算所述标准交叉熵损失函数的梯度模长，包括：
对所述标准交叉熵损失函数进行一阶求导，以得到梯度模长。
根据本发明的一些实施例，其特征在于，所述标准交叉熵损失函数为：
其中，所述Lce为所述标准交叉熵损失函数，所述y为样本的真实标签，所述y∈{0,1}，所述为预测样本为同源样本对的概率，所述/>
根据本发明的一些实施例，所述梯度模长通过如下公式得到：
其中，所述g为所述梯度模长。
根据本发明的一些实施例，所述梯度均衡损失函数为：
其中，所述LGHM为所述梯度均衡损失函数，所述N为样本的数量，所述k为正整数，所述GD(g)为梯度密度。
根据本发明的一些实施例，所述梯度密度为：
其中，所述所述l∈(g)表示(g-∈/2,g+∈/2)区间的长度；
所述所述gk为第k个样本的梯度模长。
根据本发明的一些实施例，所述自适应调整权重损失函数为：
其中，所述Lmwce为所述自适应调整权重损失函数，所述w为自适应权重因子，所述θ为阶跃函数，所述m为超参数，所述y为样本的真实标签，所述y∈{0,1}，所述为预测样本为同源样本对的概率，所述/>
根据本发明的一些实施例，所述阶跃函数为：
根据本发明的第二方面实施例的电子设备，包括至少一个控制处理器和用于与所述至少一个控制处理器通信连接的存储器；所述存储器存储有可被所述至少一个控制处理器执行的指令，所述指令被所述至少一个控制处理器执行，以使所述至少一个控制处理器能够执行如上所述的高自由度类不平衡性损失函数的调整方法。
根据本发明实施例的电子设备，至少具有如下有益效果：本发明实施例首先计算标准交叉熵损失函数的梯度模长，然后根据梯度模长的特点也就是本身数据集的特点自适应选取不同的损失函数，如选择梯度均衡损失函数或者自适应调整权重损失函数。因此，本发明实施例可以根据数据集的特点自适应选取损失函数，然后在网络训练过程中再次自适应调整权重来充分学习图像特征，尤其是学习难度较大的样本，能够在充分利用有限数据资源的前提下有效解决类别不平衡问题。
根据本发明的第三方面实施例的计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行如上所述的高自由度类不平衡性损失函数的调整方法。
本发明的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。
附图说明
本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解，其中：
图1为本发明实施例的高自由度类不平衡性损失函数的调整方法的示意图；
图2为本发明实施例的高自由度类不平衡性损失函数的调整方法的算法流程图；
图3为本发明实施例的电子设备的示意图。
具体实施方式
下面详细描述本发明的实施例，实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，仅用于解释本发明，而不能理解为对本发明的限制。
在本发明的描述中，需要理解的是，涉及到方位描述，例如上、下、前、后、左、右等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。
在本发明的描述中，若干的含义是一个或者多个，多个的含义是两个以上，大于、小于、超过等理解为不包括本数，以上、以下、以内等理解为包括本数。如果有描述到第一、第二只是用于区分技术特征为目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量或者隐含指明所指示的技术特征的先后关系。
本发明的描述中，除非另有明确的限定，设置、安装、连接等词语应做广义理解，所属技术领域技术人员可以结合技术方案的具体内容合理确定上述词语在本发明中的具体含义。
参照图1和图2，根据本发明的第一方面实施例的高自由度类不平衡性损失函数的调整方法，包括：
S110：采用标准交叉熵损失函数来对训练网络进行训练；
S120：根据收敛后的训练网络计算标准交叉熵损失函数的梯度模长；
S130：根据梯度模长来选择梯度均衡损失函数或者自适应调整权重损失函数；其中，梯度均衡损失函数用于均衡batch数据内落入梯度模长中每个区间的数量；自适应调整权重损失函数用于使每个batch数据自适应调整权重。
在一实施例中，本发明实施例首先计算标准交叉熵损失函数的梯度模长，然后根据梯度模长的特点也就是本身数据集的特点自适应选取不同的损失函数，如选择梯度均衡损失函数或者自适应调整权重损失函数。因此，本发明实施例可以根据数据集的特点自适应选取损失函数，然后在网络训练过程中再次自适应调整权重来充分学习图像特征，尤其是学习难度较大的样本，能够在充分利用有限数据资源的前提下有效解决类别不平衡问题。
需要说明的是，用标准交叉熵损失函数训练类别不平衡性数据，采用动态调整学习率的方法来避免过拟合，使其快速收敛，在损失值不再发生变化时停止训练；其次，根据上述计算的结果计算梯度模长，旨在获得另一方向的数据集特征；另外，根据梯度模长图的特点来合理选择损失函数，梯度均衡损失函数和自适应调整权重损失函数；最后，应当注意该损失函数的设计试用于其他数据集类别不平衡的领域，且能得到较好的效果，在不违背本发明精神及其实质的情况下，熟悉本领域的技术人员可根据本发明作出相应的改变和变形，但这些相应的改变和变形都应属于本发明所附的权利要求的保护范围。
经实验验证，大多数类别不平衡的数据大致可以分为极难分样本较多和极难分样本较少两类，第一类数据采用梯度均衡机制来使得梯度模长均匀化，第二类数据采用一种自适应调整权重的损失函数综合现有数据集的先验知识来实现。该算法可以在每次batch训练过程中不断调整类别不平衡的数据所占的权重，自适应地优化参数。该算法可以在每次batch训练过程中不断调整类别不平衡的数据所占的权重，自适应地优化参数。
下面以常见的手指静脉类别不平衡数据集为例来阐述该算法的具体实现过程。
以创建的SDU-FV静脉数据集和公开手指静脉数据集MMCBNU_6000为例，SDU-FV数据集包含来自106个人的3816张手指图像，分别采集了每个人左右手的食指、中指和无名指，每根手指重复采集6次，MMCBNU_6000数据集包含来自100个人的6000张手指图像，分别采集了每个人左右手的食指、中指和无名指，每根手指重复采集10次，训练网络以VGG16为例。
SDU-FV和MMMCBNU_6000这两个数据集分别有636个(106×6)，600个(100×6)类别，其中随机抽取一半作训练集，另一半作测试集。在训练过程中，为了解决类别不平衡问题，对训练集中的异源匹配图像数目进行随机筛选，使其与同源匹配图像数目一致，在测试过程中，测试集的所有同源和异源匹配图像均用来进行测试。最后，在两次交叉验证后，通过交换训练集与测试集来计算平均精度，用等错误率(EER)作为性能评价指标。
两个数据集的先验知识均是同源样本对较多，异源样本对较少，比例大约为1:10和1:3。
首先用标准交叉熵损失函数来对VGG16网络进行训练，初始学习率设置为0.001，如果损失值在me次迭代后保持稳定，则学习率降低10倍，如果损失值在ne次迭代后几乎保持不变，则训练过程停止。根据经验我们将me和ne分别设置为4和20，标准交叉熵的损失函数如下：
其中y为样本的真实标签，对手指静脉验证这种二分类任务来说，y∈{0,1}，令为预测样本为同源样本对的概率，/>
对收敛的VGG16网络计算其梯度模长：
实际上是对标准交叉熵sigmoid输出的一阶求导，g正比于样本学习的难易程度，g越大，学习难度越大。
在探索性数据分析中，对于离群点通常截断前后各5％来避免极端值的影响，表现在梯度模长上，是当梯度模长分布在(0.9，1)区间时才认定其为离群点，也就是极难学习样本；
通过设置对照试验，控制离群点占总样本的比例，来获得临界的离群点最大值，记为T；
若则计算梯度密度：
用来表示单位梯度模长g部分的样本个数。其中，
表示样本1～N中，第k个样本的梯度模长gk分布在(g-∈/2,g+∈/2)区间的样本数量，表示(g-∈/2,g+∈/2)区间的长度；
计算梯度均衡系数βi＝N/GD(g)，乘样本数量N，是为了保证均匀分布或只划分一个单位区域时，该权值为1，即loss不变；
计算梯度均衡损失函数
引入阶跃函数：
来加快网络收敛速度，得到下式：
若则首先引入阶跃函数来将加速网络收敛速度，将重点放到易分错的样本上，得到下式：/> 其中m为超参数，与离群点对应，将其设置为0.9，若预测值为0.99，标签为1，则后面一项为0，前面一项因为阶跃函数的存在也变为0，因此整体损失为0；若预测值为0.05，标签为0，则前面一项为0，后面一项因为阶跃函数的存在也变为0，因此整体损失为0。
接着引入自适应权重因子w＝1/ln(c+p)，p为batch内类别的比例，c为超参数，用来结合本身数据集的先验知识，SDU-FV和MMCBNU_6000两个数据集本身正负样本比例为1:10和1:3，假设batch提前进行了shuffle且足够大，则w的取值范围分别为[1,10]和[1,3]，又因为p∈(0,1)，则计算得c≈1.4和1.1；
自适应权重损失函数为：
不同于alpha-balanced对正负样本均有一个权重变化，该损失函数仅在正样本赋予类别权重，原因在于负样本数目过多，不再进行权重的进一步调整，仅加强类别较少样本的权重，同时考虑了本身数据集的先验知识，故可以取得更好的训练效果。
需要说明的是，针对容易区分的样本，用阶跃函数令其损失为零，较难区分的样本是重点学习的对象，极难样本则属于离群点，不该过分关注；极难样本较多的数据引入梯度密度的概念，将每个梯度模长区间的样本数量均衡化，来解决类别不平衡问题；极难样本较少的数据引入自适应的权重，根据batch内的数据自由调整损失函数，使其更符合实际情况，利于训练。
基于上述实施例的高自由度类不平衡性损失函数的调整方法，提出本发明的电子设备的各个实施例。关于上述的电子设备，如图3所示，图3是本发明一个实施例提供的电子设备300的示意图。本发明实施例的电子设备300包括一个或多个控制处理器310和存储器320，图3中以一个控制处理器310及一个存储器320为例。
控制处理器310和存储器320可以通过总线或者其他方式连接，图3中以通过总线连接为例。
存储器320作为一种非暂态计算机可读存储介质，可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外，存储器320可以包括高速随机存取存储器，还可以包括非暂态存储器，例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中，存储器320可选包括相对于控制处理器310远程设置的存储器320，这些远程存储器可以通过网络连接至该电子设备300。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本领域技术人员可以理解，图3中示出的结构并不构成对电子设备300的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
在图3所示的电子设备300中，电子设备300可以用于调用存储器320中储存的高自由度类不平衡性损失函数的调整方法的控制程序，以实现高自由度类不平衡性损失函数的调整方法。
需要说明的是，本发明实施例的电子设备300可以手机、平板电脑、穿戴设备或者计算机等等电子设备。
由于本发明实施例的电子设备300能够执行如上述任一项实施例的高自由度类不平衡性损失函数的调整方法，因此，本发明实施例的电子设备300具备如上述任一项实施例的高自由度类不平衡性损失函数的调整方法所带来的技术效果，所以，本发明实施例的电子设备300的具体技术效果，可参照上述任一项实施例的高自由度类不平衡性损失函数的调整方法的技术效果。
以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
基于上述实施例的高自由度类不平衡性损失函数的调整方法，提出本发明的计算机可读存储介质的实施例。
本发明的一个实施例还提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机可执行指令，该计算机可执行指令被一个或多个控制处理器310执行，例如，被图3中的一个控制处理器310执行，可使得上述一个或多个控制处理器310执行上述方法实施例中的高自由度类不平衡性损失函数的调整方法，例如，执行以上描述的图1中的方法步骤。
本领域普通技术人员可以理解，上文中所公开方法中的全部或某些步骤、系统可以被实施为软件、固件、硬件及其适当的组合。某些物理组件或所有物理组件可以被实施为由处理器，如中央处理器、数字信号处理器或微处理器执行的软件，或者被实施为硬件，或者被实施为集成电路，如专用集成电路。这样的软件可以分布在计算机可读介质上，计算机可读介质可以包括计算机存储介质(或非暂时性介质)和通信介质(或暂时性介质)。如本领域普通技术人员公知的，术语计算机存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、程序模块或其他数据)的任何方法或技术中实施的易失性和非易失性、可移除和不可移除介质。计算机存储介质包括但不限于RAM、ROM、EEPROM、闪存或其他存储器技术、CD-ROM、数字多功能盘(DVD)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。此外，本领域普通技术人员公知的是，通信介质通常包含计算机可读指令、数据结构、程序模块或者诸如载波或其他传输机制之类的调制数据信号中的其他数据，并且可包括任何信息递送介质。
上面结合附图对本发明实施例作了详细说明，但是本发明不限于上述实施例，在技术领域普通技术人员所具备的知识范围内，还可以在不脱离本发明宗旨的前提下作出各种变化。

Claims (3)

1.一种高自由度类不平衡性损失函数的调整方法，其特征在于，包括：
采用标准交叉熵损失函数来对训练网络进行训练；
根据收敛后的所述训练网络计算所述标准交叉熵损失函数的梯度模长；
根据所述梯度模长来选择梯度均衡损失函数或者自适应调整权重损失函数；其中，所述梯度均衡损失函数用于均衡batch数据内落入所述梯度模长中每个区间的数量；所述自适应调整权重损失函数用于使每个所述batch数据自适应调整权重；
其中，所述根据所述梯度模长来选择梯度均衡损失函数或者自适应调整权重损失函数后，所述训练网络再次自适应调整权重来学习图像特征；
其中，所述计算所述标准交叉熵损失函数的梯度模长，包括：
对所述标准交叉熵损失函数进行一阶求导，以得到梯度模长；
其中，所述标准交叉熵损失函数为：
其中，所述为所述标准交叉熵损失函数，所述/>为样本的真实标签，所述/>，所述/>为预测样本为同源样本对的概率，所述/>；
其中，所述梯度模长通过如下公式得到：
其中，所述为所述梯度模长；
其中，所述梯度均衡损失函数为：
其中，所述为所述梯度均衡损失函数，所述/>为样本的数量，所述/>为正整数，所述为梯度密度；
其中，所述梯度密度为：
其中，所述；所述/>表示/>区间的长度；
所述；所述/>为第k个样本的梯度模长；所述/>为控制所述区间的长度的超参数；
其中，所述自适应调整权重损失函数为：
其中，所述为所述自适应调整权重损失函数，所述/>为自适应权重因子，所述/>为阶跃函数，所述/>为超参数，所述/>为样本的真实标签，所述/>，所述/>为预测样本为同源样本对的概率，所述/>；
其中，所述阶跃函数为：
。
2.一种电子设备，其特征在于：包括至少一个控制处理器和用于与所述至少一个控制处理器通信连接的存储器；所述存储器存储有可被所述至少一个控制处理器执行的指令，所述指令被所述至少一个控制处理器执行，以使所述至少一个控制处理器能够执行如权利要求1所述的高自由度类不平衡性损失函数的调整方法。
3.一种计算机可读存储介质，其特征在于：所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令用于使计算机执行如权利要求1所述的高自由度类不平衡性损失函数的调整方法。
CN202010548112.6A 2020-06-16 2020-06-16 高自由度类不平衡性损失函数的调整方法和存储介质 Active CN111831956B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010548112.6A CN111831956B (zh) 2020-06-16 2020-06-16 高自由度类不平衡性损失函数的调整方法和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010548112.6A CN111831956B (zh) 2020-06-16 2020-06-16 高自由度类不平衡性损失函数的调整方法和存储介质

Publications (2)

Publication Number Publication Date
CN111831956A CN111831956A (zh) 2020-10-27
CN111831956B true CN111831956B (zh) 2024-05-28

Family

ID=72898648

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010548112.6A Active CN111831956B (zh) 2020-06-16 2020-06-16 高自由度类不平衡性损失函数的调整方法和存储介质

Country Status (1)

Country Link
CN (1) CN111831956B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112785371A (zh) * 2021-01-11 2021-05-11 上海钧正网络科技有限公司 一种共享设备位置预测方法、装置及存储介质
CN113590677A (zh) * 2021-07-14 2021-11-02 上海淇玥信息技术有限公司 一种数据处理方法、装置和电子设备
WO2023056614A1 (zh) * 2021-10-09 2023-04-13 大连理工大学 一种基于堆叠长短期记忆网络的轴流压气机旋转失速预测方法
CN114330573A (zh) * 2021-12-30 2022-04-12 济南博观智能科技有限公司 一种目标检测方法、装置、电子设备及存储介质
CN114359300B (zh) * 2022-03-18 2022-06-28 成都数之联科技股份有限公司 一种图像分割模型的优化方法、装置、系统及存储介质
CN115374859A (zh) * 2022-08-24 2022-11-22 东北大学 一种针对非平衡、多类别的复杂工业数据的分类方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109658422A (zh) * 2018-12-04 2019-04-19 大连理工大学 一种基于多尺度深监督网络的视网膜图像血管分割方法
CN110378239A (zh) * 2019-06-25 2019-10-25 江苏大学 一种基于深度学习的实时交通标志检测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10803591B2 (en) * 2018-08-28 2020-10-13 International Business Machines Corporation 3D segmentation with exponential logarithmic loss for highly unbalanced object sizes

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109658422A (zh) * 2018-12-04 2019-04-19 大连理工大学 一种基于多尺度深监督网络的视网膜图像血管分割方法
CN110378239A (zh) * 2019-06-25 2019-10-25 江苏大学 一种基于深度学习的实时交通标志检测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
多级联卷积神经网络人脸检测;余飞;甘俊英;张雨晨;曾军英;;五邑大学学报(自然科学版);20180815(第03期);53-60 *
类别非均衡遥感图像语义分割的全卷积网络方法;吴止锾;高永明;李磊;薛俊诗;;光学学报;20190108(第04期);401-412 *

Also Published As

Publication number Publication date
CN111831956A (zh) 2020-10-27

Similar Documents

Publication Publication Date Title
CN111831956B (zh) 高自由度类不平衡性损失函数的调整方法和存储介质
US11586911B2 (en) Pre-training system for self-learning agent in virtualized environment
US11836615B2 (en) Bayesian nonparametric learning of neural networks
CN107423883B (zh) 待处理业务的风险识别方法及装置、电子设备
WO2018153806A1 (en) Training machine learning models
US20190318263A1 (en) Classifying text to determine a goal type used to select machine learning algorithm outcomes
TW202004559A (zh) 梯度提升決策樹（ｇｂｄｔ）模型的特徵解釋方法和裝置
TWI781576B (zh) 資料增強策略的更新方法、設備及儲存介質
Wang et al. Modulation classification of underwater communication with deep learning network
US20200394448A1 (en) Methods for more effectively moderating one or more images and devices thereof
CN111783551A (zh) 基于贝叶斯卷积神经网络的对抗样本防御方法
CN110929839A (zh) 训练神经网络的方法和装置、电子设备和计算机存储介质
CN110472725A (zh) 一种平衡二值化神经网络量化方法及系统
JP2023550194A (ja) モデル訓練方法、データ強化方法、装置、電子機器及び記憶媒体
EP4320556A1 (en) Privacy-aware pruning in machine learning
CN113220883B (zh) 一种文本分类方法、装置及存储介质
CN113989519B (zh) 一种长尾目标检测方法及系统
CN113297574B (zh) 基于强化学习奖励机制的激活函数自适应变化模型窃取防御方法
CN110233866A (zh) 一种负载均衡方法及负载均衡器
CN108921293A (zh) 基于深度学习的学习率确定方法和装置
CN116152612A (zh) 一种长尾图像识别方法及相关装置
CN111126566A (zh) 基于gan模型的异常家具布局数据检测方法
CN114758130B (zh) 图像处理及模型训练方法、装置、设备和存储介质
CN116310642A (zh) 基于pate框架的可变动态鉴别器差分隐私数据生成器
CN115690428A (zh) 一种用于语义分割的无源数据无监督领域自适应方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant