CN109214413A - 一种数据分布平衡的确定方法及系统 - Google Patents

Abstract

一种数据分布平衡的确定方法，其特征在于，包括步骤：设定预设数组最丰富样本和稀有样本的不同比值；根据所述不同比值对预训练数据集进行分布调整，获得预设数组的对应比值下的训练集；分别对所述预设数组的各个训练集进行训练；采用同一验证集分别对所述各个训练集训练出来的模型进行验证，获得各个模型的预测准确率；分析各个模型的预测准确率和不同比值之间的关系，根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整。本发明通过分析改变最丰富样本和稀有样本比值对模型准确率的影响，可以确定较佳的最丰富样本和稀有样本比值，以此来提升模型分类的准确率。

Description

一种数据分布平衡的确定方法及系统

技术领域

本发明涉及数据分类技术领域，尤其涉及一种数据分布平衡的确定方法及系统。

背景技术

深度学习的概念源于人工神经网络的研究，含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。

在使用深度学习方法进行图像分类以及识别时，为了提升训练的准确率，可以从数据和模型两方面入手来提升模型的预测性能。对于算法本身，可以通过选择适合问题的模型，对模型进行调优，进行模型融合等方法进行提升。数据集的大小和分布对于训练出的模型预测能力的好坏也有着非常重要的作用。首先，用小样本进行深度学习模型训练容易导致过拟合。其次，当样本量足够时，样本数据具体的分布情况也会对训练出的模型精度产生一定影响。比如当数据集总样本很多，但是某些类别由于现实情况无法获取足够或者更多的样本，导致一些类别的样本很多，另一些类别的样本很少，甚至样本数较多的类别与样本数较少的类别比值很大，这种数据分布不平衡的数据集训练出来的模型精度将会受到数据本身的限制。对于样本数量足够的数据集，要解决数据不平衡问题，可以通过适当的数据增广增加样本数较少类别的样本数，从而一定程度平衡数据的分布。为了确定相对最佳的数据分布，需要确定平衡后数据每一类样本的均值，以及平衡后样本数最多的类别与样本数最少的类别样本数的比值。

现有技术通过减少丰富类的大小来平衡数据集，保持样本稀少类别的样本数不变，以及通过增加稀少类别的样本数来获得较平衡的样本数据分布。设计适用于不平衡数据集的模型。技术的缺点包括：在稀有样本很少时，减少丰富类的大小来平衡样本会明显降低整个数据集的大小；一般情况下稀有类数据较难获得，通过创造或合成新的稀有类数据的方法也会导致生成的图像太多，降低自然样本对模型学习的影响。目前大多数表现优秀的模型都需要数据分布平衡的数据集进行训练。

发明内容

本发明的目的是针对现有技术的缺陷，提供一种数据分布平衡的确定方法及系统，通过确定待平衡数据集的最佳平衡点，即平衡后最丰富样本与稀有样本的比值(IR)，以获得最佳的数据平衡效果，从而提高模型预测的准确性。

为了实现以上目的，本发明采用以下技术方案：

一种数据分布平衡的确定方法，包括步骤：

设定预设数组最丰富样本和稀有样本的不同比值；

根据所述不同比值对预训练数据集进行分布调整，获得预设数组的对应比值下的训练集；

分别对所述预设数组的各个训练集进行训练；

采用同一验证集分别对所述各个训练集训练出来的模型进行验证，获得各个模型的预测准确率；

分析各个模型的预测准确率和不同比值之间的关系，根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整。

优选的，所述分别对所述预设数组的各个训练集进行训练具体包括步骤：

选择轻量级卷机神经网络分别对所述预设数组的各个训练集进行训练。

优选的，还包括步骤：

对所述预训练数据集进行预处理，其中，所述预处理包括去重以及格式检查。

优选的，还包括步骤：

结合所述预训练数据集的数据分布，对所述预训练数据集进行不同程度的数据增广。

优选的，还包括步骤：

采用所述对应比值进行数据分布调整的样本对预训练数据集进行分类集成。

相应的，还提供一种数据分布平衡的确定系统，包括：

设定比值模块，用于设定预设数组最丰富样本和稀有样本的不同比值；

训练集获得模块，用于根据所述不同比值对预训练数据集进行分布调整，获得预设数组的对应比值下的训练集；

训练模块，用于分别对所述预设数组的各个训练集进行训练；

验证模块，用于采用同一验证集分别对所述各个训练集训练出来的模型进行验证，获得各个模型的预测准确率；

分析选择模块，用于分析各个模型的预测准确率和不同比值之间的关系，根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整。

优选的，所述训练模块包括：

选择训练单元，用于选择轻量级卷机神经网络分别对所述预设数组的各个训练集进行训练。

优选的，还包括：

预处理模块，用于对所述预训练数据集进行预处理，其中，所述预处理包括去重以及格式检查。

优选的，还包括：

数据增广模块，用于结合所述预训练数据集的数据分布，对所述预训练数据集进行不同程度的数据增广。

优选的，还包括：

分类集成模块，用于采用所述对应比值进行数据分布调整的样本对预训练数据集进行分类集成。

与现有技术相比，本发明通过设定不同的最丰富样本和稀有样本比值，同时利用数据集增广方法，根据原始数据集生成不同分布的训练集，然后使用不同比值生成的训练集进行分别进行训练，采用相同验证集验证不同组模型的准确率，通过分析改变最丰富样本和稀有样本比值对模型准确率的影响，可以确定较佳的最丰富样本和稀有样本比值，以此来提升模型分类的准确率。

附图说明

图1为实施例一提供的一种数据分布平衡的确定方法流程图；

图2为实施例一模型的预测准确率和不同比值之间的关系示意图；

图3为实施例一提供的一种数据分布平衡的确定系统结构图；

图4为实施例二提供的一种数据分布平衡的确定方法流程图；

图5为实施例二提供的一种数据分布平衡的确定系统结构图。

具体实施方式

以下是本发明的具体实施例并结合附图，对本发明的技术方案作进一步的描述，但本发明并不限于这些实施例。

实施例一

本发明公开了一种数据分布平衡的确定方法，如图1所示，包括步骤：

S101、设定预设数组最丰富样本和稀有样本的不同比值；

S102、根据所述不同比值对预训练数据集进行分布调整，获得预设数组的对应比值下的训练集；

S103、分别对所述预设数组的各个训练集进行训练；

S104、采用同一验证集分别对所述各个训练集训练出来的模型进行验证，获得各个模型的预测准确率；

S105、分析各个模型的预测准确率和不同比值之间的关系，根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整。

为解决现有技术通过减少丰富类的大小来平衡数据集，保持样本稀少类别的样本数不变，以及通过增加稀少类别的样本数来获得较平衡的样本数据分布所造成的在稀有样本很少时，减少丰富类的大小来平衡样本会明显降低整个数据集的大小；以及通过创造或合成新的稀有类数据的方法也会导致生成的图像太多，降低自然样本对模型学习的影响等问题。本实施例结合数据增广和样本降采样，选择不同的最丰富样本和稀有样本比值(IR)值对已有数据集进行分布调整，得到多组不同IR值的训练集，通过不同IR值的训练集训练出不同的单模型，采用相同的验证集对训练出的单模型进行验证，确定数据平衡的最佳IR值。

本实施例针对菜品分类，选择1156种菜品进行分类，每种菜品的样本规模从150张到2000张不等，最大IR为13.3。步骤S101、设定预设数组最丰富样本和稀有样本的不同比值，可以根据与训练数据集的大小设定组数，本实施例设定四组不同比值,4组数据的IR比值分别1.5、2、2.5和3.0。

步骤S102、根据不同比值对预训练数据集进行分布调整生成新的四组数据集作为训练集，通过设定四组不同比值的最丰富样本和稀有样本数，并根据该比值对预训练数据集进行数据分布调整获得四组训练集，寻找数据分布的最丰富样本数和稀有样本数的平衡点，无需减少丰富类的大小来平衡样本会明显降低整个数据集的大小，且不会导致通过创造或合成新的稀有类数据的方法所生成的图像太多而降低自然样本对模型学习的影响。优选的，还包括步骤：

结合所述预训练数据集的数据分布，对所述预训练数据集进行不同程度的数据增广。

在不改变图像类别的情况下，增加数据量，能提高模型的泛化能力,自然图像的数据增广方式包括很多，从几何角度来看，常用的有：水平翻转(也就通差说的是镜像)，一定程度的位移，裁剪，旋转等；从像素变换来看，常用的有：颜色抖动(color jittering)，增加噪声，例如椒盐噪声，高斯噪声等；此外还可以尝试多种操作的组合，例如同时做旋转和随机尺度变换，此外还可以把每个patch中所有像素在HSV颜色空间中进行饱和度和明度提升。本实施例对预训练数据集的图像进行翻转、裁剪、旋转、模糊、加噪声、颜色变换，对比度变换等方式获得与设定IR值对应的4组数据集作为训练集。

步骤S103分别对所述预设数组的各个训练集进行训练，优选的，所述分别对所述预设数组的各个训练集进行训练具体包括步骤：

选择轻量级卷机神经网络分别对所述预设数组的各个训练集进行训练。

在本实施例的一种优选方案中，选择轻量化网络mobilenet_v2卷机神经网络对各个训练集进行训练，设置训练批量为32,最大训练步数为1000000。MobileNetV2与MobileNet的区别在于，其同样是一个轻量化卷积神经网络，目标主要是在提升现有算法的精度的同时也提升速度，以便加速深度网络的应用。

步骤S104采用同一验证集分别对所述各个训练集训练出来的模型进行验证，获得各个模型的预测准确率，使用相同的验证集对4组数据分布不同的训练集训练出来的模型进行验证。

步骤S105分析各个模型的预测准确率和不同比值之间的关系，根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整，通过对比4组模型预测的准确率，分析得出单模型准确率与IR值的关系，并确定较佳的IR值进行数据分布调整。如图2所示，对于菜品识别项目，当IR取值在1.5和2.0时，对单模型准确率的提升较小，当取值为2.5和3.0时，单模型准确率提升较大，但是IR取3.0时，相对2.5提升不大，可以看出2.5到3.0之间的值都是比较理想的数据平衡IR值。

优选的，还包括步骤：

采用所述对应比值进行数据分布调整的样本对预训练数据集进行分类集成。

相应的，本实施例还提供一种数据分布平衡的确定系统，如图3所示，包括：

设定比值模块101，用于设定预设数组最丰富样本和稀有样本的不同比值；

训练集获得模块102，用于根据所述不同比值对预训练数据集进行分布调整，获得预设数组的对应比值下的训练集；

训练模块103，用于分别对所述预设数组的各个训练集进行训练；

验证模块104，用于采用同一验证集分别对所述各个训练集训练出来的模型进行验证，获得各个模型的预测准确率；

分析选择模块105，用于分析各个模型的预测准确率和不同比值之间的关系，根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整。

优选的，所述训练模块包括：

选择训练单元，用于选择轻量级卷机神经网络分别对所述预设数组的各个训练集进行训练。

优选的，还包括：

预处理模块，用于对所述预训练数据集进行预处理，其中，所述预处理包括去重以及格式检查。

优选的，还包括：

数据增广模块，用于结合所述预训练数据集的数据分布，对所述预训练数据集进行不同程度的数据增广。

优选的，还包括：

分类集成模块，用于采用所述对应比值进行数据分布调整的样本对预训练数据集进行分类集成。

本实施例通过设定不同的最丰富样本和稀有样本比值，同时利用数据集增广方法，根据原始数据集生成不同分布的训练集，然后使用不同比值生成的训练集进行分别进行训练，采用相同验证集验证不同组模型的准确率，通过分析改变最丰富样本和稀有样本比值对模型准确率的影响，可以确定较佳的最丰富样本和稀有样本比值，以此来提升模型分类的准确率。

实施例二

本实施例公开了一种数据分布平衡的确定方法，与实施例一不同的是，本实施例还包括步骤S202,通过对预训练数据进行去重、格式检查等预处理，提高准确率，如图4所示，包括步骤：

S201、设定预设数组最丰富样本和稀有样本的不同比值；

S202、对预训练数据集进行预处理，其中，所述预处理包括去重以及格式检查；

S203、根据所述不同比值对预训练数据集进行分布调整，获得预设数组的对应比值下的训练集；

S204、分别对所述预设数组的各个训练集进行训练；

S205、采用同一验证集分别对所述各个训练集训练出来的模型进行验证，获得各个模型的预测准确率；

S206、分析各个模型的预测准确率和不同比值之间的关系，根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整。

优选的，所述分别对所述预设数组的各个训练集进行训练具体包括步骤：

选择轻量级卷机神经网络分别对所述预设数组的各个训练集进行训练。

优选的，还包括步骤：

结合所述预训练数据集的数据分布，对所述预训练数据集进行不同程度的数据增广。

优选的，还包括步骤：

采用所述对应比值进行数据分布调整的样本对预训练数据集进行分类集成。

相应的，本实施例还提供一种数据分布平衡的确定系统，如图5所示，包括：

设定比值模块201，用于设定预设数组最丰富样本和稀有样本的不同比值；

训练集获得模块202，用于根据所述不同比值对预训练数据集进行分布调整，获得预设数组的对应比值下的训练集；

训练模块203，用于分别对所述预设数组的各个训练集进行训练；

验证模块204，用于采用同一验证集分别对所述各个训练集训练出来的模型进行验证，获得各个模型的预测准确率；

分析选择模块205，用于分析各个模型的预测准确率和不同比值之间的关系，根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整；

预处理模块206，用于对预训练数据集进行预处理，其中，所述预处理包括去重以及格式检查。

优选的，所述训练模块包括：

选择训练单元，用于选择轻量级卷机神经网络分别对所述预设数组的各个训练集进行训练。

优选的，还包括：

数据增广模块，用于结合所述预训练数据集的数据分布，对所述预训练数据集进行不同程度的数据增广。

优选的，还包括：

分类集成模块，用于采用所述对应比值进行数据分布调整的样本对预训练数据集进行分类集成。

本实施例通过对预训练数据进行去重、格式检查等预处理，可以进一步提高数据分布的准确率。

本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代，但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

Claims (10)

1.一种数据分布平衡的确定方法，其特征在于，包括步骤：

设定预设数组最丰富样本和稀有样本的不同比值；

根据所述不同比值对预训练数据集进行分布调整，获得预设数组的对应比值下的训练集；

分别对所述预设数组的各个训练集进行训练；

采用同一验证集分别对所述各个训练集训练出来的模型进行验证，获得各个模型的预测准确率；

分析各个模型的预测准确率和不同比值之间的关系，根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整。

2.如权利要求1所述的一种数据分布平衡的确定方法，其特征在于，所述分别对所述预设数组的各个训练集进行训练具体包括步骤：

选择轻量级卷机神经网络分别对所述预设数组的各个训练集进行训练。

3.如权利要求1所述的一种数据分布平衡的确定方法，其特征在于，还包括步骤：

对所述预训练数据集进行预处理，其中，所述预处理包括去重以及格式检查。

4.如权利要求1所述的一种数据分布平衡的确定方法，其特征在于，还包括步骤：

结合所述预训练数据集的数据分布，对所述预训练数据集进行不同程度的数据增广。

5.如权利要求1所述的一种数据分布平衡的确定方法，其特征在于，还包括步骤：

采用所述对应比值进行数据分布调整的样本对预训练数据集进行分类集成。

6.一种数据分布平衡的确定系统，其特征在于，包括：

设定比值模块，用于设定预设数组最丰富样本和稀有样本的不同比值；

训练集获得模块，用于根据所述不同比值对预训练数据集进行分布调整，获得预设数组的对应比值下的训练集；

训练模块，用于分别对所述预设数组的各个训练集进行训练；

验证模块，用于采用同一验证集分别对所述各个训练集训练出来的模型进行验证，获得各个模型的预测准确率；

分析选择模块，用于分析各个模型的预测准确率和不同比值之间的关系，根据所述预测准确率高低和提升效果选择对应的比值进行数据分布调整。

7.如权利要求6所述的一种数据分布平衡的确定系统，其特征在于，所述训练模块包括：

选择训练单元，用于选择轻量级卷机神经网络分别对所述预设数组的各个训练集进行训练。

8.如权利要求6所述的一种数据分布平衡的确定系统，其特征在于，还包括：

预处理模块，用于对所述预训练数据集进行预处理，其中，所述预处理包括去重以及格式检查。

9.如权利要求6所述的一种数据分布平衡的确定系统，其特征在于，还包括：

数据增广模块，用于结合所述预训练数据集的数据分布，对所述预训练数据集进行不同程度的数据增广。

10.如权利要求6所述的一种数据分布平衡的确定系统，其特征在于，还包括：

分类集成模块，用于采用所述对应比值进行数据分布调整的样本对预训练数据集进行分类集成。