CN107451996A - 应用于皮肤癌识别的深度学习训练系统 - Google Patents

Abstract

本发明公开一种应用于皮肤癌识别的深度学习训练系统，包括数据集输入与筛选模块、分隔模块、BP模块以及权重输出模块，数据集输入与筛选模块用于对输入图像单元数据集的完整性进行检查，再根据设定的清晰度及尺寸大小指标筛选出图像训练数据集后进入分隔模块；分隔模块将图像训练数据集通过分隔算法根据分类树划分为训练集；BP模块从训练集中抽取进入BP模块的数据点走正向传播通路及进行反向传播途径，根据链式求导得到各层对应的权重值为止；权重输出模块将得到的一系列权重进行分层整理，得到不同层的权重矩阵成权重矩阵包，再从权重输出模块传输至皮肤癌识别系统使用。如此，无需人工定义特征得到最终权重，提高皮肤癌识别的效率。

Description

应用于皮肤癌识别的深度学习训练系统

技术领域

本发明涉及医疗技术领域，特别是指一种应用于皮肤癌识别的深度学习训练系统。

背景技术

皮肤癌是一种高发的恶性肿瘤，包括基底细胞癌、恶性黑色素瘤以及鳞状细胞癌等，其中以恶性黑色素瘤预后最差，死于恶性黑素素瘤的患者占死于皮肤肿瘤患者总数的75％以上，恶性黑色素瘤的五年存活率不足1％。在临床上，皮肤癌的诊断首先需要进行临床筛查，然后进行皮肤镜检查，随后进行活检以及组织病理学检查。

随着卷积神经网络(Convolutional Neural Network，CNN)的技术发展，使用深度学习来进行皮肤肿瘤自动识别已经成为了一种可能。深度学习作为机器学习技术领域当中的最新技术，已证实在有极大数据集作为输入的基础之上，能够在视觉识别领域达到较高水准(如人脸识别)，并且在策略类游戏如围棋中能够超过人类能力(如AlphaGo)。

因此，有必要设计一种新的应用于皮肤癌识别的深度学习训练系统，以解决上述技术问题。

发明内容

针对背景技术中存在的问题，本发明的目的是提供一种应用于皮肤癌识别的深度学习训练系统，以端对端的形式，以图像标签和原始图像为输入，无需人工定义特征便可得到最终的权重。

本发明的技术方案是这样实现的：一种应用于皮肤癌识别的深度学习训练系统，包括数据集输入与筛选模块、分隔模块、BP模块以及权重输出模块，其中，所述数据集输入与筛选模块：用于对输入图像单元数据集的完整性进行检查，再根据设定的清晰度指标以及尺寸大小指标对图像单元进行鉴别，如果图像单元的清晰度以及尺寸未达到设定值，该图像单元被筛选除去；然后得到最终待处理的图像训练数据集进入分隔模块；所述分隔模块：将图像训练数据集通过分隔算法根据分类树划分为训练集，并从分隔树顶端开始，自上往下的迭代过程中确保了每个训练集包含的数据点都具有病理与图像的近似性；所述BP模块：从训练集中抽取进入BP模块的数据点走正向传播通路，得到的特征图进入全连接层得到具体分类，并代入激活函数求值，得到判断疾病的概率结果；再进行反向传播途径，根据求得的值对上一层各个权重进行链式求导作为新的权重，直到各层都完成求导并得到对应的权重值为止；所述权重输出模块：将得到的一系列权重进行分层整理，每一层的一系列权重整理为一个权重矩阵，得到不同层的权重矩阵成权重矩阵包，再从权重输出模块传输至皮肤癌识别系统，以供皮肤癌识别系统使用。

在上述技术方案中，所述输入的图像数据集最小单位为一个图像文件及其图像标签，每个图像都有对应标签，标签需要包括对该张图像的最终诊断

在上述技术方案中，所述完整性进行检查包含整体完整性检查与单元完整性检查。

在上述技术方案中，所述正向传播通路包含将图像抽象为一系列像素点，进行线性化处理后根据预设的初始权重对多个像素点组合成的矩阵进行矩阵乘法运算，得到特征图并进行max pooling，特征图进入隐藏层，隐藏层再与该层对应的权重进行矩阵乘法，得到下一层的特征图；经过多层隐藏层后得到的特征图进入全连接层得到具体分类。

在上述技术方案中，所述反向传播途径包含将得到的判断结果作为反向传播途径中的一个参数，使用成本函数求出一个值代码计算值与真值的误差，根据链式法则将该成本函数计算出来的值对上一层的各个权重进行链式求导，求出来的导数作为新的权重，求完该层权重后将成本函数计算出来的值对再上一层进行求导，以此类推，直到各层都完成求导并得到对应的权重值为止。

本发明应用于皮肤癌识别的深度学习训练系统，数据集输入与筛选模块、分隔模块、BP模块以及权重输出模块，数据集输入与筛选模块用于对输入图像单元数据集的完整性进行检查，再根据设定的清晰度及尺寸大小指标筛选出图像训练数据集后进入分隔模块；分隔模块将图像训练数据集通过分隔算法根据分类树划分为训练集；BP模块从训练集中抽取进入BP模块的数据点走正向传播通路及进行反向传播途径，根据链式求导得到各层对应的权重值为止；权重输出模块将得到的一系列权重进行分层整理，得到不同层的权重矩阵成权重矩阵包，再从权重输出模块传输至皮肤癌识别系统使用。如此，无需人工定义特征得到最终权重，提高皮肤癌识别的效率。

附图说明

图1为本发明中数据集输入与筛选模块流程图；

图2为本发明中BP模块流程图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明所述的一种应用于皮肤癌识别的深度学习训练系统，关键点在于分隔算法(Partition Algorithm)以及适用于皮肤癌识别训练的反向传播(Back Propagation,BP)算法。通过将这两个关键算法与相应端口、处理模块组合而成。最大特点在于无需人工设定需要提取的特征，只需要通过图像以及图像标签进行大批量的处理，得到最终的最适权重。本发明深度学习训练系统，包含数据集输入与筛选模块、分隔模块、BP模块以及权重输出模块，以下是对上述各模块的详细说明。

(1)数据集输入与筛选模块：

本系统作为一种细粒度的深度学习训练系统，所输入的图像数据集最小单位为一个图像文件及其图像标签。每个图像都有其对应标签，其标签需要包括对该张图像的最终诊断，并且这一最终诊断作为最小叶结点，不同最小叶结点之间根据对应的疾病之间的图像相似度以及病历相似度进行整合，归纳为某一类疾病(如黑色素瘤、上皮细胞瘤)，不同类疾病再进行归纳，直到最终归纳为三类：非肿瘤、良性肿瘤以及恶性肿瘤。

因此，经过对不同叶结点的整合后，所输入的图像对应标签的结构实际上是一个分类树，包括疾病大类、疾病小类乃至最终诊断(最小叶结点)。

在图像单元数据集输入系统后，数据集输入与筛选模块首先需要对图像单元数据集完整性进行检查(Integrity Check)，包括整体完整性检查与单元完整性检查。整体完整性检查首先需要读取数据集文件头信息，根据数据集文件头信息去检查数据集单位数，如果数字不匹配，构建完整性验证失败信息，返回客户端。而在单位完整性检查中，需要判断每一个单位是否完整，是否包含图像文件以及对应的图像标签，图像标签是否包含完整分类树。如果不完整，记录于完整性检查登记表中，待完整性检查完成之后将清单返回客户端并请求完整数据单位。

完整性检查结束之后，需要对图像数据集进行筛选。系统根据设定的清晰度指标以及尺寸大小指标对图像进行鉴别，如果图像的清晰度以及尺寸未达到设定值，该图像单元被筛选除去。

筛选步骤完成之后，得到最终待处理的图像数据集，进入分隔模块。其中，数据集输入与筛选模块的流程如图1所示

(2)分隔模块：

分类树的使用为图像的训练提供了细粒度的信息，而在细粒度层面对训练能够提高识别的准确度。因此为了充分利用这些细粒度的信息，需要将这些图像单元根据分类树划分为训练集。

分隔模块当中最关键的算法为分隔算法。分隔算法需要输入两项内容，包括疾病分类树和所设定的训练集所包含的最大单元数(一般设定为1000)。分隔算法从顶端结点开始，采用迭代的计算，逐步向下方结点下降，如果某一个结点调用判断函数后，所包含的数据点超过最大单元数，则下降到下方的子节点，再调用判断函数，决定所包含的数据点是否超过最大单元数。如果不超过最大单元数，则该结点被定义为一个训练集。

通过分隔算法的运用，使得每一个训练集所包含的数据点尽可能接近于所设定的训练集所包含的最大单元数。这样可以避免某个训练集由于子集所包含的数据点太少，不能有效地进行训练；也可以避免由于某个训练集由于子集所包含的数据点太多，分类树细粒度的信息未得到充分利用，以至于识别结果过于粗糙。更重要的是，由于分隔算法是从分隔树顶端开始的，自上往下的迭代过程中确保了每个训练集所包含的数据点都具有病理与图像的近似性(比如皮肤b细胞淋巴瘤与皮肤t细胞淋巴瘤可归为一个训练集)，而且充分利用了细粒度信息。

分隔算法的内容如下表所示：

(3)BP模块：

BP模块中最重要的算法是反向传播(BP)算法。BP算法的应用需要设定几个参数：batch size、iteration、epoch、learning rate学习率以及decay rate衰减因子。

BP算法的基础是正向传播。首先根据设定的初始权重，将进入BP模块的单个数据点走正向传播通路。正向传播通路的具体内容是：首先图像文件需要抽象为一系列像素点，并且进行线性化处理，线性化处理后根据预先设定的初始权重对若干个像素点组合成的矩阵进行矩阵乘法运算，得到特征图并进行max pooling。所得到的特征图进入隐藏层，隐藏层再与该层对应的权重进行矩阵乘法，得到下一层的特征图。经过多层隐藏层后，得到的特征图进入全连接层，并代入激活函数，得到最终的判断结果(某一疾病的概率)。

正向传播途径完成之后，开始进行反向传播途径。将得到的判断结果作为反向传播途径中的一个参数，使用成本函数求出一个值代码计算值与真值的误差。根据链式法则，将该成本函数计算出来的值对上一层的各个权重进行链式求导，求出来的导数作为新的权重。求完该层权重后，将成本函数计算出来的值对再上一层进行求导，以此类推，直到各层都完成求导并得到对应的权重值为止。经过BP算法，迭代得到了新的一系列权重。

每一次训练从训练集中取出数量为batch size的数据点，经过iteration次之后完成1次epoch。根据设定的epoch值对整个数据集进行若干次训练之后，就得到了最终的每层的权重值。该模块的工作流程如图2所示。

(4)输出模块：

在BP模块中经过若干个epoch的训练之后，得到的一系列权重进行分层整理，每一层的一系列权重整理为一个权重矩阵，每一层都经过整理后，得到不同层的权重矩阵，成为权重矩阵包。得到权重矩阵包之后，从深度学习训练系统的输出模块传输至识别系统，以供识别系统使用。

以下是结合一具体实例对本发明的进一步说明：

系统获取数据集后，首先对其进行完整性验证，包括整体完整性验证与单元完整性验证。完成完整性验证之后，进入分隔算法。

根据分类树，数据集中的单元组成成分如下表所示：

分隔算法从顶端开始，恶性肿瘤总数据点数达到5190，显然超过设定的训练集最大数据点数1000。往下方结点进行计算，皮肤淋巴瘤总数据点数为740，符合要求，皮肤淋巴瘤定义为一个训练集。

真皮恶性肿瘤总数据点数为1410，超过设定值。往下方结点进行计算，血管肉瘤数据点数为890，符合要求，血管肉瘤定义为一个训练集。同理，梅克尔细胞瘤也被定义为一个训练集。

以此类推，在恶性肿瘤这个类别下，训练集包括：

皮肤淋巴瘤	740
		血管肉瘤	890
梅克尔细胞瘤	520
		基底细胞癌	930
扁平细胞癌	810
		黑色素性黑色素瘤	700
非黑色素性黑色素瘤	600

得到训练集后，进入BP模块，经过复杂的运算后，得到每一层的权重值。一层的权重值是一个矩阵，形式如下：

每一行相当于一个filter。各层的权重打包为权重矩阵包，传输给皮肤癌识别系统。

综上，与现有技术相比，本发明应用于皮肤癌识别的深度学习训练系统，具有以下有益效果：

1.传统的机器学习要求使用者在进行学习训练之前，先对所要提取的图像特征进行定义，这对使用者提出了极高的要求，准备工作较为复杂。而在该面向皮肤癌识别的深度学习系统当中，不需要人工设定皮肤癌的识别特征，根据一个设定的初始权重就能根据所导入的极大量数据集对当中的特征进行自动提取，并对这些特征进行组合成为各类皮肤癌的区别标志，并通过多次调用反向传播算法，得到一系列最适于识别皮肤癌特征的权重，从而用于皮肤癌识别系统。

2.该面向皮肤癌识别的机器学习训练系统具有平移不变形、角度和视角不变性以及尺寸不变形，只要数据集的的量足够大，并且能够收集到不同位置、不同角度以及不同尺寸大小的图片，就能保证训练所得到的权重对于进一步的皮肤癌图像识别具有较高的准确度，判断结果更加准确。因此，该训练系统准确性的保障在于数据集的数量以及角度、位置多样性。

3.该应用于皮肤癌识别的深度学习训练系统采用了分类树作为输入，能够将各个图像所携带的诊断信息深入到具体的皮肤癌类型诊断，这样细粒度的信息有利于深度学习提高准确度。同时所使用的分隔算法最大限度地利用了这些细粒度信息，使得每个训练集中的数据点略微小于所设定的最大值，使得每个训练集不至于过小无法进行准确地训练，也不至于过大，遗漏了许多细粒度信息。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (5)

1.一种应用于皮肤癌识别的深度学习训练系统，其特征在于：包括数据集输入与筛选模块、分隔模块、BP模块以及权重输出模块，其中，

所述数据集输入与筛选模块：用于对输入图像单元数据集的完整性进行检查，再根据设定的清晰度指标以及尺寸大小指标对图像单元进行鉴别，如果图像单元的清晰度以及尺寸未达到设定值，该图像单元被筛选除去；然后得到最终待处理的图像训练数据集进入分隔模块；

所述分隔模块：将图像训练数据集通过分隔算法根据分类树划分为训练集，并从分隔树顶端开始，自上往下的迭代过程中确保了每个训练集包含的数据点都具有病理与图像的近似性；

所述BP模块：从训练集中抽取进入BP模块的数据点走正向传播通路，得到的特征图进入全连接层得到具体分类，并代入激活函数求值，得到判断疾病的概率结果；再进行反向传播途径，根据求得的值对上一层各个权重进行链式求导作为新的权重，直到各层都完成求导并得到对应的权重值为止；

所述权重输出模块：将得到的一系列权重进行分层整理，每一层的一系列权重整理为一个权重矩阵，得到不同层的权重矩阵成权重矩阵包，再从权重输出模块传输至皮肤癌识别系统，以供皮肤癌识别系统使用。

2.根据权利要求1所述的应用于皮肤癌识别的深度学习训练系统，其特征在于：所述输入的图像数据集最小单位为一个图像文件及其图像标签，每个图像都有对应标签，标签需要包括对该张图像的最终诊断。

3.根据权利要求1所述的应用于皮肤癌识别的深度学习训练系统，其特征在于：所述完整性进行检查包含整体完整性检查与单元完整性检查。

4.根据权利要求1所述的应用于皮肤癌识别的深度学习训练系统，其特征在于：所述正向传播通路包含将图像抽象为一系列像素点，进行线性化处理后根据预设的初始权重对多个像素点组合成的矩阵进行矩阵乘法运算，得到特征图并进行max pooling，特征图进入隐藏层，隐藏层再与该层对应的权重进行矩阵乘法，得到下一层的特征图；经过多层隐藏层后得到的特征图进入全连接层得到具体分类。

5.根据权利要求4所述的应用于皮肤癌识别的深度学习训练系统，其特征在于：所述反向传播途径包含将得到的判断结果作为反向传播途径中的一个参数，使用成本函数求出一个值代码计算值与真值的误差，根据链式法则将该成本函数计算出来的值对上一层的各个权重进行链式求导，求出来的导数作为新的权重，求完该层权重后将成本函数计算出来的值对再上一层进行求导，以此类推，直到各层都完成求导并得到对应的权重值为止。