CN114266717A

CN114266717A - 一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法

Info

Publication number: CN114266717A
Application number: CN202011020118.2A
Authority: CN
Inventors: 陈晓艳; 洪耿; 任玉蒙
Original assignee: Tianjin University of Science and Technology
Current assignee: Tianjin University of Science and Technology
Priority date: 2020-09-25
Filing date: 2020-09-25
Publication date: 2022-04-01

Abstract

本发明提供了医学图像处理领域的一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法，随着深度学习技术的不断发展，对子宫颈癌细胞图像进行智能识别和分类研究不断深入。本发明包括：步骤一、宫颈细胞图像数据集准备、分类标注信息标注；步骤二、Inception模块通过其卷积网络和并行结构提取图像纹理属性特征，生成特征信息训练结果；步骤三、胶囊网络处理图像特征，基于Inception模块训练结果，通过动态路由机制进一步处理图像特征，对其进行压缩和向量变换；步骤四、通过向量压缩处理，进行全连接计算，对宫颈细胞图像进行诊断分类。本发明的优点在于：极大的提升了宫颈癌细胞检测的准确性以及效率。

Description

一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法

技术领域

本发明提供了一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法，属于医学影像分析和计算机辅助诊断领域。

技术背景

宫颈癌(Cervical cancer)是子宫颈常见的恶性肿瘤，是发展中国家中第一大高发女性癌症，也是世界范围内第二大高发女性癌症，严重威胁女性的生命及身体健康。宫颈癌是唯一病因明确且可以预防的恶性肿瘤，筛查可以早发现、早预防、早治疗，从而有效避免宫颈癌的发生。宫颈细胞学检查是检测宫颈癌及癌前病变的主要方法，其主要的检查手段有：宫颈刮片检查和宫颈液基薄层细胞学检查。宫颈液基薄层细胞学检查和分类诊断是目前国际上最先进的一种宫颈癌细胞学检查技术，与传统的宫颈刮片巴氏涂片检查相比明显提高了标本的满意度及宫颈异常细胞检出率，其对宫颈癌细胞的检出率为100％。目前，宫颈癌的临床检测方法是医生根据经验目测宫颈液基薄层细胞涂片图像，通过细胞的密集度、细胞核面积等特征进行癌变细胞的识别。但随着宫颈细胞诊断标准越来越高，仅靠经验丰富的医师进行人工阅片，其可靠性、准确性和效率都无法得到保证。液基薄层细胞学检查一般采用人工阅片方式，医生分析细胞核染色深度、细胞核形状、细胞核分布均匀度以及核浆比(细胞核直径与细胞直径的比值，核浆比为判断细胞是否异常的重要参数)等参数来判断是否发生病变。液基细胞学分析极大地依赖于细胞病理医生，同时由于样本数量十分大，加重了医师的工作量，使得医师难以长时间对细胞涂片保持精准的判断，具有很大的局限性：(1)每个细胞病理医生的专业水平不一致，诊断结果会有较大差异；(2)每个玻片含有数以万计的细胞，病理医生任务量重，易疲劳，可能导致误诊、漏诊。

随着人工智能技术的发展，用机器代替人工阅片，赋予机器智能识别、智能分类的能力，弥补当前人工阅片的缺陷成为当前的研究热点。随着深度学习技术的不断发展和运算能力及图形处理能力的不断提升，采用卷积神经网络(CNN)对宫颈癌细胞图像进行智能识别、自动分割和分类研究不断深入。但由于卷积神经网络技术使用的标量化的模块，因此在宫颈癌细胞图像识别和检测领域仍然有缺陷。

卷积神经网络提升性能最保险的方法就是增加网络的宽度和深度，这样做同时也会伴随着副作用。首先越深越宽的网络往往会意味着有巨大的参数量，当数据量很少的时候，训练出来的网络很容易过拟合，并且当网络有很深的深度的时候，很容易造成梯度消失现象这两个副作用制约着又深又宽的卷积神经网络的发展，Inception模块很好的解决了这两个问题。Inception模块中会有额外的两个softmadx预测层，这两个预测层分别是从网络框架中间部分引出的分支，用于反向传播更新梯度，这样就避免了因梯度消失导致浅层的网络参数无法更新。

胶囊网络是Hinton提出的一种全新的神经网络，是一种使用输入输出向量的长度表征实体存在概率的神经网络，擅长处理物体的姿态(位置、大小、方向)、变形、速度、反照率、色调、纹理等特征信息。近两年来，胶囊网络算法的研究及应用受到极大的关注。胶囊网络虽然取得一定研究成果，但大多是对灰度值图像进行识别和分类，并且胶囊网络的卷积部分层数较少，不足以提取宫颈细胞图像的特征信息。由于宫颈细胞涂片图像是三维彩色图像，提供了丰富的与生理和病理相关的纹理信息，所以在胶囊网络基本框架基础上，增加了Inception模块，设计构造改进的胶囊神经网络模型，通过三维通道深度卷积层提高图像深层特征的提取能力，同时改进动态路由机制，达到提高三维彩色图像识别精度的目的。

发明内容

针对现有技术的不足，本发明提供了一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法。

本发明的技术方案为一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法，包括如下步骤：

步骤1，图像输入：输入的图像是三维彩色图像，尺寸大小是112x112。图像数据集一共分为四类，即正常宫颈细胞图像、ASC-H非典型鳞状细胞、Lsil上皮内低度病变和Hsil上皮内高度病变。每类细胞图像4000张，一共16000张图像，采用十折交叉验证的方法，十分之一作为测试集，十分之一作为验证集，十分之八作为训练集。

步骤2，Inception模块输入：Inception模块是一种并行的卷积神经网络，模块输入尺寸是112x112，一层block包含1x1卷积，1x1卷积，3x3最大池化；二层block包含1x1卷积，3x3卷积，5x5卷积；这样，网络中每一层都能学习到“稀疏”(3x3、5x5)或“不稀疏”(1x1)的特征，既增加了网络的宽度，也增加了网络对尺度的适应性；通过deep concat在每个block后合成特征，获得非线性属性。两层block与一层1x1卷积并行输出。

步骤3，主胶囊层输入：胶囊层输入张量是20×20×256，输出的张量维度为6×6×8×32。胶囊层使用32个9×9的卷积核做卷积，步幅为2，得到6×6×1×32的张量。主胶囊层经过对维度为20×20×256的输入张量执行8次不同权重的Conv2操作，会产生8个类似的张量，将这8个张量和6×6×1×32的张量在第三个维度上合并在一起就成了6×6×8×32。主胶囊层就是将8个卷积单元封装在一起成为了一个新的胶囊单元，这个胶囊单元就是深度为32，长度为8的向量。

步骤4，数字胶囊层：数字胶囊层在主胶囊层基础上进行传播与Routing更新。在上一层1152个胶囊单元的基础上输出第二层2个标准的胶囊单元，每个胶囊的输出向量有16个元素。第一个全连接层输入16×2矩阵，输出512向量；第二个全连接层输入512向量，输出1024向量；第三个全连接层输入1024向量，输出784向量。

步骤5，输出分类结果：将测试集图像调整尺寸，输入分类模型中进行测试，获得结果。

进一步的，步骤1中本发明采用的十折交叉验证，将数据集D_data随机地划分为K个均匀且不相交的子集D₁，D₂，...，D_k，使得：

进一步的，步骤2中加入BN算法，BN的出现大大解决了训练收敛问题。Inception模块通过BN整个网络的激活值，在数据通过深度网络传播时，它可以防止层参数的微小变化被放大，(梯度消失)使参数缩放更有弹性。通常，大的学习率可能增加参数的缩放，这在BP时会放大梯度并导致梯度爆炸。该算法的核心功能是对网络的输入数据进行归一化。其主要作用是将每一层神经网络的神经元的输入分布归一化到均值为0方差为1的标准正态分布，从而让梯度变大，避免产生梯度消失，最终提升学习的收敛速度。假如有数据x＝{x₁，x₂，x₃，...，x_m}，则使用下列公式进行归一化：

其中，分母为第i维数据的标准差，分子为i维数据和均值的差.

进一步的，步骤4中用到了动态路由机制。动态路由机制实质为一种迭代算法，其编码和解码能力使图像特征信息更具方向性。为了更好地拟合多维数据在复杂环境中模型的优异性和提高分类精度，本发明设计了一种新的动态路由激活函数C-squashing(s)：

式中

当s_j逼近0时，z′_j逼近0；当s_j趋近无穷大时，z′_j逼近1。非线性函数的功能是实现把模值“挤压”到[0，1)区间，并确保短向量的长度能够缩短到零，而长向量的长度压缩到接近但不超过1的情况，从而实现胶囊层级的激活功能。

本发明的有益效果是：一方面，Inception模块作为本发明设计的并行卷积神经网络，能够更深层次的提取图像的特征信息，将胶囊网络与CNN相结合，加深原始胶囊网络中卷积层层数，弥补胶囊网络在处理大尺寸图像能力上的不足，克服CNN网络在图像分类中存在的两大主要问题。另一方面，本发明设计的一种新的动态路由激活函数C-squashing(s)能够更好地实现向量的挤压和分类，更快速地实现向量长度的压缩和重分配，把有效性信息保留，无效性信息去除，提高整个模型的快速性和准确性。

本发明提出的算法测试准确率达到了99.2％，识别精度是所有方法中的最高。可以看出，本文提出的基于Inception模块的并行胶囊网络宫颈癌细胞检测方法对宫颈细胞数据图像有着良好的识别效果，通过增加Inception模块深度卷积层和选择更适合的动态路由机制，使宫颈细胞图像的细胞核区域的可分辨性和特征性增强，验证了本文提出的模型有效性和可行性。

附图说明

图1为基于Inception模块的并行胶囊网络宫颈癌细胞检测方法流程图

图2为基于Inception模块的并行胶囊网络宫颈癌细胞检测方法框架图

图3为基于Inception模块的并行胶囊网络宫颈癌细胞检测方法结果图

具体实施方式

本发明实施例采用数据集有两部分组成：一是公开的Herlev数据集，二是通过提取宫颈细胞扫描电镜中医师标注不同病理区域并进行图像处理获得的宫颈细胞图像数据集。Herlev数据集是专业的医学博士从Herlev大学医院(丹麦)获得的健康和癌变涂片图像中制作的病理细胞涂片数据，有917幅图像，每幅图像包含一个子宫颈细胞。Herlev数据集是由两名细胞技术人员和一名医生标记。本发明实施例在阿里天池宫颈液基薄层细胞电镜扫描图像数据的基础上，通过专业医师的标注，提取宫颈病理细胞图像，再通过图像处理和尺寸变换制作了本文的宫颈细胞数据集。从800张电镜扫描图片中根据不同病理细胞标注制作了约3000张宫颈癌细胞图像，通过图像平移、旋转、镜像和高斯加噪，对数据集进行扩充和增强，得到16000张细胞图像，其中正常宫颈细胞图像、ASC-H非典型鳞状细胞、Lsil上皮内低度病变和Hsil上皮内高度病变四类图像各有4000张，不仅增强了模型训练数据量，提高模型的泛化能力和模型的鲁棒性，而且基本克服了正负样本的不平衡性。

本发明实施例的实验环境使用Windows10 64位操作系统，8GB内存，CPU为IntelCore i5-9400F，GPU为NVIDIA GeForce GTX 1660，编程语言为Python 3.6，使用tensorflow做深度学习框架，编译环境IDE为Pycharm 2017。

Inception模块训练：一层block包含1x1卷积，1x1卷积，3x3最大池化；二层block包含1x1卷积，3x3卷积，5x5卷积；深度卷积层是128个5×5卷积核，步幅大小为1，使用ReLU激活函数，输出28×28×128。通用卷积层使用256个9×9的卷积核，步幅大小为1，使用ReLU激活函数，输出20×20×256。它们卷积核分别采用5×5和9×9尺寸，较大的感受野能够再较少CNN层数下感受更多的信息，又不会导致计算量暴增，降低计算性能。

主胶囊层训练：共有32个胶囊，对通用卷积层的输出执行8次不同权重的卷积操作，每次都是32个9×9卷积核、步幅为2进行卷积，产生6×6×1×32的张量，所以共有8个类似的张量，将这8个张量合并成6×6×8×32向量，输入到胶囊层中。

数字胶囊层训练：共10个向量，每个向量16个元素。数字胶囊层用向量模的大小衡量某个实体出现的概率，对这10个向量求模，求得模值最大的向量代表的就是图像概率最大的分类。数字胶囊层在主胶囊层基础上进行传播与路由更新，最后输出4个16维度的胶囊。

全连接输出：第一个全连接层输入16×2矩阵，输出512向量；第二个全连接层输入512向量，输出784向量；第三个全连接层输入784向量，输出1024向量。

基于Inception模块的并行胶囊网络模型参数汇总表

Layer	卷积核大小	卷积核数量	激活函数	输出尺寸
					Input	-	-	-	112×112×3
block1	5×5×3	128	ReLu	28×28×128
					block2	9×9×128	256	ReLu	20×20×256
主胶囊网络	9×9×256	32	-	6×6×8×32
					数字胶囊网络	-	-	C-squashing	16×2
FC1	-	-	ReLu	512
					FC2	-	-	ReLu	784
FC3	-	-	Sigmoid	1024

本发明区别于现有的胶囊网络方法的显著区别在于：其一，本发明设计了Inception模块网络结构，增加网络的宽度和深度的同时防止过拟合，Inception模块中会有额外的两个softmadx预测层，避免了因梯度消失导致浅层的网络参数无法更新。其二，本发明设计了一个C-squashing激活方法，把模值“挤压”到[0，1)区间，并确保短向量的长度能够缩短到零，而长向量的长度压缩到接近但不超过1的情况，从而实现胶囊层级的激活功能，能够很好地针对三维通道图像提取更深层次地特征，保留图像特征的位置、色彩和纹理特征信息。

Claims

1.一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法，其特征在于：包括如下步骤：

步骤一：宫颈癌细胞图像输入：准备宫颈癌图像数据集，对数据集进行打标签，输入的图像尺寸大小是112x112，图像数据集一共分为四类，即正常宫颈细胞图像、ASC-H非典型鳞状细胞、Lsil上皮内低度病变和Hsil上皮内高度病变。

步骤二：Inception模块提取图像特征：图像通过Inception模块提取图像的纹理属性特征，Inception模块是一种卷积神经网络的并行网络结构，包含两层block结构，一层block包含1x1卷积，1x1卷积，3x3最大池化；二层block包含1x1卷积，3x3卷积，5x5卷积，两层block与一层1x1卷积并行输出，Inception模块通过一个图像矩阵经过一个卷积核的卷积操作后，得到了另一个矩阵，每一个卷积核都可以提取特定的特征，不同的卷积核提取不同的特征，特征信息由对应的位置的值是由多个核卷积模板分别作用在多个通道的对应位置处的卷积结果相加然后取激活函数得到的。

步骤三：胶囊网络处理图像特征：CapsNet网络的基础框架由两部分组成：编码器和解码器。卷积层、PrimaryCaps(主胶囊)层和DigitCaps(数字胶囊)层是编码器，3个全连接层是解码器，主胶囊层输入张量是20×20×256，采用32个9×9×256卷积核做卷积，步幅为2，得到6×6×1×32的张量，执行8次不同权重的卷积操作，产生8个类似的张量，将8个张量和6×6×1×32的张量合并在一起获得6×6×8×32的输出张量；数字胶囊层共10个向量，每个向量16个元素，数字胶囊层用向量模的大小衡量某个实体出现的概率，对这10个向量求模，求得模值最大的向量代表的就是图像概率最大的分类；第一个全连接层输入16×2矩阵，输出512向量；第二个全连接层输入512向量，输出784向量；第三个全连接层输入784向量，输出1024向量。

步骤四：图像分类输出：细胞图像经过并行网络的特征提取，在由全连接层进行向量输出，输出的向量经过压缩和分配，对图像进行分类识别，网络分类出四类细胞图像之后，再根据标签和测试集计算出分类的精确度。

2.根据权利要求1所述的一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法，其特征在于：所述步骤一的数据集输入的图像是三维彩色图像，是三通道图像，不同的类别放在不同文件夹。

3.根据权利要求1所述的一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法，其特征在于：所述步骤二的Inception模块加入BN算法，BN算法能够解决训练的收敛问题，学习率较大时可能增加参数的缩放，BP在这时会放大梯度并导致梯度爆炸，Inception模块通过BN整个网络的激活值，可以防止参数的微小变化被放大，对网络的输入数据进行归一化，将每一层神经网络的神经元的输入分布归一化到均值为0方差为1的标准正态分布，这样就使得梯度消失，提升学习的收敛速度。

4.根据权利要求1所述的一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法，其特征在于：所述步骤三的胶囊网络算法模型中改进了动态路由机制，通过动态路由机制输出特征信息的聚类结果，动态路由机制实质为一种迭代算法，其编码和解码能力使图像特征信息具有方向性和向量特征，本发明改进的动态路由激活函数C-squashing(s)：

式中

当s_j逼近0时，z′_j逼近0；当s_j趋近无穷大时，z′_j逼近1，激活函数的功能是实现把模值“挤压”到[0，1)区间，并确保短向量的长度能够缩短到零，而长向量的长度压缩到接近但不超过1的情况，从而实现胶囊层级的激活功能。

5.根据权利要求1所述的一种基于Inception模块的并行胶囊网络宫颈癌细胞检测方法，其特征在于：所述步骤四的图像分类输出是一种测试方法，输出的是一种分类结果和精确度。