CN109376756B - 基于深度学习的上腹部转移淋巴结节自动识别系统、计算机设备、存储介质 - Google Patents

基于深度学习的上腹部转移淋巴结节自动识别系统、计算机设备、存储介质 Download PDF

Info

Publication number
CN109376756B
CN109376756B CN201811027769.7A CN201811027769A CN109376756B CN 109376756 B CN109376756 B CN 109376756B CN 201811027769 A CN201811027769 A CN 201811027769A CN 109376756 B CN109376756 B CN 109376756B
Authority
CN
China
Prior art keywords
fast
generation network
region
target detector
rcnn
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811027769.7A
Other languages
English (en)
Other versions
CN109376756A (zh
Inventor
卢云
高源�
张正东
李帅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Affiliated Hospital of University of Qingdao
Original Assignee
Affiliated Hospital of University of Qingdao
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Affiliated Hospital of University of Qingdao filed Critical Affiliated Hospital of University of Qingdao
Priority to CN201811027769.7A priority Critical patent/CN109376756B/zh
Publication of CN109376756A publication Critical patent/CN109376756A/zh
Application granted granted Critical
Publication of CN109376756B publication Critical patent/CN109376756B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03—Recognition of patterns in medical or anatomical images
    • G06V2201/031—Recognition of patterns in medical or anatomical images of internal organs

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Pathology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Primary Health Care (AREA)
  • General Health & Medical Sciences (AREA)
  • Epidemiology (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于深度学习的上腹部转移淋巴结节自动识别系统，属于图像识别技术领域。该系统包括：faster–rcnn模型，所述faster–rcnn模型包括：特征提取网络、区域生成网络和fast‑rcnn目标检测器；首先，利用特征提取网络对输入的CT图像的图像特征进行抽象并生成卷积特征图；然后，利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域；最后，在所述fast‑rcnn目标检测器中，由感兴趣区域特征池化层对所述卷积特征图以及所述候选区域进行卷积操作，得到一组低维特征，将所述低维特征分别输入到两个子全连接层进行回归与分类，最终输出转移淋巴结节区域的位置以及概率。

Description

基于深度学习的上腹部转移淋巴结节自动识别系统、计算机 设备、存储介质
技术领域
本发明涉及图像识别技术领域，特别涉及一种基于深度学习的上腹部转移淋巴结节自动识别系统、计算机设备、存储介质。
背景技术
在传统的诊断中，专业医师通过观察影像图像，对比分析病例的一系列图像，依靠经验对上腹部转移淋巴结节进行提取、标记。这种方法需要专业医生对大量的数据进行繁琐的人工操作，同时这种方法诊断结果的准确性及可靠性严重依赖于医生的经验知识和专业素质，诊断结果的准确性受到限制。
近年来，由于计算机技术的迅速发展及图形图像处理技术的日渐成熟，使得计算机技术逐步渗入到医学领域，开创了数字医疗的新时代。如何通过计算机技术来进行处理CT序列影像，代替医生来完成病变组织的跟踪识别，是目前亟待解决的问题。
发明内容
本发明实施例提供了一种基于深度学习的上腹部转移淋巴结节自动识别系统、计算机设备、存储介质。为了对披露的实施例的一些方面有一个基本的理解，下面给出了简单的概括。该概括部分不是泛泛评述，也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念，以此作为后面的详细说明的序言。
根据本发明实施例的第一方面，提供了一种基于深度学习的上腹部转移淋巴结节自动识别系统。
在一些可选实施例中，所述系统包括faster–rcnn模型，所述faster–rcnn模型包括：特征提取网络、区域生成网络和fast-rcnn目标检测器；首先，利用特征提取网络对输入的CT图像的图像特征进行抽象并生成卷积特征图；然后，利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域；最后，在所述fast-rcnn目标检测器中，由感兴趣区域特征池化层对所述卷积特征图以及所述候选区域进行卷积操作，得到一组低维特征，将所述低维特征分别输入到两个子全连接层进行回归与分类，最终输出转移淋巴结节区域的位置以及概率。
可选地，所述利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域的步骤，具体包括：在所述卷积特征图上加入一组进行滑动扫描的小网络，该小网络以每个滑动窗口作为输入，利用卷积操作将每一个滑动窗口映射到一个低维特征，随后将这个低维特征分别输入到两个子全连接层，其中一个是边界框回归层，另一个是边界框分类层。
可选地，所述区域生成网络在卷积特征图上生成转移淋巴结节候选区域的步骤，还包括：锚点位于每个滑动窗口的中心，并与一个尺度和长宽比相关，为了得到候选区域，为每个锚点分配一个二值类别标签，是目标或不是目标；然后，对于与实际边界框的重叠具有最高交并比IoU的锚点，或者与实际边界框的重叠具有超过0.7IoU的锚点，分配一个正标签；对于所有的真实边界框，如果一个锚点与实际边界框的IoU比率低于0.3，给该锚点分配一个负标签。
可选地，所述区域生成网络和fast-rcnn目标检测器共享卷积层，首先，由所述区域生成网络生成候选区域，然后，对所述候选区域，由fast-rcnn目标检测器进行检测，此时，区域生成网络和fast-rcnn目标检测器不共享卷积层；接下来，使用所述fast-rcnn目标检测器来初始化区域生成网络，只修正共享的卷积层参数，并且只对区域生成网络特有的层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享卷积层；最后，保持共享卷积层的固定，对fast-rcnn目标检测器的独有层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享相同的卷积层并形成统一的网络，经过不断的迭代调整参数，最终得到优化结果，输出转移淋巴结节的概率分数。
可选地，对所述区域生成网络使用ImageNet的预训练模型进行初始化，并针对候选区域利用误差反向传播和随机梯度下降算法进行端到端的微调。
可选地，对所述fast-rcnn目标检测器使用ImageNet的预训练模型进行初始化。
根据本发明实施例的第二方面，提供一种计算机设备。
在一些可选实施例中，所述计算机设备包括：存储器、处理器及存储在所述存储器上并可被所述处理器运行的程序，所述处理器执行所述程序时实现以下步骤：构建faster–rcnn模型，所述faster–rcnn模型包括：特征提取网络、区域生成网络和fast-rcnn目标检测器；首先，利用特征提取网络对输入的CT图像的图像特征进行抽象并生成卷积特征图；然后，利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域；最后，在所述fast-rcnn目标检测器中，由感兴趣区域特征池化层对所述卷积特征图以及所述候选区域进行卷积操作，得到一组低维特征，将所述低维特征分别输入到两个子全连接层进行回归与分类，最终输出转移淋巴结节区域的位置以及概率。
可选地，所述利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域的步骤，具体包括：在所述卷积特征图上加入一组进行滑动扫描的小网络，该小网络以每个滑动窗口作为输入，利用卷积操作将每一个滑动窗口映射到一个低维特征，随后将这个低维特征分别输入到两个子全连接层，其中一个是边界框回归层，另一个是边界框分类层。
可选地，所述区域生成网络在卷积特征图上生成转移淋巴结节候选区域的步骤，还包括：锚点位于每个滑动窗口的中心，并与一个尺度和长宽比相关，为了得到候选区域，为每个锚点分配一个二值类别标签，是目标或不是目标；然后，对于与实际边界框的重叠具有最高交并比IoU的锚点，或者与实际边界框的重叠具有超过0.7IoU的锚点，分配一个正标签；对于所有的真实边界框，如果一个锚点与实际边界框的IoU比率低于0.3，给该锚点分配一个负标签。
可选地，所述区域生成网络和fast-rcnn目标检测器共享卷积层，首先，由所述区域生成网络生成候选区域，然后，对所述候选区域，由fast-rcnn目标检测器进行检测，此时，区域生成网络和fast-rcnn目标检测器不共享卷积层；接下来，使用所述fast-rcnn目标检测器来初始化区域生成网络，只修正共享的卷积层参数，并且只对区域生成网络特有的层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享卷积层；最后，保持共享卷积层的固定，对fast-rcnn目标检测器的独有层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享相同的卷积层并形成统一的网络，经过不断的迭代调整参数，最终得到优化结果，输出转移淋巴结节的概率分数。
可选地，对所述区域生成网络使用ImageNet的预训练模型进行初始化，并针对候选区域利用误差反向传播和随机梯度下降算法进行端到端的微调。
可选地，对所述fast-rcnn目标检测器使用ImageNet的预训练模型进行初始化。
根据本发明实施例的第三方面，提供了一种存储介质。
在一些可选实施例中，所述存储介质，其上存储有计算机程序，当所述计算机程序被处理器执行时实现如下步骤：构建深度学习模型，所述深度学习模型包括：特征提取网络、区域生成网络和Fast R-CNN目标检测网络；通过所述特征提取网络对胰腺癌肿瘤的图像特征进行抽象，并生成卷积特征图；通过所述区域生成网络对所述卷积特征图中存在的所有特征进行滑动扫描，在每个滑动窗口位置选出多个候选区域，所述候选区域为可能的胰腺癌肿瘤区域；通过所述Fast R-CNN目标检测网络对卷积特征图以及所述候选区域进行进一步回归与分类，最终输出胰腺癌肿瘤区域的位置以及概率。
可选地，所述利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域的步骤，具体包括：在所述卷积特征图上加入一组进行滑动扫描的小网络，该小网络以每个滑动窗口作为输入，利用卷积操作将每一个滑动窗口映射到一个低维特征，随后将这个低维特征分别输入到两个子全连接层，其中一个是边界框回归层，另一个是边界框分类层。
可选地，所述区域生成网络在卷积特征图上生成转移淋巴结节候选区域的步骤，还包括：锚点位于每个滑动窗口的中心，并与一个尺度和长宽比相关，为了得到候选区域，为每个锚点分配一个二值类别标签，是目标或不是目标；然后，对于与实际边界框的重叠具有最高交并比IoU的锚点，或者与实际边界框的重叠具有超过0.7IoU的锚点，分配一个正标签；对于所有的真实边界框，如果一个锚点与实际边界框的IoU比率低于0.3，给该锚点分配一个负标签。
可选地，所述区域生成网络和fast-rcnn目标检测器共享卷积层，首先，由所述区域生成网络生成候选区域，然后，对所述候选区域，由fast-rcnn目标检测器进行检测，此时，区域生成网络和fast-rcnn目标检测器不共享卷积层；接下来，使用所述fast-rcnn目标检测器来初始化区域生成网络，只修正共享的卷积层参数，并且只对区域生成网络特有的层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享卷积层；最后，保持共享卷积层的固定，对fast-rcnn目标检测器的独有层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享相同的卷积层并形成统一的网络，经过不断的迭代调整参数，最终得到优化结果，输出转移淋巴结节的概率分数。
可选地，对所述区域生成网络使用ImageNet的预训练模型进行初始化，并针对候选区域利用误差反向传播和随机梯度下降算法进行端到端的微调。
可选地，对所述fast-rcnn目标检测器使用ImageNet的预训练模型进行初始化。
本发明实施例提供的技术方案可以包括以下有益效果：
利用计算机技术来处理CT序列影像，代替医生来完成病变组织的跟踪识别，可减少人工操作，处理速度快，有一致的处理结果以及相当的准确度，便于集成和大规模的应用。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本发明的实施例，并与说明书一起用于解释本发明的原理。
图1是根据一示例性实施例示出的一种基于深度学习的上腹部转移淋巴结节自动识别系统的框图。
具体实施方式
以下描述和附图充分地示出本发明的具体实施方案，以使本领域的技术人员能够实践它们。其他实施方案可以包括结构的、逻辑的、电气的、过程的以及其他的改变。实施例仅代表可能的变化。除非明确要求，否则单独的部件和功能是可选的，并且操作的顺序可以变化。一些实施方案的部分和特征可以被包括在或替换其他实施方案的部分和特征。本发明的实施方案的范围包括权利要求书的整个范围，以及权利要求书的所有可获得的等同物。在本文中，各实施方案可以被单独地或总地用术语“发明”来表示，这仅仅是为了方便，并且如果事实上公开了超过一个的发明，不是要自动地限制该应用的范围为任何单个发明或发明构思。本文中，诸如第一和第二等之类的关系术语仅仅用于将一个实体或者操作与另一个实体或操作区分开来，而不要求或者暗示这些实体或操作之间存在任何实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法或者设备中还存在另外的相同要素。本文中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的方法、产品等而言，由于其与实施例公开的方法部分相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
图1示出了基于深度学习的上腹部转移淋巴结节自动识别系统的一个可选实施结构。
该可选实施例中，所述系统包括faster–rcnn(faster region-basedconvolutional neural network)模型，所述faster–rcnn模型包括：特征提取网络、区域生成网络(region proposal network)和fast-rcnn目标检测器；首先，利用特征提取网络对输入的CT图像的图像特征进行抽象并生成卷积特征图(Convolutional Feature Map)；然后，利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域；最后，在所述fast-rcnn目标检测器中，由感兴趣区域特征池化层对所述卷积特征图以及所述候选区域进行卷积操作，得到一组低维特征，将所述低维特征分别输入到两个子全连接层进行回归与分类，最终输出转移淋巴结节区域的位置以及概率。
可选地，所述利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域的步骤，具体包括：为了生成候选区域，在所述卷积特征图上加入一组进行滑动扫描的小网络，该小网络以每个滑动窗口作为输入，利用卷积操作将每一个滑动窗口映射到一个低维特征，随后将这个低维特征分别输入到两个子全连接层，其中一个是边界框回归层，另一个是边界框分类层。
可选地，锚点位于每个滑动窗口的中心，并与一个尺度和长宽比相关，例如，在默认情况下，使用3个尺度和3个长宽比，因此每个滑动位置会产生9个参考边界框。为了得到候选区域，为每个锚点分配一个二值类别标签，是目标或不是目标。然后，对于与实际边界框的重叠具有最高交并比(IoU)的锚点，或者与实际边界框的重叠具有超过0.7IoU的锚点，分配一个正标签；对于所有的真实边界框，如果一个锚点与实际边界框的IoU比率低于0.3，给该锚点分配一个负标签。通过上述标记方式，所述区域生成网络(RPN)在卷积特征图上生成可能为胰腺癌肿瘤的区域。采用上述可选实施例，利用多尺度和长宽比的锚盒来预测边界框坐标和分类概率，可以实现在仅仅依赖单一尺度的图像和特征映射，并使用单一尺寸的滤波器的情况下，进行多尺度的预测，为后续计算省去了大量的时间和精力。
可选地，所述区域生成网络(region proposal network)和fast-rcnn目标检测器共享卷积层，首先，由所述区域生成网络生成候选区域，然后，对所述候选区域，由fast-rcnn目标检测器进行检测，此时，区域生成网络和fast-rcnn目标检测器不共享卷积层；接下来，使用所述fast-rcnn目标检测器来初始化区域生成网络，只修正共享的卷积层参数，并且只对区域生成网络特有的层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享卷积层；最后，保持共享卷积层的固定，对fast-rcnn目标检测器的独有层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享相同的卷积层并形成统一的网络，经过不断的迭代调整参数，最终得到优化结果，输出转移淋巴结节的概率分数。
可选地，对所述区域生成网络使用ImageNet的预训练模型进行初始化，并针对候选区域利用误差反向传播和随机梯度下降算法进行端到端的微调。
可选地，对所述fast-rcnn目标检测器使用ImageNet的预训练模型进行初始化。
可选地，所述faster–rcnn模型还包括训练过程，下面给出faster–rcnn模型的训练过程的一个具体实施例。
该实施例中，在faster–rcnn模型的训练过程中，首先，人工标记出淋巴结转移上腹部增强CT图像数据作为训练数据，训练过程中使用在ImageNet中预训练好的具有13个卷积层和3个全连接层的VGG16模型用于对特征提取网络进行初始化，通过从标准方差为0.01的零均值高斯分布(zero-mean Gaussian distribution)中提取权重来随机初始化所有新层；然后，采用两个阶段进行训练，两个阶段分别包括80000次区域生成网络生成候选区域的训练(前60000次的学习率为0.001，后20000次的学习率为0.0001)和40000次的fast-rcnn目标检测器基于候选区域的特征向量的分类与回归训练(前30000次的学习率为0.001，后10000次的学习率为0.0001)；运动量(momentum)为0.9，加权延迟(weightdecay)为0.0005；区域生成网络的锚尺度(scale of anchor)分别设定为1282，2562，5122，锚比例(aspect ratio of anchor)分别设定为0.5，1，2；在训练过程中通过计算预测值与真实值之间的误差值，利用误差反向传播(end to end back-propagation)算法和SGD(Stochastic Gradient Descent)法，调整加权(weight)等深度学习网络参数，然后通过不断迭代，不断降低损失函数值，使网络收敛。
可选地，所述人工标记出淋巴结转移上腹部增强CT图像数据作为训练数据的步骤，具体为：使用由3名高年资的影像科医师通过连续回放上腹部三期增强CT全序列图像，观察图像的癌周，肝胃间隙，重要血管周围等位置，同时加上规范化调窗技术并辅以局部缩放和测量功能，按照最新胃癌转移淋巴结上腹部增强CT的诊断标准，结合相应的影像学报告，标记出淋巴结转移上腹部增强CT图像数据作为训练数据。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器，上述指令可由处理器执行以完成以下步骤：构建faster–rcnn(faster region-based convolutional neural network)模型，所述faster–rcnn模型包括：特征提取网络、区域生成网络(region proposal network)和fast-rcnn目标检测器；首先，利用特征提取网络对输入的CT图像的图像特征进行抽象并生成卷积特征图(Convolutional Feature Map)；然后，利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域；最后，在所述fast-rcnn目标检测器中，由感兴趣区域特征池化层对所述卷积特征图以及所述候选区域进行卷积操作，得到一组低维特征，将所述低维特征分别输入到两个子全连接层进行回归与分类，最终输出转移淋巴结节区域的位置以及概率。
可选地，所述利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域的步骤，具体包括：为了生成候选区域，在所述卷积特征图上加入一组进行滑动扫描的小网络，该小网络以每个滑动窗口作为输入，利用卷积操作将每一个滑动窗口映射到一个低维特征，随后将这个低维特征分别输入到两个子全连接层，其中一个是边界框回归层，另一个是边界框分类层。
可选地，锚点位于每个滑动窗口的中心，并与一个尺度和长宽比相关，例如，在默认情况下，使用3个尺度和3个长宽比，因此每个滑动位置会产生9个参考边界框。为了得到候选区域，为每个锚点分配一个二值类别标签，是目标或不是目标。然后，对于与实际边界框的重叠具有最高交并比(IoU)的锚点，或者与实际边界框的重叠具有超过0.7IoU的锚点，分配一个正标签；对于所有的真实边界框，如果一个锚点与实际边界框的IoU比率低于0.3，给该锚点分配一个负标签。通过上述标记方式，所述区域生成网络(RPN)在卷积特征图上生成可能为胰腺癌肿瘤的区域。采用上述可选实施例，利用多尺度和长宽比的锚盒来预测边界框坐标和分类概率，可以实现在仅仅依赖单一尺度的图像和特征映射，并使用单一尺寸的滤波器的情况下，进行多尺度的预测，为后续计算省去了大量的时间和精力。
可选地，所述区域生成网络(region proposal network)和fast-rcnn目标检测器共享卷积层，首先，由所述区域生成网络生成候选区域，然后，对所述候选区域，由fast-rcnn目标检测器进行检测，此时，区域生成网络和fast-rcnn目标检测器不共享卷积层；接下来，使用所述fast-rcnn目标检测器来初始化区域生成网络，只修正共享的卷积层参数，并且只对区域生成网络特有的层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享卷积层；最后，保持共享卷积层的固定，对fast-rcnn目标检测器的独有层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享相同的卷积层并形成统一的网络，经过不断的迭代调整参数，最终得到优化结果，输出转移淋巴结节的概率分数。
可选地，对所述区域生成网络使用ImageNet的预训练模型进行初始化，并针对候选区域利用误差反向传播和随机梯度下降算法进行端到端的微调。
可选地，对所述fast-rcnn目标检测器使用ImageNet的预训练模型进行初始化。
上述非临时性计算机可读存储介质可以是只读存储器(Read Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁带和光存储设备等。
本发明通过计算机技术来进行处理CT序列影像，代替医生来完成病变组织的跟踪识别，可减少人工操作，处理速度快，有一致的处理结果以及相当的准确度，便于集成和大规模的应用。
本领域技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。所属技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
本文所披露的实施例中，应该理解到，所揭露的方法、产品(包括但不限于装置、设备等)，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。
应当理解的是，附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。本发明并不局限于上面已经描述并在附图中示出的流程及结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (9)

1.一种基于深度学习的上腹部转移淋巴结节自动识别系统，其特征在于，包括faster–rcnn模型，所述faster–rcnn模型包括：特征提取网络、区域生成网络和fast-rcnn目标检测器；首先，利用特征提取网络对输入的CT图像的图像特征进行抽象并生成卷积特征图；然后，利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域；最后，在所述fast-rcnn目标检测器中，由感兴趣区域特征池化层对所述卷积特征图以及所述候选区域进行卷积操作，得到一组低维特征，将所述低维特征分别输入到两个子全连接层进行回归与分类，最终输出转移淋巴结节区域的位置以及概率；
所述区域生成网络和fast-rcnn目标检测器共享卷积层，首先，由所述区域生成网络生成候选区域，然后，对所述候选区域，由fast-rcnn目标检测器进行检测，此时，区域生成网络和fast-rcnn目标检测器不共享卷积层；接下来，使用所述fast-rcnn目标检测器来初始化区域生成网络，只修正共享的卷积层参数，并且只对区域生成网络特有的层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享卷积层；最后，保持共享卷积层的固定，对fast-rcnn目标检测器的独有层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享相同的卷积层并形成统一的网络，经过不断的迭代调整参数，最终得到优化结果，输出转移淋巴结节的概率分数。
2.如权利要求1所述的系统，其特征在于，所述利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域的步骤，具体包括：在所述卷积特征图上加入一组进行滑动扫描的小网络，该小网络以每个滑动窗口作为输入，利用卷积操作将每一个滑动窗口映射到一个低维特征，随后将这个低维特征分别输入到两个子全连接层，其中一个是边界框回归层，另一个是边界框分类层。
3.如权利要求2所述的系统，其特征在于，所述区域生成网络在卷积特征图上生成转移淋巴结节候选区域的步骤，还包括：锚点位于每个滑动窗口的中心，并与一个尺度和长宽比相关，为了得到候选区域，为每个锚点分配一个二值类别标签，是目标或不是目标；然后，对于与实际边界框的重叠具有最高交并比IoU的锚点，或者与实际边界框的重叠具有超过0.7IoU的锚点，分配一个正标签；对于所有的真实边界框，如果一个锚点与实际边界框的IoU比率低于0.3，给该锚点分配一个负标签。
4.如权利要求1所述的系统，其特征在于，对所述区域生成网络使用ImageNet的预训练模型进行初始化，并针对候选区域利用误差反向传播和随机梯度下降算法进行端到端的微调。
5.如权利要求1所述的系统，其特征在于，对所述fast-rcnn目标检测器使用ImageNet的预训练模型进行初始化。
6.一种计算机设备，包括存储器、处理器及存储在所述存储器上并可被所述处理器运行的程序，其特征在于，所述处理器执行所述程序时实现以下步骤：构建faster–rcnn模型，所述faster–rcnn模型包括：特征提取网络、区域生成网络和fast-rcnn目标检测器；首先，利用特征提取网络对输入的CT图像的图像特征进行抽象并生成卷积特征图；然后，利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域；最后，在所述fast-rcnn目标检测器中，由感兴趣区域特征池化层对所述卷积特征图以及所述候选区域进行卷积操作，得到一组低维特征，将所述低维特征分别输入到两个子全连接层进行回归与分类，最终输出转移淋巴结节区域的位置以及概率；
所述区域生成网络和fast-rcnn目标检测器共享卷积层，首先，由所述区域生成网络生成候选区域，然后，对所述候选区域，由fast-rcnn目标检测器进行检测，此时，区域生成网络和fast-rcnn目标检测器不共享卷积层；接下来，使用所述fast-rcnn目标检测器来初始化区域生成网络，只修正共享的卷积层参数，并且只对区域生成网络特有的层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享卷积层；最后，保持共享卷积层的固定，对fast-rcnn目标检测器的独有层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享相同的卷积层并形成统一的网络，经过不断的迭代调整参数，最终得到优化结果，输出转移淋巴结节的概率分数。
7.如权利要求6所述的计算机设备，其特征在于，所述利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域的步骤，具体包括：在所述卷积特征图上加入一组进行滑动扫描的小网络，该小网络以每个滑动窗口作为输入，利用卷积操作将每一个滑动窗口映射到一个低维特征，随后将这个低维特征分别输入到两个子全连接层，其中一个是边界框回归层，另一个是边界框分类层；锚点位于每个滑动窗口的中心，并与一个尺度和长宽比相关，为了得到候选区域，为每个锚点分配一个二值类别标签，是目标或不是目标；然后，对于与实际边界框的重叠具有最高交并比IoU的锚点，或者与实际边界框的重叠具有超过0.7IoU的锚点，分配一个正标签；对于所有的真实边界框，如果一个锚点与实际边界框的IoU比率低于0.3，给该锚点分配一个负标签。
8.如权利要求6所述的计算机设备，其特征在于，所述区域生成网络和fast-rcnn目标检测器共享卷积层，首先，由所述区域生成网络生成候选区域，然后，对所述候选区域，由fast-rcnn目标检测器进行检测，此时，区域生成网络和fast-rcnn目标检测器不共享卷积层；接下来，使用所述fast-rcnn目标检测器来初始化区域生成网络，只修正共享的卷积层参数，并且只对区域生成网络特有的层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享卷积层；最后，保持共享卷积层的固定，对fast-rcnn目标检测器的独有层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享相同的卷积层并形成统一的网络，经过不断的迭代调整参数，最终得到优化结果，输出转移淋巴结节的概率分数。
9.一种存储介质，其上存储有计算机程序，其特征在于，当所述计算机程序被处理器执行时实现以下步骤：构建faster–rcnn模型，所述faster–rcnn模型包括：特征提取网络、区域生成网络和fast-rcnn目标检测器；首先，利用特征提取网络对输入的CT图像的图像特征进行抽象并生成卷积特征图；然后，利用区域生成网络对所述卷积特征图进行筛选，生成转移淋巴结节候选区域；最后，在所述fast-rcnn目标检测器中，由感兴趣区域特征池化层对所述卷积特征图以及所述候选区域进行卷积操作，得到一组低维特征，将所述低维特征分别输入到两个子全连接层进行回归与分类，最终输出转移淋巴结节区域的位置以及概率；
所述区域生成网络和fast-rcnn目标检测器共享卷积层，首先，由所述区域生成网络生成候选区域，然后，对所述候选区域，由fast-rcnn目标检测器进行检测，此时，区域生成网络和fast-rcnn目标检测器不共享卷积层；接下来，使用所述fast-rcnn目标检测器来初始化区域生成网络，只修正共享的卷积层参数，并且只对区域生成网络特有的层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享卷积层；最后，保持共享卷积层的固定，对fast-rcnn目标检测器的独有层进行微调，此时，区域生成网络和fast-rcnn目标检测器共享相同的卷积层并形成统一的网络，经过不断的迭代调整参数，最终得到优化结果，输出转移淋巴结节的概率分数。
CN201811027769.7A 2018-09-04 2018-09-04 基于深度学习的上腹部转移淋巴结节自动识别系统、计算机设备、存储介质 Active CN109376756B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811027769.7A CN109376756B (zh) 2018-09-04 2018-09-04 基于深度学习的上腹部转移淋巴结节自动识别系统、计算机设备、存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811027769.7A CN109376756B (zh) 2018-09-04 2018-09-04 基于深度学习的上腹部转移淋巴结节自动识别系统、计算机设备、存储介质

Publications (2)

Publication Number Publication Date
CN109376756A CN109376756A (zh) 2019-02-22
CN109376756B true CN109376756B (zh) 2020-08-18

Family

ID=65404602

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811027769.7A Active CN109376756B (zh) 2018-09-04 2018-09-04 基于深度学习的上腹部转移淋巴结节自动识别系统、计算机设备、存储介质

Country Status (1)

Country Link
CN (1) CN109376756B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110009656B (zh) * 2019-03-05 2021-11-19 腾讯科技（深圳）有限公司 目标对象的确定方法、装置、存储介质及电子装置
CN112233058A (zh) * 2019-07-15 2021-01-15 上海交通大学医学院附属第九人民医院 一种头颈部ct影像中淋巴结检测的方法
CN111292304A (zh) * 2020-01-22 2020-06-16 青岛大学附属医院 一种基于深度神经网络的胰腺肿瘤病理自动诊断系统
CN111755105A (zh) * 2020-05-18 2020-10-09 杭州依图医疗技术有限公司 一种医学影像的显示方法及装置、计算机可读存储介质
CN112016569A (zh) * 2020-07-24 2020-12-01 驭势科技(南京)有限公司 基于注意力机制的目标检测方法、网络、设备和存储介质
CN112233777A (zh) * 2020-11-19 2021-01-15 中国石油大学(华东) 基于深度学习的胆结石自动识别及分割系统、计算机设备、存储介质
CN113628245B (zh) * 2021-07-12 2023-10-31 中国科学院自动化研究所 多目标跟踪方法、装置、电子设备和存储介质
CN113920137A (zh) * 2021-10-14 2022-01-11 平安科技（深圳）有限公司 淋巴结转移预测方法、装置、设备及存储介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106250812B (zh) * 2016-07-15 2019-08-20 汤一平 一种基于快速r-cnn深度神经网络的车型识别方法
CN107977671B (zh) * 2017-10-27 2021-10-26 浙江工业大学 一种基于多任务卷积神经网络的舌象分类方法
CN108109160A (zh) * 2017-11-16 2018-06-01 浙江工业大学 一种基于深度学习的免交互式GrabCut舌体分割方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks;Shaoqing Ren等;《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》;20160606;第1137-1149页 *

Also Published As

Publication number Publication date
CN109376756A (zh) 2019-02-22

Similar Documents

Publication Publication Date Title
CN109376756B (zh) 基于深度学习的上腹部转移淋巴结节自动识别系统、计算机设备、存储介质
CN109242844B (zh) 基于深度学习的胰腺癌肿瘤自动识别系统、计算机设备、存储介质
WO2020215984A1 (zh) 基于深度学习的医学图像检测方法及相关设备
CN111899245B (zh) 图像分割、模型的训练方法及装置，电子设备及存储介质
CN109241967B (zh) 基于深度神经网络的甲状腺超声图像自动识别系统、计算机设备、存储介质
CN107464250B (zh) 基于三维mri图像的乳腺肿瘤自动分割方法
CN112070781B (zh) 颅脑断层扫描图像的处理方法、装置、存储介质及电子设备
US20200074634A1 (en) Recist assessment of tumour progression
CN110321920A (zh) 图像分类方法、装置、计算机可读存储介质和计算机设备
EP4345746A2 (en) Method and system for image segmentation and identification
CN108257135A (zh) 基于深度学习方法解读医学图像特征的辅助诊断系统
CN110599503A (zh) 检测模型训练方法、装置、计算机设备和存储介质
CN110136809A (zh) 一种医疗图像处理方法、装置、电子医疗设备和存储介质
CN111476793B (zh) 动态增强磁共振成像处理方法、系统、存储介质、终端
CN109087703A (zh) 基于深度卷积神经网络的腹腔ct图像腹膜转移标记方法
US20200184274A1 (en) Apparatus and method for generating medical image segmentation deep-learning model, and medical image segmentation deep-learning model generated therefrom
US11972571B2 (en) Method for image segmentation, method for training image segmentation model
CN112233777A (zh) 基于深度学习的胆结石自动识别及分割系统、计算机设备、存储介质
CN112258558B (zh) 基于多尺度孪生网络的超声颈动脉斑块视频追踪方法
CN112001921B (zh) 一种基于病灶加权损失函数的新冠肺炎ct影像病灶分割图像处理方法
CN110689551B (zh) 四肢骨分割方法、装置、电子设备及可读存储介质
Banerjee et al. A CADe system for gliomas in brain MRI using convolutional neural networks
Kitrungrotsakul et al. Interactive deep refinement network for medical image segmentation
Aina et al. Classification of cervical intraepithelial neoplasia (cin) using fine-tuned convolutional neural networks
US11521323B2 (en) Systems and methods for generating bullseye plots

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant