CN113570592B - 肠胃病检测和模型训练方法、装置、设备及介质 - Google Patents

肠胃病检测和模型训练方法、装置、设备及介质 Download PDF

Info

Publication number
CN113570592B
CN113570592B CN202110898886.6A CN202110898886A CN113570592B CN 113570592 B CN113570592 B CN 113570592B CN 202110898886 A CN202110898886 A CN 202110898886A CN 113570592 B CN113570592 B CN 113570592B
Authority
CN
China
Prior art keywords
detection
gastrointestinal
image
model
submodel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110898886.6A
Other languages
English (en)
Other versions
CN113570592A (zh
Inventor
牛智勇
杨宁
王智
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Yinji Information Technology Beijing Co ltd
Original Assignee
Yinji Information Technology Beijing Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Yinji Information Technology Beijing Co ltd filed Critical Yinji Information Technology Beijing Co ltd
Priority to CN202110898886.6A priority Critical patent/CN113570592B/zh
Publication of CN113570592A publication Critical patent/CN113570592A/zh
Application granted granted Critical
Publication of CN113570592B publication Critical patent/CN113570592B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30092—Stomach; Gastric
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30204—Marker

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Biophysics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Evolutionary Biology (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Endoscopes (AREA)

Abstract

本公开实施例涉及一种肠胃病检测和模型训练方法、装置、设备及介质，其中肠胃病检测模型的训练方法包括：获取肠胃病训练样本数据，肠胃病训练样本数据包括肠胃图像和所述肠胃图像对应的肠胃病标注图像；基于肠胃病训练样本数据，对基于神经网络的初始检测模型进行训练，生成肠胃病检测模型；其中，肠胃病检测模型包括区域检测子模型和病症检测子模型，区域检测子模型用于对肠胃图像进行检测区域图像的提取，病症检测子模型用于对检测区域图像进行识别操作，得到模型检测结果。本公开实施例有效提升了肠胃病识别速度和准确率。

Description

肠胃病检测和模型训练方法、装置、设备及介质
技术领域
本公开涉及医学图像处理技术领域，尤其涉及一种肠胃病检测和模型训练方法、装置、设备及介质。
背景技术
对于肠胃部位的症状早发现早治疗对于患者具有极其重要的现实意义。
目前肠胃病检测的方式主要有：一种是医生通过人眼查看人体内的信息诊断；另一种是对人体内的信息进行处理和自动检测。但是人眼诊断的方式由于医疗水平差异和诊断医师经验水平差异的限制，使得诊断效果欠佳；而自动识别的方式，由于肠胃部病症的症状尺寸较小或者表面微结构复杂，准确性不高。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题，本公开提供了一种肠胃病检测和模型训练方法、装置、设备及介质。
本公开实施例提供了一种肠胃病检测模型的训练方法，包括：
获取肠胃病训练样本数据，所述肠胃病训练样本数据包括肠胃图像和所述肠胃图像对应的肠胃病标注图像；
基于所述肠胃病训练样本数据，对基于神经网络的初始检测模型进行训练，生成肠胃病检测模型；
其中，所述肠胃病检测模型包括区域检测子模型和病症检测子模型，所述区域检测子模型用于对所述肠胃图像进行检测区域图像的提取，所述病症检测子模型用于对所述检测区域图像进行识别操作，得到模型检测结果。
本公开实施例还提供了一种肠胃病检测方法，包括：
获取肠胃部的待检测图像；
将所述待检测图像输入肠胃检测模型中，获得模型检测结果，其中，所述肠胃检测模型采用本公开实施例提供的肠胃检测模型的训练方法获得。
本公开实施例还提供了一种肠胃病检测模型的训练装置，包括：
样本获取模块，用于获取肠胃病训练样本数据，所述肠胃病训练样本数据包括肠胃图像和所述肠胃图像对应的肠胃病标注图像；
模型训练模块，用于基于所述肠胃病训练样本数据，对基于神经网络的初始检测模型进行训练，生成肠胃病检测模型；
其中，所述肠胃病检测模型包括区域检测子模型和病症检测子模型，所述区域检测子模型用于对所述肠胃图像进行检测区域图像的提取，所述病症检测子模型用于对所述检测区域图像进行识别操作，得到模型检测结果。
本公开实施例还提供了一种肠胃病检测装置，包括：
待检测图像模块，用于获取肠胃部的待检测图像；
检测模块，用于将所述待检测图像输入肠胃检测模型中，获得模型检测结果，其中，所述肠胃检测模型采用本公开实施例提供的肠胃检测模型的训练方法获得。
本公开实施例还提供了一种电子设备，所述电子设备包括：处理器；用于存储所述处理器可执行指令的存储器；所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现如本公开实施例提供的肠胃病检测模型的训练方法或肠胃病检测方法。
本公开实施例还提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行如本公开实施例提供的肠胃病检测模型的训练方法或肠胃病检测方法。
本公开实施例提供的技术方案与现有技术相比具有如下优点：本公开实施例提供的肠胃病检测模型的训练方案，获取肠胃病训练样本数据，肠胃病训练样本数据包括肠胃图像和所述肠胃图像对应的肠胃病标注图像；基于肠胃病训练样本数据，对基于神经网络的初始检测模型进行训练，生成肠胃病检测模型；其中，肠胃病检测模型包括区域检测子模型和病症检测子模型，区域检测子模型用于对肠胃图像进行检测区域图像的提取，病症检测子模型用于对检测区域图像进行识别操作，得到模型检测结果。采用上述技术方案，在进行肠胃病检测时可以先提取包括肠胃部的检测区域图像再针对检测区域图像进行病症识别，由于检测区域图像的识别减小了后续病症识别的图像尺寸，有效提升了肠胃病识别速度和准确率；并且检测区域图像的提取采用神经网络实现，不受尺寸或表面结构的影响，提升了区域提取的适用性和准确率。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。
为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本公开实施例提供的一种肠胃病检测模型的训练方法的流程示意图；
图2为本公开实施例提供的一种区域检测子模型的模型结构示意图：
图3为本公开实施例提供的一种部位分类子模型的构建示意图；
图4为本公开实施例提供的一种部位分类子模型的示意图；
图5为本公开实施例提供的一种部位分类子模型的第一模块的示意图；
图6为本公开实施例提供的一种部位分类子模型的第二模块的示意图；
图7为本公开实施例提供的一种瓶颈层的示意图；
图8为本公开实施例提供的一种部位分类子模型的第三模块的示意图；
图9为本公开实施例提供的一种退镜速度识别子模型的模型结构示意图；
图10为本公开实施例提供的一种特征提取的示意图；
图11为本公开实施例提供的一种肠胃病检测方法的流程示意图；
图12为本公开实施例提供的一种肠胃病检测的示意图；
图13为本公开实施例提供的一种肠胃病检测模型的训练装置的结构示意图；
图14为本公开实施例提供的一种肠胃病检测装置的结构示意图；
图15为本公开实施例提供的一种电子设备的结构示意图。
具体实施方式
为了能够更清楚地理解本公开的上述目的、特征和优点，下面将对本公开的方案进行进一步描述。需要说明的是，在不冲突的情况下，本公开的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本公开，但本公开还可以采用其他不同于在此描述的方式来实施；显然，说明书中的实施例只是本公开的一部分实施例，而不是全部的实施例。
肠胃部位的症状可以包括早癌、息肉、糜烂和黄斑瘤等等，早发现早治疗对于患者具有极其重要的现实意义。
目前肠胃病检测的方式主要有：一种是医生通过人眼查看人体内的信息诊断，主要是使用内镜的光学镜头和图像采集传感器进行人体内的信息采集，然后将结果显示在显示屏上，供医生进行查看诊断，但由于内镜在提供准确详细的信息的同时，也给医生带来了极大的工作负担，由于医疗水平差异和诊断医师经验水平差异的限制，使得诊断效果欠佳。另一种是对人体内的信息进行处理和自动检测，但是这种方式由于肠胃部病症的症状尺寸较小或者表面微结构复杂，准确性和检测速度不高。
为了解决上述问题，本公开实施例提供了一种肠胃病检测模型的训练方法和肠胃病检测方法，下面结合具体的实施例对该方法进行介绍。
图1为本公开实施例提供的一种肠胃病检测模型的训练方法的流程示意图，该方法可以由肠胃病检测模型的训练装置执行，其中该装置可以采用软件和/或硬件实现，一般可集成在电子设备中。如图1所示，该方法包括：
步骤101、获取肠胃病训练样本数据，肠胃病训练样本数据包括肠胃图像和肠胃图像对应的肠胃病标注图像。
其中，肠胃病训练样本数据可以是用于对肠胃病检测模型训练的样本数据。每组肠胃病训练样本数据由包括肠胃病症的肠胃图像以及对该肠胃图像进行肠胃病结果标注的肠胃病标注图像构成，并且具体样本数量不限，可以根据实际情况设置。
具体地，在进行模型训练之前，需要先收集训练样本数据，例如从医疗系统或临床采用内镜设备获取肠胃图像，并对每个肠胃图像进行肠胃病结果的标注，获得相应的标注有肠胃病结果的肠胃病标注图像。需要说明的是，在获得肠胃图像之后，可以对每个肠胃图像进行诸如归一化、去噪、数据增强等的预处理，数据增强可以包括缩放、旋转、平移等操作。
步骤102、基于肠胃病训练样本数据，对基于神经网络的初始检测模型进行训练，生成肠胃病检测模型。
其中，初始检测模型是指预先设计的、基于神经网络的检测模型，其模型结构与后续生成的肠胃病检测模型相同，但是模型参数是未经训练的、初始设置的参数值。肠胃病检测模型是用于进行肠胃病检测的模型，其模型参数是根据训练样本数据中的图像中的肠胃病特征进行训练调整后的参数值。
具体地，将肠胃病训练样本数据中的肠胃图像作为初始目标检测模型的输入图像，经过模型运算，得到模型输出结果。该模型输出结果与输入图像对应的肠胃病标注图像进行比对，获得模型检测误差。之后，利用损失函数将模型检测误差进行误差反传，以更新模型参数。通过上述过程的迭代运算，在模型训练达到收敛条件时，便可确定最终的模型参数，该模型参数应用至初始目标检测模型中，便获得肠胃病检测模型。
在本公开实施例中，肠胃病检测模型包括区域检测子模型和病症检测子模型，区域检测子模型用于对肠胃图像进行检测区域图像的提取，病症检测子模型用于对检测区域图像进行识别操作，得到模型检测结果。
其中，检测区域图像可以为包括肠胃图像中包括肠胃部位的区域图像。可选的，区域检测子模型可以包括特征提取模块、第一区域提取模块、区域特征提取模块和第二区域提取模块；区域检测子模型的内部结构为：采用特征提取模块对肠胃图像提取图像特征；将图像特征输入第一区域提取模块得到第一检测区域图像；将图像特征和第一检测区域图像输入区域特征提取模块，得到区域特征；将区域特征输入第二区域提取模块，得到目标检测区域图像。
区域检测子模型可以基于快速区域卷积神经网络（Faster RegionConvolutional Neural Networks，FasterRCNN）构建。
示例性的，图2为本公开实施例提供的一种区域检测子模型的模型结构示意图，如图2所示，区域检测子模型可以包括特征提取模块201、第一区域提取模块202、区域特征提取模块203和第二区域提取模块204，特征提取模块201采用残差网络（Residual Network，Resnet）50实现，通过Resnet50提取肠胃图像的图像特征；第一区域提取模块202可以采用区域生成网络（Region Proposal Network，RPN）实现，将肠胃图像的图像特征输入RPN中得到第一检测区域图像，第一检测区域图像包含第一次回归；区域特征提取模块203可以为感兴趣区域池化层，可以根据将图像特征和第一检测区域图像得到区域特征；第二区域提取模块204可以根据区域特征确定肠胃部位的边界框和类别，包含第二次回归，进而得到目标检测区域图像。
可选的，区域检测子模型的训练过程中采用的目标损失函数包括交叉损失函数和定位损失函数，区域检测子模型的优化器采用随机梯度下降优化算法。
上述目标损失函数的公式可以表示为
Figure 93380DEST_PATH_IMAGE002
，上述公式中，i表示锚框索引，pi表示前景预测概率，pi*代表对应的真实标签概率（即当第i个锚框与真实标签间交并比IoU>0.7，认为该锚框是前景，pi*=1；反之IoU<0.3时，认为该锚框是背景，pi*=0；至于那些0.3<IoU<0.7的锚框则不参与训练）；t代表预测框，预测框可以是上述第一检测区域图像，t*代表对应前景锚框对应的真实框，也即目标检测区域图像。
交叉损失函数的公式可以表示为
Figure 682624DEST_PATH_IMAGE003
，其中pi是预 测结果，也即上述第一检测区域图像，pi*是真实框，即目标检测区域图像。定位损失函数的 公式可以表示为
Figure 377874DEST_PATH_IMAGE004
，
Figure 960034DEST_PATH_IMAGE006
，t代表预测框，也即上述第一检测区域图像，t*代表对应前景对应的真实框，即目标检测区域图像。
区域检测子模型的优化器可以采用随机梯度下降（Stochastic GradientDescent，SGD）算法，其公式可以表达为xt+1=xt-ηtgt，其中，xt为第t步的位置，ηt为步长，gt为随机梯度。
具体地，将肠胃图像作为区域检测子模型的输入，肠胃图像对应的检测区域图像作为输出，使用上述目标损失函数和优化器对快速区域卷积神经网络进行训练，在训练达到收敛条件时可以确定最终的模型参数，将该模型参数应用至快速区域卷积神经网络中，可以得到区域检测子模型。
在本公开实施例中，肠胃病检测模型还包括部位分类子模型，部位分类子模型用于识别肠胃图像中包括的目标部位，目标部位包括肠部和胃部。
可选的，病症检测子模型包括肠检测神经网络和胃检测神经网络，肠检测神经网络用于对目标部位为肠的肠胃图像的检测区域图像进行识别，得到第一模型检测结果；胃检测神经网络用于对目标部位为胃的肠胃图像的检测区域图像进行识别，得到第二模型检测结果。
上述部位分类子模型可以基于部位分类训练样本数据训练获得，部位分类训练样本数据可以包括肠胃图像和对该肠胃图像进行部位标注的部位标注图像。
肠检测神经网络和胃检测神经网络可以分别基于肠病训练样本数据和胃病训练样本数据训练获得，肠病训练样本数据包括肠图像以及对该肠图像进行肠病标注的肠病标注图像，胃病训练样本数据包括胃图像以及对该胃图像进行胃病标注的胃病标注图像。
上述部位分类子模型在识别肠胃图像中的目标部位之后，在目标部位为肠部时，可以将该肠胃图像输入肠检测神经网络进行模型检测，得到第一模型检测结果；在目标部位为尾部时，可以将该肠胃图像输入胃检测神经网络中进行模型检测，得到第二模型检测结果。
本公开实施例提供的肠胃病检测模型的训练方案，获取肠胃病训练样本数据，肠胃病训练样本数据包括标注有肠胃病结果的肠胃图像；基于肠胃病训练样本数据，对基于神经网络的初始检测模型进行训练，生成肠胃病检测模型；其中，肠胃病检测模型包括区域检测子模型和病症检测子模型，区域检测子模型用于对肠胃图像进行检测区域图像的提取，病症检测子模型用于对检测区域图像进行识别操作，得到模型检测结果。采用上述技术方案，在进行肠胃病检测时可以先提取包括肠胃部的检测区域图像再针对检测区域图像进行病症识别，由于检测区域图像的识别减小了后续病症识别的图像尺寸，有效提升了肠胃病识别速度和准确率；并且检测区域图像的提取采用神经网络实现，不受尺寸或表面结构的影响，提升了区域提取的适用性和准确率。
接下来通过一个具体示例说明上述部位分类子模型的构建过程。
示例性的，图3为本公开实施例提供的一种部位分类子模型的构建示意图，如图3所示，部位分类子模型的构建过程可以包括数据采集、训练集制作、网络构建和阈值选取，数据采集时，使用内镜设备分别针对肠部和胃部进行大量图像数据的采集，剔除掉其中纯背景和无法识别肠胃部位的图像；训练集制作时可以将图像分别标注为肠、胃，并可以按照4：1的比例，将图像数据进行训练集与测试集的划分，然后针对训练集进行数据的缩放、旋转、平移等数据增强操作；网络构建时可以按照2分类，搭建MobilenetV3分类网络，并训练网络、调整参数和进行网络测试；之后进行阈值选取，绘制受试者工作特征曲线（ReceiverOperating Characteristic curve，ROC）、计算ROC曲线下与坐标轴围成的面积（AreaUnder Curve），AUC的取值范围在0.5和1之间，AUC越接近1.0，检测方法真实性越高，AUC等于0.5时，则真实性最低，进而确定最佳阈值。
示例性的，图4为本公开实施例提供的一种部位分类子模型的示意图，如图4所示，部位分类子模型也即上述MobilenetV3分类网络可以包括第一模块、第二模块和第三模块，也即图中的开始阶段、中间阶段和最后阶段。该部位分类子模型结构的重点包括：非线性激活函数h-swish和h-sigmoid的设计，MobileNet单元，压缩和激励网络（Squeeze-and-Excitation Networks，SE）结构和残差网络（ResidualNetwork）结构，最后部分采用全局池化和1x1卷积层。
示例性的，图5为本公开实施例提供的一种部位分类子模型的第一模块的示意图， 如图5所示，第一模块可以包括1个卷积层，通过3x3的卷积提取特征，其中包含3个部分即卷 积层、BN层、h-switch激活层，h-switch是非线性激活函数，公式如下：
Figure DEST_PATH_IMAGE007
。
示例性的，图6为本公开实施例提供的一种部位分类子模型的第二模块的示意图，第二模块可以包括多个含有卷积层的块的网络结构，包含SE、非线性激活函数（NonlinearActivation Function，NLAF）、bneck、膨胀参数，SE是压缩和激发结构，用来进行压缩和激发；非线性激活函数可以包括h-swish和ReLU激活函数；瓶颈层（Bottleneck）是MobilenetV3网络中的特有结构，其结构如图7所示，图7为本公开实施例提供的一种瓶颈层的示意图。
示例性的，图8为本公开实施例提供的一种部位分类子模型的第三模块的示意图，第三模块包括全局池化，使用1x1的卷积进行分类。
采用优化器与损失函数对MobilenetV3分类网络进行模型训练，获得部位分类子模型。
本公开的一些实施例中，肠胃病检测模型还可以包括退镜速度识别子模型，肠胃病训练样本数据还包括肠胃镜图像组和肠胃镜图像组对应的退镜速度标注图像组，退镜速度识别子模型用于识别肠胃镜图像组对应的退镜速度。
通过内镜采集肠胃图像之后，在退镜时，退镜时间和速度可以作为胃肠镜检查质量的重要控制指标，但在实际临床实践中，医生不好把控退镜的速度，导致检查质量较差。相关技术中的退镜速度识别的准确率较低。
本公开实施例中，退镜速度识别子模型的训练样本数据可以包括肠胃镜图像组和肠胃镜图像组对应的退镜速度标注图像组，每个肠胃镜图像组可以从肠胃视频中提取得到，可以将预设数量的连续的多个视频帧作为一个肠胃图像组，预设数量可以根据实际情况设置，例如预设数量为7。退镜速度标注图像组与肠胃镜图像组相对应，不同的是标注了退镜速度。本公开实施例中的退镜速度可以划分为多个速度级别，例如退镜速度可以分为3个速度级别，从1到3依次从慢到快。
退镜速度识别子模型基于三维分类神经网络构建，退镜速度识别子模型的训练过程中的特征包括时间维度和空间维度的信息。退镜速度识别子模型可以基于三维卷积神经网络实现，可以捕获有多个肠胃图像构成的视频的时间和空间的特征信息。
本公开实施例中，退镜速度识别子模块可以包括一个硬连线层、3个卷积层、2个下采样层、一个全连接层和一个线性分类器。示例性的，图9为本公开实施例提供的一种退镜速度识别子模型的模型结构示意图，如图9所示，退镜速度识别子模型进行卷积操作的时间维度可以为7，即对连续的7个肠胃图像进行卷积操作，三维的卷积操作可以是通过堆叠多个连续的视频帧组成一个立方体，然后在立方体中运用3D卷积核。
在退镜速度识别子模型的结构中，卷积层中每一个特征图都会与上一层中多个邻近的连续帧相连，由此捕捉运动信息。如图10所示，图10为本公开实施例提供的一种特征提取的示意图，一个卷积图的某一位置的值是通过卷积上一层的7个连续的帧的同一个位置的局部感受野得到的。
经过多层的卷积和下采样后，假设每个肠胃镜图像组中包括7个肠胃图像，每连续7帧的输入图像都被转化为一个128维的特征向量，这个特征向量捕捉了输入帧的运动信息，输出层的节点数与行为的类型数目一致，而且每个节点与C6中这128个节点是全连接的，然后采用一个线性分类器来对这128维的特征向量进行分类，得到退镜速度。
图11为本公开实施例提供的一种肠胃病检测方法的流程示意图，该方法可以由肠胃病检测模型的训练装置执行，其中该装置可以采用软件和/或硬件实现，一般可集成在电子设备中。其中与上述各实施例相同或相应的术语的解释在此不再赘述。如图11所示，该方法包括：
步骤1101、获取肠胃部的待检测图像。
其中，待检测图像是指需要进行肠胃病检测的肠胃部医学图像，具体可以通过内镜拍摄获得，也可以是从外部存储介质读取得到。
步骤1102、将待检测图像输入肠胃检测模型中，获得模型检测结果。
其中，肠胃检测模型采用上述实施例中的肠胃检测模型的训练方法获得。
具体地，首先获取肠胃部的图像作为待检测图像，之后将该待检测图像输入上述实施例中训练好的肠胃检测模型，经过模型运算，便可获得模型检测结果。该模型检测结果可以包括分类概率结果，分类概率中每个点的数值表示该点属于某个肠胃病类别的概率，例如对于是否为胃炎的二分类，分类概率结果可以表示点属于胃炎的概率。该模型检测结果还可以包括退镜速度，退镜速度可以是退镜速度分类概率结果，表示退镜速度属于某个速度级别的概率。
本公开实施例提供的肠胃病检测方案，获取肠胃部的待检测图像，将待检测图像输入肠胃检测模型中，获得模型检测结果，由于肠胃检测模型采用上述实施例中的肠胃检测模型的训练方法获得，在进行肠胃病检测时可以先提取包括肠胃部的检测区域图像再针对检测区域图像进行病症识别，由于检测区域图像的识别减小了后续病症识别的图像尺寸，有效提升了肠胃病识别速度和准确率；并且检测区域图像的提取采用神经网络实现，不受尺寸或表面结构的影响，提升了区域提取的适用性和准确率；还可以实现实时的退镜速度识别，可方便医生在显示器上实时观察，控制好退镜速度，保证检查质量。
示例性的，图12为本公开实施例提供的一种肠胃病检测的示意图，如图12所示，肠胃病检测的整体过程可以包括模型训练和检测：数据采集，数据标注和模型训练；检测启动，内镜启动检测时，肠胃病检测模型同时启动，获取内镜采集的待检测图像，待检测图像经过肠胃病检测模型中的部位分类子模型，识别出是胃部还是肠部；待检测图像经过肠胃病检测模型中的区域检测子模型，输出检测区域的坐标点，并提取检测区域图像；通过肠胃病检测模型中病症检测子模型中肠检测神经网络或胃检测神经网络对检测区域图像进行检测，得到模型检测结果；并且将包括多个待检测图像的组合输入肠胃病检测模型中的退镜速度识别子模型中，实时判断退镜速度，并将速度标签输出在显示屏上，供医生参考。
上述数据采集时根据肠胃病检测模型中不同算法模型的需要进行不同数据的采集，例如针对部位分类子模型，分别采集包括肠部和胃部的图像数据；针对区域检测子模型采集肠部和胃部的全方位的数据，也即可能不包括肠部或胃部；针对退镜速度识别子模型采集不同退镜速度的肠胃图像组。数据标注及模型训练可以根据不同的算法任务进行不同的数据勾画，搭建不同网络，进行模型训练。具体过程如上所述，在此不进行一一赘述。
本方案，根据图像信息智能识别出是属于胃、肠部检测信息，并自动切换为对应的检测算法，减少了人工操作的繁琐；并且实现有效检测区域的自动提取，可免去人工手动设定区域的繁琐，且对任何不同的内镜设备有效，减小了检测图像的尺寸，扩大了目标物在图片中的尺寸占比，可有效提升检测速度与效果；退镜时，通过实时检测退镜速度，可方便医生在显示器上实时观察，控制好退镜速度，保证检查质量。
图13为本公开实施例提供的一种肠胃病检测模型的训练装置的结构示意图，该装置可由软件和/或硬件实现，一般可集成在电子设备中。如图13所示，该装置包括：
样本获取模块1301，用于获取肠胃病训练样本数据，所述肠胃病训练样本数据包括肠胃图像和所述肠胃图像对应的肠胃病标注图像；
模型训练模块1302，用于基于所述肠胃病训练样本数据，对基于神经网络的初始检测模型进行训练，生成肠胃病检测模型；
其中，所述肠胃病检测模型包括区域检测子模型和病症检测子模型，所述区域检测子模型用于对所述肠胃图像进行检测区域图像的提取，所述病症检测子模型用于对所述检测区域图像进行识别操作，得到模型检测结果。
可选的，所述区域检测子模型包括特征提取模块、第一区域提取模块、区域特征提取模块和第二区域提取模块；
所述区域检测子模型的内部结构为：
采用所述特征提取模块对所述肠胃图像提取图像特征；
将所述图像特征输入所述第一区域提取模块得到第一检测区域图像；
将所述图像特征和所述第一检测区域图像输入区域特征提取模块，得到区域特征；
将所述区域特征输入所述第二区域提取模块，得到目标检测区域图像。
可选的，所述区域检测子模型的训练过程中采用的目标损失函数包括交叉损失函数和定位损失函数，所述区域检测子模型的优化器采用随机梯度下降算法。
可选的，所述肠胃病检测模型还包括部位分类子模型，所述部位分类子模型用于识别所述肠胃图像中包括的目标部位，所述目标部位包括肠部和胃部。
可选的，所述病症检测子模型包括肠检测神经网络和胃检测神经网络。
所述肠检测神经网络用于对所述目标部位为肠的肠胃图像的检测区域图像进行识别，得到第一模型检测结果；
所述胃检测神经网络用于对所述目标部位为胃的肠胃图像的检测区域图像进行识别，得到第二模型检测结果。
可选的，所述肠胃病检测模型还包括退镜速度识别子模型，所述肠胃病训练样本数据还包括肠胃镜图像组和所述肠胃镜图像组对应的退镜速度标注图像组，所述退镜速度识别子模型用于识别所述肠胃镜图像组对应的退镜速度。
可选的，所述退镜速度识别子模型包括一个硬连线层、3个卷积层、2个下采样层、一个全连接层和一个线性分类器。
可选的，所述退镜速度识别子模型基于三维分类神经网络构建，所述退镜速度识别子模型的训练过程中的特征包括时间维度和空间维度的信息。
本公开实施例所提供的肠胃病检测模型的训练装置可执行本公开任意实施例所提供的肠胃病检测模型的训练方法，具备执行方法相应的功能模块和有益效果。
图14为本公开实施例提供的一种肠胃病检测装置的结构示意图，该装置可由软件和/或硬件实现，一般可集成在电子设备中。如图14所示，该装置包括：
待检测图像模块1401，用于获取肠胃部的待检测图像；
检测模块1402，用于将所述待检测图像输入肠胃检测模型中，获得模型检测结果，其中，所述肠胃检测模型采用权利要求1-8中任一所述的肠胃检测模型的训练方法获得。
本公开实施例所提供的肠胃病检测装置可执行本公开任意实施例所提供的肠胃病检测方法，具备执行方法相应的功能模块和有益效果。
图15为本公开实施例提供的一种电子设备的结构示意图。如图15所示，电子设备1500包括一个或多个处理器1501和存储器1502。
处理器1501可以是中央处理单元（CPU）或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备1500中的其他组件以执行期望的功能。
存储器1502可以包括一个或多个计算机程序产品，所述计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器（RAM）和/或高速缓冲存储器（cache）等。所述非易失性存储器例如可以包括只读存储器（ROM）、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器1501可以运行所述程序指令，以实现上文所述的本公开的实施例的肠胃病检测模型的训练方法或肠胃病检测方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如输入信号、信号分量、噪声分量等各种内容。
在一个示例中，电子设备1500还可以包括：输入装置1503和输出装置1504，这些组件通过总线系统和/或其他形式的连接机构（未示出）互连。
此外，该输入装置1503还可以包括例如键盘、鼠标等等。
该输出装置1504可以向外部输出各种信息，包括确定出的距离信息、方向信息等。该输出装置1504可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然，为了简化，图15中仅示出了该电子设备1500中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备1500还可以包括任何其他适当的组件。
除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本公开实施例所提供的肠胃病检测模型的训练方法或肠胃病检测方法。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，所述程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行本公开实施例所提供的肠胃病检测模型的训练方法或肠胃病检测方法。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子（非穷举的列表）包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本公开的具体实施方式，使本领域技术人员能够理解或实现本公开。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本公开的精神或范围的情况下，在其它实施例中实现。因此，本公开将不会被限制于本文所述的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (6)

1.一种肠胃病检测模型的训练方法，其特征在于，包括：
获取肠胃病训练样本数据，所述肠胃病训练样本数据包括肠胃图像和所述肠胃图像对应的肠胃病标注图像；
基于所述肠胃病训练样本数据，对基于神经网络的初始检测模型进行训练，生成肠胃病检测模型；
其中，所述肠胃病检测模型包括区域检测子模型、部位分类子模型和病症检测子模型，所述区域检测子模型用于对所述肠胃图像进行检测区域图像的提取，
所述部位分类子模型用于识别所述肠胃图像中包括的目标部位，所述目标部位包括肠部和胃部，
所述病症检测子模型用于对所述检测区域图像进行识别操作，得到模型检测结果，所述病症检测子模型包括肠检测神经网络和胃检测神经网络，所述肠检测神经网络用于对所述目标部位为肠的肠胃图像的检测区域图像进行识别，得到第一模型检测结果，所述胃检测神经网络用于对所述目标部位为胃的肠胃图像的检测区域图像进行识别，得到第二模型检测结果，
所述肠胃病检测模型还包括退镜速度识别子模型，所述肠胃病训练样本数据还包括肠胃镜图像组和所述肠胃镜图像组对应的退镜速度标注图像组，所述退镜速度识别子模型用于识别所述肠胃镜图像组对应的退镜速度；所述退镜速度识别子模型基于三维分类神经网络构建，所述退镜速度识别子模型的训练过程中的特征包括时间维度和空间维度的信息。
2.根据权利要求1所述的方法，其特征在于，所述区域检测子模型包括特征提取模块、第一区域提取模块、区域特征提取模块和第二区域提取模块；
所述区域检测子模型的内部结构为：
采用所述特征提取模块对所述肠胃图像提取图像特征；
将所述图像特征输入所述第一区域提取模块得到第一检测区域图像；
将所述图像特征和所述第一检测区域图像输入区域特征提取模块，得到区域特征；
将所述区域特征输入所述第二区域提取模块，得到目标检测区域图像。
3.一种肠胃病检测模型的训练装置，其特征在于，包括：
样本获取模块，用于获取肠胃病训练样本数据，所述肠胃病训练样本数据包括肠胃图像和所述肠胃图像对应的肠胃病标注图像；
模型训练模块，用于基于所述肠胃病训练样本数据，对基于神经网络的初始检测模型进行训练，生成肠胃病检测模型；
其中，所述肠胃病检测模型包括区域检测子模型、病症检测子模型和部位分类子模型，所述区域检测子模型用于对所述肠胃图像进行检测区域图像的提取，
所述病症检测子模型用于对所述检测区域图像进行识别操作，得到模型检测结果，所述病症检测子模型包括肠检测神经网络和胃检测神经网络，所述肠检测神经网络用于对目标部位为肠的肠胃图像的检测区域图像进行识别，得到第一模型检测结果，所述胃检测神经网络用于对目标部位为胃的肠胃图像的检测区域图像进行识别，得到第二模型检测结果，
所述部位分类子模型用于识别所述肠胃图像中包括的目标部位，所述目标部位包括肠部和胃部，
所述肠胃病检测模型还包括退镜速度识别子模型，所述肠胃病训练样本数据还包括肠胃镜图像组和所述肠胃镜图像组对应的退镜速度标注图像组，所述退镜速度识别子模型用于识别所述肠胃镜图像组对应的退镜速度；所述退镜速度识别子模型基于三维分类神经网络构建，所述退镜速度识别子模型的训练过程中的特征包括时间维度和空间维度的信息。
4.一种肠胃病检测装置，其特征在于，包括：
待检测图像模块，用于获取肠胃部的待检测图像；
检测模块，用于将所述待检测图像输入肠胃病检测模型中，获得模型检测结果，其中，所述肠胃病检测模型采用权利要求1-2中任一所述的肠胃病检测模型的训练方法获得。
5.一种电子设备，其特征在于，所述电子设备包括：
处理器；
用于存储所述处理器可执行指令的存储器；
所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现如权利要求1-2中任一所述的肠胃病检测模型的训练方法。
6.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序用于执行如权利要求1-2中任一所述的肠胃病检测模型的训练方法。
CN202110898886.6A 2021-08-05 2021-08-05 肠胃病检测和模型训练方法、装置、设备及介质 Active CN113570592B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110898886.6A CN113570592B (zh) 2021-08-05 2021-08-05 肠胃病检测和模型训练方法、装置、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110898886.6A CN113570592B (zh) 2021-08-05 2021-08-05 肠胃病检测和模型训练方法、装置、设备及介质

Publications (2)

Publication Number Publication Date
CN113570592A CN113570592A (zh) 2021-10-29
CN113570592B true CN113570592B (zh) 2022-09-20

Family

ID=78170589

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110898886.6A Active CN113570592B (zh) 2021-08-05 2021-08-05 肠胃病检测和模型训练方法、装置、设备及介质

Country Status (1)

Country Link
CN (1) CN113570592B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114332019B (zh) * 2021-12-29 2023-07-04 小荷医疗器械(海南)有限公司 内窥镜图像检测辅助系统、方法、介质和电子设备
CN115294128B (zh) * 2022-10-08 2022-12-02 四川大学 一种用于消化内镜的单目结构三维成像方法及装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111091559A (zh) * 2019-12-17 2020-05-01 山东大学齐鲁医院 基于深度学习的小肠镜下淋巴瘤辅助诊断系统

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7296715B2 (ja) * 2018-12-03 2023-06-23 キヤノン株式会社 学習装置、処理装置、ニューラルネットワーク、学習方法、及びプログラム
CN111461165A (zh) * 2020-02-26 2020-07-28 上海商汤智能科技有限公司 图像识别方法、识别模型的训练方法及相关装置、设备
CN111341441A (zh) * 2020-03-02 2020-06-26 刘四花 一种肠胃科病模型构建方法及诊断系统

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111091559A (zh) * 2019-12-17 2020-05-01 山东大学齐鲁医院 基于深度学习的小肠镜下淋巴瘤辅助诊断系统

Also Published As

Publication number Publication date
CN113570592A (zh) 2021-10-29

Similar Documents

Publication Publication Date Title
EP3876190B1 (en) Endoscopic image processing method and system and computer device
Yap et al. Deep learning in diabetic foot ulcers detection: A comprehensive evaluation
Perperidis et al. Image computing for fibre-bundle endomicroscopy: A review
Miranda et al. A survey of medical image classification techniques
WO2021022752A1 (zh) 一种多模态三维医学影像融合方法、系统及电子设备
JP7152513B2 (ja) 画像認識方法、装置、端末機器及び医療システム、並びにそのコンピュータプログラム
KR20210048523A (ko) 이미지 처리 방법, 장치, 전자 기기 및 컴퓨터 판독 가능 기억 매체
CN113570592B (zh) 肠胃病检测和模型训练方法、装置、设备及介质
CN110390674B (zh) 图像处理方法、装置、存储介质、设备以及系统
Shen et al. Mass image synthesis in mammogram with contextual information based on GANs
US11615527B2 (en) Automated anatomic and regional location of disease features in colonoscopy videos
JP2016533782A (ja) 映像医療機器により取得した画像を特徴づける方法およびシステム
CN113826143A (zh) 特征点检测
Wang et al. Learning to recognize thoracic disease in chest x-rays with knowledge-guided deep zoom neural networks
Omisore et al. Automatic tool segmentation and tracking during robotic intravascular catheterization for cardiac interventions
Sengupta et al. Cross-domain diabetic retinopathy detection using deep learning
Özbay et al. Interpretable features fusion with precision MRI images deep hashing for brain tumor detection
Xue et al. Using deep learning for detecting gender in adult chest radiographs
WO2021033303A1 (ja) 訓練データ生成方法、学習済みモデル及び情報処理装置
Sri et al. Detection Of MRI Brain Tumor Using Customized Deep Learning Method Via Web App
Maryada et al. Applying a novel two-stage deep-learning model to improve accuracy in detecting retinal fundus images
CN115311317A (zh) 一种基于Scaleformer类算法的腹腔镜图像分割方法及系统
CN115908224A (zh) 目标检测模型的训练方法、目标检测方法和训练装置
JP2019013461A (ja) プローブ型共焦点レーザー顕微内視鏡画像診断支援装置
Tawfeeq et al. Predication of Most Significant Features in Medical Image by Utilized CNN and Heatmap.

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant