CN112949168A - 一种内镜下上消化道实时位置定位模型建立方法 - Google Patents
一种内镜下上消化道实时位置定位模型建立方法 Download PDFInfo
- Publication number
- CN112949168A CN112949168A CN202110153298.XA CN202110153298A CN112949168A CN 112949168 A CN112949168 A CN 112949168A CN 202110153298 A CN202110153298 A CN 202110153298A CN 112949168 A CN112949168 A CN 112949168A
- Authority
- CN
- China
- Prior art keywords
- network
- real
- endoscope
- training
- digestive tract
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 18
- 210000001035 gastrointestinal tract Anatomy 0.000 title claims abstract description 14
- 238000012549 training Methods 0.000 claims description 24
- 239000013598 vector Substances 0.000 claims description 12
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 238000012790 confirmation Methods 0.000 claims description 2
- 238000013135 deep learning Methods 0.000 abstract description 3
- 238000013527 convolutional neural network Methods 0.000 abstract description 2
- 230000004927 fusion Effects 0.000 abstract description 2
- 239000010410 layer Substances 0.000 description 14
- 210000002784 stomach Anatomy 0.000 description 14
- 230000006870 function Effects 0.000 description 6
- 210000002318 cardia Anatomy 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000003902 lesion Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 230000002411 adverse Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000001079 digestive effect Effects 0.000 description 1
- 238000001839 endoscopy Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 210000000245 forearm Anatomy 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000011229 interlayer Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/273—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the upper alimentary canal, e.g. oesophagoscopes, gastroscopes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/31—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the rectum, e.g. proctoscopes, sigmoidoscopes, colonoscopes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Surgery (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Evolutionary Computation (AREA)
- Optics & Photonics (AREA)
- Heart & Thoracic Surgery (AREA)
- General Physics & Mathematics (AREA)
- Veterinary Medicine (AREA)
- Software Systems (AREA)
- Public Health (AREA)
- Animal Behavior & Ethology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Radiology & Medical Imaging (AREA)
- Pathology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Signal Processing (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Gastroenterology & Hepatology (AREA)
- Endoscopes (AREA)
Abstract
本发明涉及一种内镜下上消化道实时位置定位模型建立方法,使用基于搜索框架的EfficientNet主干,提升定位精度,最大化利用网络层,减少冗余层,提升网络运行效率,提高模型适用性;其次通过搭建分流网络,分解问题,进一步提升精准度外,考虑一二级间的相关性,防止出现不合理预测结果;解决以往多模型复杂融合及单一模型精度损失的劣势,基于分治策略,构建端到端深度学习卷积神经网络,达到内镜下实时定位的目标。
Description
技术领域
本发明涉及一种图像识别技术,特别涉及一种基于分流的EfficientNet的内镜下上消化道实时位置定位模型建立方法。
背景技术
内镜检查是诊断上消化病变的关键步骤,在检查过程中实时定位所处位置,对医生检查完整性,病变位置定位及后续治疗有显著意义。目前临床上主要基于内镜下观察,判断上消化道位置,由于不同地区不同级别医师在内镜检查过程中明显差异,基于AI实时定位,辅助医生检查,并随时判断镜下环境是否存在影响观察的不利因素,随时对光照角度做出调整等日渐凸显其必要性。
对于内镜图像,现在多为基于AI人工智能神经网络对内镜下图像进行卷积操作,输出图像信息向量,并基于输出信息与酸碱度等信息结合评价图像质量及内镜检查质量,也就是以往方法皆为依托多个现有基础神经网络,输出多个结果,并结合多方信息作出评价,进行辅助事后判读。无法做到实时判断,不能给临床检测做实时辅助,错失很多及时数据。
发明内容
本发明是针对现在内镜下检测无法实时定位的问题,提出了一种内镜下上消化道实时位置定位模型建立方法,基于单一深度搜索神经网络EfficientNet,设置分流聚类策略实现实时位置定位,并利用层级间相关性对预测进行限制防止不合理预测,可实现内镜下观察,实时判断上消化道位置。
本发明的技术方案为:一种内镜下上消化道实时位置定位模型建立方法,具体包括如下步骤:
1)将需要定位检查的整个消化道分成具体的数个部位,每个部位再根据位置特征定义部位对应的具体位置区域;
2)将确认部位的内镜图像归一化、标准化处理后的图像,作为训练集;
3)将训练集送入EfficientNet主干进行网络训练,网络预测类别与真实部位类别送入优化器,利用加权交叉熵损失函数loss最小为目标对网络进行优化;
4)在优化后的网络上构建分流网络层:对EfficientNet主干中间部位识别层中每个层根据步骤1)中定义的具体位置构建一下级分类层,即建立二级分流类别层;
5)将步骤2)的训练集确认部位中定义的具体位置区域进行标记后,送入步骤4)构建了分流网络层的网络进行分流网络层网络训练;训练时通过对一级部位及相应二级位置预测向量经过同一映射方案,降维到同维向量,对二者间相关性加以限制,保留相关性高的图像,分析相关性低的图像,并将相关性取导数对每个样本进行加权;
5)训练完成后的网络模型,最终输出部位类别和部位的具体位置类别。
所述步骤3)以Adam为优化器,利用加权交叉熵损失函数loss最小为目标对网络进行优化,其加权交叉熵损失函数loss如下:
其中αk为第k类权重;nk为第k类数量;k为位置类别索引;K为位置类别总量;yk为真实类别,pk为预测类别,以最小化损失函数为目标进行训练优化直至收敛。
本发明的有益效果在于:本发明内镜下上消化道实时位置定位模型建立方法,本模型使用基于搜索框架的EfficientNet主干,提升定位精度,最大化利用网络层,减少冗余层,提升网络运行效率,提高模型适用性;其次通过搭建分流网络,分解问题,进一步提升精准度外,考虑一二级间的相关性,防止出现不合理预测结果;解决以往多模型复杂融合及单一模型精度损失的劣势,基于分治策略,构建端到端深度学习卷积神经网络,达到内镜下实时定位的目标。
附图说明
图1为本发明内镜下上消化道实时位置定位模型示意图。
具体实施方式
下面结合附图和具体实施例对本发明进行详细说明。本实施例以本发明技术方案为前提进行实施,给出了详细的实施方式和具体的操作过程,但本发明的保护范围不限于下述的实施例。
实施例:对表1中位置定位
表1
贲门 | 胃体上部倒镜 | 胃体中部 | 胃体下部 | 胃底 | 胃角 | 胃窦 |
前臂 | 前臂 | 前臂 | 前臂 | 前臂 | 前臂 | |
后壁 | 后壁 | 后壁 | 后壁 | 后壁 | 后壁 | |
小弯 | 大弯 | 大弯 | 大弯 | 小弯 | 大弯 | |
交界 | 小弯 | 小弯 | 小弯 | 交界 | 小弯 | |
交界 | 交界 | 交界 | 交界 |
实现具体步骤如下:
1、将对应已经确认部位的上述七大部分的内镜图像进行预处理:依次经过归一化、标准化处理
其中Imgstandardization为标准化后的图像像素;img为原图像像素值;μ为图像像素均值;σ为图像像素标准差。
其中Imgnormalize为为归一化后图像像素;min(Imgstandardization)为标准化后图像像素最小值;max(Imgstandardization)为标准化后图像像素最大值。
2、网络设计及训练过程
2.1、将预处理后内镜图像送入EfficientNet Backbone,对EfficientNetBackbone训练,用于区分贲门,胃体上部倒镜,胃体中部,胃体下部,胃底,胃角及胃窦七大部分。网络预测类别与真实部位类别送入优化器,以Adam为Optimizer(优化器),利用加权交叉熵(weighted cross entropy)损失函数loss最小为目标对网络进行优化。
其中αk为第k类权重;nk为第k类数量;k为位置类别索引;K为位置类别总量;yk为真实类别,pk为预测类别,以最小化上述损失函数为目标进行训练优化直至收敛。
2.2、构建分流网络层:
将EfficientNet Backbone中间层进行分流,其中七大部位作为一级分流类别,部位的具体位置作为二级分流类别,其中贲门为一级分流类别,下面无二级分流类别,不再进行分流操作。依次分流胃体上部倒镜的前臂、后壁、小弯及交界为一簇;胃体中部前臂、后壁、大弯、小弯及交界为一簇;胃体下部前臂、后壁、大弯、小弯及交界为一簇;胃底前臂、后壁、大弯、小弯及交界为一簇;胃角前臂、后壁、小弯及交界为一簇;胃窦前臂、后壁、大弯、小弯及交界为最后一簇。每一簇最后输出向量长度根据其二级分流类别所含数目定义。
2.3、训练过程:
在内镜下图像输入需要记录每一张图像的一级二级标的,并根据一级标的进行分流,根据二级标的训练分流网络。在二级标的训练过程中,需锁定第一部分EfficientNetBackbone的网络层权重参数(即步骤2.1优化后的参数不变),不再进行回溯优化训练。
循环训练验证限制条件设置:
通过对一级及相应二级预测向量经过同一映射方案,降维到同维向量,对二者间相关性加以限制,保留相关性高的图像,分析相关性低的图像,并将相关性取导数对每个样本进行加权。
如图1中标识2的虚线框为二级类别识别,即对efficientNet末尾部特征图层进行分组操作,使得同一部位图像分为一组,每组代表第一级类别,同时组内图像拥有其一级类别下的具体位置二级类别,进行具体部位的识别,最终输出部位类别和部位的具体位置类别。
3、将训练后模型内嵌到主机系统中,数据通过采集器从内镜设备实时传输到现场主机中,现场主机调用模型,然后主机将结果实时显示,给现场操作辅助。
本发明根据算法分治策略,将规模较大的问题,分解为几个小问题依次解决,进而合并解决大问题。避免了既往深度学习卷积网络,多为多模型多目标训练,在应用层面难以达到内镜下实时输出的要求,多模型多目标训练反应慢且由于各个模型权重独立,模型无法解决前后相关性问题,导致各个模型有所偏重。
Claims (2)
1.一种内镜下上消化道实时位置定位模型建立方法,其特征在于,具体包括如下步骤:
1)将需要定位检查的整个消化道分成具体的数个部位,每个部位再根据位置特征定义部位对应的具体位置区域;
2)将确认部位的内镜图像归一化、标准化处理后的图像,作为训练集;
3)将训练集送入EfficientNet主干进行网络训练,网络预测类别与真实部位类别送入优化器,利用加权交叉熵损失函数loss最小为目标对网络进行优化;
4)在优化后的网络上构建分流网络层:对EfficientNet主干中间部位识别层中每个层根据步骤1)中定义的具体位置构建一下级分类层,即建立二级分流类别层;
5)将步骤2)的训练集确认部位中定义的具体位置区域进行标记后,送入步骤4)构建了分流网络层的网络进行分流网络层网络训练;训练时通过对一级部位及相应二级位置预测向量经过同一映射方案,降维到同维向量,对二者间相关性加以限制,保留相关性高的图像,分析相关性低的图像,并将相关性取导数对每个样本进行加权;
5)训练完成后的网络模型,最终输出部位类别和部位的具体位置类别。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110153298.XA CN112949168A (zh) | 2021-02-04 | 2021-02-04 | 一种内镜下上消化道实时位置定位模型建立方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110153298.XA CN112949168A (zh) | 2021-02-04 | 2021-02-04 | 一种内镜下上消化道实时位置定位模型建立方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112949168A true CN112949168A (zh) | 2021-06-11 |
Family
ID=76243696
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110153298.XA Pending CN112949168A (zh) | 2021-02-04 | 2021-02-04 | 一种内镜下上消化道实时位置定位模型建立方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112949168A (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080187201A1 (en) * | 2007-02-05 | 2008-08-07 | Siemens Medical Solution Usa, Inc. | System and Method for Computer Aided Detection of Pulmonary Embolism in Tobogganing in CT Angiography |
CN109145939A (zh) * | 2018-07-02 | 2019-01-04 | 南京师范大学 | 一种小目标敏感的双通道卷积神经网络语义分割方法 |
US20190377949A1 (en) * | 2018-06-08 | 2019-12-12 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Image Processing Method, Electronic Device and Computer Readable Storage Medium |
CN111128396A (zh) * | 2019-12-20 | 2020-05-08 | 山东大学齐鲁医院 | 一种基于深度学习的消化道疾病辅助诊断系统 |
CN111341437A (zh) * | 2020-02-21 | 2020-06-26 | 山东大学齐鲁医院 | 基于舌图像的消化道疾病判断辅助系统 |
-
2021
- 2021-02-04 CN CN202110153298.XA patent/CN112949168A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080187201A1 (en) * | 2007-02-05 | 2008-08-07 | Siemens Medical Solution Usa, Inc. | System and Method for Computer Aided Detection of Pulmonary Embolism in Tobogganing in CT Angiography |
US20190377949A1 (en) * | 2018-06-08 | 2019-12-12 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | Image Processing Method, Electronic Device and Computer Readable Storage Medium |
CN109145939A (zh) * | 2018-07-02 | 2019-01-04 | 南京师范大学 | 一种小目标敏感的双通道卷积神经网络语义分割方法 |
CN111128396A (zh) * | 2019-12-20 | 2020-05-08 | 山东大学齐鲁医院 | 一种基于深度学习的消化道疾病辅助诊断系统 |
CN111341437A (zh) * | 2020-02-21 | 2020-06-26 | 山东大学齐鲁医院 | 基于舌图像的消化道疾病判断辅助系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112365464B (zh) | 一种基于gan的医学图像病变区域弱监督定位方法 | |
CN109543719B (zh) | 基于多模态注意力模型的宫颈非典型病变诊断模型和装置 | |
CN111259982A (zh) | 一种基于注意力机制的早产儿视网膜图像分类方法和装置 | |
CN109102491A (zh) | 一种胃镜图像自动采集系统及方法 | |
CN111653365B (zh) | 一种鼻咽癌辅助诊断模型构建和辅助诊断方法及系统 | |
CN110367913B (zh) | 无线胶囊内窥镜图像幽门和回盲瓣定位方法 | |
CN110390665B (zh) | 基于深度学习多通道与图嵌法的膝关节病症超声诊断方法 | |
CN110826576B (zh) | 一种基于多模态特征级融合的宫颈病变预测系统 | |
CN111340094A (zh) | 基于深度学习的胶囊内窥镜图像辅助分类系统和分类方法 | |
CN112750115B (zh) | 一种基于图神经网络的多模态宫颈癌前病变图像识别方法 | |
CN115410046A (zh) | 基于深度学习的皮肤病舌象分类模型、建立方法及应用 | |
Yang et al. | CT images recognition of pulmonary tuberculosis based on improved faster RCNN and U-Net | |
CN117274270B (zh) | 基于人工智能的消化内镜实时辅助系统及方法 | |
CN113012811A (zh) | 一种结合深度卷积网络和图神经网络的中医证候诊断和健康评价方法 | |
CN113284136A (zh) | 一种双损失函数训练的残差网络和XGBoost的医学图像分类方法 | |
CN113344077A (zh) | 一种基于卷积胶囊网络结构的抗噪茄科病害识别方法 | |
CN113610118A (zh) | 一种基于多任务课程式学习的眼底图像分类方法、装置、设备及介质 | |
CN116842460A (zh) | 基于注意力机制与残差神经网络的咳嗽关联疾病识别方法和系统 | |
CN116664929A (zh) | 一种基于多模态信息融合的喉镜图像多属性分类方法 | |
Chitnis et al. | Domain-specific pre-training improves confidence in whole slide image classification | |
CN112949168A (zh) | 一种内镜下上消化道实时位置定位模型建立方法 | |
CN112863650A (zh) | 一种基于卷积与长短期记忆神经网络的心肌病识别系统 | |
CN114898172B (zh) | 基于多特征dag网络的糖尿病视网膜病变分类建模方法 | |
CN108846327A (zh) | 一种色素痣与黑素瘤的智能判别系统及方法 | |
CN112884728A (zh) | 基于深度学习卷积神经网络的内镜图像病变识别筛查方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20210611 |