CN113256638A - 基于卷积神经网络模型的眼球角膜神经分割方法及装置 - Google Patents

基于卷积神经网络模型的眼球角膜神经分割方法及装置 Download PDF

Info

Publication number
CN113256638A
CN113256638A CN202110513290.XA CN202110513290A CN113256638A CN 113256638 A CN113256638 A CN 113256638A CN 202110513290 A CN202110513290 A CN 202110513290A CN 113256638 A CN113256638 A CN 113256638A
Authority
CN
China
Prior art keywords
corneal
eyeball
parameter
neural network
convolutional neural
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110513290.XA
Other languages
English (en)
Inventor
牛建伟
石发强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beihang University
Original Assignee
Beihang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beihang University filed Critical Beihang University
Priority to CN202110513290.XA priority Critical patent/CN113256638A/zh
Publication of CN113256638A publication Critical patent/CN113256638A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Analysis (AREA)

Abstract

本发明实施例提供了一种基于卷积神经网络模型的眼球角膜神经分割方法及装置,包括:获取体内共聚焦显微镜的眼球角膜层图像;将所述体内共聚焦显微镜的眼球角膜层图像输入至预设的卷积神经网络模型,得到与所述体内共聚焦显微镜的眼球角膜层图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;本发明实施例能够同时完成角膜神经纤维的分割和参数计算,从而实现快速、高效的角膜神经自动化分割与参数评估,实现对干眼等眼表疾病的辅助诊断过程。

Description

基于卷积神经网络模型的眼球角膜神经分割方法及装置
技术领域
本发明涉及眼科学与人工智能方法结合的医工交叉技术领域,尤其涉及一种基于卷积神经网络模型的眼球角膜神经分割方法及装置。
背景技术
角膜神经(Corneal Nerve Fiber,CNF)是眼表角膜层上皮中的神经末梢,具备感受触摸、疼痛、温度、机械和化学刺激等多种感觉和为角膜提供代谢营养、支持等多种功能,角膜神经的密度与干眼症等多种眼表疾病紧密相关。因此在非侵入式的体内共聚焦显微镜(In Vivo Confocal Microscopy,IVCM)人眼角膜层成像中,角膜神经的精细分割与长度、密度等参数的计算具有重要意义。
当前的医疗实践中主要通过具备丰富实践经验的专业眼科医生逐图阅片来评估角膜神经的长度与密度。受限于单个医生的经验、水平差异和人类有限的精力体力,对角膜神经的密度评估在速度和准确率上难以满足眼科医疗实践与科学研究的需要,亦无法实现精细的角膜神经分割。在角膜神经的自动化分割与评估方面,Scarpa等通过手动设置种子点并跟踪的半自动方法检测连续的神经纤维;Dabbah等通过精心设计的2D Gabor滤波器来检测图片中的角膜神经。这些方法在实践中均存在准确率过低和分割检测速度不足的问题,无法应用于具体的科研与临床实践中。
而过去几年中基于卷积神经网络和深度学习方法的图片分割技术发生了革命性的变化,并成功应用于多个领域,在图像特征的提取和表达、逐层抽象过程中,卷积神经网络与图像数据的二维结构具有天然的一致性,在图像识别、检测、分割等计算机视觉任务中表现出了惊人的性能。基于深度学习的卷积神经网络模型已经被广泛应用于青光眼、视网膜病变、年龄相关性黄斑变性等眼科疾病检查图像的辅助分析过程中,如自动检测眼底照相中是否存在视网膜脱落、光学相干断层扫描(Optical Coherence Tomography,OCT)成像中是否出现白内障病变等,这使得体内共聚焦显微镜成像中的角膜神经自动化分割与评估技术产生了新的可能。
发明内容
针对现有技术中存在的问题,本发明实施例提供一种基于卷积神经网络模型的眼球角膜神经分割方法及装置。
第一方面,本发明实施例提供一种基于卷积神经网络模型的眼球角膜神经分割方法,包括:
获取体内共聚焦显微镜的眼球角膜层图像;
将所述体内共聚焦显微镜的眼球角膜层图像输入至预设的卷积神经网络模型,得到与所述体内共聚焦显微镜的眼球角膜层图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;其中,所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的。
进一步地,所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的,具体包括:
获取体内共聚焦显微镜的眼球角膜层的样本图像进行眼球角膜神经的标注;
基于深度卷积神经网络算法对已经进行标注的样本图像进行特征提取并在隐向量空间内表达;
采用第一分割分支从隐向量空间内的数据特征中恢复眼球角膜神经的分割结果;
采用第二分支计算与眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;
采用第三分支验证数据特征的准确性,对预设的卷积神经网络模型训练过程提供正则化约束。
进一步地,还包括:
使用深度学习训练算法对所述参数结果进行调优。
进一步地,其特征在于,还包括:
基于眼球角膜神经分割结果识别到呈细线条状、不连续且多分叉的角膜神经纤维。
第二方面,本发明实施例提供了一种基于卷积神经网络模型的眼球角膜神经分割装置,包括:
获取模块,用于获取体内共聚焦显微镜的眼球角膜层图像;
分割与评估模块,用于将所述体内共聚焦显微镜的眼球角膜层图像输入至预设的卷积神经网络模型,得到与所述体内共聚焦显微镜的眼球角膜层图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;其中,所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的。
进一步地,所述分割与评估模块中所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的,具体用于:
获取体内共聚焦显微镜的眼球角膜层的样本图像进行眼球角膜神经的标注;
基于深度卷积神经网络算法对已经进行标注的样本图像进行特征提取并在隐向量空间内表达;
采用第一分割分支从隐向量空间内的数据特征中恢复眼球角膜神经的分割结果;
采用第二分支计算与眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;
采用第三分支验证数据特征的准确性,对预设的卷积神经网络模型训练过程提供正则化约束。
进一步地,还包括:
调优模块,用于使用深度学习训练算法对所述参数结果进行调优。
进一步地,还包括:
识别模块,用于基于眼球角膜神经分割结果识别到呈细线条状、不连续且多分叉的角膜神经纤维。
第三方面,本发明实施例还提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上第一方面所述的基于卷积神经网络模型的眼球角膜神经分割方法的步骤。
第四方面,本发明实施例还提供了一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上第一方面所述的基于卷积神经网络模型的眼球角膜神经分割方法的步骤。
由上述技术方案可知,本发明实施例提供的基于卷积神经网络模型的眼球角膜神经分割方法及装置,通过获取体内共聚焦显微镜的眼球角膜层图像;将所述体内共聚焦显微镜的眼球角膜层图像输入至预设的卷积神经网络模型,得到与所述体内共聚焦显微镜的眼球角膜层图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;本发明实施例能够同时完成角膜神经纤维的分割和参数计算,从而实现快速、高效的角膜神经自动化分割与参数评估,实现对干眼等眼表疾病的辅助诊断过程。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一实施例提供的基于卷积神经网络模型的眼球角膜神经分割方法的流程示意图;
图2为本发明一实施例提供的眼球角膜神经分割与评估示意图;
图3为本发明一实施例提供的角膜神经分割与评估模型结构示意图;
图4为本发明一实施例提供的数据筛选与标注流程图;
图5为本发明一实施例提供的标注数据示意图;
图6为本发明一实施例提供的模型训练过程示意图;
图7为本发明一实施例提供的ROC曲线图;
图8为本发明一实施例提供的分析示意图;
图9为本发明一实施例提供的算法分割效果示例图;
图10为本发明一实施例提供的算法模型部署架构图;
图11为本发明另一实施例提供的基于卷积神经网络模型的眼球角膜神经分割方法的示例图;
图12为本发明一实施例提供的基于卷积神经网络模型的眼球角膜神经分割装置的结构示意图;
图13为本发明一实施例提供的电子设备的实体结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。下面将通过具体的实施例对本发明提供的基于卷积神经网络模型的眼球角膜神经分割方法进行详细解释和说明。
图1为本发明一实施例提供的基于卷积神经网络模型的眼球角膜神经分割方法的流程示意图;如图1所示,该方法包括:
步骤101:获取体内共聚焦显微镜的眼球角膜层图像。
步骤102:将所述体内共聚焦显微镜的眼球角膜层图像输入至预设的卷积神经网络模型,得到与所述体内共聚焦显微镜的眼球角膜层图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;其中,所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的。
在本实施例中,需要说明的是,本发明实施例提供的基于卷积神经网络模型的眼球角膜神经分割方法,将训练完成的模型(即预设的卷积神经网络模型)用于高效的角膜神经自动化分割及其长度、密度等参数计算,实现对干眼等眼表疾病检查图像的计算机辅助分析。同时在算法模型的实际使用过程中,通过专业医生的临床实践持续校正模型结果,收集更多的相关数据,通过模型在线训练和联邦学习的方式不断提升模型性能、实现模型在不同医疗机构的针对性参数优化,以使模型自动识别的角膜神经纤维以及长度计算更准确。
本发明实施例,在算法的设计过程中解决了当前存在的神经网络方法不能有效分割呈细条状且不连续、多分割的不规则线状目标分割区域的问题,同时通过与宽度、长度、密度等参数的计算分支联合训练实现了具有高度相关性的角膜神经纤维分割与长度等参数计算问题互相约束、互相促进的效果,性能优于先分割后计算的多阶段处理方法。
由上述技术方案可知,本发明实施例提供的基于卷积神经网络模型的眼球角膜神经分割方法,通过获取体内共聚焦显微镜的眼球角膜层图像;将所述体内共聚焦显微镜的眼球角膜层图像输入至预设的卷积神经网络模型,得到与所述体内共聚焦显微镜的眼球角膜层图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;本发明实施例能够同时完成角膜神经纤维的分割和参数计算,从而实现快速、高效的角膜神经自动化分割与参数评估,实现对干眼等眼表疾病的辅助诊断过程。
在上述实施例基础上,在本实施例中,所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的,具体包括:
获取体内共聚焦显微镜的眼球角膜层的样本图像进行眼球角膜神经的标注;
基于深度卷积神经网络算法对已经进行标注的样本图像进行特征提取并在隐向量空间内表达;
采用第一分割分支从隐向量空间内的数据特征中恢复眼球角膜神经的分割结果;
采用第二分支计算与眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;
采用第三分支验证数据特征的准确性,对预设的卷积神经网络模型训练过程提供正则化约束。
在本实施例中,需要说明的是,本发明实施例包含针对体内共聚焦显微镜成像图片中角膜神经的分割与评估模型(即预设的卷积神经网络模型)的构建和参数训练两部分,如图2所示。
第一:角膜神经分割与评估模型(即预设的卷积神经网络模型)的构建以卷积神经网络为基础,包含数据编码器、信息提取模块和数据解码器三部分,如图3所示,数据编码器以ResNet34模型的基础上丢弃输出层,实现对图像(体内共聚焦显微镜的眼球角膜层的样本图像)基本特征的提取并在隐向量空间内表达。信息提取模块由稠密连接的多个扩张卷积通道并行连接构成,用以提高图像特征的丰富度和精细度,提高角膜神经边缘分割的精确度。数据解码器模块从隐向量空间内的数据特征中恢复角膜神经的分割结果,并将其上采样到与原始数据同样大小的二维空间内以图片形式展示角膜神经分割效果。同时在特征提取模块的尾端连接一个由四层卷积构成的图像识别模型直接从数据特征中计算角膜神经的长度和密度等医学参数,另有一个原始图像重建模块对模型训练过程提供正则化约束。
第二:使用深度学习方法对算法模型进行训练。首先对标注数据进行图片标准化、水平翻转、垂直翻转、对角翻转、正负30°范围内的图片随机旋转,1.1到1.2倍率的图片随机放缩、添加随机噪音等数据增强操作以扩充训练数据量。然后基于Python和Pytorch深度学习框架构建模型训练管道,以32的批数据量、0.9衰减权重下0.0001的初始学习率对算法模型进行有效训练,在300轮的最多迭代限制下采用模型训练损失精度限制下的训练过程早停机制提高训练效率。最终实现了每秒32张图片的处理速度和0.94的角膜神经分割平均准确率,测试敏感度(sensitivity)0.96、特异度(specify)0.7、AUC值0.96(95%置信区间0.935-0.983);在角膜神经长度、密度等参数的计算上实现了0.16的相对错误率。
第三:完成训练的模型通过客户端-服务端架构部署到医院使用(Client/Server)。在一个医疗机构集中部署一台高性能模型推理服务器(Server),负责收集医生上传的体内共聚焦显微镜成像图片并集中处理,调用模型(预设的卷积神经网络模型)进行角膜神经的分割和相关参数计算,并将计算结果反馈给客户端。医生使用客户端(Client)直接从体内共聚焦显微镜获取相关检查图片,上传值推理服务器处理后接收相关分析结果,同时医生可以在客户端对不完全准确的模型自动分析结果进行手动校正,并将校正结果汇总给推理服务器以进一步训练模型,持续提高模型性能。
本发明实施例提供的基于卷积神经网络模型的眼球角膜神经分割方法,举例来说可以包括以下几个步骤:
步骤1:数据采集与标注
在医院的影像归档与通信系统(Picture Archiving and CommunicationSystems,PACS)中抽取原始眼科体内共聚焦显微镜检查成像图片,并根据硬件设备的成像参数筛选和裁剪包含有效角膜神经的关键区域。数据筛选遵循的原则是每张图片中至少有一条清晰可见的角膜神经,同时排除具有强烈伪影的数据。对筛选到的图片,在400μm*400μm的成像范围内,从484*384pixels裁剪出包含角膜神经的384*384pixels部分,然后使用ImageJ软件工具由三位眼科医生独立进行角膜神经的标注,最后通过简单投票表决的方法汇总三位医生的标注结果获取最终的标注数据,参见图4和图5。
步骤2:算法模型的构建
基于深度卷积神经网络方法,角膜神经的分割与评估算法模型包含数据编码器、信息提取模块和数据解码器三个主要模块,数据编码器以ResNet34模型为基础丢弃输出层构成,实现对图像基本特征的提取并在隐向量空间内表达。信息提取模块由稠密连接的多个扩张卷积通道并行连接构成,用以提高图像特征的丰富度和精细度,提高角膜神经边缘分割的精确度。数据解码器模块包含三个不同分支,第一个分割分支从隐向量空间内的数据特征中恢复角膜神经的分割结果,并将其上采样到与原始数据同样大小的二维空间内以图片形式展示角膜神经分割效果;第二个分支由四层卷积构成的图像识别模型和数值回归的输出层构成,直接从数据特征中计算角膜神经的长度、宽度和密度;第三个分支由一个自动编码器网络构成,在数据特征的基础上完成原始输入数据的重建,以验证数据特征表达的准确性,并帮助提高角膜神经分割分支与医学参数计算分支的准确性,对模型训练过程提供正则化约束。三个不同分支之间的损失函数按照给定权重合成模型的损失函数,以实现三个分支之间的联合训练以提高模型准确率。
在角膜神经分割分支,以Dice系数为损失函数。Dice系数在数学上用以衡量X、Y两个给定集合之间的相似度,定义为
Figure BDA0003061145960000101
因此映射到二维图像空间中对于给定的包含N个像素的输入数据,其角膜神经的分割损失函数为:
Figure BDA0003061145960000102
其中K是给定标注数据的类别数,本实施例为2(标注数据包含角膜神经纤维和背景两类),N为给定样本图片中的像素数量,p(k,i)∈[0,1]且g(k,i)∈{0,1},分别表示第i个像素被分类为第k类的概率和标注值。
在相关医学参数计算分支,采用平均方差错误为损失函数,形式化定义为:
Figure BDA0003061145960000111
其中m为医学参数的个数,一半包含角膜神经的长度、宽度和密度三个;n为参与计算的样本数量,
Figure BDA0003061145960000112
yi,j分别表示第i个样本中第j个参数的模型预测值和实际标注值。在输入数据IVCM重建分支,损失函数定义为输入数据与重建数据之间的差异值,形式化地有:
Figure BDA0003061145960000113
其中S为样本数量,R*C为单个样本中包含的像素数量(R和C分别为给定样本图像的高度和宽度),predirc,ptirc分别表示第i个样本在位置(r,c)上像素值的预测值与实际值。最终,三个分支之间的损失函数通过一定权重合成为模型的损失函数用于模型的训练过程:
L=ω1*Lseg2*Leval3*Lreg,一般权重[ω1,ω2,ω3]的取值为[0.4,0.4,0.3]。
步骤3:算法模型参数的训练
使用深度学习训练的方法对算法模型的参数进行调优。由于深度学习方法需要大量的训练数据而医生标注的数据量有限,因此首先对标准化的标注数据进行数据增强操作,包括图片水平翻转、垂直翻转、对角翻转、正负30°范围内的图片随机旋转、1.1到1.2倍率的图片随机放缩、添加随机噪音等数据增强操作以扩充训练数据量。然后基于Python和Pytorch深度学习框架构建模型训练管道,以32的批数据量、0.9衰减权重下0.0001的初始学习率对算法模型进行有效训练,在300轮的最多迭代限制下采用模型训练损失精度限制下的训练过程早停机制提高训练效率。模型训练过程中的损失函数下降过程如图6所示,在大约5轮的训练后损失即迅速下降到0.2左右,最终稳定在0.12附近。
步骤4:算法性能的评价指标
本实施例主要通过角膜神经分割的平均准确率(mean Average Precision,mAP)来评估模型性能,其形式化定义如下:
Figure BDA0003061145960000121
其中CNFseg,CNFgt分别为给定的体内共聚焦显微镜成像数据中算法模型预测的角膜神经像素集合和人工标注的实际角膜神经像素集合,N是参与模型性能测试的样本总数,
Figure BDA0003061145960000122
分别为CNFseg,CNFgt的交集中的像素点、并集中的像素点,同时计算敏感度(sensitivity)、特异度(specify)、受试者操作特征曲线(Receiver Operatingcharacteristic Curve,ROC)和ROC曲线覆盖面积(Areas Under the receiver operatingcharacteristic Curves,AUCs)等参数来验证模型分割与评估的准确性。对于相关医学参数的计算分支,使用相对错误率(Relative Deviation Ratio,RDR)来评价模型性能,被定义为:
Figure BDA0003061145960000123
其中N是参与计算的医学参数种类,一般包括角膜神经的长度、宽度、密度三类,predi,gti分别表示第i个参数的模型预测值和实际标注值,同时采用皮尔森相关系数和Bland-Altman一致性分析法来比较模型预测结果与人工标注结果之间的一致性。
模型最终实现了每秒32张图片的处理速度和0.94的角膜神经分割平均准确率,测试敏感度(sensitivity)0.96、特异度(specify)0.7、AUC值0.96(95%置信区间0.935-0.983,如图7);在角膜神经长度、密度等参数的计算上实现了0.16的相对错误率,皮尔森相关系数为0.91(95%置信区间0.892-0.923),Bland-Altman一致性分析在95%置信边界下的上下限位-749.0和650.7(如图8)。
算法模型分割的效果如图9所示。
步骤5:算法模型的部署与使用
完成参数训练的算法模型通过客户端/服务端架构部署到医疗机构供眼科医生在临床和科研过程中使用(Client/Server)。在一个医疗机构集中部署一台高性能模型推理服务器(Server),负责算法模型的存储和运行,搭配多个终端用户的客户端使用,参见图10,客户端与服务器端之间通过HTTP协议连接。
客户端负责对接医疗机构的PACS系统和体内聚焦显微镜设备,获取病人的检查成像数据,并根据检查设备的硬件参数和医生的主动选择完成对图片的筛选、裁剪、标准化等预处理操作,而后将标准化数据推送给推理服务器,并获取服务器运行算法模型的自动分析结果,展示在终端界面。同时对于不完全准确的分析结果,由医生手动标注算法未能识别的神经纤维、删除识别错误的部分并重新计算长度、宽度和密度,并收集医生的校正数据回送给推理服务器。
推理服务器完成各个终端的用户和数据管理服务,并接收客户端推送的检查数据集中处理,调用算法模型进行角膜神经的分割和相关参数计算,并将计算结果反馈给客户端;同时收集汇总客户端对于部分数据的医生手动校正结果,使用联邦学习和在线学习的方式修正算法模型的参数,持续提高模型性能。
本发明实施例的优点在于:
(1)基于深度神经网络模型对于图像数据的处理能力,快速、准确地自动化完成体内共聚焦显微镜成像数据中角膜神经部分的分割和相关医学参数的计算,极大地提高眼科医生在临床和科研过程中的效率,使其不受专业医生经验水平和体力、精力的限制,便于该项技术的快速推广与应用,平衡不同地区的医疗资源差距。
(2)本实施例针对体内共聚焦显微镜成像设计,可以有效识别到呈细线条状、不连续且多分叉的角膜神经纤维,同时不同于首先完成目标区域分割然后再基于分割结果计算其长度、宽度、密度等参数的多阶段处理方法,可以同时完成角膜神经纤维的分割和参数计算,并在模型训练过程中通过两个分支的互相约束提高模型性能。
(3)通过单个医疗机构配置推理服务器和客户端使用的方式降低整体解决方案的成本,同时使得数据保存在医疗机构本地而有效保证数据安全性;同时在条件允许的情况下多中心联网艺考在线学习和联邦学习技术持续训练,可以在临床与科研使用的过程中不断提高模型性能。
在上述实施例基础上,在本实施例中,还包括:
使用深度学习训练算法对所述参数结果进行调优。
在上述实施例基础上,在本实施例中,还包括:
基于眼球角膜神经分割结果识别到呈细线条状、不连续且多分叉的角膜神经纤维。
由上述技术方案可知,本发明实施例提供的基于卷积神经网络模型的眼球角膜神经分割方法,在算法的设计过程中解决了当前存在的神经网络方法不能有效分割呈细条状且不连续、多分割的不规则线状目标分割区域的问题。
为了更好的理解本发明,下面结合实施例进一步阐述本发明的内容,但本发明不仅仅局限于下面的实施例。
对于具体的数据样例,如图11所示,客户端首先从体内共聚焦显微镜设备获取检查成像数据,并根据检查设备的硬件参数和医生的主动选择完成对图片的筛选、裁剪、标准化等预处理操作,而后将标准化数据推送给推理服务器,并获取服务器运行算法模型的自动分析结果,展示在终端界面。同时对于不完全准确的分析结果,提供分析结果标注功能供医生修正模型返回的自动分析结果,并收集医生的校正数据回送给推理服务器。
客户端和推理服务器之间的数据传递全部通过HTTP协议完成通信过程。
推理服务器收到标准化后的图片数据后,调用CNS-Net算法模型完成对角膜神经的精准分割和其长度、宽度、密度等参数的评估,并将评估结果返回给客户;对于模型辅助分析不完全准确的样本数据再次接收来自客户端的医生手动校正结果并保存,继续采用在线学习的方式优化模型参数,从而提高模型的预测性能。
在算法模型内部,输入图片首先进入一个以ResNet34残差网络模型为基础的编码器模块,通过逐层卷积的方式提取图片的基本特征并表达为一个隐向量空间的特征图,该特征图将被送入信息提取模块进一步抽象其角膜神经的细节特征后送入分支1的解码器模块,该模块将特征图上采样恢复到与输入数据相同大小并确定每个像素点的类别标签,实现对角膜神经的精准分割。在推理预测阶段输入数据重建分支将不再运行,直到推理服务器收到来自客户端的医生校准数据需要再次训练模型参数时该分支将参与训练过程。信息提取模块得到的精细特征图将被同步送入分支3进行相关医学参数的计算,特征图将在四层卷积与池化操作后通过全连接的方式数值回归到角膜神经的长度、宽度、密度三个参数。
优选的,本发明实施例是在特定数据类型约束下设计构建的人工智能(Artificial Intelligence,AI)辅助诊断模型,及其参数训练与配置、科研与临床使用部署流程等具体实施步骤,可以针对经过预处理的体内共聚焦显微镜成像数据快速、精确的分割其中的角膜神经部分,并评估其长度、密度、宽度等医学参数提供给医生在诊疗过程中参考,从而辅助眼科医生进行相关干眼疾病的筛查工作,提高了诊断效率和准确率,推动体内共聚焦显微镜检查技术在眼科门诊的临床检查和相关科研活动中有效应用,降低医生工作量的同时提高效率。
图12为本发明一实施例提供的基于卷积神经网络模型的眼球角膜神经分割装置的结构示意图,如图12所示,该装置包括:获取模块201和分割与评估模块202,其中:
其中,获取模块201,用于获取体内共聚焦显微镜的眼球角膜层图像;
分割与评估模块202,用于将所述体内共聚焦显微镜的眼球角膜层图像输入至预设的卷积神经网络模型,得到与所述体内共聚焦显微镜的眼球角膜层图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;其中,所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的。
本发明实施例提供的基于卷积神经网络模型的眼球角膜神经分割装置具体可以用于执行上述实施例的基于卷积神经网络模型的眼球角膜神经分割方法,其技术原理和有益效果类似,具体可参见上述实施例,此处不再赘述。
基于相同的发明构思,本发明实施例提供一种电子设备,参见图13,电子设备具体包括如下内容:处理器301、通信接口303、存储器302和通信总线304;
其中,处理器301、通信接口303、存储器302通过通信总线304完成相互间的通信;通信接口303用于实现各建模软件及智能制造装备模块库等相关设备之间的信息传输;处理器301用于调用存储器302中的计算机程序,处理器执行计算机程序时实现上述各方法实施例所提供的方法,例如,处理器执行计算机程序时实现下述步骤:获取内壁面温度云图;将所述内壁面温度云图输入至预设神经网络模型,得到与所述内壁面温度云图对应的待修正参数;其中,所述待修正参数包括对流换热系数,和/或,来流温度,和/或,热源强度;所述预设神经网络模型为:利用样本内壁面温度云图作为输入数据,以及与所述样本内壁面温度云图对应的待修正参数作为输出数据,基于深度学习算法训练得到的模型。
基于相同的发明构思,本发明又一实施例还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各方法实施例提供的方法,例如,获取内壁面温度云图;将所述内壁面温度云图输入至预设神经网络模型,得到与所述内壁面温度云图对应的待修正参数;其中,所述待修正参数包括对流换热系数,和/或,来流温度,和/或,热源强度;所述预设神经网络模型为:利用样本内壁面温度云图作为输入数据,以及与所述样本内壁面温度云图对应的待修正参数作为输出数据,基于深度学习算法训练得到的模型。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分的方法。
此外,在本发明中,诸如“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
此外,在本发明中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、物品或者设备中还存在另外的相同要素。
此外,在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种基于卷积神经网络模型的眼球角膜神经分割方法,其特征在于,包括:
获取体内共聚焦显微镜的眼球角膜层图像;
将所述体内共聚焦显微镜的眼球角膜层图像输入至预设的卷积神经网络模型,得到与所述体内共聚焦显微镜的眼球角膜层图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;其中,所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的。
2.根据权利要求1所述的基于卷积神经网络模型的眼球角膜神经分割方法,其特征在于,所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的,具体包括:
获取体内共聚焦显微镜的眼球角膜层的样本图像进行眼球角膜神经的标注;
基于深度卷积神经网络算法对已经进行标注的样本图像进行特征提取并在隐向量空间内表达;
采用第一分割分支从隐向量空间内的数据特征中恢复眼球角膜神经的分割结果;
采用第二分支计算与眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;
采用第三分支验证数据特征的准确性,对预设的卷积神经网络模型训练过程提供正则化约束。
3.根据权利要求2所述的基于卷积神经网络模型的眼球角膜神经分割方法,其特征在于,还包括:
使用深度学习训练算法对所述参数结果进行调优。
4.根据权利要求3所述的基于卷积神经网络模型的眼球角膜神经分割方法,其特征在于,还包括:
基于眼球角膜神经分割结果识别到呈细线条状、不连续且多分叉的角膜神经纤维。
5.一种基于卷积神经网络模型的眼球角膜神经分割装置,其特征在于,包括:
获取模块,用于获取体内共聚焦显微镜的眼球角膜层图像;
分割与评估模块,用于将所述体内共聚焦显微镜的眼球角膜层图像输入至预设的卷积神经网络模型,得到与所述体内共聚焦显微镜的眼球角膜层图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;其中,所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的。
6.根据权利要求5所述的基于卷积神经网络模型的眼球角膜神经分割装置,其特征在于,所述分割与评估模块中所述预设的卷积神经网络模型为采用体内共聚焦显微镜的眼球角膜层的样本图像作为输入数据,以及,与所述样本图像对应的眼球角膜神经分割结果,和,与所述眼球角膜神经分割结果对应的参数结果作为输出数据,基于机器学习算法训练得到的,具体用于:
获取体内共聚焦显微镜的眼球角膜层的样本图像进行眼球角膜神经的标注;
基于深度卷积神经网络算法对已经进行标注的样本图像进行特征提取并在隐向量空间内表达;
采用第一分割分支从隐向量空间内的数据特征中恢复眼球角膜神经的分割结果;
采用第二分支计算与眼球角膜神经分割结果对应的参数结果,所述参数结果包括眼球角膜神经的长度参数、宽度参数和密度参数;
采用第三分支验证数据特征的准确性,对预设的卷积神经网络模型训练过程提供正则化约束。
7.根据权利要求6所述的基于卷积神经网络模型的眼球角膜神经分割方法,其特征在于,还包括:
调优模块,用于使用深度学习训练算法对所述参数结果进行调优。
8.根据权利要求7所述的基于卷积神经网络模型的眼球角膜神经分割方法,其特征在于,还包括:
识别模块,用于基于眼球角膜神经分割结果识别到呈细线条状、不连续且多分叉的角膜神经纤维。
9.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1~4任一项所述的基于卷积神经网络模型的眼球角膜神经分割方法。
10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1~4任一项所述的基于卷积神经网络模型的眼球角膜神经分割方法。
CN202110513290.XA 2021-05-11 2021-05-11 基于卷积神经网络模型的眼球角膜神经分割方法及装置 Pending CN113256638A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110513290.XA CN113256638A (zh) 2021-05-11 2021-05-11 基于卷积神经网络模型的眼球角膜神经分割方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110513290.XA CN113256638A (zh) 2021-05-11 2021-05-11 基于卷积神经网络模型的眼球角膜神经分割方法及装置

Publications (1)

Publication Number Publication Date
CN113256638A true CN113256638A (zh) 2021-08-13

Family

ID=77222766

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110513290.XA Pending CN113256638A (zh) 2021-05-11 2021-05-11 基于卷积神经网络模型的眼球角膜神经分割方法及装置

Country Status (1)

Country Link
CN (1) CN113256638A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113822928A (zh) * 2021-11-22 2021-12-21 杭州目乐医疗科技股份有限公司 角膜地形图重建方法及装置
CN115100187A (zh) * 2022-07-27 2022-09-23 浙江大学 一种基于联邦学习的青光眼图像检测方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109345538A (zh) * 2018-08-30 2019-02-15 华南理工大学 一种基于卷积神经网络的视网膜血管分割方法
CN110992309A (zh) * 2019-11-07 2020-04-10 吉林大学 基于深层信息传递网络的眼底图像分割方法
CN111080591A (zh) * 2019-12-06 2020-04-28 广东工业大学 基于编码解码结构结合残差模块的医学图像分割方法
CN111652871A (zh) * 2020-06-03 2020-09-11 中国科学院宁波工业技术研究院慈溪生物医学工程研究所 基于ivcm图像的角膜神经弯曲度测量系统及方法
CN111784721A (zh) * 2020-07-01 2020-10-16 华南师范大学 基于深度学习的超声内窥图像智能分割与量化方法及系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109345538A (zh) * 2018-08-30 2019-02-15 华南理工大学 一种基于卷积神经网络的视网膜血管分割方法
CN110992309A (zh) * 2019-11-07 2020-04-10 吉林大学 基于深层信息传递网络的眼底图像分割方法
CN111080591A (zh) * 2019-12-06 2020-04-28 广东工业大学 基于编码解码结构结合残差模块的医学图像分割方法
CN111652871A (zh) * 2020-06-03 2020-09-11 中国科学院宁波工业技术研究院慈溪生物医学工程研究所 基于ivcm图像的角膜神经弯曲度测量系统及方法
CN111784721A (zh) * 2020-07-01 2020-10-16 华南师范大学 基于深度学习的超声内窥图像智能分割与量化方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
SHANSHAN WEI等: "A Deep Learning Model for Automated Sub-Basal Corneal NerveSegmentation and Evaluation Using In Vivo Confocal Microscopy" *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113822928A (zh) * 2021-11-22 2021-12-21 杭州目乐医疗科技股份有限公司 角膜地形图重建方法及装置
CN115100187A (zh) * 2022-07-27 2022-09-23 浙江大学 一种基于联邦学习的青光眼图像检测方法
CN115100187B (zh) * 2022-07-27 2024-06-11 浙江大学 一种基于联邦学习的青光眼图像检测方法

Similar Documents

Publication Publication Date Title
Abràmoff et al. Retinal imaging and image analysis
Li et al. DeepRetina: layer segmentation of retina in OCT images using deep learning
Kauppi Eye fundus image analysis for automatic detection of diabetic retinopathy
CN112884729B (zh) 基于双模态深度学习的眼底疾病辅助诊断方法和装置
CN108618749B (zh) 基于便携式数字化眼底照相机的视网膜血管三维重建方法
CN110189323A (zh) 一种基于半监督学习的乳腺超声图像病灶分割方法
CN112233087A (zh) 一种基于人工智能的眼科超声疾病诊断方法和系统
CN113256638A (zh) 基于卷积神经网络模型的眼球角膜神经分割方法及装置
Pal et al. Deep learning techniques for prediction and diagnosis of diabetes mellitus
US20230036463A1 (en) Neural network processing of oct data to generate predictions of geographic-atrophy growth rates
CN111178420A (zh) 一种二维造影图像上冠脉段标注方法及系统
CN114694236A (zh) 一种基于循环残差卷积神经网络的眼球运动分割定位方法
CN111524109A (zh) 头部医学影像的评分方法和装置、电子设备及存储介质
Cazañas-Gordón et al. Ensemble learning approach to retinal thickness assessment in optical coherence tomography
CN112869697A (zh) 同时识别糖尿病视网膜病变的分期和病变特征的判断方法
Singh et al. Deep-learning based system for effective and automatic blood vessel segmentation from Retinal fundus images
Duan et al. A generative model for OCT retinal layer segmentation by groupwise curve alignment
Alsaih et al. Retinal fluid segmentation using ensembled 2-dimensionally and 2.5-dimensionally deep learning networks
CN115810004A (zh) 一种光学相干断层扫描脉络膜血管分层造影方法
CN108182686A (zh) 基于曲线群匹配的oct眼底图像半自动分割方法和装置
Holland et al. Metadata-enhanced contrastive learning from retinal optical coherence tomography images
Galveia et al. Computer aided diagnosis in ophthalmology: Deep learning applications
CN111951950A (zh) 基于深度学习的三维数据医疗分类系统、方法和装置
Alsaih et al. Retinal fluids segmentation using volumetric deep neural networks on optical coherence tomography scans
Baskaran et al. Performance Analysis of Deep Learning based Segmentation of Retinal Lesions in Fundus Images

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210813