CN113378794A - 一种眼象与症状信息的信息关联方法 - Google Patents

一种眼象与症状信息的信息关联方法 Download PDF

Info

Publication number
CN113378794A
CN113378794A CN202110780736.5A CN202110780736A CN113378794A CN 113378794 A CN113378794 A CN 113378794A CN 202110780736 A CN202110780736 A CN 202110780736A CN 113378794 A CN113378794 A CN 113378794A
Authority
CN
China
Prior art keywords
image
eye image
iris
training
level classifier
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110780736.5A
Other languages
English (en)
Inventor
张智
曹晨思
程京
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Boao Biological Group Co ltd
CapitalBio Corp
Original Assignee
Boao Biological Group Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Boao Biological Group Co ltd filed Critical Boao Biological Group Co ltd
Priority to CN202110780736.5A priority Critical patent/CN113378794A/zh
Publication of CN113378794A publication Critical patent/CN113378794A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

本申请公开了一种眼象与症状信息的信息关联方法和装置,具体为采集图像样本;对图像样本进行预处理,得到眼象图;利用训练样本集对深度残差神经网络进行训练,得到多视角多阶段图像级分类器;通过提取图像高维特征的方式,基于该图像级分类器建立糖尿病样本级分类器;对图像样本进行统计分析,从中得到每个图像样本中与症状信息相关联的重要眼象区域;根据图像级分类器,计算症状信息对应的重要参考区域。具体来说,本申请的技术方案能够为医生提供一种信息处理方案,通过这种方案能够不需要对受检者进行有创诊断,从而不仅避免了对受检者的身体创伤,还能够避免其发生感染。

Description

一种眼象与症状信息的信息关联方法
技术领域
本申请涉及医疗系统技术领域,更具体地说,涉及一种眼象与症状信息的信息关联方法和装置。
背景技术
长久以来,以中医为代表的传统医学在诊法上重在“表”的宏观层面,如望、闻、问、切;而现代医学重在生化、免疫、分子、基因等“里”的微观层面,为了实现“表里如一”的精准诊断,理应是传统与现代结合的精准诊断,理应是宏观微观相结合的精准诊断。只有做到了真正意义上的“表里如一”,才能实现真正意义上的精准化健康管理。
传统医学认为,人体因为疾病而显现的微小颜色变化,可以通过观察双目而得知。现代医学也认为,球结膜微循环的改变可以反映全身的情况,不论何种疾病在眼部球结膜微循环都有相应的改变。因此,目诊不但是“上工治未病”的重要技术,也是中西医结合的极佳路径。
然而,由于以往的目诊由于缺乏呈现眼象实体的载体,缺乏信息化、可视化的呈现形式,因而必须依靠医生的肉眼观察及个人经验来完成,自然就形成了各个不同的目诊流派,也就存在着极大的模糊性、主观性和不稳定性,这给目诊的临床、教学、科研都带来了诸多不便,严重限制了目诊的作用。
目前,针对糖尿病的诊断需要多次抽血检测血糖,不仅提高受检者及医护人员的时间、经济成本。最重要的是这种诊断方法为有创诊断,不仅给受检者带来身体创伤,还极容易造成受检者发生感染。
发明内容
有鉴于此,本申请提供一种眼象与症状信息的信息关联方法和装置,用于为医生提供一种诊断工具,以避免造成受检者身体创伤,并避免受检者发生感染。
为了实现上述目的,现提出的方案如下:
一种眼象与症状信息的信息关联方法,所述信息关联方法包括步骤:
采集图像样本,所述图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像;
对所述图像样本进行预处理,得到眼象图,所述眼象图包括基于虹膜中心的虹膜部分和/或巩膜部分;
利用训练样本集对深度残差神经网络进行训练,得到多视角多阶段图像级分类器;通过提取图像高维特征的方式,基于所述多视角多阶段图像级分类器建立糖尿病样本级分类器;
对所述图像样本进行统计分析,从中得到每个所述双眼眼象图像中与症状信息相关联的重要眼象区域;
利用所述图像级分类器对疾病相关眼象特征及区域的探索,得到与所述症状信息对应的重要参考区域。。
可选的,所述对所述图像样本进行预处理,得到眼象图,包括步骤:
标注每个所述双眼眼象图像的虹膜中心;
根据所述虹膜中心对所述双眼眼象图像进行前景提取处理,使所述双眼眼象图像中仅保留巩膜图像和虹膜图像;
对经过前景提取处理的所述双眼眼象图像进行提取处理,得到所述虹膜部分和所述巩膜部分
对所述虹膜部分和所述巩膜部分进行增强处理,得到所述眼象图。
可选的,所述利用训练样本集对深度残差神经网络进行训练,得到多视角多阶段图像级分类器,包括步骤:
基于所述训练样本集进行数据准备,得到训练集和测试集;
将所述训练样本集输入所述深度残差神经网络进行模型训练,得到初始模型;
利用所述测试集对所述初始模型进行测试调整,得到所述多视角多阶段图像级分类器。
可选的,所述利用所述图像级分类器对疾病相关眼象特征及区域的探索,得到与所述症状信息对应的重要参考区域,包括步骤:
分别根据所述眼象图生成向量集,对所述向量集进行统计分析,生成P值矩阵;
将所述特定眼象图像输入所述糖尿病图像级分类器并计算图像每个位置对分类器的重要性,得到所述特定眼象图像中的重要性矩阵;
融合处理单元,对所述P值矩阵和重要性矩阵以所述虹膜中心为原点进行融合处理,得到可视化的所述重要参考区域。
一种眼象与症状信息的信息关联装置,所述信息关联装置包括:
数据采集模块,用于采集图像样本,所述图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像;
数据预处理模块,用于对所述图像样本进行预处理,得到眼象图,所述眼象图包括基于虹膜中心的虹膜部分和/或巩膜部分;
模型训练模块,用于利用训练样本集对深度残差神经网络进行训练,得到多视角多阶段图像级分类器;
模型处理模块,用于通过提取图像高维特征的方式,基于所述多视角多阶段图像级分类器建立糖尿病样本级分类器;
相关性分析模块,用于利用所述图像级分类器对疾病相关眼象特征及区域的探索,得到与所述症状信息对应的重要参考区域。
可选的,所述数据预处理模块包括:
虹膜标注单元,用于标注每个所述双眼眼象图像的虹膜中心;
前景提取单元,用于根据所述虹膜中心对所述双眼眼象图像进行前景提取处理,使所述双眼眼象图像中仅保留巩膜图像和虹膜图像;
图像提取单元,用于对经过前景提取处理的所述双眼眼象图像进行提取处理,得到所述虹膜部分和所述巩膜部分
增强处理单元,用于对所述虹膜部分和所述巩膜部分进行增强处理,得到所述眼象图。
可选的,所述模型训练模块包括:
数据准备单元,用于基于所述训练样本集进行数据准备,得到训练集和测试集;
训练执行单元,用于将所述训练样本集输入所述深度残差神经网络进行模型训练,得到初始模型;
模型调整单元,用于利用所述测试集对所述初始模型进行测试调整,得到所述多视角多阶段图像级分类器。
可选的,所述分类执行模块包括:
统计分析单元,用于用于分别根据所述眼象图生成向量集,对所述向量集进行统计分析,生成P值矩阵;
融合处理单元,用于对所述P值矩阵进行融合处理,得到与所述症状信息关联的所述重要区域;
第一分类单元,用于将所述特定眼象图像输入所述糖尿病图像级分类器,得到所述特定眼象图像中的重要性矩阵;
第二分类单元,用于对所述重要性矩阵以所述虹膜中心为原点进行融合处理,得到可视化的所述重要参考区域。
从上述的技术方案可以看出,本申请公开了一种眼象与症状信息的信息关联方法和装置,具体为采集图像样本;对图像样本进行预处理,得到眼象图;利用训练样本集对深度残差神经网络进行训练,得到多视角多阶段图像级分类器;通过提取图像高维特征的方式,基于该图像级分类器建立糖尿病样本级分类器;将特定眼象图像输入糖尿病图像级分类器并计算图像每个位置对分类器的重要性,得到与症状信息对应的重要参考区域。具体来说,本申请的技术方案能够为医生提供一种信息处理方案,通过这种方案能够不需要对受检者进行有创诊断,从而不仅避免了对受检者的身体创伤,还能够避免其发生感染。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例的一种眼象与症状信息的信息关联方法的流程图;
图2为本申请实施例的样本示例图;
图3为本申请实施例的前景分割结果实例图;
图4为本申请实施例的虹膜提取结果示例图;
图5为本申请实施例的每个阶段的迁移学习过程的示意图;
图6为本申请实施例的糖尿病人与健康人眼象差异P值热图;
图7为本申请实施例的眼象图的重要参考区域的示意图;
图8为本申请实施例的另一种眼象与症状信息的信息关联装置的框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
实施例一
图1为本申请实施例的一种眼象与症状信息的信息关联方法的流程图。
如图1所示,本实施例提供的信息关联方法包括如下步骤:
S1、采集图像样本。
图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像,人口学信息则包括糖尿病人群的人口学信息和正常人群的人口学信息。这里的双眼眼象图像包括双眼的上视图像、下视图像、左视图像和右视图像,如图2所示。值得指出的是,既然图像样本为糖尿病人群的和正常人群的,因此这里的图像样本需要足够多的数量。
S2、对图像样本进行预处理,得到眼象图。
在具体处理过程中,首先自动化标注眼球中心,即虹膜中心。利用图像处理算法自动分割虹膜、巩膜及虹膜中心,这里的图像处理算法包括但不限于图像增强算法、腐蚀算法、膨胀算法、边缘检测算法,以及联通区域的划分等。
然后进行前景提取处理,去除双眼眼象图像中的皮肤、睫毛、眼象采集设备边缘等区域,只保留巩膜图像及虹膜图像。并在保持图像比例的前提下,对图像大小归一化到512x512x3像素,如图3所示。其中使用的方法包括但不限于活动轮廓模型(SNAKE、水平集法等)、图论分割法(GraphCut,GrabCut和Random Walk等)、阈值分割法(大津法)等。
然后,对上述操作得到的图像进行精确提取处理,通过图像处理算法首先提取出大致的虹膜部分,再通过极坐标变换,求出单张图片的虹膜半径,除虹膜部分外做掩膜,同时求出巩膜部分,结果如图4所示。具体地,图像处理算法包括但不限于图像增强顺风、腐蚀算法、膨胀算法、边缘检测算法,以及联通区域的划分等。
最后对得到的图像进行增强处理,从而得到眼象图,这里的眼象图可以仅包括虹膜部分的图像或巩膜部分的图像,还可以包括虹膜部分的图像和巩膜部分的图像。增强处理的方法包括但不限于图像校正(直方图均衡化、归一化、白平衡、灰度修正与变换、图像平滑等)、光照畸变(图像随机改变亮度、对比度、饱和度等)和几何畸变(图像随机缩放、裁剪、翻转、旋转)、图像局部随机遮挡(图块遮挡、网格遮挡)等。这里的眼象图最终被缩放到224x224像素大小。
S3、利用训练样本集对深度残差神经网络进行训练。
具体来说,使用多元、多视角、多阶段的迁移学习对深度残差神经网络进行训练,即利用上述得到的训练样本集对深度残差神经网络进行训练,得到糖尿病的多视角多阶段图像级分类器。具体步骤如下:
首先,基于上述训练样本集进行数据准备。即按照其中样本的ID随机划分出训练集和测试集。以训练集为例,对于其中每一个样本,将此样本对应的多元眼象图根据其拍摄视角分别划入G和L={Lp},p∈[1,2,…,m]中的一个子集。即G是所有视角眼象图的集合,用于模型寻找全区眼象特征,L的每一个子集包含某一种特定的内眼角和眼球的相对位置的眼象图(或水平镜像后的眼象图),用于寻找局部地眼象特征。其中所述数据划分策略包括但不限于K折交叉验证、无放回随机抽样、分层随机抽样、分层等比随机抽样等。其中所述多元眼象图包括上述操作得到的巩膜图像和虹膜图像,以及他们的增强图像。这里的训练样本集中的眼象图像包括多个角度的图像,如正左、正右、左上、左下、右上、右下、正上、正下等多角度眼象图像,从而使样本所包含信息更加丰富,并使最终得到的多视角多阶段图像级分类器更为精确。
然后,将训练集输入到上述残差深度神经网络进行训练,得到初始模型。这里的模型训练的过程分为T个阶段。在第一阶段,使用ImageNet预训练模型,分别用G和L中的图像对模型进行微调,得到模型G1
Figure BDA0003156771750000071
其中,
Figure BDA0003156771750000072
仅对视角为p的图像进行训练和预测。
如同第一个阶段,在之后的每个阶段,使用前一阶段得到的模型作为当前阶段的初始模型,并分别使用G和L中的图像对模型进行微调。特别地,为了提高模型的实用性,可以在最后几个阶段,仅仅使用前一阶段模型分类错误较多的类别的数据对模型进行微调。如,第T0个阶段的模型对某类糖尿病和某类健康人群分类正确率较低,那么在之后的T-T0个阶段,可以仅仅使用训练集中这两个子类的数据对模型进行微调。
具体地,如果上一阶段得到的模型由m个子模型组成,即
Figure BDA0003156771750000073
则第i+1阶段使用G中数据微调这m个模型,同时使用视角为p的图像Lp微调网络
Figure BDA0003156771750000074
对于T个阶段,本步骤将得到2T组模型,每组模型由1或m个子模型组成。以m=8,T=4为例,每个阶段的迁移学习过程如图5所示。
具体地,T取值为大于0的整数;batch size为以2和5为因子的整数;学习率取值范围为(0.0000001,1);优化方法包括但不限于Ranger,Adam,SGD,RMSProp,AdaGrad等;深度残差网络依次包含以下模块:卷积层,归一化,激活层,池化层,8个子模块,随机丢弃,softmax层。其中每个子模块依次包含:卷积层,归一化层,激活层,卷积层,归一化层,残差连接层,激活层。卷积层的卷积核大小包括但不限于3,5,7等整数,随机丢弃的概率包括但不限于0.3,0.5,0.7。
最后,将得到的初始模型利用验证集进行测试,对于预测错误的样本进行整理。从这一部分样本中,随机抽取较为平衡的数据样本集,对上一个模型进行微调,从而最终得到上述的多视角多阶段图像级分类器。
S4、通过提取图像高维特征的方式得到糖尿病样本级分类器。
分别根据每个受检者的2×m张未增强的眼象图像的模型高维特征,基于上述多视角多阶段图像级分类器建立糖尿病样本级分类器,计算该受检者被预测为糖尿病患者的概率。
具体地,高维特征包括但不限于模型中间层的特征图、特征向量、最后层的图像预测结果等,分类器包括但不限于投票、逻辑回归、随机森林、支持向量机、决策树、自适应增强、极端梯度提升等。此外,此步骤还可以将图像的虹膜部分同样提取高维特征,与其他高维特征共同进行建模,生成糖尿病样本级分类器。
S5、将特定眼象图像输入糖尿病图像级分类器,得到重要参考区域。
首先,分别根据左眼和右眼的眼象图像生成向量集。
以虹膜中心为原点,对于同一个坐标位置(x,y)∈[-224,224]2,分别计算R,G,B通道中糖尿病和健康人的单眼眼象图像在此位置的像素值,组成向量集
Figure BDA0003156771750000081
其中,
Figure BDA0003156771750000082
表示所有糖尿病患者左(右)眼象图像的通道C在坐标(x,y)位置的像素集向量,
Figure BDA0003156771750000083
表示所有健康人左(右)眼象图像的通道C在坐标(x,y)位置的像素集向量。
然后,分别对左眼和右眼的眼象图像生成的向量集进行统计分析,生成P值矩阵,将双眼的P值矩阵进行融合。
具体地,使用包括但不限于Mann-whitney检验、T检验等差异性检验方法,对每一组向量
Figure BDA0003156771750000084
进行零假设为两组向量均值相等的双边检验,计算其P值
Figure BDA0003156771750000085
其中,C∈[R,G,B],(x,y)∈[-224,224]2。选取P值小于指定显著性水平(α)的部分作为左眼/右眼的P值矩阵。即:
Figure BDA0003156771750000086
在对P值矩阵进行融合时,分别将R,G,B通道的右眼P值矩阵进行水平镜像,与右眼P值矩阵进行点乘,生成双眼的P值矩阵P0∈[0,α2]224*224*3.作变换
Figure BDA0003156771750000091
将P值归一化到[0,255],从而将P值热图可视化,即与症状信息相关联的重要区域。
如图6所示,颜色越浅表示在对应位置糖尿病和健康人眼象差异越显著,颜色不为黑的位置表示糖尿病和健康人眼象左眼和右眼的图像在对应位置均有显著差异。
然后,针对需要识别的特定眼象图像X,将该特定眼象图像输入上述的图像级分类器,通过计算该分类器在X中各像素点的导数,来定义X中各像素点的重要性,每张眼象图像的所有像素点的重要性形成一个重要性矩阵M。具体地,当给定眼象图像为右眼眼象图时,其重要性矩阵进行水平镜像。
最后,对于得到的所有眼象图的重要性矩阵{Mi},以虹膜中心为原点进行融合。其中,i∈{1,2,…,n}表示第i张图片。具体地,对于像素点(x,y)∈[-224,224]2,将所有重要性矩阵在此位置的元素求平均得到融合矩阵。即
Figure BDA0003156771750000092
同样地,将融合矩阵归一化到[0,255],进行可视化处理,得到上述重要参考区域,如图7所示。
上述重要性矩阵的融合方式,包括但不限于先将每张左眼眼象图的重要性矩阵进行水平镜像再将所有重要性矩阵进行平均融合、先分别将左右眼眼象图的重要性矩阵进行平均融合,再将左眼平均融合矩阵进行水平镜像与右眼平均融合矩阵进行融合等方式。
从上述技术方案可以看出,本实施例提供了一种眼象与症状信息的信息关联方法,具体为采集图像样本;对图像样本进行预处理,得到眼象图;;利用训练样本集对深度残差神经网络进行训练,得到多视角多阶段图像级分类器;通过提取图像高维特征的方式,基于该图像级分类器建立糖尿病样本级分类器;将特定眼象图像输入糖尿病图像级分类器,得到与症状信息对应的重要参考区域。具体来说,本申请的技术方案能够为医生提供一种信息处理方案,通过这种方案能够不需要对受检者进行有创诊断,从而不仅避免了对受检者的身体创伤,还能够避免其发生感染。
实施例二
图8为本申请实施例的一种眼象与症状信息的信息关联装置的框图。
如图8所示,本实施例提供的信息关联装置包括数据采集模块10、数据预处理模块20、模型训练模块30、模型处理模块40和分类执行模块50。
数据采集模块用于采集图像样本。
图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像,人口学信息则包括糖尿病人群的人口学信息和正常人群的人口学信息。这里的双眼眼象图像包括双眼的上视图像、下视图像、左视图像和右视图像,如图2所示。值得指出的是,既然图像样本为糖尿病人群的和正常人群的,因此这里的图像样本需要足够多的数量。
数据预处理模块用于对图像样本进行预处理,得到眼象图。
该模块包括虹膜标注单元、前景提取单元、图像提取单元和增强处理单元。在具体处理过程中,虹膜标注单元用于自动化标注眼球中心,即虹膜中心。利用图像处理算法自动分割虹膜、巩膜及虹膜中心,这里的图像处理算法包括但不限于图像增强算法、腐蚀算法、膨胀算法、边缘检测算法,以及联通区域的划分等。
前景提取单元用于进行前景提取处理,去除双眼眼象图像中的皮肤、睫毛、眼象采集设备边缘等区域,只保留巩膜图像及虹膜图像。并在保持图像比例的前提下,对图像大小归一化到512x512x3像素,如图3所示。其中使用的方法包括但不限于活动轮廓模型(SNAKE、水平集法等)、图论分割法(GraphCut,GrabCut和Random Walk等)、阈值分割法(大津法)等。
图像提取单元用于对上述操作得到的图像进行精确提取处理,通过图像处理算法首先提取出大致的虹膜部分,再通过极坐标变换,求出单张图片的虹膜半径,除虹膜部分外做掩膜,同时求出巩膜部分,结果如图4所示。具体地,图像处理算法包括但不限于图像增强顺风、腐蚀算法、膨胀算法、边缘检测算法,以及联通区域的划分等。
增强处理单元用于对得到的图像进行增强处理,从而得到眼象图,这里的眼象图可以仅包括虹膜部分的图像或巩膜部分的图像,还可以包括虹膜部分的图像和巩膜部分的图像。增强处理的方法包括但不限于图像校正(直方图均衡化、归一化、白平衡、灰度修正与变换、图像平滑等)、光照畸变(图像随机改变亮度、对比度、饱和度等)和几何畸变(图像随机缩放、裁剪、翻转、旋转)、图像局部随机遮挡(图块遮挡、网格遮挡)等。这里的眼象图最终被缩放到224x224像素大小。
模型训练模块用于利用训练样本集对深度残差神经网络进行训练。
具体来说,使用多元、多视角、多阶段的迁移学习对深度残差神经网络进行训练,即利用上述得到的训练样本集对深度残差神经网络进行训练,得到糖尿病的该图像级分类器。该模块包括数据准备单元、训练执行单元和模型调整单元。
数据准备单元用于基于上述训练样本集进行数据准备。即按照其中样本的ID随机划分出训练集和测试集。以训练集为例,对于其中每一个样本,将此样本对应的多元眼象图根据其拍摄视角分别划入G和L={Lp},p∈[1,2,…,m]中的一个子集。即G是所有视角眼象图的集合,用于模型寻找全区眼象特征,L的每一个子集包含某一种特定的内眼角和眼球的相对位置的眼象图(或水平镜像后的眼象图),用于寻找局部地眼象特征。其中所述数据划分策略包括但不限于K折交叉验证、无放回随机抽样、分层随机抽样、分层等比随机抽样等。其中所述多元眼象图包括上述操作得到的巩膜图像和虹膜图像,以及他们的增强图像。
训练执行单元用于将训练集输入到上述残差深度神经网络进行训练,得到初始模型。这里的模型训练的过程分为T个阶段。在第一阶段,使用ImageNet预训练模型,分别用G和L中的图像对模型进行微调,得到模型G1
Figure BDA0003156771750000111
其中,
Figure BDA0003156771750000112
仅对视角为p的图像进行训练和预测。
如同第一个阶段,在之后的每个阶段,使用前一阶段得到的模型作为当前阶段的初始模型,并分别使用G和L中的图像对模型进行微调。特别地,为了提高模型的实用性,可以在最后几个阶段,仅仅使用前一阶段模型分类错误较多的类别的数据对模型进行微调。如,第T0个阶段的模型对某类糖尿病和某类健康人群分类正确率较低,那么在之后的T-T0个阶段,可以仅仅使用训练集中这两个子类的数据对模型进行微调。
具体地,如果上一阶段得到的模型由m个子模型组成,即
Figure BDA0003156771750000113
则第i+1阶段使用G中数据微调这m个模型,同时使用视角为p的图像Lp微调网络
Figure BDA0003156771750000114
对于T个阶段,本步骤将得到2T组模型,每组模型由1或m个子模型组成。以m=8,T=4为例,每个阶段的迁移学习过程,如图5所示。
具体地,T取值为大于0的整数;batch size为以2和5为因子的整数;学习率取值范围为(0.0000001,1);优化方法包括但不限于Ranger,Adam,SGD,RMSProp,AdaGrad等;深度残差网络依次包含以下模块:卷积层,归一化,激活层,池化层,8个子模块,随机丢弃,softmax层。其中每个子模块依次包含:卷积层,归一化层,激活层,卷积层,归一化层,残差连接层,激活层。卷积层的卷积核大小包括但不限于3,5,7等整数,随机丢弃的概率包括但不限于0.3,0.5,0.7。
模型调整单元用于将得到的初始模型利用验证集进行测试,对于预测错误的样本进行整理。从这一部分样本中,随机抽取较为平衡的数据样本集,对上一个模型进行微调,从而最终得到上述的多视角多阶段图像级分类器。
模型处理模块用于通过提取图像高维特征的方式得到糖尿病样本级分类器。
分别根据每个受检者的2×m张未增强的眼象图像的模型高维特征,基于上述多视角多阶段图像级分类器建立糖尿病样本级分类器,计算该受检者被预测为糖尿病患者的概率。
具体地,高维特征包括但不限于模型中间层的特征图、特征向量、最后层的图像预测结果等,分类器包括但不限于投票、逻辑回归、随机森林、支持向量机、决策树、自适应增强、极端梯度提升等。此外,此步骤还可以将图像的虹膜部分同样提取高维特征,与其他高维特征共同进行建模,生成糖尿病样本级分类器。
分类执行模块用于将特定眼象图像输入图像级分类器,得到重要参考区域。该模块包括统计分析单元、融合处理单元、第一分类单元和第二分类单元。
统计分析单元用于分别根据左眼和右眼的眼象图像生成向量集。
以虹膜中心为原点,对于同一个坐标位置(x,y)∈[-224,224]2,分别计算R,G,B通道中糖尿病和健康人的单眼眼象图像在此位置的像素值,组成向量集
Figure BDA0003156771750000121
其中,
Figure BDA0003156771750000122
表示所有糖尿病患者左(右)眼眼象图像的通道C在坐标(x,y)位置的像素集向量,
Figure BDA0003156771750000131
表示所有健康人左(右)眼眼象图像的通道C在坐标(x,y)位置的像素集向量。
统计分析单元用于分别对左眼和右眼的眼象图像生成的向量集进行统计分析,生成P值矩阵,并将双眼的P值矩阵进行融合。
具体地,使用包括但不限于Mann-whitney检验、T检验等差异性检验方法,对每一组向量
Figure BDA0003156771750000132
进行零假设为两组向量均值相等的双边检验,计算其P值
Figure BDA0003156771750000133
其中,C∈[R,G,B],(x,y)∈[-224,224]2。选取P值小于指定显著性水平(α)的部分作为左眼/右眼的P值矩阵。即:
Figure BDA0003156771750000134
在对P值矩阵进行融合处理时,分别将R,G,B通道的右眼P值矩阵进行水平镜像,与右眼P值矩阵进行点乘,生成双眼的P值矩阵P0∈[0,α2]224*224*3.作变换
Figure BDA0003156771750000135
将P值归一化到[0,255],从而将P值热图可视化,即与症状信息相关联的重要区域。
如图6所示,颜色越浅表示在对应位置糖尿病和健康人眼象差异越显著,颜色不为黑的位置表示糖尿病和健康人眼象左眼和右眼的图像在对应位置均有显著差异。
第一分类单元用于针对需要识别的特定眼象图像X,将该特定眼象图像输入上述的图像级分类器,通过计算该分类器在X中各像素点的导数,来定义X中各像素点的重要性,每张眼象图像的所有像素点的重要性形成一个重要性矩阵M。具体地,当给定眼象图像为右眼眼象图时,其重要性矩阵进行水平镜像。
第二分类单元用于对于得到的所有眼象图的重要性矩阵{Mi},以虹膜中心为原点进行融合。其中,i∈{1,2,…,n}表示第i张图片。具体地,对于像素点(x,y)∈[-224,224]2,将所有重要性矩阵在此位置的元素求平均得到融合矩阵。即
Figure BDA0003156771750000136
同样地,将融合矩阵归一化到[0,255],进行可视化处理,得到上述重要参考区域,如图7所示。
上述重要性矩阵的融合方式,包括但不限于先将每张左眼眼象图的重要性矩阵进行水平镜像再将所有重要性矩阵进行平均融合、先分别将左右眼眼象图的重要性矩阵进行平均融合,再将左眼平均融合矩阵进行水平镜像与右眼平均融合矩阵进行融合等方式。
从上述技术方案可以看出,本实施例提供了一种眼象与症状信息的信息关联装置,具体用于采集图像样本;对图像样本进行预处理,得到眼象图;;利用训练样本集对深度残差神经网络进行训练,得到多视角多阶段图像级分类器;通过提取图像高维特征的方式,基于该图像级分类器建立糖尿病样本级分类器;将特定眼象图像输入糖尿病图像级分类器,得到与症状信息对应的重要参考区域。具体来说,本申请的技术方案能够为医生提供一种信息处理方案,通过这种方案能够不需要对受检者进行有创诊断,从而不仅避免了对受检者的身体创伤,还能够避免其发生感染。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白,本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此,本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本发明所提供的技术方案进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (8)

1.一种眼象与症状信息的信息关联方法,其特征在于,所述信息关联方法包括步骤:
采集图像样本,所述图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像;
对所述图像样本进行预处理,得到眼象图,所述眼象图包括基于虹膜中心的虹膜部分和/或巩膜部分;
利用训练样本集对深度残差神经网络进行训练,得到多视角多阶段图像级分类器;通过提取图像高维特征的方式,基于所述多视角多阶段图像级分类器建立糖尿病样本级分类器;
对所述图像样本进行统计分析,从中得到每个所述双眼眼象图像中与症状信息相关联的重要眼象区域;
利用所述图像级分类器对疾病相关眼象特征及区域的探索,得到与所述症状信息对应的重要参考区域。
2.如权利要求1所述的信息关联方法,其特征在于,所述对所述图像样本进行预处理,得到眼象图,包括步骤:
标注每个所述双眼眼象图像的虹膜中心;
根据所述虹膜中心对所述双眼眼象图像进行前景提取处理,使所述双眼眼象图像中仅保留巩膜图像和虹膜图像;
对经过前景提取处理的所述双眼眼象图像进行提取处理,得到所述虹膜部分和所述巩膜部分;
对所述虹膜部分和所述巩膜部分进行增强处理,得到所述眼象图。
3.如权利要求1所述的信息关联方法,其特征在于,所述利用训练样本集对深度残差神经网络进行训练,得到多视角多阶段图像级分类器,包括步骤:
基于所述训练样本集进行数据准备,得到训练集和测试集;
将所述训练样本集输入所述深度残差神经网络进行模型训练,得到初始模型;
利用所述测试集对所述初始模型进行测试调整,得到所述多视角多阶段图像级分类器。
4.如权利要求1所述的信息关联方法,其特征在于,所述利用所述图像级分类器对疾病相关眼象特征及区域的探索,得到与所述症状信息对应的重要参考区域,包括步骤:
分别根据所述眼象图生成向量集,对所述向量集进行统计分析,生成P值矩阵;
对所述P值矩阵进行融合处理,得到与所述症状信息关联的所述重要区域;
将所述特定眼象图像输入所述糖尿病图像级分类器,得到所述特定眼象图像中的重要性矩阵;
对所述重要性矩阵以所述虹膜中心为原点进行融合处理,得到可视化的所述重要参考区域。
5.一种眼象与症状信息的信息关联装置,其特征在于,所述信息关联装置包括:
数据采集模块,用于采集图像样本,所述图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像;
数据预处理模块,用于对所述图像样本进行预处理,得到眼象图,所述眼象图包括基于虹膜中心的虹膜部分和/或巩膜部分;
模型训练模块,用于利用训练样本集对深度残差神经网络进行训练,得到多视角多阶段图像级分类器;
模型处理模块,用于通过提取图像高维特征的方式,基于所述多视角多阶段图像级分类器建立糖尿病样本级分类器;
相关性分析模块,用于利用所述图像级分类器对疾病相关眼象特征及区域的探索,得到与所述症状信息对应的重要参考区域。
6.如权利要求5所述的信息关联装置,其特征在于,所述数据预处理模块包括:
虹膜标注单元,用于标注每个所述双眼眼象图像的虹膜中心;
前景提取单元,用于根据所述虹膜中心对所述双眼眼象图像进行前景提取处理,使所述双眼眼象图像中仅保留巩膜图像和虹膜图像;
图像提取单元,用于对经过前景提取处理的所述双眼眼象图像进行提取处理,得到所述虹膜部分和所述巩膜部分;
增强处理单元,用于对所述虹膜部分和所述巩膜部分进行增强处理,得到所述眼象图。
7.如权利要求5所述的信息关联方法,其特征在于,所述模型训练模块包括:
数据准备单元,用于基于所述训练样本集进行数据准备,得到训练集和测试集;
训练执行单元,用于将所述训练样本集输入所述深度残差神经网络进行模型训练,得到初始模型;
模型调整单元,用于利用所述测试集对所述初始模型进行测试调整,得到所述多视角多阶段图像级分类器。
8.如权利要求6所述的信息关联方法,其特征在于,所述分类执行模块包括:
统计分析单元,用于分别根据所述眼象图生成向量集,对所述向量集进行统计分析,生成P值矩阵;
融合处理单元,用于对所述P值矩阵进行融合处理,得到与所述症状信息关联的所述重要区域;
第一分类单元,用于将所述特定眼象图像输入所述糖尿病图像级分类器,得到所述特定眼象图像中的重要性矩阵;
第二分类单元,用于对所述重要性矩阵以所述虹膜中心为原点进行融合处理,得到可视化的所述重要参考区域。
CN202110780736.5A 2021-07-09 2021-07-09 一种眼象与症状信息的信息关联方法 Pending CN113378794A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110780736.5A CN113378794A (zh) 2021-07-09 2021-07-09 一种眼象与症状信息的信息关联方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110780736.5A CN113378794A (zh) 2021-07-09 2021-07-09 一种眼象与症状信息的信息关联方法

Publications (1)

Publication Number Publication Date
CN113378794A true CN113378794A (zh) 2021-09-10

Family

ID=77581635

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110780736.5A Pending CN113378794A (zh) 2021-07-09 2021-07-09 一种眼象与症状信息的信息关联方法

Country Status (1)

Country Link
CN (1) CN113378794A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114694236A (zh) * 2022-03-08 2022-07-01 浙江大学 一种基于循环残差卷积神经网络的眼球运动分割定位方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103679158A (zh) * 2013-12-31 2014-03-26 北京天诚盛业科技有限公司 人脸认证方法和装置
CN106618517A (zh) * 2016-12-06 2017-05-10 山东大学 一种基于手臂位置变化的脉搏波评估动脉弹性功能的方法
US20180315193A1 (en) * 2017-04-27 2018-11-01 Retinopathy Answer Limited System and method for automated funduscopic image analysis
WO2019189971A1 (ko) * 2018-03-30 2019-10-03 주식회사 홍복 당뇨병 및 전조 증상을 진단하기 위해 홍채 영상 및 망막 영상을 인공지능으로 분석하는 방법
US20200160521A1 (en) * 2017-05-04 2020-05-21 Shenzhen Sibionics Technology Co., Ltd. Diabetic retinopathy recognition system based on fundus image
KR20200069209A (ko) * 2018-12-06 2020-06-16 주식회사 메디웨일 안구 이미지 기반의 진단 보조 이미지 제공 장치
CN111862009A (zh) * 2020-07-02 2020-10-30 清华大学深圳国际研究生院 一种眼底oct图像的分类方法及计算机可读存储介质
CN112513999A (zh) * 2017-10-13 2021-03-16 人工智能技术公司 眼科疾病和病症的基于深度学习的诊断和转诊
CN112686855A (zh) * 2020-12-28 2021-04-20 博奥生物集团有限公司 一种眼象与症状信息的信息关联方法
CN113011340A (zh) * 2021-03-22 2021-06-22 华南理工大学 一种基于视网膜图像的心血管手术指标风险分类方法及系统

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103679158A (zh) * 2013-12-31 2014-03-26 北京天诚盛业科技有限公司 人脸认证方法和装置
CN106618517A (zh) * 2016-12-06 2017-05-10 山东大学 一种基于手臂位置变化的脉搏波评估动脉弹性功能的方法
US20180315193A1 (en) * 2017-04-27 2018-11-01 Retinopathy Answer Limited System and method for automated funduscopic image analysis
US20200160521A1 (en) * 2017-05-04 2020-05-21 Shenzhen Sibionics Technology Co., Ltd. Diabetic retinopathy recognition system based on fundus image
CN112513999A (zh) * 2017-10-13 2021-03-16 人工智能技术公司 眼科疾病和病症的基于深度学习的诊断和转诊
WO2019189971A1 (ko) * 2018-03-30 2019-10-03 주식회사 홍복 당뇨병 및 전조 증상을 진단하기 위해 홍채 영상 및 망막 영상을 인공지능으로 분석하는 방법
KR20200069209A (ko) * 2018-12-06 2020-06-16 주식회사 메디웨일 안구 이미지 기반의 진단 보조 이미지 제공 장치
CN111862009A (zh) * 2020-07-02 2020-10-30 清华大学深圳国际研究生院 一种眼底oct图像的分类方法及计算机可读存储介质
CN112686855A (zh) * 2020-12-28 2021-04-20 博奥生物集团有限公司 一种眼象与症状信息的信息关联方法
CN113011340A (zh) * 2021-03-22 2021-06-22 华南理工大学 一种基于视网膜图像的心血管手术指标风险分类方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
张雅檬;陶玲;钱志余;武江芬;: "脑肿瘤患者大脑复杂度的fMRI研究", 北京生物医学工程, no. 05, 31 October 2015 (2015-10-31) *
马欣宇;王婵;胡跃清;: "基于病例对照组的检验差异甲基化基因功能区域的方法", 复旦学报(自然科学版), no. 06, 15 December 2017 (2017-12-15) *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114694236A (zh) * 2022-03-08 2022-07-01 浙江大学 一种基于循环残差卷积神经网络的眼球运动分割定位方法

Similar Documents

Publication Publication Date Title
US11842487B2 (en) Detection model training method and apparatus, computer device and storage medium
CN111667490B (zh) 一种眼底图片视杯视盘分割方法
CN108765392B (zh) 一种基于滑动窗口的消化道内镜病变检测和识别方法
CN113889267A (zh) 基于眼象识别的糖尿病诊断模型的构建方法和电子设备
CN112686855B (zh) 一种眼象与症状信息的信息关联方法
CN111862009B (zh) 一种眼底oct图像的分类方法及计算机可读存储介质
CN112257728B (zh) 图像处理方法、装置、计算机设备以及存储介质
Khandouzi et al. Retinal vessel segmentation, a review of classic and deep methods
CN109102494A (zh) 一种后发性白内障图像分析方法及装置
CN117058676B (zh) 一种基于眼底检查影像的血管分割方法、装置和系统
CN113782184A (zh) 一种基于面部关键点与特征预学习的脑卒中辅助评估系统
Matovinovic et al. Transfer learning with U-Net type model for automatic segmentation of three retinal layers in optical coherence tomography images
CN113096137A (zh) 一种oct视网膜图像领域适应分割方法及系统
CN111160431B (zh) 一种基于多维特征融合的圆锥角膜识别方法及装置
Kim et al. Web applicable computer-aided diagnosis of glaucoma using deep learning
CN113378794A (zh) 一种眼象与症状信息的信息关联方法
Alam et al. Benchmarking deep learning frameworks for automated diagnosis of OCULAR TOXOPLASMOSIS: A comprehensive approach to classification and segmentation
CN112651400B (zh) 一种立体内窥镜辅助检测方法、系统、装置及存储介质
CN112017788B (zh) 基于强化学习模型的疾病排序方法、装置、设备及介质
CN111667469B (zh) 肺部疾病分类方法、装置及设备
CN113705670A (zh) 基于磁共振成像和深度学习的脑部图像分类方法及设备
CN110189299A (zh) 一种基于MoileNet的脑血管事件自动识别方法及系统
CN109036550A (zh) 一种基于人工智能的白内障分析方法及装置
Hatode et al. Evolution and Testimony of Deep Learning Algorithm for Diabetic Retinopathy Detection
Paul et al. Computer-Aided Diagnosis Using Hybrid Technique for Fastened and Accurate Analysis of Tuberculosis Detection with Adaboost and Learning Vector Quantization

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination