CN112686855A - 一种眼象与症状信息的信息关联方法 - Google Patents

一种眼象与症状信息的信息关联方法 Download PDF

Info

Publication number
CN112686855A
CN112686855A CN202011583200.6A CN202011583200A CN112686855A CN 112686855 A CN112686855 A CN 112686855A CN 202011583200 A CN202011583200 A CN 202011583200A CN 112686855 A CN112686855 A CN 112686855A
Authority
CN
China
Prior art keywords
image
sample
information
eye image
binocular
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011583200.6A
Other languages
English (en)
Other versions
CN112686855B (zh
Inventor
张智
曹晨思
程京
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Boao Biological Group Co ltd
Original Assignee
Boao Biological Group Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Boao Biological Group Co ltd filed Critical Boao Biological Group Co ltd
Priority to CN202011583200.6A priority Critical patent/CN112686855B/zh
Publication of CN112686855A publication Critical patent/CN112686855A/zh
Application granted granted Critical
Publication of CN112686855B publication Critical patent/CN112686855B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Abstract

本申请公开了一种眼象与症状信息的信息关联方法和装置,具体为采集图像样本和相应的人口学信息;对图像样本进行预处理,得到训练样本集;对训练样本集中的每个训练样本进行标注;利用训练样本集对深度残差神经网络进行训练,得到图像级分类器;将图像级分类器与人口学信息进行结合,得到糖尿病样本级分类器。即通过本方案能够得到一种糖尿病样本级分类器,该糖尿病样本级分类器能够将受检者的双眼眼象图像与相应症状信息建立关联,从而能够帮助医生对糖尿病进行有效诊断。具体来说,本申请的技术方案能够为医生提供一种诊断工具,而此种诊断工具不需要对受检者进行有创诊断,从而不仅避免了对受检者的身体创伤,还能够避免其发生感染。

Description

一种眼象与症状信息的信息关联方法
技术领域
本申请涉及医疗系统技术领域,更具体地说,涉及一种眼象与症状信息的信息关联方法和装置。
背景技术
长久以来,以中医为代表的传统医学在诊法上重在“表”的宏观层面,如望、闻、问、切;而现代医学重在生化、免疫、分子、基因等“里”的微观层面,为了实现“表里如一”的精准诊断,理应是传统与现代结合的精准诊断,理应是宏观微观相结合的精准诊断。只有做到了真正意义上的“表里如一”,才能实现真正意义上的精准化健康管理。
传统医学认为,人体因为疾病而显现的微小颜色变化,可以通过观察双目而得知。现代医学也认为,球结膜微循环的改变可以反映全身的情况,不论何种疾病在眼部球结膜微循环都有相应的改变。因此,目诊不但是“上工治未病”的重要技术,也是中西医结合的极佳路径。
然而,由于以往的目诊由于缺乏呈现眼象实体的载体,缺乏信息化、可视化的呈现形式,因而必须依靠医生的肉眼观察及个人经验来完成,自然就形成了各个不同的目诊流派,也就存在着极大的模糊性、主观性和不稳定性,这给目诊的临床、教学、科研都带来了诸多不便,严重限制了目诊的作用。
目前,针对糖尿病的诊断需要多次抽血检测血糖,不仅提高受检者及医护人员的时间、经济成本。最重要的是这种诊断方法为有创诊断,不仅给受检者带来身体创伤,还极容易造成受检者发生感染。
发明内容
有鉴于此,本申请提供一种眼象与症状信息的信息关联方法和装置,用于为医生提供一种诊断工具,以避免造成受检者身体创伤,并避免受检者发生感染。
为了实现上述目的,现提出的方案如下:
一种眼象与症状信息的信息关联方法,所述信息关联方法包括步骤:
采集图像样本和人口学信息,所述图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像,所述人口学信息包括糖尿病人群的人口学信息和正常人群的人口学信息;
对所述图像样本进行预处理,得到训练样本集;
对所述训练样本集中的每个训练样本进行标注;
利用所述训练样本集对深度残差神经网络进行训练,得到图像级分类器;
将所述图像级分类器与所述人口学信息进行结合,得到糖尿病样本级分类器。
可选的,所述对所述图像样本进行预处理,得到训练样本集,包括步骤:
对所述双眼眼象图像进行前景提取处理,使所述双眼眼象图像中仅保留眼表巩膜图像和虹膜图像,并对所述双眼眼象图像进行归一化处理;
对所述双眼眼象图像进行增强处理,得到所述训练样本集。
可选的,所述对所述双眼眼象图像进行前景提取处理,包括步骤:
从所述图像样本中提取部分图像样本作为图像数据集,并对所述图像数据集进行标注;
基于经过标注的所述图像数据集构建前景分类数据集,所述前景分类数据集包括前景分类训练集、前景分类验证集和前景分类测试集;
利用所述前景分类数据集对构建的基于像素级的卷积神经网络进行训练,得到前景分类器;
基于所述前景分类器对所述图像样本进行分割处理,使每幅所述图像样本仅保留所述眼表巩膜图像和所述虹膜图像。
可选的,还包括步骤:
基于所述糖尿病样本级分类器进行眼象图像遮挡试验,得到与糖尿病症状相关的重要眼象区和/或眼象特征。
可选的,所述基于所述糖尿病样本集分类器进行眼象图像遮挡试验,得到与糖尿病症状相关的重要眼象区域和/或眼象特征,包括步骤:
标注所述训练样本集中的双眼眼象图像的虹膜区域,并计算所述虹膜区域的中心坐标;
以所述中心坐标为基准,使用固定大小的图块对所述双眼眼象图像依次进行滑动遮挡;
对于每一次的遮挡后的遮挡图像,利用所述糖尿病样本集分类器对所述遮挡图像进行预测,并根据预测结果计算诊断准确率差值;
以所述中心坐标为原点并基于所述诊断准确率差值绘制融合热图,所述融合热图中的颜色与所述诊断准确率差值相关;
基于所述融合热图进行计算,得到所述重要眼象区域和/或所述眼象特征。
一种眼象与症状信息的信息关联装置,所述信息关联装置包括:
数据采集模块,用于采集图像样本和人口学信息,所述图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像,所述人口学信息包括糖尿病人群的人口学信息和正常人群的人口学信息;
数据预处理模块,用于对所述图像样本进行预处理,得到训练样本集;
样本标注模块,用于对所述训练样本集中的每个训练样本进行标注;
模型训练模块,用于利用所述训练样本集对深度残差神经网络进行训练,得到图像级分类器;
信息融合模块,用于将所述图像级分类器与所述人口学信息进行结合,得到糖尿病样本级分类器。
可选的,所述数据预处理模块包括:
前景提取单元,用于对所述双眼眼象图像进行前景提取处理,使所述双眼眼象图像中仅保留眼表巩膜图像和虹膜图像,并对所述双眼眼象图像进行归一化处理;
图像增强单元,用于对所述双眼眼象图像进行增强处理,得到所述训练样本集。
可选的,所述前景提取单元包括:
样本提取子单元,用于从所述图像样本中提取部分图像样本作为图像数据集,并对所述图像数据集进行标注;
数据集构建子单元,用于基于经过标注的所述图像数据集构建前景分类数据集,所述前景分类数据集包括前景分类训练集、前景分类验证集和前景分类测试集;
模型训练子单元,用于利用所述前景分类数据集对构建的基于像素级的卷积神经网络进行训练,得到前景分类器;
分割处理子单元,用于基于所述前景分类器对所述图像样本进行分割处理,使每幅所述图像样本仅保留所述眼表巩膜图像和所述虹膜图像。
可选的,还包括:
遮挡试验模块,用于基于所述糖尿病样本级分类器进行眼象图像遮挡试验,得到与糖尿病症状相关的重要眼象区和/或眼象特征。
可选的,所述遮挡试验模块包括:
图像标注单元,用于标注所述训练样本集中的双眼眼象图像的虹膜区域,并计算所述虹膜区域的中心坐标;
遮挡执行单元,用于以所述中心坐标为基准,使用固定大小的图块对所述双眼眼象图像依次进行滑动遮挡;
预测执行单元,用于对于每一次的遮挡后的遮挡图像,利用所述糖尿病样本集分类器对所述遮挡图像进行预测,并根据预测结果计算诊断准确率差值;
绘图执行模块,用于以所述中心坐标为原点并基于所述诊断准确率差值绘制融合热图,所述融合热图中的颜色与所述诊断准确率差值相关;
数据计算单元,用于基于所述融合热图进行计算,得到所述重要眼象区域和/或所述眼象特征。
从上述的技术方案可以看出,本申请公开了一种眼象与症状信息的信息关联方法和装置,具体为采集图像样本和相应的人口学信息,图像样本包括糖尿病人群和正常人群的双眼眼象图像;对图像样本进行预处理,得到训练样本集;对训练样本集中的每个训练样本进行标注;利用训练样本集对深度残差神经网络进行训练,得到图像级分类器;将图像级分类器与人口学信息进行结合,得到糖尿病样本级分类器。即通过本方案能够得到一种糖尿病样本级分类器,该糖尿病样本级分类器能够将受检者的双眼眼象图像与相应症状信息建立关联,从而能够帮助医生对糖尿病进行有效诊断。具体来说,本申请的技术方案能够为医生提供一种诊断工具,而此种诊断工具不需要对受检者进行有创诊断,从而不仅避免了对受检者的身体创伤,还能够避免其发生感染。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例的一种眼象与症状信息的信息关联方法的流程图;
图2为本申请实施例的双眼眼象图像;
图3为本申请实施例中经过预处理的图像样本;
图4为本申请实施例的另一种眼象与症状信息的信息关联方法的流程图;
图5为本申请实施例的融合热图;
图6为本申请实施例的重要眼象区和眼象特征的示意图;
图7为本申请实施例的一种眼象与症状信息的信息关联装置的框图;
图8为本申请实施例的另一种眼象与症状信息的信息关联装置的框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
实施例一
图1为本申请实施例的一种眼象与症状信息的信息关联方法的流程图。
如图1所示,本实施例提供的信息关联方法基于双眼眼象图像和人口学信息构建一个用于对双眼眼象和糖尿病症状信息相关联的糖尿病样本级分类器,用于为医生提供一种糖尿病的检测工具。该信息关联方法包括如下步骤:
S1、采集图像样本和人口学信息。
图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像,人口学信息则包括糖尿病人群的人口学信息和正常人群的人口学信息。这里的双眼眼象图像包括双眼的上视图像、下视图像、左视图像和右视图像,如图2所示。值得指出的是,既然图像样本为糖尿病人群的和正常人群的,因此这里的图像样本需要足够多的数量。
S2、对图像样本进行预处理,得到训练样本集。
具体来说,在预处理时,首先对双眼眼象图像进行前景提取处理,去除皮肤、睫毛、眼象采集设备边缘等区域,使双眼眼象图像中仅保留眼表巩膜图像和虹膜图像,并对双眼眼象图像进行归一化处理;
然后对所述双眼眼象图像进行增强处理,得到所述训练样本集。图像增强处理包括但不限于图像校正(直方图均衡化、归一化、白平衡、灰度修正与变换、图像平滑等)、光照畸变(图像随机改变亮度、对比度、饱和度等)和几何畸变(图像随机缩放、裁剪、翻转、旋转)等。具体地,改变亮度、对比度、饱和度、随机缩放、旋转、裁剪的参数分别在(0.5,1.5),(0.5,1.5),(0.5,1.5),(0.5,1.5),(-90,90),(0.3,1)之间取值,图片进行了水平和垂直翻转。图像最终缩放到224x224像素大小。
本申请中通过如下方案实现前景提取处理:
S211、对从图像样本中提取的部分图像样本进行标注;
即从上述采集的图像样本中提取部分图像样本组成图像数据集,通过人工操作对眼表部分进行图像分割标注,去除皮肤、睫毛、眼象采集设备边缘等区域,只保留眼表巩膜图像及虹膜图像。每张图像样本的人工标注结果以掩膜(mask)的形式保存在单通道(灰度空间)PNG格式的图片中,从而形成图像数据集。
S212、基于经过标注的图像样本构建前景分类数据集。
将标注好的图像样本利用分层随机抽样构建前景分类数据集,该前景分类数据集划分为前景分类训练集(training set)、前景分类验证集(validation set)和前景分类测试集(testing set)。
S213、基于前景分类数据集进行训练得到前景分类器。
即基于前述的前景分类数据集对像素级卷积神经网络进行训练,从而得到该前景分类器。
具体地,此卷积神经网络主要由下采样和上采样模块组成。其中,每个下采样模块依次包含:卷积层,归一化,激活层,随机丢弃,卷积层,归一化,激活层,随机丢弃;每个上采样模块依次包含:反卷积层,归一化,随机丢弃,反卷积层,归一化,随机丢弃;整个卷积神经网络依次包含以下模块:下采样(1/N),下采样(1/N),下采样(1/N),下采样(1/N),上采样(N),上采样(N),上采样(N),上采样(N)。其中,1/N和N分别表示经本次采样,图片的宽度和长度变为变换前的1/N和N,其取值范围为大于1的整数,常为2;卷积层的卷积核大小包括但不限于3,5,7等整数,随机丢弃的概率包括但不限于0.3,0.5,0.7。
S214、基于前景分类器对所述图像样本进行分割处理。
使用此前景分类器,对所有未分割前景的图像样本进行像素级别分类,仅保留分类为虹膜和巩膜的像素,其他像素点的值设为0。将图像大小调整为512x512像素,并以3通道(色彩空间为RGB)的TIFF格式保存,如图3,从而使图像样本仅保留巩膜区域图像和虹膜图像。
即训练样本集中所有的图像样本仅包括巩膜区域图像和虹膜图像,这样可以排除眼皮、眼睑等冗余信息干扰。
S3、对训练样本集的每个训练样本进行标注处理。
在不同类别图像样本的数量相差较大时,采用随机下采样或上采样对数据组成结构进行调整;将受检者分层随机抽样为k折,以便进行k折交叉验证;对每一个受检者预处理后的所有双眼眼象图像(左眼和右眼分别上视、下视、左视、右视的图像及其对应的增强后图像)。根据受检者人口学信息中的分类标签,标注图像样本为“糖尿病”或“对照”。
S4、进行模型训练,得到图像级分类器。
利用上述训练样本集对深度残差神经网络进行预训练,并利用上面得到的k组数据及标签对模型所有参数进行调整,得到k个训练好的残差网络。具体地,k取值为大于0的整数;batch size为以2和5为因子的整数;学习率取值范围为(0.0000001,1);优化方法包括但不限于Ranger,Adam,SGD,RMSProp,AdaGrad等。
深度残差网络依次包含以下模块:卷积层,归一化,激活层,池化层,8个子模块,随机丢弃,softmax层。其中每个子模块依次包含:卷积层,归一化层,激活层,卷积层,归一化层,残差连接层,激活层。卷积层的卷积核大小包括但不限于3,5,7等整数,随机丢弃的概率包括但不限于0.3,0.5,0.7。
S5、基于图像集分类器得到糖尿病样本级分类器。
分别根据每个受检者的8张未增强的双眼眼象图像的预测结果,和其与受检者的人口学信息的结合,建立糖尿病样本级分类器,计算该受检者被预测为糖尿病患者的概率。
具体地,样本的人口学信息包括性别、年龄、民族/种族、糖尿病家族史,分类器包括但不限于逻辑回归(Logistic Regression)、随机森林(Random Forest)、支持向量机(SVM)、决策树(Decision Tree)、自适应增强(AdaBoost)、极端梯度提升(XGBoost)等。
从上述技术方案可以看出,本实施例提供了一种眼象与症状信息的信息关联方法,具体为采集图像样本和相应的人口学信息,图像样本包括糖尿病人群和正常人群的双眼眼象图像;对图像样本进行预处理,得到训练样本集;对训练样本集中的每个训练样本进行标注;利用训练样本集对深度残差神经网络进行训练,得到图像级分类器;将图像级分类器与人口学信息进行结合,得到糖尿病样本级分类器。即通过本方案能够得到一种糖尿病样本级分类器,该糖尿病样本级分类器能够将受检者的双眼眼象图像与相应症状信息建立关联,从而能够帮助医生对糖尿病进行有效诊断。具体来说,本申请的技术方案能够为医生提供一种诊断工具,而此种诊断工具不需要对受检者进行有创诊断,从而不仅避免了对受检者的身体创伤,还能够避免其发生感染。
另外,在本申请实施例的一个具体实施方式中,还包括如下步骤,如图4所示:
S6、基于糖尿病样本级分类器进行眼象图像遮挡试验。
通过眼象图像遮挡试验对图像样本进行处理,得到与糖尿病症状相关的重要眼象区和眼象特征,或者其中之一,具体步骤如下所述:
S601、自动化标注虹膜区域并计算虹膜中心坐标。
利用图像处理算法,从图像样本中提取虹膜区域,得到虹膜部分的边框位置(x1,x2,y1,y2)。则当眼睛下视、左视、右视、上视时,虹膜中心坐标分别为
Figure BDA0002866376120000091
其中r为虹膜半径,由虹膜完全暴露的图像中平均边框长宽计算而得。
使用的图像处理算法包括但不限于图像增强、腐蚀、膨胀、边缘检测,及联通区域的划分等。
S602、使用一个固定大小的图块(patch),对于测试集的每张眼象图,以虹膜中心为基准,分别向视角的反方向进行滑动遮挡。
具体地,以下视图为例,假设该图的虹膜中心坐标为(x0,y0),该遮挡图块大小为w*h,则依次遮挡(x0-m*w,x0(m-1)*w,y0-n*h,y0(n-1)*h)区域。其中,m可为所有整数,n为正整数。当遮挡图块滑动到图像边缘时,遮挡图块大小自动缩小以适配图像。
S603、对于每一次遮挡,即一对(m,n),使用糖尿病诊断模型对遮挡图像进行预测,并分别在双眼的眼象图中计算此次遮挡后的糖尿病诊断准确率差值。如果其准确率低于未遮挡时的准确率,则认为此区域(以下称之为信息区域)含有糖尿病相关特征。
S604、绘制融合热图。
以虹膜中心为原点,统计信息区域的坐标,以该区域遮挡时的准确率下降值为热度,分别对左右眼绘制热度图。然后将左眼的热度图进行水平翻转,与右眼的热度图进行平均值融合。结果如图5所示,圆点为虹膜中心,灰色区域表示信息区域,颜色越深,则代表此区域对糖尿病诊断模型的准确率更加重要。
S605、对于信息区域内的特征,计算其在糖尿病患者及健康人群中的分布。
具体特征包括但不限于:图像的R、G、B通道和H、S、V通道等通用特征,以及斑、月晕、雾漫、血脉、丘、点、底色等眼象特征。对以上特征在糖尿病患者和对照人群眼象中的分布做差异性检验。在指定显著性水平(α)下,认为在糖尿病患者和健康人群中分布显著不同的眼象特征为糖尿病关联的眼象特征。其中所用差异性检验方法包括但不限于校正/不校正的卡方检验和Fisher精确检验。如图6所示,方块区域为信息区域,圆圈标注了糖尿病相关特征。
最后,为了观察不同尺度的特征分布,则可以调整遮挡图块的大小,然后再次上述步骤。具体地,遮挡图块大小可为w╳h,其中w,h可为(1,223)之间整数。
实施例二
图7为本申请实施例的一种眼象与症状信息的信息关联症状的框图。
如图7所示,本实施例提供的信息关联症状基于双眼眼象图像和人口学信息构建一个用于对双眼眼象和糖尿病症状信息相关联的糖尿病样本级分类器,用于为医生提供一种糖尿病的检测工具。该信息关联症状包括数据采集模块10、数据预处理模块20、样本标注模块30、模型训练模块40和信息融合模块50。
数据采集模块用于采集图像样本和人口学信息。
图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像,人口学信息则包括糖尿病人群的人口学信息和正常人群的人口学信息。这里的双眼眼象图像包括双眼的上视图像、下视图像、左视图像和右视图像,如图2所示。值得指出的是,既然图像样本为糖尿病人群的和正常人群的,因此这里的图像样本需要足够多的数量。
数据预处理模块用于对图像样本进行预处理,得到训练样本集。
具体来说,该模块包括前景提取单元和图像增强单元,在预处理时,前景提取单元用于对双眼眼象图像进行前景提取处理,去除皮肤、睫毛、眼象采集设备边缘等区域,使双眼眼象图像中仅保留眼表巩膜图像和虹膜图像,并对双眼眼象图像进行归一化处理;
图像增强单元用于对所述双眼眼象图像进行增强处理,得到所述训练样本集。图像增强处理包括但不限于图像校正(直方图均衡化、归一化、白平衡、灰度修正与变换、图像平滑等)、光照畸变(图像随机改变亮度、对比度、饱和度等)和几何畸变(图像随机缩放、裁剪、翻转、旋转)等。具体地,改变亮度、对比度、饱和度、随机缩放、旋转、裁剪的参数分别在(0.5,1.5),(0.5,1.5),(0.5,1.5),(0.5,1.5),(-90,90),(0.3,1)之间取值,图片进行了水平和垂直翻转。图像最终缩放到224x224像素大小。
该前景提取单元具体包括样本提取子单元、数据集构建子单元、模型训练子单元和分割处理子单元。
样本提取子单元用于对从图像样本中提取的部分图像样本进行标注;
即从上述采集的图像样本中提取部分图像样本组成图像数据集,通过人工操作对眼表部分进行图像分割标注,去除皮肤、睫毛、眼象采集设备边缘等区域,只保留眼表巩膜图像及虹膜图像。每张图像样本的人工标注结果以掩膜(mask)的形式保存在单通道(灰度空间)PNG格式的图片中,从而形成图像数据集。
数据集构建子单元基于经过标注的图像样本构建前景分类数据集。
将标注好的图像样本利用分层随机抽样构建前景分类数据集,该前景分类数据集划分为前景分类训练集(training set)、前景分类验证集(validation set)和前景分类测试集(testing set)。
模型训练子单元基于前景分类数据集进行训练得到前景分类器。
即基于前述的前景分类数据集对像素级卷积神经网络进行训练,从而得到该前景分类器。
具体地,此卷积神经网络主要由下采样和上采样模块组成。其中,每个下采样模块依次包含:卷积层,归一化,激活层,随机丢弃,卷积层,归一化,激活层,随机丢弃;每个上采样模块依次包含:反卷积层,归一化,随机丢弃,反卷积层,归一化,随机丢弃;整个卷积神经网络依次包含以下模块:下采样(1/N),下采样(1/N),下采样(1/N),下采样(1/N),上采样(N),上采样(N),上采样(N),上采样(N)。其中,1/N和N分别表示经本次采样,图片的宽度和长度变为变换前的1/N和N,其取值范围为大于1的整数,常为2;卷积层的卷积核大小包括但不限于3,5,7等整数,随机丢弃的概率包括但不限于0.3,0.5,0.7。
分割处理子单元基于前景分类器对所述图像样本进行分割处理。
使用此前景分类器,对所有未分割前景的图像样本进行像素级别分类,仅保留分类为虹膜和巩膜的像素,其他像素点的值设为0。将图像大小调整为512x512像素,并以3通道(色彩空间为RGB)的TIFF格式保存,如图3,从而使图像样本仅保留巩膜区域图像和虹膜图像。
即训练样本集中所有的图像样本仅包括巩膜区域图像和虹膜图像,这样可以排除眼皮、眼睑等冗余信息干扰。
样本标注模块用于对训练样本集的每个训练样本进行标注处理。
在不同类别图像样本的数量相差较大时,采用随机下采样或上采样对数据组成结构进行调整;将受检者分层随机抽样为k折,以便进行k折交叉验证;对每一个受检者预处理后的所有双眼眼象图像(左眼和右眼分别上视、下视、左视、右视的图像及其对应的增强后图像)。根据受检者人口学信息中的分类标签,标注图像样本为“糖尿病”或“对照”。
模型训练模块用于进行模型训练,得到图像级分类器。
利用上述训练样本集对深度残差神经网络进行预训练,并利用上面得到的k组数据及标签对模型所有参数进行调整,得到k个训练好的残差网络。具体地,k取值为大于0的整数;batch size为以2和5为因子的整数;学习率取值范围为(0.0000001,1);优化方法包括但不限于Ranger,Adam,SGD,RMSProp,AdaGrad等。
深度残差网络依次包含以下模块:卷积层,归一化,激活层,池化层,8个子模块,随机丢弃,softmax层。其中每个子模块依次包含:卷积层,归一化层,激活层,卷积层,归一化层,残差连接层,激活层。卷积层的卷积核大小包括但不限于3,5,7等整数,随机丢弃的概率包括但不限于0.3,0.5,0.7。
信息融合模块用于基于图像集分类器得到糖尿病样本级分类器。
分别根据每个受检者的8张未增强的双眼眼象图像的预测结果,和其与受检者的人口学信息的结合,建立糖尿病样本级分类器,计算该受检者被预测为糖尿病患者的概率。
具体地,样本的人口学信息包括性别、年龄、民族/种族、糖尿病家族史,分类器包括但不限于逻辑回归(Logistic Regression)、随机森林(Random Forest)、支持向量机(SVM)、决策树(Decision Tree)、自适应增强(AdaBoost)、极端梯度提升(XGBoost)等。
从上述技术方案可以看出,本实施例提供了一种眼象与症状信息的信息关联装置,具体为采集图像样本和相应的人口学信息,图像样本包括糖尿病人群和正常人群的双眼眼象图像;对图像样本进行预处理,得到训练样本集;对训练样本集中的每个训练样本进行标注;利用训练样本集对深度残差神经网络进行训练,得到图像级分类器;将图像级分类器与人口学信息进行结合,得到糖尿病样本级分类器。即通过本方案能够得到一种糖尿病样本级分类器,该糖尿病样本级分类器能够将受检者的双眼眼象图像与相应症状信息建立关联,从而能够帮助医生对糖尿病进行有效诊断。具体来说,本申请的技术方案能够为医生提供一种诊断工具,而此种诊断工具不需要对受检者进行有创诊断,从而不仅避免了对受检者的身体创伤,还能够避免其发生感染。
另外,在本申请实施例的一个具体实施方式中,还包括遮挡试验模块,如图8所示:
遮挡试验模块用于基于糖尿病样本级分类器进行眼象图像遮挡试验。
通过眼象图像遮挡试验对图像样本进行处理,得到与糖尿病症状相关的重要眼象区和眼象特征,或者其中之一。该模块具体包括图像标注单元、遮挡执行单元、预测执行单元、绘图执行单元和数据执行单元。
图像标注单元用于自动化标注虹膜区域并计算虹膜中心坐标。
利用图像处理算法,从图像样本中提取虹膜区域,得到虹膜部分的边框位置(x1,x2,y1,y2)。则当眼睛下视、左视、右视、上视时,虹膜中心坐标分别为
Figure BDA0002866376120000131
其中r为虹膜半径,由虹膜完全暴露的图像中平均边框长宽计算而得。
使用的图像处理算法包括但不限于图像增强、腐蚀、膨胀、边缘检测,及联通区域的划分等。
遮挡执行单元使用一个固定大小的图块(patch),对于测试集的每张眼象图,以虹膜中心为基准,分别向视角的反方向进行滑动遮挡。
具体地,以下视图为例,假设该图的虹膜中心坐标为(x0,y0),该遮挡图块大小为w*h,则依次遮挡(x0-m*w,x0(m-1)*w,y0-n*h,y0(n-1)*h)区域。其中,m可为所有整数,n为正整数。当遮挡图块滑动到图像边缘时,遮挡图块大小自动缩小以适配图像。
预测执行单元用于对于每一次遮挡,即一对(m,n),使用糖尿病诊断模型对遮挡图像进行预测,并分别在双眼的眼象图中计算此次遮挡后的糖尿病诊断准确率差值。如果其准确率低于未遮挡时的准确率,则认为此区域(以下称之为信息区域)含有糖尿病相关特征。
绘图执行单元用于绘制融合热图。
以虹膜中心为原点,统计信息区域的坐标,以该区域遮挡时的准确率下降值为热度,分别对左右眼绘制热度图。然后将左眼的热度图进行水平翻转,与右眼的热度图进行平均值融合。结果如图5所示,圆点为虹膜中心,灰色区域表示信息区域,颜色越深,则代表此区域对糖尿病诊断模型的准确率更加重要。
数据计算单元用于对于信息区域内的特征,计算其在糖尿病患者及健康人群中的分布。
具体特征包括但不限于:图像的R、G、B通道和H、S、V通道等通用特征,以及斑、月晕、雾漫、血脉、丘、点、底色等眼象特征。对以上特征在糖尿病患者和对照人群眼象中的分布做差异性检验。在指定显著性水平(α)下,认为在糖尿病患者和健康人群中分布显著不同的眼象特征为糖尿病关联的眼象特征。其中所用差异性检验方法包括但不限于校正/不校正的卡方检验和Fisher精确检验。如图6所示,方块区域为信息区域,圆圈标注了糖尿病相关特征。
最后,为了观察不同尺度的特征分布,则可以调整遮挡图块的大小,然后再次上述步骤。具体地,遮挡图块大小可为w╳h,其中w,h可为(1,223)之间整数。
本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
本领域内的技术人员应明白,本发明实施例的实施例可提供为方法、装置、或计算机程序产品。因此,本发明实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上,使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明实施例的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例做出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后,还需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本发明所提供的技术方案进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (10)

1.一种眼象与症状信息的信息关联方法,其特征在于,所述信息关联方法包括步骤:
采集图像样本和人口学信息,所述图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像,所述人口学信息包括糖尿病人群的人口学信息和正常人群的人口学信息;
对所述图像样本进行预处理,得到训练样本集;
对所述训练样本集中的每个训练样本进行标注;
利用所述训练样本集对深度残差神经网络进行训练,得到图像级分类器;
将所述图像级分类器与所述人口学信息进行结合,得到糖尿病样本级分类器。
2.如权利要求1所述的信息关联方法,其特征在于,所述对所述图像样本进行预处理,得到训练样本集,包括步骤:
对所述双眼眼象图像进行前景提取处理,使所述双眼眼象图像中仅保留眼表巩膜图像和虹膜图像,并对所述双眼眼象图像进行归一化处理;
对所述双眼眼象图像进行增强处理,得到所述训练样本集。
3.如权利要求2所述的信息关联方法,其特征在于,所述对所述双眼眼象图像进行前景提取处理,包括步骤:
从所述图像样本中提取部分图像样本作为图像数据集,并对所述图像数据集进行标注;
基于经过标注的所述图像数据集构建前景分类数据集,所述前景分类数据集包括前景分类训练集、前景分类验证集和前景分类测试集;
利用所述前景分类数据集对构建的基于像素级的卷积神经网络进行训练,得到前景分类器;
基于所述前景分类器对所述图像样本进行分割处理,使每幅所述图像样本仅保留所述眼表巩膜图像和所述虹膜图像。
4.如权利要求1~3任一项所述的信息关联方法,其特征在于,还包括步骤:
基于所述糖尿病样本级分类器进行眼象图像遮挡试验,得到与糖尿病症状相关的重要眼象区和/或眼象特征。
5.如权利要求4所述的信息关联方法,其特征在于,所述基于所述糖尿病样本集分类器进行眼象图像遮挡试验,得到与糖尿病症状相关的重要眼象区域和/或眼象特征,包括步骤:
标注所述训练样本集中的双眼眼象图像的虹膜区域,并计算所述虹膜区域的中心坐标;
以所述中心坐标为基准,使用固定大小的图块对所述双眼眼象图像依次进行滑动遮挡;
对于每一次的遮挡后的遮挡图像,利用所述糖尿病样本集分类器对所述遮挡图像进行预测,并根据预测结果计算诊断准确率差值;
以所述中心坐标为原点并基于所述诊断准确率差值绘制融合热图,所述融合热图中的颜色与所述诊断准确率差值相关;
基于所述融合热图进行计算,得到所述重要眼象区域和/或所述眼象特征。
6.一种眼象与症状信息的信息关联装置,其特征在于,所述信息关联装置包括:
数据采集模块,用于采集图像样本和人口学信息,所述图像样本包括糖尿病人群的双眼眼象图像和正常人群的双眼眼象图像,所述人口学信息包括糖尿病人群的人口学信息和正常人群的人口学信息;
数据预处理模块,用于对所述图像样本进行预处理,得到训练样本集;
样本标注模块,用于对所述训练样本集中的每个训练样本进行标注;
模型训练模块,用于利用所述训练样本集对深度残差神经网络进行训练,得到图像级分类器;
信息融合模块,用于将所述图像级分类器与所述人口学信息进行结合,得到糖尿病样本级分类器。
7.如权利要求6所述的信息关联装置,其特征在于,所述数据预处理模块包括:
前景提取单元,用于对所述双眼眼象图像进行前景提取处理,使所述双眼眼象图像中仅保留眼表巩膜图像和虹膜图像,并对所述双眼眼象图像进行归一化处理;
图像增强单元,用于对所述双眼眼象图像进行增强处理,得到所述训练样本集。
8.如权利要求7所述的信息关联装置,其特征在于,所述前景提取单元包括:
样本提取子单元,用于从所述图像样本中提取部分图像样本作为图像数据集,并对所述图像数据集进行标注;
数据集构建子单元,用于基于经过标注的所述图像数据集构建前景分类数据集,所述前景分类数据集包括前景分类训练集、前景分类验证集和前景分类测试集;
模型训练子单元,用于利用所述前景分类数据集对构建的基于像素级的卷积神经网络进行训练,得到前景分类器;
分割处理子单元,用于基于所述前景分类器对所述图像样本进行分割处理,使每幅所述图像样本仅保留所述眼表巩膜图像和所述虹膜图像。
9.如权利要求6~8任一项所述的信息关联装置,其特征在于,还包括:
遮挡试验模块,用于基于所述糖尿病样本级分类器进行眼象图像遮挡试验,得到与糖尿病症状相关的重要眼象区和/或眼象特征。
10.如权利要求9所述的信息关联装置,其特征在于,所述遮挡试验模块包括:
图像标注单元,用于标注所述训练样本集中的双眼眼象图像的虹膜区域,并计算所述虹膜区域的中心坐标;
遮挡执行单元,用于以所述中心坐标为基准,使用固定大小的图块对所述双眼眼象图像依次进行滑动遮挡;
预测执行单元,用于对于每一次的遮挡后的遮挡图像,利用所述糖尿病样本集分类器对所述遮挡图像进行预测,并根据预测结果计算诊断准确率差值;
绘图执行模块,用于以所述中心坐标为原点并基于所述诊断准确率差值绘制融合热图,所述融合热图中的颜色与所述诊断准确率差值相关;
数据计算单元,用于基于所述融合热图进行计算,得到所述重要眼象区域和/或所述眼象特征。
CN202011583200.6A 2020-12-28 2020-12-28 一种眼象与症状信息的信息关联方法 Active CN112686855B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011583200.6A CN112686855B (zh) 2020-12-28 2020-12-28 一种眼象与症状信息的信息关联方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011583200.6A CN112686855B (zh) 2020-12-28 2020-12-28 一种眼象与症状信息的信息关联方法

Publications (2)

Publication Number Publication Date
CN112686855A true CN112686855A (zh) 2021-04-20
CN112686855B CN112686855B (zh) 2024-04-16

Family

ID=75454073

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011583200.6A Active CN112686855B (zh) 2020-12-28 2020-12-28 一种眼象与症状信息的信息关联方法

Country Status (1)

Country Link
CN (1) CN112686855B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113378794A (zh) * 2021-07-09 2021-09-10 博奥生物集团有限公司 一种眼象与症状信息的信息关联方法
CN114694236A (zh) * 2022-03-08 2022-07-01 浙江大学 一种基于循环残差卷积神经网络的眼球运动分割定位方法
CN115775410A (zh) * 2023-02-13 2023-03-10 博奥生物集团有限公司 一种眼象数据的处理方法、系统、存储介质及电子设备
CN116030042A (zh) * 2023-02-24 2023-04-28 智慧眼科技股份有限公司 一种针对医生目诊的诊断装置、方法、设备及存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130266214A1 (en) * 2012-04-06 2013-10-10 Brighham Young University Training an image processing neural network without human selection of features
US20170357879A1 (en) * 2017-08-01 2017-12-14 Retina-Ai Llc Systems and methods using weighted-ensemble supervised-learning for automatic detection of ophthalmic disease from images
CN109800789A (zh) * 2018-12-18 2019-05-24 中国科学院深圳先进技术研究院 基于图网络的糖尿病视网膜病变分类方法及装置
CN110236483A (zh) * 2019-06-17 2019-09-17 杭州电子科技大学 一种基于深度残差网络的糖尿病性视网膜病变检测的方法
CN111028232A (zh) * 2019-12-31 2020-04-17 上海鹰瞳医疗科技有限公司 基于眼底图像的糖尿病分类方法及设备
CN111080643A (zh) * 2019-12-31 2020-04-28 上海鹰瞳医疗科技有限公司 基于眼底图像的糖尿病及相关疾病的分类方法及设备
WO2020103288A1 (zh) * 2018-11-21 2020-05-28 福州依影健康科技有限公司 糖网眼底特征数据变化的分析方法与系统,及存储设备
CN111784687A (zh) * 2020-07-22 2020-10-16 上海理工大学 一种基于深度学习的青光眼眼底图像检测方法
CN112075922A (zh) * 2020-10-14 2020-12-15 中国人民解放军空军军医大学 2型糖尿病眼底图像指标的测量及与糖尿病肾病相关性的分析方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130266214A1 (en) * 2012-04-06 2013-10-10 Brighham Young University Training an image processing neural network without human selection of features
US20170357879A1 (en) * 2017-08-01 2017-12-14 Retina-Ai Llc Systems and methods using weighted-ensemble supervised-learning for automatic detection of ophthalmic disease from images
WO2020103288A1 (zh) * 2018-11-21 2020-05-28 福州依影健康科技有限公司 糖网眼底特征数据变化的分析方法与系统,及存储设备
CN109800789A (zh) * 2018-12-18 2019-05-24 中国科学院深圳先进技术研究院 基于图网络的糖尿病视网膜病变分类方法及装置
CN110236483A (zh) * 2019-06-17 2019-09-17 杭州电子科技大学 一种基于深度残差网络的糖尿病性视网膜病变检测的方法
CN111028232A (zh) * 2019-12-31 2020-04-17 上海鹰瞳医疗科技有限公司 基于眼底图像的糖尿病分类方法及设备
CN111080643A (zh) * 2019-12-31 2020-04-28 上海鹰瞳医疗科技有限公司 基于眼底图像的糖尿病及相关疾病的分类方法及设备
CN111784687A (zh) * 2020-07-22 2020-10-16 上海理工大学 一种基于深度学习的青光眼眼底图像检测方法
CN112075922A (zh) * 2020-10-14 2020-12-15 中国人民解放军空军军医大学 2型糖尿病眼底图像指标的测量及与糖尿病肾病相关性的分析方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
MOHAMMADREZA AZIMI ET.AL: "The Effects of Gender Factor and Diabetes Mellitus on the Iris Recognition System’s Accuracy and Reliability", IEEE XPLORE *
张子振;刘明;朱德江;: "融合注意力机制和高效网络的糖尿病视网膜病变识别与分类", 中国图象图形学报, no. 08 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113378794A (zh) * 2021-07-09 2021-09-10 博奥生物集团有限公司 一种眼象与症状信息的信息关联方法
CN114694236A (zh) * 2022-03-08 2022-07-01 浙江大学 一种基于循环残差卷积神经网络的眼球运动分割定位方法
CN114694236B (zh) * 2022-03-08 2023-03-24 浙江大学 一种基于循环残差卷积神经网络的眼球运动分割定位方法
CN115775410A (zh) * 2023-02-13 2023-03-10 博奥生物集团有限公司 一种眼象数据的处理方法、系统、存储介质及电子设备
CN116030042A (zh) * 2023-02-24 2023-04-28 智慧眼科技股份有限公司 一种针对医生目诊的诊断装置、方法、设备及存储介质

Also Published As

Publication number Publication date
CN112686855B (zh) 2024-04-16

Similar Documents

Publication Publication Date Title
CN112686855B (zh) 一种眼象与症状信息的信息关联方法
CN110120047B (zh) 图像分割模型训练方法、图像分割方法、装置、设备及介质
EP3674968B1 (en) Image classification method, server and computer readable storage medium
Asiri et al. Deep learning based computer-aided diagnosis systems for diabetic retinopathy: A survey
Kwasigroch et al. Deep CNN based decision support system for detection and assessing the stage of diabetic retinopathy
US20220076420A1 (en) Retinopathy recognition system
Tian et al. Multi-path convolutional neural network in fundus segmentation of blood vessels
US20170270653A1 (en) Retinal image quality assessment, error identification and automatic quality correction
CN112017185B (zh) 病灶分割方法、装置及存储介质
CN106530295A (zh) 一种视网膜病变的眼底图像分类方法和装置
CN112132817A (zh) 一种混合注意力机制的眼底图像视网膜血管分割方法
CN111882566B (zh) 视网膜图像的血管分割方法、装置、设备及存储介质
CN112541923B (zh) 一种基于眼底图数据集迁移学习的视杯视盘分割方法
CN113889267A (zh) 基于眼象识别的糖尿病诊断模型的构建方法和电子设备
CN117058676B (zh) 一种基于眼底检查影像的血管分割方法、装置和系统
CN113012163A (zh) 一种基于多尺度注意力网络的视网膜血管分割方法、设备及存储介质
Matovinovic et al. Transfer learning with U-Net type model for automatic segmentation of three retinal layers in optical coherence tomography images
Phridviraj et al. A bi-directional Long Short-Term Memory-based Diabetic Retinopathy detection model using retinal fundus images
Bhattacharya et al. PY-Net: rethinking segmentation frameworks with dense pyramidal operations for optic disc and cup segmentation from retinal fundus images
Lamba et al. Machine learning based segmentation and classification algorithms for glaucoma detection
Jana et al. A semi-supervised approach for automatic detection and segmentation of optic disc from retinal fundus image
CN113378794A (zh) 一种眼象与症状信息的信息关联方法
CN113052012B (zh) 一种基于改进d-s证据的眼疾图像识别方法及系统
CN114140381A (zh) 一种基于MDP-net的玻璃体混浊分级筛查方法及装置
CN110189299A (zh) 一种基于MoileNet的脑血管事件自动识别方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant