CN114170214A - 基于眼底图像的高度近视检测方法及相关装置 - Google Patents

基于眼底图像的高度近视检测方法及相关装置 Download PDF

Info

Publication number
CN114170214A
CN114170214A CN202111529563.6A CN202111529563A CN114170214A CN 114170214 A CN114170214 A CN 114170214A CN 202111529563 A CN202111529563 A CN 202111529563A CN 114170214 A CN114170214 A CN 114170214A
Authority
CN
China
Prior art keywords
fundus image
network model
training
model
high myopia
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111529563.6A
Other languages
English (en)
Inventor
李建强
赵慧凤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Technology
Original Assignee
Beijing University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Technology filed Critical Beijing University of Technology
Priority to CN202111529563.6A priority Critical patent/CN114170214A/zh
Publication of CN114170214A publication Critical patent/CN114170214A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic

Abstract

本发明提供一种基于眼底图像的高度近视检测方法,包括:获取待检测眼底图像;将所述待检测眼底图像输入到高度近视检测模型中,得到所述待检测眼底图像的高度近视检测结果;其中,所述高度近视检测模型是基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的;其中,所述自适应课程学习模块,用于筛选带标签眼底图像样本,并按照确定的顺序将筛选后的所述带标签眼底图像样本依次传递给学生分类网络模型;所述半监督迁移学习框架包括预训练源模型和半监督教师网络模型。

Description

基于眼底图像的高度近视检测方法及相关装置
技术领域
本发明涉及图像处理技术领域,尤其涉及一种基于眼底图像的高度近视检测方法及相关装置。
背景技术
从眼底图像中检测各类疾病已经成为一种医疗技术手段,眼睛屈光度大于等于600度的定义为高度近视,为了得到能从眼底图像检测出近视程度的高度近视风险预测模型,在生成高度近视风险预测模型时,现有技术大多直接将获取到的数据集放入目前流行的深度学习模型中进行训练,但是在现实世界中,高度近视的眼底图像数据集很小,在临床收集的数据集中,非高度近视的眼底图像数据集和高度近视的眼底图像数据集极不平衡,直接用大型的分类网络训练高度近视风险预测模型,存在严重的过拟合问题,而且以此方法训练出的高度近视风险预测模型,很难区分一些介于600度左右的眼底图像硬样本。
发明内容
本发明提供一种基于眼底图像的高度近视检测方法及相关装置,用以解决现有技术中直接用大型分类网络训练的高度近视风险预测模型存在严重的过拟合问题,以及难以区分眼底图像硬样本的缺陷。
第一方面,本发明提供一种基于眼底图像的高度近视检测方法,包括:
获取待检测眼底图像;
将所述待检测眼底图像输入到高度近视检测模型中,得到所述待检测眼底图像的高度近视检测结果;
其中,所述高度近视检测模型是基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的;
其中,所述自适应课程学习模块,用于筛选带标签眼底图像样本,并按照确定的顺序将筛选后的所述带标签眼底图像样本依次传递给学生分类网络模型;
所述半监督迁移学习框架包括预训练源模型和半监督教师网络模型。
可选地,所述方法还包括:训练得到所述高度近视检测模型;
所述训练得到所述高度近视检测模型,包括:
基于通用数据集对源模型进行预训练,得到所述预训练源模型;
将所述预训练源模型的知识自适应迁移至学生分类网络模型;
利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练,并通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调,得到所述高度近视检测模型。
可选地,所述将所述预训练源模型的知识自适应迁移至学生分类网络模型,包括:
将所述带标签眼底图像样本数据集输入到所述预训练源模型中,利用所述预训练源模型的参数对学生分类网络模型进行初始化;
得到多个带标签眼底图像样本对应的一维向量;
根据所述一维向量,计算所述多个带标签眼底图像样本对应的样本重要性;
根据所述样本重要性对所述带标签眼底图像样本数据集进行筛选,得到筛选后的带标签眼底图像样本,并按照确定的顺序将所述筛选后的带标签眼底图像样本传递给所述学生分类网络模型。
可选地,所述利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练,并通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调,得到所述高度近视检测模型,包括:
将所述筛选后的带标签眼底图像样本输入至所述学生分类网络模型;
将所述带标签眼底图像样本数据集和所述无标签眼底图像样本数据集输入到所述半监督教师网络模型,计算带标签眼底图像样本的特征表示和无标签眼底图像样本的特征表示之间的距离;
根据所述带标签眼底图像样本、无标签眼底图像样本和所述特征表示之间的距离计算损失,根据所述损失更新所述学生分类网络模型和半监督教师网络模型的参数;
判断是否达到训练结束条件,在达到训练结束条件的情况下,保存所述学生分类网络模型的参数,得到所述高度近视检测模型。
可选地,所述根据所述一维向量,计算所述多个带标签眼底图像样本对应的样本重要性,包括:
根据所述一维向量,计算所述一维向量对应的熵;
根据所述一维向量对应的熵和熵门函数,得到所述多个带标签眼底图像样本对应的样本重要性;
其中,所述熵门函数用于将所述一维向量对应的熵转换为重要性。
可选地,所述根据所述样本重要性对所述带标签眼底图像样本数据集进行筛选,得到筛选后的带标签眼底图像样本,并按照确定的顺序将所述筛选后的带标签眼底图像样本传递给所述学生分类网络模型,包括:
根据所述样本重要性,使用加权版本替换交叉熵损失,计算每个所述带标签眼底图像样本的预测误差;
根据所述预测误差,筛选处于预设范围内的所述带标签眼底图像样本;
将筛选完成的所述处于预设范围内的所述带标签眼底图像样本按照所述样本重要性排序;
将所述排序完成的所述处于预设范围内的所述带标签眼底图像样本,按照样本重要性由高到低依次传递给所述学生分类网络模型。
第二方面,本发明提供一种基于眼底图像的高度近视检测装置,包括:
获取模块,用于获取待检测眼底图像;
图像分类模块,用于将所述待检测眼底图像输入到高度近视检测模型中,得到所述待检测眼底图像的高度近视检测结果;
其中,所述高度近视检测模型是基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的;
其中,所述自适应课程学习模块,用于筛选带标签眼底图像样本,并按照确定的顺序将筛选后的所述带标签眼底图像样本依次传递给学生分类网络模型;
所述半监督迁移学习框架包括预训练源模型和半监督教师网络模型。
可选地,所述装置还包括:训练模块:用于训练得到所述高度近视检测模型;
所述训练得到所述高度近视检测模型,包括:
基于通用数据集对源模型进行预训练,得到所述预训练源模型;
将所述预训练源模型的知识自适应迁移至学生分类网络模型;
利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练,并通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调,得到所述高度近视检测模型。
第三方面,本发明提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如第一方面提供的基于眼底图像的高度近视检测方法的步骤。
第四方面,本发明提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面提供的基于眼底图像的高度近视检测方法的步骤。
本发明提供的基于眼底图像的高度近视检测方法及相关装置,通过将预训练和自适应课程学习进行结合,让学生分类网络模型从简单易区分的样本学起,摆脱固定课程不能自适应更新的缺陷,使训练得到的高度近视检测模型能稳健的识别原本难以识别的眼底图像硬样本,而且充分的利用无标签眼底图像样本数据集,采用半监督迁移学习的方法,进一步提高高度近视检测模型的泛化能力。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明提供的高度近视检测模型训练流程示意图之一;
图2是本发明提供的高度近视检测模型训练流程示意图之二
图3是本发明提供的高度近视检测模型训练流程示意图之三;
图4是本发明提供的基于眼底图像的高度近视检测装置的结构示意图;
图5是本发明提供的电子设备的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明实施例提供一种基于眼底图像的高度近视检测方法,包括:
步骤101、获取待检测眼底图像;
步骤102、将所述待检测眼底图像输入到高度近视检测模型中,得到所述待检测眼底图像的高度近视检测结果;
其中,所述高度近视检测模型是基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的;
其中,所述自适应课程学习模块,用于筛选带标签眼底图像样本,并按照确定的顺序将筛选后的所述带标签眼底图像样本依次传递给学生分类网络模型;
所述半监督迁移学习框架包括预训练源模型和半监督教师网络模型。
在本发明实施例中,利用预先训练好的高度近视检测模型对待检测眼底图像进行处理,可以获得待检测眼底图像的高度近视检测结果。
自适应课程学习模块应用课程学习的思想为学生分类网络模型的训练筛选符合条件的带标签眼底图像样本。
需要说明的是,本发明实施例是基于半监督迁移学习框架对学生分类网络模型进行训练的,半监督迁移学习框架包括预训练源模型和半监督教师网络模型。
预训练源模型为学生分类网络模型的训练提供初始化参数,半监督教师网络模型对学生分类网络模型的训练进行微调。
如图2所示,采用如下方法训练得到所述高度近视检测模型:
步骤201、基于通用数据集对源模型进行预训练,得到所述预训练源模型。
本发明实施例,使用通用数据集在源模型上进行预训练,得到包括预训练表征函数F和特定于任务的函数G的预训练源模型。
通用数据集可以是ImageNet数据集,也可以是其他具有不同语义的数据集,本发明实施例对此不作具体限定。
步骤202、将所述预训练源模型的知识自适应迁移至学生分类网络模型;
本发明实施例,在预训练源模型利用通用数据集预训练的特征权重的基础上,将带标签眼底图像样本数据集输入到预训练源模型中,通过特征层来提取预训练源模型的知识,将预训练源模型的知识自适应的迁移到学生分类网络模型。
由于预训练源模型和学生分类网络模型执行的是两个不同的任务,在通过特征层提取预训练源模型的知识的情况下,使用输入到预训练源模型中的带标签眼底图像样本数据集,来约束预训练源模型特征提取器和学生分类网络模型特征提取器之间输出的加权KL(Kullback–Leibler)散度,防止由于通用数据集和带标签眼底图像样本数据集之间的差异导致的负转移。
加权KL散度值RK的表达式如下:
Figure BDA0003410233830000071
Bi是一小批带标签的样本,
Figure BDA0003410233830000072
是整个带标签的样本,
Figure BDA0003410233830000073
是样本重要性,
Figure BDA0003410233830000074
是预训练模型特征提取器,Fθ是学生分类网络模型特征提取器,
Figure BDA0003410233830000075
是带标签的样本。
步骤203、利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练,并通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调,得到所述高度近视检测模型。
本发明实施例,在利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练的同时,通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调。
可选地,半监督教师网络模型采用Resnet50模型。
半监督教师网络模型使用经典度量最大平均差异来度量带标签眼底图像样本数据集的特征表示和无标签眼底图像样本数据集的特征表示之间的距离。
通过半监督教师网络模型计算的特征表示之间的距离,对学生分类网络模型进行微调,进一步提高学生分类网络模型的泛化能力,最终提高高度近视检测模型的泛化能力。
本发明实施例,通过将预训练和自适应课程学习进行结合,让学生分类网络模型从简单易区分的样本学起,摆脱固定课程不能自适应更新的缺陷,使训练得到的高度近视检测模型能稳健的识别原本难以识别的眼底图像硬样本,而且充分的利用无标签眼底图像样本数据集,采用半监督迁移学习的方法,进一步提高高度近视检测模型的泛化能力。
可选地,所述将所述预训练源模型的知识自适应迁移至学生分类网络模型,包括:
将所述带标签眼底图像样本数据集输入到所述预训练源模型中,利用所述预训练源模型的参数对学生分类网络模型进行初始化;
得到多个带标签眼底图像样本对应的一维向量;
根据所述一维向量,计算所述多个带标签眼底图像样本对应的样本重要性;
根据所述样本重要性对所述带标签眼底图像样本数据集进行筛选,得到筛选后的带标签眼底图像样本,并按照确定的顺序将所述筛选后的带标签眼底图像样本传递给所述学生分类网络模型。
本发明实施例,在预训练源模型训练得到的特征权重的基础上,将带标签眼底图像样本数据集输入到所述预训练源模型中,在特征权重的基础上,嵌入眼底图像的特征向量,得到学生分类网络模型的初始化信息,对学生分类网络模型进行初始化。
将预训练模型训练得到的知识作为学生分类网络模型的初始化信息,使学生分类网络模型的训练有了更好的起点,具有良好的分类性能。
本发明实施例,预训练源模型将带标签眼底图像样本交给SoftMax处理,得到每个带标签眼底图像样本的一维向量,通过计算每个带标签眼底图像样本的一维向量的熵,得到每个带标签眼底图像样本的样本重要性。
按照样本重要性对带标签眼底图像样本进行筛选,选择符合要求的带标签眼底图像样本,并根据样本重要性对符合要求的带标签眼底图像样本进行排序,再按照确定的顺序将符合要求的带标签眼底图像样本传递给学生分类网络模型。
本发明实施例,结合课程学习的思想,设置自适应课程学习模块,通过课程学习模块,对带标签眼底图像样本进行筛选,并且将符合要求的带标签眼底图像样本按照样本重要性大小提供给学生分类网络模型,使得学生分类网络模型可以通过由易到难的学习分类训练过程,更稳健的识别眼底图像硬样本。
可选地,所述利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练,并通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调,得到所述高度近视检测模型,包括:
将所述筛选后的带标签眼底图像样本输入至所述学生分类网络模型;
将所述带标签眼底图像样本数据集和所述无标签眼底图像样本数据集输入到所述半监督教师网络模型,计算带标签眼底图像样本的特征表示和无标签眼底图像样本的特征表示之间的距离;
根据所述带标签眼底图像样本、无标签眼底图像样本和所述特征表示之间的距离计算损失,根据所述损失更新所述学生分类网络模型和半监督教师网络模型的参数;
判断是否达到训练结束条件,在达到训练结束条件的情况下,保存所述学生分类网络模型的参数,得到所述高度近视检测模型。
本发明实施例,将带标签眼底图像样本数据集和无标签眼底图像样本数据集输入到半监督教师网络模型中进行训练,使用经典度量最大平均差异MMD来测量带标签眼底图像样本数据集的特征表示和无标签眼底图像样本数据集的特征表示之间的距离。
特征表示之间的距离计算式如下:
Figure BDA0003410233830000101
其中,
Figure BDA0003410233830000102
Figure BDA0003410233830000103
为由
Figure BDA0003410233830000104
Figure BDA0003410233830000105
生成的特征表示分布,
Figure BDA0003410233830000106
为选定的带标签眼底图像样本的表示集,
Figure BDA0003410233830000107
为选定的无标签眼底图像样本的表示集。
由于带标签眼底图像样本数据集的样本很少,为了提升学生分类网络模型的泛化能力,应用半监督教师网络模型,将带标签眼底图像样本数据集和无标签眼底图像样本数据集一起输入到半监督教师网络模型中,尽可能的缩小带标签眼底图像样本数据和无标签眼底图像样本数据的特征分布,减少由于带标签眼底图像样本数据集的样本很少产生的过度拟合问题。
本发明实施例,将自适应课程学习模块传输的筛选排序后的带标签眼底图像样本和半监督教师网络模型提供的特征表示之间的距离,对学生分类网络模型进行训练,计算学生分类网络模型的损失,并根据损失更新学生分类网络模型和半监督教师网络模型的参数。
半监督教师网络模型的损失函数如下:
Figure BDA0003410233830000111
其中,LS是半监督损失值,λS是半监督一致性损失的加权因子,其中λR是正则化器的稀有加权因子,
Figure BDA0003410233830000112
是带标记样本,
Figure BDA0003410233830000113
是未带标记样本。
学生分类网络模型的损失函数如下;
Figure BDA0003410233830000114
Figure BDA0003410233830000115
是样本重要性,λK是加权因子,LCE是交叉熵损失,θ,φ是特征提取器和分类器的参数,RK是加权KL散度值。
判断学生分类网络模型是否达到训练结束的条件,在达到训练结束条件之后,保存学生分类网络模型相关的参数,得到高度近视检测模型。
需要说明的是,训练结束的条件可以是学生分类网络模型对眼底图像样本数据进行分类的准确率达到要求,也可以是学生分类网络模型进行训练的次数达到要求,可以根据需要对训练结束条件进行设置,本发明实施例对此具体限定。
可选地,所述根据所述一维向量,计算所述多个带标签眼底图像样本对应的样本重要性,包括:
根据所述一维向量,计算所述一维向量对应的熵;
根据所述一维向量对应的熵和熵门函数,得到所述多个带标签眼底图像样本对应的样本重要性;
其中,所述熵门函数用于将所述一维向量对应的熵转换为重要性。
本发明实施例,通过计算一维向量的熵,进而根据熵门函数将一维向量的熵转换成样本重要性的值,通过熵门函数对一维向量的熵的转化,使得自适应课程学习模块能根据样本重要性来判断带标签眼底图像样本的识别难易程度,简化了自适应课程学习的实现过程。
一维向量的表示形式
Figure BDA0003410233830000121
Figure BDA0003410233830000122
θ0是预训练源模型的特征提取器的参数,φ0是预训练源模型的分类器的参数。
样本xi的样本重要性的计算公式为:
Figure BDA0003410233830000123
Figure BDA0003410233830000124
是熵门函数,将计算的熵转换成样本重要性的值。
可选地,所述根据所述样本重要性对所述带标签眼底图像样本数据集进行筛选,得到筛选后的带标签眼底图像样本,并按照确定的顺序将所述筛选后的带标签眼底图像样本传递给所述学生分类网络模型,包括:
根据所述样本重要性,使用加权版本替换交叉熵损失,计算每个所述带标签眼底图像样本的预测误差;
根据所述预测误差,筛选处于预设范围内的所述带标签眼底图像样本;
将筛选完成的所述处于预设范围内的所述带标签眼底图像样本按照所述样本重要性排序;
将所述排序完成的所述处于预设范围内的所述带标签眼底图像样本,按照样本重要性由高到低依次传递给所述学生分类网络模型
本发明实施例,根据样本重要性,计算带标签眼底图像样本的预测误差,进而根据预测误差,对带标签眼底图像样本进行筛选。
在不同的训练时期,计算得到的样本重要性并不相同,根据不同时期样本重要性来计算不同时期的预测误差,进而在不同时期对带标签眼底图像样本进行自适应筛选,实现了不同时期的自适应课程学习。
将筛选完成的处于预设范围内的带标签眼底图像样本按照样本重要性排序,按照样本重要性由高到低依次传递给学生分类网络模型,使得学生分类网络模型能先学习样本重要性高的、容易识别的带标签眼底图像样本。
加权版本替换交叉熵损失的计算方式如下:
Figure BDA0003410233830000131
其中,LCE是常用的交叉熵损失,表示预测误差。
图3是本发明提供的高度近视检测模型训练流程示意图之三,如图3所示,本发明实施例训练高度近视检测模型基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的。
图4是本发明实施例提供一种基于眼底图像的高度近视检测装置,包括:
获取模块401,用于获取待检测眼底图像;
图像分类模块402,用于将所述待检测眼底图像输入到高度近视检测模型中,得到所述待检测眼底图像的高度近视检测结果;
其中,所述高度近视检测模型是基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的;
其中,所述自适应课程学习模块,用于筛选带标签眼底图像样本,并按照确定的顺序将筛选后的所述带标签眼底图像样本依次传递给学生分类网络模型;
所述半监督迁移学习框架包括预训练源模型和半监督教师网络模型。
可选地,所述装置还包括:训练模块:用于训练得到所述高度近视检测模型;
所述训练得到所述高度近视检测模型,包括:
基于通用数据集对源模型进行预训练,得到所述预训练源模型;
将所述预训练源模型的知识自适应迁移至学生分类网络模型;
利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练,并通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调,得到所述高度近视检测模型。
可选地,所述将所述预训练源模型的知识自适应迁移至学生分类网络模型,包括:
将所述带标签眼底图像样本数据集输入到所述预训练源模型中,利用所述预训练源模型的参数对学生分类网络模型进行初始化;
得到多个带标签眼底图像样本对应的一维向量;
根据所述一维向量,计算所述多个带标签眼底图像样本对应的样本重要性;
根据所述样本重要性对所述带标签眼底图像样本数据集进行筛选,得到筛选后的带标签眼底图像样本,并按照确定的顺序将所述筛选后的带标签眼底图像样本传递给所述学生分类网络模型。
可选地,所述利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练,并通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调,得到所述高度近视检测模型,包括:
将所述筛选后的带标签眼底图像样本输入至所述学生分类网络模型;
将所述带标签眼底图像样本数据集和所述无标签眼底图像样本数据集输入到所述半监督教师网络模型,计算带标签眼底图像样本的特征表示和无标签眼底图像样本的特征表示之间的距离;
根据所述带标签眼底图像样本、无标签眼底图像样本和所述特征表示之间的距离计算损失,根据所述损失更新所述学生分类网络模型和半监督教师网络模型的参数;
判断是否达到训练结束条件,在达到训练结束条件的情况下,保存所述学生分类网络模型的参数,得到所述高度近视检测模型。
可选地,所述根据所述一维向量,计算所述多个带标签眼底图像样本对应的样本重要性,包括:
根据所述一维向量,计算所述一维向量对应的熵;
根据所述一维向量对应的熵和熵门函数,得到所述多个带标签眼底图像样本对应的样本重要性;
其中,所述熵门函数用于将所述一维向量对应的熵转换为重要性。
可选地,所述根据所述样本重要性对所述带标签眼底图像样本数据集进行筛选,得到筛选后的带标签眼底图像样本,并按照确定的顺序将所述筛选后的带标签眼底图像样本传递给所述学生分类网络模型,包括:
根据所述样本重要性,使用加权版本替换交叉熵损失,计算每个所述带标签眼底图像样本的预测误差;
根据所述预测误差,筛选处于预设范围内的所述带标签眼底图像样本;
将筛选完成的所述处于预设范围内的所述带标签眼底图像样本按照所述样本重要性排序;
将所述排序完成的所述处于预设范围内的所述带标签眼底图像样本,按照样本重要性由高到低依次传递给所述学生分类网络模型。
在此需要说明的是,本发明实施例提供的上述基于眼底图像的高度近视检测装置,能够实现上述基于眼底图像的高度近视检测方法实施例所实现的所有方法步骤,且能够达到相同的技术效果,在此不再赘述。
本发明提供的基于眼底图像的高度近视检测装置,通过将预训练和自适应课程学习进行结合,让学生分类网络模型从简单易区分的样本学起,摆脱固定课程不能自适应更新的缺陷,使训练得到的高度近视检测模型能稳健的识别原本难以识别的眼底图像硬样本,而且充分的利用无标签眼底图像样本数据集,采用半监督迁移学习的方法,进一步提高高度近视检测模型的泛化能力。
图5示例了一种电子设备的实体结构示意图,如图5所示,该电子设备可以包括:处理器(processor)510、通信接口(Communications Interface)520、存储器(memory)530和通信总线540,其中,处理器510,通信接口520,存储器530通过通信总线540完成相互间的通信。处理器510可以调用存储器530中的逻辑指令,以执行基于眼底图像的高度近视检测方法,该方法包括:获取待检测眼底图像;将所述待检测眼底图像输入到高度近视检测模型中,得到所述待检测眼底图像的高度近视检测结果;其中,所述高度近视检测模型是基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的;其中,所述自适应课程学习模块,用于筛选带标签眼底图像样本,并按照确定的顺序将筛选后的所述带标签眼底图像样本依次传递给学生分类网络模型;所述半监督迁移学习框架包括预训练源模型和半监督教师网络模型。。
此外,上述的存储器530中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面,本发明还提供一种计算机程序产品,所述计算机程序产品包括计算机程序,计算机程序可存储在非暂态计算机可读存储介质上,所述计算机程序被处理器执行时,计算机能够执行上述各方法所提供的基于眼底图像的高度近视检测方法,该方法包括:获取待检测眼底图像;将所述待检测眼底图像输入到高度近视检测模型中,得到所述待检测眼底图像的高度近视检测结果;其中,所述高度近视检测模型是基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的;其中,所述自适应课程学习模块,用于筛选带标签眼底图像样本,并按照确定的顺序将筛选后的所述带标签眼底图像样本依次传递给学生分类网络模型;所述半监督迁移学习框架包括预训练源模型和半监督教师网络模型。
又一方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各方法提供的基于眼底图像的高度近视检测方法,该方法包括:获取待检测眼底图像;将所述待检测眼底图像输入到高度近视检测模型中,得到所述待检测眼底图像的高度近视检测结果;其中,所述高度近视检测模型是基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的;其中,所述自适应课程学习模块,用于筛选带标签眼底图像样本,并按照确定的顺序将筛选后的所述带标签眼底图像样本依次传递给学生分类网络模型;所述半监督迁移学习框架包括预训练源模型和半监督教师网络模型。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种基于眼底图像的高度近视检测方法,其特征在于,包括:
获取待检测眼底图像;
将所述待检测眼底图像输入到高度近视检测模型中,得到所述待检测眼底图像的高度近视检测结果;
其中,所述高度近视检测模型是基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的;
其中,所述自适应课程学习模块,用于筛选带标签眼底图像样本,并按照确定的顺序将筛选后的所述带标签眼底图像样本依次传递给学生分类网络模型;
所述半监督迁移学习框架包括预训练源模型和半监督教师网络模型。
2.根据权利要求1所述的基于眼底图像的高度近视检测,其特征在于,所述方法还包括:训练得到所述高度近视检测模型;
所述训练得到所述高度近视检测模型,包括:
基于通用数据集对源模型进行预训练,得到所述预训练源模型;
将所述预训练源模型的知识自适应迁移至学生分类网络模型;
利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练,并通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调,得到所述高度近视检测模型。
3.根据权利要求2所述的基于眼底图像的高度近视检测,其特征在于,所述将所述预训练源模型的知识自适应迁移至学生分类网络模型,包括:
将所述带标签眼底图像样本数据集输入到所述预训练源模型中,利用所述预训练源模型的参数对学生分类网络模型进行初始化;
得到多个带标签眼底图像样本对应的一维向量;
根据所述一维向量,计算所述多个带标签眼底图像样本对应的样本重要性;
根据所述样本重要性对所述带标签眼底图像样本数据集进行筛选,得到筛选后的带标签眼底图像样本,并按照确定的顺序将所述筛选后的带标签眼底图像样本传递给所述学生分类网络模型。
4.根据权利要求3所述的基于眼底图像的高度近视检测,其特征在于,所述利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练,并通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调,得到所述高度近视检测模型,包括:
将所述筛选后的带标签眼底图像样本输入至所述学生分类网络模型;
将所述带标签眼底图像样本数据集和所述无标签眼底图像样本数据集输入到所述半监督教师网络模型,计算带标签眼底图像样本的特征表示和无标签眼底图像样本的特征表示之间的距离;
根据所述带标签眼底图像样本、无标签眼底图像样本和所述特征表示之间的距离计算损失,根据所述损失更新所述学生分类网络模型和半监督教师网络模型的参数;
判断是否达到训练结束条件,在达到训练结束条件的情况下,保存所述学生分类网络模型的参数,得到所述高度近视检测模型。
5.根据权利要求3所述的基于眼底图像的高度近视检测方法,其特征在于,所述根据所述一维向量,计算所述多个带标签眼底图像样本对应的样本重要性,包括:
根据所述一维向量,计算所述一维向量对应的熵;
根据所述一维向量对应的熵和熵门函数,得到所述多个带标签眼底图像样本对应的样本重要性;
其中,所述熵门函数用于将所述一维向量对应的熵转换为重要性。
6.根据权利要求3所述的基于眼底图像的高度近视检测方法,其特征在于,所述根据所述样本重要性对所述带标签眼底图像样本数据集进行筛选,得到筛选后的带标签眼底图像样本,并按照确定的顺序将所述筛选后的带标签眼底图像样本传递给所述学生分类网络模型,包括:
根据所述样本重要性,使用加权版本替换交叉熵损失,计算每个所述带标签眼底图像样本的预测误差;
根据所述预测误差,筛选处于预设范围内的所述带标签眼底图像样本;
将筛选完成的所述处于预设范围内的所述带标签眼底图像样本按照所述样本重要性排序;
将所述排序完成的所述处于预设范围内的所述带标签眼底图像样本,按照样本重要性由高到低依次传递给所述学生分类网络模型。
7.一种基于眼底图像的高度近视检测装置,其特征在于,包括:
获取模块,用于获取待检测眼底图像;
图像分类模块,用于将所述待检测眼底图像输入到高度近视检测模型中,得到所述待检测眼底图像的高度近视检测结果;
其中,所述高度近视检测模型是基于通用数据集、带标签眼底图像样本数据集和无标签眼底图像样本数据集,使用自适应课程学习模块和半监督迁移学习框架训练后获得的;
其中,所述自适应课程学习模块,用于筛选带标签眼底图像样本,并按照确定的顺序将筛选后的所述带标签眼底图像样本依次传递给学生分类网络模型;
所述半监督迁移学习框架包括预训练源模型和半监督教师网络模型。
8.根据权利要求7所述的基于眼底图像的高度近视检测装置,其特征在于,所述装置还包括:训练模块:用于训练得到所述高度近视检测模型;
所述训练得到所述高度近视检测模型,包括:
基于通用数据集对源模型进行预训练,得到所述预训练源模型;
将所述预训练源模型的知识自适应迁移至学生分类网络模型;
利用带标签眼底图像样本数据集对所述学生分类网络模型进行训练,并通过半监督教师网络模型利用无标签眼底图像样本数据集对所述学生分类网络模型进行微调,得到所述高度近视检测模型。
9.一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至6任一项所述基于眼底图像的高度近视检测方法的步骤。
10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述基于眼底图像的高度近视检测方法的步骤。
CN202111529563.6A 2021-12-14 2021-12-14 基于眼底图像的高度近视检测方法及相关装置 Pending CN114170214A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111529563.6A CN114170214A (zh) 2021-12-14 2021-12-14 基于眼底图像的高度近视检测方法及相关装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111529563.6A CN114170214A (zh) 2021-12-14 2021-12-14 基于眼底图像的高度近视检测方法及相关装置

Publications (1)

Publication Number Publication Date
CN114170214A true CN114170214A (zh) 2022-03-11

Family

ID=80486537

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111529563.6A Pending CN114170214A (zh) 2021-12-14 2021-12-14 基于眼底图像的高度近视检测方法及相关装置

Country Status (1)

Country Link
CN (1) CN114170214A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115618921A (zh) * 2022-09-09 2023-01-17 美的集团(上海)有限公司 知识蒸馏方法、装置、电子设备和存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115618921A (zh) * 2022-09-09 2023-01-17 美的集团(上海)有限公司 知识蒸馏方法、装置、电子设备和存储介质
CN115618921B (zh) * 2022-09-09 2024-02-06 美的集团(上海)有限公司 知识蒸馏方法、装置、电子设备和存储介质

Similar Documents

Publication Publication Date Title
CN107909101B (zh) 基于卷积神经网络的半监督迁移学习字符识别方法及系统
Ghosh et al. Automatic detection and classification of diabetic retinopathy stages using CNN
CN107506761B (zh) 基于显著性学习卷积神经网络的脑部图像分割方法及系统
Yu et al. Image quality classification for DR screening using deep learning
Kumar et al. Resnet-based approach for detection and classification of plant leaf diseases
CN105095863B (zh) 基于相似性权值的半监督字典学习的人体行为识别方法
CN111091175A (zh) 神经网络模型训练方法、分类方法、装置和电子设备
JP2022551683A (ja) 人工知能(ai)モデルを使用した非侵襲的遺伝子検査を行う方法及びシステム
CN107945210B (zh) 基于深度学习和环境自适应的目标跟踪方法
CN108960260B (zh) 一种分类模型生成方法、医学影像图像分类方法及装置
CN110837570B (zh) 对图像数据进行无偏见分类的方法
US11250295B2 (en) Image searching apparatus, classifier training method, and recording medium
CN112733965A (zh) 一种基于小样本学习的无标签图像分类方法
CN110414541B (zh) 用于识别物体的方法、设备和计算机可读存储介质
CN112668698A (zh) 一种神经网络的训练方法及系统
CN116385879A (zh) 一种半监督海面目标检测方法、系统、设备及存储介质
CN113987236B (zh) 基于图卷积网络的视觉检索模型的无监督训练方法和装置
CN114170214A (zh) 基于眼底图像的高度近视检测方法及相关装置
CN107909120A (zh) 基于互斥性标签k‑svd及多尺度稀疏的高光谱图像分类方法
CN113627433B (zh) 基于数据扰动的跨域自适应语义分割方法及装置
Peng et al. Document image quality assessment using discriminative sparse representation
CN111429414B (zh) 基于人工智能的病灶影像样本确定方法和相关装置
CN116977633A (zh) 地物要素分割模型训练方法、地物要素分割方法及装置
CN116681128A (zh) 一种带噪多标签数据的神经网络模型训练方法和装置
CN113705092B (zh) 基于机器学习的疾病预测方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination