CN111080577A - 眼底影像质量评估方法和系统、设备及存储介质 - Google Patents

眼底影像质量评估方法和系统、设备及存储介质 Download PDF

Info

Publication number
CN111080577A
CN111080577A CN201911179823.4A CN201911179823A CN111080577A CN 111080577 A CN111080577 A CN 111080577A CN 201911179823 A CN201911179823 A CN 201911179823A CN 111080577 A CN111080577 A CN 111080577A
Authority
CN
China
Prior art keywords
image
quality
low
pixel
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911179823.4A
Other languages
English (en)
Other versions
CN111080577B (zh
Inventor
于雷
姜泓羊
张冬冬
代黎明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Zhizhen Internet Technology Co ltd
Original Assignee
Beijing Zhizhen Internet Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Zhizhen Internet Technology Co ltd filed Critical Beijing Zhizhen Internet Technology Co ltd
Priority to CN201911179823.4A priority Critical patent/CN111080577B/zh
Publication of CN111080577A publication Critical patent/CN111080577A/zh
Application granted granted Critical
Publication of CN111080577B publication Critical patent/CN111080577B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/97Determining parameters from multiple pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Abstract

本申请涉及一种眼底影像质量评估方法,包括:获取拍摄图像,并对拍摄图像进行眼底图像的判别;在判别出拍摄图像为眼底图像时,读取拍摄图像,并对拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像;由拍摄图像中提取出多个目标区域模板,并基于各灰度图像提取出全局低质量像素点分布区域;基于各目标区域模板和各全局低质量像素点分布区域,提取出拍摄图像中的限制区域低质量像素点,并基于限制区域低质量像素点,对拍摄图像进行质量评估得到相应的质量评估结果;在质量评估结果为低质量时,基于预先存储的低质量成因词条,根据低质量的类型获取并推送相应的成因。其有效减少高质量眼底影像的拍摄次数,缩短高质量眼底影像的获取时间。

Description

眼底影像质量评估方法和系统、设备及存储介质
技术领域
本公开涉及医学图像处理技术领域,尤其涉及一种眼底影像质量评估方法和系统、设备及存储介质。
背景技术
当今时代是一个人工智能迅猛发展的时代,人工智能技术正在潜移默化的改变着我们的生活方式。同时,人工智能与医学相结合是当今全社会发展的大趋势,两者的结合最容易落地的切入点在于眼底图像的处理。即,在对眼底影像进行送阅之前,采用人工智能技术进行眼底影像的筛查,以尽量提高送阅的眼底影像符合医学检测标准。但是,在相关技术中,只是针对于眼底影像送阅之前的进行了评估,对于评估出的低质量的眼底影像的成因并未给出合理的分析,从而不能有效查找出低质量眼底影像的成因,这就使得在再次拍摄眼底影像时不能有针对性的避免之前拍摄过程中的失误,导致多次的重复拍摄,使得符合医学检测标准的高质量的眼底影像的获取时间较长。
发明内容
有鉴于此,本公开提出了一种眼底影像质量评估方法,可以有效减少高质量眼底影像的拍摄次数,缩短高质量眼底影像的获取时间。
根据本公开的一方面,提供了一种眼底影像质量评估方法,包括:
获取当前接收到的拍摄图像,并对所述拍摄图像进行眼底图像的判别;
在判别出所述拍摄图像为眼底图像时,读取所述拍摄图像,并对所述拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像;
由所述拍摄图像中提取出多个目标区域模板,并基于低质量像素点在不同颜色空间的不同通道上表现出的特异性提取出全局低质量像素点分布区域;
其中,所述目标区域模板包括前景区域、视盘及上下血管弓区域、黄斑区域、外层圆环区域和八个不同方向的四分之一区域中的至少一种;
所述全局低质量像素点分布区域包括过暗像素点分布区域、灰白色像素点分布区域、过亮像素点分布区域和偏红像素点分布区域中的至少一种;
基于各所述目标区域模板和各所述全局低质量像素点分布区域,提取出所述拍摄图像中的限制区域低质量像素点,并融合全局区域低质量像素点占比和限制区域低质量像素点占比情况,对所述拍摄图像进行质量评估得到相应的质量评估结果;
在所述质量评估结果为低质量时,基于预先存储的低质量成因词条,根据所述低质量的类型获取并推送相应的成因。
在一种可能的实现方式中,对所述拍摄图像进行眼底图像的判别,包括:
对所述拍摄图像进行预处理;其中,所述预处理包括对所述拍摄图像进行裁剪、缩放和归一化操作中的至少一种;
接收预处理后的所述拍摄图像,并通过训练后的第一判别网络对所述拍摄图像进行初级判别;
在所述第一判别网络判别出所述拍摄图像为非眼底图像时,将预处理后的所述拍摄图像输入至训练后的第二判别网络,由所述第二判别网络对所述拍摄图像进行再次判别;
在再次判别出所述拍摄图像为非眼底图像时,获取所述第一判别网络的输出结果和所述第二判别网络的输出结果,并根据所述第一判别网络的输出结果和所述第二判别网络的输出结果,确定预设的判别规则是否成立;
在所述判别规则成立时,输出所述拍摄图像为眼底图像的判别结果;
其中,所述判别规则为:所述第一判别网络的输出结果和所述第二判别网络的输出结果中存在至少一个输出结果为:第一类别的概率大于第一预设值,第二类别的概率或第三类别的概率大于第二预设值;
所述第一类别为眼底图像类别,所述第二类别为外景图像类别,所述第三类别为外眼图像类别;
所述第一预设值的取值为0.36,所述第二预设值的取值为0.36。
在一种可能的实现方式中,对所述拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像,包括:将所述拍摄图像由彩色图像转换为灰度图像,将所述拍摄图像由RGB颜色空间转换为HSV颜色空间,将所述拍摄图像的RGB图像通道分离为R通道图像、G通道图像、B通道图像,以及将所述拍摄图像的HSV图像通道分离为H通道图像、S通道图像、V通道图像中的至少一种;
其中,基于低质量像素点在不同颜色空间的不同通道上表现出的特异性提取出全局低质量像素点分布区域,包括:
获取所述V通道图像中各像素点的像素值,根据所述V通道图像中各像素点的像素值与第一阈值的大小关系,由所述V通道图像中提取出像素值大于所述第一阈值的像素点作为过亮像素点分布区域;
获取所述H通道图像中各像素点的像素值,由所述H通道图像中提取出像素值处于第一区间,且在所述R通道图像相同位置处的像素点的像素值小于或等于第二阈值的像素点作为过暗像素点分布区域;
获取所述灰度图像中像素值小于或等于第三阈值的像素点作为所述过暗像素点分布区域;
获取所述H通道图像中各像素点的像素值,由所述H通道图像中提取出像素值小于或等于第四阈值,或像素值大于第五阈值的像素点作为偏红像素点分布区域;
获取所述H通道图像中各像素点的像素值,由所述H通道图像中提取出像素值处于所述第一区间,且在所述R通道图像相同位置处的像素点的像素值大于所述第二阈值的像素点作为所述偏红像素点分布区域;
获取所述H通道图像中各像素点的像素值,由所述H通道图像中提取出像素值大于或等于第六阈值且像素值小于或等于第七阈值的像素点作为灰白色像素点分布区域;
将提取出来的所述过亮像素点分布区域、所述过暗像素点分布区域、所述偏红像素点分布区域和所述灰白色像素点分布区域进行融合,得到全局过亮像素点分布区域的二值图像、全局过暗像素点分布区域的二值图像、全局偏红像素点分布区域的二值图像和全局灰白色像素点分布区域的二值图像;
对所述过亮像素点分布区域、所述过暗像素点分布区域和所述灰白色像素点分布区域两两之间再次进行并集融合,依次得到第一整体分布区域、第二整体分布区域和第三整体分布区域;
其中,所述第一整体分布区域为过亮像素点和灰白色像素点的整体分布区域,所述第二整体分布区域为灰白色像素点和过暗像素点的整体分布区域,所述第三整体分布区域为过亮像素点、灰白色像素点和过暗像素点的整体分布区域;
分别统计过亮像素点的数量、过暗像素点的数量、灰白色像素点的数量和偏红像素点的数量,并根据眼底图前景区域像素点的数量,依次计算得到过亮像素点的全局占比、过暗像素点的全局占比、灰白色像素点的全局占比和偏红像素点的全局占比、过亮像素点和过暗像素点的全局占比、过暗像素点和灰白色像素点的全局占比、灰白色像素点和偏红像素点的全局占比、过亮像素点和灰白色像素点和过暗像素点的全局占比。
在一种可能的实现方式中,基于各所述目标区域模板和各所述全局低质量像素点分布区域,提取出所述拍摄图像中的限制区域低质量像素点,包括:
将所述视盘区域与所述第三整体分布区域进行与操作,得到第一限制区域,并统计所述第一限制区域内像素值为第一数值的像素点的数量以及所述视盘区域内像素值为所述第一数值的像素点的数量,对所述第一限制区域内像素值为第一数值的像素点的数量与所述视盘区域内像素值为所述第一数值的像素点的数量进行比值计算,得到视盘区域内低质量像素点的整体占比;
将所述黄斑区域与所述第三整体分布区域进行与操作,得到第二限制区域,并统计所述第二限制区域内像素值为第二数值的像素点的数量以及所述黄斑区域内像素值为所述第二数值的像素点的数量,对所述第二限制区域内像素值为第二数值的像素点的数量与所述黄斑区域内像素值为所述第二数值的像素点的数量进行比值计算,得到黄斑区域内低质量像素点的整体占比;
将所述外层圆环区域与所述第一整体分布区域进行与操作,得到第三限制区域,并统计所述第三限制区域内像素值为第三数值的像素点的数量以及所述外层圆环区域内像素值为所述第三数值的像素点的数量,对所述第三限制区域内像素值为第三数值的像素点的数量与所述外层圆环区域内像素值为所述第三数值的像素点的数量进行比值计算,得到外层圆环区域内第一低质量像素点的整体占比;
将所述外层圆环区域与所述全局灰白色像素点分布区域的二值图像进行与操作,得到第四限制区域,并统计所述第四限制区域内像素值为第四数值的像素点的数量以及所述外层圆环区域内像素值为所述第四数值的像素点的数量,对所述第四限制区域内像素值为第四数值的像素点的数量与所述外层圆环区域内像素值为所述第四数值的像素点的数量进行比值计算,得到外层圆环区域内第二低质量像素点的整体占比。
在一种可能的实现方式中,融合全局区域低质量像素点占比和限制区域低质量像素点占比情况,对所述拍摄图像进行质量评估得到相应的质量评估结果,包括:
根据全局区域低质量像素点占比和限制区域低质量像素点占比情况,按照预设顺序对所述拍摄图像的视盘位置、全局是否过暗、漏光程度、光照不均、四要素是否可见、眼皮遮挡、虚焦、噪声、光照不均、图像过亮和图像偏红中的至少一种进行判别评估,得到所述质量评估结果。
在一种可能的实现方式中,融合全局区域低质量像素点占比和限制区域低质量像素点占比情况,对所述拍摄图像进行质量评估得到相应的质量评估结果,包括:
根据提取出来的所述视盘区域对视盘位置进行判别;
在判别出所述视盘位置不正时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为视盘不正;
在判别出所述视盘位置正时,根据所述V通道图像中前景区域图像亮度的均值判定所述拍摄图像是否为全局严重过暗;
在判别出所述拍摄图像为全局严重过暗时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为全局严重过暗;
在判别出所述拍摄图像不是全局严重过暗时,根据过亮像素点和灰白色像素点的全局占比,以及过暗像素点的全局占比判定所述拍摄图像是否严重漏光;
在判别出所述拍摄图像为严重漏光时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为严重漏光;
在判别出所述拍摄图像不是严重漏光时,根据过亮像素点和灰白色像素点和过暗像素点的全局占比,以及过暗像素点的全局占比,以及过亮像素点和灰白色像素点的全局占比,判定所述拍摄图像是否严重光照不均;
在判别出所述拍摄图像为严重光照不均时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为严重光照不均;
在判别出所述拍摄图像不存在严重光照不均时,根据视盘区域内低质量像素点整体占比或黄斑区域内低质量像素点整体占比判别所述拍摄图像是否为四要素不可见;
在判别出所述拍摄图像为四要素不可见时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为四要素不可见;
在判别出所述拍摄图像不存在四要素不可见时,根据八邻域区域中任一区域图像平均亮度判定所述拍摄图像是否存在眼皮遮挡;
在判别出所述拍摄图像存在所述眼皮遮挡时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为眼皮遮挡;
在判别出所述拍摄图像不存在所述眼皮遮挡时,采用训练好的深度学习网络模型对所述拍摄图像的轮廓图进行是否模糊的判别;
在判别出所述拍摄图像的轮廓图存在模糊的情况时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为虚焦;
在判别出所述拍摄图像的轮廓图不存在模糊的情况时,采用训练好的深度学习网络模型对所述拍摄图像进行噪声检测;
在检测出所述拍摄图像存在噪声时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为噪声;
在检测出所述拍摄图像不存在噪声时,根据外层圆环区域内第一低质量像素点的整体占比和外层圆环区域内第二低质量像素点的整体占比对所述拍摄图像进行轻度光照不均的判别;
在判别出所述拍摄图像存在轻度光照不均的情况时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为轻度光照不均;
在判别出所述拍摄图像不存在轻度光照不均的情况时,根据外层圆环区域内灰白色像素点的整体占比对所述拍摄图像进行轻度漏光的判别;
在判别出所述拍摄图像存在轻度漏光的情况时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为轻度漏光;
在判别出所述拍摄图像不存在轻度漏光的情况时,根据所述拍摄图像的平均亮度对所述拍摄图像进行图像过亮的判别;
在判别出所述拍摄图像存在图像过亮的情况时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为图像过亮;
在判别出所述拍摄图像不存在图像过亮的情况时,根据所述H通道图像的像素点像素值和所述R通道图像的像素点像素值对所述拍摄图像进行偏红判别;
在判别出所述拍摄图像存在偏红情况时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为偏红;
在判别出所述拍摄图像不存在偏红情况时,确定所述拍摄图像为合格。
在一种可能的实现方式中,还包括:
在所述质量评估结果为低质量时,基于预先存储的拍摄手法建议词条,根据所述低质量的类型获取并推送相应的拍摄手法建议。
根据本申请的一方面,还提供了一种眼底影像质量评估装置,包括影像采集模块、外层质控模块、内层质控模块和输出模块;
所述影像采集模块,被配置为获取当前接收到的拍摄图像;
所述外层质控模块,被配置为对所述拍摄图像进行眼底图像的判别;
所述内层质控模块包括图像处理子模块、全局低质量像素点提取子模块、限制区域低质量像素点提取子模块和质量评估子模块;
所述图像处理子模块,被配置为在所述外层质控模块判别出所述拍摄图像为眼底图像时,读取所述拍摄图像,并对所述拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像;
所述全局低质量像素点提取子模块,被配置为由所述拍摄图像中提取出多个目标区域模板,并基于低质量像素点在不同颜色空间的不同通道上表现出的特异性提取出全局低质量像素点分布区域;
其中,所述目标区域模板包括前景区域、视盘及上下血管弓区域、黄斑区域、外层圆环区域和八个不同方向的四分之一区域中的至少一种;
所述全局低质量像素点分布区域包括过暗像素点分布区域、灰白色像素点分布区域、过亮像素点分布区域和偏红像素点分布区域中的至少一种;
所述限制区域低质量像素点提取子模块,被配置为基于各所述目标区域和各所述全局低质量像素点分布区域,提取出所述拍摄图像中的限制区域低质量像素点;
所述质量评估子模块,被配置为融合全局区域低质量像素点占比和限制区域低质量像素点占比情况,对所述拍摄图像进行质量评估得到相应的质量评估结果;
所述输出模块,被配置为在所述质量评估子模块评估出所述质量评估结果为低质量时,基于预先存储的低质量成因词条,根据所述低质量的类型获取并推送相应的成因。
根据本申请的另一方面,还提供了一种眼底影像质量评估设备,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述可执行指令时实现前面任一所述的方法。
根据本申请的另一方面,还提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现前面任一所述的方法。
本申请的眼底影像质量评估方法,通过首先对获取到的眼底影像进行是否为眼底图像的判别,在判别出拍摄图像为眼底图像后,再对拍摄图像进行转换换和分离操作,得到多张灰度图像,由拍摄图像中提取出多个目标区域,并基于各灰度图像提取出全局低质量像素点分布区域;进而再基于各目标区域和全局低质量像素点分布区域,提取出拍摄图像中的限制区域低质量像素点,从而基于限制区域低质量像素点对拍摄图像进行质量评估,得到相应的质量评估结果,使得对拍摄图像的质量评估更加精准。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。
图1示出本申请的眼底影像质量评估方法的流程图;
图2示出本申请的眼底影像质量评估方法中对拍摄图像进行眼底图像判别的流程图;
图3示出本申请的眼底影像质量评估方法中对拍摄图像进行眼底图像判别时的逻辑流程图;
图4a和图4b示出本申请的眼底影像质量评估方法中基于HSV颜色空间中V-channel对于过亮像素点敏感的效果图;
图5a和图5b示出本申请的眼底影像质量评估方法中基于HSV颜色空间中H-channel对于灰白色、过暗和偏红像素点敏感的效果图;
图6示出本申请的眼底影像质量评估方法中所定义的质量合格的眼底影像图;
图7示出本申请的眼底影像质量评估方法中视盘位置不正的眼底影像图;
图8示出本申请的眼底影像质量评估方法中全局严重过暗的眼底影像图;
图9示出本申请的眼底影像质量评估方法中严重漏光的眼底影像图;
图10示出本申请的眼底影像质量评估方法中严重光照不均的眼底影像图;
图11a至图11d示出本申请的眼底影像质量评估方法中四要素不可见的眼底影像图;
图12示出本申请的眼底影像质量评估方法中眼皮遮挡的眼底影像图;
图13示出本申请的眼底影像质量评估方法中虚焦的眼底影像图;
图14a至图14d示出本申请的眼底影像质量评估方法中噪声的眼底影像图;
图15示出本申请的眼底影像质量评估方法中轻度光照不均的眼底影像图;
图16示出本申请的眼底影像质量评估方法中轻度漏光的眼底影像图;
图17示出本申请的眼底影像质量评估方法中图像过亮的眼底影像图;
图18示出本申请的眼底影像质量评估方法中图像偏红的眼底影像图;
图19示出本申请的眼底影像质量评估方法中对拍摄图像进行内层质控的流程图;
图20示出本申请的眼底影像质量评估方法中视盘区域模板;
图21示出本申请的眼底影像质量评估方法中上下血管弓区域模板;
图22示出本申请的眼底影像质量评估方法中黄斑区域模板;
图23示出本申请的眼底影像质量评估方法中外层圆环区域模板;
图24a至图24h分别示出本申请的眼底影像质量评估方法中八邻域区域中各区域模板;
图25示出本申请的眼底影像质量评估方法中对拍摄图像进行质量评估的流程图;
图26示出本申请的眼底影像质量评估系统的结构框图;
图27出本申请的眼底影像质量评估设备的结构框图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
图1示出本申请的眼底影像质量评估方法的流程图。参阅图1,本申请的眼底影像质量评估方法包括:步骤S100,获取当前接收到的拍摄图像,并对拍摄图像进行眼底图像的判别。步骤S200,在判别出拍摄图像为眼底图像时,读取拍摄图像,并对拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像。步骤S300,由拍摄图像中提取出多个目标区域模板,并基于低质量像素点在不同颜色空间的不同通道上表现出的特异性提取出全局低质量像素点分布区域。此处,需要指出的是,目标区域模板包括眼底图像的前景区域、视盘及上下血管弓区域、黄斑区域、外层圆环区域和八个不同方向的四分之一区域中的至少一种。全局低质量像素点分布区域包括过暗像素点分布区域、灰白色像素点分布区域、过亮像素点分布区域和偏红像素点分布区域中的至少一种。步骤S400,基于各所目标区域模板和各全局低质量像素点分布区域,提取出拍摄图像中的限制区域低质量像素点,并融合全局区域低质量像素点占比和限制区域低质量像素点占比情况,对拍摄图像进行质量评估得到相应的质量评估结果。步骤S500,在质量评估结果为低质量时,基于预先存储的低质量成因词条,根据低质量的类型获取并推送相应的成因。
由此,本申请的眼底影像质量评估方法,通过首先对获取到的眼底影像进行是否为眼底图像的判别,在判别出拍摄图像为眼底图像后,再对拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像,由拍摄图像中提取出多个目标区域模板,并基于各灰度图像(即,低质量像素点在不同颜色空间的不同通道上表现出的特异性)提取出全局低质量像素点分布区域;进而再基于各目标区域和全局低质量像素点分布区域,提取出拍摄图像中的限制区域低质量像素点,从而融合全局区域低质量像素点占比和限制区域低质量像素占比情况,对拍摄图像进行质量评估,得到相应的质量评估结果,使得对拍摄图像的质量评估更加精准。
同时,在得到相应的质量评估结果之后,基于预先存储的低质量成因词条,根据所获取的质量评估结果中的低质量的类型推送相应的成因,从而提示该拍摄图像不合格的因素,为下次拍摄合格的眼底影像提供了参考依据,这也就有效减少了合格眼底影像的拍摄次数,提高了合格眼底影像的获取速率。
其中,在一种可能的实现方式中,参阅图2和图3,对拍摄图像进行是否为眼底图像的判别时,可以通过以下方式来实现。首先,通过步骤S110,获取原始的拍摄图像,并通过步骤S120,对拍摄图像进行预处理。此处,需要指出的是,预处理可以包括但不限于对拍摄图像进行裁剪、缩放和归一化操作中的至少一种。然后,再通过步骤S130,接收预处理后的拍摄图像,并通过训练后的第一判别网络对拍摄图像进行初级判别。在第一判别网络判别出拍摄图现象为眼底图像时,直接通过步骤S131,输出图像类别为眼底图像的判别结果。在第一判别网络判别出拍摄图像为非眼底图像时,通过步骤S140,将预处理后的拍摄图像输入至训练后的第二判别网络,由第二判别网络对拍摄图像进行再次判别。在再次判别出拍摄图像为眼底图像时,通过步骤S141,判别结果为眼底图像。在再次判别出拍摄图像为非眼底图像时,通过步骤S150,获取第一判别网络的输出结果和第二判别网络的输出结果,并根据第一判别网络的输出结果和第二判别网络的输出结果,确定预设的判别规则是否成立;在判别规则成立时,输出拍摄图像为眼底图像的判别结果;其中,判别规则为:第一判别网络的输出结果和第二判别网络的输出结果中存在至少一个输出结果为:第一类别的概率大于第一预设值,第二类别的概率或第三类别的概率大于第二预设值。第一类别为眼底图像类别,第二类别为外景图像类别,第三类别为外眼图像类别;第一预设值的取值为0.36,第二预设值的取值为0.36。即,通过步骤S151,判断预设规则(即,规则一)是否成立。在预设规则成立时,直接通过步骤S152,输出图像类别为眼底图像。在判断出规则一不成立时,则进一步通过步骤S153,判断第一判别网络的输出结果与第二判别网络的输出结果是否均为第一类别。在判断出是时,通过步骤S154,输出图像类别为外景图像。在判断为否时,再通过步骤S155,判断第一判别网络的输出结果与第二判别网络的输出结果是否均为第二类别。若是,则通过步骤S156,输出图像类别为外景图像。若否,则通过步骤S157,直接输出第二判别网络的输出结果。
也就是说,在本申请的眼底影像质量评估方法中,在对采集到的拍摄图像进行是否为眼底图像的判别时,主要采用卷积神经网络模型进行判别。并且,在判别过程中通过对拍摄图像的图像类别进行判断,使得判断结果更加精确。
其中,根据前面所述,由于本申请中对拍摄图像的图像类别判别时采用了卷积神经网络模型,因此在判别之前还需要进行卷积神经网络模型(即,第一判别网络和第二判别网络)的构建和训练。
具体的,首先,进行训练数据集的构建:为了显著训练样本类间差异性,此处训练数据集化分为三类。第一类为眼底图像,标签为0;第二类为自然外景图像,标签为1,包括日常生活场景中外景图像及皮肤类图像;第三类为外眼图像,标签为2。本方案中眼底图像数据和外眼图像数据均来自于实际业务场景,外景图像数据取材于实际生活场景。三类样本数据比例约为1:1:1。
其次,进行数据预处理:预处理部分包括但不限于图像裁剪、图像缩放、图像归一化操作等。由于采集设备采集到的眼底图像往往存在较大比例的背景区域,比如黑色背景区域,而过大范围的背景区域在网络训练过程中会严重影响网络对于前景区域内的细节信息的学习程度,进而影响模型的整体训练效果。因此,此处我们对前景区域外切矩形以外的背景区域进行裁剪,并对裁剪后的图像统一缩放至模型输入尺寸。归一化操作主要是为了防止模型训练过程中出现梯度爆炸等情况,加速模型收敛。在本方案中,归一化操作没有特别限定,例如可以采用最大最小标准化、单位标准方差、减去均值等。
然后,进行模型设计:此处可以采用目前比较成熟的卷积神经网络(Convolutional Neural Network,CNN),也可以选择自行设计的卷积神经网络。卷积神经网络一般包括卷积层、池化层、激励层,还包括防止模型过拟合的BN(batchnormalization)操作、drop out操作等相关网络优化策略。可选用的CNN模型包括但不限于Googlenet、VGG16、Resnet、Mobilenet等网络。其中,考虑到本申请所要求的保护的技术方案的实际应用场景为相机端,故本方案采用自行设计的轻量化模型chaojinice03(6.2M,即第一判别网络)和chaojinice04(2.95M,即,第二判别网络),通过使用相同数据集训练两种不同结构的轻量化模型级联实现在保证模型高准确率前提下的“眼底图”、“外景”、“外眼”三分类任务。此处训练三分类模型的原因为了显著训练样本类间差异性,此处目的为区分“眼底图”和“非眼底图”。
进而,再进行模型的训练:模型训练阶段包括两个部分:第一部分为超参设置,其中训练和测试的每个batch的大小统一设置为16,损失函数使用Softmax交叉熵损失函数,优化方式采用随机梯度下降(Stochastic gradient descent)优化方法(简称SGD),初始学习速率设置为0.01,随着训练迭代次数增加,学习速率下降为0.01*0.96^(floor(iter/4000)),最大迭代次数设置为16000,为了保证能够精确获取最优模型,此处选择每20个epoch保存一次模型。第二部分为模型训练,采用同一批训练数据集在相同的超参数设置前提下分别对chaojinice03和chaojinice04模型进行训练,由于chaojinice03和chaojinice04模型结构不同,参数量不同,学习到的特征也会存在差异性,得到两个具有不同特性的高准确率模型。
其中,在训练完成之后为保证模型的准确性,还可以进行模型的推理:一张图像首先通过chaojinice03模型进行判别,若判别结果为眼底图,直接输出判别结果为眼底图;若chaojinice03判别结果为非眼底图,则chaojinice04模型进一步对其进行判别,若chaojinice04模型判别结果为眼底图,直接输出判别结果为眼底图;否则进入逻辑判别模块对该图像进行进一步判别,逻辑判别模块的详细判别逻辑在算法优化方案中详细介绍,从而保证“眼底图绝对不可误判为非眼底,而非眼底图数据可以接受极小概率被误判至眼底数据”的初衷。
算法优化方案:为了进一步提升外层质控算法准确率,本项目中增添了融合两个模型判别结果的判别策略,其中:若任意模型输出的三个类别的对应的概率中,非最小概率皆大于0.36,则该图像判别为眼底图;若两个模型判别结果相同,直接输出对应判别结果;否则输出准确率更高的chaojinice04模型判别结果。从而在保证当前准确率的前提下减少误判数据,进一步提高算法准确率,详细逻辑可参阅图2和图3所示。
在根据前面任一所述的方式对拍摄图像进行图像类别的判别,并在判别出拍摄图像为眼底图像后,即可对当前采集到的该拍摄图像进行内层质控检测。即,对拍摄图像进行质量评估。
此处,需要指出的是,本申请中对拍摄图像进行内层质控时,主要是对外层质控算法判定为眼底图像的拍摄图像进行更细致的质量判定,并根据算法判定结果给出低质量成因及拍摄手法矫正建议等。
在本申请中提出一种基于多颜色空间信息融合的眼底图像“过亮”、“灰白色”、“过暗”、“偏红”区域提取方法,该方法通过设置经验阈值即可实现四种低质量要素(“过亮”、“灰白色”、“过暗”、“偏红”)像素点分布区域的准确提取,并提出一种基于低质量像素点统计与限制区域限定相结合的低质量类型判别方法。该方法的提出基于HSV颜色空间中V-channel对于“过亮”像素点敏感(如图4a和图4b所示),通过设置阈值即可实现眼底图像曝光状态检测;H-channel对于“灰白色”、“过暗”和“偏红”像素点敏感(如图5a和图5b所示),通过设置阈值即可实现“灰白色”、“偏红”和“过暗”像素点分布区域的提取,但提取到的“过暗”像素点分布区域中存在“偏红色”像素点干扰,故“过暗”像素点分布区域提取需结合灰度图像和R-channel图像共同判别,而满足此条件且判别为非“过暗”的像素点被判别为“偏红”像素点,吻合实际场景。
其中,还需要指出的是,在本申请中,质量合格的眼底影像定义为眼底影像清晰可见,尤其视盘区、黄斑区、上、下血管弓四个区域需明显可见,图6展示了上述的四个区域;不合格眼底影像成因较多,包括:视盘位置不正(图7所示)、全局严重过暗(图8所示)、严重漏光(图9所示)、严重光照不均(图10所示)、四要素不可见(图11a至图11d所示)、眼皮遮挡(图12所示)、虚焦(图13所示)、噪声(图14a至图14d所示)、轻度光照不均(图15所示)、轻度漏光(图16所示)、图像过亮(图17所示)、图像偏红(图18所示)等。
具体的,参阅图19,首先,通过步骤S110,获取原始的眼底图像(即,拍摄图像):本实例中输入原始的拍摄图像可以为四灯版手持眼底相机采集到的三通道彩色眼底图像,图像经过一倍压缩后分辨率为2336*1752。
然后,通过步骤S120,对拍摄图像进行预处理:图像预处理方法包括但不限于自适应图像裁剪、图像缩放等。考虑到此部分输入图像同时被内层质控算法中的传统算法部分和深度学习算法部分公用,故此处对输入的原始眼底图像统一进行自适应裁剪背景区域操作,即剪裁眼底图像中前景区域外切矩形以外的背景区域,如本样例中输入的眼底图像为黑色背景区域,同时考虑算法计算量以及相机端的硬件计算资源,此处对裁剪后的图像统一缩放至128*128分辨率,进而显著降低算法计算量。此处,需要指出的是,为简化运算,也可以直接调用在对拍摄图像进行外层质控检测(即,是否为眼底图像的判别)过程中进行预处理后的图像。
进而,通过步骤S002,对拍摄图像进行左右眼的判别:眼别信息判别目前具有较成熟的方法,此处可以采用基于图像名称内的标志位进行左右眼区分,方法简单,且准确率为1。此处,需要指出的是,对拍摄图像进行左右眼的判别过程可以根据实际情况进行灵活设置,此处不进行具体限定。
进而,通过上述任一步骤之后即可执行步骤S200,对拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像。此处,需要指出的是,所得到的多张灰度图像包括不同颜色空间的不同通道所对应的灰度图。
其中,在一种可能的实现方式中,颜色转换和通道分离操作可以包括:将拍摄图像由彩色图像转换为灰度图像,将拍摄图像由RGB颜色空间转换为HSV颜色空间,将拍摄图像的RGB图像通道分离为R通道图像、G通道图像、B通道图像,以及将拍摄图像的HSV图像通道分离为H通道图像、S通道图像、V通道图像中的至少一种。
也就是说,此部分工作主要从预处理后的眼底图像中提取出后续算法需要用到的信息及相关数学特征。此部分工作包括:彩色图像转灰度图像;RGB颜色空间转HSV颜色空间;RGB图像通道分离,R(红色)、G(绿色)、B(蓝色)单通道灰度图像分别记为R-channel、G-channel、B-channel;HSV图像通道分离,H(色相)、S(饱和度)、V(亮度)单通道灰度图像分别记为H-channel、S-channel、V-channel;分别计算R通道和V通道前景区域图像均值并分别记为meanValue_R、meanValue_V等操作。此处仅提及主要的图像处理工作,该样例中包含的图像处理方法包括但不局限于上述操作。
进而,基于前面所述的图像处理结果,在执行步骤S300,由拍摄图像中提取出多个目标区域模板,并基于各灰度图像提取出全局低质量像素点分布区域的过程可以通过以下方式来实现。其中,在基于各灰度图像提取全局低质量像素点分布区域时可以基于低质量像素点在不同颜色空间的不同通道上表现出的特异性来实现。
其中,由拍摄图像中提取出多个目标区域模板可以通过采用区域模板的方式来提取。即,通过步骤S310,制作模板可以精确提取目标区域ROI图像,从而可在ROI图像上进行特定低质量类型判别,部分模板随着眼别信息变化会存在些许差异,如视盘区和黄斑区位置会随着眼别差异而位置互换等,本实例以输入图像为左眼眼底图像为例进行详细说明。模板种类包括:用于提取前景区域模板mask;视盘区域模板(如图20所示)及上下血管弓区域模板mask_shipan(如图21所示);黄斑区域模板mask_huangban(如图22所示);四要素外切圆至前景区域外边界之间外层圆环区域模板mask_loop(如图23所示),用于检测“轻度光照不均”和“轻度漏光”;上、下、左、右、右上、左上、左下、右下八个不同方向的四分之一mask_loop模板,分别为:mask_up_shade、mask_down_shade、mask_left_shade、mask_right_shade、mask_one_shade、mask_two_shade、mask_three_shade、mask_four_shade(如图24a至图24h所示),用于检测“眼皮遮挡”。模板制作方法简单,通过附图展示效果即可快速实现本实例中涉及的全部模板的制作,故此处不再详细介绍具体实现方法。
其中,基于低质量像素点在不同颜色空间的不同通道上表现出的特异性提取出全局低质量像素点分布区域的过程则主要包括:
获取V通道图像中各像素点的像素值,根据V通道图像中各像素点的像素值与第一阈值的大小关系,由V通道图像中提取出像素值大于第一阈值的像素点作为过亮像素点分布区域;
获取H通道图像中各像素点的像素值,由H通道图像中提取出像素值处于第一区间,且在R通道图像相同位置处的像素点的像素值小于或等于第二阈值的像素点作为过暗像素点分布区域;
获取灰度图像中像素值小于或等于第三阈值的像素点作为过暗像素点分布区域;
获取H通道图像中各像素点的像素值,由H通道图像中提取出像素值小于或等于第四阈值,或像素值大于第五阈值的像素点作为偏红像素点分布区域;
获取H通道图像中各像素点的像素值,由H通道图像中提取出像素值处于第一区间,且在R通道图像相同位置处的像素点的像素值大于第二阈值的像素点作为偏红像素点分布区域;
获取H通道图像中各像素点的像素值,由H通道图像中提取出像素值大于或等于第六阈值且像素值小于或等于第七阈值的像素点作为灰白色像素点分布区域;
将提取出来的过亮像素点分布区域、过暗像素点分布区域、偏红像素点分布区域和灰白色像素点分布区域进行融合,得到全局过亮像素点分布区域的二值图像、全局过暗像素点分布区域的二值图像、全局偏红像素点分布区域的二值图像和全局灰白色像素点分布区域的二值图像;
对过亮像素点分布区域、过暗像素点分布区域和灰白色像素点分布区域两两之间再次进行并集融合,依次得到第一整体分布区域、第二整体分布区域和第三整体分布区域;
其中,第一整体分布区域为过亮像素点和灰白色像素点的整体分布区域,第二整体分布区域为灰白色像素点和过暗像素点的整体分布区域,第三整体分布区域为过亮像素点、灰白色像素点和过暗像素点的整体分布区域;
分别统计过亮像素点的数量、过暗像素点的数量、灰白色像素点的数量和偏红像素点的数量,并根据眼底图前景区域像素点的数量,依次计算得到过亮像素点的全局占比、过暗像素点的全局占比、灰白色像素点的全局占比和偏红像素点的全局占比、过亮像素点和过暗像素点的全局占比、过暗像素点和灰白色像素点的全局占比、灰白色像素点和偏红像素点的全局占比、过亮像素点和灰白色像素点和过暗像素点的全局占比。
也就是说,本申请中对拍摄图像进行内层质控检测时,基于各所述灰度图像提取出全局低质量像素点分布区域主要是通过分析大量数据后提出的一种融合多颜色空间信息的经验阈值方法。该方法通过简单的阈值设定即可实现“过暗”、“灰白色”、“过亮”、“偏红”像素点分布区域提取(参考图4和图5),方法极其简单,满足实际应用场景的实时性和准确性要求。常规低质量眼底图像的构成要素无非“过亮”、“灰白色”、“过暗”、“偏红”等。
通过实际数据分析可以发现:“过亮”像素点与其他类型像素点之间差异性在V-channel体现非常明显,故该实例中通过将V-channel像素点与设定阈值Threshold_V比较进行判别。考虑到实际场景中存在一部分图像自身亮度低,但对比度高,即此时的“过亮”像素点的亮度值较常规“过亮”像素点的亮度值低一些。为了尽可能覆盖实际数据分布场景,此处通过设置多阈值的方法进行解决。
表1 V-channel像素值分布区间与原始图像对应关系
Figure BDA0002290950360000121
具体判别条件为:若V-channel前景图像平均亮度大于150,此时Threshold_V=190;否则Threshold_V=170,阈值设定后,将V-channel全部像素点的像素值逐一与阈值进行比较,大于阈值的像素点判别为“过亮”像素点,并绘制出“过亮”像素点的分布区域。同时,H-channel像素值分布范围与原始图像中对应像素点的颜色具有较强的一一对应关系,具体V-channel像素值分布区间与原始图像对应位置的实际表现对应关系详见表1。
其中,V-channel像素值分布在101-170区间中的像素点在原始图像上对应位置的像素点主要表现为“过暗”特性,特例为存在小概率“严重偏红”像素点混杂其中,但两者在R-channel上存在显著差异性,此处同时结合R-channel像素点分布范围即可实现该区间内的“过暗”和“严重偏红”像素点的区分;同时,该范围内提取到的“过暗”像素点无法覆盖住“近黑色”类型的“过暗”像素点,故此处“过暗”像素点分布区域提取融合了灰度眼底图像中的“近黑色”像素点。
具体判别条件为:若H-channel像素值小于等于6或大于170,则判定该像素点为“偏红”;若H-channel像素值大于等于31且小于等于100,则判定该像素点为“灰白色”;若H-channel像素值处于101到170区间且R-channel对应位置像素值小于等于25,则该像素点判定为“过暗”;否则,该像素点判别为“偏红”;同时灰度图像中像素值小于等于10的像素点也判别为“过暗”。最后将不同方式提取出的“过亮”、“灰白色”、“过暗”、“偏红”像素点分布区域进行融合,依次得到全局“过亮”、“灰白色”、“偏暗”、“偏红”像素点分布区域的二值图像,依次记为:lowQuality_whole_overbright,lowQuality_whole_gray,lowQuality_whole_dark,lowQuality_whole_red;同时,此处对于“过亮”、“灰白色”、“过暗”像素点进行进一步取并集融合供逻辑判别模块调用。
“过亮”和“灰白色”像素点整体分布区域记为:lowQuality_whole_overbrightAndGray;“灰白色”和“过暗”像素点整体分布区域记为:lowQuality_whole_grayAndDark;“过亮”、“灰白色”、“过暗”像素点整体分布区域记为lowQuality_whole_overbrightAndGrayAndDark。
其中,分布区域二值图像尺寸与预处理后的眼底图图像尺寸同,皆为128*128单通道图像。通过统计不同类型像素点数量及眼底图前景区域像素点数量(可通过统计mask模板像素值为255像素点数量实现)即可计算出不同类型低质量像素点的全局占比,依次记为:ratio_whole_overbright,ratio_whole_gray,ratio_whole_dark,ratio_whole_red,ratio_whole_overbrightAndGray,ratio_whole_grayAndDark,ratio_whole_overbrightAndGrayAndDark。
随后,即可执行步骤S400,基于各目标区域和各全局低质量像素点分布区域,提取出拍摄图像中的限制区域低质量像素点。由于全局区域内的低质量像素点分布区域已获得,故限制区域内的低质量像素点提取只需通过限制区域模板与全局区域低质量像素点分布区域进行“与”操作即可实现限制区域低质量像素点分布区域提取。
即,首先,将视盘区域与第三整体分布区域进行与操作,得到第一限制区域,并统计第一限制区域内像素值为第一数值的像素点的数量以及视盘区域内像素值为第一数值的像素点的数量,对第一限制区域内像素值为第一数值的像素点的数量与视盘区域内像素值为第一数值的像素点的数量进行比值计算,得到视盘区域内低质量像素点的整体占比。
也就是说,视盘区域(包括上、下血管弓区域):此实例中视盘区域具体定义参考图20(即模板mask_shipan前景区域)。视盘区域主要用于判别四要素中的视盘、上血管弓和下血管弓是否清晰可见,影响因素包括:“过亮”、“灰白色”、“过暗”像素点。故此处需要提取视盘区域“过亮”、“灰白色”、“过暗”低质量像素点分布区域,通过视盘区域模板mask_shipan与全局“过亮”、“灰白色”、“过暗”像素点整体分布区域lowQuality_whole_overbrightAndGrayAndDark进行“与”操作即可,并记为:lowQuality_shipan_overbrightAndGrayAndDark。通过统计lowQuality_shipan_overbrightAndGrayAndDark和mask_shipan二值图像像素值为255像素点数量并进行比值操作即可得到视盘区域内“过亮”、“灰白色”、“过暗”低质量像素点在视盘区域内整体占比,记为ratio_shipan_overbrightAndGrayAndDark。
然后,将黄斑区域与第三整体分布区域进行与操作,得到第二限制区域,并统计第二限制区域内像素值为第二数值的像素点的数量以及黄斑区域内像素值为第二数值的像素点的数量,对第二限制区域内像素值为第二数值的像素点的数量与黄斑区域内像素值为第二数值的像素点的数量进行比值计算,得到黄斑区域内低质量像素点的整体占比。
即,此实例中黄斑区域具体定义参考图22(即mask_huangban前景区域)。黄斑区域主要用于判别四要素中黄斑区是否清晰可见。
黄斑区域内的“过亮”、“灰白色”、“过暗”像素点分布区域提取及黄斑区域占比计算方法同上,依次可得到黄斑区域“过亮”、“灰白色”、“过暗”低质量像素点整体分布区域二值图像lowQuality_huangban_overbrightAndGrayAndDark及占比ratio_huangban_overbrightAndGrayAndDark。
进而,再将外层圆环区域与第一整体分布区域进行与操作,得到第三限制区域,并统计第三限制区域内像素值为第三数值的像素点的数量以及外层圆环区域内像素值为第三数值的像素点的数量,对第三限制区域内像素值为第三数值的像素点的数量与外层圆环区域内像素值为第三数值的像素点的数量进行比值计算,得到外层圆环区域内第一低质量像素点的整体占比。
同时,还将外层圆环区域与全局灰白色像素点分布区域的二值图像进行与操作,得到第四限制区域,并统计第四限制区域内像素值为第四数值的像素点的数量以及外层圆环区域内像素值为第四数值的像素点的数量,对第四限制区域内像素值为第四数值的像素点的数量与外层圆环区域内像素值为第四数值的像素点的数量进行比值计算,得到外层圆环区域内第二低质量像素点的整体占比。
即,此实例中外层圆环区域具体定义参考图23(即mask_loop前景区域)。外层圆环区域主要用于判别“轻度光照不均”和“轻度漏光”。“轻度光照不均”低质量判别需统计“过亮”和“灰白色”低质量像素点在外层圆环区域内整体分布区域及比例及“过暗”低质量像素点在外层圆环区域内整体分布区域及比例;“轻度漏光”低质量判别需统计“灰白色”低质量像素点在外层圆环区域内整体分布区域及比例。
外层圆环区域内低质量像素点分布区域及比例计算方法同上,依次可得到外层圆环区域三种类型低质量像素点分布区域lowQuality_huangban_overbrightAndGray,lowQuality_huangban_gray,lowQuality_huangban_dark及占比ratio_huangban_overbrightAndGray,ratio_huangban_gray,ratio_huangban_dark。
在通过以上任一所述方式提取出限制区域低质量像素点后,即可基于提取出的限制区域低质量像素点对拍摄图像进行质量评估,从而得到相应的质量评估结果。其中,需要说明的是,在对拍摄图像进行质量评估时,根据前面所述的不合格(即,低质量)的眼底图像,其包括但不限十二种低质量类型,因此,可以按照预设顺序对拍摄图像的视盘位置、全局是否过暗、漏光程度、光照不均、四要素是否可见、眼皮遮挡、虚焦、噪声、光照不均、图像过亮和图像偏红中的至少一种进行判别评估,得到质量评估结果。
其中,具体每种低质量类型判别方法依次展示如下:
视盘位置不正:眼底绝大多数疾病症状表现于以视盘、黄斑、上血管弓和下血管弓区域(简称眼底四要素区域)为主的眼底后极部微小区域,故具有较高阅片价值的标准眼底图像应保证眼底四要素区域清晰可见。而四要素相对位置又相对固定,故视盘位置不正必然会严重影像其他三个要素的可见性,尤其黄斑区域,因此,判别眼底影像视盘位置对于评估眼底影像质量非常有意义。彩色眼底影像内部结构复杂,且各式各样的低质量图像又进一步加剧了视盘位置检测复杂度,且无法覆盖全部类型低质量眼底图像场景。本文从简化问题复杂度角度提出一种在拍摄预览图像上基于模板匹配的方法检测视盘位置,并通过判别视盘位置是否落于限制区域内进行“视盘位置不正”判别。
全局严重过暗:眼底图像严重过暗会严重影响图像在实际业务场景的可读性(细节清晰可见),是低质量类型中较为严重的一种。全局严重过暗表现为图像亮度整体较低,导致眼底图像整体不可读或大范围不可读(可读——细无法清晰可见),通过对于图像亮度设限即可实现全局严重过暗图像判别。具体判定条件为:若V通道前景区域图像亮度均值meanValue_V<50,则判定为“全局严重过暗”;否则,向下执行。
严重漏光:严重漏光由于拍摄过程中,外界杂光大范围、多角度进入眼底,并干扰成像的一种低质量类型,具体体现为眼底图像表面出现大面积的灰白色雾状遮挡,严重干扰眼底图像的可读性,通过统计眼底图像中全局“灰白色”像素点占比即可进行区分。具体判定条件为:若全局“过亮”和“灰白色”像素点整体占比ratio_whole_overbrightAndGray>0.55,且全局“过暗”像素点占比ratio_whole_dark<0.1,则判定“严重漏光”;否则,向下执行。
严重光照不均:光照不均主要表现为图像一部分过亮,包括“过亮”和“灰白色”;一部分严重过暗,且整体低质量像素点占比较高,遍布一半以上的眼底图像前景区域。具体判定条件如下:若全局“过亮”、“灰白色”、“过暗”像素点整体占比ratio_whole_overbrightAndGrayAndDark>0.5,且全局“过暗”像素点占比ratio_whole_dark>0.1,且全局“过亮”和“灰白色”像素点整体占比ratio_whole_overbrightAndGray>0.1,则判定“严重光照不均”;否则,向下执行。
四要素不可见:四要素为眼底图像在阅片时重点关注的区域,绝大多数眼底疾病需通过四要素区域是否存在异常进行判别。其中,眼底图像四要素包括:视盘区、黄斑区、上血管弓区域和下血管弓区域。此处四要素不可见定义为:只要存在其中一个要素不可读,则条件成立。具体判定条件如下:若视盘区(包含上、下血管弓区域)“过亮”、“灰白色”、“过暗”像素点整体占比ratio_shipan_overbrightAndGrayAndDark>0.4,或黄斑区“过亮”、“灰白色”、“过暗”像素点整体占比ratio_huangban_overbrightAndGrayAndDark>0.4,则判定“四要素不可见”;否则,向下执行。
眼皮遮挡:实际拍摄过程中,存在眼皮遮挡情况图像比例不高,但还是会出现的。主要出现在老年人群体,主要原因技师工作态度问题。“眼皮遮挡”图像特征明显,表现为眼底图像边界区域向内延伸的一块边界平滑狭长的高亮区域,图像亮度值较高,一般在230以上,通过检测眼底图图像H-channel上八邻域模板(详见图24a至图24h)区域是否存在平均像素值大于230,区域即可实现“眼皮遮挡”检测,由于不满足此条件的图像一般对于四要素区域可读性影像较小,此处默认影像质量为合格。具体判定条件为:若八邻域模板中,存在任一模板对应的眼底图区域图像平均亮度大于230,则判定“眼皮遮挡”;否则,向下执行。
虚焦:虚焦在眼底图像上的具体表现形式为模糊。基于传统方法计算图像模糊度来判别图像模糊程度的方法已较为成熟,但算法复杂。由于清晰图像对应的轮廓图中的血管边界较为清晰,而模糊图像对应的轮廓图中的血管边界不清晰,甚至不可见,故本实例基于Sobel算子提取预处理后的眼底图的轮廓图训练一个轻量化深度学习模型chaojinice07(1.456M)进行判别。其中,虚焦图像作为正样本,非虚焦图像作为负样本,负样本中各种类型图像比重符合实际应用场景,正负样本比例接近1:1。为了进一步显著“虚焦”和“非虚焦”图像对应的轮廓图上的血管边界清晰程度的差异性,同时减少噪声引入,此处对于Sobel算子提取到的轮廓图的前景区域像素值整体放大五倍后应用于模型训练。具体判定条件为:若模型判别结果为“模糊”,则判定“虚焦”;否则,向下执行。
噪声:图像中出现的噪声主要由相机光路缺陷在非标准操作时的体现。本实例中的“噪声”包括:过曝、彩虹、尾影、镜头污点等。由于噪声出现位置不固定、噪声的形状和大小也不固定,传统算法进行噪声检测复杂且效果差,故本实例中采用预处理后的原始图像训练一个轻量化深度学习模型chaojinice07(1.456M)进行判别。其中,含噪声的眼底图像作为正样本,不含噪声的眼底图像作为负样本,负样本中各种类型图像比重符合实际应用场景,正负样本比例接近1:1。具体判定条件为:若模型判别结果为“噪声”,则判定噪声;否则,向下执行。
轻度光照不均:轻度光照不均与严重光照不均的区别在于程度的不同,即亮区和暗区的亮度和范围不同。尽管程度不同,但轻度光照不均依旧体现为一部分区域“过亮”/“灰白色”,另一部分区域“过暗”,不同程度的光照不均体现为亮区和暗区从眼底图像外轮廓向内延伸的程度不同。故,一旦存在光照不均,无论程度如何,必然会在眼底图像外层轮廓处体现。因此,通过检测眼底图像外层圆环区域内的“过亮”和“灰白色”像素点的整体分布比例及外层圆环区域内的“过暗”像素点分布比例即可实现“轻度光照不均”低质量图像判别。具体判别条件为:若眼底图像外层圆环区域内“过亮”和“灰白色”像素点整体分布区域占比ratio_huangban_overbrightAndGray>0.2,且外层圆环区域内“过暗”像素点分布区域占比ratio_huangban_dark>0.1,则判定“轻度光照不均”;否则,向下执行。
轻度漏光:轻度漏光低质量像素点绝大多数分布在眼底图像外轮廓,随着漏光的位置、角度、范围不同,轻度漏光像素点会向眼底图中心或延眼底图外轮廓向整个圆周方向扩展。故,对于不同程度的漏光,轻度漏光低质量像素点优先在眼底图外轮廓体现,且允许合格图像存在少许边界漏光现象。具体判别条件为:若眼底图像外层圆环区域内“灰白色”像素点整体分布区域占比ratio_huangban_gray>0.2,则判定“轻度漏光”;否则,向下执行。
图像过亮:图像过亮表现为眼底图像过度曝光,导致眼底图整体过亮,伴随视盘区域内血管无法清晰可见/完全不可见。合格眼底图平均图像亮度大致分布在120-170范围内,而过亮眼底图平均亮度更亮,本样例中通过计算眼底图像平均亮度,并与阈值比较,即可实现“图像过亮”低质量图像的判别,此处阈值选择为190。具体判别条件为:若眼底图像平均亮度meanValue_V>190,则判定为“图像过亮”;否则,向下执行。
偏红:眼底图像偏红的主要原因为曝光瞬间,眼底进光量不足导致。通过实际数据分析可以发现:H-channel像素点小于等于6(轻度偏偏红)及大于170(严重偏红)时,对应于眼底图中偏红区域;对于H-channel大于100且小于170区间的像素点,若判别结果不是“过暗”,则也为严重偏红。故,通过统计H-channel像素点像素值及R-channel像素点像素值即可实现偏红像素点判别。具体判别条件为:若H-channel像素点小于等于6,或H-channel像素点大于170,或H-channel大于100小于170像素点对应的R-channel同位置像素点大于25,则判定为“偏红”;否则,向下执行。
合格:能够到达此环节的图像默认“合格”。
其中,在一种可能的实现方式中,按照以上各项判别条件,可以按照以下顺序依次进行质量评估。即,参阅图25,首先,通过步骤S510,根据提取出来的视盘区域对视盘位置进行判别。
在判别出视盘位置不正时,直接确定拍摄图像为低质量图像,并通过步骤S511,输出低质量的类型为视盘不正;
在判别出视盘位置正时,执行步骤S520,根据V通道图像中前景区域图像亮度的均值判定拍摄图像是否为全局严重过暗;
在判别出拍摄图像为全局严重过暗时,直接确定拍摄图像为低质量图像,并通过步骤S521,输出低质量的类型为全局严重过暗;
在判别出拍摄图像不是全局严重过暗时,通过步骤S530,根据过亮像素点和灰白色像素点的全局占比,以及过暗像素点的全局占比判定拍摄图像是否严重漏光;
在判别出拍摄图像为严重漏光时,直接确定拍摄图像为低质量图像,并通过步骤S531,输出低质量的类型为严重漏光;
在判别出拍摄图像不是严重漏光时,通过步骤S540,根据过亮像素点和灰白色像素点和过暗像素点的全局占比,以及过暗像素点的全局占比,以及过亮像素点和灰白色像素点的全局占比,判定拍摄图像是否严重光照不均;
在判别出拍摄图像为严重光照不均时,直接确定拍摄图像为低质量图像,并通过步骤S541,输出低质量的类型为严重光照不均;
在判别出拍摄图像不存在严重光照不均时,执行步骤S550,根据视盘区域内低质量像素点整体占比或黄斑区域内低质量像素点整体占比判别拍摄图像是否为四要素不可见;
在判别出拍摄图像为四要素不可见时,直接确定拍摄图像为低质量图像,并通过步骤S551,输出低质量的类型为四要素不可见;
在判别出拍摄图像不存在四要素不可见时,通过步骤S560,根据八邻域区域中任一区域图像平均亮度判定拍摄图像是否存在眼皮遮挡;
在判别出拍摄图像存在眼皮遮挡时,直接确定拍摄图像为低质量图像,并执行步骤S561,输出低质量的类型为眼皮遮挡;
在判别出拍摄图像不存在眼皮遮挡时,执行步骤S570,采用训练好的深度学习网络模型对拍摄图像的轮廓图进行是否模糊的判别;
在判别出拍摄图像的轮廓图存在模糊的情况时,直接确定拍摄图像为低质量图像,并执行步骤S571,输出低质量的类型为虚焦;
在判别出拍摄图像的轮廓图不存在模糊的情况时,执行步骤S580,采用训练好的深度学习网络模型对拍摄图像进行噪声检测;
在检测出拍摄图像存在噪声时,直接确定拍摄图像为低质量图像,并执行步骤S581,输出低质量的类型为噪声;
在检测出拍摄图像不存在噪声时,通过步骤S590,根据外层圆环区域内第一低质量像素点的整体占比和外层圆环区域内第二低质量像素点的整体占比对拍摄图像进行轻度光照不均的判别;
在判别出拍摄图像存在轻度光照不均的情况时,直接确定拍摄图像为低质量图像,并执行步骤S591,输出低质量的类型为轻度光照不均;
在判别出拍摄图像不存在轻度光照不均的情况时,通过步骤S591’,根据外层圆环区域内灰白色像素点的整体占比对拍摄图像进行轻度漏光的判别;
在判别出拍摄图像存在轻度漏光的情况时,直接确定拍摄图像为低质量图像,并执行步骤S5910,输出低质量的类型为轻度漏光;
在判别出拍摄图像不存在轻度漏光的情况时,通过步骤S592,根据拍摄图像的平均亮度对拍摄图像进行图像过亮的判别;
在判别出拍摄图像存在图像过亮的情况时,直接确定拍摄图像为低质量图像,并执行步骤S5920,输出低质量的类型为图像过亮;
在判别出拍摄图像不存在图像过亮的情况时,通过步骤S593,根据H通道图像的像素点像素值和R通道图像的像素点像素值对拍摄图像进行偏红判别;
在判别出拍摄图像存在偏红情况时,直接确定拍摄图像为低质量图像,并执行步骤S5930,输出低质量的类型为偏红;
在判别出拍摄图像不存在偏红情况时,确定拍摄图像为合格,并通过步骤S594,输出质量评估结果为合格眼底图。
更进一步地,在通过上述任一方式得到质量评估结果为低质量时,即可通过步骤S500’,基于预先存储的低质量成因词条,根据低质量的类型获取并推送相应的成因。即,根据得到的质量评估结果,将相对应的低质量词条及正确拍摄建议显示于影像采集设备界面。
其中,还需要进一步说明的是,在本申请的方法中,在质量评估结果为低质量时,还可以包括基于预先存储的拍摄手法建议词条,根据低质量的类型获取并推送相应的拍摄手法建议的步骤。即,在判别出眼底图像的质量评估结果为低质量后,推送相应的低质量成因时还可以同时根据预先存储的拍摄手法建议词条推送相应的拍摄手法建议,从而在相机端与拍摄者之间形成拍摄手法优化闭环,这也就在实际拍摄过程中辅助提升了拍摄者的拍摄水平,降低了运营的培训成本。
具体的,在一种可能的实现方式中,预先存储的低质量词条与之匹配的低质量成因及拍摄建议信息展示于表2:
表2低质量词条与之匹配的低质量成因及拍摄建议信息展示
Figure BDA0002290950360000191
基于以上任一所述的眼底影像质量评估方法,本申请还提供了一种眼底影像质量评估系统。由于本申请提供的眼底影像质量评估系统的工作原理与本申请的眼底影像质量评估方法的原理相同或相似,因此重复之处不再赘述。
参阅图26,本申请的眼底影像质量评估系统100包括影像采集模块110、外层质控模块120、内层质控模块130和输出模块140。其中,影像采集模块110,被配置为获取当前接收到的拍摄图像。外层质控模块120,被配置为对拍摄图像进行眼底图像的判别。内层质控模块130包括图像处理子模块、全局低质量像素点提取子模块、限制区域低质量像素点提取子模块和质量评估子模块。图像处理子模块,被配置为在外层质控模块120判别出拍摄图像为眼底图像时,读取拍摄图像,并对拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像。全局低质量像素点提取子模块,被配置为由拍摄图像中提取出多个目标区域模板,并基于低质量像素点在不同颜色空间的不同通道上表现出的特异性提取出全局低质量像素点分布区域。
其中,目标区域模板包括前景区域、视盘及上下血管弓区域、黄斑区域、外层圆环区域和八个不同方向的四分之一区域中的至少一种。全局低质量像素点分布区域包括过暗像素点分布区域、灰白色像素点分布区域、过亮像素点分布区域和偏红像素点分布区域中的至少一种;
限制区域低质量像素点提取子模块,被配置为基于各目标区域和各全局低质量像素点分布区域,提取出拍摄图像中的限制区域低质量像素点。质量评估子模块,被配置为融合全局区域低质量像素点占比和限制区域低质量像素点占比情况,对拍摄图像进行质量评估得到相应的质量评估结果。
输出模块140,被配置为在质量评估子模块评估出质量评估结果为低质量时,基于预先存储的低质量成因词条,根据低质量的类型获取并推送相应的成因。
在一种可能的实现方式中,外层质控模块120包括图像预处理子模块、初级判别子模块、再次判别子模块和逻辑判别子模块。其中,图像预处理子模块,被配置为对拍摄图像进行预处理;其中,预处理包括对拍摄图像进行裁剪、缩放和归一化操作中的至少一种。初级判别子模块,被配置为接收预处理后的拍摄图像,并通过训练后的第一判别网络对拍摄图像进行初级。再次判别子模块,被配置为在第一判别网络判别出拍摄图像为非眼底图像时,将预处理后的拍摄图像输入至训练后的第二判别网络,由第二判别网络对拍摄图像进行再次判别。逻辑判别子模块,被配置为在再次判别出拍摄图像为非眼底图像时,获取第一判别网络的输出结果和第二判别网络的输出结果,并根据第一判别网络的输出结果和第二判别网络的输出结果,确定预设的判别规则是否成立。逻辑判别子模块,还被配置为在判别规则成立时,输出拍摄图像为眼底图像的判别结果。
其中,判别规则为:第一判别网络的输出结果和第二判别网络的输出结果中存在至少一个输出结果为:第一类别的概率大于第一预设值,第二类别的概率或第三类别的概率大于第二预设值;
第一类别为眼底图像类别,第二类别为外景图像类别,第三类别为外眼图像类别。第一预设值的取值为0.36,第二预设值的取值为0.36。
更进一步地,根据本公开的另一方面,还提供了一种眼底影像质量评估设备200。参阅图8,本公开实施例眼底影像质量评估设备200包括处理器210以及用于存储处理器210可执行指令的存储器220。其中,处理器210被配置为执行可执行指令时实现前面任一所述的眼底影像质量评估方法。
此处,应当指出的是,处理器210的个数可以为一个或多个。同时,在本公开实施例的眼底影像质量评估设备200中,还可以包括输入装置230和输出装置240。其中,处理器210、存储器220、输入装置230和输出装置240之间可以通过总线连接,也可以通过其他方式连接,此处不进行具体限定。
存储器220作为一种计算机可读存储介质,可用于存储软件程序、计算机可执行程序和各种模块,如:本公开实施例的眼底影像质量评估方法所对应的程序或模块。处理器210通过运行存储在存储器220中的软件程序或模块,从而执行眼底影像质量评估设备200的各种功能应用及数据处理。
输入装置230可用于接收输入的数字或信号。其中,信号可以为产生与设备/终端/服务器的用户设置以及功能控制有关的键信号。输出装置240可以包括显示屏等显示设备。
根据本公开的另一方面,还提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,计算机程序指令被处理器210执行时实现前面任一所述的眼底影像质量评估方法。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (10)

1.一种眼底影像质量评估方法,其特征在于,包括:
获取当前接收到的拍摄图像,并对所述拍摄图像进行眼底图像的判别;
在判别出所述拍摄图像为眼底图像时,读取所述拍摄图像,并对所述拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像;
由所述拍摄图像中提取出多个目标区域模板,并基于低质量像素点在不同颜色空间的不同通道上表现出的特异性提取出全局低质量像素点分布区域;
其中,所述目标区域模板包括前景区域、视盘及上下血管弓区域、黄斑区域、外层圆环区域和八个不同方向的四分之一区域中的至少一种;
所述全局低质量像素点分布区域包括过暗像素点分布区域、灰白色像素点分布区域、过亮像素点分布区域和偏红像素点分布区域中的至少一种;
基于各所述目标区域模板和各所述全局低质量像素点分布区域,提取出所述拍摄图像中的限制区域低质量像素点,并融合全局区域低质量像素点占比和限制区域低质量像素点占比情况,对所述拍摄图像进行质量评估得到相应的质量评估结果;
在所述质量评估结果为低质量时,基于预先存储的低质量成因词条,根据所述低质量的类型获取并推送相应的成因。
2.根据权利要求1所述的方法,其特征在于,对所述拍摄图像进行眼底图像的判别,包括:
对所述拍摄图像进行预处理;其中,所述预处理包括对所述拍摄图像进行裁剪、缩放和归一化操作中的至少一种;
接收预处理后的所述拍摄图像,并通过训练后的第一判别网络对所述拍摄图像进行初级判别;
在所述第一判别网络判别出所述拍摄图像为非眼底图像时,将预处理后的所述拍摄图像输入至训练后的第二判别网络,由所述第二判别网络对所述拍摄图像进行再次判别;
在再次判别出所述拍摄图像为非眼底图像时,获取所述第一判别网络的输出结果和所述第二判别网络的输出结果,并根据所述第一判别网络的输出结果和所述第二判别网络的输出结果,确定预设的判别规则是否成立;
在所述判别规则成立时,输出所述拍摄图像为眼底图像的判别结果;
其中,所述判别规则为:所述第一判别网络的输出结果和所述第二判别网络的输出结果中存在至少一个输出结果为:第一类别的概率大于第一预设值,第二类别的概率或第三类别的概率大于第二预设值;
所述第一类别为眼底图像类别,所述第二类别为外景图像类别,所述第三类别为外眼图像类别;
所述第一预设值的取值为0.36,所述第二预设值的取值为0.36。
3.根据权利要求1所述的方法,其特征在于,对所述拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像,包括:将所述拍摄图像由彩色图像转换为灰度图像,将所述拍摄图像由RGB颜色空间转换为HSV颜色空间,将所述拍摄图像的RGB图像通道分离为R通道图像、G通道图像、B通道图像,以及将所述拍摄图像的HSV图像通道分离为H通道图像、S通道图像、V通道图像中的至少一种;
其中,基于低质量像素点在不同颜色空间的不同通道上表现出的特异性提取出全局低质量像素点分布区域,包括:
获取所述V通道图像中各像素点的像素值,根据所述V通道图像中各像素点的像素值与第一阈值的大小关系,由所述V通道图像中提取出像素值大于所述第一阈值的像素点作为过亮像素点分布区域;
获取所述H通道图像中各像素点的像素值,由所述H通道图像中提取出像素值处于第一区间,且在所述R通道图像相同位置处的像素点的像素值小于或等于第二阈值的像素点作为过暗像素点分布区域;
获取所述灰度图像中像素值小于或等于第三阈值的像素点作为所述过暗像素点分布区域;
获取所述H通道图像中各像素点的像素值,由所述H通道图像中提取出像素值小于或等于第四阈值,或像素值大于第五阈值的像素点作为偏红像素点分布区域;
获取所述H通道图像中各像素点的像素值,由所述H通道图像中提取出像素值处于所述第一区间,且在所述R通道图像相同位置处的像素点的像素值大于所述第二阈值的像素点作为所述偏红像素点分布区域;
获取所述H通道图像中各像素点的像素值,由所述H通道图像中提取出像素值大于或等于第六阈值且像素值小于或等于第七阈值的像素点作为灰白色像素点分布区域;
将提取出来的所述过亮像素点分布区域、所述过暗像素点分布区域、所述偏红像素点分布区域和所述灰白色像素点分布区域进行融合,得到全局过亮像素点分布区域的二值图像、全局过暗像素点分布区域的二值图像、全局偏红像素点分布区域的二值图像和全局灰白色像素点分布区域的二值图像;
对所述过亮像素点分布区域、所述过暗像素点分布区域和所述灰白色像素点分布区域两两之间再次进行并集融合,依次得到第一整体分布区域、第二整体分布区域和第三整体分布区域;
其中,所述第一整体分布区域为过亮像素点和灰白色像素点的整体分布区域,所述第二整体分布区域为灰白色像素点和过暗像素点的整体分布区域,所述第三整体分布区域为过亮像素点、灰白色像素点和过暗像素点的整体分布区域;
分别统计过亮像素点的数量、过暗像素点的数量、灰白色像素点的数量和偏红像素点的数量,并根据眼底图前景区域像素点的数量,依次计算得到过亮像素点的全局占比、过暗像素点的全局占比、灰白色像素点的全局占比和偏红像素点的全局占比、过亮像素点和过暗像素点的全局占比、过暗像素点和灰白色像素点的全局占比、灰白色像素点和偏红像素点的全局占比、过亮像素点和灰白色像素点和过暗像素点的全局占比。
4.根据权利要求3所述的方法,其特征在于,基于各所述目标区域模板和各所述全局低质量像素点分布区域,提取出所述拍摄图像中的限制区域低质量像素点,包括:
将所述视盘区域与所述第三整体分布区域进行与操作,得到第一限制区域,并统计所述第一限制区域内像素值为第一数值的像素点的数量以及所述视盘区域内像素值为所述第一数值的像素点的数量,对所述第一限制区域内像素值为第一数值的像素点的数量与所述视盘区域内像素值为所述第一数值的像素点的数量进行比值计算,得到视盘区域内低质量像素点的整体占比;
将所述黄斑区域与所述第三整体分布区域进行与操作,得到第二限制区域,并统计所述第二限制区域内像素值为第二数值的像素点的数量以及所述黄斑区域内像素值为所述第二数值的像素点的数量,对所述第二限制区域内像素值为第二数值的像素点的数量与所述黄斑区域内像素值为所述第二数值的像素点的数量进行比值计算,得到黄斑区域内低质量像素点的整体占比;
将所述外层圆环区域与所述第一整体分布区域进行与操作,得到第三限制区域,并统计所述第三限制区域内像素值为第三数值的像素点的数量以及所述外层圆环区域内像素值为所述第三数值的像素点的数量,对所述第三限制区域内像素值为第三数值的像素点的数量与所述外层圆环区域内像素值为所述第三数值的像素点的数量进行比值计算,得到外层圆环区域内第一低质量像素点的整体占比;
将所述外层圆环区域与所述全局灰白色像素点分布区域的二值图像进行与操作,得到第四限制区域,并统计所述第四限制区域内像素值为第四数值的像素点的数量以及所述外层圆环区域内像素值为所述第四数值的像素点的数量,对所述第四限制区域内像素值为第四数值的像素点的数量与所述外层圆环区域内像素值为所述第四数值的像素点的数量进行比值计算,得到外层圆环区域内第二低质量像素点的整体占比。
5.根据权利要求4所述的方法,其特征在于,融合全局区域低质量像素点占比和限制区域低质量像素点占比情况,对所述拍摄图像进行质量评估得到相应的质量评估结果,包括:
根据全局区域低质量像素点占比和限制区域低质量像素点占比情况,按照预设顺序对所述拍摄图像的视盘位置、全局是否过暗、漏光程度、光照不均、四要素是否可见、眼皮遮挡、虚焦、噪声、光照不均、图像过亮和图像偏红中的至少一种进行判别评估,得到所述质量评估结果。
6.根据权利要求5所述的方法,其特征在于,融合全局区域低质量像素点占比和限制区域低质量像素点占比情况,对所述拍摄图像进行质量评估得到相应的质量评估结果,包括:
根据提取出来的所述视盘区域对视盘位置进行判别;
在判别出所述视盘位置不正时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为视盘不正;
在判别出所述视盘位置正时,根据所述V通道图像中前景区域图像亮度的均值判定所述拍摄图像是否为全局严重过暗;
在判别出所述拍摄图像为全局严重过暗时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为全局严重过暗;
在判别出所述拍摄图像不是全局严重过暗时,根据过亮像素点和灰白色像素点的全局占比,以及过暗像素点的全局占比判定所述拍摄图像是否严重漏光;
在判别出所述拍摄图像为严重漏光时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为严重漏光;
在判别出所述拍摄图像不是严重漏光时,根据过亮像素点和灰白色像素点和过暗像素点的全局占比,以及过暗像素点的全局占比,以及过亮像素点和灰白色像素点的全局占比,判定所述拍摄图像是否严重光照不均;
在判别出所述拍摄图像为严重光照不均时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为严重光照不均;
在判别出所述拍摄图像不存在严重光照不均时,根据视盘区域内低质量像素点整体占比或黄斑区域内低质量像素点整体占比判别所述拍摄图像是否为四要素不可见;
在判别出所述拍摄图像为四要素不可见时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为四要素不可见;
在判别出所述拍摄图像不存在四要素不可见时,根据八邻域区域中任一区域图像平均亮度判定所述拍摄图像是否存在眼皮遮挡;
在判别出所述拍摄图像存在所述眼皮遮挡时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为眼皮遮挡;
在判别出所述拍摄图像不存在所述眼皮遮挡时,采用训练好的深度学习网络模型对所述拍摄图像的轮廓图进行是否模糊的判别;
在判别出所述拍摄图像的轮廓图存在模糊的情况时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为虚焦;
在判别出所述拍摄图像的轮廓图不存在模糊的情况时,采用训练好的深度学习网络模型对所述拍摄图像进行噪声检测;
在检测出所述拍摄图像存在噪声时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为噪声;
在检测出所述拍摄图像不存在噪声时,根据外层圆环区域内第一低质量像素点的整体占比和外层圆环区域内第二低质量像素点的整体占比对所述拍摄图像进行轻度光照不均的判别;
在判别出所述拍摄图像存在轻度光照不均的情况时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为轻度光照不均;
在判别出所述拍摄图像不存在轻度光照不均的情况时,根据外层圆环区域内灰白色像素点的整体占比对所述拍摄图像进行轻度漏光的判别;
在判别出所述拍摄图像存在轻度漏光的情况时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为轻度漏光;
在判别出所述拍摄图像不存在轻度漏光的情况时,根据所述拍摄图像的平均亮度对所述拍摄图像进行图像过亮的判别;
在判别出所述拍摄图像存在图像过亮的情况时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为图像过亮;
在判别出所述拍摄图像不存在图像过亮的情况时,根据所述H通道图像的像素点像素值和所述R通道图像的像素点像素值对所述拍摄图像进行偏红判别;
在判别出所述拍摄图像存在偏红情况时,直接确定所述拍摄图像为低质量图像,并输出低质量的类型为偏红;
在判别出所述拍摄图像不存在偏红情况时,确定所述拍摄图像为合格。
7.根据权利要求1至6任一项所述的方法,其特征在于,还包括:
在所述质量评估结果为低质量时,基于预先存储的拍摄手法建议词条,根据所述低质量的类型获取并推送相应的拍摄手法建议。
8.一种眼底影像质量评估装置,其特征在于,包括影像采集模块、外层质控模块、内层质控模块和输出模块;
所述影像采集模块,被配置为获取当前接收到的拍摄图像;
所述外层质控模块,被配置为对所述拍摄图像进行眼底图像的判别;
所述内层质控模块包括图像处理子模块、全局低质量像素点提取子模块、限制区域低质量像素点提取子模块和质量评估子模块;
所述图像处理子模块,被配置为在所述外层质控模块判别出所述拍摄图像为眼底图像时,读取所述拍摄图像,并对所述拍摄图像进行颜色转换和通道分离操作,得到多张灰度图像;
所述全局低质量像素点提取子模块,被配置为由所述拍摄图像中提取出多个目标区域模板,并基于低质量像素点在不同颜色空间的不同通道上表现出的特异性提取出全局低质量像素点分布区域;
其中,所述目标区域模板包括前景区域、视盘及上下血管弓区域、黄斑区域、外层圆环区域和八个不同方向的四分之一区域中的至少一种;
所述全局低质量像素点分布区域包括过暗像素点分布区域、灰白色像素点分布区域、过亮像素点分布区域和偏红像素点分布区域中的至少一种;
所述限制区域低质量像素点提取子模块,被配置为基于各所述目标区域模板和各所述全局低质量像素点分布区域,提取出所述拍摄图像中的限制区域低质量像素点;
所述质量评估子模块,被配置为融合全局区域低质量像素点占比和限制区域低质量像素点占比情况,对所述拍摄图像进行质量评估得到相应的质量评估结果;
所述输出模块,被配置为在所述质量评估子模块评估出所述质量评估结果为低质量时,基于预先存储的低质量成因词条,根据所述低质量的类型获取并推送相应的成因。
9.一种眼底影像质量评估设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述可执行指令时实现权利要求1至7中任意一项所述的方法。
10.一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至7中任意一项所述的方法。
CN201911179823.4A 2019-11-27 2019-11-27 眼底影像质量评估方法和系统、设备及存储介质 Active CN111080577B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911179823.4A CN111080577B (zh) 2019-11-27 2019-11-27 眼底影像质量评估方法和系统、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911179823.4A CN111080577B (zh) 2019-11-27 2019-11-27 眼底影像质量评估方法和系统、设备及存储介质

Publications (2)

Publication Number Publication Date
CN111080577A true CN111080577A (zh) 2020-04-28
CN111080577B CN111080577B (zh) 2023-05-26

Family

ID=70311767

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911179823.4A Active CN111080577B (zh) 2019-11-27 2019-11-27 眼底影像质量评估方法和系统、设备及存储介质

Country Status (1)

Country Link
CN (1) CN111080577B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111932532A (zh) * 2020-09-21 2020-11-13 安翰科技(武汉)股份有限公司 胶囊内窥镜无参考图像评价方法、电子设备及介质
CN112190227A (zh) * 2020-10-14 2021-01-08 上海鹰瞳医疗科技有限公司 眼底相机及其使用状态检测方法
CN112220448A (zh) * 2020-10-14 2021-01-15 上海鹰瞳医疗科技有限公司 眼底相机及眼底图像合成方法
CN112561906A (zh) * 2020-12-24 2021-03-26 百果园技术(新加坡)有限公司 一种图像处理方法、装置、设备及介质
CN113379700A (zh) * 2021-06-08 2021-09-10 展讯通信(上海)有限公司 图像质量的检测方法、系统、设备及介质
CN113674157A (zh) * 2021-10-21 2021-11-19 广东唯仁医疗科技有限公司 眼底图像拼接方法、计算机装置和存储介质
CN117095450A (zh) * 2023-10-20 2023-11-21 武汉大学人民医院(湖北省人民医院) 一种基于图像的眼干程度评估系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130070988A1 (en) * 2010-06-17 2013-03-21 Canon Kabushiki Kaisha Fundus image acquiring apparatus and control method therefor
JP2017189530A (ja) * 2016-04-15 2017-10-19 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム
CN107451998A (zh) * 2017-08-08 2017-12-08 北京大恒普信医疗技术有限公司 一种眼底图像质量控制方法
CN110084803A (zh) * 2019-04-29 2019-08-02 南京星程智能科技有限公司 基于人类视觉系统的眼底图像质量评估方法
CN110189312A (zh) * 2019-05-24 2019-08-30 北京百度网讯科技有限公司 眼底图像的亮度评估方法、装置、电子设备及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130070988A1 (en) * 2010-06-17 2013-03-21 Canon Kabushiki Kaisha Fundus image acquiring apparatus and control method therefor
JP2017189530A (ja) * 2016-04-15 2017-10-19 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム
CN107451998A (zh) * 2017-08-08 2017-12-08 北京大恒普信医疗技术有限公司 一种眼底图像质量控制方法
CN110084803A (zh) * 2019-04-29 2019-08-02 南京星程智能科技有限公司 基于人类视觉系统的眼底图像质量评估方法
CN110189312A (zh) * 2019-05-24 2019-08-30 北京百度网讯科技有限公司 眼底图像的亮度评估方法、装置、电子设备及存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
龙哲;: "眼动数据在图像感官质量动态调节中的应用研究", 福建电脑 *

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022057897A1 (zh) * 2020-09-21 2022-03-24 安翰科技(武汉)股份有限公司 胶囊内窥镜无参考图像评价方法、电子设备及介质
CN111932532B (zh) * 2020-09-21 2021-01-08 安翰科技(武汉)股份有限公司 胶囊内窥镜无参考图像评价方法、电子设备及介质
CN111932532A (zh) * 2020-09-21 2020-11-13 安翰科技(武汉)股份有限公司 胶囊内窥镜无参考图像评价方法、电子设备及介质
CN112220448B (zh) * 2020-10-14 2022-04-22 北京鹰瞳科技发展股份有限公司 眼底相机及眼底图像合成方法
CN112220448A (zh) * 2020-10-14 2021-01-15 上海鹰瞳医疗科技有限公司 眼底相机及眼底图像合成方法
CN112190227A (zh) * 2020-10-14 2021-01-08 上海鹰瞳医疗科技有限公司 眼底相机及其使用状态检测方法
CN112561906A (zh) * 2020-12-24 2021-03-26 百果园技术(新加坡)有限公司 一种图像处理方法、装置、设备及介质
CN113379700A (zh) * 2021-06-08 2021-09-10 展讯通信(上海)有限公司 图像质量的检测方法、系统、设备及介质
CN113379700B (zh) * 2021-06-08 2022-11-25 展讯通信(上海)有限公司 图像质量的检测方法、系统、设备及介质
CN113674157A (zh) * 2021-10-21 2021-11-19 广东唯仁医疗科技有限公司 眼底图像拼接方法、计算机装置和存储介质
CN113674157B (zh) * 2021-10-21 2022-02-22 广东唯仁医疗科技有限公司 眼底图像拼接方法、计算机装置和存储介质
CN117095450A (zh) * 2023-10-20 2023-11-21 武汉大学人民医院(湖北省人民医院) 一种基于图像的眼干程度评估系统
CN117095450B (zh) * 2023-10-20 2024-01-09 武汉大学人民医院(湖北省人民医院) 一种基于图像的眼干程度评估系统

Also Published As

Publication number Publication date
CN111080577B (zh) 2023-05-26

Similar Documents

Publication Publication Date Title
CN111080577B (zh) 眼底影像质量评估方法和系统、设备及存储介质
US8290267B2 (en) Detecting redeye defects in digital images
CN107451998B (zh) 一种眼底图像质量控制方法
JP4549352B2 (ja) 画像処理装置および方法,ならびに画像処理プログラム
CN110889312B (zh) 活体检测方法和装置、电子设备、计算机可读存储介质
CN110298297B (zh) 火焰识别方法和装置
CN109684981B (zh) 青光眼图像识别方法、设备和筛查系统
US7907786B2 (en) Red-eye detection and correction
JP2007172608A (ja) 赤目の検出及び補正
US8285002B2 (en) Image processing apparatus and method, image sensing apparatus, and program
EP1199672A2 (en) Red-eye detection method
JP2005310124A (ja) 赤目検出装置、プログラムおよびプログラムを記録した記録媒体
JP2004348733A (ja) デジタル画像における赤目領域の検出方法及び装置
JP2000125320A (ja) 赤目検出用コンピュ―タプログラム製品
CN105103187A (zh) 用于阴影检测和减弱的多光谱成像系统
WO2015070723A1 (zh) 眼部图像处理方法和装置
CN113536267A (zh) 一种基于人工智能的人体步态验证方法和云服务器
CN112001920B (zh) 眼底图像识别方法及装置和设备
Gasparini et al. Automatic red-eye removal for digital photography
CN107038690A (zh) 一种基于多特征融合的运动阴影去除方法
CN112699760A (zh) 一种脸部目标区域检测方法、装置和设备
CN111832464A (zh) 一种基于近红外摄像头的活体检测方法及装置
Chakraborty et al. A decision scheme based on adaptive morphological image processing for mobile detection of early stage diabetic retinopathy
Ferman Automatic detection of red-eye artifacts in digital color photos
JP2021096831A (ja) 判定装置、判定装置を含む携帯端末、および判定装置用のプログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant