CN111862034A - 图像检测方法、装置、电子设备及介质 - Google Patents

图像检测方法、装置、电子设备及介质 Download PDF

Info

Publication number
CN111862034A
CN111862034A CN202010685366.2A CN202010685366A CN111862034A CN 111862034 A CN111862034 A CN 111862034A CN 202010685366 A CN202010685366 A CN 202010685366A CN 111862034 A CN111862034 A CN 111862034A
Authority
CN
China
Prior art keywords
feature
detected
image
different scales
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010685366.2A
Other languages
English (en)
Other versions
CN111862034B (zh
Inventor
周侠
林萍
郭晏
吕彬
吕传峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SHANDONG EYE INSTITUTE
Ping An Technology Shenzhen Co Ltd
Original Assignee
SHANDONG EYE INSTITUTE
Ping An Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHANDONG EYE INSTITUTE, Ping An Technology Shenzhen Co Ltd filed Critical SHANDONG EYE INSTITUTE
Priority to CN202010685366.2A priority Critical patent/CN111862034B/zh
Publication of CN111862034A publication Critical patent/CN111862034A/zh
Application granted granted Critical
Publication of CN111862034B publication Critical patent/CN111862034B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/13—Edge detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
    • G06V10/464—Salient features, e.g. scale invariant feature transforms [SIFT] using a plurality of salient features, e.g. bag-of-words [BoW] representations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10072—Tomographic images
    • G06T2207/10101—Optical tomography; Optical coherence tomography [OCT]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Biology (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及人工智能技术，揭露了一种图像检测方法，包括：利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图；利用预构建的特征蒸馏子网络对所述精细特征图进行特征蒸馏，生成待提取特征图；利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框；对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果。本发明还涉及区块链技术，所述待检测图像可存储于区块链中。本发明可以实现对图像中病灶的自动检测功能。

Description

图像检测方法、装置、电子设备及介质
技术领域
本发明涉及人工智能技术领域，尤其涉及一种图像检测方法、装置、电子设备及计算机可读存储介质。
背景技术
在医学领域，通过人工智能、图像处理等方法智能检测图像中的目标区域可以辅助医生进行疾病诊断，为治疗方案的制定提供可靠的影像学指标。
然而，目前对眼前节OCT图像的智能分析处理主要集中于对角膜组织的分割，还没有利用深度学习的方法进行眼前节OCT多病灶自动检测的研究。
发明内容
本发明提供一种图像检测方法、装置、电子设备及计算机可读存储介质，其主要目的在于实现眼前节OCT图像的多病灶自动检测。
为实现上述目的，本发明提供的一种图像检测方法，包括：
利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图；
利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图；
利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框；
对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果。
可选地，所述利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图，包括：
利用所述特征金字塔网络中的从底向上的通路对所述待检测图像进行逐级下采样，得到多个不同尺度的粗糙特征图；
利用所述特征金字塔网络中的从顶向下的通路和横向连接将所述多个不同尺度的粗糙特征图进行上采样和融合，得到多个不同尺度的精细特征图。
可选地，所述利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图，包括：
将所述多个不同尺度的精细特征图按照尺度从小到大进行融合，并加入注意力机制，得到融合特征图；
将所述融合特征图通过卷积操作进行特征重构，得到多个不同尺度的新特征图；
将所述多个不同尺度的新特征图进行融合，生成待提取特征图。
可选地，所述利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框，包括：
利用所述待提取特征图采用均衡采样法生成特征块，根据所述特征块将所述待提取特征图划分为不同的图像块，得到拟检测区域；
设置所述拟检测病灶区域中的特征的锚点，根据所述锚点的位置信息生成预测边界框。
可选地，所述对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果，包括：
利用预设的激活函数对所述对所述拟检测区域进行分类识别；
在识别出所述拟检测区域为目标区域时，利用所述激活函数对所述目标区域的预测边界框进行回归定位，得到定位结果，其中所述定位结果包括所述目标区域的位置信息；
根据所述位置信息在所述待检测图像中将所述目标区域进行标记，得到所述待检测图像的检测结果。
为了解决上述问题，本发明还提供一种图像检测装置，所述装置包括：
特征提取模块，用于利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图；
特征蒸馏模块，用于利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图；
区域提取模块，用于利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框；
识别定位模块，用于对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果。
可选地，在利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图时，所述特征蒸馏模块执行下述操作：
将所述多个不同尺度的精细特征图按照尺度从小到大进行融合，并加入注意力机制，得到融合特征图；
将所述融合特征图通过卷积操作进行特征重构，得到多个不同尺度的新特征图；
将所述多个不同尺度的新特征图进行融合，生成待提取特征图。
可选地，在利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框时，所述区域提取模块执行下述操作：
利用所述待提取特征图采用均衡采样法生成特征块，根据所述特征块将所述待提取特征图划分为不同的图像块，得到拟检测区域；
设置所述拟检测病灶区域中的特征的锚点，根据所述锚点的位置信息生成预测边界框。
为了解决上述问题，本发明还提供一种电子设备，所述电子设备包括：
存储器，存储至少一个指令；及
处理器，执行所述存储器中存储的指令以实现上述中任意一项所述的图像检测方法。
为了解决上述问题，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现上述中任意一项所述的图像检测方法。
本发明实施例利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图，强化特征的表达，便于后续对特征区域进行检测；获利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图，有利于小目标病灶和重叠病灶的检测，从而提高最终的病灶检测的准确性；利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框，提高了难于检测的阴性样本的比例，降低了误检率；对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果，保证了图像检测的成功率，减少计算资源的占用与浪费。因此本发明提出的图像检测方法、装置及计算机可读存储介质，可以实现眼前节OCT图像的多病灶自动检测功能。
附图说明
图1为本发明一实施例提供的图像检测方法的流程示意图；
图2为本发明一实施例提供的特征金字塔子网络的流程示意图；
图3为本发明一实施例提供的特征蒸馏子网络的流程示意图；
图4为本发明一实施例提供的区域提取网络的流程示意图；
图5为本发明一实施例提供的图像检测装置的模块示意图；
图6为本发明一实施例提供的实现图像检测方法的电子设备的内部结构示意图；
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本申请实施例提供的图像检测方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之，所述图像检测方法可以由安装在终端设备或服务端设备的软件或硬件来执行，所述软件可以是区块链平台。所述服务端包括但不限于：单台服务器、服务器集群、云端服务器或云端服务器集群等。
本发明提供一种图像检测方法。参照图1所示，为本发明一实施例提供的图像检测方法的流程示意图。在本实施例中，所述图像检测方法包括：
S1、利用特征金字塔网络，对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图。
本发明实施例中，所述待检测图像可以是医学上对角膜进行光学相干断层扫描(OCT)生成的原始图像。本发明较佳实施例可以从区块链中的节点获取所述待检测图像。
较佳地，所述特征金字塔网络是基于卷积神经网络构建的用于提取图像特征的一种神经网络结构。所述特征金字塔网络包括从底向上的通路、从顶向下的通路和横向连接。其中，所述从底向上的通路、从顶向下的通路和横向连接指的是所述特征金字塔网络中图像特征数据传递的路径。
进一步地，参照图2所示，本发明实施例中所述S1，包括：
S11、利用所述特征金字塔网络中的从底向上的通路对所述待检测图像进行逐级下采样，得到多个不同尺度的粗糙特征图；
S12、利用所述特征金字塔网络中的从顶向下的通路和横向连接将所述多个不同尺度的粗糙特征图进行上采样和融合，得到多个不同尺度的精细特征图。
详细地，所述从底向上的通路通过对所述待检测图像运用卷积、池化操作进行逐级的下采样，生成不同尺度的粗糙特征图，向下采样的级别越高，对应生成的粗糙特征图的尺度越小，即分辨率越低，所述粗糙特征图的语义特征越强，即特征越明显。
其中，所述卷积是一种线性运算，对图像进行卷积操作可以消除噪声、增强特征；所述池化也是一种线性运算，能对图像进行特征选择和信息过滤；所述向下采样是缩小图像，即生成对应图像的缩略图，通过降低特征的维度并保留有效信息，能一定程度上避免过拟合，保持旋转、平移、伸缩不变形。
进一步地，所述从顶向下的通路将所述多个不同尺度的粗糙特征图中最小尺度的粗糙特征图运用卷积操作进行逐级的上采样，同时通过所述横向连接，将相同尺度的所述粗糙特征图进行融合，生成多个不同尺度精细特征图。所述上采样是放大图像，使图像具有更高的分辨率。
本发明较佳实施例通过从顶向下的通路以及横向连接可以将低分辨率、强语义特征和高分辨率、弱语义特征进行融合，得到多个不同尺度的精细特征图。所述强语义特征指的是图像特征数据中所含的图像特征明显。
本发明实施例中，所述特征金字塔网络在提取特征时会利用周围特征点的信息，可以使将所述精细特征图在输出前将提取的所有的特征进行融合，克服卷积网络因为感受野的范围不能获取全面的信息。
S2、利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图。
其中，所述特征蒸馏子网络是基于卷积神经网络的能够强化输入图片中的特征信息的一种神经网络，包括融合层和卷积层。
详细地，参照图3所示，所述S2包括：
S21、将所述多个不同尺度的精细特征图按照尺度从小到大进行融合，并加入注意力机制，得到融合特征图；
S22、将所述融合特征图通过卷积操作进行特征重构，得到多个不同尺度的新特征图；
S23、将所述多个不同尺度的新特征图进行融合，从而实现特征蒸馏，并生成待提取特征图。
其中，所述注意力机制可以让一个神经网络只关注其输入的一部分信息，使神经网络能够选择特定的输入，提高神经网络的处理效率。例如：给定一篇很长的文章，然后就此文章的内容进行提问，提出的问题只和文章中某个段落中的一两个句子相关，其余都无关的。为了减小神经网络的计算代价，只需要把相关的片段挑选出来让后续的神经网络来处理，而不需要把所有文章内容都输入到神经网络中。
为了进一步的让不同尺度的精细特征图中的信息进行交互，将所述融合特征图卷积到不同尺度后再次融合，进行特征重构，本发明实施例通过上述操作对所述融合特征图中的特征进行蒸馏。
经过特征蒸馏子网络后，强化了所述精细特征图中多个特征框重叠和小病灶区域的特征信息，能够提高对不同大小目标物体和重叠目标检测的准确率。
S3、利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框。
优选地，所述区域提取网络是一个轻量级的神经网络，通过滑动窗口扫描特征图进行卷积操作，结合不同的尺寸与长宽比，生成互相重叠区域，即锚点，并给出每个锚点默认预置的位置信息，用于后续提取候选区域。所述区域提取网络针对每个锚点输出两种信息，第一种信息是对锚点前景或背景类别的预测，前景类别代表该锚点中具有一定概率存在某类或多类目标，背景类别指待检测目标之外的其它物体，后续会滤除，第二种信息是预置边框的精调，当目标的中心与前景锚点的中心不完全重合，即存在偏移时，输出位置信息的变化百分比，以精确地调整锚点位置，对目标位置的拟合更正确。在前景锚点中存在互相重叠的现象，通过非极大值抑制方法滤除前景得分低的锚点，保留得分最高的锚点，最终得到感兴趣区域，即本案中的拟检测区域。
进一步地，参照图4所示，所述S3，包括：
S31、利用所述待提取特征图采用均衡采样法生成特征块，根据所述特征块将所述待提取特征图划分为不同的图像块，得到拟检测区域；
S32、设置所述拟检测病灶区域中的特征的锚点，根据锚点的位置信息生成预测边界框。
详细地，若采用常规的随机采样生成特征块，会导致大部分的阴性样本，即所述待提取图像中的非病灶区域，落在交并比(生成的图像块与标注的病灶区域的重叠区域占总的区域的比值)为0.1以下的区间，而容易被误检的阴性样本更多分布于交并比在0.1以上的区间，因此通过在所述交并比的不同区间上使用分层均衡采样法，在所述交并比的每个区间都采样相同比例的样本，选取分布比较均衡的阴性样本，进一步提高对容易误检的阴性样本的检测准确率。
S4、对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果。
详细地，本发明实施例利用预设的激活函数对所述对所述拟检测区域进行分类识别，得到所述拟检测病灶是否为目标区域的识别结果。
其中，所述激活函数是一种非线性函数，可以将所述拟检测病灶区域和所述预测边界框映射到所述待检测图像上。本发明较佳实施例可以采用目前已公开的激活函数，如Sigmoid函数、tanh函数和softmax函数等。
进一步地，若所述识别结果所述拟检测区域为目标区域，则本发明实施例利用所述激活函数对所述目标区域的预测边界框进行回归定位，得到定位结果，其中所述定位结果包括所述目标区域的位置信息。详细地，所述回归定位是指利用激活函数计算出所述预测边界框在所述待检测图像中的对应位置，即所述目标区域的实际位置信息。
进一步地，本发明实施例根据所述位置信息在所述待检测图像中将目标区域进行标记，得到所述待检测图像的检测结果。
较佳地，所述待检测图像的病灶检测结果能在所述待检测图像中智能标记出目标区域，如在眼前节OCT图像中标记出病灶区域，根据标记结果辅助医生进行疾病诊断，为下一步治疗方案的制定提供可靠的影像学指标。
本发明实施例利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图，强化特征的表达，便于后续对特征区域进行检测；获利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图，有利于小目标病灶和重叠病灶的检测，从而提高最终的病灶检测的准确性；利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框，提高了难于检测的阴性样本的比例，降低了误检率；对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果，保证了图像检测的成功率，减少计算资源的占用与浪费。因此本发明提出的图像检测方法、装置及计算机可读存储介质，可以实现眼前节OCT图像的多病灶自动检测功能。
如图5所示，是本发明图像检测装置的功能模块图。
本发明所述图像检测装置100可以安装于电子设备中。根据实现的功能，所述图像检测装置可以包括特征提取模块101、特征蒸馏模块102、区域提取模块103和识别定位模块104。本发所述模块也可以称之为单元，是指一种能够被电子设备处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。
在本实施例中，关于各模块/单元的功能如下：
所述特征提取模块101，用于利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图；
本发明实施例中，所述待检测图像可以是医学上对角膜进行光学相干断层扫描(OCT)生成的原始图像。本发明较佳实施例可以从区块链中的节点获取所述待检测图像。
较佳地，所述特征金字塔网络是基于卷积神经网络构建的用于提取图像特征的一种神经网络结构。所述特征金字塔网络包括从底向上的通路、从顶向下的通路和横向连接。其中，所述从底向上的通路、从顶向下的通路和横向连接指的是所述特征金字塔网络中图像特征数据传递的路径。
进一步地，本发明实施例中所述特征提取模块101具体用于：
利用所述特征金字塔网络中的从底向上的通路对所述待检测图像进行逐级下采样，得到多个不同尺度的粗糙特征图；
利用所述特征金字塔网络中的从顶向下的通路和横向连接将所述多个不同尺度的粗糙特征图进行上采样和融合，得到多个不同尺度的精细特征图。
详细地，所述从底向上的通路通过对所述待检测图像运用卷积、池化操作进行逐级的下采样，生成不同尺度的粗糙特征图，向下采样的级别越高，对应生成的粗糙特征图的尺度越小，即分辨率越低，所述粗糙特征图的语义特征越强，即特征越明显。
其中，所述卷积是一种线性运算，对图像进行卷积操作可以消除噪声、增强特征；所述池化也是一种线性运算，能对图像进行特征选择和信息过滤；所述向下采样是缩小图像，即生成对应图像的缩略图，通过降低特征的维度并保留有效信息，能一定程度上避免过拟合，保持旋转、平移、伸缩不变形。
进一步地，所述从顶向下的通路将所述多个不同尺度的粗糙特征图中最小尺度的粗糙特征图运用卷积操作进行逐级的上采样，同时通过所述横向连接，将相同尺度的所述粗糙特征图进行融合，生成多个不同尺度精细特征图。所述上采样是放大图像，使图像具有更高的分辨率。
本发明较佳实施例通过从顶向下的通路以及横向连接可以将低分辨率、强语义特征和高分辨率、弱语义特征进行融合，得到多个不同尺度的精细特征图。所述强语义特征指的是图像特征数据中所含的图像特征明显。
本发明实施例中，所述特征金字塔网络在提取特征时会利用周围特征点的信息，可以使将所述精细特征图在输出前将提取的所有的特征进行融合，克服卷积网络因为感受野的范围不能获取全面的信息。
所述特征蒸馏模块102，用于利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图。
其中，所述特征蒸馏子网络是基于卷积神经网络的能够强化输入图片中的特征信息的一种神经网络，包括融合层和卷积层。
详细地，所述特征蒸馏模块102具体用于：
将所述多个不同尺度的精细特征图按照尺度从小到大进行融合，并加入注意力机制，得到融合特征图；
将所述融合特征图通过卷积操作进行特征重构，得到多个不同尺度的新特征图；
将所述多个不同尺度的新特征图进行融合，从而实现特征蒸馏，并生成待提取特征图。
其中，所述注意力机制可以让一个神经网络只关注其输入的一部分信息，使神经网络能够选择特定的输入，提高神经网络的处理效率。例如：给定一篇很长的文章，然后就此文章的内容进行提问，提出的问题只和文章中某个段落中的一两个句子相关，其余都无关的。为了减小神经网络的计算代价，只需要把相关的片段挑选出来让后续的神经网络来处理，而不需要把所有文章内容都输入到神经网络中。
为了进一步的让不同尺度的精细特征图中的信息进行交互，将所述融合特征图卷积到不同尺度后再次融合，进行特征重构，本发明实施例通过上述操作对所述融合特征图中的特征进行蒸馏。
经过特征蒸馏子网络后，强化了所述精细特征图中多个特征框重叠和小病灶区域的特征信息，能够提高对不同大小目标物体和重叠目标检测的准确率。
所述区域提取模块103，用于利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框。
优选地，所述区域提取网络是一个轻量级的神经网络，通过滑动窗口扫描特征图进行卷积操作，结合不同的尺寸与长宽比，生成互相重叠区域，即锚点，并给出每个锚点默认预置的位置信息，用于后续提取候选区域。所述区域提取网络针对每个锚点输出两种信息，第一种信息是对锚点前景或背景类别的预测，前景类别代表该锚点中具有一定概率存在某类或多类目标，背景类别指待检测目标之外的其它物体，后续会滤除，第二种信息是预置边框的精调，当目标的中心与前景锚点的中心不完全重合，即存在偏移时，输出位置信息的变化百分比，以精确地调整锚点位置，对目标位置的拟合更正确。在前景锚点中存在互相重叠的现象，通过非极大值抑制方法滤除前景得分低的锚点，保留得分最高的锚点，最终得到感兴趣区域，即本案中的拟检测区域。
进一步地，所述区域提取模块103具体用于：
利用所述待提取特征图采用均衡采样法生成特征块，根据所述特征块将所述待提取特征图划分为不同的图像块，得到拟检测区域；
设置所述拟检测病灶区域中的特征的锚点，根据锚点的位置信息生成预测边界框。
详细地，若采用常规的随机采样生成特征块，会导致大部分的阴性样本，即所述待提取图像中的非病灶区域，落在交并比(生成的图像块与标注的病灶区域的重叠区域占总的区域的比值)为0.1以下的区间，而容易被误检的阴性样本更多分布于交并比在0.1以上的区间，因此通过在所述交并比的不同区间上使用分层均衡采样法，在所述交并比的每个区间都采样相同比例的样本，选取分布比较均衡的阴性样本，进一步提高对容易误检的阴性样本的检测准确率。
所述识别定位模块104，用于对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果。
详细地，本发明实施例所述识别定位模块104利用预设的激活函数对所述对所述拟检测区域进行分类识别，得到所述拟检测病灶是否为目标区域的识别结果。
其中，所述激活函数是一种非线性函数，可以将所述拟检测病灶区域和所述预测边界框映射到所述待检测图像上。本发明较佳实施例可以采用目前已公开的激活函数，如Sigmoid函数、tanh函数和softmax函数等。
进一步地，若所述识别结果所述拟检测区域为目标区域，则本发明实施例所述识别定位模块104利用所述激活函数对所述目标区域的预测边界框进行回归定位，得到定位结果，其中所述定位结果包括所述目标区域的位置信息。详细地，所述回归定位是指利用激活函数计算出所述预测边界框在所述待检测图像中的对应位置，即所述目标区域的实际位置信息。
进一步地，本发明实施例所述识别定位模块104根据所述位置信息在所述待检测图像中将目标区域进行标记，得到所述待检测图像的检测结果。
较佳地，所述待检测图像的病灶检测结果能在所述待检测图像中智能标记出目标区域，如在眼前节OCT图像中标记出病灶区域，根据标记结果辅助医生进行疾病诊断，为下一步治疗方案的制定提供可靠的影像学指标。
如图6所示，是本发明实现图像检测方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线，还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序，如图像检测程序12。
其中，所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如：SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元，例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备，例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card，SMC)、安全数字(SecureDigital，SD)卡、闪存卡(Flash Card)等。进一步地，所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据，例如图像检测程序12的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器(Central Processing unit，CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit)，利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器11内的程序或者模块(例如执行图像检测程序等)，以及调用存储在所述存储器11内的数据，以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect，简称PCI)总线或扩展工业标准结构(extended industry standard architecture，简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图6仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图6示出的结构并不构成对所述电子设备1的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
例如，尽管未示出，所述电子设备1还可以包括给各个部件供电的电源(比如电池)，优选地，电源可以通过电源管理装置与所述至少一个处理器10逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。
进一步地，所述电子设备1还可以包括网络接口，可选地，所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等)，通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地，该电子设备1还可以包括用户接口，用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard))，可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的图像检测程序12是多个指令的组合，在所述处理器10中运行时，可以实现：
利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图；
利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图；
利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框；
对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果。
进一步地，所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图表记视为限制所涉及的权利要求。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种图像检测方法，其特征在于，所述方法包括：
利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图；
利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图；
利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框；
对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果。
2.如权利要求1所述的图像检测方法，其特征在于，所述利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图，包括：
利用所述特征金字塔网络中的从底向上的通路对所述待检测图像进行逐级下采样，得到多个不同尺度的粗糙特征图；
利用所述特征金字塔网络中的从顶向下的通路和横向连接将所述多个不同尺度的粗糙特征图进行上采样和融合，得到多个不同尺度的精细特征图。
3.如权利要求1所述的图像检测方法，其特征在于，所述利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图，包括：
将所述多个不同尺度的精细特征图按照尺度从小到大进行融合，并加入注意力机制，得到融合特征图；
将所述融合特征图通过卷积操作进行特征重构，得到多个不同尺度的新特征图；
将所述多个不同尺度的新特征图进行融合，生成待提取特征图。
4.如权利要求1所述的图像检测方法，其特征在于，所述利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框，包括：
利用所述待提取特征图采用均衡采样法生成特征块，根据所述特征块将所述待提取特征图划分为不同的图像块，得到拟检测区域；
设置所述拟检测病灶区域中的特征的锚点，根据所述锚点的位置信息生成预测边界框。
5.如权利要求1所述的图像检测方法，其特征在于，所述对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果，包括：
利用预设的激活函数对所述对所述拟检测区域进行分类识别；
在识别出所述拟检测区域为目标区域时，利用所述激活函数对所述目标区域的预测边界框进行回归定位，得到定位结果，其中所述定位结果包括所述目标区域的位置信息；
根据所述位置信息在所述待检测图像中将所述目标区域进行标记，得到所述待检测图像的检测结果。
6.一种图像检测装置，其特征在于，所述装置包括：
特征提取模块，用于利用特征金字塔网络对待检测图像进行不同尺度的特征提取，得到多个不同尺度的精细特征图；
特征蒸馏模块，用于利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图；
区域提取模块，用于利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框；
识别定位模块，用于对所述拟检测区域进行分类识别得到识别结果，并对所述预测边界框进行回归定位得到定位结果，根据所述识别结果和所述定位结果在所述待检测图像中进行标记，得到所述待检测图像的检测结果。
7.如权利要求6所述的图像检测装置，其特征在于，在利用预构建的特征蒸馏子网络对所述多个不同尺度的精细特征图进行特征蒸馏，生成待提取特征图时，所述特征蒸馏模块执行下述操作：
将所述多个不同尺度的精细特征图按照尺度从小到大进行融合，并加入注意力机制，得到融合特征图；
将所述融合特征图通过卷积操作进行特征重构，得到多个不同尺度的新特征图；
将所述多个不同尺度的新特征图进行融合，生成待提取特征图。
8.如权利要求6所述的图像检测装置，其特征在于，在利用预构建的区域提取网络提取所述待提取特征图中的拟检测区域，并生成所述拟检测区域的预测边界框时，所述区域提取模块执行下述操作：
利用所述待提取特征图采用均衡采样法生成特征块，根据所述特征块将所述待提取特征图划分为不同的图像块，得到拟检测区域；
设置所述拟检测病灶区域中的特征的锚点，根据所述锚点的位置信息生成预测边界框。
9.一种电子设备，其特征在于，所述电子设备包括：
存储器，存储至少一个指令；及
处理器，执行所述存储器中存储的指令以执行如权利要求1至5中任一所述的图像检测方法。
10.一种计算机可读存储介质，包括存储数据区和存储程序区，存储数据区存储数据，存储程序区存储有计算机程序，其中，所述计算机程序被处理器执行时实现如权利要求1至5中任意一项所述的图像检测方法。
CN202010685366.2A 2020-07-15 2020-07-15 图像检测方法、装置、电子设备及介质 Active CN111862034B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010685366.2A CN111862034B (zh) 2020-07-15 2020-07-15 图像检测方法、装置、电子设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010685366.2A CN111862034B (zh) 2020-07-15 2020-07-15 图像检测方法、装置、电子设备及介质

Publications (2)

Publication Number Publication Date
CN111862034A true CN111862034A (zh) 2020-10-30
CN111862034B CN111862034B (zh) 2023-06-30

Family

ID=72984589

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010685366.2A Active CN111862034B (zh) 2020-07-15 2020-07-15 图像检测方法、装置、电子设备及介质

Country Status (1)

Country Link
CN (1) CN111862034B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112966587A (zh) * 2021-03-02 2021-06-15 北京百度网讯科技有限公司 目标检测模型的训练方法、目标检测方法及相关设备
CN113326845A (zh) * 2021-06-30 2021-08-31 上海云从汇临人工智能科技有限公司 基于自注意力机制的目标检测方法、系统和存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109934241A (zh) * 2019-03-28 2019-06-25 南开大学 可集成到神经网络架构中的图像多尺度信息提取方法及应用
CN110399881A (zh) * 2019-07-11 2019-11-01 深圳大学 一种端到端的基于双目立体图像的质量增强方法及装置
CN110533084A (zh) * 2019-08-12 2019-12-03 长安大学 一种基于自注意力机制的多尺度目标检测方法
CN110674866A (zh) * 2019-09-23 2020-01-10 兰州理工大学 迁移学习特征金字塔网络对X-ray乳腺病灶图像检测方法
CN110688951A (zh) * 2019-09-26 2020-01-14 上海商汤智能科技有限公司 图像处理方法及装置、电子设备和存储介质
CN110688883A (zh) * 2019-01-14 2020-01-14 成都通甲优博科技有限责任公司 车辆和行人检测方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110688883A (zh) * 2019-01-14 2020-01-14 成都通甲优博科技有限责任公司 车辆和行人检测方法及装置
CN109934241A (zh) * 2019-03-28 2019-06-25 南开大学 可集成到神经网络架构中的图像多尺度信息提取方法及应用
CN110399881A (zh) * 2019-07-11 2019-11-01 深圳大学 一种端到端的基于双目立体图像的质量增强方法及装置
CN110533084A (zh) * 2019-08-12 2019-12-03 长安大学 一种基于自注意力机制的多尺度目标检测方法
CN110674866A (zh) * 2019-09-23 2020-01-10 兰州理工大学 迁移学习特征金字塔网络对X-ray乳腺病灶图像检测方法
CN110688951A (zh) * 2019-09-26 2020-01-14 上海商汤智能科技有限公司 图像处理方法及装置、电子设备和存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
严娟等: "结合混合域注意力与空洞卷积的3维目标检测", 中国图象图形学报, vol. 25, no. 06, pages 1223 - 1233 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112966587A (zh) * 2021-03-02 2021-06-15 北京百度网讯科技有限公司 目标检测模型的训练方法、目标检测方法及相关设备
CN112966587B (zh) * 2021-03-02 2022-12-20 北京百度网讯科技有限公司 目标检测模型的训练方法、目标检测方法及相关设备
CN113326845A (zh) * 2021-06-30 2021-08-31 上海云从汇临人工智能科技有限公司 基于自注意力机制的目标检测方法、系统和存储介质

Also Published As

Publication number Publication date
CN111862034B (zh) 2023-06-30

Similar Documents

Publication Publication Date Title
CN110111313B (zh) 基于深度学习的医学图像检测方法及相关设备
KR101818074B1 (ko) 인공지능 기반 의료용 자동 진단 보조 방법 및 그 시스템
Wang et al. Automated diabetic retinopathy grading and lesion detection based on the modified R‐FCN object‐detection algorithm
CN112950651B (zh) 基于深度学习网络的纵隔淋巴引流区的自动勾画方法
CN112233125B (zh) 图像分割方法、装置、电子设备及计算机可读存储介质
WO2020260936A1 (en) Medical image segmentation using an integrated edge guidance module and object segmentation network
CN111932547B (zh) 图像中目标物的分割方法、装置、电子设备及存储介质
CN111667468A (zh) 基于神经网络的oct图像病灶检测方法、装置及介质
CN112348082B (zh) 深度学习模型构建方法、影像处理方法及可读存储介质
Rania et al. Semantic segmentation of diabetic foot ulcer images: dealing with small dataset in DL approaches
US20220383661A1 (en) Method and device for retinal image recognition, electronic equipment, and storage medium
CN110827236B (zh) 基于神经网络的脑组织分层方法、装置、计算机设备
CN111862034B (zh) 图像检测方法、装置、电子设备及介质
CN115063425A (zh) 基于读片知识图谱的结构化检查所见生成方法及系统
Yuan et al. DCAU-Net: dense convolutional attention U-Net for segmentation of intracranial aneurysm images
CN111815731A (zh) 图像处理方法、装置及计算机可读存储介质
Li et al. Developing an image-based deep learning framework for automatic scoring of the pentagon drawing test
Liu et al. Automatic segmentation and measurement of pressure injuries using deep learning models and a LiDAR camera
CN115294426B (zh) 介入医学设备的跟踪方法、装置、设备及存储介质
CN113537407B (zh) 基于机器学习的图像数据评价处理方法及装置
CN111915615A (zh) 图像分割方法、装置、电子设备及计算机可读存储介质
Li et al. Automatic detection of pituitary microadenoma from magnetic resonance imaging using deep learning algorithms
CN114037702B (zh) 一种切片级宫颈癌筛查与分类的方法及装置
Malbog et al. MEDSCANLATION: A Deep Learning-Based AI Scanner and Translation Device for Doctor's Prescription Medicine
CN115631196B (zh) 图像分割方法、模型的训练方法、装置、设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant