发明内容
基于此,有必要针对上述技术问题,提供一种能够提高扫描的速度,节省数字图像存储空间的一种显微成像扫描方法及扫描系统。
一种显微成像扫描方法,所述方法包括:
获取预览相机对玻片样本进行拍照得到的预览图像;以及获取所述预览图像对应的二值化图像;
获取所述二值化图像中各个小块的边缘轮廓信息,根据所述各个小块的边缘轮廓信息,得到包含所述各个小块边缘轮廓信息的多个正外接矩形,将所述多个正外接矩形作为多个待扫描区域;
选取所述多个待扫描区域中的一个待扫描区域作为当前待扫描区域,针对当前待扫描区域,选取多个预聚焦视野,在各个预聚焦视野内采集多个显微图像,对采集到的显微图像使用自动聚焦算法计算清晰度值,确定所述各个预聚焦视野的最佳聚焦位置;
对当前待扫描区域中各个预聚焦视野的最佳聚焦位置进行拟合,得到当前扫描区域中所有视野的最佳聚焦位置;
根据当前待扫描区域得到的所有视野的最佳聚焦位置和预设的扫描方式,扫描得到当前待扫描区域各个视野的清晰显微图像,将所述清晰显微图像进行拼接,得到当前待扫描区域的显微图像;
构建全分辨率数字显微图像画布,将每个待扫描区域的扫描显微图像贴在对应的位置,得到全视野显微图像。
优选的,所述针对当前待扫描区域,选取多个预聚焦视野,包括:利用预设的聚类算法对当前待扫描区域进行聚类,得到多个区域块;将各个区域块划分为N个子区域,计算各个子区域的饱和度,将饱和度大于预设值的子区域作为对应区域块的预聚焦视野。
所述计算各个子区域的饱和度,包括:将所述当前待扫描区域对应的预览图像从RGB颜色空间中提取饱和度分量;根据所述饱和度分量确定各个子区域的饱和度。
优选的,在各个预聚焦视野内采集多个显微图像,对采集到的显微图像使用自动聚焦算法计算清晰度值,确定所述各个预聚焦视野的最佳聚焦位置,包括:选择一个预聚焦视野作为当前预聚焦视野;在所述当前预聚焦视野中,沿Z轴移动显微镜物镜,得到若干显微图像;将所述显微图像从RGB颜色空间中提取饱和度分量,利用所述饱和度分量加权对应RGB颜色空间中对应像素位置的亮度值,得到饱和度加权后的显微图像;计算所述饱和度加权后的显微图像的清晰度值,将清晰度值最大的饱和度加权后的显微图像对应的Z轴位置作为当前预聚焦视野的最佳聚焦位置。
优选的,计算所述饱和度加权后的显微图像的清晰度值,包括:
利用梯度算法提取所述饱和度加权后的显微图像水平方向和垂直方向的梯度值;根据水平方向和垂直方向的梯度值,采用图像清晰度评价函数计算得到清晰度值。
优选的,对当前待扫描区域中各个预聚焦视野的最佳聚焦位置进行拟合,得到当前扫描区域中所有视野的最佳聚焦位置,包括:
若当前待扫描区域中预聚焦视野的数量大于阈值时,采用曲面拟合算法对所述各个预聚焦视野的最佳聚焦位置进行拟合,得到当前扫描区域中所有视野的最佳聚焦位置;若当前待扫描区域中预聚焦视野的数量小于阈值时,采用曲线拟合算法对所述各个预聚焦视野的最佳聚焦位置进行拟合,得到当前扫描区域中所有视野的最佳聚焦位置。
优选的,所述获取所述预览图像对应的二值化图像,包括:
采用背景分割算法对所述预览图像进行分割,得到预览图像对应的二值化图像;所述背景分割算法包括特征提取网络、金字塔池化网络以及预测网络,特征提取网络采用预训练的含有空洞卷积策略的深度神经卷积网络对输入的预览图像提取高维特征图,金字塔池化网络采用4级金字塔模型,将所述高维特征图作为输入,并将所述高维特征图池化为4种不同的尺度,使用1×1卷积对池化后的特征图进行降维,利用双线性插值算法将降维后的特征图上采样到输入特征图的尺寸,将不同层级的特征级联到一起作为最后的金字塔池化全局特征,预测网络包括1个卷积层,输入是金字塔池化全局特征和所述高维特征图级联后的特征,输出预测的分割图像,将预测的分割图像进行二值化处理,获得二值化图像。
为实现上述目的,本发明还提出一种显微成像扫描装置,包括:
图像获取模块,用于获取预览相机对玻片样本进行拍照得到的预览图像;以及获取所述预览图像对应的二值化图像;
扫描区域确定模块,用于获取所述二值化图像中各个小块的边缘轮廓信息,根据所述各个小块的边缘轮廓信息,得到包含所述各个小块边缘轮廓信息的多个正外接矩形,将所述多个正外接矩形作为多个待扫描区域;
自动聚焦模块,用于在多个待扫描区域中选择一个待扫描区域作为当前待扫描区域,针对当前待扫描区域,选取多个预聚焦视野,在各个预聚焦视野内采集多个显微图像,对采集到的显微图像使用自动聚焦算法计算清晰度值,确定所述各个预聚焦视野的最佳聚焦位置;对当前待扫描区域中各个预聚焦视野的最佳聚焦位置进行拟合,得到当前扫描区域中所有视野的最佳聚焦位置;
图像拼接模块,用于根据当前待扫描区域得到的所有视野的最佳聚焦位置和预设的扫描方式,扫描得到当前待扫描区域各个视野的清晰显微图像,将所述清晰显微图像进行拼接,得到当前待扫描区域的显微图像;构建全分辨率数字显微图像画布,将每个待扫描区域的扫描显微图像进行拼接,得到全视野显微图像。
为实现上述目的,本发明还提出一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述所述方法的步骤。
上述显微成像扫描方法及扫描系统,在扫描聚焦过程中,对预聚焦视野的最佳聚焦位置进行拟合,得到待扫描区域所有视野的最佳聚焦位置,聚焦速度快,准确度高,然后扫描得到各个视野的清晰显微图像,将所述清晰显微图像进行拼接,得到当前待扫描区域的显微图像;将每个待扫描区域的扫描显微图像进行拼接,得到全视野显微图像,提高了扫描的速度,节省了数字图像存储空间。
本发明使用背景分割算法能实现准确的背景分割,为聚集拟合过程的准确性打好了基础,在扫描拼接过程中,只扫描检测到样本的区域,其他区域用纯色填充,以提高了扫描的速度,节省数字图像存储空间,利用聚类算法将所述当前待扫描区域进行划分,可以使预聚焦视野分散开来,通过计算各个小区域中饱和度最大的区域,可以使预聚焦视野落在待扫描区域的轮廓内,而非待扫描区域的边缘,使得选取的预聚焦视野纹理丰富,有代表性,可以准确计算出预聚焦视野的最佳聚焦位置,进而提升后续拟合算法的准确度,利用自动聚焦算法对预聚焦视野进行自动聚焦,聚焦速度快,准确度高,尤其是对于有异物干扰的视野(比如玻片上面有灰尘),仍然可以聚焦到清晰位置。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
本申请提供的一种显微成像扫描方法,该方法应用于扫描对象在玻片样本上较为分散的情况下,其显微成像扫描方法流程图如图1所示。所述方法包括:
第一步:获取预览相机对玻片样本进行拍照得到的预览图像;以及获取所述预览图像对应的二值化图像。
所述预览相机可以是数字显微镜上的相机。
玻片样本可以是病理组织切片,生物样本,或者是细胞标本等。
第二步:获取所述二值化图像中各个小块的边缘轮廓信息,根据所述各个小块的边缘轮廓信息,得到包含所述各个小块边缘轮廓信息的多个正外接矩形,将所述多个正外接矩形作为多个待扫描区域。
第三步:选取所述多个待扫描区域中的一个待扫描区域作为当前待扫描区域,针对当前待扫描区域,选取多个预聚焦视野,在各个预聚焦视野内采集多个显微图像,对采集到的显微图像使用自动聚焦算法计算清晰度值,确定所述各个预聚焦视野的最佳聚焦位置。
第四步:对当前待扫描区域中各个预聚焦视野的最佳聚焦位置进行拟合,得到当前扫描区域中所有视野的最佳聚焦位置。
第五步:根据当前待扫描区域得到的所有视野的最佳聚焦位置和预设的扫描方式,扫描得到当前待扫描区域各个视野的清晰显微图像,将所述清晰显微图像进行拼接,得到当前待扫描区域的显微图像。
预设的扫描方式可以是按照蛇形扫描方式进行。
第六步:构建全分辨率数字显微图像画布,将每个待扫描区域的扫描显微图像贴在对应的位置,得到全视野显微图像。
构建全分辨率数字显微图像画布,当所述多个待扫描区域全部扫描完成后,将各个待扫描区域获得的显微图像贴在对应位置,剩下的空白位置用纯色填充,即获得了全视野、高分辨率数字显微图像。
在扫描拼接过程中,只扫描检测到样本的区域,其他区域用纯色填充,这样做的好处是扫描速度快,节省数字图像存储空间。
在一个实施例中,所述针对当前待扫描区域,确定多个预聚焦视野,包括:
第一步:利用k-means聚类算法对当前待扫描区域进行聚类,将其划分为若干个小区域。
基于当前待扫描区域的预览图像,将所述预览图像中每个像素的坐标(xi,yi)以及每个像素对应的聚焦置信度fi组成起来作为一组输入数据Di=(xi,yi,fi),即可得到k-means算法的输入数据集D={D1,D2,...,Dm},k-means算法的输出是k个簇,即输出簇划分C={C1,C2,...,Ck}。k-means聚类算法主要是最小化平方误差E,表达式如下所示:
聚焦置信度f的计算公式如下所示:
其中,I(x,y)表示图像I在点(x,y)处像素的亮度值。
第二步:针对所述当前待扫描区域中各个小区域,计算每个小区域中饱和度最大的区域,将饱和度大于预设值的区域作为预聚焦视野。具体为:将当前待扫描区域的预览图像从RGB颜色空间转换到HSV颜色空间,对当前待扫描区域中每个小区域,将各个小区域均划分为N个子区域,统计每个子区域的饱和度值,将饱和度值最大的子区域标记为对应小区域的预聚焦视野。
利用k-means聚类算法将所述当前待扫描区域进行划分,可以使预聚焦视野分散开来,通过计算各个小区域中饱和度最大的区域,可以使预聚焦视野落在待扫描区域的轮廓内,而非待扫描区域的边缘,这样的好处是选取的预聚焦视野纹理丰富,有代表性,可以准确计算出预聚焦视野的最佳聚焦位置,进而提升后续拟合算法的准确度。
在另一个实施例中,所述在各个预聚焦视野内采集多个显微图像,根据采集到的显微图像和自动聚焦算法,确定所述各个预聚焦视野的最佳聚焦位置,包括如下步骤:
第一步:在各个预聚焦视野中选取一个视野作为当前预聚焦视野;
第二步:在当前预聚焦视野内,沿Z轴移动显微镜物镜,采集若干张显微图像;
第三步:将所述若干张显微图像从RGB颜色空间转换到HSV颜色空间,利用HSV颜色空间中每个像素位置的饱和度值加权对应RGB颜色空间中对应像素位置的亮度值,得到饱和度加权后的若干张显微图像。
第四步:利用Tenengrad函数计算所述饱和度加权后的若干张显微图像的清晰度值。首先利用Sobel算子提取水平方向和垂直方向的梯度值,然后计算水平方向和垂直方向梯度值的平方和作为Tenengrad函数值,即图像的清晰度值。对所述饱和度加权后的若干张显微图像均进行图像清晰度计算,将清晰度值最大的那张显微图像对应的Z轴位置作为当前预聚焦视野的最佳聚焦位置。
Tenengrad函数计算公式如下:
其中,Ten表示图像清晰度值,n为显微图像中像素总数,I(x,y)表示显微图像I在点(x,y)处像素的亮度值,G
x、G
y为Sobel卷积核,
,
。
利用自动聚焦算法对预聚焦视野进行自动聚焦,聚焦速度快,准确度高,尤其是对于有异物干扰的视野(比如玻片上面有灰尘),仍然可以聚焦到清晰位置。
在另一个实施例中,对当前待扫描区域中各个预聚焦视野的最佳聚焦位置进行拟合,得到当前扫描区域中所有视野的最佳聚焦位置,包括:
若当前待扫描区域中预聚焦视野的数量大于阈值时,采用曲面拟合算法对所述各个预聚焦视野的最佳聚焦位置进行拟合,得到当前扫描区域中所有视野的最佳聚焦位置;
若当前待扫描区域中预聚焦视野的数量小于阈值时,采用曲线拟合算法对所述各个预聚焦视野的最佳聚焦位置进行拟合,得到当前扫描区域中所有视野的最佳聚焦位置。
在另一个实施例中,所述获取所述预览图像对应的二值化图像,包括:
采用背景分割算法对所述预览图像进行分割,得到预览图像对应的二值化图像;所述背景分割算法采用PSPNet模型;所述PSPNet模型包括:特征提取网络、金字塔池化网络以及预测网络,特征提取网络采用预训练的含有空洞卷积策略的ResNet网络对输入的预览图像提取高维特征图,金字塔池化网络采用4级金字塔模型,将所述高维特征图作为输入,并将所述高维特征图池化为4种不同的尺度,使用1×1卷积对池化后的特征图进行降维,利用双线性插值算法将降维后的特征图上采样到输入特征图的尺寸,将不同层级的特征级联到一起作为最后的金字塔池化全局特征,预测网络包括1个卷积层,输入是金字塔池化全局特征和所述高维特征图级联后的特征,输出预测的分割图像,将预测的分割图像进行二值化处理,获得二值化图像。
二值化处理是指将获得的分割图像中目标区域的像素值设置为255,背景区域的像素值为0,也就是将整个图像呈现出明显的黑白效果。
分割的准确性决定了聚集拟合过程的准确性,本发明采用的PSPNet模型利用基于全卷积神经网络的像素预测框架来编码复杂的场景上下文特征,使用全景场景类别线索对场景进行精确的解析,为像素级场景解析提供了有效的全局上下文先验信息,可实现准确的背景分割。
在另一个实施例中,获取所述二值化图像中各个小块的边缘轮廓信息,根据所述各个小块的边缘轮廓信息,得到包含所述各个小块边缘轮廓信息的多个正外接矩形,将所述多个正外接矩形作为多个待扫描区域,包括:
采用Opencv算法库中的轮廓提取算法获取所述二值化图像中各个小块的边缘轮廓信息,根据所述各个小块的边缘轮廓信息采用Opencv算法库中的矩形绘制函数,得到包含所述边缘轮廓信息的正外接矩形。
本发明还提出一种显微成像扫描装置,如图2所示,具体包括:
图像获取模块,用于获取预览相机对玻片样本进行拍照得到的预览图像;以及获取所述预览图像对应的二值化图像;
扫描区域确定模块,用于获取所述二值化图像中各个小块的边缘轮廓信息,根据所述各个小块的边缘轮廓信息,得到包含所述各个小块边缘轮廓信息的多个正外接矩形,将所述多个正外接矩形作为多个待扫描区域;
自动聚焦模块,用于在多个待扫描区域中选择一个待扫描区域作为当前待扫描区域,针对当前待扫描区域,选取多个预聚焦视野,在各个预聚焦视野内采集多个显微图像,对采集到的显微图像使用自动聚焦算法计算清晰度值,确定所述各个预聚焦视野的最佳聚焦位置;对当前待扫描区域中各个预聚焦视野的最佳聚焦位置进行拟合,得到当前扫描区域中所有视野的最佳聚焦位置;
图像拼接模块,用于根据当前待扫描区域得到的所有视野的最佳聚焦位置和预设的扫描方式,扫描得到当前待扫描区域各个视野的清晰显微图像,将所述清晰显微图像进行拼接,得到当前待扫描区域的显微图像;构建全分辨率数字显微图像画布,将每个待扫描区域的扫描显微图像进行拼接,得到全视野显微图像。
本发明还提出一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述所述方法的步骤。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求为准。