CN110826467B - 一种电子显微镜图像重建系统及其方法 - Google Patents

一种电子显微镜图像重建系统及其方法 Download PDF

Info

Publication number
CN110826467B
CN110826467B CN201911058798.4A CN201911058798A CN110826467B CN 110826467 B CN110826467 B CN 110826467B CN 201911058798 A CN201911058798 A CN 201911058798A CN 110826467 B CN110826467 B CN 110826467B
Authority
CN
China
Prior art keywords
layer
image
training
picture
convolution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911058798.4A
Other languages
English (en)
Other versions
CN110826467A (zh
Inventor
康健
王弘熠
王少华
卢鑫
黄柔婕
李伊宁
陈泽畅
郭克华
唐祯
周大维
郭文惠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Third Xiangya Hospital of Central South University
Original Assignee
Third Xiangya Hospital of Central South University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Third Xiangya Hospital of Central South University filed Critical Third Xiangya Hospital of Central South University
Priority to CN201911058798.4A priority Critical patent/CN110826467B/zh
Publication of CN110826467A publication Critical patent/CN110826467A/zh
Application granted granted Critical
Publication of CN110826467B publication Critical patent/CN110826467B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Geometry (AREA)
  • Computer Graphics (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种电子显微镜图像重建系统及其方法,所述一种电子显微镜图像重建系统及其方法,该系统主要包括图像识别分类系统和卷积重建系统。本发明基于卷积神经网络,将扫描电子显微镜图像经过预处理后输入神经网络进行重建,达到提高图像分辨率的目的。所述方法为图像重建步骤中图片数据的处理方法。本发明基于人工智能算法将扫描电子显微镜图像进行重建,不依赖于昂贵的的精密仪器提供高分辨率图像,降低了高分辨率图像获得途径的成本,提升了医用电子显微镜应用于辅助疾病临床诊断的成像分辨率,间接提升了在诊断准确率。

Description

一种电子显微镜图像重建系统及其方法
技术领域
本发明涉及医学图像处理技术领域,具体为一种电子显微镜图像重建系统及其方法。
背景技术
当前相当部分的疾病诊疗依赖病理切片等组织学手段,需应用普通医用电子显微镜对人体内部病理变化的呈现,而早期的病理特征往往细小而不易把握,借助常规的电子显微镜漏检的风险较大,因此尽可能清晰地显示图像细节一直以来都是医学影像处理的热点问题。但是传统超分辨的显微镜成像系统离昂贵的精密仪器,具体医疗经济水平很大程度限制了病患得到早期治疗的可能。
而目前涉及智能算法在医用超分辨率图像重建的应用大多立足于通过物理手段、经验规则改善电子显微镜成像环节的分辨率或增强对不同样品介质的适用性,少有关注针对成像后的电镜图像本身的超分辨处理,如申请号为CN201610485953.0的发明公开了高分辨X射线、γ射线、电子射线显微镜技术。但因射线获取的危险性、装置设计的精密性造成设备成本高昂等问题,从经济性角度限制了电子显微镜以较高精度水平应用于辅助疾病的临床诊断。
本发明利用人工智能卷积神经网络技术,通过智能算法建立从低分辨电子显微图片到超分辨电子显微图片的映射,重建电子显微成像图片并输出超分辨的电子显微成像图片,提出一种人工智能辅助电子显微镜图像超分辨转化的图像重建方法。
发明内容
本发明通过智能算法建立从低分辨电子显微图片到超分辨电子显微图片的映射,重建电子显微成像图片并输出超分辨的电子显微成像图片,提供一种电子显微镜图像重建的方法,以期通过较低成本的硬件设备得到高分辨率的电子显微镜图像。
为解决上述技术问题,本发明所采用的技术方案是:一种电子显微镜图像重建系统及其方法,所述电子显微镜图像重建系统主要包括图像识别分类系统和卷积重建系统,所述电子显微镜图像重建方法主要包括识别分类和卷积重建两个步骤。
一种电子显微镜图像重建系统,其特征在于,包括以下部分:
图像识别分类系统:用于识别待重建图像种类;
图像卷积重建系统:用于重建识别后的图像数据,输出超分辨率图像。
所述识别分类系统以经典LeNET为网络架构蓝图,并包括以下网络层:
1)参训数据集层:经人工标记的训练图像打包成特定的LMDB数据库格式作为网络的数据输入,以减少数据读取时间,加速模型优化;
2)卷积层:本发明识别分类部分采用的卷积运算同常用的卷积运算相同,本质上与线性变换一致但具体方法有所不同:以9个像素点的灰度值为单位,按照每个相对位置的固定权重计算该9个像素点灰度值的均值;
3)下采样层:本发明采用的是最大池化法进行下采样:以四个像素灰度值的最大值代替这四个像素值参与下一步运算;
4)激活层:本发明选用ReLU函数作为激活函数;
5)反馈层:本发明选用分类领域常用的损失函数softmax-loss。
所述卷积重建系统包括以下网络层:
1)二次预处理层:二次预处理步骤是用户框选区域以外的图片按高斯分布填充灰度值,其后进行7次旋转、一次对称共形成15张图像;7次旋转每次旋转度数为45°,一次对称形成14张图,导入原始图共15张;目的在于适应后续15个通道的需求,尽可能避免图片观察角度不同导致的错误,并确定之后学习的区域并避免出现因其他区域的不同信息干扰学习进程;
2)底层特征提取层:用于对低分辨率的目标图像完成下采样操作,减少图像的非重点参数信息,并初步提取目标图像的特征信息,具体操作公式为:
F1(Y)=max(0,W1*Y+B1)
式中,Y表示目标图像,*表示卷积操作,W1表示卷积核,共有32维,其大小为5×5,B1是偏置项,这一层使用的激活函数是经典的ReLU函数,max表示取两者较大值;
3)非线性映射层A:用于提取目标图片浅层特征信息,操作可表达为公式:
F4(Y)=max(0,W4*(F1(Y)+F3(Y))+B4)
式中,Y表示待处理图像,*表示卷积操作,W4表示卷积核,共有32维,其大小为5×5,B4是偏置项,这一层使用的激活函数是经典的ReLU函数,max表示取较大值;F4(Y)是本层输出的结果,F1(Y)是第一层输出结果,F3(Y)是第三层输出结果;
3)二次监督层:即conv7,作用在于训练时针对非线性映射层A的第二次反向传播,在每一次的训练中负责记录当前的特征信息,该层在每次所有训练集训练完成后进行上述计算;因此二次监督层实际上整合了conv1-conv6的卷积核权重信息,在这一层真实的高分辨图像也参与了conv1-conv6的所有运算;二次监督层实质是提前到此处的一次损失函数的误差计算,并非卷积操作;二次监督层只在训练时作为重要结构参与网络的训练,用于解决网络深度增加时遇到梯度消失的固有问题,但使用时不参与每一张导入图片的具体操作;定义为:
式中,N是训练样本的数量,F1是指前层网络综合学习得到的映射关系。θ1={W1,W2,…,W7,b1,b2,…,b7},xi是第i幅标准高分辨率图像,Yi是输入的第i幅低分辨率图像;通过E11)反向传播的梯度值与图像二次监督部分构造的反向传播的梯度值共同迭代更新各层的卷积权重,使前几层的网络层也能够充分完成权重更新,改善了深层卷积神经网络反向梯度传播消失现象,提高了训练得到的网络模型的准确性;
4)非线性映射层B:用于提取目标图片深层特征信息,非线性映射层和二次监督层的卷积处理过程中运用残差网络,保证训练的稳定性;
5)重建层:作用在于结合提取到的特征进行图像超分辨率重建,具体操作公式表达为:
F16(Y)=PS(max(0,W16*F15(Y)+B16))
式中F16(Y)指的是最终重建的结果,PS是亚像素卷积操作,目的在于利用现有深层次特征信息重新生成一幅高分辨率图像,W16是指第16层的卷积核,它本质上是一种反卷积操作;F15(Y)是指输入第16层前的第15层输出的特征向量,B16表示第16层的偏置项。
所述残差网络是指位于conv1输出与conv3输出之间、位于conv4输出与conv6输出之间、位于conv10输出与conv12输出之间、位于conv13输出与conv15输出之间的卷积层和快捷连接;使用时则只在conv7输入与输出之间建立快捷连接;快捷连接从每一个模块的输入连接到每一个模块的输出。
一种采用上述电子显微镜图像重建系统的电子显微镜图像重建方法包括识别分类和图像重建,所述识别分类具体步骤为:
1)以经典LeNET为蓝本,搭建网络结构框架;
2)在输入具体参数时完成适用于本地使用的识别分类网络;
3)使用LMDB格式的训练集、校验集、测试集完成网络训练、评价;
4)输入经过预处理的待重建图像,输出识别结果;
所述一种电子显微镜图像重建方法的卷积重建具体步骤如下:
1)预处理多通道输入的图像形成目标底层图像;
2)将预处理后的图像输入包括二次监督层的15层卷积神经网络;
3)利用卷积后的高层次特征信息重建一张新的目标超分辨扫描电子显微镜图像;
4)将重建后的目标图像与相同预处理方法得到的校正导致模糊的原因后标准的目标超分辨图像对比,修正卷积核的权重等参数信息;
5)重复S1-S5直至训练达到对峰值信噪比和结构相似性的要求;
6)向卷积重建系统输入待重建的目标图像;
7)系统对待重建的目标图像进行质量检测,判断图片像素灰度值完整,符合重建要求后输入预处理程序;
8)将预处理后的目标图像输入15层卷积神经网络;
9)利用卷积后的目标高层次特征信息10倍放大重建一张新的超分辨电子显微目标图像;
10)向前台输出超分辨率图像供用户采用,同时停止重建运算。
所述预处理多通道输入的图像形成目标底层图像具体流程如下:
1)从已有的目标同类型显微图片训练集中随机地抽取一张图片;
2)提取该目标图像每一个像素的灰度值。
所述卷积重建所述S2与S8的具体算法流程一致,具体流程如下:
1)将预处理得到的目标图像输入底层特征提取层;
2)将底层特征提取层得到的目标特征图像输入非线性映射层A;
3)将非线性映射层A得到的目标特征图像输入二次监督层;
4)将二次监督层得到的目标特征图像输入非线性映射层B。
所述达到训练要求的判断标准为:随机抽取任意一张图片前后两次训练同一张图片的峰值信噪比差值绝对值位于区间0-0.1,且前后两次训练同样该图片的结构相似性差值绝对值位于区间0,0-05;主要条件为保存输出一张图片每次训练后的重建结果,人眼对比实际10倍放大对应分辨率的目标图像,决定是否跳出步骤S5。
所述的卷积重建每次重建目标图片时,先需要根据目标图片细胞器选择同类型图片训练集;所述训练集图片只包含一种细胞器的信息,训练集依照模糊原因分类,每套训练集是由两个部分组成:反映线粒体但不限于线粒体或反映基底膜但不限于基底膜的模糊电子显微镜成像、反映相同结构的高分辨率电子显微镜成像。
待重建目标图片在进入识别层之前需要进行预处理:只保留人工标记好的待识别细胞器区域,其他的区域按高斯分布填充灰度值。
所述用户信息处理流程包括:
1)发送请求,首先用户通过网络传输或本地传输的方式向系统所在计算机发送待处理的低分辨率人中性粒细胞嗜天青颗粒扫描电子显微镜成像图片文件和请求;
2)呈现图片,根据用户请求,系统按照训练进程返回一系列较清晰的放大图片;用户根据自己的用途和专业知识在每次训练结束后判断该图片是否达到自身对目标清晰扫描电子显微镜成像图片的要求;
3)接受反馈,用户运用智能终端或本地输入向系统反馈意见信息;意见信息主要包括:满意、不满意。
所述用户请求是保密的,保密密匙依照用户信息的不同而变化;用户分为两种类型:科研型、专业型;每种类型又按照是否是会员分为会员用户、普通用户;密钥的存在除了信息安全、营销用途,还具有辅助系统识别图片类型的功能。
与现有技术相比,本发明所具有的有益效果为:本发明基于人工智能算法将扫描电子显微镜图像进行重建,不依赖于昂贵的的精密仪器提供高分辨率图像,降低了高分辨率图像获得途径的成本,提升了医用电子显微镜应用于辅助疾病临床诊断的成像分辨率,间接提升了在诊断准确率。
附图说明
图1为基于卷积神经网络的扫描电子显微镜图像重建的训练算法的示意图;
图2为基于卷积神经网络的扫描电子显微镜图像重建的使用算法的示意图;
图3为基于卷积神经网络的扫描电子显微镜图像重建方法卷积重建模式图;
图4为运用残差网络的底层特征提取层和非线性映射层A示意图;
图5为残差网络架构示意图;
图6为实施案例使用的卷积操作示意图;
图7为实施案例使用的最大下采样操作示意图。
具体实施方式
根据待重建对象分类识别结果的不同可以将本技术分为以下实现路径,包括但不限于:
改变具体重建对象而采取相同清晰化操作的方法属于本发明保护范围。
下面结合本发明实施例中的附图以人中性粒细胞嗜天青颗粒为例,对本发明实施例中的技术方案进行描述。参见图1-7,以基于卷积神经网络的扫描电子显微镜图像重建方法的实施案例,对发明的具体实施方式进行说明。
本发明分为识别分类和卷积重建两大块。
识别分类部分网络结构根据经典的LeNET网络设计再根据实际模糊原因进行调试修改,主要包括以下结构:
参训数据集层:经人工标记的训练图像打包成特定的LMDB数据库格式作为网络的数据输入,以减少数据读取时间,加速模型优化。
卷积层:本发明识别分类部分采用的卷积运算同常用的卷积运算相同,本质上与线性变换一致但具体方法有所不同。图6展示了一个卷积操作:以9个像素点的灰度值为单位,按照每个相对位置的固定权重计算该9个像素点灰度值的均值。
下采样层:本发明采用的是最大池化法进行下采样。图7展示了具体实施步骤:以四个像素灰度值的最大值代替这四个像素值参与下一步运算。
激活层:本发明选用ReLU函数作为激活函数。
反馈层:本发明选用分类领域常用的损失函数sofimax-loss。
其中识别分类部分需要提前训练,训练步骤为:
S1:以LeNet模型为基础编制网络结构文件;
1)DB数据库格式作为训练集、校验集、测试集格式,因此网络结构文件中提取数据的算法应指定LMDB数据库的路径和文件名、一次迭代使用LMDB数据库格式的样本数和预订需要使用的LMDB数据库格式样本数(其中图像需要人工标记细胞器区域);
2)正常的开源Caffe框架按前述逻辑结构设计网络结构;
S2:设定学习参数;
1)学习参数中学习速率设置为0.01-0.001并按照0.001-0.0001步长进行缩减;
2)学习参数中完成一轮校验的迭代数应与前述网络结构文件中的批量参数相关,即完成一轮校验的迭代数乘以批量参数应等于所用样本数。
3)学习参数中最大一轮校验迭代次数应设定为10-100个完成理论校验迭代数。
S3:在DOS控制台输入并执行开始训练命令;
S4:训练中在目标目录中依照迭代次数间隔生成权重值文件(***.caffemodel)和中间状态文件(***.solverstate),以备不时之需。
S5:训练结束判断条件根据损失函数计算的误差和校正后的真值变化趋势确定,总体方向应趋于误差减小、真值稳定。
S6:对完成训练的网络,使用caffe-matlab接口调用网络结构文件和最佳训练正确率的权值文件,运用测试集进行评价。
经由上述识别分类网络识别成功后,系统得知本次待重建图片应为人中性粒细胞嗜天青颗粒。卷积重建步骤如下:
目标同类训练集导入:首先,导入人中性粒细胞嗜天青颗粒为主要内容的合格像素的训练集。训练集需按照固定格式来组织每一组人中性粒细胞嗜天青颗粒训练图片。该格式包括:LR(低分辨)图片、HR(高分辨)图片、放大倍数。该训练集可以预先内置也可以使用前导入。该训练集内任何图片均要求放大倍数相同,所有图片的内容与待重建的低分辨率图片高度相关。
随机抽取人工标记的人中性粒细胞嗜天青颗粒训练图片文件,读取其LR(低分辨)形式和HR(高分辨)形式及倍数差距。
二次预处理:对上述步骤中所获得的LR图像进行预处理操作其步骤为:用户框选区域以外的图片按高斯分布填充灰度值,其后进行7次旋转、一次对称共形成15张图像。7次旋转每次旋转度数为45°,一次对称形成14张图,导入原始图共15张。
底层特征提取:预处理操作后构成的输入网络通道数为15的低分辨率人中性粒细胞嗜天青颗粒图像Y进入网络后,Conv1使用32*5*5的卷积核对低分辨率的人中性粒细胞嗜天青颗粒显微图像完成下采样操作,减少图像的非重点参数信息,并初步提取人中性粒细胞嗜天青颗粒图像的特征信息,形成的高纬度的特征映射构成包含32幅特征图的C1层,具体操作如公式:
F1(Y)=max(0,W1*Y+B1)
式中,*表示卷积操作,W1表示卷积核,共有32维,其大小为5×5,B1是偏置项,这一层使用的激活函数是经典的ReLU(RectifiedLinearUnits)函数。
非线性映射层A:如图4、5,经过快捷连接后,输出的结果表示为快捷连接之前的未经卷积提取的低分辨人中性粒细胞嗜天青颗粒显微图片或浅层特征图加上经过模块内网络卷积提取造成的图片特征信息的变化量。如果这种变化量和初始输入的通道相同则可直接相加,倘若不同则可以采取在已有的低通道特征图外围补0将小的通道转化成大的通道,从而实现直接相加。非线性映射层A中Conv1层的输出C1为第一个残差模块的输入,Conv2、Conv3、Conv4、Conv5为网络中的非线性映射层A。Conv2与Conv3分别使用32个15维5×5的卷积核进行卷积操作,分别形成包含32幅显微图片特征图的C2、C3层,这两层的公式同Conv1相类似。然后将第一个残差模块的卷积分支的输出C3层的特征图和该残差模块的恒等映射分支C1层的特征图,与32个15维5×5的卷积核进行卷积操作,形成含有32幅特征图的C4层,操作可以用下面的公式表达:
F4(Y)=max(0,W4*(F1(Y)+F3(Y))+B4)
C4层作为Conv5层卷积操作的输入,使用32个15维5×5的卷积核进行卷积操作,形成包含32幅特征图的C5层,公式同Convl、Conv2、Conv3相类似。
二次监督:二次监督层采用均方误差作为监督层误差函数解决深层神经网络梯度消失的问题。监督层误差函数E11)不同于前述误差函数,定义为:
训练时二次监督层在每一次的训练中负责记录当前的特征信息,即每一次的F1(Yi,θ)。该层在每次所有训练集训练完成后进行上述计算。N为训练集样本数。F1(Yi,θ)是来自每一次conv6的特征图像,xi是每一套人中性粒细胞嗜天青颗粒图片中的真实高分辨图像经历conv1-conv6的相同运算得到的特征图像。因此二次监督层其实整合了conv1-conv6的卷积核权重信息,在这一层真实的高分辨人中性粒细胞嗜天青颗粒图像也参与了conv1-conv6的所有运算。通过E11)反向传播的梯度值与图像重建部分构造的重建误差函数E22)反向传播的梯度值共同迭代更新各层的卷积权重,使前几层的网络层也能够充分完成权重更新。使用时以快捷连接形式跳过该层的处理。
非线性映射层B:此层与非线性映射层A相似,同样运用残差网络。Conv5层(计入二次监督层应该是第六层)的输出C5为第三个残差模块的输入,Conv6-Conv15为网络中的非线性映射层B。与Conv2、Conv3相同,Conv6、Conv7分别使用32个大小为5×5的卷积核对前面经历二次监督过程得到的显微特征图片进行卷积操作,分别形成包含32幅特征图的C6、C7层,这两层的公式同Conv1相类似。然后将第三个残差模块的卷积分支的输出C7层的特征图和该残差模块的恒等映射分支C5层的特征图,与32个大小为5×5的卷积核进行卷积操作,形成含有32幅特征图的C8层,操作与前述类似。C8层作为Conv9层卷积操作的输入,使用32个大小为5×5的卷积核进行卷积操作,形成包含32幅特征图的C9层,公式同Conv1、Conv2、Conv3相类似。之后的运行步骤都与前面所述类似,一直到Conv15输出。总结起来就是5个残差网络连接,每个残差网络由两个卷积层组成。所有的卷积层卷积核大小相似,通过不断补零可以确保尽可能提取到边缘的特征。
重建图像:重建放大的人中性粒细胞嗜天青颗粒超分辨图像算法是通过r2个大小为3×3的卷积核完成亚像素卷积操作,输出的特征通道数为r2,该层包含r2幅特征图,r为上采样倍数,其具体操作如下式:
F16(Y)=PS(max(0,W16*F15(Y)+B16))
F15(Y)分别表示第15层卷积结果,PS(PeriodicShuffling)表示对像素的重新排列操作,对超分辨显微图像特征进行整合。这样大小为H×W×cr2的特征图像被重新排列成大小为rH×rW×c的超分辨显微图像,即所得到的F16(Y)。r的取值依据具体的放大倍数决定。
更新卷积核权重:其具体算法操作是给定一个训练集即数据库其中Yi是低分辨率人中性粒细胞嗜天青颗粒图像,Xi是真实人中性粒细胞嗜天青颗粒图像,N是数据集中包含样本人中性粒细胞嗜天青颗粒图像的数量。训练的目的就是找到一个最优的模型F,参数θ={W,b}使得F(Yi,θ)和真实图像之间的误差最小。算法运行的基础是首先确定我们卷积神经网络的输出误差函数为均方差函数,这个误差函数衡量的是目标清晰图像和预测重建的清晰图像间的误差。然后通过假设已知下一层清晰化网络的输入值输出值误差值不断运用高等数学的链式法则求得本层清晰化网络的卷积核每个窗口的权重误差梯度。最后套用梯度下降公式,借用一个简单的计算就能求得更新后的权重。
判断训练结果:最终,按照峰值信噪比和结构相似性来评价训练水平:具体算法中设置一个开关在每一次训练后对比此次和前次训练的峰值信噪比与结构相似性。辅助条件为随机抽取任意一张图片前后两次训练同一张图片的峰值信噪比差值绝对值位于区间(0,0.1)且前后两次训练同样该图片的结构相似性差值绝对值位于区间(0,0.05)。主要条件为保存输出一张图片每次训练后的重建结果,人眼对比实际10倍放大对应分辨率的人中性粒细胞嗜天青颗粒图像。主要条件判断结果是满意则终止运算;主要条件判断结果不满意,但辅助条件满足则保存当前卷积核权重结果,进行下一次训练;主要条件判断结果不满意且辅助条件不满足则进行下一次训练以覆盖当前卷积核权重信息。
训练完成后投入使用时算法步骤如下:
1)发送请求:首先用户通过网络传输或本地传输的方式向系统所在计算机发送待处理的低分辨率人中性粒细胞嗜天青颗粒扫描电子显微镜成像图片文件和请求。请求是保密的,密钥依照用户信息的不同而变化。用户分为两种类型:科研型、专业型。每种类型又按照是否是会员分为会员用户、普通用户。密钥的等级由高到低是科研型会员用户、科研型普通用户、专业型会员用户、专业型普通用户。密钥的存在除了信息安全、营销用途,还具有辅助系统识别图片类型的功能。科研型用户调用的数据是由更具有目标同类性的图片数据训练得来,迁移性差但准确性高;专业型用户调用的数据是由更具有广泛性的图片数据训练得来,迁移性强但准确性较低。二次预处理、底层特征提取、非线性映射层A、非线性映射层B、重建图片算法流程与训练时相同。
2)呈现图片:根据用户第一次请求,系统按照训练进程返回一系列较清晰的放大图片;用户根据自己的用途和专业知识在每次训练结束后判断该图片是否达到自身对人中性粒细胞嗜天青颗粒清晰扫描电子显微镜成像图片的要求;
3)反馈:用户运用智能终端或本地输入向系统反馈意见信息;意见信息主要包括:满意、不满意。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (9)

1.一种电子显微镜图像重建系统,其特征在于,包括以下部分:
图像识别分类系统:用于识别待重建图像种类;其中,所述识别分类系统以经典LeNET为网络架构蓝图,并包括以下网络层:
参训数据集层:经人工标记的训练图像打包成特定的LMDB数据库格式作为网络的数据输入;
卷积层:卷积运算是以9个像素点的灰度值为单位,按照每个相对位置的固定权重计算该9个像素点灰度值的均值;
下采样层:采用最大池化法进行下采样;
激活层:选用ReLU函数作为激活函数;
反馈层:选用损失函数softmax-loss;
图像卷积重建系统:用于重建识别后的图像数据,输出超分辨率图像;
每次重建目标图片时,先需要根据目标图片细胞器选择同类型图片训练集;所述训练集图片只包含一种细胞器的信息,训练集依照模糊原因分类,每套训练集是由两个部分组成:反映线粒体但不限于线粒体或反映基底膜但不限于基底膜的模糊电子显微镜成像、反映相同结构的高分辨率电子显微镜成像;
待重建目标图片在进入识别层之前需要进行预处理:只保留人工标记好的待识别细胞器区域,其他的区域按高斯分布填充灰度值。
2.根据权利要求1所述的一种电子显微镜图像重建系统,其特征在于,所述卷积重建系统包括以下网络层:
二次预处理层:二次预处理步骤是用户框选区域以外的图片按高斯分布填充灰度值,其后进行7次旋转、一次对称共形成15张图像;7次旋转每次旋转度数为45°,一次对称形成14张图,导入原始图共15张;
底层特征提取层:用于对低分辨率的目标图像完成下采样操作,并初步提取目标图像的特征信息,具体操作公式为:
F1(Y)=max(0,W1*Y+B1)
式中,Y表示目标图像,*表示卷积操作,W1表示卷积核,共有32维,其大小为5×5,B1是偏置项,这一层使用的激活函数是经典的ReLU函数,max表示取两者较大值;
非线性映射层A:用于提取目标图片浅层特征信息,操作可表达为公式:
F4(Y)=max(0,W4*(F1(Y)+F3(Y))+B4)
式中,Y表示待处理图像,*表示卷积操作,W5表示卷积核,共有32维,其大小为5×5,B4是偏置项,这一层使用的激活函数是经典的ReLU函数,max表示取较大值;F4(Y)是本层输出的结果,F1(Y)是第一层输出结果,F3(Y)是第三层输出结果;
二次监督层:即conv7,作用在于训练时针对非线性映射层A的第二次反向传播,在每一次的训练中负责记录当前的特征信息,该层在每次所有训练集训练完成后进行上述计算;定义为:
式中,N是训练样本的数量,F1是指前层网络综合学习得到的映射关系;θ1={W1,W2,…,W7,b1,b2,…,b7},Xi是第i幅标准高分辨率图像,Yi是输入的第i幅低分辨率图像;通过E11)反向传播的梯度值与图像二次监督部分构造的反向传播的梯度值共同迭代更新各层的卷积权重,使前几层的网络层也能够充分完成权重更新;
非线性映射层B:用于提取目标图片深层特征信息,非线性映射层和二次监督层的卷积处理过程中运用残差网络;
重建层:作用在于结合提取到的特征进行图像超分辨率重建,具体操作公式表达为:
F16(Y)=PS(max(0,W16*F15(Y)+B16))
式中F16(Y)指的是最终重建的结果,PS是亚像素卷积操作,W16是指第16层的卷积核,它本质上是一种反卷积操作;F15(Y)是指输入第16层前的第15层输出的特征向量,B16表示第16层的偏置项。
3.根据权利要求2所述的一种电子显微镜图像重建系统,其特征在于,所述残差网络是指位于conv1输出与conv3输出之间、位于conv4输出与conv6输出之间、位于conv10输出与conv12输出之间、位于conv13输出与conv15输出之间的卷积层和快捷连接;使用时则只在conv7输入与输出之间建立快捷连接;快捷连接从每一个模块的输入连接到每一个模块的输出。
4.如权利要求1-3任一种电子显微镜图像重建系统的电子显微镜图像重建方法,其特征在于,包括以下步骤:识别分类和卷积重建;
识别分类具体步骤为:
S1:以经典LeNET为蓝本,搭建网络结构框架;其中,网络结构框架包括参训数据集层:经人工标记的训练图像打包成特定的LMDB数据库格式作为网络的数据输入;卷积层:卷积运算是以9个像素点的灰度值为单位,按照每个相对位置的固定权重计算该9个像素点灰度值的均值;下采样层:采用最大池化法进行下采样;激活层:选用ReLU函数作为激活函数;反馈层:选用损失函数softmax-loss;
S2:在输入具体参数时完成适用于本地使用的识别分类网络;
S3:使用LMDB格式的训练集、校验集、测试集完成网络训练、评价;
S4:输入经过预处理的待重建图像,输出识别结果;
卷积重建具体步骤如下:
S1:预处理多通道输入的图像形成目标底层图像;
S2:将预处理后的图像输入包括二次监督层的15层卷积神经网络;
S3:利用卷积后的高层次特征信息重建一张新的超分辨电子显微镜目标图像;
S4:将重建后的目标图像与相同预处理方法得到的校正导致模糊的原因后标准的目标超分辨图像对比,修正卷积核的权重;
S5:重复S1-S5直至训练达到对峰值信噪比和结构相似性的要求;
S6:向卷积重建系统输入待重建的目标图像;
S7:系统对待重建的目标图像进行质量检测,判断图片像素灰度值完整,符合重建要求后输入预处理程序;
S8:将预处理后的目标图像输入15层卷积神经网络;
S9:利用卷积后的目标高层次特征信息10倍放大重建一张新的超分辨电子显微镜目标图像;
S10:向前台输出超分辨率图像供用户采用,同时停止重建运算。
5.根据权利要求4所述的方法,其特征在于,所述S1具体算法流程如下:
步骤1:从已有的目标同类型显微图片训练集中随机地抽取一张图片;
步骤2:提取该目标图像每一个像素的灰度值。
6.根据权利要求4所述的方法,其特征在于,所述S2与S8的具体算法流程一致,具体流程如下:
步骤1:将预处理得到的目标图像输入底层特征提取层;
步骤2:将底层特征提取层得到的目标特征图像输入非线性映射层A;
步骤3:将非线性映射层A得到的目标特征图像输入二次监督层;
步骤4:将二次监督层得到的目标特征图像输入非线性映射层B。
7.根据权利要求4所述的方法,其特征在于,所述S5达到训练要求的判断标准为:随机抽取任意一张图片,前后两次训练同一张图片的峰值信噪比差值绝对值位于区间0-0.1,且前后两次训练同样该图片的结构相似性差值绝对值位于区间0~0.05;主要条件为保存输出一张图片每次训练后的重建结果,人眼对比实际10倍放大对应分辨率的目标图像,决定是否跳出步骤S5。
8.如权利要求5-7任一权利要求所述的方法,其特征在于用户信息处理流程包括:
S1:发送请求,首先用户通过网络传输或本地传输的方式向系统所在计算机发送待处理的低分辨率人中性粒细胞嗜天青颗粒扫描电子显微镜成像图片文件和请求;
S2:呈现图片,根据用户请求,系统按照训练进程返回一系列较清晰的放大图片;用户根据自己的用途和专业知识在每次训练结束后判断该图片是否达到自身对目标清晰扫描电子显微镜成像图片的要求;
S3:接受反馈,用户运用智能终端或本地输入向系统反馈意见信息;意见信息主要包括:满意、不满意。
9.根据权利要求8所述方法,其特征在于所述用户请求是保密的,保密密匙依照用户信息的不同而变化;用户分为两种类型:科研型、专业型;每种类型又按照是否是会员分为会员用户、普通用户;密钥的存在除了信息安全、营销用途,还具有辅助系统识别图片类型的功能。
CN201911058798.4A 2019-11-22 2019-11-22 一种电子显微镜图像重建系统及其方法 Active CN110826467B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911058798.4A CN110826467B (zh) 2019-11-22 2019-11-22 一种电子显微镜图像重建系统及其方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911058798.4A CN110826467B (zh) 2019-11-22 2019-11-22 一种电子显微镜图像重建系统及其方法

Publications (2)

Publication Number Publication Date
CN110826467A CN110826467A (zh) 2020-02-21
CN110826467B true CN110826467B (zh) 2023-09-29

Family

ID=69551870

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911058798.4A Active CN110826467B (zh) 2019-11-22 2019-11-22 一种电子显微镜图像重建系统及其方法

Country Status (1)

Country Link
CN (1) CN110826467B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112653834B (zh) * 2020-12-01 2022-04-08 广东鼎诚电子科技有限公司 超分辨率扫描成像方法、系统和存储介质
CN113516167A (zh) * 2021-05-17 2021-10-19 中国工商银行股份有限公司 生物特征识别方法及装置
CN113256497B (zh) * 2021-06-21 2021-09-24 中南大学 图像重建方法及系统
CN114331840B (zh) * 2021-12-24 2023-04-07 汉姆德(宁波)智能医疗科技有限公司 重建高保真超分辨显微图像的方法、装置
CN116091317A (zh) * 2023-02-02 2023-05-09 苏州大学 扫描电镜二次电子图像超分辨方法和系统

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103093445A (zh) * 2013-01-17 2013-05-08 西安电子科技大学 基于联合稀疏约束的统一特征空间图像超分辨重建方法
WO2014107947A1 (zh) * 2013-01-11 2014-07-17 广州广电运通金融电子股份有限公司 薄片类介质识别方法和识别装置
CN106157240A (zh) * 2015-04-22 2016-11-23 南京理工大学 基于字典学习的遥感图像超分辨率方法
CN107292821A (zh) * 2017-06-23 2017-10-24 武汉大学 一种超分辨率图像重建方法及系统
CN107358575A (zh) * 2017-06-08 2017-11-17 清华大学 一种基于深度残差网络的单幅图像超分辨率重建方法
CN107369189A (zh) * 2017-07-21 2017-11-21 成都信息工程大学 基于特征损失的医学图像超分辨率重建方法
CN107464216A (zh) * 2017-08-03 2017-12-12 济南大学 一种基于多层卷积神经网络的医学图像超分辨率重构方法
EP3319039A1 (en) * 2016-11-07 2018-05-09 UMBO CV Inc. A method and system for providing high resolution image through super-resolution reconstruction
WO2018120329A1 (zh) * 2016-12-28 2018-07-05 深圳市华星光电技术有限公司 基于稀疏域重构的单帧图像超分辨重建方法及装置
CN108537733A (zh) * 2018-04-11 2018-09-14 南京邮电大学 基于多路径深度卷积神经网络的超分辨率重建方法
CN108550115A (zh) * 2018-04-25 2018-09-18 中国矿业大学 一种图像超分辨率重建方法
CN108830792A (zh) * 2018-05-09 2018-11-16 浙江师范大学 一种利用多类字典的图像超分辨率方法
WO2018223275A1 (zh) * 2017-06-06 2018-12-13 深圳先进技术研究院 基于深度卷积网的一维部分傅里叶并行磁共振成像方法
WO2019041376A1 (zh) * 2017-08-30 2019-03-07 南方医科大学 基于卷积神经网络去除磁共振图像降采样伪影的方法
CN110163803A (zh) * 2019-05-24 2019-08-23 厦门大学 一种基于卷积神经网络的图像超分辨率重建方法及系统

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014107947A1 (zh) * 2013-01-11 2014-07-17 广州广电运通金融电子股份有限公司 薄片类介质识别方法和识别装置
CN103093445A (zh) * 2013-01-17 2013-05-08 西安电子科技大学 基于联合稀疏约束的统一特征空间图像超分辨重建方法
CN106157240A (zh) * 2015-04-22 2016-11-23 南京理工大学 基于字典学习的遥感图像超分辨率方法
EP3319039A1 (en) * 2016-11-07 2018-05-09 UMBO CV Inc. A method and system for providing high resolution image through super-resolution reconstruction
WO2018120329A1 (zh) * 2016-12-28 2018-07-05 深圳市华星光电技术有限公司 基于稀疏域重构的单帧图像超分辨重建方法及装置
WO2018223275A1 (zh) * 2017-06-06 2018-12-13 深圳先进技术研究院 基于深度卷积网的一维部分傅里叶并行磁共振成像方法
CN107358575A (zh) * 2017-06-08 2017-11-17 清华大学 一种基于深度残差网络的单幅图像超分辨率重建方法
CN107292821A (zh) * 2017-06-23 2017-10-24 武汉大学 一种超分辨率图像重建方法及系统
CN107369189A (zh) * 2017-07-21 2017-11-21 成都信息工程大学 基于特征损失的医学图像超分辨率重建方法
CN107464216A (zh) * 2017-08-03 2017-12-12 济南大学 一种基于多层卷积神经网络的医学图像超分辨率重构方法
WO2019041376A1 (zh) * 2017-08-30 2019-03-07 南方医科大学 基于卷积神经网络去除磁共振图像降采样伪影的方法
CN108537733A (zh) * 2018-04-11 2018-09-14 南京邮电大学 基于多路径深度卷积神经网络的超分辨率重建方法
CN108550115A (zh) * 2018-04-25 2018-09-18 中国矿业大学 一种图像超分辨率重建方法
CN108830792A (zh) * 2018-05-09 2018-11-16 浙江师范大学 一种利用多类字典的图像超分辨率方法
CN110163803A (zh) * 2019-05-24 2019-08-23 厦门大学 一种基于卷积神经网络的图像超分辨率重建方法及系统

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
He Jingxuan.Image Super-resolution Reconstruction Algorithm Based on Convolutional Neural Network.2018 IEEE International Conference on Automation, Electronics and Electrical Engineering.2019,全文. *
刘月峰.基于改进卷积神经网络的单幅图像超分辨率重建方法.计算机应用.2019,第39卷(第5期),第2节. *
孙叶美.基于卷积神经网络的图像超分辨率重建算法研究.中国优秀硕士学位论文信息科技辑.2019,第3章. *
邢晓羊.基于特征损失的医学图像超分辨率重建.计算机工程与应用.2018,第54卷(第20期),全文. *

Also Published As

Publication number Publication date
CN110826467A (zh) 2020-02-21

Similar Documents

Publication Publication Date Title
CN110826467B (zh) 一种电子显微镜图像重建系统及其方法
CN108734659B (zh) 一种基于多尺度标签的亚像素卷积图像超分辨率重建方法
CN111784671B (zh) 基于多尺度深度学习的病理图像病灶区域检测方法
US10769761B2 (en) Generating high resolution images from low resolution images for semiconductor applications
CN108447062A (zh) 一种基于多尺度混合分割模型的病理切片非常规细胞的分割方法
CN109035172B (zh) 一种基于深度学习的非局部均值超声图像去噪方法
CN112132817A (zh) 一种混合注意力机制的眼底图像视网膜血管分割方法
CN113012172A (zh) 一种基于AS-UNet的医学图像分割方法及系统
CN106157249A (zh) 基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法
WO2013104938A2 (en) Neural network and a method for teaching thereof
CN106709421B (zh) 一种基于变换域特征和cnn的细胞图像识别分类方法
CN112348059A (zh) 基于深度学习的多种染色病理图像分类方法及系统
CN115375711A (zh) 基于多尺度融合的全局上下文关注网络的图像分割方法
CN115471448A (zh) 基于人工智能的胸腺瘤组织病理的分型方法及装置
CN111292256A (zh) 一种基于显微高光谱成像的纹理增强算法
CN116883933A (zh) 一种基于多尺度注意力与数据增强的安检违禁品检测方法
CN112750137A (zh) 基于深度学习的肝脏肿瘤分割方法及系统
CN112712526A (zh) 基于非对称卷积神经网络双通道的视网膜血管分割方法
CN116051382A (zh) 一种基于深度强化学习生成式对抗神经网络和超分辨率重建的数据增强方法
CN114972202A (zh) 一种基于轻量级的神经网络的Ki67病理细胞快速检测计数方法
CN110785709B (zh) 从低分辨率图像产生高分辨率图像以用于半导体应用
CN112232102B (zh) 一种基于深度神经网络和多任务学习的建筑物目标识别方法和系统
Zhang et al. Blood vessel segmentation in fundus images based on improved loss function
CN114612669B (zh) 一种医学图像炎症坏死占比的计算方法及装置
CN115100091A (zh) 一种sar图像转光学图像的转换方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant