CN112069735B - 一种基于非对称像差的全切片数字成像高精度自动聚焦法 - Google Patents
一种基于非对称像差的全切片数字成像高精度自动聚焦法 Download PDFInfo
- Publication number
- CN112069735B CN112069735B CN202010934404.3A CN202010934404A CN112069735B CN 112069735 B CN112069735 B CN 112069735B CN 202010934404 A CN202010934404 A CN 202010934404A CN 112069735 B CN112069735 B CN 112069735B
- Authority
- CN
- China
- Prior art keywords
- focus
- network
- refocusing
- positive
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 40
- 238000003384 imaging method Methods 0.000 title claims abstract description 36
- 230000004075 alteration Effects 0.000 title claims abstract description 22
- 238000013528 artificial neural network Methods 0.000 claims description 5
- 238000012549 training Methods 0.000 claims description 4
- 230000001575 pathological effect Effects 0.000 abstract description 6
- 230000008569 process Effects 0.000 abstract description 5
- 238000012937 correction Methods 0.000 abstract description 4
- 230000015556 catabolic process Effects 0.000 abstract description 3
- 238000006731 degradation reaction Methods 0.000 abstract description 3
- 238000013461 design Methods 0.000 abstract description 3
- 230000000694 effects Effects 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 description 5
- 238000012360 testing method Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 238000011176 pooling Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000012984 biological imaging Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000000386 microscopy Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000010827 pathological analysis Methods 0.000 description 1
- 230000007170 pathology Effects 0.000 description 1
- 238000013441 quality evaluation Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/04—Context-preserving transformations, e.g. by using an importance map
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Computer Hardware Design (AREA)
- Geometry (AREA)
- Studio Devices (AREA)
Abstract
本发明基于生物医疗仪器领域，具体涉及一种基于非对称像差的全切片数字成像高精度自动聚焦法：本方法提出了一种基于深度级联网络的学习方法，主要包含准焦分类网络和重聚焦网络；针对由像差导致准焦平面两侧离焦图像退化产生的不对称效应，本方法采用的准焦分类网络可以识别离焦图像正负向的离焦偏离特征；设计的重聚焦网络可根据正负向带偏离特征的离焦图像解算出精确的准焦距离；通过准焦分类网络和重聚焦网络的级联设计，本方法实现了成像过程中的像差校正问题，实现了全切片数字成像的准焦距离高精度预测，对传统的全切片数字病理成像硬件进行了软件虚拟化。
Description
技术领域
本发明基于生物医疗仪器领域，以深度学习技术为核心，具体涉及一种基于非对称像差的全切片数字成像高精度自动聚焦法，可广泛适用于仪器科学、人工智能、医疗影像和自动化等领域的研究。
背景技术
近年来，先进的数字病理学成像技术得到了广泛的研究与应用。全切片数字成像技术(WSI，Whole Slide Images)，即虚拟显微术，可以将传统的显微切片以数字化图像形式采集，能够实现任意电脑访问，容易存储，以及科研工作者和医生之间的异地传输等。全切片数字成像技术在生物成像研究中至关重要，如在癌症分析和疾病预测等领域中。目前美国食品药品管理局已经采用飞利浦公司的全切片数字成像系统作为主要的病理分析手段。
全切片数字成像通常需要两步实现：(1)按子区域顺序扫描病理图像，然后再将其拼接一起产生完整的全视场的病理切片图像；(2)采用特制的软件来识别分析这些数字图像。其中，第一步对于获取的图像质量至关重要。目前，全切片数字成像技术中存在的挑战主要为如何快速产生高质量的准焦图像。通常来说，全切片扫描需要一个高分辨率和毫米级长度景深的物镜，因为系统扫描过程中获得了分布不均的子图像，进而导致了离焦现象。这种离焦现象是导致全切片数字成像效果退化的主要原因。
目前，一种广泛应用的方法是采用准焦图匹配的方法来获得高质量的全切片数字图像。准焦图匹配方法提供一个准焦先验，对于每个位置的离焦图像，可以通过沿光轴移动病理样品获得不同准焦距离下的系列离焦图像(z-stack)，最后通过每张离焦图像的图像对比度最大化或者其他的图像质量评价方法来确定对应的准焦图像。这种方法需要对每个顺序扫描的子区域逐个使用。然而，这种方法因为重复的轴向测量导致成像速度大大减慢。对于其他方法，如采用双相机装置可以实现自准焦功能，避免了病理图像的轴向逐层扫描。但是，这种方法在传统的显微仪器中因硬件不兼容和成本高昂等问题，所以并不适用添加新的成像模块。除此之外，由像差导致的成像效果的退化，目前均使用硬件进行补偿，成本较高且效果欠佳。
发明内容
考虑到传统方法的局限性，本发明利用先进的机器学习算法来解决全切片数字成像的自准焦问题。本发明公开了一种基于深度学习的全切片数字成像高精度像差校正自动聚焦方法。本方法提出了一种基于深度级联网络的学习方法，主要包含一个准焦分类网络和一个重聚焦网络。首先，因为像差的存在导致了准焦平面两侧离焦图像的不对称，所以本方法训练一个准焦分类网络可以识别离焦图像正向或者负向的离焦偏离特征。其次，本方法设计了重聚焦网络可以根据正向或者负向带偏离特征的离焦图像解算出精确的准焦距离。通过准焦分类网络和重聚焦网络的级联设计，本方法实现了成像过程中的像差校正问题，实现了全切片数字成像的准焦距离高精度预测，对传统的成像硬件实现了软件虚拟化。
本发明的目的是这样实现的：
一种基于非对称像差的全切片数字成像高精度自动聚焦法，包括以下步骤：
步骤a、输入离焦图像；
步骤b、准焦分类网络；
步骤c、重聚焦网络；
步骤d、预测准焦距离，
采用神经网络的方法，利用像差离焦下的非对称性，实现全切片数字成像高精度自动聚焦功能。
进一步地，所述输入离焦图像来自于不同子图像横向位置下的轴向扫描移动获得的z-stack图像堆栈，每个子图像位置获得正、负各20张离焦图像和一张准焦图像，共计41张。
进一步地，将正向、负向离焦图像分别标记1、0。
进一步地，所述重聚焦网络分为正向重聚焦网络和负向重聚焦网络，两者网络结构不变，参数根据正、负向离焦图像分别单独训练。
进一步地，所述预测准焦距离为网络最终的输出，即离焦图像对应的预测准焦距离。有益效果：
本发明实现了基于深度学习的全切片数字成像高精度像差校正自动聚焦方法，具体体现在以下方面：
第一、本发明采用准焦分类网络，通过分类网络将正向、负向的离焦图像分别输出，有效的降低了像差的不对称导致的正向、负向离焦图像的不均匀；
第二、本发明采用重聚焦网络，通过对正向、负向的离焦图像进行分离的准焦距离预测，提高了准焦距离的预测精度，弱化了像差对准焦距离的扰动，同时相同的网络结构能够有效地对正向、负向离焦图像的不同特征进行有效提取；
第三、本发明采用深度学习的网络算法，该方法采用数字化网络结构进行仿真建模，采用软件方法实现了全切片数字成像系统的虚拟化，有效地节约了仪器实验成本。
附图说明
图1是本发明一种基于非对称像差的全切片数字成像高精度自动聚焦法算法流程图；
图2是准焦分类网络结构图；
图3是重聚焦网络算法流程图。
图中：第一卷积层1、池化层2、平滑层3、全连接层4、第二卷积层5、第三卷积层6。
具体实施方式
下面将对本发明方法的具体实施方式做进一步说明。
结合图1至图3所示，本实施例公开的一种基于非对称像差的全切片数字成像高精度自动聚焦法，包括以下步骤：
步骤a、输入离焦图像；
步骤b、准焦分类网络；
步骤c、重聚焦网络；
步骤d、预测准焦距离，
采用神经网络的方法，利用像差离焦下的非对称性，实现全切片数字成像高精度自动聚焦功能。
具体地，所述输入离焦图像来自于不同子图像横向位置下的轴向扫描移动获得的z-stack图像堆栈，每个子图像位置获得正、负各20张离焦图像和一张准焦图像，共计41张。
具体地，将正向、负向离焦图像分别标记1、0。
具体地，所述重聚焦网络分为正向重聚焦网络和负向重聚焦网络，两者网络结构不变，参数根据正、负向离焦图像分别单独训练。
具体地，所述预测准焦距离为网络最终的输出，即离焦图像对应的预测准焦距离。
通过本发明一种基于非对称像差的全切片数字成像高精度自动聚焦法算法流程图可知，算法包括：输入离焦图像、准焦分类网络、重聚焦网络、准焦距离；第一卷积层(3×3，步长1)1、池化层2、平滑层3、全连接层4、第二卷积层(5×5，步长1)5、第三卷积层(3×3，步长2)6。
在训练过程中，(1)所述输入离焦图像1采用传统全切片数字成像为基准，即采用若干子图像横向扫描下的连续轴向移动获得，均匀选取若干个子图像位置，并获得正负各20张图像和一张清晰图像，共计41张。
(2)所述准焦分类网络2提取分类特征，将正向、负向离焦图像分别标记1、0。分类网络算法流程图见图2，沿神经网络传播顺序依次为第一卷积层(3×3，步长1)1、池化层2、平滑层3、全连接层4。网络先通过第一卷积层1进行全局信息的感知，其次ResNet残差网络块循环5次进行特征提取，最终通过全连接层4实现二分类判断，并将图像进行分类处理。右上角数字代表对应网络块迭代次数，输出代表图像的正、负类别。
(3)所述重聚焦网络分为正向重聚焦网络和负向重聚焦网络，两者网络结构不变，参数根据正、负向离焦图像分别单独训练。重聚焦网络算法流程图见图3，神经网络新增第二卷积层(5×5，步长1)5、第三卷积层(3×3，步长2)6。采用残差网络块ResNet1循环2次、ResNet2循环5次进行特征提取。正、负向离焦图像的结构相同，但训练参数不同，最终共同实现单值的准焦距离作为整体级联网络的输出。右上角数字代表对应网络块迭代次数。
(4)所述预测准焦距离为网络最终的输出，即离焦图像对应的预测准焦距离。
在测试阶段中，所述输入离焦图像以传统全切片数字成像系统采样下的全视场图像，将其均匀采样若干子区域，仍然提取正向、负向离焦图像和清晰图像共计41张；离焦图像通过准焦分类网络进行正负分类，再进行单向重聚焦网络的预测，最终得到测试集下的预测准焦距离。
本实施例中的一种基于非对称像差的全切片数字成像高精度自动聚焦法，包括由输入离焦图像、准焦分类网络、重聚焦网络和预测准焦距离4部分组成的深度学习网络算法。在训练过程中，所述输入离焦图像采用子图像扫描下的轴向移动获得，每个子图像位置获得正负各20张图像和一张清晰图像，共计41张；所述准焦分类网络提取分类特征，将正向、负向离焦图像分别标记1、0；所述重聚焦网络分为正向重聚焦网络和负向重聚焦网络，两者网络结构不变，参数根据正、负向离焦图像分别单独训练；所述预测准焦距离为网络最终的输出，即离焦图像对应的预测准焦距离。在测试阶段中，所述输入离焦图像以传统全切片数字成像系统采样下的全视场图像，将其均匀采样若干子区域，仍然提取正向、负向离焦图像和清晰图像共计41张；离焦图像通过准焦分类网络进行正负分类，再进行单向重聚焦网络的预测，最终得到测试集下的预测准焦距离。
Claims (2)
1.一种基于非对称像差的全切片数字成像高精度自动聚焦法，其特征在于，包括以下步骤：
步骤a、输入离焦图像；
步骤b、准焦分类网络；
训练准焦分类网络，识别离焦图像正向或者负向的离焦偏离特征，通过分类网络将正向、负向的离焦图像分别输出，将正向、负向离焦图像分别标记1、0；
步骤c、重聚焦网络；
重聚焦网络分为正向重聚焦网络和负向重聚焦网络，两者网络结构不变，参数根据正、负向离焦图像分别单独训练；采用重聚焦网络，通过对正向、负向的离焦图像进行分离的准焦距离预测；
步骤d、预测准焦距离，
所述预测准焦距离为网络最终的输出，即离焦图像对应的预测准焦距离；
采用神经网络的方法，利用像差离焦下的非对称性，实现全切片数字成像高精度自动聚焦功能。
2.根据权利要求1所述的一种基于非对称像差的全切片数字成像高精度自动聚焦法，其特征在于，所述输入离焦图像来自于不同子图像横向位置下的轴向扫描移动获得的z-stack图像堆栈，每个子图像位置获得正、负各20张离焦图像和一张准焦图像，共计41张。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010934404.3A CN112069735B (zh) | 2020-09-08 | 2020-09-08 | 一种基于非对称像差的全切片数字成像高精度自动聚焦法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010934404.3A CN112069735B (zh) | 2020-09-08 | 2020-09-08 | 一种基于非对称像差的全切片数字成像高精度自动聚焦法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112069735A CN112069735A (zh) | 2020-12-11 |
| CN112069735B true CN112069735B (zh) | 2022-08-12 |
Family
ID=73664340
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010934404.3A Active CN112069735B (zh) | 2020-09-08 | 2020-09-08 | 一种基于非对称像差的全切片数字成像高精度自动聚焦法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112069735B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117372274A (zh) * | 2023-10-31 | 2024-01-09 | 珠海横琴圣澳云智科技有限公司 | 扫描图像重聚焦方法、装置、电子设备和存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3300001A2 (en) * | 2016-09-27 | 2018-03-28 | Sectra AB | Viewers and related methods, systems and circuits with patch gallery user interfaces for medical microscopy |
| CN109873948A (zh) * | 2019-01-30 | 2019-06-11 | 中国地质大学（武汉） | 一种光学显微镜智能自动聚焦方法、设备及存储设备 |
| CN111429562A (zh) * | 2020-02-25 | 2020-07-17 | 中国科学院西安光学精密机械研究所 | 基于深度学习的宽场彩色光切片显微成像方法 |
| CN111462075A (zh) * | 2020-03-31 | 2020-07-28 | 湖南国科智瞳科技有限公司 | 一种全切片数字病理图像模糊区域的快速重聚焦方法及系统 |
-
2020
- 2020-09-08 CN CN202010934404.3A patent/CN112069735B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP3300001A2 (en) * | 2016-09-27 | 2018-03-28 | Sectra AB | Viewers and related methods, systems and circuits with patch gallery user interfaces for medical microscopy |
| CN109873948A (zh) * | 2019-01-30 | 2019-06-11 | 中国地质大学（武汉） | 一种光学显微镜智能自动聚焦方法、设备及存储设备 |
| CN111429562A (zh) * | 2020-02-25 | 2020-07-17 | 中国科学院西安光学精密机械研究所 | 基于深度学习的宽场彩色光切片显微成像方法 |
| CN111462075A (zh) * | 2020-03-31 | 2020-07-28 | 湖南国科智瞳科技有限公司 | 一种全切片数字病理图像模糊区域的快速重聚焦方法及系统 |
Non-Patent Citations (3)
| Title |
|---|
| Rapid whole slide imaging via learning-based two-shot virtual autofocusing;Qiang Li 等;《JOURNAL OF LATEX CLASS FILES》;20150831;第14卷(第8期);1-11 * |
| Transform- and multi-domain deep learning for single-frame rapid autofocusing in whole slide imaging;Shaowei Jiang 等;《Biomedical Optics Express 》;20181230;第9卷(第4期);1601-1612 * |
| 基于卷积神经网络的病理显微镜自动对焦与全局精准成像研究;葛云皓;《中国优秀博硕士学位论文全文数据库(硕士) 工程科技Ⅱ辑》;20200615(第6期);C030-66 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112069735A (zh) | 2020-12-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9297995B2 (en) | Automatic stereological analysis of biological tissue including section thickness determination | |
| CN111007661B (zh) | 一种基于深度学习的显微图像自动聚焦方法及装置 | |
| US20230127698A1 (en) | Automated stereology for determining tissue characteristics | |
| US10705326B2 (en) | Autofocus system for a computational microscope | |
| CN109085695B (zh) | 一种用于平面样本快速对焦拍照的方法 | |
| CN110647875B (zh) | 一种血细胞分割、识别模型构造的方法及血细胞识别方法 | |
| CN109559275B (zh) | 一种尿液分析仪显微镜图像拼接方法 | |
| CN111462076B (zh) | 一种全切片数字病理图像模糊区域检测方法及系统 | |
| CN110531484B (zh) | 一种对焦过程模型可设定的显微镜自动对焦方法 | |
| CN111462075B (zh) | 一种全切片数字病理图像模糊区域的快速重聚焦方法及系统 | |
| KR20140045331A (ko) | 현미경 이미징에서의 빠른 오토-포커스 | |
| CN111429562B (zh) | 基于深度学习的宽场彩色光切片显微成像方法 | |
| TWI811758B (zh) | 用於自動對焦顯微鏡系統之深度學習模組、自動對焦一顯微鏡系統之方法及非暫時性電腦可讀媒體 | |
| CN112464802B (zh) | 一种玻片样本信息的自动识别方法、装置和计算机设备 | |
| CN113705298A (zh) | 图像采集方法、装置、计算机设备及存储介质 | |
| CN111161272A (zh) | 一种基于生成对抗网络的胚胎组织分割方法 | |
| He et al. | Microscope images automatic focus algorithm based on eight-neighborhood operator and least square planar fitting | |
| CN112069735B (zh) | 一种基于非对称像差的全切片数字成像高精度自动聚焦法 | |
| CN109272575B (zh) | 一种提高数字切片扫描仪建模速度的方法 | |
| Rai Dastidar | Automated focus distance estimation for digital microscopy using deep convolutional neural networks | |
| CN112070661A (zh) | 一种基于深度学习的全切片数字成像快速自动聚焦方法 | |
| CN112070660B (zh) | 一种基于迁移学习的全切片数字成像自适应自动聚焦方法 | |
| CN112053304A (zh) | 一种全切片数字成像单次拍照快速准焦复原方法 | |
| CN112070887A (zh) | 一种基于深度学习的全切片数字成像景深扩展法 | |
| CN112037153A (zh) | 一种基于准焦距离先验的全切片数字成像准焦复原方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |