CN110838094A - 病理切片染色风格转换方法和电子设备 - Google Patents
病理切片染色风格转换方法和电子设备 Download PDFInfo
- Publication number
- CN110838094A CN110838094A CN201911075420.5A CN201911075420A CN110838094A CN 110838094 A CN110838094 A CN 110838094A CN 201911075420 A CN201911075420 A CN 201911075420A CN 110838094 A CN110838094 A CN 110838094A
- Authority
- CN
- China
- Prior art keywords
- image
- region
- quality evaluation
- pathological section
- interest
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000001575 pathological effect Effects 0.000 title claims abstract description 67
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000010186 staining Methods 0.000 title claims abstract description 44
- 238000006243 chemical reaction Methods 0.000 title claims abstract description 33
- 238000013441 quality evaluation Methods 0.000 claims abstract description 46
- 230000000694 effects Effects 0.000 claims abstract description 45
- 238000004043 dyeing Methods 0.000 claims abstract description 37
- 125000004122 cyclic group Chemical group 0.000 claims abstract description 5
- 238000013528 artificial neural network Methods 0.000 claims description 17
- 230000006870 function Effects 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 11
- 238000000605 extraction Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 10
- 230000007704 transition Effects 0.000 claims description 10
- 230000004913 activation Effects 0.000 claims description 8
- 230000004927 fusion Effects 0.000 claims description 8
- 238000013135 deep learning Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000012549 training Methods 0.000 claims description 3
- 238000000513 principal component analysis Methods 0.000 claims description 2
- 230000007170 pathology Effects 0.000 abstract description 10
- 210000004027 cell Anatomy 0.000 description 11
- 238000011176 pooling Methods 0.000 description 10
- 238000003860 storage Methods 0.000 description 10
- 238000003384 imaging method Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000013527 convolutional neural network Methods 0.000 description 7
- 230000009467 reduction Effects 0.000 description 7
- 238000003745 diagnosis Methods 0.000 description 6
- 239000000126 substance Substances 0.000 description 6
- 238000001514 detection method Methods 0.000 description 5
- 230000008439 repair process Effects 0.000 description 5
- WZUVPPKBWHMQCE-UHFFFAOYSA-N Haematoxylin Chemical compound C12=CC(O)=C(O)C=C2CC2(O)C1C1=CC=C(O)C(O)=C1OC2 WZUVPPKBWHMQCE-UHFFFAOYSA-N 0.000 description 4
- 206010028980 Neoplasm Diseases 0.000 description 4
- 239000003795 chemical substances by application Substances 0.000 description 4
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000007490 hematoxylin and eosin (H&E) staining Methods 0.000 description 4
- 230000003902 lesion Effects 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 238000011532 immunohistochemical staining Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000004195 computer-aided diagnosis Methods 0.000 description 2
- 210000000805 cytoplasm Anatomy 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 238000003748 differential diagnosis Methods 0.000 description 2
- 239000000975 dye Substances 0.000 description 2
- YQGOJNYOYNNSMM-UHFFFAOYSA-N eosin Chemical compound [Na+].OC(=O)C1=CC=CC=C1C1=C2C=C(Br)C(=O)C(Br)=C2OC2=C(Br)C(O)=C(Br)C=C21 YQGOJNYOYNNSMM-UHFFFAOYSA-N 0.000 description 2
- 238000003364 immunohistochemistry Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000010827 pathological analysis Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 210000001519 tissue Anatomy 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 108010077544 Chromatin Proteins 0.000 description 1
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 1
- 102000010834 Extracellular Matrix Proteins Human genes 0.000 description 1
- 108010037362 Extracellular Matrix Proteins Proteins 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 239000000980 acid dye Substances 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 210000003855 cell nucleus Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 210000003483 chromatin Anatomy 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 230000006378 damage Effects 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 210000002744 extracellular matrix Anatomy 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000012757 fluorescence staining Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 150000007523 nucleic acids Chemical class 0.000 description 1
- 102000039446 nucleic acids Human genes 0.000 description 1
- 108020004707 nucleic acids Proteins 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000012188 paraffin wax Substances 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 238000005067 remediation Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000007447 staining method Methods 0.000 description 1
- 239000012192 staining solution Substances 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Investigating Or Analysing Biological Materials (AREA)
- Image Processing (AREA)
Abstract
本发明涉及一种病理切片染色风格转换方法,包括:接收待处理的经过染色的病理切片的数字切片全场图;获取所述数字切片全场图上的感兴趣区域;对所述感兴趣区域进行质量评价,并修复质量评价不合格的区域,获得质量评价合格的感兴趣区域;接收期望的染色效果图像;根据所述期望的染色效果图像选择对应的循环对抗生成网络,将所述感兴趣区域转换成与期望的染色效果图像相似的图像效果。本申请首先对数字化后的染色病理切片进行图像修复,将染色劣质、图像质量评价不合格的免病理切片图像修复至标准数字切片全场图,进而进行智能转换,将病理切片转换为期望的染色效果图像。
Description
技术领域
本发明涉及病理图像处理领域,特别是涉及一种病理切片染色风格转换方法和电子设备。
背景技术
病理检查一直被誉为疾病诊断的“金标准”,随着全切片图像的采集、处理和分析方面技术的发展,数字病理图像在过去的十年内逐渐的应用到科研及临床中。目前病理学研究与临床应用的标准是通过观察基于对病理组织切片采用化学染色剂标记后得到的荧光染色图像,进而做出相应的分析和判断。但传统的病理诊断面临着主观性强、易出错、重复性低,半定量、没有精确的统计输出,缺少经验丰富的病理学家、肿瘤学家等缺陷。计算机辅助诊断技术的出现可有效解决其中一些现象,并且显著提高了医生的工作效率,但是在病理切片智能诊断应用中依然存在诸多问题。例如病理切片通过化学染色剂标记所成像的数字化病理切片质量层次不齐,成像质量差的数字病理图像对于医生或者计算机均是一种挑战,尤其是成像质量较差的病灶区域,二者对其的判别难度显著提升;同时同一病理切片通过不同的化学染色剂标记后虽然结构相同,但是成像方式不同,医生对于病理特征观察的难易程度也不相同,而计算机与医生相同,对于染色成像方式不同的同一病理切片,所呈现的智能诊断结果也截然不同。
发明内容
为了解决上述技术问题,提出了本申请。本申请的实施例提供了一种病理切片染色风格转换方法和电子设备,首先对数字化后的染色病理切片进行图像修复,将染色劣质、图像质量评价不合格的免病理切片图像修复至标准数字切片全场图,进而进行智能转换,将病理切片转换为期望的染色效果图像。
根据本申请的一个方面,提供了一种病理切片染色风格转换方法,包括:接收待处理的经过染色的病理切片的数字切片全场图;获取所述数字切片全场图上的感兴趣区域;对所述感兴趣区域进行质量评价,并修复质量评价不合格的区域,获得质量评价合格的感兴趣区域;接收期望的染色效果图像;根据所述期望的染色效果图像选择对应的循环对抗生成网络,将所述感兴趣区域转换成与期望的染色效果图像相似的图像效果。
根据本申请的又一方面,提供了一种电子设备,包括处理器;以及存储器,在所述存储器中存储有计算机程序指令,所述计算机程序指令在被所述处理器运行时使得所述处理器执行所述的病理切片染色风格转换方法。
根据本申请的又一方面,提供了一种计算机可读介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行所述的病理切片染色风格转换方法。
与现有技术相比,采用本申请实施例的一种病理切片染色风格转换方法和电子设备,可以接收待处理的经过染色的病理切片的数字切片全场图;获取所述数字切片全场图上的感兴趣区域;对所述感兴趣区域进行质量评价,并修复质量评价不合格的区域,获得质量评价合格的感兴趣区域;接收期望的染色效果图像;根据所述期望的染色效果图像选择对应的循环对抗生成网络,将所述感兴趣区域转换成与期望的染色效果图像相似的图像效果。这样可以解决现有技术存在的病理切片由于染色效果优劣不一导致的数字化病理图像成像质量层次不齐问题,同时降低病理医生及计算机辅助诊断对于劣质化学染色剂标记后的病理图像进行诊断时的判别难度。
附图说明
通过结合附图对本申请实施例进行更详细的描述,本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解,并且构成说明书的一部分,与本申请实施例一起用于解释本申请,并不构成对本申请的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是一种经过HE染色的病理切片图;
图2是一种经过D240免疫组化染色的病理切片图;
图3是病理切片染色风格转换方法流程图(1);
图4是病理切片染色风格转换方法流程图(2);
图5是图像质量修复采用的生成对抗网络生成器结构示意图;
图6是图像质量修复采用的生成对抗网络判别器结构示意图;
图7是小样本深度神经网络的具体实现过程示意图;
图8是图像风格转换采用的生成对抗网络判别器的具体实现过程示意图;
图9是本申请实施例的电子设备框图。
具体实施方式
下面,将参考附图详细描述本申请的示例实施例。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是本申请的全部实施例,应理解,本申请不受这里描述的示例实施例的限制。
申请概述
同一病理切片通过不同的化学染色剂标记后虽然结构相同,但是由于成像方式不同,染色效果相差较大,医生在观察不同染色效果的病理图像时,对于病理特征观察的难易程度也不相同,而计算机与医生相同,对于染色成像方式不同的同一病理切片,所呈现的智能诊断结果也截然不同。例如,图1和图2所示,苏木精-伊红染色法(hematoxylin-eosinstaining) ,简称HE染色法,是组织学、胚胎学、病理学教学与科研中最基本、使用最广泛的技术方法,石蜡切片技术里常用的染色法之一 。苏木精染液为碱性,主要使细胞核内的染色质与胞质内的核酸着紫蓝色;伊红为酸性染料,主要使细胞质和细胞外基质中的成分着红色。HE染色价格便宜,应用广泛。但是对比图1和图2,明显可以看出,采用D240免疫组化染色技术的病理图像相对于经过HE染色的病理图像,癌栓等病灶区域细节的辨认更加容易。在常规肿瘤病理诊断中,5%-10%的病例单靠H.E.染色难以作出明确的形态学诊断。免疫组化在肿瘤诊断和鉴别诊断中的实用价值受到了普遍的认可,其在低分化或未分化肿瘤的鉴别诊断时,准确率可达50%-75%。但是考虑到免疫组化染色技术进行染色的成本较高,应用范围受限。因此研究出一种既能够满足临床研究对于染色切片的高质量需求,又能降低实际成本的成像方法就成了亟待解决的问题。
针对上述技术问题,本申请的构思是提出一种能够对病理切片的染色风格进行智能转换的方法,操作者可根据临床观察的需要,将一种染色方式转化为其他色彩对比更加明显、更加易于区分病变区域的染色方式,例如将经苏木精和伊红(H&E)染色的病理切片智能转换为某种免疫组化染色效果的病理切片。由于染色过程由染色技术人员手工完成,不同染色技术人员对于染色化学药物剂量把控不一,易造成染色切片成像优劣不一,计算机在实现智能转换时,容易产生识别误差,使得转化后的染色效果不佳,因此在进行智能转换之前,需要对原染色切片上质量评价不合格的区域进行质量修复,使得风格转换之后的病理切片能够准确反映原切片上的内容。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
示例性方法
如图3和图4所示,一种病理切片染色风格转换方法,包括步骤100、步骤200、步骤300、步骤400和步骤S500。
在步骤S100中,接收待处理的经过染色的病理切片的数字切片全场图;
本实施例中,可选择一种经过HE染色的病理切片作为待处理病理切片。
在步骤S200中,获取所述数字切片全场图上的感兴趣区域;
处理器对已数字化的HE染色病理切片全场图(kfb、mrsx等格式)进行读取,通过空间金字塔方式存储切片level 0至10的图像像素值,并在显示器进行显示,操作者可通过鼠标等设备在显示器上自由进行图像缩放显示,根据想要观察的切片位置在数字切片全场图上勾画出感兴趣区域,可以是整个数字切片全场图的一个局部,也可以是整个数字切片全场图。
在步骤S300中,对所述感兴趣区域进行质量评价,并修复质量评价不合格的区域,获得质量评价合格的感兴趣区域。之所以要对感兴趣区域进行质量评价及修复,是因为原始染色切片在制片时由于多种因素影响,容易造成切片染色质量参差不齐,高通量扫描仪采集到的数字切片全场图的白平衡、色相,明度和彩度不一致,而这些影响因子会对之后的细胞检测造成一定的影响,导致检测不准确等后果,因此非常有必要通过质量修复环节来确保后面细胞检测的准确性尽可能不会受此影响。
质量评价和修复过程具体包括:
S21,在所述感兴趣区域上截取9张连续且大小相同的图像块;
将选定的感兴趣区域映射至40X放大倍率(足以区分细胞轮廓与细胞类别)下,在感兴趣区域上,按照上左、上、上右、中左、中、中右、下左、下、下右依次进行图像块的截取,获得9个大小相同的图像块,若不按时间、空间对感兴趣区域进行依次采集,会造成数字病理全场图上细胞组织区域完整性被破坏。在感兴趣区域进行图像块的截取之前,首先判断感兴趣区域的长度和宽度是否与预设值相匹配,如果感兴趣区域的长度和宽度与预设值不相匹配,则改变感兴趣区域的长度和宽度,例如对感兴趣区域的长度和宽度进行填充,然后按照八连通的方式进行图像块的截取,获得9个连续的图像块,图像块的大小与用于细胞检测的人工神经网络模型的输入图片的大小相一致,由于接收到的数字切片全场图能够清楚分别细胞轮廓与细胞类别,操作者在进行感兴趣区域划分时,可以主动避免将一个细胞切割为两部分,也就是说感兴趣区域划分时可以避免对区域边界上细胞的完整性的破坏。按照八连通的方式依次按照时间顺序、空间顺序所采集的图像块具有时序信息,结合人工神经网络中的循环神经网络,在网络训练拟合的过程中添加时序信息,可以保证最终细胞检测、分类、分割的准确性。之所以要按照八连通的方式获取到9个图像块9个,是鉴于实践过程中,若是处理大于9个的图像块例如采用16宫格的划分方式得到16个连续的图像块,会导致CPU的处理速度受限,处理小于9个的图像块例如采用4宫格的划分方式得到4个连续的图像,图像块之间的时序性又要差一些,9个连续的图像块既能兼顾CPU的处理速度又能兼顾图像的时序性,为最佳的划分方式。
S22,对所述每个图像块进行质量评价,判断所述图像块的质量评价是否合格;对质量评价不合格的的图像块进行图像修复,得到修复后的质量评价合格的感兴趣区域。
在进行图像块质量评价前,首先获取一个采用相同染色方式的染色标准的病理切片的数字切片全场图作为标准数字切片全场图,对标准数字切片全场图进行峰值信噪比统计,设定m1为标准数字切片全场图峰值信噪比最低值,m2为标准数字切片全场图峰值信噪比最高值,则将[m1,m2]作为标准数字切片全场图的标准峰值信噪比范围,根据多次实验表明,m1标准值为47.6分贝,误差范围为5.04,m2标准值为78.4分贝,误差范围为6.12。对所述图像块进行质量评价,包括:计算每个图像块的峰值信噪比m,判定峰值信噪比m是否在标准峰值信噪比范围[m1,m2]内,若是,则所述图像块质量评价合格;否则,所述图像块质量评价不合格。
在对质量评价不合格的图像块进行修复时,首先通过生成对抗网络对质量评价不合格的的图像块进行图像修复,再通过所述对抗生成网络中的判别器进行质量判断,若经过修复的图像块的峰值信噪比m不在标准峰值信噪比范围[m1,m2]内,再进行迭代修复,直到图像块的峰值信噪比m达到标准峰值信噪比范围[m1,m2]为止。对所有质量评价不合格图像块修复完成,也即对感兴趣区域的图像修复完成,获得了修复后的质量评价合格的感兴趣区域。
其中所述生成对抗网络的生成器,如图5所示,是一种U型全卷积神经网络(U-Net),是由一系列卷积层、池化层、上采样层及跳跃连接层组成,通过使用激活函数(Softmax)生成图像归一化层,最后将图像归一化层转化为标准的RGB图,即最后经过修复的图。其中卷积层主要用于提取图像的局部特征,池化层对提取的特征图进行降维压缩后,再将降维后的特征图传入下一个卷积层进行特征提取,经过一系列的卷积和池化操作后,将提炼特征图平铺为一个数组作为上采样层的输入,上采样层使通过对所得到的高层特征图的每个特征点进行线性插值,得到尺寸为原特征图2倍的新特征图,跳跃连接层是将相同层次的编码层与解码层进行特征沿通道叠加,并将叠加后的特征图进行降维压缩后再上采样,不断的上采样至原图大小,采用图像数据分布函数Inception Score为损失函数,Adam为优化方法,训练直到损失函数不再明显变化为止。卷积神经网络输入的图像是染色不标准的进行归一化后的patch图像10000张,patch图像的大小与所述图像块的大小一致,输出图像尺寸大小与输入保持一致。损失函数计算过程是取染色标准的进行归一化后的patch图像10000张,分别与每次网络输出的图像进行图像数据分布函数Inception Score计算,得到损失函数值,从而计算梯度并更新。
其中所述生成对抗网络中的判别器,如图6所示,也是一种卷积神经网络的结构,是由一系列卷积层、池化层和全连接层组成,最后通过使用激活函数(Softmax)对图像进行分类。卷积层主要用于提取图像的局部特征,池化层对提取的特征图进行降维压缩后,再将降维后的特征图传入下一个卷积层进行特征提取,经过一系列的卷积和池化操作后,将提炼特征图平铺为一个数组作为全连接层的输入,全连接层进一步提取特征,并对特征进行分类,从而对输入图像进行分类。最终分类的过程不单是进行生成图像的真伪判别,也计算生成图像的峰值信噪比与标准峰值信噪比范围之间的物理距离作为损失函数。卷积神经网络是将已修复的图像块作为输入,经过卷积神经网络获得已修复的染图像块经过编码后的特征图的峰值信噪比,与标准峰值信噪比范围进行比较,进而确定修复是否完成。所有质量评价不合格的的图像块均修复完成后即获得了修复后的质量评价合格的的感兴趣区域。
在步骤S400中,接收期望的染色效果图像;
在计算机显示器端,可设置期望染色效果列表,操作者根据需要选择对应的染色效果图作为期望的染色效果图像,每种颜色效果图像均对应一种循环对抗生成网络。
在步骤S500中,根据所述期望的染色效果图像选择对应的循环对抗生成网络,将所述感兴趣区域转换成与期望的染色效果图像相似的图像效果。
具体而言,循环对抗生成网络,使用小样本深度神经网络作为生成器,残差网络作为判别器。
小样本深度神经网络将所述感兴趣区域和期望的染色效果图像作为输入,以感兴趣区域包括5个编码层为例,如图7所示,小样本深度神经网络的具体实现过程包括:
接收所述质量评价合格的感兴趣区域,感兴趣区域包括编码层1、编码层2、......、编码层5;
对所述编码层2、......、编码层5进行特征提取,对应输出中间过渡层1、......、中间过渡层4;
将所述中间过渡层1、......、中间过渡层4进行叠加后进行特征提取,生成第一特征融合层;
所述第一特征融合层与编码层1进行叠加后进行特征提取,使用激活函数生成第二特征融合层;
分别对所述中间过渡层2、......、中间过渡层4进行特征提取,使用激活函数生成对应约束层1、......、约束层3;
将所述第二特征融合层、约束层1、......以及约束层3与所述期望的染色效果图像进行对比,进行损失计算,然后通过循环一致性损失对生成结果进行约束,得到期望的类染色效果图像。
残差网络将所述生成的类染色效果图像与期望的染色效果图像作为输入,如图8所示,通过残差块进行特征提取,判断所述类染色效果图像的图像真伪和图像质量,将图像质量判别结果作为一种损失回传给生成器,作为对所述生成器的一种约束。
具体地,生成对抗网络的生成器,小样本深度神经网络,是由一系列卷积层、池化层、上采样层以及跳跃连接层组成,采用深监督操作方法,通过使用激活函数(Softmax)生成图像归一化层,最后将图像归一化层转化为标准的RGB图,即最后经过染色风格智能转换的图。
小样本深度神经网络,训练过程包括:接收一种染色效果图像的小样本图像;对所述小样本图像进行数据增强,扩充为新的样本集;对所述样本集中的样本图像进行主成分分析标准化处理;将经过标准化处理的样本图像输入深度学习网络,深度学习网络输出语义类别结果;所述深度学习网络采用深监督方法计算损失,对网络参数进行更新,直到损失函数的输出达到预设值,即得到小样本深度神经网络。深监督操作方法的核心思想为靠近输入的(浅的)多个尺度上的特征层就进行预测结果输出,将多个预测结果与标签进行比较得到多个损失,总的损失值等于多个损失值的平均。通过此方式,若浅层的语义性较差,则损失也一定程度的增大,可监督与指导浅层的卷积核也能一定程度的提取有意义的语义特征。通过此方式,可监督与指导浅层的卷积核,也能一定程度的提取有意义的语义特征。
具体地,生成对抗网络中的判别器,也是一种卷积神经网络的结构,是由一系列卷积层、池化层和全连接层组成,最后通过使用激活函数(Softmax)对图像进行分类。卷积层主要用于提取图像的局部特征,池化层对提取的特征图进行降维压缩后,再将降维后的特征图传入下一个卷积层进行特征提取,经过一系列的卷积和池化操作后,将提炼特征图平铺为一个数组作为全连接层的输入,全连接层进一步提取特征,并对特征进行分类,从而对输入图像进行真伪分类。卷积神经网络是将已进行风格转换的图像块作为输入,经过卷积神经网络获得已进行风格转换的图像块经过编码后的特征图,对特征图进行全连接层进行回归,得到真伪分类结果。
为了保证图像块之间的时序性,用于图像染色风格智能转换的深度神经网络结合了循环神经网络具有的时序性特点,设置输入图像数量为9,并为八连通patch图像设计9个级联的长短期记忆单元(LSTM),所谓的长短期记忆单元是在结合上一输出结果与当前输出结果的情况下,权衡最终的输出。这样做的目的是为了保证数字切片全场图的图像块之间具有上下文时序信息。
最终根据输出的风格转换结果,处理器将patch图像按照时序性进行拼接后返回给显示器,显示器显示感兴趣区域经质量修复及风格智能转换后的结果。
在进行实际使用时,经过处理器对接收到的数字病理全场图进行预处理,将其显示在显示器端的第一显示界面(或第一显示区域),操作者在第一显示界面内选取感兴趣区域,处理器对选取的感兴趣区域进行质量修复、染色风格智能转换后,将经过处理的感兴趣区域图像显示在第二显示界面(或第二显示区域)。如果操作者想要查看别的感兴趣区域,可以在第一显示界面(或第一显示区域)重新进行选择,选中的感兴趣区域经过处理器处理后显示在第二显示界面(或第二显示区域)。
示例性电子设备
下面,参考图9来描述本申请实施例的电子设备。该电子设备10可以是集成有输入装置13的电子设备10,或者是与所述输入装置独立的单机设备,该单机设备可以与所述输入装置进行通信,以从输入装置接收所采集到的输入信号。这里的输入装置13可以是高通量扫描仪,将待处理的病理切片扫描为数字病理全场图即输入信号,再将数字病理全场图传输至处理器11和/或存储器12,病理图像的数字病理全场图也可以是预先存储在处理器11中可直接调用的。该电子设备10可以是集成有输出装置14的电子设备10,或者是与所述输出装置独立的单机设备,该单机设备可以与所述输出装置进行通信,以将处理器11处理的图像输出在输出装置14上。输出装置14可以是显示器,用于显示或呈现病理图像。
如图9所示,电子设备10包括一个或多个处理器11和存储器12。
处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器11可以运行所述程序指令,以实现上文所述的本申请的实施例的图像修复和染色风格智能转换功能。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本申请的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述 “示例性方法”部分中描述的根据本申请各种实施例的病理切片染色风格转换方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本申请的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的病理切片染色风格转换方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (9)
1.一种病理切片染色风格转换方法,其特征在于,包括:接收待处理的经过染色的病理切片的数字切片全场图;获取所述数字切片全场图上的感兴趣区域;对所述感兴趣区域进行质量评价,并修复质量评价不合格的区域,获得质量评价合格的感兴趣区域;接收期望的染色效果图像;
根据所述期望的染色效果图像选择对应的循环对抗生成网络,将所述感兴趣区域转换成与期望的染色效果图像相似的图像效果。
2.根据权利要求1所述的一种病理切片染色风格转换方法,其特征在于,所述循环对抗生成网络,使用小样本深度神经网络作为生成器,残差网络作为判别器;所述小样本深度神经网络将所述感兴趣区域和期望的染色效果图像作为输入,通过循环一致性损失对生成结果进行约束,得到期望的类染色效果图像;所述残差网络将所述生成的类染色效果图像与期望的染色效果图像作为输入,通过残差块进行特征提取,判断所述类染色效果图像的图像真伪和图像质量,将图像质量及真伪判别结果作为一种损失回传给生成器,作为对所述生成器的一种约束。
3.根据权利要求2所述的一种病理切片染色风格转换方法,其特征在于,所述生成器处理过程包括:接收所述质量评价合格的感兴趣区域,感兴趣区域包括编码层1、编码层2、......、编码层n;对所述编码层2、......、编码层n进行特征提取,对应输出中间过渡层1、......、中间过渡层n-1;将所述中间过渡层1、......、中间过渡层n-1进行叠加后进行特征提取,生成第一特征融合层;所述第一特征融合层与编码层1进行叠加后进行特征提取,使用激活函数生成第二特征融合层;分别对所述中间过渡层2、......、中间过渡层n-1进行特征提取,使用激活函数生成对应约束层1、......、约束层n-2;将所述第二特征融合层、约束层1、......以及约束层n-2与所述期望的染色效果图像进行对比,进行损失计算。
4.根据权利要求2所述的一种病理切片染色风格转换方法,其特征在于,所述小样本深度神经网络,训练过程包括:接收一种染色效果图像的小样本图像;对所述小样本图像进行数据增强,扩充为新的样本集;对所述样本集中的样本图像进行主成分分析标准化处理;将经过标准化处理的样本图像输入深度学习网络,深度学习网络输出语义类别结果;所述深度学习网络采用深监督方法计算损失,对网络参数进行更新,直到损失函数的输出达到预设值,即得到小样本深度神经网络。
5.根据权利要求1所述的一种病理切片染色风格转换方法,其特征在于,所述对所述感兴趣区域进行质量评价,并修复质量评价不合格的区域,获得质量评价合格的感兴趣区域,包括在所述感兴趣区域上截取若干张连续且大小相同的图像块;对所述每个图像块进行质量评价,判断所述图像块的质量评价是否合格;对质量评价不合格的的图像块进行图像修复,得到修复后的质量评价合格的的感兴趣区域。
6.根据权利要5所述的一种病理切片染色风格转换方法,其特征在于,对所述图像块进行质量评价,包括:计算所述图像块的峰值信噪比m,判定所述峰值信噪比m是否在标准峰值信噪比范围[m1,m2]内,若是,则所述图像块质量评价合格;否则,所述图像块质量评价不合格;所述标准峰值信噪比范围[m1,m2]为染色标准的病理切片的峰值信噪比范围,其中m1为标准染色病理切片图像的峰值信噪比最低值,m2为标准染色病理切片图像的峰值信噪比最高值。
7.根据权利要求5所述的一种病理切片染色风格转换方法,其特征在于,对质量评价不合格的的图像块进行图像修复,包括:采用生成对抗网络中的生成器对质量评价不合格的的图像块进行图像修复,再通过所述对抗生成网络中的判别器进行质量判断,若经过修复的图像块的峰值信噪比m不在标准峰值信噪比范围[m1,m2]内,再进行迭代修复,直到图像块的峰值信噪比m达到标准峰值信噪比范围[m1,m2]为止。
8.一种电子设备,包括处理器;以及存储器,在所述存储器中存储有计算机程序指令,所述计算机程序指令在被所述处理器运行时使得所述处理器执行如权利要求1-7中任一项所述的病理切片染色风格转的方法方法。
9.一种计算机可读介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行如权利要求1-7中任一项所述的病理切片染色风格转换方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911075420.5A CN110838094B (zh) | 2019-11-06 | 2019-11-06 | 病理切片染色风格转换方法和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911075420.5A CN110838094B (zh) | 2019-11-06 | 2019-11-06 | 病理切片染色风格转换方法和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110838094A true CN110838094A (zh) | 2020-02-25 |
CN110838094B CN110838094B (zh) | 2023-07-04 |
Family
ID=69574731
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911075420.5A Active CN110838094B (zh) | 2019-11-06 | 2019-11-06 | 病理切片染色风格转换方法和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110838094B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114596298A (zh) * | 2022-03-16 | 2022-06-07 | 华东师范大学 | 基于高光谱成像的精标注数字病理数据集自动生成方法 |
CN114627010A (zh) * | 2022-03-04 | 2022-06-14 | 透彻影像(北京)科技有限公司 | 一种基于染色密度图的染色空间迁移方法 |
CN115063360A (zh) * | 2022-06-09 | 2022-09-16 | 成都华西精准医学产业技术研究院有限公司 | 基于虚拟染色的智能判读方法和系统 |
CN115954100A (zh) * | 2022-12-15 | 2023-04-11 | 东北林业大学 | 胃癌病理图像智能辅助诊断系统 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104408717A (zh) * | 2014-11-24 | 2015-03-11 | 北京航空航天大学 | 一种基于着色分离的病理图像颜色质量综合评价方法 |
CN108364262A (zh) * | 2018-01-11 | 2018-08-03 | 深圳大学 | 一种模糊图像的复原方法、装置、设备及存储介质 |
CN108805840A (zh) * | 2018-06-11 | 2018-11-13 | Oppo(重庆)智能科技有限公司 | 图像去噪的方法、装置、终端及计算机可读存储介质 |
CN109063694A (zh) * | 2018-09-12 | 2018-12-21 | 北京科技大学 | 一种视频目标检测识别方法 |
CN109061131A (zh) * | 2018-06-29 | 2018-12-21 | 志诺维思(北京)基因科技有限公司 | 染色图片处理方法及装置 |
CN109272492A (zh) * | 2018-08-24 | 2019-01-25 | 深思考人工智能机器人科技(北京)有限公司 | 一种细胞病理涂片的处理方法及系统 |
CN110009028A (zh) * | 2019-03-28 | 2019-07-12 | 北京科技大学 | 一种显微图像数据增强方法及装置 |
CN110246116A (zh) * | 2019-04-24 | 2019-09-17 | 创新工场(北京)企业管理股份有限公司 | 数字病理切片由he染色到ihc染色的计算机自动生成方法 |
-
2019
- 2019-11-06 CN CN201911075420.5A patent/CN110838094B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104408717A (zh) * | 2014-11-24 | 2015-03-11 | 北京航空航天大学 | 一种基于着色分离的病理图像颜色质量综合评价方法 |
CN108364262A (zh) * | 2018-01-11 | 2018-08-03 | 深圳大学 | 一种模糊图像的复原方法、装置、设备及存储介质 |
CN108805840A (zh) * | 2018-06-11 | 2018-11-13 | Oppo(重庆)智能科技有限公司 | 图像去噪的方法、装置、终端及计算机可读存储介质 |
CN109061131A (zh) * | 2018-06-29 | 2018-12-21 | 志诺维思(北京)基因科技有限公司 | 染色图片处理方法及装置 |
CN109272492A (zh) * | 2018-08-24 | 2019-01-25 | 深思考人工智能机器人科技(北京)有限公司 | 一种细胞病理涂片的处理方法及系统 |
CN109063694A (zh) * | 2018-09-12 | 2018-12-21 | 北京科技大学 | 一种视频目标检测识别方法 |
CN110009028A (zh) * | 2019-03-28 | 2019-07-12 | 北京科技大学 | 一种显微图像数据增强方法及装置 |
CN110246116A (zh) * | 2019-04-24 | 2019-09-17 | 创新工场(北京)企业管理股份有限公司 | 数字病理切片由he染色到ihc染色的计算机自动生成方法 |
Non-Patent Citations (3)
Title |
---|
李雪瑾: "基于生成对抗网络的数字图像修复技术", 《电子测量与仪器学报》 * |
王万良 等: "生成式对抗网络研究进展", 《通信学报》 * |
高媛: "基于深度残差生成对抗网络的医学影像超分辨率算法", 《计算机应用》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114627010A (zh) * | 2022-03-04 | 2022-06-14 | 透彻影像(北京)科技有限公司 | 一种基于染色密度图的染色空间迁移方法 |
CN114596298A (zh) * | 2022-03-16 | 2022-06-07 | 华东师范大学 | 基于高光谱成像的精标注数字病理数据集自动生成方法 |
CN114596298B (zh) * | 2022-03-16 | 2022-11-15 | 华东师范大学 | 基于高光谱成像的精标注数字病理数据集自动生成方法 |
US11763453B1 (en) | 2022-03-16 | 2023-09-19 | East China Normal University | Automatic generation method of fine-labeled digital pathological data set based on hyperspectral imaging |
CN115063360A (zh) * | 2022-06-09 | 2022-09-16 | 成都华西精准医学产业技术研究院有限公司 | 基于虚拟染色的智能判读方法和系统 |
CN115954100A (zh) * | 2022-12-15 | 2023-04-11 | 东北林业大学 | 胃癌病理图像智能辅助诊断系统 |
CN115954100B (zh) * | 2022-12-15 | 2023-11-03 | 东北林业大学 | 胃癌病理图像智能辅助诊断系统 |
Also Published As
Publication number | Publication date |
---|---|
CN110838094B (zh) | 2023-07-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111784671B (zh) | 基于多尺度深度学习的病理图像病灶区域检测方法 | |
Aswathy et al. | Detection of breast cancer on digital histopathology images: Present status and future possibilities | |
JP7198577B2 (ja) | 画像解析方法、装置、プログラムおよび学習済み深層学習アルゴリズムの製造方法 | |
CN110838094B (zh) | 病理切片染色风格转换方法和电子设备 | |
CN111462042B (zh) | 癌症预后分析方法及系统 | |
CN111524137B (zh) | 基于图像识别的细胞识别计数方法、装置和计算机设备 | |
JP2019195304A (ja) | 画像解析方法、装置、コンピュータプログラム、及び深層学習アルゴリズムの生成方法 | |
CN110853005A (zh) | 一种免疫组化膜染色切片诊断方法及装置 | |
CN115410050B (zh) | 基于机器视觉的肿瘤细胞检测设备及其方法 | |
CN110189293A (zh) | 细胞图像处理方法、装置、存储介质及计算机设备 | |
CN111161272B (zh) | 一种基于生成对抗网络的胚胎组织分割方法 | |
CN112215807A (zh) | 基于深度学习的细胞图像自动分类方法及系统 | |
Hoque et al. | Retinex model based stain normalization technique for whole slide image analysis | |
CN113129281B (zh) | 一种基于深度学习的小麦茎秆截面参数检测方法 | |
CN115909006B (zh) | 基于卷积Transformer的乳腺组织图像分类方法及系统 | |
CN113570619B (zh) | 基于人工智能的计算机辅助胰腺病理图像诊断系统 | |
CN114693719A (zh) | 基于3D-SE-Vnet的脊柱图像分割方法及系统 | |
CN111899259A (zh) | 一种基于卷积神经网络的前列腺癌组织微阵列分级方法 | |
JP6345332B1 (ja) | 分類装置、分類方法、プログラム、ならびに、情報記録媒体 | |
JP2006507579A (ja) | 核多形性の組織学的評価 | |
Kromp et al. | Deep Learning architectures for generalized immunofluorescence based nuclear image segmentation | |
CN111656393A (zh) | 组织学图像分析 | |
Salvi et al. | Generative models for color normalization in digital pathology and dermatology: Advancing the learning paradigm | |
Barrera et al. | Automatic normalized digital color staining in the recognition of abnormal blood cells using generative adversarial networks | |
CN110827963A (zh) | 针对病理图像的语义分割方法和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |