CN115564750A - 术中冰冻切片图像识别方法及装置、设备、存储介质 - Google Patents
术中冰冻切片图像识别方法及装置、设备、存储介质 Download PDFInfo
- Publication number
- CN115564750A CN115564750A CN202211298203.4A CN202211298203A CN115564750A CN 115564750 A CN115564750 A CN 115564750A CN 202211298203 A CN202211298203 A CN 202211298203A CN 115564750 A CN115564750 A CN 115564750A
- Authority
- CN
- China
- Prior art keywords
- image
- slice image
- user
- identification result
- identification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 34
- 238000003860 storage Methods 0.000 title claims abstract description 10
- 238000013473 artificial intelligence Methods 0.000 claims abstract description 20
- 238000001514 detection method Methods 0.000 claims description 62
- 230000011218 segmentation Effects 0.000 claims description 53
- 230000003902 lesion Effects 0.000 claims description 45
- 208000007433 Lymphatic Metastasis Diseases 0.000 claims description 38
- 238000002372 labelling Methods 0.000 claims description 12
- 238000012550 audit Methods 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 6
- 238000012552 review Methods 0.000 claims description 5
- 238000012937 correction Methods 0.000 claims description 2
- 238000012549 training Methods 0.000 description 25
- 230000008014 freezing Effects 0.000 description 15
- 238000007710 freezing Methods 0.000 description 15
- 206010027476 Metastases Diseases 0.000 description 13
- 230000009401 metastasis Effects 0.000 description 13
- 238000003745 diagnosis Methods 0.000 description 11
- 230000001575 pathological effect Effects 0.000 description 9
- 238000005070 sampling Methods 0.000 description 9
- 238000012546 transfer Methods 0.000 description 9
- 210000004027 cell Anatomy 0.000 description 8
- 210000001165 lymph node Anatomy 0.000 description 8
- 210000001519 tissue Anatomy 0.000 description 8
- 238000013528 artificial neural network Methods 0.000 description 7
- 238000013135 deep learning Methods 0.000 description 7
- 238000000605 extraction Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 206010028980 Neoplasm Diseases 0.000 description 5
- 239000000463 material Substances 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 239000012188 paraffin wax Substances 0.000 description 4
- 238000010827 pathological analysis Methods 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000008520 organization Effects 0.000 description 3
- 230000007170 pathology Effects 0.000 description 3
- 238000011176 pooling Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000001394 metastastic effect Effects 0.000 description 2
- 206010061289 metastatic neoplasm Diseases 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000001356 surgical procedure Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 210000004881 tumor cell Anatomy 0.000 description 2
- 208000003788 Neoplasm Micrometastasis Diseases 0.000 description 1
- 108010001267 Protein Subunits Proteins 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 210000003855 cell nucleus Anatomy 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000008094 contradictory effect Effects 0.000 description 1
- 238000002425 crystallisation Methods 0.000 description 1
- 230000008025 crystallization Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000003748 differential diagnosis Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 238000007526 fusion splicing Methods 0.000 description 1
- 238000007490 hematoxylin and eosin (H&E) staining Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000003364 immunohistochemistry Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000003834 intracellular effect Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 210000004880 lymph fluid Anatomy 0.000 description 1
- 210000001365 lymphatic vessel Anatomy 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000036285 pathological change Effects 0.000 description 1
- 231100000915 pathological change Toxicity 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 210000005005 sentinel lymph node Anatomy 0.000 description 1
- 238000010186 staining Methods 0.000 description 1
- 210000003934 vacuole Anatomy 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H15/00—ICT specially adapted for medical reports, e.g. generation or transmission thereof
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- Radiology & Medical Imaging (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Public Health (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Quality & Reliability (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Image Processing (AREA)
Abstract
本发明属于人工智能技术领域,公开了一种术中冰冻切片图像识别方法及装置、设备、存储介质,通过利用人工智能识别模型对术中冰冻的切片图像进行识别获得识别结果,该识别结果包括病变区域关于淋巴结转移的定性检测值和定量检测值,根据识别结果对切片图像中的病变区域进行标注,在用户操作界面上输出标注图像和识别结果以供用户审核,方便病理医生查阅及复核,根据用户提交的提交信息、标注图像和识别结果生成检测报告,可以实现自动对术中冰冻的切片图像进行淋巴结转移检测,使病理医生可专注于取材,在对标注图像和识别结果进行复核后生成检测报告,可以辅助病理医生快速进行诊断,提高术中冰冻切片图像识别的工作效率和精度。
Description
技术领域
本发明属于人工智能技术领域,具体涉及一种术中冰冻切片图像识别方法及装置、设备、存储介质。
背景技术
术中冰冻,全称为手术中快速冰冻病理诊断,是外科医生在实施手术过程中,对切下的病变组织进行冰冻切片后做病理检查,是帮助外科医生决定手术方案、手术范围的重要环节,也是病理医生工作中最重要又最困难的一部分。
冰冻切片是将手术中取下的新鲜组织标本包埋在特殊的包埋剂(通常为OCT胶)里,通过冰冻切片机先加以冷冻后进行切片的技术方法。相比传统的常规石蜡切片,具有耗时短的优势,从新鲜组织的获取到完成冰冻切片、HE染色通常只需要15~20分钟。病理医生再对冰冻切片进行快速阅片检查,明确淋巴结转移是否转移,完成术中冰冻的诊断,整体时间一般不超过30分钟。
淋巴结转移是肿瘤最常见的转移方式,是指浸润的肿瘤细胞穿过淋巴管壁,脱落后随淋巴液被带到汇流区淋巴结,并且以此为中心生长出同样肿瘤的现象。淋巴结转移一般是首先到达距肿瘤最近的一组淋巴结(第一站,也叫前哨淋巴结),然后依次到达距离较远者(第二站、第三站),肿瘤细胞在每一站浸润生长的同时也向同组内邻近的淋巴结扩展,但也有循短路绕过途径中的淋巴结直接向较远一组淋巴结(第二站或第三站)转移,称为跳跃式转移。
为了明确淋巴结转移是否转移,使外科医生尽快确定手术方案及手术范围。病理医生需要在短时间内对冰冻切片进行阅片检查,但是手术中快速冰冻病理诊断具有一定的局限性,一方面是由于冰冻切片技术自身的特点以及操作时间紧迫,导致切片质量不如石蜡质量稳定,低温冷冻后的新鲜组织细胞会出现体积胀大、细胞拉长、细胞内空泡、细胞核变形等假象,同时还会出现组织结晶,给诊断造成困难。
另一方面是因为手术中取样的标本仅占病变区域的一小部分,可能未取到代表性的病变或者由于肿瘤的异质性出现未取样的部分比实际冰冻取样的组织中的病变更严重的情况,导致冰冻切片的诊断结果与最终常规石蜡的诊断结果不一致。此外,还有一些疑难病例,冰冻检查时无法明确诊断,须在常规石蜡切片检查时增加一些必要的辅助手段(如特染、免疫组化、分子检测等)来进行诊断和鉴别诊断。
为了尽可能避免出现上述的局限性,需要手术中快速冰冻病理诊断的病理医生具有丰富的临床病理实践经验和扎实全面的医学知识,在压力之下具有能迅速作出决断的能力以及良好的判断力。由于手术中快速冰冻病理诊断的时效性、局限性,以及时间紧、任务重的特点,冰冻室的病理医生一般都是由经验丰富的高年资病理医生来担任。
病理医生主要工作就是取材、阅片和发报告。如果多台手术同时送达多个样本到达冰冻室,要面临不停在进行取材,难免会因为繁重的取材任务而耽误了阅片及发报告的时间,造成延时。
由此可见,正因为手术中快速冰冻病理诊断时间紧、任务重,所以冰冻室的病理医生的工作强度、压力都很大,冰冻室的病理医生在这种高压环境下容易过于疲劳而出错,导致工作效率和精度都比较低。
发明内容
本发明的目的在于提供一种术中冰冻切片图像识别方法及装置、设备、存储介质,可以自动对术中冰冻的切片图像进行淋巴结转移检测,辅助病理医生进行诊断,从而提高工作效率和精度。
本发明第一方面公开一种术中冰冻切片图像识别方法,包括:
获取术中冰冻的切片图像;
利用人工智能识别模型对所述切片图像进行识别,获得所述切片图像的识别结果,其中,所述识别结果包括病变区域关于淋巴结转移的定性检测值和定量检测值;
根据所述识别结果对所述切片图像中的病变区域进行标注,获得标注图像;
在用户操作界面上输出所述标注图像和所述识别结果,以供用户审核;
若接收到用户在所述用户操作界面上输入的第一提交信息,根据所述第一提交信息、所述标注图像和所述识别结果生成第一检测报告。
本发明第二方面公开一种术中冰冻切片图像识别装置,包括:
获取单元,用于获取术中冰冻的切片图像;
识别单元,用于利用人工智能识别模型对所述切片图像进行识别,获得所述切片图像的识别结果,其中,所述识别结果包括病变区域关于淋巴结转移的定性检测值和定量检测值;
标注单元,用于根据所述识别结果对所述切片图像中的病变区域进行标注,获得标注图像;
展示单元,用于在用户操作界面上输出所述标注图像和所述识别结果,以供用户审核;
生成单元,用于在所述展示单元在用户操作界面上输出所述标注图像和所述识别结果以供用户审核之后,以及在接收到用户在所述用户操作界面上输入的第一提交信息时,根据所述第一提交信息、所述标注图像和所述识别结果生成第一检测报告。
本发明第三方面公开一种电子设备,包括存储有可执行程序代码的存储器以及与所述存储器耦合的处理器;所述处理器调用所述存储器中存储的所述可执行程序代码,用于执行第一方面公开的术中冰冻切片图像识别方法。
本发明第四方面公开一种计算机可读存储介质,所述计算机可读存储介质存储计算机程序,其中,所述计算机程序使得计算机执行第一方面公开的术中冰冻切片图像识别方法。
本发明的有益效果在于,所提供的术中冰冻切片图像识别方法及装置、设备、存储介质,通过利用人工智能识别模型对术中冰冻的切片图像进行识别,获得切片图像的识别结果,该识别结果包括病变区域关于淋巴结转移的定性检测值和定量检测值,然后根据识别结果对切片图像中的病变区域进行标注,在用户操作界面上输出标注图像和识别结果以供用户审核,方便病理医生查阅及复核,若接收到用户在用户操作界面上输入的提交信息,根据提交信息、标注图像和识别结果生成检测报告,从而可以实现自动对术中冰冻的切片图像进行淋巴结转移检测,使得病理医生可专注于取材,在对标注图像和识别结果进行复核后,即可生成检测报告,可以辅助病理医生快速进行诊断,避免病理医生因工作量繁重而导致最终的诊断时间延长,因此可以提高术中冰冻切片图像识别的工作效率和精度。
附图说明
此处的附图,示出了本发明所述技术方案的具体实例,并与具体实施方式构成说明书的一部分,用于解释本发明的技术方案、原理及效果。
除非特别说明或另有定义,不同附图中,相同的附图标记代表相同或相似的技术特征,对于相同或相似的技术特征,也可能会采用不同的附图标记进行表示。
图1是一种术中冰冻切片图像识别方法的步骤流程图;
图2是一种术中冰冻切片图像识别方法的简化流程图;
图3是一种分割模型的网络结构示意图;
图4是一种术中冰冻切片图像识别装置的结构示意图;
图5是一种电子设备的结构示意图。
附图标记说明:
401、获取单元;402、识别单元;403、标注单元;404、展示单元;405、生成单元;406、编辑单元;407、修正单元;501、存储器;502、处理器。
具体实施方式
为了便于理解本发明,下面将参照说明书附图对本发明的具体实施例进行更详细的描述。
除非特别说明或另有定义,本文所使用的所有技术和科学术语与所属技术领域的技术人员通常理解的含义相同。在结合本发明的技术方案以现实的场景的情况下,本文所使用的所有技术和科学术语也可以具有与实现本发明的技术方案的目的相对应的含义。本文所使用的“第一、第二…”仅仅是用于对名称的区分,不代表具体的数量或顺序。本文所使用的术语“和/或”包括一个或多个相关的所列项目的任意的和所有的组合。
除非特别说明或另有定义,本文所使用的“所述”、“该”为相应位置之前所提及或描述的技术特征或技术内容,该技术特征或技术内容与其所提及的技术特征或技术内容可以是相同的,也可以是相似的。
毫无疑义,与本发明的目的相违背,或者明显矛盾的技术内容或技术特征,应被排除在外。
如图1和图2所示,本发明实施例公开一种术中冰冻切片图像识别方法,该方法可以通过计算机编程实现。该方法的执行主体可为如计算机电脑、笔记本电脑、平板电脑等电子设备,或内嵌于电子设备中的术中冰冻切片图像识别装置,本发明对此不作限定。在本实施例中,以电子设备为例进行阐述。该方法包括以下步骤S10~S80:
S10、电子设备获取术中冰冻的切片图像。
在本发明实施例中,可以通过B/S架构设计和开发术中冰冻切片图像识别软件系统,该软件系统安装于电子设备上。用户可通过扫描或上传术中冰冻的相关切片图像,基于人工智能进行术中冰冻淋巴结转移病变的检测,实现自动化的淋巴结转移检测,摒弃了现有技术中需要人为阅片进行淋巴结转移病变诊断的方法,从而可以提高术中冰冻切片图像识别的工作效率和精度,辅助病理医生更高效地诊断淋巴结转移是否转移,进而帮助外科手术医生可以准确了解病人患病部位的病变情况,针对性的制定下一步的手术方案。
在执行本术中冰冻切片图像识别方法之前,病理医生可以通过计算机电脑的浏览器程序,输入相关IP地址,访问软件系统的主页面(即用户操作界面),病理医生先填写个人身份信息进行用户注册,然后系统管理员对注册用户的个人身份信息进行审核,并赋予注册用户相关管理权限后,该注册用户方可进行登录。
病理医生作为注册用户登录软件系统后,可在术中冰冻切片取材制作完后,通过扫描仪对冰冻切片进行全景扫描,而电子设备可以以设备交互的方式,获取扫描仪扫描得到的术中冰冻的切片图像。也即,电子设备通过与扫描仪通信连接的通信接口,获取到扫描仪存储术中冰冻的切片图像的位置,然后直接读取此切片图像在用户操作界面上进行展示;或者,电子设备也可以通过本地上传的方式,获取术中冰冻的切片图像;也即,用户可以在电子设备弹出的用户操作界面中,填写相关病理号及选择疾病分类等相关病历信息,并选择需要上传的术中冰冻的切片图像完成上传,电子设备会实时监控上传情况,并在用户操作界面上进行展示。一般,获取的切片图像优选是可读(可以直接识别)的格式,例如SVS、TIF、JPG、PNG等可读格式,如果获取的切片图像为其它不可读的格式,例如NDPI、KFB或者SDPC等不可读格式,需要将其原始格式转换成为可读的格式中任意一种。
S20、电子设备利用人工智能识别模型对切片图像进行识别,获得切片图像的识别结果,其中,识别结果包括病变区域关于淋巴结转移的定性检测值和定量检测值。
在扫描、上传完成后,电子设备会同时调用人工智能识别模型对切片图像进行识别检测,给出相关定量和定性的检测结果。其中,人工智能识别模型主要包括分割模型。针对分割模型,需要在执行步骤S20之前进行预先构建与训练,该分割模型的构建与训练过程包括以下步骤S01~S04:
S01、构建深度学习神经网络。
其中,构建的深度学习神经网络主要基于DeepLabv3+算法,该神经网络可分为编码和解码两部分,编码部分引入了空洞卷积和深度可分离卷积作为特征提取部分,空洞卷积能够提取多尺度的语义特征,而深度可分离卷积将语义特征的通道分离,可以在不影响性能的前提下,对参数量大幅降低。
S02、采集若干训练图像,对每一训练图像进行病变区域标注,获得每个训练图像的感兴趣图。
其中,训练图像可以是以往医院所收集到的临床患者的SVS、TIF、JPG、或PNG等格式的历史病理图像,该历史病理图像与术中冰冻的切片图像一样,均为对手术中冰冻病理组织切片进行全景扫描后获得的图像。
模型训练需要大量标注的标签图作为基础,就图像分割任务而言,标注的过程就是人工用工具在图像中圈出感兴趣的区域(一般为不规则的区域),并生成标签数据。因此上述感兴趣图指的是在训练图像上圈出的淋巴结转移的病变区域的边缘框,病变区域内部是转移后的癌区,可以包含有多个转移灶,该病变区域也就是分割模型需要识别的目标区域,感兴趣图一般是标注后生成的xml文件。
S03、对每个训练图像进行滑窗切分获得多个训练子图,对感兴趣图进行滑窗切分获得多个感兴趣子图。
训练图像像素非常大,原始尺寸大多在几亿甚至几十亿像素左右。为了能够得到更多的有效信息且适合网络的输入,需要生成适合网络输入的图像块,图像块的生成过程主要包含组织区域掩码的生成、图像块的切分和标注区域的获取。具体的,由一张训练图像生成掩膜,然后通过HSV转换颜色空间去除掩膜的背景区域,例如转换空间后,背景区域像素值为0,组织区域像素值为1,就可以去除背景区域的影响,获取到组织区域的子掩膜,然后按照得到的组织区域的子掩膜,使用滑动窗口对训练图像进行切分,此操作可以去除背景,得到多个训练子图,该训练子图为尺寸为512×512的小分辨率图像。
同样的,使用滑动窗口对感兴趣图进行切分获得多个感兴趣子图,感兴趣子图与训练子图一一对应,从而构建出适合网络输入的图像训练集。
S04、将每个训练子图输入深度学习神经网络,根据对应的感兴趣子图对深度学习神经网络进行优化训练获得分割模型。
在训练过程中,使用预先标注的感兴趣子图不停地去拟合通用场景,对预先构建的深度学习神经网络进行优化(参数调整),最后训练完成的分割模型能够准确预测非训练集的图像输入。也即,将每个训练子图输入至构建的深度学习神经网络中,预测得每个训练子图的分割图,通过选择适当的损失函数,计算预测的分割图与预先标注好的感兴趣子图之间的差值,进行损失回归,以不断迭代调整参数,优化增强模型的判别能力。当损失回归达到预设条件时,判定深度学习神经网络训练完成,获得分割模型。
训练完成获得分割模型之后,还可以构建测试集对该分割模型进行测试,以验证分割模型的性能。
综上,训练完成的分割模型可用于检测未知样本(待分割的切片图像)的分割结果,从而计算得到切片图像中的淋巴结转移灶所在的位置区域和大小,作为系统最后的定性和定量。
基于此,步骤S20可以包括以下步骤S201~S204:
S201、电子设备对切片图像进行滑窗切分获得多个子图块。
由于待分割的切片图像,与上述训练图像一样,原始尺寸太大,因此在输入分割模型之前均需要通过图像的滑窗切分操作,转换成若干尺寸为512×512、格式为JPG的小图,即子图块,再输入分割模型,得到每张小图的分割结果,即分割图。如图2所示,将输入的切片图像转换成15个JPG格式的子图块。
S202、电子设备将每个子图块输入分割模型,获得每个子图块的分割图。
在本发明实施例中,如图3所示,分割模型包括依次连接的编码层和解码层,编码层包括依次连接的特征提取层和空间金字塔池化(Atrous spatial pyramidpooling,ASPP)层,其中,特征提取层包括依次连接的空洞卷积层和深度可分离卷积层。作为一种可选的实施方式,在分割模型中,编码层还包括第一通道卷积层(即1×1卷积层);解码层包括第一采样层、第二通道卷积层(亦为1×1卷积层)、3×3卷积层和第二采样层;基于此,针对每个子图块,步骤S202可以包括以下步骤S2021~S2028:
S2021、电子设备通过特征提取层对子图块进行特征提取,获得高级语义特征图。
S2022、电子设备通过空间金字塔池化层对高级语义特征图进行特征提取,获得多尺度特征图。
其中,ASPP层分别使用4个空洞卷积率不同的空洞卷积层和1个池化层,共5个网络层,实现获取不同视野下的感受野,保留多个尺度下的图像特征,对输入至这一层的高级语义特征图进行特征提取,得到多尺度特征图。
该多尺度特征图包括由以上5个网络层输出的特征图拼接而成。其中,4个空洞卷积率不同的空洞卷积层分别优选采用1×1卷积层、空洞卷积率rate为6的3×3卷积层、空洞卷积率rate为12的3×3卷积层、空洞卷积率rate为18的3×3卷积层。
S2023、电子设备通过第一通道卷积层对多尺度特征图进行通道变换,获得编码图。
S2024、电子设备通过第一采样层对编码图进行上采样,获得低层语义特征图。
S2025、电子设备通过第二通道卷积层对高级语义特征图进行通道变换,获得与编码图尺寸相匹配的新的高级语义特征图。
使用1×1卷积层(第一通道卷积层)对ASPP层输出的多尺度特征图进行通道变换,并结合上采样操作,可以获得整合后的低层语义特征图,以及使用1×1卷积层(第二通道卷积层)对高级语义特征图进行通道变换,使两者通道变换后尺寸相吻合,以便进行下一步融合处理。
S2026、电子设备将新的高级语义特征图和低层语义特征图进行融合拼接,获得合并图。
通过将不同尺度下获取的高级信息(高级语义特征图)和低层信息(低层语义特征图)进行融合拼接,可以提高网络的鲁棒性。
S2027、电子设备通过3×3卷积层对合并图进行卷积计算,获得卷积图。
S2028、电子设备通过第二采样层对卷积图进行上采样,获得子图块的分割图。
将融合拼接所获得的合并图,经再一次上采样后,最终得到尺寸一致的输出预测图,即子图块的分割图。
S203、电子设备根据每个子图块的坐标信息,将所有分割图拼接成与切片图像相同尺寸的拼接图像。
该步骤中通过子图块的坐标,将所有子图块的分割图拼接成原始尺寸的大图,即获得与切片图像相同尺寸的拼接图像。
S204、电子设备根据拼接图像,确定出病变区域的定性检测值和定量检测值作为识别结果。
最后通过对预测图像进行阈值分割,可以确定出其中整块的病变区域,该病变区域包含至少一个转移灶,如图2所示,对分割模型输出的所有分割图拼接及阈值分割后呈现为二值化的黑白图,即为病变区域,在黑白图中包含2个转移灶(白色区域),通过选取其中的最大转移灶(图中所示右边那块白色区域)的最小外接矩形(图中所示的灰色边框),得到其最大边长,即可以判断其转移检测结果。
具体的,步骤S204可以包括以下步骤S2041~S2044:
S2041、电子设备对拼接图像进行阈值分割,获得病变区域。
其中,病变区域包括至少一个转移灶。
S2042、电子设备计算病变区域中面积最大的目标淋巴结转移灶的所在位置,作为病变区域的定性检测值。
S2043、电子设备计算目标淋巴结转移灶的最小外接矩形的最大边长作为病变区域的定量检测值。
其中,通过将目标淋巴结转移灶的最小外接矩形的最大边长作为该目标淋巴结转移灶的最大直径,从而得到病变区域的定量检测值。
S2044、电子设备将病变区域的定性检测值和定量检测值作为识别结果。
作为一种可选的实施方式,在步骤S2043中,电子设备在计算目标淋巴结转移灶的最小外接矩形的最大边长之后,还可以进一步根据最大边长对切片图像进行分类。具体的,电子设备可以判断最大边长是否小于预设阈值(例如0.1mm、0.08mm或者0.15mm等);若最大边长小于预设阈值,判定切片图像的分类结果用于表征未发生淋巴结转移;若最大边长不小于预设阈值,判定切片图像的分类结果用于表征发生淋巴结转移。从而可以通过预设阈值作为边界值,区分切片图像的分类结果是否用于表征发生淋巴结转移。
然后进一步的,若最大边长不小于预设阈值,判定切片图像的分类结果用于表征发生淋巴结转移之后,还可以根据最大边长确定切片图像的转移类型。具体的,从预存的多个阈值范围中确定出最大边长所属的目标阈值范围,然后获取与目标阈值范围对应的目标转移类型,其中,目标阈值范围为以下三个阈值范围中任意一个:>2、[0.2,2]以及[0.2),单位mm;三个阈值范围对应的转移类型分别是宏转移类、微转移类或独立细胞簇类;因此目标转移类型为三种转移类型中其中某一种,最后将目标转移类型作为切片图像的分类类别。
其中,宏转移类、微转移类和独立细胞簇类的转移程度依次递减,独立细胞簇类指的是目标淋巴结转移灶的最大边长过小,小于0.2mm,被视为独立细胞簇的情况,或者属于200个左右细胞成团区域而被视为独立细胞簇的情况。
通过设置空洞卷积层,能够提取多尺度的语义特征,而深度可分离卷积层将语义特征的通道分离,可以在不影响性能的前提下,对参数量大幅降低,从而可以减少计算量,进而提高检测效率。而且,通过将不同尺度下获取的高级信息(高级语义特征图)和低层信息(低层语义特征图)进行融合拼接,可以提高网络的鲁棒性。
S30、电子设备根据识别结果对切片图像中的病变区域进行标注,获得标注图像。
其中,调用人工智能识别模型进行识别检测,获得包括病变区域的定性检测值和定量检测值的识别结果之后,还会在用户操作界面把已识别到的病变区域中包括的至少一个转移灶进行标识展示,例如用虚线标出病变区域中各个转移灶的最大外接矩形框。
S40、电子设备在用户操作界面上输出标注图像和识别结果,以供用户审核。
识别之后,拥有审核权限的病理医生可进行该病例的审核工作。电子设备在用户操作界面上输出标注图像和识别结果之后,还可以显示“审核”按钮,然后病理医生可点击“审核”按钮,进行审核。
病理医生可查看人工智能(Artificial Intelligence,AI)识别模型输出的识别结果,如果正确,可选择填写相关意见(备注)后,点击“提交”按钮以输入提交指令,完成审核工作;如果错误,可对识别的AI定性检测值、AI定量检测值、AI分类结果(即切片图像的分类类别)进行修改,并填写相关意见(备注)后,点击“提交”按钮以输入提交指令,完成审核工作。
因此,执行步骤S40之后,可以执行步骤S50,也可以转向步骤S60~S80。
S50、若接收到用户在用户操作界面上输入的第一提交信息,电子设备根据第一提交信息、标注图像和识别结果生成第一检测报告。
其中,第一提交信息包括在病理医生审核得出人工智能识别模型输出的识别结果正确后,作为用户输入的提交指令以及相关意见。
S60、若接收到用户在用户操作界面上输入的编辑指令,电子设备显示编辑框。
S70、电子设备根据用户在编辑框中输入的审核信息,对标注图像和/或识别结果进行修正。
S80、若接收到用户在用户操作界面上输入的第二提交信息,电子设备根据第二提交信息、修正后的标注图像和/或识别结果,生成第二检测报告。
其中,第二提交信息包括在病理医生审核得出人工智能识别模型输出的识别结果错误并进行修改后,作为用户输入的提交指令以及相关意见。电子设备生成第一检测报告或第二检测报告之后,病理医生可以在用户操作界面的列表页中进行查看。
可见实施本发明实施例,可以辅助病理医生快速进行诊断,可有效提升冰冻室病理医生的工作效率,尤其是在冰冻室收到多个手术室送来的检测样本时,病理医生此时的重点专注在检测样本的取材上,可以避免出现取材失误而导致检测结果错误,也可以避免病理医生因工作量繁重而导致最终的诊断时间延长,因此可以提高术中冰冻切片图像识别的工作效率和精度。此外,通过设置深度可分离卷积层将语义特征的通道分离,可以减少计算量,进而提高检测效率。而且,通过将不同尺度下获取的高级信息(高级语义特征图)和低层信息(低层语义特征图)进行融合拼接,可以提高网络的鲁棒性。
如图4所示,本发明实施例公开一种术中冰冻切片图像识别装置,包括获取单元401、识别单元402、标注单元403、展示单元404和生成单元405,其中,
获取单元401,用于获取术中冰冻的切片图像;
识别单元402,用于利用人工智能识别模型对切片图像进行识别,获得切片图像的识别结果,其中,识别结果包括病变区域关于淋巴结转移的定性检测值和定量检测值;
标注单元403,用于根据识别结果对切片图像中的病变区域进行标注,获得标注图像;
展示单元404,用于在用户操作界面上输出标注图像和识别结果,以供用户审核;
生成单元405,用于在展示单元404在用户操作界面上输出标注图像和识别结果以供用户审核之后,以及在接收到用户在用户操作界面上输入的第一提交信息时,根据第一提交信息、标注图像和识别结果生成第一检测报告。
可选的,术中冰冻切片图像识别装置,还可以包括编辑单元406和修正单元407:
编辑单元406,用于在展示单元404在用户操作界面上输出标注图像和识别结果以供用户审核之后,若接收到用户在用户操作界面上输入的编辑指令,显示编辑框;
修正单元407,用于根据用户在编辑框中输入的审核信息,对标注图像和/或识别结果进行修正;
上述生成单元405,还用于修正单元407根据用户在编辑框中输入的审核信息,对标注图像和/或识别结果进行修正之后,以及在接收到用户在用户操作界面上输入的第二提交信息时,根据第二提交信息、修正后的标注图像和/或识别结果,生成第二检测报告。
作为一种可选的实施方式,人工智能识别模型包括分割模型;因此术中冰冻切片图像识别装置中,上述识别单元402可以包括以下未图示的子单元:
划分子单元,用于对切片图像进行滑窗切分获得多个子图块;
分割子单元,用于将每个子图块输入分割模型,获得每个子图块的分割图;
拼接子单元,用于根据每个子图块的坐标信息,将所有分割图拼接成与切片图像相同尺寸的拼接图像;
识别子单元,用于根据拼接图像,确定出病变区域关于淋巴结转移的定性检测值和定量检测值作为识别结果。
如图5所示,本发明实施例公开一种电子设备,包括存储有可执行程序代码的存储器501以及与存储器501耦合的处理器502;
其中,处理器502调用存储器501中存储的可执行程序代码,执行上述各实施例中描述的术中冰冻切片图像识别方法。
本发明实施例还公开一种计算机可读存储介质,其存储计算机程序,其中,该计算机程序使得计算机执行上述各实施例中描述的术中冰冻切片图像识别方法。
以上实施例的目的,是对本发明的技术方案进行示例性的再现与推导,并以此完整的描述本发明的技术方案、目的及效果,其目的是使公众对本发明的公开内容的理解更加透彻、全面,并不以此限定本发明的保护范围。
以上实施例也并非是基于本发明的穷尽性列举,在此之外,还可以存在多个未列出的其他实施方式。在不违反本发明构思的基础上所作的任何替换与改进,均属本发明的保护范围。
Claims (10)
1.术中冰冻切片图像识别方法,其特征在于,包括:
获取术中冰冻的切片图像;
利用人工智能识别模型对所述切片图像进行识别,获得所述切片图像的识别结果,其中,所述识别结果包括病变区域关于淋巴结转移的定性检测值和定量检测值;
根据所述识别结果对所述切片图像中的病变区域进行标注,获得标注图像;
在用户操作界面上输出所述标注图像和所述识别结果,以供用户审核;
若接收到用户在所述用户操作界面上输入的第一提交信息,根据所述第一提交信息、所述标注图像和所述识别结果生成第一检测报告。
2.如权利要求1所述的术中冰冻切片图像识别方法,其特征在于,在用户操作界面上输出所述标注图像和所述识别结果以供用户审核之后,所述方法还包括:
若接收到用户在所述用户操作界面上输入的编辑指令,显示编辑框;
根据用户在所述编辑框中输入的审核信息,对所述标注图像和/或所述识别结果进行修正;
若接收到用户在所述用户操作界面上输入的第二提交信息,根据所述第二提交信息、修正后的标注图像和/或识别结果,生成第二检测报告。
3.如权利要求1或2所述的术中冰冻切片图像识别方法,其特征在于,所述人工智能识别模型包括分割模型;以及,利用人工智能识别模型对所述切片图像进行识别,获得所述切片图像的识别结果,包括:
对所述切片图像进行滑窗切分获得多个子图块;
将每个所述子图块输入所述分割模型,获得每个所述子图块的分割图;
根据每个所述子图块的坐标信息,将所有所述分割图拼接成与所述切片图像相同尺寸的拼接图像;
根据所述拼接图像,确定出病变区域关于淋巴结转移的定性检测值和定量检测值作为识别结果。
4.如权利要求3所述的术中冰冻切片图像识别方法,其特征在于,根据所述拼接图像确定出病变区域关于淋巴结转移的定性检测值和定量检测值作为识别结果,包括:
对所述拼接图像进行阈值分割,获得病变区域;所述病变区域包括至少一个淋巴结转移灶;
计算所述病变区域中面积最大的目标淋巴结转移灶的所在位置,作为所述病变区域的定性检测值;
计算所述目标淋巴结转移灶的最小外接矩形的最大边长,作为所述病变区域的定量检测值;
将所述病变区域的所述定性检测值和所述定量检测值作为识别结果。
5.如权利要求4所述的术中冰冻切片图像识别方法,其特征在于,计算所述目标淋巴结转移灶的最小外接矩形的最大边长之后,所述方法还包括:
判断所述最大边长是否小于预设阈值;
若所述最大边长小于预设阈值,判定所述切片图像的分类结果用于表征未发生淋巴结转移;
若所述最大边长不小于预设阈值,判定所述切片图像的分类结果用于表征发生淋巴结转移。
6.术中冰冻切片图像识别装置,其特征在于,包括:
获取单元,用于获取术中冰冻的切片图像;
识别单元,用于利用人工智能识别模型对所述切片图像进行识别,获得所述切片图像的识别结果,其中,所述识别结果包括病变区域关于淋巴结转移的定性检测值和定量检测值;
标注单元,用于根据所述识别结果对所述切片图像中的病变区域进行标注,获得标注图像;
展示单元,用于在用户操作界面上输出所述标注图像和所述识别结果,以供用户审核;
生成单元,用于在所述展示单元在用户操作界面上输出所述标注图像和所述识别结果以供用户审核之后,以及在接收到用户在所述用户操作界面上输入的第一提交信息时,根据所述第一提交信息、所述标注图像和所述识别结果生成第一检测报告。
7.如权利要求6所述的术中冰冻切片图像识别装置,其特征在于,还包括:
编辑单元,用于在所述展示单元在用户操作界面上输出所述标注图像和所述识别结果以供用户审核之后,若接收到用户在所述用户操作界面上输入的编辑指令,显示编辑框;
修正单元,用于根据用户在所述编辑框中输入的审核信息,对所述标注图像和/或所述识别结果进行修正;
所述生成单元,还用于所述修正单元根据用户在所述编辑框中输入的审核信息,对所述标注图像和/或所述识别结果进行修正之后,以及在接收到用户在所述用户操作界面上输入的第二提交信息时,根据所述第二提交信息、修正后的标注图像和/或识别结果,生成第二检测报告。
8.如权利要求6或7所述的术中冰冻切片图像识别装置,其特征在于,所述人工智能识别模型包括分割模型;所述识别单元包括:
划分子单元,用于对所述切片图像进行滑窗切分获得多个子图块;
分割子单元,用于将每个所述子图块输入所述分割模型,获得每个所述子图块的分割图;
拼接子单元,用于根据每个所述子图块的坐标信息,将所有所述分割图拼接成与所述切片图像相同尺寸的拼接图像;
识别子单元,用于根据所述拼接图像,确定出病变区域的定性检测值和定量检测值作为识别结果。
9.电子设备,其特征在于,包括存储有可执行程序代码的存储器以及与所述存储器耦合的处理器;所述处理器调用所述存储器中存储的所述可执行程序代码,用于执行权利要求1至5任一项所述的术中冰冻切片图像识别方法。
10.计算机可读存储介质,其特征在于,所述计算机可读存储介质存储计算机程序,其中,所述计算机程序使得计算机执行权利要求1至5任一项所述的术中冰冻切片图像识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211298203.4A CN115564750A (zh) | 2022-10-21 | 2022-10-21 | 术中冰冻切片图像识别方法及装置、设备、存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211298203.4A CN115564750A (zh) | 2022-10-21 | 2022-10-21 | 术中冰冻切片图像识别方法及装置、设备、存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115564750A true CN115564750A (zh) | 2023-01-03 |
Family
ID=84747033
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211298203.4A Pending CN115564750A (zh) | 2022-10-21 | 2022-10-21 | 术中冰冻切片图像识别方法及装置、设备、存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115564750A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117152745A (zh) * | 2023-10-23 | 2023-12-01 | 杭州迪安医学检验中心有限公司 | 一种基于图像处理技术的支原体识别和录入方法及系统 |
-
2022
- 2022-10-21 CN CN202211298203.4A patent/CN115564750A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117152745A (zh) * | 2023-10-23 | 2023-12-01 | 杭州迪安医学检验中心有限公司 | 一种基于图像处理技术的支原体识别和录入方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112163634B (zh) | 实例分割模型样本筛选方法、装置、计算机设备及介质 | |
CN110059697B (zh) | 一种基于深度学习的肺结节自动分割方法 | |
US9741112B2 (en) | Generating image-based diagnostic tests by optimizing image analysis and data mining of co-registered images | |
US9159129B2 (en) | Generating image-based diagnostic tests by optimizing image analysis and data mining of co-registered images | |
US7027627B2 (en) | Medical decision support system and method | |
CN111488921A (zh) | 一种全景数字病理图像智能分析系统及方法 | |
CN112101451A (zh) | 一种基于生成对抗网络筛选图像块的乳腺癌组织病理类型分类方法 | |
CN110853005A (zh) | 一种免疫组化膜染色切片诊断方法及装置 | |
CN112699868A (zh) | 一种基于深度卷积神经网络的图像识别方法、设备 | |
CN110796661B (zh) | 基于卷积神经网络的真菌显微图像分割检测方法及系统 | |
CN111340128A (zh) | 一种肺癌转移性淋巴结病理图像识别系统及方法 | |
CN112241961A (zh) | 基于深度卷积神经网络的胸部x光片辅助诊断方法及系统 | |
CN110189293A (zh) | 细胞图像处理方法、装置、存储介质及计算机设备 | |
CN115526834A (zh) | 免疫荧光图像检测方法及装置、设备、存储介质 | |
CN115546605A (zh) | 一种基于图像标注和分割模型的训练方法及装置 | |
CN109979546A (zh) | 基于人工智能数字病理的网络模型分析平台及构建方法 | |
CN115564750A (zh) | 术中冰冻切片图像识别方法及装置、设备、存储介质 | |
CN116386902A (zh) | 基于深度学习的大肠癌人工智能辅助病理诊断系统 | |
CN117237351B (zh) | 一种超声图像分析方法以及相关装置 | |
CN116468690B (zh) | 基于深度学习的浸润性非粘液性肺腺癌的亚型分析系统 | |
CN116862836A (zh) | 一种泛器官淋巴结转移癌检测系统及计算机设备 | |
CN116309459A (zh) | 基于改进网络的肺结节检测方法、装置、设备和存储介质 | |
CN116228660A (zh) | 胸部正片异常部位检测方法及装置 | |
CN113705318B (zh) | 基于图像的识别方法、装置、设备及可读存储介质 | |
CN114283406A (zh) | 细胞图像识别方法、装置、设备、介质及计算机程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20240108 Address after: No. 313 Jinyue Road, Jinfeng Town, High tech Zone, Jiulongpo District, Chongqing, 401329 Applicant after: Chongqing Zhijian Life Technology Co.,Ltd. Address before: A876, Floor 3, Building 14, Cuiwei Zhongli, Haidian District, Beijing 100089 Applicant before: Beijing Zhijian Life Technology Co.,Ltd. Applicant before: Chongqing Zhijian Life Technology Co.,Ltd. |
|
TA01 | Transfer of patent application right |