CN113793305A - 一种融合多信息的病理图像分类识别方法与系统 - Google Patents

Abstract

本发明给出了一种融合多信息的病理图像分类识别方法与系统，包括病理数据管理、病理图像预处理，病理图像识别，癌变区域的预测和诊断报告的生成；系统分为后台管理服务器和病理专家终端，管理后台服务器用于专家个人信息存储管理，病患数据存储和病理图像数据管理；病理专家终端负责医院专家上传病理图像以及病患信息，通过预先训练的深度神经网络模型实现病理图像的分类识别。病理专家可通过专家终端审核深度学习识别结果并生成诊断报告。本发明通过深度学习方法对病理图像的病理情况进行判断以及肿瘤区域预测，实现自动化预测良性肿瘤和恶性肿瘤结果，并在病理图像上可视化显示肿瘤所在区域，辅助医生对病理图像进行诊断，提升诊断效果和效率。

Description

一种融合多信息的病理图像分类识别方法与系统

技术领域

本发明涉及医学影像诊断技术领域，尤其是一种融合多信息的病理图像分类识别方法与系统。

背景技术

乳腺癌是女性最常见的癌症形式。仅2017年，研究表明，预计将诊断出约252000例新的浸润性乳腺癌和63000例原位乳腺癌，预计将发生2000例乳腺癌相关死亡病例。因此，有必要进行早期诊断和治疗，以降低发病率，提高患者的生活质量。组织病理学仍然是诊断过程的关键，也是区分良恶性组织、区分原位癌和浸润癌患者的金标准。乳腺癌亚型的诊断和鉴别通常包括从通过乳房X光摄影或超声成像确定的肿块中收集组织活检，然后进行组织学分析。组织样本通常用苏木精和伊红(H&E)染色，随后，病理学家使用光学显微镜进行视觉评估。由于可见结构的复杂性，组织显微结构的视觉评估和组织学图像中细胞核的整体组织是一项耗时且高度主观的工作。因此，自动计算机辅助诊断系统对于减少专家的工作量，提高诊断效率，减少疾病分类的主观性至关重要。

病理组织学图像诊断是基于机器学习的计算机辅助设计系统的良好应用领域。最新的机器学习方法之一是深度学习。在许多图像分析中，基于深度学习的系统优于传统的机器学习方法。深度学习有助于乳腺组织病理的自动化检测，帮助医师辅助诊断。由于机器学习算法的图像识别能力不足，因此深度学习识别模型的研究和发展仍有很大进步空间。

乳腺病理图像的自动分类仍然是一个非常具有挑战性的问题。其中一个原因是由于乳腺病理图像的特点，如不同种类图像之间的细微差异、细胞重叠现象和颜色分布不均匀等，给分类工作带来很大的困难。随着图像处理和深度学习技术的不断发展，利用全切片病理图像(WSI)对乳腺病理图像进行分类和诊断是组织病理学研究中的主要方向。开发融合多信息和基于深度学习模型的病理诊断辅助系统已成为帮助专家优化诊断质量的必要条件。

识别模型中最常用的深度学习算法是卷积神经网络(CNN)。C.Pearce所进行的研究中使用卷积神经网络进行的乳腺癌诊断，采用深度学习法对肿瘤发现进行分类。使用FCN(全连接网络)结构的二元分类器来确定个体的图像是否有丝分裂。Selvathi等人采用了一种深入学习的技术，在没有监督的情况下使用乳房X光检查。在所用的方法中，对密集型乳房造影图像进行了分类。准确率为98.5％。Geras等人使用了88.6万张基于乳腺X光片的大型图像。这些图像被用来筛查乳腺癌。研究采用多深度卷积网络结构。据观察，效果随着训练集的增加而增加。目前计算机辅助乳腺病理图像诊断技术中仍存在大量技术难点。例如，专利CN110472629A以肿瘤感兴趣区域和淋巴结感兴趣区域的影像组学特征构建训练集，实现预测淋巴结转移，在该发明中提出了一种基于深度学习的病理图像自动识别系统。但是该方法在肿瘤诊断中未能实现精准定位肿瘤位置。专利CN109063747A实现了肠道病理切片图像识别分析系统及方法,但其在辅助医师诊断的功能还有不足，无法辅助医生进一步的诊断。专利CN 111340128 A提出一种肺癌转移性淋巴结病理图像识别系统及方法，通过分割图像的方法实现肿瘤阳性点的计算，以预测肺癌转移性淋巴结细胞的识别任务。以上方法都使用深度学习自动识别作为技术基础，但在组织病理图像分类的精度上仍存在不足，对于基于全切片组织病理图像的分类方法存在一定滞后性。并且在图像诊断过程没有完全利用计算机辅助优势，缺少与用户在业务逻辑中的辅助功能，在诊断信息的提供方面仍有研发空间。

发明内容

本发明提出了一种融合多信息的病理图像分类识别方法与系统，以解决上文提到的现有技术的缺陷。

在一个方面，本发明提出了一种融合多信息的病理图像分类识别方法，该方法包括以下步骤：

利用后台管理服务器对病理图像进行处理以及病理专家对病理图像进行诊断，将所述处理结果和所述诊断结果进行结合从而实现对病理图像的识别：

所述利用后台管理服务器对病理图像进行处理具体包括：

对病理专家的账号信息及其个人资料进行管理，包括管理专家的账号、密码、个人信息，还包括添加、删除和修改信息功能；

基于深度学习对病理图像进行分类识别，根据分类识别结果对病理图像的病理情况进行判断并对肿瘤区域进行预测，生成深度学习预测结果，统计所述深度学习预测结果的准确率，查看病理图像诊断结果，所述病理图像诊断结果分为所述深度学习预测结果和专家审核结果；

对患者信息及病理图像进行管理，包括查看病理图像以及病患信息，修改/删除已上传的病理图像以及病患信息；

所述病理专家对病理图像进行诊断具体包括：

病理专家上传病患信息和病理图像，选择病理图像用于进行基于深度学习的分类识别，从而获得所述深度学习预测结果；

病理专家对所述深度学习预测结果进行审核和修改，得到专家审核结果，并结合包括所述深度学习预测结果、病患的历史记录、类似病例以及肿瘤信息库在内的多种信息最终生成诊断报告。

以上方法使用图像处理和深度学习的方法，实现在病理图像分析中的应用机器预测和辅助诊断功能，该系统功能包括病理数据管理、病理图像预处理，病理图像识别，癌变区域的预测和诊断报告的生成；该系统可辅助医生对病理图像进行诊断，提升诊断效果和效率。

在具体的实施例中，所述病理专家上传病患信息和病理图像，选择病理图像用于进行基于深度学习的分类识别，具体包括：

上传病理图像和病患信息，对已上传的病理图像及病患信息进行包括查看、修改和删除在内的操作；

通过深度学习模型自动分类识别病理图像，获得所述深度学习预测结果，将所述深度学习预测结果返回给病理专家，接收和显示所述后台管理服务器对病理图像的处理结果，并生成诊断报告。

在具体的实施例中，所述病理专家对所述深度学习预测结果进行审核和修改，得到专家审核结果，并结合包括所述深度学习预测结果、病患的历史记录、类似病例以及肿瘤信息库在内的多种信息最终生成诊断报告，具体包括：

查看所述深度学习预测结果，所述深度学习预测结果具体包括对病理图像进行基于深度学习的识别的结果和对肿瘤区域进行预测的结果；

根据所述对肿瘤区域进行预测的结果通过标记框和热力图的方式呈现肿瘤区域，根据呈现出的肿瘤区域结合病患的历史记录、类似病例以及肿瘤信息库来判断所述深度学习预测结果的准确性，根据所述判断生成诊断结果。

在具体的实施例中，所述统计所述深度学习预测结果的准确率，查看病理图像诊断结果，所述病理图像诊断结果分为所述深度学习预测结果和专家审核结果，具体包括：

统计所述深度学习预测结果的准确率和所述专家审核结果；

所述专家审核结果分为总样本审核结果和单个专家审核结果；

所述总样本审核结果包括所有病理专家识别出的病理图像的汇总；

所述单个专家审核结果表示单个病理专家识别出的病理图像；

当需要查看所述单个专家审核结果时，通过选择所需查看的病理专家识别出的病理图像进行查询操作。

在具体的实施例中，所述根据所述对肿瘤区域进行预测的结果通过标记框和热力图的方式呈现肿瘤区域，具体包括：

所述通过标记框的方式包括：通过基于密度的聚类算法对病理图像的所述分类识别的结果以及与所述分类识别的结果中的肿瘤区域相应的位置坐标进行聚类处理，从而预测出病理图像中的肿瘤区域的预测区域，并以多边形的形式在病理图像上画出所述预测区域；

所述通过热力图的方式包括：将病理图像通过深度学习模型的输出概率值用热力图的形式进行呈现；

病理专家在诊断时使用肿瘤区域的标记框和肿瘤区域的热力图进行辅助诊断。

在具体的实施例中，所述病患的历史记录、所述类似病例以及所述肿瘤信息库，具体包括：

所述病患的历史记录：当前审核的病患的历史病理信息，包括病患早期拍摄病理图像数据和诊断结果；

所述类似病例：包括肿瘤细胞病理图像样本、病理特征和治疗方法；

所述肿瘤信息库：用于查看相关肿瘤病理信息。

在具体的实施例中，所述病理专家对所述深度学习预测结果进行审核和修改，具体包括：

病理专家对病理图像的所述深度学习预测结果进行审核，若专家判断无问题则审核通过并给出相关意见，否则，专家对病理图像的所述深度学习预测结果进行修改，并给出相关诊断意见，输出专家审核结果。

在具体的实施例中，所述基于深度学习对病理图像进行分类识别，具体包括以下步骤：

采集全切片病理图像构成数据集，并对数据集中的每个病理图像计算一个二进制的组织掩码用于表示病理图像中的每个斑块是组织或背景，再对组织区域进行切片，生成预处理后的病理图像；

通过Otsu算法提取所述预处理后的病理图像中的组织部位的感兴趣区域；

将感兴趣区域分割为切片块图像并将所有切片块图像构成切块图像数据集；

采用GoogLeNet网络结构将所有切片块图像进行归一化处理构成新的切片块数据集；

将所述新的切片块数据集输入卷积神经网络进行肿瘤概率的预测；

根据所述肿瘤概率的预测的结果进行病理图像分类和肿瘤区域的标注。

在具体的实施例中，所述将所述新的切片块数据集输入卷积神经网络进行肿瘤概率的预测，具体包括：

将切片图像裁剪为256×256分辨率尺寸的切片块图像，提取出肿瘤区域的阳性切片块图像和正常区域的阴性切片块图像组成训练数据集；

采用染色归一化来均衡HE染色方法中不同病理图像之间的染色差异。

由于全切片病理图像(WSI)分析的训练模型的主要测试结果通过对组织区域的肿瘤区域进行病变预测，我们可以使用滑动窗口的方式来预测整个幻灯片图像中所有切片块是肿瘤的概率。但因为WSI的大部分实际上是白色背景区域，这种滑动窗口的方式浪费了大量的计算。因此计算一个二进制的组织掩码来表示每个斑块是组织或背景，然后只对是组织区域的部分进行组织区域切片的操作，再进行肿瘤情况预测。

根据本发明的第二方面，提出了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被计算机处理器执行时实施上述方法。

根据本发明的第三方面，提出一种融合多信息的病理图像分类识别系统，该系统包括：

病理图像后台管理模块，具体包括：

专家信息管理模块：配置用于对病理专家的账号信息及其个人资料进行管理，包括管理专家的账号、密码、个人信息，还包括添加、删除和修改信息功能；

数据统计分析模块：配置用于基于深度学习对病理图像进行识别，根据识别结果对病理图像的病理情况进行判断并对肿瘤区域进行预测，生成深度学习预测结果，统计所述深度学习预测结果的准确率，查看病理图像诊断结果，所述病理图像诊断结果分为所述深度学习预测结果和专家审核结果；

病理图像数据管理模块：配置用于对患者信息及病理图像进行管理，包括查看病理图像以及病患信息，修改/删除已上传的病理图像以及病患信息；

病理专家终端模块，具体包括：

图像识别模块：配置用于病理专家上传病患信息和病理图像，选择病理图像用于进行基于深度学习的分类识别，从而获得所述深度学习预测结果；

审核病理图像模块：配置用于病理专家对所述深度学习预测结果进行审核和修改，得到专家审核结果，并结合包括所述深度学习预测结果、病患的历史记录、类似病例以及肿瘤信息库在内的多种信息最终生成诊断报告。

本发明通过搭建后台服务器和专家终端对全切片图像进行病理症状判断，并通过肿瘤区域预测和肿瘤癌变的识别，从而帮助医生快速筛选可疑病变图像；还可以结合多元信息，如肿瘤区域标记框和热力图显示，病患历史记录，类似病例和肿瘤病理信息库，对最终病患的病理情况进行判别。本发明使用了图像处理和深度学习的方法，实现了在病理图像分析中的应用机器预测和辅助诊断功能，该系统功能包括病理数据管理、病理图像预处理，病理图像识别，癌变区域的预测和诊断报告的生成；该系统可辅助医生对病理图像进行诊断，提升诊断效果和效率。

附图说明

包括附图以提供对实施例的进一步理解并且附图被并入本说明书中并且构成本说明书的一部分。附图图示了实施例并且与描述一起用于解释本发明的原理。将容易认识到其它实施例和实施例的很多预期优点，因为通过引用以下详细描述，它们变得被更好地理解。通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1是本申请可以应用于其中的示例性系统架构图；

图2是本发明的一个实施例的一种融合多信息的病理图像分类识别方法的流程图；

图3是本发明的一个具体的实施例的融合多信息的病理图像分类识别系统整体模块架构图；

图4是本发明的一个具体的实施例的融合多信息的病理图像分类识别系统整体流程图；

图5是本发明的一个实施例的一种融合多信息的病理图像分类识别系统的框架图；

图6是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。

具体实施方式

下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

图1示出了可以应用本申请实施例的一种融合多信息的病理图像分类识别方法的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种应用，例如数据处理类应用、数据可视化类应用、网页浏览器应用等。

终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

服务器105可以是提供各种服务的服务器，例如对终端设备101、102、103上展示的病理图像提供支持的后台信息处理服务器。后台信息处理服务器可以对获取的病患信息和病理图像进行处理，并生成处理结果(例如深度学习预测结果)。

需要说明的是，本申请实施例所提供的方法可以由服务器105执行，也可以由终端设备101、102、103执行，相应的装置一般设置于服务器105中，也可以设置于终端设备101、102、103中。

需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供分布式服务的软件或软件模块)，也可以实现成单个软件或软件模块。在此不做具体限定。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

根据本发明的一个实施例的一种融合多信息的病理图像分类识别方法，图2示出了根据本发明的实施例的一种融合多信息的病理图像分类识别方法的流程图。如图2所示，该方法包括以下步骤：

利用后台管理服务器对病理图像进行处理以及病理专家对病理图像进行诊断，将所述处理结果和所述诊断结果进行结合从而实现对病理图像的识别：

所述利用后台管理服务器对病理图像进行处理具体包括：

对病理专家的账号信息及其个人资料进行管理，包括管理专家的账号、密码、个人信息，还包括添加、删除和修改信息功能；

基于深度学习对病理图像进行识别，根据识别结果对病理图像的病理情况进行判断并对肿瘤区域进行预测，生成深度学习预测结果，统计所述深度学习预测结果的准确率，查看病理图像诊断结果，所述病理图像诊断结果分为所述深度学习预测结果和专家审核结果；

对患者信息及病理图像进行管理，包括查看病理图像以及病患信息，修改/删除已上传的病理图像以及病患信息；

所述病理专家对病理图像进行诊断具体包括：

病理专家上传病患信息和病理图像，选择病理图像用于进行基于深度学习的识别，从而获得所述深度学习预测结果；

病理专家对所述深度学习预测结果进行审核和修改，得到专家审核结果，并结合包括所述深度学习预测结果、病患的历史记录、类似病例以及肿瘤信息库在内的多种信息最终生成诊断报告。

在具体的实施例中，所述病理专家上传病患信息和病理图像，选择病理图像用于进行基于深度学习的分类识别，具体包括：

上传病理图像和病患信息，对已上传的病理图像及病患信息进行包括查看、修改和删除在内的操作；

通过深度学习模型自动识别病理图像，获得所述深度学习预测结果，将所述深度学习预测结果返回给病理专家，接收和显示所述后台管理服务器对病理图像的处理结果，并生成诊断报告。

在具体的实施例中，所述病理专家对所述深度学习预测结果进行审核和修改，得到专家审核结果，并结合包括所述深度学习预测结果、病患的历史记录、类似病例以及肿瘤信息库在内的多种信息最终生成诊断报告，具体包括：

查看所述深度学习预测结果，所述深度学习预测结果具体包括对病理图像进行基于深度学习的分类识别的结果和对肿瘤区域进行预测的结果；

根据所述对肿瘤区域进行预测的结果通过标记框和热力图的方式呈现肿瘤区域，根据呈现出的肿瘤区域结合病患的历史记录、类似病例以及肿瘤信息库来判断所述深度学习预测结果的准确性，根据所述判断生成诊断结果。

在具体的实施例中，所述统计所述深度学习预测结果的准确率，查看病理图像诊断结果，所述病理图像诊断结果分为所述深度学习预测结果和专家审核结果，具体包括：

统计所述深度学习预测结果的准确率和所述专家审核结果；

所述专家审核结果分为总样本审核结果和单个专家审核结果；

所述总样本审核结果包括所有病理专家识别出的病理图像的汇总；

所述单个专家审核结果表示单个病理专家识别出的病理图像；

当需要查看所述单个专家审核结果时，通过选择所需查看的病理专家识别出的病理图像进行查询操作。

在具体的实施例中，所述根据所述对肿瘤区域进行预测的结果通过标记框和热力图的方式呈现肿瘤区域，具体包括：

所述通过标记框的方式包括：通过基于密度的聚类算法对病理图像的所述分类识别的结果以及与所述分类识别的结果中的肿瘤区域相应的位置坐标进行聚类处理，从而预测出病理图像中的肿瘤区域的预测区域，并以多边形的形式在病理图像上画出所述预测区域；

所述通过热力图的方式包括：将病理图像通过深度学习模型的输出概率值用热力图的形式进行呈现；

病理专家在诊断时使用肿瘤区域的标记框和肿瘤区域的热力图进行辅助诊断。

在具体的实施例中，所述病患的历史记录、所述类似病例以及所述肿瘤信息库，具体包括：

所述病患的历史记录：当前审核的病患的历史病理信息，包括病患早期拍摄病理图像数据和诊断结果；

所述类似病例：包括肿瘤细胞病理图像样本、病理特征和治疗方法；

所述肿瘤信息库：用于查看相关肿瘤病理信息。

在具体的实施例中，所述病理专家对所述深度学习预测结果进行审核和修改，具体包括：

病理专家对病理图像的所述深度学习预测结果进行审核，若专家判断无问题则审核通过并给出相关意见，否则，专家对病理图像的所述深度学习预测结果进行修改，并给出相关诊断意见，输出专家审核结果。

在具体的实施例中，所述基于深度学习对病理图像进行分类识别，具体包括以下步骤：

采集全切片病理图像构成数据集，并对数据集中的每个病理图像计算一个二进制的组织掩码用于表示病理图像中的每个斑块是组织或背景，再对组织区域进行切片，生成预处理后的病理图像；

通过Otsu算法提取所述预处理后的病理图像中的组织部位的感兴趣区域；

将感兴趣区域分割为切片块图像并将所有切片块图像构成切块图像数据集；

采用GoogLeNet网络结构将所有切片块图像进行归一化处理构成新的切片块数据集；

将所述新的切片块数据集输入卷积神经网络进行肿瘤概率的预测；

根据所述肿瘤概率的预测的结果进行病理图像分类和肿瘤区域的标注。

在具体的实施例中，所述将所述新的切片块数据集输入卷积神经网络进行肿瘤概率的预测，具体包括：

将切片图像裁剪为256×256分辨率尺寸的切片块图像，提取出肿瘤区域的阳性切片块图像和正常区域的阴性切片块图像组成训练数据集；

采用染色归一化来均衡HE染色方法中不同病理图像之间的染色差异。

在具体的实施例中，本发明的一个具体的实施例的融合多信息的病理图像分类识别系统整体模块架构图如图3所示；本发明的一个具体的实施例的融合多信息的病理图像分类识别系统整体流程图如图4所示；下面根据图3和图4所示的系统和流程，以乳腺病理图像为例，来阐述在本实施例中具体的融合多信息的病理图像分类识别流程和相应的模块部署以及模块功能：

本实施例主要包括以下模块：

1.管理后台服务器：后台管理员端用于管理员维护系统及数据。由管理员登录后进行操作，在系统的使用过程中管理员可以进行日常的数据维护。该系统主要实现的功能模块有专家信息管理模块、病理图像信息管理模块、数据统计分析模块。

1.1专家信息管理模块：1)管理专家的登录账号、密码、个人信息。2)增加，删除，修改，查询专家的信息，包括账号密码，个人信息。

1.2病理图像信息管理模块：1)增加，删除，修改，查询病理图像数据。2)查看病理图像的AI识别结果与专家审核结果。

1.3数据统计分析模块：该模块主要统计病理图像识别量、识别准确率、识别错误率等数据。统计深度学习模型的识别准确率以及错误率和专家诊断情况；专家诊断统计模块包括总体情况和单个专家情况。总体情况为所有专家识别的病理图像情况的汇总。如需查看单个专家识别情况，可选择查询专家的诊断情况。

2.病理专家终端：主要功能是让专家查看已经上传的病理图像及病患信息。登录系统后，专家可直接看到已经上传的图像，并可选择病理图像，查看图像对应的系统自动识别的诊断结果并给出审核意见。还可以点击上传新的病理图像，添加病患和病理图像的信息。

进一步的，病理图像信息查看修改：1)查看信息：病理图像信息以列表形式进行呈现，专家可查看已上传的病理图像信息及病人信息。2)修改信息：若查看过程中专家发现图像的信息有误，需要修改，可对病理图像信息进行修改。3)删除信息：若查看过程中专家需要对该病理图像进行删除操作，则可直接对病理图像进行删除。

进一步的，病理图像上传：专家通过病理图像上传功能，对病理图像进行上传。上传完毕后，点击提交，则完成病理图像的上传，上传至后台服务器存储。

进一步的，病理图像识别：上传完毕后则可选择需要识别的病理图像，即可开始对病理识别工作。若识别结束，则病理图像的状态会变为已识别。

进一步的，审核已识别病理图像：选择需要查看的病理图像后，即可查看该病理图像的信息，完整病理图像以及深度学习识别结果。通过仔细审查病理图像对病理深度学习识别结果进行审核。若认为深度学习识别结果没有问题，可添加补充的审核意见；否则，重新对该图像进行诊断，并填写新审核结果，填写后提交。

进一步的，生成诊断报告：专家提交审核结果，系统根据多元信息进行整合，生成诊断报告。诊断报告包括病人信息，病理图像信息、深度学习方法诊断结果以及专家审核结果等信息。

3.本发明提供了一种融合多信息的乳腺病理图像识别系统，包括采集病理组织全切片图像，全切片图像预测，还包括以下步骤：

1)采集全切片病理图像数据集；

2)预处理病理图像；

3)提取组织部位的感兴趣区域，通过Otsu算法提取感兴趣区域；

4)将感兴趣区域分割为切片块图像数据集；

5)将切片块图像进行归一化处理采用GoogLeNet网络结构，使用分类交叉熵作为损失函数，使用SGD作为优化器，采用的学习率为0.001；

6)将切片数据集输入卷积神经网络进行癌变概率的预测；

7)根据切片块的预测结果进行病理图像分类和癌变区域的标注；

全切片病理图像(WSI)分析的训练模型的主要测试结果通过对组织区域的肿瘤区域进行病变预测，我们可以使用滑动窗口的方式来预测整个幻灯片图像中所有切片块是肿瘤的概率。由于WSI的大部分实际上是白色背景区域，这种滑动窗口的方式浪费了大量的计算。因此计算一个二进制的组织掩码来表示每个斑块是组织或背景，然后只对组织区域进行组织区域切片，再进行肿瘤情况预测。

所述卷积神经网络训练过程包括：将切片图像裁剪为256×256分辨率尺寸的切片块图像，提取出癌变区域的阳性切片块图像和正常区域的阴性切片块图像组成训练数据集。

可选地，所述基于深度学习的乳腺染色病理图像自动识别方法，还包括：采用染色归一化来均衡HE染色方法中不同病理图像之间的染色差异，包括以下步骤：

可选地，所述采用染色均一化来均衡不同切片图像之间的染色差异的步骤，采用Vahadane染色归一化方法，包括：基于切片块RGB的图像，首先使用基于比尔-朗伯定律将给定的RGB图像转换为光密度图像。通过SNMF成本函数分解成n和d来估计它们的颜色外观和色斑密度图；最后将原图与统计变量进行映射实现颜色归一化。

步骤6.4，所述深度学习的卷积神经网络采用GoogLeNet作为网络结构，最后一层提取出1000维的特征；

将提取出的特征向量输入SVM分类模型，得出正常或癌变的二分类结果；

4.本发明提供了一种融合多信息的乳腺病理图像识别系统，包括预测病理图像肿瘤区域、审核病理图像、辅助专家生成诊断报告，还包括以下步骤：

测绘病理图像肿瘤区域：根据上一步获取的病理图像切片块识别结果，通过聚类算法得到恶性肿瘤区域位置，将肿瘤区域定位到全切片病理图像中，并用标记框和概率热力图两种方式呈现；

审核病理图像：

1)显示病患历史记录，提供当前审核病患的历史病理信息，包括病患早期拍摄病理图像数据和诊断结果；

2)类似病例病理图像，包括乳腺细胞病理图像样本，病理特征，治疗方法，可供专家参考分析；

3)提供乳腺肿瘤信息库，可查询多种乳腺肿瘤病理相关信息；

辅助生成诊断报告：在经过基于深度学习模型的乳腺病理图像预测之后，专家可在审核界面实现对乳腺病理图像的审核，审核界面中包括：乳腺病理图像的肿瘤病变区域标记框和肿瘤病变概率热力图显示，同时在系统中，提供可查看该病患之前的乳腺病理图像记录，与该病患类似病例的病理图像信息以及提供了一个可查询多种乳腺病理信息的资料库；专家结合以上多种病理信息进行最终病理情况分析，并在系统中提交乳腺病理诊断材料，系统将自动生成最终诊断报告，报告包括常规病理信息汇总。

图5示出了本发明的一个实施例的一种融合多信息的病理图像分类识别系统的框架图。该系统包括病理图像后台管理模块和病理专家终端模块，其中病理图像后台管理模块具体包括专家信息管理模块501、数据统计分析模块502和病理图像数据管理模块503，病理专家终端模块具体包括图像识别模块504和审核病理图像模块505。

在具体的实施例中，所述系统包括：

病理图像后台管理模块，具体包括：

专家信息管理模块501被配置用于对病理专家的账号信息及其个人资料进行管理，包括管理专家的账号、密码、个人信息，还包括添加、删除和修改信息功能；

数据统计分析模块502被配置用于基于深度学习对病理图像进行识别，根据识别结果对病理图像的病理情况进行判断并对肿瘤区域进行预测，生成深度学习预测结果，统计所述深度学习预测结果的准确率，查看病理图像诊断结果，所述病理图像诊断结果分为所述深度学习预测结果和专家审核结果；

病理图像数据管理模块503被配置用于对患者信息及病理图像进行管理，包括查看病理图像以及病患信息，修改/删除已上传的病理图像以及病患信息；

病理专家终端模块，具体包括：

图像识别模块504被配置用于病理专家上传病患信息和病理图像，选择病理图像用于进行基于深度学习的识别，从而获得所述深度学习预测结果；

审核病理图像模块505被配置用于病理专家对所述深度学习预测结果进行审核和修改，得到专家审核结果，并结合包括所述深度学习预测结果、病患的历史记录、类似病例以及肿瘤信息库在内的多种信息最终生成诊断报告。

本系统通过搭建后台服务器和专家终端对全切片图像进行病理症状判断，并通过肿瘤区域预测和肿瘤癌变识别，从而帮助医生快速筛选可疑病变图像；还可以结合多元信息，如肿瘤区域标记框和热力图显示，病患历史记录，类似病例和肿瘤病理信息库，对最终病患的病理情况进行判别。该系统可辅助医生对病理图像进行诊断，提升诊断效果和效率。

下面参考图6，其示出了适于用来实现本申请实施例的电子设备的计算机系统600的结构示意图。图6示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本申请的方法中限定的上述功能。需要说明的是，本申请所述的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读存储介质，该计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

描述于本申请实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，并且这些单元的名称在某种情况下并不构成对该单元本身的限定。

本发明的实施例还涉及一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被计算机处理器执行时实施上文中的方法。该计算机程序包含用于执行流程图所示的方法的程序代码。需要说明的是，本申请的计算机可读介质可以是计算机可读信号介质或者计算机可读介质或者是上述两者的任意组合。

本发明包括病理数据管理、病理图像预处理，病理图像识别，癌变区域的预测和诊断报告的生成；系统分为后台管理服务器和病理专家终端，管理后台服务器用于专家个人信息存储管理，病患数据存储和病理图像数据管理；病理专家终端负责医院专家上传病理图像以及病患信息，通过预先训练的深度神经网络模型实现病理图像的分类识别。病理专家可通过专家终端审核深度学习识别结果并生成诊断报告。本发明通过深度学习方法对病理图像的病理情况进行判断以及肿瘤区域预测，实现自动化预测良性肿瘤和恶性肿瘤结果，并在病理图像上可视化显示肿瘤所在区域，可辅助医生对病理图像进行诊断，提升诊断效果和效率。

以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (11)

1.一种融合多信息的病理图像分类识别方法，其特征在于，包括利用后台管理服务器对病理图像进行处理以及病理专家对病理图像进行诊断，将所述处理结果和所述诊断结果进行结合从而实现对病理图像的识别：

所述利用后台管理服务器对病理图像进行处理具体包括：

对病理专家的账号信息及其个人资料进行管理，包括管理专家的账号、密码、个人信息，还包括添加、删除和修改信息功能；

基于深度学习对病理图像进行分类识别，根据分类识别结果对病理图像的病理情况进行判断并对肿瘤区域进行预测，生成深度学习预测结果，统计所述深度学习预测结果的准确率，查看病理图像诊断结果，所述病理图像诊断结果分为所述深度学习预测结果和专家审核结果；

对患者信息及病理图像进行管理，包括查看病理图像以及病患信息，修改/删除已上传的病理图像以及病患信息；

所述病理专家对病理图像进行诊断具体包括：

病理专家上传病患信息和病理图像，选择病理图像用于进行基于深度学习的识别，从而获得所述深度学习预测分类结果；

病理专家对所述深度学习预测结果进行审核和修改，得到专家审核结果，并结合包括所述深度学习预测结果、病患的历史记录、类似病例以及肿瘤信息库在内的多种信息最终生成诊断报告。

2.根据权利要求1所述的方法，其特征在于，所述病理专家上传病患信息和病理图像，选择病理图像用于进行基于深度学习的分类识别，具体包括：

上传病理图像和病患信息，对已上传的病理图像及病患信息进行包括查看、修改和删除在内的操作；

通过深度学习模型自动分类识别病理图像，获得所述深度学习预测结果，将所述深度学习预测结果返回给病理专家，接收和显示所述后台管理服务器对病理图像的处理结果，并生成诊断报告。

3.根据权利要求1所述的方法，其特征在于，所述病理专家对所述深度学习预测结果进行审核和修改，得到专家审核结果，并结合包括所述深度学习预测结果、病患的历史记录、类似病例以及肿瘤信息库在内的多种信息最终生成诊断报告，具体包括：

查看所述深度学习预测结果，所述深度学习预测结果具体包括对病理图像进行基于深度学习的识别的结果和对肿瘤区域进行预测的结果；

根据所述对肿瘤区域进行预测的结果通过标记框和热力图的方式呈现肿瘤区域，根据呈现出的肿瘤区域结合病患的历史记录、类似病例以及肿瘤信息库来判断所述深度学习预测结果的准确性，根据所述判断生成诊断结果。

4.根据权利要求1所述的方法，其特征在于，所述统计所述深度学习预测结果的准确率，查看病理图像诊断结果，所述病理图像诊断结果分为所述深度学习预测结果和专家审核结果，具体包括：

统计所述深度学习预测结果的准确率和所述专家审核结果；

所述专家审核结果分为总样本审核结果和单个专家审核结果；

所述总样本审核结果包括所有病理专家识别出的病理图像的汇总；

所述单个专家审核结果表示单个病理专家识别出的病理图像；

当需要查看所述单个专家审核结果时，通过选择所需查看的病理专家识别出的病理图像进行查询操作。

5.根据权利要求3所述的方法，其特征在于，所述根据所述对肿瘤区域进行预测的结果通过标记框和热力图的方式呈现肿瘤区域，具体包括：

所述通过标记框的方式包括：通过基于密度的聚类算法对病理图像的所述分类识别的结果以及与所述分类识别的结果中的肿瘤区域相应的位置坐标进行聚类处理，从而预测出病理图像中的肿瘤区域的预测区域，并以多边形的形式在病理图像上画出所述预测区域；

所述通过热力图的方式包括：将病理图像通过深度学习模型的输出概率值用热力图的形式进行呈现；

病理专家在诊断时使用肿瘤区域的标记框和肿瘤区域的热力图进行辅助诊断。

6.根据权利要求1所述的方法，其特征在于，所述病患的历史记录、所述类似病例以及所述肿瘤信息库，具体包括：

所述病患的历史记录：当前审核的病患的历史病理信息，包括病患早期拍摄病理图像数据和诊断结果；

所述类似病例：包括肿瘤细胞病理图像样本、病理特征和治疗方法；

所述肿瘤信息库：用于查看相关肿瘤病理信息。

7.根据权利要求1所述的方法，其特征在于，所述病理专家对所述深度学习预测结果进行审核和修改，具体包括：

病理专家对病理图像的所述深度学习预测结果进行审核，若专家判断无问题则审核通过并给出相关意见，否则，专家对病理图像的所述深度学习预测结果进行修改，并给出相关诊断意见，输出专家审核结果。

8.根据权利要求1所述的方法，其特征在于，所述基于深度学习对病理图像进行识别，具体包括以下步骤：

采集全切片病理图像构成数据集，并对数据集中的每个病理图像计算一个二进制的组织掩码用于表示病理图像中的每个斑块是组织或背景，再对组织区域进行切片，生成预处理后的病理图像；

通过Otsu算法提取所述预处理后的病理图像中的组织部位的感兴趣区域；

将感兴趣区域分割为切片块图像并将所有切片块图像构成切块图像数据集；

采用GoogLeNet网络结构将所有切片块图像进行归一化处理构成新的切片块数据集；

将所述新的切片块数据集输入卷积神经网络进行肿瘤概率的预测；

根据所述肿瘤概率的预测的结果进行病理图像分类和肿瘤区域的标注。

9.根据权利要求8所述的方法，其特征在于，所述将所述新的切片块数据集输入卷积神经网络进行肿瘤概率的预测，具体包括：

将切片图像裁剪为256×256分辨率尺寸的切片块图像，提取出肿瘤区域的阳性切片块图像和正常区域的阴性切片块图像组成训练数据集；

采用染色归一化来均衡HE染色方法中不同病理图像之间的染色差异。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被计算机处理器执行时实施权利要求1至9中任一项所述的方法。

11.一种融合多信息的病理图像分类识别系统，其特征在于，包括：

病理图像后台管理模块，具体包括：

专家信息管理模块：配置用于对病理专家的账号信息及其个人资料进行管理，包括管理专家的账号、密码、个人信息，还包括添加、删除和修改信息功能；

数据统计分析模块：配置用于基于深度学习对病理图像进行分类识别，根据分类识别结果对病理图像的病理情况进行判断并对肿瘤区域进行预测，生成深度学习预测结果，统计所述深度学习预测结果的准确率，查看病理图像诊断结果，所述病理图像诊断结果分为所述深度学习预测结果和专家审核结果；

病理图像数据管理模块：配置用于对患者信息及病理图像进行管理，包括查看病理图像以及病患信息，修改/删除已上传的病理图像以及病患信息；

病理专家终端模块，具体包括：

图像识别模块：配置用于病理专家上传病患信息和病理图像，选择病理图像用于进行基于深度学习的识别，从而获得所述深度学习预测分类结果；

审核病理图像模块：配置用于病理专家对所述深度学习预测结果进行审核和修改，得到专家审核结果，并结合包括所述深度学习预测结果、病患的历史记录、类似病例以及肿瘤信息库在内的多种信息最终生成诊断报告。

Images