CN115841475A - 一种心脏图像分割方法、装置、设备及存储介质 - Google Patents
一种心脏图像分割方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN115841475A CN115841475A CN202211605307.5A CN202211605307A CN115841475A CN 115841475 A CN115841475 A CN 115841475A CN 202211605307 A CN202211605307 A CN 202211605307A CN 115841475 A CN115841475 A CN 115841475A
- Authority
- CN
- China
- Prior art keywords
- image
- sample
- training
- images
- sample images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003709 image segmentation Methods 0.000 title claims abstract description 132
- 238000000034 method Methods 0.000 title claims abstract description 69
- 238000012549 training Methods 0.000 claims abstract description 165
- 230000000747 cardiac effect Effects 0.000 claims abstract description 105
- 238000002372 labelling Methods 0.000 claims abstract description 84
- 230000006870 function Effects 0.000 claims description 84
- 238000013528 artificial neural network Methods 0.000 claims description 57
- 239000000126 substance Substances 0.000 claims 1
- 230000008569 process Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 8
- 238000004590 computer program Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 239000011159 matrix material Substances 0.000 description 4
- 230000011218 segmentation Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012417 linear regression Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
Abstract
本公开提供了一种心脏图像分割方法、装置、设备及存储介质，所述方法包括：获取包含心脏区域的待分割医学图像；将待分割医学图像输入目标图像分割模型，得到心脏区域图像；其中，目标图像分割模型为基于多个第一样本图像、各个第一样本图像对应的心脏区域标注信息、多个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息训练得到的，第一样本图像和第二样本图像为不同机型的图像采集设备所采集的图像。采用该方法，由于目标图像分割模型不仅可以准确分割特定机型下的医学图像，还可以对其他机型下的医学图像进行准确分割，因此本方法采用目标图像分割模型分割医学图像，可以提升不同机型下的待分割医学图像的心脏区域图像分割准确率。
Description
技术领域
本公开涉及图像处理技术领域，尤其涉及一种心脏图像分割方法、装置、设备及存储介质。
背景技术
图像分割技术是指根据图像的纹理、颜色和像素灰度等特征将图像分割为多个不同的子图像的技术。图像分割技术的应用十分广泛，在医学领域，如何准确地从医学图像中分割出心脏图像对与心脏相关的医学技术发展十分重要。现有的分割心脏图像的方法主要是通过全监督学习方法，利用标注了心脏区域的样本图像对神经网络进行训练得到图像分割模型，然后通过训练好的图像分割模型从医学图像中分割出心脏图像。
现有的图像分割模型是利用特定机型的图像采集设备输出的医学图像训练而来的，例如，利用A机型的图像采集设备生成的医学图像或者利用B机型的图像采集设备生成的医学图像作为样本图像训练得到用于分割心脏图像的图像分割模型。然而，由于不同机型的图像采集设备所采集的图像数据是存在差异的，基于特定机型下的医学图像训练得到的图像分割模型，对其他机型下的医学图像进行心脏图像分割的准确率往往难以得到保证，即现有的图像分割方法难以适用于不同机型下的医学图像。
因此，如何提升不同机型下的心脏图像分割准确率成为了一个亟待解决的问题。
发明内容
本公开提供了一种心脏图像分割方法、装置、设备及存储介质，以至少解决现有技术中存在的以上技术问题。
根据本公开的第一方面，提供了一种心脏图像分割方法，所述方法包括：
获取包含心脏区域的待分割医学图像；
将所述待分割医学图像输入目标图像分割模型，得到心脏区域图像；其中，所述目标图像分割模型为基于多个第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、多个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息训练得到的，所述第一样本图像和所述第二样本图像为不同机型的图像采集设备所采集的图像。
在一可实施方式中，所述目标图像分割模型的训练方式，包括：
基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型；
根据各个所述第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、各个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息，对所述预训练模型进行训练，得到目标图像分割模型。
在一可实施方式中，所述基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型，包括：
将第一样本图像输入待训练神经网络，得到预测心脏图像；
基于所述第一样本图像对应的心脏区域标注信息和所述预测心脏图像，确定待训练神经网络的损失函数；
根据所述损失函数调整待训练神经网络的参数；
确定针对待训练神经网络的迭代次数是否达到第一预设迭代次数；
如果是，将待训练神经网络确定为预训练模型；
如果否，返回执行所述将第一样本图像输入待训练神经网络的步骤。
在一可实施方式中，所述根据各个所述第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、各个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息，对所述预训练模型进行训练，得到目标图像分割模型，包括：
将包括第一样本图像和第二样本图像的样本图像组输入所述预训练模型，得到所述样本图像组对应的多个预测心脏图像分割结果；
将各个所述预测心脏图像分割结果输入图像判别网络，确定出每个所述预测心脏图像分割结果对应的样本图像；
基于所述第一样本图像对应的预测心脏图像分割结果和所述第一样本图像对应的心脏区域标注信息，确定所述预训练模型的第一损失函数；
基于所述第二样本图像对应的预测心脏图像分割结果，确定所述预训练模型的第二损失函数，或，基于所述第二样本图像对应的预测心脏图像分割结果和所述第二样本图像对应的心脏区域标注信息，确定所述预训练模型的第二损失函数；
根据所述第一损失函数和所述第二损失函数确定所述预训练模型的目标损失函数，并根据所述目标损失函数调整所述预训练模型的网络参数；
确定针对所述预训练模型的迭代次数是否达到第二预设迭代次数；
如果是，将所述预训练模型确定为目标图像分割模型；
如果否，返回执行所述将包括第一样本图像和第二样本图像的样本图像组输入所述预训练模型的步骤。
在一可实施方式中，源域包括多个存在对应的心脏区域标注信息的三维图像，目标域包括多个不存在对应的心脏区域标注信息的三维图像；其中，所述源域的三维图像和所述目标域的三维图像为不同机型的图像采集设备所采集的三维医学图像；
在所述基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型之前，所述方法还包括：
将所述源域的每个三维图像切分为多个尺寸为预设尺寸的图像，作为第一样本图像；以及，将所述目标域的每个三维图像切分为多个尺寸为所述预设尺寸的图像，作为第二样本图像。
根据本公开的第二方面，提供了一种心脏图像分割装置，所述方法包括：
图像获取模块，用于获取包含心脏区域的待分割医学图像；
图像分割模块，用于将所述待分割医学图像输入目标图像分割模型，得到心脏区域图像；其中，所述目标图像分割模型为基于多个第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、多个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息训练得到的，所述第一样本图像和所述第二样本图像为不同机型的图像采集设备所采集的图像。
在一可实施方式中，所述装置还包括：
模型训练模块，用于基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型；根据各个所述第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、各个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息，对所述预训练模型进行训练，得到目标图像分割模型。
在一可实施方式中，所述模型训练模块，具体用于将第一样本图像输入待训练神经网络，得到预测心脏图像；基于所述第一样本图像对应的心脏区域标注信息和所述预测心脏图像，确定待训练神经网络的损失函数；根据所述损失函数调整待训练神经网络的参数；确定针对待训练神经网络的迭代次数是否达到第一预设迭代次数；如果是，将待训练神经网络确定为预训练模型；如果否，返回执行所述将第一样本图像输入待训练神经网络的步骤。
根据本公开的第三方面，提供了一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开所述的方法。
根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行本公开所述的方法。
本公开的图像分割方法、装置、设备及存储介质，目标图像分割模型是基于多个第一样本图像、各个第一样本图像对应的心脏区域标注信息和多个第二样本图像训练得到的，而第一样本图像和第二样本图像为不同机型的图像采集设备所采集的。由于本公开在训练模型的过程中不仅利用了特定机型的图像采集设备采集的第一样本图像，还利用了其他机型的图像采集设备采集的无标注信息的第二样本图像，因此训练得到的目标图像分割模型不仅可以准确分割特定机型下的医学图像，还可以对其他机型下的医学图像进行准确分割，即目标图像分割模型可以适用于各种机型下的医学图像，提升不同机型下的待分割医学图像的心脏区域图像分割准确率。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
通过参考附图阅读下文的详细描述，本公开示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本公开的若干实施方式，其中：
在附图中，相同或对应的标号表示相同或对应的部分。
图1示出了本公开实施例提供的心脏图像分割方法的实现流程示意图；
图2示出了本公开提供的目标图像分割模型的一种训练流程图；
图3示出了本公开提供的训练预训练模型的一种流程图；
图4示出了本公开提供的基于预训练模型训练目标图像分割模型的另一种流程图；
图5示出了本公开实施例提供的心脏图像分割装置的一种结构示意图；
图6示出了本公开实施例一种电子设备的组成结构示意图。
具体实施方式
为使本公开的目的、特征、优点能够更加的明显和易懂，下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本公开一部分实施例，而非全部实施例。基于本公开中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。
由于现有的图像分割模型是利用特定机型的图像采集设备输出的医学图像训练而来的，例如，利用A机型的图像采集设备生成的医学图像或者利用B机型的图像采集设备生成的医学图像作为样本图像训练得到用于分割心脏图像的图像分割模型。然而，不同机型的图像采集设备所采集的图像数据是存在差异的，因此，基于特定机型下的医学图像训练得到的图像分割模型，对其他机型下的医学图像进行心脏图像分割的准确率往往难以得到保证，即现有的图像分割方法难以适用于不同机型下的医学图像。
基于此，本公开提供了一种心脏图像分割方法、装置、设备及存储介质，以提升不同机型下的待分割医学图像的心脏区域图像分割准确率。本公开提供的心脏图像分割方法可以应用于能够进行图像处理的电子设备。
下面将结合本公开实施例中的附图，对本公开实施例的技术方案进行描述。
图1示出了本公开实施例提供的心脏图像分割方法的实现流程示意图。如图1所示，所述方法包括：
S101，获取包含心脏区域的待分割医学图像。
本公开中待分割医学图像为三维图像。
S102，将所述待分割医学图像输入目标图像分割模型，得到心脏区域图像。
其中，所述目标图像分割模型为基于多个第一样本图像、各个所述第一样本图像对应的心脏区域标注信息和预设数量的第二样本图像对应的心脏区域标注信息训练得到的，所述第一样本图像和所述第二样本图像为不同机型的图像采集设备所采集的图像。
其中，预设数量远小于第二样本图像的数量，预设数量具体可以根据实际应用场景进行设定，此处不做具体限定。
采用本公开的图像分割方法，目标图像分割模型是基于多个第一样本图像、各个第一样本图像对应的心脏区域标注信息和多个第二样本图像训练得到的，而第一样本图像和第二样本图像为不同机型的图像采集设备所采集的。由于本公开在训练模型的过程中不仅利用了特定机型的图像采集设备采集的第一样本图像，还利用了其他机型的图像采集设备采集的无标注信息的第二样本图像，因此训练得到的目标图像分割模型不仅可以准确分割特定机型下的医学图像，还可以对其他机型下的医学图像进行准确分割，即目标图像分割模型可以适用于各种机型下的医学图像，提升不同机型下的待分割医学图像的心脏区域图像分割准确率。
在一可实施方式中，图2示出了本公开提供的目标图像分割模型的一种训练流程图，如图2所示，所述目标图像分割模型的训练方式，包括：
S201，基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型。
本公开中，可以将训练样本的数据集划分为源域数据集和目标域数据集，其中，源域数据集包括多个第一样本图像和各个第一样本图像对应的心脏区域标注信息，目标域数据集包括多个第二样本图像和少部分第二样本图像对应的心脏区域标注信息。即源域数据集中的样本图像都是被标注的三维图像，而目标域数据集的样本图像大部分是未被进行标注的三维图像。并且，源域数据集的第一样本图像和目标域数据集的第二样本图像为不同机型的图像采集设备所采集的三维医学图像。
本公开中，对于第一样本图像，可以预先通过人工或机器标注的方式，将图像中属于心脏区域的像素点标注同一标识，得到第一样本图像对应的心脏区域标注信息。对于少部分第二样本图像，也可以预先通过人工或机器标注的方式，将图像中属于心脏区域的像素点标注同一标识，得到少部分第二样本图像对应的心脏区域标注信息。
具体的，在一实施例中，图3示出了本公开提供的训练预训练模型的一种流程图，如图3所示，所述基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型，包括：
S301，将第一样本图像输入待训练神经网络，得到预测心脏图像。
待训练神经网络可以采用FCN(Fully Convolutional Network，完全卷积网络)和CNN(卷积神经网络)等。
S302，基于所述第一样本图像对应的心脏区域标注信息和所述预测心脏图像，确定待训练神经网络的损失函数。
具体的，第一样本图像对应的心脏区域标注信息为第一样本图像中的心脏区域图像，本步骤中可以采用交叉熵损失函数或对数损失函数等计算第一样本图像对应的心脏区域标注信息和预测心脏图像之间的损失函数。
S303，根据所述损失函数调整待训练神经网络的参数。
具体的，以减小损失函数值为原则进行待训练神经网络的参数调整。
S304，确定针对待训练神经网络的迭代次数是否达到第一预设迭代次数。
第一预设迭代次数可以根据应用场景具体进行设定，通常可以设定为100或200等。
S305，如果是，将待训练神经网络确定为预训练模型。
S306，如果否，返回执行所述将第一样本图像输入待训练神经网络的步骤。
具体的，在另一实施例中，所述基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型，可以包括如下步骤A1-A5：
步骤A1，将第一样本图像输入待训练神经网络，得到预测心脏图像。
步骤A2，基于所述第一样本图像对应的心脏区域标注信息和所述预测心脏图像，确定待训练神经网络的损失函数。
步骤A3，判断所述损失函数的值是否小于第一预设损失函数阈值。
第一预设损失函数阈值可以根据应用场景进行设定，此处不做具体限定。
步骤A4，如果是，将待训练神经网络确定为预训练模型。
步骤A5，如果否，根据所述损失函数调整待训练神经网络的参数，并返回执行所述步骤A1。
本公开中，利用源域数据集中存在标注信息的第一样本图像对待训练神经网络进行全监督训练，使得到的预训练模型在源域数据集的图像上达到一定程度的收敛，这使预训练模型有一定的图像分割精度起点，可以降低不同机型的图像数据间差异大而给模型训练带来的波动。
S202，根据各个所述第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、各个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息，对所述预训练模型进行训练，得到目标图像分割模型。
本步骤中，可以使用有标记信息的第一样本图像、预设数量的有标记信息的第二样本图像和大量没有标记信息的第二样本图像对预训练模型进行半监督训练，得到目标图像分割模型。
具体的，在一实施例中，图4示出了本公开提供的基于预训练模型训练目标图像分割模型的另一种流程图，如图4所示，所述根据各个所述第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、各个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息，对所述预训练模型进行训练，得到目标图像分割模型，包括：
S401，将包括第一样本图像和第二样本图像的样本图像组输入所述预训练模型，得到所述样本图像组对应的多个预测心脏图像分割结果。
本公开中，将包括第一样本图像和第二样本图像的样本图像组输入所述预训练模型后，预训练模型可以通过cutmix(混合)或cutout(扣除)方式对样本图像中的第一样本图像和第二样本图像进行处理。
具体的，cutmix是使用随机生成的矩阵范围，用第二样本图像替换掉对应矩阵范围里的第一样本图像。Cutout是指利用随机生成的像素值为零的像素矩阵，替换掉样本图像组中各个样本图像的对应位置处的像素矩阵。
通过cutmix或cutout方式对样本图像中的第一样本图像和第二样本图像进行处理后，可以在样本图像中增加其他信息，从而促使预训练模型从第一样本图像和第二样本图像中提取出更能反映源域数据集合目标域数据集的有效特征，并对齐提取的有效特征的分布空间，约束预训练模型学习到不随数据集域而变的表征能力。
S402，将各个所述预测心脏图像分割结果输入图像判别网络，确定出每个所述预测心脏图像分割结果对应的样本图像。
本公开中，图像判别网络可以采用KNN(K近邻)网络或Linear Regression(线性回归)网络等。
S403，基于所述第一样本图像对应的预测心脏图像分割结果和所述第一样本图像对应的心脏区域标注信息，确定所述预训练模型的第一损失函数。
具体的，可以采用交叉熵损失函数或对数损失函数等计算预训练模型的第一损失函数。
S404，基于所述第二样本图像对应的预测心脏图像分割结果，确定所述预训练模型的第二损失函数，或，基于所述第二样本图像对应的预测心脏图像分割结果和所述第二样本图像对应的心脏区域标注信息，确定所述预训练模型的第二损失函数。
如果该第二样本图像存在对应的心脏区域标注信息，可以根据该第二样本图像对应的预测心脏图像分割结果和第二样本图像对应的心脏区域标注信息，确定预训练模型的第二损失函数；如果该第二样本图像不存在对应的心脏区域标注信息，则可以基于该第二样本图像对应的预测心脏图像分割结果，确定预训练模型的第二损失函数。
具体的，可以采用交叉熵损失函数或对数损失函数等计算预训练模型的第二损失函数。
S405，根据所述第一损失函数和所述第二损失函数确定所述预训练模型的目标损失函数，并根据所述目标损失函数调整所述预训练模型的网络参数。
本步骤中，可以计算第一损失函数与第二损失函数的和，作为目标损失函数。即可以计算对第一损失函数的值与第二损失函数的值求和，将和值作为目标损失函数的值，然后根据目标损失函数的值调整预训练模型的网络参数，调整网络参数的原则是降低目标损失函数的值。
S406，确定针对所述预训练模型的迭代次数是否达到第二预设迭代次数。
第二预设迭代次数可以根据应用场景具体进行设定，通常可以设定为500或1000等。
S407，如果是，将所述预训练模型确定为目标图像分割模型。
S408，如果否，返回执行所述将包括第一样本图像和第二样本图像的样本图像组输入所述预训练模型的步骤。
具体的，在另一实施例中，所述根据各个所述第一样本图像、各个所述第一样本图像对应的心脏区域标注信息和各个第二样本图像，对所述预训练模型进行训练，得到目标图像分割模型，可以包括如下步骤B1-B5：
步骤B1，将包括第一样本图像和第二样本图像的样本图像组输入所述预训练模型，得到所述样本图像组对应的多个预测心脏图像分割结果。
步骤B1-步骤B4分别与S401-S404对应一致，此处不再赘述。
步骤B2，将各个所述预测心脏图像分割结果输入图像判别网络，确定出每个所述预测心脏图像分割结果对应的样本图像。
步骤B3，基于所述第一样本图像对应的预测心脏图像分割结果和所述第一样本图像对应的心脏区域标注信息，确定所述预训练模型的第一损失函数。
步骤B4，基于所述第二样本图像对应的预测心脏图像分割结果，确定所述预训练模型的第二损失函数。
步骤B5，根据所述第一损失函数和所述第二损失函数确定所述预训练模型的目标损失函数。
本步骤中，可以计算第一损失函数与第二损失函数的和，作为目标损失函数。即可以计算对第一损失函数的值与第二损失函数的值求和，将和值作为目标损失函数的值，然后根据目标损失函数的值调整预训练模型的网络参数，调整网络参数的原则是降低目标损失函数的值。
步骤B6，判断所述目标损失函数的值是否小于第二预设损失函数阈值。
第二预设损失函数阈值可以根据应用场景进行设定，此处不做具体限定。
步骤B7，如果是，将所述预训练模型确定为目标图像分割模型。
步骤B8，如果否，根据所述目标损失函数调整所述预训练模型的网络参数，并返回执行所述步骤B1。
本公开中，将预训练模型作为半监督方法的初始化模型，给予模型一定的起点。半监督训练过程中利用源域数据集的第一样本图像和第一样本图像的标注信息，以及目标域数据集大量没有标注信息的第二样本图像和预设数量有标注信息的第二样本图像，使模型从源域数据集和目标域数据集中提取到有效信息，帮助模型学到两个域的分布信息，学习到适合源机型和目标机型的特征分布。
在一可实施方式中，源域包括多个存在对应的心脏区域标注信息的三维图像，目标域包括多个不存在对应的心脏区域标注信息的三维图像；其中，所述源域的三维图像和所述目标域的三维图像为不同机型的图像采集设备所采集的三维医学图像；
在所述基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型之前，本公开提供的所述心脏图像分割方法还包括步骤C1：
步骤C1，将所述源域的每个三维图像切分为多个尺寸为预设尺寸的图像，作为第一样本图像；以及，将所述目标域的每个三维图像切分为多个尺寸为所述预设尺寸的图像，作为第二样本图像。
本公开中，源域中的三维图像存在对应的标注信息，而目标域中的三维图像没有对应的标注信息。源域中的三维图像和目标域中的三维图像都是3D数据，且三维图像的尺寸可以为M*M*K，其中，M为三维图像的宽度和长度，通常可以取值M＝512，K为3D数据中的二维图像的数量，K>50。为了降低训练过程中模型对硬件设备的要求，本公开中可以将三维图像切分为不同的块，降低单个样本图像所占的空间，例如，可以统一将三维图像切分为尺寸为预设尺寸的图像块，其中，预设尺寸可以设定为512*512*8，将图像块作为样本图像。源域中切分后的图像块组成了源域数据集，目标域中切分后的图像块组成了目标域数据集。通过对图像切块，也统一了来自不同机型的图像数据的输入格式。
本公开中，还可以调整源域数据集的第一样本图像和目标域数据集的第二样本图像之间的比例，通过增加无标注信息的第二样本图像的比例，为预训练模型提供更多无标注信息的样本图像的分布信息，进而提高模型在目标域上的性能，使得训练得到的目标图像分割模型可以更好地分割不同机型下的心脏区域图像。
采用本公开提供的方法，通过半监督方法训练预训练模型提升了训练得到的目标图像分割模型在没有标注的机型数据中的心脏区域图像的分割效果，并且，基于预训练模型训练得到目标图像分割模型，可以提高半监督方法在训练过程中的稳定性，而且通过使用更多无标注信息的样本数据训练预训练模型，可以提高得到的目标图像分割模型的性能，也提高了无标注信息的图像的利用率。
基于同一发明构思，根据本公开上述实施例提供的心脏图像分割方法，相应地，本公开另一实施例还提供了一种心脏图像分割装置，其结构示意图如图5所示，具体包括：
图像获取模块501，用于获取包含心脏区域的待分割医学图像；
图像分割模块502，用于将所述待分割医学图像输入目标图像分割模型，得到心脏区域图像；其中，所述目标图像分割模型为基于多个第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、多个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息训练得到的，所述第一样本图像和所述第二样本图像为不同机型的图像采集设备所采集的图像。
采用本公开的图像分割装置，目标图像分割模型是基于多个第一样本图像、各个第一样本图像对应的心脏区域标注信息和多个第二样本图像训练得到的，而第一样本图像和第二样本图像为不同机型的图像采集设备所采集的。由于本公开在训练模型的过程中不仅利用了特定机型的图像采集设备采集的第一样本图像，还利用了其他机型的图像采集设备采集的无标注信息的第二样本图像，因此训练得到的目标图像分割模型不仅可以准确分割特定机型下的医学图像，还可以对其他机型下的医学图像进行准确分割，即目标图像分割模型可以适用于各种机型下的医学图像，提升不同机型下的待分割医学图像的心脏区域图像分割准确率。
在一可实施方式中，所述装置还包括：
模型训练模块(图中未示出)，用于基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型；根据各个所述第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、各个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息，对所述预训练模型进行训练，得到目标图像分割模型。
在一可实施方式中，所述模型训练模块，具体用于将第一样本图像输入待训练神经网络，得到预测心脏图像；基于所述第一样本图像对应的心脏区域标注信息和所述预测心脏图像，确定待训练神经网络的损失函数；根据所述损失函数调整待训练神经网络的参数；确定针对待训练神经网络的迭代次数是否达到第一预设迭代次数；如果是，将待训练神经网络确定为预训练模型；如果否，返回执行所述将第一样本图像输入待训练神经网络的步骤。
在一可实施方式中，所述模型训练模块，具体用于将包括第一样本图像和第二样本图像的样本图像组输入所述预训练模型，得到所述样本图像组对应的多个预测心脏图像分割结果；将各个所述预测心脏图像分割结果输入图像判别网络，确定出每个所述预测心脏图像分割结果对应的样本图像；基于所述第一样本图像对应的预测心脏图像分割结果和所述第一样本图像对应的心脏区域标注信息，确定所述预训练模型的第一损失函数；基于所述第二样本图像对应的预测心脏图像分割结果，确定所述预训练模型的第二损失函数，或，基于所述第二样本图像对应的预测心脏图像分割结果和所述第二样本图像对应的心脏区域标注信息，确定所述预训练模型的第二损失函数；根据所述第一损失函数和所述第二损失函数确定所述预训练模型的目标损失函数，并根据所述目标损失函数调整所述预训练模型的网络参数；确定针对所述预训练模型的迭代次数是否达到第二预设迭代次数；如果是，将所述预训练模型确定为目标图像分割模型；如果否，返回执行所述将包括第一样本图像和第二样本图像的样本图像组输入所述预训练模型的步骤。
在一可实施方式中，源域包括多个存在对应的心脏区域标注信息的三维图像，目标域包括多个不存在对应的心脏区域标注信息的三维图像；其中，所述源域的三维图像和所述目标域的三维图像为不同机型的图像采集设备所采集的三维医学图像；
所述装置还包括：
图像切分模块(图中未示出)，用于将所述源域的每个三维图像切分为多个尺寸为预设尺寸的图像，作为第一样本图像；以及，将所述目标域的每个三维图像切分为多个尺寸为所述预设尺寸的图像，作为第二样本图像。
采用本公开提供的装置，通过半监督方法训练预训练模型提升了训练得到的目标图像分割模型在没有标注的机型数据中的心脏区域图像的分割效果，并且，基于预训练模型训练得到目标图像分割模型，可以提高半监督方法在训练过程中的稳定性，而且通过使用更多无标注信息的样本数据训练预训练模型，可以提高得到的目标图像分割模型的性能，也提高了无标注信息的图像的利用率。
根据本公开的实施例，本公开还提供了一种电子设备和一种可读存储介质。
图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示，设备600包括计算单元601，其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序，来执行各种适当的动作和处理。在RAM 603中，还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
设备600中的多个部件连接至I/O接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如心脏图像分割方法。例如，在一些实施例中，心脏图像分割方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时，可以执行上文描述的心脏图像分割方法的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行心脏图像分割方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或隐含地包括至少一个该特征。在本公开的描述中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。
以上所述，仅为本公开的具体实施方式，但本公开的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本公开揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本公开的保护范围之内。因此，本公开的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种心脏图像分割方法，其特征在于，所述方法包括：
获取包含心脏区域的待分割医学图像；
将所述待分割医学图像输入目标图像分割模型，得到心脏区域图像；其中，所述目标图像分割模型为基于多个第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、多个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息训练得到的，所述第一样本图像和所述第二样本图像为不同机型的图像采集设备所采集的图像。
2.根据权利要求1所述的方法，其特征在于，所述目标图像分割模型的训练方式，包括：
基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型；
根据各个所述第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、各个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息，对所述预训练模型进行训练，得到目标图像分割模型。
3.根据权利要求2所述的方法，其特征在于，所述基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型，包括：
将第一样本图像输入待训练神经网络，得到预测心脏图像；
基于所述第一样本图像对应的心脏区域标注信息和所述预测心脏图像，确定待训练神经网络的损失函数；
根据所述损失函数调整待训练神经网络的参数；
确定针对待训练神经网络的迭代次数是否达到第一预设迭代次数；
如果是，将待训练神经网络确定为预训练模型；
如果否，返回执行所述将第一样本图像输入待训练神经网络的步骤。
4.根据权利要求2或3所述的方法，其特征在于，所述根据各个所述第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、各个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息，对所述预训练模型进行训练，得到目标图像分割模型，包括：
将包括第一样本图像和第二样本图像的样本图像组输入所述预训练模型，得到所述样本图像组对应的多个预测心脏图像分割结果；
将各个所述预测心脏图像分割结果输入图像判别网络，确定出每个所述预测心脏图像分割结果对应的样本图像；
基于所述第一样本图像对应的预测心脏图像分割结果和所述第一样本图像对应的心脏区域标注信息，确定所述预训练模型的第一损失函数；
基于所述第二样本图像对应的预测心脏图像分割结果，确定所述预训练模型的第二损失函数，或，基于所述第二样本图像对应的预测心脏图像分割结果和所述第二样本图像对应的心脏区域标注信息，确定所述预训练模型的第二损失函数；
根据所述第一损失函数和所述第二损失函数确定所述预训练模型的目标损失函数，并根据所述目标损失函数调整所述预训练模型的网络参数；
确定针对所述预训练模型的迭代次数是否达到第二预设迭代次数；
如果是，将所述预训练模型确定为目标图像分割模型；
如果否，返回执行所述将包括第一样本图像和第二样本图像的样本图像组输入所述预训练模型的步骤。
5.根据权利要求2所述的方法，其特征在于，源域包括多个存在对应的心脏区域标注信息的三维图像，目标域包括多个不存在对应的心脏区域标注信息的三维图像；其中，所述源域的三维图像和所述目标域的三维图像为不同机型的图像采集设备所采集的三维医学图像；
在所述基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型之前，所述方法还包括：
将所述源域的每个三维图像切分为多个尺寸为预设尺寸的图像，作为第一样本图像；以及，将所述目标域的每个三维图像切分为多个尺寸为所述预设尺寸的图像，作为第二样本图像。
6.一种心脏图像分割装置，其特征在于，所述方法包括：
图像获取模块，用于获取包含心脏区域的待分割医学图像；
图像分割模块，用于将所述待分割医学图像输入目标图像分割模型，得到心脏区域图像；其中，所述目标图像分割模型为基于多个第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、多个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息训练得到的，所述第一样本图像和所述第二样本图像为不同机型的图像采集设备所采集的图像。
7.根据权利要求6所述的装置，其特征在于，所述装置还包括：
模型训练模块，用于基于多个第一样本图像和各个所述第一样本图像对应的心脏区域标注信息对待训练神经网络进行训练，得到预训练模型；根据各个所述第一样本图像、各个所述第一样本图像对应的心脏区域标注信息、各个第二样本图像和预设数量的第二样本图像对应的心脏区域标注信息，对所述预训练模型进行训练，得到目标图像分割模型。
8.根据权利要求7所述的装置，其特征在于，所述模型训练模块，具体用于将第一样本图像输入待训练神经网络，得到预测心脏图像；基于所述第一样本图像对应的心脏区域标注信息和所述预测心脏图像，确定待训练神经网络的损失函数；根据所述损失函数调整待训练神经网络的参数；确定针对待训练神经网络的迭代次数是否达到第一预设迭代次数；如果是，将待训练神经网络确定为预训练模型；如果否，返回执行所述将第一样本图像输入待训练神经网络的步骤。
9.一种电子设备，其特征在于，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使计算机执行根据权利要求1-5中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211605307.5A CN115841475A (zh) | 2022-12-14 | 2022-12-14 | 一种心脏图像分割方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211605307.5A CN115841475A (zh) | 2022-12-14 | 2022-12-14 | 一种心脏图像分割方法、装置、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN115841475A true CN115841475A (zh) | 2023-03-24 |
Family
ID=85578577
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211605307.5A Pending CN115841475A (zh) | 2022-12-14 | 2022-12-14 | 一种心脏图像分割方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115841475A (zh) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110148142A (zh) * | 2019-05-27 | 2019-08-20 | 腾讯科技（深圳）有限公司 | 图像分割模型的训练方法、装置、设备和存储介质 |
| CN113095475A (zh) * | 2021-03-02 | 2021-07-09 | 华为技术有限公司 | 一种神经网络的训练方法、图像处理方法以及相关设备 |
| CN113706551A (zh) * | 2021-04-14 | 2021-11-26 | 腾讯科技（深圳）有限公司 | 一种图像分割方法、装置、设备及存储介质 |
| CN114240955A (zh) * | 2021-12-22 | 2022-03-25 | 电子科技大学 | 一种半监督的跨领域自适应的图像分割方法 |
-
2022
- 2022-12-14 CN CN202211605307.5A patent/CN115841475A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110148142A (zh) * | 2019-05-27 | 2019-08-20 | 腾讯科技（深圳）有限公司 | 图像分割模型的训练方法、装置、设备和存储介质 |
| CN113095475A (zh) * | 2021-03-02 | 2021-07-09 | 华为技术有限公司 | 一种神经网络的训练方法、图像处理方法以及相关设备 |
| CN113706551A (zh) * | 2021-04-14 | 2021-11-26 | 腾讯科技（深圳）有限公司 | 一种图像分割方法、装置、设备及存储介质 |
| CN114240955A (zh) * | 2021-12-22 | 2022-03-25 | 电子科技大学 | 一种半监督的跨领域自适应的图像分割方法 |
Non-Patent Citations (1)
| Title |
|---|
| 范喜全等: "《地面无人系统原理与设计》", 西南交通大学出版社, pages: 219 * |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111625668B (zh) | 对象检测和候选过滤系统 | |
| CN112580623A (zh) | 图像生成方法、模型训练方法、相关装置及电子设备 | |
| CN112560862B (zh) | 文本识别方法、装置及电子设备 | |
| CN113674421A (zh) | 3d目标检测方法、模型训练方法、相关装置及电子设备 | |
| JP7390445B2 (ja) | 文字位置決めモデルのトレーニング方法及び文字位置決め方法 | |
| CN116109824A (zh) | 基于扩散模型的医学影像及像素级标注生成方法及装置 | |
| CN113705362A (zh) | 图像检测模型的训练方法、装置、电子设备及存储介质 | |
| CN112785493A (zh) | 模型的训练方法、风格迁移方法、装置、设备及存储介质 | |
| CN113344862A (zh) | 缺陷检测方法、装置、电子设备及存储介质 | |
| CN112580666A (zh) | 图像特征的提取方法、训练方法、装置、电子设备及介质 | |
| US20230096921A1 (en) | Image recognition method and apparatus, electronic device and readable storage medium | |
| CN115311469A (zh) | 图像标注方法、训练方法、图像处理方法以及电子设备 | |
| CN112862017B (zh) | 点云数据的标注方法、装置、设备和介质 | |
| CN113837194A (zh) | 图像处理方法、图像处理装置、电子设备以及存储介质 | |
| CN112508005A (zh) | 用于处理图像的方法、装置、设备以及存储介质 | |
| CN114882313B (zh) | 生成图像标注信息的方法、装置、电子设备及存储介质 | |
| CN113781653B (zh) | 对象模型生成方法、装置、电子设备及存储介质 | |
| CN115841475A (zh) | 一种心脏图像分割方法、装置、设备及存储介质 | |
| CN114817476A (zh) | 语言模型的训练方法、装置、电子设备和存储介质 | |
| CN113947146A (zh) | 样本数据生成方法、模型训练方法、图像检测方法及装置 | |
| CN113032071A (zh) | 页面元素定位方法、页面测试方法、装置、设备和介质 | |
| CN113658277B (zh) | 立体匹配方法、模型训练方法、相关装置及电子设备 | |
| US20220383626A1 (en) | Image processing method, model training method, relevant devices and electronic device | |
| CN118152766A (zh) | 一种数据检测方法、装置及电子设备 | |
| CN115310689A (zh) | 时序预测模型的训练方法、预测方法及相关设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB02 | Change of applicant information |
Address after: Room 3011, 2nd Floor, Building A, No. 1092 Jiangnan Road, Nanmingshan Street, Liandu District, Lishui City, Zhejiang Province, 323000 Applicant after: Zhejiang Yizhun Intelligent Technology Co.,Ltd. Address before: No. 1202-1203, 12 / F, block a, Zhizhen building, No. 7, Zhichun Road, Haidian District, Beijing 100083 Applicant before: Beijing Yizhun Intelligent Technology Co.,Ltd. |
|
| CB02 | Change of applicant information |