CN114419411A - 图像处理方法、装置、电子设备及存储介质 - Google Patents
图像处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114419411A CN114419411A CN202210107118.9A CN202210107118A CN114419411A CN 114419411 A CN114419411 A CN 114419411A CN 202210107118 A CN202210107118 A CN 202210107118A CN 114419411 A CN114419411 A CN 114419411A
- Authority
- CN
- China
- Prior art keywords
- image
- processed
- target
- fusion
- video frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/254—Fusion techniques of classification results, e.g. of results related to same input data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/251—Fusion techniques of input or preprocessed data
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种图像处理方法、装置、电子设备及存储介质。该方法包括:获取目标病灶的待处理数据;依次将所述待使用分类视频中的各待处理视频帧、所述目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像;基于预先训练好的图像分类模型对所述目标融合图像分类处理,得到与所述待处理数据相对应的分类属性特征;基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果。解决了现有技术中通过人工鉴别包括病灶的图像对应的病灶类型,导致在浪费人力的同时,鉴别效率低、准确性差的问题,实现在节省人力的同时提高与病灶信息相对应的图像分类的便捷性和有效性的效果。
Description
技术领域
本发明实施例涉及图像处理技术,尤其涉及一种图像处理方法、装置、电子设备及存储介质。
背景技术
随着计算机科学技术和医疗影像工程学的快速发展,随之出现了许多先进的医疗成像设备,为临床医学诊断提供了医学图像,这些医学图像能够反映人体结构、脏器和病变组织的相关信息。由此通过对图像中病灶进行鉴别,确定其病灶类型成为越来越常用的手段。现有技术中,通常由医师直接观察医学图像中病灶的特征对病灶类型进行鉴别。又或者为了实现图像处理的智能化,往往利用智能算法先对包括病灶的多张医学图像进行融合,得到融合图像后,再交由医师确定病灶类型。病灶类型结果通常与医生的临床经验有着密切关系,但是对于病灶信息难以鉴别的情况,例如,在数字化放射摄影(DR)图像中,有经验的医师可能也难以分辨胸腰椎压缩性骨折属于陈旧骨折还是新鲜骨折,存在浪费大量人力的同时,鉴别效率低的问题。
发明内容
本发明实施例提供一种图像处理方法、装置、电子设备及存储介质,以实现在节省人力的条件下,提高与病灶信息相对应的图像分类的便捷性和有效性的技术效果。
第一方面,本发明实施例提供了一种图像处理方法,该方法包括:
获取目标病灶的待处理数据;其中,所述待处理数据包括与所述目标病灶对应的目标静态图像和待使用分类视频,所述待使用分类视频中包括多个待处理视频帧;所述目标静态图像为区别于所述多个待处理视频帧的图像;
依次将所述待使用分类视频中的各待处理视频帧、所述目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像;其中,融合图像是基于所述图像融合模型对前一待处理视频帧、前一待处理视频帧所对应的融合图像以及所述目标静态图像融合处理后得到的;
基于预先训练好的图像分类模型对所述目标融合图像分类处理,得到与所述待处理数据相对应的分类属性特征;
基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果。
第二方面,本发明实施例还提供了一种图像处理装置,该装置包括:
待处理数据获取模块,用于获取目标病灶的待处理数据;其中,所述待处理数据包括与所述目标病灶对应的目标静态图像和待使用分类视频,所述待使用分类视频中包括多个待处理视频帧;所述目标静态图像为区别于所述多个待处理视频帧的图像;
目标融合图像获取模块,用于依次将所述待使用分类视频中的各待处理视频帧、所述目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像;其中,融合图像是基于所述图像融合模型对前一待处理视频帧、前一待处理视频帧所对应的融合图像以及所述目标静态图像融合处理后得到的;
分类属性特征获取模块,用于基于预先训练好的图像分类模型对所述目标融合图像分类处理,得到与所述待处理数据相对应的分类属性特征;
目标分类结果确定模块,用于基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果。
第三方面,本发明实施例还提供了一种电子设备,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明实施例任一所述的图像处理方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明实施例任一所述的图像处理方法。
本发明实施例的技术方案,通过获取目标病灶的待处理数据,依次将待使用分类视频中的各待处理视频帧、目标静态图像和与各待处理视频帧所对应的融合图像,输入至图像融合模型中,得到目标融合图像,进而基于图像分类模型对目标融合图像分类处理,得到与待处理数据相对应的分类属性特征,基于分类属性特征,确定与目标病灶相对应的目标分类结果,解决了现有技术中通过人工鉴别包括病灶的图像对应的病灶类型,导致在浪费人力的同时,鉴别效率低、准确性差的问题,实现了通过循环处理待使用分类视频中的各待处理视频帧与目标静态图像,实现待处理视频帧与目标静态图像的融合,得到特征丰富度高的目标融合图像,进而基于图像分类模型对目标融合图像进行智能识别,确定目标病灶对应的病灶类型,在节省人力的同时提高与病灶信息相对应的图像分类的便捷性和有效性,达到减少误诊的技术效果。
附图说明
为了更加清楚地说明本发明示例性实施例的技术方案,下面对描述实施例中所需要用到的附图做一简单介绍。显然,所介绍的附图只是本发明所要描述的一部分实施例的附图,而不是全部的附图,对于本领域普通技术人员,在不付出创造性劳动的前提下,还可以根据这些附图得到其他的附图。
图1为本发明实施例一所提供的一种图像处理方法的流程图;
图2为本发明实施例二所提供的一种图像处理方法的示意图;
图3为本发明实施例二所提供的一种图像处理方法的示意图;
图4为本发明实施例二所提供的一种图像处理方法的示意图;
图5为本发明实施例三所提供的一种图像处理方法的示意图;
图6为本发明实施例三所提供的一种图像处理方法的示意图;
图7为本发明实施例三所提供的一种图像处理方法的示意图;
图8为本发明实施例四所提供的一种图像处理装置的结构框图;
图9为本发明实施例五所提供的一种电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一所提供的一种图像处理方法的流程图,本实施例可适用于对图像进行分类的情况,该方法可以由本发明实施例中的图像处理装置来执行,该装置可以采用软件和/或硬件的方式来实现,可选的,通过电子设备来实现,该电子设备可以是移动终端、PC端或服务端等。该装置可配置于计算设备中,本实施例提供的图像处理方法具体包括如下步骤:
S110、获取目标病灶的待处理数据。
其中,所述待处理数据包括与所述目标病灶对应的目标静态图像和待使用分类视频,所述待使用分类视频中包括多个待处理视频帧;所述目标静态图像为区别于所述多个待处理视频帧的图像。目标病灶是指希望采集综合病症、感染的任意部位信息,如,可以为血管病灶,也可以为角膜炎病灶,如,眼部角膜的某一部分被炎症感染,这部分是角膜炎病灶。目标静态图像可以理解为需要被处理的图像,此图像可以是基于应用软件采集的图像,也可以是应用软件从存储空间中预先存储的图像。在实际应用中,可以基于应用软件拍摄包括目标病灶的图像,此时可以基于对图像进行处理,确定目标病灶对应的病灶类型。待使用分类视频可以是由大型医疗影像设备包括CT、核磁、PET-CT、裂隙灯、荧光血管造影等设备或小型影像设备产生的影像数据,可以为DICOM格式的数据,也可以为AVI格式的数据。在实际应用中,可以利用裂隙灯对患者眼底进行拍摄,得到包括眼底病灶的视频影像,作为待使用分类视频,此时可以基于对视频进行处理,得到患者眼底病灶的病灶类型。
具体的,可以利用摄像装置对目标病灶进行拍摄,得到包括目标病灶的目标静态图像,作为待处理数据。还可以利用影像装置对目标病灶进行拍摄,得到包括目标病灶的待使用分类视频,作为待处理数据。可以接收多路待处理数据的输入,此时输入数据皆为某个目标病灶对应的数据,其中可以包含视频形式的序列数据,也就是待使用分类视频,也可以包含图像形式的静态数据,也就是目标静态图像。以使系统可以根据内部的模型算法对各路待处理数据进行处理,得到目标病灶对应的病灶类型。
S120、依次将所述待使用分类视频中的各待处理视频帧、所述目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像。
其中,融合图像是基于图像融合模型对前一待处理视频帧、前一待处理视频帧所对应的融合图像以及目标静态图像融合处理后得到的。图像融合模型可以理解为预先训练好的,用于对输入的各路待处理数据进行融合的模型。
在实际应用中,可以将待使用分类视频中的各待处理视频帧依次输入至图像融合模型中,如,第1帧、第2帧、第3帧、第4帧依次输入。同时也可以将目标静态图像输入至图像融合模型中,此时可以对第1帧待处理视频帧与目标静态图像进行融合处理,可以得到第1帧对应的融合图像,进而可以对第2帧待处理视频帧、目标静态图像与第1帧对应的融合图像进行融合处理,得到第2帧对应的融合图像。相应的,可以对最后一帧对应的待处理视频帧、目标静态图像与前一帧对应的融合图像进行融合处理,得到融合图像,可以将此时的融合图像作为目标融合图像,以基于目标融合图像确定目标病灶对应的病灶类型,提高图像分类的准确性。
需要说明的是,为了提高图像在空间上融合的准确性,在依次将待使用分类视频中的各待处理视频帧、目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像之前,可以对输入的待使用分类视频中的各待处理视频帧和目标静态图像进行处理,如,降采样处理,可以利用降采样技术降低待处理视频帧和目标静态图像对应的数据大小,提高数据在空间上的集中性,可以将集中处理后的待处理视频帧和目标静态图像输入至图像融合模型中,得到目标融合图像。
可选的,在依次将待使用分类视频中的各待处理视频帧、目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像之前,包括:将待使用分类视频中的各待处理视频帧和目标静态图像输入至对应的图像预处理子模型中,得到处理后的各待处理视频帧和目标静态图像;
其中,图像预处理子模型,用于减小待处理视频帧和目标静态图像的尺寸以及增加待处理视频帧和目标静态图像的特征层数。在实际应用中,可以预先为输入的待处理视频帧和目标静态图像配置好对应的图像预处理子模型,例如,利用某个摄像装置A拍摄得到的目标静态图像,可以对应一个图像预处理子模型A,该模型用于减小目标静态图像的尺寸以及增加目标静态图像的特征层数。利用某个裂隙灯B拍摄得到的待使用分类视频,可以对应一个图像预处理子模型B。利用某个荧光血管造影C拍摄得到的待使用分类视频,可以对应一个图像预处理子模型C。需要说明的是,每个待使用分类视频和/或目标静态图像均可以对应一个图像预处理子模型,也可以由技术人员根据实际工作情况进行确定,本技术方案对此不做限定。可选的,各图像预处理子模型均可以为4~8层的CNN(ConvolutionalNeural Networks,卷积神经网络),CNN架构为每2~4层一个单元,单元间设降采样层。例如,可以将待使用分类视频中的各待处理视频帧和目标静态图像输入至对应的图像预处理子模型中,图像尺寸可以变为原来的1/4,特征层数可以增加到64层以上。
具体的,可以将待使用分类视频中的各待处理视频帧作为待使用分类视频对应的图像预处理子模型的输入,可以输出图像尺寸可以缩小为原来的1/4,特征层数可以增加到64层以上的各待处理视频帧。还可以将目标静态图像作为对应的图像预处理子模型的输入,可以得到图像尺寸减小和特征层数增加后的目标静态图像。以将处理后的各待处理视频帧和目标静态图像输入至图像融合模型,可以提高图像融合的准确度。
S130、基于预先训练好的图像分类模型对所述目标融合图像分类处理,得到与所述待处理数据相对应的分类属性特征。
其中,图像分类模型可以理解为预设的、用于对图像进行分类的模型。分类属性特征可以理解为分类结果对应的特征值。
在本实施例中,可以将目标病灶对应的目标融合图像输入至预先训练好的图像分类模型,可以根据预设的病灶类型要求输出预设分类数量的分类结果以及对应的特征值。例如,假设预设分类结果为病症正常、病症初期两项,则此时的图像分类模型为二分类模型,如,可以输出病症正常对应的概率值80%,可以将80%作为分类属性特征。还可以输出病症初期对应的概率值20%,也可以将20%作为分类属性特征。相应的,可以得到预设的各分类结果对应的分类属性特征,以基于各分类属性特征确定出最终的分类结果。
S140、基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果。
其中,预设分类结果可以为病症正常、病症初期、病症中期和病症晚期中至少一个。可选的,目标分类结果中可以包括病症正常、病症初期、病症中期或病症晚期。需要说明的是,预设分类结果可以由技术人员根据实际工作情况进行确定,本技术方案对此不做限定。
具体的,当得到各预设分类结果和对应的分类属性特征之后,可以将各分类属性特征进行比对处理,如,假设得到病症正常对应的分类属性特征1为80%、病症初期对应的分类属性特征2为20%,则可以将最大值80%对应的病症正常,作为与目标病灶相对应的目标分类结果。
本实施例的技术方案,通过获取目标病灶的待处理数据,依次将待使用分类视频中的各待处理视频帧、目标静态图像和与各待处理视频帧所对应的融合图像,输入至图像融合模型中,得到目标融合图像,进而基于图像分类模型对目标融合图像分类处理,得到与待处理数据相对应的分类属性特征,基于分类属性特征,确定与目标病灶相对应的目标分类结果,解决了现有技术中通过人工鉴别包括病灶的图像对应的病灶类型,导致在浪费人力的同时,鉴别效率低、准确性差的问题,实现了通过循环处理待使用分类视频中的各待处理视频帧与目标静态图像,实现待处理视频帧与目标静态图像的融合,得到特征丰富度高的目标融合图像,进而基于图像分类模型对目标融合图像进行智能识别,确定目标病灶对应的病灶类型,在节省人力的同时提高与病灶信息相对应的图像分类的便捷性和有效性,达到减少误诊的技术效果。
实施例二
图2为本发明实施例二所提供的一种图像处理方法的示意图,在前述实施例的基础上,对S120做进一步的细化。其具体的实施方式可以参见本实施例技术方案。其中,与上述实施例相同或者相应的技术术语在此不再赘述。
如图2所示,该方法具体包括如下步骤:
S210、获取目标病灶的待处理数据。
S220、将所述待使用分类视频中的第一个待处理视频帧和目标静态图像输入至图像融合模型中,得到与所述第一个待处理视频帧相对应的第一融合图像,作为当前融合图像。
在本实施例中,当依次将待使用分类视频中的各待处理视频帧、目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中时,首先可以将待使用分类视频中的第一个待处理视频帧作为第一个待处理视频帧和目标静态图像输入至图像融合模型中,可以对第一个待处理视频帧和目标静态图像进行融合处理,进而得到与第一个待处理视频帧相对应的融合图像,即第一融合图像,此时可以将第一融合图像作为当前融合图像,以使进一步得到当前融合图像、待使用分类视频中的第二个待处理视频帧和目标静态图像对应的融合图像。
需要说明的是,在上述技术方案的基础上,为了清楚的介绍图像融合模型如何确定第一个待处理视频帧和目标静态图像的第一融合图像,参见图3,其中图3中的框1可以表示为图像融合模型。可选的,图像融合模型中可以包括权重分配子模型、目标融合子模型和特征加工子模型。权重分配子模型用于确定各路待处理数据的融合权重值。目标融合子模型用于对各路待处理数据进行融合,输出融合图像。特征加工子模型用于减小融合图像的尺寸以及增加融合图像的特征层数,可选的,特征加工子模型可以为8~16层的CNN,CNN架构中每4层一个单元,单元间设置降采样层。在实际应用中,可以将待使用分类视频中的第一个待处理视频帧和目标静态图像作为权重分配子模型的输入,输出第一个待处理视频帧对应的融合权重值和目标静态图像对应的融合权重值。可以将第一个待处理视频帧和目标静态图像以及对应的融合权重值的目标融合子模型输入,此时目标融合子模型可采用多种融合形式,例如,可以将图像与对应的融合权重值进行加权求和,也可以将图像与对应的融合权重值进行加权平均。相应的,可以得到与第一个待处理视频帧相对应的融合图像,此时可以将该融合图像作为特征加工子模型的输入,输出减小尺寸以及增加特征层数处理后的融合图像,作为第一融合图像。
在上述技术方案的基础上,为了清楚的介绍权重分配子模型如何确定第一个待处理视频帧和目标静态图像的融合权重值,参见图4,图4中的框2可以表示为权重分配子模型。可选的,权重分配子模型可以包括特征预处理模块、特征映射模块、归一化模块和权重分配模块。其中,如图4中的框3可以表示为特征预处理模块,特征预处理模块包括特征压缩子模块和空间划分子模块。特征压缩子模块用于对待处理数据进行压缩处理,得到待处理数据对应的全图特征数据,例如,待处理数据为64×64×64格式的数据,特征压缩处理后的全图特征数据可以为一维向量特征数据。空间划分子模块用于对待处理数据进行划分处理,得到待处理数据对应的空间特征数据,例如,待处理数据为64×64×64的数据,若按空间被划分为若干小块,如,4×4×4块,则每小块为16×16×16。需要说明的是,为了提高图像融合的准确性,图像划分的小块数量应该在8×8×8以上。在实际应用中,可以将第一个待处理视频帧以及目标静态图像作为特征预处理模块的输入,输出第一个待处理视频帧以及目标静态图像对应的全图特征数据和空间特征数据,进而可以将目标静态图像对应的全图特征数据和第一个待处理视频帧对应的空间特征数据作为特征映射模块的输入,可选的,特征映射模块可采用多层全连接神经网络。通过投射层计算目标静态图像对第一个待处理视频帧的注意力数据,如,将每个小块数据和全图特征数据进行结合后得到注意力数据,此时该注意力数据也是空间上分为多个小块的。相应的,也可以得到第一个待处理视频帧对目标静态图像的注意力数据。可以将两个注意力数据作为归一化模块的输入,可选的,归一化模块可以为softmax(逻辑回归模型),可以利用softmax实现归一化,例如,以每个注意力数据小块为基础,在不同小块上图像间的比例不是相同的,可根据图像不同地方的特征进行自动调整,相应的,各注意力数据中坐标位置相同的小块的和为1。可以得到被归一化处理的注意力数据。可以将归一化处理后的注意力数据作为权重分配模块,可以输出第一个待处理视频帧对应的融合权重值和目标静态图像对应的融合权重值,以使后续将第一个待处理视频帧、目标静态图像以及对应的融合权重值输入至目标融合子模型中,得到与第一待处理视频帧相对应的第一融合图像,并作为当前融合图像。
S230、将所述当前融合图像、所述待使用分类视频中的第二个待处理视频帧以及所述目标静态图像,作为所述图像融合模型的输入,得到与第二个待处理视频帧所对应的第二融合图像,并将所述第二融合图像更新为所述当前融合图像。
具体的,可以将当前融合图像、待使用分类视频中的第二个待处理视频帧以及目标静态图像输入至图像融合模型,对当前融合图像、第二个待处理视频帧以及目标静态图像三者进行融合处理,进而可以得到与第二个待处理视频帧所对应的融合图像,即第二融合图像,此时可以将第二融合图像作为新的当前融合图像。
需要说明的是,将当前融合图像、待使用分类视频中的第二个待处理视频帧和目标静态图像作为图像融合模型的输入,得到与第二个待处理视频帧所对应的第二融合图像,并将第二融合图像更新为当前融合图像,还可以基于权重分配子模型确定出当前融合图像、待使用分类视频中的第二个待处理视频帧以及目标静态图像三者对应的融合权重值,以基于融合权重值确定第二融合图像。
可选的,将当前融合图像、待使用分类视频中的第二个待处理视频帧以及目标静态图像,作为图像融合模型的输入,得到与第二个待处理视频帧所对应的第二融合图像,并将第二融合图像更新为所述当前融合图像,包括:将当前融合图像、待使用分类视频中的第二个待处理视频帧以及目标静态图像输入至权重分配子模型中,得到当前融合图像、第二个待处理视频帧以及目标静态图像对应的融合权重值;将当前融合图像、第二个待处理视频帧、目标静态图像以及对应的融合权重值输入至目标融合子模型中,得到与第二个待处理视频帧相对应的当前待使用融合图像;将当前待使用融合图像输入至特征加工子模型中,得到与第二个待处理视频帧相对应的第二融合图像,并将第二融合图像更新为当前融合图像。
在本实施例中,在将第一个待处理视频帧对应的第一融合图像作为当前融合图像之后,可以将此时的当前融合图像、待使用分类视频中的第二个待处理视频帧以及目标静态图像作为权重分配子模型的输入,输出当前融合图像、第二个待处理视频帧以及目标静态图像对应的融合权重值。可以将当前融合图像、第二个待处理视频帧、目标静态图像以及对应的融合权重值作为目标融合子模型的输入,可以得到与第二个待处理视频帧相对应的融合图像,即当前待使用融合图像。此时可以将当前待使用融合图像作为特征加工子模型的输入,得到与第二个待处理视频帧相对应的融合图像,即第二融合图像,可以将第二融合图像作为新的当前融合图像,以使后续基于新的当前融合图像确定出第三个待处理视频帧相对应的融合图像。
在上述技术方案的基础上,为了清楚的介绍权重分配子模型如何确定当前融合图像、第二个待处理视频帧和目标静态图像的融合权重值。可选的,将当前融合图像、待使用分类视频中的第二个待处理视频帧以及目标静态图像输入至权重分配子模型中,得到当前融合图像、第二个待处理视频帧以及目标静态图像对应的融合权重值,包括:将当前融合图像、待使用分类视频中的第二个待处理视频帧以及目标静态图像输入至特征预处理模块,得到当前融合图像、第二个待处理视频帧和目标静态图像对应的全图特征数据和空间特征数据;将当前融合图像、第二个待处理视频帧和目标静态图像对应的全图特征数据和空间特征数据输入至特征映射模块,得到当前融合图像、第二个待处理视频帧和目标静态图像对应的待处理注意力数据;将当前融合图像、第二个待处理视频帧和目标静态图像对应的待处理注意力数据输入至归一化模块,得到当前融合图像、第二个待处理视频帧和目标静态图像对应的目标注意力数据;基于权重分配模块对当前融合图像、第二个待处理视频帧和目标静态图像对应的目标注意力数据进行处理,得到当前融合图像、第二个待处理视频帧和目标静态图像对应的融合权重值。
在本实施例中,可以将当前融合图像、待使用分类视频中的第二个待处理视频帧以及目标静态图像作为特征预处理模块的输入,输出当前融合图像、第二个待处理视频帧和目标静态图像对应的全图特征数据和空间特征数据。可以将当前融合图像、第二个待处理视频帧和目标静态图像对应的全图特征数据和空间特征数据输入至特征映射模块,得到当前融合图像、第二个待处理视频帧和目标静态图像对应的注意力数据,即待处理注意力数据。可以将当前融合图像、第二个待处理视频帧和目标静态图像对应的待处理注意力数据作为归一化模块的输入,如,可以将这六个注意力数据中坐标位置对应的小块处理为和为1,可以得到归一化处理后的六个注意力数据。也就是说,可以得到当前融合图像、第二个待处理视频帧和目标静态图像对应的归一化处理后的注意力数据,即目标注意力数据。可以将各目标注意力数据输入至权重分配模块中,可以得到当前融合图像、第二个待处理视频帧和目标静态图像对应的融合权重值,以使后续基于融合权重值,确定第二个待处理视频帧对应的第二融合图像。
需要说明的是,将当前待使用融合图像输入至特征加工子模型中,得到与第二个待处理视频帧相对应的第二融合图像,并将第二融合图像更新为当前融合图像,为了保证当前融合图像与第三个待处理视频帧与目标静态图像进行融合处理时,三者的图像均为统一规格的图像,可选的,在得到当前融合图像时,可以对该图像进行处理,如,特征加工处理,可以利用算法将当前融合图像处理成与待处理视频帧、目标静态图像格式相一致,提高融合的效率。
可选的,将当前待使用融合图像输入至特征加工子模型中,得到与第二个待处理视频帧相对应的第二融合图像,并将第二融合图像更新为当前融合图像,还包括:将当前待使用融合图像输入至特征加工子模型中,得到与第二个待处理视频帧相对应的第二待处理融合图像;若第二个待处理视频帧不为待使用分类视频中的最后一个待处理视频帧,则将第二待处理融合图像进行升采样处理,得到第二融合图像,并将第二融合图像更新为当前融合图像。
在本实施例中,可以将当前待使用融合图像输入至特征加工子模型中,得到与第二个待处理视频帧相对应的第二待处理融合图像,此时若第二个待处理视频帧为待使用分类视频中的最后一个待处理视频帧,则可以将第二融合图像作为最终的目标融合图像。若第二个待处理视频帧不为待使用分类视频中的最后一个待处理视频帧,则可以利用升采样算法对第二待处理融合图像进行升采样处理,如使第二待处理融合图像的图像尺寸与第三个待处理视频帧的图像尺寸,可以将升采样处理后的图像作为第二融合图像,可以将此时的第二融合图像作为当前融合图像,直至计算到待使用分类视频中的最后一个待处理视频帧,得到目标融合图像结束。
S240、依次对各待处理视频帧执行将前一视频帧所对应的当前融合图像、当前待处理视频帧以及所述目标静态图像作为所述图像融合模型的输入,得到目标融合图像。
在本实施例中,可以依次对各待处理视频帧执行将前一视频帧所对应的当前融合图像、当前待处理视频帧以及目标静态图像作为图像融合模型的输入,以基于图像融合模型循环对输入的图像进行处理,得到目标融合图像。例如,在实际应用中,某个待使用分类视频中包括各帧依次在时间t1、t2、t3、...、tn的待处理视频帧,其中,n为一个正常的自然数,t1对应的视频帧为第一个待处理视频帧,t2对应的视频帧为第二个待处理视频帧,tn对应的视频帧为最后一个待处理视频帧。首先可以将第一个待处理视频帧和目标静态图像作为图像融合模型的输入,得到对应的第一融合图像。进而可以将第一融合图像作为当前融合图像与第二个待处理视频帧和目标静态图像作为图像融合模型的输入,得到对应的第二融合图像。依次每一步的最后处理得到的融合图像循环输入图像融合模型,同步输入下一步的待处理视频帧,相应的,可以得到最终的最后一个待处理视频帧对应的融合图像,作为目标融合图像。
在实际应用中,在将待使用分类视频和目标静态图像输入图像融合模型之前,还可以预先配置不同数据类型的待处理数据对应的类型标识,存储至待处理数据类型指示库中。例如,待使用分类视频的类型标识为动态,目标静态图像的类型标识为静态。以使在将待使用分类视频和目标静态图像输入图像融合模型时,根据界面上的用户的选择,从预存的形态特征库中查找对应的标识,与待处理数据共同输入,为模型处理数据提供指导,提高数据处理的效率。
S250、基于预先训练好的图像分类模型对所述目标融合图像分类处理,得到与所述待处理数据相对应的分类属性特征。
S260、基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果。
本实施例的技术方案,通过获取目标病灶的待处理数据,依次将待使用分类视频中的各待处理视频帧、目标静态图像和与各待处理视频帧所对应的融合图像,输入至图像融合模型中,得到目标融合图像,进而基于图像分类模型对目标融合图像分类处理,得到与待处理数据相对应的分类属性特征,基于分类属性特征,确定与目标病灶相对应的目标分类结果,解决了现有技术中通过人工鉴别包括病灶的图像对应的病灶类型,导致在浪费人力的同时,鉴别效率低、准确性差的问题,实现了通过循环处理待使用分类视频中的各待处理视频帧与目标静态图像,实现待处理视频帧与目标静态图像的融合,得到特征丰富度高的目标融合图像,进而基于图像分类模型对目标融合图像进行智能识别,确定目标病灶对应的病灶类型,在节省人力的同时提高与病灶信息相对应的图像分类的便捷性和有效性,达到减少误诊的技术效果。
实施例三
作为上述实施例的一可选实施例,图5为本发明实施例三所提供的一种图像处理方法的示意图。具体的,可以参见下述具体内容。
参见图5,可以将待使用分类视频中的第一待处理视频帧和目标静态图像输入至对应的图像预处理子模型中,如,各个图像预处理子模型为4~8层的CNN网络,架构为每2~4层一个单元,单元间设降采样层。第一待处理视频帧和目标静态图像经过各自特定的图像预处理子模型,图像尺寸可以变为原来的1/4,特征层数达到64以上。进一步的,可以将图像预处理子模型的输出作为特征预处理模块的输入,其中,特征预处理模块包括特征压缩子模块和空间化分子模型,可以输出第一待处理视频帧和目标静态图像所对应的全局特征数据和空间特征数据,例如,第一待处理视频帧的图像特征数据按空间被分为若干小块,得到第一待处理视频帧对应的空间特征数据。进一步的,可以将第一待处理视频帧和目标静态图像所对应的全局特征数据和空间特征数据输入至特征映射模块,可选的,特征映射模块可采用多层全连接神经网络。例如,通过投射层实现,如,空间特征数据中每个小块和图像的全局特征进行结合后得到注意力值,作为注意力数据。此时第一待处理视频帧对目标静态图像的注意力数据也是分为多个小块的。采用相同的方法实现模块目标静态图像对第一待处理视频帧的注意力数据。相应的,可以得到第一待处理视频帧和目标静态图像所对应的注意力数据。进一步的,可以将第一待处理视频帧和目标静态图像所对应的注意力数据输入至归一化模块,可选的,归一化模块可以为softmax,两个注意力数据可以通过softmax实现归一化,例如,以每个图像小块为基础,也就是在不同小块上图像间的比例不是相同的,可根据图像不同地方的特征进行自动调整。图像划分的小块数量应该在8x8以上。相应的,可以得到归一化处理后的注意力数据,可以将处理后的注意力数据输入至权重分配模块中,得到第一待处理视频帧和目标静态图像对应的融合权重值,其中,两者的融合权重值和为1。融合权重值作为融合的指导,将第一待处理视频帧和目标静态图像和对应的融合权重值输入目标融合子模型中变成一个数据,例如,目标融合子模型可采用多种形式,如利用融合比例值进行加权求和。可以将该数据输入至特征加工子模型中,输出第一融合图像。特征加工子模型可以为8~16层的CNN,CNN每4层一个单元,单元间设降采样层。
在上述技术方案的基础上,参见图6。在得到第一融合图像之后,可以将第一融合图像作为当前融合图像和第二个待处理视频帧以及目标静态图像输入至权重分配子模块中,输出当前融合图像、第二个待处理视频帧和目标静态图像所对应的融合权重值(三者融合权重值和为1)。进一步的,可以将当前融合图像、第二个待处理视频帧和目标静态图像和对应的融合权重值输入至目标融合子模型,目标融合子模型的输出作为特征加工子模型的输入,得到第二个待处理视频帧对应的第二融合图像,此时若第二融合图像不为最后一个待处理视频帧对应的融合图像,则可以将该融合图像进行升采样处理,使融合图像与下一个待处理视频帧的图像格式相一致。可以将升采样处理后的融合图像作为当前融合图像。返回至权重分配子模块中,与第三个待处理视频帧和目标静态图像一共再经各模型进行处理,直至特征加工子模型输出的融合图像最后一个待处理视频帧对应的融合图像结束,可以该将融合图像作为目标融合图像。可以将目标融合图像作为图像分类模型的输入,可选的,图像分类模型可以为3层全连接层,最终得到目标融合图像对应的分类结果。
在上述技术方案的基础上,参见图7。可以预先配置不同数据类型的待处理数据对应的类型标识,存储至待处理数据类型指示库中,例如,待使用分类视频的类型标识为动态,目标静态图像的类型标识为静态。在将待使用分类视频和目标静态图像输入图像融合模型时,根据界面上的用户的选择,从预存的形态特征库中查找对应的标识,与待处理数据共同输入,为模型处理数据提供指导,提高数据处理的效率。
本实施例的技术方案,通过获取目标病灶的待处理数据,依次将待使用分类视频中的各待处理视频帧、目标静态图像和与各待处理视频帧所对应的融合图像,输入至图像融合模型中,得到目标融合图像,进而基于图像分类模型对目标融合图像分类处理,得到与待处理数据相对应的分类属性特征,基于分类属性特征,确定与目标病灶相对应的目标分类结果,解决了现有技术中通过人工鉴别包括病灶的图像对应的病灶类型,导致在浪费人力的同时,鉴别效率低、准确性差的问题,实现了通过循环处理待使用分类视频中的各待处理视频帧与目标静态图像,实现待处理视频帧与目标静态图像的融合,得到特征丰富度高的目标融合图像,进而基于图像分类模型对目标融合图像进行智能识别,确定目标病灶对应的病灶类型,在节省人力的同时提高与病灶信息相对应的图像分类的便捷性和有效性,达到减少误诊的技术效果。
实施例四
图8为本发明实施例四提供的一种图像处理装置的结构框图。该装置包括:待处理数据获取模块310、目标融合图像获取模块320、分类属性特征获取模块330和目标分类结果确定模块340。
其中,待处理数据获取模块310,用于获取目标病灶的待处理数据;其中,所述待处理数据包括与所述目标病灶对应的目标静态图像和待使用分类视频,所述待使用分类视频中包括多个待处理视频帧;所述目标静态图像为区别于所述多个待处理视频帧的图像;目标融合图像获取模块320,用于依次将所述待使用分类视频中的各待处理视频帧、所述目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像;其中,融合图像是基于所述图像融合模型对前一待处理视频帧、前一待处理视频帧所对应的融合图像以及所述目标静态图像融合处理后得到的;分类属性特征获取模块330,用于基于预先训练好的图像分类模型对所述目标融合图像分类处理,得到与所述待处理数据相对应的分类属性特征;目标分类结果确定模块340,用于基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果。
本实施例的技术方案,通过获取目标病灶的待处理数据,依次将待使用分类视频中的各待处理视频帧、目标静态图像和与各待处理视频帧所对应的融合图像,输入至图像融合模型中,得到目标融合图像,进而基于图像分类模型对目标融合图像分类处理,得到与待处理数据相对应的分类属性特征,基于分类属性特征,确定与目标病灶相对应的目标分类结果,解决了现有技术中通过人工鉴别包括病灶的图像对应的病灶类型,导致在浪费人力的同时,鉴别效率低、准确性差的问题,实现了通过循环处理待使用分类视频中的各待处理视频帧与目标静态图像,实现待处理视频帧与目标静态图像的融合,得到特征丰富度高的目标融合图像,进而基于图像分类模型对目标融合图像进行智能识别,确定目标病灶对应的病灶类型,在节省人力的同时提高与病灶信息相对应的图像分类的便捷性和有效性,达到减少误诊的技术效果。
在上述装置的基础上,可选的,所述装置还包括:图像预处理模块。
图像预处理模块,用于将所述待使用分类视频中的各待处理视频帧和目标静态图像输入至对应的图像预处理子模型中,得到处理后的各待处理视频帧和目标静态图像;其中,所述图像预处理子模型,用于减小所述待处理视频帧和目标静态图像的尺寸以及增加所述待处理视频帧和目标静态图像的特征层数。
在上述装置的基础上,可选的,所述目标融合图像获取模块320,包括当前融合图像确定单元、当前融合图像更新单元和目标融合图像确定单元。
当前融合图像确定单元,用于将所述待使用分类视频中的第一个待处理视频帧和目标静态图像输入至图像融合模型中,得到与所述第一个待处理视频帧相对应的第一融合图像,作为当前融合图像;
当前融合图像更新单元,用于将所述当前融合图像、所述待使用分类视频中的第二个待处理视频帧以及所述目标静态图像,作为所述图像融合模型的输入,得到与第二个待处理视频帧所对应的第二融合图像,并将所述第二融合图像更新为所述当前融合图像;
目标融合图像确定单元,用于依次对各待处理视频帧执行将前一视频帧所对应的当前融合图像、当前待处理视频帧以及所述目标静态图像作为所述图像融合模型的输入,得到目标融合图像。
在上述装置的基础上,可选的,所述图像融合模型中包括权重分配子模型、目标融合子模型和特征加工子模型,所述当前融合图像更新单元,包括融合权重值确定子单元、当前待使用融合图像确定子单元和当前融合图像更新子单元。
融合权重值确定子单元,用于将所述当前融合图像、待使用分类视频中的第二个待处理视频帧以及所述目标静态图像输入至所述权重分配子模型中,得到所述当前融合图像、第二个待处理视频帧以及所述目标静态图像对应的融合权重值;
当前待使用融合图像确定子单元,用于将所述当前融合图像、第二个待处理视频帧、目标静态图像以及对应的融合权重值输入至所述目标融合子模型中,得到与所述第二个待处理视频帧相对应的当前待使用融合图像;
当前融合图像更新子单元,用于将所述当前待使用融合图像输入至所述特征加工子模型中,得到与所述第二个待处理视频帧相对应的第二融合图像,并将所述第二融合图像更新为所述当前融合图像。
在上述装置的基础上,可选的,所述权重分配子模型包括特征预处理模块、特征映射模块、归一化模块和权重分配模块,所述融合权重值确定子单元,包括特征预处理小单元、待处理注意力数据确定小单元、目标注意力数据确定小单元和融合权重值确定小单元。
特征预处理小单元,用于将所述当前融合图像、待使用分类视频中的第二个待处理视频帧以及目标静态图像输入至所述特征预处理模块,得到所述当前融合图像、第二个待处理视频帧和目标静态图像对应的全图特征数据和空间特征数据;
待处理注意力数据确定小单元,用于将所述当前融合图像、第二个待处理视频帧和目标静态图像对应的全图特征数据和空间特征数据输入至所述特征映射模块,得到所述当前融合图像、第二个待处理视频帧和目标静态图像对应的待处理注意力数据;
目标注意力数据确定小单元,用于将所述当前融合图像、第二个待处理视频帧和目标静态图像对应的待处理注意力数据输入至所述归一化模块,得到所述当前融合图像、第二个待处理视频帧和目标静态图像对应的目标注意力数据;
融合权重值确定小单元,用于基于所述权重分配模块对所述当前融合图像、第二个待处理视频帧和目标静态图像对应的目标注意力数据进行处理,得到所述当前融合图像、第二个待处理视频帧和目标静态图像对应的融合权重值。
在上述装置的基础上,可选的,所述当前融合图像更新子单元,包括第二待处理融合图像确定小单元和当前融合图像更新小单元。
第二待处理融合图像确定小单元,用于将所述当前待使用融合图像输入至所述特征加工子模型中,得到与所述第二个待处理视频帧相对应的第二待处理融合图像;
当前融合图像更新小单元,用于若所述第二个待处理视频帧不为待使用分类视频中的最后一个待处理视频帧,则对所述第二待处理融合图像进行升采样处理,得到第二融合图像,并将所述第二融合图像更新为所述当前融合图像。
在上述装置的基础上,可选的,所述目标分类结果确定模块340,包括目标分类结果确定单元。
目标分类结果确定单元,用于基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果;其中,目标分类结果中包括病症正常、病症初期、病症中期或病症晚期。
本发明实施例所提供的图像处理装置可执行本发明任意实施例所提供的图像处理方法,具备执行方法相应的功能模块和有益效果。
值得注意的是,上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明实施例的保护范围。
实施例五
图9为本发明实施例五提供的一种电子设备的结构示意图。图9示出了适于用来实现本发明实施例实施方式的示例性电子设备40的框图。图9显示的电子设备40仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图9所示,电子设备40以通用计算设备的形式表现。电子设备40的组件可以包括但不限于:一个或者多个处理器或者处理单元401,系统存储器402,连接不同系统组件(包括系统存储器402和处理单元401)的总线403。
总线403表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
电子设备40典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备40访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器402可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)404和/或高速缓存存储器405。电子设备40可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统406可以用于读写不可移动的、非易失性磁介质(图9未显示,通常称为“硬盘驱动器”)。尽管图9中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线403相连。存储器402可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块407的程序/实用工具408,可以存储在例如存储器402中,这样的程序模块407包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块407通常执行本发明所描述的实施例中的功能和/或方法。
电子设备40也可以与一个或多个外部设备409(例如键盘、指向设备、显示器410等)通信,还可与一个或者多个使得用户能与该电子设备40交互的设备通信,和/或与使得该电子设备40能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口411进行。并且,电子设备40还可以通过网络适配器412与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器412通过总线403与电子设备40的其它模块通信。应当明白,尽管图9中未示出,可以结合电子设备40使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元401通过运行存储在系统存储器402中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的图像处理方法。
实施例六
本发明实施例六还提供一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行一种图像处理方法。该方法包括:
获取目标病灶的待处理数据;其中,所述待处理数据包括与所述目标病灶对应的目标静态图像和待使用分类视频,所述待使用分类视频中包括多个待处理视频帧;所述目标静态图像为区别于所述多个待处理视频帧的图像;
依次将所述待使用分类视频中的各待处理视频帧、所述目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像;其中,融合图像是基于所述图像融合模型对前一待处理视频帧、前一待处理视频帧所对应的融合图像以及所述目标静态图像融合处理后得到的;
基于预先训练好的图像分类模型对所述目标融合图像分类处理,得到与所述待处理数据相对应的分类属性特征;
基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明实施例操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种图像处理方法,其特征在于,包括:
获取目标病灶的待处理数据;其中,所述待处理数据包括与所述目标病灶对应的目标静态图像和待使用分类视频,所述待使用分类视频中包括多个待处理视频帧;所述目标静态图像为区别于所述多个待处理视频帧的图像;
依次将所述待使用分类视频中的各待处理视频帧、所述目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像;其中,融合图像是基于所述图像融合模型对前一待处理视频帧、前一待处理视频帧所对应的融合图像以及所述目标静态图像融合处理后得到的;
基于预先训练好的图像分类模型对所述目标融合图像分类处理,得到与所述待处理数据相对应的分类属性特征;
基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果。
2.根据权利要求1所述的方法,其特征在于,在所述依次将所述待使用分类视频中的各待处理视频帧、所述目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像之前,包括:
将所述待使用分类视频中的各待处理视频帧和目标静态图像输入至对应的图像预处理子模型中,得到处理后的各待处理视频帧和目标静态图像;其中,所述图像预处理子模型,用于减小所述待处理视频帧和目标静态图像的尺寸以及增加所述待处理视频帧和目标静态图像的特征层数。
3.根据权利要求1所述的方法,其特征在于,所述依次将所述待使用分类视频中的各待处理视频帧、所述目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像,包括:
将所述待使用分类视频中的第一个待处理视频帧和目标静态图像输入至图像融合模型中,得到与所述第一个待处理视频帧相对应的第一融合图像,作为当前融合图像;
将所述当前融合图像、所述待使用分类视频中的第二个待处理视频帧以及所述目标静态图像,作为所述图像融合模型的输入,得到与第二个待处理视频帧所对应的第二融合图像,并将所述第二融合图像更新为所述当前融合图像;
依次对各待处理视频帧执行将前一视频帧所对应的当前融合图像、当前待处理视频帧以及所述目标静态图像作为所述图像融合模型的输入,得到目标融合图像。
4.根据权利要求3所述的方法,其特征在于,所述图像融合模型中包括权重分配子模型、目标融合子模型和特征加工子模型,所述将所述当前融合图像、所述待使用分类视频中的第二个待处理视频帧以及所述目标静态图像,作为所述图像融合模型的输入,得到与第二个待处理视频帧所对应的第二融合图像,并将所述第二融合图像更新为所述当前融合图像,包括:
将所述当前融合图像、待使用分类视频中的第二个待处理视频帧以及所述目标静态图像输入至所述权重分配子模型中,得到所述当前融合图像、第二个待处理视频帧以及所述目标静态图像对应的融合权重值;
将所述当前融合图像、第二个待处理视频帧、目标静态图像以及对应的融合权重值输入至所述目标融合子模型中,得到与所述第二个待处理视频帧相对应的当前待使用融合图像;
将所述当前待使用融合图像输入至所述特征加工子模型中,得到与所述第二个待处理视频帧相对应的第二融合图像,并将所述第二融合图像更新为所述当前融合图像。
5.根据权利要求4所述的方法,其特征在于,所述权重分配子模型包括特征预处理模块、特征映射模块、归一化模块和权重分配模块,所述将所述当前融合图像、待使用分类视频中的第二个待处理视频帧以及所述目标静态图像输入至所述权重分配子模型中,得到所述当前融合图像、第二个待处理视频帧以及所述目标静态图像对应的融合权重值,包括:
将所述当前融合图像、待使用分类视频中的第二个待处理视频帧以及目标静态图像输入至所述特征预处理模块,得到所述当前融合图像、第二个待处理视频帧和目标静态图像对应的全图特征数据和空间特征数据;
将所述当前融合图像、第二个待处理视频帧和目标静态图像对应的全图特征数据和空间特征数据输入至所述特征映射模块,得到所述当前融合图像、第二个待处理视频帧和目标静态图像对应的待处理注意力数据;
将所述当前融合图像、第二个待处理视频帧和目标静态图像对应的待处理注意力数据输入至所述归一化模块,得到所述当前融合图像、第二个待处理视频帧和目标静态图像对应的目标注意力数据;
基于所述权重分配模块对所述当前融合图像、第二个待处理视频帧和目标静态图像对应的目标注意力数据进行处理,得到所述当前融合图像、第二个待处理视频帧和目标静态图像对应的融合权重值。
6.根据权利要求4所述的方法,其特征在于,所述将所述当前待使用融合图像输入至所述特征加工子模型中,得到与所述第二个待处理视频帧相对应的第二融合图像,并将所述第二融合图像更新为所述当前融合图像,还包括:
将所述当前待使用融合图像输入至所述特征加工子模型中,得到与所述第二个待处理视频帧相对应的第二待处理融合图像;
若所述第二个待处理视频帧不为待使用分类视频中的最后一个待处理视频帧,则对所述第二待处理融合图像进行升采样处理,得到第二融合图像,并将所述第二融合图像更新为所述当前融合图像。
7.根据权利要求1所述的方法,其特征在于,所述基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果,包括:
基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果;其中,目标分类结果中包括病症正常、病症初期、病症中期或病症晚期。
8.一种图像处理装置,其特征在于,包括:
待处理数据获取模块,用于获取目标病灶的待处理数据;其中,所述待处理数据包括与所述目标病灶对应的目标静态图像和待使用分类视频,所述待使用分类视频中包括多个待处理视频帧;所述目标静态图像为区别于所述多个待处理视频帧的图像;
目标融合图像获取模块,用于依次将所述待使用分类视频中的各待处理视频帧、所述目标静态图像和与各待处理视频帧所对应的融合图像,输入至预先训练好的图像融合模型中,得到目标融合图像;其中,融合图像是基于所述图像融合模型对前一待处理视频帧、前一待处理视频帧所对应的融合图像以及所述目标静态图像融合处理后得到的;
分类属性特征获取模块,用于基于预先训练好的图像分类模型对所述目标融合图像分类处理,得到与所述待处理数据相对应的分类属性特征;
目标分类结果确定模块,用于基于所述分类属性特征,确定与所述目标病灶相对应的目标分类结果。
9.一种电子设备,其特征在于,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的图像处理方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任一所述的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210107118.9A CN114419411A (zh) | 2022-01-28 | 2022-01-28 | 图像处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210107118.9A CN114419411A (zh) | 2022-01-28 | 2022-01-28 | 图像处理方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114419411A true CN114419411A (zh) | 2022-04-29 |
Family
ID=81278824
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210107118.9A Pending CN114419411A (zh) | 2022-01-28 | 2022-01-28 | 图像处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114419411A (zh) |
-
2022
- 2022-01-28 CN CN202210107118.9A patent/CN114419411A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7058373B2 (ja) | 医療画像に対する病変の検出及び位置決め方法、装置、デバイス、及び記憶媒体 | |
US10810735B2 (en) | Method and apparatus for analyzing medical image | |
US11900647B2 (en) | Image classification method, apparatus, and device, storage medium, and medical electronic device | |
CN110458830B (zh) | 图像处理方法、装置、服务器及存储介质 | |
WO2022032823A1 (zh) | 图像分割方法、装置、设备及存储介质 | |
WO2020125498A1 (zh) | 心脏磁共振图像分割方法、装置、终端设备及存储介质 | |
CN111368849B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN111369562B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
WO2021169126A1 (zh) | 病灶分类模型训练方法、装置、计算机设备和存储介质 | |
WO2022032824A1 (zh) | 图像分割方法、装置、设备及存储介质 | |
CN111080583B (zh) | 医学图像检测方法、计算机设备和可读存储介质 | |
CN111476777A (zh) | 胸片图像处理方法、系统、可读存储介质和设备 | |
CN113724185B (zh) | 用于图像分类的模型处理方法、装置及存储介质 | |
CN113888566B (zh) | 目标轮廓曲线确定方法、装置、电子设备以及存储介质 | |
CN112971718A (zh) | 证候识别方法、装置、电子设备及存储介质 | |
WO2021097595A1 (zh) | 图像的病变区域分割方法、装置及服务器 | |
CN109658425B (zh) | 一种肺叶分割方法、装置、计算机设备及存储介质 | |
CN107392976A (zh) | 数据处理方法、装置及设备 | |
CN115294426B (zh) | 介入医学设备的跟踪方法、装置、设备及存储介质 | |
CN111209946A (zh) | 三维图像处理方法、图像处理模型训练方法及介质 | |
CN114419411A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
WO2022227193A1 (zh) | 肝脏区域分割方法、装置、电子设备及存储介质 | |
CN114187337B (zh) | 图像配准方法、分割方法、装置、电子设备以及存储介质 | |
CN113192099B (zh) | 一种组织提取方法、装置、设备和介质 | |
CN107799166B (zh) | 医学成像系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |