CN114305298A - 一种图像处理方法、装置及设备 - Google Patents
一种图像处理方法、装置及设备 Download PDFInfo
- Publication number
- CN114305298A CN114305298A CN202111523112.1A CN202111523112A CN114305298A CN 114305298 A CN114305298 A CN 114305298A CN 202111523112 A CN202111523112 A CN 202111523112A CN 114305298 A CN114305298 A CN 114305298A
- Authority
- CN
- China
- Prior art keywords
- target
- image
- initial
- fluorescence
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Endoscopes (AREA)
Abstract
本申请提供一种图像处理方法、装置及设备,该方法包括:确定与荧光图像对应的目标显影模式;其中,所述目标显影模式与已配置的初始显影模式相同,或者,所述目标显影模式与所述初始显影模式不同;在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像。通过本申请的技术方案,可以自动调整显影模式,使得显影模式与目标感兴趣区域对应的特征信息匹配,从而有效切换正显影模式和负显影模式。
Description
技术领域
本申请涉及医疗技术领域,尤其涉及一种图像处理方法、装置及设备。
背景技术
内窥镜(Endoscopes)是一种常用的医疗器械,由导光束结构及一组镜头组成,在内窥镜进入目标对象内部后,可以使用内窥镜采集目标对象内部指定位置的可见光图像和荧光图像,基于可见光图像和荧光图像生成融合图像。融合图像能够清晰显示目标对象内部指定位置的正常组织和病变组织,即基于融合图像能够区分目标对象内部指定位置的正常组织和病变组织,从而基于融合图像对目标对象进行检查及治疗,能够准确决定哪些组织需要被切除。
在采集目标对象内部指定位置的荧光图像时,会存在多种显影模式,不同显影模式下采集的荧光图像的形式不同。由于存在多种显影模式,因此,需要医护人员根据经验手工配置采用哪种显影模式采集荧光图像。在显影模式确定后,无法对显影模式进行调整。医护人员配置的显影模式可能会导致荧光图像的效果较差,继而导致融合图像的效果较差,无法清晰显示目标对象内部指定位置的正常组织和病变组织,用户使用感受较差。
发明内容
本申请提供一种图像处理方法,所述方法包括:
确定与荧光图像对应的目标显影模式;其中,所述目标显影模式与已配置的初始显影模式相同,或者,所述目标显影模式与所述初始显影模式不同;
在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像。
示例性的,所述确定与荧光图像对应的目标显影模式,包括:
基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定所述目标对象内部指定位置对应的目标感兴趣区域;其中,所述初始可见光图像包括正常组织子区域,所述初始荧光图像包括荧光目标区域,所述目标感兴趣区域是所述荧光目标区域中除所述正常组织子区域之外的剩余子区域;其中,所述初始荧光图像是在所述初始显影模式下获取的荧光图像;若所述初始显影模式是正显影模式,则所述荧光目标区域是显影区域,若所述初始显影模式是负显影模式,则所述荧光目标区域是非显影区域;
基于所述目标感兴趣区域对应的特征信息确定目标显影模式。
示例性的,所述基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定所述目标对象内部指定位置对应的目标感兴趣区域,包括:
从所述初始可见光图像中确定出所述正常组织子区域;
从所述初始荧光图像中确定出所述荧光目标区域;
确定所述荧光目标区域与所述正常组织子区域的交集区域,将所述荧光目标区域中除所述交集区域之外的剩余子区域确定为所述目标感兴趣区域。
示例性的,所述从所述初始荧光图像中确定出所述荧光目标区域,包括:
基于所述初始荧光图像中每个像素点对应的像素值,从所述初始荧光图像的所有像素点中选取与荧光目标区域匹配的目标像素点;
获取所有目标像素点组成的连通域,并基于所述连通域从所述初始荧光图像中确定出所述荧光目标区域。
示例性的,所述基于所述初始荧光图像中每个像素点对应的像素值,从所述初始荧光图像的所有像素点中选取与荧光目标区域匹配的目标像素点,包括:若所述初始荧光图像是正显影模式下的荧光图像,当所述初始荧光图像中的像素点对应的像素值大于第一阈值时,确定该像素点是目标像素点;或者,
若所述初始荧光图像是负显影模式下的荧光图像,当所述初始荧光图像中的像素点对应的像素值小于第二阈值时,确定该像素点是目标像素点。
示例性的,若所述特征信息为所述目标感兴趣区域内所有像素点的第一数量,所述基于所述目标感兴趣区域对应的特征信息确定目标显影模式,包括:
若所述第一数量小于数量阈值,则确定目标显影模式是正显影模式;若所述第一数量不小于数量阈值,则确定目标显影模式是负显影模式;
或者,若所述第一数量与所述初始荧光图像内所有像素点的第二数量的比例小于比例阈值,则确定目标显影模式是正显影模式;若所述第一数量与所述第二数量的比例不小于比例阈值,则确定目标显影模式是负显影模式。
示例性的,所述在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像,包括:若所述目标显影模式与已配置的所述初始显影模式不同,则将所述初始显影模式切换为所述目标显影模式,并在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像。
示例性的,所述在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像之后,所述方法还包括:
从目标对象内部指定位置对应的目标可见光图像中确定出正常组织子区域;
从所述目标荧光图像中确定出荧光目标区域;
确定该荧光目标区域与该正常组织子区域之间的交集区域,并对所述目标荧光图像中的所述交集区域进行去除处理,得到新荧光图像;
对所述新荧光图像和所述目标可见光图像进行融合,得到融合图像。
示例性的,所述对所述目标荧光图像中的所述交集区域进行去除处理,得到新荧光图像,包括:对所述交集区域进行亮度衰减处理,得到所述新荧光图像;或者,对所述交集区域进行亮度重映射处理,得到所述新荧光图像;或者,对所述交集区域进行亮度衰减处理以及亮度重映射处理,得到新荧光图像。
示例性的,所述对所述新荧光图像和所述目标可见光图像进行融合,得到融合图像,包括:对所述新荧光图像进行对比度增强,得到增强后荧光图像;对所述增强后荧光图像进行色彩映射,得到映射后荧光图像;对所述映射后荧光图像和所述目标可见光图像进行融合得到融合图像。
本申请提供一种图像处理装置,所述装置包括:确定模块,用于确定与荧光图像对应的目标显影模式;其中,所述目标显影模式与已配置的初始显影模式相同,或者,所述目标显影模式与所述初始显影模式不同;获取模块,用于在所述目标显影模式下,获取所述目标对象内部指定位置对应的目标荧光图像。
本申请提出一种图像处理设备,包括:处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;所述处理器用于执行机器可执行指令,以实现本申请上述示例公开的图像处理方法。
由以上技术方案可见,本申请实施例中,可以确定目标显影模式,在目标显影模式下获取目标对象内部指定位置对应的荧光图像,目标显影模式与已配置的初始显影模式可以相同或者不同,即可以自动调整显影模式,在设置显影模式之后,可以根据实际场景的可见光图像和荧光图像自动调整显影模式,实时切换显影模式,从而有效切换正显影模式和负显影模式(即将正显影模式切换为负显影模式,或将负显影模式切换为正显影模式),使得显影模式对应的荧光图像的效果较好,能够凸显病变组织信息,在基于荧光图像生成融合图像后,融合图像的效果较好,能够清晰显示目标对象内部指定位置的正常组织和病变组织,能够准确决定哪些组织需要被切除,使得用户使用感受比较好。
附图说明
为了更加清楚地说明本申请实施例或者现有技术中的技术方案,下面将对本申请实施例或者现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施例,对于本领域普通技术人员来讲,还可以根据本申请实施例的这些附图获得其他的附图。
图1是本申请一种实施方式中的内窥镜系统的结构示意图;
图2是本申请一种实施方式中的内窥镜系统的功能结构示意图;
图3A和图3B是本申请一种实施方式中的可见光图像和荧光图像的示意图;
图3C和图3D是本申请一种实施方式中的融合图像的示意图;
图4是本申请一种实施方式中的图像处理方法的流程示意图;
图5A和图5B是本申请一种实施方式中的确定目标感兴趣区域的示意图;
图6是本申请一种实施方式中的图像处理方法的流程示意图;
图7是本申请一种实施方式中的图像处理方法的流程示意图;
图8是本申请一种实施方式中的图像处理装置的结构示意图。
具体实施方式
在本申请实施例使用的术语仅仅是出于描述特定实施例的目的,而非限制本申请。本申请和权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其它含义。还应当理解,本文中使用的术语“和/或”是指包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请实施例可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,此外,所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
参见图1所示,为内窥镜系统的结构示意图,该内窥镜系统可以包括:内窥镜、光源、摄像系统主机、显示装置和存储装置,显示装置和存储装置为外置设备。当然,图1只是内窥镜系统的一个示例,对此结构不做限制。
示例性的,内窥镜可以插入到目标对象(例如,患者等被检体)内部指定位置(即待检查位置,是患者内部需要检查的区域,对此指定位置不做限制),采集目标对象内部指定位置的图像,并将目标对象内部指定位置的图像输出到显示装置和存储装置。使用者(例如,医护人员等)通过观察显示装置显示的图像,来检查目标对象内部指定位置的出血部位、肿瘤部位和异常部位等。使用者通过访问存储装置中存储的图像,进行术后回顾和手术培训等。
内窥镜可以采集目标对象内部指定位置的图像,并将图像输入给摄像系统主机。光源可以为内窥镜提供光源,即从内窥镜的前端射出照明光,使得内窥镜可以采集目标对象内部的比较清晰的图像。摄像系统主机在接收到图像之后,可以将图像输入给存储装置,由存储装置存储图像,在后续过程中,使用者可以访问存储装置中的图像,或者,访问存储装置中的视频(由大量图像组成的视频)。摄像系统主机在接收到图像之后,还可以将图像输入给显示装置,由显示装置显示图像,使用者可以实时观察由显示装置显示的图像。
参见图2所示,为内窥镜系统的功能结构示意图,内窥镜可以包括摄像光学系统、成像单元、处理单元和操作单元。摄像光学系统用于对来自观察部位的光进行聚光,摄像光学系统由一个或多个透镜构成。成像单元用于对各像素点接收到的光进行光电转换以生成图像数据,成像单元由CMOS(Complementary Metal Oxide Semiconductor,互补金属氧化物半导体)或CCD(Charge Coupled Device,电荷耦合器件)等传感器组成。处理单元用于将图像数据转换成数字信号,将转换后的数字信号(如各像素点的像素值)发送到摄像系统主机。操作单元可以包括但不限于开关、按钮和触摸面板等,用于受理内窥镜的切换动作的指示信号、光源的切换动作的指示信号等,将指示信号输出到摄像系统主机。
光源可以包括照明控制单元和照明单元,照明控制单元用于接收摄像系统主机的指示信号,基于该指示信号控制照明单元向内窥镜提供照明光。
摄像系统主机用于对从内窥镜接收到的图像数据进行处理并传输给显示装置和存储装置,显示装置和存储装置为摄像系统主机的外置设备。
摄像系统主机可以包括图像输入单元、图像处理单元、智能处理单元、视频编码单元、控制单元和操作单元。其中,图像输入单元用于接收内窥镜发送的信号,并将接受到的信号传输给图像处理单元。图像处理单元用于对图像输入单元输入的图像进行ISP(mageSignal Processing,图像信号处理)操作,包括但不限于亮度变换、锐化、荧光染色、缩放等,图像处理单元处理后的图像传输给智能处理单元、视频编码单元或显示装置。智能处理单元对图像进行智能分析,包括但不限于基于深度学习的场景分类、器械器械头检测、纱布检测和浓雾分类,智能处理单元处理后的图像传输给图像处理单元或视频编码单元,图像处理单元对智能处理单元处理后的图像的处理方式包括但不限于亮度变换、叠框和缩放。视频编码单元用于对图像进行编码压缩,并传输给存储装置。控制单元用于控制内窥镜的各个模块,包括但不限于光源的照明方式、图像处理方式、智能处理方式和视频编码方式等。输入单元可以包括但不限于开关、按钮和触摸面板,用于受理外部指示信号,将受理的指示信号输出到控制单元。
在实际使用过程中发现,可见光图像对于病变组织(如癌变组织等)的区分度不够,往往需要医生经验来进行病变组织的判断与切除,容易造成正常组织切除过多或病变组织未切除干净等问题。为了区分正常组织与病变组织,在一种可能的实施方式中,可以将白光内窥镜和荧光内窥镜插入到目标对象内部指定位置,白光内窥镜采集目标对象内部指定位置的图像,且荧光内窥镜也采集目标对象内部指定位置的图像,为了区分方便,将白光内窥镜采集的图像称为可见光图像(也称为白光图像),将荧光内窥镜采集的图像称为荧光图像。
其中,目标对象内部指定位置注射荧光显影剂时,如ICG(Indocyanine Green,吲哚青绿)等,荧光显影剂在病变组织的吸收较多,当激发光照射到病变组织时,荧光显影剂会产生荧光,使得荧光内窥镜可以采集到荧光图像,基于荧光图像就可以区分正常组织与病变组织,帮助医护人员准确区分病变组织。
其中,可见光图像可以是基于可见光产生的图像,参见图3A所示,是目标对象内部指定位置的可见光图像的示意图,荧光图像可以是基于荧光产生的图像,参见图3B所示,是目标对象内部指定位置的荧光图像的示意图。
综上可以看出,在内窥镜系统的实际使用过程中,可以采集目标对象内部指定位置的可见光图像和荧光图像,即摄像系统主机可以得到可见光图像和荧光图像。在得到可见光图像和荧光图像之后,可以基于可见光图像和荧光图像生成融合图像,融合图像能够清晰显示目标对象内部指定位置的正常组织和病变组织,基于融合图像能够区分目标对象内部指定位置的正常组织和病变组织。
在采集目标对象内部指定位置的荧光图像时,会存在多种显影模式,不同显影模式下采集的荧光图像的形式不同。比如说,荧光内窥镜在使用过程中分为正显影模式(正显影模式也可以称为正向显影模式)和负显影模式(负显影模式也可以称为负向显影模式)。在正显影模式下,病变组织位置显现荧光,即荧光图像的显影区域对应病变组织。在负显影模式下,病变组织以外位置显现荧光,病变组织位置不显现荧光,即荧光图像的非显影区域对应病变组织。
其中,在正显影模式下,需要采用与正显影模式匹配的荧光显影剂的注射方式,基于荧光显影剂的注射方式,需要保证病变组织显影,正常组织不显影。在负显影模式下,需要采用与负显影模式匹配的荧光显影剂的注射方式,基于荧光显影剂的注射方式,需要保证病变组织不显影,正常组织显影。
参见图3C所示,上侧的荧光图像是正显影模式下的荧光图像,荧光图像的显影区域对应病变组织,荧光图像的非显影区域对应正常组织,通过将可见光图像和荧光图像进行融合,就可以得到融合图像。在融合图像中,病变组织对应区域是显影区域,可以对病变组织对应区域进行染色处理,从而通过将病变组织对应区域染为对应颜色便于医护人员观察病变组织对应区域。
下侧的荧光图像是负显影模式下的荧光图像,荧光图像的显影区域对应正常组织,荧光图像的非显影区域对应病变组织,通过将可见光图像和荧光图像进行融合,就可以得到融合图像。在融合图像中,病变组织对应区域是非显影区域,正常组织对应区域是显影区域,可以对正常组织对应区域进行染色处理,从而通过染色将正常组织对应区域进行染色,进而凸显病变组织。
由于存在多种显影模式,如正显影模式和负显影模式,因此,需要医护人员根据经验手工配置采用哪种显影模式采集荧光图像。在显影模式确定之后,无法对显影模式进行调整。医护人员配置的显影模式可能会导致荧光图像的效果较差,继而导致融合图像的效果较差,无法清晰显示目标对象内部指定位置的正常组织和病变组织,用户使用感受较差。
比如说,假设医护人员配置的显影模式是负显影模式,而在实际场景下,目标对象内部指定位置的病变组织面积较小,那么,在采用负显影模式时,参见图3D所示,会导致背景大面积被染色,难以观察到病变组织。
针对上述发现,本申请实施例中提出一种图像处理方法,可以自动调整显影模式,也就是说,在设置显影模式之后,可以根据实际场景的可见光图像和荧光图像自动调整显影模式,实时切换显影模式,从而有效切换正显影模式和负显影模式(即将正显影模式切换为负显影模式,或将负显影模式切换为正显影模式)。比如说,假设医护人员配置的显影模式是负显影模式,且目标对象内部指定位置的病变组织面积较小,那么,可以将负显影模式切换为正显影模式,并在正显影模式下采集荧光图像,这样,病变组织的区域被染色,大面积背景未被染色,从而可以容易观察到病变组织。
以下结合具体实施例,对本申请实施例的技术方案进行说明。
本申请实施例中提出一种图像处理方法,该方法可以应用于摄像系统主机,如由摄像系统主机的图像处理单元或智能处理单元执行该图像处理方法,对此不做限制。在图像处理方法中,可以确定与荧光图像对应的目标显影模式,目标显影模式与已配置的初始显影模式相同,或目标显影模式与该初始显影模式不同。在目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像。
比如说,医护人员初始配置的显影模式称为初始显影模式,在初始显影模式的基础上,可以由医护人员手动切换显影模型,将切换后的显影模型称为目标显影模式,也就是说,由医护人员手动将初始显影模式切换为目标显影模式,在该情况下,目标显影模式与初始显影模式可以不同。比如说,初始显影模式可以是正显影模式,而目标显影模式可以是负显影模式,或者,初始显影模式可以是负显影模式,而目标显影模式可以是正显影模式。
又例如,可以基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定目标对象内部指定位置对应的目标感兴趣区域,并基于目标感兴趣区域对应的特征信息确定目标显影模式,也就是说,目标显影模式与目标感兴趣区域对应的特征信息匹配,即根据实际场景的可见光图像和荧光图像自动调整显影模式,实时切换显影模式,从而有效切换正显影模式和负显影模式。在该情况下,目标显影模式与初始显影模式可以不同,也可以相同。比如说,初始显影模式是正显影模式,而目标显影模式是负显影模式或正显影模式,或者,初始显影模式是负显影模式,而目标显影模式是正显影模式或负显影模式。
以下结合具体应用场景,对本申请实施例中提出的图像处理方法进行说明。参见图4所示,为该图像处理方法的流程示意图,该方法可以包括:
步骤401、获取目标对象内部指定位置对应的初始可见光图像和初始荧光图像,该初始可见光图像的采集时刻与该初始荧光图像的采集时刻可以相同。
示例性的,当需要采集目标对象(如患者等被检体)内部指定位置(即待检查位置,如患者身体内部需要检查的区域)的图像时,可以将内窥镜(如白光内窥镜和荧光内窥镜)插入到目标对象内部指定位置,由白光内窥镜采集目标对象内部指定位置的可见光图像(为区分方便,记为初始可见光图像),由荧光内窥镜采集目标对象内部指定位置的荧光图像(为区分方便,记为初始荧光图像),且摄像系统主机从白光内窥镜和荧光内窥镜得到初始可见光图像和初始荧光图像。参见图3A所示,是目标对象内部指定位置的初始可见光图像的示意图,参见图3B所示,是目标对象内部指定位置的初始荧光图像的示意图。
示例性的,由于荧光内窥镜在使用过程中分为正显影模式和负显影模式,因此,需要预先配置显影模式,如医护人员根据经验配置显影模式,为了区分方便,将预先配置的显影模式称为初始显影模式,初始显影模式可以是正显影模式,初始显影模式也可以是负显影模式,对此不做限制。
步骤401中,在初始显影模式下获取目标对象内部指定位置对应的初始荧光图像,即初始荧光图像是与初始显影模式对应的荧光图像。例如,若初始显影模式是正显影模式,则初始荧光图像的显影区域对应病变组织,初始荧光图像的非显影区域对应正常组织。若初始显影模式是负显影模式,则初始荧光图像的显影区域对应正常组织,初始荧光图像的非显影区域对应病变组织。
步骤402、基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定目标对象内部指定位置对应的目标感兴趣区域;示例性的,初始可见光图像包括正常组织子区域,初始荧光图像包括荧光目标区域,目标感兴趣区域是荧光目标区域中除正常组织子区域之外的剩余子区域。示例性的,初始荧光图像是在初始显影模式下获取的荧光图像,若该初始显影模式是正显影模式,则荧光目标区域是该初始荧光图像中的显影区域(即通过显影区域对应病变组织),若该初始显影模式是负显影模式,则荧光目标区域是该初始荧光图像中的非显影区域(即通过非显影区域对应病变组织)。
示例性的,目标对象内部指定位置可能存在正常组织和病变组织,在通过白光内窥镜采集目标对象内部指定位置的初始可见光图像时,初始可见光图像可以包括与正常组织对应的子图像,将该子图像称为初始可见光图像中的正常组织子区域。初始可见光图像可以包括与病变组织对应的子图像,将该子图像称为初始可见光图像中的病变组织子区域,本实施例中不涉及初始可见光图像中的病变组织子区域的处理方式。此外,在通过荧光内窥镜采集目标对象内部指定位置的初始荧光图像时,初始荧光图像可以包括与正常组织对应的子图像,将该子图像称为初始荧光图像中的正常组织子区域,本实施例中不涉及初始荧光图像中的正常组织子区域的处理方式。初始荧光图像可以包括与病变组织对应的子图像,将该子图像称为初始荧光图像中的荧光目标区域。需要注意的是,荧光目标区域可以包括病变组织对应的子区域,实际应用中,考虑到可能存在误差,荧光目标区域除了病变组织对应的子区域,还可能存在正常组织对应的子区域,即荧光目标区域包括病变组织对应的子区域和正常组织对应的子区域。
综上可以看出,初始可见光图像可以包括正常组织子区域(即正常组织子区域位于初始可见光图像),初始荧光图像可以包括荧光目标区域(即荧光目标区域位于初始荧光图像)。在此基础上,可以将荧光目标区域中除正常组织子区域之外的剩余子区域确定为目标感兴趣区域(目标感兴趣区域位于初始荧光图像),即,从荧光目标区域中确定出与正常组织子区域匹配的子区域,从荧光目标区域中去除该子区域,剩余子区域就是目标感兴趣区域。
在一种可能的实施方式中,可以采用如下步骤确定目标感兴趣区域:
步骤4021、从初始可见光图像中确定出正常组织子区域。
示例性的,初始可见光图像包括正常组织子区域,可以从初始可见光图像中确定出正常组织子区域,对此确定方式不做限制,只要能够从初始可见光图像中确定出正常组织子区域即可。参见图5A所示,左侧图像是初始可见光图像,而S01就是初始可见光图像中的正常组织子区域,记为第一感兴趣区域。
比如说,可以采用如下方式确定出正常组织子区域:将初始可见光图像输入给已训练的目标网络模型,得到该初始可见光图像中的正常组织子区域。其中,目标网络模型的训练过程,可以包括但不限于:获取样本图像和该样本图像对应的标定信息,该标定信息可以包括该样本图像中的正常组织子区域和该正常组织子区域对应的标定标签值;基于该样本图像和该样本图像对应的标定信息对初始网络模型进行训练,得到已训练的目标网络模型。
以下结合具体应用场景,对本申请实施例的上述过程进行说明。
在实际手术过程中,由于荧光显影剂的注射问题,会导致血管等正常组织同样显影,而正常组织的显影会对医护人员造成干扰,因此,本实施例中,需要识别出正常组织的显影干扰,即需要从荧光目标区域中识别出正常组织子区域,为了从荧光目标区域中识别出正常组织子区域,可以训练一个目标网络模型,基于目标网络模型从初始可见光图像中确定出正常组织子区域。
首先,可以获取初始网络模型,该初始网络模型可以是机器学习模型,如深度学习模型或神经网络模型等,对此初始网络模型的类型不做限制。初始网络模型可以是检测模型,用于从可见光图像中确定出感兴趣区域(这个感兴趣区域是正常组织子区域),即在可见光图像中给出分割区域,该分割区域作为感兴趣区域,对此初始网络模型的结构不做限制,只要能够实现上述功能即可。
其次,可以获取大量样本图像(每个样本图像均是目标对象内部的可见光图像),这些样本图像包括正样本图像和负样本图像。针对每个正样本图像来说,可以由用户手动标定正常组织子区域,即在正样本图像中标定正常组织子区域所在标定框,并给出标定框对应的标定标签值,表示这个标定框是感兴趣区域,如标定标签值是0,表示标定框是感兴趣区域。此外,针对每个负样本图像来说,可以由用户手动标定非正常组织子区域,即在负样本图像中标定非正常组织子区域所在标定框,并给出标定框对应的标定标签值,表示这个标定框不是感兴趣区域,如标定标签值是1,表示标定框不是感兴趣区域。
综上所述,可以获取大量样本图像,并得到每个样本图像对应的标定信息,该标定信息可以包括该样本图像中的正常组织子区域(即通过标定框表示正常组织子区域)和该正常组织子区域对应的标定标签值(如0、1等)。
在实际应用中,目标对象内部会包括多种类型的正常组织,有些类型的正常组织可能会存在显影干扰,如血管等,而其余类型的正常组织不存在显影干扰,因此,在标定正样本图像中正常组织子区域所在标定框时,可以标定存在显影干扰的正常组织所在标定框,而不需要标定不存在显影干扰的正常组织所在标定框。同理,在标定负样本图像中非正常组织子区域所在标定框时,可以标定不存在显影干扰的正常组织所在标定框,及病变组织子区域所在标定框。
再次,可以利用样本图像和样本图像对应的标定信息对初始网络模型进行训练,将已训练的网络模型记为目标网络模型,对此训练过程不做限制。
综上所述,可以得到已训练的目标网络模型,在得到目标网络模型后,就可以部署目标网络模型,通过目标网络模型识别出可见光图像中的正常组织子区域,如血管区域等。比如说,在得到初始可见光图像之后,可以将该初始可见光图像输入给目标网络模型,由目标网络模型对该初始可见光图像进行处理,得到该初始可见光图像中的正常组织子区域,对此过程不做限制。
步骤4022、从初始荧光图像中确定出荧光目标区域。
示例性的,初始荧光图像可以包括荧光目标区域,可以从初始荧光图像中确定出荧光目标区域,对此确定方式不做限制,只要能够从初始荧光图像中确定出荧光目标区域即可。参见图5A所示,右侧图像是初始荧光图像,而S02就是该初始荧光图像中的荧光目标区域,记为第二感兴趣区域。
比如说,可以采用如下步骤确定出荧光目标区域,当然,如下步骤只是确定荧光目标区域的示例,对此荧光目标区域的确定方式不做限制。
步骤40221、基于初始荧光图像中每个像素点对应的像素值,从该初始荧光图像的所有像素点中选取与荧光目标区域匹配的目标像素点。
示例性的,针对初始荧光图像来说,基于初始荧光图像的特点可知,初始荧光图像的显影区域的亮度比较大,初始荧光图像的非显影区域的亮度比较小,因此,基于初始荧光图像中每个像素点对应的像素值(如亮度值),可以通过设置自适应阈值,就能够选取出与荧光目标区域匹配的目标像素点。
示例性的,由于在正显影模式下,荧光目标区域对应显影区域,正常组织子区域对应非显影区域,即荧光目标区域的亮度值比较大,正常组织子区域的亮度值比较小,因此,可以将亮度值大的子区域作为荧光目标区域。在负显影模式下,荧光目标区域对应非显影区域,正常组织子区域对应显影区域,即荧光目标区域的亮度值比较小,正常组织子区域的亮度值比较大,因此,可以将亮度值小的子区域作为荧光目标区域。基于上述原理,为了选取与荧光目标区域匹配的目标像素点,可以采用如下情况进行处理:
情况1、若初始荧光图像是正显影模式下的荧光图像,即在正显影模式下获取初始荧光图像,且正显影模式用于指示初始荧光图像的显影区域是荧光目标区域,那么,针对初始荧光图像中的每个像素点,若该像素点对应的像素值(如亮度值)大于第一阈值,则确定该像素点是目标像素点,若该像素点对应的像素值不大于第一阈值,则确定该像素点不是目标像素点。
显然,在对初始荧光图像中的所有像素点进行上述处理后,就可以从初始荧光图像的所有像素点中选取出目标像素点,目标像素点的数量为多个。综上可以看出,目标像素点是初始荧光图像中像素值大于第一阈值的像素点。
示例性的,可以采用二值化方式确定初始荧光图像中的目标像素点,二值化是将图像上像素点的像素值设为0或255。比如说,像素值的取值范围是0-255,可以设置适当的二值化阈值,若像素点的像素值不小于二值化阈值,则将该像素点的像素值设为255,若像素点的像素值小于二值化阈值,则将该像素点的像素值设为0,从而得到二值化图像,二值化图像中像素点的像素值为0或255。
基于上述原理,可以预先配置一个阈值作为第一阈值,第一阈值可以根据经验进行配置,对此不做限制,第一阈值能够表示显影区域和非显影区域的边界,能够区分初始荧光图像中的显影区域和非显影区域。基于此,由于荧光目标区域的亮度值比较大,正常组织子区域的亮度值比较小,可以将亮度值大的子区域作为荧光目标区域,因此,针对初始荧光图像中的每个像素点,若该像素点对应的像素值大于第一阈值,则确定该像素点是目标像素点,若该像素点对应的像素值不大于第一阈值,则确定该像素点不是目标像素点。
情况2、若初始荧光图像是负显影模式下的荧光图像,即在负显影模式下获取初始荧光图像,且负显影模式用于指示初始荧光图像的非显影区域是荧光目标区域,那么,针对初始荧光图像中的每个像素点,若该像素点对应的像素值(如亮度值)小于第二阈值,则确定该像素点是目标像素点,若该像素点对应的像素值不小于第二阈值,则确定该像素点不是目标像素点。在对初始荧光图像中所有像素点进行上述处理后,可以从初始荧光图像的所有像素点中选取目标像素点,即初始荧光图像中像素值小于第二阈值的像素点。
比如说,可以预先配置一个阈值作为第二阈值,第二阈值可以根据经验进行配置,对此不做限制,第二阈值能够表示显影区域和非显影区域的边界,能够区分初始荧光图像中的显影区域和非显影区域。基于此,由于荧光目标区域的亮度值比较小,正常组织子区域的亮度值比较大,可以将亮度值小的子区域作为荧光目标区域,因此,针对初始荧光图像中的每个像素点,若该像素点对应的像素值小于第二阈值,则确定该像素点是目标像素点,若该像素点对应的像素值不小于第二阈值,则确定该像素点不是目标像素点。
步骤40222、获取所有目标像素点组成的连通域。
示例性的,在从初始荧光图像中确定出目标像素点之后,就可以采用连通区域检测算法,确定这些目标像素点组成的连通域(即目标像素点的连通区域),连通域的数量可以为至少一个,对此连通域的确定过程不做限制。
其中,位置相邻的目标像素点组成的区域称为连通域,连通区域检测算法是指将初始荧光图像中各个连通域找出并标记,也就是说,基于连通区域检测算法可以获知初始荧光图像中的各个连通域,对此不做限制。
步骤40223、基于连通域从初始荧光图像中确定出荧光目标区域。
示例性的,连通域的数量可以为至少一个,若连通域的数量为一个,则将该连通域作为初始荧光图像中的荧光目标区域。若连通域的数量为至少两个,则将面积最大的连通域作为初始荧光图像中的荧光目标区域,或者,将所有连通域均作为初始荧光图像中的荧光目标区域,或者,按照面积从大到小的顺序对所有连通域进行排序,选取排序靠前的K个连通域作为初始荧光图像中的荧光目标区域,K为正整数,如K为1、2、3等,对此不做限制。
综上所述,基于步骤40221-步骤40223,就可以从初始荧光图像中确定出荧光目标区域,参见图5A所示,S02就是初始荧光图像中的荧光目标区域。
步骤4023、确定荧光目标区域与正常组织子区域的交集区域。
比如说,在从初始荧光图像中确定出荧光目标区域,从初始可见光图像中确定出正常组织子区域之后,就可以确定荧光目标区域与正常组织子区域的交集区域,比如说,参见图5B所示,S01是初始可见光图像中的正常组织子区域,S02是初始荧光图像中的荧光目标区域,而S03就是荧光目标区域与正常组织子区域的交集区域。比如说,可以先从初始荧光图像中确定出正常组织子区域,正常组织子区域的位置与S01在初始可见光图像中的位置相同,然后,就可以确定该正常组织子区域与该荧光目标区域的交集区域,可以将正常组织子区域与荧光目标区域的交集区域S03记为第三感兴趣区域。
步骤4024、将初始荧光图像中的荧光目标区域中除该交集区域之外的剩余子区域确定为目标感兴趣区域,即初始荧光图像中的目标感兴趣区域。
比如说,在从初始荧光图像中确定出荧光目标区域S02和交集区域S03之后,可以将荧光目标区域S02中除交集区域S03之外的剩余子区域确定为目标感兴趣区域。比如说,参见图5B所示,S04是初始荧光图像中的目标感兴趣区域,可以将初始荧光图像中的目标感兴趣区域记为第四感兴趣区域。
综上所述,基于步骤4021-步骤4024,就可以从初始荧光图像中确定出目标感兴趣区域,即荧光目标区域中除正常组织子区域之外的剩余子区域。
步骤403、基于目标感兴趣区域对应的特征信息确定目标显影模式。
示例性的,目标显影模式与目标感兴趣区域对应的特征信息有关,即可以基于该特征信息确定目标显影模式,对此确定方式不做限制。比如说,目标感兴趣区域对应的特征信息可以包括但不限于:目标感兴趣区域内所有像素点的面积值、目标感兴趣区域内所有像素点的像素值的平均值(如平均亮度值等)、目标感兴趣区域内所有像素点的总数量(记为第一数量)等,对此特征信息不做限制,只要能够基于目标感兴趣区域对应的特征信息确定目标显影模式即可,比如说,特征信息还可以是目标感兴趣区域对应的分布和变化率等。
比如说,若特征信息是目标感兴趣区域内所有像素点的面积值,那么,若该面积值小于预设面积阈值,则可以确定目标显影模式是正显影模式,若该面积值不小于预设面积阈值,则可以确定目标显影模式是负显影模式。或者,若该面积值小于预设面积阈值,则可以确定目标显影模式是负显影模式,若该面积值不小于预设面积阈值,则可以确定目标显影模式是正显影模式。
又例如,若特征信息是目标感兴趣区域内所有像素点的平均亮度值,那么,若该平均亮度值小于预设亮度阈值,则确定目标显影模式是正显影模式,若该平均亮度值不小于预设亮度阈值,则确定目标显影模式是负显影模式。或者,若该平均亮度值小于预设亮度阈值,则确定目标显影模式是负显影模式,若该平均亮度值不小于预设亮度阈值,则确定目标显影模式是正显影模式。
又例如,若特征信息是目标感兴趣区域内所有像素点的第一数量,那么,若第一数量小于预设数量阈值,则可以确定目标显影模式是正显影模式,若第一数量不小于预设数量阈值,则可以确定目标显影模式是负显影模式。或者,若第一数量小于预设数量阈值,则可以确定目标显影模式是负显影模式,若第一数量不小于预设数量阈值,则可以确定目标显影模式是正显影模式。
当然,上述方式只是基于特征信息确定目标显影模式的几个示例,对此不做限制,为了方便描述,以特征信息是目标感兴趣区域内所有像素点的第一数量为例,即基于目标感兴趣区域内所有像素点的第一数量确定目标显影模式。
示例性的,基于目标感兴趣区域内所有像素点的第一数量确定目标显影模式,可以包括但不限于:方式1、若第一数量小于数量阈值(可以根据经验配置),则确定目标显影模式是正显影模式。若第一数量不小于数量阈值,则确定目标显影模式是负显影模式。方式2、可以确定初始荧光图像内所有像素点的第二数量(即初始荧光图像内所有像素点的总数量),并基于第一数量与第二数量确定目标显影模式。比如说,若第一数量与第二数量的比例小于比例阈值(可以根据经验配置),则确定目标显影模式是正显影模式。若第一数量与第二数量的比例不小于比例阈值,则确定目标显影模式是负显影模式。
在方式1中,若第一数量小于数量阈值,则表示目标感兴趣区域内所有像素点的总数量比较少,即荧光目标区域比较小,因此,可以将目标显影模式确定为正显影模式,即对比较小的荧光目标区域进行显影,便于医护人员观察荧光目标区域。或者,若第一数量不小于数量阈值,则表示目标感兴趣区域内所有像素点的总数量比较多,即荧光目标区域比较大,而正常组织子区域相对较小,因此,可以将目标显影模式确定为负显影模式,即对比较小的正常组织子区域进行显影,从而对正常组织子区域染色,进而凸显病变组织。
同理,在方式2中,若第一数量与第二数量的比例小于比例阈值,则表示荧光目标区域比较小,将目标显影模式确定为正显影模式,对比较小的荧光目标区域进行显影。或者,若第一数量与第二数量的比例不小于比例阈值,则表示荧光目标区域比较大,而正常组织子区域相对较小,将目标显影模式确定为负显影模式,即对比较小的正常组织子区域进行显影。
步骤404、在目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像。比如说,获取目标对象内部指定位置对应的目标可见光图像和目标荧光图像,该目标可见光图像的采集时刻与该目标荧光图像的采集时刻可以相同。
示例性的,可以由白光内窥镜采集目标对象内部指定位置的目标可见光图像,由荧光内窥镜采集目标对象内部指定位置的目标荧光图像,且摄像系统主机可以从白光内窥镜和荧光内窥镜得到目标可见光图像和目标荧光图像。
步骤404中,在目标显影模式下获取目标对象内部指定位置对应的目标荧光图像,即目标荧光图像是与目标显影模式对应的荧光图像。例如,若目标显影模式是正显影模式,则目标荧光图像的显影区域对应病变组织,目标荧光图像的非显影区域对应正常组织。若目标显影模式是负显影模式,则目标荧光图像的显影区域对应正常组织,目标荧光图像的非显影区域对应病变组织。
在一种可能的实施方式中,在目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像,可以包括但不限于:若目标显影模式与当前使用的初始显影模式不同,则可以将初始显影模式切换为目标显影模式,并在目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像。若目标显影模式与初始显影模式相同,则保持初始显影模式不变,即初始显影模式直接作为目标显影模式,并在目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像。
比如说,若初始显影模式是正显影模式,目标显影模式是正显影模式,则可以保持初始显影模式是正显影模式不变,在正显影模式下,获取目标对象内部指定位置对应的目标荧光图像。又例如,若初始显影模式是正显影模式,目标显影模式是负显影模式,则可以将正显影模式切换为负显影模式,在负显影模式下,获取目标对象内部指定位置对应的目标荧光图像。又例如,若初始显影模式是负显影模式,目标显影模式是负显影模式,则可以保持初始显影模式是负显影模式不变,在负显影模式下,获取目标对象内部指定位置对应的目标荧光图像。又例如,若初始显影模式是负显影模式,目标显影模式是正显影模式,则可以将负显影模式切换为正显影模式在正显影模式下,获取目标对象内部指定位置对应的目标荧光图像。
在获取到目标对象内部指定位置对应的目标可见光图像和目标荧光图像之后,就可以对目标可见光图像和目标荧光图像进行融合,从而能够得到融合图像,并输出该融合图像,对此融合过程不再赘述,可以参见图3C所示。
本申请实施例中提出另一种图像处理方法,参见图6所示,该方法包括:
步骤601、获取目标对象内部指定位置对应的初始可见光图像和初始荧光图像,该初始荧光图像是与初始显影模式对应的荧光图像。
步骤602、基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定目标对象内部指定位置对应的目标感兴趣区域。
步骤603、基于目标感兴趣区域对应的特征信息确定目标显影模式。
步骤604、在目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像,并获取目标对象内部指定位置对应的目标可见光图像。
示例性的,步骤601-步骤604可以参见步骤401-步骤404。
步骤605、基于目标荧光图像生成新荧光图像。比如说,基于目标可见光图像和目标荧光图像,可以采用如下步骤生成新荧光图像:
步骤6051、从目标可见光图像中确定出正常组织子区域。
步骤6052、从目标荧光图像中确定出荧光目标区域。
步骤6053、确定该荧光目标区域与该正常组织子区域之间的交集区域。
示例性的,步骤6051-步骤6053可以参见步骤4021-步骤4023,将初始可见光图像替换为目标可见光图像,将初始荧光图像替换为目标荧光图像即可。
步骤6054、对目标荧光图像中的该交集区域进行去除处理,得到新荧光图像,即对该交集区域进行去除处理后的目标荧光图像作为新荧光图像。
示例性的,该去除处理可以包括但不限于亮度衰减处理和/或亮度重映射处理。比如说,对目标荧光图像中的该交集区域进行亮度衰减处理,得到新荧光图像;或,对目标荧光图像中的该交集区域进行亮度重映射处理,得到新荧光图像;或,对目标荧光图像中的该交集区域进行亮度衰减处理和亮度重映射处理,得到新荧光图像。当然,上述只是去除处理的几个示例,对此不做限制。
步骤606、对新荧光图像和目标可见光图像进行融合,得到融合图像。比如说,基于目标可见光图像和新荧光图像,可以采用如下步骤生成融合图像:
步骤6061、对新荧光图像进行对比度增强,得到增强后荧光图像(即对比度增强后的荧光图像)。比如说,在得到新荧光图像之后,可以对新荧光图像进行对比度增强,以加强荧光图像的对比度,对比度增强的方式可以包括但不限于:直方图均值、局部对比度提升等,对此对比度增强方式不做限制。
步骤6062、对增强后荧光图像进行色彩映射,得到映射后荧光图像(即色彩映射后的荧光图像)。比如说,在得到对比度增强后的荧光图像之后,可以对荧光图像进行色彩映射,即对荧光图像进行染色处理,得到色彩映射后的荧光图像,本实施例对此色彩映射方式不做限制。比如说,在对荧光图像进行染色处理时,荧光图像中的不同荧光亮度可以对应不同的色调和饱和度。
步骤6063、对映射后荧光图像和目标可见光图像进行融合,得到融合图像,该融合图像也就是最终输出的图像,是对目标可见光图像进行染色后的图像。
比如说,可以将映射后荧光图像叠加到目标可见光图像上进行显示,从而得到该融合图像,以此对目标可见光图像进行染色处理,进而实现图像显影的效果,得到的融合图像即为输出图像,也就是经过染色处理后的可见光图像。
示例性的,目标可见光图像可以是RGB色彩空间的目标可见光图像,可以将映射后荧光图像叠加到RGB色彩空间的目标可见光图像得到融合图像。或者,将RGB色彩空间的目标可见光图像转换为YUV色彩空间的目标可见光图像,将映射后荧光图像叠加到YUV色彩空间的目标可见光图像得到融合图像。或者,将RGB色彩空间的目标可见光图像转换为LAB色彩空间的目标可见光图像,将映射后荧光图像叠加到LAB色彩空间的目标可见光图像得到融合图像。或者,将RGB色彩空间的目标可见光图像转换为XYZ色彩空间的目标可见光图像,将映射后荧光图像叠加到XYZ色彩空间的目标可见光图像得到融合图像。
由以上技术方案可见,本申请实施例中,可以根据目标感兴趣区域对应的特征信息自动调整显影模式,使得显影模式与目标感兴趣区域对应的特征信息匹配,在设置显影模式之后,可以根据实际场景的可见光图像和荧光图像自动调整显影模式,实时切换显影模式,从而有效切换正显影模式和负显影模式(即将正显影模式切换为负显影模式,或将负显影模式切换为正显影模式),使得显影模式与实际场景匹配,荧光图像的效果较好,能够凸显病变组织信息,在基于荧光图像生成融合图像后,融合图像的效果较好,能够清晰显示目标对象内部指定位置的正常组织和病变组织,能够准确决定哪些组织需要被切除,使得用户使用感受比较好。上述方式在医护人员选定显影模式的情况下,实时切换显影模式,支持自动化切换显影模式。
本申请实施例中提出另一种图像处理方法,参见图7所示,该方法包括:
步骤701、判断智能显影模式是否开启,即是否允许启用智能显影模式。如果否,则可以执行步骤702,如果是,则可以执行步骤703。
步骤702、在智能显影模式关闭时,提示用户手动选择目标显影模式,由用户手动选择目标显影模式。比如说,在智能显影模式关闭时,可以启动手动切换模式,由用户实时进行显影模式的手动切换。例如,在初始显影模式是正显影模式时,由用户将正显影模式手动切换为负显影模式(即负显影模式作为目标显影模式),在初始显影模式是负显影模式时,由用户将负显影模式手动切换为正显影模式(即正显影模式作为目标显影模式)。
步骤703、在智能显影模式开启时,基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定目标显影模式。比如说,获取初始可见光图像和初始荧光图像,并基于初始可见光图像和初始荧光图像确定目标感兴趣区域,并基于目标感兴趣区域对应的特征信息确定目标显影模式。示例性的,基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定目标显影模式,其实现方式可以参见图4或图6所示,在此不再重复赘述。
步骤704、在目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像,并获取目标对象内部指定位置对应的目标可见光图像。
基于与上述方法同样的申请构思,本申请实施例中提出一种图像处理装置,参见图8所示,为所述装置的结构示意图,所述装置包括:
确定模块81,用于确定与荧光图像对应的目标显影模式;其中,所述目标显影模式与已配置的初始显影模式相同,或者,所述目标显影模式与所述初始显影模式不同;获取模块82,用于在所述目标显影模式下,获取所述目标对象内部指定位置对应的目标荧光图像。
示例性的,所述确定模块81确定与荧光图像对应的目标显影模式时具体用于:基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定所述目标对象内部指定位置对应的目标感兴趣区域;其中,所述初始可见光图像包括正常组织子区域,所述初始荧光图像包括荧光目标区域,所述目标感兴趣区域是所述荧光目标区域中除所述正常组织子区域之外的剩余子区域;其中,所述初始荧光图像是在所述初始显影模式下获取的荧光图像;若所述初始显影模式是正显影模式,则所述荧光目标区域是显影区域,若所述初始显影模式是负显影模式,则所述荧光目标区域是非显影区域;基于所述目标感兴趣区域对应的特征信息确定目标显影模式。
示例性的,所述确定模块81基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定所述目标对象内部指定位置对应的目标感兴趣区域时具体用于:从所述初始可见光图像中确定出所述正常组织子区域;从所述初始荧光图像中确定出所述荧光目标区域;确定所述荧光目标区域与所述正常组织子区域的交集区域,并将所述荧光目标区域中除所述交集区域之外的剩余子区域确定为所述目标感兴趣区域。
示例性的,所述确定模块81从所述初始荧光图像中确定出所述荧光目标区域时具体用于:基于初始荧光图像中每个像素点对应的像素值,从初始荧光图像的所有像素点中选取与荧光目标区域匹配的目标像素点;获取所有目标像素点组成的连通域,基于连通域从初始荧光图像中确定出荧光目标区域。
示例性的,所述确定模块81基于初始荧光图像中每个像素点对应的像素值,从初始荧光图像的所有像素点中选取与荧光目标区域匹配的目标像素点时具体用于:若所述初始荧光图像是正显影模式下的荧光图像,当所述初始荧光图像中的像素点对应的像素值大于第一阈值时,确定该像素点是目标像素点;或者,若所述初始荧光图像是负显影模式下的荧光图像,当所述初始荧光图像中的像素点对应的像素值小于第二阈值时,确定该像素点是目标像素点。
示例性的,若所述特征信息为所述目标感兴趣区域内所有像素点的第一数量,所述确定模块81基于所述目标感兴趣区域对应的特征信息确定目标显影模式时具体用于:若所述第一数量小于数量阈值,则确定目标显影模式是正显影模式;若所述第一数量不小于数量阈值,则确定目标显影模式是负显影模式;或者,若所述第一数量与所述初始荧光图像内所有像素点的第二数量的比例小于比例阈值,则确定目标显影模式是正显影模式;若所述第一数量与所述第二数量的比例不小于比例阈值,则确定目标显影模式是负显影模式。
示例性的,所述获取模块82在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像时具体用于:若所述目标显影模式与已配置的所述初始显影模式不同,将所述初始显影模式切换为所述目标显影模式,在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像。
示例性的,所述获取模块82在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像之后还用于:从所述目标对象内部指定位置对应的目标可见光图像中确定出正常组织子区域;从所述目标荧光图像中确定出荧光目标区域;确定该荧光目标区域与该正常组织子区域之间的交集区域,并对所述目标荧光图像中的所述交集区域进行去除处理,得到新荧光图像;对所述新荧光图像和所述目标可见光图像进行融合,得到融合图像。
示例性的,所述获取模块82对目标荧光图像中的所述交集区域进行去除处理,得到新荧光图像时具体用于:对所述交集区域进行亮度衰减处理,得到所述新荧光图像;或对所述交集区域进行亮度重映射处理,得到所述新荧光图像;或对所述交集区域进行亮度衰减处理以及亮度重映射处理,得到新荧光图像。
示例性的,所述获取模块82对所述新荧光图像和所述目标可见光图像进行融合,得到融合图像时具体用于:对所述新荧光图像进行对比度增强,得到增强后荧光图像;对所述增强后荧光图像进行色彩映射,得到映射后荧光图像;对所述映射后荧光图像和所述目标可见光图像进行融合得到融合图像。
基于与上述方法同样的申请构思,本申请实施例中还提出一种图像处理设备(即摄像系统主机),图像处理设备可以包括:处理器和机器可读存储介质,所述机器可读存储介质存储有能够被处理器执行的机器可执行指令;所述处理器用于执行机器可执行指令,以实现本申请上述示例公开的图像处理方法。
基于与上述方法同样的申请构思,本申请实施例还提供一种机器可读存储介质,所述机器可读存储介质上存储有若干计算机指令,所述计算机指令被处理器执行时,能够实现本申请上述示例公开的图像处理方法。
其中,上述机器可读存储介质可以是任何电子、磁性、光学或其它物理存储装置,可以包含或存储信息,如可执行指令、数据,等等。例如,机器可读存储介质可以是:RAM(Radom Access Memory,随机存取存储器)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、dvd等),或者类似的存储介质,或者它们的组合。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机,计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可以由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其它可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其它可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
而且,这些计算机程序指令也可以存储在能引导计算机或其它可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或者多个流程和/或方框图一个方框或者多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其它可编程数据处理设备上,使得在计算机或者其它可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其它可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (13)
1.一种图像处理方法,其特征在于,所述方法包括:
确定与荧光图像对应的目标显影模式;其中,所述目标显影模式与已配置的初始显影模式相同,或,所述目标显影模式与所述初始显影模式不同;
在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像。
2.根据权利要求1所述的方法,其特征在于,
所述确定与荧光图像对应的目标显影模式,包括:
基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定所述目标对象内部指定位置对应的目标感兴趣区域;其中,所述初始可见光图像包括正常组织子区域,所述初始荧光图像包括荧光目标区域,所述目标感兴趣区域是所述荧光目标区域中除所述正常组织子区域之外的剩余子区域;其中,所述初始荧光图像是在所述初始显影模式下获取的荧光图像;若所述初始显影模式是正显影模式,则所述荧光目标区域是显影区域,若所述初始显影模式是负显影模式,则所述荧光目标区域是非显影区域;
基于所述目标感兴趣区域对应的特征信息确定目标显影模式。
3.根据权利要求2所述的方法,其特征在于,
所述基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定所述目标对象内部指定位置对应的目标感兴趣区域,包括:
从所述初始可见光图像中确定出所述正常组织子区域;
从所述初始荧光图像中确定出所述荧光目标区域;
确定所述荧光目标区域与所述正常组织子区域的交集区域,将所述荧光目标区域中除所述交集区域之外的剩余子区域确定为所述目标感兴趣区域。
4.根据权利要求3所述的方法,其特征在于,
所述从所述初始荧光图像中确定出所述荧光目标区域,包括:
基于所述初始荧光图像中每个像素点对应的像素值,从所述初始荧光图像的所有像素点中选取与荧光目标区域匹配的目标像素点;
获取所有目标像素点组成的连通域,并基于所述连通域从所述初始荧光图像中确定出所述荧光目标区域。
5.根据权利要求4所述的方法,其特征在于,
所述基于所述初始荧光图像中每个像素点对应的像素值,从所述初始荧光图像的所有像素点中选取与荧光目标区域匹配的目标像素点,包括:
若所述初始荧光图像是正显影模式下的荧光图像,当所述初始荧光图像中的像素点对应的像素值大于第一阈值时,确定该像素点是目标像素点;或者,
若所述初始荧光图像是负显影模式下的荧光图像,当所述初始荧光图像中的像素点对应的像素值小于第二阈值时,确定该像素点是目标像素点。
6.根据权利要求2所述的方法,其特征在于,
若所述特征信息为所述目标感兴趣区域内所有像素点的第一数量,所述基于所述目标感兴趣区域对应的特征信息确定目标显影模式,包括:
若所述第一数量小于数量阈值,则确定目标显影模式是正显影模式;若所述第一数量不小于数量阈值,则确定目标显影模式是负显影模式;
或者,若所述第一数量与所述初始荧光图像内所有像素点的第二数量的比例小于比例阈值,则确定目标显影模式是正显影模式;若所述第一数量与所述第二数量的比例不小于比例阈值,则确定目标显影模式是负显影模式。
7.根据权利要求1所述的方法,其特征在于,所述在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像,包括:
若所述目标显影模式与已配置的所述初始显影模式不同,则将所述初始显影模式切换为所述目标显影模式,并在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像。
8.根据权利要求1所述的方法,其特征在于,所述在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像之后,所述方法还包括:
从目标对象内部指定位置对应的目标可见光图像中确定出正常组织子区域;
从所述目标荧光图像中确定出荧光目标区域;
确定该荧光目标区域与该正常组织子区域之间的交集区域,并对所述目标荧光图像中的所述交集区域进行去除处理,得到新荧光图像;
对所述新荧光图像和所述目标可见光图像进行融合,得到融合图像。
9.根据权利要求8所述的方法,其特征在于,所述对所述目标荧光图像中的所述交集区域进行去除处理,得到新荧光图像,包括:
对所述交集区域进行亮度衰减处理,得到所述新荧光图像;或者,
对所述交集区域进行亮度重映射处理,得到所述新荧光图像;或者,
对所述交集区域进行亮度衰减处理以及亮度重映射处理,得到新荧光图像。
10.根据权利要求8所述的方法,其特征在于,所述对所述新荧光图像和所述目标可见光图像进行融合,得到融合图像,包括:
对所述新荧光图像进行对比度增强,得到增强后荧光图像;
对所述增强后荧光图像进行色彩映射,得到映射后荧光图像;
对所述映射后荧光图像和所述目标可见光图像进行融合得到融合图像。
11.一种图像处理装置,其特征在于,所述装置包括:
确定模块,用于确定与荧光图像对应的目标显影模式;其中,所述目标显影模式与已配置的初始显影模式相同,或者,所述目标显影模式与所述初始显影模式不同;
获取模块,用于在所述目标显影模式下,获取所述目标对象内部指定位置对应的目标荧光图像。
12.根据权利要求11所述的装置,其特征在于,
其中,所述确定模块确定与荧光图像对应的目标显影模式时具体用于:基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定所述目标对象内部指定位置对应的目标感兴趣区域;其中,所述初始可见光图像包括正常组织子区域,所述初始荧光图像包括荧光目标区域,所述目标感兴趣区域是所述荧光目标区域中除所述正常组织子区域之外的剩余子区域;其中,所述初始荧光图像是在所述初始显影模式下获取的荧光图像;若所述初始显影模式是正显影模式,则所述荧光目标区域是显影区域,若所述初始显影模式是负显影模式,则所述荧光目标区域是非显影区域;基于所述目标感兴趣区域对应的特征信息确定目标显影模式;
其中,所述确定模块基于目标对象内部指定位置对应的初始可见光图像和初始荧光图像,确定所述目标对象内部指定位置对应的目标感兴趣区域时具体用于:从所述初始可见光图像中确定出所述正常组织子区域;从所述初始荧光图像中确定出所述荧光目标区域;确定所述荧光目标区域与所述正常组织子区域的交集区域,将所述荧光目标区域中除所述交集区域之外的剩余子区域确定为所述目标感兴趣区域;
其中,所述确定模块从所述初始荧光图像中确定出所述荧光目标区域时具体用于:基于初始荧光图像中每个像素点对应的像素值,从初始荧光图像的所有像素点中选取与荧光目标区域匹配的目标像素点;获取所有目标像素点组成的连通域,并基于所述连通域从初始荧光图像中确定出荧光目标区域;
其中,所述确定模块基于初始荧光图像中每个像素点对应的像素值,从初始荧光图像的所有像素点中选取与荧光目标区域匹配的目标像素点时具体用于:若所述初始荧光图像是正显影模式下的荧光图像,当所述初始荧光图像中的像素点对应的像素值大于第一阈值时,确定该像素点是目标像素点;或者,若所述初始荧光图像是负显影模式下的荧光图像,当所述初始荧光图像中的像素点对应的像素值小于第二阈值时,确定该像素点是目标像素点;
其中,若所述特征信息为所述目标感兴趣区域内所有像素点的第一数量,所述确定模块基于所述目标感兴趣区域对应的特征信息确定目标显影模式时具体用于:若所述第一数量小于数量阈值,则确定目标显影模式是正显影模式;若所述第一数量不小于数量阈值,则确定目标显影模式是负显影模式;或者,若所述第一数量与所述初始荧光图像内所有像素点的第二数量的比例小于比例阈值,则确定目标显影模式是正显影模式;若所述第一数量与所述第二数量的比例不小于比例阈值,则确定目标显影模式是负显影模式;
其中,所述获取模块在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像时具体用于:若所述目标显影模式与已配置的所述初始显影模式不同,则将所述初始显影模式切换为所述目标显影模式,并在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像;
其中,所述获取模块在所述目标显影模式下,获取目标对象内部指定位置对应的目标荧光图像之后还用于:从所述目标对象内部指定位置对应的目标可见光图像中确定出正常组织子区域;从所述目标荧光图像中确定出荧光目标区域;确定该荧光目标区域与该正常组织子区域之间的交集区域,并对所述目标荧光图像中的所述交集区域进行去除处理,得到新荧光图像;对所述新荧光图像和所述目标可见光图像进行融合,得到融合图像;
其中,所述获取模块对所述目标荧光图像中的所述交集区域进行去除处理,得到新荧光图像时具体用于:对所述交集区域进行亮度衰减处理,得到所述新荧光图像;或,对所述交集区域进行亮度重映射处理,得到所述新荧光图像;或,对所述交集区域进行亮度衰减处理以及亮度重映射处理,得到新荧光图像;
其中,所述获取模块对所述新荧光图像和所述目标可见光图像进行融合,得到融合图像时具体用于:对所述新荧光图像进行对比度增强,得到增强后荧光图像;对所述增强后荧光图像进行色彩映射,得到映射后荧光图像;对所述映射后荧光图像和所述目标可见光图像进行融合得到融合图像。
13.一种图像处理设备,其特征在于,包括:处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;所述处理器用于执行机器可执行指令,以实现权利要求1-10任一所述的方法步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111523112.1A CN114305298A (zh) | 2021-12-13 | 2021-12-13 | 一种图像处理方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111523112.1A CN114305298A (zh) | 2021-12-13 | 2021-12-13 | 一种图像处理方法、装置及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114305298A true CN114305298A (zh) | 2022-04-12 |
Family
ID=81051307
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111523112.1A Pending CN114305298A (zh) | 2021-12-13 | 2021-12-13 | 一种图像处理方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114305298A (zh) |
-
2021
- 2021-12-13 CN CN202111523112.1A patent/CN114305298A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2023103467A1 (zh) | 图像处理方法、装置及设备 | |
CN110325100B (zh) | 内窥镜系统及其操作方法 | |
KR102028780B1 (ko) | 영상 내시경 시스템 | |
EP2499956B1 (en) | Image processing device, electronic apparatus, endoscope system, and program | |
EP1849402B1 (en) | Medical image processing device, lumen image processing device, lumen image processing method, and programs for them | |
CN107847117B (zh) | 图像处理装置及图像处理方法 | |
CN103327883B (zh) | 医用图像处理装置和医用图像处理方法 | |
CN111295127B (zh) | 检查支持装置、内窥镜装置及记录介质 | |
US20210153720A1 (en) | Medical image processing apparatus, endoscope system, and method for operating medical image processing apparatus | |
JP7278202B2 (ja) | 画像学習装置、画像学習方法、ニューラルネットワーク、及び画像分類装置 | |
CN112105284B (zh) | 图像处理装置、内窥镜系统及图像处理方法 | |
JP7009636B2 (ja) | 内視鏡システム | |
WO2019016912A1 (ja) | 診断支援装置、診断支援方法及びプログラム | |
CN111526773B (zh) | 内窥镜图像获取系统及方法 | |
JP2011177419A (ja) | 蛍光観察装置 | |
JPWO2020036121A1 (ja) | 内視鏡システム | |
CN113498323A (zh) | 医用图像处理装置、处理器装置、内窥镜系统、医用图像处理方法、及程序 | |
CN117481579A (zh) | 内窥镜系统及其工作方法 | |
KR20160118037A (ko) | 의료 영상으로부터 병변의 위치를 자동으로 감지하는 장치 및 그 방법 | |
JP6017669B2 (ja) | 画像処理装置及び内視鏡システムの作動方法 | |
JP3762512B2 (ja) | 内視鏡装置 | |
US20210397865A1 (en) | Method for endoscopic imaging, endoscopic imaging system and software program product | |
JP2020124495A (ja) | 強度または輝度に依存する疑似色パターン特性の変化を使用する画像処理装置、画像処理方法およびそのような画像処理装置を備えた医療用観察装置 | |
CN114305298A (zh) | 一种图像处理方法、装置及设备 | |
WO2016118925A1 (en) | Facilitating real-time visualization of tissue features derived from optical signals |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |