CN115170792A - 红外图像处理方法、装置及设备、存储介质 - Google Patents

红外图像处理方法、装置及设备、存储介质 Download PDF

Info

Publication number
CN115170792A
CN115170792A CN202211086689.5A CN202211086689A CN115170792A CN 115170792 A CN115170792 A CN 115170792A CN 202211086689 A CN202211086689 A CN 202211086689A CN 115170792 A CN115170792 A CN 115170792A
Authority
CN
China
Prior art keywords
target
target object
infrared image
interest
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211086689.5A
Other languages
English (en)
Other versions
CN115170792B (zh
Inventor
徐召飞
李钢强
牟道禄
王少龙
王水根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Iray Technology Co Ltd
Original Assignee
Iray Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Iray Technology Co Ltd filed Critical Iray Technology Co Ltd
Priority to CN202211086689.5A priority Critical patent/CN115170792B/zh
Publication of CN115170792A publication Critical patent/CN115170792A/zh
Application granted granted Critical
Publication of CN115170792B publication Critical patent/CN115170792B/zh
Priority to PCT/CN2023/072732 priority patent/WO2024051067A1/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/62Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

本申请实施例提供一种红外图像处理方法、装置及设备、存储介质,涉及图像处理技术领域,所述红外图像处理方法包括:获取红外图像;对所述红外图像进行目标检测,确定所述红外图像中的目标对象;从所述目标对象中确定感兴趣目标对象;确定所述感兴趣目标对象的轮廓区域;根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将所述感兴趣目标对象在所述红外图像中进行凸显。通过将感兴趣目标对象在红外图像中进行凸显,通过真彩处理,从而实现按目标对象的类别将感兴趣目标对象通过不同着色、纹理凸出显示,使得红外图像中关注的感兴趣目标更加清晰地呈现,更便于人眼观察和识别。

Description

红外图像处理方法、装置及设备、存储介质
技术领域
本申请涉及图像处理技术领域,尤其是涉及一种红外图像处理方法、装置及设备、计算机可读存储介质。
背景技术
红外热成像的原理是通过红外镜头和红外探测器感知物体自身发散的红外线,经过光-电转换形成的人眼可见的红外图像。在绝对零度(-273.15℃)以上的物体都会向外辐射红外线,所以红外热成像的应用范围极广,由于其能感知温度、无需可见光成像、可以避免烟雾、沙尘等干扰的特点,红外热成像在医疗、工业、军事等领域已经形成非常成熟的应用。
然而,由于人眼并不能观察到红外线,目前红外热成像基本上都是还原红外热线的辐射情况,转换后的红外图像和人眼平时观察到的可见光图像差异很大,使用红外热成像需要经过一段时间的训练和适应;此外,红外热成像图像仅能反映出物体整体热辐射情况,并不能体现物体的细节,不适用于需要分辨具体类别和细节的场景。
发明内容
为解决现有技术存在的问题,本申请提供一种能够有效凸显观测目标的红外图像处理方法、装置及设备、以及计算机可读存储介质。
为达到上述目的,本申请实施例的技术方案是这样实现的:
第一方面,本申请实施例提供一种红外图像处理方法,包括:
获取红外图像;
对所述红外图像进行目标检测,确定所述红外图像中的目标对象;
从所述目标对象中确定感兴趣目标对象;
确定所述感兴趣目标对象的轮廓区域;
根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将所述感兴趣目标对象在所述红外图像中进行凸显。
第二方面,本申请实施例提供一种图像处理装置,包括:
获取模块,用于获取红外图像;
检测模块,用于对所述红外图像进行目标检测,确定所述红外图像中的目标对象;
确定模块,用于从所述目标对象中确定感兴趣目标对象;
分割模块,用于确定所述感兴趣目标对象的轮廓区域;
显示模块,用于根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将所述感兴趣目标对象在所述红外图像中进行凸显。
第三方面,本申请实施例提供一种红外热成像设备,包括处理器、与所述处理器连接的存储器及存储在所述存储器上并可被所述处理器执行的计算机程序,所述计算机程序被所述处理器执行时实现本申请任一实施例所述的红外图像处理方法。
第四方面,本申请实施例提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如本申请任一实施例所述的红外图像处理方法。
上述实施例中,通过获取红外图像,对红外图像进行目标检测以确定红外图像中的目标对象,从所述目标对象中确定感兴趣目标对象,确定所述感兴趣目标对象的轮廓区域,根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将感兴趣目标对象在红外图像中进行凸显,通过对红外图像进行目标检测,从目标检测结果中确定感兴趣目标对象,在红外图像中对感兴趣目标对象的轮廓区域按照目标对象的类别进行真彩处理,将感兴趣目标对象在红外图像中进行凸显,通过真彩处理,可实现按目标对象的类别将感兴趣目标对象通过不同着色、纹理凸出显示,使得红外图像中关注的感兴趣目标更加清晰地呈现,更便于人眼观察和识别。
上述实施例中,红外图像处理装置、红外热成像设备及计算机可读存储介质与对应的红外图像处理方法实施例属于同一构思,从而分别与对应的红外图像处理方法实施例具有相同的技术效果,在此不再赘述。
附图说明
图1为一实施例中红外图像处理方法的应用场景示意图;
图2为另一实施例中红外图像处理方法的应用场景示意图;
图3为一可选的具体示例中轮廓分割图像的示意图;
图4为一示例中对轮廓分割图像中感兴趣目标对象进行真彩转换后的示意图;
图5为一示例中对目标对象进行凸显的红外图像的示意图;
图6为一示例中显示有目标对象运动方向提示信息的红外图像的示意图;
图7为一示例中显示有目标对象运动路径的红外图像的示意图;
图8为一示例中显示有目标对象下一预测位置的红外图像的示意图;
图9为一示例中对红外图像进行目标检测得到的目标检测结果的示意图;
图10为一示例中对红外图像中感兴趣目标对象的追踪区域设置的示意图;
图11为一示例中原始的红外图像的示意图;
图12为图11所示红外图像二值化处理后的掩膜图像的示意图;
图13为图12所示掩膜图像进行图像形态学滤波处理后的目标对象掩膜图像的示意图;
图14为图13所示目标对象掩膜图像作用于原始的红外图像后得到的目标筛选图像的示意图;
图15为一示例中红外热成像设备的结构示意图;
图16为一示例中红外图像处理方法的主要流程示意图;
图17为一可选的具体示例中红外图像处理方法的流程图;
图18为一实施例中图像处理装置的示意图;
图19为一实施例中红外热成像设备的结构示意图。
具体实施方式
以下结合说明书附图及具体实施例对本申请技术方案做进一步的详细阐述。
为了使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请作进一步地详细描述,所描述的实施例不应视为对本申请的限制,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本申请保护的范围。
在以下的描述中,涉及到“一些实施例”的表述,其描述了所有可能实施例的子集,需要说明的是,“一些实施例”可以是所有可能实施例的相同子集或不同子集,并且可以在不冲突的情况下相互结合。
在以下的描述中,所涉及的术语“第一、第二、第三”仅仅是区别类似的对象,不代表针对对象的特定排序,可以理解地,“第一、第二、第三”在允许的情况下可以互换特定的顺序或先后次序,以使这里描述的本申请实施例能够以除了在这里图示或描述的以外的顺序实施。
请参阅图1,为本申请实施例提供的红外图像处理方法的一可选应用场景的示意图,其中,红外热成像设备11包括处理器12、与所述处理器12连接的存储器13和红外拍摄模块14。所述红外热成像设备11通过所述红外拍摄模块14实时采集红外图像发送给处理器12,所述存储器13内存储有实施本申请实施例所提供的红外图像处理方法的计算机程序,处理器12通过执行所述计算机程序,通过对红外图像进行目标检测以识别红外图像中的目标对象,从目标对象中确定出感兴趣目标对象,确定出感兴趣目标对象的轮廓区域并根据感兴趣目标对象的类别进行真彩处理,在红外图像中将感兴趣目标对象进行凸显。其中,红外热成像设备11可以是集成有红外图像拍摄功能的红外拍摄模块14、且具备存储和处理功能的各类智能终端,如手持观察仪、各类瞄准类设备、车载/机载光电载荷设备等。
请参阅图2,为本申请一实施例提供的红外图像处理方法,可以应用于图1所示应用场景中的红外热成像设备。其中,红外图像处理方法包括如下步骤:
S101,获取红外图像。
红外热成像设备可以包括图像拍摄模块,图像拍摄模块包括红外镜头和红外探测器,探测器包含各种制冷、非制冷的短波、中波、长波探测器。所述获取红外图像包括:红外热成像设备通过图像拍摄模块实时采集目标场景的红外图像。在另一些可选的实施例中,红外热成像设备不包括图像拍摄模块,所述获取红外图像包括:红外热成像设备获取具备图像拍摄功能的其它智能设备发送的红外图像,这里,其它智能设备可以是红外探测器、手机终端、云端等。
S103,对所述红外图像进行目标检测,确定所述红外图像中的目标对象。
红外热成像设备对红外图像进行目标检测,通过目标检测识别红外图像中的目标对象。目标检测可以采用传统的基于Haar特征提取对目标进行检测的目标检测算法、基于深度学习模型的目标检测算法等。通过目标检测对红外图像中的目标对象进行识别,识别到的目标对象显示在红外图像中可提供用户交互式操作以进行选定。
其中目标对象可以是红外图像中用户想要关注的图像内容,可以是一个或多个预设类别的对象,如人、不同动物、车辆等。
S104,从所述目标对象中确定感兴趣目标对象;
通过目标检测确定出红外图像中的目标对象,再从目标检测结果中确定出感兴趣目标对象,可以提高确定感兴趣目标对象的准确性和效率。可选的,根据目标检测结果确定感兴趣目标对象,可以是如下至少一种方式:将目标检测结果中的预设类别的目标对象作为感兴趣目标对象;将目标检测结果中位于所述红外图像中预设位置的目标对象作为感兴趣目标对象;将目标检测结果中尺寸满足预设要求的目标对象作为感兴趣目标对象;基于交互式操作从目标检测结果中选取目标对象作为感兴趣目标对象。
S105,确定所述感兴趣目标对象的轮廓区域;
确定感兴趣目标对象的轮廓区域,可以是通过轮廓检测算法提取所述感兴趣目标对象的轮廓线信息;也可以是通过图像分割算法确定出所述感兴趣目标对象的轮廓分割图像;还可以是基于目标检测结果中得到的各目标对象的位置信息确定的所述感兴趣目标对象的轮廓区域等。
S107,根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将所述感兴趣目标对象在所述红外图像中进行凸显。
将感兴趣目标对象按类别对其轮廓区域进行真彩处理,可以针对不同类别预先设置对应的真彩模板,通过对应真彩模板对感兴趣目标对象的轮廓区域进行着色,实现将感兴趣目标对象在所述红外图像中按类别以不同颜色、纹理进行凸显。对感兴趣目标对象的轮廓区域进行真彩处理,可使得感兴趣目标对象的成像区域内,感兴趣目标对象图像的每个像素值中,有R、G、B三个基色分量,每个基色分量直接决定显示设备的基色强度而产生彩色,与可见光图像的显色一致,更符合人眼感知系统。
上述实施例中,通过获取红外图像,对红外图像进行目标检测以确定红外图像中的目标对象,从所述目标对象中确定感兴趣目标对象,确定所述感兴趣目标对象的轮廓区域,根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将感兴趣目标对象在红外图像中按指定颜色进行凸显,通过对红外图像进行目标检测,从目标检测结果中确定感兴趣目标对象,在红外图像中对感兴趣目标对象的轮廓区域按照目标对象的类别进行真彩处理,将感兴趣目标对象在红外图像中进行凸显,通过真彩处理,可实现按目标对象的类别将感兴趣目标对象通过不同着色、纹理凸出显示,使得红外图像中关注的感兴趣目标更加清晰地呈现,更便于人眼观察和识别。
可选的,S104,从所述目标对象中确定感兴趣目标对象,包括:
根据对所述目标对象的选定操作,确定感兴趣目标对象。
对目标对象的选定操作可以是根据红外热成像设备支持的不同交互式操作类型而不同。可选的,红外热成像设备提供交互式触控界面,将对红外图像进行目标检测识别到的目标对象显示在对交互式触控界面中,用户可通过在交互式触控界面中直接选取某一目标对象作为当前关注的感兴趣目标对象。在另一些可选实施例中,红外热成像设备提供非触控式显示界面、且红外热成像设备上设有操作按键,将对红外图像进行目标检测识别到的目标对象显示在非触控式显示界面中,非触控式显示界面上有选取框,用户可通过操作按键移动选取框来选取某一目标对象作为当前关注的感兴趣目标对象。作为另一些可选的实施例,红外热成像设备可以支持语音式输入,将对红外图像进行目标检测识别到的目标对象显示在显示界面中,各目标对象分别带有唯一表征其身份信息的编号,用户可以语音输入想要选取的目标对象的编号来完成选定操作以确定感兴趣目标对象。
红外热成像设备根据用户的选定操作,将选定的目标对象作为当前关注的感兴趣目标对象,后续仅对选定的感兴趣目标对象进行轮廓区域的确定、真彩处理等,便于满足用户实时选定当前观测对象的需求。
在一些实施例中,所述S107,根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将所述感兴趣目标对象在所述红外图像中进行凸显,包括:
根据所述感兴趣目标对象的类别确定对应色彩模板,在所述红外图像中将所述感兴趣目标对象的所述轮廓区域按照所述对应色彩模块进行着色后进行显示。
目标对象的类别可以根据通过红外热成像设备进行图像采集而实现目标定位的对象类别来确定,以红外热成像设备为应用于户外的狩猎场景中的红外瞄准设备为例,可以预先设定目标对象的类别包括行人、车辆、鸟类、兔子、牛、羊、狼、狗、猪、猫。可选的,针对不同目标对象的类别可以预设不同的色彩模板,根据选定的感兴趣目标对象的类别,相应确定其对应的色彩模板,在红外图像中将感兴趣目标对象按照其对应的色彩模板进行着色并显示。如,针对鸟类的对应色彩模板为蓝色模板,若当前红外图像中选定的感兴趣目标对象为鸟类,则根据蓝色模板对感兴趣目标对象进行着色并显示;针对兔子的对应色彩模板为黄色模板,若当前红外图像中选定的感兴趣目标对象为兔子,则根据黄色模板对感兴趣目标对象进行着色并显示。可选的,各个色彩模板中还可以包括纹理信息,如,针对鸟类的对应色彩模板为蓝色羽毛纹理模板,若当前红外图像中选定的感兴趣目标对象为鸟类,则根据蓝色羽毛纹理模板对感兴趣目标对象按蓝色羽毛纹理模板进行着色并显示;针对兔子的对应色彩模板为黄色绒毛纹理模板,若当前红外图像中选定的感兴趣目标对象为兔子,则根据黄色绒毛纹理模板对感兴趣目标对象按黄色绒毛纹理模板进行着色并显示。
通过按感兴趣目标对象的类别设置不同的色彩模板,可以实现对不同的关注目标采用不同颜色、纹理进行凸显,用户可以根据自己的偏好,对自己更加关注的目标对象类别采用更醒目、更符合自己感知度的色彩来凸显显示,减少不适应和用眼疲劳,减少通过红外图像来实现对关注目标进行追踪的过程中出现失误。
上述实施例中,将感兴趣目标对象按类别采用不同的色彩模板进行着色显示,使得红外图像中对用户的关注目标能够符合人眼对可见光的感知方式,提升对目标识别的准确性。
在一些实施例中,所述S105,确定所述感兴趣目标对象的轮廓区域,包括:
根据所述感兴趣目标对象的位置信息,对所述感兴趣目标对象进行分割得到所述感兴趣目标对象的轮廓分割图像;
则所述根据所述感兴趣目标对象的类别确定对应色彩模板,在所述红外图像中将所述感兴趣目标对象的所述轮廓区域按照所述对应色彩模块进行着色后进行显示,包括:
根据所述感兴趣目标对象的类别确定对应色彩模板,按照所述对应色彩模板对所述轮廓分割图像进行着色;
将着色后的所述轮廓分割图像与原始的所述红外图像进行融合;和/或,将着色后的所述轮廓分割图像按预设比例进行放大后,按照指定显示位置与原始的所述红外图像进行融合。
感兴趣目标对象的位置信息可以是根据对红外图像进行目标检测的步骤得到,如,通过对红外图像进行目标检测,得到的目标检测结果包括所述红外图像中包含的全部目标对象的对应类别及位置信息。位置信息的表达形式可以是但不限于如下任意一种:感兴趣目标对象的中心点坐标与尺寸信息的组合、感兴趣目标对象的外轮廓中四个角点的坐标组合、感兴趣目标对象的左下角点坐标与尺寸信息的组合。根据感兴趣目标对象的位置信息,对红外图像中感兴趣目标对象的区域图像进行内容提取,得到感兴趣目标对象的轮廓分割图像,将分割得到的感兴趣目标对象的轮廓分割图像按对应色彩模板进行着色,将着色后的轮廓分割图像与原始的红外图像进行融合显示。
其中,根据感兴趣目标对象的位置信息得到其对应的轮廓分割图像的分割方法,可以包括但不限于大津法、灰度阈值分割法、温度分割法或深度学习模型分割法等,如图3所示,为一可选的具体示例中轮廓分割图像的示意图。根据轮廓分割图像和感兴趣目标对象的类别,按照不同类别预置的真彩模板对轮廓分割图像中感兴趣目标进行着色,使得目标更加凸显,符合人眼感知,如针对人和不同类型的动物分别附色,避免在红外图像中因温度相似而不能区分具体类型,导致对目标误判,如图4所示,为对轮廓分割图像中感兴趣目标对象进行真彩转换后的示意图。
图像融合(Image Fusion)是指将多源信道所采集到的关于同一目标的图像数据经过图像处理技术,最大限度的提取各自信道中的有利信息,最后综合成高质量的图像,以提高图像信息的利用率、改善计算机解译精度和可靠性、提升原始图像的空间分辨率和光谱分辨率,利于监测。红外热成像设备将对感兴趣目标对象进行真彩转换后的轮廓分割图像与原始的红外图像进行融合,使得着色后的感兴趣目标对象替代原始的红外图像中原始目标的位置,得到将所述感兴趣目标对象在原始的红外图像中按照预设方式进行凸显的融合图像。
可选的,红外热成像设备还可以对感兴趣目标对象进行真彩转换后的轮廓分割图像按预设比例进行放大后,按照指定显示位置与原始的所述红外图像进行融合,指定显示位置可以是指,统一将按比例放大、着色后的感兴趣目标对象显示于当前图像视野中的某个位置,如左下角;或,将按比例放大、着色后的感兴趣目标对象替代原始目标,以避免原始目标可能在视野中尺寸较小,不利于观察。
红外热成像设备可以同时将着色后的所述轮廓分割图像与原始的所述红外图像进行融合、及将着色后的所述轮廓分割图像按预设比例进行放大后,按照指定显示位置与原始的红外图像进行融合,如图5所示,用户可以在融合图像中观测到的目标对象的细节、轮廓可以更加清晰。
上述实施例中,红外热成像设备通过将感兴趣目标对象的轮廓分割图像通过着色后、或通过着色再按比例放大后与原始的红外图像进行融合,实现在红外图像中将关注的目标对象按照人眼对可见光图像的颜色感知的方式进行凸出显示,更便于人眼观察和识别。
可选的,所述S104,从所述目标对象中确定感兴趣目标对象之后,还包括:
对所述感兴趣目标对象进行目标跟踪,以获得轨迹预测信息;
根据所述轨迹预测信息,在所述红外图像中显示所述感兴趣目标对象的运动轨迹提示信息。
其中,轨迹预测信息可以包括如下至少之一:预测感兴趣目标对象的下一位置、预测感兴趣目标对象的运动方向、预测感兴趣目标对象的运动轨迹等。相应的,根据所述轨迹预测信息在所述红外图像中显示所述感兴趣目标对象的运动轨迹提示信息,可以是指在红外图像中标记出感兴趣目标对象的下一预测位置、在红外图像中标记出感兴趣目标对象的预测运动方向、在红外图像中标记出感兴趣目标对象的预测运动轨迹等。
基于目标检测结果确定感兴趣目标对象,仅对感兴趣目标对象进行目标跟踪,可以大大减小目标跟踪的计算量和效率,且可以提升目标跟踪结果的精准性。
上述实施例中,通过对红外图像进行目标检测,以提供用户从目标检测结果中选取当前关注的感兴趣目标对象,可以简化后续对感兴趣目标对象进行轨迹预测的复杂度,提升轨迹预测的准确性;另一方面,对感兴趣目标对象进行目标跟踪以获取轨迹预测信息,并在红外图像中显示感兴趣目标对象的运动轨迹提示信息,在红外图像中将感兴趣目标对象进行凸显同时显示其运动轨迹提示信息,使得红外图像中关注的感兴趣目标更加清晰地呈现,便于根据运行轨迹提示信息对运动目标进行准确追踪。
在一些实施例中,所述根据所述轨迹预测信息,在所述红外图像中显示所述感兴趣目标对象的运动轨迹提示信息,包括:
根据所述轨迹预测信息,在所述红外图像的所述感兴趣目标对象的一侧显示运动方向提示信息;和/或,
根据所述轨迹预测信息,确定所述感兴趣目标对象的运动路径,在所述红外图像中显示所述运动路径;和/或,
根据所述轨迹预测信息,确定所述感兴趣目标对象在所述红外图像中的下一预测位置,并在所述红外图像中的所述下一预测位置显示所述感兴趣目标对象的对应虚拟图像。
其中,轨迹预测信息可以包括一种或多种能够表征感兴趣目标对象的运动轨迹特性的相关信息,如,轨迹预测信息包括表征感兴趣目标对象的运动方向的信息,根据所述轨迹预测信息,在红外图像的感兴趣目标对象的运动方向的一侧显示指定标识,通过该指定标识的位置表示该对应侧为感兴趣目标对象的运动方向,如图6所示,显示于感兴趣目标对象右侧的圆形标记,表示感兴趣目标对象的预测运动方向为右侧;轨迹预测信息包括表征感兴趣目标对象的运动路径的信息,根据所述轨迹预测信息,在红外图像中显示感兴趣目标对象的运动路径,如图7所示,显示于感兴趣目标对象右侧的箭头,通过该箭头表示感兴趣目标对象的运动路径;轨迹预测信息包括表征感兴趣目标对象在下一预测时刻的位置的信息,根据所述轨迹预测信息,在红外图像中感兴趣目标对象在下一预测时刻的位置处显示指定标识,通过该指定标识的位置表示感兴趣目标对象的下一预测位置,如图8所示,显示于感兴趣目标对象右侧箭头末端的虚拟图标,该虚拟图标的位置即表示感兴趣目标对象的下一预测位置。
可选的,每一运动轨迹提示信息的类型可以相应形成为一个显示模式,如显示模式1为显示预测的运动方向提示信息、显示模式2为显示预测的运动路径、显示模式3为在预测的下一位置显示虚拟图标,用户可以从多个显示模式中进行选择,以选定在当前红外图像中显示对应的运动轨迹提示信息为运动方向提示信息、运动路径或者虚拟图标。
上述实施例中,通过对用户选定的感兴趣目标对象进行单目标跟踪,得到感兴趣目标对象的轨迹预测信息,并根据轨迹预测信息在红外图像中显示感兴趣目标对象的运动轨迹提示信息,以便于用户可通过红外图像快速、准确地捕获到关注的运动目标,尤其适合于户外狩猎的应用场景。
在一些实施例中,所述对所述感兴趣目标对象进行目标跟踪,以获得轨迹预测信息,包括:
对所述感兴趣目标对象所在的目标区域进行特征提取,得到第一特征提取结果;
按照不同的步长和尺度分别设定目标框,通过所述目标框以所述目标区域为起始位置进行搜索,分别对各所述目标框所在区域进行特征提取,得到对应的第二特征提取结果;
根据各所述目标框对应的所述第二特征提取结果与所述第一特征提取结果的特征相似度,将特征相似度满足要求的对应目标框所在区域确定为所述感兴趣目标对象的目标追踪区域;
根据所述目标追踪区域获得轨迹预测信息。
对红外图像进行目标检测识别出的目标对象,用户可以对识别出的目标按照感兴趣信息进行筛选,选定其中一个目标对象作为想要关注的感兴趣目标对象。如图9所示,为一可选的具体示例中对红外图像进行目标检测得到的目标检测结果的示意图,包括第一目标对象ID 1、第二目标对象ID 2、第三目标对象ID 3及第四目标对象ID 4,用户通过人机交互操作,可以从中选定感兴趣目标对象,如选定第一目标对象ID 1为感兴趣目标对象。红外热成像设备对选定的感兴趣目标对象进行特征提取,以用于跟踪和轨迹预测。通过对当前场景下采集到的红外图像进行目标检测,初步锁定当前场景中可提供用户选择的目标对象,由用户通过人机交互操作来选取想要关注的一个目标对象进行跟踪,后续可采用单目标特征提取方式来进行目标跟踪和轨迹预测,不仅可以简化跟踪计算,且便于提升跟踪的精准性。
对红外图像的指定区域进行特征提取的方式,可以包括但不限于Haar特征、HOG特征或基于卷积神经网络提取的特征。这里,对红外图像的指定区域进行特征提取,包括对感兴趣目标对象所在的目标区域进行特征提取以得到第一特征提取结果;以及对通过目标框进行搜索时,分别对各目标框所在区域进行特征提取以得到第二特征提取结果。以选定第一目标对象ID 1、采用HOG特征提取为例,根据第一目标对象ID 1的位置信息(x,y,w,h),其中(x,y)是第一目标对象ID 1的中心点位置,(w,h)是第一目标对象ID 1的宽高,HOG特征计算只对目标区域内容进行处理,主要包括梯度计算、梯度直方图计算、块归一化和HOG特征统计四个步骤。梯度计算步骤包括:单个像素点的水平方向梯度
Figure 137219DEST_PATH_IMAGE001
是它左右相邻像素点的像素值差值,垂直方向的梯度
Figure 686012DEST_PATH_IMAGE002
是它上下相邻像素点的像素值差值,然后可以得到该像素点的总梯度强度
Figure 242895DEST_PATH_IMAGE003
,以及梯度方向
Figure 244349DEST_PATH_IMAGE004
,梯度方向取绝对值。梯度直方图计算步骤包括:将一个像素矩阵划为一个单元(cell),根据每个单元内像素点的梯度信息,做梯度直方图统计。块(block)归一化步骤包括:根据梯度强度的变化范围超过预设值的情况下,对梯度强度做归一化,多个单元组成一个块,将归一化后块内的所有单元的特征向量按序串联起来,得到该块的HOG特征。HOG特征统计步骤包括:将检测窗口中所有重叠的块进行HOG特征的收集,将它们结合成最终的特征向量,以作为对应目标区域的特征提取结果。
其中,基于卷积神经网络提取的特征可以是指,基于独立的神经网络模型训练后得到的特征提取模型,通过该特征提取模型分别对感兴趣目标对象所在的目标区域进行特征提取以得到第一特征提取结果;以及对通过目标框进行搜索时,分别对各目标框所在区域进行特征提取以得到第二特征提取结果。作为另一可选的实施例,对红外图像进行目标检测以确定目标对象的步骤,采用通过对神经网络模型训练后得到的目标检测模型来完成,这里,对红外图像的指定区域进行特征提取也可以是复用该目标检测模型中的特征提取网络层来实现。
按照不同步长和尺度分别设定目标框,以感兴趣目标对象的位置为起始位置在感兴趣目标对象的周围进行搜索,将各目标框所在区域的特征提取结果与感兴趣目标对象所在的目标区域的特征提取结果进行比较,将特征相似度最大的目标框所在区域确定为所述感兴趣目标对象的目标追踪区域,以得到轨迹预测信息。
上述实施例中,通过对用户选定的感兴趣目标对象进行单目标跟踪,基于单目标跟踪结果得到感兴趣目标对象的轨迹预测信息,单目标跟踪的计算过程可以迭代,一个迭代过程得到的单目标跟踪结果可用于对下一迭代过程中目标框的设置参数进行优化,以进一步减小目标跟踪的计算量、提升目标跟踪结果的精准性。
可选的,所述根据各所述目标框对应的所述第二特征提取结果与所述第一特征提取结果的特征相似度,将特征相似度满足要求的对应目标框所在区域确定为所述感兴趣目标对象的目标追踪区域之后,还包括:
根据所述目标追踪区域与所述目标区域的相对位置信息,确定对所述感兴趣目标对象的下一次轨迹预测的参考步长和参考方向。
目标追踪区域与目标区域的相对位置信息可以是指,根据目标追踪区域的位置中心坐标与目标区域的位置中心坐标,计算向量大小和向量方向,向量大小与二者相对距离对应,可以作为下一次轨迹预测对目标对象运动速度的步长参考,向量方向与二者相对夹角对应,可以作为下一次轨迹预测对目标对象运动方向的参考。
上述实施例中,通过根据目标追踪区域和目标区域的相对位置信息确定下一次轨迹预测的参考步长和参考方向,可以提升对感兴趣目标对象的下一次轨迹预测计算的效率;单目标跟踪的计算过程可以迭代,根据每一次迭代过程得到对应一组参考步长和参考方向,可以根据一个迭代过程得到的单目标跟踪结果对下一迭代过程中目标框的设置参数进行优化,可进一步减小目标跟踪的计算量、提升目标跟踪结果的精准性。
可选的,所述按照不同的步长和尺度分别设定目标框,通过所述目标框以所述目标区域为起始位置进行搜索,分别对各所述目标框所在区域进行特征提取,得到对应的第二特征提取结果,包括:
根据所述感兴趣目标对象的尺寸按不同比例缩放设置不同的尺度,根据所述感兴趣目标对象的类别按线性运动规则设置不同的步长,在所述感兴趣目标对象所在的目标区域的各个方向,按不同的所述步长和所述尺度分别设置目标框;
以所述目标区域为起始位置在设定图像区域内进行搜索,分别对各所述目标框所在区域进行特征提取,得到对应的第二特征提取结果。
目标框的尺度可以是将感兴趣目标对象的尺寸按不同比例缩放得到,如感兴趣目标对象的尺寸为x,目标框的尺度可以是0.5x、1x、1.5x、2x等。不同的步长,可以是根据感兴趣目标对象的类别、根据对应类别的感兴趣目标对象的运动特性按照线性运动的方式依次在感兴趣目标对象的上、下、左、右不同方向,分别以不同步长、不同尺度设定目标框,其中,不同步长分别对应不同像素距离,对于感兴趣目标对象的运动特性为运动速度更快的目标,相应设置的步长通常也更大;反之,对于感兴趣目标对象的运动特性为运动速度更慢的目标,相应设置的步长通常也更小。如图10所示,根据感兴趣目标对象的尺寸为x,分别在感兴趣目标对象的上方依序设置尺度分别为1x目标框、0.5x目标框、在感兴趣目标对象的下方依序设置尺度为1x目标框、0.5x目标框、在感兴趣目标对象的右侧依序设置1x目标框、0.5x目标框、1x目标框,如此,形成对感兴趣目标对象的追踪区域范围。
上述实施例中,按照线性运动的方式对不同类别的感兴趣目标对象进行追踪预测,可以提升追踪计算的效率及目标跟踪结果的精准性。
可选的,所述S103,对所述红外图像进行目标检测,确定所述红外图像中的目标对象,包括:
对所述红外图像进行二值化处理,得到对应的掩膜图像;
基于所述掩膜图像进行图像形态学滤波处理,得到所述红外图像对应的目标对象掩膜图像;
将所述目标对象掩膜图像与原始的所述红外图像进行融合,得到目标筛选图像,对所述目标筛选图像进行目标检测,确定所述红外图像中包含的目标对象的类别、位置信息。
热成像视野中目标对象的成像温度高于周围环境的成像温度,对红外图像进行二值化处理,可以将红外图像中目标对象的对应成像位置进行粗定位,得到可将各目标对象在红外图像中的成像位置进行定位的掩膜图像,如图11和图12所示,为一可选的具体示例中,对原始的红外图像进行二值化处理后,得到含高温目标的掩膜图像的示意图,其中,二值化图像中白色区域对应为高温目标区域,方框圈出的分离的白色断点则表示非高温异常目标区域。二值化处理过程中,对应同一目标对象可能会存在边缘点断续,对于同一个目标对存在内部空洞的情况,通过对掩膜图像进行图像形态学滤波处理,消除掩膜图像中的毛刺、噪声,得到各目标对象轮廓更完整、清晰的目标对象掩膜图像,如图13所示,为可选的具体示例中,对掩膜图像进行图像形态学滤波处理,得到的包含真正高温目标更完整、清晰边缘的目标对象掩膜图像,如图11方框圈出的非高温异常目标通过图像形态学滤波处理后已被过滤。将所述目标对象掩膜图像与原始的所述红外图像进行融合,得到目标筛选图像,如图14所示,以目标筛选图像作为输入进行目标检测,确定所述红外图像中包含的目标对象的类别、位置信息。
上述实施例中,通过形成掩膜图像,对掩膜图像进行图像形态学滤波处理形成目标对象掩膜图像,利用目标对象掩膜图像对红外图像中包含的图像信息进行筛选,将筛选后的包含真正目标对象内容的图像用于目标检测,可以在能够覆盖更大类别的目标对象的检测识别的基础上,提升目标检测的效率,以及提升目标检测结果的准确性。
可选的,所述对所述目标筛选图像进行目标检测,确定所述红外图像中包含的目标对象的类别、位置信息,包括:
通过训练后的检测模型对所述目标筛选图像进行目标检测,确定所述红外图像中包含的目标对象的类别、位置信息;
其中,所述检测模型由训练样本集对神经网络模型进行训练后得到,所述训练样本集包括分别包含不同目标对象及其类别、位置标签的训练样本图像。
检测模型可采用训练后得到的卷积神经网络模型,采用检测模型对目标筛选图像进行目标检测,得到所述红外图像中包含的目标对象的类别、位置信息的目标检测结果。其中,对检测模型进行训练的训练样本集包括正训练样本图像和负训练样本图像。通过采集户外不同时间段、不同地区、不同季节的包含有待识别的目标对象的红外图像来建立训练样本集,待识别的目标对象可以主要包括鸟类、兔子、牛、羊、狼、狗、猪、猫、行人、轿车、卡车、特种车辆等。正训练样本图像可以是包含有待识别的目标对象、及带有对应目标对象的类别、位置标签的原始红外图像;也可以是基于形成目标对象掩膜图像得到的包含有待识别的目标对象、及带有对应目标对象的类别、位置标签的目标筛选图像。通过深度学习的方法对训练样本集中训练样本图像进行特征提取,能够获取不同类别之间固有的特征,如动物的耳朵、爪子、姿态,车辆的轮廓、边角,行人的体征等,形成检测模型。正训练样本图像中原始红外图像、目标筛选图像的数量可以按照一定比例设置,对检测模型的训练样本包括一定比例的含有待识别的目标对象、及带有对应目标对象的类别、位置标签的目标筛选图像,可以提升检测模型的训练速度,提升训练后得到的检测模型对目标识别的效率,提升目标类别筛选和目标位置定位的识别效率和准确性,减少因其它干扰背景带来的错误检测。
上述实施例中,通过形成掩膜图像,对掩膜图像进行图像形态学滤波处理形成目标对象掩膜图像,利用目标对象掩膜图像对红外图像中包含的图像信息进行筛选,将筛选后的包含真正目标对象内容的图像用于训练后的神经网络模型来进行目标检测,如此,可以克服现有技术中通过神经网络模型直接对红外图像中目标进行检测的目标检测效果不好的缺陷,有效地提升了利用神经网络模型对红外图像进行处理的应用能力。
可选的,所述对所述红外图像进行二值化处理,得到对应的掩膜图像,包括:
将所述红外图像中高于温度阈值的像素点置第一灰度值;将低于所述温度阈值的像素点置第二灰度值,得到对应的掩膜图像;
所述基于所述掩膜图像进行图像形态学滤波处理,得到所述红外图像对应的目标对象掩膜图像,包括:
对所述掩膜图像进行先腐蚀后膨胀的图像处理,得到所述红外图像对应的目标对象掩膜图像。
红外图像中目标对象的成像温度通常高于周围环境的成像温度。获取原始的红外图像,将高于温度阈值的像素点和低于温度阈值的像素点分别赋值,形成对应的掩膜图像。本实施例中,第一灰度值为255,第二灰度值为0。图像形态学滤波处理主要用于解决二值化处理后的掩膜图像中,边缘点断续而导致同一目标对象存在内部空洞、割裂的问题,本实施例中,图像形态学滤波处理实时对掩膜图像进行先腐蚀后膨胀的开运算处理。
上述实施例中,对原始的红外图像依次进行二值化处理和先腐蚀后膨胀的图像处理,能够获得真正高温目标的掩膜图像,以提升从红外图像中对目标对象的检测识别的准确性。
请参阅图15至图17,为了能够对本申请实施例提供的红外图像处理方法具有更加整体的理解,下面以一具体示例进行说明。
如图15所示,红外热成像设备包括但不限于镜头及探测器、图像处理器、显示组件,其中探测器包含各种制冷、非制冷的短波、中波、长波探测器;图像处理器包括但不限于各种FPGA(Field Programmable Gate Array,现场可编辑门阵列)、Soc(System on aChip,系统级芯片)、单片机等,显示组件不限于OLED(Organic Light-Emitting Diode,有机发光二极管)、LCD(Liquid Crystal Display,液晶显示器)、LCOS(Liquid Crystal onSilicon,硅基液晶)、光波导等各种显示模块。
红外线通过镜头投射到焦平面探测器上,探测器将红外的光信号转换为电子信号后传输给图像处理器,图像处理器是红外热成像设备的图像处理系统的核心组成部分,对探测器传输过来的信号进行处理,处理后的图像传输给显示组件进行显示,人眼通过观察显示组件来获得最终的红外图像。图像处理器所涉及的主要流程如图16所示,如图17所示,主要流程的实施过程包括如下步骤:
S11,获取红外图像(即原始的红外数据,如图10);
S12,对红外图像进行二值化,得到掩膜图像(图12)。根据所处环境的温度对红外图像进行预处理,温度的阈值设置可以来自于温度传感器或用户设置,人眼对于高温目标更敏感;将热成像视野中高于温度阈值的点置为255,低于温度阈值的点置为0,形成一个二值化mask。
S13,对掩膜图像先腐蚀后膨胀,获得真正高温目标掩膜图像(图13)。所获取到的mask会存在边缘点断续,对于同一个目标会存在内部空洞,对所获取的mask图像先腐蚀后膨胀,目的是消除毛刺、噪声获得真正目标数据。
S14,将真正高温目标掩膜图像与红外图像融合,得到目标筛选图像(图14)。掩膜中是白色的部分保留原始图像内容,掩膜中是黑色的部分,则将原始图像中的内容置为0。
S15,将目标筛选图像送入预先训练的卷积神经网络中进行目标类别筛选和和目标的坐标位置定位,得到目标检测结果(图9)。使用筛选后的目标筛选图像作为神经网络模型的输入,可以减少因其他干扰背景带来的错误检测。目标分类与定位操作的主要操作方式包括:采集户外不同时间段、不同地区、不同季节的大量样本,主要包括鸟类、兔子、牛、羊、狼、狗、猪、猫、行人、轿车、卡车与特种车辆等样本;使用深度学习的方法对数据集进行特征提取,能够获取不同类别之间固有的特征,如动物的耳朵、爪子、姿态,车辆的轮廓、边角,行人的体征等,形成一个检测模型,同时可以对背景做区分,对环境的整体适应性较好。将从红外图像中获取到的高温目标内容,输入已训练完成的目标检测神经网络中,即可获取目标的类别、标号和目标的坐标位置。
S16,用户根据目标检测结果,选取感兴趣目标;
S17,对感兴趣目标进行目标跟踪。用户选择目标后,对选择的感兴趣目标进行特征提取,用于跟踪和轨迹预测。
步骤一,对感兴趣目标进行特征提取,常用的单目标特征提取方式,包括但不限于Haar特征、HOG特征或基于卷积神经网络提取的特征,以HOG特征为例,假设选定ID标号为1的目标,则根据ID 1目标的坐标位置,对目标进行提取,目标检测网络对于每个目标会输出(x,y,w,h)四个信息作为目标的位置信息,其中(x,y)是目标的中心点位置,(w,h)是目标的宽高,HOG特征计算只对目标区域内容进行处理,主要包括梯度计算、梯度直方图计算、block归一化和HOG特征统计四个步骤,以梯度计算为例阐述,其他过程均使用标准计算流程完成:单个像素点的水平方向梯度
Figure 177670DEST_PATH_IMAGE005
是它左右相邻像素点的像素值差值,垂直方向的梯度
Figure 580970DEST_PATH_IMAGE006
是它上下相邻像素点的像素值差值,然后可以得到该像素点的总梯度强度
Figure 308754DEST_PATH_IMAGE007
,以及梯度方向
Figure 797504DEST_PATH_IMAGE004
,其中梯度方向需要取绝对值。
步骤二,按照线性运动的方式对目标进行追踪预测,按照不同的步长,不同的尺度,在目标周围进行搜索,其中不同步长指的是在上下左右四个方向,分别跨越不同的像素距离设定目标框,不同尺度指的是在不同位置根据初始ID 1目标大小,设置不同缩方尺寸大小的选择区域,比如0.5x、1x、1.5x、2x等。对于选择的目标区域同样进行特征提取,与对感兴趣目标的特征提取结果进行比较,选择特征相似度最大的目标区域作为单目标跟踪结果;计算单目标跟踪结果与选择目标的位置中心点的向量大小和向量方向,其中向量大小作为下一次预测目标运动速度的步长参考,向量方向为下一次预测目标运动方向的参考,重点提取该位置的区域特征。
步骤三,上述步骤一和二可以重复,得到多组运动参考步长和运动参考速度,对于单目标运动轨迹的精度会逐渐提升。
S181,对感兴趣目标进行区域图像内容提取,获取感兴趣目标的精确轮廓(图3);
对输出的所有目标进行筛选后,假设选定目标ID 1作为感兴趣目标,则根据目标ID 1的坐标位置信息,进行区域图像内容提取,然后利用背景与前景的分割方法获取感兴趣目标的精确轮廓,包括但不限于大津法、灰度阈值分割法、温度分割法或卷积神经网络分割法。
S182,根据获取到的精确轮廓和感兴趣目标的类别,按照不同类别预置的真彩模板,对感兴趣目标进行着色(图4)。通过着色使得感兴趣目标更加凸显,符合人眼感知。整体而言,对人、不同类型的动物分别赋色,避免因温度相近而不能区分具体类型,尤其能够满足户外打猎场景的要求;
S19,将预测轨迹信息和着色后的感兴趣目标与原始红外图像进行融合显示(图5至图8中任一显示模式)。原始目标可能在视野中过小,不利于观察,可以将其放大后,按照使用者设定位置与原始红外图像融合显示;经过目标凸显方法处理后,红外图像中目标的细节和轮廓更加清晰,相较于单纯的灰度图像,明显的颜色差异比灰度差异更明显,更容易发现目标。显示模式可以包括多种,如:直接放大原图显示,使用放大后的真彩目标替换原始目标;显示预测位置,使用圆圈代表位置,箭头代表预测运动方向;显示预测位置,并增加虚拟目标等。
请参阅图18,本申请另一方面,提供一种红外图像处理装置,在示例性实施例中,该红外图像处理装置可以采用红外手持式瞄准设备实施。红外图像处理装置包括:获取模块1121,用于获取红外图像;检测模块1122,用于对所述红外图像进行目标检测,确定所述红外图像中的目标对象;确定模块1123,用于从所述目标对象中确定感兴趣目标对象;分割模块1124,用于确定所述感兴趣目标对象的轮廓区域;显示模块1125,用于根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将所述感兴趣目标对象在所述红外图像中进行凸显。
可选的,所述确定模块1123,用于根据对所述目标对象的选定操作,确定感兴趣目标对象。
可选的,所述显示模块1125,还用于根据所述感兴趣目标对象的类别确定对应色彩模板,在所述红外图像中将所述感兴趣目标对象的所述轮廓区域按照所述对应色彩模块进行着色后进行显示。
可选的,分割模块1124,还用于根据所述感兴趣目标对象的位置信息,对所述感兴趣目标对象进行分割得到所述感兴趣目标对象的轮廓分割图像;所述显示模块1125,还用于根据所述感兴趣目标对象的类别确定对应色彩模板,按照所述对应色彩模板对所述轮廓分割图像进行着色;将着色后的所述轮廓分割图像与原始的所述红外图像进行融合;和/或,将着色后的所述轮廓分割图像按预设比例进行放大后,按照指定显示位置与原始的所述红外图像进行融合。
可选的,还包括跟踪模块,用于对所述感兴趣目标对象进行目标跟踪,以获得轨迹预测信息;所述显示模块1125,还用于根据所述轨迹预测信息,在所述红外图像中显示所述感兴趣目标对象的运动轨迹提示信息。
可选的,所述显示模块1125,还用于根据所述轨迹预测信息,在所述红外图像的所述感兴趣目标对象的一侧显示运动方向提示信息;和/或,根据所述轨迹预测信息,确定所述感兴趣目标对象的运动路径,在所述红外图像中显示所述运动路径;和/或,根据所述轨迹预测信息,确定所述感兴趣目标对象在所述红外图像中的下一预测位置,并在所述红外图像中的所述下一预测位置显示所述感兴趣目标对象的对应虚拟图像。
可选的,所述跟踪模块,还用于根据对所述目标对象的选定操作确定感兴趣目标对象;对所述感兴趣目标对象所在的目标区域进行特征提取,得到第一特征提取结果;按照不同的步长和尺度分别设定目标框,通过所述目标框以所述目标区域为起始位置进行搜索,分别对各所述目标框所在区域进行特征提取,得到对应的第二特征提取结果;根据各所述目标框对应的所述第二特征提取结果与所述第一特征提取结果的特征相似度,将特征相似度满足要求的对应目标框所在区域确定为所述感兴趣目标对象的目标追踪区域;根据所述目标追踪区域获得轨迹预测信息。
可选的,所述跟踪模块,还用于根据所述目标追踪区域与所述目标区域的相对位置信息,确定对所述感兴趣目标对象的下一次轨迹预测的参考步长和参考方向。
可选的,所述跟踪模块,还用于根据所述感兴趣目标对象的尺寸按不同比例缩放设置不同的尺度,根据所述感兴趣目标对象的类别按线性运动规则设置不同的步长,在所述感兴趣目标对象所在的目标区域的各个方向,按不同的所述步长和所述尺度分别设置目标框;以所述目标区域为起始位置在设定图像区域内进行搜索,分别对各所述目标框所在区域进行特征提取,得到对应的第二特征提取结果。
可选的,所述检测模块1122,还用于对所述红外图像进行二值化处理,得到对应的掩膜图像;基于所述掩膜图像进行图像形态学滤波处理,得到所述红外图像对应的目标对象掩膜图像;将所述目标对象掩膜图像与原始的所述红外图像进行融合,得到目标筛选图像,对所述目标筛选图像进行目标检测,确定所述红外图像中包含的目标对象的类别、位置信息。
可选的,所述检测模块1122,还用于通过训练后的检测模型对所述目标筛选图像进行目标检测,确定所述红外图像中包含的目标对象的类别、位置信息;其中,所述检测模型由训练样本集对神经网络模型进行训练后得到,所述训练样本集包括分别包含不同目标对象及其类别、位置标签的训练样本图像。
可选的,所述检测模块1122,还用于将所述红外图像中高于温度阈值的像素点置第一灰度值;将低于所述温度阈值的像素点置第二灰度值,得到对应的掩膜图像;对所述掩膜图像进行先腐蚀后膨胀的图像处理,得到所述红外图像对应的目标对象掩膜图像。
需要说明的是:上述实施例提供的红外图像处理装置在实现目标凸显和跟踪处理过程中,仅以上述各程序模块的划分进行举例说明,在实际应用中,可以根据需要而将上述处理分配由不同的程序模块完成,即可将装置的内部结构划分成不同的程序模块,以完成以上描述的全部或部分方法步骤。另外,上述实施例提供的红外图像处理装置与红外图像处理方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
本申请另一方面提供一种红外热成像设备,请参阅图19,为本申请实施例提供的红外热成像设备的一个可选的硬件结构示意图,所述红外热成像设备包括处理器111、与所述处理器111连接的存储器112,存储器112内用于存储各种类别的数据以支持图像处理装置的操作,且存储有用于实现本申请任一实施例提供的红外图像处理方法的计算机程序,所述计算机程序被所述处理器执行时,实现本申请任一实施例提供的红外图像处理方法的步骤,且能达到相同的技术效果,为避免重复,这里不再赘述。
可选的,所述红外热成像设备还包括与所述处理器111连接的红外拍摄模块113和显示模块114,所述红外拍摄模块113用于拍摄红外图像作为待处理图像发送给所述处理器111。所述显示模块114用于显示所述处理器111输出的对所述感兴趣目标对象进行凸显的所述红外图像。
本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述红外图像处理方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,所述的计算机可读存储介质,如只读存储器(Read-OnlyMemory,简称ROM)、随机存取存储器(RandomAccessMemory,简称RAM)、磁碟或者光盘等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是红外图像设备、手机,计算机,服务器或者网络设备等)执行本发明各个实施例所述的方法。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围之内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。

Claims (16)

1.一种红外图像处理方法,其特征在于,包括:
获取红外图像;
对所述红外图像进行目标检测,确定所述红外图像中的目标对象;
从所述目标对象中确定感兴趣目标对象;
确定所述感兴趣目标对象的轮廓区域;
根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将所述感兴趣目标对象在所述红外图像中进行凸显。
2.如权利要求1所述的红外图像处理方法,其特征在于,所述从所述目标对象中确定感兴趣目标对象,包括:
根据对所述目标对象的选定操作,确定感兴趣目标对象。
3.如权利要求1所述红外图像处理方法,其特征在于,所述根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将所述感兴趣目标对象在所述红外图像中进行凸显,包括:
根据所述感兴趣目标对象的类别确定对应色彩模板,在所述红外图像中将所述感兴趣目标对象的所述轮廓区域按照所述对应色彩模块进行着色后进行显示。
4.如权利要求3所述红外图像处理方法,其特征在于,所述确定所述感兴趣目标对象的轮廓区域,包括:
根据所述感兴趣目标对象的位置信息,对所述感兴趣目标对象进行分割得到所述感兴趣目标对象的轮廓分割图像;
所述根据所述感兴趣目标对象的类别确定对应色彩模板,在所述红外图像中将所述感兴趣目标对象的所述轮廓区域按照所述对应色彩模块进行着色后进行显示,包括:
根据所述感兴趣目标对象的类别确定对应色彩模板,按照所述对应色彩模板对所述轮廓分割图像进行着色;
将着色后的所述轮廓分割图像与原始的所述红外图像进行融合;和/或,将着色后的所述轮廓分割图像按预设比例进行放大后,按照指定显示位置与原始的所述红外图像进行融合。
5.如权利要求1至4中任一项所述红外图像处理方法,其特征在于,所述从所述目标对象中确定感兴趣目标对象之后,还包括:
对所述感兴趣目标对象进行目标跟踪,以获得轨迹预测信息;
根据所述轨迹预测信息,在所述红外图像中显示所述感兴趣目标对象的运动轨迹提示信息。
6.如权利要求5所述红外图像处理方法,其特征在于,所述根据所述轨迹预测信息,在所述红外图像中显示所述感兴趣目标对象的运动轨迹提示信息,包括:
根据所述轨迹预测信息,在所述红外图像的所述感兴趣目标对象的一侧显示运动方向提示信息;和/或,
根据所述轨迹预测信息,确定所述感兴趣目标对象的运动路径,在所述红外图像中显示所述运动路径;和/或,
根据所述轨迹预测信息,确定所述感兴趣目标对象在所述红外图像中的下一预测位置,并在所述红外图像中的所述下一预测位置显示所述感兴趣目标对象的对应虚拟图像。
7.如权利要求5所述红外图像处理方法,其特征在于,所述对所述感兴趣目标对象进行目标跟踪,以获得轨迹预测信息,包括:
对所述感兴趣目标对象所在的目标区域进行特征提取,得到第一特征提取结果;
按照不同的步长和尺度分别设定目标框,通过所述目标框以所述目标区域为起始位置进行搜索,分别对各所述目标框所在区域进行特征提取,得到对应的第二特征提取结果;
根据各所述目标框对应的所述第二特征提取结果与所述第一特征提取结果的特征相似度,将特征相似度满足要求的对应目标框所在区域确定为所述感兴趣目标对象的目标追踪区域;
根据所述目标追踪区域获得轨迹预测信息。
8.如权利要求7所述红外图像处理方法,其特征在于,所述根据各所述目标框对应的所述第二特征提取结果与所述第一特征提取结果的特征相似度,将特征相似度满足要求的对应目标框所在区域确定为所述感兴趣目标对象的目标追踪区域之后,还包括:
根据所述目标追踪区域与所述目标区域的相对位置信息,确定对所述感兴趣目标对象的下一次轨迹预测的参考步长和参考方向。
9.如权利要求7所述红外图像处理方法,其特征在于,所述按照不同的步长和尺度分别设定目标框,通过所述目标框以所述目标区域为起始位置进行搜索,分别对各所述目标框所在区域进行特征提取,得到对应的第二特征提取结果,包括:
根据所述感兴趣目标对象的尺寸按不同比例缩放设置不同的尺度,根据所述感兴趣目标对象的类别按线性运动规则设置不同的步长,在所述感兴趣目标对象所在的目标区域的各个方向,按不同的所述步长和所述尺度分别设置目标框;
以所述目标区域为起始位置在设定图像区域内进行搜索,分别对各所述目标框所在区域进行特征提取,得到对应的第二特征提取结果。
10.如权利要求1所述红外图像处理方法,其特征在于,所述对所述红外图像进行目标检测,确定所述红外图像中的目标对象,包括:
对所述红外图像进行二值化处理,得到对应的掩膜图像;
基于所述掩膜图像进行图像形态学滤波处理,得到所述红外图像对应的目标对象掩膜图像;
将所述目标对象掩膜图像与原始的所述红外图像进行融合,得到目标筛选图像,对所述目标筛选图像进行目标检测,确定所述红外图像中包含的目标对象的类别、位置信息。
11.如权利要求10所述红外图像处理方法,其特征在于,所述对所述目标筛选图像进行目标检测,确定所述红外图像中包含的目标对象的类别、位置信息,包括:
通过训练后的检测模型对所述目标筛选图像进行目标检测,确定所述红外图像中包含的目标对象的类别、位置信息;
其中,所述检测模型由训练样本集对神经网络模型进行训练后得到,所述训练样本集包括分别包含不同目标对象及其类别、位置标签的训练样本图像。
12.如权利要求10所述红外图像处理方法,其特征在于,所述对所述红外图像进行二值化处理,得到对应的掩膜图像,包括:
将所述红外图像中高于温度阈值的像素点置第一灰度值;将低于所述温度阈值的像素点置第二灰度值,得到对应的掩膜图像;
所述基于所述掩膜图像进行图像形态学滤波处理,得到所述红外图像对应的目标对象掩膜图像,包括:
对所述掩膜图像进行先腐蚀后膨胀的图像处理,得到所述红外图像对应的目标对象掩膜图像。
13.一种红外图像处理装置,其特征在于,包括:
获取模块,用于获取红外图像;
检测模块,用于对所述红外图像进行目标检测,确定所述红外图像中的目标对象;
确定模块,用于从所述目标对象中确定感兴趣目标对象;
分割模块,用于确定所述感兴趣目标对象的轮廓区域;
显示模块,用于根据所述感兴趣目标对象的类别对所述轮廓区域进行真彩处理,将所述感兴趣目标对象在所述红外图像中进行凸显。
14.一种红外热成像设备,其特征在于,包括处理器、与所述处理器连接的存储器及存储在所述存储器上并可被所述处理器执行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至12中任一项所述的红外图像处理方法。
15.如权利要求14所述红外热成像设备,其特征在于,还包括与所述处理器连接的红外拍摄模块和显示模块;
所述红外拍摄模块用于采集红外图像并发送给所述处理器;
所述显示模块用于显示所述处理器输出的对所述感兴趣目标对象进行凸显的所述红外图像。
16.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至12任一项所述的红外图像处理方法。
CN202211086689.5A 2022-09-07 2022-09-07 红外图像处理方法、装置及设备、存储介质 Active CN115170792B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202211086689.5A CN115170792B (zh) 2022-09-07 2022-09-07 红外图像处理方法、装置及设备、存储介质
PCT/CN2023/072732 WO2024051067A1 (zh) 2022-09-07 2023-01-17 红外图像处理方法、装置及设备、存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211086689.5A CN115170792B (zh) 2022-09-07 2022-09-07 红外图像处理方法、装置及设备、存储介质

Publications (2)

Publication Number Publication Date
CN115170792A true CN115170792A (zh) 2022-10-11
CN115170792B CN115170792B (zh) 2023-01-10

Family

ID=83480917

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211086689.5A Active CN115170792B (zh) 2022-09-07 2022-09-07 红外图像处理方法、装置及设备、存储介质

Country Status (2)

Country Link
CN (1) CN115170792B (zh)
WO (1) WO2024051067A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115393578A (zh) * 2022-10-13 2022-11-25 北京鹰之眼智能健康科技有限公司 一种获取代谢状态的复合区域数据处理系统
CN115633939A (zh) * 2022-10-13 2023-01-24 北京鹰之眼智能健康科技有限公司 一种基于红外图像获取代谢状态复合区域的方法
WO2024051067A1 (zh) * 2022-09-07 2024-03-14 烟台艾睿光电科技有限公司 红外图像处理方法、装置及设备、存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050013482A1 (en) * 2000-11-07 2005-01-20 Niesen Joseph W. True color infrared photography and video
CN101277429A (zh) * 2007-03-27 2008-10-01 中国科学院自动化研究所 监控中多路视频信息融合处理与显示的方法和系统
CN103854285A (zh) * 2014-02-27 2014-06-11 西安电子科技大学 基于随机投影和改进谱聚类的sar图像地物分割方法
CN104134073A (zh) * 2014-07-31 2014-11-05 郑州航空工业管理学院 一种基于一类归一化的遥感影像单类分类方法
WO2016182961A1 (en) * 2015-05-08 2016-11-17 Flir Systems, Inc. Isothermal image enhancement systems and methods
CN108460794A (zh) * 2016-12-12 2018-08-28 南京理工大学 一种双目立体红外显著目标检测方法及系统
CN110084830A (zh) * 2019-04-07 2019-08-02 西安电子科技大学 一种视频运动目标检测与跟踪方法
CN111753692A (zh) * 2020-06-15 2020-10-09 珠海格力电器股份有限公司 目标对象提取方法、产品检测方法、装置、计算机和介质
CN113378818A (zh) * 2021-06-21 2021-09-10 中国南方电网有限责任公司超高压输电公司柳州局 电气设备缺陷确定方法、装置、电子设备及存储介质
CN114581351A (zh) * 2022-03-02 2022-06-03 合肥英睿系统技术有限公司 目标增强的图像显示方法、装置、设备及存储介质

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115170792B (zh) * 2022-09-07 2023-01-10 烟台艾睿光电科技有限公司 红外图像处理方法、装置及设备、存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050013482A1 (en) * 2000-11-07 2005-01-20 Niesen Joseph W. True color infrared photography and video
CN101277429A (zh) * 2007-03-27 2008-10-01 中国科学院自动化研究所 监控中多路视频信息融合处理与显示的方法和系统
CN103854285A (zh) * 2014-02-27 2014-06-11 西安电子科技大学 基于随机投影和改进谱聚类的sar图像地物分割方法
CN104134073A (zh) * 2014-07-31 2014-11-05 郑州航空工业管理学院 一种基于一类归一化的遥感影像单类分类方法
WO2016182961A1 (en) * 2015-05-08 2016-11-17 Flir Systems, Inc. Isothermal image enhancement systems and methods
CN108460794A (zh) * 2016-12-12 2018-08-28 南京理工大学 一种双目立体红外显著目标检测方法及系统
CN110084830A (zh) * 2019-04-07 2019-08-02 西安电子科技大学 一种视频运动目标检测与跟踪方法
CN111753692A (zh) * 2020-06-15 2020-10-09 珠海格力电器股份有限公司 目标对象提取方法、产品检测方法、装置、计算机和介质
CN113378818A (zh) * 2021-06-21 2021-09-10 中国南方电网有限责任公司超高压输电公司柳州局 电气设备缺陷确定方法、装置、电子设备及存储介质
CN114581351A (zh) * 2022-03-02 2022-06-03 合肥英睿系统技术有限公司 目标增强的图像显示方法、装置、设备及存储介质

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
NING SUN等: "Proposal generation method for object detection in infrared image", 《INFRARED PHYSICS & TECHNOLOGY》 *
TONG JIA等: "3D Temperature Distribution Model Based on Thermal Infrared Image", 《JOURNAL OF SENSORS》 *
戈曼等: "基于单目深度估计的红外图像彩色化方法", 《微计算机信息》 *
王文锦等: "一种高效的灰度图像真彩化方案", 《激光与红外》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024051067A1 (zh) * 2022-09-07 2024-03-14 烟台艾睿光电科技有限公司 红外图像处理方法、装置及设备、存储介质
CN115393578A (zh) * 2022-10-13 2022-11-25 北京鹰之眼智能健康科技有限公司 一种获取代谢状态的复合区域数据处理系统
CN115633939A (zh) * 2022-10-13 2023-01-24 北京鹰之眼智能健康科技有限公司 一种基于红外图像获取代谢状态复合区域的方法
CN115393578B (zh) * 2022-10-13 2023-04-21 北京鹰之眼智能健康科技有限公司 一种获取代谢状态的复合区域数据处理系统

Also Published As

Publication number Publication date
WO2024051067A1 (zh) 2024-03-14
CN115170792B (zh) 2023-01-10

Similar Documents

Publication Publication Date Title
CN115170792B (zh) 红外图像处理方法、装置及设备、存储介质
CN109271921B (zh) 一种多光谱成像的智能识别方法及系统
US20220245792A1 (en) Systems and methods for image quality detection
CN109584248B (zh) 基于特征融合和稠密连接网络的红外面目标实例分割方法
WO2021051601A1 (zh) 利用Mask R-CNN选择检测框的方法及系统、电子装置及存储介质
US20190228276A1 (en) License plate reader using optical character recognition on plural detected regions
CN112884764B (zh) 提取图像中地块的方法、装置、电子设备及存储介质
US10558844B2 (en) Lightweight 3D vision camera with intelligent segmentation engine for machine vision and auto identification
CN111462128B (zh) 一种基于多模态光谱图像的像素级图像分割系统及方法
CN114821014B (zh) 基于多模态与对抗学习的多任务目标检测识别方法及装置
CN109919157A (zh) 一种视觉定位方法及装置
CN112365467B (zh) 一种基于单幅图像深度估计的雾天图像能见度估计方法
CN113052295B (zh) 一种神经网络的训练方法、物体检测方法、装置及设备
CN114565895B (zh) 一种基于智慧社会的安防监控系统及方法
CN114639115B (zh) 一种人体关键点与激光雷达融合的3d行人检测方法
CN110910379B (zh) 一种残缺检测方法及装置
CN111898427A (zh) 一种基于特征融合深度神经网络的多光谱行人检测方法
Ozcan et al. A novel fusion method with thermal and RGB-D sensor data for human detection
CN113033386B (zh) 一种基于高分辨率遥感影像的输电线路通道隐患识别方法及系统
CN112802027A (zh) 一种目标对象的分析方法、存储介质及电子装置
CN117437692A (zh) 一种协同分割辅助的跨模态行人重识别方法、系统、设备及介质
CN115984712A (zh) 基于多尺度特征的遥感图像小目标检测方法及系统
Kalmukov et al. Methods for Automated Remote Sensing and Counting of Animals
CN111310511A (zh) 用于识别物体的方法和装置
CN112232272B (zh) 一种激光与视觉图像传感器融合的行人识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
EE01 Entry into force of recordation of patent licensing contract
EE01 Entry into force of recordation of patent licensing contract

Application publication date: 20221011

Assignee: INFIRAY TECHNOLOGIES CO.,LTD.

Assignor: Yantai Airui Photo-Electric Technology Co.,Ltd.

Contract record no.: X2024980006380

Denomination of invention: Infrared image processing methods, devices and equipment, storage media

Granted publication date: 20230110

License type: Common License

Record date: 20240530