CN113596335A - 基于图像融合的公路隧道火灾监测系统及方法 - Google Patents

基于图像融合的公路隧道火灾监测系统及方法 Download PDF

Info

Publication number
CN113596335A
CN113596335A CN202110877300.8A CN202110877300A CN113596335A CN 113596335 A CN113596335 A CN 113596335A CN 202110877300 A CN202110877300 A CN 202110877300A CN 113596335 A CN113596335 A CN 113596335A
Authority
CN
China
Prior art keywords
image
dimensional
fusion
visible light
scanning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110877300.8A
Other languages
English (en)
Inventor
马庆禄
唐小垚
黄筱潇
马恋
付冰琳
张�杰
张书
聂振宇
黄光浩
曾皓威
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing Jiaotong University
Original Assignee
Chongqing Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing Jiaotong University filed Critical Chongqing Jiaotong University
Priority to CN202110877300.8A priority Critical patent/CN113596335A/zh
Publication of CN113596335A publication Critical patent/CN113596335A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/0014Radiation pyrometry, e.g. infrared or optical thermometry for sensing the radiation from gases, flames
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J5/0014Radiation pyrometry, e.g. infrared or optical thermometry for sensing the radiation from gases, flames
    • G01J5/0018Flames, plasma or welding
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B17/00Fire alarms; Alarms responsive to explosion
    • G08B17/12Actuation by presence of radiation or particles, e.g. of infrared radiation or of ions
    • G08B17/125Actuation by presence of radiation or particles, e.g. of infrared radiation or of ions by using a video camera to detect fire or smoke
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/268Signal distribution or switching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J5/00Radiation pyrometry, e.g. infrared or optical thermometry
    • G01J2005/0077Imaging

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Electromagnetism (AREA)
  • Plasma & Fusion (AREA)
  • Emergency Management (AREA)
  • Business, Economics & Management (AREA)
  • Fire-Detection Mechanisms (AREA)
  • Alarm Systems (AREA)

Abstract

本发明具体涉及基于图像融合的公路隧道火灾监测系统及方法。所述系统包括:摄像头单元,用于获取隧道火灾事故的可见光图像;红外扫描单元,用于获取隧道火灾事故和周边环境的热成像图像;激光雷达单元,用于获取隧道火灾事故和周边环境的三维扫描图像;图像融合显示单元,将热成像图像融合至可见光图像中后,再将三维扫描图像融合至彩色融合图像中得到含有温度、距离、坐标等信息的三维彩色融合显示图像,用于进行公路隧道火灾监测。本发明还相应的公开了一种公路隧道火灾监测系统及方法。本发明中的公路隧道火灾监测方法能够在能见度低、强光等恶劣环境下有效获取事故信息图像,从而能够提供重要的救援指导并提高公路隧道火灾监测的监测效果。

Description

基于图像融合的公路隧道火灾监测系统及方法
技术领域
本发明涉及隧道安全管理技术领域,具体涉及基于图像融合的公路隧道火灾监测系统及方法。
背景技术
近年来,随着国家基础建设的完善,公路隧道的数量越来越多。公路隧道内部的车流量相对较大,且隧道内部灯光与隧道外部存在较大差异,导致隧道内部行车过程中容易发生相撞、刮擦等隧道火灾事故。同时,由于隧道的特殊性,导致隧道内部事故救援的效率低下,同时,外界车辆很难在第一时间获知隧道路况信息,一旦隧道内发生事故,造成的伤亡和损失更加惨重。因此,对公路隧道的安全监测尤为重要。
视频监控系统是目前公路隧道安全监测的主要技术手段,目前大部分隧道火灾事故以人工观察视频监控图像为主,其中90%及以上的视频监控图像无法得到重点关注,无法在第一时间发现运行安全事件是现有视频监控系统的主要瓶颈。为此,公开号为CN109214291A的中国专利公开了一种《隧道事故自动检测方法》,其包括:采集监控区域的视频数据并进行预处理;利用混合高斯模型进行背景建模,从原始图像分离出背景像素;从监控视频图像中提取运动目标;记录运动目标的轨迹信息,从而识别出运动目标信息,并进行标记;对标记的运动目标在隧道内的情况进行跟踪;当运动目标轨迹超过设定阈值时,发出报警信息。
上述现有方案中的隧道事故自动检测方法也是一种公路隧道安全监测方法,其通过对隧道的实时监控实现隧道内车辆的全方位检测。申请人发现,严重的交通事故极易引发隧道火灾事故,当隧道火灾事故发生时会产生强光并伴随高温。然而,现有公路隧道火灾监测方法采用视频监控摄像头获取视频(可见光)图像的方式,在隧道火灾事故等强光环境下采集的事故图像中会出现“亮斑”,并且无法有效获取隧道火灾事故发生的位置信息,使得难以根据可见光图像确定隧道火灾事故的规模、具体位置、伤员人数等具体事故信息,进而难以有效开展营救工作,导致公路隧道火灾监测的效果不好。因此,如何设计一种能够在能见度低、强光等恶劣环境下有效获取事故信息图像的公路隧道火灾监测方法是亟需解决的技术问题。
发明内容
针对上述现有技术的不足,本发明所要解决的技术问题是:如何提供一种能够在能见度低、强光等恶劣环境下有效获取事故信息图像的公路隧道火灾监测方法,进而能够基于事故信息图像反映具体事故信息,从而能够提供重要的救援指导并提高公路隧道火灾监测的监测效果。
为了解决上述技术问题,本发明采用了如下的技术方案:
基于图像融合的公路隧道火灾监测系统,包括:
摄像头单元,用于获取隧道火灾事故的可见光图像;
红外扫描单元,用于获取隧道火灾事故和周边环境的热成像图像;所述红外扫描单元的红外发射方向与所述摄像头单元的拍摄方向相对应;
激光雷达单元,用于获取隧道火灾事故和周边环境的三维扫描图像;所述激光雷达单元的扫描端上设置有反射罩,所述反射罩用于将所述激光雷达单元发射出的激光束朝隧道火灾事故发生的方向聚集,使得所述激光雷达单元的扫描方向与所述摄像头单元的拍摄方向相对应;
图像融合显示单元,首先将所述热成像图像融合至所述可见光图像中得到对应的彩色融合图像;然后将所述三维扫描图像融合至所述彩色融合图像中得到对应的三维彩色融合显示图像;所述三维彩色融合显示图像中所述可见光图像、所述热成像图像和所述三维扫描图像的图像信息能够重合、同步显示。
优选的,所述摄像头单元、所述红外扫描单元和所述激光雷达单元三者依次竖向间隔设置,且所述摄像头单元的拍摄视角分别与所述红外扫描单元的红外发射视角和所述激光雷达单元的三维扫描视角相对应,使得所述可见光图像、所述热成像图像和所述三维扫描图像在竖向方向上的投影形状和面积尺寸保持一致。
优选的,公路隧道火灾监测系统还包括:
轨道,沿着隧道内部的通行路径布置;
移动机器人,设置于所述轨道上;用于带动所述摄像头单元、所述激光雷达单元和所述红外扫描单元在所述轨道上移动,以获取隧道内部对应区域的可见光图像、三维扫描图像和热成像图像。在实际应用场景下,就可以用于对融合后的图像进行判断,以取代人工监测,降低人工监视工作量。
本发明还公开了基于图像融合的公路隧道火灾监测方法,基于上述的公路隧道火灾监测系统实施,具体包括以下步骤:
S1:获取隧道火灾事故的可见光图像;
S2:在获取所述可见光图像的对应位置获取热成像图像和三维扫描图像;
S3:通过图像融合处理,首先将所述热成像图像融合至所述可见光图像中得到对应的彩色融合图像,然后将所述三维扫描图像融合至所述彩色融合图像中得到对应的三维彩色融合显示图像,并将融合处理后的三维彩色融合显示图像用于进行公路隧道的火灾监测;所述三维彩色融合显示图像中所述可见光图像、所述热成像图像和所述三维扫描图像的图像信息能够重合、同步显示。这样,轨道上的移动机器人就可以利用融合处理后的三维彩色融合显示图像,获取隧道火情信息并作决策分析,进行公路隧道的火灾监测和预警防范,做出安全预警指示。
优选的,通过依次竖向间隔设置的摄像头单元、红外扫描单元和激光雷达单元分别获取所述可见光图像、所述热成像图像和所述三维扫描图像;所述摄像头单元的拍摄视角分别与所述红外扫描单元的红外发射视角和所述激光雷达单元的三维扫描视角相对应,使得所述可见光图像、所述三维扫描图像和所述热成像图像在竖向方向上的投影形状和面积尺寸保持一致。
优选的,步骤S3中,通过如下步骤实现热成像图像和可见光图像的图像融合处理:
S301:对获取的可见光图像和热成像图像进行格式转换;
S302:对格式转换后的可见光图像和热成像图像进行图像配准;
S303:通过线性组合法在YUV空间对图像配准后的可见光图像和热成像图像进行初始彩色融合,得到对应的初始彩色源图像;然后选取原始的可见光图像作为参考图像,并将参考图像由RGB空间转换到YUV空间;再将参考图像的YUV分量均值和标准差传递给初始彩色源图像的YUV分量以进行色彩传递;最后将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间以生成对应的彩色融合图像。
优选的,步骤S302中,根据所述摄像头单元和所述红外扫描单元与隧道火灾事故发生位置之间的视场角度,结合格式转换后的可见光图像和热成像图像的缩放因子进行图像配准。
优选的,步骤S303中:
可见光图像表示为Vis(i,j),热成像图像表示为IR(i,j);
通过如下公式进行初始彩色融合得到初始彩色源图像(Ys,Us,Vs):
Figure BDA0003190810890000031
式中:d1、e1、d2、e2、d3、e3均为正有理数,且满足d1+e1=1;d2和e2以及d3和e3的选取则需要使U和V保持在相应的取值区间;
通过如下公式将参考图像由RGB空间转换到YUV空间:
Figure BDA0003190810890000032
通过如下公式将参考图像的YUV分量均值和标准差传递给初始彩色源图像YUV分量:
Figure BDA0003190810890000041
Figure BDA0003190810890000042
Figure BDA0003190810890000043
式中:σ表示图像相应颜色空间的标准差;
Figure BDA0003190810890000044
分别表示相应的均值;下标s和r分别表示源图像和参考图像的参数;
通过如下公式将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间:
Figure BDA0003190810890000045
优选的,步骤S3中,首先建立一个能够将三维扫描图像映射为二维图像的转化矩阵;然后基于所述转化矩阵将三维扫描图像映射为对应的二维场景深度扫描图像;最后将二维场景深度扫描图像与彩色融合图像进行融合生成对应的三维彩色融合显示图像。
优选的,彩色融合图像表示为(U,V),维扫描图像表示为(X,Y,Z);
建立能够将三维扫描图像(X,Y,Z)映射为二维图像的转化矩阵M:
Figure BDA0003190810890000046
式中:矩阵(fu,fv,u0,v0)表示摄像头的参数,fu和fv表示XY轴方向尺度因子,u0,v0表示像平面的中心点;R表示旋转矩阵,t表示平移矢量;
基于转化矩阵M将三维扫描图像(X,Y,Z)映射为对应的二维场景深度扫描图像(u,v):
Figure BDA0003190810890000047
Figure BDA0003190810890000048
通过如下公式将二维场景深度扫描图像(u,v)与彩色融合图像(U,V)进行融合生成对应的三维彩色融合显示图像:
Figure BDA0003190810890000051
本发明中的公路隧道火灾监测方法与现有技术相比,具有如下有益效果:
在本发明中,将可见光图像、热成像图像和三维扫描图像进行了融合并实现了图像信息的重合、同步显示,使得能够在可见光(视频)图像中显示隧道火灾事故中心位置的红外图像信息和三维图像信息,即克服了可见光图像、热成像图像和三维扫描图像自身存在的问题,并能够有效的利用可见光图像、热成像图像和三维扫描图像各自的优势生成反映隧道内物体数量、温度场和隧道火灾事故具体三维位置等具体事故信息的三维彩色融合显示图像,从而能够提供重要的救援指导并提高公路隧道火灾监测的监测效果。同时,本发明中摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角与激光雷达单元的三维扫描视角相对应,使得可见光图像、三维扫描图像和热成像图像的图像信息能够更为准确的对应融合,从而更好的辅助提升图像融合的准确性。
在本发明中,由于激光雷达单元的扫描端是通过周向旋转的方式发射激光束进而实现扫描的,所以本发明通过反射罩聚集激光雷达单元发射出的激光束,一方面,反射罩的设置能够将各个方向的激光束朝隧道火灾事故发生方向反射,这能够避免激光的无用损耗,从而提升激光雷达单元的扫描效率;另一方面,通过反射罩能够朝隧道火灾事故发生方向聚集激光束,使得能够在已有激光强度的基础上增强激光强度,从而提升激光雷达单元的扫描强度。
附图说明
为了使发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步的详细描述,其中:
图1为实施例一中公路隧道火灾监测系统的逻辑框图;
图2和图3为实施例一中激光雷达单元的侧视图和俯视图;
图4为实施例二中公路隧道火灾监测方法的逻辑框图;
图5为实施例二中摄像头单元和红外扫描单元获取图像的示意图。
附图中,各标记所代表的部件名称如下:
1、高清摄像头;2、激光雷达;3、红外热像仪;4、图像融合处理器;5、轨道式机器人。
具体实施方式
下面通过具体实施方式进一步详细的说明:
实施例一:
本实施例中公开了一种基于图像融合的公路隧道火灾监测系统。
如图1所示,基于图像融合的公路隧道火灾监测系统,包括:
摄像头单元,可以使用摄像机等机构单元实现,用于获取隧道火灾事故的可见光图像,以反映隧道内部的真实场景。
红外扫描单元,可以采用红外热成像仪等机构单元实现,用于获取隧道火灾事故和周边环境的热成像图像,以获取图像的温度信息;红外扫描单元的红外发射方向与摄像头单元的拍摄方向相对应;
激光雷达单元,可以采用激光雷达探头等机构单元实现,用于获取隧道火灾事故和周边环境的三维扫描图像或云点图像,以获取图像中各目标点的距离信息和位置信息;结合图2和图3所示,激光雷达单元的扫描端上设置有反射罩,反射罩用于将激光雷达单元发射出的激光束朝隧道火灾事故发生的方向聚集,使得激光雷达单元的扫描方向与摄像头单元的拍摄方向相对应;
图像融合显示单元,首先将热成像图像融合至可见光图像中得到对应的彩色融合图像;然后将三维扫描图像融合至彩色融合图像中得到对应的三维彩色融合显示图像,以基于图像精准的监测隧道火灾事故,以及分析对应火灾事故的位置信息,火情大小等;三维彩色融合显示图像中可见光图像、热成像图像和三维扫描图像的图像信息能够重合、同步显示。
具体的,摄像头单元选用现有的高清摄像头;红外扫描单元选用现有的红外热成像摄像头;具体的,激光雷达单元选用现有的激光雷达;反射罩设置于激光雷达单元扫描端的外周侧位置;反射罩选用能够反射激光束的反光材料。图像融合显示单元为现有的服务器或PC计算机,其通过相关硬件或软件来实现图像的融合处理。
申请人发现,可见光图像能够清晰的反映隧道火灾事故周围位置的信息;但是难以有效反映隧道火灾事故中心位置的信息(因为图像中产生了亮斑),并且无法获取隧道火灾事故发生的位置信息。热成像图像不受能见度低、强光等影响,能够在能见度低、强光等恶劣环境下直观地反映隧道火灾事故中心位置物体表面的温度场,即能够反映隧道火灾事故发生的位置信息;但是其存在图像对比度低,分辨细节能力较差等问题。激光雷达获取的三维扫描图像探测距离较远,能够在能见度低、强光等恶劣环境下准确获取事故中心位置的具体三维信息(方向、位置和距离等);但其容易丢失信息,并且存在图像信息中人或物体不够清晰和直观的问题。
因此,本发明将可见光图像、热成像图像和三维扫描图像进行了融合并实现了图像信息的重合、同步显示,使得能够在可见光(视频)图像中显示隧道火灾事故中心位置的红外图像信息和三维图像信息,即克服了可见光图像、热成像图像和三维扫描图像自身存在的问题,并能够有效的利用可见光图像、热成像图像和三维扫描图像各自的优势生成反映隧道内物体数量、温度场和隧道火灾事故具体三维位置等具体事故信息的三维彩色融合显示图像,从而能够提供重要的救援指导并提高公路隧道火灾监测的监测效果。同时,本发明中摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角与激光雷达单元的三维扫描视角相对应,使得可见光图像、三维扫描图像和热成像图像的图像信息能够更为准确的对应融合,从而更好的辅助提升图像融合的准确性。同时,由于激光雷达单元的扫描端是通过周向旋转的方式发射激光束进而实现扫描的,所以本发明通过反射罩聚集激光雷达单元发射出的激光束,一方面,反射罩的设置能够将各个方向的激光束朝隧道火灾事故发生方向反射,这能够避免激光的无用损耗,从而提升激光雷达单元的扫描效率;另一方面,通过反射罩能够朝隧道火灾事故发生方向聚集激光束,使得能够在已有激光强度的基础上增强激光强度,从而提升激光雷达单元的扫描强度。
具体实施过程中,摄像头单元、红外扫描单元和激光雷达单元三者依次竖向间隔设置,且摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角和激光雷达单元的三维扫描视角相对应,使得可见光图像、热成像图像和三维扫描图像在竖向方向上的投影形状和面积尺寸保持一致。激光雷达单元的反光罩结构以及图像采集单元、图像采集单元和激光雷达单元的布置关系为可见光图像、热成像图像和雷达扫描图像三者的图像融合提供了“硬件”支持。
在本发明中,摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角与激光雷达单元的三维扫描视角相对应,使得可见光图像、三维扫描图像和热成像图像在竖向方向上的投影形状和面积尺寸保持一致,进而使得可见光图像、三维扫描图像和热成像图像的图像信息能够更为准确的对应融合,从而更好的辅助提升图像融合的融合准确性。
具体实施过程中,公路隧道火灾监测系统还包括:
轨道,沿着隧道内部的通行路径布置;
移动机器人,设置于轨道上;用于带动摄像头单元、激光雷达单元和红外扫描单元在轨道上移动,以获取隧道内部对应区域的可见光图像、三维扫描图像和热成像图像。在实际应用场景下,就可以用于对融合后的图像进行判断,以取代人工监测,降低人工监视工作量。具体的,移动机器人可选用现有技术中成熟使用的爬壁机器人或轨道机器人,其受控于图像融合显示单元。
在本发明中,通过移动机器人带动摄像头单元、红外扫描单元和激光雷达单元在隧道内部移动,能够提升火灾监测系统的监测灵活性。
实施例二:
本实施例在实施例一的基础上,公开了一种基于图像融合的公路隧道火灾监测方法。
如图4所示,基于图像融合的公路隧道火灾监测方法,基于实施例一中的公路隧道火灾监测系统实施,具体包括以下步骤:
S1:获取隧道火灾事故的可见光图像;
S2:在获取可见光图像的对应位置获取热成像图像和三维扫描图像;
S3:通过图像融合处理,首先将热成像图像融合至可见光图像中得到对应的彩色融合图像,然后将三维扫描图像融合至彩色融合图像中得到对应的三维彩色融合显示图像,并将融合处理后的三维彩色融合显示图像用于进行公路隧道的火灾监测;三维彩色融合显示图像中可见光图像、热成像图像和三维扫描图像的图像信息能够重合、同步显示。
具体的,通过依次竖向间隔设置的摄像头单元、红外扫描单元和激光雷达单元分别获取可见光图像、热成像图像和三维扫描图像;摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角和激光雷达单元的三维扫描视角相对应,使得可见光图像、三维扫描图像和热成像图像在竖向方向上的投影形状和面积尺寸保持一致。这样,轨道上的移动机器人就可以利用融合处理后的三维彩色融合显示图像进行公路隧道的火灾监测和预警防范,做出安全预警指示。
申请人发现,可见光图像能够清晰的反映隧道火灾事故周围位置的信息;但是难以有效反映隧道火灾事故中心位置的信息(因为图像中产生了亮斑),并且无法获取隧道火灾事故发生的位置信息。热成像图像不受强光的影响,能够在强光环境下直观地反映隧道火灾事故中心位置物体表面的温度场,即能够反映隧道火灾事故发生的位置信息;但是其存在图像对比度低,分辨细节能力较差等问题。激光雷达获取的三维扫描图像探测距离较远,能够准确获取事故中心位置的具体三维信息(方向、位置和距离等);但其容易丢失信息,并且存在图像信息中人或物体不够清晰和直观的问题。
在本发明中,将可见光图像、热成像图像和三维扫描图像进行了融合并实现了图像信息的重合、同步显示,使得能够在可见光(视频)图像中显示隧道火灾事故中心位置的红外图像信息和三维图像信息,即克服了可见光图像、热成像图像和三维扫描图像自身存在的问题,并能够有效的利用可见光图像、热成像图像和三维扫描图像各自的优势生成反映隧道内物体数量、温度场和隧道火灾事故具体三维位置等具体事故信息的三维彩色融合显示图像,从而能够进一步提升公路隧道火灾监测的监测效果。同时,本发明中摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角与激光雷达单元的三维扫描视角相对应,使得可见光图像、三维扫描图像和热成像图像的图像信息能够更为准确的对应融合,从而更好的辅助提升图像融合的准确性。
具体实施过程中,通过如下步骤实现热成像图像和可见光图像的图像融合处理:
S301:对获取的可见光图像和热成像图像进行格式转换。具体的,格式转换是将图像转换为易于处理的格式,例如转化为OpenCV中图像处理标准格式IplImage。
S302:对格式转换后的可见光图像和热成像图像进行图像配准。具体的,结合图5所示根据摄像头单元和红外扫描单元与隧道火灾事故发生位置之间的视场角度,结合格式转换后可见光图像和热成像图像的缩放因子进行图像配准。
分别基于水平方向的缩放因子和垂直方向的缩放因子完成图像配准:
水平方向的缩放因子:
Figure BDA0003190810890000091
垂直方向的缩放因子:
Figure BDA0003190810890000092
α表示可见光摄像头与隧道火灾事故发生位置间的视场角度;β表示红外热成像摄像头与隧道火灾事故发生位置间的视场角度。
S303:通过线性组合法在YUV空间对图像配准后的可见光图像和热成像图像进行初始彩色融合,得到对应的初始彩色源图像;然后选取原始的可见光图像作为参考图像,并将参考图像由RGB空间转换到YUV空间;再将参考图像的YUV分量均值和标准差传递给初始彩色源图像的YUV分量以进行色彩传递;最后将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间以生成对应的彩色融合图像。
在本发明中,能够对摄像头单元、红外扫描单元和激光雷达单元获取的图像进行图像配准,进而能够有效的辅助提升图像融合的准确性。同时,本发明通过上述步骤生成的彩色融合图像,能够保留隧道内部的细节纹理和背景的色彩等信息,能够在能见度较低的情况下增强图像信息的显示效果,这不仅有利于在隧道内部使用,还能够辅助提升公路隧道火灾监测的监测效果。
具体的,可见光图像表示为Vis(i,j),热成像图像表示为IR(i,j);
通过如下公式进行初始彩色融合得到初始彩色源图像(Ys,Us,Vs):
Figure BDA0003190810890000101
式中:d1、e1、d2、e2、d3、e3均为正有理数,且满足d1+e1=1;d2和e2以及d3和e3的选取则需要使U和V保持在相应的取值区间;
通过如下公式将参考图像由RGB空间转换到YUV空间:
Figure BDA0003190810890000102
通过如下公式将参考图像的YUV分量均值和标准差传递给初始彩色源图像YUV分量:
Figure BDA0003190810890000103
Figure BDA0003190810890000104
Figure BDA0003190810890000105
式中:σ表示图像相应颜色空间的标准差;
Figure BDA0003190810890000106
分别表示相应的均值;下标s和r分别表示源图像和参考图像的参数;
通过如下公式将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间:
Figure BDA0003190810890000107
具体实施过程中,首先建立一个能够将三维扫描图像映射为二维图像的转化矩阵;然后基于转化矩阵将三维扫描图像映射为对应的二维场景深度扫描图像;最后将二维场景深度扫描图像与彩色融合图像进行融合生成对应的三维彩色融合显示图像。
在本发明中,通过将三维扫描图像映射为对应的二维场景深度扫描图像的方式,能够更好的将三维扫描图像与彩色融合图像对应融合,从而能够有效的保证图像融合的准确性。
具体的,彩色融合图像表示为(U,V),维扫描图像表示为(X,Y,Z);
建立能够将三维扫描图像(X,Y,Z)映射为二维图像的转化矩阵M:
Figure BDA0003190810890000111
式中:矩阵(fu,fv,u0,v0)表示摄像头的参数,fu和fv是XY轴方向尺度因子(水平方向和垂直方向的有效焦距),u0,v0表示像平面(image plane)的中心点,又称主点坐标;R表示旋转矩阵,t表示平移矢量;
基于转化矩阵M将三维扫描图像(X,Y,Z)映射为对应的二维场景深度扫描图像(u,v),根据不同姿态下定标板平面,可得到一系列的线性方程,进而能够解算得到标定参数:
Figure BDA0003190810890000112
Figure BDA0003190810890000113
通过如下公式将二维场景深度扫描图像(u,v)与彩色融合图像(U,V)进行融合生成对应的三维彩色融合显示图像:
Figure BDA0003190810890000114
需要说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管通过参照本发明的优选实施例已经对本发明进行了描述,但本领域的普通技术人员应当理解,可以在形式上和细节上对其作出各种各样的改变,而不偏离所附权利要求书所限定的本发明的精神和范围。同时,实施例中公知的具体结构及特性等常识在此未作过多描述。最后,本发明要求的保护范围应当以其权利要求的内容为准,说明书中的具体实施方式等记载可以用于解释权利要求的内容。

Claims (10)

1.基于图像融合的公路隧道火灾监测系统及方法,其特征在于,包括:
摄像头单元,用于获取隧道火灾事故的可见光图像;
红外扫描单元,用于获取隧道火灾事故和周边环境的热成像图像;所述红外扫描单元的红外发射方向与所述摄像头单元的拍摄方向相对应;
激光雷达单元,用于获取隧道火灾事故和周边环境的三维扫描图像;所述激光雷达单元的扫描端上设置有反射罩,所述反射罩用于将所述激光雷达单元发射出的激光束朝隧道火灾事故发生的方向聚集,使得所述激光雷达单元的扫描方向与所述摄像头单元的拍摄方向相对应;
图像融合显示单元,首先将所述热成像图像融合至所述可见光图像中得到对应的彩色融合图像;然后将所述三维扫描图像融合至所述彩色融合图像中得到对应的三维彩色融合显示图像,并将融合处理后的三维彩色融合显示图像用于进行公路隧道的火灾监测;所述三维彩色融合显示图像中所述可见光图像、所述热成像图像和所述三维扫描图像的图像信息能够重合、同步显示。
2.如权利要求1所述的基于图像融合的公路隧道火灾监测方法,其特征在于:所述摄像头单元、所述红外扫描单元和所述激光雷达单元三者依次竖向间隔设置,且所述摄像头单元的拍摄视角分别与所述红外扫描单元的红外发射视角和所述激光雷达单元的三维扫描视角相对应,使得所述可见光图像、所述热成像图像和所述三维扫描图像在竖向方向上的投影形状和面积尺寸保持一致。
3.如权利要求1所述的基于图像融合的公路隧道火灾监测方法,其特征在于,还包括:
轨道,沿着隧道内部的通行路径布置;
移动机器人,设置于所述轨道上;用于带动所述摄像头单元、所述激光雷达单元和所述红外扫描单元在所述轨道上移动,以获取隧道内部对应区域的可见光图像、三维扫描图像和热成像图像。
4.基于图像融合的公路隧道火灾监测方法,其特征在于,基于权利要求1中所述的公路隧道火灾监测系统实施,具体包括以下步骤:
S1:获取隧道火灾事故的可见光图像;
S2:在获取所述可见光图像的对应位置获取热成像图像和三维扫描图像;
S3:通过图像融合处理,首先将所述热成像图像融合至所述可见光图像中得到对应的彩色融合图像,然后将所述三维扫描图像融合至所述彩色融合图像中得到对应的三维彩色融合显示图像,并将融合处理后的三维彩色融合显示图像用于进行公路隧道的火灾监测;所述三维彩色融合显示图像中所述可见光图像、所述热成像图像和所述三维扫描图像的图像信息能够重合、同步显示。
5.如权利要求4所述的基于图像融合的公路隧道火灾监测方法,其特征在于,通过依次竖向间隔设置的摄像头单元、红外扫描单元和激光雷达单元分别获取所述可见光图像、所述热成像图像和所述三维扫描图像;所述摄像头单元的拍摄视角分别与所述红外扫描单元的红外发射视角和所述激光雷达单元的三维扫描视角相对应,使得所述可见光图像、所述三维扫描图像和所述热成像图像在竖向方向上的投影形状和面积尺寸保持一致。
6.如权利要求5所述的基于图像融合的公路隧道火灾监测方法,其特征在于,步骤S3中,通过如下步骤实现热成像图像和可见光图像的图像融合处理:
S301:对获取的可见光图像和热成像图像进行格式转换;
S302:对格式转换后的可见光图像和热成像图像进行图像配准;
S303:通过线性组合法在YUV空间对图像配准后的可见光图像和热成像图像进行初始彩色融合,得到对应的初始彩色源图像;然后选取原始的可见光图像作为参考图像,并将参考图像由RGB空间转换到YUV空间;再将参考图像的YUV分量均值和标准差传递给初始彩色源图像的YUV分量以进行色彩传递;最后将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间以生成对应的彩色融合图像。
7.如权利要求6所述的基于图像融合的公路隧道火灾监测方法,其特征在于,步骤S302中,根据所述摄像头单元和所述红外扫描单元与隧道火灾事故发生位置之间的视场角度,结合格式转换后的可见光图像和热成像图像的缩放因子进行图像配准。
8.如权利要求6所述的基于图像融合的公路隧道火灾监测方法,其特征在于,步骤S303中:
可见光图像表示为Vis(i,j),热成像图像表示为IR(i,j);
通过如下公式进行初始彩色融合得到初始彩色源图像(Ys,Us,Vs):
Figure FDA0003190810880000021
式中:d1、e1、d2、e2、d3、e3均为正有理数,且满足d1+e1=1;d2和e2以及d3和e3的选取则需要使U和V保持在相应的取值区间;
通过如下公式将参考图像由RGB空间转换到YUV空间:
Figure FDA0003190810880000031
通过如下公式将参考图像的YUV分量均值和标准差传递给初始彩色源图像YUV分量:
Figure FDA0003190810880000032
Figure FDA0003190810880000033
Figure FDA0003190810880000034
式中:σ表示图像相应颜色空间的标准差;
Figure FDA0003190810880000035
分别表示相应的均值;下标s和r分别表示源图像和参考图像的参数;
通过如下公式将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间:
Figure FDA0003190810880000036
9.如权利要求6所述的基于图像融合的公路隧道火灾监测方法,其特征在于,步骤S3中,首先建立一个能够将三维扫描图像映射为二维图像的转化矩阵;然后基于所述转化矩阵将三维扫描图像映射为对应的二维场景深度扫描图像;最后将二维场景深度扫描图像与彩色融合图像进行融合生成对应的三维彩色融合显示图像。
10.如权利要求9所述的基于图像融合的公路隧道火灾监测方法,其特征在于:
彩色融合图像表示为(U,V),维扫描图像表示为(X,Y,Z);
建立能够将三维扫描图像(X,Y,Z)映射为二维图像的转化矩阵M:
Figure FDA0003190810880000037
式中:矩阵(fu,fv,u0,v0)表示摄像头的参数,fu和fv表示XY轴方向尺度因子,u0,v0表示像平面的中心点;R表示旋转矩阵,t表示平移矢量;
基于转化矩阵M将三维扫描图像(X,Y,Z)映射为对应的二维场景深度扫描图像(u,v):
Figure FDA0003190810880000041
Figure FDA0003190810880000042
通过如下公式将二维场景深度扫描图像(u,v)与彩色融合图像(U,V)进行融合生成对应的三维彩色融合显示图像:
Figure FDA0003190810880000043
CN202110877300.8A 2021-07-31 2021-07-31 基于图像融合的公路隧道火灾监测系统及方法 Pending CN113596335A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110877300.8A CN113596335A (zh) 2021-07-31 2021-07-31 基于图像融合的公路隧道火灾监测系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110877300.8A CN113596335A (zh) 2021-07-31 2021-07-31 基于图像融合的公路隧道火灾监测系统及方法

Publications (1)

Publication Number Publication Date
CN113596335A true CN113596335A (zh) 2021-11-02

Family

ID=78253329

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110877300.8A Pending CN113596335A (zh) 2021-07-31 2021-07-31 基于图像融合的公路隧道火灾监测系统及方法

Country Status (1)

Country Link
CN (1) CN113596335A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114061763A (zh) * 2021-12-27 2022-02-18 中国人民解放军军事科学院国防工程研究院 一种多传感器融合的三维测温装置
CN114566056A (zh) * 2022-02-28 2022-05-31 招商局重庆公路工程检测中心有限公司 一种公路隧道行车安全风险辨识与防控方法及系统
CN114783141A (zh) * 2022-04-24 2022-07-22 王江湖 一种消防安全系统
CN114859371A (zh) * 2022-07-07 2022-08-05 武汉光谷航天三江激光产业技术研究院有限公司 一种无人机蜂群高分辨复合探测系统及方法
CN115083102A (zh) * 2022-05-12 2022-09-20 成都雷探科技有限公司 基于灾情雷达的火灾灾情检测方法及系统
CN118521985A (zh) * 2024-06-11 2024-08-20 兰州交通大学 一种道路环境感知方法和装置、系统、存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104601953A (zh) * 2015-01-08 2015-05-06 中国航空无线电电子研究所 一种视频图像融合处理系统
CN109490899A (zh) * 2018-11-12 2019-03-19 广西交通科学研究院有限公司 一种基于激光雷达和红外热成像仪的隧道内火源定位方法
CN109934793A (zh) * 2019-01-30 2019-06-25 绵阳慧视光电技术有限责任公司 一种基于整数dct变换的实时图像融合方法
US20190226856A1 (en) * 2018-01-23 2019-07-25 Ford Global Technologies, Llc Wildfire discovery, monitoring, and response system using personal vehicles
CN110415342A (zh) * 2019-08-02 2019-11-05 深圳市唯特视科技有限公司 一种基于多融合传感器的三维点云重建装置与方法
CN110860057A (zh) * 2019-11-18 2020-03-06 燕山大学 一种消防侦察机器人及侦察方法
CN111798402A (zh) * 2020-06-09 2020-10-20 同济大学 基于三维点云模型的电力设备测温数据可视化方法及系统
CN111968221A (zh) * 2020-08-03 2020-11-20 广东中科瑞泰智能科技有限公司 基于温度场与实景视频流的双模式三维建模方法及装置
CN112066994A (zh) * 2020-09-28 2020-12-11 河海大学常州校区 一种消防机器人局部自主导航方法及系统

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104601953A (zh) * 2015-01-08 2015-05-06 中国航空无线电电子研究所 一种视频图像融合处理系统
US20190226856A1 (en) * 2018-01-23 2019-07-25 Ford Global Technologies, Llc Wildfire discovery, monitoring, and response system using personal vehicles
CN109490899A (zh) * 2018-11-12 2019-03-19 广西交通科学研究院有限公司 一种基于激光雷达和红外热成像仪的隧道内火源定位方法
CN109934793A (zh) * 2019-01-30 2019-06-25 绵阳慧视光电技术有限责任公司 一种基于整数dct变换的实时图像融合方法
CN110415342A (zh) * 2019-08-02 2019-11-05 深圳市唯特视科技有限公司 一种基于多融合传感器的三维点云重建装置与方法
CN110860057A (zh) * 2019-11-18 2020-03-06 燕山大学 一种消防侦察机器人及侦察方法
CN111798402A (zh) * 2020-06-09 2020-10-20 同济大学 基于三维点云模型的电力设备测温数据可视化方法及系统
CN111968221A (zh) * 2020-08-03 2020-11-20 广东中科瑞泰智能科技有限公司 基于温度场与实景视频流的双模式三维建模方法及装置
CN112066994A (zh) * 2020-09-28 2020-12-11 河海大学常州校区 一种消防机器人局部自主导航方法及系统

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
刘佳妮等: ""自适应参考图像的可见光与热红外彩色图像融合算法"", 《光谱学与光谱分析》, 31 December 2016 (2016-12-31), pages 3907 - 3908 *
刘佳妮等: ""自适应参考图像的可见光与热红外彩色图像融合算法"", 《光谱学与光谱分析》, pages 3907 - 3908 *
刘松涛 等: ""基于传感器参数和目标轮廓中心的自动配准算法研究"", 《光学精密工程》 *
郭明 等: ""舰船小目标图像配准算法"", 《光子学报》 *
韩艳丽等: ""一种小目标的电视/红外图像配准方法"", 《计算机测量与控制》 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114061763A (zh) * 2021-12-27 2022-02-18 中国人民解放军军事科学院国防工程研究院 一种多传感器融合的三维测温装置
CN114566056A (zh) * 2022-02-28 2022-05-31 招商局重庆公路工程检测中心有限公司 一种公路隧道行车安全风险辨识与防控方法及系统
CN114566056B (zh) * 2022-02-28 2023-01-24 招商局重庆公路工程检测中心有限公司 一种公路隧道行车安全风险辨识与防控方法及系统
CN114783141A (zh) * 2022-04-24 2022-07-22 王江湖 一种消防安全系统
CN115083102A (zh) * 2022-05-12 2022-09-20 成都雷探科技有限公司 基于灾情雷达的火灾灾情检测方法及系统
CN115083102B (zh) * 2022-05-12 2024-03-19 成都雷探科技有限公司 基于灾情雷达的火灾灾情检测方法及系统
CN114859371A (zh) * 2022-07-07 2022-08-05 武汉光谷航天三江激光产业技术研究院有限公司 一种无人机蜂群高分辨复合探测系统及方法
CN118521985A (zh) * 2024-06-11 2024-08-20 兰州交通大学 一种道路环境感知方法和装置、系统、存储介质

Similar Documents

Publication Publication Date Title
CN113596335A (zh) 基于图像融合的公路隧道火灾监测系统及方法
CN112884760B (zh) 近水桥梁多类型病害智能检测方法与无人船设备
CN110390695B (zh) 一种基于ros的激光雷达、摄像头的融合标定系统及标定方法
US10116920B2 (en) Balancing colors in a scanned three-dimensional image
US20170123054A1 (en) Scanner display
CN111325801B (zh) 一种激光雷达和相机的联合标定方法
CN102917171B (zh) 基于像素的小目标定位方法
EP2913796B1 (en) Method of generating panorama views on a mobile mapping system
US9772405B2 (en) Backfilling clouds of 3D coordinates
US20100295927A1 (en) System and method for stereoscopic imaging
Zhu et al. Monocular 3d vehicle detection using uncalibrated traffic cameras through homography
CN105735150A (zh) 一种移动多目视觉桥梁常规检测方法
CN112801880B (zh) 一种车载全景图像成像与目标检测融合显示的方法
JP2002064812A (ja) 移動物体追尾装置
CN110750153A (zh) 一种无人驾驶车辆的动态虚拟化装置
CN116977806A (zh) 一种基于毫米波雷达、激光雷达和高清阵列摄像机的机场目标检测方法及系统
JP4344860B2 (ja) ステレオ画像を用いた道路平面領域並びに障害物検出方法
CN103065412A (zh) 一种应用于林火监测系统的干扰源智能屏蔽方法及装置
Jing et al. Depth estimation matters most: Improving per-object depth estimation for monocular 3d detection and tracking
US20230386315A1 (en) Systems and methods for smoke detection
CN111754560A (zh) 基于稠密三维重建的高温冶炼容器侵蚀预警方法及系统
CN116476888A (zh) 一种地铁隧道病害识别检测装置及方法
CN110766170A (zh) 基于图像处理的多传感器融合和人员定位的方法
CN118351654A (zh) 一种地质灾害和工程安全监测智能预警方法以及系统
Chen et al. High-accuracy mapping design based on multi-view images and 3D LiDAR point clouds

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20211102

RJ01 Rejection of invention patent application after publication