CN113596335A - 基于图像融合的公路隧道火灾监测系统及方法 - Google Patents
基于图像融合的公路隧道火灾监测系统及方法 Download PDFInfo
- Publication number
- CN113596335A CN113596335A CN202110877300.8A CN202110877300A CN113596335A CN 113596335 A CN113596335 A CN 113596335A CN 202110877300 A CN202110877300 A CN 202110877300A CN 113596335 A CN113596335 A CN 113596335A
- Authority
- CN
- China
- Prior art keywords
- image
- dimensional
- fusion
- visible light
- scanning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000004927 fusion Effects 0.000 title claims abstract description 98
- 238000012544 monitoring process Methods 0.000 title claims abstract description 70
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000001931 thermography Methods 0.000 claims abstract description 67
- 206010000369 Accident Diseases 0.000 claims abstract description 52
- 230000000007 visual effect Effects 0.000 claims description 30
- 239000011159 matrix material Substances 0.000 claims description 18
- 238000013507 mapping Methods 0.000 claims description 13
- 230000009466 transformation Effects 0.000 claims description 12
- 238000007499 fusion processing Methods 0.000 claims description 9
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 230000005540 biological transmission Effects 0.000 claims description 3
- 238000012546 transfer Methods 0.000 claims description 3
- 238000013519 translation Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 8
- 230000008569 process Effects 0.000 description 6
- 238000001514 detection method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000036544 posture Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 239000000523 sample Substances 0.000 description 1
- 238000007790 scraping Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
- G01J5/0014—Radiation pyrometry, e.g. infrared or optical thermometry for sensing the radiation from gases, flames
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
- G01J5/0014—Radiation pyrometry, e.g. infrared or optical thermometry for sensing the radiation from gases, flames
- G01J5/0018—Flames, plasma or welding
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B17/00—Fire alarms; Alarms responsive to explosion
- G08B17/12—Actuation by presence of radiation or particles, e.g. of infrared radiation or of ions
- G08B17/125—Actuation by presence of radiation or particles, e.g. of infrared radiation or of ions by using a video camera to detect fire or smoke
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/64—Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/268—Signal distribution or switching
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/30—Transforming light or analogous information into electric information
- H04N5/33—Transforming infrared radiation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
- G01J2005/0077—Imaging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Computer Networks & Wireless Communication (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Electromagnetism (AREA)
- Plasma & Fusion (AREA)
- Emergency Management (AREA)
- Business, Economics & Management (AREA)
- Fire-Detection Mechanisms (AREA)
- Alarm Systems (AREA)
Abstract
本发明具体涉及基于图像融合的公路隧道火灾监测系统及方法。所述系统包括:摄像头单元,用于获取隧道火灾事故的可见光图像;红外扫描单元,用于获取隧道火灾事故和周边环境的热成像图像;激光雷达单元,用于获取隧道火灾事故和周边环境的三维扫描图像;图像融合显示单元,将热成像图像融合至可见光图像中后,再将三维扫描图像融合至彩色融合图像中得到含有温度、距离、坐标等信息的三维彩色融合显示图像,用于进行公路隧道火灾监测。本发明还相应的公开了一种公路隧道火灾监测系统及方法。本发明中的公路隧道火灾监测方法能够在能见度低、强光等恶劣环境下有效获取事故信息图像,从而能够提供重要的救援指导并提高公路隧道火灾监测的监测效果。
Description
技术领域
本发明涉及隧道安全管理技术领域,具体涉及基于图像融合的公路隧道火灾监测系统及方法。
背景技术
近年来,随着国家基础建设的完善,公路隧道的数量越来越多。公路隧道内部的车流量相对较大,且隧道内部灯光与隧道外部存在较大差异,导致隧道内部行车过程中容易发生相撞、刮擦等隧道火灾事故。同时,由于隧道的特殊性,导致隧道内部事故救援的效率低下,同时,外界车辆很难在第一时间获知隧道路况信息,一旦隧道内发生事故,造成的伤亡和损失更加惨重。因此,对公路隧道的安全监测尤为重要。
视频监控系统是目前公路隧道安全监测的主要技术手段,目前大部分隧道火灾事故以人工观察视频监控图像为主,其中90%及以上的视频监控图像无法得到重点关注,无法在第一时间发现运行安全事件是现有视频监控系统的主要瓶颈。为此,公开号为CN109214291A的中国专利公开了一种《隧道事故自动检测方法》,其包括:采集监控区域的视频数据并进行预处理;利用混合高斯模型进行背景建模,从原始图像分离出背景像素;从监控视频图像中提取运动目标;记录运动目标的轨迹信息,从而识别出运动目标信息,并进行标记;对标记的运动目标在隧道内的情况进行跟踪;当运动目标轨迹超过设定阈值时,发出报警信息。
上述现有方案中的隧道事故自动检测方法也是一种公路隧道安全监测方法,其通过对隧道的实时监控实现隧道内车辆的全方位检测。申请人发现,严重的交通事故极易引发隧道火灾事故,当隧道火灾事故发生时会产生强光并伴随高温。然而,现有公路隧道火灾监测方法采用视频监控摄像头获取视频(可见光)图像的方式,在隧道火灾事故等强光环境下采集的事故图像中会出现“亮斑”,并且无法有效获取隧道火灾事故发生的位置信息,使得难以根据可见光图像确定隧道火灾事故的规模、具体位置、伤员人数等具体事故信息,进而难以有效开展营救工作,导致公路隧道火灾监测的效果不好。因此,如何设计一种能够在能见度低、强光等恶劣环境下有效获取事故信息图像的公路隧道火灾监测方法是亟需解决的技术问题。
发明内容
针对上述现有技术的不足,本发明所要解决的技术问题是:如何提供一种能够在能见度低、强光等恶劣环境下有效获取事故信息图像的公路隧道火灾监测方法,进而能够基于事故信息图像反映具体事故信息,从而能够提供重要的救援指导并提高公路隧道火灾监测的监测效果。
为了解决上述技术问题,本发明采用了如下的技术方案:
基于图像融合的公路隧道火灾监测系统,包括:
摄像头单元,用于获取隧道火灾事故的可见光图像;
红外扫描单元,用于获取隧道火灾事故和周边环境的热成像图像;所述红外扫描单元的红外发射方向与所述摄像头单元的拍摄方向相对应;
激光雷达单元,用于获取隧道火灾事故和周边环境的三维扫描图像;所述激光雷达单元的扫描端上设置有反射罩,所述反射罩用于将所述激光雷达单元发射出的激光束朝隧道火灾事故发生的方向聚集,使得所述激光雷达单元的扫描方向与所述摄像头单元的拍摄方向相对应;
图像融合显示单元,首先将所述热成像图像融合至所述可见光图像中得到对应的彩色融合图像;然后将所述三维扫描图像融合至所述彩色融合图像中得到对应的三维彩色融合显示图像;所述三维彩色融合显示图像中所述可见光图像、所述热成像图像和所述三维扫描图像的图像信息能够重合、同步显示。
优选的,所述摄像头单元、所述红外扫描单元和所述激光雷达单元三者依次竖向间隔设置,且所述摄像头单元的拍摄视角分别与所述红外扫描单元的红外发射视角和所述激光雷达单元的三维扫描视角相对应,使得所述可见光图像、所述热成像图像和所述三维扫描图像在竖向方向上的投影形状和面积尺寸保持一致。
优选的,公路隧道火灾监测系统还包括:
轨道,沿着隧道内部的通行路径布置;
移动机器人,设置于所述轨道上;用于带动所述摄像头单元、所述激光雷达单元和所述红外扫描单元在所述轨道上移动,以获取隧道内部对应区域的可见光图像、三维扫描图像和热成像图像。在实际应用场景下,就可以用于对融合后的图像进行判断,以取代人工监测,降低人工监视工作量。
本发明还公开了基于图像融合的公路隧道火灾监测方法,基于上述的公路隧道火灾监测系统实施,具体包括以下步骤:
S1:获取隧道火灾事故的可见光图像;
S2:在获取所述可见光图像的对应位置获取热成像图像和三维扫描图像;
S3:通过图像融合处理,首先将所述热成像图像融合至所述可见光图像中得到对应的彩色融合图像,然后将所述三维扫描图像融合至所述彩色融合图像中得到对应的三维彩色融合显示图像,并将融合处理后的三维彩色融合显示图像用于进行公路隧道的火灾监测;所述三维彩色融合显示图像中所述可见光图像、所述热成像图像和所述三维扫描图像的图像信息能够重合、同步显示。这样,轨道上的移动机器人就可以利用融合处理后的三维彩色融合显示图像,获取隧道火情信息并作决策分析,进行公路隧道的火灾监测和预警防范,做出安全预警指示。
优选的,通过依次竖向间隔设置的摄像头单元、红外扫描单元和激光雷达单元分别获取所述可见光图像、所述热成像图像和所述三维扫描图像;所述摄像头单元的拍摄视角分别与所述红外扫描单元的红外发射视角和所述激光雷达单元的三维扫描视角相对应,使得所述可见光图像、所述三维扫描图像和所述热成像图像在竖向方向上的投影形状和面积尺寸保持一致。
优选的,步骤S3中,通过如下步骤实现热成像图像和可见光图像的图像融合处理:
S301:对获取的可见光图像和热成像图像进行格式转换;
S302:对格式转换后的可见光图像和热成像图像进行图像配准;
S303:通过线性组合法在YUV空间对图像配准后的可见光图像和热成像图像进行初始彩色融合,得到对应的初始彩色源图像;然后选取原始的可见光图像作为参考图像,并将参考图像由RGB空间转换到YUV空间;再将参考图像的YUV分量均值和标准差传递给初始彩色源图像的YUV分量以进行色彩传递;最后将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间以生成对应的彩色融合图像。
优选的,步骤S302中,根据所述摄像头单元和所述红外扫描单元与隧道火灾事故发生位置之间的视场角度,结合格式转换后的可见光图像和热成像图像的缩放因子进行图像配准。
优选的,步骤S303中:
可见光图像表示为Vis(i,j),热成像图像表示为IR(i,j);
通过如下公式进行初始彩色融合得到初始彩色源图像(Ys,Us,Vs):
式中:d1、e1、d2、e2、d3、e3均为正有理数,且满足d1+e1=1;d2和e2以及d3和e3的选取则需要使U和V保持在相应的取值区间;
通过如下公式将参考图像由RGB空间转换到YUV空间:
通过如下公式将参考图像的YUV分量均值和标准差传递给初始彩色源图像YUV分量:
通过如下公式将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间:
优选的,步骤S3中,首先建立一个能够将三维扫描图像映射为二维图像的转化矩阵;然后基于所述转化矩阵将三维扫描图像映射为对应的二维场景深度扫描图像;最后将二维场景深度扫描图像与彩色融合图像进行融合生成对应的三维彩色融合显示图像。
优选的,彩色融合图像表示为(U,V),维扫描图像表示为(X,Y,Z);
建立能够将三维扫描图像(X,Y,Z)映射为二维图像的转化矩阵M:
式中:矩阵(fu,fv,u0,v0)表示摄像头的参数,fu和fv表示XY轴方向尺度因子,u0,v0表示像平面的中心点;R表示旋转矩阵,t表示平移矢量;
基于转化矩阵M将三维扫描图像(X,Y,Z)映射为对应的二维场景深度扫描图像(u,v):
通过如下公式将二维场景深度扫描图像(u,v)与彩色融合图像(U,V)进行融合生成对应的三维彩色融合显示图像:
本发明中的公路隧道火灾监测方法与现有技术相比,具有如下有益效果:
在本发明中,将可见光图像、热成像图像和三维扫描图像进行了融合并实现了图像信息的重合、同步显示,使得能够在可见光(视频)图像中显示隧道火灾事故中心位置的红外图像信息和三维图像信息,即克服了可见光图像、热成像图像和三维扫描图像自身存在的问题,并能够有效的利用可见光图像、热成像图像和三维扫描图像各自的优势生成反映隧道内物体数量、温度场和隧道火灾事故具体三维位置等具体事故信息的三维彩色融合显示图像,从而能够提供重要的救援指导并提高公路隧道火灾监测的监测效果。同时,本发明中摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角与激光雷达单元的三维扫描视角相对应,使得可见光图像、三维扫描图像和热成像图像的图像信息能够更为准确的对应融合,从而更好的辅助提升图像融合的准确性。
在本发明中,由于激光雷达单元的扫描端是通过周向旋转的方式发射激光束进而实现扫描的,所以本发明通过反射罩聚集激光雷达单元发射出的激光束,一方面,反射罩的设置能够将各个方向的激光束朝隧道火灾事故发生方向反射,这能够避免激光的无用损耗,从而提升激光雷达单元的扫描效率;另一方面,通过反射罩能够朝隧道火灾事故发生方向聚集激光束,使得能够在已有激光强度的基础上增强激光强度,从而提升激光雷达单元的扫描强度。
附图说明
为了使发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步的详细描述,其中:
图1为实施例一中公路隧道火灾监测系统的逻辑框图;
图2和图3为实施例一中激光雷达单元的侧视图和俯视图;
图4为实施例二中公路隧道火灾监测方法的逻辑框图;
图5为实施例二中摄像头单元和红外扫描单元获取图像的示意图。
附图中,各标记所代表的部件名称如下:
1、高清摄像头;2、激光雷达;3、红外热像仪;4、图像融合处理器;5、轨道式机器人。
具体实施方式
下面通过具体实施方式进一步详细的说明:
实施例一:
本实施例中公开了一种基于图像融合的公路隧道火灾监测系统。
如图1所示,基于图像融合的公路隧道火灾监测系统,包括:
摄像头单元,可以使用摄像机等机构单元实现,用于获取隧道火灾事故的可见光图像,以反映隧道内部的真实场景。
红外扫描单元,可以采用红外热成像仪等机构单元实现,用于获取隧道火灾事故和周边环境的热成像图像,以获取图像的温度信息;红外扫描单元的红外发射方向与摄像头单元的拍摄方向相对应;
激光雷达单元,可以采用激光雷达探头等机构单元实现,用于获取隧道火灾事故和周边环境的三维扫描图像或云点图像,以获取图像中各目标点的距离信息和位置信息;结合图2和图3所示,激光雷达单元的扫描端上设置有反射罩,反射罩用于将激光雷达单元发射出的激光束朝隧道火灾事故发生的方向聚集,使得激光雷达单元的扫描方向与摄像头单元的拍摄方向相对应;
图像融合显示单元,首先将热成像图像融合至可见光图像中得到对应的彩色融合图像;然后将三维扫描图像融合至彩色融合图像中得到对应的三维彩色融合显示图像,以基于图像精准的监测隧道火灾事故,以及分析对应火灾事故的位置信息,火情大小等;三维彩色融合显示图像中可见光图像、热成像图像和三维扫描图像的图像信息能够重合、同步显示。
具体的,摄像头单元选用现有的高清摄像头;红外扫描单元选用现有的红外热成像摄像头;具体的,激光雷达单元选用现有的激光雷达;反射罩设置于激光雷达单元扫描端的外周侧位置;反射罩选用能够反射激光束的反光材料。图像融合显示单元为现有的服务器或PC计算机,其通过相关硬件或软件来实现图像的融合处理。
申请人发现,可见光图像能够清晰的反映隧道火灾事故周围位置的信息;但是难以有效反映隧道火灾事故中心位置的信息(因为图像中产生了亮斑),并且无法获取隧道火灾事故发生的位置信息。热成像图像不受能见度低、强光等影响,能够在能见度低、强光等恶劣环境下直观地反映隧道火灾事故中心位置物体表面的温度场,即能够反映隧道火灾事故发生的位置信息;但是其存在图像对比度低,分辨细节能力较差等问题。激光雷达获取的三维扫描图像探测距离较远,能够在能见度低、强光等恶劣环境下准确获取事故中心位置的具体三维信息(方向、位置和距离等);但其容易丢失信息,并且存在图像信息中人或物体不够清晰和直观的问题。
因此,本发明将可见光图像、热成像图像和三维扫描图像进行了融合并实现了图像信息的重合、同步显示,使得能够在可见光(视频)图像中显示隧道火灾事故中心位置的红外图像信息和三维图像信息,即克服了可见光图像、热成像图像和三维扫描图像自身存在的问题,并能够有效的利用可见光图像、热成像图像和三维扫描图像各自的优势生成反映隧道内物体数量、温度场和隧道火灾事故具体三维位置等具体事故信息的三维彩色融合显示图像,从而能够提供重要的救援指导并提高公路隧道火灾监测的监测效果。同时,本发明中摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角与激光雷达单元的三维扫描视角相对应,使得可见光图像、三维扫描图像和热成像图像的图像信息能够更为准确的对应融合,从而更好的辅助提升图像融合的准确性。同时,由于激光雷达单元的扫描端是通过周向旋转的方式发射激光束进而实现扫描的,所以本发明通过反射罩聚集激光雷达单元发射出的激光束,一方面,反射罩的设置能够将各个方向的激光束朝隧道火灾事故发生方向反射,这能够避免激光的无用损耗,从而提升激光雷达单元的扫描效率;另一方面,通过反射罩能够朝隧道火灾事故发生方向聚集激光束,使得能够在已有激光强度的基础上增强激光强度,从而提升激光雷达单元的扫描强度。
具体实施过程中,摄像头单元、红外扫描单元和激光雷达单元三者依次竖向间隔设置,且摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角和激光雷达单元的三维扫描视角相对应,使得可见光图像、热成像图像和三维扫描图像在竖向方向上的投影形状和面积尺寸保持一致。激光雷达单元的反光罩结构以及图像采集单元、图像采集单元和激光雷达单元的布置关系为可见光图像、热成像图像和雷达扫描图像三者的图像融合提供了“硬件”支持。
在本发明中,摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角与激光雷达单元的三维扫描视角相对应,使得可见光图像、三维扫描图像和热成像图像在竖向方向上的投影形状和面积尺寸保持一致,进而使得可见光图像、三维扫描图像和热成像图像的图像信息能够更为准确的对应融合,从而更好的辅助提升图像融合的融合准确性。
具体实施过程中,公路隧道火灾监测系统还包括:
轨道,沿着隧道内部的通行路径布置;
移动机器人,设置于轨道上;用于带动摄像头单元、激光雷达单元和红外扫描单元在轨道上移动,以获取隧道内部对应区域的可见光图像、三维扫描图像和热成像图像。在实际应用场景下,就可以用于对融合后的图像进行判断,以取代人工监测,降低人工监视工作量。具体的,移动机器人可选用现有技术中成熟使用的爬壁机器人或轨道机器人,其受控于图像融合显示单元。
在本发明中,通过移动机器人带动摄像头单元、红外扫描单元和激光雷达单元在隧道内部移动,能够提升火灾监测系统的监测灵活性。
实施例二:
本实施例在实施例一的基础上,公开了一种基于图像融合的公路隧道火灾监测方法。
如图4所示,基于图像融合的公路隧道火灾监测方法,基于实施例一中的公路隧道火灾监测系统实施,具体包括以下步骤:
S1:获取隧道火灾事故的可见光图像;
S2:在获取可见光图像的对应位置获取热成像图像和三维扫描图像;
S3:通过图像融合处理,首先将热成像图像融合至可见光图像中得到对应的彩色融合图像,然后将三维扫描图像融合至彩色融合图像中得到对应的三维彩色融合显示图像,并将融合处理后的三维彩色融合显示图像用于进行公路隧道的火灾监测;三维彩色融合显示图像中可见光图像、热成像图像和三维扫描图像的图像信息能够重合、同步显示。
具体的,通过依次竖向间隔设置的摄像头单元、红外扫描单元和激光雷达单元分别获取可见光图像、热成像图像和三维扫描图像;摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角和激光雷达单元的三维扫描视角相对应,使得可见光图像、三维扫描图像和热成像图像在竖向方向上的投影形状和面积尺寸保持一致。这样,轨道上的移动机器人就可以利用融合处理后的三维彩色融合显示图像进行公路隧道的火灾监测和预警防范,做出安全预警指示。
申请人发现,可见光图像能够清晰的反映隧道火灾事故周围位置的信息;但是难以有效反映隧道火灾事故中心位置的信息(因为图像中产生了亮斑),并且无法获取隧道火灾事故发生的位置信息。热成像图像不受强光的影响,能够在强光环境下直观地反映隧道火灾事故中心位置物体表面的温度场,即能够反映隧道火灾事故发生的位置信息;但是其存在图像对比度低,分辨细节能力较差等问题。激光雷达获取的三维扫描图像探测距离较远,能够准确获取事故中心位置的具体三维信息(方向、位置和距离等);但其容易丢失信息,并且存在图像信息中人或物体不够清晰和直观的问题。
在本发明中,将可见光图像、热成像图像和三维扫描图像进行了融合并实现了图像信息的重合、同步显示,使得能够在可见光(视频)图像中显示隧道火灾事故中心位置的红外图像信息和三维图像信息,即克服了可见光图像、热成像图像和三维扫描图像自身存在的问题,并能够有效的利用可见光图像、热成像图像和三维扫描图像各自的优势生成反映隧道内物体数量、温度场和隧道火灾事故具体三维位置等具体事故信息的三维彩色融合显示图像,从而能够进一步提升公路隧道火灾监测的监测效果。同时,本发明中摄像头单元的拍摄视角分别与红外扫描单元的红外发射视角与激光雷达单元的三维扫描视角相对应,使得可见光图像、三维扫描图像和热成像图像的图像信息能够更为准确的对应融合,从而更好的辅助提升图像融合的准确性。
具体实施过程中,通过如下步骤实现热成像图像和可见光图像的图像融合处理:
S301:对获取的可见光图像和热成像图像进行格式转换。具体的,格式转换是将图像转换为易于处理的格式,例如转化为OpenCV中图像处理标准格式IplImage。
S302:对格式转换后的可见光图像和热成像图像进行图像配准。具体的,结合图5所示根据摄像头单元和红外扫描单元与隧道火灾事故发生位置之间的视场角度,结合格式转换后可见光图像和热成像图像的缩放因子进行图像配准。
分别基于水平方向的缩放因子和垂直方向的缩放因子完成图像配准:
α表示可见光摄像头与隧道火灾事故发生位置间的视场角度;β表示红外热成像摄像头与隧道火灾事故发生位置间的视场角度。
S303:通过线性组合法在YUV空间对图像配准后的可见光图像和热成像图像进行初始彩色融合,得到对应的初始彩色源图像;然后选取原始的可见光图像作为参考图像,并将参考图像由RGB空间转换到YUV空间;再将参考图像的YUV分量均值和标准差传递给初始彩色源图像的YUV分量以进行色彩传递;最后将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间以生成对应的彩色融合图像。
在本发明中,能够对摄像头单元、红外扫描单元和激光雷达单元获取的图像进行图像配准,进而能够有效的辅助提升图像融合的准确性。同时,本发明通过上述步骤生成的彩色融合图像,能够保留隧道内部的细节纹理和背景的色彩等信息,能够在能见度较低的情况下增强图像信息的显示效果,这不仅有利于在隧道内部使用,还能够辅助提升公路隧道火灾监测的监测效果。
具体的,可见光图像表示为Vis(i,j),热成像图像表示为IR(i,j);
通过如下公式进行初始彩色融合得到初始彩色源图像(Ys,Us,Vs):
式中:d1、e1、d2、e2、d3、e3均为正有理数,且满足d1+e1=1;d2和e2以及d3和e3的选取则需要使U和V保持在相应的取值区间;
通过如下公式将参考图像由RGB空间转换到YUV空间:
通过如下公式将参考图像的YUV分量均值和标准差传递给初始彩色源图像YUV分量:
通过如下公式将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间:
具体实施过程中,首先建立一个能够将三维扫描图像映射为二维图像的转化矩阵;然后基于转化矩阵将三维扫描图像映射为对应的二维场景深度扫描图像;最后将二维场景深度扫描图像与彩色融合图像进行融合生成对应的三维彩色融合显示图像。
在本发明中,通过将三维扫描图像映射为对应的二维场景深度扫描图像的方式,能够更好的将三维扫描图像与彩色融合图像对应融合,从而能够有效的保证图像融合的准确性。
具体的,彩色融合图像表示为(U,V),维扫描图像表示为(X,Y,Z);
建立能够将三维扫描图像(X,Y,Z)映射为二维图像的转化矩阵M:
式中:矩阵(fu,fv,u0,v0)表示摄像头的参数,fu和fv是XY轴方向尺度因子(水平方向和垂直方向的有效焦距),u0,v0表示像平面(image plane)的中心点,又称主点坐标;R表示旋转矩阵,t表示平移矢量;
基于转化矩阵M将三维扫描图像(X,Y,Z)映射为对应的二维场景深度扫描图像(u,v),根据不同姿态下定标板平面,可得到一系列的线性方程,进而能够解算得到标定参数:
通过如下公式将二维场景深度扫描图像(u,v)与彩色融合图像(U,V)进行融合生成对应的三维彩色融合显示图像:
需要说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管通过参照本发明的优选实施例已经对本发明进行了描述,但本领域的普通技术人员应当理解,可以在形式上和细节上对其作出各种各样的改变,而不偏离所附权利要求书所限定的本发明的精神和范围。同时,实施例中公知的具体结构及特性等常识在此未作过多描述。最后,本发明要求的保护范围应当以其权利要求的内容为准,说明书中的具体实施方式等记载可以用于解释权利要求的内容。
Claims (10)
1.基于图像融合的公路隧道火灾监测系统及方法,其特征在于,包括:
摄像头单元,用于获取隧道火灾事故的可见光图像;
红外扫描单元,用于获取隧道火灾事故和周边环境的热成像图像;所述红外扫描单元的红外发射方向与所述摄像头单元的拍摄方向相对应;
激光雷达单元,用于获取隧道火灾事故和周边环境的三维扫描图像;所述激光雷达单元的扫描端上设置有反射罩,所述反射罩用于将所述激光雷达单元发射出的激光束朝隧道火灾事故发生的方向聚集,使得所述激光雷达单元的扫描方向与所述摄像头单元的拍摄方向相对应;
图像融合显示单元,首先将所述热成像图像融合至所述可见光图像中得到对应的彩色融合图像;然后将所述三维扫描图像融合至所述彩色融合图像中得到对应的三维彩色融合显示图像,并将融合处理后的三维彩色融合显示图像用于进行公路隧道的火灾监测;所述三维彩色融合显示图像中所述可见光图像、所述热成像图像和所述三维扫描图像的图像信息能够重合、同步显示。
2.如权利要求1所述的基于图像融合的公路隧道火灾监测方法,其特征在于:所述摄像头单元、所述红外扫描单元和所述激光雷达单元三者依次竖向间隔设置,且所述摄像头单元的拍摄视角分别与所述红外扫描单元的红外发射视角和所述激光雷达单元的三维扫描视角相对应,使得所述可见光图像、所述热成像图像和所述三维扫描图像在竖向方向上的投影形状和面积尺寸保持一致。
3.如权利要求1所述的基于图像融合的公路隧道火灾监测方法,其特征在于,还包括:
轨道,沿着隧道内部的通行路径布置;
移动机器人,设置于所述轨道上;用于带动所述摄像头单元、所述激光雷达单元和所述红外扫描单元在所述轨道上移动,以获取隧道内部对应区域的可见光图像、三维扫描图像和热成像图像。
4.基于图像融合的公路隧道火灾监测方法,其特征在于,基于权利要求1中所述的公路隧道火灾监测系统实施,具体包括以下步骤:
S1:获取隧道火灾事故的可见光图像;
S2:在获取所述可见光图像的对应位置获取热成像图像和三维扫描图像;
S3:通过图像融合处理,首先将所述热成像图像融合至所述可见光图像中得到对应的彩色融合图像,然后将所述三维扫描图像融合至所述彩色融合图像中得到对应的三维彩色融合显示图像,并将融合处理后的三维彩色融合显示图像用于进行公路隧道的火灾监测;所述三维彩色融合显示图像中所述可见光图像、所述热成像图像和所述三维扫描图像的图像信息能够重合、同步显示。
5.如权利要求4所述的基于图像融合的公路隧道火灾监测方法,其特征在于,通过依次竖向间隔设置的摄像头单元、红外扫描单元和激光雷达单元分别获取所述可见光图像、所述热成像图像和所述三维扫描图像;所述摄像头单元的拍摄视角分别与所述红外扫描单元的红外发射视角和所述激光雷达单元的三维扫描视角相对应,使得所述可见光图像、所述三维扫描图像和所述热成像图像在竖向方向上的投影形状和面积尺寸保持一致。
6.如权利要求5所述的基于图像融合的公路隧道火灾监测方法,其特征在于,步骤S3中,通过如下步骤实现热成像图像和可见光图像的图像融合处理:
S301:对获取的可见光图像和热成像图像进行格式转换;
S302:对格式转换后的可见光图像和热成像图像进行图像配准;
S303:通过线性组合法在YUV空间对图像配准后的可见光图像和热成像图像进行初始彩色融合,得到对应的初始彩色源图像;然后选取原始的可见光图像作为参考图像,并将参考图像由RGB空间转换到YUV空间;再将参考图像的YUV分量均值和标准差传递给初始彩色源图像的YUV分量以进行色彩传递;最后将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间以生成对应的彩色融合图像。
7.如权利要求6所述的基于图像融合的公路隧道火灾监测方法,其特征在于,步骤S302中,根据所述摄像头单元和所述红外扫描单元与隧道火灾事故发生位置之间的视场角度,结合格式转换后的可见光图像和热成像图像的缩放因子进行图像配准。
8.如权利要求6所述的基于图像融合的公路隧道火灾监测方法,其特征在于,步骤S303中:
可见光图像表示为Vis(i,j),热成像图像表示为IR(i,j);
通过如下公式进行初始彩色融合得到初始彩色源图像(Ys,Us,Vs):
式中:d1、e1、d2、e2、d3、e3均为正有理数,且满足d1+e1=1;d2和e2以及d3和e3的选取则需要使U和V保持在相应的取值区间;
通过如下公式将参考图像由RGB空间转换到YUV空间:
通过如下公式将参考图像的YUV分量均值和标准差传递给初始彩色源图像YUV分量:
通过如下公式将色彩传递后的初始彩色源图像从YUV空间转换到RGB空间:
9.如权利要求6所述的基于图像融合的公路隧道火灾监测方法,其特征在于,步骤S3中,首先建立一个能够将三维扫描图像映射为二维图像的转化矩阵;然后基于所述转化矩阵将三维扫描图像映射为对应的二维场景深度扫描图像;最后将二维场景深度扫描图像与彩色融合图像进行融合生成对应的三维彩色融合显示图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110877300.8A CN113596335A (zh) | 2021-07-31 | 2021-07-31 | 基于图像融合的公路隧道火灾监测系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110877300.8A CN113596335A (zh) | 2021-07-31 | 2021-07-31 | 基于图像融合的公路隧道火灾监测系统及方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113596335A true CN113596335A (zh) | 2021-11-02 |
Family
ID=78253329
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110877300.8A Pending CN113596335A (zh) | 2021-07-31 | 2021-07-31 | 基于图像融合的公路隧道火灾监测系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113596335A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114061763A (zh) * | 2021-12-27 | 2022-02-18 | 中国人民解放军军事科学院国防工程研究院 | 一种多传感器融合的三维测温装置 |
CN114566056A (zh) * | 2022-02-28 | 2022-05-31 | 招商局重庆公路工程检测中心有限公司 | 一种公路隧道行车安全风险辨识与防控方法及系统 |
CN114783141A (zh) * | 2022-04-24 | 2022-07-22 | 王江湖 | 一种消防安全系统 |
CN114859371A (zh) * | 2022-07-07 | 2022-08-05 | 武汉光谷航天三江激光产业技术研究院有限公司 | 一种无人机蜂群高分辨复合探测系统及方法 |
CN115083102A (zh) * | 2022-05-12 | 2022-09-20 | 成都雷探科技有限公司 | 基于灾情雷达的火灾灾情检测方法及系统 |
CN118521985A (zh) * | 2024-06-11 | 2024-08-20 | 兰州交通大学 | 一种道路环境感知方法和装置、系统、存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104601953A (zh) * | 2015-01-08 | 2015-05-06 | 中国航空无线电电子研究所 | 一种视频图像融合处理系统 |
CN109490899A (zh) * | 2018-11-12 | 2019-03-19 | 广西交通科学研究院有限公司 | 一种基于激光雷达和红外热成像仪的隧道内火源定位方法 |
CN109934793A (zh) * | 2019-01-30 | 2019-06-25 | 绵阳慧视光电技术有限责任公司 | 一种基于整数dct变换的实时图像融合方法 |
US20190226856A1 (en) * | 2018-01-23 | 2019-07-25 | Ford Global Technologies, Llc | Wildfire discovery, monitoring, and response system using personal vehicles |
CN110415342A (zh) * | 2019-08-02 | 2019-11-05 | 深圳市唯特视科技有限公司 | 一种基于多融合传感器的三维点云重建装置与方法 |
CN110860057A (zh) * | 2019-11-18 | 2020-03-06 | 燕山大学 | 一种消防侦察机器人及侦察方法 |
CN111798402A (zh) * | 2020-06-09 | 2020-10-20 | 同济大学 | 基于三维点云模型的电力设备测温数据可视化方法及系统 |
CN111968221A (zh) * | 2020-08-03 | 2020-11-20 | 广东中科瑞泰智能科技有限公司 | 基于温度场与实景视频流的双模式三维建模方法及装置 |
CN112066994A (zh) * | 2020-09-28 | 2020-12-11 | 河海大学常州校区 | 一种消防机器人局部自主导航方法及系统 |
-
2021
- 2021-07-31 CN CN202110877300.8A patent/CN113596335A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104601953A (zh) * | 2015-01-08 | 2015-05-06 | 中国航空无线电电子研究所 | 一种视频图像融合处理系统 |
US20190226856A1 (en) * | 2018-01-23 | 2019-07-25 | Ford Global Technologies, Llc | Wildfire discovery, monitoring, and response system using personal vehicles |
CN109490899A (zh) * | 2018-11-12 | 2019-03-19 | 广西交通科学研究院有限公司 | 一种基于激光雷达和红外热成像仪的隧道内火源定位方法 |
CN109934793A (zh) * | 2019-01-30 | 2019-06-25 | 绵阳慧视光电技术有限责任公司 | 一种基于整数dct变换的实时图像融合方法 |
CN110415342A (zh) * | 2019-08-02 | 2019-11-05 | 深圳市唯特视科技有限公司 | 一种基于多融合传感器的三维点云重建装置与方法 |
CN110860057A (zh) * | 2019-11-18 | 2020-03-06 | 燕山大学 | 一种消防侦察机器人及侦察方法 |
CN111798402A (zh) * | 2020-06-09 | 2020-10-20 | 同济大学 | 基于三维点云模型的电力设备测温数据可视化方法及系统 |
CN111968221A (zh) * | 2020-08-03 | 2020-11-20 | 广东中科瑞泰智能科技有限公司 | 基于温度场与实景视频流的双模式三维建模方法及装置 |
CN112066994A (zh) * | 2020-09-28 | 2020-12-11 | 河海大学常州校区 | 一种消防机器人局部自主导航方法及系统 |
Non-Patent Citations (5)
Title |
---|
刘佳妮等: ""自适应参考图像的可见光与热红外彩色图像融合算法"", 《光谱学与光谱分析》, 31 December 2016 (2016-12-31), pages 3907 - 3908 * |
刘佳妮等: ""自适应参考图像的可见光与热红外彩色图像融合算法"", 《光谱学与光谱分析》, pages 3907 - 3908 * |
刘松涛 等: ""基于传感器参数和目标轮廓中心的自动配准算法研究"", 《光学精密工程》 * |
郭明 等: ""舰船小目标图像配准算法"", 《光子学报》 * |
韩艳丽等: ""一种小目标的电视/红外图像配准方法"", 《计算机测量与控制》 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114061763A (zh) * | 2021-12-27 | 2022-02-18 | 中国人民解放军军事科学院国防工程研究院 | 一种多传感器融合的三维测温装置 |
CN114566056A (zh) * | 2022-02-28 | 2022-05-31 | 招商局重庆公路工程检测中心有限公司 | 一种公路隧道行车安全风险辨识与防控方法及系统 |
CN114566056B (zh) * | 2022-02-28 | 2023-01-24 | 招商局重庆公路工程检测中心有限公司 | 一种公路隧道行车安全风险辨识与防控方法及系统 |
CN114783141A (zh) * | 2022-04-24 | 2022-07-22 | 王江湖 | 一种消防安全系统 |
CN115083102A (zh) * | 2022-05-12 | 2022-09-20 | 成都雷探科技有限公司 | 基于灾情雷达的火灾灾情检测方法及系统 |
CN115083102B (zh) * | 2022-05-12 | 2024-03-19 | 成都雷探科技有限公司 | 基于灾情雷达的火灾灾情检测方法及系统 |
CN114859371A (zh) * | 2022-07-07 | 2022-08-05 | 武汉光谷航天三江激光产业技术研究院有限公司 | 一种无人机蜂群高分辨复合探测系统及方法 |
CN118521985A (zh) * | 2024-06-11 | 2024-08-20 | 兰州交通大学 | 一种道路环境感知方法和装置、系统、存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113596335A (zh) | 基于图像融合的公路隧道火灾监测系统及方法 | |
CN112884760B (zh) | 近水桥梁多类型病害智能检测方法与无人船设备 | |
CN110390695B (zh) | 一种基于ros的激光雷达、摄像头的融合标定系统及标定方法 | |
US10116920B2 (en) | Balancing colors in a scanned three-dimensional image | |
US20170123054A1 (en) | Scanner display | |
CN111325801B (zh) | 一种激光雷达和相机的联合标定方法 | |
CN102917171B (zh) | 基于像素的小目标定位方法 | |
EP2913796B1 (en) | Method of generating panorama views on a mobile mapping system | |
US9772405B2 (en) | Backfilling clouds of 3D coordinates | |
US20100295927A1 (en) | System and method for stereoscopic imaging | |
Zhu et al. | Monocular 3d vehicle detection using uncalibrated traffic cameras through homography | |
CN105735150A (zh) | 一种移动多目视觉桥梁常规检测方法 | |
CN112801880B (zh) | 一种车载全景图像成像与目标检测融合显示的方法 | |
JP2002064812A (ja) | 移動物体追尾装置 | |
CN110750153A (zh) | 一种无人驾驶车辆的动态虚拟化装置 | |
CN116977806A (zh) | 一种基于毫米波雷达、激光雷达和高清阵列摄像机的机场目标检测方法及系统 | |
JP4344860B2 (ja) | ステレオ画像を用いた道路平面領域並びに障害物検出方法 | |
CN103065412A (zh) | 一种应用于林火监测系统的干扰源智能屏蔽方法及装置 | |
Jing et al. | Depth estimation matters most: Improving per-object depth estimation for monocular 3d detection and tracking | |
US20230386315A1 (en) | Systems and methods for smoke detection | |
CN111754560A (zh) | 基于稠密三维重建的高温冶炼容器侵蚀预警方法及系统 | |
CN116476888A (zh) | 一种地铁隧道病害识别检测装置及方法 | |
CN110766170A (zh) | 基于图像处理的多传感器融合和人员定位的方法 | |
CN118351654A (zh) | 一种地质灾害和工程安全监测智能预警方法以及系统 | |
Chen et al. | High-accuracy mapping design based on multi-view images and 3D LiDAR point clouds |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20211102 |
|
RJ01 | Rejection of invention patent application after publication |