CN115314609A - 一种铝电解槽火眼视频的自动化采集方法和装置 - Google Patents

一种铝电解槽火眼视频的自动化采集方法和装置 Download PDF

Info

Publication number
CN115314609A
CN115314609A CN202210702123.4A CN202210702123A CN115314609A CN 115314609 A CN115314609 A CN 115314609A CN 202210702123 A CN202210702123 A CN 202210702123A CN 115314609 A CN115314609 A CN 115314609A
Authority
CN
China
Prior art keywords
camera
wide
angle
image
fire hole
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210702123.4A
Other languages
English (en)
Other versions
CN115314609B (zh
Inventor
阳春华
王冬雷
黄科科
孙备
李勇刚
桂卫华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Central South University
Original Assignee
Central South University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Central South University filed Critical Central South University
Priority to CN202210702123.4A priority Critical patent/CN115314609B/zh
Publication of CN115314609A publication Critical patent/CN115314609A/zh
Application granted granted Critical
Publication of CN115314609B publication Critical patent/CN115314609B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C1/00Registering, indicating or recording the time of events or elapsed time, e.g. time-recorders for work people
    • G07C1/20Checking timed patrols, e.g. of watchman
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • H04N7/185Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source from a mobile camera, e.g. for remote control

Abstract

本发明公开了一种铝电解槽火眼视频的自动化采集方法和装置,方法为:巡检小车在铝电解槽的安全距离轨迹线上巡检;广角摄像机采集铝电解槽的二维码,解析获取当前铝电解槽的信息;在槽门打开之后,根据广角摄像机和定长焦摄像机采集的图像,反馈调节广角摄像机和定长焦工业摄像机的相机云台的舵机;反馈调节相机云台的舵机的方法为:根据广角摄像机采集的图像,采用目标检测算法识别火眼口在图像中的位置,对相机云台的舵机初步旋转控制;根据定长焦摄像机采集的图像,采用网格分区与火眼口对应网格查表的方法,对相机云台的舵机精准旋转控制;使用舵机调节后的定长焦工业摄像机采集火眼口视频。本发明不受强磁场等复杂环境影响,工作稳定性好。

Description

一种铝电解槽火眼视频的自动化采集方法和装置
技术领域
本发明属于工业过程监测中的火眼视频采集技术,具体涉及一种铝电解槽火眼视频的自动化采集方法和装置。
背景技术
现代工业过程监测随着信息技术的进步和大数据的发展,对于监测数据的多样性要求日益提高。随着机器学习技术的发展,图像数据在工业过程监测中开始起到关键性作用,但由于部分流程工业过程反应环境密闭,仅能从火眼口观察其内部状态,所以工业过程火眼口视频为监测对象实现工业过程监控日趋重要。
以铝电解过程为例:铝电解过程是高温熔盐电解反应生产过程,其物质转化过程十分复杂,具有电、磁、力、温度、速度和浓度多物理场以及气液固三相的复杂耦合作用,因此生产指标和过程工艺条件之间难以建立精确数学模型。电解槽高效稳定运行是铝电解生产过程中降低能耗,物耗和减少排放的主要方法之一。为此,及时发现异常槽况,减少电解槽处在异常状态下的时间,对降低能耗,物耗和减少排放具有极其重要的意义。但是铝电解槽是一个多相多场耦合、紧平衡和临界稳定的复杂系统。不同槽型的电解槽、相同槽型处在不同系列的电解槽以及同一系列不同槽龄的电解槽的工艺条件配置和参数变化都不相同,呈现反应行为特征的个性化。同时生产过程中各槽伴随下料、出铝、换极、添加氟盐等各种间歇性操作,都会引起铝电解槽的工况发生显著性变化。且铝电解槽是在高温、强电磁场、强腐蚀的条件下运行,目前几乎没有传感器能对铝电解槽的内部状态进行准确测量。电解槽的工况和引起工况变化的原因,只能依靠经验知识丰富技术专工通过观察火眼的方法进行辨识。但是,人工观测火眼来辨识槽况有以下不足:
1)人工采用巡逻式观测,不能实现连续观测,难以实现槽况变化的敏感决策,且工作量大、任务重,浪费大量人力资源;
2)铝电解槽的历史火眼信息无法完整保留,导致异常槽况溯因不准;
3)工人观察火眼的水平参差不齐,导致不同工人在同一时刻对同一个电解槽的观测结果不一样;长期依赖人工观察火眼操作会造成的生产过程不稳定、产品质量一致性差、能源消耗大;
随着流程工业智能制造发展的加快,当前铝电解等流程工业企业依赖人工经验辨识槽况,无法满足我国铝电解等流程行业的节能降耗减排和智能化发展需求,亟需建立火眼视频远程采集自动化装置,实现流程工业过程智能化决策。
谭善伟等人提出一种铝电解槽移动式温度在线检测方法及装置,其巡检机器人安装在吊轨上,可沿固定的轨道线路进行往复式巡检,实时采集图像、红外热像和温度数据,并通过局域网无线传输和485串口通信将数据上传后台服务器。曹斌等人提出一种铝电解槽槽况自动巡检方法及其装置,其装置可沿车间内预先铺设的导航线移动,在移动到对应的铝电解槽后识别电解槽上对应的智能卡,之后通过红外成像仪和激光分析仪对铝电解槽进行数据采集,最后经工控机预处理分析后,将预处理数据通过移动互联网无线传输至电解车间数据中心。
但是这些现有技术给出的采集装置存在一定的局限性:
1)轨道占空间大,成本高,维护复杂,干扰天车系统的工作;
2)只能在固定轨道往复移动,灵活性较低;
3)没有火眼原始图像信息,或只能采集火眼图片,无法采集连续的火眼视频数据;
4)铝电解槽信息获取和定位采用的方案是,通过智能卡扫描仪扫描贴在铝电解槽上的智能卡的方式来获取电解槽信息和小车停止信号,该方案未充分考虑铝电解槽等实际工业环境中强磁场等复杂环境对非接触式智能卡的影响。
发明内容
解决针对冶金工业生产现场可能存在的强磁场环境干扰导致无法采用变焦摄像机的问题,本发明提供一种铝电解槽火眼视频的自动化采集方法和装置,工作稳定性好。
为实现上述技术目的,本发明采用如下技术方案:
一种铝电解槽火眼视频的自动化采集方法,包括:
(1)巡检小车在远离铝电解槽的安全距离轨迹线上往复运行巡检;
(2)巡检小车使用广角摄像机采集铝电解槽的二维码,进而解析获取当前铝电解槽的信息;并在铝电解槽的槽门打开之后,根据广角摄像机和定长焦工业摄像机采集的图像,反馈调节广角摄像机和定长焦工业摄像机的相机云台的舵机;其中,反馈调节相机云台的舵机的方法为:
根据广角摄像机采集的图像,采用目标检测算法识别火眼口在图像中的位置,并对相机云台的舵机进行初步旋转控制;
根据定长焦工业摄像机采集的图像,采用网格分区与火眼口对应网格查表的方法,对相机云台的舵机进行精准旋转控制;
(3)使用舵机调节后的定长焦工业摄像机采集火眼口视频。
进一步地,采用目标检测算法识别火眼口在图像中的位置的方法为:
使用DenseNet121网络提取广角图像的全局特征图,同时通过Select Search算法产生广角图像的N个候选框,并转换为全局特征图中的N个候选框;
使用N个候选从全局特征图中截取产生N个特征子图,并通过SPP层将各特征子图分别池化采样再拼接为固定长度的候选特征向量;
通过LC-KSVD2分类器对每个候选特征向量计算得到对应的分数,最后使用非最大抑制算法对每个候选特征向量对应的候选框进行筛选得到唯一的预测候选框,并对其进行回归得到最后的预测结果框,即为采用目标检测算法识别得到的火眼口在广角图像中的位置。
进一步地,将广角图像中的候选框转换为全局特征图中的候选框,转换关系为:
x′min=[xmin/S]+1 (11)
y′min=[ymin/S]+1 (12)
x′max=[xmax/S]-1 (13)
y′max=[ymax/S]-1 (14)
式中,S为DenseNet121网络中所有池化层和卷积层步长的乘积,(xmin,ymin)为广角图像中的候选框的左上角的像素坐标,(xmax,ymax)为广角图像中的候选框的右下角的像素坐标,(x′min,y′min)为全局特征图中的候选框的左上角的像素坐标,(x′max,y′max)为全局特征图中的候选框的右下角的像素坐标。
进一步地,对相机云台的舵机进行初步旋转控制的方法为:
首先,利用公式(4)、(5)、(6),对初始获取的广角图像进行畸变矫正,得到矫正后的广角图像:
x′=(1+k1r2+k2r4+k3r6)x+2p1xy+p2(r2+2x2) (4)
y′=(1+k1r2+k2r4+k3r6)y+2p1(r2+2y2)+2p2xy (5)
Figure BDA0003704669670000031
式中,x′、y′是广角图像在矫正前的像素坐标,x、y是广角图像在矫正后的像素坐标,xc、yc是广角图像在矫正后的中心点像素坐标,r是矫正后像素坐标与中心点坐标的欧氏距离,k1、k2和k3是径向畸变补偿系数,p1和p2是切向畸变补偿系数,所有的补偿系数都通过相机标定得到;
然后,利用公式(7)、(8)计算广角图像的水平旋转角度和垂直旋转角度;
Figure BDA0003704669670000032
Figure BDA0003704669670000033
Figure BDA0003704669670000034
Figure BDA0003704669670000035
式中,α是水平旋转角度,β是垂直旋转角度,Xa是广角图像的宽度,Ya是广角图像的高度,lCCDH是相机水平CCD长度,lCCDV是相机垂直CCD长度,f是广角摄像机的焦距,γH是摄像机的水平视角,γV是摄像机的垂直视角;
最后,根据水平旋转角度α和垂直旋转角度β,控制相机云台的舵机进行旋转,完成粗校准。
进一步地,对相机云台的舵机进行精准旋转控制的方法为:
预先将定长焦工业摄像机采集的图像划分为n*n的网格区域,对每个网格区域进行实验标定,记录每个网格区域对应的水平旋转角度和垂直旋转角度;其中,n为奇数;
采用目标检测算法识别火眼口在广角图像中的位置(x,y),通过以下公式获得火眼口在定长焦图像中的网格编号k;
Figure BDA0003704669670000041
式中,Xa是广角图像的宽度,Ya是广角图像的高度;
根据网格编号k查询对应的水平旋转角度α′和垂直旋转角度β′,并按照α′和β′控制相机云台的舵机进行旋转,完成精校准。
进一步地,将定长焦工业摄像机采集的火眼口视频,通过h.265编码格式并使用4G网络发射器实时上传至后台服务器。
一种铝电解槽火眼视频的自动化采集装置,包括:巡检小车以及设置于巡检小车上的相机云台、广角摄像机、定长焦工业摄像机、图像处理与控制模块和无线图传模块;
所述巡检小车在远离铝电解槽的安全距离轨迹线上往复运行巡检;
所述相机云台用于安装广角摄像机和定长焦工业摄像机,其舵机用于调节相机云台的旋转角度,相当于调节广角摄像机和定长焦工业摄像机的旋转角度;
所述广角摄像机采集铝电解槽的二维码,以用于图像处理与控制模块解析获取当前铝电解槽的信息;
所述图像处理与控制模块用于根据广角摄像机和定长焦工业摄像机采集的图像,反馈调节广相机云台的舵机;其中反馈调节方法为:
根据广角摄像机采集的图像,采用目标检测算法识别火眼口在图像中的位置,并对相机云台的舵机进行初步旋转控制;
根据定长焦工业摄像机采集的图像,采用网格分区与火眼口对应网格查表的方法,对相机云台的舵机进行精准旋转控制;
所述无线图传模块用于在旋转角度调节后,将定长焦工业摄像机采集的火眼口视频实时传输至后台服务器。
进一步地,所述图像处理与控制模块采用目标检测算法识别火眼口在图像中的位置具体过程为:
使用DenseNet121网络提取广角图像的全局特征图,同时通过Select Search算法产生广角图像的N个候选框,并转换为全局特征图中的N个候选框;
使用N个候选从全局特征图中截取产生N个特征子图,并通过SPP层将各特征子图分别池化采样并拼接为固定长度的候选特征向量;
通过LC-KSVD2分类器对每个候选特征向量计算得到对应的分数,最后使用非最大抑制算法对每个候选特征向量对应的候选框进行筛选得到唯一的预测候选框,并对其进行回归得到最后的预测结果框,即为采用目标检测算法识别得到的火眼口在广角图像中的位置。
进一步地,所述图像处理与控制模块对相机云台的舵机进行初步旋转控制的方法为:
首先,利用公式(4)、(5)、(6),对初始获取的广角图像进行畸变矫正,得到矫正后的广角图像:
x′=(1+k1r2+k2r4+k3r6)x+2p1xy+p2(r2+2x2) (4)
y′=(1+k1r2+k2r4+k3r6)y+2p1(r2+2y2)+2p2xy (5)
Figure BDA0003704669670000051
式中,x′、y′是广角图像在矫正前的像素坐标,x、y是广角图像在矫正后的像素坐标,xc、yc广角图像在矫正后的中心点像素坐标,r是矫正后像素坐标与中心点坐标的欧氏距离,k1、k2和k3是径向畸变补偿系数,p1和p2是切向畸变补偿系数,所有的补偿系数都通过相机标定得到;
然后,利用公式(7)、(8)计算广角图像的水平旋转角度和垂直旋转角度;
Figure BDA0003704669670000052
Figure BDA0003704669670000053
Figure BDA0003704669670000054
Figure BDA0003704669670000055
式中,α是水平旋转角度,β是垂直旋转角度,Xa是广角图像的宽度,Ya是广角图像的高度,lCCDH是相机水平CCD长度,lCCDV是相机垂直CCD长度,f是广角摄像机的焦距,γH是摄像机水平视角,γV是摄像机垂直视角,γH是摄像机的水平视角,γV是摄像机的垂直视角;
最后,根据水平旋转角度α和垂直旋转角度β,控制相机云台的舵机进行旋转,完成粗校准。
进一步地,所述图像处理与控制模块对相机云台的舵机进行精准旋转控制的方法为:
预先将定长焦工业摄像机采集的图像划分为n*n的网格区域,对每个网格区域进行实验标定,记录每个网格区域对应的水平旋转角度和垂直旋转角度;其中,n为奇数;
采用目标检测算法识别火眼口在广角图像中的位置(x,y),通过以下公式获得火眼口在定长焦图像中的网格编号k;
Figure BDA0003704669670000061
式中,Xa是广角图像的宽度,Ya是广角图像的高度;
根据网格编号k查询对应的水平旋转角度α′和垂直旋转角度β′,并按照α′和β′控制相机云台的舵机进行旋转,完成精校准。
有益效果
与现有技术相比,本发明的有益效果为:
本发明采用广角和长焦互补的火眼口定位和拍摄技术方案,可以解决针对冶金工业生产现场可能存在的强磁场环境干扰导致无法采用变焦摄像机的问题,同时巡检小车采用防磁外壳设计,相对于现有技术有更好的安全性。
采用广角摄像机扫描二维码获取铝电解槽信息的方式,不受铝电解槽周围的强磁场等复杂环境影响,比现有技术有更好的工作稳定性。
采用4G网络发射器,能够支持高清铝电解槽火眼视频的实时上传和展示。
附图说明
图1是本申请实施例所述的巡检小车示意图;其中,(1)广角摄像机,(2)定长焦工业摄像机,(3)定制长焦镜头,(4)无线图传模块,(5)巡检小车;
图2是本申请实施例所述的定长焦工业摄像机的原理图;
图3是本申请实施例所述火眼口定位算法的结构图;
图4是本申请实施例所述火眼口定位算法的离线训练阶段流程图;
图5是本申请实施例所述火眼口定位算法的在线测试阶段流程图;
图6是本申请实施例所述图像网格编号的示意图。
具体实施方式
下面对本发明的实施例作详细说明,本实施例以本发明的技术方案为依据开展,给出了详细的实施方式和具体的操作过程,对本发明的技术方案作进一步解释说明。
由于铝电解槽中和周围存在复杂变化的强磁场,会导致接近铝电解槽的任何电磁设备失控和失效,而变焦工业相机中存在电磁感应线圈,无法在铝电解槽周围的强磁场中正常工作。而且为巡检小车提供动力的直流电机需要依靠电磁场工作,同样会受到铝电解槽周围的强磁场影响,因此需要保证巡检小车在安全距离外运行。而又由于铝电解槽的火眼口较小,当巡检小车与铝电解槽距离较远时,图像采集相机采集到的视频中有效火眼口图像占整个画幅的比例过小,导致图像模糊。针对这些问题,本发明提供一种铝电解槽火眼视频的自动化采集方法与装置,同时采集二维码和火眼视频数据的广角与长焦镜头互补,能够在铝电解强磁场环境下工作,采集的火眼视频供后续槽温预测、槽况分析和下料决策等分析利用,以提高铝电解生产过程的信息自动化水平,降低人员压力。
一种铝电解槽火眼视频的火眼视频的自动化采集方法,包括:
(一)巡检小车在远离铝电解槽的安全距离轨迹线上往复运行巡检。本实施例中的巡检小车采用防磁外壳。
(二)巡检小车使用广角摄像机采集铝电解槽的二维码,进而解析获取当前铝电解槽的信息,包括铝电解槽槽号等信息;并在铝电解槽的槽门打开之后,根据广角摄像机和定长焦工业摄像机采集的图像,反馈调节广角摄像机和定长焦工业摄像机的相机云台的舵机。
其中的广角摄像机可以采集二维码,获取铝电解槽等信息;还可以用于扫描预先在地面贴好的定位二维码得到定位信息。
在具体的铝电解工业现场,巡检小车可按照铝电解工厂地面贴的轨迹线在一个工区往复运行,当巡检小车移动到铝电解槽门前时,巡检小车上的二维码扫描定位摄像机通过扫描预先在地面贴好的定位二维码得到定位信息,然后会向巡检小车的控制系统发送一个中断信号,当巡检小车接收到中断信号后将按照二维码信息停到铝电解槽安全距离外的对应位置。之后广角摄像机将捕捉到贴在铝电解槽槽门上的二维码图像,并将二维码图像通过4G无线图传模块传输到后台服务器,后台服务器扫描解析铝电解槽二维码图像,获取铝电解槽槽号等信息,并同时向槽控系统发送槽门开启信号,槽控系统控制槽门打开,以便使用定长焦工业摄像机完成铝电解槽火眼视频信息的采集,并将火眼视频通过4G无线图传模块将实时的火眼视频数据上传到后台服务器,后台服务器将实时视频数据传输至操作员站进行展示,同时根据铝电解槽槽号和拍摄时间为标识将实时上传的火眼视频数据进行分割保存,供后续槽温预测、槽况评价和下料决策等,视频编码格式采用h.265编码,在保证画面质量的同时,提高视频文件的压缩率,减小服务器存储压力。当拍摄时间达到预设时间后,铝电解槽槽门自动关闭,巡检小车继续沿地面导航线继续向前移动,移动到下一个铝电解槽前后重复上述动作。
巡检小车有相应的雷达避障模块,当巡检小车在前方遇到障碍物时,能够即时停下,当障碍物阻挡超过设定的安全时间后,巡检小车会向数据中心发送警报信息。铝电解的巡检小车也可通过远程遥控的方式进行巡检,操作员能够通过观看由4G无线图传链路传输到操作员站的实时视频来判断巡检小车的位置和状态,并可以从操作员站发送前后左右的移动控制信号对巡检小车进行操控,从而提高巡检小车的灵活性,而且当小车遇到无法处理的障碍物时,无需工作人员进入铝电解生产现场进行处理,工作人员可通过操作员站远程处理突发情况,充分保证人员安全。
本实施例中的广角摄像机和定焦工业摄像机,由于巡检小车固定安全距离之外的轨迹线上往复运行,因此都是根据摄像机至火眼口的距离定焦,在调节相机云台之后,不需要再调整广角摄像机和定长焦工业摄像机的焦距。其中焦距的设置方法为:已知相机CCD宽度为dm,实际拍摄火眼口的宽度为dh,巡检小车和火眼口的安全距离为dl,为使火眼口的主要图像能够充满整个画幅所需的摄像机对角线视角为rl
首先,计算使火眼口主要图像充满画幅的对角线视角:
Figure BDA0003704669670000081
然后获取长焦镜头的焦距f的最小长度,在该长度下,能够使巡检小车在安全距离外清晰拍摄火眼口视频:
Figure BDA0003704669670000082
可化简为如下形式
Figure BDA0003704669670000083
其中安全距离dl由铝电解过程现场实验得到。
进一步地,反馈调节相机云台的舵机的方法包括初对准和精对准两个阶段:
(1)粗对准阶段:根据广角摄像机采集的图像,采用目标检测算法识别火眼口在图像中的位置,并对相机云台的舵机进行初步旋转控制。
采用目标检测算法识别火眼口在图像中的位置的方法,记为火眼口定位算法,结构包括DenseNet121网络、Selective Search算法、SPP层、BBox回归器和LC-KSVD2分类器。
火眼口定位算法包括离线训练和在线测试两个阶段,其中离线训练阶段包括全局特征提取模型的迁移、分类模型训练和位置框回归器训练三个部分,在线测试阶段包括实时火眼视频帧特征提取、火眼位置框识别。
离线训练阶段,如图4所示,包括:全局特征提取模型的迁移部分首先使用从现场采集的火眼图像对DenseNet121预训练网络进行微调训练,之后通过训练后的DenseNet121网络产生每张图片的全局特征图。分类模型的训练部分首先根据真实的标签位置框从全局特征图中截取对应的特征子图,并将特征子图通过SPP层转换为等长特征向量,之后将特征向量和对应类别标签作为训练数据对LC-KSVD2算法的参数进行训练。位置框回归器训练部分首先通过Selective Search算法产生N个随机的候选框,并从全局特征图中截取对应的特征子图,再通过SPP层将特征子图转换为N个等长特征向量,并使用训练好的LC-KSVD2分类器对每个特征向量进行分类,并根据分类得分保留高置信度候选框,然后使用非最大抑制算法对所有高置信度候选框进行合并得到唯一的预测位置框,最后将预测位置框和标签位置框作为训练数据对位置框回归器进行训练。
在线测试阶段,如图5所示,包括:
首先,使用DenseNet121网络提取广角图像的全局特征图,同时通过SelectSearch算法产生广角图像的N个候选框,并转换为全局特征图中的N个候选框;转换关系为:
x′min=[xmin/S]+1 (4)
y′min=[ymin/S]+1 (5)
x′max=[xmax/S]-1 (6)
y′max=[ymax/S]-1 (7)
式中,S为DenseNet121网络中所有池化层和卷积层步长的乘积,(xmin,ymin)为广角图像中的候选框的左上角的像素坐标,(xmax,ymax)为广角图像中的候选框的右下角的像素坐标,(x′min,y′min)为全局特征图中的候选框的左上角的像素坐标,(x′max,y′max)为全局特征图中的候选框的右下角的像素坐标。
然后,使用N个候选从全局特征图中截取产生N个特征子图,并通过SPP层将各特征子图分别池化采样再拼接为固定长度的候选特征向量;
再通过LC-KSVD2分类器对每个候选特征向量计算得到对应的分数;
最后,使用非最大抑制算法对每个候选特征向量对应的候选框进行筛选得到唯一的预测候选框,并对其进行回归得到最后的预测结果框,即为采用目标检测算法识别得到的火眼口在广角图像中的位置。
在得到火眼口在广角图像中的位置之后,即可根据其计算相机云台的水平旋转角度和垂直旋转角度,以对相机云台的舵机进行初步旋转控制:
首先,利用公式(8)、(9)、(10),对初始获取的广角图像进行畸变矫正,得到矫正后的广角图像:
x′=(1+k1r2+k2r4+k3r6)x+2p1xy+p2(r2+2x2) (8)
y′=(1+k1r2+k2r4+k3r6)y+2p1(r2+2y2)+2p2xy (9)
Figure BDA0003704669670000091
式中,x′、y′是广角图像在矫正前的像素坐标,x、y是广角图像在矫正后的像素坐标,xc、yc是广角图像在矫正后的中心点像素坐标,r是矫正后像素坐标与中心点坐标的欧氏距离,k1、k2和k3是径向畸变补偿系数,p1和p2是切向畸变补偿系数,所有的补偿系数都通过相机标定得到;
然后,利用公式(11)、(12)计算广角图像的水平旋转角度和垂直旋转角度;
Figure BDA0003704669670000101
Figure BDA0003704669670000102
Figure BDA0003704669670000103
Figure BDA0003704669670000104
式中,α是水平旋转角度,β是垂直旋转角度,Xa是广角图像的宽度,Ya是广角图像的高度,lCCDH是相机水平CCD长度,lcCDV是相机垂直CCD长度,f是广角摄像机的焦距,γH是摄像机的水平视角,γV是摄像机的垂直视角;
最后,根据水平旋转角度α和垂直旋转角度β,控制相机云台的舵机进行旋转,完成粗校准。
(2)精对准阶段:根据定长焦摄像机采集的图像,采用网格分区与火眼口对应网格查表的方法,对相机云台的舵机进行精准旋转控制。
对相机云台的舵机进行精准旋转控制的方法为:
预先将定长焦工业摄像机采集的图像划分为n*n的网格区域,对每个网格区域进行实验标定,记录每个网格区域对应的水平旋转角度和垂直旋转角度;其中,n为奇数(n取值越大,对准精度越高);图像网格区域标号如下,红色网格区域为图像中心区域。
其中记录的水平旋转角度和垂直旋转角度,是指:测试当物体在各网格区域,为将物体移动到图像中心的红色网格区域,安装广角摄像机和定长焦工业摄像的相机平台在水平和垂直方向上的所需旋转角度。
采用粗校准阶段通过目标检测算法识别到的火眼口在广角图像中的位置(x,y),通过以下公式获得火眼口在定长焦图像中的网格编号k;
Figure BDA0003704669670000105
式中,Xa是广角图像的宽度,Ya是广角图像的高度;
根据网格编号k查询对应的水平旋转角度α′和垂直旋转角度β′,并按照α′和β′控制相机云台的舵机进行旋转,反复进行上述精校准过程,直至火眼口在广角图像中的位置处于广角图像的中心红色网格中,完成精校准。
(3)使用舵机调节后的定长焦工业摄像机采集火眼口视频,将定长焦工业摄像机采集的火眼口视频,通过h.265编码格式并使用4G网络发射器实时上传至后台服务器。
由于高清图像中保留的火眼原始信息丰富,但传输高清视频需要的传输带宽较高,并且火眼口附近可能存在的强磁场对于一般的无线wifi图传设备影响较大,导致有效传输距离不足,针对这些问题,本发明采用4G无线图传,在保证高传输带宽的情况下,同时避免了传输距离的限制。4G无线图传链路使用4G网络发射器将实时的火眼视频数据上传后端服务器,保证低延迟的高清视频上传,图像采集模块采集的原始视频通过h.265编码格式进行传输,缓解带宽压力,服务器端向数据中心传输视频数据采用实时流传输协议RTSP(Real Time Streaming Protocol),数据中心逐帧接收视频数据,并将实时视频数据传输至操作员站供工作人员远程控制巡检小车,同时以h.265编码格式以铝电解槽号为标识分段保存对应铝电解槽槽号和对应时间的铝电解槽火眼视频数据。
巡检小车、广角摄像机、定长焦工业摄像机、图像处理与控制模块和4G无线图传模块,均由巡检小车上安装的锂离子电池供电。
一种火眼视频自动化采集装置,包括:巡检小车以及设置于巡检小车上的相机云台、广角摄像机、定长焦工业摄像机、图像处理与控制模块和无线图传模块;
所述巡检小车在远离铝电解槽的安全距离轨迹线上往复运行巡检;
所述相机云台用于安装广角摄像机和定长焦工业摄像机,其舵机用于调节相机云台的旋转角度,相当于调节广角摄像机和定长焦工业摄像机的旋转角度;
所述广角摄像机采集铝电解槽的二维码,以用于图像处理与控制模块解析获取当前铝电解槽的信息;
所述图像处理与控制模块用于根据广角摄像机和定长焦工业摄像机采集的图像,反馈调节广相机云台的舵机;其中反馈调节方法为:
根据广角摄像机采集的图像,采用目标检测算法识别火眼口在图像中的位置,并对相机云台的舵机进行初步旋转控制;
根据定长焦工业摄像机采集的图像,采用网格分区与火眼口对应网格查表的方法,对相机云台的舵机进行精准旋转控制;
所述无线图传模块用于在旋转角度调节后,将定长焦工业摄像机采集的火眼口视频实时传输至后台服务器。
本实施例所述火眼视频自动化采集装置的图像处理与控制模块,其具体工作原理及方法,与前述实施例所述的火眼视频自动化采集方法记载的相同,且其他巡检小车以及设置于巡检小车上的相机云台、广角摄像机、定长焦工业摄像机和无线图传模块,与同样与前述实施例所述的火眼视频自动化采集方法记载的相同,此处均不再重复阐述。
本发明提供的铝电解槽火眼视频的自动化采集方法和装置,能够应用于铝电解生产现场的火眼视频数据自动采集和上传,而且可以用于铝电解槽事故突发情况的远程监控。当铝电解现场发生事故后,可让工作人员通过操作员站远程操控巡检小车进入事故现场,监控事故现场画面,不需要工作人员进入事故现场,保障现场工作人员的人身安全。本发明同样可应用于部分其它冶金过程的定期自动巡检。
以上实施例为本申请的优选实施例,本领域的普通技术人员还可以在此基础上进行各种变换或改进,在不脱离本申请总的构思的前提下,这些变换或改进都应当属于本申请要求保护的范围之内。

Claims (10)

1.一种铝电解槽火眼视频的自动化采集方法,其特征在于,包括:
(1)巡检小车在远离铝电解槽的安全距离轨迹线上往复运行巡检;
(2)巡检小车使用广角摄像机采集铝电解槽的二维码,进而解析获取当前铝电解槽的信息;并在铝电解槽的槽门打开之后,根据广角摄像机和定长焦工业摄像机采集的图像,反馈调节广角摄像机和定长焦工业摄像机的相机云台的舵机;其中,反馈调节相机云台的舵机的方法为:
根据广角摄像机采集的图像,采用目标检测算法识别火眼口在图像中的位置,并对相机云台的舵机进行初步旋转控制;
根据定长焦工业摄像机采集的图像,采用网格分区与火眼口对应网格查表的方法,对相机云台的舵机进行精准旋转控制;
(3)使用舵机调节后的定长焦工业摄像机采集火眼口视频。
2.根据权利要求1所述的铝电解槽火眼视频的自动化采集方法,其特征在于,采用目标检测算法识别火眼口在图像中的位置的方法为:
使用DenseNet121网络提取广角图像的全局特征图,同时通过Select Search算法产生广角图像的N个候选框,并转换为全局特征图中的N个候选框;
使用N个候选从全局特征图中截取产生N个特征子图,并通过SPP层将各特征子图分别池化采样再拼接为固定长度的候选特征向量;
通过LC-KSVD2分类器对每个候选特征向量计算得到对应的分数,最后使用非最大抑制算法对每个候选特征向量对应的候选框进行筛选得到唯一的预测候选框,并对其进行回归得到最后的预测结果框,即为采用目标检测算法识别得到的火眼口在广角图像中的位置。
3.根据权利要求2所述的铝电解槽火眼视频的自动化采集方法,其特征在于,将广角图像中的候选框转换为全局特征图中的候选框,转换关系为:
x′min=[xmin/S]+1 (11)
y′min=[ymin/S]+1 (12)
x′max=[xmax/S]-1 (13)
y′max=[ymax/S]-1 (14)
式中,S为DenseNet121网络中所有池化层和卷积层步长的乘积,(xmin,ymin)为广角图像中的候选框的左上角的像素坐标,(xmax,ymax)为广角图像中的候选框的右下角的像素坐标,(x′min,y′min)为全局特征图中的候选框的左上角的像素坐标,(x′max,y′max)为全局特征图中的候选框的右下角的像素坐标。
4.根据权利要求1所述的铝电解槽火眼视频的自动化采集方法,其特征在于,对相机云台的舵机进行初步旋转控制的方法为:
首先,利用公式(4)、(5)、(6),对初始获取的广角图像进行畸变矫正,得到矫正后的广角图像:
x′=(1+k1r2+k2r4+k3r6)x+2p1xy+p2(r2+2x2) (4)
y′=(1+k1r2+k2r4+k3r6)y+2p1(r2+2y2)+2p2xy (5)
Figure FDA0003704669660000021
式中,x′、y′是广角图像在矫正前的像素坐标,x、y是广角图像在矫正后的像素坐标,xc、yc是广角图像在矫正后的中心点像素坐标,r是矫正后像素坐标与中心点坐标的欧氏距离,k1、k2和k3是径向畸变补偿系数,p1和p2是切向畸变补偿系数,所有的补偿系数都通过相机标定得到;
然后,利用公式(7)、(8)计算广角图像的水平旋转角度和垂直旋转角度;
Figure FDA0003704669660000022
Figure FDA0003704669660000023
Figure FDA0003704669660000024
Figure FDA0003704669660000025
式中,α是水平旋转角度,β是垂直旋转角度,Xa是广角图像的宽度,Ya是广角图像的高度,lCCDH是相机水平CCD长度,lCCDV是相机垂直CCD长度,f是广角摄像机的焦距,γH是摄像机的水平视角,γV是摄像机的垂直视角;
最后,根据水平旋转角度α和垂直旋转角度β,控制相机云台的舵机进行旋转,完成粗校准。
5.根据权利要求1所述的铝电解槽火眼视频的自动化采集方法,其特征在于,对相机云台的舵机进行精准旋转控制的方法为:
预先将定长焦工业摄像机采集的图像划分为n*n的网格区域,对每个网格区域进行实验标定,记录每个网格区域对应的水平旋转角度和垂直旋转角度;其中,n为奇数;
采用目标检测算法识别火眼口在广角图像中的位置(x,y),通过以下公式获得火眼口在定长焦图像中的网格编号k;
Figure FDA0003704669660000026
式中,Xa是广角图像的宽度,Ya是广角图像的高度,
Figure FDA0003704669660000027
为向上取整,
Figure FDA0003704669660000028
为向下取整;
根据网格编号k查询对应的水平旋转角度α′和垂直旋转角度β′,并按照α′和β′控制相机云台的舵机进行旋转,完成精校准。
6.根据权利要求1所述的铝电解槽火眼视频的自动化采集方法,其特征在于,将定长焦工业摄像机采集的火眼口视频,通过h.265编码格式并使用4G网络发射器实时上传至后台服务器。
7.一种铝电解槽火眼视频的自动化采集装置,其特征在于,包括:巡检小车以及设置于巡检小车上的相机云台、广角摄像机、定长焦工业摄像机、图像处理与控制模块和无线图传模块;
所述巡检小车在远离铝电解槽的安全距离轨迹线上往复运行巡检;
所述相机云台用于安装广角摄像机和定长焦工业摄像机,其舵机用于调节相机云台的旋转角度,相当于调节广角摄像机和定长焦工业摄像机的旋转角度;
所述广角摄像机采集铝电解槽的二维码,以用于图像处理与控制模块解析获取当前铝电解槽的信息;
所述图像处理与控制模块用于根据广角摄像机和定长焦工业摄像机采集的图像,反馈调节广相机云台的舵机;其中反馈调节方法为:
根据广角摄像机采集的图像,采用目标检测算法识别火眼口在图像中的位置,并对相机云台的舵机进行初步旋转控制;
根据定长焦工业摄像机采集的图像,采用网格分区与火眼口对应网格查表的方法,对相机云台的舵机进行精准旋转控制;
所述无线图传模块用于在旋转角度调节后,将定长焦工业摄像机采集的火眼口视频实时传输至后台服务器。
8.根据权利要求7所述的铝电解槽火眼视频的自动化采集装置,其特征在于,所述图像处理与控制模块采用目标检测算法识别火眼口在图像中的位置具体过程为:
使用DenseNet121网络提取广角图像的全局特征图,同时通过Select Search算法产生广角图像的N个候选框,并转换为全局特征图中的N个候选框;
使用N个候选从全局特征图中截取产生N个特征子图,并通过SPP层将各特征子图分别池化采样并拼接为固定长度的候选特征向量;
通过LC-KSVD2分类器对每个候选特征向量计算得到对应的分数,最后使用非最大抑制算法对每个候选特征向量对应的候选框进行筛选得到唯一的预测候选框,并对其进行回归得到最后的预测结果框,即为采用目标检测算法识别得到的火眼口在广角图像中的位置。
9.根据权利要求7所述的铝电解槽火眼视频的自动化采集装置,其特征在于,所述图像处理与控制模块对相机云台的舵机进行初步旋转控制的方法为:
首先,利用公式(4)、(5)、(6),对初始获取的广角图像进行畸变矫正,得到矫正后的广角图像:
x′=(1+k1r2+k2r4+k3r6)x+2p1xy+p2(r2+2x2) (4)
y′×(1+k1r2+k2r4+k3r6)y+2p1(r2+2y2)+2p2xy (5)
Figure FDA0003704669660000041
式中,x′、y′是广角图像在矫正前的像素坐标,x、y是广角图像在矫正后的像素坐标,xc、yc广角图像在矫正后的中心点像素坐标,r是矫正后像素坐标与中心点坐标的欧氏距离,k1、k2和k3是径向畸变补偿系数,p1和p2是切向畸变补偿系数,所有的补偿系数都通过相机标定得到;
然后,利用公式(7)、(8)计算广角图像的水平旋转角度和垂直旋转角度;
Figure FDA0003704669660000042
Figure FDA0003704669660000043
Figure FDA0003704669660000044
Figure FDA0003704669660000045
式中,α是水平旋转角度,β是垂直旋转角度,Xa是广角图像的宽度,Ya是广角图像的高度,lCCDH是相机水平CCD长度,lCCDV是相机垂直CCD长度,f是广角摄像机的焦距,γH是摄像机水平视角,γV是摄像机垂直视角,γH是摄像机的水平视角,γV是摄像机的垂直视角;
最后,根据水平旋转角度α和垂直旋转角度β,控制相机云台的舵机进行旋转,完成粗校准。
10.根据权利要求7所述的铝电解槽火眼视频的自动化采集装置,其特征在于,所述图像处理与控制模块对相机云台的舵机进行精准旋转控制的方法为:
预先将定长焦工业摄像机采集的图像划分为n*n的网格区域,对每个网格区域进行实验标定,记录每个网格区域对应的水平旋转角度和垂直旋转角度;其中,n为奇数;
采用目标检测算法识别火眼口在广角图像中的位置(x,y),通过以下公式获得火眼口在定长焦图像中的网格编号k;
Figure FDA0003704669660000046
式中,xa是广角图像的宽度,Ya是广角图像的高度;
根据网格编号k查询对应的水平旋转角度α′和垂直旋转角度β′,并按照α′和β′控制相机云台的舵机进行旋转,完成精校准。
CN202210702123.4A 2022-06-21 2022-06-21 一种铝电解槽火眼视频的自动化采集方法和装置 Active CN115314609B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210702123.4A CN115314609B (zh) 2022-06-21 2022-06-21 一种铝电解槽火眼视频的自动化采集方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210702123.4A CN115314609B (zh) 2022-06-21 2022-06-21 一种铝电解槽火眼视频的自动化采集方法和装置

Publications (2)

Publication Number Publication Date
CN115314609A true CN115314609A (zh) 2022-11-08
CN115314609B CN115314609B (zh) 2023-11-28

Family

ID=83854814

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210702123.4A Active CN115314609B (zh) 2022-06-21 2022-06-21 一种铝电解槽火眼视频的自动化采集方法和装置

Country Status (1)

Country Link
CN (1) CN115314609B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116543141A (zh) * 2022-12-16 2023-08-04 无锡恺韵来机器人有限公司 一种基于声信号与图像融合的无人机识别与定位方法

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070058175A1 (en) * 2004-09-24 2007-03-15 Konrad Maierhofer Method and apparatus for 3-dimensional measurement of the surface of an object
CN102148965A (zh) * 2011-05-09 2011-08-10 上海芯启电子科技有限公司 多目标跟踪特写拍摄视频监控系统
CN105463514A (zh) * 2015-06-12 2016-04-06 贵阳铝镁设计研究院有限公司 一种铝电解槽槽况自动巡检方法及其装置
CN107729808A (zh) * 2017-09-08 2018-02-23 国网山东省电力公司电力科学研究院 一种用于输电线路无人机巡检的图像智能采集系统及方法
CN109743547A (zh) * 2018-12-27 2019-05-10 裴广华 一种人工智能安全监控管理系统
CN109948433A (zh) * 2019-01-31 2019-06-28 浙江师范大学 一种嵌入式人脸跟踪方法及装置
CN110445978A (zh) * 2019-06-24 2019-11-12 华为技术有限公司 一种拍摄方法及设备
CN111479065A (zh) * 2020-04-16 2020-07-31 北京迈格威科技有限公司 相机视场角同步方法及装置、图像拍摄方法及装置
CN211876785U (zh) * 2019-12-24 2020-11-06 中国铝业股份有限公司 一种铝电解槽漏炉智能巡检装置
CN113111715A (zh) * 2021-03-13 2021-07-13 浙江御穹电子科技有限公司 一种无人机目标跟踪与信息采集系统及方法
CN114513607A (zh) * 2022-01-27 2022-05-17 中南大学 一种高温工业内窥镜视场范围自调整方法、装置及系统
CN114508948A (zh) * 2022-01-11 2022-05-17 中南大学 一种外窥式工业火眼视频采集装置

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070058175A1 (en) * 2004-09-24 2007-03-15 Konrad Maierhofer Method and apparatus for 3-dimensional measurement of the surface of an object
CN102148965A (zh) * 2011-05-09 2011-08-10 上海芯启电子科技有限公司 多目标跟踪特写拍摄视频监控系统
CN105463514A (zh) * 2015-06-12 2016-04-06 贵阳铝镁设计研究院有限公司 一种铝电解槽槽况自动巡检方法及其装置
CN107729808A (zh) * 2017-09-08 2018-02-23 国网山东省电力公司电力科学研究院 一种用于输电线路无人机巡检的图像智能采集系统及方法
CN109743547A (zh) * 2018-12-27 2019-05-10 裴广华 一种人工智能安全监控管理系统
CN109948433A (zh) * 2019-01-31 2019-06-28 浙江师范大学 一种嵌入式人脸跟踪方法及装置
CN110445978A (zh) * 2019-06-24 2019-11-12 华为技术有限公司 一种拍摄方法及设备
CN211876785U (zh) * 2019-12-24 2020-11-06 中国铝业股份有限公司 一种铝电解槽漏炉智能巡检装置
CN111479065A (zh) * 2020-04-16 2020-07-31 北京迈格威科技有限公司 相机视场角同步方法及装置、图像拍摄方法及装置
CN113111715A (zh) * 2021-03-13 2021-07-13 浙江御穹电子科技有限公司 一种无人机目标跟踪与信息采集系统及方法
CN114508948A (zh) * 2022-01-11 2022-05-17 中南大学 一种外窥式工业火眼视频采集装置
CN114513607A (zh) * 2022-01-27 2022-05-17 中南大学 一种高温工业内窥镜视场范围自调整方法、装置及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王硕: "无人机高压线路自主巡检与故障识别算法研究", 《中国优秀硕士论文全文数据库信息科技辑》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116543141A (zh) * 2022-12-16 2023-08-04 无锡恺韵来机器人有限公司 一种基于声信号与图像融合的无人机识别与定位方法

Also Published As

Publication number Publication date
CN115314609B (zh) 2023-11-28

Similar Documents

Publication Publication Date Title
CN110297498B (zh) 一种基于无线充电无人机的轨道巡检方法及系统
CN110614638B (zh) 一种变电站巡检机器人自主采集方法及系统
CN110488841B (zh) 基于智能机器人的变电设备联合巡检系统及其应用方法
CN110417120A (zh) 一种变电站实景三维智能巡检系统及方法
CN107765145B (zh) 一种局部放电自动检测装置、系统及方法
CN110400387A (zh) 一种基于变电站的联合巡检方法、系统和存储介质
CN104242459B (zh) 变电站实时监测分析系统及其方法
CN202649815U (zh) 一种基于机器人技术的变电站全景自动巡检系统
CN108527399A (zh) 一种基于互联网的变电站智能巡检机器人监测系统
CN110888457A (zh) 利用无人机和机器人对变电设备开展立体巡视系统及方法
CN107042511A (zh) 基于视觉反馈的巡视机器人云台调整方法
CN110290350A (zh) 一种巡检机器人的实时状态监控方法、系统和存储介质
CN105407278A (zh) 一种全景视频交通态势监控系统及方法
CN209767682U (zh) 一种基于5g网络及vr直播的智能巡检小车
CN203397213U (zh) 一种发电厂巡检装置及系统
CN112162565B (zh) 一种基于多机协同作业的不间断自主杆塔巡检方法
CN111952883B (zh) 一种基于三维激光雷达的输电线路故障识别系统及方法
CN115314609B (zh) 一种铝电解槽火眼视频的自动化采集方法和装置
CN207268846U (zh) 电力巡检机器人
CN114453709A (zh) 一种基于边缘计算的机器人焊接现场智能监控系统
CN113177918B (zh) 一种无人机对电力杆塔的智能精准巡检方法及系统
CN114179056A (zh) 一种gis室内多自由度挂轨式巡检机器人及其应用方法
CN110996054A (zh) 智能输电线路巡线机器人巡检系统及巡检方法
CN203373016U (zh) 一种起重机的吊钩监测跟踪系统
CN115272888A (zh) 一种基于数字孪生的5g+无人机输电线路巡检方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant