CN117428290B - 一种具有安全监测功能的焊机以及焊机的监测方法 - Google Patents

一种具有安全监测功能的焊机以及焊机的监测方法 Download PDF

Info

Publication number
CN117428290B
CN117428290B CN202311731421.7A CN202311731421A CN117428290B CN 117428290 B CN117428290 B CN 117428290B CN 202311731421 A CN202311731421 A CN 202311731421A CN 117428290 B CN117428290 B CN 117428290B
Authority
CN
China
Prior art keywords
welding machine
image
monitoring
environment
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202311731421.7A
Other languages
English (en)
Other versions
CN117428290A (zh
Inventor
江波
陈浙泊
楼子昂
廖志明
潘凌锋
王炜
郑赛
于晓鹏
余建安
陈龙威
陈一信
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangshi Sanxin Taizhou Information Technology Co ltd
Hangzhou Fengjing Technology Co ltd
Wuyi County Quancheng Data Resource Development Co ltd
Hangzhou Sanxin Network Technology Co ltd
Research Institute of Zhejiang University Taizhou
Original Assignee
Guangshi Sanxin Taizhou Information Technology Co ltd
Hangzhou Fengjing Technology Co ltd
Wuyi County Quancheng Data Resource Development Co ltd
Hangzhou Sanxin Network Technology Co ltd
Research Institute of Zhejiang University Taizhou
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangshi Sanxin Taizhou Information Technology Co ltd, Hangzhou Fengjing Technology Co ltd, Wuyi County Quancheng Data Resource Development Co ltd, Hangzhou Sanxin Network Technology Co ltd, Research Institute of Zhejiang University Taizhou filed Critical Guangshi Sanxin Taizhou Information Technology Co ltd
Priority to CN202311731421.7A priority Critical patent/CN117428290B/zh
Publication of CN117428290A publication Critical patent/CN117428290A/zh
Application granted granted Critical
Publication of CN117428290B publication Critical patent/CN117428290B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K9/00Arc welding or cutting
    • B23K9/095Monitoring or automatic control of welding parameters
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B23MACHINE TOOLS; METAL-WORKING NOT OTHERWISE PROVIDED FOR
    • B23KSOLDERING OR UNSOLDERING; WELDING; CLADDING OR PLATING BY SOLDERING OR WELDING; CUTTING BY APPLYING HEAT LOCALLY, e.g. FLAME CUTTING; WORKING BY LASER BEAM
    • B23K9/00Arc welding or cutting
    • B23K9/32Accessories
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Plasma & Fusion (AREA)
  • Mechanical Engineering (AREA)
  • Alarm Systems (AREA)

Abstract

本发明公开了一种具有安全监测功能的焊机以及焊机的监测方法,包括焊机管理监测控制器(MCU)以及与焊机管理监测控制器(MCU)连接的焊机本体、人脸识别模块、RFID识别模块、监测摄像模块、语音广播模块和人机交互界面,焊机管理监测控制器为焊机的核心模块,本发明结合焊机管理监测控制器(MCU)、人脸识别模块、RFID识别模块、监测摄像模块、语音广播模块和人机交互界面,将焊机本体的开机工作前、开机、运行、关机进行全过程监测,实现人、机、芯的全过程绑定和安全监测,从而保证焊机本体焊接过程的人、机、芯绑定,对焊机本体周边环境进行有效安全监测和智能广播,保证焊接环境和焊接人员的安全。

Description

一种具有安全监测功能的焊机以及焊机的监测方法
技术领域
本发明属于工业自动化技术领域,涉及一种具有安全监测功能的焊机以及焊机的监测方法。
背景技术
目前,大部分制造业厂家对焊机本体的作业过程以及作业环境缺乏有效的安全监测手段,一般依靠人员自觉性以及管理人员人工监测,监测范围窄、效率较低,且对因焊接不良导致的产品质量问题缺乏有效的追踪手段。
传统的焊机本体监测系统大多为使用数据采集箱对焊机本体、焊接过程进行监测,使用现场总线或者工业以太网将数据传输到上位机,管理人员不能做到随时随地监测。且监测信息单一,缺乏对焊机本体故障、焊接参数的预警,用户与系统的交互较少,停留在数据预览阶段。
发明内容
本发明为了克服现有技术的不足,提供一种具有安全监测功能的焊机以及焊机的监测方法。
为了实现上述目的,本发明采用以下技术方案:一种具有安全监测功能的焊机,包括焊机管理监测控制器以及与焊机管理监测控制器连接的焊机本体、人脸识别模块、RFID识别模块、监测摄像模块、语音广播模块和人机交互界面,
焊机管理监测控制器为焊机的核心模块,控制各个模块之间的连接和交互,执行系统全流程的运行和调度,并通过焊机管理监测控制器对焊机本体进行控制;
人脸识别模块用于采集以及识别人脸图像;
RFID识别模块用于识别焊机本体、灭火器、监测摄像模块上的RFID标签;
监测摄像模块依据焊机管理监测控制器的指令执行设定的监测任务,用于在焊机本体运行过程中进行操作人员监测和操作环境监测以及在焊机本体开机操作和待机时进行环境安全监测;
语音广播模块依据焊机管理监测控制器的指令对工作状态和异常情况进行播报。
进一步的,所述焊机管理监测控制器与人脸识别模块连接,触发人脸识别模块采集以及识别图像,人脸识别模块连接接收焊机管理监测控制器的采集图像命令,完成图像采集并进行人脸身份识别后,将识别结果发送回焊机管理监测控制器,焊机管理监测控制器实时接收人脸识别模块的识别结果,并根据识别结果进行对应的处理。
进一步的,还包括若干场景摄像模块,若干所述场景摄像模块采集非焊机工位的车间图像,场景摄像模块和监测摄像模块均包括用于实时采集图像的摄像头以及用于实时处理图像的图像处理模块,场景摄像模块进行非焊机工位的环境监测,监测摄像模块进行焊机工位的环境监测。
进一步的,还包括服务器,所述服务器与若干焊机工位的焊机管理监测控制器的通过WIFI/4G进行联网,服务器通过远程控制焊机管理监测控制器来控制焊机本体开关机,服务器用于将焊接任务的下发至相应的焊机管理监测控制器,焊机管理监测控制器将焊接信息上传至服务器,服务器根据焊接信息进行大数据分析并将分析结果通过焊机管理监测控制器显示在人机交互界面。
一种焊机的监测方法,基于所述的具有安全监测功能的焊机,包括以下步骤:
步骤1:焊机本体上电开机,判断焊机本体为单机模式或者联网模式,若为单机模式,单机开机运行模块执行联网开机信息读取流程;若联网模式,联网开机运行模块执行联网开机信息读取流程;
步骤2:操作人员选择操作模式,操作模式包括信息录入模式、运行模式和关机/待机模式,若选择信息录入模式,执行信息录入流程,若选择运行模式,执行步骤3,若选择关机/待机模式,执行步骤9;
步骤3:身份识别模块执行身份识别流程,判断操作人员身份是否异常,若是,语音广播模块报警,提示操作人员身份异常,进入待机模式,若否,执行步骤4;
步骤4:环境监测模块执行环境监测流程,判断焊机工位环境以及车间环境是否异常,若是,语音广播模块报警,提示环境异常,进入待机模式,若否,执行步骤5;
步骤5:焊接操作识别模块判断操作人员是否进行焊接操作,若是,执行步骤7,若否,判定焊机本体处于待机状态,执行步骤6;
步骤6;待机判断模块判断焊机本体待机是否超时,若超时,语音广播模块报警,提示待机超时,进入待机模式,若否,执行步骤7;
步骤7:运行监测模块执行操作人员监测流程和操作环境监测流程;
步骤8:焊接操作识别模块判断焊机本体操作是否继续,若是,操作人员继续执行操作,执行步骤7,若否,执行步骤9;
步骤9:操作人员选择进入关机模式或者待机模式,若是关机模式,执行关机流程,若是待机模式,执行待机流程;
步骤10:结束。
进一步的,所述骤1中单机开机信息读取流程包括以下步骤:
步骤1.1:焊机管理监测控制器读取存储模块中录入的操作人员人脸图像、身份证信息和RFID标签信息,身份证信息包括身份证人脸图像和身份证号字符串;
步骤1.2:焊机管理监测控制器将操作人员人脸图像与身份证人脸图像进行图像比对,判断比对是否一致,若是,判定无异常,若否,语音广播模块语音报警,提示信息异常,进入待机模式。
进一步的,所述步骤3中身份识别流程包括以下步骤:
步骤3.1:语音广播模块提示用户将身份证放入识别区并正对人脸识别模块,人脸识别模块依次采集和识别待操作人员的当前身份证信息和当前人脸图像;
步骤3.2:焊机管理监测控制器将当前身份证人脸图像和当前人脸图像进行比对,若比对一致,执行步骤3.3;若比对异常,语音广播模块报警,提示身份识别失败,进入待机模式;
步骤3.3:焊机管理监测控制器将当前身份证号字符串与信息录入的身份证号字符串进行比对,若比对一致,执行步骤3.4,若比对异常,语音广播模块提示身份识别失败,进入待机模式;
步骤3.4:焊机管理监测控制器将当前人脸图像与信息录入的人脸图像进行比对,若比对一致,标记当前人脸图像,标记为标准人脸图像,执行步骤3.5;若否,语音广播模块提示身份识别失败,进入待机模式;
步骤3.5:监测摄像模块采集当前操作人员的图像,记为图像A,建立LAB颜色空间,获取操作人员服装的颜色特征值,将该颜色特征值记为标准颜色特征值;
步骤3.5.1:建立LAB颜色空间;
步骤3.5.2:采用Ace2p模型对图像A进行人体解析并分割,获取上半身与下半身区域;
步骤3.5.3:根据LAB颜色空间,获取上半身与下半身区域的颜色特征值。
进一步的,所述步骤4中环境监测流程对焊机工位环境以及车间环境进行监测,车间环境为非焊机工位的环境;焊机工位环境为焊机本体运行前的环境监测,包括焊机工位内配备的设备进行监测以及对焊机工位的环境进行监测,具体包括以下步骤:
步骤4.1:监测摄像模块动态采集焊机工位的环境图像,场景摄像模块动态采集车间环境的环境图像,基于环境图像执行环境安全监测流程,若环境正常,执行步骤4.2,若环境异常,语音广播模块报警,提示用户异常,进入待机模式;
步骤4.2:RFID识别模块识别焊机本体、灭火器和监测摄像模块的RFID标签获取信息,与信息录入的RFID标签信息进行比对,若比对一致,表示目前本工位的焊机本体、灭火器、监测摄像模块一一对应且未更换,执行步骤5,若比对不一致,语音广播模块报警,提示用户异常,进入待机模式。
进一步的,所述环境安全监测流程的具体步骤为:
步骤A1:监测摄像模块采集焊机工位的图像,根据焊机工位背景环境模型判断当前焊机工位的图像的背景是否发生突变,若是,执行步骤A3,若否,认为焊机工位环境不变,焊机工位环境正常,执行步骤A2;
步骤A2:场景摄像模块采集车间的图像,根据车间背景环境模型判断当前车间图像的背景是否发生突变,若是,执行步骤A3,若否,认为车间环境正常,执行步骤4.2;
步骤A3:将步骤A1中监测摄像模块采集的焊机工位的图像或/和步骤A2中场景摄像模块采集的车间图像突变区域进行RGB转换成LAB模型,分别生成L、A、B三张分量图像;
基于L、A、B三张分量图像判断焊机工位以及车间是否发生火灾步骤A4:设定低灰度阈值范围,基于低灰度阈值范围将L分量图像进行二值化提取,获取烟雾区域图像;
步骤A5:根据烟雾区域图像,计算,判断,且,若是, 认为烟雾区域图像中含有低亮度区域,标记黑色浓厚区域S1以及黑色浓厚区域的位置p1, 执行步骤A6;若否,认为烟雾区域图像不含有低亮度区域,当前焊机工位的环境正常;
为烟雾判断的亮度阈值,为烟雾判断的两个颜色通道阈值;
步骤A6:设定高灰度阈值范围,基于高灰度阈值范围将L分量图像进行二值化提取,获取亮度区域图像;
步骤A7:根据亮度区域图像,计算,判断,且,若是,认为亮度区域图像中含有高亮区域,将高亮生成火焰区域,标记火焰区域 S2,计算火焰区域S2的最小外接位置p2,执行步骤A8;若否,认为高亮度区域不含有含有高 亮、红黄区域,当前焊机工位的环境具有浓烟,但无火焰;
为火焰判断的亮度阈值,为火焰判断的两个颜色通道阈值;
步骤A8:判断区域位置p1是否高于区域位置p2,若是,认为符合烟雾和火焰的分布,执行步骤A9,若否,认为不符合烟雾和火焰的分布,需重新检测区域位置p1和区域位置p2,执行步骤A5;
步骤A9:计算火焰面积变化率,判断是否大于,若是,认为火焰为火灾火 焰,执行步骤A10;若否,认为火焰为稳定光源的火焰;
为第火焰区域面积;为采集的第张目标区域图像, 采集的第张目标区域图像,为火灾面积变化率阈值;
步骤A10:计算监测摄像模块连续采集的第张目标区域图像中的S1、S2和 ,判断S2、以及S2/S1是否逐渐变大,若是,认为火灾的火焰变大,执行步骤A11,若否,认 为火灾火焰得到处理;
步骤A11:提取图像中R(x,y)>G(x,y)> B(x,y)、R(x,y)>190的区域,标记为火焰区域S3,取火焰区域S2和火焰区域S3的并集S4,判断S4是否大于火焰区域阈值ST,若是,认为火灾面积超出阈值,人机交互界面显示焊机工作区域的灭火器位置,语音广播模块报警且启动应急广播,进入待机模式;若否,语音广播模块报警,进入待机模式;R(x,y)、G(x,y)、B(x,y)为图像红、绿、蓝三个通道的颜色值。
进一步的,所述人脸图像特征比对具体步骤为:
步骤S1:将待比对人脸图像分别设定为图像B和图像C;
步骤S2:识别图像B和图像C,判断图像B或/和图像C人脸是否有眼镜,若有,执行步骤S3,若否,执行步骤S4;
步骤S3:提取图像B或/和图像C中人脸的眼部矩形区域,并对其进行二值化处理,提取“倒立8”轮廓,填充轮廓环形区域,去掉眼镜,根据眼部周围区域肤色填充,更新图像B或/和图像C;
步骤S4:采用轻量级HRnet人脸识别模型识别图像B得到68个人脸关键数据点位置和坐标,采用两个级联的CNN对人脸关键数据点进行监测,获得左眼、右眼、鼻尖、左嘴角、右嘴角坐标;
设定左眼坐标(x1,y1),右眼坐标(x2,y2),鼻尖坐标(x3,y3),左嘴角坐标(x4,y4),右嘴角坐标(x5,y5);
步骤S5:计算图像B中人脸的五官比值;
K1=L1/L2=((x1+x4)/2-x3)/((x2+x5)/2-x3);
K2=H1/H2=((y1+y2)/2-y3)/((y4+y5)/2-y3);
K3=X/Y=(x1-x2)/(y1-y2);
K1、K2、K3为图像B的五官比值,以鼻尖为中心,K1为左眼和左嘴角的X方向均值点P1到鼻尖的距离L1和右眼和右嘴角的X方向均值点P2到鼻尖的距离L2的比值;K2为左眼和右眼的Y方向均值点P3到鼻尖的距离H1和左嘴角和右嘴角的Y方向均值点P4到鼻尖的距离H2的比值;K3为左眼和右眼X方向和Y方向的距离比值;
步骤S6:计算图像C中人脸的五官比值;
同理依据步骤S4和步骤S5,获得图像C中人脸的五官比值,K11、K21、K31,K11和K1对应,K11为左眼和左嘴角的X方向均值点到鼻尖的距离和右眼和右嘴角的X方向均值点到鼻尖的距离的比值;K21和K2对应,K21为左眼和右眼的Y方向均值点到鼻尖的距离和左嘴角和右嘴角的Y方向均值点到鼻尖的距离的比值;K31和K3对应,K31为左眼和右眼X方向和Y方向的距离比值;
步骤S7:计算图像B中人脸五官比值和图像C中人脸五官比值的差值,将差值与阈值对比,若差值小于阈值,判定图像B和图像C中的人脸为同一人,若差值不小于阈值,判定图像B和图像C中的人脸不是同一人;
其中,为五官比值的差值,阈值为为0.01,分别 与对比,若均小于,判定图像B和图像C中的人脸为同一人,若不小于,判定图像B和图像C中的人脸不是同一人。
综上所述,本发明的有益之处在于:
本发明结合焊机管理监测控制器(MCU)、人脸识别模块、RFID识别模块、监测摄像模块、语音广播模块和人机交互界面,将焊机本体的开机工作前、开机、运行、关机进行全过程监测,实现人、机、芯的全过程绑定和安全监测,从而保证焊机本体焊接过程的人、机、芯绑定,对焊机本体周边环境进行有效安全监测和智能广播,保证焊接环境和焊接人员的安全。
附图说明
图1为本发明的单机焊机模块连接示意图。
图2为本发明的联网焊机模块连接示意图。
图3为本发明的焊机监测方法的总流程。
图4为本发明的焊机监测方法的开机运行流程。
图5为本发明的操作人员监测流程。
图6为本发明的环境安全监测流程。
图7为本发明的焊机工位环境监控流程。
图8为本发明的焊机火灾蔓延全过程流程。
图9为本发明的32个滤波器示意图。
图10为本发明的人脸关键数据点示意图。
图11的a为本发明的人脸的五官比值K1示意图。
图11的b为本发明的人脸的五官比值K2示意图。
图11的c为本发明的人脸的五官比值K3示意图。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,遂图式中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
本发明实施例中所有方向性指示(诸如上、下、左、右、前、后、横向、纵向……)仅用于解释在某一特定姿态下各部件之间的相对位置关系、运动情况等,如果该特定姿态发生改变时,则该方向性指示也相应地随之改变。
因安装误差等原因,本发明实施例中所指的平行关系可能实际为近似平行关系,垂直关系可能实际为近似垂直关系。
实施例一:
如图1-2所示,一种具有安全监测功能的焊机,包括焊机本体、焊机管理监测控制器(MCU)、人脸识别模块、RFID识别模块、监测摄像模块、语音广播模块和人机交互界面,操作人员操作焊机本体执行焊接任务;焊机管理监测控制器控制各个模块之间的连接和交互,执行系统运行和调度,焊机管理监测控制器用于焊机的控制;人脸识别模块用于采集以及识别人脸图像;RFID识别模块用于识别焊机本体、灭火器、监测摄像模块上的RFID标签;监测摄像模块依据焊机管理监测控制器的指令执行设定的监测任务,用于在焊机本体运行过程中进行操作人员监测和操作环境监测以及在焊机本体开机操作和待机时只进行环境安全监测;语音广播模块依据焊机管理监测控制器的指令对工作状态和异常情况进行播报。
焊机本体配置在工作台,单台焊机本体配备焊机管理监测控制器、监测摄像模块以及灭火器形成单机焊机本体系统,单机焊机本体系统所在位置为焊机工位。
焊机管理监测控制器为焊机的核心模块,控制各个模块之间的连接和交互,执行系统全流程功能的运行和调度,并通过焊机管理监测控制器实现焊机本体的控制功能;
焊机管理监测控制器与人脸识别模块连接,触发人脸识别模块采集以及识别图像,人脸识别模块连接接收焊机管理监测控制器的采集图像命令,完成图像采集并进行人脸身份识别后,将识别结果发送回焊机管理监测控制器,焊机管理监测控制器实时接收人脸识别模块的识别结果,并根据识别结果进行对应的处理;
在焊机本体信息录入过程中,人脸识别模块采集的操作人员人脸图像与身份证信息中的身份证人脸图像比对,从而将操作人员与焊机管理监测控制器进行绑定,在焊机本体运行前的身份识别流程中人脸识别模块采集的操作人员人脸图像与信息录入的人脸进行比对,从而确保操作人员与信息录入时保持一致。通过人脸识别模块的功能,可实现专机专用,使操作人员和焊机本体进行有效绑定。
焊机管理监测控制器包括存储模块,信息录入的人脸图像与身份证信息存储至存储模块。
焊机管理监测控制器与RFID识别模块连接,控制RFID射频信号发射,读取各RFID标签数据,焊机本体、监测摄像模块、灭火器贴有唯一标识号的RFID标签,实现焊机本体各个设备的绑定;
RFID识别模块包括RFID读写器和RFID标签,焊机管理监测控制器通过通讯接口与RFID读写器连接进行数据交互,数据交互包括控制命令下发和读写数据上传,可通过USB、串口或者以太网进行数据通讯;本系统中,RFID识别模块中的RFID读写器与焊机管理监测控制器连接,通过在焊机本体、灭火器、监测摄像模块处分别贴上唯一的RFID标签,从而实现系统工作过程中的机芯绑定,将焊机本体、灭火器、监测摄像模块与焊机管理监测控制器进行绑定,使用中必须识别到所有正确的RFID标签,焊机本体才能开启使用,以保证安全性。
焊机管理监测控制器与监测摄像模块连接,实现与监测摄像模块的交互,监测摄像模块在不同的系统阶段设定不同的监测要求,焊机管理监测控制器根据运行状态向监测摄像模块发送相应的监测指令,在焊机本体运行过程中进行人员监测和操作环境监测,在焊机本体开机操作和待机时只进行环境安全监测,监测摄像模块接收焊机管理监测控制器的命令,根据不同的命令执行不同的监测任务,焊机管理监测控制器实时接收监测摄像模块的监测识别结果;
监测摄像模块除了包含图像实时采集的摄像头外,还包含进行图像实时处理的图像处理模块,监测摄像模块只进行本焊机工位的监测。
还包括若干场景摄像模块,若干场景摄像模块采集非焊机工位的车间内的图像,场景摄像模块除了包含图像实时采集的摄像头外,还包含进行图像实时处理的图像处理模块,场景摄像模块进行非焊机工位的环境监测。
场景摄像模块与焊机管理监测控制器连接,实现与场景摄像模块的交互,焊机管理监测控制器根据运行状态向场景摄像模块发送相应的监测指令,在焊机本体运行过程中、在焊机本体开机操作和待机时进行车间环境监测,场景摄像模块接收焊机管理监测控制器的命令,执行监测任务,焊机管理监测控制器实时接收场景摄像模块的监测识别结果。
本申请通过监测摄像模块和场景摄像模块的监测实现了对全车间环境的安全监测。
焊机管理监测控制器与语音广播模块连接,语音广播模块基于WIFI进行数据交互,通过WIFI与焊机管理监测控制器进行数据交互,焊机管理监测控制器根据当前焊机工作状态和异常情况,向语音广播模块发送指令,控制语音广播模块进行播报。
焊机管理监测控制器与人机交互界面连接,人机交互界面具备不同操作按键,实现系统开机、信息录入、运行、待机、关机等,人机交互界面可支持查询历史数据,包括焊机本体运行时间、运行异常记录等,可在系统出现异常情况时及时向用户提供提示,通知异常情况;可向用户提供操作步骤或解决潜在异常的方法和步骤,提供尽可能的文字、图片和视频等多媒体支持,帮助用户正常操作以及解决故障,比如信息录入时,语音广播模块语音播报的同时,人机交互界面显示信息录入操作的步骤,方便用户操作。
实施过程中,操作人员启动焊机本体,操作人员在人机交互界面选择操作模式,操作模式包括信息录入模式、运行模式和关机/待机模式,若是信息录入模式,依据提示将人脸图像和身份证信息录入,若选择运行模式,焊机管理监测控制器比对当前操作人员的身份与录入信息,RFID识别模块识别焊机本体、灭火器、监测摄像模块的RFID标签与录入信息;同时焊机管理监测控制器向监测摄像模块发送监测指令,监测摄像模块进行环境安全监测;焊机管理监测控制器接收监测摄像模块监测识别的安全结果,在无异常情况下,焊机本体开机,操作人员正常操作,此时焊机管理监测控制器向监测摄像模块发送监测指令,监测摄像模块进行人员监测和操作环境监测,在此过程若出现异常,监测摄像模块将识别的异常结果发送至焊机管理监测控制器,焊机管理监测控制器向语音广播模块发送指令,控制语音广播模块进行播报报警,直至焊机本体操作完成,操作人员操作焊机本体关机或待机,之后焊机管理监测控制器向监测摄像模块发送监测指令,监测摄像模块进行环境安全监测,直至焊机本体再次运行。
本申请的焊机对焊机工位的焊机本体、焊机本体操作人员、焊机本体运行的全过程进行监测和管理,并对焊机工位的焊接环境进行实时安全监测,使焊机具备实时安全监测功能,实现对焊机本体的智能管理。
焊机还可以联网运行,具体来说,焊机还包括服务器,服务器与若干焊机工位的焊机管理监测控制器的通过WIFI/4G进行联网,服务器可通过远程控制焊机管理监测控制器来控制焊机本体开关机,服务器用于将焊接任务的下发至相应的焊机管理监测控制器,焊机管理监测控制器将焊接信息上传至服务器,焊接信息包括操作人员的工作状态以及异常情况等,服务器可根据焊接信息进行大数据分析并将分析结果通过焊机管理监测控制器显示在人机交互界面。
本申请通过服务器实现随时随地了解生产状况,远程控制焊机本体的效果,同时可实现历史焊接信息追溯,为焊接质量的提高提供技术保障。
如图3-图11的a-c所示,本申请提供一种焊机的监测方法,包括以下步骤:
步骤1:焊机本体上电开机,判断焊机本体为单机模式或者联网模式,若为单机模式,单机开机运行模块执行联网开机信息读取流程;若联网模式,联网开机运行模块执行联网开机信息读取流程;
系统自动判断焊机本体为单机模式或者联网模式,或者可在初始时就设定系统为单机模式或者联网模式;
步骤2:操作人员选择操作模式,操作模式包括信息录入模式、运行模式和关机/待机模式,若选择信息录入模式,执行信息录入流程,若选择运行模式,执行步骤3,若选择关机/待机模式,执行步骤9;
关机/待机模式为关机模式以及待机模式,此处的关机模式是指人工将焊机本体关机,此处的待机模式是指人工将焊机本体待机;
步骤3:身份识别模块执行身份识别流程,判断操作人员身份是否异常,若是,语音广播模块报警,提示操作人员身份异常,进入待机模式,若否,执行步骤4;
步骤4:环境监测模块执行环境监测流程,判断焊机工位环境以及车间环境是否异常,若是,语音广播模块报警,提示环境异常,进入待机模式,若否,执行步骤5;
步骤5:焊接操作识别模块判断操作人员是否进行焊接操作,若是,执行步骤7,若否,判定焊机本体处于待机状态,执行步骤6;
步骤6;待机判断模块判断焊机本体待机是否超时,若超时,语音广播模块报警,提示待机超时,进入待机模式,若否,执行步骤7;
步骤7:运行监测模块执行操作人员监测流程和操作环境监测流程;
步骤8:焊接操作识别模块判断焊机本体操作是否继续,若是,操作人员继续执行操作,执行步骤7,若否,执行步骤9;
步骤9:操作人员选择进入关机模式或者待机模式,若是关机模式,执行关机流程,若是待机模式,执行待机流程。
步骤10:结束。
步骤1中单机开机信息读取流程包括以下步骤:
步骤1.1:焊机管理监测控制器读取存储模块中录入的操作人员人脸图像、身份证信息和RFID标签信息,身份证信息包括身份证人脸图像和身份证号字符串;
步骤1.2:焊机管理监测控制器将操作人员人脸图像与身份证人脸图像进行图像比对,判断比对是否一致,若是,判定无异常,若否,语音广播模块语音报警,提示信息异常,进入待机模式。
步骤1中联网开机信息读取流程包括以下步骤:
步骤1.3:焊机管理监测控制器向服务器发送开机数据获取命令;
步骤1.4:焊机管理监测控制器接收服务器下发的操作人员人脸图像、身份证信息和RFID标签信息;
步骤1.5:焊机管理监测控制器将操作人员人脸图像与身份证人脸图像进行图像比对,判断比对是否一致,若一致,判定无异常,若不一致,语音广播模块报警,提示信息异常,进入待机模式。
步骤1.6:焊机管理监测控制器将内存的操作人员人脸图像、身份证信息和RFID标签信息与服务器下发的操作人员人脸图像、身份证信息和RFID标签信息一一比对,判断全部比对是否一致,若一致,判定无异常,若不一致,语音广播模块报警,提示信息异常,进入待机模式。
本申请在焊机本体运行前对录入信息进行确认有效防止出现更换焊机管理监测控制器内存的预设的使用人员人脸图像或身份证信息的问题。
本申请通过步骤1.6可防止用户更换焊机管理监测控制器和相关模块位置。
步骤2中信息录入模式用于信息录入,以实现操作人员人脸信息、身份证信息和RFID标签信息录入,信息录入模式在设备初次使用或者操作人员更换时使用:
信息录入流程的步骤为:
步骤2.1:语音广播模块提示用户录入RFID标签信息,用户将身份证放入识别区并正对人脸识别模块,依次采集和识别操作人员身份证信息和人脸图像,实现身份证信息和人脸图像的录入;
步骤2.2:焊机管理监测控制器将身份证字符串和身份证人脸图像绑定;
步骤2.3:焊机管理监测控制器将身份证人脸图像和人脸图像进行特征比对,若比对一致,将身份证人脸图像与人脸图像绑定,使操作人员与身份证绑定;若比对异常,语音广播模块报警,提示用户重新录入,执行步骤2.1;
步骤2.4:焊机管理监测控制器将RFID标签信息与身份证字符串绑定,以达到人机绑定。
步骤2.5:结束。
步骤3中身份识别流程包括以下步骤:
步骤3.1:语音广播模块提示用户将身份证放入识别区并正对人脸识别模块,人脸识别模块依次采集和识别待操作人员的当前身份证信息和当前人脸图像;
步骤3.2:焊机管理监测控制器将当前身份证人脸图像和当前人脸图像进行比对,若比对一致,执行步骤3.3;若比对异常,语音广播模块报警,提示身份识别失败,进入待机模式;
步骤3.3:焊机管理监测控制器将当前身份证号字符串与信息录入的身份证号字符串进行比对,若比对一致,执行步骤3.4,若比对异常,语音广播模块提示身份识别失败,进入待机模式;
步骤3.4:焊机管理监测控制器将当前人脸图像与信息录入的人脸图像进行比对,若比对一致,标记当前人脸图像,标记为标准人脸图像,执行步骤3.5;若否,语音广播模块提示身份识别失败,进入待机模式。
步骤3.5:监测摄像模块采集当前操作人员的图像,记为图像A,建立LAB颜色空间,获取操作人员服装的颜色特征值,将该颜色特征值记为标准颜色特征值;
步骤3.5.1:建立LAB颜色空间;
步骤3.5.2:采用Ace2p模型对图像A进行人体解析并分割,获取上半身与下半身区域;
步骤3.5.3:根据LAB颜色空间,获取上半身与下半身区域的颜色特征值。
步骤4中环境监测流程实现对焊机工位环境以及车间环境进行监测,车间环境是指非焊机工位的环境;焊机工位环境为焊机本体运行前的环境监测,包括焊机工位内配备的设备进行监测以及对焊机工位的环境进行监测,具体包括以下步骤;
步骤4.1:监测摄像模块动态采集焊机工位的环境图像,场景摄像模块动态采集车间环境的环境图像,基于环境图像执行环境安全监测流程,若环境正常,执行步骤4.2,若环境异常,语音广播模块报警,提示用户异常,进入待机模式;
步骤4.2:RFID识别模块识别焊机本体、灭火器和监测摄像模块的RFID标签获取信息,与信息录入的RFID标签信息进行比对,若比对一致,表示目前本工位的焊机本体、灭火器、监测摄像模块一一对应且未更换,执行步骤5,若比对不一致,语音广播模块报警,提示用户异常,进入待机模式;
环境安全监测流程用于焊机本体运行前焊机工位环境以及车间环境中的火灾监测和烟雾监测,以保证环境安全;
环境安全监测流程的具体步骤为:
步骤A1:监测摄像模块采集焊机工位的图像,根据焊机工位背景环境模型判断当前焊机工位的图像的背景是否发生突变,若是,执行步骤A3,若否,认为焊机工位环境不变,焊机工位环境正常,执行步骤A2;
步骤A2:场景摄像模块采集车间的图像,根据车间背景环境模型判断当前车间图像的背景是否发生突变,若是,执行步骤A3,若否,认为车间环境正常,执行步骤4.2;
步骤A3:将步骤A1中监测摄像模块采集的焊机工位的图像或/和步骤A2中场景摄像模块采集的车间图像突变区域进行RGB转换成LAB模型,分别生成L、A、B三张分量图像;
基于L、A、B三张分量图像判断焊机工位以及车间是否发生火灾,具体步骤如下:
步骤A4:设定低灰度阈值范围,基于低灰度阈值范围将L分量图像进行二值化提取,获取烟雾区域图像;
步骤A5:根据烟雾区域图像,计算,判断,且,若是, 认为烟雾区域图像中含有低亮度区域,标记黑色浓厚区域S1以及黑色浓厚区域的位置p1, 执行步骤A6;若否,认为烟雾区域图像不含有低亮度区域,当前焊机工位的环境正常;
为烟雾判断的亮度阈值,为烟雾判断的两个颜色通道阈值;
为亮度,为两个颜色通道;
步骤A6:设定高灰度阈值范围,基于高灰度阈值范围将L分量图像进行二值化提取,获取亮度区域图像;
步骤A7:根据亮度区域图像,计算,判断,且,若是,认为亮度区域图像中含有高亮区域,将高亮生成火焰区域,标记火焰区域 S2,计算火焰区域S2的最小外接位置p2,执行步骤A8;若否,认为高亮度区域不含有含有高 亮、红黄区域,当前焊机工位的环境具有浓烟,但无火焰;
为火焰判断的亮度阈值,为火焰判断的两个颜色通道阈值;
步骤A8:判断区域位置p1是否高于区域位置p2,若是,认为符合烟雾和火焰的分布,执行步骤A9,若否,认为不符合烟雾和火焰的分布,需重新检测区域位置p1和区域位置p2,执行步骤A5;
步骤A9:计算火焰面积变化率,判断是否大于,若是,认为火焰为变化的 的火焰,执行步骤A10;若否,认为火焰为稳定光源的火焰;
为第火焰区域面积;为采集的第张目标区域图像, 采集的第张目标区域图像,为火灾面积变化率阈值;
当有火灾发生时,火灾的火焰面积会逐渐增大,而蜡烛、灯光等稳定光源的火焰面 积相对稳定,基本不会发生变化,因此可通过火焰面积变化率作为判别火灾的依据之 一;
步骤A10:计算工作摄像模块连续采集的第张目标区域图像中的S1、S2和 ,判断S2、以及S2/S1是否逐渐变大,若是,认为火灾的火焰变大,执行步骤A11,若否,认 为火灾火焰还未变化;
步骤A11:提取图像中R(x,y)>G(x,y)> B(x,y)、R(x,y)>190的区域,标记为火焰区域S3,取火焰区域S2和火焰区域S3的并集S4,判断S4是否大于火焰区域阈值ST,若是,认为火灾面积超出阈值,人机交互界面显示焊机工作区域的灭火器位置,语音广播模块报警且启动应急广播,进入待机模式;若否,语音广播模块报警,进入待机模式。
R(x,y)、G(x,y)、B(x,y)为图像红、绿、蓝三个通道的颜色值;
步骤5中焊机本体开机,操作人员是否进行焊接操作的判断为初步判断,当识别到操作人员佩戴头盔、面罩以及焊棒位于指定位置,且有电火花产生时,认为操作人员进行焊接操作,焊接操作的判断流程具体包括以下步骤:
步骤5.1:基于轻量级神经网络模型pp-pico-det,采集头盔、面罩、焊棒数据集对其进行训练以及优化识别,获得目标监测模型Det1;
步骤5.2:监测摄像模块采集并处理焊机本体开机焊机工位图像,获得判断图像,判断图像输入目标监测模型Det1;
步骤5.3:目标监测模型Det1分割判断图像获取并识别头部区域和手部区域;判断头部区域是否存在头盔以及面罩,手部区域是否存在焊棒,若头盔、面罩以及焊棒其中之一不存在,语音广播模块报警,提示操作人员头盔、面罩以及焊棒其中之一未配置,认为焊机本体处于待机状态,执行步骤6,若全部存在,执行步骤5.4;
步骤5.4:获取判断图像中焊棒的区域位置,提取焊棒尖端位置坐标;
焊棒的尖端位置为焊棒与待焊接部位的接触位置,因此该位置坐标为定值;
步骤5.5:提取焊机本体开机后设定时间t1内监测摄像模块采集的焊机工位图像,将焊机工位图像转换灰度图,通过高斯滤波进行平滑降噪、二值化处理获得焊机工位的二值化图像;
步骤5.6:以焊棒尖端位置坐标为中心,以设定长宽分割二值化图像,获得焊棒尖端图像;
步骤5.6:判断焊棒尖端图像中是否有亮度值大于230的区域,若是,认为有电火花,判定操作人员进行焊接操作,若否,认为没有电火花,判定操作人员未进行焊接操作。
步骤6中焊机本体待机是否超时通过焊接操作的判断流程进行判断,具体包括以下步骤:
步骤6.1:标记焊接操作的判断流程的判断结果,判断结果为1是指结果为操作人员进行焊接操作,判断结果为0是指结果为操作人员处于待机状态;
步骤6.2:执行焊接操作的判断流程,记录焊接操作的判断流程第一次判断结果为0的时间,标记为t2;
步骤6.3:设定待机时间阈值为T2;
步骤6.4:选取时间t2到t2+T2之间焊接操作的判断流程的判断结果,若判断结果是否均为0,若是,在时间T2内,认为焊机本体均处于待机状态,判定焊机本体待机超时,若否,在时间T2内,操作人员有进行焊接操作,判定焊机本体待机不超时。
步骤7的操作人员监测流程对操作人员进行实时监测,包括操作人员符合操作规范和离岗判断,具体包括步骤:
步骤B.0:监测摄像模块采集无操作人员的焊机工位图像,将其标记为初始图像;
步骤B.1:监测摄像模块采集当前焊机工位图像,将其记为第一图像,焊机管理监测控制器比对初始图像和第一图像,判断第一图像中是否有操作人员,若有,执行步骤B.2,若无,执行离岗判断流程;
步骤B.2:人脸识别模块识别第一图像,判断人脸识别模块是否在第一图像识别到第一人脸图像,若是,执行步骤B.3;若否,执行步骤B.4;
步骤B.3:焊机管理监测控制器将第一人脸图像与标准人脸图像进行比对,若比对一致,判定操作人员在岗,执行步骤B.1,若否,判定当前操作人员与绑定的操作人员不一致,语音广播模块报警,提示操作人员身份异常,进入待机模式;
步骤B.4:判断操作人员是否统一服装,若是,执行步骤B.5,若否,执行步骤B.6;
操作人员是否统一服装可在系统信息录入时进行设定,根据设定结果选择不同的操作步骤;
步骤B.5:焊机管理监测控制器触发人脸识别模块采集并识别当前操作人员的人脸图像,并与标准人脸图像进行比对,若比对一致,判定操作人员在岗,执行步骤B.1,若否,判定当前操作人员与绑定的操作人员不一致,语音广播模块报警,提示操作人员身份异常,进入待机模式;
步骤B.6:根据LAB颜色空间,获取第一图像中人体服装的颜色特征值,将该颜色特征值与标准颜色特征值比对,若比对一致,判定操作人员在岗,执行步骤B.1,若否,判定当前操作人员与绑定的操作人员不一致,语音广播模块报警,提示操作人员身份异常,进入待机模式;
步骤B.7:监测摄像模块采集的第一图像输入目标监测模型Det1;
步骤B.8:目标监测模型Det1分割第一图像获取头部区域,并对头部区域进行识别,判断是否存在头盔以及面罩,若其中之一或全部未佩戴,语音广播模块报警,提示操作人员重新佩戴,进入待机模式,若全部佩戴,判定操作人员符合操作规范;
步骤B.0中离岗判断流程根据离岗时间执行不同的操作,具体包括以下步骤:
步骤C1:标记第一图像的采集时间,并记为T1;
步骤C2:设定离岗时间阈值为t;
步骤C3:提取时间T1到T1+t之间监测摄像模块采集的焊机工位图像;
步骤C4:将焊机工位图像依次与初始图像比对,判断任一焊机工位图像中是否有操作人员,若有,判定操作人员离岗未超时,语音广播模块报警,可语音播报“XX工位人员已离岗”进行提示,进入待机模式,若无,判定操作人员离岗超时,语音广播模块报警,可语音播报“XX工位人员长时间离岗”进行提示,进入待机模式。
步骤7的操作环境监测流程包括对焊机本体操作过程中的焊机工位环境监测的焊机工位环境监测流程和对车间环境监测的环境安全监测流程;焊机工位环境监测流程对焊机工位的电火花、烟雾以及火焰进行监测,步骤7的焊机工位环境监测流程和环境安全监测流程不同,焊机工位环境监测流程运用在焊机本体操作过程中,焊机本体在正常运行过程中电火花、烟雾相伴发生,而环境安全监测流程运用在焊机本体运行前、焊机本体关机以及待机状态,对烟雾、火焰进行监测;具体包括以下步骤:
步骤7.1:执行环境安全监测流程,判断车间环境是否异常,若是,语音广播模块语音报警,提示车间环境异常,进入待机模式,若否,执行步骤7.2;
步骤7.1中的环境安全监测流程与步骤4.1中的环境安全监测流程步骤相同,在此不做赘述;
步骤7.2:执行焊机工位环境监测流程,判断焊机工位环境是否异常,若是,语音广播模块语音报警,提示焊机工位环境异常,进入待机模式,若否,执行步骤8;
焊机工位环境监测流程具体包括以下步骤:
步骤D.0:监测摄像模块采集焊机工位的图像,根据焊机工位背景环境模型判断当前焊机工位的图像的背景是否发生突变,若是,执行步骤D.1,若否,认为焊机工位环境不变,焊机工位环境正常,执行步骤8;
在操作人员操作焊机本体、焊机本体发生异常时,焊机工位环境的背景会突变;
步骤D.1:提取图像中背景发生突变的目标区域图像,将目标区域图像转换为灰度图,高斯滤波进行平滑降噪,获得滤波特征图;
步骤D2:基于轻量级神经网络模型pp-pico-det,采集人、电火花、烟雾、火焰数据集对其进行训练以及优化识别,获得目标监测模型Det2,将滤波特征图输入目标监测模型Det2,判断在滤波特征图是否获取人、电火花,若是,至少获得人、电火花在图像的区域位置,对其进行粗定位,若否,执行步骤D.0;
步骤D3:精定位电火花在图像的区域位置;
步骤D4:从目标区域图像中去除F2,生成图像F3;
步骤D5:根据图像F3,执行烟雾和火焰监测流程,判断焊机工位的环境是否异常,若是,进入待机模式,若否,执行步骤8;
步骤D3中精定位电火花在图像的区域位置的具体步骤为:
步骤D3.1:建立Gabor滤波器;
Gabor小波与人类视觉系统中简单细胞的视觉刺激响应非常相似。在提取目标的局部空间和频率域信息方面具有良好的特性。Gabor小波对于图像的边缘敏感,能够提供良好的方向选择和尺度选择特性,而且对于光照变化不敏感,能够提供对光照变化良好的适应性。
Gabor滤波器公式为:
其中为二维的Gabor滤波器,为调谐函数,为窗口函数,其中为直接影响涉波器的滤波尺度,为涨波器的方向,为 调谐数的相位偏移,的取值-180到180;高斯浅波器的方差;为纵横比,决定滤波器的 形状,取1时为圆形,通常取0.5,当小于1时,形状随着平行条纹方向而拉长;
步骤D3.2:Gabor滤波器以8个方向与4种尺寸进行计算获得32个滤波器;
4种尺寸设定从第1到第4行取3,6,9,12;8个方向为从第1到第8列取0、π/8、π/ 4、3π/8、π/2、5π/8、3π/4和π,ψ=0,σ=2π,γ=0.5;
步骤D3.3:将获得的32个滤波器与步骤D2获得的图像区域进行卷积计算,得到32张特征图;
步骤D3.4:32张特征图进行灰度计算,选取灰度大于230以上图像作为图像高亮区域,从高亮区域中筛选区域长宽比大于10:1的区域,该区域为电火花区域;
步骤D3.5:计算电火花区域轮廓点集(xi,yi),i=0,1,…,n,n为轮廓点总数,逐一提取32张特征图中电火花区域的轮廓数据,重叠的区域做并集,获得目标轮廓数据集;
步骤D3.6:将直角系坐标下的焊棒尖端位置(xh,yh)进行极坐标转换,得到极坐标公式:
目标轮廓数据集经过极坐标转换,获得线段在极坐标系中的分布以及极角,计 算线段与90度之间的偏差角度,设定偏差角度阈值为3度,判断 是否大于偏差角度阈值,若是,判定该线段不是电弧线,剔除该线段,若否,判定该线段 为电弧线,将该线段归纳至电弧线集;
步骤D3.7:将电弧线集内所有线段叠加生成极坐标图像F1,将F1极坐标逆转换为直角系坐标图像F2,坐标图像F2为精定位后电火花在图像的区域位置;
正常焊接工作情况下,会产生淡淡的烟雾;异常焊接情况下,烟雾浓度以及烟雾范围面积变大,烟雾浓度越高,烟雾颜色越黑,步骤D5中烟雾和火灾监测流程包括以下步骤:
步骤D5.1:将图像F3进行RGB转换成LAB模型,分别生成L、A、B三张分量图像;
LAB模型和步骤A4的LAB模型建立一致,具体为:
步骤D5.1中LAB模型建立的步骤为:
步骤D5.1.1:将RGB颜色模式下的颜色值归一化到[0,1]范围内;
步骤D5.1.2:将归一化的RGB值转换为XYZ颜色空间;
上式中R,G,B为像素三个通道,取值范围均为[0,255];X、Y、Z为图像中某像素点的三刺激值;
步骤D5.1.3:将XYZ颜色空间的值转换为LAB颜色空间;
上式中L为亮度,a和b是两个颜色通道,L表示颜色从深(黑)到浅(白),取值范围是 0到100;颜色通道a表示从绿色到红色的分量,取值范围是-128到127,当a值为正时,颜色偏 向红色,a值为负时,颜色偏向绿色;颜色通道b表示从蓝色到黄色的分量,取值范围是-128 到127,当b值为正时,颜色偏向黄色,当b值为负时,颜色偏向蓝色; 为参考值,用于标定亮度、颜色饱和度的基准;取值1,取值0.95047,取 值1.08883;
步骤D5.2:设定低灰度阈值范围,基于低灰度阈值范围将L分量图像进行二值化提取,获取烟雾区域图像;
步骤D5.3:根据烟雾区域图像,计算,判断,且,若 是,认为烟雾区域图像中含有黑色浓厚区域,标记黑色浓厚区域S1以及黑色浓厚区域的位 置p1,执行步骤D5.4;若否,认为烟雾区域图像不含有黑色浓厚区域,当前焊机工位的环境 正常;
为烟雾判断的亮度阈值,为烟雾判断的两个颜色通道阈值;
步骤D5.4:设定高灰度阈值范围,基于高灰度阈值范围将L分量图像进行二值化提取,获取高亮度区域图像;
步骤D5.5:根据高亮度区域图像,计算,判断,且,若是,认为高亮度区域图像中含有高亮、红黄区域,将高亮、红黄区域生成火焰区 域,标记火焰区域S2,计算火焰区域S2的最小外接位置p2,执行步骤D5.6;若否,认为高亮度 区域不含有含有高亮、红黄区域,当前焊机工位的环境具有浓烟,但无火焰;
为火焰判断的亮度阈值,为火焰判断的两个颜色通道阈值;
步骤D5.6:判断区域位置p1是否高于区域位置p2,若是,认为符合烟雾和火焰的分布,执行步骤D5.7,若否,认为不符合烟雾和火焰的分布,需重新检测区域位置p1和区域位置p2,执行步骤D5.3;
步骤D5.7:计算火焰面积变化率,判断是否大于,若是,认为火焰为火灾 火焰,执行步骤D5.8;若否,认为火焰为稳定光源的火焰;
为第火焰区域面积;为采集的第张目标区域图像, 采集的第张目标区域图像,为火灾面积变化率阈值;
当有火灾发生时,火灾的火焰面积会逐渐增大,而蜡烛、灯光等稳定光源的火焰面 积相对稳定,基本不会发生变化,因此可通过火焰面积变化率作为判别火灾的依据之 一;
步骤D5.8:计算监测摄像模块连续采集的第张目标区域图像中的S1、S2和,判断S2、以及S2/S1是否逐渐变大,若是,认为火灾的火焰变大,执行步骤D5.9,若 否,认为火灾火焰得到处理;
步骤D5.9:判断S2是否大于S0,若是,认为火灾面积超出阈值,人机交互界面显示焊机工位的灭火器位置,语音广播模块报警且启动应急广播,进入待机模式;若否,语音广播模块报警,进入待机模式。
焊机工位背景环境模型用于判断焊机工位的背景环境是否发生突变,具体包括以下步骤:
步骤D.0.1:监测摄像模块在一天中多个时刻采集无人焊机工位图像,获得N张样 本图像,设定为初始化背景图像灰度值,
为样本图像的总数量,为当前样本图像的序号,为当前序号为a的样 本图像灰度值;
步骤D.0.2:处理样本图像获得图像灰度直方图,计算t时刻的直方图分布
图像灰度直方图的像素值取值范围为[0,255],h(gk)=Lk,h(gk)为像素值gk的元素的个数,gk为第k个像素值,k=0,1...255;Lk为像素值gk的像素个数,L为像素总数:
对单张图像灰度直方图做归一化处理:
为像素值为gk在图像中出现的概率;即为单张图像的直方图;
计算t时刻的直方图分布;其中为在t时刻第 a张图像的权重,a=1,2...N,为已知参数,为在t时刻第a张图像的图像直方图,根据上述公式计算可得;
计算背景环境的直方图分布 是通过N张图像灰度直方图的加权平均计算得到背景直方分布图;为已知参数;
步骤D.0.3:样本图像根据傅立叶频率变换成频谱图;通过图像傅里叶变换的通用 公式获得为t时刻下的频率,为背景环境的频率,为设 定值,u为显著频率,取不同频率值;
步骤D.0.4:计算每个u,,每个gk下的;当大于,或者大于,认为当前gk为 变化巨大的灰度级,更新背景突变变化个数总数;判断是否大于,若是,认为背景环境突变,若否,认为背景环境正常;
其中为t时刻下的频率,为背景环境的频率;为频率变换阈值; 其 中为t时刻下的直方图分布,为背景环境的直方图分布;为直方图分布 阈值;为背景突变变化个数设定阈值,为背景突变变化个数总数,为背景 突变变化个数;
在运行时段,焊机通常处于明亮的环境下,即背景亮度不变,在非运行时段,焊机通常处于黑暗的环境下,即背景亮度不变,为方便计算,将运行时段和非运行时段的背景统一,本实施例设定标准背景环境不变,因此标准背景环境的频率、设定的标准背景环境的直方图分布均为定值;
在其他实施例中,可将运行时段和非运行时段的背景环境分别设定,变化值分别与运行时段和非运行时段下的标准背景环境值进行比较,在此不做赘述。
非焊机工位的车间背景环境是否发生突变通过车间背景环境模型进行判断,车间背景环境模型的建立以及判断与焊机工位背景环境模型的建立以及判断大体相同吗,不同之处在于,焊机工位背景环境模型建立是通过监测摄像模块在一天中多个时刻采集无人焊机工位图像,获得N张样本图像,而车间背景环境模型是通过场景摄像模块在一天中多个时刻采集无人车间图像,获得N张样本图像。
关机流程是通过人工自动操作焊机关机,具体包括以下步骤:
步骤9.1:人工操作焊机本体断电。
步骤9.2:人脸识别模块采集关机人员的人脸图像,将关机人员的人脸图像与录入的人脸图像比对,若比对一致,判定为本焊机本体绑定的操作人员操作关机,执行步骤9.3,若否,语音广播模块报警,语音播报:“XX工位焊机本体非本人关机”,提示用户;
步骤9.3:执行环境安全监测流程。
系统出现异常、完成焊接操作以及根据操作人员需要进行待机操作时,比如暂离岗等,均进入待机模式,执行待机流程;
系统出现异常时自动进入待机模式,完成焊接操作以及根据操作人员需要进行待机操作时,比如暂离岗等,手动进入待机模式;
待机流程,具体包括以下步骤:
步骤9.4:焊机管理监测控制器控制焊机本体断电;
步骤9.5:人脸识别模块采集待机人员的人脸图像,将待机人员的人脸图像与录入的人脸图像比对,若比对一致,判定为本焊机本体绑定的操作人员操作待机,执行步骤9.4,若否,语音广播模块报警,语音播报:“XX工位焊机本体非本人待机”,提示用户;
步骤9.6:执行环境安全监测流程。
进入待机模式后,在排除异常情况后,通过人工操作解除待机模式。
上述步骤中,录入的人脸图像与录入的身份证人脸图像、录入的人脸图像与实时的人脸图像、实时的人脸图像与实时的身份证人脸图像之间的图像特征比对具体步骤为:
步骤S1:将待比对人脸图像分别设定为图像B和图像C,
步骤S2:识别图像B和图像C,判断图像B或/和图像C人脸是否有眼镜,若有,执行步骤S3,若否,执行步骤S4;
步骤S3:提取图像B或/和图像C中人脸的眼部矩形区域,并对其进行二值化处理,提取“倒立8”轮廓,填充轮廓环形区域,去掉眼镜,根据眼部周围区域肤色填充,更新图像B或/和图像C;
步骤S4:采用轻量级HRnet人脸识别模型识别图像B得到68个人脸关键数据点位置和坐标,采用两个级联的CNN对人脸关键数据点进行监测,获得左眼、右眼、鼻尖、左嘴角、右嘴角坐标;
68个人脸关键数据点中鼻尖区域为关键数据点27-35计算最小外接矩形形成的区域,左眼区域为关键数据点36-41以及右眼为关键数据点42-47计算最小外接矩形,嘴角区域为关键数据点48-59计算最小外接矩形形成的区域,因此设定左眼坐标为关键数据点36-41坐标的中心(x1,y1),右眼坐标为关键数据点42-47坐标的中心(x2,y2),鼻尖坐标为关键数据点27-35坐标的中心(x3,y3),左嘴角为关键数据点48坐标(x4,y4),右嘴角为关键数据点59坐标(x5,y5);
步骤S5:计算图像B中人脸的五官比值;
K1=L1/L2=((x1+x4)/2-x3)/((x2+x5)/2-x3);
K2=H1/H2=((y1+y2)/2-y3)/((y4+y5)/2-y3);
K3=X/Y=(x1-x2)/(y1-y2);
K1、K2、K3为图像B的五官比值,以鼻尖为中心,K1为左眼和左嘴角的X方向均值点P1到鼻尖的距离L1和右眼和右嘴角的X方向均值点P2到鼻尖的距离L2的比值;K2为左眼和右眼的Y方向均值点P3到鼻尖的距离H1和左嘴角和右嘴角的Y方向均值点P4到鼻尖的距离H2的比值;K3为左眼和右眼X方向和Y方向的距离比值;
步骤S6:计算图像C中人脸的五官比值;
同理依据步骤S4和步骤S5,获得图像C中人脸的五官比值,K11、K21、K31,K11和K1对应,K11为左眼和左嘴角的X方向均值点到鼻尖的距离和右眼和右嘴角的X方向均值点到鼻尖的距离的比值;K21和K2对应,K21为左眼和右眼的Y方向均值点到鼻尖的距离和左嘴角和右嘴角的Y方向均值点到鼻尖的距离的比值;K31和K3对应,K31为左眼和右眼X方向和Y方向的距离比值;
步骤S7:计算图像B中人脸五官比值和图像C中人脸五官比值的差值,将差值与阈值对比,若差值小于阈值,判定图像B和图像C中的人脸为同一人,若差值不小于阈值,判定图像B和图像C中的人脸不是同一人;
其中,为五官比值的差值,阈值为为0.01,分别 与对比,若均小于,判定图像B和图像C中的人脸为同一人,若不小于,判定图像B和图像C中的人脸不是同一人。
显然,所描述的实施例仅仅是本发明的一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。

Claims (5)

1.一种焊机的监测方法,其特征在于:基于具有安全监测功能的焊机,焊机包括焊机管理监测控制器以及与焊机管理监测控制器连接的焊机本体、人脸识别模块、RFID识别模块、监测摄像模块、语音广播模块和人机交互界面,焊机管理监测控制器控制各个模块之间的连接和交互,执行系统全流程的运行和调度,并通过焊机管理监测控制器对焊机本体进行控制;人脸识别模块用于采集以及识别人脸图像;RFID识别模块用于识别焊机本体、灭火器、监测摄像模块上的RFID标签;监测摄像模块依据焊机管理监测控制器的指令执行设定的监测任务,用于在焊机本体运行过程中进行操作人员监测和操作环境监测以及在焊机本体开机操作和待机时进行环境安全监测;语音广播模块依据焊机管理监测控制器的指令对工作状态和异常情况进行播报;所述焊机管理监测控制器与人脸识别模块连接,触发人脸识别模块采集以及识别图像,人脸识别模块连接接收焊机管理监测控制器的采集图像命令,完成图像采集并进行人脸身份识别后,将识别结果发送回焊机管理监测控制器,焊机管理监测控制器实时接收人脸识别模块的识别结果,并根据识别结果进行对应的处理,还包括若干场景摄像模块,若干所述场景摄像模块采集非焊机工位的车间图像,场景摄像模块和监测摄像模块均包括用于实时采集图像的摄像头以及用于实时处理图像的图像处理模块,场景摄像模块进行非焊机工位的环境监测,监测摄像模块进行焊机工位的环境监测,还包括服务器,所述服务器与若干焊机工位的焊机管理监测控制器的通过WIFI/4G进行联网,服务器通过远程控制焊机管理监测控制器来控制焊机本体开关机,服务器用于将焊接任务的下发至相应的焊机管理监测控制器,焊机管理监测控制器将焊接信息上传至服务器,服务器根据焊接信息进行大数据分析并将分析结果通过焊机管理监测控制器显示在人机交互界面,焊机的监测方法包括以下步骤:
步骤1:焊机本体上电开机,判断焊机本体为单机模式或者联网模式,若为单机模式,单机开机运行模块执行联网开机信息读取流程;若联网模式,联网开机运行模块执行联网开机信息读取流程;
步骤2:操作人员选择操作模式,操作模式包括信息录入模式、运行模式和关机/待机模式,若选择信息录入模式,执行信息录入流程,若选择运行模式,执行步骤3,若选择关机/待机模式,执行步骤9;
步骤3:身份识别模块执行身份识别流程,判断操作人员身份是否异常,若是,语音广播模块报警,提示操作人员身份异常,进入待机模式,若否,执行步骤4;
所述步骤3中身份识别流程包括以下步骤:
步骤3.1:语音广播模块提示用户将身份证放入识别区并正对人脸识别模块,人脸识别模块依次采集和识别待操作人员的当前身份证信息和当前人脸图像;
步骤3.2:焊机管理监测控制器将当前身份证人脸图像和当前人脸图像进行比对,若比对一致,执行步骤3.3;若比对异常,语音广播模块报警,提示身份识别失败,进入待机模式;
步骤3.3:焊机管理监测控制器将当前身份证号字符串与信息录入的身份证号字符串进行比对,若比对一致,执行步骤3.4,若比对异常,语音广播模块提示身份识别失败,进入待机模式;
步骤3.4:焊机管理监测控制器将当前人脸图像与信息录入的人脸图像进行比对,若比对一致,标记当前人脸图像,标记为标准人脸图像,执行步骤3.5;若否,语音广播模块提示身份识别失败,进入待机模式;
步骤3.5:监测摄像模块采集当前操作人员的图像,记为图像A,建立LAB颜色空间,获取操作人员服装的颜色特征值,将该颜色特征值记为标准颜色特征值;
步骤3.5.1:建立LAB颜色空间;
步骤3.5.2:采用Ace2p模型对图像A进行人体解析并分割,获取上半身与下半身区域;
步骤3.5.3:根据LAB颜色空间,获取上半身与下半身区域的颜色特征值;
步骤4:环境监测模块执行环境监测流程,判断焊机工位环境以及车间环境是否异常,若是,语音广播模块报警,提示环境异常,进入待机模式,若否,执行步骤5;
步骤5:焊接操作识别模块判断操作人员是否进行焊接操作,若是,执行步骤7,若否,判定焊机本体处于待机状态,执行步骤6;
步骤6;待机判断模块判断焊机本体待机是否超时,若超时,语音广播模块报警,提示待机超时,进入待机模式,若否,执行步骤7;
步骤7:运行监测模块执行操作人员监测流程和操作环境监测流程;
步骤8:焊接操作识别模块判断焊机本体操作是否继续,若是,操作人员继续执行操作,执行步骤7,若否,执行步骤9;
步骤9:操作人员选择进入关机模式或者待机模式,若是关机模式,执行关机流程,若是待机模式,执行待机流程;
步骤10:结束。
2.根据权利要求1所述的一种焊机的监测方法,其特征在于:所述步骤1中单机开机信息读取流程包括以下步骤:
步骤1.1:焊机管理监测控制器读取存储模块中录入的操作人员人脸图像、身份证信息和RFID标签信息,身份证信息包括身份证人脸图像和身份证号字符串;
步骤1.2:焊机管理监测控制器将操作人员人脸图像与身份证人脸图像进行图像比对,判断比对是否一致,若是,判定无异常,若否,语音广播模块语音报警,提示信息异常,进入待机模式。
3.根据权利要求1所述的一种焊机的监测方法,其特征在于:所述步骤4中环境监测流程对焊机工位环境以及车间环境进行监测,车间环境为非焊机工位的环境;焊机工位环境为焊机本体运行前的环境监测,包括焊机工位内配备的设备进行监测以及对焊机工位的环境进行监测,具体包括以下步骤:
步骤4.1:监测摄像模块动态采集焊机工位的环境图像,场景摄像模块动态采集车间环境的环境图像,基于环境图像执行环境安全监测流程,若环境正常,执行步骤4.2,若环境异常,语音广播模块报警,提示用户异常,进入待机模式;
步骤4.2:RFID识别模块识别焊机本体、灭火器和监测摄像模块的RFID标签获取信息,与信息录入的RFID标签信息进行比对,若比对一致,表示目前本工位的焊机本体、灭火器、监测摄像模块一一对应且未更换,执行步骤5,若比对不一致,语音广播模块报警,提示用户异常,进入待机模式。
4.根据权利要求3所述的一种焊机的监测方法,其特征在于:所述环境安全监测流程的具体步骤为:
步骤A1:监测摄像模块采集焊机工位的图像,根据焊机工位背景环境模型判断当前焊机工位的图像的背景是否发生突变,若是,执行步骤A3,若否,认为焊机工位环境不变,焊机工位环境正常,执行步骤A2;
步骤A2:场景摄像模块采集车间的图像,根据车间背景环境模型判断当前车间图像的背景是否发生突变,若是,执行步骤A3,若否,认为车间环境正常,执行步骤4.2;
步骤A3:将步骤A1中监测摄像模块采集的焊机工位的图像或/和步骤A2中场景摄像模块采集的车间图像突变区域进行RGB转换成LAB模型,分别生成L、A、B三张分量图像;
基于L、A、B三张分量图像判断焊机工位以及车间是否发生火灾。
5.根据权利要求1所述的一种焊机的监测方法,其特征在于:所述人脸图像特征比对具体步骤为:
步骤S1:将待比对人脸图像分别设定为图像B和图像C;
步骤S2:识别图像B和图像C,判断图像B或/和图像C人脸是否有眼镜,若有,执行步骤S3,若否,执行步骤S4;
步骤S3:提取图像B或/和图像C中人脸的眼部矩形区域,并对其进行二值化处理,提取“倒立8”轮廓,填充轮廓环形区域,去掉眼镜,根据眼部周围区域肤色填充,更新图像B或/和图像C;
步骤S4:采用轻量级HRnet人脸识别模型识别图像B得到68个人脸关键数据点位置和坐标,采用两个级联的CNN对人脸关键数据点进行监测,获得左眼、右眼、鼻尖、左嘴角、右嘴角坐标;
步骤S5:计算图像B中人脸的五官比值;
步骤S6:计算图像C中人脸的五官比值;
步骤S7:计算图像B中人脸五官比值和图像C中人脸五官比值的差值,将差值与阈值对比,若差值小于阈值,判定图像B和图像C中的人脸为同一人,若差值不小于阈值,判定图像B和图像C中的人脸不是同一人。
CN202311731421.7A 2023-12-15 2023-12-15 一种具有安全监测功能的焊机以及焊机的监测方法 Active CN117428290B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311731421.7A CN117428290B (zh) 2023-12-15 2023-12-15 一种具有安全监测功能的焊机以及焊机的监测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311731421.7A CN117428290B (zh) 2023-12-15 2023-12-15 一种具有安全监测功能的焊机以及焊机的监测方法

Publications (2)

Publication Number Publication Date
CN117428290A CN117428290A (zh) 2024-01-23
CN117428290B true CN117428290B (zh) 2024-03-15

Family

ID=89558552

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311731421.7A Active CN117428290B (zh) 2023-12-15 2023-12-15 一种具有安全监测功能的焊机以及焊机的监测方法

Country Status (1)

Country Link
CN (1) CN117428290B (zh)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN202607049U (zh) * 2012-06-07 2012-12-19 中国东方电气集团有限公司 一种带图像监控的轮式自主移动焊接机器人控制系统
JP2014182530A (ja) * 2013-03-19 2014-09-29 Hitachi Zosen Corp 溶接モニタリングシステム
CN107735205A (zh) * 2015-01-20 2018-02-23 伊利诺斯工具制品有限公司 通过焊接视觉系统进行的焊接输出控制
CN109093228A (zh) * 2018-09-25 2018-12-28 无锡三虹重工机械设备有限公司 一种焊接参数智能监控系统
WO2019051665A1 (zh) * 2017-09-13 2019-03-21 深圳传音通讯有限公司 一种智能终端的启动控制方法及启动控制系统
CN109885002A (zh) * 2019-03-04 2019-06-14 江苏科技大学 一种焊机联网智能监控系统及监控方法
CN112929604A (zh) * 2021-01-27 2021-06-08 河北科迪新能源科技有限公司 一种办公室图像采集管理系统
CN113894479A (zh) * 2021-11-12 2022-01-07 谈新江 一种短距离焊机焊接电流无线控制系统及其使用方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN202607049U (zh) * 2012-06-07 2012-12-19 中国东方电气集团有限公司 一种带图像监控的轮式自主移动焊接机器人控制系统
JP2014182530A (ja) * 2013-03-19 2014-09-29 Hitachi Zosen Corp 溶接モニタリングシステム
CN107735205A (zh) * 2015-01-20 2018-02-23 伊利诺斯工具制品有限公司 通过焊接视觉系统进行的焊接输出控制
WO2019051665A1 (zh) * 2017-09-13 2019-03-21 深圳传音通讯有限公司 一种智能终端的启动控制方法及启动控制系统
CN109093228A (zh) * 2018-09-25 2018-12-28 无锡三虹重工机械设备有限公司 一种焊接参数智能监控系统
CN109885002A (zh) * 2019-03-04 2019-06-14 江苏科技大学 一种焊机联网智能监控系统及监控方法
CN112929604A (zh) * 2021-01-27 2021-06-08 河北科迪新能源科技有限公司 一种办公室图像采集管理系统
CN113894479A (zh) * 2021-11-12 2022-01-07 谈新江 一种短距离焊机焊接电流无线控制系统及其使用方法

Also Published As

Publication number Publication date
CN117428290A (zh) 2024-01-23

Similar Documents

Publication Publication Date Title
CN111259892B (zh) 一种指示灯状态的巡检方法、装置、设备和介质
CN110837822B (zh) 基于多目视觉的消防机器人喷射曲线调整方法及装置
CN102142240B (zh) 实现亮度调节的数据处理设备及方法
CN113903081A (zh) 一种水电厂图像视觉识别人工智能报警方法及装置
CN112364740B (zh) 一种基于计算机视觉的无人机房监控方法及系统
CN109117764A (zh) 在电力监控中采用颜色阈值法识别目标物体区域电气符号的方法
CN109409395A (zh) 在电力监控中采用模板匹配法识别目标物体区域电气符号的方法
CN111242025A (zh) 一种基于yolo的动作实时监测方法
CN111476083A (zh) 一种电力员工安全帽佩戴自动识别方法
CN105260716A (zh) 故障指示器状态识别方法及装置
CN110057820B (zh) 在线检测氯化氢合成炉氯氢配比的方法、系统及存储介质
KR102366396B1 (ko) Rgb-d 데이터와 딥러닝을 이용한 3d객체영역분할 방법과 그 시스템
CN117428290B (zh) 一种具有安全监测功能的焊机以及焊机的监测方法
CN111064935A (zh) 一种智慧工地人员姿态检测方法及系统
CN110543809A (zh) 一种电力作业现场风险监管入侵视频识别方法
CN113095160A (zh) 基于人工智能和5g的电力系统人员安全行为识别方法及系统
CN112532927A (zh) 一种施工现场智能安全管控系统
CN111062932A (zh) 一种网络服务程序的监控方法
CN115733957A (zh) 一种基于图像识别的导航设备告警处理方法
CN117424988B (zh) 一种用于智能化管理焊机的图像处理系统和处理方法
CN115657509A (zh) 一种生产场所无人值守远程移动监控控制系统
CN115601712A (zh) 适用于现场安全措施的图像数据处理方法及系统
CN117798552A (zh) 一种焊接人员和焊接环境监控方法和装置
CN115424279A (zh) 连铸坯喷码识别方法
CN114677667A (zh) 一种基于深度学习的变电站电气设备红外故障识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant