CN115302411B - 基于图像识别的表面清理系统及其控制方法 - Google Patents
基于图像识别的表面清理系统及其控制方法 Download PDFInfo
- Publication number
- CN115302411B CN115302411B CN202210945192.8A CN202210945192A CN115302411B CN 115302411 B CN115302411 B CN 115302411B CN 202210945192 A CN202210945192 A CN 202210945192A CN 115302411 B CN115302411 B CN 115302411B
- Authority
- CN
- China
- Prior art keywords
- cleaning
- target
- cleaning object
- classification model
- placement mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004140 cleaning Methods 0.000 title claims abstract description 385
- 238000000034 method Methods 0.000 title claims abstract description 40
- 238000012549 training Methods 0.000 claims description 114
- 238000013145 classification model Methods 0.000 claims description 68
- 238000012795 verification Methods 0.000 claims description 38
- 238000012545 processing Methods 0.000 claims description 27
- 230000003993 interaction Effects 0.000 claims description 14
- 238000013135 deep learning Methods 0.000 claims description 10
- 238000013507 mapping Methods 0.000 claims description 10
- 230000008859 change Effects 0.000 abstract description 12
- 238000012360 testing method Methods 0.000 description 18
- 230000008569 process Effects 0.000 description 9
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 239000002184 metal Substances 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000011835 investigation Methods 0.000 description 2
- 230000001502 supplementing effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B24—GRINDING; POLISHING
- B24C—ABRASIVE OR RELATED BLASTING WITH PARTICULATE MATERIAL
- B24C9/00—Appurtenances of abrasive blasting machines or devices, e.g. working chambers, arrangements for handling used abrasive material
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B24—GRINDING; POLISHING
- B24C—ABRASIVE OR RELATED BLASTING WITH PARTICULATE MATERIAL
- B24C1/00—Methods for use of abrasive blasting for producing particular effects; Use of auxiliary equipment in connection with such methods
- B24C1/08—Methods for use of abrasive blasting for producing particular effects; Use of auxiliary equipment in connection with such methods for polishing surfaces, e.g. smoothing a surface by making use of liquid-borne abrasives
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B24—GRINDING; POLISHING
- B24C—ABRASIVE OR RELATED BLASTING WITH PARTICULATE MATERIAL
- B24C3/00—Abrasive blasting machines or devices; Plants
- B24C3/02—Abrasive blasting machines or devices; Plants characterised by the arrangement of the component assemblies with respect to each other
- B24C3/06—Abrasive blasting machines or devices; Plants characterised by the arrangement of the component assemblies with respect to each other movable; portable
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Mechanical Engineering (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了基于图像识别的表面清理系统及其控制方法,通过采集目标清理对象的目标表面图像;采用图像识别算法从所述目标表面图像中识别所述目标清理对象的类别及其摆放方式;并将所述目标清理对象的类别及其摆放方式发送给表面清理机器人;根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,并控制所述表面清理机器人以所述清洗控制参数对目标清理对象进行清洗,能有效解决现有的表面清理机器人无法适应清理对象的类别切换以及清理对象摆放方式变化所导致的清理效率低。
Description
技术领域
本发明涉及表面清理机器人领域,尤其涉及基于图像识别的表面清理系统及其控制方法。
背景技术
高压磨料水射流表面清理是一种新型绿色环保的清理技术。使用高压水射流技术进行金属表面清理的机器人设备是专门针对各类表面复杂程度较高的如发动机、汽车底盘、金属结构件为清理对象而设计的清理设备。使用机器人进行表面清理工作的常规的技术方案是提前将被清理对象的清理轨迹示教给机器人,然后机器人按照程序周而复始的进行清理工作。因此,在实际的清理作业中,存在着待清理的对象之间必须按照规定的顺序就位,每个对象初始摆放的方位不能发生变化,不能随时改变某个清理过程的速度等不足之处,智能化程度不高,制约了清理效率提升,改进空间很大。
在目前常规的清理技术方案中,金属表面清理机器人按照预先规定的程序进行工作,然而在表面清理领域,存在着被清理的对象种类较多,机器人的工作任务要随时切换的问题。因此一旦在实际清理作业中如清理对象之间的就位顺序发生改变,或用户根据自己的需求重新定义某个清理对象不同侧面之间的清理顺序、规定某个侧面清理的速度等,都将导致机器人的任务与预先的设定不符合,这种复杂问题无法使用常规技术方案解决。
发明内容
本发明提供了基于图像识别的表面清理系统及其控制方法,用于解决现有的表面清理机器人无法适应清理对象的类别切换以及清理对象摆放方式变化所导致的清理效率低的技术问题。
为解决上述技术问题,本发明提出的技术方案为:
一种基于图像识别的表面清理系统,包括:视觉相机、数据处理组件以及表面清理机器人;所述视觉相机、表面清理机器人均与所述数据处理组件建立通信;
所述视觉相机用于采集目标清理对象的目标表面图像,并将目标清理对象的目标表面图像发送给数据处理组件;
所述数据处理组件用于接收所述目标表面图像,并基于内置的图像识别算法从所述目标表面图像中识别所述目标清理对象的类别及其摆放方式;并将所述目标清理对象的类别及其摆放方式发送给表面清理机器人;
所述表面清理机器人用于接收所述目标清理对象的类别及其摆放方式,并根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,并以所述清洗控制参数对目标清理对象进行清洗。
优选的,所述摆放方式为目标清理对象相对于参考点的摆放视图;所述数据处理组件包括基于深度学习的清理对象分类模型以及摆放方式分类模型。
更优选的,所述清理对象分类模型由多个不同类别清理对象的多张第一图像训练得到,所述第一图像上均标注有对应清理对象的类别,所述清理对象分类模型用于输入目标清理对象的目标表面图像,并输出目标清理对象的类别;
所述摆放方式分类模型由多个不同类别清理对象多张不同摆放方式的第二图像训练得到,所述第二图像上均标注有对应清理对象的摆放方式;所述摆放方式分类模型用于输入目标清理对象的目标表面图像,并输出目标清理对象的摆放方式。
优选的,所述数据处理组件还包括图片样本库和训练模块,所述图片样本库内存储有清理对象识别训练集、清理对象识别验证集、摆放方式识别训练集、摆放方式识别验证集,所述清理对象识别训练集、清理对象识别验证集内均包括多张第一图像,所述摆放方式识别训练集、摆放方式识别验证集内均包括多张第二图像;
所述训练模块用于将所述清理对象识别训练集中的第一图像依次输入到所述清理对象分类模型中进行多轮迭代训练,并在每轮迭代训练后用清理对象识别验证集中的第一图像对每轮迭代训练后的清理对象分类模型进行验证,判断每轮验证的清理对象分类模型的准确率是否达到预设阈值,若没有达到预设阈值,开始下一轮的迭代训练;若达到预设阈值,停止迭代训练,得到训练好的清理对象分类模型;
所述训练模块还用于将所述摆放方式识别训练集中的第二图像依次输入到所述摆放方式分类模型中进行多轮迭代训练,并在每轮迭代训练后用摆放方式识别验证集中的第二图像对每轮迭代训练后的摆放方式分类模型进行验证,判断每轮验证的摆放方式分类模型的准确率是否达到预设阈值,若没有达到预设阈值,开始下一轮的迭代训练;若达到预设阈值,停止迭代训练,得到训练好的摆放方式分类模型。
优选的,所述数据处理组件还包括人机交互模块、编码模块、IO接口模块;所述人机交互模块用于供用户输入表面清理机器人清理目标表面的清理速度,所述编码模块用于将目标清理对象的类别、摆放方式及清理速度进行二进制编码,并将所述二进制编码通过IO接口模块发送给所述表面清理机器人。
优选的,所述表面清理机器人包括控制模块、存储模块以及清洗组件;所述存储模块内存储有清理对象类别-摆放方式-清洗控制参数三者之间的映射表;所述控制模块用于解析发送来的二进制编码,并根据从二进制编码解析的目标清理对象的类别及摆放方式查找所述映射表,确定目标清理对象的类别及摆放方式的清洗控制参数,并根据所述清洗控制参数以及所述清洗速度控制所述清洗组件按所述清洗速度以及清洗控制参数对应的清洗方式清洗所述目标清理对象。
一种基于图像识别的表面清理系统的控制方法,包括以下步骤:
采集目标清理对象的目标表面图像;
采用图像识别算法从所述目标表面图像中识别所述目标清理对象的类别及其摆放方式;并将所述目标清理对象的类别及其摆放方式发送给表面清理机器人;
根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,并控制所述表面清理机器人以所述清洗控制参数对目标清理对象进行清洗。
优选的,采用图像识别算法从所述目标表面图像中识别所述目标清理对象的类别,包括以下步骤:
获取各个不同类别的清理对象的多张第一图像,在所述第一图像上标注清理对象的类别,构成清理对象识别训练集和清理对象识别验证集;
构建基于深度学习的清理对象分类模型,将所述清理对象识别训练集中的第一图像依次输入到所述清理对象分类模型中进行多轮迭代训练,并在每轮迭代训练后用清理对象识别验证集中的第一图像对每轮迭代训练后的清理对象分类模型进行验证,判断每轮验证的清理对象分类模型的准确率是否达到预设阈值,若没有达到预设阈值,开始下一轮的迭代训练;若达到预设阈值,停止迭代训练,得到训练好的清理对象分类模型;
将目标清理对象的目标表面图像输入到所述清理对象分类模型中,得到目标清理对象的类别。
优选的,所述摆放方式为目标清理对象相对于参考点的摆放视图;采用图像识别算法从所述目标表面图像中识别所述目标清理对象的摆放方式,包括以下步骤:
获取多个不同类别清理对象多张不同摆放方式的第二图像,构成摆放方式识别训练集、摆放方式识别验证集;
构建基于深度学习的摆放方式分类模型,将所述摆放方式识别训练集中的第二图像依次输入到所述摆放方式分类模型中进行多轮迭代训练,并在每轮迭代训练后用摆放方式识别验证集中的第二图像对每轮迭代训练后的摆放方式分类模型进行验证,判断每轮验证的摆放方式分类模型的准确率是否达到预设阈值,若没有达到预设阈值,开始下一轮的迭代训练;若达到预设阈值,停止迭代训练,得到训练好的摆放方式分类模型;
将目标清理对象的目标表面图像输入到所述摆放方式分类模型中,得到目标清理对象的摆放方式。
优选的,根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,包括以下步骤:
标定不同类别的清理对象不同摆放方式的清洗控制参数,构成清理对象类别-摆放方式-清洗控制参数三者之间的映射表;
调用所述映射表,在所述映射表中查找与所述目标清理对象的类别、摆放方式对应的清洗控制参数作为目标清理对象的清洗控制参数。
本发明具有以下有益效果:
1、本发明中的基于图像识别的表面清理系统及其控制方法,通过采集目标清理对象的目标表面图像;采用图像识别算法从所述目标表面图像中识别所述目标清理对象的类别及其摆放方式;并将所述目标清理对象的类别及其摆放方式发送给表面清理机器人;根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,并控制所述表面清理机器人以所述清洗控制参数对目标清理对象进行清洗,能有效解决现有的表面清理机器人无法适应清理对象的类别切换以及清理对象摆放方式变化所导致的清理效率低。
2、在优选方案中,本发明将清理对象类别改变、摆放方位改变、实时修改清理速度要求视为一个复杂清理任务,通过拍摄-软件识别处理-子任务编码生成的方法,将复杂任务分解成一系列简单任务的组合并通过二进制数据与机器人实现智能交互,大幅提高机器人灵活处理能力;由于工作任务的临时改变,传统的方案需要人为干预进行机器人子程序的切换,本发明的方法以软件的形式自动运行,根据判断的结果指导机器人自动进行子程序的切换,节省了人工,避免了出错;由本发明的方法生成的二进制数据对应于机器人子程序模块的编号,这使得机器人故障定位实现自动记录、排查简单明了;本发明提出的复杂任务的组合、编码、传送的方法,可以适应工业现场其它复杂的需求,提高了机器人智能化、柔性化的工作能力。
除了上面所描述的目的、特征和优点之外,本发明还有其它的目的、特征和优点。下面将参照附图,对本发明作进一步详细的说明。
附图说明
构成本申请的一部分的附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1为本发明实施例提供的智能化交互系统的工作原理;
图2为本发明实施例提供的表面清理机器人的智能化工作任务交互系统构成;
图3为本发明实施例提供的二进制编码的生成过程;
图4为本发明实施例提供的软件的训练过程;
图5为本发明实施例提供的智能交互方法的软件工作流程。
具体实施方式
以下结合附图对本发明的实施例进行详细说明,但是本发明可以由权利要求限定和覆盖的多种不同方式实施。
实施例一:
本实施中公开了一种基于图像识别的表面清理系统,包括:视觉相机、数据处理组件以及表面清理机器人;所述视觉相机、表面清理机器人均与所述数据处理组件建立通信;
所述视觉相机用于采集目标清理对象的目标表面图像,并将目标清理对象的目标表面图像发送给数据处理组件;
所述数据处理组件用于接收所述目标表面图像,并基于内置的图像识别算法从所述目标表面图像中识别所述目标清理对象的类别及其摆放方式;并将所述目标清理对象的类别及其摆放方式发送给表面清理机器人;
所述表面清理机器人用于接收所述目标清理对象的类别及其摆放方式,并根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,并以所述清洗控制参数对目标清理对象进行清洗。
此外,在本实施例中,还公开了一种基于图像识别的表面清理系统的控制方法,包括以下步骤:
采集目标清理对象的目标表面图像;
采用图像识别算法从所述目标表面图像中识别所述目标清理对象的类别及其摆放方式;并将所述目标清理对象的类别及其摆放方式发送给表面清理机器人;
根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,并控制所述表面清理机器人以所述清洗控制参数对目标清理对象进行清洗。
本发明中的基于图像识别的表面清理系统及其控制方法,通过采集目标清理对象的目标表面图像;采用图像识别算法从所述目标表面图像中识别所述目标清理对象的类别及其摆放方式;并将所述目标清理对象的类别及其摆放方式发送给表面清理机器人;根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,并控制所述表面清理机器人以所述清洗控制参数对目标清理对象进行清洗,能有效解决现有的表面清理机器人无法适应清理对象的类别切换以及清理对象摆放方式变化所导致的清理效率低。
实施例二:
实施例二是实施例一的优选实施例,其与实施例一的不同之处,对基于图像识别的表面清理系统的具体框架进行了介绍:
在本实施例中,基于图像识别的表面清理系统包括智能化交互系统以及表面清理机器人,其中,将清理对象类别改变、摆放方位改变、实时修改清理速度要求视为一个复杂清理任务,如图1所示,智能化交互系统通过拍摄-软件识别处理-子任务编码生成的方法,将复杂任务分解成一系列简单任务的组合并通过二进制数据与机器人实现智能交互;表面清理机器人只需解析该编码数据并执行相应的子程序即可,该系统通过交互式指导机器人一步步完成复杂的清理任务,因此现场的被清理对象可按照不同的次序、方位进行排队作业,也可以根据需要调整清理的速度,有利于提高清理质量和作业效率。
具体的,智能化交互系统由机器人工作任务生成与编码方法、智能处理装置两大部分组成:
其中机器人工作任务生成与编码方法在计算机中以软件形式运行,其原理为:
第一步:导入被清理对象的类别样本集(该集包括清理对象识别训练集(后简称类别训练集)和清理对象识别验证集(后简称类别验证集))和侧视图样本集(该集包括摆放方式识别训练集(后简称摆放训练集)和摆放方式识别验证集(后简称摆放验证集)),上述样本集均由训练集、验证集和对应的测试集组成,其中类别样本集表示可由机器人完成清理的实际清理对象,侧视图样本集则代表某个具体清理对象的所有侧视图;
类别训练集包含从不同方位、不同侧面的拍摄照片;摆放训练集则划分得更细一些,比如说某个发动机的“左面”训练集中,包含的就是该发动机的左面图片,这些图片是从不同角度拍摄的该发动机的左侧视图。
第二步:使用被清理对象类别训练集、验证集对软件的深度学习模块(即清理对象分类模型)进行训练和验证,用测试集对该模块(即清理对象分类模型)进行测试,当准确率超过阈值后,使用该模块(即清理对象分类模型)对实际作业的被清理对象进行判断,输出结果为该对象的类别编号;
第三步:使用侧视图训练集、验证集对软件的深度学习模块(即摆放方式分类模型)进行训练和验证,用测试集对该模块(即摆放方式分类模型)进行测试,当准确率超过阈值后,使用该模块(即摆放方式分类模型)对被清理对象摆放的侧视图进行预测,判断的结果为该对象侧视图的数字编号;
本发明中使用的清理对象分类模型和摆放方式分类模型的输入图像是同一表面照片,当然也可以不是同一张照片,该选择与训练集的规模和拍摄条件相关,实现起来是可以灵活处理的。
第四步:生成清理速度,由软件默认或人工从软件界面输入;
第五步:将预测清理对象类别编号、侧视图编号和清理速度合成一个二进制的工作任务编码,采用数字接口发送到机器人的IO接口部分,机器人程序通过解析该编码来确定需要执行的子程序;
第六步:软件通过接口电路与清理机器人双方以握手信号进行协调控制,用来确定当前编码对应的子程序执行完成与否;
第七步:软件根据对象的侧视图进行清理次序规划,生成并继续下发下一条任务编码,直到该清理对象的所有任务编码生成并执行完毕。
该智能处理装置由视觉相机、交换机、计算机、处理软件、图片样本库、接口电路组成:
图片样本库保存在计算机ROM中,分为清理对象类别训练集、验证集和测试集、侧视图训练集、验证集和测试集几个部分,每部分均包含一定数量的相关图片,对象类别训练集、验证集和测试集代表对象的具体类型,如某种发动机、某种汽车底盘、某种车体框架等。侧视图训练集、验证集和测试集则是每种清理对象的侧视图,由每种对象一定数量的不同侧视图图片构成;
处理软件是基于深度学习方法而开发的,分为学习与分类预测模块、人机界面模块和控制处理模块几个部分,软件保存在计算机ROM中。其中图片库中的训练集、验证集用来对软件的学习模块进行训练和验证,对象测试集、侧视图测试集用以检验学习模块的训练效果。若软件识别准确率超过阈值,代表预测结果可信,否则扩充图片样本库中的训练集后重新训练;
视觉相机与交换机采用网线连接,计算机与交换机采用网线连接,组成互通的局域网。由计算机定时控制摄像头进行被清理对象的数据采集,采集到的图像数据存储在计算机RAM中;
IO接口电路是一种具有总线接口的多路继电器模块,与计算机之间使用RS485连接,其输入输出端子与机器人的IO接口直接连接。
清理任务的二进制编码如图3所示,随机将样本库中的某个对象放置到表面清理机器人的工位,视觉相机捕捉到该对象的图像,处理软件从RAM中读取到该图像并开始预测,预测结果由“对象和侧面”两个部分组成,如“A型发动机、左侧视图”,清理速度可由软件默认或者人为输入,软件的最终输出为预测结果加清理速度,将这个信息用一串二进制码表示,如“000100110”,其含义就是一项具体的清理工作任务,其中前四位“0001”是该发动机的编码,中间三位“001”是左视图编码,末两位“10”是清理的速度。软件将这个二进制码发送到接口电路,接口电路与机器人的IO接口直接相连,随后机器人将这个编码解析出来,并执行对应的子程序。
被清理对象类别、摆放方位、清理速度的组合是一种复杂的清理工作任务,使用本发明的方法后,这个复杂任务被分解为一系列简单的子任务,而每个子任务由其二进制编码表示,通过智能装置的接口电路发送该二进制编码与清理机器人进行交互,指挥机器人逐步完成复杂清理工作。在实际应用中,例如机器人的程序原先被设定为A型发动机外壳自动清理,但实际就位的被清理对象是C型的车体框架,这时智能装置运行的软件判断结果为“C类型车体框架(0100),摆放方位为左视图(001)”,同时软件默认清理速度为2,因此将产生一个二进制数“010000110”并通过装置的电路与机器人交互,机器人通过解析该二进制数(0x86)并从当前设定顺利切换到车架清理对应的子程序,完成左侧车体框架的清理。随后软件将产生车体框架其它视图如顶部的二进制数“010000010”,引导机器人完成车体顶部框架的清理,依此直到完成该车体的整体清理。
如图2所示,该智能处理装置由视觉相机、交换机、计算机、处理软件、接口电路组成。
其中计算机用来提供处理软件的运行环境(RAM)和存储空间(ROM),存储空间用来保存处理软件本身和所需要用到的图片样本库;
图片样本库包括被清理对象类别训练集、验证集和测试集,侧视图训练集、验证集和测试集几类,其中对象类别训练集、验证集和测试集代表对象的具体类型,如某类发动机、某类汽车底盘、某类车体框架等,而每类型的集合则由一定数量的该对象图片构成。侧视图训练集、验证集和测试集则是每种清理对象的侧视图,由每种对象一定数量的侧视图图片构成;
处理软件分为学习与分类预测模块、显示界面模块和控制处理模块几个部分:
其中学习与分类预测模块是基于深度学习方法而开发的。训练集用来给学习模块提供充足的学习样本,测试集则用来充当预测模块的输入,其输出用来检验学习模块的训练效果。若识别准确率超过阈值,代表预测结果可信,否则提示扩充图片样本的训练集后重新训练;
界面模块用来提供启动清理过程、显示预测结果和选择需要执行的清理速度,若不输入速度则由软件默认生成;
控制处理模块功能是将预测结果、清理速度进行二进制编码并将结果输出到接口电路,并根据握手信号判断机器人程序执行完成与否;
接口电路的IO的高低电平如实反映二进制编码的数值,该编码被传送到机器人的IO接口部分,被机器人的程序捕获。
视觉相机的功能是实现被清理对象的图像数据采集,与交换机相连、计算机定时控制摄像头进行被清理对象的拍摄,采集到的图像数据传输到计算机RAM中,由处理软件实时处理。
处理软件的使用分为训练阶段和实际应用阶段:
训练过程如图4所示:
第一步:启动软件,开始被清理对象的训练工作。将各类被清理对象类别样本集、验证集分别导入计算机不同存储空间,开始对学习与预测模块进行训练和验证并等待过程的结束;
第二步:将各类对象类别测试集分别导入计算机不同存储空间,并开始对象的预测输出,该过程结束后软件将自动统计预测的准确率。若准确率超过阈值,则向下执行,否则提示训练不足,需补充对象的训练集后执行第一步;
第三步:将侧视图图片训练集、验证集分别导入计算机不同存储空间,对学习与预测模块进行训练和验证并等待结束;
第四步:将侧视图测试集分别导入计算机不同存储空间,开始对象侧视图预测输出,结束后软件自动统计预测准确率,超过阈值则认为侧视图预测有效,否则提示训练不足,需补充侧视图图片训练集并重复第三步;
待软件训练完成后投入实际应用,软件工作流程如图5所示:
第一步:将软件可以识别的被清理对象安置在机器人清理工位,并启动软件的识别过程;
第二步:软件操作视觉相机开始拍照,并将图片数据读取到计算机RAM中;
第三步:软件开始对被清理对象的类别进行判断,输出结果为该类别的数字二进制编码,如编号2的清理对象为“0010”;
第四步:软件开始对该对象的侧视图开始预测,输出结果为该侧视图的二进制编码,如编号为0的顶视图输出为“000”;
第五步:生成清理速度,由软件默认或人工从软件界面输入,速度有“25%、50%、75%、100%”四个选项,对应输出编码分别为00、01、10、11;
第六步:软件将类别样本编号、侧视图编号和清理速度合成一个二进制的工作任务编码,采用接口电路发送到机器人的IO接口部分,并使用握手信号通知机器人解析该编码来确定需要执行的子程序;
第七步:软件通过接口电路与清理机器人双方以握手信号进行协调控制,用来确定单个编码对应的机器人子程序执行的完成与否;
第八步:若第六步执行完成,软件根据对象的其它侧视图进行清理次序规划,生成并继续下发下一条任务编码,开始该对象另一个侧面的清理工作,直到该清理对象的所有侧面清理任务编码生成并执行完毕。
例如在实际使用中,随机将类别样本库中的某个对象放置到表面清理机器人的工位,软件界面启动清理程序,随即视觉相机捕捉到该对象的图像,处理软件从RAM中读取到该图像并开始预测,预测结果由“对象和侧面”两个部分组成,如“C类型车架、左侧视图”,清理速度可由软件默认或者人为输入,软件的最终输出为预测结果加清理速度,然后将这个信息用一串二进制码表示为“010000110”,其含义就是一项具体的清理工作任务,其中前四位“0100”是该车架的编码,中间三位“001”是左视图编码,末两位“10”是清理的速度。软件将这个二进制码发送到接口电路,接口电路与机器人的IO接口直接相连,机器人通过查询IO状态将这个编码解析出来,并执行对应的子程序。待该车架左侧清理任务完成后,软件输出下一个清理工作任务编码“010000010”,则机器人开始车架顶部的清理工作。待车架顶部清理完成后,软件又依次下发前部、右侧、尾部等所有侧面的工作编码,通过这种交互方法指导机器人完成该车架的整体清理工作。
在表面清理机器人作业过程中,现有的技术方法无法解决被清理对象类别改变、摆放方位改变、实时修改清理速度等要求,本发明提出将这三种要求视为一个复杂清理任务,通过拍摄-软件识别处理-子任务编码生成的方法,将复杂任务分解成一系列简单任务的组合并通过二进制数据与机器人实现智能交互,大幅提高机器人灵活处理能力;
由于工作任务的临时改变,传统的方案需要人为干预进行机器人子程序的切换,本发明的方法以软件的形式自动运行,根据判断的结果指导机器人自动进行子程序的切换,节省了人工,避免了出错;
由本发明的方法生成的二进制数据对应于机器人子程序模块的编号,这使得机器人故障定位实现自动记录、排查简单明了;
本发明将提出的复杂任务的组合、编码、传送的方法,可以适应工业现场其它复杂的需求,提高了机器人智能化、柔性化的工作能力。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种基于图像识别的表面清理系统,其特征在于,包括:视觉相机、数据处理组件以及表面清理机器人;所述视觉相机、表面清理机器人均与所述数据处理组件建立通信;
所述视觉相机用于采集目标清理对象的目标表面图像,并将目标清理对象的目标表面图像发送给数据处理组件;
所述数据处理组件用于接收所述目标表面图像,并基于内置的图像识别算法从所述目标表面图像中识别所述目标清理对象的类别及其摆放方式;并将所述目标清理对象的类别及其摆放方式发送给表面清理机器人;
所述表面清理机器人用于接收所述目标清理对象的类别及其摆放方式,并根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,并以所述清洗控制参数对目标清理对象进行清洗;
所述数据处理组件包括基于深度学习的清理对象分类模型以及摆放方式分类模型;所述数据处理组件还包括图片样本库和训练模块,所述图片样本库内存储有清理对象识别训练集、清理对象识别验证集、摆放方式识别训练集、摆放方式识别验证集,所述清理对象识别训练集、清理对象识别验证集内均包括多张第一图像,所述摆放方式识别训练集、摆放方式识别验证集内均包括多张第二图像;
所述训练模块用于将所述清理对象识别训练集中的第一图像依次输入到所述清理对象分类模型中进行多轮迭代训练,并在每轮迭代训练后用清理对象识别验证集中的第一图像对每轮迭代训练后的清理对象分类模型进行验证,判断每轮验证的清理对象分类模型的准确率是否达到预设阈值,若没有达到预设阈值,开始下一轮的迭代训练;若达到预设阈值,停止迭代训练,得到训练好的清理对象分类模型;
所述训练模块还用于将所述摆放方式识别训练集中的第二图像依次输入到所述摆放方式分类模型中进行多轮迭代训练,并在每轮迭代训练后用摆放方式识别验证集中的第二图像对每轮迭代训练后的摆放方式分类模型进行验证,判断每轮验证的摆放方式分类模型的准确率是否达到预设阈值,若没有达到预设阈值,开始下一轮的迭代训练;若达到预设阈值,停止迭代训练,得到训练好的摆放方式分类模型。
2.根据权利要求1所述的基于图像识别的表面清理系统,其特征在于,所述摆放方式为目标清理对象相对于参考点的摆放视图。
3.根据权利要求2所述的基于图像识别的表面清理系统,其特征在于,所述清理对象分类模型由多个不同类别清理对象的多张第一图像训练得到,所述第一图像上均标注有对应清理对象的类别,所述清理对象分类模型用于输入目标清理对象的目标表面图像,并输出目标清理对象的类别;
所述摆放方式分类模型由多个不同类别清理对象多张不同摆放方式的第二图像训练得到,所述第二图像上均标注有对应清理对象的摆放方式;所述摆放方式分类模型用于输入目标清理对象的目标表面图像,并输出目标清理对象的摆放方式。
4.根据权利要求1-3中任一项所述的基于图像识别的表面清理系统,其特征在于,所述数据处理组件还包括人机交互模块、编码模块、IO接口模块;所述人机交互模块用于供用户输入表面清理机器人清理目标表面的清理速度,所述编码模块用于将目标清理对象的类别、摆放方式及清理速度进行二进制编码,并将所述二进制编码通过IO接口模块发送给所述表面清理机器人。
5.根据权利要求1-3中任一项所述的基于图像识别的表面清理系统,其特征在于,所述表面清理机器人包括控制模块、存储模块以及清洗组件;所述存储模块内存储有清理对象类别-摆放方式-清洗控制参数三者之间的映射表;所述控制模块用于解析发送来的二进制编码,并根据从二进制编码解析的目标清理对象的类别及摆放方式查找所述映射表,确定目标清理对象的类别及摆放方式的清洗控制参数,并根据所述清洗控制参数以及清洗速度控制所述清洗组件按所述清洗速度以及清洗控制参数对应的清洗方式清洗所述目标清理对象。
6.一种基于图像识别的表面清理系统的控制方法,其特征在于,包括以下步骤:
采集目标清理对象的目标表面图像;
采用图像识别算法从所述目标表面图像中识别所述目标清理对象的类别及其摆放方式;并将所述目标清理对象的类别及其摆放方式发送给表面清理机器人;
根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,并控制所述表面清理机器人以所述清洗控制参数对目标清理对象进行清洗;
所述摆放方式为目标清理对象相对于参考点的摆放视图;采用图像识别算法从所述目标表面图像中识别所述目标清理对象的摆放方式,包括以下步骤:
获取多个不同类别清理对象多张不同摆放方式的第二图像,构成摆放方式识别训练集、摆放方式识别验证集;
构建基于深度学习的摆放方式分类模型,将所述摆放方式识别训练集中的第二图像依次输入到所述摆放方式分类模型中进行多轮迭代训练,并在每轮迭代训练后用摆放方式识别验证集中的第二图像对每轮迭代训练后的摆放方式分类模型进行验证,判断每轮验证的摆放方式分类模型的准确率是否达到预设阈值,若没有达到预设阈值,开始下一轮的迭代训练;若达到预设阈值,停止迭代训练,得到训练好的摆放方式分类模型;
将目标清理对象的目标表面图像输入到所述摆放方式分类模型中,得到目标清理对象的摆放方式。
7.根据权利要求6所述的控制方法,其特征在于,采用图像识别算法从所述目标表面图像中识别所述目标清理对象的类别,包括以下步骤:
获取各个不同类别的清理对象的多张第一图像,在所述第一图像上标注清理对象的类别,构成清理对象识别训练集和清理对象识别验证集;
构建基于深度学习的清理对象分类模型,将所述清理对象识别训练集中的第一图像依次输入到所述清理对象分类模型中进行多轮迭代训练,并在每轮迭代训练后用清理对象识别验证集中的第一图像对每轮迭代训练后的清理对象分类模型进行验证,判断每轮验证的清理对象分类模型的准确率是否达到预设阈值,若没有达到预设阈值,开始下一轮的迭代训练;若达到预设阈值,停止迭代训练,得到训练好的清理对象分类模型;
将目标清理对象的目标表面图像输入到所述清理对象分类模型中,得到目标清理对象的类别。
8.根据权利要求6或7所述的控制方法,其特征在于,根据所述目标清理对象的类别及其摆放方式确定目标清理对象的清洗控制参数,包括以下步骤:
标定不同类别的清理对象不同摆放方式的清洗控制参数,构成清理对象类别-摆放方式-清洗控制参数三者之间的映射表;
调用所述映射表,在所述映射表中查找与所述目标清理对象的类别、摆放方式对应的清洗控制参数作为目标清理对象的清洗控制参数。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210480494 | 2022-05-05 | ||
CN2022104804942 | 2022-05-05 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115302411A CN115302411A (zh) | 2022-11-08 |
CN115302411B true CN115302411B (zh) | 2024-02-23 |
Family
ID=83861571
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210945192.8A Active CN115302411B (zh) | 2022-05-05 | 2022-08-08 | 基于图像识别的表面清理系统及其控制方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115302411B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115546566A (zh) * | 2022-11-24 | 2022-12-30 | 杭州心识宇宙科技有限公司 | 基于物品识别的智能体交互方法、装置、设备及存储介质 |
CN117067112B (zh) * | 2023-10-17 | 2024-01-16 | 杭州泓芯微半导体有限公司 | 一种水切割机及其控制方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006214214A (ja) * | 2005-02-04 | 2006-08-17 | Sanki Eng Co Ltd | 灯器の洗浄システム |
WO2016173739A1 (de) * | 2015-04-30 | 2016-11-03 | Marianne Zippel | Verfahren sowie inspektionssystem zur ermittlung und überprüfung des oberflächenreinheitsgrades von industriell gereinigten werkstücken oder maschinenbauteilen |
JP2017119259A (ja) * | 2015-12-29 | 2017-07-06 | 三菱電機株式会社 | 洗浄装置及び洗浄方法 |
CN110666706A (zh) * | 2019-10-16 | 2020-01-10 | 江苏理工学院 | 基于视觉引导的机器人的磨料水射流去毛刺系统和方法 |
CN113546921A (zh) * | 2021-07-26 | 2021-10-26 | 贵州电网有限责任公司 | 一种激光金属件清洗除锈钝化机器人和方法 |
CN114160507A (zh) * | 2021-11-24 | 2022-03-11 | 上海航翼高新技术发展研究院有限公司 | 基于多重传感检测的激光清洗路径自动规划方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10343193B2 (en) * | 2014-02-24 | 2019-07-09 | The Boeing Company | System and method for surface cleaning |
DE102015106725B4 (de) * | 2015-04-30 | 2018-02-08 | Zippel Gmbh | Verfahren zur maschinellen Reinigung von Werkstücken und/oder Maschinenbauteilen sowie Reinigungsanlage |
AU2018203176A1 (en) * | 2018-05-08 | 2019-11-28 | Automation Innovation Pty Ltd | Laser cleaning system |
-
2022
- 2022-08-08 CN CN202210945192.8A patent/CN115302411B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006214214A (ja) * | 2005-02-04 | 2006-08-17 | Sanki Eng Co Ltd | 灯器の洗浄システム |
WO2016173739A1 (de) * | 2015-04-30 | 2016-11-03 | Marianne Zippel | Verfahren sowie inspektionssystem zur ermittlung und überprüfung des oberflächenreinheitsgrades von industriell gereinigten werkstücken oder maschinenbauteilen |
JP2017119259A (ja) * | 2015-12-29 | 2017-07-06 | 三菱電機株式会社 | 洗浄装置及び洗浄方法 |
CN110666706A (zh) * | 2019-10-16 | 2020-01-10 | 江苏理工学院 | 基于视觉引导的机器人的磨料水射流去毛刺系统和方法 |
CN113546921A (zh) * | 2021-07-26 | 2021-10-26 | 贵州电网有限责任公司 | 一种激光金属件清洗除锈钝化机器人和方法 |
CN114160507A (zh) * | 2021-11-24 | 2022-03-11 | 上海航翼高新技术发展研究院有限公司 | 基于多重传感检测的激光清洗路径自动规划方法 |
Also Published As
Publication number | Publication date |
---|---|
CN115302411A (zh) | 2022-11-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115302411B (zh) | 基于图像识别的表面清理系统及其控制方法 | |
CN110712202B (zh) | 异形元器件抓取方法、装置、系统、控制装置及存储介质 | |
CN109483573A (zh) | 机器学习装置、机器人系统以及机器学习方法 | |
CN105500370B (zh) | 一种基于体感技术的机器人离线示教编程系统及方法 | |
CN110722571B (zh) | 一种基于图像识别的汽车零件装配系统及其方法 | |
CN111127548B (zh) | 抓取位置检测模型训练方法、抓取位置检测方法及装置 | |
CN111013857A (zh) | 一种喷涂机器人控制系统及控制方法 | |
CN109359043B (zh) | 一种基于机器学习的移动游戏自动化测试方法 | |
CN112621765B (zh) | 一种基于机械手的设备自动组装控制方法及装置 | |
CN111144401A (zh) | 一种电厂集控室深度学习和视觉伺服的触屏控制操作方法 | |
CN115331002A (zh) | 一种基于ar眼镜实现热力站故障远程处理方法 | |
CN110275532A (zh) | 机器人的控制方法及装置、视觉设备的控制方法及装置 | |
CN115346413A (zh) | 一种基于虚实融合的装配指导方法及系统 | |
CN115271546A (zh) | 一种基于bim的数字化工程监理方法与系统 | |
CN116402891A (zh) | 新能源汽车充电接口自动定位方法和充电枪自动插拔定位方法 | |
CN110478911A (zh) | 基于机器学习的智能游戏车无人驾驶方法及智能车、设备 | |
CN112631333A (zh) | 无人机的目标跟踪方法、装置及图像处理芯片 | |
CN110334818B (zh) | 一种管路自动识别的方法及系统 | |
CN111486790A (zh) | 一种电池全尺寸检测方法与装置 | |
CN115082795A (zh) | 虚拟图像的生成方法、装置、设备、介质及产品 | |
CN114332770A (zh) | 一种作业人员安全防护合规识别方法、装置及终端 | |
Solvang et al. | Vision based robot programming | |
CN115096902A (zh) | 一种运动控制方法及中框缺陷的检测系统 | |
CN211669539U (zh) | 一种显示焊接数据实时处理的装置 | |
CN112803528A (zh) | 一种巡检机器人及其巡检机器人的在线充电定位方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |