CN117906615A - 基于环境标识码的智能化搬运设备的融合定位方法及系统 - Google Patents
基于环境标识码的智能化搬运设备的融合定位方法及系统 Download PDFInfo
- Publication number
- CN117906615A CN117906615A CN202410295482.1A CN202410295482A CN117906615A CN 117906615 A CN117906615 A CN 117906615A CN 202410295482 A CN202410295482 A CN 202410295482A CN 117906615 A CN117906615 A CN 117906615A
- Authority
- CN
- China
- Prior art keywords
- position information
- identification code
- agv
- successfully matched
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 230000004927 fusion Effects 0.000 title claims abstract description 48
- 238000007689 inspection Methods 0.000 claims abstract description 228
- 238000004422 calculation algorithm Methods 0.000 claims description 17
- 238000012937 correction Methods 0.000 claims description 16
- 238000012545 processing Methods 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 6
- 230000001133 acceleration Effects 0.000 claims description 5
- 230000007613 environmental effect Effects 0.000 claims description 4
- 238000003860 storage Methods 0.000 claims description 4
- 230000000694 effects Effects 0.000 abstract description 2
- 238000005457 optimization Methods 0.000 description 12
- 238000005520 cutting process Methods 0.000 description 8
- 238000005286 illumination Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 238000013461 design Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 238000000638 solvent extraction Methods 0.000 description 2
- 241000282414 Homo sapiens Species 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000010129 solution processing Methods 0.000 description 1
- 238000010408 sweeping Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本申请涉及一种基于环境标识码的智能化搬运设备的融合定位方法及系统,其属于SLAM技术领域,其中方法包括:基于SLAM获取AGV的位置信息,定时获取预先搭载于AGV上的图像采集设备所拍摄的巡检图像,将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配;当存在匹配成功的第一巡检图像时,确定第一巡检图像所对应的第一拍摄时刻时,AGV的位置信息以及图像采集设备与匹配成功的标识码的相对位置数据;计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据参考位置信息与观测位置信息的比对结果,修正AGV在第一拍摄时刻所对应的位置信息。本申请具有提高AGV在易变动的环境下运行时的定位可靠性的效果。
Description
技术领域
本申请涉及SLAM技术领域,尤其是涉及一种基于环境标识码的智能化搬运设备的融合定位方法及系统。
背景技术
智能搬运设备是指一种自动化、无人驾驶的自动导引运输设备,俗称搬运机器人,且可以以车体的形式存在,即自动导引运输车,智能搬运设备具体可以体现为AGV系统,AGV是指装备有自动导引装置,能够沿着预定的路径运行并完成作业要求的运输车。因此,AGV的导引控制是AGV系统的核心,近年来无线导引方式成为AGV领域研究重点,其中视觉SLAM(同步与地图构建)作为一种新兴的AGV定位方法,能够在AGV移动过程中,实时检测得出AGV的位置信息,并基于不断检测得出的位置信息构建出AGV所处环境的地图。
当AGV处在易发生变动、且变动较大的环境中时,如若所述环境出现变动,如环境中的物标位置或发生变化,或物标消失,此时则易导致原有的SLAM算法得到的AGV位姿和所构建的地图的不确定性增大,最终影响定位可靠性。
发明内容
为了提高AGV在易变动的环境下运行时的定位可靠性,本申请提供一种基于环境标识码的智能化搬运设备的融合定位方法及系统。
第一方面,本申请提供了一种基于环境标识码的智能化搬运设备的融合定位方法,采用如下的技术方案:
基于SLAM获取AGV的位置信息,定时获取预先搭载于AGV上的图像采集设备所拍摄的巡检图像,将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配;
当存在匹配成功的第一巡检图像时,确定所述第一巡检图像所对应的第一拍摄时刻时,所述AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据;
根据所述第一拍摄时刻时的AGV的位置信息,以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据所述参考位置信息与观测位置信息的比对结果,修正所述AGV在第一拍摄时刻所对应的位置信息。
通过采用上述技术方案,当需要对自动导引运输设备(如AGV)进行定位时,将预设的图像采集设备搭载于AGV上,并利用图像采集设备在AGV的移动过程中,拍摄周围环境,从而形成巡检图像,然后将巡检图像与预设的标识码进行匹配,标识码可预先被固定安装于AGV移动时所处的周围环境中,将巡检图像与预设的标识码进行匹配的意思是指对巡检图像进行识别,以确定巡检图像中是否存在预设的标识码,即,确定图像采集设备是否拍摄到标识码,若拍摄到标识码,则说明匹配成功,而匹配成功的巡检图像即为第一巡检图像,图像采集设备在拍摄该第一巡检图像时的时间即为第一拍摄时刻,AGV在第一拍摄时刻时的位置信息可通过预制的SLAM系统测算得到,而通过分析第一巡检图像,可得到AGV与匹配成功的识别码的安装位置之间的相对位置数据(如位置与姿态的相对关系,即在XYZ三个方向上的相对距离d以及俯仰角、横滚角、航向角的相对关系),进而根据该相对位置数据与AGV的位置信息,计算得到标识码的观测位置信息,一般来讲,该观测位置信息与匹配成功的标识码的预存储的参考位置信息应该一致,但也可能因AGV车体抖动等其他问题导致出现SLAM系统测算误差,进而导致观测位置信息与参考位置信息不一致,此时,可基于参考位置信息,以及AGV与匹配成功的识别码的安装位置之间的相对位置数据,得到AGV的实际位置信息,以此来修正SLAM系统对AGV所测算得到的位置信息;总结而言,本申请在SLAM系统对AGV移动位置进行定位和建图处理的过程中,借助标识码安装位置固定的这一特点,将标识码作为一个稳定的环境标识,来对AGV持续运动期间提供可靠约束,对SLAM系统所测算的AGV的位置实现修正,提高对AGV的定位精准性。
可选的,所述方法还包括:
在确定得到匹配成功的第一巡检图像,且所述第一巡检图像所对应的第一拍摄时刻的前一拍摄时刻的巡检图像为匹配失败时,控制所述图像采集设备按照预设的第一分辨率进行拍摄;
在确定得到匹配成功的第一巡检图像,且所述第一巡检图像所对应的第一拍摄时刻的后一拍摄时刻的巡检图像匹配失败时,控制所述图像采集设备按照预设的第二分辨率进行拍摄;其中,所述第一分辨率高于所述第二分辨率;
每当确定得出第一巡检图像时,计算与第一巡检图像匹配成功的标识码在所述第一巡检图像中所处的实际区域,根据所述实际区域以及AGV在第一巡检图像所对应的拍摄时刻的运动数据,预测所述第一拍摄时刻所拍摄的巡检图像中出现标识码的范围,并在接收到下一帧巡检图像时,从所述下一帧巡检图像中截取与预测得出的出现标识码的范围相一致的区域的图像,用截取出的图像替代所述下一帧巡检图像。
通过采用上述技术方案,当标识码在AGV的运行环境中的分布较为分散时,AGV运行中大部分时间不会观测到识别码,即,大部分巡检图像中不会存在标识码,而如果在此情况下,一直以较高分辨率进行巡检图像的采集与处理的话,会对计算资源有较大的消耗,因此采用动态分辨率的方式运行,大部分情况下,控制图像采集设备以低分辨率(即第二分辨率)进行拍摄,而默认基于第二分辨率所拍摄得到的巡检图像中若存在识别码,也能够被正常识别出来,但是低分辨率下相对位姿的计算由于像素不够密集,易存在误差,所以在首次获得第一巡检图像时,则将分辨率切换为高分辨率(即第一分辨率),且本申请默认AGV在运行过程中,图像采集设备势必是按照指定拍摄频率拍摄得到多张巡检图像的,当拍摄到第一巡检图像之后,下一帧甚至后续多帧巡检图像极有可能还是第一巡检图像,所以为了能够减少对后续第一巡检图像的识别误差,特在首次确定得到第一巡检图像时,将分辨率切换为高分辨率,并在此之后首次匹配失败时,将分辨率重新切换为低分辨率。另外,由于图像采集设备的拍摄视野较大,在观测到标识码时,图像信息中绝大部分均为环境信息而非标识码图像,但在进行匹配时,一般需要对巡检图像的所有像素进行处理,如此将增加运算时间与资源占用,因此,在每当确定第一巡检图像时,将根据该第一巡检图像以及当前AGV的运动数据,预测下一帧巡检图像中若出现标识码时,对应标识码的所处范围,且在接收到下一帧巡检图像时,只截取该所处范围的图像,以此来替代下一帧巡检图像,即,在对下一帧巡检图像进行匹配时,将只需对截取出的图像进行识别匹配,而无需对原始的下一帧巡检图像的每一像素进行逐一识别匹配,减轻了运算量和运算时间。
可选的,由SLAM测得的AGV的位置信息包括运动加速度、角速度信息;所述将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配,之前还包括:
基于每一拍摄时刻的前后多个拍摄时刻所对应的AGV的位置信息,进行巡检图像的运动插值补偿,对每一所述拍摄时刻所拍摄的巡检图像执行去运动模糊处理。
通过采用上述技术方案,针对AGV的实际应用场景可知,其与普通的固定式扫码不同,为实现AGV运动过程中不停车即完成标识码识别,需要对图像采集设备移动过程中的抖动以及运动造成的图像模糊问题进行解决,常见的计算机视觉应用中的图像取抖动以及运动补偿的应用均基于连续的图像数据,结合AGV的特点,可通过过去AGV的运动加速度以及角速度信息(如利用惯性测量单元(IMU)获取),能够反应车辆的真是状态,从而结合多帧位置信息进行图像数据的运动插值补偿,将模糊图像像素点位置进行修正,从而提供更为清晰的图像。
可选的,所述根据所述第一拍摄时刻时的AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据所述参考位置信息与观测位置信息的比对结果,修正所述AGV在第一拍摄时刻所对应的位置信息,包括:
若与所述第一巡检图像匹配成功的标识码个数唯一,则根据所述第一拍摄时刻时的AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,计算所述参考位置信息与观测位置信息的残差,并利用所述残差优化所述AGV在第一拍摄时刻所对应的位置信息;
若所述第一巡检图像匹配成功的标识码为多个,则分别查询每一匹配成功的标识码的参考位置信息,并根据每一匹配成功的标识码与图像采集设备之间的相对位置数据以及AGV的位置信息,计算得出每一匹配成功的标识码的观测位置信息,以及每一匹配成功的标识码的参考位置信息与观测位置信息的残差,利用所有匹配成功的标识码残差优化所述AGV在第一拍摄时刻时所对应的位置信息;
若所述第一巡检图像匹配成功的标识码为多个,则从预存储的位置关系表中查询出匹配成功的任意两个标识码之间的先验相对位置数据,根据所述AGV在第一拍摄时刻的位置信息以及图像采集设备与每一匹配成功的标识码之间的相对位置,计算出匹配成功的任意两个标识码之间的观测相对位置数据,以及观测相对位置数据与对应的先验相对位置数据的残差;计算出每一匹配成功的标识码的观测位置信息,以及每一匹配成功的标识码的参考位置信息与观测位置信息的残差,利用所有残差优化所述AGV在第一拍摄时刻时所对应的位置信息。
通过采用上述技术方案,本方案针对与第一巡检图像匹配成功的标识码的数量(即第一巡检图像中所出现的标识码的数量)来分别公开了不同的修正方式,尤其是在对匹配成功的标识码数量不唯一的情况下提供了两种不同的优化修正方式,其一是计算出标识码的观测位置信息,根据该观测位置信息与预存储的有关该标识码的参考位置信息的残差来优化AGB的位置信息;其二是在前述残差的基础之上,再次根据预存储的任意相邻两个标识码之间的相对位置数据(即先验相对位置数据,具体可以为相对距离值)计算出观测相对位置数据与先验相对位置数据的残差,以此残差与前述残差相结合来修正AGV的位置信息。
可选的,每一所述标识码均对应有一个匹配区域,所述标识码位于对应的匹配区域内;所述将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配,当存在匹配成功的第一巡检图像时,确定所述第一巡检图像所对应的第一拍摄时刻时,所述AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,包括:
获取由SLAM测算的AGV的位置信息,确定所述AGV是否进入任意匹配区域,若是,则生成匹配队列;其中,所述匹配队列中包含了AGV当前进入的所有匹配区域所对应的标识码信息,所述AGV的位置信息至少包括位置坐标和姿态数据;
在AGV进入并处于任意匹配区域内时,根据目标拍摄时刻时所获取到的所述AGV的姿态数据,确定所述匹配队列中的每一标识码在目标拍摄时刻时的被识别概率,根据所述被识别概率大小,调整所述匹配队列中的标识码数量和排序;其中,所述目标拍摄时刻是指所述AGV进入并处于任意匹配区域内时的任意拍摄时刻;
将所述目标时刻时的巡检图像,与所述目标时刻时对应调整后的所述匹配队列中的每一标识码进行匹配;
若巡检图像中存在完整的标识码图像或部分标识码图像,则认为匹配成功;确定匹配成功的标识码信息,并根据匹配成功的标识码在巡检图像中的位置,确定所述AGV与匹配成功的标识码之间的相对位置数据。
通过采用上述技术方案,在对巡检图像进行采集并匹配的时候,由于图像采集设备的采集频率一般为10hz甚至更高,即其采集频率一般为0.1s/每张,若对每一巡检图像均进行匹配,那么无疑将加重运算负担,为此,本申请结合上述方案,首先根据SLAM所测算的AGV位置信息以及每一标识码的匹配区域做比较,只有在AGV落入任意匹配区域时,才进行匹配操作,以此来减轻运算负担,由此可知,该方案首先根据AGV的位置信息来判定AGV是否能够扫描到标识码,再者,将进一步通过AGV的姿态数据来确定标识码被识别到的概率,因为AGV在特定姿态时,可能无法识别到标识码(如标识码位于AGV上方,而AGV的姿态使得图像采集设备的拍摄视角为俯视),相应的该标识码的被识别概率较低,对于被识别概率较低的识别码将被筛除匹配队列,即调整匹配队列中的识别码数量,进一步减轻匹配负担。
可选的,所述确定所述匹配队列中的每一标识码在目标拍摄时刻时的被识别概率,包括:
在目标AGV进入并处于任意匹配区域内时,确定目标拍摄时刻时,所述目标AGV的姿态数据、所述目标AGV所进入的匹配区域内的其他AGV相对所述目标AGV与每一标识码所连直线的距离值;
根据所述目标AGV的姿态数据确定第一概率,根据其他AGV相对所述目标AGV与每一标识码所连直线的距离值确定第二概率;根据所述第一概率和第二概率,以及预设的求解算法,计算得出所述目标拍摄时刻时,匹配队列中的每一标识码的被识别概率。
通过采用上述技术方案,被识别概率是指图像采集设备能够采集到标识码的概率,结合上述方案可知,由于AGV在特定姿态时,可能无法识别到固定安装于特定位置的标识码,因此,本申请首先基于AGV的姿态数据得到第一概率,再确定其他AGV相对所述目标AGV与每一标识码所连直线的距离值,并用该距离值来计算得出第二概率,该第二概率距用于判定其他AGV是否存在阻挡目标AGV拍摄标识码的可能性,基于第一概率和第二概率总和得出每一标识码在目标拍摄时刻的被识别概率,再根据该被识别概率的大小来调整匹配队列中的标识码顺序,即在进行匹配时,优先将匹配队列中靠前的标识码与巡检图像进行匹配,以提高匹配成功的效率。
可选的,所述根据所述第一拍摄时刻时的AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据所述参考位置信息与观测位置信息的比对结果,修正所述AGV在第一拍摄时刻所对应的位置信息;包括:
计算匹配成功的标识码相对第一巡检图像的实际识别完整度,并从预设的被识别完整度对照表中,查询匹配成功的标识码在第一拍摄时刻时所确定的被识别完整度;其中,所述被识别完整度对照表用于存储AGV的不同位姿数据以及对应的被识别完整度;
若实际识别完整度与查询到的被识别完整度的差值大于预设差值,则基于第一拍摄时刻时的AGV的位置信息,以及AGV与匹配成功的标识码之间的相对位置数据修正所述匹配成功的标识码的参考位置信息;
若实际识别完整度与所述被识别完整度的差值不大于预设差值,则根据所述第一拍摄时刻时的AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据所述参考位置信息与观测位置信息的比对结果,修正所述AGV在第一拍摄时刻所对应的位置信息。
通过采用上述技术方案,AGV的姿态将影响图像采集设备是否能够拍摄到标识码,以及标识码被拍摄到的完整程度(若标识码图像完全落入巡检图像中,则认为完整程度为100%);由前文可知,利用标识码来修正约束由SLAM技术测算出来的AGV位置信息的前提是标识码自身的参考位置信息不会发生变动,因此本申请在利用其进行修正约束之前,通过计算并比对实际识别完整度与被识别完整度,来判定标识码位置是否发生变化,若发生了变化,则利用AGV位置信息及其与标识码的相对位置数据来修正标识码的参考位置信息,此时该标识码将不会对AGV的位置信息起到辅助约束定位的作用,而只有在并未发生变化时,才利用标识码的参考位置信息以及标识码与AGV的相对位置数据来反向修正AGV的位置信息。
第二方面,本申请提供了一种基于环境标识码的智能化搬运设备的融合定位系统,包括:
标识码匹配模块,用于基于SLAM获取AGV的位置信息,定时获取预先搭载于AGV上的图像采集设备所拍摄的巡检图像,将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配;
数据信息确定模块,用于当存在匹配成功的第一巡检图像时,确定所述第一巡检图像所对应的第一拍摄时刻时,所述AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据;
位置信息修正模块,用于根据所述第一拍摄时刻时的AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据所述参考位置信息与观测位置信息的比对结果,修正所述AGV在第一拍摄时刻所对应的位置信息。
第三方面,本申请提供了一种基于环境标识码的智能化搬运设备的融合定位装置,包括存储器和处理器,所述存储器上存储有能够被处理器加载并执行如第一方面中任一种方法所述的计算机程序。
第四方面,本申请提供了一种计算机可读存储介质,存储有能够被处理器加载并执行如第一方面中任一种方法所述的计算机程序。
综上所述,本申请包括以下至少一种有益技术效果:
在本申请中,通过在AGV运行环境中布设标识码,并基于标识码位置固定的特点,将标识码作为环境标识,用于在AGV扫描到标识码时,发挥辅助SLAM定位AGV、在AGV持续运行期间提供可靠约束、优化AGV定位精准性的作用,且该作用在AGV运行环境变动较大的场景中尤为明显;
进一步的,本申请利用机器视觉采集标识码并利用图像处理算法来对标识码进行扫描识别,且通过图像分辨率动态切换、图像动态裁剪、图像去运动模糊等方式来提高对标识码的扫描识别稳定性和效率,同时也能够减轻系统运算负担。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例公开的一种基于环境标识码的智能化搬运设备的融合定位方法的流程示意图。
图2是本申请实施例中示例性地展示的反光码设计图。
图3是本申请实施例中示例性展示的图像采集设备与匹配成功的标识码的相对位置以及相对位置数据。
图4是本申请实施例的基于环境标识码的智能化搬运设备的融合定位的结构框图。
附图标记说明:1、标识码匹配模块;2、数据信息确定模块;3、位置信息修正模块。
具体实施方式
以下结合附图1-4对本申请作进一步详细说明。
本申请实施例公开一种基于环境标识码的智能化搬运设备的融合定位方法(下文简称为融合定位方法),融合定位方法用于实现智能化搬运设备的定位,尤其是对AGV的定位,且具体的定位方法是基于激光SLAM算法确定AGV位置信息,同时通过预先固定安装于AGV运行环境中的标识码,以标识码作为一个稳定的环境标识,来对AGV的运行过程进行辅助定位和位置修正约束。本申请的执行主体为基于环境标识码的智能化搬运设备的融合定位系统(下文简称为融合定位系统),下文将结合附图1详细阐述融合定位系统执行融合定位方法的具体步骤。
S101,基于SLAM获取AGV的位置信息,定时获取预先搭载于AGV上的图像采集设备所拍摄的巡检图像,将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配。
在实施中,融合定位系统预先通信连接于图像采集设备,图像采集设备具体可以为相机,其被预先搭载于AGV车体,以用于按照指定拍摄频率拍摄AGV所处环境的图像(即巡检图像)。还包括SLAM系统,以用于在AGV的运行过程中,实时获取AGV的位置信息,并基于位置信息构建地图(SLAM的定位与建图技术为现有技术,再次不在赘述);融合定位系统将获取前述由SLAM系统所获取的AGV的位置信息以及图像采集设备在每一拍摄时刻所拍摄的巡检图像,其中,AGV的位置信息至少包括位置坐标和姿态数据。
标识码预先被固定安装于AGV的运行环境中,由于运行环境中的标识码个数不限,因此,每一标识码均对应有一个ID号,以用于实现标识码的区分;相应的,带有ID号以及对应标识码样式的标识码信息将被预先存储于融合定位系统中。此外,对于前文所提及的标识码样式,本申请实施例示例性地提供了两种标识码样式,其一为用于常规光照环境中的黑白二维码,其二为用于光照不足的环境的反光码,对于光照易变动的环境,可采用显示屏加光照强度检测模块相结合的结构,通过光照强度检测模块检测所处环境的光照强度,通过显示屏根据光照强度来切换显示黑白二维码和反光码。
当融合定位系统获取到巡检图像之后,将巡检图像与预存储的所有标识码信息进行匹配,即,用于识别巡检图像中是否存在预存储的标识码。识别方式为现有技术,如可预先存储每一标识码的图像信息,通过查找巡检图像中是否存在与标识码图像之间的相似度符合要求的区域,以此实现识别。除此之外,下文还分别对不同形式的标识码的识别方式做出了额外说明:
当标识码为黑白二维码时,融合定位系统将先对巡检图像进行二值化处理得到灰度图,进而在灰度图中根据黑白二维码的像素梯队变化规律将黑白二维码与其他环境信息区分开来,进而提取巡检图像中的二维码所涉及的区域中的所有像素,将该区域的图像与预存储的标识码信息中的标识码样式图像进行比对,从而实现标识码识别,并在比对一致时(即匹配成功时),获取匹配成功的标识码的标识码信息,如ID号。
此处需要说明的是,相比于传统的根据某一固定阈值来进行图像二值化的处理方式,本申请实施例给出的二值化处理方式为:根据巡检图像的像素信息,对巡检图像进行自定义分区(分区规则可由人为预先设定),根据每一区域内的像素信息来确定区域阈值,根据区域阈值来对对应区域进行二值化处理,即实现了阈值的自适应调整,利用动态阈值来更好地应对光照不均的场景。
当标识码为反光码时,图像采集设备具体可以为红外相机。反光码的识别与黑白二维码有所区别,图2示例性地示出了反光码设计图,实际尺寸可根据实际应用灵活设置,并示例性地给出了如下自定义编码与解码规则:首先对巡检图像进行聚类,完成每个码的四个顶角的定位,确定四个顶角处的圆形贴纸的中心;其次,每个反光码的底边中心位置均对应设置一个圆形用于确定反光码的坐标系方向;再次,确定反光码以及坐标系后,对内部像素以等边三角约束进行聚类,得到代表编码信息的多个三角形中心,以图2为例,解码结果为100001010,从而能够根据解码结果与预存储的标识码信息进行比对得到该反光码的ID号。
可选的,在采用上述方式对巡检图像进行匹配识别之前,将对巡检图像进行预处理。相应的融合定位方法包括:
基于每一拍摄时刻的前后多个拍摄时刻所对应的AGV的位置信息,进行巡检图像的运动插值补偿,对每一拍摄时刻所拍摄的巡检图像执行去运动模糊处理。
在实施中,AGV的位置信息还包括运行加速度和角速度信息,该信息可由预设的惯性测量单元(IMU)测得。由于图像采集设备在拍摄巡检图像的过程中,其所处的AGV大概率是在持续的运行过程中,因此,图像采集设备易在随AGV的移动过程中抖动,进而使得巡检图像出现运动模糊的问题,为此,本申请特根据IMU所检测到的连续多帧的AGV运行加速度以及角速度信息,得知AGV车辆的真实状态,再结合该多帧数据进行图像数据的运动插值补偿,将巡检图像像素点位置进行修正,实现巡检图像的去运动模糊处理,而运动模糊处理方式为现有技术,在此不再赘述。
S102,当存在匹配成功的第一巡检图像时,确定第一巡检图像所对应的第一拍摄时刻时,AGV的位置信息以及图像采集设备与匹配成功的标识码的相对位置数据。
在实施中,第一巡检图像是指根据前述识别方式,识别到标识码的巡检图像,而图像采集设备拍摄该第一巡检图像时的拍摄时刻即为第一拍摄时刻。对于图像采集设备与匹配成功的标识码的相对位置数据,可根据图像处理算法获得,且具体的,相对位置数据具体可以包括如图3所示的XYZ三个方向上的相对距离d以及俯仰角pitch、横滚角roll以及航向角yaw。具体的,对于相对位置数据的获取,可基于现有的图像处理算法,以及AGV位置信息(位姿数据和位置坐标)、图像采集设备与AGV车体之间的位置关系(默认该数据已知),利用标识码的像素值,得到相对位置数据,还可基于该相对位置数据,以及AGV的位置信息,计算出标识码的观测位置信息。
示例性的,对于反光码形式的标识码来说,可根据每个反光码四个角的圆形中心像素值,以及实际制作的圆形贴纸半径,再根据获取到的AGV的位置信息,通过位姿解算算法得到像素坐标系、图像采集设备坐标系、AGV车体坐标系、地图坐标系之间的关系,得到反光码在地图坐标系中的位姿数据,该位姿数据即为前述的观测位置信息。
可选的,每当识别得到第一巡检图像时,融合定位系统还将执行如下步骤:
在确定得到匹配成功的第一巡检图像,且第一巡检图像所对应的第一拍摄时刻的前一拍摄时刻的巡检图像为匹配失败时,此时则控制图像采集设备按照预设的第一分辨率进行拍摄;
在确定得到匹配成功的第一巡检图像,且第一巡检图像所对应的第一拍摄时刻的后一拍摄时刻的巡检图像匹配失败时,此时则控制图像采集设备按照预设的第二分辨率进行拍摄;其中,第一分辨率高于第二分辨率;
每当确定得出第一巡检图像时,计算与第一巡检图像匹配成功的标识码在第一巡检图像中所处的实际区域,根据实际区域以及AGV在第一巡检图像所对应的拍摄时刻的运动数据,预测第一拍摄时刻所拍摄的巡检图像中出现标识码的范围,并在接收到下一帧巡检图像时,从下一帧巡检图像中截取与预测得出的出现标识码的范围相一致的区域的图像,用截取出的图像替代下一帧巡检图像。
在实施中,由于图像采集设备按照指定拍摄频率(如10hz)拍摄巡检图像时,其频率较高,因此将其中一张巡检图像与标识码进行匹配过程中,将产生几十甚至上百帧的巡检图像,如若将所有巡检图像均进行比对,不仅将增大融合定位系统的运算负担,同时也将降低优化效率,因此,上述步骤给出了两个维度的方案来减轻运算负担,其一是采用动态分辨率,其二是减小巡检图像的像素比对识别数量。
对于采用动态分辨率,具体的,第一分辨率和第二分辨率为融合定位系统预先设定的用于控制图像采集设备拍摄时所采用的图像分辨率,且第一分辨率高于第二分辨率,相应的采用第一分辨率拍出来的巡检图像较采用第二分辨率拍摄出来的巡检图像更清晰。且本申请默认融合定位系统能够识别出以第二分辨率拍摄的巡检图像中的标识码,只是第二分辨率下相对位姿的计算会因像素不够密集而存在较大误差,因此需要进行第一分辨率和第二分辨率的切换,以确保得到更为精准的图像采集设备与标识码之间的相对位置数据。
第一分辨率和第二分辨率的切换条件为:当识别到第一帧第一巡检图像时,即,该帧第一巡检图像的前一拍摄时刻的巡检图像匹配失败,也即,图像采集设备从当前第一帧第一巡检图像所对应的第一拍摄时刻开始,才拍摄到标识码,而在该第一拍摄时刻的前一时刻并未拍摄到标识码;此时则将分辨率由第二分辨率切换为第一分辨率,且由于图像采集设备的拍摄频率较高,因此默认在第一帧第一巡检图像之后的若干帧巡检图像中大概率均能与标识码成功匹配,因此在此时提高分辨率,以确保从第一帧巡检图像后拍摄的巡检图像能够以高分辨率的形式体现,减小误差。相应的,当某第一巡检图像之后所对应的第一拍摄时刻的后一拍摄时刻的巡检图像与标识码匹配失败时,即查找到最后一帧第一巡检图像时,将分辨率由第一分辨率重新切换为第二分辨率,以此往复,保证了标识码信息的准确识别又兼顾了计算资源的合理利用。
对于减小巡检图像的像素比对识别数量,具体的,本申请通过在识别到第一帧第一巡检图像时,框选出第一帧第一巡检图像中的标识码的所处位置(即实际区域),并根据AGV运动模型以及该第一帧第一巡检图像所对应的第一拍摄时刻时的AGV的位置信息,预测得出下一拍摄时刻所对应的巡检图像(即第二帧巡检图像)中出现标识码时的标识码范围,且在预测时,默认AGV按照与第一拍摄时刻时相同的位姿、运动加速度以及角速度进行移动。再在获取到第二帧巡检图像时,从第二帧巡检图像中裁剪出与前文预测得到的标识码范围相对应的区域的图像,用截取出的图像替代该第二帧巡检图像,再利用该第二帧巡检图像与标识码进行匹配,此时匹配时所需比对的像素数量变少,从而提高了识别速度和效率,与此同时,若第二帧巡检图像与标识码匹配成功,也即该第二帧巡检图像为第二帧第一巡检图像,此时融合定位系统将利用裁剪前的原始的第二帧第一巡检图像预测第三帧巡检图像中的出现标识码时的标识码范围,并在接收到第三帧巡检图像时,对其进行裁切后执行匹配操作,若匹配成功,则再次利用裁切前的原始的第三帧巡检图像预测下一帧巡检图像中出现标识码的标识码范围,以此往复,直至裁切后的第n帧巡检图像匹配失败时,则无需利用该第n帧巡检图像继续预测第n+1帧巡检图像。
此外需要说明的是,利用裁切后的区域(下文称为初裁区域)的图像替代原始的第n帧巡检图像,并进行匹配标识码时,若匹配失败,此时为了避免是由于裁切区域误差而导致匹配失败,特对原始的第n帧巡检图像重新裁切,二次裁切的区域大于初裁区域,且包含初裁区域;示例性的,二次裁切的区域可以为原始的第n帧巡检图像的完整图像;接着融合定位系统将再次对二次裁切的区域的图像进行匹配,若再次匹配失败,则停止裁切和匹配操作。
可选的,每一标识码均对应有一个匹配区域,标识码位于对应的匹配区域内;S102具体包括如下子步骤:
获取由SLAM测算的AGV的位置信息,确定AGV是否进入任意匹配区域,若是,则生成匹配队列;其中,匹配队列中包含了AGV当前进入的所有匹配区域所对应的标识码信息,AGV的位置信息至少包括位置坐标和姿态数据;
在AGV进入并处于任意匹配区域内时,根据目标拍摄时刻时所获取到的AGV的姿态数据,确定匹配队列中的每一标识码在目标拍摄时刻时的被识别概率,根据被识别概率大小,调整匹配队列中的标识码数量和排序;其中,目标拍摄时刻是指AGV进入并处于任意匹配区域内时的任意拍摄时刻;
将目标时刻时的巡检图像,与目标时刻时对应调整后的匹配队列中的每一标识码进行匹配;
若巡检图像中存在完整的标识码图像或部分标识码图像,则认为匹配成功;确定匹配成功的标识码信息,并根据匹配成功的标识码在巡检图像中的位置,确定AGV与匹配成功的标识码之间的相对位置数据。
在实施中,SLAM所构建的地图中,每一标识码均对应一个匹配区域(即子地图),标识码的坐标处于该匹配区域内,且不同标识码所对应的匹配区域可以存在相互重叠的区域。上文所述的步骤是指只有在AGV进入任意匹配区域内时,才会对图像采集设备所拍摄的巡检图像进行匹配,直至AGV离开匹配区域。而判定AGV是否进入匹配区域的方式即为:通过SLAM系统所检测的AGV的位置信息中的坐标数据,确定该坐标数据是否落入匹配区域所对应的坐标范围内,若是,则认为进入匹配区域,此时将根据AGV进入的匹配区域确定对应的标识码,并生成带有前述标识码的匹配队列,结合前文提及的:匹配区域之间可能存在相互重叠的区域,可知,匹配队列中可能存在多个标识码,因此,融合定位系统将对巡检图像与匹配队列中的每一标识码进行匹配,而本申请前述步骤还给出了如何确定巡检图像与匹配队列中的多个标识码的匹配顺序的方案。
具体的,通过计算匹配队列中的每一标识码在目标拍摄时刻时的被识别概率,根据被识别概率大小对匹配队列中的标识码进行筛选,被识别概率低于预设概率的标识码从队列中筛除,从而实现对匹配队列中的标识码数量的调整,而筛除后的匹配队列,再按照被识别概率由大到小的顺序来对匹配队列中的标识码的先后顺序进行排序,然后融合定位系统再根据排序后的匹配队列,从队首开始逐一将匹配队列中的标识码与巡检图像进行匹配。
另外,对于是否匹配成功的判定条件为二,其一为:在巡检图像中识别到了完整的标识码图像,其二为:巡检图像中存在标识码的部分图像,即标识码不完整。对于不完整的标识码,结合前文有关相对位置数据的确定方式可知,本申请可根据该标识码在巡检图像中部分图像的像素点信息,来计算得出相对位置数据,因此,对于巡检图像中出现的不完整的标识码,也认为匹配成功。结合前文所提及的识别方式可知,可通过将巡检图像与标识码图像进行相似度比对,来确定标识码是否存在于巡检图像中,此处,为了方便识别出不完整的标识码,可在设计标识码时,对标识码的四周边线,即对标识码图像的轮廓线进行限定,以使其能够区别与环境信息。
另外,本文提及的被识别概率是指图像采集设备根据所处的AGV的位姿以及运行状态,能够拍摄得到标识码的概率。相应的,上述步骤“计算匹配队列中的每一标识码在目标拍摄时刻时的被识别概率”具体包括如下子步骤:
在目标AGV进入并处于任意匹配区域内时,确定目标拍摄时刻时,目标AGV的姿态数据、目标AGV所进入的匹配区域内的其他AGV相对目标AGV与每一标识码所连直线的距离值;
根据目标AGV的姿态数据确定第一概率,根据其他AGV相对目标AGV与每一标识码所连直线的距离值确定第二概率;根据第一概率和第二概率,以及预设的求解算法,计算得出目标拍摄时刻时,匹配队列中的每一标识码的被识别概率。
在实施中,目标AGV是指任一AGV,此方案适用于环境中包含一个或多个AGV的场景。被识别概率由第一概率和第二概率加权求和得到,此处的第一概率用于表征AGV按照目标拍摄时刻时的姿态,相应图像采集设备能够拍摄得到标识码的概率;示例性的,若AGV在目标拍摄时刻的姿态使得对应的图像采集设备的拍摄视角为俯视,而若标识码位于AGV上方,即不在图像采集设备的拍摄视角内,那么相应的第一概率即为0。
相应的,融合定位系统预存储有被识别完整度对照表,该被识别完整度对照表中预存储了每一标识码的图像信息,以及对应的多个被识别完整度、每一被识别完整度数据所对应的AGV的坐标数据和位姿数据。该被识别完整度数据为实验所得,即预先利用AGV在不同位置,以不同位姿,通过图像采集设备拍摄到巡检图像,并确定识别码在巡检图像中的区域面积与该完整的识别码的面积之比,该面积之比即为被识别完整度数据。因此,此处的第一概率可以具体体现为识别完整度。
第二概率的测算方式为:对于除目标AGV之外、在目标AGV所处的匹配区域内的其他AGV,计算其他AGV中的每一AGV相对目标AGV与标识码所连直线的距离值,预先存储有距离范围与概率值之间的对应关系,根据距离值所落入的距离范围查找对应的概率值,以此概率值作为第二概率。
S103,根据第一拍摄时刻时的AGV的位置信息以及图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据参考位置信息与观测位置信息的比对结果,修正AGV在第一拍摄时刻所对应的位置信息。
在实施中,对于匹配成功的标识码,根据前文所述的方法计算得出匹配成功的标识码与图像采集设备之间的相对位置数据,再根据AGV的位置信息,计算得出标识码的观测位置信息,而每一标识码均对应有一个参考位置信息,该参考位置信息即为标识码在SLAM所构建的地图中的实际坐标数据,其可作为基准数据,来与观测位置信息进行比对,若比对一致,则说明SLAM所测得AGV位置信息准确,若比对不一致,则说明存在误差,此时可计算观测位置信息与参考位置信息的残差,将该残差输入预设的非线性优化算法,输出AGV的实际位置信息,以此实际位置信息来替代SLAM所测得的AGV位置信息,实现对AGV位置信息的修正优化。
另外,结合前文可知,由于图像采集设备的采集频率较高,当某一帧巡检图像被认定为第一巡检图像时,一般其后续几帧巡检图像也为第一巡检图像,但是一般该连续几帧巡检图像所匹配成功的标识码相同,即,这连续几帧巡检图像中所识别得出的标识码的ID号相同,只是计算得出的标识码位姿信息不同,位姿信息的不同一方面是图像识别像素点轻微的改变都会带来识别结果的差异,另一方面标识码位姿涉及多个坐标系的转换以及SLAM定位算法输出的结果,也存在一定的不确定性。因此利用非线性优化算法,在根据物理逻辑条件剔除异常值后利用最小二乘原理,将同一标识码的多次位姿信息输入优化器中,得到每个标识码的最优位姿,用该最优位姿计算出AGV的实际位置信息,以此实际位置信息来替代SLAM所测得的AGV位置信息,实现对AGV位置信息的修正优化。
由上可知,本申请借助了标识码所对应的参考位置信息来实现对AGV位置信息的修正优化,但该方案的前提是默认标识码的参考位置信息固定不变,即标识码在环境中的位置不变,但若因现实原因导致标识码的位置出现变动,此时如若仍按照上述方案来修正AGV位置信息,则无疑是增大了对AGV的定位误差,因此,本申请还提出了如下方案,用于判定标识码的位置是否发生变化,并在发生变化时,对标识码的参考位置信息进行更新。相应的,S103包括如下子步骤:
计算匹配成功的标识码相对第一巡检图像的实际识别完整度,并从预设的被识别完整度对照表中,查询匹配成功的标识码在第一拍摄时刻时所确定的被识别完整度;其中,被识别完整度对照表用于存储AGV的不同位姿数据以及被识别完整度的对应关系;
若实际识别完整度与被识别完整度的差值大于预设差值,则基于第一拍摄时刻时的AGV的位置信息,以及AGV与匹配成功的标识码之间的相对位置数据修正匹配成功的标识码的参考位置信息;
若实际识别完整度与被识别完整度的差值不大于预设差值,则根据第一拍摄时刻时的AGV的位置信息以及图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据参考位置信息与观测位置信息的比对结果,修正AGV在第一拍摄时刻所对应的位置信息。
在实施中,实际识别完整度是指融合定位系统在将巡检图像与标识码进行匹配时,且在将巡检图像与预存储的每一标识码的图像进行相似度比对时,发现巡检图像中存在不完整的标识码时,计算该不完整的标识码在巡检图像中的面积与该标识码完整图像面积的比值;而结合前文可知,被识别完整度对照表中存储有标识码在被AGV以不同位姿状态下进行拍摄时所对应的被识别完整度,因此,此时可根据第一拍摄时刻时的AGV的位置信息中的坐标数据和姿态数据,查询被识别完整度对照表,确定该标识码所对应的被识别完整度,若实际识别完整度与被识别完整度的差值大于预设差值,则说明标识码的位置发生了变化,此时则无法用其预存储的参考位置信息优化AGV位置信息,而此时将做的操作是利用第一拍摄时刻时的AGV位置信息和AGV与匹配成功的标识码之间的相对位置数据来计算出该匹配成功的标识码的位置信息,用该标识码位置信息来替换其原先的参考位置信息。
可选的,S103还包括如下子步骤:
若与第一巡检图像匹配成功的标识码个数唯一,则根据第一拍摄时刻时的AGV的位置信息以及图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,计算参考位置信息与观测位置信息的残差,并利用残差优化AGV在第一拍摄时刻所对应的位置信息;
若第一巡检图像匹配成功的标识码为多个,则分别查询每一匹配成功的标识码的参考位置信息,并根据每一匹配成功的标识码与图像采集设备之间的相对位置数据以及AGV的位置信息,计算得出每一匹配成功的标识码的观测位置信息,以及每一匹配成功的标识码的参考位置信息与观测位置信息的残差,利用所有匹配成功的标识码残差优化AGV在第一拍摄时刻时所对应的位置信息;
若第一巡检图像匹配成功的标识码为多个,则从预存储的位置关系表中查询出匹配成功的任意两个标识码之间的先验相对位置数据,根据AGV在第一拍摄时刻的位置信息以及图像采集设备与每一匹配成功的标识码之间的相对位置,计算出匹配成功的任意两个标识码之间的观测相对位置数据,以及观测相对位置数据与对应的先验相对位置数据的残差;计算出每一匹配成功的标识码的观测位置信息,以及每一匹配成功的标识码的参考位置信息与观测位置信息的残差,利用所有残差优化AGV在第一拍摄时刻时所对应的位置信息。
在实施中,第一巡检图像中所存在的标识码个数不一,若不唯一,则可结合上文提到的两种方式来实现对AGV位置信息的修正。方式一为:每一匹配成功的标识码的参考位置信息与观测位置信息的残差,将所有匹配成功的标识码所对应的残差作为预设的非线性优化算法的输入,利用非线性优化算法计算并输出AGV位置信息,以此计算得出的AGV位置信息替换SLAM检测得到的AGV位置信息,实现修正;
方法二为:已知任意两个标识码之间的相对位置关系(即先验相对位置数据),先计算出匹配成功的任意两个标识码之间的观测相对位置数据,根据该观测相对位置数据计算出观测相对位置数据与对应的先验相对位置数据的残差(下文称为第一残差);再计算出每一匹配成功的标识码的参考位置信息与观测位置信息的残差(下文称为第二残差),其中,第一残差是指相对位置数据的残差,第二残差即为方式一种提及的标识码位置信息的残差,将第一残差和第二残差均输入预设的非线性优化算法的输入,利用非线性优化算法计算并输出AGV位置信息,以此计算得出的AGV位置信息替换SLAM检测得到的AGV位置信息,实现修正。
最后,需要提及的上,结合前文的描述可知,利用标识码辅助修正AGV位置信息的前提是已知标识码的参考位置信息,且标识码位置固定不变。为此,如若当前时刻在所处环境中新增标识码,那么此时将利用SLAM技术来确定该新增标识码在SLAM所构建的地图中的位置信息(即确定并存储该新增标识码的参考位置信息),具体的确定方式为:通过AGV上的图像采集设备拍摄带有标识码的巡检图像,根据当前时刻AGV的位置信息,以及图像采集设备与标识码的相对位置数据,计算出标识码的位置信息,该步骤与前文提及的用于计算标识码的观测位置信息的方法相一致,只是此时计算处的观测位置信息被用于作为该新增标识码的参考位置信息,从而实现对新增标识码的录入,而在此之后,AGV再次识别到该新增标识码时,该新增标识码即具有了辅助定位修正AGV位置信息的功能,因为此时该新增标识码已经具备了参考位置信息。
总结而言,对于未出现在地图中的新增标识码,通过SLAM测得的AGV的位置信息来确定该新增标识码的参考位置信息,此时该新增标识码不具备辅助定位修正AGV位置信息的功能,当新增标识码具备了参考位置信息之后,其则进入辅助定位模式,用于在AGV再次识别该标识码时,反向修正AGV的位置信息。另外,融合定位系统还可接收删除指令,并根据删除指令中的标识码信息(如ID号),删除地图中所标记的标识码信息,以及融合定位系统中存储的标识码信息。
参照图4,本申请实施例还公开一种基于环境标识码的智能化搬运设备的融合定位系统,包括:
标识码匹配模块1,用于基于SLAM获取AGV的位置信息,定时获取预先搭载于AGV上的图像采集设备所拍摄的巡检图像,将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配;
数据信息确定模块2,用于当存在匹配成功的第一巡检图像时,确定第一巡检图像所对应的第一拍摄时刻时,AGV的位置信息以及图像采集设备与匹配成功的标识码的相对位置数据;
位置信息修正模块3,用于根据第一拍摄时刻时的AGV的位置信息以及图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据参考位置信息与观测位置信息的比对结果,修正AGV在第一拍摄时刻所对应的位置信息。
可选的,还包括分辨率切换模块,用于在确定得到匹配成功的第一巡检图像,且第一巡检图像所对应的第一拍摄时刻的前一拍摄时刻的巡检图像为匹配失败时,控制图像采集设备按照预设的第一分辨率进行拍摄;还用在确定得到匹配成功的第一巡检图像,且第一巡检图像所对应的第一拍摄时刻的后一拍摄时刻的巡检图像匹配失败时,控制图像采集设备按照预设的第二分辨率进行拍摄;其中,第一分辨率高于第二分辨率;
还包括图像裁切模块,用于每当确定得出第一巡检图像时,计算与第一巡检图像匹配成功的标识码在第一巡检图像中所处的实际区域,根据实际区域以及AGV在第一巡检图像所对应的拍摄时刻的运动数据,预测第一拍摄时刻所拍摄的巡检图像中出现标识码的范围,并在接收到下一帧巡检图像时,从下一帧巡检图像中截取与预测得出的出现标识码的范围相一致的区域的图像,用截取出的图像替代下一帧巡检图像。
可选的,标识码匹配模块1还用于基于每一拍摄时刻的前后多个拍摄时刻所对应的AGV的位置信息,进行巡检图像的运动插值补偿,对每一拍摄时刻所拍摄的巡检图像执行去运动模糊处理。
可选的,位置信息修正模块3还用于若与第一巡检图像匹配成功的标识码个数唯一,则根据第一拍摄时刻时的AGV的位置信息以及图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,计算参考位置信息与观测位置信息的残差,并利用残差优化AGV在第一拍摄时刻所对应的位置信息;
还用于若第一巡检图像匹配成功的标识码为多个,则分别查询每一匹配成功的标识码的参考位置信息,并根据每一匹配成功的标识码与图像采集设备之间的相对位置数据以及AGV的位置信息,计算得出每一匹配成功的标识码的观测位置信息,以及每一匹配成功的标识码的参考位置信息与观测位置信息的残差,利用所有匹配成功的标识码残差优化AGV在第一拍摄时刻时所对应的位置信息;
还用于若第一巡检图像匹配成功的标识码为多个,则从预存储的位置关系表中查询出匹配成功的任意两个标识码之间的先验相对位置数据,根据AGV在第一拍摄时刻的位置信息以及图像采集设备与每一匹配成功的标识码之间的相对位置,计算出匹配成功的任意两个标识码之间的观测相对位置数据,以及观测相对位置数据与对应的先验相对位置数据的残差;计算出每一匹配成功的标识码的观测位置信息,以及每一匹配成功的标识码的参考位置信息与观测位置信息的残差,利用所有残差优化AGV在第一拍摄时刻时所对应的位置信息。
可选的,数据信息确定模块2,用于获取由SLAM测算的AGV的位置信息,确定AGV是否进入任意匹配区域,若是,则生成匹配队列;其中,匹配队列中包含了AGV当前进入的所有匹配区域所对应的标识码信息,AGV的位置信息至少包括位置坐标和姿态数据;还用于在AGV进入并处于任意匹配区域内时,根据目标拍摄时刻时所获取到的AGV的姿态数据,确定匹配队列中的每一标识码在目标拍摄时刻时的被识别概率,根据被识别概率大小,调整匹配队列中的标识码数量和排序;其中,目标拍摄时刻是指AGV进入并处于任意匹配区域内时的任意拍摄时刻;还用于将目标时刻时的巡检图像,与目标时刻时对应调整后的匹配队列中的每一标识码进行匹配;还用于若巡检图像中存在完整的标识码图像或部分标识码图像,则认为匹配成功;确定匹配成功的标识码信息,并根据匹配成功的标识码在巡检图像中的位置,确定AGV与匹配成功的标识码之间的相对位置数据。
可选的,数据信息确定模块2还用于在目标AGV进入并处于任意匹配区域内时,确定目标拍摄时刻时,目标AGV的姿态数据、目标AGV所进入的匹配区域内的其他AGV相对目标AGV与每一标识码所连直线的距离值;还用于根据目标AGV的姿态数据确定第一概率,根据其他AGV相对目标AGV与每一标识码所连直线的距离值确定第二概率;根据第一概率和第二概率,以及预设的求解算法,计算得出目标拍摄时刻时,匹配队列中的每一标识码的被识别概率。
可选的,位置信息修正模块3还用于计算匹配成功的标识码相对第一巡检图像的实际识别完整度,并从预设的被识别完整度对照表中,查询匹配成功的标识码在第一拍摄时刻时所确定的被识别完整度;其中,被识别完整度对照表用于存储AGV的不同位姿数据以及对应的被识别完整度;还用于若实际识别完整度与查询到的被识别完整度的差值大于预设差值,则基于第一拍摄时刻时的AGV的位置信息,以及AGV与匹配成功的标识码之间的相对位置数据修正匹配成功的标识码的参考位置信息;还用于若实际识别完整度与被识别完整度的差值不大于预设差值,则根据第一拍摄时刻时的AGV的位置信息以及图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据参考位置信息与观测位置信息的比对结果,修正AGV在第一拍摄时刻所对应的位置信息。
本申请实施例还公开一种基于环境标识码的智能化搬运设备的融合定位装置,基于环境标识码的智能化搬运设备的融合定位装置包括存储器和处理器,存储器上存储有能够被处理器加载并执行如上述的基于环境标识码的智能化搬运设备的融合定位方法的计算机程序。
本申请实施例还公开一种计算机可读存储介质,其存储有能够被处理器加载并执行如上述的基于环境标识码的智能化搬运设备的融合定位方法的计算机程序,该计算机可读存储介质例如包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。
以上实施例仅用以说明本申请的技术方案,而非对申请的保护范围进行限制。显然,所描述的实施例仅仅是本申请部分实施例,而不是全部实施例。基于这些实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请所要保护的范围。
Claims (10)
1.一种基于环境标识码的智能化搬运设备的融合定位方法,其特征在于,包括:
基于SLAM获取AGV的位置信息,定时获取预先搭载于AGV上的图像采集设备所拍摄的巡检图像,将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配;
当存在匹配成功的第一巡检图像时,确定所述第一巡检图像所对应的第一拍摄时刻时,所述AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据;
根据所述第一拍摄时刻时的AGV的位置信息,以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据所述参考位置信息与观测位置信息的比对结果,修正所述AGV在第一拍摄时刻所对应的位置信息。
2.根据权利要求1所述的基于环境标识码的智能化搬运设备的融合定位方法,其特征在于,所述方法还包括:
在确定得到匹配成功的第一巡检图像,且所述第一巡检图像所对应的第一拍摄时刻的前一拍摄时刻的巡检图像为匹配失败时,控制所述图像采集设备按照预设的第一分辨率进行拍摄;
在确定得到匹配成功的第一巡检图像,且所述第一巡检图像所对应的第一拍摄时刻的后一拍摄时刻的巡检图像匹配失败时,控制所述图像采集设备按照预设的第二分辨率进行拍摄;其中,所述第一分辨率高于所述第二分辨率;
每当确定得出第一巡检图像时,计算与第一巡检图像匹配成功的标识码在所述第一巡检图像中所处的实际区域,根据所述实际区域以及AGV在第一巡检图像所对应的拍摄时刻的运动数据,预测所述第一拍摄时刻所拍摄的巡检图像中出现标识码的范围,并在接收到下一帧巡检图像时,从所述下一帧巡检图像中截取与预测得出的出现标识码的范围相一致的区域的图像,用截取出的图像替代所述下一帧巡检图像。
3.根据权利要求1所述的基于环境标识码的智能化搬运设备的融合定位方法,其特征在于,由SLAM测得的AGV的位置信息包括运动加速度、角速度信息;所述将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配,之前还包括:
基于每一拍摄时刻的前后多个拍摄时刻所对应的AGV的位置信息,进行巡检图像的运动插值补偿,对每一所述拍摄时刻所拍摄的巡检图像执行去运动模糊处理。
4.根据权利要求1所述的基于环境标识码的智能化搬运设备的融合定位方法,其特征在于,所述根据所述第一拍摄时刻时的AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据所述参考位置信息与观测位置信息的比对结果,修正所述AGV在第一拍摄时刻所对应的位置信息,包括:
若与所述第一巡检图像匹配成功的标识码个数唯一,则根据所述第一拍摄时刻时的AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,计算所述参考位置信息与观测位置信息的残差,并利用所述残差优化所述AGV在第一拍摄时刻所对应的位置信息;
若所述第一巡检图像匹配成功的标识码为多个,则分别查询每一匹配成功的标识码的参考位置信息,并根据每一匹配成功的标识码与图像采集设备之间的相对位置数据以及AGV的位置信息,计算得出每一匹配成功的标识码的观测位置信息,以及每一匹配成功的标识码的参考位置信息与观测位置信息的残差,利用所有匹配成功的标识码残差优化所述AGV在第一拍摄时刻时所对应的位置信息;
若所述第一巡检图像匹配成功的标识码为多个,则从预存储的位置关系表中查询出匹配成功的任意两个标识码之间的先验相对位置数据,根据所述AGV在第一拍摄时刻的位置信息以及图像采集设备与每一匹配成功的标识码之间的相对位置,计算出匹配成功的任意两个标识码之间的观测相对位置数据,以及观测相对位置数据与对应的先验相对位置数据的残差;计算出每一匹配成功的标识码的观测位置信息,以及每一匹配成功的标识码的参考位置信息与观测位置信息的残差,利用所有残差优化所述AGV在第一拍摄时刻时所对应的位置信息。
5.根据权利要求1所述的基于环境标识码的智能化搬运设备的融合定位方法,其特征在于,每一所述标识码均对应有一个匹配区域,所述标识码位于对应的匹配区域内;所述将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配,当存在匹配成功的第一巡检图像时,确定所述第一巡检图像所对应的第一拍摄时刻时,所述AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,包括:
获取由SLAM测算的AGV的位置信息,确定所述AGV是否进入任意匹配区域,若是,则生成匹配队列;其中,所述匹配队列中包含了AGV当前进入的所有匹配区域所对应的标识码信息,所述AGV的位置信息至少包括位置坐标和姿态数据;
在AGV进入并处于任意匹配区域内时,根据目标拍摄时刻时所获取到的所述AGV的姿态数据,确定所述匹配队列中的每一标识码在目标拍摄时刻时的被识别概率,根据所述被识别概率大小,调整所述匹配队列中的标识码数量和排序;其中,所述目标拍摄时刻是指所述AGV进入并处于任意匹配区域内时的任意拍摄时刻;
将所述目标时刻时的巡检图像,与所述目标时刻时对应调整后的所述匹配队列中的每一标识码进行匹配;
若巡检图像中存在完整的标识码图像或部分标识码图像,则认为匹配成功;确定匹配成功的标识码信息,并根据匹配成功的标识码在巡检图像中的位置,确定所述AGV与匹配成功的标识码之间的相对位置数据。
6.根据权利要求5所述的基于环境标识码的智能化搬运设备的融合定位方法,其特征在于,所述确定所述匹配队列中的每一标识码在目标拍摄时刻时的被识别概率,包括:
在目标AGV进入并处于任意匹配区域内时,确定目标拍摄时刻时,所述目标AGV的姿态数据、所述目标AGV所进入的匹配区域内的其他AGV相对所述目标AGV与每一标识码所连直线的距离值;
根据所述目标AGV的姿态数据确定第一概率,根据其他AGV相对所述目标AGV与每一标识码所连直线的距离值确定第二概率;根据所述第一概率和第二概率,以及预设的求解算法,计算得出所述目标拍摄时刻时,匹配队列中的每一标识码的被识别概率。
7.根据权利要求5所述的基于环境标识码的智能化搬运设备的融合定位方法,其特征在于,所述根据所述第一拍摄时刻时的AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据所述参考位置信息与观测位置信息的比对结果,修正所述AGV在第一拍摄时刻所对应的位置信息;包括:
计算匹配成功的标识码相对第一巡检图像的实际识别完整度,并从预设的被识别完整度对照表中,查询匹配成功的标识码在第一拍摄时刻时所确定的被识别完整度;其中,所述被识别完整度对照表用于存储AGV的不同位姿数据以及对应的被识别完整度;
若实际识别完整度与查询到的被识别完整度的差值大于预设差值,则基于第一拍摄时刻时的AGV的位置信息,以及AGV与匹配成功的标识码之间的相对位置数据修正所述匹配成功的标识码的参考位置信息;
若实际识别完整度与所述被识别完整度的差值不大于预设差值,则根据所述第一拍摄时刻时的AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据所述参考位置信息与观测位置信息的比对结果,修正所述AGV在第一拍摄时刻所对应的位置信息。
8.一种基于环境标识码的智能化搬运设备的融合定位系统,其特征在于,包括,
标识码匹配模块(1),用于基于SLAM获取AGV的位置信息,定时获取预先搭载于AGV上的图像采集设备所拍摄的巡检图像,将每一拍摄时刻所拍摄到的巡检图像与预设标识码进行匹配;
数据信息确定模块(2),用于当存在匹配成功的第一巡检图像时,确定所述第一巡检图像所对应的第一拍摄时刻时,所述AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据;
位置信息修正模块(3),用于根据所述第一拍摄时刻时的AGV的位置信息以及所述图像采集设备与匹配成功的标识码的相对位置数据,计算得出匹配成功的标识码的观测位置信息,并查询匹配成功的标识码的参考位置信息,根据所述参考位置信息与观测位置信息的比对结果,修正所述AGV在第一拍摄时刻所对应的位置信息。
9.一种基于环境标识码的智能化搬运设备的融合定位装置,其特征在于,包括存储器和处理器,所述存储器上存储有能够被处理器加载并执行如权利要求1至7中任一种方法所述的计算机程序。
10.一种计算机可读存储介质,其特征在于,存储有能够被处理器加载并执行如权利要求1至7中任一种方法所述的计算机程序。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410295482.1A CN117906615B (zh) | 2024-03-15 | 基于环境标识码的智能化搬运设备的融合定位方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410295482.1A CN117906615B (zh) | 2024-03-15 | 基于环境标识码的智能化搬运设备的融合定位方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117906615A true CN117906615A (zh) | 2024-04-19 |
CN117906615B CN117906615B (zh) | 2024-06-04 |
Family
ID=
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103824340A (zh) * | 2014-03-07 | 2014-05-28 | 山东鲁能智能技术有限公司 | 无人机输电线路智能巡检系统及巡检方法 |
CN111582123A (zh) * | 2020-04-29 | 2020-08-25 | 华南理工大学 | 一种基于信标识别与视觉slam的agv定位方法 |
CN111741263A (zh) * | 2020-06-18 | 2020-10-02 | 广东电网有限责任公司 | 一种变电站巡检无人机的多目态势感知导航方法 |
CN112010236A (zh) * | 2020-08-18 | 2020-12-01 | 国以贤智能科技(上海)股份有限公司 | 无人驾驶叉车自动控制指令的识别方法、装置和设备 |
CN114792405A (zh) * | 2022-04-29 | 2022-07-26 | 贵州电网有限责任公司 | 一种架空线路防异物入侵监测方法 |
CN115017347A (zh) * | 2022-04-27 | 2022-09-06 | 国网山东省电力公司济南供电公司 | 融合高斯算法以及哈希算法的隐患图像处理方法及系统 |
CN115587151A (zh) * | 2021-07-05 | 2023-01-10 | 灵动科技(北京)有限公司 | 用于车辆的使用共享slam地图的方法和装置 |
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103824340A (zh) * | 2014-03-07 | 2014-05-28 | 山东鲁能智能技术有限公司 | 无人机输电线路智能巡检系统及巡检方法 |
CN111582123A (zh) * | 2020-04-29 | 2020-08-25 | 华南理工大学 | 一种基于信标识别与视觉slam的agv定位方法 |
CN111741263A (zh) * | 2020-06-18 | 2020-10-02 | 广东电网有限责任公司 | 一种变电站巡检无人机的多目态势感知导航方法 |
CN112010236A (zh) * | 2020-08-18 | 2020-12-01 | 国以贤智能科技(上海)股份有限公司 | 无人驾驶叉车自动控制指令的识别方法、装置和设备 |
CN115587151A (zh) * | 2021-07-05 | 2023-01-10 | 灵动科技(北京)有限公司 | 用于车辆的使用共享slam地图的方法和装置 |
CN115017347A (zh) * | 2022-04-27 | 2022-09-06 | 国网山东省电力公司济南供电公司 | 融合高斯算法以及哈希算法的隐患图像处理方法及系统 |
CN114792405A (zh) * | 2022-04-29 | 2022-07-26 | 贵州电网有限责任公司 | 一种架空线路防异物入侵监测方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111598952B (zh) | 一种多尺度合作靶标设计与在线检测识别方法及系统 | |
JP4884331B2 (ja) | 移動物体追跡装置 | |
CN112650298B (zh) | 一种无人机追踪降落方法及系统 | |
EP1730669A2 (en) | Component association tracker system and method | |
JP7272024B2 (ja) | 物体追跡装置、監視システムおよび物体追跡方法 | |
CN111932596B (zh) | 摄像头遮挡区域的检测方法、装置、设备和存储介质 | |
CN113490965A (zh) | 图像跟踪处理方法、装置、计算机设备和存储介质 | |
CN113469201A (zh) | 图像采集设备偏移检测方法、图像匹配方法、系统和设备 | |
CN117115784A (zh) | 目标数据融合的车辆检测方法及检测装置 | |
KR102236753B1 (ko) | 군집 rtk 드론들을 이용한 지상기준점 설정 방법 | |
CN117906615B (zh) | 基于环境标识码的智能化搬运设备的融合定位方法及系统 | |
GB2605948A (en) | Warehouse monitoring system | |
CN117906615A (zh) | 基于环境标识码的智能化搬运设备的融合定位方法及系统 | |
CN111640134A (zh) | 人脸跟踪方法、装置、计算机设备及其存储装置 | |
US8005261B2 (en) | Model-based object classification and target recognition | |
EP3647236B1 (en) | Projection instruction device, parcel sorting system, and projection instruction method | |
CN116358528A (zh) | 地图更新方法、地图更新装置、自移动设备及存储介质 | |
EP4354853A1 (en) | Thermal-image-monitoring system using plurality of cameras | |
CN115761693A (zh) | 一种基于全景图像下车位标志点检测与车辆跟踪定位方法 | |
CN114842332A (zh) | 一种库位检测方法和系统 | |
US20220292397A1 (en) | Recognition system, model processing apparatus, model processing method, and recording medium | |
CN111695404A (zh) | 行人跌倒检测方法、装置、电子设备及存储介质 | |
CN115034335B (zh) | 一种基于决策树模型的机器人自主协同控制方法和系统 | |
KR20200048918A (ko) | 측위 방법 및 그 장치 | |
CN113591705B (zh) | 巡检机器人仪表识别系统及方法、存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |