CN112484730B - 基于slam实现室内物料寻址导航的方法及系统 - Google Patents
基于slam实现室内物料寻址导航的方法及系统 Download PDFInfo
- Publication number
- CN112484730B CN112484730B CN202011302523.3A CN202011302523A CN112484730B CN 112484730 B CN112484730 B CN 112484730B CN 202011302523 A CN202011302523 A CN 202011302523A CN 112484730 B CN112484730 B CN 112484730B
- Authority
- CN
- China
- Prior art keywords
- data
- frame
- orb
- slam3
- indoor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/20—Instruments for performing navigational calculations
- G01C21/206—Instruments for performing navigational calculations specially adapted for indoor navigation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/005—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 with correlation of navigation data from several sources, e.g. map or contour matching
Abstract
本发明涉及一种基于SLAM实现室内物料寻址导航的方法及系统,包括:采集数据,其中采集数据的方法为:将采集的图片转换成图片数据,结合IMU数据,封装成帧数据发送到第一存储系统;制造室内地图,再根据所述室内地图的数据制造室内3D模型;根据物料的位置计算导航路径,并按照所述导航路径导航到物料所在的位置;效验物料,并收集物料直至完成所有物料的收集。本发明有利于及时定位,可以快速寻找物料。
Description
技术领域
本发明涉及工业计算机视觉定位的技术领域,尤其是指一种基于SLAM实现室内物料寻址导航的方法及系统。
背景技术
SLAM(英文全称Simultaneous Localization And Mapping,简称SLAM)主要目的是即时构建地图并定位。SLAM的概念最早在1988年Smith、Self和Cheeseman提出。研究方向是通过摄像头和传感器采集环境数据,模拟人眼对环境的认知,使机器人达到自主移动和导航的功能。
近代基于SLMA的概念延伸出各种不同的算法,基于采集设备的不同,大体分类有如下几种:第一、单目:只用一个摄像头采集数据。第二、双目:使用两个平行位置的摄像头采集数据。第三、RGB-D摄像头:带有深度感知的摄像头,简称深度摄像头。第四、单目+IMU传感器:使用一个摄像头采集数据,IMU做轨迹辅助校准。第五、激光:使用激光测量当前位置与物体的距离,第六、激光+IMU:激光测量物体,IMU做轨迹辅助校准。
目前比较热门的SLAM框架有:ORB-SLAM2、VINS MONO、VINS FUSION等。ORB-SLAM2是基于ORB特征的三维空间定位与即时构建地图的算法,在2015年由Raul Mur-Artal,J.M. M. Montiel和Juan D. Tardos等人提出的基于PTAM架构的算法。ORB特征提取方法计算图像的特征点效率较高,在追踪部分每帧耗时约30毫秒,其中特征点提取耗时约11毫秒,姿态估计耗时约20毫秒,整体效果可以达到30fps。在地图构建部分每帧耗时约385毫秒,其中采集新的特征点约耗时约70毫秒,数据闭环耗时约300毫秒,效率一般,有优化空间。在2020年7月由Carlos Campos, Richard Elvira等人发布了ORB-SLAM3,对比ORB-SLAM2增加了鱼眼镜头、IMU、多地图系统等,在初始化阶段性能提高了2-5倍,鲁棒性也大大提高。在追踪部分如果图片识别精度不够时,会使用IMU数据做辅助校准移动的轨迹,提高了移动轨迹的精确度。
WMC(英文全称Warehouse Management System,简称WMS),WMS是仓储管理系统,一种用于管理仓库中存储的物料信息的实时计算机操作信息系统,主要目的管理仓库物料和提升作业效率。包含物料的入库,收货检验,上架,拣货作业,库存数量,库内管理,出库等功能,为企业仓库管理提供便捷化,标准化,系统化的仓库管理。
传统WMS系统,在物料出入库或拣货作业等涉及到寻找物料或放置物料的相关作业时,需要操作员到电脑上打印物料清单,对应清单靠对仓库的认知一点点的寻找,如果仓库面积较大,操作的物料较多时,仅靠人脑无法在多点中求出最优路径,因此需要来回多次,浪费时间,效率较慢。此外在物料较多时,还容易发生物料遗漏,收集不全,需要人工反复清点,浪费人力。特别是对于新来的操作员或者对仓库不熟悉的操作员上述问题就变得更为明显。
发明内容
为此,本发明所要解决的技术问题在于克服现有技术中准确率低,且施工效率低的问题,从而提供一种高效、便捷,准确率高的基于SLAM实现室内物料寻址导航的方法及系统。
为解决上述技术问题,本发明的一种基于SLAM实现室内物料寻址导航的方法,包括:步骤S1:采集数据,其中采集数据的方法为:将采集的图片转换成图片数据,结合IMU数据,封装成帧数据发送到第一存储系统;步骤S2:制造室内地图,再根据所述室内地图的数据制造室内3D模型,其中制造室内地图的方法为:将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算所述数据并输出帧数据集和构建地图数据集;步骤S3:根据物料的位置以及操作员的位置计算导航路径,并按照所述导航路径导航到物料所在的位置,其中所述操作员的位置的定位方法为:将当前位置的环境数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备,所述前端设备根据帧姿态数据确定当前位置;步骤S4:效验物料,并收集物料直至完成所有物料的收集。
在本发明的一个实施例中,所述采集数据时,利用摄像头和IMU传感器采集数据。
在本发明的一个实施例中,所述帧数据包括当前的时间戳,图片数据,IMU数据,将一帧帧连续的数据保存起来形成一个完整的数据。
在本发明的一个实施例中,将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器时,以时间戳为序,每帧数据依次往后叠加。
在本发明的一个实施例中,所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备时,先将图片数据处理解析,提取特征点,再与帧数据集匹配,若两帧特征点的空间矢量相识度不小于90%时,则匹配成功,将当前帧数据加入帧数据集中,计算出当前帧基于上一帧的估计姿态数据,更新构建地图数据;若特征点匹配的两帧特征点的空间矢量相识度小于90%时,则结合IMU数据做辅助校准,将当前帧数据的IMU数据与前多帧的姿势数据计算出当前帧的姿态数据,最后输出帧数据集和构建地图数据集组成一个完整的地图数据。
在本发明的一个实施例中,所述制造室内3D模型的方法为:将所述室内地图数据中的帧数据集作为记录前端设备移动时的姿态数据,通过帧数据集绘制记录前端设备的移动路径;将构建地图数据中关键帧和特征点数据集以点云的效果建立三维环境模型,结合WMS系统的物料数据,将对应的物料位置数据和三维环境模型结合,建立完整的具有物料数据信息的三维环境模型。
在本发明的一个实施例中,所述关键帧是通过所述帧数据集进行提取,对多帧数据作比较,求出其中识别率最高的帧数据,作为关键帧。
在本发明的一个实施例中,所述计算导航路径的方法为:获取操作员所在的第一位置点的具体坐标信息,将第一位置点坐标上传到WMS系统,所述WMS系统根据第一位置点和物料所在的第二位置点的坐标计算出最优路径。
在本发明的一个实施例中,按照所述导航路径导航到物料所在的位置的方法为:将所述最优路径发送到所述前端设备,将所述最优路径数据以可视化的方式显示在所述前端设备中,结合ORB_SLAM3返回的帧姿态数据,确定当前设备的姿态,引导操作员前进。
本发明还提供了一种基于SLAM实现室内物料寻址导航系统,包括:数据采集模块,用于将采集的图片转换成图片数据,结合IMU数据,封装成帧数据发送到第一存储系统;建模模块,用于将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算所述数据并输出帧数据集和构建地图数据集,完成制造室内地图,再根据所述室内地图的数据制造室内3D模型;计算模块,用于根据物料的位置以及操作员的位置计算导航路径,并按照所述导航路径导航到物料所在的位置,其中所述操作员的位置的定位为:将当前位置的环境数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备,所述前端设备根据帧姿态数据确定当前位置;收集模块,用于效验物料,并收集物料直至完成所有物料的收集。
本发明的上述技术方案相比现有技术具有以下优点:
本发明所述的基于SLAM实现室内物料寻址导航的方法及系统,将采集的图片转换成图片数据,结合IMU数据,封装成帧数据发送到第一存储系统,有利于形成完整的室内地图数据;制造室内地图,再根据所述室内地图的数据制造室内3D模型,其中制造室内地图的方法为:将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3将运算完的帧姿态数据通过第二存储系统发送到前端设备,所述前端设备根据帧姿态确定当前位置,从而有利于形成一个三维环境模型;根据物料的位置计算导航路径,并按照所述导航路径导航到物料所在的位置,由于可以直接引导操作员进行作业,因此有利于降低学习成本,提高准确性;效验物料,并收集物料直至完成所有物料的收集,整个过程不但提升了拣料、放料等作业的工作效率,而且准确率高。
附图说明
为了使本发明的内容更容易被清楚的理解,下面根据本发明的具体实施例并结合附图,对本发明作进一步详细的说明,其中
图1是本发明基于SLAM实现室内物料寻址导航的方法流程图;
图2是本发明制造室内地图的流程图。
具体实施方式
实施例一
如图1所示,本实施例提供一种基于SLAM实现室内物料寻址导航的方法,包括如下步骤:步骤S1:采集数据,其中采集数据的方法为:将采集的图片转换成图片数据,结合IMU数据,封装成帧数据发送到第一存储系统;步骤S2:制造室内地图,再根据所述室内地图的数据制造室内3D模型,其中制造室内地图的方法为:将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算所述数据并输出帧数据集和构建地图数据集;步骤S3:根据物料的位置以及操作员的位置计算导航路径,并按照所述导航路径导航到物料所在的位置,其中所述操作员的位置的定位方法为:将当前位置的环境数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备,所述前端设备根据帧姿态数据确定当前位置;步骤S4:效验物料,并收集物料直至完成所有物料的收集。
本实施例所述基于SLAM实现室内物料寻址导航的方法,所述步骤S1中,采集数据,其中采集数据的方法为:将采集的图片转换成图片数据,结合IMU数据,封装成帧数据发送到第一存储系统,有利于形成完整的室内地图数据;所述步骤S2中,制造室内地图,再根据所述室内地图的数据制造室内3D模型,其中制造室内地图的方法为:将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算所述数据并输出帧数据集和构建地图数据集,从而有利于形成一个三维环境模型;所述步骤S3中,根据物料的位置以及操作员的位置计算导航路径,并按照所述导航路径导航到物料所在的位置,其中所述操作员的位置的定位方法为:将当前位置的环境数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备,所述前端设备根据帧姿态数据确定当前位置,由于可以直接引导操作员进行作业,因此有利于降低学习成本,提高准确性;所述步骤S4中,效验物料,并收集物料直至完成所有物料的收集,整个过程不但提升了拣料、放料等作业的工作效率,而且准确率高。
所述步骤S1中,采集数据时,利用摄像头和IMU传感器采集数据,从而有利于制造室内地图。另外,采集的数据是在前端设备移动的过程中产生。
再者,以帧为单位,每帧的数据(简称帧数据)包括当前的时间戳,图片数据,IMU数据,将一帧帧连续的数据保存起来形成一个完整的数据。
所述步骤S2中,制造室内地图时,将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器时,以时间戳为序,每帧数据依次往后叠加。
具体地,将采集好的数据发送到运行ORB-SLAM3的服务器,由所述服务器作运算解析,提取每帧的特征点结合IMU数据构建地图数据,将每帧的数据拆包分为时间戳,图片数据,IMU数据,以时间戳为序,每帧数据依次往后叠加。
所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备时,先将图片数据处理解析,提取特征点,再与帧数据集匹配,若两帧特征点的空间矢量相识度不小于90%时,则匹配成功,将当前帧数据加入帧数据集中,计算出当前帧基于上一帧的估计姿态数据,更新构建地图数据;若特征点匹配的两帧特征点的空间矢量相识度小于90%时,则结合IMU数据做辅助校准,将当前帧数据的IMU数据与前多帧的姿势数据计算出当前帧的姿态数据,有利于提高构建地图的准确性,最后输出帧数据集和构建地图数据集组成一个完整的室内地图数据。
所述室内地图数据中,对室内地图数据进行二进制化,将序列化地图数据保存到本地并可以重新加载。具体地,序列化地图数据是将ORB-SLAM3即时构建的地图数据和移动路径数据通过序列化的方式转换成二进制保存到本地,以便后期使用。所述室内地图数据是指将步骤S1中的采集数据通过SLAM算法提取的数据集。当ORB-SLAM3运算完成采集的数据,会形成一个完整的室内地图数据。
所述室内地图数据主要包含帧数据集和构建地图数据集。其中帧数据集是指经过计算后匹配成功的帧数据的集合,用于定位识别的功能;构建地图数据集是地图中所有的关键帧和特征点的数据库集合。
所述关键帧是通过所述帧数据集进行提取,对多帧数据作比较,求出其中识别率最高的帧数据,作为关键帧。具体地,将帧数据集进行提取,每5帧数据做比较,求出其中识别率最高的帧数据作为关键帧。
将上述数据输入到一个类容器中,将此类序列化转换成二进制数据,打开文件数据流,将转化后的室内地图数据保存到本地。
完成所述室内地图数据保存到本地后,可以在下次系统重启初始化阶段的时候重新加载地图,可以实现制作一份数据地图在多个机器上使用,避免重复劳动,具体加载地图方法如下:
所述室内地图数据加载触发机制会在系统初始的时候,将本地的二进制地图数据文件加载到内存中,反序列化成原来的帧数据集和构建地图数据集,并赋值到系统中,系统根据室内地图数据重新构建地图模型,加载所有帧数据,绘制移动路径数据,形成可以用于重新定位所有位置的关键帧数据库。
另外,制作地图数据时可以分为离线式和在线式,推荐使用在线式制作。其中在线式是指在采用的数据的同时,通过Redis发送数据到SLAM就可以实时制作地图数据,当识别误差较大时建议用离线式;离线式是指用前端的app采集数据保存到设备本地,再将采集的数据拷贝到运行ORB-SLAM3服务器上,调用离线解析脚本制作室内地图数据。
所述制造室内3D模型的方法为:将所述室内地图数据中的帧数据集作为记录前端设备移动时的姿态数据,通过帧数据集绘制记录前端设备的移动路径;将构建地图数据中关键帧和特征点数据集以点云的效果建立三维环境模型,结合WMS系统的物料数据,将对应的物料位置数据和三维环境模型结合,建立完整的具有物料数据信息的三维环境模型,从而有利于形成一个三维环境模型。
所述步骤S3中,所述计算导航路径的方法为:获取操作员所在的第一位置点的具体坐标信息,将第一位置点坐标上传到WMS系统,所述WMS系统根据第一位置点和物料所在的第二位置点的坐标计算出最优路径。其中,物料的位置在建模的时候结合WMS系统中的物料信息就可以确定。
具体地,假设操作员在A点位置,需要拿取的物料在B点位置。操作员使用前端设备,打开摄像头,识别周围环境通过ORB-SLAM3定位,获取操作员所在的A点的具体坐标信息,将A点坐标上传到WMS系统,WMS系统根据A点和B点的坐标计算出最优的路径,发送到前端设备,路径数据是一个个连续的坐标点的集合(以下简称:路径数据),路径数据的起点为A点,终点为B点。将路径数据以可视化的方式显示在前端设备中,结合ORB_SLAM3返回的帧姿态数据,确定当前设备的姿态,就可以引导操作员前进。
按照所述导航路径导航到物料所在的位置的方法为:将所述最优路径发送到所述前端设备,将所述最优路径数据以可视化的方式显示在所述前端设备中,结合ORB_SLAM3返回的帧姿态数据,确定当前设备的姿态,引导操作员前进。
所述步骤S4中,所述效验物料的方法为:利用扫码枪扫码物料的条形码。具体地,当操作员到达物料的位置时,使用扫码枪扫码物料的条形码,确认物料的准确性,然后就可以将确认后的物料收集起来直至完成所有物料收集。当一个订单中有多个物料的时候,可重复步骤S3和步骤S4,以完成所有物料的收集。
如图2所示,本发明使用前后端分离的设计模式,前端指运行采集数据的设备,如:手机,平板,AGV,树莓派等,理论上是配有摄像头和IMU传感器的计算机设备均可作为前端设备使用;后端指运行ORB-SLAM3的服务器,主要用于计算处理前端采集的数据,再将计算后的数据反馈到前端。前端程序运行的设备必须配有摄像头和IMU(惯性测量单元)传感器,主要功能是通过摄像头采集周围环境图片数据传输到后端,配合IMU记录移动数据提高准确率,后端使用基于Ubuntu18.04的服务器计算前端采集的数据,通过ORB-SLAM3将图片和IMU数据构建即时地图并计算移动轨迹。前端和后端数据通信使用TCP/IP协议。使用Redis(key-value存储系统)作数据中间存储,图片数据转换成Base64格式传输,将对应图片和IMU封装成帧数据发送到Redis,后端接收到Redis的数据在进行解析,将解析的数据发送到ORB-SLAM3,在将由ORB-SLAM3运算完的帧姿态数据通过Redis发送到设备在由可在多平台多语言中互相通讯。
另外,设备指具有采集数据功能的前端,通过设备采集图片数据和IMU数据,将图片使用Base64格式转码成字符串数据,同一时刻,记录设备的IMU数据,记录当前的时间戳,封装成帧数据。
一个完整的帧数据包含时间戳,图片数据,IMU数据。
帧数据通过所述第一存储系统,如Redis作中间存储转发给后端,后端接收到帧数据后做拆包处理,一个帧数据拆分为时间戳,图片数据,IMU数据三个数据对象。其中需要将图片数据从base64字符串解码成原来的图片格式。将这些数据输入到ORB-SLAM3做运算处理,经过运算对当前图片进行处理,提前特征点,将提取的特征点与前期存储的帧数据集匹配,当匹配到两帧特征点在空间向量的距离相近时,则认同是两帧的特征点为同一个特征点,然后将当前帧数据加入帧数据集,并输出当前帧数据的三维空间姿态(以下简称姿态),最后输出姿态是当前图片对应的姿态数据,帧姿态是指当前帧数据通过运算后得对应前端设备的空间姿态矩阵,包含设备在三维空间中的位置坐标和旋转角度信息。
帧姿态形式如下:
Z表示当前的空间姿态,包含当前的位置,角度,缩放。
将帧姿态数据通过第一存储系统,如Redis发送到前端设备,当前帧姿态数据是一个4*4的矩阵数据,使用通过特定的公式转换成Vector3矢量数据。转换后的数据包含当前的设备的位置,角度,缩放,前端设备基于帧姿态数据获取当前设备的位置(即操作员的位置),将当前位置和目标点位置输入到导航算法中计算出最优的导航路径,引导操作员前进。
本发明可以应用的场合不限于仓库,也可以是商场,超市,厂区,大型办公室等等。
实施例二
基于同一发明构思,本实施例提供了一种基于SLAM实现室内物料寻址导航的系统,其解决问题的原理与所述基于SLAM实现室内物料寻址导航的方法类似,重复之处不再赘述。
本实施例所述的基于SLAM实现室内物料寻址导航的系统包括:
数据采集模块,用于将采集的图片转换成图片数据,结合IMU数据,封装成帧数据发送到第一存储系统;
建模模块,用于将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算所述数据并输出帧数据集和构建地图数据集,完成制造室内地图,再根据所述室内地图的数据制造室内3D模型;
计算模块,用于根据物料的位置以及操作员的位置计算导航路径,并按照所述导航路径导航到物料所在的位置,其中所述操作员的位置的定位为:将当前位置的环境数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备,所述前端设备根据帧姿态数据确定当前位置;
收集模块,用于效验物料,并收集物料直至完成所有物料的收集。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,上述实施例仅仅是为清楚地说明所作的举例,并非对实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式变化或变动。这里无需也无法对所有的实施方式予以穷举。而由此所引伸出的显而易见的变化或变动仍处于本发明创造的保护范围之。
Claims (8)
1.一种基于SLAM实现室内物料寻址导航的方法,其特征在于,包括如下步骤:
步骤S1:采集数据,其中采集数据的方法为:将采集的图片转换成图片数据,结合IMU数据,封装成帧数据发送到第一存储系统;
步骤S2:制造室内地图,再根据所述室内地图的数据制造室内3D模型,其中制造室内地图的方法为:将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算所述数据并输出帧数据集和构建地图数据集,所述制造室内3D模型的方法为:将所述室内地图数据中的帧数据集作为记录前端设备移动时的姿态数据,通过帧数据集绘制记录前端设备的移动路径;将构建地图数据中关键帧和特征点数据集以点云的效果建立三维环境模型,结合WMS系统的物料数据,将对应的物料位置数据和三维环境模型结合,建立完整的具有物料数据信息的三维环境模型;
步骤S3:根据物料的位置以及操作员的位置计算导航路径,并按照所述导航路径导航到物料所在的位置,其中所述操作员的位置的定位方法为:将当前位置的环境数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备,所述前端设备根据帧姿态数据确定当前位置,所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备时,先将图片数据处理解析,提取特征点,再与帧数据集匹配,若两帧特征点的空间矢量相识度不小于90%时,则匹配成功,将当前帧数据加入帧数据集中,计算出当前帧基于上一帧的估计姿态数据,更新构建地图数据;若特征点匹配的两帧特征点的空间矢量相识度小于90%时,则结合IMU数据做辅助校准,将当前帧数据的IMU数据与前多帧的姿势数据计算出当前帧的姿态数据,最后输出帧数据集和构建地图数据集组成一个完整的地图数据;
步骤S4:效验物料,并收集物料直至完成所有物料的收集。
2.根据权利要求1所述的基于SLAM实现室内物料寻址导航的方法,其特征在于:所述采集数据时,利用摄像头和IMU传感器采集数据。
3.根据权利要求1所述的基于SLAM实现室内物料寻址导航的方法,其特征在于:所述帧数据包括当前的时间戳,图片数据,IMU数据,将一帧帧连续的数据保存起来形成一个完整的数据。
4.根据权利要求1所述的基于SLAM实现室内物料寻址导航的方法,其特征在于:将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器时,以时间戳为序,每帧数据依次往后叠加。
5.根据权利要求1所述的基于SLAM实现室内物料寻址导航的方法,其特征在于:所述关键帧是通过所述帧数据集进行提取,对多帧数据作比较,求出其中识别率最高的帧数据,作为关键帧。
6.根据权利要求1所述的基于SLAM实现室内物料寻址导航的方法,其特征在于:所述计算导航路径的方法为:获取操作员所在的第一位置点的具体坐标信息,将第一位置点坐标上传到WMS系统,所述WMS系统根据第一位置点和物料所在的第二位置点的坐标计算出最优路径。
7.根据权利要求6所述的基于SLAM实现室内物料寻址导航的方法,其特征在于:按照所述导航路径导航到物料所在的位置的方法为:将所述最优路径发送到所述前端设备,将所述最优路径数据以可视化的方式显示在所述前端设备中,结合ORB_SLAM3返回的帧姿态数据,确定当前设备的姿态,引导操作员前进。
8.一种基于SLAM实现室内物料寻址导航的系统,其特征在于,包括:
数据采集模块,用于将采集的图片转换成图片数据,结合IMU数据,封装成帧数据发送到第一存储系统;
建模模块,用于将采集的数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算所述数据并输出帧数据集和构建地图数据集,完成制造室内地图,再根据所述室内地图的数据制造室内3D模型,所述制造室内3D模型时,将所述室内地图数据中的帧数据集作为记录前端设备移动时的姿态数据,通过帧数据集绘制记录前端设备的移动路径;将构建地图数据中关键帧和特征点数据集以点云的效果建立三维环境模型,结合WMS系统的物料数据,将对应的物料位置数据和三维环境模型结合,建立完整的具有物料数据信息的三维环境模型;
计算模块,用于根据物料的位置以及操作员的位置计算导航路径,并按照所述导航路径导航到物料所在的位置,其中所述操作员的位置的定位为:将当前位置的环境数据通过所述第一存储系统发送到运行ORB-SLAM3的服务器,所述服务器运算解析后将数据传输至ORB-SLAM3,所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备,所述前端设备根据帧姿态数据确定当前位置,所述ORB-SLAM3计算并输出帧姿态数据,通过第二存储系统发送到前端设备时,先将图片数据处理解析,提取特征点,再与帧数据集匹配,若两帧特征点的空间矢量相识度不小于90%时,则匹配成功,将当前帧数据加入帧数据集中,计算出当前帧基于上一帧的估计姿态数据,更新构建地图数据;若特征点匹配的两帧特征点的空间矢量相识度小于90%时,则结合IMU数据做辅助校准,将当前帧数据的IMU数据与前多帧的姿势数据计算出当前帧的姿态数据,最后输出帧数据集和构建地图数据集组成一个完整的地图数据;
收集模块,用于效验物料,并收集物料直至完成所有物料的收集。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011302523.3A CN112484730B (zh) | 2020-11-19 | 2020-11-19 | 基于slam实现室内物料寻址导航的方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011302523.3A CN112484730B (zh) | 2020-11-19 | 2020-11-19 | 基于slam实现室内物料寻址导航的方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112484730A CN112484730A (zh) | 2021-03-12 |
CN112484730B true CN112484730B (zh) | 2023-03-10 |
Family
ID=74932096
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011302523.3A Active CN112484730B (zh) | 2020-11-19 | 2020-11-19 | 基于slam实现室内物料寻址导航的方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112484730B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104220351A (zh) * | 2012-02-10 | 2014-12-17 | 迪尔公司 | 用于便于从车辆上卸载农业物料的方法和立体视觉系统 |
CN109154825A (zh) * | 2016-07-28 | 2019-01-04 | X开发有限责任公司 | 库存管理 |
WO2020132535A1 (en) * | 2018-12-21 | 2020-06-25 | Motion2Ai | Warehouse management method and system |
CN111664843A (zh) * | 2020-05-22 | 2020-09-15 | 杭州电子科技大学 | 一种基于slam的智能仓储盘点方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11348066B2 (en) * | 2013-07-25 | 2022-05-31 | IAM Robotics, LLC | System and method for piece picking or put-away with a mobile manipulation robot |
US20170278047A1 (en) * | 2016-03-25 | 2017-09-28 | Locus Robotics Corporation | Dynamic task interleaving in robot assisted order-fulfillment operations |
WO2018039337A1 (en) * | 2016-08-23 | 2018-03-01 | Canvas Technology, Inc. | Autonomous cart for manufacturing and warehouse applications |
WO2020206457A1 (en) * | 2019-04-05 | 2020-10-08 | IAM Robotics, LLC | Autonomous mobile robotic systems and methods for picking and put-away |
-
2020
- 2020-11-19 CN CN202011302523.3A patent/CN112484730B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104220351A (zh) * | 2012-02-10 | 2014-12-17 | 迪尔公司 | 用于便于从车辆上卸载农业物料的方法和立体视觉系统 |
CN109154825A (zh) * | 2016-07-28 | 2019-01-04 | X开发有限责任公司 | 库存管理 |
WO2020132535A1 (en) * | 2018-12-21 | 2020-06-25 | Motion2Ai | Warehouse management method and system |
CN111664843A (zh) * | 2020-05-22 | 2020-09-15 | 杭州电子科技大学 | 一种基于slam的智能仓储盘点方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112484730A (zh) | 2021-03-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Wong et al. | Segicp: Integrated deep semantic segmentation and pose estimation | |
CN107741234B (zh) | 一种基于视觉的离线地图构建及定位方法 | |
Davison et al. | MonoSLAM: Real-time single camera SLAM | |
CN101794349B (zh) | 机器人遥操作增强现实实验系统及方法 | |
US11638001B2 (en) | Automated spatial indexing of images to video | |
Wang et al. | Latte: accelerating lidar point cloud annotation via sensor fusion, one-click annotation, and tracking | |
EP3646583A1 (en) | Automated spatial indexing of images based on floorplan features | |
CN112115874B (zh) | 一种融合云端的视觉slam系统及方法 | |
CN111664843A (zh) | 一种基于slam的智能仓储盘点方法 | |
US10699438B2 (en) | Mobile device localization in complex, three-dimensional scenes | |
US11734882B2 (en) | Machine learning based object identification using scaled diagram and three-dimensional model | |
Kästner et al. | A 3d-deep-learning-based augmented reality calibration method for robotic environments using depth sensor data | |
CN110603122A (zh) | 用于交互式学习应用的自动个性化反馈 | |
EP4133408A1 (en) | Image search in walkthrough videos | |
CN111753696A (zh) | 一种感知场景信息的方法、仿真装置、机器人 | |
EP4336385A1 (en) | Method and apparatus for updating target detection model | |
Zhou et al. | 3d pose estimation of robot arm with rgb images based on deep learning | |
Wang et al. | Towards assistive robotic pick and place in open world environments | |
Wang et al. | A human-robot collaboration system towards high accuracy | |
CN113570716A (zh) | 云端三维地图构建方法、系统及设备 | |
CN112484730B (zh) | 基于slam实现室内物料寻址导航的方法及系统 | |
CN114800524B (zh) | 一种人机交互协作机器人主动避碰的系统及方法 | |
Voronin et al. | Action recognition algorithm from visual sensor data for contactless robot control systems | |
CN116197918B (zh) | 基于动作记录分析的机械手控制系统 | |
Xu et al. | A fast and straightforward hand-eye calibration method using stereo camera |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |