CN110262507B - 一种基于5g通信的相机阵列机器人定位方法及装置 - Google Patents
一种基于5g通信的相机阵列机器人定位方法及装置 Download PDFInfo
- Publication number
- CN110262507B CN110262507B CN201910600152.8A CN201910600152A CN110262507B CN 110262507 B CN110262507 B CN 110262507B CN 201910600152 A CN201910600152 A CN 201910600152A CN 110262507 B CN110262507 B CN 110262507B
- Authority
- CN
- China
- Prior art keywords
- dimensional code
- vehicle
- mobile robot
- pose
- robot
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
- G06K17/00—Methods or arrangements for effecting co-operative working between equipments covered by two or more of main groups G06K1/00 - G06K15/00, e.g. automatic card files incorporating conveying and reading operations
- G06K17/0022—Methods or arrangements for effecting co-operative working between equipments covered by two or more of main groups G06K1/00 - G06K15/00, e.g. automatic card files incorporating conveying and reading operations arrangements or provisious for transferring data to distant stations, e.g. from a sensing device
- G06K17/0025—Methods or arrangements for effecting co-operative working between equipments covered by two or more of main groups G06K1/00 - G06K15/00, e.g. automatic card files incorporating conveying and reading operations arrangements or provisious for transferring data to distant stations, e.g. from a sensing device the arrangement consisting of a wireless interrogation device in combination with a device for optically marking the record carrier
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
- G06K7/00—Methods or arrangements for sensing record carriers, e.g. for reading patterns
- G06K7/10—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
- G06K7/14—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
- G06K7/1404—Methods for optical code recognition
- G06K7/1408—Methods for optical code recognition the method being specifically adapted for the type of code
- G06K7/1417—2D bar codes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
- G06K7/00—Methods or arrangements for sensing record carriers, e.g. for reading patterns
- G06K7/10—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
- G06K7/14—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
- G06K7/1404—Methods for optical code recognition
- G06K7/146—Methods for optical code recognition the method including quality enhancement steps
-
- G—PHYSICS
- G08—SIGNALLING
- G08C—TRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
- G08C17/00—Arrangements for transmitting signals characterised by the use of a wireless electrical link
- G08C17/02—Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Electromagnetism (AREA)
- General Health & Medical Sciences (AREA)
- Computer Networks & Wireless Communication (AREA)
- Toxicology (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Aviation & Aerospace Engineering (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Automation & Control Theory (AREA)
- General Engineering & Computer Science (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Manipulator (AREA)
Abstract
一种基于5G通信的相机阵列机器人定位方法及装置,针对目前室内移动机器人部署复杂、定位不准的弊端,提出将广角相机阵列安装在室内顶部,一方面获取更大的视野,另一方面,不影响室内其他的操作环境;同时机器人搭载二维码,二维码被相机阵列识别后可以提供机器人编号信息,以及在世界坐标系下的准确位姿。采用5G通信方式传输采集的图像数据、机器人位姿数据和控制指令,以满足移动机器人对实时性的要求。最后设置机器人控制服务器负责接收相机数据并进行位姿计算和路径规划,并将控制指令发送给移动机器人端,移动机器人端只需要执行控制指令,无需搭载工控机,节约了系统的整体成本。
Description
技术领域
本发明涉及计算机视觉、机器人自主定位领域,具体涉及一种基于5G通信的相机阵列机器人定位方法及装置。
背景技术
自主定位技术是移动机器人的核心。目前,比较稳定的自主定位技术包括激光定位、磁条定位和视觉定位。其中激光定位部署简单,受光照等影响较小,精度高。但高精度激光雷达的成本较高,往往是视觉传感器的几十甚至上百倍,极大拉高了移动机器人的成本,且二维激光采集的信息过于简单,环境适应性差。磁条定位则需要较高的维护成本,且易受环境变化影响。
视觉定位的主要问题是受光照等条件影响较大,很难对环境中的自然特征进行稳定识别,因此常用的方法是依赖环境中事先布置好的二维码进行定位。但二维码的布置时间较长,且成本较高,需要对现场进行较大的改造。机器人行动区域均需布置适当密度的二维码,如果更换路线,则需要重新布置,对整个环境改变较大。且二维码一般会布置在地面上,极易被遮挡或污染,导致定位失败,维护成本极高。且受当前数据传输速率限制,位姿计算及导航必须在本地完成。因此,每台机器人必须搭载工控机,进行位姿计算以及路径规划,提升了单车成本。
从节约成本的角度出发,结合二维码定位的基本原理,同时为克服传统视觉定位方案的种种弊端,本发明提出了一种基于5G技术使用安装在顶部的相机阵列进行定位的方案。通过检索,专利号为CN201710535581的《基于地基鱼眼相机阵列的无人机光学跟踪定位方法》提出了相似的定位方法。上述专利采用在地基安装鱼眼相机阵列对无人机进行识别的方法,使用视觉传感器采集图像分析后获取无人机的像素坐标,然后通过多相机对单一目标的共同识别,恢复出无人机的位姿。但该方法对无人机的分析识别过于简单,对无人机整体当做一个目标识别,误差较大,且无法对不同的个体进行区分,不适合用于室内机器人的定位。且相机阵列无法进行计算,必须搭配运算模块,因此需要实时传输图像到运算模块,现有的无线通信技术无法达到稳定、低延时的要求。专利号为CN201910108666的《一种数据中心机房机器人导航定位系统》提出了一种室内机器人适用的视觉二维码定位方式,成本较低,稳定性较强。但该方法需要在机房张贴二维码,同时需要手绘二维码地图,部署过程繁琐,且事先张贴好的二维码被污染、遮挡后定位易失效。这样的室内机器人部署复杂且定位不准,也不能满足移动机器人对实时性的要求。最后每个移动机器人都需要识别二维码信息并控制运行以满足轨迹规划,均需要较强大的计算能力,不利于降低系统的整体成本。
发明内容
本发明针对上述问题,提出了一种基于5G通信的相机阵列机器人定位方法及装置,在降低机器人系统成本的同时提高移动机器人自主定位的精度和定位稳定性。
为解决上述技术问题,根据本发明的一个方面,提供了一种基于5G通信的相机阵列机器人定位方法,包括如下步骤:
步骤S1:收集传感器信息,即使用顶部相机阵列对场景中的图像进行实时采集,并通过5G通信方式发送给机器人控制服务器;
步骤S2:对获取的图像进行反畸变,并准确识别出反畸变后图像中的车载二维码;
步骤S3:对识别出的车载二维码进行解码;
步骤S4:预设二维码坐标系;
步骤S5:基于预设二维码坐标系,根据收到的车载二维码识别移动机器人身份信息并计算移动机器人的当前位姿;
步骤S6:根据移动机器人的当前位姿和期望位姿计算控制指令,将控制指令通过5G通信发送给移动机器人,移动机器人实时响应,执行所述控制指令。
优选地,所述步骤S3中的所述对识别出的车载二维码进行解码,包括获取解码信息以及车载二维码的4个角点的信息;其中解码信息是移动机器人的编号信息,每个移动机器人均有唯一编号,对每个移动机器人将车载二维码的4个角点按顺序打包发送给机器人控制服务器,以计算移动机器人的准确位姿。
优选地,所述预设二维码坐标系,包括根据车载二维码的实际尺寸大小预设其4个角点的三维坐标;将车载二维码两实线交点设置为(0,0,0),左边顶点设置为(0,h,0),底边顶点设置为(w,0,0),对角定点设置为(w,h,0),w和h分别为车载二维码的实际宽和高。
优选地,所述顶部相机阵列安装在移动机器人运行区域的上部,相机朝下进行拍摄,对场景中的图像进行实时采集,所述车载二维码安装于移动机器人顶部,避免被遮挡。
优选地,所述顶部相机阵列是顶部广角相机阵列;所述顶部广角相机阵列中广角相机的数量为多个,布置的过程中保证广角相机阵列的视野能够完全覆盖移动机器人可能的运行区域,同时顶部广角相机阵列中各广角相机之间互相有较大的共视面积。
优选地,所述根据收到的车载二维码识别移动机器人身份信息并计算移动机器人的当前位姿,包括,将预设的车载二维码的4个角点的三维坐标与步骤S3中发送的角点像素坐标对齐,采用最小化重投影误差的方式计算相机在二维码坐标系下的位姿;首先获取三维坐标点重投影后的像素坐标,如式(1)所示:
siui=K exp(ξ^)Pi (1)
其中,si表示该点的深度,ui即重投影后的像素坐标,K表示相机内参矩阵,exp(ξ^)表示待估计的位姿,Pi表示预设的车载二维码的4个角点的三维坐标;
重投影误差为式(2)所示:
其中,符号含义同上,n表示像素数量;
得到相机在二维码坐标系下的位姿后,再根据预先标定好的相机在世界坐标系下的位姿,计算出车载二维码在世界坐标系下的位姿;同时,由于车载二维码搭载在移动机器人上的固定位置,车载二维码相对于移动机器人中心是一个固定变换,因此最终可以得到移动机器人在世界坐标系下的精确位姿。
根据本发明的另一个方面,提供了一种移动机器人,包括图像采集传输模块、机器人控制服务器和移动机器人;
其中,
所述图像采集传输模块,实时采集图像数据并实时传输所述实时采集的图像数据至机器人控制服务器;
所述机器人控制服务器,实时接收所述实时采集的图像数据并进行位姿计算和路径规划,将控制指令实时发送给移动机器人端;
所述移动机器人,实时接收所述控制指令并实时执行所述控制指令;
采用5G通信方式实时传输采集的图像数据和实时传输移动机器人控制指令。
优选地,所述图像采集传输模块包括顶部相机阵列和第一通信模块,其中所述顶部相机阵列实时采集图像,所述第一通信模块实时传输所述实时采集的图像至机器人控制服务器;
所述机器人控制服务器,包括第二通信模块、图像处理模块、位姿计算模块、决策系统模块、调度系统模块;
所述第二通信模块实时接收所述第一通信模块实时传输的所述实时采集的图像;
所述图像处理模块对所述实时采集的图像进行处理并识别出车载二维码;
所述位姿计算模块根据收到的车载二维码识别移动机器人身份信息并计算移动机器人的当前位姿;
所述决策系统模块根据所述位姿计算模块获得的移动机器人的当前位姿和期望位姿计算控制指令;
调度系统模块根据决策系统模块计算出的控制指令,向需要执行运动的移动机器人实时发送所需执行的运动指令;
所述移动机器人,其上搭载第三通信模块、运动执行机构和二维码即车载二维码;通过所述第三通信模块实时接收所述运动指令后由运动执行机构实时执行所述运动指令;
所述第一、第二、第三通信模块为5G通信模块。
优选地,所述顶部相机阵列安装在移动机器人运行区域的上部,相机朝下进行拍摄,对场景中的图像进行实时采集,所述车载二维码安装于移动机器人顶部,避免被遮挡;
所述顶部相机阵列是顶部广角相机阵列;所述顶部广角相机阵列中广角相机的数量为多个,布置的过程中保证广角相机阵列的视野能够完全覆盖移动机器人可能的运行区域,同时顶部广角相机阵列中各广角相机之间互相有较大的共视面积。
优选地,所述移动机器人接收所述运动指令后完成一次定位过程,然后进入到下一次定位过程;
所述移动机器人的数量为一个或多个。
优选地,顶部广角相机阵列布置完成后进行相机之间的相互标定,并确定所述顶部相机阵列中各个相机的世界坐标;
所述标定方式采用不同相机对同一机器人进行识别的方式来确认相机之间的相互关系,然后根据各个相机之间的相互关系,获取其世界坐标系下的坐标;
将安装的第一个相机作为世界坐标的(0,0,0)点,根据其他每个相机与第一个相机之间的相对关系,确定其他每个相机的世界坐标。
优选地,所述图像处理模块对通信模块传输的顶部相机阵列采集到的图像数据进行处理时,首先对图像进行反畸变,并在反畸变后的图像上识别车载二维码;识别出车载二维码后进行解码操作,可以得到每个车载二维码包含的信息以及所述车载二维码的4个角点在图像中的像素坐标;所述车载二维码包含的信息是机器人的编号信息,所述编号信息代表每一个移动机器人的身份信息,用于对不同的机器人进行区分;所述车载二维码的4个角点在图像中的像素坐标用于确定所述每一个移动机器人的位姿;对每个移动机器人将车载二维码的4个角点按顺序打包发送给机器人控制服务器的位姿计算模块,以计算移动机器人的准确位姿;
所述位姿计算模块根据收到的车载二维码的4个角点在图像中的像素坐标计算车载二维码与顶部相机阵列中相机之间的相对位姿关系;在得到该位姿关系以后,再通过预先标定好的相机在世界坐标系下的坐标,将车载二维码坐标转换到世界坐标系下;
根据二维码的实际尺寸大小预设车载二维码的4个角点的三维坐标;将二维码两实线交点设置为(0,0,0),左边顶点设置为(0,h,0),底边顶点设置为(w,0,0),对角定点设置为(w,h,0),w和h分别为二维码的实际宽和高,这里取w=h;
位姿计算模块将预设的车载二维码的4个角点的三维坐标与发送给机器人控制服务器的位姿计算模块的车载二维码的4个角点像素坐标对齐,采用最小化重投影误差的方式计算相机在二维码坐标系下的位姿;首先获取三维坐标点重投影后的像素坐标,如式(1)所示:
siui=K exp(ξ^)Pi (1)
其中,si表示该点的深度,ui即重投影后的像素坐标,K表示相机内参矩阵,exp(ξ^)表示待估计的位姿,Pi表示预设的车载二维码的4个角点的三维坐标;
重投影误差为式(2)所示:
其中,符号含义同上,n表示像素数量;
得到相机在二维码坐标系下的位姿后,再根据预先标定好的相机在世界坐标系下的位姿,计算出车载二维码在世界坐标系下的位姿;同时,由于车载二维码搭载在移动机器人上的固定位置,车载二维码相对于移动机器人中心是一个固定变换,因此最终可以得到移动机器人在世界坐标系下的精确位姿。
本发明与现有技术相比,具有如下优点:
1、通过使用顶部广角相机识别车载二维码对机器人进行定位的方式,对单一机器人能够使用多相机进行捕捉定位,极大地增强了定位的鲁棒性及准确性。
2、使用顶部安装相机,视野广,部署简单,对环境改变小,而车载二维码部署方便,不易破坏且后期易于维护。
3、能够方便地对不同机器人进行区分,并准确识别计算出每个机器人的世界坐标。同时,因为定位方式简单,避免了传统相机阵列标定中计算本征矩阵的方式,只需要使用多相机对单一固定物体进行识别,即可以得到各相机之间的相对位姿。
4、通过5G技术进行图像传输和移动机器人运行指令下发,能够极大地降低延迟,做到实时响应。
5、使用机器人控制服务器进行图像处理、位姿计算、运动决策,机器人只需要接收并执行控制指令,无需搭载工控机等计算模块,极大地降低了系统成本,增强了移动机器人的环境适应性。
附图说明
附图示出了本发明的示例性实施方式,并与其说明一起用于解释本发明的原理,其中包括了这些附图以提供对本发明的进一步理解,并且附图包括在本说明书中并构成本说明书的一部分。通过结合附图对本发明的实施例进行详细描述,本发明的上述和其它目的、特征、优点将更加清楚。
图1方案示意图;
图2流程图;
图3二维码坐标系示意图;
图4坐标转换关系图。
具体实施方式
下面结合附图和实施方式对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施方式仅用于解释相关内容,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分。
需要说明的是,在不冲突的情况下,本发明中的实施方式及实施方式中的特征可以相互组合。下面将参考附图并结合实施方式来详细说明本发明。
本发明公开一种基于顶部相机阵列尤其是顶部广角相机阵列的移动机器人定位方案。不同于普通的视觉二维码定位方案采用在目标位置张贴二维码使用移动机器人搭载相机进行识别的方式;本发明的方案采用将顶部相机阵列尤其是顶部广角相机阵列安装在移动机器人运行区域的顶部,相机朝下进行拍摄,一方面获取更大的视野,另一方面,不影响移动机器人运行区域内其他的操作环境,尤其有利于室内移动机器人操作环境。同时二维码搭载于机器人上,相机拍摄搭载于机器人上的二维码即车载二维码,通过识别二维码来识别每一台机器人,二维码被相机识别后可以获得每一台机器人的编号信息及其位姿数据,实现移动机器人的自主定位控制。然后采用5G通信方式传输采集的图像数据和机器人位姿数据,以满足移动机器人对实时性的要求。最后设置机器人控制服务器负责接收相机数据并进行位姿计算和路径规划,并将控制指令发送给机器人端,机器人端只需要执行控制指令,无需搭载工控机,节约了系统的整体成本。采用所述在顶部安装相机阵列识别车载二维码的方式,可以极大地避免传统定位方式元件部署复杂,识别精度不高的弊端,具有极强的普适性,提高了移动机器人自主定位的准确性和运动的稳定性及运行精度。
本发明的基于5G通信的相机阵列机器人定位方法及装置,主要包括图像采集传输模块、机器人控制服务器和移动机器人等三大模块。
本发明的技术方案的示意图如图1所示。顶部相机阵列安装在移动机器人运行区域的上部,如厂房顶部或室内环境的天花板上;顶部相机阵列中各相机之间有较大面积的共视区域;车载二维码搭载在移动机器人顶部,安装时注意防止被移动机器人运送的货物等遮挡,同时也避免损坏;现有技术中二维码均安装在厂房内的固定位置上,数量有限,且事先张贴好的二维码容易被污染和遮挡,定位精度低;为了提高移动机器人的定位精度,本发明将二维码搭载在移动机器人顶部,随移动机器人实时移动,这就需要较高的通信传输性能以保证通信质量;由于目前通用的通信技术无法满足对移动机器人控制的实时性需求,因此,各部分之间的通信均通过5G通信方式完成,最大程度地做到降低延迟,以保证实时响应;计算出移动机器人位姿后即完成一次定位,移动机器人根据新下发的指令进行运动,进入到下一次定位过程。整套系统的图像处理、位姿计算、导航调度决策均在机器人控制服务器上完成,移动机器人个体只需执行控制服务器发送的控制指令,无需搭载工控机等计算模块。由于移动机器人无需搭载工控机等计算模块,可以在降低了系统的整体成本的同时还保证了能够适应不同应用场合中的复杂工作环境,在面对不同的诸如高温、低温、高压、低压、高湿、干燥、腐蚀或灰尘污染物多的使用场合中,能够保证较高的定位精度和运行稳定性。机器人控制服务器可以根据需要布置在合适的位置,不受地理空间限制。
所述图像采集传输模块负责实时采集和传输图像,即使用相机阵列对场景中的图像进行实时采集,并通过5G通信技术将图像传输给机器人控制服务器;本实施例中优选地需要将相机阵列预先布置在移动机器人工作环境的上部,构成顶部相机阵列,所述顶部相机阵列中相机的数量为多个,布置的过程中要保证相机阵列的视野能够完全覆盖移动机器人可能的运行区域,同时相机阵列中相机之间互相有较大的共视面积。本实施例中优选地采用广角相机来布置相机阵列,构成顶部广角相机阵列,由于数个广角相机即可覆盖很大的视野范围,因此,这样一次布置后即便后续修改移动机器人的运行路线或者增加移动机器人的运行区域,也无需进行重新布置。
顶部相机阵列布置完成后需要进行相机之间的相互标定,并确定所述顶部相机阵列中各个相机的世界坐标。标定方式可采用不同相机对同一机器人进行识别的方式来确认相机之间的相互关系,然后根据各个相机之间的相互关系,获取其世界坐标系下的坐标。本实施例中优选地将安装的第一个相机作为世界坐标的(0,0,0)点,根据其他每个相机与第一个相机之间的相对关系,确定其他每个相机的世界坐标。采用此种标定方式可降低标定的复杂度,简化标定过程。
所述机器人控制服务器包括5G通信模块、图像处理模块、位姿计算模块、决策系统模块、调度系统模块等部分。
所述5G通信模块采用5G通信技术与图像采集传输模块和移动机器人通信。
所述图像处理模块负责对通信模块传输的顶部相机阵列采集到的图像进行处理并识别车载二维码。首先对图像进行反畸变,并在反畸变后的图像上识别车载二维码。识别出车载二维码后进行解码操作,可以得到每个车载二维码包含的信息以及所述车载二维码的4个角点在图像中的像素坐标。所述车载二维码包含的信息是机器人的编号信息,所述编号信息代表每一个移动机器人的身份信息,用于对不同的机器人进行区分;所述车载二维码的4个角点在图像中的像素坐标用于确定所述每一个移动机器人的位姿。
所述位姿计算模块负责根据收到的车载二维码的4个角点在图像中的像素坐标计算车载二维码与顶部相机阵列中相机之间的相对位姿关系。在得到该位姿关系以后,再通过预先标定好的相机在世界坐标系下的坐标,将车载二维码坐标转换到世界坐标系下。同时,由于车载二维码的位姿与移动机器人中心位姿是一个固定变换关系,这样就可以获得移动机器人中心在世界坐标系下的准确位姿。
决策系统模块根据位姿计算模块获得的移动机器人的当前位姿和期望位姿计算控制指令。
调度系统模块根据决策系统模块计算出的控制指令,向需要执行运动的移动机器人发送所需执行的运动指令,所述运行指令包括启动、前进、后退、转向、加速、减速以及停止等指令。
所述移动机器人负责接收并执行所述运动指令。所述移动机器人接收所述运动指令后完成一次定位过程,运动后进入到下一次定位过程。所述移动机器人的数量为一个或多个。
基于上述3个模块,不失一般性,在所述移动机器人任意一次定位过程中,其控制流程(如图2所示)包括如下步骤:
步骤S1:收集传感器信息,即使用顶部相机阵列对场景中的图像进行实时采集,并通过5G通信技术发送给机器人控制服务器;
步骤S2:对获取的图像进行反畸变,并准确识别出反畸变后图像中的车载二维码;
步骤S3:对识别出的车载二维码进行解码,获取解码信息以及车载二维码的4个角点的信息;其中解码信息是移动机器人的编号信息,每个移动机器人均有唯一编号,对每个移动机器人将二维码的4个角点按顺序打包发给位姿计算部分,用于计算移动机器人的准确位姿;
步骤S4:预设二维码坐标系;根据二维码的实际尺寸大小预设其4个角点的三维坐标;不失一般性地,将二维码两实线交点设置为(0,0,0),左边顶点设置为(0,h,0),底边顶点设置为(w,0,0),对角定点设置为(w,h,0),w和h分别为二维码的实际宽和高,一般情况下w=h(如图3所示);
步骤S5:位姿计算模块将预设的三维坐标与S3中发送的角点像素坐标对齐,采用最小化重投影误差的方式计算相机在二维码坐标系下的位姿;首先获取三维坐标点重投影后的像素坐标,如下式所示:
siui=K exp(ξ^)Pi
其中,si表示该点的深度,ui即重投影后的像素坐标,K表示相机内参矩阵,exp(ξ^)表示待估计的位姿,Pi表示预设的车载二维码的4个角点的三维坐标;
重投影误差表示如下:
其中,符号含义同上,n表示像素数量。
得到位姿后,再根据预先标定好的相机在世界坐标系下的位姿,计算出车载二维码在世界坐标系下的位姿;同时,由于车载二维码搭载在移动机器人上的固定位置,车载二维码相对于移动机器人中心是一个固定变换,因此最终可以得到移动机器人在世界坐标系下的精确位姿;位姿转换过程如图4所示。
步骤S6:调度及决策系统根据计算出的位姿将控制指令通过5G通信发送给机器人,使机器人做到实时响应。
综上所述,首先,广角相机视野极大,数个广角相机就可以覆盖很大的范围,安装在室内环境的顶部也使其视野更加广阔。在一个相机内可以看到多台正在运行的移动机器人,而每个移动机器人也都会被多个相机看到,每个移动机器人被多个相机识别后,计算位姿,相比于传统的固定二维码方案,机器人到达某个位置后识别单个二维码进行定位,本发明的定位精度以及可靠性都大大增强。
其次,广角相机的覆盖范围大,在室内部署足够覆盖整个环境的广角相机后,无论后期增加、更换路线,都不用进行二次部署,相比于在每条路线上都要张贴二维码的传统方案,本发明由于相机视野已经覆盖工作区域,无需重新部署任何硬件设备,只需要简单设置运行参数即可,因此,本方案的部署更加方便、快捷,鲁棒性强。同时,由于二维码被搭载在移动机器人上而不是放置于环境中,相对来说很难被遮挡或者破坏,更加易于维护。只需要简单地检查每个需要运行的移动机器人上的二维码的完整性即可,而不像传统的二维码定位方案,需要检查全场地的二维码来进行维护。
再次,相机阵列通过识别车载二维码,可以很容易地获得机器人的编号信息以及位姿信息,多机调度将很容易进行。同时,因为单一相机识别单一二维码即可得到相机相对于二维码的准确位姿变换,相比于传统相机阵列需要使用本征矩阵进行相互标定,本方案相机之间外参的标定也会变得更加简单。只需要不同相机对单一固定二维码进行识别,即可得到各相机之间的相对位姿。
最后,设置机器人控制服务器负责接收相机数据并进行位姿计算和路径规划,并将控制指令发送给机器人端,机器人端只需要执行控制指令。所有的数据传输均使用5G通信技术,能够达到实时计算、实时控制和实时响应的效果。因此机器人端也无需搭载工控机,所有计算均在云端进行,节约了系统的整体成本并且提高了机器人运行的可靠性。
至此,已经结合附图所示的优选实施方法描述了本发明的技术方案,但是,本领域技术人员应当理解,上述实施方式仅仅是为了清楚地说明本发明,而并非是对本发明的范围进行限定,本发明的保护范围显然不局限于这些具体实施方式。在不偏离本发明的原理的前提下,本领域技术人员可以对相关技术特征作出等同的更改或替换,这些更改或替换之后的技术方案都将落入本发明的保护范围之内。
Claims (7)
1.一种基于5G通信的相机阵列机器人定位方法,其特征在于,包括如下步骤:
步骤S1:收集传感器信息,即使用顶部相机阵列对场景中的图像进行实时采集,并通过5G通信方式发送给机器人控制服务器;
步骤S2:对获取的图像进行反畸变,并准确识别出反畸变后图像中的车载二维码;
步骤S3:对识别出的车载二维码进行解码;
步骤S4:预设二维码坐标系;
步骤S5:基于预设二维码坐标系,根据收到的车载二维码识别移动机器人身份信息并计算移动机器人的当前位姿;
步骤S6:根据移动机器人的当前位姿和期望位姿计算控制指令,将控制指令通过5G通信发送给移动机器人,移动机器人实时响应,执行所述控制指令;
所述步骤S3中的所述对识别出的车载二维码进行解码,包括获取解码信息以及车载二维码的4个角点的信息;其中解码信息是移动机器人的编号信息,每个移动机器人均有唯一编号,对每个移动机器人将车载二维码的4个角点按顺序打包发送给机器人控制服务器,以计算移动机器人的准确位姿;
所述预设二维码坐标系,包括根据车载二维码的实际尺寸大小预设其4个角点的三维坐标;将车载二维码两实线交点设置为(0,0,0),左边顶点设置为(0,h,0),底边顶点设置为(w,0,0),对角定点设置为(w,h,0),w和h分别为车载二维码的实际宽和高;
所述根据收到的车载二维码识别移动机器人身份信息并计算移动机器人的当前位姿,包括,将预设的车载二维码的4个角点的三维坐标与步骤S3中发送的角点像素坐标对齐,采用最小化重投影误差的方式计算相机在二维码坐标系下的位姿;首先获取三维坐标点重投影后的像素坐标,如式(1)所示:
siui=K exp(ξ^)Pi (1)
其中,si表示该点的深度,ui即重投影后的像素坐标,K表示相机内参矩阵,exp(ξ^)表示待估计的位姿,Pi表示预设的车载二维码的4个角点的三维坐标;
重投影误差为式(2)所示:
其中,符号含义同上,n表示像素数量;
得到相机在二维码坐标系下的位姿后,再根据预先标定好的相机在世界坐标系下的位姿,计算出车载二维码在世界坐标系下的位姿;同时,由于车载二维码搭载在移动机器人上的固定位置,车载二维码相对于移动机器人中心是一个固定变换,因此最终得到移动机器人在世界坐标系下的精确位姿。
2.根据权利要求1所述的一种基于5G通信的相机阵列机器人定位方法,其特征在于,
所述顶部相机阵列安装在移动机器人运行区域的上部,相机朝下进行拍摄,对场景中的图像进行实时采集,所述车载二维码安装于移动机器人顶部,避免被遮挡。
3.根据权利要求2所述的一种基于5G通信的相机阵列机器人定位方法,其特征在于,
所述顶部相机阵列是顶部广角相机阵列;所述顶部广角相机阵列中广角相机的数量为多个,布置的过程中保证广角相机阵列的视野能够完全覆盖移动机器人可能的运行区域,同时顶部广角相机阵列中各广角相机之间互相有较大的共视面积。
4.一种基于5G通信的相机阵列机器人定位装置,其特征在于,包括:图像采集传输模块、机器人控制服务器和移动机器人;
其中,
所述图像采集传输模块,实时采集图像数据并实时传输所述实时采集的图像数据至机器人控制服务器;
所述机器人控制服务器,实时接收所述实时采集的图像数据并进行位姿计算和路径规划,将控制指令实时发送给移动机器人端;
所述移动机器人,实时接收所述控制指令并实时执行所述控制指令;
采用5G通信方式实时传输采集的图像数据和实时传输移动机器人控制指令;
所述图像采集传输模块包括顶部相机阵列和第一通信模块,其中所述顶部相机阵列实时采集图像,所述第一通信模块实时传输所述实时采集的图像至机器人控制服务器;
所述机器人控制服务器,包括第二通信模块、图像处理模块、位姿计算模块、决策系统模块、调度系统模块;
所述第二通信模块实时接收所述第一通信模块实时传输的所述实时采集的图像;
所述图像处理模块对所述实时采集的图像进行处理并识别出车载二维码;
所述位姿计算模块根据收到的车载二维码识别移动机器人身份信息并计算移动机器人的当前位姿;
所述决策系统模块根据所述位姿计算模块获得的移动机器人的当前位姿和期望位姿计算控制指令;
调度系统模块根据决策系统模块计算出的控制指令,向需要执行运动的移动机器人实时发送所需执行的运动指令;
所述移动机器人,其上搭载第三通信模块、运动执行机构和二维码即车载二维码;通过所述第三通信模块实时接收所述运动指令后由运动执行机构实时执行所述运动指令;
所述第一、第二、第三通信模块为5G通信模块;
所述图像处理模块对通信模块传输的顶部相机阵列采集到的图像数据进行处理时,首先对图像进行反畸变,并在反畸变后的图像上识别车载二维码;识别出车载二维码后进行解码操作,可以得到每个车载二维码包含的信息以及所述车载二维码的4个角点在图像中的像素坐标;所述车载二维码包含的信息是机器人的编号信息,所述编号信息代表每一个移动机器人的身份信息,用于对不同的机器人进行区分;所述车载二维码的4个角点在图像中的像素坐标用于确定所述每一个移动机器人的位姿;对每个移动机器人将车载二维码的4个角点按顺序打包发送给机器人控制服务器的位姿计算模块,以计算移动机器人的准确位姿;
所述位姿计算模块根据收到的车载二维码的4个角点在图像中的像素坐标计算车载二维码与顶部相机阵列中相机之间的相对位姿关系;在得到该位姿关系以后,再通过预先标定好的相机在世界坐标系下的坐标,将车载二维码坐标转换到世界坐标系下;
根据二维码的实际尺寸大小预设车载二维码的4个角点的三维坐标;将二维码两实线交点设置为(0,0,0),左边顶点设置为(0,h,0),底边顶点设置为(w,0,0),对角定点设置为(w,h,0),w和h分别为二维码的实际宽和高,这里取w=h;
位姿计算模块将预设的车载二维码的4个角点的三维坐标与发送给机器人控制服务器的位姿计算模块的车载二维码的4个角点像素坐标对齐,采用最小化重投影误差的方式计算相机在二维码坐标系下的位姿;首先获取三维坐标点重投影后的像素坐标,如式(1)所示:
siui=K exp(ξ^)Pi (1)
其中,si表示该点的深度,ui即重投影后的像素坐标,K表示相机内参矩阵,exp(ξ^)表示待估计的位姿,Pi表示预设的车载二维码的4个角点的三维坐标;
重投影误差为式(2)所示:
其中,符号含义同上,n表示像素数量;
得到相机在二维码坐标系下的位姿后,再根据预先标定好的相机在世界坐标系下的位姿,计算出车载二维码在世界坐标系下的位姿;同时,由于车载二维码搭载在移动机器人上的固定位置,车载二维码相对于移动机器人中心是一个固定变换,因此最终得到移动机器人在世界坐标系下的精确位姿。
5.根据权利要求4所述的一种基于5G通信的相机阵列机器人定位装置,其特征在于,
所述顶部相机阵列安装在移动机器人运行区域的上部,相机朝下进行拍摄,对场景中的图像进行实时采集,所述车载二维码安装于移动机器人顶部,避免被遮挡;
所述顶部相机阵列是顶部广角相机阵列;所述顶部广角相机阵列中广角相机的数量为多个,布置的过程中保证广角相机阵列的视野能够完全覆盖移动机器人可能的运行区域,同时顶部广角相机阵列中各广角相机之间互相有较大的共视面积。
6.根据权利要求4所述的一种基于5G通信的相机阵列机器人定位装置,其特征在于,
所述移动机器人接收所述运动指令后完成一次定位过程,然后进入到下一次定位过程;
所述移动机器人的数量为一个或多个。
7.根据权利要求4所述的一种基于5G通信的相机阵列机器人定位装置,其特征在于,
顶部广角相机阵列布置完成后进行相机之间的相互标定,并确定所述顶部相机阵列中各个相机的世界坐标;
标定方式采用不同相机对同一机器人进行识别的方式来确认相机之间的相互关系,然后根据各个相机之间的相互关系,获取其世界坐标系下的坐标;
将安装的第一个相机作为世界坐标的(0,0,0)点,根据其他每个相机与第一个相机之间的相对关系,确定其他每个相机的世界坐标。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910600152.8A CN110262507B (zh) | 2019-07-04 | 2019-07-04 | 一种基于5g通信的相机阵列机器人定位方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910600152.8A CN110262507B (zh) | 2019-07-04 | 2019-07-04 | 一种基于5g通信的相机阵列机器人定位方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110262507A CN110262507A (zh) | 2019-09-20 |
CN110262507B true CN110262507B (zh) | 2022-07-29 |
Family
ID=67924439
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910600152.8A Active CN110262507B (zh) | 2019-07-04 | 2019-07-04 | 一种基于5g通信的相机阵列机器人定位方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110262507B (zh) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111176296B (zh) * | 2020-01-20 | 2022-06-03 | 重庆邮电大学 | 一种基于条形码码盘的移动机器人编队的控制方法 |
CN111964681B (zh) * | 2020-07-29 | 2021-05-18 | 中国安全生产科学研究院 | 一种巡检机器人的实时定位系统 |
CN111964680B (zh) * | 2020-07-29 | 2021-05-18 | 中国安全生产科学研究院 | 一种巡检机器人的实时定位方法 |
CN112507755A (zh) * | 2020-12-22 | 2021-03-16 | 芜湖英视迈智能科技有限公司 | 最小化二维码角点重投影误差的目标物体六自由度定位方法及系统 |
CN213956419U (zh) * | 2021-01-08 | 2021-08-13 | 杭州宇树科技有限公司 | 一种四足机器人定位装置以及四足机器人编队 |
CN113370816B (zh) * | 2021-02-25 | 2022-11-18 | 德鲁动力科技(成都)有限公司 | 四足机器人充电桩及其精定位方法 |
CN112578799B (zh) * | 2021-02-25 | 2022-02-11 | 德鲁动力科技(成都)有限公司 | 四足机器人自主充电方法及自主充电四足机器人 |
CN114019963B (zh) * | 2021-10-27 | 2023-06-30 | 西北工业大学 | 一种面向桌面集群机器人的外部定位系统 |
CN113858214B (zh) * | 2021-11-11 | 2023-06-09 | 节卡机器人股份有限公司 | 一种用于机器人作业的定位方法与控制系统 |
CN114237262B (zh) * | 2021-12-24 | 2024-01-19 | 陕西欧卡电子智能科技有限公司 | 一种水面无人船自动停泊方法及系统 |
CN116086896B (zh) * | 2023-04-06 | 2023-06-16 | 国网湖北省电力有限公司电力科学研究院 | 一种适用于变压器取油机器人的标准化取油装置及方法 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102818568A (zh) * | 2012-08-24 | 2012-12-12 | 中国科学院深圳先进技术研究院 | 室内机器人的定位与导航系统及方法 |
CN103692447A (zh) * | 2013-12-27 | 2014-04-02 | 西安航天精密机电研究所 | 一种基于俯视和侧视相机的电动汽车电池定位方法 |
CN105243366A (zh) * | 2015-10-10 | 2016-01-13 | 北京微尘嘉业科技有限公司 | 一种基于二维码的车辆定位方法 |
CN105404842A (zh) * | 2015-11-19 | 2016-03-16 | 北京特种机械研究所 | 基于地标二维码的agv定位定向及测速方法 |
CN106598048A (zh) * | 2016-11-28 | 2017-04-26 | 上海大学 | 一种基于二维码的智能车定位系统 |
CN107436422A (zh) * | 2017-08-22 | 2017-12-05 | 杭州慧仓信息科技有限公司 | 一种基于红外线灯立体阵列的机器人定位方法 |
CN107671863A (zh) * | 2017-08-22 | 2018-02-09 | 广东美的智能机器人有限公司 | 基于二维码的机器人控制方法、装置及机器人 |
CN109153122A (zh) * | 2016-06-17 | 2019-01-04 | 英特尔公司 | 基于视觉的机器人控制系统 |
CN109374003A (zh) * | 2018-11-06 | 2019-02-22 | 山东科技大学 | 一种基于ArUco码的移动机器人视觉定位与导航方法 |
-
2019
- 2019-07-04 CN CN201910600152.8A patent/CN110262507B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102818568A (zh) * | 2012-08-24 | 2012-12-12 | 中国科学院深圳先进技术研究院 | 室内机器人的定位与导航系统及方法 |
CN103692447A (zh) * | 2013-12-27 | 2014-04-02 | 西安航天精密机电研究所 | 一种基于俯视和侧视相机的电动汽车电池定位方法 |
CN105243366A (zh) * | 2015-10-10 | 2016-01-13 | 北京微尘嘉业科技有限公司 | 一种基于二维码的车辆定位方法 |
CN105404842A (zh) * | 2015-11-19 | 2016-03-16 | 北京特种机械研究所 | 基于地标二维码的agv定位定向及测速方法 |
CN109153122A (zh) * | 2016-06-17 | 2019-01-04 | 英特尔公司 | 基于视觉的机器人控制系统 |
CN106598048A (zh) * | 2016-11-28 | 2017-04-26 | 上海大学 | 一种基于二维码的智能车定位系统 |
CN107436422A (zh) * | 2017-08-22 | 2017-12-05 | 杭州慧仓信息科技有限公司 | 一种基于红外线灯立体阵列的机器人定位方法 |
CN107671863A (zh) * | 2017-08-22 | 2018-02-09 | 广东美的智能机器人有限公司 | 基于二维码的机器人控制方法、装置及机器人 |
CN109374003A (zh) * | 2018-11-06 | 2019-02-22 | 山东科技大学 | 一种基于ArUco码的移动机器人视觉定位与导航方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110262507A (zh) | 2019-09-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110262507B (zh) | 一种基于5g通信的相机阵列机器人定位方法及装置 | |
CN103294059B (zh) | 基于混合导航带的移动机器人定位系统及其方法 | |
US20220077820A1 (en) | Method and system for soar photovoltaic power station monitoring | |
CN111259097B (zh) | 一种应用于光伏产业无人机巡检的精细化航点校核方法 | |
CN103065323B (zh) | 一种基于单应性变换矩阵的分段空间对准方法 | |
CN112904877A (zh) | 一种基于无人机的风机叶片自动巡检系统及方法 | |
CN102419178A (zh) | 基于红外路标的移动机器人定位系统和方法 | |
CN109737981B (zh) | 基于多传感器的无人车目标搜索装置及方法 | |
CN203241826U (zh) | 基于混合导航带的移动机器人定位系统 | |
CN104786226A (zh) | 抓取在线工件的机器人位姿及运动轨迹定位系统与方法 | |
CN109556616A (zh) | 一种基于视觉标记的自动建图机器人建图修整方法 | |
US20130038717A1 (en) | Image Based Position Determination | |
CN110211228A (zh) | 用于建图的数据处理方法及装置 | |
CN113340277B (zh) | 一种基于无人机倾斜摄影的高精度定位方法 | |
CN110823899B (zh) | 一种故障定位方法、装置及系统 | |
CN111596674A (zh) | 无人机的降落定位方法、装置及无人机巢 | |
CN110815205A (zh) | 移动机器人的标定方法、系统及装置 | |
CN109976339B (zh) | 一种车载配网巡检数据采集方法与巡检系统 | |
CN109472778B (zh) | 一种基于无人机的高耸结构外观检测方法 | |
CN111862200B (zh) | 一种煤棚内无人机定位方法 | |
CN112214012A (zh) | 一种导航方法、移动载体及导航系统 | |
CN113843798A (zh) | 一种移动机器人抓取定位误差的纠正方法、系统及机器人 | |
CN109213156A (zh) | 一种用于agv小车的全局引导系统及其方法 | |
CN115793690A (zh) | 一种无人机室内巡检方法、系统和设备 | |
CN107797095A (zh) | 一种应用于机器人运动的空间导航方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |