CN115718298A - Ugv和uav自动提供其激光雷达数据参照进行3d探测的系统 - Google Patents
Ugv和uav自动提供其激光雷达数据参照进行3d探测的系统 Download PDFInfo
- Publication number
- CN115718298A CN115718298A CN202210981042.2A CN202210981042A CN115718298A CN 115718298 A CN115718298 A CN 115718298A CN 202210981042 A CN202210981042 A CN 202210981042A CN 115718298 A CN115718298 A CN 115718298A
- Authority
- CN
- China
- Prior art keywords
- ugv
- uav
- lidar
- data
- marker
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 50
- 239000003550 marker Substances 0.000 claims abstract description 90
- 238000005259 measurement Methods 0.000 claims abstract description 63
- 238000012545 processing Methods 0.000 claims description 52
- 230000000007 visual effect Effects 0.000 claims description 23
- 238000004891 communication Methods 0.000 claims description 21
- 230000004807 localization Effects 0.000 claims description 14
- 238000013507 mapping Methods 0.000 claims description 14
- 238000000034 method Methods 0.000 claims description 12
- 230000010267 cellular communication Effects 0.000 claims description 10
- 230000008859 change Effects 0.000 claims description 8
- 238000009434 installation Methods 0.000 claims description 8
- 239000000203 mixture Substances 0.000 claims description 7
- 238000013439 planning Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 6
- 230000015572 biosynthetic process Effects 0.000 claims description 3
- 238000002310 reflectometry Methods 0.000 claims description 3
- 238000003786 synthesis reaction Methods 0.000 claims description 3
- 230000001419 dependent effect Effects 0.000 claims description 2
- 239000011159 matrix material Substances 0.000 claims description 2
- 238000012913 prioritisation Methods 0.000 claims description 2
- 238000002360 preparation method Methods 0.000 claims 15
- 230000026676 system process Effects 0.000 claims 2
- 230000033001 locomotion Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 230000008447 perception Effects 0.000 description 7
- 239000000523 sample Substances 0.000 description 7
- 238000011960 computer-aided design Methods 0.000 description 3
- 230000000875 corresponding effect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 230000009257 reactivity Effects 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000004873 anchoring Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000002592 echocardiography Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005670 electromagnetic radiation Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 231100001261 hazardous Toxicity 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 239000002689 soil Substances 0.000 description 1
- 239000002904 solvent Substances 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 239000000725 suspension Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0253—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting relative motion information from a plurality of images taken successively, e.g. visual odometry, optical flow
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0238—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
- G05D1/024—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors in combination with a laser
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/42—Simultaneous measurement of distance and other co-ordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/46—Indirect determination of position data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/66—Tracking systems using electromagnetic waves other than radio waves
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/87—Combinations of systems using electromagnetic waves other than radio waves
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/933—Lidar systems specially adapted for specific applications for anti-collision purposes of aircraft or spacecraft
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/4808—Evaluating distance, position or velocity data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/481—Constructional features, e.g. arrangements of optical elements
- G01S7/4817—Constructional features, e.g. arrangements of optical elements relating to scanning
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0251—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting 3D information from a plurality of images taken from different locations, e.g. stereo vision
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
- G05D1/0274—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means using mapping information stored in a memory device
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Aviation & Aerospace Engineering (AREA)
- Automation & Control Theory (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Optics & Photonics (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Abstract
本公开涉及UGV和UAV自动提供其激光雷达数据参照进行3D探测的系统。该系统包括两个激光雷达装置,其中一者被安装在AGV上,另一者被安装在UAV上。该系统还包括具有采用相对于彼此的空间固定布置的第一标记和第二标记的参考单元。执行对第一标记的自动检测,并执行第一激光雷达装置对该第一标记的协作测量,以确定提供第一标记相对于第一激光雷达装置的相对位置信息的相对位置数据。考虑该相对位置数据和关于第一标记和第二标记相对于彼此的空间固定布置的空间3D信息,以执行对第二标记的自动检测,并执行第二激光雷达装置对第二标记的协作测量。考虑第一标记和第二标记的协作测量,以用于UGV和UAV激光雷达装置的激光雷达数据相对于公共坐标系的参照。
Description
技术领域
本发明一种涉及通过无人驾驶地面载具(UGV)和无人驾驶飞行器(UAV)来提供环境的3D探测的系统。
背景技术
举例来说,三维探测被用于评估关注区域(例如,诸如建筑工地、工业工厂、商业综合设施或洞穴之类的受限或危险区域)的实际状况。可以将3D探测的结果用于高效地规划下一工作步骤或适当的动作,以对确定的实际状况作出反应。
工作步骤的决策制定和规划进一步借助于实际状态的专用数字可视化(例如,采用点云或矢量文件模型的形式)或者借助于利用3D探测数据的增强现实功能来进行辅助。
3D探测通常涉及借助于激光扫描仪对环境进行光学扫描和测量,该激光扫描仪例如使用脉冲电磁辐射来发射测量激光束。通过接收来自环境的反向散射表面点的回波,得出距该表面点的距离并将该距离与关联的测量激光束的角度发射方向相关联。这样,生成三维点云。例如,距离测量可以基于脉冲的飞行时间、形状和/或相位。
对于附加信息,可以例如借助于RGB摄像头或红外摄像头将激光扫描仪数据与摄像头数据组合,特别是以提供高分辨率光谱信息。
然而,采集3D数据可能是麻烦的,并且在一些情况下甚至对人类工作者是有危险的。通常,特定区域对于人类工作者来说是禁止或严格限制访问的。
现今,机器人载具(特别是自主机器人载具)被越来越多地用于促进数据采集并且降低对人类工作者的风险。与这种机器人载具组合使用的3D探测装置通常被配置成在机器人载具的移动期间提供探测数据,其中,参照(referencing)数据提供关于数据采集单元的轨迹的信息,例如,位置和/或姿态数据,使得可以将从数据采集单元的不同位置采集的探测数据组合到公共坐标系中。
然后,该3D探测数据可以借助于特征识别算法(例如借助于使用由来自CAD模型的虚拟对象数据提供的形状信息)来进行分析,以自动识别由探测数据捕获的语义特征和/或几何特征。这样的特征识别(特别是用于识别几何图元)现今被广泛用于分析3D数据。
已知许多不同类型的自主机器人载具。例如,基于地面的机器人载具可以具有用于推进该机器人的多个轮,这些轮典型地具有复杂的悬架以应对不同种类的地形。另一广泛使用的类型是腿式机器人,例如,四腿机器人,其通常能够处理苛刻的地形和陡峭的斜坡。空中机器人载具(例如,四旋翼无人机)使得进一步通用于探测难以接近的区域,但是由于通常有限的负载容量和电池电力,而常常以更少的探测时间和/或传感器复杂性为代价。
无人驾驶飞行器和无人驾驶地面载具是用于多边使用的自身最先进的平台。这些配备有成像传感器和激光雷达传感器的平台为自主路径规划以及自主移动提供了采集单元,以用于采集3D探测和现实捕获数据。
对于移动控制和路径规划,通常将自主机器人载具配置成:例如借助于同时定位与地图构建(SLAM)功能,使用来自机器人载具的传感器的数据来自主创建新环境的3D地图。
在现有技术中,探测活动的移动控制和路径规划主要是通过利用自主机器人的内置视觉感知传感器来管理的。3D探测数据的采集和使用通常是与用于移动机器人的控制数据的采集和使用分离的。
在现有技术的机器人载具中,通常必须在一方面的视场和取景距离(viewingdistance)与另一方面的反应性(例如,用于障碍物检测和启动规避机动)之间进行折衷,这限制了机器人的移动速度。通常,机器人仅“看到”其紧邻的周围环境,这提供了应对障碍物和地形改变的高效反应性,而更大规模的路径控制是由预定义的环境模型和引导指令来提供的。例如,这限制了自主机器人载具在未知地形中进行移动3D探测的适用性。在已知地形中,要遵循预定义的路径是麻烦的,并且通常涉及技术人员要考虑各种测量要求,诸如期望的点密度、测量速度或测量准确度。
多个自主机器人载具的组合在对大且变化的区域(例如,不同的土壤状况、来自地面和来自空气的测量等)进行探测时提供了灵活性。各个移动探测装置皆可以提供3D探测数据。举例来说,探测装置从各个测量位置生成所谓的局部3D点云,该局部3D点云提供参照与探测装置有关的公共坐标系的多个测量点。当移动探测装置时,在探测装置的不同位置中确定的局部点云必须通过被称为参照、点云配准、点集配准或扫描匹配的过程来彼此相关,以便形成相应测量装置的所谓的3D探测点云。另外,来自位于不同的自主机器人载具上的不同测量装置的3D探测点云必须彼此参照,以便形成所谓的“组合式”3D探测点云。
为了参照同一探测装置的局部点云,通常使用由探测装置提供的附加信息,诸如来自惯性测量单元以及同时定位与地图构建(SLAM)单元的数据。
通常,对来自不同的测量装置的不同测量点云进行参照是麻烦的并且仅在后处理中是可能的。例如,由于经常使用不同种类的测量传感器的事实(例如,其中不同测量装置的传感器提供不同的点密度、视场以及距离分辨率),使得参照过程更加困难。在使用图像数据的情况下,必须考虑不同的图像失真等。
为了节省计算时间,点匹配通常涉及操作者手动标识并链接不同测量装置的不同测量点云中的匹配特征。因此,使不同装置的不同3D数据基本上实时融合通常是不可能的或者易于出错且易于中断。
发明内容
因此,本发明的目的是提供一种移动3D探测的改进系统,其具有增加的适用性,特别是在考虑到有探测变化的和广泛的地形的情况下。
另外的目的是提供一种移动3D探测的系统,其更容易处理并且更鲁棒以防止中断。
这些目的是通过实现独立权利要求的特征的至少一部分来实现的。按另选或有利的方式进一步开发本发明的特征在附属专利权利要求中进行了描述。
本发明涉及一种提供环境的3D探测的系统,其中,该系统包括第一激光雷达装置和第二激光雷达装置。第一激光雷达装置和第二激光雷达装置中的一者(在下文中被称为UGV激光雷达装置)被具体预知用于无人驾驶地面载具上的画面合成(montage),并且被配置成生成UGV激光雷达数据,以提供与UGV激光雷达装置有关的环境的协作扫描。第一激光雷达装置和第二激光雷达装置中的另一激光雷达装置(在下文中被称为UAV激光雷达装置)被具体预知用于无人驾驶飞行器的画面合成,并且被配置成生成UAV激光雷达数据,以提供与UAV激光雷达装置有关的环境的协作扫描。该系统被配置成提供UGV激光雷达数据和UAV激光雷达数据相对于公共坐标系的参照,以用于确定环境的(组合式)3D探测点云。
特别地,该系统被配置成:基于UAV激光雷达数据提供该UGV激光雷达装置在数字3D模型中的定位,并且反之亦然,基于UGV激光雷达数据提供该UAV激光雷达装置在数字3D模型中的定位。
该系统包括参考单元,该参考单元包括第一标记和第二标记,其中,第一标记和第二标记相对于彼此处于空间固定布置中,并且第一标记和第二标记中的每一者被配置作为用于激光雷达装置对相应标记进行协作测量的目标。该系统被配置成执行对第一标记的自动检测,并且执行第一激光雷达装置对第一标记的协作测量,以确定相对位置数据,该相对位置数据提供第一标记相对于第一激光雷达装置的相对位置信息。而且,该系统被配置成考虑该相对位置数据以及关于第一标记和第二标记相对于彼此的所述空间固定布置的空间3D信息,以执行对第二标记的自动检测,并且执行第二激光雷达装置对第二标记的协作测量。然后,考虑第一标记的协作测量以及第二标记的协作测量,以提供UGV激光雷达数据和UAV激光雷达数据相对于公共坐标系的参照。
举例来说,UGV激光雷达装置和UAV激光雷达装置两者设有组合式开始/结束参考。第一标记和第二标记是根据设计(例如,机械地)彼此参照的,其中,一个标记允许由启动/着陆的UAV很好地检测。例如,在参考单元的标称安装中,将第一标记设置在竖直平面中,而将第二标记设置在水平平面中。然后,第一标记允许由经过的UGV很好地检测,而第二标记允许由启动/停止的UAV很好地检测。因此,这两个标记提供了UAV与UGV之间的基本参考,从而允许以空间方式融合UGV激光雷达数据和UAV激光雷达数据。
因此,在一个实施方式中,第一标记和第二标记中的一者(在下文中被称为UGV标记)被配置成在参考单元的标称安装中,按照UGV激光雷达装置可以执行对UGV标记的协作测量的方式,以空间方式设置该UGV标记,其中,对UGV标记的协作测量是从与UGV上的UGV激光雷达装置的画面合成相关联的侧视视场来执行的。第一标记和第二标记中的另一者(在下文中被称为UAV标记)被配置成在参考单元的标称安装中,按照UAV激光雷达装置可以执行对UAV标记的协作测量的方式,以空间方式设置该UAV标记,其中,对UAV标记的协作测量是从与UAV上的UAV激光雷达装置的画面合成相关联的俯视视场来执行的。
在另一实施方式中,该系统被配置成:对第一标记的协作测量是由UGV激光雷达装置执行的,而对第二标记的协作测量是由UAV激光雷达装置来执行的,其中,对第二标记的自动检测以及UAV激光雷达装置对第二标记的协作测量是在无人驾驶飞行器的每次起飞和着陆时执行的。
例如,该系统被配置成对相对位置数据进行连续更新,以使相对位置信息提供关于第一标记与UGV激光雷达装置之间的布置的经连续更新的空间信息。
可以将UGV上的另外的标记用于沿着移动地图构建过程来提供UAV与UGV之间的链接。例如,这提供了更大的基线以克服所参考的起始标记的不准确性。因此,在另一实施方式中,该系统还包括所述另外的标记(除了包括第一标记和第二标记之外),该另外的标记被具体预知用于无人驾驶地面载具上的画面合成。UAV激光雷达装置被配置成自动执行对所述另外的标记的协作测量,并且该系统被配置成考虑对所述另外的标记的协作测量,以提供UGV激光雷达数据和UAV激光雷达数据相对于公共坐标系的参照。
UAV激光雷达装置与UGV激光雷达装置之间的空间定位可以基于来自成像(imagery)和/或激光雷达数据的稀疏地图。例如,稀疏地图是由UAV或者UGV的摄像头和/或激光雷达装置来生成的。然后,对应的UGV或UAV被(实时地)定位在稀疏地图内。因此,在另一实施方式中,该系统包括视觉拾取装置,该视觉拾取装置被配置成设置在无人驾驶地面载具或无人驾驶飞行器上,例如,其中,视觉拾取装置是摄像头或者UGV激光雷达装置或UAV激光雷达装置中的一者。该系统被配置成使用视觉拾取装置来生成稀疏地图,并且在该稀疏地图中执行UGV激光雷达数据或UAV激光雷达数据的定位。
举例来说,稀疏地图是由摄影三角测量(例如,所谓的运动恢复结构(structurefrom motion))来生成的,并且定位包括UGV激光雷达数据与UAV激光雷达数据之间的第一参照(referencing)。然后,在第一参照之后,基于UGV激光雷达数据与UAV激光雷达数据之间的点云匹配来执行UGV激光雷达数据与UAV激光雷达数据之间的第二参照,其中,稀疏地图是相对于环境的已知数字模型来参照的。
例如,用于点云匹配的已知方法包括迭代最近点到点、迭代最近点到平面、鲁棒点匹配以及核相关点集配准。已知的数字模型可以是数字建筑信息模型(BIM)、计算机辅助设计模型(CAD)以及数字模型(例如,矢量文件模型)中的至少一个,所述已知的数字模型是根据由地面激光扫描仪(TLS)、移动地图构建系统或摄影测量捕获装置所提供的协作扫描数据来生成的。
在另一实施方式中,该系统被配置成访问指派数据,该指派数据提供关于第一标记和第二标记相对于彼此的空间固定布置的空间3D信息。
另选地或者另外地,第一标记和第二标记中的至少一者包括视觉码(例如,条形码或矩阵条形码),该视觉码提供关于第一标记和第二标记相对于彼此的空间固定布置的空间3D信息。这里,该系统被配置成通过使用视觉拾取装置(例如,摄像头或条形码激光扫描装置)来确定关于第一标记和第二标记相对于彼此的空间固定布置的空间3D信息。
例如,将第一标记和第二标记实施为在机械上与现有技术中用作探测控制点的标准标记兼容。可以将这些标记实施为它们可以利用诸如全站仪之类的标准探测设备来测量。还可以将该标记实施为它们可以在点云软件中被自动标识和检测。例如,该标记包含编码信息,该编码信息可以在后处理期间由UGV和/或UAV激光雷达装置以及点云软件来读取,而同时该标记具有允许利用全站仪进行测量的视觉特征。
在另一实施方式中,将第一标记和第二标记设置在公共部件上,使得第一标记和第二标记的相对空间布置是机械固定的。
举例来说,该公共部件还包括校准指示器(例如,气泡水平仪),从而提供公共部件相对于外部坐标系或者相对于基本方向(cardinal direction)的校准(alignment)的视觉确定,以建立标称安装。
在另一实施方式中,第一标记和第二标记中的至少一个标记(或者所述另外的标记,见上文)包括视觉上能够检测的图案,例如,由不同反射率、不同灰度级和/或不同颜色的区域提供的图案。该系统被配置成通过确定图案的强度图像中的几何特征来确定该图案的3D取向,其中,图案的强度图像是通过利用UGV激光雷达装置或UAV激光雷达装置的激光雷达测量束对图案的扫描以及对返回的激光雷达测量束的强度的检测来采集的。通过分析图案的强度图像中的几何特征的外观(appearance)来执行平面拟合算法,以便确定图案平面的取向,并且该系统被配置成考虑图案的3D取向,以用于提供UGV激光雷达数据和UAV激光雷达数据相对于公共坐标系的参照。
举例来说,图案包括圆形特征,并且该系统被配置成标识该图案的强度图像内的圆形特征的图像。该平面拟合算法被配置成将椭圆拟合至圆形特征的图像,并且基于该拟合来确定图案平面的取向。例如,该系统还被配置成确定椭圆的中心并且得出用于利用激光雷达测量束瞄准该椭圆的中心的瞄准信息。然后,可以将该椭圆的中心用作瞄准点,以进一步确定标记的3D位置,例如,从而允许确定并考虑该标记的6DoF姿态(六个自由度,位置和取向)。
特别地,该图案包括内部几何特征,例如,包括被圆形特征包围的矩形特征。例如,该内部几何特征提供关于公共坐标系或外部坐标系的校准的信息,和/或关于UGV标记和UAV标记相对于彼此的空间固定布置的空间3D信息。
在另一实施方式中,第一标记和第二标记各自包括跨越公共坐标系的三个主要轴线中的至少两个轴线、特别是三个轴线的方向的视觉指示,其中,该系统被配置成通过使用UGV激光雷达装置和UAV激光雷达装置来确定三个主要轴线的方向,并且考虑这三个主要轴线的方向,以用于提供UGV激光雷达数据和UAV激光雷达数据相对于公共坐标系的参照。
在另一实施方式中,UGV激光雷达装置对环境的协作扫描是根据由UGV激光雷达装置本地提供的UGV扫描图案来提供的,其中,UGV扫描图案具有与UGV激光雷达装置有关的多个扫描方向。类似地,UAV激光雷达装置对环境的协作扫描是根据由UAV激光雷达装置本地提供的UAV扫描图案来提供的,其中,UAV扫描图案具有与UAV激光雷达装置有关的多个扫描方向。而且,UGV扫描图案与UAV扫描图案提供了所述多个扫描方向的相同的局部角度分布、各个扫描方向的相同的角度点分辨率、以及相同的距离分辨率。因此,UGV激光雷达数据和UAV激光雷达数据内在地设有相同的测量参数,这提供了UGV激光雷达数据和UAV激光雷达数据相对于公共坐标系的简化参照。
举例来说,UGV激光雷达装置和UAV激光雷达装置在各种情况下均被实施为激光扫描仪,该激光扫描仪被配置成借助于激光束绕两个旋转轴线的旋转来生成激光雷达数据,其中,该激光扫描仪包括旋转体,该旋转体被配置成绕所述两个旋转轴线中的一者旋转,并且提供激光束的出射部分和返回部分的可变偏转,从而提供激光束绕所述两个旋转轴线中的一者(通常被称为快速轴线)的旋转。旋转体以至少50Hz绕快速轴线旋转,而激光束以至少0.5Hz绕所述两个旋转轴线中的所述另一者(通常被称为慢速轴线)旋转。激光束是作为脉冲激光束来发射的,例如,其中,该脉冲激光束包括每秒150万个脉冲,从而提供每秒至少30万个点的激光雷达数据的点采集速率。对于激光束绕所述两个轴线的旋转,绕快速轴线的视场为至少130度,而绕慢速轴线的视场为360度。
举例来说,将UGV激光雷达装置/激光扫描仪实施为当被安装在UGV上时,慢速轴线是基本上竖直设置的,并且将UAV激光雷达装置/激光扫描仪实施为当被安装在UAV上时慢速轴线是基本上水平的。因此,UAV激光雷达装置具有对UAV上方的区域、UAV前方以及UAV下方的表面的实时覆盖。UGV激光雷达装置具有对地板和UGV前方、上方以及后方的区域的实时覆盖。
在另一实施方式中,该系统包括:UGV同时定位与地图构建单元(UGV SLAM单元),以及UAV同时定位与地图构建单元(UAV SLAM单元)。该UGV SLAM单元被配置为:接收UGV激光雷达数据作为UGV感知数据,该UGV感知数据提供处于当前位置的UGV激光雷达装置的周围环境的表示;使用该UGV感知数据来生成环境的UGV地图;以及确定UGV激光雷达装置在环境的UGV地图内已经经过的路径的轨迹。该UAV SLAM单元被配置为:接收UAV激光雷达数据作为UAV感知数据,该UAV感知数据提供处于当前位置的UAV激光雷达装置的周围环境的表示;使用UAV感知数据来生成环境的UAV地图;以及确定UAV激光雷达装置在环境的UAV地图内已经经过的路径的轨迹。
为了提供足够的数据处理能力,该系统可以具有用于UGV激光雷达装置和UAV激光雷达装置与数据云之间的数据交换的连接装置,该数据云提供云计算,例如以确定3D探测点云或者执行所述处理的至少一部分,以用于分别评估UGV或UAV的另外的轨迹。特别是在UGV侧,该系统可以例如借助于设有UGV激光雷达装置的专用计算单元或者借助于无人驾驶地面载具的计算单元从机载计算中获利,这显著扩展了在失去与云的连接的情况下或者在数据传递速率受限的情况下的计算能力。当然,对于UAV是同样可行的,但是通常对于UAV,负载容量和电池电力已经受到限制。另一种可能性是包括与配套装置(例如,平板计算机)的连接性,该配套装置可以被配置成确定3D探测点云或者执行所述处理的至少一部分,以用于与云处理相比类似地评估UGV或UAV的另外的轨迹。然后,本地配套装置可以接管针对与云的连接性有限或者没有连接性的区域的处理,或者本地配套装置可以在机载计算与云计算之间的中继的意义上用作云接口。举例来说,机载计算、云处理以及配套装置的处理之间的切换是根据三个处理位置之间的连接性来动态地执行的。
在一个实施方式中,该系统包括机载计算单元,该机载计算单元被具体预知为位于无人驾驶地面载具上,并且被配置成执行该系统处理的至少一部分,其中,该系统处理包括针对UGV或UAV执行SLAM过程,从而提供对UGV激光雷达数据和UAV激光雷达数据的参照,并且执行对UGV和UAV或者两者的另外的轨迹的评估。该系统还包括被配置成执行系统处理的至少一部分的外部计算单元。该系统的通信模块被配置成提供机载计算单元与外部计算单元之间的通信,其中,该系统包括工作负载选择模块,该工作负载选择模块被配置成:针对该机载计算单元与外部计算单元之间的通信来监测该通信模块的可用带宽;监测机载计算单元、UGV激光雷达装置和/或UAV激光雷达装置、UGV的SLAM单元和UAV的SLAM单元以及路径规划单元的可用功率;以及根据被指派给外部处理单元的可用带宽和可用功率,对向机载计算单元和外部计算单元指派系统处理的至少一部分进行动态地改变。
举例来说,定位是在计算装置(其是UGV或UAV的一部分,或者其是单独的计算基站)上本地处理的,或者是在“云”中处理的。类似地,可以将关于标记检测和参考变换、稀疏地图生成、扫描区域定义以及间隙填充的计算分布在不同的基于机载、本地以及云的计算单元上。
例如,为了最小化UAV上的计算权重,实现了UAV、UGV、配套装置以及云之间的快速连接性。例如,到云的通信是基于4G/5G上行链路的,其中,在UAV与UGV和/或配套装置之间使用本地连接(例如,WLAN),以将数据从UAV下载至UGV和/或配套装置。如果UAV具有较好的视线但具有较差的云连接性(例如,当在峡谷中观测时),则机载处理或配套处理尤其受到关注。
为了将处理步骤动态地指派给不同的计算单元,例如,决策在何处处理数据以及如何上传数据,可以在UGV、UAV、配套装置或者基站上实现仲裁器或调度器单元(在策略控制器的意义上)。
在另一实施方式中,该系统被配置为执行系统处理,该系统处理包括执行与无人驾驶地面载具和/或无人驾驶飞行器相关联的SLAM过程;提供UGV激光雷达数据和/或UAV激光雷达数据相对于公共坐标系的参照;以及执行路径规划,以确定无人驾驶地面载具和/或无人驾驶飞行器要遵循的另外的轨迹。该系统包括UGV计算单元,该UGV计算单元被具体预知为位于无人驾驶地面载具上,并且被配置成执行系统处理的至少一部分。类似地,该系统包括UAV计算单元,该UAV计算单元被具体预知为位于无人驾驶飞行器上,并且被配置成执行系统处理的至少一部分,并且该系统包括被配置成执行系统处理的至少一部分的外部计算单元。
该系统的通信单元被配置成通过使用蜂窝通信连接(例如,4G或5G),来提供UGV计算单元、UAV计算单元以及外部计算单元之间的相互通信。该通信单元还通过使用本地通信连接(例如,WLAN或蓝牙)来提供UGV计算单元与UAV计算单元之间的相互通信。
这里,该系统还包括工作负载选择模块,该工作负载选择模块被配置成监测蜂窝通信连接和本地通信连接的可用带宽,以执行向UGV计算单元、UAV计算单元以及外部计算单元指派系统处理的至少一部分的动态改变。所述指派的动态改变取决于蜂窝通信连接和本地通信连接的可用带宽,其中,实现优先化规则,以在最小化UGV计算单元的可用处理负载之前最小化UAV计算单元的可用处理负载,以及在最小化外部计算单元的可用处理负载之前最小化UGV计算单元的可用处理负载。
所述指派的动态改变还可以取决于UAV和/或UGV电池电力的可用性,即,其中,UAV计算单元和/或UGV计算单元的工作负载是根据哪一者具有最多可用电池电力来选择的。
所述指派的动态改变还可以取决于与UGV激光雷达数据和/或UAV激光雷达数据相关联的SLAM的要求。例如,所述指派的动态改变可以基于提供稀疏地图与已知数字模型的足够交叠的要求。
附图说明
下面,参照附图中示意性地示出的工作示例,仅通过示例的方式,对根据本发明的不同方面的系统进行更详细描述或解释。附图中利用相同的附图标记来标注相同的要素。所述实施方式通常不按真实比例示出,并且这些实施方式也不应被解释为限制本发明。具体地,
图1:与无人驾驶飞行器一起工作的无人驾驶地面载具的示例性实施方式;
图2:无人驾驶地面载具或无人驾驶飞行器的相应激光雷达装置的示例性实施方式;
图3:包括UGV标记和UAV标记的参考单元的示例性实施方式;
图4:使用包括UGV标记和UAV标记的参考单元的示例性工作流程,其中,无人驾驶地面载具包括作为无人驾驶飞行器的参考的另外的标记;
图5:标记的示例性实施方式,例如,UGV标记、UAV标记以及被设置在UGV上的另外的标记中的一者;
图6:无人驾驶地面载具、无人驾驶飞行器、配套(companion)装置以及云处理之间的示例性通信方案;
图7:具有将处理步骤动态分配给不同的计算单元的另一些示例性通信方案。
具体实施方式
图1描绘了与无人驾驶飞行器(UAV)2一起工作的无人驾驶地面载具(UGV)1的示例性实施方式。UGV 1和UAV 2中的每一者皆配备有激光雷达装置,分别被称为UGV激光雷达装置3和UAV激光雷达装置4。
这里,将机器人地面载具1实施为四腿机器人。例如,这种机器人通常被用在具有不同表面特性的未知地形中,所述表面特性具有碎屑和陡峭的斜坡。地面机器人1具有提供同时定位与地图构建的传感器和处理能力,其包括:接收感知数据,该感知数据提供处于当前位置的自主地面机器人1的周围环境的表示;使用该感知数据来生成环境的地图;以及在该环境的地图内确定地面机器人1已经经过的路径的轨迹。
将飞行器2实施为四旋翼无人机,以允许进一步通用于探测机器人地面载具1难以接近或不可能接近的区域。类似于UGV 1,飞行器2具有提供同时定位与地图构建的传感器和处理能力,其包括:接收感知数据,该感知数据提供处于当前位置的无人驾驶飞行器2的周围环境的表示;使用该感知数据来生成环境的地图;以及在该环境的地图内确定飞行器2已经经过的路径的轨迹。
UGV激光雷达装置3和UAV激光雷达装置4中的每一者都具有绕所谓的慢速轴线5的360度的视场,以及绕快速轴线的至少130度的所谓的区带(band)视场6(见图2)。两个激光雷达装置3、4各自被配置成以每秒至少30万个点的点采集速率来生成对应的激光雷达数据。例如,UGV激光雷达装置3和UAV激光雷达装置4各自被实施为所谓的双轴激光扫描仪(见图2),其中,在UGV激光雷达装置3的情况下,快速轴线5基本上是竖直校准(align)的,而在UAV激光雷达装置4的情况下,快速轴线5基本上是水平校准的。
UGV和UAV的SLAM单元分别被配置成接收对应的激光雷达数据作为感知数据,其例如提供改进的视场和取景距离,并由此提供改进的更大规模的路径确定。例如,这对于探索未知地形特别有益。另一个好处是绕慢速轴线5的全向水平视场以及绕快速轴线的130度的区带视场6。在UGV 1的情况下,这提供了基本上同时覆盖前方、后方以及地面的能力,其中在UAV 2的情况下,这提供了基本上同时覆盖后方和地面的能力。
举例来说,可以将借助于UGV激光雷达装置3和UAV激光雷达装置4生成的激光雷达数据进行组合,以用于互补系统数据的间隙填充。通常,UGV激光雷达装置3“看到”靠近地面并且处于侧角度(side perspective)的对象(立面(facade)、拱腹(soffit)等)并被用于室内(indoor)探测(建筑物、隧道等)。UAV激光雷达装置4观测地面上的对象(上层立面、屋顶等)并经常被用于室外(outdoor)探测(建筑物、桥梁等)。在附图中,UAV激光雷达装置4和UGV激光雷达装置3都被示例性地用于协作地测量例如处于发电厂地点上的管道7,其中,UAV激光雷达装置4主要观测管道7的顶部,而UGV激光雷达装置3仅从侧角度观测管道7。
UGV 1和UAV 2的组合还允许借助于UAV 2和UAV激光雷达装置4的探索飞行来执行UGV 1(或UGV激光雷达装置3)的扫描区域限定。通过探索飞行,限定了要由UGV激光雷达装置3探测的关注区域。例如,UAV 2提供UGV 1正在遵循的路径的概览的生成。空间锚定(重新定位)允许UGV激光雷达数据和UAV激光雷达数据的匹配以及视线环境的轨迹校准(alignment)。
UAV的探索还允许估计是否可以在有约束的情况下达到特定的测量目标,例如,提供对UAV 2或UGV 1的电池是否足以实现预知任务的改进估计。由于UAV的电池电力通常是有限的,因此,还可以将UGV 1配置作为UAV 2的着陆/停靠站以及作为UAV 2的移动充电站。这样,例如,在仅需要通过UGV激光雷达装置3进行探测的时段期间,例如,在室内环境中步进(stepping)时,可以通过再充电来延长UAV2的可及范围。类似地,可以优选地在UAV 2处于UGV 1上的停靠状态下执行大量数据下载。
图2分别以所谓的双轴激光扫描仪的形式示出了UGV激光雷达装置3或UAV激光雷达装置4的示例性实施方式。激光扫描仪包括基部8和支承部9,支承部9是绕慢速轴线5旋转地安装在基部8上的。通常,支承部9绕慢速轴线5的旋转也被称为方位角旋转,而不管激光扫描仪或者慢速轴线5是否完全竖直校准。
激光扫描仪的核心是光学测距单元10,该光学测距单元被设置在支承部9中并且被配置成通过发射脉冲激光束11(例如,其中,该脉冲激光束包括每秒150万个脉冲),并且通过借助于包括光敏传感器的接收单元检测该脉冲激光束的返回部分来执行距离测量。因此,从环境的反向散射表面点接收到脉冲回波,其中,可以基于所发射脉冲的飞行时间、形状和/或相位来得出距所述表面点的距离。
激光束11的扫描移动是通过使支承部9相对于基部8绕慢速轴线5旋转并且借助于旋转体12来执行的,该旋转体12被旋转地安装在支承部9上并且绕所谓的快速轴线14(水平轴线)旋转。举例来说,所发送的激光束11以及该激光束的返回部分两者是通过与旋转体12成一体或者被应用至旋转体12的反射表面来偏转的。另选地,所发送的激光辐射来自面向远离反射表面的一侧(即,来自旋转体12的内侧),并且经由反射表面内的通道区域发射到环境中。
为了确定测距射束11的发射方向,在现有技术中已知许多不同的角度确定单元。例如,可以借助于角编码器检测发射方向,所述角编码器被配置为采集角度数据,该角度数据用于分别检测支承部9的绝对角度位置和/或相对角度变化或者旋转体12的绝对角度位置和/或相对角度变化。另一种可能性是分别通过仅检测全绕转(revolution)和使用设定旋转频率的知识来确定支承部9或旋转体12的角度位置。
数据的可视化可以基于公知的数据处理步骤和/或显示选项,例如,其中所采集的数据以3D点云的形式进行呈现,或者其中生成3D矢量文件模型。
将激光扫描仪配置成确保该激光扫描仪的测量操作的总视场在由支承部9绕慢速轴线5的旋转所限定的方位角方向上为360度,并且在由旋转体12绕快速轴线14的旋转所限定的偏斜方向上为至少130度。换句话说,不管支承部9绕慢速轴线5的方位角如何,激光束11都可以以至少130度的扩展角覆盖沿偏斜方向扩展的所谓的区带视场(在附图中是竖直视场)。
举例来说,总视场通常是指激光扫描仪的、由慢速轴线5与快速轴线14的交点所定义的中心参考点13。
图3示例性地示出了根据本发明的参考单元15的实施方式,包括UGV标记16A、16B以及UAV标记17。
这里,参考单元15被实施为立方体的形状。在标称安装中,例如,其中立方体的多个侧面中的一个侧面被精确地水平校准,参考单元15提供四个(竖直)侧面以及一个(水平)侧面,所述四个(竖直)侧面能够用于提供UGV标记16A、16B,所述一个(水平)侧面能够用于提供UAV标记17。例如,该立方体在其标称安装中的装配是由气泡水平仪来辅助的。
这里,UGV标记16A、16B以及UAV标记17包括视觉码,该视觉码提供关于UGV标记16A、16B与UAV标记17相对于彼此的空间固定布置的空间3D信息。空间3D信息可以通过分别被设置在UGV和UAV上的视觉拾取单元(例如,摄像头或者UGV激光雷达装置和UAV激光雷达装置)读取所述码来确定。
当UGV和UGV激光雷达装置3经过参考立方体15时,视觉UGV标记16B被自动标识(identify),并且由UGV激光雷达装置3来执行对视觉UGV标记16B的协作测量,由此确定提供视觉UGV标记16B相对于UGV激光雷达装置3的相对位置信息的相对位置数据。因此,移动的UGV激光雷达装置3相对于所标识的视觉UGV标记16B的相对位置和特别取向被跟踪,使得其可被用于促进稍后由例如启动的UAV来检测UAV标记17。
举例来说,在UAV启动时,考虑该相对位置数据以及关于所确定的已标识视觉UGV标记16B和UAV标记17相对于彼此的空间固定布置的空间3D信息,以执行对UAV标记17的自动检测,并且执行UAV激光雷达装置4对UAV标记17的协作测量。然后,考虑对已标识的视觉UGV标记16B的协作测量以及对UAV标记17的协作测量,以提供UGV激光雷达数据和UAV激光雷达数据相对于公共坐标系的参照(referencing)。
图4描绘了使用包括UGV标记和UAV标记的参考单元15的另一示例性工作流程,其中,无人驾驶地面载具包括另外的标记18,该另外的标记作为用于在公共坐标系中组合UAV激光雷达数据和UGV激光雷达数据的参照。
所述另外的标记18被设置在UGV上并且被用于沿着移动地图构建过程在UAV激光雷达装置4与UGV激光雷达装置3之间提供链接(link)。将UAV激光雷达装置4被配置成自动执行对该另外的标记18的协作测量,以便考虑对该另外的标记18的协作测量,以提供UGV激光雷达数据和UAV激光雷达数据相对于公共坐标系的参照。例如,在环境内的不同参考单元的位置关系是已知的情况下,例如,在外部坐标系中给出的不同参考单元的绝对位置,提供了较大的基线(baseline)以克服所参考的起始标记的协作测量中的不准确性,并且例如可以被用于SLAM算法的所谓的闭环,这允许在沿着UGV或AGV的路线参照(“缝合(stitching)在一起”)不同位置的激光雷达数据时补偿位置漂移。
所述标记中的一些标记(例如,UGV标记16A、16B、UAV标记17以及被设置在UGV上的另外的标记18中的一个标记)还可以包括参考值指示,该参考值指示提供关于公共坐标系中或外部坐标系(例如,世界坐标系)中的标记的设定姿态的位置信息,例如,3D坐标。设定姿态是6DoF姿态,即,标记的位置和取向,并且指示标记的期望6DoF姿态。因此,当被正确地放置在环境中时,该标记可以充当所谓的探测控制点,例如,用于SLAM过程的闭环和/或用作世界坐标系或本地站点坐标系中的绝对参考。
举例来说,将该系统配置成得出设定姿态,并且考虑该设定姿态,以用于在该公共坐标系中参照UGV激光雷达数据和UAV激光雷达数据(例如,通过确定该标记在该公共坐标系中或者在该世界坐标系中的姿态,并且执行所确定的标记姿态与设定姿态的比较)。
图5描绘了标记30的示例性实施方式,例如,UGV标记16A、16B、UAV标记17以及被设置在UGV上的另外的标记18中的一个标记(见图3和图4)。在左侧,标记30是以正面视图示出的。在右侧,标记30是以有角度的视图示出的。
该标记包括视觉上能够检测的图案,例如,该视觉上能够检测的图案是由不同反射率、不同灰度级和/或不同颜色的区域来提供的,该图案包括圆形特征31以及由该圆形特征31包围的内部几何特征32。
举例来说,将该系统配置成确定该标记的6DoF(六个自由度)姿态。通过确定图案的3D取向(即,图案平面的3D取向)并且通过确定图案的3D位置,来得出6DoF姿态。例如,对标记角部33(至少三个)进行分析,以提供确定图案平面的角度。可以分别使用UGV或UAV上的摄像头来确定标记角部33。
圆形特征31提供了对图案平面的3D取向的改进确定。举例来说,将该系统配置成通过分别利用UGV激光雷达装置或UAV激光雷达装置的激光雷达测量束扫描图案来生成该图案的强度图像,其中,该强度图像是通过检测返回的激光雷达测量束的强度来生成的。通过标识图案的强度图像内的圆形特征的图像,并且运行平面拟合算法以将椭圆拟合至圆形特征的图像,从而以改进的精度确定图案平面的3D取向。另外,椭圆的中心可以被确定并且被用作激光雷达装置的瞄准点,以确定图案的3D位置,从而允许确定图案的6DoF姿态。
然后,考虑图案的3D取向,特别是图案的6DoF姿态,以用于提供UGV激光雷达数据和UAV激光雷达数据相对于公共坐标系的参照。
图6描绘了无人驾驶地面载具(例如,UGV激光雷达装置3)、无人驾驶飞行器(例如,UAV激光雷达装置4)、配套装置19(例如,平板计算机)以及提供云处理的数据云20之间的示例性通信方案。
举例来说,操作者的平板计算机19例如借助于蓝牙或WLAN本地连接至UAV激光雷达装置4和UGV激光雷达装置3,其中,该平板计算机允许调停(mediating)激光雷达装置3、4两者的控制。还将该平板计算机19连接至云处理单元20。
在失去到平板计算机19的连接性的情况下,UAV激光雷达装置4与UGV激光雷达装置3之间的可选连接提供了冗余。平板计算机19、UAV激光雷达装置4以及UGV激光雷达装置3的云连接性允许在没有本地连接的情况下操作,并提供附加的回退(fallback)场景。例如,经由4G/5G上行链路建立云连接性。
例如,这种通用通信能力允许实现处理和数据存储的动态分布,例如,以协调期望的数据处理速率和电池寿命。
图7示出了具有将处理步骤动态分配给不同的计算单元的示例性通信方案。这里,无人驾驶地面载具包括机载计算单元21以及到云20的蜂窝通信上行链路22。类似地,UAV包括到云20的蜂窝通信上行链路(未示出)。在两个底部示意图中,该系统还包括基站23,该基站被定位成靠近UGV并且被配置用于相对繁重的计算(与该机载计算单元21相比)。基站23还可以具有到云20的蜂窝通信上行链路22(左下示意图),或者到云20的数据上传可以主要通过UGV蜂窝通信上行链路22(右下示意图)来执行,例如,其中,UGV上行链路22充当基站23与云20之间的中继。
提供UGV的机载计算单元21以及基站23,以最小化UAV上的处理,从而节省UAV的电池寿命。
在左上示意图中,在UAV激光雷达装置4与UGV的机载计算单元21之间建立本地数据连接(例如,通过WLAN),以便从UAV激光雷达装置4下载数据。具有更多有效载荷能力的UGV机载计算单元正在现场计算结果,并且向云计算服务20提供上行链路功能。
在右上示意图中,建立本地连接(例如,通过WLAN),以将数据从UGV机载计算单元21和/或UGV激光雷达装置上传至UAV蜂窝上行链路(未示出),该UAV蜂窝上行链路将数据提供给云20。例如,如果UAV具有到云20的更好的视线或连接性(例如,当UGV在具有有限连接性或没有连接性的峡谷中行走时),则使用该方法。
在左下示意图中,建立本地连接,以便将数据从UAV激光雷达装置4、UGV激光雷达装置3以及UGV机载计算单元21下载至基站23。主处理有效载荷处于基站23和云20一侧,该基站和云在彼此之间建立了蜂窝数据连接。
类似地,在右下示意图中,主处理处于基站23和云20一侧,但是与云20的通信是通过UGV数据上行链路22来路由的。
举例来说,将例如位于UGV上或基站23上的仲裁器或调度器单元用于将处理动态地分布给不同的处理单元,例如,以分布以下项中的至少一部分:计算另外的轨迹、计算SLAM过程的地图以及针对公共坐标系参照UGV激光雷达数据和UAV激光雷达数据。仲裁器或调度器单元还可以限定在何处以及如何向云20上传数据/从云20下载数据。
特别地,根据计算位置之间的连接性以及UGV和UAV上的可用功率来动态地执行机载计算、云处理、激光雷达装置的处理以及配套装置的处理之间的切换。通常,只要有可能,就将处理例如从UAV移至(并且还可以从UGV移至)云、配套装置以及基站,这是因为UAV和UGV(以及位于UAV和UGV上的装置)的电池电力和数据存储是有限的。
尽管上面例示了本发明,但是部分参照一些优选实施方式,必须理解,可以作出这些实施方式的许多修改例和不同特征的组合。这些修改例全部落入所附权利要求的范围内。
Claims (15)
1.一种提供环境的3D探测的系统,其中,所述系统包括第一激光雷达装置和第二激光雷达装置,其中,
所述第一激光雷达装置和所述第二激光雷达装置中的一者是UGV激光雷达装置(3),所述UGV激光雷达装置(3)被具体预知用于无人驾驶地面载具(1)的画面合成,并且被配置成生成UGV激光雷达数据,以提供与所述UGV激光雷达装置(3)有关的所述环境的协作扫描,
所述第一激光雷达装置和所述第二激光雷达装置中的另一者是UAV激光雷达装置(4),所述UAV激光雷达装置(4)被具体预知用于无人驾驶飞行器(2)的画面合成,并且被配置成生成UAV激光雷达数据,以提供与所述UAV激光雷达装置(4)有关的所述环境的协作扫描,并且
所述系统被配置成提供所述UGV激光雷达数据和所述UAV激光雷达数据相对于公共坐标系的参照,以用于确定所述环境的3D探测点云,
其特征在于,
所述系统包括参考单元(15),所述参考单元包括第一标记和第二标记(16A、16B、17、30),其中,所述第一标记和所述第二标记采用相对于彼此的空间固定布置,并且所述第一标记和所述第二标记中的每一者被配置作为激光雷达装置(3、4)对相应标记进行协作测量的目标,其中,所述系统被配置成:
执行对所述第一标记(16A、16B、17、30)的自动检测,并且执行所述第一激光雷达装置(3、4)对所述第一标记(16A、16B、17、30)的协作测量,以确定相对位置数据,所述相对位置数据提供所述第一标记(16A、16B、17、30)相对于所述第一激光雷达装置(3、4)的相对位置信息,
考虑所述相对位置数据以及关于所述第一标记和所述第二标记(16A、16B、17、30)相对于彼此的所述空间固定布置的空间3D信息,以执行对所述第二标记(16A、16B、17、30)的自动检测,并且执行所述第二激光雷达装置(3、4)对所述第二标记(16A、16B、17、30)的协作测量,以及
考虑对所述第一标记(16A、16B、17、30)的所述协作测量以及对所述第二标记(16A、16B、17、30)的所述协作测量,以提供所述UGV激光雷达数据和所述UAV激光雷达数据相对于所述公共坐标系的所述参照。
2.根据权利要求1所述的系统,
其特征在于,
所述第一标记和所述第二标记中的一者是UGV标记(16A、16B、30),所述UGV标记被配置成:在所述参考单元的标称安装中,按照所述UGV激光雷达装置(3)能够执行对所述UGV标记(16A、16B、30)的协作测量的方式,以空间方式设置所述UGV标记,其中,对所述UGV标记的所述协作测量是从与所述UGV(1)上的所述UGV激光雷达装置(3)的所述画面合成相关联的侧视视场来执行的,
所述第一标记和所述第二标记中的另一者是UAV标记(17、30),所述UAV标记被配置成:在所述参考单元的所述标称安装中,按照所述UAV激光雷达装置(4)能够执行对所述UAV标记(17、30)的协作测量的方式,以空间方式设置所述UAV标记,其中,所述UAV标记(17、30)的所述协作测量是从与所述UAV(2)上的所述UAV激光雷达装置(4)的所述画面合成相关联的俯视视场来执行的。
3.根据权利要求1或2所述的系统,
其特征在于,
所述系统被配置成访问指派数据,所述指派数据提供关于所述第一标记和所述第二标记(16A、16B、17、30)相对于彼此的所述空间固定布置的所述空间3D信息,和/或
所述第一标记和所述第二标记中的至少一者包括视觉码、特别是条形码、更特别是矩阵条形码,所述视觉码提供关于所述第一标记和所述第二标记相对于彼此的所述空间固定布置的所述空间3D信息,其中,所述系统被配置成通过使用视觉拾取装置(3、4)来确定关于所述第一标记和所述第二标记相对于彼此的所述空间固定布置的所述空间3D信息。
4.根据前述权利要求中任一项所述的系统,
其特征在于,
所述UGV激光雷达装置(3)对所述环境的所述协作扫描是根据由所述UGV激光雷达装置(3)本地提供的UGV扫描图案来提供的,其中,所述UGV扫描图案具有与所述UGV激光雷达装置(3)有关的多个扫描方向,
所述UAV激光雷达装置(4)对所述环境的所述协作扫描是根据由所述UAV激光雷达装置(4)本地提供的UAV扫描图案来提供的,其中,所述UAV扫描图案具有与所述UAV激光雷达装置(4)有关的多个扫描方向,并且
所述UGV扫描图案与所述UAV扫描图案提供了所述多个扫描方向的相同的局部角度分布、各个扫描方向的相同的角度点分辨率、以及相同的距离分辨率。
5.根据前述权利要求中任一项所述的系统,
其特征在于,
所述UGV激光雷达装置(3)和所述UAV激光雷达装置(4)在各种情况下被实施为激光扫描仪,所述激光扫描仪被配置成借助于激光束(11)绕两个旋转轴线(5、14)的旋转来生成激光雷达数据,其中,
所述激光扫描仪包括旋转体(12),所述旋转体被配置成绕所述两个旋转轴线中的一者旋转,并且提供所述激光束(11)的出射部分和返回部分的可变偏转,从而提供所述激光束绕所述两个旋转轴线中的所述一者的旋转,所述两个旋转轴线中的所述一者是快速轴线(14),
所述旋转体(12)是以至少50Hz绕所述快速轴线(14)旋转的,所述激光束是以至少0.5Hz绕所述两个旋转轴线中的另一者旋转的,所述两个旋转轴线中的所述另一者是慢速轴线(5),
所述激光束(11)被发射作为脉冲激光束,特别是其中,所述脉冲激光束包括每秒150万个脉冲,从而提供每秒至少30万个点的所述激光雷达数据的点采集速率,并且
对于所述激光束(11)绕所述两个轴线(5、14)的所述旋转,绕所述快速轴线(14)的视场为130度,而绕所述慢速轴线(5)的视场为360度。
6.根据前述权利要求中任一项所述的系统,
其特征在于,
所述第一标记和所述第二标记(16A、16B、17、30)被设置在公共部件上,使得所述第一标记和所述第二标记的所述相对空间布置是机械固定的,
特别是其中,所述公共部件包括校准指示器,所述校准指示器提供所述公共部件相对于外部坐标系或者相对于基本方向的校准的视觉确定,以建立所述标称安装。
7.根据前述权利要求中任一项所述的系统,
其特征在于,
所述第一标记和所述第二标记(16A、16B、17、30)中的至少一者包括视觉上能够检测的图案,所述视觉上能够检测的图案特别是由不同反射率、不同灰度级和/或不同颜色的区域来提供的,
所述系统被配置成通过以下方式来确定所述图案的3D取向:
确定所述图案的强度图像中的几何特征(31、32、33),其中,所述图案的所述强度图像是通过利用所述UGV激光雷达装置(3)或所述UAV激光雷达装置(4)的激光雷达测量束(11)对所述图案的扫描以及对返回的激光雷达测量束(11)的强度的检测来采集的,以及
通过分析所述图案的所述强度图像中的所述几何特征(31、32、33)的外观来执行平面拟合算法,以便确定图案平面的取向,并且
所述系统被配置成考虑所述图案的所述3D取向,以用于提供所述UGV激光雷达数据和所述UAV激光雷达数据相对于所述公共坐标系的所述参照。
8.根据权利要求7所述的系统,
其特征在于,
所述图案包括圆形特征(31),
所述系统被配置成标识所述图案的所述强度图像内的所述圆形特征(31)的图像,并且
所述平面拟合算法被配置成将椭圆拟合至所述圆形特征(31)的所述图像,并且基于所述拟合来确定所述图案平面的所述取向,特别是其中,确定所述椭圆的中心,并且得出用于利用所述激光雷达测量束来瞄准所述椭圆的中心的瞄准信息,
特别是其中,所述图案包括内部几何特征(32、33),特别是包括被所述圆形特征(31)包围的矩形特征。
9.根据前述权利要求中任一项所述的系统,
其特征在于,
所述第一标记和所述第二标记(16A、16B、17、30)各自包括跨越所述公共坐标系的三个主要轴线中的至少两个轴线、特别是三个轴线的方向的视觉指示,其中,所述系统被配置成通过使用所述UGV激光雷达装置(3)和所述UAV激光雷达装置(4)来确定所述三个主要轴线的方向,并且考虑所述三个主要轴线的方向,以用于提供所述UGV激光雷达数据和所述UAV激光雷达数据相对于所述公共坐标系的所述参照。
10.根据前述权利要求中任一项所述的系统,
其特征在于,
所述系统被配置成:对所述第一标记(16A、16B、30)的所述协作测量是由所述UGV激光雷达装置(3)执行的,而对所述第二标记(17、30)的所述协作测量是由所述UAV激光雷达装置(4)来执行的,其中,对所述第二标记的所述自动检测以及所述UAV激光雷达装置(4)对所述第二标记的所述协作测量是在所述无人驾驶飞行器(2)的每次起飞和着陆时执行的,
特别是其中,所述系统被配置成:对所述相对位置数据进行连续更新,以使所述相对位置信息提供关于所述第一标记(16A、16B、30)与所述UGV激光雷达装置(4)之间的所述布置的经连续更新的空间信息。
11.根据前述权利要求中任一项所述的系统,
其特征在于,
所述系统除了所述第一标记和所述第二标记(16A、16B、17、30)之外还包括另外的标记(18、30),所述另外的标记被具体预知用于所述无人驾驶地面载具(1)上的画面合成,
所述UAV激光雷达装置(4)被配置成自动执行对所述另外的标记(18、30)的协作测量,并且
所述系统被配置成考虑对所述另外的标记(18、30)的所述协作测量,以提供所述UGV激光雷达数据和所述UAV激光雷达数据相对于所述公共坐标系的所述参照。
12.根据前述权利要求中任一项所述的系统,
其特征在于,
所述系统包括视觉拾取装置,所述视觉拾取装置被配置成设置在所述无人驾驶地面载具(1)或所述无人驾驶飞行器(2)上,特别是其中,所述视觉拾取装置是摄像头或者是所述UGV激光雷达装置(3)或所述UAV激光雷达装置(4)中的一者,
所述系统被配置成使用所述视觉拾取装置来生成稀疏地图,并且在所述稀疏地图中执行所述UGV激光雷达数据或所述UAV激光雷达数据的定位。
13.根据权利要求12所述的系统,
其特征在于,
所述稀疏地图是通过摄影三角测量来生成的,并且所述定位包括所述UGV激光雷达数据与所述UAV激光雷达数据之间的第一参照,并且
在所述第一参照之后,基于所述UGV激光雷达数据与所述UAV激光雷达数据之间的点云匹配来执行所述UGV激光雷达数据与所述UAV激光雷达数据之间的第二参照,
其中,所述稀疏地图是相对于所述环境的已知数字模型来参照的。
14.根据前述权利要求中任一项所述的系统,
其特征在于,
所述系统包括UGV同时定位与地图构建单元和UAV同时定位与地图构建单元,所述UGV同时定位与地图构建单元是UGV SLAM单元,所述UAV同时定位与地图构建单元是UAV SLAM单元,其中,
所述UGV SLAM单元被配置为:接收所述UGV激光雷达数据作为UGV感知数据,所述UGV感知数据提供处于当前位置的所述UGV激光雷达装置(3)的周围环境的表示;使用所述UGV感知数据生成环境的UGV地图;以及确定所述UGV激光雷达装置(3)在所述环境的所述UGV地图内已经经过的路径的轨迹,并且
所述UAV SLAM单元被配置为:接收所述UAV激光雷达数据作为UAV感知数据,所述UAV感知数据提供处于当前位置的所述UAV激光雷达装置(4)的周围环境的表示;使用所述UAV感知数据生成环境的UAV地图;以及确定所述UAV激光雷达装置(4)在所述环境的所述UAV地图内已经经过的路径的轨迹。
15.根据前述权利要求中任一项所述的系统,
其特征在于,
所述系统被配置用于执行系统处理,所述系统处理包括:执行与所述无人驾驶地面载具(1)和/或所述无人驾驶飞行器(2)相关联的SLAM过程;提供所述UGV激光雷达数据和/或所述UAV激光雷达数据相对于所述公共坐标系的所述参照;以及执行路径规划,以确定所述无人驾驶地面载具(1)和/或所述无人驾驶飞行器(2)要遵循的另外的轨迹,其中,所述系统包括:
UGV计算单元(21),所述UGV计算单元被具体预知为位于所述无人驾驶地面载具(1)上,并且被配置成执行所述系统处理的至少一部分,
UAV计算单元,所述UAV计算单元被具体预知为位于所述无人驾驶飞行器(2)上,并且被配置成执行所述系统处理的至少一部分,
外部计算单元(23、20),所述外部计算单元被配置成执行所述系统处理的至少一部分,
通信单元,所述通信单元被配置成:
通过使用蜂窝通信连接、特别是4G或5G来提供所述UGV计算单元(21)、所述UAV计算单元以及所述外部计算单元(23、20)之间的相互通信,以及
通过使用本地通信连接、特别是WLAN或蓝牙来提供所述UGV计算单元(21)与所述UAV计算单元之间的相互通信,
工作负载选择模块,所述工作负载选择模块被配置成监测所述蜂窝通信连接和所述本地通信连接的可用带宽,以执行向所述UGV计算单元(21)、所述UAV计算单元以及所述外部计算单元(23、20)指派所述系统处理的至少一部分的动态改变,其中,所述指派的所述动态改变取决于:
所述蜂窝通信连接和所述本地通信连接的可用带宽,以及
优先化规则,所述优先化规则用于在最小化所述UGV计算单元(21)的可用处理负载之前最小化所述UAV计算单元的可用处理负载,以及在最小化所述外部计算单元(23、20)的可用处理负载之前最小化所述UGV计算单元(21)的可用处理负载。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP21193138.1A EP4141473A1 (en) | 2021-08-25 | 2021-08-25 | System for 3d surveying by a ugv and a uav with automatic provision of referencing of ugv lidar data and uav lidar data |
EP21193138.1 | 2021-08-25 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115718298A true CN115718298A (zh) | 2023-02-28 |
Family
ID=77543310
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210981042.2A Pending CN115718298A (zh) | 2021-08-25 | 2022-08-16 | Ugv和uav自动提供其激光雷达数据参照进行3d探测的系统 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230064401A1 (zh) |
EP (1) | EP4141473A1 (zh) |
CN (1) | CN115718298A (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116929350B (zh) * | 2023-08-23 | 2023-11-21 | 南京理工大学 | 一种基于数据链测距的快速临机重构协同导航系统及方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117310739A (zh) * | 2019-03-08 | 2023-12-29 | 深圳市大疆创新科技有限公司 | 在可移动物体之间共享绘图数据的技术 |
-
2021
- 2021-08-25 EP EP21193138.1A patent/EP4141473A1/en active Pending
-
2022
- 2022-08-16 CN CN202210981042.2A patent/CN115718298A/zh active Pending
- 2022-08-25 US US17/895,891 patent/US20230064401A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US20230064401A1 (en) | 2023-03-02 |
EP4141473A1 (en) | 2023-03-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220124303A1 (en) | Methods and systems for selective sensor fusion | |
EP3903164B1 (en) | Collision avoidance system, depth imaging system, vehicle, map generator, amd methods thereof | |
CN109556577B (zh) | 用于空中非破坏性检查的定位系统 | |
JP7263630B2 (ja) | 無人航空機による3次元再構成の実行 | |
JP6843773B2 (ja) | 環境の走査及び無人航空機の追跡 | |
CN108958250A (zh) | 多传感器移动平台及基于已知地图的导航与避障方法 | |
EP3168704A1 (en) | 3d surveying of a surface by mobile vehicles | |
US20160253808A1 (en) | Determination of object data by template-based uav control | |
US11726501B2 (en) | System and method for perceptive navigation of automated vehicles | |
US20230064071A1 (en) | System for 3d surveying by an autonomous robotic vehicle using lidar-slam and an estimated point distribution map for path planning | |
JP6138326B1 (ja) | 移動体、移動体の制御方法、移動体を制御するプログラム、制御システム、及び情報処理装置 | |
WO2019168410A1 (en) | Drone control system | |
CN112335190A (zh) | 无线电链路覆盖图和减损系统及方法 | |
US20210362839A1 (en) | Control device and control method for controlling flight of aerial vehicle | |
JP2019016197A (ja) | 移動体誘導システム | |
CN115718298A (zh) | Ugv和uav自动提供其激光雷达数据参照进行3d探测的系统 | |
WO2020062356A1 (zh) | 控制方法、控制装置、无人飞行器的控制终端 | |
Liu et al. | Visual navigation for UAVs landing on accessory building floor | |
JP2021182177A (ja) | 車両操縦システムと車両操縦方法 | |
CN110892353A (zh) | 控制方法、控制装置、无人飞行器的控制终端 | |
JP7176068B1 (ja) | 飛行制御システム、飛行制御方法、及び無人飛行体 | |
CN117991289A (zh) | 提供环境的数字模型的方法、勘测系统和计算机程序产品 | |
KR20220031574A (ko) | 3차원 측위 및 지도작성 시스템 및 방법 | |
CN111367297A (zh) | 一种应用于煤栅内的自动推煤机定位系统及其定位方法 | |
Bobbe et al. | 6D SLAM MAV using a rotating LiDAR |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |