CN115166701B - 一种rgb-d相机和激光雷达的系统标定方法及装置 - Google Patents

一种rgb-d相机和激光雷达的系统标定方法及装置 Download PDF

Info

Publication number
CN115166701B
CN115166701B CN202210687786.3A CN202210687786A CN115166701B CN 115166701 B CN115166701 B CN 115166701B CN 202210687786 A CN202210687786 A CN 202210687786A CN 115166701 B CN115166701 B CN 115166701B
Authority
CN
China
Prior art keywords
camera
rgb
laser radar
matrix
coordinates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210687786.3A
Other languages
English (en)
Other versions
CN115166701A (zh
Inventor
徐静
陈苇航
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tsinghua University
Original Assignee
Tsinghua University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tsinghua University filed Critical Tsinghua University
Priority to CN202210687786.3A priority Critical patent/CN115166701B/zh
Publication of CN115166701A publication Critical patent/CN115166701A/zh
Application granted granted Critical
Publication of CN115166701B publication Critical patent/CN115166701B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

本发明提出一种RGB‑D相机和激光雷达的系统标定方法及装置,属于移动机器人环境感知领域。其中,所述方法包括:获取标定物上各特征点分别在激光雷达坐标系下和在RGB‑D相机坐标系下坐标;利用激光雷达各向异性误差矩阵计算特征点经过激光雷达各项异性矫正后的坐标;利用RGB‑D相机各向异性误差矩阵计算特征点经过RGB‑D相机各项异性矫正后的坐标;根据特征点经过激光雷达各项异性矫正后的坐标和经过RGB‑D相机各项异性矫正后的坐标,计算激光雷达和RGB‑D相机之间的旋转矩阵和位移矩阵,完成标定。本发明通过使用各向异性加权矩阵对数据点进行校正,提升标定外参的精度,可提高RGB‑D相机与激光雷达的标定精度。

Description

一种RGB-D相机和激光雷达的系统标定方法及装置
技术领域
本发明属于移动机器人环境感知领域,特别提出一种RGB-D相机和激光雷达的系统标定方法。
背景技术
移动机器人是一种能够在复杂环境下,拥有自主运行、自主规划工作能力的智能机器人,是推进自动化的重要环节,因此移动机器人在产业发展过程中占有举足轻重的地位。移动机器人的感知系统通过环境的状态信息认知环境,其中视觉感知技术是移动机器人感知系统的一个重要关键,目前作为机器人主流视觉传感器的RGB-D相机与激光雷达,因为能够满足直接获取环境三维信息的需求而被广泛运用在自动驾驶、目标识别、实时建图等领域,
为了保障移动机器人在复杂环境下的认知能力,需要保证以高精度高信息量的RGB-D图作为感知系统的输入,但是由于硬件方面的限制,无法依靠单一传感器实现目标,因此常通过RGB-D相机与激光雷达这两种数据特点具有互补性的传感器作为感知系统,由激光雷达精确的深度信息校正RGB-D相机精度的不足,RGB-D相机弥补激光雷达信息量的不足,相较于单一传感器能够得到更加全面的信息
为实现利用雷达的数据校正RGB-D图深度信息的目标,需要对两种传感器采用外参矩阵标定法进行标定后,将数据转换到相同坐标系。外参矩阵的标定算法可分为无标定物标定法和基于标定物的标定法,两类标定算法都着重于特征的提取与匹配,匹配的过程中所使用的迭代算法是建立在数据同向异性的基础之上,即数据的误差需要呈现同向异性分布时匹配结果才会最佳,但是由于测量原理导致数据产生的误差分布呈现各向异性,会造成假设误差分布为同向异性的迭代算法匹配的困难,进而影响最终的标定效果。
发明内容
本发明的目的是为克服已有技术的不足之处,提出一种RGB-D相机和激光雷达的系统标定方法及装置。本发明通过使用各向异性加权矩阵对数据点进行校正,提升标定外参的精度,对提高RGB-D相机与激光雷达的标定精度有显著作用。
本发明第一方面实施例提出一种RGB-D相机和激光雷达的系统标定方法,包括:
获取标定物上预设的特征点分别在激光雷达坐标系下和在RGB-D相机坐标系下的坐标;
根据所述特征点在激光雷达坐标系下的坐标,利用激光雷达各向异性误差矩阵计算所述特征点经过激光雷达各项异性矫正后的坐标;
根据所述特征点在RGB-D相机坐标系下的坐标,利用RGB-D相机各向异性误差矩阵计算所述特征点经过RGB-D相机各项异性矫正后的坐标;
根据所述特征点经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,计算所述激光雷达和所述RGB-D相机之间的旋转矩阵和位移矩阵,完成标定。
在本发明的一个具体实施例中,在所述获取标定物上预设的特征点分别在激光雷达坐标系下和在RGB-D相机坐标系下的坐标之前,还包括包括:
获取所述激光雷达和所述RGB-D相机的内参标定结果;所述激光雷达的内参为激光发射器坐标系与雷达自身坐标系之间的转换关系,所述RGB-D相机的内参包括所述RGB-D相机的内参矩阵和畸变矩阵。
在本发明的一个具体实施例中,所述RGB-D相机各向异性误差矩阵构建方法如下:
分别获取RGB-D相机的两块感光组件CCD1和CCD2的误差分别记作(σx1y1z1)和(σx2y2z2),其中σx1y1z1为感光组件CCD1在x,y,z三个方向上的误差,σx2y2z2为感光组件CCD2在x,y,z三个方向上的误差;
则RGB-D相机误差为:
其中,σxyz分别为RGB-D相机在x,y,z三个方向上的误差;
得到RGB-D相机各向异性误差矩阵表达式如下:
在本发明的一个具体实施例中,所述激光雷达各向异性误差矩阵构建方法如下:
1)令激光雷达测量任一点P,得到该点在直角坐标系下的坐标(x,y,z)及该点在球标系下的坐标(R,α,ω):
其中,R为激光飞行时间算法测得的激光雷达的激光模块与P点间的距离,α与ω分别为激光雷达的水平夹角与垂直夹角;
2)获取激光雷达的距离误差σR、水平夹角误差σα和垂直夹角误差σω
3)构建激光雷达在球坐标系下的各向异性加权矩阵WLidar′:
4)构建直角坐标系和球坐标系的关系转换矩阵如下:
5)构建直角坐标系下激光雷达各向异性矩阵WLidar为:
WLidar=J WLidar′JT
在本发明的一个具体实施例中,所述特征点经过激光雷达各项异性矫正后的坐标计算表达式如下:
PLidarW(x,y,z)=WLidar PLidar(x,y,z)
其中,PLidar(x,y,z)表示任一特征点在激光雷达坐标系下的坐标,PLidarW(x,y,z)表示该特征点经过激光雷达各项异性矫正后的坐标;
所述特征点经过RGB-D相机各项异性矫正后的坐标计算表达式如下:
PCameraW(x,y,z)=WCamera PCamera(x,y,z)
其中,PCamera(x,y,z)表示任一特征点在RGB-D相机坐标系下的坐标,PCameraW(x,y,z)表示该特征点经过RGB-D相机各项异性矫正后的坐标。
在本发明的一个具体实施例中,所述根据所述特征点经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,计算所述激光雷达和所述RGB-D相机之间的旋转矩阵和位移矩阵,包括:
1)任意选取一个特征点作为基准特征点,将所述基准特征点经过激光雷达各项异性矫正后的坐标记为PLidarW0,将所述基准特征点经过RGB-D相机各项异性矫正后的坐标记为PCameraW0
2)利用奇异值分解法对PLidarW0和PCameraW0进行粗配准,获得初始旋转矩阵R0与初始位移矩阵T0,表达式如下:
PLidarW0=R0 PCameraW0+T0
3)利用其余特征点分别经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,通过对初始旋转矩阵和初始位移矩阵进行迭代求解,得到最终的旋转矩阵和位移矩阵。
在本发明的一个具体实施例中,所述对初始旋转矩阵和初始位移矩阵进行迭代求解,包括:
3-1)将R0转换为I+ΔΘ0的形式,其中I是单位矩阵,ΔΘ0是R0与单位矩阵的差值矩阵,将ΔΘ0作为初始差值矩阵;
令初始误差error0=1;
3-2)在第n步迭代时,进行如下计算:
3-2-1)使用最小二乘法得到最小化的[I+ΔΘn,Tn],其中最小二乘法表达式为:
其中,ΔΘn和Tn分别是第n次迭代时满足最小二乘法得到的差值矩阵和位移矩阵,是在n-1次迭代后得到的第i个特征点经过激光雷达各项异性矫正后的坐标,其迭代初始值为该特征点经过激光雷达各项异性矫正后的坐标;PCameraWi表示第i个特征点经过RGB-D相机各项异性矫正后的坐标;i=1,2,3…M,不包含基准特征点;M为除基准特征点以外的特征点总数;
3-2-2)更新进行如下计算:
UΛVT=1+ΔΘn-1
Rn=UVT
其中,ΔΘn-1和Tn-1分别为第n-1次迭代时满足最小二乘法得到的差值矩阵和位移矩阵;U,Λ,VT是对1+ΔΘn-1做奇异值分解后得到的矩阵,Rn是第n次迭代时得到的旋转矩阵,是在第n次迭代时第i个特征点经过激光雷达各项异性矫正后的坐标;
3-2-3)计算第n次迭代的误差:
其中是第n-1次迭代后各特征点经过激光雷达各项异性矫正后的坐标的均值,errorn是第n次迭代后得到的误差值;
3-4)判定:如果errorn大于设定的误差阈值,则令n=n+1,然后重新返回步骤3-2-1);否则,将Rn,Tn作为最终得到的RGB-D相机和激光雷达的系统外参矩阵,标定完成。
本发明第二方面实施例提出一种RGB-D相机和激光雷达的系统标定装置,包括:
特征点坐标获取模块,用于获取标定物上预设的特征点分别在激光雷达坐标系下和在RGB-D相机坐标系下的坐标;
激光雷达坐标异性校正模块,用于根据所述特征点在激光雷达坐标系下的坐标,利用激光雷达各向异性误差矩阵计算所述特征点经过激光雷达各项异性矫正后的坐标;
RGB-D相机坐标异性校正模块,用于根据所述特征点在RGB-D相机坐标系下的坐标,利用RGB-D相机各向异性误差矩阵计算所述特征点经过RGB-D相机各项异性矫正后的坐标;
标定模块,用于根据所述特征点经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,计算所述激光雷达和所述RGB-D相机之间的旋转矩阵和位移矩阵,完成标定。
本发明第三方面实施例提出一种电子设备,包括:
至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被设置为用于执行上述一种RGB-D相机和激光雷达的系统标定方法。
本发明第四方面实施例提出一种计算机可读存储介质,所述计算机可读存储介质存储计算机指令,所述计算机指令用于使所述计算机执行上述一种RGB-D相机和激光雷达的系统标定方法。
本发明的特点及有益效果在于:
本发明分别对RGB-D相机与激光雷达的测量模型进行分析,建立相应的的误差分布模型,通过建构各向异性加权矩阵,对该误差分布模型进行各向异性的补偿,使匹配特征点达到更好的匹配精度,以提高外参矩阵的标定精度。
本发明可以用于RGB-D相机和激光雷达在移动机器人上的多传感器数据融合,对提高RGB-D相机与激光雷达的标定精度有显著作用。
附图说明
图1是本发明实施例的一种RGB-D相机和激光雷达的系统标定方法的整体流程图。
图2是本发明一个具体实施例中标定物示意图。
具体实施方式
本发明提出一种RGB-D相机和激光雷达的系统标定方法及装置,下面结合附图和具体实施例对本发明进一步详细说明如下。以下实施例用于说明本发明,但不限于本发明的范围。
本发明第一方面实施例提出一种RGB-D相机和激光雷达的系统标定方法,包括:
获取标定物上预设的特征点分别在激光雷达坐标系下和在RGB-D相机坐标系下的坐标;
根据所述特征点在激光雷达坐标系下的坐标,利用激光雷达各向异性误差矩阵计算所述特征点经过激光雷达各项异性矫正后的坐标;
根据所述特征点在RGB-D相机坐标系下的坐标,利用RGB-D相机各向异性误差矩阵计算所述特征点经过RGB-D相机各项异性矫正后的坐标;
根据所述特征点经过激光雷达各项异性矫正后的坐标和所述特征点经过RGB-D相机各项异性矫正后的坐标,计算所述激光雷达和所述RGB-D相机之间的旋转矩阵和位移矩阵,完成标定。
本发明的一个具体实施例中,所述一种RGB-D相机和激光雷达的系统标定方法,整体流程如图1所示,包括以下步骤:
1)标定RGB-D相机和激光雷达的内参,其中RGB-D相机的内参包括相机的内参矩阵和畸变矩阵,激光雷达的内参为激光发射器坐标系与雷达自身坐标系之间的转换关系;
需要说明的是,如果是已经经过标定的RGB-D相机和激光雷达,则不需要标定。
在本发明一个具体实施例中,RGB-D相机使用ZED公司研发的ZED双目深度传感相机,激光雷达使用Velodyne Lidar公司的16线激光雷达,其内参均在出厂时已经给出,无需额外标定。
2)固定RGB-D相机和激光雷达于使用位置,测量同一标定物,根据步骤1)中标定的内参结果,计算得到标定物三维信息,并通过边缘检测算法,得到标定物上选取的各特征点分别在激光雷达坐标系下的坐标和在RGB-D相机坐标系下的坐标。
其中,令PLidar(x,y,z)表示任一特征点在激光雷达坐标系下的坐标;令PCamera(x,y,z)表示任一特征点在RGB-D相机坐标系下的坐标。对于所有特征点,该两种坐标一一对应。
需要说明的是,所述特征点选取为标定物上最能反映该标定物特征的点。
在本发明一个具体实施例中,将相机与雷达固定于相隔0.2m的固定位置,并在距两者均为0.8米的位置放置标定板,标定板如图2所示,该标定板为长方形,长为150cm,宽为100cm。使用相机和雷达测量标定板三维信息,分割出标定板上三个直径均为30cm的圆形孔洞后,使用边缘检测算法提取三个孔洞的圆心,作为该该标定板的特征点。
3)根据激光雷达各向异性误差矩阵,计算每个特征点对应的经过激光雷达各项异性矫正后的坐标。
对于任一特征点,经过激光雷达各项异性矫正后的坐标PLidarW(x,y,z)计算表达式如下:
PLidarW(x,y,z)=WLidar PLidar(x,y,z)
其中,激光雷达各向异性矩阵WLidar由以下计算得到:
令激光雷达测量任一点P,得到该点在直角坐标系下的坐标为(x,y,z)及该点在球标系下坐标为(R,α,ω),两者换算关系为:
其中,R由激光雷达的激光模块得到,为激光飞行时间算法测得激光模块与P点间的距离,α与ω分别为激光雷达的水平夹角与垂直夹角,由激光雷达内编码器得到。因此可推断由于分别由激光模块与编码器测得,R,α以及ω的误差的分布并不相等,可以建立误差关系:
其中,K1,K2为误差常数,σRαω分别为距离误差、水平夹角误差和垂直夹角误差,由上式可以建构R,α以及ω的加权矩阵,即激光雷达在球坐标系下的各向异性加权矩阵W′,如下式:
Lidar
通过协方差定律转换,可表示直角坐标系和球坐标系关系如下式:
为了简化表示可令:
再次利用协方差定律,在直角坐标系下激光雷达各向异性矩阵WLidar为:
WLidar=J WLidar′JT
需要说明的是,P点与标定物无关,该各向异性矩阵在已知误差的情况下可以根据误差计算。在本实施例中,误差σRαω由生产厂家对激光雷达内部器件做测量后给出,分别为0.05,0.02,0.01;这一误差也可由专业测量工具测量得到。
4)根据RGB-D相机各向异性误差矩阵,计算每个特征点对应的经过RGB-D相机各项异性矫正后的坐标。
对于任一特征点,经过RGB-D相机各项异性矫正后的坐标PCameraW(x,y,z)计算表达式如下:
PCameraW(x,y,z)=WCamera PCamera(x,y,z)
其中,RGB-D相机各向异性矩阵WCa由以下计算得到:
RGB-D相机由两块感光组件(CCD1,CCD2)进行数据读取,两块感光组件误差可以分别写为(σx1y1z1)和(σx2y2z2),其中σx1y1z1为感光组件1在x,y,z三个方向上的误差,σx2y2z2为感光组件2在x,y,z三个方向上的误差,则根据误差传递公式,得到RGB-D相机误差为:
其中,σxyz分别为RGB-D相机在x,y,z三个方向上的误差。
在本实施例中,两块感光组件的误差(σx1y1z1)和(σx2y2z2)由生产厂家对相机测量后给出,经过计算得到最终误差(σxyz)为0.004,0.003,0.005。需要注意的是,这一误差也可由专业测量工具测量得到。
5)使用迭代算法得到外参矩阵,完成标定;具体步骤如下:
5-1)任意选取一个特征点作为基准特征点,将该基准特征点经过激光雷达各项异性矫正后的坐标记为PLidarW0,将该基准特征点经过RGB-D相机各项异性矫正后的坐标记为PCameraW0
5-2)利用奇异值分解法对PLidarW0和PCameraW0进行粗配准,获得初始旋转矩阵R0与初始位移矩阵T0,可表示如下式:
PLidarW0=R0 PCameraW0+T0
5-3)通过迭代,得到最终旋转矩阵和位移矩阵;具体步骤如下:
5-3-1)将R0转换为I+ΔΘ0的形式,其中I是单位矩阵,ΔΘ0是R0与单位矩阵的差值矩阵,将ΔΘ0作为初始差值矩阵。
令初始误差error0=1。
5-3-2)在第n步迭代时,进行如下计算:
5-3-2-1)使用最小二乘法得到最小化的[I+ΔΘn,Tn],其中最小二乘法的公式为:
其中,ΔΘn和Tn分别是第n次迭代时满足最小二乘法得到的差值矩阵和位移矩阵,是在n-1次迭代后得到的第i个特征点经过激光雷达各项异性矫正后的坐标,其迭代初始值为步骤3)得到的结果。PCameraWi表示第i个特征点经过RGB-D相机各项异性矫正后的坐标,该坐标不参与迭代过程;i=1,2,3…M,不包含基准特征点;所有特征点的总数为M+1。
5-3-2-2)更新进行如下计算:
UΛVT=1+ΔΘn-1
Rn=UVT
其中,ΔΘn-1和Tn-1分别为第n-1次迭代时满足最小二乘法得到的差值矩阵和位移矩阵,U,Λ,VT是对1+ΔΘn-1做奇异值分解后得到的矩阵,Rn是第n次迭代时得到的旋转矩阵,是在第n次迭代时第i个特征点经过激光雷达各项异性矫正后的坐标。
5-3-2-3)计算第n次迭代的误差;
其中是第n-1次迭代后各特征点经过激光雷达各项异性矫正后的坐标的均值,errorn是第n次迭代后得到的误差值。
5-3-4)判定:如果errorn大于设定的误差阈值(本发明一个具体实施例为10-5),则令n=n+1,然后重新返回步骤5-3-2-1);否则,将Rn,Tn作为最终得到的RGB-D相机和激光雷达的系统外参矩阵,标定完成。
在本发明一个具体实施例中,使用标定板上左上方的圆心作为初始标定的基准特征点,并使用其余两个圆的圆心作为迭代算法中使用的特征点点(其中迭代时,基准点不参与,可令基准点序号为0),经过n=35次迭代后,误差值满足要求,得到最终的外参矩阵。
为实现上述实施例,本发明第二方面实施例提出所述一种RGB-D相机和激光雷达的系统标定装置,包括:
特征点坐标获取模块,用于获取标定物上预设的特征点分别在激光雷达坐标系下和在RGB-D相机坐标系下的坐标;
激光雷达坐标异性校正模块,用于根据所述特征点在激光雷达坐标系下的坐标,利用激光雷达各向异性误差矩阵计算所述特征点经过激光雷达各项异性矫正后的坐标;
RGB-D相机坐标异性校正模块,用于根据所述特征点在RGB-D相机坐标系下的坐标,利用RGB-D相机各向异性误差矩阵计算所述特征点经过RGB-D相机各项异性矫正后的坐标;
标定模块,用于根据所述特征点经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,计算所述激光雷达和所述RGB-D相机之间的旋转矩阵和位移矩阵,完成标定。
需要说明的是,前述对一种RGB-D相机和激光雷达的系统标定方法的实施例解释说明也适用于本实施例的一种RGB-D相机和激光雷达的系统标定装置,在此不再赘述。根据本发明实施例提出的一种RGB-D相机和激光雷达的系统标定装置,通过获取标定物上预设的特征点分别在激光雷达坐标系下和在RGB-D相机坐标系下的坐标;根据所述特征点在激光雷达坐标系下的坐标,利用激光雷达各向异性误差矩阵计算所述特征点经过激光雷达各项异性矫正后的坐标;根据所述特征点在RGB-D相机坐标系下的坐标,利用RGB-D相机各向异性误差矩阵计算所述特征点经过RGB-D相机各项异性矫正后的坐标;根据所述特征点经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,计算所述激光雷达和所述RGB-D相机之间的旋转矩阵和位移矩阵,完成标定。由此,通过建构各向异性加权矩阵,对RGB-D相机与激光雷达的误差分布模型进行各向异性的补偿,使匹配特征点达到更好的匹配精度,以提高外参矩阵的标定精度。
为实现上述实施例,本发明第三方面实施例提出一种电子设备,包括:
至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被设置为用于执行上述一种RGB-D相机和激光雷达的系统标定方法。
为实现上述实施例,本发明第四方面实施例提出一种计算机可读存储介质,所述计算机可读存储介质存储计算机指令,所述计算机指令用于使所述计算机执行上述一种RGB-D相机和激光雷达的系统标定方法。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备执行上述实施例的一种RGB-D相机和激光雷达的系统标定方法。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得程序,然后将其存储在计算机存储器中。
应当理解,本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。例如,如果用硬件来实现,和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本申请各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (5)

1.一种RGB-D相机和激光雷达的系统标定方法,其特征在于,包括:
获取标定物上预设的特征点分别在激光雷达坐标系下和在RGB-D相机坐标系下的坐标;
根据所述特征点在激光雷达坐标系下的坐标,利用激光雷达各向异性误差矩阵计算所述特征点经过激光雷达各项异性矫正后的坐标;
根据所述特征点在RGB-D相机坐标系下的坐标,利用RGB-D相机各向异性误差矩阵计算所述特征点经过RGB-D相机各项异性矫正后的坐标;
根据所述特征点经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,计算所述激光雷达和所述RGB-D相机之间的旋转矩阵和位移矩阵,完成标定;
其中,所述RGB-D相机各向异性误差矩阵构建方法如下:
分别获取RGB-D相机的两块感光组件CCD1和CCD2的误差分别记作(σx1y1z1)和(σx2y2z2),其中σx1y1z1为感光组件CCD1在x,y,z三个方向上的误差,σx2y2z2为感光组件CCD2在x,y,z三个方向上的误差;
则RGB-D相机误差为:
其中,σxyz分别为RGB-D相机在x,y,z三个方向上的误差;
得到RGB-D相机各向异性误差矩阵表达式如下:
所述激光雷达各向异性误差矩阵构建方法如下:
1)令激光雷达测量任一点P,得到该点在直角坐标系下的坐标(x,y,z)及该点在球标系下的坐标(R,α,ω):
其中,R为激光飞行时间算法测得的激光雷达的激光模块与P点间的距离,α与ω分别为激光雷达的水平夹角与垂直夹角;
2)获取激光雷达的距离误差σR、水平夹角误差σα和垂直夹角误差σω
3)构建激光雷达在球坐标系下的各向异性加权矩阵WLidar′:
4)构建直角坐标系和球坐标系的关系转换矩阵如下:
5)构建直角坐标系下激光雷达各向异性矩阵WLidar为:
WLidar=J·WLidar′·JT
所述特征点经过激光雷达各项异性矫正后的坐标计算表达式如下:
PLidarW(x,y,z)=WLidar·PLidar(x,y,z)
其中,PLidar(x,y,z)表示任一特征点在激光雷达坐标系下的坐标,PLidarW(x,y,z)表示该特征点经过激光雷达各项异性矫正后的坐标;
所述特征点经过RGB-D相机各项异性矫正后的坐标计算表达式如下:
PCameraW(x,y,z)=WCamera·PCamera(x,y,z)
其中,PCamera(x,y,z)表示任一特征点在RGB-D相机坐标系下的坐标,PCameraW(x,y,z)表示该特征点经过RGB-D相机各项异性矫正后的坐标;
所述根据所述特征点经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,计算所述激光雷达和所述RGB-D相机之间的旋转矩阵和位移矩阵,包括:
1)任意选取一个特征点作为基准特征点,将所述基准特征点经过激光雷达各项异性矫正后的坐标记为PLidarW0,将所述基准特征点经过RGB-D相机各项异性矫正后的坐标记为PCameraW0
2)利用奇异值分解法对PLidarW0和PCameraW0进行粗配准,获得初始旋转矩阵R0与初始位移矩阵T0,表达式如下:
PLidarW0=R0·PCameraW0+T0
3)利用其余特征点分别经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,通过对初始旋转矩阵和初始位移矩阵进行迭代求解,得到最终的旋转矩阵和位移矩阵;
所述对初始旋转矩阵和初始位移矩阵进行迭代求解,包括:
3-1)将R0转换为I+ΔΘ0的形式,其中I是单位矩阵,ΔΘ0是R0与单位矩阵的差值矩阵,将ΔΘ0作为初始差值矩阵;
令初始误差error0=1;
3-2)在第n步迭代时,进行如下计算:
3-2-1)使用最小二乘法得到最小化的[I+ΔΘn,Tn],其中最小二乘法表达式为:
其中,ΔΘn和Tn分别是第n次迭代时满足最小二乘法得到的差值矩阵和位移矩阵,是在n-1次迭代后得到的第i个特征点经过激光雷达各项异性矫正后的坐标,其迭代初始值为该特征点经过激光雷达各项异性矫正后的坐标;PCameraWi表示第i个特征点经过RGB-D相机各项异性矫正后的坐标;i=1,2,3…M,不包含基准特征点;M为除基准特征点以外的特征点总数;
3-2-2)更新进行如下计算:
UΛVT=1+ΔΘn-1
Rn=UVT
其中,ΔΘn-1和Tn-1分别为第n-1次迭代时满足最小二乘法得到的差值矩阵和位移矩阵;U,Λ,VT是对1+ΔΘn-1做奇异值分解后得到的矩阵,Rn是第n次迭代时得到的旋转矩阵,是在第n次迭代时第i个特征点经过激光雷达各项异性矫正后的坐标;
3-2-3)计算第n次迭代的误差:
其中是第n-1次迭代后各特征点经过激光雷达各项异性矫正后的坐标的均值,errorn是第n次迭代后得到的误差值;
3-4)判定:如果errorn大于设定的误差阈值,则令n=n+1,然后重新返回步骤3-2-1);否则,将Rn,Tn作为最终得到的RGB-D相机和激光雷达的系统外参矩阵,标定完成。
2.根据权利要求1所述的方法,其特征在于,在所述获取标定物上预设的特征点分别在激光雷达坐标系下和在RGB-D相机坐标系下的坐标之前,还包括:
获取所述激光雷达和所述RGB-D相机的内参标定结果;所述激光雷达的内参为激光发射器坐标系与雷达自身坐标系之间的转换关系,所述RGB-D相机的内参包括所述RGB-D相机的内参矩阵和畸变矩阵。
3.一种RGB-D相机和激光雷达的系统标定装置,其特征在于,包括:
特征点坐标获取模块,用于获取标定物上预设的特征点分别在激光雷达坐标系下和在RGB-D相机坐标系下的坐标;
激光雷达坐标异性校正模块,用于根据所述特征点在激光雷达坐标系下的坐标,利用激光雷达各向异性误差矩阵计算所述特征点经过激光雷达各项异性矫正后的坐标;
RGB-D相机坐标异性校正模块,用于根据所述特征点在RGB-D相机坐标系下的坐标,利用RGB-D相机各向异性误差矩阵计算所述特征点经过RGB-D相机各项异性矫正后的坐标;
标定模块,用于根据所述特征点经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,计算所述激光雷达和所述RGB-D相机之间的旋转矩阵和位移矩阵,完成标定;
其中,所述RGB-D相机各向异性误差矩阵构建方法如下:
分别获取RGB-D相机的两块感光组件CCD1和CCD2的误差分别记作(σx1y1z1)和(σx2y2z2),其中σx1y1z1为感光组件CCD1在x,y,z三个方向上的误差,σx2y2z2为感光组件CCD2在x,y,z三个方向上的误差;
则RGB-D相机误差为:
其中,σxyz分别为RGB-D相机在x,y,z三个方向上的误差;
得到RGB-D相机各向异性误差矩阵表达式如下:
所述激光雷达各向异性误差矩阵构建方法如下:
1)令激光雷达测量任一点P,得到该点在直角坐标系下的坐标(x,y,z)及该点在球标系下的坐标(R,α,ω):
其中,R为激光飞行时间算法测得的激光雷达的激光模块与P点间的距离,α与ω分别为激光雷达的水平夹角与垂直夹角;
2)获取激光雷达的距离误差σR、水平夹角误差σα和垂直夹角误差σω
3)构建激光雷达在球坐标系下的各向异性加权矩阵WLidar′:
4)构建直角坐标系和球坐标系的关系转换矩阵如下:
5)构建直角坐标系下激光雷达各向异性矩阵WLidar为:
WLidar=J·WLidar′·JT
所述特征点经过激光雷达各项异性矫正后的坐标计算表达式如下:
PLidarW(x,y,z)=WLidar·PLidar(x,y,z)
其中,PLidar(x,y,z)表示任一特征点在激光雷达坐标系下的坐标,PLidarW(x,y,z)表示该特征点经过激光雷达各项异性矫正后的坐标;
所述特征点经过RGB-D相机各项异性矫正后的坐标计算表达式如下:
PCameraW(x,y,z)=WCamera·PCamera(x,y,z)
其中,PCamera(x,y,z)表示任一特征点在RGB-D相机坐标系下的坐标,PCameraW(x,y,z)表示该特征点经过RGB-D相机各项异性矫正后的坐标;
所述根据所述特征点经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,计算所述激光雷达和所述RGB-D相机之间的旋转矩阵和位移矩阵,包括:
1)任意选取一个特征点作为基准特征点,将所述基准特征点经过激光雷达各项异性矫正后的坐标记为PLidarW0,将所述基准特征点经过RGB-D相机各项异性矫正后的坐标记为PCameraW0
2)利用奇异值分解法对PLidarW0和PCameraW0进行粗配准,获得初始旋转矩阵R0与初始位移矩阵T0,表达式如下:
PLidarW0=R0·PCameraW0+T0
3)利用其余特征点分别经过激光雷达各项异性矫正后的坐标和经过RGB-D相机各项异性矫正后的坐标,通过对初始旋转矩阵和初始位移矩阵进行迭代求解,得到最终的旋转矩阵和位移矩阵;
所述对初始旋转矩阵和初始位移矩阵进行迭代求解,包括:
3-1)将R0转换为I+ΔΘ0的形式,其中I是单位矩阵,ΔΘ0是R0与单位矩阵的差值矩阵,将ΔΘ0作为初始差值矩阵;
令初始误差error0=1;
3-2)在第n步迭代时,进行如下计算:
3-2-1)使用最小二乘法得到最小化的[I+ΔΘn,Tn],其中最小二乘法表达式为:
其中,ΔΘn和Tn分别是第n次迭代时满足最小二乘法得到的差值矩阵和位移矩阵,是在n-1次迭代后得到的第i个特征点经过激光雷达各项异性矫正后的坐标,其迭代初始值为该特征点经过激光雷达各项异性矫正后的坐标;PCameraWi表示第i个特征点经过RGB-D相机各项异性矫正后的坐标;i=1,2,3…M,不包含基准特征点;M为除基准特征点以外的特征点总数;
3-2-2)更新进行如下计算:
UΛVT=1+ΔΘn-1
Rn=UVT
其中,ΔΘn-1和Tn-1分别为第n-1次迭代时满足最小二乘法得到的差值矩阵和位移矩阵;U,Λ,VT是对1+ΔΘn-1做奇异值分解后得到的矩阵,Rn是第n次迭代时得到的旋转矩阵,是在第n次迭代时第i个特征点经过激光雷达各项异性矫正后的坐标;
3-2-3)计算第n次迭代的误差:
其中是第n-1次迭代后各特征点经过激光雷达各项异性矫正后的坐标的均值,errorn是第n次迭代后得到的误差值;
3-4)判定:如果errorn大于设定的误差阈值,则令n=n+1,然后重新返回步骤3-2-1);否则,将Rn,Tn作为最终得到的RGB-D相机和激光雷达的系统外参矩阵,标定完成。
4.一种电子设备,其特征在于,包括:
至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;
其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被设置为用于执行上述权利要求1-2任一项所述的方法。
5.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储计算机指令,所述计算机指令用于使所述计算机执行权利要求1-2任一项所述的方法。
CN202210687786.3A 2022-06-17 2022-06-17 一种rgb-d相机和激光雷达的系统标定方法及装置 Active CN115166701B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210687786.3A CN115166701B (zh) 2022-06-17 2022-06-17 一种rgb-d相机和激光雷达的系统标定方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210687786.3A CN115166701B (zh) 2022-06-17 2022-06-17 一种rgb-d相机和激光雷达的系统标定方法及装置

Publications (2)

Publication Number Publication Date
CN115166701A CN115166701A (zh) 2022-10-11
CN115166701B true CN115166701B (zh) 2024-04-09

Family

ID=83484673

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210687786.3A Active CN115166701B (zh) 2022-06-17 2022-06-17 一种rgb-d相机和激光雷达的系统标定方法及装置

Country Status (1)

Country Link
CN (1) CN115166701B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118332708B (zh) * 2024-06-17 2024-10-18 成都飞机工业(集团)有限责任公司 一种基于特征点距离误差矩阵的大尺寸部件可装配性评价方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110349221A (zh) * 2019-07-16 2019-10-18 北京航空航天大学 一种三维激光雷达与双目可见光传感器的融合标定方法
CN111638499A (zh) * 2020-05-08 2020-09-08 上海交通大学 基于激光雷达反射强度点特征的相机-激光雷达相对外参标定方法
WO2020233443A1 (zh) * 2019-05-21 2020-11-26 菜鸟智能物流控股有限公司 一种激光雷达与相机之间的标定方法和装置
CN113592957A (zh) * 2021-08-06 2021-11-02 北京易航远智科技有限公司 一种多激光雷达和多相机联合标定方法及系统
WO2021253193A1 (zh) * 2020-06-15 2021-12-23 深圳市大疆创新科技有限公司 多组激光雷达外参的标定方法、标定装置和计算机存储介质
CN114200430A (zh) * 2021-12-10 2022-03-18 上海西井信息科技有限公司 激光雷达与相机的标定方法、系统、设备及存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020233443A1 (zh) * 2019-05-21 2020-11-26 菜鸟智能物流控股有限公司 一种激光雷达与相机之间的标定方法和装置
CN110349221A (zh) * 2019-07-16 2019-10-18 北京航空航天大学 一种三维激光雷达与双目可见光传感器的融合标定方法
CN111638499A (zh) * 2020-05-08 2020-09-08 上海交通大学 基于激光雷达反射强度点特征的相机-激光雷达相对外参标定方法
WO2021253193A1 (zh) * 2020-06-15 2021-12-23 深圳市大疆创新科技有限公司 多组激光雷达外参的标定方法、标定装置和计算机存储介质
CN113592957A (zh) * 2021-08-06 2021-11-02 北京易航远智科技有限公司 一种多激光雷达和多相机联合标定方法及系统
CN114200430A (zh) * 2021-12-10 2022-03-18 上海西井信息科技有限公司 激光雷达与相机的标定方法、系统、设备及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
康国华 ; 张琪 ; 张晗 ; 徐伟证 ; 张文豪 ; .基于点云中心的激光雷达与相机联合标定方法研究.仪器仪表学报.2019,(第12期),全文. *
杨向东 ; 徐静 ; 刘少丽 ; 陈恳 ; 梁萍 ; .基于超声影像导航的肝癌消融机器人系统的误差传递.机器人.2008,(第05期),全文. *

Also Published As

Publication number Publication date
CN115166701A (zh) 2022-10-11

Similar Documents

Publication Publication Date Title
CN107481292B (zh) 车载摄像头的姿态误差估计方法和装置
CN110501712B (zh) 无人驾驶中用于确定位置姿态数据的方法、装置和设备
CN110501036A (zh) 传感器参数的标定检查方法及装置
US20130002871A1 (en) Vehicle Vision System
CN112017205B (zh) 一种激光雷达和相机传感器空间位置自动标定方法及系统
CN112990124B (zh) 一种车辆跟踪方法、装置、电子设备及存储介质
CN113256729B (zh) 激光雷达与相机的外参标定方法、装置、设备及存储介质
CN112183171A (zh) 一种基于视觉信标建立信标地图方法、装置
CN106529587A (zh) 基于目标点识别的视觉航向识别方法
CN111913169B (zh) 激光雷达内参、点云数据的修正方法、设备及存储介质
CN112465877B (zh) 一种基于运动状态估计的卡尔曼滤波视觉追踪稳定方法
CN112946609B (zh) 激光雷达与相机的标定方法、装置、设备及可读存储介质
CN115166701B (zh) 一种rgb-d相机和激光雷达的系统标定方法及装置
CN115546313A (zh) 车载相机自校准方法、装置、电子设备及存储介质
CN114111791A (zh) 一种智能机器人室内自主导航方法、系统及存储介质
CN114063024A (zh) 传感器的标定方法、装置、电子设备和存储介质
CN109489658B (zh) 一种运动目标定位方法、装置及终端设备
CN115388914B (zh) 传感器的参数标定方法、装置、存储介质和电子装置
CN114140608B (zh) 一种光伏板标记方法、装置、电子设备及存储介质
CN118050707A (zh) 激光雷达的标定方法及装置、存储介质、终端设备
CN115512343A (zh) 一种圆形指针式仪表校正和读数识别方法
CN114755663A (zh) 车辆传感器的外参校准方法、装置及计算机可读存储介质
CN111145268B (zh) 一种视频注册方法及装置
CN112633043B (zh) 一种车道线确定方法、装置、电子设备及存储介质
CN114004949A (zh) 机载点云辅助的移动测量系统安置参数检校方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant