CN112884845A - 一种基于单摄像机室内机器人障碍物定位的方法 - Google Patents

一种基于单摄像机室内机器人障碍物定位的方法 Download PDF

Info

Publication number
CN112884845A
CN112884845A CN202110051721.5A CN202110051721A CN112884845A CN 112884845 A CN112884845 A CN 112884845A CN 202110051721 A CN202110051721 A CN 202110051721A CN 112884845 A CN112884845 A CN 112884845A
Authority
CN
China
Prior art keywords
camera
coordinate system
robot
obstacle
rob
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110051721.5A
Other languages
English (en)
Other versions
CN112884845B (zh
Inventor
高发钦
姜凯
王子彤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Inspur Scientific Research Institute Co Ltd
Original Assignee
Jinan Inspur Hi Tech Investment and Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jinan Inspur Hi Tech Investment and Development Co Ltd filed Critical Jinan Inspur Hi Tech Investment and Development Co Ltd
Priority to CN202110051721.5A priority Critical patent/CN112884845B/zh
Publication of CN112884845A publication Critical patent/CN112884845A/zh
Application granted granted Critical
Publication of CN112884845B publication Critical patent/CN112884845B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/60Rotation of a whole image or part thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras

Abstract

本发明提供了一种基于单摄像机室内机器人障碍物定位的方法。首先使用张正友标定法,对摄像机进行标定,得到内参数。将摄像机安装在机器人固定高度,向下倾斜固定的角度。在正前方放置棋盘格作为标定板,计算出摄像机坐标系和机器人坐标系的位置变换矩阵,进而得到摄像机的倾斜角度和光心距离地面的高度。摄像机采集路面图像,找到障碍物的图像坐标,然后计算障碍物在摄像机坐标系中的的三维坐标,转换到机器人坐标系下,就可以知道障碍物相对于机器人的位置了。本发明仅使用单个摄像机,安装简单,成本低廉;不需要特征点匹配,计算量小,不会出现误匹配;算法简单,实时性好;不要求路面有很强的纹理特征,适应性广。

Description

一种基于单摄像机室内机器人障碍物定位的方法
技术领域
本发明涉及计算机视觉领域一种基于单摄像机室内机器人障碍物定位的方法,用来检测前方路面有无障碍物及其具体坐标。
背景技术
室内机器人在室内工作时,需要检测前方路面有无障碍物及其具体坐标,来及时调整姿态或者规划路径。现有的机器人障碍物检测技术,有的用朝前发射超声波检测障碍物,但是这只能检测到正前方特定高度上某条线上的障碍物,对于其他位置的障碍物检测不到;有的使用双目立体视觉,但是一般路面纹理具有很大的一致性,或者光滑路面没有很强的纹理特征,双目特征匹配非常困难,而且双目立体视觉的计算量很大;有的使用结构光方案,解决了双目中匹配算法的复杂度和鲁棒性问题,但是在强光下,结构光核心技术激光散斑会被淹没;有的使用激光雷达,但是激光雷达价格昂贵,而且得到的只是稀疏点云。
发明内容
本发明目的是提供了一种基于单摄像机室内机器人障碍物定位的方法,本发明仅使用单个摄像机,安装简单,成本低廉;不需要特征点匹配,计算量小,不会出现误匹配;;算法简单,实时性好;不要求路面有很强的纹理特征,适应性广。
本发明为实现上述目的,通过以下技术方案实现:
步骤1,对摄像机进行标定,得到内参数,
Figure RE-RE-GDA0003023321870000021
其中
Figure RE-RE-GDA0003023321870000022
Figure RE-RE-GDA0003023321870000023
分别表示摄像机在x和y方向上以像素为单位的焦距长度,(u0,v0)表示光心在图像上的像素坐标;
步骤2,标定得出摄像机相对于机器人坐标系的位置关系。将摄像机安装在机器人固定高度,向下倾斜固定的角度,在正前方放置棋盘格作为标定板,计算出摄像机坐标系和机器人坐标系的位置变换矩阵Tcam_to_rob,进而得到摄像机的倾斜角度α和光心距离地面的高度H;Tcam_to_w是从摄像机坐标系到棋盘格坐标系的变换矩阵,由相机拍摄棋盘格的图像,运行标定程序,计算外参数得到;
Tw_to_rob是从棋盘格坐标系到机器人坐标系的变换矩阵,由测量棋盘格相对机器人的位置得到;
Tcam_to_rob是从摄像机坐标系到机器人坐标系的变换矩阵,Tcam_to_rob=Tcam_to_ wTw_to_rob
从摄像机坐标系到机器人坐标系,是先绕X轴逆向旋转90°-α,对应的旋转矩阵是
Figure RE-RE-GDA0003023321870000024
Figure RE-RE-GDA0003023321870000025
对应的平移向量是t=[0,-H,-L],因此
Figure RE-RE-GDA0003023321870000026
由Tcam_to_rob=Tcam_to_wTw_to_rob得到Tcam_to_rob的各个元素后,根据
Figure RE-RE-GDA0003023321870000027
得到H和α的值;
步骤3,摄像机采集路面图像,找到障碍物的图像坐标。
通过图像处理、深度学习或者人工标注的方法,在图像中找到障碍物区域,其中纵坐标最大的点,就是障碍物的边缘和地面的交点,记录其图像像素坐标(u,v)。
步骤4,计算障碍物在摄像机坐标系中的的三维坐标。
首先计算摄像机光心到障碍物的连线和摄像机光轴的夹角β
Figure RE-RE-GDA0003023321870000031
然后计算障碍物在摄像机坐标系中的坐标(Xc,Yc,Zc)
Figure RE-RE-GDA0003023321870000032
Figure RE-RE-GDA0003023321870000033
可得
Figure RE-RE-GDA0003023321870000034
Figure RE-RE-GDA0003023321870000035
步骤5,计算障碍物在机器人坐标系下的坐标。
将摄像机坐标系下的三维坐标转换到机器人底座坐标系下。
Figure RE-RE-GDA0003023321870000036
其中Xr和Zr就是障碍物在机器人坐标系中的坐标,可以知道障碍物相对于机器人左右和前后方向的位置,为机器人姿态调整或者路径规划提供参考。
优选的,所述步骤1中对摄像机标定的方法为张正友标定法。
本发明的优点在于:一种基于单摄像机室内机器人障碍物定位的方法,使用安装在机器人本体上固定高度的摄像机检测障碍物,并计算障碍物的三维坐标,为机器人姿态调整或者路径规划提供参考。本发明仅使用单个摄像机,安装简单,成本低廉;不需要特征点匹配,计算量小,不会出现误匹配;;算法简单,实时性好;不要求路面有很强的纹理特征,适应性广。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。
图1本发明机器人坐标系和摄像机坐标系位置示意图。
图2为本发明摄像机和机器人本体相对位置标定。
图3为本发明障碍物坐标计算示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
步骤1,首先使用张正友标定法,对摄像机进行标定,得到内参数矩阵
Figure RE-RE-GDA0003023321870000041
其中
Figure RE-RE-GDA0003023321870000042
Figure RE-RE-GDA0003023321870000043
分别表示摄像机在x和y方向上以像素为单位的焦距长度,(u0,v0)表示光心在图像上的像素坐标。
步骤2,标定得出摄像机相对于机器人坐标系的位置关系。由于摄像机光心的位置不确定,不能直接测量摄像机光心到地面的距离,本发明提出了一种通过棋盘格标定的方法计算摄像机相对于机器人坐标系位置的方法。将摄像机安装在机器人固定高度,向下倾斜固定的角度。在正前方放置棋盘格作为标定板,计算出摄像机坐标系和机器人坐标系的位置变换矩阵Tcam_to_rob,进而得到摄像机的倾斜角度α和光心距离地面的高度H。
Tcam_to_w是从摄像机坐标系到棋盘格坐标系的变换矩阵,由相机拍摄棋盘格的图像,运行张正友标定程序,计算外参数得到。
Tw_to_rob是从棋盘格坐标系到机器人坐标系的变换矩阵,由测量棋盘格相对机器人的位置得到。
Tcam_to_rob是从摄像机坐标系到机器人坐标系的变换矩阵,由图中可知Tcam_to_rob=Tcam_to_wTw_to_rob
从摄像机坐标系到机器人坐标系,是先绕X轴逆向旋转90°-α,对应的旋转矩阵是
Figure RE-RE-GDA0003023321870000051
Figure RE-RE-GDA0003023321870000052
对应的平移向量是t=[0,-H,-L],因此
Figure RE-RE-GDA0003023321870000053
由Tcam_to_rob=Tcam_to_wTw_to_rob得到Tcam_to_rob的各个元素后,根据
Figure RE-RE-GDA0003023321870000054
得到H和α的值。
步骤3,摄像机采集路面图像,找到障碍物的图像坐标。
通过图像处理、深度学习或者人工标注的方法,在图像中找到障碍物区域,其中纵坐标最大的点,就是障碍物的边缘和地面的交点,记录其图像像素坐标(u,v)。
步骤4,计算障碍物在摄像机坐标系中的的三维坐标。
首先计算摄像机光心到障碍物的连线和摄像机光轴的夹角β
Figure RE-RE-GDA0003023321870000061
然后计算障碍物在摄像机坐标系中的坐标(Xc,Yc,Zc)
Figure RE-RE-GDA0003023321870000062
Figure RE-RE-GDA0003023321870000063
可得
Figure RE-RE-GDA0003023321870000064
Figure RE-RE-GDA0003023321870000065
步骤5,计算障碍物在机器人坐标系下的坐标。
将摄像机坐标系下的三维坐标转换到机器人底座坐标系下。
Figure RE-RE-GDA0003023321870000066
其中Xr和Zr就是障碍物在机器人坐标系中的坐标,可以知道障碍物相对于机器人左右和前后方向的位置,为机器人姿态调整或者路径规划提供参考。

Claims (2)

1.一种基于单摄像机室内机器人障碍物定位的方法,其特征在于,包括以下步骤:
步骤1,对摄像机进行标定,得到内参数,
Figure RE-FDA0003023321860000011
其中
Figure RE-FDA0003023321860000012
Figure RE-FDA0003023321860000013
分别表示摄像机在x和y方向上以像素为单位的焦距长度,(u0,v0)表示光心在图像上的像素坐标;
步骤2,标定得出摄像机相对于机器人坐标系的位置关系。将摄像机安装在机器人固定高度,向下倾斜固定的角度,在正前方放置棋盘格作为标定板,计算出摄像机坐标系和机器人坐标系的位置变换矩阵Tcam_to_rob,进而得到摄像机的倾斜角度α和光心距离地面的高度H;Tcam_to_w是从摄像机坐标系到棋盘格坐标系的变换矩阵,由相机拍摄棋盘格的图像,运行标定程序,计算外参数得到;
Tw_to_rob是从棋盘格坐标系到机器人坐标系的变换矩阵,由测量棋盘格相对机器人的位置得到;
Tcam_to_rob是从摄像机坐标系到机器人坐标系的变换矩阵,Tcam_to_rob=Tcam_to_wTw_to_rob
从摄像机坐标系到机器人坐标系,是先绕X轴逆向旋转90°-α,对应的旋转矩阵是
Figure RE-FDA0003023321860000014
Figure RE-FDA0003023321860000015
对应的平移向量是t=[0,-H,-L],因此
Figure RE-FDA0003023321860000016
由Tcam_to_rob=Tcam_to_wTw_to_rob得到Tcam_to_rob的各个元素后,根据
Figure RE-FDA0003023321860000021
得到H和α的值;
步骤3,摄像机采集路面图像,找到障碍物的图像坐标。
通过图像处理、深度学习或者人工标注的方法,在图像中找到障碍物区域,其中纵坐标最大的点,就是障碍物的边缘和地面的交点,记录其图像像素坐标(u,v)。
步骤4,计算障碍物在摄像机坐标系中的的三维坐标。
首先计算摄像机光心到障碍物的连线和摄像机光轴的夹角β
Figure RE-FDA0003023321860000022
然后计算障碍物在摄像机坐标系中的坐标(Xc,Yc,Zc)
Figure RE-FDA0003023321860000023
Figure RE-FDA0003023321860000024
可得
Figure RE-FDA0003023321860000025
Figure RE-FDA0003023321860000026
步骤5,计算障碍物在机器人坐标系下的坐标。
将摄像机坐标系下的三维坐标转换到机器人底座坐标系下。
Figure RE-FDA0003023321860000031
其中Xr和Zr就是障碍物在机器人坐标系中的坐标,可以知道障碍物相对于机器人左右和前后方向的位置,为机器人姿态调整或者路径规划提供参考。
2.根据权利要求1所述的基于单摄像机室内机器人障碍物定位的方法,其特征在于,所述步骤1中对摄像机标定的方法为张正友标定法。
CN202110051721.5A 2021-01-14 2021-01-14 一种基于单摄像机室内机器人障碍物定位的方法 Active CN112884845B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110051721.5A CN112884845B (zh) 2021-01-14 2021-01-14 一种基于单摄像机室内机器人障碍物定位的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110051721.5A CN112884845B (zh) 2021-01-14 2021-01-14 一种基于单摄像机室内机器人障碍物定位的方法

Publications (2)

Publication Number Publication Date
CN112884845A true CN112884845A (zh) 2021-06-01
CN112884845B CN112884845B (zh) 2023-03-31

Family

ID=76049468

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110051721.5A Active CN112884845B (zh) 2021-01-14 2021-01-14 一种基于单摄像机室内机器人障碍物定位的方法

Country Status (1)

Country Link
CN (1) CN112884845B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113959398A (zh) * 2021-10-09 2022-01-21 广东汇天航空航天科技有限公司 基于视觉的测距方法、装置、可行驶设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103413313A (zh) * 2013-08-19 2013-11-27 国家电网公司 基于电力机器人的双目视觉导航系统及方法
CN103955920A (zh) * 2014-04-14 2014-07-30 桂林电子科技大学 基于三维点云分割的双目视觉障碍物检测方法
CN106052674A (zh) * 2016-05-20 2016-10-26 青岛克路德机器人有限公司 一种室内机器人的slam方法和系统
CN106780623A (zh) * 2016-12-14 2017-05-31 厦门理工学院 一种机器人视觉系统快速标定方法
CN108573244A (zh) * 2018-04-28 2018-09-25 济南浪潮高新科技投资发展有限公司 一种车辆检测方法、装置及系统
CN111536902A (zh) * 2020-04-22 2020-08-14 西安交通大学 一种基于双棋盘格的振镜扫描系统标定方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103413313A (zh) * 2013-08-19 2013-11-27 国家电网公司 基于电力机器人的双目视觉导航系统及方法
CN103955920A (zh) * 2014-04-14 2014-07-30 桂林电子科技大学 基于三维点云分割的双目视觉障碍物检测方法
CN106052674A (zh) * 2016-05-20 2016-10-26 青岛克路德机器人有限公司 一种室内机器人的slam方法和系统
CN106780623A (zh) * 2016-12-14 2017-05-31 厦门理工学院 一种机器人视觉系统快速标定方法
CN108573244A (zh) * 2018-04-28 2018-09-25 济南浪潮高新科技投资发展有限公司 一种车辆检测方法、装置及系统
CN111536902A (zh) * 2020-04-22 2020-08-14 西安交通大学 一种基于双棋盘格的振镜扫描系统标定方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
SHENGHONG FAN ET AL.: "A new 3D coordinates acquisition method on base of single camera", 《APPLIED MECHANICS AND MATERIALS》 *
SYED IRTIZA ALI SHAH ET AL.: "3D Obstacle Detection Using a Single Camera", 《AIAA GUIDANCE, NAVIGATION, AND CONTROL CONFERENCE》 *
于国防等: "基于单目视觉的倒车障碍物测距技术的研究", 《计算机应用与软件》 *
司徒仕忠等: "基于深度相机的障碍物识别", 《科技创新与应用》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113959398A (zh) * 2021-10-09 2022-01-21 广东汇天航空航天科技有限公司 基于视觉的测距方法、装置、可行驶设备及存储介质
CN113959398B (zh) * 2021-10-09 2024-04-12 广东汇天航空航天科技有限公司 基于视觉的测距方法、装置、可行驶设备及存储介质

Also Published As

Publication number Publication date
CN112884845B (zh) 2023-03-31

Similar Documents

Publication Publication Date Title
CN110161485B (zh) 一种激光雷达与视觉相机的外参标定装置
CN109283538B (zh) 一种基于视觉和激光传感器数据融合的海上目标大小检测方法
CN108369743B (zh) 使用多方向相机地图构建空间
US10602059B2 (en) Method for generating a panoramic image
CN110807809B (zh) 基于点线特征和深度滤波器的轻量级单目视觉定位方法
CN107843251B (zh) 移动机器人的位姿估计方法
JP2014529727A (ja) 自動シーン較正
CN111815716A (zh) 一种参数标定方法及相关装置
CN112258590B (zh) 一种基于激光的深度相机外参标定方法、设备及其存储介质
CN111220126A (zh) 一种基于点特征和单目相机的空间物体位姿测量方法
CN109410234A (zh) 一种基于双目视觉避障的控制方法及控制系统
US20230351625A1 (en) A method for measuring the topography of an environment
Ohashi et al. Fisheye stereo camera using equirectangular images
CN109191533A (zh) 基于装配式建筑的塔吊高空施工方法
CN106524995A (zh) 基于可见光图像实时检测目标物体空间距离的定位方法
CN112884845B (zh) 一种基于单摄像机室内机器人障碍物定位的方法
KR101597163B1 (ko) 스테레오 카메라 교정 방법 및 장치
CN115359130A (zh) 雷达和相机的联合标定方法、装置、电子设备及存储介质
CN116824067B (zh) 一种室内三维重建方法及其装置
Sui et al. Extrinsic calibration of camera and 3D laser sensor system
CN102542563A (zh) 一种移动机器人前向单目视觉的建模方法
CN209181735U (zh) 基于激光器的两栖三维视觉探测装置
CN114663486A (zh) 一种基于双目视觉的建筑物测高方法及系统
Zamanakos et al. A cooperative LiDAR-camera scheme for extrinsic calibration
CN113888702A (zh) 基于多tof激光雷达和rgb摄像头的室内高精度实时建模和空间定位的装置和方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20230301

Address after: 250000 building S02, No. 1036, Gaoxin Inspur Road, Jinan, Shandong

Applicant after: Shandong Inspur Scientific Research Institute Co.,Ltd.

Address before: 250104 1st floor, R & D building, No. 2877, Suncun Town, Licheng District, Jinan City, Shandong Province

Applicant before: JINAN INSPUR HIGH-TECH TECHNOLOGY DEVELOPMENT Co.,Ltd.

GR01 Patent grant
GR01 Patent grant