CN112884845B - 一种基于单摄像机室内机器人障碍物定位的方法 - Google Patents

一种基于单摄像机室内机器人障碍物定位的方法 Download PDF

Info

Publication number
CN112884845B
CN112884845B CN202110051721.5A CN202110051721A CN112884845B CN 112884845 B CN112884845 B CN 112884845B CN 202110051721 A CN202110051721 A CN 202110051721A CN 112884845 B CN112884845 B CN 112884845B
Authority
CN
China
Prior art keywords
camera
coordinate system
robot
rob
cam
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110051721.5A
Other languages
English (en)
Other versions
CN112884845A (zh
Inventor
高发钦
姜凯
王子彤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Inspur Scientific Research Institute Co Ltd
Original Assignee
Shandong Inspur Scientific Research Institute Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong Inspur Scientific Research Institute Co Ltd filed Critical Shandong Inspur Scientific Research Institute Co Ltd
Priority to CN202110051721.5A priority Critical patent/CN112884845B/zh
Publication of CN112884845A publication Critical patent/CN112884845A/zh
Application granted granted Critical
Publication of CN112884845B publication Critical patent/CN112884845B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供了一种基于单摄像机室内机器人障碍物定位的方法。首先使用张正友标定法,对摄像机进行标定,得到内参数。将摄像机安装在机器人固定高度,向下倾斜固定的角度。在正前方放置棋盘格作为标定板,计算出摄像机坐标系和机器人坐标系的位置变换矩阵,进而得到摄像机的倾斜角度和光心距离地面的高度。摄像机采集路面图像,找到障碍物的图像坐标,然后计算障碍物在摄像机坐标系中的的三维坐标,转换到机器人坐标系下,就可以知道障碍物相对于机器人的位置了。本发明仅使用单个摄像机,安装简单,成本低廉;不需要特征点匹配,计算量小,不会出现误匹配;算法简单,实时性好;不要求路面有很强的纹理特征,适应性广。

Description

一种基于单摄像机室内机器人障碍物定位的方法
技术领域
本发明涉及计算机视觉领域一种基于单摄像机室内机器人障碍物定位的方法,用来检测前方路面有无障碍物及其具体坐标。
背景技术
室内机器人在室内工作时,需要检测前方路面有无障碍物及其具体坐标,来及时调整姿态或者规划路径。现有的机器人障碍物检测技术,有的用朝前发射超声波检测障碍物,但是这只能检测到正前方特定高度上某条线上的障碍物,对于其他位置的障碍物检测不到;有的使用双目立体视觉,但是一般路面纹理具有很大的一致性,或者光滑路面没有很强的纹理特征,双目特征匹配非常困难,而且双目立体视觉的计算量很大;有的使用结构光方案,解决了双目中匹配算法的复杂度和鲁棒性问题,但是在强光下,结构光核心技术激光散斑会被淹没;有的使用激光雷达,但是激光雷达价格昂贵,而且得到的只是稀疏点云。
发明内容
本发明目的是提供了一种基于单摄像机室内机器人障碍物定位的方法,本发明仅使用单个摄像机,安装简单,成本低廉;不需要特征点匹配,计算量小,不会出现误匹配;;算法简单,实时性好;不要求路面有很强的纹理特征,适应性广。
本发明为实现上述目的,通过以下技术方案实现:
步骤1,对摄像机进行标定,得到内参数
Figure GDA0003921614340000021
其中/>
Figure GDA0003921614340000022
和/>
Figure GDA0003921614340000023
分别表示摄像机在x和y方向上以像素为单位的焦距长度,(u0,v0)表示光心在图像上的像素坐标;
步骤2,标定得出摄像机相对于机器人坐标系的位置关系。将摄像机安装在机器人固定高度,向下倾斜固定的角度,在正前方放置棋盘格作为标定板,计算出摄像机坐标系和机器人坐标系的位置变换矩阵Tcam_to_rob,进而得到摄像机的倾斜角度α和光心距离地面的高度H;Tcam_to_w是从摄像机坐标系到棋盘格坐标系的变换矩阵,由相机拍摄棋盘格的图像,运行标定程序,计算外参数得到;
Tw_to_rob是从棋盘格坐标系到机器人坐标系的变换矩阵,由测量棋盘格相对机器人的位置得到;
Tcam_to_rob是从摄像机坐标系到机器人坐标系的变换矩阵,Tcam_to_rob=Tcam_to_ wTw_to_rob
从摄像机坐标系到机器人坐标系,是先绕X轴逆向旋转90°-α,对应的旋转矩阵是
Figure GDA0003921614340000024
即/>
Figure GDA0003921614340000025
对应的平移向量是t=[0,-H,-L],因此
Figure GDA0003921614340000026
由Tcam_to_rob=Tcam_to_wTw_to_rob得到Tcam_to_rob的各个元素后,根据
Figure GDA0003921614340000027
得到H和α的值;
步骤3,摄像机采集路面图像,找到障碍物的图像坐标。
通过图像处理、深度学习或者人工标注的方法,在图像中找到障碍物区域,其中纵坐标最大的点,就是障碍物的边缘和地面的交点,记录其图像像素坐标(u,v)。
步骤4,计算障碍物在摄像机坐标系中的的三维坐标。
首先计算摄像机光心到障碍物的连线和摄像机光轴的夹角β
Figure GDA0003921614340000031
然后计算障碍物在摄像机坐标系中的坐标(Xc,Yc,Zc)
Figure GDA0003921614340000032
Figure GDA0003921614340000033
可得
Figure GDA0003921614340000034
Figure GDA0003921614340000035
步骤5,计算障碍物在机器人坐标系下的坐标。
将摄像机坐标系下的三维坐标转换到机器人坐标系下。
Figure GDA0003921614340000036
其中Xr和Zr就是障碍物在机器人坐标系中的坐标,可以知道障碍物相对于机器人左右和前后方向的位置,为机器人姿态调整或者路径规划提供参考。
优选的,所述步骤1中对摄像机标定的方法为张正友标定法。
本发明的优点在于:一种基于单摄像机室内机器人障碍物定位的方法,使用安装在机器人本体上固定高度的摄像机检测障碍物,并计算障碍物的三维坐标,为机器人姿态调整或者路径规划提供参考。本发明仅使用单个摄像机,安装简单,成本低廉;不需要特征点匹配,计算量小,不会出现误匹配;;算法简单,实时性好;不要求路面有很强的纹理特征,适应性广。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。
图1本发明机器人坐标系和摄像机坐标系位置示意图。
图2为本发明摄像机和机器人本体相对位置标定。
图3为本发明障碍物坐标计算示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
步骤1,首先使用张正友标定法,对摄像机进行标定,得到内参数矩阵
Figure GDA0003921614340000041
其中/>
Figure GDA0003921614340000042
和/>
Figure GDA0003921614340000043
分别表示摄像机在x和y方向上以像素为单位的焦距长度,(u0,v0)表示光心在图像上的像素坐标。
步骤2,标定得出摄像机相对于机器人坐标系的位置关系。由于摄像机光心的位置不确定,不能直接测量摄像机光心到地面的距离,本发明提出了一种通过棋盘格标定的方法计算摄像机相对于机器人坐标系位置的方法。将摄像机安装在机器人固定高度,向下倾斜固定的角度。在正前方放置棋盘格作为标定板,计算出摄像机坐标系和机器人坐标系的位置变换矩阵Tcam_to_rob,进而得到摄像机的倾斜角度α和光心距离地面的高度H。
Tcam_to_w是从摄像机坐标系到棋盘格坐标系的变换矩阵,由相机拍摄棋盘格的图像,运行张正友标定程序,计算外参数得到。
Tw_to_rob是从棋盘格坐标系到机器人坐标系的变换矩阵,由测量棋盘格相对机器人的位置得到。
Tcam_to_rob是从摄像机坐标系到机器人坐标系的变换矩阵,由图中可知Tcam_to_rob=Tcam_to_wTw_to_rob
从摄像机坐标系到机器人坐标系,是先绕X轴逆向旋转90°-α,对应的旋转矩阵是
Figure GDA0003921614340000051
即/>
Figure GDA0003921614340000052
对应的平移向量是t=[0,-H,-L],因此
Figure GDA0003921614340000053
由Tcam_to_rob=Tcam_to_wTw_to_rob得到Tcam_to_rob的各个元素后,根据
Figure GDA0003921614340000054
得到H和α的值。
步骤3,摄像机采集路面图像,找到障碍物的图像坐标。
通过图像处理、深度学习或者人工标注的方法,在图像中找到障碍物区域,其中纵坐标最大的点,就是障碍物的边缘和地面的交点,记录其图像像素坐标(u,v)。
步骤4,计算障碍物在摄像机坐标系中的的三维坐标。
首先计算摄像机光心到障碍物的连线和摄像机光轴的夹角β
Figure GDA0003921614340000061
然后计算障碍物在摄像机坐标系中的坐标(Xc,Yc,Zc)
Figure GDA0003921614340000062
Figure GDA0003921614340000063
可得
Figure GDA0003921614340000064
Figure GDA0003921614340000065
步骤5,计算障碍物在机器人坐标系下的坐标。
将摄像机坐标系下的三维坐标转换到机器人坐标系下。
Figure GDA0003921614340000066
其中Xr和Zr就是障碍物在机器人坐标系中的坐标,可以知道障碍物相对于机器人左右和前后方向的位置,为机器人姿态调整或者路径规划提供参考。

Claims (2)

1.一种基于单摄像机室内机器人障碍物定位的方法,其特征在于,包括以下步骤:
步骤1,对摄像机进行标定,得到内参数
Figure FDA0003921614330000011
其中/>
Figure FDA0003921614330000012
和/>
Figure FDA0003921614330000013
分别表示摄像机在x和y方向上以像素为单位的焦距长度,(u0,v0)表示光心在图像上的像素坐标;
步骤2,标定得出摄像机相对于机器人坐标系的位置关系,将摄像机安装在机器人固定高度,向下倾斜固定的角度,在正前方放置棋盘格作为标定板,计算出摄像机坐标系和机器人坐标系的位置变换矩阵Tcam_to_rob,进而得到摄像机的倾斜角度α和光心距离地面的高度H;Tcam_to_w是从摄像机坐标系到棋盘格坐标系的变换矩阵,由相机拍摄棋盘格的图像,运行标定程序,计算外参数得到;
Tw_to_rob是从棋盘格坐标系到机器人坐标系的变换矩阵,由测量棋盘格相对机器人的位置得到;
Tcam_to_rob是从摄像机坐标系到机器人坐标系的变换矩阵,Tcam_to_rob=Tcam_to_wTw_to_rob
从摄像机坐标系到机器人坐标系,是先绕X轴逆向旋转90°-α,对应的旋转矩阵是
Figure FDA0003921614330000014
即/>
Figure FDA0003921614330000015
对应的平移向量是t=[0,-H,-L],因此
Figure FDA0003921614330000016
由Tcam_to_rob=Tcam_to_wTw_to_rob得到Tcam_to_rob的各个元素后,根据
Figure FDA0003921614330000021
得到H和α的值;
步骤3,摄像机采集路面图像,找到障碍物的图像坐标;
通过图像处理、深度学习或者人工标注的方法,在图像中找到障碍物区域,其中纵坐标最大的点,就是障碍物的边缘和地面的交点,记录其图像像素坐标(u,v);
步骤4,计算障碍物在摄像机坐标系中的的三维坐标;
首先计算摄像机光心到障碍物的连线和摄像机光轴的夹角β
Figure FDA0003921614330000022
然后计算障碍物在摄像机坐标系中的坐标(Xc,Yc,Zc)
Figure FDA0003921614330000023
Figure FDA0003921614330000024
可得
Figure FDA0003921614330000025
Figure FDA0003921614330000026
步骤5,计算障碍物在机器人坐标系下的坐标;
将摄像机坐标系下的三维坐标转换到机器人坐标系下;
Figure FDA0003921614330000027
其中Xr和Zr就是障碍物在机器人坐标系中的坐标,可以知道障碍物相对于机器人左右和前后方向的位置,为机器人姿态调整或者路径规划提供参考;
2.根据权利要求1所述的基于单摄像机室内机器人障碍物定位的方法,其特征在于,所述步骤1中对摄像机标定的方法为张正友标定法。
CN202110051721.5A 2021-01-14 2021-01-14 一种基于单摄像机室内机器人障碍物定位的方法 Active CN112884845B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110051721.5A CN112884845B (zh) 2021-01-14 2021-01-14 一种基于单摄像机室内机器人障碍物定位的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110051721.5A CN112884845B (zh) 2021-01-14 2021-01-14 一种基于单摄像机室内机器人障碍物定位的方法

Publications (2)

Publication Number Publication Date
CN112884845A CN112884845A (zh) 2021-06-01
CN112884845B true CN112884845B (zh) 2023-03-31

Family

ID=76049468

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110051721.5A Active CN112884845B (zh) 2021-01-14 2021-01-14 一种基于单摄像机室内机器人障碍物定位的方法

Country Status (1)

Country Link
CN (1) CN112884845B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113959398B (zh) * 2021-10-09 2024-04-12 广东汇天航空航天科技有限公司 基于视觉的测距方法、装置、可行驶设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103413313A (zh) * 2013-08-19 2013-11-27 国家电网公司 基于电力机器人的双目视觉导航系统及方法
CN106780623A (zh) * 2016-12-14 2017-05-31 厦门理工学院 一种机器人视觉系统快速标定方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103955920B (zh) * 2014-04-14 2017-04-12 桂林电子科技大学 基于三维点云分割的双目视觉障碍物检测方法
CN106052674B (zh) * 2016-05-20 2019-07-26 青岛克路德机器人有限公司 一种室内机器人的slam方法和系统
CN108573244B (zh) * 2018-04-28 2020-07-14 浪潮集团有限公司 一种车辆检测方法、装置及系统
CN111536902B (zh) * 2020-04-22 2021-03-09 西安交通大学 一种基于双棋盘格的振镜扫描系统标定方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103413313A (zh) * 2013-08-19 2013-11-27 国家电网公司 基于电力机器人的双目视觉导航系统及方法
CN106780623A (zh) * 2016-12-14 2017-05-31 厦门理工学院 一种机器人视觉系统快速标定方法

Also Published As

Publication number Publication date
CN112884845A (zh) 2021-06-01

Similar Documents

Publication Publication Date Title
CN109283538B (zh) 一种基于视觉和激光传感器数据融合的海上目标大小检测方法
CN110728715B (zh) 一种智能巡检机器人摄像机角度自适应调整方法
CN110161485B (zh) 一种激光雷达与视觉相机的外参标定装置
CN110807809B (zh) 基于点线特征和深度滤波器的轻量级单目视觉定位方法
US10602059B2 (en) Method for generating a panoramic image
CN110244282B (zh) 一种多相机系统和激光雷达联合系统及其联合标定方法
JP5455124B2 (ja) カメラ姿勢パラメータ推定装置
CN102622767B (zh) 双目非标定空间定位方法
WO2015024407A1 (zh) 基于电力机器人的双目视觉导航系统及方法
CN111815716A (zh) 一种参数标定方法及相关装置
CN111220126A (zh) 一种基于点特征和单目相机的空间物体位姿测量方法
CN109410234A (zh) 一种基于双目视觉避障的控制方法及控制系统
CN112595236A (zh) 一种水下激光三维扫描和实时测距的测量装置
CN112884845B (zh) 一种基于单摄像机室内机器人障碍物定位的方法
CN106524995A (zh) 基于可见光图像实时检测目标物体空间距离的定位方法
CN109883433A (zh) 基于360度全景视图的结构化环境中车辆定位方法
EP4073756A1 (en) A method for measuring the topography of an environment
KR101597163B1 (ko) 스테레오 카메라 교정 방법 및 장치
CN116824067B (zh) 一种室内三维重建方法及其装置
Sui et al. Extrinsic calibration of camera and 3D laser sensor system
CN111612833A (zh) 一种行驶车辆高度实时检测方法
CN116499453A (zh) 一种电子地图生成方法、装置、移动机器人及存储介质
CN209181735U (zh) 基于激光器的两栖三维视觉探测装置
Zamanakos et al. A cooperative LiDAR-camera scheme for extrinsic calibration
CN111191513A (zh) 基于景物尺寸分析的移动机器人位置估计方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20230301

Address after: 250000 building S02, No. 1036, Gaoxin Inspur Road, Jinan, Shandong

Applicant after: Shandong Inspur Scientific Research Institute Co.,Ltd.

Address before: 250104 1st floor, R & D building, No. 2877, Suncun Town, Licheng District, Jinan City, Shandong Province

Applicant before: JINAN INSPUR HIGH-TECH TECHNOLOGY DEVELOPMENT Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant