CN115187658A - 多相机视觉的大目标定位方法、系统及设备 - Google Patents
多相机视觉的大目标定位方法、系统及设备 Download PDFInfo
- Publication number
- CN115187658A CN115187658A CN202211037568.1A CN202211037568A CN115187658A CN 115187658 A CN115187658 A CN 115187658A CN 202211037568 A CN202211037568 A CN 202211037568A CN 115187658 A CN115187658 A CN 115187658A
- Authority
- CN
- China
- Prior art keywords
- camera
- target
- cameras
- calculating
- coordinates
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明的一种多相机视觉的大目标定位方法、系统及设备,其方法包括根据目标模型计算出目标在世界坐标系中的坐标,标定相机内参,标定相机间的位姿关系;进行图像处理,检测图像的关键点,匹配目标在参考位置图像的关键点和目标在实际位置图像的关键点,利用光束平差法计算相机外参,再设定基准相机,结合相机间位姿,联合计算相机的外参;根据目标在参考位置和实际位置的相机外参,计算目标实际位置与参考位置的偏差量,完成目标定位。本发明可以实现大目标的定位有效利用每个相机视野观测到的有效信息;可通过多相机联合的方式,更准确地计算出目标的位置。
Description
技术领域
本发明涉及视觉技术的目标定位领域,具体涉及一种多相机视觉的大目标定位方法。
背景技术
随着计算机视觉、数字图像处理等技术的发展,已经可以通过相机图像提取出目标的重要信息。同时,由于自动化技术和机械制造技术的蓬勃发展,借助机械臂、机器人等技术自动完成焊接、喷漆、涂胶等作业也成为生产线中的重要需求。将相机成像和实际的生产需求进行融合,是工业相机的重要应用场景。以机器人的车身涂胶作业为例,机器人通常会按照预先设定运动轨迹,对车身进行涂胶,认为此时车身处于参考位置。但是,轨道每次将车身传输到机器人作业区域的位置可能是不同的,且车身的实际位置可能与参考位置存在偏差。为了使机器人能够正常作业,需要得到车身实际位置与参考位置的偏差量,并根据偏差量矫正机器人的运动轨迹。借助相机矫正机器人的运动轨迹时,由于车身目标较大,单个相机的视野无法观测车身的完整结构,因此,一般在车身的左前、左后、右前、右后分别安装一个相机,共计四个相机。这四个相机安装稳定,相机之间的旋转关系和平移关系(以下简称“相机间位姿”)保持不变,且这四个相机可以分别观测车身的部分结构特征,将四个相机观测的结构特征结合起来,便可以得到需要观测的车身结构特征,进而计算车身实际位置与参考位置的偏差,实现车身位置的定位,并矫正机器人的运动轨迹。多相机视觉进行车身定位,在机器人车身涂胶作业方面具有重要的应用价值和使用前景。
当目标较大时,单个相机仅能观测到有限的目标场景,为了完整观测感兴趣的目标区域,需要使用多个相机。同时,由于每个相机能够观测到的目标场景较小,相机之间不存在重叠视野,或者相机之间的重叠视野较小以至于不足以提取出有价值的目标信息,这使得各相机观测到的信息较为独立。
与本发明最相近似的实现方案为:一种基于光束平差法的三维重建方法【专利CN102889882B】,该方法在控制场标定相机内参,在测量场标定相机外参,并将控制场和测量场中的多个测量点的像素坐标作为观测值,利用基于共线条件方程式的光束平差法获取多个测量点的三维空间坐标值。
该技术存在以下缺点:1.无法解决大目标场景下,相机只能通过部分场景估计目标位置,没有有效利用目标的全部信息;2.该技术获取设定数量不同方位所述测量场的多幅图像,多幅图像均包含多个控制点和多个测量点的像点,缺乏灵活性,且可能需要多次录取图像以满足要求。
发明内容
本发明提出的一种多相机视觉的大目标定位方法,可解决上述技术问题。
为实现上述目的,本发明采用了以下技术方案:
一种多相机视觉的大目标定位方法,是指在相机视野存在限制的情况下,通过联合相机之间的目标信息,计算相机姿态,并完成目标的定位,具体包括以下步骤:
计算目标坐标、相机内参和相机间位姿;
多个相机分别录取目标在实际位置和参考位置的图像,检测并匹配目标在所述实际位置和参考位置上的关键点;
根据关键点、目标坐标、各相机的内参计算各相机的外参;
设定基准相机、结合各相机间位姿关系和各相机的外参,使用多机联合光束平差法优化基准相机的外参;
根据基准相机的外参,计算目标实际位置相对于参考位置的坐标偏差值,完成目标的定位。
进一步的,计算目标坐标、相机内参和相机间位姿,包括:
建立世界坐标系,根据目标模型计算出目标的特征点在世界坐标系中的坐标;
标定相机内参,可使用用张正友标定法进行标定;
根据每个相机拍摄的图像和对应的模型坐标,计算每个相机的外参,并设置基准相机,计算每个相机与基准相机的位姿关系,再进行多次测量,计算相机间位姿的均值。
进一步的,所述多个相机分别录取目标在实际位置和参考位置的图像,检测并匹配目标在所述实际位置和参考位置上的关键点,包括:
多个相机分别录取目标在实际位置和参考位置的图像,使用斑点检测法提取多个相机中目标在参考位置和实际位置图像中的关键点;
使用最近迭代法的点集匹配方法匹配各个相机中目标在参考位置和实际位置中的关键点。
进一步的,可使用光束平差法,根据关键点、目标坐标、各相机的内参计算各相机的外参。
进一步的,所述设定基准相机、结合各相机间位姿关系和各相机的外参,使用多机联合光束平差法优化基准相机的外参,包括:
使用下列目标函数构建数学模型:
其中,表示目标函数,表示基准相机的外参,表示相机的数量,表示
目标模型关键点在相机坐标系下的坐标,表示第个相机视角内的目标模型关键点坐标
的集合,表示每个相机视野内的目标模型坐标在像素平面上的像素点坐标,表示归一
化因子,表示第个相机的内参,表示相机与基准相机的位姿关系,表示
第个相机视角内的目标模型坐标。
使用高斯牛顿法计算公式(5)的增量,进而计算基准相机外参的增量,多次计算直到误差小于预设的阈值或相邻两次误差小于预设的阈值。
进一步的,所述根据基准相机的外参,计算目标实际位置相对于参考位置的坐标偏差值,按照如下公式计算:
其中,表示目标参考位置与实际位置之间的旋转矩阵,表示目标参考位置与实
际位置之间的平移向量,表示参考位置相机外参的旋转矩阵,表示参考位置相机外参
的平移向量,表示实际位置相机外参的旋转矩阵,表示实际位置相机外参的平移向
量。
再一方面,本发明还公开一种多相机视觉的大目标定位系统,包括以下模块:
图像摄取模块,包括若干台分布在不同位置的相机,用于摄取目标不同角度的照片;
参数加载模块,用于计算和存储目标的特征点在世界坐标系的坐标、相机内参和相机间位姿关系;
关键点检测与匹配模块,用于检测并匹配目标在参考位置和实际位置处图像的关键点;
偏差计算模块,偏差计算模块用于计算目标实际位置与参考位置的偏差量,偏差值包括一个旋转矩阵和一个平移向量。
进一步的,参数加载模块计算得到目标的特征点在世界坐标系的坐标、相机内参和相机间位姿关系信息后将其固定保存,在后续的大目标定位过程中上述信息直接读取使用,不再重复计算。
进一步的,关键点检测与匹配模块使用斑点检测法提取多个相机中目标在参考位置和实际位置图像中的关键点;然后使用最近迭代法的点集匹配方法匹配各个相机中目标在参考位置和实际位置中的关键点。
进一步的,偏差计算模块先利用光束平差法计算各相机外参,再设定基准相机,联合各相机外参优化基准相机的外参,最后通过基准相机在参考位置和实际位置的外参计算出偏差值。
又一方面,基于同样的发明构思,本发明还公开一种计算机可读存储介质,计算机可读存储介质中存储有至少一个程序数据,该程序数据用于实现上述任一多相机视觉的大目标定位方法。
再一方面,基于同样的发明构思,本发明还公开一种多相机视觉的大目标定位设备,包括由若干个相机组成的摄像系统、储存器和处理器;所述摄像系统用于摄取图像信息并将所述图像信息传输给所述储存器;所述处理器用于执行所述储存器中储存的程序指令,以实现上述任一多相机视觉的大目标定位方法。
由上述技术方案可知,为了解决上述问题,本发明提出一种多相机视觉的大目标定位方法,本发明通过联合多个相机,充分利用了各相机的有效信息,实现目标的精准定位。上文所述只是以机器人车身涂胶作业为例进行说明,在实际的目标定位场景中,只要目标场景大且需要借助多个相机,都可以通过本发明实现大目标的定位。同时,定位大目标的位置也不仅仅局限于矫正机器人的运动轨迹,只要需要定位大目标的位置的应用场景,都属于本发明的应用范畴。
系统地说,本发明提出了一种多相机视觉的大目标定位方法,该方法主要包括关键点检测和匹配、相机外参计算、相机外参的联合优化和偏差量计算。在关键点检测方面,采用基于斑点检测的关键点提取方法,以保证关键点提取的稳定性和抗干扰能力;在关键点匹配方面,采用了点集匹配技术,并通过剔除重复匹配点对和离群点,提升点集匹配的准确率;在相机外参计算方面,采用了光束平差法,实现相机外参的精确计算;在相机外参联合优化方面,利用相机间的位姿作为连接各相机的桥梁,实现多个相机的信息联合优化基准相机外参,提升了基准相机外参计算的精度;在偏差量计算方面,提出了数学模型,根据参考位置和实际位置的相机外参,计算出目标的实际偏移量。
总得来说,本发明的优点包括:(1)可以实现大目标的定位;(2)可以有效利用每个相机视野观测到的有效信息;(3)通过多相机联合的方式,更准确地计算出目标的位置;(4)当多相机中的其中一个相机不能工作时,该算法依旧可以正常工作。
附图说明
图1为本发明多相机视觉的大目标定位方法流程;
图2为本发明多相机视觉的大目标定位方法实施例流程示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。
本发明实施例提出了一种多相机视觉的大目标定位方法,用于解决大目标场景下,多相机之间重叠视野较小或不存在重叠视野的大目标定位问题。所述算法的应用场景中,相机安装稳定,使用过程中不会发生移动,相机间位姿关系保持不变。本发明所述多相机视觉大目标定位方法,是指在相机视野存在限制的情况下,通过联合相机之间的目标信息,计算相机姿态,并完成目标的定位。
具体的说,如图1所示,本发明实施例提出了一种多相机视觉的大目标定位方法,包括以下步骤,
建立世界坐标系,根据目标模型计算出目标在世界坐标系中的坐标,标定相机内参,计算相机间的位姿关系;
各个相机分别录取目标在参考位置和实际位置的图像,检测图像的关键点,匹配目标在参考位置和实际位置图像的关键点;
根据关键点、目标坐标、各相机的内参计算各相机的外参;
设定基准相机、结合各相机间位姿关系和各相机的外参,使用多机联合光束平差法优化基准相机的外参;
根据基准相机的外参,计算目标实际位置相对于参考位置的坐标偏差值,完成目标的定位。
以下具体说明:
本发明根据目标模型计算出目标在世界坐标系中的坐标,并标定相机内参,和相机间的位姿关系。
多相机定位的目标,是厂家按照模型生产加工而成的,因此,根据目标模型可以计算出目标在世界坐标系中的坐标。世界坐标系可以自由选择,可以以目标模型中的某个点建立世界坐标系,也可以将世界坐标系建立在模型之外。为了便于表示,世界坐标系一般建立在模型中间,坐标点呈对称结构。至此,得到了目标模型在世界坐标系中的坐标。
相机内参反映相机本身的结构特征,在相机稳定安装后便保持不变。预先标定相机内参,后续流程中则可以直接使用,避免重复标定。相机内参标定的步骤包含:
步骤101、每个相机分别录取标定板数据。
步骤102、在录取的数据中,剔除图像过曝或过暗的图像,剔除标定板显示不完整的图像,剔除图像边缘模糊和图像存在重影的图像。
步骤103、检测图像中标定板的特征点,剔除特征点明显存在偏差的图像,剔除标定板连线方向不一致的图像。
步骤104、保留质量良好、特征点位置准确的图像,可利用张正友标定法标定相机的内参。
至此,得到了每个相机的内参。
相机间的位姿反映相机之间的旋转和平移关系,相机稳定安装后便保持不变。因此,计算相机间的位姿之后,后续流程中则可以直接使用。相机间位姿的标定步骤包含:
步骤111、将目标放置在各相机的视野中,每个相机观测到的特征区域与参考位置观测到的一致,但目标的位置可以与参考位置不同。
步骤112、根据每个相机拍摄的图像和对应的模型坐标,计算每个相机的外参。
步骤113、通过设置基准相机,计算每个相机与基准相机的位姿关系。
步骤114、多次测量,计算相机间位姿的均值以减少计算误差,并将相机间位姿的均值作为相机间位姿的取值。
至此,得到了相机间的位姿关系。
至此,完成了多相机视觉的大目标定位方法的准备工作。
本发明利用各个相机分别录取目标在参考位置和实际位置的图像,通过图像处理使图像效果达到预期,并检测图像的关键点:
每个相机录取目标处于参考位置和实际位置的图像,每个相机分别录取各自视野范围内的目标区域。各个相机录取的图像中,均存在与目标模型对应的区域。
根据图像中目标特征的差异、特征结构的特点、录取图像的效果等因素的影响,需要灵活采用图像去噪、图像锐化、边缘提取等图像处理方法,使处理后的图像满足实际需求。
为了有效表征图像的特征,提取图像的共性,需要从处理后的图像中提取关键点。关键点的提取算法根据需求而定。ORB、SURF、SIFT等特征提取算法一般用于检测图像中的角点,并生成描述子,并利用描述子实现角点之间的匹配。斑点检测方法一般用于检测一个区域,比角点具有更好的稳定性和抗干扰能力。本发明采用了斑点检测的关键点检测方法,增强关键点检测的稳定性和抗干扰能力。斑点检测算法的步骤包括:
步骤201、设置最小阈值、最大阈值和阈值步长,进行多次图像二值化操作;
步骤202、对于每一张二值化的图像,提取图像中的连通域,计算每一个连通域的中心;
步骤203、将连通域的中心组织在一起,接近的点构成一组特征点集合,对应一个斑点特征;
步骤204、根据斑点特征中的点集合,计算斑点特征点和半径。
步骤205、通过面积、圆度、凸度等参数过滤斑点特征,得到满足条件的斑点作为关键点。
至此,完成了关键点检测,得到了关键点的坐标。本发明采用了斑点检测进行关键点提取,如果更换为其他关键点检测算法,都应当视为本发明由所提交的权利要求书确定专利保护范围。
本发明利用最近迭代法的点集匹配算法,将目标在参考位置图像的关键点和目标在实际位置图像的关键点进行匹配,匹配后的关键点反映了目标同一结构在参考位置图像和实际位置图像的点坐标:
斑点检测得到的关键点,包含关键点的坐标和斑点的半径,为了使目标在参考位置和实际位置的关键点一一对应,本发明采用了最近迭代法的点集匹配算法进行关键点匹配。在最近迭代法的点集匹配算法中,参考位置的关键点称为模型点,实际位置的关键点称为场景点,最近迭代法的步骤包括:
步骤301、对于每一个模型点,计算场景点中距离最近的点,并作为一组匹配点;
步骤302、去除匹配点中重复匹配的点对,保留距离最近的点对;
步骤303、删除匹配点中的离群点。计算匹配点之间距离的均值和标准差,删除匹配点中距离大于3倍标准差的点对;保留下来的点对进行相同的操作,直到匹配点中不存在离群点。
步骤304、迭代步骤301-303,直到匹配点无重复匹配点对和离群点,此时点集正确匹配。
至此,实现了目标在参考位置图像的关键点和目标在实际位置图像的关键点的匹配。本发明采用了最近迭代法进行点集匹配,如果替换为其他点集匹配方法,都应当视为本发明由所提交的权利要求书确定专利保护范围。
本发明根据关键点、目标坐标、各相机的内参计算各相机的外参:
为了得到准确的相机外参,可以采用光束平差法进行精确计算。光束平差法通过最小化目标模型坐标对应像素坐标和相机计算像素坐标之间的误差,计算相机外参。光束平差的步骤包括:
步骤401、先计算相机外参的初值,可以采用PnP方法进行计算;
步骤402、根据目标模型坐标、相机内参和相机外参初值,模拟相机成像过程,计算像素坐标;
步骤403、计算关键点坐标与相机计算像素坐标的误差和雅克比矩阵,得到高斯牛顿法增量方程的系数;
步骤404、求解高斯牛顿法的增量方程,得到相机外参的增量;
步骤405、根据相机外参的增量更新相机外参;
步骤406、利用更新的相机外参计算相机像素坐标,迭代步骤402-406,直到误差小于预设的第一阈值或相邻两次误差小于预设的第二阈值。
至此,实现了相机外参的计算。本发明采用光束平差计算每个相机的外参,如果替换为其他方法,都应当视为本发明由所提交的权利要求书确定专利保护范围。
本发明设定基准相机、结合各相机间位姿关系和各相机的外参,使用多机联合光束平差法优化基准相机的外参:
本发明采用的光束平差法,仅输出一个相机的外参,而每个相机的外参各不相同,
因此,将相机编号为1,2,...,N,第个相机的外参为:旋转矩阵为,平移向量为,,设定第1个相机为基准相机。前述步骤已经计算出相机间的位
姿,第个相机与基准相机之间的位姿关系为:旋转矩阵为,平移向量为t1i。第个相机与基
准相机之间的转换关系可以表示为:
根据相机成像原理,计算每个相机视野内的目标模型坐标在像素平面上的像素点坐标为:
其中,表示目标模型坐标在基准相机坐标系的坐标,表示目标模型坐标在相
机坐标系下的坐标。从公式(4)可以看出,为了将各个相机视野内的目标模型坐标映射到
像素平面上,需要将目标模型坐标转换到基准相机坐标系,再根据相机间的变换关系,将基
准相机下的坐标转换到各相机坐标系。
根据旋转矩阵的特性可以知道,将公式(3)作为目标函数,并最小化目标函数,可以得到一个有约束的优化问题。通过李代数,可以将以公式(3)为目标函数的优化问题转换成无约束的李群问题,如公式(5)所示:
其中,表示使公式(5)最小的基准相机的最优位姿,表示相机的数量,表示
目标模型关键点在相机坐标系下的坐标,表示第个相机视角内的目标模型关键点的集
合,每个相机视野内的目标模型坐标在像素平面上的像素点坐标,表示归一化因子,表示第个相机的内参,用于表示相机和基准相机的位姿关系,表示第个
相机视角内的目标模型坐标,根据链式法则,推导误差关于扰动量的雅克比矩阵,如
公式(6)所示:
其中,
根据每个点的雅克比矩阵和误差,得到高斯牛顿法的增量方程为:
求解增量方程,得到基准相机外参增量的解,如公式(10)所示:
通过基准相机的外参增量更新基准相机的外参,其中,表示第次迭代的基准相机外参,表示第次迭代的基准相机外参。利用更新后的外参计算像
素坐标,计算与关键点坐标之间的误差,直到误差小于预设的第一阈值或相邻两次误差小
于预设的第二阈值。
至此,实现了多相机光束平差联合计算基准相机外参。本发明利用多相机光束平差联合计算基准相机外参,如果替换为其他方法或在本发明的基础上进行简单的推导和计算,都应当视为本发明由所提交的权利要求书确定专利保护范围。
本发明根据目标在参考位置和实际位置的相机外参,计算目标实际位置与参考位置的偏差量:
在目标参考位置建立坐标系,参考位置目标模型坐标为,实际位置目标模型的
坐标为,和之间存在一定的旋转和平移关系,该旋转和平移关系用于衡量目标在
参考位置和实际位置的偏差量。为参考位置的目标模型坐标,符合机器人的运动轨迹,可
以认为是已知量。同时,如果在实际位置建立和参考位置相同的坐标系,由于目标模型结构
不变,则目标在实际位置的坐标仍为。相机拍摄图像时,目标在参考位置和实际位置,相
机位姿不变,目标坐标改变,根据相机成像原理可得:
联立公式(11)、(12)、(13),可得:
公式(14)中表示目标实际位置与参考位置之间的旋转关系矩阵、表示目标实
际位置与参考位置之间的平移关系向量,表示参考位置相机外参的旋转矩阵,表示实
际位置相机外参的旋转矩阵,表示参考位置相机外参的平移向量,表示实际位置相机外
参的平移向量。
根据本发明中实施例图2和说明书所述内容,参考位置是固定的,所以本流程中,各相机目标参考位置的相关计算只需要完成一次,后续则可以直接使用已计算的参数,简化了目标定位的操作,提升了目标定位的效率。
本发明所要解决的第二个技术问题还在于提供一种基于多相机视觉的大目标定位系统,以保证每个相机仅能观测到部分目标时,通过联合多相机之间的视野,实现对大目标的定位。
上述所述基于多相机视野的大目标定位系统包括:
图像摄取模块,包括若干台分布在不同位置的相机,用于摄取目标不同角度的照片;
参数加载模块,用于计算和存储目标的特征点在世界坐标系的坐标、相机内参和相机间位姿关系,目标模型固定、多相机装配完成,以上参数均保持不变;
关键点检测与匹配模块,用于检测并匹配目标在参考位置和实际位置处图像的关键点;
偏差计算模块,偏差计算模块用于计算目标实际位置与参考位置的偏差量,包括目标在参考位置和实际位置的旋转和平移关系。
进一步的,参数加载模块计算得到目标的特征点在世界坐标系的坐标、相机内参和相机间位姿关系信息后将其固定保存,在后续的大目标定位过程中上述信息直接读取使用,不再重复计算。
进一步的,关键点检测与匹配模块使用斑点检测法提取多个相机中目标在参考位置和实际位置图像中的关键点;然后使用最近迭代法的点集匹配方法匹配各个相机中目标在参考位置和实际位置中的关键点。
进一步的,偏差计算模块先利用光束平差法计算各相机外参,再设定基准相机,联合各相机外参优化基准相机的外参,最后通过基准相机在参考位置和实际位置的外参计算出偏差值,偏差值包含一个旋转矩阵和一个平移向量。
综上所述,本发明实施例通过联合多个相机,充分利用了各相机的有效信息,实现目标的精准定位。本发明可以实现大目标的定位;可以有效利用每个相机视野观测到的有效信息;可通过多相机联合的方式,更准确地估计出目标的位置;当多相机中其中一个相机不能工作时,该算法依旧可以正常工作。
又一方面,基于同样的发明构思,本发明还公开一种计算机可读存储介质,计算机可读存储介质中存储有至少一个程序数据,该程序数据用于实现上述任一多相机视觉的大目标定位方法。计算机可读存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-OnlyMemory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
再一方面,基于同样的发明构思,本发明还公开一种多相机视觉的大目标定位设备,包括由若干个相机组成的摄像系统、储存器和处理器;所述摄像系统用于摄取图像信息并将所述图像信息传输给所述储存器;所述处理器用于执行所述储存器中储存的程序指令,以实现上述任一多相机视觉的大目标定位方法。处理器还可以称为CPU(CentralProcessing Unit,中央处理单元)。处理器可能是一种集成电路芯片,具有信号的处理能力。处理器还可以是通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。另外,处理器可以由集成电路芯片共同实现。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (13)
1.一种多相机视觉的大目标定位方法,其特征在于,包括以下步骤:
计算目标坐标、相机内参和相机间位姿;
多个相机分别录取目标在实际位置和参考位置的图像,检测并匹配目标在实际位置和参考位置上的关键点;
根据关键点、目标坐标和各相机的内参计算各相机的外参;
设定基准相机、结合各相机间位姿关系和各相机的外参,使用多机联合光束平差法优化基准相机的外参;
根据基准相机的外参,计算目标实际位置相对于参考位置的坐标偏差值,完成目标的定位。
2.根据权利要求1所述的多相机视觉的大目标定位方法,其特征在于,所述计算目标坐标、相机内参和相机间位姿,包括:
建立世界坐标系,根据目标模型计算出目标的特征点在世界坐标系中的坐标;
标定相机内参;
根据每个相机拍摄的图像和对应的模型坐标,计算每个相机的外参,并设置基准相机,计算每个相机与基准相机的位姿关系,再进行多次测量,计算相机间位姿的均值。
3.根据权利要求2所述的多相机视觉的大目标定位方法,其特征在于,所述标定相机内参采用张正友标定法。
4.根据权利要求1所述的多相机视觉的大目标定位方法,其特征在于,所述多个相机分别录取目标在实际位置和参考位置的图像,检测并匹配目标在所述实际位置和参考位置上的关键点,包括:
多个相机分别录取目标在实际位置和参考位置的图像,使用斑点检测法提取多个相机中目标在参考位置和实际位置图像中的关键点;
使用最近迭代法的点集匹配方法匹配各个相机中目标在参考位置和实际位置中的关键点。
5.根据权利要求1所述的多相机视觉的大目标定位方法,其特征在于,所述根据关键点、目标坐标和各相机的内参计算各相机的外参,包括:
根据目标模型坐标、关键点和相机内参,使用光束平差法计算各个相机初始外参。
6.根据权利要求1所述的多相机视觉的大目标定位方法,其特征在于,所述设定基准相机、结合各相机间位姿关系和各相机的外参,使用多机联合光束平差法优化基准相机的外参,包括:
使用下列目标函数构建数学模型:
其中,表示目标函数,表示基准相机的外参,表示相机的数量,表示目标模型关键点在相机坐标系下的坐标,表示第个相机视角内的目标模型关键点坐标的集合,表示每个相机视野内的目标模型坐标在像素平面上的像素点坐标,表示归一化因子,表示第个相机的内参,表示相机与基准相机的位姿关系,表示第个相机视角内的目标模型坐标;
使用高斯牛顿法计算公式(5)的增量,进而计算基准相机外参的增量,多次计算直到误差小于预设的阈值或相邻两次误差小于预设的阈值。
8.一种多相机视觉的大目标定位系统,其特征在于,包括以下模块:
图像摄取模块,包括若干台分布在不同位置的相机,用于摄取目标不同角度的照片;
参数加载模块,用于计算和存储目标的特征点在世界坐标系的坐标、相机内参和相机间位姿关系;
关键点检测与匹配模块,用于检测并匹配目标在参考位置和实际位置处图像的关键点;
偏差计算模块,偏差计算模块用于计算目标实际位置与参考位置的偏差量,包含一个旋转矩阵和一个平移向量。
9.根据权利要求8所述的多相机视觉的大目标定位系统,其特征在于,所述参数加载模块计算得到目标的特征点在世界坐标系的坐标、相机内参和相机间位姿关系信息后将其固定保存,在后续的大目标定位过程中上述信息直接读取使用,不再重复计算。
10.根据权利要求8所述的多相机视觉的大目标定位系统,其特征在于,所述关键点检测与匹配模块,执行如权利要求4中所述的检测并匹配目标在所述实际位置和参考位置上的关键点。
11.根据权利要求8所述的多相机视觉的大目标定位系统,其特征在于,所述偏差计算模块先利用光束平差法计算各相机外参,再设定基准相机,联合各相机外参优化基准相机的外参,最后通过基准相机在参考位置和实际位置的外参计算出偏差值。
12.一种计算机可读存储介质,其特征在于,所述计算机程序被处理器执行时,使得所述处理器执行如权利要求1至7中任一项所述的多相机视觉的大目标定位方法。
13.一种多相机视觉的大目标定位设备,其特征在于,包括由若干个相机组成的摄像系统、储存器和处理器;所述摄像系统用于摄取图像信息并将所述图像信息传输给所述储存器;所述处理器用于执行所述储存器中储存的程序指令,以实现如权利要求1至7任一项所述的多相机视觉的大目标定位方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211037568.1A CN115187658B (zh) | 2022-08-29 | 2022-08-29 | 多相机视觉的大目标定位方法、系统及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211037568.1A CN115187658B (zh) | 2022-08-29 | 2022-08-29 | 多相机视觉的大目标定位方法、系统及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115187658A true CN115187658A (zh) | 2022-10-14 |
CN115187658B CN115187658B (zh) | 2023-03-24 |
Family
ID=83522870
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211037568.1A Active CN115187658B (zh) | 2022-08-29 | 2022-08-29 | 多相机视觉的大目标定位方法、系统及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115187658B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115423863A (zh) * | 2022-11-04 | 2022-12-02 | 深圳市其域创新科技有限公司 | 相机位姿估计方法、装置及计算机可读存储介质 |
CN115655758A (zh) * | 2022-12-08 | 2023-01-31 | 成都盛锴科技有限公司 | 一种转向架位姿检测、校正方法及其系统 |
CN117102661A (zh) * | 2023-10-25 | 2023-11-24 | 珠海市申科谱工业科技有限公司 | 视觉定位方法及激光加工设备 |
CN117249764A (zh) * | 2023-11-17 | 2023-12-19 | 菲特(天津)检测技术有限公司 | 车身定位方法、装置和电子设备 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170032220A1 (en) * | 2015-07-28 | 2017-02-02 | GM Global Technology Operations LLC | Method for object localization and pose estimation for an object of interest |
CN110689585A (zh) * | 2019-10-09 | 2020-01-14 | 北京百度网讯科技有限公司 | 多相机外参的联合标定方法、装置、设备和介质 |
CN112435300A (zh) * | 2019-08-26 | 2021-03-02 | 华为技术有限公司 | 定位方法及装置 |
CN113670193A (zh) * | 2020-05-13 | 2021-11-19 | 先进装配系统有限责任两合公司 | 通过多次使用测试元件确定装配机的精度 |
WO2022037285A1 (zh) * | 2020-08-20 | 2022-02-24 | 北京达佳互联信息技术有限公司 | 相机外参标定方法及装置 |
CN114399554A (zh) * | 2021-12-08 | 2022-04-26 | 凌云光技术股份有限公司 | 一种多相机系统的标定方法及系统 |
CN114638888A (zh) * | 2022-03-31 | 2022-06-17 | 广东利元亨智能装备股份有限公司 | 位置确定方法、装置、电子设备及可读存储介质 |
CN114770517A (zh) * | 2022-05-19 | 2022-07-22 | 梅卡曼德(北京)机器人科技有限公司 | 通过点云获取装置对机器人进行标定的方法以及标定系统 |
CN114821497A (zh) * | 2022-02-24 | 2022-07-29 | 广州文远知行科技有限公司 | 目标物位置的确定方法、装置、设备及存储介质 |
CN114882119A (zh) * | 2022-05-10 | 2022-08-09 | 广州小马智行科技有限公司 | 相机外参标定方法、装置、计算机设备和存储介质 |
-
2022
- 2022-08-29 CN CN202211037568.1A patent/CN115187658B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170032220A1 (en) * | 2015-07-28 | 2017-02-02 | GM Global Technology Operations LLC | Method for object localization and pose estimation for an object of interest |
CN112435300A (zh) * | 2019-08-26 | 2021-03-02 | 华为技术有限公司 | 定位方法及装置 |
CN110689585A (zh) * | 2019-10-09 | 2020-01-14 | 北京百度网讯科技有限公司 | 多相机外参的联合标定方法、装置、设备和介质 |
CN113670193A (zh) * | 2020-05-13 | 2021-11-19 | 先进装配系统有限责任两合公司 | 通过多次使用测试元件确定装配机的精度 |
WO2022037285A1 (zh) * | 2020-08-20 | 2022-02-24 | 北京达佳互联信息技术有限公司 | 相机外参标定方法及装置 |
CN114399554A (zh) * | 2021-12-08 | 2022-04-26 | 凌云光技术股份有限公司 | 一种多相机系统的标定方法及系统 |
CN114821497A (zh) * | 2022-02-24 | 2022-07-29 | 广州文远知行科技有限公司 | 目标物位置的确定方法、装置、设备及存储介质 |
CN114638888A (zh) * | 2022-03-31 | 2022-06-17 | 广东利元亨智能装备股份有限公司 | 位置确定方法、装置、电子设备及可读存储介质 |
CN114882119A (zh) * | 2022-05-10 | 2022-08-09 | 广州小马智行科技有限公司 | 相机外参标定方法、装置、计算机设备和存储介质 |
CN114770517A (zh) * | 2022-05-19 | 2022-07-22 | 梅卡曼德(北京)机器人科技有限公司 | 通过点云获取装置对机器人进行标定的方法以及标定系统 |
Non-Patent Citations (1)
Title |
---|
吴广雨等: "机器人视觉装配中的精确定位策略研究", 《机械与电子》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115423863A (zh) * | 2022-11-04 | 2022-12-02 | 深圳市其域创新科技有限公司 | 相机位姿估计方法、装置及计算机可读存储介质 |
CN115655758A (zh) * | 2022-12-08 | 2023-01-31 | 成都盛锴科技有限公司 | 一种转向架位姿检测、校正方法及其系统 |
CN117102661A (zh) * | 2023-10-25 | 2023-11-24 | 珠海市申科谱工业科技有限公司 | 视觉定位方法及激光加工设备 |
CN117102661B (zh) * | 2023-10-25 | 2024-01-09 | 珠海市申科谱工业科技有限公司 | 视觉定位方法及激光加工设备 |
CN117249764A (zh) * | 2023-11-17 | 2023-12-19 | 菲特(天津)检测技术有限公司 | 车身定位方法、装置和电子设备 |
CN117249764B (zh) * | 2023-11-17 | 2024-02-13 | 菲特(天津)检测技术有限公司 | 车身定位方法、装置和电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN115187658B (zh) | 2023-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115187658B (zh) | 多相机视觉的大目标定位方法、系统及设备 | |
CN108648240B (zh) | 基于点云特征地图配准的无重叠视场相机姿态标定方法 | |
US10059002B2 (en) | Image processing apparatus, image processing method, and non-transitory computer-readable medium | |
US6915008B2 (en) | Method and apparatus for multi-nodal, three-dimensional imaging | |
JP5992184B2 (ja) | 画像データ処理装置、画像データ処理方法および画像データ処理用のプログラム | |
EP3028252B1 (en) | Rolling sequential bundle adjustment | |
JP3735344B2 (ja) | キャリブレーション装置、キャリブレーション方法、及びキャリブレーション用プログラム | |
CN110411476B (zh) | 视觉惯性里程计标定适配及评价方法和系统 | |
CN107560603B (zh) | 一种无人机倾斜摄影测量系统及测量方法 | |
CN112598757A (zh) | 一种多传感器时间空间标定方法及装置 | |
CN112001955A (zh) | 一种基于二维投影平面匹配约束的点云配准方法及系统 | |
JP2013186816A (ja) | 動画処理装置、動画処理方法および動画処理用のプログラム | |
CN110969662A (zh) | 鱼眼摄像机内参标定方法、装置、标定装置控制器和系统 | |
CN112381890B (zh) | 一种基于点线特征的rgb-d视觉slam方法 | |
CN111899305A (zh) | 一种相机自动标定优化方法及相关系统、设备 | |
CN112085790A (zh) | 点线结合的多相机视觉slam方法、设备及存储介质 | |
CN111538029A (zh) | 一种视觉与雷达融合的测量方法及终端 | |
CN108759788A (zh) | 无人机影像定位定姿方法及无人机 | |
CN110825079A (zh) | 一种地图构建方法及装置 | |
Guan et al. | Minimal cases for computing the generalized relative pose using affine correspondences | |
Guan et al. | Minimal solvers for relative pose estimation of multi-camera systems using affine correspondences | |
CN116935013B (zh) | 基于三维重建的电路板点云大范围拼接方法及系统 | |
CN111383264A (zh) | 一种定位方法、装置、终端及计算机存储介质 | |
CN109754435B (zh) | 一种基于小靶标模糊图像的摄像机在线标定方法 | |
CN109389645B (zh) | 相机自校准方法、系统、相机、机器人及云端服务器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |