CN105654502B - 一种基于多镜头多传感器的全景相机标定装置和方法 - Google Patents
一种基于多镜头多传感器的全景相机标定装置和方法 Download PDFInfo
- Publication number
- CN105654502B CN105654502B CN201610195469.4A CN201610195469A CN105654502B CN 105654502 B CN105654502 B CN 105654502B CN 201610195469 A CN201610195469 A CN 201610195469A CN 105654502 B CN105654502 B CN 105654502B
- Authority
- CN
- China
- Prior art keywords
- image
- point
- coordinate
- lens
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 238000003384 imaging method Methods 0.000 claims abstract description 47
- 238000012545 processing Methods 0.000 claims abstract description 27
- 239000011159 matrix material Substances 0.000 claims description 53
- 238000012937 correction Methods 0.000 claims description 33
- 238000013507 mapping Methods 0.000 claims description 27
- 230000003287 optical effect Effects 0.000 claims description 15
- 238000005457 optimization Methods 0.000 claims description 15
- 230000009466 transformation Effects 0.000 claims description 12
- 230000006978 adaptation Effects 0.000 claims description 11
- 230000004927 fusion Effects 0.000 claims description 11
- 238000012897 Levenberg–Marquardt algorithm Methods 0.000 claims description 10
- 230000000007 visual effect Effects 0.000 claims description 10
- 244000062793 Sorghum vulgare Species 0.000 claims description 6
- 230000000694 effects Effects 0.000 claims description 6
- 235000019713 millet Nutrition 0.000 claims description 6
- 230000008685 targeting Effects 0.000 claims description 6
- 238000013519 translation Methods 0.000 claims description 6
- 239000003550 marker Substances 0.000 claims description 4
- 230000008569 process Effects 0.000 claims description 4
- 230000002159 abnormal effect Effects 0.000 claims 3
- 230000002441 reversible effect Effects 0.000 claims 1
- 238000004422 calculation algorithm Methods 0.000 abstract description 8
- 241000208340 Araliaceae Species 0.000 description 7
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 7
- 235000003140 Panax quinquefolius Nutrition 0.000 description 7
- 235000008434 ginseng Nutrition 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000003331 infrared imaging Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000001931 thermography Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Studio Devices (AREA)
- Stereoscopic And Panoramic Photography (AREA)
Abstract
本发明公开了一种基于多镜头多传感器的全景相机标定装置及使用本套装置进行标定的标定方法,涉及全景摄像领域,标定装置包括全景摄像模块、电机驱动模块、图像处理模块和图像显示模块,全景摄像模块包括支架、设置在支架上的多个镜头组和与多个传感器组,每个镜头组对应一个传感器组,镜头组中的每个镜头对应传感器组中的一个传感器,并且与该传感器相连;每个镜头组包括n个镜头,1≤n≤100,其中各个镜头组中镜头的位置排列相同,位于各个镜头组中同一个位置的镜头组成一个成像组,在每个成像组中,任意两个相邻的镜头在成像时有重叠区域。本发明可以克服目前全景相机标定对场景有较高要求的缺点,可以在较小的场景中对相机进行标定,并且可以借助标定靶,保证找到足够的特征点的同时,大大降低匹配算法的复杂度。
Description
技术领域
本发明公开了一种全景相机标定装置,特别是一种基于多镜头多传感器的全景相机标定装置。
背景技术
采用全景拼接方式构建的拼接式全景摄像机,可以对场景同时实现大视场和高分辨率的拍摄。但是全景摄像机在投入使用之前需要进行标定,以估计摄像机内参、外参,确定各镜头间、以及空间物体表面某点在图像上的位置相互关系。。公开号CN103533266的专利公开了一种名为垂直方向宽视域的360度拼接式全景摄像机的技术方案,它包括若干个相同的竖直排列的图像传感器,传感器的型号、数量和相对位置根据全景拼接应用对视场大小的需求确定。它还提供了基于所述全景摄像机的标定方法和拼接方法,通过进行标定,将各路图像投影在同一平面上;再利用动态规划方法和梯度域融合方法完成全景图像的拼接。使用该专利的全景摄像机进行标定时,对标定场景有较高要求,首先标定区域要求空间比较充裕,其次要求标定场景拥有足够的特征点,再次对匹配算法的优越性也有较高要求。目前常用的标定装置,一般要求标定区域是以最小标定距离为半径的圆,通常最小标定距离大于10米,本发明公开的全景相机标定装置降低了对标定区域大小的要求,且保证能够找到足够的特征点,并减轻了算法的复杂度。本发明涉及的畸变校正方法和全局调整方法都是比较少见的。目前的全局调整方法大多是采用图像像素值差作为代价指标,本发明利用标定靶采用坐标差作为代价指标,在提高优化效果的同时,也降低了算法的复杂程度。另外,不同于一般的构建二维离散坐标映射表方法,本发明构建了两个一维离散坐标映射表,并采用n*n间隔和差分坐标值形式存储,大大减少存储空间,便于硬件实现。
发明内容
本发明公开了一种基于多镜头多传感器的全景相机标定装置,可以克服目前全景相机标定对场景有较高要求的缺点,可以在较小的场景中对相机进行标定,并且可以借助标定靶,保证找到足够的特征点的同时,大大降低匹配算法的复杂度。
本发明公开了一种基于多镜头多传感器的全景相机标定装置,包括全景摄像模块、电机驱动模块、图像处理模块和图像显示模块,全景摄像模块包括支架、设置在支架上的多个镜头组和多个传感器组,每个镜头组对应一个传感器组,镜头组中的每个镜头对应传感器组中的一个传感器,并且与该传感器相连;
每个镜头组包括n个镜头,2≤n≤100,其中各镜头组中镜头位置的排列方向、距离相同,位于每个镜头组中同一位置的镜头组成一个成像组,在每个成像组中,任意两个相邻的镜头在成像时有重叠区域,同一个成像组的各个镜头参数相同;
全景摄像组连接电机驱动模块,图像处理模块连接全景摄像模块,图像显示模块连接图像处理模块,电机驱动模块驱动支架平移和旋转,可以调整镜头方向,保证获取足够的特征点,减小标定所需要的区域大小。
优选的,全景摄像机模块设置为球面状态,支架为球面支架,每个镜头都设置在球面支架的外侧面,沿球面半径方向朝向球面的外侧,球面支架的球心和镜头中心点的连线与镜头光轴所成角度小于等于5°。设置为球面状态的全景摄像机模块,适用于720°的全景拍摄,可以取到所有角度的图像。
优选的,全景摄像机模块设置为柱面状态,支架为圆柱面支架,每个镜头都设置在圆柱面支架的侧面,沿圆柱侧面半径方向朝向圆柱面的外侧,且处于同一柱面高度,位于该高度的圆柱面支架横截面圆心和镜头中心点的连线与镜头光轴所成角度小于等于5°。设置为柱面状态的全景摄像模块,适用于360°的全景拍摄,可以取到全景相机四周的图像。
优选的,全景摄像机组设置为矩阵形态,支架为平面支架,每个都设于平面镜头架的一侧,镜头方向朝向平面的同一侧。设置为矩阵形态的全景摄像机模块,适用于面对一个方向的全景拍摄。
优选的,每组镜头包括两个镜头,组成两个成像组,分别模拟人体左眼和右眼成像,经过图像处理模块的处理,形成3D立体图像。
优选的,每组镜头包括多个镜头,组成多个成像组,每个成像组独立成像,经过图像处理模块的处理,可以将每个成像组形成的图像进行叠加,根据每个成像组镜头的设置,进而获得3D图像或热成像图像等。
优选的,成像组中,至少一组全部由普通光学镜头组成,保证标定可以顺利进行。
优选的,成像组包括两个分别模拟人体左眼和右眼的成像的成像组,将图像叠加后获得3D立体图。
优选的,镜头与支架转动连接,可以根据需要独立调整每个镜头在当前位置的角度。
优选的,图像处理模块为芯片或计算机;芯片安装在全景摄像模块的支架处,与传感器连接,进一步减小整个装置的体积,处理后将图像输出到外部图像显示模块。当使用计算机作为图像处理模块时,使用计算机软件进行处理,计算机外接于传感器。
优选的,全景相机标定装置还包括标定靶,标定靶的图案设置为黑白相间的棋盘格,棋盘格上设有定位标志。使用标定靶,可以保证标定时能够找到足够数量的、分布均匀的、足够精度且基本处于同一景深的特征点,而不受标定所处现实场景的影响。
优选的,全景相机标定装置包括多块标定靶,多块标定靶图案可以不完全一致,设置多块标定靶,可以进一步提高标定的成功率,并减少标定装置转动幅度。
一种全景相机标定方法,使用全景摄像机模块设置为球面状态的全景相机标定装置和标定靶进行标定,包括以下步骤:
(1)针对配置的标定靶,各镜头基本正对标定靶采集图像,进行畸变校正,选取径向畸变模型:
其中,
其中(xs,ys)是畸变校正前点坐标,(xd,yd)是畸变校正后点坐标,(xcd,ycd)是畸变中心点坐标,(k1,k2,k3,…)是畸变参数;
先空间上的点投影到图像平面,再平面图像点扩展到畸变图像的点上,由于畸变点和空间点的关系为点和直线的关系,同时推导得到的空间点和畸变点映射关系也和基本矩阵一样,所以可以利用F矩阵求取极点的方法求取畸变中心;
利用无畸变图像三点共线对应的三点坐标构成的矩阵的行列式为0,求取畸变参数,假定畸变中心坐标已知,并将图像坐标系的原点置于畸变中心处,对于图像上共线的3点 pi=(xi yi)T,ri=||(xi yi)||是3点距离畸变中心的长度,存在关系:
根据上述行列式,对于多组三点共线行列式,通过求解最小二乘问题来求取畸变参数;
(2)针对配置的标定靶,每两个相邻镜头的角平分线基本正对标定靶,且标定靶上的定位点处于两个镜头可视范围的重叠区域,完成全局调整图像采集工作,对于每一组图像,找出图像中标定靶的角点,并根据与定位点的位置关系,匹配好两张图像的角点,得到匹配点对,假定第i组的匹配点对为(p1i,p2i),
选取球面投影模型:
其中(xd,yd)是球面投影前点坐标,(xsp,ysp)是球面投影后点坐标,r是球面投影半径,每镜头经过球面投影前,进行射影变换,以使得投影前平面图像能与假定半径为r的球面相切,切点坐标(xcs,ycs)是球面投影中心坐标。假定射影变换的单应性矩阵为H,从原图像到目标图像的总坐标映射为F();
上述中的球面投影中心坐标(xcs,ycs)、球面投影半径r,单应性矩阵H即是全局调整所需优化的参数。结合成像组各镜头的姿态角(以其中一个镜头为基准),这里可以采用Levenberg-Marquardt算法,以所有组匹配点对的坐标差的绝对值总和为代价指标,优化出所需参数:
(xcs,ycs,r,H)=arg min∑abs(F(p1i)-F(p2i))
(3)将经过上述映射的投影图在YUV颜色空间上利用滤波器卷积分离出多个频段的图像,每两相邻的投影图在每个频段图像上采用渐入渐出或金字塔方式线性融合,得到球面拼接全景图像。
一种全景相机标定方法,使用全景摄像机模块设置为圆柱面状态的全景相机标定装置和标定靶进行标定,包括以下步骤:
(1)针对配置的标定靶,各镜头基本正对标定靶采集图像,进行畸变校正。选取径向畸变模型:
其中,
其中(xs,ys)是畸变校正前点坐标,(xd,yd)是畸变校正后点坐标,(xcd,ycd)是畸变中心点坐标,(k1,k2,k3,…)是畸变参数;
先将空间上的点投影到图像平面,再将平面图像点扩展到畸变图像的点上,由于畸变点和空间点的关系为点和直线的关系,同时推导得到的空间点和畸变点映射关系也和基本矩阵一样,所以可以利用F矩阵求取极点的方法求取畸变中心;
利用无畸变图像三点共线对应的三点坐标构成的矩阵的行列式为0,求取畸变参数,假定畸变中心坐标已知,并将图像坐标系的原点置于畸变中心处,对于图像上共线的3点 pi=(xi yi)T,ri=||(xi yi)||是3点距离畸变中心的长度,存在关系:
根据上述行列式,对于多组三点共线行列式,通过求解最小二乘问题来求取畸变参数;
(2)针对配置的标定靶,每两个相邻镜头的角平分线基本正对标定靶,且标定靶上的定位点处于两个镜头可视范围的重叠区域,完成全局调整图像采集工作,对于每一组图像,找出图像中标定靶的角点,并根据与定位点的位置关系,匹配好两张图像的角点,得到匹配点对,假定第i组的匹配点对为(p1i,p2i),
选取柱面投影模型:
其中(xd,yd)是柱面投影前点坐标,(xc,yc)是柱面投影后点坐标,(xcc,ycc)是柱面投影中心坐标,r是柱面投影半径;
每镜头经过柱面投影后,进行射影变换,以配准对齐各相邻视角图像,假定该单应性矩阵为H,从原图像到目标图像的总坐标映射为F();
上述中的柱面投影中心坐标(xcc,ycc)、柱面投影半径r,单应性矩阵H即是全局调整所需优化的参数,这里,可以采用Levenberg-Marquardt算法,以所有组匹配点对的坐标差的绝对值总和为代价指标,优化出所需参数:
(xcc,ycc,r,H)=arg min∑abs(F(p1i)-F(p2i))
(3)将经过上述映射的投影图在YUV颜色空间上利用滤波器卷积分离出多个频段的图像,每两相邻的投影图在每个频段图像上采用渐入渐出或金字塔方式线性融合,得到柱面拼接全景图像。
一种全景相机标定方法,使用全景摄像机模块设置为矩阵状态的全景相机标定装置和标定靶进行标定,包括以下步骤:
(1)成像组挑选合适焦距的镜头,至少需要一个短焦距镜头,并且在较短距离开始,短焦距镜头视角范围包含其他长焦距的视角范围。如果有其他短焦距镜头,指定一个短焦距为主镜头。
(2)针对配置的标定靶,各镜头基本正对标定靶采集图像,进行畸变校正。选取径向畸变模型:
其中,
其中(xs,ys)是畸变校正前点坐标,(xd,yd)是畸变校正后点坐标,(xcd,ycd)是畸变中心点坐标,(k1,k2,k3,…)是畸变参数。
先空间上的点投影到图像平面,再平面图像点扩展到畸变图像的点上。由于畸变点和空间点的关系为点和直线的关系,同时推导得到的空间点和畸变点映射关系也和基本矩阵一样。所以可以利用F矩阵求取极点的方法求取畸变中心。
利用无畸变图像三点共线对应的三点坐标构成的矩阵的行列式为0,求取畸变参数。假定畸变中心坐标已知,并将图像坐标系的原点置于畸变中心处,对于图像上共线的3点 pi=(xi yi)T,ri=||(xi yi)||是3点距离畸变中心的长度,存在关系:
根据上述行列式,对于多组三点共线行列式,通过求解最小二乘问题来求取畸变参数。
(3)布置一个垂直于主镜头光轴方向的标定靶,主镜头及其他任意一个镜头共同采集一组图像,获取每一组的匹配点对。
(4)基于主镜头所在图像平面,计算其他镜头到主镜头的单应性矩阵H。
(5)布置一个远距离的标定靶或外场景,主镜头及其他任意一个镜头共同采集一组图像,获取每一组的匹配点对。通过最小二乘法求解其他镜头图像与主镜头图像的平移参数。
(6)基于主镜头图像坐标系,各镜头投影图已经配准。假若其他镜头存在两两相邻,可以由其投影图在YUV颜色空间上利用滤波器卷积分离出多个频段的图像,并在各个频段图像上采用渐入渐出线性融合,得到平面拼接图像。假若其他镜头不全两两相邻,可以由其投影图跟主镜头投影图在YUV颜色空间上建立拉普拉斯金字塔,分别对高、低频金字塔进行线性融合,得到平面拼接图像。
优选的,使用全景摄像机模块设置为球面状态的全景相机标定装置和标定靶进行标定,球面拼接结果图像还支持其他投影显示方式:球心投影显示方式,球极投影显示方式,正射投影显示方式:
(1)球心投影显示方式模型:
其中(λ,φ)是投影前点坐标(分别代表纬度和经度),(x,y)是投影后点坐标,λ0是投影中心纬度,φ0是投影中心经度。
(2)球极投影显示方式模型:
其中(λ,φ)是投影前点坐标(分别代表纬度和经度),(x,y)是投影后点坐标,λ0是投影中心纬度,φ0是投影中心经度,R是球半径。
(3)正射投影显示方式模型:
其中(λ,φ)是投影前点坐标(分别代表纬度和经度),(x,y)是投影后点坐标,λ0是投影中心纬度,φ0是投影中心经度。
优选的,使用全景摄像机模块设置为圆柱面状态的全景相机标定装置和标定靶进行标定,柱面拼接结果图像还支持其他投影显示方式:柱心投影显示方式,正射投影显示方式:
(1)柱心投影显示方式模型:
其中(x1,y1)是投影前柱面点坐标,(x2,y2)是投影后平面点坐标,(xc,yc)是投影中心点坐标,r是柱面半径;
(2)正射投影显示方式模型:
其中(x1,y1)是投影前柱面点坐标,(x2,y2)是投影后平面点坐标,(xc,yc)是投影中心点坐标,r是柱面半径。
优选的,使用全景摄像机模块设置为矩阵状态的全景相机标定装置和标定靶进行标定,可用于测距的任意角度放置的镜头组标定包括以下步骤:
(1)完成畸变校正;
(2)镜头组标定估计镜头组参数:a)拍摄1张图像并在图像内部放置2~3个不同角度的棋盘格,或拍摄4~20张图像不同角度放置的相同棋盘格,并进行棋盘格找点和匹配;b)已知棋盘格长度,利用张正友标定方法估计左镜头内参K1,R1,T1,估计右镜头内参 K2,R2,T2;c)计算外部参数R,T,并利用理想棋盘格的重投影误差最小、平面的不平整度、棋盘格对应点的3维长度进行联合优化,可以采用Levenberg-Marquardt算法;
(3)利用镜头组参数进行三维的真实旋转估计用于PT的两个H矩阵;
(4)读入新棋盘格图像验证图像经过PT后不存在y方向的视差;
(5)用平行放置且已知深度的图像来验证测距和三维长度测量的效果;
其中PT为projective transform投影变换。
优选的,根据标定的总映射关系,得到全景相机映射后图像点的坐标与原始输入图像的点坐标之间的对应关系,构建两个一维离散坐标映射表Xrela、Yrela,具体过程如下:
目标图的所有列Lcol经过总映射关系,投影到原始图上的线Lcol’,与原始图的所有行相交的所有交点的横坐标集,定义为Xfloat表;
目标图的所有点坐标经过总映射关系,投影到原始图上的点坐标的纵坐标集,定义为 Yfloat表;
简单地,原始图先经过Xfloat表对每一行进行插值计算,再经过Yfloat表对每一列进行插值计算,即可得到满足总映射关系的目标图;
Xfloat、Yfloat表通常是浮点数,将其定点化Xint、Yint表,假设精度是accu比特:
Xint、Yint表是整型全表,以n*n间隔取表中数据保留,生成Xsmall、Ysmall整型小表:
对于Xsmall小表,保留第一列的数值,其他列以当前列跟左一列的差分值代替,对于 Ysmall小表,保留第一行的数值,其他行以当前行跟上一行的差分值代替。相对表Xrela、 Yrela的第i行第j列位置的数据计算如下:
上述对Xfloat、Yfloat表,Xint、Yint表以及Xrela、Yrela表的每一步操作都是可逆的。
优选的,针对球面形态全景相机标定后包含北极点和南极点的图像,划分四个三角形分别地构建两个一维离散坐标映射表,其中四个三角形以北极点或南极点与其所在图像四个顶点的连线划分。
本发明的有益效果是:大大减少标定场景空间,将最小标定距离减小到1~2米之间,并且能确保每组相邻图像的重叠区域都能找到足够数量的、分布均匀的、足够精度的、基本处于同一景深的特征点,而不受标定所处现实场景的影响。另外,由于标定靶的存在,不需很复杂的特征点匹配算法就可以基本保证全部特征点匹配正确。标定过程应是全自动的,无须人工干预。本发明利用标定靶采用坐标差作为代价指标,在提高优化效果的同时,也降低了算法的复杂程度。另外,不同于一般的构建二维离散坐标映射表方法,本发明构建了两个一维离散坐标映射表,并采用n*n间隔和差分坐标值形式存储,大大减少存储空间,便于硬件实现。
附图说明
图1为本装置标定状态的示意图;
图2为柱面状态全景摄像机模块的示意图;
图3为球面状态全景摄像机模块的示意图;
图4为矩阵状态全景摄像机模块的示意图;
图5为本发明第一种标定靶的示意图;
图6为本发明第二种标定靶的示意图;
图7为本发明双目摄像机标定流程图。
具体实施方式
下面结合附图对本发明的具体实施方式作进一步说明:
本发明公开了一种基于多镜头多传感器的全景相机标定装置,可以克服目前全景相机标定对场景有较高要求的缺点,可以在较小的场景中对相机进行标定,并且可以借助标定靶,保证找到足够的特征点的同时,大大降低匹配算法的复杂度。
如图1所示,本发明公开了一种基于多镜头多传感器的全景相机标定装置,包括全景摄像模块1、电机驱动模块2、图像显示模块3,图像处理模块4和标定靶5。全景摄像模块1包括支架11、设置在支架上的多个镜头组12和与多个传感器组13,每个镜头组12对应一个传感器组13,镜头组中的每个镜头对应传感器组中的一个传感器,并且与该传感器相连;
如图1和图2所示,每个镜头组包括两个镜头,每个摄像头对应一个传感器,如图2中第一个镜头组包括121a和121b两个镜头,分别对应传感器131a和131b,第二个镜头组包括122a和122b两个镜头,分别对应传感器132a和132b。每个镜头组中镜头的位置排列相同,每个镜头组中位于同一个位置的镜头组成一个成像组,即121a与122a属于一个成像组,121b与122b属于一个成像组。在每个成像组中,每两个相邻的镜头在成像时有重叠区域,即121a与122a成像区域有重叠,121b与122b成像区域有重叠。
全景摄像组1连接电机驱动模块2,图像处理模块4连接全景摄像模块1,图像显示模块3连接图像处理模块4,电机驱动模块驱动支架11平移和旋转。
进行标定时,第一步,电机驱动模块驱动全景摄像模块支架调整位置和角度,使每个镜头都基本正对标定靶进行一次拍摄,根据每次转动后全景摄像模块的姿态角,即每次采集到的图像,完成畸变校正图像采集工作;第二步,调整全景摄像机模块支架,进行两两相邻镜头对靶工作,使每两个相邻镜头的角平分线基本正对标定靶,且标定靶上的定位点处于两个镜头可视范围的重叠区域,根据每次采集的图像及全景摄像模块的姿态角,完成全局调整优化。
如图2所示,在本发明的一个实施例中,全景摄像机模块设置为柱面状态,柱面形态指支架11设置为圆柱面,每个镜头都设置在所述圆柱面支架的侧面,沿圆柱侧面半径方向朝向球面的外侧,且处于同一柱面高度,镜头光轴与圆柱侧面半径所成角度小于等于5°,设置为柱面状态的全景摄像机模块,适用于360°的全景拍摄,可以取到全景相机四周的图像。
如图3所示,在本发明的一个实施例中,全景摄像机模块设置为球面状态,球面形态指支架11设置为球面,每个镜头组12都设置在所述球面支架的外侧面,沿球面半径方向朝向球面的外侧,镜头光轴与球面半径所成角度小于等于5°,设置为球面状态的全景摄像机模块,适用于720°的全景拍摄,可以取到所有角度的图像,每个镜头组12对应一个传感器组13。
如图4所示,在本发明的一个实施例中,全景摄像机组设置为矩阵形态,矩阵形态指支架11设置为平面,每个镜头组12都设于平面镜头架的一侧,镜头方向朝向平面的同一侧,设置为矩阵形态的全景摄像机模块,适用于面对一个方向的全景拍摄,每个镜头组12对应一个传感器组13。
在本发明的一个实施例中,每组镜头包括一个镜头,全景摄像模块形成一个成像组。
在本发明的一个实施例中,每组镜头包括两个镜头,分别模拟形成人体左眼和右眼视场,经过图像处理模块的处理,将两个镜头采集的图像叠加,获得3D立体图像。
在本发明的一个实施例中,全景摄像模块还包括一个由红外热传感镜头组成的成像组,经过图像处理模块的处理,获得热成像图像。
在本发明的一个实施例中,每组镜头包括多个镜头,每组镜头中镜头的位置排列相同,每组镜头中位于同一个位置的镜头组成一个成像组,在成像组中,每两个相邻的镜头在成像时有重叠区域;当每组镜头包括多个镜头时,镜头包括普通成像镜头和红外热成像镜头,分别形成普通成像组和红外成像组,每个成像组独立成像,经过图像处理模块的处理,可以将每个成像组形成的图像进行叠加,获得热成像图像。
在本发明设置的一个或多个成像组中,至少一组全部由普通成像镜头组成,保证标定可以顺利进行。
在本发明的一个实施例中,镜头与支架转动连接,可以根据需要独立调整每个镜头在当前位置的角度。
在本发明的一个实施例中,图像处理模块为芯片或计算机;芯片安装在全景摄像模块的支架处,与图像采集模块和电机驱动模块连接,进一步减小整个装置的体积,处理后将图像输出到外部图像显示模块。当使用计算机作为图像处理模块时,使用计算机软件进行处理,计算机外接于图像采集模块。
如图1所示,在本发明的一个实施例中,全景相机标定装置还包括标定靶5,标定靶5 的图案设置为黑白相间的棋盘格,棋盘格上设有定位标志51。使用标定靶,可以保证标定时能够找到足够数量的、分布均匀的、足够精度且基本处于同一景深的特征点,而不受标定所处现实场景的影响。
如图5和图6所示,在本发明的一个实施例中,全景相机标定装置包括多块标定靶,多块标定靶图案可以不完全一致,但是都包括一个定位标志51,设置多块标定靶,可以进一步提高标定的成功率,并减少标定装置转动幅度。
本发明还公开了一种全景相机标定方法,使用全景摄像机模块设置为球面状态的全景相机标定装置和标定靶进行标定,包括以下步骤:
(1)针对配置的标定靶,各镜头基本正对标定靶采集图像,进行畸变校正,选取径向畸变模型:
其中,
其中(xs,ys)是畸变校正前点坐标,(xd,yd)是畸变校正后点坐标,(xcd,ycd)是畸变中心点坐标,(k1,k2,k3,…)是畸变参数;
先空间上的点投影到图像平面,再平面图像点扩展到畸变图像的点上,由于畸变点和空间点的关系为点和直线的关系,同时推导得到的空间点和畸变点映射关系也和基本矩阵一样。所以可以利用F矩阵求取极点的方法求取畸变中心;
利用无畸变图像三点共线对应的三点坐标构成的矩阵的行列式为0,求取畸变参数,假定畸变中心坐标已知,并将图像坐标系的原点置于畸变中心处,对于图像上共线的3点 pi=(xi yi)T,ri=||(xi yi)||是3点距离畸变中心的长度,存在关系:
根据上述行列式,对于多组三点共线行列式,通过求解最小二乘问题来求取畸变参数;
(2)针对配置的标定靶,每两个相邻镜头的角平分线基本正对标定靶,且标定靶上的定位点处于两个镜头可视范围的重叠区域,完成全局调整图像采集工作,对于每一组图像,找出图像中标定靶的角点,并根据与定位点的位置关系,匹配好两张图像的角点,得到匹配点对,假定第i组的匹配点对为(p1i,p2i),
选取球面投影模型:
其中(xd,yd)是球面投影前点坐标,(xsp,ysp)是球面投影后点坐标,r是球面投影半径,每镜头经过球面投影前,进行射影变换,以使得投影前平面图像能与假定半径为r的球面相切,切点坐标(xcs,ycs)是球面投影中心坐标。假定射影变换的单应性矩阵为H,从原图像到目标图像的总坐标映射为F();
上述中的球面投影中心坐标(xcs,ycs)、球面投影半径r,单应性矩阵H即是全局调整所需优化的参数。结合成像组各镜头的姿态角(以其中一个镜头为基准),这里可以采用Levenberg-Marquardt算法,以所有组匹配点对的坐标差的绝对值总和为代价指标,优化出所需参数:
(xcs,ycs,r,H)=arg min∑abs(F(p1i)-F(p2i))
(3)将经过上述映射的投影图在YUV颜色空间上利用滤波器卷积分离出多个频段的图像,每两相邻的投影图在每个频段图像上采用渐入渐出或金字塔方式线性融合,得到球面拼接全景图像。
本发明还公开了一种使用全景摄像机模块设置为圆柱面状态的全景相机标定装置和标定靶进行标定的全景相机标定方法,包括以下步骤:
(1)针对配置的标定靶,各镜头基本正对标定靶采集图像,进行畸变校正。选取径向畸变模型:
其中,
其中(xs,ys)是畸变校正前点坐标,(xd,yd)是畸变校正后点坐标,(xcd,ycd)是畸变中心点坐标,(k1,k2,k3,…)是畸变参数;
先将空间上的点投影到图像平面,再将平面图像点扩展到畸变图像的点上,由于畸变点和空间点的关系为点和直线的关系,同时推导得到的空间点和畸变点映射关系也和基本矩阵一样,所以可以利用F矩阵求取极点的方法求取畸变中心;
利用无畸变图像三点共线对应的三点坐标构成的矩阵的行列式为0,求取畸变参数,假定畸变中心坐标已知,并将图像坐标系的原点置于畸变中心处,对于图像上共线的3点 pi=(xi yi)T,ri=‖(xi yi)||是3点距离畸变中心的长度,存在关系:
根据上述行列式,对于多组三点共线行列式,通过求解最小二乘问题来求取畸变参数;
(2)针对配置的标定靶,每两个相邻镜头的角平分线基本正对标定靶,且标定靶上的定位点处于两个镜头可视范围的重叠区域,完成全局调整图像采集工作,对于每一组图像,找出图像中标定靶的角点,并根据与定位点的位置关系,匹配好两张图像的角点,得到匹配点对,假定第i组的匹配点对为(p1i,p2i),
选取柱面投影模型:
其中(xd,yd)是柱面投影前点坐标,(xc,yc)是柱面投影后点坐标,(xcc,ycc)是柱面投影中心坐标,r是柱面投影半径;
每镜头经过柱面投影后,进行射影变换,以配准对齐各相邻视角图像,假定该单应性矩阵为H,从原图像到目标图像的总坐标映射为F();
上述中的柱面投影中心坐标(xcc,ycc)、柱面投影半径r,单应性矩阵H即是全局调整所需优化的参数,这里,可以采用Levenberg-Marquardt算法,以所有组匹配点对的坐标差的绝对值总和为代价指标,优化出所需参数:
(xcc,ycc,r,H)=arg min∑abs(F(p1i)-F(p2i))
(3)将经过上述映射的投影图在YUV颜色空间上利用滤波器卷积分离出多个频段的图像,每两相邻的投影图在每个频段图像上采用渐入渐出或金字塔方式线性融合,得到柱面拼接全景图像。
本发明还公开了一种使用全景摄像机模块设置为矩阵状态的全景相机标定装置和标定靶进行标定的全景相机标定方法,,包括以下步骤:
(1)成像组挑选合适焦距的镜头,至少需要一个短焦距镜头,并且在较短距离开始,短焦距镜头视角范围包含其他长焦距的视角范围。如果有其他短焦距镜头,指定一个短焦距为主镜头。
(2)针对配置的标定靶,各镜头基本正对标定靶采集图像,进行畸变校正。选取径向畸变模型:
其中,
其中(xs,ys)是畸变校正前点坐标,(xd,yd)是畸变校正后点坐标,(xcd,ycd)是畸变中心点坐标,(k1,k2,k3,…)是畸变参数。
先空间上的点投影到图像平面,再平面图像点扩展到畸变图像的点上。由于畸变点和空间点的关系为点和直线的关系,同时推导得到的空间点和畸变点映射关系也和基本矩阵一样。所以可以利用F矩阵求取极点的方法求取畸变中心。
利用无畸变图像三点共线对应的三点坐标构成的矩阵的行列式为0,求取畸变参数。假定畸变中心坐标已知,并将图像坐标系的原点置于畸变中心处,对于图像上共线的3点 pi=(xi yi)T,ri=||(xi yi)||是3点距离畸变中心的长度,存在关系:
根据上述行列式,对于多组三点共线行列式,通过求解最小二乘问题来求取畸变参数。
(3)布置一个垂直于主镜头光轴方向的标定靶,主镜头及其他任意一个镜头共同采集一组图像,获取每一组的匹配点对。
(4)基于主镜头所在图像平面,计算其他镜头到主镜头的单应性矩阵H。
(5)布置一个远距离的标定靶或外场景,主镜头及其他任意一个镜头共同采集一组图像,获取每一组的匹配点对。通过最小二乘法求解其他镜头图像与主镜头图像的平移参数。
(6)基于主镜头图像坐标系,各镜头投影图已经配准。假若其他镜头存在两两相邻,可以由其投影图在YUV颜色空间上利用滤波器卷积分离出多个频段的图像,并在各个频段图像上采用渐入渐出线性融合,得到平面拼接图像。假若其他镜头不全两两相邻,可以由其投影图跟主镜头投影图在YUV颜色空间上建立拉普拉斯金字塔,分别对高、低频金字塔进行线性融合,得到平面拼接图像。
优选的,使用全景摄像机模块设置为球面状态的全景相机标定装置和标定靶进行标定,球面拼接结果图像还支持其他投影显示方式:球心投影显示方式,球极投影显示方式,正射投影显示方式:
(1)球心投影显示方式模型:
其中(λ,φ)是投影前点坐标(分别代表纬度和经度),(x,y)是投影后点坐标,λ0是投影中心纬度,φ0是投影中心经度。
(2)球极投影显示方式模型:
其中(λ,φ)是投影前点坐标(分别代表纬度和经度),(x,y)是投影后点坐标,λ0是投影中心纬度,φ0是投影中心经度,R是球半径。
(3)正射投影显示方式模型:
其中(λ,φ)是投影前点坐标(分别代表纬度和经度),(x,y)是投影后点坐标,λ0是投影中心纬度,φ0是投影中心经度。
优选的,使用全景摄像机模块设置为圆柱面状态的全景相机标定装置和标定靶进行标定,柱面拼接结果图像还支持其他投影显示方式:柱心投影显示方式,正射投影显示方式:
(1)柱心投影显示方式模型:
其中(x1,y1)是投影前柱面点坐标,(x2,y2)是投影后平面点坐标,(xc,yc)是投影中心点坐标,r是柱面半径;
(2)正射投影显示方式模型:
其中(x1,y1)是投影前柱面点坐标,(x2,y2)是投影后平面点坐标,(xc,yc)是投影中心点坐标,r是柱面半径。
如图7所示,在本发明的一个实施例中,使用全景摄像机模块设置为矩阵状态的全景相机标定装置和标定靶进行标定,可用于测距的任意角度放置的镜头组标定包括以下步骤:
(1)完成畸变校正;
(2)镜头组标定估计镜头组参数:a)拍摄1张图像并在图像内部放置2~3个不同角度的棋盘格,或拍摄4~20张图像不同角度放置的相同棋盘格,并进行棋盘格找点和匹配;b)已知棋盘格长度,利用张正友标定方法估计左镜头内参K1,R1,T1,估计右镜头内参 K2,R2,T2;c)计算外部参数R,T,并利用理想棋盘格的重投影误差最小、平面的不平整度、棋盘格对应点的3维长度进行联合优化,可以采用Levenberg-Marquardt算法;
(3)利用镜头组参数进行三维的真实旋转估计用于PT的两个H矩阵;
(4)读入新棋盘格图像验证图像经过PT后不存在y方向的视差;
(5)用平行放置且已知深度的图像来验证测距和三维长度测量的效果。
优选的,根据标定的总映射关系,得到全景相机映射后图像点的坐标与原始输入图像的点坐标之间的对应关系,构建两个一维离散坐标映射表Xrela、Yrela,具体过程如下:
目标图的所有列Lcol经过总映射关系,投影到原始图上的线Lcol’,与原始图的所有行相交的所有交点的横坐标集,定义为Xfloat表;
目标图的所有点坐标经过总映射关系,投影到原始图上的点坐标的纵坐标集,定义为 Yfloat表;
简单地,原始图先经过Xfloat表对每一行进行插值计算,再经过Yfloat表对每一列进行插值计算,即可得到满足总映射关系的目标图;
Xfloat、Yfloat表通常是浮点数,将其定点化Xint、Yint表,假设精度是accu比特:
Xint、Yint表是整型全表,以n*n间隔取表中数据保留,生成Xsmall、Ysmall整型小表:
对于Xsmall小表,保留第一列的数值,其他列以当前列跟左一列的差分值代替,对于 Ysmall小表,保留第一行的数值,其他行以当前行跟上一行的差分值代替。相对表Xrela、 Yrela的第i行第j列位置的数据计算如下:
上述对Xfloat、Yfloat表,Xint、Yint表以及Xrela、Yrela表的每一步操作都是可逆的。
在本发明的一个实施例中,针对球面形态全景相机标定后包含北极点和南极点的图像,划分四个三角形分别地构建两个一维离散坐标映射表,其中四个三角形以北极点或南极点与其所在图像四个顶点的连线划分。
根据上述说明书的揭示和教导,本发明所属领域的技术人员还可以对上述实施方式进行变更和修改。因此,本发明并不局限于上面揭示和描述的具体实施方式,对发明的一些修改和变更也应当落入本发明的权利要求的保护范围内。此外,尽管本说明书中使用了一些特定的术语,但这些术语只是为了方便说明,并不对本发明构成任何限制。
Claims (17)
1.一种基于多镜头多传感器的全景相机标定装置,包括全景摄像模块、驱动模块、图像处理模块和图像显示模块,其特征在于:所述全景摄像模块包括支架、设置在支架上的多个镜头组和多个传感器组,每个镜头组对应一个传感器组,镜头组中的每个镜头对应传感器组中的一个传感器,并且与该传感器相连;
每个镜头组包括n个镜头,2≤n≤100,其中各镜头组中镜头位置的排列方向、距离相同,位于每个镜头组中同一位置的镜头组成一个成像组,在每个成像组中,任意两个相邻的镜头在成像时有重叠区域,同一个成像组的各个镜头参数相同;
所述图像处理模块连接全景摄像模块,图像显示模块连接图像处理模块,驱动模块连接支架,并驱动支架平移和旋转;
任意角度放置的镜头组标定包括以下步骤:
(1)完成畸变校正;
(2)估计镜头组参数:a)拍摄1张图像并在图像内部放置2~3个不同角度的棋盘格,或拍摄4~20张图像不同角度放置的相同棋盘格,并进行棋盘格找点和匹配;b)已知棋盘格长度,利用张正友标定方法估计左镜头内参K1,R1,T1,估计右镜头内参K2,R2,T2;c)计算外部参数R,T,并利用理想棋盘格的重投影误差最小、平面的不平整度、棋盘格对应点的3维长度进行联合优化,采用Levenberg-Marquardt算法;
(3)利用镜头组参数进行三维的真实旋转估计用于PT的两个H矩阵;
(4)读入新棋盘格图像验证图像经过PT后不存在y方向的视差;
(5)用平行放置且已知深度的图像来验证测距和三维长度测量的效果;
其中PT为projective transform投影变换。
2.根据权利要求1所述的基于多镜头多传感器的全景相机标定装置,其特征在于:所述全景摄像机模块设置为球面状态,所述支架为球面支架,每个镜头都设置在所述球面支架的外侧面,沿球面半径方向朝向球面的外侧,球面支架的球心和镜头中心点的连线与镜头光轴所成角度小于等于5°。
3.根据权利要求1所述的基于多镜头多传感器的全景相机标定装置,其特征在于:所述全景摄像机模块设置为柱面状态,支架为圆柱面支架,每个镜头都设置在所述圆柱面支架的侧面,沿圆柱侧面半径方向朝向圆柱面的外侧,且处于同一柱面高度,位于该高度的圆柱面支架横截面圆心和镜头中心点的连线与镜头光轴所成角度小于等于5°。
4.根据权利要求1所述的基于多镜头多传感器的全景相机标定装置,其特征在于:所述全景摄像机组设置为矩阵形态,支架为平面支架,每个都设于平面镜头架的一侧,镜头方向朝向平面的同一侧。
5.根据权利要求1-4任一项所述的基于多镜头多传感器的全景相机标定装置,其特征在于:所述镜头组,每组镜头包括两个镜头,分别模拟人体左眼和右眼成像。
6.根据权利要求1-4任一项所述的基于多镜头多传感器的全景相机标定装置,其特征在于:所述成像组中,至少一组全部由普通光学镜头组成。
7.根据权利要求1-4任一项所述的基于多镜头多传感器的全景相机标定装置,其特征在于:所述镜头与支架转动连接。
8.根据权利要求1-4任一项所述的基于多镜头多传感器的全景相机标定装置,其特征在于:所述图像处理模块为芯片或计算机;芯片安装在所述全景摄像模块的支架处,与传感器连接,计算机外接于传感器。
9.根据权利要求1-4任一项所述的基于多镜头多传感器的全景相机标定装置,其特征在于:还包括一块或多块独立配置的标定靶,标定靶的图案设置为黑白相间的棋盘格,棋盘格上设有定位标志。
10.一种使用权利要求1,2或9所述的全景相机标定装置进行标定的全景相机标定方法,其特征在于:包括以下步骤:
(1)针对配置的标定靶,各镜头基本正对标定靶采集图像,进行畸变校正,选取径向畸变模型:
其中,
其中(xs,ys)是畸变校正前点坐标,(xd,yd)是畸变校正后点坐标,(xcd,ycd)是畸变中心点坐标,(k1,k2,k3,…)是畸变参数;
先空间上的点投影到图像平面,再平面图像点扩展到畸变图像的点上,由于畸变点和空间点的关系为点和直线的关系,同时推导得到的空间点和畸变点映射关系也和基本矩阵一样,所以可以利用F矩阵求取极点的方法求取畸变中心;
利用无畸变图像三点共线对应的三点坐标构成的矩阵的行列式为0,求取畸变参数,假定畸变中心坐标已知,并将图像坐标系的原点置于畸变中心处,对于图像上共线的3点pi=(xi yi)T,ri=||(xi yi)||是3点距离畸变中心的长度,存在关系:
根据上述行列式,对于多组三点共线行列式,通过求解最小二乘问题来求取畸变参数;(2)针对配置的标定靶,每两个相邻镜头的角平分线基本正对标定靶,且标定靶上的定位点处于两个镜头可视范围的重叠区域,完成全局调整图像采集工作,对于每一组图像,找出图像中标定靶的角点,并根据与定位点的位置关系,匹配好两张图像的角点,得到匹配点对,假定第i组的匹配点对为(p1i,p2i),
选取球面投影模型:
其中(xd,yd)是球面投影前点坐标,(xsp,ysp)是球面投影后点坐标,r是球面投影半径,每一个镜头经过球面投影前,进行射影变换,以使得投影前平面图像能与假定半径为r的球面相切,切点坐标(xcs,ycs)是球面投影中心坐标,假定射影变换的单应性矩阵为H,从原图像到目标图像的总坐标映射为F();
上述中的球面投影中心坐标(xcs,ycs)、球面投影半径r,单应性矩阵H即是全局调整所需优化的参数,结合成像组各镜头的姿态角,这里采用Levenberg-Marquardt算法,以所有组匹配点对的坐标差的绝对值总和为代价指标,优化出所需参数:
(xcs,ycs,r,H)=argmin∑abs(F(p1i)-F(p2i))
(3)将经过上述映射的投影图在YUV颜色空间上利用滤波器卷积分离出多个频段的图像,每两相邻的投影图在每个频段图像上采用渐入渐出或金字塔方式线性融合,得到球面拼接全景图像。
11.一种使用权利要求1,3或9所述的全景相机标定装置进行标定的全景相机标定方法,其特征在于:包括以下步骤:
(1)针对配置的标定靶,各镜头基本正对标定靶采集图像,进行畸变校正,选取径向畸变模型:
其中,
其中(xs,ys)是畸变校正前点坐标,(xd,yd)是畸变校正后点坐标,(xcd,ycd)是畸变中心点坐标,(k1,k2,k3,…)是畸变参数;
先将空间上的点投影到图像平面,再将平面图像点扩展到畸变图像的点上,由于畸变点和空间点的关系为点和直线的关系,同时推导得到的空间点和畸变点映射关系也和基本矩阵一样,所以可以利用F矩阵求取极点的方法求取畸变中心;
利用无畸变图像三点共线对应的三点坐标构成的矩阵的行列式为0,求取畸变参数,假定畸变中心坐标已知,并将图像坐标系的原点置于畸变中心处,对于图像上共线的3点pi=(xi yi)T,ri=||(xi yi)||是3点距离畸变中心的长度,存在关系:
根据上述行列式,对于多组三点共线行列式,通过求解最小二乘问题来求取畸变参数;(2)针对配置的标定靶,每两个相邻镜头的角平分线基本正对标定靶,且标定靶上的定位点处于两个镜头可视范围的重叠区域,完成全局调整图像采集工作,对于每一组图像,找出图像中标定靶的角点,并根据与定位点的位置关系,匹配好两张图像的角点,得到匹配点对,假定第i组的匹配点对为(p1i,p2i),
选取柱面投影模型:
其中(xd,yd)是柱面投影前点坐标,(xc,yc)是柱面投影后点坐标,(xcc,ycc)是柱面投影中心坐标,r是柱面投影半径;
每一个镜头经过柱面投影后,进行射影变换,以配准对齐各相邻视角图像,假定射影变换的单应性矩阵为H,从原图像到目标图像的总坐标映射为F();
上述中的柱面投影中心坐标(xcc,ycc)、柱面投影半径r,单应性矩阵H即是全局调整所需优化的参数,这里,采用Levenberg-Marquardt算法,以所有组匹配点对的坐标差的绝对值总和为代价指标,优化出所需参数:
(xcc,ycc,r,H)=argmin∑abs(F(p1i)-F(p2i))
(3)将经过上述映射的投影图在YUV颜色空间上利用滤波器卷积分离出多个频段的图像,每两相邻的投影图在每个频段图像上采用渐入渐出或金字塔方式线性融合,得到柱面拼接全景图像。
12.一种使用权利要求1,4或9所述的全景相机标定装置进行标定的全景相机标定方法,其特征在于:包括以下步骤:
(1)成像组挑选合适焦距的镜头,至少需要一个短焦距镜头,并且在较短距离开始,短焦距镜头视角范围包含其他长焦距的视角范围,如果有其他短焦距镜头,指定一个短焦距为主镜头,
(2)针对配置的标定靶,各镜头基本正对标定靶采集图像,进行畸变校正,选取径向畸变模型:
其中,
其中(xs,ys)是畸变校正前点坐标,(xd,yd)是畸变校正后点坐标,(xcd,xcd)是畸变中心点坐标,(k1,k2,k3,…)是畸变参数,
先空间上的点投影到图像平面,再平面图像点扩展到畸变图像的点上,由于畸变点和空间点的关系为点和直线的关系,同时推导得到的空间点和畸变点映射关系也和基本矩阵一样,利用F矩阵求取极点的方法求取畸变中心,
利用无畸变图像三点共线对应的三点坐标构成的矩阵的行列式为0,求取畸变参数,假定畸变中心坐标已知,并将图像坐标系的原点置于畸变中心处,对于图像上共线的3点pi=(xi yi)T,ri=||(xi yi)||是3点距离畸变中心的长度,存在关系:
根据上述行列式,对于多组三点共线行列式,通过求解最小二乘问题来求取畸变参数,
(3)布置一个垂直于主镜头光轴方向的标定靶,主镜头及其他任意一个镜头共同采集一组图像,获取每一组的匹配点对;
(4)基于主镜头所在图像平面,计算其他镜头到主镜头的单应性矩阵H;
(5)布置一个远距离的标定靶或外场景,主镜头及其他任意一个镜头共同采集一组图像,获取每一组的匹配点对,通过最小二乘法求解其他镜头图像与主镜头图像的平移参数;
(6)基于主镜头图像坐标系,各镜头投影图已经配准,假若其他镜头存在两两相邻,由其投影图在YUV颜色空间上利用滤波器卷积分离出多个频段的图像,并在各个频段图像上采用渐入渐出线性融合,得到平面拼接图像,假若其他镜头不全两两相邻,则由其投影图跟主镜头投影图在YUV颜色空间上建立拉普拉斯金字塔,分别对高、低频金字塔进行线性融合,得到平面拼接图像。
13.根据权利要求10所述的全景相机标定方法,其特征在于:球面拼接结果图像还支持其他投影显示方式:球心投影显示方式,球极投影显示方式,正射投影显示方式:
(1)球心投影显示方式模型:
其中(λ,φ)是投影前点坐标,λ,φ分别代表纬度和经度,(x,y)是投影后点坐标,λ0是投影中心纬度,φ0是投影中心经度;
(2)球极投影显示方式模型:
其中(λ,φ)是投影前点坐标,λ,φ分别代表纬度和经度,(x,y)是投影后点坐标,λ0是投影中心纬度,φ0是投影中心经度,R是球半径;
(3)正射投影显示方式模型:
其中(λ,φ)是投影前点坐标,λ,φ分别代表纬度和经度,(x,y)是投影后点坐标,λ0是投影中心纬度,φ0是投影中心经度。
14.根据权利要求11所述的全景相机标定方法,其特征在于,柱面拼接结果图像还支持其他投影显示方式:柱心投影显示方式,正射投影显示方式:
(1)柱心投影显示方式模型:
其中(x1,y1)是投影前柱面点坐标,(x2,y2)是投影后平面点坐标,(xc,yc)是投影中心点坐标,r是柱面半径;
(2)正射投影显示方式模型:
其中(x1,y1)是投影前柱面点坐标,(x2,y2)是投影后平面点坐标,(xc,yc)是投影中心点坐标,r是柱面半径。
15.根据权利要求12所述的全景相机标定方法,其特征在于,任意角度放置的镜头组标定包括以下步骤:
(1)完成畸变校正;
(2)估计镜头组参数:a)拍摄1张图像并在图像内部放置2~3个不同角度的棋盘格,或拍摄4~20张图像不同角度放置的相同棋盘格,并进行棋盘格找点和匹配;b)已知棋盘格长度,利用张正友标定方法估计左镜头内参K1,R1,T1,估计右镜头内参K2,R2,T2;c)计算外部参数R,T,并利用理想棋盘格的重投影误差最小、平面的不平整度、棋盘格对应点的3维长度进行联合优化,采用Levenberg-Marquardt算法;
(3)利用镜头组参数进行三维的真实旋转估计用于PT的两个H矩阵;
(4)读入新棋盘格图像验证图像经过PT后不存在y方向的视差;
(5)用平行放置且已知深度的图像来验证测距和三维长度测量的效果;
其中PT为projective transform投影变换。
16.根据权利要求10-14任一所述的全景相机标定方法,其特征在于:根据上述标定的总映射关系,得到全景相机映射后图像点的坐标与原始输入图像的点坐标之间的对应关系,构建两个一维离散坐标映射表Xrela、Yrela,具体过程如下:
目标图的所有列Lcol经过总映射关系,投影到原始图上的线Lcol’,与原始图的所有行相交的所有交点的横坐标集,定义为Xfloat,表;
目标图的所有点坐标经过总映射关系,投影到原始图上的点坐标的纵坐标集,定义为Yfloat表;
简单地,原始图先经过Xfloat表对每一行进行插值计算,再经过Yfloat表对每一列进行插值计算,即可得到满足总映射关系的目标图;
Xfloat、Yfloat表存储的数据为浮点数,将其定点化Xint、Yint表,假设精度是accu比特:
Xint、Yint表是整型全表,以n*n间隔取表中数据保留,生成Xsmall、Ysmall整型小表:
对于Xsmall小表,保留第一列的数值,其他列以当前列跟左一列的差分值代替,对于Ysmall小表,保留第一行的数值,其他行以当前行跟上一行的差分值代替,相对表Xrela、Yrela的第i行第j列位置的数据计算如下:
上述对Xfloat、Yfloat表,Xint、Yint表以及Xrela、Yrela表的每一步操作都是可逆的。
17.根据权利要求16所述的全景相机标定方法,其特征在于,针对球面形态全景相机标定后包含北极点和南极点的图像,划分四个三角形分别地构建两个一维离散坐标映射表,其中四个三角形以北极点或南极点与其所在图像四个顶点的连线划分。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610195469.4A CN105654502B (zh) | 2016-03-30 | 2016-03-30 | 一种基于多镜头多传感器的全景相机标定装置和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610195469.4A CN105654502B (zh) | 2016-03-30 | 2016-03-30 | 一种基于多镜头多传感器的全景相机标定装置和方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105654502A CN105654502A (zh) | 2016-06-08 |
CN105654502B true CN105654502B (zh) | 2019-06-28 |
Family
ID=56496541
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610195469.4A Expired - Fee Related CN105654502B (zh) | 2016-03-30 | 2016-03-30 | 一种基于多镜头多传感器的全景相机标定装置和方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105654502B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111299078A (zh) * | 2020-03-17 | 2020-06-19 | 欣辰卓锐(苏州)智能装备有限公司 | 一种基于流水线的自动跟踪点胶方法 |
Families Citing this family (58)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107527336B (zh) * | 2016-06-22 | 2021-02-19 | 北京疯景科技有限公司 | 镜头相对位置标定方法及装置 |
CN106204443A (zh) * | 2016-07-01 | 2016-12-07 | 成都通甲优博科技有限责任公司 | 一种基于多目复用的全景无人机系统 |
CN107563987A (zh) * | 2016-07-01 | 2018-01-09 | 北京疯景科技有限公司 | 标定成像差异的方法及装置 |
CN106231162B (zh) * | 2016-07-27 | 2019-04-09 | 中国科学院长春光学精密机械与物理研究所 | 可重构大视场无缝拼接成像系统 |
CN106254741B (zh) * | 2016-08-30 | 2019-04-05 | 北京大学 | 一种大视场高分辨率多亿像素遥感相机 |
CN106331631B (zh) * | 2016-08-30 | 2019-10-25 | 山东惠工电气股份有限公司 | 一种两路视频重合方法 |
CN106331459A (zh) * | 2016-10-31 | 2017-01-11 | 北京小米移动软件有限公司 | 拍摄系统及移动终端 |
CN106355550B (zh) * | 2016-10-31 | 2024-04-09 | 河北鼎联科技有限公司 | 图像拼接系统和图像拼接方法 |
CN108377327B (zh) * | 2016-11-03 | 2020-01-10 | 深圳市掌网科技股份有限公司 | 全景相机以及深度信息获取方法 |
CN106990669B (zh) * | 2016-11-24 | 2019-07-26 | 深圳市圆周率软件科技有限责任公司 | 一种全景相机量产方法及系统 |
CN108447090B (zh) * | 2016-12-09 | 2021-12-21 | 株式会社理光 | 对象姿态估计的方法、装置及电子设备 |
CN107063640B (zh) * | 2016-12-23 | 2019-09-13 | 歌尔科技有限公司 | 一种背靠式双镜头光轴一致性测试治具及其测试方法 |
JP6699902B2 (ja) * | 2016-12-27 | 2020-05-27 | 株式会社東芝 | 画像処理装置及び画像処理方法 |
CN108269234B (zh) * | 2016-12-30 | 2021-11-19 | 成都美若梦景科技有限公司 | 一种全景相机镜头姿态估计方法及全景相机 |
CN106596077B (zh) * | 2016-12-31 | 2023-09-15 | 歌尔光学科技有限公司 | 一种双镜头定位检测系统和一种双镜头定位检测方法 |
CN106803273B (zh) * | 2017-01-17 | 2019-11-22 | 湖南优象科技有限公司 | 一种全景摄像机标定方法 |
CN106846415B (zh) * | 2017-01-24 | 2019-09-20 | 长沙全度影像科技有限公司 | 一种多路鱼眼相机双目标定装置及方法 |
CN106651859A (zh) * | 2017-01-24 | 2017-05-10 | 长沙全度影像科技有限公司 | 一种多路鱼眼相机标定装置及方法 |
CN106548477B (zh) * | 2017-01-24 | 2019-03-29 | 长沙全度影像科技有限公司 | 一种基于立体标定靶的多路鱼眼相机标定装置及方法 |
JP6822234B2 (ja) * | 2017-03-15 | 2021-01-27 | セイコーエプソン株式会社 | プロジェクターシステム |
CN106991704A (zh) * | 2017-03-24 | 2017-07-28 | 深圳市圆周率软件科技有限责任公司 | 一种全景相机的多场景标定方法及系统 |
CN108734738B (zh) * | 2017-04-18 | 2021-10-29 | 杭州海康威视数字技术股份有限公司 | 相机标定方法及装置 |
CN107147844A (zh) * | 2017-04-28 | 2017-09-08 | 中山大学 | 一种面向全景拍摄、虚拟现实和立体图像拼接的拍摄转机 |
CN107169924B (zh) * | 2017-06-14 | 2020-10-09 | 歌尔科技有限公司 | 三维全景图像的建立方法和系统 |
CN107392851A (zh) * | 2017-07-04 | 2017-11-24 | 上海小蚁科技有限公司 | 用于生成全景图像的方法和设备 |
CN109428987A (zh) * | 2017-07-04 | 2019-03-05 | 北京视境技术有限公司 | 一种头戴式全景360度立体摄像装置及摄像处理方法 |
CN109389642A (zh) * | 2017-08-04 | 2019-02-26 | 惠州市阿图达机电有限公司 | 视觉系统对机器人的标定方法、系统和具有存储功能装置 |
CN109948398B (zh) * | 2017-12-20 | 2024-02-13 | 深圳开阳电子股份有限公司 | 全景泊车的图像处理方法及全景泊车装置 |
CN108537846B (zh) * | 2018-02-08 | 2022-05-27 | 北京航空航天大学青岛研究院 | 相机标定方法及设备 |
US10582181B2 (en) * | 2018-03-27 | 2020-03-03 | Honeywell International Inc. | Panoramic vision system with parallax mitigation |
CN108337494A (zh) * | 2018-05-18 | 2018-07-27 | 歌尔科技有限公司 | 一种投影设备的校准方法、装置、投影设备及终端设备 |
CN109146844A (zh) * | 2018-07-11 | 2019-01-04 | 信利光电股份有限公司 | 多镜头多传感器摄像装置的图像拼接检测方法及可读存储介质 |
CN109285193A (zh) * | 2018-07-11 | 2019-01-29 | 信利光电股份有限公司 | 多镜头多传感器摄像装置的图像拼接标定装置及检测系统 |
CN108917646B (zh) * | 2018-07-24 | 2023-08-22 | 天津市友发德众钢管有限公司 | 一种多视觉传感器全局标定装置及标定方法 |
CN108986172B (zh) * | 2018-07-25 | 2021-09-07 | 西北工业大学 | 一种面向小景深系统的单视图线性摄像机标定方法 |
CN109087244B (zh) * | 2018-07-26 | 2023-04-18 | 深圳禾苗通信科技有限公司 | 一种全景图像拼接方法、智能终端及存储介质 |
CN108769554B (zh) * | 2018-08-30 | 2023-12-15 | 航天数维高新技术股份有限公司 | 一种阵列热成像仪 |
CN109272442B (zh) * | 2018-09-27 | 2023-03-24 | 百度在线网络技术(北京)有限公司 | 全景球面图像的处理方法、装置、设备和存储介质 |
CN109407547A (zh) * | 2018-09-28 | 2019-03-01 | 合肥学院 | 面向全景视觉感知的多摄像头在环仿真测试方法与系统 |
CN109409321B (zh) * | 2018-11-08 | 2021-02-05 | 北京奇艺世纪科技有限公司 | 一种镜头运动方式的确定方法及装置 |
CN109598762B (zh) * | 2018-11-26 | 2021-09-21 | 江苏科技大学 | 一种高精度双目相机标定方法 |
CN109448063A (zh) | 2018-12-18 | 2019-03-08 | 苏州艾微视图像科技有限公司 | 一种镜头畸变中心标定设备及方法 |
CN109889736B (zh) * | 2019-01-10 | 2020-06-19 | 深圳市沃特沃德股份有限公司 | 基于双摄像头、多摄像头的图像获取方法、装置及设备 |
CN109872372B (zh) * | 2019-03-07 | 2021-04-09 | 山东大学 | 一种小型四足机器人全局视觉定位方法和系统 |
CN110062153A (zh) * | 2019-03-18 | 2019-07-26 | 北京当红齐天国际文化发展集团有限公司 | 一种全景拍照无人机系统及全景拍照方法 |
CN110033407B (zh) * | 2019-03-29 | 2020-10-30 | 华中科技大学 | 一种盾构隧道表面图像标定方法、拼接方法及拼接系统 |
CN110217271A (zh) * | 2019-05-30 | 2019-09-10 | 成都希格玛光电科技有限公司 | 基于图像视觉的快速轨道侵限识别监测系统及方法 |
CN110160749B (zh) * | 2019-06-05 | 2022-12-06 | 歌尔光学科技有限公司 | 应用于增强现实设备的校准装置及校准方法 |
CN110246193B (zh) * | 2019-06-20 | 2021-05-14 | 南京博蓝奇智能科技有限公司 | 工业机器人末端相机在线标定方法 |
CN110675456B (zh) * | 2019-09-18 | 2020-06-16 | 深圳普罗米修斯视觉技术有限公司 | 多深度摄像机外部参数标定方法、装置及存储介质 |
CN110830781B (zh) | 2019-10-30 | 2021-03-23 | 歌尔科技有限公司 | 一种基于双目视觉的投影图像自动校正方法及系统 |
CN110942475B (zh) * | 2019-11-13 | 2023-02-17 | 北方夜视技术股份有限公司 | 紫外与可见光图像融合系统及快速图像配准方法 |
CN112639390A (zh) * | 2019-11-21 | 2021-04-09 | 北京机电研究所有限公司 | 用于三维尺寸的动态测量装置及其测量方法 |
CN113141497A (zh) * | 2020-01-20 | 2021-07-20 | 北京芯海视界三维科技有限公司 | 3d拍摄装置、3d拍摄方法及3d显示终端 |
CN112611344B (zh) * | 2020-11-30 | 2023-03-10 | 北京建筑大学 | 一种自主移动式平面度检测方法、设备及存储介质 |
CN113177989A (zh) * | 2021-05-07 | 2021-07-27 | 深圳云甲科技有限公司 | 一种口内扫描仪标定方法及装置 |
CN113763480A (zh) * | 2021-08-03 | 2021-12-07 | 桂林电子科技大学 | 一种多镜头全景摄像机组合标定方法 |
CN116939369B (zh) * | 2023-07-06 | 2024-02-27 | 钛玛科(北京)工业科技有限公司 | 一种基于光学成像技术的全景图像获取方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101702076A (zh) * | 2009-10-30 | 2010-05-05 | 深圳市掌网立体时代视讯技术有限公司 | 一种立体拍摄自动会聚跟踪方法及系统 |
CN103035008A (zh) * | 2012-12-15 | 2013-04-10 | 北京工业大学 | 一种多相机系统的加权标定方法 |
CN103729838A (zh) * | 2012-10-11 | 2014-04-16 | 索尼公司 | 用于减少由视点相关的照明成分产生的假象的系统和方法 |
CN205563716U (zh) * | 2016-03-30 | 2016-09-07 | 广州市盛光微电子有限公司 | 一种基于多镜头多传感器的全景相机标定装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102243432A (zh) * | 2011-06-28 | 2011-11-16 | 浙江工业大学 | 全景立体摄像装置 |
JP5627622B2 (ja) * | 2012-03-15 | 2014-11-19 | 株式会社東芝 | 固体撮像装置および携帯情報端末 |
US9311756B2 (en) * | 2013-02-01 | 2016-04-12 | Apple Inc. | Image group processing and visualization |
CN103973944A (zh) * | 2013-02-06 | 2014-08-06 | 深圳市振华微电子有限公司 | 半球型全景成像装置及方法 |
CN104079917A (zh) * | 2014-07-14 | 2014-10-01 | 中国地质大学(武汉) | 一种360度全景立体相机 |
CN104867140B (zh) * | 2015-05-13 | 2018-06-01 | 中国科学院光电技术研究所 | 一种基于仿生复眼的大视场定位系统 |
CN204631439U (zh) * | 2015-05-29 | 2015-09-09 | 杨振贤 | 一种图像采集设备 |
CN205067960U (zh) * | 2015-10-09 | 2016-03-02 | 合肥艾图瑞信息科技有限公司 | 一种能实现螺旋全景成像技术的单红外相机 |
-
2016
- 2016-03-30 CN CN201610195469.4A patent/CN105654502B/zh not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101702076A (zh) * | 2009-10-30 | 2010-05-05 | 深圳市掌网立体时代视讯技术有限公司 | 一种立体拍摄自动会聚跟踪方法及系统 |
CN103729838A (zh) * | 2012-10-11 | 2014-04-16 | 索尼公司 | 用于减少由视点相关的照明成分产生的假象的系统和方法 |
CN103035008A (zh) * | 2012-12-15 | 2013-04-10 | 北京工业大学 | 一种多相机系统的加权标定方法 |
CN205563716U (zh) * | 2016-03-30 | 2016-09-07 | 广州市盛光微电子有限公司 | 一种基于多镜头多传感器的全景相机标定装置 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111299078A (zh) * | 2020-03-17 | 2020-06-19 | 欣辰卓锐(苏州)智能装备有限公司 | 一种基于流水线的自动跟踪点胶方法 |
Also Published As
Publication number | Publication date |
---|---|
CN105654502A (zh) | 2016-06-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105654502B (zh) | 一种基于多镜头多传感器的全景相机标定装置和方法 | |
CN205563716U (zh) | 一种基于多镜头多传感器的全景相机标定装置 | |
WO2018076154A1 (zh) | 一种基于鱼眼摄像机空间位姿标定的全景视频生成方法 | |
CA2568617C (en) | Digital 3d/360 degree camera system | |
US9451236B2 (en) | Apparatus for synthesizing three-dimensional images to visualize surroundings of vehicle and method thereof | |
US9357206B2 (en) | Systems and methods for alignment, calibration and rendering for an angular slice true-3D display | |
US7961980B2 (en) | Method for providing output image in either cylindrical mode or perspective mode | |
CN108257183A (zh) | 一种相机镜头光轴校准方法和装置 | |
CN105488810A (zh) | 一种聚焦光场相机内外参数标定方法 | |
CN109272570A (zh) | 一种基于立体视觉数学模型的空间点三维坐标求解方法 | |
CN106534670B (zh) | 一种基于固联鱼眼镜头摄像机组的全景视频生成方法 | |
CN108122191A (zh) | 鱼眼图像拼接成全景图像和全景视频的方法及装置 | |
US9881377B2 (en) | Apparatus and method for determining the distinct location of an image-recording camera | |
CN107154014A (zh) | 一种实时彩色及深度全景图像拼接方法 | |
CN110191326A (zh) | 一种投影系统分辨率扩展方法、装置和投影系统 | |
CN108364252A (zh) | 一种多鱼眼镜头全景相机的矫正和标定方法 | |
CN109712232B (zh) | 一种基于光场的物体表面轮廓三维成像方法 | |
Brückner et al. | Intrinsic and extrinsic active self-calibration of multi-camera systems | |
CN111009030A (zh) | 一种多视高分辨率纹理图像与双目三维点云映射方法 | |
CN108269234A (zh) | 一种全景相机镜头姿态估计方法及全景相机 | |
CN108322730A (zh) | 一种可采集360度场景结构的全景深度相机系统 | |
CN108205799B (zh) | 一种图像拼接方法及装置 | |
CN110766752B (zh) | 一种带反光标志点的虚拟现实交互眼镜及空间定位方法 | |
CN107341764A (zh) | 基于鱼眼镜头立体视觉的虚拟空间定位方法及系统 | |
CN116804537A (zh) | 一种双目测距系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20190628 |