CN105913410A - 一种基于机器视觉的远距离运动物体高度测量的装置与方法 - Google Patents
一种基于机器视觉的远距离运动物体高度测量的装置与方法 Download PDFInfo
- Publication number
- CN105913410A CN105913410A CN201610119781.5A CN201610119781A CN105913410A CN 105913410 A CN105913410 A CN 105913410A CN 201610119781 A CN201610119781 A CN 201610119781A CN 105913410 A CN105913410 A CN 105913410A
- Authority
- CN
- China
- Prior art keywords
- image
- data
- coordinate
- camera
- binocular
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20228—Disparity calculation for image-based rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30236—Traffic on road, railway or crossing
Abstract
本发明公开了一种基于机器视觉的远距离运动物体高度测量的装置与方法,装置主要由双目视觉同步采集系统、图像数据处理系统、无线数据传输单元、远程监控终端及部分组成,该装置的图像采集系统可实现双目摄像机同步采集图像,为后续处理提供较为准确的数据;图像处理系统采用FPGA加DSP结构,由FPGA对数据进行预处理,再由DSP芯片对数据进行后续处理,减轻了DSP运算数据量,提高了装置的实时性;在图像特征匹配阶段,采用Harris角点探测器实现子像素级的特征提取,提高了运算精度;在高度测量阶段,采用BP神经网络作为误差校正环节,提高了测量精度。该基于机器视觉的远距离运动物体高度测量装置和方法有效解决了对远距离的运动物体的高度测量问题。
Description
技术领域
本发明属于机器视觉测量领域,设计的一种基于机器视觉原理对远距离运动物体高度进行测量的装置与方法可应用于海上运输、陆上交通、防止输电线被通行物刮断等有限高要求的领域。
背景技术
机器视觉利用计算机模拟人的视觉或与人类视觉有关的智能行为,从所获取的图像中提取信息,对客观世界的三维景物和物体进行形态和运动识别,在现实生活中得到了广泛应用。双目立体视觉技术是机器视觉的一个重要分支,其与人类的立体感知过程十分类似,直接模拟人类视觉处理景物的方式,简便可靠。双目立体视觉技术应用前景极大。特别是进入新世纪以来,随着技术手段的不断发展,双目立体视觉技术被越来越广泛的应用在生活的各个领域中,如产品的检测与测量,医学影像的三维分析、航空照片与卫星照片的解释、三维地图绘制等许多方面,在生产生活中发挥了极大的作用。
对运动目标的检测分析是计算机视觉任务中的一项重要内容,在机器人视觉导航、公共场景监控、军事、航天、陆上交通、海上运输等方面有着广泛的应用。但是,在该技术的实际研究过程中,大多数工作是基于单目视觉展开的。单目视觉与双目视觉皆可完成运动物体的检测与跟踪任务。而且,单目视觉的信息量小,每次只处理一张图片,运算速度较快。但是,单目视觉会丢失掉场景的三维信息,得到的目标运动信息只是相对的,双目视觉系统可以提取立体图像对之间的视差信息,在一定程度上恢复场景的三维信息。当需要对目标进行实际的三维位置和深度测量时,双目立体视觉有着不可替代的优点。
在海上运输领域,船舶经常会通过一些桥梁,桥梁的高度是一定的,因此通过的船舶高度则不能过高,否则会对桥体造成损伤;而在陆上,立交桥,公路隧道,有输电线跨域的道段以及一些必要场所都有限高要求,如果通行物过高会对立交桥、隧道、输电线和一些其他设施造成损坏甚至是损毁,既造成了公私财物的损失,也影响了交通。虽然采取了一些措施如设立限高标志等,但总是无法避免碰撞的发生。以船舶过桥碰撞问题为例,据最新的资料显示,在最近的三十年里,世界各地的船撞桥事故多达3000余起。而最严重的即导致整个桥梁塌陷的就超过了100余起,其他领域的碰撞事故更是不胜枚举。在陆上交通方面,所采取的方式大多也只是设立限高标识或是设立限高杆,并没有有效的提前预测预防措施。而在海上运输方面,其解决方案可分为被动防撞和主动防撞两类。被动防撞的研究主要是为 了增强桥体本身的防撞能力;而主动防撞的研究内容主要是通过各种措施来预防碰撞的发生。主动防撞措施可以在潜在碰撞发生前做出判断,避免碰撞的发生,防患于未然,将风险降到最低,对桥梁的安全运行更加有保障。然而目前的大部分研究主要是针对被动防撞开展的,主动防撞措施的相关研究还较少。因此,海上运输、陆上交通和输电线防刮断等领域亟需能有效检测通行物高度的测量装置对有潜在超高危险的通行物进行高度进行测量,以提前采取措施。
本发明利用机器视觉原理测量对较远距离(如陆上100米以外,海上1000米以外)的船舶、汽车等通行物进行高度测量,对高度较高易发生碰撞的车辆、船舶等进行较早预测,避免通行物与桥体、输电线等的碰撞,提出了一种提前预测的解决方案。
发明内容
本发明提出了一种基于机器视觉的远距离运动物体高度测量的装置和方法,用于解决海上运输,陆上交通等的限高通行领域的通行物高度预报问题。
为此,本发明提出了一种基于机器视觉的远距离运动物体高度测量装置,包括:双目视觉同步采集系统,图像数据处理系统,无线数据传输单元,远程监控终端。
进一步地,所述双目视觉同步采集系统,由长焦距镜头,双目图像传感器(1),FPGA同步控制电路(2),数据存储器SDRAM(3),数据输出接口(4),供电电路组成。其特征在于,FPGA(2)分别和双目图像传感器(1)、数据存储器SDRAM(3)和数据输出接口(4)相连;双目图像传感器(1)再和数据存储器SDRAM(3)相连;数据存储器SDRAM(3)再和数据输出接口(4)相连;由FPGA产生场同步信号和行同步信号,保证两图像传感器(1)同步工作;同时由FPGA(2)产生对数据存储器SDRAM(3)和数据输出接口(4)的控制信号。由长焦距镜头和双目图像传感器所组成的双目摄像系统,其左摄像机系统和右摄像机系统的基线距应保持一定距离,以保证较远的测量距离;同时左右摄像系统的光轴保持水平。
进一步的,所述图像数据处理系统,由DSP芯片(TMS320C6416)(9),FPGA(XC4VLX80)(8),JTAG接口,复位控制电路,时钟电路,输入数据端口(7),输出数据端口(10),数据存储器SDRAM(11),FPGA程序存储器EPRAM(5),DSP程序存储器FLASH(6)和供电电路组成。其特征在于:FPGA(XC4VLX80)(8)从输入数据端口(7)中读入图像数据,并存入数据存储器SDRAM(11),同时由FPGA(XC4VLX80)(8)读出数据存储器SDRAM(11)数据并对图像进行滤波等预处理,并将预处理结果存入数据存储器SDRAM(11);FPGA(XC4VLX80)(8)负责对DSP芯片(TMS320C6416)(9)发出控制命令,使DSP芯片(TMS320C6416)(9)对数据存储器SDRAM(11)中的预处理结果进行特征匹配、三维重建等运算;输出数据端口(10)负责将DSP芯片(TMS320C6416)(9)运算结果输出到无线数据传输单元。
本发明还提供了一种基于机器视觉的远距离运动物体高度测量方法,包括以下步骤:
步骤一:将本发明所述装置安装完毕,对该装置进行标定;
步骤二:训练基于神经网络的误差校正模型;
步骤三:由双目视觉同步采集系统对场景图像进行采样,并通过数据输出接口(4)将数据传入图像数据处理系统等待处理;
步骤四:由图像数据处理系统的FPGA(XC4VLX80)(8)对数据进行预处理;
步骤五:由图像数据处理系统的DSP芯片(TMS320C6416)(9)对数据进行处理,计算目标的高度信息;
步骤六:将图像及运算结果通过无线数据传输单元传送给远程监控终端。
进一步地,所述步骤一的标定过程步骤如下:
步骤(1):对权利要求1所述装置进行标定,获得两摄像机的内参数和外参数;
步骤(2):对双目测量装置进行水平标定,具体方法如下:
用双目摄像机拍摄一个与铅垂线平行的已知长度的标定杆,记其上端点为M,下端点为N,中间点为E,且ME与EN的比已知;获得其在左右摄像机上的图像,其端点M在左摄像机的像为Ml,图像坐标为(xml,yml),端点N在左摄像机的像为Nl,图像坐标为(xnl,ynl),中间点E在左摄像机的像为El,图像坐标为(xel,yel);同时端点M在右摄像机中的像为Mr,图像坐标为(xmr,ymr),端点N在右摄像机的像为Nr,图像坐标为(xnr,ynr),中间点E在左摄像机的像为Er,图像坐标为(xer,yer);
如果摄像机的光轴水平,则下式成立:
进一步地,所述步骤二的基于神经网络的误差校正模型训练方法如下:
步骤(1):训练数据获取
将已知高度的标准杆放在装置前一定距离内,并使标定杆在横向范围内移动,并拍下不同位置下标定杆的图像;然后将标定杆往后移动一段距离(如五十米),然后再在横向范围内移动,并拍下不同位置下标定杆的图像;不断向后移动一段距离(如五十米),并重复上述操作,直至抵近该双目测量装置的测量范围;并记录下标准杆在不同位置时的顶点及杆上其他测量点的真实坐标系。
步骤(2):训练校正模型网络
对步骤(1)所获得图像数据进行计算,计算出不同位置下的标定杆的顶点和其他测量点的计算坐标,将计算坐标作为神经网络的输入,相应的标定杆顶点及其他相应测量点 的真实坐标作为期望输出,然后训练网络,最终得到基于神经网络的误差校正模型;
步骤(3):将步骤(2)中获得的基于神经网络的误差校正模型写入数据处理系统的DSP程序存储器FLASH(6)。
进一步地,所述步骤五的数据处理过程包括如下步骤:
步骤(1):由图像数据处理系统的DSP芯片(TMS320C6416)(9)对经过预处理步骤的图像进行目标识别:
首先从左摄像机图像中提取一个目标,然后在右摄像机图像中寻找相对应的目标;
步骤(2):对目标所在区域进行子像素级的角点特征提取,并配对:
这里采用Harris角点探测器对角点进行子像素级别提取,采用那个的拟合曲面是高斯曲面,其函数为:
其中,拟合出的(x0,y0)即为角点的内插值;然后运用双目视觉约束条件和基于特征的匹配方式建立两幅图像间特征角点的对应关系。
步骤(3):利用配对点的图像坐标计算相应点的世界坐标;
步骤(4):运用基于神经网络的误差校正模型对步骤(3)中计算出的坐标进行校正,获得精确的世界坐标系坐标,建立稀疏的深度图;
步骤(5):利用内插方法对步骤(4)获得的稀疏的深度图进行插值,获得整个目标的深度图;
步骤(6):计算出目标的最高点A,其坐标为(xac,yac,zac),再从目标中得到其最低点D,其坐标为(xdc,ydc,zdc),则目标高度的计算通过下式取得:
H=yac-ydc (3)
所求出的H即为所求。
进一步地,所述的世界坐标系的计算方法如下:
以左摄像机坐标系为准,右摄像机坐标系与左摄像机坐标系的转换矩阵为M=[R T],设现实中目标上一点P,设其在左摄像机坐标的坐标(xc,yc,zc),在右摄像机坐标系的坐标为(xr,yr,zr),在左右摄像机中所成的像点的图像坐标分别为Pl(xpl,ypl)和Pr(xpr,ypr),基线距为B,摄像机焦距为f,则根据摄像机透视变换有:
两摄像机坐标系之间的空间位置关系可通过空间转换矩阵M表示为:
当R为单位矩阵时,摄像机相面点之间的对应关系可表示为:
由上式可以计算出特征点P在左摄像机坐标系坐标:
由此获得各个主要特征点的坐标。
本发明具有的有益效果:本发明可以对较远距离运动物体的高度进行测量,并通过增加摄像系统基线距来增加测量距离,使装置可对较远距离(如陆上100米以外,海上1000米以外)的物体高度进行测量;引入子像素级特征提取和基于神经网络的误差校正模型增加测量精度,实现了对超高物体进行提前预报,防止碰撞事件的发生,拥有良好的应用前景。
附图说明
图1基于机器视觉的远距离运动物体高度测量方法流程图
图2双目摄像机标定水平示意图
图3基于神经网络的误差校正模型示意图
图4双目视觉同步采集系统示意图
图5图像数据处理系统处理过程示意图
图6双目视觉计算高度原理示意图
图7双目视觉三维重建原理示意图
具体实施方式
下面将结合附图,详细阐述本发明所述的一种基于机器视觉的远距离运动物体高度测量的装置与方法的实施方式。
如图1所示展示了基于机器视觉的远距离运动物体高度测量方法流程,包括摄像机标定、基于神经网络的误差校正模型训练、获取双目图像、图像预处理、数据处理并获得目标高度和数据传输至监控终端六步。值得注意的是,前两步是在摄像机安装完毕后进行的,为测量装置进行后续处理所必须的步骤,实际测量过程是从第三步开始的。另外,为保证装置有着较远的测量距离(如陆上100米以上,海上1000米以上),由长焦距镜头和双目图像传感器所组成的双目摄像系统,其左摄像机系统和右摄像机系统的基线距应保持一定距离。
第一步是对双目摄像机进行标定。双目摄像机标定可分为两个步骤。
步骤(1):对双目摄像机系统的标定,即获得双目摄像机的内外参数。
步骤(2):对双目测量装置进行水平校正,如图2所示,展示了双目摄像机标定水平,具体方法如下:
用双目摄像机拍摄一个与铅垂线平行的已知长度的标定杆,记其上端点为M,下端点为N,中间点为E,且ME与EN的比已知;获得其在左右摄像机上的图像,其端点M在左摄像机的像为Ml,图像坐标为(xml,yml),端点N在左摄像机的像为Nl,图像坐标为(xnl,ynl),中间点E在左摄像机的像为El,图像坐标为(xel,yel);同时端点M在右摄像机中的像为Mr,图像坐标为(xmr,ymr),端点N在右摄像机的像为Nr,图像坐标为(xnr,ynr),中间点E在左摄像机的像为Er,图像坐标为(xer,yer);
如果摄像机的光轴水平,则下式成立:
第二步:基于神经网络的误差校正模型的训练。
由于各种原因,双目摄像机所获得的图像会有深度损失,这会导致测量的不准确。因此,要提高测量精度,需要对数据进行补偿。本发明采用神经网络对误差进行校正。神经网络模型如图3所示,网络的输入为双目视觉测量装置计算出的坐标,输出为该点校正后的坐标。基于神经网络的误差校正模型训练方法如下:
步骤(1):训练数据获取
将已知高度的标准杆放在装置前一定距离内,并使标定杆在横向范围内移动,并拍下不同位置下标定杆的图像;然后将标定杆往后移动一段距离(如五十米),然后再在横向范围内移动,并拍下不同位置下标定杆的图像;不断向后移动一段距离(如五十米),并重复上述操作,直至抵近该双目测量装置的测量范围;并记录下标准杆在不同位置时的顶点及杆上其他测量点的真实坐标系。
步骤(2):训练校正模型网络
对步骤(1)所获得图像数据进行计算,计算出不同位置下的标定杆的顶点和其他测量点的计算坐标,将计算坐标作为神经网络的输入,相应的标定杆顶点及其他相应测量点的真实坐标作为期望输出,然后训练网络,最终得到基于神经网络的误差校正模型;
步骤(3):将步骤(2)中获得的基于神经网络的误差校正模型写入数据处理系统的DSP程序存储器FLASH(6),以方便测量装置在实际测量中能对计算结果进行校正。
第三步:获取双目图像。由于测量的是运动物体,因此左右摄像机需要同步工作,否则获得的数据将获得较大误差。如图4所示,展示了双目视觉同步采集系统。由FPGA同步控制电路(2)设置双目传感器(1)工作在被动模式,该模式下的图像传感器(1)的行同步和场同步由FPGA同步控制电路(2)发出;图像传感器(1)采集到的图像信号首先暂存在数据存储器SDRAM(3),然后再通过数据输出接口(4)输入到图像数据处理系统。FPGA同步控制电路(2)负责控制协调图像传感器(1)、数据存储器SDRAM(3)和数据输出接口(4)。
第四步:图像预处理。如图5所示,展示了数据处理系统的处理过程。其中图像预处理过程将在FPGA(XC4VLX80)(8)中进行。具体流程是FPGA(XC4VLX80)(8)从输入数据端口(7)读入图像数据,然后存入数据存储器SDRAM(11)中,等待FPGA(XC4VLX80)(8)的处理;FPGA(XC4VLX80)(8)从数据存储器SDRAM(11)中读入数据,并进行预处理,并将处理结果再次存入数据存储器SDRAM(11)中,等待DSP芯片(TMS320C6416)(9)读入数据进一步处理。
第五步是数据处理,获得目标高度信息。如图4所示,该步骤的处理将在DSP芯片(TMS320C6416)(9)中进行。该步骤分为六个步骤:
步骤(1):由图像数据处理系统的DSP芯片(TMS320C6416)(9)对经过预处理步骤的图像进行目标识别:
首先从左摄像机图像中提取一个目标,然后在右摄像机图像中进行寻找,以减少特征匹配步骤中的数据量;
步骤(2):对目标所在区域进行子像素级的角点特征提取,并配对:
这里采用Harris角点探测器对角点进行子像素级别提取,采用那个的拟合曲面是 高斯曲面,其函数为:
其中,拟合出的(x0,y0)即为角点的内插值;然后运用双目视觉约束条件和基于特征的匹配方式建立两幅图像间特征角点的对应关系。
步骤(3):利用配对点的图像坐标计算相应点的世界坐标;
步骤(4):运用基于神经网络的误差校正模型对步骤(3)中计算出的坐标进行校正,获得精确的世界坐标系坐标,建立稀疏的深度图;
步骤(5):利用内插方法对步骤(4)获得的稀疏的深度图进行插值,获得整个目标的深度图;
步骤(6):计算出目标的最高点A,其坐标为(xac,yac,zac),再从目标中得到其最低点D,其坐标为(xdc,ydc,zdc),如图6所示,展示了高度测量原理,由于左右摄像机光轴水平,因此目标高度的计算可通过下式取得:
H=yac-ydc (3)
经过以上步骤,将获得目标点的深度信息。
需要指出的是,数据处理是采用的FPGA加DSP的结构,这样可以减轻DSP的运算负担,加快运算速度,提高实时性的要求。
第六步:将图像信息和高度信息通过无线数据传输单元传回远程监控终端,供监视人员参考。
近一步地,图7给出了双目视觉三维重建原理示意图,即DSP芯片进行三维重建的方法原理。以左摄像机坐标系为基准,右摄像机坐标系与左摄像机坐标系的转换矩阵为M=[R T],设现实中目标上一点P,设其在左摄像机坐标的坐标(xc,yc,zc),在右摄像机坐标系的坐标为(xr,yr,zr),在左右摄像机中所成的像点的图像坐标分别为Pl(xpl,ypl)和Pr(xpr,ypr),基线距为B,摄像机焦距为f,则根据摄像机透视变换有:
两摄像机坐标系之间的空间位置关系可通过空间转换矩阵M表示为:
当R为单位矩阵时,摄像机相面点之间的对应关系可表示为:
由上式可以计算出特征点P在左摄像机坐标系坐标:
由此获得各个主要特征点的坐标。
Claims (9)
1.一种基于机器视觉的远距离运动物体高度测量的装置,其特征在于:包括双目视觉同步采集系统,图像数据处理系统,无线数据传输单元,远程监控终端,所述双目视觉同步采集系统,由长焦距镜头,双目图像传感器(1),FPGA同步控制电路(2),数据存储器SDRAM(3),数据输出接口(4),供电电路组成。
2.根据权利要求1所述的基于机器视觉的远距离运动物体高度测量的装置,其特征在于:所述双目视觉同步采集系统中的FPGA(2)分别和双目图像传感器(1)、数据存储器SDRAM(3)和数据输出接口(4)相连;双目图像传感器(1)再和数据存储器SDRAM(3)相连;数据存储器SDRAM(3)再和数据输出接口(4)相连;由FPGA产生场同步信号和行同步信号,保证两图像传感器(1)同步工作;同时由FPGA(2)产生对数据存储器SDRAM(3)和数据输出接口(4)的控制信号。
3.根据权利要求2所述的基于机器视觉的远距离运动物体高度测量的装置,其特征在于,由长焦距镜头和双目图像传感器(1)所组成的双目摄像系统,其左摄像机系统和右摄像机系统的基线距应保持一定距离,同时左右摄像系统的光轴保持水平。
4.根据权利要求1所述的基于机器视觉的远距离运动物体高度测量的装置,其特征在于,所述图像数据处理系统,由DSP芯片(9),FPGA(8),JTAG接口,复位控制电路,时钟电路,输入数据端口(7),输出数据端口(10),数据存储器SDRAM(11),FPGA程序存储器EPRAM(5),DSP程序存储器FLASH(6)和供电电路组成,FPGA(8)从输入数据端口(7)中读入图像数据,并存入数据存储器SDRAM(11),同时由FPGA(8)读出数据存储器SDRAM(11)数据并对图像进行滤波等预处理,并将预处理结果存入数据存储器SDRAM(11);FPGA(XC4VLX80)(8)负责对DSP芯片(9)发出控制命令,使DSP芯片(9)对数据存储器SDRAM(11)中的预处理结果进行特征匹配、三维重建等运算;输出数据端口(10)负责将DSP芯片(9)运算结果输出到无线数据传输单元。
5.一种如权利要求1所述的基于机器视觉的远距离运动物体高度测量的装置的测量方法,其特征在于包括以下步骤:
步骤一:将所述双目视觉同步采集系统,图像数据处理系统,无线数据传输单元,远程监控终端安装完毕,对该装置进行标定;
步骤二:训练基于神经网络的误差校正模型;
步骤三:由双目视觉同步采集系统对场景图像进行采样,并通过数据输出接口(4)将数据传入图像数据处理系统等待处理;
步骤四:由图像数据处理系统的FPGA(XC4VLX80)(8)对数据进行预处理;
步骤五:由图像数据处理系统的DSP芯片(TMS320C6416)(9)对数据进行处理,计算目标的高度信息;
步骤六:将图像及运算结果通过无线数据传输单元传送给远程监控终端。
6.根据权利要求5所述的基于机器视觉的远距离运动物体高度测量的装置的测量方法,其特征在于,所述步骤一的标定过程步骤如下:
步骤一:对权利要求1所述装置进行标定,获得两摄像机的内参数和外参数;
步骤二:对双目测量装置进行水平标定,具体方法如下:
用双目摄像机拍摄一个与铅垂线平行的已知长度的标定杆,记其上端点为M,下端点为N,中间点为E,且ME与EN的比已知;获得其在左右摄像机上的图像,其端点M在左摄像机的像为Ml,图像坐标为(xml,yml),端点N在左摄像机的像为Nl,图像坐标为(xnl,ynl),中间点E在左摄像机的像为El,图像坐标为(xel,yel);同时端点M在右摄像机中的像为Mr,图像坐标为(xmr,ymr),端点N在右摄像机的像为Nr,图像坐标为(xnr,ynr),中间点E在左摄像机的像为Er,图像坐标为(xer,yer);
如果摄像机的光轴水平,则下式成立:
7.根据权利要求5所述的基于机器视觉的远距离运动物体高度测量的装置的测量方法,其特征在于,所述步骤二的基于神经网络的误差校正模型训练方法如下:
步骤一:训练数据获取
将已知高度的标准杆放在装置前一定距离内,并使标定杆在横向范围内移动,并拍下不同位置下标定杆的图像;然后将标定杆往后移动一段距离(如五十米),然后再在横向范围内移动,并拍下不同位置下标定杆的图像;不断向后移动一段距离(如五十米),并重复上述操作,直至抵近该双目测量装置的测量范围;并记录下标准杆在不同位置时的顶点及杆上其他测量点的真实坐标系。
步骤二:训练校正模型网络
对步骤一所获得图像数据进行计算,计算出不同位置下的标定杆的顶点和其他测量点的计算坐标,将计算坐标作为神经网络的输入,相应的标定杆顶点及其他相应测量点的真实坐标作为期望输出,然后训练网络,最终得到基于神经网络的误差校正模型;
步骤三:将步骤二中获得的基于神经网络的误差校正模型写入数据处理系统的DSP程序存储器FLASH。
8.根据权利要求5所述的基于机器视觉的远距离运动物体高度测量的装置的测量方法,其特征在于,所述步骤五的数据处理过程包括如下步骤:
步骤一:由图像数据处理系统的DSP芯片(9)对经过预处理步骤的图像进行目标识别:
首先从左摄像机图像中提取一个目标,然后在右摄像机图像中寻找相对应的目标;
步骤二:对目标所在区域进行子像素级的角点特征提取,并配对:
这里采用Harris角点探测器对角点进行子像素级别提取,采用那个的拟合曲面是高斯曲面,其函数为:
其中,拟合出的(x0,y0)即为角点的内插值;然后运用双目视觉约束条件和基于特征的匹配方式建立两幅图像间特征角点的对应关系。
步骤三:利用配对点的图像坐标计算相应点的世界坐标;
步骤四:运用基于神经网络的误差校正模型对步骤(3)中计算出的坐标进行校正,获得精确的世界坐标系坐标,建立稀疏的深度图;
步骤五:利用内插方法对步骤(4)获得的稀疏的深度图进行插值,获得整个目标的深度图;
步骤六:计算出目标的最高点A,其坐标为(xac,yac,zac),再从目标中得到其最低点D,其坐标为(xdc,ydc,zdc),则目标高度的计算通过下式取得:
H=yac-ydc
所求出的H即为所求。
9.根据权利要求5所述的基于机器视觉的远距离运动物体高度测量的装置的测量方法,其特征在于:所述的世界坐标系的计算方法如下:
以左摄像机坐标系为基准,右摄像机坐标系与左摄像机坐标系的转换矩阵为M=[R T],设现实中目标上一点P,设其在左摄像机坐标的坐标(xc,yc,zc),在右摄像机坐标系的坐标为(xr,yr,zr),在左右摄像机中所成的像点的图像坐标分别为Pl(xpl,ypl)和Pr(xpr,ypr),基线距为B,摄像机焦距为f,则根据摄像机透视变换有:
两摄像机坐标系之间的空间位置关系可通过空间转换矩阵M表示为:
当R为单位矩阵时,摄像机相面点之间的对应关系可表示为:
由上式可以计算出特征点P在左摄像机坐标系坐标:
由此获得各个主要特征点的坐标。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610119781.5A CN105913410A (zh) | 2016-03-03 | 2016-03-03 | 一种基于机器视觉的远距离运动物体高度测量的装置与方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610119781.5A CN105913410A (zh) | 2016-03-03 | 2016-03-03 | 一种基于机器视觉的远距离运动物体高度测量的装置与方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN105913410A true CN105913410A (zh) | 2016-08-31 |
Family
ID=56744529
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610119781.5A Pending CN105913410A (zh) | 2016-03-03 | 2016-03-03 | 一种基于机器视觉的远距离运动物体高度测量的装置与方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105913410A (zh) |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106361345A (zh) * | 2016-11-29 | 2017-02-01 | 公安部第三研究所 | 基于摄像头标定的视频图像中人体身高测量的系统及方法 |
CN106568424A (zh) * | 2016-10-27 | 2017-04-19 | 西安科技大学 | 基于机器视觉的采煤机摇臂采高检测方法 |
CN106767716A (zh) * | 2016-12-13 | 2017-05-31 | 云南电网有限责任公司电力科学研究院 | 基于fpga硬件和双目视觉的高压电线测距系统及方法 |
CN107564070A (zh) * | 2017-09-05 | 2018-01-09 | 国网浙江省电力公司湖州供电公司 | 架空输电通道图像监测中大场景双目测距及其校正方法 |
CN107590830A (zh) * | 2017-09-21 | 2018-01-16 | 北京小米移动软件有限公司 | 基于图像的高度确定方法、装置及存储介质 |
CN107884767A (zh) * | 2017-10-31 | 2018-04-06 | 暨南大学 | 一种双目视觉系统测量船舶距离与高度的方法 |
CN108037520A (zh) * | 2017-12-27 | 2018-05-15 | 中国人民解放军战略支援部队信息工程大学 | 阵列幅相误差条件下基于神经网络的直接定位偏差修正方法 |
CN109686104A (zh) * | 2018-12-31 | 2019-04-26 | 武汉静磁栅机电制造有限公司 | 一种车辆超高检测装置 |
CN109859216A (zh) * | 2019-02-16 | 2019-06-07 | 深圳市未来感知科技有限公司 | 基于深度学习的测距方法、装置、设备及存储介质 |
CN109919990A (zh) * | 2019-02-19 | 2019-06-21 | 北京工业大学 | 利用深度感知网络和视差遥感影像进行森林高度预测方法 |
CN109990756A (zh) * | 2019-04-11 | 2019-07-09 | 武汉纺织大学 | 一种双目测距方法及系统 |
CN110279389A (zh) * | 2019-07-23 | 2019-09-27 | 西安工业大学 | 基于双目视觉和结构光的手持口腔扫描系统 |
CN110401937A (zh) * | 2019-04-19 | 2019-11-01 | 王君 | 即时大数据收发平台 |
CN110969898A (zh) * | 2018-09-28 | 2020-04-07 | 杭州海康威视系统技术有限公司 | 一种船舶高度的检测方法、装置及系统 |
WO2020186522A1 (zh) * | 2019-03-21 | 2020-09-24 | 合刃科技(深圳)有限公司 | 一种防晕光车辆辅助驾驶系统 |
CN112611331A (zh) * | 2021-01-04 | 2021-04-06 | 中国神华能源股份有限公司国华电力分公司 | 一种位移监测装置及测量方法 |
US10976262B2 (en) * | 2017-01-11 | 2021-04-13 | Autoscan Gmbh | Mobile and automated apparatus for the detection and classification of damages on the body of a vehicle |
CN112925351A (zh) * | 2019-12-06 | 2021-06-08 | 杭州萤石软件有限公司 | 一种视觉机器光源控制方法、装置 |
CN115897435A (zh) * | 2023-01-03 | 2023-04-04 | 湖南大学 | 基于计算机视觉和作动器的桥梁超高碰撞防护方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101841730A (zh) * | 2010-05-28 | 2010-09-22 | 浙江大学 | 一种基于fpga的实时立体视觉实现方法 |
CN103854291A (zh) * | 2014-03-28 | 2014-06-11 | 中国科学院自动化研究所 | 四自由度双目视觉系统中的摄像机标定方法 |
EP2778601A1 (en) * | 2013-03-15 | 2014-09-17 | Siemens Healthcare Diagnostics Inc. | Optical metrology by light beam analysis |
CN104240264A (zh) * | 2014-08-29 | 2014-12-24 | 青岛海信电器股份有限公司 | 一种运动物体的高度检测方法和装置 |
-
2016
- 2016-03-03 CN CN201610119781.5A patent/CN105913410A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101841730A (zh) * | 2010-05-28 | 2010-09-22 | 浙江大学 | 一种基于fpga的实时立体视觉实现方法 |
EP2778601A1 (en) * | 2013-03-15 | 2014-09-17 | Siemens Healthcare Diagnostics Inc. | Optical metrology by light beam analysis |
CN103854291A (zh) * | 2014-03-28 | 2014-06-11 | 中国科学院自动化研究所 | 四自由度双目视觉系统中的摄像机标定方法 |
CN104240264A (zh) * | 2014-08-29 | 2014-12-24 | 青岛海信电器股份有限公司 | 一种运动物体的高度检测方法和装置 |
Non-Patent Citations (1)
Title |
---|
邵泽明: "视觉移动机器人自主导航关键技术研究", 《中国博士学位论文全文数据库 信息科技辑》 * |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106568424A (zh) * | 2016-10-27 | 2017-04-19 | 西安科技大学 | 基于机器视觉的采煤机摇臂采高检测方法 |
CN106568424B (zh) * | 2016-10-27 | 2017-11-07 | 西安科技大学 | 基于机器视觉的采煤机摇臂采高检测方法 |
CN106361345A (zh) * | 2016-11-29 | 2017-02-01 | 公安部第三研究所 | 基于摄像头标定的视频图像中人体身高测量的系统及方法 |
CN106767716A (zh) * | 2016-12-13 | 2017-05-31 | 云南电网有限责任公司电力科学研究院 | 基于fpga硬件和双目视觉的高压电线测距系统及方法 |
US10976262B2 (en) * | 2017-01-11 | 2021-04-13 | Autoscan Gmbh | Mobile and automated apparatus for the detection and classification of damages on the body of a vehicle |
CN107564070A (zh) * | 2017-09-05 | 2018-01-09 | 国网浙江省电力公司湖州供电公司 | 架空输电通道图像监测中大场景双目测距及其校正方法 |
CN107564070B (zh) * | 2017-09-05 | 2020-06-12 | 国网浙江省电力公司湖州供电公司 | 架空输电通道图像监测中大场景双目测距及其校正方法 |
CN107590830A (zh) * | 2017-09-21 | 2018-01-16 | 北京小米移动软件有限公司 | 基于图像的高度确定方法、装置及存储介质 |
CN107884767A (zh) * | 2017-10-31 | 2018-04-06 | 暨南大学 | 一种双目视觉系统测量船舶距离与高度的方法 |
CN108037520A (zh) * | 2017-12-27 | 2018-05-15 | 中国人民解放军战略支援部队信息工程大学 | 阵列幅相误差条件下基于神经网络的直接定位偏差修正方法 |
CN110969898A (zh) * | 2018-09-28 | 2020-04-07 | 杭州海康威视系统技术有限公司 | 一种船舶高度的检测方法、装置及系统 |
CN109686104A (zh) * | 2018-12-31 | 2019-04-26 | 武汉静磁栅机电制造有限公司 | 一种车辆超高检测装置 |
CN109686104B (zh) * | 2018-12-31 | 2020-12-11 | 武汉静磁栅机电制造有限公司 | 一种车辆超高检测方法 |
CN109859216A (zh) * | 2019-02-16 | 2019-06-07 | 深圳市未来感知科技有限公司 | 基于深度学习的测距方法、装置、设备及存储介质 |
CN109919990B (zh) * | 2019-02-19 | 2021-03-16 | 北京工业大学 | 利用深度感知网络和视差遥感影像进行森林高度预测方法 |
CN109919990A (zh) * | 2019-02-19 | 2019-06-21 | 北京工业大学 | 利用深度感知网络和视差遥感影像进行森林高度预测方法 |
WO2020186522A1 (zh) * | 2019-03-21 | 2020-09-24 | 合刃科技(深圳)有限公司 | 一种防晕光车辆辅助驾驶系统 |
CN109990756A (zh) * | 2019-04-11 | 2019-07-09 | 武汉纺织大学 | 一种双目测距方法及系统 |
CN109990756B (zh) * | 2019-04-11 | 2021-07-27 | 武汉纺织大学 | 一种双目测距方法及系统 |
CN110401937A (zh) * | 2019-04-19 | 2019-11-01 | 王君 | 即时大数据收发平台 |
CN110279389A (zh) * | 2019-07-23 | 2019-09-27 | 西安工业大学 | 基于双目视觉和结构光的手持口腔扫描系统 |
CN112925351A (zh) * | 2019-12-06 | 2021-06-08 | 杭州萤石软件有限公司 | 一种视觉机器光源控制方法、装置 |
CN112925351B (zh) * | 2019-12-06 | 2022-08-02 | 杭州萤石软件有限公司 | 一种视觉机器光源控制方法、装置 |
CN112611331A (zh) * | 2021-01-04 | 2021-04-06 | 中国神华能源股份有限公司国华电力分公司 | 一种位移监测装置及测量方法 |
CN115897435A (zh) * | 2023-01-03 | 2023-04-04 | 湖南大学 | 基于计算机视觉和作动器的桥梁超高碰撞防护方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105913410A (zh) | 一种基于机器视觉的远距离运动物体高度测量的装置与方法 | |
JP6484729B2 (ja) | 無人航空機の奥行き画像の取得方法、取得装置及び無人航空機 | |
CN106681353B (zh) | 基于双目视觉与光流融合的无人机避障方法及系统 | |
CN107945220B (zh) | 一种基于双目视觉的重建方法 | |
CN107314762B (zh) | 基于无人机单目序列影像的电力线下方地物距离检测方法 | |
CN107167139A (zh) | 一种变电站巡检机器人视觉定位导航方法及系统 | |
CN104482934B (zh) | 一种多传感器融合的超近距离自主导航装置与方法 | |
CN107884767A (zh) | 一种双目视觉系统测量船舶距离与高度的方法 | |
CN103604417B (zh) | 物方信息约束的多视影像双向匹配策略 | |
CN104215239A (zh) | 基于视觉的无人机自主着陆导引装置及导引方法 | |
CN105096386A (zh) | 大范围复杂城市环境几何地图自动生成方法 | |
CN104268935A (zh) | 一种基于特征的机载激光点云与影像数据融合系统及方法 | |
CN104990515A (zh) | 大型物体三维形状测量系统及其测量方法 | |
CN106019264A (zh) | 一种基于双目视觉的无人机危险车距识别系统及方法 | |
CN108692719A (zh) | 物体检测装置 | |
CN109827554A (zh) | 一种基于视频所测河流表面流速结合水力模型的河流流量测验方法 | |
CN111435081B (zh) | 海面测量系统、海面测量方法以及存储介质 | |
CN111091076B (zh) | 基于立体视觉的隧道限界数据测量方法 | |
CN110889873A (zh) | 一种目标定位方法、装置、电子设备及存储介质 | |
US11948344B2 (en) | Method, system, medium, equipment and terminal for inland vessel identification and depth estimation for smart maritime | |
CN108180888A (zh) | 一种基于可转动摄像头的距离检测方法 | |
CN109724586A (zh) | 一种融合深度图和点云的航天器相对位姿测量方法 | |
CN105181109A (zh) | 一种导线脱冰跳跃轨迹双目测量方法 | |
CN103234463A (zh) | 一种航行船舶净空高度测量系统及其测量方法 | |
CN103954220A (zh) | 撞桥试验中船体运动状态数字图像测量方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB03 | Change of inventor or designer information |
Inventor after: Tong Weiguo Inventor after: Liu Shibo Inventor after: Wang Uriage Inventor after: Cheng Haiyan Inventor after: Sun Yimeng Inventor before: Tong Weiguo Inventor before: Liu Shibo Inventor before: Wang Uriage Inventor before: Sun Yimeng |
|
CB03 | Change of inventor or designer information | ||
AD01 | Patent right deemed abandoned |
Effective date of abandoning: 20191122 |
|
AD01 | Patent right deemed abandoned |