CN113534737B - 一种基于多目视觉的ptz球机控制参数获取系统 - Google Patents

一种基于多目视觉的ptz球机控制参数获取系统 Download PDF

Info

Publication number
CN113534737B
CN113534737B CN202110802072.8A CN202110802072A CN113534737B CN 113534737 B CN113534737 B CN 113534737B CN 202110802072 A CN202110802072 A CN 202110802072A CN 113534737 B CN113534737 B CN 113534737B
Authority
CN
China
Prior art keywords
ptz
dome camera
camera
gun
coordinate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110802072.8A
Other languages
English (en)
Other versions
CN113534737A (zh
Inventor
姜柯
李爱华
苏延召
蔡艳平
王涛
韩德帅
冯国彦
李庆辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rocket Force University of Engineering of PLA
Original Assignee
Rocket Force University of Engineering of PLA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Rocket Force University of Engineering of PLA filed Critical Rocket Force University of Engineering of PLA
Priority to CN202110802072.8A priority Critical patent/CN113534737B/zh
Publication of CN113534737A publication Critical patent/CN113534737A/zh
Application granted granted Critical
Publication of CN113534737B publication Critical patent/CN113534737B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/19Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by positioning or contouring control systems, e.g. to control position from one programmed point to another or to control movement along a programmed continuous path
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/35Nc in input of data, input till input file format
    • G05B2219/35349Display part, programmed locus and tool path, traject, dynamic locus

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Manufacturing & Machinery (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Studio Devices (AREA)

Abstract

本发明公开了一种基于多目视觉的PTZ球机控制参数获取系统,包括多目视觉模块、相机标定模块、目标位置获取模块、目标位置预测模块、场景深度信息获取模块、PT参数获取模块以及Z参数获取模块,充分利用作为主摄像机的枪机参数稳定的特性,结合系统初始化阶段得到的场景深度信息,实现运动目标的三维坐标估计,并以此实现PTZ控制参数的计算,达到精确计算的目的。

Description

一种基于多目视觉的PTZ球机控制参数获取系统
技术领域
本发明涉及PTZ球机控制参数获取系统,具体涉及一种基于多目视觉的PTZ球机控制参数获取系统。
背景技术
在一些军事或民用设施的重点要害部位,如机场场坪、油库、化工厂等,人们对智能视频监控的性能有着更高的要求。
现有技术中通常采用双目视觉的方法,采用枪机或全向摄像机结合PTZ球机实现的双目视觉系统,先使用枪机或全向摄像机检测运动目标,再用PTZ球机实现跟踪和放大抓拍。
利用PTZ球机对运动目标进行跟踪,是近年来一个研究热点,现有技术仅由目标在图像上的二维坐标进行PTZ控制参数的估算,未考虑目标与PTZ球机的距离信息,在场景深度变化较大的场合会产生较大的跟踪误差。虽然考虑了Z坐标给目标定位带来的影响,并利用消隐点等信息估计目标的深度信息,但这些特殊的约束条件对场景内容提出了附加要求,仅适用于场景内容存在可供参考的约束信息的情况。
综上所述,现有的PTZ控制参数估算存在估计结果不准确的问题。
发明内容
本发明的目的在于提供一种基于多目视觉的PTZ球机控制参数获取系统,用以解决现有技术中的现有的PTZ控制参数估算存在估计结果不准确的问题。
为了实现上述任务,本发明采用以下技术方案:
一种基于多目视觉的PTZ球机控制参数获取系统,所述的系统包括多目视觉模块、相机标定模块、目标位置获取模块、目标位置预测模块、场景深度信息获取模块、PT参数获取模块以及Z参数获取模块;
所述的多目视觉模块用于采集包含有运动目标的图像,所述的多目视觉模块包括一对枪机和一对PTZ球机,所述的枪机和PTZ球机安装在滑轨上,所述的一对枪机安装在所述的两个PTZ球机中间;所述的PTZ球机零位时的光轴与枪机的朝向相同;所述的一对枪机包括第一枪机和第二枪机,所述第一枪机与第二枪机完全相同,所述的一对球机包括第一球机和第二球机;
所述的多目视觉模块用于采集包含有同一运动目标的图像,获得第一枪机图像、第二枪机图像、第一PTZ球机图像和第二PTZ球机图像;
所述的相机标定模块用于对所述的一对枪机3和一对PTZ球机2进行内外参数标定,获得第一枪机内参、第一枪机外参、第二枪机内参、第二枪机外参、第一PTZ球机内部参数
Figure GDA0003656637430000021
第一PTZ球机初始旋转矩阵R0_1、第一PTZ球机平移向量t0_1、第二PTZ球机内部参数
Figure GDA0003656637430000031
第二PTZ球机初始旋转矩阵R0_2以及第二PTZ球机平移向量t0_2;
所述的目标位置获取模块用于根据所述的第一枪机图像或第二枪机图像进行预处理,获得目标区域坐标,所述的目标区域坐标为目标外接矩阵的坐标,所述的目标区域坐标包括矩形4个顶点以及1个中心点的坐标,mi(ui,vi),i=1,2,3,4,5;
所述的目标位置预测模块用于根据所述的目标区域坐标进行预测,获得目标区域预测坐标,所述目标区域预测坐标与所述的目标区域坐标一一对应,所述的目标区域预测坐标中包括2个接地点m3与m4,所述的2个接地点为矩形的顶点,所述的2个接地点连成的线平行于地面且与地面之间的距离小于目标区域预测坐标中其他2个接地点连成的线与地面之间的距离;
所述场景深度信息获取模块用于根据第一枪机图像与第二枪机图像,获得枪机视差图;
所述的场景深度信息获取模块用于获得所述的枪机视差图中2个接地点m3与m4的视差值d3与d4
所述的场景深度信息获取模块还用于获得近似视差值
Figure GDA0003656637430000032
所述的目标位置预测模块还用于根据所述的近似视差值d0,获得目标区域预测坐标中中心点坐标对应在枪机坐标系下的三维坐标XW(5)=(XW(5),YW(5),ZW(5));
所述的PT参数获取模块用于采用式I获得第一PTZ球机的P向转动角度θP_1和第一PTZ球机的T向转动角度的值θT_1以及第二PTZ球机的P向转动角度θP_2和第二PTZ球机的T向转动角度θT_2
Figure GDA0003656637430000041
其中XC_1=(XC_1,YC_1,ZC_1)为中心点在第一PTZ球机中的三维坐标,XC_1=R0_1XW(5)+t0_1;XC_2=(XC_2,YC_2,ZC_2)为中心点在第二PTZ球机中的三维坐标,XC_2=R0_2XW(5)+t0_2
所述的Z参数获取模块中存储有第一计算机程序,所述的第一计算机程序在被处理器执行时实现以下步骤:
步骤a、采用式II获得第一PTZ球机旋转矩阵RPT_1以及第二PTZ球机旋转矩阵RPT_2;
Figure GDA0003656637430000042
步骤b、获得目标区域预测坐标中矩形的4个顶点经过PTZ球机光轴投影后的坐标(-Xmax,Ymax),(Xmax,Ymax),(Xmax,-Ymax)和(-Xmax,-Ymax);
步骤c、若矩形的长宽比例大于等于球机长宽比例时,设置X轴为主方向,否则Y轴为主方向;
步骤d、采用式III获得X轴方向上的焦距
Figure GDA0003656637430000043
或Y轴方向上的焦距
Figure GDA0003656637430000044
Figure GDA0003656637430000051
其中k为比例系数,k为常数,ZE表示球机的变焦控制参数,ZE为常数,W1表示第一PTZ球机的分辨率的长,W1为常数,W2表示第二PTZ球机的分辨率的长,W2为常数;H1表示第一PTZ球机的分辨率的宽,H1为常数,H2表示第二PTZ球机的分辨率的宽,H2为常数;
步骤e、当步骤c中设置的主方向为X轴时,采用牛顿法求解式IV,获得控制参数Z:
Figure GDA0003656637430000052
当步骤c中设置的主方向为Y轴时,采用牛顿法求解式V,获得控制参数Z:
Figure GDA0003656637430000053
所述fx_1(Z)、fx_2(Z)、fy_1(Z)与fy_2(Z)均为相机标定模块标定得到的拟合函数。
进一步地,所述的目标位置获取模块采用DACB前景检测算法对枪机图像进行处理,获得包含阴影和运动目标的前景区域后,利用阴影消除算法,获得目标区域坐标。
进一步地,目标位置预测模块用于利用Kalman预测算法对目标区域坐标进行预测,获得目标区域预测坐标。
本发明与现有技术相比具有以下技术效果:
1、本发明提供的基于多目视觉的PTZ球机控制参数获取系统,充分利用作为主摄像机的枪机参数稳定的特性,结合系统初始化阶段得到的场景深度信息,实现运动目标的三维坐标估计,并以此实现PTZ控制参数的计算,达到精确计算的目的;
2、本发明提供的基于多目视觉的PTZ球机控制参数获取系统,利用场景深度信息和目标预测位置接地点计算得到PTZ球机的跟踪控制参数,提高了PTZ参数计算的准确性和便捷性。
附图说明
图1为本发明提供的多目视觉模块的结构示意图;
图2为本发明的一个实施例中提供的PTZ控制参数计算流程示意图;
图3为本发明的一个实施例中提供的预测目标位置与PT角度的几何关系示意图;
图4为本发明的一个实施例中提供的枪机图像中的运动目标描述示意图;
图5为本发明的一个实施例中提供的PT控制参数与实际转动角度的最小二乘拟合中P方向角度拟合结果图;
图6为本发明的一个实施例中提供的PT控制参数与实际转动角度的最小二乘拟合中T方向角度拟合结果图;
图7为本发明的一个实施例中提供的PTZ球机PT转动后目标位置示意图;
图8为本发明的一个实施例中提供的坐标系中的目标矩形重建示意图。
图中的标号代表:1-导轨,2-PTZ球机,3-枪机,(2-1)-第一PTZ球机,(2-2)-第二PTZ球机,(3-1)-第一枪机,(3-2)-第二枪机。
具体实施方式
下面结合附图和实施例对本发明进行详细说明。以便本领域的技术人员更好的理解本发明。需要特别提醒注意的是,在以下的描述中,当已知功能和设计的详细描述也许会淡化本发明的主要内容时,这些描述在这里将被忽略。
以下对本发明涉及的定义或概念内涵做以说明:
枪机:枪机是监控类摄像机中一种。枪机外观长方体,前面是C/CS镜头接口。
PTZ球机:Pan-Tilt-Zoom球机,在安防监控应用中是Pan/Tilt/Zoom的简写,代表云台全方位(左右/上下)移动及镜头变倍、变焦控制的球型监控摄像机。
实施例
在实施例中公开了一种基于多目视觉的PTZ球机控制参数获取系统,所述的系统包括多目视觉模块、相机标定模块、目标位置获取模块、目标位置预测模块、场景深度信息获取模块、PT参数获取模块以及Z参数获取模块;
如图1所示,本发明提供的多目视觉模块用于采集包含有运动目标的图像,所述的多目视觉模块用于采集包含有运动目标的图像,所述的多目视觉模块包括一对枪机3和一对PTZ球机2,所述的枪机3和PTZ球机2安装在滑轨1上,所述的一对枪机3安装在所述的两个PTZ球机2中间;所述的PTZ球机2零位时的光轴与枪机3的朝向相同;所述的一对枪机3包括第一枪机3-1和第二枪机3-2,所述第一枪机3-1与第二枪机3-2完全相同,所述的一对球机2包括第一球机2-1和第二球机2-2;
所述的多目视觉模块用于采集包含有同一运动目标的图像,获得第一枪机图像、第二枪机图像、第一PTZ球机图像和第二PTZ球机图像;
所述的相机标定模块用于对所述的一对枪机3和一对PTZ球机2进行内外参数标定,获得第一枪机内参、第一枪机外参、第二枪机内参、第二枪机外参、第一PTZ球机内部参数
Figure GDA0003656637430000081
第一PTZ球机初始旋转矩阵R0_1、第一PTZ球机平移向量t0_1、第二PTZ球机内部参数
Figure GDA0003656637430000082
第二PTZ球机初始旋转矩阵R0_2以及第二PTZ球机平移向量t0_2;
本发明提供的PTZ参数获取方法如图2所示。
所述的目标位置获取模块用于根据所述的第一枪机图像或第二枪机进行预处理,获得目标区域坐标,所述的目标区域坐标为目标外接矩阵的坐标,所述的目标区域坐标包括矩形4个顶点以及1个中心点的坐标,mi(ui,vi),i=1,2,3,4,5;
在本实施例中,要得到目标预测位置处PTZ参数的精确控制参数,控制PTZ球机运动使得其光轴正对目标中心,则需要通过坐标变换得到目标在PTZ球机坐标系的三维坐标。
可选地,所述的目标位置获取模块采用DACB前景检测算法对枪机图像进行处理,获得包含阴影和运动目标的前景区域后,利用阴影消除算法,获得目标区域坐标。
在本实施例中,首先由DACB前景检测算法得到包含阴影和运动目标的前景区域,再由阴影消除算法剔除阴影成分得到运动目标的区域描述,获得目标区域坐标。
所述的目标位置预测模块用于根据所述的目标区域坐标进行预测,获得目标区域预测坐标,所述目标区域预测坐标与所述的目标区域坐标一一对应,所述的目标区域预测坐标中包括2个接地点m3与m4,所述的2个接地点为矩形的顶点,所述的2个接地点连成的线平行于地面且与地面之间的距离小于目标区域预测坐标中其他2个接地点连成的线与地面之间的距离;
可选地,目标位置预测模块用于利用Kalman预测算法对目标区域坐标进行预测,获得目标区域预测坐标。
理论上,通过背景建模算法得到目标在当前帧的图像位置,结合Kalman预测算法就可得到该目标在ΔT时间后的预测位置,如下式。
Figure GDA0003656637430000091
其中dx,dy为Kalman预测算法基于历史信息给出的物体在X、Y两个方向上的运动速度预测,ΔT为视频延时、控制延时等一系列延时的总和,如下式。
ΔT=TQJ+ΔTVISCA+ΔTPT
ΔTPT是PTZ球机将光轴从当前PT角度转动至目标中心所需的时间,转动角度越大,ΔTPT越大。而转动角度又受延迟总时间ΔT影响,即目标在ΔT延时内的移动会对PTZ球机跟踪精度带来影响。可以看出,PT转动角度和延迟时间是相互影响,互相制约的,因而难以同时得到两个参数的精确解。为此,本发明对该问题做了如下处理:
(1)以目标当前位置代替预测位置计算PZ控制需要转动的角度,得到PT延时;
(2)将PT延时代入上式,得到总延时ΔT,并利用其进一步计算各项控制参数。
采用这种类似迭代的处理方法,可以快速得到各项控制参数的近似解,并对PTZ球机实施跟踪控制。
在本实施例中,利用结合直方图统计信息的Kalman预测算法,即可得到目标在一定延时后的位置预测。并将结果用一个矩形表示,如图3、4所示,图3中标号3代表右枪机3-2(Ol点),标号2代表右PTZ球机2-2(Or点),Xl表示枪机图像的X轴,Yl表示枪机图像的Y轴,Zl表示枪机图像的Z轴,Xr表示球机图像的X轴,Yr表示球机图像的Y轴,Zr表示球机图像的Z轴,Zr’表示运动目标中心位置,θP表示球机P向转动角度,θT表示球机T向转动角度,并以矩形中心点C为运动目标的中心位置,设这五点在枪机图像中的坐标为mi(ui,vi),i=1,2,3,4,5。其中3、4两点可以视为ΔT时间后目标运动至预测矩形与地面的接触点,称其为接地点。在本实施例中将借助这两个接地点近似估计目标矩形四个顶点以及中心点C的三维坐标。
所述场景深度信息获取模块用于根据第一枪机图像与第二枪机图像,获得枪机视差图;
在本实施例中,根据第一枪机图像和第二枪机图像就可以进行三维重构,从而获得枪机视差图;由于第一枪机与第二枪机完全相同,枪机视差图也完全相同,因此本步骤的枪机视差图可以是第一枪机3-1也可以是第二枪机3-2的。
所述的场景深度信息获取模块用于获得所述的枪机视差图中2个接地点m3与m4的视差值d3与d4
所述的场景深度信息获取模块还用于获得近似视差值
Figure GDA0003656637430000111
在本实施例中,首先得到接地点m3与m4在视差图中的坐标位置md_3(ud_3,vd_3)和md_4(ud_4,vd_4),并从场景视差图中查询得到两点的视差值记为d3、d4,取它们的平均值d0作为整个目标矩形的四个顶点及中心点C的近似视差值,再根据式即可求得四个顶点及C点在枪机坐标系下的三维坐标XW(i)=(XW(i),YW(i),ZW(i))i=1,2,3,4,5。
所述的目标位置预测模块还用于根据所述的近似视差值d0,获得目标区域预测坐标中中心点坐标对应在枪机坐标系下的三维坐标XW(5)=(XW(5),YW(5),ZW(5));
所述的PT参数获取模块用于采用式I获得第一PTZ球机的P向转动角度θP_1和第一PTZ球机的T向转动角度的值θT_1以及第二PTZ球机的P向转动角度θP_2和第二PTZ球机的T向转动角度θT_2
Figure GDA0003656637430000121
其中XC_1=(XC_1,YC_1,ZC_1)为中心点在第一PTZ球机中的三维坐标,XC_1=R0_1XW(5)+t0_1;XC_2=(XC_2,YC_2,ZC_2)为中心点在第二PTZ球机中的三维坐标,XC_2=R0_2XW(5)+t0_2
在本实施例中,利用枪机坐标系与两PTZ球机坐标的初始关系R0_s和t0_s(s=1,2分别代表两个PTZ球机),计算C点在第一PTZ球机第二PTZ球机的摄像机坐标系中的坐标。
在本实施例中,还提供了实际PT参数求解的方法,采用下式获得:
Figure GDA0003656637430000122
根据PT参数的拟合公式,利用式计算PT实际所需的控制参数。
为了提高PTZ球机主动跟踪时的控制精度,本发明提出了一种时间加权的PT控制参数最小二乘拟合算法。
本发明对PT控制参数与角度之间采用如式数学模型:
Figure GDA0003656637430000123
PTZ球机工作一段时间以后,可以得到N组θ与θ′的对应数据,根据最小二乘法,可以得到参数a和b在最小二乘意义下的最优解,如下式。
Figure GDA0003656637430000131
对于PT控制参数,近期的数据变化趋势更能反映PT控制系统的当前状态,对未来能提供更有用的信息,而早期数据的作用则小一些。因此,本实施例中根据数据的时间先后设置权值,权值采用指数权重法。为了防止长时间运行带来数据量过大的问题,本实施例设置了一个数据有效周期,即仅保留最近N组数据,对过期的数据不参与最小二乘运算。同时为了防止野点的干扰,本发明将判断误差过大的数据(即控制参数值与实际求解得到的精确值存在较大偏差的数据对)并将其忽略。本发明取N=20,根据N的取值,对1与权值总和的差值叠加到最新一组数据上,保证权值总和为1。
具体方法为:先假设最新数据(第N组)的权重为wN=s(0<s<1),第t组数据的权重为wt=s(1-s)N-t。由于这N个权值之和小于1,因此本发明将剩余的权值进行N等分再叠加到已有的N个权值上,得到归一化的N组数据权值
Figure GDA0003656637430000132
如下式。表1为N取20时各组数据的权值计算结果(取s=0.2,有wRest=0.011529),使用权值后的参数求解公式如式所示。
Figure GDA0003656637430000133
表1N=20时的权值分布(s=0.2)
Figure GDA0003656637430000141
Figure GDA0003656637430000142
图5、6所示为左PTZ球机20次跟踪实验后的加权最小二乘法参数拟合效果,图5为P方向角度拟合结果,图6为T方向角度拟合结果。下式为得到的拟合函数。需要说明的是,该拟合函数的参数会随着跟踪的次数增多、拟合数据的更新而不断变化。这种在线更新拟合函数的机制可以有效地适应不断变化的PTZ球机转动角度误差,保证控制参数拟合的准确性和可持续性。
Figure GDA0003656637430000143
所述的Z参数获取模块中存储有第一计算机程序,所述的第一计算机程序在被处理器执行时实现以下步骤:
步骤a、采用式II获得第一PTZ球机旋转矩阵RPT_1以及第二PTZ球机旋转矩阵RPT_2;
Figure GDA0003656637430000151
步骤b、获得目标区域预测坐标中矩形的4个顶点经过PTZ球机光轴投影后的坐标(-Xmax,Ymax),(Xmax,Ymax),(Xmax,-Ymax)和(-Xmax,-Ymax);
步骤c、若矩形的长宽比例大于等于球机长宽比例时,设置X轴为主方向,否则Y轴为主方向;
步骤d、采用式III获得X轴方向上的焦距
Figure GDA0003656637430000152
或Y轴方向上的焦距
Figure GDA0003656637430000153
Figure GDA0003656637430000154
其中k为比例系数,ZE表示球机的变焦控制参数,W1表示第一PTZ球机的分辨率的长,W2表示第二PTZ球机的分辨率的长;H1表示第一PTZ球机的分辨率的宽,H2表示第二PTZ球机的分辨率的宽;
步骤e、当步骤c中设置的主方向为X轴时,采用牛顿法求解式IV,获得控制参数Z:
Figure GDA0003656637430000155
当步骤c中设置的主方向为Y轴时,采用牛顿法求解式V,获得控制参数Z:
Figure GDA0003656637430000161
所述fx_1(Z)、fx_2(Z)、fy_1(Z)与fy_2(Z)均为相机标定模块标定得到的拟合函数。
在本实施例中,为了计算Z控制参数,利用得到的PT控制参数,将以如下五个步骤介绍Z参数的计算过程。由于两PTZ球机控制参数计算过程相同,故此处不考虑PTZ球机1、2的区别。
(1)计算PT运动后目标在PTZ球机坐标系中的三维坐标下式描述了利用PTZ球机的PT动作生成的旋转矩阵RPT(摄像机作纯旋转运动,故不考虑t向量),将PTZ球机坐标系中目标矩形四个顶点进行旋转变换得到其在PTZ球机坐标系中的三维坐标的过程。
(2)目标矩形重构
得到如图7所示的PT跟踪结果后,就可以认为PTZ球机的光轴穿过目标的中心,原来定义的矩形由于投射的影响而不再是一个矩形(此处不考虑各点在Z轴坐标上的差异),如图8中的P′1P′2P′3P′4,X′、Y′、Z′为三维坐标轴。因此,本发明选取X,Y两个方向上的最大坐标值Xmax和Ymax,如式,并以它们为参数重新构建矩形P″1P″2P″3P″4。重构后,P″1P″2P″3P″4四个顶点的X、Y方向坐标分别为(-Xmax,Ymax),(Xmax,Ymax),(Xmax,-Ymax)和(-Xmax,-Ymax)。
Figure GDA0003656637430000162
(3)主方向选取
在本实施例中,PTZ球机成像分辨率为704×576,即有长宽比例q=W/H=704/576=1.222。定义矩形中长宽比例高于q时X为主方向,否则Y为主方向,如下式。
Figure GDA0003656637430000171
(4)理论焦距求解
在本实施例中期望最终成像大小在整个PTZ球机图像占据一个合适的比例,该比例由主方向上的长或宽确定,如图8。设该比例为k(k<1),因此在确定主方向后,就可以根据小孔成像模型中的三角几何关系,求出实现主方向上成像大小占PTZ球机图像大小比例为k时的最佳焦距,式为以主方向为X时的焦距计算过程。
Figure GDA0003656637430000172
(5)Z控制参数求解
根据PTZ球机标定时得到的fx(或fy)拟合函数fx(Z),构造等式,并利用牛顿法求解使等式成立时的Z值,该值即为PTZ球机的焦距控制参数值。当主方向为Y时,步骤(4)、(5)中的焦距则用fy代替,式中的W=704用H=576代替。
Figure GDA0003656637430000173
在本实施例中利用多目视觉系统灵活的系统架构,实现了场景深度的估计,并结合运动目标的预测位置得到PTZ球机的跟踪控制参数,提高PTZ控制参数获取的准确性。
通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到本发明可借助软件加必需的通用硬件的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在可读取的存储介质中,如计算机的软盘,硬盘或光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例方法。

Claims (3)

1.一种基于多目视觉的PTZ球机控制参数获取系统,其特征在于,所述的系统包括多目视觉模块、相机标定模块、目标位置获取模块、目标位置预测模块、场景深度信息获取模块、PT参数获取模块以及Z参数获取模块;
所述的多目视觉模块用于采集包含有运动目标的图像,所述的多目视觉模块包括一对枪机(3)和一对PTZ球机(2),所述的枪机(3)和PTZ球机(2)安装在滑轨(1)上,所述的一对枪机(3)安装在所述的两个PTZ球机(2)中间;所述的PTZ球机(2)零位时的光轴与枪机(3)的朝向相同;所述的一对枪机(3)包括第一枪机(3-1)和第二枪机(3-2),所述第一枪机(3-1)与第二枪机(3-2)完全相同,所述的一对球机(2)包括第一球机(2-1)和第二球机(2-2);
所述的多目视觉模块用于采集包含有同一运动目标的图像,获得第一枪机图像、第二枪机图像、第一PTZ球机图像和第二PTZ球机图像;
所述的相机标定模块用于对所述的一对枪机(3)和一对PTZ球机(2)进行内外参数标定,获得第一枪机内参、第一枪机外参、第二枪机内参、第二枪机外参、第一PTZ球机内部参数
Figure FDA0003672156340000011
第一PTZ球机初始旋转矩阵R0_1、第一PTZ球机平移向量t0_1、第二PTZ球机内部参数
Figure FDA0003672156340000012
第二PTZ球机初始旋转矩阵R0_2以及第二PTZ球机平移向量t0_2;
所述的目标位置获取模块用于对所述的第一枪机图像或第二枪机图像进行预处理,获得目标区域坐标,所述的目标区域坐标为目标外接矩阵的坐标,所述的目标区域坐标包括矩形4个顶点以及1个中心点的坐标,mi(ui,vi),i=1,2,3,4,5;
所述的目标位置预测模块用于根据所述的目标区域坐标进行预测,获得目标区域预测坐标,所述目标区域预测坐标与所述的目标区域坐标一一对应,所述的目标区域预测坐标中包括2个接地点m3与m4,所述的2个接地点为矩形的顶点,所述的2个接地点连成的线平行于地面且与地面之间的距离小于目标区域预测坐标中其他2个接地点连成的线与地面之间的距离;
所述场景深度信息获取模块用于根据第一枪机图像与第二枪机图像,获得枪机视差图;
所述的场景深度信息获取模块用于获得所述的枪机视差图中2个接地点m3与m4的视差值d3与d4
所述的场景深度信息获取模块还用于获得近似视差值
Figure FDA0003672156340000021
所述的目标位置预测模块还用于根据所述的近似视差值d0,获得目标区域预测坐标中中心点坐标对应在枪机坐标系下的三维坐标XW(5)=(XW(5),YW(5),ZW(5));
所述的PT参数获取模块用于采用式I获得第一PTZ球机的P向转动角度θP_1和第一PTZ球机的T向转动角度的值θT_1以及第二PTZ球机的P向转动角度θP_2和第二PTZ球机的T向转动角度θT_2
Figure FDA0003672156340000031
其中XC_1=(XC_1,YC_1,ZC_1)为中心点在第一PTZ球机中的三维坐标,XC_1=R0_1XW(5)+t0_1;XC_2=(XC_2,YC_2,ZC_2)为中心点在第二PTZ球机中的三维坐标,XC_2=R0_2XW(5)+t0_2
PT控制参数采用式VI获得:
Figure FDA0003672156340000032
其中θ′P为P参数,θ′T为T参数;
所述的Z参数获取模块中存储有第一计算机程序,所述的第一计算机程序在被处理器执行时实现以下步骤:
步骤a、采用式II获得第一PTZ球机旋转矩阵RPT_1以及第二PTZ球机旋转矩阵RPT_2;
Figure FDA0003672156340000033
步骤b、获得目标区域预测坐标中矩形的4个顶点经过PTZ球机光轴投影后的坐标(-Xmax,Ymax),(Xmax,Ymax),(Xmax,-Ymax)和(-Xmax,-Ymax),Xmax和Ymax分别是PTZ球机三维坐标轴上X和Y两个方向上的最大坐标值;
步骤c、若矩形的长宽比例大于等于球机长宽比例时,设置X轴为主方向,否则Y轴为主方向;
步骤d、采用式III获得X轴方向上的焦距
Figure FDA0003672156340000041
或Y轴方向上的焦距
Figure FDA0003672156340000042
Figure FDA0003672156340000043
其中k为比例系数,k为常数,ZE表示球机的变焦控制参数,ZE为常数,W1表示第一PTZ球机的分辨率的长,W1为常数,W2表示第二PTZ球机的分辨率的长,W2为常数;H1表示第一PTZ球机的分辨率的宽,H1为常数,H2表示第二PTZ球机的分辨率的宽,H2为常数;
步骤e、当步骤c中设置的主方向为X轴时,采用牛顿法求解式IV,获得控制参数Z:
Figure FDA0003672156340000044
当步骤c中设置的主方向为Y轴时,采用牛顿法求解式V,获得控制参数Z:
Figure FDA0003672156340000045
所述fx_1(Z)、fx_2(Z)、fy_1(Z)与fy_2(Z)均为相机标定模块标定得到的拟合函数。
2.如权利要求1所述的基于多目视觉的PTZ球机控制参数获取系统,其特征在于,所述的目标位置获取模块采用DACB前景检测算法对枪机图像进行处理,获得包含阴影和运动目标的前景区域后,利用阴影消除算法,获得目标区域坐标。
3.如权利要求1所述的基于多目视觉的PTZ球机控制参数获取系统,其特征在于,目标位置预测模块用于利用Kalman预测算法对目标区域坐标进行预测,获得目标区域预测坐标。
CN202110802072.8A 2021-07-15 2021-07-15 一种基于多目视觉的ptz球机控制参数获取系统 Active CN113534737B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110802072.8A CN113534737B (zh) 2021-07-15 2021-07-15 一种基于多目视觉的ptz球机控制参数获取系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110802072.8A CN113534737B (zh) 2021-07-15 2021-07-15 一种基于多目视觉的ptz球机控制参数获取系统

Publications (2)

Publication Number Publication Date
CN113534737A CN113534737A (zh) 2021-10-22
CN113534737B true CN113534737B (zh) 2022-07-19

Family

ID=78128213

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110802072.8A Active CN113534737B (zh) 2021-07-15 2021-07-15 一种基于多目视觉的ptz球机控制参数获取系统

Country Status (1)

Country Link
CN (1) CN113534737B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114670981B (zh) * 2022-03-24 2023-05-26 阿里云计算有限公司 用于控制相机的方法和装置
CN115272491A (zh) * 2022-08-12 2022-11-01 哈尔滨工业大学 双目ptz相机动态自标定方法
CN115713565A (zh) * 2022-12-16 2023-02-24 盐城睿算电子科技有限公司 一种双目伺服相机目标定位方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103035016A (zh) * 2012-11-28 2013-04-10 无锡羿飞科技有限公司 投影机球形显示及旋转输出图像的处理方法
CN107884767A (zh) * 2017-10-31 2018-04-06 暨南大学 一种双目视觉系统测量船舶距离与高度的方法
WO2018120040A1 (zh) * 2016-12-30 2018-07-05 深圳前海达闼云端智能科技有限公司 一种障碍物检测方法及装置
CN109767476A (zh) * 2019-01-08 2019-05-17 像工场(深圳)科技有限公司 一种自动对焦双目摄像头标定及深度计算方法
CN109961401A (zh) * 2017-12-14 2019-07-02 西安全志科技有限公司 一种双目相机的图像校正方法和存储介质
CN110910431A (zh) * 2019-10-15 2020-03-24 西安理工大学 一种基于单目相机多视点三维点集恢复方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103035016A (zh) * 2012-11-28 2013-04-10 无锡羿飞科技有限公司 投影机球形显示及旋转输出图像的处理方法
WO2018120040A1 (zh) * 2016-12-30 2018-07-05 深圳前海达闼云端智能科技有限公司 一种障碍物检测方法及装置
CN107884767A (zh) * 2017-10-31 2018-04-06 暨南大学 一种双目视觉系统测量船舶距离与高度的方法
CN109961401A (zh) * 2017-12-14 2019-07-02 西安全志科技有限公司 一种双目相机的图像校正方法和存储介质
CN109767476A (zh) * 2019-01-08 2019-05-17 像工场(深圳)科技有限公司 一种自动对焦双目摄像头标定及深度计算方法
CN110910431A (zh) * 2019-10-15 2020-03-24 西安理工大学 一种基于单目相机多视点三维点集恢复方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
基于多摄像机的航空器滑行冲突检测研究;夏正洪;《计算机测量与控制》;20150925;全文 *
基于智能视频图像分析的安全帽识别;刘喜文等;《计算机工程与设计》;20200516(第05期);全文 *

Also Published As

Publication number Publication date
CN113534737A (zh) 2021-10-22

Similar Documents

Publication Publication Date Title
CN113534737B (zh) 一种基于多目视觉的ptz球机控制参数获取系统
US8180107B2 (en) Active coordinated tracking for multi-camera systems
CN110853075B (zh) 一种基于稠密点云与合成视图的视觉跟踪定位方法
CN111899282B (zh) 基于双目摄像机标定的行人轨迹跟踪方法及装置
CN111144213B (zh) 一种对象检测方法和相关设备
CN111025283A (zh) 雷达与球机联动的方法及装置
CN113487683B (zh) 一种基于三目视觉的目标跟踪系统
CN111462172A (zh) 一种基于行驶场景估计的三维全景影像自适应生成方法
CN110827321B (zh) 一种基于三维信息的多相机协同的主动目标跟踪方法
CN112215880B (zh) 一种图像深度估计方法及装置、电子设备、存储介质
CN112837207A (zh) 全景深度测量方法、四目鱼眼相机及双目鱼眼相机
CN108444452B (zh) 目标经纬度和拍摄装置的三维空间姿态的检测方法及装置
US11145072B2 (en) Methods, devices and computer program products for 3D mapping and pose estimation of 3D images
CN108898550B (zh) 基于空间三角面片拟合的图像拼接方法
CN210986289U (zh) 四目鱼眼相机及双目鱼眼相机
CN117152243A (zh) 一种基于ptz相机单目变焦的告警定位方法
CN111627048A (zh) 多摄像机的协同目标搜索方法
CN113470118B (zh) 一种基于三目视觉的目标尺寸估计系统
CN113240749B (zh) 一种面向海上舰船平台无人机回收的远距离双目标定与测距方法
CN114170567B (zh) 监测区域亿级像素的光场相机ai分析系统及其方法
CN110300991A (zh) 表面图形确定方法和装置
CN113489964B (zh) 一种基于三目视觉的场景深度信息获取系统
CN113674356A (zh) 相机筛选方法及相关装置
CN113542534A (zh) 一种tof相机控制方法、装置以及存储介质
CN113436247A (zh) 一种图像处理方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant