CN111325790A - 目标追踪方法、设备及系统 - Google Patents
目标追踪方法、设备及系统 Download PDFInfo
- Publication number
- CN111325790A CN111325790A CN201910615870.2A CN201910615870A CN111325790A CN 111325790 A CN111325790 A CN 111325790A CN 201910615870 A CN201910615870 A CN 201910615870A CN 111325790 A CN111325790 A CN 111325790A
- Authority
- CN
- China
- Prior art keywords
- target
- tracking
- position coordinate
- image
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 153
- 230000005236 sound signal Effects 0.000 claims abstract description 94
- 230000008569 process Effects 0.000 claims description 71
- 238000004590 computer program Methods 0.000 claims description 8
- 238000001514 detection method Methods 0.000 claims description 3
- 238000005516 engineering process Methods 0.000 abstract description 8
- 238000010586 diagram Methods 0.000 description 14
- 238000006243 chemical reaction Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 6
- 230000000712 assembly Effects 0.000 description 5
- 238000000429 assembly Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000000691 measurement method Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000011664 signaling Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S5/00—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
- G01S5/18—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using ultrasonic, sonic, or infrasonic waves
- G01S5/20—Position of source determined by a plurality of spaced direction-finders
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
Abstract
本发明公开了一种目标追踪方法、设备及系统,属于计算机视觉技术领域。所述方法应用于目标追踪系统的目标追踪装置,该目标追踪系统还包括设置在目标空间中的音频采集装置以及目标追踪相机,该方法包括:获取第一备选位置坐标,所述第一备选位置坐标为基于所述音频采集装置检测的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪。解决了相关技术中无法对变化的追踪目标进行追踪的问题,提高了目标追踪的灵活性。
Description
技术领域
本发明涉及计算机视觉技术领域,特别涉及一种目标追踪方法、设备及系统。
背景技术
随着科技的发展,目标追踪技术的应用越来越广泛,例如,目标追踪技术可以应用于教学录播系统中,以对教师或者指定学生进行追踪拍摄。
目前的目标追踪技术主要包括以下过程:第一摄像机基于预先确定的追踪目标的特征,对采集到的图像进行实时分析,以在图像中确定追踪目标的实时位置坐标,第二摄像机基于该实时位置坐标对追踪目标进行追踪。
但是,上述目标追踪技术中,追踪目标是预先确定的,其为一固定的追踪目标,而实际应用场景中,追踪目标可能是变化的,例如,在教学录播系统中,需要将发言的学生作为追踪目标来进行追踪,而发言的学生是变化的。因此亟需一种目标追踪方法,以追踪变化的追踪目标。
发明内容
本发明实施例提供了一种目标追踪方法、设备及系统,可以追踪变化的追踪目标。所述技术方案如下:
根据本发明的第一方面,提供了一种目标追踪方法,应用于目标追踪系统的目标追踪装置,所述目标追踪系统还包括设置在目标空间中的音频采集装置以及目标追踪相机,所述方法包括:
获取第一备选位置坐标,所述第一备选位置坐标为基于所述音频采集装置检测的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;
基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪。
可选的,所述基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪,包括:
基于所述第一备选位置坐标和第二备选位置坐标,确定追踪目标的目标位置坐标,所述第二备选位置坐标为基于所述目标空间的图像,在所述目标空间中确定的位置坐标;
基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪。
可选的,所述目标追踪系统还包括图像采集装置,所述基于所述第一备选位置坐标和第二备选位置坐标,确定追踪目标的目标位置坐标,包括:
获取第二备选位置坐标,所述第二备选位置坐标为在所述图像采集装置采集的所述目标空间的图像中出现备选目标后,确定的所述备选目标在所述目标空间中的位置坐标;
当所述音频信号的采集时刻和所述目标空间的图像出现所述备选目标的时刻的间隔小于指定时间间隔时,基于所述第一备选位置坐标和所述第二备选位置坐标,确定所述目标位置坐标。
可选的,所述基于所述第一备选位置坐标和所述第二备选位置坐标,确定所述目标位置坐标,包括:
当所述第一备选位置坐标共一个,且所述第二备选位置坐标共多个时,将所述第一备选位置坐标确定为所述目标位置坐标;
当所述第一备选位置坐标共多个,且所述第二备选位置坐标共一个时,将所述第二备选位置坐标确定为所述目标位置坐标;
当所述第一备选位置坐标共一个,所述第二备选位置坐标共一个时,在所述第一备选位置坐标和所述第二备选位置坐标中确定所述目标位置坐标;
当所述第一备选位置坐标共多个,所述第二备选位置坐标共多个时,计算多个所述第一备选位置坐标的第一垂心位置坐标,计算多个所述第二备选位置坐标的第二垂心位置坐标,在所述第一垂心位置坐标和所述第二垂心位置坐标中确定所述目标位置坐标。
可选的,所述在所述第一备选位置坐标和所述第二备选位置坐标中确定所述目标位置坐标,包括:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的距离a;
当a/d小于第一比例阈值时,将所述第一备选位置坐标与所述第二备选位置坐标的中值坐标确定为所述目标位置坐标;
当a/d不小于所述第一比例阈值时,将所述第一备选位置坐标确定为所述目标位置坐标。
可选的,所述在所述第一垂心位置坐标和所述第二垂心位置坐标中确定所述目标位置坐标,包括:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一垂心位置坐标所在处与所述第二垂心位置坐标所在处的距离b;
当b/d小于第二比例阈值时,将所述第一垂心位置坐标与所述第二垂心位置坐标的中值坐标确定为所述目标位置坐标;
当b/d不小于所述第二比例阈值时,将所述第一垂心位置坐标确定为所述目标位置坐标。
可选的,所述基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪,包括:
基于所述目标位置坐标确定所述目标追踪相机的旋转参数,所述旋转参数用于表征所述目标追踪相机需要旋转的角度;
将所述旋转参数发送至所述目标追踪相机,所述旋转参数用于供所述目标追踪相机基于所述旋转参数旋转。
可选的,所述基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪,还包括:
确定所述追踪目标的变焦倍率;
将所述变焦倍率发送至所述目标追踪相机,所述变焦倍率用于供所述目标追踪相机基于所述变焦倍率对所述追踪目标进行特写。
可选的,所述确定所述追踪目标的变焦倍率,包括:
当所述第一备选位置坐标共一个,且所述第二备选位置坐标共多个时,确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述第一备选位置坐标所在处和所述多个第二备选位置坐标所在处;
当所述第一备选位置坐标共多个,且所述第二备选位置坐标共一个时,确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述多个第一备选位置坐标所在处和所述第二备选位置坐标所在处;
当所述第一备选位置坐标共一个,所述第二备选位置坐标共一个时,基于所述目标追踪相机发送的追踪图像中所述第一备选位置坐标所在处和所述第二备选位置坐标所在处,确定所述追踪目标的变焦倍率;
当所述第一备选位置坐标共多个,所述第二备选位置坐标共多个时,计算多个所述第一备选位置坐标的第一垂心位置坐标,计算多个所述第二备选位置坐标的第二垂心位置坐标,基于所述目标追踪相机发送的追踪图像中所述第一垂心位置坐标所在处和所述第二垂心位置坐标所在处,确定所述追踪目标的变焦倍率。
可选的,所述确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述第一备选位置坐标所在处和所述多个第二备选位置坐标所在处,包括:
以所述第一备选位置坐标所在处为圆心,在所述目标空间的图像中确定包括所述多个第二备选位置坐标所在处的最小圆形区域,或者,以所述第二备选位置坐标所在处为圆心,在所述目标空间的图像中确定包括所述多个第一备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
可选的,所述基于所述目标追踪相机发送的追踪图像的所述第一备选位置坐标所在处和所述第二备选位置坐标所在处,确定所述追踪目标的变焦倍率,包括:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的距离a;
若a/d小于第二比例阈值,则将所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的中值坐标确定为第一目标点,
若a/d不小于所述第二比例阈值,将所述第一备选位置坐标所在处确定为第一目标点;
以所述第一目标点为圆心,在所述目标空间的图像中确定包括所述第一备选位置坐标所在处和所述第二备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
可选的,所述基于所述目标追踪相机发送的追踪图像中所述第一垂心位置坐标所在处和所述第二垂心位置坐标所在处,确定所述追踪目标的变焦倍率,包括:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一垂心位置坐标所在处与所述第二垂心位置坐标所在处的距离b;
当b/d小于第二比例阈值时,将所述第一垂心位置坐标与所述第二垂心位置坐标的中值坐标确定为第二目标点;
以所述第二目标点为圆心,在所述目标空间的图像中确定包括所述多个第一备选位置坐标所在处和所述多个第二备选位置坐标所在处的最小圆形区域;
当b/d不小于所述第二比例阈值时,将所述第一垂心位置坐标所在处确定为第三目标点;
以所述第三目标点为圆心,在所述目标空间的图像中确定包括所述多个第二备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
可选的,在所述基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪之后,所述方法还包括:
接收所述目标追踪相机发送的追踪图像;
检测接收到的追踪图像是否达到指定标准;
当接收到的追踪图像未达到所述指定标准,调整追踪参数,得到目标追踪参数,所述追踪参数为控制所述目标追踪相机进行目标追踪的参数;
当接收到的追踪图像达到所述指定标准,将当前的追踪参数确定为目标追踪参数;
基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
可选的,所述当接收到的追踪图像未达到所述指定标准,调整追踪参数,得到目标追踪参数,包括:
当接收到的追踪图像未达到所述指定标准,执行参数调整过程,直至追踪图像达到所述指定标准;
将达到所述指定标准的追踪图像所对应的追踪参数确定为所述目标追踪参数;
其中,所述参数调整过程包括:
调整追踪参数,得到调整后的追踪参数;
将所述调整后的追踪参数发送至所述目标追踪相机,所述调整后的追踪参数用于供所述目标追踪相机进行目标追踪,得到追踪图像;
接收所述目标追踪相机发送的追踪图像;
检测接收到的追踪图像是否达到指定标准;
当接收到的追踪图像未达到所述指定标准,再次执行所述参数调整过程。
可选的,在所述基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪之后,所述方法还包括:
将当前的第一追踪参数与第一位置坐标集合存储至追踪参数与位置坐标集合的对应关系中,所述第一位置坐标集合包括所述第一备选位置坐标和所述第二备选位置坐标,所述对应关系中的位置坐标集合包括音频位置坐标和图像位置坐标,所述音频位置坐标是预先基于所述音频采集装置采集的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标,所述图像位置坐标是预先基于目标空间的图像在所述目标空间中确定的位置坐标,所述追踪参数为控制所述目标追踪相机进行目标追踪的参数;
在获取新的第一备选位置坐标和新的第二备选位置坐标后,当新的第一备选位置坐标对应的音频信号的采集时刻和新的第二备选位置坐标对应的所述目标空间的图像出现备选目标的时刻的间隔小于指定时间间隔时,基于第二位置坐标集合查询所述追踪参数与位置坐标集合的对应关系,所述第二位置坐标集合包括所述新的第一备选位置坐标和所述新的第二备选位置坐标;
当所述对应关系中存在所述第二位置坐标集合时,查询得到所述第二位置坐标集合对应的第二追踪参数;
基于所述第二追踪参数,控制所述目标追踪相机进行目标追踪。
可选的,所述基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪,包括:
基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系,所述位置坐标集合包括音频位置坐标,所述音频位置坐标是预先基于所述音频采集装置采集的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;
当所述追踪参数与位置坐标集合的对应关系中存在与所述第一备选位置坐标对应的目标追踪参数时,基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
所述目标追踪系统还包括图像采集装置,所述位置坐标集合还包括图像位置坐标,所述图像位置坐标是预先基于所述图像采集装置采集的目标空间的图像在所述目标空间中确定的位置坐标;在所述基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系之前,所述方法还包括:
获取第二备选位置坐标,所述第二备选位置坐标为在所述图像采集装置采集的图像信号中出现备选目标后,确定的所述备选目标在所述目标空间中的位置坐标;
所述基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系,包括:
当所述音频信号的采集时刻和所述目标空间的图像出现所述备选目标的时刻的间隔小于指定时间间隔,基于第二位置坐标集合查询追踪参数与位置坐标集合的对应关系,所述第二位置坐标集合包括所述第一备选位置坐标和所述第二备选位置坐标;
当所述对应关系中存在与所述第二位置坐标集合对应的目标追踪参数时,基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
可选的,所述确定所述最小圆形区域的指定外接矩形,包括:
在所述目标空间的图像中,确定第三位置坐标所在处,所述第三位置坐标所在处为所述最小圆形区域包括的位置坐标所在处中与所述最小圆形区域外围最近的位置坐标所在处;
确定所述最小圆形区域的最小外接矩形,所述最小外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
将所述最小外接矩形确定为所述指定外接矩形;
或者,基于所述最小外接矩形的尺寸与所述追踪图像的尺寸,确定第一变焦倍率,
基于所述最小外接矩形的尺寸,确定所述指定外接矩形,所述指定外接矩形的各个边与所述最小外接矩形的各个边的垂直距离中的最小垂直距离满足距离公式,所述距离公式为:
γ=20+360*Z/7,所述γ表示所述最小垂直距离对应像素点的个数,所述Z为第一变焦倍率。
可选的,所述目标追踪系统为人体追踪系统,所述指定标准包括以下至少一个:
在所述追踪图像中,至少一个人体躯干位于所述追踪图像中心区域;
所述追踪图像中包括的人体躯干的个数与所述第二备选位置坐标的个数相同;
所述至少一个人体躯干中,距离所述追踪图像外围最近的人体躯干与所述追踪图像外围的垂直距离中的最小垂直距离满足距离公式,所述距离公式为:
γ≥20+360*Z/7,所述γ表示所述最小垂直距离对应像素点的个数,所述Z表示所述追踪图像中当前的变焦倍率。
根据本发明的第二方面,提供了一种目标追踪设备,应用于目标追踪系统的目标追踪装置,所述目标追踪系统还包括设置在目标空间中的音频采集装置以及目标追踪相机,所述设备包括:
第一获取模块,用于获取第一备选位置坐标,所述第一备选位置坐标为基于所述音频采集装置检测的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;
第一控制模块,用于基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪。
可选的,所述第一控制模块,包括:
确定子模块,用于基于所述第一备选位置坐标和第二备选位置坐标,确定追踪目标的目标位置坐标,所述第二备选位置坐标为基于所述目标空间的图像,在所述目标空间中确定的位置坐标;
第一控制子模块,用于基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪。
可选的,所述目标追踪系统还包括图像采集装置,所述确定子模块,用于:
获取第二备选位置坐标,所述第二备选位置坐标为在所述图像采集装置采集的所述目标空间的图像中出现备选目标后,确定的所述备选目标在所述目标空间中的位置坐标;
当所述音频信号的采集时刻和所述目标空间的图像出现所述备选目标的时刻的间隔小于指定时间间隔时,基于所述第一备选位置坐标和所述第二备选位置坐标,确定所述目标位置坐标。
可选的,所述确定子模块,用于:
当所述第一备选位置坐标共一个,且所述第二备选位置坐标共多个时,将所述第一备选位置坐标确定为所述目标位置坐标;
当所述第一备选位置坐标共多个,且所述第二备选位置坐标共一个时,将所述第二备选位置坐标确定为所述目标位置坐标;
当所述第一备选位置坐标共一个,所述第二备选位置坐标共一个时,在所述第一备选位置坐标和所述第二备选位置坐标中确定所述目标位置坐标;
当所述第一备选位置坐标共多个,所述第二备选位置坐标共多个时,计算多个所述第一备选位置坐标的第一垂心位置坐标,计算多个所述第二备选位置坐标的第二垂心位置坐标,在所述第一垂心位置坐标和所述第二垂心位置坐标中确定所述目标位置坐标。
可选的,所述确定子模块,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的距离a;
当a/d小于第一比例阈值时,将所述第一备选位置坐标与所述第二备选位置坐标的中值坐标确定为所述目标位置坐标;
当a/d不小于所述第一比例阈值时,将所述第一备选位置坐标确定为所述目标位置坐标。
可选的,所述确定子模块,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一垂心位置坐标所在处与所述第二垂心位置坐标所在处的距离b;
当b/d小于第二比例阈值时,将所述第一垂心位置坐标与所述第二垂心位置坐标的中值坐标确定为所述目标位置坐标;
当b/d不小于所述第二比例阈值时,将所述第一垂心位置坐标确定为所述目标位置坐标。
可选的,所述第一控制子模块,用于:
基于所述目标位置坐标确定所述目标追踪相机的旋转参数,所述旋转参数用于表征所述目标追踪相机需要旋转的角度;
将所述旋转参数发送至所述目标追踪相机,所述旋转参数用于供所述目标追踪相机基于所述旋转参数旋转。
可选的,所述第一控制子模块,还用于:
确定所述追踪目标的变焦倍率;
将所述变焦倍率发送至所述目标追踪相机,所述变焦倍率用于供所述目标追踪相机基于所述变焦倍率对所述追踪目标进行特写。
可选的,所述第一控制子模块,用于:
当所述第一备选位置坐标共一个,且所述第二备选位置坐标共多个时,确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述第一备选位置坐标所在处和所述多个第二备选位置坐标所在处;
当所述第一备选位置坐标共多个,且所述第二备选位置坐标共一个时,确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述多个第一备选位置坐标所在处和所述第二备选位置坐标所在处;
当所述第一备选位置坐标共一个,所述第二备选位置坐标共一个时,基于所述目标追踪相机发送的追踪图像中所述第一备选位置坐标所在处和所述第二备选位置坐标所在处,确定所述追踪目标的变焦倍率;
当所述第一备选位置坐标共多个,所述第二备选位置坐标共多个时,计算多个所述第一备选位置坐标的第一垂心位置坐标,计算多个所述第二备选位置坐标的第二垂心位置坐标,基于所述目标追踪相机发送的追踪图像中所述第一垂心位置坐标所在处和所述第二垂心位置坐标所在处,确定所述追踪目标的变焦倍率。
可选的,所述第一控制子模块,用于:
以所述第一备选位置坐标所在处为圆心,在所述目标空间的图像中确定包括所述多个第二备选位置坐标所在处的最小圆形区域,或者,以所述第二备选位置坐标所在处为圆心,在所述目标空间的图像中确定包括所述多个第一备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
可选的,所述第一控制子模块,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的距离a;
若a/d小于第二比例阈值,则将所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的中值坐标确定为第一目标点,
若a/d不小于所述第二比例阈值,将所述第一备选位置坐标所在处确定为第一目标点;
以所述第一目标点为圆心,在所述目标空间的图像中确定包括所述第一备选位置坐标所在处和所述第二备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
可选的,所述第一控制子模块,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一垂心位置坐标所在处与所述第二垂心位置坐标所在处的距离b;
当b/d小于第二比例阈值时,将所述第一垂心位置坐标与所述第二垂心位置坐标的中值坐标确定为第二目标点;
以所述第二目标点为圆心,在所述目标空间的图像中确定包括所述多个第一备选位置坐标所在处和所述多个第二备选位置坐标所在处的最小圆形区域;
当b/d不小于所述第二比例阈值时,将所述第一垂心位置坐标所在处确定为第三目标点;
以所述第三目标点为圆心,在所述目标空间的图像中确定包括所述多个第二备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
可选的,所述设备还包括:
接收模块,用于在所述基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪之后,接收所述目标追踪相机发送的追踪图像;
检测模块,用于检测接收到的追踪图像是否达到指定标准;
调整模块,用于当接收到的追踪图像未达到所述指定标准,调整追踪参数,得到目标追踪参数,所述追踪参数为控制所述目标追踪相机进行目标追踪的参数;
参数确定模块,用于当接收到的追踪图像达到所述指定标准,将当前的追踪参数确定为目标追踪参数;
追踪控制模块,用于基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
可选的,所述调整模块,用于:
当接收到的追踪图像未达到所述指定标准,执行参数调整过程,直至追踪图像达到所述指定标准;
将达到所述指定标准的追踪图像所对应的追踪参数确定为所述目标追踪参数;
其中,所述参数调整过程包括:
调整追踪参数,得到调整后的追踪参数;
将所述调整后的追踪参数发送至所述目标追踪相机,所述调整后的追踪参数用于供所述目标追踪相机进行目标追踪,得到追踪图像;
接收所述目标追踪相机发送的追踪图像;
检测接收到的追踪图像是否达到指定标准;
当接收到的追踪图像未达到所述指定标准,再次执行所述参数调整过程。
可选的,所述设备还包括:
存储模块,用于存储在所述基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪之后,将当前的第一追踪参数与第一位置坐标集合存储至追踪参数与位置坐标集合的对应关系中,所述第一位置坐标集合包括所述第一备选位置坐标和所述第二备选位置坐标,所述对应关系中的位置坐标集合包括音频位置坐标和图像位置坐标,所述音频位置坐标是预先基于所述音频采集装置采集的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标,所述图像位置坐标是预先基于目标空间的图像在所述目标空间中确定的位置坐标,所述追踪参数为控制所述目标追踪相机进行目标追踪的参数;
第一查询模块,用于在获取新的第一备选位置坐标和新的第二备选位置坐标后,当新的第一备选位置坐标对应的音频信号的采集时刻和新的第二备选位置坐标对应的所述目标空间的图像出现备选目标的时刻的间隔小于指定时间间隔时,基于第二位置坐标集合查询所述追踪参数与位置坐标集合的对应关系,所述第二位置坐标集合包括所述新的第一备选位置坐标和所述新的第二备选位置坐标;
第二查询模块,用于当所述对应关系中存在所述第二位置坐标集合时,查询得到所述第二位置坐标集合对应的第二追踪参数;
第二控制模块,用于基于所述第二追踪参数,控制所述目标追踪相机进行目标追踪。
可选的,所述第一控制模块,包括:
查询子模块,用于基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系,所述位置坐标集合包括音频位置坐标,所述音频位置坐标是预先基于所述音频采集装置采集的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;
第二控制子模块,用于当所述追踪参数与位置坐标集合的对应关系中存在与所述第一备选位置坐标对应的目标追踪参数时,基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
可选的,所述目标追踪系统还包括图像采集装置,所述位置坐标集合还包括图像位置坐标,所述图像位置坐标是预先基于所述图像采集装置采集的目标空间的图像在所述目标空间中确定的位置坐标;所述设备还包括:
第二获取模块,用于在所述基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系之前,获取第二备选位置坐标,所述第二备选位置坐标为在所述图像采集装置采集的图像信号中出现备选目标后,确定的所述备选目标在所述目标空间中的位置坐标;
所述查询子模块,用于:
当所述音频信号的采集时刻和所述目标空间的图像出现所述备选目标的时刻的间隔小于指定时间间隔,基于第二位置坐标集合查询追踪参数与位置坐标集合的对应关系,所述第二位置坐标集合包括所述第一备选位置坐标和所述第二备选位置坐标;
当所述对应关系中存在与所述第二位置坐标集合对应的目标追踪参数时,基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
根据本发明的第三方面,提供了一种目标跟踪系统,所述目标追踪系统包括目标追踪装置,所述目标追踪装置包括权利要求第二方面所述的目标追踪设备;
所述目标追踪系统还包括设置在目标空间中的音频采集装置以及目标追踪相机。
可选的,所述音频采集装置包括至少一个音频采集组件,所述音频采集组件为拾音器,所述目标追踪相机为球机或云台摄像机。
可选的,所述系统还包括图像采集装置。
根据本发明的第四方面,提供了一种计算机设备,包括处理器和存储器,
其中,所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上所存放的程序,实现第一方面所述的目标追踪方法。
根据本发明的第五方面,提供了一种存储介质,所述存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现第一方面所述的目标追踪方法。
本发明实施例提供的技术方案带来的有益效果是:
本发明实施例所提供的目标追踪方法、装置及系统,通过获取的第一备选位置坐标并基于该第一备选位置坐标控制目标追踪相机进行目标追踪。由于第一备选位置坐标为基于音频信号以及音频采集装置的位置在目标空间中确定的位置坐标,该第一备选位置坐标反映了音频信号的来源的位置。因此,目标追踪相机是对变化的音频信号的来源进行的追踪,而不是对一固定的追踪目标进行追踪,解决了相关技术中无法对变化的追踪目标进行追踪的问题,提高了目标追踪的灵活性。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种目标追踪系统的示意图;
图2是本发明实施例提供的一种目标追踪方法的流程图;
图3是本发明实施例提供的另一种目标追踪方法的流程图;
图4是本发明实施例提供的一种目标追踪装置在目标空间中确定第一备选位置坐标的流程图;
图5是本发明实施例提供的一种目标追踪装置在第一备选位置坐标和第二备选位置坐标中确定目标位置坐标的流程图;
图6是本发明实施例提供的一种目标追踪装置在第一垂心位置坐标和第二垂心位置坐标中确定目标位置坐标的流程图;
图7是本发明实施例提供的一种目标追踪装置确定多个位置坐标的垂心位置坐标的流程图;
图8是本发明实施例提供的一种目标追踪装置控制目标追踪相机进行目标追踪的流程图;
图9是本发明实施例提供的一种目标空间的图像的示意图;
图10是本发明实施例提供的另一种目标空间的图像的示意图;
图11是本发明实施例提供的一种目标追踪装置调整追踪参数的流程图;
图12是本发明实施例提供的一种目标追踪装置的参数调整过程的流程图;
图13是本发明实施例提供的另一种目标追踪方法的流程图;
图14是本发明实施例提供的又一种目标追踪方法的流程图;
图15是本发明实施例提供的一种目标追踪设备的框图;
图16是本发明实施例提供的一种第一控制模块的框图;
图17是本发明实施例提供的另一种目标追踪设备的框图;
图18是本发明实施例提供的又一种目标追踪设备的框图;
图19是本发明实施例提供的另一种第一控制模块的框图;
图20是本发明另一实施例提供的一种目标追踪设备的框图;
图21是本发明另一实施例提供的另一种目标追踪设备的框图。
通过上述附图,已示出本发明明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本发明构思的范围,而是通过参考特定实施例为本领域技术人员说明本发明的概念。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
图1示出了本发明实施例提供的目标追踪方法所涉及的目标追踪系统,该目标追踪系统可以包括目标追踪装置11、设置在目标空间中的音频采集装置12以及目标追踪相机13,目标追踪装置11可以设置在该目标空间中,也可以设置在目标空间之外。可选的,目标追踪系统还可以包括图像采集装置14。目标追踪装置11分别与音频采集装置12、图像采集装置14以及目标追踪相机13通过网络建立有通信连接(图中未绘制该通信连接),该网络可以是有线或无线网络(英文:wireless network),例如,有线网络包括通用串行总线(英文:universal serial bus;简称:USB)网络或者由其他数据线缆组成的网络,无线网络包括:无线保真(英文:WIreless FIdelity;简称:WIFI)网络、蓝牙网络、红外网络或紫蜂(英文:zigbee)网络、第三代移动通信技术(英文:3rd-generation;简称:3G)网络、通用分组无线服务技术(英文:general packet radio service;简称:GPRS)、长期演进(英文:long termevolution;简称:LTE)网络或5G网络等。
该目标追踪系统用于对该目标空间00中的追踪目标进行追踪,例如,该目标追踪系统为教学录播系统,则该目标空间可以为教室,追踪目标为老师或者学生。又例如,该目标追踪系统为娱乐节目录播系统,则该目标空间可以为演播室,追踪目标为演员。可选的,该目标追踪系统还可以用于在追踪该追踪目标时对该追踪目标进行特写。
其中,目标追踪装置11可以为一个计算机设备,或者一台服务器,或者由若干台服务器组成的服务器集群,或者是一个云计算服务中心。该目标追踪装置11用于基于音频采集装置12采集的音频信号,和/或,图像采集装置14采集的目标空间的图像来控制目标追踪相机13进行追踪目标的追踪。
音频采集装置12用于采集音频信号,该音频采集装置可以包括至少一个音频采集组件,该音频采集组件可以为拾音器、吊麦或者话筒等能够采集音频的设备。
目标追踪相机13用于对追踪目标进行追踪拍摄,其可以进行旋转拍摄,可选的,该目标追踪相机可以为摄像机,该摄像机可以有多种结构,例如其可以是球机或者云台摄像机,该摄像机可以支持多种传输方式,例如其可以为网络监控摄像机(英文:InternetProtocol Camera;简称:IPC),该摄像机可以采集视频或图片。
图像采集装置14用于采集目标空间的图像。在一种可选方式中,该图像采集装置可以为全景相机,其采集的图像为全景图像,例如全景相机为用于对目标空间中的物体的深度进行检测的空间立体相机。可选的,该全景相机可以包括一个双目摄像机或者包括两个摄像机,该两个摄像机可以实现一个双目摄像机的功能;或者,该全景相机为鱼眼摄像机。在另一种可选方式中,该图像采集装置包括设置在不同位置的多个相机,其采集的图像为该多个相机采集的图像的拼接图像,也可以视为全景图像。
在本发明实施例所提供的目标追踪方法中,涉及多种坐标系的转换,其中,目标追踪相机和图像采集装置均配置有相机内部坐标系,该相机内部坐标系包括:图像坐标系(也称像素坐标系或相机坐标系)和内参坐标系,图像坐标系用于标定相机所拍摄的图像的坐标,其为二维坐标系。需要说明的是,当图像采集装置为双目摄像机时,其每个摄像头配置有一个图像坐标系,则该双面摄像机配置有左图像坐标系和右图像坐标系;内参坐标系用于标定相机自身的内部参数,例如俯仰方向的角度和水平方向的角度,其为三维坐标系。目标空间中建立有指定空间坐标系,其为三维坐标系,例如三维直角坐标系,该指定空间坐标系可以为世界坐标系(也称大地坐标系)或者基于目标空间建立的专有坐标系。由于追踪目标位于该目标空间中,该目标追踪系统中的各个装置均配置有该指定空间坐标系,本发明实施例中,各个装置可以根据自身需求将其他坐标系(如图像坐标系或内参坐标系)中的位置坐标转换为该指定空间坐标系中的位置坐标,或者,将指定空间坐标系中的位置坐标转换为其他坐标系中的位置坐标。
由于其他坐标系与世界坐标系之间的转换较为复杂,而针对目标空间建立的专有坐标系与其他坐标系之间的转化较为简单,更适配于目标空间的场景,因此,通常在该目标空间中建立专有坐标系作为上述指定空间坐标系,从而简化坐标系转换运算,减少各个装置的运算代价。由于该目标空间通常为一个建筑物内部空间,其为常规的立方体结构,因此,可以以该目标空间的一个指定顶点为原点,以该顶点所在的三个直角边为坐标轴,建立指定空间坐标系。当目标空间为其他结构时,可以采用其他方式建立指定空间坐标系,本发明实施例对此不做限定。
在目标空间中部署图像采集装置以及目标追踪相机后,可以先对该图像采集装置以及目标追踪相机的相机内部坐标系(包括图像坐标系和内参坐标系)进行校准。在对该图像采集装置以及目标追踪相机校准后,可以基于指定空间坐标系、两个相机的设置位置以及各自的相机内部坐标系建立坐标系对应关系。在一种可选的方式中,各个装置中均可以配置该坐标系对应关系,并根据自身需求,基于该坐标系对应关系进行其他坐标系(如图像坐标系或内参坐标系)中的位置坐标与该指定空间坐标系中的位置坐标的转换;在另一种可选的方式中,目标追踪装置可以配置该坐标系对应关系,并基于其他装置的需求,以及该坐标系对应关系进行其他坐标系(如图像坐标系或内参坐标系)中的位置坐标与该指定空间坐标系中的位置坐标的转换。
进一步的,为了简化运算过程,若基于指定空间坐标系建立上述坐标系对应关系时,图像采集装置以及目标追踪相机可以设置在该指定空间坐标系中较近的位置上(示例的,两者距离小于指定距离阈值),例如设置在同一个坐标轴上,这样可以简化最终得到的坐标系对应关系,降低后续运算代价。
本发明实施例所提供的目标追踪方法中,音频采集装置所采集的音频信号的来源可以直接采用该指定空间坐标系中的位置坐标来表征,本申请实施例假设该位置坐标为第一备选位置坐标。为了保证追踪的准确性,音频采集装置可以包括至少两个音频采集组件,该至少两个音频采集组件可以部署在目标空间中的不同位置,用来采集音频信号,以对目标空间中发出音频信号的来源进行定位。为了能够将各个音频采集组件在指定空间坐标系中的位置坐标进行简单的表示,可以将该各个音频采集组件部署在目标空间中的特殊点上,该特殊点可以为顶点、直角边的中点或者墙壁所在平面的中心点等,这样可以简化后续的运算过程,减少运算代价。
在一种可选的实施例中,音频采集组件有4个,该4个音频采集组件均设置在目标空间的顶点处。当多个音频采集组件的分布较为分散,方位差距较大时,对音频信号的采集角度更为全面,最终确定的第一备选位置坐标会更为准确。因此,4个音频采集组件可以设置于目标空间的不同方位,例如,将1个音频采集组件设置于目标空间的1个顶点,其余3个音频采集组件设置于该1个顶点相邻的3个顶点处,这样,4个音频采集组件可以在目标空间的4个角度采集音频信号,4个音频采集组件的位置坐标已知。
示例的,在本发明实施例中,每个音频采集组件为一个拾音器,假设目标空间中布置4个拾音器,如图1所示,该4个拾音器中的拾音器S1设置于目标空间00中的指定顶点上,也即是拾音器S1位于指定空间坐标系的原点处,拾音器S2、拾音器S3以及拾音器S4分别位于目标空间00中与该指定顶点相邻的3个顶点上,这样拾音器S1、拾音器S2、拾音器S3以及拾音器S4在该指定空间坐标系中的位置坐标分别为(0,0,0),(M,0,0),(0,N,0),(0,0,P),其中,拾音器S1和拾音器S2的距离为M,拾音器S1和拾音器S3的距离为N,拾音器S1和拾音器S4的距离为P,M、N和P为目标空间的长、宽和高。
需要说明的是,图1中的指定空间坐标系是以目标空间的左上角的顶点为原点为例进行说明,该指定空间坐标系的原点还可以为其他顶点,各个拾音器的位置坐标也相应变化,本发明实施例对此不做限定。
在目标空间中,目标追踪相机的位置可以根据其所要追踪的追踪目标的位置预先设置。例如,该目标空间为教室,若该目标追踪相机的追踪目标为学生,则该目标追踪相机可以设置于能够采集到学生正脸的位置范围内,例如该目标追踪相机设置于教室中黑板所在的面上,若该目标追踪相机的追踪目标为老师,则该目标追踪相机可以设置于能够采集到老师正脸的位置范围内,例如该目标追踪相机设置于教室中与黑板所在面相对的面上。
当目标追踪系统包括图像采集装置时,该图像采集装置可以设置于目标空间中能够采集到目标空间的大部分或全部图像(例如其采集的图像面积占目标空间的整体面积的比例大于指定比例阈值)的位置上。示例的,当图像采集装置为全景相机时,其设置在目标空间中能够有效采集到全景图像的位置上。
进一步的,上述目标追踪装置11也可以集成在目标追踪系统中的其他的装置中,例如该目标追踪装置11集成在音频采集装置(例如位于指定顶点的声音采集组件)中,或者目标追踪相机中,或者图像采集装置中。这样可以减少目标追踪系统中设备的总数,简化坐标转换过程,减少数据传输开销。
图2是本发明实施例示出的一种目标追踪方法的流程图,该目标追踪方法可以应用于图1所示的目标追踪系统中的目标追踪装置11,在本发明实施例中,目标追踪系统还包括设置在目标空间中的音频采集装置12和目标追踪相机13,该方法包括:
步骤101、目标追踪装置获取第一备选位置坐标,该第一备选位置坐标为基于音频采集装置检测的音频信号和音频采集装置的位置在目标空间中确定的位置坐标。
步骤102、目标追踪装置基于第一备选位置坐标,控制目标追踪相机进行目标追踪。
综上所述,本发明实施例所提供的目标追踪方法,通过获取的第一备选位置坐标并基于该第一备选位置坐标控制目标追踪相机进行目标追踪。由于第一备选位置坐标为基于音频信号以及音频采集装置的位置在目标空间中确定的位置坐标,该第一备选位置坐标反映了音频信号的来源的位置。因此,目标追踪相机是对变化的音频信号的来源进行的追踪,而不是对一固定的追踪目标进行追踪,解决了相关技术中无法对变化的追踪目标进行追踪的问题,提高了目标追踪的灵活性。
上述步骤102中,目标追踪装置基于第一备选位置坐标,控制目标追踪相机进行目标追踪的方式可以有多种,为了便于读者理解,本发明实施例以以下三种实现方式进行说明。
在第一种可选的实现方式中,目标追踪装置可以基于目标位置坐标来对追踪目标进行追踪,该目标位置坐标用于表征追踪目标在目标空间中的位置。例如,目标追踪装置基于第一备选位置坐标,确定追踪目标的目标位置坐标,然后,目标追踪装置基于目标位置坐标,控制目标追踪相机进行目标追踪。
请参考图3,图3是本发明实施例示出的另一种目标追踪方法的流程图,该目标追踪方法可以应用于图1所示的目标追踪系统,该目标追踪方法可以包括:
步骤301、目标追踪装置获取第一备选位置坐标,该第一备选位置坐标为基于音频采集装置检测的音频信号和音频采集装置的位置在目标空间中确定的位置坐标。
在本发明实施例中,该音频采集装置用于检测音频信号以及记录检测到音频信号的时刻,目标追踪装置基于此,以及音频采集装置的位置来确定第一备选位置坐标。为了准确定位第一备选位置坐标,该音频采集装置通常包括位于目标空间的不同位置的至少2个音频采集组件。例如,3个或4个音频采集组件,则音频采集装置的位置即为音频采集组件的位置。为了有效记录检测到音频信号的时刻,该音频采集装置可以连接有计时器或者集成有计时器。
可选的,上述音频信号可以为任意一种音频信号,也即是,当目标空间中有任何物体发出声音时,音频采集装置即可获取该声音对应的音频信号。
可选的,上述音频信号也可以为具有指定特征的音频信号。例如,具有指定特征的音频信号为人声,相应的,音频采集装置可以仅检测人声对应的音频信号。
参考前述介绍,假设音频采集装置为集成有计时器的拾音器。目标空间布置有4个拾音器,该4个拾音器所在指定空间坐标系如图1所示。则如图4所示,目标追踪装置在目标空间中确定第一备选位置坐标的过程可以包括如下步骤:
步骤3011、目标追踪装置获取4个拾音器检测到音频信号的时刻。
当目标空间中存在音频信号时,4个拾音器采集该音频信号,并记录检测到音频信号的时刻,各个拾音器可以将记录的检测到音频信号的时刻发生至目标追踪装置。
步骤3012、目标追踪装置基于4个拾音器检测到音频信号的时刻以及4个拾音器的位置坐标,根据指定方程组确定第一备选位置坐标(x’,y’,z’),第一位置坐标(x’,y’,z’)的归一化坐标(x,y,z)满足指定方程组。
该指定方程组可以包括:
其中,△S1为V·△t1的归一化值,△S2为V·△t2的归一化值,△S3为V·△t3的归一化值,V为声速(例如340米/秒),△t1=|t1-t0|,△t2=|t2-t0|,△t3=|t3-t0|,参考前述图1,t0为位于指定顶点上的拾音器检测到音频信号的时刻,t1、t2和t3分别为其余3个拾音器检测到音频信号的时刻。
需要说明的是,为了提高目标追踪装置确定位置目标的速度以及精准度,上述指定方程组首先基于归一化运算确定归一化坐标(x,y,z),然后对该归一化坐标(x,y,z)进行反归一化运算即可得到第一备选位置坐标(x’,y’,z’)。
本发明实施例在实际运算中,也可以采用其他指定方程组确定第一备选位置坐标(x’,y’,z’)。例如,参考图1所示的4个拾音器设置于目标空间00中的指定顶点的实施例,拾音器S1、拾音器S2、拾音器S3以及拾音器S4在该指定空间坐标系中的位置坐标分别为(0,0,0),(M,0,0),(0,N,0),(0,0,P),则建立的指定方程组可以为:
其中,△S1=V·△t1,△S2=V·△t2,△S3=V·△t3,V为声速(例如340米/秒),△t1=|t1-t0|,△t2=|t2-t0|,△t3=|t3-t0|,t0为位于指定顶点上的拾音器S1检测到音频信号的时刻,t1、t2和t3分别为其余3个拾音器(即拾音器S2、拾音器S3以及拾音器S4)检测到音频信号的时刻。通过上述指定方程组可以确定出第一备选位置坐标(x’,y’,z’)。
需要说明的是,步骤301是由目标追踪装置确定出第一备选位置坐标。在另一个可选的实现方式中,上述4个拾音器中的一个拾音器,例如上述设置在指定顶点的拾音器,可以为具有运算能力的拾音器,该4个拾音器检测该音频信号,并记录检测到音频信号的时刻,除设置在指定顶点上的3个拾音器可以将记录的检测到音频信号的时刻发送至该指定顶点上的拾音器,由该指定顶点上的拾音器确定出第一备选位置坐标,该确定过程可以参考上述步骤301,并将该第一备选位置坐标发送至目标追踪装置,目标追踪装置将获取到的该位置坐标作为第一备选位置坐标。
步骤302、目标追踪装置获取第二备选位置坐标,该第二备选位置坐标为基于目标空间的图像,在目标空间中确定的位置坐标。
图像采集装置可以实时采集目标空间的图像,并由自身或目标追踪装置对该目标空间的图像进行分析,该目标空间的图像可以包括图像采集装置实时采集的1帧或多帧图像,示例的,每帧图像均为一全景图像。
在一种可选的方式中,图像采集装置在采集的目标空间的图像中出现备选目标后,确定备选目标的位置坐标,并将该位置坐标发送至目标追踪装置。
其中,图像采集装置在采集的目标空间的图像中确定备选目标的过程包括:
步骤X1、图像采集装置检测目标空间的图像中是否存在符合指定特征的目标。
图像采集装置可以基于指定特征分析目标空间的图像中的每帧图像,以检测目标空间的图像中是否存在符合该指定特征的目标。其中,该指定特征可以根据目标追踪系统所应用在的不同应用场景确定。例如,当目标追踪系统为人体追踪系统,则该指定特征为人体特征,例如人脸特征,图像采集装置基于人体特征分析每帧图像中是否存在人体,若图像采集装置在某一帧图像中分析出人体,则确定目标空间的图像中存在符合指定特征的目标。又例如,当目标追踪系统为物体追踪系统,则该指定特征为物体特征,例如物体的属性特征,图像采集装置基于物体特征分析每帧图像中是否存在物体,若图像采集装置在某一帧图像中分析出物体,则确定目标空间的图像中存在符合指定特征的目标。
步骤X2、当该目标空间的图像中存在符合该指定特征的目标时,目标追踪装置在符合该指定特征的目标中确定备选目标。
在一种可选方式中,目标追踪装置判断该目标空间的图像中的目标是否满足指定追踪条件。当该目标满足指定追踪条件,目标追踪装置将该目标确定为备选目标。
该指定追踪条件可以根据目标追踪系统所应用在的不同应用场景确定,例如,该目标追踪系统为人体追踪系统中的教学录播系统,则该指定追踪条件可以为人体由坐着的状态转化为起立的状态,也即是,图像采集装置判断该目标空间的图像中的人体是否存在由坐着的状态转化为起立的状态的情况;又例如,该目标追踪系统为车辆追踪系统,则该指定追踪条件可以为车辆由静止转化为运动的状态。
图像采集装置可以通过分析指定时间间隔内的多帧图像,以判断该目标空间的图像中的目标是否满足指定追踪条件。例如,目标追踪系统为教学录播系统时,图像采集装置可以分析该多帧图像中的每帧图像中存在的每个人体的高度,并与前一帧图像中存在的每个人体的高度进行对比,当某帧图像中存在某个人体高度相较于前一帧图像中该人体高度明显变高时,或者,当存在某个人体在连续多帧图像的人体图像中逐渐变高时,可以确定该人体由坐着的状态转化为起立的状态。
在另一种可选方式中,目标追踪装置可以直接将目标空间的图像中的目标确定为备选目标。
可选的,目标追踪装置还可以基于预先设置的其他筛选条件,在目标空间的图像中的目标中确定为备选目标,例如将高度大于指定高度阈值的目标确定为备选目标,或将高度小于指定高度阈值的目标确定为备选目标,或将运动速度大于指定速度阈值的目标确定为备选目标,或将运动速度小于指定速度阈值的目标确定为备选目标。本发明实施例对此不做限定。
步骤X3、目标追踪装置确定该备选目标的位置坐标。
在本发明实施例中,确定备选目标在目标空间中的位置坐标的方法涉及求解三维坐标值的算法,其中,求解三维坐标值的算法可以有多种,例如,可以通过最小二乘法求解三维坐标值,或者,先确定图像采集装置与备选目标的距离,然后基于该距离,以及图像采集装置的内参坐标系与指定空间坐标系的转换关系(该转换关系可以通过查询上述坐标系对应关系来确定),确定备选目标的位置坐标。
当图像采集装置为双目摄像机时,上述图像采集装置与备选目标的距离可以通过视差测距法来确定。若采用该视差测距法,在目标空间中部署该双目摄像机时,需要确保该双目摄像机水平放置,这样一来,双目摄像机的两个摄像头的光轴相互平行,两个摄像头的成像平面共面,左摄像头的左图像坐标系的一个坐标轴和右摄像头的右图像坐标系的一个坐标轴共线(例如两个x轴共线),且两个摄像头的光心存在一个固定的距离,即基线,单位为米,该两个摄像头的镜头焦距均为f(单位为像素),如此设置使得图像采集装置的内参坐标系与指定空间坐标系的转换关系更为简单。
以任一备选目标为例,根据该备选目标分别在左图像坐标系中的位置坐标,该备选目标在右图像坐标系中的位置坐标,以及上述基线的长度可以求出左右摄像头的视差值,基于该视差值以及三角几何关系可以确定该备选目标的景深,即图像采集装置与备选目标的距离。
在另一种可选的方式中,图像采集装置将采集的目标空间的图像发送至目标追踪装置,由目标追踪装置通过分析该目标空间的图像,在该目标空间的图像中出现备选目标后,确定的位置坐标。
目标追踪装置在目标空间的图像中确定出现备选目标的过程可以参考上述步骤X1至X3中图像采集装置在目标空间的图像中确定出现备选目标的过程,本发明实施例对此不再赘述。
步骤303、目标追踪装置基于第一备选位置坐标和第二备选位置坐标,确定追踪目标的目标位置坐标。
该目标位置坐标用于表征追踪目标在目标空间中的位置。
在一种可选方式中,目标追踪装置在获取第二备选位置坐标后,直接基于第一备选位置坐标和第二备选位置坐标,确定追踪目标的目标位置坐标
在另一种可选方式中,目标追踪装置可以判断音频信号的采集时刻和目标空间的图像出现备选目标的时刻的间隔是否小于指定时间间隔,当音频信号的采集时刻和目标空间的图像出现备选目标的时刻的间隔小于指定时间间隔时,目标追踪装置可以基于第一备选位置坐标和第二备选位置坐标,确定追踪目标的目标位置坐标。
在本发明实施例中,音频采集装置在对音频信号进行采集的同时,图像采集装置可以采集目标空间的图像,该音频信号的采集时刻和该目标空间的图像出现备选目标的时刻可能相距很近也可能相距很远。对于一些实际场景,一个物体在发出声音的同时也可能满足上述指定追踪条件,例如,在教学场景中,学生通常在起立的同时发言。因此,基于音频信号的采集时刻和目标空间的图像出现备选目标的时刻的间隔可以判断出该第一备选位置坐标对应的目标(即音频信号的来源)和备选目标是否为同一目标。对第一备选位置坐标对应的目标以及备选目标同时进行追踪的方式更为满足目标追踪系统的实际追踪需求。
当目标追踪装置检测出音频信号的采集时刻和目标空间的图像出现备选目标的时刻的间隔小于指定时间间隔时,则说明第一备选位置坐标对应的目标与第二备选位置坐标对应的备选目标可能为同一个物体。例如该指定时间间隔为0.5秒。当然,可能出现在指定时间间隔内存在至少一个第一备选位置坐标对应的目标以及至少一个第二备选位置坐标对应的备选目标的情况,也即是,会出现下述四种情况:第一备选位置坐标共一个,第二备选位置坐标共多个;第一备选位置坐标共多个,第二备选位置坐标共一个;第一备选位置坐标共一个,第二备选位置坐标共一个;第一备选位置坐标共多个,第二备选位置坐标共多个。最终的追踪目标的目标位置坐标是基于该第一备选位置坐标以及该第二备选位置坐标确定的。因此,在确定目标位置坐标时,应该综合考虑该音频信号的来源所对应的第一备选位置坐标以及备选目标对应的第二备选位置坐标,以保证合适的追踪目标以合适的位置出现在目标追踪相机的追踪画面中。
基于不同情况,目标追踪装置确定目标位置坐标的过程也不相同,本发明实施例以以下4种情况进行说明:
第一种情况,当第一备选位置坐标共一个,且第二备选位置坐标共多个时,目标追踪装置将该第一备选位置坐标确定为目标位置坐标。
当目标追踪装置仅获取到一个第一备选位置坐标时,可以按照声源优先的原则,将该第一备选位置坐标确定为目标位置坐标。
第二种情况,当第一备选位置坐标共多个,且第二备选位置坐标共一个时,目标追踪装置将该第二备选位置坐标确定为目标位置坐标。
当目标追踪装置仅获取到一个第二备选位置坐标时,可以按照图像优先的原则,将第二备选位置坐标确定为目标位置坐标。
第三种情况,当第一备选位置坐标共一个,第二备选位置坐标共一个时,目标追踪装置在第一备选位置坐标和第二备选位置坐标中确定目标位置坐标。
可选的,目标追踪装置可以将第一备选位置坐标确定为目标位置坐标,也可以将第二备选位置坐标确定为目标位置坐标。由于该第一备选位置坐标和该第二备选位置坐标可能均为同一目标的位置坐标,因此,为了更加准确地表征出该目标的位置坐标,目标追踪装置可以综合分析该第一备选位置坐标和该第二备选位置坐标以确定目标位置坐标。那么,如图5所示,目标追踪装置在第一备选位置坐标和第二备选位置坐标中确定目标位置坐标的过程可以包括:
步骤3031a、目标追踪装置确定目标空间的图像中符合指定特征的目标。
可选的,图像采集装置可以采集目标空间的图像,例如全景图像,并发送至目标追踪装置。目标追踪装置可以基于指定特征对目标空间的图像进行分析,以分析出符合该指定特征的目标以及该目标在该目标空间的图像中的位置坐标,该分析过程可以参考上述步骤X1。
其中,目标在目标空间的图像中的位置坐标即该目标在图像采集装置的图像坐标系中的位置坐标。
步骤3032a、当该目标空间的图像中的目标有多个时,目标追踪装置在目标空间的图像中的目标中,确定相距最远的两个目标的距离d。
目标追踪装置可以将目标空间的图像中的目标两两之间的距离进行比较,或者,排序,或者采用聚类算法,以筛选出相距最远的两个目标的距离d,通常情况下,距离d为正数。
由于此种情况下,第一备选位置坐标和第二备选位置坐标均分别仅为一个,因此,当该目标空间的图像中的目标为一个时,可以确定该第一备选位置坐标和该第二备选位置坐标均为该目标的位置坐标,则目标追踪装置可以将该第一备选位置坐标确定为目标位置坐标,或者,将第二备选位置坐标确定为目标位置坐标,再或者,将该第一备选位置坐标和该第二备选位置坐标的中值坐标确定为目标位置坐标。
步骤3033a、在目标空间的图像中,目标追踪装置确定第一备选位置坐标所在处与第二备选位置坐标所在处的距离a。
由于第一备选位置坐标为音频信号的来源的位置坐标,第二备选位置坐标为备选目标在目标空间中的位置坐标,因此,该两个位置坐标均为三维坐标,则在执行步骤3033a时,目标追踪装置可以首先将第一备选位置坐标和第二备选位置坐标转化为在该目标空间的图像中的位置坐标,也即是,基于图像采集装置的图像坐标系与指定空间坐标系的转换关系(该转换关系可以通过查询上述坐标系对应关系来确定)将三维坐标转化为二维坐标,然后确定第一备选位置坐标在目标空间的图像中所在处与第二备选位置坐标在目标空间的图像中所在处的距离a,通常情况下,距离a为正数。
步骤3034a、当a/d小于第一比例阈值时,目标追踪装置将第一备选位置坐标与第二备选位置坐标的中值坐标确定为目标位置坐标。
步骤3034a中可以根据距离a与距离b的比值来进一步确定第一备选位置坐标与备选目标是否为同一个目标。由于目标空间的图像中的目标中相距最远的两个目标的距离d通常为定值,因此,将距离a与距离b的比值大小,与第一比例阈值的大小进行比较,可以大致确定出第一备选位置坐标与备选目标是否为同一个目标。
该第一比例阈值可以根据该目标追踪系统所在的应用环境确定,例如,对于教学录播系统来说,该第一比例阈值可以为0.3,该第一比例阈值的确定方式为:假设在目标追踪装置确定的目标空间的图像中的目标中,相距最远的两个目标的距离为目标空间的图像中的对角线的距离,第一备选位置坐标所在处与第二备选位置坐标所在处的距离为学生最大身位的大小,将该学生最大身位与教室对角线的距离的比值确定为第一比例阈值,即0.3。当然,0.3仅为示意性说明,在其他可选的实施例中,该第一比例阈值还可以根据其他方式确定为其他值,本发明实施例在此不做限制。
当a/d小于第一比例阈值时,可以确定第一备选位置坐标对应的目标与备选目标为同一个目标,目标追踪装置可以将第一备选位置坐标与第二备选位置坐标的中值坐标确定为目标位置坐标。当然,目标追踪装置也可以将第一备选位置坐标或者第二备选位置坐标确定为目标位置坐标,但是,确定两个位置坐标的中值坐标的目的在于,将第一位坐标和第二备选位置坐标所对应的追踪目标以较合适的位置分布在追踪画面的中心位置。
其中,目标追踪装置确定中值坐标的方法可以包括:分别对目标空间的图像中第一备选位置坐标所在处和第二备选位置坐标所在处的横坐标和纵坐标取中值得到中值坐标。例如,在目标空间的图像中,第一备选位置坐标所在处的坐标为(x1,y1),第二备选位置坐标所在处的坐标为(x2,y2),则确定出的中值坐标(x3,y4)中,x3=(x1+x2)/2,y 3=(y1+y 2)/2。
步骤3035a、当a/d不小于第一比例阈值时,目标追踪装置将第一备选位置坐标确定为目标位置坐标。
当a/d不小于第一比例阈值时,说明第一备选位置坐标对应的目标与备选目标不是同一个目标,在此种情况下,可以选择声源优先的方式,即优先选择对音频信号的来源所对应的目标进行追踪。
当然,在其他可能的实施例中,根据目标追踪系统应用的场景的不同,也可以选择当a/d不小于第一比例阈值时,将第二备选位置坐标确定为目标位置坐标。
需要说明的是,上述步骤3031a至3035a中的一步或多步也可以由图像采集装置执行,例如上述步骤3031a和3035a全部由图像采集装置执行,目标追踪装置或音频采集装置仅需将第一备选位置坐标发送至该图像采集装置,在步骤3031a中,图像采集装置可以确定目标空间的图像中符合指定特征的目标,该确定过程参考上述步骤X1,在步骤3035a中,图像采集装置确定了目标位置坐标后可以发送至目标追踪装置。
第四种情况,当第一备选位置坐标共多个,第二备选位置坐标共多个时,目标追踪装置计算多个第一备选位置坐标的第一垂心位置坐标,计算多个第二备选位置坐标的第二垂心位置坐标,在第一垂心位置坐标和第二垂心位置坐标中确定目标位置坐标。
可选的,如图6所示,步骤3034可以包括:
步骤3031b、目标追踪装置确定目标空间的图像中符合指定特征的目标。
步骤3031b的相关过程可以参考上述步骤3031a,本发明实施例在此不做赘述。
步骤3032b、当该目标空间的图像中的目标有多个时,目标追踪装置在目标空间的图像中的目标中,确定相距最远的两个目标的距离d。
步骤3032b的相关过程可以参考上述步骤3032a,本发明实施例在此不做赘述。
步骤3033b、在目标空间的图像中,目标追踪装置确定第一垂心位置坐标所在处与第二垂心位置坐标所在处的距离b。
步骤3033b中首先要确定出第一垂心位置坐标所在处和第二垂心位置坐标所在处,然后再确定两者之间的距离b。
目标追踪装置可以首先将多个第一备选位置坐标以及多个第二备选位置坐标均转化为目标空间的图像对应的位置坐标,例如,基于图像采集装置的图像坐标系与指定空间坐标系的转换关系(该转换关系可以通过查询上述坐标系对应关系来确定)将多个第一备选位置坐标以及多个第二备选位置坐标转化为目标空间的图像对应的位置坐标,然后目标追踪装置分别确定该多个第一备选位置坐标所在处所对应的第一垂心位置坐标所在处,以及该多个第二备选位置坐标所在处所对应的第二垂心位置坐标所在处。
以确定多个第一备选位置坐标所在处所对应的第一垂心位置坐标所在处为例,若该第一备选位置坐标的个数共两个,则将该两个第一备选位置坐标所在处的连线的中点确定为第一垂心位置坐标所在处;若该第一备选位置坐标的个数为至少三个,目标追踪装置确定出该至少三个第一备选位置坐标所在处中,最靠近目标空间的图像的四条边线的至少两个第一备选位置坐标所在处,获取4条平行于目标空间的图像的边线的直线,该直线经过该至少两个第一备选位置坐标所在处,确定该四条直线围成的矩形的垂心所在处,该垂心所在处即为该多个第一备选位置坐标所在处对应的第一垂心位置坐标所在处。
示例的,如图7所示,目标追踪装置确定目标空间的图像中存在6个第一备选位置坐标所在处,该6个第一备选位置坐标所在处中存在4个最靠近目标空间的图像的四条边线的第一备选位置坐标所在处,即第一备选位置坐标所在处a1、第一备选位置坐标所在处a2、第一备选位置坐标所在处a3和第一备选位置坐标所在处a4,获取4条平行于目标空间的图像的边线的直线,该4条直线分别经过该4个第一备选位置坐标所在处,对该4条直线所围成的矩形的长和宽分别作中线,两条中线的交点所在处即为该矩形的垂心所在处,也即是,该目标空间的图像中呈现的6个第一备选位置坐标所在处所对应的第一垂心位置坐标所在处。
同理,目标追踪装置再确定出第二垂心位置坐标所在处,然后确定出第一垂心位置坐标所在处与第二垂心位置坐标所在处在目标空间的图像中的距离b。
与上述步骤3034a类似,通过将距离b与距离d的比值与第二比例阈值进行对比,可以大致确定出该多个第一备选位置坐标所对应的多个第一备选位置坐标与该多个第二备选位置坐标所对应的多个备选目标是否为相同的多个目标。该第二比例阈值可以与第一比例阈值相同,也可以与第一比例阈值不同,本发明实施例在此不进行限定。
步骤3034b、当b/d小于第二比例阈值时,目标追踪装置将第一垂心位置坐标与第二垂心位置坐标的中值坐标确定为目标位置坐标。
若b/d小于第二比例阈值,则可以确定多个第一备选位置坐标与多个备选目标为相同的多个目标。
步骤3035b、当b/d不小于第二比例阈值时,目标追踪装置将第一垂心位置坐标确定为目标位置坐标。
若b/d小于第二比例阈值,则可以确定多个第一备选位置坐标与多个备选目标为不同的多个目标。
需要说明的是,上述步骤3031b至3035b中的一步或多步也可以由图像采集装置执行,例如上述步骤3031b和3035b全部由图像采集装置执行,目标追踪装置或音频采集装置仅需将第一备选位置坐标发送至该图像采集装置,本发明实施例对此不做限定。
步骤304、目标追踪装置基于目标位置坐标,控制目标追踪相机进行目标追踪。
可选的,如图8所示,步骤304可以包括:
步骤3041、目标追踪装置基于目标位置坐标确定目标追踪相机的旋转参数,旋转参数用于表征目标追踪相机需要旋转的角度。
步骤3042、目标追踪装置将旋转参数发送至目标追踪相机,该旋转参数用于供目标追踪相机基于旋转参数旋转。
在本发明实施例中,目标追踪相机为可以进行旋转拍摄的追踪相机,例如该追踪相机为球机。目标追踪相机可以通过在水平方向和俯仰方向旋转指定角度,实现对追踪目标的追踪。可选的,该旋转参数可以包括以下两种情况:
第一种情况,该旋转参数包括角度,该角度包括水平旋转角和俯仰旋转角中的至少一者,在该种情况下,由目标追踪装置基于目标位置坐标确定目标追踪相机需要旋转的角度(即目标角度与当前角度的差值角度)或者需要旋转到的目标角度,然后将该角度发送至目标追踪相机,由目标追踪相机根据该角度进行旋转以实现对追踪目标的追踪。示例的,目标追踪装置可以基于目标位置坐标,以及目标追踪相机的内参坐标系与指定空间坐标系的转换关系(该转换关系可以通过查询上述坐标系对应关系来确定)确定目标追踪相机需要旋转的角度。
第二种情况,旋转参数包括目标位置坐标,在该种情况下,目标追踪装置将确定出的目标位置坐标发送至目标追踪相机,由目标追踪相机根据该目标位置坐标计算出需要旋转的角度或者需要旋转到的目标角度,该角度包括水平旋转角和俯仰旋转角中的至少一者,使目标追踪相机可以根据该角度进行旋转以实现对追踪目标的追踪。示例的,目标追踪相机可以基于目标位置坐标,以及目标追踪相机的内参坐标系与指定空间坐标系的转换关系(该转换关系可以通过查询上述坐标系对应关系来确定)确定目标追踪相机需要旋转的角度。
可选的,目标追踪相机可以包括角度传感器(也称陀螺仪),目标追踪相机可以通过该角度传感器获取水平旋转角和俯仰旋转角中的至少一者,以控制目标追踪相机对追踪目标的追踪。
本发明实施例在实际使用时,图像采集装置和目标追踪相机可以部署在目标空间的不同位置,为了简化坐标转换过程,图像采集装置通常位于目标空间的指定空间坐标系的原点,由于图像采集装置的尺寸相对于目标空间较小,该尺寸对最终的控制精度的影响较小,可以认为指定空间坐标系与图像采集装置的内参坐标系重合。此种情况下,根据目标位置坐标确定目标追踪相机需要旋转的角度的方式可以包括:可以获取该图像采集装置和该目标追踪相机在该目标空间中的坐标差,根据该坐标差将目标位置坐标转化为目标追踪相机的内参坐标系中的位置坐标,再根据该转化后的位置坐标确定目标追踪相机需要旋转的角度。
假设确定的追踪目标的目标位置坐标为(x,y,z),该图像采集装置在目标空间中的坐标为(x1,y1,z1),该目标追踪相机在目标空间中的坐标为(x2,y2,z2),则该两者的坐标差(x3,y3,z3)中x3=|x1-x2|,y3=|y1-y2|,z3=|z1-z2|,则该转化后的目标位置坐标为(x’,y’,z’)中,x’=|x-x3|,y’=|y-y3|,z’=|z-z3|,则目标追踪相机的目标水平旋转角a满足:a=arctan(y’/x’),目标俯仰旋转角b满足:b=arctan(z’/x’),其中,该目标水平旋转角和目标俯仰旋转角为目标追踪相机在该内参坐标系中需要旋转到的目标角度。
本发明实施例在实际使用时,目标追踪相机可以根据该目标水平旋转角进行水平旋转;目标追踪相机还可以根据该目标俯仰旋转角进行俯仰旋转。例如,计算得到的目标水平旋转角为60°,则目标追踪相机需要将水平旋转角调整至60°。
进一步的,当图像采集装置与目标追踪相机设置的位置非常接近时,两者的尺寸相对于目标空间比较小,在计算误差可接受的情况下,两者的内参坐标系可以视为重合,则上述坐标差为零。
本发明实施例在实际使用时,可以将该目标水平旋转角以及该目标追踪相机当前的水平旋转角的差值确定为水平旋转角度,基于该水平旋转角度进行水平旋转;还可以将该目标俯仰旋转角以及该目标追踪相机当前的俯仰旋转角的差值确定为俯仰旋转角度,基于该俯仰旋转角度进行俯仰旋转。例如,目标追踪相机当前的水平旋转角为15°,计算得到的目标水平旋转角为60°,则得到的水平旋转角度为45°,目标追踪相机需要将水平旋转角转动45°。
需要说明的是,当指定空间坐标系与图像采集装置的内参坐标系不重合时,可以在确定出追踪目标在目标空间中的目标位置坐标后,首先将该目标位置坐标转化为图像采集装置内参坐标系中的第一位置坐标,然后再根据图像采集装置和目标追踪相机在该目标空间中的坐标差将该第一位置坐标转化为目标追踪相机的内参坐标系中的第二位置坐标,再根据该第二位置坐标确定目标追踪相机需要旋转的角度。
上述步骤3041至步骤3042用于实现目标追踪相机对追踪目标的追踪,可选的,本发明实施例所提供的目标追踪方法中,还可以在追踪过程中进一步对追踪目标进行特写。请参考上述步骤303中,基于确定的目标位置坐标,目标追踪装置确定出了追踪目标在追踪画面中的分布情况。但是,该追踪目标是否能按照该分布情况呈现在追踪画面中,取决于目标追踪相机当前的变焦倍率。因此,为了使得追踪目标按照步骤303中确定的分布情况呈现在追踪画面中,且保证该追踪目标以较好的特写效果呈现在追踪画面中,目标追踪装置可以进一步确定追踪目标的变焦倍率。则目标追踪装置可以执行后续步骤3043和3044。
步骤3043、目标追踪装置确定追踪目标的变焦倍率。
可选的,基于上述步骤303中所描述的确定目标位置坐标的四种情况,目标追踪装置确定追踪目标的变焦倍率的过程也可以相应的分以下四种情况进行说明:
第一种情况,当第一备选位置坐标共一个,且第二备选位置坐标共多个时,目标追踪装置确定追踪目标的变焦倍率,使采用该变焦倍率的目标追踪相机的追踪图像中包括第一备选位置坐标所在处和多个第二备选位置坐标所在处。
可选的,为了使步骤303的第一种情况中,一个第一备选位置坐标对应的目标以及多个备选目标以合适的大小出现在追踪画面中,第一种情况下确定变焦倍率的过程可以包括如下步骤:
步骤A1、目标追踪装置以第一备选位置坐标所在处为圆心,在目标空间的图像中确定包括多个第二备选位置坐标所在处的最小圆形区域。
可选的,该目标空间的图像可以由图像采集装置采集,该目标空间的图像通常为全景图像。而为了保证目标追踪相机的追踪的灵活性,目标追踪相机通常为体积较小,转动迅速的球机或云台摄像机,通常,目标追踪相机只能拍摄目标空间的部分图像,也即是其拍摄的图像的范围小于图像采集装置采集的目标空间的图像的范围。由于从范围大的图像中可以快速准确地筛选范围小的图像,因此,目标追踪装置可以基于目标空间的图像来确定目标追踪相机的变焦倍率,使得目标追踪相机能够聚焦于目标空间的图像中的部分图像上。
步骤A2、目标追踪装置确定最小圆形区域的指定外接矩形,该指定外接矩形的尺寸比例与目标追踪相机的追踪图像的尺寸比例相同。
可选的,指定外接矩形的尺寸比例与目标追踪相机的追踪图像的尺寸比例相同,这样基于该指定外接矩形确定的变焦倍率确定的追踪图像中的物体形状不会失真。可选的,该指定外接矩形的尺寸比例的长宽比可以为16:9。
可选的,图9示出了第一种情况下,目标空间的图像Q1的示意图,假设追踪图像的尺寸比例为16:9,该图中存在有一个第一备选位置坐标w1,以及备选目标w2、备选目标w3以及备选目标w4,以第一备选位置坐标W1所在处为圆心,目标追踪装置在该目标空间的图像中,确定包括备选目标w2、备选目标w3以及备选目标w4的最小圆形区域C1,并在该最小圆形区域C1的外围确定尺寸比例为16:9的指定外接矩形P1。
上述指定外接矩形是包含最小圆形区域的矩形中的一个矩形,在一种可选的实现方式中,该指定外接矩形可以为最小外接矩形,图9便是以该指定外接矩形为最小外接矩形为例。在另一种可选的实现方式中,为了进一步保证追踪画面进行特写时的美观性,指定外接矩形与最小外接矩形之间需要保留预设的间隙,这样,基于该指定外接矩形确定的变焦倍率,目标追踪相机后续获取的追踪图像的边缘存在富余像素,使得追踪图像边缘的画面不被剪裁。
可选的,该确定最小圆形区域的指定外接矩形的过程可以包括:
步骤A21、目标追踪装置在目标空间的图像中,确定第三位置坐标所在处,第三位置坐标所在处为最小圆形区域包括的位置坐标所在处中与最小圆形区域外围最近的位置坐标所在处。
步骤A22、目标追踪装置确定最小圆形区域的最小外接矩形,该最小外接矩形的尺寸比例与目标追踪相机的追踪图像的尺寸比例相同。
步骤A23、目标追踪装置将该最小外接矩形确定为指定外接矩形。
步骤A24、目标追踪装置基于最小外接矩形的尺寸与追踪图像的尺寸,确定第一变焦倍率。
步骤A25、目标追踪装置基于最小外接矩形的尺寸,确定指定外接矩形,该指定外接矩形的各个边与最小外接矩形的各个边的垂直距离中的最小垂直距离满足距离公式,该距离公式为:
γ=20+360*Z/7,γ表示该最小垂直距离对应像素点的个数,Z表示第一变焦倍率,该指定外接矩形与最小外接矩形未重叠的图像区域中的像素即为富余像素。
上述步骤A21至步骤A25为两种确定最小圆形区域的指定外接矩形方案,目标追踪装置可以在执行步骤A23之后,将最小外接矩形确定为指定外接矩形,也可以在执行步骤A25之后,基于最小外接矩形以及富余像素确定指定外接矩形。
步骤A3、目标追踪装置基于指定外接矩形的尺寸与追踪图像的尺寸,确定变焦倍率。
如此设置使得一个第一备选位置坐标以及多个备选目标可以以合适的大小以及合适的位置呈现在追踪画面中。
第二种情况,当第一备选位置坐标共多个,且第二备选位置坐标共一个时,目标追踪装置确定追踪目标的变焦倍率,使采用变焦倍率的目标追踪相机的追踪图像中包括多个第一备选位置坐标所在处和第二备选位置坐标所在处。
可选的,为了使步骤303的第二种情况中,多个第一备选位置坐标以及一个备选目标以合适的大小出现在追踪画面中,第二种情况下确定变焦倍率的过程可以包括如下步骤:
步骤B1、目标追踪装置以第二备选位置坐标所在处为圆心,在目标空间的图像中确定包括多个第一备选位置坐标所在处的最小圆形区域。
步骤B2、目标追踪装置确定最小圆形区域的指定外接矩形,指定外接矩形的尺寸比例与目标追踪相机的追踪图像的尺寸比例相同。
步骤B3、基于指定外接矩形的尺寸与追踪图像的尺寸,目标追踪装置确定变焦倍率。
上述步骤B1至步骤B3的相关过程可以参考上述步骤A1至步骤A3,本发明实施例在此不做赘述。
第三种情况,当第一备选位置坐标共一个,第二备选位置坐标共一个时,基于目标追踪相机发送的追踪图像中第一备选位置坐标所在处和第二备选位置坐标所在处,确定追踪目标的变焦倍率。
在上述步骤303的第三种情况中,基于a/d是否小于第一比例阈值,目标追踪装置可以将第一备选位置坐标和第二备选位置坐标的中值坐标确定为目标位置坐标,或者将第一备选位置坐标确定为目标位置坐标。为了使该一个第一备选位置坐标以及该一个备选目标以合适的大小出现在追踪画面中,第三种情况下确定变焦倍率的过程可以包括:
步骤C1、目标追踪装置确定目标空间的图像中符合指定特征的目标。
步骤C2、当该目标空间的图像中的目标有多个时,目标追踪装置在目标空间的图像中的目标中,确定相距最远的两个目标的距离d。
步骤C3、目标追踪装置在目标空间的图像中,确定该第一备选位置坐标所在处与该第二备选位置坐标所在处的距离a。
上述步骤C1至步骤C3的相关过程可以参考上述步骤3031a至步骤3033a,本发明实施例在此不做赘述。
步骤C4、若a/d小于第二比例阈值,目标追踪装置将第一备选位置坐标所在处与第二备选位置坐标所在处的中值坐标确定为第一目标点。
步骤C4中确定该第一目标点的相关过程可以参考上述步骤3034a中确定目标位置坐标的相关过程,本发明实施例在此不做赘述。
步骤C5、若a/d不小于第二比例阈值,目标追踪装置将第一备选位置坐标所在处确定为第一目标点。
步骤C5中确定该第一目标点的相关过程可以参考上述步骤3035a中确定目标位置坐标的相关过程,本发明实施例在此不做赘述。
步骤C6、目标追踪装置以第一目标点为圆心,在目标追踪相机发送的追踪图像中确定包括第一备选位置坐标所在处和第二备选位置坐标所在处的最小圆形区域。
步骤C7、目标追踪装置确定最小圆形区域的指定外接矩形,该指定外接矩形的尺寸比例与目标追踪相机的追踪图像的尺寸比例相同。
步骤C8、目标追踪装置基于指定外接矩形的尺寸与追踪图像的尺寸,确定变焦倍率。
上述步骤C6至步骤C8中确定变焦倍率的过程可以参考上述步骤A1至A3,本发明实施例在此不再赘述。
在此种场景下,追踪画面中,该一个第一备选位置坐标对应的目标以及该一个备选目标可以围绕在追踪画面的中心分布,该追踪画面可以包括该一个第一备选位置坐标对应的目标以及该一个备选目标。
第四种情况,当第一备选位置坐标共多个,第二备选位置坐标共多个时,计算多个第一备选位置坐标的第一垂心位置坐标,计算多个第二备选位置坐标的第二垂心位置坐标,基于目标追踪相机发送的追踪图像中第一垂心位置坐标所在处和第二垂心位置坐标所在处,确定追踪目标的变焦倍率。
在上述步骤303的第四种情况中,基于a/d是否小于第一比例阈值,目标追踪装置可以将第一垂心位置坐标与第二垂心位置坐标的中值坐标确定为目标位置坐标,或者,将第一垂心位置坐标确定为目标位置坐标。为了使该多个第一备选位置坐标对应的目标以及该多个备选目标以合适的大小呈现在追踪画面中,第四种情况下确定变焦倍率的过程可以包括:
步骤D1、目标追踪装置确定目标空间的图像中符合指定特征的目标。
步骤D2、当该目标空间的图像中的目标有多个时,目标追踪装置在目标空间的图像中的目标中,确定相距最远的两个目标的距离d。
步骤D3、目标追踪装置在目标空间的图像中,确定第一垂心位置坐标所在处与第二垂心位置坐标所在处的距离b。
上述步骤D1至D3的相关过程可以参考上述步骤3031b至步骤3033b,本发明实施例在此不做赘述。
步骤D4、当b/d小于第二比例阈值时,目标追踪装置将第一垂心位置坐标与第二垂心位置坐标的中值坐标确定为第二目标点。
步骤D4中确定该第二目标点的相关过程可以参考上述步骤3031d中确定目标位置坐标的相关过程,本发明实施例在此不做赘述。
步骤D5、目标追踪装置以第二目标点为圆心,目标追踪装置在目标空间的图像中确定包括多个第一备选位置坐标所在处和多个第二备选位置坐标所在处的最小圆形区域。
步骤D6、当b/d不小于第二比例阈值时,目标追踪装置将第一垂心位置坐标所在处确定为第三目标点。
步骤D6中确定该第三目标点的相关过程可以参考上述步骤3035a中确定目标位置坐标的相关过程,本发明实施例在此不做赘述。
步骤D7、目标追踪装置以第三目标点为圆心,在目标追踪相机发送的追踪图像中确定包括多个第二备选位置坐标所在处的最小圆形区域。
上述步骤D5和步骤D7中确定圆形区域的相关过程可以参考上述步骤A1中确定圆形区域的相关过程,本发明实施例在此不做赘述。
步骤D8、目标追踪装置确定最小圆形区域的指定外接矩形,指定外接矩形的尺寸比例与目标追踪相机的追踪图像的尺寸比例相同。
步骤D9、目标追踪装置基于指定外接矩形的尺寸与追踪图像的尺寸,确定变焦倍率。
上述步骤D8和D9的相关过程可以参考上述步骤A2和步骤A3,本发明实施例在此不再赘述。
可选的,图10示出了第四种情况下,b/d不小于第二比例阈值时,目标空间的图像Q2的示意图,假设追踪图像的尺寸比例为16:9,该图中存在第一备选位置坐标m1和第一备选位置坐标m2,以及备选目标m3、备选目标w4以及备选目标w5,以第一备选位置坐标m1和第一备选位置坐标m2的第一垂心坐标所在处为圆心,目标追踪装置在该目标空间的图像中,确定包括备选目标w3、备选目标w4以及备选目标w5的最小圆形区域C2,并在该最小圆形区域C2的外围确定尺寸比例为16:9的指定外接矩形P2。
在此种场景下,追踪画面中该多个第一备选位置坐标可以围绕在追踪画面的中心分布,该追踪画面可以包括多个第一备选位置坐标以及多个备选目标。
步骤3044、目标追踪装置将变焦倍率发送至目标追踪相机,该变焦倍率用于供目标追踪相机基于变焦倍率对追踪目标进行特写。
需要说明的是,上述变焦倍率和旋转参数可以通过同一信令发送至目标追踪相机,也即是步骤3042和步骤3044可以同时执行。
目标追踪装置在采用上述步骤301至步骤304控制目标追踪相机进行目标追踪和特写之后,追踪目标以合适的分布和大小呈现在追踪画面中,在此基础上,目标追踪装置还可以对该追踪图像中所呈现的追踪目标的分布和大小进行进一步的调整以使追踪图像更符合目标追踪系统使用者的使用需求。可选的,该调整的过程可以包括下述步骤305至步骤309。
步骤305、目标追踪装置接收目标追踪相机发送的追踪图像。
在目标追踪相机采用上述步骤3042和步骤3043所确定的旋转参数以及变焦倍率对追踪目标进行追踪和特写之后,目标追踪相机可以采集一张追踪图像发送至目标追踪装置,由目标追踪装置判断是否需要对当前的旋转参数以及变焦倍率做进一步调整。
步骤306、目标追踪装置检测接收到的追踪图像是否达到指定标准。
其中,该指定标准可以根据目标追踪系统所应用的不同场景进行设置,例如,该目标追踪系统为人体追踪系统。可选的,该人体追踪系统可以包括教学录播系统,则该指定标准可以包括以下至少一个:
第一项指定标准、在该追踪图像中,至少一个人物躯干位于追踪图像中心区域。
可选的,目标追踪装置可以基于预设的人体分类模型来对该追踪图像进行分析,以确定是否存在至少一个人物躯干位于追踪图像中心区域。其中,判断是否为人物躯干可以基于判断该物体是否至少包括头、肩和四肢。
第二项指定标准、追踪图像中包括的人物躯干的个数与第二备选位置坐标的个数相同。
可选的,目标追踪装置在上述步骤302中获取第二备选位置坐标之后,还可以获取该第二备选位置坐标的个数,通过判断追踪图像中包括的人物躯干的个数与第二备选位置坐标的个数是否相同,来判断目标追踪相机以该旋转参数和变焦倍率进行追踪的追踪图像中是否遗漏追踪目标。
第三项指定标准、该至少一个人物躯干中,距离追踪图像外围最近的人物躯干与追踪图像外围的垂直距离中的最小垂直距离满足距离公式,距离公式为:
γ≥20+360*Z/7,γ表示最小垂直距离对应像素点的个数,Z表示追踪图像中当前的变焦倍率。
目标追踪装置可以确定距离追踪图像外围最近的人物躯干的位置坐标,获取该位置坐标与追踪图像外围的垂直距离中的最小垂直距离,判断该最小垂直距离与追踪图像的当前变焦倍率是否满足上述距离公式。其中,该最小垂直距离通过像素点的个数确定。通过该距离公式可以判断上述步骤A21至步骤A24中所确定的最小圆形区域的指定外接矩形是否准确。
步骤307、当接收到的追踪图像未达到指定标准,目标追踪装置调整追踪参数,得到目标追踪参数,该追踪参数为控制目标追踪相机进行目标追踪的参数。
其中,追踪参数可以包括旋转参数和变焦倍率中的至少一种。
如图11所示,该目标追踪装置调整追踪参数的过程可以包括:
步骤3071、当接收到的追踪图像未达到指定标准,目标追踪装置执行参数调整过程,直至追踪图像达到指定标准。执行步骤3072。
其中,如图12所示,参数调整过程可以包括:
步骤3071a、目标追踪装置调整追踪参数,得到调整后的追踪参数。
可选的,目标追踪装置可以判断接收到的追踪图像未达到上述指定标准中的哪一项,当判断出追踪图像未达到第一项指定标准时,目标追踪装置可以调整旋转参数;当判断出追踪图像未达到第二项和/或第三项项指定标准时,目标追踪装置可以调整变焦倍率。
步骤3071b、目标追踪装置将调整后的追踪参数发送至目标追踪相机,调整后的追踪参数用于供目标追踪相机对追踪目标进行目标追踪,得到追踪图像。
步骤3071c、目标追踪装置接收目标追踪相机发送的追踪图像。
步骤3071d、目标追踪装置检测接收到的追踪图像是否达到指定标准。
步骤3071e、当接收到的追踪图像未达到指定标准,目标追踪装置再次执行参数调整过程。
基于追踪图像,可以采用上述步骤3071a至步骤3071e对追踪参数进行反复调整,以确定使目标追踪相机采集的追踪图像能够达到指定标准的追踪参数。
步骤3072、目标追踪装置将达到指定标准的追踪图像所对应的追踪参数确定为目标追踪参数。执行步骤309。
步骤308、当接收到的追踪图像达到指定标准,目标追踪装置将当前的追踪参数确定为目标追踪参数。执行步骤309。
步骤309、目标追踪装置基于目标追踪参数,控制目标追踪相机进行目标追踪。
为了提高确定目标追踪的效率,在目标追踪装置中,可以预先建立追踪参数与位置坐标集合的对应关系,基于该对应关系可以对追踪目标进行快速追踪,该对应关系中的位置坐标集合包括音频位置坐标和图像位置坐标,该音频位置坐标是预先基于该音频采集装置采集的音频信号和该音频采集装置的位置在该目标空间中确定的位置坐标,该图像位置坐标是预先基于目标空间的图像在该目标空间中确定的位置坐标。该追踪参数为控制目标追踪相机进行目标追踪的参数,如旋转参数和变焦倍率中的至少一种。
当多次执行本发明实施例所提供的目标追踪方法时,该对应关系中存储的多组目标追踪参数和位置坐标集合的关系可以根据目标追踪方法的执行情况进行更新。例如,在上述步骤3072或步骤308之后,可以将当前的第一追踪参数与第一位置坐标集合存储至追踪参数与位置坐标集合的对应关系中,第一位置坐标集合包括第一备选位置坐标和第二备选位置坐标。
则在步骤309之后,本发明实施例提供的目标追踪方法可以包括:
步骤310、目标追踪装置在获取新的第一备选位置坐标和新的第二备选位置坐标后,当新的第一备选位置坐标对应的音频信号的采集时刻和新的第二备选位置坐标对应的目标空间的图像出现备选目标的时刻的间隔小于指定时间间隔时,基于第二位置坐标集合查询追踪参数与位置坐标集合的对应关系。
该第二位置坐标集合包括新的第一备选位置坐标和新的第二备选位置坐标。
目标追踪装置在获取新的第一备选位置坐标和新的第二备选位置坐标的过程可以参考上述步骤301和302,本发明实施例对此不做赘述。
步骤311、当对应关系中存在第二位置坐标集合时,目标追踪装置查询得到第二位置坐标集合对应的第二追踪参数。
可选的,当对应关系中不存在第二位置坐标集合时,可以重复执行上述步骤301至步骤308确定目标追踪参数的过程,其中,在执行至步骤3072或步骤308之后,还可以将该第二位置坐标集合与新确定的第一追踪参数更新至追踪参数与位置坐标集合的对应关系中。
步骤312、目标追踪装置基于该第二追踪参数,控制目标追踪相机进行目标追踪。
在获取的第二位置坐标集合之后,通过查询追踪参数与位置坐标集合的对应关系,便可以确定与第二位置坐标集合对应的第二追踪参数,以控制目标追踪相机进行目标追踪,简化了目标追踪方法的流程。
需要说明的是,本申请实施例在实际使用过程中,可能出现目标追踪装置仅获取第一备选位置坐标而未获取第二备选位置坐标的情况,而该情况又可以包括获取一个第一备选位置坐标和获取多个第一备选位置坐标这两种情况。
对于目标追踪装置获取一个第一备选位置坐标的情况,目标追踪装置可以将该第一备选位置坐标确定为追踪目标的目标位置坐标,基于该目标位置坐标确定目标追踪相机的旋转参数以及变焦倍率,需要说明的是,在确定该追踪目标的变焦倍率时,可以将该追踪目标设置为占据追踪画面的面积的3/4。
对于目标追踪装置获取多个第一备选位置坐标的情况,目标追踪装置可以将该多个第一备选位置坐标的垂心位置坐标确定为目标位置坐标,基于该目标位置坐标确定目标追踪相机的旋转参数以及变焦倍率。
本申请实施例在实际使用过程中,还可能出现目标追踪装置仅获取第二备选位置坐标而未获取第一备选位置坐标的情况,而该情况又可以包括获取一个第二备选位置坐标和获取多个第二备选位置坐标这两种情况。
对于目标追踪装置获取一个第二备选位置坐标的情况,目标追踪装置可以将该第二备选位置坐标确定为追踪目标的目标位置坐标,基于该目标位置坐标确定目标追踪相机的旋转参数以及变焦倍率,需要说明的是,在确定该追踪目标的变焦倍率时,可以将该追踪目标设置为占据追踪画面的面积的3/4。
对于目标追踪装置获取多个第二备选位置坐标的情况,目标追踪装置可以将该多个第二备选位置坐标的垂心位置坐标确定为目标位置坐标,基于该目标位置坐标确定目标追踪相机的旋转参数以及变焦倍率。
需要说明的是,上述第一种可选的实现方式中,各个目标空间中的位置坐标(如第一备选位置坐标、第二备选位置坐标和目标位置坐标)均可以是上述指定空间坐标系中的位置坐标,当然,该各个目标空间中的位置坐标均也可以是其他的空间坐标系中的位置坐标,本发明实施例对此不做限定,只要保证各个目标空间中的位置坐标可以确定即可。进一步的,目标空间中物体的位置坐标可以是物体上指定点的坐标。例如物体为人体时,该位置坐标为人体头部的坐标或者是人体重心的坐标,本发明实施例在此不进行限制。
综上所述,本发明实施例所提供的目标追踪方法,通过基于第一备选位置坐标和第二备选位置坐标控制目标追踪相机进行目标追踪。由于基于该第一备选位置坐标在目标空间中确定的音频信号的来源的位置为变化的,且基于第二备选位置坐标在目标空间中确定的备选目标的位置也是变化的,因此,目标追踪装置确定出的目标位置坐标为变化的位置坐标,目标追踪相机是对变化的追踪目标进行的追踪,而不是对一固定的追踪目标进行追踪,解决了相关技术中无法对变化的追踪目标进行追踪的问题,提高了目标追踪方法的灵活性。
在第二种可选的实现方式中,在目标追踪装置中,可以预先建立追踪参数与位置坐标集合的对应关系,基于该对应关系可以对追踪目标进行快速追踪,该对应关系中的位置坐标集合包括音频位置坐标和图像位置坐标,该音频位置坐标是预先基于音频采集装置采集的音频信号和音频采集装置的位置在目标空间中确定的位置坐标,该图像位置坐标是预先基于图像采集装置采集的目标空间的图像在目标空间中确定的位置坐标。图13示出了本发明实施例提供的另一种目标追踪方法,应用于目标追踪系统的目标追踪装置,该目标追踪系统还包括设置在目标空间中的音频采集装置以及目标追踪相机,其结构可以参考图1,该方法可以包括:
步骤401、目标追踪装置获取第一备选位置坐标,该第一备选位置坐标为基于音频采集装置检测的音频信号和音频采集装置的位置在目标空间中确定的位置坐标。
步骤401的相关过程可以参考上述步骤301,本发明实施例在此不做赘述。
步骤402、目标追踪装置获取第二备选位置坐标,该第二备选位置坐标为基于目标空间的图像,在目标空间中确定的位置坐标。
步骤402的相关过程可以参考上述步骤302,本发明实施例在此不做赘述。
步骤403、目标追踪装置基于第二位置坐标集合查询追踪参数与位置坐标集合的对应关系,该第二位置坐标集合包括第一备选位置坐标和第二备选位置坐标。
可选的,当音频信号的采集时刻和目标空间的图像出现备选目标的时刻的间隔小于指定时间间隔,目标追踪装置基于第二位置坐标集合查询追踪参数与位置坐标集合的对应关系。
步骤404、当该对应关系中存在与第二位置坐标集合对应的目标追踪参数时,目标追踪装置基于该目标追踪参数,控制目标追踪相机进行目标追踪。
目标追踪装置在获取了目标追踪参数,可以将该目标追踪参数发送至目标追踪相机,由该目标追踪相机对追踪目标进行目标追踪。
可选的,当对应关系中不存在第二位置坐标集合对应的目标追踪参数时,可以执行上述步骤301至步骤308确定目标追踪参数的过程,其中,在执行至步骤3072或步骤308之后,还可以将该第二位置坐标集合与新确定的第一追踪参数更新至追踪参数与位置坐标集合的对应关系中。
综上所述,本发明实施例所提供的目标追踪方法,通过预先建立追踪参数与位置坐标集合的对应关系,在目标追踪装置获取到第一备选位置坐标和第二备选位置坐标以后,通过查询该对应关系获取目标追踪参数,进而控制目标追踪相机进行追踪。由于基于该第一备选位置坐标在目标空间中确定的音频信号的来源的位置为变化的,且基于第二备选位置坐标在目标空间中确定的备选目标的位置也是变化的,因此,目标追踪装置确定出的目标位置坐标为变化的位置坐标,目标追踪相机是对变化的追踪目标进行的追踪,而不是对一固定的追踪目标进行追踪,解决了相关技术中无法对变化的追踪目标进行追踪的问题,提高了目标追踪方法的灵活性。
在第三种可选的实现方式中,在目标追踪装置中,可以预先建立追踪参数与位置坐标集合的对应关系,基于该对应关系可以对追踪目标进行快速追踪,该对应关系中的位置坐标集合包括音频位置坐标,该音频位置坐标是预先基于音频采集装置采集的音频信号和音频采集装置的位置在目标空间中确定的位置坐标。图14示出了本发明实施例提供的另一种目标追踪方法,应用于目标追踪系统的目标追踪装置,该目标追踪系统还包括设置在目标空间中的音频采集装置以及目标追踪相机,其结构可以参考图1,该方法可以包括:
步骤501、目标追踪装置获取第一备选位置坐标,该第一备选位置坐标为基于音频采集装置检测的音频信号和音频采集装置的位置在目标空间中确定的位置坐标。
步骤501的相关过程可以参考上述步骤301,本发明实施例在此不做赘述。
步骤502、目标追踪装置基于第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系。
步骤503、当追踪参数与位置坐标集合的对应关系中存在与第一备选位置坐标对应的目标追踪参数时,目标追踪装置基于该目标追踪参数,控制目标追踪相机进行目标追踪。
目标追踪装置在获取了目标追踪参数,可以将该目标追踪参数发送至目标追踪相机,由该目标追踪相机对追踪目标进行目标追踪。
可选的,当对应关系中不存在第一备选位置坐标对应的目标追踪参数时,可以参考前述实施例中,目标追踪装置仅获取第一备选位置坐标而未获取第二备选位置坐标的情况以获取目标追踪参数(即确定目标追踪相机的旋转参数以及变焦倍率),本发明实施例对此不再赘述。
综上所述,本发明实施例所提供的目标追踪方法,通过预先建立追踪参数与位置坐标集合的对应关系,在目标追踪装置获取到第一备选位置坐标以后,通过查询该对应关系获取目标追踪参数,进而控制目标追踪相机进行追踪。由于基于该第一备选位置坐标在目标空间中确定的音频信号的来源的位置为变化的,因此,目标追踪装置确定出的目标位置坐标为变化的位置坐标,目标追踪相机是对变化的追踪目标进行的追踪,而不是对一固定的追踪目标进行追踪,解决了相关技术中无法对变化的追踪目标进行追踪的问题,提高了目标追踪方法的灵活性。
假设目标追踪系统为教学录播系统时,指定空间为教室,以下结合具体应用场景来对本发明实施例提供的目标追踪方法的过程进行说明:
当有学生发言时,该发言的学生为音频信号的来源,目标追踪装置获取该发言的学生的第一备选位置坐标,当有学生起立时,该起立的学生为备选目标,目标追踪装置获取该起立的学生的第二备选位置坐标。当有至少一个学生进行发言,又有至少一个学生起立时,结合上述步骤303以及步骤304可以在教室中的学生中确定追踪目标,对该追踪目标进行追踪并且将该追踪目标以特写的方式在追踪画面中。
需要说明的是,本发明实施例提供的目标追踪方法步骤的先后顺序可以进行适当调整,步骤也可以根据情况进行相应增减,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化的方法,都应涵盖在本申请的保护范围之内,因此不再赘述。
下述为本发明装置实施例,可以用于执行本发明方法实施例。对于本发明装置实施例中未披露的细节,请参照本发明方法实施例。
图15示出了本发明实施例提供的一种目标追踪设备600,应用于目标追踪系统的目标追踪装置,所述目标追踪系统还包括设置在目标空间中的音频采集装置以及目标追踪相机,所述设备600包括:
第一获取模块601,用于获取第一备选位置坐标,所述第一备选位置坐标为基于所述音频采集装置检测的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;
第一控制模块602,用于基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪。
综上所述,本发明实施例所提供的目标追踪设备,通过获取第一备选位置坐标并基于该第一备选位置坐标控制所述目标追踪相机进行目标追踪。由于第一备选位置坐标为基于音频信号以及音频采集装置的位置在目标空间中确定的位置坐标,该第一备选位置坐标反映了音频信号的来源的位置。因此,目标追踪相机是对变化的音频信号的来源进行的追踪,而不是对一固定的追踪目标进行追踪,解决了相关技术中无法对变化的追踪目标进行追踪的问题,提高了目标追踪的灵活性。
可选的,如图16所示,所述第一控制模块602,包括:
确定子模块6021,用于基于所述第一备选位置坐标和第二备选位置坐标,确定追踪目标的目标位置坐标,所述第二备选位置坐标为基于所述目标空间的图像,在所述目标空间中确定的位置坐标;
第一控制子模块6022,用于基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪。
可选的,所述目标追踪系统还包括图像采集装置,所述确定子模块6021,用于:
获取第二备选位置坐标,所述第二备选位置坐标为在所述图像采集装置采集的所述目标空间的图像中出现备选目标后,确定的所述备选目标在所述目标空间中的位置坐标;
当所述音频信号的采集时刻和所述目标空间的图像出现所述备选目标的时刻的间隔小于指定时间间隔时,基于所述第一备选位置坐标和所述第二备选位置坐标,确定所述目标位置坐标。
可选的,所述确定子模块6021,用于:
当所述第一备选位置坐标共一个,且所述第二备选位置坐标共多个时,将所述第一备选位置坐标确定为所述目标位置坐标;
当所述第一备选位置坐标共多个,且所述第二备选位置坐标共一个时,将所述第二备选位置坐标确定为所述目标位置坐标;
当所述第一备选位置坐标共一个,所述第二备选位置坐标共一个时,在所述第一备选位置坐标和所述第二备选位置坐标中确定所述目标位置坐标;
当所述第一备选位置坐标共多个,所述第二备选位置坐标共多个时,计算多个所述第一备选位置坐标的第一垂心位置坐标,计算多个所述第二备选位置坐标的第二垂心位置坐标,在所述第一垂心位置坐标和所述第二垂心位置坐标中确定所述目标位置坐标。
可选的,所述确定子模块6021,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的距离a;
当a/d小于第一比例阈值时,将所述第一备选位置坐标与所述第二备选位置坐标的中值坐标确定为所述目标位置坐标;
当a/d不小于所述第一比例阈值时,将所述第一备选位置坐标确定为所述目标位置坐标。
可选的,所述确定子模块6021,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一垂心位置坐标所在处与所述第二垂心位置坐标所在处的距离b;
当b/d小于第二比例阈值时,将所述第一垂心位置坐标与所述第二垂心位置坐标的中值坐标确定为所述目标位置坐标;
当b/d不小于所述第二比例阈值时,将所述第一垂心位置坐标确定为所述目标位置坐标。
可选的,所述第一控制子模块6022,用于:
基于所述目标位置坐标确定所述目标追踪相机的旋转参数,所述旋转参数用于表征所述目标追踪相机需要旋转的角度;
将所述旋转参数发送至所述目标追踪相机,所述旋转参数用于供所述目标追踪相机基于所述旋转参数旋转。
可选的,所述第一控制子模块6022,还用于:
确定所述追踪目标的变焦倍率;
将所述变焦倍率发送至所述目标追踪相机,所述变焦倍率用于供所述目标追踪相机基于所述变焦倍率对所述追踪目标进行特写。
可选的,所述第一控制子模块6022,用于:
当所述第一备选位置坐标共一个,且所述第二备选位置坐标共多个时,确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述第一备选位置坐标所在处和所述多个第二备选位置坐标所在处;
当所述第一备选位置坐标共多个,且所述第二备选位置坐标共一个时,确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述多个第一备选位置坐标所在处和所述第二备选位置坐标所在处;
当所述第一备选位置坐标共一个,所述第二备选位置坐标共一个时,基于所述目标追踪相机发送的追踪图像中所述第一备选位置坐标所在处和所述第二备选位置坐标所在处,确定所述追踪目标的变焦倍率;
当所述第一备选位置坐标共多个,所述第二备选位置坐标共多个时,计算多个所述第一备选位置坐标的第一垂心位置坐标,计算多个所述第二备选位置坐标的第二垂心位置坐标,基于所述目标追踪相机发送的追踪图像中所述第一垂心位置坐标所在处和所述第二垂心位置坐标所在处,确定所述追踪目标的变焦倍率。
可选的,所述第一控制子模块6022,用于:
以所述第一备选位置坐标所在处为圆心,在所述目标空间的图像中确定包括所述多个第二备选位置坐标所在处的最小圆形区域,或者,以所述第二备选位置坐标所在处为圆心,在所述目标空间的图像中确定包括所述多个第一备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
可选的,所述第一控制子模块6022,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的距离a;
若a/d小于第二比例阈值,则将所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的中值坐标确定为第一目标点,
若a/d不小于所述第二比例阈值,将所述第一备选位置坐标所在处确定为第一目标点;
以所述第一目标点为圆心,在所述目标空间的图像中确定包括所述第一备选位置坐标所在处和所述第二备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
可选的,所述第一控制子模块6022,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一垂心位置坐标所在处与所述第二垂心位置坐标所在处的距离b;
当b/d小于第二比例阈值时,将所述第一垂心位置坐标与所述第二垂心位置坐标的中值坐标确定为第二目标点;
以所述第二目标点为圆心,在所述目标空间的图像中确定包括所述多个第一备选位置坐标所在处和所述多个第二备选位置坐标所在处的最小圆形区域;
当b/d不小于所述第二比例阈值时,将所述第一垂心位置坐标所在处确定为第三目标点;
以所述第三目标点为圆心,在所述目标空间的图像中确定包括所述多个第二备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
可选的,如图17所示,所述设备600还包括:
接收模块603,用于在所述基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪之后,接收所述目标追踪相机发送的追踪图像;
检测模块604,用于检测接收到的追踪图像是否达到指定标准;
调整模块605,用于当接收到的追踪图像未达到所述指定标准,调整追踪参数,得到目标追踪参数,所述追踪参数为控制所述目标追踪相机进行目标追踪的参数;
参数确定模块606,用于当接收到的追踪图像达到所述指定标准,将当前的追踪参数确定为目标追踪参数;
追踪控制模块607,用于基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
可选的,所述调整模块605,用于:
当接收到的追踪图像未达到所述指定标准,执行参数调整过程,直至追踪图像达到所述指定标准;
将达到所述指定标准的追踪图像所对应的追踪参数确定为所述目标追踪参数;
其中,所述参数调整过程包括:
调整追踪参数,得到调整后的追踪参数;
将所述调整后的追踪参数发送至所述目标追踪相机,所述调整后的追踪参数用于供所述目标追踪相机进行目标追踪,得到追踪图像;
接收所述目标追踪相机发送的追踪图像;
检测接收到的追踪图像是否达到指定标准;
当接收到的追踪图像未达到所述指定标准,再次执行所述参数调整过程。
可选的,如图18所示,所述设备600还包括:
存储模块608,用于存储在所述基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪之后,将当前的第一追踪参数与第一位置坐标集合存储至追踪参数与位置坐标集合的对应关系中,所述第一位置坐标集合包括所述第一备选位置坐标和所述第二备选位置坐标,所述对应关系中的位置坐标集合包括音频位置坐标和图像位置坐标,所述音频位置坐标是预先基于所述音频采集装置采集的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标,所述图像位置坐标是预先基于目标空间的图像在所述目标空间中确定的位置坐标,所述追踪参数为控制所述目标追踪相机进行目标追踪的参数;
第一查询模块609,用于在获取新的第一备选位置坐标和新的第二备选位置坐标后,当新的第一备选位置坐标对应的音频信号的采集时刻和新的第二备选位置坐标对应的所述目标空间的图像出现备选目标的时刻的间隔小于指定时间间隔时,基于第二位置坐标集合查询所述追踪参数与位置坐标集合的对应关系,所述第二位置坐标集合包括所述新的第一备选位置坐标和所述新的第二备选位置坐标;
第二查询模块610,用于当所述对应关系中存在所述第二位置坐标集合时,查询得到所述第二位置坐标集合对应的第二追踪参数;
第二控制模块611,用于基于所述第二追踪参数,控制所述目标追踪相机进行目标追踪。
可选的,如图19所示,所述第一控制模块602,包括:
查询子模块6023,用于基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系,所述位置坐标集合包括音频位置坐标,所述音频位置坐标是预先基于所述音频采集装置采集的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;
第二控制子模块6024,用于当所述追踪参数与位置坐标集合的对应关系中存在与所述第一备选位置坐标对应的目标追踪参数时,基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
可选的,如图20所示,所述目标追踪系统还包括图像采集装置,所述位置坐标集合还包括图像位置坐标,所述图像位置坐标是预先基于所述图像采集装置采集的目标空间的图像在所述目标空间中确定的位置坐标;所述设备600还包括:
第二获取模块612,用于在所述基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系之前,获取第二备选位置坐标,所述第二备选位置坐标为在所述图像采集装置采集的图像信号中出现备选目标后,确定的所述备选目标在所述目标空间中的位置坐标;
所述查询子模块6011,用于:
当所述音频信号的采集时刻和所述目标空间的图像出现所述备选目标的时刻的间隔小于指定时间间隔,基于第二位置坐标集合查询追踪参数与位置坐标集合的对应关系,所述第二位置坐标集合包括所述第一备选位置坐标和所述第二备选位置坐标;
当所述对应关系中存在与所述第二位置坐标集合对应的目标追踪参数时,基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
综上所述,本发明实施例所提供的目标追踪设备,通过基于第一备选位置坐标和第二备选位置坐标控制目标追踪相机进行目标追踪。由于基于该第一备选位置坐标在目标空间中确定的音频信号的来源的位置为变化的,且基于第二备选位置坐标在目标空间中确定的备选目标的位置也是变化的,因此,目标追踪装置确定出的目标位置坐标为变化的位置坐标,目标追踪相机是对变化的追踪目标进行的追踪,而不是对一固定的追踪目标进行追踪,解决了相关技术中无法对变化的追踪目标进行追踪的问题,提高了目标追踪方法的灵活性。
可选的,目标追踪系统为人体追踪系统,所述指定标准包括以下至少一个:
在所述追踪图像中,至少一个人体躯干位于所述追踪图像中心区域;
所述追踪图像中包括的人体躯干的个数与所述第二备选位置坐标的个数相同;
所述至少一个人体躯干中,距离所述追踪图像外围最近的人体躯干与所述追踪图像外围的垂直距离中的最小垂直距离满足距离公式,所述距离公式为:
γ≥20+360*Z/7,所述γ表示所述最小垂直距离对应像素点的个数,所述Z表示所述追踪图像中当前的变焦倍率。
可选的,所述音频采集装置包括4个拾音器,
所述4个拾音器中1个拾音器设置于指定空间坐标系的原点上,其余3个拾音器分别位于所述目标空间中与所述指定顶点相邻的3个顶点上;
可选的,目标追踪系统为教学录播系统,满足所述指定追踪条件的备选目标为目标空间的图像中由坐着的状态转化为起立的状态的人体。
本发明实施例提供一种存储介质,该存储介质可以为非易失性计算机可读存储介质,所述存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述实施例提供的任一所述的目标跟踪方法。
本发明实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行上述方法实施例提供的目标跟踪方法。
本发明实施例提供一种目标追踪系统,包括:目标追踪装置,该目标追踪装置包括图15、17、18和20所示的目标跟踪设备。该目标追踪系统的其他结构及架构可以参考图1所示的目标追踪系统。该目标追踪系统还可以包括音频采集装置以及目标追踪相机。该目标跟踪系统的结构示意图可以参考图1。
可选的,该音频采集装置包括至少一个音频采集组件,所述音频采集组件为拾音器,该目标追踪相机为球机或云台摄像机,该系统还包括图像采集装置,该图像采集装置可以为全景相机,如双目摄像机或者鱼眼摄像机。
图21是根据一示例性实施例示出的一种目标追踪设备的结构示意图。该目标追踪设备可以为服务器700。所述服务器700包括中央处理单元(CPU)701、包括随机存取存储器(RAM)702和只读存储器(ROM)703的系统存储器704,以及连接系统存储器704和中央处理单元701的系统总线705。所述服务器700还包括帮助计算机内的各个器件之间传输信息的基本输入/输出系统(I/O系统)706,和用于存储操作系统713、应用程序714和其他程序模块715的大容量存储设备707。
所述基本输入/输出系统706包括有用于显示信息的显示器708和用于用户输入信息的诸如鼠标、键盘之类的输入设备709。其中所述显示器708和输入设备709都通过连接到系统总线705的输入输出控制器710连接到中央处理单元701。所述基本输入/输出系统706还可以包括输入输出控制器710以用于接收和处理来自键盘、鼠标、或电子触控笔等多个其他设备的输入。类似地,输入输出控制器710还提供输出到显示屏、打印机或其他类型的输出设备。
所述大容量存储设备707通过连接到系统总线705的大容量存储控制器(未示出)连接到中央处理单元701。所述大容量存储设备707及其相关联的计算机可读介质为服务器700提供非易失性存储。也就是说,所述大容量存储设备707可以包括诸如硬盘或者CD-ROM驱动器之类的计算机可读介质(未示出)。
不失一般性,所述计算机可读介质可以包括计算机存储介质和通信介质。计算机存储介质包括以用于存储诸如计算机可读指令、数据结构、程序模块或其他数据等信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动介质。计算机存储介质包括RAM、ROM、EPROM、EEPROM、闪存或其他固态存储其技术,CD-ROM、DVD或其他光学存储、磁带盒、磁带、磁盘存储或其他磁性存储设备。当然,本领域技术人员可知所述计算机存储介质不局限于上述几种。上述的系统存储器704和大容量存储设备707可以统称为存储器。
根据本发明的各种实施例,所述服务器700还可以通过诸如因特网等网络连接到网络上的远程计算机运行。也即服务器700可以通过连接在所述系统总线705上的网络接口单元711连接到网络712,或者说,也可以使用网络接口单元711来连接到其他类型的网络或远程计算机系统(未示出)。
所述存储器还包括一个或者一个以上的程序,所述一个或者一个以上程序存储于存储器中,中央处理器701通过执行该一个或一个以上程序来实现上述实施例提供的任一所述的目标跟踪方法。
本发明中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
本发明中术语“A和B的至少一种”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和B的至少一种,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。
在本发明中,术语“第一”和“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性。术语“多个”指两个或两个以上,除非另有明确的限定。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (37)
1.一种目标追踪方法,其特征在于,应用于目标追踪系统的目标追踪装置,所述目标追踪系统还包括设置在目标空间中的音频采集装置以及目标追踪相机,所述方法包括:
获取第一备选位置坐标,所述第一备选位置坐标为基于所述音频采集装置检测的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;
基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪。
2.根据权利要求1所述的方法,其特征在于,
所述基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪,包括:
基于所述第一备选位置坐标和第二备选位置坐标,确定追踪目标的目标位置坐标,所述第二备选位置坐标为基于所述目标空间的图像,在所述目标空间中确定的位置坐标;
基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪。
3.根据权利要求2所述的方法,其特征在于,所述目标追踪系统还包括图像采集装置,所述基于所述第一备选位置坐标和第二备选位置坐标,确定追踪目标的目标位置坐标,包括:
获取第二备选位置坐标,所述第二备选位置坐标为在所述图像采集装置采集的所述目标空间的图像中出现备选目标后,确定的所述备选目标在所述目标空间中的位置坐标;
当所述音频信号的采集时刻和所述目标空间的图像出现所述备选目标的时刻的间隔小于指定时间间隔时,基于所述第一备选位置坐标和所述第二备选位置坐标,确定所述目标位置坐标。
4.根据权利要求3所述的方法,其特征在于,所述基于所述第一备选位置坐标和所述第二备选位置坐标,确定所述目标位置坐标,包括:
当所述第一备选位置坐标共一个,且所述第二备选位置坐标共多个时,将所述第一备选位置坐标确定为所述目标位置坐标;
当所述第一备选位置坐标共多个,且所述第二备选位置坐标共一个时,将所述第二备选位置坐标确定为所述目标位置坐标;
当所述第一备选位置坐标共一个,所述第二备选位置坐标共一个时,在所述第一备选位置坐标和所述第二备选位置坐标中确定所述目标位置坐标;
当所述第一备选位置坐标共多个,所述第二备选位置坐标共多个时,计算多个所述第一备选位置坐标的第一垂心位置坐标,计算多个所述第二备选位置坐标的第二垂心位置坐标,在所述第一垂心位置坐标和所述第二垂心位置坐标中确定所述目标位置坐标。
5.根据权利要求4所述的方法,其特征在于,所述在所述第一备选位置坐标和所述第二备选位置坐标中确定所述目标位置坐标,包括:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的距离a;
当a/d小于第一比例阈值时,将所述第一备选位置坐标与所述第二备选位置坐标的中值坐标确定为所述目标位置坐标;
当a/d不小于所述第一比例阈值时,将所述第一备选位置坐标确定为所述目标位置坐标。
6.根据权利要求4所述的方法,其特征在于,所述在所述第一垂心位置坐标和所述第二垂心位置坐标中确定所述目标位置坐标,包括:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一垂心位置坐标所在处与所述第二垂心位置坐标所在处的距离b;
当b/d小于第二比例阈值时,将所述第一垂心位置坐标与所述第二垂心位置坐标的中值坐标确定为所述目标位置坐标;
当b/d不小于所述第二比例阈值时,将所述第一垂心位置坐标确定为所述目标位置坐标。
7.根据权利要求2所述的方法,其特征在于,所述基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪,包括:
基于所述目标位置坐标确定所述目标追踪相机的旋转参数,所述旋转参数用于表征所述目标追踪相机需要旋转的角度;
将所述旋转参数发送至所述目标追踪相机,所述旋转参数用于供所述目标追踪相机基于所述旋转参数旋转。
8.根据权利要求7所述的方法,其特征在于,所述基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪,还包括:
确定所述追踪目标的变焦倍率;
将所述变焦倍率发送至所述目标追踪相机,所述变焦倍率用于供所述目标追踪相机基于所述变焦倍率对所述追踪目标进行特写。
9.根据权利要求8所述的方法,其特征在于,所述确定所述追踪目标的变焦倍率,包括:
当所述第一备选位置坐标共一个,且所述第二备选位置坐标共多个时,确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述第一备选位置坐标所在处和所述多个第二备选位置坐标所在处;
当所述第一备选位置坐标共多个,且所述第二备选位置坐标共一个时,确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述多个第一备选位置坐标所在处和所述第二备选位置坐标所在处;
当所述第一备选位置坐标共一个,所述第二备选位置坐标共一个时,基于所述目标追踪相机发送的追踪图像中所述第一备选位置坐标所在处和所述第二备选位置坐标所在处,确定所述追踪目标的变焦倍率;
当所述第一备选位置坐标共多个,所述第二备选位置坐标共多个时,计算多个所述第一备选位置坐标的第一垂心位置坐标,计算多个所述第二备选位置坐标的第二垂心位置坐标,基于所述目标追踪相机发送的追踪图像中所述第一垂心位置坐标所在处和所述第二垂心位置坐标所在处,确定所述追踪目标的变焦倍率。
10.根据权利要求9所述的方法,其特征在于,所述确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述第一备选位置坐标所在处和所述多个第二备选位置坐标所在处,包括:
以所述第一备选位置坐标所在处为圆心,在所述目标空间的图像中确定包括所述多个第二备选位置坐标所在处的最小圆形区域,或者,以所述第二备选位置坐标所在处为圆心,在所述目标空间的图像中确定包括所述多个第一备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
11.根据权利要求9所述的方法,其特征在于,所述基于所述目标追踪相机发送的追踪图像的所述第一备选位置坐标所在处和所述第二备选位置坐标所在处,确定所述追踪目标的变焦倍率,包括:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的距离a;
若a/d小于第二比例阈值,则将所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的中值坐标确定为第一目标点,
若a/d不小于所述第二比例阈值,将所述第一备选位置坐标所在处确定为第一目标点;
以所述第一目标点为圆心,在所述目标空间的图像中确定包括所述第一备选位置坐标所在处和所述第二备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
12.根据权利要求9所述的方法,其特征在于,所述基于所述目标追踪相机发送的追踪图像中所述第一垂心位置坐标所在处和所述第二垂心位置坐标所在处,确定所述追踪目标的变焦倍率,包括:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一垂心位置坐标所在处与所述第二垂心位置坐标所在处的距离b;
当b/d小于第二比例阈值时,将所述第一垂心位置坐标与所述第二垂心位置坐标的中值坐标确定为第二目标点;
以所述第二目标点为圆心,在所述目标空间的图像中确定包括所述多个第一备选位置坐标所在处和所述多个第二备选位置坐标所在处的最小圆形区域;
当b/d不小于所述第二比例阈值时,将所述第一垂心位置坐标所在处确定为第三目标点;
以所述第三目标点为圆心,在所述目标空间的图像中确定包括所述多个第二备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
13.根据权利要求1至12任一所述的方法,其特征在于,在所述基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪之后,所述方法还包括:
接收所述目标追踪相机发送的追踪图像;
检测接收到的追踪图像是否达到指定标准;
当接收到的追踪图像未达到所述指定标准,调整追踪参数,得到目标追踪参数,所述追踪参数为控制所述目标追踪相机进行目标追踪的参数;
当接收到的追踪图像达到所述指定标准,将当前的追踪参数确定为目标追踪参数;
基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
14.根据权利要求13所述的方法,其特征在于,所述当接收到的追踪图像未达到所述指定标准,调整追踪参数,得到目标追踪参数,包括:
当接收到的追踪图像未达到所述指定标准,执行参数调整过程,直至追踪图像达到所述指定标准;
将达到所述指定标准的追踪图像所对应的追踪参数确定为所述目标追踪参数;
其中,所述参数调整过程包括:
调整追踪参数,得到调整后的追踪参数;
将所述调整后的追踪参数发送至所述目标追踪相机,所述调整后的追踪参数用于供所述目标追踪相机进行目标追踪,得到追踪图像;
接收所述目标追踪相机发送的追踪图像;
检测接收到的追踪图像是否达到指定标准;
当接收到的追踪图像未达到所述指定标准,再次执行所述参数调整过程。
15.根据权利要求3所述的方法,其特征在于,在所述基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪之后,所述方法还包括:
将当前的第一追踪参数与第一位置坐标集合存储至追踪参数与位置坐标集合的对应关系中,所述第一位置坐标集合包括所述第一备选位置坐标和所述第二备选位置坐标,所述对应关系中的位置坐标集合包括音频位置坐标和图像位置坐标,所述音频位置坐标是预先基于所述音频采集装置采集的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标,所述图像位置坐标是预先基于目标空间的图像在所述目标空间中确定的位置坐标,所述追踪参数为控制所述目标追踪相机进行目标追踪的参数;
在获取新的第一备选位置坐标和新的第二备选位置坐标后,当新的第一备选位置坐标对应的音频信号的采集时刻和新的第二备选位置坐标对应的所述目标空间的图像出现备选目标的时刻的间隔小于指定时间间隔时,基于第二位置坐标集合查询所述追踪参数与位置坐标集合的对应关系,所述第二位置坐标集合包括所述新的第一备选位置坐标和所述新的第二备选位置坐标;
当所述对应关系中存在所述第二位置坐标集合时,查询得到所述第二位置坐标集合对应的第二追踪参数;
基于所述第二追踪参数,控制所述目标追踪相机进行目标追踪。
16.根据权利要求1所述的方法,其特征在于,所述基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪,包括:
基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系,所述位置坐标集合包括音频位置坐标,所述音频位置坐标是预先基于所述音频采集装置采集的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;
当所述追踪参数与位置坐标集合的对应关系中存在与所述第一备选位置坐标对应的目标追踪参数时,基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
17.根据权利要求16所述的方法,其特征在于,所述目标追踪系统还包括图像采集装置,所述位置坐标集合还包括图像位置坐标,所述图像位置坐标是预先基于所述图像采集装置采集的目标空间的图像在所述目标空间中确定的位置坐标;在所述基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系之前,所述方法还包括:
获取第二备选位置坐标,所述第二备选位置坐标为在所述图像采集装置采集的图像信号中出现备选目标后,确定的所述备选目标在所述目标空间中的位置坐标;
所述基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系,包括:
当所述音频信号的采集时刻和所述目标空间的图像出现所述备选目标的时刻的间隔小于指定时间间隔,基于第二位置坐标集合查询追踪参数与位置坐标集合的对应关系,所述第二位置坐标集合包括所述第一备选位置坐标和所述第二备选位置坐标;
当所述对应关系中存在与所述第二位置坐标集合对应的目标追踪参数时,基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
18.一种目标追踪设备,其特征在于,应用于目标追踪系统的目标追踪装置,所述目标追踪系统还包括设置在目标空间中的音频采集装置以及目标追踪相机,所述设备包括:
第一获取模块,用于获取第一备选位置坐标,所述第一备选位置坐标为基于所述音频采集装置检测的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;
第一控制模块,用于基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪。
19.根据权利要求18所述的设备,其特征在于,所述第一控制模块,包括:
确定子模块,用于基于所述第一备选位置坐标和第二备选位置坐标,确定追踪目标的目标位置坐标,所述第二备选位置坐标为基于所述目标空间的图像,在所述目标空间中确定的位置坐标;
第一控制子模块,用于基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪。
20.根据权利要求19所述的设备,其特征在于,所述目标追踪系统还包括图像采集装置,所述确定子模块,用于:
获取第二备选位置坐标,所述第二备选位置坐标为在所述图像采集装置采集的所述目标空间的图像中出现备选目标后,确定的所述备选目标在所述目标空间中的位置坐标;
当所述音频信号的采集时刻和所述目标空间的图像出现所述备选目标的时刻的间隔小于指定时间间隔时,基于所述第一备选位置坐标和所述第二备选位置坐标,确定所述目标位置坐标。
21.根据权利要求20所述的设备,其特征在于,所述确定子模块,用于:
当所述第一备选位置坐标共一个,且所述第二备选位置坐标共多个时,将所述第一备选位置坐标确定为所述目标位置坐标;
当所述第一备选位置坐标共多个,且所述第二备选位置坐标共一个时,将所述第二备选位置坐标确定为所述目标位置坐标;
当所述第一备选位置坐标共一个,所述第二备选位置坐标共一个时,在所述第一备选位置坐标和所述第二备选位置坐标中确定所述目标位置坐标;
当所述第一备选位置坐标共多个,所述第二备选位置坐标共多个时,计算多个所述第一备选位置坐标的第一垂心位置坐标,计算多个所述第二备选位置坐标的第二垂心位置坐标,在所述第一垂心位置坐标和所述第二垂心位置坐标中确定所述目标位置坐标。
22.根据权利要求21所述的设备,其特征在于,所述确定子模块,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的距离a;
当a/d小于第一比例阈值时,将所述第一备选位置坐标与所述第二备选位置坐标的中值坐标确定为所述目标位置坐标;
当a/d不小于所述第一比例阈值时,将所述第一备选位置坐标确定为所述目标位置坐标。
23.根据权利要求21所述的设备,其特征在于,所述确定子模块,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一垂心位置坐标所在处与所述第二垂心位置坐标所在处的距离b;
当b/d小于第二比例阈值时,将所述第一垂心位置坐标与所述第二垂心位置坐标的中值坐标确定为所述目标位置坐标;
当b/d不小于所述第二比例阈值时,将所述第一垂心位置坐标确定为所述目标位置坐标。
24.根据权利要求19所述的设备,其特征在于,所述第一控制子模块,用于:
基于所述目标位置坐标确定所述目标追踪相机的旋转参数,所述旋转参数用于表征所述目标追踪相机需要旋转的角度;
将所述旋转参数发送至所述目标追踪相机,所述旋转参数用于供所述目标追踪相机基于所述旋转参数旋转。
25.根据权利要求24所述的设备,其特征在于,所述第一控制子模块,还用于:
确定所述追踪目标的变焦倍率;
将所述变焦倍率发送至所述目标追踪相机,所述变焦倍率用于供所述目标追踪相机基于所述变焦倍率对所述追踪目标进行特写。
26.根据权利要求25所述的设备,其特征在于,所述第一控制子模块,用于:
当所述第一备选位置坐标共一个,且所述第二备选位置坐标共多个时,确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述第一备选位置坐标所在处和所述多个第二备选位置坐标所在处;
当所述第一备选位置坐标共多个,且所述第二备选位置坐标共一个时,确定所述追踪目标的变焦倍率,使采用所述变焦倍率的所述目标追踪相机的追踪图像中包括所述多个第一备选位置坐标所在处和所述第二备选位置坐标所在处;
当所述第一备选位置坐标共一个,所述第二备选位置坐标共一个时,基于所述目标追踪相机发送的追踪图像中所述第一备选位置坐标所在处和所述第二备选位置坐标所在处,确定所述追踪目标的变焦倍率;
当所述第一备选位置坐标共多个,所述第二备选位置坐标共多个时,计算多个所述第一备选位置坐标的第一垂心位置坐标,计算多个所述第二备选位置坐标的第二垂心位置坐标,基于所述目标追踪相机发送的追踪图像中所述第一垂心位置坐标所在处和所述第二垂心位置坐标所在处,确定所述追踪目标的变焦倍率。
27.根据权利要求26所述的设备,其特征在于,所述第一控制子模块,用于:
以所述第一备选位置坐标所在处为圆心,在所述目标空间的图像中确定包括所述多个第二备选位置坐标所在处的最小圆形区域,或者,以所述第二备选位置坐标所在处为圆心,在所述目标空间的图像中确定包括所述多个第一备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
28.根据权利要求26所述的设备,其特征在于,所述第一控制子模块,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的距离a;
若a/d小于第二比例阈值,则将所述第一备选位置坐标所在处与所述第二备选位置坐标所在处的中值坐标确定为第一目标点,
若a/d不小于所述第二比例阈值,将所述第一备选位置坐标所在处确定为第一目标点;
以所述第一目标点为圆心,在所述目标空间的图像中确定包括所述第一备选位置坐标所在处和所述第二备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
29.根据权利要求26所述的设备,其特征在于,所述第一控制子模块,用于:
确定所述目标空间的图像中符合指定特征的目标,所述符合指定特征的目标包括所述备选目标;
当所述目标空间的图像中的目标有多个时,在所述目标空间的图像中的目标中,确定相距最远的两个目标的距离d;
在所述目标空间的图像中,确定所述第一垂心位置坐标所在处与所述第二垂心位置坐标所在处的距离b;
当b/d小于第二比例阈值时,将所述第一垂心位置坐标与所述第二垂心位置坐标的中值坐标确定为第二目标点;
以所述第二目标点为圆心,在所述目标空间的图像中确定包括所述多个第一备选位置坐标所在处和所述多个第二备选位置坐标所在处的最小圆形区域;
当b/d不小于所述第二比例阈值时,将所述第一垂心位置坐标所在处确定为第三目标点;
以所述第三目标点为圆心,在所述目标空间的图像中确定包括所述多个第二备选位置坐标所在处的最小圆形区域;
确定所述最小圆形区域的指定外接矩形,所述指定外接矩形的尺寸比例与所述目标追踪相机的追踪图像的尺寸比例相同;
基于所述指定外接矩形的尺寸与所述追踪图像的尺寸,确定所述变焦倍率。
30.根据权利要求18至29任一所述的设备,其特征在于,所述设备还包括:
接收模块,用于在所述基于所述目标位置坐标,控制所述目标追踪相机进行目标追踪之后,接收所述目标追踪相机发送的追踪图像;
检测模块,用于检测接收到的追踪图像是否达到指定标准;
调整模块,用于当接收到的追踪图像未达到所述指定标准,调整追踪参数,得到目标追踪参数,所述追踪参数为控制所述目标追踪相机进行目标追踪的参数;
参数确定模块,用于当接收到的追踪图像达到所述指定标准,将当前的追踪参数确定为目标追踪参数;
追踪控制模块,用于基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
31.根据权利要求30所述的设备,其特征在于,所述调整模块,用于:
当接收到的追踪图像未达到所述指定标准,执行参数调整过程,直至追踪图像达到所述指定标准;
将达到所述指定标准的追踪图像所对应的追踪参数确定为所述目标追踪参数;
其中,所述参数调整过程包括:
调整追踪参数,得到调整后的追踪参数;
将所述调整后的追踪参数发送至所述目标追踪相机,所述调整后的追踪参数用于供所述目标追踪相机进行目标追踪,得到追踪图像;
接收所述目标追踪相机发送的追踪图像;
检测接收到的追踪图像是否达到指定标准;
当接收到的追踪图像未达到所述指定标准,再次执行所述参数调整过程。
32.根据权利要求20所述的设备,其特征在于,所述设备还包括:
存储模块,用于存储在所述基于所述第一备选位置坐标,控制所述目标追踪相机进行目标追踪之后,将当前的第一追踪参数与第一位置坐标集合存储至追踪参数与位置坐标集合的对应关系中,所述第一位置坐标集合包括所述第一备选位置坐标和所述第二备选位置坐标,所述对应关系中的位置坐标集合包括音频位置坐标和图像位置坐标,所述音频位置坐标是预先基于所述音频采集装置采集的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标,所述图像位置坐标是预先基于目标空间的图像在所述目标空间中确定的位置坐标,所述追踪参数为控制所述目标追踪相机进行目标追踪的参数;
第一查询模块,用于在获取新的第一备选位置坐标和新的第二备选位置坐标后,当新的第一备选位置坐标对应的音频信号的采集时刻和新的第二备选位置坐标对应的所述目标空间的图像出现备选目标的时刻的间隔小于指定时间间隔时,基于第二位置坐标集合查询所述追踪参数与位置坐标集合的对应关系,所述第二位置坐标集合包括所述新的第一备选位置坐标和所述新的第二备选位置坐标;
第二查询模块,用于当所述对应关系中存在所述第二位置坐标集合时,查询得到所述第二位置坐标集合对应的第二追踪参数;
第二控制模块,用于基于所述第二追踪参数,控制所述目标追踪相机进行目标追踪。
33.根据权利要求18所述的设备,其特征在于,所述第一控制模块,包括:
查询子模块,用于基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系,所述位置坐标集合包括音频位置坐标,所述音频位置坐标是预先基于所述音频采集装置采集的音频信号和所述音频采集装置的位置在所述目标空间中确定的位置坐标;
第二控制子模块,用于当所述追踪参数与位置坐标集合的对应关系中存在与所述第一备选位置坐标对应的目标追踪参数时,基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
34.根据权利要求33所述的设备,其特征在于,所述目标追踪系统还包括图像采集装置,所述位置坐标集合还包括图像位置坐标,所述图像位置坐标是预先基于所述图像采集装置采集的目标空间的图像在所述目标空间中确定的位置坐标;所述设备还包括:
第二获取模块,用于在所述基于所述第一备选位置坐标,查询追踪参数与位置坐标集合的对应关系之前,获取第二备选位置坐标,所述第二备选位置坐标为在所述图像采集装置采集的图像信号中出现备选目标后,确定的所述备选目标在所述目标空间中的位置坐标;
所述查询子模块,用于:
当所述音频信号的采集时刻和所述目标空间的图像出现所述备选目标的时刻的间隔小于指定时间间隔,基于第二位置坐标集合查询追踪参数与位置坐标集合的对应关系,所述第二位置坐标集合包括所述第一备选位置坐标和所述第二备选位置坐标;
当所述对应关系中存在与所述第二位置坐标集合对应的目标追踪参数时,基于所述目标追踪参数,控制所述目标追踪相机进行目标追踪。
35.一种目标追踪系统,其特征在于,所述目标追踪系统包括目标追踪装置,所述目标追踪装置包括权利要求18至34任一所述的目标追踪设备;
所述目标追踪系统还包括设置在目标空间中的音频采集装置以及目标追踪相机。
36.一种计算机设备,其特征在于,包括处理器和存储器,
其中,所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上所存放的程序,实现权利要求1至17任一所述的目标追踪方法。
37.一种存储介质,其特征在于,所述存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1至17任一所述的目标追踪方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910615870.2A CN111325790B (zh) | 2019-07-09 | 2019-07-09 | 目标追踪方法、设备及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910615870.2A CN111325790B (zh) | 2019-07-09 | 2019-07-09 | 目标追踪方法、设备及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111325790A true CN111325790A (zh) | 2020-06-23 |
CN111325790B CN111325790B (zh) | 2024-02-20 |
Family
ID=71172659
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910615870.2A Active CN111325790B (zh) | 2019-07-09 | 2019-07-09 | 目标追踪方法、设备及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111325790B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113989696A (zh) * | 2021-09-18 | 2022-01-28 | 北京远度互联科技有限公司 | 目标跟踪方法、装置、电子设备及存储介质 |
CN116528062A (zh) * | 2023-07-05 | 2023-08-01 | 合肥中科类脑智能技术有限公司 | 多目标追踪方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105338248A (zh) * | 2015-11-20 | 2016-02-17 | 成都因纳伟盛科技股份有限公司 | 智能多目标主动跟踪监控方法及系统 |
US20170019574A1 (en) * | 2015-07-17 | 2017-01-19 | Amaryllo International B.V. | Dynamic tracking device |
WO2018014730A1 (zh) * | 2016-07-18 | 2018-01-25 | 华为技术有限公司 | 一种摄像机参数调整方法、导播摄像机及系统 |
CN207382443U (zh) * | 2017-07-27 | 2018-05-18 | 安徽澳视科技有限公司 | 一种教学智能录播系统 |
-
2019
- 2019-07-09 CN CN201910615870.2A patent/CN111325790B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170019574A1 (en) * | 2015-07-17 | 2017-01-19 | Amaryllo International B.V. | Dynamic tracking device |
CN105338248A (zh) * | 2015-11-20 | 2016-02-17 | 成都因纳伟盛科技股份有限公司 | 智能多目标主动跟踪监控方法及系统 |
WO2018014730A1 (zh) * | 2016-07-18 | 2018-01-25 | 华为技术有限公司 | 一种摄像机参数调整方法、导播摄像机及系统 |
CN207382443U (zh) * | 2017-07-27 | 2018-05-18 | 安徽澳视科技有限公司 | 一种教学智能录播系统 |
Non-Patent Citations (2)
Title |
---|
YUNQIANG CHEN;ET AL: "Real-time speaker tracking using particle filter sensor fusion" * |
周剑华: "基于智能图像跟踪定位的录播教室系统设计与实现" * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113989696A (zh) * | 2021-09-18 | 2022-01-28 | 北京远度互联科技有限公司 | 目标跟踪方法、装置、电子设备及存储介质 |
CN113989696B (zh) * | 2021-09-18 | 2022-11-25 | 北京远度互联科技有限公司 | 目标跟踪方法、装置、电子设备及存储介质 |
CN116528062A (zh) * | 2023-07-05 | 2023-08-01 | 合肥中科类脑智能技术有限公司 | 多目标追踪方法 |
CN116528062B (zh) * | 2023-07-05 | 2023-09-15 | 合肥中科类脑智能技术有限公司 | 多目标追踪方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111325790B (zh) | 2024-02-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11704833B2 (en) | Monocular vision tracking method, apparatus and non-transitory computer-readable storage medium | |
US11490069B2 (en) | Multi-dimensional data capture of an environment using plural devices | |
WO2017215295A1 (zh) | 一种摄像机参数调整方法、导播摄像机及系统 | |
US11983898B2 (en) | Monitoring method, electronic device and storage medium | |
JP7223449B2 (ja) | 撮影に基づく3dモデリングシステム | |
CN111432115B (zh) | 基于声音辅助定位的人脸追踪方法、终端及存储装置 | |
US20160314596A1 (en) | Camera view presentation method and system | |
US20220067974A1 (en) | Cloud-Based Camera Calibration | |
US11736802B2 (en) | Communication management apparatus, image communication system, communication management method, and recording medium | |
US11818492B2 (en) | Communication management apparatus, image communication system, communication management method, and recording medium | |
WO2021104308A1 (zh) | 全景深度测量方法、四目鱼眼相机及双目鱼眼相机 | |
CN111325790B (zh) | 目标追踪方法、设备及系统 | |
KR20100121086A (ko) | 음원인식을 이용한 촬영영상 추적 ptz 카메라 운용시스템 및 그 방법 | |
JP2019525509A (ja) | 水平視差ステレオパノラマ取込方法 | |
CN112839165B (zh) | 人脸跟踪摄像的实现方法、装置、计算机设备和存储介质 | |
CN112702513B (zh) | 一种双光云台协同控制方法、装置、设备及存储介质 | |
EP3882846B1 (en) | Method and device for collecting images of a scene for generating virtual reality data | |
JP2021072627A (ja) | 3dツアーの比較表示システム及び方法 | |
CN109391774A (zh) | 一种适用于教学过程的动态资源采集平台和方法 | |
CN117097990A (zh) | 一种拍摄控制方法及视频采集系统 | |
KR20190118804A (ko) | 3차원 영상 생성 장치 | |
Chen et al. | The Development of Color-marker-based spatial calibrating Technique |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |