CN108198221A - 一种基于肢体动作的舞台灯光自动跟踪系统及方法 - Google Patents
一种基于肢体动作的舞台灯光自动跟踪系统及方法 Download PDFInfo
- Publication number
- CN108198221A CN108198221A CN201810065601.9A CN201810065601A CN108198221A CN 108198221 A CN108198221 A CN 108198221A CN 201810065601 A CN201810065601 A CN 201810065601A CN 108198221 A CN108198221 A CN 108198221A
- Authority
- CN
- China
- Prior art keywords
- limb action
- light
- camera
- stage
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/66—Analysis of geometric attributes of image moments or centre of gravity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/107—Static hand or arm
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
- G06T2207/30208—Marker matrix
Abstract
本发明属于自动控制技术领域,公开了一种基于肢体动作的舞台灯光自动跟踪系统及方法,包括:摄像标定工具箱、目标位置识别模块、舞台建模模块、手部识别模块、卡尔曼滤波器、三维信息位置定位模块、控制器。摄像标定工具箱的相机标定;目标位置识别模块使用双摄像头进行相机标定;舞台建模模块初始化建模。本发明通过双摄获取目标物体的3维坐标达到无需佩戴;采用光信号传播受到声音电磁波的干扰程度可以省略;通过卡尔曼滤波器预测(惯性预测),计算主持人下一秒的位置;肢体语言进行控制灯光,当主持人遇到突发情况时可通过肢体语言进行控制灯光开关。
Description
技术领域
本发明属于自动控制技术领域,尤其涉及一种基于肢体动作的舞台灯光自动跟踪系统及方法。
背景技术
舞台的灯光照明系统是更好的渲染舞台艺术效果的必要手段,为了更好的突出舞台中心人物,灯光系统有必要根据中心人物位置的移动做出实施更新,在目前的舞台演出中,对灯光的控制方式主要有以下三种:(1)人工手动控制。演出时需要工作人员在较高处手动控制着追光灯,使得灯光束时刻跟随着舞台上表演的演员运动,虽然这种控制方式能够达到跟踪的效果,但是这种方法需要工作人员与演员在演出之前进行较长时间的配合练习,并且费时费力,效果不佳。并且后台人员需要高空操作,也增加了一定的危险性。(2)通过遥控装置控制。利用无线遥控装置现场操作控制灯光设备的转动,以此来达到跟踪演员的目的,但是这种方法对控制技术的要求比较高,而且需要专业的控制人员进行操作,否则跟踪效果不佳;此外这种遥控装置使得工作人员对灯光照射的位置难以把握,对演员的跟踪精度和自动化程度都不高,因此对这种遥控装置的控制难度很大,适用性不高。(3)固定演员运动路线。这种控制方法的原理就是在演出前设定好演员的运动路线,并通过计算机软件等设备将设计好的路线配置到追光灯转动装置中,在演出过程中,演员和灯光设备都按原先设定的路线运动,以此来达到灯光跟随演员移动的效果。虽然这种固定演员运动路线的方法在演出过程中不需要工作人员对控制设备进行实时的操作,但是演员在舞台上的运动路线是固定的,不能在演出过程中随意改变,并且在这种情况下就必须要求演员对演出过程中的表演节奏、时间以及自身位置都具有很好的掌控能力,而这些能力都需要演员进行长时间的训练才会具备的。这种固定演员运动路线的控制方法灵活性较差,而且在演出过程中对突发事件的处理能力较低。近年来的穿戴设备线路控制、超声波定位控制和热成像技术等新的控制方式,但是这些新的控制方式都不同程度上出现了跟踪时间延迟,跟踪位置有误差等弊端,一定程度上影响了艺术效果的表达。
综上所述,现有技术存在的问题是:现有的舞台灯光控制系统无法很好的满足灯光在舞台上准确的跟随演员移动,跟踪时间延迟,跟踪位置有误差。
发明内容
针对现有技术存在的问题,本发明提供了一种基于肢体动作的舞台灯光自动跟踪系统及方法。
本发明是这样实现的,一种基于肢体动作的舞台灯光自动跟踪方法,所述基于肢体动作的舞台灯光自动跟踪方法包括以下步骤:
步骤一、读取下位机的状态信息,判断伺服系统是否准备就绪;
步骤二、伺服系统没有处于就绪状态,给出错误提示,进而转入步骤一;
步骤三、伺服系统处于就绪状态,判断摄相机是否正确标定;
步骤四、摄像机没有进行正确标定,进入相机标定流程,打印棋格图像并放置在平坦的表面上作为标定物,通过移动相机或者平面拍摄各种角度的棋格图片,抽取各角度图片的特征点进行反畸变运算;
步骤五、摄像机在进行正确标定后,输入摄像机的位置信息;
步骤六、输入灯光设备的位置信息;
步骤七、通过获取的相关信息初始化伺服系统;
步骤八、控制打开摄像机并开始传送视频流;
步骤九、控制管理模块的参数初始化工作流程结束。
进一步,所述相机标定公式:
其中m的齐次坐标表示图像平面的像素坐标(u,v,1),M的齐次坐标表示世界坐标系的坐标点(X,Y,Z,1);A[R t]中R表示旋转矩阵、t表示平移矩阵、S表示尺度因子;A表示摄像机的内参数,具体表达式如下:
α=f/dx,β=f/dy,γ代表像素点在x,y方向上尺度的偏差。
进一步,所述基于肢体动作的舞台灯光自动跟踪方法的人物肢体姿态通过肢体跟踪器进行识别的具体实现过程如下:
第一步、系统开机,开始统计肤色特征区像素点数目;
第二步、记录零手势时的肤色特征点数;
第三步、计算零手势时的特征点数方差E;
第四步、如果第i帧numfi>μ,且Δm=numfj-numfi>E,其中(i<j≤i+10),则将第i帧特征区重心坐标记录为fi(x,y);
第五步、从第j帧开始继续观察,若连续4次numf和Δm都满足第4步的两个条件,则求出这4次特征区重心坐标的平均值,该平均值即为肢体动作起始坐标,否则放弃以前记录的坐标重新开始观察;
第六步、检测并计算出肢体动作起始坐标后,接下来计算结束坐标,当numfi>μ,且Δm=numfk-numfk<-E,其中(l<k≤l+10),则将第l帧特征区重心坐标记录为fl(x,y),并从第k帧开始继续观察,若连续4次观察到numf和Δm满足上述条件,则求出这4次特征区重心坐标的平均值,平均值为肢体动作结束坐标。
本发明的另一目的在于提供一种所述基于肢体动作的舞台灯光自动跟踪方法的基于肢体动作的舞台灯光自动跟踪系统,所述基于肢体动作的舞台灯光自动跟踪系统包括:
摄像标定工具箱、目标位置识别模块、舞台建模模块、手部识别模块、卡尔曼滤波器、三维信息位置定位模块、控制器。
本发明通过双摄获取目标物体的3维坐标达到无需佩戴;采用光信号传播受到声音电磁波的干扰程度可以省略;通过卡尔曼滤波器预测(惯性预测),计算主持人下一秒的位置;肢体语言进行控制灯光,当主持人遇到突发情况时可通过肢体语言进行控制灯光开关。
本发明通过双摄获取目标物体的3维坐标,无需佩戴式设备进行定位;采用光信号传播,避免受到声音电磁波的干扰;通过卡尔曼滤波器进行惯性预测,增强系统鲁棒性,规避掉噪声、光线变化及遮挡物的影响;通过肢体跟踪器跟踪肢体动作,通过动作决策器来解析肢体动作指令,通过动作指令来控制灯光的方向、明暗;
附图说明
图1是本发明实施例提供的控制管理模块的初始化流程图;
图2是本发明实施例提供的目标位置识别模块流程图;
图3是本发明实施例提供的中心位置纠正图;
图4是本发明实施例提供的椭圆参数确定图;
图5是本发明实施例提供的二值化处理原图;
图6是本发明实施例提供的二值化识别图;
图7是本发明实施例提供的灯源、相机、标定点相对位置关系图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
下面结合附图1-附图7对本发明的应用原理作详细的描述。
控制管理模块是舞台灯光自随动系统的操作接口,包括系统参数的初始化、控制模式选择、停止操作和复位操作。
(一)系统参数的初始化
1、系统启动之后,首先读取下位机的状态信息,判断下位机是否准备就绪;
2、如果下位机没有处于就绪状态,则给出错误提示,进而转入第1步操作;
3、如果下位机处于就绪状态,则判断摄相机是否正确标定;
4、如果摄像机没有进行正确标定,则进入相机标定流程,打印棋格图像并放置在平坦的表面上作为标定物,通过移动相机或者平面拍摄各种角度的棋格图片,抽取各角度图片的特征点进行反畸变运算。
标定公式如下:
其中m的齐次坐标表示图像平面的像素坐标(u,v,1),M的齐次坐标表示世界坐标系的坐标点(X,Y,Z,1)。A[R t]中R表示旋转矩阵、t表示平移矩阵、S表示尺度因子。A表示摄像机的内参数,具体表达式如下:
α=f/dx,β=f/dy,γ代表像素点在x,y方向上尺度的偏差。
5、摄像机在进行正确标定后,输入摄像机的位置信息。
6、输入灯光设备的位置信息。
7、通过获取的相关信息初始化下位机系统。
8、系统控制打开摄像机并开始传送视频流。
9、控制管理模块的参数初始化工作流程结束。
控制模式选择:
现代化的舞台灯光系统变化莫测,舞台上人物角色也多种多样,角色之间的主次关系也会随着时间推移做出相应变化,这个时候追光灯的作用就凸显出来了,追光灯若可实时改变追踪目标,方向,明暗,颜色,则可更有效的烘托舞台上的时空关系、人物关系的变化。为此,该系统设计出自动跟踪模式,受控模式和手动模式,工作人员可根据舞台现场工作模式和条件进行模式选择,也可交叉配合使用。
自动跟踪模式,由系统自动识别舞台上的跟踪目标,追光灯随着跟踪目标的移动而实时移动,本系统强调自动追踪的实时性和位置精确性。追踪目标一般为主持人或舞台主角。
受控模式,受控模式不同于自动跟踪模式,在受控模式下,追光灯的追随目标并不是主持人,而是受主持人或其他舞台主角的控制,通过识别主持人的手势姿态,在灯光方向,明暗,颜色上做出不同的响应。
手动模式,手动模式由后台工作通过驱动摇杆和其他控制设备来控制追光灯的方向,明暗,颜色,这是较传统的舞台灯光控制方法,作为上述灯光控制方式的补充方式而存在。
停止操作和复位操作
如前所述,该系统有三种灯光控制模式,在真实场景中,如有需要三种模式之间可以相互切换,在模式切换过程中,需停止/复位前一模式的操作。当伺服系统解析到停止命令时,伺服系统仅控制电机转速逐渐减少为零,并不关注灯光最终的相关状态。当伺服系统解析到复位命令时,伺服系统在控制电机转速逐渐减少为零的同时,并控制灯光最终的相关状态为系统的初始状态。
目标位置识别模块的主要功能是在复杂多变的舞台环境中识别出灯光要追踪的目标人物或目标肢体动作,并解析出相应的动作指令。针对上一阶段的不同的控制模式,在自动跟踪模式下,系统仅需要识别出目标人物,该目标人物和位置即为追光灯的照射位置;在受控模式下,系统要识别出目标人物肢体肤色特征区域,然后通过肢体跟踪器识别人物肢体姿态,并通过动作决策器判断相应指令。
目标人物识别
人物识别的主要任务是将目标人物从摄像机捕获的图像中分割出来,去除图像背景的干扰。由于在舞台上,人物的面部和手部可代表人物的相对坐标位置,因此,目标人物识别的问题即转化为对面部和手部位置的识别。具体做法是:首先对摄像机捕获的图像进行预处理,接着应用基于肤色检测和背景减除的方法得到图像中的肤色区域。
对图像进行平滑处理
在人物识别的开始,首先通过摄像机捕获手势图像,然后将它转换成计算机能够处理的数字图像格式。但是在转换的过程中,由于多种因素对图像的干扰,影响了生成的数字图像的画质。因此需要对图像进行预处理,去除其中的噪音、干扰,加强其中存在的有用信息,以提高图像的画面质量为接下来的图像分析做好准备。
图像的平滑处理是一种基本的图像增强处理方法,它通过卷积运算对图像邻域的像素灰度进行平均化,来减小图像中杂点带来的影响并且降低图像的对比度。
邻域平均法:是一种比较简单的图像平滑方法,在这种方法中主要通过应用模板对图像进行二维卷积运算来实现平滑处理。
采用一种改进的邻域平均算法来对输入的图像进行平滑处理。领域平均法的平滑方法首先计算相邻多个像素的灰度值的平均值,然后将得到的这个新值看作每一个像素的灰度值。
邻域平均法平滑图像信号公式如下:
用f(K,L)代表待处理图像信号,G(M,N)代表经过平滑处理后得到结果图像信号
采用了改进的邻域平均算法对输入的手势图像进行平滑处理,在一般的邻域平均算法采用的模板中,假设了各邻域点受中心点的影响值均等,而在实际的应用中,相对于中心点的邻域点,其有远近之分,影响值也是不一样的,离中心点进的像素点影响值大,所以对邻域点影响值做了上述改进。改进后的卷积模板提高了计算的精确性同时能够得到更好的结果图像信号。
选择合适的颜色空间
通过上述的图像预处理,提升了图像的质量。接下来开始做肤色检测。肤色是人体非常重要的信息,利用肤色可以检测、追踪人体的肤色对象(如脸部、人手),由于肤色的特性,它被广泛应用在人手识别跟踪、人脸识别等领域。肤色不同于其他色彩,它在色彩空间中呈现出一种非常强的聚类属性,尤其是在光照影响特别小的情况下。
在肤色检测过程中,为了能够对肤色进行有效地聚类分析,必须选取一个合适的颜色空间模型。当前有多种可用的颜色空间,在人物识别中常用的有RGB空间、YCrCb空间、HSV空间等
在该专利中选用YCrCb空间。人眼对这三个分量中的Y更敏感,所以对CrCb两个色度分量进行子采样来减少图像的色度分量后,人眼不会发现图像质量已经发生了变化。在该颜色空间中,图像的亮度与色度是相分离的,并且肤色在该颜色空间中的聚类性非常好,为后边肤色模型的选择打了良好的基础。另外,舞台上摄像机拍到的是数字图像,其采用的是RGB颜色空间。而由RGB到YCrCb的转换是线性转换,这种转换方式比较容易实现,并且计算效率比较高。
上述公式为RGB到YCrCb的线性转换公式,其中R、G、B为RGB颜色空间中红、绿、蓝三种基色的数值,Y、Cr、Cb分别表示YCrCb色彩空间中的亮度,蓝色色度和红色色度值。
肤色检测,建立肤色椭圆模型进行二值化识别
在选定了颜色空间之后,可以在颜色空间里创建肤色分布模型,用于区分肤色像素和非肤色像素的分布。目前常用的肤色模型有三种:阈值法、高斯混合模型、椭圆聚类模型。
椭圆聚类模型是在YCb Cr空间最常用的模型。肤色信息在YCb Cr空间上的分布在去除亮度分量后,可以用近似椭圆来描述。
椭圆聚类法运算复杂度不高,适用于实时系统,并且在复杂背景下的分割效果较好,光照变化条件下误检率也不高。YCbCr空间上的分布在去除亮度分量后,可以用近似椭圆来描述。
根据椭圆定义可得出椭圆的标准方程为:
其中,(cx,cy)为椭圆的中心位置、a为长半轴、b为短半轴,θ为旋转角度。
通过大量样本训练,依据上述定义获取椭圆模型的参数。包括椭圆的中心位置(cx,cy)、长半轴a、短半轴b以及旋转角度θ,中心位置可根据由以下公式确定:
其中E为肤色点的聚类区域,N为满足条件的肤色聚类的个数。
由于噪声干扰,所求中心位置经常与理论位置有所偏离,从(cx,cy)向直线XY做垂线,垂线与XY的垂心作为中心位置(cx’,cy’)。
通过图3来纠正中心位置,(cx,cy)为纠正前的位置,(cx’,cy’)为纠正后的位置。
根据前边求得的各参数的值确定椭圆的最小外接圆,根据外接圆能确定椭圆的其它参数。
接下来进行二值化处理,肤色特征区域被顺利识别。
人物肢体动作识别和决策
人物肢体动作识别
通过上述过程对目标人物的识别,可以同时得到人物肢体的肤色特征区域,在肢体运动过程中,肤色特征区域的面积会发生变化,即特征区域中的肤色特征点数会发生变化,可通过式(5)来计算特征点变化值。
Δm=numfi-numfi-n(5)
式中,numfi表示第i帧特征区域中像素数;numfi-n表示第i帧之前n帧特征区域中像素数。
该专利中人物肢体姿态通过肢体跟踪器进行识别,将肢体肤色特征区像素点输入肢体跟踪器,跟踪器计算肤色特征区重心坐标,并输出每一次运动过程的起始重心坐标和结束重心坐标。具体实现过程如下:
第1步、系统开机,开始统计肤色特征区像素点数目;
第2步、记录零手势时的肤色特征点数;
第3步、计算零手势时的特征点数方差E;
第4步、如果第i帧numfi>μ,且Δm=numfj-numfi>E,其中(i<j≤i+10),则将第i帧特征区重心坐标记录为fi(x,y);
第5步、从第j帧开始继续观察,若连续4次numf和Δm都满足第4步的两个条件,则求出这4次特征区重心坐标的平均值,该平均值即为肢体动作起始坐标,否则放弃以前记录的坐标重新开始观察。
第6步、检测并计算出肢体动作起始坐标后,接下来计算结束坐标,当numfi>μ,且Δm=numfk-numfk<-E,其中(l<k≤l+10),则将第l帧特征区重心坐标记录为fl(x,y),并从第k帧开始继续观察,若连续4次观察到numf和Δm满足上述条件,则求出这4次特征区重心坐标的平均值,该平均值即为肢体动作结束坐标。
动作决策器
通过上述内容,已经能够识别出人物的肢体动作,以及每次动作的起始重心坐标和结束重心坐标,接下来使用这些数据,可以通过斜率决策树来实现一个动作决策器,动作决策器的任务是为每一次动作匹配相应的命令。
将每次动作的起始重心坐标和结束重心坐标输入决策器,可输出该次肢体运动的方向信息。将肢体动作的起始坐标作为平面坐标原点,在平面中以斜率大小为1和-1的两条交叉线为分界线,可把平面分割成4个区域。接下来输入肢体运动的开始和结束坐标值到斜率决策树判断,如果结束坐标落在a区域为向上,b区域为向右,c区域为向下,d区域为向左,45度判决为向右,-45度判决为向下,-135度判决为向左,135度判决为向上,然后定义指令意义为向右追光灯右转,向左追光灯左转,向上追光灯变亮,向下追光灯变暗,最后把判断出来的指令传给伺服系统。
数据预处理模块利用识别目标的动态信息,力求去掉噪声、光线变化及遮挡物的影响,得到一个目标位置、速度的更准确的估计,同时将该估计值进行相应的坐标系转换。
(一)卡尔曼滤波器
通过前一阶段的处理,已经可以识别出人物和人物肢体的相对位置,但由于噪声、光线变化及遮挡物的存在,识别出的位置可能有偏差,通过卡尔曼滤波器,可以从序列帧图像中,利用识别目标的动态信息,力求去掉噪声、光线变化及遮挡物的影响,得到一个目标位置、速度的更准确的估计。同时,卡尔曼滤波器不但可以估计目标的当前位置信息,也可以预测出下一帧目标的位置。
在使用卡尔曼滤波器的过程中,需要定义一个离散控制过程的系统。该系统使用线性随机微分方程来描述:
X(n)=M X(n-1)+N U(n)+W(n)
系统的测量值如下:
Z(n)=Q X(n)+V(n)
上述式子中,X(n)是n时刻的系统状态,U(n)是n时刻对系统的控制量。M和N是系统参数,对于多模型系统,他们为矩阵。Z(n)是n时刻的测量值,Q是测量系统的参数,对于多测量系统,Q为矩阵。W(n)和V(n)分别表示过程和测量的噪声。他们被假设成高斯白噪声,他们的协方差分别是Q,R(这里假设他们不随系统状态变化而变化)。
在该舞台灯光自随动系统系统中,系统过程和测量的噪声都为白噪声,因此可以使用卡尔曼滤波器作为信息处理器。下面来使用卡尔曼滤波器的5个公式来估算识别目标位置的最优化输出。
首先要利用卡尔曼系统的过程模型,来预测下一时刻的位置。假设现在时刻是n,根据系统的模型,可以基于系统的上一时刻的位置而预测出当前时刻的位置:
X(n|n-1)=M X(n-1|n-1)+N U(n)………..(1)
式(1)中,X(n|n-1)是上一时刻位置预测的结果,X(n-1|n-1)是上一时刻位置的最优结果,U(n)为当前时刻位置的控制量。
通过上述运算,目标当前时刻位置完成了更新,可是,对应于X(n|n-1)的协方差还没更新。用C表示协方差:
C(n|n-1)=M C(n-1|n-1)M’+R………(2)
式(2)中,C(n|n-1)是X(n|n-1)对应的协方差,C(n-1|n-1)是X(n-1|n-1)对应的协方差,M’表示M的转置矩阵,R是系统过程的协方差。式子1,2就是卡尔曼滤波器5个公式当中的前两个,也就是对系统的预测。
通过上述运算,完成了当前时刻位置的所有预测,接下来再收集现在状态的测量值。结合预测值和测量值,求出现在状态(n)的最优化估算值X(n|n):
X(n|n)=X(n|n-1)+gain(n)(Z(n)-H X(n|n-1))………(3)
其中gain为卡尔曼增益:
gain(n)=C(n|n-1)M’/(H C(n|n-1)M’+R)………(4)
通过上述运算,得到了n状态下最优的估算值X(n|n)。但是由于卡尔曼滤波器要不断的运行下去,还需更新n状态下X(n|n)的协方差:
C(n|n)=(I-gain(n)M)C(n|n-1)………(5)
其中I为1的矩阵。当系统进入n+1状态时,C(n|n)就是式子(2)的C(n-1|n-1)。
这样,算法就可以自回归的运算下去,舞台灯光自随动系统中即使有噪声、光线变化及遮挡物的影响,也可以得到图像视频流中每一帧目标位置、速度的准确的估计,并准确预测出下一帧目标的位置。
(二)、三维信息位置定位
根据卡尔曼滤波器中的数据预处理结果,可以得到目标在摄相机坐标系里的相对位置,但灯光系统无法得到目标在世界坐标系里的位置,因此需要将目标位置在不同坐标系里进行转换,可将转换后的位置信息传给伺服系统并完成灯光自动转向任务。
使用两点标定法,求解舞台所有灯光与相机的相对位置,以相机为坐标原点O(0,0)。
求解方法如下:
(1)首先求出灯源到A的向量灯源到B的向量A与B之间的向量使用这三个向量计算出和之间的夹角θ1,计算出和之间的夹角θ2,求解公式如下:
接下来计算灯源和相机的相对位置C,计算公式如下:
其中两个标定点A=(x1,y1,z1),B=(x2,y2,z2),L=|A-B|
图7是灯源、相机、标定点相对位置关系图通过双目相机自动计算出A,B两点的三维坐标,根据向量关系计算角度关系和A,B两点的位置计算出聚光灯与相机的相对位置
(2)通过上述运算公式,可以计算出来聚光灯与相机的相对位置C,进而可以求出灯源的转动角度θ,求解公式如下:
其中
将灯源相对于目标的转动角度θ值,以信号模式传递给伺服系统。
灯光设备随动模块,随动系统又称伺服系统,是指以机械位置或角度作为控制对象的自动控制系统。伺服系统的主要作用是按照控制命令的要求,对功率进行放大、变换或者调控等处理,使得对驱动装置的速度、位置和输出力矩等变量的控制能够方便自如,而且控制的精准性更高。
使用伺服系统的工作流程如下:
1、根据高清摄像头所拍摄的视频画面,在视频中选定需要跟踪的目标,即舞台上的演员;
2、经过视频运动目标跟踪算法的计算,将得到的演员坐标位置发送给伺服系统进行数据转换以及坐标系转换;
3、调用伺服系统的接口函数将该周期内的电机速度发送给伺服系统,驱动电机使得灯光设备转动。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (4)
1.一种基于肢体动作的舞台灯光自动跟踪方法,其特征在于,所述基于肢体动作的舞台灯光自动跟踪方法包括以下步骤:
步骤一、读取下位机的状态信息,判断伺服系统是否准备就绪;
步骤二、伺服系统没有处于就绪状态,给出错误提示,进而转入步骤一;
步骤三、伺服系统处于就绪状态,判断摄相机是否正确标定;
步骤四、摄像机没有进行正确标定,进入相机标定流程,打印棋格图像并放置在平坦的表面上作为标定物,通过移动相机或者平面拍摄各种角度的棋格图片,抽取各角度图片的特征点进行反畸变运算;
步骤五、摄像机在进行正确标定后,输入摄像机的位置信息;
步骤六、输入灯光设备的位置信息;
步骤七、通过获取的相关信息初始化伺服系统;
步骤八、控制打开摄像机并开始传送视频流;
步骤九、控制管理模块的参数初始化工作流程结束。
2.如权利要求1所述的基于肢体动作的舞台灯光自动跟踪方法,其特征在于,所述相机标定公式:
其中m的齐次坐标表示图像平面的像素坐标(u,v,1),M的齐次坐标表示世界坐标系的坐标点(X,Y,Z,1);A[R t]中R表示旋转矩阵、t表示平移矩阵、S表示尺度因子;A表示摄像机的内参数,具体表达式如下:
α=f/dx,β=f/dy,γ代表像素点在x,y方向上尺度的偏差。
3.如权利要求1所述的基于肢体动作的舞台灯光自动跟踪方法,其特征在于,所述基于肢体动作的舞台灯光自动跟踪方法的人物肢体姿态通过肢体跟踪器进行识别的具体实现过程如下:
第一步、系统开机,开始统计肤色特征区像素点数目;
第二步、记录零手势时的肤色特征点数;
第三步、计算零手势时的特征点数方差E;
第四步、如果第i帧numfi>μ,且Δm=numfj-numfi>E,其中(i<j≤i+10),则将第i帧特征区重心坐标记录为fi(x,y);
第五步、从第j帧开始继续观察,若连续4次numf和Δm都满足第4步的两个条件,则求出这4次特征区重心坐标的平均值,该平均值即为肢体动作起始坐标,否则放弃以前记录的坐标重新开始观察;
第六步、检测并计算出肢体动作起始坐标后,接下来计算结束坐标,当numfi>μ,且Δm=numfk-numfk<-E,其中(l<k≤l+10),则将第l帧特征区重心坐标记录为fl(x,y),并从第k帧开始继续观察,若连续4次观察到numf和Δm满足上述条件,则求出这4次特征区重心坐标的平均值,平均值为肢体动作结束坐标。
4.一种如权利要求1所述基于肢体动作的舞台灯光自动跟踪方法的基于肢体动作的舞台灯光自动跟踪系统,其特征在于,所述基于肢体动作的舞台灯光自动跟踪系统包括:摄像标定工具箱、目标位置识别模块、舞台建模模块、手部识别模块、卡尔曼滤波器、三维信息位置定位模块、控制器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810065601.9A CN108198221A (zh) | 2018-01-23 | 2018-01-23 | 一种基于肢体动作的舞台灯光自动跟踪系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810065601.9A CN108198221A (zh) | 2018-01-23 | 2018-01-23 | 一种基于肢体动作的舞台灯光自动跟踪系统及方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108198221A true CN108198221A (zh) | 2018-06-22 |
Family
ID=62590511
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810065601.9A Pending CN108198221A (zh) | 2018-01-23 | 2018-01-23 | 一种基于肢体动作的舞台灯光自动跟踪系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108198221A (zh) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109089080A (zh) * | 2018-08-22 | 2018-12-25 | 浙江大丰实业股份有限公司 | 复合式舞台追光系统 |
CN109238238A (zh) * | 2018-09-05 | 2019-01-18 | 浙江大丰实业股份有限公司 | 舞台表演者自动定位系统 |
CN109448052A (zh) * | 2018-08-29 | 2019-03-08 | 浙江大丰实业股份有限公司 | 基于图像分析的追光驱动机构 |
CN109951932A (zh) * | 2019-01-25 | 2019-06-28 | 苏州马尔萨斯文化传媒有限公司 | 一种基于压力判定的舞台智能追光灯系统 |
CN110490930A (zh) * | 2019-08-21 | 2019-11-22 | 谷元(上海)文化科技有限责任公司 | 一种摄像机位置的标定方法 |
CN110681057A (zh) * | 2019-09-17 | 2020-01-14 | 天津大学 | 一种用于实验小鼠的实时追踪照射装置及其方法 |
WO2020057570A1 (en) * | 2018-09-18 | 2020-03-26 | AI Gaspar Limited | System and process for identification and illumination of anatomical sites of a person and articles at such sites |
CN111507231A (zh) * | 2020-04-10 | 2020-08-07 | 三一重工股份有限公司 | 工序步骤正确性自动化检测方法和系统 |
CN111726921A (zh) * | 2020-05-25 | 2020-09-29 | 磁场科技(北京)有限公司 | 一种体感交互灯光控制系统 |
CN111918453A (zh) * | 2020-08-18 | 2020-11-10 | 深圳市秀骑士科技有限公司 | Led灯光场景控制系统及其控制方法 |
CN112347846A (zh) * | 2020-09-27 | 2021-02-09 | 浙江大丰实业股份有限公司 | 一种舞台演出调度行为检测系统 |
CN112347847A (zh) * | 2020-09-27 | 2021-02-09 | 浙江大丰实业股份有限公司 | 一种舞台安全监控用自动定位系统 |
CN116257015A (zh) * | 2023-03-22 | 2023-06-13 | 杭州亿达时科技发展有限公司 | 一种基于大数据的舞台追光灯智能控制系统 |
WO2024000362A1 (en) * | 2022-06-30 | 2024-01-04 | Intel Corporation | Methods and apparatus for real-time interactive performances |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2162671A1 (en) * | 2007-06-13 | 2010-03-17 | The Royal College of Art | Directable light |
CN107567169A (zh) * | 2017-09-30 | 2018-01-09 | 广州市浩洋电子股份有限公司 | 一种舞台灯光自动跟踪系统及其控制方法 |
-
2018
- 2018-01-23 CN CN201810065601.9A patent/CN108198221A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2162671A1 (en) * | 2007-06-13 | 2010-03-17 | The Royal College of Art | Directable light |
CN107567169A (zh) * | 2017-09-30 | 2018-01-09 | 广州市浩洋电子股份有限公司 | 一种舞台灯光自动跟踪系统及其控制方法 |
Non-Patent Citations (1)
Title |
---|
刘龙冰: "舞台灯光自动跟踪伺服系统研究与实现", 《中国优秀硕士论文电子期刊网》 * |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109089080A (zh) * | 2018-08-22 | 2018-12-25 | 浙江大丰实业股份有限公司 | 复合式舞台追光系统 |
CN109089080B (zh) * | 2018-08-22 | 2021-05-07 | 浙江大丰实业股份有限公司 | 复合式舞台场景状态监测系统 |
CN109448052A (zh) * | 2018-08-29 | 2019-03-08 | 浙江大丰实业股份有限公司 | 基于图像分析的追光驱动机构 |
CN109448052B (zh) * | 2018-08-29 | 2022-01-28 | 浙江大丰实业股份有限公司 | 基于图像分析的追光驱动机构 |
CN109238238A (zh) * | 2018-09-05 | 2019-01-18 | 浙江大丰实业股份有限公司 | 舞台表演者自动定位系统 |
WO2020057570A1 (en) * | 2018-09-18 | 2020-03-26 | AI Gaspar Limited | System and process for identification and illumination of anatomical sites of a person and articles at such sites |
CN109951932A (zh) * | 2019-01-25 | 2019-06-28 | 苏州马尔萨斯文化传媒有限公司 | 一种基于压力判定的舞台智能追光灯系统 |
CN109951932B (zh) * | 2019-01-25 | 2021-03-19 | 杭州子午舞台设计有限公司 | 一种基于压力判定的舞台智能追光灯系统 |
CN110490930A (zh) * | 2019-08-21 | 2019-11-22 | 谷元(上海)文化科技有限责任公司 | 一种摄像机位置的标定方法 |
CN110490930B (zh) * | 2019-08-21 | 2022-12-13 | 谷元(上海)文化科技有限责任公司 | 一种摄像机位置的标定方法 |
CN110681057A (zh) * | 2019-09-17 | 2020-01-14 | 天津大学 | 一种用于实验小鼠的实时追踪照射装置及其方法 |
CN111507231B (zh) * | 2020-04-10 | 2023-06-23 | 盛景智能科技(嘉兴)有限公司 | 工序步骤正确性自动化检测方法和系统 |
CN111507231A (zh) * | 2020-04-10 | 2020-08-07 | 三一重工股份有限公司 | 工序步骤正确性自动化检测方法和系统 |
CN111726921A (zh) * | 2020-05-25 | 2020-09-29 | 磁场科技(北京)有限公司 | 一种体感交互灯光控制系统 |
CN111726921B (zh) * | 2020-05-25 | 2022-09-23 | 磁场科技(北京)有限公司 | 一种体感交互灯光控制系统 |
CN111918453A (zh) * | 2020-08-18 | 2020-11-10 | 深圳市秀骑士科技有限公司 | Led灯光场景控制系统及其控制方法 |
CN112347846A (zh) * | 2020-09-27 | 2021-02-09 | 浙江大丰实业股份有限公司 | 一种舞台演出调度行为检测系统 |
CN112347846B (zh) * | 2020-09-27 | 2022-06-14 | 浙江大丰实业股份有限公司 | 一种舞台演出调度行为检测系统 |
CN112347847A (zh) * | 2020-09-27 | 2021-02-09 | 浙江大丰实业股份有限公司 | 一种舞台安全监控用自动定位系统 |
WO2024000362A1 (en) * | 2022-06-30 | 2024-01-04 | Intel Corporation | Methods and apparatus for real-time interactive performances |
CN116257015A (zh) * | 2023-03-22 | 2023-06-13 | 杭州亿达时科技发展有限公司 | 一种基于大数据的舞台追光灯智能控制系统 |
CN116257015B (zh) * | 2023-03-22 | 2023-08-11 | 杭州亿达时科技发展有限公司 | 一种基于大数据的舞台追光灯智能控制系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108198221A (zh) | 一种基于肢体动作的舞台灯光自动跟踪系统及方法 | |
CN104601964B (zh) | 非重叠视域跨摄像机室内行人目标跟踪方法及系统 | |
CN109045676B (zh) | 一种象棋识别学习算法和基于该算法的机器人智动化系统与方法 | |
CN104463191A (zh) | 一种基于注意机制的机器人视觉处理方法 | |
CN103279191B (zh) | 一种基于手势识别技术的3d虚拟交互方法及系统 | |
CN108830150A (zh) | 一种基于三维人体姿态估计方法及装置 | |
CN108573221A (zh) | 一种基于视觉的机器人目标零件显著性检测方法 | |
CN107507172A (zh) | 融合红外可见光的特高压线路绝缘子串深度学习识别方法 | |
CN101587591B (zh) | 基于双参数阈值分割的视觉精确跟踪方法 | |
CN110084307A (zh) | 一种基于深度强化学习的移动机器人视觉跟随方法 | |
WO2006111928A2 (en) | Method and system for the detection and the classification of events during motion actions | |
CN110176016B (zh) | 一种基于人体轮廓分割与骨骼识别的虚拟试衣方法 | |
CN104167006B (zh) | 一种任意手形的手势跟踪方法 | |
CN108921881A (zh) | 一种基于单应性约束的跨摄像头目标跟踪方法 | |
CN110688965A (zh) | 基于双目视觉的ipt模拟训练手势识别方法 | |
CN107102736A (zh) | 实现增强现实的方法 | |
CN109752855A (zh) | 一种光斑发射装置和检测几何光斑的方法 | |
CN108681711A (zh) | 一种面向移动机器人的自然路标提取方法 | |
CN106960175A (zh) | 基于深度卷积神经网络的第一视角动态手势检测方法 | |
CN107180224A (zh) | 基于时空滤波和联合空间Kmeans的手指运动检测与定位方法 | |
Li et al. | Visual slam in dynamic scenes based on object tracking and static points detection | |
CN110197121A (zh) | 基于DirectShow的运动目标检测方法、运动目标检测模块及监控系统 | |
CN108062762A (zh) | 一种基于核密度估计的目标跟踪方法 | |
El Sibai et al. | A new robust approach for real-time hand detection and gesture recognition | |
CN104123008B (zh) | 一种基于静态手势的人机交互方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180622 |