发明内容
基于上述问题,本发明提供了一种基于动作识别技术的云台控制方法及系统,通过简单的操作者的肢体动作来实现智能控制云台,用以增强云台控制技术的人际交互性能,从而解决云台控制的不易操作的问题。
本发明提供的一种基于PTZ的视频中目标跟踪方法,所述跟踪方法具体包括下述步骤:
步骤S100、云台控制服务器获取预先采集的客户端场景的动作视频图像,将获取的动作视频图像进行处理得到动作的视频图像序列,得到标准动作信息并生成标准动作语义映射表;
步骤S200,将客户端实时获得的操作者的动作的视频图像传输给云台控制服务器,识别操作者的动作信息,将识别的动作信息与标准动作语义映射表对比分析得到对应的动作控制语义,将对应的动作控制语义转化为相应的云台控制指令,发送给云台;
步骤S300、云台接收云台控制指令,根据云台控制指令控制云台进行相应操作。
进一步地,作为一种可实施方式。所述步骤S200之前还包括步骤R100:
步骤R100、第二摄像设备预先采集客户端场景中操作者的动作视频图像。
进一步地,作为一种可实施方式。所述步骤S200包括如下步骤:
步骤S210、利用背景建模法为获取的操作者的动作视频图像中的客户端场景建模,并利用时间差分法检测视频图像中操作者的动作,将获取的操作者的动作视频图像进行处理得到操作者的动作的视频图像序列;
步骤S220、采用模板匹配技术将图像序列转化为一组静态形状模式,并和预先存储的行为标本分析比较,识别得到操作者的动作信息;
步骤S230、将设别的操作者的动作信息与标准动作语义映射表对比,得到对应动作控制语义;
步骤S240、将对应的动作控制语义转化为相应的云台控制指令并发送给云台。
进一步地,作为一种可实施方式。所述步骤S300包括如下步骤:
步骤S310、云台接收云台控制指令,调整云台执行采集远程监测场景的视频图像的操作,控制云台和/或第一摄像设备执行平移和/或变焦的操作并采集远程监测场景的视频图像;
所述步骤S300之后还包括步骤S400:
步骤S400、云台控制服务器接收远程监测场景的视频图像并将所述远程监测场景的视频图像显示在客户端上。
较佳地,作为一种可实施方式。所述标准动作语义映射表包括如下信息:标准动作信息和相应的动作控制语义。
相应地,作为一种可实施方式。本发明还提供了一种基于动作识别技术的云台控制系统,包括客户端和第一摄像设备,所述第一摄像设备包括云台,所述第一摄像设备为网络摄像机,所述云台控制系统还包括云台控制服务器,所述云台控制服务器分别与客户端和第一摄像设备的云台通过网络连接,其中:
所述云台控制服务器包括生成模块、处理模块,其中:
所述生成模块,用于获取预先采集的客户端场景的动作视频图像,将获取的动作视频图像进行处理得到动作的视频图像序列,得到标准动作信息并生成标准动作语义映射表;
所述处理模块,用于接收客户端实时获得的操作者的动作的视频图像,云台控制服务器识别操作者的动作信息,将识别的动作信息与标准动作语义映射表对比分析得到对应的动作控制语义,将对应的动作控制语义转化为相应的云台控制指令,发送给云台;
所述第一摄像设备的云台,用于在接收云台控制指令后,根据云台控制指令控制云台进行相应操作。
进一步地,作为一种可实施方式。所述基于动作识别技术的云台控制系统还包括第二摄像设备,其中:
所述第二摄像设备,用于采集客户端场景中操作者的动作视频图像并传输给所述云台控制服务器。
进一步地,作为一种可实施方式。所述云台控制服务器还包括接收模块,其中:
所述接收模块,用于在调整云台执行采集远程监测场景的视频图像的操作之后,接收远程监测场景的视频图像并将所述远程监测场景的视频图像显示在客户端上。
进一步地,作为一种可实施方式。所述处理模块包括图像处理子模块、人体动作识别子模块、动作语义映射子模块和转化发送子模块,其中:
所述图像处理子模块,用于利用背景建模法为获取的操作者的动作视频图像中的客户端场景建模,并利用时间差分法检测视频图像中操作者的动作,将获取的操作者的动作视频图像进行处理得到操作者的动作的视频图像序列;
所述人体动作识别子模块,用于采用模板匹配技术将图像序列转化为一组静态形状模式,并和预先存储的行为标本分析比较,识别得到操作者的动作信息;
所述动作语义映射子模块,用于将设别的操作者的动作信息与标准动作语义映射表对比,得到对应动作控制语义;
所述转化发送子模块,用于将对应的动作控制语义转化为相应的云台控制指令并发送给云台控制单元。
进一步地,作为一种可实施方式。所述第一摄像设备还包括云台控制单元;
所述云台控制单元,用于接收云台控制指令,控制云台和/或第一摄像设备执行平移和/或变焦的操作并采集远程监测场景的视频图像。
本发明的有益效果包括:
本发明提供的一种基于动作识别技术的云台控制方法及系统,其中方法包括以下步骤:步骤S100、云台控制服务器获取预先采集的客户端场景的动作视频图像,将获取的动作视频图像进行处理得到动作的视频图像序列,得到标准动作信息并生成标准动作语义映射表;步骤S200、将客户端实时获得的操作者的动作的视频图像传输给云台控制服务器,识别操作者的动作信息,将识别的动作信息与标准动作语义映射表对比分析得到对应的动作控制语义,将对应的动作控制语义转化为相应的云台控制指令,发送给云台;步骤S300、云台接收云台控制指令,根据云台控制指令控制云台进行相应操作;
其中,根据操作者的动作的视频图像序列识别操作者的动作信息,再将设别的动作信息与标准动作语义映射表对比分析得到对应的动作控制语义,将对应动作控制语义转化为相应的云台控制信号具有重要意义。总的来说,与现有技术相比,本发明所提供的基于动作识别技术的云台控制方法可以通过操作者肢体动作实现智能控制云台增强了云台控制技术的人际交互性能。
具体实施方式
下面结合说明书附图,对本发明基于动作识别技术的云台控制方法及系统的具体实施方式进行说明。
本发明实施例提供了一种基于动作识别技术的云台控制方法,如图1所示,具体包括以下步骤:
步骤S100、云台控制服务器获取预先采集的客户端场景的动作视频图像,将获取的动作视频图像进行处理得到动作的视频图像序列,得到标准动作信息并生成标准动作语义映射表;
步骤S200,将客户端实时获得的操作者的动作的视频图像传输给云台控制服务器,识别操作者的动作信息,将识别的动作信息与标准动作语义映射表对比分析得到对应的动作控制语义,将对应的动作控制语义转化为相应的云台控制指令,发送给云台;
步骤S300、云台接收云台控制指令,根据云台控制指令控制云台进行相应操作。
本发明实施例在具体实施时,上述各步骤可以由基于动作识别技术的云台控制系统来完成。下面对上述流程进行进一步的详细说明:
较佳地,作为一种可实施方式。所述步骤S100之前还包括步骤R100:
步骤R100、第二摄像设备预先采集客户端场景中操作者的动作视频图像。
在本发明实施例中,第二摄像设备配置了镜头,镜头用于采集操作者的动作视频图像,为后续的分析识别操作者的动作信息提供视频图像数据。
进一步地,作为一种可实施方式。所述步骤S200具体包括如下,如图2所示:
步骤S210、利用背景建模法为获取的操作者的动作视频图像中的客户端场景建模,并利用时间差分法检测视频图像中操作者的动作,将获取的操作者的动作视频图像进行处理得到操作者的动作的视频图像序列;
步骤S220、采用模板匹配技术将图像序列转化为一组静态形状模式,并和预先存储的行为标本分析比较,识别得到操作者的动作信息;
步骤S230、将设别的操作者的动作信息与标准动作语义映射表对比,得到对应动作控制语义;
步骤S240、将对应的动作控制语义转化为相应的云台控制指令并发送给云台。
进一步地,在步骤S210中,利用背景建模法为获取的操作者的动作视频图像中的客户端场景建模,这样,将得到客户端场景的背景模型,背景建模法在现有技术中有很多应用,例如,中值法背景建模:顾名思义,就是在一段时间内,取连续N帧图像序列,把这N帧图像序列中对应位置的像素点灰度值按从小到大排列,然后取中间值作为背景图像中对应像素点的灰度值;均值法背景建模:均值法建模算法非常简单,就是对一些连续帧取像素平均值。其基本思想是,在视频图像中取连续N帧,计算这N帧图像像素灰度值的平均值来作为背景图像的像素灰度值;还包括卡尔曼滤波器模型,单高斯分布模型等,本发明实施例对此不做具体限定;
利用时间差分法检测视频图像中操作者的动作,较佳地,在本发明实施中,检测视频图像中操作者的上肢动作具有更实际的意义;下面以检测视频图像中操作者的上肢动作为例继续说明下述各个步骤,利用时间差分法与背景建模法相结合的混合算法可以很快有效地从背景中检测出运动目标(即操作者动作),再利用图像分割处理技术将操作者的动作视频图像分割出来操作者的动作(上肢动作)视频图像序列;
在本发明实施例中,除去使用时间差分法检测操作者的上肢动作还可以使用背景差分法,本发明对此不作具体限定;背景差分法又称背景减法(backgroundsubtraction)是采用图像序列中的当前帧和背景参考模型比较来检测运动物体的一种方法,其性能依赖于所使用的背景建模技术。使用背景差分法检测所述预设位置场景即时获取的监控视频图像中前景目标(操作者的动作)。背景差分法是目前运动分割中最常用的一种方法,它是通过对每个输入的视频帧和模型的背景图像进行比较来检测运动目标(操作者的动作);这样通过基于背景差方法可以检测前景目标,在本发明实施例中,为背景图像建立模型是利用了背景建模方法。
利用图像分割处理技术将操作者的动作视频图像分割出来操作者的上肢动作视频图像序列;
至此,视频图像分割处理流程结束。
在上述步骤S220中,根据操作者的上肢动作的视频图像序列识别操作者的上肢动作信息;其中,利用模板匹配方法的行为识别方法首先将上肢动作视频图像序列转化为为一组静态形状模式,并和预先存储的行为标本分析比较,识别得到操作者的上肢动作信息。
至此,视频图像识别上肢动作信息的流程结束。
在步骤S230中,将设别的操作者的上肢动作信息与标准动作语义映射表对比,得到对应动作控制语义;例如,当识别的动作信息为“挥手”时,通过语义映射表可以查到对应的动作控制语义为“进入动作操作模式”;如下表1所示:
动作序号 |
动作信息 |
动作控制语义 |
1 |
挥手 |
进入动作操作模式 |
2 |
暂停 |
准备控制 |
3 |
向上挥手 |
云台向上转动3秒钟 |
4 |
向下挥手 |
云台向下转动3秒钟 |
5 |
向左挥手 |
云台向左转动3秒钟 |
6 |
向右挥手 |
云台向右转动3秒钟 |
7 |
向前推手 |
放大监控视频图像2倍 |
8 |
向后拉手 |
缩小监控视频图像2倍 |
9 |
举起单手 |
重新定位操作者 |
10 |
快速挥手 |
退出动作操作模式 |
较佳地,作为一种可实施方式。所述标准动作语义映射表包括如下信息:标准动作信息和相应的动作控制语义。
至此,对比动作语义映射表查找对应动作控制语义的流程结束。
在步骤S240中,将对应的动作控制语义转化为相应的云台控制指令并发送给云台;
本领域技术人员应该可以理解,通过上述步骤S210~步骤S240,本发明实施例所提供的基于动作识别技术的云台控制方法,通过“视频图像处理”、“人体动作识别”、“动作语义映射”、“动作控制语义转化”等步骤可以将视频图像解析出云台控制指令并发送给云台。
进一步地,作为一种可实施方式。所述步骤S300包括如下步骤:
步骤S310、云台接收云台控制指令,调整云台执行采集远程监测场景的视频图像的操作,控制云台和/或第一摄像设备执行平移和/或变焦的操作并采集远程监测场景的视频图像;
所述步骤S300之后还包括步骤S400:
步骤S400、云台控制服务器接收远程监测场景的视频图像并将所述远程监测场景的视频图像显示在客户端上。
在上述步骤S300~步骤S400中、云台接收云台控制指令,调整云台执行采集远程监测场景的视频图像的操作,控制云台和/或第一摄像设备执行平移和/或变焦的操作并采集远程监测场景的视频图像;其中,直接调整云台和或镜头的是云台控制单元;采集到远程监测场景的视频图像后,云台控制服务器接收远程监测场景的视频图像并将所述远程监测场景的视频图像显示在客户端上。
较佳地,作为一种可实施方式。本发明实施例中,当需要远程控制时,在远程控制现场还可以配置远程控制服务器,所述远程控制服务器通过网络通信协议与云台控制服务器建立通信连接;所述网络通信协议为传输控制协议/互联网协议TCP/IP。这样,远程控制服务器与云台控制服务器是通过网络来传输视频图像数据和云台控制指令等信息。这样云台控制服务器经过是一系列图像处理、识别、对照和转化后,先发送云台控制指令到远程控制服务器,经远程控制服务器将控制指令处理再发送给云台控制单元,从而完成了整个控制过程。在本发明实施例中,对比动作语义映射表查找的对应动作控制语义的结果以XML形式存储,再解析XML文档调用云台控制指令。
在本发明实施例中,第一摄像设备的云台具有如下结构和工作特点:其执行机构是步进电机,同时系统与上位机(远程控制服务器)需要进行信息交换,第一摄像设备的云台控制单元设计选用单片机来进行实现。所述单片机可以依据实际设计要求选择合适的单片机。所述单片机装入云台内部可以接收云台控制指令,再发送信号来控制第一摄像设备的云台上的驱动步进电机运转,执行平移操作和/或控制第一摄像设备的第一镜头执行变焦的操作。因此,云台控制单元(单片机)可以直接控制云台和第一镜头。
远程控制服务器与单片机(芯片),通过RS485总线方式实现通讯,远程控制服务器将云台控制指令从串口发出,通过RS485总线将云台控制指令传送到现场的单片机,单片机通过处理得到远程控制服务器发送的云台控制指令,发出控制信号信息控制步进电机运行和/或控制第一摄像设备的第一镜头执行变焦的操作;单片机控制过程属于现有技术的范畴,在此不再详述。在本发明实施例中,除通过单片机控制云台外,还可以利用其他控制单元,例如,可编程逻辑控制器(Programmable Logic Controller,PLC),可编程自动化控制器(PAC)等,本发明实施例对此不再一一赘述。
第一摄像设备采集远程监测场景的视频图像之后,云台控制服务器将远程监测场景的视频图像传送到客户端,并显示出远程监测场景的视频图像。这样操作者可以通过客户端(客户端可配置显示器)直观的观察并判断云台控制系统执行的操作是否为正确的操作。
为了更好地说明本发明实施例提供的基于动作识别技术的云台控制方法,举一个实际的例子加以说明。
实施例一:
首先,云台控制服务器实时采集操作者的动作视频图像后,经过视频图像处理、识别、对比得到动作控制语义,实时进行人体动作识别并返回识别结果。云台控制系统将识别到的操作者动作和相应的云台动作控制语义映射起来,比如本发明实施例将“向右挥手”这个动作信息和云台“向右转动一定角度”这个云台控制信号关系耦合起来。
根据语义映射表配置可以得知:设定了某个时间周期内检测到的“挥手”动作,这个挥手动作通过一系列的处理、识别和对比分析最终得到一个进入动作操作模式的动作控制语义;再经过动作控制语义的转化最终产生云台和镜头初始化的联动;云台控制系统根据所述设定的时间周期再去识别执行下一个控制动作;
换言之,云台控制系统每次执行一个调整动作之后,都要恢复准备控制模式,然后再识别下一个动作。例如,操作者“向上挥手”(包括上臂)的上肢动作,云台控制系统在识别之后,调整向上转动一定角度的操作;调整之后,云台控制系统自动恢复准备控制模式;其中,云台控制系统将利用一定的时间周期恢复准备模式,在这个时间周期内云台控制系统不会识别操作者的任何动作;期间,操作者可以将上一个时间周期内抬起的手臂放下来,准备下一个动作。较佳地,本发明实施例所提供的云台控制系统在云台控制系统处于各种模式时候,会在客户端显示器上提示操作者以方便操作者实施控制和动作准备;例如,云台控制系统识别到人手处于暂停动作信息时,那么系统将会给操作者一个“开始控制”的指示,提示操作者可以通过动作控制云台了。否则系统会一直检测人体动作,若检测到“退出”动作,系统会退出动作控制模式;
其中,需要特别说明的是:云台控制系统在识别“挥手”和“快速挥手”时候,会认定在某个时间阈值范围的挥手动作为快速挥手,超出某个阈值的挥手为挥手。例如,设定为1s~2s内的操作者的来回挥手动作一次,识别为“挥手”的动作信息,并最终分析得到“初始化模式”动作控制语义,而1s内的操作者的来回挥手动作一次,识别为“快速挥手”的动作信息,并最终分析得到“退出模式”动作控制语义;超过2s的动作信息或不动作(动作暂停)识别为“暂停”的动作信息,最终分析的得到“准备控制模式”。1s内操作者的动作中的“向左挥手”一次分析得到动作控制语义中的“向左转动一定角度”;当遇到控制数据丢失情况时,操作者可以通过动作快速举起单手来控制第一镜头重新定位;1s~2s内操作者动作中的“向上挥手”一次最终分析得到动作控制语义中的“向上转动一定角度”,1s内操作者动作中的“向上挥手”(快速挥手)一次最终分析得到动作控制语义中的“重新定位”;执行重新定位后云台控制系统自动进入准备控制模式。
另外,“向前推手”、“向后拉手”动作则可以转换成“放大视频图像2倍”、“缩小视频图像2倍”的命令。这样是为了防止控制秩序的紊乱。当然,此处只是为了举例,在实施例一中,动作语义映射模块也可以将相应的人体动作映射为其他的云台控制命令,这可以通过语义映射模块灵活配置;本发明实施例对此不作具体限定。
较佳地,作为一种可实施方式;当在控制过程中需要换操作者时,当前的操作者可以离开控制摄像头场景,另外一名操作者或同一名操作者再次进入场景中时只需做“举起单手”动作就会再次进入动作控制模式对云台进行控制;
本领域技术人员应该可以理解,经上述步骤分析可以得知,云台控制系统可以识别操作者的动作,并识别得到动作信息最终得到云台控制指令实现对远程监测场景中执行控制镜头和/或云台实时采集监控视频图像的操作。
综上所述,云台控制服务器(监控现场端)实现了对操作者动作的视频图像处理和识别以及对比分析,远程控制服务器(远程控制端)实现了对云台和/或镜头(采集设备终端)的控制,最后将视视频图像显示在客户端显示器上(客户端);这样,本发明实施例通过简单的操作者肢体动作,实现智能控制云台,并减少了复杂的操作流程,简单、方便、易于操控的特点增强了云台控制技术的人际交互性能。
基于同一发明构思,本发明实施例还提供了基于动作识别技术的云台控制系统,由于此系统解决问题的原理与前述用于基于动作识别技术的云台控制方法相似,因此该系统的实施可以参见前述方法的实施,重复之处不再赘述。
相应地,作为一种可实施方式。本发明提供的基于动作识别技术的云台控制系统,如图3所示,包括客户端10和第一摄像设备20,所述第一摄像设备20包括云台201,所述第一摄像设备为网络摄像机,所述云台控制系统还包括云台控制服务器30,所述云台控制服务器30分别与客户端10和第一摄像设备的云台201通过网络连接,其中:
所述云台控制服务器30包括生成模块301、处理模块302,其中:
所述生成模块301,用于获取预先采集的客户端场景的动作视频图像,将获取的动作视频图像进行处理得到动作的视频图像序列,得到标准动作信息并生成标准动作语义映射表;
所述处理模块302,用于接收客户端实时获得的操作者的动作的视频图像,云台控制服务器识别操作者的动作信息,将识别的动作信息与标准动作语义映射表对比分析得到对应的动作控制语义,将对应的动作控制语义转化为相应的云台控制指令,发送给云台;
所述第一摄像设备的云台201,用于在接收云台控制指令后,根据云台控制指令控制云台进行相应操作。
进一步地,作为一种可实施方式。所述基于动作识别技术的云台控制系统还包括第二摄像设备40,其中:
所述第二摄像设备40,用于采集客户端场景中操作者的动作视频图像并传输给所述云台控制服务器。
进一步地,作为一种可实施方式。所述云台控制服务器30还包括接收模块303,其中:
所述接收模块303,用于在调整云台执行采集远程监测场景的视频图像的操作之后,接收远程监测场景的视频图像并将所述远程监测场景的视频图像显示在客户端上。
进一步地,作为一种可实施方式。所述处理模块302包括图像处理子模块3021、人体动作识别子模块3022、动作语义映射子模块3023和转化发送子模块3024,其中:
所述图像处理子模块3021,用于利用背景建模法为获取的操作者的动作视频图像中的客户端场景建模,并利用时间差分法检测视频图像中操作者的动作,将获取的操作者的动作视频图像进行处理得到操作者的动作的视频图像序列;
所述人体动作识别子模块3022,用于采用模板匹配技术将图像序列转化为一组静态形状模式,并和预先存储的行为标本分析比较,识别得到操作者的动作信息;
所述动作语义映射子模块3023,用于将设别的操作者的动作信息与标准动作语义映射表对比,得到对应动作控制语义;
所述转化发送子模块3024,用于将对应的动作控制语义转化为相应的云台控制指令并发送给云台控制单元。
进一步地,作为一种可实施方式。所述第一摄像设备20还包括云台控制单元202;
所述云台控制单元202,用于接收云台控制指令,控制云台和/或第一摄像设备执行平移和/或变焦的操作并采集远程监测场景的视频图像。
较佳地,在本发明实施例中,可以根据具体监控情况而选择是否需要配置远程控制服务器,当需要远程控制现场配置远程控制服务器时,所述远程控制服务器通过网络通信协议与云台控制服务器建立通信连接;远程控制服务器可以解决远程视频图像信息和云台控制指令的传输的问题。
本发明实施例提供的一种基于动作识别技术的云台控制方法及系统,其中方法包括以下步骤:步骤S100、云台控制服务器获取预先采集的客户端场景的动作视频图像,将获取的动作视频图像进行处理得到动作的视频图像序列,得到标准动作信息并生成标准动作语义映射表;步骤S200、将客户端实时获得的操作者的动作的视频图像传输给云台控制服务器,识别操作者的动作信息,将识别的动作信息与标准动作语义映射表对比分析得到对应的动作控制语义,将对应的动作控制语义转化为相应的云台控制指令,发送给云台;步骤S300、云台接收云台控制指令,根据云台控制指令控制云台进行相应操作;
其中,根据操作者的动作的视频图像序列识别操作者的动作信息,再将设别的动作信息与标准动作语义映射表对比分析得到对应的动作控制语义,将对应动作控制语义转化为相应的云台控制信号具有重要意义。总的来说,与现有技术相比,本发明所提供的基于动作识别技术的云台控制方法可以通过操作者肢体动作实现智能控制云台增强了云台控制技术的人际交互性能
以上所述实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。