发明内容
本发明提供一种关键目标的行为预测方法,该方法应用于AI服务器,实施该方法,可实现对关键目标的分类识别和行为预测,不仅能更准确地跟踪关键目标的行为轨迹,而且还能帮助用户有效监控和管理监控区域内的目标对象,提升用户体验。
第一方面,提供一种关键目标的行为预测方法,应用于AI服务器,包括:
获取追踪相机在预设时间片段内自触发拍摄的户外图像;
将所述户外图像输入到卷积神经网络中进行分类和识别,得到带标注信息的户外图像;其中所述标注信息包括场景类别、目标类别和行为信息;
根据所述目标类别,从所述带标注信息的户外图像中筛选出包含关键目标的目标图像;
当所述目标图像的数量超过预设数值后,根据所述目标图像的时间信息、地理信息、场景类别、行为信息及所述追踪相机的当前环境信息建立行为预测模型,并根据所述行为预测模型预测所述关键目标的未来行为。
优选地,在预测所述关键目标的未来行为之后,所述方法还包括:继续获取所述追踪相机自触发拍摄得到的户外图像;若将所述户外图像输入到所述卷积神经网络中进行分类和识别,得到的带标注信息的户外图像中的目标类别为所述关键目标,而且其行为信息与预测的所述未来行为相符,则触发向用户终端发送提醒信息。
优选地,在将所述户外图像输入到卷积神经网络中进行分类和识别之后,所述方法还包括:若所述户外图像为误触发拍摄得到的,则过滤该户外图像;若所述户外图像的图像质量低于预设阈值,则对该户外图像进行修正处理,以使该户外图像的图像质量满足所述预设阈值;若所述户外图像为在光线较弱的环境拍摄得到的,则对该户外图像进行彩色化处理。
优选地,在从所述带标注信息的户外图像中筛选出包含关键目标的目标图像之后,所述方法还包括:根据所述目标图像生成所述关键目标的时间轴信息,其中所述时间轴信息包括时间信息、地理信息、场景类别和行为信息;并将所述时间轴信息和所述目标图像发送至用户终端,以使所述用户终端显示所述目标图像和所述时间轴信息。
优选地,在根据所述目标图像生成所述关键目标的时间轴信息之后,所述方法还包括:对所述关键目标的时间轴信息进行统计,得到所述关键目标的习惯行为,并将所述关键目标的习惯行为发送至所述用户终端。
优选地,在将所述时间轴信息和所述目标图像发送至用户终端之后,或者在将所述关键目标的习惯行为发送至所述用户终端之后,所述方法还包括:接收从用户终端反馈的错误信息,并获取所述错误信息对应的目标图像;其中所述错误信息包括错误时间轴信息,和/或,错误习惯行为;获取所述错误信息对应的目标图像的人为标注信息,并将该人为标注信息和该目标图像重新输入到所述卷积神经网络中进行训练。
优选地,在将所述户外图像输入到卷积神经网络中进行分类和识别之后,所述方法包括:若无法得到带标注信息的户外图像,则获取该户外图像的人为标注信息,并将该户外图像和其人为标注信息重新输入到所述卷积神经网络中进行训练。
优选地,所述追踪相机为多个,且各个追踪相机的地理位置不同,在筛选出包含关键目标的目标图像之后,所述方法还包括:根据从多个不同地理位置的追踪相机对应的目标图像,生成关键目标地图,并将所述关键目标地图发送至用户终端;其中所述关键目标地图包括所述关键目标的休息地,和/或,饮水地。
第二方面,提供一种用于关键目标的行为预测的装置,包括:
通信模块,用于获取追踪相机在预设时间片段内自触发拍摄的户外图像;
神经网络模块,用于将所述户外图像输入到卷积神经网络中进行分类和识别,得到带标注信息的户外图像;其中所述标注信息包括场景类别、目标类别和行为信息;
关键目标筛选模块,用于根据所述目标类别,从所述带标注信息的户外图像中筛选出包含关键目标的目标图像;
行为预测模块,用于当所述目标图像的数量超过预设数值后,根据所述目标图像的时间信息、地理信息、场景类别、行为信息及所述追踪相机的当前环境信息建立行为预测模型,并根据所述行为预测模型预测所述关键目标的未来行为。
优选地,所述装置还包括预警模块,所述预警模块用于,继续获取所述追踪相机自触发拍摄得到的户外图像;若将所述户外图像输入到所述卷积神经网络中进行分类和识别,得到的带标注信息的户外图像中的目标类别为所述关键目标,而且其行为信息与预测的所述未来行为相符,则触发向用户终端发送提醒信息。
优选地,所述装置还包括图像筛选处理模块,所述图像筛选处理模块用于,若所述户外图像为误触发拍摄得到的,则过滤该户外图像;若所述户外图像的图像质量低于预设阈值,则对该户外图像进行修正处理,以使该户外图像的图像质量满足所述预设阈值;若所述户外图像为在光线较弱的环境拍摄得到的,则对该户外图像进行彩色化处理。
优选地,时间轴信息生成模块,所述时间轴信息生成模块用于,根据所述目标图像生成所述关键目标的时间轴信息,其中所述时间轴信息包括时间信息、地理信息、场景类别和行为信息;并将所述时间轴信息和所述目标图像发送至用户终端,以使所述用户终端显示所述目标图像和所述时间轴信息。
优选地,所述行为预测模块还用于,对所述关键目标的时间轴信息进行统计,得到所述关键目标的习惯行为,并将所述关键目标的习惯行为发送至所述用户终端。
优选地,所述装置还包括校正模块,所述校正模块用于,接收从用户终端反馈的错误信息,并获取所述错误信息对应的目标图像;其中所述错误信息包括错误时间轴信息,和/或,错误习惯行为;获取所述错误信息对应的目标图像的人为标注信息,并将该人为标注信息和该目标图像重新输入到所述卷积神经网络中进行训练。
优选地,所述校正模块还用于,在将所述户外图像输入到卷积神经网络中进行分类和识别之后,若无法得到带标注信息的户外图像,则获取该户外图像的人为标注信息,并将该户外图像和其人为标注信息重新输入到所述卷积神经网络中进行训练。
优选地,所述装置还包括地图生成模块,所述地图生成模块用于,根据从多个不同地理位置的追踪相机对应的目标图像,生成关键目标地图,并将所述关键目标地图发送至用户终端;其中所述关键目标地图包括所述关键目标的休息地,和/或,饮水地。
第三方面,提供一种AI服务器,包括处理器、输入接口、输出接口和存储器,其中,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器用于调用所述程序指令,执行如第一方面任一实施例的方法和步骤。
第四方面,提供一种计算机可读存储介质,所述计算机存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如第一方面任一实施例的方法和步骤。
本发明实施例中,AI服务器获取追踪相机在预设时间片段内自触发拍摄的户外图像;并将户外图像输入到卷积神经网络中进行分类和识别,得到带标注信息的户外图像;然后根据目标类别,从带标注信息的户外图像中筛选出包含关键目标的目标图像;当目标图像的数量超过预设数值后,根据目标图像的时间信息、地理信息、场景类别、行为信息及追踪相机的当前环境信息建立行为预测模型,并根据行为预测模型预测关键目标的未来行为。本发明基于人工智能可实现对人或动物的分类识别和行为预测,不仅能更准确地跟踪关键目标的行为轨迹,而且还能帮助用户有效监控和管理监控区域内的关键目标,提升用户体验。
具体实施方式
下面将结合本公开实施例中的附图,对本公开实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
本发明实施例提供了一种新的关键目标的行为预测技术方案,可实现对人或动物的分类识别和行为预测,不仅能更准确地跟踪关键目标,而且还能帮助用户有效监控和管理监控区域内的关键目标,提升用户体验。下面首先介绍本发明提供的关键目标的行为预测的网络架构,具体参见图1,该架构主要包括:
(1)追踪相机:追踪相机内设置有红外感应的追踪传感器,用于在检测到人或动物向外散发的热红外线或者检测到温度差的情况下,触发追踪相机进行拍摄并将拍摄得到的户外图像通过WiFi或者移动网络(3G/4G/5G)传输到AI服务器中。
(2)AI服务器:AI服务器为部署在云端的服务器,在AI服务器内部署具有分类和识别功能的卷积神经网络,当AI服务器接收到追踪相机通过通讯网络发送的户外图像时,AI服务器对该户外图像进行分类和识别,而且,当AI服务器积累的户外图像的数量足够多的情况下,该AI服务器还可以根据大量的户外图像中的关键目标信息进行数学建模,建立行为预测模型,并通过该行为预测模型预测人或动物的未来行为。
(3)用户终端:该用户终端通常为智能手机,平板电脑、智能可穿戴设备,计算机等智能设备。该用户终端可用于接收AI服务器对户外图像的分类和识别结果,并将分类和识别结果以时间轴或者地图的形式呈现,以方便用户查看追踪相机监控区域的人或动物情况;该用户终端还可用于接收AI服务器预测追踪相机监控区域内人或动物的未来行为,用户可根据预测的未来行为提高打猎成功的概率,或者帮助用户有效监控该监控区域内的人或动物。
下面结合附图详细描述本发明实施例提供的关键目标的行为预测方法,参见图2,图2是本发明实施例提供的一种关键目标的行为预测的流程示意图。如图2所示,该方法应用于AI服务器,具体包括:
S101、获取追踪相机在预设时间片段内自触发拍摄的户外图像。
在本发明实例中,追踪相机为具体红外探测功能,和/或,温差感应功能的户外相机。以打猎为例子,用户常常将追踪相机绑在户外的树干上,当有人或动物经过该追踪相机的监控范围时,追踪相机可以检测到人或动物散发的红外线或者经过的温差变化,从而触发追踪相机进行拍摄得到户外图像或者户外视频,并将户外图像或者户外视频通过WiFi或者移动网络(3G/4G/5G)发送至AI服务器中,相应的AI服务器接收追踪相机发送的户外图像或者户外视频。
可选地,AI服务器还可以接收由用户终端,例如智能手机或者个人电脑,发送的户外图像或者户外视频,例如,用户终端通过读卡器读取追踪相机的存储卡(例如sd卡或者tf卡)中的户外图像或者户外视频后,将户外图像或者户外视频通过用户终端发送至AI服务器。
S102、将户外图像输入到卷积神经网络中进行分类和识别,得到带标注信息的户外图像。
在AI服务器中预先部署已训练完成的卷积神经网络,该卷积神经网络可基于图像内容对户外图像中的场景和目标(动物或者人)进行分类和识别。AI服务器将接收到户外图像输入到该卷积神经网络进行识别和分类后,将输出得到带标注信息的户外图像,其中标注信息至少包括:场景类别、目标类别和行为信息。举例来说,场景类别例如为栖息地、饮水地等,目标类别例如为野猪、羚羊、花鹿等动物或者为偷盗的人,行为信息例如为停留、行走、进食、休息等。
本发明中的卷积神经网络可以是LeNet、AlexNet、GoogLeNet、VGGNet、ResNet等任意类型的神经网络模型,本发明对此不作具体限定。
可选的,若户外图像为误触发拍摄得到的,例如根据卷积神经网络识别该户外图像中不存在相关目标对象,例如不存在动物或者人,则过滤删除该户外图像,无需通过网络向用户终端传输该图像,以减少用户使用的流量和被打扰的次数;若所述户外图像的图像质量低于预设阈值,例如根据卷积神经网络识别该户外图像中存在模糊、偏色、偏暗、拖影中的一种或者多种,则对该户外图像进行修正处理,例如对该图像进行除雾、提高分辨率、提高清晰度、调整对比度、调整偏色等处理,经处理后的图像质量满足预设阈值;若户外图像为在光线较弱的环境,例如夜晚拍摄得到的,该户外图像通常为黑白图像,则需对该户外图像进行彩色化处理。
S103、根据目标类别,从带标注信息的户外图像中筛选出包含关键目标的目标图像。
在追踪相机监控区域内通常会出现不止一种类型的动物,为帮助用户对不同类型的动物进行有效管理和监控,提高用户体验,AI服务器还可以根据关键目标的目标类别,从带标注信息的户外图像中筛选出包含关键目标的目标图像,例如从野猪图像、羚羊图像、花鹿图像中筛选出羚羊图像。
为便于用户查看追踪相机所在监控区域内关键目标随时间的动态变化情况,本发明在筛选出包含关键目标的目标图像之后,还根据目标图像生成关键目标的时间轴信息,其中时间轴信息包括时间信息、地理信息、场景类别和行为信息;并将时间轴信息和目标图像发送至用户终端,以使用户终端显示目标图像和时间轴信息。举例来说,在筛选出包含羚羊的所有图像之后,分别从这些图像中提取拍摄时间和拍摄地点,并基于卷积神经网络识别图像中的场景和关键目标的行为之后,按照拍摄时间顺序梳理上述信息得到羚羊的时间轴信息,并将包含羚羊的目标图像和羚羊的时间轴信息发送至用户终端,用户终端可将羚羊的目标图像按照羚羊的时间顺序进行排布并显示,并在各个目标图像附近显示拍摄时间、拍摄地点、拍摄场景、羚羊的行为中任意一项或者任意多项组合。
可选的,在根据目标图像生成关键目标的时间轴信息之后,对关键目标的时间轴信息进行统计,得到关键目标的习惯行为,并将关键目标的习惯行为发送至用户终端。例如,从羚羊的时间轴信息中可以统计出羚羊习惯在什么时间段,什么地点,什么场景,做了什么行为。因此,可更加准准确地追踪关键目标的行为轨迹,基于行为轨迹可以帮助用户获取关键目标行为特征等信息。
为提高卷积神经网络的分类和识别的准确率,本发明的AI服务器还对卷积神经网络的分类和识别结果进行校正和纠错。在将时间轴信息和目标图像发送至用户终端之后,或者在将关键目标的习惯行为发送至用户终端之后,如用户终端向AI服务器反馈错误信息,该错误信息可包括错误时间轴信息,和/或,错误习惯行为,则AI服务器会获取错误信息对应的目标图像及其对应的人为标注信息,并将该人为标注信息和该目标图像重新输入到卷积神经网络中进行训练。
在提高卷积神经网络的分类和识别的准确率方面,如果将户外图像输入到卷积神经网络中进行分类和识别之后,无法得到带标注信息的户外图像,则获取该户外图像的人为标注信息,并将该户外图像和其人为标注信息重新输入到卷积神经网络中进行重新训练。
可能的实施例中,追踪相机为多个,且各个追踪相机的地理位置不同,AI服务器接收来自不同地理位置的追踪相机发送的户外图像,并针对各个户外图像进行分类和识别后,从中筛选出包含关键目标的目标图像。AI服务器基于这些目标图像,生成关键目标地图,例如生成羚羊地图,在羚羊地图可显示羚羊经常出没的标记,羚羊休息地和羚羊饮水地等。AI服务器还可将关键目标地图发送至用户终端,不仅帮助了用户提升打猎的成功概率,而且大大增加了趣味性。
S104、当目标图像的数量超过预设数值后,根据目标图像的时间信息、地理信息、场景类别、行为信息及追踪相机的当前环境信息建立行为预测模型,并根据行为预测模型预测关键目标的未来行为。
其中当前环境信息包括:天气、日期、温湿度、气温、风向、降雨情况、日出、日落、月相中的任意一种或者任意多种组合。
行为预测模型可基于关键目标过往一段时间内的行为特性以及当前环境特征,对该关键目标未来一段时间内可能会出现的行为进行预测。在根据行为预测模型预测关键目标的未来行为之后,AI服务器还将预测得到的关键目标的未来行为发送至用户终端,以帮助用户提升打猎成功的概率。
另外,如果追踪相机用于监控养殖畜牧场,行为预测模型还可用于预测是否有偷盗的行为,例如如监控到陌生人持续三天以上都在某个时间段出现在追踪相机的监控范围内并且在关键目标附近持续逗留一段时间,则行为预测模型会预测可能出现偷盗行为,并向用户发送偷盗预警信息,以帮助畜牧场主人有效保护养殖的动物。上述场景仅仅用于举例,诸如此类应用场景,本发明实施例均可适用。
在预测关键目标的未来行为之后,AI服务器获取追踪相机自触发拍摄得到的户外图像;若将户外图像输入到卷积神经网络中进行分类和识别,得到的带标注信息的户外图像中的目标类别为关键目标,而且其行为信息与预测的未来行为相符,则触发向用户终端发送提醒信息或者预警信息。
本发明实施例中,AI服务器获取追踪相机在预设时间片段内自触发拍摄的户外图像;并将户外图像输入到卷积神经网络中进行分类和识别,得到带标注信息的户外图像;然后根据目标类别,从带标注信息的户外图像中筛选出包含关键目标的目标图像;当目标图像的数量超过预设数值后,根据目标图像的时间信息、地理信息、场景类别、行为信息及追踪相机的当前环境信息建立行为预测模型,并根据行为预测模型预测关键目标的未来行为。本发明基于人工智能可实现对关键目标的分类识别和行为预测,不仅能更准确地跟踪关键目标的行为轨迹,而且还能帮助用户有效监控和管理监控区域内的关键目标,提升用户体验。
图3是本发明实施例提供的一种用于关键目标的行为预测装置300,该装置300包括:
通信模块301,用于获取追踪相机在预设时间片段内自触发拍摄的户外图像;
神经网络模块302,用于将所述户外图像输入到卷积神经网络中进行分类和识别,得到带标注信息的户外图像;其中所述标注信息包括场景类别、目标类别和行为信息;
关键目标筛选模块303,用于根据所述目标类别,从所述带标注信息的户外图像中筛选出包含关键目标的目标图像;
行为预测模块304,用于当所述目标图像的数量超过预设数值后,根据所述目标图像的时间信息、地理信息、场景类别、行为信息及所述追踪相机的当前环境信息建立行为预测模型,并根据所述行为预测模型预测所述关键目标的未来行为。
优选地,所述装置还包括预警模块305,所述预警模块305用于,继续获取所述追踪相机自触发拍摄得到的户外图像;若将所述户外图像输入到所述卷积神经网络中进行分类和识别,得到的带标注信息的户外图像中的目标类别为所述关键目标,而且其行为信息与预测的所述未来行为相符,则触发向用户终端发送提醒信息。
优选地,所述装置还包括图像筛选处理模块306,所述图像筛选处理模块306用于,若所述户外图像为误触发拍摄得到的,则过滤该户外图像;若所述户外图像的图像质量低于预设阈值,则对该户外图像进行修正处理,以使该户外图像的图像质量满足所述预设阈值;若所述户外图像为在光线较弱的环境拍摄得到的,则对该户外图像进行彩色化处理。
优选地,时间轴信息生成模块307,所述时间轴信息生成模块307用于,根据所述目标图像生成所述关键目标的时间轴信息,其中所述时间轴信息包括时间信息、地理信息、场景类别和行为信息;并将所述时间轴信息和所述目标图像发送至用户终端,以使所述用户终端显示所述目标图像和所述时间轴信息。
优选地,所述行为预测模块304还用于,对所述关键目标的时间轴信息进行统计,得到所述关键目标的习惯行为,并将所述关键目标的习惯行为发送至所述用户终端。
优选地,所述装置还包括校正模块308,所述校正模块308用于,接收从用户终端反馈的错误信息,并获取所述错误信息对应的目标图像;其中所述错误信息包括错误时间轴信息,和/或,错误习惯行为;获取所述错误信息对应的目标图像的人为标注信息,并将该人为标注信息和该目标图像重新输入到所述卷积神经网络中进行训练。
优选地,所述校正模块308还用于,在将所述户外图像输入到卷积神经网络中进行分类和识别之后,若无法得到带标注信息的户外图像,则获取该户外图像的人为标注信息,并将该户外图像和其人为标注信息重新输入到所述卷积神经网络中进行训练。
优选地,所述装置还包括地图生成模块309,所述地图生成模块309用于,根据从多个不同地理位置的追踪相机对应的目标图像,生成关键目标地图,并将所述关键目标地图发送至用户终端;其中所述关键目标地图包括所述关键目标的休息地,和/或,饮水地。
在一些实施例中,所述本发明实施例提供的用于关键目标的行为预测装置具有的功能或包含的模块可以用于执行上文图2方法实施例描述的方法,其具体实现可以参照上文图2方法实施描述,为了简洁,这里不再赘述。
图4是本发明实施例提供的一种AI服务器的硬件结构框图。该AI服务器可以是部署在云端的服务器。具体的,该AI服务器包括:包括处理器401、一个或多个输入接口402、一个或多个输出接口403和存储器404,其中,所述存储器404用于存储计算机程序,所述计算机程序包括程序指令,所述处理器401用于调用所述程序指令,执行图2方法实施例中的任一方法和步骤。
上述处理器401、一个或多个输入接口402、一个或多个输出接口403和存储器404通过总线405连接。存储器404用于存储指令,处理器401用于执行存储器404存储的指令,输入接口402用于接收数据,例如接收追踪相机发送的户外图像,输出接口603用于输出数据,例如向用户终端发送预测的关键目标的未来行为、关键目标地图等。
应当理解,在本公开实施例中,所称处理器401可以是中央处理单元(CentralProcessing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
该存储器404可以包括只读存储器和随机存取存储器,并向处理器401提供指令和数据。存储器404的一部分还可以包括非易失性随机存取存储器。例如,存储器404还可以存储接口类型的信息。
在一些实现方式中,本公开实施例中所描述的AI服务器的上述各部件可用于执行图2方法实施例中的任一方法步骤,为了简洁,这里不再赘述。
在本发明的另一实施例中提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,若该计算机可读存储介质应用于AI服务器,所述程序指令被处理器执行时实现图2方法实施例描述的步骤。
所述计算机可读存储介质可以是前述任一实施例所述的计算设备的内部存储单元,例如终端的硬盘或内存。所述计算机可读存储介质也可以是所述终端的外部存储设备,例如所述终端上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述计算机可读存储介质还可以既包括所述计算设备的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述计算设备所需的其他程序和数据。所述计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。