一种联合个体图像和足迹图像的野生动物智能监测方法
技术领域
本发明涉及野生动物监测技术领域,更具体的说是涉及一种联合个体图像和足迹图像的野生动物智能监测方法。
背景技术
野生动物是生态系统中的重要组成成员之一,它不仅与生态平衡的维护息息相关,更与人类的生活及社会的发展有着密不可分的联系。随着生产力水平的提高,带来了日益严重的生态环境问题,导致许多野生动物濒临绝迹。为保护濒危野生动物,对其监测工作不容小觑,而监测工作的好坏,直接关系到是否能对野生动物实施实时保护。
目前,主要使用红外相机或无人机搭载可见光相机对野生动物进行监测。红外相机技术是指通过自动相机系统(如被动式/主动式红外触发相机或定时拍摄相机等)来获取野生动物图像数据,采用红外相机监测时,需要大量的人员力量进行维护,依赖人员前往每个点拷取的方式进行,需要人为处理并分析监测数据,耗费了大量的人力和时间,造成分析结果的滞后性,监测效率较低。无人机搭载可见光相机虽然不受地形限制,作业范围广,即使遇到自然灾害也可保证持续运行,安全可靠性高,相比人工获取数据具有巨大的优势。但是可见光传感器对光照变化、夜间可视性以及其他环境等影响较为敏感,无法实现对野生动物进行全天候时刻监测。
足迹链往往能够反映出野生动物的行走方向和个体数量等信息,而现有的红外相机或无人机搭载可见光相机的监测方式无法对野生动物的足迹链进行全面记录和智能分析。
近年来,深度学习在人工智能领域取得重大突破,在语音识别、图像识别及视频分析等领域获得巨大成功,在对野生动物进行监测的时候,图像数据因在野外拍摄时易受到动物本身的行为、周围环境和气候的影响,成像条件较差,导致识别的准确率低,尤其在自然场景下,光照等非线性因素的介入野生动物非配合式研究目标本身带来的遮挡和角度问题,使得一些传统算法难于在这个问题上直接应用,识别准确率较低。
因此,如何提供一种能够全天候地对野生动物个体信息和足迹信息进行精准识别和智能、高效分析的野生动物智能监测方法是本领域技术人员亟需解决的问题。
发明内容
有鉴于此,本发明提供了一种联合个体图像和足迹图像的野生动物智能监测方法,能够对野生动物栖息地的野生动物和其足迹进行全天候监测识别,大大提高了识别精度和工作效率,为野生动物研究提供重要的指导意义。
为了实现上述目的,本发明采用如下技术方案:
一种联合个体图像和足迹图像的野生动物智能监测方法,包括:
利用无人机搭载双光同轴摄像头,按照预设航线获取监测区域的可见光图像和红外热图像;
对所述可见光图像和所述红外热图像进行融合处理,获得野生动物融合图像;
获取监测区域的野生动物足迹,利用无人机自动导航算法跟踪野生动物足迹走向,获得足迹链图像;
利用图形工作站对所述野生动物融合图像和所述足迹链图像分别进行分航带拼接和整体拼接,分别获得分航带拼接图像和整幅拼接图像;
利用预先训练好的双通道网络识别模型对所述分航带拼接图像和所述整幅拼接图像进行整体分析,得到监测区域内野生动物物种分类结果,并上传至所述监测终端。
经由上述的技术方案可知,与现有技术相比,本发明公开提供了一种联合个体图像和足迹图像的野生动物智能监测方法,本发明通过无人机搭载双光同轴摄像机,并结合航线规划策略,根据预设的涵盖野生动物栖息地域抽样航线,获取野生动物融合图像;通过识别东北虎、豹等大型野生兽类动物雪地足迹链行走方向,结合无人机自动导航算法,自动跟踪动物足迹链获取野生动物足迹链图像;运用高性能的图形工作站分别对野生动物图像和足迹链图像进行分航带拼接和整体拼接,并采用回归算法进行目标检测、分割,生成ROI图像,然后预先训练好的全局—局部双通道网络识别模型对拼接后的图像进行识别,接入分类器输出物种识别结果,并生成栖息地野生动物种群数量及个体信息统计报告,能够有效提高工作效率和监测精度。
优选的,在上述一种联合个体图像和足迹图像的野生动物智能监测方法中,对所述可见光图像和所述红外热图像进行融合处理,获得野生动物融合图像,包括:
对所述可见光图像进行野生动物检测,获得野生动物第一检测区域;
对所述红外热图像进行野生动物检测,获得野生动物第二检测区域;
将所述野生动物第一检测区域和所述野生动物第二检测区域进行比较,判断其重合面积是否超出预设重合面积阈值,若超过,则表示检测到野生动物目标;
将包含野生动物目标的所述可见光图像和所述红外热图像进行图像配准;
将配准后的可见光图像和红外热图像输入预先训练好的融合网络,输出所述野生动物融合图像。
优选的,在上述一种联合个体图像和足迹图像的野生动物智能监测方法中,对所述红外热图像进行野生动物检测,获得野生动物第二检测区域,包括:
对所述红外热图像进行温度标注,获得温度标注区域;
根据所述温度标注区域,计算相邻区域的温度差值是否小于预设阈值;如果小于,则表示该相邻区域属于同一个目标,连通该相邻区域,循环检测,直至所述温度标注区域完全连通,得到根据温度标注分割后的区域;
利用最大类间方差法,对所述红外热图像进行分割;
将最大类间方差法分割后的图像与根据温度标注分割后的区域相比较,重合的保留,未重合的去除,得到所述野生动物第二检测区域。
优选的,在上述一种联合个体图像和足迹图像的野生动物智能监测方法中,所述双光同轴摄像头包括光学摄像头和红外成像摄像头。
优选的,在上述一种联合个体图像和足迹图像的野生动物智能监测方法中,获取监测区域的野生动物足迹,利用无人机自动导航算法跟踪野生动物足迹走向,获得足迹链图像,包括:
利用双光同轴摄像头获取监测区域野生动物足迹,并利用预先构建的足迹图像库识别足迹种类;
利用无人机自动导航算法控制无人机按照预设的高度和速度跟踪该类足迹走向,并自动航摄,获得多幅足迹图像;
将各幅所述足迹图像进行拼接,得到所述足迹链图像。
优选的,在上述一种联合个体图像和足迹图像的野生动物智能监测方法中,所述预先构建的足迹图像库包括脚掌字典和脚跟字典组成的样本联合表示字典;所述样本联合表示字典带有分别与所述脚掌字典和脚跟字典对应的脚掌标签和脚跟标签;
所述预先构建的足迹图像库将当前采集的野生动物足迹依次与所述样本联合表示字典中的脚掌标签和脚跟标签进行对比,如果整体相似度大于90%,则确定野生动物足迹种类。
优选的,在上述一种联合个体图像和足迹图像的野生动物智能监测方法中,所述利用无人机自动导航算法控制无人机按照预设的高度和速度跟踪该类足迹走向,并自动航摄,获得多幅足迹图像,包括:
所述监测终端获取所述双光摄像头所采集的实时足迹图像,并获取所述无人机的实时位置;
根据所述实时足迹图像,确定该类足迹在一定区域范围内的轨迹曲线;
根据一定区域范围内的轨迹曲线走向,实时调整无人机的当前姿态数据和位置,直至跟踪至足迹轨迹曲线尽头;
在跟踪过程中,控制所述双光头周摄像机按照一定的时间间隔进行航拍摄,获得多幅所述足迹图像。
优选的,在上述一种联合个体图像和足迹图像的野生动物智能监测方法中,所述利用预先训练好的双通道网络识别模型对所述分航带拼接图像和所述整幅拼接图像进行整体分析,得到监测区域内野生动物物种分类结果,并上传至所述监测终端,包括:
分别获取所述分航带拼接图像和所述整幅拼接图像;
利用回归算法检测所述分航带拼接图像和所述整幅拼接图像的原图像中野生动物所在区域坐标,并对所述原图像进行分割,得到目标区域图像;
利用预先训练好的双通道网络识别模型分别对所述原图像和所述目标区域图像进行分析,获得两种分类概率结果;
将所述两种分类结果概率进行融合,并接入分类器,输出监测区域野生动物种群信息和个体信息的统计报告,并上传至所述监测终端。
优选的,在上述一种联合个体图像和足迹图像的野生动物智能监测方法中,所述统计报告包含野生动物融合图像和足迹链图像的原图像、目标区域图像、以及分别与各个所述原图像和所述目标区域图像对应的动物种群信息批注或个体信息标注。
优选的,在上述一种联合个体图像和足迹图像的野生动物智能监测方法中,所述分航带拼接图像包括野生动物融合图像的分航带拼接图和足迹链图像的分航带拼接图;所述整幅拼接图像包括野生动物融合图像的整幅拼接图和足迹链图像的整幅拼接图。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1附图为本发明提供的联合个体图像和足迹图像的野生动物智能监测方法的结构示意图;
图2附图为本发明提供的S2的流程图;
图3附图为本发明提供的S22的流程图;
图4附图为本发明提供的S3的流程图;
图5附图为本发明提供的S32的流程图;
图6附图为本发明提供的S5的流程图;
图7附图为本发明提供的双通道网络识别模型的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明实施例公开了一种联合个体图像和足迹图像的野生动物智能监测方法,包括以下步骤:
S1、利用无人机搭载双光同轴摄像头,按照预设航线获取监测区域的可见光图像和红外热图像。
其中,双光同轴摄像头包括光学摄像头和红外成像摄像头。本实施例中的双光同轴摄像头可在弱光环境下单光、双光同轴成像,实现精准识别技术突破,双光融合成像可探测距离大于5Km,实现白天和夜晚远距离监测,其中,可见光拍照像素800万,录像有效像素200万,实时数传距离达5Km,图像延迟小于200ms。双光同轴摄像头为野外高质量的图像获取提供了保证,白天用可见光监测,夜晚用红外光监测动物行踪,发现动物行踪后开启红外补光双光融合成像。
本实施例中,对航线的规划过程为:
针对特定实验区域,比如吉林省汪清国家级自然保护区,抽样选择4条飞行航线,确保其均匀遍布整个保护区。
在尽量提高分辨率、增加航带间重叠度的前提下,调查航带覆盖不同的保护区划分区域,如核心区,缓冲区以及实验区。并根据动物习性分布调整航线位置,使所有4条航线尽可能涵盖监区域。
对距离人工地物与城镇过近的航线进行调整,避开人类活动影响大的地区。同时,结合DEM(Digital Elevation Model)数据,在山峦密集的地区适当调高飞行高度,避免无人机出现事故。
根据地形情况,调整航带位置,选择适合飞行的场地,设置传感器间重叠度和合适的飞行高度。根据自然保护区动物种类对无人机噪声的敏感程度,调整最佳的飞行高度。
S2、对可见光图像和红外热图像进行融合处理,获得野生动物融合图像。
S3、获取监测区域的野生动物足迹,利用无人机自动导航算法跟踪野生动物足迹走向,获得足迹链图像。
S4、利用图形工作站对野生动物融合图像和足迹链图像分别进行分航带拼接和整体拼接,分别获得分航带拼接图像和整幅拼接图像。
S5、利用预先训练好的双通道网络识别模型对分航带拼接图像和整幅拼接图像进行整体分析,得到监测区域内野生动物物种分类结果,并上传至监测终端。
具体的,如图2所示,S2包括:
S21、对可见光图像进行野生动物检测,获得野生动物第一检测区域。
S22、对红外热图像进行野生动物检测,获得野生动物第二检测区域。
在2010-2019年间,多次在在吉林省汪清国家级自然保护区、黄泥河国家级自然保护区、珲春国家级自然保护区等地架设2000余台次的自动相机,共监测虎豹出现信息4000余次,狍、梅花鹿、马鹿、野猪等动物信息万余次。近两年,利用无人机监测,也获取了长达数十小时的不同季节的野生动物影像。重点监测野生东北虎、豹、雪豹、猞猁及其主要猎物(马鹿、狍、野猪、梅花鹿)的生态行为,构建了野生动物监测影像数据库。在野生动物监测影像数据库的基础上对野生动物检测,可以准确识别野生动物种类。
具体的,如图3所示,S22包括:
S221、对红外热图像进行温度标注,获得温度标注区域;
S222、根据温度标注区域,计算相邻区域的温度差值是否小于预设阈值;如果小于,则表示该相邻区域属于同一个目标,连通该相邻区域,循环检测,直至温度标注区域完全连通,得到根据温度标注分割后的区域;
S223、利用最大类间方差法,对红外热图像进行分割;
S224、将最大类间方差法分割后的图像与根据温度标注分割后的区域相比较,重合的保留,未重合的去除,得到野生动物第二检测区域。
S23、将野生动物第一检测区域和野生动物第二检测区域进行比较,判断其重合面积是否超出预设重合面积阈值,若超过,则表示检测到野生动物目标。
S24、将包含野生动物目标的可见光图像和红外热图像进行图像配准。
S25、将配准后的可见光图像和红外热图像输入预先训练好的融合网络,输出野生动物融合图像。
本实施例中,采用一种针对红外热图像和可见光图像融合问题的深度学习体系结构,与传统的卷积网络相比,编码网络与卷积层,融合层和密集块相结合,其中每一层的输出彼此相连,使用此体系结构在编码过程中从源图像中获取更多有用的特征,选用合适的融合策略来融合特征,最后通过解码器重建融合图像。
融合之前先提取可见光图像和红外热图像的深度特征,第一个卷积层提取粗糙特征,而后又三个卷积层(每个层的输出级联为随后的层的输入)组成密集块。这样的体系结构具有两个优点。首先,滤波器的大小和卷积运算的步幅分别为3×3和1。使用此策略,输入图像可以是任何大小;其次,密集块可以在编码网络中尽可能保留深度特征,并且该操作可以确保融合策略中使用所有显著特征。
在融合层应用L1范数和softmax运算。融合层后包含多个卷积层(3×3卷积),融合层的输出将是卷积层的输入,多个卷积层,用于重建融合后的图像,构成解码器,将融合特征图转换为融合后的图片。使用这种简单有效的架构来重构最终融合的图像。
如图4所示,S3包括:
S31、利用双光同轴摄像头获取监测区域野生动物足迹,并利用预先构建的足迹图像库识别足迹种类。
预先构建的足迹图像库包括脚掌字典和脚跟字典组成的样本联合表示字典;样本联合表示字典带有分别与脚掌字典和脚跟字典对应的脚掌标签和脚跟标签。
预先构建的足迹图像库将当前采集的野生动物足迹依次与样本联合表示字典中的脚掌标签和脚跟标签进行对比,如果整体相似度大于90%,则确定野生动物足迹种类。
S32、利用无人机自动导航算法控制无人机按照预设的高度和速度跟踪该类足迹走向,并自动航摄,获得多幅足迹图像。
S33、将各幅足迹图像进行拼接,得到足迹链图像。
如图5所示,S32包括:
S321、利用监测终端获取双光摄像头所采集的实时足迹图像,并获取无人机的实时位置;
S322、根据实时足迹图像,确定该类足迹在一定区域范围内的轨迹曲线;
S323、根据一定区域范围内的轨迹曲线走向,实时调整无人机的当前姿态数据和位置,直至跟踪至足迹轨迹曲线尽头;
S324、在跟踪过程中,控制双光头周摄像机按照一定的时间间隔进行航拍摄,获得多幅足迹图像。
对于东北虎、豹等大型哺乳动物极其濒危,基本没有可能获得许可给它们戴项圈进行跟踪,但是在冬季行走的足迹链被长达6个月的雪被完整记录下来,它们都或多或少地带有动物个体当时活动的一些信息,比如时间信息、个体数量信息、行走方向信息等。本发明实施例还可以在季积雪期间收集东北虎、豹等野外行走的足迹链图像,并结合无人机导航的原理,可以实现自动拍摄、信息的自动识别、导航,通过足迹链图像能够分析动物行走方向、个体数量信息等。
如图6所示,S5包括:
S51、分别获取分航带拼接图像和整幅拼接图像;分航带拼接图像包括野生动物融合图像的分航带拼接图和足迹链图像的分航带拼接图;整幅拼接图像包括野生动物融合图像的整幅拼接图和足迹链图像的整幅拼接图。
S52、利用回归算法检测分航带拼接图像和整幅拼接图像的原图像中野生动物所在区域坐标,并对原图像进行分割,得到目标区域图像。
S53、利用预先训练好的双通道网络识别模型分别对原图像和目标区域图像进行分析,获得两种分类概率结果。其中双通道网络模型的结构图如图7所示,利用野生动物监测影像数据库中的原图像和提取目标检测区域ROI图像对双通道网络模型进行训练,训练好后,对当前所获取的野生动物融合图像和足迹链图像进行分割和检测,分别对原图像和分割后的图像进行识别,大大提高了检测精度。
S54、将两种分类结果概率进行融合,并接入分类器,输出监测区域野生动物种群信息和个体信息统计报告,并上传至监测终端。
统计报告中包含野生动物融合图像和足迹链图像的原图像和ROI图像,并在原图像和ROI图像上标注相关的野生动物种群信息和个体信息,并对其进行存储,生成原图像数据库和TOI图像数据库,供后续科学研究使用。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。