CN113743368A - 一种行为监测方法、装置、存储介质及电子设备 - Google Patents
一种行为监测方法、装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN113743368A CN113743368A CN202111098051.9A CN202111098051A CN113743368A CN 113743368 A CN113743368 A CN 113743368A CN 202111098051 A CN202111098051 A CN 202111098051A CN 113743368 A CN113743368 A CN 113743368A
- Authority
- CN
- China
- Prior art keywords
- frame image
- target
- initial
- initial target
- tracking
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
本公开提供了一种行为监测方法、装置、存储介质及电子设备,行为监测方法包括获取目标视频;确定目标视频中的每个帧图像是否满足检测条件;若满足,则利用检测算法对每个帧图像进行检测,确定目标帧图像以及目标帧图像中的第一初始目标区域;其中,第一初始目标区域内存在预设行为;利用跟踪算法对第一初始目标区域中的目标对象进行跟踪,以实现对目标对象的监测。本公开通过结合检测算法和跟踪算法,能够对存在预设行为的目标对象进行实时监测,实时性高;并且,在跟踪的过程中能够自动调整目标对象所在的目标区域,避免了目标对象存在遮挡的问题,提高了监测结果的准确度。
Description
技术领域
本公开涉及监测技术领域,特别涉及一种行为监测方法、装置、存储介质及电子设备。
背景技术
在畜牧业不断发展的过程中,有效地监测对象如奶牛、羊等能够较大程度地提高繁殖经济等。例如,奶牛养殖行业中,目前使用的监测方式包括:1、采用穿戴式装置进行监测,具体地,将加速度传感器、温度传感器、压力传感器等装置佩戴于奶牛的身体上,采集奶牛的状态信息如温度、移动信息、背部压力信息等信息,然后采用读写器以射频方式获取传感器等的采集的状态数据,最后通过云服务器以无线方式获取读写器转换后的数据进行奶牛的状态分析。2、通过机器视觉监测,具体地,通过摄像头采用奶牛所在区域的视频,利用图像处理技术对奶牛视频进行预处理,采用背景建模方法进行奶牛目标检测,提取奶牛光流特征或者几何特征,基于特征向量构建并训练分类模型,实现对奶牛爬跨行为的分类和识别以达到监测的目的。
但上述方式中,基于穿戴式装置进行监测,虽然能够采集到的奶牛的状态数据,由于采集的状态数据量较大导致后台服务器计算量较大,动态数据处理速度较慢,导致无法实现有效地实时监测,并且穿戴式装置的佩戴会影响奶牛的正常行为,这会导致监测结果的准确度较低;基于机器视觉监测的过程中,受制于摄像机固定以及奶牛身体展示角度的影响,奶牛个体之间会存在遮挡、重叠的现象,鲁棒性不足,导致监测结果的准确度较低。
发明内容
有鉴于此,本公开实施例的目的在于提供一种行为监测方法、装置、存储介质及电子设备,用于解决现有技术中监测结果的准确度较低等问题。
第一方面,本公开实施例提供了一种行为监测方法,其中,包括:
获取目标视频;
确定所述目标视频中的每个帧图像是否满足检测条件;
若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
在一种可能的实施方式中,所述确定所述目标视频中的每个帧图像是否满足检测条件,包括:
提取所述帧图像相邻的前一帧图像;
利用差异值哈希算法对所述帧图像以及所述前一帧图像之间的相似度;
若所述相似度大于第一预设阈值,确定所述帧图像满足所述检测条件。
在一种可能的实施方式中,所述行为监测方法还包括:
所述目标视频中的所述帧图像不满足所述检测条件,则利用所述跟踪算法对所述帧图像中的每个对象均进行跟踪,以实现对每个对象的监测。
在一种可能的实施方式中,所述行为监测方法还包括:
利用检测算法对所述帧图像进行检测,得到每个所述第一初始目标区域中目标对象对应的预测值;
将所述预测值与所述第一初始目标区域进行关联。
在一种可能的实施方式中,所述利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,包括:
计算所述第一初始目标区域的中心与质心之间的第一距离;
在所述第一距离大于第二预设阈值的情况下,调整所述第一初始目标区域的位置及大小,得到新的目标区域;其中,所述新的目标区域的中心与质心之间的第二距离小于或等于所述第二预设阈值;
基于所述新的目标区域确定所述第一初始目标区域所属的目标帧图像的下一目标帧图像的第二初始目标区域,直至得到最后一个目标帧图像的初始目标区域
在一种可能的实施方式中,所述行为监测方法还包括:
对所述最后一个目标帧图像的初始目标区域进行识别,得到所述目标对象的身份信息;
基于所述最后一个目标帧图像的初始目标区域以及所述身份信息生成监测信息;
将所述监测信息发送给管理员。
第二方面,本公开实施例还提供了一种行为监测装置,其包括:
获取模块,其配置为获取目标视频;
第一确定模块,其配置为确定所述目标视频中的每个帧图像是否满足检测条件;
第二确定模块,其配置为若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
第一跟踪模块,其配置为利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
在一种可能的实施方式中,所述第一确定模块具体配置为:
提取所述帧图像相邻的前一帧图像;
利用差异值哈希算法对所述帧图像以及所述前一帧图像之间的相似度;
若所述相似度大于第一预设阈值,确定所述帧图像满足所述检测条件。
第三方面,本公开实施例还提供了一种存储介质,其中,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如下步骤:
获取目标视频;
确定所述目标视频中的每个帧图像是否满足检测条件;
若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
第四方面,本公开还提供了一种电子设备,其中,包括:处理器和存储器,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如下步骤:
获取目标视频;
确定所述目标视频中的每个帧图像是否满足检测条件;
若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
本公开实施例通过结合检测算法和跟踪算法,能够对存在预设行为的目标对象进行实时监测,实时性高;并且,在跟踪的过程中能够自动调整目标对象所在的目标区域,避免了目标对象存在遮挡的问题,提高了监测结果的准确度。
为使本公开的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本公开或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1示出了本公开所提供的行为监测方法的流程图;
图2示出了本公开所提供的行为监测方法中确定目标视频中的每个帧图像是否满足检测条件的流程图;
图3示出了本公开所提供的行为监测方法中利用跟踪算法对第一初始目标区域中的目标对象进行跟踪的流程图;
图4示出了本公开所提供的另一行为监测方法的流程图;
图5示出了本公开所提供的行为监测装置的结构示意图;
图6示出了本公开所提供的电子设备的结构示意图。
具体实施方式
此处参考附图描述本公开的各种方案以及特征。
应理解的是,可以对此处申请的实施例做出各种修改。因此,上述说明书不应该视为限制,而仅是作为实施例的范例。本领域的技术人员将想到在本公开的范围和精神内的其他修改。
包含在说明书中并构成说明书的一部分的附图示出了本公开的实施例,并且与上面给出的对本公开的大致描述以及下面给出的对实施例的详细描述一起用于解释本公开的原理。
通过下面参照附图对给定为非限制性实例的实施例的优选形式的描述,本公开的这些和其它特性将会变得显而易见。
还应当理解,尽管已经参照一些具体实例对本公开进行了描述,但本领域技术人员能够确定地实现本公开的很多其它等效形式,它们具有如权利要求所述的特征并因此都位于借此所限定的保护范围内。
当结合附图时,鉴于以下详细说明,本公开的上述和其他方面、特征和优势将变得更为显而易见。
此后参照附图描述本公开的具体实施例;然而,应当理解,所申请的实施例仅仅是本公开的实例,其可采用多种方式实施。熟知和/或重复的功能和结构并未详细描述以避免不必要或多余的细节使得本公开模糊不清。因此,本文所申请的具体的结构性和功能性细节并非意在限定,而是仅仅作为权利要求的基础和代表性基础用于教导本领域技术人员以实质上任意合适的详细结构多样地使用本公开。
本说明书可使用词组“在一种实施例中”、“在另一个实施例中”、“在又一实施例中”或“在其他实施例中”,其均可指代根据本公开的相同或不同实施例中的一个或多个。
第一方面,为便于对本公开进行理解,首先对本公开所提供的一种行为监测方法进行详细介绍,本申请实施例中以监测对象为奶牛为例进行详细阐述,本领域技术人员应知晓的是,可以对其他对象如羊、猪等进行监测。
如图1所示,为本公开实施例提供的行为监测方法,具体步骤包括S101-S105。
S101,获取目标视频。
在具体实施中,为了便于监测对象的行为、状态等,在目标区域内设置一个或多个监测设备,如摄像头等,以通过监测设备实时记录目标区域内每个对象的行为、状态等,以得到目标区域内的目标视频,其中,目标区域为对象所在的区域,如奶牛所在的牛场。
并且,该目标视频为一定时间段拍摄得到的。
S102,确定目标视频中的每个帧图像是否满足检测条件。
针对目标视频,提取每个帧图像,分别对每个帧图像进行识别,以确定每个帧图像是否满足监测条件,该检测条件为当前帧图像以及前一帧图像的相似度是否大于第一预设阈值。
具体地,按照图2示出的流程图来确定目标视频中的每个帧图像是否满足检测条件,具体步骤包括S201-S203。
S201,提取帧图像相邻的前一帧图像。
S202,利用差异值哈希算法对帧图像以及前一帧图像之间的相似度。
S203,若相似度大于第一预设阈值,确定帧图像满足检测条件。
可选地,针对除首个帧图像之外的每个帧图像,将该帧图像的尺寸缩小到9像素×8像素,也即处理后的该帧图像总共有72个像素点,此时,能够隐藏掉该帧图像的细节部分。之后,把缩小后的帧图像转换为64级灰度图,把原来的RGB三通道的三维比较转化为一通道的一维比较。
其中,差异值计算是每行的每个像素点与同行的下一像素点进行比较,如果前一个像素点强度大于后一个像素点强度,那么差异值为1,否则为0。经过处理后得到一个8×8的差异值矩阵。针对每个缩小后的帧图像,均进行差异值计算以得到每个缩小后的帧图像对应的差异值矩阵。
针对每个缩小后的帧图像,将其对应的8×8的差异值矩阵的每一行的每一个值看成1个比特,每8个比特组成一个16进制值,进而得到一个长度为8的Hash字符串,即Hash值。进一步地,通过公式(1)计算两个相邻帧图像对应的两个Hash字符串之间对应比特上不同位的数目,也即汉明距离,公式(1)如下:
计算得到的汉明距离即表示两个相邻帧图像之间的相似度。在本申请实施例中,若相似度大于第一预设阈值,确定帧图像满足检测条件,也就是说,当前帧图像与其相邻的前一帧图像相似度低,表征帧图像中对象形态产生较大的变化,需要对对象进行检测;若相似度小于或等于第一预设阈值,确定帧图像不满足检测条件,此时当前帧图像与其相邻的前一帧图像相似度高,表征帧图像中对象形态产生的变化较小,无需对对象进行检测。
S103,若满足,则利用检测算法对每个帧图像进行检测,确定目标帧图像以及目标帧图像中的第一初始目标区域;其中,第一初始目标区域内存在预设行为。
可选地,本申请实施例中的检测算法为YOLOv4算法,其主要包括主干特征提取网络Back-bone、特征金字塔Neck和YOLO Head三个部分。其中,可以将检测算法设置为检测模型,将帧图像输入至检测模型,该检测模型经计算便输出帧图像是否为目标帧图像,如,输出则为目标帧图像,不输出则不是目标帧图像。
在帧图像为目标帧图像时,目标帧图像中标识有第一初始目标区域;其中,第一初始目标区域内存在预设行为。并且,该检测算法或检测模型还能够计算出每个第一初始目标区域中目标对象对应的预测值,该预测值标识第一初始目标区域内存在预设行为的概率;之后,将预测值与第一初始目标区域进行关联,例如,将该预测值标识在第一初始目标区域内或边缘处等。
具体地,检测模型可以通过如下方式进行训练得到:
首先构建样本库,具体为人工筛选具有爬跨行为的视频片段48段,每段长度10-120s不等,利用视频分帧技术,每5帧取一帧,得到视频图像1300幅具有奶牛爬跨行为图像,为扩大样本量,提高数据泛化性,根据奶牛爬跨行为在活动区出现位置的不确定性以及区域光照变化特点,采用对样本图像水平翻转,随机增加亮度的方法进行数据增强处理,最终得到1800幅图像。按照训练、验证、测试之比为7:2:1的比例,对样本进行随机划分,得到训练样本集1260幅、验证样本集360幅、测试样本集180幅,各类样本数据均无重叠,采用开源工具Labellmg对训练集、样本集样本进行标注,标记对象为奶牛爬跨行为,标记标签为“Crawling behavior”,标记文件保存为PascalVOC格式。
其次设置先验框尺寸和数量,具体为使用距离度量公式对两点间的距离进行计算,使用K-means算法计算预测框与真实框之间的交并比IOU,K-means聚类算法是发现数据集中的K个中心点,并且以样本间相似性进行聚类的算法。其中,距离度量公式如下述公式(2)所示:
d=1-IOU (2)
其中,d表示距离,IOU表示预测框与真实框之间的交并比。
对已经标注好的标签数据集进行聚类分析,聚类出最适合奶牛爬跨行为数据集的先验框数量以及尺寸大小,以聚类得到的结果为本数据集的先验框,将其应用于训练过程中,优化网络性能指标。
最后为特征提取网络构建,特征提取网络CSPDarknet中采用CSPNet可以大大减少计算量,提高推理速度和准确性,能够保证图片不失真,YOLOv4中将DarkNet53分成若干个CSPNet进行处理,进而形成了CSPDarkNet53特征提取网络结构。通过添加SENet来学习通道之间的相互往来关系,从而给通道间施加了注意力机制,让网络有主次的学习通道间的特征。
采用SPP,即空间金字塔池化,其原理是对全连接层前的卷积层通过三个不同尺度的最大池化操作之后进行拼接,形成一个一维的向量,从而对输入图片尺寸没有要求的目的。空间金字塔池化模块能够显著地改善感受域尺寸,使得输入图像宽高比和大小任意,能够极大地增加感受度。
为了充分利用YOLOv4预训练模型的主干特征提取网络,在前50个Epoch冻结主干网络模型,这样可以加快训练速度并防止权值在训练初期被破坏,50个Epoch后解冻进行全网络训练,直到Loss值收敛为止。
当然,上述训练过程以及训练中用到的参数仅为一个实施例,本申请对此不做限定,实际使用时,可以根据实际需求进行调整。
S104,利用跟踪算法对第一初始目标区域中的目标对象进行跟踪,以实现对目标对象的监测。
可选地,本申请实施例中的跟踪算法为Cam shift算法,该Cam shift算法是一种自适应调节的Mean-Shift算法,算法思想是把视频中的每一帧图像都做Mean-Shift算法处理,并将上一帧图像的结果作为当前帧图像的初始值来进行迭代,从而达到跟踪的效果。
具体地,按照图3示出的流程图来利用跟踪算法对第一初始目标区域中的目标对象进行跟踪,具体步骤包括S301-S303。
S301,计算第一初始目标区域的中心与质心之间的第一距离。
S302,在第一距离大于第二预设阈值的情况下,调整第一初始目标区域的位置及大小,得到新的目标区域;其中,新的目标区域的中心与质心之间的第二距离小于或等于第二预设阈值。
S303,基于新的目标区域确定第一初始目标区域所属的目标帧图像的下一目标帧图像的第二初始目标区域,直至得到最后一个目标帧图像的初始目标区域。
这里,预先设置第一初始目标区域为矩形,在确定第一初始目标区域之后,计算第一初始目标区域的中心与质心之间的第一距离,具体地,令像素(x,y)位于第一初始目标区域内,通过公式(3)-(9)计算得到第一初始目标区域的中心,公式(3)-(9)如下:
l=1.2h (6)
M00=∑∑I(x,y) (7)
M10=∑∑xI(x,y) (8)
M01=∑∑yI(x,y) (9)
其中,xc表示中心的横坐标,yc表示中心的纵坐标,h表示第一初始目标区域的高度,l表示第一初始目标区域的长度,I(x,y)表示像素(x,y)在颜色概率估计图中所对应的概率估计值,M00表示第一初始目标区域的零阶矩,M10、M01表示第一初始目标区域一阶矩。
其中,将目标帧图像从RGB空间转换至HSV空间,并建立H分量的颜色直方图,作为目标的颜色直方图模型,其中,H表示色调分量,S表示饱和度分量,V表示亮度分量。在后续的跟踪过程中通过比对第一初始目标区域内的像素点与目标模型像素点可以得到该像素点为目标像素点相似度概率,区域外的像素点的概率为0,将相似度概率按大小转换为相应的灰度值(0-255)就得到了反向投影图,该反向投影图中越亮的像素点表示目标像素点的概率越大。
根据第一初始目标区域的零阶矩调整第一初始目标区域的大小,移动第一初始目标区域的中心到质心位置,也即得到中心与质心之间的第一距离。对比第一距离与第二预设阈值之间的大小,在第一距离大于第二预设阈值的情况下,调整第一初始目标区域的位置及大小,得到新的目标区域;其中,新的目标区域的中心与质心之间的第二距离小于或等于第二预设阈值。
之后,基于新的目标区域确定第一初始目标区域所属的目标帧图像的下一目标帧图像的第二初始目标区域,直至得到最后一个目标帧图像的初始目标区域。
S105,目标视频中的帧图像不满足检测条件,则利用跟踪算法对帧图像中的每个对象均进行跟踪,以实现对每个对象的监测
目标视频中的帧图像不满足检测条件时,无需对帧图像进行检测,直接利用跟踪算法对帧图像中的每个对象均进行跟踪。这里的跟踪算法与图3示出的跟踪算法相似,此处的跟踪算法中存在多个第一初始目标区域,且第一个帧图像中的第一初始目标区域均为人为设置的。
进一步地,图4示出另一种行为监测方法的流程图,具体步骤包括S401-S403。
S401,对最后一个目标帧图像的初始目标区域进行识别,得到目标对象的身份信息。
S402,基于最后一个目标帧图像的初始目标区域以及身份信息生成监测信息。
S403,将监测信息发送给管理员。
这里,在确定最后一个目标帧图像的初始目标区域之后,还可以对最后一个目标帧图像的初始目标区域进行识别,得到目标对象的身份信息,以及该识别结果的置信度,首先,置信度可以通过公式(10)和(11)计算得到,具体地,公式(10)和(11)如下:
Pconfidence=Pobject×IOU (10)
IOU=A∩G/A∪G (11)
其中,Pobject表示预测目标落入候选网络中的概率(本申请实施例设置存在Pobject为1,不存在Pobject为0),IOU表示预测结果的边界框与原图中标注的真实目标区域位置的重合度,A表示预测矩形框的面积,G表示真实标注奶牛躯干矩形框的面积。
同时,下表1示出了交并比解释示意图,
表1
其中,(xmin1,ymin1)表示预测矩形框左上角坐标,(xmax1,ymax1)表示预测矩形框右下角坐标,(xmin2,ymin2)表示真实标注奶牛躯干矩形框左上角坐标,(xmax2,ymax2)表示真实标注奶牛躯干矩形框右下角坐标。
具体地训练过程可以参照上述检测模型,在此便不做过多赘述。
在得到目标对象的身份信息之后,基于最后一个目标帧图像的初始目标区域以及身份信息生成监测信息,该监测信息可以是针对每个目标对象单独生成的一条信息,也可以是将所有的目标对象汇总成一条信息等。之后,将监测信息发送给管理员,可以以对话框、邮件等形式进行发送。
值得说明的是,在确定目标视频中的每个帧图像是否满足检测条件之前,可以对每个帧图像进行预处理,以提高帧图像的整体视觉效果。
可选地,对帧图像进行降噪处理,高斯滤波属于线性平滑滤波,它的输出是通过与高斯内核卷积得到的,其是对输入图像中的像素点及其领域做加权平均,对于去除服从正态分布的噪声,具有很好的效果,因此,采用高斯滤波方法去除噪声,能够实现在滤除噪声的同时保留图像边缘信息,高斯滤波器在空间域和频率域都是有效的低通滤波器,可以用于图像模糊化即去除细节和噪声。
其中,具体处理过程是用一个卷积核扫描图像,用卷积确定的领域内像素的加权平均值输出为中心像素值。一维图像中,中间像素的加权系数是最大的,离中间像素距离越远,像素的加权系数越小。这里,一维高斯分布如公式(12),具体如下:
其中,σ决定函数宽度。其中,σ越大,高斯滤波器的频带就越宽,滤波程度就越好。通过对参数σ的设置,可改善图像特征、噪声、细纹理的处理效果。
二维高斯分布如公式(13),具体如下:
值得说明的是,在进行数字图像处理时,常用二维离散高斯函数作为滤波器。
这里,高斯函数具备的单值性为高斯函数每个像素值由领域内的加权均值来代替,随着某点与中心点的距离增大,像素点权值单调递减,因此能够较好的检测图像边缘局部特征,避免图像失真。高斯函数具备的旋转对称性为二维高斯滤波器各个方向上的平滑度是一致的,也即高斯滤波器在边缘检测中各个方向上式均等的,因此,检测时可以先不确定边缘方向的图像。高斯函数中傅里叶变换频谱是单瓣的,因此,可以保留平滑图像中大部分有用信号,同时过滤掉不需要的高频噪声,能够有效解决所需信号中同时有低频分量和高频分量的问题,去除不予要的高频噪声。高斯函数具备的可分离性。可以分两步去完成二维高斯函数卷积:一是将图像与一维高斯函数卷积,二是将卷积结果和方向垂直的一维高斯函数做卷积,由此可见,二维高斯滤波的计算量与滤波模板宽度为线性关系。
经高斯滤波后,帧图像中如栅栏等部分进行了有效去噪,奶牛目标轮廓较为清晰,饮水槽和地面的噪声同时得到了有效去除。
进一步地,在对帧图像进行降噪处理之后,还可以对帧图像进行图像增强,本申请实施例中采用加权分布的自适应伽玛校正(Adaptive Gamma Correction with WeightingDistribution,AGCWD)算法进行图像增强。
考虑到人眼对亮度的敏感程度更高,以及HSV颜色系统比RGB系统更接近人眼视觉特性,且色调分量H、饱和度分量S和亮度分量V间有较好的独立性,也即单独对亮度分量进行校正处理不会导致图像出现色彩失真。因此,本申请实施例先将RGB图像转入到HSV彩色空间,对V分量校正处理后,最后再将处理后的结果转回RGB色彩空间,避免色彩失真。
具体地,将RGB图像转换到HSV空间,然后保持饱和度和色度不变,对亮度通道V进行自适应伽马变换,亮度成分可增强图像的可见度和清晰度,其中,通过公式(14)和(15)进行变换:
Vre(x,y)=Vmax(V(x,y)/Vmax)γ (14)
通过上述公式(14)和(15)得到伽马变换后的亮度V通道,与色调分量H和饱和度分量S结合,转换到RGB色彩空间,实现图像对比度增强。
进一步地,概率密度函数f(V)用于描述亮度分量V值所对应的像素数值的输出值,在某个确定的取值点附近的可能性的函数,具体参照如公式(16):
f(V)=nv/(m·n) (16)
其中,nv表示亮度分量为V值所对应的像素数,m·n表示帧图像中的像素总数。
其中,定义亮度的权值分布函数为公式(17),如下:
其中,fmax表示f(V)的最大值;fmin表示f(V)的最小值,d表示权值分布函数的自使用调节参数。
上述预处理有效地解决了图像颜色失真问题,自适应调节图像增强效果,奶牛个体与背景对比图提高,改善了图像整体视觉效果。
基于同一发明构思,本公开的第二方面还提供了一种与行为监测方法对应的行为监测装置,由于本公开中的装置解决问题的原理与本公开上述行为监测方法相似,因此装置的实施可以参见方法的实施,重复之处不再赘述。
参见图5所示,行为监测装置包括:
获取模块501,其配置为获取目标视频;
第一确定模块502,其配置为确定所述目标视频中的每个帧图像是否满足检测条件;
第二确定模块503,其配置为若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
第一跟踪模块504,其配置为利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
在另一实施例中,所述第一确定模块502具体配置为:
提取所述帧图像相邻的前一帧图像;
利用差异值哈希算法对所述帧图像以及所述前一帧图像之间的相似度;
若所述相似度大于第一预设阈值,确定所述帧图像满足所述检测条件。
在另一实施例中,行为监测装置还包括:
第二跟踪模块505,其配置为所述目标视频中的所述帧图像不满足所述检测条件,则利用所述跟踪算法对所述帧图像中的每个对象均进行跟踪,以实现对每个对象的监测。
在另一实施例中,行为监测装置还包括关联模块506,其配置为:
利用检测算法对所述帧图像进行检测,得到每个所述第一初始目标区域中目标对象对应的预测值;
将所述预测值与所述第一初始目标区域进行关联。
在另一实施例中,第一跟踪模块504具体配置为:
计算所述第一初始目标区域的中心与质心之间的第一距离;
在所述第一距离大于第二预设阈值的情况下,调整所述第一初始目标区域的位置及大小,得到新的目标区域;其中,所述新的目标区域的中心与质心之间的第二距离小于或等于所述第二预设阈值;
基于所述新的目标区域确定所述第一初始目标区域所属的目标帧图像的下一目标帧图像的第二初始目标区域,直至得到最后一个目标帧图像的初始目标区域。
在另一实施例中,行为监测装置还包括监测模块507,其配置为:
对所述最后一个目标帧图像的初始目标区域进行识别,得到所述目标对象的身份信息;
基于所述最后一个目标帧图像的初始目标区域以及所述身份信息生成监测信息;
将所述监测信息发送给管理员。
本公开实施例通过结合检测算法和跟踪算法,能够对存在预设行为的目标对象进行实时监测,实时性高;并且,在跟踪的过程中能够自动调整目标对象所在的目标区域,避免了目标对象存在遮挡的问题,提高了监测结果的准确度。
本公开的第三方面还提供了一种存储介质,该存储介质为计算机可读介质,存储有计算机程序,该计算机程序被处理器执行时实现本公开任意实施例提供的方法,包括如下步骤:
S11,获取目标视频;
S12,确定所述目标视频中的每个帧图像是否满足检测条件;
S13,若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
S14,利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
计算机程序被处理器执行确定所述目标视频中的每个帧图像是否满足检测条件时,还具体被处理器执行如下步骤:提取所述帧图像相邻的前一帧图像;利用差异值哈希算法对所述帧图像以及所述前一帧图像之间的相似度;若所述相似度大于第一预设阈值,确定所述帧图像满足所述检测条件。
计算机程序被处理器执行行为监测方法时,具体被处理器执行如下步骤:所述目标视频中的所述帧图像不满足所述检测条件,则利用所述跟踪算法对所述帧图像中的每个对象均进行跟踪,以实现对每个对象的监测。
计算机程序被处理器执行行为监测方法时,还被处理器执行如下步骤:利用检测算法对所述帧图像进行检测,得到每个所述第一初始目标区域中目标对象对应的预测值;将所述预测值与所述第一初始目标区域进行关联。
计算机程序被处理器执行利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪时,还被处理器执行如下步骤:计算所述第一初始目标区域的中心与质心之间的第一距离;在所述第一距离大于第二预设阈值的情况下,调整所述第一初始目标区域的位置及大小,得到新的目标区域;其中,所述新的目标区域的中心与质心之间的第二距离小于或等于所述第二预设阈值;基于所述新的目标区域确定所述第一初始目标区域所属的目标帧图像的下一目标帧图像的第二初始目标区域,直至得到最后一个目标帧图像的初始目标区域。
计算机程序被处理器执行行为监测方法时,还被处理器执行如下步骤:对所述最后一个目标帧图像的初始目标区域进行识别,得到所述目标对象的身份信息;基于所述最后一个目标帧图像的初始目标区域以及所述身份信息生成监测信息;将所述监测信息发送给管理员。
本公开实施例通过结合检测算法和跟踪算法,能够对存在预设行为的目标对象进行实时监测,实时性高;并且,在跟踪的过程中能够自动调整目标对象所在的目标区域,避免了目标对象存在遮挡的问题,提高了监测结果的准确度。
需要说明的是,本公开上述的存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何存储介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
本公开的第四方面还提供了一种电子设备,如图6所示,该电子设备至少包括存储器601和处理器602,存储器601上存储有计算机程序,处理器602在执行存储器601上的计算机程序时实现本公开任意实施例提供的方法。示例性的,电子设备计算机程序执行的方法如下:
S21,获取目标视频;
S22,确定所述目标视频中的每个帧图像是否满足检测条件;
S23,若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
S24,利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
处理器在执行存储器上存储的确定所述目标视频中的每个帧图像是否满足检测条件时,还执行如下计算机程序:提取所述帧图像相邻的前一帧图像;利用差异值哈希算法对所述帧图像以及所述前一帧图像之间的相似度;若所述相似度大于第一预设阈值,确定所述帧图像满足所述检测条件。
处理器在执行存储器上存储的行为监测方法时,还执行如下计算机程序:所述目标视频中的所述帧图像不满足所述检测条件,则利用所述跟踪算法对所述帧图像中的每个对象均进行跟踪,以实现对每个对象的监测。
处理器在执行存储器上存储的行为监测方法时,还执行如下计算机程序:利用检测算法对所述帧图像进行检测,得到每个所述第一初始目标区域中目标对象对应的预测值;将所述预测值与所述第一初始目标区域进行关联。
处理器在执行存储器上存储的利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪时,还执行如下计算机程序:计算所述第一初始目标区域的中心与质心之间的第一距离;在所述第一距离大于第二预设阈值的情况下,调整所述第一初始目标区域的位置及大小,得到新的目标区域;其中,所述新的目标区域的中心与质心之间的第二距离小于或等于所述第二预设阈值;基于所述新的目标区域确定所述第一初始目标区域所属的目标帧图像的下一目标帧图像的第二初始目标区域,直至得到最后一个目标帧图像的初始目标区域。
处理器在执行存储器上存储的行为监测方法时,还执行如下计算机程序:对所述最后一个目标帧图像的初始目标区域进行识别,得到所述目标对象的身份信息;基于所述最后一个目标帧图像的初始目标区域以及所述身份信息生成监测信息;将所述监测信息发送给管理员。
本公开实施例通过结合检测算法和跟踪算法,能够对存在预设行为的目标对象进行实时监测,实时性高;并且,在跟踪的过程中能够自动调整目标对象所在的目标区域,避免了目标对象存在遮挡的问题,提高了监测结果的准确度。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本邻域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。
以上对本公开多个实施例进行了详细说明,但本公开不限于这些具体的实施例,本邻域技术人员在本公开构思的基础上,能够做出多种变型和修改实施例,这些变型和修改都应落入本公开所要求保护的范围之内。
Claims (10)
1.一种行为监测方法,其特征在于,包括:
获取目标视频;
确定所述目标视频中的每个帧图像是否满足检测条件;
若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
2.根据权利要求1所述的行为监测方法,其特征在于,所述确定所述目标视频中的每个帧图像是否满足检测条件,包括:
提取所述帧图像相邻的前一帧图像;
利用差异值哈希算法对所述帧图像以及所述前一帧图像之间的相似度;
若所述相似度大于第一预设阈值,确定所述帧图像满足所述检测条件。
3.根据权利要求1所述的行为监测方法,其特征在于,还包括:
所述目标视频中的所述帧图像不满足所述检测条件,则利用所述跟踪算法对所述帧图像中的每个对象均进行跟踪,以实现对每个对象的监测。
4.根据权利要求1所述的行为监测方法,其特征在于,还包括:
利用检测算法对所述帧图像进行检测,得到每个所述第一初始目标区域中目标对象对应的预测值;
将所述预测值与所述第一初始目标区域进行关联。
5.根据权利要求1所述的行为监测方法,其特征在于,所述利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,包括:
计算所述第一初始目标区域的中心与质心之间的第一距离;
在所述第一距离大于第二预设阈值的情况下,调整所述第一初始目标区域的位置及大小,得到新的目标区域;其中,所述新的目标区域的中心与质心之间的第二距离小于或等于所述第二预设阈值;
基于所述新的目标区域确定所述第一初始目标区域所属的目标帧图像的下一目标帧图像的第二初始目标区域,直至得到最后一个目标帧图像的初始目标区域。
6.根据权利要求5所述的行为监测方法,其特征在于,还包括:
对所述最后一个目标帧图像的初始目标区域进行识别,得到所述目标对象的身份信息;
基于所述最后一个目标帧图像的初始目标区域以及所述身份信息生成监测信息;
将所述监测信息发送给管理员。
7.一种行为监测装置,其特征在于,包括:
获取模块,其配置为获取目标视频;
第一确定模块,其配置为确定所述目标视频中的每个帧图像是否满足检测条件;
第二确定模块,其配置为若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
第一跟踪模块,其配置为利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
8.根据权利要求7所述的行为监测装置,其特征在于,所述第一确定模块具体配置为:
提取所述帧图像相邻的前一帧图像;
利用差异值哈希算法对所述帧图像以及所述前一帧图像之间的相似度;
若所述相似度大于第一预设阈值,确定所述帧图像满足所述检测条件。
9.一种存储介质,其特征在于,该计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行如下步骤:
获取目标视频;
确定所述目标视频中的每个帧图像是否满足检测条件;
若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
10.一种电子设备,其特征在于,包括:处理器和存储器,所述存储器存储有所述处理器可执行的机器可读指令,当电子设备运行时,所述处理器与所述存储器之间通过总线通信,所述机器可读指令被所述处理器执行时执行如下步骤:
获取目标视频;
确定所述目标视频中的每个帧图像是否满足检测条件;
若满足,则利用检测算法对每个所述帧图像进行检测,确定所述目标帧图像以及所述目标帧图像中的第一初始目标区域;其中,所述第一初始目标区域内存在预设行为;
利用跟踪算法对所述第一初始目标区域中的目标对象进行跟踪,以实现对所述目标对象的监测。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111098051.9A CN113743368A (zh) | 2021-09-18 | 2021-09-18 | 一种行为监测方法、装置、存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111098051.9A CN113743368A (zh) | 2021-09-18 | 2021-09-18 | 一种行为监测方法、装置、存储介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113743368A true CN113743368A (zh) | 2021-12-03 |
Family
ID=78739873
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111098051.9A Pending CN113743368A (zh) | 2021-09-18 | 2021-09-18 | 一种行为监测方法、装置、存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113743368A (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20120025718A (ko) * | 2010-09-08 | 2012-03-16 | 중앙대학교 산학협력단 | 이상행위 검출장치 및 방법 |
CN105894536A (zh) * | 2016-03-30 | 2016-08-24 | 中国农业大学 | 基于视频跟踪的禽畜行为分析方法及系统 |
CN108491807A (zh) * | 2018-03-28 | 2018-09-04 | 北京农业信息技术研究中心 | 一种奶牛发情行为实时监测方法及系统 |
CN109102523A (zh) * | 2018-07-13 | 2018-12-28 | 南京理工大学 | 一种运动目标检测和跟踪方法 |
CN110163103A (zh) * | 2019-04-18 | 2019-08-23 | 中国农业大学 | 一种基于视频图像的生猪行为识别方法和装置 |
CN110472496A (zh) * | 2019-07-08 | 2019-11-19 | 长安大学 | 一种基于目标检测与跟踪的交通视频智能分析方法 |
CN111241343A (zh) * | 2020-01-07 | 2020-06-05 | 西安电子科技大学 | 一种道路信息监控与分析检测方法、智慧交通控制系统 |
-
2021
- 2021-09-18 CN CN202111098051.9A patent/CN113743368A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20120025718A (ko) * | 2010-09-08 | 2012-03-16 | 중앙대학교 산학협력단 | 이상행위 검출장치 및 방법 |
CN105894536A (zh) * | 2016-03-30 | 2016-08-24 | 中国农业大学 | 基于视频跟踪的禽畜行为分析方法及系统 |
CN108491807A (zh) * | 2018-03-28 | 2018-09-04 | 北京农业信息技术研究中心 | 一种奶牛发情行为实时监测方法及系统 |
CN109102523A (zh) * | 2018-07-13 | 2018-12-28 | 南京理工大学 | 一种运动目标检测和跟踪方法 |
CN110163103A (zh) * | 2019-04-18 | 2019-08-23 | 中国农业大学 | 一种基于视频图像的生猪行为识别方法和装置 |
CN110472496A (zh) * | 2019-07-08 | 2019-11-19 | 长安大学 | 一种基于目标检测与跟踪的交通视频智能分析方法 |
CN111241343A (zh) * | 2020-01-07 | 2020-06-05 | 西安电子科技大学 | 一种道路信息监控与分析检测方法、智慧交通控制系统 |
Non-Patent Citations (4)
Title |
---|
MOHAMMED A.A.AI-QANESS等: "An improved YOLO-based road traffic monitoring system", 《COMPUTING》, vol. 103, pages 211 - 230, XP037377126, DOI: 10.1007/s00607-020-00869-8 * |
刘凤等: "自主移动机器人跟驰行为的模糊推理机仿真研究", 《电子设计工程》, vol. 23, no. 07, pages 54 - 57 * |
王少华等: "基于改进 YOLO v3 模型的奶牛发情行为识别研究", 《农业机械学报 》, vol. 52, no. 07, pages 141 - 150 * |
黄嘉恒等: "基于哈希的图像相似度算法比较研究", 《大理大学学报》, vol. 02, no. 12, pages 32 - 37 * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112446270B (zh) | 行人再识别网络的训练方法、行人再识别方法和装置 | |
CN110363047B (zh) | 人脸识别的方法、装置、电子设备和存储介质 | |
KR102641115B1 (ko) | 객체 검출을 위한 영상 처리 방법 및 장치 | |
Wong et al. | Patch-based probabilistic image quality assessment for face selection and improved video-based face recognition | |
US11200451B2 (en) | Object recognition method and apparatus | |
US9633263B2 (en) | Appearance modeling for object re-identification using weighted brightness transfer functions | |
KR102103770B1 (ko) | 보행자 검출 장치 및 방법 | |
CN106778784B (zh) | 基于机器视觉的猪个体识别与饮水行为分析方法 | |
CN108197604A (zh) | 基于嵌入式设备的快速人脸定位跟踪方法 | |
CN111126190B (zh) | 一种基于自由能理论和动态纹理分析的伪装人脸识别方法 | |
KR101872811B1 (ko) | 행동 패턴 인식 장치, 행동 패턴 인식 방법 및 행동 패턴 분류기 생성 방법 | |
CN113592896B (zh) | 基于图像处理的鱼类投喂方法、系统、设备及存储介质 | |
CN110992378B (zh) | 基于旋翼飞行机器人的动态更新视觉跟踪航拍方法及系统 | |
CN115690542A (zh) | 一种基于改进yolov5的航拍绝缘子定向识别方法 | |
KR102325259B1 (ko) | 반려동물 생애 관리 시스템 및 그 방법 | |
CN108446642A (zh) | 一种快速人脸识别系统 | |
Xue et al. | Open set sheep face recognition based on Euclidean space metric | |
CN111709305B (zh) | 一种基于局部图像块的人脸年龄识别方法 | |
CN108334870A (zh) | Ar设备数据服务器状态的远程监控系统 | |
US20240087352A1 (en) | System for identifying companion animal and method therefor | |
CN111105436B (zh) | 目标跟踪方法、计算机设备及存储介质 | |
CN114581709A (zh) | 识别医学图像中的目标的模型训练、方法、设备及介质 | |
US20220366570A1 (en) | Object tracking device and object tracking method | |
CN111274851A (zh) | 一种活体检测方法及装置 | |
CN108446639A (zh) | 低功耗增强现实设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |