CN113762027B - 一种异常行为的识别方法、装置、设备及存储介质 - Google Patents

Abstract

本发明实施例公开了一种异常行为的识别方法、装置、设备及存储介质。该方法包括：获取待识别的视频数据；其中，视频数据包括至少两个视频帧图像；根据各视频帧图像分别对应的光流图像，确定各视频帧图像中的目标区域；根据各目标区域和训练完成的图像分类网络模型，确定输出结果，并根据输出结果确定视频数据对应的异常行为识别结果；其中，输出结果用于表征各目标区域中是否包含目标对象。本发明实施例通过根据光流图像确定视频帧图像中的目标区域，并根据目标区域中是否包含目标对象确定视频数据对应的异常行为识别结果，解决了仅基于动作特征进行异常行为识别误检率高的问题，提高了对视频中异常行为识别的准确度。

Description

一种异常行为的识别方法、装置、设备及存储介质

技术领域

本发明实施例涉及视频识别技术领域，尤其涉及一种异常行为的识别方法、装置、设备及存储介质。

背景技术

随着计算机网络技术和视频获取设备的发展，视频监控广泛的应用于各种生产场景的监控和异常预警。通过对视频中工作人员的行为进行实时监控和异常行为预警，可以有效降低各类安全生产风险。工作人员的工作行为和动作是否符合规范是安全生产关注的重点，例如，在快递物流的分拣场景中，通过视频监控设备从物流场景中获取的视频信息来分析和理解分拣员的动作，当出现异常行为时进行实时报警。

在实现本发明的过程中，发现现有技术中至少存在以下技术问题：

现有的异常行为的识别方法主要是对视频中分拣员的动作特征进行识别，如抛或扔等动作，但分拣员在工作过程中除了抛扔包裹外还会抛扔一些杂物，仅将动作特征作为异常行为的判断标准必然会造成误检。

发明内容

本发明实施例提供了一种异常行为的识别方法、装置、设备及存储介质，以提高异常行为识别的准确度。

第一方面，本发明实施例提供了一种异常行为的识别方法，该方法包括：

获取待识别的视频数据；其中，所述视频数据包括至少两个视频帧图像；

根据各所述视频帧图像分别对应的光流图像，确定各所述视频帧图像中的目标区域；其中，所述目标区域用于表征对应视频帧图像中满足预设运动速度阈值的运动区域；

根据各所述目标区域和训练完成的图像分类网络模型，确定输出结果，并根据所述输出结果确定所述视频数据对应的异常行为识别结果；其中，所述输出结果用于表征各所述目标区域中是否包含目标对象。

第二方面，本发明实施例还提供了一种异常行为的识别装置，该装置包括：

视频数据获取模块，用于获取待识别的视频数据；其中，所述视频数据包括至少两个视频帧图像；

目标区域确定模块，用于根据各所述视频帧图像分别对应的光流图像，确定各所述视频帧图像中的目标区域；其中，所述目标区域用于表征对应视频帧图像中满足预设运动速度阈值的运动区域；

异常行为结果确定模块，用于根据各所述目标区域和训练完成的图像分类网络模型，确定输出结果，并根据所述输出结果确定所述视频数据对应的异常行为识别结果；其中，所述输出结果用于表征各所述目标区域中是否包含目标对象。

第三方面，本发明实施例还提供了一种电子设备，该电子设备包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现上述所涉及的任一所述的异常行为的识别方法。

第四方面，本发明实施例还提供了一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于执行上述所涉及的任一所述的异常行为的识别方法。

上述发明中的实施例具有如下优点或有益效果：

本发明实施例通过根据视频帧图像对应的光流图像，确定视频帧图像中用于表征满足预设运动速度阈值的运动区域的目标区域，并根据目标区域中是否包含目标对象确定视频数据对应的异常行为识别结果，解决了仅基于动作特征进行异常行为识别误检率高的问题，提高了对视频中异常行为识别的准确度，进而保证了生产过程中的安全性。

附图说明

图1是本发明实施例一提供的一种异常行为的识别方法的流程图；

图2是本发明实施例一提供的一种目标区域的示意图；

图3是本发明实施例二提供的一种异常行为的识别方法的流程图；

图4A是本发明实施例二提供的一种修正前的掩码图像的示意图；

图4B是本发明实施例二提供的一种第一掩码图像的示意图；

图4C是本发明实施例二提供的一种待修正掩码图像的示意图；

图5是本发明实施例三提供的一种异常行为的识别装置的示意图；

图6是本发明实施例四提供的一种电子设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

实施例一

图1是本发明实施例一提供的一种异常行为的识别方法的流程图，本实施例可适用于对视频中是否存在异常行为进行判断的情况，该方法可以由异常行为的识别装置来执行，该装置可采用软件和/或硬件的方式实现，该装置可以配置于终点设备中，示例性的，终端设备可以是移动终端、笔记本电脑、台式机、服务器和平板电脑等智能终端。具体包括如下步骤：

S110、获取待识别的视频数据。

其中，示例性的，视频数据可以是录像设备实时采集到的视频，也可以是用户输入的视频。在本实施例中，视频数据包括至少两个视频帧图像。其中，视频帧图像可用于描述组成视频数据的静止画面。

S120、根据各视频帧图像分别对应的光流图像，确定各视频帧图像中的目标区域。

光流速度用于表征运动对象在成像平面上的像素运动的瞬时速度，是利用图像序列中预设特征点的像素位置在时间域上的变化以及相邻帧之间的相关性来确定相邻帧之间运动对象的运动信息。其中，具体的，光流速度包括光流速率和光流方向。举例而言，运动对象在当前视频帧图像中的当前像素位置为(x1,y1)且该运动对象在下一视频帧图像中的下一像素位置为(x2,y2)，假设当前视频帧图像和下一视频帧图像之间的时间间隔为dt，则运动对象对应的移动距离(dx,dy)满足公式：(dx,dy)＝(x2,y2)-(x1,y1)，其中，光流速度沿水平方向x轴的速度矢量光流速度沿垂直方向y轴的速度矢量/>

其中，示例性的，与t时刻的视频帧图像对应的光流图像flo_t满足公式：flo_t＝FLOW(p_t,p_t-1)，其中，p_t表示t时刻的视频帧图像，p_t-1表示t-1时刻的视频帧图像，FLOW表示用于计算光流图像的算法。其中，示例性的，计算光流图像的方法包括但不限于金字塔L-K光流法、Horn-Schunck算法、FlowNetSimple模型或FlowNetCorr模型。

具体的，如果视频数据包含N帧视频帧图像，分别为{p₀,p₁...,p_n-1,p_n}，则与该视频数据对应的光流图图像分别为{flo₁,flo₂,flo_k...,flo_n-1}，其中，光流图像flo_k满足公式：flo_k＝FLOW(p_k,p_k-1),k∈{1,...,n-1}。

其中，具体的，光流图像代表的是二维瞬时运动速度场，包含水平方向的光流速度矢量和垂直方向的光流速度矢量。

在一个实施例中，可选的，根据各视频帧图像分别对应的光流图像，确定各视频帧图像中的目标区域，包括：针对每个光流图像，基于光流图像中每个像素点分别对应的水平光流速度和垂直光流速度，确定光流图像对应的速度图像；基于速度图像和预设运动速度阈值，确定光流图像对应的视频帧图像中的目标区域。

其中，示例性的，假设视频帧图像的图像尺寸为h×w，速度图像s_k中像素点(i,j)对应的速度值满足公式：

其中，flo_k(i,j,0)表示光流图像中像素点(i,j)对应的水平光流速度，flo_k(i,j,1)表示光流图像中像素点(i,j)对应的垂直光流速度，λ为可调节参数，λ＞0。示例性的，λ＝1.1。此处对可调节参数的具体取值不作限定，可根据实际需求或摄像头的参数进行设置。

在本实施例中，目标区域用于表征对应视频帧图像中满足预设运动速度阈值的运动区域。在上述实施例的基础上，可选的，基于速度图像和预设速度阈值，确定光流图像对应的视频帧图像中的目标区域，包括：将速度图像中的每个像素点分别对应的速度值与预设运动速度阈值进行比较；根据比较结果，确定与速度图像对应的掩码图像；其中，掩码图像用于表征视频帧图像中的运动区域和背景区域；基于掩码图像和视频帧图像，确定视频帧图像中的目标区域。

在一个实施例中，可选的，根据比较结果，确定与速度图像对应的掩码图像，包括：针对每个像素点，如果像素点对应的速度值小于等于预设运动速度阈值，则将像素点对应的像素值设置为第一像素值，得到掩码图像；如果像素点对应的速度值大于预设运动速度阈值，则将像素点对应的像素值设置为第二像素值，得到掩码图像。

其中，具体的，第一像素值与第二像素值不同。示例性的，第一像素值为0，第二像素值为1，或者第一像素值为0，第二像素值为255。此处对第一像素值和第二像素值的具体取值不作限定。

其中，具体的，掩码图像mask_k中像素点(i,j)对应的像素值满足公式：

其中，θ_k表示预设运动速度阈值。

其中，基于掩码图像和视频帧图像，确定视频帧图像中的目标区域，具体的，将掩码图像映射到对应的视频帧图像中，得到视频帧图像中的目标区域。

图2是本发明实施例一提供的一种目标区域的示意图。具体的，图2中最左边的图像表示视频帧图像，五角星和立方体表示视频帧图像包含的运动对象。图2中的中间图像表示掩码图像，具体的，本实施例中的掩码图像用像素值0表示视频帧图像中的背景区域，用像素值255表示视频帧图像中的运动区域。图2中最右边的两个图像表示将掩码图像映射到视频帧图像后得到的两个目标区域。

S130、根据各目标区域和训练完成的图像分类网络模型，确定输出结果，并根据输出结果确定视频数据对应的异常行为识别结果。

其中，具体的，将目标区域对应的图像输入到训练完成的图像分类网络模型中，得到图像分类网络模型的输出结果。在本实施例中，输出结果用于表征各目标区域中是否包含目标对象。针对不同的应用场景，目标对象的设置可能不同，如在包裹分拣场景中，目标对象可以为包裹。此处对目标对象的设置不作限定。

其中，示例性的，图像分类模型包括但不限于逻辑回归、朴素贝叶斯、决策树、支持向量机、随机森林、梯度提升树和卷积神经网络模型等等。

其中，示例性的，视频数据中视频帧图像对应的目标区域中包含目标对象，则将该视频数据对应的异常行为结果为视频数据属于异常行为视频。具体的，只要有一个视频帧图像对应的目标区域包含目标对象，则该视频数据属于异常行为视频。如果所有视频帧图像对应的目标区域均不包含目标对象，则该视频数据属于正常行为视频。

在一个实施例中，可选的，根据输出结果确定视频数据对应的异常行为识别结果，包括：将包含目标对象的目标区域对应的视频帧图像标记为异常行为图像；如果连续标记为异常行为图像的视频帧图像的数量超过第二数量阈值，则视频数据对应的异常行为结果为视频数据属于异常行为视频。

其中，具体的，如果视频帧图像对应至少一个目标区域，则如果至少一个目标区域包含目标对象，则将该视频帧图像标记为异常行为图像，如果所有目标区域均不包含目标对象，则将该视频帧图像标记为正常行为图像。

其中，示例性的，第二数量阈值可以是10或15，此处对第二数量阈值的具体取值范围不作限定。

在另一个实施例中，可选的，如果标记为异常行为图像的视频帧图像的总数量超过第三数量阈值，则视频数据对应的异常行为结果为视频数据属于异常行为视频。其中，示例性的，第三数量阈值可以是50或100。

本实施例的技术方案，通过根据视频帧图像对应的光流图像，确定视频帧图像中用于表征满足预设运动速度阈值的运动区域的目标区域，并根据目标区域中是否包含目标对象确定视频数据对应的异常行为识别结果，解决了仅基于动作特征进行异常行为识别误检率高的问题，提高了对视频中异常行为识别的准确度，进而保证了生产过程中的安全性。

实施例二

图3是本发明实施例二提供的一种异常行为的识别方法的流程图，本实施例的技术方案是上述实施例的基础上的进一步细化。可选的，在根据比较结果，确定与所述速度图像对应的掩码图像之后，所述方法还包括：对所述掩码图像进行去噪处理，得到修正后的掩码图像。

本实施例的具体实施步骤包括：

S210、获取待识别的视频数据。

S220、根据各视频帧图像分别对应的光流图像，确定各视频帧图像对应的速度图像。

S230、将速度图像中的每个像素点分别对应的速度值与预设运动速度阈值进行比较，并根据比较结果，确定与速度图像对应的掩码图像。

S240、对掩码图像进行去噪处理，得到修正后的掩码图像。

由于本实施例基于图像中的每个像素点确定掩码图像，因此得到的掩码图像可能会存在噪声像素点，会对后续的数据处理结果产生一定的影响。

在一个实施例中，图像去噪的算法包括但不限于傅里叶变换方法、小波变换算法、双边滤波算法、三边滤波算法、均值滤波算法、非局部平均算法、三维块匹配滤波算法中至少一种。

在一个实施例中，可选的，对掩码图像进行去噪处理，得到修正后的掩码图像，包括：将掩码图像中的每个像素点分别作为目标像素点；基于目标像素点的目标像素值以及与目标像素点相邻的相邻像素点的相邻像素值，确定第一掩码图像；根据第一掩码图像，确定修正后的掩码图像。

在一个实施例中，可选的，基于目标像素点的目标像素值以及与目标像素点相邻的相邻像素点的相邻像素值，确定第一掩码图像，包括：基于目标像素点的像素位置和/或目标像素值，判断与目标像素值相同的相邻像素值对应的相邻像素点的数量是否小于第一数量阈值；如果是，则基于不同于目标像素值的像素值，对目标像素点的目标像素值进行替换，得到第一掩码图像；如果否，则保留目标像素点的目标像素值，得到第一掩码图像。

其中，具体的，当目标像素点的像素位置为边角位置时，与该目标像素点对应的相邻像素点的数量为3个，当目标像素点的像素位置为边界位置时，与该目标像素点对应的相邻像素点的数量为5个，当目标像素点的像素位置为中间位置时，与该目标像素点对应的相邻像素点的数量为8个。其中，具体的，不同像素位置对应的第一数量阈值可以相同，也可以不同。示例性的，边角位置、边界位置和中间位置的目标像素点对应的第一数量阈值分别为2个、3个或4个，或上述各目标像素点对应的第一数量阈值均为2个。

其中，具体的，目标像素点的目标像素值为第一像素值对应的第一数量阈值与目标像素点的目标像素值为第二像素值对应的第一数量阈值可以相同，也可以不同。示例性的，假设目标像素值为0对应的第一数量阈值为2个，目标像素值为1对应的第一数量阈值为3个。

其中，具体的，当目标像素值为1时，判断相邻像素点中相邻像素值为1的相邻像素点的数量是否小于第一数量阈值count₁，如果是，则认为该目标像素点为“孤立”的目标像素点。当目标像素值为0时，判断相邻像素点中相邻像素值为0的相邻像素点的数量是否小于第一数量阈值count₀，如果是，则认为该目标像素点为“孤立”的目标像素点。

图4A是本发明实施例二提供的一种修正前的掩码图像的示意图。具体的，假设count₁＝2，count₀＝3，图4A中的圆圈标注的像素点为基于上述判断标准得到的“孤立”的目标像素点。

图4B是本发明实施例二提供的一种第一掩码图像的示意图。具体的，在图4A的基础上，将“孤立”的目标像素点的目标像素值替换为不同于该目标像素值的像素值，具体的，将“孤立”的“1”替换为“0”，将“孤立”的“0”替换为“1”。图4B中用灰色背景标注的像素点为已被替换后的目标像素点。

在一个实施例中，可选的，根据第一掩码图像，确定修正后的掩码图像，包括：将第一掩码图像作为修正后的掩码图像。

在另一个实施例中，可选的，根据第一掩码图像，确定修正后的掩码图像，包括：获取第一掩码图像中至少一个第二像素值对应的连续相邻像素点构成的掩码区域图像；针对每个掩码区域图像，基于掩码区域图像对应的最大边长尺寸，确定第一掩码图像中的待修正掩码图像；基于第二像素值对待修正掩码图像中的像素值为第一像素值的像素点的像素值进行修正，得到修正后的掩码图像。

其中，具体的，将待修正掩码图像中像素值为第一像素值的像素点修正为像素值为第二像素值的像素点，假设第一像素值为“0”，第二像素值为“1”，则将该像素点的像素值修改为“1”。

在一个实施例中，可选的，基于掩码区域图像对应的最大边长尺寸，确定第一掩码图像中的待修正掩码图像，包括：将最大边长尺寸作为待修正掩码图像对应的边长尺寸；或者，基于预设放大比例，确定最大边长尺寸对应的放大边长尺寸，并基于放大边长尺寸，确定第一掩码图像中的待修正掩码图像。

其中，具体的，最大边长尺寸包括最大横向边长尺寸和最大竖向边长尺寸。在一个实施例中，待修正掩码图像的边长尺寸与掩码区域图像的最大边长尺寸相同。

在另一个实施例中，基于预设放大比例对最大边长尺寸进行放大，得到放大边长尺寸。具体的，待修正掩码图像的边长尺寸大于掩码区域图像的最大边长尺寸。示例性的，最大横向边长尺寸和最大竖向边长尺寸分别对应的预设放大比例可以相同，也可以不同。这样设置的好处在于，对基于光流图像确定的掩码区域图像尺寸进行扩大，可以避免由于光流信息提取不完整导致部分运动区域缺失的情况，从而保证修正后的掩码图像尽可能的包含所有运动区域，提高后续异常行为识别的准确度。

图4C是本发明实施例二提供的一种待修正掩码图像的示意图。具体的，图4C包含两个待修正掩码图像，以图4C中左侧的待修正掩码图像为例。图4C中黑色实线方框内的像素点为待修正掩码图像中的像素点，黑色虚线方框内的像素点为掩码区域图像中的像素点，具体的，掩码区域图像中的像素点为与第二像素值对应的连续相邻像素点。以像素点的个数表示边长尺寸为例，该掩码区域图像对应的最大横向边长尺寸为5，最大竖向边长尺寸为4。在本实施例中，待修正掩码图像的边长尺寸与掩码区域图像的最大边长尺寸相同。

S250、基于修正后的掩码图像和视频帧图像，确定视频帧图像中的目标区域。

S260、根据各目标区域和训练完成的图像分类网络模型，确定输出结果，并根据输出结果确定视频数据对应的异常行为识别结果。

在上述实施例的基础上，可选的，根据各目标区域和训练完成的图像分类网络模型，确定输出结果，包括：针对每个目标区域，基于至少一个预设高宽比例以及目标区域对应的图像坐标，确定至少一个更新目标区域；将目标区域和各更新目标区域分别对应的图像输入到训练完成的图像分类网络模型中，确定输出结果。

其中，具体的，图像坐标包括目标区域在视频帧图像中的左上角坐标和右下角坐标。以第k帧视频帧图像对应的第j个目标区域为例，该目标区域在视频帧图像中的图像坐标为/>则目标区域的宽度/>和高度/>分别为：

以预设高宽比例为a:b，则根据如下公式得到更新目标区域对应的图像坐标

这样设置的好处在于，由于目标区域的质量依赖于光流图像的质量，通过基于强先验知识设置高宽比例，可以进一步提高用于表征视频帧图像中运动区域的目标区域的准确性，从而提高异常行为的识别结果的准确度。

本实施例的技术方案，通过对基于预设运动速度阈值确定的掩码图像进行去噪处理，解决了掩码图像包含图像噪声的问题，提高了掩码图像的精确度。进一步的，本实施例通过进一步对掩码图像基于边长尺寸进行修正，保证了掩码图像表征的视频帧图像中运动区域的完整性，从而进一步提高了异常行为的识别结果的准确度。

实施例三

图5是本发明实施例三提供的一种异常行为的识别装置的示意图。本实施例可适用于对视频中是否存在异常行为进行判断的情况，该装置可采用软件和/或硬件的方式实现，该装置可以配置于终端设备中。该异常行为的识别装置包括：视频数据获取模块310、目标区域确定模块320和异常行为结果确定模块330。

其中，视频数据获取模块310，用于获取待识别的视频数据；其中，视频数据包括至少两个视频帧图像；

目标区域确定模块320，用于根据各视频帧图像分别对应的光流图像，确定各视频帧图像中的目标区域；其中，目标区域用于表征对应视频帧图像中满足预设运动速度阈值的运动区域；

异常行为结果确定模块330，用于根据各目标区域和训练完成的图像分类网络模型，确定输出结果，并根据输出结果确定视频数据对应的异常行为识别结果；其中，输出结果用于表征各目标区域中是否包含目标对象。

本实施例的技术方案，通过根据视频帧图像对应的光流图像，确定视频帧图像中用于表征满足预设运动速度阈值的运动区域的目标区域，并根据目标区域中是否包含目标对象确定视频数据对应的异常行为识别结果，解决了仅基于动作特征进行异常行为识别误检率高的问题，提高了对视频中异常行为识别的准确度，进而保证了生产过程中的安全性。

在上述技术方案的基础上，可选的，目标区域确定模块320包括：

速度图像确定单元，用于针对每个光流图像，基于光流图像中每个像素点分别对应的水平光流速度和垂直光流速度，确定光流图像对应的速度图像；

目标区域确定单元，用于基于速度图像和预设运动速度阈值，确定光流图像对应的视频帧图像中的目标区域。

在上述技术方案的基础上，可选的，目标区域确定单元，包括：

速度值比较子单元，用于将速度图像中的每个像素点分别对应的速度值与预设运动速度阈值进行比较；

掩码图像确定子单元，用于根据比较结果，确定与速度图像对应的掩码图像；其中，掩码图像用于表征视频帧图像中的运动区域和背景区域；

目标区域确定子单元，用于基于掩码图像和视频帧图像，确定视频帧图像中的目标区域。

在上述技术方案的基础上，可选的，掩码图像确定子单元，具体用于：

针对每个像素点，如果像素点对应的速度值小于等于预设运动速度阈值，则将像素点对应的像素值设置为第一像素值，得到掩码图像；

如果像素点对应的速度值大于预设运动速度阈值，则将像素点对应的像素值设置为第二像素值，得到掩码图像。

在上述技术方案的基础上，可选的，目标区域确定模块320，还包括：

掩码图像修正单元，用于在根据比较结果，确定与速度图像对应的掩码图像之后，对掩码图像进行去噪处理，得到修正后的掩码图像。

在上述技术方案的基础上，可选的，掩码图像修正单元，包括：

目标像素点确定子单元，用于将掩码图像中的每个像素点分别作为目标像素点；

第一掩码图像确定子单元，用于基于目标像素点的目标像素值以及与目标像素点相邻的相邻像素点的相邻像素值，确定第一掩码图像；

掩码图像修正子单元，用于根据第一掩码图像，确定修正后的掩码图像。

在上述技术方案的基础上，可选的，第一掩码图像确定子单元，具体用于：

基于目标像素点的像素位置和/或目标像素值，判断与目标像素值相同的相邻像素值对应的相邻像素点的数量是否小于第一数量阈值；

如果是，则基于不同于目标像素值的像素值，对目标像素点的目标像素值进行替换，得到第一掩码图像；

如果否，则保留目标像素点的目标像素值，得到第一掩码图像。

在上述技术方案的基础上，可选的，掩码图像修正子单元，具体用于：

获取第一掩码图像中至少一个第二像素值对应的连续相邻像素点构成的掩码区域图像；

针对每个掩码区域图像，基于掩码区域图像对应的最大边长尺寸，确定第一掩码图像中的待修正掩码图像；

基于第二像素值对待修正掩码图像中的像素值为第一像素值的像素点的像素值进行修正，得到修正后的掩码图像。

在上述技术方案的基础上，可选的，掩码图像修正子单元，具体用于：

将最大边长尺寸作为待修正掩码图像对应的边长尺寸；或者，

基于预设放大比例，确定最大边长尺寸对应的放大边长尺寸，并基于放大边长尺寸，确定第一掩码图像中的待修正掩码图像。

在上述技术方案的基础上，可选的，异常行为结果确定模块330包括：

输出结果确定单元，用于针对每个目标区域，基于至少一个预设高宽比例以及目标区域对应的图像坐标，确定至少一个更新目标区域；将目标区域和各更新目标区域分别对应的图像输入到训练完成的图像分类网络模型中，确定输出结果。

在上述技术方案的基础上，可选的，异常行为结果确定模块330包括：

异常行为结果确定单元，用于将包含目标对象的目标区域对应的视频帧图像标记为异常行为图像；如果连续标记为异常行为图像的视频帧图像的数量超过第二数量阈值，则视频数据对应的异常行为结果为视频数据属于异常行为视频。

本发明实施例所提供的异常行为的识别装置可以用于执行本发明实施例所提供的异常行为的识别方法，具备执行方法相应的功能和有益效果。

值得注意的是，上述异常行为的识别装置的实施例中，所包括的各个单元和模块只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。

实施例四

图6是本发明实施例四提供的一种电子设备的结构示意图，本发明实施例为本发明上述实施例的异常行为的识别方法的实现提供服务，可配置上述实施例中的异常行为的识别装置。图6示出了适于用来实现本发明实施方式的示例性电子设备12的框图。图6显示的电子设备12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示，电子设备12以通用计算设备的形式表现。电子设备12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。

总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器、外围总线、图形加速端口、处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线、微通道体系结构(MAC)总线、增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。

电子设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。电子设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图6未显示，通常称为“硬盘驱动器”)。尽管图6中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM，DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。

电子设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该电子设备12交互的设备通信，和/或与使得该电子设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，电子设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图6所示，网络适配器20通过总线18与电子设备12的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的异常行为的识别方法。

通过上述电子设备，解决了仅基于动作特征进行异常行为识别误检率高的问题，提高了对视频中异常行为识别的准确度，进而保证了生产过程中的安全性。

实施例五

本发明实施例五还提供了一种包含计算机可执行指令的存储介质，计算机可执行指令在由计算机处理器执行时用于执行一种异常行为的识别方法，该方法包括：

获取待识别的视频数据；其中，视频数据包括至少两个视频帧图像；

根据各视频帧图像分别对应的光流图像，确定各视频帧图像中的目标区域；其中，目标区域用于表征对应视频帧图像中满足预设运动速度阈值的运动区域；

根据各目标区域和训练完成的图像分类网络模型，确定输出结果，并根据输出结果确定视频数据对应的异常行为识别结果；其中，输出结果用于表征各目标区域中是否包含目标对象。

本发明实施例的计算机存储介质，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，程序设计语言包括面向对象的程序设计语言，诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络包括局域网(LAN)或广域网(WAN)，连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

当然，本发明实施例所提供的一种包含计算机可执行指令的存储介质,其计算机可执行指令不限于如上的方法操作，还可以执行本发明任意实施例所提供的异常行为的识别方法中的相关操作。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (11)

1.一种异常行为的识别方法，其特征在于，包括：

获取待识别的视频数据；其中，所述视频数据包括至少两个视频帧图像；

根据各所述视频帧图像分别对应的光流图像，确定各所述视频帧图像中的目标区域；其中，所述目标区域用于表征对应视频帧图像中满足预设运动速度阈值的运动区域；

根据各所述目标区域和训练完成的图像分类网络模型，确定输出结果，并根据所述输出结果确定所述视频数据对应的异常行为识别结果；其中，所述输出结果用于表征各所述目标区域中是否包含目标对象；

其中，所述根据各所述视频帧图像分别对应的光流图像，确定各所述视频帧图像中的目标区域，包括：

针对每个光流图像，基于所述光流图像中每个像素点分别对应的水平光流速度和垂直光流速度，确定所述光流图像对应的速度图像；

基于所述速度图像和预设运动速度阈值，确定所述光流图像对应的视频帧图像中的目标区域，包括：

将所述速度图像中的每个像素点分别对应的速度值与预设运动速度阈值进行比较；

根据比较结果，确定与所述速度图像对应的掩码图像；其中，所述掩码图像用于表征所述视频帧图像中的运动区域和背景区域；

基于所述掩码图像和所述视频帧图像，确定所述视频帧图像中的目标区域；

所述根据比较结果，确定与所述速度图像对应的掩码图像，包括：

针对每个像素点，如果所述像素点对应的速度值小于等于预设运动速度阈值，则将所述像素点对应的像素值设置为第一像素值，得到掩码图像；

如果所述像素点对应的速度值大于预设运动速度阈值，则将所述像素点对应的像素值设置为第二像素值，得到掩码图像。

2.根据权利要求1所述的方法，其特征在于，在根据比较结果，确定与所述速度图像对应的掩码图像之后，所述方法还包括：

对所述掩码图像进行去噪处理，得到修正后的掩码图像。

3.根据权利要求2所述的方法，其特征在于，所述对所述掩码图像进行去噪处理，得到修正后的掩码图像，包括：

将所述掩码图像中的每个像素点分别作为目标像素点；

基于所述目标像素点的目标像素值以及与所述目标像素点相邻的相邻像素点的相邻像素值，确定第一掩码图像；

根据所述第一掩码图像，确定修正后的掩码图像。

4.根据权利要求3所述的方法，其特征在于，所述基于所述目标像素点的目标像素值以及与所述目标像素点相邻的相邻像素点的相邻像素值，确定第一掩码图像，包括：

基于所述目标像素点的像素位置和/或目标像素值，判断与所述目标像素值相同的相邻像素值对应的相邻像素点的数量是否小于第一数量阈值；

如果是，则基于不同于所述目标像素值的像素值，对所述目标像素点的目标像素值进行替换，得到第一掩码图像；

如果否，则保留所述目标像素点的目标像素值，得到第一掩码图像。

5.根据权利要求3所述的方法，其特征在于，所述根据所述第一掩码图像，确定修正后的掩码图像，包括：

获取所述第一掩码图像中至少一个第二像素值对应的连续相邻像素点构成的掩码区域图像；

针对每个掩码区域图像，基于所述掩码区域图像对应的最大边长尺寸，确定所述第一掩码图像中的待修正掩码图像；

基于第二像素值对所述待修正掩码图像中的像素值为第一像素值的像素点的像素值进行修正，得到修正后的掩码图像。

6.根据权利要求5所述的方法，其特征在于，所述基于所述掩码区域图像对应的最大边长尺寸，确定所述第一掩码图像中的待修正掩码图像，包括：

将所述最大边长尺寸作为所述待修正掩码图像对应的边长尺寸；或者，

基于预设放大比例，确定所述最大边长尺寸对应的放大边长尺寸，并基于所述放大边长尺寸，确定所述第一掩码图像中的待修正掩码图像。

7.根据权利要求1所述的方法，其特征在于，所述根据各所述目标区域和训练完成的图像分类网络模型，确定输出结果，包括：

针对每个目标区域，基于至少一个预设高宽比例以及所述目标区域对应的图像坐标，确定至少一个更新目标区域；

将所述目标区域和各所述更新目标区域分别对应的图像输入到训练完成的图像分类网络模型中，确定输出结果。

8.根据权利要求1所述的方法，其特征在于，所述根据所述输出结果确定所述视频数据对应的异常行为识别结果，包括：

将包含目标对象的目标区域对应的视频帧图像标记为异常行为图像；

如果连续标记为异常行为图像的视频帧图像的数量超过第二数量阈值，则所述视频数据对应的异常行为结果为所述视频数据属于异常行为视频。

9.一种异常行为的识别装置，其特征在于，包括：

视频数据获取模块，用于获取待识别的视频数据；其中，所述视频数据包括至少两个视频帧图像；

目标区域确定模块，用于根据各所述视频帧图像分别对应的光流图像，确定各所述视频帧图像中的目标区域；其中，所述目标区域用于表征对应视频帧图像中满足预设运动速度阈值的运动区域；

异常行为结果确定模块，用于根据各所述目标区域和训练完成的图像分类网络模型，确定输出结果，并根据所述输出结果确定所述视频数据对应的异常行为识别结果；其中，所述输出结果用于表征各所述目标区域中是否包含目标对象；

所述目标区域确定模块包括：

速度图像确定单元，用于针对每个光流图像，基于所述光流图像中每个像素点分别对应的水平光流速度和垂直光流速度，确定所述光流图像对应的速度图像；

目标区域确定单元，用于基于所述速度图像和预设运动速度阈值，确定所述光流图像对应的视频帧图像中的目标区域；

所述目标区域确定单元，包括：

速度值比较子单元，用于将所述速度图像中的每个像素点分别对应的速度值与预设运动速度阈值进行比较；

掩码图像确定子单元，用于根据比较结果，确定与所述速度图像对应的掩码图像；其中，所述掩码图像用于表征所述视频帧图像中的运动区域和背景区域；

目标区域确定子单元，用于基于所述掩码图像和所述视频帧图像，确定所述视频帧图像中的目标区域；

所述掩码图像确定子单元，具体用于：针对每个像素点，如果所述像素点对应的速度值小于等于预设运动速度阈值，则将所述像素点对应的像素值设置为第一像素值，得到掩码图像；如果所述像素点对应的速度值大于预设运动速度阈值，则将所述像素点对应的像素值设置为第二像素值，得到掩码图像。

10.一种电子设备，其特征在于，所述电子设备包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-8中任一所述的异常行为的识别方法。

11.一种包含计算机可执行指令的存储介质，其特征在于，所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-8中任一所述的异常行为的识别方法。