CN116363544A - 输送装置拥堵检测方法、装置、电子设备及存储介质 - Google Patents
输送装置拥堵检测方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN116363544A CN116363544A CN202111619494.8A CN202111619494A CN116363544A CN 116363544 A CN116363544 A CN 116363544A CN 202111619494 A CN202111619494 A CN 202111619494A CN 116363544 A CN116363544 A CN 116363544A
- Authority
- CN
- China
- Prior art keywords
- target
- feature
- conveying device
- video
- space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 88
- 238000000034 method Methods 0.000 claims abstract description 42
- 238000012549 training Methods 0.000 claims abstract description 31
- 238000000605 extraction Methods 0.000 claims description 78
- 238000004364 calculation method Methods 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 14
- 238000002372 labelling Methods 0.000 abstract description 11
- 238000013528 artificial neural network Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000007635 classification algorithm Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 208000034423 Delivery Diseases 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000004806 packaging method and process Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
Abstract
本申请提供一种输送装置拥堵检测方法、装置、电子设备及计算机可读存储介质。该输送装置拥堵检测方法包括:获取目标输送装置的待检测视频的目标时空特征;获取所述目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离;从所述各类别状态中,获取对应的所述特征距离最小的目标类别状态,以作为所述目标输送装置的目标状态,其中,所述目标状态用于指示所述目标输送装置是否拥堵。本申请中降低了数据标注和模型训练所需的时间成本,提高了输送装置是否拥堵的检测准确率。
Description
技术领域
本申请涉及计算机视觉技术领域,具体涉及一种输送装置拥堵检测方法、装置、电子设备及计算机可读存储介质。
背景技术
随着互联网及网购的发展,物流行业也随之兴旺,一般在物流公司接收到快件后,会进行多个步骤的分拣打包处理,这些过程中一般采用输送装置运送快件,以小件包裹为例,基本每一个快件都需要经过皮带机传送。
通常会出现输送装置拥堵(即货物拥堵)的情况,货物拥堵是一个比较容易使得货物破损的原因。所以及时发现输送装置的拥堵情况,以使得输送装置上的货物有良好运转,这样会大大减少货物的破损等问题。
现有技术中,通过监督学习方式,采用标注后的图像训练得到可用于检测输送装置是否拥堵的检测模型。但是,一方面,基于监督学习的分类算法需要大量的标注数据进行模型训练,才能得到检测准确率相对较高的检测模型;另一方面,本申请发明人在实际应用过程中发现,由于输送装置是动态运转的,基于图像检测输送装置是否拥堵会由于缺少动态信息而导致检测准确率低。
发明内容
本申请提供一种输送装置拥堵检测方法、装置、电子设备及计算机可读存储介质,一方面,无需大量的标注数据进行模型训练,可以避免需要大量的标注数据进行模型训练才能得到检测准确率相对较高的检测模型的问题,降低了数据标注和模型训练所需的时间成本;另一方面,可以结合动态信息进行输送装置拥堵的检测,提高了输送装置是否拥堵的检测准确率。
第一方面,本申请提供一种输送装置拥堵检测方法,所述方法包括:
获取目标输送装置的待检测视频的目标时空特征;
获取所述目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离;
从所述各类别状态中,获取对应的所述特征距离最小的目标类别状态,以作为所述目标输送装置的目标状态,其中,所述目标状态用于指示所述目标输送装置是否拥堵。
在本申请的一些实施例中,所述获取所述目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离,包括:
获取所述各类别状态的多个基准视频;
对所述多个基准视频进行特征提取,得到所述各类别状态的多个视频时空特征;
将所述各类别状态的多个视频时空特征进行融合,得到所述各类别状态的基准视频特征;
通过预设的距离计算方式,计算所述目标时空特征分别与所述各类别状态的基准视频特征之间的特征距离。
在本申请的一些实施例中,所述获取目标输送装置的待检测视频的目标时空特征之前,还包括:
获取所述目标输送装置的原始视频;
基于预设基准图像中的输送装置的区域位置,对所述原始视频中的输送装置进行分割,得到所述目标输送装置的待检测视频,其中,所述原始视频的采集装置的拍摄角度与所述预设基准图像的采集装置的拍摄角度相同。
在本申请的一些实施例中,所述获取目标输送装置的待检测视频的目标时空特征,包括:
通过预设的特征提取参数,对所述待检测视频进行特征提取,得到所述目标时空特征;
所述特征提取参数通过如下步骤学习得到:
获取所述各类别状态的参考视频、正样本视频和负样本视频;
通过预设的特征提取模块,提取所述参考视频的第一时空特征、所述正样本视频的第二时空特征和所述负样本视频的第三时空特征;
以所述第一时空特征与所述第二时空特征之间距离小于第一预设阈值、所述第一时空特征与所述第三时空特征之间距离大于第二预设阈值为目标,调整所述特征提取模块的权重参数,直至符合预设停止训练条件时,将所述特征提取模块的权重参数作为所述特征提取参数。
在本申请的一些实施例中,所述特征提取模块为3D卷积网络。
在本申请的一些实施例中,所述从所述各类别状态中,获取对应的所述特征距离最小的目标类别状态,以作为所述目标输送装置的目标状态,包括:
从所述特征距离中获取最小的目标特征距离;
检测所述目标特征距离是否小于预设特征距离阈值;
若所述目标特征距离小于预设特征距离阈值,则获取所述目标特征距离对应的目标类别状态,以作为所述目标输送装置的目标状态。
在本申请的一些实施例中,所述获取所述目标特征距离对应的目标类别状态,以作为所述目标输送装置的目标状态之后,还包括:
当所述目标状态指示所述目标输送装置处于拥堵状态时,输出所述目标输送装置拥堵的提示信息。
第二方面,本申请提供一种输送装置拥堵检测装置,所述输送装置拥堵检测装置包括:
第一获取单元,用于获取目标输送装置的待检测视频的目标时空特征;
第二获取单元,用于获取所述目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离;
检测单元,用于从所述各类别状态中,获取对应的所述特征距离最小的目标类别状态,以作为所述目标输送装置的目标状态,其中,所述目标状态用于指示所述目标输送装置是否拥堵。
在本申请的一些实施例中,所述第二获取单元具体用于:
获取所述各类别状态的多个基准视频;
对所述多个基准视频进行特征提取,得到所述各类别状态的多个视频时空特征;
将所述各类别状态的多个视频时空特征进行融合,得到所述各类别状态的基准视频特征;
通过预设的距离计算方式,计算所述目标时空特征分别与所述各类别状态的基准视频特征之间的特征距离。
在本申请的一些实施例中,所述获取目标输送装置的待检测视频的目标时空特征之前,所述第一获取单元具体用于:
获取所述目标输送装置的原始视频;
基于预设基准图像中的输送装置的区域位置,对所述原始视频中的输送装置进行分割,得到所述目标输送装置的待检测视频,其中,所述原始视频的采集装置的拍摄角度与所述预设基准图像的采集装置的拍摄角度相同。
在本申请的一些实施例中,所述第一获取单元具体用于:
通过预设的特征提取参数,对所述待检测视频进行特征提取,得到所述目标时空特征;
在本申请的一些实施例中,所述输送装置拥堵检测装置还包括训练单元,所述训练单元具体用于:
获取所述各类别状态的参考视频、正样本视频和负样本视频;
通过预设的特征提取模块,提取所述参考视频的第一时空特征、所述正样本视频的第二时空特征和所述负样本视频的第三时空特征;
以所述第一时空特征与所述第二时空特征之间距离小于第一预设阈值、所述第一时空特征与所述第三时空特征之间距离大于第二预设阈值为目标,调整所述特征提取模块的权重参数,直至符合预设停止训练条件时,将所述特征提取模块的权重参数作为所述特征提取参数。
在本申请的一些实施例中,所述训练单元具体用于:
通过3D卷积网络,提取所述参考视频的第一时空特征、所述正样本视频的第二时空特征和所述负样本视频的第三时空特征;
以所述第一时空特征与所述第二时空特征之间距离小于第一预设阈值、所述第一时空特征与所述第三时空特征之间距离大于第二预设阈值为目标,调整所述3D卷积网络的权重参数,直至符合预设停止训练条件时,将所述3D卷积网络的权重参数作为所述特征提取参数。
在本申请的一些实施例中,所述检测单元具体用于:
从所述特征距离中获取最小的目标特征距离;
检测所述目标特征距离是否小于预设特征距离阈值;
若所述目标特征距离小于预设特征距离阈值,则获取所述目标特征距离对应的目标类别状态,以作为所述目标输送装置的目标状态。
在本申请的一些实施例中,所述输送装置拥堵检测装置还包括输出单元,所述获取所述目标特征距离对应的目标类别状态,以作为所述目标输送装置的目标状态之后,所述输出单元具体用于:
当所述目标状态指示所述目标输送装置处于拥堵状态时,输出所述目标输送装置拥堵的提示信息。
第三方面,本申请还提供一种电子设备,所述电子设备包括处理器和存储器,所述存储器中存储有计算机程序,所述处理器调用所述存储器中的计算机程序时执行本申请提供的任一种输送装置拥堵检测方法中的步骤。
第四方面,本申请还提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器进行加载,以执行所述的输送装置拥堵检测方法中的步骤。
本申请通过获取目标输送装置的待检测视频的目标时空特征与预设的各类别状态的基准视频特征之间的特征距离;基于特征距离进行匹配确定与目标时空特征距离最小的基准视频特征对应的类别状态,从而确定目标输送装置是否拥堵;第一方面,由于仅需针对视频进行特征提取,即可确定输送装置是否拥堵,因此只需学习特征提取参数、而无需基于监督学习的分类算法采用大量的标注数据进行复杂模型结构的训练,避免需要大量的标注数据进行模型训练才能得到检测准确率相对较高的检测模型的问题,降低了数据标注和模型训练所需的时间成本;第二方面,由于是基于视频提取时空特征进行特征匹配,因此可以充分结合空间信息和时间信息进行输送装置是否拥堵的检测,从而可以有效地结合动态信息进行输送装置是否拥堵的检测,避免了基于图像检测输送装置是否拥堵会由于缺少动态信息而导致检测准确率低的问题,在一定程度上提高了输送装置是否拥堵的检测准确率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例所提供的输送装置拥堵检测系统的场景示意图;
图2是本申请实施例提供的输送装置拥堵检测方法的一种流程示意图;
图3是本申请实施例中提供的特征提取模块的一种结构示意图;
图4是本申请实施例中提供的特征提取模块的另一种结构示意图;
图5本申请实施例中提供的输送装置拥堵检测装置的一个实施例结构示意图;
图6是本申请实施例中提供的电子设备的一个实施例结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在本申请实施例的描述中,需要理解的是,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本申请实施例的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
为了使本领域任何技术人员能够实现和使用本申请,给出了以下描述。在以下描述中,为了解释的目的而列出了细节。应当明白的是,本领域普通技术人员可以认识到,在不使用这些特定细节的情况下也可以实现本申请。在其它实例中,不会对公知的过程进行详细阐述,以避免不必要的细节使本申请实施例的描述变得晦涩。因此,本申请并非旨在限于所示的实施例,而是与符合本申请实施例所公开的原理和特征的最广范围相一致。
本申请实施例输送装置拥堵检测方法的执行主体可以为本申请实施例提供的输送装置拥堵检测装置,或者集成了该输送装置拥堵检测装置的服务器设备、物理主机或者用户设备(User Equipment,UE)等不同类型的电子设备,其中,输送装置拥堵检测装置可以采用硬件或者软件的方式实现,UE具体可以为智能手机、平板电脑、笔记本电脑、掌上电脑、台式电脑或者个人数字助理(Personal Digital Assistant,PDA)等终端设备。
该电子设备可以采用单独运行的工作方式,或者也可以采用设备集群的工作方式,通过应用本申请实施例提供的输送装置拥堵检测方法,一方面,无需大量的标注数据进行模型训练,可以避免需要大量的标注数据进行模型训练才能得到检测准确率相对较高的检测模型的问题,降低了数据标注和模型训练所需的时间成本;另一方面,可以结合动态信息进行输送装置拥堵的检测,提高了输送装置是否拥堵的检测准确率。
参见图1,图1是本申请实施例所提供的输送装置拥堵检测系统的场景示意图。其中,该输送装置拥堵检测系统可以包括电子设备100,电子设备100中集成有输送装置拥堵检测装置。例如,该电子设备可以获取目标输送装置的待检测视频的目标时空特征;获取所述目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离;从所述各类别状态中,获取对应的所述特征距离最小的目标类别状态,以作为所述目标输送装置的目标状态,其中,所述目标状态用于指示所述目标输送装置是否拥堵。
另外,如图1所示,该输送装置拥堵检测系统还可以包括存储器200,用于存储数据,如存储图像数据、视频数据。
需要说明的是,图1所示的输送装置拥堵检测系统的场景示意图仅仅是一个示例,本申请实施例描述的输送装置拥堵检测系统以及场景是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定,本领域普通技术人员可知,随着输送装置拥堵检测系统的演变和新业务场景的出现,本发明实施例提供的技术方案对于类似的技术问题,同样适用。
下面,开始介绍本申请实施例提供的输送装置拥堵检测方法,本申请实施例中以电子设备作为执行主体,为了简化与便于描述,后续方法实施例中将省略该执行主体。
参照图2,图2是本申请实施例提供的输送装置拥堵检测方法的一种流程示意图。需要说明的是,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。该输送装置拥堵检测方法包括步骤201~步骤203,其中:
201、获取目标输送装置的待检测视频的目标时空特征。
其中,目标输送装置是用于输送物体的装置,如,皮带输送机、胶带输送机等等。本申请实施例的方法适用于各种应用场景的输送装置的异常检测;例如,在生产线中用于输送生产物料的胶带输送机。又如,地铁安检中用于输送安检物品的皮带输送机。再如,物流中转场分拣区域中用于输送物流包裹的皮带输送机。
其中,待检测视频是目标输送装置处于工作状态时的视频。
其中,目标时空特征是对待检测视频进行特征提取后所得到的空间信息和时序信息。
步骤201中获取目标时空特征的方式有多种,示例性地,包括:
(1)实时对待检测视频进行特征提取得到。此时,步骤201具体可以包括如下步骤2011~2012:
2011、获取目标输送装置的待检测视频。
步骤2011中获取待检测视频的方式有多种,示例性地,包括:
①在实际应用时,电子设备在硬件上可以集成摄像头,通过该摄像头实时拍摄得到目标输送装置的视频,以作为待检测视频。
②也可以在目标输送装置上方布设摄像头,通过目标输送装置上方的摄像头实时拍摄得到目标输送装置的视频,电子设备与目标输送装置上方的摄像头建立网络连接。并根据该网络连接,从目标输送装置上方的摄像头在线获取目标输送装置上方的摄像头拍摄得到的目标输送装置的视频,以作为待检测视频。
③电子设备也可以从存储有摄像头(包括电子设备集成的摄像头、或者目标输送装置上方的摄像头)拍摄得到的目标输送装置的视频的相关存储介质,读取出摄像头拍摄得到的目标输送装置的视频,作为待检测视频。
④读取预先采集并存储在电子设备内部的目标输送装置的视频,作为待检测视频。
其中,摄像头可根据预设的拍摄方式拍摄视频,例如可设置拍摄高度、拍摄方向或者拍摄距离,其具体拍摄方式可根据摄像头本身进行调节,具体在此不做限定。
进一步地,为了提高目标时空特征的提取效率,用于监控目标输送装置的视频采集装置保持不变,通过一次标定图像中的输送装置的坐标位置,后续可以直接按照该坐标位置快速分割出视频中的输送装置,进而可以快速地定位至输送装置进行特征提取,提高输送装置是否拥堵的检测速度。此时,步骤201之前还包括如下步骤A1~步骤A2:
A1、获取目标输送装置的预设基准图像。
例如,可以通过固定安装在目标输送装置上的视频采集装置,采集目标输送装置的图像,作为预设基准图像。其中,视频采集装置在固定安装后,拍摄角度(包括拍摄高度、拍摄方向或者拍摄距离)保持不变。
A2、获取预设基准图像中的目标输送装置的区域位置。
在一些实施例中,可以通过预先训练好的区域检测模型,对预设基准图像进行输送装置区域检测,得到预设基准图像中的目标输送装置的区域位置。例如,首先,基于训练数据集(包括多张包含输送装置的图像),对预设的区域检测模型进行训练,使得训练后的区域检测模型学习到输送装置的特征,从而得到训练后的(适用于根据图像进行检测处理得出图像中输送装置所在区域的)区域检测模型。其中,预设的区域检测模型可以是可用于进行实例分割的开源网络模型,如Mask R-CNN网络、LSTM-CF网络等等。具体地,可以采用模型参数为默认值的开源实例分割网络作为预设的区域检测模型。然后,将预设基准图像输入至训练后的区域检测模型中,以调用训练后的区域检测模型对预设基准图像进行输送装置所在区域检测处理,预测得到预设基准图像中的目标输送装置的区域位置。由于基于深度学习后的区域检测模型具有较好的预测性能,因此通过采用基于深度学习后的区域检测模型对预设基准图像进行输送装置所在区域检测处理,可以更高效、精准地检测出预设基准图像中的目标输送装置的区域位置。
在另一些实施例中,也可以通过人工标定出预设基准图像中的目标输送装置的区域位置。
步骤2011具体可以包括如下步骤B1~步骤B2:
B1、获取所述目标输送装置的原始视频。
其中,原始视频是指采集装置对目标输送装置直接拍摄得到的、目标输送装置的区域进行分割前的视频。
为了可以基于预设基准图像中的输送装置的区域位置,精准地从原始视频中分割出目标输送装置,其中,所述原始视频的采集装置的拍摄角度与所述预设基准图像的采集装置的拍摄角度相同。例如,可以采用拍摄角度固定的同一摄像头分别拍摄预设基准图像、原始视频。
B2、基于预设基准图像中的输送装置的区域位置,对所述原始视频中的输送装置进行分割,得到所述目标输送装置的待检测视频。
其中,区域位置用于指示预设基准图像中的输送装置的坐标位置。
示例性地,针对原始视频中的每一帧图像,按照预设基准图像中的输送装置的区域位置,对原始视频中的每一帧图像中的目标输送装置区域分割出来,从而得到只包含目标输送装置的待检测视频。
由于原始视频的采集装置的拍摄角度与预设基准图像的采集装置的拍摄角度,因此,通过预先标定预设基准图像中的输送装置的区域位置,后续直接将该标定的区域位置用于对目标输送装置的原始视频进行输送区域的分割,可以准确、快速地对原始视频中的输送装置进行分割。
2012、对所述待检测视频进行特征提取,得到所述目标时空特征。
步骤2022中,对待检测视频进行特征提取得到目标时空特征的方式有多种,示例性地,可以通过预设的特征提取参数,对所述待检测视频进行特征提取,得到所述目标时空特征。
示例性,预设的特征提取参数通过如下步骤C1~C3学习得到。
C1、获取所述各类别状态的参考视频、正样本视频和负样本视频。
其中,每个类别状态的参考视频是指是指该类别状态的一个视频。
其中,正样本视频是与参考视频为同一类别状态的另一次成像所得到的视频。
其中,负样本视频是与参考视频不是同一类别状态的视频。
例如,预设的各类别状态包括输送装置空载、输送装置正常输送、输送装置少量输送和输送装置拥堵四个类别,针对“输送装置空载”这个类别状态采集了视频1和视频2,针对“输送装置正常输送”这个类别状态采集了视频3和视频4,针对“输送装置少量输送”这个类别状态采集了视频5和视频6,针对“输送装置拥堵”这个类别状态采集了视频7和视频8。
可以将视频1作为“输送装置空载”这个类别状态的参考视频,视频2作为“输送装置空载”这个类别状态的正样本视频,视频3、4、5、6、7、8中的一个或多个视频作为“输送装置空载”这个类别状态的负样本视频。其他类别状态的参考视频、正样本视频和负样本视频类似。
C2、通过预设的特征提取模块,提取所述参考视频的第一时空特征、所述正样本视频的第二时空特征和所述负样本视频的第三时空特征。
其中,第一时空特征是指对参考视频进行特征提取后得到各类别状态在时间、空间上的特征信息。
其中,第二时空特征是指对正样本视频进行特征提取后得到各类别状态在时间、空间上的特征信息。
其中,第三时空特征是指对负样本视频进行特征提取后得到各类别状态在时间、空间上的特征信息。
其中,预设的特征提取模块是可用于提取时间信息和空间信息的网络结构,预设的特征提取模块可以根据实际业务场景需求构建得到,例如,特征提取模块为的网络结构一个神经网络,采用一个神经网络依次提取第一时空特征、第二时空特征、第三时空特征。
又如,如图3所示,图3是本申请实施例中提供的特征提取模块的一种结构示意图,特征提取模块的网络结构可以设置为包含2个权重共享的神经网络(如孪生网络结构,如每个神经网络采用3D卷积网络),其中一个神经网络用于提取参考视频的第一时空特征,另一个神经网络用于提取正样本视频的第二时空特征或负样本视频的第三时空特征。以便可以同时提取第一时空特征和第二时空特征,从而使得可以快速计算出特征提取模块在相同类别状态上的特征提取损失,对特征提取模块的权重参数进行调整,以提高特征提取模块对相同类别状态的特征学习速度。或者,可以同时提取第一时空特征和第三时空特征,从而使得可以快速计算出特征提取模块在不同类别状态上的特征提取损失,对特征提取模块的权重参数进行调整,以提高特征提取模块对不同类别状态的特征学习速度。
再如,如图4所示,图4是本申请实施例中提供的特征提取模块的另一种结构示意图,特征提取模块的网络结构可以设置为包含3个权重共享的神经网络(如采用3D卷积网络),一个神经网络用于提取参考视频的第一时空特征,一个神经网络用于提取正样本视频的第二时空特征、一个神经网络用于提取负样本视频的第三时空特征。以便可以同时提取第一时空特征、第二时空特征和第三时空特征,从而使得可以快速计算出特征提取模块在相同类别状态上的特征提取损失、在不同类别状态上的特征提取损失,对特征提取模块的权重参数进行调整,以提高特征提取模块对相同类别状态的特征学习速度、以及对不同类别状态的特征学习速度。
示例性地,例如,特征提取模块可以是3D卷积网络、或者也可以是如门控循环神经网络(gated recurrent neural network,GRU)等具有时序记忆能力的时序记忆网络。下面分别举例进行说明。
1)特征提取模块为3D卷积网络。此时,步骤C2中,可以通过预先构建的3D卷积网络进行特征提取,得到各类别状态的参考视频的第一时空特征、正样本视频的第二时空特征和负样本视频的第三时空特征。
当通过3D卷积网络作为特征提取模块进行学习后,步骤2012中,可以通过3D卷积网络直接对待检测视频进行特征提取,得到目标时空特征。一方面,利用3D卷积网络可以获取到待检测视频的空间信息和时序信息,从而可以得到目标输送装置上的货物动态特征和静态特征,有效地区别目标输送装置上的运动信息和货量信息,提高目标时空特征的特征全面性,从而提高目标输送是否拥堵的检测准确率。另一方面,由于无需基于监督学习的分类算法采用大量的标注数据进行复杂模型结构的训练,只需简单地对特征提取模块进行训练,用于提取时空特征进行特征匹配即可检测输送装置是否拥堵,既能有效地降低了样本特征的维度,又能避免需要大量的标注数据进行模型训练才能得到检测准确率相对较高的检测模型的问题,一定程度上提高了输送装置是否拥堵的检测速度;且3D卷积网络的网络结构相对简单,因此采用3D卷积网络提取时空特征可以提高时空特征的提取速度,在一定提高了输送装置是否拥堵的检测速度。
2)特征提取模块为时序记忆网络。此时,步骤C2中,可以通过预先构建的时序记忆网络进行特征提取,得到各类别状态的参考视频的第一时空特征、正样本视频的第二时空特征和负样本视频的第三时空特征。
当通过时序记忆网络作为特征提取模块进行学习后,步骤2012中,可以通过例如GRU等具有时序记忆能力的时序记忆网络,对待检测视频进行特征提取,得到目标时空特征。以使得所提取到的目标时空特征既具有空间信息,又具有时序信息,从而可以得到目标输送装置上的货物动态特征和静态特征,有效地区别目标输送装置上的运动信息和货量信息,提高目标时空特征的特征全面性,从而提高目标输送是否拥堵的检测准确率。
C3、以所述第一时空特征与所述第二时空特征之间距离小于第一预设阈值、所述第一时空特征与所述第三时空特征之间距离大于第二预设阈值为目标,调整所述特征提取模块的权重参数,直至符合预设停止训练条件时,将所述特征提取模块的权重参数作为所述特征提取参数。
其中,预设停止训练条件可以根据实际情况而设置,例如可以是用于对调整特征提取模块的权重参数的样本组数量(每组样本包括一个类别状态的参考视频、正样本视频和负样本视频)达到预设数量。又如,直至基于每组样本提取的第一时空特征、第二时空特征和第三时空特征中:第一时空特征与第二时空特征之间距离小于第一预设阈值、第一时空特征与第三时空特征之间距离大于第二预设阈值。
其中,第一预设阈值、第二预设阈值的具体取值可以根据实际业务需求而设置,此处对第一预设阈值、第二预设阈值的具体取值不做限制。例如,为了使得相同类别状态的两视频间的时空特征距离尽可能地接近0,第一预设阈值设置为0。
通过以第一时空特征与第二时空特征之间距离小于第一预设阈值、第一时空特征与第三时空特征之间距离大于第二预设阈值为目标,调整特征提取模块的权重参数,可以使得相同类别状态的两视频间的时空特征距离尽可能地接近0、不同类别状态的两视频间的时空特征距离尽可能地大于某个间隔,从而提高后续目标时空特征与其相同类别状态的基准视频特征的匹配度、降低目标时空特征与其不相同类别状态的基准视频特征的匹配度,进而提高输送装置是否拥堵的检测准确度。
(2)通过上述步骤2012中的方式预先提取目标输送装置的待检测视频的目标时空特征,并将提取得到的目标时空特征存储在预设数据库中。步骤201中直接从预设数据库中读取得到目标输送装置的待检测视频的目标时空特征。
202、获取所述目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离。
示例性地,步骤202具体可以包括如下步骤2021~步骤2022,其中:
2021、获取所述各类别状态对应的基准视频特征。
(1)通过如下步骤D1~步骤D3的方式,实时提取得到各类别状态对应的基准视频特征。
D1、获取所述各类别状态的多个基准视频。
例如,假设预设的各类别状态共包括4个:输送装置空载、输送装置正常输送、输送装置少量输送和输送装置拥堵。针对类别状态“输送装置空载”获取多个基准视频(如视频1、2、3)、针对类别状态“输送装置正常输送”获取多个基准视频(如视频4、5、6)、针对类别状态“输送装置少量输送”获取多个基准视频(如视频7、8、9)、针对类别状态“输送装置拥堵”获取多个基准视频(如视频10、11、12)。
D2、对所述多个基准视频进行特征提取,得到所述各类别状态的多个视频时空特征。
步骤D2中确定各类别状态的多个基准视频中每个基准视频的视频特征的方式,与上述步骤201中确定待检测视频的目标时空特征的方式类似,具体可以参考上述步骤201的相关说明,为简化表述,此处不再赘述。
为了方便理解,接以上步骤D1的例子继续说明,例如,针对类别状态“输送装置空载”获取到的多个基准视频(如视频1、2、3)分别进行特征提取,可以得到多个视频时空特征:视频特征1、2、3。针对类别状态“输送装置正常输送”获取多个基准视频(如视频4、5、6)分别进行特征提取,可以得到多个视频时空特征:视频特征4、5、6。针对类别状态“输送装置少量输送”获取多个基准视频(如视频7、8、9),可以得到多个视频时空特征:视频特征7、8、9。针对类别状态“输送装置拥堵”获取多个基准视频(如视频10、11、12)分别进行特征提取,可以得到多个视频时空特征:视频特征10、11、12)。
D3、将所述各类别状态的多个视频时空特征进行融合,得到所述各类别状态的基准视频特征。
示例性地,步骤D3中可以将各类别状态的多个视频时空特征以拼接的方式进行融合,作为各类别状态的基准视频特征。
为了方便理解,接以上步骤D2的例子继续说明,例如,针对类别状态“输送装置空载”获取得到的多个基准视频(如视频1、2、3)的多个视频时空特征:视频特征1、2、3进行拼接融合,得到“输送装置空载”的基准视频特征{视频特征1,视频特征2,视频特征3}。
针对类别状态“输送装置正常输送”获取得到的多个基准视频(如视频4、5、6)的多个视频时空特征:视频特征4、5、6进行拼接融合,得到“输送装置正常输送”的基准视频特征{视频特征4,视频特征5,视频特征6}。
针对类别状态“输送装置少量输送”获取得到的多个基准视频(如视频7、8、9)的多个视频时空特征:视频特征7、8、9进行拼接融合,得到“输送装置少量输送”的基准视频特征{视频特征7,视频特征8,视频特征8}。
针对类别状态“输送装置拥堵”获取得到的多个基准视频(如视频10、11、12)的多个视频时空特征:视频特征10、11、12进行拼接融合,得到“输送装置拥堵”的基准视频特征{视频特征10,视频特征11,视频特征12}。
由于单个视频难以全面地反映某个类别状态的全部情况,通过采集各类别状态的多个基准视频,提取各类别状态的多个基准视频的视频特征后进行拼接融合到一起,作为各类别状态的基准视频特征,从而使得基准视频特征可以反映各类别状态更加全面的情况,使得后续获取到任意一种情况的类别状态的待检测视频时,都可以准确地判别出目标输送装置是否处于拥堵。
(2)通过如上步骤D1~步骤D3的方式,预先提取各类别状态的多个基准视频,并将提取得到的各类别状态的多个基准视频存储在预设数据库中。步骤2021中直接从预设数据库中读取得到各类别状态的多个基准视频。
2022、通过预设的距离计算方式,计算所述目标时空特征分别与所述各类别状态的基准视频特征之间的特征距离。
其中,预设的距离计算方式可以是欧式距离(Eucledian Distance)计算方式、汉明距离计算方式、曼哈顿距离(Manhattan Distance)等等,此处对预设的距离计算方式不做限制。
例如,假设预设的距离计算方式为欧式距离计算方式,预设的各类别状态共包括4个:输送装置空载、输送装置正常输送、输送装置少量输送和输送装置拥堵。输送装置空载、输送装置正常输送、输送装置少量输送、输送装置拥堵的基准视频特征分别为:基准视频特征1、基准视频特征2、基准视频特征3、基准视频特征4。则可以通过欧式距离计算方式,分别计算出:目标时空特征与“输送装置空载”的基准视频特征1之间的欧式距离,作为目标时空特征与“输送装置空载”的基准视频特征1之间的特征距离;目标时空特征与“输送装置正常输送”的基准视频特征2之间的欧式距离,作为目标时空特征与“输送装置正常输送”的基准视频特征2之间的特征距离;目标时空特征与“输送装置少量输送”的基准视频特征3之间的欧式距离,作为目标时空特征与“输送装置少量输送”的基准视频特征3之间的特征距离;目标时空特征与“输送装置拥堵”的基准视频特征4之间的欧式距离,作为目标时空特征与“输送装置拥堵”的基准视频特征4之间的特征距离。
又如,假设预设的距离计算方式为曼哈顿距离计算方式,预设的各类别状态共包括4个:输送装置空载、输送装置正常输送、输送装置少量输送和输送装置拥堵。输送装置空载、输送装置正常输送、输送装置少量输送、输送装置拥堵的基准视频特征分别为:基准视频特征1、基准视频特征2、基准视频特征3、基准视频特征4。则可以通过曼哈顿距离计算方式,分别计算出:目标时空特征与“输送装置空载”的基准视频特征1之间的曼哈顿距离,作为目标时空特征与“输送装置空载”的基准视频特征1之间的特征距离;目标时空特征与“输送装置正常输送”的基准视频特征2之间的曼哈顿距离,作为目标时空特征与“输送装置正常输送”的基准视频特征2之间的特征距离;目标时空特征与“输送装置少量输送”的基准视频特征3之间的曼哈顿距离,作为目标时空特征与“输送装置少量输送”的基准视频特征3之间的特征距离;目标时空特征与“输送装置拥堵”的基准视频特征4之间的曼哈顿距离,作为目标时空特征与“输送装置拥堵”的基准视频特征4之间的特征距离。
203、从所述各类别状态中,获取对应的所述特征距离最小的目标类别状态,以作为所述目标输送装置的目标状态。
其中,所述目标状态用于指示所述目标输送装置是否拥堵。
步骤203确定目标状态的方式有多种,示例性地,包括:
(1)从各类别状态中获取对应的特征距离最小的目标类别状态,作为目标输送装置的目标状态。此时,步骤203具体可以包括如下步骤2031A~步骤2032A,其中:
2031A、从所述特征距离中获取最小的目标特征距离。
其中,目标特征距离是指目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离中,最小的特征距离。
例如,假设预设的各类别状态共包括4个:输送装置空载、输送装置正常输送、输送装置少量输送和输送装置拥堵。其中:目标时空特征与“输送装置空载”的基准视频特征1之间的特征距离1为“0.1”、目标时空特征与“输送装置正常输送”的基准视频特征2之间的特征距离2为“0.3”、目标时空特征与“输送装置少量输送”的基准视频特征3之间的特征距离3为“0.5”、目标时空特征与“输送装置拥堵”的基准视频特征4之间的特征距离4为“0.6”。则可以从目标时空特征分别与预设的各类别状态(即输送装置空载、输送装置正常输送、输送装置少量输送、输送装置拥堵)的基准视频特征(即基准视频特征1、基准视频特征2、基准视频特征3、基准视频特征4)之间的特征距离(即特征距离1、特征距离2、特征距离3、特征距离4)中,确定最小的目标特征距离为特征距离1(即“0.1”)。
2032A、获取所述目标特征距离对应的目标类别状态,以作为所述目标输送装置的目标状态。
其中,目标类别状态是指预设各类别状态中,对应的基准视频特征与目标时空特征之间特征距离为目标特征距离的类别状态。
为了方便理解,接以上步骤2031A的例子继续说明,例如,确定最小的目标特征距离为特征距离1之后,由于基准视频特征1与目标时空特征之间的特征距离为特征距离1,而基准视频特征1为预设的类别状态“输送装置空载”的基准视频特征,因此可以确定特征距离1对应的目标类别状态为“输送装置空载”,并将“输送装置空载”作为目标输送装置的目标状态,从而可以指示目标输送装置未处于拥堵状态。
(2)从各类别状态中获取对应的特征距离最小、且特征距离小于预设特征距离阈值的目标类别状态,作为目标输送装置的目标状态。此时,步骤203具体可以包括如下步骤2031B~步骤2033B,其中:
2031B、从所述特征距离中获取最小的目标特征距离。
其中,目标特征距离是指目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离中,最小的特征距离。
例如,假设预设的各类别状态共包括4个:输送装置不拥堵、输送装置轻微拥堵、输送装置严重拥堵。其中:目标时空特征与“输送装置不拥堵”的基准视频特征4之间的特征距离4为“0.8”、目标时空特征与“输送装置轻微拥堵”的基准视频特征5之间的特征距离5为“0.6”、目标时空特征与“输送装置严重拥堵”的基准视频特征6之间的特征距离6为“0.3”。则可以从目标时空特征分别与预设的各类别状态(即输送装置不拥堵、输送装置轻微拥堵、输送装置严重拥堵)的基准视频特征(即基准视频特征4、基准视频特征5、基准视频特征6)之间的特征距离(即特征距离4、特征距离5、特征距离6)中,确定最小的目标特征距离为特征距离6(即“0.3”)。
2032B、检测所述目标特征距离是否小于预设特征距离阈值。
其中,预设特征距离阈值的具体取值可以根据实际业务场景需求而设置,此处对预设特征距离阈值的具体取值不做限制。
为了方便理解,接以上步骤2031B的例子继续说明,例如,若预设特征距离阈值为0.2,则可以确定目标特征距离(即特征距离6“0.3”)大于预设特征距离阈值。又如,若预设特征距离阈值为0.4,则可以确定目标特征距离(即特征距离6“0.3”)小于预设特征距离阈值。
2033B、若所述目标特征距离小于预设特征距离阈值,则获取所述目标特征距离对应的目标类别状态,以作为所述目标输送装置的目标状态。
为了方便理解,接以上步骤2032B的例子继续说明,例如,确定最小的目标特征距离为特征距离6、且目标特征距离小于预设特征距离阈值(如0.4)之后,由于基准视频特征6与目标时空特征之间的特征距离为特征距离6,而基准视频特征6为预设的类别状态“输送装置严重拥堵”的基准视频特征,因此可以确定特征距离6对应的目标类别状态为“输送装置严重拥堵”,并将“输送装置严重拥堵”作为目标输送装置的目标状态,从而可以指示目标输送装置处于拥堵状态。
若目标特征距离大于或等于预设特征距离阈值,证明判别误差较大,则可以不采用当前确定的目标特征距离确定目标输送装置的目标状态,而再次执行步骤201~步骤203的过程以进行下一轮的目标输送装置的拥堵判定,以避免产生较大判别误差,从而提高输送装置的拥堵判别准确率。
进一步地,为了在目标输送装置发生拥堵时可以及时发现,从而避免目标输送装置上的货物由于拥堵而产生的破损,当所述目标状态指示所述目标输送装置处于拥堵状态时,输出所述目标输送装置拥堵的提示信息。例如,预设的各类别状态共包括4个:输送装置空载、输送装置正常输送、输送装置少量输送和输送装置拥堵;当确定目标输送装置的目标状态为“输送装置拥堵”时,则可以确定目标输送装置处于拥堵状态,此时,可以输出输送装置拥堵的提示信息。其中,提示信息可以有多种表现形式,例如可以是文字、待检测视频、语音、指示灯等等。
由以上内容可以看出,本申请实施例中,通过获取目标输送装置的待检测视频的目标时空特征与预设的各类别状态的基准视频特征之间的特征距离;基于特征距离进行匹配确定与目标时空特征距离最小的基准视频特征对应的类别状态,从而确定目标输送装置是否拥堵;第一方面,由于仅需针对视频进行特征提取,即可确定输送装置是否拥堵,因此只需学习特征提取参数、而无需基于监督学习的分类算法采用大量的标注数据进行复杂模型结构的训练,避免需要大量的标注数据进行模型训练才能得到检测准确率相对较高的检测模型的问题,降低了数据标注和模型训练所需的时间成本;第二方面,由于是基于视频提取时空特征进行特征匹配,因此可以充分结合空间信息和时间信息进行输送装置是否拥堵的检测,从而可以有效地结合动态信息进行输送装置是否拥堵的检测,避免了基于图像检测输送装置是否拥堵会由于缺少动态信息而导致检测准确率低的问题,在一定程度上提高了输送装置是否拥堵的检测准确率。
为了更好实施本申请实施例中输送装置拥堵检测方法,在输送装置拥堵检测方法基础之上,本申请实施例中还提供一种输送装置拥堵检测装置,如图5所示,为本申请实施例中输送装置拥堵检测装置的一个实施例结构示意图,该输送装置拥堵检测装置500包括:
第一获取单元501,用于获取目标输送装置的待检测视频的目标时空特征;
第二获取单元502,用于获取所述目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离;
检测单元503,用于从所述各类别状态中,获取对应的所述特征距离最小的目标类别状态,以作为所述目标输送装置的目标状态,其中,所述目标状态用于指示所述目标输送装置是否拥堵。
在本申请的一些实施例中,所述第二获取单元502具体用于:
获取所述各类别状态的多个基准视频;
对所述多个基准视频进行特征提取,得到所述各类别状态的多个视频时空特征;
将所述各类别状态的多个视频时空特征进行融合,得到所述各类别状态的基准视频特征;
通过预设的距离计算方式,计算所述目标时空特征分别与所述各类别状态的基准视频特征之间的特征距离。
在本申请的一些实施例中,所述获取目标输送装置的待检测视频的目标时空特征之前,所述第一获取单元501具体用于:
获取所述目标输送装置的原始视频;
基于预设基准图像中的输送装置的区域位置,对所述原始视频中的输送装置进行分割,得到所述目标输送装置的待检测视频,其中,所述原始视频的采集装置的拍摄角度与所述预设基准图像的采集装置的拍摄角度相同。
在本申请的一些实施例中,所述第一获取单元501具体用于:
通过预设的特征提取参数,对所述待检测视频进行特征提取,得到所述目标时空特征;
在本申请的一些实施例中,所述输送装置拥堵检测装置500还包括训练单元(图中未示出),所述训练单元具体用于:
获取所述各类别状态的参考视频、正样本视频和负样本视频;
通过预设的特征提取模块,提取所述参考视频的第一时空特征、所述正样本视频的第二时空特征和所述负样本视频的第三时空特征;
以所述第一时空特征与所述第二时空特征之间距离小于第一预设阈值、所述第一时空特征与所述第三时空特征之间距离大于第二预设阈值为目标,调整所述特征提取模块的权重参数,直至符合预设停止训练条件时,将所述特征提取模块的权重参数作为所述特征提取参数。
在本申请的一些实施例中,所述训练单元具体用于:
通过3D卷积网络,提取所述参考视频的第一时空特征、所述正样本视频的第二时空特征和所述负样本视频的第三时空特征;
以所述第一时空特征与所述第二时空特征之间距离小于第一预设阈值、所述第一时空特征与所述第三时空特征之间距离大于第二预设阈值为目标,调整所述3D卷积网络的权重参数,直至符合预设停止训练条件时,将所述3D卷积网络的权重参数作为所述特征提取参数。
在本申请的一些实施例中,所述检测单元503具体用于:
从所述特征距离中获取最小的目标特征距离;
检测所述目标特征距离是否小于预设特征距离阈值;
若所述目标特征距离小于预设特征距离阈值,则获取所述目标特征距离对应的目标类别状态,以作为所述目标输送装置的目标状态。
在本申请的一些实施例中,所述输送装置拥堵检测装置500还包括输出单元(图中未示出),所述获取所述目标特征距离对应的目标类别状态,以作为所述目标输送装置的目标状态之后,所述输出单元具体用于:
当所述目标状态指示所述目标输送装置处于拥堵状态时,输出所述目标输送装置拥堵的提示信息。
具体实施时,以上各个单元可以作为独立的实体来实现,也可以进行任意组合,作为同一或若干个实体来实现,以上各个单元的具体实施可参见前面的方法实施例,在此不再赘述。
由于该输送装置拥堵检测装置可以执行本申请如图1至图4对应任意实施例中输送装置拥堵检测方法中的步骤,因此,可以实现本申请如图1至图4对应任意实施例中输送装置拥堵检测方法所能实现的有益效果,详见前面的说明,在此不再赘述。
此外,为了更好实施本申请实施例中输送装置拥堵检测方法,在输送装置拥堵检测方法基础之上,本申请实施例还提供一种电子设备,参阅图6,图6示出了本申请实施例电子设备的一种结构示意图,具体的,本申请实施例提供的电子设备包括处理器601,处理器601用于执行存储器602中存储的计算机程序时实现如图1至图4对应任意实施例中输送装置拥堵检测方法的各步骤;或者,处理器601用于执行存储器602中存储的计算机程序时实现如图5对应实施例中各单元的功能。
示例性的,计算机程序可以被分割成一个或多个模块/单元,一个或者多个模块/单元被存储在存储器602中,并由处理器601执行,以完成本申请实施例。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述计算机程序在计算机装置中的执行过程。
电子设备可包括,但不仅限于处理器601、存储器602。本领域技术人员可以理解,示意仅仅是电子设备的示例,并不构成对电子设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如电子备还可以包括输入输出设备、网络接入设备、总线等,处理器601、存储器602、输入输出设备以及网络接入设备等通过总线相连。
处理器601可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,处理器是电子设备的控制中心,利用各种接口和线路连接整个电子设备的各个部分。
存储器602可用于存储计算机程序和/或模块,处理器601通过运行或执行存储在存储器602内的计算机程序和/或模块,以及调用存储在存储器602内的数据,实现计算机装置的各种功能。存储器602可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据电子设备的使用所创建的数据(比如音频数据、视频数据等)等。此外,存储器可以包括高速随机存取存储器,还可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的输送装置拥堵检测装置、电子设备及其相应单元的具体工作过程,可以参考如图1至图4对应任意实施例中输送装置拥堵检测方法的说明,具体在此不再赘述。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令来完成,或通过指令控制相关的硬件来完成,该指令可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。
为此,本申请实施例提供一种计算机可读存储介质,其中存储有多条指令,该指令能够被处理器进行加载,以执行本申请如图1至图4对应任意实施例中输送装置拥堵检测方法中的步骤,具体操作可参考如图1至图4对应任意实施例中输送装置拥堵检测方法的说明,在此不再赘述。
其中,该计算机可读存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁盘或光盘等。
由于该计算机可读存储介质中所存储的指令,可以执行本申请如图1至图4对应任意实施例中输送装置拥堵检测方法中的步骤,因此,可以实现本申请如图1至图4对应任意实施例中输送装置拥堵检测方法所能实现的有益效果,详见前面的说明,在此不再赘述。
以上对本申请实施例所提供的一种输送装置拥堵检测方法、装置、电子设备及计算机可读存储介质进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (10)
1.一种输送装置拥堵检测方法,其特征在于,所述方法包括:
获取目标输送装置的待检测视频的目标时空特征;
获取所述目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离;
从所述各类别状态中,获取对应的所述特征距离最小的目标类别状态,以作为所述目标输送装置的目标状态,其中,所述目标状态用于指示所述目标输送装置是否拥堵。
2.根据权利要求1所述的输送装置拥堵检测方法,其特征在于,所述获取所述目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离,包括:
获取所述各类别状态的多个基准视频;
对所述多个基准视频进行特征提取,得到所述各类别状态的多个视频时空特征;
将所述各类别状态的多个视频时空特征进行融合,得到所述各类别状态的基准视频特征;
通过预设的距离计算方式,计算所述目标时空特征分别与所述各类别状态的基准视频特征之间的特征距离。
3.根据权利要求1所述的输送装置拥堵检测方法,其特征在于,所述获取目标输送装置的待检测视频的目标时空特征之前,还包括:
获取所述目标输送装置的原始视频;
基于预设基准图像中的输送装置的区域位置,对所述原始视频中的输送装置进行分割,得到所述目标输送装置的待检测视频,其中,所述原始视频的采集装置的拍摄角度与所述预设基准图像的采集装置的拍摄角度相同。
4.根据权利要求1所述的输送装置拥堵检测方法,其特征在于,所述获取目标输送装置的待检测视频的目标时空特征,包括:
通过预设的特征提取参数,对所述待检测视频进行特征提取,得到所述目标时空特征;
所述特征提取参数通过如下步骤学习得到:
获取所述各类别状态的参考视频、正样本视频和负样本视频;
通过预设的特征提取模块,提取所述参考视频的第一时空特征、所述正样本视频的第二时空特征和所述负样本视频的第三时空特征;
以所述第一时空特征与所述第二时空特征之间距离小于第一预设阈值、所述第一时空特征与所述第三时空特征之间距离大于第二预设阈值为目标,调整所述特征提取模块的权重参数,直至符合预设停止训练条件时,将所述特征提取模块的权重参数作为所述特征提取参数。
5.根据权利要求4所述的输送装置拥堵检测方法,其特征在于,所述特征提取模块为3D卷积网络。
6.根据权利要求1所述的输送装置拥堵检测方法,其特征在于,所述从所述各类别状态中,获取对应的所述特征距离最小的目标类别状态,以作为所述目标输送装置的目标状态,包括:
从所述特征距离中获取最小的目标特征距离;
检测所述目标特征距离是否小于预设特征距离阈值;
若所述目标特征距离小于预设特征距离阈值,则获取所述目标特征距离对应的目标类别状态,以作为所述目标输送装置的目标状态。
7.根据权利要求1-6任一项所述的输送装置拥堵检测方法,其特征在于,所述获取所述目标特征距离对应的目标类别状态,以作为所述目标输送装置的目标状态之后,还包括:
当所述目标状态指示所述目标输送装置处于拥堵状态时,输出所述目标输送装置拥堵的提示信息。
8.一种输送装置拥堵检测装置,其特征在于,所述输送装置拥堵检测装置包括:
第一获取单元,用于获取目标输送装置的待检测视频的目标时空特征;
第二获取单元,用于获取所述目标时空特征分别与预设的各类别状态的基准视频特征之间的特征距离;
检测单元,用于从所述各类别状态中,获取对应的所述特征距离最小的目标类别状态,以作为所述目标输送装置的目标状态,其中,所述目标状态用于指示所述目标输送装置是否拥堵。
9.一种电子设备,其特征在于,包括处理器和存储器,所述存储器中存储有计算机程序,所述处理器调用所述存储器中的计算机程序时执行如权利要求1至7任一项所述的输送装置拥堵检测方法。
10.一种计算机可读存储介质,其特征在于,其上存储有计算机程序,所述计算机程序被处理器进行加载,以执行权利要求1至7任一项所述的输送装置拥堵检测方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111619494.8A CN116363544A (zh) | 2021-12-27 | 2021-12-27 | 输送装置拥堵检测方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111619494.8A CN116363544A (zh) | 2021-12-27 | 2021-12-27 | 输送装置拥堵检测方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116363544A true CN116363544A (zh) | 2023-06-30 |
Family
ID=86910357
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111619494.8A Pending CN116363544A (zh) | 2021-12-27 | 2021-12-27 | 输送装置拥堵检测方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116363544A (zh) |
-
2021
- 2021-12-27 CN CN202111619494.8A patent/CN116363544A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11687761B2 (en) | Improper neural network input detection and handling | |
CN109598298B (zh) | 图像物体识别方法和系统 | |
CN111311630A (zh) | 在仓储管理中通过视频智能统计货物数量的方法和系统 | |
CN112328822B (zh) | 图片预标注方法、装置及终端设备 | |
CN111310826A (zh) | 样本集的标注异常检测方法、装置及电子设备 | |
CN114219955A (zh) | 包装物料检测方法、装置、电子设备及存储介质 | |
CN113902944A (zh) | 模型的训练及场景识别方法、装置、设备及介质 | |
US11842473B2 (en) | Underwater camera biomass prediction aggregation | |
CN111612000A (zh) | 一种商品分类方法、装置、电子设备及存储介质 | |
CN114529843A (zh) | 货物拥堵识别方法、装置、电子设备和存储介质 | |
CN111814653B (zh) | 一种视频中异常行为的检测方法、装置、设备及存储介质 | |
CN116363544A (zh) | 输送装置拥堵检测方法、装置、电子设备及存储介质 | |
CN115298705A (zh) | 车牌识别方法、装置、电子设备及存储介质 | |
CN114519793A (zh) | 目标物体检测方法、装置、电子设备及存储介质 | |
CN114202041A (zh) | 包装物料检测方法和装置 | |
CN112001890A (zh) | 输送线的阻塞检测方法及相关装置、设备 | |
CN114693957A (zh) | 包裹分类方法、装置、电子设备及存储介质 | |
CN115937184B (zh) | 一种物品装配检测方法、装置及终端设备 | |
CN116363443A (zh) | 包裹堵塞识别方法、装置、电子设备及可读存储介质 | |
CN114529733A (zh) | 包裹破损的检测方法、装置、电子设备及存储介质 | |
CN116228059A (zh) | 包裹分离方法、装置、设备及计算机存储介质 | |
CN118052236A (zh) | 包裹获取方法、装置、电子设备及可读存储介质 | |
CN117671548A (zh) | 异常分拣检测方法、装置、电子设备及存储介质 | |
Lu et al. | Research on high-speed classification and location algorithm for logistics parcels based on a monocular camera | |
CN115661192A (zh) | 物体运动速度的检测方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |