CN109523502A - 装卸口状态检测方法、装置、设备及其存储介质 - Google Patents

装卸口状态检测方法、装置、设备及其存储介质 Download PDF

Info

Publication number
CN109523502A
CN109523502A CN201810992365.5A CN201810992365A CN109523502A CN 109523502 A CN109523502 A CN 109523502A CN 201810992365 A CN201810992365 A CN 201810992365A CN 109523502 A CN109523502 A CN 109523502A
Authority
CN
China
Prior art keywords
motion vector
image frame
loading hatch
processing
frame sequence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810992365.5A
Other languages
English (en)
Inventor
杨小平
宋翔
胡志恒
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SF Technology Co Ltd
SF Tech Co Ltd
Original Assignee
SF Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SF Technology Co Ltd filed Critical SF Technology Co Ltd
Priority to CN201810992365.5A priority Critical patent/CN109523502A/zh
Publication of CN109523502A publication Critical patent/CN109523502A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本申请公开了装卸口状态检测方法、装置、设备及其存储介质。该方法包括：实时获取至少一个装卸口的视频流数据；从视频流数据提取图像帧序列；基于图像帧序列的相邻图像帧的目标对象，计算目标对象的第一运动向量和第二运动向量；基于第一运动向量和第二运动向量对相邻图像帧中的当前图像帧进行检测，得到装卸口的状态。根据本申请实施例的技术方案，通过视频图像帧序列的相邻图像帧来计算光流，通过光流图的分析可以确定装卸口的装卸行为，从而克服了现有的单幅图像无法判断装卸口的动态行为的问题。

Description

装卸口状态检测方法、装置、设备及其存储介质
技术领域
本申请具体涉及物流作业技术领域，尤其涉及装卸口状态检测方法、装置、设备及其存储介质。
背景技术
中转场(站)是网络中的集散节点，基本功能是对快件进行集散和转运。这类网点也称为集散点集散中心等。集散中心的称谓在一般物流业中使用较多，快递业一般称为中转场、中转站、分拨场、中转中心等，除仓储、加工功能外，两者的其他功能基本相同。
快件抵达中转场后，需要进行装货、卸货等操作，再运输到目的地的中转场，进行相同的一系列操作，这些操作主要集中在中转场的工作平台，即装卸口。装卸口是货物被装载到运输工具上或者从运输工具被卸载下来的工作平台。对于装卸口的监管，目前主要是采用人工监控的方式。
可以采用视频监控的方式节省人力成本，但是利用视频图像数据对装卸口的装卸行为进行检测分析存在以下难点，例如单幅图像无法准确识别装卸口的装卸行为，其中，装货状行为是指货物(或快件，包裹)从传输带输入到运输工具中的传输行为。卸货行为是指货物(或快件，包裹)从运输工具输出到传输带上的传输行为。
因此，亟待提出一种基于视频图像对装卸口行为进行检测分析的方法。
发明内容
鉴于现有技术中的上述缺陷或不足，期望提供一种基于视频图像的光流来分析装卸口的装卸行为的技术方案。
第一方面，本申请实施例提供了一种装卸口状态检测方法，该方法包括：
实时获取至少一个装卸口的视频流数据；
从视频流数据提取图像帧序列；
基于图像帧序列的相邻图像帧的目标对象，计算目标对象的第一运动向量和第二运动向量；
基于第一运动向量和第二运动向量对相邻图像帧中的当前图像帧进行检测分析，确定装卸口的状态。
第二方面，本申请实施例提供了一种装卸口状态检测装置，该装置包括：
第一视频获取单元，用于实时获取至少一个装卸口的视频流数据；
第一帧序列提取单元，用于从视频流数据提取图像帧序列；
第一运动向量计算单元，用于基于图像帧序列的相邻图像帧的目标对象，计算目标对象的第一运动向量和第二运动向量；
状态检测单元，用于基于第一运动向量和第二运动向量对相邻图像帧中的当前图像帧进行检测分析，确定装卸口的状态。
第三方面，本申请实施例提供了一种计算机设备，包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，该处理器执行该程序时实现如本申请实施例描述的方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该计算机程序用于：
该计算机程序被处理器执行时实现如本申请实施例描述的方法。
本申请实施例提供的关于装卸口检测的技术方案，通过视频图像帧序列的相邻图像帧来计算光流，通过光流图的分析可以确定装卸口的装卸行为，从而克服了现有的单幅图像无法判断装卸口的动态行为的问题。
进一步地，在中转场的装卸口的特定应用场景中，针对图像帧序列的相邻图像帧的光流图，基于深度学习的方法进行分析判断以识别出装卸口的准确状态，从而提高判断的准确度。
进一步地，还可以通过缩放处理，和/或图像相似度值计算处理，减少计算工作量，提升图像数据的处理速度。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：
图1示出了本申请实施例提供的装卸口状态检测方法的流程示意图；
图2示出了本申请又一实施例提供的装卸口状态检测方法的流程示意图；
图3示出了本申请实施例提供的建立分类模型方法的流程示意图；
图4示出了本申请又一实施例提供的装卸口状态检测方法的流程示意图；
图5示出了本申请实施例提供的装卸口状态检测装置的结构性示意框图；
图6示出了本申请又一实施例提供的装卸口状态检测装置的示意性结构框图；
图7示出了本申请实施例提供的建立分类模型单元的示意性结构框图；
图8示出了本申请又一实施例提供的装卸口状态检测装置的部分示意性结构框图
图9示出了适于用来实现本申请实施例的终端设备的计算机系统的示意性结构框图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与发明相关的部分。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
在中转场中，快递工作人员在监控到运输工具驶入中转平台时，通过工作人员主观地判断导致装卸口的监控存在一定的误差。本申请期望提出一种基于视频图像中目标区域的光流来分析检测装卸口状态的方法。
请参考图1，图1示出了本申请实施例提供的装卸口状态检测方法的流程示意图。
如图1所示，该方法包括：
步骤110，实时获取至少一个装卸口的视频流数据。
步骤120，从视频流数据提取图像帧序列。
步骤130，基于图像帧序列的相邻图像帧的目标区域，计算目标区域的第一运动向量和第二运动向量。
步骤140，基于第一运动向量和第二运动向量对相邻图像帧中的当前图像帧进行检测分析，确定装卸口的状态。
本申请实施例中，从多路视频中获取至少一路视频流进行分析处理。其中每一路视频流数据与一个装卸口相对应。从装卸口的视频流数据中提取图像帧序列。当某一路摄像头采集到运输工具驶入装卸平台的装卸口时，从采集得到的视频流数据中提取包含运输工具驶入场景的若干视频帧序列，或者图像帧序列。这种在时间上连续的视频帧序列能够很好地实现场景构建。
在提取出图像帧序列之后，提取图像帧序列中投影出的目标对象的动态特征。基于图像帧序列的动态特征，可以得到图像中目标对象的相对位置变化或者摄像机位置变化等运动信息。其中，动态特征提取方法例如可以是光流法和块匹配算法。光流法，例如可以是TVL1算法，LK算法等。目标对象，例如可以是在传输带上运动的货物(也称为包裹、物品等)，或者在运输工具，例如运输车车厢内的工作人员的动作。本申请实施例，可以通过检测相邻图像帧中货物的动态特征，或者工作人员的动态特征，或者二者相结合的方式来检测装卸口的当前行为。优选地，基于图像帧序列中相邻图像帧之间的光流来判断装卸口的状态。装卸口的状态例如可以是：装货状态、卸货状态、空闲状态。其中，装货状态是指货物(或快件，包裹)从传输带输入到运输工具中的传输行为。卸货状态是指货物(或快件，包裹)从运输工具输出到传输带上的传输行为。空闲状态是指传输带上无货物运动，或者工作人员没有对货物进行搬运操作。
例如，通过变分光流法计算相邻图像帧的光流图。变分光流法，例如可以是一阶数据项的总变分方法，从光流图中提取第一运动向量，第二运动向量。其中，运动向量可以表示为水平(x)分量或垂直(y)分量。然后，利用包含该第一运动向量，第二运动向量的光流图替换RGB图像中的R通道和G通道，并去掉B通道后，得到新的图像帧。对新的图像帧进行分析，可以根据光流的变化得到装卸口的状态。例如还可以将新的图像帧作为分类模型的输入图像，由分类模型对输入图像进行分类判断。
本申请实施例，以一阶数据项的总变分方法(TVL1)为例说明基于装卸口图像帧的光流计算方法。
能量函数：
其中，x表示图像帧的像素坐标；
I0、I1分别表示图像帧序列中的前一帧图像和当前帧图像；
u(x)表示在x坐标处产生的光流值；
分别第一方向和第二方向的光流的梯度；
公式(1)表示的能量函数，包括一个能量项和一个平滑项，其中，λ|I0(x)-I1(x+u(x))|为能量项，用于表示亮度一致性，λ是能量项所占的权重；为平滑项，用于表示光流不会发生过大的突变，或者说，同一个物体产生的光流不会过大的差值。通过最小化能量函数来求解u(x)的值即完成运动向量的计算。
本申请实施例，通过图像帧序列的相邻图像帧的光流分析，可以识别出装卸口的装卸行为，避免了人工主观判断导致的误差，并克服了现有的单幅图像无法判断装卸口的动态行为的问题。
本申请实施例还提出一种装卸口状态检测方法，可以进一步地提高装卸口的装卸行为的准确度。
请参考图2，图2示出了本申请又一实施例提供的装卸口状态检测方法的流程示意图。
如图2所示，该方法包括：
步骤210，实时获取至少一个装卸口的视频流数据。
步骤220，从视频流数据提取图像帧序列。
步骤230，基于图像帧序列的相邻图像帧的目标区域，计算目标区域的第一运动向量和第二运动向量。
步骤240，将包含第一运动向量和第二运动向量的当前图像帧输入到预先建立的分类模型进行检测分析，输出装卸口的状态。
本申请实施例，在计算目标对象的第一运动向量和第二运动向量之后，可以将包含第一运动向量和第二运动向量的图像帧输入到预先建立的分类模型中，由分类模型对相邻图像帧计算得到光流图进行检测分析，输出装卸口的状态。光流图输入到分类模型后，经过分类模型分类判断，得到装卸口的当前行为的分类结果。其中，分类模型，例如可以是Incepition-V2，CNN网络模型、基于深度神经网络学习建立的图像分类模型等。
装卸口的状态，例如可以是装货状态、卸货状态、空闲状态。其中，装货状态是指货物(或快件，包裹)从传输带输入到运输工具中的传输行为。卸货状态是指货物(或快件，包裹)从运输工具输出到传输带上的传输行为。空闲状态是指传输带上无货物运动，或者工作人员没有对货物进行搬运操作。
本申请实施例，通过深度学习训练得到的分类模型对光流图进行分类判断，提高了分类判断结果的准确度。
如图3所示，图3示出了本申请实施例提供的建立分类模型方法的流程示意图。
本申请实施例通过大量的历史视频数据的训练学习，得到分类模型，用于对实时提取的图像帧序列中包含第一运动向量和第二运动向量的图像帧进行分类，从而确定装卸口的状态。在建立分类模型方法中，包括：
步骤310，获取至少一个装卸口的历史视频数据。
步骤320，从历史视频数据中提取历史图像帧序列。
步骤330，基于历史图像帧序列中的相邻图像帧的目标对象，计算目标对象的第一运动向量和第二运动向量；
步骤340，对包含第一运动向量和第二运动向量的图像帧进行标注处理；
步骤350，将标注处理后的结果进行格式转换处理；
步骤360，将格式转换处理后的结果按照预先设置的比例划分为训练集和测试集；
步骤370，利用训练集训练深度神经网络模型得到权重参数，利用权重参数确定的深度神经网络模型对测试集进行分类，得到分类模型。
优选地，在上述实施例基础上，在将标注处理后的结果进行格式转换处理之后，该方法还包括：
将格式转换处理后的结果进行数据增广、扰序处理。
本申请实施例中通过数据增广、扰序处理，增加数据量，提高模型的泛化能力。数据增广处理例如可以包括水平翻转、位移、旋转、裁剪等处理，还可以包括颜色抖动、加噪声等处理。其中噪声例如可以是椒盐噪声、高斯噪声等，也可以是上述处理组合方式。
如图4所示，图4示出了本申请又一实施例提供的装卸口状态检测方法的流程示意图。
在从视频流数据提取图像帧序列之后，该方法还包括：
步骤410，对图像帧序列进行缩放处理。
步骤420，计算相邻图像帧的图像相似度值；
步骤430，判断图像相似度值是否大于预设的阈值；如果大于预设的阈值，返回计算下一组相邻图像帧的图像相似度值；如果小于等于预设的阈值，则计算目标区域的第一运动向量和第二运动向量。
通过对图像帧序列的每一帧图像进行缩放处理，例如将其缩放为可以被14整除的像素，例如448*448像素。通过图像缩放处理可以减少计算量，从而节省处理时间，节约计算资源。还通过计算图像相似度值来进一步减少计算量，节约计算资源，提升图像处理的工作效率。
计算视频帧序列的相邻帧之间的图像相似度值可以根据以下方式：
SSIM(X，Y)＝L(X，Y)*C(X，Y)*S(X，Y) (8)
X、Y用于表示图像帧(也称为视频帧)；
i、j用于表示图像帧的像素坐标；
R、C分别为图像帧的长、宽；
uX为图像帧X的均值，为图像帧X的方差，σXY为图像帧X和Y的协方差，其中C1、C2、C3分别是对应的预设值。该预设值的设置为了避免公式(5)、(6)、(7)中出现分母为0的情况。
公式(8)SSIM值表示为图像帧X与Y的图像相似度值。
应当注意，尽管在附图中以特定顺序描述了本发明方法的操作，但是，这并非要求或者暗示必须按照该特定顺序来执行这些操作，或是必须执行全部所示的操作才能实现期望的结果。相反，流程图中描绘的步骤可以改变执行顺序。附加地或备选地，可以省略某些步骤，将多个步骤合并为一个步骤执行，和/或将一个步骤分解为多个步骤执行。
进一步地请参考图5，图5示出了本申请实施例提供的装卸口状态检测装置的示意性结构框图。
如图5所示，该装置包括：
第一视频获取单元510，用于实时获取至少一个装卸口的视频流数据。
第一帧序列提取单元520，用于从视频流数据提取图像帧序列。
第一运动向量计算单元530，用于基于图像帧序列的相邻图像帧的目标区域，计算目标区域的第一运动向量和第二运动向量。
检测分析单元540，用于基于第一运动向量和第二运动向量对相邻图像帧中的当前图像帧进行检测分析，确定装卸口的状态。
本申请实施例中，从多路视频中获取至少一路视频流进行分析处理。其中每一路视频流数据与一个装卸口相对应。从装卸口的视频流数据中提取图像帧序列。当某一路摄像头采集到运输工具驶入装卸平台的装卸口时，从采集得到的视频流数据中提取包含运输工具驶入场景的若干视频帧序列，或者图像帧序列。这种在时间上连续的视频帧序列能够很好地实现场景构建。
在提取出图像帧序列之后，提取图像帧序列中投影出的目标对象的动态特征。基于图像帧序列的动态特征，可以得到图像中目标对象的相对位置变化或者摄像机位置变化等运动信息。其中，动态特征提取方法例如可以是光流法和块匹配算法。光流法，例如可以是TVL1算法，LK算法等。目标对象，例如可以是在传输带上运动的货物(也称为包裹、物品等)，或者在运输工具，例如运输车车厢内的工作人员的动作。本申请实施例，可以通过检测相邻图像帧中货物的动态特征，或者工作人员的动态特征，或者二者相结合的方式来检测装卸口的当前行为。优选地，基于图像帧序列中相邻图像帧之间的光流来判断装卸口的状态。装卸口的状态例如可以是：装货状态、卸货状态、空闲状态。其中，装货状态是指货物(或快件，包裹)从传输带输入到运输工具中的传输行为。卸货状态是指货物(或快件，包裹)从运输工具输出到传输带上的传输行为。空闲状态是指传输带上无货物运动，或者工作人员没有对货物进行搬运操作。
例如，通过变分光流法计算相邻图像帧的光流图。变分光流法，例如可以是一阶数据项的总变分方法，从光流图中提取第一运动向量，第二运动向量。其中，运动向量可以表示为水平(x)分量或垂直(y)分量。然后，利用包含该第一运动向量，第二运动向量的光流图替换RGB图像中的R通道和G通道，并去掉B通道后，得到新的图像帧。对新的图像帧进行分析，可以根据光流的变化得到装卸口的状态。例如还可以将新的图像帧作为分类模型的输入图像，由分类模型对输入图像进行分类判断。
本申请实施例，以一阶数据项的总变分方法(TVL1)为例说明基于装卸口图像帧的光流计算方法。
能量函数：
其中，x表示图像帧的像素坐标；
I0、I1分别表示图像帧序列中的前一帧图像和当前帧图像；
u(x)表示在x坐标处产生的光流值；
分别第一方向和第二方向的光流的梯度；
公式(1)表示的能量函数，包括一个能量项和一个平滑项，其中，λ|I0(x)-I1(x+u(x))|为能量项，用于表示亮度一致性，λ是能量项所占的权重；为平滑项，用于表示光流不会发生过大的突变，或者说，同一个物体产生的光流不会过大的差值。通过最小化能量函数来求解u(x)的值即完成运动向量的计算。
本申请实施例，通过图像帧序列的相邻图像帧的光流分析，可以识别出装卸口的装卸行为，避免了人工主观判断导致的误差，并克服了现有的单幅图像无法判断装卸口的动态行为的问题。
本申请实施例还提出一种装卸口状态检测方法，以提高基于视频图像检测的准确度。
请参考图6，图6示出了本申请又一实施例提供的装卸口状态检测装置的示意性结构框图。
如图6所示，该装置包括：
第一视频获取单元610，用于实时获取至少一个装卸口的视频流数据。
第一帧序列提取单元620，用于从视频流数据提取图像帧序列。
第一运动向量计算单元630，用于基于图像帧序列的相邻图像帧的目标区域，计算目标区域的第一运动向量和第二运动向量。
分类检测子单元640，用于将包含第一运动向量和第二运动向量的当前图像帧输入到预先建立的分类模型进行检测，输出装卸口的状态。
本申请实施例，在计算目标对象的第一运动向量和第二运动向量之后，可以将包含第一运动向量和第二运动向量的图像帧输入到预先建立的分类模型中，由分类模型对相邻图像帧计算得到光流图进行检测分析，输出装卸口的状态。光流图输入到分类模型后，经过分类模型分类判断，得到装卸口的当前行为的分类结果。其中，分类模型，例如可以是Incepition-V2，CNN网络模型、基于深度神经网络学习建立的图像分类模型等。
装卸口的状态，例如可以是装货状态、卸货状态、空闲状态。其中，装货状态是指货物(或快件，包裹)从传输带输入到运输工具中的传输行为。卸货状态是指货物(或快件，包裹)从运输工具输出到传输带上的传输行为。空闲状态是指传输带上无货物运动，或者工作人员没有对货物进行搬运操作。
本申请实施例，通过深度学习训练得到的分类模型对光流图进行分类判断，提高了分类判断结果的准确度。
如图7所示，图7示出了本申请实施例提供的建立分类模型单元的示意性结构框图。
本申请实施例通过大量的历史视频数据的训练学习，得到分类模型，用于对实时提取的图像帧序列中包含第一运动向量和第二运动向量的图像帧进行分类，从而确定装卸口的状态。在建立分类模型方法中，包括：
第二视频获取子单元710，用于获取至少一个装卸口的历史视频数据。
第二帧序列提取子单元720，用于从历史视频数据中提取历史图像帧序列。
第二运动向量子计算单元730，用于基于历史图像帧序列中的相邻图像帧的目标对象，计算目标对象的第一运动向量和第二运动向量；
标注处理子单元740，用于对包含第一运动向量和第二运动向量的图像帧进行标注处理；
转换处理子单元750，用于将标注处理后的结果进行格式转换处理；
划分子单元760，用于将格式转换处理后的结果按照预先设置的比例划分为训练集和测试集；
模型训练子单元770，用于利用训练集训练深度神经网络模型得到权重参数，利用权重参数确定的深度神经网络模型对测试集进行分类，得到分类模型。
优选地，在上述实施例基础上，在将标注处理后的结果进行格式转换处理之后，建立分类模型单元还包括：
增广扰序处理单元，用于将格式转换处理后的结果进行数据增广、扰序处理。
本申请实施例中通过数据增广、扰序处理，增加数据量，提高模型的泛化能力。数据增广处理例如可以包括水平翻转、位移、旋转、裁剪等处理，还可以包括颜色抖动、加噪声等处理。其中噪声例如可以是椒盐噪声、高斯噪声等，也可以是上述处理组合方式。
如图8所示，图8示出了本申请又一实施例提供的装卸口状态检测装置的部分示意性结构框图。
在从视频流数据提取图像帧序列之后，该装置还包括：
缩放处理单元810，用于对图像帧序列进行缩放处理。
图像相似度值计算单元820，用于计算相邻图像帧的图像相似度值；
判断单元830，用于判断图像相似度值是否大于预设的阈值；如果大于预设的阈值，返回计算下一组相邻图像帧的图像相似度值；如果小于等于预设的阈值，则计算目标区域的第一运动向量和第二运动向量。
通过对图像帧序列的每一帧图像进行缩放处理，例如将其缩放为可以被14整除的像素，例如448*448像素。通过图像缩放处理可以减少计算量，从而节省处理时间，节约计算资源。还通过计算图像相似度值来进一步减少计算量，节约计算资源，提升图像处理的工作效率。
计算视频帧序列的相邻帧之间的图像相似度值可以根据以下方式：
SSIM(X，Y)＝L(X，Y)*C(X，Y)*S(X，Y) (8)
X、Y用于表示图像帧(也称为视频帧)；
i、j用于表示图像帧的像素坐标；
R、C分别为图像帧的长、宽；
uX为图像帧X的均值，为图像帧X的方差，σXY为图像帧X和Y的协方差，其中C1、C2、C3分别是对应的预设值。该预设值的设置为了避免公式(5)、(6)、(7)中出现分母为0的情况。
公式(8)SSIM值表示为图像帧X与Y的图像相似度值。
应当注意，尽管在附图中以特定顺序描述了本发明方法的操作，但是，这并非要求或者暗示必须按照该特定顺序来执行这些操作，或是必须执行全部所示的操作才能实现期望的结果。相反，流程图中描绘的步骤可以改变执行顺序。附加地或备选地，可以省略某些步骤，将多个步骤合并为一个步骤执行，和/或将一个步骤分解为多个步骤执行。
应当理解，装置500-800中记载的诸单元或模块与参考图1-4描述的方法中的各个步骤相对应。由此，上文针对方法描述的操作和特征同样适用于装置500-800及其中包含的单元，在此不再赘述。装置500-800可以预先实现在电子设备的浏览器或其他安全应用中，也可以通过下载等方式而加载到电子设备的浏览器或其安全应用中。装置400中的相应单元可以与电子设备中的单元相互配合以实现本申请实施例的方案。
下面参考图9，其示出了适于用来实现本申请实施例的终端设备或服务器的计算机系统900的结构示意图。
如图9所示，计算机系统900包括中央处理单元(CPU)901，其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中，还存储有系统900操作所需的各种程序和数据。CPU 901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
以下部件连接至I/O接口905：包括键盘、鼠标等的输入部分906；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907；包括硬盘等的存储部分908；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器910上，以便于从其上读出的计算机程序根据需要被安装入存储部分908。
特别地，根据本公开的实施例，上文参考图1-4描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括有形地包含在机器可读介质上的计算机程序，所述计算机程序包含用于执行图1-4的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分909从网络上被下载和安装，和/或从可拆卸介质911被安装。
附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，前述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元或模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元或模块也可以设置在处理器中，例如，可以描述为：一种处理器包括第一视频获取单元、第一帧序列提取单元、第一运动向量计算单元以及状态检测单元。其中，这些单元或模块的名称在某种情况下并不构成对该单元或模块本身的限定，例如，第一视频获取单元还可以被描述为“用于实时获取至少一个装卸口的视频流数据的单元”。
作为另一方面，本申请还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中前述装置中所包含的计算机可读存储介质；也可以是单独存在，未装配入设备中的计算机可读存储介质。计算机可读存储介质存储有一个或者一个以上程序，前述程序被一个或者一个以上的处理器用来执行描述于本申请的装卸口状态检测方法。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离前述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (15)

1.一种装卸口状态检测方法，其特征在于，该方法包括：
实时获取至少一个装卸口的视频流数据；
从所述视频流数据提取图像帧序列；
基于所述图像帧序列的相邻图像帧的目标对象，计算所述目标对象的第一运动向量和第二运动向量；
基于所述第一运动向量和第二运动向量对所述相邻图像帧中的当前图像帧进行检测分析，确定所述装卸口的状态。
2.根据权利要求1所述的方法，其特征在于，基于所述第一运动向量和第二运动向量对所述相邻图像帧中的当前图像帧进行检测，还包括：
将包含所述第一运动向量和第二运动向量的所述当前图像帧输入到预先建立的分类模型进行检测，输出所述装卸口的状态。
3.根据权利要求2所述的方法，其特征在于，预先建立分类模型包括：
获取至少一个装卸口的历史视频数据；
从所述历史视频数据中提取历史图像帧序列；
基于所述历史图像帧序列中的相邻图像帧的目标对像，计算目标对象的第一运动向量和第二运动向量；
对包含第一运动向量和第二运动向量的图像帧进行标注处理；
将标注处理后的结果进行格式转换处理；
将格式转换处理后的结果按照预先设置的比例划分为训练集和测试集；
利用所述训练集训练深度神经网络模型得到权重参数，利用所述权重参数确定的深度神经网络模型对所述测试集进行分类，得到分类模型。
4.根据权利要求3所述的方法，其特征在于，在将标注处理后的结果进行格式转换处理之后，该方法还包括：
将格式转换处理后的结果进行数据增广、扰序处理。
5.根据权利要求1-4任一项所述的方法，其特征在于，在提取图像帧序列之后，该方法还包括：
对所述图像帧序列进行缩放处理。
6.根据权利要求5所述的方法，其特征在于，在缩放处理之后，该方法还包括：
计算所述相邻图像帧的图像相似度值；
判断所述图像相似度值是否大于预设的阈值；
如果大于预设的阈值，返回计算下一组相邻图像帧的图像相似度值；
如果小于等于预设的阈值，则计算所述目标区域的第一运动向量和第二运动向量。
7.根据权利要求1所述的方法，其特征在于，所述状态包括以下至少一种：装货状态、卸货状态、空闲状态。
8.一种装卸口状态检测装置，其特征在于，该装置包括：
第一视频获取单元，用于实时获取至少一个装卸口的视频流数据；
第一帧序列提取单元，用于从所述视频流数据提取图像帧序列；
第一运动向量计算单元，用于基于所述图像帧序列的相邻图像帧的目标对象，计算所述目标对象的第一运动向量和第二运动向量；
检测分析单元，用于基于所述第一运动向量和第二运动向量对所述相邻图像帧中的当前图像帧进行检测分析，确定所述装卸口的状态。
9.根据权利要求8所述的装置，其特征在于，所述检测分析单元包括：
分类检测子单元，用于将包含所述第一运动向量和第二运动向量的所述当前图像帧输入到预先建立的分类模型进行检测，输出所述装卸口的状态。
10.根据权利要求9所述的装置，其特征在于，建立分类模型单元包括：
第二视频获取子单元，用于获取至少一个装卸口的历史视频数据；
第二帧序列提取子单元，用于从所述历史视频数据中提取历史图像帧序列；
第二运动向量子计算单元，用于基于所述历史图像帧序列中的相邻图像帧的目标对象，计算目标对象的第一运动向量和第二运动向量；
标注处理子单元，用于对包含第一运动向量和第二运动向量的图像帧进行标注处理；
转换处理子单元，用于将标注处理后的结果进行格式转换处理；
划分子单元，用于将格式转换处理后的结果按照预先设置的比例划分为训练集和测试集；
模型训练子单元，用于利用所述训练集训练深度神经网络模型得到权重参数，利用所述权重参数确定的深度神经网络模型对所述测试集进行分类，得到分类模型。
11.根据权利要求10所述的装置，其特征在于，在转换处理子单元之后，建立分类模型单元还包括：
增广扰序处理子单元，用于将格式转换处理后的结果进行数据增广、扰序处理。
12.根据权利要求8所述的装置，其特征在于，在第一帧序列提取单元之后，该装置还包括：
缩放处理单元，用于对所述图像帧序列进行缩放处理。
13.根据权利要求12所述的装置，其特征在于，在缩放处理单元之后，该装置还包括：
图像相似度值计算单元，用于计算所述相邻图像帧的图像相似度值；
判断单元，用于判断所述图像相似度值是否大于预设的阈值；
如果大于预设的阈值，返回计算下一组相邻图像帧的图像相似度值；
如果小于等于预设的阈值，则计算所述目标区域的第一运动向量和第二运动向量。
14.一种计算机设备，包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-7中任一所述的方法。
15.一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序用于：所述计算机程序被处理器执行时实现如权利要求1-7中任一所述的方法。
CN201810992365.5A 2018-08-28 2018-08-28 装卸口状态检测方法、装置、设备及其存储介质 Pending CN109523502A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810992365.5A CN109523502A (zh) 2018-08-28 2018-08-28 装卸口状态检测方法、装置、设备及其存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810992365.5A CN109523502A (zh) 2018-08-28 2018-08-28 装卸口状态检测方法、装置、设备及其存储介质

Publications (1)

Publication Number Publication Date
CN109523502A true CN109523502A (zh) 2019-03-26

Family

ID=65770674

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810992365.5A Pending CN109523502A (zh) 2018-08-28 2018-08-28 装卸口状态检测方法、装置、设备及其存储介质

Country Status (1)

Country Link
CN (1) CN109523502A (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110170171A (zh) * 2019-06-03 2019-08-27 深圳市腾讯网域计算机网络有限公司 一种目标对象的控制方法及装置
CN110866515A (zh) * 2019-11-22 2020-03-06 三一重工股份有限公司 厂房内对象行为识别方法、装置以及电子设备
CN111047280A (zh) * 2019-11-22 2020-04-21 三一重工股份有限公司 厂房内的对象检测方法、装置以及计算机可读存储介质
CN112288345A (zh) * 2019-07-25 2021-01-29 顺丰科技有限公司 装卸口状态检测方法、装置、服务器及存储介质
CN112749660A (zh) * 2021-01-13 2021-05-04 中国科学院上海微系统与信息技术研究所 一种视频内容描述信息的生成方法和设备
CN113819960A (zh) * 2021-01-27 2021-12-21 深圳信息职业技术学院 污水处理药池流量检测方法、装置及相关设备
CN115511919A (zh) * 2022-09-23 2022-12-23 北京乾图科技有限公司 视频处理方法、图像检测方法以及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107169415A (zh) * 2017-04-13 2017-09-15 西安电子科技大学 基于卷积神经网络特征编码的人体动作识别方法
CN108038432A (zh) * 2017-11-30 2018-05-15 中国人民解放军国防科技大学 一种基于光流计数的公交人流统计方法及系统
CN108288035A (zh) * 2018-01-11 2018-07-17 华南理工大学 基于深度学习的多通道图像特征融合的人体动作识别方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107169415A (zh) * 2017-04-13 2017-09-15 西安电子科技大学 基于卷积神经网络特征编码的人体动作识别方法
CN108038432A (zh) * 2017-11-30 2018-05-15 中国人民解放军国防科技大学 一种基于光流计数的公交人流统计方法及系统
CN108288035A (zh) * 2018-01-11 2018-07-17 华南理工大学 基于深度学习的多通道图像特征融合的人体动作识别方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110170171A (zh) * 2019-06-03 2019-08-27 深圳市腾讯网域计算机网络有限公司 一种目标对象的控制方法及装置
CN112288345A (zh) * 2019-07-25 2021-01-29 顺丰科技有限公司 装卸口状态检测方法、装置、服务器及存储介质
CN110866515A (zh) * 2019-11-22 2020-03-06 三一重工股份有限公司 厂房内对象行为识别方法、装置以及电子设备
CN111047280A (zh) * 2019-11-22 2020-04-21 三一重工股份有限公司 厂房内的对象检测方法、装置以及计算机可读存储介质
CN112749660A (zh) * 2021-01-13 2021-05-04 中国科学院上海微系统与信息技术研究所 一种视频内容描述信息的生成方法和设备
CN113819960A (zh) * 2021-01-27 2021-12-21 深圳信息职业技术学院 污水处理药池流量检测方法、装置及相关设备
CN115511919A (zh) * 2022-09-23 2022-12-23 北京乾图科技有限公司 视频处理方法、图像检测方法以及装置
CN115511919B (zh) * 2022-09-23 2023-09-19 北京乾图科技有限公司 视频处理方法、图像检测方法以及装置

Similar Documents

Publication Publication Date Title
CN109523502A (zh) 装卸口状态检测方法、装置、设备及其存储介质
CN108898044A (zh) 装载率获取方法、装置、系统及存储介质
CN111415106A (zh) 货车装载率识别方法、装置、设备及存储介质
CN109241985A (zh) 一种图像识别方法及装置
CN111583324B (zh) 单目图像深度估测装载率识别方法和装置
CN111310645A (zh) 货物堆积量的溢仓预警方法、装置、设备及存储介质
CN111524112B (zh) 追钢识别方法、系统、设备及介质
CN108230357A (zh) 关键点检测方法、装置、存储介质、计算机程序和电子设备
CN110135514B (zh) 一种工件分类方法、装置、设备及介质
CN109508621A (zh) 装卸口状态监控方法、装置、设备及其存储介质
CN111428682B (zh) 快件分拣方法、装置、设备及存储介质
CN111597857B (zh) 一种物流包裹检测方法、装置、设备及可读存储介质
CN114565548A (zh) 工业缺陷识别方法、系统、计算设备及存储介质
CN114708295A (zh) 一种基于Transformer的物流包裹分离方法
CN113469025A (zh) 应用于车路协同的目标检测方法、装置、路侧设备和车辆
CN111582778B (zh) 操作场地货物堆积度量方法、装置、设备及存储介质
CN113674322A (zh) 一种运动状态检测方法及相关装置
CN111814739B (zh) 快递包裹体积的检测方法、装置、设备及存储介质
CN116129100A (zh) 一种货车零件定位与故障识别方法、装置、设备及介质
CN112802087A (zh) 堆积物整体体积的检测方法、装置及电子设备
CN114492667A (zh) 图像处理方法、装置、电子设备和存储介质
CN113469993A (zh) 一种检测运动状态异常的对象的方法、装置及电子设备
CN111950475A (zh) 一种基于yoloV3的calhe直方图增强型目标识别算法
CN111428632A (zh) 一种绞车状态检测方法及矿工行为检测方法
CN111401104A (zh) 分类模型的训练方法、分类方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20190326

RJ01 Rejection of invention patent application after publication