CN110287816B - 车门动作检测方法、装置和计算机可读存储介质 - Google Patents

车门动作检测方法、装置和计算机可读存储介质 Download PDF

Info

Publication number
CN110287816B
CN110287816B CN201910485040.2A CN201910485040A CN110287816B CN 110287816 B CN110287816 B CN 110287816B CN 201910485040 A CN201910485040 A CN 201910485040A CN 110287816 B CN110287816 B CN 110287816B
Authority
CN
China
Prior art keywords
door
action
image
determining
vehicle door
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910485040.2A
Other languages
English (en)
Other versions
CN110287816A (zh
Inventor
朱延东
白戈
王长虎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Douyin Vision Co Ltd
Douyin Vision Beijing Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN201910485040.2A priority Critical patent/CN110287816B/zh
Publication of CN110287816A publication Critical patent/CN110287816A/zh
Application granted granted Critical
Publication of CN110287816B publication Critical patent/CN110287816B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G06V20/42—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of sport video content
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Human Computer Interaction (AREA)
  • Image Analysis (AREA)

Abstract

本公开一种车门动作检测方法、装置、电子设备和计算机可读存储介质。其中，该车门动作检测方法包括：确定输入视频中包含车门的目标视频图像；对所述目标视频图像进行车门特征提取得到车门特征图像，并根据相邻目标视频图像得到车门光流特征图像；根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作。本公开实施例通过确定输入视频中包含车门的目标视频图像，对目标视频图像进行图像处理，得到车门特征图像和车门光流特征图像，根据车门特征图像和车门光流特征图像确定所述输入视频中记录的车门动作，可以提高车门动作识别效率及识别准确率。

Description

车门动作检测方法、装置和计算机可读存储介质
技术领域
本公开涉及一种信息处理技术领域，特别是涉及一种车门动作检测方法、装置和计算机可读存储介质。
背景技术
在现有技术中，动作识别通常通过手动设计某些特定的特征，对数据集中特定的动作进行识别；然而，传统方法在面对诸多与现实场景接近的情况时，往往很难取得好的识别效果。
而车门动作检测主要用于检测打开车门的动作或关闭车门的动作，若采用现有技术中的动作识别，则可能会造成识别效率低，或可能会出现识别错误的情况。
发明内容
本公开解决的技术问题是提供一种车门动作检测方法，以至少部分地解决现有技术中动作识别效率低及存在误识别的技术问题。此外，还提供一种车门动作检测装置、车门动作检测硬件装置、计算机可读存储介质和车门动作检测终端。
为了实现上述目的，根据本公开的一个方面，提供以下技术方案：
一种车门动作检测方法，包括：
确定输入视频中包含车门的目标视频图像；
对所述目标视频图像进行车门特征提取得到车门特征图像，并根据相邻目标视频图像得到车门光流特征图像；
根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作。
进一步的，所述根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作，包括：
根据所述车门特征图像确定第一车门动作，并根据所述车门光流特征图像确定第二车门动作；
根据所述第一车门动作和所述第二车门动作确定所述输入视频中记录的车门动作。
进一步的，所述根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作，包括：
将所述车门特征图像输入空域卷积神经网络，得到所述车门动作的第一分类结果；
将所述车门光流特征图像输入时域卷积神经网络，得到所述车门动作的第二分类结果；
根据所述第一分类结果和所述第二分类结果确定所述输入视频中记录的车门动作。
进一步的，所述第一分类结果为第一得分，所述第二分类结果为第二得分；
相应的，所述根据所述第一分类结果和所述第二分类结果确定所述输入视频中记录的车门动作，包括：
对所述第一得分和所述第二得分进行加和或加权；
根据所述加和或加权确定所述输入视频中记录的车门动作。
进一步的，所述第一得分和所述第二得分均为所述车门动作为打开车门的得分，或所述第一得分和所述第二得分均为所述车门动作为关闭车门的得分。
进一步的，所述根据所述车门特征图像确定第一车门动作，包括：
分别对所述车门特征图像进行车门状态识别，得到每幅车门特征图像的车门状态；
根据所述车门特征图像的车门状态确定所述输入视频中记录的车门动作。
为了实现上述目的，根据本公开的又一个方面，还提供以下技术方案：
一种车门动作检测装置，包括：
车门图像确定模块，用于确定输入视频中包含车门的目标视频图像；
特征图像确定模块，用于对所述目标视频图像进行车门特征提取得到车门特征图像，并根据相邻目标视频图像得到车门光流特征图像；
动作确定模块，用于根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作。
进一步的，所述动作确定模块具体用于：根据所述车门特征图像确定第一车门动作，并根据所述车门光流特征图像确定第二车门动作；根据所述第一车门动作和所述第二车门动作确定所述输入视频中记录的车门动作。
进一步的，所述动作确定模块包括：
第一分类单元，用于将所述车门特征图像输入空域卷积神经网络，得到所述车门动作的第一分类结果；
第二分类单元，用于将所述车门光流特征图像输入时域卷积神经网络，得到所述车门动作的第二分类结果；
动作确定单元，用于根据所述第一分类结果和所述第二分类结果确定所述输入视频中记录的车门动作。
进一步的，所述第一分类结果为第一得分，所述第二分类结果为第二得分；
相应的，所述动作确定单元具体用于：对所述第一得分和所述第二得分进行加和或加权；根据所述加和或加权确定所述输入视频中记录的车门动作。
进一步的，所述第一得分和所述第二得分均为所述车门动作为打开车门的得分，或所述第一得分和所述第二得分均为所述车门动作为关闭车门的得分。
进一步的，所述动作确定模块具体用于：分别对所述车门特征图像进行车门状态识别，得到每幅车门特征图像的车门状态；根据所述车门特征图像的车门状态确定所述输入视频中记录的车门动作。
为了实现上述目的，根据本公开的又一个方面，还提供以下技术方案：
一种电子设备，包括：
存储器，用于存储非暂时性计算机可读指令；以及
处理器，用于运行所述计算机可读指令，使得所述处理器执行时实现上述任一车门动作检测方法技术方案中所述的步骤。
为了实现上述目的，根据本公开的又一个方面，还提供以下技术方案：
一种计算机可读存储介质，用于存储非暂时性计算机可读指令，当所述非暂时性计算机可读指令由计算机执行时，使得所述计算机执行上述任一车门动作检测方法技术方案中所述的步骤。
为了实现上述目的，根据本公开的又一个方面，还提供以下技术方案：
一种车门动作检测终端，包括上述任一车门动作检测装置。
本公开实施例通过确定输入视频中包含车门的目标视频图像，对所述目标视频图像进行车门特征提取得到车门特征图像，并根据相邻目标视频图像得到车门光流特征图像，根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作，可以提高车门动作识别效率及识别准确率。
上述说明仅是本公开技术方案的概述，为了能更清楚了解本公开的技术手段，而可依照说明书的内容予以实施，并且为让本公开的上述和其他目的、特征和优点能够更明显易懂，以下特举较佳实施例,并配合附图，详细说明如下。
附图说明
图1为根据本公开一个实施例的车门动作检测方法的流程示意图；
图2为根据本公开一个实施例的车门动作检测的装置的结构示意图；
图3为根据本公开一个实施例的电子设备的结构示意图。
具体实施方式
以下通过特定的具体实例说明本公开的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本公开的其他优点与功效。显然，所描述的实施例仅仅是本公开一部分实施例，而不是全部的实施例。本公开还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本公开的精神下进行各种修饰或改变。需说明的是，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。基于本公开中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。
需要说明的是，下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见，本文中所描述的方面可体现于广泛多种形式中，且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本公开，所属领域的技术人员应了解，本文中所描述的一个方面可与任何其它方面独立地实施，且可以各种方式组合这些方面中的两者或两者以上。举例来说，可使用本文中所阐述的任何数目个方面来实施设备及/或实践方法。另外，可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
还需要说明的是，以下实施例中所提供的图示仅以示意方式说明本公开的基本构想，图式中仅显示与本公开中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制，其实际实施时各组件的型态、数量及比例可为一种随意的改变，且其组件布局型态也可能更为复杂。
另外，在以下描述中，提供具体细节是为了便于透彻理解实例。然而，所属领域的技术人员将理解，可在没有这些特定细节的情况下实践所述方面。
为了解决现有技术中动作识别效率低及存在误识别的技术问题，本公开实施例提供一种车门动作检测方法。如图1所示，该车门动作检测方法主要包括如下步骤S1至步骤S3。其中：
步骤S1：确定输入视频中包含车门的目标视频图像。
其中，输入视频为短视频，该短视频中记录一个车门动作的过程，具体可以为预先存储在本地的视频，也可以为实时输入视频。
具体的，可以对输入视频中包含的每帧视频图像进行车门识别，确定包含所述车门的目标视频图像。例如，可以采用现有技术中的物体识别算法进行车门检测，以确定视频中包含车门的图像，例如可采用的算法包括基于深度学习的物体识别算法、SSD(SingleShoot Detectors)目标检测算法等。
步骤S2：对所述目标视频图像进行车门特征提取得到车门特征图像，并根据相邻目标视频图像得到车门光流特征图像。
其中，车门光流特征图像包含车门的运动信息。
具体的，可采用现有的特征提取算法提取目标视频图像中包含的车门特征，其中可采用的特征提取算法包括PCA(Principal Component Analysis，主成分分析)、LDA(Linear Discriminant Analysis,线性判别式分析)、ICA(Independent ComponentAnalysis，独立成分分析)、SIFT(Scale invariant feature transform，尺度不变特征变换)等。并且，可以采用Lucas–Kanade光流算法对目标视频图像进行处理得到车门光流特征图像。
步骤S3：根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作。
其中，车门动作包括打开车门的动作和关闭车门的动作。
具体的，如果根据所述车门特征图像确定输入视频中的车门动作为打开车门的动作，且根据车门光流特征图像确定输入视频中的车门动作为打开车门的动作，则确定输入视频中的车门动作为打开车门的动作。或，如果根据所述车门特征图像确定输入视频中的车门动作为关闭车门的动作，且根据车门光流特征图像确定输入视频中的车门动作为关闭车门的动作，则确定输入视频中的车门动作为关闭车门的动作。
本实施例通过确定输入视频中包含车门的目标视频图像，对所述目标视频图像进行车门特征提取得到车门特征图像，并根据相邻目标视频图像得到车门光流特征图像，根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作，可以提高车门动作识别效率及识别准确率。
在一个可选的实施例中，步骤S3具体包括：
步骤S31：根据所述车门特征图像确定第一车门动作，并根据所述车门光流特征图像确定第二车门动作。
在本文中，为了区分根据不同的图像确定的车门动作，这里将首次出现的车门动作定义为第一车门动作，将后续出现的车门动作定义为第二车门动作。
其中，第一车门动作可以为打开车门的动作或关闭车门的动作，同理，第二车门动作可以为打开车门的动作或关闭车门的动作。
步骤S32：根据所述第一车门动作和所述第二车门动作确定所述输入视频中记录的车门动作。
具体的，如果第一车门动作为打开车门的动作，且第二车门动作也为打开车门的动作，则确定所述输入视频中记录的车门动作也为打开车门的动作。或，如果第一车门动作为关闭车门的动作，且第二车门动作也为关闭车门的动作，则确定所述输入视频中记录的车门动作为关闭车门的动作。
进一步的，所述根据所述车门特征图像确定第一车门动作，包括：
分别对所述车门特征图像进行车门状态识别，得到每幅车门特征图像的车门状态；
根据所述车门特征图像的车门状态确定所述输入视频中记录的车门动作。
其中，车门状态包括开状态和关状态。
具体的，在连续两帧目标视频图像中，若车门的状态由开状态变化为关状态，则确定所述输入视频中记录的车门动作为关闭车门的动作，若车门的状态由关状态变化为开状态，则确定所述输入视频中记录的车门动作为打开车门的动作。
在一个可选的实施例中，步骤S3具体包括：
步骤S33：将所述车门特征图像输入空域卷积神经网络，得到所述车门动作的第一分类结果。
在本文中，为了区分根据不同的图像及不同的卷积神经网络确定的车门动作分类结果，这里将首次出现的分类结果定义为第一分类结果，将后续出现的分类结果定义为第二分类结果。
其中，空域卷积神经网络可以为现有技术中的卷积神经网络，在空域对车门特征图像进行分类处理。
其中，根据第一分类结果可以确定所述输入视频中记录的车门动作为打开车门的动作或关闭车门的动作。
步骤S34：将所述车门光流特征图像输入时域卷积神经网络，得到所述车门动作的第二分类结果。
其中，时域卷积神经网络可以为多任务学习神经网络，在时域对车门光流特征图像进行分类处理。即通过将时域卷积神经网络的全连接网络层连到多个分类层上，得到一种共享全连接网络层的多任务学习神经网络。在共享全连接网络层中，每个任务都有各自的参数。这样将车门光流特征图像输入该多任务学习神经网络，这样就可以使车门光流特征图像进行多任务学习，得到多个分类结果，根据该多个分类结果确定最终的分类结果，例如对该多个分类结果进行加权融合，这样利用多任务学习可以克服车门光流特征图像数据量不足的问题，进一步提高分类准确率。
此外，时域卷积神经网络还可以为现有技术中的其它类型的卷积神经网络，这里不再赘述。
其中，根据第二分类结果可以确定所述输入视频中记录的车门动作为打开车门的动作或关闭车门的动作。
步骤S35：根据所述第一分类结果和所述第二分类结果确定所述输入视频中记录的车门动作。
具体的，如果根据第一分类结果确定所述输入视频中记录的车门动作为打开车门的动作，且根据第二分类结果确定所述输入视频中记录的车门动作也为打开车门的动作，则确定所述输入视频中记录的车门动作为打开车门的动作。或，如果根据第一分类结果确定所述输入视频中记录的车门动作为关闭车门的动作，且根据第二分类结果确定所述输入视频中记录的车门动作也为关闭车门的动作，则确定所述输入视频中记录的车门动作为关闭车门的动作。
进一步的，所述第一分类结果为第一得分，所述第二分类结果为第二得分；
相应的，步骤S35具体包括：
步骤S351：对所述第一得分和所述第二得分进行加和或加权。
步骤S352：根据所述加和或加权确定所述输入视频中记录的车门动作。
其中，所述第一得分和所述第二得分均为所述车门动作为打开车门的得分，或所述第一得分和所述第二得分均为所述车门动作为关闭车门的得分。
具体的，可以预先设置打开车门的阈值分数，当所述第一得分和所述第二得分均为所述车门动作为打开车门的得分时，若所述第一得分和所述第二得分的加和或加权大于所述打开车门的阈值分数，则确定所述输入视频中记录的车门动作为打开车门的动作。同理，可以预先设置关闭车门的阈值分数，当所述第一得分和所述第二得分均为所述车门动作为关闭车门的得分时，若所述第一得分和所述第二得分的加和或加权大于所述关闭车门的阈值分数，则确定所述输入视频中记录的车门动作为关闭车门的动作。
本领域技术人员应能理解，在上述各个实施例的基础上，还可以进行明显变型(例如，对所列举的模式进行组合)或等同替换。
在上文中，虽然按照上述的顺序描述了车门动作检测方法实施例中的各个步骤，本领域技术人员应清楚，本公开实施例中的步骤并不必然按照上述顺序执行，其也可以倒序、并行、交叉等其他顺序执行，而且，在上述步骤的基础上，本领域技术人员也可以再加入其他步骤，这些明显变型或等同替换的方式也应包含在本公开的保护范围之内，在此不再赘述。
下面为本公开装置实施例，本公开装置实施例可用于执行本公开方法实施例实现的步骤，为了便于说明，仅示出了与本公开实施例相关的部分，具体技术细节未揭示的，请参照本公开方法实施例。
为了解决现有技术中通过双眼同时眨眼进行触发容易造成误判的技术问题，本公开实施例提供一种车门动作检测装置。该装置可以执行上述车门动作检测方法实施例中的步骤。如图2所示，该装置主要包括：车门图像确定模块21、特征图像确定模块22和动作确定模块23；其中，
车门图像确定模块21用于确定输入视频中包含车门的目标视频图像；
特征图像确定模块22用于对所述目标视频图像进行车门特征提取得到车门特征图像，并根据相邻目标视频图像得到车门光流特征图像；
动作确定模块23用于根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作。
进一步的，所述动作确定模块23具体用于：根据所述车门特征图像确定第一车门动作，并根据所述车门光流特征图像确定第二车门动作；根据所述第一车门动作和所述第二车门动作确定所述输入视频中记录的车门动作。
进一步的，所述动作确定模块23包括：第一分类单元231、第二分类单元232和动作确定单元233；其中，
第一分类单元231用于将所述车门特征图像输入空域卷积神经网络，得到所述车门动作的第一分类结果；
第二分类单元232用于将所述车门光流特征图像输入时域卷积神经网络，得到所述车门动作的第二分类结果；
动作确定单元233用于根据所述第一分类结果和所述第二分类结果确定所述输入视频中记录的车门动作。
进一步的，所述第一分类结果为第一得分，所述第二分类结果为第二得分；
相应的，所述动作确定单元233具体用于：对所述第一得分和所述第二得分进行加和或加权；根据所述加和或加权确定所述输入视频中记录的车门动作。
进一步的，所述第一得分和所述第二得分均为所述车门动作为打开车门的得分，或所述第一得分和所述第二得分均为所述车门动作为关闭车门的得分。
进一步的，所述动作确定模块23具体用于：分别对所述车门特征图像进行车门状态识别，得到每幅车门特征图像的车门状态；根据所述车门特征图像的车门状态确定所述输入视频中记录的车门动作。
有关车门动作检测装置实施例的工作原理、实现的技术效果等详细说明可以参考前述车门动作检测方法实施例中的相关说明，在此不再赘述。
下面参考图3，其示出了适于用来实现本公开实施例的电子设备的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图3示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图3所示，电子设备可以包括处理装置(例如中央处理器、图形处理器等)301，其可以根据存储在只读存储器(ROM)302中的程序或者从存储装置308加载到随机访问存储器(RAM)303中的程序而执行各种适当的动作和处理。在RAM 303中，还存储有电子设备操作所需的各种程序和数据。处理装置301、ROM 302以及RAM 303通过总线304彼此相连。输入/输出(I/O)接口305也连接至总线304。
通常，以下装置可以连接至I/O接口305：包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置306；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置307；包括例如磁带、硬盘等的存储装置308；以及通信装置309。通信装置309可以允许电子设备与其他设备进行无线或有线通信以交换数据。虽然图3示出了具有各种装置的电子设备，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置309从网络上被下载和安装，或者从存储装置308被安装，或者从ROM 302被安装。在该计算机程序被处理装置301执行时，执行本公开实施例的方法中限定的上述功能。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：确定输入视频中包含车门的目标视频图像；对所述目标视频图像进行车门特征提取得到车门特征图像，并根据相邻目标视频图像得到车门光流特征图像；根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，单元的名称在某种情况下并不构成对该单元本身的限定。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (6)

1.一种车门动作检测方法，其特征在于，包括：
确定输入视频中包含车门的目标视频图像；
对所述目标视频图像进行车门特征提取得到车门特征图像，并根据相邻目标视频图像得到车门光流特征图像；
根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作；
其中，所述根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作，包括：
根据所述车门特征图像确定第一车门动作，并根据所述车门光流特征图像确定第二车门动作；其中，所述根据所述车门特征图像确定第一车门动作，包括：分别对所述车门特征图像进行车门状态识别，得到每幅车门特征图像的车门状态；在连续两帧目标视频图像中，若车门的状态由开状态变化为关状态，则确定所述输入视频中记录的车门动作为关闭车门的动作，若车门的状态由关状态变化为开状态，则确定所述输入视频中记录的车门动作为打开车门的动作；
如果所述第一车门动作和所述第二车门动作相同，则确定所述输入视频中记录的车门动作为所述第一车门动作或所述第二车门动作。
2.根据权利要求1所述的方法，其特征在于，所述根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作，包括：
将所述车门特征图像输入空域卷积神经网络，得到所述车门动作的第一分类结果；
将所述车门光流特征图像输入时域卷积神经网络，得到所述车门动作的第二分类结果；
根据所述第一分类结果和所述第二分类结果确定所述输入视频中记录的车门动作。
3.一种车门动作检测装置，其特征在于，包括：
车门图像确定模块，用于确定输入视频中包含车门的目标视频图像；
特征图像确定模块，用于对所述目标视频图像进行车门特征提取得到车门特征图像，并根据相邻目标视频图像得到车门光流特征图像；
动作确定模块，用于根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作；其中，所述根据所述车门特征图像和所述车门光流特征图像确定所述输入视频中记录的车门动作，包括：根据所述车门特征图像确定第一车门动作，并根据所述车门光流特征图像确定第二车门动作；其中，所述根据所述车门特征图像确定第一车门动作，包括：分别对所述车门特征图像进行车门状态识别，得到每幅车门特征图像的车门状态；在连续两帧目标视频图像中，若车门的状态由开状态变化为关状态，则确定所述输入视频中记录的车门动作为关闭车门的动作，若车门的状态由关状态变化为开状态，则确定所述输入视频中记录的车门动作为打开车门的动作；如果所述第一车门动作和所述第二车门动作相同，则确定所述输入视频中记录的车门动作为所述第一车门动作或所述第二车门动作。
4.根据权利要求3所述的装置，其特征在于，所述动作确定模块包括：
第一分类单元，用于将所述车门特征图像输入空域卷积神经网络，得到所述车门动作的第一分类结果；
第二分类单元，用于将所述车门光流特征图像输入时域卷积神经网络，得到所述车门动作的第二分类结果；
动作确定单元，用于根据所述第一分类结果和所述第二分类结果确定所述输入视频中记录的车门动作。
5.一种电子设备，包括：
存储器，用于存储非暂时性计算机可读指令；以及
处理器，用于运行所述计算机可读指令，使得所述处理器执行时实现根据权利要求1-2中任意一项所述的车门动作检测方法。
6.一种计算机可读存储介质，用于存储非暂时性计算机可读指令，当所述非暂时性计算机可读指令由计算机执行时，使得所述计算机执行权利要求1-2中任意一项所述的车门动作检测方法。
CN201910485040.2A 2019-06-05 2019-06-05 车门动作检测方法、装置和计算机可读存储介质 Active CN110287816B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910485040.2A CN110287816B (zh) 2019-06-05 2019-06-05 车门动作检测方法、装置和计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910485040.2A CN110287816B (zh) 2019-06-05 2019-06-05 车门动作检测方法、装置和计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN110287816A CN110287816A (zh) 2019-09-27
CN110287816B true CN110287816B (zh) 2021-12-28

Family

ID=68003347

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910485040.2A Active CN110287816B (zh) 2019-06-05 2019-06-05 车门动作检测方法、装置和计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN110287816B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111104937A (zh) * 2019-11-25 2020-05-05 上海眼控科技股份有限公司 车门信息检测方法、装置、计算机设备和存储介质
CN111160213B (zh) * 2019-12-25 2024-06-25 广州方纬智慧大脑研究开发有限公司 基于深度学习的非法上下客检测方法、系统及存储介质
CN111611886B (zh) * 2020-04-24 2023-11-10 智慧互通科技股份有限公司 一种基于车辆行为分析的停车信息校验方法及装置
TWI803762B (zh) * 2020-07-09 2023-06-01 國立臺北科技大學 事故預防系統與方法

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105138953A (zh) * 2015-07-09 2015-12-09 浙江大学 一种基于连续的多实例学习的视频中动作识别的方法
CN106056628A (zh) * 2016-05-30 2016-10-26 中国科学院计算技术研究所 基于深度卷积神经网络特征融合的目标跟踪方法及系统
CN107045722A (zh) * 2017-03-27 2017-08-15 西安电子科技大学 融合静态信息与动态信息的视频序列分割方法
US20170372153A1 (en) * 2014-01-09 2017-12-28 Irvine Sensors Corp. Methods and Devices for Cognitive-based Image Data Analytics in Real Time
US9977970B2 (en) * 2016-06-29 2018-05-22 Conduent Business Services, Llc Method and system for detecting the occurrence of an interaction event via trajectory-based analysis
CN108288015A (zh) * 2017-01-10 2018-07-17 武汉大学 基于时间尺度不变性的视频中人体动作识别方法及系统
CN108647649A (zh) * 2018-05-14 2018-10-12 中国科学技术大学 一种视频中异常行为的检测方法
CN108764084A (zh) * 2018-05-17 2018-11-06 西安电子科技大学 基于空域分类网络和时域分类网络融合的视频分类方法
CN108875611A (zh) * 2018-06-05 2018-11-23 北京字节跳动网络技术有限公司 视频动作识别方法和装置
CN109033993A (zh) * 2018-06-29 2018-12-18 南京行者易智能交通科技有限公司 一种图像识别检测开关门的方法及装置
CN109635764A (zh) * 2018-12-19 2019-04-16 荆楚理工学院 一种基于多特征线性时序编码的人体行为识别方法及系统
CN109740419A (zh) * 2018-11-22 2019-05-10 东南大学 一种基于Attention-LSTM网络的视频行为识别方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106845351A (zh) * 2016-05-13 2017-06-13 苏州大学 一种用于视频的基于双向长短时记忆单元的行为识别方法
CN108252591A (zh) * 2018-01-22 2018-07-06 哈尔滨拓博科技有限公司 一种基于视觉识别与处理的防碰撞车门系统
CN108674342A (zh) * 2018-05-25 2018-10-19 上海与德科技有限公司 车辆开门的安全提示方法、装置、存储介质及汽车
CN108960059A (zh) * 2018-06-01 2018-12-07 众安信息技术服务有限公司 一种视频动作识别方法及装置
CN108985443B (zh) * 2018-07-04 2022-03-29 北京旷视科技有限公司 动作识别方法及其神经网络生成方法、装置和电子设备
CN109190488B (zh) * 2018-08-03 2022-02-18 广州大学 基于深度学习YOLOv3算法的前车车门打开检测方法及装置
CN109740670B (zh) * 2019-01-02 2022-01-11 京东方科技集团股份有限公司 视频分类的方法及装置
CN109871828B (zh) * 2019-03-15 2022-12-02 京东方科技集团股份有限公司 视频识别方法和识别装置、存储介质

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170372153A1 (en) * 2014-01-09 2017-12-28 Irvine Sensors Corp. Methods and Devices for Cognitive-based Image Data Analytics in Real Time
CN105138953A (zh) * 2015-07-09 2015-12-09 浙江大学 一种基于连续的多实例学习的视频中动作识别的方法
CN106056628A (zh) * 2016-05-30 2016-10-26 中国科学院计算技术研究所 基于深度卷积神经网络特征融合的目标跟踪方法及系统
US9977970B2 (en) * 2016-06-29 2018-05-22 Conduent Business Services, Llc Method and system for detecting the occurrence of an interaction event via trajectory-based analysis
CN108288015A (zh) * 2017-01-10 2018-07-17 武汉大学 基于时间尺度不变性的视频中人体动作识别方法及系统
CN107045722A (zh) * 2017-03-27 2017-08-15 西安电子科技大学 融合静态信息与动态信息的视频序列分割方法
CN108647649A (zh) * 2018-05-14 2018-10-12 中国科学技术大学 一种视频中异常行为的检测方法
CN108764084A (zh) * 2018-05-17 2018-11-06 西安电子科技大学 基于空域分类网络和时域分类网络融合的视频分类方法
CN108875611A (zh) * 2018-06-05 2018-11-23 北京字节跳动网络技术有限公司 视频动作识别方法和装置
CN109033993A (zh) * 2018-06-29 2018-12-18 南京行者易智能交通科技有限公司 一种图像识别检测开关门的方法及装置
CN109740419A (zh) * 2018-11-22 2019-05-10 东南大学 一种基于Attention-LSTM网络的视频行为识别方法
CN109635764A (zh) * 2018-12-19 2019-04-16 荆楚理工学院 一种基于多特征线性时序编码的人体行为识别方法及系统

Also Published As

Publication number Publication date
CN110287816A (zh) 2019-09-27

Similar Documents

Publication Publication Date Title
CN110287816B (zh) 车门动作检测方法、装置和计算机可读存储介质
CN110287810B (zh) 车门动作检测方法、装置和计算机可读存储介质
CN110189394B (zh) 口型生成方法、装置及电子设备
CN110399847B (zh) 关键帧提取方法、装置及电子设备
CN110674349B (zh) 视频poi识别方法、装置及电子设备
CN111310815A (zh) 图像识别方法、装置、电子设备及存储介质
CN112232311B (zh) 人脸跟踪方法、装置及电子设备
CN111222509A (zh) 目标检测方法、装置及电子设备
CN110555861B (zh) 光流计算方法、装置及电子设备
CN110069997B (zh) 场景分类方法、装置及电子设备
CN112990176B (zh) 书写质量评价方法、装置和电子设备
CN113140012B (zh) 图像处理方法、装置、介质及电子设备
CN111783632B (zh) 针对视频流的人脸检测方法、装置、电子设备及存储介质
CN110619602B (zh) 一种图像生成方法、装置、电子设备及存储介质
CN110060324B (zh) 图像渲染方法、装置及电子设备
CN111832354A (zh) 目标对象年龄识别方法、装置及电子设备
WO2023065895A1 (zh) 文本识别方法、装置、可读介质及电子设备
CN113222050B (zh) 图像分类方法、装置、可读介质及电子设备
CN111681267B (zh) 基于图像识别的轨道防侵入方法
CN110942033B (zh) 用于推送信息的方法、装置、电子设备和计算机介质
CN112560700A (zh) 一种基于动作分析的信息关联方法、装置及电子设备
CN111738311A (zh) 面向多任务的特征提取方法、装置及电子设备
CN111325093A (zh) 视频分割方法、装置及电子设备
CN110263721A (zh) 车灯设置方法及设备
CN113408488B (zh) 基于胶囊网络的火焰目标识别方法、设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: 100041 B-0035, 2 floor, 3 building, 30 Shixing street, Shijingshan District, Beijing.

Patentee after: Douyin Vision Co.,Ltd.

Address before: 100041 B-0035, 2 floor, 3 building, 30 Shixing street, Shijingshan District, Beijing.

Patentee before: Tiktok vision (Beijing) Co.,Ltd.

Address after: 100041 B-0035, 2 floor, 3 building, 30 Shixing street, Shijingshan District, Beijing.

Patentee after: Tiktok vision (Beijing) Co.,Ltd.

Address before: 100041 B-0035, 2 floor, 3 building, 30 Shixing street, Shijingshan District, Beijing.

Patentee before: BEIJING BYTEDANCE NETWORK TECHNOLOGY Co.,Ltd.