CN111274937A - 摔倒检测方法、装置、电子设备及计算机可读存储介质 - Google Patents

摔倒检测方法、装置、电子设备及计算机可读存储介质 Download PDF

Info

Publication number
CN111274937A
CN111274937A CN202010059621.2A CN202010059621A CN111274937A CN 111274937 A CN111274937 A CN 111274937A CN 202010059621 A CN202010059621 A CN 202010059621A CN 111274937 A CN111274937 A CN 111274937A
Authority
CN
China
Prior art keywords
skeleton
human body
fall detection
information
video data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010059621.2A
Other languages
English (en)
Other versions
CN111274937B (zh
Inventor
肖婷
周英能
张啸宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Mobile Communications Group Co Ltd
China Mobile Hangzhou Information Technology Co Ltd
Original Assignee
China Mobile Communications Group Co Ltd
China Mobile Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Mobile Communications Group Co Ltd, China Mobile Hangzhou Information Technology Co Ltd filed Critical China Mobile Communications Group Co Ltd
Priority to CN202010059621.2A priority Critical patent/CN111274937B/zh
Publication of CN111274937A publication Critical patent/CN111274937A/zh
Application granted granted Critical
Publication of CN111274937B publication Critical patent/CN111274937B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G06V40/23—Recognition of whole body movements, e.g. for sport training
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting

Abstract

本发明实施例涉及计算机视觉技术领域，公开了一种摔倒检测方法。本发明识别视频数据内的人体骨架，得到人体骨架信息，分解所述人体骨架信息，得到骨架特征序列，将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到所述视频数据内人体的摔倒检测结果。本发明还提出一种摔倒检测装置、电子设备以及计算机可读存储介质。本发明有效的结合三维的视频数据，解决摔倒检测准确率不高的问题。

Description

摔倒检测方法、装置、电子设备及计算机可读存储介质
技术领域
本发明实施例涉及计算机视觉技术领域，特别涉及一种摔倒检测的方法、电子设备、装置及计算机可读存储介质。
背景技术
现有的摔倒检测根据硬件划分主要有三种方法，分别是穿戴式设备的摔倒检测、深度摄像头的摔倒检测和普通摄像头的摔倒检测。其中穿戴式设备的摔倒检测必须时刻携带穿戴式设备，给使用者带来很大不便，实际应用价值不大；基于深度摄像头的摔倒检测由于深度摄像头成本昂贵，实际推广难度大，而综合来说，普通摄像头的摔倒检测成本便宜、使用方便，应用价值和前景更大，但同样的，关于普通摄像头的摔倒检测对摔倒检测的技术方案要求较高。
目前关于摔倒检测的技术方案主要有三种，分别是基于RGB信息和光流信息的方法、基于人体边框信息的方法和基于人体骨架信息的方法，三种检测技术方案都可达到摔倒检测的目的，其中以基于人体骨架信息的方法效果最好，但发明人发现，目前的基于人体骨架信息的摔倒检测方法未结合三维数据对摔倒检测的影响，且训练摔倒检测模型时数据收集不完善，导致摔倒检测准确率不高。
发明内容
本发明实施方式的目的在于提供一种摔倒检测方法、电子设备、装置及计算机可读存储介质，有效的结合三维的视频数据，解决摔倒检测准确率不高的问题。
为解决上述技术问题，本发明的实施方式提供了一种摔倒检测方法，所述方法包括：
识别视频数据内的人体骨架，得到人体骨架信息；
分解所述人体骨架信息，得到骨架特征序列；
将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到所述视频数据内人体的摔倒检测结果。
为了解决上述问题，本发明还提供一种摔倒检测装置，所述装置包括：
人体骨架识别模块，用于识别视频数据内的人体骨架，得到人体骨架信息；
骨架特征序列计算模块，用于分解所述人体骨架信息，得到骨架特征序列；
摔倒检测模块，用于将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到所述视频数据内人体的摔倒检测结果。
为了解决上述问题，本发明还提供一种电子设备，所述电子设备包括：
存储器，存储至少一个指令；及
处理器，执行所述存储器中存储的指令以实现上述所述的摔倒检测方法。
为了解决上述问题，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个指令，所述至少一个指令被电子设备中的处理器执行以实现上述所述的摔倒检测方法。本发明实施例通过识别视频数据内的人体骨架得到人体骨架信息，并将人体骨架信息进行分解得到骨架特征序列，由于分解过程考虑三维视频数据对摔倒检测的影响，进而才得到骨架特征序列，故提高了摔倒检测准确率，同时利用预先训练完成的摔倒检测模型对骨架特征序列进行摔倒检测，因为预先训练完成的摔倒检测模型具有更好的鲁棒性，进一步提高了摔倒检测的准确率。
优选地，所述分解所述人体骨架信息，得到骨架特征序列，包括：
将所述人体骨架信息拆分为人体整体位置信息及人体局部骨架信息；
汇总所述人体整体位置信息及所述人体局部骨架信息，得到所述骨架特征序列。
进一步地，本发明实施例将二维的人体骨架信息分解成人体整体位置信息和人体局部骨架信息，得到与三维现实空间更为接近的数据，有助于提高摔倒检测的准确率。
优选地，所述将所述人体骨架信息拆分为人体整体位置信息及人体局部骨架信息，包括：
遍历出所述人体骨架信息中的位置坐标最大值及位置坐标最小值；
根据所述位置坐标最大值及所述位置坐标最小值，计算得到所述人体整体位置信息；
求解所述人体骨架信息中每个骨骼点位置坐标与所述人体整体位置信息的差值，汇集每个骨骼点的差值得到所述人体局部骨架信息。
优选地，所述将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到所述视频数据内人体的摔倒检测结果之前，该方法还包括：
获取包括人体摔倒行为的视频集，识别所述视频集的骨架特征得到训练骨架特征集；
构建包括自编码神经网络的摔倒检测模型，并确定所述摔倒检测模型的损失函数；
将所述训练骨架特征集输入至所述摔倒检测模型进行训练，并通过所述损失函数计算得到损失值；
在所述损失值不小于预求解的损失阈值时，调整所述摔倒检测模型的参数并继续训练所述摔倒检测模型；
在所述损失值小于所述损失阈值时，得到所述训练完成的摔倒检测模型。
进一步地，本发明只使用包括人体摔倒行为的视频集训练摔倒检测模型，不包括非摔倒行为的视频集，进而简化了摔倒检测模型的训练；另外本发明实施例的摔倒检测模型是基于自编码神经网络构建的，由于自编码神经网络并不复杂，进一步简化了模型训练阶段。
优选地，所述通过所述损失函数计算得到损失值，包括：
采用如下损失函数计算方法计算得到损失值：
Figure BDA0002374008860000031
其中，loss表示所述损失值，N表示所述训练骨架特征集的数量，T表示所述训练骨架特征集内每组训练骨架特征的骨架特征序列的数量，ft'表示所述训练骨架特征集，
Figure BDA0002374008860000032
表示所述摔倒检测模型训练所述训练骨架特征集得到的训练值集。
优选地，所述损失阈值的预求解规则包括：
汇集所述训练骨架特征集内每组训练骨架特征被所述摔倒检测模型训练第一次时所得到的损失值，得到损失值集；
求解所述损失值集在高斯分布下的均值和标准差；
根据所述均值和所述标准差，得到所述损失阈值。
优选地，所述识别视频数据内的人体骨架，得到人体骨架信息，包括：
对所述视频数据进行取帧处理，得到一组或多组分帧视频数据；
根据预先构建的人体骨架识别算法，识别所述一组或多组分帧视频数据的人体骨架，得到一组或多组人体骨架信息。
附图说明
一个或多个实施例通过与之对应的附图中的图片进行示例性说明，这些示例性说明并不构成对实施例的限定，附图中具有相同参考数字标号的元件表示为类似的元件，除非有特别申明，附图中的图不构成比例限制。
图1为本发明第一实施例提供的摔倒检测方法流程示意图；
图2为本发明第二实施例提供的摔倒检测方法中识别人体骨架的详细实施流程示意图；
图3为本发明第三实施例提供的摔倒检测方法中S2的详细实施流程示意图；
图4为本发明第四实施例提供的摔倒检测方法中训练摔倒检测模型的详细实施流程示意图；
图5为本发明第四实施例提供的摔倒检测方法中摔倒检测模型的架构图；
图6为本发明第五实施例提供的摔倒检测装置的模块示意图；
图7为本发明第六实施例提供的实现摔倒检测方法的电子设备的内部结构示意图；
本发明目的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明的各实施方式进行详细的阐述。然而，本领域的普通技术人员可以理解，在本发明各实施方式中，为了使读者更好地理解本申请而提出了许多技术细节。但是，即使没有这些技术细节和基于以下各实施方式的种种变化和修改，也可以实现本申请所要求保护的技术方案。
本发明的实施方式涉及一种摔倒检测方法，本实施方式的核心在于使用预先训练完成的摔倒检测模型对预处理得到的骨架特征序列进行摔倒检测，从而有效的结合三维的视频数据，解决摔倒检测准确率不高的问题。下面对本实施方式的摔倒检测实现细节进行具体的说明，以下内容仅为方便理解提供的实现细节，并非实施本方案的必须。
参阅图1所示，图1是本发明第一实施方式提供的摔倒检测方法的流程图。根据不同的需求，该流程图中步骤的顺序可以改变，某些步骤可以省略。
详细地，所述第一实施方式提供的摔倒检测方法包括：
S1、获取包括人体的视频数据，识别所述包括人体的视频数据内的人体骨架，得到人体骨架信息。
本发明实施例中，获取包括人体的视频数据的方式多种多样，如公安部门利用搭建在某十字交叉路口的监控设备，实时关注该十字交叉路口是否有行人摔倒，则本发明实施例可以通过所述监控设备获取包括人体的视频数据。
详细地，所述识别所述包括人体的视频数据的人体骨架，得到人体骨架信息，可参阅图2所述第二实施例的详细实施流程示意图所示，包括：
S11、对所述视频数据进行取帧处理，得到一组或多组分帧视频数据；
S12、根据预先构建的人体骨架识别算法，识别所述一组或多组分帧视频数据的人体骨架，得到一组或多组人体骨架信息。
由于每个视频数据的分辨率、视频大小等都不尽相同，进行取帧处理的目的是为了方便得到具有代表性的分视频，如公安部门获取到某十字交叉路口是否有行人摔倒的视频数据，总共30秒长度，通过每三秒提取一次关键帧的取帧处理得到共10组分帧视频数据。
进一步地，所述人体骨架识别算法可采用当前开源的AlphaPose算法，如通过所述AlphaPose算法分别识别视频数据的10组分帧视频数据中的人体骨架，得到10组人体骨架信息。
本发明实施例中，所述人体骨架信息的表现形式为：
Figure BDA0002374008860000051
其中，t代表分帧视频数据的编号，ft表示第t组分帧视频数据的人体骨架信息，如第一组分帧视频数据、第二组分帧视频数据，k表示第t组分帧视频数据内的骨骼点个数，i表示第t组分帧视频数据内的骨骼点编号，
Figure BDA0002374008860000052
表示第t组分帧视频数据内第i个骨骼点的位置坐标。
如识别得到10组人体骨架信息可以分别表示为f1、f2、…、f10。
S2、分解所述人体骨架信息，得到骨架特征序列。
详细地，所述分解所述人体骨架信息得到骨架特征序列，可参阅图3所示的第三实施例的详细实施流程示意图所示，包括：
S21、将所述人体骨架信息拆分为人体整体位置信息及人体局部骨架信息；
S22、汇总所述人体整体位置信息及所述人体局部骨架信息得到所述骨架特征序列。
进一步地，S21中所述将所述人体骨架信息拆分为人体整体位置信息及人体局部骨架信息，包括：遍历出所述人体骨架信息中的位置坐标最大值及位置坐标最小值，根据所述位置坐标最大值及所述位置坐标最小值，计算得到所述人体整体位置信息，求解所述人体骨架信息中每个骨骼点位置坐标与所述人体整体位置信息的差值，得到所述人体局部骨架信息。
如S1所述得到人体骨架信息为：
Figure BDA0002374008860000053
通过分解得到人体骨架信息由人体整体位置信息及人体局部骨架信息组成，因此得到三者的关系为：
Figure BDA0002374008860000054
其中，ft g表示第t组分帧视频数据的人体整体位置信息，ft l,i表示第t组分帧视频数据的人体局部骨架信息第i个骨骼点的局部骨架信息。
进一步地，本发明实施例中，所述人体整体位置信息为：
ft g＝(xg,yg,w,h)
其中：
Figure BDA0002374008860000061
Figure BDA0002374008860000062
w＝max(xt)-min(xt)
h＝max(yt)-min(yt)
其中，max(xt)表示第t组分帧视频数据内位置坐标最大的x值，min(xt)表示第t组分帧视频数据内位置坐标最小的x值，max(yt)表示第t组分帧视频数据内位置坐标最大的y值，min(yt)表示第t组分帧视频数据内位置坐标最小的y值。
所述人体局部骨架信息为：
Figure BDA0002374008860000063
其中，ft l,i表示第t组分帧视频数据内第i个骨骼点的局部骨架信息，如上述10组关于十字交叉路口监控视频数据的人体骨架信息，则对应10组人体整体位置信息，10组人体局部骨架信息，且每组人体局部骨架信息都包括k个骨骼点对应的局部骨架信息。
进一步地，所述骨架特征序列ft'如下所示：
Figure BDA0002374008860000064
S3、将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到对所述视频数据内人体的摔倒检测结果。
详细地，本发明实施例第四实施例中，在S3之前还包括：训练所述摔倒检测模型。进一步地，参阅图4所示，所述训练所述摔倒检测模型包括：
S31、获取包括人体摔倒行为的视频集，识别所述视频集的骨架特征得到训练骨架特征集；
S32、构建包括自编码神经网络的摔倒检测模型，并确定所述摔倒检测模型的损失函数；
S33、将所述训练骨架特征集输入至所述摔倒检测模型进行训练，并通过所述损失函数计算得到损失值；
S34、判断所述损失值是否小于预求解的损失阈值；
S35、若所述损失值不小于所述损失阈值，调整所述摔倒检测模型的参数并继续训练所述摔倒检测模型；
S36、若所述损失值小于所述损失阈值，完成对所述摔倒检测模型的训练得到训练完成的摔倒检测模型。
所述包括人体摔倒行为的视频集是包括多种多样以不同姿态摔倒的视频，如下雨天路滑导致行人跌倒的视频、婴儿学习走步时摔倒的视频等。
进一步地，本发明实施例中所述识别所述视频集的骨架特征得到训练骨架特征集的识别过程与上述S1及S2所述方法相同，即先识别所述视频集内人体的人体骨架得到人体骨架信息集，再根据所述人体骨架信息集得到所述训练骨架特征集。
所述自编码神经网络的摔倒检测模型主要包括二个数据处理步骤，一、利用预构建的神经网络和预构建的编码器对所述训练骨架特征集进行编码操作得到编码骨架特征集；二、根据所述神经网络和预构建的编码器对编码骨架特征集进行解码操作并预测得到摔倒检测结果。
进一步地，所述编码器及所述解码器可采用当前公开的自编码网络(Autoencoder)，所述自编码网络是一种无监督的神经网络，由编码层和解码层组成，其中编码层对所述训练骨架特征集进行编码操作得到所述训练骨架特征集的另一种向量表示，即为所述编码骨架特征集；所述解码层对所述预测骨架特征集进行所述解码操作得到摔倒检测结果。
所述预构建的神经网络可使用长短期记忆模型(Long Short-Term Memory，简称LSTM)构建得到，结合所述自编码网络和所述长短期记忆模型得到所述摔倒检测模型，整个模型的网络结构图请参阅图5所示的摔倒检测模型的架构图，图5中ft'表示编码前的训练骨架特征集，
Figure BDA0002374008860000071
表示解码后的训练骨架特征集。
详细地，所述通过损失函数可以包括：
Figure BDA0002374008860000072
其中，loss表示所述损失值，N表示所述训练骨架特征集的数量，T表示每组训练骨架特征的骨架特征序列的数量，ft'表示编码前的训练骨架特征集，
Figure BDA0002374008860000073
表示解码后的训练骨架特征集。
详细地，本发明实施例中，所述损失阈值的预求解规则包括：汇集所述训练骨架特征集内每组训练骨架特征被所述摔倒检测模型训练第一次时所得到的损失值得到损失值集，求解所述损失值集在高斯分布下的均值和标准差，根据所述均值和所述标准差求得所述预设的损失阈值。
如求得均值为μ、标准差为σ，则可以设定所述预设的损失阀值λ＝μ+3σ。
当训练完成得到摔倒检测模型时，将S2中得到的骨架特征序列ft'输入至所述训练完成的摔倒检测模型中进行检测，即得到视频中是否有人摔倒的检查结果。如公安部门将关于十字交叉路口监控视频数据的骨架特征序列输入至所述训练完成的摔倒检测模型中，得到在该十字交叉路口监控视频数据中有位老人摔倒在马路中间的检测结果。
如图6所示，是本发明第五实施例提供的摔倒检测装置的功能模块图。
本发明所述摔倒检测装置100可以安装于电子设备中。根据实现的功能，所述摔倒检测装置可以包括人体骨架识别模块101、骨架特征序列计算模块102、摔倒检测模块103。本发所述模块也可以称之为单元，是指一种能够被电子设备处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。
在本实施例中，关于各模块/单元的功能如下：
所述人体骨架识别模块101，用于识别视频数据内的人体骨架，得到人体骨架信息。
所述骨架特征序列计算模块102，用于分解所述人体骨架信息，得到骨架特征序列。
所述摔倒检测模块103，用于将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到所述视频数据内人体的摔倒检测结果。
本申请所提供的摔倒检测装置100中的模块能够在使用时实现与上述的摔倒检测方法相同的步骤流程，即使用预先训练完成的摔倒检测模型对预处理得到的骨架特征序列进行摔倒检测，其在具体运行时可以取得上述的方法实施例一样的技术效果，即有效的结合三维的视频数据，解决摔倒检测准确率不高的问题。
如图7所示，是本发明实现摔倒检测方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线，还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序，如摔倒检测程序12。
其中，所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如：SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元，例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备，例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card，SMC)、安全数字(SecureDigital，SD)卡、闪存卡(Flash Card)等。进一步地，所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据，例如摔倒检测程序的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器(Central Processing unit，CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit)，利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器11内的程序或者模块(例如执行摔倒检测程序等)，以及调用存储在所述存储器11内的数据，以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect，简称PCI)总线或扩展工业标准结构(extended industry standard architecture，简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图7仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图7示出的结构并不构成对所述电子设备1的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
例如，尽管未示出，所述电子设备1还可以包括给各个部件供电的电源(比如电池)，优选地，电源可以通过电源管理装置与所述至少一个处理器10逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。
进一步地，所述电子设备1还可以包括网络接口，可选地，所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等)，通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地，该电子设备1还可以包括用户接口，用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard))，可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的请求摔倒检测程序12是多个指令的组合，在所述处理器10中运行时，可以实现：
步骤一、获取包括人体的视频数据，识别所述包括人体的视频数据内的人体骨架，得到人体骨架信息。
本发明实施例中，获取包括人体的视频数据的方式多种多样，如公安部门利用搭建在某十字交叉路口的监控设备，实时关注该十字交叉路口是否有行人摔倒，则本发明实施例可以通过所述监控设备获取包括人体的视频数据。
详细地，所述识别所述包括人体的视频数据的人体骨架，得到人体骨架信息，包括：
对所述视频数据进行取帧处理，得到一组或多组分帧视频数据；
根据预先构建的人体骨架识别算法，识别所述一组或多组分帧视频数据的人体骨架，得到一组或多组人体骨架信息。
由于每个视频数据的分辨率、视频大小等都不尽相同，进行取帧处理的目的是为了方便得到具有代表性的分视频，如公安部门获取到某十字交叉路口是否有行人摔倒的视频数据，总共30秒长度，通过每三秒提取一次关键帧的取帧处理得到共10组分帧视频数据。
进一步地，所述人体骨架识别算法可采用当前开源的AlphaPose算法，如通过所述AlphaPose算法分别识别视频数据的10组分帧视频数据中的人体骨架，得到10组人体骨架信息。
本发明实施例中，所述人体骨架信息的表现形式为：
Figure BDA0002374008860000101
其中，t代表分帧视频数据的编号，ft表示第t组分帧视频数据的人体骨架信息，如第一组分帧视频数据、第二组分帧视频数据，k表示第t组分帧视频数据内的骨骼点个数，i表示第t组分帧视频数据内的骨骼点编号，
Figure BDA0002374008860000102
表示第t组分帧视频数据内第i个骨骼点的位置坐标。
如识别得到10组人体骨架信息可以分别表示为f1、f2、…、f10。
步骤二、分解所述人体骨架信息，得到骨架特征序列。
详细地，所述分解所述人体骨架信息得到骨架特征序列，包括：
将所述人体骨架信息拆分为人体整体位置信息及人体局部骨架信息；
汇总所述人体整体位置信息及所述人体局部骨架信息得到所述骨架特征序列。
进一步地，所述将所述人体骨架信息拆分为人体整体位置信息及人体局部骨架信息，包括：遍历出所述人体骨架信息中的位置坐标最大值及位置坐标最小值，根据所述位置坐标最大值及所述位置坐标最小值，计算得到所述人体整体位置信息，求解所述人体骨架信息中每个骨骼点位置坐标与所述人体整体位置信息的差值，得到所述人体局部骨架信息。
如步骤一所述得到人体骨架信息为：
Figure BDA0002374008860000111
通过分解得到人体骨架信息由人体整体位置信息及人体局部骨架信息组成，因此得到三者的关系为：
ft＝ft g+ft l,i
其中，ft g表示第t组分帧视频数据的人体整体位置信息，ft l,i表示第t组分帧视频数据的人体局部骨架信息第i个骨骼点的局部骨架信息。
进一步地，本发明实施例中，所述人体整体位置信息为：
ft g＝(xg,yg,w,h)
其中：
Figure BDA0002374008860000112
Figure BDA0002374008860000113
w＝max(xt)-min(xt)
h＝max(yt)-min(yt)
其中，max(xt)表示第t组分帧视频数据内位置坐标最大的x值，min(xt)表示第t组分帧视频数据内位置坐标最小的x值，max(yt)表示第t组分帧视频数据内位置坐标最大的y值，min(yt)表示第t组分帧视频数据内位置坐标最小的y值。
所述人体局部骨架信息为：
Figure BDA0002374008860000114
其中，ft l,i表示第t组分帧视频数据内第i个骨骼点的局部骨架信息，如上述10组关于十字交叉路口监控视频数据的人体骨架信息，则对应10组人体整体位置信息，10组人体局部骨架信息，且每组人体局部骨架信息都包括k个骨骼点对应的局部骨架信息。
进一步地，所述骨架特征序列ft'如下所示：
Figure BDA0002374008860000121
步骤三、将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到对所述视频数据内人体的摔倒检测结果。
详细地，本发明实施例在步骤三之前还包括：训练所述摔倒检测模型。进一步地，所述训练所述摔倒检测模型包括：
获取包括人体摔倒行为的视频集，识别所述视频集的骨架特征得到训练骨架特征集；
构建包括自编码神经网络的摔倒检测模型，并确定所述摔倒检测模型的损失函数；
将所述训练骨架特征集输入至所述摔倒检测模型进行训练，并通过所述损失函数计算得到损失值；
判断所述损失值是否小于预求解的损失阈值；
若所述损失值不小于所述损失阈值，调整所述摔倒检测模型的参数并继续训练所述摔倒检测模型；
若所述损失值小于所述损失阈值，完成对所述摔倒检测模型的训练得到训练完成的摔倒检测模型。
所述包括人体摔倒行为的视频集是包括多种多样以不同姿态摔倒的视频，如下雨天路滑导致行人跌倒的视频、婴儿学习走步时摔倒的视频等。
进一步地，本发明实施例中所述识别所述视频集的骨架特征得到训练骨架特征集的识别过程与上述步骤一及步骤二所述方法相同，即先识别所述视频集内人体的人体骨架得到人体骨架信息集，再根据所述人体骨架信息集得到所述训练骨架特征集。
所述自编码神经网络的摔倒检测模型主要包括二个数据处理步骤，一、利用预构建的神经网络和预构建的编码器对所述训练骨架特征集进行编码操作得到编码骨架特征集；二、根据所述神经网络和预构建的编码器对编码骨架特征集进行解码操作并预测得到摔倒检测结果。
进一步地，所述编码器及所述解码器可采用当前公开的自编码网络(Autoencoder)，所述自编码网络是一种无监督的神经网络，由编码层和解码层组成，其中编码层对所述训练骨架特征集进行编码操作得到所述训练骨架特征集的另一种向量表示，即为所述编码骨架特征集；所述解码层对所述预测骨架特征集进行所述解码操作得到摔倒检测结果。
所述预构建的神经网络可使用长短期记忆模型(Long Short-Term Memory，简称LSTM)构建得到，结合所述自编码网络和所述长短期记忆模型得到所述摔倒检测模型，整个模型的网络结构图请参阅图5所示摔倒检测模型的架构图，图5中ft'表示编码前的训练骨架特征集，
Figure BDA0002374008860000131
表示解码后的训练骨架特征集。
详细地，所述通过损失函数可以包括：
Figure BDA0002374008860000132
其中，loss表示所述损失值，N表示所述训练骨架特征集的数量，T表示每组训练骨架特征的骨架特征序列的数量，ft'表示编码前的训练骨架特征集，
Figure BDA0002374008860000133
表示解码后的训练骨架特征集。
详细地，本发明实施例中，所述损失阈值的预求解规则包括：汇集所述训练骨架特征集内每组训练骨架特征被所述摔倒检测模型训练第一次时所得到的损失值得到损失值集，求解所述损失值集在高斯分布下的均值和标准差，根据所述均值和所述标准差求得所述预设的损失阈值。
如求得均值为μ、标准差为σ，则可以设定所述预设的损失阀值λ＝μ+3σ。
当训练完成得到摔倒检测模型时，将步骤二中得到的骨架特征序列ft'输入至所述训练完成的摔倒检测模型中进行检测，即得到视频中是否有人摔倒的检查结果。如公安部门将关于十字交叉路口监控视频数据的骨架特征序列输入至所述训练完成的摔倒检测模型中，得到在该十字交叉路口监控视频数据中有位老人摔倒在马路中间的检测结果。
进一步地，所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)。
所述计算机可读存储介质上存储有权限控制程序，所述权限控制程序可被一个或多个处理器执行，以实现如下操作：
识别视频数据内的人体骨架，得到人体骨架信息；
分解所述人体骨架信息，得到骨架特征序列；
将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到所述视频数据内人体的摔倒检测结果。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种摔倒检测方法，其特征在于，所述方法包括：
识别视频数据内的人体骨架，得到人体骨架信息；
分解所述人体骨架信息，得到骨架特征序列；
将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到所述视频数据内人体的摔倒检测结果。
2.根据权利要求1所述的摔倒检测方法，其特征在于，所述分解所述人体骨架信息，得到骨架特征序列，包括：
将所述人体骨架信息拆分为人体整体位置信息及人体局部骨架信息；
汇总所述人体整体位置信息及所述人体局部骨架信息，得到所述骨架特征序列。
3.根据权利要求2所述的摔倒检测方法，其特征在于，所述将所述人体骨架信息拆分为人体整体位置信息及人体局部骨架信息，包括：
遍历出所述人体骨架信息中的位置坐标最大值及位置坐标最小值；
根据所述位置坐标最大值及所述位置坐标最小值，计算得到所述人体整体位置信息；
求解所述人体骨架信息中每个骨骼点位置坐标与所述人体整体位置信息的差值，汇集每个骨骼点的差值得到所述人体局部骨架信息。
4.根据权利要求1所述的摔倒检测方法，其特征在于，所述将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到所述视频数据内人体的摔倒检测结果之前，该方法还包括：
获取包括人体摔倒行为的视频集，识别所述视频集的骨架特征得到训练骨架特征集；
构建包括自编码神经网络的摔倒检测模型，并确定所述摔倒检测模型的损失函数；
将所述训练骨架特征集输入至所述摔倒检测模型进行训练，并通过所述损失函数计算得到损失值；
在所述损失值不小于预求解的损失阈值时，调整所述摔倒检测模型的参数并继续训练所述摔倒检测模型；
在所述损失值小于所述损失阈值时，得到所述训练完成的摔倒检测模型。
5.根据权利要求4所述的摔倒检测方法，其特征在于，所述通过所述损失函数计算得到损失值，包括：
采用如下损失函数计算方法计算得到损失值：
Figure FDA0002374008850000021
其中，loss表示所述损失值，N表示所述训练骨架特征集的数量，T表示所述训练骨架特征集内每组训练骨架特征的骨架特征序列的数量，ft'表示所述训练骨架特征集，
Figure FDA0002374008850000022
表示所述摔倒检测模型训练所述训练骨架特征集得到的训练值集。
6.根据权利要求4所述的摔倒检测方法，其特征在于，所述损失阈值的预求解规则包括：
汇集所述训练骨架特征集内每组训练骨架特征被所述摔倒检测模型训练第一次时所得到的损失值，得到损失值集；
求解所述损失值集在高斯分布下的均值和标准差；
根据所述均值和所述标准差，得到所述损失阈值。
7.根据权利要求1至6中任意一项所述的摔倒检测方法，其特征在于，所述识别视频数据内的人体骨架，得到人体骨架信息，包括：
对所述视频数据进行取帧处理，得到一组或多组分帧视频数据；
根据预先构建的人体骨架识别算法，识别所述一组或多组分帧视频数据的人体骨架，得到一组或多组人体骨架信息。
8.一种摔倒检测装置，其特征在于，所述装置包括：
人体骨架识别模块，用于识别视频数据内的人体骨架，得到人体骨架信息；
骨架特征序列计算模块，用于分解所述人体骨架信息，得到骨架特征序列；
摔倒检测模块，用于将所述骨架特征序列输入至预先训练完成的摔倒检测模型中检测得到所述视频数据内人体的摔倒检测结果。
9.一种电子设备，其特征在于，所述电子设备包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至7中任一所述的摔倒检测方法。
10.一种计算机可读存储介质，存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任一所述的摔倒检测方法。
CN202010059621.2A 2020-01-19 2020-01-19 摔倒检测方法、装置、电子设备及计算机可读存储介质 Active CN111274937B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010059621.2A CN111274937B (zh) 2020-01-19 2020-01-19 摔倒检测方法、装置、电子设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010059621.2A CN111274937B (zh) 2020-01-19 2020-01-19 摔倒检测方法、装置、电子设备及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN111274937A true CN111274937A (zh) 2020-06-12
CN111274937B CN111274937B (zh) 2023-04-28

Family

ID=71003127

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010059621.2A Active CN111274937B (zh) 2020-01-19 2020-01-19 摔倒检测方法、装置、电子设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN111274937B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112001229A (zh) * 2020-07-09 2020-11-27 浙江大华技术股份有限公司 视频行为识别的方法、装置、系统和计算机设备
CN112016435A (zh) * 2020-08-25 2020-12-01 中移（杭州）信息技术有限公司 异常行为的检测方法、装置、电子设备和存储介质
CN112446426A (zh) * 2020-11-23 2021-03-05 中国科学技术大学 摔倒检测方法、装置、电子设备及存储介质
CN114494976A (zh) * 2022-02-17 2022-05-13 平安科技（深圳）有限公司 人体摔倒行为评估方法、装置、计算机设备及存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107633511A (zh) * 2017-09-14 2018-01-26 南通大学 一种基于自编码神经网络的风机视觉检测系统
CN108764107A (zh) * 2018-05-23 2018-11-06 中国科学院自动化研究所 基于人体骨架序列的行为与身份联合识别方法及装置
CN108875708A (zh) * 2018-07-18 2018-11-23 广东工业大学 基于视频的行为分析方法、装置、设备、系统及存储介质
CN109635837A (zh) * 2018-11-10 2019-04-16 天津大学 一种基于商用无线Wi-Fi的场景无忧跌倒检测系统
CN109726672A (zh) * 2018-12-27 2019-05-07 哈尔滨工业大学 一种基于人体骨架序列和卷积神经网络的摔倒检测方法
CN109740018A (zh) * 2019-01-29 2019-05-10 北京字节跳动网络技术有限公司 用于生成视频标签模型的方法和装置
CN109993116A (zh) * 2019-03-29 2019-07-09 上海工程技术大学 一种基于人体骨骼相互学习的行人再识别方法
CN110287825A (zh) * 2019-06-11 2019-09-27 沈阳航空航天大学 一种基于关键骨骼点轨迹分析的摔倒动作检测方法
CN110390303A (zh) * 2019-07-24 2019-10-29 深圳前海达闼云端智能科技有限公司 摔倒报警方法、电子设备及计算机可读存储介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107633511A (zh) * 2017-09-14 2018-01-26 南通大学 一种基于自编码神经网络的风机视觉检测系统
CN108764107A (zh) * 2018-05-23 2018-11-06 中国科学院自动化研究所 基于人体骨架序列的行为与身份联合识别方法及装置
CN108875708A (zh) * 2018-07-18 2018-11-23 广东工业大学 基于视频的行为分析方法、装置、设备、系统及存储介质
CN109635837A (zh) * 2018-11-10 2019-04-16 天津大学 一种基于商用无线Wi-Fi的场景无忧跌倒检测系统
CN109726672A (zh) * 2018-12-27 2019-05-07 哈尔滨工业大学 一种基于人体骨架序列和卷积神经网络的摔倒检测方法
CN109740018A (zh) * 2019-01-29 2019-05-10 北京字节跳动网络技术有限公司 用于生成视频标签模型的方法和装置
CN109993116A (zh) * 2019-03-29 2019-07-09 上海工程技术大学 一种基于人体骨骼相互学习的行人再识别方法
CN110287825A (zh) * 2019-06-11 2019-09-27 沈阳航空航天大学 一种基于关键骨骼点轨迹分析的摔倒动作检测方法
CN110390303A (zh) * 2019-07-24 2019-10-29 深圳前海达闼云端智能科技有限公司 摔倒报警方法、电子设备及计算机可读存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王强;范影乐;武薇;朱亚萍;: "正立和倒立面孔的混合识别" *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112001229A (zh) * 2020-07-09 2020-11-27 浙江大华技术股份有限公司 视频行为识别的方法、装置、系统和计算机设备
CN112001229B (zh) * 2020-07-09 2021-07-20 浙江大华技术股份有限公司 视频行为识别的方法、装置、系统和计算机设备
CN112016435A (zh) * 2020-08-25 2020-12-01 中移（杭州）信息技术有限公司 异常行为的检测方法、装置、电子设备和存储介质
CN112446426A (zh) * 2020-11-23 2021-03-05 中国科学技术大学 摔倒检测方法、装置、电子设备及存储介质
CN114494976A (zh) * 2022-02-17 2022-05-13 平安科技（深圳）有限公司 人体摔倒行为评估方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
CN111274937B (zh) 2023-04-28

Similar Documents

Publication Publication Date Title
CN111274937B (zh) 摔倒检测方法、装置、电子设备及计算机可读存储介质
CN112395978B (zh) 行为检测方法、装置及计算机可读存储介质
CN112446025A (zh) 联邦学习防御方法、装置、电子设备及存储介质
CN111898538B (zh) 证件鉴伪方法、装置、电子设备及存储介质
CN112447189A (zh) 语音事件检测方法、装置、电子设备及计算机存储介质
CN113283446B (zh) 图像中目标物识别方法、装置、电子设备及存储介质
CN112581227A (zh) 产品推荐方法、装置、电子设备及存储介质
CN111639704A (zh) 目标识别方法、装置及计算机可读存储介质
CN112396005A (zh) 生物特征图像识别方法、装置、电子设备及可读存储介质
CN112767320A (zh) 图像检测方法、装置、电子设备及存储介质
CN111695609A (zh) 目标物损伤程度判定方法、装置、电子设备及存储介质
CN112749653A (zh) 行人检测方法、装置、电子设备及存储介质
CN112651342A (zh) 人脸识别方法、装置、电子设备及存储介质
CN114677650B (zh) 地铁乘客行人违法行为智能分析方法及装置
CN111985449A (zh) 救援现场图像的识别方法、装置、设备及计算机介质
CN112347526A (zh) 基于防摄屏的信息安全保护方法、装置、电子设备及介质
CN114022841A (zh) 人员监控识别方法、装置、电子设备及可读存储介质
CN112528903B (zh) 人脸图像获取方法、装置、电子设备及介质
CN113240585A (zh) 基于生成对抗网络的图像处理方法、装置及存储介质
CN112329666A (zh) 人脸识别方法、装置、电子设备及存储介质
CN112115890A (zh) 基于人工智能的酒驾识别方法、装置、设备及介质
CN114049676A (zh) 疲劳状态检测方法、装置、设备及存储介质
CN113343882A (zh) 人群计数方法、装置、电子设备及存储介质
CN113627394A (zh) 人脸提取方法、装置、电子设备及可读存储介质
CN112561893A (zh) 图片匹配方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant