CN109903522A - 一种监控方法、装置、存储介质及家用电器 - Google Patents

一种监控方法、装置、存储介质及家用电器 Download PDF

Info

Publication number
CN109903522A
CN109903522A CN201910069190.5A CN201910069190A CN109903522A CN 109903522 A CN109903522 A CN 109903522A CN 201910069190 A CN201910069190 A CN 201910069190A CN 109903522 A CN109903522 A CN 109903522A
Authority
CN
China
Prior art keywords
target user
image
judging
voice
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910069190.5A
Other languages
English (en)
Inventor
汪进
郑文成
廖湖锋
毛跃辉
李保水
文皓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Gree Electric Appliances Inc of Zhuhai
Original Assignee
Gree Electric Appliances Inc of Zhuhai
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Gree Electric Appliances Inc of Zhuhai filed Critical Gree Electric Appliances Inc of Zhuhai
Priority to CN201910069190.5A priority Critical patent/CN109903522A/zh
Publication of CN109903522A publication Critical patent/CN109903522A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Alarm Systems (AREA)

Abstract

本申请提供一种监控方法、装置、存储介质及家用电器,所述方法包括:采集目标用户的第一图像;利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒;若判断所述目标用户跌倒,则向相关用户发送相应的第一提醒信息。本申请提供的方案能够在目标用户跌倒后及时通知相关用户,避免目标用户发生危险。

Description

一种监控方法、装置、存储介质及家用电器
技术领域
本申请涉及监控技术领域,尤其涉及一种监控方法、装置、存储介质及家用电器。
背景技术
目前,很多老年人独自待在老家,这样的情况会引发独居老年人的安全性问题,伴随着我国老年化不断加剧,独居老人越来越多,老年人独居的相应的问题也会让社会所关注,比如说老人容易摔倒,若老人独自在家摔倒后若未被及时发现可能造成生命危险的问题。
发明内容
本申请的主要目的在于克服上述现有技术的缺陷,提供一种监控方法、装置、存储介质及家用电器,以解决现有技术中老人独自在家摔倒后若未被及时发现可能造成生命危险的问题。
本申请一方面提供了一种监控方法,包括:采集目标用户的第一图像;利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒;若判断所述目标用户跌倒,则向相关用户发送相应的第一提醒信息。
可选地,利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒,包括:通过共享的卷积神经网络提取所述第一图像中的特征信息,以得到第一特征图;通过预设的局部神经网络提取所述第一特征图中的目标检测候选区域,并进行分类得到所述目标用户是否跌倒的第一分类结果。
可选地,利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒,还包括:将所述目标检测候选区域和所述第一分类结果导入ROI池化层进行池化处理,得到预设输出尺寸的第二特征图;将所述第二特征图输入全连接层进行分类,以得到所述目标用户是否跌倒的第二分类结果。
可选地,在采集目标用户的第一图像之前,还包括:判断当前所处环境的环境声音的强度是否达到第一预设阈值;当所述环境声音的强度达到第一预设阈值时,采集目标用户的第一图像。
可选地,还包括:若判断所述目标用户跌倒,则采集所述目标用户的第二图像;根据所述第二图像判断所述目标用户跌倒后是否站起来;根据判断所述目标用户跌倒后是否站起来的判断结果向相关用户发送相应的第二提醒信息。
可选地,所述第一提醒信息和/或第二提醒信息,包括:文字提醒信息和/或语音提醒信息。
可选地,还包括:接收所述目标用户发出的求助语音;向相关用户发送所述求助语音;和/或将所述求助语音转换为相应的文本信息,并将所述相应的文本信息发送给相关用户。
可选地,将所述求助语音转换为相应的求助文本信息,包括:对所述求助语音进行语音识别,以得到相应的文字信息;利用长短记忆神经网络对所述文字信息进行语义解析,以得到所述求助文本信息。
本申请另一方面提供了一种监控装置,包括:采集单元,用于采集目标用户的第一图像;第一判断单元,用于利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒;提醒单元,用于若所述第一判断单元判断所述目标用户跌倒,则向相关用户发送相应的第一提醒信息。
可选地,所述第一判断单元,包括:特征提取子单元,用于通过共享的卷积神经网络提取所述第一图像中的特征信息,以得到第一特征图;第一分类子单元,用于通过预设的局部神经网络提取所述第一特征图中的目标检测候选区域,并进行分类得到所述目标用户是否跌倒的第一分类结果。
可选地,所述第一判断单元,还包括:池化处理子单元,用于将所述目标检测候选区域和所述第一分类结果导入ROI池化层进行池化处理,得到预设输出尺寸的第二特征图;第二分类子单元,用于将所述第二特征图输入全连接层进行分类,以得到所述目标用户是否跌倒的第二分类结果。
可选地,还包括:第二判断单元,用于在所述采集单元采集目标用户的第一图像之前,判断当前所处环境的环境声音的强度是否达到第一预设阈值;所述采集单元,还用于:当所述第二判断单元判断所述环境声音的强度达到第一预设阈值时,采集目标用户的第一图像。
可选地,所述采集单元,还用于:若所述第一判断单元判断所述目标用户跌倒,则采集所述目标用户的第二图像;所述第一判断单元,还用于:根据所述采集单元采集的所述第二图像判断所述目标用户跌倒后是否站起来;所述提醒单元,还用于:根据判断所述目标用户跌倒后是否站起来的判断结果向相关用户发送相应的第二提醒信息。
可选地,所述第一提醒信息和/或所述第二提醒信息,包括:文字提醒信息和/或语音提醒信息。
可选地,还包括:接收单元,用于接收所述目标用户发出的求助语音;转换单元,用于将所述求助语音转换为相应的文本信息;发送单元,用于向相关用户发送所述求助语音,和/或将所述相应的文本信息发送给相关用户。
可选地,所述转换单元,将所述求助语音转换为相应的求助文本信息,包括:对所述求助语音进行语音识别,以得到相应的文字信息;利用长短记忆神经网络对所述文字信息进行语义解析,以得到所述求助文本信息。
本申请又一方面提供了一种存储介质,其上存储有计算机程序,所述程序被处理器执行时实现前述任一所述方法的步骤。
本申请再一方面提供了一种家用电器,包括处理器、存储器以及存储在存储器上可在处理器上运行的计算机程序,所述处理器执行所述程序时实现前述任一所述方法的步骤。
本申请再一方面提供了一种家用电器,包括前述任一所述的监控装置。
根据本申请的技术方案,采集目标用户的第一图像,并利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒,若判断目标用户跌倒,则向相关用户发送相应的第一提醒信息,能够在目标用户跌倒后及时通知相关用户,避免目标用户发生危险。并且,本申请利用改进的Faster R_CNN卷积神经网络实时对目标用户(例如老人)进行检测,并判断分类出目标用户是否跌倒。本申请在判断目标用户跌倒后,利用语音系统接收目标用户的语音求助,把相应的求助信息发送给相关用户和/或向相关用户播放求助信息,以使目标用户得到及时救助。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1是本申请提供的监控方法的一实施例的方法示意图;
图2是根据本申请实施例的根据所述第一图像判断所述目标用户是否跌倒的步骤的一具体实施方式的流程示意图;
图3是根据本申请一种具体实施方式的通过改进的Faster R_CNN算法判断所述目标用户是否跌倒的流程示意图;
图4是本申请提供的监控方法的另一实施例的方法示意图;
图5是本申请提供的监控方法的又一实施例的方法示意图;
图6是本申请提供的监控方法的再一实施例的方法示意图;
图7是本申请提供的监控装置的一实施例的结构示意图;
图8是根据本申请实施例的第一判断单元的一具体实施方式的结构示意图;
图9是本申请提供的监控装置的另一实施例的结构示意图;
图10是本申请提供的监控装置的又一实施例的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
图1是本申请提供的监控方法的一实施例的方法示意图。所述监控方法可以用于家用电器,例如空调等。
如图1所示,根据本申请的一个实施例,所述监控方法至少包括步骤S110、步骤S120和步骤S130。
步骤S110,采集目标用户的第一图像。
具体地,通过摄像设备实时采集目标用户的第一图像。所述摄像设备例如摄像头。所述第一图像包括至少一帧图像,例如,所述第一图像可以包括一帧图像和/或连续的两帧以上图像(例如实时采集的视频)。
步骤S120,利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒。
在一种具体实施方式中,利用Faster R_CNN卷积神经网络对所述第一图像进行识别,以判断所述目标用户是否跌倒。图2是根据本申请实施例的利用Faster R_CNN卷积神经网络对所述第一图像进行识别,以判断所述目标用户是否跌倒的流程示意图。如图2所示,步骤S120具体包括步骤S121和步骤S122。
步骤S121,通过卷积神经网络提取所述第一图像中的特征信息,以得到第一特征图。
步骤S122,通过局部神经网络提取所述第一特征图中的目标检测候选区域,并进行分类得到第一分类结果。
可选地,步骤S120还可以进一步包括步骤S123和步骤S124。
步骤S123,将所述目标检测候选区域和所述第一分类结果导入ROI池化层进行处理,得到预设输出尺寸的第二特征图。
步骤S124,将所述第二特征图通过全连接层进行分类,以得到所述目标用户是否跌倒的第二分类结果。其中,所述第二分类结果即判断所述目标用户是否跌倒的判断结果。
图3是根据本申请一种具体实施方式的通过改进的Faster R_CNN算法判断所述目标用户是否跌倒的流程示意图。参考图3所示,首先,将采集的目标用户的第一图像输入到共享的卷积神经网络CNN(共享卷积层)提取采集的第一图像的特征信息,得到共享的特征图(第一特征图),然后通过局部神经网络(RPN卷积层)提取所述特征图中的目标检测候选区域,先对第一图像中的目标用户进行框的标注,即,用矩形框将目标用户框起来,再通过Proposal层进行锚点标注,再通过RPN分类得到所述目标用户是否跌倒的初步的分类结果(即所述第一分类结果),以及通过RPN边框回归后筛选得到所述目标检测候选区域,可选地,还可以对边框位置信息进行微调,并去掉目标重合的边框并保留与目标重合度最大的边框。接下来,将得到的目标检测候选区域的坐标映射到所述共享的特征图(第一特征图)上,并作为ROI(感兴趣区域)导入ROI(感兴趣区域)池化层得到固定输出尺寸的特征图(第二特征图),再进入全连接层进行softmax分类以得到所述目标用户是否跌倒的最终的分类结果(即所述第二分类结果),以及进行边框回归,以得到获得更高精度的矩形框。其中,所述共享的卷积神经网络具体可以为深度残差神经网络,以防止卷积网络的梯度消失。
步骤S130,若判断所述目标用户跌倒,则向相关用户发送相应的第一提醒信息。
所述相关用户具体可以为预先设定的用户,例如,发送给一个或多个预先设定的用户,和/或发送给小区人员。所述第一提醒信息可以包括文字提醒信息和/或语音提醒信息。例如,若判断老人跌倒,则发送有老人跌倒的信息给预先设定的用户,或发送给小区人员。
图4是本申请提供的监控方法的另一实施例的方法示意图。如图4所示,根据本申请的另一个实施例,所述监控方法还包括步骤S100。
步骤S100,判断当前所处环境的环境声音的强度是否达到第一预设阈值。
具体地,可以通过麦克风采集当前所处环境的环境声音。当所述环境声音的强度达到第一预设阈值时,采集目标用户的第一图像。例如,当环境声音的分贝值达到第一预设阈值时,可能有人跌倒,则采集目标用户的第一图像。即,当环境声音的强度达到第一预设阈值时触发本申请的监控方法的控制逻辑。
图5是本申请提供的监控方法的又一实施例的方法示意图。如图5所示,根据本申请的另一个实施例,所述监控方法还包括步骤S140、步骤S150和步骤S160。
步骤S140,若判断所述目标用户跌倒,则采集所述目标用户的第二图像。
具体地,在判断所述目标用户跌倒后,采集所述目标用户的第二图像。
步骤S150,根据所述第二图像判断所述目标用户跌倒后是否站起来。
根据所述第二图像判断所述目标用户跌倒后是否站起来具体可以包括:通过共享的卷积神经网络提取所述第二图像中的特征信息,以得到第三特征图。通过局部神经网络提取所述第三特征图中的目标检测候选区域,并进行分类得到所述目标用户跌倒后是否站起来的第三分类结果。将所述目标检测候选区域和所述第三分类结果导入ROI池化层进行处理,得到预设输出尺寸的第四特征图。将所述第四特征图通过全连接层进行分类,以得到所述目标用户是否跌倒的第四分类结果。其中,所述第四分类结果即判断所述目标用户跌倒后是否站起来的判断结果。
上述步骤的具体实施方式与前述根据所述第一图像判断所述目标用户是否跌倒的步骤的具体实施方式基本类似,因此可以参考前述步骤S120中的具体描述,此处不加赘述。
步骤S160,根据判断所述目标用户跌倒后是否站起来的判断结果向相关用户发送相应的第二提醒信息。
所述相关用户具体可以为预先设定的用户,例如,发送给一个或多个预先设定的用户,和/或发送给小区人员。所述第二提醒信息可以包括文字提醒信息和/或语音提醒信息。例如,若判断老人跌倒,则发送有老人跌倒的信息给预先设定的用户,或发送给小区人员;若判断老人跌倒后站起来,则进一步发送老人跌倒后已经站起来的信息给预先设定的用户,或发送给小区人员。
图6是本申请提供的监控方法的再一实施例的方法示意图。如图6所示,根据本申请的另一个实施例,所述监控方法还包括步骤S170,以及还包括步骤S180和/或步骤S190。
步骤S170,接收所述目标用户发出的求助语音。
步骤S180,向相关用户发送所述求助语音。
步骤S190,将所述求助语音转换为相应的文本信息,并将所述相应的文本信息发送给相关用户。
具体地,当目标用户(例如老人)跌倒时可以利用通过发出语音进行救助,接收到目标用户发出的求助语音后,向相关用户发送所述求助语音,例如发送至相关用户的所使用的用户设备上之后,该用户设备播报所述求助语音,和/或将所述求助语音转换为相应的文本信息,并将所述相应的文本信息发送给相关用户。其中,将所述求助语音转换为相应的求助文本信息具体可以包括对所述求助语音进行语音识别,以得到相应的文字信息;利用长短记忆神经网络LSTM对所述文字信息进行语义解析,以得到所述求助文本信息。利用长短记忆神经网络LSTM要目的是解决文本长距离的依赖问题,通过对上下文进行语义分析得到文本语义,根据所述文本语义生成相应的求助文本信息,将所述文本信息发送给相关用户。可选地,得到文本语义后还可以进行文本分类,根据所述文本分类的结果将所述文本信息发送给相关用户。所述文本分类即根据所述文本语义分类出所述文本信息应该发送的相关用户,例如,分类出发送给预先设定的用户还是发送给小区人员。
图7是本申请提供的监控装置的一实施例的结构示意图。如图7所示,所述监控装置100包括:采集单元110、第一判断单元120和提醒单元130。
采集单元110用于采集目标用户的第一图像;第一判断单元120用于利用卷积神经网络算法对所述采集单元110采集的所述第一图像进行识别,以判断所述目标用户是否跌倒;提醒单元130用于若所述第一判断单元120判断所述目标用户跌倒,则向相关用户发送相应的第一提醒信息。
采集单元110采集目标用户的第一图像。具体地,采集单元110通过摄像设备实时采集目标用户的第一图像。所述摄像设备例如摄像头。所述第一图像包括至少一帧图像,例如,所述第一图像可以包括一帧图像和/或连续的两帧以上图像(例如实时采集的视频)。
第一判断单元120利用卷积神经网络算法对所述采集单元110采集的所述第一图像进行识别,以判断所述目标用户是否跌倒。在一种具体实施方式中,第一判断单元120利用Faster R_CNN卷积神经网络对所述第一图像进行识别,以判断所述目标用户是否跌倒。
图8是根据本申请实施例的第一判断单元的一具体实施方式的结构示意图。如图8所示,第一判断单元120包括特征提取子单元121、第一分类子单元122。
特征提取子单元121用于通过共享的卷积神经网络提取所述第一图像中的特征信息,以得到第一特征图;第一分类子单元122用于通过预设的局部神经网络提取所述第一特征图中的目标检测候选区域,并进行分类得到所述目标用户是否跌倒的第一分类结果。
可选地,如图8所示,所述第一判断单元120还可以进一步包括池化处理子单元123和第二分类子单元124。
池化处理子单元123用于将所述目标检测候选区域和所述第一分类结果导入ROI池化层进行池化处理,得到预设输出尺寸的第二特征图;第二分类子单元124用于将所述第二特征图输入全连接层进行分类,以得到所述目标用户是否跌倒的第二分类结果。
参考图3所示,首先,将采集的目标用户的第一图像输入到共享的卷积神经网络CNN(共享卷积层)提取采集的第一图像的特征信息,得到共享的特征图(第一特征图),然后通过局部神经网络(RPN卷积层)提取所述特征图中的目标检测候选区域,先对第一图像中的目标用户进行框的标注,即,用矩形框将目标用户框起来,再通过Proposal层进行锚点标注,再通过RPN分类得到所述目标用户是否跌倒的初步的分类结果(即所述第一分类结果),以及通过RPN边框回归后筛选得到所述目标检测候选区域,可选地,还可以对边框位置信息进行微调,并去掉目标重合的边框并保留与目标重合度最大的边框。接下来,将得到的目标检测候选区域的坐标映射到所述共享的特征图(第一特征图)上,并作为ROI(感兴趣区域)导入ROI(感兴趣区域)池化层得到固定输出尺寸的特征图(第二特征图),再进入全连接层进行softmax分类以得到所述目标用户是否跌倒的最终的分类结果(即所述第二分类结果),以及进行边框回归,以得到获得更高精度的矩形框。其中,所述共享的卷积神经网络具体可以为深度残差神经网络,以防止卷积网络的梯度消失。
若第二判断单元120判断所述目标用户跌倒,则提醒单元130向相关用户发送相应的第一提醒信息。所述相关用户具体可以为预先设定的用户,例如,发送给一个或多个预先设定的用户,和/或发送给小区人员。所述第一提醒信息可以包括文字提醒信息和/或语音提醒信息。例如,若判断老人跌倒,则发送有老人跌倒的信息给预先设定的用户,或发送给小区人员。
图9是本申请提供的监控装置的另一实施例的结构示意图。如图9所示,所述监控装置100还包括第二判断单元102。
第二判断单元102,用于判断当前所处环境的环境声音的强度是否达到第一预设阈值。
具体地,可以通过麦克风采集当前所处环境的环境声音。当所述环境声音的强度达到第一预设阈值时,采集单元110采集目标用户的第一图像。例如,当环境声音的分贝值达到第一预设阈值时,可能有人跌倒,则采集目标用户的第一图像。即,当环境声音的强度达到第一预设阈值时触发本申请的监控装置的控制逻辑。
可选地,根据本申请的又一实施例,所述采集单元110还用于:若所述第一判断单元120判断所述目标用户跌倒,则采集所述目标用户的第二图像。所述第一判断单元120还用于根据所述采集单元采集的所述第二图像判断所述目标用户跌倒后是否站起来;所述提醒单元130还用于若所述第一判断单元120判断所述目标用户跌倒后站起来,则向相关用户发送相应的第二提醒信息。
具体地,若所述第一判断单元120判断所述目标用户跌倒,则采集单元110采集所述目标用户的第二图像。第一判断单元120根据所述第二图像判断所述目标用户跌倒后是否站起来具体可以包括:通过共享的卷积神经网络提取所述第二图像中的特征信息,以得到第三特征图。通过局部神经网络提取所述第三特征图中的目标检测候选区域,并进行分类得到所述目标用户跌倒后是否站起来的第三分类结果。将所述目标检测候选区域和所述第三分类结果导入ROI池化层进行处理,得到预设输出尺寸的第四特征图。将所述第四特征图通过全连接层进行分类,以得到所述目标用户是否跌倒的第四分类结果。其中,所述第四分类结果即判断所述目标用户跌倒后是否站起来的判断结果。
上述第一判断单元120根据所述第二图像判断所述目标用户跌倒后是否站起来的具体实施方式与前述第一判断单元120根据所述第一图像判断所述目标用户是否跌倒的具体实施方式基本类似,因此可以参考前述第一判断单元120根据所述第一图像判断所述目标用户是否跌倒的具体描述,此处不加赘述。
提醒单元130根据所述第一判断单元120判断所述目标用户跌倒后是否站起来的判断结果向相关用户发送相应的第二提醒信息。所述相关用户具体可以为预先设定的用户,例如,发送给一个或多个预先设定的用户,和/或发送给小区人员。所述第二提醒信息可以包括文字提醒信息和/或语音提醒信息。例如,若判断老人跌倒,则发送有老人跌倒的信息给预先设定的用户,或发送给小区人员;若判断老人跌倒后站起来,则进一步发送老人跌倒后已经站起来的信息给预先设定的用户,或发送给小区人员。
图10是本申请提供的监控装置的又一实施例的结构示意图。如图10所示,所述监控装置100还包括接收单元170、转换单元180和发送单元190。
接收单元170用于接收所述目标用户发出的求助语音;转换单元180用于将所述求助语音转换为相应的文本信息;发送单元190用于向相关用户发送所述求助语音,和/或将所述相应的文本信息发送给相关用户。
具体地,当目标用户(例如老人)跌倒时可以利用通过发出语音进行救助,接收单元170接收到目标用户发出的求助语音后,发送单元190向相关用户发送所述求助语音,例如发送至相关用户的所使用的用户设备上之后,该用户设备播报所述求助语音,和/或转换单元180将所述求助语音转换为相应的文本信息后,发送单元190将所述相应的文本信息发送给相关用户。其中,转换单元180将所述求助语音转换为相应的求助文本信息具体可以包括对所述求助语音进行语音识别,以得到相应的文字信息;利用长短记忆神经网络LSTM对所述文字信息进行语义解析,以得到所述求助文本信息。利用长短记忆神经网络LSTM要目的是解决文本长距离的依赖问题,并通过上下文进行语义分析得到文本语义,根据所述文本语义生成相应的文本信息,发送单元190根据所述文本分类的结果将所述文本信息发送给相关用户。可选地,转换单元180得到文本语义后还可以进行文本分类,发送单元190根据所述文本分类的结果将所述文本信息发送给相关用户。所述文本分类即根据所述文本语义分类出所述文本信息应该发送的相关用户,例如,分类出发送给预先设定的用户还是发送给小区人员。
本申请还提供对应于所述监控方法的一种存储介质,其上存储有计算机程序,所述程序被处理器执行时实现前述任一所述方法的步骤。
本申请还提供对应于所述监控方法的一种家用电器,包括处理器、存储器以及存储在存储器上可在处理器上运行的计算机程序,所述处理器执行所述程序时实现前述任一所述方法的步骤。
本申请还提供对应于所述监控装置的一种家用,包括前述任一所述的监控装置。
据此,本申请提供的方案,采集目标用户的第一图像,并利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒,若判断目标用户跌倒,则向相关用户发送相应的第一提醒信息,能够在目标用户跌倒后及时通知相关用户,避免目标用户的发生危险。并且,本申请利用改进的Faster R_CNN卷积神经网络实时对目标用户(例如老人)进行检测,并判断分类出目标用户是否跌倒。本申请在判断目标用户跌倒后,利用语音系统接收目标用户的语音求助,把相应的求助信息发送给相关用户和/或向相关用户播放求助信息,以使目标用户得到及时救助。
本文中所描述的功能可在硬件、由处理器执行的软件、固件或其任何组合中实施。如果在由处理器执行的软件中实施,那么可将功能作为一或多个指令或代码存储于计算机可读媒体上或经由计算机可读媒体予以传输。其它实例及实施方案在本申请及所附权利要求书的范围及精神内。举例来说,归因于软件的性质,上文所描述的功能可使用由处理器、硬件、固件、硬连线或这些中的任何者的组合执行的软件实施。此外,各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,可以为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为控制装置的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本申请的实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (19)

1.一种监控方法,其特征在于,包括:
采集目标用户的第一图像;
利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒;
若判断所述目标用户跌倒,则向相关用户发送相应的第一提醒信息。
2.根据权利要求1所述的方法,其特征在于,利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒,包括:
通过卷积神经网络提取所述第一图像中的特征信息,以得到第一特征图;
通过局部神经网络提取所述第一特征图中的目标检测候选区域,并进行分类得到所述目标用户是否跌倒的第一分类结果。
3.根据权利要求2所述的方法,其特征在于,利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒,还包括:
将所述目标检测候选区域和所述第一分类结果进行池化处理,得到预设输出尺寸的第二特征图;
将所述第二特征图输入全连接层进行分类,以得到所述目标用户是否跌倒的第二分类结果。
4.根据权利要求1-3任一项所述的方法,其特征在于,在采集目标用户的第一图像之前,还包括:
判断当前所处环境的环境声音的强度是否达到第一预设阈值;
当所述环境声音的强度达到第一预设阈值时,采集目标用户的第一图像。
5.根据权利要求1-4任一项所述的方法,其特征在于,还包括:
若判断所述目标用户跌倒,则采集所述目标用户的第二图像;
根据所述第二图像判断所述目标用户跌倒后是否站起来;
根据判断所述目标用户跌倒后是否站起来的判断结果向相关用户发送相应的第二提醒信息。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述第一提醒信息和/或第二提醒信息,包括:文字提醒信息和/或语音提醒信息。
7.根据权利要求1-6任一项所述的方法,其特征在于,还包括:
接收所述目标用户发出的求助语音;
向相关用户发送所述求助语音;
和/或,将所述求助语音转换为相应的文本信息,并将所述相应的文本信息发送给相关用户。
8.根据权利要求7所述的方法,其特征在于,将所述求助语音转换为相应的求助文本信息,包括:
对所述求助语音进行语音识别,以得到相应的文字信息;
利用长短记忆神经网络对所述文字信息进行语义解析,以得到所述求助文本信息。
9.一种监控装置,其特征在于,包括:
采集单元,用于采集目标用户的第一图像;
第一判断单元,用于利用卷积神经网络算法对所述第一图像进行识别,以判断所述目标用户是否跌倒;
提醒单元,用于若所述第一判断单元判断所述目标用户跌倒,则向相关用户发送相应的第一提醒信息。
10.根据权利要求8所述的装置,其特征在于,所述第一判断单元,包括:
特征提取子单元,用于通过共享的卷积神经网络提取所述第一图像中的特征信息,以得到第一特征图;
第一分类子单元,用于通过预设的局部神经网络提取所述第一特征图中的目标检测候选区域,并进行分类得到所述目标用户是否跌倒的第一分类结果。
11.根据权利要求10所述的装置,其特征在于,所述第一判断单元,还包括:
池化处理子单元,用于将所述目标检测候选区域和所述第一分类结果导入ROI池化层进行池化处理,得到预设输出尺寸的第二特征图;
第二分类子单元,用于将所述第二特征图输入全连接层进行分类,以得到所述目标用户是否跌倒的第二分类结果。
12.根据权利要求9-11任一项所述的装置,其特征在于,还包括:
第二判断单元,用于在所述采集单元采集目标用户的第一图像之前,判断当前所处环境的环境声音的强度是否达到第一预设阈值;
所述采集单元,还用于:当所述第二判断单元判断所述环境声音的强度达到第一预设阈值时,采集目标用户的第一图像。
13.根据权利要求9-12任一项所述的装置,其特征在于,
所述采集单元,还用于:若所述第一判断单元判断所述目标用户跌倒,则采集所述目标用户的第二图像;
所述第一判断单元,还用于:根据所述采集单元采集的所述第二图像判断所述目标用户跌倒后是否站起来;
所述提醒单元,还用于:根据判断所述目标用户跌倒后是否站起来的判断结果向相关用户发送相应的第二提醒信息。
14.根据权利要求9-13任一项所述的装置,其特征在于,所述第一提醒信息和/或所述第二提醒信息,包括:文字提醒信息和/或语音提醒信息。
15.根据权利要求9-14任一项所述的装置,其特征在于,还包括:
接收单元,用于接收所述目标用户发出的求助语音;
转换单元,用于将所述求助语音转换为相应的文本信息;
发送单元,用于向相关用户发送所述求助语音,和/或将所述相应的文本信息发送给相关用户。
16.根据权利要求15所述的装置,其特征在于,所述转换单元,将所述求助语音转换为相应的求助文本信息,包括:
对所述求助语音进行语音识别,以得到相应的文字信息;
利用长短记忆神经网络对所述文字信息进行语义解析,以得到所述求助文本信息。
17.一种存储介质,其特征在于,其上存储有计算机程序,所述程序被处理器执行时实现权利要求1-8任一所述方法的步骤。
18.一种家用电器,其特征在于,包括处理器、存储器以及存储在存储器上可在处理器上运行的计算机程序,所述处理器执行所述程序时实现权利要求1-8任一所述方法的步骤。
19.一种家用电器,其特征在于,包括如权利要求9-16任一所述的监控装置。
CN201910069190.5A 2019-01-24 2019-01-24 一种监控方法、装置、存储介质及家用电器 Pending CN109903522A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910069190.5A CN109903522A (zh) 2019-01-24 2019-01-24 一种监控方法、装置、存储介质及家用电器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910069190.5A CN109903522A (zh) 2019-01-24 2019-01-24 一种监控方法、装置、存储介质及家用电器

Publications (1)

Publication Number Publication Date
CN109903522A true CN109903522A (zh) 2019-06-18

Family

ID=66944125

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910069190.5A Pending CN109903522A (zh) 2019-01-24 2019-01-24 一种监控方法、装置、存储介质及家用电器

Country Status (1)

Country Link
CN (1) CN109903522A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110648500A (zh) * 2019-09-25 2020-01-03 北京爱接力科技发展有限公司 摔倒远程处理方法、装置、机器人、存储介质及处理系统
CN110797034A (zh) * 2019-09-23 2020-02-14 重庆特斯联智慧科技股份有限公司 一种用于老人及病患照料的自动语音视频识别对讲系统
CN110853294A (zh) * 2019-10-29 2020-02-28 广东美的白色家电技术创新中心有限公司 利用家用电器进行监控的方法、装置和计算机存储介质
WO2021190219A1 (zh) * 2020-03-27 2021-09-30 青岛海尔空调器有限总公司 空调器室内机及其控制方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060291694A1 (en) * 2005-06-24 2006-12-28 Objectvideo, Inc. Detection of change in posture in video
US20180047389A1 (en) * 2016-08-12 2018-02-15 Electronics And Telecommunications Research Institute Apparatus and method for recognizing speech using attention-based context-dependent acoustic model
CN108154113A (zh) * 2017-12-22 2018-06-12 重庆邮电大学 基于全卷积网络热度图的跌倒事件检测方法
CN108305615A (zh) * 2017-10-23 2018-07-20 腾讯科技(深圳)有限公司 一种对象识别方法及其设备、存储介质、终端
CN108549841A (zh) * 2018-03-21 2018-09-18 南京邮电大学 一种基于深度学习的老人跌倒行为的识别方法
CN108600701A (zh) * 2018-05-02 2018-09-28 广州飞宇智能科技有限公司 一种基于深度学习判断视频行为的监控系统和方法
CN108764143A (zh) * 2018-05-29 2018-11-06 北京字节跳动网络技术有限公司 图像处理方法、装置、计算机设备和存储介质
CN108924478A (zh) * 2018-06-08 2018-11-30 陈财典 监控方法、装置及系统

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060291694A1 (en) * 2005-06-24 2006-12-28 Objectvideo, Inc. Detection of change in posture in video
US20180047389A1 (en) * 2016-08-12 2018-02-15 Electronics And Telecommunications Research Institute Apparatus and method for recognizing speech using attention-based context-dependent acoustic model
CN108305615A (zh) * 2017-10-23 2018-07-20 腾讯科技(深圳)有限公司 一种对象识别方法及其设备、存储介质、终端
CN108154113A (zh) * 2017-12-22 2018-06-12 重庆邮电大学 基于全卷积网络热度图的跌倒事件检测方法
CN108549841A (zh) * 2018-03-21 2018-09-18 南京邮电大学 一种基于深度学习的老人跌倒行为的识别方法
CN108600701A (zh) * 2018-05-02 2018-09-28 广州飞宇智能科技有限公司 一种基于深度学习判断视频行为的监控系统和方法
CN108764143A (zh) * 2018-05-29 2018-11-06 北京字节跳动网络技术有限公司 图像处理方法、装置、计算机设备和存储介质
CN108924478A (zh) * 2018-06-08 2018-11-30 陈财典 监控方法、装置及系统

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110797034A (zh) * 2019-09-23 2020-02-14 重庆特斯联智慧科技股份有限公司 一种用于老人及病患照料的自动语音视频识别对讲系统
CN110648500A (zh) * 2019-09-25 2020-01-03 北京爱接力科技发展有限公司 摔倒远程处理方法、装置、机器人、存储介质及处理系统
CN110853294A (zh) * 2019-10-29 2020-02-28 广东美的白色家电技术创新中心有限公司 利用家用电器进行监控的方法、装置和计算机存储介质
WO2021190219A1 (zh) * 2020-03-27 2021-09-30 青岛海尔空调器有限总公司 空调器室内机及其控制方法

Similar Documents

Publication Publication Date Title
CN109903522A (zh) 一种监控方法、装置、存储介质及家用电器
CN107633207B (zh) Au特征识别方法、装置及存储介质
CN109346061B (zh) 音频检测方法、装置及存储介质
CN109039671A (zh) 群组消息显示方法、装置、终端及存储介质
CN104933827A (zh) 一种基于旋转摄像头的报警方法及终端
CN103324918A (zh) 一种人脸识别与唇形识别相配合的身份认证方法
CN109817211A (zh) 一种电器控制方法、装置、存储介质及电器
CN107300967A (zh) 一种智能导航方法、装置、存储介质和终端
CN107947874B (zh) 基于WiFi信道状态信息的室内地图语义标识方法
CN110428007A (zh) X光图像目标检测方法、装置及设备
US20240169687A1 (en) Model training method, scene recognition method, and related device
CN110555441A (zh) 一种文字识别方法及装置
JP2021096859A (ja) 仲介装置及び方法、並びにコンピュータ読み取り可能な記録媒体{mediating apparatus、method and computer readable recording medium thereof}
CN107763961A (zh) 一种冰箱及其业务实现方法
CN105267013B (zh) 一种头戴式智能视障辅助系统
KR20160040954A (ko) 긴급 재난신고를 판단하는 방법 및 장치
CN108681390A (zh) 信息交互方法和装置、存储介质及电子装置
CN107357815A (zh) 一种图片内容的识别方法及系统
CN110069959A (zh) 一种人脸检测方法、装置及用户设备
CN115359394A (zh) 一种基于多模态融合的识别方法及其应用
CN112115788A (zh) 视频动作识别方法、装置、电子设备及存储介质
CN111183431A (zh) 指纹识别方法及终端设备
Chua et al. Vision-based hand grasping posture recognition in drinking activity
Pereira PereiraASLNet: ASL letter recognition with YOLOX taking Mean Average Precision and Inference Time considerations
CN109873751A (zh) 一种群聊语音信息的处理方法、装置、存储介质及服务器

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20190618