CN109829390A - 一种基于深度学习的电梯智能调度系统及方法 - Google Patents
一种基于深度学习的电梯智能调度系统及方法 Download PDFInfo
- Publication number
- CN109829390A CN109829390A CN201910019632.5A CN201910019632A CN109829390A CN 109829390 A CN109829390 A CN 109829390A CN 201910019632 A CN201910019632 A CN 201910019632A CN 109829390 A CN109829390 A CN 109829390A
- Authority
- CN
- China
- Prior art keywords
- elevator
- passenger
- resnet
- information
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Elevator Control (AREA)
- Image Analysis (AREA)
- Indicating And Signalling Devices For Elevators (AREA)
Abstract
本发明公开了一种基于深度学习的电梯智能调度方法及系统,方法包括:采集图像信息,获取每处电梯正在等待乘梯人的全部信息;对实时采集到的每处电梯正在等待乘梯人的视频图像进行存储,并实时进行预处理,包括监控连续视频的关键帧选取,关键帧选取的标准为每段乘梯人等待视频中最能反映出所有乘梯人信息的那一帧;最终获取监控视频中的关键帧中的乘梯人数目、乘梯人的性别、体形、体重估计的属性信息,并将算法分析求得的信息送至电梯智能调度模块;实时获取当前电梯的停靠位置、配合求得的乘梯人数目和属性信息进行电梯调度的控制中心分配结果实时反馈给电梯运行监控模块;通过电梯运行监控模块负责电梯安全、乘梯人安全与便捷维护。
Description
技术领域
本发明属于电梯应用领域,具体涉及一种基于深度学习的电梯智能调度系统及方法。
背景技术
现代生活中,无论是在居民住宅、写字楼还是商场中,电梯作为一种重要的通勤运输工具的重要性已经愈发凸显,但受限于建筑成本、建筑面积等因素,建筑内电梯数量有限,例如小区居民楼工作日的早晚高峰、商场周末期间,乘梯人都只能等在相应楼层,大大浪费了时间。
公开号为CN 108217352A,申请名称为一种智能电梯调度系统的中国专利申请属于智能电梯控制领域,包括感应器系统模块、AI调度模块、定制信息处理模块;AI调度模块包含人脸识别单元、射频信息流处理单元、智能调度算法单元;技术方案中引入了人工智能算法,针对图像类感应器系统,利用卷积CNN神经网络对图像进行处理,为智能调度提供数据基础;同时开拓了基于射频的深度学习方法,利用毫米波等射频方案,提供了一种图像信息之外的方式,大大提高了光线干扰环境下的稳定性;解决了普遍存在的电梯轿厢调度较低效、损耗较高的问题;利用智能手机、社交网络APP等平台,对个人用户可实现定制化智能调度。但此方案汇中主要分析图像数据的AI处理模块主要针对人脸数据进行分析,AI处理模块不能通过人脸分析出乘梯人的职业、体形等信息,获取的乘梯人信息有限,无法做到对电梯的实时智能调度。
发明内容
本发明要解决的技术问题是提供一种基于深度学习的电梯智能调度系统及方法。
为解决上述技术问题,本发明采用如下的技术方案:
本发明的一个方面提供了一种基于深度学习的电梯智能调度方法,包括以下步骤:
采集图像信息,获取每处电梯正在等待乘梯人的全部信息;
对实时采集到的每处电梯正在等待乘梯人的视频图像进行存储,并实时进行预处理,包括监控连续视频的关键帧选取,关键帧选取的标准为每段乘梯人等待视频中最能反映出所有乘梯人信息的那一帧;
包括基于目标检测算法的实时乘梯人数目检测模块与基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块最终获取监控视频中的关键帧中的乘梯人数目、乘梯人的性别、体形、体重估计的属性信息,并将算法分析求得的信息送至电梯智能调度模块;
实时获取当前电梯的停靠位置、配合上级单元求得的乘梯人数目和属性信息进行电梯调度的控制中心分配结果实时反馈给电梯运行监控模块;
通过电梯运行监控模块负责电梯安全、乘梯人安全与便捷维护。
优选地,基于目标检测算法的实时乘梯人数目检测模块的具体工作过程如下:
利用深度学习中的多层卷积网络获取待测输入乘梯人图像中的数据,获得监控关键帧的特征图;
利用提取边缘的神经网络直接训练得到特征图中的候选区域,利用提取边缘的神经网络的工作原理在于其在特征图上滑动窗口,其中滑动窗口的位置提供了物体的大致位置信息,而框的回归算法提供框更精确的位置信息;
由提取边缘的神经网络得到待测输入图像中所有候选框的特征信息,再将候选框的特征信息传至多层全连接层,并在最后一层分别使用分类器,配合乘梯人分类loss判别候选框中是否属于一个特定类,对于属于某一特征的候选框,配合乘梯人边界框回归loss进一步调整边界框的位置,最后求得准确的待乘梯人的数量与位置信息,并通过opencv工具根据乘梯人在原图中为具体坐标值,格式为(x1,y1,width,height)来裁剪得到多分类属性识别网络所需要的人体图。
优选地,基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块的具体工作过程如下:
获取待乘梯人监控图像,由上级目标检测模块获得待测具体乘梯人的具体位置信息(x1,y1,width,height),并结合原图信息从而得到送至属性识别网络中的原图具体内容;
根据上述具体图像信息获取具体乘梯人的图像,再由图像分割模块获取待测对象的各个部位图;
再利用多层卷积网络来获取各身体部位的特征图;
将主干网络提取到特征图进行正则化操作后送至多类属性多输出网络;
输出检测结果,所述检测结果包括性别、体形、年龄、人员类别信息。
优选地,多层卷积网络的主干网络是Resnet50。
优选地,输入为224*224*3格式的图片,Resnet50的主要工作过程如下:
convolution层中,卷积核为7*7*64,padding深度为3,stride为2,输入为224*224*3,输出为112*112*64;
Max-pooling层中,池化核为3*3,padding深度为0,stride为2,输出为56*56*64;
resnet_2层:包含resnet_2a(输入56*56*64,输出56*56*256);
包含resnet_2b(输入56*56*256,输出56*56*256);
包含resnet_2c(输入56*56*256,输出56*56*256);
resnet_3层:包含resnet_3a(输入56*56*64,输出28*28*512);
包含resnet_3b(输入28*28*512,输出28*28*512);
包含resnet_3c(输入28*28*512,输出28*28*512);
包含resnet_3d(输入28*28*512,输出28*28*512);
resnet_4层、resnet_5层,最终输出7*7*2048;
AVE pooling,池化核7*7,padding深度为0,stride为1,则输出为1*1*2048;
FC53,输出为1*1*53,再经过softmax得到53个二分类属性的具体概率,最终得到该乘梯人的属性。
本发明的另一方面在于提供一种基于深度学习的电梯智能调度系统,包括:
乘梯人监控视频图像数据处理单元,用于采集图像信息,获取每处电梯正在等待乘梯人的全部信息;
图像预处理模块,对实时采集到的每处电梯正在等待乘梯人的视频图像进行存储,并实时进行预处理,包括监控连续视频的关键帧选取,关键帧选取的标准为每段乘梯人等待视频中最能反映出所有乘梯人信息的那一帧;
深度学习控制模块,包括基于目标检测算法的实时乘梯人数目检测模块与基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块最终获取监控视频中的关键帧中的乘梯人数目、乘梯人的性别、体形、体重估计的属性信息,并将算法分析求得的信息送至电梯智能调度模块;
电梯智能调度模块,用于实时获取当前电梯的停靠位置、配合上级单元求得的乘梯人数目和属性信息进行电梯调度的控制中心分配结果实时反馈给电梯运行监控模块;
电梯运行监控模块,用于通过电梯运行监控模块负责电梯安全、乘梯人安全与便捷维护。
优选地,基于目标检测算法的实时乘梯人数目检测模块的具体工作过程如下:
利用深度学习中的多层卷积网络获取待测输入乘梯人图像中的数据,获得监控关键帧的特征图;
利用提取边缘的神经网络直接训练得到特征图中的候选区域,利用提取边缘的神经网络的工作原理在于其在特征图上滑动窗口,其中滑动窗口的位置提供了物体的大致位置信息,而框的回归算法提供框更精确的位置信息;
由提取边缘的神经网络得到待测输入图像中所有候选框的特征信息,再将候选框的特征信息传至多层全连接层,并在最后一层分别使用分类器,配合乘梯人分类loss判别候选框中是否属于一个特定类,对于属于某一特征的候选框,配合乘梯人边界框回归loss进一步调整边界框的位置,最后求得准确的待乘梯人的数量与位置信息,并通过opencv工具根据乘梯人在原图中为具体坐标值,格式为(x1,y1,width,height)来裁剪得到多分类属性识别网络所需要的人体图。
优选地,基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块的具体工作过程如下:
获取待乘梯人监控图像,由上级目标检测模块获得待测具体乘梯人的具体位置信息(x1,y1,width,height),并结合原图信息从而得到送至属性识别网络中的原图具体内容;
根据上述具体图像信息获取具体乘梯人的图像,再由图像分割模块获取待测对象的各个部位图;
再利用多层卷积网络来获取各身体部位的特征图;
将主干网络提取到特征图进行正则化操作后送至多类属性多输出网络;
输出检测结果,所述检测结果包括性别、体形、年龄、人员类别信息。
优选地,多层卷积网络的主干网络是Resnet50。
优选地,输入为224*224*3格式的图片,Resnet50的主要工作过程如下:
convolution层中,卷积核为7*7*64,padding深度为3,stride为2,输入为224*224*3,输出为112*112*64;
Max-pooling层中,池化核为3*3,padding深度为0,stride为2,输出为56*56*64;
resnet_2层:包含resnet_2a(输入56*56*64,输出56*56*256);
包含resnet_2b(输入56*56*256,输出56*56*256);
包含resnet_2c(输入56*56*256,输出56*56*256);
resnet_3层:包含resnet_3a(输入56*56*64,输出28*28*512);
包含resnet_3b(输入28*28*512,输出28*28*512);
包含resnet_3c(输入28*28*512,输出28*28*512);
包含resnet_3d(输入28*28*512,输出28*28*512);
包含 resnet_4层、resnet_5层,最终输出都为7*7*2048;
AVE pooling,池化核7*7,padding深度为0,stride为1,则输出为1*1*2048;
FC53,输出为1*1*53,再经过softmax得到53个二分类属性的具体概率,最终得到该乘梯人的属性。
采用本发明具有如下的有益效果:本发明技术方案主要针对以前的方案只针对监控图像中乘梯人的脸部数据进行分析,而只能获取乘梯人数量等简单信息的电梯智能调度系统设计方案的缺陷进行改进,通过深度学习控制模块中的目标检测算法、属性多标签分类等算法对监控图像数据进行特征学习,配合高算力的GPU服务器等设备,实时获取等待乘梯的人数、乘梯人的重量、乘梯人的性别和职业等属性,基于TB级电梯监控视频图像数据,根据对乘梯人的人数实时检测、乘梯人属性的实时识别,再将识别出的乘梯人信息配合电梯当前停靠的楼层信息反馈至电梯智能调度模块。
附图说明
图1为本发明实施例的基于深度学习的电梯智能调度方法的步骤流程图;
图2为本发明实施例的基于目标检测算法的实时乘梯人数目检测模块的逻辑框图;
图3为本发明实施例的基于多属性分类算法的乘梯人多属性分类模块的逻辑框图;
图4为本发明实施例的基于深度学习的电梯智能调度系统的原理框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
参照图1 ,所示为本发明实施例的一种基于深度学习的电梯智能调度方法的步骤流程图,其包括以下步骤:
S1,采集图像信息,获取每处电梯正在等待乘梯人的全部信息;
以上步骤通过乘梯人监控视频图像数据获取单元包括但不限于安放在指定电梯监控区域的监控摄像机,工业摄像机等,其安装在等待每层楼梯的通道内,以最适合的角度获取每层楼正在等待乘梯人的全部信息,采集到的信息用于后续单元分析。
S2,对实时采集到的每处电梯正在等待乘梯人的视频图像进行存储,并实时进行预处理,包括监控连续视频的关键帧选取,关键帧选取的标准为每段乘梯人等待视频中最能反映出所有乘梯人信息的那一帧;
上述步骤通过图像预处理单元进行处理,图像预处理单元包括但不限于安置在物业等指定位置的监控视频图图像存储服务器、SSD硬盘等。
S3,包括基于目标检测算法的实时乘梯人数目检测模块与基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块最终获取监控视频中的关键帧中的乘梯人数目、乘梯人的性别、体形、体重估计的属性信息,并将算法分析求得的信息送至电梯智能调度模块;
基于目标检测算法的实时乘梯人数目检测模块与基于多属性分类算法的乘梯人多属性分类模块这两个算法模块主要运行在GPU服务器或其他高算力的嵌入式设备上,包括但不限于英伟达公司推出的最新GPU嵌入式设备TX1、TX2等。
S4,实时获取当前电梯的停靠位置、配合上级单元求得的乘梯人数目和属性信息进行电梯调度的控制中心分配结果实时反馈给电梯运行监控模块;
上述步骤通过电梯智能调度单元进行处理,电梯智能调度单元包括但不限于小区或商场物业的电梯监控平台、电梯内置的传感器。进行电梯调度的控制中心包括但不限于CPU、FPGA等处理设备。
S5,通过电梯运行监控模块负责电梯安全、乘梯人安全与便捷维护。
电梯运行监控模块主要包括基于CPU、DSP、FPGA等处理器的物业电梯监控运行单元、电梯运维平台等设备。
在具体应用实例中,S3中的基于目标检测算法的实时乘梯人数目检测模块与基于多属性分类算法的乘梯人多属性分类模块为核心模块,以下进一步详述此两个模块的详细工作过程。
具体地,参见图2,基于目标检测算法的实时乘梯人数目检测模块的具体工作过程如下:
利用深度学习中的多层卷积网络CNN获取待测输入乘梯人图像中的数据,获得监控关键帧的特征图;
利用提取边缘的神经网络,即Region Proposal Network(RPN)直接训练得到特征图中的候选区域,利用提取边缘的神经网络RPN的工作原理在于其在特征图上滑动窗口,其中滑动窗口的位置提供了物体的大致位置信息,而框的回归算法提供框更精确的位置信息;
由提取边缘的神经网络RPN得到待测输入图像中所有候选框的特征信息,再将候选框的特征信息传至多层全连接层,并在最后一层分别使用分类器,配合乘梯人分类loss判别候选框中是否属于一个特定类,对于属于某一特征的候选框,配合乘梯人边界框回归loss进一步调整边界框的位置,最后求得准确的待乘梯人的数量与位置信息,并通过opencv工具根据乘梯人在原图中为具体坐标值,格式为(x1,y1,width,height)来裁剪得到多分类属性识别网络所需要的人体图。图片如图3中的输入图像,一般图片需要尽量完整的有且仅包含一个人,这样送至属性识别网络中才能更准确得到该乘梯人的属性,例如性别、年龄、朝向、衣着、发型等,进而分析出乘梯人可能的职业等。
参见图3,基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块的具体工作过程如下:
获取待乘梯人监控图像,由上级目标检测模块获得待测具体乘梯人的具体位置信息(x1,y1,width,height),并结合原图信息(例如1080*1920)从而得到送至属性识别网络中的原图具体内容;
根据上述具体图像信息获取具体乘梯人的图像,再由图像分割模块获取待测对象的各个部位图,如头部、下肢、上肢等区域;
再利用多层卷积网络,例如常用的Resnet50网络来获取各身体部位的特征图,其中Resnet50的网络架构说明如下所示;
将Resnet50主干网络提取到特征图进行正则化操作后送至多类属性多输出网络;
输出检测结果,所述检测结果包括性别、体形、年龄、人员等类别信息。
以下对乘梯人属性识别网络中的主干网络的Resnet50做进一步的详细说明,其属于残差网络中的一部分,是为了针对随着神经网络的加深而出现的训练集精度下降的现象。以下以输入为224*224*3格式的图片举例解释Resnet50的详细结构:
1、convolution层:
卷积核为7*7*64,padding深度为3,stride为2,输入为224*224*3,输出为112*112*64,需经正则化BN层与scale进行归一化,后续的resnet各层同样需要正则化BN层与scale进行归一化;
2、Max-pooling层(最大值池化层):
池化核为3*3,padding深度为0,stride为2,输出为56*56*64;
3、resnet_2层:
包含resnet_2a(输入56*56*64,输出56*56*256);
包含resnet_2b(输入56*56*256,输出56*56*256);
包含resnet_2c(输入56*56*256,输出56*56*256);
4、resnet_3层:
包含resnet_3a(输入56*56*64,输出28*28*512);
包含resnet_3b(输入28*28*512,输出28*28*512);
包含resnet_3c(输入28*28*512,输出28*28*512);
包含resnet_3d(输入28*28*512,输出28*28*512);
5、resnet_4层、resnet_5层:
resnet_4层、resnet_5层类似resnet_3层网络结构,其最终输出都为7*7*2048;
6、AVE pooling
池化核7*7,padding深度为0,stride为1,则输出为1*1*2048;
7、FC53(默认输出包含年龄、性别在内的53个人体属性)
该层即为图3中的多输出全连接网络,输出为1*1*53,再经过softmax得到53个二分类属性的具体概率,最终得到该乘梯人的属性。
与本发明方法实施例对应的,参见图4,本发明实施例还提供了一种基于深度学习的电梯智能调度系统,包括:
乘梯人监控视频图像数据处理单元,用于采集图像信息,获取每处电梯正在等待乘梯人的全部信息;
乘梯人监控视频图像数据获取单元包括但不限于安放在指定电梯监控区域的监控摄像机,工业摄像机等,其安装等待每层楼乘梯的通道内,以最合适的角度获取每层楼正在等待乘梯人的全部信息,采集到的图像数据用于后续单元分析。
图像预处理模块,对实时采集到的每处电梯正在等待乘梯人的视频图像进行存储,并实时进行预处理,包括监控连续视频的关键帧选取,关键帧选取的标准为每段乘梯人等待视频中最能反映出所有乘梯人信息的那一帧;
图像预处理模块包括但不限于安置在物业等指定位置的监控视频图图像存储服务器、SSD硬盘等。
深度学习控制模块,包括基于目标检测算法的实时乘梯人数目检测模块与基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块最终获取监控视频中的关键帧中的乘梯人数目、乘梯人的性别、体形、体重估计的属性信息,并将算法分析求得的信息送至电梯智能调度模块;
基于目标检测算法的实时乘梯人数目检测模块与基于多属性分类算法的乘梯人多属性分类模块这两个算法模块主要运行在GPU服务器或其他高算力的嵌入式设备上,包括但不限于英伟达公司推出的最新GPU嵌入式设备TX1、TX2等。
电梯智能调度模块,用于实时获取当前电梯的停靠位置、配合上级单元求得的乘梯人数目和属性信息进行电梯调度的控制中心分配结果实时反馈给电梯运行监控模块;
电梯智能调度单元包括但不限于小区或商场物业的电梯监控平台、电梯内置的传感器。进行电梯调度的控制中心包括但不限于CPU、FPGA等处理设备。
电梯运行监控模块,用于通过电梯运行监控模块负责电梯安全、乘梯人安全与便捷维护。
电梯运行监控模块主要包括基于CPU、DSP、FPGA等处理器的物业电梯监控运行单元、电梯运维平台等设备。
具体地,参见图2,基于目标检测算法的实时乘梯人数目检测模块的具体工作过程如下:
利用深度学习中的多层卷积网络CNN获取待测输入乘梯人图像中的数据,获得监控关键帧的特征图;
利用提取边缘的神经网络,即Region Proposal Network(RPN)直接训练得到特征图中的候选区域,利用提取边缘的神经网络RPN的工作原理在于其在特征图上滑动窗口,其中滑动窗口的位置提供了物体的大致位置信息,而框的回归算法提供框更精确的位置信息;
由提取边缘的神经网络RPN得到待测输入图像中所有候选框的特征信息,再将候选框的特征信息传至多层全连接层,并在最后一层分别使用分类器,配合乘梯人分类loss判别候选框中是否属于一个特定类,对于属于某一特征的候选框,配合乘梯人边界框回归loss进一步调整边界框的位置,最后求得准确的待乘梯人的数量与位置信息,并通过opencv工具根据乘梯人在原图中为具体坐标值,格式为(x1,y1,width,height)来裁剪得到多分类属性识别网络所需要的人体图。图片如图3中的输入图像,一般图片需要尽量完整的有且仅包含一个人,这样送至属性识别网络中才能更准确得到该乘梯人的属性,例如性别、年龄、朝向、衣着、发型等,进而分析出乘梯人可能的职业等。
参见图3,基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块的具体工作过程如下:
获取待乘梯人监控图像,由上级目标检测模块获得待测具体乘梯人的具体位置信息(x1,y1,width,height),并结合原图信息(例如1080*1920)从而得到送至属性识别网络中的原图具体内容;
根据上述具体图像信息获取具体乘梯人的图像,再由图像分割模块获取待测对象的各个部位图,如头部、下肢、上肢等区域;
再利用多层卷积网络,例如常用的Resnet50网络来获取各身体部位的特征图,其中Resnet50的网络架构说明如下所示;
将Resnet50主干网络提取到特征图进行正则化操作后送至多类属性多输出网络;
输出检测结果,所述检测结果包括性别、体形、年龄、人员等类别信息。
以下对乘梯人属性识别网络中的主干网络的Resnet50做进一步的详细说明,其属于残差网络中的一部分,是为了针对随着神经网络的加深而出现的训练集精度下降的现象。以下以输入为224*224*3格式的图片举例解释Resnet50的详细结构:
1、convolution层:
卷积核为7*7*64,padding深度为3,stride为2,输入为224*224*3,输出为112*112*64,需经正则化BN层与scale进行归一化,后续的resnet各层同样需要正则化BN层与scale进行归一化;
2、Max-pooling层(最大值池化层):
池化核为3*3,padding深度为0,stride为2,输出为56*56*64;
3、resnet_2层:
包含resnet_2a(输入56*56*64,输出56*56*256);
包含resnet_2b(输入56*56*256,输出56*56*256);
包含resnet_2c(输入56*56*256,输出56*56*256);
4、resnet_3层:
包含resnet_3a(输入56*56*64,输出28*28*512);
包含resnet_3b(输入28*28*512,输出28*28*512);
包含resnet_3c(输入28*28*512,输出28*28*512);
包含resnet_3d(输入28*28*512,输出28*28*512);
5、resnet_4层、resnet_5层:
resnet_4层、resnet_5层类似resnet_3层网络结构,其最终输出都为7*7*2048;
6、AVE pooling
池化核7*7,padding深度为0,stride为1,则输出为1*1*2048;
7、FC53(默认输出包含年龄、性别在内的53个人体属性)
该层即为图3中的多输出全连接网络,输出为1*1*53,再经过softmax得到53个二分类属性的具体概率,最终得到该乘梯人的属性。
应当理解,本文所述的示例性实施例是说明性的而非限制性的。尽管结合附图描述了本发明的一个或多个实施例,本领域普通技术人员应当理解,在不脱离通过所附权利要求所限定的本发明的精神和范围的情况下,可以做出各种形式和细节的改变。
Claims (10)
1.一种基于深度学习的电梯智能调度方法,其特征在于,包括以下步骤:
采集图像信息,获取每处电梯正在等待乘梯人的全部信息;
对实时采集到的每处电梯正在等待乘梯人的视频图像进行存储,并实时进行预处理,包括监控连续视频的关键帧选取,关键帧选取的标准为每段乘梯人等待视频中最能反映出所有乘梯人信息的那一帧;
包括基于目标检测算法的实时乘梯人数目检测模块与基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块最终获取监控视频中的关键帧中的乘梯人数目、乘梯人的性别、体形、体重估计的属性信息,并将算法分析求得的信息送至电梯智能调度模块;
实时获取当前电梯的停靠位置、配合上级单元求得的乘梯人数目和属性信息进行电梯调度的控制中心分配结果实时反馈给电梯运行监控模块;
通过电梯运行监控模块负责电梯安全、乘梯人安全与便捷维护。
2.如权利要求1所述的基于深度学习的电梯智能调度方法,其特征在于,基于目标检测算法的实时乘梯人数目检测模块的具体工作过程如下:
利用深度学习中的多层卷积网络获取待测输入乘梯人图像中的数据,获得监控关键帧的特征图;
利用提取边缘的神经网络直接训练得到特征图中的候选区域,利用提取边缘的神经网络的工作原理在于其在特征图上滑动窗口,其中滑动窗口的位置提供了物体的大致位置信息,而框的回归算法提供框更精确的位置信息;
由提取边缘的神经网络得到待测输入图像中所有候选框的特征信息,再将候选框的特征信息传至多层全连接层,并在最后一层分别使用分类器,配合乘梯人分类loss判别候选框中是否属于一个特定类,对于属于某一特征的候选框,配合乘梯人边界框回归loss进一步调整边界框的位置,最后求得准确的待乘梯人的数量与位置信息,并通过opencv工具根据乘梯人在原图中为具体坐标值,格式为(x1,y1,width,height)来裁剪得到多分类属性识别网络所需要的人体图。
3.如权利要求2所述的基于深度学习的电梯智能调度方法,其特征在于,基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块的具体工作过程如下:
获取待乘梯人监控图像,由上级目标检测模块获得待测具体乘梯人的具体位置信息(x1,y1,width,height),并结合原图信息从而得到送至属性识别网络中的原图具体内容;
根据上述具体图像信息获取具体乘梯人的图像,再由图像分割模块获取待测对象的各个部位图;
再利用多层卷积网络来获取各身体部位的特征图;
将主干网络提取到特征图进行正则化操作后送至多类属性多输出网络;
输出检测结果,所述检测结果包括性别、体形、年龄、人员类别信息。
4.如权利要求3所述的基于深度学习的电梯智能调度方法,其特征在于,多层卷积网络的主干网络是Resnet50。
5.如权利要求4所述的基于深度学习的电梯智能调度方法,其特征在于,输入为224*224*3格式的图片,Resnet50的主要工作过程如下:
convolution层中,卷积核为7*7*64,padding深度为3,stride为2,输入为224*224*3,输出为112*112*64;
Max-pooling层中,池化核为3*3,padding深度为0,stride为2,输出为56*56*64;
resnet_2层:包含resnet_2a(输入56*56*64,输出56*56*256);
包含resnet_2b(输入56*56*256,输出56*56*256);
包含resnet_2c(输入56*56*256,输出56*56*256);
resnet_3层:包含resnet_3a(输入56*56*64,输出28*28*512);
包含resnet_3b(输入28*28*512,输出28*28*512);
包含resnet_3c(输入28*28*512,输出28*28*512);
包含resnet_3d(输入28*28*512,输出28*28*512);
resnet_4层、resnet_5层,最终输出7*7*2048;
AVE pooling,池化核7*7,padding深度为0,stride为1,则输出为1*1*2048;
FC53,输出为1*1*53,再经过softmax得到53个二分类属性的具体概率,最终得到该乘梯人的属性。
6.一种基于深度学习的电梯智能调度系统,其特征在于,包括:
乘梯人监控视频图像数据处理单元,用于采集图像信息,获取每处电梯正在等待乘梯人的全部信息;
图像预处理模块,对实时采集到的每处电梯正在等待乘梯人的视频图像进行存储,并实时进行预处理,包括监控连续视频的关键帧选取,关键帧选取的标准为每段乘梯人等待视频中最能反映出所有乘梯人信息的那一帧;
深度学习控制模块,包括基于目标检测算法的实时乘梯人数目检测模块与基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块最终获取监控视频中的关键帧中的乘梯人数目、乘梯人的性别、体形、体重估计的属性信息,并将算法分析求得的信息送至电梯智能调度模块;
电梯智能调度模块,用于实时获取当前电梯的停靠位置、配合上级单元求得的乘梯人数目和属性信息进行电梯调度的控制中心分配结果实时反馈给电梯运行监控模块;
电梯运行监控模块,用于通过电梯运行监控模块负责电梯安全、乘梯人安全与便捷维护。
7.如权利要求6所述的基于深度学习的电梯智能调度系统,其特征在于,基于目标检测算法的实时乘梯人数目检测模块的具体工作过程如下:
利用深度学习中的多层卷积网络获取待测输入乘梯人图像中的数据,获得监控关键帧的特征图;
利用提取边缘的神经网络直接训练得到特征图中的候选区域,利用提取边缘的神经网络的工作原理在于其在特征图上滑动窗口,其中滑动窗口的位置提供了物体的大致位置信息,而框的回归算法提供框更精确的位置信息;
由提取边缘的神经网络得到待测输入图像中所有候选框的特征信息,再将候选框的特征信息传至多层全连接层,并在最后一层分别使用分类器,配合乘梯人分类loss判别候选框中是否属于一个特定类,对于属于某一特征的候选框,配合乘梯人边界框回归loss进一步调整边界框的位置,最后求得准确的待乘梯人的数量与位置信息,并通过opencv工具根据乘梯人在原图中为具体坐标值,格式为(x1,y1,width,height)来裁剪得到多分类属性识别网络所需要的人体图。
8.如权利要求7所述的基于深度学习的电梯智能调度系统,其特征在于,基于多属性分类算法的乘梯人多属性分类模块的深度学习控制模块的具体工作过程如下:
获取待乘梯人监控图像,由上级目标检测模块获得待测具体乘梯人的具体位置信息(x1,y1,width,height),并结合原图信息从而得到送至属性识别网络中的原图具体内容;
根据上述具体图像信息获取具体乘梯人的图像,再由图像分割模块获取待测对象的各个部位图;
再利用多层卷积网络来获取各身体部位的特征图;
将主干网络提取到特征图进行正则化操作后送至多类属性多输出网络;
输出检测结果,所述检测结果包括性别、体形、年龄、人员类别信息。
9.如权利要求8所述的基于深度学习的电梯智能调度系统,其特征在于,多层卷积网络的主干网络是Resnet50。
10.如权利要求9所述的基于深度学习的电梯智能调度系统,其特征在于,输入为224*224*3格式的图片,Resnet50的主要工作过程如下:
convolution层中,卷积核为7*7*64,padding深度为3,stride为2,输入为224*224*3,输出为112*112*64;
Max pooling层中,池化核为3*3,padding深度为0,stride为2,输出为56*56*64;
resnet_2层:包含resnet_2a(输入56*56*64,输出56*56*256);
包含resnet_2b(输入56*56*256,输出56*56*256);
包含resnet_2c(输入56*56*256,输出56*56*256);
resnet_3层:包含resnet_3a(输入56*56*64,输出28*28*512);
包含resnet_3b(输入28*28*512,输出28*28*512);
包含resnet_3c(输入28*28*512,输出28*28*512);
包含resnet_3d(输入28*28*512,输出28*28*512);
包含 resnet_4层、resnet_5层,最终输出都为7*7*2048;
AVE pooling,池化核7*7,padding深度为0,stride为1,则输出为1*1*2048;
FC53,输出为1*1*53,再经过softmax得到53个二分类属性的具体概率,最终得到该乘梯人的属性。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910019632.5A CN109829390A (zh) | 2019-01-09 | 2019-01-09 | 一种基于深度学习的电梯智能调度系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910019632.5A CN109829390A (zh) | 2019-01-09 | 2019-01-09 | 一种基于深度学习的电梯智能调度系统及方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109829390A true CN109829390A (zh) | 2019-05-31 |
Family
ID=66860680
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910019632.5A Pending CN109829390A (zh) | 2019-01-09 | 2019-01-09 | 一种基于深度学习的电梯智能调度系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109829390A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112149588A (zh) * | 2020-09-28 | 2020-12-29 | 北京工业大学 | 一种基于行人姿态估计的电梯智能调度方法 |
CN112153343A (zh) * | 2020-09-25 | 2020-12-29 | 北京百度网讯科技有限公司 | 电梯安全监控方法、装置、监控摄像头和存储介质 |
CN112165716A (zh) * | 2020-09-29 | 2021-01-01 | 重庆邮电大学 | 支持重传的无线网络信息年龄优化调度方法 |
CN113277388A (zh) * | 2021-04-02 | 2021-08-20 | 东南大学 | 一种电动吊篮数据采集控制方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1931697A (zh) * | 2006-09-29 | 2007-03-21 | 浙江工业大学 | 基于图像识别技术的群控电梯智能调度装置 |
CN105976400A (zh) * | 2016-05-10 | 2016-09-28 | 北京旷视科技有限公司 | 基于神经网络模型的目标跟踪方法及装置 |
CN106127173A (zh) * | 2016-06-30 | 2016-11-16 | 北京小白世纪网络科技有限公司 | 一种基于深度学习的人体属性识别方法 |
CN106599827A (zh) * | 2016-12-09 | 2017-04-26 | 浙江工商大学 | 一种基于深度卷积神经网络的小目标快速检测方法 |
CN106586738A (zh) * | 2017-01-24 | 2017-04-26 | 沈阳建筑大学 | 一种基于视觉检测的多轿厢电梯调度方法 |
CN108217352A (zh) * | 2018-01-19 | 2018-06-29 | 深圳禾思众成科技有限公司 | 一种智能电梯调度系统 |
-
2019
- 2019-01-09 CN CN201910019632.5A patent/CN109829390A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1931697A (zh) * | 2006-09-29 | 2007-03-21 | 浙江工业大学 | 基于图像识别技术的群控电梯智能调度装置 |
CN105976400A (zh) * | 2016-05-10 | 2016-09-28 | 北京旷视科技有限公司 | 基于神经网络模型的目标跟踪方法及装置 |
CN106127173A (zh) * | 2016-06-30 | 2016-11-16 | 北京小白世纪网络科技有限公司 | 一种基于深度学习的人体属性识别方法 |
CN106599827A (zh) * | 2016-12-09 | 2017-04-26 | 浙江工商大学 | 一种基于深度卷积神经网络的小目标快速检测方法 |
CN106586738A (zh) * | 2017-01-24 | 2017-04-26 | 沈阳建筑大学 | 一种基于视觉检测的多轿厢电梯调度方法 |
CN108217352A (zh) * | 2018-01-19 | 2018-06-29 | 深圳禾思众成科技有限公司 | 一种智能电梯调度系统 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112153343A (zh) * | 2020-09-25 | 2020-12-29 | 北京百度网讯科技有限公司 | 电梯安全监控方法、装置、监控摄像头和存储介质 |
CN112149588A (zh) * | 2020-09-28 | 2020-12-29 | 北京工业大学 | 一种基于行人姿态估计的电梯智能调度方法 |
CN112149588B (zh) * | 2020-09-28 | 2024-05-28 | 北京工业大学 | 一种基于行人姿态估计的电梯智能调度方法 |
CN112165716A (zh) * | 2020-09-29 | 2021-01-01 | 重庆邮电大学 | 支持重传的无线网络信息年龄优化调度方法 |
CN113277388A (zh) * | 2021-04-02 | 2021-08-20 | 东南大学 | 一种电动吊篮数据采集控制方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109829390A (zh) | 一种基于深度学习的电梯智能调度系统及方法 | |
CN107133612A (zh) | 基于图像处理与语音识别技术的智能病房及其运行方法 | |
CN108805093A (zh) | 基于深度学习的手扶电梯乘客摔倒检测算法 | |
CN109166094A (zh) | 一种基于深度学习的绝缘子故障定位识别方法 | |
CN107871101A (zh) | 一种人脸检测方法及装置 | |
CN107977671A (zh) | 一种基于多任务卷积神经网络的舌象分类方法 | |
CN111401433A (zh) | 用户信息获取方法、装置、电子设备及存储介质 | |
CN205328387U (zh) | 一种基于人脸识别和智能推荐的电梯控制系统 | |
CN106650693A (zh) | 一种用于人脸比对的多特征融合识别算法 | |
CN110781829A (zh) | 一种轻量级深度学习的智慧营业厅人脸识别方法 | |
CN107644218B (zh) | 基于图像采集功能实现人流密集区域行为分析判断的工作方法 | |
CN104866829A (zh) | 一种基于特征学习的跨年龄人脸验证方法 | |
CN109948501A (zh) | 一种监控视频中人员和安全帽的检测方法 | |
CN107066514A (zh) | 老年人的情绪识别方法和系统 | |
CN109871780A (zh) | 一种人脸质量判决方法、系统及人脸识别方法、系统 | |
CN110135244B (zh) | 一种基于脑-机协同智能的表情识别方法 | |
CN108762503A (zh) | 一种基于多模态数据采集的人机交互系统 | |
CN109377035A (zh) | 一种基于大数据的智慧餐厅管理平台 | |
CN109815920A (zh) | 基于卷积神经网络和对抗卷积神经网络的手势识别方法 | |
CN110020714A (zh) | 模型训练及数据分析方法、装置、设备以及存储介质 | |
CN104063686A (zh) | 作物叶部病害图像交互式诊断系统与方法 | |
CN107330412A (zh) | 一种基于深度稀疏表示的人脸年龄估计方法 | |
CN110244854A (zh) | 一种多类别脑电数据识别的人工智能方法 | |
CN114626419A (zh) | 一种基于wifi中信道状态信息和改进卷积神经网络的动作识别方法 | |
Sakthimohan et al. | Detection and Recognition of Face Using Deep Learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190531 |
|
RJ01 | Rejection of invention patent application after publication |