CN110909648B - 使用神经网络在边缘计算设备上实现的人流量监控方法 - Google Patents
使用神经网络在边缘计算设备上实现的人流量监控方法 Download PDFInfo
- Publication number
- CN110909648B CN110909648B CN201911119015.9A CN201911119015A CN110909648B CN 110909648 B CN110909648 B CN 110909648B CN 201911119015 A CN201911119015 A CN 201911119015A CN 110909648 B CN110909648 B CN 110909648B
- Authority
- CN
- China
- Prior art keywords
- pedestrian
- frame
- convolution
- neural network
- pedestrians
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
- G06V20/53—Recognition of crowd images, e.g. recognition of crowd congestion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/94—Hardware or software architectures specially adapted for image or video understanding
- G06V10/955—Hardware or software architectures specially adapted for image or video understanding using specific electronic processors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Abstract
本发明公开了一种使用神经网络在边缘计算设备上实现的人流量监控方法,该方法首先从监控摄像头获取视频流,其次由边缘计算设备对视频流中的图像进行行人检测得到行人位置,再次判断在当前帧中检测到的行人是否在前一帧出现过并为他们分配编号,最后通过判断行人在相邻帧中的移动方向统计指定方向的人流量。本发明基于神经网络在计算机视觉领域的应用,并且克服了基于神经网络的方法对计算设备要求较高等问题,使得该方法可以在边缘计算设备上实现,从而降低设备成本并且提高灵活性,同时达到较高的检测准确率和较快的检测速度。
Description
技术领域
本发明涉及计算机视觉和深度学习技术,特别涉及一种使用神经网络在边缘计算设备上实现的人流量监控方法。
背景技术
随着当今社会对城市交通便利性要求的提高,准确统计公共交通人流量,合理规划公共交通线路和车辆数量有了更高的研究价值。深度学习技术作为人工智能的热门研究趋势之一,被广泛应用到目标识别和检测等场景中。最近,基于深度学习的人头目标识别技术被应用于人流量检测和统计任务中,将人工标注好人头目标位置的图片数据送入卷积神经网络中进行训练,学习到人头目标特征的神经网络可以检测到新的图片中人头目标的位置,进而进行下一步统计。深度学习在解决许多问题时达到了比其他方法更好的效果,但其一般需要较高的计算量,对于硬件要求较高,难以部署到边缘计算设备上,而服务器往往十分昂贵,且响应性能不如边缘计算,使用普通计算机则相较于边缘计算设备有更高的成本。使用深度学习在边缘计算设备上实现人流量监控还有一定的发展空间。
发明内容
本发明的目的在于克服现有技术需要的计算量大,对硬件设备要求高等缺点,提供一种用神经网络在边缘计算设备上实现的人流量监控方法,可以部署在公交车等移动环境中,应用于公共交通人流量统计。
实现本发明目的的具体技术方案是:
一种使用神经网络在边缘计算设备上实现的人流量监控方法,该方法使用的设备包括监控摄像头、控制中心和显示屏,控制中心使用的是边缘计算设备,具体为树莓派和英特尔神经计算棒,特点是该方法包括如下步骤:
步骤1:控制中心获取监控摄像头传入的视频流中的其中一帧图像,摄像头自顶向下拍摄,对行人的检测相当于对人头的检测;
步骤2:将图像送入卷积神经网络模型进行人头检测得到行人位置;
步骤3:在第一帧完成步骤2后建立一个存储列表,为每一个行人分配唯一编号,存储列表包含行人的编号和位置;以后的每一帧完成步骤2后判断当前帧中的行人是否在存储列表中:若不在,为行人分配编号作为唯一标识,将行人的编号和位置加入存储列表中;若在,更新已有编号行人的位置;其中,所述判断当前帧中的行人是否在存储列表中是通过计算前后两帧中人头目标的中心距离实现的;
步骤4:在监控画面上设置基准线,根据更新前后的行人列表中每一个行人编号对应的行人位置变化判断其移动方向,判断行人是否从指定方向越过基准线以决定是否将行人加入计数,更新当前人数。
所述卷积神经网络模型具体包括基础模型和检测两部分;其中,基础模型由15个卷积模块依次排列组成:第1个卷积模块使用卷积核大小为3*3的卷积层叠加批归一化和激活层;第2到第12个卷积模块使用深度级可分离卷积,每个模块的结构为:卷积核大小为3*3深度级卷积层、批归一化层、激活层、卷积核大小为1*1的卷积层、批归一化层、激活层依次叠加;第13到第15个模块结构与第1个卷积模块相同;检测的输入为基础模型的第11到第15个模块输出的特征图,为这些特征图设置尺度和长宽比不同的先验框,每个特征图用两个卷积核大小为3*3的卷积层分别给出每个先验框的类别置信度和边界框相对于先验框的坐标偏移,置信度最大的类别为该先验框的类别,再根据位置偏移计算出该先验框对应的边界框的真实坐标;涉及背景和人头两个类别,取预测类别为人头的先验框对应的边界框,得到了图像中人头的边界框坐标,即获取了图像中的行人位置。
本发明有益效果
本发明设计的卷积神经网络模型能够在边缘计算设备上使用,能够降低设备成本并且保证检测效率。
本发明只需用到摄像头、树莓派、神经计算棒和显示屏,体积较小,可部署在车辆等移动环境中。
附图说明
图1为本发明流程图;
图2为本发明的卷积神经网络模型结构图;
图3为本发明实施例设备连接示意图。
具体实施方式
以下结合具体实施例,对本发明使用神经网络在边缘计算设备上实现的人流量监控方法作详细说明。
本发明所用到的硬件设备有摄像头、控制中心及显示屏,控制中心使用树莓派和神经计算棒,摄像头、神经计算棒、显示屏都连接到树莓派上。摄像头将采集到的视频数据传输到树莓派,树莓派和神经计算棒在获取到数据后进行人头目标的检测和人数计算,其中检测人头目标部分会在神经计算棒上进行。显示屏显示标示出行人位置的视频画面和当前人数。
参阅图1,本发明具体包括如下步骤:
步骤1:控制中心获取监控摄像头传入的视频流中的其中一帧图像,摄像头自顶向下拍摄,对行人的检测相当于对人头的检测;
步骤2:将图像送入卷积神经网络模型进行人头检测得到行人位置;
参阅图2,卷积神经网络模型包括基础模型部分和检测部分。其中,基础模型部分由15个卷积模块依次排列组成:第1个卷积模块使用卷积核大小为3*3的卷积层叠加批归一化和激活层;第2到第12个卷积模块使用深度级可分离卷积,每个模块的结构为卷积核大小为3*3深度级卷积层、批归一化层、激活层、卷积核大小为1*1的卷积层、批归一化层、激活层依次叠加;第13到第15个模块结构与第1个卷积模块相同。检测部分的输入为基础模型部分第11到第15个模块输出的特征图,为这些特征图设置尺度和长宽比不同的先验框,每个特征图用两个卷积核大小为3*3的卷积层分别给出每个先验框的类别置信度和边界框相对于先验框的坐标偏移,置信度最大的类别为该先验框的类别,再根据位置偏移计算出该先验框对应的边界框的真实坐标。本方法涉及背景和人头两个类别,取预测类别为人头的先验框对应的边界框即得到了图像中人头的边界框坐标,即获取了图像中的行人位置;
步骤3:根据检测到的人头目标的中心点的位置建立或更新存储列表。在第一帧完成步骤2后建立存储列表,为每一个行人分配唯一编号,存储列表包含行人的编号和位置。其后的每一帧完成步骤2后更新存储列表:判断当前帧中的行人是否已经存在存储列表中:若存在,说明该人头目标在之前的帧中已经出现过,更新已有编号行人的位置;若不存在,为行人分配编号作为唯一标识,将行人的编号和位置加入存储列表中,并增加总人数的个数。其中判断检测到的人头目标是否已经在存储列表中通过计算前后两帧中人头目标的中心距离实现;
步骤4:在监控画面上设置基准线,根据更新前后的行人列表中每一个行人编号对应的行人位置变化判断其移动方向,判断行人是否从指定方向越过基准线以决定是否将行人加入计数,更新当前人数。本发明可以将检测结果通过显示屏显示,即显示屏可以显示摄像头采集的当前画面,检测到的人头目标会以方框标示,并在右上角显示当前人数。
实施例
本发明可在公交车等移动场景中使用,具体按以下步骤实施:
如图3所示,连接好设备,接通摄像头和树莓派的电源。
开启摄像头和树莓派。
之后会自动检测摄像头拍摄画面中的人头目标并进行计数,显示屏显示当前画面,检测到的人头目标会以方框标示,并在右上角显示当前人数,直到关闭摄像头或者树莓派。
本发明的保护内容不局限于以上实施例。在不背离发明构思的精神和范围下,本领域技术人员能够想到的变化和优点都被包括在本发明中,并且以所附的权利要求为保护范围。
Claims (1)
1.一种使用神经网络在边缘计算设备上实现的人流量监控方法,该方法使用的设备包括监控摄像头、控制中心和显示屏,控制中心使用的是边缘计算设备,具体为树莓派和英特尔神经计算棒,其特征在于,该方法包括如下步骤:
步骤1:控制中心获取监控摄像头传入的视频流中的其中一帧图像,摄像头自顶向下拍摄,对行人的检测相当于对人头的检测;
步骤2:将图像送入卷积神经网络模型进行人头检测得到行人位置;
步骤3:在第一帧完成步骤2后建立一个存储列表,为每一个行人分配唯一编号,存储列表包含行人的编号和位置;以后的每一帧完成步骤2后判断当前帧中的行人是否在存储列表中:若不在,为行人分配编号作为唯一标识,将行人的编号和位置加入存储列表中;若在,更新已有编号行人的位置;其中,所述判断当前帧中的行人是否在存储列表中是通过计算前后两帧中人头目标的中心距离实现的;
步骤4:在监控画面上设置基准线,根据更新前后的行人列表中每一个行人编号对应的行人位置变化判断其移动方向,判断行人是否从指定方向越过基准线以决定是否将行人加入计数,更新当前人数;
所述卷积神经网络模型具体包括基础模型和检测两部分;其中,基础模型由15个卷积模块依次排列组成:第1个卷积模块使用卷积核大小为3*3的卷积层叠加批归一化和激活层;第2到第12个卷积模块使用深度级可分离卷积,每个模块的结构为:卷积核大小为3*3深度级卷积层、批归一化层、激活层、卷积核大小为1*1的卷积层、批归一化层、激活层依次叠加;第13到第15个模块结构与第1个卷积模块相同;检测的输入为基础模型的第11到第15个模块输出的特征图,为这些特征图设置尺度和长宽比不同的先验框,每个特征图用两个卷积核大小为3*3的卷积层分别给出每个先验框的类别置信度和边界框相对于先验框的坐标偏移,置信度最大的类别为该先验框的类别,再根据位置偏移计算出该先验框对应的边界框的真实坐标;涉及背景和人头两个类别,取预测类别为人头的先验框对应的边界框,得到了图像中人头的边界框坐标,即获取了图像中的行人位置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911119015.9A CN110909648B (zh) | 2019-11-15 | 2019-11-15 | 使用神经网络在边缘计算设备上实现的人流量监控方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911119015.9A CN110909648B (zh) | 2019-11-15 | 2019-11-15 | 使用神经网络在边缘计算设备上实现的人流量监控方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110909648A CN110909648A (zh) | 2020-03-24 |
CN110909648B true CN110909648B (zh) | 2023-08-25 |
Family
ID=69816563
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911119015.9A Active CN110909648B (zh) | 2019-11-15 | 2019-11-15 | 使用神经网络在边缘计算设备上实现的人流量监控方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110909648B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114723781B (zh) * | 2022-03-07 | 2022-10-28 | 北京拙河科技有限公司 | 基于相机阵列的目标追踪方法及系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101847206A (zh) * | 2010-04-21 | 2010-09-29 | 北京交通大学 | 基于交通监控设施的行人流量统计方法与系统 |
WO2018059408A1 (zh) * | 2016-09-29 | 2018-04-05 | 北京市商汤科技开发有限公司 | 跨线计数方法和神经网络训练方法、装置和电子设备 |
CN108154110A (zh) * | 2017-12-22 | 2018-06-12 | 任俊芬 | 一种基于深度学习人头检测的密集人流量统计方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170161591A1 (en) * | 2015-12-04 | 2017-06-08 | Pilot Ai Labs, Inc. | System and method for deep-learning based object tracking |
-
2019
- 2019-11-15 CN CN201911119015.9A patent/CN110909648B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101847206A (zh) * | 2010-04-21 | 2010-09-29 | 北京交通大学 | 基于交通监控设施的行人流量统计方法与系统 |
WO2018059408A1 (zh) * | 2016-09-29 | 2018-04-05 | 北京市商汤科技开发有限公司 | 跨线计数方法和神经网络训练方法、装置和电子设备 |
CN108154110A (zh) * | 2017-12-22 | 2018-06-12 | 任俊芬 | 一种基于深度学习人头检测的密集人流量统计方法 |
Non-Patent Citations (1)
Title |
---|
Multiple task learning with flexible structure regularization;Pu,J;Neurocomputing;第177卷;242-256 * |
Also Published As
Publication number | Publication date |
---|---|
CN110909648A (zh) | 2020-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107067794B (zh) | 一种基于视频图像处理的室内车辆定位导航系统及方法 | |
EP3806064B1 (en) | Method and apparatus for detecting parking space usage condition, electronic device, and storage medium | |
CN104813339B (zh) | 用于检测视频中的对象的方法、设备和系统 | |
EP3211596A1 (en) | Generating a virtual world to assess real-world video analysis performance | |
US10832478B2 (en) | Method and system for virtual sensor data generation with depth ground truth annotation | |
CN109520500B (zh) | 一种基于终端拍摄图像匹配的精确定位及街景库采集方法 | |
CN108053449A (zh) | 双目视觉系统的三维重建方法、装置及双目视觉系统 | |
CN109242961A (zh) | 一种脸部建模方法、装置、电子设备和计算机可读介质 | |
CN105279372A (zh) | 一种建筑物高度计算方法和装置 | |
CN112270381B (zh) | 基于深度学习的人流量检测方法 | |
CN107256082B (zh) | 一种基于网络一体化和双目视觉技术的投掷物弹道轨迹测算系统 | |
WO2020211427A1 (zh) | 基于扫描点云数据的分割与识别方法、系统及存储介质 | |
CN115512251A (zh) | 基于双分支渐进式特征增强的无人机低照度目标跟踪方法 | |
CN105809716A (zh) | 融合超像素与三维自组织背景减除法的前景提取方法 | |
CN114202622B (zh) | 虚拟建筑生成方法、装置、设备及计算机可读存储介质 | |
CN110009675A (zh) | 生成视差图的方法、装置、介质及设备 | |
CN111768361B (zh) | 地下空间品质评价及其可视化呈现方法及系统 | |
Zhang et al. | Application research of YOLO v2 combined with color identification | |
CN110909648B (zh) | 使用神经网络在边缘计算设备上实现的人流量监控方法 | |
CN114627186A (zh) | 一种测距方法及测距装置 | |
CN107610224A (zh) | 一种基于弱监督与明确闭塞建模的3d汽车对象类表示算法 | |
CN104182993B (zh) | 一种目标跟踪的方法 | |
CN105574841A (zh) | 一种基于颜色的图像分割方法及装置 | |
CN113018854A (zh) | 针对游戏感兴趣目标的实时ai超分方法、系统及计算机可读存储介质 | |
TWI831552B (zh) | 圖像識別模型訓練方法、圖像深度識別方法及相關設備 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |