CN113435336A - 一种基于人工智能的跑步智能计时系统及方法 - Google Patents

一种基于人工智能的跑步智能计时系统及方法 Download PDF

Info

Publication number
CN113435336A
CN113435336A CN202110720125.1A CN202110720125A CN113435336A CN 113435336 A CN113435336 A CN 113435336A CN 202110720125 A CN202110720125 A CN 202110720125A CN 113435336 A CN113435336 A CN 113435336A
Authority
CN
China
Prior art keywords
runner
running
area
camera
runners
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110720125.1A
Other languages
English (en)
Other versions
CN113435336B (zh
Inventor
唐义平
汪斌
祖慈
杨盛世
李帷韬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Anhui Yishi Technology Co ltd
Original Assignee
Anhui Yishi Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Anhui Yishi Technology Co ltd filed Critical Anhui Yishi Technology Co ltd
Priority to CN202110720125.1A priority Critical patent/CN113435336B/zh
Publication of CN113435336A publication Critical patent/CN113435336A/zh
Application granted granted Critical
Publication of CN113435336B publication Critical patent/CN113435336B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于人工智能的跑步计时系统及方法,该系统包括:数据采集模块、预处理模块、人员检测模块、轨迹检测模块、逻辑判断模块、号码检测模块、过线检测模块、计时模块和成绩输出模块;并应用于由跑道区和成绩区所组成的跑步场馆中,在跑道区的跑道上的n个跑步者各穿戴不同颜色的号码牌,每个跑步者的前面和后面均穿戴有同一颜色的号码牌,且在跑道区依次划分为m个摄像区域,在每个摄像区域的跑道上布置有2个摄像头,其中一个摄像头沿跑步方向正向拍摄,另一个摄像头逆向拍摄,在成绩区布置有工控机、显示屏和喇叭。本发明能利用人工智能实现对跑步时间的智能计时,从而能减轻老师的现场参与度且成绩公平、相比人工计时更准确。

Description

一种基于人工智能的跑步智能计时系统及方法
技术领域
本发明属于人工智能领域,具体的说是一种基于人工智能的跑步计时系统及方法。
背景技术
心肺耐力是指机体维持长时间运动或工作而不过早出现疲劳的能力,它是衡量人的体质健康状况和劳动工作能力的基本生理指标之一。目前采用男子1000米跑,女子800米跑来监测学生心肺耐力水平。因此,一种针对跑步计时的方法就十分有意义。然而目前大多数针对跑步者成绩测试都是采用人工计时,既费时间,也没有更多的裁判。因此设计一种快速、省时、省人力、又准确还能防止学生作弊的智能跑步计时系统及方法具有重要意义。
发明内容
本发明是为了解决上述现有技术存在的不足之处,提出一种基于人工智能的跑步计时系统及方法,以期能利用人工智能实现对跑步时间的智能计时,并能对违规情况及时反馈,从而能减轻老师的现场参与度且成绩公平、省时省力、相比人工计时更准确。
本发明为达到上述发明目的,采用如下技术方案:
本发明一种基于人工智能的跑步计时系统的特点是应用于由跑道区和成绩区所组成的跑步场馆中;所述跑道区的跑道上的n个跑步者各穿戴不同颜色的号码牌,每个跑步者的前面和后面均穿戴有同一颜色的号码牌;所述跑道区依次划分为m个摄像区域,在每个摄像区域的跑道上布置有2个摄像头,其中一个摄像头沿跑步方向正向拍摄,另一个摄像头逆向拍摄;在所述成绩区布置有工控机、显示屏和喇叭;
所述工控机上设置有:数据采集模块、预处理模块、人员检测模块、轨迹检测模块、逻辑判断模块、号码检测模块、过线检测模块、计时模块和成绩输出模块;
所述数据采集模块利用2m个摄像头采集所有跑步者的跑步视频,并相应发送到所述预处理模块;
所述预处理模块对所接收到的当前跑步视频进行剪切,并提取剪切视频的视频关键帧,再对所述视频关键帧进行裁剪,得到目标数据集;
所述人员检测模块对目标数据集进行人员检测处理,得到当前跑步视频中跑步者的人数;
所述轨迹检测模块对目标数据集进行轨迹追踪处理,得到当前跑步视频中跑步者的移动轨迹;
所述号码检测模块对目标数据集进行号码检测处理,得到当前跑步视频中跑步者对应的编号;
所述逻辑判断模块根据当前跑步视频中跑步者的人数及其移动轨迹判定跑步者是否有违规现象;当存在违规时,根据相应的移动轨迹得到所对应的跑步者的编号并发送给成绩输出模块;
所述计时模块在跑步开始时,获取起点处所在的摄像区域中逆向拍摄的摄像头的第一帧图像的时间戳t0并开始计时;
所述过线检测模块检测第一帧图像中n个跑步者脚的位置,以判断是否超出起点直线,若超出起点直线,则判断为抢跑并通过喇叭播报后重新开始计时和检测;否则继续计时和检测;
初始化qj=0,表示第j个跑步者跑完0圈;
当第j个跑步者通过终点处所在的摄像区域时,令qj+1赋值给qj,直到qj=max时,获取达到阈值时的终点处的摄像区域中摄像头的终点图像视频并发送给工控机;其中,max为所设定圈数的阈值;
所述过线检测模块检测终点图像视频中第j个跑步者脚的位置,以判断是否超出终点直线,若超出终点直线,则表示第j个跑步者跑步结束,并记录第j个跑步者达到终点的时间戳tj后,将第j个跑步者的计时结果发送给所述成绩输出模块;否则,继续检测;
所述号码检测模块检测终点图像视频中第j个跑步者的号码牌,并将检测结果发送给所述成绩输出模块;
所述成绩输出模块将第j个跑步者的计时结果与第j个跑步者的号码牌配对后,将第j个跑步者的成绩输出到所述显示屏中进行显示,并通过所述喇叭进行成绩播报。
本发明所述的一种基于人工智能的跑步计时系统的特点也在于,所述人员检测模块采用MaskRCNN实例分割神经网络进行人员检测处理,所述MaskRCNN实例分割神经网络包括:用于特征提取的深度残差网络ResNeXt-101和特征金字塔网络FPN、用于提取RoI的区域建议网络RPN和ROIAlign层、用于目标检测和语义分割的分类器网络;
所述区域建议网络RPN包括:c1个卷积核大小为k1×s1的卷积层,步长大小均为s1,c2个卷积核大小为k2×s2的卷积层,步长大小均为s2
所述分类器网络包括三个分支:全卷积网络的Mask分支、包含f1个全连接层的边界框回归分支、包含f2个全连接层的softmax分支;
将目标数据集输入到Mask RCNN实例分割神经网络中,经过所述深度残差网络ResNeXt-101和特征金字塔FPN的特征提取,得到图像特征图;
所述图像特征图输入到区域建议网络RPN中,并经过c1个卷积层的卷积处理,得到anchor类别,同时所述c2个卷积层对图像特征图进行卷积处理,得到边框精调结果;
所述anchor类别和边框精调结果经过ROIAlign层,得到ROIAlign层特征图,再利用双线性插值对ROIAlign层特征图进行处理,得到感兴趣区域对齐后的特征图;
所述感兴趣区域对齐后的特征图输入到分类器网络中,经过Mask分支的全卷积处理,得到预测掩膜图像;
所述边界框回归分支对所述感兴趣区域对齐后的特征图和预测掩膜图像进行边界框回归,得到边界框坐标;
所述softmax分支对感兴趣区域对齐后的特征图进行softmax分类,得到目标类别;
以所述边框坐标和目标类别作为分割后的目标检测结果,即为跑步者的人数。
所述轨迹检测模块采用Deep Sort算法进行轨迹追踪处理,所述Deep Sort算法包括YOLOv5目标检测算法、非极大值抑制NMS算法、卡尔曼滤波算法和匈牙利算法;
所述YOLOv5目标检测算法用于提取目标数据集的深度特征,从而得到运动目标的候选框;
所述非极大值抑制NMS算法用于去除所述运动目标的候选框中的重叠框,从而得到运动目标检测框;
所述卡尔曼滤波算法用于对所述运动目标检测框在跑步视频中下一帧的位置和状态进行预测,得到运动目标检测框下一时刻的状态参数;
所述匈牙利算法对前后两帧之间若干个运动目标检测框进行最优匹配,得到运动目标检测框在跑步视频中的移动轨迹。
所述号码检测模块采用3D卷积神经网络进行号码检测处理,所述3D卷积神经网络包含一个硬连线hardwired层、c3个卷积层,卷积核大小均为k3×s3,步长均为s,c3-1个下采样层和f3个全连接层;
将目标数据集输入到3D卷积神经网络中,利用所述硬连线hardwired层对每帧图像提取多通道信息,得到硬线层的特征图;
其中一个卷积层对硬线层特征图的多通道信息进行卷积操作,得到卷积层的特征图;
相应的一个下采样层采用maxpooling操作对卷积层的特征图进行处理,得到相同数目且空间分辨率降低的特征图;从而经过c3-1个卷积和下采样处理后,得到的结果再经过第c3个卷积层的处理后得到一个一维特征向量,并输入到所述全连接层中,得到号码分类结果并作为跑步者对应的编号。
本发明一种基于人工智能的跑步计时方法的特点是应用于由跑道区和成绩区所组成的跑步场馆中;所述跑道区的跑道上的n个跑步者各穿戴不同颜色的号码牌,每个跑步者的前面和后面均穿戴有同一颜色的号码牌;所述跑道区依次划分为m个摄像区域,在每个摄像区域的跑道上布置有2个摄像头,其中一个摄像头沿跑步方向正向拍摄,另一个摄像头逆向拍摄;在所述成绩区布置有工控机、显示屏和喇叭;所述计时方法是按如下步骤进行:
步骤1、跑步计时开始,获取起点处所在的摄像区域中逆向拍摄的摄像头的第一帧图像并发送给工控机;
所述工控机记录第一帧图像的时间戳t0后开始计时,同时检测第一帧图像中n个跑步者脚的位置,以判断是否超出起点直线,若超出起点直线,则判断为抢跑并通过喇叭播报后返回步骤1,否则,令qj=0,表示第j个跑步者跑完0圈;
步骤2、定义N表示所有摄像头区域中出现跑步者的人数,并初始化人数N=n;
步骤3、对进入第i个摄像区域的所有跑步者通过采用MaskRCNN实例分割神经网络进行人员检测,得到通过第i个摄像区域的跑步者人数Pi
步骤4、对进入第i个摄像区域的所有跑步者通过Deep Sort算法进行轨迹追踪,得到第i个摄像区域的跑步者运动轨迹并保存;
步骤5、初始化j=1,表示第一名跑步者;
步骤5.1、当终点处所在的摄像区域的摄像头检测到第j个跑步者经过时,令qj+1赋值给qj,若qj=max时,对进入所述终点处所在的摄像区域的所有跑步者通过3D卷积神经网络识别跑步者对应号码,并继续执行步骤5.2;否则,返回步骤5.1;其中,max为所设定圈数的阈值;
步骤5.2、将所述终点处所在的摄像区域作为当前检测区域,统计当前检测区域出现的跑步者人数m;
步骤5.3、当m=1时,表示单人通过当前检测区域,从当前检测区域的摄像头中识别出第j个跑步者的号码牌并记录到达终点的时间戳tj,得到第j个跑步者的跑步成绩tj-t0,令j+1赋值给j后继续执行步骤6,否则执行步骤5.4;
步骤5.4、当m=2时,表示双人均通过当前检测区域时,从当前检测区域的向后拍摄的摄像头识别出第j个跑步者的号码,从当前检测区域的向前拍摄的摄像头识别出第j+m个跑步者的号码,获取各自到达终点的时间戳tj和tj+1,得到对应号码的跑步成绩tj-t0和tj+1-t0,令j+2赋值给j后继续执行步骤6,否则执行步骤5.5;
步骤5.5、当m∈[3,n]时,表示有m个人均通过当前检测区域,从当前检测区域的向后拍摄的摄像头识别出第j个跑步者的号码,从当前检测区域的向前拍摄的摄像头识别出第j+m-1个跑步者的号码,获取各自到达终点的时间戳tj和tj+m-1,得到对应号码的跑步成绩tj-t0和tj+m-1-t0;对于中间第j+1,…,j+m-2个无法识别到号码的跑步者,则采用人工识别,得到中间第j+1,…,j+m-2个跑步者的号码牌;令j+m赋值给j后继续执行步骤6;
步骤6、若j=n+1,则统计通过所有摄像区域的所有跑步者总数
Figure BDA0003136658460000051
否则,返回步骤5继续执行;
步骤7、判断N=(max×q+1)×n是否成立,若成立,则表示无抄近道犯规,所有跑步者的成绩有效,并执行步骤8;否则工控机提示存在抄近道犯规的嫌疑警告;
步骤8、将每个跑步者的跑步成绩与对应号码依次输出到所述显示屏中进行显示,并通过所述喇叭依次播报跑步者的成绩。
与现有技术相比,本发明的有益效果在于:
1、本发明通过人工智能使用摄像头对跑步者进行人员检测和轨迹追踪,实现了对跑步者的智能计时,从而使跑步成绩更加准确;
2、本发明通过3D卷积神经网络进行号码检测,实现了跑步者的跑步成绩和身份智能配对,降低了人工参与度,从而使系统更加智能化;
3、本发明通过摄像头对进入自身有效区域视野范围内的所有跑步者进行轨迹追踪,相应得到在一段时间内的跑步图像并存储,从而对现场违规情况及时反馈且证据可查。
附图说明
图1为本发明跑步智能计时流程图;
图2为本发明号码识别流程图;
图3为本发明MaskRCNN实例分割神经网络结构模型图;
图4为本发明3D卷积神经网络结构模型图;
具体实施方式
本实施例中,一种基于人工智能的跑步计时系统是应用于由跑道区和成绩区所组成的跑步场馆中;跑道区的跑道上的n个跑步者各穿戴不同颜色的号码牌,每个跑步者的前面和后面均穿戴有同一颜色的号码牌;跑道区依次划分为m个摄像区域,在每个摄像区域的跑道上布置有2个摄像头,其中一个摄像头沿跑步方向正向拍摄,另一个摄像头逆向拍摄;在成绩区布置有工控机、显示屏和喇叭;
工控机上设置有:数据采集模块、预处理模块、人员检测模块、轨迹检测模块、逻辑判断模块、号码检测模块、过线检测模块、计时模块和成绩输出模块;
数据采集模块利用2m个摄像头采集所有跑步者的跑步视频,并相应发送到预处理模块;
预处理模块对所接收到的当前跑步视频进行剪切,并提取剪切视频的视频关键帧,再对视频关键帧进行裁剪,得到目标数据集;
人员检测模块对目标数据集进行人员检测处理,得到当前跑步视频中跑步者的人数;
轨迹检测模块对目标数据集进行轨迹追踪处理,得到当前跑步视频中跑步者的移动轨迹;
号码检测模块对目标数据集进行号码检测处理,得到当前跑步视频中跑步者对应的编号;
逻辑判断模块根据当前跑步视频中跑步者的人数及其移动轨迹判定跑步者是否有违规现象;当存在违规时,根据相应的移动轨迹得到所对应的跑步者的编号并发送给成绩输出模块;
计时模块在跑步开始时,获取起点处所在的摄像区域中逆向拍摄的摄像头的第一帧图像的时间戳t0并开始计时;
过线检测模块检测第一帧图像中n个跑步者脚的位置,以判断是否超出起点直线,若超出起点直线,则判断为抢跑并通过喇叭播报后重新开始计时和检测;否则继续计时和检测;
初始化qj=0,表示第j个跑步者跑完0圈;
当第j个跑步者通过终点处所在的摄像区域时,令qj+1赋值给qj,直到qj=max时,获取达到阈值时的终点处的摄像区域中摄像头的终点图像视频并发送给工控机;其中,max为所设定圈数的阈值;
过线检测模块检测终点图像视频中第j个跑步者脚的位置,以判断是否超出终点直线,若超出终点直线,则表示第j个跑步者跑步结束,并记录第j个跑步者达到终点的时间戳tj后,将第j个跑步者的计时结果发送给成绩输出模块;否则,继续检测;
号码检测模块检测终点图像视频中第j个跑步者的号码牌,并将检测结果发送给成绩输出模块;
成绩输出模块将第j个跑步者的计时结果与第j个跑步者的号码牌配对后,将第j个跑步者的成绩输出到显示屏中进行显示,并通过喇叭进行成绩播报。
具体实施中,参照图3,构建MaskRCNN实例分割神经网络,系统运行中人员检测模块采用MaskRCNN实例分割神经网络进行人员检测处理,MaskRCNN实例分割神经网络包括:用于特征提取的深度残差网络ResNeXt-101和特征金字塔网络FPN、用于提取RoI的区域建议网络RPN和ROIAlign层、用于目标检测和语义分割的分类器网络;
区域建议网络RPN包括:c1个卷积核大小为k1×s1的卷积层,步长大小均为s1,c2个卷积核大小为k2×s2的卷积层,步长大小均为s2
分类器网络包括三个分支:全卷积网络的Mask分支、包含f1个全连接层的边界框回归分支、包含f2个全连接层的softmax分支;
将目标数据集输入到MaskRCNN实例分割神经网络中,经过深度残差网络ResNeXt-101和特征金字塔FPN的特征提取,得到图像特征图;
图像特征图输入到区域建议网络RPN中,并经过c1个卷积层的卷积处理,得到anchor类别,同时c2个卷积层对图像特征图进行卷积处理,得到边框精调结果;
为了从RPN网络确定的ROI中导出较小的特征图,且对每个感兴趣区域获取的特征与感兴趣区域进行对齐,将anchor类别和边框精调结果经过ROIAlign层,得到ROIAlign层特征图,以解决ROI Pooling的局限性,取消量化操作,保留像素值的浮点数坐标;由于ROIAlign技术并没有使用量化操作,若不想引入量化误差,需要再利用双线性插值对ROIAlign层特征图进行处理,双线性插值是一种比较好的图像缩放算法,它充分的利用了原图中虚拟点四周的四个真实存在的像素值来共同决定目标图中的一个像素值,即可以将这个虚拟的位置点对应的像素值估计出来,最后即可得到感兴趣区域对齐后的特征图;
感兴趣区域对齐后的特征图输入到分类器网络中,经过Mask分支的全卷积处理,将感兴趣区域对齐的输出维度扩大,这样在预测掩膜时会更加精确,从而得到预测掩膜图像;
边界框回归分支对感兴趣区域对齐后的特征图和预测掩膜图像进行边界框回归,得到边界框坐标;
softmax分支对感兴趣区域对齐后的特征图进行softmax分类,得到目标类别;
以边框坐标和目标类别作为分割后的目标检测结果,即为跑步者的人数。
本实施例中,轨迹检测模块采用Deep Sort算法进行轨迹追踪处理,Deep Sort算法包括YOLOv5目标检测算法、非极大值抑制NMS算法、卡尔曼滤波算法和匈牙利算法;
YOLOv5目标检测算法用于提取目标数据集的深度特征,从而得到运动目标的候选框;
非极大值抑制NMS算法用于去除运动目标的候选框中的重叠框,从而得到运动目标检测框;
卡尔曼滤波算法用于对运动目标检测框在跑步视频中下一帧的位置和状态进行预测,得到运动目标检测框下一时刻的状态参数;
匈牙利算法对前后两帧之间若干个运动目标检测框进行最优匹配,得到运动目标检测框在跑步视频中的移动轨迹。
具体实施中,参照图4,构建3D卷积神经网络,在系统运行中号码检测模块采用3D卷积神经网络进行号码检测处理,3D卷积神经网络包含一个硬连线hardwired层、c3个卷积层,卷积核大小均为k3×s3,步长均为s,c3-1个下采样层和f3个全连接层;
将目标数据集输入到3D卷积神经网络中,且目标数据集中是7张大小为60x40的连续帧,7张帧利用硬连线hardwired层对每帧图像提取多通道信息,获得5种不同特征:灰度、x方向梯度、y方向梯度、x方向光流、y方向光流,前面三个通道的信息可以直接对每帧分别操作获取,后面的光流(x,y)则需要利用两帧的信息才能提取,最后得到硬线层的特征图;
其中一个卷积层对硬线层特征图的多通道信息进行卷积操作,得到卷积层的特征图;
相应的一个下采样层采用maxpooling操作对卷积层的特征图进行处理,得到相同数目且空间分辨率降低的特征图;从而经过c3-1个卷积和下采样处理后,得到的结果再经过第c3个卷积层的处理后得到一个一维特征向量,并输入到全连接层中,得到号码分类结果并作为跑步者对应的编号。
本实施例中,参照图1,一种基于人工智能的跑步计时方法是应用于由跑道区和成绩区所组成的跑步场馆中;跑道区的跑道上的n个跑步者各穿戴不同颜色的号码牌,每个跑步者的前面和后面均穿戴有同一颜色的号码牌;跑道区依次划分为m个摄像区域,在每个摄像区域的跑道上布置有2个摄像头,其中一个摄像头沿跑步方向正向拍摄,另一个摄像头逆向拍摄;在成绩区布置有工控机、显示屏和喇叭;该计时方法是按如下步骤进行:
步骤1、跑步计时开始,获取起点处所在的摄像区域中逆向拍摄的摄像头的第一帧图像并发送给工控机;
工控机记录第一帧图像的时间戳t0后开始计时,同时检测第一帧图像中n个跑步者脚的位置,以判断是否超出起点直线,若超出起点直线,则判断为抢跑并通过喇叭播报后返回步骤1,否则,令qj=0,表示第j个跑步者跑完0圈;
步骤2、定义N表示所有摄像头区域中出现跑步者的人数,并初始化人数N=n,在跑步结束后用于判断是否有跑步者抄近道的违规操作;
步骤3、对进入第i个摄像区域的所有跑步者通过采用MaskRCNN实例分割神经网络进行人员检测,得到通过第i个摄像区域的跑步者人数Pi
步骤4、对进入第i个摄像区域的所有跑步者通过Deep Sort算法进行轨迹追踪,得到第i个摄像区域的跑步者运动轨迹并保存;
步骤5、初始化j=1,表示第一名跑步者;
步骤5.1、当终点处所在的摄像区域的摄像头检测到第j个跑步者经过时,令qj+1赋值给qj,若qj=max时,参照图2,对进入终点处所在的摄像区域的所有跑步者通过3D卷积神经网络识别跑步者对应号码,并继续执行步骤5.2;否则,返回步骤5.1;其中,max为所设定圈数的阈值;
步骤5.2、将终点处所在的摄像区域作为当前检测区域,统计当前检测区域出现的跑步者人数m;
步骤5.3、当m=1时,表示单人通过当前检测区域,从当前检测区域的摄像头中识别出第j个跑步者的号码牌并记录到达终点的时间戳tj,得到第j个跑步者的跑步成绩tj-t0,令j+1赋值给j后继续执行步骤6,否则执行步骤5.4;
步骤5.4、当m=2时,表示双人均通过当前检测区域时,从当前检测区域的向后拍摄的摄像头识别出第j个跑步者的号码,从当前检测区域的向前拍摄的摄像头识别出第j+m个跑步者的号码,获取各自到达终点的时间戳tj和tj+1,得到对应号码的跑步成绩tj-t0和tj+1-t0,令j+2赋值给j后继续执行步骤6,否则执行步骤5.5;
步骤5.5、当m∈[3,n]时,表示有m个人均通过当前检测区域,从当前检测区域的向后拍摄的摄像头识别出第j个跑步者的号码,从当前检测区域的向前拍摄的摄像头识别出第j+m-1个跑步者的号码,获取各自到达终点的时间戳tj和tj+m-1,得到对应号码的跑步成绩tj-t0和tj+m-1-t0;对于中间第j+1,…,j+m-2个无法识别到号码的跑步者,则采用人工识别,得到中间第j+1,…,j+m-2个跑步者的号码牌;令j+m赋值给j后继续执行步骤6;
步骤6、若j=n+1,则统计通过所有摄像区域的所有跑步者总数
Figure BDA0003136658460000091
否则,返回步骤5继续执行;
步骤7、判断N=(max×q+1)×n是否成立,若成立,则表示无抄近道犯规,所有跑步者的成绩有效,并执行步骤8;否则工控机提示存在抄近道犯规的嫌疑警告;
步骤8、将每个跑步者的跑步成绩与对应号码依次输出到显示屏中进行显示,并通过喇叭依次播报跑步者的成绩。

Claims (5)

1.一种基于人工智能的跑步计时系统,其特征是应用于由跑道区和成绩区所组成的跑步场馆中;所述跑道区的跑道上的n个跑步者各穿戴不同颜色的号码牌,每个跑步者的前面和后面均穿戴有同一颜色的号码牌;所述跑道区依次划分为m个摄像区域,在每个摄像区域的跑道上布置有2个摄像头,其中一个摄像头沿跑步方向正向拍摄,另一个摄像头逆向拍摄;在所述成绩区布置有工控机、显示屏和喇叭;
所述工控机上设置有:数据采集模块、预处理模块、人员检测模块、轨迹检测模块、逻辑判断模块、号码检测模块、过线检测模块、计时模块和成绩输出模块;
所述数据采集模块利用2m个摄像头采集所有跑步者的跑步视频,并相应发送到所述预处理模块;
所述预处理模块对所接收到的当前跑步视频进行剪切,并提取剪切视频的视频关键帧,再对所述视频关键帧进行裁剪,得到目标数据集;
所述人员检测模块对目标数据集进行人员检测处理,得到当前跑步视频中跑步者的人数;
所述轨迹检测模块对目标数据集进行轨迹追踪处理,得到当前跑步视频中跑步者的移动轨迹;
所述号码检测模块对目标数据集进行号码检测处理,得到当前跑步视频中跑步者对应的编号;
所述逻辑判断模块根据当前跑步视频中跑步者的人数及其移动轨迹判定跑步者是否有违规现象;当存在违规时,根据相应的移动轨迹得到所对应的跑步者的编号并发送给成绩输出模块;
所述计时模块在跑步开始时,获取起点处所在的摄像区域中逆向拍摄的摄像头的第一帧图像的时间戳t0并开始计时;
所述过线检测模块检测第一帧图像中n个跑步者脚的位置,以判断是否超出起点直线,若超出起点直线,则判断为抢跑并通过喇叭播报后重新开始计时和检测;否则继续计时和检测;
初始化qj=0,表示第j个跑步者跑完0圈;
当第j个跑步者通过终点处所在的摄像区域时,令qj+1赋值给qj,直到qj=max时,获取达到阈值时的终点处的摄像区域中摄像头的终点图像视频并发送给工控机;其中,max为所设定圈数的阈值;
所述过线检测模块检测终点图像视频中第j个跑步者脚的位置,以判断是否超出终点直线,若超出终点直线,则表示第j个跑步者跑步结束,并记录第j个跑步者达到终点的时间戳tj后,将第j个跑步者的计时结果发送给所述成绩输出模块;否则,继续检测;
所述号码检测模块检测终点图像视频中第j个跑步者的号码牌,并将检测结果发送给所述成绩输出模块;
所述成绩输出模块将第j个跑步者的计时结果与第j个跑步者的号码牌配对后,将第j个跑步者的成绩输出到所述显示屏中进行显示,并通过所述喇叭进行成绩播报。
2.根据权利要求1所述的一种基于人工智能的跑步计时系统,其特征是,所述人员检测模块采用Mask RCNN实例分割神经网络进行人员检测处理,所述Mask RCNN实例分割神经网络包括:用于特征提取的深度残差网络ResNeXt-101和特征金字塔网络FPN、用于提取RoI的区域建议网络RPN和ROI Align层、用于目标检测和语义分割的分类器网络;
所述区域建议网络RPN包括:c1个卷积核大小为k1×s1的卷积层,步长大小均为s1,c2个卷积核大小为k2×s2的卷积层,步长大小均为s2
所述分类器网络包括三个分支:全卷积网络的Mask分支、包含f1个全连接层的边界框回归分支、包含f2个全连接层的softmax分支;
将目标数据集输入到Mask RCNN实例分割神经网络中,经过所述深度残差网络ResNeXt-101和特征金字塔FPN的特征提取,得到图像特征图;
所述图像特征图输入到区域建议网络RPN中,并经过c1个卷积层的卷积处理,得到anchor类别,同时所述c2个卷积层对图像特征图进行卷积处理,得到边框精调结果;
所述anchor类别和边框精调结果经过ROI Align层,得到ROI Align层特征图,再利用双线性插值对ROI Align层特征图进行处理,得到感兴趣区域对齐后的特征图;
所述感兴趣区域对齐后的特征图输入到分类器网络中,经过Mask分支的全卷积处理,得到预测掩膜图像;
所述边界框回归分支对所述感兴趣区域对齐后的特征图和预测掩膜图像进行边界框回归,得到边界框坐标;
所述softmax分支对感兴趣区域对齐后的特征图进行softmax分类,得到目标类别;
以所述边框坐标和目标类别作为分割后的目标检测结果,即为跑步者的人数。
3.根据权利要求1所述的一种基于人工智能的跑步计时系统,其特征是,所述轨迹检测模块采用Deep Sort算法进行轨迹追踪处理,所述Deep Sort算法包括YOLOv5目标检测算法、非极大值抑制NMS算法、卡尔曼滤波算法和匈牙利算法;
所述YOLOv5目标检测算法用于提取目标数据集的深度特征,从而得到运动目标的候选框;
所述非极大值抑制NMS算法用于去除所述运动目标的候选框中的重叠框,从而得到运动目标检测框;
所述卡尔曼滤波算法用于对所述运动目标检测框在跑步视频中下一帧的位置和状态进行预测,得到运动目标检测框下一时刻的状态参数;
所述匈牙利算法对前后两帧之间若干个运动目标检测框进行最优匹配,得到运动目标检测框在跑步视频中的移动轨迹。
4.根据权利要求1所述的一种基于人工智能的跑步计时系统,其特征是,所述号码检测模块采用3D卷积神经网络进行号码检测处理,所述3D卷积神经网络包含一个硬连线hardwired层、c3个卷积层,卷积核大小均为k3×s3,步长均为s,c3-1个下采样层和f3个全连接层;
将目标数据集输入到3D卷积神经网络中,利用所述硬连线hardwired层对每帧图像提取多通道信息,得到硬线层的特征图;
其中一个卷积层对硬线层特征图的多通道信息进行卷积操作,得到卷积层的特征图;
相应的一个下采样层采用max pooling操作对卷积层的特征图进行处理,得到相同数目且空间分辨率降低的特征图;从而经过c3-1个卷积和下采样处理后,得到的结果再经过第c3个卷积层的处理后得到一个一维特征向量,并输入到所述全连接层中,得到号码分类结果并作为跑步者对应的编号。
5.一种基于人工智能的跑步计时方法,其特征是应用于由跑道区和成绩区所组成的跑步场馆中;所述跑道区的跑道上的n个跑步者各穿戴不同颜色的号码牌,每个跑步者的前面和后面均穿戴有同一颜色的号码牌;所述跑道区依次划分为m个摄像区域,在每个摄像区域的跑道上布置有2个摄像头,其中一个摄像头沿跑步方向正向拍摄,另一个摄像头逆向拍摄;在所述成绩区布置有工控机、显示屏和喇叭;所述计时方法是按如下步骤进行:
步骤1、跑步计时开始,获取起点处所在的摄像区域中逆向拍摄的摄像头的第一帧图像并发送给工控机;
所述工控机记录第一帧图像的时间戳t0后开始计时,同时检测第一帧图像中n个跑步者脚的位置,以判断是否超出起点直线,若超出起点直线,则判断为抢跑并通过喇叭播报后返回步骤1,否则,令qj=0,表示第j个跑步者跑完0圈;
步骤2、定义N表示所有摄像头区域中出现跑步者的人数,并初始化人数N=n;
步骤3、对进入第i个摄像区域的所有跑步者通过采用Mask RCNN实例分割神经网络进行人员检测,得到通过第i个摄像区域的跑步者人数Pi
步骤4、对进入第i个摄像区域的所有跑步者通过DeepSort算法进行轨迹追踪,得到第i个摄像区域的跑步者运动轨迹并保存;
步骤5、初始化j=1,表示第一名跑步者;
步骤5.1、当终点处所在的摄像区域的摄像头检测到第j个跑步者经过时,令qj+1赋值给qj,若qj=max时,对进入所述终点处所在的摄像区域的所有跑步者通过3D卷积神经网络识别跑步者对应号码,并继续执行步骤5.2;否则,返回步骤5.1;其中,max为所设定圈数的阈值;
步骤5.2、将所述终点处所在的摄像区域作为当前检测区域,统计当前检测区域出现的跑步者人数m;
步骤5.3、当m=1时,表示单人通过当前检测区域,从当前检测区域的摄像头中识别出第j个跑步者的号码牌并记录到达终点的时间戳tj,得到第j个跑步者的跑步成绩tj-t0,令j+1赋值给j后继续执行步骤6,否则执行步骤5.4;
步骤5.4、当m=2时,表示双人均通过当前检测区域时,从当前检测区域的向后拍摄的摄像头识别出第j个跑步者的号码,从当前检测区域的向前拍摄的摄像头识别出第j+m个跑步者的号码,获取各自到达终点的时间戳tj和tj+1,得到对应号码的跑步成绩tj-t0和tj+1-t0,令j+2赋值给j后继续执行步骤6,否则执行步骤5.5;
步骤5.5、当m∈[3,n]时,表示有m个人均通过当前检测区域,从当前检测区域的向后拍摄的摄像头识别出第j个跑步者的号码,从当前检测区域的向前拍摄的摄像头识别出第j+m-1个跑步者的号码,获取各自到达终点的时间戳tj和tj+m-1,得到对应号码的跑步成绩tj-t0和tj+m-1-t0;对于中间第j+1,…,j+m-2个无法识别到号码的跑步者,则采用人工识别,得到中间第j+1,…,j+m-2个跑步者的号码牌;令j+m赋值给j后继续执行步骤6;
步骤6、若j=n+1,则统计通过所有摄像区域的所有跑步者总数
Figure FDA0003136658450000041
否则,返回步骤5继续执行;
步骤7、判断N=(max×q+1)×n是否成立,若成立,则表示无抄近道犯规,所有跑步者的成绩有效,并执行步骤8;否则工控机提示存在抄近道犯规的嫌疑警告;
步骤8、将每个跑步者的跑步成绩与对应号码依次输出到所述显示屏中进行显示,并通过所述喇叭依次播报跑步者的成绩。
CN202110720125.1A 2021-06-28 2021-06-28 一种基于人工智能的跑步智能计时系统及方法 Active CN113435336B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110720125.1A CN113435336B (zh) 2021-06-28 2021-06-28 一种基于人工智能的跑步智能计时系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110720125.1A CN113435336B (zh) 2021-06-28 2021-06-28 一种基于人工智能的跑步智能计时系统及方法

Publications (2)

Publication Number Publication Date
CN113435336A true CN113435336A (zh) 2021-09-24
CN113435336B CN113435336B (zh) 2022-10-04

Family

ID=77754933

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110720125.1A Active CN113435336B (zh) 2021-06-28 2021-06-28 一种基于人工智能的跑步智能计时系统及方法

Country Status (1)

Country Link
CN (1) CN113435336B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113837111A (zh) * 2021-09-27 2021-12-24 江苏凤凰智慧教育研究院有限公司 50米跑测试系统及其方式
CN114187664A (zh) * 2021-12-14 2022-03-15 安徽一视科技有限公司 一种基于人工智能的跳绳计数系统
CN114879891A (zh) * 2022-05-19 2022-08-09 中国人民武装警察部队工程大学 一种自监督多目标跟踪下的多模态人机互动方法
CN116453067A (zh) * 2023-06-20 2023-07-18 广州思林杰科技股份有限公司 基于动态视觉识别的短跑计时方法
CN116524576A (zh) * 2023-07-03 2023-08-01 广州思林杰科技股份有限公司 基于动态视觉识别的长跑计时方法
CN118172389A (zh) * 2024-05-14 2024-06-11 山东科技大学 一种基于跨摄像头多目标跟踪的短跑监测系统及方法

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102930611A (zh) * 2012-10-22 2013-02-13 大连闻仕达科技有限公司 多用途跑步成像计时系统
CN206249350U (zh) * 2016-11-30 2017-06-13 吴茂洪 基于深度算法影像获取的跑步检测系统
CN108079521A (zh) * 2016-11-21 2018-05-29 风跑体育发展(深圳)有限公司 一种跑步测试方法及系统
CN110090425A (zh) * 2019-05-01 2019-08-06 山东思迈教育科技有限公司 一种中长跑运动的计时方法
CN110991413A (zh) * 2019-12-20 2020-04-10 西南交通大学 一种基于ReID的跑步检测方法
CN111144275A (zh) * 2019-12-24 2020-05-12 中石化第十建设有限公司 一种基于人脸识别的跑步智能测试系统及方法
CA3063011A1 (en) * 2018-11-29 2020-05-29 Element Ai Inc. System and method for detecting and tracking objects
CN111275030A (zh) * 2020-05-06 2020-06-12 西南交通大学 基于人脸与人体识别的直道跑步检测与计时系统及方法
WO2020164270A1 (zh) * 2019-02-15 2020-08-20 平安科技(深圳)有限公司 基于深度学习的行人检测方法、系统、装置及存储介质
CN211383738U (zh) * 2019-10-14 2020-09-01 黄源 一种跑步自动计时系统
CN112258559A (zh) * 2020-10-26 2021-01-22 上海萱闱医疗科技有限公司 一种基于多目标跟踪的智能跑步计时评分系统和方法
CN113011343A (zh) * 2021-03-23 2021-06-22 安徽一视科技有限公司 一种基于人工智能的跑步智能计时方法

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102930611A (zh) * 2012-10-22 2013-02-13 大连闻仕达科技有限公司 多用途跑步成像计时系统
CN108079521A (zh) * 2016-11-21 2018-05-29 风跑体育发展(深圳)有限公司 一种跑步测试方法及系统
CN206249350U (zh) * 2016-11-30 2017-06-13 吴茂洪 基于深度算法影像获取的跑步检测系统
CA3063011A1 (en) * 2018-11-29 2020-05-29 Element Ai Inc. System and method for detecting and tracking objects
WO2020164270A1 (zh) * 2019-02-15 2020-08-20 平安科技(深圳)有限公司 基于深度学习的行人检测方法、系统、装置及存储介质
CN110090425A (zh) * 2019-05-01 2019-08-06 山东思迈教育科技有限公司 一种中长跑运动的计时方法
CN211383738U (zh) * 2019-10-14 2020-09-01 黄源 一种跑步自动计时系统
CN110991413A (zh) * 2019-12-20 2020-04-10 西南交通大学 一种基于ReID的跑步检测方法
CN111144275A (zh) * 2019-12-24 2020-05-12 中石化第十建设有限公司 一种基于人脸识别的跑步智能测试系统及方法
CN111275030A (zh) * 2020-05-06 2020-06-12 西南交通大学 基于人脸与人体识别的直道跑步检测与计时系统及方法
CN112258559A (zh) * 2020-10-26 2021-01-22 上海萱闱医疗科技有限公司 一种基于多目标跟踪的智能跑步计时评分系统和方法
CN113011343A (zh) * 2021-03-23 2021-06-22 安徽一视科技有限公司 一种基于人工智能的跑步智能计时方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
XIAOWEN SHI 等: "A Real-Time Deep Network for Crowd Counting", 《ICASSP 2020 - 2020 IEEE INTERNATIONAL CONFERENCE ON ACOUSTICS, SPEECH AND SIGNAL PROCESSING (ICASSP)》 *
王聪玲: "基于RFID技术的中长跑自动计时系统的设计", 《中国优秀硕士论文全文数据库 信息科技辑》 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113837111A (zh) * 2021-09-27 2021-12-24 江苏凤凰智慧教育研究院有限公司 50米跑测试系统及其方式
CN114187664A (zh) * 2021-12-14 2022-03-15 安徽一视科技有限公司 一种基于人工智能的跳绳计数系统
CN114879891A (zh) * 2022-05-19 2022-08-09 中国人民武装警察部队工程大学 一种自监督多目标跟踪下的多模态人机互动方法
CN114879891B (zh) * 2022-05-19 2024-04-26 中国人民武装警察部队工程大学 一种自监督多目标跟踪下的多模态人机互动方法
CN116453067A (zh) * 2023-06-20 2023-07-18 广州思林杰科技股份有限公司 基于动态视觉识别的短跑计时方法
CN116453067B (zh) * 2023-06-20 2023-09-08 广州思林杰科技股份有限公司 基于动态视觉识别的短跑计时方法
CN116524576A (zh) * 2023-07-03 2023-08-01 广州思林杰科技股份有限公司 基于动态视觉识别的长跑计时方法
CN116524576B (zh) * 2023-07-03 2023-10-20 广州思林杰科技股份有限公司 基于动态视觉识别的长跑计时方法
CN118172389A (zh) * 2024-05-14 2024-06-11 山东科技大学 一种基于跨摄像头多目标跟踪的短跑监测系统及方法

Also Published As

Publication number Publication date
CN113435336B (zh) 2022-10-04

Similar Documents

Publication Publication Date Title
CN113435336B (zh) 一种基于人工智能的跑步智能计时系统及方法
CN102542289B (zh) 一种基于多高斯计数模型的人流量统计方法
CN106778595B (zh) 基于高斯混合模型的人群中异常行为的检测方法
CN104517102B (zh) 学生课堂注意力检测方法及系统
CN103824070B (zh) 一种基于计算机视觉的快速行人检测方法
Marin et al. Learning appearance in virtual scenarios for pedestrian detection
CN102214309B (zh) 一种基于头肩模型的特定人体识别方法
CN109087328A (zh) 基于计算机视觉的羽毛球落点位置预测方法
CN103677274B (zh) 一种基于主动视觉的互动投影方法及系统
CN109919981A (zh) 一种基于卡尔曼滤波辅助的多特征融合的多目标跟踪方法
CN102622584B (zh) 视频监控中蒙面人脸的检测方法
CN109145708B (zh) 一种基于rgb和d信息融合的人流量统计方法
CN109886241A (zh) 基于长短期记忆网络的驾驶员疲劳检测
CN103310444B (zh) 一种基于头顶摄像头的监控行人计数的方法
CN105404857A (zh) 一种基于红外的夜间智能车前方行人检测方法
CN104794737B (zh) 一种深度信息辅助粒子滤波跟踪方法
CN105046206B (zh) 基于视频中运动先验信息的行人检测方法及装置
CN105741324A (zh) 移动平台上的运动目标检测识别与跟踪方法
CN104517095A (zh) 一种基于深度图像的人头分割方法
CN109064484A (zh) 基于子群组划分与动量特征融合的人群运动行为识别方法
CN104715238A (zh) 一种基于多特征融合的行人检测方法
CN103310194A (zh) 视频中基于头顶像素点梯度方向的行人头肩部检测方法
CN109902676A (zh) 一种基于动态背景的违停检测算法
CN102034267A (zh) 基于关注度的目标物三维重建方法
CN103020606A (zh) 一种基于时空上下文信息的行人检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant