CN109740446A - 课堂学生行为分析方法及装置 - Google Patents
课堂学生行为分析方法及装置 Download PDFInfo
- Publication number
- CN109740446A CN109740446A CN201811534533.2A CN201811534533A CN109740446A CN 109740446 A CN109740446 A CN 109740446A CN 201811534533 A CN201811534533 A CN 201811534533A CN 109740446 A CN109740446 A CN 109740446A
- Authority
- CN
- China
- Prior art keywords
- image
- human body
- students
- student
- classroom
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
本发明涉及人工智能技术领域。本发明实施例提供一种课堂学生行为分析方法及装置,其中所述课堂学生行为分析方法包括:采集预设时间区间中教室中的课堂图像,并提取人体轮廓图像;确定每个学生对应的人体轮廓图像;识别课堂图像中每个学生对应的人体轮廓图像中的人体关键点;基于分类神经网络确定每个学生的的学生行为类型,其中分类神经网络是以人体关键点与相对应的学生行为类型作为输入来进行训练的。由此,将图像人体识别技术和神经网络技术相结合,能够快速准确地识别出课堂中学生的学生行为类型,并能够为后续的教育分析或专注度分析等提供有效的数据支持。
Description
技术领域
本发明涉及人工智能技术领域,具体地涉及一种课堂学生行为分析方法及装置。
背景技术
随着科学技术的不断发展,将信息技术应用在课堂学习中的智能课堂技术得到了飞速发展,并且还出现了利用计算机监测分析课堂学习状态的新型技术。
在目前的相关技术中,一般是基于Kinect实现的课堂教学状态监测系统,该系统利用Kinect传感器获取学生听课过程中的彩色、深度、骨骼点图像来分析学生的上课肢体状态、注意力方向,以此反映学生听课状态。
但是,其都无法对学生的行为(包括举手,扭头,交谈,起立,打闹)进行分析。因此,如何对学生的课堂行为进行分析,以有效地获得教育场景下的学生行为结果是目前业界亟待解决的技术难题。
发明内容
本发明实施例的目的是提供一种课堂学生行为分析方法及装置,用以实现对学生的课堂行为进行分析。
为了实现上述目的,本发明实施例一方面提供一种课堂学生行为分析方法,包括:基于安装在教室内的摄像头,采集预设时间区间中教室中的课堂图像,提取所述课堂图像中的人体轮廓图像;获取所述人体轮廓图像中的人脸图像,将获取到的所述人脸图像与预先存储的多个学生的人脸图像进行匹配,确定每个学生对应的人体轮廓图像;识别所述课堂图像中每个学生对应的人体轮廓图像中的人体关键点;基于分类神经网络确定所识别的每个学生对应的人体关键点对应的学生行为类型,其中所述分类神经网络是以人体关键点与相对应的学生行为类型作为输入来进行训练的。
本发明实施例另一方面提供一种课堂学生行为分析装置,其中该装置包括:人体轮廓图像提取单元,用于采集预设时间区间中教室中的课堂图像,提取所述课堂图像中的人体轮廓图像;人脸身份识别单元,用于获取所述人体轮廓图像中的人脸图像,将获取到的所述人脸图像与预先存储的多个学生的人脸图像进行匹配,确定每个学生对应的人体轮廓图像;人脸关键点识别单元,用于识别所述课堂图像中每个学生对应的人体轮廓图像中的人体关键点;行为类型确定单元,用于基于分类神经网络确定所识别的每个学生对应的人体关键点对应的学生行为类型,其中所述分类神经网络是以人体关键点与对应的学生行为类型作为输入来进行训练的。
本发明实施例另一方面提供一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其中,所述处理器执行所述计算机程序时实现本申请上述的方法的步骤。
本发明实施例另一方面提供一种计算机存储介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现本申请上述的方法的步骤。
通过上述技术方案,提出了基于安装在教室内的摄像头,采集预设时间区间中教室中的课堂图像,提取所述课堂图像中的人体轮廓图像,并通过匹配确定出每个学生所对应的人体轮廓图像,然后通过识别课堂图像中每个学生对应的人体轮廓图像中的人体关键点,然后应用经训练的分类神经网络确定所识别的人体关键点所对应的学生行为类型。由此,将图像人体识别技术和神经网络技术相结合,能够快速准确地识别出课堂中学生的学生行为类型,并能够为后续的教育分析或专注度分析等提供有效的数据支持。
本发明实施例的其它特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
附图是用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本发明实施例,但并不构成对本发明实施例的限制。在附图中:
图1是本发明一实施例的课堂学生行为分析方法的流程图;
图2是图1的课堂学生行为分析方法中的S13在一些实施方式下的具体执行的流程示意图;
图3是本发明一实施例的课堂学生行为分析方法的流程原理示意图;
图4是本发明一实施例的课堂学生行为分析装置的结构框图;
图5是本发明一实施例的课堂学生行为分析装置的结构框图;
图6是本发明一实施例的搭建有课堂学生行为分析装置的实体装置的结构框图。
具体实施方式
以下结合附图对本发明实施例的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本发明实施例,并不用于限制本发明实施例。
如图1所示,本发明一实施例的课堂学生行为分析方法,包括:
S11、基于安装在教室内的摄像头,采集预设时间区间中教室中的课堂图像,提取课堂图像中的人体轮廓图像。
关于本发明实施例方法的实施主体,一方面可以是专用于课堂学生行为分析的专用集成组件、专用服务器或专用终端等;另一方面,还可以是通用型学生行为分析服务器或终端,其中该通用型学生行为分析设备安装有用于对学生行为进行分析的模块或配置有用于对课堂学生行为进行分析的程序代码,且以上都属于本发明的保护范围内。
关于安装在教室内的摄像头,一方面,其可以是通过配置新的摄像头或图像采集器(例如作为本实施例装置的一部分)来实现;另一方面,还可以是借助已有的课堂图像或视频监控系统,例如通过与该课堂图像或视频监控系统连接,从而采集课堂图像。具体的,当图像采集系统所采集的是监控视频时,可以通过分割监控视频,以将所得到的单帧监控视频图像确定为对应的课堂图像。另外,关于人体轮廓图像在课堂图像中的提取方式,其可以是通过各种轮廓提取方式来实现的,例如基于人体形态模板的匹配和识别,或基于人体与场景物体的区分度来实现对人体轮廓的提取等,由此实现将课堂图像中每个学生的个体的人体轮廓图像都提取出来。
S12、获取人体轮廓图像中的人脸图像,将获取到的人脸图像与预先存储的多个学生的人脸图像进行匹配,确定每个学生对应的人体轮廓图像。
其中,通过预先存储的多个学生的人脸图像与每个学生的人脸图像进行对比,从而识别出每个学生的身份,并相应地确定出对应于每个学生的身份的人体轮廓图像。关于该预先存储的多个学生的人脸图像,其可以是通过预先采集教室内各个学生的人脸图像,并将其进行存储,以待匹配时进行调用。
S13、识别课堂图像中每个学生对应的人体轮廓图像中的人体关键点。
关于学生的人体关键点,其可以是表示抽象化的骨骼点或轮廓点在人体轮廓图像上的表现,例如用于构成人体轮廓的各个关节点等。
关于人体关键点的识别过程的细节,其可以是通过肢体语言识别系统来识别课堂图像中每个学生对应的人体轮廓图像中的人体关键点,其中该肢体语言识别系统是以OpenPose为基础的。需说明的是,OpenPose是常用于实时多人关键点检测和多线程的C++库,由此将OpenPose人体关键点检测技术应用于课堂行为分析的应用场景中,能够实现对课堂中多个学生的人体关键点的实时追踪,并也保障了处理的高准确性。
S14、基于分类神经网络确定所识别的每个学生对应的人体关键点对应的学生行为类型,其中分类神经网络是以人体关键点与相对应的学生行为类型作为输入来进行训练的。
关于分类神经网络的训练的细节,其可以是通过如图2所示的过程来实现的:S141、获取训练图像,其中该训练图像的人体关键点被人工预标注了对应的学生行为类型。关于训练图像的获取方式,其可以是通过人为收集训练图像并将其输入。但是,为了获得海量的训练图像,优选地,可以是借助于搜索引擎和网络爬虫技术来获取图像,例如可以是基于对应课堂学生行为类型的关键词(该关键词可以是预先确定的),从搜索引擎网站服务器上获取源图片;然后,通过应用肢体语言识别系统在源图片中标注人体关键点;之后,通过人工标记的方式在该标有人体关键点的源图片附加对应的学生行为类型,以生成对应的训练图像。S142、将训练图像输入至分类神经网络中,以训练分类神经网络。
在本实施例中,利用训练好的神经网络输出出学生图片中人体关键点所对应的行为类型,使得通过人工智能技术能够快速精准地识别出学生图像中学生的人体关键点所对应的学生行为类型。作为示例,学生行为类型可以是包括起立、举手、扭头、交谈和/或打闹等,优选地,可以是将这些学生行为类型发送给老师和家长,以报告学生的上课状态。进一步的,这些所得出的学生行为类型的数据可以是为后续的教育分析或专注度分析等提供有效的数据支持。
在一些实施方式中,一方面,当一个学生行为类型只需要通过单张关键点图像的识别就能够确定时,其可以是通过对应单张关键点图像进行训练;例如,当第一学生行为类型为“起立”和/或“举手”时,在针对第一学生行为类型训练时,可以是通过为单张训练图像的人体关键点预标注(例如人工标注)了对应的第一学生行为类型,进而输入至神经网络来实现对该第一学生行为类型的神经网络模型的训练。另一方面,当一个学生行为类型需要通过多个关键点图像的识别来确定时,诸如“扭头”、“交谈”和/或“打闹”等,其可以是将用于指示连续人体动作的多张训练图像分为一组,该连续动作对应于第二学生行为类型,并通过为该具有多张训练图像的所对应的人体关键点集合预标注对应的学生行为类型,进而将输入至神经网络来实现对第二学生行为类型的神经网络模型的训练。由此,可以在分类神经网络中实现对各种学生行为类型的训练和应用识别。
进一步的,在应用神经网络模型输出学生行为类型时,也可以是参照学生行为类型来自动选择是基于单张还是多张课堂图像进行推导和输出,例如:一方面,基于分类神经网络和所采集的单张课堂图像中的每个学生对应的人体关键点,输出单张课堂图像中的每个学生对应的第一学生行为类型;另一方面,基于分类神经网络,应用预定时间段内所采集的用于指示学生连续动作的多张课堂图像中的的每个学生对应的人体关键点集合,输出多张课堂图像中的每个学生对应的第二学生行为类型。
在一些优选实施方式中,本发明实施例还提供了后续的教育分析或专注度分析的过程S15-S17:
S15、统计课堂内的一段时间内每个学生所出现的各种行为类型。
其中,一段时间可以是指示一整堂课或课堂部分的时间。
S16、基于预存储的行为关注度评分表和所统计的行为类型,确定每个学生在一段时间内的课堂行为所对应专注度评分,其中该关注度评分表中记录有多种行为类型所分别对应的分数值。
关于关注度评分表的说明,其可以是例如“举手-正5分”“打闹-负5分”“扭头-负2分”等映射关系,然后统计一段时间(例如一堂课)内所推导出的学生的各种行为类型,并基于预存储的行为关注度评分表为这段时间内学生的课堂行为打分,得出其所对应的专注度评分。优选的,该专注度评分可以是被老师们用来作为考核学生成绩的一个标准。
S17、当存在第一学生的专注度评分低于预定的专注度阈值时,将第一学生的信息实时推送至与教师和/或学生家长相关联的终端。
关于专注度阈值的设置,其可以是自定义的,例如可以是根据经验或长期试验所确定的。以及,关于教师和/或学生家长的终端的推送,可以是通过预先绑定老师和各个学生家长的手机号或微信号等,以实时地将专注度过差的情况告知学生和家长,以便于采取措施。
在本发明实施例中,借助于专注度阈值实现了专注度实时警示,督促了老师和家长在学生严重走神时,及时提醒学生提升专注度,有助于提高学生的学习状态及效率。
如图3所示,本发明一实施例的课堂学生行为分析方法的原理流程的示例,其主要包括以下的多个阶段:
1)训练分类神经网络
具体的,可以是将包括人体关键点位置的图片和其所对应的行为结果输入至分类神经网络进行训练。
分类网络指的是深度学习网络,用于对一系列人体关键点进行分类,输入为经过OpenPose检测到的关键点位置信息,输出行为结果。在训练时,训练数据需要特定的人工标注数据,针对教室场景下,每个学生的姿态关键点所对应的学生行为类型进行标注。由此,专门训练一个识别出人体关节位置所对应的行为结果的分类网络。
作为示例,可以是获取海量的记录人体姿态(例如坐姿)的图像,将图像中的人体坐姿抽象化为对应的具有人体关键点的图像;重复上述操作,将多个人体坐姿图像转化为对应的具有关键点位置的图像;上述的图像获取方式,可以是通过搜索引擎及爬虫的方式从各网站服务器中所下载的,当然也可以是通过人为收集的。
在实施的一方面,当一个行为结果只需要通过单张关键点图像的识别就能够确定时,其可以是通过以下步骤来训练:选择人体坐姿图像,并对其标记对应的行为结果的标签,该行为结果可以是“起立”“举手”等。重复上述操作,建立多个关于关键点图像-标签的映射关系,并将该映射关系作为训练数据,输入至神经网络以对其进行训练。
在实施的另一方面,当一个行为需要通过多个关键点图像的识别所确定时,其可以是通过以下步骤来训练:人为地选择多个人体坐姿图像组合作为第一分组,并为其赋予对应于行为结果的标签,行为结果可以是“扭头”“交谈”“打闹”等。重复上述操作,建立多个关于“分组-标签”的映射关系,并将该映射关系作为训练数据,输入至神经网络以对其进行训练。
2)学生图像采集
具体的,可以是通过摄像头获取视频流进行处理,并可以同时进行多人检测。
3)人体关键点识别
具体的,可以是使用OpenPose技术进行人体关键点检测,定位出人体的各个人体关键点位置,使得只需要输入二维图像就能够识别出人体关键点,并且可以同时识别多人的人体关键点位置。
4)应用分类神经网络分类人体关键点所对应的行为结果。
由此,该所预测的学生行为可以存储下来,以为后续的教育分析或专注度分析等提供有效的数据支持。其中,该学生行为可以是指示一个学生的一系列动作,故而在预测的过程中也可以是对一组多个连续的动作关联从而推导出学生的行为类型(该行为包括学生起立或举手等)。如果有A分类(例如打闹,不看黑板,举手)的学生,则可以把学生的名字或者位置发送到老师的终端上,提示老师关注。
5)应用行为结果得出所对应的专注度评分
具体的,可以是基于预存储的行为关注度评分表为这段时间内学生的课堂行为打分,得出其所对应的专注度评分。如果某个学生的专注度评分过低,也可以是将该同学的名字或者位置发送到老师的终端上,提示老师关注。
更优选的,还可以把每个学生的行为分类汇总,例如打闹的时间有多少,听课的时间有多少,举手回答问题几次等等,并将其作为期末评估的参考,或将其发给家长等等。
在本发明实施例中,使用了OpenPose的开源工程,针对二维图像,或任意图像输入都可以,并没有对采集设备进行限制。并且,只要图像足够清晰,就可以有更深的距离进行识别;另外,通过采用深度神经网络进行分类,可以极大提升准确率。
如图4所示,本发明一实施例的课堂学生行为分析装置,包括:
人体轮廓图像提取单元401,用于采集预设时间区间中教室中的课堂图像,提取所述课堂图像中的人体轮廓图像;
人脸身份识别单元402,用于获取所述人体轮廓图像中的人脸图像,将获取到的所述人脸图像与预先存储的多个学生的人脸图像进行匹配,确定每个学生对应的人体轮廓图像;
人脸关键点识别单元403,用于识别所述课堂图像中每个学生对应的人体轮廓图像中的人体关键点;
行为类型确定单元404,用于基于分类神经网络确定所识别的每个学生对应的人体关键点对应的学生行为类型,其中所述分类神经网络是以人体关键点与对应的学生行为类型作为输入来进行训练的。
在具体的应用场景中,如图5所示,该装置还包括训练单元405、行为评分单元406和信息推送单元407;
所述人体关键点识别单元403,还用于基于肢体语言识别系统,识别所述课堂图像中学生的人体关键点,其中该肢体语言识别系统是以OpenPose为基础的。
所述训练单元405,用于针对所述分类神经网络的训练步骤,具体包括:获取训练图像,其中所述训练图像的人体关键点被人工预标注了对应的学生行为类型;将所述训练图像输入至所述分类神经网络中,以训练所述分类神经网络。
优选地,所述学生行为类型包括第一学生行为类型和第二学生行为类型,所述第一学生行为类型包括起立和/或举手,对应于所述第一学生行为类型的训练图像为单张训练图像,所述单张训练图像的人体关键点被预标注了对应的第一学生行为类型;以及所述第二学生行为类型包括扭头、交谈和打闹中的一者或多者,对应于所述第二学生行为类型的训练图像为用于指示连续人体动作的多张训练图像,其中所述多张训练图像所对应的人体关键点集合被预标注了对应的第二学生行为类型;所述行为类型确定单元404还用于基于所述分类神经网络和所采集的单张课堂图像中人体关键点,输出对应的所述第一学生行为类型;基于所述分类神经网络,应用预定时间段内所采集的用于指示学生连续动作的多张课堂图像中的人体关键点集合输出对应的第二学生行为类型。
所述训练单元405还用于通过以下方式来获取训练图像:基于对应课堂学生动作的关键词,从搜索引擎网站服务器上获取源图片;基于所述肢体语言识别系统,识别所述源图片上的人体关键点,其中该具有人体关键点的源图片通过人工标注对应的学生行为类型,以生成对应的训练图像。
所述行为评分单元406,用于统计课堂内的一段时间内每个学生所出现的各种行为类型;以及基于预存储的行为关注度评分表和所统计的行为类型,确定学生在所述一段时间内的课堂行为所对应专注度评分,其中所述关注度评分表中记录有多种行为类型所分别对应的分数值。
所述信息推送单元407用于在确定该学生在所述一段时间内的课堂行为所对应专注度评分之后,当存在第一学生的专注度评分低于预定的专注度阈值时,将所述第一学生的专注度评分实时推送至与教师和/或学生家长相关联的终端。
需要说明的是,本发明实施例提供的一种课堂学生行为分析装置所涉及各功能单元的其他相应描述,可以参考图1-3中的对应描述,在此不再赘述。
基于上述如图1-3所示方法,相应的,本发明实施例还提供了一种存储设备,其上存储有计算机程序,该程序被处理器执行时实现上述如图1-3所示的课堂学生行为分析方法。
基于上述如图1-3所示方法和如图4和如图5所示虚拟装置的实施例,为了实现上述目的,如图6所示,本发明实施例还提供了一种课堂学生行为分析装置的实体装置60,该实体装置60包括存储设备601和处理器602;所述存储设备601,用于存储计算机程序;所述处理器602,用于执行所述计算机程序以实现上述如图1-3所示的课堂学生行为分析方法。
通过应用本发明的技术方案,提出了基于安装在教室内的摄像头,采集课堂中的学生图像,并通过识别课堂图像中在学生座位区域内的学生的人体关键点,然后应用经训练的分类神经网络确定所识别的人体关键点所对应的学生行为类型。由此,将图像人体识别技术和神经网络技术相结合,能够快速准确地识别出课堂中学生的学生行为类型,并能够为后续的教育分析或专注度分析等提供有效的数据支持。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到本申请可以通过硬件实现,也可以借助软件加必要的通用硬件平台的方式来实现。基于这样的理解,本申请的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施场景所述的方法。
本领域技术人员可以理解附图只是一个优选实施场景的示意图,附图中的模块或流程并不一定是实施本申请所必须的。
本领域技术人员可以理解实施场景中的装置中的模块可以按照实施场景描述进行分布于实施场景的装置中,也可以进行相应变化位于不同于本实施场景的一个或多个装置中。上述实施场景的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
上述本申请序号仅仅为了描述,不代表实施场景的优劣。
以上公开的仅为本申请的几个具体实施场景,但是,本申请并非局限于此,任何本领域的技术人员能思之的变化都应落入本申请的保护范围。
Claims (10)
1.一种课堂学生行为分析方法,其特征在于,包括:
基于安装在教室内的摄像头,采集预设时间区间中教室中的课堂图像,提取所述课堂图像中的人体轮廓图像;
获取所述人体轮廓图像中的人脸图像,将获取到的所述人脸图像与预先存储的多个学生的人脸图像进行匹配,确定每个学生对应的人体轮廓图像;
识别所述课堂图像中每个学生对应的人体轮廓图像中的人体关键点;
基于分类神经网络确定所识别的每个学生对应的人体关键点对应的学生行为类型,其中所述分类神经网络是以人体关键点与相对应的学生行为类型作为输入来进行训练的。
2.根据权利要求1所述的方法,其特征在于,所述识别所述课堂图像中每个学生对应的人体轮廓图像中的人体关键点包括:
基于肢体语言识别系统,识别所述课堂图像中每个学生对应的人体轮廓图像中的人体关键点,其中该肢体语言识别系统是以OpenPose为基础的。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括针对所述分类神经网络的训练步骤,具体包括:
获取训练图像,其中所述训练图像的人体关键点被人工预标注了对应的学生行为类型;
将所述训练图像输入至所述分类神经网络中,以训练所述分类神经网络。
4.根据权利要求3所述的方法,其特征在于,所述学生行为类型包括第一学生行为类型和第二学生行为类型,所述第一学生行为类型包括起立和/或举手,对应于所述第一学生行为类型的训练图像为单张训练图像,所述单张训练图像的人体关键点被预标注了对应的第一学生行为类型;以及
所述第二学生行为类型包括扭头、交谈和打闹中的一者或多者,对应于所述第二学生行为类型的训练图像为用于指示连续人体动作的多张训练图像,其中所述多张训练图像所对应的人体关键点集合被预标注了对应的第二学生行为类型;
所述基于分类神经网络确定所识别的每个学生对应的人体关键点对应的学生行为类型包括:
基于所述分类神经网络和所采集的单张课堂图像中的每个学生对应的人体关键点,输出所述单张课堂图像中的每个学生对应的所述第一学生行为类型;
基于所述分类神经网络,应用预定时间段内所采集的用于指示学生连续动作的多张课堂图像中的每个学生对应的人体关键点集合,输出所述多张课堂图像中的每个学生对应的第二学生行为类型。
5.根据权利要求3所述的方法,其特征在于,所述获取训练图像包括:
基于对应课堂学生行为类型的关键词,从搜索引擎网站服务器上获取源图片;
基于所述肢体语言识别系统,识别所述源图片上的人体关键点,其中该具有人体关键点的源图片通过人工标注对应的学生行为类型,以生成对应的训练图像。
6.根据权利要求1所述的方法,其特征在于,在基于分类神经网络确定所识别的每个学生对应的人体关键点所对应的学生行为类型之后,所述方法还包括:
统计课堂内的一段时间内每个学生所出现的各种行为类型;以及
基于预存储的行为关注度评分表和所统计的行为类型,确定每个学生在所述一段时间内的课堂行为所对应专注度评分,其中所述关注度评分表中记录有多种行为类型所分别对应的分数值。
7.根据权利要求6所述的方法,其特征在于,在确定每个学生在所述一段时间内的课堂行为所对应专注度评分之后,所述方法还包括:
当存在第一学生的专注度评分低于预定的专注度阈值时,将所述第一学生的专注度评分实时推送至与教师和/或学生家长相关联的终端。
8.一种课堂学生行为分析装置,其特征在于,包括:
人体轮廓图像提取单元,用于采集预设时间区间中教室中的课堂图像,提取所述课堂图像中的人体轮廓图像;
人脸身份识别单元,用于获取所述人体轮廓图像中的人脸图像,将获取到的所述人脸图像与预先存储的多个学生的人脸图像进行匹配,确定每个学生对应的人体轮廓图像;
人脸关键点识别单元,用于识别所述课堂图像中每个学生对应的人体轮廓图像中的人体关键点;
行为类型确定单元,用于基于分类神经网络确定所识别的每个学生对应的人体关键点对应的学生行为类型,其中所述分类神经网络是以人体关键点与对应的学生行为类型作为输入来进行训练的。
9.一种计算机设备,其特征在于,包括存储器和处理器,所述存储器存储有计算机程序,其中,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述方法的步骤。
10.一种计算机存储介质,其特征在于,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811534533.2A CN109740446A (zh) | 2018-12-14 | 2018-12-14 | 课堂学生行为分析方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811534533.2A CN109740446A (zh) | 2018-12-14 | 2018-12-14 | 课堂学生行为分析方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109740446A true CN109740446A (zh) | 2019-05-10 |
Family
ID=66359534
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811534533.2A Pending CN109740446A (zh) | 2018-12-14 | 2018-12-14 | 课堂学生行为分析方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109740446A (zh) |
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110399822A (zh) * | 2019-07-17 | 2019-11-01 | 思百达物联网科技(北京)有限公司 | 基于深度学习的举手动作识别方法、装置及存储介质 |
CN110414415A (zh) * | 2019-07-24 | 2019-11-05 | 北京理工大学 | 面向课堂场景的人体行为识别方法 |
CN110827491A (zh) * | 2019-09-26 | 2020-02-21 | 天津市华软创新科技有限公司 | 一种学校学生行为大数据分析系统 |
CN111046823A (zh) * | 2019-12-19 | 2020-04-21 | 东南大学 | 基于课堂视频的学生课堂参与度分析系统 |
CN111079554A (zh) * | 2019-11-25 | 2020-04-28 | 恒安嘉新(北京)科技股份公司 | 分析学生课堂表现的方法、装置、电子设备、及存储介质 |
CN111144321A (zh) * | 2019-12-28 | 2020-05-12 | 北京儒博科技有限公司 | 专注度检测方法、装置、设备和存储介质 |
CN111144368A (zh) * | 2019-12-31 | 2020-05-12 | 重庆和贯科技有限公司 | 基于长短时记忆神经网络的学生行为检测方法 |
CN111144255A (zh) * | 2019-12-18 | 2020-05-12 | 华中科技大学鄂州工业技术研究院 | 一种教师的非语言行为的分析方法及装置 |
CN111325082A (zh) * | 2019-06-28 | 2020-06-23 | 杭州海康威视系统技术有限公司 | 一种人员专注度分析方法及装置 |
CN111507283A (zh) * | 2020-04-21 | 2020-08-07 | 浙江蓝鸽科技有限公司 | 基于课堂场景的学生行为识别方法及系统 |
CN111523444A (zh) * | 2020-04-21 | 2020-08-11 | 南通大学 | 基于改进的Openpose模型和面部微表情的课堂行为检测的方法 |
CN111523445A (zh) * | 2020-04-21 | 2020-08-11 | 南通大学 | 一种基于改进的Openpose模型和面部微表情的考试行为检测方法 |
CN111563452A (zh) * | 2020-05-06 | 2020-08-21 | 南京师范大学镇江创新发展研究院 | 一种基于实例分割的多人体姿态检测及状态判别方法 |
CN111738177A (zh) * | 2020-06-28 | 2020-10-02 | 四川大学 | 一种基于姿态信息提取的学生课堂行为识别方法 |
CN111754368A (zh) * | 2020-01-17 | 2020-10-09 | 天津师范大学 | 一种高校教学评估方法及基于边缘智能的高校教学评估系统 |
CN112053458A (zh) * | 2020-09-30 | 2020-12-08 | Oppo广东移动通信有限公司 | 打卡记录生成方法及相关装置 |
CN112069970A (zh) * | 2020-08-31 | 2020-12-11 | 首都师范大学 | 课堂教学事件分析方法及装置 |
CN112329634A (zh) * | 2020-11-05 | 2021-02-05 | 华中师范大学 | 课堂行为识别方法、装置、电子设备及存储介质 |
CN112381039A (zh) * | 2020-11-26 | 2021-02-19 | 上海紫尖教育科技有限公司 | 一种ai视频分析学生学习专注度的方法 |
CN113283334A (zh) * | 2021-05-21 | 2021-08-20 | 浙江师范大学 | 一种课堂专注度分析方法、装置和存储介质 |
CN113657152A (zh) * | 2021-07-07 | 2021-11-16 | 国网江苏省电力有限公司电力科学研究院 | 一种课堂学生行为识别系统构建方法 |
CN114155555A (zh) * | 2021-12-02 | 2022-03-08 | 北京中科智易科技有限公司 | 人体行为人工智能判断系统和方法 |
CN114281196A (zh) * | 2021-12-31 | 2022-04-05 | Oook(北京)教育科技有限责任公司 | 用于直播课堂的体感互动方法、装置、介质和电子设备 |
CN115907507A (zh) * | 2022-10-13 | 2023-04-04 | 华中科技大学 | 一种联合课堂场景的学生课堂行为检测和学情分析方法 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105389549A (zh) * | 2015-10-28 | 2016-03-09 | 北京旷视科技有限公司 | 基于人体动作特征的对象识别方法及装置 |
CN105590099A (zh) * | 2015-12-22 | 2016-05-18 | 中国石油大学(华东) | 一种基于改进卷积神经网络的多人行为识别方法 |
CN105678284A (zh) * | 2016-02-18 | 2016-06-15 | 浙江博天科技有限公司 | 一种固定位人体行为分析方法 |
US20160350611A1 (en) * | 2015-04-29 | 2016-12-01 | Beijing Kuangshi Technology Co., Ltd. | Method and apparatus for authenticating liveness face, and computer program product thereof |
CN107609517A (zh) * | 2017-09-15 | 2018-01-19 | 华中科技大学 | 一种基于计算机视觉的课堂行为检测系统 |
CN107609478A (zh) * | 2017-08-09 | 2018-01-19 | 广州思涵信息科技有限公司 | 一种匹配课堂知识内容的实时学情分析系统及方法 |
CN108346192A (zh) * | 2018-02-13 | 2018-07-31 | 福州外语外贸学院 | 一种计算机机房课程学生专注度的考勤方法及终端 |
CN108766075A (zh) * | 2018-05-31 | 2018-11-06 | 长春博立电子科技有限公司 | 一种基于视频分析的个性化教育分析系统及方法 |
CN108875614A (zh) * | 2018-06-07 | 2018-11-23 | 南京邮电大学 | 一种基于深度学习图像处理的摔倒检测方法 |
WO2018223530A1 (zh) * | 2017-06-08 | 2018-12-13 | 深圳市鹰硕技术有限公司 | 一种基于互联网的录播数据学习监控方法 |
-
2018
- 2018-12-14 CN CN201811534533.2A patent/CN109740446A/zh active Pending
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160350611A1 (en) * | 2015-04-29 | 2016-12-01 | Beijing Kuangshi Technology Co., Ltd. | Method and apparatus for authenticating liveness face, and computer program product thereof |
CN105389549A (zh) * | 2015-10-28 | 2016-03-09 | 北京旷视科技有限公司 | 基于人体动作特征的对象识别方法及装置 |
CN105590099A (zh) * | 2015-12-22 | 2016-05-18 | 中国石油大学(华东) | 一种基于改进卷积神经网络的多人行为识别方法 |
CN105678284A (zh) * | 2016-02-18 | 2016-06-15 | 浙江博天科技有限公司 | 一种固定位人体行为分析方法 |
WO2018223530A1 (zh) * | 2017-06-08 | 2018-12-13 | 深圳市鹰硕技术有限公司 | 一种基于互联网的录播数据学习监控方法 |
CN107609478A (zh) * | 2017-08-09 | 2018-01-19 | 广州思涵信息科技有限公司 | 一种匹配课堂知识内容的实时学情分析系统及方法 |
CN107609517A (zh) * | 2017-09-15 | 2018-01-19 | 华中科技大学 | 一种基于计算机视觉的课堂行为检测系统 |
CN108346192A (zh) * | 2018-02-13 | 2018-07-31 | 福州外语外贸学院 | 一种计算机机房课程学生专注度的考勤方法及终端 |
CN108766075A (zh) * | 2018-05-31 | 2018-11-06 | 长春博立电子科技有限公司 | 一种基于视频分析的个性化教育分析系统及方法 |
CN108875614A (zh) * | 2018-06-07 | 2018-11-23 | 南京邮电大学 | 一种基于深度学习图像处理的摔倒检测方法 |
Non-Patent Citations (2)
Title |
---|
SIJIE YAN 等: "Spatial Temporal Graph Convolutional Networks for Skeleton-Based Action Recognition", ARXIV, pages 1 - 10 * |
张鸿宇 等: "基于深度图像的多学习者姿态识别", 计算机科学, vol. 42, no. 9, pages 299 - 302 * |
Cited By (36)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111325082A (zh) * | 2019-06-28 | 2020-06-23 | 杭州海康威视系统技术有限公司 | 一种人员专注度分析方法及装置 |
CN111325082B (zh) * | 2019-06-28 | 2024-02-02 | 杭州海康威视系统技术有限公司 | 一种人员专注度分析方法及装置 |
CN110399822A (zh) * | 2019-07-17 | 2019-11-01 | 思百达物联网科技(北京)有限公司 | 基于深度学习的举手动作识别方法、装置及存储介质 |
CN110414415A (zh) * | 2019-07-24 | 2019-11-05 | 北京理工大学 | 面向课堂场景的人体行为识别方法 |
CN110827491A (zh) * | 2019-09-26 | 2020-02-21 | 天津市华软创新科技有限公司 | 一种学校学生行为大数据分析系统 |
CN111079554A (zh) * | 2019-11-25 | 2020-04-28 | 恒安嘉新(北京)科技股份公司 | 分析学生课堂表现的方法、装置、电子设备、及存储介质 |
CN111144255A (zh) * | 2019-12-18 | 2020-05-12 | 华中科技大学鄂州工业技术研究院 | 一种教师的非语言行为的分析方法及装置 |
CN111144255B (zh) * | 2019-12-18 | 2024-04-19 | 华中科技大学鄂州工业技术研究院 | 一种教师的非语言行为的分析方法及装置 |
CN111046823A (zh) * | 2019-12-19 | 2020-04-21 | 东南大学 | 基于课堂视频的学生课堂参与度分析系统 |
CN111144321A (zh) * | 2019-12-28 | 2020-05-12 | 北京儒博科技有限公司 | 专注度检测方法、装置、设备和存储介质 |
CN111144321B (zh) * | 2019-12-28 | 2023-06-09 | 北京如布科技有限公司 | 专注度检测方法、装置、设备和存储介质 |
CN111144368A (zh) * | 2019-12-31 | 2020-05-12 | 重庆和贯科技有限公司 | 基于长短时记忆神经网络的学生行为检测方法 |
CN111754368A (zh) * | 2020-01-17 | 2020-10-09 | 天津师范大学 | 一种高校教学评估方法及基于边缘智能的高校教学评估系统 |
CN111507283B (zh) * | 2020-04-21 | 2021-11-30 | 浙江蓝鸽科技有限公司 | 基于课堂场景的学生行为识别方法及系统 |
CN111523445A (zh) * | 2020-04-21 | 2020-08-11 | 南通大学 | 一种基于改进的Openpose模型和面部微表情的考试行为检测方法 |
CN111523444A (zh) * | 2020-04-21 | 2020-08-11 | 南通大学 | 基于改进的Openpose模型和面部微表情的课堂行为检测的方法 |
CN111507283A (zh) * | 2020-04-21 | 2020-08-07 | 浙江蓝鸽科技有限公司 | 基于课堂场景的学生行为识别方法及系统 |
CN111563452A (zh) * | 2020-05-06 | 2020-08-21 | 南京师范大学镇江创新发展研究院 | 一种基于实例分割的多人体姿态检测及状态判别方法 |
CN111563452B (zh) * | 2020-05-06 | 2023-04-21 | 南京师范大学镇江创新发展研究院 | 一种基于实例分割的多人体姿态检测及状态判别方法 |
CN111738177A (zh) * | 2020-06-28 | 2020-10-02 | 四川大学 | 一种基于姿态信息提取的学生课堂行为识别方法 |
CN111738177B (zh) * | 2020-06-28 | 2022-08-02 | 四川大学 | 一种基于姿态信息提取的学生课堂行为识别方法 |
CN112069970A (zh) * | 2020-08-31 | 2020-12-11 | 首都师范大学 | 课堂教学事件分析方法及装置 |
CN112069970B (zh) * | 2020-08-31 | 2022-10-04 | 首都师范大学 | 课堂教学事件分析方法及装置 |
CN112053458A (zh) * | 2020-09-30 | 2020-12-08 | Oppo广东移动通信有限公司 | 打卡记录生成方法及相关装置 |
CN112329634A (zh) * | 2020-11-05 | 2021-02-05 | 华中师范大学 | 课堂行为识别方法、装置、电子设备及存储介质 |
CN112329634B (zh) * | 2020-11-05 | 2024-04-02 | 华中师范大学 | 课堂行为识别方法、装置、电子设备及存储介质 |
CN112381039A (zh) * | 2020-11-26 | 2021-02-19 | 上海紫尖教育科技有限公司 | 一种ai视频分析学生学习专注度的方法 |
CN113283334B (zh) * | 2021-05-21 | 2023-07-21 | 浙江师范大学 | 一种课堂专注度分析方法、装置和存储介质 |
CN113283334A (zh) * | 2021-05-21 | 2021-08-20 | 浙江师范大学 | 一种课堂专注度分析方法、装置和存储介质 |
CN113657152A (zh) * | 2021-07-07 | 2021-11-16 | 国网江苏省电力有限公司电力科学研究院 | 一种课堂学生行为识别系统构建方法 |
CN114155555B (zh) * | 2021-12-02 | 2022-06-10 | 北京中科智易科技有限公司 | 人体行为人工智能判断系统和方法 |
CN114155555A (zh) * | 2021-12-02 | 2022-03-08 | 北京中科智易科技有限公司 | 人体行为人工智能判断系统和方法 |
CN114281196A (zh) * | 2021-12-31 | 2022-04-05 | Oook(北京)教育科技有限责任公司 | 用于直播课堂的体感互动方法、装置、介质和电子设备 |
CN114281196B (zh) * | 2021-12-31 | 2024-01-26 | Oook(北京)教育科技有限责任公司 | 用于直播课堂的体感互动方法、装置、介质和电子设备 |
CN115907507A (zh) * | 2022-10-13 | 2023-04-04 | 华中科技大学 | 一种联合课堂场景的学生课堂行为检测和学情分析方法 |
CN115907507B (zh) * | 2022-10-13 | 2023-11-14 | 华中科技大学 | 一种联合课堂场景的学生课堂行为检测和学情分析方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109740446A (zh) | 课堂学生行为分析方法及装置 | |
CN107609493B (zh) | 优化人脸图片质量评价模型的方法及装置 | |
CN108399376B (zh) | 学生课堂学习兴趣智能分析方法及系统 | |
CN110349667B (zh) | 结合调查问卷及多模态范式行为数据分析的孤独症评估系统 | |
CN111046819B (zh) | 一种行为识别处理方法及装置 | |
CN110945522B (zh) | 一种学习状态的判断方法、装置及智能机器人 | |
CN109165552A (zh) | 一种基于人体关键点的姿态识别方法、系统及存储器 | |
CN107918755A (zh) | 一种基于人脸识别技术的实时专注度分析方法及系统 | |
CN107918821A (zh) | 基于人工智能技术的教师课堂教学过程分析方法和系统 | |
CN108898115B (zh) | 数据处理方法、存储介质和电子设备 | |
CN112069970B (zh) | 课堂教学事件分析方法及装置 | |
US11436714B2 (en) | Method and apparatus for estimating emotional quality using machine learning | |
Abdulkader et al. | Optimizing student engagement in edge-based online learning with advanced analytics | |
JP6879526B2 (ja) | データを分析する方法 | |
CN112598552A (zh) | 一种教育课堂数据分析系统 | |
Deniz et al. | Computer vision for attendance and emotion analysis in school settings | |
CN112819665A (zh) | 课堂状态的评估方法和相关装置、设备 | |
CN111738199A (zh) | 图像信息验证方法、装置、计算装置和介质 | |
CN111353439A (zh) | 一种教学行为的分析方法、装置、系统及设备 | |
Nithya | Automated class attendance system based on face recognition using PCA algorithm | |
CN110111011B (zh) | 一种教学质量监管方法、装置及电子设备 | |
CN109064578B (zh) | 一种基于云服务的考勤系统及方法 | |
CN108197593B (zh) | 基于三点定位方法的多尺寸人脸表情识别方法及装置 | |
CN107967660B (zh) | 一种自动面部识别的安全考试系统 | |
CN111199378A (zh) | 学员管理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |