CN111597916A - 一种专注度检测方法、终端设备及系统 - Google Patents

一种专注度检测方法、终端设备及系统 Download PDF

Info

Publication number
CN111597916A
CN111597916A CN202010335469.6A CN202010335469A CN111597916A CN 111597916 A CN111597916 A CN 111597916A CN 202010335469 A CN202010335469 A CN 202010335469A CN 111597916 A CN111597916 A CN 111597916A
Authority
CN
China
Prior art keywords
server
terminal equipment
viewer
central control
concentration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010335469.6A
Other languages
English (en)
Inventor
严尧
李晓龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Orbbec Co Ltd
Original Assignee
Shenzhen Orbbec Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Orbbec Co Ltd filed Critical Shenzhen Orbbec Co Ltd
Priority to CN202010335469.6A priority Critical patent/CN111597916A/zh
Publication of CN111597916A publication Critical patent/CN111597916A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161—Detection; Localisation; Normalisation
    • G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G06Q50/20—Education
    • G06Q50/205—Education administration or guidance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/174—Facial expression recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • G06V40/19—Sensors therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Tourism & Hospitality (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Strategic Management (AREA)
  • Educational Technology (AREA)
  • Educational Administration (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Social Psychology (AREA)
  • Psychiatry (AREA)
  • Ophthalmology & Optometry (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • General Business, Economics & Management (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请适用于人工智能技术领域，提供了一种专注度检测方法、终端设备及系统，该专注度检测系统包括：终端设备，中控平台和服务器；所述中控平台用于控制所述服务器配置上线内容；所述服务器用于在所述中控平台的控制下，将所述上线内容传输至所述终端设备；所述终端设备用于接收并显示所述上线内容，并采集观看人员的图像数据，根据所述图像数据计算所述观看人员的专注度信息；所述终端设备还用于将所述专注度信息通过所述服务器上传至所述中控平台。一套系统同时完成教学和监测，解决了相关技术中设备功能单一的技术问题。

Description

一种专注度检测方法、终端设备及系统
技术领域
本申请属于人工智能技术领域，尤其涉及一种专注度检测方法、终端设备及系统。
背景技术
随着科学技术的不断发展，将信息技术应用在课堂学习中的智能课堂技术得到了飞速发展，例如，监测和分析学生课堂行为的技术。
目前，监测和分析学生课堂行为，主要采用的方案是：包含摄像头的终端采集监控数据上传至平台，平台通过分析该监控数据识别学生动作信息，从而为教育者或管理者实施管理功能提供便利。
可见，该方案中终端只有单纯采集监控数据的功能，终端收集到监控数据上传至平台以供分析使用，平台只有单纯的分析监控数据的功能。
发明内容
本申请实施例提供了一种专注度检测方法、终端设备及系统，可以解决相关技术中设备功能单一的技术问题。
第一方面，本申请实施例提供了一种专注度检测系统，包括：终端设备，中控平台和服务器；
所述中控平台用于控制所述服务器配置上线内容；
所述服务器用于在所述中控平台的控制下，将所述上线内容传输至所述终端设备；
所述终端设备用于接收并显示所述上线内容，并采集观看人员的图像数据，根据所述图像数据计算所述观看人员的专注度信息；
所述终端设备还用于将所述专注度信息通过所述服务器上传至所述中控平台。
第二方面，本申请实施例提供了一种一专注度检测方法，应用于终端设备，所述专注度检测方法包括：
所述终端设备接收服务器传输的上线内容，显示所述上线内容；所述上线内容在中控平台的控制下由服务器发送至所述终端设备；
所述终端设备采集观看人员的图像数据；
所述终端设备根据所述图像数据计算所述观看人员的专注度信息；
所述终端设备将所述专注度信息通过所述服务器发送至所述中控平台。
第三方面，本申请实施例提供了一种专注度检测方法，包括：
中控平台控制服务器发送上线内容至终端设备；
所述终端设备接收并显示所述上线内容；
所述终端设备采集观看人员的图像数据；
所述终端设备根据所述图像数据计算所述观看人员的专注度信息；
所述终端设备将所述专注度信息通过所述服务器发送至所述中控平台。
第四方面，本申请实施例提供了一种专注度检测装置，配置于终端设备，包括：
接收执行模块，用于接收服务器传输的上线内容，所述上线内容在中控平台的控制下由服务器发送至所述终端设备；
显示执行装置，用于显示所述上线内容；
获取和计算模块，用于获取观看人员的图像数据，根据所述图像数据计算所述观看人员的专注度信息；
发送执行模块，用于将所述专注度信息通过所述服务器发送至所述中控平台。
第五方面，本申请实施例提供了一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如第二方面所述的方法。
第六方面，本申请实施例提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现如第二方面所述的方法。
第七方面，本申请实施例提供了一种计算机程序产品，当计算机程序产品在终端设备上运行时，使得终端设备执行上述第二方面中所述的方法。
本申请实施例与现有技术相比存在的有益效果是：
本申请实施例提供的专注度检测系统，通过多个设备之间的交互，完成双向的信息流传输。正向传输多媒体信息，反向反馈专注度数据，一套系统同时完成教学和监测。一方面，不需要为教学和监测分别部署硬件设备或系统，大大降低了硬件成本。另一方面，相较于相关技术中终端设备单纯用于采集监测数据，本申请实施例中的终端设备除了采集监测数据，还可以在本地完成专注度信息的计算，这个过程通过软件就能实现，不需要改变硬件，从而使得本申请实施例易于实施，也进一步控制了硬件成本。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的专注度检测系统的示意图；
图2是本申请另一实施例提供的专注度检测系统的示意图；
图3是本申请一实施例提供的专注度检测方法的流程示意图；
图4是本申请一实施例提供的专注度检测装置的结构示意图；
图5是本申请一实施例提供的终端设备的结构示意图；
图6是本申请另一实施例提供的终端设备的结构示意图；
图7是本申请另一实施例提供的终端设备的结构示意图；
图8是本申请一实施例提供的安装装置的结构示意图；
图9本申请一实施例提供的终端设备通过安装装置安装于墙壁上的结构示意图。
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
应当理解，当在本申请说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外，在本申请说明书和所附权利要求书的描述中，术语“第一”、“第二”、“第三”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此，在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例，而是意味着“一个或多个但不是所有的实施例”，除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”，除非是以其他方式另外特别强调。
先通过非限制示例对本申请实施例的应用场景进行举例说明。图1所示，为本申请一实施例提供的专注度检测系统。
如图1所示，该应用场景中部署有专注度检测系统，该专注度检测系统包括终端设备11，服务器12，和中控平台13。终端设备11与服务器12通过有线或无线的通信网络进行通信连接。服务器12与中控平台13通过有线或无线的通信网络进行通信连接。
无线通信网络包括但不限于无线上网(Wireless Fidelity，Wi-Fi)、紫蜂协议(ZigBee)、蓝牙、全球移动通讯系统(Global System of Mobile communication，GSM)、通用分组无线服务(General Packet Radio Service，GPRS)、码分多址(Code DivisionMultiple Access，CDMA)、宽带码分多址(Wideband Code Division Multiple Access，WCDMA)、长期演进(Long Term Evolution，LTE))、第五代移动通信网络(5th generationmobile networks，5G)和未来采用的通信网络等。
中控平台13用于控制服务器12配置上线内容。所述服务器12用于在中控平台13的控制下，将上线内容传输至终端设备11。终端设备11用于显示该上线内容，并采集观看人员的图像数据，并基于该图像数据计算观看人员的专注度信息。终端设备11还用于将计算得到的观看人员的专注度信息通过服务器12上传至中控平台13。需要说明的是，终端设备11采集的观看人员的图像数据包括2D图像，深度图像，视频数据等中的一种或多种的组合。终端设备11可以为包含深度相机的终端设备。
需要说明的是，在图1所示应用场景的基础上，在本申请一些实施例中，中控平台13可以将专注度信息显示或发布于中控屏幕上，以供管理者或使用者(或称为操作者)更为直观地查看检测对象的专注度信息。在本申请一些实施例中，服务器12可以包括本地服务器或云端服务器。在本申请一些实施例中，图1所示应用场景中的服务器12可以替换为多个服务器的形式，如图2所示，主服务器121连接中控平台13，主服务器121连接一个或多个节点服务器122，节点服务器122连接终端设备11。中控平台13用于控制主服务器121通过节点服务器122在终端设备11上配置上线内容。主服务器121在中控平台13的控制下，通过节点服务器122配置上线内容至终端设备11。
本申请实施例提供的专注度检测系统，通过多个设备之间的交互，完成双向的信息流传输。正向传输多媒体信息，反向反馈专注度数据，一套系统同时完成教学和监测。一方面，不需要为教学和监测分别部署硬件设备或系统，大大降低了硬件成本。另一方面，相较于相关技术中终端设备单纯用于采集监测数据，本申请实施例中的终端设备除了采集监测数据，还可以在本地完成专注度信息的计算，这个过程通过软件就能实现，不需要改变硬件，从而使得本申请实施例易于实施，也进一步控制了硬件成本。
可以理解的是，在本申请实施例中，计算观看人员的专注度等信息是在终端设备中完成。这是因为深度相机采集的数据包括视频格式、和/或图片格式等，数据量是非常大的，出于网络数据传输的考虑，优先在终端设备执行各种算法以计算观看人员的专注度。在本申请其它实施例中，也可以在服务器或中控平台对专注度进行计算，本申请对此不予具体限制。
可以理解的是，专注度检测系统可应用于多个场景，例如教学、培训、或会议等场景中以检测参与人员的专注度。相应地，专注度检测系统中的终端设备应安装于对应场景中，以采集参与人员的图像数据进行专注度信息的计算。
以检测学生在教学过程中的专注度这一具体应用场景，作为图1所示应用场景的一个具体示例。中控平台没有较强的存储功能，待上线内容，例如视频等教学信息，可以存在云服务器。中控平台，也可称为视频配置平台，在云服务器中配置并上线特定视频内容，例如某一教学视频。云服务器通过校园的节点服务器将上线内容分发给每个教室的终端设备。例如，中控平台的操作者(或称使用者)通过服务器确定终端设备的上线内容，一次可以上线一个或多个视频内容。终端设备的操作者，例如教师，在终端设备上选择某个已上线的视频内容进行播放，与终端设备通信耦合的显示装置播放该视频内容。终端设备采集教师中学生的图像数据，例如2D图像和/或深度图像和/或视频数据，并基于2D图像和/或深度图像和/或视频数据计算学生的专注度信息，且将专注度信息通过服务器上传至中控平台。
需要说明的是，上线内容可以不由中控平台的操作者输入。服务器中可以存储有很多内容，例如视频、文档、或图片等等。中控平台的操作者可以决定哪些内容是要分发给学生们观看的，被选定的内容即为上线内容。
应理解，在本申请实施例中，服务器包括但不限于独立的服务器，分布式服务器，服务器集群或云端服务器等。
应理解，在本申请实施例中，终端设备与显示装置可以为相互独立的设备，也可以为同一个设备中的不同部件。本申请对此不予限制。
还应理解，图1和图2示例的终端设备的数量，服务器的数量，中控平台的数量等不能构成对本申请的具体限制。本领域技术人员应理解，终端设备的数量，服务器的数量，中控平台的数量等都可以根据实际需求进行选择设置。
图3示出了本申请一实施例提供一种专注度检测方法的实现流程图。作为示例而非限定，该方法可以应用于图1或图2所示的终端设备中。所述方法包括步骤S310至步骤S340。
S310，所述终端设备接收服务器传输的上线内容，显示所述上线内容；所述上线内容在中控平台的控制下由服务器发送至所述终端设备。
S320，所述终端设备采集观看人员的图像数据。
其中，所述图像数据包括但不限于：2D图像、深度图像和视频数据中的至少一种。
在本申请一实施例中，终端设备通过深度相机采集观看人员的图像数据。
S330，所述终端设备根据所述图像数据计算所述观看人员的专注度信息。
在本申请一实施例中，专注度信息包括但不限于观看人员的面部信息，观看人员的视线朝向，和观看人员朝向显示装置的时长中的一种或多种。
其中，对于观看人员的面部信息，主要是观察观看人员的面部表情、唇部活动，眼睛闭合程度、眨眼频率等。在一个实施例中，控制处理装置首先要锁定视频格式和/或图片格式中的脸部区域，对面部表情、动作和人眼信息等进行切割和碎片化整理，实现对所述信息的初步提取和分类，处理获得上述特征行为信息。举例说明，当人的面部表情、唇部运动越少，可认为观看人员对上线内容的专注度越高，或者眼睛闭合程度、眨眼频率越高，可认为观看人员对上线内容的专注度越低。
对于观看人员的视线朝向，控制处理装置可通过深度相机采集的视频和/或2D和/或深度图像获取每个观看人员的人脸图像。本申请一实施例中，优先采用深度人脸图像确定观看人员的视线方向。具体地，首先利用深度图像计算出人脸部的3D信息(比如3D点云)，并根据该3D信息可以获取诸如人脸朝向、关键点3D坐标等信息；其次，根据2D图像识别出人眼睛的细节特征，比如瞳孔中心、闪烁点(经红外光照射后由人眼角膜反射的光在红外相机中所成的固定的斑点)、瞳孔、或虹膜等，进一步基于人脸3D信息以及2D图像与深度图像之间的关系，例如相互重合，或经配准后的两幅图像各像素之间的对应关系等，可以得到人眼细节特征的3D坐标；最后，结合一个或多个人眼细节特征的3D坐标计算人眼视线方向。
对于观看人员朝向显示装置的时长，需要结合上述人眼视线方向，统计观看人员的眼视线朝向显示装置的时长，一般地，朝向显示装置的时间越长，则判定观看人员观看视频的专注度越高。
S340，所述终端设备将所述专注度信息通过所述服务器发送至所述中控平台。
对应于上文实施例所述的专注度检测方法，图4示出了本申请实施例提供的专注度检测装置的结构框图，为了便于说明，仅示出了与本申请实施例相关的部分。该专注度检测装置配置于终端设备。
参照图4，该专注度检测装置包括：
接收模块41，用于接收服务器传输的上线内容，所述上线内容在中控平台的控制下由服务器发送至所述终端设备；
显示装置42，用于显示所述上线内容；
获取和计算模块43，用于采集观看人员的图像数据，根据所述图像数据计算所述观看人员的专注度信息；
发送模块44，用于将所述专注度信息通过所述服务器发送至所述中控平台。
需要说明的是，上述装置/单元之间的信息交互、执行过程等内容，由于与本申请方法实施例基于同一构思，其具体功能及带来的技术效果，具体可参见方法实施例部分，此处不再赘述。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请一实施例中，如图5所示，为本申请一实施例提供的一种终端设备5的结构示意图。如图5所示，终端设备5包括：至少一个处理器50(图5中仅示出一个处理器)、存储器51以及存储在所述存储器51中并可在所述至少一个处理器50上运行的计算机程序52，所述处理器50执行所述计算机程序52时实现专注度检测方法中的各个步骤，例如图3所述的步骤S310至S340。或者，所述处理器50执行所述计算机程序52时实现专注度检测装置中各模块/单元的功能，例如图4所示的模块41至44。
示例性的，所述计算机程序52可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器51中，并由所述处理器50执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述所述计算机程序52在所述终端设备5中的执行过程。
所述终端设备5可包括，但不仅限于，处理器50、存储器51。本领域技术人员可以理解，图5仅仅是终端设备5的示例，并不构成对终端设备5的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述终端设备5还可以包括输入输出设备、网络接入设备、总线等。具体地，在本申请一实施例中，终端设备还可以包括深度相机，用于采集观察人员的图像数据。在本申请一实施例中，终端设备还可以包括显示装置，用于显示上线内容。
所述处理器50可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器51可以是所述终端设备5的内部存储单元，例如终端设备5的硬盘或内存。所述存储器51也可以是所述终端设备5的外部存储设备，例如所述终端设备5上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(Secure Digital,SD)卡，闪存卡(Flash Card)等。进一步地，所述存储器51还可以既包括所述终端设备5的内部存储单元也包括外部存储设备。所述存储器51用于存储所述计算机程序以及所述终端设备5所需的其他程序和数据。所述存储器51还可以用于暂时地存储已经输出或者将要输出的数据。
图6所示为本申请另一实施例提供的终端设备的结构示意图，如图6所示，终端设备包括深度相机111，和与深度相机111相连的控制处理装置112。
深度相机111用于采集2D图像、深度图像和视频数据中的至少一种。
控制处理装置112用于控制深度相机111采集观看人员的2D图像、深度图像和视频数据中的至少一种，并接收和处理2D图像、深度图像和视频数据中的至少一种以计算观看人员的专注度信息，并将专注度信息上传至服务器。其中，2D图像包括但不限于红外图像和彩色图像等。
在本申请一实施例中，继续参见图6所示，深度相机111包括投影模组1111、RGB模组1112和成像模组1113。投影模组1111，用于向观看人员发射结构光光束；成像模组1113，用于对结构光光束成像以采集观看人员的3D图像。RGB模组1112，用于采集观看人员的彩色图像。
一般地，投影模组1111可以投射可见光图像，也可以投射不可见光图像。不可见光图像，比如红外散斑图像。当投影模组1111投射不可见光图像时，相应的，成像模组1113可以是红外相机。应理解的是，红外相机可以在投影模组1111投射红外散斑图像时，采集红外散斑图像。当投影模组1111关闭时，红外相机还可以采集红外图像。
作为本申请一个非限制性示例，深度相机111的基线可以为75mm。
控制处理装置112可以是集成特定功能的ARM控制处理装置，也可以是集成于系统级芯片(System on Chip，SoC)内核的现成可编程门阵列(Field-Programmable GateArray，FPGA)、数字信号处理器(Digital Signal Processor，DSP)、或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。
在本申请一实施例中，终端设备中的控制处理装置112通过电路板(图6中未示出)及连接器(图6中未示出)与深度相机111进行相连并对其进行控制。其中，电路板可以是柔性电路板FPC、印制电路板PCB或软硬结合板等，连接器可以包括任何形式，比如板对板(BTB)连接器、或零插入力(ZIF)连接器等。
在本申请一些实施例中，终端设备除了包括深度相机111和处理控制装置112，还包括显示装置。显示装置与控制处理装置通信耦合。显示装置用于显示上线内容。
显示装置与控制处理装置通信耦合的方式，包括但不限于有线或无线的连接方式。显示装置例如，投影仪或显示屏等。
应理解，在本申请实施例中，深度相机、控制处理装置与显示装置可以为相互独立的设备，也可以设置在同一个设备中，还可以设置在两个设备中，本申请对此不予限制。
图7为图6所示终端设备的结构拆分图。如图7所示，终端设备还包括本体113，本体113具备中空腔体，形成容置空间。控制处理装置112容置于本体113的中空腔体。
在本申请一实施例中，继续参见图7所示，本体113包括底部具有开口的半封闭壳体1131，与半封闭壳体1131的开口相适配的底盖1132。半封闭壳体1131与底盖1132形成具有容置空间的腔体，控制处理装置112容置于该腔体内。
半封闭壳体1131和底盖1132可以通过卡接、扣接、铆接、和螺钉固定等中的一种或多种实现适配。例如，半封闭壳体1131和底盖1132可以通过卡槽和卡扣实现适配，还可以通过过盈配合实现适配，还可以通过卡接和螺钉固定相结合实现适配。
应理解，图7此处仅为示例性描述，本申请对半封闭壳体1131和底盖1132的适配方式不予限定。
还应理解，图7此处仅为示例性描述，在本申请其他实施例中，本体113还可以一体成型，或者，由三个或大于三个的壳体配合形成。本体113可以为封闭式，也可以具有一个或多个开口。本申请对本体113的结构和形状不作具体限定。
在本申请一实施例中，继续参见图7所示，半封闭壳体1131的两侧设置有多个用于散热的两侧散热孔11311，底盖1132上设有多个用于散热的底部散热孔11321。
在本申请一实施例中，如图7所示，终端设备还包括散热片114。散热片114设置于控制处理装置112上。
在本申请一实施例中，散热片114上还可以具有多个翅片，进一步提升散热效果。
在本申请一实施例中，散热片113可以为铝制散热片。
散热片113将控制处理装置112的热量导出到翅片上，翅片上的热量给腔体中的空气加热，热空气向上升通过半封闭壳体1131的两侧散热孔11311导出，由于空气对流冷空气将通过底部散热孔11321进入腔体中以进行补偿，腔体中的容置空间给空气对流提供了足够的场所，从而保证了控制处理装置112良好的散热，进而使得控制处理装置112长时间的并行工作，例如，驱动深度相机进行数据采集、运行专注度算法等进程的同时进行。
还应理解，在本申请实施例中，图5、图6和图7仅为终端设备的示例，不能解释为对终端设备结构的具体限定，终端设备的还可以为其他结构，和/或，包括更多的部件。
如前所述，专注度检测系统中的终端设备应安装于实际应用场景中，以下将对可用于安装终端设备的安装装置进行说明。
应理解，在本申请一些实施例中，专注度检测系统还可以包括安装装置，所述安装装置可以用于安装终端设备。
请参阅图8，本申请还提供一种安装装置14，安装装置14包括，主体支架141，连接部件142，以及通过连接部件142可滑动安装于主体支架141上的辅助支架143。
其中，辅助支架143可以用于承载终端设备。一般地，主体支架141安装于竖直方向的墙壁上，终端设备安装于辅助支架143上，辅助支架143水平安装于主体支架141上，如图9所示，图9为终端设备11通过安装装置14安装于墙壁上的结构示意图。
请继续参见图8所示，主体支架141包括竖直平板1411，弯折结构1412，以及通过弯折结构1412与竖直平板1411一体成型的横向水平板1413。辅助支架通过连接部件可滑动安装于横向水平板1413上。竖直平板1411用于固定于竖直方向的墙壁。其中，竖直平板1411上设置有第一通孔14111，第一通孔14111下方设置有一弧形通槽14112。
在安装的时候，竖直平板是贴着墙面的，首先用一颗螺钉钉在第一通孔中做固定，然后再调整竖直平板的倾斜角度，确定好角度以后，用另一颗螺钉钉在弧形通槽中，这样通过两颗螺丝钉就固定了竖直平板(主体支架)以及确定了其在竖直平面上的倾斜角度。
应理解，图8此处仅为示例性描述，在本申请其他实施例中，主体支架141还可以不包括弯折结构1412，可以包括相连的竖直平板1411和横向水平板1413。在本申请其他实施例中，竖直平板1411和横向水平板1413可以一体成型，也可以分体成型后固定，固定连接的方式包括但不限于焊接和/或铆接等。
在本申请一实施例中，第一通孔14111与弧形通槽14112最低点的距离可以为20至30mm，优选为25mm。第一通孔14111与弧形通槽14112最低点形成的线段与第一通孔14111到弧形通槽14112任一端点形成的线段之间的夹角相等，可以为25至35度，优选为30度。通过这种设置，当夹角设置为30度时，主体支架141可在竖直方向上偏转±30°，也就是说，终端设备可在竖直方向上偏转±30°。
在本申请一实施例中，参见图8所示，横向水平板1413成Y型结构，其包括主体部14131以及沿着主体部14131沿水平方向向外延伸的延伸部14132。
在本申请一实施例中，参见图8所示，主体部14131上开设有多个规则排布或者不规则排布的散热通孔141311，延伸部14132上开设有一长条型滑槽141321。辅助支架143可拆卸安装于延伸部14132上，且可在长条型滑槽141321上进行往返滑动。
在本申请一实施例中，参见图8所示，辅助支架143包括承载部1431和挡板部1432。在本申请其他实施例中，辅助支架143可以不包括挡板部1432。
承载部1431用于承载终端设备，且承载部1431上开设有安装通孔14311，安装通孔14311与滑槽141321相配合，使得连接部件142可通过滑槽141321贯穿安装通孔14311直至到达终端设备，进而使得终端设备可在滑槽上进行往返滑动。需要说明的是，终端设备的底部可以设置有与连接部件142适配的凹槽或通孔，连接部件142的一端可以插入凹槽或通孔。在本申请一实施例中，连接部件142插入凹槽或通孔的一端，与凹槽或通孔可以设置相适配的螺纹，进而防止终端设备滑落。
挡板部1432设于承载部1431的端部，用于与终端设备相抵接，进而防止终端设备滑落。挡板部1432可以为一个或多个，当挡板部1432为多个，多个挡板部1432可以设置在承载部1431的不同端部，也可以如图8所示设置在承载部1431的同一端部。
在本申请一实施例中，连接部件142可以为螺钉，为了使得螺钉可在滑槽141321上滑动，滑槽141321的宽度应该略大于螺钉的螺杆的直径，并略小于螺钉的螺帽的直径。
在本申请一实施例中，辅助支架143可以以连接部件142为支点在水平方向上偏转±45°。在本申请其他实施例中，水平方向上的偏转角度也可以为其他角度，例如30至50度中的任一角度，该偏转角度可以根据实际应用场景和需求进行选择设置，本申请对此不予限制。
由上可知，通过上安装装置安装终端设备，使得终端设备可在竖直方向、水平方向上进行偏转，从而使得终端设备可在教室(或其它场景)多种位置安装并保证深度相机调节至可识别教室主要区域的角度。此外，终端设备可以在滑槽中前后滑动，也就是说，终端设备在滑槽中滑动以调整前后距离，可以保证深度相机的视场角(fieldofview，FOV)不被旁边墙体上安装的其它物体所遮挡(如壁挂音箱、投影仪等)，大大提升了本申请实施例提供的检测专注度方案的准确性和环境适应性。
本申请实施例还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时可实现专注度检测方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品，当计算机程序产品在终端设备上运行时，使得终端设备执行时可实现专注度检测方法实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述实施例方法中的全部或部分流程，可以通过计算机程序来指令相关的硬件来完成，所述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括：能够将计算机程序代码携带到网络终端的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区，根据立法和专利实践，计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的装置/网络设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/网络设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种专注度检测系统，其特征在于，包括：终端设备，中控平台和服务器；
所述中控平台用于控制所述服务器配置上线内容；
所述服务器用于在所述中控平台的控制下，将所述上线内容传输至所述终端设备；
所述终端设备用于接收并显示所述上线内容，并采集观看人员的图像数据，根据所述图像数据计算所述观看人员的专注度信息；
所述终端设备还用于将所述专注度信息通过所述服务器上传至所述中控平台。
2.如权利要求1所述的专注度检测系统，其特征在于，所述终端设备包括深度相机，和与所述深度相机相连的控制处理装置，所述控制处理装置用于控制所述深度相机采集观看人员的2D图像、深度图像和视频数据中的至少一种，并根据所述2D图像、深度图像和视频数据中的至少一种，计算得到所述观看人员的专注度信息，将所述专注度信息通过所述服务器上传至所述中控平台。
3.如权利要求1或2所述的专注度检测系统，其特征在于，所述终端设备还包括显示装置，所述显示装置用于显示所述上线内容。
4.如权利要求1或2所述的专注度检测系统，其特征在于，所述专注度信息包括：观看人员的面部信息、观看人员的视线朝向和观看人员朝向显示设备的时长中的至少一种。
5.一种专注度检测方法，其特征在于，应用于终端设备，所述专注度检测方法包括：
所述终端设备接收服务器传输的上线内容，显示所述上线内容；所述上线内容在中控平台的控制下由服务器发送至所述终端设备；
所述终端设备采集观看人员的图像数据；
所述终端设备根据所述图像数据计算所述观看人员的专注度信息；
所述终端设备将所述专注度信息通过所述服务器发送至所述中控平台。
6.如权利要求5所述的专注度检测方法，其特征在于，所述终端设备采集观看人员的图像数据，包括：
所述终端设备通过深度相机采集观看人员的图像数据；所述图像数据包括2D图像、深度图像和视频数据中的至少一种。
7.一种专注度检测方法，其特征在于，包括：
中控平台控制服务器发送上线内容至终端设备；
所述终端设备接收并显示所述上线内容；
所述终端设备采集观看人员的图像数据；
所述终端设备根据所述图像数据计算所述观看人员的专注度信息；
所述终端设备将所述专注度信息通过所述服务器发送至所述中控平台。
8.一种专注度检测装置，配置于终端设备，其特征在于，包括：
接收执行模块，用于接收服务器传输的上线内容，所述上线内容在中控平台的控制下由服务器发送至所述终端设备；
显示执行装置，用于显示所述上线内容；
获取和计算模块，用于获取观看人员的图像数据，根据所述图像数据计算所述观看人员的专注度信息；
发送执行模块，用于将所述专注度信息通过所述服务器发送至所述中控平台。
9.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求5或6所述的方法。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求5或6所述的方法。
CN202010335469.6A 2020-04-24 2020-04-24 一种专注度检测方法、终端设备及系统 Pending CN111597916A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010335469.6A CN111597916A (zh) 2020-04-24 2020-04-24 一种专注度检测方法、终端设备及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010335469.6A CN111597916A (zh) 2020-04-24 2020-04-24 一种专注度检测方法、终端设备及系统

Publications (1)

Publication Number Publication Date
CN111597916A true CN111597916A (zh) 2020-08-28

Family

ID=72185220

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010335469.6A Pending CN111597916A (zh) 2020-04-24 2020-04-24 一种专注度检测方法、终端设备及系统

Country Status (1)

Country Link
CN (1) CN111597916A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115097933A (zh) * 2022-06-13 2022-09-23 华能核能技术研究院有限公司 专注度的确定方法、装置、计算机设备和存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040152060A1 (en) * 2003-01-31 2004-08-05 Haru Ando Learning condition judging program and user condition judging system
CN106599881A (zh) * 2016-12-30 2017-04-26 首都师范大学 学生状态的确定方法、装置及系统
CN108281052A (zh) * 2018-02-09 2018-07-13 郑州市第十中学 一种在线教学系统及在线教学方法
CN109271914A (zh) * 2018-09-07 2019-01-25 百度在线网络技术（北京）有限公司 检测视线落点的方法、装置、存储介质和终端设备
CN110033400A (zh) * 2019-03-26 2019-07-19 深圳先进技术研究院 一种课堂监控分析系统
US20190340780A1 (en) * 2016-06-23 2019-11-07 Gaia System Solutions Inc. Engagement value processing system and engagement value processing apparatus

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040152060A1 (en) * 2003-01-31 2004-08-05 Haru Ando Learning condition judging program and user condition judging system
US20190340780A1 (en) * 2016-06-23 2019-11-07 Gaia System Solutions Inc. Engagement value processing system and engagement value processing apparatus
CN106599881A (zh) * 2016-12-30 2017-04-26 首都师范大学 学生状态的确定方法、装置及系统
CN108281052A (zh) * 2018-02-09 2018-07-13 郑州市第十中学 一种在线教学系统及在线教学方法
CN109271914A (zh) * 2018-09-07 2019-01-25 百度在线网络技术（北京）有限公司 检测视线落点的方法、装置、存储介质和终端设备
CN110033400A (zh) * 2019-03-26 2019-07-19 深圳先进技术研究院 一种课堂监控分析系统

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115097933A (zh) * 2022-06-13 2022-09-23 华能核能技术研究院有限公司 专注度的确定方法、装置、计算机设备和存储介质

Similar Documents

Publication Publication Date Title
US9460351B2 (en) Image processing apparatus and method using smart glass
CN114097248B (zh) 一种视频流处理方法、装置、设备及介质
DE112016006066T5 (de) Analyse von umgebungslicht zur blickverfolgung
CN102918547A (zh) 远程注视控制系统和方法
CN113115110B (zh) 视频合成方法、装置、存储介质与电子设备
CN107809563A (zh) 一种板书检测系统、方法及装置
Mackin et al. The visibility of motion artifacts and their effect on motion quality
CN111597916A (zh) 一种专注度检测方法、终端设备及系统
CN105340258A (zh) 位置检测装置
CN110933350A (zh) 一种电子云镜录播系统、方法及装置
CN212361513U (zh) 一种安装装置
Zhang et al. Full-reference stability assessment of digital video stabilization based on riemannian metric
US20180188543A1 (en) Display apparatus and method of displaying using electromechanical faceplate
Lampi et al. An automatic cameraman in a lecture recording system
CN109076251B (zh) 远程会议传输
JP2018170706A (ja) 映像情報送信プログラム、映像情報送信方法および映像情報送信装置
CN115580691A (zh) 一种用于虚拟制片的图像渲染合成系统
CN114631323A (zh) 区划适应性视频生成
CN213781262U (zh) 一种直播间
US20080123956A1 (en) Active environment scanning method and device
CN111988520B (zh) 一种画面切换方法、装置、电子设备及存储介质
CN115268650A (zh) 画面截屏方法、装置、头戴式虚拟现实设备和存储介质
CN110418059B (zh) 应用于电子设备的图像处理方法、装置、电子设备、介质
CN108195563B (zh) 一种立体显示装置的显示效果测评方法、装置和测评终端
CN115315939A (zh) 信息处理装置、信息处理方法和程序

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: 11-13 / F, joint headquarters building, high tech Zone, 63 Xuefu Road, Yuehai street, Nanshan District, Shenzhen, Guangdong 518000

Applicant after: Obi Zhongguang Technology Group Co., Ltd

Address before: 12 / F, joint headquarters building, high tech Zone, 63 Xuefu Road, Yuehai street, Nanshan District, Shenzhen, Guangdong 518000

Applicant before: SHENZHEN ORBBEC Co.,Ltd.