CN108877371A - 一种vr虚拟课堂教学训练系统及实现方法 - Google Patents
一种vr虚拟课堂教学训练系统及实现方法 Download PDFInfo
- Publication number
- CN108877371A CN108877371A CN201810716515.XA CN201810716515A CN108877371A CN 108877371 A CN108877371 A CN 108877371A CN 201810716515 A CN201810716515 A CN 201810716515A CN 108877371 A CN108877371 A CN 108877371A
- Authority
- CN
- China
- Prior art keywords
- virtual
- user
- voice
- preset
- classroom training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B9/00—Simulators for teaching or training purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/20—Education
Abstract
本发明提供一种VR虚拟课堂教学训练系统,包括虚拟应用服务器、虚拟识别装置、虚拟交互操作装置和语音及动作捕捉机构;虚拟识别装置在用户佩戴后,开启并获取及呈现虚拟应用服务器中虚拟课堂训练软件及其实时变化情况;虚拟交互操作装置接收用户指令并转换成操作指令对虚拟课堂训练软件进行交互操作;语音及动作捕捉机构对用户语音进行识别以及对用户动作进行捕捉并与虚拟课堂训练软件进行交互;虚拟应用服务器识别虚拟识别装置,且接收虚拟交互操作装置的操作指令及语音及动作捕捉机构的语音及动作进行交互,将交互后的虚拟课堂训练软件进行实时更新并呈现给虚拟识别装置。实施本发明,能够应用于虚拟课堂教学训练,而且实现人与虚拟环境下的实物的交互。
Description
技术领域
本发明涉及虚拟现实技术领域,尤其涉及一种VR虚拟课堂教学训练系统及实现方法。
背景技术
虚拟现实技术是一种综合集成技术,涉及计算机图形学、人机交互技术、传感技术、人工智能等。它由计算机硬件、软件以及各种传感器构成的三维信息的人工环境—虚拟环境,可以逼真地模拟现实世界(甚至是不存在的)的事物和环境,人投入到这种环境中,立即有身临其境的感觉,并可亲自操作,自然地与虚拟环境进行交互。该技术在国内外已用于多个领域,如心理治疗训练、高成本或高危场所训练等。
然而,国内外还没有人将虚拟现实技术应用于组建虚拟课堂,用虚拟课堂进行教学训练和班级管理训练,而且现有的虚拟现实技术应用的领域大多都是与环境中的物体进行交互,并没有与人的交互。
发明内容
本发明实施例所要解决的技术问题在于,提供一种VR虚拟课堂教学训练系统及实现方法,能够应用于虚拟课堂教学训练,而且实现人与虚拟环境下的实物的交互。
为了解决上述技术问题,本发明实施例提供了一种VR虚拟课堂教学训练系统,包括虚拟应用服务器以及与所述虚拟应用服务器均相连的虚拟识别装置、虚拟交互操作装置和语音及动作捕捉机构;其中,
所述虚拟识别装置,用于用户佩戴后,开启并获取及呈现所述虚拟应用服务器中预设的虚拟课堂训练软件及其实时变化情况;
所述虚拟交互操作装置,用于接收用户指令,并将所接收到的用户指令转换成操作指令,对所述虚拟应用服务器中预设的虚拟课堂训练软件进行交互操作;
所述语音及动作捕捉机构,用于对用户的语音进行识别以及对用户在预定范围内的动作进行捕捉,并将所捕捉到的语音及动作与所述虚拟应用服务器中预设的虚拟课堂训练软件进行交互;
所述虚拟应用服务器,用于识别所述虚拟识别装置并推送预设的虚拟课堂训练软件,且接收所述虚拟交互操作装置的操作指令以及所述语音及动作捕捉机构所捕捉到的语音及动作进行交互,进一步将交互结果对预设的虚拟课堂训练软件进行实时更新并及时呈现给所述虚拟识别装置。
其中,所述虚拟识别装置为VR头盔和/或VR眼镜。
其中,所述虚拟交互操作装置为手柄和/或激光笔。
其中,所述语音及动作捕捉机构包括与所述虚拟应用服务器均相连的红外光学跟踪定位器、体感交互器和语音识别装置;其中,
所述红外光学跟踪定位器,用于确定用户动作捕捉的预定范围,并跟踪用户的动作范围,且进一步在判别所跟踪到的用户的动作范围位于所述预定范围后,确定用户动作具有有效性;
所述体感交互器,用于在所述红外光学跟踪定位器判别用户动作具有有效性后,捕捉用户的各类动作,并将所捕捉到的用户的各类动作与所述虚拟应用服务器中预设的虚拟课堂训练软件进行交互;所述动作包括身体动作和手势动作;
所述语音识别装置。用于对用户的语音进行识别,并将所捕捉到的语音与所述虚拟应用服务器中预设的虚拟课堂训练软件进行交互。
其中,还包括:与所述虚拟应用服务器相连的监控器;其中,
所述监控器,用于监控用户对所述虚拟识别装置及所述虚拟交互操作装置的操作,以及用户的各类动作及语音。
本发明实施例还提供了一种VR虚拟课堂教学训练系统的实现方法,包括以下步骤:
虚拟应用服务器识别用户开启虚拟识别装置后,将其上预设的虚拟课堂训练软件推送给所述虚拟识别装置;
当所述虚拟应用服务器接收到用户通过虚拟交互操作装置对其上预设的虚拟课堂训练软件进行操作时,根据用户对所述虚拟交互操作装置上的操作指令,对所述预设的虚拟课堂训练软件进行交互操作并更新所述预设的虚拟课堂训练软件,且进一步将更新后的虚拟课堂训练软件推送给所述虚拟识别装置;
当所述虚拟应用服务器接收到用户通过语音及动作捕捉机构对其上预设的虚拟课堂训练软件进行操作时,根据所述语音及动作捕捉机构所捕捉到的用户的语音以及预定范围内的用户动作,对所述预设的虚拟课堂训练软件进行交互操作并更新所述预设的虚拟课堂训练软件,且进一步将更新后的虚拟课堂训练软件推送给所述虚拟识别装置。
其中,所述当所述虚拟应用服务器接收到用户通过语音及动作捕捉机构对其上预设的虚拟课堂训练软件进行操作时,根据所述语音及动作捕捉机构所捕捉到的用户的语音以及预定范围内的用户动作,对所述预设的虚拟课堂训练软件进行交互操作并更新所述预设的虚拟课堂训练软件,且进一步将更新后的虚拟课堂训练软件推送给所述虚拟识别装置的具体步骤包括:
所述虚拟应用服务器首先接收到所述语音及动作捕捉机构捕捉到的用户的语音,对所接收到的用户语音进行识别、匹配后,继续对所述预设的虚拟课堂训练软件进行触发操作,并向所述虚拟识别装置发送动作指令;
所述虚拟应用服务器其次接收到所述语音及动作捕捉机构捕捉用户根据所述动作指令进行的动作,并根据所接收到的用户动作,对所述预设的虚拟课堂训练软件进行交互操作且更新所述预设的虚拟课堂训练软件,进一步将更新后的虚拟课堂训练软件推送给所述虚拟识别装置。
其中,所述虚拟应用服务器接收到所述语音及动作捕捉机构捕捉到的用户的语音,对所接收到的用户语音进行识别、匹配后,继续对所述预设的虚拟课堂训练软件进行触发操作,并向所述虚拟识别装置发送动作指令的具体步骤包括:
所述虚拟应用服务器将所捕捉到的用户语音转换为二进制数据,并进一步将所述二进制数据转换成可识别的字符串;
判断所述字符串是否位于所述预设的虚拟课堂训练软件中预设的语音库内;
如果是,则进一步在所述预设的虚拟课堂训练软件中检测所述字符串是否存在可触发的事件及其对应的执行条件;若存在,则执行可触发的事件对所述预设的虚拟课堂训练软件进行触发操作,并向所述虚拟识别装置发送动作指令;反之,则丢弃;
如果否,则丢弃,并向所述语音及动作捕捉机构反馈错误信息。
其中,所述方法进一步包括:
所述虚拟应用服务器预先定义虚拟课堂训练软件及其对应的语音库;其中,所述虚拟课堂训练软件包括用Unity3D软件开发的教学所需的虚拟场景和人物,并在场景中设置好教学必须的各类元素以及用Steam VR软件开发的适用于所述虚拟识别装置的运行环境。
实施本发明实施例,具有如下有益效果:
本发明通过虚拟现实技术构建一个完整的虚拟课堂环境,该环境具有真实课堂的所有典型特征,可通过虚拟环境去操作环境中集成的、为数众多的虚拟课堂训练系统,充分满足了现代教学训练的需求,降低了训练的成本和风险,还能多次重复进行,既实现了在虚拟环境中与物体的交互,又解决了通过语音与用户的交互问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,根据这些附图获得其他的附图仍属于本发明的范畴。
图1为本发明实施例提供的VR虚拟课堂教学训练系统的系统结构示意图;
图2为图1中语音及动作捕捉机构的系统结构示意图;
图3为本发明实施例提供的VR虚拟课堂教学训练系统的实现方法的流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述。
如图1和图2所示,为本发明实施例中,提供的一种VR虚拟课堂教学训练系统,包括虚拟应用服务器1以及与虚拟应用服务器1均相连的虚拟识别装置2、虚拟交互操作装置3和语音及动作捕捉机构4;其中,
虚拟识别装置2,用于用户佩戴后,开启并获取及呈现虚拟应用服务器1中预设的虚拟课堂训练软件及其实时变化情况;该虚拟识别装置1为VR头盔和/或VR眼镜;
虚拟交互操作装置3,用于接收用户指令,并将所接收到的用户指令转换成操作指令,对虚拟应用服务器1中预设的虚拟课堂训练软件进行交互操作;该虚拟交互操作装置3为手柄和/或激光笔;
语音及动作捕捉机构4,用于对用户的语音进行识别以及对用户在预定范围内的动作进行捕捉,并将所捕捉到的语音及动作与虚拟应用服务器1中预设的虚拟课堂训练软件进行交互;其中,语音及动作捕捉机构4包括与虚拟应用服务器1均相连的红外光学跟踪定位器41、体感交互器42和语音识别装置43;其中,红外光学跟踪定位器41,用于确定用户动作捕捉的预定范围,并跟踪用户的动作范围,且进一步在判别所跟踪到的用户的动作范围位于预定范围后,确定用户动作具有有效性;体感交互器42,用于在红外光学跟踪定位器41判别用户动作具有有效性后,捕捉用户的各类动作,并将所捕捉到的用户的各类动作与虚拟应用服务器1中预设的虚拟课堂训练软件进行交互;所述动作包括身体动作和手势动作;语音识别装置43。用于对用户的语音进行识别,并将所捕捉到的语音与虚拟应用服务器1中预设的虚拟课堂训练软件进行交互;
虚拟应用服务器1,用于识别虚拟识别装置2并推送预设的虚拟课堂训练软件,且接收虚拟交互操作装置3的操作指令以及语音及动作捕捉机构4所捕捉到的语音及动作进行交互,进一步将交互结果对预设的虚拟课堂训练软件进行实时更新并及时呈现给虚拟识别装置2。
应当说明的是,虚拟应用服务器1预先定义虚拟课堂训练软件及其对应的语音库;其中,所述虚拟课堂训练软件包括用Unity3D软件开发的教学所需的虚拟场景和人物,并在场景中设置好教学必须的各类元素以及用Steam VR软件开发的适用于虚拟识别装置2的运行环境。
应当说明的是,虚拟应用服务器1中的预设虚拟课堂训练软件主要以语音进行交互,通过外接设备接收语音信息,再进行语音识别部分,对识别结果进行判断,若成功则将结果传送到虚拟课堂训练软件中的语音库内进行匹配搜索,成功匹配后获取搜索结果,并根据结果中的触发条件属性再次判断,若当前环境允许该事件触发,则将对应指令通过虚拟识别装置2发送给学生,最后学生执行相应动作,完成交互。
交互过程具体有三个过程,包括:语音识别、事件触发和事件执行。语音识别过程是首先通过外接设备将所需的语音预先输入到程序中,将语音转化为二进制数据再转换为字串形成语音库,然后将所获取到的学生的语音转化为二进制数据再转换为识别结果字串后上传到语音库中,经由语音库进行识别最后获取结果,完成语音识别过程;事件触发过程是当语音识别结束后,若成功获取结果,则将结果字串传输到语音库中进行匹配,匹配即判断当前语音是否有对应的可触发事件,匹配失败则返回,若匹配成功,首先判断事件在当前环境下是否可以被执行(例如,在未进行上课前准备的情况下,就对学生提问,则事件将被过滤不予执行),若成功,则通过虚拟识别装置2发送给学生执行事件;事件执行过程是当学生收到事件指令后,首先判断学生当前是否正在执行其他动作(例如休闲动作),然后将当前动作过渡到结束阶段,再执行事件对应的动作逻辑,执行完毕后,再执行休闲动作或其他过渡动作,避免学生出现呆滞无动作的现象。
在本发明实施例中,还包括:与虚拟应用服务器1相连的监控器5;其中,监控器5,用于监控用户对虚拟识别装置2及虚拟交互操作装置3的操作,以及用户的各类动作及语音。
以学生使用本发明实施例中的VR虚拟课堂教学训练系统为例,进行详细说明,具体如下:
虚拟应用服务器1上利用Unity3D软件,对各个学科内容并结合学生训练的要求,开发出学生需要的虚拟课堂场景,人物模型以及教具;同时在还安装有训练需要的数据库,存放上课时需要的提问和答案;安装有虚拟识别装置2(如头盔)调用虚拟课堂场景的软件,以便在学生眼前真实呈现课堂情景;
在学生进行课堂训练时佩戴虚拟识别装置2(如头盔),可以将虚拟应用服务器1上开发的虚拟课堂训练软件呈现在学生眼前;此时,学生在进行课堂教学训练时,通过虚拟交互操作装置3(如手柄)对课堂中的学生或其他物体进行选择;
通过语音及动作捕捉机构4中的红外光学跟踪定位器41对学生进行虚拟课堂训练时设定他们的活动区域,使得学生只能在有效活动区域范围之内移动,超出有效活动范围后,学生的动作不能被有效捕捉;通过语音及动作捕捉机构4中的体感交互器42捕获学生在上课训练时的各类动作,包含身体的动作和手势动作,还可以用于学生对虚拟教室内的教具等物体进行选择,以及通过语音及动作捕捉机构4中的语音识别装置43对虚拟课堂训练系统中学生的声音进行捕获和识别,这里捕获的声音主要是学生对虚拟学生提问的语音和虚拟学生在上课时遇到问题后向学生提问的语音,不包含平时讲课的语音;
通过监控器5对学生进行课堂训练时进行监控,使得教师可全面了解学生的训练情况,了解学生的上课过程,便于课后对学生的教学进行评价。
在一个实施例中,学生使用本发明实施例中的VR虚拟课堂教学训练系统的应用场景具体为:
学生来到虚拟课堂中进行训练时,首先需要将红外光学跟踪设备41架设定位好,启动虚拟应用服务器1上的Steam VR软件后,借助手柄2将训练需要的活动区域设定好,然后进行校正即可。
完成设定工作后,即可打开虚拟应用服务器1上的Unity3D软件开发的虚拟课堂训练软件,接着在虚拟应用服务器1上选择自己训练时所需要的教室类型,有三种教室可选择,选择一种教室后可选择对应的几种桌椅布局,接着可将上课需要的课件导入到虚拟课堂软件中,然后设置好自己在训练时需要对学生提问的问题,并对每个问题设置好几个学生来回答以及他们各自回答的答案,每个问题的提问都要如此设置;
上述所有的设置都需要在虚拟应用服务器1上设置好随机性,不能让提问的学生、回答的学生永远是某些相同的人,设置好随机性,让这些动作随机发生,随机性的设置是通过虚拟课堂训练软件中的“随机分配”按钮完成的;另外,需要在课件的关键知识点处做好标记,作为虚拟学生提问开始的标记点,这样在虚拟应用服务器1上的操作基本完成;
完成所有相关设置工作后,以下过程发生在教学训练过程中。学生借助SteamVR软件启动虚拟课堂训练软件,戴上VR头盔3,就能在VR头盔3中看见的情形如同真实的课堂情形一样,当听到上课铃声后,就开始上课。正式上课时,学生提问后识别出的语音必须与设置的问题内容一致,问题被识别成功后对应的学生会举手准备回答,此时通过手柄3控制指向等待回答的学生即可选择(被选择的学生高亮显示);然后识别语音“你来回答一下”、“请你来回答”、“请回答”、“你来回答”,只要有这几个关键字的语音,就能激活学生,选择的学生即可起立回答问题,回答完毕后,然后识别语音“回答正确”、“回答错误”,最后请学生坐下。
在教学过程中,向虚拟学生展示课件时,可使用激光笔3并激活,用激光笔3指向课件中的重点内容,既方便了教学,又让虚拟学生明确了课件上的重点内容;
由于虚拟课堂环境下的上课是模拟真实的课堂情景,当上课进入到一定的时段后,服务器上设置好的学生不良表现动作就随机触发,此时学生看见这类情况,立刻用语言制止该学生的表现,语音识别装置43识别到该学生名后,该学生就停止不良表现行为,借此功能可以训练学生的班级管理能力。
最后随着上课的结束,学生和虚拟学生做下课提示和告别问候等互动语音,即学生说“下课”,虚拟学生回答“老师再见”,该过程结束后才开始收拾桌椅,离开教室。至此,训练过程结束。
如图3所示,为本发明实施例中,提供的一种VR虚拟课堂教学训练系统的实现方法,包括以下步骤:
步骤S1、虚拟应用服务器识别用户开启虚拟识别装置后,将其上预设的虚拟课堂训练软件推送给所述虚拟识别装置;
具体过程为,虚拟应用服务器预先定义虚拟课堂训练软件及其对应的语音库;其中,虚拟课堂训练软件包括用Unity3D软件开发的教学所需的虚拟场景和人物,并在场景中设置好教学必须的各类元素以及用Steam VR软件开发的适用于虚拟识别装置的运行环境。
虚拟应用服务器通过Steam VR软件识别用户开启虚拟识别装置的状态,并待识别后将虚拟应用服务器上的虚拟课堂训练软件推送给虚拟识别装置呈现,使得用户能够直观看到。
步骤S2、当所述虚拟应用服务器接收到用户通过虚拟交互操作装置对其上预设的虚拟课堂训练软件进行操作时,根据用户对所述虚拟交互操作装置上的操作指令,对所述预设的虚拟课堂训练软件进行交互操作并更新所述预设的虚拟课堂训练软件,且进一步将更新后的虚拟课堂训练软件推送给所述虚拟识别装置;
具体过程为,用户在进行课堂教学训练时,通过虚拟交互操作装置(如手柄)对课堂中的学生或其他物体进行选择,使得虚拟应用服务器中虚拟课堂训练软件能与虚拟交互操作装置进行交互操作后,及时反映出用户选择的学生或其他物体,并将用户选择的结果通过虚拟课堂训练软件推送给虚拟识别装置,使得用户能够直观看到自己的操作。
步骤S3、当所述虚拟应用服务器接收到用户通过语音及动作捕捉机构对其上预设的虚拟课堂训练软件进行操作时,根据所述语音及动作捕捉机构所捕捉到的用户的语音以及预定范围内的用户动作,对所述预设的虚拟课堂训练软件进行交互操作并更新所述预设的虚拟课堂训练软件,且进一步将更新后的虚拟课堂训练软件推送给所述虚拟识别装置。
具体过程为,首先,虚拟应用服务器接收到语音及动作捕捉机构捕捉到的用户的语音,对所接收到的用户语音进行识别、匹配后,继续对虚拟课堂训练软件进行触发操作,并向虚拟识别装置发送动作指令;
例如,虚拟应用服务器将所捕捉到的用户语音转换为二进制数据,并进一步将二进制数据转换成可识别的字符串;继续判断字符串是否位于预设的虚拟课堂训练软件中预设的语音库内;如果是,则进一步在虚拟课堂训练软件中检测字符串是否存在可触发的事件及其对应的执行条件;若存在,则执行可触发的事件对虚拟课堂训练软件进行触发操作,并向虚拟识别装置发送动作指令;反之,则丢弃;如果否,则丢弃,并向语音及动作捕捉机构反馈错误信息;
其次,接收到语音及动作捕捉机构捕捉用户根据所述动作指令进行的动作,并根据所接收到的用户动作,对虚拟课堂训练软件进行交互操作且更新虚拟课堂训练软件,进一步将更新后的虚拟课堂训练软件推送给虚拟识别装置。
实施本发明实施例,具有如下有益效果:
本发明通过虚拟现实技术构建一个完整的虚拟课堂环境,该环境具有真实课堂的所有典型特征,可通过虚拟环境去操作环境中集成的、为数众多的虚拟课堂训练系统,充分满足了现代教学训练的需求,降低了训练的成本和风险,还能多次重复进行,既实现了在虚拟环境中与物体的交互,又解决了通过语音与用户的交互问题。
以上所揭露的仅为本发明一种较佳实施例而已,当然不能以此来限定本发明之权利范围,因此依本发明权利要求所作的等同变化,仍属本发明所涵盖的范围。
Claims (9)
1.一种VR虚拟课堂教学训练系统,其特征在于,包括虚拟应用服务器以及与所述虚拟应用服务器均相连的虚拟识别装置、虚拟交互操作装置和语音及动作捕捉机构;其中,
所述虚拟识别装置,用于用户佩戴后,开启并获取及呈现所述虚拟应用服务器中预设的虚拟课堂训练软件及其实时变化情况;
所述虚拟交互操作装置,用于接收用户指令,并将所接收到的用户指令转换成操作指令,对所述虚拟应用服务器中预设的虚拟课堂训练软件进行交互操作;
所述语音及动作捕捉机构,用于对用户的语音进行识别以及对用户在预定范围内的动作进行捕捉,并将所捕捉到的语音及动作与所述虚拟应用服务器中预设的虚拟课堂训练软件进行交互;
所述虚拟应用服务器,用于识别所述虚拟识别装置并推送预设的虚拟课堂训练软件,且接收所述虚拟交互操作装置的操作指令以及所述语音及动作捕捉机构所捕捉到的语音及动作进行交互,进一步将交互结果对预设的虚拟课堂训练软件进行实时更新并及时呈现给所述虚拟识别装置。
2.如权利要求1所述的VR虚拟课堂教学训练系统,其特征在于,所述虚拟识别装置为VR头盔和/或VR眼镜。
3.如权利要求1所述的VR虚拟课堂教学训练系统,其特征在于,所述虚拟交互操作装置为手柄和/或激光笔。
4.如权利要求1所述的VR虚拟课堂教学训练系统,其特征在于,所述语音及动作捕捉机构包括与所述虚拟应用服务器均相连的红外光学跟踪定位器、体感交互器和语音识别装置;其中,
所述红外光学跟踪定位器,用于确定用户动作捕捉的预定范围,并跟踪用户的动作范围,且进一步在判别所跟踪到的用户的动作范围位于所述预定范围后,确定用户动作具有有效性;
所述体感交互器,用于在所述红外光学跟踪定位器判别用户动作具有有效性后,捕捉用户的各类动作,并将所捕捉到的用户的各类动作与所述虚拟应用服务器中预设的虚拟课堂训练软件进行交互;所述动作包括身体动作和手势动作;
所述语音识别装置。用于对用户的语音进行识别,并将所捕捉到的语音与所述虚拟应用服务器中预设的虚拟课堂训练软件进行交互。
5.如权利要求1所述的VR虚拟课堂教学训练系统,其特征在于,还包括:与所述虚拟应用服务器相连的监控器;其中,
所述监控器,用于监控用户对所述虚拟识别装置及所述虚拟交互操作装置的操作,以及用户的各类动作及语音。
6.一种VR虚拟课堂教学训练系统的实现方法,其特征在于,包括以下步骤:
虚拟应用服务器识别用户开启虚拟识别装置后,将其上预设的虚拟课堂训练软件推送给所述虚拟识别装置;
当所述虚拟应用服务器接收到用户通过虚拟交互操作装置对其上预设的虚拟课堂训练软件进行操作时,根据用户对所述虚拟交互操作装置上的操作指令,对所述预设的虚拟课堂训练软件进行交互操作并更新所述预设的虚拟课堂训练软件,且进一步将更新后的虚拟课堂训练软件推送给所述虚拟识别装置;
当所述虚拟应用服务器接收到用户通过语音及动作捕捉机构对其上预设的虚拟课堂训练软件进行操作时,根据所述语音及动作捕捉机构所捕捉到的用户的语音以及预定范围内的用户动作,对所述预设的虚拟课堂训练软件进行交互操作并更新所述预设的虚拟课堂训练软件,且进一步将更新后的虚拟课堂训练软件推送给所述虚拟识别装置。
7.如权利要求6所述的VR虚拟课堂教学训练系统的实现方法,其特征在于,所述当所述虚拟应用服务器接收到用户通过语音及动作捕捉机构对其上预设的虚拟课堂训练软件进行操作时,根据所述语音及动作捕捉机构所捕捉到的用户的语音以及预定范围内的用户动作,对所述预设的虚拟课堂训练软件进行交互操作并更新所述预设的虚拟课堂训练软件,且进一步将更新后的虚拟课堂训练软件推送给所述虚拟识别装置的具体步骤包括:
所述虚拟应用服务器首先接收到所述语音及动作捕捉机构捕捉到的用户的语音,对所接收到的用户语音进行识别、匹配后,继续对所述预设的虚拟课堂训练软件进行触发操作,并向所述虚拟识别装置发送动作指令;
所述虚拟应用服务器其次接收到所述语音及动作捕捉机构捕捉用户根据所述动作指令进行的动作,并根据所接收到的用户动作,对所述预设的虚拟课堂训练软件进行交互操作且更新所述预设的虚拟课堂训练软件,进一步将更新后的虚拟课堂训练软件推送给所述虚拟识别装置。
8.如权利要求7所述的VR虚拟课堂教学训练系统的实现方法,其特征在于,所述虚拟应用服务器接收到所述语音及动作捕捉机构捕捉到的用户的语音,对所接收到的用户语音进行识别、匹配后,继续对所述预设的虚拟课堂训练软件进行触发操作,并向所述虚拟识别装置发送动作指令的具体步骤包括:
所述虚拟应用服务器将所捕捉到的用户语音转换为二进制数据,并进一步将所述二进制数据转换成可识别的字符串;
判断所述字符串是否位于所述预设的虚拟课堂训练软件中预设的语音库内;
如果是,则进一步在所述预设的虚拟课堂训练软件中检测所述字符串是否存在可触发的事件及其对应的执行条件;若存在,则执行可触发的事件对所述预设的虚拟课堂训练软件进行触发操作,并向所述虚拟识别装置发送动作指令;反之,则丢弃;
如果否,则丢弃,并向所述语音及动作捕捉机构反馈错误信息。
9.如权利要求6所述的VR虚拟课堂教学训练系统的实现方法,其特征在于,所述方法进一步包括:
所述虚拟应用服务器预先定义虚拟课堂训练软件及其对应的语音库;其中,所述虚拟课堂训练软件包括用Unity3D软件开发的教学所需的虚拟场景和人物,并在场景中设置好教学必须的各类元素以及用Steam VR软件开发的适用于所述虚拟识别装置的运行环境。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810716515.XA CN108877371A (zh) | 2018-06-29 | 2018-06-29 | 一种vr虚拟课堂教学训练系统及实现方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810716515.XA CN108877371A (zh) | 2018-06-29 | 2018-06-29 | 一种vr虚拟课堂教学训练系统及实现方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108877371A true CN108877371A (zh) | 2018-11-23 |
Family
ID=64298574
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810716515.XA Pending CN108877371A (zh) | 2018-06-29 | 2018-06-29 | 一种vr虚拟课堂教学训练系统及实现方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108877371A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110246229A (zh) * | 2019-05-31 | 2019-09-17 | 德州职业技术学院(德州市技师学院) | 基于虚拟技术的会计教学系统 |
CN110908518A (zh) * | 2019-12-03 | 2020-03-24 | 上海乂学教育科技有限公司 | 基于虚拟现实的数学教学系统 |
CN112071130A (zh) * | 2020-08-07 | 2020-12-11 | 湖南翰坤实业有限公司 | 基于vr技术的知识教育系统及教育方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103605468A (zh) * | 2013-11-14 | 2014-02-26 | 武汉虹翼信息有限公司 | 一种电子书籍控制装置及其控制交互方法 |
CN104485107A (zh) * | 2014-12-08 | 2015-04-01 | 畅捷通信息技术股份有限公司 | 名称的语音识别方法、语音识别系统和语音识别设备 |
US20170345215A1 (en) * | 2016-05-31 | 2017-11-30 | Accenture Global Solutions Limited | Interactive virtual reality platforms |
CN107657955A (zh) * | 2017-11-09 | 2018-02-02 | 温州大学 | 一种基于vr虚拟课堂的语音交互提问系统及方法 |
CN107765859A (zh) * | 2017-11-09 | 2018-03-06 | 温州大学 | 一种基于vr虚拟课堂的训练系统及方法 |
CN108172040A (zh) * | 2018-01-18 | 2018-06-15 | 安徽三弟电子科技有限责任公司 | 一种基于vr虚拟课堂的教学系统 |
-
2018
- 2018-06-29 CN CN201810716515.XA patent/CN108877371A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103605468A (zh) * | 2013-11-14 | 2014-02-26 | 武汉虹翼信息有限公司 | 一种电子书籍控制装置及其控制交互方法 |
CN104485107A (zh) * | 2014-12-08 | 2015-04-01 | 畅捷通信息技术股份有限公司 | 名称的语音识别方法、语音识别系统和语音识别设备 |
US20170345215A1 (en) * | 2016-05-31 | 2017-11-30 | Accenture Global Solutions Limited | Interactive virtual reality platforms |
CN107657955A (zh) * | 2017-11-09 | 2018-02-02 | 温州大学 | 一种基于vr虚拟课堂的语音交互提问系统及方法 |
CN107765859A (zh) * | 2017-11-09 | 2018-03-06 | 温州大学 | 一种基于vr虚拟课堂的训练系统及方法 |
CN108172040A (zh) * | 2018-01-18 | 2018-06-15 | 安徽三弟电子科技有限责任公司 | 一种基于vr虚拟课堂的教学系统 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110246229A (zh) * | 2019-05-31 | 2019-09-17 | 德州职业技术学院(德州市技师学院) | 基于虚拟技术的会计教学系统 |
CN110908518A (zh) * | 2019-12-03 | 2020-03-24 | 上海乂学教育科技有限公司 | 基于虚拟现实的数学教学系统 |
CN112071130A (zh) * | 2020-08-07 | 2020-12-11 | 湖南翰坤实业有限公司 | 基于vr技术的知识教育系统及教育方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Lockerd et al. | Tutelage and socially guided robot learning | |
CN107765859A (zh) | 一种基于vr虚拟课堂的训练系统及方法 | |
CN109101879B (zh) | 一种vr虚拟课堂教学的姿态交互系统及实现方法 | |
Dong et al. | An elicitation study on gesture preferences and memorability toward a practical hand-gesture vocabulary for smart televisions | |
CN108877371A (zh) | 一种vr虚拟课堂教学训练系统及实现方法 | |
CN109841122A (zh) | 一种智能机器人教学系统及学生学习方法 | |
CN109191964A (zh) | 一种基于虚拟现实的教学交互系统 | |
CN104680859A (zh) | 一种自主学习系统及检测方法 | |
CN101630451A (zh) | 一种计算机辅助教学专家系统 | |
TW202040530A (zh) | 線上學習輔助方法、系統、設備以及電腦可讀取記錄媒體 | |
US20210043106A1 (en) | Technology based learning platform for persons having autism | |
Steels | Grounding language through evolutionary language games | |
CN109377802A (zh) | 一种自动交互式智能教育系统及方法 | |
Zhang et al. | Design of an intelligent agent to measure collaboration and verbal-communication skills of children with autism spectrum disorder in collaborative puzzle games | |
CN110176163A (zh) | 一种教学系统 | |
Fiorini et al. | Strategies of Physical Education teachers to promote the participation of students with hearing impairment in classrooms | |
KR100486382B1 (ko) | 로봇의 지능 보완 방법 및 시스템, 이에 의한 로봇을이용한 다이나믹 교육 방법 및 시스템 | |
Kapadia et al. | EchoBot: Facilitating data collection for robot learning with the Amazon echo | |
Leßmann et al. | Situated interaction with a virtual human-perception, action, and cognition | |
Hirschmanner et al. | Investigating transparency methods in a robot word-learning system and their effects on human teaching behaviors | |
Casas-Ortiz et al. | Intelligent systems for psychomotor learning: A systematic review and two cases of study | |
CN109754654A (zh) | 基于虚拟现实的历史课题指导系统、方法及装置 | |
CN110874960A (zh) | 用于儿童教育的人机交互方法及装置 | |
Najar et al. | Social-task learning for HRI | |
Martínez et al. | Augmented reality based intelligent interactive e-learning platform |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181123 |