CN112037090B - 基于vr技术和6dof姿态跟踪的知识教育系统 - Google Patents
基于vr技术和6dof姿态跟踪的知识教育系统 Download PDFInfo
- Publication number
- CN112037090B CN112037090B CN202010792953.1A CN202010792953A CN112037090B CN 112037090 B CN112037090 B CN 112037090B CN 202010792953 A CN202010792953 A CN 202010792953A CN 112037090 B CN112037090 B CN 112037090B
- Authority
- CN
- China
- Prior art keywords
- smart phone
- module
- scene
- knowledge education
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005516 engineering process Methods 0.000 title claims abstract description 10
- 238000012544 monitoring process Methods 0.000 claims abstract description 43
- 230000000694 effects Effects 0.000 claims abstract description 42
- 238000011156 evaluation Methods 0.000 claims abstract description 40
- 238000000034 method Methods 0.000 claims abstract description 13
- 230000000007 visual effect Effects 0.000 claims abstract description 9
- 230000008569 process Effects 0.000 claims abstract description 5
- 230000002452 interceptive effect Effects 0.000 claims description 29
- 238000012545 processing Methods 0.000 claims description 24
- 230000003993 interaction Effects 0.000 claims description 19
- 238000013461 design Methods 0.000 claims description 17
- 238000004891 communication Methods 0.000 claims description 16
- 238000013507 mapping Methods 0.000 claims description 15
- 238000004458 analytical method Methods 0.000 claims description 11
- 238000007405 data analysis Methods 0.000 claims description 10
- 238000012806 monitoring device Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 7
- 230000008859 change Effects 0.000 claims description 6
- 230000015572 biosynthetic process Effects 0.000 claims description 5
- 238000003786 synthesis reaction Methods 0.000 claims description 5
- 230000002194 synthesizing effect Effects 0.000 claims description 5
- 238000006073 displacement reaction Methods 0.000 claims description 4
- 230000001133 acceleration Effects 0.000 claims description 3
- 230000005484 gravity Effects 0.000 claims description 3
- 238000004806 packaging method and process Methods 0.000 claims description 2
- 238000012549 training Methods 0.000 abstract description 48
- 230000006399 behavior Effects 0.000 abstract description 22
- 238000007654 immersion Methods 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 11
- 230000008520 organization Effects 0.000 description 6
- 238000011158 quantitative evaluation Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000008451 emotion Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/20—Education
- G06Q50/205—Education administration or guidance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/26—Government or public services
Landscapes
- Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Engineering & Computer Science (AREA)
- Educational Administration (AREA)
- Strategic Management (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Economics (AREA)
- Educational Technology (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Physics & Mathematics (AREA)
- General Business, Economics & Management (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Development Economics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明公开了一种基于VR技术和6DOF姿态跟踪的知识教育系统,包括:手机VR设备,包括智能手机和佩戴头盔,智能手机安装在佩戴头盔上,用户佩戴上佩戴头盔后对运行在智能手机上的VR场景进行沉浸式学习;六自由度姿态跟踪器,用于实现对智能手机的六自由度空间姿态和用户在VR场景中的行为的可视化跟踪;教学监测设备,用于对用户的VR教学过程进行数据监测;教学效果评价系统,用于基于监测到的教学数据对用户的VR教学效果进行综合分析评价。本发明基于VR技术提高了知识教育的沉浸感,提升了知识教育培训效果。另外本发明通过对VR知识教育效果进行量化评价,解决了传统的知识教育培训方式无法获知学员的培训效果的问题。
Description
技术领域
本发明涉及VR教学技术领域,具体涉及一种基于VR技术和6DOF姿态跟踪的知识教育系统。
背景技术
目前,各种类型的知识教育培训方式有集中培训、集体学习、个人自学和组织生活、实践锻炼、网络培训、交流研讨等,但现场教学方式需要将学员组织在一起,存在培训时间难以协调、培训成本较高等问题。网络培训虽然解决了培训时间难以协调的问题,但学员难以与授课者进行互动交流,培训效果不够理想。实践锻炼培训方式比如通过游览博物馆、组织室外活动等的体验式教育方式虽然教学方式更加直观,更具现场感,但培训成本很高,而且需要专业的解说员进行现场解说,学员很难通过独自游览方式深入了解相关知识,教育效果大大折扣。
另外,现有的知识教育培训方式无法对每个培训对象的培训效果进行较为科学的量化评价,导致各种类型的知识教育培训流于形式,培训效果并不理想。
发明内容
本发明的目的在于提供一种基于VR技术和6DOF姿态跟踪的知识教育系统,通过专门制作的VR场景供学员对知识教育进行沉浸式学习、体验、交互,不仅解决了目前集中培训方式存在的难以协调培训时间、培训成本大的问题,而且极大提高了教育培训的效果。另外,本发明将学员在VR场景中的互动画面投影到外部显示设备上,实现了培训组织方对学员在VR场景中的学习行为的可视化跟踪,能够让培训组织方第一时间掌握每个学员的学习情况,实现对学员培训的监管,有助于有效提升学习效果。本发明还通过对VR知识教育效果进行量化评价,解决了传统的知识教育培训方式无法获知学员的培训效果的问题。
为达此目的,本发明采用以下技术方案:
提供一种基于VR技术和6DOF姿态跟踪的知识教育系统,包括:
知识教育VR场景制作设备,用于提供给VR场景设计人员制作知识教育VR场景;
手机VR设备,包括智能手机和佩戴头盔,所述智能手机安装在所述佩戴头盔上,用户佩戴上所述佩戴头盔后对运行在所述智能手机上的所述VR场景进行学习、体验和互动;
六自由度姿态跟踪器,通信连接所述手机VR设备,用于实现对所述智能手机的六自由度空间姿态和所述用户在VR场景中的行为的可视化跟踪;
教学监测设备,通信连接所述手机VR设备,用于对所述用户的VR教学过程进行数据监测并保存监测到的教学数据;
教学效果评价系统,通信连接所述教学监测设备,用于基于监测到的所述教学数据对所述用户的VR教学效果进行综合分析评价,形成教学评价报告。
作为本发明的一种优选方案,所述知识教育VR场景制作设备中具体包括:
知识教育VR场馆空间设计模块,用于提供给设计人员根据整理的素材设计知识教育VR场馆的空间布局结构;
VR场馆三维建模模块,连接所述知识教育VR场馆空间设计模块,用于提供给所述设计人员对设计的场馆空间布局结构进行三维建模,形成知识教育VR场馆的三维模型;
图片获取模块,用于提供给所述设计人员从一知识教育图片资料库中获取资料图片;
图片处理模块,连接所述图片获取模块,用于提供给所述设计人员对所述资料图片进行图像处理,以符合所述三维模型的贴图规范要求;
贴图模块,分别连接所述图片处理模块和所述VR场馆三维建模模块,用于提供给所述设计人员将经处理后的所述资料图片贴图到所述三维模型中所要关联的虚拟展品的指定展示区域处;
展品文字介绍嵌入模块,连接所述VR场馆三维建模模块,用于提供给所述设计人员将预先确定的展品文字介绍嵌入到所述三维模型中所要关联的虚拟展品的指定展示区域处;
展品文字介绍触发控制模块,连接所述VR场馆三维建模模块,用于提供给所述设计人员设计触发并显示所述展品文字介绍的控制方式;
讲解语音获取模块,连接一知识教育讲解语音库,用于提供给所述设计人员从所述知识教育讲解语音库中获取讲解语音;
讲解语音嵌入模块,分别连接所述讲解语音获取模块和所述VR场馆三维建模模块,用于提供给所述设计人员将所述讲解语音嵌入到所述三维模型中所要关联的虚拟展品的指定展示区域处;
讲解语音播放触发控制模块,连接所述VR场馆三维建模模块,用于提供给所述设计人员设计触发并播放所述讲解语音的控制方式;
知识教育视频获取模块,连接一知识教育视频库,用于提供给所述设计人员从所述知识教育视频库中获取知识教育视频;
知识教育视频嵌入模块,分别连接所述知识教育视频获取模块和所述VR场馆三维建模模块,用于提供给所述设计人员将所述知识教育视频嵌入到所述三维模型中的指定位置处;
知识教育视频触发控制模块,连接所述VR场馆三维建模模块,用于提供给所述设计人员设计触发并播放所述知识教育视频的控制方式;
VR场景生成模块,连接所述VR场馆三维建模模块,用于将制作完成的所述三维模型进行优化打包,并最终生成所述VR场景。
作为本发明的一种优选方案,所述六自由度跟踪器包括:
立体投影设备,通信连接所述手机VR设备,用于将运行在所述智能手机中的所述VR场景投影到显示设备上;
所述智能手机,用于检测所述用户操作智能手机的行为,获取智能手机的空间姿态并解析,并用将所述用户操作智能手机的行为信息和所解析的智能手机空间姿态信息合成为交互消息并输出;
服务器端,通信连接所述智能手机和所述立体投影设备,用于接收所述智能手机发送的所述交互消息并对所述交互消息进行内容解析,然后将解析的交互消息内容通过所述立体投影设备投影到所述显示设备上。
作为本发明的一种优选方案,通过设置在所述智能手机中的空间姿态监测设备实现对智能手机空间姿态的实时监测,所述空间姿态监测设备包括三轴加速度计、陀螺仪或磁力计中的任意一种或多种。
作为本发明的一种优选方案,安装在所述智能手机中的数据分析处理系统包括:
数据获取模块,用于获取所述用户操作所述智能手机的行为数据和各所述空间姿态监测设备监测到的监测数据;
触屏消息形成模块,连接所述数据获取模块,用于将所述用户操作所述智能手机的行为解释为触屏消息并输出;
空间姿态解算模块,连接所述数据获取模块,用于根据各所述空间姿态监测设备监测到的所述监测数据解算智能手机的六自由度空间姿态,生成空间姿态信息并输出;
消息合成模块,分别连接所述触屏消息形成模块和所述空间姿态解算模块,用于将所述触屏消息和所述空间姿态信息通过定义的交互消息格式合成为交互消息并输出;
安装在所述服务器端的数据处理系统包括:
交互消息内容解析模块,通信连接所述消息合成模块,用于对所述智能手机发送的所述交互消息进行内容解析;
交互映射模块,连接所述交互消息内容解析模块,用于将解析后的交互消息内容以用户视角映射到VR场景中,然后将映射场景通过立体投影设备投影到显示设备上。
作为本发明的一种优选方案,所述解算智能手机的六自由度空间姿态的方法包括如下步骤:
步骤S1,获取安装在所述智能手机中的三轴加速度计当前监测到的加速度计值;
步骤S2,判断当前的所述加速度计值与重力加速度g的差值是否小于一预设阈值,
若是,则判定所述智能手机当前处于准静止状态,并转入步骤S32;
若否,则判定智能手机当前处于运动状态,并转入步骤S31;
步骤S31,获取当前时刻安装在所述智能手机中的陀螺仪的监测数据,然后根据所述陀螺仪当前监测到的数据,对所述智能手机在下一时刻的空间姿态进行解算,得到陀螺仪空间姿态解算结果并存储;
步骤S32,计算安装在所述智能手机中的磁力计在预设间隔时间段内先后两次监测到的磁力值的变化值,然后根据当前的所述加速度计值和所述磁力值的变化值,计算所述智能手机在当前时刻绕三维坐标系的三个坐标轴的转角
步骤S4,根据所述步骤S32计算的各所述转角,计算所述智能手机在当前准静止状态下的用于表示智能手机空间姿态的空间四元数Q';
步骤S5,通过所述空间四元数Q'校正所述步骤S31计算得到的所述陀螺仪空间姿态解算结果,得到经校正后的空间四元数;
步骤S6,通过经所述步骤S5校正后的空间四元数计算所述智能手机在任意时刻三个坐标轴的空间姿态角,并根据智能手机摄像头实时探测到的智能手机在三维空间各轴向上的位移距离,得到所述智能手机的六自由度空间姿态。
作为本发明的一种优选方案,所述步骤S31中,根据当前时刻t的陀螺仪监测数据,通过以下公式(1)对所述智能手机在下一时刻t+T的空间姿态进行解算:
公式(1)中,K1=Ωb(t)Q(t);
K4=Ωb(t+T)[Q(t)+K3T];
ωx表示所述陀螺仪在当前时刻t监测到的x轴向上的角速度;
ωy表示所述陀螺仪在当前时刻t监测到的y轴向上的角速度;
ωz表示所述陀螺仪在当前时刻t监测到的z轴向上的角速度;
T表示当前监测时刻t与下一监测时刻的时间间隔;
所述步骤S32中,通过以下的三个转角计算公式计算智能手机在当前时刻t绕三维坐标系的三个坐标轴的转角
ψ=Me-Mb;
ax为当前时刻t所述加速度计监测到的x轴向上的加速度计值;
ay为当前时刻t所述加速度计监测到的y轴向上的加速度计值;
az为当前时刻t所述加速度计监测到的z轴向上的加速度计值;
Me为当前时刻t所述磁力计监测到的磁力计值;
Mb为所述磁力计在当前时刻t之前的距离当前时刻t一预设间隔时间的时间点监测到的磁力计值;
所述步骤S4中的所述空间四元数Q'通过以下公式(2)计算而得:
公式(2)中,q0、q1、q2、q3表示智能手机在准静止状态下的空间姿态的四元数;
所述步骤S6中,通过以下公式(3)计算智能手机在任意时刻三个坐标轴的空间姿态角
上式中,q'0、q'1、q'2、q'3为经所述步骤S5校正后的所述空间四元数。
作为本发明的一种优选方案,评价VR教学效果的评价指标包括所述用户在所述VR场景中的体验总时长、所述用户在所述VR场景中的文字展示区域、讲解语音播放区域、视频播放区域的停留时长,以及所述用户在所述VR场景中触发文字展示、讲解语音播放和视频播放的次数中的任意一种或多种。
作为本发明的一种优选方案,所述教学监测设备包括:
计时模块,用于对所述用户在所述VR场景中的各个展示区域的停留时间以及在所述VR场景中的体验总时长进行累计,得到所述用户“在VR场景中的体验总时长”“在文字展示区域的停留时长”“在讲解语音播放区域的停留时长”“在视频播放区域的停留时长”这四个所述评价指标的指标值;
互动监测模块,用于对所述用户在所述VR场景中的教育互动情况进行监测,得到佩戴者“在VR场景中触发文字展示次数”“触发讲解语音播放次数”和“触发视频播放次数”这三个评价指标的指标值。
作为本发明的一种优选方案,所述教学效果评价系统通过以下公式(4)对所述用户的VR教学效果进行综合分析评价:
公式(4)中,G用于表示所述教学效果评价系统对所述用户的VR教学效果的评分值;
i用于表示所述评价指标;
n表示所述评价指标的数量;
wi表示所述评价指标的权重;
gi表示所述评价指标的指标值。
本发明通过专门制作的VR场景供学员对知识教育进行沉浸式学习、体验、交互,不仅解决了目前集中培训方式存在的难以协调培训时间、培训成本大的问题,而且极大提高了教育培训的效果。
另外,本发明将学员在VR场景中的互动画面投影到外部显示设备上,实现了培训组织方对学员在VR场景中的学习行为的可视化跟踪,能够让培训组织方第一时间掌握每个学员的学习情况,实现对学员培训的监管,有助于有效提升学习效果。本发明还通过对VR知识教育效果进行量化评价,解决了传统的知识教育培训方式无法获知学员的培训效果的问题。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图作简单地介绍。显而易见地,下面所描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例提供的知识教育系统的系统结构示意图;
图2是所述知识教育VR场景制作设备的内部结构示意图;
图3是所述六自由度跟踪器的结构示意图;
图4是安装在所述智能手机中的所述数据分析处理系统的结构示意图;
图5是安装在所述服务器端的所述数据处理系统的结构示意图;
图6是所述解算智能手机的六自由度空间姿态的方法步骤图;
图7是所述教学监测设备的内部结构示意图。
具体实施方式
下面结合附图并通过具体实施方式来进一步说明本发明的技术方案。
其中,附图仅用于示例性说明,表示的仅是示意图,而非实物图,不能理解为对本专利的限制;为了更好地说明本发明的实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;对本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
本发明实施例的附图中相同或相似的标号对应相同或相似的部件;在本发明的描述中,需要理解的是,若出现术语“上”、“下”、“左”、“右”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此附图中描述位置关系的用语仅用于示例性说明,不能理解为对本专利的限制,对于本领域的普通技术人员而言,可以根据具体情况理解上述术语的具体含义。
在本发明的描述中,除非另有明确的规定和限定,若出现术语“连接”等指示部件之间的连接关系,该术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个部件内部的连通或两个部件的相互作用关系。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
图1示出了本发明一实施例提供的基于VR技术和6DOF姿态跟踪的知识教育系统的结构示意图,如图1所示,该系统包括:
知识教育VR场景制作设备1,用于提供给VR场景设计人员制作知识教育VR场景;
手机VR设备2,包括智能手机和佩戴头盔,智能手机安装在佩戴头盔上,用户佩戴上佩戴头盔后对运行在智能手机上的VR场景进行学习、体验和互动;
六自由度(6DOF)姿态跟踪器3,通信连接手机VR设备2,用于实现对智能手机的六自由度空间姿态和用户在VR场景中的行为进行可视化跟踪;
教学监测设备4,通信连接手机VR设备2,用于对用户的VR教学过程进行数据监测并保存监测到的教学数据;
教学效果评价系统5,通信连接教学监测设备4,用于基于监测到的教学数据对用户的VR教学效果进行综合分析评价,并形成教学评价报告。
本实施例中,VR场景为知识教育的虚拟环境,不同于视频,其时间轴上任意一点的画面只能呈现整体环境中的一角,虚拟环境则是全方位充斥着整个空间,展品分布于整个虚拟空间而非某一方位。体验式学习是个体在形体、情绪、知识上的参与。在VR场景学习中,参观者通过参观、操作、使用场馆中的展品获取直接经验,并通过展品的文本、动画、视频等形式的解释性说明获取解释性经验。所以本发明为了增强参观者的互动体验,在VR场景制作中将有关知识教育的文本解释、视频教学、语音讲解等教学方式嵌入到三维模型中,以提升教育效果。
图2示出了知识教育VR场景制作设备的内部结构示意图,如图2所示,该知识教育VR场景制作设备1中具体包括:
知识教育VR场馆空间设计模块11,用于提供给设计人员根据整理的素材设计知识教育VR场馆的空间布局结构;这里的素材指的是与知识教育相关的图书、视频、文字资料以及虚拟馆的展示内容、展厅的板块结构、展品的摆放位置及参观路线等。
VR场馆三维建模模块12,连接知识教育VR场馆空间设计模块11,用于提供给设计人员对设计的场馆空间布局结构进行三维建模,形成知识教育VR场馆的三维模型;
图片获取模块13,连接VR场馆三维建模模块12,用于提供给设计人员从一知识教育图片资料库100中获取资料图片;
图片处理模块14,连接图片获取模块13,用于提供给设计人员对资料图片进行图像处理,以符合三维模型的贴图规范要求;
贴图模块15,分别连接图片处理模块14和VR场馆三维建模模块,用于提供给设计人员通过UV(贴图坐标)技术将经处理后的资料图片贴图到三维模型中所要关联的虚拟展品的指定展示区域处;
展品文字介绍嵌入模块16,连接VR场馆三维建模模块12,用于提供给设计人员将预先确定的展品文字介绍嵌入到三维模型中所要关联的虚拟展品的指定展示区域处;
展品文字介绍触发控制模块17,连接VR场馆三维建模模块12,用于提供给设计人员设计触发并显示展品文字介绍的控制方式;触发展品文字接收的方式有多种,比如当参观者靠近虚拟展品达到阈值距离时,展品文字介绍自动展示在展品旁边的指定展示区域处。也可以是在虚拟展品附近设置文字介绍触点,参观者可以通过VR设备提供的操控器点击该触点后展示展品文字介绍;
讲解语音获取模块18,连接一知识教育讲解语音库200,用于提供给设计人员从知识教育讲解语音库中获取讲解语音;
讲解语音嵌入模块19,分别连接讲解语音获取模块18和VR场馆三维建模模块12,用于提供给设计人员将讲解语音嵌入到三维模型的指定展厅板块处;
讲解语音播放触发控制模块20,连接VR场馆三维建模模块12,用于提供给设计人员设计触发并播放讲解语音的控制方式;本实施例中,讲解语音触发方式可以有许多中,比如可以在参观者进入到一个功能展厅时自动触发响应的讲解语音进行自动讲解。具体地,比如VR场景为虚拟的博物馆,当博物馆大门打开,参观者进入到博物馆后,自动触发并播放博物馆讲解语音。当参观者沿着行走路线进入到相应的展厅时,比如进入到图片展厅时,自动触发讲解语音,对具有重大意义的图片进行语音解说。对于展品的解说,语音讲解方式相比文字展示方式更加生动,所以也可以在展品旁设置语音讲解触发点,参观者可以自行通过手机VR设备的操控器点击展品语音讲解触发点以触发对展品的语音解说。当然也可以设置为当参观者靠近展品达到阈值距离后,展品语音解说自动播放。
知识教育视频获取模块21,连接一知识教育视频库300,用于提供给设计人员从知识教育视频库中获取知识教育视频;
知识教育视频嵌入模块22,分别连接知识教育视频获取模块21和VR场馆三维建模模块12,用于提供给设计人员将知识教育视频嵌入到三维模型的指定位置处;
知识教育视频触发控制模块23,连接VR场馆三维建模模块12,用于提供给设计人员触发并播放知识教育视频的控制方式;
VR场景生成模块24,连接VR场馆三维建模模块12,用于将制作完成的三维模型进行优化打包,删除不需要的资源,对各项设置进行检查和优化,最终生成VR场景,并VR场景输出成exe可执行文件。VR设备执行VR场景的exe可执行文件供用户对VR场景进行学习、体验和互动。
本实施例采用的手机VR设备的工作原理是利用双眼视差和陀螺仪实现视觉立体显示和图像旋转定位,通过目视点持续注视热区或按钮实现交互操作。通过该方式可以打开或关闭全景图中嵌入的图片、视频、语音解说等,或者激活内嵌的360序列图片,呈现3D物体。
图3示出了六自由度跟踪器的构成结构,如图3所示,本实施例采用的六自由度跟踪器3包括:
立体投影设备31,通信连接手机VR设备2,用于将运行在智能手机中的VR场景投影到显示设备上;
智能手机32,用于检测用户操作智能手机的行为,获取智能手机的空间姿态并解析,并用于将用户操作智能手机的行为信息和所解析的智能手机空间姿态信息合成为交互消息并输出;如今的智能手机集成也有大量的传感设备,比如三轴加速度计、陀螺仪等,而且具有强大的数据分析处理能力,所以本发明通过开发一款专门的数据分析处理软件运行在智能手机中,可利用智能手机本身具备的数据分析处理能力,根据监测到的数据,对智能手机空间姿态、用户操作智能手机的行为等进行分析;
服务器端33,通信连接智能手机32和立体投影设备31,用于接收智能手机发送的交互消息并对交互消息进行内容解析,然后将解析的交互消息内容通过立体投影设备投影到显示设备上。这样培训组织方便可通过显示设备实时掌握培训对象在VR场景中的交互学习情况,起到监管培训的作用。
本发明利用集成在智能手机中的空间姿态监测设备实现对智能手机空间姿态的实时监测,空间姿态监测设备包括但不限于设置在智能手机中的三轴加速度计、陀螺仪和磁力计。
智能手机通过安装在智能手机中的数据分析处理系统实现对智能手机空间姿态、用户操作智能手机的行为等数据的分析、处理,具体地,图4示出了安装在智能手机中的数据分析处理系统的结构示意图,如图4所示,该数据分析处理系统包括:
数据获取模块321,用于获取用户操作智能手机的行为数据和各空间姿态监测设备监测到的监测数据;用户操作智能手机的行为数据比如点触屏幕的行为可以由智能手机本身自带的触屏检测功能监测而得,也可以通过与智能手机的外接设备比如VR操控手柄处获得;
触屏消息形成模块322,连接数据获取模块321,用于将用户操作智能手机的行为解释为触屏消息并输出;实际上,用户操作智能手机的行为,比如点触智能手机屏幕或者通过外接设备向智能手机发送操作指令都可以解释为一种触摸智能手机屏幕的行为,所以为了便于后续的数据分析处理,本发明将获取到用户操作智能手机的行为解释为触屏消息后输出;
空间姿态解算模块323,连接数据获取模块321,用于根据各空间姿态监测设备监测到的监测数据解算智能手机的六自由度空间姿态,生成空间姿态信息并输出;
消息合成模块324,分别连接触屏消息形成模块322和空间姿态解算模块323,用于将触屏消息和空间姿态信息通过定义的交互消息格式合成为交互消息并输出,将触屏消息和空间姿态信息合成为交互消息的目的是便于服务器端对数据的快速解析;
图5示出了安装在服务器端33的数据处理系统的结构示意图,如图5所示,该数据处理系统包括:
交互消息内容解析模块331,通信连接消息合成模块324,用于对智能手机发送的交互消息进行内容解析,以还原用户操作智能手机的行为和智能手机的空间姿态;
交互映射模块332,连接交互消息内容解析模块331,用于将解析后的交互消息内容以用户视角映射到VR场景中,然后将映射场景通过立体投影设备投影到显示设备上。
以下对智能手机解算智能手机六自由度空间姿态的方法进行说明,如图6所示,智能手机实时解算智能手机六自由度空间姿态的方法包括如下步骤:
步骤S1,获取安装在智能手机中的三轴加速度计当前监测到的加速度计值;
步骤S2,判断当前获取的加速度计值与重力加速度g的差值是否小于一预设阈值,
若是,则判定智能手机当前处于准静止状态,并转入步骤S32;
若否,则判定智能手机当前处于运动状态,并转入步骤S31;
步骤S31,获取当前时刻安装在智能手机中的陀螺仪的监测数据,然后根据陀螺仪当前监测到的数据,对智能手机在下一时刻的空间姿态进行解算,得到陀螺仪空间姿态解算结果并存储;
步骤S32,计算安装在智能手机中的磁力计在预设间隔时间段内先后两次监测到的磁力值的变化值,然后根据当前的加速度计值和磁力值的变化值,计算智能手机在当前时刻绕三维坐标系的三个坐标轴的转角
步骤S4,根据步骤S32计算的各转角,计算智能手机在当前准静止状态下的用于表示智能手机空间姿态的空间四元数Q';
步骤S5,通过空间四元数Q'校正步骤S31计算得到的所述陀螺仪空间姿态解算结果,得到经校正后的空间四元数;
步骤S6,通过经步骤S5校正后的空间四元数计算智能手机在任意时刻三个坐标轴的空间姿态角,并根据智能手机摄像头实时探测到的智能手机在三维空间各轴向上的位移距离,得到智能手机的六自由度空间姿态(空间姿态为姿态角和位移距离的组合)。
具体地,步骤S31中,根据当前时刻t的陀螺仪监测数据,通过以下公式(1)对智能手机在下一时刻t+T的空间姿态进行解算:
公式(1)中,K1=Ωb(t)Q(t);
K4=Ωb(t+T)[Q(t)+K3T];
ωx表示陀螺仪在当前时刻t监测到的x轴向上的角速度;
ωy表示陀螺仪在当前时刻t监测到的y轴向上的角速度;
ωz表示陀螺仪在当前时刻t监测到的z轴向上的角速度;
T表示当前监测时刻t与下一监测时刻的时间间隔。
步骤S32中,通过以下的三个转角计算公式计算智能手机在当前时刻t绕三维坐标系的三个坐标轴的转角
ψ=Me-Mb;
ax为当前时刻t加速度计监测到的x轴向上的加速度计值;
ay为当前时刻t加速度计监测到的y轴向上的加速度计值;
az为当前时刻t加速度计监测到的z轴向上的加速度计值;
Me为当前时刻t磁力计监测到的磁力计值;
Mb为磁力计在当前时刻t之前的距离当前时刻t一预设间隔时间的时间点监测到的磁力计值。
步骤S4中的空间四元数Q'通过以下公式(2)计算而得:
/>
公式(2)中,q0、q1、q2、q3表示智能手机在准静止状态下的空间姿态的四元数;
步骤S6中,通过以下公式(3)计算智能手机在任意时刻三个坐标轴的空间姿态角
上式中,q'0、q'1、q'2、q'3为经步骤S5校正后的所述空间四元数。
步骤S5中,通过空间四元数Q'校正步骤S31计算得到的陀螺仪空间姿态解算结果,得到经校正后的空间四元数的方法为现有技术,所以关于空间四元数的校正过程在此不做阐述。
以下对本发明实现对知识教育培训效果评价的方法进行阐述:
本发明采用量化评价方式对培训对象的知识教育培训效果进行评价,量化评价方式更加客观、科学、公平,能够为培训组织者或相关的考评部门提供考评依据。为了实现对知识教育培训效果的量化评价,首先需要明确具体的评价指标,本发明提出的评价指标包括佩戴者在VR场景中的体验总时长、佩戴者在VR场景中的文字展示区域的停留时长以及在讲解语音播放区域和视频播放区域的停留时长,以及佩戴者在VR场景中触发文字展示、讲解语音播放和视频播放的次数。
本发明通过教学监测设备监测培训对象在VR场景中的体验行为,以获取各个评价指标的指标值。具体地,如图7所示,教学监测设备4包括:
计时模块41,用于对用户在VR场景中的各个展示区域的停留时间以及在VR场景中的体验总时长进行累计,得到用户“在VR场景中的体验总时长”“在文字展示区域的停留时长”“在讲解语音播放区域的停留时长”“在视频播放区域的停留时长”这四个评价指标的指标值;
互动监测模块42,用于对用户在VR场景中的教育互动情况进行监测,得到佩戴者“在VR场景中触发文字展示次数”“触发讲解语音播放次数”和“触发视频播放次数”这三个评价指标的指标值。
本发明提供的教学效果评价系统通过以下公式(4)对培训对象的VR教学效果进行综合分析评价:
公式(4)中,G用于表示教学效果评价系统对培训对象的VR教学效果的评分值;
i用于表示评价指标;
n表示评价指标的数量;
wi表示评价指标的权重;
gi表示评价指标的指标值。
需要声明的是,上述具体实施方式仅仅为本发明的较佳实施例及所运用技术原理。本领域技术人员应该明白,还可以对本发明做各种修改、等同替换、变化等等。但是,这些变换只要未背离本发明的精神,都应在本发明的保护范围之内。另外,本申请说明书和权利要求书所使用的一些术语并不是限制,仅仅是为了便于描述。
Claims (1)
1.一种基于VR技术和6DOF姿态跟踪的知识教育系统,其特征在于,包括:
知识教育VR场景制作设备,用于提供给VR场景设计人员制作知识教育VR场景;
手机VR设备,包括智能手机和佩戴头盔,所述智能手机安装在所述佩戴头盔上,用户佩戴上所述佩戴头盔后对运行在所述智能手机上的所述VR场景进行学习、体验和互动;
六自由度姿态跟踪器,通信连接所述手机VR设备,用于实现对所述智能手机的六自由度空间姿态和所述用户在VR场景中的行为的可视化跟踪;
教学监测设备,通信连接所述手机VR设备,用于对所述用户的VR教学过程进行数据监测并保存监测到的教学数据;
教学效果评价系统,通信连接所述教学监测设备,用于基于监测到的所述教学数据对所述用户的VR教学效果进行综合分析评价,形成教学评价报告;
所述知识教育VR场景制作设备具体包括:
知识教育VR场馆空间设计模块,用于提供给设计人员根据整理的素材设计知识教育VR场馆的空间布局结构;
VR场馆三维建模模块,连接所述知识教育VR场馆空间设计模块,用于提供给所述设计人员对设计的场馆空间布局结构进行三维建模,形成知识教育VR场馆的三维模型;
图片获取模块,用于提供给所述设计人员从一知识教育图片资料库中获取资料图片;
图片处理模块,连接所述图片获取模块,用于提供给所述设计人员对所述资料图片进行图像处理,以符合所述三维模型的贴图规范要求;
贴图模块,分别连接所述图片处理模块和所述VR场馆三维建模模块,用于提供给所述设计人员将经处理后的所述资料图片贴图到所述三维模型中所要关联的虚拟展品的指定展示区域处;
展品文字介绍嵌入模块,连接所述VR场馆三维建模模块,用于提供给所述设计人员将预先确定的展品文字介绍嵌入到所述三维模型中所要关联的虚拟展品的指定展示区域处;
展品文字介绍触发控制模块,连接所述VR场馆三维建模模块,用于提供给所述设计人员设计触发并显示所述展品文字介绍的控制方式;
讲解语音获取模块,连接一知识教育讲解语音库,用于提供给所述设计人员从所述知识教育讲解语音库中获取讲解语音;
讲解语音嵌入模块,分别连接所述讲解语音获取模块和所述VR场馆三维建模模块,用于提供给所述设计人员将所述讲解语音嵌入到所述三维模型中所要关联的虚拟展品的指定展示区域处;
讲解语音播放触发控制模块,连接所述VR场馆三维建模模块,用于提供给所述设计人员设计触发并播放所述讲解语音的控制方式;
知识教育视频获取模块,连接一知识教育视频库,用于提供给所述设计人员从所述知识教育视频库中获取知识教育视频;
知识教育视频嵌入模块,分别连接所述知识教育视频获取模块和所述VR场馆三维建模模块,用于提供给所述设计人员将所述知识教育视频嵌入到所述三维模型中的指定位置处;
知识教育视频触发控制模块,连接所述VR场馆三维建模模块,用于提供给所述设计人员设计触发并播放所述知识教育视频的控制方式;
VR场景生成模块,连接所述VR场馆三维建模模块,用于将制作完成的所述三维模型进行优化打包,并最终生成所述VR场景;
通过设置在所述智能手机中的空间姿态监测设备实现对智能手机空间姿态的实时监测,所述空间姿态监测设备包括三轴加速度计、陀螺仪或磁力计中的任意一种或多种;
安装在所述智能手机中的数据分析处理系统包括:
数据获取模块,用于获取所述用户操作所述智能手机的行为数据和各所述空间姿态监测设备监测到的监测数据;
触屏消息形成模块,连接所述数据获取模块,用于将所述用户操作所述智能手机的行为解释为触屏消息并输出;
空间姿态解算模块,连接所述数据获取模块,用于根据各所述空间姿态监测设备监测到的所述监测数据解算智能手机的六自由度空间姿态,生成空间姿态信息并输出;
消息合成模块,分别连接所述触屏消息形成模块和所述空间姿态解算模块,用于将所述触屏消息和所述空间姿态信息通过定义的交互消息格式合成为交互消息并输出;
安装在服务器端的数据处理系统包括:
交互消息内容解析模块,通信连接所述消息合成模块,用于对所述智能手机发送的所述交互消息进行内容解析;
交互映射模块,连接所述交互消息内容解析模块,用于将解析后的交互消息内容以用户视角映射到VR场景中,然后将映射场景通过立体投影设备投影到显示设备上;
所述解算智能手机的六自由度空间姿态的方法包括如下步骤:
步骤S1,获取安装在所述智能手机中的三轴加速度计当前监测到的加速度计值;
步骤S2,判断当前的所述加速度计值与重力加速度g的差值是否小于一预设阈值,
若是,则判定所述智能手机当前处于准静止状态,并转入步骤S32;
若否,则判定智能手机当前处于运动状态,并转入步骤S31;
步骤S31,获取当前时刻安装在所述智能手机中的陀螺仪的监测数据,然后根据所述陀螺仪当前监测到的数据,对所述智能手机在下一时刻的空间姿态进行解算,得到陀螺仪空间姿态解算结果并存储;
步骤S32,计算安装在所述智能手机中的磁力计在预设间隔时间段内先后两次监测到的磁力值的变化值,然后根据当前的所述加速度计值和所述磁力值的变化值,计算所述智能手机在当前时刻绕三维坐标系的三个坐标轴的转角
步骤S4,根据所述步骤S32计算的各所述转角,计算所述智能手机在当前准静止状态下的用于表示智能手机空间姿态的空间四元数Q';
步骤S5,通过所述空间四元数Q'校正所述步骤S31计算得到的所述陀螺仪空间姿态解算结果,得到经校正后的空间四元数;
步骤S6,通过经所述步骤S5校正后的空间四元数计算所述智能手机在任意时刻三个坐标轴的空间姿态角,并根据智能手机摄像头实时探测到的智能手机在三维空间各轴向上的位移距离,得到所述智能手机的六自由度空间姿态;
所述步骤S31中,根据当前时刻t的陀螺仪监测数据,通过以下公式(1)对所述智能手机在下一时刻t+T的空间姿态进行解算:
公式(1)中,K1=Ωb(t)Q(t);
K4=Ωb(t+T)[Q(t)+K3T];
ωx表示所述陀螺仪在当前时刻t监测到的x轴向上的角速度;
ωy表示所述陀螺仪在当前时刻t监测到的y轴向上的角速度;
ωz表示所述陀螺仪在当前时刻t监测到的z轴向上的角速度;
T表示当前监测时刻t与下一监测时刻的时间间隔;
所述步骤S32中,通过以下的三个转角计算公式计算智能手机在当前时刻t绕三维坐标系的三个坐标轴的转角
ψ=Me-Mb;
ax为当前时刻t所述加速度计监测到的x轴向上的加速度计值;
ay为当前时刻t所述加速度计监测到的y轴向上的加速度计值;
az为当前时刻t所述加速度计监测到的z轴向上的加速度计值;
Me为当前时刻t所述磁力计监测到的磁力计值;
Mb为所述磁力计在当前时刻t之前的距离当前时刻t一预设间隔时间的时间点监测到的磁力计值;
所述步骤S4中的所述空间四元数Q'通过以下公式(2)计算而得:
公式(2)中,q0、q1、q2、q3表示智能手机在准静止状态下的空间姿态的四元数;
所述步骤S6中,通过以下公式(3)计算智能手机在任意时刻三个坐标轴的空间姿态角
上式中,q'0、q'1、q'2、q'3为经所述步骤S5校正后的所述空间四元数;
评价VR教学效果的评价指标包括所述用户在所述VR场景中的体验总时长、所述用户在所述VR场景中的文字展示区域、讲解语音播放区域、视频播放区域的停留时长,以及所述用户在所述VR场景中触发文字展示、讲解语音播放和视频播放的次数中的任意一种或多种;
所述教学监测设备包括:
计时模块,用于对所述用户在所述VR场景中的各个展示区域的停留时间以及在所述VR场景中的体验总时长进行累计,得到所述用户在VR场景中的体验总时长、在文字展示区域的停留时长、在讲解语音播放区域的停留时长、在视频播放区域的停留时长这四个所述评价指标的指标值;
互动监测模块,用于对所述用户在所述VR场景中的教育互动情况进行监测,得到佩戴者在VR场景中触发文字展示次数、触发讲解语音播放次数和触发视频播放次数这三个评价指标的指标值;
所述教学效果评价系统通过以下公式(4)对所述用户的VR教学效果进行综合分析评价:
公式(4)中,G用于表示所述教学效果评价系统对所述用户的VR教学效果的评分值;
i用于表示评价指标;
n表示所述评价指标的数量;
wi表示所述评价指标的权重;
gi表示所述评价指标的指标值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010792953.1A CN112037090B (zh) | 2020-08-07 | 2020-08-07 | 基于vr技术和6dof姿态跟踪的知识教育系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010792953.1A CN112037090B (zh) | 2020-08-07 | 2020-08-07 | 基于vr技术和6dof姿态跟踪的知识教育系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112037090A CN112037090A (zh) | 2020-12-04 |
CN112037090B true CN112037090B (zh) | 2024-05-03 |
Family
ID=73576734
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010792953.1A Active CN112037090B (zh) | 2020-08-07 | 2020-08-07 | 基于vr技术和6dof姿态跟踪的知识教育系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112037090B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113515193B (zh) * | 2021-05-17 | 2023-10-27 | 聚好看科技股份有限公司 | 一种模型数据传输方法及装置 |
CN113534961A (zh) * | 2021-08-06 | 2021-10-22 | 北京鼎普科技股份有限公司 | 一种基于vr的保密教育培训方法和系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102419917A (zh) * | 2011-10-24 | 2012-04-18 | 山东大学 | 面向军体拳教学系统的智能手机交互平台及其实现方法 |
CN102664988A (zh) * | 2012-03-23 | 2012-09-12 | 中国科学院软件研究所 | 一种基于智能手机的三维交互方法及系统 |
CN107122051A (zh) * | 2017-04-26 | 2017-09-01 | 北京大生在线科技有限公司 | 构建三维教学环境的方法及系统 |
CN107331220A (zh) * | 2017-09-01 | 2017-11-07 | 国网辽宁省电力有限公司锦州供电公司 | 基于增强现实的变电设备运维仿真培训系统和方法 |
CN108538117A (zh) * | 2018-03-29 | 2018-09-14 | 华中师范大学 | 一种用于信息化教学的体感交互方法及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105373224B (zh) * | 2015-10-22 | 2016-06-22 | 山东大学 | 一种基于普适计算的混合现实游戏系统及方法 |
-
2020
- 2020-08-07 CN CN202010792953.1A patent/CN112037090B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102419917A (zh) * | 2011-10-24 | 2012-04-18 | 山东大学 | 面向军体拳教学系统的智能手机交互平台及其实现方法 |
CN102664988A (zh) * | 2012-03-23 | 2012-09-12 | 中国科学院软件研究所 | 一种基于智能手机的三维交互方法及系统 |
CN107122051A (zh) * | 2017-04-26 | 2017-09-01 | 北京大生在线科技有限公司 | 构建三维教学环境的方法及系统 |
CN107331220A (zh) * | 2017-09-01 | 2017-11-07 | 国网辽宁省电力有限公司锦州供电公司 | 基于增强现实的变电设备运维仿真培训系统和方法 |
CN108538117A (zh) * | 2018-03-29 | 2018-09-14 | 华中师范大学 | 一种用于信息化教学的体感交互方法及系统 |
Non-Patent Citations (1)
Title |
---|
娄岩 等主编.《医学虚拟现实与增强现实》.湖北科学技术出版社,2019,第34页. * |
Also Published As
Publication number | Publication date |
---|---|
CN112037090A (zh) | 2020-12-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103369303B (zh) | 动作行为分析记录及重现的系统及方法 | |
Ahuja et al. | Classroom digital twins with instrumentation-free gaze tracking | |
Tacgin | Virtual and augmented reality: an educational handbook | |
CN112037090B (zh) | 基于vr技术和6dof姿态跟踪的知识教育系统 | |
Kirner et al. | Using augmented reality artifacts in education and cognitive rehabilitation | |
Dutta | Augmented reality for e-learning | |
CN112071130A (zh) | 基于vr技术的知识教育系统及教育方法 | |
Corbi et al. | Intelligent framework for learning physics with aikido (Martial Art) and registered sensors | |
CN205540577U (zh) | 虚拟教学视频直播装置 | |
Knight | Expressive Motion for Low Degree-of-Freedom Robots. | |
Masal et al. | Development of a visual to audio and tactile substitution system for mobility and orientation of visually impaired people: a review | |
Bauer et al. | Making the usage of guidance systems in pedestrian infrastructures measurable using the virtual environment DAVE | |
Delikostidis et al. | Evaluating mobile applications in virtual environments: A survey | |
Wei et al. | Integrating Kinect and haptics for interactive STEM education in local and distributed environments | |
Onime et al. | Mare: Mobile augmented reality based experiments in science, technology and engineering | |
Sparacino | Natural interaction in intelligent spaces: Designing for architecture and entertainment | |
Ahmad et al. | Towards a Low‐Cost Teacher Orchestration Using Ubiquitous Computing Devices for Detecting Student’s Engagement | |
Lykawka et al. | Tactile interface design for helping mobility of people with visual disabilities | |
De Paolis et al. | Augmented Reality, Virtual Reality, and Computer Graphics: 5th International Conference, AVR 2018, Otranto, Italy, June 24–27, 2018, Proceedings, Part I | |
Doran | Extended reality (XR) based smart pedagogy: Data analytics driven examination of smart technology application to student success | |
Mukkawar et al. | Architectural view of non-face-to-face experiential learning through the immersive technologies | |
Gupta et al. | Training in virtual environments | |
Mustapha et al. | Incorporating Spatial-Visual Topology In Mobile Augmented Reality Application To Enhance Visual Realism | |
Erdem | Utilization of virtual reality environment as an interactive visual learning tool in primary school education system | |
Reddy et al. | Augmented reality (AR) in education-A New Prospect |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |