CN114237393A - 一种基于头动意图的vr画面刷新方法及系统 - Google Patents
一种基于头动意图的vr画面刷新方法及系统 Download PDFInfo
- Publication number
- CN114237393A CN114237393A CN202111520323.XA CN202111520323A CN114237393A CN 114237393 A CN114237393 A CN 114237393A CN 202111520323 A CN202111520323 A CN 202111520323A CN 114237393 A CN114237393 A CN 114237393A
- Authority
- CN
- China
- Prior art keywords
- user
- head
- turning
- intention
- electroencephalogram
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000004886 head movement Effects 0.000 title claims abstract description 33
- 238000000034 method Methods 0.000 title claims abstract description 24
- 238000012549 training Methods 0.000 claims abstract description 25
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 11
- 238000003062 neural network model Methods 0.000 claims abstract description 8
- 238000007781 pre-processing Methods 0.000 claims description 9
- 238000010586 diagram Methods 0.000 claims description 8
- 210000004556 brain Anatomy 0.000 claims 4
- 238000004904 shortening Methods 0.000 abstract description 6
- 238000002360 preparation method Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 201000003152 motion sickness Diseases 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/015—Input arrangements based on nervous system activity detection, e.g. brain waves [EEG] detection, electromyograms [EMG] detection, electrodermal response detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Human Computer Interaction (AREA)
- Neurology (AREA)
- Neurosurgery (AREA)
- Dermatology (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明公开了一种基于头动意图的VR画面刷新方法及系统。该方法包括：采集用户的脑电信号；所述脑电信号包括用户转头前后的脑电信号；通过所述脑电信号训练卷积神经网络模型，得到转头意图识别模型；所述转头意图识别模型识别用户的转头意图；根据转头意图训练卷及神经网络模型，得到转头方向识别模型；所述转头方向识别模型用于识别用户的转头方向；根据识别出的用户转头方向刷新VR画面。本发明能够对用户头动意图进行识别，从而能够提前预测头部运动，为VR画面刷新留出时间，实现VR时延的缩短。
Description
技术领域
本发明涉及VR画面刷新技术领域，特别是涉及一种基于头动意图的VR画面刷新方法及系统。
背景技术
现有技术中是基于时延缩短方式进行VR界面刷新优化的，但是基于时延缩短的方式主要包括硬件性能提升和算法优化，这种在动作发生后才进行画面刷新的方法在原理层面将会遇到无法继续缩短时延的技术瓶颈。
发明内容
本发明的目的是提供一种基于头动意图的VR画面刷新方法及系统，能够在头部运动发生前就进行VR画面刷新准备工作，从而极大地缩短时延。
为实现上述目的，本发明提供了如下方案：
一种基于头动意图的VR画面刷新方法，包括：
采集用户的脑电信号；所述脑电信号包括用户转头前后的脑电信号；
通过所述脑电信号训练卷积神经网络模型，得到转头意图识别模型；所述转头意图识别模型识别用户的转头意图；
根据转头意图训练卷及神经网络模型，得到转头方向识别模型；所述转头方向识别模型用于识别用户的转头方向；
根据识别出的用户转头方向刷新VR画面。
可选地，通过脑电帽设备采集用户的脑电信号，脑电信号通道数目为3。
可选地，在通过所述脑电信号训练卷积神经网络模型之前，还包括：
对所述脑电信号进行预处理，通过连续小波变换得到小波变换时频图。
本发明还提供了一种基于头动意图的VR画面刷新系统，包括：
采集模块，用于采集用户的脑电信号；所述脑电信号包括用户转头前后的脑电信号；
第一训练模块，用于通过所述脑电信号训练卷积神经网络模型，得到转头意图识别模型；所述转头意图识别模型识别用户的转头意图；
第二训练模块，用于根据转头意图训练卷及神经网络模型，得到转头方向识别模型；所述转头方向识别模型用于识别用户的转头方向；
刷新模块，用于根据识别出的用户转头方向刷新VR画面。
可选地，通过脑电帽设备采集用户的脑电信号，脑电信号通道数目为3。
可选地，还包括：
预处理模块，用于对所述脑电信号进行预处理，通过连续小波变换得到小波变换时频图。
根据本发明提供的具体实施例，本发明公开了以下技术效果：
本发明提供了一种基于头动意图的VR画面刷新方法，包括：采集用户的脑电信号；所述脑电信号包括用户转头前后的脑电信号；通过所述脑电信号训练卷积神经网络模型，得到转头意图识别模型；所述转头意图识别模型识别用户的转头意图；根据转头意图训练卷及神经网络模型，得到转头方向识别模型；所述转头方向识别模型用于识别用户的转头方向；根据识别出的用户转头方向刷新VR画面。本发明能够对用户头动意图进行识别，从而能够提前预测头部运动，为VR画面刷新留出时间，实现VR时延的缩短。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例基于头动意图的VR画面刷新方法的流程图；
图2为本发明实施例基于头动意图的VR画面刷新方法的原理图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明的目的是提供一种基于头动意图的VR画面刷新方法及系统，能够在头部运动发生前就进行VR画面刷新准备工作，从而极大地缩短时延。
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。
如图1-2所示，一种基于头动意图的VR画面刷新方法，包括以下步骤：
步骤101：采集用户的脑电信号；所述脑电信号包括用户转头前后的脑电信号。
在实际应用中，通过脑电帽设备采集用户在左右转头运动前后的脑电信号(EEG)，脑电信号通道数目为3，具体为FCz、FC3、FC4。需注意，通道数目和通道位置均可以调整，也可以更换成其他通道。
采集实验包括随机在电脑屏幕上出现左右转头方向提示，用户根据提示进行左右转头运动。
对脑电信号数据进行预处理，通过连续小波变换得到小波变换时频图。
步骤102：通过所述脑电信号训练卷积神经网络模型，得到转头意图识别模型；所述转头意图识别模型识别用户的转头意图。
将时频图放入卷积神经网络中进行训练，得到该用户关于是否存在头部运动意图的模型，即转头意图识别模型。
步骤103：根据转头意图训练卷及神经网络模型，得到转头方向识别模型；所述转头方向识别模型用于识别用户的转头方向。
步骤104：根据识别出的用户转头方向刷新VR画面。
具体实施例：
在用户佩戴VR头盔显示器后，通过佩戴脑电帽实时采集处理脑电信号，截取最新收集的300ms脑电信号数据段。
利用脑电解码算法对该数据段进行处理获得是否存在头部运动意图。利用转头意图识别模型实现实时的运动意图检测识别，判断是否有头动意图。如果不存在头部运动意图则VR画面不刷新，继续进行脑电信号监测。
如果存在头动意图，利用转头方向识别模型进行左右转头意图识别分类，得到分类方向，可以识别未来几百毫秒内头部的运动方向。
根据头部运动意图方向，可以向VR设备发送方向信息，然后根据运动速度估计和画面刷新耗时得到头部视角在未来时刻所处的位置，最后根据这一位置信息将VR场景画面视角进行调整，在头部运动发生前就进行VR设备画面刷新准备，为VR画面刷新留足时间从而缩短VR设备时延，从而缓解时延带来的VR晕动症。
其中，根据运动速度估计和画面刷新耗时得到头部视角在未来时刻所处的位置，具体为，头部运动意图方向识别后，再根据前期通过惯性传感器得到的统计的用户平均转头速度作为假设转头速度。而时间计算方面，通过对头动意图的脑电信号产生时间和惯性传感器测得的实际头动时间之间的间隔时间进行统计得到平均值。同时计算机内部对上述步骤的耗时进行记录并加上画面刷新的固定耗时，得到整个过程的耗时，最后两个时间相减可以知道画面呈现时间处于头部运动多久后，之后再根据平均转头速度通过线性外推的方法获得此时的头部位置，并且刚好实现画面刷新，画面较为准确地与实际视角匹配。
本发明还提供了一种基于头动意图的VR画面刷新系统，包括：
采集模块，用于采集用户的脑电信号；所述脑电信号包括用户转头前后的脑电信号；
第一训练模块，用于通过所述脑电信号训练卷积神经网络模型，得到转头意图识别模型；所述转头意图识别模型识别用户的转头意图；
第二训练模块，用于根据转头意图训练卷及神经网络模型，得到转头方向识别模型；所述转头方向识别模型用于识别用户的转头方向；
刷新模块，用于根据识别出的用户转头方向刷新VR画面。
其中，还包括：
预处理模块，用于对所述脑电信号进行预处理，通过连续小波变换得到小波变换时频图。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处。综上所述，本说明书内容不应理解为对本发明的限制。
Claims (6)
1.一种基于头动意图的VR画面刷新方法，其特征在于，包括：
采集用户的脑电信号；所述脑电信号包括用户转头前后的脑电信号；
通过所述脑电信号训练卷积神经网络模型，得到转头意图识别模型；所述转头意图识别模型识别用户的转头意图；
根据转头意图训练卷及神经网络模型，得到转头方向识别模型；所述转头方向识别模型用于识别用户的转头方向；
根据识别出的用户转头方向刷新VR画面。
2.根据权利要求1所述的基于头动意图的VR画面刷新方法，其特征在于，通过脑电帽设备采集用户的脑电信号，脑电信号通道数目为3。
3.根据权利要求1所述的基于头动意图的VR画面刷新方法，其特征在于，在通过所述脑电信号训练卷积神经网络模型之前，还包括：
对所述脑电信号进行预处理，通过连续小波变换得到小波变换时频图。
4.一种基于头动意图的VR画面刷新系统，其特征在于，包括：
采集模块，用于采集用户的脑电信号；所述脑电信号包括用户转头前后的脑电信号；
第一训练模块，用于通过所述脑电信号训练卷积神经网络模型，得到转头意图识别模型；所述转头意图识别模型识别用户的转头意图；
第二训练模块，用于根据转头意图训练卷及神经网络模型，得到转头方向识别模型；所述转头方向识别模型用于识别用户的转头方向；
刷新模块，用于根据识别出的用户转头方向刷新VR画面。
5.根据权利要求4所述的基于头动意图的VR画面刷新系统，其特征在于，通过脑电帽设备采集用户的脑电信号，脑电信号通道数目为3。
6.根据权利要求4所述的基于头动意图的VR画面刷新方法，其特征在于，还包括：
预处理模块，用于对所述脑电信号进行预处理，通过连续小波变换得到小波变换时频图。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111520323.XA CN114237393A (zh) | 2021-12-13 | 2021-12-13 | 一种基于头动意图的vr画面刷新方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111520323.XA CN114237393A (zh) | 2021-12-13 | 2021-12-13 | 一种基于头动意图的vr画面刷新方法及系统 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114237393A true CN114237393A (zh) | 2022-03-25 |
Family
ID=80755327
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111520323.XA Pending CN114237393A (zh) | 2021-12-13 | 2021-12-13 | 一种基于头动意图的vr画面刷新方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114237393A (zh) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140300532A1 (en) * | 2013-04-08 | 2014-10-09 | Nokia Corporation | Apparatus, method and computer program for controlling a near-eye display |
| US20170115488A1 (en) * | 2015-10-26 | 2017-04-27 | Microsoft Technology Licensing, Llc | Remote rendering for virtual images |
| CN106909221A (zh) * | 2017-02-21 | 2017-06-30 | 北京小米移动软件有限公司 | 基于vr系统的图像处理方法及装置 |
| CN108921951A (zh) * | 2018-07-02 | 2018-11-30 | 京东方科技集团股份有限公司 | 虚拟现实图像显示方法及其装置、虚拟现实设备 |
| WO2020069976A1 (en) * | 2018-10-01 | 2020-04-09 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Concepts for improved head motion prediction and efficient encoding of immersive video |
| CN111766948A (zh) * | 2019-08-20 | 2020-10-13 | 谷歌有限责任公司 | 利用递归神经网络的姿态预测 |
| CN112313712A (zh) * | 2018-04-19 | 2021-02-02 | Pcms控股公司 | 采用用于虚拟现实的预测过满填充的系统和方法 |
-
2021
- 2021-12-13 CN CN202111520323.XA patent/CN114237393A/zh active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140300532A1 (en) * | 2013-04-08 | 2014-10-09 | Nokia Corporation | Apparatus, method and computer program for controlling a near-eye display |
| US20170115488A1 (en) * | 2015-10-26 | 2017-04-27 | Microsoft Technology Licensing, Llc | Remote rendering for virtual images |
| CN106909221A (zh) * | 2017-02-21 | 2017-06-30 | 北京小米移动软件有限公司 | 基于vr系统的图像处理方法及装置 |
| CN112313712A (zh) * | 2018-04-19 | 2021-02-02 | Pcms控股公司 | 采用用于虚拟现实的预测过满填充的系统和方法 |
| CN108921951A (zh) * | 2018-07-02 | 2018-11-30 | 京东方科技集团股份有限公司 | 虚拟现实图像显示方法及其装置、虚拟现实设备 |
| WO2020069976A1 (en) * | 2018-10-01 | 2020-04-09 | Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. | Concepts for improved head motion prediction and efficient encoding of immersive video |
| CN111766948A (zh) * | 2019-08-20 | 2020-10-13 | 谷歌有限责任公司 | 利用递归神经网络的姿态预测 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Reddy et al. | Real-time driver drowsiness detection for embedded system using model compression of deep neural networks | |
| Zhang et al. | Driver drowsiness recognition based on computer vision technology | |
| Sugano et al. | Calibration-free gaze sensing using saliency maps | |
| CN109919977B (zh) | 一种基于时间特征的视频运动人物跟踪与身份识别方法 | |
| CN111860274B (zh) | 基于头部朝向与上半身骨架特征的交警指挥手势识别方法 | |
| CN111325089A (zh) | 跟踪对象的方法和设备 | |
| CN105740758A (zh) | 基于深度学习的互联网视频人脸识别方法 | |
| WO2016149938A1 (zh) | 视频监控方法、视频监控系统以及计算机程序产品 | |
| CN110151203B (zh) | 基于多级雪崩式卷积递归网络eeg分析的疲劳驾驶识别方法 | |
| Chen et al. | Driver fatigue detection based on facial key points and LSTM | |
| Celona et al. | A multi-task CNN framework for driver face monitoring | |
| Zhao et al. | Driver distraction detection method based on continuous head pose estimation | |
| CN109875583B (zh) | 一种基于ar技术的疲劳驾驶检测系统及方法 | |
| CN107832716B (zh) | 基于主动被动高斯在线学习的异常检测方法 | |
| CN110148092B (zh) | 基于机器视觉的青少年坐姿及情绪状态的分析方法 | |
| WO2018171875A1 (en) | Control device, system and method for determining the perceptual load of a visual and dynamic driving scene | |
| CN106529441B (zh) | 基于模糊边界分片的深度动作图人体行为识别方法 | |
| CN113378649A (zh) | 身份、位置和动作识别方法、系统、电子设备及存储介质 | |
| CN113688741A (zh) | 一种基于事件相机和视觉相机协同的运动训练评估系统及方法 | |
| Hou et al. | A lightweight framework for abnormal driving behavior detection | |
| Pourazad et al. | A non-intrusive deep learning based fall detection scheme using video cameras | |
| CN113989917A (zh) | 一种基于事件相机的卷积递归神经网络眼部检测方法 | |
| CN111339878B (zh) | 一种基于眼动数据的修正型实时情感识别方法及系统 | |
| CN114237393A (zh) | 一种基于头动意图的vr画面刷新方法及系统 | |
| CN116311497A (zh) | 一种基于机器视觉的隧道工人异常行为检测方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |