CN105721703B - 一种利用手机设备传感器进行全景定位和朝向的方法 - Google Patents

一种利用手机设备传感器进行全景定位和朝向的方法 Download PDF

Info

Publication number
CN105721703B
CN105721703B CN201610103676.2A CN201610103676A CN105721703B CN 105721703 B CN105721703 B CN 105721703B CN 201610103676 A CN201610103676 A CN 201610103676A CN 105721703 B CN105721703 B CN 105721703B
Authority
CN
China
Prior art keywords
data
mobile phone
bearing data
gyroscope
cell phone
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201610103676.2A
Other languages
English (en)
Other versions
CN105721703A (zh
Inventor
陈爱青
曹江龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Ying Mo Science And Technology Ltd
Original Assignee
Hangzhou Ying Mo Science And Technology Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Ying Mo Science And Technology Ltd filed Critical Hangzhou Ying Mo Science And Technology Ltd
Priority to CN201610103676.2A priority Critical patent/CN105721703B/zh
Publication of CN105721703A publication Critical patent/CN105721703A/zh
Application granted granted Critical
Publication of CN105721703B publication Critical patent/CN105721703B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72454User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Environmental & Geological Engineering (AREA)
  • Studio Devices (AREA)
  • Telephone Function (AREA)

Abstract

本发明公开了一种利用手机设备传感器进行全景定位和朝向的方法。通过手机内置的陀螺仪采集获得手机本体相对于本身初始位置在设备坐标系三轴上的旋转角度,通过手机内置的方向传感器采集数据,获得手机本体在世界坐标系中的方位数据,再将旋转角度和方位数据加权融合以进行矫正;根据矫正后的视觉方位数据生成对应纹理并渲染呈现至VR球模型的内表面,将相机模型置于球模型的球心,相机模型作为人眼球,VR球模型的内表面作为显示屏幕,根据移动设备的矫正方位同步改变相机朝向。本发明解决了手机陀螺仪漂移的问题,解决了虚拟VR世界上下颠倒旋转问题,并进一步实现平滑精准地定位设备的朝向,获得全景视频的沉浸式观感效果。

Description

一种利用手机设备传感器进行全景定位和朝向的方法
技术领域
本发明涉及了一种全景定位的方法,尤其是涉及了一种利用手机设备传感器进行全景定位和朝向的方法。
背景技术
随着虚拟现实产业的发展,移动端的VR体验需求越来越大,例如VR游戏、全景视频功能等。2015年是国内智能手机领域最火热的一年,各大国产手机厂商相继推出了众多优秀的产品,而这些产品都有一个共同的特点:搭载Android智能系统。
根据一般市场调查,智能系统在所有移动端OS中占比最高,从2015年度智能手机尺寸的关注比例可以看出,5寸-5.5寸手机的关注比例最高,这也是市面上移动版VR眼镜适配效果最好的尺寸范围。市面上智能手机的主流分辨率为1080P,部分手机已达到了2K,这也为移动端的全景视频观感提供了保证。体验过全景视频的人一定知道,视频的每一帧经过渲染、显示在手机屏幕上大约只有原本画面的三分之一(120度FOV),这就对视频源本身以及手机屏幕的要求非常高。
目前在手机上全景视频播放器所遇到的主要技术问题是漂移、上下颠倒和实时同步朝向,如何利用设备已有的传感器,参照现实世界精确、平滑地定位头部朝向便是本发明需要解决的问题。
发明内容
为了解决背景技术中存在的问题,本发明的目的在于提供一种利用手机设备传感器进行全景定位和朝向的方法,解决了手机陀螺仪漂移的问题,用于虚拟现实场景的呈现,并利用OPENGL_ES开源库实现全景视频、全景图片的渲染开发工作。
本发明为实现上述功能,采用的技术方案是:
在手机系统中,通过手机内置的陀螺仪采集获得手机本体相对于本身初始位置在设备坐标系三轴上的旋转角度,通过手机内置的方向传感器采集获得手机本体在世界坐标系中的方位数据,将旋转角度和方位数据融合以进行矫正;矫正后将解码之后的帧数据生成纹理并渲染呈现至VR球模型的内表面,将相机模型置于球模型的球心,相机模型作为人眼球,VR球模型的内表面作为显示屏幕,根据移动设备的方位同步改变相机朝向。
所述的数据融合采用加权滤波器(Weighting Filter),将方向传感器获取的方位数据设置方位权重值λ=0.02,设置陀螺仪的旋转角度数据的角度权重值为(1-λ)=0.98,具体采用以下公式融合:
f=λ×a+(1-λ)×g
当所述陀螺仪的旋转角度数据g与方向传感器的方位数据a正负不一致时,虚拟VR世界会上下颠倒,这与现实世界是矛盾的,所以需要将其中为负的数据进行反转处理,并且使取值范围始终落在(-π,π)间,采用以下方式:
当方位数据a和旋转角度数据g的取值正负一致时,不进行反转处理;
当旋转角度数据g<-π/2并且方位数据a>0.0时,将旋转角度数据g加上2π再进行加权融合,将加权融合后的视觉方位数据f与π比较,若视觉方位数据f>π,则将视觉方位数据f减2π,否则不做处理;
当旋转角度数据g>0.0并且方位数据a<-π/2时,将方位数据a加上2π再进行加权融合,将加权融合后的视觉方位数据f与π比较,若视觉方位数据f>π,则视觉方位数据f减2π,否则不做处理。
具体是采用以下公式:
第一种情况:当g<-π/2并且a>0.0时,则f=λ×a+(1-λ)×(g+2π)
第二种情况:当g>0.0并且a<-π/2时,则f=λ×(a+2π)+(1-λ)×g
若上面两种情况融合后的计算数据f>π时,则继续f=f-2π,否则不做处理
所述的方向传感器采用磁力计和加速度计。
所述的陀螺仪的回调频率和方位数据的刷新频率均大于显示屏幕每秒刷新的频率。
陀螺仪获取的数据是手机在设备坐标系的三个轴上的角速度,将其在时间上进行积分,便可获取手机在三个轴上旋转的角度。虽然陀螺仪获取的数据较为精细,但是随着时间的推移,所积累的误差会越来越大。因此,需要设备获取在世界坐标系(图2)中的方位数据用以矫正。
设置陀螺仪的回调频率可为每10ms(即100Hz)回调一次,数据的刷新频率必须要快于这个数值。
现有技术中手机均进行采用陀螺仪进行旋转定位和朝向,磁力计仅是用于对磁场单纯的检测使用,而本发明是有效利用磁力计的磁场信息,加入到定位和朝向的处理中来获得更准确的数据效果,实现有效定位。
本发明的有益效果是:
本发明方法解决手机陀螺仪漂移的问题,并进一步实现VRD全景播放时的全景定位和朝向。在手机系统中通过陀螺仪、磁力计、加速度计三种传感器辅 以加权滤波器能够平滑,精准地定位设备的朝向,从而很好的解决了全景播放定位和朝向问题。
附图说明
图1是本发明实施例的Android系统中设备坐标系示意图。
图2是本发明实施例Android系统中虚拟VR世界渲染在世界坐标系示意图。
图3是采用本发明方法与未采用本发明处理的数据采集结果对照示意图。
具体实施方式
下面结合附图及具体实施例对本发明作进一步详细说明。
本发明的实施例如下:
在带有Android系统的手机中,利用OPENGL_ES开源库实现全景渲染播放。
在Android系统中,通过陀螺仪传感器计算出手机相对于初始位置在设备坐标系(图1)三个轴上的旋转角度。
陀螺仪获取的数据是手机在设备坐标系的三个轴上的角速度,将其在时间上进行积分,便可获取手机在三个轴上旋转的角度,再通过手机内置的磁力计和加速度计结合获取在世界坐标系(图2)中的方位数据用以矫正。
具体实施中的数据融合采用加权滤波器(Weighting Filter),将方向传感器获取的方位数据权重配置为0.02,即λ取0.02,而陀螺仪方向数据配置为0.98,这样便可达到视角过渡圆滑、消除误差的效果。
f=0.02×a+0.98×g
当陀螺仪数据与方向传感器数据正负不一致时,进行反转修正,使虚拟VR世界和真实世界表现一致,这里忽略其他情况。
设置陀螺仪的回调频率可为每10ms(即100Hz)回调一次,具体实施把定时器的执行间隔设置为10ms。因为Android设备屏幕每秒刷新频率普遍为60Hz,即两次刷新间隔大约为16.66ms。
实施例采用基于带有android5.1系统的手机,采用本发明方法实现的方位数据采集结果与未采用本发明处理的进行对照比较,如图3所示,按照方案中建议的10ms时钟采集,手机静止平放在桌面,在大概3.3秒内采集到330个数据。从图3中可以看出,融合前的数据为实线表示,有比较明显的噪声(数据有明显的振幅),存在明显漂的问题;融合后的数据为虚线表示,数据很平滑,波动小,基本上没有漂的问题。
最终通过手机内置的渲染模块解码帧数据并生成纹理,并渲染至球模型的 内面,将Camera置于球心,根据移动设备的方位改变同步Camera朝向,便可获得全景视频的沉浸式观感效果。
本发明经过软件实现的全景播放器很好地解决了陀螺仪漂移的问题。在Android系统中,通过陀螺仪、磁力计、加速度计三种传感器辅以加权滤波器能够平滑,精准地定位设备的朝向,从而可以很好的解决全景播放器中Camera的朝向问题。
由此可见,本发明相比同类型的其他全景播放器,既解决了手机陀螺仪漂移的问题,又解决虚拟VR世界上下颠倒旋转问题,并进一步实现VR全景播放时的全景定位和朝向与真实世界表现一致,能够平滑且精准地定位设备的朝向,获得全景视频的沉浸式观感效果,其技术效果显著突出。

Claims (3)

1.一种利用手机设备传感器进行全景定位和朝向的方法,其特征在于:通过手机内置的陀螺仪采集获得手机本体相对于本身初始位置在设备坐标系三轴上的旋转角度,通过手机内置的加速度计和磁力计作为方向传感器采集数据,获得手机本体在世界坐标系中的方位数据,再将旋转角度和方位数据加权融合以进行矫正;根据矫正后的视觉方位数据生成对应纹理并渲染呈现至VR球模型的内表面,将相机模型置于球模型的球心,相机模型作为人眼球,VR球模型的内表面作为显示屏幕,根据移动设备的矫正方位同步改变相机朝向;
当所述陀螺仪的旋转角度数据g与方向传感器的方位数据a正负不一致时,具体采用以下公式进行反转处理,使取值范围始终落在(-π,π)间:
当g<-π/2并且a>0.0时,则f=λ×a+(1-λ)×(g+2π)
当g>0.0并且a<-π/2时,则f=λ×(a+2π)+(1-λ)×g
若计算获得的加权融合后的视觉方位数据f>π时,则将视觉方位数据f减2π,否则不做处理。
2.根据权利要求1所述的一种利用手机设备传感器进行全景定位和朝向的方法,其特征在于:所述的数据融合采用加权滤波器(Weighting Filter),将方向传感器获取的方位数据设置方位权重值为λ,设置陀螺仪的旋转角度数据的角度权重值为1-λ,设置融合后的视觉方位数据为f,设置加速度计磁力计的方位数据为a,设置陀螺仪的旋转角度数据为g,则具体采用以下公式融合:
f=λ×a+(1-λ)×g
其中,f表示融合后的视觉方位数据。
3.根据权利要求1所述的一种利用手机设备传感器进行全景定位和朝向的方法,其特征在于:所述的手机设备的陀螺仪、加速度计、磁力计的三个传感器的回调频率和刷新频率均大于显示屏幕刷新的频率。
CN201610103676.2A 2016-02-25 2016-02-25 一种利用手机设备传感器进行全景定位和朝向的方法 Expired - Fee Related CN105721703B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610103676.2A CN105721703B (zh) 2016-02-25 2016-02-25 一种利用手机设备传感器进行全景定位和朝向的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610103676.2A CN105721703B (zh) 2016-02-25 2016-02-25 一种利用手机设备传感器进行全景定位和朝向的方法

Publications (2)

Publication Number Publication Date
CN105721703A CN105721703A (zh) 2016-06-29
CN105721703B true CN105721703B (zh) 2018-12-25

Family

ID=56157082

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610103676.2A Expired - Fee Related CN105721703B (zh) 2016-02-25 2016-02-25 一种利用手机设备传感器进行全景定位和朝向的方法

Country Status (1)

Country Link
CN (1) CN105721703B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106648091A (zh) * 2016-12-16 2017-05-10 飞狐信息技术(天津)有限公司 实现同时且精确响应陀螺仪与手势拖拽交互的方法和装置及手机
CN106610721A (zh) * 2016-12-16 2017-05-03 飞狐信息技术(天津)有限公司 实现同时响应陀螺仪与手势拖拽交互的方法和装置及手机
CN106817625A (zh) * 2016-12-19 2017-06-09 广州视源电子科技股份有限公司 调整全景视频观看视角的方法、装置、系统及控制终端
CN106909223B (zh) * 2017-02-28 2020-07-10 杭州乐见科技有限公司 基于3d场景的摄像头朝向修正方法及装置
CN107465817A (zh) * 2017-07-26 2017-12-12 青岛海信移动通信技术股份有限公司 移动终端及其运动传感器数据的处理方法
TW201937452A (zh) * 2018-03-01 2019-09-16 緯創資通股份有限公司 定位系統及方法及電腦可讀取儲存媒體
CN110319851B (zh) * 2018-03-30 2022-03-01 北京百度网讯科技有限公司 传感器的校正方法、装置、设备及存储介质
CN110657796B (zh) * 2018-06-29 2022-12-27 深圳市掌网科技股份有限公司 一种虚拟现实辅助定位装置和方法
CN109806595B (zh) * 2019-02-22 2022-07-29 网易(杭州)网络有限公司 方位的标记方法、装置、存储介质、处理器及终端
CN110312117B (zh) * 2019-06-12 2021-06-18 北京达佳互联信息技术有限公司 数据刷新方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7835880B2 (en) * 2007-09-29 2010-11-16 Imu Solutions, Inc. Methods for improving accuracy of measurement and calibration of accelerometer parameters
CN103946670A (zh) * 2011-11-01 2014-07-23 高通股份有限公司 用于改进定向数据的系统和方法
CN104956648A (zh) * 2012-12-26 2015-09-30 莫韦公司 用于在固定参照系中感测物体在空间中的取向的方法和设备
CN105021189A (zh) * 2014-04-25 2015-11-04 广州市香港科大霍英东研究院 一种综合利用加速度计和陀螺仪校准移动设备姿态的方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7835880B2 (en) * 2007-09-29 2010-11-16 Imu Solutions, Inc. Methods for improving accuracy of measurement and calibration of accelerometer parameters
CN103946670A (zh) * 2011-11-01 2014-07-23 高通股份有限公司 用于改进定向数据的系统和方法
CN104956648A (zh) * 2012-12-26 2015-09-30 莫韦公司 用于在固定参照系中感测物体在空间中的取向的方法和设备
CN105021189A (zh) * 2014-04-25 2015-11-04 广州市香港科大霍英东研究院 一种综合利用加速度计和陀螺仪校准移动设备姿态的方法

Also Published As

Publication number Publication date
CN105721703A (zh) 2016-06-29

Similar Documents

Publication Publication Date Title
CN105721703B (zh) 一种利用手机设备传感器进行全景定位和朝向的方法
US9740284B2 (en) Adjusting content display orientation on a screen based on user orientation
US9244285B2 (en) Interface using eye tracking contact lenses
US9373156B2 (en) Method for controlling rotation of screen picture of terminal, and terminal
CN106255916B (zh) 跟踪头戴式显示器(hmd)的方法和系统以及用于hmd头带调整的校准
US9465226B2 (en) Automatic shutdown of 3D based on glasses orientation
US9877016B2 (en) Omnistereo capture and render of panoramic virtual reality content
CN105872698B (zh) 播放方法、播放系统和虚拟现实终端
CN102591487B (zh) 信息处理方法、信息处理装置及信息处理系统
CN106162203B (zh) 全景视频播放方法、播放器与头戴式虚拟现实设备
US20160353089A1 (en) Capture and render of panoramic virtual reality content
CN108292040A (zh) 优化头戴式显示器屏幕上的内容定位的方法
WO2015068656A1 (ja) 画像生成装置および画像生成方法
TW201633104A (zh) 頭戴顯示器之追蹤系統
US20110304472A1 (en) Display system adapting to 3d tilting adjustment
CN103024191A (zh) 一种屏幕旋转方法、装置以及移动终端
TWI629506B (zh) 眼球凝視運動之影像穿透式擴增實境裝置、頭戴式顯示器及近距離物體之擴增實境方法
CN106383596A (zh) 基于空间定位的虚拟现实防晕眩系统及方法
CN107844190A (zh) 基于虚拟现实vr设备的图像展示方法及装置
CN106534843A (zh) 一种延迟测量方法及装置
CN113016008A (zh) 重力对准影像的机器学习推断
CN106384367B (zh) 一种全景相机的自动稳定视角的方法
CN107560637A (zh) 头戴显示设备校准结果验证方法及头戴显示设备
CN106131421A (zh) 一种视频图像的调整方法和电子设备
JP2012088073A (ja) 方位推定装置およびプログラム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20181225

Termination date: 20210225

CF01 Termination of patent right due to non-payment of annual fee