CN117806468A - 基于imu的光标控制方法及装置、存储介质、计算机设备 - Google Patents

基于imu的光标控制方法及装置、存储介质、计算机设备 Download PDF

Info

Publication number
CN117806468A
CN117806468A CN202311658093.2A CN202311658093A CN117806468A CN 117806468 A CN117806468 A CN 117806468A CN 202311658093 A CN202311658093 A CN 202311658093A CN 117806468 A CN117806468 A CN 117806468A
Authority
CN
China
Prior art keywords
imu
axis
cursor
coordinate system
initial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311658093.2A
Other languages
English (en)
Inventor
赵健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huoli Technology Shanghai Co ltd
Original Assignee
Huoli Technology Shanghai Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huoli Technology Shanghai Co ltd filed Critical Huoli Technology Shanghai Co ltd
Priority to CN202311658093.2A priority Critical patent/CN117806468A/zh
Publication of CN117806468A publication Critical patent/CN117806468A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04812Interaction techniques based on cursor appearance or behaviour, e.g. being affected by the presence of displayed objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Position Input By Displaying (AREA)

Abstract

本申请公开了一种基于IMU的光标控制方法及装置、存储介质、计算机设备,该方法包括:当用户持有的IMU设备与AR穿戴设备产生数据连接的瞬间,获取IMU设备中的重力传感器采集的数据,基于重力传感此时初始状态的数据计算IMU设备初始角度与IMU设备坐标系之间的初始角度偏差,在后续计算中消除这个偏差使得IMU设备所有位置姿态始终以水平状态为初始值,确定IMU坐标系中的初始光标姿态角度,此时IMU设备水平状态的坐标系与屏幕坐标系一致;当IMU设备发生动作时,获取此动作后IMU设备中的陀螺仪采集数据,计算此动作对应的旋转分量,确定初始IMU设备旋转分量的光标移动位置;将所述光标移动位置映射至IMU设备坐标系中确定光标在此动作后的新位置控制光标移动。

Description

基于IMU的光标控制方法及装置、存储介质、计算机设备
技术领域
本申请涉及数据处理技术领域,尤其是涉及到一种基于IMU的光标控制方法及装置、存储介质、计算机设备。
背景技术
近年来,增强现实技术(AR)得到了长足性的发展,其相关的技术领域如内容展示技术、AR显示技术、穿戴轻便化等方面更是发展迅猛。AR硬件设备因其穿戴属性,释放双手的同时,能够呈现出更多更加丰富的内容,如3D内容、2D内容、展现内容与操作人员的交互、游戏等,具备很大的创新性,丰富了使用者的体验。
然而,正因为AR设备是一种需要穿戴在头上的设备,所以人机交互的方式就显得非常重要。同时穿戴设备的交互方式与电脑和手机的交互方式就会产生非常巨大的差异。为了在穿戴设备上进行流畅的交互,目前通用的做法有几种,如手势识别、手柄交互等。其中手势识别技术,由于需要通过多个摄像头对人手进行拍照抽帧,通过CV算法判断手势的位姿,所以手势识别技术需要大量的算力支撑,相对应的反应速度就会比较慢。手柄交互目前来讲在3D互动这个领域表现是比较好的。通过红外光、IMU技术可以快速的得到手柄在空间中的位姿,通过CV视觉算法对这个位姿进行有效纠正消除IMU累计误差,从而兼顾了速度和准确性。但是手柄的缺点是过于强调空间内的位置和姿态,所以在2D的使用场景下,如2DUI界面上,就需要3D到2D的转换,通常的做法是转换成射线,然后投射到2D UI上,这同样会导致处理过程复杂,从而影响反应速度和交互体验。
发明内容
有鉴于此,本申请实施例提供了一种基于IMU的光标控制方法及装置、存储介质、计算机设备。
根据本申请的一个方面,提供了一种基于IMU的光标控制方法,所述方法包括:
在用户持有的IMU设备与AR穿戴设备产生数据连接的瞬间,获取所述IMU设备中的重力传感器采集的重力传感数据,基于所述重力传感数据计算IMU设备的初始角度偏差,基于记录初始角度偏差,进行消除该初始角度偏差的计算,使得IMU设备位置姿态以水平状态为初始值,确定IMU坐标系中的初始光标姿态角度,此时IMU设备水平状态的坐标系与屏幕坐标系一致,即对齐IMU坐标系与屏幕坐标系;
当用户手持IMU设备,并发生一个动作时,获取所述IMU设备中的陀螺仪采集的陀螺仪数据,基于所述陀螺仪数据计算此动作在所述IMU坐标系对应的旋转分量,并基于所述旋转分量确定初始光标位置对应的光标移动位置;
将所述光标移动位置映射至IMU坐标系中,确定光标在此动作后的新位置,基于所述新位置控制屏幕中光标的移动。
可选地,所述获取所述IMU设备中的重力传感器采集的重力传感数据之后,所述方法还包括:
对所述重力传感数据进行低通滤波,低通滤波的公式为Y1(n)=a1X1(n)+(1-a1)Y1(n-1),式中,a1为第一滤波系数,取值为[0,1],X1(n)为本次重力传感数据的采样值,Y1(n-1)为上次重力传感数据的低通滤波输出值,Y1(n)为本次重力传感数据的低通滤波输出值。
可选地,所述获取所述IMU设备中的陀螺仪实时采集的陀螺仪数据之后,所述方法还包括:
对所述陀螺仪数据进行高通滤波,高通滤波的公式为Y2(n)=a2Y2(n-1)+a2[X2(n)-X2(n-1)],式中,a2为第二滤波系数,取值为[0,1],X2(n)为本次陀螺仪数据的采样值,X2(n-1)为上次陀螺仪数据的采样值,Y2(n-1)为上次陀螺仪数据的高通滤波输出值,Y2(n)为本次陀螺仪数据的高通滤波输出值。
可选地,所述旋转分量包括x轴旋转角度、y轴旋转角度和z轴旋转角度;所述基于所述旋转分量确定所述初始光标位置对应的光标移动位置,包括:
基于z轴旋转角度旋转得到一个新坐标系x'oy',并得到新坐标系x'oy'与老坐标系xoy的夹角,需要注意由于此算法是二维平面简化算法,我们忽略三维带来的影响,所以此时z轴旋转不会产生新的z'轴,只会使xoy平面旋转;
基于y轴旋转角度对经过z轴旋转后的新IMU坐标系的y'轴进行旋转,由于此旋转绕y'轴动作,所以在y'轴上没有位移,位移会落在与y'轴垂直的x'轴上,所以计算得到所述初始光标位置对应的x'轴位移;
基于x轴旋转角度对经过z轴旋转后的新IMU坐标系的x'轴进行旋转,由于此旋转在x'轴动作,所以在x'轴上没有位移,位移会落在与x'轴垂直的y'轴上,所以计算得到所述初始光标位置对应的y'轴位移;
基于所述x'轴位移和所述y'轴位移,确定所述初始光标位置对应的光标移动位置。
可选地,x'轴位移X'=mβ,其中,m为预设系数,β为y'轴旋转角度;
y'轴位移Y'=mα,其中,α为x'轴旋转角度。
可选地,所述将所述IMU坐标系中的光标移动位置映射至屏幕坐标系中,确定目标光标位置,包括:
基于预设映射公式,将所述IMU坐标系中的光标移动位置映射至屏幕坐标系中,确定目标光标位置,预设映射公式为 γ为z轴旋转角度。
可选地,所述基于所述目标光标位置控制屏幕中光标的移动之后,所述方法还包括:
将光标移动位置确定为新的初始光标位置,当获取到下一时刻陀螺仪采集的陀螺仪数据时,重复以上步骤继续控制屏幕中光标的移动。
根据本申请的另一方面,提供了一种基于IMU的光标控制装置,所述装置被配置为:
在用户持有的IMU设备与AR穿戴设备产生数据连接的瞬间,获取所述IMU设备中的重力传感器采集的重力传感数据,基于所述重力传感数据计算IMU设备的初始角度偏差,基于记录初始角度偏差,进行消除该初始角度偏差的计算,使得IMU设备位置姿态以水平状态为初始值,确定IMU坐标系中的初始光标姿态角度,此时IMU设备水平状态的坐标系与屏幕坐标系一致,即对齐IMU坐标系与屏幕坐标系;
当用户手持IMU设备,并发生一个动作时,获取所述IMU设备中的陀螺仪采集的陀螺仪数据,基于所述陀螺仪数据计算此动作在所述IMU坐标系对应的旋转分量,并基于所述旋转分量确定初始光标位置对应的光标移动位置;
将所述光标移动位置映射至IMU坐标系中,确定光标在此动作后的新位置,基于所述新位置控制屏幕中光标的移动。
可选地,所述装置还被配置为:获取所述IMU设备中的重力传感器采集的重力传感数据之后,对所述重力传感数据进行低通滤波,低通滤波的公式为Y1(n)=a1X1(n)+(1-a1)Y1(n-1),式中,a1为第一滤波系数,取值为[0,1],X1(n)为本次重力传感数据的采样值,Y1(n-1)为上次重力传感数据的低通滤波输出值,Y1(n)为本次重力传感数据的低通滤波输出值。
可选地,所述装置还被配置为:获取所述IMU设备中的陀螺仪实时采集的陀螺仪数据之后,对所述陀螺仪数据进行高通滤波,高通滤波的公式为Y2(n)=a2Y2(n-1)+a2[X2(n)-X2(n-1)],式中,a2为第二滤波系数,取值为[0,1],X2(n)为本次陀螺仪数据的采样值,X2(n-1)为上次陀螺仪数据的采样值,Y2(n-1)为上次陀螺仪数据的高通滤波输出值,Y2(n)为本次陀螺仪数据的高通滤波输出值。
可选地,所述旋转分量包括x轴旋转角度、y轴旋转角度和z轴旋转角度;所述装置还被配置为:基于z轴旋转角度旋转得到一个新坐标系x'oy',并得到新坐标系x'oy'与老坐标系xoy的夹角,需要注意由于此算法是二维平面简化算法,我们忽略三维带来的影响,所以此时z轴旋转不会产生新的z'轴,只会使xoy平面旋转;
基于y轴旋转角度对经过z轴旋转后的新IMU坐标系的y'轴进行旋转,由于此旋转绕y'轴动作,所以在y'轴上没有位移,位移会落在与y'轴垂直的x'轴上,所以计算得到所述初始光标位置对应的x'轴位移;
基于x轴旋转角度对经过z轴旋转后的新IMU坐标系的x'轴进行旋转,由于此旋转在x'轴动作,所以在x'轴上没有位移,位移会落在与x'轴垂直的y'轴上,所以计算得到所述初始光标位置对应的y'轴位移;
基于所述x'轴位移和所述y'轴位移,确定所述初始光标位置对应的光标移动位置。
可选地,
x'轴位移X'=mβ,其中,m为预设系数,β为y'轴旋转角度;
y'轴位移Y'=mα,其中,α为x'轴旋转角度。
可选地,所述装置还被配置为:
基于预设映射公式,将所述IMU坐标系中的光标移动位置映射至屏幕坐标系中,确定目标光标位置,预设映射公式为 γ为z轴旋转角度。
可选地,所述装置还被配置为:
在基于所述目标光标位置控制屏幕中光标的移动之后,将光标移动位置确定为新的初始光标位置,当获取到下一时刻的陀螺仪采集的陀螺仪数据时,重复以上步骤继续控制屏幕中光标的移动。
依据本申请又一个方面,提供了一种存储介质,其上存储有计算机程序,所述程序被处理器执行时实现上述基于IMU的光标控制方法。
依据本申请再一个方面,提供了一种计算机设备,包括存储介质、处理器及存储在存储介质上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述基于IMU的光标控制方法。
借由上述技术方案,本申请实施例提供的一种基于IMU的光标控制方法及装置、存储介质、计算机设备,因为算法的优化,硬件也无需增加过多辅助的摄像头、红外线等设备。所以可以在类似戒指一类的小算力的硬件上运行。从而使得交互更贴近自然交互。同时,如果将这个算法应用到复杂的手柄设备上,也会使得手柄在二维平面上做交互的时候,更快速简洁。反馈更快,从而改善使用者的交互感受。
上述说明仅是本申请技术方案的概述,为了能够更清楚了解本申请的技术手段,而可依照说明书的内容予以实施,并且为了让本申请的上述和其它目的、特征和优点能够更明显易懂,以下特举本申请的具体实施方式。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1示出了本申请实施例提供的一种基于IMU的光标控制方法的流程示意图;
图2示出了本申请实施例提供的一种原理说明的示意图;
图3示出了本申请实施例提供的一种基于IMU的光标控制方法的示意图;
图4示出了本申请实施例提供的另一种基于IMU的光标控制方法的示意图;
图5示出了本申请实施例提供的又一种基于IMU的光标控制方法的示意图。
具体实施方式
下文中将参考附图并结合实施例来详细说明本申请。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。
现有技术中,目前已有的技术,如手柄,其最根本的目的是为了检测到手柄在三维空间中的位置和姿态,而当手柄与二维平面的人机界面进行交互的时候,需要通过射线的方式,将三维的位置向二维平面进行投影。这个过程会引入更多的计算量,增加功耗的同时,会在反应速度上也会降低。
首先,手柄的三维空间位置和姿态的检测方式是,通过三种传感检测方式实现。第一种方式是红外位姿环。红外位姿环是在手柄上增加一圈环形的结构。在这个环形的结构上,增加多个红外灯。穿戴设备上的摄像头通过抽帧拍照的形式,捕获红外灯的位置,通过CV算法,可以计算出手柄的位置以及相应的姿态。这种方式的优点是,红外灯特征明确,算法简单快速。但是缺点是,红外灯很容易被挡住,从而判断位姿会发生偏移或者错误。因此手柄的算法就不得不增加第二种检测方案,IMU惯性导航技术。这里的IMU是6自由度(6DOF)的。即在旋转方向上有三种自由度,在线性方向上有三种自由度。假设空间坐标系坐标轴为x,y,z。那么旋转方向上的三个自由度可以理解为,手柄以x坐标轴为轴进行旋转、手柄以y坐标轴为轴进行旋转,手柄以z坐标轴为轴进行旋转。而在线性方向上的三个自由度可以理解为,手柄沿着x坐标轴的正向或者负向方向进行移动、手柄沿着y坐标轴的正向或者负向方向进行移动、手柄沿着z坐标轴的正向或者负向方向进行移动。有了这6个自由度后,我们就可以把手柄映射到三维空间中,并且能够计算出手柄在空间里的任意位置和姿态。这种方案的优点在于,可以有效的规避了红外灯在某些位置会被遮挡的情况。但是缺点在于,IMU(Inertial measurement unit,惯性传感器,包含陀螺仪和重力传感器)在运动过程中会产生累计误差。由于IMU的累计误差,导致必须要增加新的方式进行纠正。因此第三种检测方式CV视觉又会被引入进来。CV视觉方式的前提,是在穿戴设备上增加至少两个摄像头,通过双目的方式判断手柄在空间中的位置。这个方法的优势在于每次测量都是全新CV识别的,所以没有累计误差。但是缺点是CV算法计算负荷大,使用延时感比较强。因此CV识别手柄姿势用于校正IMU累计误差。
其次,当手柄用于2D平面的交互时,往往非常费力气。海外的一些公司的做法是,将二维平面先悬停在三维空间内,然后用CV视觉算法跟踪手指指尖的位置,然后将手指指尖与二维平面重合,达到类似手机一样的选择的目的。而利用手柄时,因为手柄没有“指尖”这样的识别点,所以手柄很难直接进行点选。所以目前一种折衷的做法,就是从手柄的前端虚拟出一根射线,射线与二维平面相交,从而实现从三维到二维的一个映射关系。但是这种映射关系首先要先建立三维空间位置,然后再映射到二维平面,是一个非常不直接的做法。
由于AR或者VR产品,对交互有着近乎苛刻的要求,而目前的交互技术在三维空间里是勉强可以接受的。因为三维空间交互,大部分使用者并没有经验进行比较。但是二维空间的交互上,使用者通过对windows的使用、对手机的使用,已经形成一套使用感知。而在目前用到的手柄或者纯手势,都无法达到windows、手机那样反应迅速、反馈及时的感官体验。因此,本申请抛弃了繁琐的CV视觉算法、抛弃了红外灯的捕捉算法、甚至在IMU的算法里,也只利用了IMU的3DOF性能,使得IMU的位姿直接映射到2D的平面上,实现效果最优的结果。在一些只有二维显示的AR使用场景,或者三维里的二维交互场景下,能够做到直接了当,快速方便。而本申请的技术实现过程中,解决了如下几个问题:要改变现有技术框架的复杂性的问题、直接从动作映射到鼠标光标移动的算法而不是从三维向二维投影的问题、坐标系之间的转化的简化问题。
1、解决现有技术的复杂性问题。目前已有技术也存在IMU算法。但是之前技术的IMU算法实际上还是要确定手柄(手柄中包含IMU,手柄可以理解为下文的IMU设备)在三维世界内的具体位置和姿态。因此,IMU是以6DOF提供数据的。手柄不但有旋转动作,同时也有位移动作。IMU的旋转动作主要是判断手柄向哪个方向倾斜,从而判断手柄的姿态。IMU的位移动作会带动射线,从三维空间向二维平面投影,从而产生鼠标光标的移动。而这个过程中,IMU的动作,会一直被红外单元和视觉单元校正。因为在三维空间里,IMU产生的累计误差是不能容忍的,会使得头戴设备无法感知手柄的实际位置。但是实际上,在二维空间内的鼠标,并不需要这么精准的位置,所有位置都是相对的,操作者会适应这个鼠标的位置,而不是一定要鼠标在一个“绝对”准确的位置上。所以本专利通过一系列的方案,抛弃了红外算法、视觉算法对IMU的修正。同时,也放弃了IMU里面的线性移动部分。放弃IMU的线性部分有两个原因,第一个原因是上述提及过的,我们不需要6DOF;第二个原因是:用旋转计算移动是对时间直接进行积分,而用线性计算移动是对时间的平方进行积分,所以前者的位移与时间的比值是线性的,后者的位移与时间的比值不是线性的,后者会带来更多的校正线性的计算工作量。所以最终我们选择只用旋转来度量鼠标光标移动。这样对精简算法是有很大帮助的。
2、如何从旋转角度直接映射到二维平面是本专利的一个关键点。传统的做法需要经过很多步骤的转化计算,从三维空间形成对二维空间的投影。本专利是直接将旋转角度,通过乘以一个系数直接等于长度。我们所关注的是时间、角度、鼠标划过的长度三者之间要线性。无需关注实际空间中点与点之间的对应关系。想象一下,如图2所示,圆环在一个二维平面上沿着一条直线向前滚动,单位时间内旋转的角度α,单位时间内圆环滚过的轨迹为L,那么每个微分角度α直接对应一个微分长度L即可,这时的角度、长度、时间三者是严格线性对应的。所以只需要将手柄旋转的角度,通过一个系数对应到屏幕划过的长度即可。
3、坐标系的变化也是一个关键技术点。传统的做法,用IMU来实现6DOF的移动,引入了线性移动,以及多向旋转来实现对手柄空间位姿的精确判断。在这个过程中,我们假设做了一个动作有两个分量,第一个分量是平移动作。那么坐标系xyz在这个过程中平移成了坐标系x'y'z',第二个分量是旋转动作,那么坐标系x'y'z'旋转成了x”y”z”。经过两次坐标系变化才实现一个动作。然后把这个动作后形成的点再投影到二维平面上,会动用更为复杂的算法。即便是射线的方式,我们也可以发现,其实里面很多三维的动作是没有必要引入的。因此我们的做法是只对平面坐标系做变化,不引入三维坐标系。如图3所示,不考虑线性平移,只考虑旋转动作。那么任何一个微分动作,就可以分解为三个旋转分量,分别是绕z轴旋转、绕y轴旋转和绕x轴旋转。当绕z轴旋转时,坐标系发生变化,xyz坐标系变为x'y'z'坐标系。第二个分量就需要绕新坐标轴y'轴旋转,如图2所示的原理,绕y'轴旋转的角度直接转化为长度,因为y'没有发生位移,所以这个长度会在x'轴上移动,而移动的方向是由右手螺旋来判断,拇指指向y'方向,其他四指弯曲的方向为正,反之为负,所以图3中绕y'旋转的箭头可知,x'的坐标为负值。同理,第三个动作分量是绕x'轴进行旋转,可知图3绕x'轴旋转,y'的坐标为正值。经过如上的旋转,我们就得到一个新的坐标A点,这个点就是新的鼠标光标点。后续动作以此类推。
由于本专利重点阐述的是2D场景的交互问题,那么考虑到在实际应用中必然会出现的3D场景以及3D与2D场景的切换问题,这个问题的解决方案,可以通过一个按键来实现切换,或者当焦点激活2D界面时自动切换到本专利设计的方案。从而达到2D和3D自然切换的目的。由于本专利重点是阐述二维平面内的技术实现,所以在此文中不再赘述3D与2D场景切换的问题。
在本实施例中提供了一种基于IMU的光标控制方法,如图1所示,该方法包括:
步骤101,在用户持有的IMU设备与AR穿戴设备产生数据连接的瞬间,获取所述IMU设备中的重力传感器采集的重力传感数据,基于所述重力传感数据计算IMU设备的初始角度偏差,基于记录初始角度偏差,进行消除该初始角度偏差的计算,使得IMU设备位置姿态以水平状态为初始值,确定IMU坐标系中的初始光标姿态角度,此时IMU设备水平状态的坐标系与屏幕坐标系一致,即对齐IMU坐标系与屏幕坐标系。
本申请实施例中,用户持有装载IMU的设备,即IMU设备,通过操作IMU设备实现对屏幕中光标的控制,当IMU设备与AR穿戴设备产生数据连接时,获取IMU设备中重力传感器采集的重力传感数据。
其中,获取重力传感数据之后,还包括:对所述重力传感数据进行低通滤波,低通滤波的公式为Y1(n)=a1X1(n)+(1-a1)Y1(n-1),式中,a1为第一滤波系数,取值为[0,1],X1(n)为本次重力传感数据的采样值,Y1(n-1)为上次重力传感数据的低通滤波输出值,Y1(n)为本次重力传感数据的低通滤波输出值。
由于重力传感器的低频数据是有用数据,而高频数据可能是干扰信息,因此当从IMU硬件里读取出重力传感器的数据后,对重力传感器的数据进行低通滤波。通过低通滤波,可以去除干扰信息,避免引入不良数据。经过低通滤后,得到一组重力传感器滤波值。我们可以利用这组值,计算后续会用到的初始的绕z轴转动的坐标初始角度,这步操作的作用是将IMU的坐标轴与屏幕的坐标轴对齐。基于所述重力传感数据计算IMU坐标系与屏幕坐标系之间的初始角度偏差,基于所述初始角度偏差对齐IMU坐标系与屏幕坐标系,确定所述IMU坐标系中的初始光标位置(初始光标姿态角度)。在最初两个坐标轴对齐的情况下进行坐标轴间的再次旋转。那么具体的初始IMU的坐标轴姿态,要用到上面提及的重力传感器的数据来实现。如图4所示,在这个过程中,我们预设了只有绕z轴旋转才会产生坐标系间的相对变化,所以我们只关心绕z轴旋转的初始姿态。因为我们只关心z轴旋转的分量数值,所以新的坐标系只会绕z轴旋转,不会绕其他轴旋转。所以新坐标系中z'轴与z轴重合。y'轴与y轴的夹角θ即为初始偏移角度,方向为正。因为x、y、x'、y'在同一个二维平面里,同时g也在这个平面里。所以可以形成三角函数关系。旋转θ后,重力传感器上的读数为X',Y'。那么从而得到初始坐标系变化值。为何用重力传感器计算这个初始角度,是因为重力传感器的重力加速度一直存在,垂直地面向下。而陀螺仪只有在运动的过程中才会记录角加速度,静止的时候为0。经过上面步骤,我们把这个初始值角度消除掉之后,IMU上的坐标系和屏幕上的坐标系就完全重合了。
步骤102,当用户手持IMU设备,并发生一个动作时,获取所述IMU设备中的陀螺仪采集的陀螺仪数据,基于所述陀螺仪数据计算此动作在所述IMU坐标系对应的旋转分量,并基于所述旋转分量确定初始光标位置对应的光标移动位置。
其中,获取陀螺仪数据之后还包括:对所述陀螺仪数据进行高通滤波,高通滤波的公式为Y2(n)=a2Y2(n-1)+a2[X2(n)-X2(n-1)],式中,a2为第二滤波系数,取值为[0,1],X2(n)为本次陀螺仪数据的采样值,X2(n-1)为上次陀螺仪数据的采样值,Y2(n-1)为上次陀螺仪数据的高通滤波输出值,Y2(n)为本次陀螺仪数据的高通滤波输出值。
本申请实施例中,因为陀螺仪数据的高频数据是有效数据,陀螺仪会记录一个瞬间内的角速度值,但是低频数据是没有用的,需要把这部分低频数据率除掉。因此当从IMU硬件里读取陀螺仪的数据后,将对陀螺仪数据进行高通滤波。经过高通滤波后,得到的陀螺仪数值,即角速度值,就是一个瞬间,绕某个坐标轴旋转的角速度值。那么单位时间内转过的角度就是陀螺仪滤波值乘以经过的微分单位时间。
可选地,所述旋转分量包括x轴旋转角度、y轴旋转角度和z轴旋转角度;所述基于所述旋转分量确定所述初始光标位置对应的光标移动位置,包括:基于z轴旋转角度旋转得到一个新坐标系x'oy',并得到新坐标系x'oy'与老坐标系xoy的夹角,需要注意由于此算法是二维平面简化算法,我们忽略三维带来的影响,所以此时z轴旋转不会产生新的z'轴,只会使xoy平面旋转;
基于y轴旋转角度对经过z轴旋转后的新IMU坐标系的y'轴进行旋转,由于此旋转绕y'轴动作,所以在y'轴上没有位移,位移会落在与y'轴垂直的x'轴上,所以计算得到所述初始光标位置对应的x'轴位移;
基于x轴旋转角度对经过z轴旋转后的新IMU坐标系的x'轴进行旋转,由于此旋转在x'轴动作,所以在x'轴上没有位移,位移会落在与x'轴垂直的y'轴上,所以计算得到所述初始光标位置对应的y'轴位移;
基于所述x'轴位移和所述y'轴位移,确定所述初始光标位置对应的光标移动位置。
x'轴位移X'=mβ,其中,m为预设系数,β为y'轴旋转角度;y'轴位移Y'=mα,其中,α为x'轴旋转角度。
其中,如图5所示,1)先绕z轴转,z轴是垂直纸面向着观察者为正,根据右手螺旋法则,上图就是转了一个正向的γ角。绕z轴转动会发生坐标系转动,这个过程只产生一个旋转角度,即新坐标系和旧坐标系之间的夹角,不在二维平面上产生位移。2)绕y'轴转动,根据图2原理,可以直接将角度转化为位移数值,所以此时会有一个点在x'轴上产生移动,移动的方向按右手螺旋产生:右手拇指正对y'轴方向,四指弯曲的旋转方向为正,反之为负。因为z轴的旋转,导致了新坐标系的产生,那么此时就是绕y'轴旋转了。我们看到此时转动的方向与右手法则的方向时反向的,所以此时在x'轴上留下的点方向为负,表示为X'=mβ,其中m为系数。需要注意此时的β是负值,所以X'是具有方向性。3)最后是绕x'轴正向旋转α角,同样,因为z轴的旋转,导致了新坐标系的产生,那么此时就是绕x'轴旋转了。根据右手法则,此时方向为正,那么y'轴上留下的点方向为正,表示为Y'=mα。需要注意此时的α是负值,所以Y'是具有方向性。
步骤103,将所述光标移动位置映射至IMU坐标系中,确定光标在此动作后的新位置,基于所述新位置控制屏幕中光标的移动。
其中,基于预设映射公式,将所述IMU新坐标系x'oy'中的光标移动位置映射回原IMU坐标系xoy中,确定光标在此动作后的新位置,预设映射公式为X=L*Cosφ,Y=L*Sinφ,其中其中/>其中γ为z轴旋转角度。
本申请实施例中,当进行了三个轴向的旋转,一个新的坐标点A出现了。而此时我们只知道在x'oy'这个坐标系里,A点坐标为(X',Y')。之后将这个点映射回xoy坐标系,即屏幕坐标系里。方法如下:知道沿着z轴旋转了γ角,同时A点与y'轴的夹角我们定义为δ,那么A点转过的总的角度 注意此时的X'、Y'、γ都具备方向性,故而公式具备普适性。A点的绝对值长度等于/>那么A点映射到xoy坐标系的坐标(X,Y)可以如下计算得到:X=L*Cosφ;Y=L*Sinφ。这样得到的坐标点A(X,Y),就是经过了被分解成三个方向的一个旋转动作后的新的鼠标光标位置。
步骤104,将光标移动位置确定为新的初始光标位置,当获取到下一时刻的陀螺仪采集的陀螺仪数据时,重复以上步骤继续控制屏幕中光标的移动。
本申请实施例中,对于一次采集的数据进行上述计算并控制光标移动后,可以将光标移动后的位置作为下一次光标移动的初始光标位置,利用下一次采集的陀螺仪数据重复上述步骤101-103进行推演。
通过应用本实施例的技术方案,因为算法的优化,硬件也无需增加过多辅助的摄像头、红外线等设备。所以可以在类似戒指一类的小算力的硬件上运行。从而使得交互更贴近自然交互。同时,如果将这个算法应用到复杂的手柄设备上,也会使得手柄在二维平面上做交互的时候,更快速简洁。反馈更快,从而改善使用者的交互感受。
进一步的,作为图1方法的具体实现,本申请实施例提供了一种基于IMU的光标控制装置,该装置被配置为:
在用户持有的IMU设备与AR穿戴设备产生数据连接的瞬间,获取所述IMU设备中的重力传感器采集的重力传感数据,基于所述重力传感数据计算IMU设备的初始角度偏差,基于记录初始角度偏差,进行消除该初始角度偏差的计算,使得IMU设备位置姿态以水平状态为初始值,确定IMU坐标系中的初始光标姿态角度,此时IMU设备水平状态的坐标系与屏幕坐标系一致,即对齐IMU坐标系与屏幕坐标系;
当用户手持IMU设备,并发生一个动作时,获取所述IMU设备中的陀螺仪采集的陀螺仪数据,基于所述陀螺仪数据计算此动作在所述IMU坐标系对应的旋转分量,并基于所述旋转分量确定初始光标位置对应的光标移动位置;
将所述光标移动位置映射至IMU坐标系中,确定光标在此动作后的新位置,基于所述新位置控制屏幕中光标的移动。
可选地,所述装置还被配置为:获取所述IMU设备中的重力传感器采集的重力传感数据之后,对所述重力传感数据进行低通滤波,低通滤波的公式为Y1(n)=a1X1(n)+(1-a1)Y1(n-1),式中,a1为第一滤波系数,取值为[0,1],X1(n)为本次重力传感数据的采样值,Y1(n-1)为上次重力传感数据的低通滤波输出值,Y1(n)为本次重力传感数据的低通滤波输出值。
可选地,所述装置还被配置为:获取所述IMU设备中的陀螺仪实时采集的陀螺仪数据之后,对所述陀螺仪数据进行高通滤波,高通滤波的公式为Y2(n)=a2Y2(n-1)+a2[X2(n)-X2(n-1)],式中,a2为第二滤波系数,取值为[0,1],X2(n)为本次陀螺仪数据的采样值,X2(n-1)为上次陀螺仪数据的采样值,Y2(n-1)为上次陀螺仪数据的高通滤波输出值,Y2(n)为本次陀螺仪数据的高通滤波输出值。
可选地,所述旋转分量包括x轴旋转角度、y轴旋转角度和z轴旋转角度;所述装置还被配置为:基于z轴旋转角度旋转得到一个新坐标系x'oy',并得到新坐标系x'oy'与老坐标系xoy的夹角,需要注意由于此算法是二维平面简化算法,我们忽略三维带来的影响,所以此时z轴旋转不会产生新的z'轴,只会使xoy平面旋转;
基于y轴旋转角度对经过z轴旋转后的新IMU坐标系的y'轴进行旋转,由于此旋转绕y'轴动作,所以在y'轴上没有位移,位移会落在与y'轴垂直的x'轴上,所以计算得到所述初始光标位置对应的x'轴位移;
基于x轴旋转角度对经过z轴旋转后的新IMU坐标系的x'轴进行旋转,由于此旋转在x'轴动作,所以在x'轴上没有位移,位移会落在与x'轴垂直的y'轴上,所以计算得到所述初始光标位置对应的y'轴位移;
基于所述x'轴位移和所述y'轴位移,确定所述初始光标位置对应的光标移动位置。
可选地,
x'轴位移X'=mβ,其中,m为预设系数,β为y'轴旋转角度;
y'轴位移Y'=mα,其中,α为x'轴旋转角度。
可选地,所述装置还被配置为:
基于预设映射公式,将所述IMU新坐标系x'oy'中的光标移动位置映射回原IMU坐标系xoy中,确定光标在此动作后的新位置,预设映射公式为其中/>其中/>其中γ为z轴旋转角度。
可选地,所述装置还被配置为:
在基于所述目标光标位置控制屏幕中光标的移动之后,将光标移动位置确定为新的初始光标位置,当获取到下一时刻的陀螺仪采集的陀螺仪数据时,重复以上步骤继续控制屏幕中光标的移动。
需要说明的是,本申请实施例提供的一种基于IMU的光标控制装置所涉及各功能单元的其他相应描述,可以参考图1至图2方法中的对应描述,在此不再赘述。
本申请实施例还提供了一种计算机设备,具体可以为个人计算机、服务器、网络设备等,该计算机设备包括总线、处理器、存储器和通信接口,还可以包括输入输出接口和显示设备。其中,该计算机设备的处理器用于提供计算和控制能力。该计算机设备的存储器包括非易失性存储介质和内存储器。该非易失性存储介质存储有操作系统、计算机程序和数据库。该内存储器为非易失性存储介质中的操作系统和计算机程序的运行提供环境。该计算机设备的数据库用于存储位置信息。该计算机设备的网络接口用于与外部的终端通过网络连接通信。该计算机程序被处理器执行时以实现各方法实施例中的步骤。
本领域技术人员可以理解,上述的计算机设备的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备的限定,具体的计算机设备可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
在一个实施例中,提供了一种计算机可读存储介质,所述计算机可读存储介质可以是非易失性,也可以是易失性,其上存储有计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
在一个实施例中,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述各方法实施例中的步骤。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一非易失性计算机可读取存储介质中,该计算机程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、数据库或其它介质的任何引用,均可包括非易失性和易失性存储器中的至少一种。非易失性存储器可包括只读存储器(Read-OnlyMemory,ROM)、磁带、软盘、闪存、光存储器、高密度嵌入式非易失性存储器、阻变存储器(ReRAM)、磁变存储器(Magnetoresistive Random Access Memory,MRAM)、铁电存储器(Ferroelectric Random Access Memory,FRAM)、相变存储器(Phase Change Memory,PCM)、石墨烯存储器等。易失性存储器可包括随机存取存储器(Random Access Memory,RAM)或外部高速缓冲存储器等。作为说明而非局限,RAM可以是多种形式,比如静态随机存取存储器(Static Random Access Memory,SRAM)或动态随机存取存储器(Dynamic RandomAccess Memory,DRAM)等。本申请所提供的各实施例中所涉及的数据库可包括关系型数据库和非关系型数据库中至少一种。非关系型数据库可包括基于区块链的分布式数据库等,不限于此。本申请所提供的各实施例中所涉及的处理器可为通用处理器、中央处理器、图形处理器、数字信号处理器、可编程逻辑器、基于量子计算的数据处理逻辑器等,不限于此。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对本申请专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请的保护范围应以所附权利要求为准。

Claims (10)

1.一种基于IMU的光标控制方法,其特征在于,所述方法包括:
在用户持有的IMU设备与AR穿戴设备产生数据连接的瞬间,获取所述IMU设备中的重力传感器采集的重力传感数据,基于所述重力传感数据计算IMU设备的初始角度偏差,基于记录初始角度偏差,进行消除该初始角度偏差的计算,使得IMU设备位置姿态以水平状态为初始值,确定IMU坐标系中的初始光标姿态角度,此时IMU设备水平状态的坐标系与屏幕坐标系一致,即对齐IMU坐标系与屏幕坐标系;
当用户手持IMU设备,并发生一个动作时,获取所述IMU设备中的陀螺仪采集的陀螺仪数据,基于所述陀螺仪数据计算此动作在所述IMU坐标系对应的旋转分量,并基于所述旋转分量确定初始光标位置对应的光标移动位置;
将所述光标移动位置映射至IMU坐标系中,确定光标在此动作后的新位置,基于所述新位置控制屏幕中光标的移动。
2.根据权利要求1所述的方法,其特征在于,在所述获取所述IMU设备中的重力传感器采集的重力传感数据之后,对重力传感数据进行数据预处理,包括:
对所述重力传感数据进行低通滤波,低通滤波的公式为Y1(n)=a1X1(n)+(1-a1)Y1(n-1),式中,a1为第一滤波系数,取值为[0,1],X1(n)为本次重力传感数据的采样值,Y1(n-1)为上次重力传感数据的低通滤波输出值,Y1(n)为本次重力传感数据的低通滤波输出值。
3.根据权利要求1所述的方法,其特征在于,在所述获取所述IMU设备中的陀螺仪实时采集的陀螺仪数据之后,对陀螺仪数据的数据预处理,包括:
对所述陀螺仪数据进行高通滤波,高通滤波的公式为Y2(n)=a2Y2(n-1)+a2[X2(n)-X2(n-1)],式中,a2为第二滤波系数,取值为[0,1],X2(n)为本次陀螺仪数据的采样值,X2(n-1)为上次陀螺仪数据的采样值,Y2(n-1)为上次陀螺仪数据的高通滤波输出值,Y2(n)为本次陀螺仪数据的高通滤波输出值。
4.根据权利要求3所述的方法,其特征在于,所述旋转分量包括x轴旋转角度、y轴旋转角度和z轴旋转角度;所述基于所述旋转分量确定初始光标位置对应的光标移动位置,包括:
基于z轴旋转角度对IMU坐标系旋转得到一个新IMU坐标系x'oy',并得到新IMU坐标系x'oy'与老坐标系xoy的夹角,其中老坐标系xoy即IMU坐标系,该计算是二维平面简化算法,忽略三维带来的影响,z轴旋转不会产生新的z'轴,只会使xoy平面旋转;
基于y轴旋转角度对经过z轴旋转后的新IMU坐标系的y'轴进行旋转,由于此旋转绕y'轴动作,所以在y'轴上没有位移,位移会落在与y'轴垂直的x'轴上,所以计算得到所述初始光标位置对应的x'轴位移;
基于x轴旋转角度对经过z轴旋转后的新IMU坐标系的x'轴进行旋转,由于此旋转在x'轴动作,所以在x'轴上没有位移,位移会落在与x'轴垂直的y'轴上,所以计算得到所述初始光标位置对应的y'轴位移;
基于所述x'轴位移和所述y'轴位移,确定所述初始光标位置对应的光标移动位置。
5.根据权利要求4所述的方法,其特征在于,
x'轴位移X'=mβ,其中,m为预设系数,β为y'轴旋转角度;
y'轴位移Y'=mα,其中,α为x'轴旋转角度。
6.根据权利要求5所述的方法,其特征在于,将所述光标移动位置映射至IMU坐标系中,确定光标在此动作后的新位置,包括:
基于预设映射公式,将所述IMU新坐标系x'oy'中的光标移动位置映射回原IMU坐标系xoy中,确定光标在此动作后的新位置,预设映射公式为X=L*Cosφ,Y=L*Sinφ,其中其中/>其中γ为z轴旋转角度。
7.根据权利要求1至6中任一项所述的方法,其特征在于,所述基于所述目标光标位置控制屏幕中光标的移动之后,所述方法还包括:
将光标移动位置确定为新的初始光标位置,当获取到下一时刻的陀螺仪采集的陀螺仪数据时,重复以上步骤继续控制屏幕中光标的移动。
8.一种基于IMU的光标控制装置,其特征在于,所述装置被配置为:
在用户持有的IMU设备与AR穿戴设备产生数据连接的瞬间,获取所述IMU设备中的重力传感器采集的重力传感数据,基于所述重力传感数据计算IMU设备的初始角度偏差,基于记录初始角度偏差,进行消除该初始角度偏差的计算,使得IMU设备位置姿态以水平状态为初始值,确定IMU坐标系中的初始光标姿态角度,此时IMU设备水平状态的坐标系与屏幕坐标系一致,即对齐IMU坐标系与屏幕坐标系;
当用户手持IMU设备,并发生一个动作时,获取所述IMU设备中的陀螺仪采集的陀螺仪数据,基于所述陀螺仪数据计算此动作在所述IMU坐标系对应的旋转分量,并基于所述旋转分量确定初始光标位置对应的光标移动位置;
将所述光标移动位置映射至IMU坐标系中,确定光标在此动作后的新位置,基于所述新位置控制屏幕中光标的移动。
9.一种存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的方法。
10.一种计算机设备,包括存储介质、处理器及存储在存储介质上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的方法。
CN202311658093.2A 2023-12-05 2023-12-05 基于imu的光标控制方法及装置、存储介质、计算机设备 Pending CN117806468A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311658093.2A CN117806468A (zh) 2023-12-05 2023-12-05 基于imu的光标控制方法及装置、存储介质、计算机设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311658093.2A CN117806468A (zh) 2023-12-05 2023-12-05 基于imu的光标控制方法及装置、存储介质、计算机设备

Publications (1)

Publication Number Publication Date
CN117806468A true CN117806468A (zh) 2024-04-02

Family

ID=90420839

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311658093.2A Pending CN117806468A (zh) 2023-12-05 2023-12-05 基于imu的光标控制方法及装置、存储介质、计算机设备

Country Status (1)

Country Link
CN (1) CN117806468A (zh)

Similar Documents

Publication Publication Date Title
TWI827633B (zh) 具有廣泛使用性的三維圖形使用者介面的系統及方法與對應的可讀式媒體
Zhang et al. Visual panel: virtual mouse, keyboard and 3D controller with an ordinary piece of paper
WO2019170166A1 (zh) 深度相机标定方法以及装置、电子设备及存储介质
US7952561B2 (en) Method and apparatus for controlling application using motion of image pickup unit
JP7337104B2 (ja) 拡張現実によるモデル動画多平面インタラクション方法、装置、デバイス及び記憶媒体
US6594616B2 (en) System and method for providing a mobile input device
JP2020052991A (ja) ジェスチャ認識に基づく対話型ディスプレイの方法及び装置
EP2814000B1 (en) Image processing apparatus, image processing method, and program
KR101616591B1 (ko) 데이터의 공간의 주요 치수를 항해하기 위한 제어 시스템
JP7382994B2 (ja) 仮想現実システム内の仮想コントローラの位置および向きの追跡
KR101196291B1 (ko) 손가락의 움직임을 인식하여 3d인터페이스를 제공하는 단말기 및 그 방법
CN109952552A (zh) 视觉提示系统
CN106990836B (zh) 一种头戴式人体学输入设备空间位置及姿态测量方法
CN113867562B (zh) 触摸屏报点的校正方法、装置和电子设备
CN110717993A (zh) 一种分体式ar眼镜系统的交互方法、系统及介质
CN110096134B (zh) 一种vr手柄射线抖动矫正方法、装置、终端和介质
CN113496168B (zh) 手语数据采集方法、设备、存储介质
CN109333527B (zh) 一种与机器人的交互方法、装置、电子设备及存储介质
CN117806468A (zh) 基于imu的光标控制方法及装置、存储介质、计算机设备
Liu et al. COMTIS: Customizable touchless interaction system for large screen visualization
JP7513262B2 (ja) 端末装置、仮想オブジェクト操作方法、及び仮想オブジェクト操作プログラム
CN115494938A (zh) 非接触式交互方法及装置
Wu et al. VISUAL PANEL: From an ordinary paper to a wireless and mobile input device
WO2023207345A1 (zh) 数据交互方法、装置、计算机设备及计算机可读存储介质
WO2023221929A1 (zh) 画面显示方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination