CN111708431A - 人机交互方法、装置、头戴显示设备及存储介质 - Google Patents

Abstract

本申请公开了人机交互方法、装置、头戴显示设备及存储介质，人机交互方法包括：在头戴显示设备中增设虚拟的USB HID设备；通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据；将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件，以使得所述移动终端响应于所述交互事件，执行相应的交互操作。本申请实施例避开了Android系统的权限限制，在没有获取Android系统权限的情况下，实现通过头戴显示设备与Android终端用户界面的交互功能。

Description

人机交互方法、装置、头戴显示设备及存储介质

技术领域

本申请涉及头戴显示设备技术领域，尤其涉及人机交互方法、装置、头戴显示设备及存储介质。

背景技术

随着手机硬件能力的不断增强，越来越多的手机开始支持输出视频信号，使得轻量化的VR(Virtual Reality，虚拟现实)/AR(Augmented Reality，增强现实)头戴显示设备成为可能。但是安卓Android系统在权限管理方面日趋严格，这导致VR/AR等头戴显示设备在连接手机使用的场景下，未取得Android系统的INJECT_EVENT权限，不能进行按键注入等进而无法实现点击，确认等常规操作，严重影响了用户体验。

发明内容

本申请实施例提供了人机交互方法、装置、头戴显示设备及存储介质，以避开Android系统的权限限制，在不获取Android系统权限的情况下，实现了头戴显示设备与移动终端用户界面交互的功能。

本申请实施例采用下述技术方案：

第一方面，本申请实施例提供一种人机交互方法，所述人机交互方法包括：

在头戴显示设备中增设虚拟的USB HID设备；

通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据；

将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件，以使得所述移动终端响应于所述交互事件，执行相应的交互操作。

第二方面，本申请实施例还提供一种人机交互装置，所述人机交互装置包括：

虚拟模块，用于在头戴显示设备中增设虚拟的USB HID设备；

交互模块，用于通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据，将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件，以使得所述移动终端响应于所述交互事件，执行相应的交互操作。

第三方面，本申请实施例还提供一种头戴显示设备，包括：处理器；以及被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行本申请实施例第一方面所述方法。

第四方面，本申请实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的头戴显示设备执行时，使得所述头戴显示设备执行本申请实施例第一方面所述方法。

本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：对于Android移动终端不开放系统权限的场景，本申请实施例通过在头戴显示设备中增设虚拟的USB HID设备，利用USB HID设备模拟交互事件上报，从而实现点击，选择等交互事件的触发。由此，避开了Android移动终端的权限限制，在没有获取到系统权限的情况下，仍然能够完成头戴显示设备的用户交互功能，具有通用性，并且减轻了头戴显示设备对Android系统的权限依赖，改善了头戴显示设备的用户体验。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1为本申请实施例的人机交互方法的流程图；

图2为本申请实施例的人机交互方法的原理架构图；

图3为本申请实施例的人机交互装置的框图；

图4为本申请实施例中一种头戴显示设备的结构示意图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚，下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

目前安卓Android系统对于外部设备的权限管理日趋严格，在VR或AR等头戴显示设备与Android手机等移动终端连接使用的场景中，头戴显示设备需要获取Android手机的系统权限(如INJECT_EVENT权限)进行系统签名，才能完成通过VR或AR设备操作手机用户界面UI(User Interface)的功能。INJECT_EVENT权限是Android系统中级别比较高的一个权限，其允许一个程序截获用户事件如按键、触摸、轨迹球，从而实现通过鼠标、键盘等控制Android系统。

有一种获取INJECT_EVENT权限完成人机交互功能的方案是：VR/AR厂商与手机厂商进行合作，让手机厂商开放部分安卓系统权限给VR/AR设备使用。但是这对于VR/AR厂商来说，严重依赖手机厂商，很容易受到来自手机系统的限制，而且手机品牌厂商众多，逐个品牌适配工作量巨大。

基于此，本申请实施例提出一种人机交互方法，通过模拟USB输入设备的方式，来达到间接获取按键注入权限的目的，从而实现VR/AR头戴显示器在连接Android系统时的UI交互，通用性强，用户体验好。

以下结合附图，详细说明本申请各实施例提供的技术方案。

图1为本申请实施例的人机交互方法的流程图，参见图1，本申请实施例的人机交互方法包括下列步骤：

步骤S110，在头戴显示设备中增设虚拟的USB HID设备。

这里的头戴显示设备(Head-Mounted Display，简称HMD)，即头显。通过各种头显，向眼睛发送光学信号，可以实现虚拟现实(Virtual Reality，简称VR)、增强现实(Augmented Reality，简称AR)、混合现实(Mixed Reality，简称MR)等不同效果。

HID(Human Interface Device，人机接口设备)是一种符合USB(UniversalSerial Bus，通用串行总线)通信协议，用于进行人机交互通信的接口设备，典型的HID设备有鼠标、键盘和触摸屏等，只要符合HID类别设备规范的设备都可以认为是HID设备。HID设备是USB协议中最早提出并支持的一种设备类，并为之专门提供了接口描述。使用HID设备的一个优点是操作系统自带了HID类的驱动程序，用户无需开发驱动程序，直接使用API(Application Programming Interface，应用程序接口)调用即可完成通信。

步骤S120，通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据。

本申请实施例中的移动终端比如是手机，手机中使用的是Android操作系统，本申请实施例的头戴显示设备比如是VR设备，VR设备与手机连接，手机中安装有VR设备的软件开发工具包SDK(Software Development Kit)，通过VR设备可以输出手机中的视频数据。在VR设备与手机连接的使用场景中，VR设备中的USB HID设备对VR设备的人机交互事件进行监听，如果接收到手机中Android应用发送的UI交互操作所作用的坐标数据则确定发生了交互事件。

注：UI交互操作是用户操作UI元素时，被操作的UI元素对应的的坐标数据，比如，当用户点击手机上的应用图标以打开应用时，应用图标所在的像素坐标即为UI交互操作所作用的坐标数据。

步骤S130，将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件，以使得所述移动终端响应于所述交互事件，执行相应的交互操作。

本步骤中，USB HID设备将接收到的UI(User Interface，用户界面)交互操作所作用的坐标数据上报给手机，以模拟触发交互事件，手机收到交互事件触发信号后，响应于当前的交互事件，执行相应的交互操作，比如，点击手机屏幕的UI元素、选择桌面图标等。

由图1所示可知，本申请实施例的人机交互方法，通过设置USB HID设备，由USBHID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据，将UI交互操作所作用的坐标数据上报给移动终端，模拟触发交互事件，从而提供了一种通用的、避开Android权限限制的方案，解决了只有在获取Android系统签名的情况下才能与Android移动终端用户界面交互的技术问题，减轻了头戴显示设备对Android系统的权限依赖，改善了头戴显示设备的用户体验。

需要说明的是，本申请实施例的移动终端不限于手机，还可以是PDA(PersonalDigital Assistant，个人数字助理)、平板电脑、可穿戴设备等。本申请实施例以手机为例来说明人机交互方法的实现。

一个具体实施方式中，本申请实施例在标准的用于上传头戴显示设备姿态信息的自定义HID设备基础上，增加一个触摸屏HID设备，构建复合USB设备。如此，当头戴显示设备配套的蓝牙手柄或者头戴显示设备的应用需要点击手机用户界面上某个像素点时，手机内的安卓应用将该触摸点的坐标数据通过自定义HID设备发送给头显HMD，头显HMD通过虚拟的触摸屏设备上报给手机，模拟触发触摸事件，从而实现点击效果。

也就是说，在头戴显示设备中增设虚拟的USB HID设备包括：在头戴显示设备中增设虚拟触摸屏(即，触摸屏HID设备)。通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据包括：通过虚拟触摸屏接收移动终端中屏幕镜像应用发送的触摸操作所作用的坐标数据；所述将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件包括：虚拟触摸屏基于所述坐标数据，生成触摸屏操作数据将生成的触摸屏操作数据上报给Android系统驱动层，以使得所述Android系统驱动层将触摸屏操作数据转发至Android系统框架层的触摸屏HID设备，模拟触发触摸事件。

本申请实施例在此示出了前述USB HID设备的一种具体实现方式(触摸屏HID设备)。当然，应理解，前述USB HID设备也可以采用其它的方式实现(比如，HID鼠标设备)，本申请实施例对此不作限制。

图2为本申请实施例的人机交互方法的原理架构图，以下结合图2进行说明。本申请实施例的人机交互方法应用于头戴显示设备(如VR设备)中，VR设备与手机连接(比如通过手机的Type-C接口连接)。VR设备包括一蓝牙手柄，蓝牙手柄使得用户能更大程度置身于真实场景中，极大地增强用户在玩VR游戏等场景中的沉浸感和体验感。

如图2所示，手机中安装VR软件开发工具包SDK。并且图2示意了手机中的两个Android应用，分别是屏幕镜像应用和蓝牙手柄应用。VR设备是头戴设备，用户的眼睛是注视VR屏幕的。而手机用户正常使用手机时，眼睛看向手机屏幕，手指点击手机屏幕即可完成交互操作。为了方便用户在VR设备中像平常使用手机那样去查看手机界面、操作手机，本申请实施例设计了屏幕镜像应用，将屏幕镜像应用安装在手机侧，这样，VR设备的用户在佩戴VR后能够以VR视角查看显示的手机屏幕(现有技术是如果未获取INJECT_EVENT系统权限，则不能实现点击、选择等交互操作)。

图2所示手机中的另一个Android应用是蓝牙手柄应用，蓝牙手柄应用与蓝牙手柄连接，获取用户在蓝牙手柄上的操作信息，比如按键信息，将获取的按键信息发送至屏幕镜像应用，屏幕镜像应用从蓝牙手柄应用处获取按键信息之后，根据按键信息生成触摸操作所作用的坐标数据。

参见图2，屏幕镜像应用将触摸操作所作用的坐标数据发送至VR设备中的虚拟触摸屏(Virtual Touch Screen)。

在本申请实施例中虚拟触摸屏的实现是，在标准的自定义HID设备所在的USB接口上配置虚拟触摸屏对应的目标接口，目标接口的接口描述符不同于所述自定义HID设备的接口描述符。通过虚拟触摸屏接收移动终端中屏幕镜像应用发送的触摸操作所作用的坐标数据包括：通过所述虚拟触摸屏接收所述屏幕镜像应用通过所述自定义HID设备发送的触摸操作所作用的坐标数据。也就是说，屏幕镜像应用通过所述自定义HID设备发送触摸操作所作用的坐标数据至虚拟触摸屏。

本申请实施例中，标准的自定义HID设备例如是现有VR设备中用于上传VR设备的姿态传感器数据的HID设备。在HID协议中，无论是单设备还是复合设备(一个USB接口上实现多个设备)，主机端都会根据USB设备的接口描述符对设备进行区分。设置自定义HID设备的接口描述符与虚拟触摸屏HID设备的目标接口的接口描述符不同，这样在同一个USB接口上，由于两个HID设备的接口描述符不同，实现了独立且具有不同功能的两个设备。

通过在标准的自定义HID设备所在的USB接口上配置虚拟触摸屏对应的目标接口，增强了本申请实施例技术方案的通用性，并且不用专门开发驱动程序，方案实现简单、成本低。

虚拟触摸屏收到坐标数据后，基于所述坐标数据，生成触摸屏操作数据(图2中示意的虚拟触摸屏数据)，将生成的触摸屏操作数据上报给Android系统驱动层(图2中示意的驱动层)，以使得所述Android系统驱动层将触摸屏操作数据转发至Android系统框架层的触摸屏HID设备节点，模拟触发触摸事件。

实际应用中，VR设备上的虚拟触摸屏的功能开启后，会在手机的Android系统底层产生一个标准的触摸屏HID设备的设备节点。Framework框架层通过这个设备节点(图2中示意的触摸屏HID设备节点)获取用户输入的事件，解析数据并生成相应的触摸事件，反映到手机的物理屏幕上。

需要说明的是，本申请实施例中，虚拟触摸屏将生成的虚拟触摸屏数据(由于虚拟触摸屏是虚拟的USB HID设备，所以这里的虚拟触摸屏数据也可以理解为USB触摸屏数据)发送至手机Android系统驱动层，模拟触发触摸事件。后续，手机响应于该触摸事件，经驱动层上报触摸事件至框架层，框架层解析后确定出点击、滑动等具体事件内容，将点击、滑动操作指令下发至驱动层执行点击操作或滑动操作，完成交互。手机对触摸事件的响应可以采用现有手机交互流程和技术手段实现，本申请实施例对此不作限制。

至此，本申请实施例的人机交互方法，解决了Android系统对于外部设备的权限限制问题，以通用的模拟触摸设备的方式，达到间接获取按键注入权限的目的，实现了VR/AR头显在连接Android系统时的UI交互功能。

图3为本申请实施例的人机交互装置的框图，参见图3，本申请实施例的人机交互装置300包括：

虚拟模块310，用于在头戴显示设备中增设虚拟的USB HID设备；

交互模块320，用于通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据，将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件，以使得所述移动终端响应于所述交互事件，执行相应的交互操作。

在本申请的一个实施例中，虚拟模块310具体用于在头戴显示设备中增设虚拟触摸屏；所述交互模块320，用于通过虚拟触摸屏接收移动终端中屏幕镜像应用发送的触摸操作所作用的坐标数据，基于所述坐标数据，生成触摸屏操作数据，将生成的触摸屏操作数据上报给Android系统驱动层，以使得所述Android系统驱动层将触摸屏操作数据转发至Android系统框架层的触摸屏HID设备节点，模拟触发触摸事件。

在本申请的一个实施例中，所述虚拟模块310具体用于在标准的自定义HID设备所在的USB接口上配置虚拟触摸屏对应的目标接口，所述目标接口的接口描述符不同于所述自定义HID设备的接口描述符。

在本申请的一个实施例中，所述交互模块320，具体用于通过虚拟触摸屏接收所述屏幕镜像应用通过所述自定义HID设备发送的触摸操作所作用的坐标数据。

需要说明的是，上述人机交互装置，能够实现前述实施例中提供的由头戴显示设备执行的人机交互方法的各个步骤，关于人机交互方法的相关阐释均适用于人机交互装置，此处不再赘述。

图4为本申请实施例中一种头戴显示设备的结构示意图。请参考图4，在硬件层面，该头戴显示设备包括处理器，可选地还包括内部总线、网络接口、存储器。其特征在于，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该头戴显示设备还可能包括其他业务所需要的硬件。

处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构)总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图4中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。

存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。

处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成人机交互装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：

在头戴显示设备中增设虚拟的USB HID设备；

通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据；

将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件，以使得所述移动终端响应于所述交互事件，执行相应的交互操作。上述如本申请图3所示实施例揭示的人机交互装置执行的方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。

该头戴显示设备还可执行图3中人机交互装置执行的方法，并实现人机交互装置在图3所示实施例的功能，本申请实施例在此不再赘述。

本申请实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的头戴显示设备执行时，能够使该头戴显示设备执行图3所示实施例中人机交互装置执行的方法，并具体用于执行：

在头戴显示设备中增设虚拟的USB HID设备；

通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据；

将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件，以使得所述移动终端响应于所述交互事件，执行相应的交互操作。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其特征在于包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其特征在于包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种人机交互方法，其特征在于，所述人机交互方法包括：

在头戴显示设备中增设虚拟的USB HID设备；

通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据；

将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件，以使得所述移动终端响应于所述交互事件，执行相应的交互操作。

2.如权利要求1所述的方法，其特征在于，

所述在头戴显示设备中增设虚拟的USB HID设备包括：在头戴显示设备中增设虚拟触摸屏；

所述通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据包括：

通过虚拟触摸屏接收移动终端中屏幕镜像应用发送的触摸操作所作用的坐标数据；

所述将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件包括：

虚拟触摸屏基于所述坐标数据，生成触摸屏操作数据，将生成的触摸屏操作数据上报给Android系统驱动层，以使得所述Android系统驱动层将触摸屏操作数据转发至Android系统框架层的触摸屏HID设备节点，模拟触发触摸事件。

3.如权利要求2所述的方法，其特征在于，所述在头戴显示设备中增设虚拟触摸屏包括：

在标准的自定义HID设备所在的USB接口上配置虚拟触摸屏对应的目标接口；

所述目标接口的接口描述符不同于所述自定义HID设备的接口描述符。

4.如权利要求3所述的方法，其特征在于，所述通过虚拟触摸屏接收移动终端中屏幕镜像应用发送的触摸操作所作用的坐标数据包括：

通过所述虚拟触摸屏接收所述屏幕镜像应用通过所述自定义HID设备发送的触摸操作所作用的坐标数据。

5.一种人机交互装置，其特征在于，所述人机交互装置包括：

虚拟模块，用于在头戴显示设备中增设虚拟的USB HID设备；

交互模块，用于通过USB HID设备接收移动终端中Android应用发送的UI交互操作所作用的坐标数据，将UI交互操作所作用的坐标数据上报给所述移动终端，模拟触发交互事件，以使得所述移动终端响应于所述交互事件，执行相应的交互操作。

6.如权利要求5所述的装置，其特征在于，

所述虚拟模块具体用于在头戴显示设备中增设虚拟触摸屏；

所述交互模块，用于通过虚拟触摸屏接收移动终端中屏幕镜像应用发送的触摸操作所作用的坐标数据，基于所述坐标数据，生成触摸屏操作数据，将生成的触摸屏操作数据上报给Android系统驱动层，以使得所述Android系统驱动层将触摸屏操作数据转发至Android系统框架层的触摸屏HID设备节点，模拟触发触摸事件。

7.如权利要求6所述的装置，其特征在于，

所述虚拟模块具体用于在标准的自定义HID设备所在的USB接口上配置虚拟触摸屏对应的目标接口；

所述目标接口的接口描述符不同于所述自定义HID设备的接口描述符。

8.如权利要求7所述的装置，其特征在于，

所述交互模块，具体用于通过虚拟触摸屏接收所述屏幕镜像应用通过所述自定义HID设备发送的触摸操作所作用的坐标数据。

9.一种头戴显示设备，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行所述权利要求1～4之任一所述方法。

10.一种计算机可读存储介质，所述计算机可读存储介质存储一个或多个程序，所述一个或多个程序当被包括多个应用程序的头戴显示设备执行时，使得所述头戴显示设备执行所述权利要求1～4之任一所述方法。

Images