CN107959845B

CN107959845B - 图像数据传输的方法、装置、客户端装置及头戴显示设备

Info

Publication number: CN107959845B
Application number: CN201711115354.0A
Authority: CN
Inventors: 吴晓洲
Original assignee: Beijing Pico Technology Co Ltd
Current assignee: Beijing Pico Technology Co Ltd
Priority date: 2017-11-13
Filing date: 2017-11-13
Publication date: 2020-09-08
Anticipated expiration: 2037-11-13
Also published as: CN107959845A

Abstract

公开了一种图像数据传输方法、装置、客户端装置及头戴显示设备。该方法包括：通过HAL层从驱动层读取图像数据；通过所述HAL层将所述图像数据发送至算法动态库，以供所述算法动态库计算得到结果数据；通过所述HAL层将所述结果数据加入到Framework层的结果队列中；通过所述Framework层从所述结果队列中获取所述结果数据；通过所述Framework层将所述结果数据发送至APP层。根据本公开，可以减少图像数据的传输延迟，提升头戴显示设备的使用体验。

Description

图像数据传输的方法、装置、客户端装置及头戴显示设备

技术领域

本公开涉及图像数据传输技术领域，更具体地，涉及一种图像数据传输的方法、装置、客户端装置及头戴显示设备。

背景技术

近年来VR技术飞速发展，可以呈现虚拟场景提供给用户近乎真实的沉浸感。因此，头戴显示设备例如VR头盔、VR眼镜等开始受越来越多用户的关注。

头戴显示设备为了体感交互更多样化，会通过相机采集图像进行空间定位。采集到的图像数据会从相机驱动依次经过硬件抽象层(Hardware Abstraction Layer，HAL)、框架层(Framework)传输到应用(Application，APP)层。

目前安卓设备上摄像头的分辨率普遍在720P(1280×720)以上。每个像素点包括亮度和色度信息。采集图像的频率在120HZ，也就是每秒采集图像120次以上。因此，在未对图像进行压缩编码的情况下，每秒从相机驱动传输到应用层的图像数据的数据量在300M以上。

通常，应用层通过算法对手柄或头戴设备进行空间定位时，是对图像中特定的点进行定位，例如，手柄上的光球。因此，可以将采集图像的分辨率降低到1640×400。

然而，即使通过降低采集图像的分辨率将传输图像数据的数据量降低了70％左右，在数据传输过程中，仍然存在较大的延迟。头戴显示设备的体验效果较差。

发明内容

本公开的一个目的是提供一种用于图像数据传输的方法的新技术方案。

根据本公开的第一方面，提供了一种图像数据传输的方法，包括：

通过HAL层从驱动层读取图像数据；

通过所述HAL层将所述图像数据发送至算法动态库，以供所述算法动态库计算得到结果数据；

通过所述HAL层将所述结果数据加入到Framework层的结果队列中；

通过所述Framework层从所述结果队列中获取所述结果数据；

通过所述Framework层将所述结果数据发送至APP层。

可选的，通过所述HAL层将所述图像数据发送至算法动态库之后，还包括：

通过所述HAL层执行所述算法动态库的数据回调。

可选的，通过所述Framework层从所述结果队列中获取所述结果数据，包括：

通过所述Framework层的服务端启动获取所述结果数据的线程，从所述结果队列中获取所述结果数据。

可选的，通过所述Framework层将所述结果数据发送至APP层，包括：

通过所述Framework层的服务端将所述结果数据传输至所述Framework层的客户端；

通过所述Framework层的客户端将所述结果数据发送至所述APP层。

可选的，通过所述Framework层的服务端将所述结果数据传输至所述Framework层的客户端，包括：

通过所述Framework层的服务端使用Binder跨进程将所述结果数据传输至所述Framework层的客户端。

根据本公开的第二方面，提供了一种图像数据传输的装置，包括：

读取模块，用于通过HAL层从驱动层读取图像数据；

第一发送模块，用于通过所述HAL层将所述图像数据发送至算法动态库，以供所述算法动态库计算得到结果数据；

加入模块，用于通过所述HAL层将所述结果数据加入到Framework层的结果队列中；

获取模块，用于通过所述Framework层从所述结果队列中获取所述结果数据；

第二发送模块，用于通过所述Framework层将所述结果数据发送至APP层。

可选的，所述装置还包括：

执行模块，用于通过所述HAL层执行所述算法动态库的数据回调。

可选的，所述第二发送模块具体用于：

根据本公开的第三方面，提供了一种客户端装置，包括根据本公开的第二方面中的任意一项所述的图像数据传输的装置；或者被设计成用于执行根据本公开的第一方面中的任何一项所述的用于图像数据传输的方法中的操作。

根据本公开的第四方面，提供了一种头戴显示设备，包括根据本公开的第三方面所述的客户端装置；或者包括存储器和处理器，其中，所述存储器存储可执行指令，所述可执行指令在所述头戴显示设备运行时控制所述处理器执行根据本公开的第一方面中的任何一项所述的图像数据传输方法中的操作。

根据本公开的一个实施例，可以减少图像数据的传输延迟，提升头戴显示设备的使用体验。

通过以下参照附图对本公开的示例性实施例的详细描述，本公开的其它特征及其优点将会变得清楚。

附图说明

被结合在说明书中并构成说明书的一部分的附图示出了本公开的实施例，并且连同其说明一起用于解释本公开的原理。

图1示出了根据本公开的一个实施例的方法的流程图。

图2示出了根据本公开的一个实施例的图像数据传输的装置的示意性框图。

图3示出了根据本公开的一个实施例的客户端装置的示意性框图。

图4示出了根据本公开的一个实施例的头戴显示设备的示意性框图。

具体实施方式

现在将参照附图来详细描述本公开的各种示例性实施例。应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。

在这里示出和讨论的所有例子中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它例子可以具有不同的值。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

<方法>

图1示出了根据本公开的一个实施例的方法的流程图。

如图1所示，在步骤1100，通过HAL层从驱动层读取图像数据。

需要说明的是，在本步骤之前，HAL层初始化相机(camera)模块，并加载算法动态库，执行算法动态库中的初始化接口。其中，算法动态库的提供者需要在初始化接口中设置数据回调。

通过HAL层启动camera模块的预览(preview)功能后，循环从驱动层读取采集到的图像数据。

通过HAL层从驱动层获取图像数据后，判断数据回调是否为空。若数据回调为空，则报错提示。若数据回调不为空，进入步骤1200，通过所述HAL层将所述图像数据发送至算法动态库，以供所述算法动态库计算得到结果数据。

通过HAL层将图像数据发送至算法动态库后，通过所述HAL层执行所述算法动态库的数据回调。

通过HAL层执行算法看到数据回调后，从算法动态库中获取计算处理后的结果数据，进入步骤1300，通过所述HAL层将所述结果数据加入到Framework层的结果队列中。

为了保证Framework层发送给APK(Android Package，安卓安装包)产生的延迟不会影响HAL层工作，本步骤通过异步过程实现，因此设置一个结果队列来保存结果数据。

本领域技术人员可以理解，在本实施例中，HAL层和算法动态库在同一个进程中，不需要大量的图像数据跨进程传输，带来的延迟不到1ms，大量减少了图像数据传输的延迟。

实际应用中，应用程序和系统通信传输数据，需要和系统服务建立连接，因此，通过算法动态库得到的结果数据，需要通过一个系统服务发送给应用程序。但是这个结果可能是几组坐标或者其他信息，安卓原生的camera服务不支持这样的数据格式。为了解决这个问题，本实施例中，建立一个系统服务VR Camera Server，随系统开机启动。

VR Camera Server负责获取算法处理图像数据后的结果数据，并实现跨进程发送数据。具体的，步骤1400，通过所述Framework层从所述结果队列中获取所述结果数据。

Framework层在开机时启动服务端，等待连接继承客户端的APK。

本步骤中，通过所述Framework层的服务端启动获取所述结果数据的线程，从所述结果队列中获取所述结果数据。其中，结果队列为上述步骤1300中所述的结果队列。

获取到结果数据后，进入步骤1500，通过所述Framework层将所述结果数据发送至APP层。

具体的，首先通过Framework层的服务端将所述结果数据传输至所述Framework层的客户端；再由Framework层的客户端将所述结果数据发送至所述APP层。其中，Framework层的服务端可以使用Binder(进程间通信机制)跨进程将所述结果数据传输至所述Framework层的客户端。

VR Camera Server和应用层之间跨进程传输的数据量，包含图像数据中的关键点坐标和一些附加信息，通常只需要几十个字节。与安卓原生流程传输的图像数据的数据量(几十兆到几百兆字节)相比，可以大幅度减少传输带来的延迟。将数据传输的延迟稳定控制在1ms以下。

现有技术中，传输图像数据的总延迟时间为：图像数据从驱动层传输到HAL层的延迟时间、图像数据从HAL层拷贝到Framework层的时间、图像数据Binder传输时间以及算法执行时间之和。

而通过上述描述可知，应用本实施例提供的方法传输图像数据的总延迟时间为：图像数据从驱动层传输到HAL层的延迟时间、图像数据从HAL层拷贝到算法动态库的延迟时间、算法执行时间以及结果数据Binder传输时间之和。总延迟时间不会超过2ms。

本实施例提供的图像数据传输的方法，相对于现有的安卓原生camera架构而言，可以有效减少图像数据传输过程中带来的延迟，提高了头戴显示设备的使用效果体验。

<装置>

如图2所示，本实施例的图像数据传输的装置2000包括：

读取模块2010，用于通过HAL层从驱动层读取图像数据.

第一发送模块2020，用于通过所述HAL层将所述图像数据发送至算法动态库，以供所述算法动态库计算得到结果数据。

加入模块2030，用于通过所述HAL层将所述结果数据加入到Framework层的结果队列中。

获取模块2040，用于通过所述Framework层从所述结果队列中获取所述结果数据。

第二发送模块2050，用于通过所述Framework层将所述结果数据发送至APP层。

具体的，所述第二发送模块2050具体用于通过所述Framework层的服务端将所述结果数据传输至所述Framework层的客户端；通过所述Framework层的客户端将所述结果数据发送至所述APP层。

可选的，本实施例的图像数据传输的装置2000还可以包括：执行模块，用于通过所述HAL层执行所述算法动态库的数据回调。

本实施例的图像数据传输的装置，可用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，此处不再赘述。

<客户端装置>

如图3所示，客户端装置3000包括图像数据传输的装置2000。

此外，如前面所述，也可以基于前面所述的方法产生一种客户端装置，它可以被设计成用于执行参照图1所述的实施例的方案中的步骤。

本领域技术人员公知的是，随着诸如大规模集成电路技术的电子信息技术的发展和软件硬件化的趋势，要明确划分计算机系统软、硬件界限已经显得比较困难了。因为，任何操作可以软件来实现，也可以由硬件来实现。任何指令的执行可以由硬件完成，同样也可以由软件来完成。对于某一机器功能采用硬件实现方案还是软件实现方案，取决于价格、速度、可靠性、存储容量、变更周期等非技术性因素。对于技术人员来说，软件实现方式和硬件实现方式是等同的。技术人员可以根据需要选择软件或硬件来实现上述方案。因此，这里不对具体的软件或硬件进行限制。

<头戴显示设备>

可以在诸如VR头盔、VR眼镜等的头戴显示设备中实现上述实施例中的任何一个。例如，所述头戴显示设备可以包括上述实施例中的图像数据传输的装置或者包括上述实施例中的客户端装置。

此外，图4示出了根据本公开的一个实施例的头戴显示设备的示意性框图。如图4所示，头戴显示设备4000可以包括处理器4010、存储器4020、接口装置4030、通信装置4040、显示装置4050、输入装置4060、扬声器4070、麦克风4080，等等。

处理器4010例如可以是中央处理器(CPU)、微处理器(MCU)等。存储器4020例如包括ROM(只读存储器)、RAM(随机存取存储器)、诸如硬盘的非易失性存储器等。接口装置4030例如包括USB接口、耳机接口等。

通信装置4040例如能够进行有有线或无线通信。

显示装置4050例如是液晶显示屏、触摸显示屏等。输入装置4060例如可以包括触摸屏、键盘等。用户可以通过扬声器4070和麦克风4080输入/输出语音信息。

图4所示的头戴显示设备仅是解释性的，并且决不是为了要限制本发明、其应用或用途。

在这个实施例中，所述存储器4020用于存储指令，所述指令在所述头戴显示设备4000运行时控制所述处理器4010执行前面参照图1所述的图像数据传输的方法中的操作。本领域技术人员应当理解，尽管在图4中示出了多个装置，但是，本公开可以仅涉及其中的部分装置，例如，处理器4010和存储器4020等。技术人员可以根据本发明所公开方案设计指令。指令如何控制处理器进行操作，这是本领域公知，故在此不再详细描述。

本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。

这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。

附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是，通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。

以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本公开的范围由所附权利要求来限定。

Claims

1.一种图像数据传输的方法，其特征在于，包括：

通过HAL层从驱动层读取图像数据；

通过所述HAL层将所述图像数据发送至算法动态库，以供所述算法动态库计算得到结果数据；其中，所述HAL层和所述算法动态库在同一个进程中；

通过所述Framework层从所述结果队列中获取所述结果数据；

通过所述Framework层将所述结果数据发送至APP层。

2.根据权利要求1所述的方法，其特征在于，通过所述HAL层将所述图像数据发送至算法动态库之后，还包括：

通过所述HAL层执行所述算法动态库的数据回调。

3.根据权利要求1所述的方法，其特征在于，通过所述Framework层从所述结果队列中获取所述结果数据，包括：

4.根据权利要求1所述的方法，其特征在于，通过所述Framework层将所述结果数据发送至APP层，包括：

5.根据权利要求4所述的方法，其特征在于，通过所述Framework层的服务端将所述结果数据传输至所述Framework层的客户端，包括：

6.一种图像数据传输的装置，其特征在于，包括：

读取模块，用于通过HAL层从驱动层读取图像数据；

第一发送模块，用于通过所述HAL层将所述图像数据发送至算法动态库，以供所述算法动态库计算得到结果数据；其中，所述HAL层和所述算法动态库在同一个进程中；

7.根据权利要求6所述的装置，其特征在于，还包括：

8.根据权利要求6所述的装置，其特征在于，所述第二发送模块具体用于：

9.一种客户端装置，其特征在于，包括根据权利要求6-8任意一项所述的图像数据传输的装置；或者被设计成用于执行根据权利要求1-5中的任何一项所述的用于图像数据传输的方法中的操作。

10.一种头戴显示设备，其特征在于，包括根据权利要求9所述的客户端装置；或者包括存储器和处理器，其中，所述存储器存储可执行指令，所述可执行指令在所述头戴显示设备运行时控制所述处理器执行根据权利要求1-5中的任何一项所述的图像数据传输方法中的操作。