CN108924538A - Ar设备的屏幕拓展方法 - Google Patents
Ar设备的屏幕拓展方法 Download PDFInfo
- Publication number
- CN108924538A CN108924538A CN201810541800.2A CN201810541800A CN108924538A CN 108924538 A CN108924538 A CN 108924538A CN 201810541800 A CN201810541800 A CN 201810541800A CN 108924538 A CN108924538 A CN 108924538A
- Authority
- CN
- China
- Prior art keywords
- user
- picture material
- equipment
- control terminal
- content
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 239000000463 material Substances 0.000 claims abstract description 73
- 239000011521 glass Substances 0.000 claims description 69
- 238000007906 compression Methods 0.000 claims description 33
- 230000006835 compression Effects 0.000 claims description 33
- 230000005540 biological transmission Effects 0.000 claims description 14
- 238000005192 partition Methods 0.000 claims description 14
- 230000003993 interaction Effects 0.000 claims description 12
- 230000006837 decompression Effects 0.000 claims description 9
- 238000004891 communication Methods 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 5
- 230000003190 augmentative effect Effects 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 15
- 238000009877 rendering Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 6
- 230000003321 amplification Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005538 encapsulation Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000001788 irregular Effects 0.000 description 3
- 238000003199 nucleic acid amplification method Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000035800 maturation Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B2027/0178—Eyeglass type
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
- Processing Or Creating Images (AREA)
Abstract
本发明提供了一种AR设备的屏幕拓展方法，涉及增强现实的技术领域，包括：对AR设备的显示区域进行划分，划分至少一个虚拟屏幕用于显示图像内容；采集待显示图像对应的图像内容；将图像内容发送至虚拟屏幕，以使虚拟屏幕显示图像内容。本发明打破物理平面的形态限制，实现了多个虚拟屏幕显示不同的图像，增强了用户体验感。
Description
技术领域
本发明涉及增强现实技术领域，尤其是涉及一种AR设备的屏幕拓展方法。
背景技术
目前，在现实空间中，屏幕均需要物理媒介支持。例如，台式机需要依托LCD(Liquid Crystal Display，液晶)显示器支持显示，手机需要借助LCD或OLED(OrganicLight-Emitting Diode，有机电激光显示)等材质的实体屏幕才能显示。基于此，人们发明了AR设备，AR设备不需要LCD显示器或者OLED实体屏幕，AR设备利用光学元件能够显示虚拟画面，这样节省了显示空间且节约了显示成本。
现有的AR设备包括AR眼镜和主渲染设备，其显示虚拟原理为：主渲染设备将显示画面的数据发送给AR眼镜，AR眼镜经过数据处理，得到图像，然后通过AR眼镜的光学元件将图像显示在佩戴者面前。然而，有时候，用户可以在物理显示屏上打开多个界面，同时查看多个图像，例如：可以在台式机上同时显示QQ界面和word界面。但是，现有的AR设备只能够在视野中显示一幅画面，用户体验感不高。
发明内容
有鉴于此，本发明的目的在于提供AR设备的屏幕拓展方法，本发明打破物理平面的形态限制，实现了多个虚拟屏幕显示不同的图像，增强了用户体验感。
第一方面，本发明实施例提供了一种AR设备的屏幕拓展方法，所述AR设备包括眼镜端和控制端，包括：
对AR设备的显示区域进行划分，划分至少一个虚拟屏幕用于显示图像内容；
采集待显示图像对应的图像内容；
将所述图像内容发送至虚拟屏幕，以使所述虚拟屏幕显示所述图像内容。
结合第一方面，本发明实施例提供了第一方面的第一种可能的实施方式，其中，所述虚拟屏幕可以是圆形、矩形、椭圆形、多边形或不规则形状。
结合第一方面，本发明实施例提供了第一方面的第二种可能的实施方式，其中，对所述AR设备的显示区域进行划分，包括：
接收用户请求；
根据所述用户请求，确定在所述眼镜端中显示的虚拟屏幕的个数；
根据所述虚拟屏幕的个数，对所述AR设备的显示区域进行划分。
结合第一方面，本发明实施例提供了第一方面的第三种可能的实施方式，其中，对所述AR设备的显示区域进行划分，包括：
获取预设的划分模式；
根据所述划分模式，对所述AR设备的显示区域进行划分。
结合第一方面，本发明实施例提供了第一方面的第四种可能的实施方式，其中，所述采集待显示图像对应的图像内容，包括：
基于所述用户请求，确定所述图像内容存储的位置；
从所述存储的位置，采集所述待显示图像对应的图像内容，传输至眼镜端和/或控制端，显示所述图像内容；
所述位置为所述眼镜端和/或所述控制端。
结合第一方面，本发明实施例提供了第一方面的第五种可能的实施方式，其中，从所述存储的位置，采集待显示图像对应的图像内容，包括：
当所述图像内容存储的位置在所述控制端时，从所述控制端采集图像内容；
采用图像压缩工具，将所述图像内容进行封装、压缩，得到图像压缩包，将所述图像压缩包传输到所述眼镜端。
结合第一方面，本发明实施例提供了第一方面的第六种可能的实施方式，其中，将所述图像内容发送至所述虚拟屏幕，以使所述虚拟屏幕显示所述图像内容的步骤之前，还包括：
采用解压工具，对所述图像压缩包进行解封；
利用内容生成器将解封后的图像压缩包生成相应的图像内容。
结合第一方面，本发明实施例提供了第一方面的第七种可能的实施方式，其中，还包括：通过压缩工具将图像内容封装、压缩，得到图像压缩包；然后采用解压工具，对所述图像压缩包进行解封，利用内容生成器将解封后的图像压缩包生成相应的图像内容。
结合第一方面，本发明实施例提供了第一方面的第八种可能的实施方式，其中，所述眼镜端与所述控制端之间通过有线和/或者无线通信方式进行数据传输。
结合第一方面，本发明实施例提供了第一方面的第九种可能的实施方式，其中，在所述接收用户请求的步骤之后，还包括：
确定所述用户请求是否为操作请求；
如果是，则从所述用户请求中提取操作内容；
基于所述操作内容，生成相应的操作指令，以完成用户与所述眼镜端和/或者所述控制端之间的交互。
结合第一方面，本发明实施例提供了第一方面的第十种可能的实施方式，其中，当所述眼镜端接收所述用户请求时，基于所述操作内容，生成相应的操作指令，以完成用户与所述眼睛端和/或者所述控制端之间的交互，包括：
从所述用户请求中提取特征信息和操作内容；
将特征信息与所述虚拟屏幕中的图像内容进行匹配，得到目标图像；
生成基于所述目标图像对应的操作内容的操作指令，以完成用户与所述眼睛端和/或者所述控制端之间的交互。
结合第一方面，本发明实施例提供了第一方面的第十一种可能的实施方式，其中，所述图像内容的显示模式为2D模式或者3D模式。
本发明实施例带来了以下有益效果：可以通过对AR设备的显示区域进行划分，划分至少一个虚拟屏幕用于显示图像内容，采集待显示图像对应的图像内容，将所述图像内容发送至虚拟屏幕，使虚拟屏幕显示图像内容，本发明打破物理平面的形态限制，实现了多个虚拟屏幕显示不同的图像，增强了用户体验感。本发明提供的方法具有成本低、且快速进行屏幕拓展的优点。
本发明的其他特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的AR设备的屏幕拓展方法的流程图；
图2为本发明实施例提供的一种显示区域划分的具体流程图；
图3为本发明实施例提供的另一种显示区域划分的具体流程图；
图4为本发明实施例提供的MR端显示的示意图；
图5示出了图像内容的用户请求到显示的过程示意图；
图6为本发明实施例提供的用户与眼镜端和/或者控制端之间的交互的工作流程图；
图7为控制端在完成AR设备的屏幕拓展方法的硬件结构图；
图8为眼镜端(MR端)在完成AR设备的屏幕拓展方法的硬件结构图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明实施例提供了一种AR设备的屏幕拓展方法，首先，介绍一下AR设备。AR设备包括眼镜端和控制端，眼镜端用于利用光学组件将控制端发送给眼镜端的图像进行虚拟显示。控制端用于控制眼镜端显示什么图像。列举一个示例，眼镜端相当于台式机中的显示屏，控制端相当于台式机中的主机，AR设备与台式机不同的时，显示的方式不同，台式机中的显示屏是利用物理屏幕显示画面，AR设备利用眼镜端显示虚拟画面。
其次，介绍执行本发明实施例提供的AR设备的屏幕拓展方法的实现方式。本发明以一个软件形式存在的，是一种具有处理器可执行的非易失的程序代码的计算机可读介质，程序代码使处理器执行所述AR设备的屏幕拓展方法。具体可以包括但不限于以下两种操作方式，一种是保持原有功能的AR设备，实现AR设备的屏幕拓展方法以一个插件形式插入到AR设备中。即：用户可以在原有的AR设备的功能的基础上，在控制端所在的主机上，安装上述插件形式的软件，安装此软件后，使得AR设备支持AR设备的屏幕拓展的功能。另外一种方式是：提供一种新的AR设备，此AR设备除了包括原控制模块，还包括实现本发明提供的方法的模块，即，本方法为AR设备中的一个功能，这个功能为：提供屏幕拓展的功能。实现该功能的硬件包括：存储器、处理器，存储器中存储有可在处理器上运行的计算机程序，处理器执行所述计算机程序时实现所述的AR设备的屏幕拓展方法的步骤。
最后，介绍本发明实施例提出的一种AR设备的屏幕拓展方法。
结合图1所示，示出了一种AR设备的屏幕拓展方法的流程图，包括：
S110：对AR设备的显示区域进行划分，划分至少一个虚拟屏幕用于显示图像内容。
执行步骤S110主要有两种方式，第一种是：结合图2所示，
S1101：接收用户请求；
S1102：根据用户请求，确定在眼镜端中显示的虚拟屏幕的个数；
S1103：根据虚拟屏幕的个数，对AR设备的显示区域进行划分。
在实现本发明步骤S1101来说，当用户请求为由控制端接收的时，需要在控制端具有用户指令接收器，这样控制端就可以通过用户指令接收器接收用户发出的用户请求；用户指令接收器可以为鼠标、和/或者键盘、和/或者触摸板、和/或者遥控器、和/或者手柄等等。
具体来说，用户通过手握鼠标，即，用户通过鼠标的媒介发出用户请求，让控制端知道，从而使控制端接收。同样的，用户通过键盘、和/或者触摸板、和/或者遥控器、和/或者手柄的媒介发出用户请求，让控制端知道，从而使控制端接收。在控制端接收用户发出的用户请求时，属于被动接收。
在实现本发明步骤S1101来说，当用户请求为由眼镜端接收的时，需要在眼镜端具有采集器和/或者信息数据接口，眼镜端通过采集器和/或者信息数据接口采集用户发出的用户请求；采集器为收音器、和/或者图像采集器。
举例，在眼镜端接收用户发出的用户请求时，为眼镜端主动接收。用户发出声音时，收音器实时接收用户发出的声音，和/或者，用户做出固定动作，通过图像采集器采集用户固定动作的图片，和/或者，通过信息数据接口外接接收器，将外接接收器接收到的用户用户请求通过信息数据接口发送到眼镜端，使眼镜端接收到。外接接收器可以为蓝牙设备。
这时，眼镜端需要将接收到的用户请求传输给控制端。控制端与眼镜端通过有线方式连接和/或者无线方式连接，其中，有线方案为眼镜端的数据传输模块将用户请求利用数据线进行传输。控制端通过数据线接收用户请求，然后对用户请求进行解析。无线方案为蓝牙、微波等方式进行近距离传输，利用网络等方式进行远距离传输，其中，网络传输协议可采用TCP、UDP或者基于此二者的其他传输协议来实现。控制端接收到眼镜端传输的用户请求后，进行下面步骤的处理。
S1102和S1103具体来说，作为一个实例，当用户说出“打开A应用程序和播放B视频时”，提取用户请求中的关键词“打开”、“A应用程序”、“播放”、“B视频”，其中，“A应用程序”和“B视频”是启动不同项目，所以，可以确定待显示图像的个数为2个。然后，对AR设备的显示区域进行划分，划分为两个虚拟屏幕，这两个虚拟屏幕分别显示“A应用程序”和“B视频”。
执行步骤S110主要有两种方式，结合图3所示，第二种包括：
S1131：获取预设的划分模式；
S1132：根据划分模式，对AR设备的显示区域进行划分。
具体来说，可以将预设的划分模式存储在存储器或者云平台中，当执行步骤S110时，从存储器或者云平台中，获取预设的划分模式，然后，基于划分模式，对AR设备的显示区域进行划分。对于划分模式，结合图4所示，可以以呈排排列，一排最多排是四个，首先排最上层，从左到右依次排列。结合图4所示，示出了6个虚拟屏幕的划分模式，上排为4个，下排从左到右依次排列为2个。在这里示出和描述的所有示例中，任何具体值应被解释为仅仅是示例性的，而不是作为限制，因此，示例性实施例的其他示例可以具有不同的值。
S120：采集待显示图像对应的图像内容；
步骤S120具体包括：
基于用户请求，确定图像内容存储的位置；
从存储的位置，采集待显示图像对应的图像内容。
示例1，当图像内容存储的位置在眼镜端，同时，在眼镜端显示图像时，从眼镜端中，直接采集待显示图像对应的图像内容，在眼镜端进行显示。
示例2，当图像内容存储的位置在眼镜端，同时，在控制端显示图像时，从眼镜端中，采集待显示图像对应的图像内容，通过压缩工具将图像内容封装、压缩，得到图像压缩包；然而，将图像压缩包传输到控制端，在控制端中，采用解压工具，对所述图像压缩包进行解封，利用内容生成器将解封后的图像压缩包生成相应的图像内容，在控制端进行显示。
示例3，当图像内容存储的位置在控制端，同时，在眼镜端显示图像时，从控制端采集图像内容；采用图像压缩工具，将图像内容进行封装、压缩，得到图像压缩包，将图像压缩包传输到眼镜端；在眼镜端，采用解压工具，对图像压缩包进行解封；利用内容生成器将解封后的图像压缩包生成相应的图像内容。可选的，眼镜端与控制端之间通过有线和/或者无线通信方式进行数据传输。
结合图5所示，示出了图像内容的用户请求到显示的过程示意图，眼镜端(MR端)接收用户请求，然后，将用户请求发给控制端，控制端接收到用户请求后，控制端对图像内容进行采集、封装、压缩，包括但不限于FFmpeg、VLC等等方式，然后将控制端的图像压缩包传输到眼镜端，眼镜端进行解包，图像压缩包的解析工具包括但不限于FFmpeg、VLC等等方式，解析出图像压缩包后，利用内容生成器生成图像，也可以通过事先预制的方式从内容库调取，然后在眼镜端进行图像内容的显示。其中，当图像内容为视频时，则利用播放模块进行播放，当图像压缩包中的内容为非视频数据时，利用内容解析模块解析后再通过内容展现模块进行展现。
示例4，当图像内容存储的位置在控制端，同时，在控制端显示图像时，从控制端中，直接采集待显示图像对应的图像内容，在控制端进行显示。
示例5，当图像内容的存储位置包括在眼镜端和控制端中时，即，待显示图像为两个及两个以上时，待显示图像从各自的端采集图像内容，然后，在控制端的再将图像内容进行上传，具体参考上述描述的过程。
综上所述的示例1-5，在采集完成待显示图像对应的图像内容后，均需要通过压缩工具将图像内容封装、压缩，得到图像压缩包；然后采用解压工具，对所述图像压缩包进行解封，利用内容生成器将解封后的图像压缩包生成相应的图像内容。
S130：将图像内容发送至虚拟屏幕，以使虚拟屏幕显示图像内容。
进一步的，存储器或者云平台除了可以预先存储划分模式，还可以存储预先设定的显示位置信息、显示大小信息、图像归类信息、显示模式信息、体验类型信息。
将图像内容发送至虚拟屏幕上时，以预设的显示位置信息、和/或者显示大小信息、和/或者图像归类信息、和/或者显示模式信息、和/或者体验类型信息，显示图像内容。
其中，显示位置是指虚拟屏幕在AR设备显示屏上的位置。显示大小是指虚拟屏幕在AR设备显示屏上的尺寸大小。图像归类是指在眼镜端中相关的图像内容可以进行归类。显示模式是指对某些特殊格式的图像，即，2D模式和3D模式，用户可以请求在眼镜端显示2D图像或者3D图像，其中，3D模型可以为预先制作的，也可以是即时生成的。体验类型是指用户可以体验第一人称视角和第三人称视角。第三人称视角的实现方式为在眼镜端设置有摄像机，摄像机实时拍摄用户自己的行为，然后投影到虚拟空间中进行显示。
综上所示，本发明提供的AR设备的屏幕拓展方法，可以通过对AR设备的显示区域进行划分，划分至少一个虚拟屏幕用于显示图像内容，采集待显示图像对应的图像内容，将所述图像内容发送至虚拟屏幕，使虚拟屏幕显示图像内容，本发明打破物理平面的形态限制，实现了多个虚拟屏幕显示不同的图像，增强了用户体验感。本发明提供的方法具有成本低、且快速进行屏幕拓展的优点。
另外，结合图6所示，本发明还可以包括：
S610：确定用户请求是否为操作请求；如果是，则执行步骤S620和步骤S630，如果否，则不响应用户请求。
S620：从用户请求中提取操作内容；操作内容中至少包括以下之一：显示位置、显示大小、图像归类、显示模式、体验类型、编辑、点击、翻页。
S630：基于操作内容，生成相应的操作指令，以完成用户与眼镜端和/或者控制端之间的交互。
作为一个示例，用户可以通过鼠标在控制端进行操作，将某个显示图像放大，或将某个图像放置在屏幕的右上角，则接收这种操作指令后，将操作指令发给眼镜端，眼镜端可以同步将某个显示图像放大，或将某个图像放置在屏幕的右上角。
作为另一个示例，眼镜端接收到用户请求时，步骤S630，包括：
从用户请求中提取特征信息和操作内容；
将特征信息与虚拟屏幕中的图像内容进行匹配，得到目标图像；
生成基于目标图像对应的操作内容的操作指令，以完成用户与眼睛端和/或者控制端之间的交互。
例如，当用户说“将word文件放大”，则提取的特征信息为“word文件”，显示情况为“放大”，将“word文件”一一与多个窗口中的每个图像查找是否有“word文件”，找到目标图像后，目标图像即为与第一操作请求中的特征信息匹配成功的，在眼镜端，对目标图像进行“放大”处理。
综上可知，本发明提供的方式，还可以识别用户的请求，根据用户的意愿调整显示形态和内容，完成眼镜端和控制端之间的交互，可以现实改变虚拟屏幕的空间位置、编辑屏幕上显示信息、完成与屏幕上显示信息的点击选择、翻页、改变虚拟屏幕的大小、将显示相关信息的屏幕归类、支持在2D图像和3D图像之间转换便于用户感知和编辑、体验第三人称视角和第一人称视角提升趣味性和娱乐性，使得AR设备更加具有科技感。
其中，虚拟屏幕可以是圆形、矩形、椭圆形、多边形或不规则形状。
本发明实施例还提供了一种AR设备的屏幕拓展装置，包括：划分单元、采集单元和发送单元。
其中，划分单元，用于对AR设备的显示区域进行划分，划分至少一个虚拟屏幕用于显示图像内容；
采集单元，用于采集待显示图像对应的图像内容；
发送单元，用于将所述图像内容发送至虚拟屏幕，以使所述虚拟屏幕显示所述图像内容。
综上所示，本发明提供的AR设备的屏幕拓展装置，可以通过对AR设备的显示区域进行划分，划分至少一个虚拟屏幕用于显示图像内容，采集待显示图像对应的图像内容，将所述图像内容发送至虚拟屏幕，使虚拟屏幕显示图像内容，本发明打破物理平面的形态限制，实现了多个虚拟屏幕显示不同的图像，增强了用户体验感。本发明提供的方法具有成本低、且快速进行屏幕拓展的优点。
可选的，所述虚拟屏幕是圆形、矩形、椭圆形、多边形或不规则形状。
可选的，划分单元，用于：接收用户请求；根据所述用户请求，确定在所述眼镜端中显示的虚拟屏幕的个数；根据所述虚拟屏幕的个数，对所述AR设备的显示区域进行划分。
可选的，划分单元，用于：
获取预设的划分模式；
根据所述划分模式，对所述AR设备的显示区域进行划分。
可选的，采集单元，用于基于所述用户请求，确定所述图像内容存储的位置；从所述存储的位置，采集所述待显示图像。
可选的，还包括：
采集子单元，用于当所述图像内容存储在所述控制端时，从所述控制端采集图像内容；
数据压缩处理单元，用于采用图像并压缩，将所述图像内容进行封装、压缩，得到图像压缩包，将所述图像压缩包传输到所述眼镜端。
可选的，还包括：
解压单元，用于采用解压工具，对所述图像压缩包进行解封；
生成图像单元，用于利用内容生成器将解封后的图像压缩包生成相应的图像内容。
可选的，所述眼镜端与所述控制端之间通过有线和/或者无线通信方式进行数据传输。
可选的，还包括：
确定单元，用于确定所述用户请求是否为操作请求；
提取单元，用于当确定所述用户请求为操作请求时，从所述用户请求中提取操作内容；所述操作内容中至少包括以下之一：显示位置、显示大小、图像归类、显示模式、体验类型、编辑、点击、翻页；
生成指令单元，用于基于所述操作内容，生成相应的操作指令，以完成用户与所述眼镜端和/或者所述控制端之间的交互。
可选的，生成指令单元具体用于，当所述眼镜端接收所述用户请求时，从所述用户请求中提取特征信息和操作内容；将特征信息与所述虚拟屏幕中的图像内容进行匹配，得到目标图像；生成基于所述目标图像对应的操作内容的操作指令，以完成用户与所述眼睛端和/或者所述控制端之间的交互。
可选的，图像内容的显示模式为2D模式或者3D模式。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统和装置的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
结合图7所示，示出了控制端在完成AR设备的屏幕拓展方法的硬件结构图。
如图所示，控制端包括输入响应模块、数据采集模块、数据传输模块、处理单元，数据采集模块中，包括图像采集单元和音频采集单元。
其中，输入响应模块，此模块主要负责对输入内容进行解析，
数据采集模块，对桌面的应用程序画面进行采集、视频帧封装、压缩，包括但不限于FFmpeg、VLC等，最终输出视频数据，此模块可同时对多个应用程序进行采集
数据传输模块，将采集到的数据进行传输，包括有线、无线两种方式，有线方式可以直接通过设备端口进行数据传输，无线方式可利用网络传输协议，包括但不限于TCP、UDP以及基于此二种协议的各类传输协议。
结合图8所示，示出了眼镜端(MR端)在完成AR设备的屏幕拓展方法的硬件结构图。
如图所示，MR端包括：数据接收模块、数据解析模块、处理模块、内容解析模块、内容展现模块、存储模块。处理模块包括数据融合模块、渲染模块。
其中，数据接收模块，此模块主要负责对PC端数据的接收，包括但不限于TCP、UDP以及基于此二种协议的各类传输协议。
数据解析模块，对接收到的数据进行解析，视频数据的解析包括但不限于FFmpeg、VLC等。
处理模块，处理模块包括的渲染模块，主要负责接收渲染后的数据，然后利用数据融合单元技术进行融合，输出到内容展示模块。另外，图像内容的渲染任务可以交给外部渲染单元进行渲染。作为另一种是实现方式为：图像内容的渲染工作可以有外部渲染单元和MR端内部的渲染模块共同完成。
内容解析模块，得到此内容的展现方式以及其展现内容，最终的内容可以通过内容生成器来生成，也可以通过事先预制的方式从内容库调取。
内容展现模块，视频数据利用播放模块进行播放，其他非视频内容利用内容解析模块解析后再通过内容展现模块进行展现，内容展现模块又包含了视角切换功能，能对部分内容，如游戏，进行视角切换。
以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，又例如，多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对步骤、数字表达式和数值并不限制本发明的范围。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
其中，存储器可能包含高速随机存取存储器(RAM，Random Access Memory)，也可能还包括非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。
处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital SignalProcessing，简称DSP)、专用集成电路(Application Specific Integrated Circuit，简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。
另外，在本发明实施例的描述中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。
在本发明的描述中，需要说明的是，术语“中心”、“上”、“下”、“左”、“右”、“竖直”、“水平”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”、“第三”仅用于描述目的，而不能理解为指示或暗示相对重要性。
最后应说明的是：以上所述实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。
Claims (11)
1.一种AR设备的屏幕拓展方法，所述AR设备包括眼镜端和控制端，其特征在于，包括：
对AR设备的显示区域进行划分，划分至少一个虚拟屏幕用于显示图像内容；
采集待显示图像对应的图像内容；
将所述图像内容发送至虚拟屏幕，以使所述虚拟屏幕显示所述图像内容。
2.根据权利要求1所述的方法，其特征在于，对所述AR设备的显示区域进行划分，包括：
接收用户请求；
根据所述用户请求，确定在所述眼镜端中显示的虚拟屏幕的个数；
根据所述虚拟屏幕的个数，对所述AR设备的显示区域进行划分。
3.根据权利要求1所述的方法，其特征在于，对所述AR设备的显示区域进行划分，包括：
获取预设的划分模式；
根据所述划分模式，对所述AR设备的显示区域进行划分。
4.根据权利要求2或3所述的方法，其特征在于，所述采集待显示图像对应的图像内容，包括：
基于所述用户请求，确定所述图像内容存储的位置；
从所述存储的位置，采集所述待显示图像对应的图像内容，传输至眼镜端和/或控制端，显示所述图像内容；
所述位置为所述眼镜端和/或所述控制端。
5.根据权利要求4所述的方法，其特征在于，从所述存储的位置，采集待显示图像对应的图像内容，包括：
当所述图像内容存储的位置在所述控制端时，从所述控制端采集图像内容；
采用图像压缩工具，将所述图像内容进行封装、压缩，得到图像压缩包，将所述图像压缩包传输到所述眼镜端。
6.根据权利要求5所述的方法，其特征在于，将所述图像内容发送至所述虚拟屏幕，以使所述虚拟屏幕显示所述图像内容的步骤之前，还包括：
采用解压工具，对所述图像压缩包进行解封；
利用内容生成器将解封后的图像压缩包生成相应的图像内容。
7.根据权利要求4所述的方法，其特征在于，还包括：通过压缩工具将图像内容封装、压缩，得到图像压缩包；然后采用解压工具，对所述图像压缩包进行解封，利用内容生成器将解封后的图像压缩包生成相应的图像内容。
8.根据权利要求6或7所述的方法，其特征在于，所述眼镜端与所述控制端之间通过有线和/或者无线通信方式进行数据传输。
9.根据权利要求2所述的方法，其特征在于，在所述接收用户请求的步骤之后，还包括：
确定所述用户请求是否为操作请求；
如果是，则从所述用户请求中提取操作内容；
基于所述操作内容，生成相应的操作指令，以完成用户与所述眼镜端和/或者所述控制端之间的交互。
10.根据权利要求9所述的方法，其特征在于，当所述眼镜端接收所述用户请求时，基于所述操作内容，生成相应的操作指令，以完成用户与所述眼睛端和/或者所述控制端之间的交互，包括：
从所述用户请求中提取特征信息和操作内容；
将特征信息与所述虚拟屏幕中的图像内容进行匹配，得到目标图像；
生成基于所述目标图像对应的操作内容的操作指令，以完成用户与所述眼睛端和/或者所述控制端之间的交互。
11.根据权利要求1-10任一项所述的方法，其特征在于，所述图像内容的显示模式为2D模式或者3D模式。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810541800.2A CN108924538B (zh) | 2018-05-30 | 2018-05-30 | Ar设备的屏幕拓展方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810541800.2A CN108924538B (zh) | 2018-05-30 | 2018-05-30 | Ar设备的屏幕拓展方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN108924538A true CN108924538A (zh) | 2018-11-30 |
| CN108924538B CN108924538B (zh) | 2021-02-26 |
Family
ID=64417944
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810541800.2A Active CN108924538B (zh) | 2018-05-30 | 2018-05-30 | Ar设备的屏幕拓展方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108924538B (zh) |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109992175A (zh) * | 2019-04-03 | 2019-07-09 | 腾讯科技（深圳）有限公司 | 用于模拟盲人感受的物体显示方法、装置及存储介质 |
| CN111031294A (zh) * | 2019-12-29 | 2020-04-17 | 歌尔科技有限公司 | 一种ar眼镜系统、一种图像显示方法和存储介质 |
| CN111176520A (zh) * | 2019-11-13 | 2020-05-19 | 联想(北京)有限公司 | 一种调整方法及装置 |
| WO2020192451A1 (en) * | 2019-03-22 | 2020-10-01 | Yutou Technology (Hangzhou) Co. Ltd. | Real-time picture projection method and apparatus of ar glasses screen, controller and medium |
| CN113391734A (zh) * | 2020-03-12 | 2021-09-14 | 华为技术有限公司 | 图像处理方法和图像显示设备、存储介质和电子设备 |
| WO2022062899A1 (zh) * | 2020-09-25 | 2022-03-31 | 华为技术有限公司 | 基于vr场景的视频预览方法、电子设备和存储介质 |
| CN114286077A (zh) * | 2021-01-08 | 2022-04-05 | 海信视像科技股份有限公司 | 一种虚拟现实设备及vr场景图像显示方法 |
| CN116932119A (zh) * | 2023-09-15 | 2023-10-24 | 深圳市其域创新科技有限公司 | 虚拟屏幕显示方法、装置、设备及计算机可读存储介质 |
| US11880956B2 (en) | 2019-08-28 | 2024-01-23 | Shenzhen Sensetime Technology Co., Ltd. | Image processing method and apparatus, and computer storage medium |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105843390A (zh) * | 2016-02-24 | 2016-08-10 | 上海理湃光晶技术有限公司 | 一种图像缩放的方法与基于该方法的ar眼镜 |
| CN105898342A (zh) * | 2015-12-30 | 2016-08-24 | 乐视致新电子科技（天津）有限公司 | 一种视频的多点同屏播放方法及系统 |
| CN106598390A (zh) * | 2016-12-12 | 2017-04-26 | 联想(北京)有限公司 | 一种显示方法、电子设备及显示装置 |
-
2018
- 2018-05-30 CN CN201810541800.2A patent/CN108924538B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105898342A (zh) * | 2015-12-30 | 2016-08-24 | 乐视致新电子科技（天津）有限公司 | 一种视频的多点同屏播放方法及系统 |
| CN105843390A (zh) * | 2016-02-24 | 2016-08-10 | 上海理湃光晶技术有限公司 | 一种图像缩放的方法与基于该方法的ar眼镜 |
| CN106598390A (zh) * | 2016-12-12 | 2017-04-26 | 联想(北京)有限公司 | 一种显示方法、电子设备及显示装置 |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020192451A1 (en) * | 2019-03-22 | 2020-10-01 | Yutou Technology (Hangzhou) Co. Ltd. | Real-time picture projection method and apparatus of ar glasses screen, controller and medium |
| CN109992175A (zh) * | 2019-04-03 | 2019-07-09 | 腾讯科技（深圳）有限公司 | 用于模拟盲人感受的物体显示方法、装置及存储介质 |
| US11880956B2 (en) | 2019-08-28 | 2024-01-23 | Shenzhen Sensetime Technology Co., Ltd. | Image processing method and apparatus, and computer storage medium |
| CN111176520A (zh) * | 2019-11-13 | 2020-05-19 | 联想(北京)有限公司 | 一种调整方法及装置 |
| CN111031294A (zh) * | 2019-12-29 | 2020-04-17 | 歌尔科技有限公司 | 一种ar眼镜系统、一种图像显示方法和存储介质 |
| CN113391734A (zh) * | 2020-03-12 | 2021-09-14 | 华为技术有限公司 | 图像处理方法和图像显示设备、存储介质和电子设备 |
| WO2021180183A1 (zh) * | 2020-03-12 | 2021-09-16 | 华为技术有限公司 | 图像处理方法和图像显示设备、存储介质和电子设备 |
| WO2022062899A1 (zh) * | 2020-09-25 | 2022-03-31 | 华为技术有限公司 | 基于vr场景的视频预览方法、电子设备和存储介质 |
| CN114286077A (zh) * | 2021-01-08 | 2022-04-05 | 海信视像科技股份有限公司 | 一种虚拟现实设备及vr场景图像显示方法 |
| CN114286077B (zh) * | 2021-01-08 | 2024-05-17 | 海信视像科技股份有限公司 | 一种虚拟现实设备及vr场景图像显示方法 |
| CN116932119A (zh) * | 2023-09-15 | 2023-10-24 | 深圳市其域创新科技有限公司 | 虚拟屏幕显示方法、装置、设备及计算机可读存储介质 |
| CN116932119B (zh) * | 2023-09-15 | 2024-01-02 | 深圳市其域创新科技有限公司 | 虚拟屏幕显示方法、装置、设备及计算机可读存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN108924538B (zh) | 2021-02-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108924538A (zh) | Ar设备的屏幕拓展方法 | |
| US10863168B2 (en) | 3D user interface—360-degree visualization of 2D webpage content | |
| CN108205431B (zh) | 显示设备及其控制方法 | |
| JP7270661B2 (ja) | ビデオの処理方法および装置、電子機器、記憶媒体並びにコンピュータプログラム | |
| US11003305B2 (en) | 3D user interface | |
| CN111414225B (zh) | 三维模型远程展示方法、第一终端、电子设备及存储介质 | |
| US11450044B2 (en) | Creating and displaying multi-layered augemented reality | |
| CN109845275B (zh) | 用于视场虚拟现实流传输的会话控制支持的方法和装置 | |
| US20160261841A1 (en) | Method and device for synthesizing three-dimensional background content | |
| US11113787B2 (en) | Image distribution device, image distribution system, image distribution method, and image distribution program | |
| EP2728859A2 (en) | Method of providing information-of-users' interest when video call is made, and electronic apparatus thereof | |
| CN110419224A (zh) | 用于封装和流传输虚拟现实媒体内容的方法和装置 | |
| US20220159197A1 (en) | Image special effect processing method and apparatus, and electronic device and computer readable storage medium | |
| US20200336676A1 (en) | Electronic device and operation method thereof | |
| US11310441B2 (en) | Electronic device for generating a background image for a display apparatus and operation method thereof | |
| US20220172440A1 (en) | Extended field of view generation for split-rendering for virtual reality streaming | |
| US20240163392A1 (en) | Image special effect processing method and apparatus, and electronic device and computer readable storage medium | |
| US10623713B2 (en) | 3D user interface—non-native stereoscopic image conversion | |
| JP4892405B2 (ja) | 画像処理装置および方法 | |
| KR101711822B1 (ko) | 메타 데이터를 이용한 디바이스 원격 제어 장치 및 방법 | |
| CN106412718A (zh) | 一种字幕在3d空间中的渲染方法及其装置 | |
| CN109308740A (zh) | 3d场景数据处理方法、装置及电子设备 | |
| US20170169792A1 (en) | Electronic device and method for releasing content to multiple terminals | |
| KR102443049B1 (ko) | 전자 장치 및 그 동작 방법 | |
| KR20170002921A (ko) | 디지털 조립 설명서를 생성하는 장치 및 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |