CN117131888A - 一种自动扫描虚拟空间二维码方法、电子设备及系统 - Google Patents
一种自动扫描虚拟空间二维码方法、电子设备及系统 Download PDFInfo
- Publication number
- CN117131888A CN117131888A CN202310390616.3A CN202310390616A CN117131888A CN 117131888 A CN117131888 A CN 117131888A CN 202310390616 A CN202310390616 A CN 202310390616A CN 117131888 A CN117131888 A CN 117131888A
- Authority
- CN
- China
- Prior art keywords
- dimensional code
- code image
- user
- virtual
- virtual space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 77
- 230000015654 memory Effects 0.000 claims description 43
- 230000004044 response Effects 0.000 claims description 18
- 238000003860 storage Methods 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 6
- 230000001976 improved effect Effects 0.000 abstract description 5
- 238000004891 communication Methods 0.000 description 35
- 230000003287 optical effect Effects 0.000 description 27
- 238000012545 processing Methods 0.000 description 26
- 230000006870 function Effects 0.000 description 25
- 238000010295 mobile communication Methods 0.000 description 15
- 238000005516 engineering process Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 12
- 230000033001 locomotion Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000013461 design Methods 0.000 description 6
- 239000011521 glass Substances 0.000 description 6
- 230000003993 interaction Effects 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 5
- 229920001621 AMOLED Polymers 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 210000003128 head Anatomy 0.000 description 4
- 238000009877 rendering Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000004424 eye movement Effects 0.000 description 3
- 210000001747 pupil Anatomy 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 2
- 230000003416 augmentation Effects 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 210000004027 cell Anatomy 0.000 description 2
- 238000005094 computer simulation Methods 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 239000002096 quantum dot Substances 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 230000008093 supporting effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 239000006117 anti-reflective coating Substances 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000005266 casting Methods 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000010408 sweeping Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
- G06K7/00—Methods or arrangements for sensing record carriers, e.g. for reading patterns
- G06K7/10—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
- G06K7/14—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
- G06K7/1404—Methods for optical code recognition
- G06K7/1408—Methods for optical code recognition the method being specifically adapted for the type of code
- G06K7/1417—2D bar codes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
- G06K17/00—Methods or arrangements for effecting co-operative working between equipments covered by two or more of main groups G06K1/00 - G06K15/00, e.g. automatic card files incorporating conveying and reading operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
- G06K7/00—Methods or arrangements for sensing record carriers, e.g. for reading patterns
- G06K7/10—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06K—GRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
- G06K7/00—Methods or arrangements for sensing record carriers, e.g. for reading patterns
- G06K7/10—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
- G06K7/14—Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
- G06K7/1404—Methods for optical code recognition
- G06K7/1439—Methods for optical code recognition including a method step for retrieval of the optical code
- G06K7/1456—Methods for optical code recognition including a method step for retrieval of the optical code determining the orientation of the optical code with respect to the reader and correcting therefore
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Toxicology (AREA)
- Electromagnetism (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请公开了一种自动扫描虚拟空间二维码方法、电子设备及系统,涉及终端技术领域。当头戴式显示设备的虚拟空间显示的第一界面中包括二维码图像时,用户移动虚拟空间中射线的位置,将虚拟空间中射线与第一界面的交点(显示为虚拟光标)移动至该二维码图像上。如果虚拟光标在二维码图像上停留的时长大于或等于预设的第一时长,自动扫描和识别该二维码图像。该方法中,不需要用户手动执行复杂的操作,可以自动探测和识别虚拟空间中的二维码,提升了用户的操作效率。
Description
技术领域
本申请涉及终端技术领域,尤其涉及一种自动扫描虚拟空间二维码方法、电子设备及系统。
背景技术
随着计算机图形技术的发展,增强现实(augmented reality,AR)、虚拟现实(virtual reality,VR)、混合现实(mediated reality,MR)等扩展现实(extendedreality,XR)技术逐渐应用到人们的生活中。目前,很多头戴式显示设备应用了XR技术,用户可以很方便地通过头戴式显示设备体验XR技术带来的视觉效果。
二维码的应用也越来越广泛,与人们的生活息息相关。很多场景都需要扫描二维码。头戴式显示设备的虚拟空间显示界面中也经常包括二维码。目前,扫描虚拟空间中二维码的操作方式比较繁琐,用户体验较差。
发明内容
本申请实施例提供一种自动扫描虚拟空间二维码方法、电子设备及系统,扫描虚拟空间中二维码的操作方式方便快捷,能够提升用户的使用体验。
为达到上述目的,本申请的实施例采用如下技术方案:
第一方面,提供了一种自动扫描虚拟空间二维码方法,该方法包括:头戴式显示设备的虚拟空间显示第一界面;该第一界面包括二维码图像。用户移动虚拟空间中射线的位置,将虚拟空间中射线与第一界面的交点(显示为虚拟光标)移动至该二维码图像上。如果虚拟光标在二维码图像上停留的时长大于或等于预设的第一时长,扫描该二维码图像。
在该方法中,当用户操作虚拟光标至虚拟空间中二维码区域时,可以自动探测和识别虚拟空间中的二维码,不需要用户手动执行复杂的操作,提升了用户的操作效率。
其中,在一种实施方式中,第一时长大于0,即虚拟光标在二维码图像上停留一段时间,触发扫描该二维码图像。在另一种实施方式中,第一时长也可以设置为0,虚拟光标移动至二维码图像上,即自动对该二维码图像进行扫码。
结合第一方面,在一种实施方式中,该方法还包括:响应于虚拟光标在二维码图像上停留的时长大于或等于预设的第一时长,在二维码图像上显示扫码框。
也就是说,虚拟光标移动至二维码图像上后,虚拟光标会变为扫码框,直观的提示用户。
结合第一方面,在一种实施方式中,响应于虚拟光标在二维码图像上停留的时长大于或等于预设的第一时长,在二维码图像上显示扫码框,提示用户可以进行扫码;如果用户点击扫码框,响应于用户点击扫码框的操作,扫描该二维码图像。这样的话,可以由用户决定是否触发扫码。
结合第一方面,在一种实施方式中,接收用户移动虚拟光标至二维码图像的操作,包括:接收用户通过在虚拟空间中的手势移动虚拟光标至二维码图像的操作;或者,接收用户通过在移动设备的触摸板界面执行滑动手势,移动虚拟光标至二维码图像的操作。
结合第一方面,在一种实施方式中,该方法还包括:检测到虚拟光标移动至虚拟空间中第一位置且虚拟光标在第一位置停留的时长大于或等于预设的第一时长后,对第一界面进行截图,获取第一图像;获取第一图像中二维码图像的区域范围;获取虚拟光标在虚拟空间中的第一位置;如果第一位置在二维码图像的区域范围内,确定虚拟光标在二维码图像上。
第二方面,提供了一种自动扫描虚拟空间二维码方法,应用于移动设备,该移动设备与头戴式显示设备连接,移动设备提供头戴式显示设备的显示数据,该方法包括:移动设备响应于用户操作,移动头戴式显示设备的虚拟空间中射线的位置,使得射线与第一界面的交点(虚拟光标)移动至虚拟空间显示的第一界面中二维码图像上;响应于虚拟光标在二维码图像上停留的时长大于或等于预设的第一时长,扫描二维码图像。
在该方法中,当用户通过移动设备操作头戴式显示设备的虚拟空间中的射线,使得虚拟光标移动至虚拟空间中二维码区域时,移动设备可以自动探测和识别虚拟空间中的二维码,不需要用户手动执行复杂的操作,提升了用户的操作效率。
其中,在一种实施方式中,第一时长大于0,即虚拟光标在二维码图像上停留一段时间,触发扫描该二维码图像。在另一种实施方式中,第一时长也可以设置为0,虚拟光标移动至二维码图像上,即自动对该二维码图像进行扫码。
结合第二方面,在一种实施方式中,该方法还包括:响应于虚拟光标在二维码图像上停留的时长大于或等于预设的第一时长,在二维码图像上显示扫码框。也就是说,虚拟光标移动至二维码图像上后,虚拟光标会变为扫码框,直观的提示用户。
结合第二方面,在一种实施方式中,响应于虚拟光标在二维码图像上停留的时长大于或等于预设的第一时长,在二维码图像上显示扫码框;响应于用户点击扫码框的操作,扫描二维码图像。这样的话,可以由用户决定是否触发扫码。
结合第二方面,在一种实施方式中,该方法还包括:检测到虚拟光标移动至虚拟空间中第一位置且虚拟光标在第一位置停留的时长大于或等于预设的第一时长后,对第一界面进行截图,获取第一图像;获取第一图像中二维码图像的区域范围;获取虚拟光标在虚拟空间中的第一位置;如果第一位置在二维码图像的区域范围内,确定虚拟光标在二维码图像上。
第三方面,提供了一种头戴式显示设备,该头戴式显示设备具有实现上述第一方面所述方法的功能。该功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。
第四方面,提供了一种头戴式显示设备,包括:处理器和存储器;该存储器用于存储计算机执行指令,当该头戴式显示设备运行时,该处理器执行该存储器存储的该计算机执行指令,以使该头戴式显示设备执行如上述第一方面中任一项所述的方法。
第五方面,提供了一种头戴式显示设备,包括:处理器;所述处理器用于与存储器耦合,并读取存储器中的指令之后,根据所述指令执行如上述第一方面中任一项所述的方法。
第六方面,提供了一种移动设备,该移动设备具有实现上述第二方面所述的方法的功能。该功能可以通过硬件实现,也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。
第七方面,提供了一种移动设备,包括:处理器、触摸屏和存储器;该存储器用于存储计算机执行指令,当该移动设备运行时,该处理器执行该存储器存储的该计算机执行指令,以使该移动设备执行如上述第二方面中任一项所述的方法。
第八方面,提供了一种移动设备,包括:处理器;所述处理器用于与存储器耦合,并读取存储器中的指令之后,根据所述指令执行如上述第二方面中任一项所述的方法。
第九方面,提供了一种计算机可读存储介质,该计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机可以执行上述第一方面或第二方面中任一项所述的方法。
第十方面,提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机可以执行上述第一方面或第二方面中任一项所述的方法。
第十一方面,提供了一种装置(例如,该装置可以是芯片系统),该装置包括处理器,用于支持电子设备实现上述第一方面或第二方面中所涉及的功能。在一种可能的设计中,该装置还包括存储器,该存储器,用于保存电子设备必要的程序指令和数据。该装置是芯片系统时,可以由芯片构成,也可以包含芯片和其他分立器件。
其中,第三方面至第十一方面中任一种设计方式所带来的技术效果可参见第一方面或第二方面中不同设计方式所带来的技术效果,此处不再赘述。
附图说明
图1为本申请实施例提供的自动扫描虚拟空间二维码方法所适用的一种头戴式显示设备示意图;
图2为本申请实施例提供的一种头戴式显示设备的光学构成示意图;
图3为本申请实施例提供的自动扫描虚拟空间二维码方法所适用的一种系统架构示意图;
图4为本申请实施例提供的一种头戴式显示设备的硬件结构示意图;
图5为本申请实施例提供的一种移动设备的硬件结构示意图;
图6为用户与头戴式显示设备进行人机交互的一种场景实例示意图;
图7为用户与头戴式显示设备进行人机交互的另一种场景实例示意图;
图8为一种用户启动扫描虚拟空间显示界面中二维码的操作步骤示意图;
图9为本申请实施例提供的自动扫描虚拟空间二维码方法的场景实例示意图;
图10为本申请实施例提供的自动扫描虚拟空间二维码方法的流程示意图一;
图11为本申请实施例提供的自动扫描虚拟空间二维码方法的流程示意图二;
图12为本申请实施例提供的自动扫描虚拟空间二维码方法的一种原理示意图;
图13为本申请实施例提供的一种电子设备结构组成示意图;
图14为本申请实施例提供的一种芯片系统结构组成示意图。
具体实施方式
在本申请实施例的描述中,以下实施例中所使用的术语只是为了描述特定实施例的目的,而并非旨在作为对本申请的限制。如在本申请的说明书和所附权利要求书中所使用的那样,单数表达形式“一种”、“所述”、“上述”、“该”和“这一”旨在也包括例如“一个或多个”这种表达形式,除非其上下文中明确地有相反指示。还应当理解,在本申请以下各实施例中,“至少一个”、“一个或多个”是指一个或两个以上(包含两个)。术语“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系;例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B的情况,其中A、B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。
在本说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。术语“连接”包括直接连接和间接连接,除非另外说明。“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。
在本申请实施例中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
头戴式显示设备利用AR、VR、MR等技术在虚拟空间显示图像,可以使得用户感受到3D场景,为用户提供AR/VR/MR体验。该3D场景可包括3D的图像、3D的视频、音频等。头戴式显示设备的可实现形式包括头盔、眼镜、耳机等可以佩戴在用户头部的电子装置。示例性的,如图1所示,头戴式显示设备100可以在虚拟空间内显示图像,用户佩戴头戴式显示设备100就可以观看到虚拟空间内的显示图像,感受AR/VR/MR体验。可以理解的,图1所示虚拟空间是一个平面,在实际使用中,虚拟空间可以是存在曲率的弯曲空间。
图2示例性示出了本申请实施例提供的头戴式显示设备100的光学构成。如图2所示,头戴式显示设备100可包括:显示屏101、光学组件102、显示屏103、光学组件104。其中,显示屏101和显示屏103可以是一个整体,即一整块屏幕的左右两个部分。光学组件102和光学组件104的材质、结构等相同。光学组件102和光学组件104可由一个或多个透镜组成,该透镜可包括凸透镜、菲涅尔透镜或其他类型的透镜中的一个或多个。
显示屏101和光学组件102对应于用户的左眼。用户佩戴头戴式显示设备100时,显示屏101上可以显示有图像a1。显示屏101显示图像a1时发出的光经过光学组件102的透射后将在用户左眼前方形成该图像a1的虚像a1’。
显示屏103和光学组件104对应于用户的右眼。用户佩戴头戴式显示设备时,显示屏103可以显示有图像a2。显示屏103显示图像a2时发出的光经过光学组件104的透射后将在用户右眼前方形成该图像a2的虚像a2’。
图像a1和图像a2为针对同一物体例如物体a的具有视差的两幅图像。视差是指从有一定距离的两个点上观察同一个物体时,该物体在视野中位置的差异。虚像a1’和虚像a2’位于同一平面上,该平面可以被称为虚像面。
在佩戴头戴式显示设备100时,用户的左眼会聚焦到虚像a1’上,用户的右眼会聚焦到虚像a2’上。然后,虚像a1’和虚像a2’会在用户的大脑中叠加成为一幅完整且具有立体感的图像,该过程被称为辐辏。在辐辏过程中,双眼视线的交汇点会被用户认为是图像a1和图像a2所描述的物体实际所在的位置。由于辐辏过程,用户便可以感受到头戴式显示设备100提供的3D场景。
可选的,头戴式显示设备100和移动设备200可以组成一个系统。示例性的,如图3所示,该系统10包括头戴式显示设备100和移动设备200。头戴式显示设备100和移动设备200之间可以通过有线或者无线的方式连接。有线连接可包括通过通用串行总线(universal serial bus,USB)接口、高清晰度多媒体接口(high definition multimediainterface,HDMI)等接口进行通信的有线连接。无线连接可包括通过蓝牙、无线保真(wireless fidelity,Wi-Fi)直连(如Wi-Fi p2p)、Wi-Fi softAP、Wi-Fi LAN、射频等技术进行通信的无线连接中一项或多项。本申请实施例对二者的连接方式不作限制。
其中,移动设备200可以是手机、平板电脑,还可以是具有触敏表面或触控面板的膝上型计算机(Laptop)、具有触敏表面或触控面板的台式计算机等非便携式终端设备。移动设备200可运行特定应用程序,以提供传输给头戴式显示设备100显示的内容,该应用程序例如可以是视频应用、游戏应用、音乐应用、桌面应用、镜像投屏应用等。头戴式显示设备100可佩戴于用户头部,相当于移动设备200的一个外延显示器。移动设备200为头戴式显示设备100提供显示数据。
移动设备200还可充当输入设备,接收点击、滑动等用户操作,而且可向头戴式显示设备100的虚拟空间(AR空间、VR空间或MR空间)中投递射线,以模拟鼠标作用,便于用户对头戴式显示设备100所显示的内容作出的控制操作。
当移动设备200用作输入设备时,可通过其配置的多种传感器,例如触敏传感器、加速度传感器、陀螺仪传感器、磁传感器、压力传感器等,接收用户输入。其中,加速度传感器、陀螺仪传感器可用于检测用户移动移动设备200的操作,该操作可用来改变射线的方向;触敏传感器、压力传感器等可用来检测用户在触控屏等触摸面板上的触控操作,例如滑动操作、点击操作、短按操作、长按操作等。
头戴式显示设备100可以配置有一些物理按键,以接收一些用户输入,例如用于开关屏的按键、用于调整屏幕亮度的按键、用于切换空间模式和镜像模式的按键等。这些用户输入可通过头戴式显示设备100与移动设备200之间的有线或无线通信连接传输至移动设备200,继而触发移动设备200对此作出响应。例如,响应于从空间模式切换到镜像模式的用户输入,移动设备200可停止向头戴式显示设备100传输空间模式的显示数据,而开始传输镜像模式的显示数据。镜像模式的显示数据主要是移动设备200的屏幕流,可由移动设备200上的镜像投屏应用提供。空间模式的显示数据可由移动设备200上的特定应用程序提供,该特定应用程序可以是视频应用、游戏应用、音乐应用、桌面应用等。
用户看到头戴式显示设备100显示的图像后,可以通过在移动设备200或者头戴式显示设备100输入用户操作,以控制虚拟空间内的显示内容,以及头戴式显示设备100的工作状态,例如开关状态、屏幕亮度等。
图4示例性示出了本申请实施例提供的头戴式显示设备100的硬件架构。如图4所示,头戴式显示设备100可包括:处理器110、存储器111、通信模块112、传感器系统113、摄像头114、显示装置115、音频装置116。以上各个部件可以耦合连接并相互通信。
可理解的,图4所示的结构并不构成对头戴式显示设备100的具体限定。在本申请另一些实施例中,头戴式显示设备100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。例如,头戴式显示设备100还可以包括物理按键如开关键、音量键、屏幕亮度调节键,以及各类接口,例如USB接口等。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器可以包括AP,调制解调处理器,GPU,ISP,控制器,视频编解码器,DSP,基带处理器,和/或NPU等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制,使得各个部件执行相应的功能,例如人机交互、运动跟踪/预测、渲染显示、音频处理等。
存储器111可存储一些可执行的指令。存储器111可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储头戴式显示设备100使用过程中所创建的数据(比如音频数据等)等。此外,存储器111可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flashstorage,UFS)等。处理器110通过运行存储在存储器111的指令,和/或存储在设置于处理器中的存储器的指令,执行头戴式显示设备100的各种功能应用以及数据处理。
通信模块112可包括移动通信模块和无线通信模块。其中,移动通信模块可以提供应用在头戴式显示设备100上的包括2G/3G/4G/5G等无线通信的解决方案。无线通信模块可以提供应用在头戴式显示设备100上的包括无线局域网(wireless local area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块可以是集成至少一个通信处理模块的一个或多个器件。
传感器系统113可包括加速度计、指南针、陀螺仪、磁力计、或用于检测运动的其他传感器等。传感器系统113用于采集对应的数据,例如加速度传感器采集头戴式显示设备100加速度、陀螺仪传感器采集头戴式显示设备100的运动速度等。传感器系统113采集到的数据可以反映佩戴该头戴式显示设备100的用户头部的运动情况。在一些实施例中,传感器系统113可以为设置在头戴式显示设备100内的惯性测量单元(inertial measurementunit,IMU)。在一些实施例中,头戴式显示设备100可以将传感器系统获取到的数据发送给处理器110进行分析。用户可以可通过在头戴式显示设备100上输入头部运动操作,来触发头戴式显示设备100执行对应的功能。用户头部的运动情况可包括:是否转动、转动的方向等。
传感器系统113还可以包括光学传感器,用于结合摄像头114来跟踪用户的眼睛位置以及捕获眼球运动数据。该眼球运动数据例如可以用于确定用户的眼间距、每只眼睛相对于头戴式显示设备100的3D位置、每只眼睛的扭转和旋转(即转动、俯仰和摇动)的幅度和注视方向等。在一个示例中,红外光在头戴式显示设备100内发射并从每只眼睛反射,反射光由摄像头114或者光学传感器检测到,检测到的数据被传输给处理器110,以使得处理器110从每只眼睛反射的红外光的变化中分析用户眼睛的位置、瞳孔直径、运动状态等。
摄像头114可以用于捕捉捕获静态图像或视频。该静态图像或视频可以是面向外部的用户周围的图像或视频,也可以是面向内部的图像或视频。摄像头114可以跟踪用户单眼或者双眼的运动。摄像头114包括但不限于传统彩色摄像头(RGB camera)、深度摄像头(RGB depth camera)、动态视觉传感器(dynamic vision sensor,DVS)相机等。深度摄像头可以获取被拍摄对象的深度信息。在一些实施例中,摄像头114可用于捕捉用户眼睛的图像,并将图像发送给处理器110进行分析。处理器110可以根据摄像头114采集到的图像,确定用户眼睛的状态,并根据用户眼睛所处的状态执行对应的功能。也就是说,用户可通过在头戴式显示设备100上输入眼睛运动操作,来触发头戴式显示设备100执行对应的功能。用户眼睛的状态可包括:是否转动、转动的方向、是否长时间未转动、看向外界的角度等。
音频装置116用于实现音频的采集以及输出。音频装置116可包括但不限于:麦克风、扬声器、耳机等。
头戴式显示设备100通过GPU,显示装置115,以及应用处理器等来呈现或者显示图像。
GPU为图像处理的微处理器,连接显示装置115和应用处理器。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。GPU用于根据从处理器110处得到的数据执行数学和几何计算,利用计算机图形技术、计算机仿真技术等来渲染图像,以提供用于在显示装置115上显示的内容。GPU还用于将校正或预失真添加到图像的渲染过程中,以补偿或校正由显示装置115中的光学组件引起的失真。GPU还可以基于来自传感器系统113的数据来调整提供给显示装置115的内容。例如,GPU可以基于用户眼睛的3D位置、瞳距等在提供给显示装置115的内容中添加景深信息。
显示装置115可包括:一个或多个显示屏、一个或多个光学组件。这里,显示屏和光学组件的结构以及它们之间的位置关系可参考图2中的相关描述。其中,显示屏可包括显示面板,显示面板可以用于显示图像,从而为用户呈现立体的虚拟场景。显示面板可以采用LCD,OLED,AMOLED,FLED,Miniled,MicroLed,Micro-oLed,QLED等。光学组件可用于将来自显示屏的光引导至出射光瞳以供用户感知。在一些实施方式中,光学组件中的一个或多个光学元件(例如透镜)可具有一个或多个涂层,诸如,抗反射涂层。光学组件对图像光的放大允许显示屏在物理上更小、更轻、消耗更少的功率。另外,图像光的放大可以增加显示屏显示的内容的视野。例如,光学组件可以使得显示屏所显示的内容的视野为用户的全部视野。
图5示例性示出了本申请实施例提供的移动设备200的硬件架构图。如图5所示,该移动设备200可以包括处理器210,外部存储器接口220,内部存储器221,通用串行总线(universal serial bus,USB)接口230,充电管理模块240,电源管理模块241,电池242,天线1,天线2,移动通信模块250,无线通信模块260,音频模块270,扬声器270A,受话器270B,麦克风270C,传感器模块280,摄像头291,显示屏292。其中传感器模块280可以包括压力传感器,陀螺仪传感器,气压传感器,磁传感器,加速度传感器,距离传感器,接近光传感器,指纹传感器,温度传感器,触摸传感器,环境光传感器,骨传导传感器等。
其中,处理器210可以包括一个或多个处理单元,例如:处理器210可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器210中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器210中的存储器为高速缓冲存储器。该存储器可以保存处理器210刚用过或循环使用的指令或数据。如果处理器210需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器210的等待时间,因而提高了系统的效率。
在一些实施例中,处理器210可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
充电管理模块240用于从充电器接收充电输入。其中,充电器可以是无线充电器,也可以是有线充电器。
电源管理模块241用于连接电池242,充电管理模块240与处理器210。
移动设备200的无线通信功能可以通过天线1,天线2,移动通信模块250,无线通信模块260,调制解调处理器以及基带处理器等实现。
天线1和天线2用于发射和接收电磁波信号。移动设备200中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将天线1复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块250可以提供应用在移动设备200上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块250可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(low noise amplifier,LNA)等。移动通信模块250可以由天线1接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块250还可以对经调制解调处理器调制后的信号放大,经天线1转为电磁波辐射出去。在一些实施例中,移动通信模块250的至少部分功能模块可以被设置于处理器210中。在一些实施例中,移动通信模块250的至少部分功能模块可以与处理器210的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器270A,受话器270B等)输出声音信号,或通过显示屏292显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器210,与移动通信模块250或其他功能模块设置在同一个器件中。
无线通信模块260可以提供应用在移动设备200上的包括无线局域网(WLAN)(如无线保真(Wi-Fi)网络),蓝牙(BT),全球导航卫星系统(GNSS),调频(FM),近距离无线通信技术(NFC),红外技术(IR)等无线通信的解决方案。无线通信模块260可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块260经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器210。无线通信模块260还可以从处理器210接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,移动设备200的天线1和移动通信模块250耦合,天线2和无线通信模块260耦合,使得移动设备200可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packet radio service,GPRS),码分多址接入(codedivision multiple access,CDMA),宽带码分多址(wideband code division multipleaccess,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidounavigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellitesystem,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
移动设备200通过GPU,显示屏292,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏292和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器210可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏292用于显示图像,视频等。显示屏292包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,移动设备200可以包括1个或N个显示屏292,N为大于1的正整数。
压力传感器用于感受压力信号,可以将压力信号转换成电信号。在一些实施例中,压力传感器可以设置于显示屏292。压力传感器的种类很多,如电阻式压力传感器,电感式压力传感器,电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器,电极之间的电容改变。移动设备200根据电容的变化确定压力的强度。当有触摸操作作用于显示屏292,移动设备200根据压力传感器检测所述触摸操作强度。移动设备200也可以根据压力传感器的检测信号计算触摸的位置。
触摸传感器,也称“触控面板”。触摸传感器可以设置于显示屏292,由触摸传感器与显示屏292组成触摸屏,也称“触控屏”。触摸传感器用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏292提供与触摸操作相关的视觉输出。
移动设备200可以通过压力传感器或触摸传感器检测用户在显示屏292上做出的手势。比如向上滑动手势、向下滑动手势、向左滑动手势、向右滑动手势、点击手势、长按手势、敲击手势等。
移动设备200可以通过ISP,摄像头291,视频编解码器,GPU,显示屏292以及应用处理器等实现拍摄功能。
ISP用于处理摄像头291反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。
摄像头291用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。在一些实施例中,移动设备200可以包括1个或N个摄像头291,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当移动设备200在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。移动设备200可以支持一种或多种视频编解码器。这样,移动设备200可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。
外部存储器接口220可以用于连接外部存储卡,例如Micro SD卡,实现扩展移动设备200的存储能力。
内部存储器221可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。内部存储器221可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储移动设备200使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器221可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器210通过运行存储在内部存储器221的指令,和/或存储在设置于处理器中的存储器的指令,执行移动设备200的各种功能应用以及数据处理。
移动设备200可以通过音频模块270,扬声器270A,受话器270B,麦克风270C,以及应用处理器等实现音频功能。例如音乐播放,录音等。其中,音频模块270用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块270还可以用于对音频信号编码和解码。在一些实施例中,音频模块270可以设置于处理器210中,或将音频模块270的部分功能模块设置于处理器210中。
内部存储器221可用于存储一个或多个应用的应用程序,该应用程序包括指令。当该应用程序被处理器210执行时,使得移动设备200生成用于呈现给用户的内容。示例性的,该应用可以包括用于管理头戴式显示设备100的应用、游戏应用、会议应用、视频应用、桌面应用或其他应用等。
GPU可用于根据从处理器210处获取到的数据(例如应用程序提供的数据)执行数学和几何运算,利用计算机图形技术、计算机仿真技术等来渲染图像,确定用于在头戴式显示设备100上显示的图像。在一些实施例中,GPU可以将校正或预失真添加到图像的渲染过程中,以补偿或校正由头戴式显示设备100的光学组件引起的失真。
在本申请实施例中,移动设备200可通过移动通信模块250、无线通信模块260或者有线接口将GPU处理后得到的图像发送给头戴式显示设备100。
需要说明的是,图5示意的结构并不构成对移动设备200的具体限定。在本申请另一些实施例中,移动设备200可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
头戴式显示设备100可以在虚拟空间显示图像,使得用户感受到3D场景,为用户提供AR/VR/MR体验。比如,头戴式显示设备100的虚拟空间内可以显示应用的应用界面。示例性的,如图6所示,头戴式显示设备100的虚拟空间显示桌面界面(桌面应用的应用界面),该桌面界面上可显示各种应用程序的桌面图标,例如“联系人”、“日历”、“天气”、“视频”、“时间”、“购物”、“游戏”、“短视频”、“音乐”等应用程序的桌面图标。不限于应用程序,桌面界面上还可包括文件、文件夹等对象。
在一些虚拟空间中,用户可以通过移动虚拟空间中的射线对虚拟空间的显示对象进行操作。
在一些实施方式中,参考图6,用户可以通过手势移动头戴式显示设备100的虚拟空间中的射线。示例性的,如图6所示,用户可以使用双指“捏起”虚拟空间中的射线,移动射线至桌面界面上短视频应用的桌面图标。
在另一些实施方式中,参考图7,移动设备200可以作为头戴式显示设备100的输入设备,比如将手机作为AR眼镜的输入设备,用户可以通过在移动设备200上进行操作,实现与头戴式显示设备100的人机交互。以移动设备200是手机,头戴式显示设备100是AR眼镜为例。参考图7,手机200上安装有AR应用,AR应用用于对AR眼镜100的虚拟空间进行管理。响应于用户对AR应用的应用图标的点击操作,手机200启动AR应用,显示触摸板界面201。AR眼镜100显示虚拟空间后,用户可以使用AR应用实现与AR眼镜100的虚拟空间的人机交互。可选的,用户可以通过移动手机200的位置和朝向来控制虚拟空间内的射线的指向位置,实现与虚拟空间内显示对象的人机交互。可选的,触摸板界面201上设置有各种虚拟按键,用户可以通过对虚拟按键的操作实现与虚拟空间内显示对象的人机交互。示例性的,触摸板界面201包括触控区域202,用户可以在触控区域202内向上、向下、向左或向右滑动(执行滑动手势),相应的向上、向下、向左或向右移动虚拟空间内的射线;还可以在触控区域202内执行点击、长按等操作(执行点击手势、长按手势),实现与虚拟空间内显示对象的人机交互。示例性的,参考图7,用户可以在触控区域202内向上、向下、向左或向右滑动,移动虚拟空间内的射线,使得射线移动至桌面界面上短视频应用的桌面图标;然后用户可以在触控区域202内执行点击操作,选中短视频应用的桌面图标。响应于该点击操作,头戴式显示设备100在虚拟空间内显示短视频应用的应用界面。
在一些场景中,头戴式显示设备100的虚拟空间的显示界面(应用的应用界面)中包含二维码。用户需要扫描虚拟空间显示界面中的二维码来执行扫码登陆、支付等操作。
目前,用户启动扫描虚拟空间显示界面中二维码的操作步骤较为繁琐。示例性的,图8示出了一种用户启动扫描虚拟空间显示界面中二维码的操作步骤。如图8的(a)所示,虚拟空间的显示界面中包含二维码105。用户想要扫描二维码105,需要移动射线至二维码105上,然后启动手机200的AR应用。示例性的,如图8的(b)所示,用户点击手机200桌面上的AR应用的应用图标。响应于用户对AR应用的应用图标的点击操作,手机200显示触摸板界面201。如图8的(c)所示,触摸板界面201包括触控区域202,还包括“设置”按键203。用户可以使用“设置”按键203对头戴式显示设备100的虚拟空间进行配置。示例性的,如图8的(d)所示,响应于用户对“设置”按键203的点击操作,手机200的触控区域202上弹出“空间扫码”按键204。如果手机200接收到用户对“空间扫码”按键204的点击操作,触发对虚拟空间显示界面中的二维码105进行扫描。示例性的,如图8的(e)所示,虚拟空间显示界面中的二维码105上出现扫码框106。
在该实现方式中,用户需要在手机上执行多个步骤,找到“空间扫码”按键并点击,才能触发对虚拟空间显示界面中的二维码进行扫描,操作步骤较为繁琐,用户体验较差。
本申请实施例提供一种自动扫描虚拟空间二维码方法,可以自动探测和识别虚拟空间中的二维码,不需要用户手动执行复杂的操作,提升用户的操作效率。
示例性的,如图9所示,头戴式显示设备100的虚拟空间显示界面中包括二维码105。用户可以移动虚拟空间中的射线,将射线与虚拟空间的交点(称为虚拟光标)移动至二维码105上。比如,用户可以采用图6所示方式,通过手势移动头戴式显示设备100的虚拟空间中的射线。虚拟空间中的射线跟随用户的手势移动,使得虚拟光标移动至二维码105上。再比如,用户可以采用图7所示方式,在移动设备200的触摸板界面执行滑动手势,虚拟空间中的射线跟随用户的滑动手势向上、向下、向左或向右移动,使得虚拟光标移动至二维码105上。
如果检测到虚拟光标在二维码105上停留的时长大于或等于预设的第一时长,头戴式显示设备100或移动设备200自动对二维码105进行扫描和识别。示例性的,如图9所示,二维码105上显示扫码框106。
在该方法中,当用户操作虚拟光标至虚拟空间中二维码区域时,电子设备(头戴式显示设备100或移动设备200)可以自动识别二维码的位置和区域,虚拟光标自动变为扫码框,执行扫码操作,提升了用户的操作效率。
图10示出了本申请实施例提供的自动扫描虚拟空间二维码方法的一种流程示意图。示例性的,如图10所示,该方法可以包括:
S301、头戴式显示设备的虚拟空间显示第一界面,其中第一界面包括二维码图像。
示例性的,如图9所示,虚拟空间的显示界面包括二维码105。
S302、接收用户移动虚拟空间中射线的操作,使得射线与虚拟空间的交点移动至二维码图像上。
射线与虚拟空间的交点称为虚拟光标。在一种实现方式中,用户可以采用图6所示方式,通过在虚拟空间中的手势移动虚拟空间中的射线,虚拟空间中的射线跟随用户的手势移动,使得虚拟光标移动至二维码图像上。在另一种实现方式中,头戴式显示设备与移动设备连接,用户可以采用图7所示方式,在移动设备的触摸板界面执行滑动手势,虚拟空间中的射线跟随用户的滑动手势向上、向下、向左或向右移动,使得虚拟光标移动至二维码图像上。
S303、如果虚拟光标在二维码图像上停留的时长大于或等于预设的第一时长,自动对该二维码图像进行扫码。
在一种实现方式中,如果确定虚拟光标在二维码图像上停留的时长大于或等于预设的第一时长(比如20毫秒),表明用户的意图是对二维码进行扫描。
可选的,第一时长也可以设置为0。在该实现方式中,虚拟光标移动至二维码图像上,即自动对该二维码图像进行扫码。
需要说明的是,在实际实现中,虚拟光标可能不会完全静止以达到“停留”的状态。在本申请实施例中,虚拟光标在预设范围内波动、抖动,也认为是虚拟光标停留。
示例性的,图11示出了S303的一种具体实现方式。如图11所示,该实现方式包括:
S3031、检测到虚拟光标移动至虚拟空间中第一位置,虚拟光标在该第一位置停留的时长大于或等于预设的第一时长。
该第一位置可以是虚拟空间中任一位置。
S3032、对虚拟空间当前的显示界面进行截图,获取第一图像。
示例性的,虚拟空间当前的显示界面为第一应用的第一应用界面(第一界面),对第一应用的第一应用界面进行截图,获取到第一图像。
S3033、判断第一图像中是否包括二维码图像。
如果第一应用界面中包括二维码,第一图像中也包括二维码图像。其中,可以采用常规技术中的图像识别方法对第一图像进行识别,判断其中是否包括二维码图像。本申请实施例对具体的图像识别方法并不进行限定。
S3034、如果第一图像中包括二维码图像,获取该二维码图像在第一图像中的位置和区域范围;还获取第一位置的坐标。
在一种实现方式中,二维码图像在第一图像中的位置和区域范围可以采用二维码图像四个顶点的坐标表示。
示例性的,如图11所示,以第一图像的左下顶点为坐标原点(x0,y0),沿第一图像横边向右为X轴正方向,沿第一图像竖边向上为Y轴正方向,组成坐标系。获取二维码图像四个顶点在该坐标系中的坐标,分别为:左下顶点坐标(x1,y1),右下顶点坐标(x2,y2),左上顶点坐标(x3,y3)和右上顶点坐标(x4,y4)。
在一种实现方式中,还获取第一位置在该坐标系的坐标为(xa,ya)。
S3035、判断第一位置是否在该二维码图像的区域范围内。
在一种实现方式中,根据第一位置的坐标(xa,ya)以及二维码图像四个顶点的坐标(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4),判断第一位置是否在二维码图像的区域范围内。
在一种示例中,如图12所示,连接(x1,y1)与(x3,y3)形成向量V1,连接(x3,y3)与(x4,y4)形成向量V2,连接(x4,y4)与(x2,y2)形成向量V3,连接(x2,y2)与(x1,y1)形成向量V4。如果确定坐标点(xa,ya)在向量V1的右侧,且在向量V2的右侧,且在向量V3的右侧,且在向量V4的右侧,则确定坐标点(xa,ya)位于向量V1、向量V2、向量V3和向量V4围成的区域内,即确定第一位置在二维码图像的区域范围内。
S3036、如果确定第一位置在该二维码图像的区域范围内,扫描并识别该二维码图像。
确定第一位置在该二维码图像的区域范围内,结合S3031,确定虚拟光标在第一位置停留的时长大于或等于预设的第一时长,即可以确定虚拟光标在二维码上停留的时长大于或等于预设的第一时长。满足虚拟光标在二维码上停留的时长大于或等于预设的第一时长的条件后,自动扫描并识别该二维码图像。不需要用户手动启动扫码步骤,简化了启动扫码的流程。
在一种实现方式中,由于虚拟空间是3D空间,虚拟空间的显示界面存在曲率和角度的变形,选择和识别虚拟空间显示界面的二位码难度较大,可以通过图像识别技术中的图形变形“3D transform”进行二维码识别。
在一些实施方式中,虚拟空间显示界面的二维码上显示扫码框,自动对二维码进行扫描和识别。
在一些实施方式中,虚拟空间显示界面的二维码上显示扫码框。用户可以点击该扫码框,示例性的,用户在移动设备200的触摸板界面201的触控区域202内执行点击操作。响应于对扫码框的点击操作,对二维码进行扫描和识别。
可以理解的,在具体实现时,还可以采用其他实现方式实现S303。示例性的,在另一种实施方式中,检测到虚拟光标移动至虚拟空间中第一位置,且虚拟光标在该第一位置停留的时长大于或等于预设的第一时长后,截取第一位置周围预设范围内的图像,判断该图像中是否包含二维码图像。如果确定该图像中包含二维码图像,扫描并识别该二维码图像。
需要说明的是,在一些实施例中,移动设备为头戴式显示设备提供显示数据。移动设备可以是头戴式显示设备的输入设备和控制设备。执行上述步骤303的可以是移动设备。在另一些实施方式中,头戴式显示设备具备处理能力,执行上述步骤303的可以是头戴式显示设备。本申请实施例对此并不进行限定。
本申请实施例提供的自动扫描虚拟空间二维码方法,当用户操作虚拟光标在虚拟空间显示界面的二维码上停留的时长大于或等于预设的第一时长后,虚拟光标变为扫码框,自动对二维码进行扫描和识别。不需要用户手动执行繁琐的操作,就可以很方便地启动扫描虚拟空间内二维码,提升了用户的操作效率。
可以理解的是,上述移动设备和头戴式显示设备为了实现上述功能,其包含了执行各个功能相应的硬件结构和/或软件模块。本领域技术人员应该很容易意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,本申请实施例能够以硬件或硬件和计算机软件的结合形式来实现。某个功能究竟以硬件还是计算机软件驱动硬件的方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请实施例的范围。
本申请实施例可以根据上述方法示例对上述移动设备和头戴式显示设备进行功能模块的划分,例如,可以对应各个功能划分各个功能模块,也可以将两个或两个以上的功能集成在一个处理模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。需要说明的是,本申请实施例中对模块的划分是示意性的,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
在采用集成的单元的情况下,图13示出了上述实施例中所涉及的移动设备或头戴式显示设备的一种可能的结构示意图。该电子设备1300包括:处理单元1301、通信单元1302和存储单元1303。其中,处理单元1301,用于对电子设备1300的动作进行控制管理;通信单元1302,用于支持电子设备1300与其他网络实体的通信;存储单元1303,保存电子设备1300的指令和数据,上述指令可以用于执行本申请相应实施例中的各个步骤。
当然,上述电子设备1300中的单元模块包括但不限于上述处理单元1301、通信单元1302和存储单元1303。例如,电子设备1300中还可以包括显示单元等,显示单元用于显示电子设备1300的用户界面。
其中,处理单元1301可以是处理器或控制器,例如可以是中央处理器(centralprocessing unit,CPU),数字信号处理器(digital signal processor,DSP),专用集成电路(application-specific integrated circuit,ASIC),现场可编程门阵列(fieldprogrammable gate array,FPGA)或者其他可编程逻辑器件、晶体管逻辑器件、硬件部件或者其任意组合。通信单元1302可以是收发器、收发电路等。存储单元1303可以是存储器。
本申请实施例所提供的电子设备1300可以为图4所示的头戴式显示设备100或图5所示的移动设备200。其中,上述处理器、存储器、通信接口等可以连接在一起,例如通过总线连接。处理器调用存储器存储的程序代码,以执行以上方法实施例中的各个步骤。
本申请实施例还提供一种芯片系统,如图14所示,该芯片系统包括至少一个处理器1401和至少一个接口电路1402。处理器1401和接口电路1402可通过线路互联。例如,接口电路1402可用于从其它装置(例如路由设备的存储器)接收信号。又例如,接口电路1402可用于向其它装置(例如处理器1401)发送信号。示例性的,接口电路1402可读取存储器中存储的指令,并将该指令发送给处理器1401。当所述指令被处理器1401执行时,可使得移动设备执行上述实施例中的各个步骤。当然,该芯片系统还可以包含其他分立器件,本申请实施例对此不作具体限定。
本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质中存储有计算机程序代码,当上述处理器执行该计算机程序代码时,移动设备执行上述实施例中的方法。
本申请实施例还提供了一种计算机程序产品,当该计算机程序产品在计算机上运行时,使得计算机执行上述实施例中的方法。
其中,本申请实施例提供的电子设备1300、芯片系统、计算机可读存储介质或者计算机程序产品均用于执行上文所提供的对应的方法,因此,其所能达到的有益效果可参考上文所提供的对应的方法中的有益效果,此处不再赘述。
通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个装置,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以使用硬件的形式实现,也可以使用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个可读取存储介质中。基于这样的理解,本申请实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该软件产品存储在一个存储介质中,包括若干指令用以使得一个设备(可以是单片机,芯片等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、ROM、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何在本申请揭露的技术范围内的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (11)
1.一种自动扫描虚拟空间二维码方法,其特征在于,所述方法包括:
头戴式显示设备的虚拟空间显示第一界面;所述第一界面包括二维码图像;
接收用户移动虚拟光标至所述二维码图像的操作;所述虚拟光标为所述虚拟空间中射线与所述第一界面的交点,所述射线用于协助用户指向所述虚拟空间中的显示内容以方便用户操作;
响应于所述虚拟光标在所述二维码图像上停留的时长大于或等于预设的第一时长,扫描所述二维码图像。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
响应于所述虚拟光标在所述二维码图像上停留的时长大于或等于预设的第一时长,在所述二维码图像上显示扫码框。
3.根据权利要求1所述的方法,其特征在于,所述响应于所述虚拟光标在所述二维码图像上停留的时长大于或等于预设的第一时长,扫描所述二维码图像,包括:
响应于所述虚拟光标在所述二维码图像上停留的时长大于或等于预设的第一时长,所述二维码图像上显示扫码框;
响应于用户点击所述扫码框的操作,扫描所述二维码图像。
4.根据权利要求1-3中任意一项所述的方法,其特征在于,所述接收用户移动虚拟光标至所述二维码图像的操作,包括:
接收用户通过在虚拟空间中的手势移动虚拟光标至所述二维码图像的操作;或者,
接收用户通过在移动设备的触摸板界面执行滑动手势,移动虚拟光标至所述二维码图像的操作。
5.根据权利要求1-4中任意一项所述的方法,其特征在于,所述方法还包括:
检测到所述虚拟光标移动至所述虚拟空间中第一位置且所述虚拟光标在所述第一位置停留的时长大于或等于预设的第一时长,对所述第一界面进行截图,获取第一图像;
获取所述第一图像中所述二维码图像的区域范围;
如果所述第一位置在所述二维码图像的区域范围内,确定所述虚拟光标在所述二维码图像上。
6.一种自动扫描虚拟空间二维码方法,其特征在于,应用于移动设备,所述移动设备与头戴式显示设备连接,所述移动设备提供所述头戴式显示设备的显示数据,所述方法包括:
响应于用户操作,移动头戴式显示设备的虚拟空间中射线的位置,使得虚拟光标移动至所述虚拟空间显示的第一界面中二维码图像上;所述虚拟光标为所述射线与所述第一界面的交点,所述射线用于协助用户指向所述虚拟空间中的显示内容以方便用户操作;
响应于所述虚拟光标在所述二维码图像上停留的时长大于或等于预设的第一时长,扫描所述二维码图像。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
响应于所述虚拟光标在所述二维码图像上停留的时长大于或等于预设的第一时长,在所述二维码图像上显示扫码框。
8.根据权利要求6所述的方法,其特征在于,所述响应于所述虚拟光标在所述二维码图像上停留的时长大于或等于预设的第一时长,扫描所述二维码图像,包括:
响应于所述虚拟光标在所述二维码图像上停留的时长大于或等于预设的第一时长,在所述二维码图像上显示扫码框;
响应于用户点击所述扫码框的操作,扫描所述二维码图像。
9.根据权利要求6-8中任意一项所述的方法,其特征在于,所述方法还包括:
检测到所述虚拟光标移动至所述虚拟空间中第一位置且所述虚拟光标在所述第一位置停留的时长大于或等于预设的第一时长,对所述第一界面进行截图,获取第一图像;
获取所述第一图像中所述二维码图像的区域范围;
获取所述虚拟光标在所述虚拟空间中的第一位置;
如果所述第一位置在所述二维码图像的区域范围内,确定所述虚拟光标在所述二维码图像上。
10.一种电子设备,其特征在于,所述电子设备包括:处理器和存储器,所述处理器与所述存储器耦合;所述存储器用于存储计算机程序代码;所述计算机程序代码包括计算机指令,当所述处理器执行上述计算机指令时,使得所述电子设备执行如权利要求1-9中任意一项所述的方法。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括计算机指令,当所述计算机指令在电子设备上运行时,使得所述电子设备执行如权利要求1-9中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310390616.3A CN117131888A (zh) | 2023-04-10 | 2023-04-10 | 一种自动扫描虚拟空间二维码方法、电子设备及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310390616.3A CN117131888A (zh) | 2023-04-10 | 2023-04-10 | 一种自动扫描虚拟空间二维码方法、电子设备及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117131888A true CN117131888A (zh) | 2023-11-28 |
Family
ID=88849777
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310390616.3A Pending CN117131888A (zh) | 2023-04-10 | 2023-04-10 | 一种自动扫描虚拟空间二维码方法、电子设备及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117131888A (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107479712A (zh) * | 2017-08-18 | 2017-12-15 | 北京小米移动软件有限公司 | 基于头戴式显示设备的信息处理方法及装置 |
CN113867528A (zh) * | 2021-09-27 | 2021-12-31 | 北京市商汤科技开发有限公司 | 显示方法、装置、设备及计算机可读存储介质 |
CN115660010A (zh) * | 2022-10-24 | 2023-01-31 | 闪耀现实(无锡)科技有限公司 | 用于显示信息的方法、装置、电子设备、介质及产品 |
CN115687814A (zh) * | 2022-11-09 | 2023-02-03 | 荣耀终端有限公司 | 二维码处理方法及装置 |
-
2023
- 2023-04-10 CN CN202310390616.3A patent/CN117131888A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107479712A (zh) * | 2017-08-18 | 2017-12-15 | 北京小米移动软件有限公司 | 基于头戴式显示设备的信息处理方法及装置 |
CN113867528A (zh) * | 2021-09-27 | 2021-12-31 | 北京市商汤科技开发有限公司 | 显示方法、装置、设备及计算机可读存储介质 |
WO2023045964A1 (zh) * | 2021-09-27 | 2023-03-30 | 上海商汤智能科技有限公司 | 显示方法、装置、设备、计算机可读存储介质、计算机程序产品及计算机程序 |
CN115660010A (zh) * | 2022-10-24 | 2023-01-31 | 闪耀现实(无锡)科技有限公司 | 用于显示信息的方法、装置、电子设备、介质及产品 |
CN115687814A (zh) * | 2022-11-09 | 2023-02-03 | 荣耀终端有限公司 | 二维码处理方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109917956B (zh) | 一种控制屏幕显示的方法和电子设备 | |
US11595566B2 (en) | Camera switching method for terminal, and terminal | |
WO2021017836A1 (zh) | 控制大屏设备显示的方法、移动终端及第一系统 | |
WO2020238741A1 (zh) | 图像处理方法、相关设备及计算机存储介质 | |
US12120450B2 (en) | Photographing method and electronic device | |
CN112598594A (zh) | 颜色一致性矫正方法及相关装置 | |
CN114579016A (zh) | 一种共享输入设备的方法、电子设备及系统 | |
CN113741681B (zh) | 一种图像校正方法与电子设备 | |
WO2023030398A1 (zh) | 图像处理方法及电子设备 | |
CN115150542B (zh) | 一种视频防抖方法及相关设备 | |
CN113391775A (zh) | 一种人机交互方法及设备 | |
CN112381729B (zh) | 图像处理方法、装置、终端及存储介质 | |
KR20210107958A (ko) | 디지털 영상 안정화 장치, 그것의 동작 방법, 및 그것을 갖는 전자 장치 | |
EP4181494A1 (en) | Display method and related apparatus | |
WO2022179412A1 (zh) | 识别方法及电子设备 | |
US20240045557A1 (en) | Method for Sharing Input Device, Electronic Device, and System | |
CN117130472B (zh) | 虚拟空间操作指引显示方法、移动设备及系统 | |
CN117130471B (zh) | 人机交互方法、电子设备及系统 | |
CN116052261A (zh) | 视线估计方法及电子设备 | |
CN117131888A (zh) | 一种自动扫描虚拟空间二维码方法、电子设备及系统 | |
CN114564162B (zh) | 一种数据传输方法、电子设备、系统及存储介质 | |
CN117111728B (zh) | 人机交互方法、相关设备及系统 | |
KR20200019028A (ko) | 모바일 디바이스 및 그 제어 방법 | |
CN116704572B (zh) | 一种基于深度摄像头的眼动追踪方法和装置 | |
CN117135259B (zh) | 摄像头的切换方法、电子设备、芯片系统及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |