CN116048241A - 一种提示方法、扩展现实设备及介质 - Google Patents
一种提示方法、扩展现实设备及介质 Download PDFInfo
- Publication number
- CN116048241A CN116048241A CN202210668433.9A CN202210668433A CN116048241A CN 116048241 A CN116048241 A CN 116048241A CN 202210668433 A CN202210668433 A CN 202210668433A CN 116048241 A CN116048241 A CN 116048241A
- Authority
- CN
- China
- Prior art keywords
- audio stream
- target object
- real space
- spatial position
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/012—Walk-in-place systems for allowing a user to walk in a virtual environment while constraining him to a given position in the physical environment
Abstract
本申请提供了一种提示方法、扩展现实设备及介质,涉及计算机技术领域,该方法包括:获取现实空间中目标对象的初始空间位置;根据所述初始空间位置以及所述扩展现实设备的空间位置的变化量,确定所述目标对象的更新后空间位置;基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染,得到现实空间音频流;通过所述现实空间音频流进行提示。该方法能够在用户沉浸在虚拟空间中的情况下,向用户提示真实环境中的声音。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种提示方法、扩展现实设备及计算机可读存储介质。
背景技术
随着技术的不断发展,一种新的交互方式即扩展现实(extended reality,XR)应运而生。扩展现实是指通过计算机技术和可穿戴设备产生的一个现实与虚拟组合的、可人机交互的虚拟空间。一般的,扩展现实包括增强现实(augmented reality,AR)、虚拟现实(virtual reality,VR)、混合现实(mixed reality,MR)等多种形式。
当用户在体验上述XR设备过程中,用户一般会佩戴可穿戴设备,关于视频信号的交互一般通过眼镜实现,关于声信号的交互一般通过耳机实现,耳机可以为有线耳机或真正无线立体声(True Wireless Stereo,TWS)耳机。当用户佩戴可穿戴设备后,用户会沉浸在虚拟空间中,此时虚拟空间和用户所处的真实环境被隔离,真实环境中的声源产生的声音,例如手机来电提示、智能锁提示客人到访,以及报警器的报警声音等很容易被用户忽略,因此,目前需要对用户进行及时地提示,以避免用户忽略真实环境中的声音。
发明内容
本申请的目的在于提供一种提示方法、扩展现实设备、计算机可读存储介质以及计算机程序产品,能够在用户沉浸在虚拟空间中的情况下,向用户提示真实环境中的声音。
为达到上述目的,本申请采用如下技术方案:
第一方面,本申请提供了一种提示方法,该方法可以由扩展现实设备执行,具体地,该方法包括:扩展现实设备获取目标对象在虚拟空间中的初始空间位置,然后根据该初始空间位置以及用户的头部姿态的变化量,确定目标对象的更新后空间位置,基于该更新后空间位置,对目标对象在现实空间中产生的音频流进行渲染,然后将利用渲染后的空间音频流进行提示。可见,在该方法中,在用户沉浸在虚拟空间中的情况下,扩展现实设备能够获取现实空间中目标对象的音频流,并基于该现实空间中的目标对象的初始空间位置,对该目标对象的音频流进行渲染,并输出到双耳重放设备,以对用户进行提示,从而能够避免用户错过一些现实空间的声音。如此,该扩展现实设备不仅能够给用户沉浸感的体验,而且还能够避免用户完全脱离现实空间,从而避免用户错过现实空间中的一些重要提示,例如手机铃声、门铃声、婴儿哭啼声等。
在一些可能的实现方式中,该方法还包括:扩展现实设备获取现实空间中目标对象的音频流的类别,当该现实空间中音频流的类别为预设类别时,基于更新后空间位置,对现实空间中目标对象的音频流进行渲染。对现实空间中的音频流进行分类后,扩展现实设备能够基于不同类别的音频流,选择不同的展示方式。如此能够提高用户沉浸在虚拟空间中的安全等级和虚拟互动能力。例如针对现实空间中的普通事件,扩展现实设备通过呈现提示信息的方式进行提示,不仅能够保证用户的沉浸感,也能够避免用户错过现实空间中的一些事件;
在一些可能的实现方式中,该方法还包括:扩展现实设备根据目标对象的音频流的类别与提示信息的对应关系,确定与该目标对象的音频流的类别对应的提示信息,向用户展示与目标对象的音频流的类别对应的提示信息。其中,提示信息包括文字和/或图像。
在一些可能的实现方式中,当所述目标对象的音频流的类别为预设类别中最高级别时,通过屏幕闪烁的方式,展示与所述目标对象的音频流的类别对应的提示信息。如针对重要事件,扩展现实设备通过呈现提示信息的同时控制显示屏红屏闪烁的方式进行提示,能够更加清楚地告知用户,现实空间中存在重要事件需要处理。
在一些可能的实现方式中,所述现实空间中目标对象的音频流通过采集所述目标对象的音频流得到或通过接收所述目标对象传输的音频流得到。
在一些可能的实现方式中,该方法还包括:扩展现实设备获取虚拟空间音频流;接着扩展现实设备通过所述现实空间音频流和所述虚拟空间音频流进行提示。
第二方面,本申请提供了一种扩展现实设备,包括:
获取单元,用于获取现实空间中目标对象的初始空间位置;
更新单元,用于根据所述初始空间位置以及所述扩展现实设备的空间位置的变化量,确定所述目标对象的更新后空间位置;
渲染单元,用于基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染,得到现实空间音频流;
提示单元,用于通过所述现实空间音频流进行提示。
在一些可能的实现方式中,获取单元,还用于获取所述现实空间中目标对象的音频流的类别;
渲染单元,具体用于当所述现实空间中目标对象的音频流的类别为预设类别时,基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染。
在一些可能的实现方式中,提示单元,还用于根据所述目标对象的音频流的类别与提示信息的对应关系,确定与所述目标对象的音频流的类别对应的提示信息,向用户展示与所述目标对象的音频流的类别对应的提示信息。
在一些可能的实现方式中,所述提示信息包括文字和/或图像。
在一些可能的实现方式中,当所述目标对象的音频流的类别为预设类别中最高级别时,提示单元,具体用于通过屏幕闪烁的方式,展示与所述目标对象的音频流的类别对应的提示信息。
在一些可能的实现方式中,所述现实空间中目标对象的音频流通过采集所述目标对象的音频流得到或通过接收所述目标对象传输的音频流得到。
在一些可能的实现方式中,获取单元,还用于获取虚拟空间音频流;
提示单元,具体用于通过所述现实空间音频流和所述虚拟空间音频流进行提示。
第三方面,本申请提供了一种扩展现实设备,包括:显示屏、处理器和存储器;
所述显示屏,用于展示提示信息;
所述存储器,用于存储计算机程序;
所述处理器,用于执行所述计算机程序,以实现第一方面中任一项所述的方法。
第四方面,本申请提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被计算机执行时,实现第一方面中任一项所述的方法。
第五方面,本申请提供了一种计算机程序产品,该计算机程序产品包括指令,当该计算机程序产品在扩展现实设备中运行时,使得该扩展现实设备执行第一方面中任一项所述的方法。
本申请的技术方案具有如下有益效果:
本申请提供了一种提示方法,该方法可以由XR设备执行。XR可以先获取现实空间中目标对象的初始空间位置,基于XR设备采集的用户的头部姿态的变化参数,得到目标对象的更新后空间位置,然后基于目标对象的更新后空间位置,对该目标对象的音频流,进行空间化和沉浸感的渲染,并输出到双耳重放设备。如此,即使用户沉浸在虚拟空间中,用户能够感受到现实空间中目标对象所产生的声音,并且还能够感知到该目标对象的声音所在的方位。
进一步的,XR设备还可以对该目标对象的音频流进行分类,例如可以是基于该音频流的声信号特征对该音频流进行分类,得到该目标对象的音频流的类别,当目标对象的音频流的类别为预设类别时,该XR设备向用户进行提示,例如可以是向用户播放现实空间中的音频流,也可以是向用户展示提示信息,使用户不仅能够沉浸在虚拟空间中,也能够避免错过现实空间中的一些重要事件。
应当理解的是,本申请中对技术特征、技术方案、有益效果或类似语言的描述并不是暗示在任意的单个实施例中可以实现所有的特点和优点。相反,可以理解的是对于特征或有益效果的描述意味着在至少一个实施例中包括特定的技术特征、技术方案或有益效果。因此,本说明书中对于技术特征、技术方案或有益效果的描述并不一定是指相同的实施例。进而,还可以任何适当的方式组合本实施例中所描述的技术特征、技术方案和有益效果。本领域技术人员将会理解,无需特定实施例的一个或多个特定的技术特征、技术方案或有益效果即可实现实施例。在其他实施例中,还可在没有体现所有实施例的特定实施例中识别出额外的技术特征和有益效果。
附图说明
图1为本申请实施例提供的一种应用场景的示意图;
图2为本申请实施例提供的一种VR设备的结构示意图;
图3为本申请实施例提供的又一种结构示意图;
图4为本申请实施例提供的一种提示方法的流程图;
图5为本申请实施例提供的一种客厅场景的示意图;
图6A为本申请实施例提供的一种初始空间位置的示意图;
图6B为本申请实施例提供的一种空间位置变化后的示意图;
图7为本申请实施例提供的一种音频流处理的示意图;
图8A为本申请实施例提供的一种虚拟世界的画面的示意图;
图8B为本申请实施例提供的一种提示信息的示意图;
图8C为本申请实施例提供的又一种提示信息的示意图;
图9为本申请实施例提供的又一种提示方法的流程图;
图10为本申请实施例提供的一种扩展现实设备的示意图;
图11为本申请实施例提供的又一种扩展现实设备的示意图。
具体实施方式
需要说明的是,本申请说明书和权利要求书及附图说明中的术语“第一”、“第二”和“第三”等是用于区别不同对象,而不是用于限定特定顺序。在本申请实施例中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本申请实施例中被描述为“示例性的”或者“例如”的任何实施例或设计方案不应被解释为比其它实施例或设计方案更优选或更具优势。确切而言,使用“示例性的”或者“例如”等词旨在以具体方式呈现相关概念。
为了使本领域技术人员更清楚的理解本申请的技术方案,下面首先说明本申请技术方案的应用场景。
扩展现实(extended reality,XR)可以提供一个人机交互的虚拟空间,能够为用户(如体验者)带来虚拟世界与现实世界之间无缝转换的“沉浸感”。
通常情况下,XR包括增强现实(augmented reality,AR)、虚拟现实(virtualreality,VR)等多种形式。
VR是指利用计算机模拟三维空间,通过用户感官为用户模拟一种沉浸感和临场感,使用户体验虚拟的仿真世界。VR设备通过头戴式显示器遮挡用户的视线,创造了完全的虚拟视觉环境;并通过耳机提供声信号,利用空间音频双耳渲染的技术完成虚拟场景声像的重放,以使用户可以体验立体虚拟沉浸感。
AR是指在真实空间中加入虚拟内容,将虚拟的信息(例如物体、图片、视频、声音)等映射在现实环境中。类似的,AR设备也可以通过头戴式显示器观察现实世界,并通过计算在现实世界中的指定位置,添加上述物体、图片、视频、声音等,从而使得现实世界和虚拟世界无缝衔接,例如在现实世界中的墙壁上添加钟表的图片等。
XR可以看作是上述AR和上述VR的结合,能够合并现实与虚拟世界,产生新的可视化虚拟空间。
下面以用户佩戴VR设备为例进行说明。VR设备与终端设备通过有线连接或无线连接的方式进行信息交互,终端设备可以为手机设备、笔记本电脑、计算机或平板电脑等,本申请实施例不作具体限定。用户可以通过佩戴VR设备实现看电影、听音乐、玩游戏或学习等。
参见图1,该图为本申请提供的一种应用场景的示意图。
如图1所示,在该场景中,用户110在佩戴VR设备120后,该VR设备120可以为用户110渲染虚拟空间130,用户110会沉浸在虚拟空间130中。其中,虚拟空间130是指VR设备所渲染出的三维空间,该三维空间能够给用户提供一种沉浸感和临场感,使用户体验仿真世界。虚拟空间130区别于现实空间140,现实空间140是指用户所真正感知的三维空间,即用户真正感知的现实世界。
VR设备120采用空间音频双耳渲染的技术完成虚拟场景声音的播放,也即构建虚拟空间中声音的方位,距离,运动等声源特性,为用户提供虚拟空间的音频。但由于虚拟空间和用户所处的真实环境被隔离,这样会导致用户将来自现实空间140中的目标对象141的声音忽略,进而导致用户错过现实空间中的信息。
现实空间140中的目标对象141可以为电子设备,例如智能音箱、手机、智能门锁或报警器等。此时,该声音可以是智能音箱播报天气状况的声音,也可以是智能门锁提醒客人到访的声音,还可以是手机来电的声音或者报警器的报警声音等。
图1中展示的目标对象141包括三个,分别为智能音箱、手机、智能门锁。
需要说明的是,图1是以目标对象为电子设备为例进行说明,但是目标对象并不限于电子设备,一些实施例中,目标对象也可以为非电子设备,例如婴儿、宠物等,此时,该声音可以是婴儿哭啼的声音,也可以是宠物叫声。
为了解决以上技术问题,本申请提供了一种提示方法,该方法包括:获取目标对象141在虚拟空间中的初始空间位置,然后根据该初始空间位置以及用户的头部姿态的变化量,确定目标对象141的更新后空间位置,基于该更新后空间位置,对目标对象在现实空间中产生的音频流进行渲染,然后将利用渲染后的空间音频流进行提示。
可见,在该方法中,在用户沉浸在虚拟空间中的情况下,VR设备能够获取现实空间中目标对象的音频流,并基于该现实空间中的目标对象的初始空间位置,对该目标对象的音频流进行渲染,并输出到双耳重放设备,以对用户进行提示,从而能够避免用户错过一些现实空间的声音。如此,该VR设备不仅能够给用户沉浸感的体验,而且还能够避免用户完全脱离现实空间,从而避免用户错过现实空间中的一些重要提示,例如手机铃声、门铃声、婴儿哭啼声等。
本申请实施例提供的提示方法可以应用于XR设备。如图2所示,图2展示了一种XR设备的结构示意图。该XR设备200包括处理器210,外部存储器接口220,内部存储器221,通用串行总线(universal serial bus,USB)接口230,天线1,无线通信模块260,音频模块270,扬声器270A,麦克风270C,耳机接口270D,传感器模块280,按键290,指示器292,显示屏294等。其中传感器模块280可以包括压力传感器280A,陀螺仪传感器280B,磁传感器280D,加速度传感器280E,距离传感器280F,触摸传感器280K,等。
可以理解的是,本实施例示意的结构并不构成对XR设备的具体限定。在另一些实施例中,XR设备可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器210可以包括一个或多个处理单元,例如:处理器210可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。例如,在本申请中,处理器可以执行以下步骤:获取目标对象141在虚拟空间中的初始空间位置,然后根据该初始空间位置以及用户的头部姿态的变化量,确定目标对象141的更新后空间位置,基于该更新后空间位置,对目标对象在现实空间中产生的音频流进行渲染,然后将利用渲染后的空间音频流进行提示。
其中,控制器可以是XR设备的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器210中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器210中的存储器为高速缓冲存储器。该存储器可以保存处理器210刚用过或循环使用的指令或数据。如果处理器210需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器210的等待时间,因而提高了系统的效率。
在一些实施例中,处理器210可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,和/或通用串行总线(universal serial bus,USB)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器210可以包含多组I2C总线。处理器210可以通过不同的I2C总线接口分别耦合触摸传感器280K,充电器,闪光灯等。例如:处理器210可以通过I2C接口耦合触摸传感器280K,使处理器210与触摸传感器280K通过I2C总线接口通信,实现XR设备的触摸功能。
I2S接口可以用于音频通信。在一些实施例中,处理器210可以包含多组I2S总线。处理器210可以通过I2S总线与音频模块270耦合,实现处理器210与音频模块270之间的通信。在一些实施例中,音频模块270可以通过I2S接口向无线通信模块260传递音频信号,实现通过蓝牙耳机收听声音的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块270与无线通信模块260可以通过PCM总线接口耦合。在一些实施例中,音频模块270也可以通过PCM接口向无线通信模块260传递音频信号,实现通过蓝牙耳机收听声音的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器210与无线通信模块260。例如:处理器210通过UART接口与无线通信模块260中的蓝牙模块通信,实现蓝牙功能。在一些实施例中,音频模块270可以通过UART接口向无线通信模块260传递音频信号,实现通过蓝牙耳机播放声音的功能。
MIPI接口可以被用于连接处理器210与显示屏294等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示屏串行接口(display serialinterface,DSI)等。在一些实施例中,处理器210和显示屏294通过DSI接口通信,实现XR设备的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器210与显示屏294,无线通信模块260,音频模块270,传感器模块280等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口230是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口230可以用于连接充电器为XR设备充电,也可以用于XR设备与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备,例如手机等。
可以理解的是,本实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对XR设备的结构限定。在本申请另一些实施例中,XR设备也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
XR设备的无线通信功能可以通过天线1无线通信模块260,调制解调处理器以及基带处理器等实现。
天线1用于发射和接收电磁波信号。XR设备中的天线可用于覆盖单个或多个通信频带。
无线通信模块260可以提供应用在XR设备上的包括无线局域网(wireless localarea networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequencymodulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块260可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块260经由天线2接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器210。无线通信模块260还可以从处理器210接收待发送的信号,对其进行调频,放大,经天线2转为电磁波辐射出去。
在一些实施例中,XR设备的天线1和无线通信模块260耦合,使得XR设备可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(general packetradio service,GPRS),码分多址接入(code division multiple access,CDMA),宽带码分多址(wideband code division multiple access,WCDMA),时分码分多址(time-divisioncode division multiple access,TD-SCDMA),长期演进(long term evolution,LTE),BT,GNSS,WLAN,NFC,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(globalpositioning system,GPS),全球导航卫星系统(global navigation satellite system,GLONASS),北斗卫星导航系统(beidou navigation satellite system,BDS),准天顶卫星系统(quasi-zenith satellite system,QZSS)和/或星基增强系统(satellite basedaugmentation systems,SBAS)。
XR设备通过GPU,显示屏294,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏294和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器210可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏294用于显示图像,视频等。显示屏294包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oled,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,XR设备可以包括1个或N个显示屏294,N为大于1的正整数。
XR设备的显示屏294上可以显示一系列图形用户界面(graphical userinterface,GUI),这些GUI都是该XR设备的主屏幕。
外部存储器接口220可以用于连接外部存储卡,例如Micro SD卡,实现扩展XR设备的存储能力。外部存储卡通过外部存储器接口220与处理器210通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器221可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器210通过运行存储在内部存储器221的指令,从而执行XR设备的各种功能应用以及数据处理。内部存储器221可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储XR设备使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器221可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。处理器210通过运行存储在内部存储器221的指令,和/或存储在设置于处理器中的存储器的指令,执行XR设备的各种功能应用以及数据处理。
XR设备可以通过音频模块270,扬声器270A,麦克风270C,耳机接口270D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块270用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块270还可以用于对音频信号编码和解码。在一些实施例中,音频模块270可以设置于处理器210中,或将音频模块270的部分功能模块设置于处理器210中。
扬声器270A,也称“喇叭”,用于将音频电信号转换为声音信号。XR设备可以通过扬声器270A收听音乐;在另一些示例中,当XR设备连接耳机(蓝牙耳机或有线耳机)时,通过耳机播放音频。
麦克风270C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。用户可以通过人嘴靠近麦克风270C发声,将声音信号输入到麦克风270C。XR设备可以设置至少一个麦克风270C。在另一些实施例中,XR设备可以设置两个麦克风270C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,XR设备还可以设置三个,四个或更多麦克风270C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。在本申请实施例中,麦克风270C可以用于采集现实空间中目标对象的声音信号,进而该XR设备可以获取到目标对象的音频流。
耳机接口270D用于连接有线耳机。耳机接口270D可以是USB接口230,也可以是3.5mm的开放移动XR设备平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
陀螺仪传感器280B可以用于确定XR设备的运动姿态。在一些实施例中,可以通过陀螺仪传感器280B确定XR设备围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器280B可以用于拍摄防抖。示例性的,当按下快门,陀螺仪传感器280B检测XR设备抖动的角度,根据角度计算出镜头模组需要补偿的距离,让镜头通过反向运动抵消XR设备的抖动,实现防抖。陀螺仪传感器280B还可以用于导航,体感游戏场景。在一些示例中,该陀螺仪传感器280B可以用于检测该XR设备的位置参数变换,例如,当用户佩戴该XR设备时,XR设备可以通过该陀螺仪传感器280B检测到用户的姿态变化(例如空间位置的变化量)。
磁传感器280D包括霍尔传感器。XR设备可以利用磁传感器280D检测翻盖皮套的开合。在一些实施例中,当XR设备是翻盖机时,XR设备可以根据磁传感器280D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态,设置翻盖自动解锁等特性。
加速度传感器280E可检测XR设备在各个方向上(一般为三轴)加速度的大小。当XR设备静止时可检测出重力的大小及方向。还可以用于识别XR设备姿态,应用于横竖屏切换,计步器等应用。
距离传感器280F,用于测量距离。XR设备可以通过红外或激光测量距离。在一些实施例中,拍摄场景,XR设备可以利用距离传感器280F测距以实现快速对焦。
触摸传感器280K,也称“触控器件”。触摸传感器280K可以设置于显示屏294,由触摸传感器280K与显示屏294组成触摸屏,也称“触控屏”。触摸传感器280K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏294提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器280K也可以设置于XR设备的表面,与显示屏294所处的位置不同。
按键290包括开机键,音量键等。按键290可以是机械按键。也可以是触摸式按键。XR设备可以接收按键输入,产生与XR设备的用户设置以及功能控制有关的键信号输入。
指示器292可以是指示灯,可以用于指示充电状态,电量变化等。
如图3所示,该图为本申请实施例提供的又一种XR设备的结构示意图。
XR设备执行本申请实施例提供的提示方法时,其处理器210包括有图3中所示的初始空间位置获取模块310和声信号空间化处理模块320。其中,声信号空间化处理模块320包括空间位置更新模块321、声信号接收和管理模块322、空间音频渲染模块323。
其中,初始空间位置获取模块310用于获取目标对象的初始空间位置;空间位置更新模块321用于获取用户佩戴的XR设备空间位置(如头部姿态)的变化量,并基于用户头部姿态的变化量和目标对象的初始空间位置,对目标对象的空间位置进行更新,进而得到目标对象的更新后空间位置。声信号接收和管理模块322用于接收虚拟空间的音频流以及现实空间的音频流。空间音频渲染模块323用于对虚拟空间中的音频流和现实空间中的音频流进行渲染,得到双耳音频流,并输出到双耳重放设备。
以下结合图4,对初始空间位置获取模块310、空间位置更新模块321、声信号接收和管理模块322、空间音频渲染模块323配合完成本申请实施例提供的提示方法的内容,进行介绍。
如图4所示,该图为本申请实施例提供的一种提示方法的流程图,该方法可以由用户佩戴的VR设备来执行,当然在另一些实施例中,该方法也可以由用户佩戴的AR设备来执行。为了便于理解,结合上述场景,对本申请实施例提供的提示方法进行介绍。该方法包括:
S401:初始空间位置获取模块320获取目标对象的初始空间位置。
目标对象的初始空间位置是指目标对象在现实空间140中的空间位置,该空间位置可以通过球坐标来表征。在一些实施例中,在VR设备启动后,该初始空间位置获取模块320开始采集现实空间中目标对象的初始空间位置。初始空间位置获取模块320可以通过超声波技术、超宽带(Ultra Wide Band,UWB)技术、wifi网络、惯性测量单元(InertialMeasurement Unit,IMU)等中的一种或多种方法,来对目标对象的初始空间位置进行估计,进而得到该目标对象的初始空间位置。
以初始空间位置获取模块320通过超宽带技术对目标对象的初始空间位置进行定位为例,VR设备可以基于UWB通信协议与目标对象进行单向或双向的多次信息交换,通过交换信息的无线信号进行测距和测向,得到VR设备和目标对象的相对距离和相对方位角,即目标对象的初始空间位置。
为了便于理解,下面结合图5所示的场景为例进行介绍。其中,图5所示的场景为客厅场景,当然,在另一些实施例中,本申请实施例提供的提示方法也可以应用于卧室、会议室等。在图5所示的场景中,用户佩戴VR设备在客厅观影,用户佩戴VR设备后,使其自身处于虚拟空间中,现实空间中的目标对象(如智能音箱520、智能手机510和智能门锁530)通过网络进行连接,通过该连接,目标对象和VR设备之间可以实现信息传递与交互,通过交换的信息和无线信息对上述目标对象进行测距和侧向,进而得到目标对象的初始空间为位置。当然,基于上述连接,目标对象也可以传输目标对象发出的声音提示、预报、预警信号,以及传输预先设定目标对象的初始空间位置。
当然,当目标对象为非电子设备时,可以预先在VR设备中录入非电子设备的初始空间位置,例如目标对象可以是婴儿,可以将婴儿所在的位置预先录入到VR设备中,进而初始空间位置获取模块320可以获取到该非电子设备的初始空间位置。
S402、初始空间位置获取模块310向空间位置更新模块321传输目标对象的初始空间位置。
初始空间位置获取模块310获取到目标对象的初始空间位置后,可以将该目标对象的初始空间位置传输给空间位置更新模块321,以便于空间位置更新模块321实时更新该目标对象的空间位置。
S403、空间位置更新模块321获取VR设备的空间位置的变化量。
在一些示例中,用户可以将VR设备佩戴在头部位置,当用户的头部发生转动时,VR设备的空间位置随之发生变化。该VR设备内配备有陀螺仪传感器、加速度传感器等,当用户的头部姿态发生变化时,也即VR设备的空间位置发生变化时,该空间位置更新模块321可以通过上述陀螺仪传感器、加速度传感器等获取到VR设备的空间位置的变化量,也即头部姿态的变化参数。
S404、空间位置更新模块321根据目标对象的初始空间位置以及VR设备的空间位置的变化量,确定目标对象的更新后空间位置。
空间位置更新模块321确定上述VR设备的空间位置的变化量后,可以基于该VR设备的空间位置的变化量以及目标对象的初始空间位置,对目标对象的空间位置进行更新,得到目标对象的更新后空间位置。
如图6A所示,该图为本申请实施例提供的一种目标对象的初始空间位置的示意图。在一些示例中,目标对象的初始空间位置可以通过球坐标表征,如图6A所示,智能手机510的初始空间位置为智能音箱520的初始空间位置为智能门锁530的初始空间位置为
如图6B所示,该图为本申请实施例提供的一种VR设备转动的示意图。当用户的头部发生转动时,空间位置更新模块321设备可以陀螺仪传感器等检测到用户的头部姿态的变化参数,例如用户的头部姿态的变化参数为空间位置更新模块321可以基于该头部姿态的变化参数以及目标对象的初始空间位置,得到目标对象的更新后空间位置。例如,通过如下公式,计算得到目标对象的更新后空间位置:
需要说明的是,以上通过球坐标来表征空间参数仅仅是一种示例,在其他实现方式中,也可以通过其他形式的数据来表征空间位置,例如目标对象的方向和距离等。
S405、空间位置更新模块321向空间音频渲染模块323传输目标对象的更新后空间位置。
空间位置更新模块321确定目标对象的实时空间位置(即更新后空间位置)后,将该实时空间位置传输给空间音频渲染模块323,以便于空间音频渲染模块323基于该实时空间位置,对目标对象的音频流进行渲染,并输出给双耳重放设备。
S406、声信号接收和管理模块322获取虚拟空间中的音频流以及现实空间中目标对象的音频流。
虚拟空间中的音频流可以是由VR设备构建的虚拟空间中的虚拟声源1、虚拟声源2…虚拟声源N产生的声音叠加而成。现实空间中的音频流可以是由现实空间中的现实声源1、现实声源2…现实声源M的组合。现实声源可以是现实空间中目标对象所产生声音形成。在一些示例中,现实空间的音频流可以是用来提示用户现实空间的一些重要事件,例如重要会议、婴儿哭啼等。
在一些实施例中,声信号接收和管理模块322可以通过麦克风来采集现实空间中的音频流,例如,声信号接收和管理模块322可以通过麦克风采集现实空间中目标对象的声信号,进而得到该目标对象的音频流。
目标对象可以是非电子设备,也可以是电子设备。目标对象为非电子设备时,例如目标对象可以是婴儿,声信号接收和管理模块322可以通过麦克风采集现实空间中婴儿产生的音频流,例如可以是婴儿的哭啼声、喊叫声等;目标对象为电子设备时,例如目标对象可以是智能手机,声信号接收和管理模块322可以通过麦克风采集现实空间中智能手机播放的音频流,例如可以是来电铃声、闹钟铃声等。
在另一些实施例中,在该目标对象为电子设备时,该电子设备可以与VR设备建立图5所示的连接(例如可以是处于同一个局域网内,也可以是通过蓝牙或其他方式连接)。声信号接收和管理模块322可以接收电子设备传输的其在现实空间中播放的音频流。以电子设备为智能手机为例,现实空间中的音频流可以是智能手机的来电铃声或闹钟铃声等,声信号接收和管理模块322可以通过上述连接接收智能手机传输的来电铃声或闹钟铃声,进而得到该智能手机在现实空间中播放的音频流。
在另一些实施例中,该声信号接收和管理模块322还可以接收电子设备传输的音频提示信号。以电子设备为智能手机,现实空间中的音频流为来电铃声为例,手机接收到来电时,声信号接收和管理模块322可以接收智能手机传输的音频提示信号,该音频提示信号用于提示VR设备,现实空间中的智能手机有来电,此时VR设备可以从音频提示信号与音频流的对应关系中,获取与该音频提示信号对应的音频流。例如,音频提示信号1对应于来电铃声的音频流,音频提示信号2对应于闹钟铃声的音频流。声信号接收和管理模块322接收到音频提示信号1后,可以从音频提示信号与音频流的对应关系中,获取到音频提示信号1对应的来电铃声的音频流。
以上仅仅是对本申请实施例中VR设备获取现实空间中的音频流的示例进行介绍,本领域技术人员可以基于实际需要选择合适的方式,使得VR设备获取现实空间中的音频流。
声信号接收和管理模块322获取到现实空间中的目标对象的音频流后,可以将现实空间的目标对象的音频流填充到与该目标对象的更新后空间位置所对应的容器内。其中,目标对象的更新后空间位置不同,与该目标对象的更新后空间位置所对应的容器不同。在一些示例中,容器可以是缓存(buffer),不同的缓存对应的地址不同。例如,现实空间中存在目标对象1、目标对象2、目标对象3和目标对象4。其中,目标对象1可以是智能手机,对应的容器为C1;目标对象2可以是智能门锁,对应的容器为C2;目标对象3可以智能音箱,对应的容器为C3;目标对象4可以是婴儿,对应的容器为C4。如此,以便于空间音频渲染模块323对现实空间中的音频流进行处理,得到基于通道编码的音频流。
S407、声信号接收和管理模块322确定目标对象的音频流的类别。
声信号接收和管理模块322还可以对现实空间中的音频流进行分类。在一些实施例中,可以预先定义音频流的类别。例如,可以将音频流分为三个类别:一级类别、二级类别和三级类别。不同级别的音频流可以反应不同重要程度的声音,如一级类别中的音频流最重要,二级类别中的音频流重要,三级类别中的音频流不重要。举例说明,一级类别可以包括警报声、重要会议预报声、婴儿哭啼声等;二级类别可以包括手机提示声(如来电铃声、闹钟铃声等)、门铃声、智能音箱天气播报声等;三级类别可以包括电视节目声、智能音箱播放音乐声等。
基于此,声信号接收和管理模块322获取到现实空间的音频流后,可以对该音频流进行分类,进而得到该音频流的类别。在一些示例中,声信号接收和管理模块322可以基于现实空间中的音频流的声信号特征,对该现实空间中的音频流进行分类,进而得到该现实空间中的音频流的类别。其中,声信号特征可以是梅尔倒谱系数(Mel-Frequency CepstralCoefficients,MFCC),也可以是梅尔倒谱能量(mel-energy)。声信号接收和管理模块322获取到上述音频流的声信号特征后,可以基于支持向量机(Support Vector Machines,SVM)、卷积神经网络(Convolutional Neural Networks,CNN)、循环神经网络(Recurrent NeuralNetwork,RNN)、深度神经网络(Deep Neural Networks,DNN)等机器学习或深度学习方法,对上述音频流的声信号特征进行处理,进而得到音频流的类别。
S408、声信号接收和管理模块322向空间音频渲染模块323传输预设类别的音频流以及虚拟空间中的音频流。
参见图7,该图为本申请实施例提供的一种VR设备对音频流处理的示意图。该VR设备进一步包括显示模块340,该显示模块330用于当音频流的类别为预设类别时,向用户展示与该音频流的类别所对应的提示信息。显示模块330后续进行介绍。
在一些示例中,预设类别可以是用户设定的类别。在用户通过VR设备体验虚拟世界的沉浸感之前,VR设备可以接收用户对预设类别的设定。例如,用户可以将上述一级类别和二级类别设置为预设类别。在另一些示例中,预设类别也可以是默认的类别,如默一级类别为预设类别。
在声信号接收和管理模块322确定现实空间中的音频流的类别为预设类别时,可以将虚拟空间中的音频流以及现实空间中预设类别的音频流传输给空间音频渲染模块323。例如,预设类别为一级类别和二级类别,声信号接收和管理模块322可以将一级类别的音频流以及二级类别的音频流传输给空间音频渲染模块323,以便空间音频渲染模块323对现实空间中的一级类别的音频流以及二级类别的音频流进行渲染。
需要说明的是,本申请实施例不具体限定上述S401至S405与S406至S408的先后执行顺序,S401至S405与S406至S408可以同时执行,也可以是先后执行,如先执行S406至S408,再执行S401至S405。
S409、空间音频渲染模块323对虚拟空间中的音频流进行渲染以及基于更新后空间位置对预设类别的音频流进行渲染,得到双耳音频流。
空间音频渲染模块323用于对虚拟空间中的音频流和现实空间中的音频流进行渲染,得到双耳音频流,并输出到双耳重放设备。其中,虚拟空间中的音频流存在两种情况:第一种为基于声对象编码的音频流;第二种为基于通道编码的音频流。
虚拟空间中的音频流为第一种的情况下,空间音频渲染模块323需要将基于声对象编码的音频流转换成基于通道编码的音频流。其中,声道可以是扬声器系统的各个扬声器,空间音频渲染模块323将该基于声对象编码的音频流在扬声器系统上做投影,得到基于通道编码的音频流。虚拟空间中的音频流为第二种的情况下,空间音频渲染模块323可以直接将该基于通道编码的音频流映射到对应的通道。
需要说明的是,上述基于通道编码的音频流包括但不限于立体声、5.1、7.1、5.1.4、7.1.4等多通道音频流。
一般的,声信号接收和管理模块322接收到的现实空间中的音频流为基于声对象的音频流。类似的,空间音频渲染模块323需要将现实空间中的音频流转换成基于通道编码的音频流,处理方式与对虚拟空间中的音频流的处理方式相类似,此处不再赘述。
在完成对虚拟空间和现实空间中的音频流的转换后,空间音频渲染模块323可以直接利用基于通道编码的音频流完成空间音频渲染,得到包括虚拟空间和现实空间中各声源的双耳音频流。如此,在用户沉浸在虚拟空间的过程中,该VR设备能够给用户提供现实空间中一些重要事件的音频流。
接着,空间音频渲染模块323在对现实空间中的音频流进行渲染过程中,基于目标对象的更新后空间对该目标对象在现实空间中的音频流进行渲染,进而得到双耳音频流,该双耳音频流不仅能够给用户进行重要事件的提示,还能够使得用户感受到该音频流的方向,提高用户体验。
S410、空间音频渲染模块323将双耳音频流输出给双耳重放设备。
双耳重放设备是指用于与用户进行声音交互的设备,例如双耳重放设备可以是耳机。
空间音频渲染模块323将双耳音频流输出给双耳重放设备后,双耳重放设备可以在播放虚拟空间的音频流的同时,对现实空间中的音频流进行播放。如此,即使用户沉浸在VR设备所渲染的虚拟空间中时,也能够感受到现实空间中的重要信息的提示。
在一些实施例中,声信号接收和管理模块322还可以向显示模块330传输目标对象的音频流的类别,显示模块330在接收到目标对象的音频流的类别后,可以基于不同的类别,通过不同的展示方式,向用户展示提示信息。例如,预设类别包括一级类别和二级类别,可以预先设定一级类别和二级类别各自对应的展示方式。
为了便于理解,下面先介绍未展示提示信息时虚拟世界的画面的示意图,如图8A所示,该图为本申请实施例提供的一种虚拟世界的画面的示意图。在用户体验VR设备的过程中,VR设备通过头戴式显示器遮挡用户的视线,创造了完全的虚拟视觉环境,该显示模块330还用于通过上述头戴式显示器(如显示屏)向用户呈现虚拟世界的画面,从而提供给用户一种沉浸感的体验。其中,图8A所示的虚拟世界的画面中不包括任何提示信息,图8A所示的画面仅仅是示例性介绍。
在一些示例中,一级类别的展示方式可以是在画面中呈现提示信息,提示信息包括提示文字(如当前存在重要事件需要处理)和提示图像(如危险标志),并在展示提示文字和提示图像的过程中进行屏幕闪烁,如红屏闪烁。如图8B所示,该图为本申请实施例提供的一种提示信息的示意图。可见,显示模块330在呈现提示信息的同时控制显示屏红屏闪烁,能够更加清楚地告知用户,现实空间中存在重要事件需要处理。
在一些示例中,二级类别的展示方式可以是在画面中呈现提示信息,提示信息包括提示文字(如当前存在普通事件需要处理)和提示图像(如该普通事件对应的图像),例如,现实空间中的音频流为门铃声时,提示信息的图像可以是“门”的图像。如图8C所示,该图为本申请实施例提供的又一种提示信息的示意图。显示模块330通过呈现提示信息的方式,针对现实空间中的普通事件进行提示,不仅能够保证用户的沉浸感,也能够避免用户错过现实空间中的一些事件。
可见,显示模块330可以基于音频流的类别,选择不同的展示方式向用户展示提示信息,以提示用户现实空间中存在一些事件需要处理,如此能够提高用户沉浸在虚拟空间中的安全等级和虚拟互动能力。
需要说明的是,上述图8B和图8C仅仅是提示信息的示例介绍。本申请实施例以VR设备仅针对一级类别和二级类别的音频流进行提示进行介绍,从而在避免用户错过现实空间中的一些重要事件的前提下,也能够较好地保证用户的沉浸感。当然,在其他实施例中,VR设备也可以针对三级类别的音频流进行提示,此处不再赘述。
基于上述内容描述,本申请实施例提供了一种提示方法,该方法可以由XR设备执行。XR可以先获取现实空间中目标对象的初始空间位置,基于XR设备采集的用户的头部姿态的变化参数,得到目标对象的更新后空间位置,然后基于目标对象的更新后空间位置,对该目标对象的音频流,进行空间化和沉浸感的渲染,并输出到双耳重放设备。如此,即使用户沉浸在虚拟空间中,用户能够感受到现实空间中目标对象所产生的声音,并且还能够感知到该目标对象的声音所在的方位。
进一步的,XR设备还可以对该目标对象的音频流进行分类,例如可以是基于该音频流的声信号特征对该音频流进行分类,得到该目标对象的音频流的类别,当目标对象的音频流的类别为预设类别时,该XR设备向用户进行提示,例如可以是向用户播放现实空间中的音频流,也可以是向用户展示提示信息,使用户不仅能够沉浸在虚拟空间中,也能够避免错过现实空间中的一些重要事件。
为了便于理解,下面结合图9,以XR设备的角度,对本申请实施例提供的提示方法进行简要介绍。如图9所示,该图为本申请实施例提供的一种提示方法的流程图,该方法可以由XR设备执行,XR设备可以包括上述VR设备和AR设备,具体地,该方法包括:
S901:XR设备获取现实空间中目标对象的初始空间位置。
XR设备可以通过上述初始空间位置获取模块310来获取目标对象的初始空间位置,此处不再赘述。
S902:XR设备根据所述初始空间位置以及所述扩展现实设备的空间位置的变化量,确定所述目标对象的更新后空间位置。
XR设备确定目标对象的更新后空间位置的过程可以参见上述空间位置更新模块321,此处不再赘述。
S903:XR设备基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染,得到现实空间音频流。
XR设备对目标对象的音频流进行渲染的过程可以参见上述空间音频渲染模块323,此处不再赘述。
S904:XR设备通过所述现实空间音频流进行提示。
XR设备将上述现实空间音频流(即双耳音频流)通过双耳重放设备如耳机进行播放,从而向用户进行提示。
在一些实施例中,XR设备还可以获取所述现实空间中目标对象的音频流的类别;当所述现实空间中目标对象的音频流的类别为预设类别时,基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染。
在一些实施例中,XR设备根据所述目标对象的音频流的类别与提示信息的对应关系,确定与所述目标对象的音频流的类别对应的提示信息,向用户展示与所述目标对象的音频流的类别对应的提示信息。其中,提示信息可以包括文字、图像,也可以是文字和图像的组合。
在一些实施例中,当所述目标对象的音频流的类别为预设类别中最高级别时,XR设备可以通过屏幕闪烁的方式,展示与所述目标对象的音频流的类别对应的提示信息。
在一些实施例中,所述现实空间中目标对象的音频流通过采集所述目标对象的音频流得到或通过接收所述目标对象传输的音频流得到。
本申请实施例该提供了一种扩展现实设备,如图10所示,该扩展现实设备包括:
获取单元1001,用于获取现实空间中目标对象的初始空间位置;
更新单元1002,用于根据所述初始空间位置以及所述扩展现实设备的空间位置的变化量,确定所述目标对象的更新后空间位置;
渲染单元1003,用于基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染,得到现实空间音频流;
提示单元1004,用于通过所述现实空间音频流进行提示。
在一些可能的实现方式中,获取单元1001,还用于获取所述现实空间中目标对象的音频流的类别;
渲染单元1003,具体用于当所述现实空间中目标对象的音频流的类别为预设类别时,基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染。
在一些可能的实现方式中,提示单元1004,还用于根据所述目标对象的音频流的类别与提示信息的对应关系,确定与所述目标对象的音频流的类别对应的提示信息,向用户展示与所述目标对象的音频流的类别对应的提示信息。
在一些可能的实现方式中,所述提示信息包括文字和/或图像。
在一些可能的实现方式中,当所述目标对象的音频流的类别为预设类别中最高级别时,提示单元1004,具体用于通过屏幕闪烁的方式,展示与所述目标对象的音频流的类别对应的提示信息。
在一些可能的实现方式中,所述现实空间中目标对象的音频流通过采集所述目标对象的音频流得到或通过接收所述目标对象传输的音频流得到。
在一些可能的实现方式中,获取单元1001,还用于获取虚拟空间音频流;
提示单元1004,具体用于通过所述现实空间音频流和所述虚拟空间音频流进行提示。
本申请实施例还提供了一种扩展现实设备,如图11所示,该扩展现实设备可以包括:显示屏1110、一个或多个处理器1120、存储器1130、一个或多个计算机程序1140,上述各器件可以通过一个或多个通信总线1150连接。其中该一个或多个计算机程序1140被存储在上述存储器1130中,并被配置为被该一个或多个处理器1120执行,该一个或多个计算机程序1140包括指令,上述指令可以用于执行如图4或图9中扩展现实设备执行的各个步骤。其中显示屏1110可以用于展示提示信息等。
本实施例还提供了一种计算机可读存储介质,该计算机可读存储介质中包括指令,当上述指令在电子设备上运行时,使得该电子设备执行图4、图9中的相关方法步骤,以实现上述实施例中的方法。
本实施例还提供了一种包含指令的计算机程序产品,当该计算机程序产品在电子设备上运行时,使得该电子设备执行如图4、图9中的相关方法步骤,以实现上述实施例中的方法。
通过以上的实施方式的描述,所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将扩展现实设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。上述描述扩展现实设备和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本实施例所提供的几个实施例中,应该理解到,所揭露的扩展现实设备和方法,可以通过其它的方式实现。例如,以上所描述的扩展现实设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本实施例各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器执行各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:快闪存储器、移动硬盘、只读存储器、随机存取存储器、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何在本申请揭露的技术范围内的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应以所述权利要求的保护范围为准。
Claims (10)
1.一种提示方法,其特征在于,应用于扩展现实设备,所述方法包括:
获取现实空间中目标对象的初始空间位置;
根据所述初始空间位置以及所述扩展现实设备的空间位置的变化量,确定所述目标对象的更新后空间位置;
基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染,得到现实空间音频流;
通过所述现实空间音频流进行提示。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取所述现实空间中目标对象的音频流的类别;
所述基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染,包括:
当所述现实空间中目标对象的音频流的类别为预设类别时,基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
根据所述目标对象的音频流的类别与提示信息的对应关系,确定与所述目标对象的音频流的类别对应的提示信息,向用户展示与所述目标对象的音频流的类别对应的提示信息。
4.根据权利要求3所述的方法,其特征在于,所述提示信息包括文字和/或图像。
5.根据权利要求3所述的方法,其特征在于,当所述目标对象的音频流的类别为预设类别中最高级别时,所述向用户展示与所述目标对象的音频流的类别对应的提示信息,包括:
通过屏幕闪烁的方式,展示与所述目标对象的音频流的类别对应的提示信息。
6.根据权利要求1-4任一项所述的方法,其特征在于,所述现实空间中目标对象的音频流通过采集所述目标对象的音频流得到或通过接收所述目标对象传输的音频流得到。
7.根据权利要求1-5任一项所述的方法,其特征在于,所述方法还包括:
获取虚拟空间音频流;
所述通过所述现实空间音频流进行提示,包括:
通过所述现实空间音频流和所述虚拟空间音频流进行提示。
8.一种扩展现实设备,其特征在于,包括:
获取单元,用于获取现实空间中目标对象的初始空间位置;
更新单元,用于根据所述初始空间位置以及所述扩展现实设备的空间位置的变化量,确定所述目标对象的更新后空间位置;
渲染单元,用于基于所述更新后空间位置,对所述现实空间中目标对象的音频流进行渲染,得到现实空间音频流;
提示单元,用于通过所述现实空间音频流进行提示。
9.一种扩展现实设备,其特征在于,包括:显示屏、处理器和存储器;
所述显示屏,用于展示提示信息;
所述存储器,用于存储计算机程序;
所述处理器,用于执行所述计算机程序,以实现如权利要求1-7任一项所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被计算机执行时,实现如权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210668433.9A CN116048241A (zh) | 2022-06-14 | 2022-06-14 | 一种提示方法、扩展现实设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210668433.9A CN116048241A (zh) | 2022-06-14 | 2022-06-14 | 一种提示方法、扩展现实设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116048241A true CN116048241A (zh) | 2023-05-02 |
Family
ID=86126377
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210668433.9A Pending CN116048241A (zh) | 2022-06-14 | 2022-06-14 | 一种提示方法、扩展现实设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116048241A (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106325518A (zh) * | 2016-08-31 | 2017-01-11 | 青岛歌尔声学科技有限公司 | 用于虚拟现实设备的声音监测方法、装置及虚拟现实设备 |
CN108243275A (zh) * | 2016-12-27 | 2018-07-03 | 中国移动通信有限公司研究院 | 一种来电提醒方法及虚拟现实设备 |
CN109791436A (zh) * | 2016-08-26 | 2019-05-21 | 诺基亚技术有限公司 | 内容发现 |
CN111158459A (zh) * | 2018-11-07 | 2020-05-15 | 辉达公司 | 几何声学在沉浸式虚拟现实(vr)中的应用 |
CN111198608A (zh) * | 2018-11-16 | 2020-05-26 | 广东虚拟现实科技有限公司 | 信息提示方法、装置、终端设备及计算机可读取存储介质 |
CN111739169A (zh) * | 2019-10-31 | 2020-10-02 | 北京京东尚科信息技术有限公司 | 基于增强现实的产品展示方法、系统、介质及电子设备 |
CN112241199A (zh) * | 2019-07-19 | 2021-01-19 | 华为技术有限公司 | 虚拟现实场景中的交互方法及装置 |
CN112287928A (zh) * | 2020-10-20 | 2021-01-29 | 深圳市慧鲤科技有限公司 | 一种提示方法、装置、电子设备及存储介质 |
-
2022
- 2022-06-14 CN CN202210668433.9A patent/CN116048241A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109791436A (zh) * | 2016-08-26 | 2019-05-21 | 诺基亚技术有限公司 | 内容发现 |
CN106325518A (zh) * | 2016-08-31 | 2017-01-11 | 青岛歌尔声学科技有限公司 | 用于虚拟现实设备的声音监测方法、装置及虚拟现实设备 |
CN108243275A (zh) * | 2016-12-27 | 2018-07-03 | 中国移动通信有限公司研究院 | 一种来电提醒方法及虚拟现实设备 |
CN111158459A (zh) * | 2018-11-07 | 2020-05-15 | 辉达公司 | 几何声学在沉浸式虚拟现实(vr)中的应用 |
CN111198608A (zh) * | 2018-11-16 | 2020-05-26 | 广东虚拟现实科技有限公司 | 信息提示方法、装置、终端设备及计算机可读取存储介质 |
CN112241199A (zh) * | 2019-07-19 | 2021-01-19 | 华为技术有限公司 | 虚拟现实场景中的交互方法及装置 |
CN111739169A (zh) * | 2019-10-31 | 2020-10-02 | 北京京东尚科信息技术有限公司 | 基于增强现实的产品展示方法、系统、介质及电子设备 |
CN112287928A (zh) * | 2020-10-20 | 2021-01-29 | 深圳市慧鲤科技有限公司 | 一种提示方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111316333B (zh) | 一种信息提示方法及电子设备 | |
US11340072B2 (en) | Information processing apparatus, information processing method, and recording medium | |
US20220164159A1 (en) | Method for playing audio, terminal and computer-readable storage medium | |
US11887261B2 (en) | Simulation object identity recognition method, related apparatus, and system | |
CN112383664B (zh) | 一种设备控制方法、第一终端设备、第二终端设备及计算机可读存储介质 | |
CN112134995A (zh) | 一种查找应用对象的方法、终端及计算机可读存储介质 | |
WO2018216355A1 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
CN111103975B (zh) | 显示方法、电子设备及系统 | |
WO2022037398A1 (zh) | 一种音频控制方法、设备及系统 | |
WO2022007707A1 (zh) | 家居设备控制方法、终端设备及计算机可读存储介质 | |
CN110349527B (zh) | 虚拟现实显示方法、装置及系统、存储介质 | |
WO2022143310A1 (zh) | 一种双路投屏的方法及电子设备 | |
CN115641867A (zh) | 语音处理方法和终端设备 | |
CN116048241A (zh) | 一种提示方法、扩展现实设备及介质 | |
CN111982293B (zh) | 体温测量方法、装置、电子设备及存储介质 | |
CN110708582B (zh) | 同步播放的方法、装置、电子设备及介质 | |
EP4244744A1 (en) | Triggering a collaborative augmented reality environment using an ultrasound signal | |
CN114637392A (zh) | 显示方法及电子设备 | |
CN114449393A (zh) | 一种声音增强方法、耳机控制方法、装置及耳机 | |
CN114812381A (zh) | 电子设备的定位方法及电子设备 | |
US20200396438A1 (en) | Information processing device, information processing method, and computer program | |
WO2024046182A1 (zh) | 一种音频播放方法、系统及相关装置 | |
CN110750675A (zh) | 歌词分享方法及装置、存储介质 | |
CN115567817B (zh) | 一种音频输出设备工作模式的设置方法及电子设备 | |
CN116743913B (zh) | 音频处理方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |