一种虚拟现实场景中虚拟影像交互的方法
技术领域
本发明属于虚拟现实技术领域,具体涉及一种虚拟现实场景中人物交互的方法。
背景技术
VR(Virtual Reality),虚拟现实技术,是一种综合利用计算机图形系统和各种现实及控制等接口设备,在计算机上生成的、可交互的三维环境中提供沉浸感觉的技术。如果还是不够“场景化”,那么可以理解为通过某个设备(目前主要是眼睛或者头盔)来产生“身临其境”的感觉,当然,这个“其境”就是通过各种计算机技术生成的视频资料。
近年来,由于VR硬件的成熟,特别是美国的Facebook宣布收购了VR公司OculusVR,三星就推出了Gear VR眼镜;2015年初,HTC展示了自己与Valve联合开发的头盔HTCVive,VR技术进入了实用化的阶段。但是普遍缺乏的是基于VR的行业应用和内容,VR技术和各种行业应用的结合,将产生各种新型的应用。
发明CN200710094144涉及一种网络游戏中的数据处理方法,特别是指一种在线联网游戏中虚拟角色的展示方法;此外,本发明还涉及一种虚拟角色的展示系统。
该方案和本方案具有如下区别。首先,该方案是针对网络游戏设计,是以电脑为展示硬件,没有考虑以VR头盔为展示载体,没有考虑VR头盔的全景、互动、位置意识等特性。其次,该方案仅仅考虑了单个角色如何展示的问题,他没有考虑多个角色对唱或者合唱的应用场景,也没有考虑多个角色之间如何对唱,如何互动的问题。
本发明提出了一种虚拟现实场景中人物交互的方法,在虚拟场景中,实现用户替身和用户替身虚拟影像对唱、合唱或者互动的方法,该方法将为用户提供和自己的明星偶像以及其他用户替身虚拟影像,在数字世界里一起歌唱、互动的新型娱乐体验。
发明内容
本申请实施例提供一种虚拟现实场景中虚拟影像交互的方法,用于在虚拟场景中实现用户替身和合唱对象虚拟影像对唱、合唱或者互动。
一方面,本发明提供一种虚拟现实场景中虚拟影像交互的方法,包括:
选择歌曲、歌唱场景、用户替身虚拟影像和合唱对象虚拟影像;
根据预设的控制信息或用户现场的演唱信息变换用户替身虚拟影像的交互行为,其中,用户现场的演唱信息优于预设的控制信息来控制用户替身虚拟影像的交互行为;
根据预设的控制信息或用户替身的交互行为,变换合唱对象的交互行为,其中,用户替身虚拟影像的交互行为优于预设的控制信息来控制合唱对象的交互行为。
进一步地,根据用户现场的演唱信息变换用户替身虚拟影像的交互行为,包括:
通过语音分析、语义识别技术分析用户替身虚拟影像的演唱声音方面的信息、歌词内容来变换所述用户替身虚拟影像的交互行为。
进一步地,所述通过语音分析技术分析用户替身虚拟影像的演唱信息来变换所述用户替身虚拟影像的交互行为,包括:
通过麦克风采集用户唱歌的数字波形信号,通过转换获得实时音量、音高和节奏信息,根据获得的实时音量、音高和节奏信息并结合歌词内容变换用户替身虚拟影像的口型、表情和动作。
进一步地,所述通过语义识别技术分析用户替身虚拟影像的歌唱内容,包括:
通过语义识别技术,分析用户歌唱的内容,结合歌词内容变换用户替身虚拟影像的表情和动作。
进一步地,通过在VR头盔中设置传感器来采集用户的实时表情特征数据,并根据表情特征数据调整用户替身虚拟影像唱歌时的表情;
通过佩戴可穿戴体感交互设备来实时采集用户的动作信息,并根据动作信息实时调整用户替身虚拟影像的动作。
进一步地,根据预设的控制信息变换用户替身虚拟影像的交互行为,包括:
预制控制信息到歌曲配置文件中,当歌曲播放到相应内容时,用户替身虚拟影像做出预制的交互行为。
进一步地,根据每首歌曲,来预设控制信息,控制合唱对象的合唱行为,预设控制信息可作为脚本写在字幕文件或者其它文本文件中,或者数据库中,合唱对象的口型、表情和动作可做适应性变换。
进一步地,根据用户替身虚拟影像的交互行为变换合唱对象虚拟影像的交互行为,包括:
合唱对象虚拟影像基于预制规则,根据用户替身虚拟影像的口型、表情和动作适应性变换合唱对象虚拟影像的口型、表情和动作。
进一步地,基于语音识别技术,用户替身使用声音和合唱对象进行互动,包括:
基于预制响应规则,系统利用语音识别技术获得用户替身的指令,合唱对象根据用户的指令,做出相应的交互行为。
进一步地,合唱对象的声音可由录制的声音生成,也可通过电子音乐制作语音合成软件来合成。
进一步地,基于预制的响应规则,用户替身可以使用各种交互工具来和合唱对象交互,交互工具包括手柄、光学交互设备、穿戴式体感设备、VR头盔以及定位系统,用户替身可以使用这些交互工具来触碰合唱对象的虚拟形象或者其它虚拟场景元素。
进一步地,所述歌唱场景由三维建模或全景视频来生成;用户替身虚拟影像和合唱对象虚拟影像通过三维建模、全景视频绿布抠像或者实景建模的方式来生成。
进一步地,还包括:将用户演唱过程的照片、声音视频分享到社交媒体网络。
进一步地,根据预制控制信息或用户的实时音量和节奏信息调整歌唱场景。
本发明的虚拟现实场景中人物交互的方法,将为用户提供和自己的明星偶像以及其他用户替身虚拟影像,在数字世界里一起歌唱、互动的新型娱乐体验。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种虚拟现实场景中人物交互的方法的流程图;
图2为本发明实施例提供的一种虚拟现实场景中人物交互的方法的系统架构图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明可用于配置有VR的系统环境中。例如:系统硬件包括全景显示设备(虚拟现实头盔)、控制设备、音响设备、交互设备(手柄、光学交互设备或者体感穿戴设备)、定位设备,控制设备进一步包括全景展示单元、歌唱控制单元、歌唱分析单元、交互处理单元、录音/专辑生成单元。
本发明提供一种虚拟现实场景中人物交互的方法,包括(参考图1、图2):
S101:选择歌曲、歌唱场景、用户替身虚拟影像和合唱对象虚拟影像;
可通过VR设备执行选择歌曲、歌唱场景、用户替身虚拟影像和合唱对象虚拟影像的操作,优选地,交互设备可协助上述选择操作。合唱对象虚拟影像包括但不限于明星偶像的虚拟人物,用户替身虚拟影像为系统提供的自定义人物形象,用户可通过输入自己的身高、体重、脸型和发型等身体特征自定义属于自己的用户替身虚拟影像,优选地,用户可上传自己的照片,然后由系统根据照片生成用户替身虚拟影像,用户替身虚拟影像和合唱对象虚拟影像可以通过三维建模的方式、或者全景视频绿布抠像的方式、或者实景建模的方式来生成。歌唱场景包括虚拟舞台场景,舞台虚拟场景可以由三维建模的方式生成,也可由全景视频来生成。虚拟舞台可根据预制的歌唱控制信息,调整虚拟舞台的展示效果,包括舞台灯光信息、特效信息、环境人群信息,作为优选方案,虚拟舞台可根据用户的实时音量和节奏信息,调整舞台的灯光、粒子特效、环境人群的反应。系统可将带有配套歌曲的虚拟舞台场景效果的控制信息预制到歌曲内容中,以使得歌曲播放至特定时段即可展示预制的虚拟舞台场景效果,还可以从歌词中实时分析舞台环境效果,虚拟舞台根据语义识别结果,根据歌词内容,呈现舞台环境效果,包括舞台灯光信息、特效信息、环境人群信息,优选地,虚拟舞台场景效果可以与用户替身虚拟影像的交互行为互动变化。
S102:根据预设的控制信息或用户现场的演唱信息变换用户替身虚拟影像的交互行为,其中,用户现场的演唱信息优于预设的控制信息来控制用户替身虚拟影像的交互行为;
在本实施例中,所述交互行为至少包括口型、表情和动作。预制控制信息到歌曲内容中,当歌曲播放到相应内容时,触发控制信息从而使得用户替身虚拟影像执行预设交互行为,例如,系统可预制用户表情信息到歌曲内容中,当歌曲播放到相应内容时,用户替身做出预制的表情,同样,系统可预制用户动作信息到歌曲内容中,当歌曲播放到相应内容时,用户替身做出预制的动作内容,例如挥手、跳跃、拥抱等动作。
在本实施例中,根据用户现场的演唱信息变换用户替身虚拟影像的交互行为,包括:通过语义识别技术分析用户替身虚拟影像的演唱信息来变换所述用户替身虚拟影像的交互行为;例如,用户替身的卡通人物根据实时获得的用户唱歌音量、音高和节奏信息、歌词内容,调整替身的口型、表情和动作。具体地,通过麦克风采集用户唱歌的数字波形信号,通过转换获得实时音量、音高和节奏信息,根据获得的实时音量、音高和节奏信息并结合歌词内容变换用户替身虚拟影像的口型、表情和动作。优选地,当系统中设置有传感器来采集用户的实时表情特征数据时,根据表情特征数据调整用户替身虚拟影像唱歌时的表情(此时,演唱信息不再用来控制表情);优选地,当佩戴可穿戴体感交互设备来实时采集用户的动作信息时,根据动作信息实时调整用户替身虚拟影像的动作(此时,演唱信息不再用来控制动作)。
在本实施例中,当能够接收到用户现场的演唱信息时,以用户现场的演唱信息来控制用户替身虚拟影像的交互行为;只有当没有接收到用户现场的演唱信息时,才以预设的控制信息来控制用户替身虚拟影像的交互行为。
S103:根据预设的控制信息或用户替身虚拟影像的交互行为变换合唱对象虚拟影像的交互行为,其中,用户替身虚拟影像的交互行为优于预设的控制信息来控制用户替身虚拟影像的交互行为。
在本实施例中,所述交互行为至少包括口型、表情和动作。系统可将控制信息预制到歌曲内容中,歌曲播放至特定位置时,触发控制信息从而使得合唱对象虚拟影像执行预设交互行为,例如,系统可预制用户表情信息到歌曲内容中,当歌曲播放到相应内容时,合唱对象虚拟影像做出预制的表情,同样,系统可预制用户动作信息到歌曲内容中,当歌曲播放到相应内容时,合唱对象虚拟影像做出预制的动作内容,例如挥手、跳跃、拥抱等动作。系统预先将歌曲的歌唱控制信息预制到歌曲内容中,包括节奏、音高、每分钟节拍数、歌曲速度、歌曲类型(像男性快歌或者女性慢歌),合唱对象虚拟影像按照预制方案进行歌唱。此外,合唱对象虚拟影像的歌唱的声音还可以由预先录制的声音文件来生成;作为优选方案,合唱对象虚拟影像的歌唱的声音也可以由电子音乐制作语音合成软件来合成。
在本实施例中,根据用户替身虚拟影像的交互行为变换合唱对象虚拟影像的交互行为,包括:合唱对象虚拟影像基于预制规则,根据用户替身虚拟影像的口型、表情和动作适应性变换合唱对象虚拟影像的口型、表情和动作。例如,用户替身虚拟影像的表情可以根据用户替身的表情来生成,例如,可以预制规则,当用户替身在微笑时,用户替身虚拟影像也会呈现微笑的表情。基于预制规则,用户替身虚拟影像通过交互工具或者声音来变换合唱对象虚拟影像的交互行为。例如,系统可以预先将该交互策略预制到歌曲内容中,策略为用户替身的动作/声音和用户替身虚拟影像的响应动作、表情、声音,例如,当用户替身使用手柄拿起花束,进行献花时,用户替身虚拟影像也做出接花动作来回应。作为优选方案,用户可利用LEAP MOTION等光学交互设备,来进行交互,用户可做出不同的手势,用户替身虚拟影像做出不同的动作来响应;作为优选方案,用户可利用穿戴式的体感交互设备,来进行交互,用户替身虚拟影像通过动作形式来响应;作为优选方案,用户替身和用户替身虚拟影像可通过声音进行交互,用户可通过声音发出指令,用户替身虚拟影像按照预制的策略,做出响应动作。
在本实施例中,当用户替身虚拟影像的交互行为与预制的规则匹配时,以用户替身虚拟影像的交互行为信息来控制合唱对象虚拟影像的交互行为;只有当用户替身虚拟影像的交互行为与预制的规则不匹配时,才以预设的控制信息来控制合唱对象虚拟影像的交互行为。
在本发明的实施例中,还包括,将用户演唱过程的照片、声音视频分享到社交媒体网络。作为优选,用户可以选择录下声音,上传到微信、APP或者PC网站,可以添加图像,制作自己的专辑。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。