CN107046663A - 一种立体声效的播放方法、装置及vr设备 - Google Patents

一种立体声效的播放方法、装置及vr设备 Download PDF

Info

Publication number
CN107046663A
CN107046663A CN201710065823.6A CN201710065823A CN107046663A CN 107046663 A CN107046663 A CN 107046663A CN 201710065823 A CN201710065823 A CN 201710065823A CN 107046663 A CN107046663 A CN 107046663A
Authority
CN
China
Prior art keywords
sound
change
equipment
user
eye movement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710065823.6A
Other languages
English (en)
Other versions
CN107046663B (zh
Inventor
欧阳戈政
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Qihoo Technology Co Ltd
Original Assignee
Beijing Anyun Century Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Anyun Century Technology Co Ltd filed Critical Beijing Anyun Century Technology Co Ltd
Priority to CN201710065823.6A priority Critical patent/CN107046663B/zh
Publication of CN107046663A publication Critical patent/CN107046663A/zh
Application granted granted Critical
Publication of CN107046663B publication Critical patent/CN107046663B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/12Circuits for transducers, loudspeakers or microphones for distributing signals to two or more loudspeakers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R2430/00Signal processing covered by H04R, not provided for in its groups

Landscapes

  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Otolaryngology (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Stereophonic System (AREA)

Abstract

本发明公开了一种立体声效的播放方法、装置及VR设备,涉及虚拟现实技术领域,通过检测用户眼球的变化以及视觉场景的变化综合调整声音播放的效果,以使声效配合视觉效果向用户提供更佳的三维环境沉浸感。本发明主要的技术方案为:通过虚拟现实VR设备获取当前用户的眼球运动参数,所述眼球运动参数包括瞳孔位置和晶状体曲度;根据所述眼球运动参数的变化按照预设规则调节声音输出,达到立体声效随用户的眼球变化而改变。本发明主要用于VR设备中的声效播放。

Description

一种立体声效的播放方法、装置及VR设备
技术领域
本发明涉及虚拟现实技术领域,尤其涉及一种立体声效的播放方法、装置及VR设备。
背景技术
VR(Virtual Reality,虚拟现实),是由美国VPL公司创建人拉尼尔(JaronLanier)在20世纪80年代初提出的。其具体内涵是:综合利用计算机图形系统和各种现实及控制等接口设备,在计算机上生成的、可交互的三维环境中提供沉浸感觉的技术。其中,计算机生成的、可交互的三维环境成为虚拟环境(即Virtual Environment,简称VE)。虚拟现实技术实现的载体是虚拟现实仿真平台(即Virtual Reality Platform,简称VRP)。头盔式显示器是最早的虚拟现实显示器,利用头盔显示器将人的对外界的视觉、听觉封闭,引导用户产生一种身在虚拟环境中的感觉。其显示原理是左右眼屏幕分别显示左右眼的图像,人眼获取这种带有差异的信息后在脑海中产生立体感。
然而,现有的VR技术虽然在视觉感受上达到了立体效果,但在声音的播放效果上还只是根据当前的场景固定播放相应的立体声效,也就是根据VR视频素材定制的声音效果,不能根据用户观看的位置以及视觉关注的内容进行音效的调整,从而使用户难以达到身临其境的感受。
发明内容
有鉴于此,本发明提供一种立体声效的播放方法、装置及VR设备,通过检测用户眼球的变化以及视觉场景的变化综合调整声音播放的效果,以使声效配合视觉效果向用户提供更佳的三维环境沉浸感。
依据本发明的一个方面,提出了一种立体声效的播放方法,该方法包括:
通过虚拟现实VR设备获取当前用户的眼球运动参数,所述眼球运动参数包括瞳孔位置和晶状体曲度;
根据所述眼球运动参数的变化按照预设规则调节声音输出,达到立体声效随用户的眼球变化而改变。
优选的,所述根据所述眼球运动参数的变化按照预设规则调节声音输出包括:
根据所述瞳孔位置的变化调节不同声道输出的声音响度;
根据所述晶状体曲度的变化调节声道输出的声音混响。
优选的,所述根据所述瞳孔位置的变化调节不同声道输出的声音响度包括:
实时监测所述瞳孔位置,确定瞳孔的运动轨迹;
当所述运动轨迹为水平移动时,则动态调整左右声道声音输出的响度;
当所述运动轨迹为垂直移动时,则动态调整前后声道声音输出的响度。
优选的,所述根据所述晶状体曲度的变化调节声道输出的声音混响包括:
实时监测所述晶状体的屈光度,以确定晶状体的曲度;
根据所述曲度的变化反比例调节输出的声音混响。
优选的,所述方法还包括:
当所述眼球运动参数改变时,判断当前用户的视角是否发生改变;
若改变,则根据所述视角变化的方向与角度的变化值结合所述眼球运动参数的变化按照预设规则调节声音输出。
优选的,所述根据所述眼球运动参数的变化按照预设规则调节声音输出包括:
设置眼球运动的位置阈值,以及声道输出的响度阈值;
关联所述眼球运动的位置阈值与声道输出的响度阈值,以使眼球的移动与不同声道的响度调节能够同步线性调节。
优选的,所述方法还包括:
获取所述VR设备的运动参数;
将所述VR设备的运动参数与眼球运动参数进行合成后调节所述VR设备的声音输出。
优选的,所述方法还包括:
当检测到用户处于闭眼状态且达到预置时长后,关闭所述VR设备当前的声音输出。
依据本发明的另一个方面,提出了一种立体声效的播放装置,该装置包括:
获取单元,用于通过虚拟现实VR设备获取当前用户的眼球运动参数,所述眼球运动参数包括瞳孔位置和晶状体曲度;
调节单元,用于根据所述获取单元获取眼球运动参数的变化按照预设规则调节声音输出,达到立体声效随用户的眼球变化而改变。
优选的,所述调节单元包括:
第一调节模块,用于根据所述瞳孔位置的变化调节不同声道输出的声音响度;
第二调节模块,用于根据所述晶状体曲度的变化调节声道输出的声音混响。
优选的,所述第一调节模块包括:
确定子模块,用于实时监测所述瞳孔位置,确定瞳孔的运动轨迹;
调节子模块,用于当所述确定子模块确定的运动轨迹为水平移动时,动态调整左右声道声音输出的响度;
所述调节子模块还用于,当所述确定子模块确定的运动轨迹为垂直移动时,动态调整前后声道声音输出的响度。
优选的,所述第二调节模块包括:
确定子模块,用于实时监测所述晶状体的屈光度,以确定晶状体的曲度;
调节子模块,用于根据所述确定子模块确定的曲度的变化反比例调节输出的声音混响。
优选的,所述装置还包括:
判断单元,用于当所述获取单元获取的眼球运动参数改变时,判断当前用户的视角是否发生改变;
所述调节单元还用于,当所述判断单元判断当前用户的视角发生改变时,根据所述视角变化的方向与角度的变化值结合所述眼球运动参数的变化按照预设规则调节声音输出。
优选的,所述调节单元包括:
设置模块,用于设置眼球运动的位置阈值,以及声道输出的响度阈值;
关联模块,用于关联所述设置模块设置的眼球运动的位置阈值与声道输出的响度阈值,以使眼球的移动与不同声道的响度调节能够同步线性调节。
优选的,所述装置还包括:
所述获取单元还用于,获取所述VR设备的运动参数;
所述调节单元还用于,将所述VR设备的运动参数与眼球运动参数进行合成后调节所述VR设备的声音输出。
优选的,所述装置还包括:
关闭单元,用于当检测到用户处于闭眼状态且达到预置时长后,关闭所述VR设备当前的声音输出。
依据本发明的另一个方面,提出了一种虚拟现实VR设备,该VR设备包括处理器和存储器:
所述存储器用于存储执行上述任意一种立体声效的播放方法的程序;
所述处理器被配置为用于执行所述存储器中所存储的程序。
本发明所采用的一种立体声效的播放方法、装置及VR设备,主要应用在使用VR设备的应用场景下,用户通过VR设备体验立体视觉效果的同时,通过获取用户的眼球运动参数,该参数主要是瞳孔位置和晶状体曲度的变化值,判断用户在当前虚拟场景中观看位置的变化,由于观看位置的变化在一定程度上体现了用户关注点的变化,而在虚拟环境中,这种变化往往无法通过视觉感受让用户得到反馈,因此,通过本发明所采用的声音调节的方式就可以有效弥补视觉感受上的不足,从而让用户在虚拟环境下得到更强烈的带入感,增强虚拟环境的仿真效果,提高用户的应用体验。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了本发明实施例提出的一种立体声效的播放方法流程图;
图2示出了本发明实施例提出的另一种立体声效的播放方法流程图;
图3示出了本发明实施例提出的一种立体声效的播放装置的组成框图;
图4示出了本发明实施例提出的另一种立体声效的播放装置的组成框图;
图5示出了本发明实施例提供的一种VR设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例,然而应当理解,可以以各种形式实现本发明而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本发明,并且能够将本发明的范围完整的传达给本领域的技术人员。
本发明实施例提供了一种立体声效的播放方法,该方法主要应用在使用VR设备的应用场景下,通过对立体声的调节与优化,使得调整后的音效能够根据用户的眼球运动而改变,为用户带来具有交互感受的听觉体验,针对该方法的具体步骤如图1所示,包括:
101、通过VR设备获取当前用户的眼球运动参数。
其中,眼球运动参数主要包括瞳孔位置和晶状体曲度,通过瞳孔位置的参数可以判断出眼球的移动状态,而通过晶状体曲度的变化则可以判断出眼睛聚焦位置的变化,从而判断用户观看位置的前后变化。
对于瞳孔位置参数的获取在本发明实施例中可以通过眼球追踪技术实现,眼球追踪技术是一项科学应用技术,一是根据眼球和眼球周边的特征变化进行跟踪,二是根据虹膜角度变化进行跟踪,三是主动投射红外线等光束到虹膜来提取特征。眼球追踪技术是当代心理学研究的重要技术,广泛运用于实验心理学、应用心理学、工程心理学、认知神经科学等领域。眼球追踪技术的原理是当人的眼睛看向不同方向时,眼部会有细微的变化,这些变化会产生可以提取的特征,计算机可以通过图像捕捉或扫描提取这些特征,从而实时追踪眼睛的变化,预测用户的状态和需求,并进行响应,达到用眼睛控制设备的目的。眼球追踪技术的主要设备包括红外设备和图像采集设备。在精度方面,红外线投射方式有比较大的优势,大概能在30英寸的屏幕上精确到1厘米以内,辅以眨眼识别、注视识别等技术,已经可以在一定程度上替代鼠标、触摸板,进行一些有限的操作。此外,其他图像采集设备,如电脑或手机上的摄像头,在软件的支持下也可以实现眼球跟踪,但是在准确性、速度和稳定性上各有差异。而在虚拟现实领域中,则可以在VR头盔的眼睛位置嵌入了两个红外线摄像头,摄像头放置在眼镜镜片下,这样既不会对视线范围产生影响,又能跟踪用户的瞳孔活动。
对于晶状体曲度参数的获取在本发明实施例中可以通过验光技术实现,验光是检查光线入射眼球后的聚集情况,它以正视眼状态为标准,测出受检眼与正视眼间的聚散差异程度。验光设备的原理与视网膜检影法基本相同,采用红外线光源及自动雾视装置达到放松眼球调节的目的,采用光电技术及自动控制技术检查屈光度。在虚拟现实领域中,将验光设备与VR设备相结合,并配合眼球追踪技术能够实现对晶状体曲度的快速测量与实时监测。
由VR设备对当前用户的眼球运动参数的实时监测,就可以判断出用户目光聚焦的焦点,而通过检点的移动变化就可以进一步判断出用户视线移动的轨迹,而用户视线的改变在虚拟环境中往往就会伴随着视觉场景的改变。而在现实环境下,视觉场景的变化又将直接影响声音的变化。因此,通过监测眼球运动参数的变化调整虚拟环境下的声音输出效果将使得虚拟环境的视听感受更加接近现实环境,从而带给用户更逼真的虚拟环境沉浸感。
102、根据眼球运动参数的变化按照预设规则调节声音输出。
其中,预设规则是预先设置在VR设备中的关于声音输出调节方案,方案的输入为眼球运动参数的变化值,包括瞳孔位置的变化值和晶状体曲度的变化值。通过输入参数变化值对原有的声音进行调节,一般的,虚拟场景下配合视觉场景的音效大多为立体音,并且通过双声道或多声道的方式加以输出,但这常规的虚拟场景中的立体声是不具有交互性,也就是说,立体声的输出是相对固定的,不会根据用户状态的改变而调整声音的大小以及各声道的输出配比,特别是根据用户眼球的运动进行调节。本发明实施例则通过预设规则,针对用户眼球的运动设置对应的调节方案,其中,预设规则中包括针对单个参数的变化时对应的声音调节方式,也包括针对多个参数的复合变化时对应的声音调节方式。例如,当检测到瞳孔的位置向左移动后,对应的声音输出效果将是由右向左偏移,对于双声道的输出就是随着瞳孔位置的移动,左声道的声音逐渐加大,对应的右声道的声音逐渐减少,而对于声音变化的速率以及程度则是根据设定预先设置的,一般为经验值,用户可根据自身的喜好自定义设置。
此外,对于声音的调节,主要是对声音的响度、音调以及音色等特性参数进行调整,而在本发明实施例中,音调以及音色不会因为用户实现的位置变化而变化,因此,所调节的声音特性主要是响度,也就是声音的大小,也叫音量,响度是由振幅和人离声源的距离决定,振幅越大响度越大,人和声源的距离越小响度越大,因此,调节声音的响度就可以模仿出声源与用户的距离变化。
上述本发明实施例提供的一种立体声效的播放方法,主要应用在使用VR设备的应用场景下,用户通过VR设备体验立体视觉效果的同时,通过获取用户的眼球运动参数,该参数主要是瞳孔位置和晶状体曲度的变化值,判断用户在当前虚拟场景中观看位置的变化,由于观看位置的变化在一定程度上体现了用户关注点的变化,而在虚拟环境中,这种变化往往无法通过视觉感受让用户得到反馈,因此,通过本发明实施例所采用的声音调节的方式就可以有效弥补视觉感受上的不足,从而让用户在虚拟环境下得到更强烈的带入感,增强虚拟环境的仿真效果,提高用户的应用体验。
进一步的,为了更加详细的说明上述的立体声效的播放方法在实际应用中的具体实现,特别是针对不同运动参数所进行的具体音效的调整,具体如图2所示,包括:
201、通过VR设备获取当前用户的眼球运动参数。
本步骤同上述实施例中的步骤101内容相同,所获取的眼球运动参数为瞳孔位置和晶状体曲度,具体内容可详见步骤101中的说明,此处不再赘述。
202、根据瞳孔位置的变化调节不同声道输出的声音响度。
通过对瞳孔位置参数的实时监测,判断瞳孔的运动轨迹,也就得到了眼球相对于横向或纵向的运动轨迹。对于瞳孔位置的移动变化,可以分解为水平方向的移动和垂直方向的移动,而移动的参考坐标系是在开始监测用户瞳孔位置时建立的,以当前瞳孔位置为坐标原点,水平方向为坐标系中的横轴,垂直方式为坐标系中的纵轴所建立的坐标系,而移动距离的单位可以由用户自定义确定。其中,参考坐标系的创建时机除了是在开始监测用户瞳孔位置的时候,也可以是在声音开始播放的时候,对此,本发明实施例不做具体限定。
对于具体的调节方式,本发明实施例中将分别针对水平方向的移动和垂直方向的移动进行声音调节,对于水平方向的移动,将调整左右声道声音响度的配比,而对于垂直方向的移动,将调整前后声道声音响度的配比,当原立体声音源仅存在左右双声道时,则可以调整声音的音调,通过音调高低的变化来体现用户视线关注点在垂直方向上的上下移动变化。例如,当用户的视线从当前的中心点向画面的左上方移动的过程中,VR设备将先获取原有的立体声音源,同时对视线移动的方向进行分解,得到水平方向上由右向左的一个移动过程,以及垂直方向上的由下自上的一个移动过程,根据由右向左的移动过程,调整左右声道中的声音响度,即在该过程中逐渐增大左声道中的声音响度,同时减小右声道中的声音响度,同时,根据由下自上的移动过程,调整前后声道中的声音响度(存在前后声道音源的情况下),即增大前声道中的声音响度,同时减小右声道中的声音响度。在该调节的过程中,由于不同用户对声音响度的接受能力不同,为此,对于上述的动态调节过程还可以自定义设置声音响度的调节上限,当达到该上限值时,即使视线移动,也将不再继续加强响度的调节。
203、根据晶状体曲度的变化调节声道输出的声音混响。
在根据瞳孔位置调节声音输出的同时,VR设备也会实时监测晶状体曲度参数的变化,通过晶状体曲度参数的变化对原立体声音源的混响效果进行调节,从而达到声音变远或变近的效果。混响是使室内声音的一种自然现象。室内声源连续发声,当达到平衡时(室内被吸收的声能等于发射的声能时)关断声源,在室内仍留有余音,此现象被称为混响。混响是由于声反射引起的,若没有声反射也就无混响而言,室内声反射可区分为:1、早期反射:也称轴向反射,经过一次反射便进入人耳的反射声,其幅度较大,对长方形的房间而言,多达6个早期反射声。它对声音的厚实产生影响。2、早中期反射:也称切向反射,来自同一平面经过两次以上反射,才进入人耳的反射声,其幅度较早期反射声小。它的密度能反映空间大小,总体频率结构及衰减特性与反射环境密切相关。3、后期反射:也叫倾斜向反射,来自各个反射面经过多次反射才进入人耳的反射声,其幅度更小,密度更高。以上3种反射声建成了室内的混响,由于其相邻的反射声之间的时间间隔小于50ms(50ms为人耳区分两个声音的最小间隔,即人耳的时间分辨率),人耳分不出到底有几种反射声,只觉得声音变的厚实、丰满、浑厚。
可见,混响的调节主要是模拟声源与用户之间的空间感。而晶状体曲度参数的变化也正是表达了用户视线关注点在当前画面中的聚焦位置,也就是观看事物的远近程度。因此,当晶状体曲度改变时,可以对应的调节当前立体声音源的混响时间,使用户达到一种身临其境的视听感觉。其中,调节得具体方式是根据曲度的变化反比例调节混响时间,即当晶状体曲度变大时,视线的焦点位置将变近,此时调小混响时间,让声音的输出变清晰,相反,则调大混响时间,让声音的输出变得空旷。
204、根据用户视角的变化结合眼球运动参数调节声音输出。
上述两个步骤分别说明了不同的眼球的运动参数的变化对声音输出进行调节的方式。而对于现有的VR设备,不论是VR眼镜或者是VR头盔,其最常用的是通过头部运动带动VR设备的转动来调节用户当前观看的视角,而当用户视角发生变化时,对应的声音也会随着视角的变化而产生变动。而在用户视角发生变化的同时,用户的眼睛一般也会根据视角的改变而有所变化,因此,将上述对音效调节的方式与用户视角的变化过程相结合对音效进行进一步的调整将会使用户的沉浸感更加强烈。
具体的,视角的变化与眼球移动的变化(这里的移动主要是根据瞳孔位置的变化所确定的眼球移动)的叠加可能存在如下几种方式:1、视角的变化与眼球移动的变化同向;2、视角的变化与眼球移动的变化反向。对应的在调节时,同向将加速声音调节的速度,而反向则将减慢对声音调节的速度。其中,对于同向与反向的判断,也可以是基于坐标系中,将视角的变化分解为横向移动与纵向移动,再将分解后的移动变化的方向与眼球移动的变化方向进行对比,方向相同则未同向移动,不同则未反向移动。
进一步的,在根据眼球位置调节声音输出的过程中,为了使眼球运动变化的位置以及声音输出的响度能够在一个合理的范围以及用户可接受的范围内进行调节,本发明实施例对于眼球运动的位置和声道输出的响度都预设了阈值,例如,对于眼球运动的位置,可以设置眼球移动的极限位置,即设置眼球向上下左右各个方向所能移动距离,当用户的眼球移动位置超过预设的阈值时,系统将认为该移动超出了正常范围,从而不对声效加以处理。向对应的,对于VR设备中各个声道的响度调节范围,考虑到不同用户对响度的接受程度,可以对响度调节的最大值进行设置,从而确定响度调节范围。当响度阈值与眼球运动的位置阈值进行预置的设定后,系统将根据所设置的阈值将其进行关联,从而使得眼球的移动与不同声道的响度调节能够实现同步线性调节。
除了上述实施例中所提出的根据用户眼球运动来调节声音输出外,还可以进一步的将眼球运动与VR设备自身的运动相结合共同对声音输出进行调节。由于用户在佩戴VR设备时,头部的一般不会保持同一个姿势不变,而往往会根据画面的内容进行调整,因此,在实际应用中,通过VR设备自身的运动参数来调节声音输出也将提高用户使用VR设备的应用体验。在本发明实施例中,还可以将VR设备自身的运动参数与眼球运动的位置参数进行合成,共同对声道中声音的响度进行调节。其中,VR设备自身的运动参数可以通过设备自身的传感器进行获取,例如,通过陀螺仪确定设备的转动角度,从而确定用户的头部向哪个方向倾斜。具体的,在合成上述的两个参数时,VR设备自身的运动参数是基于现实坐标系中测量的,而眼球运动的位置参数则是基于VR设备中所创建坐标系所测量的,因此,在进行合成时,需要先统一坐标系,即对坐标系进行转换,以其中的一个坐标系为基准合成这两个参数,再根据所合成的参数对不同声道中的声音输出进行调节。例如,当检测到VR设备向右侧转动时,用户的眼球位置相对VR设备没有移动,此时两者合成后,明显用户的注意力是关注在右侧的,因此,此时立体声的调节将提高右声道的响度,同时降低左声道的响度,在比如当检测到VR设备向右侧转动时,用户的眼球位置相对VR设备向左移动,那么在合成两者的移动方向时,当合成后的方向向左时,即眼球移动的角度大于VR设备旋转的角度,此时提高左声道的响度,同时降低右声道的响度,当合成后的方向向右时,则反向调整左右声道的响度,而当VR设备的转动与眼球位置的移动相互抵消时,则不调整左右声道的响度。
进一步的,当使用VR设备的用户闭眼时,VR设备将无法检测到用户眼球的运动,而此时,用户一般是处于休息眼睛的状态,在该场景下,用户仍然佩戴VR设备一般存在两种可能,一种是用户需要暂时休息眼睛,此时,VR设备将停止或暂停正在播放的内容,其中包括声音,待用户休息完成后继续播放,其判断方式可通过检测用户闭眼时间的长短,设置一个预置时长,当达到是就关闭VR设备当前的声音输出以及所播放的内容。另一种是用户只需要听当前播放的声音而不需要观看视频内容,一般的为音频文件,如音乐、录音等文件,此时,VR设备将关闭屏幕而保持声音的播放。上述两种状态的确定具体可通过当前所播放文件的格式加以识别,例如,当检测到用户的眼睛处于闭眼状态时,判断当前播放的文件是否为音乐格式的文件,若是侧保持音频的输出,若不是则开始计时,当达到预置时长时,停止或暂停当前音频的输出。
此外,需要说明的是,本发明实施例中所调节的声音输出是调节声音在输出时的控制信号,而不是改变原有的立体声音源。通过控制信号,调节立体声各个声道的声音输出特性。
以上详细说明了立体声效的播放方法在实际应用中的具体实现,作为实现上述方法的具体装置,本发明实施例还提供了一种立体声效的播放装置,如图3所示,该装置包括:
获取单元31,用于通过VR设备获取当前用户的眼球运动参数,所述眼球运动参数包括瞳孔位置和晶状体曲度;
调节单元32,用于根据所述获取单元31获取眼球运动参数的变化按照预设规则调节声音输出,达到立体声效随用户的眼球变化而改变。
进一步的,如图4所示,所述调节单元32包括:
第一调节模块321,用于根据所述瞳孔位置的变化调节不同声道输出的声音响度;
第二调节模块322,用于根据所述晶状体曲度的变化调节声道输出的声音混响。
进一步的,如图4所示,所述第一调节模块321包括:
确定子模块3211,用于实时监测所述瞳孔位置,确定瞳孔的运动轨迹;
调节子模块3212,用于当所述确定子模块3211确定的运动轨迹为水平移动时,动态调整左右声道声音输出的响度;
所述调节子模块3212还用于,当所述确定子模块3211确定的运动轨迹为垂直移动时,动态调整前后声道声音输出的响度。
进一步的,如图4所示,所述第二调节模块322包括:
确定子模块3221,用于实时监测所述晶状体的屈光度,以确定晶状体的曲度;
调节子模块3222,用于根据所述确定子模块3221确定的曲度的变化反比例调节输出的声音混响。
进一步的,如图4所示,所述装置还包括:
判断单元33,用于当所述获取单元31获取的眼球运动参数改变时,判断当前用户的视角是否发生改变;
所述调节单元32还用于,当所述判断单元33判断当前用户的视角发生改变时,根据所述视角变化的方向与角度的变化值结合所述眼球运动参数的变化按照预设规则调节声音输出。
进一步的,如图4所示,所述调节单元32包括:
设置模块323,用于设置眼球运动的位置阈值,以及声道输出的响度阈值;
关联模块324,用于关联所述设置模块323设置的眼球运动的位置阈值与声道输出的响度阈值,以使眼球的移动与不同声道的响度调节能够同步线性调节。
进一步的,所述装置还包括:
所述获取单元31还用于,获取所述VR设备的运动参数;
所述调节单元32还用于,将所述VR设备的运动参数与眼球运动参数进行合成后调节所述VR设备的声音输出。
进一步的,如图4所示,所述装置还包括:
关闭单元34,用于当检测到用户处于闭眼状态且达到预置时长后,关闭所述VR设备当前的声音输出。
此外,根据上述立体声效的播放装置,本发明实施例还提供了一种VR设备,该VR设备的具体实现形式不限定为VR眼镜或VR头盔等设备。其中,在该VR设备中至少包含有处理器和存储器,其中,存储器用于存储上述人体穴位识别按摩方法的执行程序,而处理器则被配置为用于执行该存储器中所存储的程序。
示例性的,如图5所示,图5示出了本发明实施例提供的一种VR设备的结构示意图,是将上述立体声效的播放装置设置在VR设备中,该VR设备可以包括:一个或多个处理器(processor)51、通信接口(Communications Interface)52、存储器(memory)53和总线54,其中,处理器51、通信接口52、存储器53通过总线54完成相互间的通信。通信接口52可以用于VR设备与其他设备,如传感器或获取人体参数的设备之间的信息传输。处理器51可以调用存储器53中的逻辑指令,以执行如下方法:通过VR设备获取当前用户的眼球运动参数,所述眼球运动参数包括瞳孔位置和晶状体曲度;根据所述眼球运动参数的变化按照预设规则调节声音输出,达到立体声效随用户的眼球变化而改变。
此外,上述的存储器53中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
综上所述,本发明实施例所提供的一种立体声效的播放方法、装置及VR设备,主要应用在使用VR设备的应用场景下,用户通过VR设备体验立体视觉效果的同时,通过获取用户的眼球运动参数,该参数主要是瞳孔位置和晶状体曲度的变化值,判断用户在当前虚拟场景中观看位置的变化,由于观看位置的变化在一定程度上体现了用户关注点的变化,而在虚拟环境中,这种变化往往无法通过视觉感受让用户得到反馈,因此,通过本发明实施例所采用的声音调节的方式就可以有效弥补视觉感受上的不足,从而让用户在虚拟环境下得到更强烈的带入感,增强虚拟环境的仿真效果,提高用户的应用体验。此外,本发明实施例还进一步的针对用户的眼球运动参数改变时,同时判断用户的视角是否发生变化,并将具体的变化值结合眼球运动参数变化共同调节声音的输出,使得虚拟环境下的音效更加接近实际环境下的音效,从而进一步提升用户的听觉感受,增强用户的沉浸感。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
可以理解的是,上述云端服务器及装置中的相关特征可以相互参考。另外,上述实施例中的“第一”、“第二”等是用于区分各实施例,而并不代表各实施例的优劣。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述云端服务器实施例中的对应过程,在此不再赘述。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的云端服务器、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本发明并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的云端服务器解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何云端服务器或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的发明名称(如确定网站内连接等级的装置)中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的云端服务器的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
本发明还公开了如下技术方案:
A1、一种立体声效的播放方法,所述方法包括:
通过虚拟现实VR设备获取当前用户的眼球运动参数,所述眼球运动参数包括瞳孔位置和晶状体曲度;
根据所述眼球运动参数的变化按照预设规则调节声音输出,达到立体声效随用户的眼球变化而改变。
A2、根据A1所述的方法,所述根据所述眼球运动参数的变化按照预设规则调节声音输出包括:
根据所述瞳孔位置的变化调节不同声道输出的声音响度;
根据所述晶状体曲度的变化调节声道输出的声音混响。
A3、根据A2所述的方法,所述根据所述瞳孔位置的变化调节不同声道输出的声音响度包括:
实时监测所述瞳孔位置,确定瞳孔的运动轨迹;
当所述运动轨迹为水平移动时,则动态调整左右声道声音输出的响度;
当所述运动轨迹为垂直移动时,则动态调整前后声道声音输出的响度。
A4、根据A2所述的方法,所述根据所述晶状体曲度的变化调节声道输出的声音混响包括:
实时监测所述晶状体的屈光度,以确定晶状体的曲度;
根据所述曲度的变化反比例调节输出的声音混响。
A5、根据A1-A4中任一项所述的方法,所述方法还包括:
当所述眼球运动参数改变时,判断当前用户的视角是否发生改变;
若改变,则根据所述视角变化的方向与角度的变化值结合所述眼球运动参数的变化按照预设规则调节声音输出。
A6、根据A1所述的方法,所述根据所述眼球运动参数的变化按照预设规则调节声音输出包括:
设置眼球运动的位置阈值,以及声道输出的响度阈值;
关联所述眼球运动的位置阈值与声道输出的响度阈值,以使眼球的移动与不同声道的响度调节能够同步线性调节。
A7、根据A1所述的方法,所述方法还包括:
获取所述VR设备的运动参数;
将所述VR设备的运动参数与眼球运动参数进行合成后调节所述VR设备的声音输出。
A8、根据A1所述的方法,所述方法还包括:
当检测到用户处于闭眼状态且达到预置时长后,关闭所述VR设备当前的声音输出。
B9、一种立体声效的播放装置,所述装置包括:
获取单元,用于通过虚拟现实VR设备获取当前用户的眼球运动参数,所述眼球运动参数包括瞳孔位置和晶状体曲度;
调节单元,用于根据所述获取单元获取眼球运动参数的变化按照预设规则调节声音输出,达到立体声效随用户的眼球变化而改变。
B10、根据B9所述的装置,所述调节单元包括:
第一调节模块,用于根据所述瞳孔位置的变化调节不同声道输出的声音响度;
第二调节模块,用于根据所述晶状体曲度的变化调节声道输出的声音混响。
B11、根据B10所述的装置,所述第一调节模块包括:
确定子模块,用于实时监测所述瞳孔位置,确定瞳孔的运动轨迹;
调节子模块,用于当所述确定子模块确定的运动轨迹为水平移动时,动态调整左右声道声音输出的响度;
所述调节子模块还用于,当所述确定子模块确定的运动轨迹为垂直移动时,动态调整前后声道声音输出的响度。
B12、根据B10所述的装置,所述第二调节模块包括:
确定子模块,用于实时监测所述晶状体的屈光度,以确定晶状体的曲度;
调节子模块,用于根据所述确定子模块确定的曲度的变化反比例调节输出的声音混响。
B13、根据B9-B12中任一项所述的装置,所述装置还包括:
判断单元,用于当所述获取单元获取的眼球运动参数改变时,判断当前用户的视角是否发生改变;
所述调节单元还用于,当所述判断单元判断当前用户的视角发生改变时,根据所述视角变化的方向与角度的变化值结合所述眼球运动参数的变化按照预设规则调节声音输出。
B14、根据B9所述的装置,所述调节单元包括:
设置模块,用于设置眼球运动的位置阈值,以及声道输出的响度阈值;
关联模块,用于关联所述设置模块设置的眼球运动的位置阈值与声道输出的响度阈值,以使眼球的移动与不同声道的响度调节能够同步线性调节。
B15、根据B9所述的装置,所述装置还包括:
所述获取单元还用于,获取所述VR设备的运动参数;
所述调节单元还用于,将所述VR设备的运动参数与眼球运动参数进行合成后调节所述VR设备的声音输出。
B16、根据B9所述的装置,所述装置还包括:
关闭单元,用于当检测到用户处于闭眼状态且达到预置时长后,关闭所述VR设备当前的声音输出。
C17、一种虚拟现实VR设备,所述VR设备包括处理器和存储器:
所述存储器用于存储执行A1-A8中任一项所述立体声效的播放方法的程序;
所述处理器被配置为用于执行所述存储器中所存储的程序。

Claims (10)

1.一种立体声效的播放方法,其特征在于,所述方法包括:
通过虚拟现实VR设备获取当前用户的眼球运动参数,所述眼球运动参数包括瞳孔位置和晶状体曲度;
根据所述眼球运动参数的变化按照预设规则调节声音输出,达到立体声效随用户的眼球变化而改变。
2.根据权利要求1所述的方法,其特征在于,所述根据所述眼球运动参数的变化按照预设规则调节声音输出包括:
根据所述瞳孔位置的变化调节不同声道输出的声音响度;
根据所述晶状体曲度的变化调节声道输出的声音混响。
3.根据权利要求2所述的方法,其特征在于,所述根据所述瞳孔位置的变化调节不同声道输出的声音响度包括:
实时监测所述瞳孔位置,确定瞳孔的运动轨迹;
当所述运动轨迹为水平移动时,则动态调整左右声道声音输出的响度;
当所述运动轨迹为垂直移动时,则动态调整前后声道声音输出的响度。
4.根据权利要求2所述的方法,其特征在于,所述根据所述晶状体曲度的变化调节声道输出的声音混响包括:
实时监测所述晶状体的屈光度,以确定晶状体的曲度;
根据所述曲度的变化反比例调节输出的声音混响。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述方法还包括:
当所述眼球运动参数改变时,判断当前用户的视角是否发生改变;
若改变,则根据所述视角变化的方向与角度的变化值结合所述眼球运动参数的变化按照预设规则调节声音输出。
6.根据权利要求1所述的方法,其特征在于,所述根据所述眼球运动参数的变化按照预设规则调节声音输出包括:
设置眼球运动的位置阈值,以及声道输出的响度阈值;
关联所述眼球运动的位置阈值与声道输出的响度阈值,以使眼球的移动与不同声道的响度调节能够同步线性调节。
7.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取所述VR设备的运动参数;
将所述VR设备的运动参数与眼球运动参数进行合成后调节所述VR设备的声音输出。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
当检测到用户处于闭眼状态且达到预置时长后,关闭所述VR设备当前的声音输出。
9.一种立体声效的播放装置,其特征在于,所述装置包括:
获取单元,用于通过虚拟现实VR设备获取当前用户的眼球运动参数,所述眼球运动参数包括瞳孔位置和晶状体曲度;
调节单元,用于根据所述获取单元获取眼球运动参数的变化按照预设规则调节声音输出,达到立体声效随用户的眼球变化而改变。
10.一种虚拟现实VR设备,其特征在于,所述VR设备包括处理器和存储器:
所述存储器用于存储执行权利要求1-8中任一项所述立体声效的播放方法的程序;
所述处理器被配置为用于执行所述存储器中所存储的程序。
CN201710065823.6A 2017-02-06 2017-02-06 一种立体声效的播放方法、装置及vr设备 Active CN107046663B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710065823.6A CN107046663B (zh) 2017-02-06 2017-02-06 一种立体声效的播放方法、装置及vr设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710065823.6A CN107046663B (zh) 2017-02-06 2017-02-06 一种立体声效的播放方法、装置及vr设备

Publications (2)

Publication Number Publication Date
CN107046663A true CN107046663A (zh) 2017-08-15
CN107046663B CN107046663B (zh) 2019-11-05

Family

ID=59543995

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710065823.6A Active CN107046663B (zh) 2017-02-06 2017-02-06 一种立体声效的播放方法、装置及vr设备

Country Status (1)

Country Link
CN (1) CN107046663B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109243413A (zh) * 2018-09-25 2019-01-18 Oppo广东移动通信有限公司 3d音效处理方法及相关产品
CN109951783A (zh) * 2017-11-06 2019-06-28 奥迪康有限公司 用于基于瞳孔信息调整助听器配置的方法
CN110045817A (zh) * 2019-01-14 2019-07-23 启云科技股份有限公司 采用虚拟实境技术的交互式摄影系统
CN110164464A (zh) * 2018-02-12 2019-08-23 北京三星通信技术研究有限公司 音频处理方法及终端设备
CN111615044A (zh) * 2019-02-25 2020-09-01 宏碁股份有限公司 声音信号的能量分布修正方法及其系统
CN114025274A (zh) * 2018-05-09 2022-02-08 苹果公司 具有设备安装件音频模式的系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120206335A1 (en) * 2010-02-28 2012-08-16 Osterhout Group, Inc. Ar glasses with event, sensor, and user action based direct control of external devices with feedback
CN105260016A (zh) * 2015-09-24 2016-01-20 联想(北京)有限公司 一种信息处理方法及电子设备
CN105573489A (zh) * 2014-11-03 2016-05-11 三星电子株式会社 控制外部对象的电子设备和方法
CN106095111A (zh) * 2016-06-24 2016-11-09 北京奇思信息技术有限公司 根据用户眼部动作控制虚拟现实交互的方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120206335A1 (en) * 2010-02-28 2012-08-16 Osterhout Group, Inc. Ar glasses with event, sensor, and user action based direct control of external devices with feedback
CN105573489A (zh) * 2014-11-03 2016-05-11 三星电子株式会社 控制外部对象的电子设备和方法
CN105260016A (zh) * 2015-09-24 2016-01-20 联想(北京)有限公司 一种信息处理方法及电子设备
CN106095111A (zh) * 2016-06-24 2016-11-09 北京奇思信息技术有限公司 根据用户眼部动作控制虚拟现实交互的方法

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109951783A (zh) * 2017-11-06 2019-06-28 奥迪康有限公司 用于基于瞳孔信息调整助听器配置的方法
CN109951783B (zh) * 2017-11-06 2022-01-25 奥迪康有限公司 用于基于瞳孔信息调整助听器配置的方法
CN110164464A (zh) * 2018-02-12 2019-08-23 北京三星通信技术研究有限公司 音频处理方法及终端设备
CN114025274A (zh) * 2018-05-09 2022-02-08 苹果公司 具有设备安装件音频模式的系统
CN109243413A (zh) * 2018-09-25 2019-01-18 Oppo广东移动通信有限公司 3d音效处理方法及相关产品
CN109243413B (zh) * 2018-09-25 2023-02-10 Oppo广东移动通信有限公司 3d音效处理方法及相关产品
CN110045817A (zh) * 2019-01-14 2019-07-23 启云科技股份有限公司 采用虚拟实境技术的交互式摄影系统
CN111615044A (zh) * 2019-02-25 2020-09-01 宏碁股份有限公司 声音信号的能量分布修正方法及其系统
CN111615044B (zh) * 2019-02-25 2021-09-14 宏碁股份有限公司 声音信号的能量分布修正方法及其系统

Also Published As

Publication number Publication date
CN107046663B (zh) 2019-11-05

Similar Documents

Publication Publication Date Title
CN107046663A (zh) 一种立体声效的播放方法、装置及vr设备
JP7275227B2 (ja) 複合現実デバイスにおける仮想および実オブジェクトの記録
US11500459B2 (en) Data processing apparatus and method
US11061240B2 (en) Head-mountable apparatus and methods
CN113396337A (zh) 使用环境数据的音频增强
CH712799A1 (fr) Méthode de réalité virtuelle et système mettant en oeuvre une telle méthode.
CN109691141A (zh) 具有空间化音频的虚拟现实、增强现实和混合现实系统
US11762459B2 (en) Video processing
US11983310B2 (en) Gaze tracking apparatus and systems
US20230015732A1 (en) Head-mountable display systems and methods
US12028419B1 (en) Systems and methods for predictively downloading volumetric data
GB2599900A (en) Data processing system and method for image enhancement
GB2597671A (en) Video processing
US20220035449A1 (en) Gaze tracking system and method
GB2595707A (en) Gaze tracking apparatus and systems
EP4083682B1 (en) Head-mountable display apparatus and methods
US11747897B2 (en) Data processing apparatus and method of using gaze data to generate images
US12093448B2 (en) Input generation system and method
US20210357026A1 (en) Gaze tracking apparatus and systems
GB2598953A (en) Head mounted display

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20240307

Address after: Room 801, 8th floor, No. 104, floors 1-19, building 2, yard 6, Jiuxianqiao Road, Chaoyang District, Beijing 100015

Patentee after: BEIJING QIHOO TECHNOLOGY Co.,Ltd.

Country or region after: China

Address before: 100102 1801, 18 / F, building 2, Wangjing street, Chaoyang District, Beijing

Patentee before: BEIJING ANYUNSHIJI TECHNOLOGY Co.,Ltd.

Country or region before: China

TR01 Transfer of patent right