CN116774836A - 一种气流产生方法、装置及电子设备 - Google Patents
一种气流产生方法、装置及电子设备 Download PDFInfo
- Publication number
- CN116774836A CN116774836A CN202311055849.4A CN202311055849A CN116774836A CN 116774836 A CN116774836 A CN 116774836A CN 202311055849 A CN202311055849 A CN 202311055849A CN 116774836 A CN116774836 A CN 116774836A
- Authority
- CN
- China
- Prior art keywords
- airflow
- air flow
- angle
- generating device
- size
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 74
- 238000012545 processing Methods 0.000 claims description 76
- 238000013528 artificial neural network Methods 0.000 claims description 56
- 230000015654 memory Effects 0.000 claims description 20
- 238000001914 filtration Methods 0.000 claims description 15
- 238000003860 storage Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 7
- 230000005236 sound signal Effects 0.000 abstract description 20
- 230000000694 effects Effects 0.000 abstract description 13
- 238000004891 communication Methods 0.000 description 33
- 230000006854 communication Effects 0.000 description 33
- 238000010586 diagram Methods 0.000 description 20
- 230000006870 function Effects 0.000 description 19
- 238000004422 calculation algorithm Methods 0.000 description 17
- 210000001508 eye Anatomy 0.000 description 17
- 210000003128 head Anatomy 0.000 description 15
- 238000005516 engineering process Methods 0.000 description 12
- 238000010295 mobile communication Methods 0.000 description 11
- 230000003287 optical effect Effects 0.000 description 10
- 238000012549 training Methods 0.000 description 8
- 230000003993 interaction Effects 0.000 description 6
- 230000002194 synthesizing effect Effects 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 5
- 230000003190 augmentative effect Effects 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 230000033001 locomotion Effects 0.000 description 5
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 4
- 229920001621 AMOLED Polymers 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 230000003416 augmentation Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 210000005252 bulbus oculi Anatomy 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000005094 computer simulation Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 239000002096 quantum dot Substances 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000009987 spinning Methods 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000007175 bidirectional communication Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 238000007664 blowing Methods 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000009194 climbing Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 230000004418 eye rotation Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000004886 head movement Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 210000001525 retina Anatomy 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003238 somatosensory effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1407—General aspects irrespective of display type, e.g. determination of decimal point position, display with fixed or driving decimal point, suppression of non-significant zeros
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请提供了一种气流产生方法、装置及电子设备。电子设备包括显示装置、音频播放装置和气流产生装置,音频播放装置包括第一音频播放装置和第二音频播放装置,气流产生装置包括第一气流产生装置和第二气流产生装置,方法包括:通过显示装置显示虚拟对象;通过第一音频播放装置播放第一音频,通过第二音频播放装置播放第二音频;计算第一音频中气流声的第一气流大小和第二音频中气流声的第二气流大小;通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流。实现了在虚拟场景中基于音频信号产生模拟气流,达到身临其境的效果,提升用户的虚拟体验。
Description
技术领域
本申请涉及虚拟现实/增强现实技术领域,尤其涉及一种气流产生方法、装置及电子设备。
背景技术
随着计算机图形技术的发展,VR技术和AR技术逐渐应用到人们的生活中。VR技术和AR技术利用电子设备100模拟产生一个三维的虚拟场景,提供在视觉、听觉、触觉或其他感官上的模拟体验,让用户感觉仿佛身历其境。此外,用户还可以与该模拟的虚拟场景进行交互。
在一些虚拟场景中,用户可以通过头戴显示设备(head mounted display,HMD)体验一些虚拟场景。例如通过HMD体验乘坐敞篷车、过山车、爬山等虚拟刺激场景。但是在这些虚拟刺激场景中,HMD佩戴在用户的眼部和面部,隔绝了外部气流,使得HMD内部的气流基本静止,用户无法体验在虚拟刺激场景中面部气流吹过的体验,难以达到身临其境的效果。因此,如何提高用户的沉浸式体验,有待进一步研究。
发明内容
本申请提供了一种气流产生方法、装置及电子设备,可以在虚拟场景中基于音频信号产生模拟气流,达到身临其境的效果,提升用户的虚拟体验。
第一方面,本申请提供了一种气流产生方法,电子设备包括显示装置、音频播放装置和气流产生装置,音频播放装置包括第一音频播放装置和第二音频播放装置,气流产生装置包括第一气流产生装置和第二气流产生装置,方法包括:通过显示装置显示虚拟对象;通过第一音频播放装置播放第一音频,通过第二音频播放装置播放第二音频;计算第一音频中气流声的第一气流大小和第二音频中气流声的第二气流大小;通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流。
其中,电子设备可以是VR设备或AR设备,例如电子设备可以是头戴显示设备等。
不仅限于两个音频播放装置,电子设备也可以仅包括一个,或者电子设备也可以包括多于两个的,本申请对此不做限定。
不仅限于两个气流产生装置,电子设备也可以仅包括一个气流产生装置,或者电子设备也可以包括多于两个的气流产生装置,本申请对此不做限定。
气流大小指前进方向上的推力大小。 气流越大,推力越大。气流越小,推力越小。
其中,电子设备用于佩戴在用户的头部,使得用户的双眼位于电子设备内,用户的双眼可以观看显示装置显示的虚拟对象。
其中,第一和第二可以分别位于电子设备的左侧和右侧。
在电子设备佩戴在用户头部的情况下,相对于用户双眼位置来时,第一气流产生装置和第二气流产生装置可以分别用户双眼位置的左上前方、右上前方,或者左下前方、右下前方,或者左上前方、右下前方,或者左下前方、右上前方等。
在一些实施例中,第一气流产生装置和第二气流产生装置可以位于显示装置的显示区域外,避免遮挡用户观察显示装置上显示的虚拟对象的情况发生。通过该方法,可以在虚拟场景中基于音频信号产生模拟气流,达到身临其境的效果,提升用户的虚拟体验。
结合第一方面,在一种可能的实现方式中,计算第一音频中气流声的第一气流大小和第二音频中气流声的第二气流大小,具体包括;通过低通滤波器对第一音频进行处理,得到第一低频信号;通过低通滤波器对第二音频进行处理,得到第二低频信号;计算第一低频信号的气流大小,得到第一气流大小;计算第二低频信号的气流大小,得到第二气流大小。
一般来说,气流声的频率都较低,可以通过低通滤波器过滤掉音频中的高频信号,仅保留低频信号,将低频信号作为气流声,再基于低频信号计算气流声的气流大小,可以提高电子设备得到气流大小的准确性。
结合第一方面,在一种可能的实现方式中,计算第一低频信号的气流大小,得到第一气流大小,具体包括:基于第一低频信号和第二低频信号,得到第一风噪概率,第一风噪概率用于指示第一低频信号和第二低频信号中包含的气流声的比例;基于第一低频信号和第一风噪概率,得到第一气流信号;计算第一气流信号的气流大小,得到第一气流大小;计算第二低频信号的气流大小,得到第二气流大小,具体包括:基于第二低频信号和第一风噪概率,得到第二气流信号;计算第二气流信号的气流大小,得到第二气流大小。
一般来说,气流声的频率都较低,可以通过低通滤波器过滤掉音频中的高频信号,仅保留低频信号。但是低频信号中可能包含其他杂音,例如乐器声或者男生的说话声等。因此还需过滤掉低频信号中的杂音,得到真正的气流声。具体的,可以基于第一低频信号和第二低频信号,得到第一风噪概率,第一风噪概率用于指示第一低频信号和第二低频信号中包含的气流声的比例。然后,再基于第一低频信号和第一风噪概率,得到第一气流信号,再基于第二低频信号和第一风噪概率,得到第二气流信号。再分别基于第一气流信号和第二气流信号得到第一气流大小和第二气流大小。这样,可以进一步提高电子设备得到气流大小的准确性,也提高了电子设备发出气流的准确性。
结合第一方面,在一种可能的实现方式中,述计算第一低频信号的气流大小,得到第一气流大小,具体包括:通过第一神经网络过滤掉第一低频信号中的非气流信号,得到第一气流信号;计算第一气流信号的气流大小,得到第一气流大小;计算第二低频信号的气流大小,得到第二气流大小,具体包括:通过第一神经网络过滤掉第二低频信号中的非气流信号,得到第二气流信号;计算第二气流信号的气流大小,得到第一气流大小。
在一些实施例中,第一神经网络可以是NN网络等神经网络,本申请对此也不做限定。
在其他实现方式中,也可以训练得到神经网络,基于训练好的神经网络过滤得到第一气流信号和第二气流信号,这样,可以减少电子设备的计算量 。
结合第一方面,在一种可能的实现方式中,在通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流之前,方法还包括;基于第一气流大小和第二气流大小计算第一角度;通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流,具体包括:通过第一气流产生装置沿着第一角度输出第一气流大小的气流,通过第二气流产生装置沿着第一角度输出第二气流大小的气流。
在一些实施例中,气流产生装置不仅可以基于气流声的大小发出相应大小的模拟气流,还可以基于音频中的气流声的发向发出相应方向的气流,进一步提升了用户的体验。
具体的,电子设备可以基于第一气流大小和第二气流大小计算发出气流的第一角度,再基于第一角度发生相应大小的模拟气流。
结合第一方面,在一种可能的实现方式中,通过第一气流产生装置沿着第一角度输出第一气流大小的气流,通过第二气流产生装置沿着第一角度输出第二气流大小的气流,具体包括:在第一角度大于第一预设角度小于第二预设角度的情况下,通过第一气流产生装置沿着第一角度输出第一气流大小的气流,通过第二气流产生装置沿着第一角度输出第二气流大小的气流;其中,第一预设角度为人脸感知第一气流产生装置或者第二气流产生装置输出的气流的最小角度,第二预设角度为人脸感知第一气流产生装置或者第二气流产生装置输出的气流的最大角度。
结合第一方面,在一种可能的实现方式中,方法还包括:在第一角度小于第一预设角度的情况下,通过第一气流产生装置沿着第一预设角度输出第一气流大小的气流,通过第二气流产生装置沿着第一预设角度输出第二气流大小的气流;或者,在第一角度大于第二预设角度的情况下,通过第一气流产生装置沿着第二预设角度输出第一气流大小的气流,通过第二气流产生装置沿着第二预设角度输出第二气流大小的气流。
这样,电子设备可以判断计算出来的气流角度,避免气流角度超出人脸可感知气流的最大角度或者最小角度。在计算出来的气流角度超出人脸可感知气流的最大角度或者最小角度后,只按照第一预设角度或者第二预设角度输出气流即可。
结合第一方面,在一种可能的实现方式中,在通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流之前,方法还包括;基于第一气流大小、第二气流大小和第二预设角度计算第二角度,其中,第二预设角度为人脸感知第一气流产生装置或者第二气流产生装置输出的气流的最大角度;通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流,具体包括:通过第一气流产生装置沿着第二角度输出第一气流大小的气流,通过第二气流产生装置沿着第二角度输出第二气流大小的气流。
按照方式计算出来的气流角度在第一预设角度和第二预设角度之间,不会超出人脸可感知气流的最大角度和最小角度。
结合第一方面,在一种可能的实现方式中,基于第一气流大小和第二气流大小计算第一角度,具体包括:根据公式计算第一角度;其中,/>为第一角度,为第一气流大小,/>为第二气流大小。
在一些实施例中,上述公式中的分母可以加上一个正的极小值ε,例如ε的取值可以是0.0001、0.00003等。
结合第一方面,在一种可能的实现方式中,基于第一气流大小和第二气流大小计算第一角度,具体包括:根据公式计算第一角度;其中,/>为第一角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度,-B为第一预设角度。
在一些实施例中,上述公式中的分母可以加上一个正的极小值ε,例如ε的取值可以是0.0001、0.00003等。
结合第一方面,在一种可能的实现方式中,基于第一气流大小、第二气流大小和第二预设角度计算第二角度,具体包括:根据公式计算第二角度;其中,/>为第二角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度。
在一些实施例中,上述公式中的分母可以加上一个正的极小值ε,例如ε的取值可以是0.0001、0.00003等。
结合第一方面,在一种可能的实现方式中,基于第一气流大小、第二气流大小和第二预设角度计算第二角度,具体包括:根据公式计算第二角度;其中,/>为第二角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度。
在一些实施例中,上述公式中的分母可以加上一个正的极小值ε,例如ε的取值可以是0.0001、0.00003等。
第二方面,本申请提供了一种气流产生装置,装置包括显示装置、音频播放装置、气流产生装置和处理装置,音频播放装置包括第一音频播放装置和第二音频播放装置,气流产生装置包括第一气流产生装置和第二气流产生装置,其中,显示装置,用于显示虚拟对象;第一音频播放装置,用于播放第一音频;第二音频播放装置,用于播放第二音频;处理装置,用于计算第一音频中气流声的第一气流大小和第二音频中气流声的第二气流大小;第一气流产生装置,用于输出第一气流大小的气流;第二气流产生装置,用于输出第二气流大小的气流。
结合第二方面,在一种可能的实现方式中,处理装置,具体用于:通过低通滤波器对第一音频进行处理,得到第一低频信号;通过低通滤波器对第二音频进行处理,得到第二低频信号;计算第一低频信号的气流大小,得到第一气流大小;计算第二低频信号的气流大小,得到第二气流大小。
结合第二方面,在一种可能的实现方式中,处理装置,具体用于:基于第一低频信号和第二低频信号,得到第一风噪概率,第一风噪概率用于指示第一低频信号和第二低频信号中包含的气流声的比例;基于第一低频信号和第一风噪概率,得到第一气流信号;计算第一气流信号的气流大小,得到第一气流大小;基于第二低频信号和第一风噪概率,得到第二气流信号;计算第二气流信号的气流大小,得到第二气流大小。
结合第二方面,在一种可能的实现方式中,处理装置,具体用于:通过第一神经网络过滤掉第一低频信号中的非气流信号,得到第一气流信号;计算第一气流信号的气流大小,得到第一气流大小;通过第一神经网络过滤掉第二低频信号中的非气流信号,得到第二气流信号;计算第二气流信号的气流大小,得到第一气流大小。
结合第二方面,在一种可能的实现方式中,处理装置,还用于基于第一气流大小和第二气流大小计算第一角度;第一气流产生装置,具体用于沿着第一角度输出第一气流大小的气流;第二气流产生装置,具体用于沿着第一角度输出第二气流大小的气流。
结合第二方面,在一种可能的实现方式中,第一气流产生装置,具体用于在第一角度大于第一预设角度小于第二预设角度的情况下,沿着第一角度输出第一气流大小的气流;第二气流产生装置,具体用于在第一角度大于第一预设角度小于第二预设角度的情况下,沿着第一角度输出第二气流大小的气流;其中,第一预设角度为人脸感知第一气流产生装置或者第二气流产生装置输出的气流的最小角度,第二预设角度为人脸感知第一气流产生装置或者第二气流产生装置输出的气流的最大角度。
结合第二方面,在一种可能的实现方式中,第一气流产生装置,还用于在第一角度小于第一预设角度的情况下,沿着第一预设角度输出第一气流大小的气流;第二气流产生装置,还用于在第一角度小于第一预设角度的情况下,沿着第一预设角度输出第二气流大小的气流;或者,第一气流产生装置,还用于在第一角度大于第二预设角度的情况下,沿着第二预设角度输出第一气流大小的气流;第二气流产生装置,还用于在第一角度大于第二预设角度的情况下,沿着第二预设角度输出第二气流大小的气流。
结合第二方面,在一种可能的实现方式中,处理装置,还用于基于第一气流大小、第二气流大小和第二预设角度计算第二角度,其中,第二预设角度为人脸感知第一气流产生装置或者第二气流产生装置输出的气流的最大角度;第一气流产生装置,具体用于沿着第二角度输出第一气流大小的气流;第二气流产生装置,具体用于沿着第二角度输出第二气流大小的气流。
结合第二方面,在一种可能的实现方式中,处理装置,具体用于根据公式计算第一角度;其中,/>为第一角度,/>为第一气流大小,/>为第二气流大小。
结合第二方面,在一种可能的实现方式中,处理装置,具体用于根据公式计算第一角度;其中,/>为第一角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度,-B为第一预设角度。
结合第二方面,在一种可能的实现方式中,处理装置,具体用于根据公式计算第二角度;其中,/>为第二角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度。
结合第二方面,在一种可能的实现方式中,处理装置,具体用于根据公式计算第二角度;其中,/>为第二角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度。
第三方面,本申请提供了一种电子设备,包括一个或多个处理器和一个或多个存储器;其中,一个或多个存储器与一个或多个处理器耦合,一个或多个存储器用于存储计算机程序代码,计算机程序代码包括计算机指令,当一个或多个处理器执行计算机指令时,使得电子设备执行上述任一方面任一可能的实现方式中提供的一种虚拟现实/增强现实场景中的交互方法。
第四方面,本申请提供了一种芯片系统,芯片系统应用于电子设备,芯片系统包括处理电路和接口电路,接口电路用于接收指令并传输至处理电路,处理电路用于运行指令以执行上述任一方面任一可能的实现方式中提供的一种虚拟现实/增强现实场景中的交互方法。
第五方面,本申请实施例提供了一种计算机存储介质,包括计算机指令,当计算机指令在电子设备上运行时,使得电子设备执行上述任一方面任一可能的实现方式中提供的一种虚拟现实/增强现实场景中的交互方法。
第六方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在电子设备上运行时,使得电子设备执行上述任一方面任一项可能的实现方式中的一种虚拟现实/增强现实场景中的交互方法。
对于第二方面至第六方面的有益效果的描述,可以参考第一方面中有益效果的描述,本申请在此不再赘述。
附图说明
图1为本申请实施例提供的电子设备100的结构示意图;
图2示出了电子设备100的装置结构示意图;
图3示出了用户佩戴电子设备100的示意图;
图4-图6示出了一种左侧气流发生装置和右侧气流发生装置的位置示意图;
图7示出了另一种左侧气流发生装置和右侧气流发生装置的位置示意图;
图8示出了一种从用户的面部向后投影的正视图;
图9示出了另一种从用户的面部向后投影的正视图;
图10A-图10G示出了一组左侧气流发生装置和右侧气流发生装置输出气流的角度示意图;
图11A-图11B示出了一种本申请中基于音频得到左右侧气流的大小和/方向示意图;
图12A-图12B示出了另一种本申请中基于音频得到左右侧气流的大小和/方向示意图;
图13示出了方式一中电子设备100从音频中分离得到左侧气流信号和右侧气流信号的示意图;
图14A示出了另一种电子设备100基于气流大小估计模块得到左侧气流大小和右侧气流大小的示意图;
图14B示出了训练NN网络的示意图;
图14C示出了电子设备100基于NN网络从音频数据中分离得到气流信号的示意图;
图15为本申请提供的一种气流产生方法的流程示意图;
图16为本申请提供的一种气流产生装置的装置示意图。
具体实施方式
下面将结合附图对本申请实施例中的技术方案进行清楚、详尽地描述。其中,在本申请实施例的描述中,除非另有说明,“/”表示或的意思,例如,A/B可以表示A或B;文本中的“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况,另外,在本申请实施例的描述中,“多个”是指两个或多于两个。
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为暗示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征,在本申请实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
本申请以下实施例中的术语“用户界面 (user interface,UI)”,是应用程序或操作系统与用户之间进行交互和信息交换的介质接口,它实现信息的内部形式与用户可以接受形式之间的转换。用户界面常用的表现形式是图形用户界面(graphic user interface,GUI),是指采用图形方式显示的与计算机操作相关的用户界面。它可以是在电子设备100的显示屏中显示的文本、图标、按钮、菜单、选项卡、文本框、对话框、状态栏、导航栏、Widget等可视的界面元素。
在本申请实施例中,电子设备100利用VR技术提供虚拟环境是指,电子设备100利用VR显示技术渲染并显示一个或多个虚拟对象。该虚拟对象可以是电子设备100本身利用计算机图形技术、计算机仿真技术等生成的,也可以是其他电子设备100利用计算机图形技术、计算机仿真技术等生成后发送给该电子设备100的。其他电子设备100可以是服务器,还可以是与电子设备100连接或者配对的手机、电脑等。虚拟对象也可以被称为虚拟图像或虚拟元素。虚拟对象可以是二维的,也可以是三维的。虚拟对象是假的而非物理世界真实存在的物体。虚拟对象可以是仿照真实的物理世界存在的物体的虚拟物体,从而给用户带来沉浸式体验。虚拟对象可包括虚拟动物,虚拟人物,虚拟树木,虚拟建筑物、虚拟的标签、图标、图片或者视频等等。
在本申请以下实施例中,电子设备100利用VR技术提供虚拟环境也可以被称为电子设备100提供虚拟现实场景。
下面首先介绍本申请实施例提供的电子设备100。
电子设备100显示的虚拟对象可以和用户产生交互。在一些实施例中,用户可以直接通过手部/手臂运动、头部运动、眼球转动等体感交互方式来与电子设备100显示的虚拟对象进行交互。在另一些实施例中,电子设备100可以配合手持设备一起使用,用户可以通过对手持设备的操控来和电子设备100显示的虚拟对象进行交互。该手持设备例如可以是控制器、陀螺鼠标、手写笔或者其他手持计算设备。手持设备可配置有多种传感器例如加速度传感器、陀螺仪传感器、磁传感器等,可用于检测自身运动。手持设备可以通过蓝牙(bluetooth)、近场通信(near field communication,NFC)、ZigBee等近距离传输技术和电子设备100通信。
电子设备100可以安装在用户头部,例如电子设备100可以为VR眼镜、VR头戴式显示设备(head-mounted display,HMD)、VR一体机等虚拟现实显示设备。在本申请其他一些实施例中,电子设备100也可以是支持VR技术的台式计算机、智能电视机、包含显示屏的车辆等非便携式电子设备100。
本申请以下实施例以电子设备100为HMD为例进行说明。
参考图1,图1为本申请提供的示例性电子设备100的结构示意图。
如图1所示,电子设备100可以包括处理器110、存储器120、通信模块130、传感器模块140、按键150、输入输出接口160、音频模块170、扬声器170A、受话器170B、麦克风170C、耳机接口170D、显示装置180、摄像头190以及电池1100等。
可以理解的是,本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中,电子设备100可以包括比图示更多或更少的部件。例如还可以包括红外线收发装置、超声波收发装置、马达及闪光灯等,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),视频处理单元(videoprocessing unit,VPU)控制器,存储器,视频编解码器,数字信号处理器(digital signalprocessor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是电子设备100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了系统的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,通用异步收发传输器(universal asynchronousreceiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processorinterface,MIPI),通用输入输出(general-purpose input/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serialbus,USB)接口,串行外设接口(serial peripheral interface,SPI)接口等。
I2C接口是一种双向同步串行总线,包括一根串行数据线(serial data line,SDA)和一根串行时钟线(derail clock line,SCL)。在一些实施例中,处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器,充电器,摄像头190等。
I2S接口可以用于音频通信。在一些实施例中,处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合,实现处理器110与音频模块170之间的通信。在一些实施例中,音频模块170可以通过I2S接口向无线通信模块传递音频信号,实现通过蓝牙耳机接听电话的功能。
PCM接口也可以用于音频通信,将模拟信号抽样,量化和编码。在一些实施例中,音频模块170与无线通信模块可以通过PCM总线接口耦合。在一些实施例中,音频模块170也可以通过PCM接口向通信模块130中的无线通信模块传递音频信号,实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。
UART接口是一种通用串行数据总线,用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中,UART接口通常被用于连接处理器110与通信模块130。例如:处理器110通过UART接口与通信模块130中的蓝牙模块通信,实现蓝牙功能。
MIPI接口可以被用于连接处理器110与显示装置180,摄像头190等外围器件。MIPI接口包括摄像头串行接口(camera serial interface,CSI),显示装置串行接口(displayserial interface,DSI)等。在一些实施例中,处理器110和摄像头190通过CSI接口通信,实现电子设备100的拍摄功能。处理器110和显示装置180通过DSI接口通信,实现电子设备100的显示功能。
GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号,也可被配置为数据信号。在一些实施例中,GPIO接口可以用于连接处理器110与摄像头190,显示装置180,通信模块130,传感器模块140,麦克风170C等。GPIO接口还可以被配置为I2C接口,I2S接口,UART接口,MIPI接口等。
USB接口是符合USB标准规范的接口,具体可以是Mini USB接口,Micro USB接口,USB Type C接口等。USB接口可以用于连接充电器为电子设备100充电,也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机,通过耳机播放音频。该接口还可以用于连接其他电子设备100,例如手机等。USB接口可以是USB3.0,用于兼容高速显示接口(display port,DP)信号传输,可以传输视音频高速数据。
可以理解的是,本申请实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对电子设备100的结构限定。在本申请另一些实施例中,电子设备100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
电子设备100可以通过通信模块130实现无线通信功能。通信模块130可以包括天线、无线通信模块、移动通信模块、调制解调处理器以及基带处理器等。
天线用于发射和接收电磁波信号。电子设备100中可以包含多个天线,每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用,以提高天线的利用率。例如:可以将某个天线复用为无线局域网的分集天线。在另外一些实施例中,天线可以和调谐开关结合使用。
移动通信模块可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块可以包括至少一个滤波器,开关,功率放大器,低噪声放大器(lownoise amplifier,LNA)等。移动通信模块可以由天线接收电磁波,并对接收的电磁波进行滤波,放大等处理,传送至调制解调处理器进行解调。移动通信模块还可以对经调制解调处理器调制后的信号放大,经天线转为电磁波辐射出去。在一些实施例中,移动通信模块的至少部分功能模块可以被设置于处理器110中。在一些实施例中,移动通信模块的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。
调制解调处理器可以包括调制器和解调器。其中,调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后,被传递给应用处理器。应用处理器通过音频设备(不限于扬声器等)输出声音信号,或通过显示装置180显示图像或视频。在一些实施例中,调制解调处理器可以是独立的器件。在另一些实施例中,调制解调处理器可以独立于处理器110,与移动通信模块或其他功能模块设置在同一个器件中。
无线通信模块可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星系统(global navigation satellite system,GNSS),调频(frequency modulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块经由天线接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线转为电磁波辐射出去。
在一些实施例中,电子设备100的天线和移动通信模块耦合,使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications,GSM),通用分组无线服务(generalpacket radio service,GPRS),码分多址接入(code division multiple access,CDMA),宽带码分多址(wideband code division multiple access,WCDMA),时分码分多址(time-division code division multiple access,TD-SCDMA),长期演进(long termevolution,LTE),BT,GNSS,WLAN,NFC ,FM,和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system ,GPS),全球导航卫星系统(global navigationsatellite system,GLONASS),北斗卫星导航系统(beidou navigation satellitesystem,BDS),准天顶卫星系统(quasi-zenith satellite system,QZSS)和/或星基增强系统(satellite based augmentation systems,SBAS)。
电子设备100通过GPU,显示装置180,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示装置180和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
在本申请实施例中,显示装置180可以用于呈现一个或多个虚拟对象,从而使得电子设备100为用户提供虚拟现实场景。显示装置180呈现虚拟对象的方式可包括以下一种或多种:
1.在一些实施例中,显示装置180为显示屏,显示屏可包括显示面板。显示装置180的显示面板可以用于显示虚拟对象,从而为用户呈现立体的虚拟环境。用户可以从显示面板上看到该虚拟对象,体验虚拟现实场景。显示面板可以采用液晶显示装置(liquidcrystal display,LCD),有机发光二极管(organic light-emitting diode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrix organic light emittingdiode的,AMOLED),柔性发光二极管(flex light-emitting diode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot light emitting diodes,QLED)等。
2.在一些实施例中,显示装置180可包括用于将光学信号(例如光束)直接投射到用户视网膜上的光学装置。用户可以通过该光学装置投射出的光学信号直接看到虚拟对象,感受到立体的虚拟环境。该光学装置可以是微型投影仪等等。
电子设备100中显示装置180的数量可以是两个,分别对应用户的两个眼球。这两个显示装置上显示的内容可以独立显示。这两个显示装置上可以显示不同的图像来提高图像的立体感。在一些可能的实施例中,电子设备100中显示装置180的数量也可以是一个,同时对应用户的两个眼球。
电子设备100可以通过ISP,摄像头190,视频编解码器,GPU,显示装置180以及应用处理器等实现拍摄功能。
ISP 用于处理摄像头190反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP处理,转化为肉眼可见的图像。ISP还可以对图像的噪点,亮度进行算法优化。ISP还可以对拍摄场景的曝光,色温等参数优化。在一些实施例中,ISP可以设置在摄像头190中。
摄像头190用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,电子设备100可以包括1个或N个摄像头190,N为大于1的正整数。摄像头190可包括但不限于传统彩色摄像头(RGB camera)、深度摄像头(RGB depth camera)、动态视觉传感器(dynamic vision sensor,DVS)相机等。
在一些实施例中,摄像头190可以为深度摄像头。深度摄像头可以采集现实环境的空间信息。现实环境的空间信息可参照前文相关描述。
在一些实施例中,摄像头190可以采集用户的手部图像或者身体图像,处理器110可用于对摄像头190采集到的图像进行分析,从而识别用户输入的手部动作或身体动作。
在一些实施例中,摄像头190可以和红外设备(如红外发射器)配合使用来检测用户的眼部动作,例如眼球注视方向、眨眼操作、注视操作等等,从而实现眼球定位(eyetracking)。
其中,数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当电子设备100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样,电子设备100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
NPU为神经网络(neural-network,NN)计算处理器,通过借鉴生物神经网络结构,例如借鉴人脑神经元之间传递模式,对输入信息快速处理,还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用,例如:图像识别,人脸识别,语音识别,文本理解等。
存储器120可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在存储器120的指令,从而执行电子设备100的各种功能应用以及数据处理。存储器120可以包括存储程序区和存储数据区。其中,存储程序区可存储操作系统,至少一个功能(比如声音播放功能,图像播放功能等)所需的应用程序(比如VR/AR/MR应用)等。存储数据区可存储电子设备100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,存储器120可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
电子设备100可以通过音频模块170,扬声器170A,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块170用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块还可以用于对音频信号编码和解码。在一些实施例中,音频模块可以设置于处理器110中,或将音频模块的部分功能模块设置于处理器110中。
扬声器170A,也称“喇叭”,用于将音频电信号转换为声音信号。电子设备100可以通过扬声器收听音乐,或收听免提通话。
麦克风170C,也称“话筒”,“传声器”,用于将声音信号转换为电信号。电子设备100可以设置至少一个麦克风。在另一些实施例中,电子设备100可以设置两个麦克风170C,除了采集声音信号,还可以实现降噪功能。在另一些实施例中,电子设备100还可以设置三个,四个或更多麦克风170C,实现采集声音信号,降噪,还可以识别声音来源,实现定向录音功能等。
在一些实施例中,麦克风170C可以检测到用于控制便携电子设备100的语音信号。处理器110随后可以处理该语音信号,识别语音命令。
耳机接口用于连接有线耳机。耳机接口可以是USB接口,也可以是3.5mm的开放移动电子设备100平台(open mobile terminal platform,OMTP)标准接口,美国蜂窝电信工业协会(cellular telecommunications industry association of the USA,CTIA)标准接口。
在一些实施例中,电子设备100可以包括一个或多个按键150,这些按键可以控制电子设备100,为用户提供访问电子设备100上的功能。按键150的形式可以是按钮、开关、刻度盘和触摸或近触摸传感设备(如触摸传感器)。具体的,例如,用户可以通过按下按钮来打开电子设备100的显示装置180。按键150包括开机键,音量键等。按键150可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入,产生与电子设备100的用户设置以及功能控制有关的键信号输入。
在一些实施例中,电子设备100可以包括输入输出接口160,输入输出接口160可以通过合适的组件将其他装置连接到电子设备100。组件例如可以包括音频/视频插孔,数据连接器等。
传感器模块140可以包含多种传感器,例如,接近光传感器、距离传感器、陀螺仪传感器、环境光传感器、加速度传感器、温度传感器、磁传感器、骨传导传感器和指纹传感器等等。
接近光传感器可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定电子设备100附近有物体。当检测到不充分的反射光时,电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器检测处于电子设备100特定位置的手势操作,以实现手势操作与操作命令相关联的目的。
距离传感器可以用于测量距离。电子设备100可以通过红外或激光测量距离。
陀螺仪传感器可以用于确定电子设备100的运动姿态。在一些实施例中,可以通过陀螺仪传感器确定电子设备100围绕三个轴(即,x,y和z轴)的角速度。陀螺仪传感器还可以用于导航,体感游戏场景。
环境光传感器用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示装置180的亮度。环境光传感器也可用于拍照时自动调节白平衡。
加速度传感器可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备100姿态,应用于计步器等应用。
在本申请的一些实施例中,电子设备100可以根据加速度传感器、陀螺仪传感器、磁传感器等来追寻用户头部的移动。
温度传感器用于检测温度。在一些实施例中,电子设备100利用温度传感器检测的温度,执行温度处理策略。例如,当温度传感器上报的温度超过阈值,电子设备100执行降低位于温度传感器附近的处理器的性能,以便降低功耗实施热保护。在另一些实施例中,当温度低于另一阈值时,电子设备100对电池1100加热,以避免低温导致电子设备100异常关机。在其他一些实施例中,当温度低于又一阈值时,电子设备100对电池1100的输出电压执行升压,以避免低温导致的异常关机。
在本申请实施例中,存储器120可用于存储一个或多个应用程序所对应的虚拟对象的空间信息。处理器110可用于根据真实对象的空间信息和虚拟对象的空间信息,判断虚拟对象是否和真实对象有叠加,即判断是否存在叠加区域。处理器110判断是否存在叠加区域的详细操作可参照后续实施例的相关描述。
在本申请实施例中,显示装置180、扬声器170A、闪光灯或马达中的一项或多项,可用于输出用于提示当前存在叠加区域的提示信息。这里,显示装置180、扬声器170A、闪光灯或马达输出该提示信息的具体操作可参照后续实施例的相关描述。
在本申请实施例中,显示装置180、扬声器170A、闪光灯或马达中的一项或多项,可用于输出用于引导用户进行有效交互的提示信息。这里,显示装置180、闪光灯或马达输出该提示信息的具体操作可参照后续实施例的相关描述。
电子设备100的软件系统可以采用分层架构,事件驱动架构,微核架构,微服务架构,或云架构等,本申请对此不做限制。例如,本申请实施例中的电子设备100可以搭载iOS、android、microsoft或者其他操作系统。
首先介绍本申请实施例中电子设备100的装置结构。
图2示出了电子设备100的装置结构示意图。
如图2所示,电子设备100可以包括控制器、通电电路、显示器、电池、右侧扬声器、左侧扬声器、左侧气流发生装置和右侧气流发生装置等。
其中,控制器也可以被称为处理器110,控制器用于控制显示器显示虚拟对象。
在一些实施例中,显示器也可以被称为显示装置180。
在显示器输出虚拟对象时,控制器还可以控制左侧扬声器和右侧扬声器发出音频。通过图像和音频提升用户的虚拟体验。
不仅限于左侧扬声器和右侧扬声器,电子设备100还可以包括其他更多的扬声器,例如在电子设备100支持多声道的情况下,例如电子设备100支持三声道时,电子设备100还可以包括中侧扬声器,左侧扬声器用于输出左声道音频,右侧扬声器用于输出右声道音频,中侧扬声器用于输出中央声道音频。
可选的,左侧扬声器和右侧扬声器以及其他更多的扬声器可以被称为扬声器170A。
本申请仅是以电子设备100包括左侧扬声器和右侧扬声器为例进行说明的,并不构成限定。
在电子设备100通过扬声器发出音频时,控制器可以基于扬声器输出的音频进行风噪检测,得到左声道风噪大小和方向,以及右声道风噪大小和方向。控制器可以控制左侧气流发生装置基于左声道风噪大小和方向发出相应大小和方向的气流,并控制右侧气流发生装置基于右声道风噪大小和方向发出相应大小和方向的气流,使得用户可以基于模拟气流体验身临其境的感觉,提升用户体验。
需要说明的是,图2仅是示出了电子设备100的部分装置,电子设备100还可以包括其他更多的装置,具体的,可以参考图1实施例中的描述,本申请在此不再赘述。
电子设备100中气流发生装置的位置说明。
本申请中电子设备100可以基于扬声器输出的音频生成模拟气流,并通过左侧气流发生装置和右侧气流发生装置生成和发出相应大小和方向的模拟气流。
在一种可能的实现方式中,左侧气流发生装置和右侧气流发生装置中可以包括风扇、导气管或者其他可以输出气流的器件,该器件的位置和方向可以改变,以实现左侧气流发生装置和右侧气流发生装置通过该器件发出相应方向的气流。
在其他可能的实现方式中,可以包括风扇、导气管或者其他可以输出气流的器件,该器件的位置和方向是固定的,但是左侧气流发生装置和右侧气流发生装置的位置和方向可以改变,以实现左侧气流发生装置和右侧气流发生装置通过该器件发出相应方向的气流。
在一些实施例中,气流发生装置内可以输出气流的器件可以被称为气流发生器件。
不仅限于以上实现方式,左侧气流发生装置和右侧气流发生装置还可以通过其他的方式发出相应大小和方向的模拟气流,本申请对此不做限定。
首先对于左侧气流发生装置和右侧气流发生装置在电子设备100中的位置进行说明。
图3示出了用户佩戴电子设备100的示意图。
如图3所示,用户头部佩戴有电子设备100(例如头戴显示设备),电子设备100的显示器位于用户双眼的正前方。用户可以通过双眼观看电子设备100的显示器输出的虚拟对象。
图4-图6示出了一种左侧气流发生装置和右侧气流发生装置的位置示意图。
图4为电子设备100的主视图。电子设备100可以包括多个头部固定带,该头部固定带用于在用户佩戴电子设备100时将电子设备100固定在用户的头部。
图5为电子设备100的一种后视图。电子设备100同样也可以包括多个头部固定带,从图5可以看到电子设备100的内部结构。电子设备100内部可以包括显示屏,该显示屏用于显示虚拟对象,用户可以通过双眼观看电子设备100显示的虚拟对象,以达到虚拟体验的目的。
如图5所示,可以看到电子设备100内部可以包括左侧气流发生装置和右侧气流发生装置。
其中,左侧气流发生装置为电子设备100的左前上方。右侧气流发生装置为电子设备100的右前上方。
需要说明的是,图5仅是示例性示出了左侧气流发生装置在电子设备100的左前上方的位置,以及右侧气流发生装置为电子设备100的右前上方的位置,左侧气流发生装置还可以位于电子设备100的左前上方的其他位置,右侧气流发生装置也还可以位于电子设备100的右前上方的其他位置,本申请对此不做限定。
图6为电子设备100的另一种后视图。电子设备100同样也可以包括多个头部固定带,从图6可以看到电子设备100的内部结构。电子设备100内部可以包括显示屏,该显示屏用于显示虚拟对象,用户可以通过双眼观看电子设备100显示的虚拟对象,以达到虚拟体验的目的。
如图6所示,可以看到电子设备100内部可以包括左侧气流发生装置和右侧气流发生装置。
其中,左侧气流发生装置为电子设备100的左前下方。右侧气流发生装置为电子设备100的右前下方。
需要说明的是,图6仅是示例性示出了左侧气流发生装置在电子设备100的左前下方的位置,以及右侧气流发生装置为电子设备100的右前下方的位置,左侧气流发生装置还可以位于电子设备100的左前下方的其他位置,右侧气流发生装置也还可以位于电子设备100的右前下方的其他位置,本申请对此不做限定。
图7-图9示出了另一种左侧气流发生装置和右侧气流发生装置的位置示意图。
其中,图7示出了一种从用户的头顶向下投影的俯视图。
如图7所示,当用于佩戴电子设备100时,电子设备100可以佩戴于用户的面部,使得用户的双眼位于电子设备100内部,用户的双眼可以通过电子设备100内部的显示屏观看电子设备100显示的虚拟对象,以达到虚拟体验的目的。
其中,电子设备100上预置有左侧气流发生装置和右侧气流发生装置。左侧气流发生装置位于电子设备100的左前上方,右侧气流发生装置位于电子设备100的右前上方,或者左侧气流发生装置位于电子设备100的左前下方,右侧气流发生装置位于电子设备100的右前下方。或者左侧气流发生装置位于电子设备100的左前上方,右侧气流发生装置位于电子设备100的右前上方。或者左侧气流发生装置位于电子设备100的左前下方,右侧气流发生装置位于电子设备100的右前下方。
图8示出了一种从用户的面部向后投影的正视图。
如图8所示,右侧气流发生装置可以位于电子设备100的右前上方,左侧气流发生装置可以位于电子设备100的左前上方。
需要说明的是,右侧气流发生装置和左侧气流发生装置均位于电子设备100的内部,使得右侧气流发生装置和左侧气流发生装置可以产生气流并将气流吹在用户脸部,使得用户可以感受到气流。
并且,右侧气流发生装置和左侧气流发生装置均未位于电子设备100的显示区域的内,避免右侧气流发生装置和左侧气流发生装置遮挡用户的视野。
图9示出了另一种从用户的面部向后投影的正视图。
如图9所示,右侧气流发生装置可以位于电子设备100的右前下方,左侧气流发生装置可以位于电子设备100的左前下方。
需要说明的是,右侧气流发生装置和左侧气流发生装置均位于电子设备100的内部,使得右侧气流发生装置和左侧气流发生装置可以产生气流并将气流吹在用户脸部,使得用户可以感受到气流。
并且,右侧气流发生装置和左侧气流发生装置均未位于电子设备100的显示区域的内,避免右侧气流发生装置和左侧气流发生装置遮挡用户的视野。
需要说明的是,图3-图9仅是示例性示出了右侧气流发生装置和左侧气流发生装置在电子设备100内的位置。在一些实施例中,右侧气流发生装置和左侧气流发生装置可以不位于平行位置,例如,右侧气流发生装置位于电子设备100的右前上方,左侧气流发生装置位于电子设备100的左前下方。再例如,右侧气流发生装置位于电子设备100的右前下方,左侧气流发生装置位于电子设备100的左前上方。本申请对此也不做限定。
本申请需要基于电子设备100输出音频的大小和方向,计算出音频中左侧气流声的大小和方向以及右侧气流声的大小和方向。在得到左侧气流声的大小和方向以及右侧气流声的大小和方向后,电子设备100可以控制右侧气流发生装置按照右侧气流声的大小和方向发出相应大小和方向的气流,并控制左侧气流发生装置按照左侧气流声的大小和方向发出相应大小和方向的气流。
需要说明的是,本申请仅是以两声道的音频以及两个气流发生装置为例进行说明的。
在其他实施例中,还可以包括其他更多声道的音频以及更多的气流发生装置,例如三声道音频,电子设备100可以包括三个气流发生装置。例如五声道音频,电子设备100可以包括五个气流发生装置,本申请对此也不做限定。
电子设备100中气流发生装置的角度可发出气流的气流方向。
在本申请中,电子设备100可以基于电子设备100输出的音频,计算得到气流的气流大小和气流方向,电子设备100中气流发生装置可以基于计算得到的气流大小和气流方向发出相应大小和相应方向的气流。接下来对气流方向进行解释。
在一些实施例中,气流方向可以通过气流发生装置发出的气流角度来确定。气流方向与气流角度相关。
图10A示出了右侧气流发生装置和左侧气流发生装置可发出气流的气流方向的示意图。
如图10A所示,当右侧气流发生装置位于电子设备100的右前上方,且左侧气流发生装置位于电子设备100的左前上方时,右侧气流发生装置和左侧气流发生装置位于同一个水平面上。
如图10A所示,左侧气流发生装置和右侧气流发生装置之间的连线可以被称为第一基线。
从用户的头顶正上方向下投影,可以得到图10A所示的第一基线。
在一种可能的实现方式中,左侧气流发生装置和右侧气流发生装置在第一基线上的基准位置固定,但是左侧气流发生装置和右侧气流发生装置可以围绕着该基准位置从左至右旋转发出预设方向的气流。
在其他可能的实现方式中,左侧气流发生装置和右侧气流发生装置在第一基线上的基准位置固定,左侧气流发生装置和右侧气流发生装置也不能旋转,可以通过控制气流发生装置内部的气流发生器件围绕着该基准位置从左至右旋转发出预设方向的气流。
可选的,左侧气流发生装置和右侧气流发生装置的基准位置也可以是不固定的,左侧气流发生装置和右侧气流发生装置的位置也可以沿着第一基线移动,从而改变左侧气流发生装置和右侧气流发生装置在第一基线上的基准位置。
左侧气流发生装置和右侧气流发生装置还可以通过其他方式发出预设方向气流,本申请对此不做限定。
如图10B所示, 左侧气流发生装置和右侧气流发生装置坐在的水平面可以和以人头从前往后的中心线所在的垂直面相交,得到第二基线。左侧气流发生装置发出的气流与第二基线之间的夹角可以被称为气流方向θ。右侧气流发生装置发出的气流方向与左侧气流发生装置发出的气流方向相同。
可选的,无论左侧气流发生装置和右侧气流发生装置位于电子设备100的哪个位置上,从用户的头顶向水平面投影,均可以得到图10A-图10B所示的第一基线和第二基线,本申请对此不做限定。
气流方向θ的取值范围可以是[-A,A]之间,气流方向θ的取值范围也可以是[-B,B]之间。
示例性的,-A可以是-90度,A可以是90度。
示例性的,-B可以是-45度,B可以是45度。
气流方向θ还可以是其他预设值,本申请对此不做限定。
以下实施例以左侧气流发生装置发出气流的气流方向θ进行示例性说明。
如图10C所示,当左侧气流发生装置和右侧气流发生装置水平向左发出气流时,气流方向θ为90度,即左侧气流发生装置发出的气流与第二基线之间的夹角为90度。
如图10D所示,当左侧气流发生装置和右侧气流发生装置向左前方发出气流时,气流方向θ为45度,即左侧气流发生装置发出的气流与第二基线之间的夹角为45度。
如图10E所示,当左侧气流发生装置和右侧气流发生装置垂直于第一基线向上发出气流时,气流方向θ为0度,即左侧气流发生装置发出的气流与第二基线之间的夹角为0度。
如图10F所示,当左侧气流发生装置和右侧气流发生装置向右前方发出气流时,气流方向θ为-45度,即左侧气流发生装置发出的气流与第二基线之间的夹角为-45度。
如图10G所示,当左侧气流发生装置和右侧气流发生装置水平向右发出气流时,气流方向θ为-90度,即左侧气流发生装置发出的气流与第二基线之间的夹角为0度。
可选的,在其他实施例中,左侧气流发生装置和右侧气流发生装置沿着左前方发出的气流方向可以为负值,左侧气流发生装置和右侧气流发生装置沿着右前方发出的气流方向可以为正值,本申请对此也不做限定,图10A-图10G仅用于示例性解释本申请。
图11A-图11B示出了一种本申请中基于音频得到左右侧气流的大小和/方向示意图。
在一些实施例中,电子设备100可以基于音频处理算法处理后的音频得到左右侧气流的大小和方向。
如图11A所示,电子设备100包括音频处理算法模块、气流大小和/或气流方向估计模块、左侧扬声器、右侧扬声器、左侧气流发生装置和右侧气流发生装置。
电子设备100可以输出左声道音频和右声道音频。
电子设备100可以将左声道音频和右声道音频输入音频处理算法模块,对左声道音频和右声道音频进行处理,得到左声道处理音频和右声道处理音频。电子设备100再将左声道处理音频输入左侧扬声器,再将右声道处理音频输入右侧扬声器。电子设备10可以通过左侧扬声器播放左声道处理音频并通过右侧扬声器播放右声道处理音频。使得用户可以听到电子设备100输出的音频。
其中,音频处理算法包括但不仅限于以下一项或多项:音频均衡算法、调节音效算法、低频增强算法、动态范围压缩算法等。这样,可以使得电子设备100的音频效果更好。
电子设备100可以基于左声道处理音频和右声道处理音频分别得到左侧气流大小和/或方向以及右侧气流大小和/或方向。
具体的,电子设备100可以将左声道处理音频和右声道处理音频分别输入气流大小和/或气流方向估计模块,气流大小和/或气流方向估计模块可以基于左声道处理音频得到左侧气流大小和/或方向,并输出左侧气流大小和/或方向。同理,气流大小和/或气流方向估计模块可以基于右声道处理音频得到右侧气流大小和/或方向,并输出右侧气流大小和/或方向。
在得到左侧气流大小和/或方向和右侧气流大小和/或方向后,气流大小和/或气流方向估计模块可以将得到的左侧气流大小和/或方向和右侧气流大小和/或方向发分别发送至左侧气流发生装置和右侧气流发生装置。
左侧气流发生装置可以基于左侧气流大小和/或方向发出预设大小和/或预设方向的气流。
右侧气流发生装置可以基于左侧气流大小和/或方向发出预设大小和/或预设方向的气流。
如图11B所示,电子设备100包括音频处理算法模块、气流大小和/或气流方向估计模块、左侧扬声器、右侧扬声器、左侧气流发生装置和右侧气流发生装置。
电子设备100可以输出左声道音频和右声道音频。
电子设备100可以将左声道音频和右声道音频输入音频处理算法模块,对左声道音频和右声道音频进行处理,得到左声道处理音频和右声道处理音频。电子设备100再将左声道处理音频输入左侧扬声器,再将右声道处理音频输入右侧扬声器。电子设备100可以通过左侧扬声器播放左声道处理音频并通过右侧扬声器播放右声道处理音频。使得用户可以听到电子设备100输出的音频。
其中,音频处理算法包括但不仅限于以下一项或多项:音频均衡算法、调节音效算法、低频增强算法、动态范围压缩算法等。这样,可以使得电子设备100的音频效果更好。
在图11B中,电子设备100可以基于左声道音频和右声道音频分别得到左侧气流大小和/或方向以及右侧气流大小和/或方向。
具体的,电子设备100可以将左声道音频和右声道理音频分别输入气流大小和/或气流方向估计模块,气流大小和/或气流方向估计模块可以基于左声道音频得到左侧气流大小和/或方向,并输出左侧气流大小和/或方向。同理,气流大小和/或气流方向估计模块可以基于右声道音频得到右侧气流大小和/或方向,并输出右侧气流大小和/或方向。
在得到左侧气流大小和/或方向和右侧气流大小和/或方向后,气流大小和/或气流方向估计模块可以将得到的左侧气流大小和/或方向和右侧气流大小和/或方向发分别发送至左侧气流发生装置和右侧气流发生装置。
左侧气流发生装置可以基于左侧气流大小和/或方向发出预设大小和/或预设方向的气流。
右侧气流发生装置可以基于左侧气流大小和/或方向发出预设大小和/或预设方向的气流。
需要说明的是,本申请也可以不包括音频处理算法模块,也即不多音频进行处理,直接将音频输入左侧扬声器和右侧扬声器。
基于音频得到左侧气流大小和/方向以及右侧气流大小和/方向。
图12A-图12B示出了另一种本申请中基于音频得到左右侧气流的大小和/方向示意图。
在一些实施例中,电子设备100可以基于音频仅得到气流大小即可,不计算气流方向。这样,左侧气流发生装置和右侧气流发生装置只需发出预设大小的气流即可。
在这种情况下,在一些实施例中,左侧气流发生装置和右侧气流发生装置的基准位置是固定的。并且气流发生装置内部的气流发生器件的位置也是固定的,左侧气流发生装置和右侧气流发生装置可以朝着一个固定方向输出不同大小的气流。
在其他实施例中,左侧气流发生装置和右侧气流发生装置的位置也可以改变,或者气流发生装置内部的气流发生器件的位置可以改变,使得左侧气流发生装置和右侧气流发生装置可以朝着不同的方向输出不同大小的气流。
如图12A所示,电子设备100可以将左声道音频和右声道音频分别输入气流特征估计模块,气流特征估计模块可以基于左声道音频得到左侧气流大小,气流特征估计模块再将左侧气流大小发送至左侧气流发生装置。左侧气流发生装置可以基于左侧气流大小发出预设大小的气流。
气流特征估计模块也可以基于右声道音频得到左侧气流大小,气流特征估计模块再将右侧气流大小发送至右侧气流发生装置。右侧气流发生装置可以基于右侧气流大小发出预设大小的气流。
在其他实施例中,电子设备100可以基于音频仅得到气流大小,再基于气流大小预估气流方向。这样,左侧气流发生装置和右侧气流发生装置需发出预设大小和预设方向的气流。
在这种情况下,在一种可能的实现方式中,左侧气流发生装置和右侧气流发生装置的基准位置是固定的,左侧气流发生装置和右侧气流发生装置可以围绕着该基准位置从左至右旋转发出预设方向的气流。在其他可能的实现方式中,左侧气流发生装置和右侧气流发生装置的基准位置是固定或者不固定的,左侧气流发生装置和右侧气流发生装置不能旋转,但是左侧气流发生装置和右侧气流发生装置可以通过控制气流发生装置内部的气流发生器件围绕着该基准位置从左至右旋转发出预设方向的气流。
左侧气流发生装置和右侧气流发生装置还可以通过其他方式发出预设方向气流,本申请对此不做限定。
如图12B所示,气流特征估计模块包括气流大小估计模块和气流方向估计模块。
其中,电子设备100可以将左声道音频和右声道音频分别输入气流大小估计模块,气流大小估计模块可以基于左声道音频得到左侧气流大小,并基于右声道音频得到右侧气流大小。
之后,一方面,气流大小估计模块需要将左侧气流大小发送至左侧气流发生装置,并将右侧气流大小发送至右侧气流发生装置。另一方面,气流大小估计模块还需将左侧气流大小和右侧气流大小发送至气流方向估计模块。
气流方向估计模块在接收到左侧气流大小和右侧气流大小后,气流方向估计模块可以基于左侧气流大小得到左侧气流方向,并基于右侧气流大小得到右侧气流方向。
气流方向估计模块再将左侧气流方向发送至左侧气流发生装置,并将右侧气流方向发送至右侧气流发生装置。
左侧气流发生装置在接收到左侧气流大小和左侧气流方向后,左侧气流发生装置可以基于左侧气流大小和左侧气流方向发出预设大小和预设方向的气流。
同理,右侧气流发生装置在接收到右侧气流大小和右侧气流方向后,右侧气流发生装置可以基于右侧气流大小和右侧气流方向发出预设大小和预设方向的气流。
接下来介绍电子设备100是如何计算得到左侧气流大小和右侧气流大小的。
本申请提供了但不仅限于两种测量左侧气流大小和右侧气流大小的方法。
方式一:电子设备100可以计算基于左声道音频计算得到左侧低频信号,并基于右声道音频计算得到右侧低频信号。电子设备100再基于左侧低频信号和右侧低频信号计算得到风噪概率,风噪概率越大,说明是风噪的概率越大。然后,电子设备100再基于风噪概率和左侧低频信号计算得到左侧气流信号,并基于风噪概率和右侧低频信号计算得到右侧气流信号。
其中,由左声道音频计算得到左侧低频信号,并基于右声道音频计算得到右侧低频信号的原因在于,一般来说风噪信号的频率都比较低,可以从左声道音频和右声道音频中过滤得到左侧低频信号和右侧低频信号,该左侧低频信号可以认为部分或者全部是左侧气流信号,该右侧低频信号也可以认为部分或者全部是右侧气流信号。
电子设备100基于风噪概率和左侧低频信号计算得到左侧气流信号,并基于风噪概率和右侧低频信号计算得到右侧气流信号的原因在于,一般来说,低频信号除了包括气流信号外,可能还会包括乐器声或者男生的说话声等低频噪声,为了提高最后得到左侧气流信号和右侧气流信号的准确性,电子设备100可以再基于风噪概率和左侧低频信号进一步确定出左侧气流信号,并基于风噪概率和右侧低频信号进一步确定出右侧气流信号。这样,可以提高电子设备100从音频信号中分离得到左侧气流信号和右侧气流信号的准确性。
可选的,在一些实施例中,在得到左侧低频信号和右侧低频信号后,电子设备100也可以不考虑乐器声或者男生的说话声等低频噪声的影响,直接将左侧低频信号作为左侧气流信号,将右侧低频信号作为右侧气流信号,本申请对此也不做限定。
图13示出了方式一中电子设备100从音频中分离得到左侧气流信号和右侧气流信号的示意图。
如图13所示,气流大小估计模块包括低通滤波器、气流概率估计模块和气流大小估计模块。
其中,低通滤波器可以接收左声道音频和右声道音频,并对左声道音频和右声道音频进行低通滤波,得到左侧低频信号和右侧低频信号。
之后,一方面,低通滤波器需将左侧低频信号和右侧低频信号输入气流概率估计模块。另一方面,低通滤波器还需将左侧低频信号和右侧低频信号输入左侧气流信号合成模块和右侧气流信号合成模块。
其中,气流概率估计模块可以基于左侧低频信号和右侧低频信号计算出气流概率。该气流概率用于指示左侧低频信号和右侧低频信号是气流信号的概率。或者说气流概率用于指示左侧低频信号和右侧低频信号中气流信号占据总信号量的比例。气流概率越大,则左侧低频信号和右侧低频信号中包含的气流信号越多。
在确定出气流概率后,气流概率估计模块可以将气流概率分别发送至左侧气流信号合成模块和右侧气流信号合成模块。
左侧气流信号合成模块可以基于左侧低频信号和气流概率得到左侧气流信号。左侧气流信号合成模块还需将左侧气流信号发送至气流大小估计模块。
右侧气流信号合成模块可以基于右侧低频信号和气流概率得到右侧气流信号。右侧气流信号合成模块还需将右侧气流信号发送至气流大小估计模块。
气流大小估计模块可以基于左侧气流信号输出左侧气流大小。
同理,气流大小估计模块也可以基于右侧气流信号输出右侧气流大小。
在一些实施例中,低通滤波器在得到左侧低频信号和右侧低频信号后,低通滤波器可以直接将左侧低频信号和右侧低频信号输入气流大小估计模块。气流大小估计模块可以基于左侧低频信号输出左侧气流大小。同理,气流大小估计模块也可以基于右侧低频信号输出右侧气流大小。
接下来具体解释上述各个模块是如何得到左侧气流大小和右侧气流大小的。
一、电子设备100通过低通滤波器基于左声道音频得到左侧低频信号,并通过低通滤波器基于右声道音频得到右侧低频信号。
在一些实施例中,电子设备100可以分别通过公式(1)和公式(2)得到左侧低频信号和右侧低频信号。
公式(1)
公式(2)
其中,公式(1)中示出的表示左侧低频信号,/>表示左侧音频信号。/>表示低通滤波器。示例性的,/>可以是{a,b,a},a=0.18,b=0.64,或者a=0.64,b=0.58。N表示左侧低频信号的采样点数。
公式(2)中示出的表示左侧低频信号,/>表示左侧音频信号。/>表示低通滤波器系数{a,b,a}。示例性的,a=0.18,b=0.64,或者a=0.64,b=0.58。N表示左侧低频信号的采样点数。
可选的,由于需要实时对音频信号进行处理,通常会将音频信号拆分成一些连续的片段,也可以称为帧,每帧音频长度可以是固定的几毫秒或者几十毫秒。每帧音频可以以包含N个采样点(N为正整数)。示例性的,音频信号的采样率为48000Hz,每帧音频长度为10ms,则一帧音频可以包括480个采样点,每个采样点的取值可以采用浮点数标识,例如每个采样点的取值可以在[-1.0,1.0]之间。
上述公式(1)和公式(2)仅用于示例性说明电子设备100是如何基于左声道音频和右声道音频得到左侧低频信号和右侧低频信号的,电子设备100还可以通过其他方式基于左声道音频和右声道音频得到左侧低频信号和右侧低频信号,本申请对此不做限定。
二、电子设备100可以基于左侧低频信号和右侧低频信号计算风噪概率。
由于气流的频率比较低,电子设备100可以通过低通滤波器过滤掉高频信号,仅保留低频信号,该低频信号可以包括音频中的气流信号。
在一些实施例中,低频信号除了包括气流信号外,可能还会包括乐器声或者男生的说话声等低频噪声,为了提高最后得到左侧气流信号和右侧气流信号的准确性,电子设备100还需去除掉低频信号中的非气流信号。
可选的,电子设备100以基于左侧低频信号和右侧低频信号计算风噪概率,风噪概率越大,则说明低频信号中包含的气流声越多,低频信号中包含的非气流声越少。
在一些实施例中,电子设备100可以分别通过公式(3)和公式(4)得到风噪概率。
p=1-c公式(4)
其中,公式(3)中示出的表示左侧低频信号,/>表示右侧低频信号,公式(3)中的c表示左侧低频信号和右侧低频信号的相关度,c的取值在[0,1]之间,c的取值越高,说明左侧低频信号和右侧低频信号的相关度越高,则左侧低频信号和右侧低频信号中包含的气流信号越少。
是一个很小的正实数(例如0.0001、0.00003等),用于避免公式(3)在计算中出现分母为0的情况。在一些实施例中,公式(3)中也可以不包括正实数/>,本申请对此也不做限定。
公式(4)中的p表示风噪概率。p的取值在[0,1]之间。p的取值越大,说明左侧低频信号和右侧低频信号中包含的气流信号越多。
上述公式(3)和公式(4)仅用于示例性说明电子设备100是如何基于左侧低频信号和右侧低频信号得到风噪概率的,电子设备100还可以通过其他方式基于左侧低频信号和右侧低频信号得到风噪概率的,本申请对此不做限定。
三、电子设备100基于左侧低频信号、右侧低频信号和风噪概率得到左侧气流信号和右侧气流信号。
电子设备100在确定出风噪概率后,电子设备100可以基于左侧低频信号和风噪概率得到左侧气流信号。再基于右侧气流信号和风噪概率得到右侧气流信号。这样,电子设备100可以排除掉低频信号中的非气流信号,可以提高电子设备100得到左侧气流信号和右侧气流信号的准确性。
在一些实施例中,电子设备100可以分别通过公式(5)得到左侧气流信号,并通过公式(6)得到右侧气流信号。
公式(5)
公式(6)/>
其中,公式(5)中的表示左侧低频信号,p表示风噪概率,/>表示左侧气流信号。
公式(6)中的表示右侧低频信号,p表示风噪概率,/>表示右侧气流信号。
上述公式(5)和公式(6)仅用于示例性说明电子设备100是如何基于左侧低频信号和风噪概率得到左侧气流信号以及如何基于右侧低频信号和风噪概率得到右侧气流信号,电子设备100还可以通过其他方式基于左侧低频信号和风噪概率得到左侧气流信号以及通过其他方式基于右侧低频信号和风噪概率得到右侧气流信号,本申请对此不做限定。
四、电子设备100基于左侧气流信号得到左侧气流大小,基于右侧气流信号得到右侧气流大小。
在一些实施例中,电子设备100可以分别通过公式(7)得到左侧气流大小,并通过公式(8)得到右侧气流大小。
其中,公式(7)中的表示左侧气流信号,/>表示左侧气流大小。
公式(8)中的表示右侧气流信号,/>表示右侧气流大小。
上述公式(7)和公式(8)仅用于示例性说明电子设备100是如何基于左侧气流信号得到左侧气流大小以及如何基于右侧气流信号得到右侧气流大小的,电子设备100还可以通过其他方式基于左侧气流信号得到左侧气流大小以及通过其他方式基于右侧气流信号得到右侧气流大小,本申请对此不做限定。
在一些实施例中,公式(7)的也可以表示左侧低频信号,公式(8)的/>也可以表示右侧低频信号,即电子设备100可以直接基于左侧低频信号和右侧低频信号得到左侧气流大小和右侧气流大小,本申请对此不做限定。
方式二:在一些实施例中,电子设备100也可以基于深度学习网络从左声道音频中分离出左侧气流信号以及从右声道音频中分离出右侧气流信号。
示例性的,深度学习网络可以是NN网络。
图14A示出了另一种电子设备100基于气流大小估计模块得到左侧气流大小和右侧气流大小的示意图。
如图14A所示,气流大小估计模块包括NN网络和气流大小估计模块。
其中,电子设备100可以将左声道音频和右声道音频输入NN网络,NN网络可以基于左声道音频输出左侧气流信号,并基于右声道音频输出右侧气流信号。之后,NN网络再将左侧气流信号输入气流大小估计模块,气流大小估计模块可以输出左侧气流大小。NN网络再将右侧气流信号输入气流大小估计模块,气流大小估计模块可以输出右侧气流大小。
首先介绍电子设备100是如何训练得到深度学习网络的。
图14B示出了训练NN网络的示意图。
如图14B所示,训练接可以包括气流声和非气流声数据。其中,非气流声数据可以包括但不仅限于人声、乐器声、特效噪声等。
然后,气流声数据可以通过时频变换,将时域的气流声数据转换为频域的气流声数据。
气流声数据和非气流声数据可以混合,得到混合信号。混合信号可以通过时频变换,将时域的混合信号转换为频域的混合信号。
之后,可以基于频域的气流声数据和频域的混合信号得到真实气流声掩码。真实气流声掩码可以理解为气流声数据在混合信号中占的比例(0.3),真实气流声掩码为准确的数据。真实气流声掩码越大,说明混合信号中包含的气流声数据越多,真实气流声掩码越小,说明混合信号中包含的气流声数据越少。
同时,频域的混合信号可以输入NN网络,NN网络可以输出预测气流声掩码,预测气流声掩码可以是NN网络从频域的混合信号中预测得到的气流声数据在混合信号中占的比例,该预测气流声掩码不是准确的数据,是预测的数据。因此还需比较,预测气流声掩码和真实气流声掩码的差距,再去调整NN网络的网络参数,使得NN网络输出的预测气流声掩码与真实气流声掩码之间的差距在预设范围内,训练结束,此时NN网络输出的预测气流声掩码接近于真实气流声掩码。
如图14B所示,NN网络在得到预测气流声掩码后,预测气流声掩码可以输入损失函数,真实气流声掩码也可以输入损失函数,可以计算预测气流声掩码和真实气流声掩码之间的差距。若差距在预设范围内,则NN网络输出的预测气流声掩码接近于真实气流声掩码,NN网络训练结束。若差距大于预设范围,则需要调整NN网络参数,再次训练NN网络,再比较网络参数调整后NN网络输出的预测气流声掩码与真实气流声掩码之间的差距。若差值在预设范围内,训练结束,此时NN网络输出的预测气流声掩码接近于真实气流声掩码。若差值依然大于范围,则可以继续按照上述方式训练NN网络,直至NN网络输出的预测气流声掩码与真实气流声掩码之间的差距在预设范围内,训练结束。
图14C示出了电子设备100基于NN网络从音频数据中分离得到气流信号的示意图。
如图14C所示,可以将左声道音频进行时频变换,将时域的左声道音频转换为频域的左声道音频。再将频域的左声道音频输入训练好的NN网络,NN网络可以输出左侧预测气流声掩码。之后,可以基于左侧预测气流声掩码和频域的左声道音频,得到频域的左侧气流信号。最后,再将频域的左侧气流信号进行时频变换,将频域的左侧气流信号转换为时域的左侧气流信号,时域的左侧气流信号为最终得到的左侧气流信号。
同理,如图14C所示,可以将右声道音频进行时频变换,将时域的右声道音频转换为频域的右声道音频。再将频域的右声道音频输入训练好的NN网络,NN网络可以输出右侧预测气流声掩码。之后,可以基于右侧预测气流声掩码和频域的右声道音频,得到频域的右侧气流信号。最后,再将频域的右侧气流信号进行时频变换,将频域的右侧气流信号转换为时域的右侧气流信号,时域的右侧气流信号为最终得到的右侧气流信号。
在图14C中,在基于NN网络得到左侧气流信号和右侧气流信号后,电子设备100可以按照公式(7)和公式(8)的方式基于左侧气流信号和右侧气流信号得到左侧气流大小和右侧气流大小,本申请在此不再赘述。
不仅限于上述介绍的两种从音频中分离得到气流信号的方法,还可以基于其他方式从音频中分离得到气流信号,本申请对此不做限定。
接下来介绍电子设备100是如何基于左侧气流信号大小和右侧气流大小计算得到气流纺方向的。
可选的,在本申请中,左侧气流发生装置和右侧气流发生装置发出气流的方向可以是一致的。
在其他实施例中,左侧气流发生装置和右侧气流发生装置发出气流的方向也可以是不一致的,本申请对此不做限定。
在一些实施例中,当气流朝着用户的脸部从右侧向左侧吹过来时,用户右耳听到的风声大于用户左耳听到的风声。当气流朝着用户的脸部从左侧向右侧吹过来时,用户左耳听到的风声大于用户右耳听到的风声。当气流垂直于吹向用户的脸部时,用户左耳听到的风声大致等于用户右耳听到的风声。基于此原理,电子设备100可以基于左侧气流信号大小和右侧气流大小计算得到气流纺方向。
基于前述描述,气流方向θ的取值范围在[-A,A]之间。
示例性的,A可以是π/2,则气流方向θ的取值范围在[-π/2,π/2]之间。
其中,当气流方向-π/2时,左侧气流发生装置和右侧气流发生装置可以发出用户脸部平行且水平向左的气流。
当气流方向0时,左侧气流发生装置和右侧气流发生装置可以发出垂直于用户脸部的气流。
其中,当气流方向π/2时,左侧气流发生装置和右侧气流发生装置可以发出用户脸部平行且水平向右的气流。
本申请提供了四种计算得到气流方向的方法。
方法一:电子设备100可以基于公式(9)计算得到气流方向θ。
公式(9)
如公式(9)所示,表示左侧气流信号,/>表示右侧气流信号,θ表示气流方向。其中,ε一个很小的正实数例如0.0001、0.00003等,用于避免在计算θ时公式(9)中出现分母为0的情况。可选的,在其他实施例中,公式(9)中也可以不包括ε,本申请对此不做限定。
公式(9)中计算得到的气流方向θ为基于左侧气流大小和右侧气流大小计算得到的真实气流方向,气流方向θ的取值范围在[-A,A]之间。
公式(9)中没有限定气流方向θ的最大角度和最小角度。在一些实施例中,当气流方向θ大于人脸可感知气流的最大角度或者最小角度时,此时气流发生装置发出的气流吹不到人脸,用户可能感受不到气流。为了避免这种情况的发生,可以限定用户人脸可以感受到气流的最大角度和最小角度。
电子设备100可以基于左侧气流大小、右侧气流大小和预设最大角度B得到气流方向θ。将气流方向θ的取值限定在人脸可以感知气流的最大角度B和最小角度-B之间。
具体的,可以参考方法二至方法四中的描述。
方法二:电子设备100可以基于公式(10)计算得到气流方向θ。
公式(10)
如公式(10)所示,表示左侧气流信号,/>表示右侧气流信号。其中,ε一个很小的正实数例如0.0001、0.00003等,用于避免在计算θ时公式(10)中出现分母为0的情况。可选的,在其他实施例中,公式(10)中也可以不包括ε,本申请对此不做限定。公式(10)中计算得到的气流方向θ的取值范围在[-B,B]之间,其中,B小于A。
在公式(10)中,电子设备100可以基于左侧气流大小和右侧气流大小计算得到气流方向θ。且在方法二中,限定了气流方向θ的最大角度和最小角度。因为若基于左侧气流大小和右侧气流大小计算得到气流方向θ大于最大角度或者小于最小角度时,此时气流发生装置发出的气流吹不到人脸,用户可能感受不到气流。为了避免这种情况的发生,可以限定用户人脸可以感受到气流的最大角度和最小角度。
当气流方向θ大于最大角度或者小于最小角度时,电子设备100可以控制气流发生装置仅朝着最大角度或者小于最小角度发出预设大小的气流即可,可以避免用户感受不到气流的情况发生,可以减少电子设备100的功耗,也能提升用户体验。
当气流方向θ大于最小角度小于最大角度时,即在最小角度与最大角度之间时,电子设备100可以按照计算出来的真实气流方向θ发出预设大小的气流。
示例性的,B可以是π/4,则气流方向θ的取值范围在[-π/4,π/4]之间。
例如,当电子设备100基于左侧气流大小和右侧气流大小计算得到气流方向θ为3π/4时,3π/4大于π/4,电子设备100可以控制左侧气流发生装置和右侧气流发生装置仅朝着π/4的方向发出预设大小的气流即可。
当电子设备100基于左侧气流大小和右侧气流大小计算得到气流方向θ为-3π/4时,-3π/4小于-π/4,电子设备100可以控制左侧气流发生装置和右侧气流发生装置仅朝着-π/4的方向发出预设大小的气流即可。
当电子设备100基于左侧气流大小和右侧气流大小计算得到气流方向θ为0度时,0大于-π/4小于π/4,则电子设备100可以控制左侧气流发生装置和右侧气流发生装置朝着0度的方向发出预设大小的气流即可。
也就是说,在方法二中,当电子设备100基于左侧气流大小和右侧气流大小计算得到的气流方向θ在[-B,B]之间时,电子设备100可以控制左侧气流发生装置和右侧气流发生装置朝着计算得到的真实气流方向发出预设大小的气流。
当电子设备100基于左侧气流大小和右侧气流大小计算得到的气流方向θ小于-B时,电子设备100可以控制左侧气流发生装置和右侧气流发生装置仅朝着-B方向发出预设大小的气流。当电子设备100基于左侧气流大小和右侧气流大小计算得到的气流方向θ大于B时,电子设备100可以控制左侧气流发生装置和右侧气流发生装置仅朝着B方向发出预设大小的气流。
方法三:电子设备100可以基于公式(11)计算得到气流方向θ。
公式(11)
如公式(11)所示,表示左侧气流信号,/>表示右侧气流信号。B表示左侧气流发生装置和右侧气流发生装置能发出最大方向的气流方向,该最大方向为用户能感受到气流的最大方向。其中,ε一个很小的正实数例如0.0001、0.00003等,用于避免在计算θ时公式(11)中出现分母为0的情况。可选的,在其他实施例中,公式(11)中也可以不包括ε,本申请对此不做限定。公式(11)中计算得到的气流方向θ的取值范围在[-B,B]之间,其中,B小于A。/>
通过公式(11),可以将电子设备100基于左侧气流大小和右侧气流大小计算得到的气流方向θ限定至[-B,B]之间,也即将电子设备100基于左侧气流大小和右侧气流大小计算得到的气流方向θ限定至最小角度-B和最大角度B之间。避免电子设备100计算得到的气流方向θ大于最大角度B或者小于最小角度-B,气流发生装置发出的气流吹不到人脸,用户可能感受不到气流的情况发生。
需要说明的是,按照公式(11)计算得到的气流方向θ与电子设备100基于左侧气流大小和右侧气流大小真实计算得到的真实气流方向不同,按照公式(11)计算得到的气流方向θ会小于电子设备100基于左侧气流大小和右侧气流大小真实计算得到的真实气流方向,避免电子设备100基于左侧气流大小和右侧气流大小真实计算得到的真实气流方向大于最大角度B或者小于最小角度-B的情况发生。
方法四:电子设备100可以基于公式(12)计算得到气流方向θ。
公式(12)
如公式(12)所示,表示左侧气流信号,/>表示右侧气流信号。B表示左侧气流发生装置和右侧气流发生装置能发出最大方向的气流方向,该最大方向为用户能感受到气流的最大方向。其中,ε一个很小的正实数例如0.0001、0.00003等,用于避免在计算θ时公式(12)中出现分母为0的情况。可选的,在其他实施例中,公式(12)中也可以不包括ε,本申请对此不做限定。公式(12)中计算得到的气流方向θ的取值范围在[-B,B]之间,其中,B小于A。
通过公式(12),可以将电子设备100基于左侧气流大小和右侧气流大小计算得到的气流方向θ限定至[-B,B]之间,也即将电子设备100基于左侧气流大小和右侧气流大小计算得到的气流方向θ限定至最小角度-B和最大角度B之间。避免电子设备100计算得到的气流方向θ大于最大角度B或者小于最小角度-B,气流发生装置发出的气流吹不到人脸,用户可能感受不到气流的情况发生。
不仅限于上述四种计算得到气流方向θ的方式,电子设备100还可以基于其他方式计算得到气流方向,本申请对此不做限定。
图15为本申请提供的一种气流产生方法的流程示意图。
电子设备包括显示装置、音频播放装置和气流产生装置,音频播放装置包括第一音频播放装置和第二音频播放装置,音频播放装置气流产生装置包括第一气流产生装置和第二气流产生装置。
其中,电子设备可以是VR设备或AR设备,例如电子设备可以是头戴显示设备等。
例如,电子设备可以是图3-图6所示的电子设备100。
显示装置可以是上述实施例中的显示器。
第一音频播放装置可以是上述实施例中的左侧扬声器。
第二音频播放装置可以是上述实施例中的右侧扬声器。
第一气流产生装置可以是上述实施例中的左侧气流发生装置。
第二气流产生装置可以是上述实施例中的右侧气流发生装置。
不仅限于两个气流产生装置,电子设备也可以仅包括一个气流产生装置,或者电子设备也可以包括多于两个的气流产生装置,本申请对此不做限定。
不仅限于两个音频播放装置,电子设备也可以仅包括一个,或者电子设备也可以包括多于两个的,本申请对此不做限定。
S1501、通过显示装置显示虚拟对象。
S1502、通过第一音频播放装置播放第一音频,通过第二音频播放装置播放第二音频。
第一音频可以是上述实施例中的左侧音频。
第二音频可以是上述实施例中的右侧音频。
S1503、计算第一音频中气流声的第一气流大小和第二音频中气流声的第二气流大小。
S1504、通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流。
其中,电子设备用于佩戴在用户的头部,使得用户的双眼位于电子设备内,用户的双眼可以观看显示装置显示的虚拟对象。
在电子设备佩戴在用户头部的情况下,相对于用户双眼位置来时,第一气流产生装置和第二气流产生装置可以分别用户双眼位置的左上前方、右上前方,或者左下前方、右下前方,或者左上前方、右下前方,或者左下前方、右上前方等。
在一些实施例中,第一气流产生装置和第二气流产生装置可以位于显示装置的显示区域外,避免遮挡用户观察显示装置上显示的虚拟对象的情况发生。通过该方法,可以在虚拟场景中基于音频信号产生模拟气流,达到身临其境的效果,提升用户的虚拟体验。
在一种可能的实现方式中,计算第一音频中气流声的第一气流大小和第二音频中气流声的第二气流大小,具体包括;通过低通滤波器对第一音频进行处理,得到第一低频信号;通过低通滤波器对第二音频进行处理,得到第二低频信号;计算第一低频信号的气流大小,得到第一气流大小;计算第二低频信号的气流大小,得到第二气流大小。
一般来说,气流声的频率都较低,可以通过低通滤波器过滤掉音频中的高频信号,仅保留低频信号,将低频信号作为气流声,再基于低频信号计算气流声的气流大小,可以提高电子设备得到气流大小的准确性。
具体的,可以参考图13实施例中的描述。
在一种可能的实现方式中,计算第一低频信号的气流大小,得到第一气流大小,具体包括:基于第一低频信号和第二低频信号,得到第一风噪概率,第一风噪概率用于指示第一低频信号和第二低频信号中包含的气流声的比例;基于第一低频信号和第一风噪概率,得到第一气流信号;计算第一气流信号的气流大小,得到第一气流大小;计算第二低频信号的气流大小,得到第二气流大小,具体包括:基于第二低频信号和第一风噪概率,得到第二气流信号;计算第二气流信号的气流大小,得到第二气流大小。
一般来说,气流声的频率都较低,可以通过低通滤波器过滤掉音频中的高频信号,仅保留低频信号。但是低频信号中可能包含其他杂音,例如乐器声或者男生的说话声等。因此还需过滤掉低频信号中的杂音,得到真正的气流声。具体的,可以基于第一低频信号和第二低频信号,得到第一风噪概率,第一风噪概率用于指示第一低频信号和第二低频信号中包含的气流声的比例。然后,再基于第一低频信号和第一风噪概率,得到第一气流信号,再基于第二低频信号和第一风噪概率,得到第二气流信号。再分别基于第一气流信号和第二气流信号得到第一气流大小和第二气流大小。这样,可以进一步提高电子设备得到气流大小的准确性,也提高了电子设备发出气流的准确性。
在一些实施例中,电子设备100可以分别通过上述公式(1)和公式(2)得到第一低频信号和第二低频信号。
在一些实施例中,电子设备100可以分别通过上述公式(3)和公式(4)得到第一风噪概率。
在一些实施例中,电子设备100可以分别通过上述公式(5)得到第一气流信号,并通过上述公式(6)得到第二气流信号。
具体的,可以参考图13实施例中的描述。
在一种可能的实现方式中,述计算第一低频信号的气流大小,得到第一气流大小,具体包括:通过第一神经网络过滤掉第一低频信号中的非气流信号,得到第一气流信号;计算第一气流信号的气流大小,得到第一气流大小;计算第二低频信号的气流大小,得到第二气流大小,具体包括:通过第一神经网络过滤掉第二低频信号中的非气流信号,得到第二气流信号;计算第二气流信号的气流大小,得到第一气流大小。
在一些实施例中,第一神经网络可以是NN网络等神经网络,本申请对此也不做限定。
在其他实现方式中,也可以训练得到神经网络,基于训练好的神经网络过滤得到第一气流信号和第二气流信号,这样,可以减少电子设备的计算量 。
具体的,可以参考图14A、图14B、图14C实施例中的描述。
在一种可能的实现方式中,在通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流之前,方法还包括;基于第一气流大小和第二气流大小计算第一角度;通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流,具体包括:通过第一气流产生装置沿着第一角度输出第一气流大小的气流,通过第二气流产生装置沿着第一角度输出第二气流大小的气流。
在一些实施例中,气流产生装置不仅可以基于气流声的大小发出相应大小的模拟气流,还可以基于音频中的气流声的发向发出相应方向的气流,进一步提升了用户的体验。
具体的,电子设备可以基于第一气流大小和第二气流大小计算发出气流的第一角度,再基于第一角度发生相应大小的模拟气流。
在一种可能的实现方式中,通过第一气流产生装置沿着第一角度输出第一气流大小的气流,通过第二气流产生装置沿着第一角度输出第二气流大小的气流,具体包括:在第一角度大于第一预设角度小于第二预设角度的情况下,通过第一气流产生装置沿着第一角度输出第一气流大小的气流,通过第二气流产生装置沿着第一角度输出第二气流大小的气流;其中,第一预设角度为人脸感知第一气流产生装置或者第二气流产生装置输出的气流的最小角度,第二预设角度为人脸感知第一气流产生装置或者第二气流产生装置输出的气流的最大角度。
在一种可能的实现方式中,方法还包括:在第一角度小于第一预设角度的情况下,通过第一气流产生装置沿着第一预设角度输出第一气流大小的气流,通过第二气流产生装置沿着第一预设角度输出第二气流大小的气流;或者,在第一角度大于第二预设角度的情况下,通过第一气流产生装置沿着第二预设角度输出第一气流大小的气流,通过第二气流产生装置沿着第二预设角度输出第二气流大小的气流。
这样,电子设备可以判断计算出来的气流角度,避免气流角度超出人脸可感知气流的最大角度或者最小角度。在计算出来的气流角度超出人脸可感知气流的最大角度或者最小角度后,只按照第一预设角度或者第二预设角度输出气流即可。
在一些实施例中,第一预设角度可以是-45度。
在一些实施例中,第二预设角度可以是50度。
具体的,可以参考图10A-图10G实施例中的描述。
在一种可能的实现方式中,在通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流之前,方法还包括;基于第一气流大小、第二气流大小和第二预设角度计算第二角度,其中,第二预设角度为人脸感知第一气流产生装置或者第二气流产生装置输出的气流的最大角度;通过第一气流产生装置输出第一气流大小的气流,通过第二气流产生装置输出第二气流大小的气流,具体包括:通过第一气流产生装置沿着第二角度输出第一气流大小的气流,通过第二气流产生装置沿着第二角度输出第二气流大小的气流。
在一些实施例中,第二角度小于第一角度。
按照方式计算出来的气流角度在第一预设角度和第二预设角度之间,不会超出人脸可感知气流的最大角度和最小角度。
在一种可能的实现方式中,基于第一气流大小和第二气流大小计算第一角度,具体包括:根据公式计算第一角度;其中,/>为第一角度,/>为第一气流大小,/>为第二气流大小。
在一些实施例中,上述公式中的分母可以加上一个正的极小值ε,例如ε的取值可以是0.0001、0.00003等。
具体的,可以参考上述公式(9)中的描述。
在一种可能的实现方式中,基于第一气流大小和第二气流大小计算第一角度,具体包括:根据公式计算第一角度;其中,/>为第一角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度,-B为第一预设角度。
在一些实施例中,上述公式中的分母可以加上一个正的极小值ε,例如ε的取值可以是0.0001、0.00003等。
具体的,可以参考上述公式(10)中的描述。
在一种可能的实现方式中,基于第一气流大小、第二气流大小和第二预设角度计算第二角度,具体包括:根据公式计算第二角度;其中,/>为第二角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度。
在一些实施例中,上述公式中的分母可以加上一个正的极小值ε,例如ε的取值可以是0.0001、0.00003等。
具体的,可以参考上述公式(11)中的描述。
在一种可能的实现方式中,基于第一气流大小、第二气流大小和第二预设角度计算第二角度,具体包括:根据公式计算第二角度;其中,/>为第二角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度。
在一些实施例中,上述公式中的分母可以加上一个正的极小值ε,例如ε的取值可以是0.0001、0.00003等。
具体的,可以参考上述公式(12)中的描述。
图16为本申请提供的一种气流产生装置的装置示意图。
如图16所示,装置1600包括显示装置180、音频播放装置1602、气流产生装置1603和处理装置1604。音频播放装置1602包括第一音频播放装置1605和第二音频播放装置1606,气流产生装置1603包括第一气流产生装置1607和第二气流产生装置1608,其中,
显示装置,用于显示虚拟对象。
第一音频播放装置1605,用于播放第一音频。
第二音频播放装置1606,用于播放第二音频。
处理装置1604,用于计算第一音频中气流声的第一气流大小和第二音频中气流声的第二气流大小。
第一气流产生装置1607,用于输出第一气流大小的气流。
第二气流产生装置1608,用于输出第二气流大小的气流。
在一种可能的实现方式中,处理装置1604,具体用于:通过低通滤波器对第一音频进行处理,得到第一低频信号;通过低通滤波器对第二音频进行处理,得到第二低频信号;计算第一低频信号的气流大小,得到第一气流大小;计算第二低频信号的气流大小,得到第二气流大小。
在一种可能的实现方式中,处理装置1604,具体用于:基于第一低频信号和第二低频信号,得到第一风噪概率,第一风噪概率用于指示第一低频信号和第二低频信号中包含的气流声的比例;基于第一低频信号和第一风噪概率,得到第一气流信号;计算第一气流信号的气流大小,得到第一气流大小;基于第二低频信号和第一风噪概率,得到第二气流信号;计算第二气流信号的气流大小,得到第二气流大小。
在一种可能的实现方式中,处理装置1604,具体用于:通过第一神经网络过滤掉第一低频信号中的非气流信号,得到第一气流信号;计算第一气流信号的气流大小,得到第一气流大小;通过第一神经网络过滤掉第二低频信号中的非气流信号,得到第二气流信号;计算第二气流信号的气流大小,得到第一气流大小。
在一种可能的实现方式中,处理装置1604,还用于基于第一气流大小和第二气流大小计算第一角度;第一气流产生装置1607,具体用于沿着第一角度输出第一气流大小的气流;第二气流产生装置1608,具体用于沿着第一角度输出第二气流大小的气流。
在一种可能的实现方式中,第一气流产生装置1607,具体用于在第一角度大于第一预设角度小于第二预设角度的情况下,沿着第一角度输出第一气流大小的气流;第二气流产生装置1608,具体用于在第一角度大于第一预设角度小于第二预设角度的情况下,沿着第一角度输出第二气流大小的气流;其中,第一预设角度为人脸感知第一气流产生装置1607或者第二气流产生装置1608输出的气流的最小角度,第二预设角度为人脸感知第一气流产生装置1607或者第二气流产生装置1608输出的气流的最大角度。
在一种可能的实现方式中,第一气流产生装置1607,还用于在第一角度小于第一预设角度的情况下,沿着第一预设角度输出第一气流大小的气流;第二气流产生装置1608,还用于在第一角度小于第一预设角度的情况下,沿着第一预设角度输出第二气流大小的气流;或者,第一气流产生装置1607,还用于在第一角度大于第二预设角度的情况下,沿着第二预设角度输出第一气流大小的气流;第二气流产生装置1608,还用于在第一角度大于第二预设角度的情况下,沿着第二预设角度输出第二气流大小的气流。
在一种可能的实现方式中,处理装置1604,还用于基于第一气流大小、第二气流大小和第二预设角度计算第二角度,其中,第二预设角度为人脸感知第一气流产生装置1607或者第二气流产生装置1608输出的气流的最大角度;第一气流产生装置1607,具体用于沿着第二角度输出第一气流大小的气流;第二气流产生装置1608,具体用于沿着第二角度输出第二气流大小的气流。
在一种可能的实现方式中,处理装置1604,具体用于根据公式计算第一角度;其中,/>为第一角度,/>为第一气流大小,/>为第二气流大小。
在一种可能的实现方式中,处理装置1604,具体用于根据公式计算第一角度;其中,/>为第一角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度,-B为第一预设角度。
在一种可能的实现方式中,处理装置1604,具体用于根据公式算第二角度;其中,/>为第二角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度。
在一种可能的实现方式中,处理装置1604,具体用于根据公式计算第二角度;其中,/>为第二角度,/>为第一气流大小,/>为第二气流大小,B为第二预设角度。
本申请的各实施方式可以任意进行组合,以实现不同的技术效果。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘(solidstate disk,SSD))等。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,该流程可以由计算机程序来指令相关的硬件完成,该程序可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法实施例的流程。而前述的存储介质包括:ROM或随机存储记忆体RAM、磁碟或者光盘等各种可存储程序代码的介质。
总之,以上所述仅为本发明技术方案的实施例而已,并非用于限定本发明的保护范围。凡根据本发明的揭露,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (27)
1.一种气流产生方法,其特征在于,电子设备包括显示装置、音频播放装置和气流产生装置,所述音频播放装置包括第一音频播放装置和第二音频播放装置,所述气流产生装置包括第一气流产生装置和第二气流产生装置,所述方法包括:
通过所述显示装置显示虚拟对象;
通过所述第一音频播放装置播放第一音频,通过所述第二音频播放装置播放第二音频;
计算所述第一音频中气流声的第一气流大小和所述第二音频中气流声的第二气流大小;
通过所述第一气流产生装置输出所述第一气流大小的气流,通过所述第二气流产生装置输出所述第二气流大小的气流。
2.根据权利要求1所述的方法,其特征在于,所述计算所述第一音频中气流声的第一气流大小和所述第二音频中气流声的第二气流大小,具体包括;
通过低通滤波器对所述第一音频进行处理,得到第一低频信号;
通过所述低通滤波器对所述第二音频进行处理,得到第二低频信号;
计算所述第一低频信号的气流大小,得到所述第一气流大小;
计算所述第二低频信号的气流大小,得到所述第二气流大小。
3.根据权利要求2所述的方法,其特征在于,所述计算所述第一低频信号的气流大小,得到所述第一气流大小,具体包括:
基于所述第一低频信号和所述第二低频信号,得到第一风噪概率,所述第一风噪概率用于指示所述第一低频信号和所述第二低频信号中包含的气流声的比例;
基于所述第一低频信号和所述第一风噪概率,得到第一气流信号;
计算所述第一气流信号的气流大小,得到所述第一气流大小;
所述计算所述第二低频信号的气流大小,得到所述第二气流大小,具体包括:
基于所述第二低频信号和所述第一风噪概率,得到第二气流信号;
计算所述第二气流信号的气流大小,得到所述第二气流大小。
4.根据权利要求2所述的方法,其特征在于,所述计算所述第一低频信号的气流大小,得到所述第一气流大小,具体包括:
通过第一神经网络过滤掉所述第一低频信号中的非气流信号,得到第一气流信号;
计算所述第一气流信号的气流大小,得到所述第一气流大小;
所述计算所述第二低频信号的气流大小,得到所述第二气流大小,具体包括:
通过所述第一神经网络过滤掉所述第二低频信号中的非气流信号,得到第二气流信号;
计算所述第二气流信号的气流大小,得到所述第一气流大小。
5.根据权利要求1-4任一项所述的方法,其特征在于,在所述通过所述第一气流产生装置输出所述第一气流大小的气流,通过所述第二气流产生装置输出所述第二气流大小的气流之前,所述方法还包括;
基于所述第一气流大小和所述第二气流大小计算第一角度;
所述通过所述第一气流产生装置输出所述第一气流大小的气流,通过所述第二气流产生装置输出所述第二气流大小的气流,具体包括:
通过所述第一气流产生装置沿着所述第一角度输出所述第一气流大小的气流,通过所述第二气流产生装置沿着所述第一角度输出所述第二气流大小的气流。
6.根据权利要求5所述的方法,其特征在于,所述通过所述第一气流产生装置沿着所述第一角度输出所述第一气流大小的气流,通过所述第二气流产生装置沿着所述第一角度输出所述第二气流大小的气流,具体包括:
在所述第一角度大于第一预设角度小于第二预设角度的情况下,通过所述第一气流产生装置沿着所述第一角度输出所述第一气流大小的气流,通过所述第二气流产生装置沿着所述第一角度输出所述第二气流大小的气流;
其中,所述第一预设角度为人脸感知所述第一气流产生装置或者所述第二气流产生装置输出的气流的最小角度,所述第二预设角度为人脸感知所述第一气流产生装置或者所述第二气流产生装置输出的气流的最大角度。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
在所述第一角度小于所述第一预设角度的情况下,通过所述第一气流产生装置沿着所述第一预设角度输出所述第一气流大小的气流,通过所述第二气流产生装置沿着所述第一预设角度输出所述第二气流大小的气流;
或者,
在所述第一角度大于所述第二预设角度的情况下,通过所述第一气流产生装置沿着所述第二预设角度输出所述第一气流大小的气流,通过所述第二气流产生装置沿着所述第二预设角度输出所述第二气流大小的气流。
8.根据权利要求1-4任一项所述的方法,其特征在于,在所述通过所述第一气流产生装置输出所述第一气流大小的气流,通过所述第二气流产生装置输出所述第二气流大小的气流之前,所述方法还包括;
基于所述第一气流大小、所述第二气流大小和第二预设角度计算第二角度,其中,所述第二预设角度为人脸感知所述第一气流产生装置或者所述第二气流产生装置输出的气流的最大角度;
所述通过所述第一气流产生装置输出所述第一气流大小的气流,通过所述第二气流产生装置输出所述第二气流大小的气流,具体包括:
通过所述第一气流产生装置沿着所述第二角度输出所述第一气流大小的气流,通过所述第二气流产生装置沿着所述第二角度输出所述第二气流大小的气流。
9.根据权利要求5所述的方法,其特征在于,所述基于所述第一气流大小和所述第二气流大小计算第一角度,具体包括:
根据公式计算所述第一角度;
其中,所述为所述第一角度,所述/>为所述第一气流大小,所述/>为所述第二气流大小。
10.根据权利要求6或7所述的方法,其特征在于,所述基于所述第一气流大小和所述第二气流大小计算第一角度,具体包括:
根据公式计算所述第一角度;
其中,所述为所述第一角度,所述/>为所述第一气流大小,所述/>为所述第二气流大小,所述B为所述第二预设角度,所述-B为所述第一预设角度。
11.根据权利要求8所述的方法,其特征在于,所述基于所述第一气流大小、所述第二气流大小和第二预设角度计算第二角度,具体包括:
根据公式计算所述第二角度;
其中,所述为所述第二角度,所述/>为所述第一气流大小,所述/>为所述第二气流大小,所述B为所述第二预设角度。
12.根据权利要求8所述的方法,其特征在于,所述基于所述第一气流大小、所述第二气流大小和第二预设角度计算第二角度,具体包括:
根据公式计算所述第二角度;
其中,所述为所述第二角度,所述/>为所述第一气流大小,所述/>为所述第二气流大小,所述B为所述第二预设角度。
13.一种气流产生装置,其特征在于,所述装置包括显示装置、音频播放装置、气流产生装置和处理装置,所述音频播放装置包括第一音频播放装置和第二音频播放装置,所述气流产生装置包括第一气流产生装置和第二气流产生装置,其中,
所述显示装置,用于显示虚拟对象;
所述第一音频播放装置,用于播放第一音频;
所述第二音频播放装置,用于播放第二音频;
所述处理装置,用于计算所述第一音频中气流声的第一气流大小和所述第二音频中气流声的第二气流大小;
所述第一气流产生装置,用于输出所述第一气流大小的气流;
所述第二气流产生装置,用于输出所述第二气流大小的气流。
14.根据权利要求13所述的装置,其特征在于,所述处理装置,具体用于:
通过低通滤波器对所述第一音频进行处理,得到第一低频信号;
通过所述低通滤波器对所述第二音频进行处理,得到第二低频信号;
计算所述第一低频信号的气流大小,得到所述第一气流大小;
计算所述第二低频信号的气流大小,得到所述第二气流大小。
15.根据权利要求14所述的装置,其特征在于,所述处理装置,具体用于:
基于所述第一低频信号和所述第二低频信号,得到第一风噪概率,所述第一风噪概率用于指示所述第一低频信号和所述第二低频信号中包含的气流声的比例;
基于所述第一低频信号和所述第一风噪概率,得到第一气流信号;
计算所述第一气流信号的气流大小,得到所述第一气流大小;
基于所述第二低频信号和所述第一风噪概率,得到第二气流信号;
计算所述第二气流信号的气流大小,得到所述第二气流大小。
16.根据权利要求14所述的装置,其特征在于,所述处理装置,具体用于:
通过第一神经网络过滤掉所述第一低频信号中的非气流信号,得到第一气流信号;
计算所述第一气流信号的气流大小,得到所述第一气流大小;
通过所述第一神经网络过滤掉所述第二低频信号中的非气流信号,得到第二气流信号;
计算所述第二气流信号的气流大小,得到所述第一气流大小。
17.根据权利要求13-16任一项所述的装置,其特征在于,所述处理装置,还用于基于所述第一气流大小和所述第二气流大小计算第一角度;
所述第一气流产生装置,具体用于沿着所述第一角度输出所述第一气流大小的气流;
所述第二气流产生装置,具体用于沿着所述第一角度输出所述第二气流大小的气流。
18.根据权利要求17所述的装置,其特征在于,所述第一气流产生装置,具体用于在所述第一角度大于第一预设角度小于第二预设角度的情况下,沿着所述第一角度输出所述第一气流大小的气流;
所述第二气流产生装置,具体用于在所述第一角度大于第一预设角度小于第二预设角度的情况下,沿着所述第一角度输出所述第二气流大小的气流;
其中,所述第一预设角度为人脸感知所述第一气流产生装置或者所述第二气流产生装置输出的气流的最小角度,所述第二预设角度为人脸感知所述第一气流产生装置或者所述第二气流产生装置输出的气流的最大角度。
19.根据权利要求18所述的装置,其特征在于,所述第一气流产生装置,还用于在所述第一角度小于所述第一预设角度的情况下,沿着所述第一预设角度输出所述第一气流大小的气流;
所述第二气流产生装置,还用于在所述第一角度小于所述第一预设角度的情况下,沿着所述第一预设角度输出所述第二气流大小的气流;
或者,
所述第一气流产生装置,还用于在所述第一角度大于所述第二预设角度的情况下,沿着所述第二预设角度输出所述第一气流大小的气流;
所述第二气流产生装置,还用于在所述第一角度大于所述第二预设角度的情况下,沿着所述第二预设角度输出所述第二气流大小的气流。
20.根据权利要求13-16任一项所述的装置,其特征在于,所述处理装置,还用于基于所述第一气流大小、所述第二气流大小和第二预设角度计算第二角度,其中,所述第二预设角度为人脸感知所述第一气流产生装置或者所述第二气流产生装置输出的气流的最大角度;
所述第一气流产生装置,具体用于沿着所述第二角度输出所述第一气流大小的气流;
所述第二气流产生装置,具体用于沿着所述第二角度输出所述第二气流大小的气流。
21.根据权利要求17所述的装置,其特征在于,所述处理装置,具体用于根据公式计算所述第一角度;
其中,所述为所述第一角度,所述/>为所述第一气流大小,所述/>为所述第二气流大小。
22.根据权利要求18或19所述的装置,其特征在于,所述处理装置,具体用于根据公式计算所述第一角度;
其中,所述为所述第一角度,所述/>为所述第一气流大小,所述/>为所述第二气流大小,所述B为所述第二预设角度,所述-B为所述第一预设角度。
23.根据权利要求20所述的装置,其特征在于,所述处理装置,具体用于根据公式计算所述第二角度;
其中,所述为所述第二角度,所述/>为所述第一气流大小,所述/>为所述第二气流大小,所述B为所述第二预设角度。
24.根据权利要求20所述的装置,其特征在于,所述处理装置,具体用于根据公式计算所述第二角度;
其中,所述为所述第二角度,所述/>为所述第一气流大小,所述/>为所述第二气流大小,所述B为所述第二预设角度。
25.一种电子设备,其特征在于,包括一个或多个处理器和一个或多个存储器;其中,所述一个或多个存储器与所述一个或多个处理器耦合,所述一个或多个存储器用于存储计算机程序代码,所述计算机程序代码包括计算机指令,当所述一个或多个处理器执行所述计算机指令时,使得所述电子设备执行如权利要求1-12中任一项所述的方法。
26.一种芯片系统,其特征在于,所述芯片系统应用于电子设备,所述芯片系统包括处理电路和接口电路,所述接口电路用于接收指令并传输至所述处理电路,所述处理电路用于运行所述指令以执行如权利要求1-12中任一项所述的方法。
27.一种计算机可读存储介质,其特征在于,包括指令,当所述指令在电子设备上运行时,使得所述电子设备执行如权利要求1-12中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311055849.4A CN116774836A (zh) | 2023-08-22 | 2023-08-22 | 一种气流产生方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311055849.4A CN116774836A (zh) | 2023-08-22 | 2023-08-22 | 一种气流产生方法、装置及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116774836A true CN116774836A (zh) | 2023-09-19 |
Family
ID=87991636
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311055849.4A Pending CN116774836A (zh) | 2023-08-22 | 2023-08-22 | 一种气流产生方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116774836A (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107456707A (zh) * | 2017-08-08 | 2017-12-12 | 余喜云 | 一种实现体验虚拟现实的方法及跑步系统 |
US20190293946A1 (en) * | 2018-03-24 | 2019-09-26 | Tainan National University Of The Arts | Overhang rotatable multi-sensory device and a virtual reality multi-sensory system comprising the same |
US20200246693A1 (en) * | 2017-02-02 | 2020-08-06 | Sony Interactive Entertainment Inc. | Head-Mountable Apparatus and Systems |
CN213581929U (zh) * | 2020-12-31 | 2021-06-29 | 北京卓越天程科技有限公司 | 一种虚拟现实交互台 |
-
2023
- 2023-08-22 CN CN202311055849.4A patent/CN116774836A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200246693A1 (en) * | 2017-02-02 | 2020-08-06 | Sony Interactive Entertainment Inc. | Head-Mountable Apparatus and Systems |
CN107456707A (zh) * | 2017-08-08 | 2017-12-12 | 余喜云 | 一种实现体验虚拟现实的方法及跑步系统 |
US20190293946A1 (en) * | 2018-03-24 | 2019-09-26 | Tainan National University Of The Arts | Overhang rotatable multi-sensory device and a virtual reality multi-sensory system comprising the same |
CN213581929U (zh) * | 2020-12-31 | 2021-06-29 | 北京卓越天程科技有限公司 | 一种虚拟现实交互台 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021213120A1 (zh) | 投屏方法、装置和电子设备 | |
WO2020192458A1 (zh) | 一种图像处理的方法及头戴式显示设备 | |
US11887261B2 (en) | Simulation object identity recognition method, related apparatus, and system | |
WO2022262313A1 (zh) | 基于画中画的图像处理方法、设备、存储介质和程序产品 | |
CN111815666B (zh) | 图像处理方法及装置、计算机可读存储介质和电子设备 | |
CN111243105B (zh) | 增强现实处理方法及装置、存储介质和电子设备 | |
CN111723803B (zh) | 图像处理方法、装置、设备及存储介质 | |
CN112085647B (zh) | 一种人脸校正方法及电子设备 | |
US11798234B2 (en) | Interaction method in virtual reality scenario and apparatus | |
CN114422935B (zh) | 音频处理方法、终端及计算机可读存储介质 | |
CN111103975B (zh) | 显示方法、电子设备及系统 | |
CN113393856B (zh) | 拾音方法、装置和电子设备 | |
CN114697812A (zh) | 声音采集方法、电子设备及系统 | |
CN113573120B (zh) | 音频的处理方法及电子设备、芯片系统及存储介质 | |
CN113850709A (zh) | 图像变换方法和装置 | |
CN115641867B (zh) | 语音处理方法和终端设备 | |
CN114120950B (zh) | 一种人声屏蔽方法和电子设备 | |
CN116774836A (zh) | 一种气流产生方法、装置及电子设备 | |
CN112565735B (zh) | 一种虚拟现实的测量和显示方法、装置、以及系统 | |
WO2024046182A1 (zh) | 一种音频播放方法、系统及相关装置 | |
CN112558847B (zh) | 控制界面显示的方法及头戴式显示器 | |
EP4361774A1 (en) | Display method for virtual input element, electronic device, and readable storage medium | |
CN116743913B (zh) | 音频处理方法和装置 | |
WO2022218271A1 (zh) | 一种视频录制方法和电子设备 | |
WO2023185698A1 (zh) | 一种佩戴检测方法及相关装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |