CN101784004A - 信息处理系统和信息处理方法 - Google Patents
信息处理系统和信息处理方法 Download PDFInfo
- Publication number
- CN101784004A CN101784004A CN200910259228A CN200910259228A CN101784004A CN 101784004 A CN101784004 A CN 101784004A CN 200910259228 A CN200910259228 A CN 200910259228A CN 200910259228 A CN200910259228 A CN 200910259228A CN 101784004 A CN101784004 A CN 101784004A
- Authority
- CN
- China
- Prior art keywords
- display
- information processing
- unit
- transducer
- listeners head
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
- H04S7/30—Control circuits for electronic adaptation of the sound field
- H04S7/302—Electronic adaptation of stereophonic sound system to listener position or orientation
- H04S7/303—Tracking of listener position or orientation
- H04S7/304—For headphones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
- H04S2400/01—Multi-channel, i.e. more than two input channels, sound reproduction with two speakers wherein the multi-channel information is substantially preserved
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Acoustics & Sound (AREA)
- Signal Processing (AREA)
- Stereophonic System (AREA)
- Television Signal Processing For Recording (AREA)
- Stereophonic Arrangements (AREA)
Abstract
一种信息处理系统和信息处理方法,所述信息处理系统包括:显示器;检测显示器的移动或转动的显示器用传感器;作为耳机单元或头戴式耳机单元的转换器单元;声音处理部,其对音频信号进行处理,以便在戴着转换器单元并收听声音的收听者头部外的位置处对声像进行定位;以及运算控制器,其对来自显示器用传感器的输出进行计算,以获得显示器的移动方向和移动距离,或者转动方向和转动角度,并且根据计算结果控制通过声音处理部进行的声音处理,以便使显示器与收听者头部之间的位置关系映射为虚拟视听空间中的图像显示面与收听者头部之间的位置关系。声像定位能够提供仿佛收听者在电影院看电影时从一个座位移到另一个座位时的真实感受。
Description
相关申请的交叉参考
本申请包含与2008年12月16日向日本专利局提交的日本专利申请JP 2008-319316相关的主题,在此将该日本专利申请的全部内容并入本文作为参考。
技术领域
本发明涉及被配置为在显示器上显示图像并通过耳机或头戴式耳机输出声音的信息处理系统,以及使用该信息处理系统的信息处理方法。
背景技术
在观看便携式显示装置上的例如视频等图像的同时通过耳机或头戴式耳机收听例如音乐等声音,这在时下很流行。
日本专利申请公开公报No.9-70094和日本专利申请公开公报No.11-205892披露了这样的技术:当收听者通过耳机或头戴式耳机收听音乐时,检测收听者头部的转动,基于检测结果控制声像(sound image)的定位,并且在收听者头部外的预定位置处对声像进行定位。
此外,日本专利申请公开公报No.9-93700披露了一种当再现图像和声音时,在显示面板上的预定位置处对声像进行定位的技术。
发明内容
然而,对于上述现有声像定位方法,因为其前提是显示装置是固定安装而不能移动的,因此,当收听者在观看诸如手机等便携式显示装置上的图像的同时通过耳机或头戴式耳机收听声音时,不管显示状态是否改变,声像被固定定位在预定位置处。
具体地,即使当戴着耳机或头戴式耳机的收听者将诸如手机等显示装置移近、移离或者斜对着自己时,声音的声像定位位置也不改变。因此,例如,当利用便携式显示装置收听声音时,不能提供那种如同在电影院中坐在前面座位、后面座位或银幕侧面座位上看电影时所经历的真实感受。
因此期望对声像定位进行控制,从而当收听者通过耳机或头戴式耳机收听音乐并观看他或她手中的便携式显示装置上的图像,同时移动和转动该显示装置时,就能够经历仿佛在电影院中看电影时从一个座位移到另一个座位时的真实感受。
本发明实施例的信息处理系统包括:显示器;显示器用传感器,其被配置为检测所述显示器的移动或转动;转换器单元,其被配置为耳机单元或头戴式耳机单元;声音处理部,其被配置为对音频信号进行处理,以便在戴着所述转换器单元并收听声音的收听者头部外的位置处对声像进行定位;以及运算控制器,其被配置为对来自所述显示器用传感器的输出进行计算,以获得所述显示器的移动方向和移动距离,或者转动方向和转动角度,并且根据计算结果控制通过所述声音处理部进行的声音处理,以便使所述显示器与收听者头部之间的位置关系映射为虚拟视听空间中的图像显示面与收听者头部之间的位置关系。
根据本发明另一个实施例的信息处理系统是根据上述实施例的信息处理系统,所述信息处理系统还包括转换器用传感器,所述转换器用传感器附着于所述转换器单元上并且被配置为检测收听者头部的移动或转动。所述运算控制器被配置为对来自所述显示器用传感器的输出和所述转换器用传感器的输出进行计算,以获得所述显示器的移动方向和移动距离,或者转动方向和转动角度,以及所述收听者头部的移动方向和移动距离,或者转动方向和转动角度,并且根据计算结果控制通过所述声音处理部进行的声音处理,以便使所述显示器与收听者头部之间的位置关系映射为虚拟视听空间中的所述图像显示面与收听者头部之间的位置关系。
具有上述结构的本发明实施例的信息处理系统对声像进行定位,从而当收听者将显示器移近、移离或者斜对着自己时,在虚拟视听空间中,收听者靠近图像显示面、远离图像显示面或者移向相对于图像显示面倾斜的图像显示面的左侧或右侧的位置处。
因此,声像定位提供了仿佛收听者在电影院看电影时从一个座位移到另一个座位时的真实感受。
由于多数音乐源采用前扬声器作为主扬声器,因而移近显示器可增大音量,移开显示器可减小音量,因此,不需诸如键和开关等操作构件,信息处理系统还能起到音量调节接口的作用。
如上所述,根据本发明实施例,当收听者在通过耳机或头戴式耳机收听声音,并且在观看他或她手中的便携式显示装置上的图像的同时移动和转动显示装置时,声像定位能够提供仿佛收听者在电影院看电影时从一个座位移到另一个座位时的真实感受。
附图说明
图1是本发明实施例信息处理系统的外部结构的示例的示意图;
图2是本发明实施例信息处理单元的连接结构的框图;
图3是示出了虚拟视听空间的示例的示意图;
图4是用于声像定位的结构的示例的框图;
图5是示出了初始状态的示例的示意图;
图6是示出了根据实施例移动显示器时的示例的示意图;
图7是示出了在图6所示的虚拟视听空间中收听者的位置和方向的示意图;
图8是示出了根据实施例转动显示器的示例的示意图;
图9是示出了在图8所示的虚拟视听空间中收听者的位置和方向的示意图;
图10是示出了根据实施例移动和转动显示器的示例的示意图;
图11是示出了在图10所示的虚拟视听空间中收听者的位置和方向的示意图;
图12是通过实施例的信息处理单元中的运算控制器进行的一系列处理的示例的流程图;
图13示出了用于根据实施例计算移动距离和转动角度的说明;
图14是示出了本发明另一实施例的耳机单元的示例的示意图;
图15是另一实施例的信息处理单元的连接结构的框图;
图16是示出了根据另一实施例移动和转动显示器和收听者头部的示例的示意图;
图17是示出了在图16所示的虚拟视听空间中收听者的位置和方向的示意图;
图18是通过另一实施例的信息处理单元的运算控制器进行的一系列处理的示例的流程图;
图19示出了用于根据另一实施例计算移动距离和转动角度的说明;以及
图20是本发明实施例的信息处理系统的示意图。
具体实施方式
1、实施例:图1~图13
本发明的实施例示出了收听者不运动或转动,而仅是显示器移动和/或转动的情况。
1-1、系统结构:图1~图4
1-1-1、系统的外部结构:图1
图1示出了本实施例的信息处理系统的外部结构的示例。
图1所示的信息处理系统100包括信息处理单元10和耳机单元50。
信息处理单元10能够再现例如视频等图像和例如音乐等声音,并且在外观上包括诸如液晶显示器或有机电致发光(Electroluminescent,EL)显示器等显示器11以及另外具有操作键和操作拨盘的操作部12。
耳机单元50包括左耳机部60和右耳机部70,并且从线55的端部分叉的支线56和57分别与左耳机部60和右耳机部70连接。
虽然图1中未示出,但线55另一端附有插头,并且所述插头插入设置在信息处理单元10中的插座中,从而使耳机单元50与信息处理单元10有线连接。
1-1-2、系统的连接结构:图2
图2示出了信息处理单元10的连接结构。
信息处理单元10包括总线14,不仅操作部12连接至该总线14,而且中央处理器(central processing unit,CPU)15、只读存储器(read onlymemory,ROM)16、随机存取存储器(random access memory,RAM)17和非易失性存储器19也连接至该总线14。
在只读存储器(ROM)16中预先写入有将要通过中央处理器(CPU)15执行的各种计算机程序和必要的固定数据。随机存取存储器(RAM)17起中央处理器(CPU)15的工作区域的作用。
中央处理器(CPU)15、只读存储器(ROM)16和随机存取存储器(RAM)17形成运算控制器21,该运算控制器21进行与显示器11的移动和转动有关的计算,并且根据下文所述的计算结果控制声像定位。
非易失性存储器19被装配在信息处理单元10中,或者附着于信息处理单元10上,并且存储例如视频等图像数据和例如音乐等声音数据。
图像处理部22和声音处理部24与总线14连接,各个图像处理部22和声音处理部24包括中央处理器(CPU)15、只读存储器(ROM)16和随机存取存储器(RAM)17。
图像处理部22将从非易失性存储器19读取的例如视频等图像数据转换成模拟图像信号。如果图像数据已被压缩,则图像处理部22首先对其解压缩。
声音处理部24对从非易失性存储器19读取的例如音乐等声音数据进行下文所述的声像定位。如果声音数据已被压缩,则声音处理部24首先对其解压缩。
来自图像处理部22的图像信号通过驱动电路部23转换成显示驱动信号并且被供应给显示器11。
来自声音处理部24的左右的数字声音数据通过数字模拟转换器(digital to analog converter,DAC)25和26转换成模拟音频信号
转换后的左右的音频信号通过音频放大电路27和28放大,并且被供应给耳机单元50左右侧的转换器61和71。
转换器61和71将例如音乐等音频信号转换成声音。
在该示例中,信息处理单元10还设置有加速度传感器31和陀螺传感器32,加速度传感器31用于检测显示器11的移动,即信息处理单元10的移动,并且陀螺传感器32用于检测显示器11的转动,即信息处理单元10的转动。
具体地,加速度传感器31检测在下文所述的基准面上两个相互垂直的轴(X轴和Y轴)的方向上的移动的加速度,并且陀螺传感器32检测绕与所述基准面垂直的轴(Z轴)转动的角速度。
来自加速度传感器31和陀螺传感器32的输出信号分别通过模拟数字转换器(analog to digital converter,ADC)33和34采样,被转换成数字数据,并且传送给总线14。
1-1-3、虚拟视听空间:图3
对于在显示器11上显示图像并通过耳机单元50输出声音的信息处理单元10,假设存在例如虚拟电影院等虚拟视听空间。图3示出了虚拟视听空间的示例。
该示例中的虚拟视听空间1是基准面上的矩形空间(平行于图3中的纸面的平面),其中,在收听者的前方布置有图像显示面2、中央扬声器3、左扬声器4和右扬声器5,并且在较靠近前方的左侧和右侧分别布置有扬声器6和7。
扬声器的数量及其布置仅代表示例,并且任何数量的扬声器可以布置在任意位置处。
图像显示面2是有图像在其上显示、作为投影屏幕或显示器的面板。
位置Po是虚拟视听空间1的中心位置,并且用实线表示的收听者头部9的状态示出了收听者头部9在位置Po处面对图像显示面2的状态。
收听者从位置Po移动到位置Pf相当于在真实的电影院里移到了前面的座位,并且从位置Po移动到位置Pb相当于在真实的电影院里移到了后面的座位。
收听者从位置Po移动到位置P1相当于在真实的电影院里移到了左侧的座位,并且从位置Po移动到位置Pr相当于在真实的电影院里移到了右侧的座位。
X轴在虚拟视听空间1中的横向方向上延伸,Y轴在虚拟视听空间1中的纵向方向上延伸,并且Z轴在垂直于基准面(平行于图3中的纸面的平面)的方向上延伸。
1-1-4、声像定位:图4
图4示出了当假设虚拟视听空间1如图3所示时,通过信息处理单元10中的声音处理部24进行的声像定位的结构的示例。
音频信号SC、SL、SR、SE和SF是分别从布置在图3所示的虚拟视听空间1中的虚拟扬声器3、4、5、6和7输出的各个声道的数字声音数据。如果数据已被压缩,则输出解压缩的数字声音数据。
音频信号SC被供应给数字滤波器43L和43R,音频信号SL被供应给数字滤波器44L和44R,音频信号SR被供应给数字滤波器45L和45R。
音频信号SE被供应给数字滤波器46L和46R,音频信号SF被供应给数字滤波器47L和47R。
数字滤波器43L对通过将从扬声器3的位置到收听者头部9左耳的传递函数HCL转换成时域而产生的脉冲响应进行卷积。
数字滤波器43R对通过将从扬声器3的位置到收听者头部9右耳的传递函数HCR转换成时域而产生的脉冲响应进行卷积。
数字滤波器44L对通过将从扬声器4的位置到收听者头部9左耳的传递函数HLL转换成时域而产生的脉冲响应进行卷积。
数字滤波器44R对通过将从扬声器4的位置到收听者头部9右耳的传递函数HLR转换成时域而产生的脉冲响应进行卷积。
数字滤波器45L对通过将从扬声器5的位置到收听者头部9左耳的传递函数HRL转换成时域而产生的脉冲响应进行卷积。
数字滤波器45R对通过将从扬声器5的位置到收听者头部9右耳的传递函数HRR转换成时域而产生的脉冲响应进行卷积。
数字滤波器46L对通过将从扬声器6的位置到收听者头部9左耳的传递函数HEL转换成时域而产生的脉冲响应进行卷积。
数字滤波器46R对通过将从扬声器6的位置到收听者头部9右耳的传递函数HER转换成时域而产生的脉冲响应进行卷积。
数字滤波器47L对通过将从扬声器7的位置到收听者头部9左耳的传递函数HFL转换成时域而产生的脉冲响应进行卷积。
数字滤波器47R对通过将从扬声器7的位置到收听者头部9右耳的传递函数HFR转换成时域而产生的脉冲响应进行卷积。
从数字滤波器43L、44L、45L、46L和47L输出的音频信号通过加法电路41相加。从数字滤波器43R、44R、45R、46R和47R输出的音频信号通过加法电路42相加。
从加法电路41输出的音频信号通过图2所示的DAC 25转换成模拟音频信号。经过转换的音频信号通过音频放大电路27放大为左音频信号,然后被供应给转换器61。
从加法电路42输出的音频信号通过图2所示的DAC 26转换成模拟音频信号。经过转换的音频信号通过音频放大电路28放大为右音频信号,然后被供应给转换器71。
1-2、信息处理方法:图5~图13
根据所述实施例,对声像定位进行控制,从而当显示器11移动或转动时,使移动或转动后的显示器11与收听者头部9之间的位置关系映射为虚拟视听空间1中的图像显示面2与收听者头部9之间的位置关系。
1-2-1、初始状态:图5
为了以此方式对声像定位进行控制,有必要设定初始状态。
图5示出了在实际视听空间中设定的初始状态的示例。
当收听者使用信息处理系统100观看图像和收听音乐时,收听者操作操作部12,将信息处理单元10设定为初始状态,在该初始状态中,显示器11位于与收听者呈一定距离和方向的位置处。
图5示出了这样的情况:收听者面对显示器11,利用他或她手中的信息处理单元10设定初始状态,因此,显示器11位于与正面方向上的收听者头部9的位置Ho相隔一定距离Lo的位置Do处。
在这种情况下,对于信息处理单元10,在横向方向上从显示器11的面板延伸并以预定角度与显示器11的面板相交的面为基准面,X轴在基准面上的面板的横向方向上延伸,Y轴在与X轴垂直的方向上延伸,而Z轴在与基准面垂直的方向上延伸。
图2所示的加速度传感器31检测X轴方向和Y轴方向上的移动的加速度,并且陀螺传感器32检测Z轴方向上的转动的角速度。
尽管显示器11与收听者头部9之间的初始距离Lo是任选的,但当人观看他或她手中的显示面板时,距离一般约30cm。
初始状态指这样的状态:收听者在如图3所示的虚拟视听空间1中的例如中心位置Po的预定位置处,观看和收听例如电影等图像和声音。
因此,当显示器11与收听者头部9之间的位置关系处于预先设定的初始状态时,对声像定位进行控制,从而使收听者在图3所示的位置Po和方向能够听到来自虚拟扬声器3~7的声音。
1-2-2、显示器移动时:图6和图7
在本实施例的第一种方法中,收听者使显示器11在X轴方向或Y轴方向上移动。
图6示出了这样的情况:如附图标记11m所表示的,收听者将显示器11从上述初始状态沿X轴正方向移动距离Dx,并且沿Y轴负方向移动距离Dy。
X轴正方向是面板的右侧方向,X轴负方向是面板的左侧方向,Y轴正方向是离开收听者头部9的方向,Y轴负方向是靠近收听者头部9的方向。
位置Do是显示器11的初始位置,位置Dm是显示器11移动后的位置。
距离Lm是作为移动后的显示器11的显示器11m与收听者头部9之间的距离。如果将初始距离Lo设定为例如30cm,则距离Lm可用图6所示的公式(1)算出。
信息处理单元10中的运算控制器21通过对从加速度传感器31输出的X轴方向和Y轴方向上的各个加速度进行两次积分,计算显示器11在X轴上的移动距离Dx和在Y轴上的移动距离Dy。
另外,信息处理单元10中的运算控制器21选择并确定声像定位的处理参数,从而使移动后的显示器11m与收听者头部9之间的位置关系映射为虚拟视听空间1中的图像显示面2与收听者头部9之间的位置关系。
一种用于映射转换的方法包括计算Qx=K·Dx,Qy=K·Dy,其中,K是X轴方向上的变换系数,也是Y轴方向上的变换系数,Qx是在X轴上的移动距离,Qy是在Y轴上的移动距离。
因为与收听者的手在实际视听空间中能达到最远的范围和实际视听空间中的距离Lo相比,虚拟视听空间1的范围和图像显示面2与中心位置Po之间的距离足够大,所以变换系数K应该大于1。
显示器11在实际视听空间中沿X轴正方向移动距离Dx和沿Y轴负方向移动距离Dy的事实,相当于收听者头部9在虚拟视听空间1中沿X轴负方向移动距离Qx和沿Y轴正方向移动距离Qy的事实。
因此,如图7所示,计算从中心位置Po沿X轴负方向移动距离Qx并沿Y轴正方向移动距离Qy的位置,将该位置作为虚拟视听空间1中收听者头部9的位置Pm。
从虚拟视听空间1中的图像显示面2看,位置Pm位于相对于Y轴负方向沿顺时针转动图6的公式(2)表示的角度α的方向上。
另一种方法包括采用距离Lm和角度α来计算虚拟视听空间1中的收听者头部9的位置Pm。
也就是说,在这种情况下,对于在从图像显示面2看相对于Y轴负方向沿顺时针转动角度α的方向上的、从图像显示面2横向方向的中心离开距离lm的点,将该点作为虚拟视听空间1中的收听者头部9的位置Pm进行计算,所述距离lm是距离Lm和变换系数K的乘积。
可以通过考虑虚拟视听空间1中的X轴方向上(横向方向)的宽度Cx或Y轴方向上(纵向方向)的深度Cy来确定变换系数K。
例如,假设人的臂长是50cm,在实际视听空间中显示器11与收听者头部9之间的距离Lm最大是50cm。
假设距离Lm的最大值是Lmmax,当考虑深度Cy时:
lm:Lm=Cy:Lmmax (5)
即,
lm=Cy×Lm/Lmmax (6)
另外,当考虑宽度Cx时:
lm:Lm=Cx/2:Lmmax (7)
即,
lm=Cx×Lm/2×Lmmax (8)
1-2-3、转动显示器时:图8和图9
当收听者使显示器11绕Z轴转动时,采用本实施例的第二种方法。
图8示出了这样的情况:如附图标记11r所表示的,收听者将显示器11从图5所示的初始状态,以位置Do为转动中心绕Z轴沿从上方(纸平面的近侧)看的逆时针方向转动角度φ。
信息处理单元10中的运算控制器21通过对从陀螺传感器32输出的、绕Z轴转动的角速度积分来计算转动角度φ。
另外,信息处理单元10中的运算控制器21选择并确定声像定位处理参数,从而使转动后的显示器11r与收听者头部9之间的位置关系映射为虚拟视听空间1中的图像显示面2与收听者头部9之间的位置关系。
具体地,显示器11在实际视听空间中沿逆时针方向转动角度φ的事实对应于收听者头部9在虚拟视听空间1中沿顺时针方向转动角度φ的事实。
因此,在这种情况下,如图9所示,对于在从图像显示面2看相对于Y轴负方向沿顺时针转动角度φ的方向上的、从图像显示面2横向方向的中心离开距离lo的点,将该点作为虚拟视听空间1中的收听者头部9的位置Pm进行计算,所述距离lo是距离Lo和变换系数K的乘积。
收听者头部9的朝向在面对图像显示面2的横向方向的中心的方向上。
1-2-4、移动并转动显示器时:图10和图11
当收听者使显示器11移动并转动时,采用本实施例的第三种方法。
图10示出了一个示例,在该示例中,如附图标记11mr所示,收听者使显示器11从图5所示的初始状态在X轴正方向上移动距离Dx并在Y轴负方向上移动距离Dy,并且使在显示器11在逆时针方向上绕Z轴转动角度φ。
换言之,在这种情况下,显示器11如图6所示那样移动并且如图8所示那样转动。
在这种情况下,如图11所示,对于在从图像显示面2看相对于Y轴负方向沿顺时针转动角度β=(φ+α)的方向上的、从图像显示面2横向方向的中心离开距离lm(=K×Lm)的点,将该点作为虚拟视听空间1中的收听者头部9的位置Pm进行计算。
1-2-5、运算控制的处理:图12和图13
图12示出了通过本实施例的信息处理单元10中的运算控制器21进行的一系列处理的示例。
在该示例中,在步骤111中,根据上述收听者的操作设定初始状态。
接着,在步骤112中,对来自加速度传感器31的两轴的输出信号和来自陀螺传感器32的输出信号进行采样,并且转换成数字数据,从而得到表示显示器11在X轴方向和Y轴方向上移动的加速度的数据以及表示显示器11绕Z轴转动的角速度的数据。
在步骤113中,利用图13所示的公式(11)、(12)和(13)计算显示器11在X轴方向上的移动距离Dx、在Y轴方向上的移动距离Dy以及绕Z轴的转动角度φ。
在步骤114中,根据计算结果,确定图4所示的数字滤波器43L、43R、44L、44R、45L、45R、46L、46R、47L和47R的滤波器系数。
在步骤115中,根据确定的滤波器系数,声音处理部24进行声像定位。
在步骤116中,判断上述一系列处理是否应当终止,并且除了当上述一系列处理例如被收听者的终止操作终止之外,处理从步骤116返回步骤112,重复步骤112到步骤115的处理。
2、另一实施例:图14~图19
本发明另一实施例示出了这样的情况:不仅使显示器如上述实施例中那样移动和/或转动,而且收听者也移动和/或转动。
2-1、系统结构:图14和图15
根据另一实施例,例如图1所示,信息处理系统100包括信息处理单元10和耳机单元50。
该另一实施例与上述实施例类似之处还在于信息处理单元10从外面看包括显示器11和操作部12。
另外,根据另一实施例,耳机单元50配置有能够检测收听者头部9的移动或转动的传感器。图14示出了示例。
左耳机部60附着有在内框62一端上的转换器61和格栅63以及在另一端上的线套(cord bushing)64。
加速度传感器65、陀螺传感器66和壳体67附着于耳朵外部的左耳机部60的部分上。听筒69附着于耳朵内部的左耳机部60的部分上。
与左耳机部60一样,右耳机部70附着有在内框72一端上的转换器71和格栅73以及在另一端上的线套74。
壳体77附着于耳朵外部的右耳机部70的部分上。听筒79附着于耳朵内部的右耳机部70的部分上。
加速度传感器65检测在下文所述的基准面上相互垂直的两个轴(X轴和Y轴)的方向上移动的加速度,并且陀螺传感器66检测绕与所述基准面垂直的轴(Z轴)转动的角速度。
如图15所示,在信息处理单元10中,除了图2所示的实施例的结构之外,分别将来自耳机单元50的加速度传感器65和陀螺传感器66的输出信号转换成数字数据的ADC 35和ADC 36也连接至总线14。
根据另一实施例,例如,假设有图3所示的虚拟视听空间1,并且信息处理单元10中的声音处理部24进行图4所示的声像定位。
2-2、信息处理方法:图16~图19
根据另一实施例,信息处理单元10根据收听者的操作设定初始状态。例如,所述初始状态是图5所示的状态。
根据另一实施例,显示器11和收听者的移动和/或转动的组合有如下情况:
(a)收听者移动显示器11并移动他或她的头部;
(b)收听者移动显示器11并转动他或她的头部;
(c)收听者转动显示器11并移动他或她的头部;
(d)收听者转动显示器11并转动他或她的头部;
(e)收听者移动和转动显示器11并且还移动和转动他或她的头部。
在任何情况下,都对声像定位进行控制,从而使实际视听空间中的显示器11与收听者头部9之间的位置关系映射为虚拟视听空间1中的图像显示面2与收听者头部9之间的位置关系。
图16示出了情况(e),其中,收听者移动和转动显示器11并且还移动和转动他或她的头部。
具体地,在这种情况下,显示器11如图10所示的那样移动和转动,并且收听者头部9在X轴正方向上移动距离Hx,在Y轴负方向上移动距离Hy,并绕Z轴沿顺时针方向转动角度θ,收听者头部9的转动方向与显示器11的转动方向相反。
位置Do、距离Lo、位置Dm、距离Dx、距离Dy和转动角度φ与图5、图6、图8和图10所示的对应的位置、距离和转动角度相同。
在这种情况下,位置Ho是收听者头部9的初始位置,位置Hm是收听者头部9移动后的位置。
如上述实施例所述,显示器11在X轴上的移动距离Dx和在Y轴上的移动距离Dy通过对从加速度传感器31输出的X轴方向和Y轴方向上的各个加速度积分两次来计算。
收听者头部9在X轴上的移动距离Hx和在Y轴上的移动距离Hy通过对从加速度传感器65输出的X轴方向和Y轴方向上的各个加速度积分两次来计算。
如上述实施例所述,显示器11的转动角度φ通过对从陀螺传感器32输出的角速度积分来计算。
收听者头部9的转动角度θ通过对从陀螺传感器66输出的角速度积分来计算。
如果初始距离Lo被设定为例如30cm,则显示器11和收听者头部9移动和转动后,显示器11mr与收听者头部9之间的距离Lm可用图16所示的公式(3)计算。图16所示的角度α用图16所示的公式(4)表示。
信息处理单元10中的运算控制器21选择并且确定声像定位的处理参数,从而使如上所述的移动和转动后的显示器11mr与收听者头部9之间的位置关系映射为虚拟视听空间1中的图像显示面2与收听者头部9之间的位置关系。
具体地,显示器11在实际视听空间中沿逆时针方向转动角度φ的事实对应于收听者头部9在虚拟视听空间1中沿顺时针方向转动角度φ的事实。
收听者头部9在实际视听空间中沿顺时针方向转动角度θ的事实对应于收听者头部9在虚拟视听空间1中也沿顺时针方向转动角度θ的事实。
因此,在这种情况下,如图17所示,对于在从图像显示面2看相对于Y轴负方向沿顺时针转动角度(φ+θ)的方向上的、从图像显示面2横向方向的中心离开距离lm(=K×Lm)的点,将该点作为虚拟视听空间1中的收听者头部9的位置Pm进行计算。
收听者头部9的朝向在面对图像显示面2的横向方向的中心的方向上。
图18示出了通过另一实施例的信息处理单元10中的运算控制器21进行的一系列处理的示例。
在该示例中,在步骤121中,如上所述,根据收听者的操作设定初始状态。
接着,在步骤122中,对来自加速度传感器31的两轴的输出信号、来自陀螺传感器32的输出信号、来自加速度传感器65的两轴的输出信号和来自陀螺传感器66的输出信号进行采样,并且转换成数字数据,从而得到表示显示器11在X轴方向和Y轴方向上移动的加速度的数据、表示显示器11绕Z轴转动的角速度的数据、表示收听者头部9在X轴方向和Y轴方向上移动的加速度的数据以及表示收听者头部9绕Z轴转动的角速度的数据。
在步骤123中,利用图19所示的公式(11)、(12)和(13)计算显示器11在X轴方向上的移动距离Dx、在Y轴方向上的移动距离Dy以及绕Z轴转动的转动角度φ,并且利用图19所示的公式(21)、(22)和(23)计算收听者头部9在X轴方向上的移动距离Hx、在Y轴方向上的移动距离Hy以及绕Z轴转动的转动角度θ。
在步骤124中,根据计算结果,确定图4所示的数字滤波器43L、43R、44L、44R、45L、45R、46L、46R、47L和47R的滤波器系数。
在步骤125中,根据确定的滤波器系数,声音处理部24进行声像定位。
在步骤126中,判断上述一系列处理是否应当终止,并且除了当上述一系列处理例如被收听者的终止操作终止之外,处理从步骤126返回步骤122,重复步骤122到步骤125的处理。
3、其它实施例:图20
如图20所示,信息处理系统100可以包括显示单元80、信息处理单元90和耳机单元50。在这种情况下,期望通过例如蓝牙(注册商标)等无线电通信使显示单元80与信息处理单元90连接,并且使信息处理单元90与耳机单元50连接。
信息处理单元90作为家用服务器将图像数据和音乐数据存储在硬盘等中,并且进行图像处理以及包括上述声像定位的声音处理。
显示单元80包括显示器11、操作部12、用于检测显示器11的移动的加速度传感器和用于检测显示器11的转动的陀螺传感器等,并且将来自传感器的输出信号传送给信息处理单元90。
耳机单元50包括设有电池、无线电通信模块和音量控制的电路部51,并且为了如上述另一实施例中那样处理收听者头部9的移动和/或转动,在左耳机部60或右耳机部70设置有加速度传感器和陀螺传感器。
即使当信息处理系统100如图1所示那样包括信息处理单元10和耳机单元50时,信息处理单元10也可以通过无线电通信与耳机单元50连接。
转换器单元不局限于耳机单元,也可以是头戴耳机单元。
本领域技术人员应当理解,依据设计要求和其他因素,可以在本发明所附的权利要求或其等同物的范围内进行各种修改、组合、次组合及改变。
Claims (6)
1.一种信息处理系统,所述信息处理系统包括:
显示器;
显示器用传感器,其被配置为检测所述显示器的移动或转动;
转换器单元,其被配置为耳机单元或头戴式耳机单元;
声音处理部,其被配置为对音频信号进行处理,以便在戴着所述转换器单元并收听声音的收听者头部外的位置处对声像进行定位;以及
运算控制器,其被配置为对来自所述显示器用传感器的输出进行计算,以获得所述显示器的移动方向和移动距离,或者转动方向和转动角度,并且根据计算结果控制通过所述声音处理部进行的声音处理,以便使所述显示器与收听者头部之间的位置关系映射为虚拟视听空间中的图像显示面与收听者头部之间的位置关系。
2.根据权利要求1所述的信息处理系统,所述信息处理系统还包括转换器用传感器,所述转换器用传感器附着于所述转换器单元上并且被配置为检测收听者头部的移动或转动;
其中,所述运算控制器被配置为对来自所述显示器用传感器的输出和所述转换器用传感器的输出进行计算,以获得所述显示器的移动方向和移动距离,或者转动方向和转动角度,以及所述收听者头部的移动方向和移动距离,或者转动方向和转动角度,并且根据计算结果控制通过所述声音处理部进行的声音处理,以便使所述显示器与收听者头部之间的位置关系映射为虚拟视听空间中的所述图像显示面与收听者头部之间的位置关系。
3.根据权利要求1所述的信息处理系统,其中,所述信息处理系统包括信息处理单元和所述转换器单元,所述信息处理单元具有所述显示器、所述显示器用传感器、所述声音处理部和所述运算控制器。
4.根据权利要求1所述的信息处理系统,其中,所述信息处理系统包括具有所述显示器和所述显示器用传感器的显示单元、具有所述声音处理部和所述运算控制器的信息处理单元以及所述转换器单元。
5.一种通过信息处理系统进行的信息处理方法,所述信息处理系统包括:显示器;显示器用传感器,其被配置为检测所述显示器的移动或转动;转换器单元,其被配置为耳机单元或头戴式耳机单元;以及声音处理部,其被配置为对音频信号进行处理,以便在戴着所述转换器单元并收听声音的收听者头部外的位置处对声像进行定位,
所述信息处理方法包括以下步骤:
对来自所述显示器用传感器的输出进行计算,以获得所述显示器的移动方向和移动距离,或者转动方向和转动角度;并且
根据计算结果控制通过所述声音处理部进行的声音处理,以便使所述显示器与收听者头部之间的位置关系映射为虚拟视听空间中的图像显示面与收听者头部之间的位置关系。
6.根据权利要求5所述的信息处理方法,所述信息处理系统还包括转换器用传感器,所述转换器用传感器附着于所述转换器单元上并且被配置为检测所述收听者头部的移动或转动,所述信息处理方法还包括以下步骤:对来自所述转换器用传感器的输出进行计算,以获得所述收听者头部的移动方向和移动距离,或者转动方向和转动角度;
其中,所述控制步骤包括:根据对来自所述显示器用传感器的输出的计算结果和对来自所述转换器用传感器的输出的计算结果控制通过所述声音处理部进行的声音处理,以便使所述显示器与收听者头部之间的位置关系映射为虚拟视听空间中的所述图像显示面与收听者头部之间的位置关系。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008-319316 | 2008-12-16 | ||
JP2008319316A JP4849121B2 (ja) | 2008-12-16 | 2008-12-16 | 情報処理システムおよび情報処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101784004A true CN101784004A (zh) | 2010-07-21 |
CN101784004B CN101784004B (zh) | 2013-03-06 |
Family
ID=42112209
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN200910259228.1A Active CN101784004B (zh) | 2008-12-16 | 2009-12-16 | 信息处理系统和信息处理方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8644531B2 (zh) |
EP (1) | EP2200349B1 (zh) |
JP (1) | JP4849121B2 (zh) |
CN (1) | CN101784004B (zh) |
AT (1) | ATE515899T1 (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103037301A (zh) * | 2012-12-19 | 2013-04-10 | 武汉大学 | 一种声像距离信息恢复便携调整方法 |
CN103052018A (zh) * | 2012-12-19 | 2013-04-17 | 武汉大学 | 一种声像距离信息恢复方法 |
CN103946733A (zh) * | 2011-11-14 | 2014-07-23 | 谷歌公司 | 在可穿戴计算系统上显示声音指示 |
CN104204902A (zh) * | 2012-03-22 | 2014-12-10 | 索尼公司 | 医疗用的具有倾斜传感器的头戴式显示器 |
CN104205880A (zh) * | 2012-03-29 | 2014-12-10 | 英特尔公司 | 基于取向的音频控制 |
CN104345455A (zh) * | 2013-07-29 | 2015-02-11 | 索尼公司 | 信息呈现装置和信息处理系统 |
CN106154231A (zh) * | 2016-08-03 | 2016-11-23 | 厦门傅里叶电子有限公司 | 虚拟现实中声场定位的方法 |
CN106375928A (zh) * | 2016-11-24 | 2017-02-01 | 深圳市佳都实业发展有限公司 | 一种具备3d声场功能的主控广告机、从广告机及广告机阵列 |
CN108958459A (zh) * | 2017-05-19 | 2018-12-07 | 深圳市掌网科技股份有限公司 | 基于虚拟位置的显示方法和系统 |
CN109564504A (zh) * | 2016-08-10 | 2019-04-02 | 高通股份有限公司 | 用于基于移动处理空间化音频的多媒体装置 |
CN112148117A (zh) * | 2019-06-27 | 2020-12-29 | 雅马哈株式会社 | 声音处理装置及声音处理方法 |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9332372B2 (en) * | 2010-06-07 | 2016-05-03 | International Business Machines Corporation | Virtual spatial sound scape |
US8587631B2 (en) * | 2010-06-29 | 2013-11-19 | Alcatel Lucent | Facilitating communications using a portable communication device and directed sound output |
US9237393B2 (en) * | 2010-11-05 | 2016-01-12 | Sony Corporation | Headset with accelerometers to determine direction and movements of user head and method |
US10009706B2 (en) * | 2011-12-07 | 2018-06-26 | Nokia Technologies Oy | Apparatus and method of audio stabilizing |
CN104041081B (zh) * | 2012-01-11 | 2017-05-17 | 索尼公司 | 声场控制装置、声场控制方法、程序、声场控制系统和服务器 |
US9420386B2 (en) * | 2012-04-05 | 2016-08-16 | Sivantos Pte. Ltd. | Method for adjusting a hearing device apparatus and hearing device apparatus |
JP2014143470A (ja) * | 2013-01-22 | 2014-08-07 | Sony Corp | 情報処理装置、情報処理方法、及びプログラム |
EP2974253B1 (en) * | 2013-03-15 | 2019-05-08 | Dolby Laboratories Licensing Corporation | Normalization of soundfield orientations based on auditory scene analysis |
CN104581541A (zh) * | 2014-12-26 | 2015-04-29 | 北京工业大学 | 一种可定位多媒体视听装置及其控制方法 |
JP6634976B2 (ja) * | 2016-06-30 | 2020-01-22 | 株式会社リコー | 情報処理装置、及びプログラム |
US10277973B2 (en) * | 2017-03-31 | 2019-04-30 | Apple Inc. | Wireless ear bud system with pose detection |
JP6988758B2 (ja) | 2018-09-28 | 2022-01-05 | 株式会社Jvcケンウッド | 頭外定位処理システム、フィルタ生成装置、方法、及びプログラム |
CN110769351A (zh) * | 2019-10-29 | 2020-02-07 | 歌尔科技有限公司 | 音频设备的控制方法、音频设备及存储介质 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0695109B1 (en) * | 1994-02-14 | 2011-07-27 | Sony Corporation | Device for reproducing video signal and audio signal |
JP3577798B2 (ja) * | 1995-08-31 | 2004-10-13 | ソニー株式会社 | ヘッドホン装置 |
JP3796776B2 (ja) * | 1995-09-28 | 2006-07-12 | ソニー株式会社 | 映像音声再生装置 |
JPH09284676A (ja) * | 1996-04-15 | 1997-10-31 | Sony Corp | 身体の動きに同期した映像及び音声処理方法と映像表示装置 |
JPH10230899A (ja) * | 1997-02-24 | 1998-09-02 | Motoya Takeyama | 航空宇宙飛行機のマンマシンインターフェース |
JP3994296B2 (ja) | 1998-01-19 | 2007-10-17 | ソニー株式会社 | オーディオ再生装置 |
GB2359177A (en) | 2000-02-08 | 2001-08-15 | Nokia Corp | Orientation sensitive display and selection mechanism |
JP3435141B2 (ja) * | 2001-01-09 | 2003-08-11 | 松下電器産業株式会社 | 音像定位装置、並びに音像定位装置を用いた会議装置、携帯電話機、音声再生装置、音声記録装置、情報端末装置、ゲーム機、通信および放送システム |
JP3880561B2 (ja) * | 2002-09-05 | 2007-02-14 | 株式会社ソニー・コンピュータエンタテインメント | 表示システム |
JP2006294032A (ja) * | 2002-09-05 | 2006-10-26 | Sony Computer Entertainment Inc | 表示システム、表示制御装置、表示装置、表示方法、およびユーザインタフェイス装置 |
CN101065990A (zh) * | 2004-09-16 | 2007-10-31 | 松下电器产业株式会社 | 声像定位装置 |
JP2006165845A (ja) * | 2004-12-06 | 2006-06-22 | Alpine Electronics Inc | 映像音響装置 |
JP2006186904A (ja) * | 2004-12-28 | 2006-07-13 | Mitsumi Electric Co Ltd | ヘッドセット装置 |
WO2006107074A1 (ja) * | 2005-04-05 | 2006-10-12 | Matsushita Electric Industrial Co., Ltd. | 携帯端末装置 |
JP2006295313A (ja) * | 2005-04-06 | 2006-10-26 | Sony Corp | 情報処理装置および方法、記録媒体、並びにプログラム |
JP2008219759A (ja) * | 2007-03-07 | 2008-09-18 | Navitime Japan Co Ltd | 携帯型メディアコンテンツ再生システム、携帯型メディアコンテンツ再生装置およびメディアコンテンツ配信サーバ |
-
2008
- 2008-12-16 JP JP2008319316A patent/JP4849121B2/ja active Active
-
2009
- 2009-12-10 EP EP09252762A patent/EP2200349B1/en active Active
- 2009-12-10 US US12/634,999 patent/US8644531B2/en active Active
- 2009-12-10 AT AT09252762T patent/ATE515899T1/de not_active IP Right Cessation
- 2009-12-16 CN CN200910259228.1A patent/CN101784004B/zh active Active
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103946733A (zh) * | 2011-11-14 | 2014-07-23 | 谷歌公司 | 在可穿戴计算系统上显示声音指示 |
US9838814B2 (en) | 2011-11-14 | 2017-12-05 | Google Llc | Displaying sound indications on a wearable computing system |
CN104204902A (zh) * | 2012-03-22 | 2014-12-10 | 索尼公司 | 医疗用的具有倾斜传感器的头戴式显示器 |
CN104205880A (zh) * | 2012-03-29 | 2014-12-10 | 英特尔公司 | 基于取向的音频控制 |
CN104205880B (zh) * | 2012-03-29 | 2019-06-11 | 英特尔公司 | 基于取向的音频控制 |
CN103052018B (zh) * | 2012-12-19 | 2014-10-22 | 武汉大学 | 一种声像距离信息恢复方法 |
CN103037301A (zh) * | 2012-12-19 | 2013-04-10 | 武汉大学 | 一种声像距离信息恢复便携调整方法 |
CN103052018A (zh) * | 2012-12-19 | 2013-04-17 | 武汉大学 | 一种声像距离信息恢复方法 |
CN104345455A (zh) * | 2013-07-29 | 2015-02-11 | 索尼公司 | 信息呈现装置和信息处理系统 |
CN106154231A (zh) * | 2016-08-03 | 2016-11-23 | 厦门傅里叶电子有限公司 | 虚拟现实中声场定位的方法 |
CN109564504A (zh) * | 2016-08-10 | 2019-04-02 | 高通股份有限公司 | 用于基于移动处理空间化音频的多媒体装置 |
CN109564504B (zh) * | 2016-08-10 | 2022-09-20 | 高通股份有限公司 | 用于基于移动处理空间化音频的多媒体装置 |
CN106375928A (zh) * | 2016-11-24 | 2017-02-01 | 深圳市佳都实业发展有限公司 | 一种具备3d声场功能的主控广告机、从广告机及广告机阵列 |
CN108958459A (zh) * | 2017-05-19 | 2018-12-07 | 深圳市掌网科技股份有限公司 | 基于虚拟位置的显示方法和系统 |
CN112148117A (zh) * | 2019-06-27 | 2020-12-29 | 雅马哈株式会社 | 声音处理装置及声音处理方法 |
Also Published As
Publication number | Publication date |
---|---|
EP2200349A1 (en) | 2010-06-23 |
JP2010147529A (ja) | 2010-07-01 |
ATE515899T1 (de) | 2011-07-15 |
US20100150355A1 (en) | 2010-06-17 |
JP4849121B2 (ja) | 2012-01-11 |
US8644531B2 (en) | 2014-02-04 |
CN101784004B (zh) | 2013-03-06 |
EP2200349B1 (en) | 2011-07-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101784004B (zh) | 信息处理系统和信息处理方法 | |
US10397728B2 (en) | Differential headtracking apparatus | |
CN104284291B (zh) | 5.1通路环绕声的耳机动态虚拟重放方法及其实现装置 | |
US6766028B1 (en) | Headtracked processing for headtracked playback of audio signals | |
US9769585B1 (en) | Positioning surround sound for virtual acoustic presence | |
US20190069114A1 (en) | Audio processing device and audio processing method thereof | |
CN101263739A (zh) | 用于音频处理的系统和方法 | |
EP3629145B1 (en) | Method for processing 3d audio effect and related products | |
US11356795B2 (en) | Spatialized audio relative to a peripheral device | |
EP2243136B1 (en) | Mediaplayer with 3D audio rendering based on individualised HRTF measured in real time using earpiece microphones. | |
US9420392B2 (en) | Method for operating a virtual reality system and virtual reality system | |
US11546703B2 (en) | Methods for obtaining and reproducing a binaural recording | |
CN114885274A (zh) | 空间化音频系统以及渲染空间化音频的方法 | |
CN106412751B (zh) | 一种可辨别方向的耳机及其实现方法 | |
CN111696513A (zh) | 音频信号处理方法及装置、电子设备、存储介质 | |
CN105872928B (zh) | 一种基于移动终端的虚拟环绕立体声生成的方法及系统 | |
US20230247384A1 (en) | Information processing device, output control method, and program | |
CN114339582B (zh) | 双通道音频处理、方向感滤波器生成方法、装置以及介质 | |
CN114866950A (zh) | 音频处理方法、装置、电子设备以及耳机 | |
CN102568535A (zh) | 互动式声音录放装置 | |
EP4325888A1 (en) | Information processing method, program, and information processing system | |
CN117676002A (zh) | 音频处理方法及电子设备 | |
KR20230139847A (ko) | 위치보정 기능의 이어폰 및 이를 이용하는 녹음방법 | |
CN115002613A (zh) | 耳机 | |
CN114442028A (zh) | 一种虚拟场景交互语音hrtf定位方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |